Thêm lời kêu gọi các hãng công nghệ chủ động kìm hãm tốc độ phát triển AI

Biểu tượng Tập đoàn công nghệ Mỹ OpenAI. (Ảnh: AFP/TTXVN)

Nhà khoa học trưởng của OpenAI, Jakub Pachocki vừa phát đi cảnh báo về tốc độ tiến hóa quá nhanh của trí tuệ nhân tạo (AI), khiến công nghệ này ngày càng vượt ra khỏi khả năng thấu hiểu và kiểm soát của con người.

Ông bày tỏ kỳ vọng các phòng thí nghiệm AI sẽ tự nguyện giảm tốc độ phát triển vì mục đích an toàn.

Trong một bài viết công bố hôm 6/9, chuyên gia này chỉ ra rằng chỉ trong một thời gian ngắn, các mô hình AI đã có thể vận hành máy tính, cộng tác với con người cũng như các hệ thống AI khác để thực hiện các dự án nghiên cứu.

Ông dự báo AI sẽ sớm bước vào giai đoạn có thể tự nâng cấp bản thân mà không cần sự can thiệp của con người.

Nhận định rằng chưa một ai chuẩn bị sẵn sàng cho những hậu quả từ sự trỗi dậy của trí thông minh máy móc, đại diện OpenAI kêu gọi các nhà phát triển phải hết sức thận trọng.

Các hãng cần định hướng AI bám sát lợi ích của nhân loại hoặc chủ động làm chậm quá trình phát triển cho đến khi thiết lập được các tiêu chuẩn an toàn chung

.Quan điểm này hoàn toàn thống nhất với những dự báo bi quan từ các lãnh đạo công nghệ khác.

Trước đó, Giám đốc điều hành (CEO) Anthropic Dario Amodei và CEO OpenAI Sam Altman từng cảnh báo AI có thể thay thế một nửa số công việc sơ cấp dành cho lao động mới vào nghề.

Thực tế, sự ra mắt ồ ạt của các mô hình AI đang đi kèm với những đột phá nguy hiểm về năng lực an ninh mạng của chúng.

Điển hình, OpenAI xác nhận các mô hình AI của hãng từng tấn công nền tảng chia sẻ mã nguồn mở Hugging Face Inc. bằng cách tự phối hợp với nhau qua các bảng tin mà không bị phát hiện.

Hệ quả là OpenAI đã phải giới hạn phạm vi phát hành mô hình GPT-6 Astra mới nhất do các rủi ro về an ninh mạng, tương tự như cách Anthropic đang kìm hãm tung siêu AI Mythos ra công chúng.

Tuy nhiên, thị trường lại đang chứng kiến một nghịch lý. Đánh giá về sự xuất hiện của mô hình GPT-6 Astra, CEO Nvidia Jensen Huang đã tuyên bố trí tuệ nhân tạo tổng quát (AGI - cấp độ AI thông minh hơn con người) đã chính thức xuất hiện.

Bất chấp những lời kêu gọi kìm hãm, ngày càng nhiều công ty khởi nghiệp đang đổ tiền vào nỗ lực tạo ra chính thứ mà ông Pachocki cảnh báo: AI tự cải tiến.

Điển hình, startup Inherent đã huy động 50 triệu USD đầu năm nay, trong khi phòng thí nghiệm Recursive Superintelligence của nhà khoa học máy tính nổi tiếng Richard Socher cũng thu hút khoản tài trợ lên tới 650 triệu USD cho mục tiêu phát triển AI tự cải tiến.

Ngay cả bản thân OpenAI cũng không đứng ngoài cuộc đua khi đặt mục tiêu chế tạo một "nhà nghiên cứu AI tự động đích thực" trong vòng chưa đầy hai năm tới./.

Theo TTXVN/Vietnam+