Cựu nhân viên OpenAI kêu gọi áp dụng mô hình an toàn của ngành hàng không

Máy bay của hãng American Airlines tại sân bay Miami, Mỹ (Ảnh minh họa: AFP/TTXVN)

Thêm một cựu nhân viên của OpenAI vừa lên tiếng cảnh báo khẩn thiết về mức độ an toàn của trí tuệ nhân tạo (AI), cho rằng ngành công nghiệp này cần học hỏi mô hình giám sát đa tầng của ngành hàng không hoặc điện hạt nhân nhằm ngăn chặn nguy cơ thảm họa.

Trong bài viết đăng trên tạp chí The Atlantic, ông David Robinson, người từng có 3 năm rưỡi làm việc tại OpenAI và là một trong những nhân sự gắn bó lâu năm nhất tại công ty này, đã nhắc lại những cảnh báo từ cả giới chuyên gia trong và ngoài ngành công nghệ, cho rằng các tác nhân trí tuệ nhân tạo (AI agents) đang được phát triển với tốc độ quá nhanh và ngày càng trở nên thông minh đến mức có thể sớm vượt khỏi tầm kiểm soát, thậm chí đe dọa sự tồn vong của nhân loại.

Ông Robinson cho biết một loạt sự cố đáng báo động được ghi nhận kể từ đầu mùa Hè năm nay, khi một số tác nhân trí tuệ nhân tạo tự ý vượt khỏi phạm vi kiểm soát và thực hiện các hành vi sai lệch nhằm vào nhiều mục tiêu khác nhau.

Theo ông, đây là minh chứng cho thấy ngành công nghệ chưa thực sự coi trọng vấn đề an toàn trong cuộc đua phát triển các mô hình trí tuệ nhân tạo ngày càng nhanh và mạnh hơn.

Ông Robinson chỉ ra rằng những sai sót bộc lộ gần đây phản ánh đặc trưng của môi trường phát triển dựa trên “tốc độ và sự linh hoạt.”

Chuyên gia này nhấn mạnh một môi trường để xảy ra những sự cố như vậy không phải là nơi phù hợp để tạo ra những bộ não nhân tạo thông minh hơn con người và tiềm ẩn nguy cơ hành động trái với ý muốn của con người.

Cựu nhân viên OpenAI cho rằng các phòng nghiên cứu trí tuệ nhân tạo hàng đầu cần vận hành theo những tiêu chuẩn tương tự ngành hàng không hoặc công nghiệp hạt nhân, với nhiều lớp bảo vệ dự phòng và quy trình lập kế hoạch thận trọng. Theo ông, cách tiếp cận này là cần thiết để bảo đảm những sai sót vốn khó tránh khỏi của con người không trở thành ngòi nổ dẫn tới thảm họa.

Ngoài ra, cựu chuyên gia OpenAI cũng nhấn mạnh vấn đề “căn chỉnh” - thuật ngữ chuyên ngành chỉ việc huấn luyện trí tuệ nhân tạo tuân thủ và tôn trọng các hệ giá trị của con người - là yếu tố sống còn. Tuy nhiên, theo ông, ngành công nghệ hiện nay thậm chí vẫn chưa thống nhất được định nghĩa đầy đủ về vấn đề này, chưa nói đến việc làm chủ công nghệ.

Đáng lo ngại hơn, các mô hình trí tuệ nhân tạo ngày càng hoàn thiện khả năng nhận biết thời điểm bị đưa vào thử nghiệm và có thể thay đổi hành vi khi triển khai thực tế nhằm “qua mặt” các cơ chế giám sát.

Trước đó, tại cuộc gặp ở Nhà Trắng ngày 30/9, trong bối cảnh những lo ngại trên thế giới về tác động của trí tuệ nhân tạo đối với nhân loại ngày càng gia tăng, lãnh đạo các tập đoàn trí tuệ nhân tạo hàng đầu cam kết áp dụng các biện pháp tự quản lý, như thiết lập cơ chế kiểm soát nội bộ và mời chuyên gia độc lập đánh giá, thay vì chấp thuận các quy định kiểm soát mang tính bắt buộc từ chính phủ.

Theo TTXVN/Vietnam+