Giới chuyên gia cảnh báo rủi ro tiềm ẩn từ AI

Những rủi ro tiềm ẩn gồm tấn công mạng, phát tán thông tin sai lệch, hỗ trợ phát triển vũ khí sinh học và tập trung quyền lực công nghệ vào một số tập đoàn lớn.

Khi các hệ thống AI ngày càng tự chủ, chúng có thể độc lập theo đuổi mục tiêu được giao mà không tính đầy đủ đến những giá trị và lợi ích rộng lớn hơn của con người.

Việc tối ưu hóa mục tiêu được lập trình cũng có thể khiến AI đưa ra những quyết định gây hậu quả ngoài dự kiến trong thực tế.

Các mô hình AI tiên tiến còn có nguy cơ bị đối tượng xấu lợi dụng để mở rộng quy mô, tăng tốc độ phát tán thông tin sai lệch, thao túng dư luận, tiến hành tấn công mạng hoặc hỗ trợ hoạt động liên quan đến vũ khí sinh học.

Thách thức đặt ra đối với các chính phủ và ngành công nghệ là xây dựng cơ chế quản trị, kiểm soát rủi ro phù hợp với tốc độ phát triển của AI.

R.G