Bản tóm tắt của AI có thể ảnh hưởng đến cách mọi người quyết định mua sản phẩm - Ảnh: que.com
Theo nhóm nghiên cứu từ Đại học California, San Diego (Mỹ), kết quả này đặt ra lo ngại lớn về mức độ tin cậy và ảnh hưởng của tóm tắt AI đối với hành vi con người.
Công trình là một trong những nghiên cứu đầu tiên đo lường định lượng tác động của các mô hình ngôn ngữ lớn (LLM) đến hành vi, nhận thức và quyết định của người dùng, theo trang LiveScience ngày 15-3.
Nhóm nghiên cứu đã sử dụng hàng nghìn đánh giá sản phẩm, bài báo và dữ liệu truyền thông để kiểm tra khả năng tóm tắt và xác minh thông tin của AI.
Kết quả cho thấy AI thường gặp khó khăn trong việc phân biệt thật - giả, với độ chính xác thấp khi kiểm chứng thông tin.
Đáng chú ý, trong khoảng 26,5% trường hợp, AI đã làm thay đổi sắc thái cảm xúc của nội dung gốc, khiến đánh giá trở nên tích cực hoặc tiêu cực hơn thực tế.
Trong thí nghiệm với 70 người tham gia, chỉ có 52% trong nhóm đọc đánh giá gốc nói rằng họ sẽ mua sản phẩm. Trong khi đó, khi nội dung được AI "tô hồng", con số này tăng vọt lên 84%.
Phát hiện nổi bật nhất liên quan đến các đánh giá sản phẩm trực tuyến. Người tham gia có xu hướng quan tâm đến việc mua sản phẩm hơn sau khi đọc bản tóm tắt của AI so với sau khi đọc bản tóm tắt do người đánh giá viết.
Các nhà khoa học cho rằng hiện tượng này xuất phát từ hai nguyên nhân chính. Thứ nhất, các LLM thường ưu tiên thông tin ở đầu văn bản. Thứ hai là các AI hoạt động kém chính xác khi gặp dữ liệu ngoài phạm vi đã được đào tạo. Điều này dẫn đến việc "định khung" thông tin theo hướng có thể gây sai lệch nhận thức.
Dù nghiên cứu được thực hiện trong bối cảnh rủi ro thấp (mua sắm thông thường), các chuyên gia cảnh báo tác động có thể nghiêm trọng hơn trong những lĩnh vực nhạy cảm như y tế, giáo dục hay chính sách công.
Những thay đổi nhỏ trong cách trình bày thông tin từ AI có thể ảnh hưởng đáng kể đến cách con người đánh giá và ra quyết định.
Đọc nhiều
