Khi AI tiếp tay và trở thành kẻ 'bạo lực học đường' kiểu mới

Phát biểu trước báo giới Úc hồi giữa tháng 10, Bộ trưởng Bộ Giáo dục Úc Jason Clare cho biết giờ đây trí tuệ nhân tạo (AI) đang "thúc đẩy nạn bắt nạt lên một cấp độ mới". "Các chatbot AI (công cụ có thể giao tiếp với người dùng - PV) đang bắt nạt trẻ em chứ không chỉ các em bắt nạt nhau. Chúng làm nhục, nói các em là kẻ thất bại và thậm chí bảo các em hãy tự kết liễu đời mình", tờ SBS Australia dẫn lại lời ông Clare.

TRẺ BỊ AI BẮT NẠT

Lo ngại của "tư lệnh" ngành giáo dục Úc là có cơ sở, bởi đúng một năm trước, ở tiểu bang California (Mỹ), phụ huynh của cậu bé 16 tuổi Adam Raine đã khởi kiện Công ty OpenAI với cáo buộc sản phẩm ChatGPT của đơn vị này đã xúi giục con họ tự tử. Và trước đó, vào tháng 9, trong phiên điều trần tại Thượng viện Mỹ, một số phụ huynh có con tự tử cũng cho biết con họ đã nghe theo lời của AI trước khi làm điều dại dột.

Bắt nạt bằng AI (AI bullying) cũng đã trở thành một khái niệm đang được các nhà giáo dục trên toàn cầu chú ý. Đây là hành vi dùng các công cụ hoặc hệ thống AI để quấy rối, đe dọa, làm nhục, thao túng... người khác qua mạng internet hoặc các phương tiện kỹ thuật số, theo tổ chức The Digital Resistance (Anh).

Đó là lý do Úc đang quyết liệt phòng tránh vấn đề này, với động thái mới nhất là đầu tư 10 triệu AUD cho kế hoạch phòng chống bạo lực học đường. Khoản kinh phí này được dùng để triển khai một chiến dịch nâng cao nhận thức toàn quốc, đồng thời phát triển các tài nguyên mới dành cho giáo viên (GV), học sinh (HS) và phụ huynh. Các trường cũng phải phản hồi mọi khiếu nại hoặc vụ việc bắt nạt trong vòng 48 giờ kể từ khi tiếp nhận, theo kế hoạch.

Trong khi đó tại Mỹ, vấn đề đang nổi cộm là việc HS dùng AI để tạo ra hình ảnh hoặc video giả mạo (deepfake) để bắt nạt GV hay bạn học. Theo một khảo sát do tổ chức RAND (Mỹ) thực hiện vào tháng 10.2024, 13% hiệu trưởng các trường phổ thông ở Mỹ cho biết đơn vị của họ xảy ra nhiều vụ bắt nạt liên quan đến deepfake do AI tạo ra trong hai năm học 2023-2024 và 2024-2025.

Nếu xét riêng từng cấp học, các vụ việc nêu trên xuất hiện phổ biến hơn ở các trường THCS và THPT với tỷ lệ hiệu trưởng báo cáo là 22% và 20%. Trong khi đó, chỉ có 8% hiệu trưởng trường tiểu học ghi nhận điều tương tự.

Để xử lý, 79% các trường có ghi nhận bắt nạt bằng deepfake cho biết đã áp dụng biện pháp kỷ luật với những HS liên quan, và 66% báo cáo vụ việc cho cơ quan thực thi pháp luật tại địa phương. Gần một nửa trong số đó (47%) tổ chức các chương trình giáo dục - đào tạo cho GV, HS nhận biết deepfake và dùng AI có trách nhiệm, trong khi chỉ 23% cập nhật lại nội quy trường học để bổ sung những quy định mới liên quan tới AI.

Nhiều mối nguy khác từ AI là khả năng bị lạm dụng để lan truyền tin giả hay tin sai sự thật, thậm chí tống tiền tình dục (sextortion), theo chuyên gia Will Gardner, Giám đốc điều hành Childnet International (Anh) kiêm Giám đốc Trung tâm internet an toàn Anh.

Quỹ Nhi đồng Liên Hiệp Quốc (UNICEF) trong một báo cáo công bố hồi tháng 9.2024 lưu ý rằng với sự phát triển của các công cụ AI tạo sinh, bắt nạt trực tuyến được dự báo sẽ tiếp tục tăng cao cả về số lượng lẫn hệ quả. Hiện tượng bắt nạt thể chất giữa trẻ em và thanh thiếu niên cũng được dự báo sẽ trở nên nghiêm trọng hơn, khi bắt nạt trên mạng không chỉ ảnh hưởng trong môi trường trực tuyến mà còn lan sang đời thực.

Theo Thanhnien.vn