Các video về "con người kỹ thuật số" tích hợp trí tuệ nhân tạo (AI) đang xuất hiện phổ biến trên các mạng xã hội Trung Quốc với những đặc điểm diện mạo và cử động linh hoạt được sử dụng để quảng bá sản phẩm.
Trước thực trạng này, cơ quan quản lý không gian mạng Trung Quốc đã ban hành dự thảo quy định về cách thức phát triển và triển khai những hình ảnh đại diện này, nhằm ngăn chặn các tác động tiêu cực đến trẻ em, đe dọa ổn định xã hội hoặc việc tạo ra bản sao mà không có sự đồng ý của chủ thể.
Lĩnh vực xây dựng "con người kỹ thuật số" tại Trung Quốc đang ghi nhận sự tăng trưởng mạnh mẽ. Theo dữ liệu từ Tân Hoa Xã, ngành công nghiệp này đạt giá trị khoảng 4,1 tỷ NDT (tương đương 600 triệu USD) vào năm 2024, với tốc độ tăng trưởng 85% so với cùng kỳ năm trước.
Bà Marina Zhang tại Đại học Công nghệ Sydney nhận định, việc quản trị các công nghệ kỹ thuật số mới của Trung Quốc luôn tuân theo lộ trình phát triển trước, quản lý sau và hoàn thiện dần trong quá trình thực hiện.
Tại tỉnh Liêu Ninh, bà Zhang Xinyu (47 tuổi) đã tìm đến công ty công nghệ Super Brain để tạo ra một bản sao kỹ thuật số có ngoại hình và giọng nói giống hệt người cha đã khuất.
Công ty công nghệ Super Brain hiện chuyên cung cấp dịch vụ tạo ra các bản sao AI của người quá cố cho các gia đình.
Các quy định do Cơ quan Quản lý Không gian mạng Trung Quốc (CAC) đề xuất yêu cầu nội dung liên quan đến con người kỹ thuật số phải được dán nhãn rõ ràng.
Dự thảo cũng nghiêm cấm việc sử dụng thông tin cá nhân để tạo ra các bản sao giả mạo mà không có sự đồng ý của cá nhân đó. Ông Zhang Zewei, người sáng lập công ty Super Brain, đánh giá các quy định mới là cần thiết để đạt được sự cân bằng giữa quản lý tiêu chuẩn và sự phát triển của ngành.
CAC cho biết, các vi phạm sẽ bị xử phạt theo quy định của pháp luật, với mức phạt từ 10.000 NDT (1.460 USD) đến 200.000 NDT (29.300 USD).
Trước đó, cơ quan này đã thực hiện các biện pháp trấn áp đối với việc sử dụng công nghệ deepfake giả mạo nhân vật công chúng trong các buổi phát sóng trực tiếp thương mại điện tử gây tổn hại hệ sinh thái trực tuyến.
Để bảo vệ trẻ em, cơ quan CAC cấm các dịch vụ cung cấp mối quan hệ thân mật ảo cho trẻ vị thành niên hoặc khuyến khích các em phát triển những cảm xúc cực đoan và thói quen có hại.
Hiện tại, các quy định của cơ quan CAC đang trong giai đoạn lấy ý kiến công chúng cho đến đầu tháng 5 tới./.
Đọc nhiều
