Cảnh báo nguy cơ AI tạo hình ảnh nhạy cảm trẻ em từ những bức ảnh bị đánh cắp
VOV.VN - Hội đồng Phúc lợi trẻ em (CWC) Philippines ngày 1/2 khuyến cáo các bậc cha mẹ cần thận trọng trong việc phổ biến những hình ảnh hoặc video về con cái của mình, vì chúng có thể bị những kẻ tội phạm sử dụng công nghệ trí tuệ nhân tạo (AI) tạo ra các nội dung khiêu dâm trẻ em.
Theo Hội đồng Phúc lợi trẻ em Philippines, các công cụ trí tuệ nhân tạo để chỉnh sửa hình ảnh được bán trực tuyến hoặc thậm chí là miễn phí. Bằng cách sử dụng phần mềm AI, tội phạm mạng đánh cắp các bức ảnh trẻ em hoặc lấy trên mạng để tạo ra những hình ảnh mới, với nội dung khỏa thân hoặc các hoạt động lạm dụng và bóc lột tình dục trẻ em khác (OSAEC). Những bức ảnh hay video này sau đó được bán hoặc giao dịch trực tuyến thông qua “web đen” hoặc thế giới ngầm trên internet.
Các nhà chức trách Philippines lo ngại, những video và hình ảnh chân thực đến khó tin và điều này thực sự đáng báo động. Philippines đang bắt tay vào một chiến dịch lớn nhằm nâng cao hiểu biết cho phụ huynh và trẻ em về việc đảm bảo các hoạt động trực tuyến an toàn, tránh bị lạm dụng trên môi trường mạng.
Tổ chức quan sát Internet (IWF) tháng 10/2023 cho biết, đã phát hiện gần 3.000 hình ảnh khiêu dâm do AI tạo ra. Theo tổ chức này, những hình ảnh về các nạn nhân ngoài đời đã được nạp vào mô hình AI, sau đó sản xuất ra phiên bản mới.
Chính phủ trên khắp thế giới đang đối phó với sự bùng nổ của ngành công nghiệp AI, với những tác động sâu rộng từ bản quyền và sở hữu trí tuệ đến an ninh quốc gia, quyền riêng tư cá nhân và nội dung khiêu dâm, đặc biệt khi AI được sử dụng vi phạm quyền tự chủ và an toàn cơ thể của con người, nghiêm trọng nhất là đối với phụ nữ và trẻ vị thành niên. Nhiều nước đã bắt đầu đưa ra các quy định về việc sử dụng AI một cách an toàn và hiệu quả.
