Cảnh báo nguy cơ AI tạo hình ảnh nhạy cảm trẻ em từ những bức ảnh bị đánh cắp

VOV.VN - Hội đồng Phúc lợi trẻ em (CWC) Philippines ngày 1/2 khuyến cáo các bậc cha mẹ cần thận trọng trong việc phổ biến những hình ảnh hoặc video về con cái của mình, vì chúng có thể bị những kẻ tội phạm sử dụng công nghệ trí tuệ nhân tạo (AI) tạo ra các nội dung khiêu dâm trẻ em.

Theo Hội đồng Phúc lợi trẻ em Philippines, các công cụ trí tuệ nhân tạo để chỉnh sửa hình ảnh được bán trực tuyến hoặc thậm chí là miễn phí. Bằng cách sử dụng phần mềm AI, tội phạm mạng đánh cắp các bức ảnh trẻ em hoặc lấy trên mạng để tạo ra những hình ảnh mới, với nội dung khỏa thân hoặc các hoạt động lạm dụng và bóc lột tình dục trẻ em khác (OSAEC). Những bức ảnh hay video này sau đó được bán hoặc giao dịch trực tuyến thông qua “web đen” hoặc thế giới ngầm trên internet.

Các nhà chức trách Philippines lo ngại, những video và hình ảnh chân thực đến khó tin và điều này thực sự đáng báo động. Philippines đang bắt tay vào một chiến dịch lớn nhằm nâng cao hiểu biết cho phụ huynh và trẻ em về việc đảm bảo các hoạt động trực tuyến an toàn, tránh bị lạm dụng trên môi trường mạng.

Tổ chức quan sát Internet (IWF) tháng 10/2023 cho biết, đã phát hiện gần 3.000 hình ảnh khiêu dâm do AI tạo ra. Theo tổ chức này, những hình ảnh về các nạn nhân ngoài đời đã được nạp vào mô hình AI, sau đó sản xuất ra phiên bản mới.

Chính phủ trên khắp thế giới đang đối phó với sự bùng nổ của ngành công nghiệp AI, với những tác động sâu rộng từ bản quyền và sở hữu trí tuệ đến an ninh quốc gia, quyền riêng tư cá nhân và nội dung khiêu dâm, đặc biệt khi AI được sử dụng vi phạm quyền tự chủ và an toàn cơ thể của con người, nghiêm trọng nhất là đối với phụ nữ và trẻ vị thành niên. Nhiều nước đã bắt đầu đưa ra các quy định về việc sử dụng AI một cách an toàn và hiệu quả.

Mời quý độc giả theo dõi VOV.VN trên

Tin liên quan

Australia áp đặt quản lý công nghệ AI để giảm thiểu rủi ro an ninh
Australia áp đặt quản lý công nghệ AI để giảm thiểu rủi ro an ninh

VOV.VN - Trong bối cảnh vấn đề rủi ro do công nghệ AI ngày càng được quan tâm, Chính phủ Australia đã thông báo kế hoạch triển khai các quy định nghiêm ngặt nhằm quản lý công nghệ AI, giảm thiểu các tác hại tiềm ẩn của công nghệ này đối với cuộc sống và con người.

Australia áp đặt quản lý công nghệ AI để giảm thiểu rủi ro an ninh

Australia áp đặt quản lý công nghệ AI để giảm thiểu rủi ro an ninh

VOV.VN - Trong bối cảnh vấn đề rủi ro do công nghệ AI ngày càng được quan tâm, Chính phủ Australia đã thông báo kế hoạch triển khai các quy định nghiêm ngặt nhằm quản lý công nghệ AI, giảm thiểu các tác hại tiềm ẩn của công nghệ này đối với cuộc sống và con người.

Trình duyệt Google Chrome ra mắt đồng thời 3 tính năng AI mới
Trình duyệt Google Chrome ra mắt đồng thời 3 tính năng AI mới

Phiên bản trình duyệt Google Chrome mới sẽ bổ sung 3 tính năng AI, cho phép người dùng trải nghiệm các tác vụ sắp xếp tab, tạo chủ đề và hỗ trợ viết nội dung một cách thông minh.

Trình duyệt Google Chrome ra mắt đồng thời 3 tính năng AI mới

Trình duyệt Google Chrome ra mắt đồng thời 3 tính năng AI mới

Phiên bản trình duyệt Google Chrome mới sẽ bổ sung 3 tính năng AI, cho phép người dùng trải nghiệm các tác vụ sắp xếp tab, tạo chủ đề và hỗ trợ viết nội dung một cách thông minh.

Thiết bị AI cầm tay của Trung Quốc “cháy hàng” ngay sau khi ra mắt
Thiết bị AI cầm tay của Trung Quốc “cháy hàng” ngay sau khi ra mắt

VOV.VN - Thiết bị AI cầm tay mang tên Rabbit 1 trị giá 200 USD của startup Trung Quốc “cháy” đơn đặt hàng sau khi ra mắt cách đây không lâu.

Thiết bị AI cầm tay của Trung Quốc “cháy hàng” ngay sau khi ra mắt

Thiết bị AI cầm tay của Trung Quốc “cháy hàng” ngay sau khi ra mắt

VOV.VN - Thiết bị AI cầm tay mang tên Rabbit 1 trị giá 200 USD của startup Trung Quốc “cháy” đơn đặt hàng sau khi ra mắt cách đây không lâu.