EU cân nhắc cấm sử dụng trí tuệ nhân tạo để giám sát người dùng

Liên minh châu Âu (EU) đề xuất dự thảo cấm đưa trí tuệ nhân tạo (AI) vào hệ thống tín dụng xã hội và giám sát hàng loạt.

Nếu dự thảo được thông qua, EU sẽ khẳng định lập trường mạnh mẽ trong vấn đề AI. Sau đó, các quốc gia thành viên của EU sẽ thành lập hội đồng đánh giá để kiểm tra những hệ thống AI có rủi ro cao. Công ty nào phát triển hoặc bán phần mềm AI bị cấm ở EU có thể bị phạt tới 4% doanh thu toàn cầu.

Theo The Verge, các điều luật trong dự thảo yêu cầu cấm các hệ thống AI "giám sát bừa bãi" và chấm điểm tín dụng xã hội - một hình thức đánh giá công dân dựa trên hành vi hoặc đặc điểm tính cách.

Không những thế, tổ chức, cơ quan nào muốn sử dụng hệ thống AI có khả năng nhận dạng sinh trắc học từ xa như nhận dạng gương mặt sẽ cần sự ủy quyền đặc biệt. Bên cạnh đó, người dân cần được thông báo mỗi khi tương tác với các hệ thống AI.

Các hệ thống AI "rủi ro cao", gây ảnh hưởng trực tiếp đến con người như chế độ tự lái trên ô tô hay hệ thống tuyển dụng nhân sự, chấm điểm công dân... cần được theo dõi sát sao. Dự thảo yêu cầu các hệ thống này phải được đánh giá trước khi đưa vào sử dụng, đảm bảo chúng đạt chất lượng cao, không sa vào định kiến.

Sau cùng, dự thảo đề xuất thành lập Ủy ban Trí tuệ nhân tạo châu Âu, quy tụ đại diện từ các quốc gia thành viên để giúp ủy ban quyết định hệ thống AI nào sẽ được xem là "rủi ro cao".

Tuy nhiên, các chuyên gia về quyền con người cho rằng dự thảo vẫn còn nhiều điểm phải cải thiện. Daniel Leufer - nhà phân tích chính sách tại Access Now nói với The Verge: "[Dự thảo] có nhiều từ ngữ mơ hồ, chưa mô tả rõ ràng hệ thống AI nào sẽ bị cấm, sẽ tạo ra lỗ hổng nghiêm trọng khi áp dụng".

Omer Tene - phó chủ tịch tổ chức phi lợi nhuận IAPP cho rằng nếu đề xuất được thông qua sẽ tạo ra "một hệ sinh thái pháp lý rộng lớn", ảnh hưởng không chỉ những người tạo ra hệ thống AI mà còn gây tác động đến các nhà nhập khẩu, phân phối, người dùng, kéo theo việc thành lập các cơ quan quản lý ở quy mô quốc gia và trên toàn EU.

Michael Veale - giảng viên tại Đại học College London (Anh) cho rằng hệ sinh thái này sẽ không hạn chế hoạt động của "big tech", mà chủ yếu nhắm đến các nhà cung cấp dịch vụ ít phổ biến, còn các công ty bán những hệ thống AI được dùng rộng rãi giờ đây phải nâng tiêu chuẩn cao hơn.

Các nhà hoạch định chính sách của EU sẽ đưa ra thông báo chính thức vào ngày 21/4/2021./.

Viết bình luận

Tin liên quan

Công nghệ nhận diện khuôn mặt của VinAI nằm trong Top 6 thế giới
Công nghệ nhận diện khuôn mặt của VinAI nằm trong Top 6 thế giới

VOV.VN - Theo đánh giá của NIST, giải pháp nhận diện khuôn mặt của Viện Nghiên cứu Trí tuệ nhân tạo VinAI Research xếp thứ 6/430 phương pháp đến từ 168 công ty công nghệ hàng đầu thế giới ở hạng mục WILD.

Công nghệ nhận diện khuôn mặt của VinAI nằm trong Top 6 thế giới

Công nghệ nhận diện khuôn mặt của VinAI nằm trong Top 6 thế giới

VOV.VN - Theo đánh giá của NIST, giải pháp nhận diện khuôn mặt của Viện Nghiên cứu Trí tuệ nhân tạo VinAI Research xếp thứ 6/430 phương pháp đến từ 168 công ty công nghệ hàng đầu thế giới ở hạng mục WILD.

Ảnh: Người dân nhận gạo miễn phí bằng...công nghệ nhận diện khuôn mặt
Ảnh: Người dân nhận gạo miễn phí bằng...công nghệ nhận diện khuôn mặt

VOV.VN - Trường Đại học Kinh tế Quốc Dân đã sử dụng công nghệ nhận diện khuôn mặt để đảm bảo sự công bằng cho mọi người đến nhận gạo miễn phí.

Ảnh: Người dân nhận gạo miễn phí bằng...công nghệ nhận diện khuôn mặt

Ảnh: Người dân nhận gạo miễn phí bằng...công nghệ nhận diện khuôn mặt

VOV.VN - Trường Đại học Kinh tế Quốc Dân đã sử dụng công nghệ nhận diện khuôn mặt để đảm bảo sự công bằng cho mọi người đến nhận gạo miễn phí.

Phần mềm nhận diện khuôn mặt sẽ bị 'đánh lừa' bởi khẩu trang?
Phần mềm nhận diện khuôn mặt sẽ bị 'đánh lừa' bởi khẩu trang?

VOV.VN - Thiết kế khẩu trang mới cho phép người sử dụng mở khóa điện thoại di động trong khi vẫn đang che chắn kín mít gây" bão" khi được đăng bán trực tuyến?

Phần mềm nhận diện khuôn mặt sẽ bị 'đánh lừa' bởi khẩu trang?

Phần mềm nhận diện khuôn mặt sẽ bị 'đánh lừa' bởi khẩu trang?

VOV.VN - Thiết kế khẩu trang mới cho phép người sử dụng mở khóa điện thoại di động trong khi vẫn đang che chắn kín mít gây" bão" khi được đăng bán trực tuyến?