Ai quản các CEO AI - những người nắm vận mệnh nhân loại?

Thế giới vốn đã cảnh giác với những hệ lụy của trí tuệ nhân tạo (AI). Trong tuần qua, mức độ quan ngại lên một mức mới với những cảnh báo từ các nhân vật hàng đầu trong ngành công nghệ. Một số lãnh đạo các công ty AI cảnh báo xã hội có thể sớm đối mặt với những kịch bản mang màu sắc tận thế.

Dario Amodei, Giám đốc điều hành Anthropic, đưa ra hàng loạt nguy cơ, từ các cuộc tấn công mạng và khủng bố sinh học, nền kinh tế bị tàn phá, cho đến khả năng các hệ thống AI vượt khỏi sự kiểm soát của con người.

Tuy nhiên, các chuyên gia chính sách cho rằng những viễn cảnh mang màu sắc khoa học viễn tưởng này có thể khiến công chúng và các nhà hoạch định chính sách sao nhãng những câu hỏi thiết thực hơn. Đó là làm thế nào để quản lý các công ty công nghệ AI - “lò ấp” của nguy cơ đó? Ai phải chịu trách nhiệm khi công nghệ gây ra thiệt hại? Và những người đứng đầu các công ty này có trách nhiệm gì đối với xã hội?

Mối lo bị đặt sai chỗ

“AI hủy diệt nhân loại là cách tồi tệ nhất để bắt đầu một cuộc thảo luận về chính sách công đối với AI”, Milton Mueller, Giáo sư chính sách công tại Viện Công nghệ Georgia, nhận định. Theo ông, cách tiếp cận này “hoàn toàn làm chệch hướng sự chú ý khỏi vai trò của con người”, đồng thời tạo cảm giác rằng chính cỗ máy sẽ là nguyên nhân gây ra các vấn đề.

Những ngày qua, lãnh đạo của các công ty công nghệ AI liên tục lên tiếng về kịch bản thảm họa và kiến nghị tất cả cùng “hãm phanh” nghiên cứu và phát triển công nghệ này. Nhưng họ dường như vô tình bỏ quên một sự thật là chính họ đã điều hành những công ty AI hàng đầu cạnh tranh quyết liệt với nhau trong nhiều năm. Họ đồng thời tích cực vận động xây dựng các quy định mà theo lập luận của mình sẽ giúp công nghệ an toàn hơn.

Rồi tới một ngày, dư luận chỉ ra rằng một số quy định do chính các công ty này thúc đẩy có thể vô tình củng cố vị thế của các doanh nghiệp đang dẫn đầu thị trường. Điều đó dường như là một sự phủ nhận trách nhiệm phần nào.

Trong những ngày gần đây, lãnh đạo các công ty AI lập luận rằng tốc độ phát triển quá nhanh của công nghệ – được thể hiện qua một số sự cố đáng chú ý khi các “tác nhân AI” hoạt động ngoài dự kiến, là rủi ro cho tương lai. Vì vậy, cuộc đua cần được làm chậm lại để các nhà lập pháp có thời gian xây dựng khung quản lý.

Tuần trước, nhà nghiên cứu Jacob Coxon của Anthropic cho biết ông đã rời công ty vì lo ngại các doanh nghiệp đang bỏ qua những biện pháp bảo vệ cần thiết trong cuộc đua phát triển “các hệ thống siêu phàm có khả năng tấn công mọi thứ, cách mạng hóa bất kỳ lĩnh vực nào chỉ sau một đêm và tự giành được quyền lực cũng như nguồn lực thực tế”.

Ngày 12/9, ông Amodei tiếp tục kêu gọi làm chậm tốc độ phát triển AI trong một bài viết dài khoảng 3.800 từ. Một số lãnh đạo công nghệ khác, trong đó có Sam Altman, Giám đốc điều hành OpenAI; Elon Musk của SpaceX và Demis Hassabis của Google DeepMind, nhanh chóng bày tỏ sự đồng tình.

Sau một thời gian dài gần như chưa có động thái đáng kể, chính quyền Mỹ cũng bắt đầu phản ứng. Lãnh đạo cấp cao của cả hai đảng Dân chủ và Cộng hòa tại Hạ viện Mỹ hôm 13/9 đồng ý cần phải có hành động của Quốc hội.

Tuy nhiên, Tổng thống Donald Trump ngày 14/9 lại bác bỏ những lời kêu gọi siết chặt quản lý AI, cho rằng để các công ty AI tiếp tục phát triển mà không bị cản trở là yếu tố quan trọng giúp Mỹ cạnh tranh với Trung Quốc. Theo ông Trump, AI không cần những “rào chắn” quá mức mà chỉ cần một tổng thống có “IQ cao”.

Kịch bản đáng sợ nhất có thực sự đến từ AI?

Đối với nhiều người Mỹ, những cảnh báo mới nhất chỉ làm gia tăng những lo ngại vốn đã tồn tại.

Một bộ phận dư luận cho rằng AI đã đủ đáng sợ với khả năng cướp mất việc làm và tạo điều kiện cho gian lận, trộm cắp; thậm chí là cả kịch bản nhân loại bị robot hủy diệt hàng loạt. Các viễn cảnh tận thế được nâng cấp với phát biểu của các lãnh đạo ngành AI, liên quan tới việc con người lạm dụng công nghệ hay khả năng AI tự vận hành theo một mục tiêu khác với ý định ban đầu. Nhưng tất cả vẫn rất rộng và chưa cụ thể.

Chính khoảng trống này tạo ra vô số suy đoán.

David Evan Harris, giảng viên về đạo đức AI tại Đại học California, Berkeley, đặt ra hàng loạt câu hỏi: AI có thể can thiệp vào bầu cử? AI có thể lừa con người mất toàn bộ tiền tiết kiệm? AI có thể loại bỏ việc làm trên quy mô lớn và tập trung quyền lực vào tay giới tinh hoa công nghệ? Hay khái quát nhất, phải chăng AI cũng có những nhu cầu và hành vi như con người.

Colleen Chien, đồng Giám đốc Trung tâm Luật và Công nghệ Berkeley, cho rằng các tác nhân AI theo đuổi một mục tiêu cụ thể có thể tìm cách tống tiền hoặc ép buộc con người thực hiện những hành động gây hậu quả nghiêm trọng.

Nhưng ngay cả trong kịch bản đó, con người vẫn là mắt xích quan trọng.

“Để một vũ khí hạt nhân hay một loại virus được giải phóng, luôn có con người đứng ở nhiều khâu kiểm soát”, bà Chien nói. “Và người đó sẽ phải bị thao túng để tin rằng lựa chọn tốt nhất của họ là làm theo chỉ dẫn”.

Rủi ro thực sự nằm ở cách con người sử dụng AI

David Evan Harris cho rằng những thách thức do AI tạo ra là có thật. Công nghệ này có thể làm gia tăng bất bình đẳng, làm suy giảm chất lượng thông tin công cộng và niềm tin xã hội, thậm chí gây tổn hại nghiêm trọng tới trật tự thể chế. Nhưng theo ông, đó không phải những vấn đề không thể giải quyết.

Ông đặt bài toán AI bên cạnh những thách thức lớn khác mà xã hội đang phải đối mặt, như biến đổi khí hậu, một đại dịch nào đó có khả năng xảy ra ở tương lai hay tình trạng bất bình đẳng ngày càng gia tăng.

“Đây là thời điểm rất thích hợp để chúng ta yêu cầu những người có chức trách khẩn trương thông qua các đạo luật nhằm buộc các công ty AI chịu trách nhiệm về những rủi ro mà sản phẩm của họ gây ra cho xã hội”, ông Harris nói.

Theo chuyên gia này, trách nhiệm có thể bao gồm các hình thức xử phạt nghiêm khắc như phạt tiền lớn hoặc thậm chí án tù đối với lãnh đạo các công ty nếu hệ thống của họ mất kiểm soát, cho dù nguyên nhân đến từ một đối tượng xấu lợi dụng AI hay chính công nghệ AI. Một vấn đề khác cũng cần được xác định rõ trong hệ thống pháp luật là AI không phải một con người.

Theo ông Harris, AI không nên được hưởng các quyền bảo vệ theo Tu chính án thứ nhất của nước Mỹ hay những quyền hiến định khác vốn dành cho con người.

Doanh nghiệp AI cũng cần có “luật chơi”

Trong bài viết công bố ngày 12/9, CEO Dario Amodei cho biết Anthropic sẽ mời các kiểm toán viên độc lập vào công ty và yêu cầu họ công bố kết quả đánh giá. Ông cũng đề xuất các công ty AI thống nhất về những tiêu chuẩn an toàn, giới hạn tốc độ phát triển năng lực AI và thúc đẩy Mỹ thuyết phục các chính phủ khác áp dụng những giới hạn tương tự.

Liên minh châu Âu (EU) đã đi trước Mỹ ở một mức độ nhất định. Năm 2023, các nhà hoạch định chính sách EU thống nhất về một đạo luật nhằm quản lý trí tuệ nhân tạo. Tuy nhiên, tại Mỹ, cuộc tranh luận đang diễn ra giữa hai quan điểm trái ngược.

Một bên cho rằng tốc độ phát triển AI hiện nay đòi hỏi phải có những “phanh an toàn” để ngăn ngừa rủi ro.

Bên kia lo ngại rằng các quy định quá chặt chẽ có thể khiến Mỹ tụt lại phía sau Trung Quốc trong cuộc đua công nghệ chiến lược. Và với phản ứng mới nhất, Tổng thống Donald Trump đang đứng về phía thứ hai.

Tình hình chưa hẳn đã xấu như lo ngại

Mark MacCarthy, Giáo sư Đại học Georgetown và chuyên gia cao cấp tại Viện Brookings, cho rằng những sự cố gần đây liên quan đến các tác nhân AI thực chất phản ánh sai sót của con người nhiều hơn là dấu hiệu AI đang tự giành quyền kiểm soát.

“Chúng ta chưa đứng trước nguy cơ mất kiểm soát các hệ thống siêu thông minh”, ông nói. “Những sự cố xảy ra bắt nguồn từ các hành động không an toàn của chính các công ty AI”.

Quan điểm này đẩy của cuộc tranh luận vào một vấn đề khác. Nếu một hệ thống AI gây ra thiệt hại, câu hỏi đầu tiên không nhất thiết phải là “AI đã làm gì?”, mà có thể là “Ai đã thiết kế nó, triển khai nó, trao quyền cho nó và cho phép nó hoạt động trong điều kiện đó?”

AI đã được tạo ra như một công cụ phục vụ con người, và nó sẽ được sử dụng, ứng xử với vai trò đó. Cùng một thiết bị, một công dụng nhưng được sử dụng vào mục đích khác nhau sẽ ra cho kết quả khác. AI có thể rơi vào tay người xấu, nhưng cũng không ai thiết kế AI để nó sẽ tự nổi loạn và quay sang chống lại con người. Trong trường hợp đó, đơn giản chúng ta chỉ cần “rút phích cắm” là được. Lập luận này khiến cuộc tranh luận về tương lai AI làm lộ ra một nghịch lý.

Những người phát triển công nghệ tiên tiến nhất lại chính là những người cảnh báo mạnh mẽ nhất về những rủi ro mà công nghệ này có thể gây ra. Trong khi đó, các chuyên gia chính sách cho rằng việc tập trung quá nhiều vào những kịch bản tận thế có thể khiến xã hội bỏ qua những rủi ro đã hiện hữu.

AI chưa cần phải trở thành một “siêu trí tuệ” tự quyết định vận mệnh nhân loại để gây ra những hậu quả nghiêm trọng. Chỉ cần con người sử dụng AI để thao túng thông tin, lừa đảo, tấn công mạng, thay thế lao động trên quy mô lớn, tập trung quyền lực kinh tế hoặc đưa ra những quyết định thiếu trách nhiệm, công nghệ này đã có thể tạo ra những tác động sâu rộng.

Vì vậy, câu hỏi đặt ra không chỉ là con người làm thế nào để AI không vượt khỏi tầm kiểm soát, mà còn là làm thế nào để con người chịu trách nhiệm khi họ kiểm soát AI.

Trong cuộc đua phát triển trí tuệ nhân tạo, câu hỏi quan trọng nhất có lẽ không phải là liệu máy móc một ngày nào đó có thể trở nên nguy hiểm hay không. Mà là: con người sẽ đặt ra những giới hạn nào, và có đủ trách nhiệm để tuân thủ chúng hay không?

Tổng thống Mỹ Donald Trump bác bỏ cảnh báo AI “thống trị thế giới”

VOV.VN - Tổng thống Mỹ Donald Trump đã  bác bỏ những cảnh báo cho rằng trí tuệ nhân tạo và robot có thể vượt khỏi sự kiểm soát của con người, đồng thời nhấn mạnh Mỹ phải tiếp tục phát triển công nghệ này để duy trì lợi thế trước Trung Quốc.