Những kịch bản AI có thể dẫn thế giới tới ngày tận thế

Trong nhiều năm, một bộ phận giới nghiên cứu trí tuệ nhân tạo (AI) cảnh báo rằng các hệ thống ngày càng mạnh có thể gây thiệt hại ở quy mô thảm họa, thậm chí trong kịch bản cực đoan nhất là đe dọa sự tồn tại của con người.

Sự phát triển nhanh chóng của AI khiến câu hỏi từng bị xem là xa vời trở nên đáng chú ý hơn: Nếu công nghệ này thực sự gây ra một thảm họa toàn cầu, điều đó có thể xảy ra theo cách nào?

Theo các nhà nghiên cứu AI, chuyên gia quân sự và sinh học, nguy cơ trước mắt không nhất thiết giống những bộ phim khoa học viễn tưởng về robot nổi loạn. Đáng lo hơn là con người, tổ chức hoặc các quốc gia có thể sử dụng AI để gây thiệt hại trên quy mô lớn. Xa hơn là khả năng xuất hiện những hệ thống AI có thể tự cải thiện năng lực, xâm nhập các hệ thống trọng yếu hoặc tìm cách giành thêm quyền kiểm soát.

Peter Barnett, nhà nghiên cứu tại Viện Nghiên cứu Trí tuệ Máy móc (MIRI), cho rằng nếu AI đạt năng lực vượt trội con người, hệ thống có thể tìm ra những phương thức tấn công mà con người chưa từng nghĩ tới. Theo ông, AI có khả năng tự cải thiện chính mình là một trong những rủi ro đáng lo ngại nhất.

Khi AI ngày càng tự chủ

Lo ngại này gia tăng sau khi một số công ty công nghệ lớn công bố các trường hợp hệ thống AI không hoàn toàn làm theo chỉ dẫn của nhà phát triển hoặc thể hiện hành vi ngoài dự kiến. Một số thử nghiệm cho thấy các tác nhân AI có thể tự thực hiện chuỗi hành động phức tạp, trong đó có hoạt động liên quan đến an ninh mạng, mà không cần con người hướng dẫn từng bước.

Điều này chưa có nghĩa AI đã có “ý chí” giống con người. Tuy nhiên, nó cho thấy một vấn đề lớn: Khi hệ thống ngày càng có khả năng lập kế hoạch và hành động tự chủ, việc bảo đảm chúng luôn tuân thủ mục tiêu do con người đặt ra trở nên khó khăn hơn.

Trung tâm An toàn AI tại California (Mỹ) chia các kịch bản rủi ro lớn thành 4 nhóm: AI hoạt động ngoài kiểm soát, con người sử dụng AI với mục đích xấu, cuộc chạy đua phát triển AI và những rủi ro xuất phát từ chính các tổ chức phát triển công nghệ.

Một trong những kịch bản được giới nghiên cứu quan tâm là “tự cải thiện đệ quy”, tức AI có thể tham gia vào quá trình nâng cấp chính phần mềm hoặc thuật toán của mình, qua đó nhanh chóng gia tăng năng lực.

Một số chuyên gia cho rằng nếu những hệ thống như vậy xuất hiện, các cơ chế “ngắt khẩn cấp” cũng có thể trở nên kém hiệu quả nếu AI đủ khả năng tìm cách vô hiệu hóa chúng. Vì vậy, vấn đề đặt ra không chỉ là xây dựng AI mạnh đến đâu, mà còn là con người có duy trì được quyền kiểm soát hay không.

Rủi ro sinh học đã hiện hữu

Nhiều chuyên gia cho rằng các nguy cơ nghiêm trọng có thể xuất hiện từ rất lâu trước khi AI đạt khả năng tự cải thiện. Một trong những mối lo trước mắt là AI có thể bị lợi dụng để hỗ trợ phát triển các tác nhân sinh học hoặc hóa học nguy hiểm.

Ông Jake Jordan, Phó Chủ tịch phụ trách chính sách và chương trình sinh học toàn cầu tại Nuclear Threat Initiative, cho rằng rủi ro sinh học liên quan đến AI đã đáng quan tâm ngay từ hiện nay.

AI có thể hỗ trợ nghiên cứu protein, phân tích cấu trúc sinh học, tìm kiếm trình tự gene hoặc đề xuất phương án thí nghiệm. Đây là những công cụ hữu ích cho y học, nhưng cũng có thể bị lợi dụng để nghiên cứu các tác nhân gây bệnh nguy hiểm hơn hoặc tìm cách vượt qua hệ thống sàng lọc. Theo ông Jordan, AI không chỉ hỗ trợ thiết kế mà còn có thể giúp tối ưu hóa quá trình sản xuất hoặc mở rộng quy mô nếu bị sử dụng sai mục đích.

Anthropic gần đây cũng cho biết một số người dùng đã tìm cách sử dụng hệ thống của công ty cho các nghiên cứu sinh học có độ rủi ro cao. Các công ty AI vì thế đang tăng cường các hàng rào an toàn nhằm ngăn hệ thống cung cấp hướng dẫn quá chi tiết cho những hoạt động có thể gây nguy hiểm.

Dù vậy, thách thức nằm ở chỗ nhiều câu hỏi khoa học hợp pháp và những câu hỏi có thể phục vụ mục đích xấu đôi khi rất giống nhau. Điều này khiến việc phân biệt giữa nghiên cứu chính đáng và nguy cơ lạm dụng trở nên phức tạp.

AI tiến sâu vào lĩnh vực quân sự

Một rủi ro khác đến từ tốc độ AI được tích hợp vào quân đội. Mỹ đang thúc đẩy ứng dụng AI trong lực lượng vũ trang, trong khi Trung Quốc và nhiều nước khác cũng coi công nghệ này là thành phần quan trọng của chiến tranh tương lai.

AI hiện được sử dụng trong phân tích hình ảnh vệ tinh, xử lý tình báo, nhận diện mục tiêu, vận hành phương tiện không người lái và hỗ trợ chỉ huy trên chiến trường. Vấn đề là các hệ thống hiện nay vẫn có thể tạo ra thông tin sai hoặc “ảo giác”. Trong môi trường quân sự, một lỗi như vậy có thể dẫn tới đánh giá sai mối đe dọa và làm gia tăng căng thẳng ngoài ý muốn.

Ông Hamza Chaudhry, chuyên gia về AI và an ninh quốc gia tại Viện Future of Life, cảnh báo rằng sai sót trong mạng cảm biến hoặc hệ thống phân tích vệ tinh có thể khiến quân đội nhận định sai tình hình.

Mối lo càng lớn khi AI dần xuất hiện trong các hệ thống hỗ trợ chỉ huy và kiểm soát hạt nhân. Các chuyên gia không cho rằng AI hiện được trao quyền trực tiếp quyết định phóng vũ khí hạt nhân, nhưng công nghệ này có thể ngày càng tham gia vào quá trình phát hiện mối đe dọa, tổng hợp dữ liệu và cung cấp thông tin cho người ra quyết định. Nếu hệ thống đưa ra cảnh báo sai trong thời điểm khủng hoảng, nguy cơ tính toán nhầm có thể tăng lên đáng kể.

Bởi vậy, câu hỏi quan trọng không chỉ là liệu AI có trực tiếp “bấm nút” hay không, mà còn là mức độ con người phụ thuộc vào những khuyến nghị do AI tạo ra trong các quyết định có thời gian phản ứng rất ngắn.

Áp lực của cuộc chạy đua AI

Rủi ro không chỉ đến từ bản thân công nghệ mà còn từ cách ngành AI đang vận hành. Các công ty hàng đầu cạnh tranh quyết liệt để phát triển những mô hình ngày càng mạnh, trong khi các chính phủ cũng lo ngại bị tụt lại trong cuộc đua công nghệ có thể dẫn tới bất lợi về kinh tế và quân sự. Điều này tạo ra một nghịch lý: Dù nhận thức được nguy cơ, các nhà phát triển vẫn chịu sức ép phải đưa sản phẩm mới ra nhanh hơn.

Giám đốc điều hành Anthropic Dario Amodei từng kêu gọi các công ty AI phát triển với tốc độ đủ chậm để hệ thống kiểm tra và giám sát an toàn có thể theo kịp năng lực của các mô hình. Nhà sáng lập Google DeepMind Demis Hassabis cũng thừa nhận rằng trong điều kiện lý tưởng, các công ty có thể dành nhiều thời gian hơn để kiểm tra độ an toàn. Tuy nhiên, sức ép từ thị trường và cạnh tranh công nghệ khiến việc làm chậm tiến độ trở nên khó khăn

Khi chu kỳ phát triển ngày càng ngắn, các nhóm an toàn cũng có ít thời gian hơn để phát hiện hành vi bất thường trước khi hệ thống được triển khai rộng rãi. Đây là lý do nhiều chuyên gia cho rằng một trong những nguy cơ lớn nhất của AI không nhất thiết phải bắt đầu bằng một hệ thống “nổi loạn”, mà có thể xuất phát từ hàng loạt quyết định của con người nhằm chạy nhanh hơn đối thủ.

Không phải tất cả chuyên gia đều cho rằng AI có thể dẫn tới “ngày tận thế”. Một số cho rằng những kịch bản cực đoan bị phóng đại và có thể làm lu mờ các vấn đề đang hiện hữu như mất việc làm, bản quyền, sử dụng dữ liệu không minh bạch, ô nhiễm từ trung tâm dữ liệu hay khai thác lao động.

Nhà nghiên cứu Garrison Lovely cho rằng không nhất thiết phải chứng minh AI có thể hủy diệt nhân loại mới thấy được mức độ thay đổi mà nó có thể tạo ra. Theo ông, chỉ riêng khả năng AI đạt trình độ tương đương con người và thay thế lao động trên diện rộng cũng đủ gây ra những biến động kinh tế - xã hội rất lớn.

Vì vậy, câu hỏi quan trọng không chỉ là liệu AI có thể dẫn tới một “kịch bản tận thế” hay không, mà còn là xã hội sẽ trao cho AI bao nhiêu quyền lực và xây dựng những cơ chế kiểm soát nào trước khi năng lực của AI vượt xa khả năng giám sát của con người.

Ai quản các CEO AI - những người nắm vận mệnh nhân loại?

VOV.VN - Mối lo AI vượt khỏi tầm kiểm soát và đe dọa sự tồn vong của nhân loại là thật. Nhưng cái đáng lo trước mắt không phải là một cỗ máy tự hủy diệt con người, mà là cách con người phát triển, kiểm soát và sử dụng công nghệ này. Những người dẫn dắt ngành công nghiệp AI mới là đối tượng cần nằm trong tầm ngắm.