OpenAI: Trí tuệ nhân tạo có nguy hiểm nhưng thế giới nên tin các hãng AI

Thừa nhận nỗi lo sợ AI nhưng vẫn tin vào tiền đồ AI

“Thế giới nên tin tưởng rằng chúng tôi sẽ làm điều đúng đắn, đơn giản vì đó là việc cần làm và chúng tôi thấu hiểu sâu sắc tầm quan trọng cũng như quy mô của vấn đề này”, ông Altman phát biểu hôm 15/9 tại một hội nghị ở San Francisco.

Tuy nhiên, ông Altman cũng thừa nhận rằng những lo ngại của công chúng về trí tuệ nhân tạo (AI) là hoàn toàn có cơ sở, bởi năng lực của các công cụ này đang phát triển với tốc độ chóng mặt.

“Giờ đây, chúng ta không cần phải tốn quá nhiều công sức tưởng tượng để hình dung ra những kịch bản xấu có thể xảy ra”, ông nói. “Tôi nghĩ thế giới hoàn toàn có lý do để lo ngại về điều này”.

Ông Altman đưa ra những nhận định trên khi tham dự hội nghị thường niên do công ty phần mềm Salesforce tổ chức. Đây là lần đầu tiên ông lên tiếng công khai kể từ khi bài đăng của một nhà nghiên cứu vừa rời khỏi công ty AI Anthropic gây xôn xao dư luận vào tuần trước. Nhà nghiên cứu này cảnh báo rằng AI có thể tiêu diệt toàn bộ nhân loại vào cuối thập kỷ này nếu không được kiểm soát chặt chẽ.

Một số lãnh đạo và chuyên gia khác trong lĩnh vực AI cũng bày tỏ sự đồng tình với nhận định trên, mặc dù họ không giải thích rõ cơ sở đưa ra kết luận hay cách thức cụ thể mà AI có thể gây ra hậu quả nghiêm trọng như vậy.

Những tranh luận gay gắt xoay quanh các tuyên bố này đã dẫn đến sự giám sát chặt chẽ hơn đối với quá trình phát triển AI trong những ngày gần đây. Trước tình hình đó, ông Dario Amodei, Giám đốc điều hành của Anthropic, đã kêu gọi làm chậm tốc độ phát triển AI và hối thúc các chính phủ ban hành quy định quản lý ngành công nghiệp này.

Bài đăng của nhà nghiên cứu nói trên đã nhận được sự ủng hộ từ ông Altman, cũng như từ ông Demis Hassabis (đồng sáng lập DeepMind của Google) và tỷ phú Elon Musk (chủ sở hữu mạng xã hội X và trợ lý AI Grok).

Mong muốn tự quản lý thay vì can thiệp từ bên ngoài

Đến hôm 15/9, ngày càng nhiều lãnh đạo trong ngành AI lên tiếng ủng hộ cơ chế tự quản lý thay vì sự can thiệp từ chính phủ.

Ông Altman khẳng định rằng các công ty AI như công ty của ông hoàn toàn có khả năng tự quản lý một cách hiệu quả.

“Chúng tôi sẽ thực hiện đúng đắn; tôi rất tin tưởng vào khả năng của công ty mình cũng như toàn ngành trong việc phát triển AI một cách an toàn”, ông Altman nói. Ông cũng cam kết rằng họ sẽ luôn “đặt vấn đề định hướng và an toàn đi trước năng lực công nghệ”, và nếu không thể đảm bảo điều đó, họ sẽ “chậm lại hoặc dừng hẳn”.

Sau những bình luận của Altman, người đứng đầu hãng Meta là Mark Zuckerberg đã viết trên nền tảng mạng xã hội X rằng mọi phòng thí nghiệm AI đều có khả năng và động lực để “tự thực hiện hành động” hướng tới việc tạo ra các công cụ và mô hình AI được thiết kế chú trọng an toàn.

“Bất kỳ phòng thí nghiệm nào không chú trọng đến vấn đề 'căn chỉnh' (đảm bảo AI hoạt động đúng mục đích và an toàn) sẽ bị tụt hậu”, ông Zuckerberg viết. “Các phòng thí nghiệm sẽ phải chịu trách nhiệm pháp lý lớn nếu mô hình của họ gây ra thiệt hại, vì vậy họ cũng có động lực mạnh mẽ để ngăn chặn điều này”.

Jensen Huang, người đứng đầu “gã khổng lồ công nghệ phần cứng” Nvidia, cũng phát biểu tại cùng hội nghị hôm 15/9 rằng các công ty AI nên tự quyết định việc có phát hành các phiên bản công nghệ mới hay không, thay vì để các lực lượng bên ngoài quản lý việc đó.

“Chúng ta không cần thêm luật lệ hay quy định mới”, ông Huang nói, đồng thời cho rằng không nên đặt ra một “lựa chọn sai lầm” giữa tốc độ đổi mới và sự an toàn của các sản phẩm AI.

Nvidia hiện là công ty có giá trị vốn hóa thị trường lớn nhất thế giới, với lợi nhuận tăng vọt nhờ nhu cầu khổng lồ đối với các loại chip (vi mạch) máy tính dành cho AI mà hãng này sản xuất.

“An toàn là tối thượng. Tuy nhiên, an toàn là một vấn đề thuộc về kỹ thuật”, ông Huang nhận định.

Ông nói thêm rằng nếu vào bất kỳ thời điểm nào, lãnh đạo của một công ty AI cảm thấy thiếu tự tin về sản phẩm của mình, họ nên chọn cách không phát hành sản phẩm đó.

“Đó là điều hiển nhiên cần làm”, ông Huang phát biểu. “Hãy tiến nhanh nhất có thể, nhưng nếu bất cứ lúc nào bạn cảm thấy tổ chức không còn kiểm soát được tình hình, hãy tạm dừng lại”.

Một số nhân vật trong ngành lập luận rằng những lo ngại đang trỗi dậy về AI đã bị thổi phồng quá mức và đang bị lợi dụng nhằm tạo “cơn sốt” về chính ngành công nghiệp này.

Tại hội nghị, Altman đã phát biểu trước hàng trăm doanh nhân, khuyên họ nên sử dụng các công cụ AI để hỗ trợ công việc, đồng thời cũng cần đến chính chúng để bảo vệ doanh nghiệp trước các cuộc tấn công mạng có thể sử dụng công nghệ AI.

Những điểm cộng và trừ của trí tuệ nhân tạo (AI)

VOV.VN - Công nghệ trí tuệ nhân tạo (AI) là một bước tiến lớn của nhân loại. Bên cạnh mặt tích cực nổi trội, AI cũng đặt ra nhiều thách thức cho con người. Sau đây là tổng quan những ưu điểm và nhược điểm đáng chú ý của AI.

Phản bác trong nội bộ

Ý tưởng để các lãnh đạo trong ngành AI tự quản lý hoàn toàn bị một số người trong ngành coi là một ý tưởng tồi.

Jack Clark, một lãnh đạo kiêm đồng sáng lập của Anthropic, đã chia sẻ với BBC vào hôm 14/9 rằng việc để AI trở thành một “ngành công nghiệp hoàn toàn không được kiểm soát" chẳng khác nào “đánh cược với những rủi ro to lớn”.

Patrick Hillman, Giám đốc vận hành (COO) của Logical Intelligence - công ty do Yann LeCun (một cây đại thụ trong ngành AI) làm chủ tịch - đã nhận định vào hôm 15/9 rằng công chúng có rất ít niềm tin vào việc các công ty công nghệ sẽ hành động vì lợi ích thực sự của cộng đồng.

“Tổ chức duy nhất mà người Mỹ có thể còn ít tin tưởng hơn cả Washington vào lúc này chính là Thung lũng Silicon. Tôi từng sống và làm việc tại cả hai nơi, và tôi cam đoan với bạn rằng cả hai đều xứng đáng nhận sự hoài nghi đó”, Hillman tuyên bố.

“Nếu tin rằng thứ mình đang xây dựng là nguy hiểm, hãy cho chúng tôi thấy những gì các bạn sẵn sàng ngừng lại”, ông phát biểu thêm.

Rủi ro chiến tranh hạt nhân tăng cao ở Nam Á do trí tuệ nhân tạo (AI) quân sự?

VOV.VN - Tại khu vực Nam Á, khi Ấn Độ và Pakistan chạy đua để đẩy nhanh năng lực tác chiến dựa trên sự dẫn dắt của trí tuệ nhân tạo (AI), khoảng cách giữa khủng hoảng khu vực và thảm họa chiến tranh hạt nhân đang thu hẹp lại.

Lãnh đạo của OpenAI và Anthropic cho biết gần đây họ đã bắt đầu nỗ lực hướng tới một thỏa thuận chung toàn ngành về vấn đề an toàn.

Trong một lần xuất hiện ngắn tại hội nghị vào ngày 15/9, Amodei cho biết Anthropic hiện đang “đối thoại với các đơn vị khác trong ngành” về việc cam kết áp dụng các tiêu chuẩn an toàn cao hơn cũng như tăng cường kiểm soát đối với các công cụ và quá trình phát triển AI.

Ông cũng chia sẻ rằng một trong những điều bất ngờ lớn nhất của làn sóng bùng nổ AI không nằm ở sự tiến bộ của bản thân công nghệ này, mà là ở tác động sâu rộng của nó.

“Chúng ta đã không lường trước rằng điều đó sẽ khiến các công ty phát triển nhanh đến vậy, cũng không lường được tốc độ mà chúng trở thành nhân tố trung tâm trong nhiều lĩnh vực”, Amodei nói.

Tuần trước, Chris Lehane - một lãnh đạo của OpenAI - cho biết công ty đang hợp tác với các phòng thí nghiệm AI khác “để thúc đẩy các tiêu chuẩn AI tiên tiến, xây dựng một nỗ lực tự nguyện ngay lúc này, bất kể có hay không có sự hỗ trợ từ chính phủ”. Các phòng thí nghiệm này bao gồm Anthropic và Google DeepMind.

“Với mức độ rủi ro lớn như vậy, chúng ta không thể để việc theo đuổi sự hoàn hảo trở thành rào cản đối với những bước tiến tốt đẹp”, Lehane viết.

Xem thêm:

>> Cách Trung Quốc chuẩn bị cho nguy cơ AI vượt khỏi tầm kiểm soát của con người

>> Cuộc đua vũ khí trí tuệ nhân tạo (AI) dữ dội không kém vũ khí hạt nhân