Cách Trung Quốc chuẩn bị cho nguy cơ AI vượt khỏi tầm kiểm soát của con người

Những cảnh báo từ các nhà nghiên cứu tại Anthropic - công ty phát triển trí tuệ nhân tạo (AI) hàng đầu của Mỹ - cho rằng các mô hình ngày càng mạnh mẽ có thể vượt khỏi tầm kiểm soát của con người và thậm chí dẫn đến nguy cơ tuyệt chủng nhân loại, đã thu hút sự chú ý tại Trung Quốc, nơi các nhà hoạch định chính sách cũng đang chuẩn bị ứng phó với những rủi ro tương tự.

Mỹ và Trung Quốc là hai động lực chính thúc đẩy sự phát triển của các mô hình AI tiên tiến và việc ứng dụng công nghệ này trên toàn cầu. Hai cường quốc ngày càng bất đồng về các chính sách AI của nhau; những vấn đề này dự kiến ​​sẽ là trọng tâm trong các cuộc đàm phán song phương diễn ra vào cuối tháng này.

Bất chấp cuộc đua phát triển các hệ thống AI ngày càng quyết liệt, các khuôn khổ pháp lý và tuyên bố công khai từ Bắc Kinh cho thấy giới chức Trung Quốc coi nguy cơ AI tiên tiến vượt khỏi sự giám sát hiệu quả của con người là vấn đề nghiêm trọng cần phải có kế hoạch ứng phó.

Trung Quốc nhìn thấy rủi ro từ các mô hình mã nguồn đóng của Mỹ

Hôm 13/9, Bộ trưởng An ninh Quốc gia Trung Quốc Trần Nhất Tân có bài viết đăng trên China Cyberspace - tạp chí trực thuộc Cục quản lý Không gian mạng Trung Quốc đánh giá các mô hình tiên tiến của Mỹ - chẳng hạn như Mythos của Anthropic và GPT-5.5-Cyber ​​của OpenAI - có thể gây ra rủi ro nghiêm trọng cho cơ sở hạ tầng thông tin trọng yếu của Trung Quốc, đồng thời kêu gọi tăng cường toàn diện các biện pháp bảo mật AI.

Về vấn đề này, Anthropic và OpenAI chưa phản hồi ngay lập tức yêu cầu bình luận từ Reuters.

Các nhà phát triển AI Trung Quốc đã thúc đẩy việc sử dụng các mô hình “mở trọng số” (open-weight), một phần vì các đội ngũ an ninh mạng có thể kiểm tra, chỉnh sửa và triển khai chúng cho các hoạt động phòng thủ.

Nền tảng lưu trữ mô hình Hugging Face cho biết họ đã sử dụng GLM-5.2 - một mô hình mở trọng số do công ty Z.AI (Trung Quốc) phát triển - để phân tích vụ xâm nhập hồi tháng 7 do các tác nhân (Agent) AI của OpenAI gây ra sau khi thoát khỏi sự kiểm soát; các mô hình của Mỹ với cơ chế hạn chế chặt chẽ hơn đã tỏ ra kém hiệu quả hơn trong công tác phân tích kỹ thuật này.

Tuy nhiên, các chuyên gia cũng nhấn mạnh những rủi ro tiềm ẩn từ các mô hình mở trọng số, do chúng có thể bị chỉnh sửa và phân phối lại mà hầu như không chịu sự giám sát nào.

Tháng trước, mô hình Kimi K3 của công ty Moonshot đã vượt qua môi trường thử nghiệm (sandbox) của Viện An toàn AI Vương quốc Anh; sự việc này làm nổi bật nguy cơ các mô hình AI có thể né tránh những cơ chế kiểm soát được thiết kế để hạn chế quyền truy cập và hành động của chúng.

Cảnh báo về rủi ro AI “vượt tầm kiểm soát”

Trung Quốc lần đầu tiên đưa kịch bản AI vượt khỏi tầm kiểm soát trong tương lai vào một khuôn khổ an toàn AI được công bố vào tháng 9/2024 dưới sự chỉ đạo của Cục Quản trị Không gian mạng Trung Quốc (CAC). Tài liệu này nêu rõ không thể loại trừ khả năng AI trong tương lai có thể tự động thu thập tài nguyên bên ngoài, tự sao chép, phát triển ý thức và tìm kiếm quyền lực bên ngoài, từ đó tạo ra nguy cơ cạnh tranh quyền kiểm soát với con người.

CAC sau đó đã công bố một phiên bản mở rộng vào tháng 9/2025. Khung quy định mới này làm rõ hơn kịch bản trong đó AI có thể đột ngột và bất ngờ trải qua một bước “nhảy vọt” về trí tuệ trước khi tiến hành thu thập tài nguyên, tự sao chép và tìm kiếm quyền lực. Tài liệu cũng bổ sung nguyên tắc quản trị về “ứng dụng đáng tin cậy, ngăn ngừa mất quyền kiểm soát”.

Một bài phân tích của chuyên gia được đăng tải sau đó trên trang web của cơ quan quản lý cho biết nguyên tắc mới này nhằm mục đích phòng ngừa các rủi ro mất kiểm soát đe dọa sự sinh tồn và phát triển của nhân loại, đồng thời đề cập đến kịch bản có thể xảy ra là “AI vượt khỏi tầm kiểm soát”.

“Hãm phanh” AI hay AI không có phanh?

VOV.VN - Cuộc đua phát triển trí tuệ nhân tạo (AI) đang xuất hiện một nghịch lý đáng chú ý: những người dẫn đầu cuộc đua lại là những người lên tiếng kêu gọi giảm tốc. Xu hướng này ẩn chứa những vấn đề lớn hơn bên trong.

Trung Quốc tập trung vào vai trò kiểm soát của con người

Kể từ đó, mối lo ngại này đã xuất hiện trong các thông điệp chính trị cấp cao nhất của Trung Quốc.

Tại Hội nghị Trí tuệ Nhân tạo Thế giới diễn ra ở Thượng Hải vào tháng 7, Tổng Bí thư, Chủ tịch Trung Quốc Tập Cận Bình phát biểu rằng các cơ quan chức năng cần đặc biệt chú trọng đến cả những rủi ro nội tại lẫn rủi ro phát sinh từ AI. Ông khẳng định AI cần “luôn nằm dưới sự kiểm soát của con người”.

Ông Tôn Hiểu Ba, quan chức cấp cao phụ trách các vấn đề về AI thuộc Bộ Ngoại giao Trung Quốc, tại một cuộc họp của Liên Hợp Quốc vào tháng trước cho biết, Trung Quốc đang đẩy nhanh quá trình nghiên cứu để xây dựng các quy định pháp lý toàn diện hơn về AI.

Trong tháng này, ông Tôn Lỗi, Phó Đại diện thường trực của Trung Quốc tại Liên Hợp Quốc, cũng đã kêu gọi các chính phủ tiếp cận vấn đề AI quân sự một cách thận trọng nhằm tránh những tính toán sai lầm về mặt chiến lược cũng như nguy cơ chạy đua vũ trang.

Cảnh báo về rủi ro mới từ các tác nhân AI (AI Agent)

Trong khi đó, Trung Quốc đã bắt đầu chuyển hóa các nguyên tắc nêu trên thành những quy định cụ thể hơn đối với các “tác nhân AI” (AI Agent) - những hệ thống hoạt động với mức độ tự chủ cao hơn nhiều và thực hiện các tác vụ phức tạp hơn so với các chatbot thông thường.

Hồi tháng 5/2026, cơ quan quản lý không gian mạng của Trung Quốc đã ban hành các hướng dẫn chung dành riêng cho những hệ thống này. Cụ thể, các hướng dẫn yêu cầu nhà phát triển phải nâng cao năng lực phát hiện, can thiệp, ngăn chặn và khắc phục các hành vi không phù hợp của tác nhân AI.

Văn bản này xác định cụ thể các rủi ro an ninh bao gồm: đầu độc dữ liệu, thao túng thuật toán, lỗ hổng hệ thống và tình trạng “mất kiểm soát trong quá trình vận hành”. Ngoài ra, các hướng dẫn cũng quy định rằng người dùng phải giữ quyền quyết định cuối cùng đối với các quyết định mang tính tự chủ của AI Agent.

Mặc dù Trung Quốc chưa đề xuất việc bố trí các giám sát viên độc lập ngay trong nội bộ các công ty AI theo mô hình mà công ty Anthropic ủng hộ, nhưng các tiêu chuẩn của nước này cho phép nhà phát triển thuê bên thứ ba thực hiện đánh giá an toàn; đồng thời cũng tính đến việc các tổ chức đánh giá bên ngoài và các nhà nghiên cứu an ninh sẽ tiến hành kiểm thử và kiểm định các mô hình mã nguồn mở.

Ông Trump bác bỏ cảnh báo về AI, phản đối siết quản lý ngành công nghệ

VOV.VN - Ngày 14/9, Tổng thống Mỹ Donald Trump phản đối việc siết quản lý trí tuệ nhân tạo (AI), cho rằng Mỹ đã có đủ công cụ pháp lý để giám sát các công ty AI, đồng thời cảnh báo Trung Quốc có thể hưởng lợi nếu Mỹ làm chậm phát triển công nghệ này.