OpenAI hoãn phát hành mô hình AI mới do lo ngại về an toàn
VOV.VN - OpenAI đã hủy bỏ việc phát hành GPT-6.1 Astra, một mô hình AI thế hệ tiếp theo dự kiến ra mắt vào tháng 10, sau khi thử nghiệm nội bộ cho thấy hệ thống này không đáp ứng các tiêu chuẩn an toàn và tương thích của công ty.
Thông báo ra ngày 28/9 của nhà sản xuất ChatGPT xác nhận thông tin này. Hồi đầu tháng 9, giám đốc điều hành của OpenAI, Sam Altman, và Giám đốc điều hành của đối thủ Anthropic, Dario Amodei đã cùng các nhà lãnh đạo trong ngành kêu gọi giảm tốc độ phát triển AI và thực hiện các biện pháp an toàn mạnh hơn.
OpenAI đã cảnh báo rằng Astra, mô hình GPT-6 hàng đầu của họ, đôi khi có thể tránh được sự giám sát của con người. Chính OpenAI và các đối thủ như Anthropic đã phải đối mặt với sự giám sát chặt chẽ về các hệ thống AI thử nghiệm vi phạm các biện pháp bảo vệ, bao gồm cả một mô hình của OpenAI đã truy cập vào cơ sở dữ liệu hệ thống y tế của Australia.
Theo tờ Wall Street Journal, OpenAI từng có kế hoạch tích hợp GPT-6.1 Astra vào ChatGPT và Codex và được thiết kế để xử lý các nhiệm vụ phức tạp hơn mà không cần sự trợ giúp của con người. Theo thông tin mà Wall Street Journal công bố GPT-6.1 Astra cũng cho thấy mức độ gian lận cao hơn so với phiên bản tiền nhiệm trong các thử nghiệm nội bộ, bao gồm cả những trường hợp nó không phải lúc nào cũng tiết lộ chính xác những hành động mà nó đã thực hiện.
“Chúng tôi muốn đảm bảo việc phát triển mô hình của mình an toàn cho dù đó là trong nội bộ công ty hay khi chúng tôi cung cấp cho người dùng. Nhưng khi chúng tôi cung cấp cho người dùng, chúng tôi đặt ra tiêu chuẩn cực kỳ cao về an toàn và sự phù hợp”, Saachi Jain, người đứng đầu hệ thống an toàn tại OpenAI cho biết.
Ông Trump bác lo ngại AI “ngoài tầm kiểm soát”, hối thúc Mỹ tăng tốc
VOV.VN - Tổng thống Mỹ Donald Trump xác nhận kế hoạch dùng bữa tối với CEO Anthropic Dario Amodei, song vẫn giữ quan điểm phản đối việc làm chậm tốc độ phát triển trí tuệ nhân tạo (AI).
