Indonesia cảnh báo sử dụng AI trong y tế và tài chính
VOV.VN - Indonesia khẳng định những lợi ích quan trọng của trí tuệ nhân tạo ( AI), nhưng nhấn mạnh tầm quan trọng của việc giảm rủi ro trong quá trình ứng dụng AI, đặc biệt là tại các lĩnh vực có tính rủi ro cao như tài chính và y tế.
Thứ trưởng Bộ Truyền thông và Kỹ thuật số Indonesia ông Nezar Patria cho biết, việc tích hợp AI không nên chỉ tập trung hẹp vào đổi mới sáng tạo và hiệu suất, mà cần chủ động xem xét các lỗ hổng khi các hệ thống tự động đảm nhận vai trò ra quyết định.
Trong lĩnh vực dịch vụ tài chính,ví dụ như ngành ngân hàng, việc sử dụng AI, đặc biệt là các hệ thống AI có khả năng tự hành (agentic AI) được trao quyền thực hiện hành động và đưa ra quyết định, có thể dẫn đến những hậu quả nghiêm trọng nếu xảy ra sai sót. Ông cảnh báo rằng các lỗi trong quá trình thực thi có thể gây ra tổn thất tài chính đáng kể, thậm chí dẫn đến bất ổn kinh tế mang tính hệ thống.
Những rủi ro tương tự cũng tồn tại trong lĩnh vực y tế, nơi AI hỗ trợ chẩn đoán bệnh và định hướng các can thiệp y khoa. Ông Nezar nhấn mạnh rằng, các lỗi hệ thống hoặc chẩn đoán sai không chỉ đe dọa trực tiếp đến tính mạng con người mà còn làm gia tăng rủi ro liên quan đến tính bảo mật của dữ liệu bệnh nhân nhạy cảm. Vì dữ liệu đóng vai trò là "nhiên liệu" nền tảng cho sự phát triển của AI, ông Nezar nhấn mạnh sự cần thiết phải có cơ chế quản trị dữ liệu nghiêm ngặt nhằm ngăn chặn tình trạng rò rỉ thông tin cá nhân nhạy cảm.
Để bảo vệ hệ sinh thái kỹ thuật số quốc gia, Indonesia đang dựa vào các khung pháp lý sẵn có. Song song với việc thực thi các quy định này, chính phủ Indonesia đang xây dựng Lộ trình AI Quốc gia cùng các hướng dẫn toàn diện về đạo đức AI.
Bên cạnh công tác quản trị, Indonesia cũng đang đặt nền móng cho một hệ sinh thái AI quốc gia an toàn thông qua các khoản đầu tư trọng điểm vào cơ sở hạ tầng kỹ thuật số, phát triển nhân lực, cũng như nghiên cứu và phát triển. Chính phủ Indonesia khẳng định rằng, các sáng kiến này sẽ được triển khai song song với những chiến lược giảm thiểu rủi ro nghiêm ngặt, đảm bảo rằng việc ứng dụng AI mang lại lợi ích kinh tế thiết thực, đồng thời luôn đặt sự an toàn của công chúng và quyền lợi người tiêu dùng lên hàng đầu.
Trung Quốc ra mắt AI Tuệ Nhãn phục vụ giám sát sức khỏe thực vật
VOV.VN - Ngày 31/10, Viện Nghiên cứu Đổi mới Thông tin Không gian - Vũ trụ thuộc Viện Hàn lâm Khoa học Trung Quốc chính thức công bố hệ thống trí tuệ nhân tạo AI Tuệ Nhãn (AI Huiyan) phục vụ giám sát sức khỏe thảm thực vật, kết hợp sâu giữa công nghệ AI, thông tin không gian - vũ trụ và kiến thức chuyên môn.
