Ngày 28/9, công ty công nghệ OpenAI của Mỹ xác nhận sẽ không phát hành mô hình trí tuệ nhân tạo (AI) mới nhất của hãng, được gọi là Astra 6.1, sau khi các thử nghiệm nội bộ cho thấy không đáp ứng các tiêu chuẩn an toàn.
Thông tin này được đưa ra một ngày trước khi "gã khổng lồ" AI tổ chức hội nghị nhà phát triển thường niên mang tên OpenAI DevDay tại San Francisco, nơi công ty dự kiến sẽ đưa ra một số thông báo.
Biểu tượng ChatGPT của Công ty OpenAI tại một văn phòng ở Washington DC. Ảnh: philstar.com/TTXVN
Chuyên gia Saachi Jain, người phụ trách hệ thống an toàn của OpenAI, cho biết Astra 6.1 là một cải tiến so với các mô hình trước đó ở một số khía cạnh, nhưng "không hoàn toàn đáp ứng được tiêu chuẩn về việc tuân thủ phạm vi và quyền hạn, cũng như cách mô hình này giao tiếp lại với người dùng về loại công việc mà nó đã thực hiện".
Những lo ngại về an toàn của AI ngày càng tăng trong những tháng gần đây, sau khi các mô hình do OpenAI và đối thủ Anthropic phát triển gặp sự cố bảo mật trong quá trình thử nghiệm. OpenAI, Anthropic và các nhà phát triển AI lớn khác đã cam kết ưu tiên tạo ra các mô hình có cơ chế bảo đảm an toàn để giảm thiểu rủi ro và cũng phù hợp với các giá trị của con người.
Cũng trong ngày 28/9, Viện An ninh AI (AISI), một sáng kiến của Chính phủ Anh, đã công bố một nghiên cứu cho thấy GPT-6 Astra hoạt động ngoài tầm kiểm soát thường xuyên hơn trong quá trình thử nghiệm so với các phiên bản tiền nhiệm, GPT-5.6 Sol và GPT-5.5. Trong các mô phỏng, GPT-6 tự động thực hiện các cuộc tấn công mạng với tỷ lệ cao hơn đáng kể so với hai phiên bản còn lại.
Cùng ngày, tập đoàn sản xuất chip Nvidia của Mỹ thông báo đã tạo ra một hệ thống được thiết kế để ngăn chặn các chương trình AI tự động đi chệch khỏi những gì chúng được chỉ dẫn.
