Chuyên gia Israel cảnh báo rủi ro an ninh lớn từ AI tác tử

Theo ông Eyal Alkalay - Giám đốc Công nghệ thông tin (CIO) của công ty công nghệ Verbit - nhận định các hệ thống trí tuệ nhân tạo tác tử (Agentic AI) có thể gây ra rủi ro an ninh lớn hơn nhiều so với người dùng thông thường do khả năng thực hiện hàng loạt hành động trên nhiều hệ thống chỉ trong vài giây.

Trao đổi với chuyên trang công nghệ CTech của Israel, ông Alkalay cho rằng vấn đề đáng lo ngại nhất không phải là việc doanh nghiệp ứng dụng AI quá nhanh, mà là các cơ chế bảo mật, quản lý danh tính, phân quyền và giám sát không theo kịp tốc độ phát triển của các hệ thống AI tác tử.

Theo CIO của Verbit, nếu một nhân viên được cấp quá nhiều quyền truy cập và mắc sai sót, mức độ thiệt hại thường vẫn bị giới hạn bởi tốc độ hành động của con người. Trong khi đó, một AI tác tử có thể thực hiện nhiều thao tác đồng thời trên nhiều hệ thống trong thời gian rất ngắn.

Rủi ro có thể tăng mạnh nếu AI được cấp quyền vượt quá nhu cầu, tiếp nhận chỉ dẫn độc hại, bị tấn công thông qua kỹ thuật "chèn lệnh" (prompt injection), hoặc đơn giản là đưa ra quyết định sai lầm. Trong những trường hợp này, hậu quả có thể lan rộng rất nhanh trước khi con người kịp phát hiện và can thiệp.

Verbit hiện sử dụng và thử nghiệm các năng lực AI tác tử trong hoạt động doanh nghiệp, song vẫn duy trì quyền giám sát và phê duyệt của con người đối với những tác vụ có mức độ rủi ro cao, đặc biệt là các hoạt động liên quan tới hệ thống vận hành, dữ liệu nhạy cảm hoặc thay đổi quan trọng.

Các biện pháp đang được áp dụng gồm giới hạn quyền truy cập theo nhu cầu, ghi nhật ký và giám sát hoạt động, kiểm soát việc đưa các công cụ AI mới vào sử dụng, đồng thời duy trì khả năng thu hồi quyền, cô lập hoặc dừng hoạt động của AI khi cần thiết.

Chuyên gia Alkalay cho rằng mô hình bảo mật đối với AI tác tử vẫn chưa hoàn thiện và cần tiếp tục phát triển cùng tốc độ với công nghệ. Các lĩnh vực đặc biệt cần được chú trọng gồm nhận dạng từng AI tác tử, quản lý quyền hạn, kiểm soát truy cập dữ liệu doanh nghiệp, theo dõi hành vi và thiết lập cơ chế can thiệp khẩn cấp.

Theo CIO của Verbit, giải pháp không phải là làm chậm quá trình ứng dụng AI, mà là xây dựng đồng thời các lớp kiểm soát phù hợp, trong khi con người vẫn phải chịu trách nhiệm đối với những quyết định quan trọng. AI cũng đã giúp doanh nghiệp tăng tốc phân tích dữ liệu, phát hiện bất thường, hỗ trợ điều tra an ninh và tự động hóa các công việc lặp lại.