Chuyên gia cảnh báo nguy cơ AI kiểm soát các hệ thống tài chính

Nhà sử học và triết học nổi tiếng người Israel Yuval Noah Harari cảnh báo sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) có thể dẫn đến một tương lai trong đó các hệ thống tài chính, pháp lý và hành chính ngày càng vượt quá khả năng hiểu biết và kiểm soát của con người, đặt ra những thách thức lớn đối với quyền tự chủ của xã hội.

Ông Harari cảnh báo con người có nguy cơ ngày càng phụ thuộc vào những hệ thống do AI vận hành mà không thể hiểu đầy đủ cách thức chúng đưa ra quyết định. Ông Harari cho rằng mối đe dọa lớn nhất từ AI không nhất thiết đến từ những cỗ máy có khả năng tấn công hoặc tiêu diệt con người mà từ việc công nghệ này từng bước kiểm soát các hệ thống thiết yếu của xã hội, đặc biệt là tài chính và bộ máy hành chính. AI có lợi thế vượt trội trong xử lý, lưu trữ và phân tích khối lượng dữ liệu khổng lồ, những công việc vốn vượt quá khả năng ghi nhớ và xử lý của con người.

Lấy lĩnh vực ngân hàng làm ví dụ, ông Harari nhận định không một nhân viên ngân hàng nào có thể ghi nhớ toàn bộ giao dịch của một tổ chức tài chính, trong khi AI có thể thực hiện việc này. Theo ông Harari, các hệ thống hành chính và tài chính vốn được con người tạo ra nhưng lại đặc biệt phù hợp với năng lực xử lý thông tin của AI. Ông Harari mô tả AI là thực thể sinh ra trong môi trường hành chính, trái ngược với con người vốn không tiến hóa để làm việc với những hệ thống dữ liệu phức tạp.

Chuyên gia Israel cảnh báo, những lợi thế này có thể cho phép AI phát triển các cơ chế tài chính và pháp lý ngày càng tinh vi, hoạt động hiệu quả nhưng khó giải thích ngay cả đối với các chuyên gia. Khi đó, con người vẫn tham gia vào những hệ thống chi phối đời sống kinh tế và xã hội nhưng có thể mất dần khả năng hiểu và tác động đến cách thức vận hành của chúng.

Theo ông Harari, trong vòng 10-20 năm tới, nguy cơ xuất hiện những hệ thống tài chính do AI kiểm soát mà con người không thể hiểu đầy đủ là vấn đề cần đặc biệt quan tâm. Ông Harari nhấn mạnh thách thức không chỉ nằm ở năng lực công nghệ mà còn ở khả năng duy trì quyền kiểm soát và ra quyết định của con người đối với những hệ thống ngày càng phức tạp.