Pháp muốn cấm AI ở những lĩnh vực gây nguy hại cho trẻ em

Tổng thống Pháp Emmanuel Macron ngày 9/11 tuyên bố rằng trí tuệ nhân tạo (AI) nên bị cấm ở bất kỳ nơi nào gây ra rủi ro cho sức khỏe tâm thần của trẻ em.

Quan điểm trên được đưa ra ngay trước thời điểm thông qua một bản hiến chương về vấn đề này tại Diễn đàn Hòa bình Paris. Văn phòng Tổng thống Pháp cho biết bản hiến chương nhằm cung cấp thông tin cho các cuộc thảo luận lập pháp liên quan đến AI ở cấp quốc gia và châu Âu và sẽ quy tụ các tập đoàn công nghệ từ Mỹ như OpenAI và Anthropic. Ông Macron cho biết các công ty này sẽ chấp nhận nguyên tắc kiểm định và chứng nhận trước, bao gồm việc xem xét kỹ lưỡng các mô hình AI trước khi chúng được đưa đến tay trẻ em.

Một ủy ban chuyên gia dự kiến sẽ trình lên ông Macron các khuyến nghị về việc bảo vệ trẻ em trước AI, một vấn đề vốn chưa được nghiên cứu kỹ lưỡng như tác động của các mạng xã hội. Tiếp đó, các phòng thí nghiệm nghiên cứu sẽ cam kết thực hiện một số biện pháp trong khuôn khổ bản hiến chương, chẳng hạn như đánh giá độc lập đối với các hệ thống AI tạo sinh trước khi đưa ra thị trường, cũng như cho phép tiếp cận dữ liệu của những mô hình này.

Ông Macron cho biết Pháp sẽ thúc đẩy các quy định tại châu Âu, đồng thời vận động Mỹ, Canada (Ca-na-đa) và các quốc gia khác cùng hành động tương tự. Đó sẽ là những nền móng đầu tiên cho việc xây dựng quy định đối với các hệ thống AI tiên tiến nhất, với mục tiêu là tạo ra một khuôn khổ có tính đến các mối nguy hiểm, được chia thành ba nhóm: trẻ em, an ninh dân chủ và các vấn đề an ninh quốc gia trọng yếu.

Ông Macron cũng đã tập hợp khoảng 50 nguyên thủ quốc gia và người đứng đầu chính phủ, đại diện các tổ chức quốc tế, doanh nghiệp, các nhà nghiên cứu cùng các phòng thí nghiệm tham gia một cuộc họp trực tuyến để thảo luận về những rủi ro mà AI gây ra đối với an ninh chung. Các thủ tướng của Anh, Canada, Na Uy, Hà Lan và Nhật Bản đã tham gia cuộc họp trực tuyến này, cùng với các giám đốc điều hành của OpenAI, Anthropic, Mistral và Microsoft.