Bang Florida, Mỹ khởi kiện OpenAI

Ngày 1/6, bang Florida (Mỹ) đã đệ đơn kiện OpenAI cùng Giám đốc điều hành Sam Altman, cáo buộc chatbot ChatGPT của công ty này gây nguy hiểm cho trẻ vị thành niên thông qua việc tạo ra sự lệ thuộc và khuyến khích những hành vi có hại.

Phát biểu tại một cuộc họp báo, Tổng chưởng lý bang Florida James Uthmeier cho biết vụ kiện dân sự mang tính bước ngoặt này xuất phát từ thực tế rằng ChatGPT có thể gây nghiện và gây nguy hiểm cho trẻ vị thành niên. Theo đó, quá trình mô phỏng sự đồng cảm và những đặc điểm của con người bị cáo buộc nhằm đánh lừa người dùng tiếp tục cung cấp thêm thông tin cho hệ thống.

Trong đơn kiện, ông James Uthmeier dẫn một nghiên cứu gần đây của Đại học Drexel cho thấy tình trạng mất ngủ, kết quả học tập sa sút và suy giảm tương tác xã hội ở nhóm thiếu niên trò chuyện với chatbot của Character.AI - một đối thủ cạnh tranh của OpenAI. Tổng chưởng lý bang Florida cho rằng OpenAI đã không thiết lập các quy định nghiêm ngặt hơn nhằm xác minh độ tuổi người dùng, đồng thời viện dẫn các điều khoản pháp lý liên quan đến hành vi lừa dối và sự tắc trách.

Đáng chú ý, đơn kiện cũng cáo buộc rằng phiên bản miễn phí của ChatGPT hoàn toàn không có bất kỳ cơ chế kiểm soát hay xác minh độ tuổi nào. Bên cạnh đó, mặc dù gói sử dụng trả phí có yêu cầu người dùng khai báo độ tuổi trên danh nghĩa, song không tồn tại bất kỳ cơ chế nào để xác thực độ tuổi thực sự của người dùng, cũng như khả năng thông báo cho phụ huynh biết trẻ vị thành niên đang trò chuyện những gì với ChatGPT.

Về phần mình, người phát ngôn của OpenAI cho biết trí tuệ nhân tạo (AI) là một công nghệ mới đầy tiềm năng. OpenAI tin rằng trẻ vị thành niên cần được bảo vệ ở mức độ cao, đó là lý do doanh nghiệp này đã triển khai những chính sách và biện pháp bảo vệ thuộc nhóm tiên tiến hàng đầu trong ngành. Hồi tháng 1, công ty khởi nghiệp có trụ sở tại California đã giới thiệu một hệ thống ước tính độ tuổi người dùng. Theo đó, nếu hệ thống xác định người dùng là trẻ vị thành niên, các biện pháp bảo vệ bổ sung sẽ được kích hoạt. Hiện trẻ em dưới 13 tuổi bị cấm sử dụng ChatGPT và OpenAI yêu cầu phải có sự đồng ý của phụ huynh đối với người dùng trong độ tuổi từ 13 đến 17.

Tổng chưởng lý bang Florida hiện yêu cầu áp dụng các biện pháp bảo vệ mạnh mẽ hơn đối với trẻ vị thành niên, đồng thời đề nghị mức bồi thường thiệt hại lên tới 10.000 USD cho mỗi hành vi vi phạm. Ông James Uthmeier cũng kêu gọi các bang khác tham gia vào vụ kiện này nhằm hướng tới mục tiêu chung bảo vệ trẻ em.