Google đối mặt vụ kiện liên quan đến tác động tiêu cực của AI

Đơn kiện nộp lên Tòa án Cấp cao California ngày 2/11 cáo buộc công cụ trí tuệ nhân tạo (AI) của Google tích hợp trên máy tính trường học đã khiến một nữ sinh 13 tuổi tại Mỹ lập kế hoạch tự tử.

Vụ kiện đã được đệ trình lên Tòa án Cấp cao California phản ánh việc một học sinh 13 tuổi lên kế hoạch tự tử sau nhiều tháng trò chuyện với AI của Google trên máy tính Chromebook do nhà trường cung cấp. Đây là vụ kiện mới nhất trong làn sóng pháp lý nhắm vào tác động của các tập đoàn công nghệ lớn đối với giới trẻ. 

Đơn kiện cáo buộc Google đã vội vã tích hợp các tính năng AI vào ứng dụng trên máy tính Chromebook cấp cho hàng triệu học sinh tại các trường học ở Mỹ mà không thông báo cho phụ huynh về các rủi ro tiềm ẩn.

Theo nội dung đơn kiện, Emma, học sinh lớp 7 tại Charlotte, bang Bắc Carolina đã tin rằng bản thân mắc nhiều rối loạn tâm thần sau khi tương tác với tính năng AI Mode trên công cụ tìm kiếm Google Search. Đến giữa tháng 3, Emma đã trao đổi hàng nghìn tin nhắn với AI đến tận đêm khuya. Công cụ AI này đã tự chẩn đoán bệnh tâm thần cho em, thuyết phục em tin tưởng AI hơn cha mẹ và các chuyên gia tư vấn, đồng thời hỗ trợ em lập kế hoạch tự tử và tang lễ.

Bố mẹ Emma chỉ phát hiện ra sự việc sau khi công ty giám sát kỹ thuật số của nhà trường phát hiện bản thảo thư tự tử em đang viết trên Google Docs và đưa ra cảnh báo khẩn cấp. Học sinh này sau đó đã được đưa đi đánh giá tâm thần khẩn cấp và hiện phải điều trị tâm lý hằng tuần.

Trước vụ kiện này, Google cho biết đã phối hợp chặt chẽ với các chuyên gia y tế để xây dựng các tính năng giúp người trẻ tìm kiếm nguồn trợ giúp khẩn cấp. Người phát ngôn của Google Jose Castaneda khẳng định hệ thống tìm kiếm của hãng từ nhiều năm nay luôn hiển thị thông tin đường dây nóng khi người dùng gặp khủng hoảng tâm lý và công ty đang tích cực xem xét các cáo buộc trong đơn kiện.

Vụ việc cũng làm nổi bật sự phụ thuộc của các trường học tại Mỹ vào hạ tầng công nghệ của Google. Dù các quản trị viên nhà trường có thể bật hoặc tắt một số ứng dụng cho học sinh, hệ thống của Google không cho phép họ tắt tính năng AI Mode và AI Overview được tích hợp sẵn trong công cụ tìm kiếm. Nhằm xoa dịu lo ngại, Google thông báo kế hoạch sẽ tự động tắt một số ứng dụng và tính năng AI tại các trường học từ cấp mầm non đến lớp 12 vào đầu năm 2027.

Vụ kiện diễn ra trong bối cảnh các tập đoàn công nghệ lớn tại Mỹ đối mặt với hàng loạt vụ kiện tụng về tác động tiêu cực của công nghệ tới người dùng nhỏ tuổi. Gần đây, Tập đoàn Meta đã đồng ý chi trả tới 17,1 tỷ USD để dàn xếp các cáo buộc từ 47 bang tại Mỹ về việc sử dụng các tính năng gây nghiện cho trẻ em. Nhiều phụ huynh khác tại Mỹ cũng đã đệ đơn kiện các công ty AI sau khi con cái họ tự tử sau các cuộc trò chuyện kéo dài với chatbot.