OpenAI chặn một số hoạt động lạm dụng AI để phát tán tin giả

31/05/2024 11:46 GMT+7 | Tin tức 24h

Ngày 30/5, công ty OpenAI thông báo trong 3 tháng qua đã chặn một số hành vi tìm cách sử dụng các mô hình trí tuệ nhân tạo (AI) của công ty này để thực hiện "hoạt động lừa gạt" trên Internet.

Theo thông báo, trong 3 tháng qua, các mô hình AI của OpenAI đã bị lạm dụng để tạo các bình luận ngắn, các bài báo bằng nhiều ngôn ngữ khác nhau, cũng như tạo tên và tiểu sử giả cho các tài khoản truyền thông xã hội. 

Các chiến dịch này nhắm vào một số vấn đề địa chính trị, trong đó có các cuộc xung đột tại Ukraine và Gaza, bầu cử Ấn Độ, các vấn đề chính trị ở châu Âu và Mỹ. 

OpenAI chặn một số hoạt động lạm dụng AI để phát tán tin giả - Ảnh 1.

OpenAI chặn một số hoạt động lạm dụng AI. Ảnh: Internet

OpenAI cho rằng các chiến dịch này "tìm cách thao túng dư luận hoặc gây ảnh hưởng các kết quả chính trị". Theo OpenAI, các chiến dịch phát tán tin sai, tin giả này không thu hút được sự tương tác của khán giả cũng như không mở rộng được phạm vi tiếp cận.

Báo cáo của OpenAI chỉ ra rằng các chiến dịch trên không chỉ sử dụng các tài liệu do AI tạo ra mà còn bao gồm các văn bản viết tay và "meme" sao chép khắp Internet. Meme - thuật ngữ được sử dụng rộng rãi trên các nền tảng mạng xã hội, là những hình ảnh, video mang tính chất hài hước, châm biếm để biểu đạt cảm xúc, thái độ của người dùng đối với một chủ đề.

Mới đây, OpenAI công bố thành lập Ủy ban An toàn và Bảo mật AI. Công ty nổi tiếng với công cụ ChatGPT này cho biết ủy ban mới được thành lập nhằm giám sát các vấn đề an toàn của AI, trong bối cảnh công ty bắt đầu đào tạo một mô hình AI mới sau thành công của GPT-4, công nghệ cốt lõi của ChatGPT.

Trong báo cáo về bảo mật hằng quý được công bố ngày 29/5, công ty Meta cũng cho biết đã phát hiện nội dung "có thể do AI tạo ra" đang được lợi dụng vào hoạt động lừa đảo trên nền tảng Facebook và Instagram của công ty.

OpenAI ra mắt mô hình AI nâng cấp để hỗ trợ ChatGPT

Nguyễn Hằng/TTXVN

Tags:
Cùng chuyên mục
Xem theo ngày
Đọc thêm