Nội dung rác do AI tạo ra tràn ngập YouTube: Australia đề xuất đưa vào danh sách cấm với trẻ em

Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đang làm thay đổi căn bản hệ sinh thái nội dung số toàn cầu. Bên cạnh các sản phẩm sáng tạo chất lượng cao, một làn sóng nội dung do AI tạo ra với chất lượng thấp - thường được gọi là “AI slop” - đang lan rộng trên YouTube, đặt ra những thách thức lớn đối với quản lý nền tảng và an toàn người dùng, đặc biệt là trẻ em.

Trước thực trạng này, Australia đang cân nhắc đưa YouTube vào diện cấm sử dụng đối với người dưới 16 tuổi.

Nội dung rác do AI tạo ra chiếm sóng YouTube

Một nghiên cứu của công ty Kapwing (Mỹ) cho thấy hơn 20% video được YouTube đề xuất cho người dùng mới là “AI slop” - nội dung do AI tạo ra với mục tiêu chính là thu hút lượt xem và doanh thu quảng cáo. Các video này thường thiếu ngữ cảnh, lặp lại mô-típ phi lý, dễ gây nghiện và được sản xuất hàng loạt.

Nghiên cứu cũng chỉ ra rằng hàng trăm kênh YouTube chỉ đăng tải nội dung AI slop, thu hút hàng chục tỷ lượt xem và hàng trăm triệu lượt theo dõi, tạo ra doanh thu lên tới hàng trăm triệu USD mỗi năm. Một phân tích độc lập của báo The Guardian cho thấy gần 10% các kênh YouTube tăng trưởng nhanh nhất hiện nay thuộc nhóm nội dung AI chất lượng thấp, bất chấp các chính sách kiểm soát của nền tảng.

Nhà báo Max Read, người theo dõi hiện tượng này trong thời gian dài, nhận định yếu tố quyết định thành công của AI slop không nằm ở sáng tạo con người, mà ở thuật toán phân phối nội dung của YouTube và các nền tảng mạng xã hội lớn.

Một người phát ngôn của YouTube cho biết: “AI là một công cụ và giống như mọi công cụ khác, nó có thể được sử dụng để tạo ra cả nội dung chất lượng cao lẫn chất lượng thấp. Chúng tôi tập trung kết nối người dùng với nội dung chất lượng, bất kể nó được tạo ra như thế nào”.

Australia cân nhắc siết chặt quản lý YouTube để bảo vệ trẻ em

Trong bối cảnh nội dung AI rác ngày càng lan rộng, Ủy viên An toàn Trực tuyến Australia Julie Inman Grant đã khuyến nghị chính phủ xem xét đưa YouTube vào danh sách cấm mạng xã hội đối với người dùng dưới 16 tuổi.

Phát biểu tại Câu lạc bộ Báo chí Quốc gia, bà nhấn mạnh: “Khuyến nghị của chúng tôi là không miễn trừ bất kỳ nền tảng cụ thể nào, bởi các rủi ro và tác hại trực tuyến có thể thay đổi tại bất kỳ thời điểm nào”, đồng thời khẳng định không nền tảng nào có thể tự nhận là “hoàn toàn an toàn”.

Australia hiện là quốc gia đầu tiên ban hành luật cấm trẻ em truy cập các nền tảng mạng xã hội lớn, từ ngày 10/12 vừa qua. Việc YouTube ban đầu được loại trừ đang gây tranh cãi, trong bối cảnh các nghiên cứu cho thấy YouTube là nền tảng được trẻ em nhắc đến nhiều nhất khi nói về việc tiếp xúc với nội dung độc hại, bao gồm thù ghét, bạo lực và các hành vi gây tổn hại tâm lý.

Google - công ty mẹ của YouTube - phản đối đề xuất này, cho rằng: “YouTube không phải là mạng xã hội, mà là một nền tảng phát video với thư viện nội dung giáo dục phong phú, được sử dụng rộng rãi trong trường học”.

Tuy nhiên, bà Inman Grant làm rõ rằng khuyến nghị của bà không cấm giáo viên sử dụng YouTube cho mục đích giảng dạy, miễn là không yêu cầu học sinh đăng nhập tài khoản cá nhân.