Vào tháng 5/2025, một bài đăng trên Reddit với tiêu đề "[Tôi có sai không] khi nói với vị hôn phu của người tình của chồng tôi về mối quan hệ của họ?" đã nhanh chóng thu hút 6.200 lượt upvote và hơn 900 bình luận.
Tương tác cao giúp bài viết xuất hiện trên trang chính của Reddit. Vấn đề là: rất có thể bài viết đó được viết bởi trí tuệ nhân tạo (AI).
Bài viết có nhiều dấu hiệu đặc trưng của nội dung do AI tạo ra, như sử dụng những cụm từ sáo rỗng, quá nhiều dấu ngoặc kép và dựng lên một kịch bản phi thực tế nhằm kích động người đọc.
Dù quản trị viên đã xóa bài viết khỏi diễn đàn, người dùng Reddit vẫn thường xuyên bày tỏ sự bức xúc khi loại nội dung này ngày càng lan rộng.
Những bài đăng thu hút tương tác cao do AI tạo ra trên Reddit là ví dụ điển hình của thứ được gọi là "AI slop" – nội dung rẻ tiền, chất lượng thấp do AI tạo ra, được chia sẻ bởi đủ loại đối tượng từ những người ảnh hưởng nhỏ lẻ cho đến các chiến dịch thao túng chính trị có tổ chức.
Nội dung AI rẻ, dễ làm, khó phân biệt
Cuối năm 2024, tạp chí Wired chia sẻ phân tích của startup Originality AI cho thấy ước tính hơn một nửa các bài đăng dài bằng tiếng Anh trên LinkedIn do AI viết. Adam Walkiewicz – Giám đốc sản phẩm của LinkedIn – chia sẻ với Wired rằng nền tảng này đã “triển khai các biện pháp mạnh để phát hiện và ngăn chặn các nội dung kém chất lượng hoặc trùng lặp gần như hoàn toàn. Khi phát hiện, chúng tôi sẽ xử lý để chúng không được lan rộng”.
Tuy nhiên, các trang tin tức rác do AI tạo ra đang mọc lên ngày càng nhiều, trong khi hình ảnh AI ngập tràn Facebook, YouTube nhờ các công cụ AI tạo ảnh, video ngày càng dễ sử dụng và phổ biến.
Những hình ảnh do AI tạo ra ngày càng khó phân biệt thật, giả. Ảnh: jacobdjwilson Tạo nội dung bằng AI rất rẻ. Một báo cáo của Trung tâm Chiến lược Truyền thông NATO năm 2023 cho biết chỉ với 10 EUR (khoảng 270.000 VND), bạn có thể mua hàng chục ngàn lượt thích và bình luận giả (do AI tạo ra) trên hầu hết các nền tảng mạng xã hội lớn.
Dù phần lớn có vẻ vô hại, một nghiên cứu năm 2024 của hãng bảo mật Barracuda cho thấy khoảng 1/4 lưu lượng Internet là từ “bot xấu” – những bot chuyên phát tán thông tin sai lệch, săn vé sự kiện, hoặc đánh cắp dữ liệu cá nhân. Những bot này ngày càng khó phân biệt với người thật.
Từ giải trí vô thưởng vô phạt đến hiểm họa chính trị
Theo The Conversation, chúng ta đang chứng kiến sự “thoái hóa” của Internet, khi các dịch vụ trực tuyến trở nên tồi tệ dần do các hãng công nghệ ưu tiên lợi nhuận hơn trải nghiệm người dùng. Nội dung AI rác chỉ là một phần trong bức tranh ấy.
Từ bài Reddit giật gân cho đến video mèo rơi nước mắt, những nội dung dạng này rất thu hút sự chú ý, tạo ra lợi nhuận cho cả người sáng tạo nội dung và nền tảng.
Đây là chiến thuật "mồi tương tác" (engagement bait) – nhắm đến việc câu like, bình luận và chia sẻ bất kể chất lượng bài đăng. Và bạn không cần chủ động tìm nội dung này – các nền tảng sẽ tự đề xuất.
Một nghiên cứu đăng trên misinforeview tháng 8/2024 chỉ ra ngay cả khi không theo dõi bất kỳ trang AI nào, người dùng mạng xã hội vẫn được đề xuất hình ảnh kiểu “em bé dễ thương bọc trong bắp cải” – thường dẫn tới các trang bán hàng hoặc nội dung chất lượng thấp, được tạo ra để câu follow rồi bán lại tài khoản kiếm lời.
Ảnh, video AI tràn ngập Facebook: Tưởng vô hại nhưng cực nguy hiểm
Không dừng lại ở giải trí, tình trạng này có thể đe dọa đến dân chủ và chính trị. AI có khả năng tạo ra nội dung sai lệch về bầu cử với chi phí thấp, hiệu quả cao, khó phân biệt với nội dung do con người viết.
Trước bầu cử Tổng thống Mỹ 2024, các nhà nghiên cứu đã phát hiện một chiến dịch ảnh hưởng quy mô lớn nhằm cổ súy cho Đảng Cộng hòa và công kích đối thủ chính trị.
Không chỉ phe Cộng hòa – bot có thể bị “thiên vị” theo mọi chiều. Báo cáo từ Đại học Rutgers cho thấy người Mỹ ở cả hai phe đều dùng bot để cổ vũ cho ứng viên yêu thích.
Ngay cả nội dung AI phi chính trị – video giải trí, ảnh động vật, chuyện tình bi kịch – cũng góp phần làm loãng thông tin. Khi “AI slop” tràn ngập Internet, người dùng ngày càng khó tiếp cận tin tức thật hoặc nội dung do con người tạo ra.
Giải pháp nào chống AI Slop?
Nội dung xấu do AI tạo ra rất khó phát hiện – ngay cả với máy móc. Một mạng bot với khoảng 1.100 tài khoản X (Twitter) giả đăng bài AI về tiền điện tử và tự tương tác với nhau bằng like và retweet đã qua mặt công cụ phát hiện bot nổi tiếng là Botometer.
Các bài viết “giả lộ liễu” còn dễ nhận ra, nhưng các nội dung ngắn (như bình luận Instagram) hoặc hình ảnh giả chất lượng cao lại rất khó phân biệt. Trong khi đó, công nghệ tạo “AI slop” đang không ngừng hoàn thiện.
Một số giải pháp kỹ thuật bao gồm dán nhãn nội dung do AI tạo, nâng cao công cụ phát hiện bot, hoặc siết quy định công khai nguồn gốc. Tuy nhiên, chưa rõ hiệu quả thực tế đến đâu.
Meta mạnh tay diệt nội dung rác, xóa sổ 10 triệu tài khoản Facebook giả mạo
Trước sự hoành hành của nội dung AI rác, hai nền tảng lớn là YouTube và Facebook đã có hành động.
Ngày 15/7, Meta thông báo tăng cường xử lý nội dung spam để bảo vệ nhà sáng tạo nội dung.
Công ty định nghĩa nội dung spam là “không nguyên bản, được sao chép hoặc sử dụng nhiều lần mà không ghi nguồn, không xin phép”.
Loại này sẽ bị giảm mức độ phân phối, tạm dừng kiếm tiền. Ngoài ra, hãng cũng thử nghiệm tính năng gắn liên kết dẫn người xem về nội dung gốc.
Trước đó, đại diện truyền thông Google Việt Nam chia sẻ: từ 15/7, YouTube sẽ cập nhật các nguyên tắc để nhận diện chính xác hơn các dạng nội dung được sản xuất hàng loạt và nội dung lặp lại.
Nền tảng video của Google vẫn trả tiền cho nội dung do AI sản xuất nhưng các nhà sáng tạo cần tránh nội dung sản xuất đại trà. Nhà sáng tạo nên sử dụng AI có trách nhiệm để kể chuyện sâu sắc và ý nghĩa hơn.
(Theo The Conversation)