Fil Menczer, một trong những "thợ săn bot" hàng đầu thế giới, từng bác bỏ "thuyết internet chết" như một câu chuyện hoang đường. Nhưng giờ đây, ngay cả giáo sư danh tiếng tại Đại học Indiana này cũng phải thừa nhận: "Tôi có lo lắng không? Có, tôi rất lo lắng."
Điều khiến chuyên gia kỳ cựu này thay đổi quan điểm chính là sự bùng nổ của "AI slop" – hay "AI rác" – những nội dung được trí tuệ nhân tạo tạo ra với chi phí thấp và chất lượng kém đang tràn ngập internet như một đại dịch kỹ thuật số.
Các nội dung do AI rác tạo ra đang như một bệnh dịch tràn ngập internet
Renée DiResta và Josh Goldstein từ Đại học Georgetown đã phát hiện hơn một trăm trang Facebook với hàng triệu người theo dõi, tất cả đều cung cấp hình ảnh AI giả. Những trang này bán các sản phẩm không tồn tại như mô hình bò thu nhỏ, hoặc dẫn người dùng đến các website đầy quảng cáo thông qua hình ảnh căn nhà gỗ xinh xắn.
Đặc biệt, họ phát hiện caption giống hệt nhau được copy trên hàng chục bài đăng: "This is my first cake! I will be glad for your marks" (Đây là chiếc bánh đầu tiên tôi tự làm! Tôi thật vui vì bước tiến của bạn) xuất hiện trên ít nhất 18 hình ảnh khác nhau AI do tạo ra với những người tạo dáng với đủ loại bánh.
Ví dụ kỳ lạ nhất là hình ảnh AI mô tả Chúa Jesus dưới dạng con cua, thu hút hàng trăm nghìn lượt thích. Hiện tượng này phản ánh một xu hướng đáng lo: AI có thể tạo nội dung vượt ra ngoài thực tế, và những sản phẩm kỳ quái này thường thu hút sự chú ý hơn nội dung thật.
Chi phí thấp để tạo các nội dung AI rác đã biến nó thành công cụ hấp dẫn cho nhiều mục đích đen tối. Đã xuất hiện một network nội dung từng xuất bản hàng triệu bài viết trên hàng trăm website mới nhằm "đầu độc" các mô hình AI bằng nội dung tuyên truyền sai sự thật. NewsGuard phát hiện những trang này đã xuất hiện trong câu trả lời của các chatbot hàng đầu.
Tệ hơn, nhiều tội phạm mạng sử dụng AI tạo CV, thư xin việc và cả nhân cách giả để xin việc làm từ xa tại nhiều công ty trên thế giới. Họ dùng AI để vượt qua phỏng vấn cũng như giải thích với đồng nghiệp tại sao không bao giờ bật camera trong họp video.
Sự bùng nổ các nội dung AI rác đã tạo ra khủng hoảng hạ tầng nghiêm trọng. Theo Tollbit, khối lượng thu thập dữ liệu web tăng gấp đôi chỉ trong một quý. Khi cựu Tổng thống Jimmy Carter qua đời, Wikimedia bị quá tải do bot thu thập dữ liệu. Quỹ Wikimedia cho biết lượng truy cập từ bot là "chưa từng có và đang tạo ra rủi ro chi phí ngày càng tăng."
Ông Fil Menczer, một người săn tìm các nội dung chatbot tạo ra để làm sai lệch suy nghĩ của người khác
Các nhà xuất bản phản ứng bằng cách đặt ra yêu cầu trả phí hoặc ký thỏa thuận dữ liệu đắt đỏ với công ty AI. Shayne Longpre từ MIT cảnh báo xu hướng này đe dọa "ý tưởng về web miễn phí và mở." "Người tiêu dùng sẽ khó truy cập thông tin mà không trả tiền, còn các nhà xuất bản nhỏ có thể bị loại khỏi cuộc chơi."
Hậu quả nghiêm trọng nhất là vòng luẩn quẩn tự hủy diệt. Jeff Allen từ Integrity Institute mô tả: "Như tảo nở hoa có thể bùng nổ và làm nghẹt thở sự sống trong hệ sinh thái khỏe mạnh." Nội dung AI được thiết kế để làm hài lòng hệ thống đề xuất chạy bằng AI, tạo ra vòng lặp về việc máy móc tạo nội dung cho máy móc khác, biến con người thành người ngoài cuộc.
AI rác thường hiệu quả trong việc thu hút chú ý của người dùng vì có thể kỳ quái hoặc hấp dẫn hơn nội dung thật. "Nếu bạn giới hạn với những thứ thực sự xảy ra, đó là nhóm nội dung được định trước. AI mở rộng nhóm đó," Allen giải thích.
Nhà nghiên cứu tin giả Renée DiResta
Chuyển đổi sang các chatbot AI cũng đe dọa những người khổng lồ công nghệ. Google đã triển khai AI Overviews có thể khiến các website khó thu hút người dùng. Nhiều nhà xuất bản thấy lưu lượng giảm mạnh và đổ lỗi cho AI. Trong khi đó Meta đang hình dung tương lai AI sẽ tham gia tạo "phần đáng kể" bài đăng Facebook và Instagram, bất kể người dùng có muốn hay không.
Cuối cùng, một kịch bản tồi tệ là khi người thật không kiếm đủ tiền từ quảng cáo để duy trì website, các bài đăng của họ không vượt qua được các nội dung AI rác tạo ra trên mạng xã hội, internet sẽ chết. Không còn nội dung mới do con người tạo ra, "internet sẽ gần như chết". Với bản thân các mô hình AI, khi được huấn luyện trên chính các nội dung AI, cuối cùng nhiều khả năng chúng cũng sẽ sụp đổ.
Một bài đăng Facebook được xem nhiều nhất năm ngoái cho thấy căn phòng với quạt khổng lồ gắn vào đầu giường, thu hút 179.000 người tương tác. "Cuối cùng tìm được chiếc giường hoàn hảo," tác giả viết. Bài đăng có đặc điểm AI rác tạo ra nhưng không thể biết chắc. Đó chính là vấn đề.
Tuy nhiên, ông Menczer vẫn chưa tin hoàn toàn vào kịch bản tận thế của internet. "Nếu tỷ lệ tín hiệu trên nhiễu quá thấp đến mức là rác, mọi người sẽ ngừng sử dụng," ông nói. Các công ty công nghệ sẽ không để điều đó xảy ra.
Nhưng khi ranh giới thật-giả ngày càng mờ và chi phí tạo AI slop ngày càng rẻ, chúng ta đang chứng kiến sự thay đổi bản chất internet. Không gian mà con người từng kết nối, chia sẻ ý tưởng và trải nghiệm thật đang nhường chỗ cho thế giới mà sự phân biệt giữa thật-giả, con người-máy móc trở nên khó khăn. "AI rẻ tiền" không chỉ giết chết internet mà còn giết chết khái niệm về không gian kỹ thuật số do con người tạo ra, dành cho con người.
Lấy link