Nguy cơ nội dung bị đầu độc để 'hack' chatbot AI

15:00

Nhiều doanh nghiệp trong nước đang tích hợp chatbot AI với các nền tảng mở, nhưng không ngờ chúng có thể bị "đầu độc", làm sai lệch thông tin.

Tại sự kiện về phát triển hạ tầng số và phần mềm mã nguồn mở ngày 26/7 ở Hà Nội, ông Đào Việt Hùng, Giám đốc quốc gia Akamai Technologies Việt Nam, cho biết nhiều doanh nghiệp Việt ứng dụng mạnh mẽ các nền tảng mở, tích hợp chatbot AI để cải thiện hiệu suất và nâng cao trải nghiệm người dùng. Tuy nhiên, cùng với lợi ích, mô hình AI cũng trở thành mục tiêu của nhiều phương thức tấn công, trong đó có hình thức "đầu độc nội dung".

"Đầu độc" là cách kẻ xấu liên tục đặt câu hỏi và cung cấp thông tin sai lệch để dạy lại mô hình AI. Khi dữ liệu bị nhiễm nhưng chưa được phát hiện, hệ thống sẽ tiếp tục sử dụng thông tin sai, gây rò rỉ hoặc bị khai thác lỗ hổng để truy cập cơ sở dữ liệu.

Ông dẫn chứng một trường hợp thực tế, trong đó chatbot bán hàng trực tuyến của một hãng ôtô bị khách hàng thuyết phục bán xe mới với giá chỉ một USD. Người này đã khai thác lỗ hổng trong quá trình trao đổi, khiến chatbot chấp nhận yêu cầu. Trong một sự cố khác, hacker lấy được tài liệu mật và sơ đồ tổ chức nội bộ công ty chỉ bằng cách soạn chuỗi câu hỏi phù hợp gửi đến chatbot AI.

Phần mềm mã nguồn mở là nền tảng có mã lập trình công khai. Các chatbot AI xây dựng trên nền tảng này dễ tùy biến để phục vụ nhu cầu doanh nghiệp, nhưng cũng trở thành mục tiêu của hình thức "đầu độc" nếu thiếu biện pháp bảo mật phù hợp.

Theo ông Vũ Thế Bình, Phó chủ tịch kiêm Tổng thư ký Hiệp hội Internet Việt Nam, hạ tầng mở vẫn tiếp tục phát triển, đóng vai trò nền tảng cho đổi mới sáng tạo. "Hơn 90% doanh nghiệp hiện sử dụng nền tảng hoặc phần mềm mở dưới nhiều hình thức", ông cho biết.

Khảo sát của Red Hat năm 2024 cho thấy 82% lãnh đạo công nghệ xem nền tảng mở là yếu tố then chốt thúc đẩy chuyển đổi số và tăng tốc đổi mới. Các nền tảng nguồn mở như Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry ngày càng quan trọng trong vận hành hệ thống AI, IoT, 5G/6G và cloud native.

Giải pháp được ông Hùng đề xuất là áp dụng "AI bảo vệ AI". Hệ thống bảo mật AI tích hợp nhiều lớp bảo vệ cho dữ liệu, giúp tự phân loại thông tin an toàn, hay phát hiện dữ liệu tiềm ẩn nguy cơ tấn công, từ đó xử lý nhanh và phù hợp.

Trọng Đạt