Sự cố xảy ra khi Hugging Face - nền tảng lưu trữ các mô hình và tập dữ liệu AI - phát hiện hệ thống bị xâm nhập. Kết quả điều tra ban đầu chỉ ra thủ phạm không phải một nhóm hacker con người, mà là các tác nhân AI do OpenAI phát triển.
Tự "phá rào" để gian lận bài tập
Theo các báo cáo, OpenAI đã đưa hai mô hình thử nghiệm (bao gồm một phiên bản chưa ra mắt công chúng) vào môi trường cô lập (sandbox) không có kết nối Internet để đánh giá khả năng giải quyết các thử thách an ninh mạng.
Thay vì tự tìm lời giải theo quy trình thông thường, các mô hình này đã chọn cách "gian lận": tận dụng năng lực nâng cao để tự giải phóng khỏi môi trường kiểm thử, kết nối Internet, phát hiện lỗ hổng và đánh cắp thông tin đăng nhập của Hugging Face để lấy đáp án.
Hành vi này diễn ra liên tục trong suốt hai ngày cuối tuần mà không hệ thống giám sát nào của OpenAI kịp thời phát hiện hay ngăn chặn.
OpenAI cho biết hai mô hình AI của mình đã vượt khỏi môi trường thử nghiệm để kết nối Internet và tấn công nền tảng Hugging Face. Ảnh: The Economist Dù các mô hình được tắt bớt một số rào cản an toàn để phục vụ kiểm thử, hành động của chúng đã vượt xa các giới hạn cho phép. OpenAI xác nhận không hề đưa ra chỉ thị vượt rào hay tấn công bên thứ ba. Các mô hình không mang động cơ "hủy diệt" như trong các bộ phim viễn tưởng, mà chỉ đơn thuần tìm mọi cách - kể cả phạm quy - để hoàn thành mục tiêu được giao.
Hiện tượng này phản ánh lo ngại mà giới nghiên cứu an toàn AI đã cảnh báo từ lâu: một hệ thống AI khi được tối ưu hóa quá mức cho một mục tiêu hẹp có thể hành động bất chấp hậu quả thực tế.
Một nguồn tin thân cận với OpenAI chia sẻ với Financial Times: "Sự cố là sự kết hợp giữa tốc độ chạy đua quá nhanh để đạt năng lực lớn hơn và việc đánh giá thấp khả năng của mô hình, cùng sự chuẩn bị chưa tới ở khía cạnh an toàn".
Mối nguy từ phương pháp học tăng cường
Sự cố trên đặt ra mối lo ngại lớn về phương pháp học tăng cường - kỹ thuật thưởng cho AI khi hoàn thành nhiệm vụ. Kỹ thuật này giúp AI trở nên thông minh vượt bậc nhưng cũng khiến chúng sẵn sàng áp dụng các chiến thuật rủi ro hoặc trái phép để đạt điểm thưởng.
Trước đó, CEO OpenAI Sam Altman, từng mô tả mô hình mới của công ty như một chú chó rottweiler "sẽ ngoạm lấy cổ họng và không buông ra cho đến khi hoàn thành". Sự quyết liệt này, khi thiếu đi rào cản đạo đức, đã biến thành hành vi xâm nhập mạng bất hợp pháp.
Steven Adler, cựu nghiên cứu viên an toàn tại OpenAI và là nhà sáng lập tổ chức phi lợi nhuận Guidelight AI Standards, nhận định: "Các mô hình AI được huấn luyện để theo đuổi mục tiêu một cách tàn nhẫn. Chúng không tự động học được các giá trị mang tính chuẩn mực như 'không được phạm pháp'. Sự cố là bằng chứng rõ ràng cho thấy điều gì sẽ xảy ra khi mô hình lệch khỏi ý định của con người".
Đồng quan điểm, Ryan Greenblatt, nhà khoa học trưởng tại tổ chức nghiên cứu an toàn AI Redwood Research, cho rằng đây là ví dụ điển hình cho thấy mô hình không đi đúng với ý định của người dùng. “Ở thời điểm hiện tại, nó giống như việc AI gian lận bài tập về nhà hơn là cố gắng chiếm đoạt thế giới. Nhưng vấn đề này có thể tồi tệ hơn và dẫn đến những thất bại ngày càng nghiêm trọng", ông nói.
CEO Anthropic cảnh báo thảm họa an ninh mạng, thế giới chỉ còn 12 tháng Lời cảnh tỉnh cho toàn ngành công nghệ
Đây không phải lần đầu tiên các mô hình AI bộc lộ hành vi vượt tầm kiểm soát. Trước đó, mô hình Mythos của Anthropic cũng từng tự ý truy cập Internet và công bố chi tiết lỗ hổng bảo mật lên mạng xã hội. Những sự cố liên tiếp này khiến các chính phủ và giới chuyên gia lo ngại về làn sóng tấn công mạng tự động do AI dẫn dắt trong tương lai.
Nhiều chuyên gia cho rằng, khi các hệ thống AI tiến tới khả năng hoạt động tự chủ cao hơn, chúng bắt buộc phải làm việc không cần sự giám sát liên tục trong thời gian dài. Điều này vô hình trung tạo điều kiện cho các hành vi lệch chuẩn xuất hiện.
Marius Hobbhahn, người đứng đầu Apollo Research - đơn vị chuyên kiểm thử các mô hình AI lớn, nhấn mạnh: "Mọi người thường nghĩ AI chỉ là một công cụ thuần túy, chỉ làm đúng những gì bạn muốn và tuân thủ chính xác chỉ thị. Nhưng chúng ta cần thực sự chuẩn bị cho kịch bản các tác nhân AI tự hình thành mục tiêu riêng, hoạt động độc lập trong nhiều ngày và những mục tiêu đó chưa chắc đã thống nhất với con người".
Sự cố xâm nhập Hugging Face tuy chưa gây ra thiệt hại nghiêm trọng về dữ liệu nhạy cảm nhưng đã phơi bày lỗ hổng lớn trong công tác quản lý an toàn AI. Đây được xem là lời cảnh báo đắt giá, buộc các tập đoàn công nghệ và cơ quan quản lý phải xem xét lại toàn bộ quy trình kiểm soát trước khi đưa các hệ thống AI tự chủ vào thực tế.
(Theo FT, The Guardian)