"Mọi người trao cho OpenClaw quyền truy cập tối cao vào toàn bộ cuộc sống của họ", Musk viết trên X hôm 24/2, đăng kèm hình ảnh một con khỉ được đưa súng trường.
Hình ảnh này ban đầu được người dùng Devour sử dụng để phản hồi bài viết của Summer Yue, Giám đốc phụ trách an toàn AI của Meta. Yue gặp rắc rối khi dùng thử OpenClaw, tác nhân AI mã nguồn mở có thể hoạt động 24/7 thay mặt người dùng. Yue cho phép OpenClaw kiểm tra hộp thư quá tải và đề xuất những email cần xóa hoặc lưu trữ, nhưng yêu cầu tác nhân xác nhận trước khi hành động. Tuy nhiên, nó trở nên mất kiểm soát và lập tức xóa hàng loạt email, phớt lờ lệnh dừng của cô trên điện thoại.
"Tôi không thể ngăn nó từ điện thoại. Tôi phải chạy đến máy tính Mac mini như thể đang gỡ bom vậy", Yue kể trên X hôm 24/2.
Peter Steinberger, "cha đẻ" OpenClaw, đáp lại bài đăng của Yue rằng chỉ cần nhập lệnh "dừng lại" là giải quyết được mọi chuyện. Trong khi đó, Musk châm chọc Yue: "Một người từng bị OpenClaw đánh bại chắc hẳn sẽ xử lý được vấn đề an toàn AI".
Yue cho biết, cô đã thử nghiệm trợ lý ảo của mình với một hộp thư "đồ chơi" nhỏ hơn. Nó hoạt động tốt với những email ít quan trọng và tạo được lòng tin, khiến cô chuyển sang áp dụng với hộp thư thật.
Yue đánh giá lượng dữ liệu khổng lồ trong hộp thư thật đã kích hoạt quá trình nén, xảy ra khi cửa sổ ngữ cảnh - bản ghi liên tục về mọi thứ mà AI ghi nhận và thực hiện trong một phiên làm việc - trở nên quá lớn, khiến tác nhân phải tóm tắt, nén và quản lý lại cuộc trò chuyện. Khi đó, AI có thể bỏ qua những chỉ dẫn mà người dùng cho là quan trọng, như yêu cầu "không hành động" của Yue.
OpenClaw và Moltbook, mạng xã hội chỉ dành cho tác nhân AI, đang thu hút sự chú ý lớn những tuần qua khi các lập trình viên chia sẻ video về các AI tự đăng bài, tranh luận và kết nối mạng.
Tuần trước, Sam Altman, CEO OpenAI, thông báo đã tuyển dụng "cha đẻ" OpenClaw để "dẫn dắt thế hệ trợ lý cá nhân tiếp theo". Steinberger và Altman khẳng định OpenClaw sẽ tiếp tục tồn tại dưới dạng dự án mã nguồn mở và được OpenAI hỗ trợ. "Tương lai sẽ là mô hình đa tác nhân, và việc hỗ trợ mã nguồn mở là điều quan trọng với chúng tôi trong bối cảnh đó", Altman nói.
Thu Thảo (Theo Business Insider, Tech Crunch)