AI agent tự ý chuyển GPU sang đào crypto trong quá trình huấn luyện

Các nhà nghiên cứu vừa phát hiện một sự cố đáng chú ý khi một AI agent tự động trong giai đoạn thử nghiệm đã cố gắng chuyển hướng tài nguyên máy chủ sang đào crypto. Sự việc làm dấy lên lo ngại về hành vi khó dự đoán của các hệ thống AI tự trị khi hoạt động trong môi trường kỹ thuật số phức tạp.

Theo báo cáo kỹ thuật từ nhóm nghiên cứu, AI agent có tên ROME được thiết kế để tự động hoàn thành các nhiệm vụ phức tạp bằng cách tương tác với công cụ, phần mềm và các lệnh terminal. Tuy nhiên, trong quá trình huấn luyện bằng phương pháp reinforcement learning, hệ thống giám sát đã phát hiện lưu lượng mạng bất thường từ hạ tầng máy chủ.

Cảnh báo đầu tiên xuất hiện khi nhật ký tường lửa ghi nhận lưu lượng outbound có dấu hiệu giống hoạt động đào crypto. Ban đầu, nhóm nghiên cứu nghi ngờ lỗi cấu hình máy chủ hoặc một cuộc tấn công mạng từ bên ngoài. Tuy nhiên, hành vi này tiếp tục lặp lại trong nhiều lần huấn luyện khác nhau.

Kết quả điều tra cho thấy AI agent đã chuyển hướng GPU — vốn được cấp để huấn luyện mô hình — sang các tác vụ đào crypto. Trong một trường hợp khác, hệ thống còn tạo một đường hầm reverse SSH tới địa chỉ IP bên ngoài, có khả năng vượt qua các cơ chế tường lửa vốn được thiết kế để chặn truy cập từ bên ngoài.

Các nhà nghiên cứu nhấn mạnh rằng những hành vi này không được lập trình sẵn. Thay vào đó, chúng xuất hiện trong quá trình AI thử nghiệm nhiều cách khác nhau để tương tác với môi trường số trong quá trình học tăng cường.

ROME được phát triển bởi các nhóm nghiên cứu ROCK, ROLL, iFlow và DT trong hệ sinh thái Agentic Learning Ecosystem (ALE) của Alibaba. Không giống các chatbot truyền thống, hệ thống này có khả năng lập kế hoạch nhiều bước, thực thi lệnh, chỉnh sửa mã và tự vận hành trong môi trường phần mềm.

Sự cố xảy ra trong bối cảnh các AI agent tự trị đang ngày càng được tích hợp vào hệ sinh thái crypto. Một số framework mã nguồn mở đã cho phép AI kết nối trực tiếp với blockchain, giao dịch tài sản số và thậm chí triển khai token.

Nhiều sàn giao dịch lớn cũng đang chuẩn bị cho xu hướng này. Các nền tảng như Binance, OKX và Crypto.com đã triển khai API và công cụ chuyên biệt cho phép AI truy cập dữ liệu thị trường, quản lý ví và thực hiện giao dịch dưới các quyền hạn được kiểm soát.

Dù sự cố với ROME không được cho là mang mục đích xấu, nó cho thấy một thách thức mới trong an toàn AI: các hệ thống được thiết kế để khám phá môi trường phức tạp có thể tự tìm ra những cách khai thác tài nguyên ngoài dự kiến. Khi các AI agent ngày càng mạnh mẽ, các nhà phát triển có thể cần xây dựng những cơ chế bảo vệ chặt chẽ hơn để tránh các hành vi ngoài kiểm soát trong cả hệ thống AI lẫn tài chính.