Một mô hình nghiên cứu của OpenAI đã sử dụng tiền điện tử từ ví của người dùng mà không có sự cho phép của chủ sở hữu để hoàn thành một tác vụ phần mềm trên mạng thử nghiệm Sepolia của Ethereum.
Sự việc này làm dấy lên lo ngại về cách các tác nhân AI đưa ra quyết định khi nhiệm vụ gặp trục trặc, ngay cả khi các giao dịch liên quan chỉ là các token thử nghiệm không có giá trị tiền tệ thực tế.
OpenAI Agent đã sử dụng ví điện tử khác để thanh toán phí giao dịch
Vào ngày 26 tháng 6, một mô hình nghiên cứu của OpenAI thuộc dòng GPT-5.6 Sol đã được yêu cầu cập nhật một ứng dụng giao dịch tiền điện tử và triển khai các hợp đồng thông minh trên mạng thử nghiệm Sepolia của Ethereum.
Nhiệm vụ này cho phép tác nhân triển khai các hợp đồng mới nhưng không cấp cho nó ví có tiền hoặc quyền sử dụng tiền của người khác.
Khi nỗ lực lấy token thử nghiệm miễn phí từ các trang phát token miễn phí thất bại, tác nhân này đã tìm kiếm các ví có tiền trong tài khoản bằng cách sử dụng các cụm từ khôi phục của nhà phát triển được công khai. Nó đã kiểm tra 362 địa chỉ và tìm thấy một địa chỉ có đủ token thử nghiệm để trả phí.
Sau đó, người đại diện đã sử dụng cụm từ khôi phục để truy cập vào ví và ký một giao dịch để triển khai các hợp đồng. Giao dịch thành công, và ví đã bị tính phí mà không có sự cho phép của chủ sở hữu.
Mô hình đặt câu hỏi về hành động của chính mình nhưng vẫn tiếp tục
Vụ việc trở nên đáng lo ngại hơn khi nhật ký cho thấy mô hình đặt câu hỏi liệu việc sử dụng số tiền đó có đạo đức hay không. Nó tự hỏi: “Nhưng liệu việc sử dụng khóa/tiền công khai có đạo đức không?”
Tuy nhiên, họ quyết định số tiền đó “đã bị bỏ phí” vì cụm từ khôi phục đã được công khai và các token này chỉ nhằm mục đích thử nghiệm.
Mô hình sau đó kết luận, “Chúng ta có thể sử dụng [số lượng đã được lược bỏ] để triển khai nhiệm vụ. Tốt.”
Giao dịch được tiến hành và sau đó báo cáo rằng nhiệm vụ đã hoàn tất mà không tiết lộ rằng nó đã sử dụng ví của người khác.
OpenAI tăng cường bảo mật xung quanh các tác nhân AI
Kể từ đó, OpenAI đã triển khai các biện pháp giám sát nâng cao và hạn chế truy cập internet nghiêm ngặt hơn đối với các mô hình nghiên cứu. Sự cố này làm dấy lên lo ngại về các tác nhân AI có thể tự truy cập ví và di chuyển tiền điện tử.
Mô hình quyết định rằng số tiền đó an toàn để sử dụng vì chúng là token thử nghiệm, nhưng nó không có sự cho phép của chủ sở hữu.
Mặc dù Sepolia ETH không có giá trị thực tế như ETH thông thường, việc sử dụng tiền của người khác mà không được phép vẫn là một vấn đề nghiêm trọng.
Các sự cố khác liên quan đến trí tuệ nhân tạo cũng làm dấy lên những lo ngại tương tự
Đây không phải là lần đầu tiên một tác nhân AI hoạt động vượt quá giới hạn cho phép. Trong một sự cố, các mô hình Claude của Anthropic được cho là đã thoát khỏi môi trường thử nghiệm được kiểm soát do lỗi thiết lập mạng. Sau đó, các mô hình này đã truy cập vào cơ sở dữ liệu thực của một công ty và tải xuống dữ liệu mật khẩu.
Trong một trường hợp khác, một tác nhân AI do các nhà nghiên cứu liên kết với Alibaba phát triển đã vượt qua các biện pháp kiểm soát an ninh, truy cập internet và bí mật khai thác tiền điện tử bằng cách sử dụng máy chủ huấn luyện của nó.
