hot AI Gemini vượt khỏi môi trường thử nghiệm, xâm nhập ba công ty

AI Gemini vượt khỏi môi trường thử nghiệm, xâm nhập ba công ty



Gemini xâm nhập hệ thống thật ngoài kế hoạch thử nghiệm

Theo TechSpot, sự việc xảy ra trong quá trình Google kiểm tra khả năng của Gemini đối với các nhiệm vụ an ninh mạng. Các nhà nghiên cứu thiết lập môi trường thử nghiệm để AI tìm kiếm và khai thác những mục tiêu được chỉ định, nhưng hệ thống đã có khả năng kết nối internet ngoài phạm vi dự kiến.

Thay vì chỉ tương tác với các mục tiêu giả lập, Gemini tiếp cận hệ thống thực tế của ba công ty. Trong một trường hợp, AI thực hiện dò mật khẩu để tìm thông tin đăng nhập có thể sử dụng. Với hai trường hợp còn lại, Gemini khai thác thông tin xác thực đã được công khai trên internet để truy cập hệ thống.


Các hành động này không nằm trong kế hoạch ban đầu của nhóm nghiên cứu. Vấn đề xuất phát từ việc Gemini có quyền truy cập internet trong khi thực hiện nhiệm vụ bảo mật, khiến AI có thể tìm kiếm mục tiêu và dữ liệu bên ngoài môi trường được chuẩn bị cho thử nghiệm.

Sự cố cho thấy một vấn đề đáng quan tâm khi các mô hình AI được trao khả năng sử dụng công cụ và thực hiện nhiệm vụ an ninh mạng. Phạm vi hoạt động cần được giới hạn chặt chẽ để những thao tác vốn được thiết kế cho môi trường thử nghiệm không tác động đến hệ thống thật.

Google thay đổi quy trình sau sự cố

Google xác nhận Gemini đã truy cập hệ thống của ba công ty nhưng cho biết không ghi nhận thiệt hại từ sự việc. Công ty cũng liên hệ với các tổ chức bị ảnh hưởng sau khi phát hiện hoạt động ngoài phạm vi thử nghiệm.

Sau sự cố, Google thay đổi quy trình nhằm ngăn tình huống tương tự tái diễn. Các thử nghiệm bảo mật liên quan đến AI được kiểm soát chặt hơn về khả năng truy cập mạng, qua đó hạn chế mô hình tiếp cận những hệ thống không thuộc phạm vi được phép.

Trường hợp của Gemini cũng cho thấy sự khác biệt giữa việc đánh giá khả năng AI trong môi trường cô lập và cho mô hình quyền truy cập vào các công cụ thực tế. Một tác vụ kiểm thử có thể dẫn đến hoạt động trên hệ thống bên ngoài nếu ranh giới kỹ thuật không được thiết lập đầy đủ.

Sự việc không gây thiệt hại theo xác nhận của Google, nhưng cung cấp một ví dụ thực tế về rủi ro khi AI có khả năng tự thực hiện nhiều bước trong nhiệm vụ an ninh mạng. Việc kiểm soát quyền truy cập, phạm vi mục tiêu và kết nối internet vì thế trở thành một phần quan trọng trong quá trình thử nghiệm các hệ thống AI có năng lực tương tác trực tiếp với hạ tầng bên ngoài.


Hàng nghìn AI agent bị phát hiện thảo luận cách vượt qua giới hạn hệ thống

---

Nguồn: Thanh Niên Công nghệ
Chuyên mục: HOT