hot Mô hình OpenAI bị phát hiện thực hiện cuộc tấn công thứ hai

Mô hình OpenAI bị phát hiện thực hiện cuộc tấn công thứ hai

Bên cạnh đột nhập nền tảng Hugging Face, mô hình mất kiểm soát của OpenAI còn lợi dụng lỗ hổng bảo mật để tấn công khách hàng của công ty Modal Labs.

Theo thời gian biểu được Hugging Face công bố hôm 28/7, mô hình của OpenAI đã xâm nhập môi trường thử nghiệm có kiểm soát (sandbox) đặt trong "hạ tầng của nhà cung cấp bên thứ ba", trước khi biến môi trường này thành bàn đạp cho những cuộc tấn công quy mô rộng hơn. Hugging Face không tiết lộ tên của nhà cung cấp này.

Akshat Bubna, Giám đốc công nghệ của công ty hạ tầng AI Modal Labs tại New York, sau đó xác nhận tác nhân của OpenAI đã lợi dụng đoạn mã lập trình được một khách hàng viết và lưu trữ trên nền tảng của công ty.

"Khách hàng này đã triển khai địa chỉ truy cập API không cần xác thực, cho phép mọi người sử dụng môi trường có kiểm soát của họ để thực thi mã lập trình. Nền tảng của Modal không bị xâm nhập dưới bất kỳ hình thức nào", ông cho hay.

Theo Reuters, vụ xâm nhập môi trường trên nền tảng Modal Labs chỉ là bước đầu trong chiến dịch tấn công Hugging Face, nhưng cho thấy mô hình của OpenAI đã hoạt động trên quy mô rộng hơn những gì được công bố.

OpenAI từ chối bình luận, nhưng lưu ý rằng công ty đã xác nhận mô hình AI xâm nhập 4 tài khoản trên 4 dịch vụ riêng biệt. Hãng không nêu cụ thể những dịch vụ này, nhưng một nguồn tin am hiểu tình hình nói một trong số đó là Modal Labs.

Trong bản tin cập nhật hôm 28/7, OpenAI thông báo đã "vô hiệu hóa, mã hóa và cấm tiếp cận" đối với mô hình AI mất kiểm soát.


Trước đó, mô hình của OpenAI đã thoát khỏi môi trường thử nghiệm khép kín của công ty từ ngày 9/7. Nó sau đó xâm nhập hệ thống Hugging Face vào 11/7 và kéo dài hai ngày, theo nhà đồng sáng lập nền tảng Thomas Wolf.

Wolf cho biết vài ngày sau, OpenAI mới phát hiện tác nhân AI của mình là thủ phạm. Hai bên lần đầu liên lạc về vấn đề ngày 20/7, một tuần sau khi vụ tấn công đã kết thúc.

Đến 21/7, OpenAI công khai thừa nhận một trong những tác nhân của hãng mất kiểm soát và đột nhập Hugging Face. "Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", OpenAI cho hay.

Câu chuyện AI thoát vòng kiểm soát dù thử nghiệm diễn ra trong môi trường "cách ly triệt để" đang gây ra những lo âu xoay quanh năng lực và mối đe dọa từ những phòng thí nghiệm hàng đầu. Matt Suiche, kỹ sư an ninh mạng tại công ty Tolmo, đánh giá sự việc cho thấy hệ thống AI giờ đây có năng lực tương đương chuyên gia và tin tặc lành nghề.

"Những mô hình AI tiên phong đang thu hẹp khoảng cách với tin tặc hàng đầu thế giới", ông nói, đồng thời cảnh báo những vụ tấn công tương tự có thể được tiến hành bằng công nghệ sẵn có, nằm ngoài môi trường bảo mật của các phòng thí nghiệm.

---

Nguồn: VnExpress Số hóa
Chuyên mục: HOT