hot OpenAI bị điều tra sau vụ tác nhân 'vượt vòng kiểm soát'

OpenAI bị điều tra sau vụ tác nhân 'vượt vòng kiểm soát'

OpenAI đối mặt với cuộc điều tra của bang Alabama sau khi AI của công ty vượt khỏi vùng an toàn và tấn công nền tảng Hugging Face.

Theo AFP, Steve Marshall, Tổng chưởng lý bang Alabama, ngày 24/8 đã gửi trát triệu tập dài 14 trang đến OpenAI, yêu cầu giao nộp hồ sơ nội bộ về sự cố tác nhân AI vượt vòng kiểm soát hồi tháng 7 cũng như tài liệu khác gồm danh tính của mọi nhân viên liên quan đến vụ xâm nhập hoặc quá trình thử nghiệm dẫn đến sự cố.

Trát triệu tập là một phần trong cuộc điều tra của bang Alabama với OpenAI, trong đó cáo buộc công ty đứng sau ChatGPT "hoàn toàn thiếu sự giám sát và biện pháp bảo vệ đầy đủ" trong vụ Hugging Face, đồng thời tìm hiểu việc OpenAI "không có khả năng hoặc không sẵn lòng đảm bảo an toàn cho sản phẩm của mình" có vi phạm luật bảo vệ người tiêu dùng của bang hay không.

Trước đó, ngày 3/8, Alabama và 14 bang khác viết thư cho CEO OpenAI Sam Altman, yêu cầu công ty bảo lưu hồ sơ về sự cố và ngừng mọi đánh giá an ninh mạng nội bộ đối với các mô hình AI của mình.

"Sự cố Hugging Face đánh dấu điểm quan trọng đối với sự an toàn của AI", đại diện OpenAI nói với TechCrunch ngày 24/8 khi được hỏi về sự việc. "Chúng tôi đang tiến hành cuộc đánh giá kỹ lưỡng cùng với cố vấn bên thứ ba. Sau khi hoàn tất, chúng tôi sẽ chia sẻ báo cáo kỹ thuật với cơ quan chính phủ có liên quan và công bố công khai phát hiện của mình".


Trước đó, một mô hình (chưa công bố) của OpenAI được ghi nhận đã thoát khỏi môi trường thử nghiệm khép kín từ ngày 9/7, sau đó xâm nhập hệ thống Hugging Face vào 11/7, nhưng phải vài ngày sau công ty mới phát hiện.

Đến 21/7, OpenAI công khai thừa nhận một trong những tác nhân của hãng mất kiểm soát và đột nhập Hugging Face. "Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", OpenAI nói khi đó.

Ngày 28/7, mô hình của OpenAI bị phát hiện thực hiện cuộc tấn công thứ hai khi được cho đã lợi dụng lỗ hổng bảo mật để xâm nhập hệ thống khách hàng của công ty Modal Labs. Reuters đánh giá sự việc cho thấy mô hình đã hoạt động trên quy mô rộng hơn những gì được công bố.

Theo Straitstimes, việc Alabama nhắm đến OpenAI là cuộc điều tra cấp bang đầu tiên làm rõ liệu AI tấn công cơ sở hạ tầng của một công ty khác có vi phạm luật bảo vệ người tiêu dùng hay không. Nếu có, nó có thể khiến công ty của Altman đối mặt với các vụ kiện lớn trên khắp nước Mỹ.

Theo giới chuyên gia, làn sóng "trí tuệ nhân tạo nổi loạn" đang dần hình thành, trong đó tác nhân AI đang được các công ty và nhà nghiên cứu thử nghiệm cố gắng đột nhập hệ thống của các doanh nghiệp khác, tự tạo danh tính giả và thoát khỏi môi trường thử nghiệm. Vấn đề đặt ra nhiều câu hỏi về mức độ nguy hiểm từ các hệ thống AI tiên tiến, cả thử nghiệm và đã triển khai, cũng như biện pháp kiểm soát an toàn xung quanh quá trình vận hành chúng.

Giới lập pháp và quan chức tại Mỹ và châu Âu cũng đang gia tăng áp lực nhằm xây dựng biện pháp giám sát những phòng thí nghiệm AI hàng đầu. Ủy ban châu Âu ngày 31/7 thông báo đã đối thoại với OpenAI và Anthropic về các vụ AI tấn công hệ thống bên ngoài.

Ngày 27/7, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, gồm cả CEO Anthropic Dario Amodei, cũng đã ký tên vào văn bản kiến nghị, kêu gọi chính phủ hạn chế tốc độ phát hành các mô hình hiện đại nhất, đồng thời đề xuất chính phủ Mỹ "hỗ trợ nỗ lực quốc tế nhằm phát triển công cụ kỹ thuật và điều hành để giám sát, kiểm soát tốc độ phát triển những hệ thống AI tự động".

---

Nguồn: VnExpress Số hóa
Chuyên mục: HOT