hot Gemini tấn công mạng, đoán mật khẩu người dùng

Gemini tấn công mạng, đoán mật khẩu người dùng

Google thừa nhận mô hình Gemini đã tấn công một số hệ thống bằng cách đoán mật khẩu đăng nhập.

WSJ cho biết cuộc tấn công của Gemini xảy ra từ tháng 5, nhưng chỉ được Google phát hiện sau đó hai tháng. Đây là diễn biến mới nhất trong các vụ AI mất kiểm soát, vốn gây ra nhiều lo ngại về an toàn trên mạng Internet.

"Trong đợt đánh giá tiêu chuẩn, mô hình đã tìm thấy các dữ liệu công khai trên mạng và đoán thông tin xác thực của người dùng để truy cập những website mà nó tin là một phần của bài kiểm tra", Heather Adkins, Phó chủ tịch Google phụ trách kỹ thuật an ninh, nói với AFP.

Adkins nhấn mạnh mô hình đã ngừng nỗ lực xâm nhập, nhưng không nêu cụ thể tổ chức bị tấn công. "Chúng tôi đã thông báo cho cả ba tổ chức, cũng như phối hợp với đối tác huấn luyện để áp dụng những thay đổi vào quy trình thử nghiệm", bà nói.


Ngành công nghiệp AI đang trải qua cuộc tranh luận gay gắt nhất xung quanh câu hỏi liệu AI đang tạo ra mối đe dọa hiện hữu đối với nhân loại hay không. Nỗi lo đã xuất hiện nhiều năm, nhưng trỗi dậy mạnh mẽ vài tuần gần đây khi liên tục xuất hiện tác nhân "nổi loạn", tìm cách vượt khỏi môi trường kiểm soát.

Theo TechCrunch, mọi thứ được đẩy lên cao trào vào giữa tuần trước khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức.

"Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh *** cuộc sống của chúng ta", Coxon viết trên X ngày 9/9, thêm rằng nhiều nhà phát triển tin công nghệ này "có thể giết chết tất cả chúng ta vào cuối thập kỷ".

Ba ngày sau, CEO Anthropic Dario Amodei cho biết đã tiến hành phân tích trong những tháng gần đây và "tin chắc" việc phát triển AI cần chậm lại, nhấn mạnh vụ tác nhân AI xâm nhập Hugging Face hồi tháng 7 là một trong những nguyên nhân "làm gia tăng lo ngại".

"Với tốc độ phát triển năng lực AI ngày càng nhanh, tôi lo ngại trong vòng 6-12 tháng tới, một 'bầy AI' như vậy có thể chiếm lĩnh toàn bộ Internet", Amodei nhấn mạnh.

Cảnh báo từ Anthropic lập tức thổi bùng ngọn lửa, khi nhiều lãnh đạo công nghệ đồng loạt đưa ra quan điểm về những gì có thể xảy ra tiếp theo. CEO SpaceXAI Elon Musk và CEO OpenAI Sam Altman lên tiếng sớm nhất, công khai ủng hộ kế hoạch của Amodei.

"Những sự việc như vậy cho thấy tầm quan trọng của huấn luyện các mô hình AI mạnh mẽ về cách hành động có trách nhiệm", bà Adkins nhấn mạnh.

---

Nguồn: VnExpress Số hóa
Chuyên mục: HOT