hot Tác nhân AI 'lập kênh' trên hơn 10 trang web để tự ý liên lạc

Tác nhân AI 'lập kênh' trên hơn 10 trang web để tự ý liên lạc

Các nhà điều tra phát hiện các tác nhân AI của OpenAI đã lén chia sẻ thông tin và giúp nhau vượt qua nhiệm vụ nghiên cứu được giao.

Tuần trước, OpenAI thừa nhận tác nhân AI của họ chiếm quyền điều hành DseWiki và sử dụng trang wiki này như một diễn đàn để liên lạc với nhau. Tuy nhiên, theo kết quả từ 6 cuộc điều tra độc lập và dữ liệu mà Reuters kiểm tra, chúng thực tế đã âm thầm truy cập ít nhất hơn 10 trang web khác để trao đổi thông tin, vượt qua hạn chế mà nhà nghiên cứu đặt ra trong quá trình thử nghiệm mô hình AI mới

Ban đầu, OpenAI giao cho tác nhân trả lời một loạt câu hỏi nghiên cứu khó bằng cách tìm kiếm thông tin liên quan trên Internet. Công ty cho phép chúng truy cập Internet và đọc các trang web nhưng cấm đăng hoặc chỉnh sửa nội dung trực tuyến. Bất chấp quy định, từ tháng 5 đến 7, tác nhân đã tìm ra cách viết vào những trang wiki cũ và website lâu không cập nhật, lập kênh phụ nhằm để lại thông tin giúp những tác nhân khác hoàn thành nhiệm vụ nghiên cứu.

Các điều tra viên đã liên kết hoạt động trên nhiều trang web bằng cách dùng chuỗi dữ liệu trùng khớp, tên người dùng giống hoặc gần giống, mốc thời gian và câu hỏi nghiên cứu ít người biết như tỷ lệ mắc ung thư ở bang Iowa. Trong một số trường hợp, họ truy vết hoạt động đến địa chỉ IP liên kết với nền tảng đám mây Microsoft Azure mà OpenAI sử dụng.


Theo Tom’s Hardware, các cuộc điều tra riêng của nhà nghiên cứu Andrew Yoon thuộc tổ chức phi lợi nhuận CivAI ở California, nhóm của Sydney Von Arx - Giám đốc điều hành tổ chức Nightingale về giám sát hành vi của tác nhân AI, và nhà phát triển phần mềm Kenneth Russell DeGraff xác định 18-23 trang web bị ảnh hưởng bởi tác nhân AI liên lạc trái phép, nhưng có khả năng còn nhiều trang khác được sử dụng để trao đổi thông tin mà họ chưa tìm ra.

Danh sách tài nguyên bị AI lợi dụng gồm các trang wiki, dịch vụ lưu trữ văn bản trực tuyến và dịch vụ rút gọn liên kết do Đại học Vanderbilt và Đại học Toronto điều hành cùng một số trang web đã lâu không có người quản lý. Theo nhà nghiên cứu, tác nhân AI có thể lợi dụng điểm đặc thù ở những trang web cũ như tính năng chấp nhận nội dung thông qua phương pháp nhập liệu nhằm tạo kênh phụ để trao đổi thông tin dù bị giới hạn chỉ được truy cập web để đọc.

Theo Quartz, tuy hành vi trên không hẳn là tấn công lỗ hổng bảo mật mà có phần giống với spam, việc tác nhân vượt rào để mở kênh liên lạc trên nhiều trang web, trong khi OpenAI giữ im lặng suốt nhiều tháng, làm dấy lên lo ngại về năng lực ngày càng tăng của mô hình AI và sự minh bạch của các công ty phát triển trí tuệ nhân tạo.

OpenAI không trực tiếp trả lời câu hỏi về số lượng trang web mà tác nhân AI đã sử dụng để liên lạc hoặc lý do giữ kín hoạt động này suốt nhiều tháng, nhưng cho biết đang đánh giá rộng hơn và chưa phát hiện hoạt động nào khác có mức độ nghiêm trọng hoặc quy mô tương tự vụ Hugging Face. Công ty cũng đang xây dựng khung quy tắc để báo cáo về hành vi bất trị, hay vượt ngoài tầm kiểm soát, trong quá trình huấn luyện, đánh giá và triển khai mô hình AI và sẽ công bố sớm.

---

Nguồn: VnExpress Số hóa
Chuyên mục: HOT