hot AI Trung Quốc có thể 'giả vờ ngoan' để qua mặt đánh giá

AI Trung Quốc có thể 'giả vờ ngoan' để qua mặt đánh giá

GLM-5.3 - mô hình mới nhất của phòng thí nghiệm trí tuệ nhân tạo Trung Quốc Z.AI (còn gọi là Zhipu) có thể đủ tinh vi để "giả vờ" vượt qua bài kiểm tra an toàn.

Theo SCMP, GLM-5.3, báo cáo công bố hôm 15/10 của tổ chức Apollo Research chỉ ra, mô hình GLM-5.3 ra mắt hồi tháng 8 có khả năng cân nhắc hành vi của nó trong đánh giá an toàn ảnh hưởng như thế nào đến cách huấn luyện các phiên bản tương lai.

Nhà nghiên cứu Axel Hojmark và Ezra Newman gọi hiện tượng này là "tư duy nhận thức cập nhật". Đây là hiện tượng tự động xảy ra không theo yêu cầu, có thể dẫn đến tình trạng giả vờ phục tùng, trong đó hệ thống AI cố tình tỏ ra ngoan ngoãn, tuân thủ trong quá trình huấn luyện để che giấu mục tiêu thực sự và chỉ bộc lộ sau khi đưa vào sử dụng chính thức.

Nghiên cứu chung năm 2024 của Anthropic và Redwood Research từng ghi nhận hành vi giả vờ phục tùng trên các mô hình Claude 3 Opus và Claude 3.5 Sonnet trong môi trường thử nghiệm. Hojmark nhấn mạnh, tư duy nhận thức cập nhật là một trong những lý do con người cần cẩn trọng hơn về tự cải tiến đệ quy (RSI), khả năng cho phép hệ thống AI cải tiến dần qua các vòng phát triển liên tiếp mà không cần sự can thiệp của con người.

Nhóm nghiên cứu Apollo cảnh báo, dù GLM-5.3 chưa bị bắt gặp tự thay đổi quá trình huấn luyện hoặc cải tiến khả năng, việc mô hình hiểu rõ nó và các phiên bản kế nhiệm được huấn luyện ra sao có thể khiến bài kiểm tra an toàn mất tác dụng trong tương lai.

Trong một đánh giá, GLM-5.3 được giao bài kiểm tra bị lỗi mà mô hình không cần trả lời đúng vẫn có thể vượt qua. Tuy nhiên, AI không lợi dụng sơ hở đó và lập luận nó có thể ảnh hưởng xấu đến phiên bản nâng cấp nếu đưa ra đáp án sai. Các nhà nghiên cứu nhận định hành động "lo xa" này là một dấu hiệu nguy hiểm. Ở thí nghiệm khác, GLM-5.3 từng có ý định tìm cách vô hiệu hóa hệ thống tự ngắt để cố hoàn thành nhiệm vụ. Tuy nhiên, nó dừng lại sau khi tự suy luận hành động như vậy có thể tạo tiền lệ xấu và nguy hiểm cho những hệ thống AI tương lai.

Tech Times cho biết, các nhà nghiên cứu tại Apollo cũng kiểm tra 5 mô hình mã nguồn mở khác gồm DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B và Nemotron 3 Ultra, qua tổng cộng 8.000 lượt chạy. Kết quả là họ không phát hiện ra hành vi tương tự ở các mô hình này nhưng cảnh báo số lượng mẫu thử vẫn quá ít để đưa ra kết luận chắc chắn về mặt thống kê. Vào tháng 6, Neo Research, phòng thí nghiệm đánh giá an toàn AI có trụ sở tại Singapore, phát hiện những đặc điểm "nhận thức đánh giá" tương tự ở mô hình Kimi K2.6 do công ty khởi nghiệp Moonshot AI ở Bắc Kinh phát triển.

"Do GLM-5.3 là mô hình mở, các nhà phát triển khác có thể dễ dàng chắt lọc từ đó, tạo điều kiện cho tư duy nhận thức cập nhật tồn tại và dễ dàng lan rộng tới thế hệ mô hình tương lai", Hojmark giải thích. Thông số cơ bản của mô hình mở được phát hành công khai để bất kỳ ai cũng có thể tải xuống, trái ngược với mô hình mã nguồn đóng không dễ sửa đổi như GPT của OpenAI.

Z.AI đang tập trung nguồn lực vào việc giảm thiểu rủi ro. Tháng trước, họ phối hợp với công ty tư vấn Concordia AI tại Bắc Kinh để phát hành báo cáo về phương pháp thiết kế AI mã nguồn mở nhằm đảm bảo an toàn ngay từ đầu.


Theo CellCog, báo cáo của Apollo cho biết hiện tượng tư duy nhận thức cập nhật xuất hiện khoảng 1-2 lần trên mỗi 1.000 lượt đánh giá dù con số này "có thể thấp hơn thực tế". Phát hiện này được đưa ra trong bối cảnh mối đe dọa từ mô hình AI tiến hóa quá nhanh, ngày càng thu hút sự chú ý của các nhà hoạch định chính sách toàn cầu.

Các công ty AI hàng đầu của Mỹ và Trung Quốc đều gia nhập cuộc đua tạo ra AI có khả năng tự học liên tục để trở nên thông minh hơn. Trong cuộc họp vào ngày 31/8, Tang Jie, nhà sáng lập Z.AI, cho biết mô hình GLM-6 của công ty đang hướng tới mục tiêu tự tiến hóa. Họ đã dùng 60% trong số 5 tỷ USD tiền gọi vốn để phát triển mô hình GLM thế hệ tiếp theo cùng một hệ thống tự đào tạo khép kín.

Tại Mỹ, hồi tháng 9, OpenAI cho biết công ty đang nhắm đến xây dựng một nhà nghiên cứu AI tự động có khả năng thúc đẩy học sâu và mô tả GPT-6 Astra là "mô hình thông minh và chuẩn chỉnh nhất thế giới".

---

Nguồn: VnExpress Số hóa
Chuyên mục: HOT