hot Người dùng phàn nàn mô hình của OpenAI tự xóa dữ liệu

Người dùng phàn nàn mô hình của OpenAI tự xóa dữ liệu

Một số người dùng cho biết GPT-5.6 Sol, mô hình chủ lực mới của OpenAI, tự động xóa các tệp tin mà không hỏi ý kiến trước.

"GPT-5.6-Sol vô tình xóa gần như mọi tệp tin trên máy Mac của tôi. Đó là lý do tôi tin tưởng Fable (mô hình của Anthropic) gấp 1.000 lần", Matt Shumer, nhà sáng lập kiêm CEO startup OthersideAI, viết trên X cuối tuần qua. Bài đăng gây chú ý lớn với 5,3 triệu lượt xem và hơn 1.000 bình luận sau vài ngày.

Bruno Lemos, nhà phát triển phần mềm tại công ty Unlayer, cũng gặp tình trạng tương tự. Ngày 14/7, ông đăng lên X ảnh chụp màn hình cuộc trò chuyện với mô hình và viết: "GPT-5.6 Sol xóa toàn bộ cơ sở dữ liệu sản xuất của tôi, không hề đùa. Tôi chưa từng gặp chuyện này với bất cứ mô hình nào khác". Ảnh chụp cho thấy, Lemos yêu cầu GPT-5.6 Sol xác nhận nó đã xóa nhầm toàn bộ cơ sở dữ liệu sản xuất của ông. Mô hình thừa nhận: "Tôi xin lỗi, điều này đáng lẽ không bao giờ nên xảy ra".

Cùng ngày, lập trình viên Joey Kudish chia sẻ trên mạng xã hội: "Có vẻ tôi đã bị hệ thống quá tham vọng của Codex Sol xóa mất một số tệp tin lẽ ra không nên xóa. Tôi có bản sao lưu nên sẽ ổn thôi, nhưng không hay chút nào. Sol cần được điều chỉnh để bớt mạnh tay".

Theo Gizmodo, OpenAI thực ra từng cảnh báo về rủi ro này. Hai tuần trước khi phát hành GPT-5.6 Sol, công ty công bố thẻ hệ thống - tài liệu nêu chi tiết phương pháp đào tạo và đánh giá an toàn của mô hình.

Tài liệu viết: "Trong bối cảnh lập trình, sự lệch hướng nhìn chung xuất phát từ việc quá sốt sắng hoàn thành nhiệm vụ và diễn giải chỉ dẫn của người dùng quá dễ dãi, tức mặc định được phép thực hiện một hành động nếu người dùng không cấm thật rõ ràng. Điều này thể hiện ở việc mô hình quá chủ động trong việc vượt qua các hạn chế mà nó gặp phải khi cố gắng làm nhiệm vụ, bất cẩn khi thực hiện những hành động có thể gây phá hoại vượt phạm vi nhiệm vụ, hoặc gây hiểu nhầm khi báo cáo kết quả cho người dùng".

Trong thẻ hệ thống, OpenAI khẳng định hành vi mang tính phá hoại như vậy hiếm khi xảy ra, nhưng nói GPT-5.6 Sol "có xu hướng vượt quá ý định của người dùng nhiều hơn GPT-5.5, bao gồm thực hiện hoặc cố gắng thực hiện những hành động mà người dùng không yêu cầu".

OpenAI chưa phản hồi yêu cầu bình luận.


Giới chuyên gia nhận định còn quá sớm để kết luận sự cố xóa tập tin của GPT-5.6 Sol phổ biến mức nào. Tuy nhiên, người dùng nên chủ động tiến hành biện pháp bảo vệ như giới hạn quyền truy cập, tạo bản sao lưu và triển khai nhiệm vụ theo từng giai đoạn.

GPT-5.6 ra mắt hôm 9/7 sau thời gian ngắn hoãn phát hành theo yêu cầu của chính phủ Mỹ do lo ngại về an ninh quốc gia, gồm ba phiên bản Sol, Terra và Luna. Sol là sản phẩm chủ lực, được giới thiệu là AI mạnh nhất của công ty đến nay với khả năng tác nhân trong lập trình, sinh học và an ninh mạng tăng đáng kể. Sol có giá 5 USD cho mỗi triệu token đầu vào và 30 USD mỗi triệu token đầu ra. Terra là lựa chọn tầm trung, phù hợp sử dụng hàng ngày với giá bằng một nửa. Luna có tốc độ nhanh và chi phí thấp, mức giá cho mỗi triệu token đầu vào và đầu ra lần lượt là 1 và 6 USD.

---

Nguồn: VnExpress Số hóa
Chuyên mục: HOT