Bàn kế hoạch xả súng với AI Claude, một phụ nữ bị bắt

Bàn kế hoạch xả súng với AI Claude, một phụ nữ bị bắt



Trong các đoạn trao đổi, bà Heller đã trực tiếp bàn về kế hoạch "xả súng" nhằm vào văn phòng cảnh sát trưởng địa phương. Cô cũng gửi các tin nhắn tiếp theo để thông báo với Claude rằng bản thân đã có một khẩu súng và ám chỉ đây là "cơ hội cuối cùng" trước khi tiến hành thực hiện kế hoạch.


Dù nhiều người lầm tưởng các cuộc hội thoại với chatbot mang tính riêng tư tuyệt đối, các công ty AI đều thiết lập những hàng rào an toàn nhằm gắn cờ các nội dung tiềm ẩn nguy cơ gây hại. Hệ thống bảo vệ của Anthropic đã phát hiện các mối đe dọa nghiêm trọng từ tin nhắn của bà và chuyển tiếp cho nhân sự đánh giá trực tiếp, trước khi thông báo để lực lượng chức năng tiến hành bắt giữ mà không xảy ra sự cố.

Bà Heller hiện bị truy tố trọng tội cấp độ hai theo Đạo luật Florida 836.10. Đây là điều luật xử lý hành vi đăng tải hoặc truyền phát các thông điệp điện tử có nội dung đe dọa giết người hoặc gây tổn hại thân thể nghiêm trọng, gồm cả các hành vi khủng bố hoặc xả súng hàng loạt.


Vì sao nhiều người dùng quay lưng với AI Claude?

---

Nguồn: Thanh Niên Công nghệ
Chuyên mục: AI