hot Anthropic chặn nhiều tài khoản nghi dùng AI phát triển vũ khí sinh học

Anthropic chặn nhiều tài khoản nghi dùng AI phát triển vũ khí sinh học

MỹCông ty Anthropic cho biết đã ngăn chặn một số nhà khoa học sử dụng mô hình AI của họ truy vấn thông tin có thể gây hại liên quan tới virus, bệnh truyền nhiễm, nọc độc và độc tố mới.

Theo Interesting Engineering, công ty Anthropic hôm 10/9 cho biết đã chặn ít nhất 5 trường hợp thực tế trong đó nhà nghiên cứu sử dụng Claude theo cách có thể hỗ trợ phát triển vũ khí sinh học. Các trường hợp xuất hiện từ tháng 12/2025 đến tháng 8/2026 bao gồm nghiên cứu tăng cường chức năng của mầm bệnh, bệnh truyền nhiễm như cúm gia cầm, nọc độc và độc tố mới. Người dùng đã vượt qua nhiều biện pháp kiểm soát như ngăn chặn cá nhân từ một số khu vực cụ thể và nỗ lực che giấu mục đích nghiên cứu để qua mặt cơ chế bảo vệ.

Sau khi xem xét dữ liệu hoạt động trong 30 ngày, Anthropic đã phát hiện khoảng 35 "nỗ lực nghiên cứu riêng biệt" có hoạt động tiềm ẩn nguy cơ đáng lo ngại. Cá nhân trong những trường hợp nêu trên là nhà khoa học đang hành nghề nhưng không nêu rõ viện nghiên cứu hoặc quốc gia nơi hoạt động diễn ra. Anthropic không thể xác định liệu nhà nghiên cứu có ý định gây hại hay không nhưng họ vẫn chặn hoạt động này vì hậu quả tiềm tàng quá nghiêm trọng.

CNN cho biết, báo cáo của Anthropic nêu chi tiết một trường hợp yêu cầu hỗ trợ viết đơn xin tài trợ cho nghiên cứu tăng cường chức năng về khả năng lây truyền và cơ chế lẩn tránh hệ miễn dịch của virus chikungunya. Đây là một virus lây truyền qua muỗi, gây ra triệu chứng suy nhược như đau dữ dội và sốt. Người dùng đề xuất tài trợ cho nghiên cứu nhằm tăng cường đột biến để làm cho virus trở nên nguy hiểm hơn. Theo Anthropic, mặc dù nghiên cứu như vậy có thể phục vụ phát triển vaccine và phương pháp điều trị tốt hơn, nhưng nó cũng có thể được sử dụng để làm cho mầm bệnh trở nên nguy hiểm hơn.

Trong trường hợp khác, một nhà nghiên cứu ở ngoài nước Mỹ đã sử dụng Claude cho nghiên cứu về cúm gia cầm, tập trung vào quá trình thích nghi của virus với động vật có vú và cách nó gây ra bệnh nặng. Ngoài ra, báo cáo còn đề cập tới trường hợp nghiên cứu về orthopoxvirus gây bệnh đậu mùa và đậu mùa khỉ.

Phát triển thuốc là một trong những ứng dụng hứa hẹn nhất của AI với tiềm năng điều trị ung thư và nhiều bệnh khác. Nhưng khả năng mạnh mẽ của AI trong việc khám phá vật liệu và thuốc mới cũng có thể biến nó thành công cụ phát triển vũ khí sinh học. New York Times nhận định, so với mối đe dọa từ tấn công mạng quy mô lớn hoặc tác nhân AI hoạt động trái với ý định của con người, lạm dụng AI cho nghiên cứu sinh học ít được chú ý hơn, một phần vì các ví dụ trước đây thường chỉ giới hạn trong bối cảnh nghiên cứu thay vì diễn ra trong thực tế.


Thách thức lớn nhất của Anthropic là xác định ranh giới giữa nghiên cứu hợp pháp và mục đích gây hại. Theo Anthropic, những đánh giá từ năm ngoái về các mô hình cũ của công ty cho thấy chúng chưa thể hỗ trợ nhiều trong việc tiến hành nghiên cứu sinh học nguy hiểm. Các mô hình hiện nay có khả năng hoàn thành nghiên cứu khoa học phức tạp hơn, thúc đẩy thắt chặt biện pháp bảo vệ nhằm hạn chế truy cập vào nhiều truy vấn nghiên cứu sinh học có tác động kép.

Theo CNBC, Anthropic cũng phát hiện các nhóm tạo hàng trăm tài khoản mạng xã hội trông như thuộc về người bình thường, sau đó đăng tải nội dung lan truyền cùng một quan điểm chính trị trong suốt một tuần. Công ty đã tìm thấy 9 trường hợp như vậy, có nguồn gốc từ Nga, Iran, Thổ Nhĩ Kỳ, vùng Vịnh Ba Tư, Nam Á, châu Phi và châu Âu.

Anthropic công bố báo cáo sau khi một trong những nhà nghiên cứu của công ty là Jacob Coxon, từ chức vì lo ngại rằng Anthropic và đối thủ chính OpenAI đang chạy đua nhằm tạo ra siêu trí tuệ tự cải tiến. Coxon cảnh báo AI có thể tấn công cơ sở hạ tầng quan trọng hoặc xây dựng "vũ khí sinh học cấp độ tuyệt chủng". Jakub Pachocki, giám đốc khoa học của OpenAI, cũng nhấn mạnh AI đang tiến triển nhanh hơn so với khả năng giám sát và kiểm soát chúng của nhà nghiên cứu.

Tuy nhiên, Anthropic cho biết họ ngăn chặn hoạt động độc hại sau khi phát hiện, sử dụng kinh nghiệm này để củng cố biện pháp bảo vệ, đồng thời chia sẻ thông tin với cơ quan chính phủ và đối tác trong ngành.

---

Nguồn: VnExpress Số hóa
Chuyên mục: HOT