Anthropic lo ngại AI phát triển nhanh hơn khả năng kiểm soát của con người

Anthropic lo ngại AI phát triển nhanh hơn khả năng kiểm soát của con người



Theo Wccftech, trong hồ sơ gửi Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), Anthropic cảnh báo ngành trí tuệ nhân tạo (AI) đang tiến gần một cột mốc quan trọng, khi các mô hình AI có thể tham gia trực tiếp vào quá trình phát triển những phiên bản kế nhiệm với năng lực cao hơn.

Đây là bước tiến hướng tới khả năng tự cải thiện đệ quy (Recursive Self-Improvement - RSI), trong đó AI hỗ trợ nghiên cứu, xây dựng và cải tiến các hệ thống AI mới. Nếu quá trình này tiếp tục tăng tốc, năng lực của AI có thể phát triển nhanh hơn khả năng đánh giá và kiểm soát của các nhà nghiên cứu.

Tuy nhiên, Anthropic khẳng định chưa có mô hình hiện tại nào đạt đến ngưỡng phát triển tăng tốc mạnh nhờ AI theo chính sách an toàn của công ty. Cảnh báo được đưa ra dựa trên các ước tính nội bộ và dự báo về những thế hệ AI tiếp theo.


Bên cạnh đó, lượng mã được tạo ra trung bình mỗi ngày trên mỗi kỹ sư trong quý 3/2026 đã tăng hơn 45 lần so với năm 2024. Những con số cho thấy AI đang đảm nhận ngày càng nhiều công việc lập trình, thay vì chỉ đóng vai trò công cụ hỗ trợ như trước.

Tuy nhiên, Anthropic lưu ý sự gia tăng về số lượng mã nguồn không đồng nghĩa năng suất thực tế của kỹ sư cũng tăng tương ứng. Các nhà nghiên cứu vẫn giữ vai trò quan trọng trong việc xác định mục tiêu, lựa chọn hướng nghiên cứu và đưa ra những quyết định khoa học.

Trong một công bố trước đó mang tên When AI Builds Itself, Anthropic cũng mô tả cách Claude đang tham gia ngày càng sâu vào các hoạt động kỹ thuật phần mềm, thử nghiệm và nghiên cứu nhằm phát triển thế hệ AI kế nhiệm.

Theo Chính sách mở rộng quy mô có trách nhiệm của Anthropic, một trong những ngưỡng đáng chú ý là khi AI có thể thay thế toàn bộ lực lượng nghiên cứu của công ty với chi phí cạnh tranh, hoặc giúp tăng gấp đôi tốc độ tiến bộ tổng thể về năng lực AI thông qua tự động hóa nghiên cứu và kỹ thuật.

Việc đạt ngưỡng này không đồng nghĩa AI đã hoàn toàn tự chủ, nhưng có thể tạo ra những thay đổi lớn đối với tốc độ phát triển công nghệ. Anthropic thừa nhận quá trình tăng tốc có nguy cơ vượt khả năng triển khai các biện pháp an toàn, bảo mật và kiểm soát hành vi AI. Công ty cũng cho biết từng không nhận ra một số đợt tăng tốc đáng kể cho đến khi chúng đã xảy ra.

Trước những rủi ro này, Anthropic chưa có kế hoạch cho phép Claude tự động phát triển liên tiếp các mô hình AI tiên tiến mà không có sự giám sát đáng kể của con người. Công ty đang xem xét bổ sung những biện pháp bảo vệ nhằm duy trì quyền kiểm soát đối với quá trình phát triển công nghệ.


Anthropic cáo buộc các hãng AI Trung Quốc dùng Claude để huấn luyện mô hình

---

Nguồn: Thanh Niên Công nghệ
Chuyên mục: AI