AI tự học, robot phẫu thuật vào danh mục rủi ro cao

AI tự học, robot phẫu thuật vào danh mục rủi ro cao

Hệ thống AI tự học, robot phẫu thuật, điều khiển phương tiện tự hành và nhận diện sinh trắc học diện rộng được Chính phủ xếp vào nhóm rủi ro cao, phải đáp ứng các yêu cầu quản lý.

Ngày 2/7, Thủ tướng ban hành Quyết định về danh mục hệ thống trí tuệ nhân tạo (AI) có rủi ro cao. Đây là những hệ thống có khả năng gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng hoặc an ninh quốc gia.

Theo quyết định, việc sử dụng AI không làm thay đổi, chuyển giao hoặc loại trừ thẩm quyền, trách nhiệm của cơ quan, tổ chức, cá nhân. Trong quá trình vận hành, các hệ thống phải bảo đảm sự giám sát, kiểm soát và khả năng can thiệp của con người.

Trong lĩnh vực giáo dục, AI rủi ro cao gồm hệ thống cung cấp nội dung tự học theo chương trình giáo dục nhưng sử dụng nguồn dữ liệu không kiểm soát; tự động chấm điểm, đánh giá, xếp hạng người học; giám sát, phân tích hành vi người học.

Ở lĩnh vực y tế, AI hỗ trợ phẫu thuật, robot phẫu thuật và các thiết bị robot sử dụng AI điều khiển tự động được xếp vào nhóm rủi ro cao.

Trong lĩnh vực ngân hàng, AI tự động thực hiện giao dịch điện tử hoặc tự động quyết định cấp tín dụng cũng thuộc danh mục này.

Đối với lĩnh vực tố tụng, hệ thống AI nhận diện sinh trắc học diện rộng phục vụ giải quyết vụ án dân sự công ích được xác định là AI rủi ro cao.


Lĩnh vực giao thông vận tải có 31 hệ thống AI thuộc danh mục này, gồm điều khiển phương tiện tự hành cấp độ cao; điều khiển, vận hành tự động hệ thống tín hiệu và điều độ giao thông đường bộ, đường sắt; điều hành, kiểm soát công trình giao thông và hạ tầng kỹ thuật trọng yếu.

Trong lĩnh vực dân tộc và tôn giáo, AI tự động chấm điểm, phân loại hồ sơ để xác định đối tượng, địa bàn thụ hưởng chính sách; tự động xác thực thông tin hoặc quyết định chấp thuận, từ chối hồ sơ đăng ký, gia hạn hay hủy bỏ các quyết định quản lý nhà nước cũng được xếp vào nhóm rủi ro cao.

Theo quyết định, các hệ thống AI thuộc danh mục rủi ro cao đã đưa vào vận hành trước ngày 15/8 phải hoàn thành nghĩa vụ tuân thủ theo lộ trình. Trong đó, hệ thống thuộc lĩnh vực giáo dục, y tế và tài chính phải đáp ứng đầy đủ quy định trước ngày 1/9/2027; các lĩnh vực còn lại hoàn thành trước ngày 1/3/2027.

---

Nguồn: VnExpress Số hóa
Chuyên mục: AI