Đại biểu Quốc hội đề xuất phân loại và định nghĩa cụ thể các dạng sự cố AI

Ngày 21/11, trong chương trình Kỳ họp thứ 10, Quốc hội thảo luận tại tổ về dự án Luật Trí tuệ nhân tạo. Nhiều ý kiến tập trung vào phạm vi áp dụng của Luật, chính sách của Nhà nước, phân loại rủi ro, xử lý sự cố và yêu cầu về đạo đức, dữ liệu khi triển khai hệ thống AI.

Đại biểu Nguyễn Thị Lan Anh (Đoàn Lào Cai) nhất trí về sự cần thiết ban hành Luật trong bối cảnh Việt Nam là một trong số ít quốc gia có luật về trí tuệ nhân tạo ngoài EU, dẫn tới việc tham chiếu còn hạn chế. Đại biểu đề nghị luật cần bảo đảm tính mở vì công nghệ thay đổi theo ngày, theo giờ tránh việc đóng khung gây cản trở đổi mới sáng tạo.

Đối với sự cố AI, đại biểu đề nghị làm rõ định nghĩa sự cố liên quan tới y tế, sức khỏe, an ninh; thang bậc sự cố; quy trình đánh giá và cơ chế thông báo. Đại biểu cho rằng cần có quy trình xử lý rõ ràng, xác định rõ chủ thể xử lý và thiết lập hệ thống giám sát cảnh báo sớm.

Đại biểu cũng đề xuất phân loại và định nghĩa cụ thể các dạng sự cố AI; xây dựng hệ thống giám sát, cảnh báo; cụ thể hóa quy trình xử lý theo mức độ rủi ro và làm rõ trách nhiệm pháp lý cũng như cơ chế bồi thường của nhà phát triển mô hình, cơ quan quản lý và người dùng cuối. Đại biểu lưu ý sự cố có thể xuất phát từ việc nhà phát triển không bảo đảm dữ liệu hoặc để lộ lỗ hổng, tương tự các phần mềm khác.

Về rủi ro AI, đại biểu cảnh báo những nguy cơ không gắn với sản phẩm cụ thể nên người dùng không thể nhận biết. Ví dụ như bắt cóc online hay lừa đảo bằng hình ảnh người thân để yêu cầu chuyển tiền. Đây là rủi ro lớn cần được Luật quan tâm với các cảnh báo rõ ràng.

Về vấn đề dữ liệu, đại biểu cho rằng người dùng phải qua nhiều bước kiểm chứng khi sử dụng các công cụ AI. Đại biểu đồng ý với cơ quan thẩm tra về việc cần xây dựng cơ sở dữ liệu sạch, sống và đủ, có khả năng liên thông giữa các ngành để hỗ trợ xây dựng quy hoạch, chính sách. Các dữ liệu này phải được giám sát, cảnh báo.

Nguồn hình: Quốc hội