Quản lý theo 4 mức độ rủi ro

Tiếp tục Kỳ họp thứ 10, sáng 21/11, Quốc hội nghe tờ trình và báo cáo thẩm tra Dự án Luật Trí tuệ nhân tạo. Theo Chính phủ, Dự thảo Luật được xây dựng nhằm thể chế hóa chủ trương của Đảng và Nhà nước, tạo hành lang pháp lý đột phá cho trí tuệ nhân tạo; kiến tạo môi trường pháp lý thuận lợi để thúc đẩy đổi mới sáng tạo, nâng cao năng lực cạnh tranh quốc gia; đồng thời quản lý rủi ro, bảo vệ lợi ích quốc gia, quyền con người và chủ quyền số.

Trình bày Tờ trình tóm tắt, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết, Dự thảo Luật Trí tuệ nhân tạo gồm 8 Chương với 36 điều. Dự thảo Luật Trí tuệ nhân tạo thiết lập cơ chế quản lý theo mức độ rủi ro, bảo đảm việc phát triển, ứng dụng và sử dụng trí tuệ nhân tạo được an toàn, minh bạch, có thể kiểm soát và có trách nhiệm giải trình.

Chính phủ quy định 4 mức độ rủi ro trong phát triển trí tuệ nhân tạo, gồm: Không chấp nhận được (mức độ cao nhất); rủi ro cao; rủi ro trung bình và rủi ro thấp. Các hệ thống có rủi ro không chấp nhận được bị cấm phát triển, cung cấp, triển khai hoặc sử dụng dưới bất kỳ hình thức nào.

Chính phủ đề xuất danh mục cấm bao gồm hệ thống dùng cho hành vi bị pháp luật nghiêm cấm, sử dụng yếu tố giả mạo để lừa dối, thao túng gây tổn hại nghiêm trọng, lợi dụng điểm yếu của nhóm người dễ bị tổn thương (trẻ em, người cao tuổi...), hoặc tạo nội dung giả mạo gây nguy hại nghiêm trọng đến an ninh quốc gia.

Theo Dự thảo, tổ chức, cá nhân vi phạm trong lĩnh vực này sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự. Nếu gây thiệt hại, phải bồi thường theo pháp luật dân sự. Trường hợp nhiều chủ thể cùng tham gia (phát triển, cung cấp, triển khai) thì phải liên đới bồi thường. Trách nhiệm bồi thường được xác định dựa trên mức độ kiểm soát thực tế, khả năng dự báo và các biện pháp quản lý rủi ro mà mỗi bên đã áp dụng.

Đáng chú ý, Dự thảo Luật quy định mức phạt hành chính bằng tiền tối đa 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân. Với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó. Trường hợp tái phạm thì phạt tối đa 2% doanh thu toàn cầu của năm trước liền kề của tổ chức đó.

Chính phủ cũng đề xuất nhiều chính sách hỗ trợ nghiên cứu, đầu tư, đào tạo nhân lực chất lượng cao, tạo điều kiện cho doanh nghiệp, tổ chức và cá nhân tham gia phát triển và ứng dụng trí tuệ nhân tạo.

Bổ sung các hành vi bị cấm

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải cho biết, Luật xây dựng theo hướng Luật khung là phù hợp thực tiễn. Tuy nhiên, do lĩnh vực AI phát triển rất nhanh nên việc phải sửa đổi Luật trong một thời gian ngắn là có thể xảy ra. Có ý kiến cho rằng, Luật AI là Luật gốc và đối với mỗi Luật chuyên ngành đều cần có 1 chương riêng về AI.

Về phân loại và quản lý hệ thống AI theo rủi ro, Ủy ban cơ bản nhất trí với việc phân loại rủi ro thành 4 mức (rủi ro thấp, trung bình, cao và không chấp nhận được. Tuy nhiên, Dự thảo Luật chưa xác định rõ tiêu chí định lượng hoặc định tính để xác định và phân loại rủi ro, chưa có các quy định về biện pháp quản lý, công cụ và phương pháp đánh giá rủi ro nên việc phân loại, tự phân loại rủi ro gặp khó khăn, dẫn đến lo ngại về trách nhiệm pháp lý trong triển khai.

Về cơ sở dữ liệu quốc gia hệ thống trí tuệ nhân tạo và cơ sở dữ liệu phục vụ trí tuệ nhân tạo, Ủy ban đề nghị bổ sung nguyên tắc cốt lõi để đảm bảo chất lượng đối với dữ liệu phục vụ AI như: dữ liệu phải “đúng - đủ - sạch - sống” và thống nhất dùng chung; có cơ chế kết nối liên thông, chia sẻ dữ liệu không để dữ liệu bị phân tán tạo điểm nghẽn trong nghiên cứu, phát triển AI; có quy định nguyên tắc bắt buộc về đảm bảo an ninh mạng, bảo mật dữ liệu và phòng vệ đối với hạ tầng AI quốc gia, chống nguy cơ chiếm quyền điều khiển, rò rỉ dữ liệu.

Đối với trách nhiệm pháp lý của các bên liên quan, những hành vi và lỗi do con người thực hiện thì AI cũng có thể thực hiện. Trong khi đó, trách nhiệm pháp lý của bản thân AI còn nhiều quan điểm rất khác nhau nên rất khó xác định trách nhiệm theo nghĩa truyền thống. Khi có vụ việc phát sinh sẽ gây tranh chấp về trách nhiệm hành chính, dân sự, hình sự. Do vậy, cần bổ sung nguyên tắc để phân biệt trách nhiệm giữa các chủ thể, các bên liên quan kể cả đối với nhà cung cấp nước ngoài khi cung cấp dịch vụ AI xuyên biên giới và phân biệt giữa các trường hợp cố ý, không cố ý hoặc lỗi do giới hạn kỹ thuật, không tiên lượng được trước;

Về các hành vi bị cấm, Ủy ban đề nghị bổ sung quy định về các hành vi bị cấm để góp phần nhận diện sớm về các hành vi vi phạm từ khâu nghiên cứu đến triển khai sử dụng AI, trong đó phải gồm cả hành vi của người sử dụng, của tổ chức, cá nhân lợi dụng AI thực hiện các hành vi bị cấm theo hướng: Cấm sử dụng AI để gây rối, kích động chính trị, xâm phạm an ninh quốc gia, thao túng các cuộc bỏ phiếu, bầu cử,… ; Cấm sử dụng AI để tạo dựng những nội dung giả mạo, tạo dựng hình ảnh, video clip,… phục vụ lừa đảo, xúc phạm danh dự, nhân phẩm, gây chia rẽ và các mục đích xấu khác…

Để đảm bảo tính khả thi của Luật, Ủy ban đề nghị Cơ quan chủ trì soạn thảo tiếp tục rà soát, hoàn thiện để đảm bảo các quy định khung nhưng phải rõ ràng, mạch lạc, có các nguyên tắc, định hướng để tiếp tục xây dựng các văn bản hướng dẫn và áp dụng hiệu quả trong thực tiễn. Hoàn thiện đồng bộ dự thảo Nghị định quy định chi tiết và hướng dẫn thi hành, các văn bản hướng dẫn khác có liên quan và ban hành hoặc trình Chính phủ ban hành kịp thời, tránh tạo ra khoảng trống pháp lý.

Chính phủ cần tiếp tục đánh giá kỹ lưỡng nguồn lực cần thiết để thực hiện các chính sách tại dự thảo Luật, bảo đảm hiệu quả, khả thi, nhất là đối với các nội dung, chính sách mới liên quan đến nguồn lực tài chính, nhân lực như: Cổng thông tin điện tử một cửa về AI, Cơ sở dữ liệu quốc gia về hệ thống AI, Ủy ban Quốc gia về trí tuệ nhân tạo, các cơ chế, chính sách ưu đãi, Quỹ Phát triển trí tuệ nhân tạo quốc gia, hạ tầng tính toán quốc gia về AI, đánh giá sự phù hợp, kiểm định, giám sát rủi ro…