AI tương tác với con người phải có cảnh báo rõ ràng

Theo Điều 44 Luật Công nghiệp công nghệ số 2025, mọi hệ thống trí tuệ nhân tạo tương tác trực tiếp với con người đều phải có thông báo cho người sử dụng biết rằng họ đang tương tác với hệ thống AI. Quy định này chỉ loại trừ trường hợp người dùng hiển nhiên biết rõ mình đang tương tác với AI (ví dụ: chatbot trên website rõ ràng có mô tả là trí tuệ nhân tạo).

Đồng thời, sản phẩm công nghệ số thuộc Danh mục do Bộ Khoa học và Công nghệ ban hành, nếu được tạo ra bởi AI, phải có dấu hiệu nhận dạng rõ ràng để người dùng hoặc máy móc có thể nhận biết. Đây là một bước quan trọng nhằm nâng cao tính minh bạch và bảo vệ người tiêu dùng trong bối cảnh AI ngày càng phổ biến và có ảnh hưởng lớn đến đời sống xã hội.

Bộ Khoa học và Công nghệ cũng được giao trách nhiệm ban hành Danh mục sản phẩm công nghệ số tạo bởi trí tuệ nhân tạo và kiểm tra việc thực hiện các quy định liên quan.

Trách nhiệm của các chủ thể phát triển và cung cấp AI

Theo Điều 45, luật quy định rõ trách nhiệm của các chủ thể liên quan trong việc phát triển, cung cấp và triển khai hệ thống trí tuệ nhân tạo, bao gồm:

• Chủ thể phát triển: tổ chức, cá nhân thực hiện nghiên cứu và phát triển AI;

• Chủ thể cung cấp: tổ chức, cá nhân đưa AI ra thị trường dưới tên thương hiệu của mình;

• Chủ thể triển khai sử dụng: tổ chức, cá nhân quản lý hoặc khai thác hệ thống AI.

Các chủ thể này phải tuân thủ các nguyên tắc như:

• Đặt con người làm trung tâm, phục vụ sự phát triển bền vững;

• Bảo đảm minh bạch, trách nhiệm giải trình, an toàn và bảo mật thông tin;

• Tuân thủ pháp luật về bảo vệ dữ liệu cá nhân, quyền lợi người tiêu dùng, và các quy định pháp luật có liên quan;

• Kiểm soát được toàn bộ vòng đời của hệ thống AI, từ phát triển đến vận hành.

Hệ thống AI rủi ro cao và hệ thống AI tác động lớn

Tại Điều 43, luật xác định hai nhóm hệ thống trí tuệ nhân tạo cần quản lý đặc biệt:

• Hệ thống AI rủi ro cao: có khả năng gây tổn hại nghiêm trọng đến sức khỏe, quyền con người, lợi ích hợp pháp của tổ chức, cá nhân, hoặc gây ảnh hưởng đến trật tự, an toàn xã hội. Tuy nhiên, hệ thống AI chỉ hỗ trợ công việc cụ thể, kiểm tra lỗi, không thay thế quyết định của con người thì không bị xếp vào nhóm này.

• Hệ thống AI tác động lớn: là những hệ thống đa mục đích, có lượng người dùng lớn, lượng tham số và dữ liệu xử lý rất lớn.

Cả hai loại hệ thống này đều phải tuân thủ các yêu cầu nghiêm ngặt về kỹ thuật, quản trị dữ liệu, an toàn mạng, minh bạch thông tin và chịu sự giám sát, kiểm tra từ cơ quan chức năng.

LHLegal – Đồng hành pháp lý cùng doanh nghiệp và cá nhân phát triển công nghệ an toàn, đúng luật

Sự phát triển nhanh chóng của AI mang lại nhiều cơ hội nhưng cũng tiềm ẩn rủi ro pháp lý. Nếu bạn là doanh nghiệp đang ứng dụng AI trong sản phẩm, dịch vụ của mình, hoặc cá nhân phát triển công nghệ số, việc hiểu đúng, làm đúng theo Luật Công nghiệp công nghệ số 2025 là điều bắt buộc để tránh vi phạm và bị xử lý hành chính hoặc hình sự.

Công ty Luật TNHH LHLegal chuyên tư vấn pháp lý trong lĩnh vực công nghệ – dữ liệu – trí tuệ nhân tạo. Chúng tôi sẵn sàng đồng hành cùng bạn để bảo đảm sự tuân thủ pháp luật và giảm thiểu tối đa rủi ro.