07 hoạt động AI bị nghiêm cấm theo dự thảo Luật

Điều 83 Dự thảo Luật Công nghiệp Công nghệ số (“Dự thảo Luật CNCNS”) quy định 7 hoạt động về trí tuệ nhân tạo bị nghiêm cấm gồm:

Hạn chế AI tác động đến hành vi cá nhân một cách không nhận thức được

Không đưa AI vào triển khai các kỹ thuật nhằm mục đích gây ảnh hưởng đến hành vi của cá nhân mà họ không thể nhận thức được hoặc sử dụng các kỹ thuật lừa đảo, lôi kéo cá nhân làm ảnh hưởng đến khả năng đưa ra quyết định dẫn đến hành vi gây tổn hại đáng kể.

“1. Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo triển khai các kỹ thuật nhằm mục đích gây ảnh hưởng đến hành vi của cá nhân mà cá nhân đó không thể nhận thức được hoặc sử dụng các kỹ thuật lôi kéo hoặc lừa đảo nhằm bóp méo hành vi của cá nhân đó một cách nghiêm trọng bằng cách làm suy giảm khả năng đưa ra quyết định dẫn đến tổn hại đáng kể.”

Điều khoản này được đưa ra nhằm ngăn chặn khả năng AI lợi dụng việc lạm dụng của người dùng từ đó hạn chế khả năng tư duy, suy nghĩ và đưa quyết định của người dùng.

Không khai thác điểm yếu của cá nhân và nhóm đối tượng đặc thù

Không đưa AI vào các hoạt động khai thác những điểm yếu của cá nhân hoặc nhóm người theo tuổi tác, tình trạng sức khỏe cá nhân, khuyết tật hoặc kinh tế gây ảnh hưởng đến các hành vi của họ dẫn đến sinh ra thiệt hại.

“2. Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo khai thác những điểm yếu của cá nhân hoặc nhóm người người do tuổi tác, tình trạng khuyết tật hoặc hoàn cảnh kinh tế hoặc xã hội làm bóp méo nghiêm trọng hành vi và gây tổn hại đáng kể cho cá nhân hoặc nhóm người đó.”

Quy định này được đặt ra để phòng ngừa việc AI sử dụng thông tin về bệnh tật, khả năng tài chính của người dùng nhằm đe dọa, tạo ra những quyết định dựa trên những thông tin này để điều hướng hành vi hoặc quyết định của người dùng.

Không dùng AI để phân loại, đánh giá người dùng dựa trên đặc điểm cá nhân

Không đưa AI triển khai các hoạt động phân loại, đánh giá người dùng từ các thông tin về đặc tính cá nhân, hành vi xã hội và tính cách.

3. Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo được dùng để đánh giá hoặc phân loại cá nhân dựa trên hành vi xã hội hoặc các đặc điểm cá nhân hoặc tính cách được suy luận hoặc dự đoán dẫn đến một hoặc cả hai trường hợp sau:
4. a) Đối xử bất lợi trong bối cảnh xã hội không liên quan đến bối cảnh mà dữ liệu ban đầu được tạo ra hoặc thu thập;
5. b) Tổn hại bất lợi đối với cá nhân hoặc nhóm người không chính đáng hoặc không tương xứng với hành vi xã hội hoặc hoặc mức độ nghiêm trọng của hành vi đó.

Tránh sự phân biệt trong quá trình áp dụng AI vào đời sống con người, tránh gây bất lợi tổn hại đến quyền lợi của người dùng vì những đặc tính của mình gây mất cân bằng xã hội.

Không sử dụng AI để dự đoán rủi ro phạm tội

Không đưa AI triển khai các thuật toán nhằm suy luận để đánh giá rủi ro một cá nhân có thể thực hiện hành vi phạm tội hình sự dựa trên những tài liệu hồ sơ và các đánh giá về đặc điểm, tính cách của cá nhân đó.

Không đưa AI triển khai thuật toán nhằm đánh giá rủi ro cá nhân thực hiện hành vi phạm tội hình sự

4. Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo được sử dụng để đánh giá rủi ro của cá nhân nhằm xác định hoặc dự đoán nguy cơ một cá nhân sẽ phạm tội hình sự chỉ dựa trên hồ sơ hoặc đánh giá tính cách và đặc điểm; không áp dụng cho các hệ thống trí tuệ nhân tạo được sử dụng để hỗ trợ đánh giá liên quan trực tiếp đến hoạt động phòng, chống tội phạm theo quy định pháp luật hiện hành.

Điều này nhằm để tránh việc suy đoán của AI tạo nên những định kiến không nên có của những cá nhân khác đối với cá nhân được suy đoán, gây ảnh hưởng đến quyền và lợi ích của cá nhân này trong đời sống sinh hoạt hàng ngày.

Tuy nhiên, điều khoản này không quy định đối với các hệ thống AI sử dụng cho hoạt động phòng, chống tội phạm theo quy định của pháp luật.

Không áp dụng AI vào nhận diện khuôn mặt từ không gian mạng và camera giám sát

Không đưa AI vào những hoạt động nhận diện khuôn mặt từ những hình ảnh từ không gian mạng và các thước phim từ các camera giám sát.

5. Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo tạo hoặc mở rộng cơ sở dữ liệu nhận dạng khuôn mặt thông qua việc thu thập hình ảnh khuôn mặt không có mục tiêu từ Internet hoặc đoạn phim CCTV.

Việc này hạn chế rủi ro về bảo mật cũng như bảo vệ thông tin, nhận dạng của cá nhân khi đăng tải hoặc bị đăng tải các hình ảnh liên quan đến mình trên không gian mạng. Đồng thời hạn chế việc từ những hình ảnh này, các cá nhân khác có thể lợi dụng thông tin về nhận dạng của cá nhân này để tạo nên những hình ảnh giả tạo, không đúng với sự thật nhằm lừa đảo hoặc đe dọa, tống tiền.

Không sử dụng AI để suy đoán cảm xúc trong môi trường làm việc và giáo dục

Không đưa AI thực hiện hành vi suy đoán cảm xúc của con người trong môi trường làm việc và môi trường giáo dục.

6. Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo suy đoán cảm xúc của con người trong khu vực nơi làm việc và cơ sở giáo dục, ngoại trừ hệ thống trí tuệ nhân tạo được dùng cho y tế và an toàn.

Việc suy đoán cảm xúc của con người trong môi trường làm việc hoặc cơ sở giáo dục có thể xem là xâm phạm vào bí mật đời tư của cá nhân khi chưa được sự cho phép. Những cảm xúc này cũng là một trong những phạm trù được xem là của riêng và bất xâm phạm.

Tuy nhiên, để chuẩn đoán chính xác và hiệu quả hơn trong các hoạt động y tế và an toàn, sự trợ giúp về suy đoán cảm xúc của các cá nhân là cần thiết cho những hoạt động này nên vẫn sẽ được sử dụng nhưng sẽ có một số điều kiện riêng được Chính phủ quy định.

Không dùng AI vào phân loại sinh trắc học dựa trên dữ liệu thu thập

Không đưa AI tham gia vào việc phân loại sinh trắc học để phân loại các cá nhân dựa trên dữ liệu thu thập được.

Không dùng AI vào phân loại sinh trắc học để phân loại cá nhân

7. Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo phân loại sinh trắc học để phân loại các cá nhân dựa trên dữ liệu sinh trắc học để suy luận ra dữ liệu cá nhân nhạy cảm; không bao gồm việc dán nhãn hoặc lọc các tập dữ liệu sinh trắc học được thu thập hợp pháp.”

Các hoạt động về sinh trắc học là những hoạt động mang tính bảo mật và nhạy cảm vô cùng cao. Các cá nhân sử dụng AI này có thể sử dụng những thông tin về sinh trắc học thu thập được từ hoạt động phân loại trên để đe dọa, tống tiền hoặc chiếm đoạt tài sản của những cá nhân khác thông qua những hệ thống bảo mật bằng sinh trắc học.

Một số đề xuất để quản lý AI hiệu quả hơn

• Ban hành các quy định về phân loại rủi ro thông qua việc siết chặt về Giấy phép và kiểm định AI. Các hệ thống AI hoạt động trong các lĩnh vực về tài chính, kinh tế, an ninh và một số những lĩnh vực nhạy cảm khác cần được kiểm định nghiêm ngặt trong 1 khoảng thời gian nhất định trước khi đưa vào sử dụng rộng rãi.
• Xác định về trách nhiệm pháp lý về AI, quy định rõ ràng về các trường hợp xác định trách nhiệm của người vận hành AI, doanh nghiệp sử dụng AI và người phát triển AI khi phát sinh những sự cố. Từ đó nâng cao trách nhiệm người dân trong việc sử dụng AI.
• Trường hợp AI gây thiệt hại phải xác định được trách nhiệm thuộc về người nào. Cung cấp cơ chế bồi thường khi AI gây ra thiệt hại như bảo hiểm rủi ro.
• Các quyết định quan trọng cần được có sự giám sát và đồng ý của con người từ đó xác định trách nhiệm khi các quyết định đó khiến cho AI tạo ra thiệt hại.
• Xem xét, đề ra các yêu cầu và quy chuẩn về các quyết định của AI thông qua những báo cáo về việc dự báo cách thuật toán của AI đưa ra các quyết định.
• Công bố minh bạch về các dữ liệu đào tạo AI cho công chúng để tránh tình trạng sai lệch mục đích sử dụng của AI.

Hiện nay, Disney cùng Nvidia và Google DeepMind đã hợp tác phát triển được một hệ thống AI dưới dạng một chú robot nhỏ. Đồng thời trong buổi họp báo ra mắt, CEO của Nvidia ông Jensen Huang đã tuyên bố rằng dữ liệu về mã nguồn GR00T N1 sẽ là mã nguồn mở, cho phép công chúng sử dụng và tham khảo về dữ liệu đào tạo AI này.

• Ban hành các quy định về việc kiểm tra định kỳ và khắc phục những sự cố phát sinh hoặc đình chỉ sử dụng các hệ thống AI gặp lỗi nặng, vi phạm về các vấn đề đạo đức, quyền con người làm ảnh hưởng đến xã hội và công việc trong lĩnh vực của mình.
• Đưa ra các điều luật về bảo vệ dữ liệu cá nhân, hạn chế thu thập các thông tin nhạy cảm và yêu cầu AI phải đề xuất và nhận được sự đồng ý của người dùng trước khi thu thập và sử dụng các thông tin, dữ liệu cá nhân.
• Kiểm soát chặt chẽ các ứng dụng AI cần sử dụng các tính năng nhận diện trong các hoạt động giám sát, quản lý người dân.
• Phối hợp quốc tế với các nước khác để phát triển tiêu chuẩn AI chung, hạn chế rủi ro giữa các nước với nhau.

Như vậy, việc phát triển ngành Công nghiệp Công nghệ số của nước ta trong tương lai sẽ là một bước tiến lớn trong công cuộc phát triển xã hội. Tuy nhiên, cần phải có những quy định chặt chẽ để tránh các sự cố không đáng có. Việc ban hành các quy định hạn chế hoặc cấm những hoạt động mà khi áp dụng, các hệ thống AI có thể gây tổn hại hoặc bị lợi dụng để gây tổn hại cho quyền và lợi ích của con người là vô cùng cần thiết.