Yêu cầu minh bạch khi trò chuyện với chatbot

Theo quy định, các nền tảng AI bắt buộc phải thông báo rõ cho người dùng rằng họ đang trò chuyện với chatbot chứ không phải con người.
Đối với người dùng dưới 18 tuổi, thông báo này phải xuất hiện định kỳ 3 giờ/lần trong quá trình sử dụng.

Luật cũng yêu cầu doanh nghiệp vận hành chatbot phải duy trì cơ chế tự động phát hiện và ngăn chặn nội dung độc hại, đồng thời chuyển hướng người dùng có dấu hiệu trầm cảm hoặc nguy cơ tổn thương tâm lý đến các dịch vụ hỗ trợ và tư vấn chuyên nghiệp.

Phát biểu khi ký ban hành, Thống đốc Newsom nhấn mạnh rằng California có trách nhiệm bảo vệ thế hệ trẻ trước tác động tiêu cực của công nghệ chưa được kiểm soát. Ông khẳng định công nghệ có thể mang lại lợi ích về giáo dục và kết nối xã hội, nhưng nếu thiếu hàng rào an toàn, AI cũng có thể gây tổn hại cho người dùng trẻ.

California tiên phong xây dựng khung pháp lý cho AI

California hiện là một trong những bang đầu tiên tại Mỹ triển khai khung pháp lý quản lý chatbot AI, trong bối cảnh nhiều quốc gia và tổ chức quốc tế cũng đang xem xét biện pháp tương tự.

Động thái này diễn ra sau hàng loạt vụ kiện và báo cáo về việc chatbot AI có thể trò chuyện không phù hợp với trẻ em hoặc đưa ra lời khuyên nguy hiểm. Các cơ quan giám sát tại Mỹ, trong đó có Ủy ban Thương mại Liên bang (FTC), đang điều tra rủi ro khi trẻ vị thành niên sử dụng chatbot như bạn đồng hành ảo.

Theo Tech Oversight California, trong nửa đầu năm 2025, các tập đoàn công nghệ đã chi hơn 2,5 triệu USD để vận động hành lang phản đối các dự luật quản lý AI. Tuy nhiên, chính quyền bang vẫn kiên định với quan điểm rằng sự phát triển nhanh của ngành AI cần đi đôi với giám sát và trách nhiệm xã hội.

Doanh nghiệp công nghệ điều chỉnh cách chatbot tương tác với thanh thiếu niên

Trước các chỉ trích ngày càng tăng, nhiều công ty AI lớn đã bắt đầu điều chỉnh cách chatbot tương tác với người dùng trẻ tuổi.
Một số nền tảng triển khai chế độ tài khoản phụ huynh – con cái, cho phép cha mẹ giám sát và giới hạn thời gian sử dụng chatbot.
Bên cạnh đó, các mạng xã hội lớn cũng ngăn chatbot thảo luận về những chủ đề nhạy cảm và tự động chuyển hướng người dùng đến các nguồn hỗ trợ chuyên nghiệp khi phát hiện dấu hiệu rủi ro.

Hướng tới môi trường số an toàn cho người dùng trẻ

Với đạo luật mới, California đặt mục tiêu trở thành bang tiên phong trong việc thiết lập chuẩn mực đạo đức và pháp lý cho AI, đặc biệt trong bảo vệ quyền lợi trẻ em và thanh thiếu niên.
Đây được xem là bước đi quan trọng trong việc cân bằng giữa đổi mới công nghệ và bảo vệ người dùng, hướng đến môi trường số an toàn, nhân văn và có trách nhiệm hơn.