Nguy cơ từ sự phát triển vượt bậc của AI và AGI

Trí tuệ nhân tạo (AI) đang phát triển với tốc độ chóng mặt, đặc biệt là cuộc đua hướng đến AGI (trí tuệ nhân tạo tổng quát) khiến nhiều chuyên gia lo ngại. Công nghệ này không chỉ có khả năng tác động tiêu cực đến xã hội mà còn tiềm ẩn nguy cơ đe dọa sự tồn vong của nhân loại.

Trước viễn cảnh đó, hai nhà khoa học được xem là “cha đẻ AI” – Geoffrey Hinton và Yann LeCun – đã đưa ra những giải pháp nhằm hạn chế rủi ro AI có thể gây ra.

Geoffrey Hinton: “Đưa bản năng làm mẹ vào AI”

Trong phát biểu tại hội nghị Ai4 ở Las Vegas (Mỹ), Geoffrey Hinton bày tỏ sự nghi ngờ về hiệu quả của các biện pháp kiểm soát mà các công ty AI đang triển khai. Theo ông, khi đạt đến trình độ AGI, AI sẽ thông minh vượt xa con người và có thể dễ dàng vượt qua những rào cản an toàn hiện tại.

Để ngăn chặn kịch bản này, Hinton đề xuất tích hợp bản năng làm mẹ vào AI, giúp chúng thực sự “quan tâm và yêu thương con người”. Ông nhấn mạnh: trong lịch sử, rất ít thực thể thông minh bị kiểm soát bởi sinh vật kém thông minh hơn, ngoại trừ mối quan hệ mẹ – con, nơi bản năng bảo vệ được hình thành qua quá trình tiến hóa. Nếu không đưa yếu tố này vào AI, loài người có nguy cơ “trở thành lịch sử”.

Yann LeCun: Xây dựng AI hướng đến mục tiêu rõ ràng

Đồng quan điểm với Hinton, Yann LeCun – nhà khoa học AI trưởng của Meta – cho rằng cần xây dựng cấu trúc cứng cho AI. Trong một bài viết trên LinkedIn, ông nhấn mạnh: AI phải được lập trình để chỉ thực hiện các hành động hướng đến mục tiêu mà con người giao cho, đồng thời tuân thủ các quy tắc an toàn nhất định.

LeCun gọi đây là mô hình “AI hướng đến mục tiêu”. Theo ông, hệ thống này cần hai rào chắn quan trọng:

• Sự phục tùng con người
• Khả năng đồng cảm

Ngoài những mục tiêu cao cấp, AI cũng cần được tích hợp các rào cản cơ bản như “không gây hại cho con người”. Đây được xem là những “bản năng” bảo vệ, tương tự như động lực tồn tại ở động vật và con người.

Những cảnh báo từ thực tế

Thực tế đã xuất hiện nhiều trường hợp AI gây hại gián tiếp cho con người. Một số ví dụ điển hình:

• Một người đàn ông mắc rối loạn tâm thần sau khi làm theo chế độ ăn do ChatGPT gợi ý.
• Một thiếu niên tự tử sau khi bị ám ảnh bởi chatbot Character.ai.
• Một người khác bị ảo tưởng rằng mình đã khám phá ra bước đột phá toán học sau hàng trăm giờ trò chuyện với ChatGPT.

Những vụ việc này cho thấy AI hoàn toàn có thể ảnh hưởng tiêu cực nếu thiếu đi các rào cản và cơ chế bảo vệ phù hợp.

Cả Geoffrey Hinton và Yann LeCun đều khẳng định: AI chỉ thực sự an toàn khi được lập trình để quan tâm, yêu thương và tuân thủ con người. Đây là điều kiện tiên quyết để đảm bảo trí tuệ nhân tạo phát triển theo hướng phục vụ nhân loại thay vì trở thành mối đe dọa.