Theo phản ánh từ báo The Guardian, AI Overviews – công cụ tự động tóm tắt và hiển thị câu trả lời ngay đầu trang kết quả tìm kiếm – đang làm dấy lên lo ngại về việc AI “thay thế” lời khuyên y tế chuyên môn trong những tình huống nhạy cảm.

Lo ngại AI đẩy thông tin y tế sai lệch lên vị trí ưu tiên

Bà Sophie Randall, Giám đốc Diễn đàn Thông tin Bệnh nhân (Patient Information Forum – PIF), cảnh báo rằng AI Overviews có thể đưa những nội dung y tế không chính xác lên vị trí nổi bật nhất, khiến người dùng dễ tin tưởng và làm theo mà không kiểm chứng từ bác sĩ hoặc cơ sở y tế.

Theo bà Randall, việc AI “tóm tắt” thông tin nhưng thiếu ngữ cảnh lâm sàng và đánh giá chuyên môn có thể gây ra rủi ro nghiêm trọng cho sức khỏe cộng đồng, đặc biệt với những người đang mắc bệnh hoặc có triệu chứng chưa rõ ràng.

Tư vấn dinh dưỡng sai lệch có thể làm suy kiệt bệnh nhân

Chung quan điểm, bà Anna Jewell, Giám đốc Hỗ trợ và Nghiên cứu của tổ chức Pancreatic Cancer UK, cho rằng một số nội dung tư vấn dinh dưỡng do AI Overviews tạo ra là “đặc biệt nguy hiểm”.

Theo bà Jewell, nếu bệnh nhân làm theo các gợi ý không phù hợp:

• Họ có thể không nạp đủ năng lượng,
• Dẫn đến sụt cân nhanh, suy giảm thể lực,
• Không còn đủ sức khỏe để chịu đựng hóa trị hoặc phẫu thuật, làm giảm cơ hội điều trị thành công.

“Trong những trường hợp này, hậu quả không chỉ là thông tin sai, mà có thể là đánh đổi bằng sinh mạng”, bà Jewell nhấn mạnh.

Nguy cơ AI “bình thường hóa” triệu chứng bệnh nghiêm trọng

Bà Pamela Healy, Giám đốc điều hành của British Liver Trust, cảnh báo thêm rằng nhiều bệnh lý nguy hiểm không có triệu chứng rõ ràng ở giai đoạn đầu và chỉ có thể phát hiện thông qua xét nghiệm, theo dõi y tế định kỳ.

Tuy nhiên, theo bà Healy, AI Overviews đôi khi lại đánh giá các triệu chứng này là “bình thường”, khiến người bệnh chủ quan, trì hoãn việc tái khám hoặc kiểm tra chuyên sâu.

“Điều này đặc biệt nguy hiểm, bởi nó có thể khiến người bệnh nghiêm trọng tin rằng tình trạng của mình không đáng lo ngại, cho đến khi bệnh đã tiến triển nặng”, bà Healy cảnh báo.

Tính thiếu nhất quán trong câu trả lời của AI

Một vấn đề khác được các chuyên gia chỉ ra là tính không ổn định của AI Overviews. Theo đó, cùng một truy vấn y tế, nhưng AI có thể đưa ra những câu trả lời khác nhau ở các thời điểm khác nhau, do sử dụng và tổng hợp từ các nguồn thông tin không đồng nhất.

Điều này làm gia tăng rủi ro cho người dùng, đặc biệt khi họ coi kết quả tìm kiếm của AI là nguồn tư vấn y tế đáng tin cậy.

Phản hồi từ Google: Khẳng định AI Overviews “chính xác và hữu ích”

Trước các chỉ trích, Google cho biết phần lớn nội dung do AI Overviews tạo ra là chính xác và có giá trị tham khảo, đồng thời khẳng định công ty đang liên tục cải thiện chất lượng của tính năng này.

Theo Google, mức độ chính xác của AI Overviews được đánh giá tương đương với các tính năng tìm kiếm hiện có như featured snippets – công cụ đã được Google triển khai trong hơn một thập kỷ.

Google cũng nhấn mạnh rằng:

• Các bản tóm tắt AI luôn đi kèm liên kết đến nguồn thông tin uy tín;
• Người dùng được khuyến nghị tham khảo ý kiến chuyên gia y tế, thay vì chỉ dựa vào kết quả tìm kiếm.

Người phát ngôn của Google khẳng định: “Chúng tôi đầu tư rất lớn vào chất lượng của AI Overviews, đặc biệt đối với các chủ đề nhạy cảm như sức khỏe. Phần lớn các bản tóm tắt đều cung cấp thông tin chính xác.”

Vụ việc một lần nữa đặt ra câu hỏi lớn về:

• Trách nhiệm pháp lý của doanh nghiệp công nghệ khi AI cung cấp thông tin ảnh hưởng trực tiếp đến sức khỏe con người;
• Ranh giới giữa công cụ hỗ trợ thông tin và tư vấn y tế gián tiếp;
• Nghĩa vụ cảnh báo rủi ro, kiểm soát nội dung và bảo vệ người tiêu dùng trong kỷ nguyên AI.

Đây cũng là vấn đề đang được nhiều quốc gia xem xét trong quá trình xây dựng khung pháp lý cho AI, y tế số và trách nhiệm sản phẩm số.