Điểm đáng chú ý là các lời nhắc này không được yêu cầu từ trước mà xuất hiện tự động, khiến nhiều người cảm giác như đang trò chuyện với một trợ lý có xu hướng quan tâm đến sức khỏe cá nhân.

Phản ứng trái chiều từ cộng đồng công nghệ

Hiện tượng này nhanh chóng tạo ra nhiều luồng ý kiến khác nhau. Một bộ phận người dùng cho rằng đây là tính năng hữu ích, giúp nhắc nhở thói quen làm việc lành mạnh và hạn chế việc sử dụng AI quá lâu.

Ngược lại, một số người cho rằng việc AI tự ý đưa ra lời khuyên cá nhân có thể gây gián đoạn công việc và làm mờ ranh giới giữa công cụ hỗ trợ và hành vi “can thiệp”.

Giải thích từ nhà phát triển Anthropic

Theo Anthropic, Claude không được thiết kế chính thức để đưa ra lời nhắc sức khỏe. Hiện tượng này có thể xuất phát từ cách mô hình được huấn luyện để trở nên hữu ích, lịch sự và quan tâm hơn trong giao tiếp.

Trong một số trường hợp, các đặc tính này có thể bị “phóng đại”, khiến chatbot xuất hiện hành vi giống như đang chăm sóc người dùng.

Bài toán cân bằng của AI trong tương lai

Sự việc của Claude phản ánh thách thức lớn trong phát triển AI: làm sao để vừa hữu ích, vừa không can thiệp quá sâu vào trải nghiệm người dùng.

Các nhà phát triển sẽ cần tinh chỉnh để đảm bảo AI giữ đúng vai trò trợ lý, thay vì trở thành một thực thể đưa ra lời khuyên ngoài mong muốn.