Từng dòng hội thoại cũng “ngốn” điện

Julien Delavande, kỹ sư tại nền tảng AI Hugging Face, vừa giới thiệu một công cụ độc đáo cho phép ước tính lượng điện tiêu thụ thực tế của mỗi truy vấn gửi đến chatbot AI. Ý tưởng đến từ chính sự tò mò của anh: mỗi lần trò chuyện với AI, chúng ta đã tiêu hao bao nhiêu điện?

Công cụ này tích hợp vào giao diện Chat UI mã nguồn mở, có thể đo lượng điện tiêu thụ theo thời gian thực khi sử dụng các mô hình AI phổ biến như Llama 3.3 70B của Meta hay Gemma 3 của Google.

Ví dụ, để Llama 3.3 70B soạn một email đơn giản, hệ thống sẽ tiêu tốn khoảng 0,1841 Watt-giờ, tương đương với việc bật lò vi sóng trong 0,12 giây hoặc dùng máy nướng bánh trong 0,02 giây. Nghe có vẻ không đáng kể, nhưng khi nhân lên hàng triệu hay hàng tỷ lượt truy vấn mỗi ngày, con số này trở thành một vấn đề lớn đối với môi trường.

Dùng AI không miễn phí, ít nhất là với môi trường

AI càng mạnh, điện càng “hao”

Các mô hình trí tuệ nhân tạo vận hành nhờ vào GPU và chip xử lý hiệu suất cao – vốn tiêu tốn lượng điện rất lớn để xử lý các tác vụ phức tạp. Khi AI ngày càng trở nên phổ biến, hỗ trợ mọi việc từ viết nội dung, lập trình đến tư vấn và đặt lịch, thì nhu cầu năng lượng cũng tăng vọt theo.

Delavande cho biết, chỉ cần lựa chọn mô hình nhỏ hơn hoặc rút ngắn độ dài câu trả lời cũng có thể giúp giảm tiêu thụ điện đáng kể. Công cụ của anh không chỉ hiển thị số Watt-giờ tiêu tốn, mà còn so sánh trực quan với thiết bị gia dụng, giúp người dùng dễ hình dung hơn về mức tiêu hao năng lượng.

“Chúng tôi muốn thúc đẩy sự minh bạch trong cộng đồng mã nguồn mở. Tương lai có thể sẽ đến lúc các mô hình AI được dán nhãn năng lượng như cách thực phẩm ghi thành phần dinh dưỡng”, Delavande chia sẻ.

Trò chuyện với AI cũng nên “tính toán”

Trong thời đại AI len lỏi vào mọi lĩnh vực – từ học tập, làm việc đến đời sống cá nhân – những ảnh hưởng ngầm đến môi trường đang bị xem nhẹ. Việc chọn mô hình AI nhẹ, tối ưu truy vấn, hoặc đơn giản là không dùng AI khi không thật sự cần thiết, sẽ góp phần tiết kiệm điện và giảm khí thải.

Mỗi lần hỏi AI không chỉ là một tương tác số, mà còn là một hành động có tác động vật lý – tính bằng điện năng và lượng carbon phát thải. Công cụ của Delavande chính là một lời nhắc nhỏ nhưng đầy ý nghĩa: AI không miễn phí – và cái giá phải trả đôi khi là chính môi trường sống của chúng ta.