MeoMoon557
New member
Google vừa drop báo cáo kỹ thuật đầu tiên về mức tiêu thụ năng lượng của mô hình Gemini, và đây là lần hiếm hoi một ông lớn Big Tech chịu "spoil" con số thật sự. Theo báo cáo, một prompt văn bản trung bình chỉ ngốn có 0,24 watt-giờ điện thôi - tương đương bật lò vi sóng được... 1 giây
Nghiên cứu của Google không phải chỉ tính mỗi chip AI (TPU tùy chỉnh của Google, kiểu như GPU ấy) mà còn tính luôn cả đống hạ tầng phía sau. Cụ thể là: chip AI chiếm 58% trong tổng số 0,24 watt-giờ đó, CPU và bộ nhớ góp thêm 25%, thiết bị dự phòng chiếm 10%, còn 8% cuối cùng là từ hệ thống vận hành data center (làm mát, chuyển đổi điện các kiểu).
Google cũng nhắc nhở rằng con số này chỉ là trung vị thôi nhé, không đại diện cho mọi loại prompt đâu. Ví dụ như bạn ném hàng chục cuốn sách vào rồi bảo Gemini tóm tắt chi tiết thì chắc chắn sẽ xài nhiều năng lượng hơn rồi, hay dùng mô hình reasoning vốn cần nhiều bước xử lý cũng vậy. Báo cáo này chỉ xét trên prompt văn bản, chưa bao gồm xử lý hình ảnh hay video - mấy thứ này ngốn điện hơn nhiều đó nha!
Plot twist: mức năng lượng tiêu thụ cho một prompt trung vị đã giảm tới 33 lần chỉ trong vòng một năm, nhờ cải tiến mô hình và phần mềm. Tuy nhiên, Google cũng thừa nhận rằng những truy vấn phức tạp hơn, như yêu cầu xử lý hàng chục cuốn sách hay sử dụng mô hình reasoning, sẽ tiêu tốn nhiều năng lượng hơn.
Về phát thải CO₂, Google ước tính một prompt trung vị chỉ thải ra 0,03 gram - con số này tính theo phương pháp dựa trên nguồn điện sạch (điện Mặt Trời, gió, địa nhiệt, hạt nhân...) mà Google mua được. Còn về nước thì mỗi prompt xài khoảng 0,26 ml (tầm năm giọt nước thôi) để làm mát data center
Jeff Dean, nhà khoa học trưởng của Google, cho biết mục tiêu là giúp người dùng hiểu rõ hơn tác động môi trường khi sử dụng AI: "Mọi người không cần quá lo ngại về năng lượng hay nước khi dùng Gemini, vì mức tiêu thụ tương đương với những việc hằng ngày bạn làm mà thậm chí không nghĩ tới, như xem vài giây TV hay uống vài giọt nước".
Nguồn: kenh14.vn
Nghiên cứu của Google không phải chỉ tính mỗi chip AI (TPU tùy chỉnh của Google, kiểu như GPU ấy) mà còn tính luôn cả đống hạ tầng phía sau. Cụ thể là: chip AI chiếm 58% trong tổng số 0,24 watt-giờ đó, CPU và bộ nhớ góp thêm 25%, thiết bị dự phòng chiếm 10%, còn 8% cuối cùng là từ hệ thống vận hành data center (làm mát, chuyển đổi điện các kiểu).
Google cũng nhắc nhở rằng con số này chỉ là trung vị thôi nhé, không đại diện cho mọi loại prompt đâu. Ví dụ như bạn ném hàng chục cuốn sách vào rồi bảo Gemini tóm tắt chi tiết thì chắc chắn sẽ xài nhiều năng lượng hơn rồi, hay dùng mô hình reasoning vốn cần nhiều bước xử lý cũng vậy. Báo cáo này chỉ xét trên prompt văn bản, chưa bao gồm xử lý hình ảnh hay video - mấy thứ này ngốn điện hơn nhiều đó nha!
Plot twist: mức năng lượng tiêu thụ cho một prompt trung vị đã giảm tới 33 lần chỉ trong vòng một năm, nhờ cải tiến mô hình và phần mềm. Tuy nhiên, Google cũng thừa nhận rằng những truy vấn phức tạp hơn, như yêu cầu xử lý hàng chục cuốn sách hay sử dụng mô hình reasoning, sẽ tiêu tốn nhiều năng lượng hơn.
Về phát thải CO₂, Google ước tính một prompt trung vị chỉ thải ra 0,03 gram - con số này tính theo phương pháp dựa trên nguồn điện sạch (điện Mặt Trời, gió, địa nhiệt, hạt nhân...) mà Google mua được. Còn về nước thì mỗi prompt xài khoảng 0,26 ml (tầm năm giọt nước thôi) để làm mát data center
Jeff Dean, nhà khoa học trưởng của Google, cho biết mục tiêu là giúp người dùng hiểu rõ hơn tác động môi trường khi sử dụng AI: "Mọi người không cần quá lo ngại về năng lượng hay nước khi dùng Gemini, vì mức tiêu thụ tương đương với những việc hằng ngày bạn làm mà thậm chí không nghĩ tới, như xem vài giây TV hay uống vài giọt nước".
Nguồn: kenh14.vn