Nghịch lý kiểu gì mà CEO Microsoft có cả kho GPU xịn sò để train AI nhưng lại phải... phơi khô vì không có điện cắm vào chạy!
Trong buổi podcast Bg2 Pod với CEO OpenAI Sam Altman, CEO Microsoft Satya Nadella đã thả thính một sự thật đắng lòng về cuộc đua AI hiện nay. Khi được hỏi có đồng ý với ông trùm Nvidia Jensen Huang rằng 2-3 năm tới vẫn sẽ thiếu sức mạnh tính toán không, Nadella đáp trả cực gắt: vấn đề giờ không phải thiếu chip, mà là thiếu... điện để cắm chúng vào!
Nadella chia sẻ thẳng thắn: "Vấn đề lớn nhất của chúng tôi hiện nay không phải là thiếu chip AI, mà là thiếu nguồn điện để cắm chúng vào. Tôi thậm chí đang có GPU trong kho mà không thể sử dụng đơn giản vì không đủ cơ sở hạ tầng điện."
Chưa hết, ông còn kể thêm về những "cái vỏ nhà dữ liệu" (data center shell) - tức là những tòa nhà trống đã xây xong nhưng chưa lắp được hạ tầng điện, nước - đang nằm im lìm vì không kịp hoàn thiện để đáp ứng nhu cầu AI đang lên như diều gặp gió.
Chuyện năng lượng cho AI giờ đang hot rần rần luôn, nhất là sau khi Nvidia đã fix xong chuyện thiếu GPU. Bây giờ các ông lớn công nghệ đang đổ tiền vào các lò phản ứng hạt nhân mô-đun nhỏ (SMR) để tự lo điện cho data center khủng của mình. Nhưng plot twist là hóa đơn tiền điện của dân Mỹ tăng vọt theo, khiến ai cũng phải đặt câu hỏi: AI có đáng để đánh đổi không?
OpenAI cũng đã lên tiếng kêu gọi chính phủ Mỹ đầu tư thêm 100 gigawatt điện mỗi năm, coi đây là vũ khí chiến lược trong cuộc chạy đua AI với Trung Quốc. Một số chuyên gia còn cho rằng Trung Quốc đang leading về mảng này nhờ đầu tư mạnh vào thủy điện và điện hạt nhân.
Nhưng cũng có tin vui nha! Nadella và Altman còn bàn về khả năng trong tương lai sẽ có phần cứng đủ mạnh để chạy những mô hình ngôn ngữ xịn xò như GPT-5 hay GPT-6 ngay trên thiết bị cá nhân. Altman dự đoán: "Sẽ đến ngày chúng ta có thể tạo ra một thiết bị tiêu dùng có thể chạy mô hình GPT-5 hay GPT-6 hoàn toàn cục bộ với mức tiêu thụ điện thấp."
Theo người dẫn chương trình Brad Gerstner, điều này có thể làm những công ty đang đổ hàng tỷ USD vào data center phải đứng ngồi không yên, vì lúc đó user có thể không cần đến hạ tầng điện toán tập trung khổng lồ nữa.
Nguồn: genk.vn
Trong buổi podcast Bg2 Pod với CEO OpenAI Sam Altman, CEO Microsoft Satya Nadella đã thả thính một sự thật đắng lòng về cuộc đua AI hiện nay. Khi được hỏi có đồng ý với ông trùm Nvidia Jensen Huang rằng 2-3 năm tới vẫn sẽ thiếu sức mạnh tính toán không, Nadella đáp trả cực gắt: vấn đề giờ không phải thiếu chip, mà là thiếu... điện để cắm chúng vào!
Nadella chia sẻ thẳng thắn: "Vấn đề lớn nhất của chúng tôi hiện nay không phải là thiếu chip AI, mà là thiếu nguồn điện để cắm chúng vào. Tôi thậm chí đang có GPU trong kho mà không thể sử dụng đơn giản vì không đủ cơ sở hạ tầng điện."
Chưa hết, ông còn kể thêm về những "cái vỏ nhà dữ liệu" (data center shell) - tức là những tòa nhà trống đã xây xong nhưng chưa lắp được hạ tầng điện, nước - đang nằm im lìm vì không kịp hoàn thiện để đáp ứng nhu cầu AI đang lên như diều gặp gió.
Chuyện năng lượng cho AI giờ đang hot rần rần luôn, nhất là sau khi Nvidia đã fix xong chuyện thiếu GPU. Bây giờ các ông lớn công nghệ đang đổ tiền vào các lò phản ứng hạt nhân mô-đun nhỏ (SMR) để tự lo điện cho data center khủng của mình. Nhưng plot twist là hóa đơn tiền điện của dân Mỹ tăng vọt theo, khiến ai cũng phải đặt câu hỏi: AI có đáng để đánh đổi không?
OpenAI cũng đã lên tiếng kêu gọi chính phủ Mỹ đầu tư thêm 100 gigawatt điện mỗi năm, coi đây là vũ khí chiến lược trong cuộc chạy đua AI với Trung Quốc. Một số chuyên gia còn cho rằng Trung Quốc đang leading về mảng này nhờ đầu tư mạnh vào thủy điện và điện hạt nhân.
Nhưng cũng có tin vui nha! Nadella và Altman còn bàn về khả năng trong tương lai sẽ có phần cứng đủ mạnh để chạy những mô hình ngôn ngữ xịn xò như GPT-5 hay GPT-6 ngay trên thiết bị cá nhân. Altman dự đoán: "Sẽ đến ngày chúng ta có thể tạo ra một thiết bị tiêu dùng có thể chạy mô hình GPT-5 hay GPT-6 hoàn toàn cục bộ với mức tiêu thụ điện thấp."
Theo người dẫn chương trình Brad Gerstner, điều này có thể làm những công ty đang đổ hàng tỷ USD vào data center phải đứng ngồi không yên, vì lúc đó user có thể không cần đến hạ tầng điện toán tập trung khổng lồ nữa.
Nguồn: genk.vn