Ngày 3/12 vừa qua, Nvidia vừa flex cực mạnh khi công bố con máy chủ AI mới cực xịn của họ Theo số liệu mới nhất, em máy chủ này có thể tăng hiệu suất các mô hình AI đỉnh cao (kể cả mấy model hot từ Trung Quốc) lên tới 10 lần so với thế hệ trước đó. Nghe mà choáng luôn á!
Cái timing mà Nvidia chọn để thả thính này cũng rất có ý đồ đấy. Hiện tại thì làng AI đang dần chuyển focus từ việc train model (lĩnh vực Nvidia đang bá đạo) sang việc deploy các mô hình cho hàng triệu user. Và đây cũng là sân chơi mà các đối thủ như AMD và Cerebras đang nhảy vào tranh phần khá gắt gao
Bí quyết nằm ở đâu? Nvidia chia sẻ rằng sức mạnh này đến từ khả năng nhét vừa siêu nhiều chip vào một máy chủ duy nhất, kèm theo hệ thống kết nối tốc độ cao giữa chúng - một thứ mà Nvidia vẫn đang giữ ngôi vị top 1 so với mấy ông còn lại. Con máy chủ AI mới nhất này được trang bị tận 72 chip đỉnh cao của hãng luôn nha!
Một điểm đặc biệt nữa là Nvidia tập trung vào các mô hình AI dùng kiến trúc Mixture-of-Experts (MoE). Đây là một kiểu công nghệ giúp tối ưu hóa AI bằng cách chia nhỏ công việc ra và giao cho các "chuyên gia" khác nhau trong model xử lý. Nghe cool phết đúng không?
Kiến trúc MoE này đã trở nên viral trong năm 2025, đặc biệt sau khi DeepSeek - một công ty AI Trung Quốc drop một mô hình nguồn mở siêu xịn mà lại tốn ít thời gian train trên chip Nvidia hơn hẳn so với đối thủ.
Từ đó, các ông lớn như OpenAI (bố già của ChatGPT), Mistral bên Pháp và Moonshot AI của Trung Quốc đều bắt đầu áp dụng MoE vào các model của họ. Riêng Moonshot AI còn release một mô hình nguồn mở được đánh giá rất cao vào tháng 7 vừa qua với công nghệ này.
Nguồn: genk.vn
Cái timing mà Nvidia chọn để thả thính này cũng rất có ý đồ đấy. Hiện tại thì làng AI đang dần chuyển focus từ việc train model (lĩnh vực Nvidia đang bá đạo) sang việc deploy các mô hình cho hàng triệu user. Và đây cũng là sân chơi mà các đối thủ như AMD và Cerebras đang nhảy vào tranh phần khá gắt gao
Bí quyết nằm ở đâu? Nvidia chia sẻ rằng sức mạnh này đến từ khả năng nhét vừa siêu nhiều chip vào một máy chủ duy nhất, kèm theo hệ thống kết nối tốc độ cao giữa chúng - một thứ mà Nvidia vẫn đang giữ ngôi vị top 1 so với mấy ông còn lại. Con máy chủ AI mới nhất này được trang bị tận 72 chip đỉnh cao của hãng luôn nha!
Một điểm đặc biệt nữa là Nvidia tập trung vào các mô hình AI dùng kiến trúc Mixture-of-Experts (MoE). Đây là một kiểu công nghệ giúp tối ưu hóa AI bằng cách chia nhỏ công việc ra và giao cho các "chuyên gia" khác nhau trong model xử lý. Nghe cool phết đúng không?
Kiến trúc MoE này đã trở nên viral trong năm 2025, đặc biệt sau khi DeepSeek - một công ty AI Trung Quốc drop một mô hình nguồn mở siêu xịn mà lại tốn ít thời gian train trên chip Nvidia hơn hẳn so với đối thủ.
Từ đó, các ông lớn như OpenAI (bố già của ChatGPT), Mistral bên Pháp và Moonshot AI của Trung Quốc đều bắt đầu áp dụng MoE vào các model của họ. Riêng Moonshot AI còn release một mô hình nguồn mở được đánh giá rất cao vào tháng 7 vừa qua với công nghệ này.
Nguồn: genk.vn