TổngTàiMầmNon
New member
Lần đầu tiên NVIDIA tung ra CPU Vera và cho cả thế giới thấy một chân lý đau đớn: điểm nghẽn của AI giờ không còn nằm ở GPU nữa mà đã chuyển sang... CPU rồi các bro ơi!
Ngày xưa khi mọi người chỉ dùng AI để chat chit như chatbot thì GPU vẫn là ngôi sao sáng nhất. Nhưng giờ AI Agent đã lên level: tự viết code, tự dùng tool, tự làm nhiệm vụ phức tạp nhiều bước – và thế là CPU bắt đầu "lag" theo kiểu không tưởng NVIDIA tin rằng đây chính là bài toán cực khó tiếp theo của các trung tâm dữ liệu AI, và Vera chính là đứa con cưng được thiết kế riêng để xử gọn vấn đề này.
Tại sự kiện GTC Taipei, NVIDIA chính thức ra mắt Vera – CPU đầu tiên được thiết kế dành riêng cho kỷ nguyên AI Agent. Theo hãng thì Vera xử lý nhanh hơn 1,8 lần so với những CPU x86 truyền thống trong các tác vụ liên quan đến AI Agent, học tăng cường và xử lý data. Nghe xịn xò phết nhỉ?
CEO Jensen Huang còn đặt cược rằng trong tương lai, AI Agent sẽ trở thành nhóm "người dùng" điện toán đông nhất hành tinh luôn. Ông khẳng định Vera được thiết kế để phục vụ đúng tương lai đó, với mục tiêu vận hành các hệ thống AI Agent siêu to khổng lồ mà vẫn giữ hiệu năng cao và tiết kiệm điện.
Đằng sau câu chuyện này là một sự thay đổi cực kỳ lớn trong cách AI hoạt động đó các bạn.
Trước kia, khi bạn hỏi chatbot một câu gì đó thì phần lớn công việc là model phải gen ra câu trả lời thôi. Nhưng giờ khi AI tiến hóa thành Agent có thể thực hiện nhiệm vụ thực sự, quy trình xử lý phức tạp hơn gấp mấy lần
Một AI Agent có thể tự quyết định viết một đoạn code, gọi tool bên ngoài, lấy data, chạy chương trình trong môi trường riêng biệt, phân tích kết quả rồi tiếp tục đưa ra bước tiếp theo. Trong cả chuỗi công việc đó, GPU vẫn lo phần suy luận của model, nhưng nhiều công đoạn quan trọng lại diễn ra trên... CPU đó!
Theo NVIDIA, khi AI Agent ngày càng thông minh và thực hiện nhiều bước hơn, thời gian xử lý trên CPU sẽ tích tụ ngày càng nhiều. Điều này khiến CPU trở thành mắt xích then chốt của cả hệ thống, ảnh hưởng trực tiếp đến độ trễ, hiệu suất sử dụng phần cứng và khối lượng công việc mà data center có thể xử lý được.
NVIDIA cho rằng đa số CPU trong data center hiện nay được build cho một thời đại khác rồi – khi mục tiêu chính là tăng số lõi hoặc giảm giá mỗi lõi. Trong khi đó, các "nhà máy AI" hiện đại lại cần tối đa hóa lượng công việc AI hoàn thành được trên mỗi đơn vị điện năng và chi phí vận hành. Kiểu ngành công nghiệp đang chuyển từ thước đo "số lõi trên mỗi đô la" sang "số lượng kết quả AI trên mỗi đô la" luôn ấy
Để đáp ứng yêu cầu khắt khe đó, Vera sử dụng kiến trúc lõi Olympus hoàn toàn mới do chính NVIDIA tự phát triển. Con chip này sở hữu 88 lõi cùng hệ thống bộ nhớ có băng thông lên tới 1,2 TB mỗi giây. NVIDIA cho biết kiến trúc mới giúp AI Agent giảm thời gian chờ đợi ở những bước phụ thuộc CPU, giúp các GPU trong data center chạy liên tục không nghỉ
Theo NVIDIA, lõi Olympus mang lại số lượng lệnh xử lý trên mỗi chu kỳ cao hơn tới 50% so với thế hệ Grace trước đây. Vera còn đạt độ trễ bộ nhớ thấp hơn khoảng 40% so với các CPU x86 hiện nay và có thể mang lại hiệu năng cao gấp hơn ba lần trong một số bài toán xử lý đồ thị thường gặp ở hệ thống AI Agent.
Ngoài hiệu năng xịn sò, NVIDIA còn nhấn mạnh đến yếu tố tiết kiệm điện. Hãng cho biết hệ thống bộ nhớ của Vera tiêu thụ ít điện hơn đáng kể so với thiết kế máy chủ truyền thống, giúp giảm chi phí vận hành khi triển khai ở quy mô hàng nghìn máy chủ trong các data center AI. Vừa nhanh vừa tiết kiệm, còn gì bằng!
NVIDIA cho biết nhiều tổ chức đang đánh giá hoặc có kế hoạch triển khai Vera, bao gồm những cái tên đình đám như Anthropic, OpenAI, Oracle Cloud Infrastructure, ByteDance, CoreWeave cùng nhiều nhà cung cấp hạ tầng điện toán khác. Các ông lớn sản xuất máy chủ như Dell Technologies, HPE, Lenovo và Supermicro cũng dự kiến sẽ cung cấp những hệ thống dùng Vera trong thời gian tới.
Nguồn: soha.vn
Ngày xưa khi mọi người chỉ dùng AI để chat chit như chatbot thì GPU vẫn là ngôi sao sáng nhất. Nhưng giờ AI Agent đã lên level: tự viết code, tự dùng tool, tự làm nhiệm vụ phức tạp nhiều bước – và thế là CPU bắt đầu "lag" theo kiểu không tưởng NVIDIA tin rằng đây chính là bài toán cực khó tiếp theo của các trung tâm dữ liệu AI, và Vera chính là đứa con cưng được thiết kế riêng để xử gọn vấn đề này.
Tại sự kiện GTC Taipei, NVIDIA chính thức ra mắt Vera – CPU đầu tiên được thiết kế dành riêng cho kỷ nguyên AI Agent. Theo hãng thì Vera xử lý nhanh hơn 1,8 lần so với những CPU x86 truyền thống trong các tác vụ liên quan đến AI Agent, học tăng cường và xử lý data. Nghe xịn xò phết nhỉ?
CEO Jensen Huang còn đặt cược rằng trong tương lai, AI Agent sẽ trở thành nhóm "người dùng" điện toán đông nhất hành tinh luôn. Ông khẳng định Vera được thiết kế để phục vụ đúng tương lai đó, với mục tiêu vận hành các hệ thống AI Agent siêu to khổng lồ mà vẫn giữ hiệu năng cao và tiết kiệm điện.
Đằng sau câu chuyện này là một sự thay đổi cực kỳ lớn trong cách AI hoạt động đó các bạn.
Trước kia, khi bạn hỏi chatbot một câu gì đó thì phần lớn công việc là model phải gen ra câu trả lời thôi. Nhưng giờ khi AI tiến hóa thành Agent có thể thực hiện nhiệm vụ thực sự, quy trình xử lý phức tạp hơn gấp mấy lần
Một AI Agent có thể tự quyết định viết một đoạn code, gọi tool bên ngoài, lấy data, chạy chương trình trong môi trường riêng biệt, phân tích kết quả rồi tiếp tục đưa ra bước tiếp theo. Trong cả chuỗi công việc đó, GPU vẫn lo phần suy luận của model, nhưng nhiều công đoạn quan trọng lại diễn ra trên... CPU đó!
Theo NVIDIA, khi AI Agent ngày càng thông minh và thực hiện nhiều bước hơn, thời gian xử lý trên CPU sẽ tích tụ ngày càng nhiều. Điều này khiến CPU trở thành mắt xích then chốt của cả hệ thống, ảnh hưởng trực tiếp đến độ trễ, hiệu suất sử dụng phần cứng và khối lượng công việc mà data center có thể xử lý được.
NVIDIA cho rằng đa số CPU trong data center hiện nay được build cho một thời đại khác rồi – khi mục tiêu chính là tăng số lõi hoặc giảm giá mỗi lõi. Trong khi đó, các "nhà máy AI" hiện đại lại cần tối đa hóa lượng công việc AI hoàn thành được trên mỗi đơn vị điện năng và chi phí vận hành. Kiểu ngành công nghiệp đang chuyển từ thước đo "số lõi trên mỗi đô la" sang "số lượng kết quả AI trên mỗi đô la" luôn ấy
Để đáp ứng yêu cầu khắt khe đó, Vera sử dụng kiến trúc lõi Olympus hoàn toàn mới do chính NVIDIA tự phát triển. Con chip này sở hữu 88 lõi cùng hệ thống bộ nhớ có băng thông lên tới 1,2 TB mỗi giây. NVIDIA cho biết kiến trúc mới giúp AI Agent giảm thời gian chờ đợi ở những bước phụ thuộc CPU, giúp các GPU trong data center chạy liên tục không nghỉ
Theo NVIDIA, lõi Olympus mang lại số lượng lệnh xử lý trên mỗi chu kỳ cao hơn tới 50% so với thế hệ Grace trước đây. Vera còn đạt độ trễ bộ nhớ thấp hơn khoảng 40% so với các CPU x86 hiện nay và có thể mang lại hiệu năng cao gấp hơn ba lần trong một số bài toán xử lý đồ thị thường gặp ở hệ thống AI Agent.
Ngoài hiệu năng xịn sò, NVIDIA còn nhấn mạnh đến yếu tố tiết kiệm điện. Hãng cho biết hệ thống bộ nhớ của Vera tiêu thụ ít điện hơn đáng kể so với thiết kế máy chủ truyền thống, giúp giảm chi phí vận hành khi triển khai ở quy mô hàng nghìn máy chủ trong các data center AI. Vừa nhanh vừa tiết kiệm, còn gì bằng!
NVIDIA cho biết nhiều tổ chức đang đánh giá hoặc có kế hoạch triển khai Vera, bao gồm những cái tên đình đám như Anthropic, OpenAI, Oracle Cloud Infrastructure, ByteDance, CoreWeave cùng nhiều nhà cung cấp hạ tầng điện toán khác. Các ông lớn sản xuất máy chủ như Dell Technologies, HPE, Lenovo và Supermicro cũng dự kiến sẽ cung cấp những hệ thống dùng Vera trong thời gian tới.
Nguồn: soha.vn