Okay các bạn ơi, có một chi tiết trong thông báo của OpenAI hôm 24 tháng 6 mà mình thấy nó khủng hơn cả cái chip luôn đó: họ dùng chính AI của mình để thiết kế... chip cho AI Tưởng tượng không? AI tự thiết kế chip để chính nó chạy nhanh hơn - một vòng lặp kiểu "infinite loop" mà mấy năm trước còn là sci-fi thuần túy luôn á.
Và kết quả thì sao? Từ lúc bắt đầu vẽ thiết kế đến khi hoàn tất sản xuất mẫu (tape-out) chỉ mất có 9 tháng thôi! Đây được coi là một trong những chu kỳ phát triển vi mạch tích hợp chuyên dụng (ASIC - Application Specific Integrated Circuit) nhanh nhất trong lịch sử ngành bán dẫn hiệu suất cao luôn đó.
Con chip này tên là Jalapeño. Tên nghe vui vui kiểu ớt Jalapeño ấy, nhưng đây là bước đi mà ngành AI đã chờ từ lâu rồi nha!
Jalapeño làm gì và tại sao nó khác biệt?
Jalapeño không phải là vi xử lý đa năng đâu nha. Nó được thiết kế cho MỘT việc duy nhất thôi: chạy inference (suy diễn), tức là phần AI "trả lời" người dùng trong thực tế, không phải phần huấn luyện mô hình từ đầu. OpenAI gọi đây là "bộ xử lý thông minh" (Intelligence Processor) được xây dựng từ con số 0, dành riêng cho các mô hình ngôn ngữ lớn hiện đại, chứ không phải thiết kế cũ được recycle lại.
Điều này quan trọng ở điểm này nè: hầu hết chip AI hiện nay, kể cả GPU của NVIDIA, đều được tối ưu cho bài toán huấn luyện - xử lý song song khủng long, sức mạnh tính toán bạo lực, và cả một hệ sinh thái phần mềm tích lũy qua nhiều năm. Nhưng suy diễn là câu chuyện khác hẳn: nó cần độ trễ thấp (latency), thông lượng cao, và đặc biệt là hiệu quả chi phí khi phải chạy 24/7 không ngừng nghỉ. Jalapeño được thiết kế để giải quyết đúng các nút thắt này: di chuyển dữ liệu tiết kiệm hơn, cân bằng giữa tính toán và bộ nhớ, hiệu quả kết nối mạng nội bộ.
Kích thước vật lý của chip cũng khủng nha: đây là một ASIC kích thước tấm nền tối đa (reticle-sized), tức là lớn nhất có thể sản xuất trong một lần khắc trên silicon luôn. Trong bài test ban đầu, chip được cho là vượt trội về hiệu năng trên mỗi watt so với các hệ thống hiện tại, và có nguồn tin độc lập ước tính chi phí inference có thể thấp hơn GPU của NVIDIA tới 50%
Tại sao inference là "điểm yếu" của NVIDIA?
Dừng lại ở điểm này một chút vì nó hay bị bỏ qua trong các bài viết về chip AI lắm.
Khi nói đến "chip AI", mọi người thường nghĩ đến việc huấn luyện mô hình, và ở đó thì NVIDIA là bá chủ gần như tuyệt đối rồi. Lý do không chỉ là phần cứng đâu: mà là CUDA, hệ sinh thái phần mềm mà NVIDIA xây dựng trong gần hai mươi năm, khiến việc chuyển sang nền tảng khác trở nên cực kỳ tốn kém về thời gian và công sức. Gần như toàn bộ công cụ huấn luyện, thư viện toán học, framework học máy đều được tối ưu cho CUDA cả rồi. Đây là "cái hào" mà các đối thủ đã cố công phá trong nhiều năm mà vẫn chưa thành công.
Nhưng suy diễn thì khác! Khi mô hình đã được train xong rồi, việc chạy nó không phụ thuộc vào CUDA theo cách tương tự nữa. Đây chính là lý do tại sao inference trở thành "đầu cầu" quan trọng nhất để các AI lab và các hãng công nghệ lớn thử xây dựng chip riêng, và cũng là lý do tại sao thị trường này đang dịch chuyển nhanh hơn bất cứ ai nghĩ. Theo một số ước tính, việc suy diễn hiện chiếm khoảng hai phần ba tổng lượng tính toán AI trong thực tế, và tỷ lệ này sẽ chỉ tăng thêm khi các sản phẩm AI được triển khai rộng hơn.
Cuộc đua mà OpenAI vừa chính thức join
Điều thú vị là OpenAI không phải người đầu tiên đi theo hướng này đâu. Họ chỉ là người cuối cùng trong nhóm "big players" thôi.
Google có bộ vi xử lý đơn vị xử lý tensor (TPU - Tensor Processing Unit) từ năm 2016 với phiên bản mới nhất là TPU v7 Ironwood rồi.
Amazon có Trainium (chuyên huấn luyện) và Inferentia (chuyên suy diễn), với hơn 500.000 chip Trainium2 đang chạy trong thực tế luôn.
Microsoft có Maia 200.
Meta có MTIA, chip suy diễn nội bộ cho các mô hình trong hệ thống mạng xã hội của họ.
Theo phân tích ngành, các dòng chip chuyên dụng tự thiết kế này đang tăng trưởng ở mức 44,6% mỗi năm đó nha! Và đây là cuộc đua không chỉ có NVIDIA, mà các ông lớn khác như Microsoft, Amazon, Meta đều tham gia hết rồi.
Điểm chung của tất cả những bước đi này là chiến lược tích hợp dọc: thay vì mua phần cứng từ NVIDIA với biên lợi nhuận cao, các công ty này chọn đầu tư chi phí cố định lớn một lần để kiểm soát stack hạ tầng từ trên xuống dưới. Jalapeño của OpenAI bước vào đúng logic đó, nhưng với một điểm khác: OpenAI là lab AI thuần túy, không phải công ty hạ tầng đám mây. Đây là lần đầu tiên một tổ chức AI thuần nghiên cứu và sản phẩm tự làm silicon cho chính mình luôn đó!
NVIDIA ở đâu trong bức tranh này?
Thành thật mà nói, câu trả lời không đơn giản là "NVIDIA thua" đâu nha.
Trong ngắn hạn, Jalapeño chưa thể thay thế GPU của NVIDIA cho tất cả tác vụ được đâu: đặc biệt là huấn luyện và các tác vụ linh hoạt. NVIDIA cũng không đứng yên: nền tảng Rubin thế hệ mới đang được sản xuất đại trà và hứa hẹn giảm 10 lần chi phí suy diễn so với Blackwell. Và quan trọng nhất, hệ sinh thái CUDA vẫn là lợi thế không dễ san bằng trong một sớm một chiều được.
Nhưng về dài hạn thì xu hướng đang rõ ràng rồi. Khi ngày càng nhiều tổ chức lớn tự làm chip cho các tác vụ suy diễn của họ, thị phần NVIDIA trong mảng này (hiện vẫn trên 90%) sẽ bị phân tán dần thôi. Một số phân tích dự báo thị phần suy diễn của NVIDIA có thể giảm xuống còn 20-30% vào năm 2028 luôn đó. NVIDIA vẫn thắng về doanh thu vì nhu cầu tuyệt đối vẫn tăng, nhưng miếng bánh thị phần đang bị chia sẻ theo cách mà vài năm trước không ai nghĩ tới.
Câu hỏi dài hạn: Ai kiểm soát stack AI?
Mình nghĩ điều quan trọng nhất từ thông báo Jalapeño không phải là con chip cụ thể đâu: mà là tín hiệu chiến lược. OpenAI không chỉ muốn làm model AI tốt nhất; họ muốn kiểm soát toàn bộ chuỗi từ phần cứng đến phần mềm đến sản phẩm luôn. Kế hoạch triển khai Jalapeño theo quy mô trung tâm dữ liệu hàng gigawatt cùng Microsoft không chỉ để tiết kiệm chi phí, đó là nền móng để OpenAI không còn phụ thuộc vào bên thứ ba ở lớp hạ tầng quan trọng nhất nữa.
Câu hỏi mà mình chưa có câu trả lời là: liệu Jalapeño có thực sự hiệu quả hơn so với chip NVIDIA ở quy mô thực tế không, hay đây vẫn còn là một lời hứa chờ kiểm chứng? Kết quả cuối 2026 khi chip bắt đầu triển khai sẽ là câu trả lời thực sự nhất đó!
Ở Việt Nam học ĐH và làm ngành chip bán dẫn (không phải công nhân) mà là kỹ sư nghiên cứu, đóng góp thì ở đâu nhỉ? Mình thấy có một số bên Viettel hay FPT cũng có nhưng quy mô nhỏ và công nghệ thấp. Có hãng chip nào đặt trung tâm nghiên cứu hoặc hỗ trợ tại Việt Nam không nhỉ? (các bác đừng bình luận công nghệ 5x20 nha, cái đó hay nhưng chỉ lĩnh vực BDS thôi )
Nguồn: tinhte.vn