Okay các bạn ơi, đây là tin hot nhất tuần này luôn: OpenAI vừa flex con chip inference AI đầu tiên tự design, đặt tên cute là Jalapeño (nghe cay cay như ớt luôn ️), được làm chung với Broadcom đó. Điểm gây sốc không phải tên chip nghe fancy, mà là tốc độ phát triển nhanh như chớp: từ lúc vẽ thiết kế ban đầu đến tape-out chỉ mất có 9 tháng thôi nha - được coi là một trong những chu kỳ phát triển ASIC nhanh nhất trong lịch sử ngành bán dẫn hiệu suất cao luôn đó!
Mục tiêu của Jalapeño là tối ưu cho inference - tức là phần AI "trả lời" user thực tế ấy, chứ không phải phần training đâu. Theo OpenAI thì mỗi cải thiện ở đây đều ảnh hưởng trực tiếp tới tốc độ ChatGPT nhanh hơn, giá API rẻ hơn, và độ ổn định khi tải cao. Bài test ban đầu cho thấy chip xịn sò về hiệu năng trên mỗi watt so với công nghệ hiện tại đó!
Điểm thú vị nữa là OpenAI dùng chính model của mình để đẩy nhanh quá trình thiết kế chip: về bản chất là AI tự giúp tạo ra chip để chạy AI luôn á - meta vãi Kế hoạch triển khai Jalapeño dự kiến cuối 2026, hướng tới quy mô data center gigawatt cùng với Microsoft. Đây rõ ràng là bước đi chiến lược của OpenAI để giảm dần phụ thuộc vào NVIDIA rồi đây!
Nhưng mà... chip làm một số việc đặc thù thì ổn thật, chứ ngày nào còn chưa có hệ sinh thái ngang CUDA thì đừng nghĩ đến chuyện nghỉ chơi NVIDIA nhé. Lão Hoàng (CEO Jensen Huang) tính trước 20 năm, đổ tiền vào CUDA nuôi con nghiện, giờ đã đến lúc thu hồi trái ngọt rồi
Google cũng dùng chip riêng (TPU), OpenAI cũng dùng chip riêng, trong ngắn hạn thì vị thế NVIDIA không dễ lung lay đâu, nhưng trong trung hạn thì khả năng cao là rất kịch tính đó các bạn!
Ai biết so với con Maia 200 của Microsoft thì sao nhỉ?
Nguồn: tinhte.vn