Tại hội nghị Hot Chips đang diễn ra ở Cupertino, California, Microsoft vừa thả "bom tấn" khi giới thiệu nền tảng phần cứng AI cực đỉnh mang tên Brainwave. Nghe tên đã thấy hơi "não cá vàng" rồi nhỉ?
Microsoft cho biết các mô hình máy học (Machine Learning) sẽ chạy nhanh hơn hẳn với độ trễ siêu thấp trên Brainwave. Điểm đặc biệt là nền tảng này cho phép các dev tích hợp mô hình máy học trực tiếp lên chip bán dẫn luôn, từ đó đạt hiệu năng cao hơn cả CPU lẫn GPU nha mọi người!
Team nghiên cứu tại Microsoft đã test mô hình máy học Gated Recurrent Unit trên chip lập trình FPGA Stratix 10 mới của Intel, cho ra tốc độ xử lý 39,5 TFLOPS mà không cần định loạt tiến trình. Nhờ đó hệ thống máy học có thể xử lý theo thời gian thực luôn.
Mô hình mà Microsoft chọn có tỉ lệ lớn hơn nhiều lần so với các mạng thần kinh ảo như Alexnet và Resnet-50 - những cái tên quen thuộc mà nhiều công ty khác hay dùng để test hiệu năng phần cứng. Chính vì thế, độ trễ thấp là yếu tố cực kỳ quan trọng để triển khai các hệ thống máy học ở quy mô lớn, vì ai mà lại muốn ngồi chờ lâu để app phản hồi đúng khum?
Doug Burger - kỹ sư tại Microsoft Research chia sẻ: "Chúng tôi gọi đây là AI thời gian thực bởi ý tưởng ở đây là khi bạn gửi một chỉ thị vào chip, bạn sẽ muốn có được câu trả lời ngay lập tức."
Hiện tại Microsoft đang xài Brainwave với rất nhiều chip lập trình FPGA được trang bị cho các data center của hãng. Theo Burger, Brainwave sẽ giúp các dịch vụ của Microsoft hỗ trợ nhanh hơn với các tính năng AI. Và còn một tin vui nữa là công ty đã có kế hoạch cung cấp nền tảng Brainwave cho các khách hàng bên thứ 3 thông qua nền tảng đám mây Azure đó nha!
Brainwave nạp một mô hình máy học đã được huấn luyện vào bộ nhớ của chip Stratix 10 và nó sẽ nằm ở đó suốt vòng đời của hệ thống. Phần cứng này sau đó có thể được dùng để tính toán những gì có bên trong một mô hình được thiết kế tạo ra dữ liệu, chẳng hạn như các đoạn văn bản dự đoán trước. Trong trường hợp mô hình máy học quá lớn để chạy trên một con FPGA riêng lẻ, phần mềm sẽ triển khai và thực thi nó trên nhiều phần cứng khác.
Microsoft không phải là công ty duy nhất đổ tiền vào phần cứng tăng tốc xử lý máy học đâu nha. Google hồi đầu năm cũng đã công bố thế hệ 2 của Tensor Processing Unit - một con chip dành riêng cho mục đích thực thi và huấn luyện các mô hình máy học. Kéo theo sau đó là cả loạt startup cũng bắt đầu phát triển các phần cứng tăng tốc dành riêng cho machine learning.
Nhắc đến chip lập trình FPGA, nhiều người cho rằng nó không nhanh hoặc không thể đạt hiệu suất như các con chip được phát triển riêng cho tác vụ thực thi hoạt động của mô hình máy học. Thế nhưng Burger cho rằng mốc hiệu năng đạt được qua hệ thống demo của Microsoft Research đã chứng minh rằng FPGA có thể đạt hiệu năng cao tương tự mà!
Thêm vào đó, hiệu năng mà Microsoft Research đạt được dựa trên một nền tảng phần cứng mới và Burger nói sẽ còn rất nhiều điều mà Microsoft và Intel có thể làm để tối ưu hóa hiệu năng phần cứng lẫn phần mềm chạy trên Brainwave. Với những cải tiến trong tương lai, việc Microsoft đạt được năng lực tính toán đến 90 TFLOPS với chip Stratix 10 của Intel là điều hoàn toàn có thể xảy ra.
Hiện tại Brainwave hỗ trợ các mô hình máy học được huấn luyện sẵn được phát triển từ thư viện Microsoft CNTK và TensorFlow của Google. Burger cho biết nhóm nghiên cứu hiện đang mở rộng khả năng tương thích với các công cụ khác như Caffe. Công ty vẫn chưa đưa ra lộ trình phát hành Brainwave cho khách hàng nhưng đã bắt đầu phối hợp với các đối tác bên thứ 3 để có thể hỗ trợ mọi mô hình máy học chạy trên Brainwave.
Nguồn: tinhte.vn