MunKute2700
New member
Phải nói là anh Lê Viết Quốc đúng chuẩn "con nhà nòi" trong lĩnh vực AI tại Google luôn! Chính công trình nghiên cứu của anh đã góp phần tạo ra Transformer - một thuật toán xịn xò mà cả Google lẫn ChatGPT đều phải "xài chung" đấy.
Sinh năm 1982 tại một ngôi làng nhỏ ở Hương Thủy (tỉnh Thừa Thiên-Huế), nơi anh Quốc lớn lên hồi đó thậm chí còn chưa có điện nữa ấy chứ Nhưng mà anh vẫn siêng năng "cày" thư viện gần nhà để đọc sách về những phát minh, rồi mơ ước một ngày sẽ có phát minh của riêng mình. Và giờ thì... ước mơ thành hiện thực rồi đó!
Sau khi tốt nghiệp trường chuyên Quốc học Huế (trường top đỉnh luôn nhé), anh Quốc bay sang Đại học Quốc gia Australia (Úc) học tiếp, rồi lại "nhảy" sang Đại học Stanford (Mỹ) làm nghiên cứu sinh Tiến sĩ về AI. Career path chuẩn không cần chỉnh!
Năm 2011, plot twist: Quốc đồng sáng lập Google Brain cùng với cố vấn Tiến sĩ Andrew Ng, nghiên cứu sinh Google Jeff Dean và nhà nghiên cứu Greg Corrado. Mục tiêu? Khai phá về Deep Learning (Học sâu) dựa trên núi dữ liệu khổng lồ của Google. Trước đó, anh đã "mày mò" research về Unsupervised Deep learning ở Stanford rồi.
Deep Learning là gì? Nói ngắn gọn thì nó là một thuật toán lấy ý tưởng từ... não bộ con người để tiếp thu nhiều tầng biểu đạt (cả cụ thể lẫn trừu tượng), qua đó hiểu được ý nghĩa của các loại dữ liệu. Nghe fancy nhưng ứng dụng thực tế rất xịn: giải quyết được cả đống vấn đề từ giáo dục đến biến đổi khí hậu luôn!
Ví dụ như: dùng các cảm biến từ xa để theo dõi và ghi lại dữ liệu môi trường toàn cầu. Hiện tại đống data đó phần lớn "nằm chơi" chưa được xử lý, và Deep Learning có thể giúp hiểu các chuỗi dữ liệu và chỉ ra hướng giải quyết. Xịn chưa!
Năm 2013, sau khi tốt nghiệp, Quốc chính thức gia nhập Google với tư cách một nhà nghiên cứu. Anh nhanh chóng đạt được những đột phá ấn tượng trong lĩnh vực Machine Translation (dịch máy) - một trong những mảng hot nhất trong cộng đồng Machine Learning.
Để đạt được mấy thành tựu đó, Quốc phải vượt lên những phương pháp học sâu trước đây (vốn chỉ hiệu quả với hình ảnh và lời nói - những thứ có thể phân tích với đầu vào kích thước cố định).
Vào năm 2014, bùm! Quốc đề xuất Seq2seq learning cùng với Ilya Sutskever và Oriol Vinyals của Google. Đây là một framework (khung công cụ/thư viện mã lệnh) giải mã bộ mã hóa, có mục đích đào tạo các mô hình để chuyển đổi chuỗi từ miền này sang miền khác - ví dụ như dịch câu sang các ngôn ngữ khác.
Seq2seq learning không đòi hỏi quá nhiều "lựa chọn" trong thiết kế kỹ thuật, giúp hệ thống dịch của Google hoạt động hiệu quả và chính xác hơn trên các tệp dữ liệu "khủng". Ban đầu nó được dùng cho dịch máy, nhưng sau đó tỏa sáng ở nhiều mảng khác: tóm tắt văn bản, chatbot AI, và trả lời câu hỏi.
Theo bài đăng mới nhất của CEO Nguyễn Tử Quảng, chính thuật toán seq2seq của anh Quốc đã góp phần giúp Google tạo ra Transformer. Thuật toán này hiện đang được cả Google và ChatGPT sử dụng đó nha!
Transformer là thuật toán được Google Brain (đơn vị nghiên cứu chuyên sâu về AI của Google) phát minh vào tháng 8/2017.
Thuật toán Transformer đột phá ở chỗ nào? Nó cách mạng hóa cách huấn luyện AI ngôn ngữ! Trước đây, muốn dạy AI thì phải tạo tập dữ liệu huấn luyện sẵn theo cặp câu hỏi-trả lời (labeling data). AI chỉ ghi nhớ cặp câu có sẵn mà không hiểu ý nghĩa - khác biệt giữa "học vẹt" và "học hiểu" đó mấy bạn.
Trích nguyên văn trong tài liệu công bố về Transformer của Google: "With transformers, computers can see the same patterns humans see" (Tạm dịch: Với transformer, máy tính có thể nhìn thấy những thứ giống như con người nhìn thấy). Nghe mà sốc!
Google đã rất hào phóng khi công bố tài liệu chi tiết về thuật toán Transformer công khai cho tất cả mọi người truy cập. Đồng thời cung cấp quyền sử dụng mở (Open-Source) cho thuật toán này nữa.
Từ đó, toàn bộ giới khoa học làm AI được hưởng lợi từ phát minh của Google. Trong đó có OpenAI - một công ty thành lập năm 2015 và không có thành tựu gì nổi bật cho tới sau 2017.
Sau khi Google công bố Transformer, chỉ vài tháng sau thôi là những AI ngôn ngữ đầu tiên dựa trên thuật toán mới này ồ ạt ra đời. Tháng 1/2018, OpenAI cho ra mắt con AI đầu tiên dựa trên Transformer là GPT-1. Họ ứng dụng rất nhanh, nhanh hơn cả chính Google luôn!
GPT là viết tắt của Generative Pre-trained Transformer, nghĩa là "chương trình Tạo Chữ đã được huấn luyện theo phương pháp Transformer".
Nguồn: soha.vn