Dạo gần đây, cộng đồng tech trên X (Twitter cũ) đang viral cực mạnh với một bài post gom được gần 2 triệu views, khen ngợi chiếc máy tính AI nhỏ xíu Jetson Orin Nano Super của Nvidia có thể giúp tiết kiệm tiền OpenAI và Claude mỗi tháng một cách "khủng khiếp" luôn ý.
Điểm gây shock nhất là nó chỉ nhỏ bằng cái ví, ăn điện khoảng 25W thôi mà Nvidia lại flex là "siêu máy tính Generative AI cục bộ" Cơ bản thì đây là một bo mạch AI mini giúp bạn chạy các mô hình ngôn ngữ ngay trên máy của mình luôn chứ không cần dựa vào cloud nữa.
Thế nhưng, Jetson Orin Nano Super gần như bị "chìm" sau khi ra mắt cuối 2024, cho đến khi cộng đồng local AI bất ngờ "đào mộ" nó lại trong mấy tuần gần đây.
Trong bài đăng viral trên X, tài khoản tech Starmex miêu tả Jetson Orin Nano Super là "chiếc hộp 249 USD thay thế gói OpenAI 200 USD/tháng chỉ bằng 2 USD tiền điện" Bác này cho biết trước đây phải trả tầm 180 USD tiền OpenAI API mỗi tháng cho các hệ thống automation, pipeline nội dung và coding assistant chạy liên tục.
Theo Starmex kể, thứ khiến anh đổi ý lại đến từ một bức ảnh trong Discord: một chiếc hộp nhỏ bằng bộ bài đặt dưới gầm bàn, kèm dòng caption "Đã hủy gói OpenAI subscription rồi nha. Cái này chạy Llama local. Tiền điện khoảng 2 USD/tháng thôi".
"Tôi đặt mua luôn ngay trong ngày hôm đó", Starmex viết.
Trước những lời khen "có cánh" này, nhiều người dùng đã bắt đầu nghi ngờ về độ xịn thực tế của sản phẩm. Nhìn lại thời điểm tháng 12/2024, CEO Jensen Huang từng tự tay giới thiệu em này và nhấn mạnh rằng người dùng có thể sở hữu một hệ thống AI cá nhân với giá chỉ 249 USD.
Sang năm 2026 rồi, thị trường AI đã thay đổi chóng mặt theo từng tháng luôn á. Thế nhưng Jetson Orin Nano Super lại bất ngờ được nhắc lại và nhanh chóng leo top trending trên mạng xã hội. Lý do chính là vì bài toán chi phí đang khiến nhiều dev và người dùng AI cảm thấy "đau đầu" quá rồi
Phiên bản này thực ra là bản nâng cấp của dòng Jetson Orin Nano cũ, được tối ưu phần mềm để mở khóa hiệu năng cao hơn nhưng vẫn giữ mức giá 249 USD. Nhờ thế nên đây cũng trở thành một trong những bộ Jetson dễ "xuống tiền" nhất mà Nvidia từng bán.
Điểm xịn nhất nằm ở khả năng chạy các mô hình AI mã nguồn mở trực tiếp trên máy thông qua Ollama. Bạn có thể triển khai hàng loạt model như Llama, Qwen, Mistral, Gemma hay DeepSeek mà không cần phụ thuộc vào cloud nữa.
Toàn bộ quá trình xử lý diễn ra ngay trên thiết bị, data không phải gửi liên tục lên server bên thứ ba. Với nhiều người, đây mới là thứ tạo nên sức hấp dẫn lớn nhất của local AI nè
Tại sao nhiều người coi đây là "kẻ hủy diệt" hoá đơn AI?
Lý do đầu tiên và cũng dễ thấy nhất chính là... tiết kiệm tiền!
Nhiều người dùng AI hiện giờ đang phải duy trì cùng lúc nhiều gói dịch vụ như ChatGPT, Claude, Gemini hay các nền tảng API khác để phục vụ công việc. Với dev hoặc người làm automation, tổng chi phí hàng tháng có thể lên tới vài trăm USD cho những gói cao cấp luôn á.
Áp lực này càng lớn hơn khi giá các gói AI liên tục leo thang trong thời gian qua, trong khi nhiều người dùng cũng bắt đầu than phiền rằng giới hạn usage và token trên các nền tảng cloud ngày càng "cạn" nhanh hơn trước. Cảm giác như đang trả tiền ngày càng nhiều nhưng lại phải liên tục để ý quota vậy đó
Trong khi đó, Jetson Orin Nano Super chỉ yêu cầu khoản đầu tư ban đầu 249 USD - hơi cao hơn tẹo so với gói Pro 200 USD của ChatGPT - cùng mức tiêu thụ điện khá thấp thôi.
Theo Starmex, điểm hấp dẫn nhất nằm ở việc gần như toàn bộ hệ thống có thể hoạt động giống OpenAI API nhưng chạy hoàn toàn local. Bạn chỉ cần cài Ollama và thay đổi một dòng địa chỉ API trong code, mọi workflow còn lại giữ nguyên như cũ.
"Mỗi prompt đều tốn tiền. Mỗi request đều phải gửi lên server của họ. Mỗi cuộc trò chuyện đều rời khỏi chiếc máy của mình," Starmex viết khi nói về cảm giác ngày càng phụ thuộc vào cloud AI.
Theo những người ủng hộ thiết bị này, các mô hình AI cỡ 7B - tức khoảng 7 tỷ tham số - hiện đã đủ đáp ứng phần lớn nhu cầu thông thường như tóm tắt tài liệu, viết nháp, hỗ trợ lập trình, hỏi đáp tài liệu cá nhân hay automation cơ bản rồi. Với những tác vụ này, tốc độ phản hồi của model local đã đủ nhanh để xài thực tế luôn.
Starmex gọi đây là "sweet spot" của AI local hiện nay: "đủ nhanh để phản hồi gần như tức thì, đủ thông minh cho 90% tác vụ hàng ngày"
Một số người dùng thậm chí còn xây dựng trợ lý AI cá nhân hoạt động hoàn toàn offline, từ gửi bản tin buổi sáng cho đến tạo bài tập cho con cái mà không cần dùng tới cloud AI nữa nha.
Điều khiến nhiều người hứng thú với Jetson Orin Nano Super không chỉ nằm ở chuyện tiết kiệm tiền, mà còn là cảm giác được tự mình "nắm quyền" kiểm soát hệ thống AI. Khi model chạy trực tiếp trên thiết bị cá nhân, bạn không còn quá phụ thuộc vào API, không phải lo giới hạn lượt sử dụng hay những đợt tăng giá dịch vụ bất ngờ nữa. Quan trọng hơn, data cũng không cần phải liên tục gửi lên server của bên thứ ba để xử lý
Tuy nhiên, đây cũng là lúc các "drama" bắt đầu xuất hiện nè.
Nhiều ý kiến cho rằng internet đang thổi phồng quá mức khả năng của các mô hình local 7B rồi đó. Dù đã tiến bộ rất nhanh trong hai năm gần đây, chúng vẫn còn khoảng cách khá xa so với các frontier model hiện đại như Claude Opus hay GPT thế hệ mới.
Khả năng suy luận phức tạp, coding nâng cao, xử lý ngữ cảnh dài hay độ ổn định tổng thể của các model cloud hiện vẫn vượt trội hơn đáng kể á.
Chính Starmex cũng thừa nhận Jetson Orin Nano Super không phải thiết bị thay thế GPT-5 hay Claude Sonnet đâu nha. Theo anh này, hệ thống local AI như vậy phù hợp hơn với các tác vụ cấp độ GPT-3.5 nhưng có lợi thế là gần như không phát sinh chi phí vận hành lâu dài.
Các model này xử lý khá ổn những công việc như tóm tắt nội dung, viết nháp, chỉnh sửa văn bản, hỗ trợ code, hỏi đáp tài liệu hay automation pipeline cơ bản. Đây cũng là nhóm tác vụ chiếm phần lớn nhu cầu sử dụng AI hàng ngày của nhiều người dùng phổ thông.
"80% những gì mọi người dùng ChatGPT mỗi ngày thực ra đều nằm trong nhóm này", Starmex nhận định. Với 20% tác vụ khó hơn như suy luận nhiều bước phức tạp, context cực dài hay các bài toán cần frontier model mạnh nhất, bạn vẫn có thể tiếp tục duy trì gói ChatGPT Plus hoặc Claude trả phí khoảng 20 USD/tháng, rẻ hơn nhiều so với các gói cao cấp nha.
Theo cách tính của Starmex, mô hình sử dụng này có thể giúp tổng chi phí AI hàng tháng giảm từ khoảng 200 USD xuống còn 22 USD, bao gồm 2 USD tiền điện luôn đó
Tuy nhiên, local AI hiện vẫn tồn tại không ít hạn chế. Các model 7B khó xử lý tốt những bài toán suy luận phức tạp, context dài cũng nhanh chóng chạm giới hạn do thiết bị chỉ có 8 GB RAM. Những tác vụ như tạo ảnh AI hay truy cập internet thời gian thực cũng không phải điểm mạnh của các hệ thống local dạng này đâu.
Starmex cho rằng Nvidia bán Jetson Orin Nano Super với mức giá 249 USD không đơn thuần để kiếm lợi nhuận phần cứng, mà còn nhằm mở rộng hệ sinh thái Jetson cho developer AI. Theo anh này, các công cụ như Ollama, Open WebUI hay llama.cpp hiện đều đang được tối ưu rất mạnh cho làn sóng local AI, và hệ sinh thái này sẽ còn tiếp tục phát triển trong vài năm tới.
Cơn sốt local AI đang quay trở lại rồi nè
Dù vậy, việc một sản phẩm ra mắt từ cuối năm 2024 bất ngờ hot trở lại trong năm 2026 cũng phản ánh khá rõ xu hướng hiện tại của ngành AI đó.
Trong hơn một năm qua, người dùng bắt đầu cảm nhận rõ áp lực chi phí từ các dịch vụ AI. Ngay cả những người sẵn sàng bỏ tiền cho AI cũng bắt đầu có cảm giác tiêu cực về việc "thuê quyền truy cập" vào tài nguyên tính toán thế này.
Ở chiều ngược lại, AI cục bộ lại đang trở nên dễ tiếp cận hơn bao giờ hết. Các công cụ như Ollama giúp việc triển khai model local đơn giản hơn rất nhiều so với vài năm trước, còn các model mã nguồn mở như Qwen hay Llama cũng tiến bộ nhanh đến mức đủ đáp ứng phần lớn nhu cầu phổ thông rồi đó.
Làn sóng này càng được củng cố khi các nhà sản xuất phần cứng cũng đang dồn lực cho cuộc đua chạy AI ngay trên thiết bị. Không chỉ có những bo mạch chuyên dụng của Nvidia, ngay cả những chiếc laptop cao cấp như MacBook Pro của Apple cũng liên tục nâng cấp dung lượng RAM thống nhất và sức mạnh NPU để biến thành những cỗ máy chạy local AI đáng gờm luôn nè.
Quan trọng hơn, local AI mang lại cảm giác kiểm soát mà cloud AI khó thay thế hoàn toàn được. Data nằm trên máy của bạn, model cũng nằm trong tay bạn, còn chi phí vận hành thì dễ dự đoán hơn rất nhiều so với việc phụ thuộc vào API.
Nguồn: soha.vn
Điểm gây shock nhất là nó chỉ nhỏ bằng cái ví, ăn điện khoảng 25W thôi mà Nvidia lại flex là "siêu máy tính Generative AI cục bộ" Cơ bản thì đây là một bo mạch AI mini giúp bạn chạy các mô hình ngôn ngữ ngay trên máy của mình luôn chứ không cần dựa vào cloud nữa.
Thế nhưng, Jetson Orin Nano Super gần như bị "chìm" sau khi ra mắt cuối 2024, cho đến khi cộng đồng local AI bất ngờ "đào mộ" nó lại trong mấy tuần gần đây.
Trong bài đăng viral trên X, tài khoản tech Starmex miêu tả Jetson Orin Nano Super là "chiếc hộp 249 USD thay thế gói OpenAI 200 USD/tháng chỉ bằng 2 USD tiền điện" Bác này cho biết trước đây phải trả tầm 180 USD tiền OpenAI API mỗi tháng cho các hệ thống automation, pipeline nội dung và coding assistant chạy liên tục.
Theo Starmex kể, thứ khiến anh đổi ý lại đến từ một bức ảnh trong Discord: một chiếc hộp nhỏ bằng bộ bài đặt dưới gầm bàn, kèm dòng caption "Đã hủy gói OpenAI subscription rồi nha. Cái này chạy Llama local. Tiền điện khoảng 2 USD/tháng thôi".
"Tôi đặt mua luôn ngay trong ngày hôm đó", Starmex viết.
Trước những lời khen "có cánh" này, nhiều người dùng đã bắt đầu nghi ngờ về độ xịn thực tế của sản phẩm. Nhìn lại thời điểm tháng 12/2024, CEO Jensen Huang từng tự tay giới thiệu em này và nhấn mạnh rằng người dùng có thể sở hữu một hệ thống AI cá nhân với giá chỉ 249 USD.
Sang năm 2026 rồi, thị trường AI đã thay đổi chóng mặt theo từng tháng luôn á. Thế nhưng Jetson Orin Nano Super lại bất ngờ được nhắc lại và nhanh chóng leo top trending trên mạng xã hội. Lý do chính là vì bài toán chi phí đang khiến nhiều dev và người dùng AI cảm thấy "đau đầu" quá rồi
Phiên bản này thực ra là bản nâng cấp của dòng Jetson Orin Nano cũ, được tối ưu phần mềm để mở khóa hiệu năng cao hơn nhưng vẫn giữ mức giá 249 USD. Nhờ thế nên đây cũng trở thành một trong những bộ Jetson dễ "xuống tiền" nhất mà Nvidia từng bán.
Điểm xịn nhất nằm ở khả năng chạy các mô hình AI mã nguồn mở trực tiếp trên máy thông qua Ollama. Bạn có thể triển khai hàng loạt model như Llama, Qwen, Mistral, Gemma hay DeepSeek mà không cần phụ thuộc vào cloud nữa.
Toàn bộ quá trình xử lý diễn ra ngay trên thiết bị, data không phải gửi liên tục lên server bên thứ ba. Với nhiều người, đây mới là thứ tạo nên sức hấp dẫn lớn nhất của local AI nè
Tại sao nhiều người coi đây là "kẻ hủy diệt" hoá đơn AI?
Lý do đầu tiên và cũng dễ thấy nhất chính là... tiết kiệm tiền!
Nhiều người dùng AI hiện giờ đang phải duy trì cùng lúc nhiều gói dịch vụ như ChatGPT, Claude, Gemini hay các nền tảng API khác để phục vụ công việc. Với dev hoặc người làm automation, tổng chi phí hàng tháng có thể lên tới vài trăm USD cho những gói cao cấp luôn á.
Áp lực này càng lớn hơn khi giá các gói AI liên tục leo thang trong thời gian qua, trong khi nhiều người dùng cũng bắt đầu than phiền rằng giới hạn usage và token trên các nền tảng cloud ngày càng "cạn" nhanh hơn trước. Cảm giác như đang trả tiền ngày càng nhiều nhưng lại phải liên tục để ý quota vậy đó
Trong khi đó, Jetson Orin Nano Super chỉ yêu cầu khoản đầu tư ban đầu 249 USD - hơi cao hơn tẹo so với gói Pro 200 USD của ChatGPT - cùng mức tiêu thụ điện khá thấp thôi.
Theo Starmex, điểm hấp dẫn nhất nằm ở việc gần như toàn bộ hệ thống có thể hoạt động giống OpenAI API nhưng chạy hoàn toàn local. Bạn chỉ cần cài Ollama và thay đổi một dòng địa chỉ API trong code, mọi workflow còn lại giữ nguyên như cũ.
"Mỗi prompt đều tốn tiền. Mỗi request đều phải gửi lên server của họ. Mỗi cuộc trò chuyện đều rời khỏi chiếc máy của mình," Starmex viết khi nói về cảm giác ngày càng phụ thuộc vào cloud AI.
Theo những người ủng hộ thiết bị này, các mô hình AI cỡ 7B - tức khoảng 7 tỷ tham số - hiện đã đủ đáp ứng phần lớn nhu cầu thông thường như tóm tắt tài liệu, viết nháp, hỗ trợ lập trình, hỏi đáp tài liệu cá nhân hay automation cơ bản rồi. Với những tác vụ này, tốc độ phản hồi của model local đã đủ nhanh để xài thực tế luôn.
Starmex gọi đây là "sweet spot" của AI local hiện nay: "đủ nhanh để phản hồi gần như tức thì, đủ thông minh cho 90% tác vụ hàng ngày"
Một số người dùng thậm chí còn xây dựng trợ lý AI cá nhân hoạt động hoàn toàn offline, từ gửi bản tin buổi sáng cho đến tạo bài tập cho con cái mà không cần dùng tới cloud AI nữa nha.
Điều khiến nhiều người hứng thú với Jetson Orin Nano Super không chỉ nằm ở chuyện tiết kiệm tiền, mà còn là cảm giác được tự mình "nắm quyền" kiểm soát hệ thống AI. Khi model chạy trực tiếp trên thiết bị cá nhân, bạn không còn quá phụ thuộc vào API, không phải lo giới hạn lượt sử dụng hay những đợt tăng giá dịch vụ bất ngờ nữa. Quan trọng hơn, data cũng không cần phải liên tục gửi lên server của bên thứ ba để xử lý
Tuy nhiên, đây cũng là lúc các "drama" bắt đầu xuất hiện nè.
Nhiều ý kiến cho rằng internet đang thổi phồng quá mức khả năng của các mô hình local 7B rồi đó. Dù đã tiến bộ rất nhanh trong hai năm gần đây, chúng vẫn còn khoảng cách khá xa so với các frontier model hiện đại như Claude Opus hay GPT thế hệ mới.
Khả năng suy luận phức tạp, coding nâng cao, xử lý ngữ cảnh dài hay độ ổn định tổng thể của các model cloud hiện vẫn vượt trội hơn đáng kể á.
Chính Starmex cũng thừa nhận Jetson Orin Nano Super không phải thiết bị thay thế GPT-5 hay Claude Sonnet đâu nha. Theo anh này, hệ thống local AI như vậy phù hợp hơn với các tác vụ cấp độ GPT-3.5 nhưng có lợi thế là gần như không phát sinh chi phí vận hành lâu dài.
Các model này xử lý khá ổn những công việc như tóm tắt nội dung, viết nháp, chỉnh sửa văn bản, hỗ trợ code, hỏi đáp tài liệu hay automation pipeline cơ bản. Đây cũng là nhóm tác vụ chiếm phần lớn nhu cầu sử dụng AI hàng ngày của nhiều người dùng phổ thông.
"80% những gì mọi người dùng ChatGPT mỗi ngày thực ra đều nằm trong nhóm này", Starmex nhận định. Với 20% tác vụ khó hơn như suy luận nhiều bước phức tạp, context cực dài hay các bài toán cần frontier model mạnh nhất, bạn vẫn có thể tiếp tục duy trì gói ChatGPT Plus hoặc Claude trả phí khoảng 20 USD/tháng, rẻ hơn nhiều so với các gói cao cấp nha.
Theo cách tính của Starmex, mô hình sử dụng này có thể giúp tổng chi phí AI hàng tháng giảm từ khoảng 200 USD xuống còn 22 USD, bao gồm 2 USD tiền điện luôn đó
Tuy nhiên, local AI hiện vẫn tồn tại không ít hạn chế. Các model 7B khó xử lý tốt những bài toán suy luận phức tạp, context dài cũng nhanh chóng chạm giới hạn do thiết bị chỉ có 8 GB RAM. Những tác vụ như tạo ảnh AI hay truy cập internet thời gian thực cũng không phải điểm mạnh của các hệ thống local dạng này đâu.
Starmex cho rằng Nvidia bán Jetson Orin Nano Super với mức giá 249 USD không đơn thuần để kiếm lợi nhuận phần cứng, mà còn nhằm mở rộng hệ sinh thái Jetson cho developer AI. Theo anh này, các công cụ như Ollama, Open WebUI hay llama.cpp hiện đều đang được tối ưu rất mạnh cho làn sóng local AI, và hệ sinh thái này sẽ còn tiếp tục phát triển trong vài năm tới.
Cơn sốt local AI đang quay trở lại rồi nè
Dù vậy, việc một sản phẩm ra mắt từ cuối năm 2024 bất ngờ hot trở lại trong năm 2026 cũng phản ánh khá rõ xu hướng hiện tại của ngành AI đó.
Trong hơn một năm qua, người dùng bắt đầu cảm nhận rõ áp lực chi phí từ các dịch vụ AI. Ngay cả những người sẵn sàng bỏ tiền cho AI cũng bắt đầu có cảm giác tiêu cực về việc "thuê quyền truy cập" vào tài nguyên tính toán thế này.
Ở chiều ngược lại, AI cục bộ lại đang trở nên dễ tiếp cận hơn bao giờ hết. Các công cụ như Ollama giúp việc triển khai model local đơn giản hơn rất nhiều so với vài năm trước, còn các model mã nguồn mở như Qwen hay Llama cũng tiến bộ nhanh đến mức đủ đáp ứng phần lớn nhu cầu phổ thông rồi đó.
Làn sóng này càng được củng cố khi các nhà sản xuất phần cứng cũng đang dồn lực cho cuộc đua chạy AI ngay trên thiết bị. Không chỉ có những bo mạch chuyên dụng của Nvidia, ngay cả những chiếc laptop cao cấp như MacBook Pro của Apple cũng liên tục nâng cấp dung lượng RAM thống nhất và sức mạnh NPU để biến thành những cỗ máy chạy local AI đáng gờm luôn nè.
Quan trọng hơn, local AI mang lại cảm giác kiểm soát mà cloud AI khó thay thế hoàn toàn được. Data nằm trên máy của bạn, model cũng nằm trong tay bạn, còn chi phí vận hành thì dễ dự đoán hơn rất nhiều so với việc phụ thuộc vào API.
Nguồn: soha.vn