NVIDIA vừa ra mắt một siêu máy tính AI Tạo sinh nhỏ gọn có tên Jetson Orin Nano Super Developer Kit, phiên bản kế nhiệm của bộ Jetson Orin Nano ra mắt năm 2022.
Siêu máy tính AI Tạo sinh nhỏ gọn này của Nvidia có thể nằm gọn trong lòng bàn tay. Bộ phát triển này bao gồm hệ thống Jetson Orin Nano 8GB trên module và một bảng mạch tham chiếu.
Về hiệu năng, Jetson Orin Nano Super có thể đạt 68 nghìn tỷ phép toán mỗi giây (TOPS), tăng 70% so với thế hệ trước.
NVIDIA cũng tuyên bố cải thiện hiệu suất suy luận AI tạo sinh lên gấp 1,7 lần và tăng băng thông thêm 50%, đạt 102GB mỗi giây. Tần số CPU hiện đạt 1.7GHz, một cải tiến nhẹ so với 1.5GHz của phiên bản tiền nhiệm.
- Hiệu năng: Xử lý gần 70 nghìn tỷ phép toán mỗi giây.
- Công suất tiêu thụ: Hoạt động ở mức công suất 25 watt.
- Tương thích: Chạy được tất cả những gì HGX hỗ trợ, bao gồm cả các mô hình ngôn ngữ lớn.
Đây là bước tiến trong sự phát triển của bộ xử lý robot, khởi đầu từ Xavier của NVIDIA, với mục tiêu tạo ra robot tiên tiến cho mọi loại hệ thống di chuyển. Thiết bị này phản ánh sự phát triển mạnh mẽ của công nghệ robot hình người và đã có sẵn trên toàn cầu.
NVIDIA cũng khẳng định thiết bị này mang lại “nhiều cải tiến” cho tất cả các mô hình AI tạo sinh phổ biến, bao gồm mô hình ngôn ngữ lớn (LLM), mô hình ngôn ngữ thị giác và bộ biến đổi thị giác.
Các bản cập nhật phần mềm của Jetson Orin Nano Super cũng có thể cải thiện hiệu suất cho phiên bản cũ, đây là tin vui cho những ai đang sở hữu Jetson Orin Nano ban đầu.
Tất cả những gì bạn cần làm là tải phần mềm và cài đặt bản cập nhật. Tuy nhiên, NVIDIA không đưa ra chi tiết cụ thể về mức độ thay đổi hiệu suất của thiết bị cũ.
Với kích thước nhỏ gọn có thể đặt trong lòng bàn tay, Jetson Orin Nano Super được sử dụng để phát triển các ứng dụng AI và robot tiên tiến.
Với khả năng xử lý mạnh mẽ và tương thích với các mô hình ngôn ngữ lớn, thiết bị này phù hợp cho:
- Robot học: Cung cấp sức mạnh cho các loại robot khác nhau, bao gồm:
- Robot có bánh xe
- Robot có chân (ví dụ: hai, ba chân hoặc nhiều hơn)
- Robot hình người
- Ứng dụng AI: Chạy các mô hình học sâu, hỗ trợ các nhiệm vụ như thị giác máy tính, xử lý ngôn ngữ tự nhiên và điều hướng tự động.
- Phát triển và tạo mẫu: Là nền tảng nhỏ gọn và giá cả phải chăng cho các nhà phát triển, nhà nghiên cứu và người đam mê thử nghiệm với công nghệ AI và robot.
- Điện toán biên: Lý tưởng để chạy các mô hình AI trong các môi trường có tài nguyên hạn chế, chẳng hạn như máy bay không người lái, camera thông minh hoặc thiết bị IoT.
Sự đa năng của Jetson Orin Nano Super đã khiến nó trở thành công cụ quan trọng để thúc đẩy sự đổi mới và tự động hóa dựa trên AI.
Bộ Jetson Orin Nano Super Developer Kit hiện đã có mặt tại các nhà phân phối được NVIDIA ủy quyền với mức giá chỉ 249 USD.
Đây là mức giá giảm mạnh so với 499 USD của phiên bản trước, khiến nó trở thành sản phẩm có giá thành phải chăng nhất trong phân khúc này.