SambaNova, công ty khởi nghiệp chip AI có trụ sở tại Palo Alto, đã giới thiệu một loại bán dẫn đột phá, chip SN40L. Sản phẩm mới này hứa hẹn sẽ cách mạng hóa các giải pháp doanh nghiệp bằng cách cho phép các ứng dụng điện toán hiệu suất cao, cụ thể là nền tảng SambaNova Suite LLM, đào tạo các mô hình nhanh hơn trong khi giảm đáng kể chi phí tổng thể.
NVIDIA gần đây đã công bố chip GH200 đình đám của mình, được đánh giá là một trong những lựa chọn mạnh mẽ nhất trên thị trường, với 480 GB RAM CPU và 96 GB RAM GPU.
Chip SN40L tự hào có khả năng hỗ trợ mô hình với 5 nghìn tỷ tham số và chiều dài chuỗi hơn 256k trên một nút hệ thống duy nhất. Sản phẩm là một giải pháp thay thế đáng gờm đối với NVIDIA, công ty đang dẫn đầu trong ngành công nghiệp chip.
“Game Changer” cho AI doanh nghiệp
Khả năng của chip này được thể hiện trong việc cung cấp sức mạnh cho SambaNova Suite, một ứng dụng doanh nghiệp được thiết kế để hỗ trợ cả các tổ chức tư nhân và chính phủ trong việc phát triển và triển khai các ứng dụng AI Tạo sinh. Sự kết hợp giữa SambaNova Suite và chip SN40L được công ty mô tả là một “Game Changer”.
Rodrigo Liang, đồng sáng lập và CEO của SambaNova, nhấn mạnh: “Chúng tôi hiện có thể cung cấp hai khả năng trong một chip – khả năng giải quyết nhiều bộ nhớ hơn với lõi máy tính thông minh nhất và khả năng giúp các tổ chức tận dụng lợi thế của AI Tạo sinh với LLM của riêng họ để cạnh tranh với GPT-4 và hơn thế nữa.”
Giải quyết tình trạng thiếu hụt chip
Taiwan Semiconductor Manufacturing Company, cũng là nhà cung cấp chip AI của NVIDIA, sẽ đảm nhận việc sản xuất chip của SambaNova. Tình trạng thiếu chất bán dẫn hiện nay đã khiến nhiều doanh nghiệp phải hồi hộp chờ đợi để có được những con chip được mong muốn từ NVIDIA.
Nó rất quan trọng cho việc chạy và đào tạo các ứng dụng và mô hình AI khổng lồ. Để giải quyết khoảng trống này, các công ty như SambaNova, AMD và Intel đã lên kế hoạch để sản xuất.
Kunle Olukotun, đồng sáng lập của SambaNova Systems, chia sẻ những hiểu biết về xu hướng ngành: “Chúng tôi bắt đầu thấy xu hướng hướng tới các mô hình nhỏ hơn (dù lớn vẫn tốt hơn) và các mô hình lớn hơn sẽ bắt đầu trở nên mô-đun hơn.”
Huy động hơn 1 tỷ đô la vốn đầu tư mạo hiểm
Không giống như NVIDIA, SambaNova có một cách tiếp cận phân phối chip khác biệt. Thay vì bán chip của mình dưới dạng các sản phẩm độc lập, công ty kết hợp chúng vào stack công nghệ tùy chỉnh đã có sẵn SambaNova Suite.
Cách tiếp cận này đặt ra những thách thức, đặc biệt là với việc NVIDIA tham gia vào thị trường AI-as-a-service đầy đủ với dịch vụ DGX Cloud, như Dylan Patel, nhà phân tích trưởng tại công ty tư vấn SemiAnalysis đã chỉ ra: “Con chip này là một bước tiến đáng kể. Tôi không tin rằng con chip sẽ thay đổi cục diện.”
Olukotun kết luận bằng cách nhấn mạnh tầm quan trọng của SN40L đối với khách hàng: “Khách hàng đang yêu cầu một LLM với sức mạnh của một mô hình nghìn tỷ tham số như GPT-4, nhưng họ cũng muốn được sở hữu một mô hình cho phép tinh chỉnh phù hợp với dữ liệu của họ.
Với SN40L, chip AI tiên tiến nhất của chúng tôi cho đến hiện tại, được tích hợp vào nền tảng LLM đầy đủ, chúng tôi đang cung cấp cho khách hàng chìa khóa để chạy các LLM lớn nhất với hiệu suất cao hơn cho đào tạo và suy luận, mà không phải đánh đổi độ chính xác của mô hình.”
(Theo Michael Thompson)
