Moreh hợp tác Tenstorrent phát triển hạ tầng AI

Moreh ra mắt cụm máy chủ AI tại Việt Nam, tích hợp bộ gia tốc từ Tenstorrent và AMD, hứa hẹn tối ưu chi phí, nâng cao hiệu suất đào tạo AI.

Trong bối cảnh nhu cầu về tính toán trí tuệ nhân tạo (AI) đang bùng nổ trên toàn cầu, Moreh, một doanh nghiệp trong lĩnh vực hạ tầng AI có trụ sở tại Mỹ, Hàn Quốc và Việt Nam, vừa ra mắt cụm máy chủ AI hiện đại. Cụm máy chủ này tích hợp hai yếu tố chính: GPU hiệu năng cao từ AMD cùng Neural Processing Unit (NPU) của Tenstorrent.

Theo thử nghiệm nội bộ của Moreh, giải pháp này giúp tăng hiệu suất đào tạo mô hình AI đến 50% so với các framework phổ biến, nhờ khả năng khai thác tối ưu tiềm năng của GPU và NPU. Việc duy trì và phát triển hạ tầng AI đồng bộ hứa hẹn tối ưu chi phí, mở đường cho doanh nghiệp vươn xa hơn trong kỷ nguyên AI.

NPU là một công nghệ chuyên biệt cho các tác vụ học sâu. Khác với GPU, vốn bắt nguồn từ lĩnh vực xử lý đồ họa, NPU được thiết kế tập trung vào các tác vụ toán học như ma trận và tích chập. Nhờ cấu trúc phần cứng đặc biệt, NPU Tenstorrent hứa hẹn cung cấp hiệu suất xử lý cao với mức tiêu thụ điện năng thấp, giúp doanh nghiệp giảm thiểu chi phí vận hành, rút ngắn thời gian huấn luyện mô hình AI

Trung tâm dữ liệu của Moreh trang bị GPU AMD và NPU Tenstorrent. Ảnh: Moreh