제품 개요

제품 개요#

Mobilint ARIES NPU

ARIES는 Mobilint의 AI 가속기 NPU로, 엣지에서 고성능·저전력 딥러닝 추론을 위해 설계되었습니다. PCIe 애드인 카드부터 완전히 통합된 엣지 AI PC까지 다양한 제품군의 기반이 됩니다. 이 매뉴얼은 ARIES 하드웨어 라인업과 이를 호스트 시스템에서 구동하는 방법(제품 확인, 드라이버 설치, 펌웨어 최신화, 워크로드에 맞춘 코어 튜닝)을 다룹니다.

  • 80 TOPS — AI 추론 성능

  • 25 W — 일반 소비 전력

  • 3,082 FPS — ResNet-50 추론

  • 11.3 TPS/User — Llama-3.2-3B-Instruct

모델명

사양

MobileNetV 2

11,551 FPS

ResNet-50

3,082 FPS

YOLO11s

784 FPS

YOLO11l

274 FPS

YOLO26m

343 FPS

Llama-3.2-3B-Instruct

14.62 TPS/User

Qwen3-1.7B

25.92 TPS/User

설치#

ARIES 장치를 인식하고 사용할 수 있도록 호스트 시스템을 준비합니다.

  • 드라이버 설치: NPU를 운영 체제에 노출하는 커널 드라이버를 설치합니다.

  • 펌웨어 업데이트: 안정적이고 최적화된 동작을 위해 PCIe 장치를 최신 펌웨어로 업데이트합니다.

  • 호환성 확인: 드라이버, 런타임, 펌웨어 버전이 지원되는 조합인지 확인합니다.

사용 가이드#

장치가 정상 동작한 뒤, 가속기의 성능을 최대한 활용하는 방법을 안내합니다.

  • Core 모드: 4가지 코어 협업 모드(Single, Multi, Global4, Global8)와 워크로드에 맞는 모드를 선택하는 방법.

  • ModelConfig 구성: 런타임의 ModelConfig 객체로 각 모델에 NPU 코어와 코어 모드를 지정하는 방법.

지원 하드웨어#

ARIES는 PCIe 애드인 카드부터 완전히 통합된 엣지 AI PC까지 다양한 폼팩터로 제공됩니다. 보유한 제품을 선택하여 호스트 시스템 및 소프트웨어 요구사항을 확인하세요.

  • MLA100 PCIe Card: 서버 및 워크스테이션을 위한 PCIe 애드인 카드 형태의 ARIES NPU.

  • MLA100 MXM Module: 임베디드 및 캐리어 보드 시스템을 위한 MXM 3.1 모듈 형태의 ARIES NPU.

  • MLX-A1 Edge AI Box: ARIES MXM 모듈이 사전 탑재된 턴키형 독립 실행 엣지 AI Box.

  • MLA400 PCIe Card: 쿼드 ARIES 아키텍처를 기반으로, MLA400 PCIe 카드는 뛰어난 전력 효율과 함께 방대한 AI 처리량을 제공합니다. 문서 준비 중입니다.

관련 문서#

런타임 및 컴파일러 참조는 각각의 Mobilint 문서 패밀리에서 다룹니다.