모빌린트 NPU에서 AI 추론을 실행하세요#
SDK qb는 개발자, 엔지니어, 연구자가 모빌린트 NPU를 설정하고 지원 하드웨어에서 AI 추론을 실행하는 데 필요한 핵심 구성 요소를 제공합니다 — 데스크톱 프로토타입부터 임베디드 AI 시스템까지.
팁
qb Runtime v1.3.1 릴리즈 — 16비트 정수형 지원과 안정성·성능 개선이 포함되었습니다. 릴리즈 노트를 확인하세요.
SDK qb란?#
SDK qb는 모빌린트의 NPU를 효율적이고 최적화된 방식으로 활용할 수 있도록 설계된 소프트웨어 개발 키트입니다. 제품의 성능을 최대한 이끌어내고 배포 과정에서의 통합을 간소화할 수 있도록 하는 아래와 같은 전용 모듈들로 구성되어 있습니다.
드라이버: 소프트웨어와 하드웨어를 연결하는 모듈입니다.
런타임 라이브러리: 내부 최적화를 통해 간편하고 빠른 추론 인터페이스를 제공하는 모듈입니다.
컴파일러: 딥러닝 모델을 모빌린트 NPU에서 사용할 수 있는 MXQ로 변환하는 모듈입니다.
이러한 모듈들은 제품 형태와 NPU 코어 구성에 따라 유연하게 조합하여 사용할 수 있습니다.
기술 개요#
아래 다이어그램은 SDK qb의 구성 요소가 애플리케이션과 디바이스 내에서 어떻게 작동하는 지를 보여줍니다.
시스템 통합을 간소화하고 사용자 편의성을 극대화하기 위해 SDK qb는 Linux 와 Windows 운영체제를 모두 지원합니다. 또한 TensorFlow, TFLite, ONNX, KERAS, PyTorch와 같은 주요 딥러닝 프레임워크들과 호환됩니다. 그리고 개발자의 편의를 위해 런타임 라이브러리는 C++, Python 인터페이스를 모두 제공합니다.
모빌린트 모델 저장소 (Model Zoo)#
모빌린트는 qb compiler로 사전 컴파일된 오픈소스 모델을 제공하는 모델 저장소를 지속적으로 확장하고 있습니다. 이 .mxq(Mobilint eXeCUtable) 파일은 모빌린트 런타임에 최적화되어 지원되는 NPU 하드웨어에서 즉시 실행할 수 있습니다. 새로운 모델들은 진화하는 AI 모델 상황과 고객들의 요구에 맞춰 지속적으로 추가됩니다.
400개 이상의 사전 컴파일된 모델: 컴퓨터 비전, 자연어 처리, 멀티모달 AI 모델을
.mxq로 즉시 실행할 수 있습니다.
시작하기#
제품의 설치부터 고급 기능을 이용한 성능 최적화까지, SDK qb 사용을 시작하세요.
팁
맞춤형 배포 지원이나 기술 문의가 필요하신가요 ? https://discuss.mobilint.com 으로 연락해 주세요.