모빌린트 SDK 소개

모빌린트 SDK 소개#

Mobilint SDK qb 문서 페이지에 오신 것을 환영합니다!

본 가이드 문서는 개발자, 엔지니어 그리고 연구자가 모빌린트의 소프트웨어 개발 키트인 SDK qb를 빠르게 설정하고 AI 추론을 시작할 수 있도록 작성되었습니다.

데스크톱 환경 혹은 임베디드 AI 시스템 환경 모두에서 모빌린트 SDK qb는 하드웨어의 성능을 최대한 활용하기 위한 핵심 소프트웨어 구성 요소를 제공합니다.

SDK qb란?#

SDK qb는 모빌린트의 NPU를 효율적이고 최적화된 방식으로 활용할 수 있도록 설계된 소프트웨어 개발 키트입니다.

SDK qb는 제품의 성능을 최대한 이끌어내고 배포 과정에서의 통합을 간소화할 수 있도록 하는 아래와 같은 전용 모듈들로 구성되어 있습니다.

  • 드라이버 - 소프트웨어와 하드웨어를 연결하는 모듈

  • 런타임 라이브러리 - 내부 최적화를 통해 간편하고 빠른 추론 인터페이스를 제공하는 모듈

  • 컴파일러 - 딥러닝 모델을 모빌린트 NPU에서 사용할 수 있는 MXQ(Mobilint eXeCUtable)로 변환하는 모듈

이러한 모듈들은 제품 형태와 NPU 코어 구성에 따라 유연하게 조합하여 사용할 수 있습니다.

기술 개요#

아래 다이어그램은 SDK qb의 구성 요소가 애플리케이션과 디바이스 내에서 어떻게 작동하는 지를 보여줍니다.

MXQ 빌드

런타임 수행

시스템 통합을 간소화하고 사용자 편의성을 극대화하기 위해 SDK qb는 Linux (Ubuntu) 와 Windows 운영체제를 모두 지원합니다. 또한 TensorFlow, TFLite, ONNX, KERAS, PyTorch와 같은 주요 딥러닝 프레임워크들과 호환됩니다. 그리고 개발자의 편의를 위해 런타임 라이브러리는 C++, Python 인터페이스를 모두 제공합니다.

모빌린트 모델 저장소 (Model Zoo)#

모빌린트는 qubee 컴파일러로 사전 컴파일된 오픈소스 모델을 제공하는 모델 저장소를 제공하고, 지속적으로 확장하고 있습니다.

비전, 자연어 처리, 멀티모달 AI 모델들을 포함하여 400개 이상의 모델을 갖추고 있으며, 이 .mxq(Mobilint eXeCUtable) 파일은 모빌린트 런타임에 최적화되어 지원되는 NPU 하드웨어에서 즉시 실행할 수 있습니다.

새로운 모델들은 진화하는 AI 모델 상황과 고객들의 요구에 맞춰 지속적으로 추가됩니다.

시작하기#

이곳를 클릭하여 제품의 설치부터 고급 기능을 이용한 성능 최적화까지 SDK qb 사용을 시작하세요.

맞춤형 배포 지원이나 기술 문의가 필요하신가요 ? tech-support@mobilint.com 으로 연락해 주세요.

내용