# 모빌린트 NPU에서 AI 추론을 실행하세요

SDK qb는 개발자, 엔지니어, 연구자가 모빌린트 NPU를 설정하고 지원 하드웨어에서 AI 추론을 실행하는 데 필요한 핵심 구성 요소를 제공합니다 — 데스크톱 프로토타입부터 임베디드 AI 시스템까지.

- [시작하기](getting_started.md)
- [API 레퍼런스](../doxygen/html_kr/group__CPPAPI)

```{tip}
**qb Runtime v1.3.1** 릴리즈 — 16비트 정수형 지원과 안정성·성능 개선이 포함되었습니다. [릴리즈 노트](release_note.md)를 확인하세요.
```

## SDK qb란?

**SDK qb**는 모빌린트의 NPU를 효율적이고 최적화된 방식으로 활용할 수 있도록 설계된 소프트웨어 개발 키트입니다. 제품의 성능을 최대한 이끌어내고 배포 과정에서의 통합을 간소화할 수 있도록 하는 아래와 같은 전용 모듈들로 구성되어 있습니다.

- **드라이버**: 소프트웨어와 하드웨어를 연결하는 모듈입니다.
- **런타임 라이브러리**: 내부 최적화를 통해 간편하고 빠른 추론 인터페이스를 제공하는 모듈입니다.
- **컴파일러**: 딥러닝 모델을 모빌린트 NPU에서 사용할 수 있는 MXQ로 변환하는 모듈입니다.

이러한 모듈들은 제품 형태와 NPU 코어 구성에 따라 유연하게 조합하여 사용할 수 있습니다.

## 기술 개요

아래 다이어그램은 SDK qb의 구성 요소가 애플리케이션과 디바이스 내에서 어떻게 작동하는 지를 보여줍니다.

![MXQ 빌드](../res/image/SDK_Model_Build.png)

![런타임 수행](../res/image/SDK_Runtime_Execution.png)

시스템 통합을 간소화하고 사용자 편의성을 극대화하기 위해 SDK qb는 **Linux 와 Windows** 운영체제를 모두 지원합니다. 또한 **TensorFlow, TFLite, ONNX, KERAS, PyTorch**와 같은 주요 딥러닝 프레임워크들과 호환됩니다. 그리고 개발자의 편의를 위해 런타임 라이브러리는 **C++, Python** 인터페이스를 모두 제공합니다.

## 모빌린트 모델 저장소 (Model Zoo)

모빌린트는 `qb compiler`로 사전 컴파일된 오픈소스 모델을 제공하는 **모델 저장소**를 지속적으로 확장하고 있습니다. 이 **`.mxq`**(Mobilint eXeCUtable) 파일은 모빌린트 런타임에 최적화되어 지원되는 NPU 하드웨어에서 즉시 실행할 수 있습니다. 새로운 모델들은 진화하는 AI 모델 상황과 고객들의 요구에 맞춰 지속적으로 추가됩니다.

- [400개 이상의 사전 컴파일된 모델](model_zoo.md): 컴퓨터 비전, 자연어 처리, 멀티모달 AI 모델을 `.mxq`로 즉시 실행할 수 있습니다.

## 시작하기

제품의 설치부터 고급 기능을 이용한 성능 최적화까지, SDK qb 사용을 시작하세요.

- [설치 및 첫 추론 실행](getting_started.md)

```{tip}
맞춤형 배포 지원이나 기술 문의가 필요하신가요 ?
[https://discuss.mobilint.com](https://discuss.mobilint.com) 으로 연락해 주세요.
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: Overview
getting_started
릴리즈 노트 <release_note>
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: Installation
installing_driver
installing_runtime_library
compatibility
update_firmware
installing_compiler
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: Tutorials
tutorial_resnet50
programming_guide
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: Utilities
installing_utility
utility_usage
model_zoo
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: Deep Dive
advanced_usage
multicore
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: Deployment
Mobilint Device Plugin <kubernetes_device_plugin>
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: 지원 하드웨어
ARIES MLA100 PCIe Card <aries-mla100-pcie-card>
ARIES MLA100 MXM Module <aries-mla100-mobile-express-module-mxm>
ARIES MLX-A1 Edge AI PC <aries-mlx-a1-edge-ai-pc>
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: API Reference
C++ API <../doxygen/html_kr/group__CPPAPI>
Python API <../doxygen/html_kr/group__PythonAPI>
클래스 <../doxygen/html_kr/annotated_classes>
파일 <../doxygen/html_kr/files>
지원 중단 목록 <../doxygen/html_kr/deprecated>
업데이트 기록 <CHANGELOG>
```

```{toctree}
:hidden:
:maxdepth: 2
:caption: mbltml
C API <../doxygen/html_kr_mbltml/group__MbltmlCAPI>
Python API <../doxygen/html_kr_mbltml/group__MbltmlPyAPI>
클래스 <../doxygen/html_kr_mbltml/annotated>
파일 <../doxygen/html_kr_mbltml/files>
```