설치

설치#

시스템 요구사항#

NVIDIA GPU가 장착된 환경에서 qbcompiler를 설치하는 것을 권장합니다. 그러나 NVIDIA GPU가 없는 CPU 전용 버전의 qbcompiler도 지원합니다.

기준 환경#

패키지 요구사항 및 권장사항#

SDK 설치#

qbcompiler는 모빌린트의 공식 도커 컨테이너 상에 설치하는 것을 권장합니다. 큐비 컴파일러 v0.10.0.0부터는 버전의 앞 두 자리가 도커 이미지 앞 두 자리와 일치해야 합니다. 예를 들어 큐비 컴파일러 v1.0.0을 사용할 때는 1.0으로 시작하는 도커 이미지를 선택하세요. 또한 큐비 도커 0.11 이상부터는 cuda12.8.1이미지를 기반으로 하여 NVIDIA 드라이버가 R570 계열 이상이어야 합니다.따라서 NVIDIA 드라이버를 가장 최신으로 업데이트 하는 것을 권장드립니다.

도커 컨테이너 빌드#

다음의 명령어를 실행하여 도커 컨테이너를 빌드합니다.

# Download Docker Image
docker pull mobilint/qbcompiler:1.0-cuda12.8.1-ubuntu22.04
# mkdir {WORKING DIRECTORY} (if needed)
cd {WORKING DIRECTORY}
# Build the Docker container
docker run -it --gpus all --ipc=host --name {YOUR_CONTAINER_NAME} -v $(pwd):/workspace mobilint/qbcompiler:1.0-cuda12.8.1-ubuntu22.04 /bin/bash

(권장사항) 훈련된 모델과 데이터셋이 다른 디렉토리에 저장되어 있는 경우, 다음과 같이 도커 컨테이너에 마운트할 수 있습니다.

docker run -it --gpus all --ipc=host --name {YOUR_CONTAINER_NAME} -v $(pwd):/workspace -v {PATH TO MODEL DIR}:/models -v {PATH TO DATASET DIR}:/datasets mobilint/qbcompiler:1.0-cuda12.8.1-ubuntu22.04 /bin/bash

도커 컨테이너에 NPU를 연결하고자 하는 경우, 도커 컨테이너를 생성할 때 --device /dev/aries0:/dev/aries0 옵션을 추가합니다.

(선택사항) CPU 전용 버전의 이미지를 사용하여 도커 컨테이너를 빌드하면, GPU가 없는 컴퓨터에서도 Mobilint Compiler를 실행할 수 있습니다.

# Download Docker Image
docker pull mobilint/qbcompiler:1.0-cpu-ubuntu22.04
cd {WORKING DIRECTORY}
# Build the Docker container
docker run -it --ipc=host --name {YOUR_CONTAINER_NAME} -v $(pwd):/workspace mobilint/qbcompiler:1.0-cpu-ubuntu22.04 /bin/bash

qbcompiler 설치#

qbcompiler 패키지는 Mobilint® Software Development Kit (SDK) 배포 사이트에서 다운로드 받을 수 있습니다. 사이트에 접속한 후, 이 release에 맞는 qbcompiler 패키지를 다운로드합니다. 패키지는 Python wheel 파일 형태로 제공되며, pip를 사용하여 설치할 수 있습니다. 다음의 명령어를 실행하여 도커 컨테이너에 qbcompiler를 설치합니다.

# Download qbcompiler-1.0.0+aries-py3-none-any.whl file
# Copy qbcompiler whl file to Docker
docker cp {Path to qbcompiler-1.0.0+aries-py3-none-any.whl} {YOUR_CONTAINER_NAME}:/
# Start Docker
docker start {YOUR_CONTAINER_NAME}
# Attach to Docker container
docker exec -it {YOUR_CONTAINER_NAME} /bin/bash
# Install qbcompiler
cd /
python -m pip install qbcompiler-1.0.0+aries-py3-none-any.whl

qbcompiler 1.2 이전 release의 wheel 파일 이름에는 +aries처럼 local version segment에 NPU 이름이 포함될 수 있습니다. 해당 release에서 제공한 정확한 wheel 파일을 설치합니다.