유틸리티 사용

유틸리티 사용#

본 문서는 모빌린트 NPU의 상태 확인 혹은 기타 테스트 등에 사용할 수 있는 유틸리티 기능에 대한 설명을 제공합니다.

Linux/Ubuntu#

모빌린트는 Linux/Ubuntu 환경에서 두 가지 유틸리티를 제공합니다.

  • mobilint-cli: NPU 상태 확인, 벤치마크 실행, MXQ 정보 조회 등을 수행할 수 있는 커맨드라인 유틸리티.

  • mobilint-runtime-gui: NPU를 이용해 다양한 AI 모델을 코드 없이 쉽게 실행·테스트할 수 있는 GUI 기반 유틸리티.

mobilint-cli 사용#

  • mobilint-cli status : NPU 디바이스의 상태 정보를 표시합니다.

    • -L 또는 --list-npus : 시스템에 설치된 모든 NPU 디바이스를 표시합니다.

    • -i {device_id} 또는 --id {device_id} : 지정한 {device_id} 에 해당하는 NPU 디바이스의 상태를 표시합니다. {device_id}는 “/dev/aries*”의 숫자 부분에 해당합니다.

    • -l {second} 또는 --loop {second} : {second} 초 간격으로 다바이스의 상태를 지속적으로 표시합니다. -i 또는 --id 옵션이 없으면 기본 디바이스(0번)의 상태를 표시합니다..

    • -m {milli_sec} 또는 --loop-ms {milli-sec} : -l 옵션과 동일하나, 밀리초 단위로 상태를 갱신합니다.

    • -f {file_name} 또는 --file {file_name} : 디바이스 상태를 {file_name} 파일로 저장합니다.

  • mobilint-cli mxqtool : MXQ 파일의 정보를 확인합니다.

    • show {mxq_path} : {mxq_path} 경로의 MXQ 파일을 사용합니다.

    • extract {mxq_path} {dir_path} : {mxq_file} 경로에 있는 MXQ 파일의 내용을 추출하여 {dir_path} 폴더에 저장합니다.

    • collect {dir_path} {mxq_path} : extract 명령으로 추출한 {dir_path}의 내용을 기반으로 {mxq_path}에 새로운 MXQ 파일을 생성합니다.

  • mobilint-cli testinfer : 주어진 MXQ 파일로 다양한 설정 하에서 추론 테스트를 수행합니다.

    • --repeat-count {num} : 추론을 {num} 회 반복 수행합니다.

    • --core-mode {mode} : 추론 시 사용할 코어 모드를 지정합니다. (컴파일 시 지정한 모드 내에서 사용해야 합니다.)

    • --mxq-path {mxq_path} : {mxq_path} 위치의 MXQ 모델을 사용하여 추론을 수행합니다.

    • --summary : --mxq-path 옵션으로 지정된 mxq 파일의 정보를 출력합니다.

    • 더 많은 옵션은 --help 명령을 통해 확인할 수 있습니다.

참고

현재 mobilint-cli benchmark 명령은 비전 모델만 지원합니다.

  • moblint-cli benchmark : 지정된 MXQ 파일을 사용해 벤치마크 테스트를 수행합니다.

    • -p {mxq_path} 또는 --mxq-path {mxq_path} : {mxq_path} 위치의 MXQ 파일을 사용합니다.

    • -t {second} 또는 --time {second} : {second}초 동안 벤치마크 테스트를 수행합니다.

    • 더 많은 옵션은 --help 명령을 통해 확인할 수 있습니다.

mobilint-runtime-gui 사용#

  1. GUI 서버 실행

    터미널에 다음 명령을 입력하여 GUI 서버를 실행합니다.

    mobilint-runtime-gui

    정상적으로 실행되면, 아래 사진과 같이 붉은 박스 영역에 접속 주소가 표시됩니다 (예: “http://127.0.0.1:5000”)

    runtime-gui_usage

  2. 웹 브라우저로 접속

    안내 메세지에 표시된 주소(예: “http://127.0.0.1:5000”)를 복사한 뒤, 웹 브라우저의 주소창에 입력하여 접속합니다.

  3. GUI 사용

    브라우저 접속이 성공하면 아래 사진과 같은 GUI 화면이 표시됩니다.

    runtime-gui_sceenshot

  4. 사용 종료

    GUI를 종료하려면 실행한 터미널에 “Ctrl + C” 를 입력하여 GUI 서버를 종료합니다.

Windows#

Windows용 유틸리티는 mobilint ctrl 이 제공됩니다.

Mobilint_ctrl

실행 시 위의 화면과 같이 NPU의 다양한 상태 정보 등을 표기해줍니다.

내용