Changes between Version 27 and Version 28 of expansion/gw16168


Ignore:
Timestamp:
08/20/2026 12:17:46 AM (7 weeks ago)
Author:
Tim Harvey
Comment:

updated dev kit documentation

Legend:

Unmodified
Added
Removed
Modified

  • expansion/gw16168

    v27 v28  
    760760Creating new swap file of size 2G ...
    761761Setting up swapspace version 1, size = 2 GiB (2147479552 bytes)
    762 no label, UUID=dd217f9c-d01e-44aa-91bc-ee613e7122f5
     762no label, UUID=dc11a344-d570-4fbc-ae11-f661c10c6117
    763763/swapfile none swap sw 0 0
    764764Swap file of 2G configured and enabled successfully.
    … …  
    776776  ✓ uv package manager installed
    777777
    778 Installing image-detect demo...
    779 Downloading nxp/YOLOv8 to /usr/share/cnn/...
    780 Downloading bytes:                                                                                                         |  0.00B            Warning: You are sending unauthenticated requests to the HF Hub. Please set a HF_TOKEN to enable higher rate limits and faster downloads.       
    781 Fetching 19 files: 100%|███████████████████████████████████████████████████████████████████████████████████████| 19/19 [00:11<00:00,  1.62it/s]
    782 Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████|  522MB, 90.7MB/s  Download complete: /usr/share/cnn/█████████████████████████████████████████████████████████████████████████████████|  746MB /  746MB,  119MB/s 
    783 Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████|  522MB, 90.7MB/s 
    784 Reconstruction complete: 100%|████████████████████████████████████████████████████████████████████████████████████|  746MB /  746MB,  119MB/s 
     778
     779→ Installing demo apps
     780────────────────────────────────────────────────────────────────────────────────
    785781Using CPython 3.14.4 interpreter at: /usr/bin/python3
    786782Creating virtual environment at: .venv
    787783Activate with: source .venv/bin/activate
    788 
    789 Installing vision-webapp demo...
    790 Using CPython 3.14.4 interpreter at: /usr/bin/python3
    791 Creating virtual environment at: .venv
    792 Activate with: source .venv/bin/activate
    793 
    794 Installing chat demo...
    795     Installing eIQ AAF Connector...
     784    /root/ara2/chat.py
     785Resolved 5 packages in 1.04s
     786    /root/ara2/image_detect.py
     787Resolved 2 packages in 744ms
     788    /root/ara2/launcher.py
     789Resolved in 4ms
     790    /root/ara2/vision-webapp.py
     791Resolved 14 packages in 726ms
     792    /root/ara2/webchat.py
     793Resolved 19 packages in 1.06s
     794    /root/ara2/webvlm.py
     795Resolved 19 packages in 370ms
     796
     797
     798→ Installing eIQ AAF Connector...
     799────────────────────────────────────────────────────────────────────────────────
    796800
    797801╔══════════════════════════════════════════════════════════════════════════════╗
    … …  
    816820────────────────────────────────────────────────────────────────────────────────
    817821Using Python 3.14.4 environment at: /usr/share/eiq/aaf-connector/venv
    818 Resolved 56 packages in 1.92s
    819 Downloading scipy (32.4MiB)
     822Resolved 56 packages in 1.44s
     823Downloading transformers (11.4MiB)
     824Downloading sympy (6.0MiB)
     825Downloading networkx (2.0MiB)
     826Downloading numba (3.4MiB)
    820827Downloading pydantic-core (1.8MiB)
     828Downloading av (32.1MiB)
     829Downloading numpy (15.0MiB)
    821830Downloading scikit-learn (8.4MiB)
    822831Downloading soundfile (1.2MiB)
    823 Downloading networkx (2.0MiB)
    824 Downloading sympy (6.0MiB)
     832Downloading scipy (32.4MiB)
    825833Downloading llvmlite (55.6MiB)
     834Downloading torch (99.3MiB)
     835Downloading pillow (6.1MiB)
     836Downloading tokenizers (3.1MiB)
     837Downloading torchvision (2.3MiB)
    826838Downloading hf-xet (4.1MiB)
    827 Downloading numpy (15.0MiB)
    828 Downloading numba (3.4MiB)
    829 Downloading transformers (11.4MiB)
    830 Downloading av (32.1MiB)
    831 Downloading torch (99.3MiB)
    832 Downloading torchvision (2.3MiB)
    833 Downloading tokenizers (3.1MiB)
    834 Downloading pillow (6.1MiB)
    835839 Downloaded soundfile
    836840 Downloaded pydantic-core
    … …  
    849853 Downloaded transformers
    850854 Downloaded torch
    851 Prepared 53 packages in 16.77s
    852 Installed 56 packages in 763ms
     855Prepared 45 packages in 16.13s
     856Installed 56 packages in 1.49s
    853857 + annotated-types==0.8.0
    854858 + audioop-lts==0.2.2
    … …  
    908912 + urllib3==2.7.0
    909913Using Python 3.14.4 environment at: /usr/share/eiq/aaf-connector/venv
    910 Resolved 69 packages in 734ms
     914Resolved 69 packages in 843ms
     915Downloading outlines-core (2.1MiB)
    911916Downloading opencv-python (47.5MiB)
    912 Downloading outlines-core (2.1MiB)
    913917 Downloaded outlines-core
    914918 Downloaded opencv-python
    915 Prepared 13 packages in 1.82s
    916 Uninstalled 1 package in 1ms
    917 Installed 14 packages in 27ms
     919Prepared 7 packages in 2.19s
     920Uninstalled 1 package in 2ms
     921Installed 14 packages in 29ms
    918922 + annotated-doc==0.0.5
    919923 + anyio==4.14.2
    … …  
    930934 + sentence-transformers==5.7.0
    931935 + starlette==1.6.0
    932  + uvicorn==0.52.3
     936 + uvicorn==0.52.4
    933937  ✓ Python packages installed
    934938
    … …  
    957961      - Enable auto-start: systemctl enable eiq-aaf-connector.service
    958962      - Disable auto-start: systemctl disable eiq-aaf-connector.service
     963
     964
     965→ Installing models
     966────────────────────────────────────────────────────────────────────────────────
     967Downloading nxp/YOLOv8 to /usr/share/cnn/...
     968Downloading bytes:                                                                                                         |  0.00B            Warning: You are sending unauthenticated requests to the HF Hub. Please set a HF_TOKEN to enable higher rate limits and faster downloads.       
     969Fetching 19 files: 100%|███████████████████████████████████████████████████████████████████████████████████████| 19/19 [00:10<00:00,  1.82it/s]
     970Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████|  522MB, 59.9MB/s  Download complete: /usr/share/cnn/█████████████████████████████████████████████████████████████████████████████████|  746MB /  746MB,  146MB/s 
     971Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████|  522MB, 59.9MB/s 
     972Reconstruction complete: 100%|████████████████████████████████████████████████████████████████████████████████████|  746MB /  746MB,  146MB/s 
    959973Downloading nxp/Qwen2.5-7B-Instruct-Ara240 to /usr/share/llm/Qwen2.5-7B-Instruct...
    960974Downloading bytes:                                                                                                         |  0.00B            Warning: You are sending unauthenticated requests to the HF Hub. Please set a HF_TOKEN to enable higher rate limits and faster downloads.       
    961 Fetching 13 files: 100%|███████████████████████████████████████████████████████████████████████████████████████| 13/13 [02:20<00:00, 10.81s/it]
    962 Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 7.78GB, 29.3MB/s  Download complete: /usr/share/llm/Qwen2.5-7B-Instruct██████████████████████████████████████████████████████████████| 8.17GB / 8.17GB, 69.3MB/s 
    963 Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 7.78GB, 29.3MB/s 
    964 Reconstruction complete: 100%|████████████████████████████████████████████████████████████████████████████████████| 8.17GB / 8.17GB, 69.3MB/s 
    965 Using CPython 3.14.4 interpreter at: /usr/bin/python3
    966 Creating virtual environment at: .venv
    967 Activate with: source .venv/bin/activate
    968 
    969 Installing webchat demo...
    970 Using CPython 3.14.4 interpreter at: /usr/bin/python3
    971 Creating virtual environment at: .venv
    972 Activate with: source .venv/bin/activate
    973 
    974 Installing webVLM demo...
     975Downloading bytes: █████████████████████████████▉                                                                          | 2.35GB, 80.6MB/s  [  OK  ] Finished apt-daily-upgrade.service - Daily apt upgrade and clean activities.                              |  519MB / 8.17GB, 63.9MB/s 
     976Fetching 13 files: 100%|███████████████████████████████████████████████████████████████████████████████████████| 13/13 [02:25<00:00, 11.21s/it]
     977Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 7.78GB, 22.3MB/s  Download complete: /usr/share/llm/Qwen2.5-7B-Instruct██████████████████████████████████████████████████████████████| 8.17GB / 8.17GB, 74.3MB/s 
     978Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 7.78GB, 22.3MB/s 
     979Reconstruction complete: 100%|████████████████████████████████████████████████████████████████████████████████████| 8.17GB / 8.17GB, 74.3MB/s 
    975980Downloading nxp/Qwen2.5-VL-7B-Instruct-Ara240 to /usr/share/llm/Qwen2.5-VL-7B-Instruct...
    976981Downloading bytes:                                                                                                         |  0.00B            Warning: You are sending unauthenticated requests to the HF Hub. Please set a HF_TOKEN to enable higher rate limits and faster downloads.       
    977 Fetching 19 files: 100%|███████████████████████████████████████████████████████████████████████████████████████| 19/19 [03:42<00:00, 11.69s/it]
    978 Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 11.7GB, 64.1MB/s  Download complete: /usr/share/llm/Qwen2.5-VL-7B-Instruct███████████████████████████████████████████████████████████| 12.3GB / 12.3GB, 67.3MB/s 
    979 Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 11.7GB, 64.1MB/s 
    980 Reconstruction complete: 100%|████████████████████████████████████████████████████████████████████████████████████| 12.3GB / 12.3GB, 67.3MB/s 
    981 Using CPython 3.14.4 interpreter at: /usr/bin/python3
    982 Creating virtual environment at: .venv
    983 Activate with: source .venv/bin/activate
    984 
    985 
    986 → Installing models
    987 ────────────────────────────────────────────────────────────────────────────────
    988     nxp/YOLOv8 already isntalled
    989     nxp/Qwen2.5-7B-Instruct already installed
    990 Downloading nxp/Qwen2.5-VL-7B-Instruct-Ara240 to /usr/share/llm/Qwen2.5-VL-7B-Instruct...
    991 Fetching 19 files: 100%|██████████████████████████████████████████████████████████████████████████████████████| 19/19 [00:00<00:00, 173.71it/s]
    992 Download complete: :                                                                                                       |  0.00B            Download complete: /usr/share/llm/Qwen2.5-VL-7B-Instruct                                                           |  0.00B /  0.00B           
    993 Download complete: :                                                                                                       |  0.00B           
    994 Reconstruction complete: |                                                                                        |  0.00B /  0.00B           
     982Fetching 19 files: 100%|███████████████████████████████████████████████████████████████████████████████████████| 19/19 [03:48<00:00, 12.00s/it]
     983Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 11.7GB, 20.9MB/s  Download complete: /usr/share/llm/Qwen2.5-VL-7B-Instruct███████████████████████████████████████████████████████████| 12.3GB / 12.3GB, 67.8MB/s 
     984Download complete: : ██████████████████████████████████████████████████████████████████████████████████████████████████████| 11.7GB, 20.9MB/s 
     985Reconstruction complete: 100%|████████████████████████████████████████████████████████████████████████████████████| 12.3GB / 12.3GB, 67.8MB/s 
    995986
    996987
    … …  
    10111002=======================================================
    10121003}}}
     1004  - Now open a browser to your boards IP port 8888
    10131005    [[Image(launcher.png,400px)]]
    1014   - Now open a browser to your boards IP port 8888
    10151006 * image_detect.py - Object detection on an image
    10161007{{{#!bash
    1017 root@catalina:~/ara2/image-detect# uv run image_detect.py
     1008root@catalina:~# cd ~/ara2
     1009root@catalina:~/ara2# .venv/bin/python image_detect.py
    10181010Usage: image_detect.py <input_image> <output_image> [model]
    1019 root@catalina:~/ara2/image-detect# uv run image_detect.py dog.jpg coco_detections.jpg /usr/share/cnn/detection/yolov8x/model.dvm
     1011root@catalina:~/ara2# .venv/bin/python image_detect.py dog.jpg coco_detections.jpg /usr/share/cnn/detection/yolov8x/model.dvm
    10201012
    10211013model: /usr/share/cnn/detection/yolov8x/model.dvm
    … …  
    10451037 * chat.py - LLM terminal
    10461038{{{#!bash
    1047 root@catalina:~# cd /root/ara2/chat/
    1048 root@catalina:~/ara2/chat# uv run chat.py
     1039root@catalina:~# cd ~/ara2
     1040root@catalina:~/ara2# .venv/bin/python chat.py
    10491041[Config] 'Qwen2.5-7B-Instruct' is already set as enabled.
    10501042[Service] 'eiq-aaf-connector.service' is not active. Starting/Restarting now...
    … …  
    10701062 * vision-webapp.py - Object detection on a video or webcam
    10711063{{{#!bash
    1072 root@catalina:~/ara2/vision-webapp# uv run vision-webapp.py --camera /dev/video_webcam --mp4 /usr/share/media/sample_videos/ --port 8080
    1073 /root/ara2/vision-webapp/vision-webapp.py:27: DeprecationWarning: Due to '_pack_', the 'AraDetection' Structure will use memory layout compatibl
    1074 e with MSVC (Windows). If this is intended, set _layout_ to 'ms'. The implicit default is deprecated and slated to become an error in Python 3.1
    1075 9.
    1076   class AraDetection(ctypes.Structure):
     1064root@catalina:~# cd ~/ara2
     1065root@catalina:~/ara2# .venv/bin/python vision-webapp.py --camera /dev/video_webcam --mp4 /usr/share/media/sample_videos/ --port 8080
    10771066Server serving on: http://localhost:8080/
    10781067 * Serving Flask app 'vision-webapp'
    … …  
    10811070 * webchat.py - LLM Web App
    10821071{{{#!bash
    1083 root@catalina:~/ara2/webchat# uv run webchat.py --port 8080
     1072root@catalina:~# cd ~/ara2
     1073root@catalina:~/ara2# .venv/bin/python webchat.py --port 8080
    10841074[Config] 'Qwen2.5-7B-Instruct' is already set as enabled.
    10851075[Service] Waiting for 'Qwen2.5-7B-Instruct' to finish loading on Ara NPU...
    … …  
    10971087* webvlm.py - VLM Web App
    10981088{{{#!bash
    1099 root@catalina:~# cd /root/ara2/webvlm/
    1100 root@catalina:~/ara2/webvlm# uv run webvlm.py --host 0.0.0.0 --port 8080 --video-dir /usr/share/media/sample_videos --aaf-server http://127.0.0.
     1089root@catalina:~# cd ~/ara2
     1090root@catalina:~/ara2# .venv/bin/python webvlm.py --host 0.0.0.0 --port 8080 --video-dir /usr/share/media/sample_videos --aaf-server http://127.0.0.
    110110911:8000
    11021092[Config] Enabling 'Qwen2.5-VL-7B-Instruct' in server_config.json...