手動設定模型轉換環境
本文介紹如何手動設定用於跨不同硬體目標(包括 CPU、QNN、AMD NPU 和 Intel NPU)進行模型轉換的 Python 環境。
我們建議在 Python 虛擬環境或 Conda 環境中安裝環境。
注意:如果您想使用 QNN EP 在 NPU 裝置上進行推理,我們建議使用 Python 虛擬環境。原因是某些模型的推理可能需要 ARM 版本的 Python,而 Conda 尚不支援建立 ARM 版本的 Python 虛擬環境。
- CPU:設定 CPU 環境
- QNN:設定 QNN 環境
- AMD NPU:設定 AMD NPU 環境
- Intel NPU:設定 Intel NPU 環境
設定 CPU 環境
提示:您可以直接設定 NPU 環境,例如設定 QNN 環境。當在模型上執行推理時,它將回退到 CPU EP。
或者,您可以選擇設定 CPU 環境。
Python 版本:3.12.9
pip install requirements-CPU.txt
設定 QNN 環境
Python 版本:3.12.9
pip install requirements-QNN.txt
設定 AMD NPU 環境
Python 版本:3.10.9
pip install requirements-AMDNPU.txt
設定 Intel NPU 環境
Python 版本:3.10.9
pip install requirements-IntelNPU.txt
安裝目標專案的要求
導航到模型專案資料夾。
pip install requirements.txt