手動設定模型轉換環境
本文件介紹如何為跨不同硬體目標(包括CPU、QNN、AMD NPU和Intel NPU)的模型轉換手動設定Python環境。
我們建議您在Python虛擬環境或Conda環境中安裝您的環境。
注意:如果您想使用QNN EP在NPU裝置上進行推理,我們建議使用Python虛擬環境。原因是,某些模型的推理可能需要ARM版本的Python,而Conda目前不支援建立ARM版本的Python虛擬環境。
- CPU:設定CPU環境
- QNN:設定QNN環境
- AMD NPU:設定AMD NPU環境
- Intel NPU:設定Intel NPU環境
設定CPU環境
提示:您可以直接設定NPU環境,例如設定QNN環境。當在模型上執行推理時,它將回退到CPU EP。
或者,您也可以選擇設定CPU環境。
Python版本:3.12.9
pip install requirements-CPU.txt
設定QNN環境
Python版本:3.12.9
pip install requirements-QNN.txt
設定AMD NPU環境
Python版本:3.10.9
pip install requirements-AMDNPU.txt
設定Intel NPU環境
Python版本:3.10.9
pip install requirements-IntelNPU.txt
安裝目標專案所需的依賴
導航到模型專案資料夾。
pip install requirements.txt