在模型轉換中設定模板專案
本文介紹瞭如何在模型轉換中設定和自定義模板專案,指導您編輯sample.json、model_project.config等配置檔案,以滿足您特定的模型、資料集和工作流需求。
建立模板專案後,您會看到以下檔案已建立。要使模板專案正常工作,您可以按照專案的自述檔案根據需要更新引數。
更新 sample.json
為了使示例工作,您需要填寫以下屬性。例如:
MODEL_PATH: Intel/bert-base-uncased-mrpc
MODEL_TASK: 文字分類
DS_NAME: glue
DS_SUBSET: mrpc
DS_SPLIT: 驗證
DATA_COLS: [ "sentence1", "sentence2" ]
FIXED_PARAMS: [ "batch_size", "sequence_length" ]
FIXED_VALUES: [ 1, 128 ]
您還可以調整其他引數以滿足您的需求:
execution_providers: [ "CPUExecutionProvider" ]
: 適用於其他提供程式,例如 QNNExecutionProvider。您需要在匹配的裝置上執行它。max_length: 128
/batch_size: 1
: 對於靜態量化,輸入大小應固定。調整這些以匹配FIXED_VALUES
。max_samples: 100
: 使用的樣本數量。
更新 model_project.config (可選)
更新工作流的 name
以反映您想要執行的操作。這樣更容易從工作流列表中選擇。
更新 modelInfo 的 displayName
和 modelLink
為您使用的名稱和連結。這樣更容易從模型列表中選擇。
更新 sample.custom.config (可選)
此檔案用於渲染 Run
面板和 Re-evaluate
面板。您可以刪除或新增引數以匹配您的 sample.json
。如果更改了 json 屬性名稱,可能需要更新路徑。
更新 inference_sample.ipynb (可選)
編寫自己的程式碼來載入和測試輸出模型。此檔案將複製到歷史資料夾中,因此您可以使用不同的 ipynb 來比較不同歷史中的模型。