在模型轉換中設定模板專案
本文介紹如何在模型轉換中設定和自定義模板專案,指導您編輯 sample.json、model_project.config 等配置檔案,以滿足您特定的模型、資料集和工作流需求。
建立模板專案後,您會看到以下檔案被建立。要使模板專案正常工作,您可以按照專案的 readme 檔案,根據您的需求更新引數。

更新 sample.json
要使示例正常工作,您需要填寫以下屬性。例如:
MODEL_PATH: Intel/bert-base-uncased-mrpcMODEL_TASK: text-classificationDS_NAME: glueDS_SUBSET: mrpcDS_SPLIT: validationDATA_COLS: [ "sentence1", "sentence2" ]FIXED_PARAMS: [ "batch_size", "sequence_length" ]FIXED_VALUES: [ 1, 128 ]
您也可以根據需要調整其他引數
execution_providers: [ "CPUExecutionProvider" ]: 可以設定為 QNNExecutionProvider 等其他提供程式。您需要在匹配的裝置上執行。max_length: 128/batch_size: 1: 對於靜態量化,輸入大小應固定。請調整這些值以匹配FIXED_VALUES。max_samples: 100: 使用的樣本數量。
更新 model_project.config (可選)
更新工作流的 name 以反映您想做的事情。這樣可以更容易地從工作流列表中選擇。
更新 modelInfo 的 displayName 和 modelLink 為您使用的。這樣可以更容易地從模型列表中選擇。
更新 sample.custom.config (可選)
此檔案用於渲染 Run 面板和 Re-evaluate 面板。您可以刪除或新增引數以匹配您的 sample.json。如果更改了 json 屬性名稱,可能需要更新路徑。
更新 inference_sample.ipynb (可選)
編寫自己的程式碼來載入和測試輸出模型。此檔案將被複制到歷史記錄資料夾,以便您可以使用不同的 ipynb 來比較來自不同歷史記錄的模型。