設定模型轉換中的範本專案

本文介紹如何設定及自訂模型轉換中的範本專案，引導您編輯 sample.json、model_project.config 等設定檔，以符合您特定的模型、資料集與工作流程需求。

建立範本專案後，您會看到系統已建立下列檔案。若要讓範本專案運作，您可以依照專案的 readme 說明，根據您的需求更新參數。

更新 sample.json

為了讓範例順利運作，您需要填寫以下屬性。例如：

• MODEL_PATH: Intel/bert-base-uncased-mrpc
• MODEL_TASK: text-classification
• DS_NAME: glue
• DS_SUBSET: mrpc
• DS_SPLIT: validation
• DATA_COLS: [ "sentence1", "sentence2" ]
• FIXED_PARAMS: [ "batch_size", "sequence_length" ]
• FIXED_VALUES: [ 1, 128 ]

您也可以根據需求調整其他參數：

• execution_providers: [ "CPUExecutionProvider" ]：若要改為其他提供者（如 QNNExecutionProvider），您需要在對應的裝置上執行。
• max_length: 128 / batch_size: 1：進行靜態量化（static quantization）時，輸入大小必須固定。請調整這些值以符合 FIXED_VALUES。
• max_samples: 100：使用的樣本數量。

更新 model_project.config（選用）

更新工作流程（workflow）的 name 以反映您想執行的動作，這樣在工作流程列表中會更容易選擇。

更新 modelInfo 的 displayName 與 modelLink 為您所使用的內容，這樣在模型列表中會更容易選擇。

更新 sample.custom.config（選用）

此檔案用於呈現「執行（Run）」面板與「重新評估（Re-evaluate）」面板。您可以移除或新增參數以符合您的 sample.json。若您變更了 JSON 屬性名稱，可能需要同時更新路徑。

更新 inference_sample.ipynb（選用）

撰寫您自己的程式碼來載入並測試輸出模型。此檔案將會被複製到歷史記錄資料夾中，因此您可以使用不同的 ipynb 來比較來自不同歷史記錄的模型。