參加你附近的 ,瞭解 VS Code 中的 AI 輔助開發。

在模型轉換中設定模板專案

本文介紹瞭如何在模型轉換中設定和自定義模板專案,指導您編輯sample.json、model_project.config等配置檔案,以滿足您特定的模型、資料集和工作流需求。

建立模板專案後,您會看到以下檔案已建立。要使模板專案正常工作,您可以按照專案的自述檔案根據需要更新引數。

Template project files

更新 sample.json

為了使示例工作,您需要填寫以下屬性。例如:

  • MODEL_PATH: Intel/bert-base-uncased-mrpc
  • MODEL_TASK: 文字分類
  • DS_NAME: glue
  • DS_SUBSET: mrpc
  • DS_SPLIT: 驗證
  • DATA_COLS: [ "sentence1", "sentence2" ]
  • FIXED_PARAMS: [ "batch_size", "sequence_length" ]
  • FIXED_VALUES: [ 1, 128 ]

您還可以調整其他引數以滿足您的需求:

  • execution_providers: [ "CPUExecutionProvider" ]: 適用於其他提供程式,例如 QNNExecutionProvider。您需要在匹配的裝置上執行它。
  • max_length: 128 / batch_size: 1: 對於靜態量化,輸入大小應固定。調整這些以匹配 FIXED_VALUES
  • max_samples: 100: 使用的樣本數量。

更新 model_project.config (可選)

更新工作流的 name 以反映您想要執行的操作。這樣更容易從工作流列表中選擇。

更新 modelInfo 的 displayNamemodelLink 為您使用的名稱和連結。這樣更容易從模型列表中選擇。

更新 sample.custom.config (可選)

此檔案用於渲染 Run 面板和 Re-evaluate 面板。您可以刪除或新增引數以匹配您的 sample.json。如果更改了 json 屬性名稱,可能需要更新路徑。

更新 inference_sample.ipynb (可選)

編寫自己的程式碼來載入和測試輸出模型。此檔案將複製到歷史資料夾中,因此您可以使用不同的 ipynb 來比較不同歷史中的模型。