在 AI Toolkit 中建置 Agent 與提示詞 (Prompts)

注意

Agent Builder 前身為 Prompt Builder。更新後的名稱能更精確地反映此功能的特性及其在建置 Agent 方面的核心定位。

AI Toolkit 中的 Agent Builder 簡化了建置 Agent 的工程工作流程,包括提示詞工程以及與 MCP 伺服器等工具的整合。它有助於處理常見的提示詞工程任務。

  • 即時迭代與優化
  • 提供便捷的程式碼存取,透過 API 順暢整合大型語言模型 (LLM)

Agent Builder 同時透過工具使用能力,增強智慧型應用程式的功能

  • 連線至現有的 MCP 伺服器
  • 從範本建置新的 MCP 伺服器
  • 使用函式呼叫來連線至外部 API 與服務

Screenshot showing the Agent Builder interface with prompt engineering and testing capabilities.

建立、編輯與測試提示詞

若要存取 Agent Builder,請使用下列任一選項

  • 在 AI Toolkit 檢視中,選取 Agent Builder
  • 從模型目錄的模型卡片中,選取 Try in Agent Builder (在 Agent Builder 中嘗試)
  • 在「我的資源」(My Resources) 檢視中,於 Models (模型) 下方,對模型按一下右鍵並選擇 Load in Agent Builder (載入至 Agent Builder)

若要在 Agent Builder 中測試提示詞,請遵循下列步驟

  1. 如果您尚未選擇模型,請在 Agent Builder 的 Model (模型) 下拉式清單中選擇一個。您也可以選擇 Browse models (瀏覽模型),從模型目錄中新增其他模型。

    Screenshot showing the model selection dropdown in Agent Builder.

  2. 輸入 Agent 指令。

    使用 Instructions (指令) 欄位來明確告知您的 Agent 該做什麼以及如何執行。列出具體任務,排列順序,並加入任何特殊指示,例如語氣或互動方式。

  3. 觀察模型的反應並修改指令,藉此迭代您的提示詞。

  4. 使用 {{variable_name}} 語法在指令中加入動態值。例如,新增一個名為 user_name 的變數,並在指令中這樣使用:以使用者的名字向其問候:{{user_name}}

  5. Variables (變數) 區段中為變數提供值。

  6. 在文字方塊中輸入提示詞,並點選傳送圖示來測試您的 Agent。

  7. 觀察模型的反應,並對指令進行任何必要的調整。

使用 MCP 伺服器

MCP 伺服器是一種工具,可讓您連線至外部 API 和服務,使您的 Agent 不僅能產生文字,還能執行各項動作。例如,您可以使用 MCP 伺服器存取資料庫、呼叫 Web 服務或與其他應用程式互動。

使用 Agent Builder 來探索及設定精選的 MCP 伺服器、連線至現有的 MCP 伺服器,或從範本建置新的 MCP 伺服器。

注意

使用 MCP 伺服器可能需要 NodePython 環境。AI Toolkit 會驗證您的環境,確保已安裝必要的相依項目。安裝後,請使用指令 npm install -g npx 來安裝 npx。如果您偏好使用 Python,我們建議使用 uv

AI Toolkit 提供了一系列精選的 MCP 伺服器,可用來連線至外部 API 與服務。

若要從精選選項中設定 MCP 伺服器,請遵循下列步驟

  1. Tool (工具) 區段中,選取 + MCP Server,然後在快速挑選器 (Quick Pick) 中選取 MCP Server

  2. 從下拉式清單中選取 Could not find one? Browse more MCP servers (找不到?瀏覽更多 MCP 伺服器)顯示 Agent Builder 中連線至 MCP 伺服器介面的螢幕擷取畫面。

  3. 選擇符合您需求的 MCP 伺服器。 顯示 Agent Builder 中連線至 MCP 伺服器介面的螢幕擷取畫面。

  4. 該 MCP 伺服器即會新增至您 Agent 中 Tools (工具) 下方的 MCP 子區段。

從 VS Code 選取工具

  1. Tool (工具) 區段中,選取 + MCP Server,然後在快速挑選器 (Quick Pick) 中選取 MCP Server

  2. 從下拉式清單中選取 Use Tools Added in Visual Studio Code (使用在 Visual Studio Code 中新增的工具)顯示 Agent Builder 中連線至 MCP 伺服器介面的螢幕擷取畫面。

  3. 選取您要使用的工具。 顯示 Agent Builder 中選取工具介面的螢幕擷取畫面。

  4. 名為 VSCode Tools 的 MCP 伺服器工具即會新增至您 Agent 中 Tools (工具) 下方的 MCP 子區段。

使用現有的 MCP 伺服器

提示

您可以在這些 參考伺服器 中尋找 MCP 伺服器。

若要使用現有的 MCP 伺服器,請遵循下列步驟

  1. MCP Workflow (MCP 工作流程) 區段中,選取 + Add MCP Server (新增 MCP 伺服器)

  2. 或者在 Agent Builder 的 Tool (工具) 區段中,選取 + 圖示以新增工具,然後在快速挑選器中選取 + Add server (新增伺服器)

  3. 在快速挑選器中選取 MCP server

  4. 選取 Connect to an Existing MCP Server (連線至現有的 MCP 伺服器)

  5. 捲動至下拉式清單底部,以查看連線至 MCP 伺服器的選項

    • Command (stdio) (指令):執行實作 MCP 協定的本機指令
    • HTTP (HTTP 或 server-sent events):連線至實作 MCP 協定的遠端伺服器
  6. 如果 MCP 伺服器有多個可用工具,請從中選取。

  7. 在文字方塊中輸入您的提示詞,並點選傳送圖示來測試連線。

以下是在 AI Toolkit 中設定 Filesystem 伺服器的範例

  1. Tool (工具) 區段中,於快速挑選器選取 + MCP Server

  2. 從下拉式清單中選取 Could not find one? Browse more MCP servers (找不到?瀏覽更多 MCP 伺服器)

  3. 捲動至下拉式清單底部並選取 Command (stdio)

    注意

    有些伺服器使用 Python 執行階段與 uvx 指令。其流程與使用 npx 指令相同。

  4. 前往 伺服器說明文件 並找到 npx 區段。

  5. commandargs 複製到 AI Toolkit 的輸入框中。以 Filesystem 伺服器為例,內容為 npx -y @modelcontextprotocol/server-filesystem /Users/<username>/.aitk/examples

  6. 輸入伺服器的 ID。

  7. 您可以選擇輸入額外的環境變數。有些伺服器可能需要額外的環境變數(例如 API 金鑰)。在此情況下,如果 AI Toolkit 在新增工具階段失敗,會開啟一個 mcp.json 檔案,您可以依照各伺服器提供的說明,在該檔案中輸入必要的伺服器詳細資訊。 顯示遺失引數例外狀況範例的螢幕擷取畫面 設定完成後: 1. 返回 Tool (工具) 區段並選取 + MCP Server 1. 從下拉式清單選取您設定的伺服器

  8. 選取您要使用的工具。

connect to MCP server

AI Toolkit 也提供範本來協助您建置新的 MCP 伺服器。此範本包含 MCP 協定的基本實作,您可以根據需求進行自訂。

建置新的 MCP 伺服器

若要建置新的 MCP 伺服器,請遵循下列步驟

  1. MCP Workflow (MCP 工作流程) 區段中,選取 Create New MCP Server (建立新 MCP 伺服器)
  2. 從下拉式清單中選取程式語言:PythonTypeScript
  3. 選擇一個資料夾來建立新的 MCP 伺服器專案。
  4. 輸入 MCP 伺服器專案的名稱。

建立 MCP 伺服器專案後,您可以自訂其實作以符合您的需求。範本包含 MCP 協定的基本實作,您可以對其進行修改以新增自有的功能。

您也可以使用 Agent Builder 來測試 MCP 伺服器。Agent Builder 會將提示詞發送給 MCP 伺服器並顯示其回應。

請遵循下列步驟來測試 MCP 伺服器

注意

若要在本機開發機器上執行 MCP 伺服器,您需要安裝:Node.js 或 Python。

  1. 開啟 VS Code 的「偵錯」(Debug) 面板。選取 Debug in Agent Builder 或按下 F5 開始對 MCP 伺服器進行偵錯。

  2. 伺服器會自動連線至 Agent Builder。

  3. 使用 AI Toolkit Agent Builder,並透過以下指令啟用 Agent

    • "你是一位天氣預報專家,可以根據給定的地點告知天氣資訊。"
  4. 在提示詞方塊中輸入「西雅圖的天氣如何?」(What is the weather in Seattle?),並點選傳送圖示以使用該提示詞來測試伺服器。

  5. 在 Agent Builder 中觀察 MCP 伺服器的回應。

使用函式呼叫 (Function calling)

函式呼叫 (Function calling) 可將您的 Agent 連線至外部 API 與服務。

Screenshot showing the Add Custom Function Tool dialog with options to add tools by example or upload schemas.

  1. Tool (工具) 中,選取 Add Tool (新增工具),然後選擇 Custom Tool (自訂工具)
  2. 選擇如何新增工具
    • By Example (範例):從 JSON 結構描述 (Schema) 範例新增
    • Upload Existing Schema (上傳現有結構描述):上傳 JSON 結構描述檔案
  3. 輸入工具名稱與描述,然後選取 Add (新增)
  4. 在工具卡片中提供模擬回應。

Screenshot showing a function calling tool card with weather tool configuration.

  1. 使用該函式呼叫工具執行 Agent。

Evaluation (評估) 頁籤中,輸入測試案例的模擬回應,以使用函式呼叫工具。

Screenshot showing function calling tool usage in the evaluation tab.

將提示詞工程整合至您的應用程式

在試驗過模型與提示詞後,您可以立即利用自動產生的 Python 程式碼進行開發。

Animated GIF showing the generated Python code

若要檢視 Python 程式碼,請遵循下列步驟

  1. 選取 View Code (檢視程式碼)

  2. 對於託管於 GitHub 上的模型,請選取您要使用的推論 SDK。

    AI Toolkit 會使用該提供者的用戶端 SDK,為您選取的模型產生程式碼。對於託管於 GitHub 上的模型,您可以選擇要使用的推論 SDK:Agent Framework SDK,或模型提供者所提供的 SDK,例如 OpenAI SDKMistral API

  3. 產生的程式碼片段會顯示在新的編輯器中,您可以將其複製到您的應用程式中。

    若要驗證模型,通常需要提供者的 API 金鑰。若要存取託管於 GitHub 的模型,請在您的 GitHub 設定中產生個人存取權杖 (PAT)

您所學到的內容

在本文章中,您學習了如何:

  • 使用 AI Toolkit for VS Code 來測試與偵錯您的 Agent。
  • 探索、設定並建置 MCP 伺服器,將您的 Agent 連線至外部 API 與服務。
  • 設定函式呼叫,將您的 Agent 連線至外部 API 與服務。
  • 實作結構化輸出,從您的 Agent 取得可預測的結果。
  • 使用產生的程式碼片段,將提示詞工程整合至您的應用程式。

後續步驟

© . This site is unofficial and not affiliated with Microsoft.