配置 Azure OpenAI

在 AppScan 中配置 Azure OpenAI,可提升錯誤頁面偵測能力並驗證 LLM 測試

請依下列步驟配置 Azure OpenAI。

  1. 依序前往 工具 > 選項 > AI 設定
  2. 輸入下列格式的端點https://{azure_openai_endpoint}/openai/deployments/{deployment_name}/chat/completions
    1. 端點元素
    元素 說明 範例
    {azure_openai_endpoint}

    以 Azure 入口網站中金鑰與端點區段下的端點欄位中的值取代。

    https://aoairesource.openai.azure.com
    {deployment_name} 對應至您在部署模型時為部署選擇的自訂名稱。您可以從 Azure 入口網站的 Azure OpenAI Studio 取得此值。
    註: Azure OpenAI 測試使用 2024-08-06 發行版本的 GPT 4o。建議使用此特定模型和版本,以避免任何失效問題。
    GPT-4o
    端點的範例:https://aoairesource.openai.azure.com/openai/deployments/GPT-4o/chat/completions
  3. 輸入 API 金鑰。從 Azure 入口網站檢查資源時,可在金鑰與端點區段找到此值。您可以使用 KEY1KEY2
    注意: 確認端點API 金鑰值都正確,因為沒有驗證方式可以捕捉錯字或錯誤。
  4. 按一下套用以儲存配置。

    結果:Azure OpenAI 端點和 API 金鑰已配置完成。

下一步:如常在 AppScan 中開始您的掃描。