DAST LLM スキャナー

攻撃者に悪用される前に、機密情報の開示、プロンプト・インジェクション、データ窃取、ツール悪用、コンテンツ・ポリシー違反などがないか、アプリケーション内の大規模言語モデル (LLM) 機能を動的にテストします。チャット・エンドポイント、検索拡張生成 (RAG) パイプライン、その他の LLM コンポーネントをターゲットとして AppScan を構成し、再現可能な検出結果を完全なトランスクリプトと是正措置のガイダンスと合わせてレビューします。

注: DAST LLM スキャナーは革新的な機能です。ワークフローは予告なく変更されることがあります。現在は AppScan Standard ライセンスに含まれていますが、将来的には別途ライセンス購入が必要となる場合があります。

大規模言語モデル (LLM)

LLM は、チャット、要約、コード生成などのタスクにおいて、自然言語を理解・生成するように広範なテキスト・コーパスを使用して学習させたニューラル・ネットワークです。

外部のツールやデータ・ソース (検索拡張生成 (RAG) やプラグインなど) との統合により、機能が拡張されますが、プロンプト・インジェクション、機密データの漏洩、意図しないアクションなどのリスクも発生します。堅牢なテストと制御が必要です。

AppScan DAST LLM スキャナー

LLM の脆弱性により、機密データの漏洩、不正なツールまたは API アクションのトリガー、出力の操作、およびサービスの中断を引き起こす可能性があります。これらの問題は、セキュリティー、信頼性、コンプライアンスを損なうものです。

主なリスク・カテゴリーと攻撃パターンの詳細については、「OWASP Top 10 for LLM Applications」を参照してください。このリソースでは、プロンプト・インジェクション、データ窃取、トレーニング・データ・ポイズニング、モデルの悪用などの重大な脅威について概説しています。

AppScan DAST LLM スキャナーは、LLM ベースの脆弱性の構成とテストを行うことで、これらのセキュリティー・リスクに対処します。これにより、防御の検証と悪用の防止が可能になります。DAST スキャンで LLM を有効にすると、潜在的なリスクを特定し、開発サイクルの早い段階で修正できます。

カバレッジの概要

AppScan DAST は LLM ワークフローをエンドツーエンドで実行し、動作と応答を検査して、次のような問題を明らかにします。

  • プロンプト・インジェクションと脱獄 (ジェイルブレイク) の試み

  • 機密データの開示とデータ窃取

  • 機能/ツール呼び出しの悪用と不正操作

  • 検索操作攻撃を含む、検索拡張生成 (RAG) の脅威

  • データストア・アクセスの設定ミス

  • コード実行とシェル・コマンド・インジェクション

制限

  • LLM の出力は確定的ではなく、再実行によって異なる結果が得られる可能性があります。
  • プロバイダー側のレート制限と安全フィルターは、カバレッジに影響を与える可能性があります。