ここまで機密データとコンテンツモデレーションを扱ってきました。プラットフォームにはもう 1 つ、 エンドポイント保護ではない部分があります。それが自社開発アプリケーション向けの AI ファイアウォール(AI Firewall for Homegrown Applications)です。
左側のメニューから「Homegrown Applications」を選択してください。デフォルトのポリシーを使用し、プレイグラウンドでテストしてください。 ここではポリシーの調整は行いません。
演習 4.1 - ジェイルブレイク / プロンプトインジェクション保護
これは通常 API 連携で利用しますが、テストには同じプレイグラウンドが使えます。内部モードからの応答は無視してください。 ここではユーザー入力のみをテストします。
Prompt Injection/Jailbreak は、Employee モジュールでは利用できない新しい保護機能であることに注目してください。
公開データセットや 自分の創造力を使って、この保護機能をテストしてください。プレイグラウンドの「虫(bug)」アイコンの下にサンプルがいくつか用意されています。
