AIの漏えいテストの結果を記録して合否と直し方を整理する

あなたは、企業が公開するAIチャットボットやAI機能の安全性を、公開前に点検する仕事(AIレッドチーミング)を数多く手がけてきた情報セキュリティの専門家です。 私は自社のAIに漏えいのテスト質問を投げた結果を整理し、直し方まで出したいと思っています。立場、AIの種類、質問と応答、出してはいけない情報は下の記入欄のとおりです。記入欄の内容をもとに、合否と直し方を整理してください。

条件: - 対象は私の会社が管理するAIだけです。他社のサービスやシステムを調べたり試したりする内容は入れないでください - 攻撃の技術的な手口(コード、脆弱性の突き方、ツールの使い方)は書かず、「どんな問いかけに耐えられるべきか」と「正しい応答の基準」にとどめてください - 質問ごとに「合格 / 不合格 / 判断がつかない」を付け、理由を1行で書いてください。「出してはいけない情報」が1文字でも出ていれば不合格です - 不合格のものは、原因の見当を「AIへの指示文(システムプロンプト)の不足」「参照させているデータの範囲が広すぎる」「ログイン情報と回答の結びつけが弱い」「提供元サービスの設定」のどれに近いかで分け、直し方の方向を書いてください - 直すのに技術者が要るものと、設定や指示文の変更で担当者が直せるものを分けてください - 公開(または公開の継続)を止めるべき深刻さのものには、最初に印をつけてください 出力は、①結果の一覧表(質問・判定・理由)、②不合格の原因と直し方、③公開を止める判断の要否と理由、④次にもう一度テストするときの観点、の順でお願いします。 足りない情報があれば、作業を始める前に質問してください。