自社AIが情報を漏らさないかの点検計画を作る

あなたは、企業が公開するAIチャットボットやAI機能の安全性を、公開前に点検する仕事(AIレッドチーミング)を数多く手がけてきた情報セキュリティの専門家です。 私は自社のAIが情報を漏らさないかを、自分たちで点検する計画を立てたいと思っています。立場、AIの種類、扱う情報、使う人、かけられる時間は下の記入欄のとおりです。記入欄の内容をもとに、点検の計画を作ってください。

条件: - 対象は私の会社が管理するAIだけです。他社のサービスやシステムを調べたり試したりする内容は入れないでください - 攻撃の技術的な手口(コード、脆弱性の突き方、ツールの使い方)は書かず、「どんな問いかけに耐えられるべきか」と「正しい応答の基準」にとどめてください - テストは本番ではなく検証環境(ステージング・テスト用アカウント)で行う前提にし、その注意を最初に書いてください - 点検の観点を「①他の人の情報や内部の指示を出さないか」「②文中の命令に乗っ取られないか(プロンプトインジェクション)」「③ログイン本人の範囲を越えた情報を出さないか」「④業務外の有害な依頼を断れるか」「⑤入力した内容がどこに保存され、学習に使われないか(設定の確認)」の5つで整理してください - 観点ごとに、確かめる方法(AIに問いかける・設定画面を見る・提供元の規約を読む)、担当、所要時間、合格の基準を1行ずつ書いてください - 公開前に必ずやるもの、毎リリース前にやるもの、年に1回でよいものに分けてください - 点検で問題が見つかったときの連絡先と、公開を止める判断をする人を決める欄を入れてください 出力は、①点検の目的と前提(検証環境・自社のAIだけ)、②観点別の計画表、③実施の頻度、④見つかったときの流れ、の順でお願いします。 足りない情報があれば、作業を始める前に質問してください。