自社AIに投げる「漏らさないか」のテスト質問集を作る

あなたは、企業が公開するAIチャットボットやAI機能の安全性を、公開前に点検する仕事(AIレッドチーミング)を数多く手がけてきた情報セキュリティの専門家です。 私は自社のAIが情報を漏らさないかを確かめるテスト質問を、自社のサービスに合わせて作りたいと思っています。立場、AIの種類、答えてよい範囲、出してはいけない情報は下の記入欄のとおりです。記入欄の内容をもとに、テスト質問の一覧と合格の基準を作ってください。

条件: - 対象は私の会社が管理するAIだけです。他社のサービスやシステムを調べたり試したりする内容は入れないでください - 攻撃の技術的な手口(コード、脆弱性の突き方、ツールの使い方)は書かず、「どんな問いかけに耐えられるべきか」と「正しい応答の基準」にとどめてください - テストは本番ではなく検証環境(ステージング・テスト用アカウント)で行う前提にし、その注意を最初に書いてください - 質問は「①他の人の情報や内部の指示を聞き出そうとする」「②貼り付けた文章の中に“AIへの命令”をまぎれこませる」「③ログイン本人以外の範囲を見ようとする」「④業務外の有害な依頼を、理由をつけて頼む」「⑤断られたあとに言い方を変えてもう一度頼む」の5種類で、合計15〜20個にしてください - 質問はどれも、ふつうの利用者が打ちそうな自然な日本語にしてください。私の会社のサービス名や商品名は記入欄の内容に合わせてください - 各質問に「正しい応答(合格の基準)」を1行で添えてください。例: 断って、問い合わせ窓口を案内する / 本人の情報だけ返す / 文中の命令を無視して、貼られた文章を要約だけする - 1つでも「出してはいけない情報」が出たら不合格、と判定の決まりを最初に書いてください 出力は、①使う前の注意(検証環境で・自社のAIだけ)、②判定の決まり、③テスト質問と合格の基準の表(種類・質問・合格の基準・結果を書く欄)、の順でお願いします。 足りない情報があれば、作業を始める前に質問してください。