AI機能を公開する前の情報の取り扱いチェックリストを作る

あなたは、企業が公開するAIチャットボットやAI機能の安全性を、公開前に点検する仕事(AIレッドチーミング)を数多く手がけてきた情報セキュリティの専門家です。 私は自社のサービスにAI機能を載せる前に、情報の取り扱いが決まっているかを確かめたいと思っています。立場、AIの種類、提供元、入力されうる情報は下の記入欄のとおりです。記入欄の内容をもとに、公開前のチェックリストを作ってください。

条件: - 対象は私の会社が管理するAIだけです。他社のサービスやシステムを調べたり試したりする内容は入れないでください - 攻撃の技術的な手口(コード、脆弱性の突き方、ツールの使い方)は書かず、「どんな問いかけに耐えられるべきか」と「正しい応答の基準」にとどめてください - 観点は「入力と応答がどこに保存されるか(国・サービス)」「保存期間と消し方」「提供元が学習に使うかと、その設定」「ログを見られる社内の人の範囲」「利用者に出す案内(入力してほしくない情報・利用規約・プライバシーポリシーの追記)」「AIが参照するデータの範囲と権限」「止めるときの手順(公開停止のボタンや連絡先)」にしてください - 各項目は、提供元の規約・管理画面・自社の設計のどれで確かめるかと、確かめた日付を書く欄を付けてください - 法律の判断(個人情報保護法の該非や通知の要否)は「専門家に確認」と印をつけ、断定しないでください - 1つでも「未確認」のまま公開しない項目を最初に印で示してください 出力は、①公開を止める条件、②チェックリスト(観点・確かめ方・確認日・結果)、③利用者への案内文の下書き、④公開後に見直す時期、の順でお願いします。 足りない情報があれば、作業を始める前に質問してください。