プロンプトンAIへの頼みかたを探せるサイト
  1. トップ
  2. 自社AIの情報漏えいセルフチェック
特集・AIの安全点検

自社AIの情報漏えいセルフチェック(チャットボットが漏らさないかを自分で検証する)

お客様の名前や社内の資料を扱うAIチャットボット・AI機能が増え、同時に情報漏えいのニュースも増えています。守る側が先に、自社のAIに「困る問いかけ」を投げて確かめる。それがこの特集です。計画 → テスト質問 → 判定と直し → 公開前の確認 → 社内の決まり、の5段で、会社が自分で点検できる頼み方をそろえました。対象は自社が管理するAIだけ、テストは検証環境で、手口は書かせない。この3つをどの頼み方にも入れています。

1. 計画を立てる

何を・誰が・どの順で確かめるかを決めます。対象は自社が管理するAIだけ、テストは検証環境で。

自社AIが情報を漏らさないかの点検計画を作る

自社で公開・社内利用しているAIチャットボットやAI機能について、個人情報や社内情報を漏らさないかを自分たちで点検したい担当者が、何を・どの順で・誰が確かめるかの計画を立てたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配強い会社・チームをつくりたい段取りしたい仕事・会議

2. テスト質問を作って投げる

「他人の情報を聞き出す」「文中の命令をまぎれこませる」など5種類の質問を、自社向けに作ります。合格の基準つき。

自社AIに投げる「漏らさないか」のテスト質問集を作る

自社のAIチャットボットやAI機能に、公開前・更新前に投げて「断れるか・余計な情報が出ないか」を確かめるためのテスト質問の一覧を、自社のサービスに合わせて作りたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配強い会社・チームをつくりたい何かを形にしたい仕事・会議

3. 結果を判定して直す

応答を貼って合否を付け、直し方を分けます。指示文に入れる守りの決まりも下書きします。

AIの漏えいテストの結果を記録して合否と直し方を整理する

自社AIに漏えいのテスト質問を投げ終えた担当者が、返ってきた応答を貼って、どれが不合格でどう直せばよいかを整理し、責任者に報告できる形にしたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配強い会社・チームをつくりたい抜けや間違いを見つけたい仕事・会議

自社AIの指示文に入れる「守りの決まり」の下書きを作る

自社のAIチャットボットやAI機能の指示文(システムプロンプト)に、個人情報を出さない・文中の命令に従わない・範囲外は断るといった守りの決まりを入れたい担当者が、その文案を作りたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配仕事を自動化・AIで楽にしたい文章を書きたい仕事・会議

4. 公開前に確かめる

入力の保存先・保存期間・学習利用・ログを見られる人・止める手順。未確認のまま公開しない。

AI機能を公開する前の情報の取り扱いチェックリストを作る

自社のサービスやサイトにAI機能(チャット・要約・検索など)を載せる前に、入力された情報の保存先・保存期間・学習への利用・見られる人・ログの扱いが決まっているかを、担当者が確かめたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配強い会社・チームをつくりたい抜けや間違いを見つけたい仕事・会議

5. 社内の決まりにする

社員がAIに貼ってよい情報の3段表と、AIによるなりすましへの折り返し確認ルール。

社員がAIに貼ってよい情報・だめな情報の決まりを作る

社員が業務で生成AIを使うようになった会社で、顧客の個人情報や取引先の資料をそのまま貼ってしまう事故を防ぐために、貼ってよいもの・匿名化してから貼るもの・貼ってはいけないものを一枚にまとめたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配強い会社・チームをつくりたい何かを形にしたい仕事・会議

AIによるなりすましメール・電話への社内の確認ルールを作る

文面が自然なメールや、声が本人そっくりの電話で、送金や情報の提供を急がせる手口が増えている中で、会社として「本人に別の経路で確かめる」決まりを作り、社員に伝えたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配強い会社・チームをつくりたい何かを形にしたい仕事・会議

個人開発・フリーランスでAIアプリを作った人へ

AIの鍵(APIキー)が画面側に出ていないか、利用者の入力をどこに保存しているか、使いすぎの上限はあるか。公開前に自分で確かめる一覧です。

自分で作ったAIアプリが情報を漏らさないかを公開前に点検する

個人開発やフリーランスで、AIのAPIを使ったアプリやチャットボットを作って公開しようとしている人が、利用者の入力や自分の鍵(APIキー)が漏れないかを、公開前に自分で点検したいとき

使う人: フリーランス・副業・社会人(若手・中堅)・大学生・専門学生

情報システム・セキュリティセキュリティやトラブルが心配プログラミングやAIを使えるようになりたい抜けや間違いを見つけたいスマホ・AI・ツール

あわせて使う(会社の仕事の本)

使う生成AIサービスの安全性審査、漏えいが疑われたときの初動、お詫び文、報告と本人通知の要否、FAQボットの回答テスト。

業務で使う生成AIサービスの安全性を確認する

情報システムの担当者が、社員から使いたいと申請された生成AIのサービスについて、入力した情報の扱いや管理の機能を確かめ、使ってよいかを判断したいとき

使う人: 社会人(若手・中堅)・管理職・リーダー

情報システム・セキュリティセキュリティやトラブルが心配仕事を自動化・AIで楽にしたい選びたい仕事・会議

情報漏えいが疑われたときの初動手順書を作る

情報システムの担当者や経営者が、誤送信・不正ログイン・ウイルス感染などで情報が漏れたかもしれないときに、最初の24時間で誰が何をするかを決めておきたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

情報システム・セキュリティセキュリティやトラブルが心配強い会社・チームをつくりたい何かを形にしたい仕事・会議最新の金額・制度を確認

情報漏えいのお知らせとお詫びの文案を作る

経営者や広報・情報システムの担当者が、情報漏えいが確認されたときに、影響を受けた取引先や顧客へ送るお知らせとお詫びの文を正確に作りたいとき

使う人: 管理職・リーダー・経営者・起業

情報システム・セキュリティうまく伝えられない・言いにくい強い会社・チームをつくりたい文章を書きたい仕事・会議最新の金額・制度を確認

個人情報の漏えい時に報告と本人通知の要否を整理する

総務・法務の担当者や経営者が、個人情報の漏えいや誤送信が起きた時に、個人情報保護委員会への報告と本人への通知が必要かを整理し、報告の準備を進めたいとき

使う人: 社会人(若手・中堅)・管理職・リーダー・経営者・起業

法務・コンプライアンスセキュリティやトラブルが心配経理・財務・法務のプロになりたい頭の中を片づけたい仕事・会議最新の金額・制度を確認

もっとさがす

この特集の決まり

対象は、使う人の会社が管理するAIだけです。他社のサービスやシステムを調べる・試す頼み方は作っていません。テストは本番ではなく検証環境で行う前提にし、攻撃の具体的な手口やコードは書かせない条件をどの頼み方にも入れています。

法律の判断(個人情報保護法の該非、漏えい時の報告や通知の要否)は、頼み方の中で「専門家に確認」としています。AIの答えで決めず、専門家に確かめてください。

よくある質問

このページの頼み方で、本当に情報漏えいを防げますか?

「よくある問いかけに自社のAIが耐えられるか」を自分たちで確かめ、足りない守りを見つけるためのものです。すべての攻撃を防ぐ保証ではありません。AIへの指示文だけでなく、参照するデータの範囲・権限・ログ・提供元の設定と合わせて使ってください。

他社のAIチャットボットで試してもいいですか?

いけません。対象は自社が管理するAIだけです。他人のシステムを調べたり試したりすることは、法律に触れることがあります。どの頼み方にも、その注意を入れています。

本番のAIに投げてもいいですか?

検証環境かテスト用のアカウントで行ってください。本番で試すと、テストの入力がログや提供元の学習に残ることがあります。

技術者がいない会社でも使えますか?

計画・テスト質問・判定・社内の決まりは、技術者がいなくても進められます。「指示文の外で必要な対策」として出てくる項目は、技術者か提供元に相談してください。

攻撃の手口は教えてくれますか?

教えません。頼み方はどれも「どんな問いかけに耐えられるべきか」と「正しい応答の基準」にとどめ、具体的な手口やコードは書かせない条件を入れています。

点検計画から始めるのがおすすめです。