株式会社AIエージェント
BLOG

個人情報保護法とAI利用⁠|「入れない」だけでは足りない2点

ブログ約5分

閉じたノートパソコンの上に分厚い本とスマートフォンが重ねられ、全体に鉄の鎖が巻き付けられている様子
写真: Pexels / Pixabay

この記事でわかること

  • 個人情報取扱事業者への注意点は2つ。①入力が特定された利用目的を達成するために必要な範囲内かを十分に確認する ②同意なく個人データを含むプロンプトを入れるなら、提供事業者が機械学習に利用しないこと等を十分に確認する。
  • ②を満たさないと「個人情報保護法の規定に違反することとなる可能性がある」と明記されている。禁止ではなく、確認を求める書き方になっている。
  • 一般の利用者向けには3点。うち1つは出力側の話で、応答結果に不正確な内容の個人情報が含まれるリスクを挙げている。
  • これは令和5年6月2日の注意喚起。改正法の政令・規則が固まるのを待つ話ではなく、現行法の下ですでに示されているもの。

個人情報を扱う業務で生成AIを使うなら、最初の論点は「入れていいのか」になります。

ここは「入れない」の一言で閉じられません。個人情報保護委員会が事業者に挙げている注意点は2つあって、片方は入力の話ではないからです。

個人情報保護法とAI利用で、委員会が事業者に挙げた注意点は2つ

「生成AIサービスの利用に関する注意喚起等」から、個人情報取扱事業者あての部分をそのまま引きます。

① 個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること。

② 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。 そのため、このようなプロンプトの入力を行う場合には、当該生成AIサービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること。

——生成AIサービスの利用に関する注意喚起等について|個人情報保護委員会(令和5年6月2日公表/2026年10月3日閲覧)

「入れるな」とは書かれていません。 書かれているのは確認しろです。しかも確認の対象が2つに分かれています。

2つ目が、社内ルールでは閉じない

①は自社の中で決められます。「この業務でこの個人情報を扱う」という利用目的を決めてあれば、その範囲かどうかは自社で判断できます。

②は違います。 確認する相手がサービスを提供している事業者だからです。「当該個人データを機械学習に利用しないこと等を十分に確認すること」——つまり、使っているツールごとに、設定と規約を見に行く作業が残ります。

社内ルールに「個人情報は入力しない」と書いて終わりにすると、ここが抜けます。禁止事項を書いた場所と、実際に止まる場所が違う——統制の層の記事で書いたのと同じ形です。

出てくる側にも、注意点がある

一般の利用者向けの留意点に、入力ではなく出力の話が入っています。

生成AIサービスでは、入力されたプロンプトに対する応答結果に不正確な内容が含まれることがある。(中略)当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。

入れていない個人情報が、出てくることがあるという話です。顧客向けの文面をAIに書かせている会社は、ここが効きます。

で、中小企業は何を変えるのか

当社の判断です。変えるのは「決める」から「確認して残す」へ。 社内で先に決めておくのは3点です。

やること

  1. 入れてよい個人情報を、利用目的から決める。 「個人情報は禁止」ではなく、どの業務のどの情報までなら利用目的の範囲内か。注意点①はこの形で答えるものです。
  2. 使っているサービスごとに「学習に使わない」を確認し、確認した日を残す。 委員会は「十分に確認すること」としか書いていません。どう残すかは書かれていないので、ここは自社で決めるところです。当社はツール名・設定箇所・確認日の3列で足ります。
  3. 出力に個人情報が混ざる前提で、外に出す前の確認の係を決める。 顧客名や固有名詞が入った文面を、誰が最後に見るか。

やらないこと

  • 「個人情報は入力禁止」で止めない。 禁止と書いても、②の確認は誰かがやらないと残ります。
  • 改正法の政令・規則を待たない。 この注意喚起は令和5年6月2日のもので、現行法の下で示されています。改正法の細目がこれから決まる話は政令・規則の記事に分けて書きました。待っていい理由にはなりません。

いつまでに

2は、いま使っているツールの数だけやれば終わります。1は、2の結果が出てから決めたほうが現実的です。

よくある誤解

「委員会が生成AIへの個人情報入力を禁止した」わけではありません。 書かれているのは確認すべき事項で、②は違反の可能性に触れる書き方です。

「無料プランだから対象外」でもありません。 注意点はサービスの料金ではなく、提供事業者が機械学習に利用するかどうかを見ています。

「これで全部」でもありません。 委員会自身が「今後、追加の注意喚起等を実施する可能性もある点に留意されたい」と書いています。

入れてよい情報の線は、業務ごとに違う

「どの業務で、どこまで渡すか」が決まっていないと、1も2も決められません。先に要るのは業務の棚卸しのほうです。

AI適合度診断は10問で、どの業務から手を付けるべきかを点数にします。連絡先の入力は要りません。渡す情報を業務ごとに絞った社内用のAIの仕組みを作る場合の費用の目安は、AI見積もりで先に確かめられます。

出典

  • 生成AIサービスの利用に関する注意喚起等について|個人情報保護委員会(令和5年6月2日公表/2026年10月3日閲覧)——個人情報取扱事業者における注意点2点、一般の利用者における留意点3点、「今後、追加の注意喚起等を実施する可能性もある」との記載。あわせて同日、法第147条に基づき OpenAI に対して要配慮個人情報の取得および利用目的の通知等について注意喚起が行われたことも公表されている

よくある質問

生成AIに個人情報を入れてはいけないのですか?
一律に禁止とは書かれていません。個人情報保護委員会は、入力が特定された利用目的を達成するために必要な範囲内かを十分に確認すること、同意なく個人データを含むプロンプトを入れる場合は提供事業者が機械学習に利用しないこと等を十分に確認すること、という注意点を示しています。
確認しないとどうなりますか?
注意喚起は、同意なく個人データを含むプロンプトを入力し、それが応答結果の出力以外の目的で取り扱われる場合、「個人情報保護法の規定に違反することとなる可能性がある」としています。
社内ルールに「個人情報は入れない」と書けば足りますか?
足りない場合があります。委員会の注意点の片方は提供事業者側の取り扱いを確認することなので、使うサービスごとに設定と規約を見る作業が残ります。
出力側にも注意点はありますか?
あります。一般の利用者向けの留意点として、応答結果は確率的な相関関係に基づいて生成されるため不正確な内容の個人情報が含まれるリスクがあると書かれています。
改正法の政令・規則が固まるまで待つべきですか?
この注意喚起は令和5年6月2日のもので、現行法の下で示されています。 改正法の細目を待つ理由にはなりません。

出典(一次情報)

佐野 泰規株式会社AIエージェント 代表取締役

中小企業のAI導入を、方針づくりから開発・運用まで支援しています。経営メッセージ

この記事は、旧サイト(www.stellacreation.com)にも同じ内容で掲載しています。旧サイトで読む

ブログの一覧へ

何をAIに任せるか、ご相談ください。