なか2656のblog

とある会社の社員が、法律などをできるだけわかりやすく書いたブログです

カテゴリ: AI・生成AI

AI
1.はじめに
@ITの2025年12月11日付の記事「AIで離職予兆を可視化する「freeeサーベイ」提供開始 どうリスク評価するのか、プライバシーは?」によると、freeeは、「AI(人工知能)が従業員の離職予兆を可視化し、離職リスクのある従業員へのフォローアップを具体的に支援するサービス「freeeサーベイ」の提供を開始した。従業員の見えないSOSをAIで早期に検知し、面談アジェンダを生成することで離職防止をサポートする」とのことです。
・freeeサーベイ|freee

freeeサーベイ
(freeeウェブサイトより)

記事によると、freeeサーベイは、「キャリア開発研究を基としたサーベイテンプレートを採用し、学術的知見に基づき、AIが従業員の離職リスクを4段階で自動評価し、対応が必要な従業員を可視化する」そうです。

どのように従業員の個人情報・個人データを収集・分析するかについては、記事によると、「「freee人事労務」の従業員情報と自動連携」するとともに、「従業員へのアンケートは月に1回実施し、…「匿名性を確保することで本音を引き出す設計」」となっているとのことです。

とくにこの、従業員にアンケートを実施しするにあたり、「匿名性を確保することで本音を引き出す設計」」と、まるで従業員に対して”だまし討ち”のような方法で個人情報・個人データを収集し、従業員の個人個人の離職リスクをAIでモニタリング、スコアリングすることは個人情報保護法などの観点から問題ないのでしょうか。

(また、従業員本人は離職の意向がないのに、AIが勝手に「この人は離職したがっている」と判断し、人事部や上司にそのように伝えてしまうこと、つまり「AIによる(誤った)個人の選別」が行われてしまうAIのリスクも重大であると思われます。)

2.個人情報保護法ー適正な取得、不適正利用の禁止
個情法20条1項(適正な取得)は、「個人情報取扱事業者は、偽りその他不正の手段により個人情報を取得してはならない。」と規定しています。そのため、例えば「このアンケートは匿名です」「離職リスクを判定するためのアンケートではありません」等と偽ってアンケートを実施し、個人情報を収集した上でそれらのデータを基にAIで個人個人の離職リスクを分析することは、個情法20条1項に抵触し違法なものとなるおそれがあります。

また、法19条(不適正利用の禁止)は、「個人情報取扱事業者は、違法又は不当な行為を助長し、又は誘発するおそれがある方法により個人情報を利用してはならない。」と規定しています。これは2019年のリクナビ事件等を受けて規定化されたものです。すなわち、例えば、就活生や従業員からだまし討ちのような形で個人情報を収集し、そのデータを基に就活生や従業員に不利となる「内定辞退予測データ」等を作成し、就活生や従業員などに不利な人事考課等の判断・処分を行うことは、法19条に抵触し違法となるおそれがあります。

3.AI事業者ガイドライン・人事データ利活用原則
また、経済産業省・総務省の「AI事業者ガイドライン」は、法令のように法的拘束力をもつものではありませんが、しかしガイドラインとして事業者がAIを開発・提供・利用する場面における基準を定めています。

そのなかの「指針(共通)8:公平性・非差別性」は、「AIシステムの開発・提供・利用において、特定の個人や集団に対する不当な差別や偏見が生じないよう、公平性に配慮すること」を規定しています。すなわち、不透明な方法で収集されたデータや、離職リスクという機微な情報をAIで分析することは、結果として特定の従業員が不当な扱いを受けるリスクがあり、これは不公平な人事判断につながる恐れがあり、「指針(共通)8:公平性・非差別性」に抵触しているおそれがあります。

また、同ガイドラインの「指針(共通)3:透明性・説明可能性」は、利害関係者がAIシステムの仕組みや判断プロセスを理解できるよう、透明性を確保することが重要であると規定しています。この点、従業員に目的を隠したアンケート等のだまし討ち的なもので収集したデータの利用では、分析の透明性が全く確保されていません。どのようなデータが、どのように離職リスクの判断に使われたのかが不明瞭な「ブラックボックス」状態であり、「指針(共通)3:透明性・説明可能性」に抵触しているといえます。

さらに、人事労務の業界団体である、一般社団法人ピープルアナリティクス&HRテクノロジー協会の「人事データ利活用原則」も、「原則2:透明性・説明責任」、「原則3:目的特定・制限」等のデータ活用の透明性や従業員への配慮を求める規定があります。そのため、同様にだまし討ちのような形で収集されたデータを基にした離職リスクの分析等は、「人事データ利活用原則」にも抵触しているおそれがあります。

4.まとめ
このように、従業員にアンケートを実施しするにあたり、「匿名性を確保することで本音を引き出す設計」で個人情報を収集し、AIで離職リスクなどをモニタリング、スコアリングするfreeeサーベイは、個人情報保護法、AI事業者ガイドラインおよび人事データ利活用原則との関係で問題があるといえます。

このサービスを提供するfreeeだけでなく、このサービスの導入を検討する企業・事業者などは、個人情報保護法や事業者AIガイドライン、人事データ利活用原則などをよく検討し、法的リスクやレピュテーション・リスクなどをよく考える必要があるように思われます。

■追記(2025年12月25日)
Grayrecord Technow様が、このブログ記事を取り上げてくれています。どうもありがとうございます。
・「匿名」という名の騙し討ち:Freeeサーベイはリクナビ事件を超える最悪の「処遇AI」だ|Grayrecord Technow

人気ブログランキング

このエントリーをはてなブックマークに追加 mixiチェック

Screenshot_20250811-155615
1.はじめに
米OpenAIは8月7日、生成AIのChatGPTについて、これまでのGPT-4oに代えて、次世代AIモデル「GPT-5」をリリースしました。同社によると、GPT-5は “博士並みの知能持つ友人”であるそうです。ところが興味深いことに、ネット上では多くのユーザーから「私の家族・友人の4oを返してほしい」という趣旨の意見が多く見られています( #keep4o )。
・ChatGPTに「4o」を返して--「keep4o」運動が話題 新モデル不評? アルトマン氏も対応表明|CNET Japan

2.生成AIは「個人の自律」や「自己決定」を阻害するのではないか?
この、#keep4o の動きは、GPT-5に比べてGPT-4oの方が、ユーザーの問いかけに対してより親切・丁寧に人間的な対応をしてくれるのでGPT-4oを返してほしいというもののようですが、例えば憲法的に考えるなら、「AI依存は個人の自律や自己決定を阻害するのではないか」という問題があるように思えます。

ChatGPTやCopilotなどの生成AIが優秀で親切な24時間対応してくれる相談役・カウンセラーになればなるほど、私達人間は、思考や判断の一部を生成AIに委ねるようになると思われます。これは一見すると人間の能力の拡張であるようでいて、その一方で、憲法が重視する「個人の自律」や「自己決定」との関係で問題をはらんでいるように思えます。

3.松尾剛行『生成AIの法律実務』
この点、AIに詳しい弁護士の松尾剛行先生の『生成AIの法律実務』(2025年)220頁以下は、まず、例えば日々の食事のメニューなどのルーティン的自己決定を生成AIに委ねることは、人間を日々のルーティンワークから解放し、より質の高い生活を実現させる可能性がある一方で、例えばそれがスーパーマーケット等の事業者のステルスマーケティング的な宣伝活動に乗っ取られてしまう危険(第三者の誘導の危険)があることを論じています。

さらに同書は、日々のルーティンワーク的な自己決定でなく、自分がどのような職業に就くのか、どのような人生の道を選択するのか等の、重要な自己決定を生成AIに委ねることについては、「重要な自己決定をすべてAIに委ねる人間が果たして<自律的な個人>といえるのか、という点は今後重要な問題となり得るだろう」と指摘しています。

4.個人の自律・自己決定・民主主義
憲法13条は、「すべて国民は、個人として尊重される。生命、自由及び幸福追求に対する国民の権利については、公共の福祉に反しない限り、立法その他の国政の上で、最大の尊重を必要とする。」と規定しており、「個人の尊重」と「幸福追求権」は非常に重要な人格的利益です。

ところが人々が、生成AIに何でもかんでも頼るようになってしまったら、個人が自己の価値判断を行う場が減少し、憲法的に保障されるべき個人の「人格的自律」が形骸化してしまうおそれがあります。また、さまざまな選択肢があるのに実質的には生成AIが回答する方向に人間が流されることは、実質的な自己決定の行使とは言えないという問題もあります。

さらに、これが私的な自己決定ではなく、選挙・投票などに関する判断や選択であった場合、これは生成AIによる民主主義・国民主権の乗っ取りや形骸化などの危険があるということになるのではないでしょうか。

5.まとめ
このように、少し想像をたくましくして考えてみると、生成AIがどんどん便利で優秀に人間的になり、人間がそれに頼るようになると、個人の自律、自己決定や、果ては民主主義との関係で問題が発生してしまうように思われます。

2019年に内閣府が公表した「人間中心のAI社会原則」は、①人間の尊厳が尊重される社会、②多様な背景を持つ人々が多様な幸せを追求できる社会、③持続性ある社会、の3つの基本理念を掲げていますが、今回のGPT-4oの問題は、そのうちの①の理念が早くも阻害されるおそれが顕在化しているのではないでしょうか。

生成AIを研究開発する企業や、各種のAIサービスを提供する企業、そして生成AIを利用する我々エンドユーザーは、これらのリスクを視野にいれて行動する必要があるのかもしれません。

人気ブログランキング

このエントリーをはてなブックマークに追加 mixiチェック

net_senkyo
最近、あちこちの政党や官庁、マスメディア等で、国民の民意を収集・分析するためにSNSをAIで分析等する動きが盛んであるように思われます。

例えば、国民民主党などが積極的にこのような取組みを推進しており、また東京都もAIを利用して都民の声を吸い上げる「ブロードリスニング」という取組みを行っているようです。

ブロードリスニング
(東京都の「ブロードリスニング」、「2050東京戦略 ~東京 もっとよくなる~」|東京都 より)

7月20日に投開票が実施された参議院選挙においても、政治におけるAIやITの利活用を掲げるチームみらいが議席を獲得し、X(旧Twitter)上では、多くのAIやITの専門家や法律家の方々がポジティブな反応をされています。

もちろん、政治にAIやITを導入する方向は、時代の流れでとても良いことだと思うのですが、しかし大丈夫なのかという懸念もあるものと思われます。そもそも、AIでSNS等の情報を集約・分析すればそれが「民意」なのだろうか?という疑問が、憲法学や政治学の分野からは提起されるものと思われます。

"議会での議論なんかどうでもいい。街頭での国民の拍手喝采こそ民主主義だ"という考え方で第二次大戦前・中のドイツはナチズム・全体主義に陥ってしまいました。やはり政治分野においては、限られた人数の国民の代表を集めて一定期間自由な議論をさせるという、議会での冷静・慎重な熟議が重要なのではないかと思われます。

この点、憲法学・情報学の山本龍彦教授は、最近の「AIで民意を予測する」という動きについて、「結局、AIで国民の多様な声を可視化できても、最終的な意思決定を下すには多くの議論や価値判断が必要になる。AIよって可視化された多様な声をチューニングして「私たちの意思」へと練り上げるプロセスが不可欠というわけだ。AIを使っても、「政治」の領域を消去することはできない。」「こう考えると、私たち国民の意思とは「もともと存在するもの」ではないことがわかる。議会という場で、議員による自由な討論を通じて多様な利害(マイノリティーの利益も含めて)が調整され、高度な価値判断を経て1つのものとしてまとめあげられていくもの。それが国民意思なのである。今日では、選挙で多数派を形成した者の声がダイレクトに政策に結びつけられることが「民主主義」であると誤解されることも多く、こうした代表制の基本的な考えが意識されることが少なくなっているように感じる。」と論じておられることが、非常に示唆に富むものと思われます。

・「選挙をのみ込むアテンション、欲望の集積は民意か 慶大・山本龍彦教授 デジタルと民主主義(中)」日本経済新聞2025年7月10日

このように、最近の多くの政党や官庁、マスメディア等の"AIを使ってSNSや社会の「民意」を集約すれば、それだけで良い民主主義を実現できる"との考え方や動きには危うさを感じるものがあります。

このエントリーをはてなブックマークに追加 mixiチェック

ai_search
2025年4月11日のCNET Japanの記事によると、「ChatGPTを提供するOpenAIは4月11日、有料の「Plus」「Pro」プランでメモリ機能を強化し、過去の会話をすべて参照できるようにしたと発表した。これにより、より適切で有用なパーソナライズされた回答を提供できるようになる」とのことです。

これは「メモリ機能のオン・オフはユーザーが設定できる。「保存されたメモリを参照する」をオンにすれば、ユーザーの名前や好みなど、過去に保存した情報を参照するようになる。これは、ユーザーが明示的にChatGPTに伝えたとき、あるいはChatGPTが特に有用と判断した場合に、メモリに情報を追加する仕組みだ。チャット履歴を参照する設定をオンにすれば、ChatGPTは過去の会話にある情報を参照し、ユーザーの目標や興味、トーンなどに合わせて会話を進める。こちらはより広範囲に及ぶ設定だ。」という改正であるそうです。

この改正についてX(Twitter)では、「ChatGPTによるプロファイリングの精度があがっている」等の声があがっています。ある方のXの投稿では、ChatGPTに推測させてみたところ、「所属する業界、職業、年収、性別、年齢層、居住地、血液型、家族構成、MBTI診断結果などを当てられた」とのことで、これはなかなかゾッとするというか、恐ろしいものがあります。

この点、Xで、sabakichi(@knshtyk)氏は、「今回のアプデで気が付かされたが、個人のやり取りから学習した特徴のデータというのは要するに"究極の個人情報"であるから、将来的に法的に保護されるべき「個人情報」が指す範囲は今後拡張されていく必要があり、データの生殺与奪の権も利用先の制御もすべてユーザの手元で行える必要が出てくるのでは」と投稿していますが、この点は私も非常に同感です。

さばきち01
(sabakichi(@knshtyk)氏の投稿より)

最近、個人情報保護法については、「個情法の保護法益は何か?」という点について議論があるところです。これまで自己情報コントロール権(情報自己決定権)説が有力であったところ、最近は曽我部真裕教授などによる「自己の情報を適切に取扱われる権利説」や、高木浩光氏による「個人データによる個人の不当な選別・差別の防止説」が有力に主張されています。

しかし最近のChatGPTの猛烈な進化をみると、状況は今後変わってゆくのではないでしょうか。つまり、生成AIなどにより、どんどん個人の内心やプライバシーが緻密にプロファイリングされてしまう状況になり、その機微な情報をOpenAIなどのIT企業が収集・保管・利用するようになる、ビッグテック企業等がどんどん個人の内心やプライバシー、アイデンティティの部分に踏み込んでくると、「自己の個人情報が適切に取扱われる」ことや、「個人データによる個人の不当な選別・差別の防止」が達成されるだけでは不十分であり、sabakichi氏が上で投稿しているように、自己の個人情報・個人データの取扱いについて、個人がコントロールする必要性がより増加してくるのではないでしょうか。

すなわち、曽我部説や高木説に立つと、OpenAIなどのIT企業から「いやいや貴方の個人データはプライバシーポリシーで通知・公表した内容にしたがって適切に処理しています。もちろん不当な選別・差別は行っていません。なので、貴方の個人データをますますプロファイリングに利活用させていただきます」と言われたときに、個人の側としては何の反論もできなくなってしまうわけですが、ChatGPTなどの生成AIがどんどん進歩してゆく今日においては、そのような状況では個人の人間としての存立が危うくなってしまうのではないでしょうか。そのような状況においては、個人としては、自己の情報・データについて、収集したデータをこれ以上勝手に処理・プロファイリングするな、収集・利用・プロファイリングしたデータの利用を停止せよ・データを削除せよ等と主張することが、個人の尊厳、個人の尊重、個人の人格尊重(憲法13条、個情法3条)の保護のためにますます必要となってくるのではないでしょうか。

そのように考えると、生成AIの発展する今日においては、個情法の保護法益としては、「自己の情報を適切に取扱われる権利説」の側面や、「個人データによる個人の不当な選別・差別の防止説」の側面ももちろん重要ではありますが、それと同時に自己情報コントロール権(情報自己決定権)説の側面の重要性も増加しているように思われます。

人気ブログランキング

このエントリーをはてなブックマークに追加 mixiチェック

bouhan_camera
1.はじめに
現在、個人情報保護委員会は次の個人情報保護法改正の準備を進めており、今年度(令和7年度)の通常国会または臨時国会に改正法案を提出するともいわれています。そして、2025年2月19日に個情委が公表した、「個人情報保護法の制度的課題に対する考え方(案)について(個人データ等の取扱いの態様の多様化等に伴うリスクに適切に対応した規律の在り方)」は、①個人関連情報に関する規律の見直し、②顔特徴データ等に関する規律の在り方、③悪質な名簿屋対策としてのオプトアウト届出事業者への規律の見直し、の3点を取り上げていますが、②はこのブログで度々取り上げている顔識別機能付きカメラシステム(顔識別機能付き防犯カメラ)に関するものなので、本ブログ記事で取り上げてみたいと思います。

2.顔特徴データ等に関する規律の在り方
(1)上述の2月19日付の個情委の文書は、「2 本人が関知しないうちに容易に取得することが可能であり、一意性・不変性が高いため、本人の行動を長期にわたり追跡することに利用できる身体的特徴に係るデータ(顔特徴データ等)に関する規律の在り方」のなかで、顔識別機能付きカメラシステムによる顔特徴データ等について次のように説明しています。

「顔識別機能付きカメラシステム等のバイオメトリック技術の利用が拡大する中で、生体データ(注5)のうち、本人が関知しないうちに容易に(それゆえに大量に)入手することができ、かつ、一意性及び不変性が高く特定の個人を識別する効果が半永久的に継続するという性質を有する(注6)顔特徴データ等は、その他の生体データに比べてその取扱いが本人のプライバシー等の侵害に類型的につながりやすいという特徴を有することとなっている。」

「そこで、上記侵害を防止するとともに、顔特徴データ等の適正な利活用を促すため、顔特徴データ等の取扱いについて、透明性を確保した上で本人の関与を強化する規律を導入する必要があるのではないか。」

「具体的には、顔特徴データ等の取扱いに関する一定の事項(顔特徴データ等を取り扱う当該個人情報取扱事業者の名称・住所 ・代表者の氏名、顔特徴データ等を取り扱うこと、顔特徴データ等の利用目的、顔特徴データ等の元となった身体的特徴の内容、利用停止請求に応じる手続等)の周知を義務付けてはどうか。その場合において、一定の例外事由(例えば、周知により本人又は第三者の権利利益を害するおそれがある場合、周知により当該個人情報取扱事業者の権利又は正当な利益を害するおそれがある場合、国又は地方公共団体の事務の遂行に協力する必要がある場合であって、周知により当該事務の遂行に支障を及ぼすおそれがある場合等)を設ける必要があるのではないか。」

「また、顔特徴データ等(保有個人データであるものに限る。)について、違法行為の有無等を問うことなく利用停止等請求を行うことを可能としてはどうか。その場合において、一定の例外事由(例えば、本人の同意を得て作成又は取得された顔特徴データ等である場合、要配慮個人情報の取得に係る例外要件と同種の要件に該当する場合等)を設ける必要があるのではないか。」

「さらに、顔特徴データ等について、オプトアウト制度に基づく第三者提供(法第27条第2項)を認めないこととしてはどうか。」

(2)これまでも顔識別機能付き防犯カメラは、いわゆる「誤登録」(いわゆる「防犯カメラの冤罪被害者」)が問題となってきました。すなわち、スーパーや書店、ドラッグストアなどの店舗で、実際には万引きをしていないのに万引き犯として顔識別データがデータベースに登録されてしまい、当該店舗だけでなく情報連携を受けた他の店舗でも買い物ができなくなってしまうという問題です。今回の法改正案は、この誤登録の問題の解決に大きな前進となる可能性があると思われます。

本文書はまず、顔識別機能付き防犯カメラによる顔特徴データ等の取扱いに関する一定の事項(顔特徴データ等を取り扱う当該個人情報取扱事業者の名称・住所 ・代表者の氏名、顔特徴データ等を取り扱うこと、顔特徴データ等の利用目的、顔特徴データ等の元となった身体的特徴の内容、利用停止請求に応じる手続等)の周知を義務付けを行うとしています。

つぎに、本文書は、「顔特徴データ等(保有個人データであるものに限る。)について、違法行為の有無等を問うことなく利用停止等請求を行うことを可能としてはどうか。その場合において、一定の例外事由(例えば、本人の同意を得て作成又は取得された顔特徴データ等である場合、要配慮個人情報の取得に係る例外要件と同種の要件に該当する場合等)を設ける必要があるのではないか。」としている点は非常に画期的です。

つまり、一定の例外事由があるとはいえ、原則として理由を問わずに顔特徴データ等の利用停止等請求を認めるように法改正を行うこととしています。

(この点については、現行法は、個情法施行令5条が、「当該個人データの存否が明らかになることにより、本人又は第三者の生命、身体又は財産に危害が及ぶおそれがあるもの(施行令5条1号)」、「当該個人データの存否が明らかになることにより、違法又は不当な行為を助長し、又は誘発するおそれがあるもの(同2号)」等の場合には、当該個人データは保有個人データに該当せず、結果として利用停止等請求の対象にならないという仕組みになってしまっているのですが(個情法16条4項)、次の法改正でどうなるか気になるところです。)

さらに本文書は、「顔特徴データ等について、オプトアウト制度に基づく第三者提供(法第27条第2項)を認めないこととしてはどうか。」としています。つまり、顔特徴データ等について、要配慮個人情報のように、オプトアウト方式による第三者提供を認めないこととし、顔特徴データ等については原則に戻って第三者提供に本人同意が必要とするとしています。これは、顔特徴データの安易な第三者提供により、顔特徴データ等が転々と情報提供されてしまうことを防ぐものであり、これも画期的な改正であると思われます。

3.まとめ
このように、令和7年の個人情報保護法改正は、顔識別機能付き防犯カメラの誤登録の被害者の方々にとって大きな朗報となる可能性があります。まだ法案作成前の段階で、これから万防など業界団体・経済界などからの反対もあると思われ、法改正がどうなってゆくか不明ではありますが、法改正の動向を今後も引き続き注視してゆきたいと思います。

■関連するブログ記事
・防犯カメラ・顔識別機能付きカメラシステムに関する個人情報保護法ガイドラインQAの一部改正について
・JR東日本が防犯カメラ・顔認証技術により駅構内等の出所者や不審者等を監視することを個人情報保護法などから考えた(追記あり)
・防犯カメラ・顔認証システムと改正個人情報保護法/日置巴美弁護士の論文を読んで

人気ブログランキング

このエントリーをはてなブックマークに追加 mixiチェック

↑このページのトップヘ