なか2656のblog

とある会社の社員が、法律などをできるだけわかりやすく書いたブログです

タグ:山本龍彦

小泉氏
(小泉進次郎氏のXアカウントより)

1.はじめに
週刊文春、朝日新聞などによると、自民党総裁選(10月4日投開票)に立候補している小泉進次郎農林水産相(44)の陣営が、インターネット上の動画(ニコニコ動画等)に小泉氏に好意的なコメントを書き込むよう陣営関係者らに依頼したとする報道について、小泉氏は26日の閣議後の記者会見で事実関係を認めた。他候補への批判とも取れる内容もあったとのことです。
【小泉陣営も事実認める】小泉進次郎陣営が「ニコニコ動画」で“ステマ指示” 「石破さんを説得できたのスゴい」など24のコメント例、高市氏への中傷も…|文春オンライン
小泉氏陣営、他候補中傷含む書き込み依頼 週刊誌報道、事実関係認める|朝日新聞

2.ケンブリッジ・アナリティカ事件
この小泉氏の事件で連想するのは、2016年のケンブリッジ・アナリティカ事件です。Facebook上の8700万件の個人情報を収集した選挙コンサルタント会社のケンブリッジ・アナリティカ社が、それらの個人情報を分析し、例えば「〇〇支持者でネット上の情報に流されやすい性格の人」等と予測された者に集中的にフェイクニュースを投入し、個人の投票行動を操作した事件です。同社の投票行動操作は、2016年のアメリカ大統領選、イギリスのブレグジットの国民投票に利用されました。

このような個人の投票行動のコントロールは、「選挙の公正」という民主主義の基本原則を危険にさらすものであり、非常に不適切です(山本龍彦「AIと憲法問題」『AIと憲法』26頁)。

3.小泉氏の事件を考える
ネット上の意見をみていると、「「誰々を応援する投稿を動画サイトのコメント欄に書き込もう」等の呼びかけは最近の社会一般では広く行われているのであるから、一体何が問題なのか?」という意見もあるようです。

しかし、小泉氏は大臣であり国会議員という強い権力を持つ社会的に地位にあります。また、自民党総裁選挙は政党内の選挙ではありますが、自民党の総裁は内閣総理大臣としてわが国の行政の長となるのが通例なのですから、自民党総裁選における候補者の振る舞いは、国政選挙に準じて考えられるべきなのでしょうか。

すなわち、自民党総裁選挙は、民主主義の基本原則である「選挙の公正」が強く要請されるものであり、今回の小泉氏陣営の行為は民主主義の基本原則である「選挙の公正」の観点から非常に不適切といえるのではないでしょうか。

人気ブログランキング

このエントリーをはてなブックマークに追加 mixiチェック

net_senkyo
最近、あちこちの政党や官庁、マスメディア等で、国民の民意を収集・分析するためにSNSをAIで分析等する動きが盛んであるように思われます。

例えば、国民民主党などが積極的にこのような取組みを推進しており、また東京都もAIを利用して都民の声を吸い上げる「ブロードリスニング」という取組みを行っているようです。

ブロードリスニング
(東京都の「ブロードリスニング」、「2050東京戦略 ~東京 もっとよくなる~」|東京都 より)

7月20日に投開票が実施された参議院選挙においても、政治におけるAIやITの利活用を掲げるチームみらいが議席を獲得し、X(旧Twitter)上では、多くのAIやITの専門家や法律家の方々がポジティブな反応をされています。

もちろん、政治にAIやITを導入する方向は、時代の流れでとても良いことだと思うのですが、しかし大丈夫なのかという懸念もあるものと思われます。そもそも、AIでSNS等の情報を集約・分析すればそれが「民意」なのだろうか?という疑問が、憲法学や政治学の分野からは提起されるものと思われます。

"議会での議論なんかどうでもいい。街頭での国民の拍手喝采こそ民主主義だ"という考え方で第二次大戦前・中のドイツはナチズム・全体主義に陥ってしまいました。やはり政治分野においては、限られた人数の国民の代表を集めて一定期間自由な議論をさせるという、議会での冷静・慎重な熟議が重要なのではないかと思われます。

この点、憲法学・情報学の山本龍彦教授は、最近の「AIで民意を予測する」という動きについて、「結局、AIで国民の多様な声を可視化できても、最終的な意思決定を下すには多くの議論や価値判断が必要になる。AIよって可視化された多様な声をチューニングして「私たちの意思」へと練り上げるプロセスが不可欠というわけだ。AIを使っても、「政治」の領域を消去することはできない。」「こう考えると、私たち国民の意思とは「もともと存在するもの」ではないことがわかる。議会という場で、議員による自由な討論を通じて多様な利害(マイノリティーの利益も含めて)が調整され、高度な価値判断を経て1つのものとしてまとめあげられていくもの。それが国民意思なのである。今日では、選挙で多数派を形成した者の声がダイレクトに政策に結びつけられることが「民主主義」であると誤解されることも多く、こうした代表制の基本的な考えが意識されることが少なくなっているように感じる。」と論じておられることが、非常に示唆に富むものと思われます。

・「選挙をのみ込むアテンション、欲望の集積は民意か 慶大・山本龍彦教授 デジタルと民主主義(中)」日本経済新聞2025年7月10日

このように、最近の多くの政党や官庁、マスメディア等の"AIを使ってSNSや社会の「民意」を集約すれば、それだけで良い民主主義を実現できる"との考え方や動きには危うさを感じるものがあります。

このエントリーをはてなブックマークに追加 mixiチェック

ai_search
2025年4月11日のCNET Japanの記事によると、「ChatGPTを提供するOpenAIは4月11日、有料の「Plus」「Pro」プランでメモリ機能を強化し、過去の会話をすべて参照できるようにしたと発表した。これにより、より適切で有用なパーソナライズされた回答を提供できるようになる」とのことです。

これは「メモリ機能のオン・オフはユーザーが設定できる。「保存されたメモリを参照する」をオンにすれば、ユーザーの名前や好みなど、過去に保存した情報を参照するようになる。これは、ユーザーが明示的にChatGPTに伝えたとき、あるいはChatGPTが特に有用と判断した場合に、メモリに情報を追加する仕組みだ。チャット履歴を参照する設定をオンにすれば、ChatGPTは過去の会話にある情報を参照し、ユーザーの目標や興味、トーンなどに合わせて会話を進める。こちらはより広範囲に及ぶ設定だ。」という改正であるそうです。

この改正についてX(Twitter)では、「ChatGPTによるプロファイリングの精度があがっている」等の声があがっています。ある方のXの投稿では、ChatGPTに推測させてみたところ、「所属する業界、職業、年収、性別、年齢層、居住地、血液型、家族構成、MBTI診断結果などを当てられた」とのことで、これはなかなかゾッとするというか、恐ろしいものがあります。

この点、Xで、sabakichi(@knshtyk)氏は、「今回のアプデで気が付かされたが、個人のやり取りから学習した特徴のデータというのは要するに"究極の個人情報"であるから、将来的に法的に保護されるべき「個人情報」が指す範囲は今後拡張されていく必要があり、データの生殺与奪の権も利用先の制御もすべてユーザの手元で行える必要が出てくるのでは」と投稿していますが、この点は私も非常に同感です。

さばきち01
(sabakichi(@knshtyk)氏の投稿より)

最近、個人情報保護法については、「個情法の保護法益は何か?」という点について議論があるところです。これまで自己情報コントロール権(情報自己決定権)説が有力であったところ、最近は曽我部真裕教授などによる「自己の情報を適切に取扱われる権利説」や、高木浩光氏による「個人データによる個人の不当な選別・差別の防止説」が有力に主張されています。

しかし最近のChatGPTの猛烈な進化をみると、状況は今後変わってゆくのではないでしょうか。つまり、生成AIなどにより、どんどん個人の内心やプライバシーが緻密にプロファイリングされてしまう状況になり、その機微な情報をOpenAIなどのIT企業が収集・保管・利用するようになる、ビッグテック企業等がどんどん個人の内心やプライバシー、アイデンティティの部分に踏み込んでくると、「自己の個人情報が適切に取扱われる」ことや、「個人データによる個人の不当な選別・差別の防止」が達成されるだけでは不十分であり、sabakichi氏が上で投稿しているように、自己の個人情報・個人データの取扱いについて、個人がコントロールする必要性がより増加してくるのではないでしょうか。

すなわち、曽我部説や高木説に立つと、OpenAIなどのIT企業から「いやいや貴方の個人データはプライバシーポリシーで通知・公表した内容にしたがって適切に処理しています。もちろん不当な選別・差別は行っていません。なので、貴方の個人データをますますプロファイリングに利活用させていただきます」と言われたときに、個人の側としては何の反論もできなくなってしまうわけですが、ChatGPTなどの生成AIがどんどん進歩してゆく今日においては、そのような状況では個人の人間としての存立が危うくなってしまうのではないでしょうか。そのような状況においては、個人としては、自己の情報・データについて、収集したデータをこれ以上勝手に処理・プロファイリングするな、収集・利用・プロファイリングしたデータの利用を停止せよ・データを削除せよ等と主張することが、個人の尊厳、個人の尊重、個人の人格尊重(憲法13条、個情法3条)の保護のためにますます必要となってくるのではないでしょうか。

そのように考えると、生成AIの発展する今日においては、個情法の保護法益としては、「自己の情報を適切に取扱われる権利説」の側面や、「個人データによる個人の不当な選別・差別の防止説」の側面ももちろん重要ではありますが、それと同時に自己情報コントロール権(情報自己決定権)説の側面の重要性も増加しているように思われます。

人気ブログランキング

このエントリーをはてなブックマークに追加 mixiチェック

smartphone
山本龍彦先生の『アテンション・エコノミーのジレンマ <関心>を奪い合う世界に未来はあるか』(2024年8月)を購入し、さっそく山本先生と森亮二先生との対談の個人情報保護法制に関する部分を読みました。

ケンブリッジ・アナリティカ事件、リクナビ事件等のあとの、最近の生成AIの発達・普及をうけて、広告業界やプラットフォーム業界、世界や日本の個人情報はどうなってゆくのかという点が非常に興味深いと感じました。(これまでますます力を強めてきたGoogleが、chatGPT等の普及による”検索をしない世界”の到来に大いに慌てているのではないかという予測等など。)

また、日本の個人情報保護法がプロファイリングについてほとんど規制を設けていないことはやはり大問題であること、「個人を特定できるか」が重要なのではなく、事業者などが「個人の認知システムにどれだけ働きかけるか」が重要なのであることは本当にその通りだと思いました。

さらに、デジタル社会において「個人の自律性・主体性」を回復するためにはやはり自己情報コントロール権や情報自己決定権の考え方が重要だと感じました。

高木浩光氏や鈴木正朝教授などの「関係のない情報による自動処理・決定・差別の防止」の考え方ももちろん重要ですが、「関係のない情報による自動処理・決定・差別の防止」の考え方では個人の自律性・主体性の回復、もっと言えば憲法や法律学が核心の価値として掲げる、個人の尊重や個人の基本的人権の確立の価値は導き出せないように思いました。

人気ブログランキング

PR
このエントリーをはてなブックマークに追加 mixiチェック

20240717_163729
1.はじめに
2024年7月17日に一橋講堂で開催された、MyData Japan 2024の「George's Bar ~個人情報保護法3年ごと見直しに向けて~」を聴講したので、備忘録のメモをまとめたいと思います。(なお、間違いや漏れなどがありましたら私の責任です。)

2.加藤絵美先生(一般社団法人Consumer Rights Japan 理事長)の発表
・もともと個人情報保護法制は消費者庁の管轄であったが、消費者契約法2条3項が「消費者契約」の定義を置いているように、消費者団体の活動は、主に有償契約を念頭において行われており、個人情報保護への取組みは遅れている面があった。
・個人情報保護法の3年ごと見直しについて、経済界から課徴金と団体訴訟について「経済活動を萎縮させる」との批判が出ていることについては疑問に考えている。厳しい法律を守る企業が企業価値を高めて消費者から信頼されて成長できるのであるから、「萎縮」させるとの批判は当たらないと考えている。
・「プロ」の企業に対して消費者は「もっとも典型的な素人」である。

3.森亮二先生(英知法律事務所・弁護士)の発表
・個人情報保護法の3年ごと見直しの中間整理が発表されたので、それについていくつか述べたい。
・生体データの保護については概ね賛同。要配慮個人情報として取得には本人同意を必要とすべきである。
・Cookie、端末IDなどの個人関連情報については、個人データに含まれるものとして、安全管理措置等により保護がなされるべきである。
・団体訴訟について産業界から大きな批判が出ているが、団体訴訟による損害賠償は結果責任ではなく安全管理措置を尽くしていなかったという過失責任なのであるから、産業界が大きく批判することは当たらないと考える。
・また団体訴訟の差止については、違法行為が差止の対象となるだけなのであるから「萎縮」は問題とならない。それとも企業側は違法行為をやりたいと考えているのであろうか。
・課徴金制度については、破産者マップ事件などのように刑事司法がうまく機能していない事例があり、そのような事例へのよい対策となるのではないか。
・日本はプロファイリングへの法規制が少ない「プロファイリング天国」であり、プロファイリングへの法規制がなされるべき。プロファイリングによる要配慮個人情報の推知も、要配慮個人情報の取得として本人同意が必要とされるべき。中間整理ではプロファイリングが「その他」の部分に「引き続き検討」という趣旨で書かれているのは残念。

4.山本龍彦先生(慶応義塾大学教授)の発表
本年6月3日の個人情報保護委員会の有識者ヒアリングの際の資料をもとに発表したい。
・2016年のケンブリッジ・アナリティカ事件、最近のイスラエルの軍事AI「ラベンダー」など、プロファイリングの問題は個人情報保護の本丸である。
・個人情報保護法20条2項は要配慮個人情報の取得については本人同意を必要としているが、プロファイリングによる要配慮個人情報の「推知」、すなわち要配慮個人情報の迂回的取得は法規制が存在しない。これでは本人同意は面倒だと、事業者はプロファイリングによる推知を利用してしまう。
・世界的には、EUのGDPR21条等はプロファイリングに異議を述べる権利を定め、同22条は完全自動意思決定に服さない権利を規定している。またアメリカのいくつかの州も同様の法規制を置いている。
・このように世界的な法規制の動向をみると、日本もプロファイリングの要配慮個人情報の「推知」を要配慮個人情報の「取得」として法規制すべきである。すなわち、本人同意または本人関与の仕組みを導入すべきである。
・ダークパターンについても、個人の自由な意思決定を阻害しており、法規制を行うべきである。
・Cookie、端末情報などの個人関連情報も、本人の意思決定に働きかけることができるのであるから、本人同意または本人関与の仕組みが必要である。
・生体データについても、本人同意または本人関与の仕組みが必要である。
・なお、3年ごと見直しについては経済界から「経済活動が萎縮する」との強い批判がなされているが、法律を守らないならトラストが築かれず、むしろ消費者の側に萎縮が発生し、それはビジネスに不利に働くのではないだろうか。
・最後に、個人情報保護法3条について。政府の「個人情報の保護に関する基本方針」は「個人の人格を尊重」の部分について憲法13条およびプライバシーに言及している。つまり、個人情報保護法は憲法具体化法である。

5.司会の宍戸常寿先生(東京大学教授)と3先生でディスカッション
宍戸先生)今回の講演会にあたり、①個情法と消費者法、②AI時代の個情法、③企業から見た個情法の規制強化、④3年ごと見直しの在り方・言語、の4つのテーマがあるのではないかと思っている。まず、①について加藤先生からコメントをいただけないだろうか。
加藤先生)個情法はもともと消費者庁の管轄だった。しかし消費者団体は個人情報保護の問題にあまりうまく対応できていない。個人情報保護の問題は、事業者と消費者の非対称性、格差の問題が大きな問題であると考えている。個人情報保護について、消費者のエンパワーメントが必要であるが、しかしパターナリズムに陥ってはまずいと思っている。
宍戸先生)話が少しずれるが、消費者法と個情法の問題と同時に、労働者と個情法の問題も非常に重要であると思っている。最近、日本を代表する企業で個人情報の漏えいが起きているが、従業員の個人情報が漏えい等することも非常に大きな問題である。労働者は企業のなかで個人情報について自由に意思決定できない。そのため、企業がそのかわりに決めてやるというパターナリズムな状況が生まれている。最近、山本健人先生などが「デジタル立憲主義」すなわり、立憲主義を企業にもおよぼそうという考え方を論じておられるが、示唆に富むと考えている。

宍戸先生)つぎに②の「AI時代の個情法」について、山本先生からコメントをいただきたい。
山本先生)最近、私は「個人界」・「集合界」という考え方を唱えているが、生成AIは基本的には集合界に属する問題であると考えている。ただし、EUのAI法5条にあるような、「精神的・身体的な害を生じさせる態様で対象者などの行動を実質的に歪めるため、対象者の意識を超えたサブリミナルな技法を展開する」などの生成AIについては個人界に関する問題であるとして、法規制が必要であると考えている。

宍戸先生)つぎに③の「企業から見た個情法の規制強化」について、森先生からコメントをいただきたい。
森先生)経済界は団体訴訟などに強く反対しているが、かりに規制緩和で個情法を緩和する、あるいは個情法やPPCを廃止したとしても、日本から司法を廃止することは不可能なので、裁判によって差止や損害賠償を命じられることは無くならない。その点を経済界はよく考えるべきなのではないか。
山本先生)こういった場なので比喩的に言うと、企業は遊びたい、勉強したくないとだだをこねている小さな子どものように思える。たしかに親としては短期的に考えれば子どもがうるさくないので遊ばせたほうがいいのかもしれない、しかし長期的に考えればそれでいいのか。同様に、個人情報保護を遵守したくない、もう勉強したくないと言っている経済界に対して、政治家や行政はどう対応すべきなのか。長期的に考えれば、遊ばせる、勉強させないではない方向が必要なのではないか。

なお、この講演会の最後は観客席からの質問・意見の時間であり、明治大学の横田明美先生や、情報法制研究所の高木浩光先生などから質問・意見が出されましたが割愛します。

■関連するブログ記事

人気ブログランキング

PR
このエントリーをはてなブックマークに追加 mixiチェック

↑このページのトップヘ