なか2656のblog

とある会社の社員が、法律などをできるだけわかりやすく書いたブログです

タグ:データによる人の選別

school_jugyou_tablet
1.名古屋市が小中学校の学習用タブレットの操作履歴ログの収集を中止
報道によると、名古屋市は6月10日、市内の小学校中学校に対し、小中学生に配布しているタブレット使用を一時中止するように通知したとのことです。同市は、タブレットの操作履歴ログを収集してサーバーで保管しており、これが同市の個人情報保護条例に違反している疑いがあるためであるとのことです。

・名古屋市、小中学生の端末使用停止 履歴収集に指摘|日経新聞

この名古屋市の学校タブレットに関する報道については、Yahoo!ニュースにおいて、内閣府子供の貧困対策に関する有識者会議の委員で日本大学文理学部教育学科教授(教育財政学・教育行政学)末冨芳氏が、『この操作履歴こそスタディログという子どもの学習行動を記録するものであり、逆にログが記録できなければ学習者の評価ができない場合もあります。』とコメントしたことが、ネット上で大きな注目を集めています。

また、末冨芳氏はTwitterにおいても、「ログが残る=個人情報って(略)さすがのTwitterクオリティ (略)役所サーバーにログが残っても、個人と紐付けてなきゃただのデータ」と投稿しておられます。

末冨ログは個人情報ではない
https://twitter.com/KSuetomi/status/1403081955848048641
(末冨芳氏のTwitter(@KSuetomi)より)

最近、「GIGAスクール」や「教育の個別最適化」、「EdTechの推進」などの掛け声とともに、学校教育におけるICT化が急速に推進されていますが、これらの点をどう考えたらよいのでしょうか。

以下、①学校のタブレット端末の操作履歴ログは個人情報に該当しないのか②タブレット端末等の操作履歴ログなどにより生徒の評価などを行うことは許されるのか、の2点を考えてみたいと思います。

2.タブレットの操作履歴ログは個人情報ではないのか?
末冨芳氏は、教育用タブレットの操作履歴ログが学校等のサーバーに残っていても原則として個人情報ではないとしています。

この点、個人情報保護法2条1項1号は、個人情報とは「個人に関する情報であって」、電磁的記録を含む「特定の個人を識別することができるもの」(他の情報と容易に照合することができるものを含む)と定義しています。

これは名古屋市個人情報保護条例2条1号においても同様です。

個人情報 個人に関する情報であって、当該情報に含まれる氏名、生年月日その他の記述等により、特定の個人を識別することができるもの(他の情報と照合することにより、特定の個人を識別することができることとなるものを含む。)をいう。」(名古屋市個人情報保護条例2条1号)

・名古屋市個人情報保護条例

つまり、「個人に関する情報」であって、電磁的記録などを含むさまざまな情報の「特定の個人を識別することができるもの」「個人情報」です(鈴木正朝・高木浩光・山本一郎『ニッポンの個人情報』20頁)。

個人情報の定義『ニッポンの個人情報』
鈴木正朝・高木浩光・山本一郎「「個人を特定する情報が個人情報である」と信じているすべての方へ―第1回プライバシーフリーク・カフェ(前編)」EnterpriseZineより

学校のタブレット端末の操作履歴ログ(データ)は、学校の生徒がタブレットを操作したことにより生成された電子データですから「個人に関する情報」であり、また、何時何分何秒にどの操作を行ったなどのデータであるので、Suicaの乗降履歴のようにそれぞれ異なるデータであると思われ、それ自体で操作者を「あの人、この人」と「特定の個人を識別」できるので、やはり個人情報(個人データ)に該当すると思われます。

また、このようなログは、端末IDと操作履歴等がセットで記録されるのが一般的と思われるので、学校等のサーバー内のタブレット管理要DBや生徒の個人情報管理DBなどの「端末IDと生徒番号」、「生徒番号と氏名・住所・学年・クラス」等の情報を照合すれば、操作履歴の生徒を割り出すことは簡単であると思われ、これは「他の情報と容易に照合することにより特定の個人を識別」に該当するので、やはり操作履歴データは個人情報(個人データ)に該当します(宇賀克也『個人情報保護法の逐条解説 第6版』39頁、岡村久道『個人情報保護法 第3版』77頁)。

さらに、まさに末冨氏がTwitterで指摘しているとおり、そもそもタブレットの操作履歴データは、教員が個々の生徒の思考方法などを把握し、「学習者の判定」を行ったり、生徒指導などを行うために収集・保存・分析などが実施されているのですから、操作履歴データが生徒個人と紐付かないデータであるとすると、教員や学校などにとって無意味なデータなのではないでしょうか。

(かりに、タブレット端末の操作履歴データが本当に個人情報でないとたとしても、タブレット操作の履歴データなのですから、ネットの閲覧履歴や位置情報などのように「個人関連情報」(改正個情法26条の2)に該当すると思われ、事業者が第三者提供するためには本人の同意が必要となります(佐脇紀代志『一問一答令和2年改正個人情報保護法』60頁、62頁)。

そのため、学校のタブレット端末の操作履歴データはやはり個人データであるため、自治体・教育委員会や学校あるいは関連する企業等は、この操作履歴データについて、自治体の個人情報保護条例や個人情報保護法上、利用目的の特定、目的外利用の禁止、本人への利用目的の通知・公表、本人同意のない第三者提供の禁止、安全管理措置、開示請求への対応などの各義務を負うことになります。

この点、「学校のタブレット端末の操作履歴データは原則として個人情報ではない」としている、末冨芳・日大教授などの、学校教育のICT化の推進派の方々は、前提となる個人情報保護法制の理解が正しくないと思われます。

3.学習用タブレット端末などの操作履歴・スタディログ・学習行動データなどにより生徒の評価を行うことは許されるのか?
(1)凸版印刷の学習ソフト「やる Key」
学校のタブレット端末などの操作履歴ログについて調べてみると、2017年に総務省が『教育ICTガイドブック Ver.1』という資料を作成し公表しています。
・「教育ICTガイドブック」(PDF)|総務省

この「教育ICTガイドブック Ver.1」48頁以下は、東京都福生市が2017 年度より、市立小学校 3 年生全員に算数のクラウド型ドリルを搭載したタブレット約450台を利用させている事例を紹介しています。

この記事によると、福生市は、凸版印刷クラウド型ドリル教材「やる Key」を搭載したタブレット端末(iPad)を市立小学校の3年生に利用させる実証実験を2015年から慶應義塾大学と連携して実施しているとのことです。

記事は、「「やる Key」には、児童の学習状況理解度可視化でき、理解度に合った問題が自動出題されるという特徴がある。」、「教員は、家庭学習を含め児童学習内容学習時間問題の正答分布などを一覧で把握できる。」、「家庭学習の状況も可視化されることで…学習への取組状況についての声掛けもできるようになった」等と説明しています。

また、凸版印刷サイトの「やる Key」に関する2016年のプレスリリースを読むと次のように説明されています。

「 具体的には、学校で活用するタブレット端末を家庭でも使用し、児童が自分で目標を立て、教科書の内容に沿った演習問題(デジタルドリル)に取り組みます。解答と自動採点の過程で、どこを誤ったのかだけでなく、どこでつまずいているかが判定され、児童ごとに応じた苦手克服問題が自動で配信されます。さらに、児童の進行状況や、どこが得意でどこを間違えやすいかを教員が把握し、声がけや指導改善の材料にできる機能も提供します。」と解説されています。(凸版印刷「凸版印刷、静岡県浜松市、慶應義塾大学と共同で 小学校向け学習応援システム「やるKey」の実証研究を開始」より)

・凸版印刷、静岡県浜松市、慶應義塾大学と共同で 小学校向け学習応援システム「やるKey」の実証研究を開始|凸版印刷

凸版印刷やるkey
(凸版印刷のプレスリリースより)

つまり、小中学校で実証実験が進むタブレット端末等と学習ソフトによるICT教育は、「どこを誤ったのかだけでなく、どこでつまずいているか判定」するものであり、「児童の進行状況や、どこが得意でどこを間違えやすいかを教員が把握」するものです。

すなわち、これは生徒・児童思考方法考え方のくせなど、生徒の内心の動きをタブレットやAIが詳細に把握・分析し、教員や学校などに提供するものであると言えます。しかもこのタブレットやAIによる児童の内心のモニタリング・監視は、児童が学校にいる時間だけでなく、家庭などにいる時間も含まれているものです。

このようにタブレット端末やAI等により、「どこを誤ったのかだけでなく、どこでつまずいているか」などの生徒の思考方法や考え方のくせなど、生徒の内心の動きをモニタリング・監視することは、「児童の教育」という目的のためであるとしても、はたして許容されるものなのでしょうか?

(2)憲法・教育基本法などから学校教育のICT化は問題ないのか?
この点、岡山大学法学部堀口悟郎准教授(憲法・教育法)「AIと教育制度」『AIと憲法』(山本龍彦編)253頁は、「AIは機械学習により判定基準(アルゴリズム)を生成するため、過去の人間の不公正な判定を繰り返してしまう危険性や、人間であれば当然しない差別的判断をする危険性(例えば「母子家庭の児童の中退率のデータ」から「母子家庭の児童」というだけでマイナス評価を行うなど)を指摘しています(275頁)。

■関連記事
・文科省が小中学生の成績等をマイナンバーカードで一元管理することを考える-ビッグデータ・AIによる「教育の個別化」

また堀口・前掲は、憲法26条教育基本法4条「教育の平等」を規定するにもかかわらず、AIによる「教育の個別最適化」が、義務教育における「学年生」をもゆるがしてしまうおそれや、裁判例が認める、障害児や成績のよくない生徒等が普通の教育を選ぶ「不自由を選ぶ自由」(インクルーシブ教育)侵害する危険性を指摘しています(神戸地判平成4.3.13・尼崎高校事件など)。

さらに堀口・前掲は、戦前・戦時中の学校教育の問題などに触れた上で、判例は「教師は政府の特定の意見のみを生徒に伝達することを拒みうる」と、民主主義社会において教師が政府からの生徒の「防波堤」となる機能としての教育権を認めていることから(最判昭和51.5.21・旭川学テ事件)、未来の学校がAIや教育ビデオだけとなり、人間の教師が学校からいなくなる場合の危険性を指摘しています。

このように、政府が推進する教育のICT化は、憲法や教育基本法の観点からも大いに問題があるといえます。

(3)EUのGDPR22条・AI規制法案と日本
児童・生徒のタブレット端末の操作履歴・スタディログなどをAIに分析させて「生徒・学習者を評価」することは、EUであれば、GDPR(一般データ保護規則)22条「コンピュータの自動処理(プロファイリング)による法的決定・重要な決定拒否権」や、本年4月に公表されたAI規制法案の内容に抵触するおそれがあります。またGDPR8条は、16歳未満の未成年者の個人データの収集を原則禁止としています。

とくに本年4月に公表されたEUのAI規制法案は、AIの利用を①禁止、②高リスク、③限定されたリスク、④最小限のリスク、の4段階に分けて規制する内容です。そのなかで「教育」は、企業の採用選考・人事評価などとともに②「高リスク」に分類されています。

この点、産業技術総合研究所研究員の高木浩光先生など情報法の先生方がネット上でたびたび説明しておられるように、EUだけでなく日本を含む西側自由主義・民主主義諸国は、「コンピュータによる人間の選別の危険」の問題意識のもとに1970年代より個人データ保護法制を発展させてきました。

日本も雇用分野の個人データ保護で厚労省の指針・通達などが何度もこの考え方を示しています(2000年「労働者の個人情報保護行動指針」第2、6(6)など)。最近もリクナビ事件に対する厚労省通達(職発0906第3号令和元年9月6日)はこの考え方を示しています。そのため、日本においても「コンピュータによる人間の選別の危険」を防ぐための「コンピュータ・AIの自動処理(プロファイリング)による法的決定・重要な決定に対する拒否権」は無縁な考え方ではないのです。

この「コンピュータ・AIの自動処理(プロファイリング)による法的決定・重要な決定に対する拒否権」について、慶応大学の山本龍彦教授(憲法)は、「個人の尊重」自己情報コントロール権(憲法13条)および適正手続きの原則(31条)から導き出されるとしています(山本龍彦「AIと個人の尊重、プライバシー」『AIと憲法』104頁~105頁)。

したがって、国・自治体や学校、教育業界やIT業界などが、児童・生徒のタブレット端末の操作履歴・スタディログなどをAIに分析させて「生徒・学習者を評価」することは、日本においても、児童のプライバシー権、「個人の尊重」と自己情報コントロール権(憲法13条)を侵害するおそれがあるので、慎重な検討と対応が必要です。

■関連記事
・コロナ下のテレワーク等におけるPCなどを利用した従業員のモニタリング・監視を考えた-個人情報・プライバシー・労働法・GDPR

4.まとめ
このように、小中学校のタブレット端末の操作履歴ログは個人情報・個人データに該当するので、学校や教育委員会、自治体や国、企業などは、個人情報保護法・自治体の個人情報保護条例などに基づいた情報管理が必要となります。また、学校のタブレット端末等の操作履歴ログなどにより生徒・児童の評価などを行う「GIGAスクール構想」・「教育の個別適正化」などの政策は、児童・生徒の教育を受ける権利や人権保障の問題に深くかかわる重大な問題であるので、政府は国会での慎重な議論などを行うことが必要と思われます。

「GIGAスクール構想」「教育の個別適正化」などは、教育業界やIT業界などの経済的利益だけでなく、児童・生徒の教育を受ける権利教育の平等(憲法26条)個人情報の保護プライバシー権自己情報コントロール権「AI・コンピュータの自動処理による法的決定・重要な決定に対する拒否権」などの人格権(憲法13条)など、児童・生徒の「個人の尊重」人権保障に関連する重大な問題です。

そのため、政府・与党は、「学校教育のICT化」「GIGAスクール構想」などについては、内閣府や文科省などにおける諮問委員会で産業界や政府寄りの学識者の意見を聞くだけでなく、国会で慎重に時間をかけて議論を行うなど、国民的合意を得たうえで推進するべきであると思われます。

■関連記事
・デジタル庁「教育データ利活用ロードマップ」は個人情報保護法・憲法的に大丈夫なのか?
・文科省が小中学生の成績等をマイナンバーカードで一元管理することを考える-ビッグデータ・AIによる「教育の個別化」
・コロナ下のテレワーク等におけるPCなどを利用した従業員のモニタリング・監視を考えた-個人情報・プライバシー・労働法・GDPR
・Github利用規約や厚労省通達などからAIを利用するネット系人材紹介会社を考えた
・日銀『プライバシーの経済学入門』の「プロファイリングによって取得した情報は「個人情報」には該当しない」を個人情報保護法的に考えた
・警察庁のSNSをAI解析して人物相関図を作成する捜査システムを法的に考えた-プライバシー・表現の自由・GPS捜査・AIによる自動処理決定拒否権

■参考文献
・宇賀克也『個人情報保護法の逐条解説 第6版』39頁
・岡村久道『個人情報保護法 第3版』77頁
・鈴木正朝・高木浩光・山本一郎『ニッポンの個人情報』20頁
・堀口悟郎「AIと教育制度」『AIと憲法』(山本龍彦編)253頁
・山本龍彦「AIと個人の尊重、プライバシー」『AIと憲法』104頁
・菅野和夫『労働法 第12版』69頁、262頁
・小向太郎・石井夏生利『概説GDPR』64頁、93頁
・高野一彦「従業者の監視とプライバシー保護」『プライバシー・個人情報保護の新課題』(堀部政男編)163頁
・「教育ICTガイドブック」(PDF)|総務省
・凸版印刷、静岡県浜松市、慶應義塾大学と共同で 小学校向け学習応援システム「やるKey」の実証研究を開始|凸版印刷
・高木浩光「個人情報保護から個人データ保護へ―民間部門と公的部門の規定統合に向けた検討」『情報法制研究』2巻75頁
・鈴木正朝・高木浩光・山本一郎「「個人を特定する情報が個人情報である」と信じているすべての方へ―第1回プライバシーフリーク・カフェ(前編)」EnterpriseZine
・厚労省職業安定局・職発0906第3号令和元年9月6日「募集情報等提供事業等の適正な運用について」(PDF)
・「労働政策審議会労働政策基本部会報告書~働く人がAI等の新技術を主体的に活かし、豊かな将来を実現するために~」|厚労省
・EUのAI規制案、リスク4段階に分類 産業界は負担増警戒|日経新聞















このエントリーをはてなブックマークに追加 mixiチェック

ai_pet_family
1.警察庁がSNSをAI解析して人物相関図を作成する捜査システムを導入
2021年5月29日の共同通信などの報道によると、警察庁がSNSをAI解析して人物相関図を作成する捜査システムを導入することを決定したとのことです。年内に警察庁と警視庁などの5都府県警で運用を始め、全国の警察に広げる方針とのことです。SNSを利用して行われる特殊詐欺などの犯罪を捜査するためのAIシステムの導入と警察関係者は説明しているようです。

・警察庁SNS解析システム導入へ AI捜査で人物相関図作成|共同通信・ヤフージャパン

しかしこのような捜査は、特殊詐欺の捜査のためという必要性が肯定されるとしても、国民のプライバシーやSNSなどにおける国民の表現の自由などとの関係、あるいは、憲法や刑事訴訟法の定める令状主義や強制処分法定主義との関係で、法的に許容されるものなのでしょうか?

以下、①プライバシー権、②表現の自由、③刑事訴訟法(とくにGPS捜査)、④個人情報保護法制における「自動処理決定拒否権」などの観点から検討してみてみたいと思います。

2.プライバシー権
警察庁のSNSをAI解析して人物相関図を作成する捜査システムにおいて、警察当局がもっとも取得しようと考えているのは、SNSの利用者・ユーザーの人物相関図であるようです。つまり、利用者のSNS上における友人関係(あるいは友人でない関係、ブロックしている関係など)、SNS上の社会関係のようです。

この「個人の自律的な社会関係」は、憲法上、プライバシー権あるいは自己情報コントロール権(憲法13条)の保障のもとにあります。

つまり、憲法の基本原理のひとつである、「すべての国民は(それぞれ個性を持った人間として)個人として尊重される」という「個人の尊重」原理(憲法13条)から、国や企業、第三者などに対して個人の自律的な社会関係は、尊重することが要求されてるものです。

すなわち、国民個人が自律的に形成する社会関係などの私的な領域は、個人の尊重原理に基づいて、国などの公権力や企業、第三者などによって干渉されてはならない領域であるため、国民個人の自律的な社会関係などの私的領域の情報については、国などは立入が許されないということになります。これが現代の情報化社会におけるプライバシー権であり、あるいは「自己に関する情報をコントロールする権利」(自己情報コントロール権)として憲法の学説上、通説として説明されるものです(野中俊彦・中村睦男・高橋和之・高見勝利『憲法Ⅰ 第5版』275頁)。

日本の裁判例も、1964年の「宴のあと」事件判決が「私生活をみだりに公開されない権利」として認めたことを始まりとして(東京地裁昭和39年9月28日)、プライバシーの権利が判例により認められています(最高裁平成15年9月12日・早大講演会名簿提出事件など)。

3.表現の自由などの問題
また、国民のSNSなどのインターネット上の書き込みなどの情報発信などの表現行為も、憲法の表現の自由(憲法21条1項)の保障のもとにあります。また、国民がSNSなどのインターネットによりさまざまな情報を受け取る自由も、国民の「知る権利」として表現の自由の保障のもとにあります(芦部信喜・高橋和之補訂『憲法 第7版』194頁)。

4.精神的自由と刑事法との関係
このように、SNSなどネット上の国民個人の社会関係・人間関係・人物相関図は、プライバシー権あるいは自己情報コントロール権(憲法13条)による保障のもとにあり、また、SNSなどネット上の国民の情報の発信や情報の授受なども表現の自由(21条1項)の保障のもとにあるわけですが、これらの精神的自由(人権)と、警察当局や刑罰法規がぶつかり合う場合に、それをどう解決するかが問題となります。

この点、裁判例は、国民の表現行為を規制・侵害する刑罰法規が「通常の判断能力を有する一般人の理解」において、具体的場合に当該表現行為がその刑罰法規の適用を受けるかどうかの基準が読み取れないような場合には、その刑罰法規は漠然とした不明確な法令であり違憲・無効となるとしています(「明確性の基準」「適正手続きの原則」(憲法31条)・最高裁昭和50年9月10日判決・徳島市公安条例事件)。

今回問題となっている、警察庁のSNSをAI解析して人物相関図を作成する捜査システムは、報道をみるかぎり、従来、捜査員が目や手をもとに行っていた捜査手法をAIシステムに置き換えるだけであると警察庁は考えているようであって、警察庁の内部規則があるとしても、そもそも法律上の根拠なしに警察当局が導入し使用を開始するようです。

つまり、この明確性の基準を適用する法律すら存在しないようなので、そのような捜査システムを使用して国民のプライバシー権や表現の自由などを侵害することは、それだけで違憲・無効となると思われます(13条、21条1項、31条)。

5.刑事訴訟法
防犯カメラ、電話の盗聴、GPS捜査など、新しい科学技術を用いた警察の捜査は、刑事訴訟法の分野で裁判で争われてきました。つまり、そのような新しい捜査手法により収集した証拠などが、刑事裁判において有効な証拠となるかが争われてきました(違法収集証拠排除の原則)。

このなかで、従来、警察の捜査員が見張りや尾行などを行っていたところ、それに代えて、警察が令状をとらずに被疑者・容疑者の自動車などにひそかにGPS機器を取り付け、その被疑者の位置情報・移動履歴を収集する手法が裁判で争われ、最高裁はそのような捜査手法は令状主義や強制処分法定主義(憲法35条、刑事訴訟法197条1項)に違反するものであり、また、GPS捜査については国会で立法を行うべきであると判示しています(最高裁平成29年3月15日判決、宍戸常寿『新・判例ハンドブック情報法』231頁)。

すなわち、最高裁は、GPS捜査は①公道上だけでなくプライバシーが保護されるべき場所・空間をも捜査対象としており、②個人の行動を継続的・網羅的把握しプライバシーを侵害すること、③個人に秘密で機器を着けて行う点で公道上の見張りや尾行などと異なるため、令状が不要な任意捜査の限界を超えており、強制捜査というべきであり、違法な捜査であるとしています。

また、最高裁は、現行の刑事訴訟法上の検証などの令状でGPS捜査を適切に限定することは困難であり、また、裁判官が多様な選択肢のなかから実施条件を選んで令状を交付することは強制処分法定主義に反するとして、GPS捜査について、国会立法を行うべきであると判示しています。

■GPS捜査事件最高裁判決について詳しくはこちら
・【最高裁】令状なしのGPS捜査は違法で立法的措置が必要とされた判決(最大判平成29年3月15日)

この判決を警察庁のSNSをAI解析して人物相関図を作成する捜査システムについてあてはめると、 上でみたように、SNS上の友好関係・社会関係などの人物相関図などは、利用者個人のプライバシーあるいは自己情報コントロール権による保障の対象であるので、①のプライバシーが保護されるべき空間などに該当します。また、AIによる分析というその捜査手法の性質上、利用者個人のSNS上の表現・行動などを継続的・網羅的に把握し、大量の個人データ・プライバシーに関する情報を迅速に収集してしまうことから、②のように継続的・網羅的に利用者のプライバシーに関する膨大な情報を収集してしまうことに該当します。

加えて、SNSの利用者には秘密裡にAI捜査が行われると思われ、さらに、AIによる人物相関図の分析という捜査の性質上、その捜査対象がSNSの利用者全員におよぶおそれがあり、たとえば日本のTwitterの利用者が約4500万人、LINEの利用者が約8600万人、Facebookの利用者が約2600万人などとされていることから(echoes「2021年2月更新 データからみるTwitterユーザー実態まとめ」)、単純に計算しても日本の国民の大多数が警察庁のAI捜査システムの捜査対象となってしまう危険性があるため、③のように令状なしに警察等が実施できる任意捜査の限界を大きく超えています。

AIやコンピュータなどによるこのようなネット上の網羅的・継続的な捜査により収集された大量の個人データなどによれば、友好関係だけでなく、利用者・個人の思想・信条、政治的見解、趣味・嗜好、性的嗜好、病歴、犯罪歴などを把握することにより、「国家の前で国民が丸裸になる」状況が生み出されてしまいます。

これは国家による国民の監視・モニタリングであり、しかも上でみたように、その警察によるモニタリング・監視の対象が国民の大多数におよぶ危険があることから、これは国民の個人の尊重や基本的人権の確立という目的のために国などの統治機構は手段として存在する(憲法11条、97条)というわが国の近代立憲主義憲法の根幹すら揺るがしなけない、極めて深刻な状況であるといえます。

したがって、GPS捜査事件について最高裁判決が判示するように、警察庁のSNSをAI解析システムについては、国会で慎重な議論を行い、そのような捜査手法が本当に許容されるのか、許容されるとしてどのような基準をもとに警察が実施・運用するのか等を検討し、本当に必要であれば立法を行うべきです。

6.AI・コンピュータの自動処理による人間の選別
1960年代からのコンピュータの発展による人権侵害のおそれを受けて、世界で個人情報保護法(個人データ保護法)が検討されてきています。

さまざまな目的で収集されたさまざまな個人データが国などに収集され、それがコンピュータなどにより迅速に機械的に処理されるようになると、それぞれの個人データがある目的のためには適切であるとしても、別の目的のためには利用することが適切でない個人データが名寄せにより連結され、コンピュータが極端な結果や間違った結果を生み出してしまうおそれがあります。

また、データの誤りの混入によっても間違った結論が出されてしまうおそれがあります。これらの極端な結論や間違った結論について、人間がチェックすればその結論に疑問を持ち再確認が行えるはずなのに、コンピュータであるとその間違い等に気が付けないリスクが存在します。

さらに近年急速に発展しているAIは、大量のデータを自ら学習することにより自らを高度化させてゆきますが、その機械学習が進んでいくと、AIの専門家ですら、AIがどのような理由でそのような結論を導き出したか説明できないとされています(ブラックボックス化)。しかも人間は、人間よりも機械やコンピュータなどを過信してしまう傾向があります(自動化バイアス)。(山本龍彦『AIと憲法』63頁。)

このような問題意識をもとに、とくに西側自由主義諸国(近代立憲主義的憲法をもつ諸国)の個人情報保護法(個人データ保護法)においては、プライバシー権、自己情報コントロール権と並んで、「コンピュータ・AIによる人間の選別・差別を拒否する権利」(自動処理決定拒否権)がその重要な立法目的とされてきています。

つまり、「コンピュータ・AIによる人間の選別・差別を拒否する権利」(自動処理決定拒否権)とは、上でみたようなさまざまなリスクのあるコンピュータ・AIによる個人データの自動処理のみによる法的決定・重要な決定を個人・国民が拒否する権利であり、言ってみれば人間について、工場などのベルトコンベアーに載せられたモノではなく、人間による人間らしい対応を求める権利であり、つまり、個人の尊重人格権に基づく権利であるといえます(憲法13条、山本・前掲101頁)。

この「コンピュータ・AIによる人間の選別・差別を拒否する権利」は、1996年のILO「労働者の労働者の個人情報保護に関する行動準則」で明文化され、欧州では1995年のEUデータ保護指令15条から2018年のGDPR22条に受け継がれています。そして、EUでは本年4月に「AI規制法案」が公表されました。

この自動処理決定拒否権は、日本でも2000年の労働省「労働者に関する個人情報の保護に関する行動指針」第2(個人情報の収集)6(6)に、「使用者は、原則として、個人情報のコンピュータ等による自動処理又はビデオ等によるモニタリングの結果のみに基づいて労働者に対する評価又は雇用上の決定を行ってはならない。」と明文規定があるとおり、日本の個人情報保護・個人データ保護法制にも存在する考え方です。

そして、EUのAI規制法案は、AIの人間に対する危険度から①禁止②高リスク③限定的なリスク④最小限のリスクと、4つのカテゴリに分類しています。

このうち、①禁止のカテゴリには、AIによる信用スコア事業や、公共の場所における警察などによる防犯カメラの顔認証などによる国民の常時監視・モニタリングが該当するとされ、また、②高リスクのカテゴリには、AIを利用した運輸・ガス・水道などのインフラ、教育、医療、企業などの採用・人事考査、公的部門の移民・難民の審査、司法、社会保障など公共機関におけるAIの利用などが該当するとされています。

そのため、今回報道された警察庁のAIを利用したSNSの捜査システムは、「司法」に準じた警察・検察の行政作用であるという点で少なくとも②高リスクに該当しそうですし、AIによる国民の常時監視・モニタリングという行為を考えると、①禁止のカテゴリに該当してしまいそうです。

したがって、日本を含む西側自由主義諸国(近代立憲主義憲法を持つ諸国)の個人データ保護の基本的な考え方の一つの「コンピュータ・AIによる人間の選別・差別を拒否する権利」からは、警察庁のAIを利用したSNSの捜査システムは、①禁止、あるいは②高リスクのカテゴリに該当するとして、平成11年の通信傍受法などのように、警察の捜査システムとして本当に必要であるのか、必要であるとしてどのような基準で実施すべきなのか等を国会で慎重に審議して、必要であれば新しい法律を制定した上で実施すべきなのではないでしょうか(法律による行政の原則)。

■関連する記事
・コロナ下のテレワーク等におけるPCなどを利用した従業員のモニタリング・監視を考えた-個人情報・プライバシー・労働法・GDPR
・【最高裁】令状なしのGPS捜査は違法で立法的措置が必要とされた判決(最大判平成29年3月15日)
・デジタル庁のプライバシーポリシーが個人情報保護法的にいろいろとひどい件-個人情報・公務の民間化

■参考文献
・野中俊彦・中村睦男・高橋和之・高見勝利『憲法Ⅰ 第5版』275頁
・芦部信喜・高橋和之補訂『憲法 第7版』194頁
・宍戸常寿『新・判例ハンドブック情報法』231頁
・山本龍彦『AIと憲法』63頁
・田口守一『刑事訴訟法 第4版補正版』46頁
・小向太郎・石井夏生利『概説GDPR』94頁
・高木浩光「個人情報保護から個人データ保護へ―民間部門と公的部門の規定統合に向けた検討」『情報法制研究』2巻75頁
・EUのAI規制案、リスク4段階に分類 産業界は負担増警戒|日経新聞














このエントリーをはてなブックマークに追加 mixiチェック

↑このページのトップヘ