１．警察庁がSNSをAI解析して人物相関図を作成する捜査システムを導入
2021年5月29日の共同通信などの報道によると、警察庁がSNSをAI解析して人物相関図を作成する捜査システムを導入することを決定したとのことです。年内に警察庁と警視庁などの5都府県警で運用を始め、全国の警察に広げる方針とのことです。SNSを利用して行われる特殊詐欺などの犯罪を捜査するためのAIシステムの導入と警察関係者は説明しているようです。
・警察庁SNS解析システム導入へ AI捜査で人物相関図作成｜共同通信・ヤフージャパン
しかしこのような捜査は、特殊詐欺の捜査のためという必要性が肯定されるとしても、国民のプライバシーやSNSなどにおける国民の表現の自由などとの関係、あるいは、憲法や刑事訴訟法の定める令状主義や強制処分法定主義との関係で、法的に許容されるものなのでしょうか？
以下、①プライバシー権、②表現の自由、③刑事訴訟法（とくにGPS捜査）、④個人情報保護法制における「自動処理決定拒否権」などの観点から検討してみてみたいと思います。
２．プライバシー権
警察庁のSNSをAI解析して人物相関図を作成する捜査システムにおいて、警察当局がもっとも取得しようと考えているのは、SNSの利用者・ユーザーの人物相関図であるようです。つまり、利用者のSNS上における友人関係（あるいは友人でない関係、ブロックしている関係など）、SNS上の社会関係のようです。
この「個人の自律的な社会関係」は、憲法上、プライバシー権あるいは自己情報コントロール権（憲法13条）の保障のもとにあります。
つまり、憲法の基本原理のひとつである、「すべての国民は（それぞれ個性を持った人間として）個人として尊重される」という「個人の尊重」原理（憲法13条）から、国や企業、第三者などに対して個人の自律的な社会関係は、尊重することが要求されてるものです。
すなわち、国民個人が自律的に形成する社会関係などの私的な領域は、個人の尊重原理に基づいて、国などの公権力や企業、第三者などによって干渉されてはならない領域であるため、国民個人の自律的な社会関係などの私的領域の情報については、国などは立入が許されないということになります。これが現代の情報化社会におけるプライバシー権であり、あるいは「自己に関する情報をコントロールする権利」（自己情報コントロール権）として憲法の学説上、通説として説明されるものです（野中俊彦・中村睦男・高橋和之・高見勝利『憲法Ⅰ 第５版』275頁）。
日本の裁判例も、1964年の「宴のあと」事件判決が「私生活をみだりに公開されない権利」として認めたことを始まりとして（東京地裁昭和39年9月28日）、プライバシーの権利が判例により認められています（最高裁平成15年9月12日・早大講演会名簿提出事件など）。
３．表現の自由などの問題
また、国民のSNSなどのインターネット上の書き込みなどの情報発信などの表現行為も、憲法の表現の自由（憲法21条１項）の保障のもとにあります。また、国民がSNSなどのインターネットによりさまざまな情報を受け取る自由も、国民の「知る権利」として表現の自由の保障のもとにあります（芦部信喜・高橋和之補訂『憲法 第７版』194頁）。
４．精神的自由と刑事法との関係
このように、SNSなどネット上の国民個人の社会関係・人間関係・人物相関図は、プライバシー権あるいは自己情報コントロール権（憲法13条）による保障のもとにあり、また、SNSなどネット上の国民の情報の発信や情報の授受なども表現の自由（21条１項）の保障のもとにあるわけですが、これらの精神的自由（人権）と、警察当局や刑罰法規がぶつかり合う場合に、それをどう解決するかが問題となります。
この点、裁判例は、国民の表現行為を規制・侵害する刑罰法規が「通常の判断能力を有する一般人の理解」において、具体的場合に当該表現行為がその刑罰法規の適用を受けるかどうかの基準が読み取れないような場合には、その刑罰法規は漠然とした不明確な法令であり違憲・無効となるとしています（「明確性の基準」「適正手続きの原則」（憲法31条）・最高裁昭和50年9月10日判決・徳島市公安条例事件）。
今回問題となっている、警察庁のSNSをAI解析して人物相関図を作成する捜査システムは、報道をみるかぎり、従来、捜査員が目や手をもとに行っていた捜査手法をAIシステムに置き換えるだけであると警察庁は考えているようであって、警察庁の内部規則があるとしても、そもそも法律上の根拠なしに警察当局が導入し使用を開始するようです。
つまり、この明確性の基準を適用する法律すら存在しないようなので、そのような捜査システムを使用して国民のプライバシー権や表現の自由などを侵害することは、それだけで違憲・無効となると思われます（13条、21条１項、31条）。
５．刑事訴訟法
防犯カメラ、電話の盗聴、GPS捜査など、新しい科学技術を用いた警察の捜査は、刑事訴訟法の分野で裁判で争われてきました。つまり、そのような新しい捜査手法により収集した証拠などが、刑事裁判において有効な証拠となるかが争われてきました（違法収集証拠排除の原則）。
このなかで、従来、警察の捜査員が見張りや尾行などを行っていたところ、それに代えて、警察が令状をとらずに被疑者・容疑者の自動車などにひそかにGPS機器を取り付け、その被疑者の位置情報・移動履歴を収集する手法が裁判で争われ、最高裁はそのような捜査手法は令状主義や強制処分法定主義（憲法35条、刑事訴訟法197条１項）に違反するものであり、また、GPS捜査については国会で立法を行うべきであると判示しています（最高裁平成29年3月15日判決、宍戸常寿『新・判例ハンドブック情報法』231頁）。
すなわち、最高裁は、GPS捜査は①公道上だけでなくプライバシーが保護されるべき場所・空間をも捜査対象としており、②個人の行動を継続的・網羅的に把握しプライバシーを侵害すること、③個人に秘密で機器を着けて行う点で公道上の見張りや尾行などと異なるため、令状が不要な任意捜査の限界を超えており、強制捜査というべきであり、違法な捜査であるとしています。
また、最高裁は、現行の刑事訴訟法上の検証などの令状でGPS捜査を適切に限定することは困難であり、また、裁判官が多様な選択肢のなかから実施条件を選んで令状を交付することは強制処分法定主義に反するとして、GPS捜査について、国会で立法を行うべきであると判示しています。
■GPS捜査事件最高裁判決について詳しくはこちら
・【最高裁】令状なしのＧＰＳ捜査は違法で立法的措置が必要とされた判決（最大判平成29年３月15日）
この判決を警察庁のSNSをAI解析して人物相関図を作成する捜査システムについてあてはめると、 上でみたように、SNS上の友好関係・社会関係などの人物相関図などは、利用者個人のプライバシーあるいは自己情報コントロール権による保障の対象であるので、①のプライバシーが保護されるべき空間などに該当します。また、AIによる分析というその捜査手法の性質上、利用者個人のSNS上の表現・行動などを継続的・網羅的に把握し、大量の個人データ・プライバシーに関する情報を迅速に収集してしまうことから、②のように継続的・網羅的に利用者のプライバシーに関する膨大な情報を収集してしまうことに該当します。
加えて、SNSの利用者には秘密裡にAI捜査が行われると思われ、さらに、AIによる人物相関図の分析という捜査の性質上、その捜査対象がSNSの利用者全員におよぶおそれがあり、たとえば日本のTwitterの利用者が約4500万人、LINEの利用者が約8600万人、Facebookの利用者が約2600万人などとされていることから（echoes「2021年2月更新 データからみるTwitterユーザー実態まとめ」）、単純に計算しても日本の国民の大多数が警察庁のAI捜査システムの捜査対象となってしまう危険性があるため、③のように令状なしに警察等が実施できる任意捜査の限界を大きく超えています。
AIやコンピュータなどによるこのようなネット上の網羅的・継続的な捜査により収集された大量の個人データなどによれば、友好関係だけでなく、利用者・個人の思想・信条、政治的見解、趣味・嗜好、性的嗜好、病歴、犯罪歴などを把握することにより、「国家の前で国民が丸裸になる」状況が生み出されてしまいます。
これは国家による国民の監視・モニタリングであり、しかも上でみたように、その警察によるモニタリング・監視の対象が国民の大多数におよぶ危険があることから、これは国民の個人の尊重や基本的人権の確立という目的のために国などの統治機構は手段として存在する（憲法11条、97条）というわが国の近代立憲主義憲法の根幹すら揺るがしなけない、極めて深刻な状況であるといえます。
したがって、GPS捜査事件について最高裁判決が判示するように、警察庁のSNSをAI解析システムについては、国会で慎重な議論を行い、そのような捜査手法が本当に許容されるのか、許容されるとしてどのような基準をもとに警察が実施・運用するのか等を検討し、本当に必要であれば立法を行うべきです。
６．AI・コンピュータの自動処理による人間の選別
1960年代からのコンピュータの発展による人権侵害のおそれを受けて、世界で個人情報保護法（個人データ保護法）が検討されてきています。
さまざまな目的で収集されたさまざまな個人データが国などに収集され、それがコンピュータなどにより迅速に機械的に処理されるようになると、それぞれの個人データがある目的のためには適切であるとしても、別の目的のためには利用することが適切でない個人データが名寄せにより連結され、コンピュータが極端な結果や間違った結果を生み出してしまうおそれがあります。
また、データの誤りの混入によっても間違った結論が出されてしまうおそれがあります。これらの極端な結論や間違った結論について、人間がチェックすればその結論に疑問を持ち再確認が行えるはずなのに、コンピュータであるとその間違い等に気が付けないリスクが存在します。
さらに近年急速に発展しているAIは、大量のデータを自ら学習することにより自らを高度化させてゆきますが、その機械学習が進んでいくと、AIの専門家ですら、AIがどのような理由でそのような結論を導き出したか説明できないとされています（ブラックボックス化）。しかも人間は、人間よりも機械やコンピュータなどを過信してしまう傾向があります（自動化バイアス）。（山本龍彦『AIと憲法』63頁。）
このような問題意識をもとに、とくに西側自由主義諸国（近代立憲主義的憲法をもつ諸国）の個人情報保護法（個人データ保護法）においては、プライバシー権、自己情報コントロール権と並んで、「コンピュータ・AIによる人間の選別・差別を拒否する権利」（自動処理決定拒否権）がその重要な立法目的とされてきています。
つまり、「コンピュータ・AIによる人間の選別・差別を拒否する権利」（自動処理決定拒否権）とは、上でみたようなさまざまなリスクのあるコンピュータ・AIによる個人データの自動処理のみによる法的決定・重要な決定を個人・国民が拒否する権利であり、言ってみれば人間について、工場などのベルトコンベアーに載せられたモノではなく、人間による人間らしい対応を求める権利であり、つまり、個人の尊重、人格権に基づく権利であるといえます（憲法13条、山本・前掲101頁）。
この「コンピュータ・AIによる人間の選別・差別を拒否する権利」は、1996年のILO「労働者の労働者の個人情報保護に関する行動準則」で明文化され、欧州では1995年のEUデータ保護指令15条から2018年のGDPR22条に受け継がれています。そして、EUでは本年４月に「AI規制法案」が公表されました。
この自動処理決定拒否権は、日本でも2000年の労働省の「労働者に関する個人情報の保護に関する行動指針」第２（個人情報の収集）６（６）に、「使用者は、原則として、個人情報のコンピュータ等による自動処理又はビデオ等によるモニタリングの結果のみに基づいて労働者に対する評価又は雇用上の決定を行ってはならない。」と明文規定があるとおり、日本の個人情報保護・個人データ保護法制にも存在する考え方です。
そして、EUのAI規制法案は、AIの人間に対する危険度から①禁止②高リスク③限定的なリスク④最小限のリスクと、４つのカテゴリに分類しています。
このうち、①禁止のカテゴリには、AIによる信用スコア事業や、公共の場所における警察などによる防犯カメラの顔認証などによる国民の常時監視・モニタリングが該当するとされ、また、②高リスクのカテゴリには、AIを利用した運輸・ガス・水道などのインフラ、教育、医療、企業などの採用・人事考査、公的部門の移民・難民の審査、司法、社会保障など公共機関におけるAIの利用などが該当するとされています。
そのため、今回報道された警察庁のAIを利用したSNSの捜査システムは、「司法」に準じた警察・検察の行政作用であるという点で少なくとも②高リスクに該当しそうですし、AIによる国民の常時監視・モニタリングという行為を考えると、①禁止のカテゴリに該当してしまいそうです。
したがって、日本を含む西側自由主義諸国（近代立憲主義憲法を持つ諸国）の個人データ保護の基本的な考え方の一つの「コンピュータ・AIによる人間の選別・差別を拒否する権利」からは、警察庁のAIを利用したSNSの捜査システムは、①禁止、あるいは②高リスクのカテゴリに該当するとして、平成11年の通信傍受法などのように、警察の捜査システムとして本当に必要であるのか、必要であるとしてどのような基準で実施すべきなのか等を国会で慎重に審議して、必要であれば新しい法律を制定した上で実施すべきなのではないでしょうか（法律による行政の原則）。
■関連する記事
・コロナ下のテレワーク等におけるPCなどを利用した従業員のモニタリング・監視を考えた－個人情報・プライバシー・労働法・GDPR
・【最高裁】令状なしのＧＰＳ捜査は違法で立法的措置が必要とされた判決（最大判平成29年３月15日）
・デジタル庁のプライバシーポリシーが個人情報保護法的にいろいろとひどい件－個人情報・公務の民間化
■参考文献
・野中俊彦・中村睦男・高橋和之・高見勝利『憲法Ⅰ 第５版』275頁
・芦部信喜・高橋和之補訂『憲法 第７版』194頁
・宍戸常寿『新・判例ハンドブック情報法』231頁
・山本龍彦『AIと憲法』63頁
・田口守一『刑事訴訟法 第４版補正版』46頁
・小向太郎・石井夏生利『概説GDPR』94頁
・高木浩光「個人情報保護から個人データ保護へ―民間部門と公的部門の規定統合に向けた検討」『情報法制研究』２巻75頁
・EUのAI規制案、リスク4段階に分類 産業界は負担増警戒｜日経新聞
