（内田洋行サイトより）
目次
１．戸田市の教育データを利用したAI「不登校予測モデル」構築実証事業
２．「「関連性」のないデータによる個人の選別・差別」の禁止
３．まとめ
４．補足：個人情報保護法の３年ごと見直し・自民党の「責任あるAI推進基本法（仮）」
１．戸田市の教育データを利用したAI「不登校予測モデル」構築実証事業
２．「「関連性」のないデータによる個人の選別・差別」の禁止
３．まとめ
４．補足：個人情報保護法の３年ごと見直し・自民党の「責任あるAI推進基本法（仮）」
１．戸田市の教育データを利用したAI「不登校予測モデル」構築実証事業
2024年4月４日付の日経クロステックの記事「不登校になりそうな児童生徒をAIが予測、戸田市の教育データ活用実証が示したこと」が、Twitter（現X）上で話題を呼んでいます。この実証実験は、「2023年12月から同市内の公立小学校12校、同中学校6校の計約1万2000人の児童生徒のデータを分析対象に、「不登校予測モデル」構築の実証をした。事業はこども家庭庁の「こどもデータ連携実証事業」として戸田市が受託し、内田洋行、PKSHA Technologyグループとともに進めたもの」であるそうです。
（内田洋行サイトより）
不登校予測モデルは、教育総合データベースのデータを利用してAIが機械学習し、予測モデルを構築してゆくそうです。モデルの構築に利用した特徴量は、出欠席情報、保健室の利用状況、いじめに関する記録、教育相談、健康診断データ、学校生活アンケート、戸田市が独自に実施している「授業がわかる調査」、県学力調査の学力データ、県学力調査の質問紙調査、RST受検結果、「心のアンケート」など多岐にわたるそうです。（なお本事業は保護者の同意を取得しているそうですが、学校や自治体と保護者の力関係を考えると、このような本人同意が有効な同意といえるのか疑問が残ります。）
ところで、この戸田市の事例で注目されるのは、本記事によると、予測モデルの構築に際して重要なのは「特徴量」であるところ、出欠情報、教育相談が上位にくるだけでなく、「健康診断の体重や歯科検診」、「健康診断の肥満」も特徴量重要度の上位にあがっていることだと思われます。
一見、生徒の不登校の予測とはあまり関係ないように思われる、体重、肥満、歯科検診、数学の点数などにより不登校を予測することは妥当なのでしょうか。
２．「「関連性」のないデータによる個人の選別・差別」の禁止
この点、最近、情報法制研究所副理事長の高木浩光先生は、個人情報保護法（個人データ保護法）の趣旨・目的は「関連性のないデータによる個人の選別・差別」を防止することであるとの学説をとなえておられます。高木先生はカフェJILISの鼎談記事「ニッポンの教育ログを考える（後編）」（2022年1月20日）でつぎのように述べています。OECDガイドラインの2つ目の原則である「データ内容の原則」（Data Quality Principle）は、personal dataはその利用目的に対して「relevant」でなければならないと言っている。「Personal data should be relevant to the purposes for which they are to be used」ってなっているのです。 （略）
今回の件について言いたいのは、この「Personal data should be relevant to the purposes for ……」という基本原則の意味は、データ分析をして本人を評価するに際しては、目的に関連しているデータしか使っちゃダメって言ってるんですね。「関係ないデータを使うな」って言ってるんですよ。
で、その「関係ない」っていうのはどういうことなのか。いくら言葉だけ見てても意味わからないわけですけど、立案にかかわった人の論文を見ると、具体的に説明されていて、例えば、政府が所得税額を計算するのにコンピューターを使う際に、収入額とかを基に個人データ処理するのは「目的に関連している」データを用いた評価なんだけども、そこに日頃の生活の素行みたいなデータを入れて税額を計算したら、それはおかしいだろうってことになる。そのような場合のことを「関係ないデータを使っている」と言ってるわけです。
（カフェJILIS「ニッポンの教育ログを考える（後編）」の高木浩光先生発言より。）
この高木先生の見解によると、生徒の不登校を予測するAIを機械学習させるためのデータとして、「出欠情報、教育相談、いじめの有無、心理検査、心理アンケート」などは「関連性がある」といえると思われますが、「体重、肥満、歯科検診結果、数学の点数」などは「関連性がない」ものとして、このような項目により機械学習させたAIの予測モデルは「関連性のないデータによる個人の選別・差別」に該当し、つまりOECD８原則の第二原則の「データ内容の原則」に抵触しているのではないでしょうか。
また、同じくカフェJILIS「ニッポンの教育ログを考える（後編）」では、弁護士の板倉陽一郎先生も、つぎのようにEUのAI規制法（2024年3月13日に欧州議会が最終案を可決）の観点から日本の教育データの利活用を批判されています。
最新の公的な文書としてはEUのAI規則案ですよ。EUのAI規則案で、4つの種類のAIだけは絶対禁止ってしてるんです（shall be prohibited，5条1項(a)-(d)）。（略）
4つの種類だけは絶対やめようっていう中に、（公的機関が）「最初に収集されたコンテキストとは関係ない社会的コンテキストで、特定の人とかグループに有害な取り扱いをする」scoringという類型があります（5条1項(c)）。コンテキストと関係がないっていうのが、今のrelevancyの現在地ですよ。そういうscoringはやめようっていうのが、そのAI規則案が4つだけ禁止している、絶対ダメなものひとつなんです。教育ログは、そこにちょっとね、一歩入りかけとるわけですよ。気をつけないといけない。
欧州が絶対ダメって言ってるんですからね。それをね、ニコニコして入れたらね。お前らバカなのかってなるじゃないですか。だから欧州に従えという話ではないですが，絶対禁止になっている4つのところぐらいは見ながらやっぱやらないとまずいですよね。だって他に禁止されてるのって、サブリミナルで自殺に追い込むAIとかそんなやつですよ？（5条1項(a)）。それと同等程度にダメだっていうふうに言ってるわけです。
（カフェJILIS「ニッポンの教育ログを考える（後編）」の板倉陽一郎先生発言より。）
（総務省「EUのAI規制法案の概要」11頁より、禁止カテゴリのAIの４類型）
すなわち、EUのAI規制法が禁止カテゴリとしている４つのAIの一つは「最初に収集されたコンテキストとは関係ない社会的コンテキストで、特定の人とかグループに有害な取り扱いをするスコアリング」であり、デジタル庁やこども家庭庁が推進しているAIによる教育データの利活用はそれに該当すると板倉先生は指摘しています。
また、上で高木先生が述べている「関連性のない」とは、EUのAI規制法では「最初に収集されたコンテキストとは関係ない社会的コンテキストで、特定の人とかグループに有害な取り扱いをする」ことであると板倉先生は指摘されています。
この点を戸田市の実証実験で考えると、学校における健康診断、歯科検診、学力テストにおける数学の試験などは、生徒の健康状態を測る目的や教科の学習度合いを測る目的に収集されたデータであり、それらのデータを生徒の不登校の予測の目的で利用することは「最初に収集されたコンテキストとは関係ない社会的コンテキスト」＝「関連性がない」と評価され、AI規制法5条1項(c)に抵触している可能性があるのではないでしょうか。（仮にもし日本にもEUのAI規制法が適用されるとするならば。）
３．まとめ
したがって、高木先生や板倉先生の考え方によれば、戸田市の生徒の不登校予測のためのAIモデルの実証実験や、デジタル庁やこども家庭庁等が推進している教育データの利活用政策は、OECD8原則の「データ内容の原則」およびEUのAI規制法5条1項(c)に抵触のおそれがあるのではないでしょか。このような施策をデジタル庁・こども家庭庁などの政府や戸田市などの自治体が推進していることは法的に大きな問題なのではないでしょうか。４．補足：個人情報保護法の３年ごと見直し・自民党の「責任あるAI推進基本法（仮）」
なお、2023年11月より個人情報保護委員会（PPC）は、個人情報保護法のいわゆる「３年ごと見直し」のための検討を行っています。PPCの資料を読んでみると、AIやプロファイリング、子どもの個人情報保護などが議論の俎上にあがっています。また現行の不適正利用禁止規定（法19条）も条文の具体化が行われるのではないかと思われます。すると現在こども家庭庁などが推進している教育データの利活用政策などは見直しを余儀なくされる可能性もあるのではないでしょうか。（個人の予想ですが。）
（個人情報保護委員会サイトより）
また、2024年２月に自民党は「責任あるAI推進基本法（仮）」を公表しています。しかし同法案は、大手のAI開発事業者を国が指定し、当該事業者に７つの体制整備義務を課し、あとはAI開発事業者の自主ルールにゆだねる内容で、EUのAI規制法の禁止カテゴリ・ハイリスクカテゴリなどのような規定は存在せず、全体としてAIの研究開発の発展を強く推進する内容となっているようであり、日本社会のAIのリスクの防止に不安が残る内容となっています。
AIの研究開発の発展も重要ですが、国民個人の権利利益の保護、個人の基本的人権や個人の人格権の保護も重要なのではないでしょうか（個情法１条、３条）。
（自民党サイトより）
■このブログ記事が面白かったらシェアやブックマークをお願いします！
■参考文献
・「不登校になりそうな児童生徒をAIが予測、戸田市の教育データ活用実証が示したこと」2024年4月４日付日経クロステック
・教育総合データベース（デジタル庁実証事業） の検討状況｜戸田市
・内田洋行とPKSHAグループ、こども家庭庁の実証事業として埼玉県戸田市のこどもの不登校をAIで予測する取組みに参画｜内田洋行
・ニッポンの教育ログを考える——プライバシーフリーク・カフェ＃16（後編）｜カフェJILIS
・EUのAI規制法案の概要｜総務省
■関連するブログ記事
・小中学校のタブレットの操作ログの分析により児童を評価することを個人情報保護法・憲法から考えた－AI・教育の平等・データによる人の選別
・デジタル庁「教育データ利活用ロードマップ」は個人情報保護法・憲法的に大丈夫なのか？
・PPCの「個人情報保護法いわゆる３年ごと見直し規定に基づく検討」(2023年11月)を読んでみた
・個情委の「個人情報保護法いわゆる３年ごと見直し規定に基づく検討（個人の権利利益のより実質的な保護の在り方①）」を読んでみた
PR
