なか2656のblog

とある会社の社員が、法律などをできるだけわかりやすく書いたブログです

タグ:HRtech

PCとAI

1.はじめに
米カリフォルニア州の、モブリー対ワークデイ訴訟(Mobley v. Workday 訴訟)は、AIを利用した採用ツールが違法・不当に求職者を選別・差別しているかを争点とした集団訴訟という点で注目を集めています。以下少し調べてみました。本訴訟は現在係争中のものですが、以下のとおり注目すべき内容を含んでいます。

2.モブリー対ワークデイ訴訟の事案の概要と裁判所の判断
(1)事件番号等

事件番号:3:23-cv-00770
管轄裁判所: 米国カリフォルニア州北部地区連邦地方裁判所 (U.S. District Court for the Northern District of California)
提訴日: 2023年2月21日
訴訟の種類: 442 公民権(雇用・就業差別) (Civil Rights: Jobs)

(2)事案の概要
原告の一人の、デレク・モブレー氏(Derek Mobley)は、50歳代でITエンジニア、うつ病などの精神疾患をもつ求職者であったが、2018年以降に100件を超える採用選考に応募し、いずれも不採用となった。そこで、クラウド型HRソフトウェア大手のワークデイ社(Workday社)に対し、同社のAI搭載採用ツールが、人種・年齢・性別・障害といった属性を理由に求職者を不当に選別・差別しているとして、2023年2月21日に訴訟を提起したものです。

原告らは人種・年齢を理由とする意図的差別、および人種・年齢・障害を理由とする差別的効果(disparate impact)について、1964年公民権法第7章(人種・皮膚の色などを理由とした従業員の差別を禁止する規定)、1866年公民権法(Section 1981)、ADEA(年齢差別禁止法)、ADA(障害者差別禁止法)に基づく請求を主張し、さらにワークデイ社による差別の幇助(aiding and abetting)についてカリフォルニア州公正雇用住宅法(FEHA)に基づく請求も行っています。

北カリフォルニア連邦地裁のRita F. Lin判事がこの案件を担当しており、訴訟は複数回の訴状修正と却下申立てを経て進行してきました。

(3)裁判所の判断の経緯
(ア)2024年7月(最初の実質判断)の裁判所の判断
裁判官は、ワークデイ社の却下を求める申立てを一部認容・一部棄却しました。この際、AIベンダーであるワークデイ社が、雇用主の「代理人(agent)」として差別責任を問われ得るとの判断が示され、AIを用いた採用支援サービスを提供するベンダーも差別訴訟の被告になり得ることを示す画期的な先例として注目されました。

(イ)2026年6月22日(最新の判断)
裁判官は、原告らの第4次修正訴状(Fourth/Third Amended Complaint)に対するワークデイ社の却下申立てについて、再び大部分を棄却(=原告の請求の存続を認める)する決定を下しました。主なポイントは以下の通りです。

(a)カリフォルニア州法(FEHA)の適用範囲
ワークデイ社は、「自社のツールはカリフォルニア州外の求職者に適用されたものであり、FEHA(カリフォルニア州公正雇用住宅法)は適用されない」と主張しましたが、裁判所はこれを退けました。ワークデイ社がカリフォルニア州の本社で本件ツールを設計・開発・運用しているという原告の主張により、カリフォルニア州との十分な関連性(nexus)が認められると裁判所は判断しました。差別的な運用の起点がカリフォルニア州内の事業活動にあると認められる限り、応募者や採用先の所在地が州外であってもFEHAが適用され得るとの判断です。

(b)ADA(障害者差別法)に基づく請求
原告の一人が新たに追加した「代理指標(proxy)による差別」の主張については、これは以前に裁判所が修正を認めた範囲内のものであるとして、裁判所は、ワークデイ社の却下を求める申立てを退けました。具体的には、医療目的の休職による職歴の空白期間など、障害を推知させる代理指標に基づいてAIが応募者を排除している可能性があるという原告らの主張について、裁判所はこれを却下しませんでした。

(4)本件訴訟の意義
この訴訟は、AI採用ツールを提供するベンダー自体が差別訴訟の被告となり得ること、および州境を越えて用いられるAIツールであっても、開発・運用拠点の所在地(カリフォルニア州)を根拠に州法の適用を受け得ることを示した点で重要とされています。この段階の決定はワークデイ社の技術が実際に差別的であるかどうかの結論を示すものではありませんが、原告が証拠開示(ディスカバリー)手続きを通じて主張を追及することを認めるものであり、AI採用ツールに対する社会の監視の高まりを改めて示すものとなっています。

(5)補足:「代理指標(proxy)による差別」とは何か
ADA(障害者差別法)は、雇用主が求職者の障害を理由に不採用とすることを禁じていますが、実務上、雇用主(やAIツール)が「障害」そのものを直接の判断材料にしなくても、障害と統計的に相関する別の情報(=代理指標、proxy)を使って間接的に障害者を排除している場合、それもADA違反となり得るという考え方が、「代理指標(proxy)による差別」です。

原告らは、本件訴訟において、ワークデイ社の採用AIソフトウェアが、医療目的の休職に起因する職歴の空白期間や、治療・療養を経た者に典型的に見られるパターンといった情報を手がかりに、障害を持つ応募者を不当に排除している可能性がある、と主張しています。 つまり、職歴データに「〇年間のブランク」がある、そのブランクのパターンが、病気治療・入院・リハビリなどでキャリアが中断した人によく見られる形をしている、といった情報をAIスクリーニングツールが(意図的か否かにかかわらず)拾い上げ、これを「望ましくない候補者」のシグナルとして扱っている結果、障害を持つ応募者が不当に足切りされているのではないか、という主張です。

障害の診断名や病歴そのものを直接尋ねているわけではなくても、統計的に障害と強く結びつく別のデータ(職歴の空白パターンなど)を用いることで、実質的に障害者を狙い撃ちにした選別と同じ効果が生じ得る、というのがこの「proxy discrimination(代理指標による差別)」理論の概要です。

3.まとめ
このように、モブリー対ワークデイ訴訟において、原告らは、ワークデイ社のアルゴリズムが職歴の空白などを理由に、黒人や高齢者、障害者を自動的に弾いていると主張しています。そのため、AIがどのような基準で人を不採用にしたのか、そのアルゴリズムの開示を求める本格的な裁判となっており、この点が注目されています。

また、本件訴訟は、裁判所が、AIツールを提供するワークデイ社を雇用差別法上の「間接的な雇用主(雇用の仲介者)」とみなす余地を認めたため、IT企業側が直面する法的リスクが大きく増加する可能性があります。すなわち、外部AIベンダーも「雇用主」として採用差別について責任を負うとの判決が出される可能性があり、注目されています。

最近の日本においても、多くの企業が採用選考にAIツールを利用していると考えられますが、日本の企業の人事労務部門や法務部門、IT部門なども、このモブリー対ワークデイ訴訟においてどのような判決が出されるか注目すべきように思われます。

このブログ記事が参考になった・面白かったという方は、ぜひSNSでシェアや「いいね」をお願いいたします!!

■関連するブログ記事
・キリンが新卒採用に「AI面接官」を試験導入することを個情法・労働法から考えた
・就活のSNSの「裏アカ」の調査や、ウェブ面接での「部屋着を見せて」等の要求などを労働法・個人情報保護法から考えた(追記あり)
・コロナ下のテレワーク等におけるPCなどを利用した従業員のモニタリング・監視を考えた(追記あり)


■参考文献
・「超知能 きしむ世界(3)「アルゴリズムが差別」訴訟に発展 採用にAI、問われる責任」|日本経済新聞
・California Federal Court Grants In Part And Denies In Part Workday’s Motion To Dismiss In Mobley v. Workday|CLASS ACTION DEFENSE
・Recent Developments in Mobley v. Workday: California Court Allows Key AI-Hiring Bias Claims to Move Forward|REAVIS PAGE JUMP

人気ブログランキング

ブログランキング・にほんブログ村へ

このエントリーをはてなブックマークに追加 mixiチェック

ai_pet_family
1.AIと従業員に関する厚労省の2019年の報告書
人事労務分野の労働者とAIとのあり方に関する報告書を、2019年9月11日に厚労省の労働政策審議会が公表していました(「労働政策審議会労働政策基本部会報告書~働く人がAI等の新技術を主体的に活かし、豊かな将来を実現するために~」)。

・労働政策審議会労働政策基本部会報告書~働く人がAI等の新技術を主体的に活かし、豊かな将来を実現するために~|厚労省

人事労務分野におけるコンピュータやAIなどによる従業員のモニタリングなどについては以前から関心があったので、その観点からこの報告書を読んでみました。

2.AIなどによる従業員のモニタリングについて
すると、本報告書10頁に、つぎのような報告がまとめられていました。

(2)AI による判断に関する企業の責任・倫理
 AI の情報リソースとなるデータやアルゴリズムにはバイアスが含まれている可能性があるため、AI による判断に関して企業が果たすべき責任、倫理の在り方が課題となる。例えば、HRTech では、リソースとなるデータの偏りによって、労働者等が不当に不利益を受ける可能性が指摘されている。

 このため、AI の活用について、企業が倫理面で適切に対応できるような環境整備を行うことが求められる。特に働く人との関連では、人事労務分野等において AI をどのように活用すべきかを労使始め関係者間で協議すること、HRTech を活用した結果にバイアスや倫理的な問題点が含まれているかを判断できる能力を高めること、AI によって行われた業務の処理過程や判断理由等が倫理的に妥当であり、説明可能かどうか等を検証すること等が必要である。

 他方、AI 等を活用することにより、人間による業務判断の中にバイアスが含まれていないかを解析することもできるため、技術革新が人間のバイアスの解消に資する可能性もあるという指摘もあり、今後、こうした面からも AI 等の活用が期待される。(「労働政策審議会労働政策基本部会報告書」10頁より)』

つまり、本報告書10頁の(2)の第二段落は、人事労務分野におけるAIの活用について、

①AI をどのように活用すべきかを労使始め関係者間で協議すること
②HRTech を活用した結果にバイアスや倫理的な問題点が含まれているかを判断できる能力を高めること
③AI によって行われた業務の処理過程や判断理由等が倫理的に妥当であり、説明可能かどうか等を検証すること

の3点を提言しています。
もちろん、この3点は簡潔に的を射ており、とても重要であると思うのですが、しかし厚労省の諮問委員会の報告書が「倫理」を強調している点はやや気になります。

3.旧労働省の行動指針とGDPR22条
旧・労働省の2000年に公表された「労働者に関する個人情報の保護に関する行動指針」6(6)は、「使用者は、原則として、個人情報のコンピュータ等による自動処理又はビデオ等によるモニタリングの結果のみに基づいて労働者に対する評価又は雇用上の決定を行ってはならない。」とする規定を置いています。

・労働者の個人情報保護に関する行動指針|厚労省

また、2016年にEUが制定したGDPR(EU一般データ保護規則)22条1項も、「データ主体は、当該データ主体に関する法的効果を発生させる、又は、当該データ主体に対して同様の重大な影響を及ぼすプロファイリングを含むもっぱら自動化された取扱いに基づいた決定の対象とされない権利を有する。」と規定しています。

GDPR22条
(個人情報保護委員会サイトより)

旧労働省の行動指針やGDPR22条が示すのは、コンピュータ等による個人データの自動処理のみによる結果に基づいて労働者等が人事労務上の差別を受けない権利という平等権(憲法14条1項)だけでなく、コンピュータ等の自動処理のみによって人事労務上の決定を受けない権利という一種の人格権(憲法13条)の2点であると思われます。

人格権的観点からみると、この「コンピュータ等の自動処理のみによって人事労務上の決定を受けない権利(自動処理のみに基づき重要な決定を下されない権利)」の趣旨は、「AIの統計的・確率的な判断からの自由を保障し、個人一人ひとりの評価に原則として人間の関与を求めるなど、時間とコストをかけることを要請して、ネットワーク社会における「個人の尊重」(憲法13条)を実現しようとするものです。また、この権利は、コンピュータ・AIが確率的・統計的に導き出した個人のイメージに異議を唱え、自らが主体的に情報を「出し引き」(コントロール)することにより、そのイメージを改定することを認めている点で、「自己情報コントロール権」(憲法13条)に近いともいえます。さらに、適正な手続き保障(憲法31条)の観点からも重要な権利といえます。(山本龍彦『AIと憲法』101頁~105頁)

それに対して2019年の厚労省の労働政策審議会の報告書は、人事労務分野におけるAIによる従業員のモニタリングの問題を主に「倫理」の面から捉え「法律」の面から捉えていない点が問題であり、また、AIによる労働者のモニタリングの問題を「コンピュータによる差別」「バイアス」と平等権の問題のみから捉えている点も問題ではないかと思われます。

4.労働法-西日本鉄道事件(最高裁昭和43年8月2日判決)
この点、労働法分野においては、使用者の指揮監督権と従業員のプライバシー権が衝突する場面については、古くから使用者による従業員の所持品検査などが裁判で争われていました。

そのリーディングケースである、西日本鉄道事件(最高裁昭和43年8月2日判決)は、「使用者が従業員に対して行う所持品検査は、これは被検査者の基本的人権に関する問題であって、その性質上、常に人権侵害のおそれを伴うものであるから、たとえそれが企業の経営・維持にとって必要かつ効果的な措置(略)であったとしても、そのことをもって当然に適法視されるものではない」とした上で、所持品検査が適法となるための要件として、「①検査を必要とする合理的な理由のあること、②一般的に妥当な方法と程度であること、③職場従業員に画一的に実施されていること、④就業規則その他の規定に明示の根拠があること」の4要件をあげています。

一般論としては、人事労務分野のAIやコンピュータによる従業員のモニタリングは、この要件のなかで、とくに「②一般的に妥当な方法と程度であること」、「③職場従業員に画一的に実施されていること」が今後、より争点となるように思われます。

5.まとめ
厚労省の労働政策審議会は、人事労務分野・HRtechにおけるAIやコンピュータ等による従業員のモニタリングについてせっかく報告書を取りまとめるのであれば、倫理的問題だけでなく、労働法・個人情報保護法・憲法などに目配りをした上で、法的な問題や、それをクリアするための基準を可能な範囲で示すべきだったように思われます。

また、今後の社会・経済はますますグローバル化が進行するように思われ、日本の人事労務分野もますますグローバルな視線が必要になると思われます。日本の人事労務やHRtechが「官民による個人情報の利活用」ばかりを重視しガラパゴス化して、欧米と断絶してしまう事態は避けるべきだと思われます。

■関連するブログ記事
・従業員をスマホでモニタリングし「幸福度」「ハピネス度」を判定する日立の新事業を労働法・個人情報保護法的に考えた
・リクルートなどの就活生の内定辞退予測データの販売を個人情報保護法・職安法的に考える

■参考文献
・菅野和夫『労働法 第12版』262頁
・高野一彦「従業員の監視とプライバシー保護」『プライバシー・個人情報保護の新課題』163頁(堀部政男)
・高木浩光「個人情報保護から個人データ保護へ ―民間部門と公的部門の規定統合に向けた検討(2)」『情報法制研究』2号91頁
・山本龍彦『AIと憲法』101頁
・小向太郎・石井夏生利『概説GDPR』93頁
・労務行政研究所『新・労働法実務相談 第2版』549頁




AIと憲法

概説GDPR

労働法 (法律学講座双書)

ニッポンの個人情報 「個人を特定する情報が個人情報である」と信じているすべての方へ

このエントリーをはてなブックマークに追加 mixiチェック

↑このページのトップヘ