１．はじめに

「いまのつらさに耐えられないのなら、一度隠れてしまいましょう」と、自殺防止の対策に取り組むNPO法人「ライフリンク」が、生成AIを利用したオンライン上に自殺対策のためのウェブサービス「かくれてしまえばいいのです」を作ったことをNHKなどが報道しています。公開から3日で30万以上のアクセスを集め話題になっているとのことです。
・つらい気持ち抱える人へ ネット上の「かくれが」話題に｜NHK

自殺願望（希死念慮）のある利用者が生成AIと会話ができるサービスもあるようで、そのような非常にデリケートなカウンセリング業務を人間でなく生成AIにまかせてしまって大丈夫なのか非常に気になります。

また、そのようなセンシティブな会話、個人データの取扱いが大丈夫なのかが非常に気になるところです。

２．実際にサービスに入ってみるとー要配慮個人情報の取得の際の本人同意は？

実際に「かくれてしまえばいいのです」のトップ画面から利用画面に入ってみました。



しかし、本サービスは自殺願望のある人々の悩みなどを取扱うため、うつ病やオーバードーズなどの精神疾患の情報を扱う可能性が高いところ、そのようなセンシティブな個人情報（場合によっては健康・医療データ）を書き込み等により電磁的記録として収集するにもかかわらず利用者の本人同意を取得することについてのボタンやチェックマークなどは表示されませんでした。これは要配慮個人情報の取得にあたっては本人同意を必要としている個人情報保護法20条２項に抵触しているのではないでしょうか？（個人情報保護法ガイドライン（通則編）2-16参照。）

あるいは「偽りその他不正な手段」による個人情報の収集を禁止する個情法20条１項に抵触しているのではないでしょうか。

なお、個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等について（令和５年６月２日）」の生成AI事業者向けの注意喚起は、そもそも、「収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと」を求めています。（松尾剛行『ChatGPTと法律実務』64頁。）

そのような観点からも、精神疾患などの要配慮個人情報を生成AIで取扱うことを前提とした本サービスを実施してよいのか疑問が残ります。

３．「ロボとおしゃべりコーナー」－警察等に通報される？

つぎに、生成AIに悩み事を相談できる部屋「ロボとおしゃべりコーナー」にも入ってみました。



するとつぎのような表示が現れました。



この部屋に入る場面においても、利用者の本人同意を取得するためのボタンやチェックマークなどは現れませんでした。

また、このアナウンスの表示には「私はただのプログラムだから何を言っても大丈夫！気軽にやってみてね」と書かれているだけです。

しかしこの点、「かくれてしまえばいいのです」の利用規約には、「本人または第三者に危害のおそれがある場合には、本人の同意にかかわらず警察等の関係機関に通報する」等の規定があるのですが（利用規約３条２項）、こういった点も十分アナウンスされていないことも気になります。

４．利用規約－Microsoft社のAzureやOpenAIServiceを利用している

この利用規約を読んでみると、MicrosoftのAzureOpenAIServiceを利用していることが分かります。




入力された個人データなどは、Microsoft社のAzureOpenAIServiceの機械学習には利用されないとは一応書かれていますが、Microsoft社のサーバーに個人データは蓄積されると期されています。さらに、ライフリンクは自殺対策の調査・研究・検証などのために入力された個人データなどを利用するとも書かれている点は、利用者は注意が必要でしょう（利用規約３条３項３号、同6条２項）。

しかもプライバシーポリシーには安全管理措置を講じると書かれている部分はありますが（プライバシーポリシー４条）、具体的に個人データの保存期間などの明記はありません。

さらに、ライフリンクのプライバシーポリシーには個人情報の開示・訂正・削除等請求の具体的な手続きが記載されていないことも非常に気になります。

なお、プライバシーポリシーをみると、大学など研究機関に個人データが匿名加工情報の形態とはいえ、第三者提供されるとの記述もあることが気になります（プライバシーポリシー10条）。



ところでこの利用規約３条で一番気になるのは、同３条３項４号が「利用者は、当該サービスが自らの心身や認識に対して直接または間接に影響を及ぼしうることに留意し、当該サービスに過度に依拠して何らかの決定を行わないよう注意して利用すること」と明示していることではないでしょうか。

つまり、ライフリンクはこの「かくれてしまえばいいのです」の生成AIサービスなどによる相談業務などは、利用者にとって悪影響があるおそれがあることを承知しつつ、それを利用者の責任で利用せよとしているのです。これは、まだまだ発展途上の生成AIの危険を利用者に丸投げするものであり、場合によってはライフリンクは不法行為責任（民法709条）などを負う可能性があるのではないでしょうか？

しかし、利用規約３条４項は、ライフリンクは「当該サービスの利用により利用者または第三者に生じたいかなる損害に対しても、何ら責任を負わない」と明記しています。とはいえ、このような利用規約の規定は、消費者契約法10条などとの関係で無効とされる可能性があるのではないでしょうか？

生成AIは、真顔で嘘をつくこと（ハルシネーション（Hallucination））や、間違いを犯すことが知られています。また正しい発言であっても、自殺願望のある人に言ってよいことと悪いことがあるはずです。このような機微にわたる業務は精神科やカウンセラーなど専門家の「人間」が実施すべきことなのではないでしょうか。それを生成AIにやらせてしまっている本サービスには非常に疑問を感じます。

また、この点を個人情報保護法から考えても、このようなライフリンクの姿勢は、「個人情報取扱事業者は、違法又は不当な行為を助長し、又は誘発するおそれがある方法により個人情報を利用してはならない。」との個情法19条の不適正利用の禁止に抵触し、個人情報保護委員会から行政指導・行政処分などが課される可能性があるのではないでしょうか？

この点、EUのAI規制法案は、AIをそのリスクの度合いで４分類しているところ、医療機器などに関連するAIはそのリスクの高い順から２番目の「ハイリスク」に分類され、事業者には透明性や説明責任、ログの保管義務等が要求され、さらに当局のデータベースに登録される義務等が課されます。そういった意味で、この「かくれてしまえばいいのです」は日本の厚労省などの監督当局が承知しているのか気になります。

５．まとめ

このように、この「かくれてしまえばいいのです」のサービスや、利用規約、プライバシーポリシーはツッコミどころが満載です。

いくら「いのちの電話」などが人手不足であったとしても、自殺願望のある人々の相談業務などを、まだまだ発展途上の生成AIにやらせてしまって大丈夫なのでしょうか？厚労省や個人情報保護委員会、警察当局などはこのサービスについて十分承知しているのでしょうか？大いに心配なものがあります。利用者の方々は、本サービスの利用規約やプライバシーポリシーなどをよく読み、十分ご自身で検討した上で利用するか否かを考えるべきだと思われます。

自殺願望などがある方々は、まずは最寄りの精神科や資格を持ったカウンセラー、「いのちの電話」などを利用するべきだと思われます。安易にセンシティブな病状などの個人情報を生成AIに入力して相談等することは慎重であるべきだと思われます。

このブログ記事が面白かったらシェアなどをお願いします！

■参考文献
・つらい気持ち抱える人へ ネット上の「かくれが」話題に｜NHK
・「かくれてしまえばいいのです」利用規約｜ライフリンク
・プライバシーポリシー｜ライフリンク
・生成AIサービスの利用に関する注意喚起等について（令和５年６月２日）｜個人情報保護委員会
・松尾剛行『ChatGPTと法律実務』64頁



PR

タグ ：

#かくれてしまえばいいのです

#ライフリンク

#chatGPT

#個人情報

#security

#privacy

#自殺

#Microsoft

#openAI

#AI

文化庁が、2月12日まで「AIと著作権に関する考え方について（素案）」についてパブコメを実施していたので、つぎのとおり意見を書いて提出しました。

・文化庁パブコメ「「AIと著作権に関する考え方について（素案）」に関する意見募集の実施について」｜e-Gov

１．「２．（２）AIと著作権の関係に関する従来の整理」（７頁）について
「イ　法30条の４の対象となる利用行為」「ウ　「享受」の意義及び享受目的の併存」の部分については、本考え方において非常に重要な部分であると思われるので、2017年の文化審議会著作権分科会報告書38頁以下の説明や同40頁の図なども盛り込んで、どうして法30条の４が権利制限規定として許容されるのか、一般人にさらに分かりやすい説明とすべきではないか。（松尾剛行『ChatGPTと法律実務』83頁以下参照。）


（平成29年の文化審議会著作権分科会報告書40頁の図）

２．クリエイター等の「声」（13頁③）について
最近の生成AIの発展に伴って、声優・俳優・歌手等の声を再現できるAIボイスチェンジャーなど生まれ、声優・俳優・歌手等の本人の許諾のない「声」データ等の売買がネット上で横行している（2023年6月13日付日本俳優連合「生成系AI技術の活用に関する提言」など参照）。しかし声優・俳優・歌手等の「声」そのものについては著作権法上保護されず、判例・学説上はパブリシティ権（民法709条）または人格権（憲法13条）で保護されると解されているが（ピンク・レディ事件・最高裁平成24年2月2日判決、法曹時報 65(5) 151頁、TMI総合法律事務所『著作権の法律相談Ⅱ』312頁、荒岡草馬・篠田詩織・藤村明子・成原慧「声の人格権に関する検討」『情報ネットワーク・ローレビュー』22号24頁）、その保護のためには、①氏名・肖像等それ自体を独立して鑑賞の対象となる商品等として使用し、②商品等の差別化を図る目的で氏名・肖像等を商品等に付し、③氏名・肖像等を商品等の広告として使用すること、等の厳しい要件を満たす必要があり、声優・俳優・歌手等の保護としてハードルが高すぎる。そのため、声優・俳優・歌手等の「声」という人格権（憲法13条）の保護のため、著作権法や不正競争防止法などの法令において、何らかの立法手当が必要なのではないか。

３．「５．（１）ア（ア）平成30年改正の趣旨および（イ）議論の背景」（15頁）について
この部分については、本考え方において非常に重要な部分であると思われるので、2017年の文化審議会著作権分科会報告書38頁以下の説明や同40頁の図なども盛り込んで、どうして法30条の４が権利制限規定として許容されるのか、一般人にさらに分かりやすい説明とすべきではないか。（松尾剛行『ChatGPTと法律実務』83頁以下参照。）

４．「（４）海賊版等の権利侵害複製物をAI学習のため複製すること」（23頁）について
「著作権者の利益を不当に害することとなる場合」について、学習用データセットだけでなく海賊版等を明示したことは良いことだと思いました。

５．「カ　差止請求として取りうる措置について」（32頁）について
差止請求としてAI利用者やAI開発事業者等に対して著作権者が取りうる各種の措置が詳しく例示されており良いと思いました。Twitterなどネット上ではアマチュアのイラストレーターと思われる人々による反画像生成AI、反著作権法30条の４の意見が非常に高まっておりますが、これらの差止請求が可能なことにより、それらの懸念や不満は一定程度は解消されるのではないでしょうか。

６．「コ　学習に用いた著作物等の開示が求められる場合について」（34頁）について
訴訟となった場合に、AI利用者が主張・立証のためAI開発事業者等に対して書類の提出等や文書提出命令、文書送付嘱託などを実施できることが詳しく説明されていることは実務的に大変良いと思いました。

７．補償金制度（36頁）について
著作権者への補償金制度が、著作権法上、理論的な説明が困難であるとしても、Twitterなどネット上でクリエイター等の画像生成AIや著作権法30条の４に反対する意見が非常に大きいことから、政策的な観点から何らかの著作権者への補償金制度が必要なのではないかと思われます。

■関連するブログ記事
・声優の「声」は法的に保護されないのか？－生成AI・パブリシティ権（追記あり）
・【備忘録】文化庁の著作権セミナー「AIと著作権」について



PR

タグ ：

#文化庁

#パブコメ

#AIと著作権に関する考え方について（素案）

#AI

#著作権法

#法30条の4

#生成AI

#chatGPT

#イラストAI

#画像生成AI

７月１日に日本データベース学会の「2023年度第1回DBSJセミナー「AI生成コンテンツ利用における法的課題や活用事例」」をオンラインで受講しました。弁護士の田中浩之先生の個人情報保護法に関する講義が大変勉強になったので、講義中にとったメモをまとめてみたいと思います。（メモのため、もし間違いがあった場合それは私の責任です。）

１．学習済みパラメータは、個人情報に当たるか？
個人情報保護法ガイドラインQA1-8によれば個人情報にあたらない。また同QA2-5によれば個人情報の取扱いではないのでプライバシーポリシーの利用目的に記載する必要はない。

２．生成AIと要配慮個人情報について
●個人情報をAIでプロファイリングして得られた推知情報が要配慮個人情報に該当するかについては、該当しないとするのが日本の個人情報保護法学界の多数説である。

●ネット上の個人データの収集（スクレイピング）自体については個人情報保護法はこれを規制していない。しかし要配慮個人情報の取得については原則として本人の同意が必要となる（法20条２項）。ただし法20条２項７号は「当該要配慮個人情報が、本人、国の機関、地方公共団体、学術研究機関等、第五十七条第一項各号に掲げる者その他個人情報保護委員会規則で定める者により公開されている場合」には本人同意が不要と規定しているので、本人がネット上の要配慮個人情報を公開している場合などはこの例外規定が適用される。

●ネット上の要配慮個人情報の収集（スクレイピング）については、個人情報保護委員会（PPC）が6月２日付で発出した「生成AIサービスの利用に関する注意喚起等について」の「【別添２】OpenAIに対する注意喚起の概要」の１．（１）（２）が参考になる。すなわちPPCはつぎのように整理している。


（個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」「【別添２】OpenAIに対する注意喚起の概要」より）

３．生成AIと第三者提供
●個人情報をchatGPT等の生成AIに入力することはchatGPT（openAI社）等への第三者提供に該当するのか？
・個人情報保護法ガイドラインQA7-53、54はクラウトサービスに事業者が個人情報を預ける場合に関して、それがただ単に「倉庫として利用しているような場合」には第三者提供には該当しないとしているところ、chatGPT等の生成AIは処理や機械学習などを行っているので、これを「倉庫として利用しているような場合」と考えることはできず、原則として第三者提供に該当すると考えるべきであろう。

ただし、上述の個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等について」の「【別添１】生成AIサービスの利用に関する注意喚起等」は、生成AIが機械学習をしていないのであれば第三者提供に該当しないと読める。

なお、openAI社のchatGPTの利用規約などを読むと、openAI社は「入力された情報を30日間保存する」と規定している。しかしこの点については、個人情報保護法27条１項２号の「人の生命、身体又は財産の保護のために必要がある場合であって、本人の同意を得ることが困難であるとき。」に該当する場合であるとして、第三者提供にあたらないと考えることは可能であろう。

企業などがopenAI社とデータ処理契約（DPA）を締結してchatGPTを利用する場合には、契約内容にてこれらの点を問題ないように処理できるであろう。しかしopenAI社とデータ処理契約を締結できない個人の利用などの場合には、第三者提供の問題が起きることになるであろう。

４．生成AIと不適正利用禁止規定
●chatGPTなどの生成AIが勝手に個人情報に関する回答を行ったらどうなるか？
・このような場合については、chatGPTなどの生成AIは統計的な計算により回答を行っていることから第三者提供にはあたらないと考えることもありうる。とはいえ、chatGPTなどが嘘の前科を回答する事例は現実に発生しており、これは大問題といえる。

この点に関しては個人情報保護法19条の不適正利用の禁止の条文の適用も考えられるが、個人情報保護委員会はこの条項を伝家の宝刀としてこれまではあまり発動してこなかった。しかし、個人情報保護委員会が本年３月に公表した、「犯罪予防や安全確保のためのカメラ画像利用に関する有識者検討会」の「犯罪予防や安全確保のためのカメラ画像利用に関する有識者検討会報告書（令和５年３月）」20頁はつぎのように記述しており、個人情報保護法とプライバシーが重なり合う場面において、法19条の不適正利用禁止条項が法執行されることが今後はあるかもしれないと思われる。


（個人情報保護委員会「犯罪予防や安全確保のためのカメラ画像利用に関する有識者検討会報告書（令和５年３月）」20頁より）

このブログ記事が面白かったらシェアやブックマークをお願いします！

■関連するブログ記事
・chatGPT等の「生成AIサービスの利用に関する注意喚起等について」に関して個人情報保護委員会に質問してみた
・【備忘録】文化庁の著作権セミナー「AIと著作権」について
・個人情報保護委員会の「犯罪予防や安全確保のためのカメラ画像利用に関する有識者検討会報告書（案）」に関するパブコメに意見を書いてみた



PR

タグ ：

#chatGPT

#openAI

#個人情報

#田中浩之

#日本データベース学会

#security

#privacy

#個人情報保護委員会

#AI