2025年4月11日のCNET Japanの記事によると、「ChatGPTを提供するOpenAIは4月11日、有料の「Plus」「Pro」プランでメモリ機能を強化し、過去の会話をすべて参照できるようにしたと発表した。これにより、より適切で有用なパーソナライズされた回答を提供できるようになる」とのことです。

これは「メモリ機能のオン・オフはユーザーが設定できる。「保存されたメモリを参照する」をオンにすれば、ユーザーの名前や好みなど、過去に保存した情報を参照するようになる。これは、ユーザーが明示的にChatGPTに伝えたとき、あるいはChatGPTが特に有用と判断した場合に、メモリに情報を追加する仕組みだ。チャット履歴を参照する設定をオンにすれば、ChatGPTは過去の会話にある情報を参照し、ユーザーの目標や興味、トーンなどに合わせて会話を進める。こちらはより広範囲に及ぶ設定だ。」という改正であるそうです。

この改正についてX（Twitter）では、「ChatGPTによるプロファイリングの精度があがっている」等の声があがっています。ある方のXの投稿では、ChatGPTに推測させてみたところ、「所属する業界、職業、年収、性別、年齢層、居住地、血液型、家族構成、MBTI診断結果などを当てられた」とのことで、これはなかなかゾッとするというか、恐ろしいものがあります。

この点、Xで、sabakichi（@knshtyk）氏は、「今回のアプデで気が付かされたが、個人のやり取りから学習した特徴のデータというのは要するに"究極の個人情報"であるから、将来的に法的に保護されるべき「個人情報」が指す範囲は今後拡張されていく必要があり、データの生殺与奪の権も利用先の制御もすべてユーザの手元で行える必要が出てくるのでは」と投稿していますが、この点は私も非常に同感です。


（sabakichi（@knshtyk）氏の投稿より）

最近、個人情報保護法については、「個情法の保護法益は何か？」という点について議論があるところです。これまで自己情報コントロール権（情報自己決定権）説が有力であったところ、最近は曽我部真裕教授などによる「自己の情報を適切に取扱われる権利説」や、高木浩光氏による「個人データによる個人の不当な選別・差別の防止説」が有力に主張されています。

しかし最近のChatGPTの猛烈な進化をみると、状況は今後変わってゆくのではないでしょうか。つまり、生成AIなどにより、どんどん個人の内心やプライバシーが緻密にプロファイリングされてしまう状況になり、その機微な情報をOpenAIなどのIT企業が収集・保管・利用するようになる、ビッグテック企業等がどんどん個人の内心やプライバシー、アイデンティティの部分に踏み込んでくると、「自己の個人情報が適切に取扱われる」ことや、「個人データによる個人の不当な選別・差別の防止」が達成されるだけでは不十分であり、sabakichi氏が上で投稿しているように、自己の個人情報・個人データの取扱いについて、個人がコントロールする必要性がより増加してくるのではないでしょうか。

すなわち、曽我部説や高木説に立つと、OpenAIなどのIT企業から「いやいや貴方の個人データはプライバシーポリシーで通知・公表した内容にしたがって適切に処理しています。もちろん不当な選別・差別は行っていません。なので、貴方の個人データをますますプロファイリングに利活用させていただきます」と言われたときに、個人の側としては何の反論もできなくなってしまうわけですが、ChatGPTなどの生成AIがどんどん進歩してゆく今日においては、そのような状況では個人の人間としての存立が危うくなってしまうのではないでしょうか。そのような状況においては、個人としては、自己の情報・データについて、収集したデータをこれ以上勝手に処理・プロファイリングするな、収集・利用・プロファイリングしたデータの利用を停止せよ・データを削除せよ等と主張することが、個人の尊厳、個人の尊重、個人の人格尊重（憲法13条、個情法３条）の保護のためにますます必要となってくるのではないでしょうか。

そのように考えると、生成AIの発展する今日においては、個情法の保護法益としては、「自己の情報を適切に取扱われる権利説」の側面や、「個人データによる個人の不当な選別・差別の防止説」の側面ももちろん重要ではありますが、それと同時に自己情報コントロール権（情報自己決定権）説の側面の重要性も増加しているように思われます。

タグ ：

#ChatGPT

#OpenAI

#AI

#生成AI

#個人情報

#個人情報保護法

#曽我部真裕

#高木浩光

#山本龍彦

#自己情報コントロール権

１．はじめに

5月28日の読売新聞の報道（「生成ＡＩ悪用しウイルス作成、警視庁が２５歳の男を容疑で逮捕…設計情報を回答させたか」）などによると、生成ＡＩを悪用してランサムウェア（身代金ウイルス）のコンピューターウイルスを作成したとして、警視庁は２７日、川崎市、無職の男（２５）を不正指令電磁的記録作成罪（ウイルス作成罪）容疑で逮捕したというニュースが非常に話題となっています。しかしこれが不正指令電磁的記録作成罪が成立するといえるのでしょうか？

記事によると、男性は「複数の対話型生成ＡＩに指示を出してウイルスのソースコード（設計情報）を回答させ、組み合わせて作成した」とのことです。また、「攻撃対象のデータを暗号化したり暗号資産を要求したりする機能が組み込まれていた」とのことです。

ところで読売新聞の別の記事等によると、逮捕された男性は元工場作業員でＩＴ会社への勤務歴やＩＴ技術を学んだ経歴はなく、これまでの捜査では協力者の存在も浮上していないとのことです。いくら生成AIをうまく利用したとしても、IT技術の素人（失礼）が作成したものが刑法が定める不正指令電磁的記録作成罪が成立するといえるのでしょうか？

２．不正指令電磁的記録作成罪の客体に該当するか

刑法
（不正指令電磁的記録作成等）
第百六十八条の二　正当な理由がないのに、人の電子計算機における実行の用に供する目的で、次に掲げる電磁的記録その他の記録を作成し、又は提供した者は、三年以下の懲役又は五十万円以下の罰金に処する。
　一　人が電子計算機を使用するに際してその意図に沿うべき動作をさせず、又はその意図に反する動作をさせるべき不正な指令を与える電磁的記録
　二　前号に掲げるもののほか、同号の不正な指令を記述した電磁的記録その他の記録
２　正当な理由がないのに、前項第一号に掲げる電磁的記録を人の電子計算機における実行の用に供した者も、同項と同様とする。
３　前項の罪の未遂は、罰する。

不正指令電磁的記録作成罪の客体は、刑法の専門書である鎮目往樹・西貝吉晃・北條孝佳『情報刑法Ⅰ』160頁によれば、「電磁的記録」つまり「人が電子計算機を使用するに際してその意図に沿うべき動作をさせず、又はその意図に反する動作をさせるべき不正な指令を与える電磁的記録」（刑法168条の２第１項１号）と、「前号に掲げるもののほか、同号の不正な指令を記述した電磁的記録その他の記録」（同条同項２号）の２つです。

ここで電磁的記録とは、刑法７条の２で「電子的方式、磁気的方式その他人の知覚によっては認識することができない方式で作られる記録であって、電子計算機による情報処理の用に供されるものをいう」と定義されていることから、コンピュータによる情報処理の用に供されるものであり、つまり客体の要件として、そのままの状態でコンピュータ上で実行動作可能であること、要するに、通常はソースコードをコンパイルした実行ファイル（バイナリコード）であることが必要であるとされています（「指令を与える記録」（１号））。一方、コンパイルすればそのままウイルスとして実行可能なソースコードは「指令を記述した記録」（２号）に該当するとされています。（またソースコードを印刷したもの等も２号の「指令を記述した記録」に該当します。）（鎮目・西貝・北條・前掲162頁）

つまり、刑法の専門書によると、不正指令電磁的記録作成罪の構成要件としての「指令を与える記録」（１号）および「指令を記述した記録」（２号）は、「そのままの状態でコンピュータ上で実行動作可能」な実行ファイルであるか、または「コンパイルすればそのままウイルスとして実行可能なソースコード」（またはそれを印刷等したもの）である必要があります。

新聞などの報道によると、男性は目的を伏して複数の生成AIに質問をしてソースコードを作成したとのことですが、IT技術のない男性が、そのような「つぎはぎ」の状態で「コンパイルすればそのままウイルスとして実行可能なソースコード」等を作成することができたのでしょうか。

新聞報道からは詳しいことはよくわかりませんが、もしそうでないとしたら、客体の観点から不正指令電磁的記録作成罪の構成要件には該当しておらず、犯罪は不成立ということになりそうです。

３．まとめ・専門家のコメント

このように見てみると、本事件は詳しいことはまだわかりませんが、逮捕された男性はランサムウェア的なウイルスのようなものを作成したことは確かだとしても、それが刑法の定める不正指令電磁的記録作成罪が成立するかは慎重な検討が必要なのではないかと思われます。

なお、本事件を取り上げた朝日新聞記事のネット版（「「AIなら何でもできる」「楽して稼ごうと」　ウイルス作成容疑の男」）には、鳥海不二夫・東大教授（計算社会科学）の「（本事件の警察やマスメディアは、）「生成AIとウイルス」というキャッチーな内容に飛びついているだけの可能性が否定できません。少なくとも、知識のない人が「悪用対策が不十分な生成AI」にアクセスして簡単にウイルスを作って広められる時代になった、ということを意味するのかどうかは、続報を慎重に見極める必要があるニュースではないでしょうか。」とのコメントが付されておりますが、まさにそのとおりだと思われます。

また同様に須藤龍也・朝日新聞記者（情報セキュリティ）の「サイバーセキュリティ分野の専門記者として私が懸念しているのは、「不正指令電磁的記録に関する罪」の乱用です。今回の事件報道、「生成AI」というキーワードで先行している印象が否めません。」とのコメントが付されていますが、これは非常に正論であると思われます。

2019年に発生・発覚したCoinhive事件（コインハイブ事件）においては不正指令電磁的記録の罪により神奈川県警等が容疑者を逮捕しましたが、2022年には最高裁は同事件について無罪判決を出しました（最高裁令和4年1月20日判決）。警察・検察当局はCoinhive事件の反省に立ち、不正指令電磁的記録の罪の濫用を厳に慎まねばならないはずです。

このブログ記事が面白かったらシェアやブックマークをお願いします！

■参考文献
・鎮目往樹・西貝吉晃・北條孝佳『情報刑法Ⅰ』160頁、162頁
・いわゆるコンピュータ・ウイルスに関する罪について｜法務省

■関連するブログ記事
・コインハイブ事件高裁判決がいろいろとひどい件―東京高裁令和2・2・7 coinhive事件



PR

タグ ：

#生成AI

#ウイルス

#不正指令電磁的記録作成罪

#ウイルス作成罪

#coinhive

#chatGPT

文化庁が、2月12日まで「AIと著作権に関する考え方について（素案）」についてパブコメを実施していたので、つぎのとおり意見を書いて提出しました。

・文化庁パブコメ「「AIと著作権に関する考え方について（素案）」に関する意見募集の実施について」｜e-Gov

１．「２．（２）AIと著作権の関係に関する従来の整理」（７頁）について
「イ　法30条の４の対象となる利用行為」「ウ　「享受」の意義及び享受目的の併存」の部分については、本考え方において非常に重要な部分であると思われるので、2017年の文化審議会著作権分科会報告書38頁以下の説明や同40頁の図なども盛り込んで、どうして法30条の４が権利制限規定として許容されるのか、一般人にさらに分かりやすい説明とすべきではないか。（松尾剛行『ChatGPTと法律実務』83頁以下参照。）


（平成29年の文化審議会著作権分科会報告書40頁の図）

２．クリエイター等の「声」（13頁③）について
最近の生成AIの発展に伴って、声優・俳優・歌手等の声を再現できるAIボイスチェンジャーなど生まれ、声優・俳優・歌手等の本人の許諾のない「声」データ等の売買がネット上で横行している（2023年6月13日付日本俳優連合「生成系AI技術の活用に関する提言」など参照）。しかし声優・俳優・歌手等の「声」そのものについては著作権法上保護されず、判例・学説上はパブリシティ権（民法709条）または人格権（憲法13条）で保護されると解されているが（ピンク・レディ事件・最高裁平成24年2月2日判決、法曹時報 65(5) 151頁、TMI総合法律事務所『著作権の法律相談Ⅱ』312頁、荒岡草馬・篠田詩織・藤村明子・成原慧「声の人格権に関する検討」『情報ネットワーク・ローレビュー』22号24頁）、その保護のためには、①氏名・肖像等それ自体を独立して鑑賞の対象となる商品等として使用し、②商品等の差別化を図る目的で氏名・肖像等を商品等に付し、③氏名・肖像等を商品等の広告として使用すること、等の厳しい要件を満たす必要があり、声優・俳優・歌手等の保護としてハードルが高すぎる。そのため、声優・俳優・歌手等の「声」という人格権（憲法13条）の保護のため、著作権法や不正競争防止法などの法令において、何らかの立法手当が必要なのではないか。

３．「５．（１）ア（ア）平成30年改正の趣旨および（イ）議論の背景」（15頁）について
この部分については、本考え方において非常に重要な部分であると思われるので、2017年の文化審議会著作権分科会報告書38頁以下の説明や同40頁の図なども盛り込んで、どうして法30条の４が権利制限規定として許容されるのか、一般人にさらに分かりやすい説明とすべきではないか。（松尾剛行『ChatGPTと法律実務』83頁以下参照。）

４．「（４）海賊版等の権利侵害複製物をAI学習のため複製すること」（23頁）について
「著作権者の利益を不当に害することとなる場合」について、学習用データセットだけでなく海賊版等を明示したことは良いことだと思いました。

５．「カ　差止請求として取りうる措置について」（32頁）について
差止請求としてAI利用者やAI開発事業者等に対して著作権者が取りうる各種の措置が詳しく例示されており良いと思いました。Twitterなどネット上ではアマチュアのイラストレーターと思われる人々による反画像生成AI、反著作権法30条の４の意見が非常に高まっておりますが、これらの差止請求が可能なことにより、それらの懸念や不満は一定程度は解消されるのではないでしょうか。

６．「コ　学習に用いた著作物等の開示が求められる場合について」（34頁）について
訴訟となった場合に、AI利用者が主張・立証のためAI開発事業者等に対して書類の提出等や文書提出命令、文書送付嘱託などを実施できることが詳しく説明されていることは実務的に大変良いと思いました。

７．補償金制度（36頁）について
著作権者への補償金制度が、著作権法上、理論的な説明が困難であるとしても、Twitterなどネット上でクリエイター等の画像生成AIや著作権法30条の４に反対する意見が非常に大きいことから、政策的な観点から何らかの著作権者への補償金制度が必要なのではないかと思われます。

■関連するブログ記事
・声優の「声」は法的に保護されないのか？－生成AI・パブリシティ権（追記あり）
・【備忘録】文化庁の著作権セミナー「AIと著作権」について



PR

タグ ：

#文化庁

#パブコメ

#AIと著作権に関する考え方について（素案）

#AI

#著作権法

#法30条の4

#生成AI

#chatGPT

#イラストAI

#画像生成AI