なか2656のblog

とある会社の社員が、法律などをできるだけわかりやすく書いたブログです

タグ:生成AI

computer_sagi_virus

1.はじめに

5月28日の読売新聞の報道(「生成AI悪用しウイルス作成、警視庁が25歳の男を容疑で逮捕…設計情報を回答させたか」)などによると、生成AIを悪用してランサムウェア(身代金ウイルス)のコンピューターウイルスを作成したとして、警視庁は27日、川崎市、無職の男(25)を不正指令電磁的記録作成罪(ウイルス作成罪)容疑で逮捕したというニュースが非常に話題となっています。しかしこれが不正指令電磁的記録作成罪が成立するといえるのでしょうか?

記事によると、男性は「複数の対話型生成AIに指示を出してウイルスのソースコード(設計情報)を回答させ、組み合わせて作成した」とのことです。また、「攻撃対象のデータを暗号化したり暗号資産を要求したりする機能が組み込まれていた」とのことです。

ところで読売新聞の別の記事等によると、逮捕された男性は元工場作業員でIT会社への勤務歴やIT技術を学んだ経歴はなく、これまでの捜査では協力者の存在も浮上していないとのことです。いくら生成AIをうまく利用したとしても、IT技術の素人(失礼)が作成したものが刑法が定める不正指令電磁的記録作成罪が成立するといえるのでしょうか?

2.不正指令電磁的記録作成罪の客体に該当するか

刑法
(不正指令電磁的記録作成等)
第百六十八条の二 正当な理由がないのに、人の電子計算機における実行の用に供する目的で、次に掲げる電磁的記録その他の記録を作成し、又は提供した者は、三年以下の懲役又は五十万円以下の罰金に処する。
  人が電子計算機を使用するに際してその意図に沿うべき動作をさせず、又はその意図に反する動作をさせるべき不正な指令を与える電磁的記録
  前号に掲げるもののほか、同号の不正な指令を記述した電磁的記録その他の記録
 正当な理由がないのに、前項第一号に掲げる電磁的記録を人の電子計算機における実行の用に供した者も、同項と同様とする。
 前項の罪の未遂は、罰する。
不正指令電磁的記録作成罪の客体は、刑法の専門書である鎮目往樹・西貝吉晃・北條孝佳『情報刑法Ⅰ』160頁によれば、「電磁的記録」つまり「人が電子計算機を使用するに際してその意図に沿うべき動作をさせず、又はその意図に反する動作をさせるべき不正な指令を与える電磁的記録」(刑法168条の2第1項1号)と、「前号に掲げるもののほか、同号の不正な指令を記述した電磁的記録その他の記録」(同条同項2号)の2つです。

ここで電磁的記録とは、刑法7条の2で「電子的方式、磁気的方式その他人の知覚によっては認識することができない方式で作られる記録であって、電子計算機による情報処理の用に供されるものをいう」と定義されていることから、コンピュータによる情報処理の用に供されるものであり、つまり客体の要件として、そのままの状態でコンピュータ上で実行動作可能であること、要するに、通常はソースコードをコンパイルした実行ファイル(バイナリコード)であることが必要であるとされています(「指令を与える記録」(1号))。一方、コンパイルすればそのままウイルスとして実行可能なソースコードは「指令を記述した記録」(2号)に該当するとされています。(またソースコードを印刷したもの等も2号の「指令を記述した記録」に該当します。)(鎮目・西貝・北條・前掲162頁)

つまり、刑法の専門書によると、不正指令電磁的記録作成罪の構成要件としての「指令を与える記録」(1号)および「指令を記述した記録」(2号)は、「そのままの状態でコンピュータ上で実行動作可能」な実行ファイルであるか、または「コンパイルすればそのままウイルスとして実行可能なソースコード」(またはそれを印刷等したもの)である必要があります。

新聞などの報道によると、男性は目的を伏して複数の生成AIに質問をしてソースコードを作成したとのことですが、IT技術のない男性が、そのような「つぎはぎ」の状態で「コンパイルすればそのままウイルスとして実行可能なソースコード」等を作成することができたのでしょうか。

新聞報道からは詳しいことはよくわかりませんが、もしそうでないとしたら、客体の観点から不正指令電磁的記録作成罪の構成要件には該当しておらず、犯罪は不成立ということになりそうです。

3.まとめ・専門家のコメント

このように見てみると、本事件は詳しいことはまだわかりませんが、逮捕された男性はランサムウェア的なウイルスのようなものを作成したことは確かだとしても、それが刑法の定める不正指令電磁的記録作成罪が成立するかは慎重な検討が必要なのではないかと思われます。

なお、本事件を取り上げた朝日新聞記事のネット版(「「AIなら何でもできる」「楽して稼ごうと」 ウイルス作成容疑の男」)には、鳥海不二夫・東大教授(計算社会科学)の「(本事件の警察やマスメディアは、)「生成AIとウイルス」というキャッチーな内容に飛びついているだけの可能性が否定できません。少なくとも、知識のない人が「悪用対策が不十分な生成AI」にアクセスして簡単にウイルスを作って広められる時代になった、ということを意味するのかどうかは、続報を慎重に見極める必要があるニュースではないでしょうか。」とのコメントが付されておりますが、まさにそのとおりだと思われます。

また同様に須藤龍也・朝日新聞記者(情報セキュリティ)の「サイバーセキュリティ分野の専門記者として私が懸念しているのは、「不正指令電磁的記録に関する罪」の乱用です。今回の事件報道、「生成AI」というキーワードで先行している印象が否めません。」とのコメントが付されていますが、これは非常に正論であると思われます。

2019年に発生・発覚したCoinhive事件(コインハイブ事件)においては不正指令電磁的記録の罪により神奈川県警等が容疑者を逮捕しましたが、2022年には最高裁は同事件について無罪判決を出しました(最高裁令和4年1月20日判決)。警察・検察当局はCoinhive事件の反省に立ち、不正指令電磁的記録の罪の濫用を厳に慎まねばならないはずです。

このブログ記事が面白かったらシェアやブックマークをお願いします!

■参考文献
・鎮目往樹・西貝吉晃・北條孝佳『情報刑法Ⅰ』160頁、162頁
・いわゆるコンピュータ・ウイルスに関する罪について|法務省

■関連するブログ記事
・コインハイブ事件高裁判決がいろいろとひどい件―東京高裁令和2・2・7 coinhive事件

人気ブログランキング

PR
このエントリーをはてなブックマークに追加 mixiチェック

文化庁が、2月12日まで「AIと著作権に関する考え方について(素案)」についてパブコメを実施していたので、つぎのとおり意見を書いて提出しました。

・文化庁パブコメ「「AIと著作権に関する考え方について(素案)」に関する意見募集の実施について」|e-Gov

1.「2.(2)AIと著作権の関係に関する従来の整理」(7頁)について
「イ 法30条の4の対象となる利用行為」「ウ 「享受」の意義及び享受目的の併存」の部分については、本考え方において非常に重要な部分であると思われるので、2017年の文化審議会著作権分科会報告書38頁以下の説明や同40頁の図なども盛り込んで、どうして法30条の4が権利制限規定として許容されるのか、一般人にさらに分かりやすい説明とすべきではないか。(松尾剛行『ChatGPTと法律実務』83頁以下参照。)

報告書40頁の図
(平成29年の文化審議会著作権分科会報告書40頁の図)

2.クリエイター等の「声」(13頁③)について
最近の生成AIの発展に伴って、声優・俳優・歌手等の声を再現できるAIボイスチェンジャーなど生まれ、声優・俳優・歌手等の本人の許諾のない「声」データ等の売買がネット上で横行している(2023年6月13日付日本俳優連合「生成系AI技術の活用に関する提言」など参照)。しかし声優・俳優・歌手等の「声」そのものについては著作権法上保護されず、判例・学説上はパブリシティ権(民法709条)または人格権(憲法13条)で保護されると解されているが(ピンク・レディ事件・最高裁平成24年2月2日判決、法曹時報 65(5) 151頁、TMI総合法律事務所『著作権の法律相談Ⅱ』312頁、荒岡草馬・篠田詩織・藤村明子・成原慧「声の人格権に関する検討」『情報ネットワーク・ローレビュー』22号24頁)、その保護のためには、①氏名・肖像等それ自体を独立して鑑賞の対象となる商品等として使用し、②商品等の差別化を図る目的で氏名・肖像等を商品等に付し、③氏名・肖像等を商品等の広告として使用すること、等の厳しい要件を満たす必要があり、声優・俳優・歌手等の保護としてハードルが高すぎる。そのため、声優・俳優・歌手等の「声」という人格権(憲法13条)の保護のため、著作権法や不正競争防止法などの法令において、何らかの立法手当が必要なのではないか。

3.「5.(1)ア(ア)平成30年改正の趣旨および(イ)議論の背景」(15頁)について
この部分については、本考え方において非常に重要な部分であると思われるので、2017年の文化審議会著作権分科会報告書38頁以下の説明や同40頁の図なども盛り込んで、どうして法30条の4が権利制限規定として許容されるのか、一般人にさらに分かりやすい説明とすべきではないか。(松尾剛行『ChatGPTと法律実務』83頁以下参照。)

4.「(4)海賊版等の権利侵害複製物をAI学習のため複製すること」(23頁)について
「著作権者の利益を不当に害することとなる場合」について、学習用データセットだけでなく海賊版等を明示したことは良いことだと思いました。

5.「カ 差止請求として取りうる措置について」(32頁)について
差止請求としてAI利用者やAI開発事業者等に対して著作権者が取りうる各種の措置が詳しく例示されており良いと思いました。Twitterなどネット上ではアマチュアのイラストレーターと思われる人々による反画像生成AI、反著作権法30条の4の意見が非常に高まっておりますが、これらの差止請求が可能なことにより、それらの懸念や不満は一定程度は解消されるのではないでしょうか。

6.「コ 学習に用いた著作物等の開示が求められる場合について」(34頁)について
訴訟となった場合に、AI利用者が主張・立証のためAI開発事業者等に対して書類の提出等や文書提出命令、文書送付嘱託などを実施できることが詳しく説明されていることは実務的に大変良いと思いました。

7.補償金制度(36頁)について
著作権者への補償金制度が、著作権法上、理論的な説明が困難であるとしても、Twitterなどネット上でクリエイター等の画像生成AIや著作権法30条の4に反対する意見が非常に大きいことから、政策的な観点から何らかの著作権者への補償金制度が必要なのではないかと思われます。

■関連するブログ記事
・声優の「声」は法的に保護されないのか?-生成AI・パブリシティ権(追記あり)
・【備忘録】文化庁の著作権セミナー「AIと著作権」について

人気ブログランキング

PR
このエントリーをはてなブックマークに追加 mixiチェック

OIG (13)
内閣府知的財産戦略推進事務局が11月5日まで「AI時代における知的財産権に関する御意見の募集について」のパブコメを実施しています。Twitterなどネット上をみていると、同人絵師の方々を中心に生成AIへの反対意見が強いように思われるので、私は次のような、あえて生成AIの研究開発に肯定的な意見を書いて提出してみました。

1 生成AIと著作権の関係について、どのように考えるか。
わが国のAI等の科学技術の発展や経済発展のためには、著作権法30条の4にあるとおり生成AIの学習・開発段階はできるだけ法規制せず、一方、生成・利用段階は著作権法等で法規制を行い、生成AIの研究開発と権利者の保護のバランスを図るべきだと考えます。

2 生成AIと著作権以外の知的財産法との関係について、どのように考えるか。
最近、声優・俳優等の「声」と生成AIとの関係が問題になっていますが、声優・俳優等の「声」はパブリシティ権で保護されます(法曹時報 65(5) 151頁、最高裁平成24年2月2日判決)。そのため、著作権法等で安易に新たに声優・俳優等の「声」を法規制することには反対です。

3 生成AIに係る知的財産権のリスク回避等の観点から、技術による対応について、どのように考えるか。
日本新聞協会などが「新聞記事を生成AIの学習に利用させるな」等と主張していますが、それは新聞社各社が自社サイトに「生成AI学習禁止」とのタグなどの技術的措置をすればよいだけであると考えます。新聞社の利益よりも生成AIの研究開発を重視すべきだと考えます。

4 生成AIに関し、クリエイター等への収益還元の在り方について、どのように考えるか。
わが国の生成AIの研究開発を積極的に推進するために、学習・開発段階で利用料をとるのではなく、生成・利用段階で利用料をとるなどしてクリエイター等に還元すべきだと考えます。

6 ディープフェイクについて、知的財産法の観点から、どのように考えるか。
欧米などのように、民主主義を守る観点から、生成AIを利用した記事や動画・画像などには「生成AIで作成」等の注意書きをつけるよう法令やガイドラインなどでマスメディアやSNS・検索サイト等のデジタルプラットフォーム等に義務付けるべきだと考えます。

7 社会への発信等の在り方について、どのように考えるか。
とくにマンガ・アニメ等のイラスト等の分野に関して、生成AIに反対する感情的な意見がネット上に広まっていると感じます。これに対して政府は、例えば先般の文化庁の「著作権とAI」の講演会のような、学術的・理性的な情報発信を行い対応すべきだと考えます。

その他
「知的財産法と生成AI」だけでなく、「個人情報保護法と生成AI」についても政府や国会で検討していただきたいと考えます。

人気ブログランキング

PR
このエントリーをはてなブックマークに追加 mixiチェック

job_seiyuu
1.声優の「声」は現行法下では保護されないのか?
最近の生成AIの発展に伴って、声優の声を再現できるAIボイスチェンジャーなどが販売されているそうです。このような時代の流れを受けて、本年6月には日本俳優連合が著作権法を改正して「声の肖像権」の確立などを国に求める声明を出しています。たしかに人間の「声」そのものは著作権法で保護されていませんが(ただし声優の声の演技は著作隣接権で保護される)、現行法下で声優等の「声」そのものは保護されていないのでしょうか?

日本俳優連合が“生成AI”に提言 「新たな法律の制定を強く望む」 声の肖像権確立など求める|ITmedeiaニュース

2.柿沼太一弁護士のご見解・「ピンク・レディ」事件
この点、「有名声優の「声」を生成AIで量産し、それを商用利用することは可能か?【CEDEC 2023】」GameBusiness.jpによると、本年8月に一般社団法人コンピュータエンターテインメント協会(CESA)が開催した講演会「CEDEC 2023」において、生成AIや著作権などに詳しい弁護士の柿沼太一先生(STORIA法律事務所)がつぎのように講演したとのことです。

「簡単に言うと、声優さんの声をAIに学習させてモデルを作るところまでは適法です。が、そのモデルから既存の声優さんの声を新たに生成し、ゲームに使うのはパブリシティ権侵害になると思います」
すなわち、同講演会において、パブリシティ権を認めた最高裁判決であるピンク・レディ事件(最高裁平成24年2月2日判決、芸能人ピンク・レディの写真を週刊誌が無断で使用した事件)について、判決の調査官解説(法曹時報 65(5) 151頁、TMI総合法律事務所『著作権の法律相談Ⅱ』312頁も同旨)は、パブリシティ権で保護される著名人の「肖像等」には「本人の人物認識情報、サイン、署名、、ペンネーム、芸名等を含む」と解説していると柿沼弁護士は指摘しておられます。つまり、声優や俳優などの「声」はパブリシティ権で現行法上も保護されるのです。

3.パブリシティ権
パブリシティ権とは判例で形成された権利です。芸能人やスポーツ選手などの氏名・肖像等の持つ顧客吸引力を排他的に利用する権利のことをパブリシティ権と呼びます(潮見佳男『基本講義 債権各論Ⅱ不法行為法 第3版』219頁)。そしてこのパブリシティ権の保護対象の「肖像等」には声優・俳優等の「声」も含まれるのです。

また、氏名・肖像等を無断で使用する行為がパブリシティ権を侵害するものとして不法行為として違法となるのは、①氏名・肖像等それ自体を独立して鑑賞の対象となる商品等として使用し、②商品等の差別化を図る目的で氏名・肖像等を商品等に付し、③氏名・肖像等を商品等の広告として使用するなど、もっぱら氏名・肖像等の有する顧客吸引力の利用を目的とするといえる場合であると解されています(潮見・前掲219頁、ピンク・レディ事件)。

4.損害賠償請求・差止請求・死者のパブリシティ権
ところでこのパブリシティ権の法的性質については人格権の一つとする考え方と財産権の一つとする考え方に分かれていますが、ピンク・レディ事件において最高裁は人格権的な考え方を採用しています。そのため、声優などはパブリシティ権を根拠に損害賠償請求だけでなく、差止請求もすることができるといえます。一方、人格権ということは、相続などは発生しないので、死亡した声優・俳優についてパブリシティ権は主張できないことになると思われます(『新注釈民法(15)』547頁)。

5.まとめ
このように柿沼弁護士のご見解や、民法などの解説書などによると、現行法下においても声優・俳優などの「声」はパブリシティ権で保護されているといえます。そして3.でみた①~③の要件を満たす場合には、パブリシティ権を侵害された声優等は、侵害の主体に対して損害賠償請求や差止請求を行うことができることになります。そのため、現在すでに存在する声優の声を再現できるAIボイスチェンジャーなども、場合によっては違法となる可能性があります。

■追記(2024年1月6日)
この問題に関連して、声優などの「声」も人格権の一つとして憲法13条により保護されるとのつぎの興味深い論文に接しました。

・荒岡草馬・篠田詩織・藤村明子・成原慧「声の人格権に関する検討」『情報ネットワーク・ローレビュー』22号24頁(2023年)


このブログ記事が面白かったらシェアやブックマークをお願いします!

■参考文献
・法曹時報 65(5) 151頁
・TMI総合法律事務所『著作権の法律相談Ⅱ』312頁
・『新注釈民法(15)』547頁
・潮見佳男『基本講義 債権各論Ⅱ不法行為法 第3版』219頁

人気ブログランキング

PR
このエントリーをはてなブックマークに追加 mixiチェック

AIと著作権

■追記(2023年6月22日)
6月19日の文化庁の本セミナーがアーカイブで配信されています。
令和5年度著作権セミナー「AIと著作権」の講演映像及び講演資料を公開しました。

1.はじめに

2023年6月19日午後2時から3時まで、文化庁のYouTubeの著作権セミナー「AIと著作権」が開催されたので受講しました。とても興味深く面白い講義でした。受講して印象に残った点や感想などを少し書いてみたいと思います。(あくまでも個人の感想です。)

2.著作権法30条の4の「権利者の権利を不当に害する場合」
まず、文化庁としては、AIの①開発・学習段階と、②生成・利用段階を分けて考えてほしいということをとても強調されていました。

また文化庁は著作権法30条の4の「権利者の権利を不当に害する場合」については、情報解析用DBの販売・利用を阻害する場合が具体例として想定されると非常に狭く解して説明している点が印象に残りました。

(そのため、イラストレーターの方々が「自分の権利が不当に侵害されている」と法30条の4の「権利者の権利を不当に害する場合」に該当すると主張しても、ただちにその主張が採用されるかについては厳しそうだと感じました。)


2.類似性と依拠性
つぎに、AI生成物が著作権侵害となるかどうかについては一般の著作権侵害と同様に、①類似性と②依拠性があるかで判断されるが、類似性はAIでない創作物と同じ判断基準によるとなるが、依拠性は現在議論中で難しいとのことでした。講義のなかでは4つの見解が紹介されていました。

ただし、①Image to Imegi(i2i)の場合や、②特定のクリエイターの作品を集中的に学習させた場合は、依拠性が認められる可能性はあるのではないかとのことでした。この点に関しては、イラストレーターの方々にとっては朗報なのではと思いました。


3.利用者側の注意点
さらに、利用者側の注意点としては、①利用行為が著作権の権利制限規制に該当しないか検討する②既存の著作物と類似していないか検討し、もし類似している場合には、(a)利用をさける、(b)著作権者の許諾を得る、(c)大幅な修正を加えるなどの対応をとることが望ましい、との説明がありました。この点は、今後の法的紛争の予防のために重要な指針なのではと思いました。


4.AI生成物が著作物にあたるか
加えて、AI生成物が著作物にあたるかについては、AIが自律的に作成したものは該当しない、しかし人間が思想・感情を創作的に表現するために「道具」として利用した場合には該当するとし、それには「創作的意図」・「創作的寄与」が問題になるとのことでした。このうち創作的意図は簡単だが、創作的寄与の判断は難しく、現在、文化庁も有識者委員会などで検討中とのことでした。


5.その他
なお、文化庁はAIの問題に関連し「海賊版対策情報ポータルサイト」を準備しているのでイラストレーターなどの方々は利用してほしいとのことでした。
・インターネット上の海賊版による著作権侵害対策情報ポータルサイト

また、生成AIに関する説明を追加した文化庁の「著作権テキスト」(令和5年版)は7月に公開予定とのことでした。

YouTubeのセミナー終了後にはアンケートがあったのですが、「アーカイブ動画を希望しますか?」とあったので強く「希望」としました。


6.感想
このように1時間の講義ながら、全体として分かりやすく非常に勉強になりました。また文化庁の現在の考え方がよくわかるセミナーでした。文化庁におかれては、今後もネット媒体のセミナーなどで、生成AIと著作権の問題を取り上げてほしいと思いました。

■関連するブログ記事
・chatGPT等の「生成AIサービスの利用に関する注意喚起等について」に関して個人情報保護委員会に質問してみた

人気ブログランキング

PR




このエントリーをはてなブックマークに追加 mixiチェック

↑このページのトップヘ