創作エコシステムが崩壊の危機に

上沼 紫野 弁護士

菊池　デジタル政策フォーラム（DPFJ）では、AIガバナンス議論の方向性を示すことを目的として、『AIガバナンスの枠組みの構築に向けて  ver1.0』（2024年7月1日）、『同  ver2.0』（2024年12月6日）を公表してきました。Ver1.0では、「リスクの最小化」「利便性の向上」「健全な市場の育成」という三つの基本的な考え方を示し、ver2.0では“AI法”制定に向けた議論に資するべく、「拙速・安易な規制を避け、利活用を促進すべきである」という強いメッセージを打ち出し、2025年5月28日にはAI推進法（人工知能関連技術の研究開発及び活用の推進に関する法律）が成立しました。そうした立法努力の間にもAIは驚異的なスピードで進化を続けており、様々な分野・領域において数年～10年後を見据えた議論を同時並行的に進めることがAIガバナンスの枠組みを構築するうえで重要だと考えています。

上沼先生に伺いたいのは、AIが生み出すプロダクトと知的財産との関係です。AIが文章を書き、アニメ作品風のイラストを易々と生成し、楽曲の作詞・作曲までこなせるようになり、人間の特権だった「表現」や「創作」の領域が侵食されているように思います。これまでに構築されてきた著作権、知的財産権などの法制度、言い換えれば、表現や創作のエコシステムに、AIはどのような影響を及ぼすのでしょうか。

AIによる「6割代替」でクリエイター・エコシステムが崩壊へ

上沼　著作権というものは、英語でcopyrightと言うように出版権（印刷による複製権）の保護・制限のために確立されてきたものですが、デジタル時代に入ってかなり無理をしてきたと思います。昔は複製することに多大な労力がかかっていたので仮に著作物として保護されなかったとしても、そうそう簡単に複製することはできませんでした。ところがデジタルでは複製コストがほとんどかかりません。複製しようとすればいくらでもできてしまう。そのため、「これは著作物か否か」という線引きが非常に大きな意味を持つようになったのです。ところが、その基準は明確でないまま、ごまかしながら凌いできたのです。

そこにAIが登場し、「誰が創作者なのか？」という問い、つまり、人間が創ったのか、AIが作ったのかが新たに浮かび上がってきました。「そもそも、何を保護するのか？」という原点に立ち返らなければならない状況にあると感じています。

もう一つの大きな問題は、人間のクリエイターが要らなくなり、育てられなくなり、いなくなってしまうのではないかということです。創作物に限らない多くの仕事において、AIが「6割」くらいまでをこなせるようになってきていて、それはすなわち、これまでその6割の部分を担ってきた人間がいらなくなるということです。しかし、どんな仕事でも下済みの6割のところで仕事を覚え、慣れ、腕を磨いたうえで、その先に挑めるようになっていったわけです。ところが、その6割がAIに代替されてしまうと、若手が経験を積む機会がなくなり、成長の道筋自体が失われてしまう。

しかも、AIは人間より成長スピードが速い。人は寝たり休んだりするけれど、AIは止まらずに学び続けられる。だから同じスタート地点に立ったとしても、人間はAIにとても追いつくことができません。クリエイターを目指してその道に入っても、初心者レベルのことはAIが全部やってしまうので、創作で生活を成り立たせることが難しくなってしまうのです。AIを道具として使いこなし、AIが生成できるものを超える新しいものを創り出せればクリエイターとして生き残れるかもしれませんが、そこに至るエコシステムが崩壊の危機に直面しているように思います。著作権の保護以前の問題です。

菊池　「複製（リ・プロダクション）」ではなく、「創作（プロダクション）」そのものが問題であり、何を保護するかという前提が変わってきているわけですね。

上沼　そう思います。私も、5年くらい前まではまだ楽観的で、「一種の産業革命だ」と考えていました。その頃懸念していたのは「データ資本主義」の加速でした。財力のある人ほど質の高いデータを集めてAIを強化できるので、AIによる寡占化が進むだろうと。それでも「データ成金」みたいな人が人間の手による古き良きものにお金を投じてくれれば人による創作が残るかなと思っていました。

しかし、今の状況をみるとルネサンス時代のようなことにはなりそうもありません。AIで事足りるのにあえて人間がつくるものに投資して保護することをステータスとして尊ぶ感覚が生まれてくるかどうか・・・。そこに頼るのは、難しいかもしれません。

例えばアニメ制作の現場などは元々賃金が必ずしも高くなかったのに、AIがその仕事を根こそぎ奪ってしまうかもしれない。アニメーターという仕事が職業として成り立たなくなってしまうかもしれません。そうすると、創作者、表現者のすそ野がどんどん狭くなり、新しい才能を芽生えさせる土壌が失われていく。そうした負のスパイラルに入っていくことを一番懸念しています。

多様化から単一化・画一化への逆行のおそれ

菊池　歴史という時間軸で俯瞰してみる必要があると思います。ルネサンス、日刊紙の普及、産業革命のような歴史の転換点ごとに、創作や表現の手法、コンテンツの需要・制作・流通が大きく変わってきました。AIの出現によって、エンタテイメントや芸術はどうなっていくのでしょうか。

上沼　エンタメや芸術は基本的に主観の領域にあるので、多種多様であることが是であり、これまではそうした方向に進んできました。しかし、AIの出現によって全体的に見ると「単一化」「画一化」の方向に逆行してしまうのではないかと心配しています。AIはデータに基づいて結果を出すので、みんなが良いと思うようなものが繰り返し再生産されていきます。行き着く先は、多様性の拡大よりも凝縮された単一化なのではないでしょうか。

しかも、AIは米中欧のグローバル企業が強いので、文化的な価値観がそうした国々の人たちが好む方向に偏ってしまうかもしれません。個人的には、それが一番不安です。

菊池 　工業製品で起こった標準化や平準化が、エンタメや芸術でも進むかもしれない、と。芸術というのは画一化に対するカウンターという面が色濃かったし、人間の内心や精神の自由が表現に反映されてきたのですが・・・。

上沼　結局はお金が必要なんです。日本のサブカルチャーは熱心な少数のファンがお金を出すことによって成立してきました。一人のファンが10枚、20枚のCDやチケットを買ったりする「熱量」によって支えられている。でもデータ資本主義においては、一人の「熱量」よりも、一人当たりいくら「課金」できるかの方が重要なのです。少数の熱狂的ファンが支える仕組みは、データ資本主義の時代には意味を持ちにくいのです。

目に見える形で市場原理が支配してしまうのは、正直怖いですね。AI時代のデータ資本主義によってエンタメと芸術のコモディティ化が進んだとして、人間はそれに順応してしまうのか、それとも、反発してカウンターを当てにいくのか、そもそもAIに対してカウンターを当てられるのか・・・。あまり楽観的にはなれないというのが正直なところです。

外国製AIを日本の文化・社会が受容できるか？

菊池　もう少し広げて、AIの社会的影響についてお聞きします。AIは「コミュニケーション」をどう変えるのか、家族・友達になるのか、それとも武器なのか、需要や地域の違いによって受容性が変わってくるのか、日本の社会にとってはプラスなのかマイナスなのか。

上沼　横浜商科大学の田中辰雄先生が統計をだされていましたが、日本人は他国に比べてAIやロボットへの親和性が高いと思います。背景には八百万の神という考え方がありますし、鉄腕アトムのようなアニメの影響もあるかもしれません。AIBOが登場した時、ロボットをペットにするという発想に世界中の人たちが驚いたのですが、日本人にとってはそれほど違和感もなく自然に受け入れられました。

ただし、親しみの情が濃い一方で、恐れの気持ちも強いことも同じ統計で出ています。森羅万象の一部として親しく感じると同時に人間とは違うもの、もしかしたら超越するものへの畏れというものにも敏感なんだと思います。西洋的な価値観ではロボットやAIは「道具」という認識が強く、人間と仲良く、親しくするという発想は薄いように感じます。そういうところで、文化的、社会的な違いが顕在化してくるのではないかと思います。

菊池　そうすると、AIに対するカウンターとしての「人間ファースト」という流れも出てくるかもしれませんね。

上沼　あり得ると思います。厳しいのは、日本企業がAIで強みを持てていない点です。もし「ここは国産AIが絶対に強い」という領域があれば安心感も違ったでしょうが、残念ながら、現状はそうではありません。だからこそ外国製AIへの恐怖があるのだと思います。市場規模が小さく人口も減っていく日本は、相手にされない可能性がある。

日本的な曖昧さやグレーゾーンを許容するようなAIが全く無いとすると、八百万の神のような感覚で付き合えないでしょうし、文化的なハードルが生まれるかもしれません。

菊池　明治の文明開化では「これをやってはいけない」「これを変えよ」と外からルールが押し付けられましたが、あの時代は日本には活力があった。

上沼　本当にそうですね。明治の人たちはエネルギーに溢れていました。欧米諸国に追いつこうと懸命に頑張りました。現代に生きる私たちは大いに見習いたいところです。AIへの需要はその国の活力と密接に関わっているように思います。高齢化する日本ではAIを駆使した自動運転などへの切実なニーズもあります。AIをどのように、どれだけ受容できるかは、それぞれの国・地域における社会状況と直結していると思います。

自分の考えは本当に自分のものなのかを問い続けよ

菊池　5年後、AIと表現・創作はどうなっているのでしょうか。5年前、上沼さんは比較的楽観的に見ていたとおっしゃっていましたが・・・。

上沼　実は5年前も本当は悲観的だったんです。ただ、悲観してばかりではいけないと思ってあえて明るい側面を見ようとしていたというのが正確なところです（笑）。

この5年で大きな変化が起こりました。これからの5年ははるかに大きく変化することは確かでしょう。だからこそ、私たちAIユーザーが備えるべきは、「自分の考えが本当に自分のものなのかを常に問い続けること」だと思います。入ってくる情報が偏れば、考え方も自然に偏って自分自身が気づかないうちに認知が歪められてしまう。そこへの警戒は絶対に必要です。

そもそも、自分が「こう思う」というとき、その思考はゼロから生み出されたものではありません。例えばマイナス50からプラス50までの範囲の知識で考えていたり、0から100までの範囲の知識で考えていたり、インプットによって出てくる答えは全く違ってきます。それが人の個性であり思想であったので、今まではその前提を深く疑わなくても済んでいた。でもAI時代には、そこを強く意識しないと危ういと思います。

菊池　パーソナルAIエージェントは、フィルターバブルやエコーチェンバーの究極の形になるかもしれませんね。

上沼　ええ。AIエージェント自体をどう信頼すればよいのか、まだ誰も分かっていません。そして結局はお金がある人ほど優秀なエージェントを使えるようになるでしょう。それは決して明るい未来とは言えません。

AI資本主義の大波に日本は飲み込まれるだけか？

菊池　インターネットは「自律・分散・協調」と「マルチステークホルダー」という精神に基づいて成長してきましたが、この精神はAI時代に受け継がれるでしょうか。

上沼　引き継がれるかもしれません。しかし、それをそのまま実践した結果が、今のデータ資本主義だとも思っています。つまり、精神は残ったとしても、その行き着く先が本当に望ましい形かどうかは分からないということです。どうしても商業的に利益の出る方向へ流れざるを得ないでしょう。規制がなければなおさらです。結果として「AI資本主義」に収束してしまうのではないかと危惧しています。

菊池　AI資本主義の暴走を抑えるために、法律はどの程度有効でしょうか？

上沼　正直なところ、国レベルの法律では効力が限定的だと思います。日本が何を言っても、世界全体から見れば影響力はとても小さい。国際的な足並みが揃わないと間に合わないでしょうね。条約レベルでの対応が必要でしょう。国ごとのバラバラな法律よりはましだと思います。EUが地域単位で規制を整えようとしているのは、その一例です。日本よりも積極的に動いていると感じます。

菊池　国際連合には期待できないのでしょうか。

上沼　国連は第二次世界大戦の戦後体制を前提に作られており、その構造を固定化してしまいました。だからウクライナの問題にしても身動きが取れない。今の国連だと、あまり期待できないのでは？というのが正直な印象です。

菊池　国内法を武器にしてきた弁護士である上沼さんが、条約を重視するというのは皮肉に聞こえました。

上沼　確かに（笑）。ただ、日本は国同士の法律競争になると弱いのです。法律そのものの問題というより、それは国力の問題でもあるからです。人口が減り、国力が落ち、言語的にも文化的にもマイナーな国が、AI時代に存在感を示すことができるのか、大きな流れに飲み込まれてしまうのではないか――。そのリスクにはもっと危機感を持つべきだと思います。

菊池　貴重なお話をいただき、まことにありがとうございました。