AI時代の民主主義はどうなる？

宍戸常寿　東京大学 教授

菊池　デジタル政策フォーラム（DPFJ）では、AIガバナンス議論の方向性を示すことを目的として、『AIガバナンスの枠組みの構築に向けて  ver1.0』（2024年7月1日）、『同  ver2.0』（2024年12月6日）を公表してきました。Ver1.0では、「リスクの最小化」「利便性の向上」「健全な市場の育成」という三つの基本的な考え方を示し、ver2.0では“AI法”制定に向けた議論に資するべく、「拙速・安易な規制を避け、利活用を促進すべきである」という強いメッセージを打ち出し、2025年5月28日にはAI推進法（人工知能関連技術の研究開発及び活用の推進に関する法律）が成立しました。そうした立法努力の間にもAIは驚異的なスピードで進化を続けており、様々な分野・領域において数年～10年後を見据えた議論を同時並行的に進めることがAIガバナンスの枠組みを構築するうえで重要だと考えています。

宍戸先生には、急速に進化するAIが「民主主義」にどのような影響を与えるのか、私たちはどのように備えれば良いのかという観点からご意見を伺いたいと思います。まずは、現状をどのように見ていますか。

サイバー空間における国家の役割が再び顕在化

宍戸　生成AIあるいは基盤モデルの登場で、状況が大きく変わりました。機械学習、深層学習のレベルが格段に上がり、文章や画像のかたちで出力・生成することができるようになったことで、人間が行ってきた作業のかなりの部分を生成AIで代替できるようになりました。そして、AIの学習スピードはますます上がり、膨大な量のデータが生成され続けている・・・。人間にとっては、その便利さを享受しようと躍起になっている一方で、そもそもAIがどのような仕組みで動いているのか分からない、自分の仕事はこれからどうなるのか分からない、AIが社会をどのように変えていくのか分からない、といったように「分からない」ことばかりでモヤモヤしている。それが、人間の側に起きていることだと思います。

デジタル空間の情報流通という観点では、インターネット上で流通するデータの質がリッチになり量が増大している。ほんの7～8年前に議論していたのは、一般的なエンドユーザーがスマートフォンで写真や動画を撮ってアップロードすることが容易になり、専門的・職業的なクリエイター以外が創るコンテンツが増大してインターネットに負荷をかけているので、そのコストを誰が負担するのか、ネットワークの中立性をどう確保するのか、でした。

生成AIの登場で、インターネットにはさらに負荷がかかる状況になっています。私も生成AIで画像やスライドを作っています。動画像を含めて膨大なデータが生成AIによって作成され、インターネットにどんどん流入し、やり取りされています。俯瞰してみれば、人間と人間のコミュニケーション以外の部分が非常に大きくなっている、言い換えれば、人間が知らないところでAIが大量のデータを作り出し、人間が知らないうちにネットワーク上でやり取りしている。これがネットワークの側で起きていることです。

少し前までは、ネットワークレベルで寡占的であることが世の中全体の支配につながるというイメージがありましたが、生成AIがインターネットにつながった今、物理空間における支配力が改めてものを言うようになっています。生成AIを動かすには、膨大な数のGPUを確保してフル稼働させなければなりませんし、いくつものデータセンターを建設し、それを動かすための大電力も必要です。つまり、物理的な限界がデジタル空間における情報の生成・流通の限界を決め、物理的なものを支配する者がサイバー空間を支配する色合いが、再び濃くなっているのです。土地・建物などの物理空間や電力の供給を規律し、産業政策と連関させてきたのは国家です。それはすなわち、サイバー空間における国家の役割が再び顕在化し、重要性が増すことを意味します。

だとすれば、そしてAIが社会の隅々にまで影響を及ぼす時代が来るとすれば、政治のプロセス、選挙のプロセスもAI時代に合わせて変えていかなければなりません。すべての政策を点検し、組み立て直し、提案し、それを実現できる政治あるいは政治共同体が勝ち、できない共同体は負けていくことになるでしょう。

その際には、市民の参加を促し、市民を巻き込み、市民を取り残さないことが、重要です。市民の理解抜きにAI社会政策を推進することは危険であり、そんなことをすればいつか大きな反動・反発を生みかねません。インターネットがそうであったように、若い世代や先進的な企業の自由な利活用に制限をかけることなく、政治・行政・市民の協働によって変革を推進すべきだと思います。そのプロセスにおいてもAIを最大限に活用すべきことは言うまでもありません。

刹那的に断片化した民主主義を、AIが紡ぎなおす

菊池　AI時代では、物理的なインフラの価値が改めて再評価されるわけですね。クラウドだ、データだと言っても、最終的には地面や海底に張り巡らされたケーブルやデータセンターといった「地べたのインフラ」が不可欠だということを再認識しました。「AIを使いこなす共同体」こそ持続可能であるという視点は、そのカタチや移行プロセスを含めて重要な論点だと思いました。

「AIとデモクラシー」についてはいかがでしょうか。

宍戸　私たちはリベラル・デモクラシーの社会に生きていて、民主主義は他の政治体制より優れていると考えています。ただし、民主主義は一つの政治体制にすぎず、歴史的には君主制や貴族制、さらには技術者が支配するテクノクラシーなどと対置されてきました。現在のロシアや中国のように、伝統や権威、あるいは強権的な支配に基づく体制も存在し、それらともリベラル・デモクラシーは緊張関係にあります。

民主主義の特徴の一つは、「一定のまとまり」を前提にしていることです。国民という存在です。これは「想像の共同体（Imagined Communities）」であったかもしれませんが、共通の言語や地理的条件、社会・文化的つながりによって成り立っていると考えられます。

例えばEUは、統合が進んでいるとはいえ、言語や文化、経済などの統一性は不完全で、一つの国家とまでは感じられません。一方、アメリカ合衆国はカリフォルニア、テキサス、ニューヨーク、オハイオ、等々、州ごとの違いが大きいことを前提に置き、逆に前提とされる共通性をあえて薄めることで「一つの国家」として機能しています。

日本の場合は、島国であることや日本語という言語の存在が、強い共通性を生み出してきました。ただし、その共通性が揺らいできているからこそ、最近の参議院議員選挙の議論などでは、アメリカのMAGA（Make America Great Again）運動と一見似てはいるけれども違った意味合いを持つ変化の側面が現れているのだと思います。

さらに民主主義にはもう一つの前提があります。それは「現在性（present）」です。つまり「今ここにいる人々」が意思決定の主体になるということです。一番わかりやすいのは直接民主制ですし、直近の選挙でもその特徴がはっきり見て取れますが、今参加している人たちの関心事や多数決が優先される傾向があります。その結果、過去からの継続性や未来への連続性という視点が非常に弱くなる、という問題があります。

これは君主制との対比がわかりやすいでしょう。君主の家系（Dynasty）が続く限り、歴代の君主の判断や伝統に縛られるため、現在の君主の判断は、過去や未来を強く意識せざるを得ません。それが君主制の存立基盤でもあり、それゆえに歴史あるいは未来を体現し得るのです。実際にも日本の天皇や上皇は、長い歴史の記憶、とりわけ近代日本の戦争と平和の記憶を現在に再現し、未来に繋ぐという役割を引き受けようとしているように見えます。

では、デジタルやAIが民主主義にどう影響するか。デジタルは、人々の間の均質性を高めるかもしれないし、逆に分断や格差を際立たせるかもしれない。ただそれは、「今＝present」の問題です。そこに登場したAIは、現在の民主主義では捨象される傾向にある過去と未来という時間の扱い方を大きく変える可能性があるのです。

例えばこの前の参議院議員選挙で誰になぜ投票したか、その時に抱いた思いや熱量を、多くの人々は3年後には忘れてしまうでしょう。これまでは、そうした忘却を埋める役割をメディアが果たしてきました。3年前の選挙はこうだった、もっと以前には「小泉旋風」という熱狂もあって・・・といったストーリーを再構成してきました。

ところがAIをうまく使えば、個人レベルで「3年前はどういう状況で、自分はどう考えて投票したか」というように過去の投票行動を振り返ることが可能になります。AIは未来の予測も得意です。自分がある政党に投票したら、どんな政策が実現し、その結果3年後の生活がどうなるかといったことをシミュレーションして見せてくれます。既に、ボーティングマッチ（有権者の候補者選択を支援）のような仕組みがありますが、AIを使えばもっと精緻に投票行動の結果としての未来像を提示することができるでしょう。

そうなれば、民主主義は「現在の多数決」ではなく、「過去から未来への時間軸上での意思決定」に近づいていくかもしれません。これは、格差や分断の拡大という限界を露呈する現在の民主主義にとって、進化への転換になるかもしれません。

菊池　共同体の永続性を今という瞬間に断片化してきたのが「デジタル」だとすれば、逆に「AI」は連綿と紡いでいく助けになるかもしれないということですね。

宍戸　「紡ぐ」という表現はとても的確だと思います。これまでのデジタル化や情報化は、人々や社会を「断片化」させる力学を働かせてきました。

もっとも、その断片化のおかげで、人間は過去のしがらみから自由になり、その時その時、新しい形で社会に参加できるようにもなりました。とりわけインターネット上の匿名SNSによって、人々は公的な事柄について自由に発言し、議論することができるようになりました。ネガティブな意見も含めてですが、それも「文脈からの解放」という断片化の成果です。

もしインターネットが存在しなければ、とりわけ日本では、多くの人は政治的な発言などできなかったでしょう。現実の社会では、自分の会社や労働組合、地域社会といった所属コミュニティーの方針に従うのが普通でした。そこから抜けない限り、自分自身の政治的意見を表明するのは難しかったのです。インターネットは、そうした社会的文脈から個人を切り離す力を持ってきましたが、断片化が行き過ぎれば、移ろいやすいその場しのぎの意見に流されたり、情報操作に振り回されたりするという危険もあります。

重要なのは、「可変性」と「安定性」のバランスを取ることです。AIは使い方次第で、社会の分断に一定の歯止めをかけ、一貫性や繋がりを回復する役割を果たせるかもしれません。民主主義の原理に立ち返って考えると、民主主義が元々抱えてきた「刹那的で断片化しやすい性質」、そしてデジタル技術がそれを加速させてきた傾向を、逆にAIが補い、繋ぎ直す可能性もあるのではないか――。私はそこに期待すべきだと思います。

過去の記憶や未来への責任とどう向き合うか

菊池　話は逸れますが、アメリカでは建国の精神が憲法に綴られ守られ「安定性」を保障してきた一方で、任期のある大統領が「可変性」を体現していると思うのですが、現職の米大統領の行動は連綿と守られてきた合衆国憲法に挑戦しているように見えます。それは民主主義の構造的破壊なのではないでしょうか。

宍戸　アメリカ民主主義の根幹にあるのは「法の支配」です。憲法や裁判所システムを含む法律が、変化しながらも連綿と続き、連邦の隅々まで広がって全体を繋げています。これがアメリカ合衆国という共同体を成り立たせている基盤だと思います。

現在のアメリカで、この「法の支配」に対する攻撃が起きていることは確かなのですが、歴史を振り返れば、ジャクソニアン・デモクラシー（ジャクソン流民主主義：第7代大統領のアンドリュー・ジャクソンとその支持者たちの独特の政治哲学）の時代やＦ・Ｄ・ルーズベルト大統領の1930年代にも、「法」に対する挑戦はありました。ただし、それは決して法律家と無縁に起きたわけではなく、法律家の間での分断、つまり法の内部での権力闘争という側面をもって現れてきたのです。アメリカはそうした形で「法を巡る闘い」を繰り返す国なのだと思います。

菊池 　話を戻しますと、共同体の永続性、伝統を守るということは「死者の手」（Dead Hand Problem：過去の不合理な制約や決定が、現在、未来にわたって影響を与え不当な束縛となる状況）から逃れられないということでしょうか。

宍戸　「死者の手」は一般的にはネガティブに語られることが多いですが、死者の存在を意識することは、私たちが未来を考えるために必要な視点でもあります。

未来を考えるための仕込みも行われています。例えば、成人年齢の引き下げや主権者教育は、表向きは「若者の政治参加促進」ですが、実際には「シルバーデモクラシー対策」という側面があったことも否定できないと思います。このままだと、選挙の中心は高齢世代になり、社会保障費の拡大ばかりが求められる。一方で現役世代は負担を背負うのに投票に参加しない。だからこそ若者に投票してもらい、政治家も若者世代を意識せざるを得ない状況をつくろうとしたのです。

しかし、実際には中途半端でした。若者たちは「自分たちが負担を背負っている」という自覚は持つようになったものの、投票行動は将来の財政や社会保障を考える方向には向かず、「今、生活が苦しい」「消費税を下げてほしい」という現在的な要求に集中してしまったのです。その結果は、将来世代のための負担軽減や社会保障の持続可能性には結びつかず、むしろ「今が良ければ」という短期志向が強まってしまいました。民主主義の現在性が露骨なまでに前面に出てしまっているのです。民主主義が持続可能であろうとすれば「未来を見据えて意思決定する仕組み」でもあるべきなのに、現実には「今、ここ」の苦しさに引きずられてしまう。

過去の記憶や未来への責任とどう向き合うか――。そのためにAIを活用して3年後、5年後、10年後の影響を予測し、投票や政策判断に役立てることが重要になってくると思います。

「責任あるAI」をどう仕組み化するか

菊池　AIガバナンスについて伺います。インターネットは「自律・分散・協調」という理念の下、数十年かけて発展・成長を遂げました。AIについてはどうでしょうか。AIはインターネットのあり方さえ変貌させてしまうでしょうか。

宍戸　インターネットを形成するそれぞれのネットワークは、自分の中で起こる問題を自分で処理する「責任」を持ち、その上で、他のネットワークとつながるときには「協調」して情報をやり取りしてきました。この仕組みの裏側には常に「責任」と「信頼」がありました。各ネットワークがきちんと責任を果たすからこそ、全体として分散型の構造が効率的に機能し、国家や企業のような中央集権的な仕組みに対してインターネットの優位性が保たれてきたのです。

しかし、インターネットが拡大する中で、この「責任」の部分が揺らいできました。違法な海賊版サイトの横行問題などはその一例です。そこにAIが登場し、今後はAIがこの責任のあり方をどう変えるかが議論の焦点になると思います。

例えば、あるネットワークに「悪質なAI」がつながっていて、そのAIが大量の有害な情報を発信しているのに、そのネットワークが接続を遮断しなければ、「責任を果たしていない」と見なされ、そのネットワーク自体がインターネットから切り離されるかもしれません。こうした事態は、国ごとにインターネットを分断する「スプリンターネット」（サイバー空間への自由なアクセスに対し、国家間や対立する地域間で何らかの制限を加えること）を正当化する口実にもなり得ます。

一方で、逆の可能性もあります。AIを使うことで、ネットワークは今まで以上に責任を果たしやすくなるかもしれません。既にデータのやり取りの処理にはAIが活用されていますし、AIがネットワークの効率や安全性を高めることもできます。「責任あるAIの利用」が進めば、「自律・分散・協調」の仕組みそのものを強化することも可能なのです。

つまり、インターネットの自律・分散・協調の基盤には「責任」があり、AIはその責任を壊す方向にも、支える方向にも働き得ます。だからこそ、AIガバナンス、すなわち責任あるAIをどう仕組み化していくかが、今後もインターネットが「信頼」できるかどうかを左右することになると思います。

菊池　インターネットの「自律・分散・協調」を、フランス革命時に唱えられた「自由・平等・博愛」と比べると、インターネットには「平等」という要素が弱かったのではないかと感じます。

宍戸　「自由・平等・博愛」というスローガンが登場した歴史的背景を考えると、アンシャン・レジーム（古い体制）、つまり身分制社会に対する抵抗のスローガンでした。そのスローガンには、特に「平等」という概念が強く織り込まれていました。身分制を否定し、自由で平等な個人から構成される新しい社会を築こうという強い意味を持っていたのです。

インターネットにおける「分散」の理念も、同じように既存の集権的な仕組みに対するアンチテーゼでした。近代以降の情報処理技術の進展は、国家や企業の集権化、あるいは独占性を強めてきました。大型コンピュータによる集中電算処理が典型です。そうした流れに対抗して、インターネットは「分散」という価値を掲げました。これは、近代社会がアンシャン・レジームに対し、「平等」という価値を掲げて戦ったのと同じ構造であると思います。

ただし現実には、フランス革命後にブルジョワジーの経済的独占が生まれてしまったのと同じように、インターネットも「分散」を掲げながら、GAFAのような巨大プラットフォーマーによる集権化を生んでしまいました。その結果として、また「分散を取り戻さなければならない」という議論が出てきています。ただし、「平等」という言葉の意味が時代とともに変わってきたのと同じように、デジタル資本主義における「分散」も再定義されつつあります。たとえばDAO（分散型自律組織：ブロックチェーン技術を活用して自律的に運営される組織形態）のような仕組みがその一つです。これは近代半ばに平等の意味が問い直されたのと同型の議論をしていると感じます。

AIに期待したい、「部分最適」と「全体最適」の両立

菊池　視線を未来に向けたいと思います。5年先を見通すことも難しいほど変化のスピードが加速していますが、宍戸先生のご専門である憲法は、5年や10年といったテクノロジーの変化や人口・社会の動態を超えた、安定性の源泉だと思います。変わらない理念や価値観を守る憲法と、変化する現実との間を橋渡しするのが「情報法」などの役割であると考えて良いでしょうか。

宍戸　その通りだと思います。

憲法は社会や技術の変化に関わらず、人間の尊厳や民主主義、法の支配、平等など、容易に変えるべきでない価値を体現しています。同時に、憲法は生きた存在、いわゆる「Living Constitution」でもあり、時代の変化とともに進化すべきものであるとも考えられています。アメリカの連邦裁判所の判例のように、実務を通じて憲法の中身を更新することもあります。

EUでは加盟国全体の憲法に当たる欧州連合基本権憲章を定めた上で、GDPR（一般データ保護規則）やDSA（デジタルサービス法）、DMA（デジタル市場法）、AI法などが整備され、デジタル立憲主義の流れも生まれています。日本においても、憲法が体現する価値を実現するために、デジタル技術を使って民主主義を安定・高度化させる余地は大きいと思います。人口減少や資源制約の中で、行政の効率化を法の支配の下で進めることも可能です。

ただし近代憲法の前提は「人間が個人であること」です。AGI（汎用人工知能）やASI（人工超知能）の登場によって、人間の存在そのものが揺さぶられる可能性があるとすれば、憲法だけの問題ではなく、近代社会そのもののあり方が問われることになります。そうした変化を法で引き受けて議論する場合、「人間個人という存在」を前提とする現行の憲法がそのまま通用するのか、再検討が必要になるでしょう。

実際、ニューロサイエンスの発達やエンハンスメント技術によって、人間が機械と一体化する可能性が見えてきています。人間の脳も機械とつながってくるかもしれません。そうなると、人間の尊厳という観念が根本から脅かされるかもしれません。これまでは倫理や法によって一定の抑制ができましたが、AIに対してそれが通用するのか。ASIレベルになると、人間の裏をかいたり、欺いたりすることも簡単にできるでしょう。従来の方法では対応できなくなるかもしれません。

菊池　国民国家はAIの登場によってどうなっていくでしょうか。

宍戸　変わると思います。物理的に鎖国すれば国民国家を維持できるかもしれませんが、言語やコミュニケーションのレベルでは国境の壁が下がりつつあります。その意味で、国民国家の成立に関わる言語やコミュニケーションのあり方が変わってくるでしょう。

一方で、グローバル化やデジタル化に対する反発もあります。これは社会全体や個人の心の中にも存在し、私たちはそれとどう折り合いをつけるかを考えざるを得ません。これは、文明開化の時と同じような変化のプロセスだと思います。

私が期待しているのは、部分最適と全体最適をAIが両立してくれることです。人間は自分に都合のよい選択と全体の規律のどちらかを選ぶことしかできませんでしたが、AIならそれを同時に実現できる可能性があるのではないかと思っています。

菊池　合成の誤謬を、AIが回避するということでしょうか。

宍戸　そうなることを目指していくべきです。形式的で画一的な処理は周辺化を生むだけですが、AIを使えばそうならずに、部分最適を保ちながら全体最適を実現できるかもしれない。だから、自律・分散・協調の「分散でありオープンである」という考え方が大事で、AI時代においても目指すべき方向だと思います。

各政党がAI・デジタル政策を打ち出すべき

菊池　こうした議論は、誰がどこで始めるべきなのでしょうか。役所の審議会や研究会ではまだ難しいと思いますが。

宍戸　歴史的な視点で考えると、現実の問題が出てくることで理論が生まれると思うのです。例えば、労働者が困っている現実があって、その状況を理解するためにマルクスの理論が出てきた、といった具合です。

今のデジタル社会も同じで、光の面と影の面があり、それをどう解決するかを具体的に議論することが必要です。政策や社会保障などの現実的な問題について、地域の違いや価値観の違いによる対立も含めて、みんなで真剣に考える。その上で理論や原理に基づく複数の見方が体系化され、未来社会の構想として議論されるのです。

大事なのは、理論だけで先導しようとするのではなく、現実の問題をよく見て議論することです。政治やメディアがその議論を十分にできていないからこそ、このデジタル政策フォーラムのような市民的な場において具体的に問題を話し合い、解決策や必要な制度・体制を提示することに意味があると思います。

菊池　現実を通したパースペクティブのぶつかり合いこそが熟議であり、政治であり、政策論争そのものというわけですね。

宍戸　各政党が具体的なデジタル政策体系を持つべきなのです。経済政策、財政政策や文化政策と同じように、デジタルについてこういうところは大事にしていきます、こういうところはブレーキをかけますといった政策の方向性を示し、政策綱領として体系的に示すべき時期が来ています。選挙前に各党のデジタル政策を評価する場があってもいいでしょう。デジタル政策フォーラムが取り組んでもよいと思います。

もう一つ、部分最適と全体最適の緊張を調整するために、連邦制や二院制は生まれました。特に上院は歴史や伝統を体現し、下院の構成が変わっても安定性を保つという役割があります。その意味で、AI時代のデジタル政策の議論は参議院で主導することに合理性があります。今回の参議院選挙で、AIを含めた未来志向のテーマが掲げられる議論があったのは、まだ十分ではないとはいえ、後から振り返ると重要なターニングポイントだったと評価できるかもしれません。

菊池　最後に、先生ご自身はどのようなAIの登場を望まれますか。

宍戸　まず一般的に望むAIとしては、差別や分断を生むのではなく、私たちの日常生活を便利にしつつ、新しい喜びや楽しみを作り出してくれるものですね。もちろん新しい楽しみや喜びを作るのは、人間の欲望がドライブする部分も大きいので、最初は悪いことが起きるとしても、最終的には良いことや面白いものもどんどん生まれてくるでしょう。AIによって人間の創造性が引き出されることを、一市民として望んでいます。

私の専門である法学に関して言えば、日本語で書かれた法文に縛られる面があります。私自身も外国語を読むのはまだ得意ですが、書いたり話したりするのは苦手です。ですから、各国の法律に各国の言語でチューニングされたAIがあって、日本法の文脈との間で相互に翻訳してくれれば面白いことができると思います。世界中の優れた法学者や法律家と議論して、自分の考えの未熟さに気づくかもしれませんが、それもまた刺激的なことです。

国を超えた専門家同士のコミュニケーションを容易にし、人類全体の知の発展に寄与するようなAIが理想です。厳しい対立のある役所の会議の司会のように、あまり気の進まない仕事を自分の代わりに処理してくれるAIもぜひ欲しいですね（笑）。

菊池　たいへん貴重なお話をいただき、まことにありがとうございました。