AI（人工知能）が驚くべきスピードで進化している。人間の知をはるかに超えるAGI（汎用人工知能）、ASI（人工超知能）の実現も近いという見方もある。AIは、人間にとって便利な道具であり続けるのか、はたまた、人間を支配する脅威となるのか――。デジタル政策フォーラムのメンバーおよび関係者にその問題意識を聞くシリーズ第10回は、國領 二郎　慶應義塾大学名誉教授にAIが人間社会や産業構造をどのように変化させるかについて聞いた。（菊池尚人 デジタル政策フォーラム　代表幹事代理／慶應義塾大学大学院 メディアデザイン研究科　特任教授、以下敬称略）

國領 二郎　慶應義塾大学 名誉教授

局所ではなく全体構造をつかめ

菊池　AIが社会に対してどのような影響を及ぼしていくのかについて、國領先生はどのように見ていますか。

國領　経済学がマクロ、経営学がミクロとすれば、今回はその中間くらいの視点でお話したいと思います。

アプローチとしては「構造変化モデルで考える」ことが必要だと思います。社会と技術のシステムアーキテクチャがどのように変化するかという観点からの研究を、私はインターネットについてずっとやり続けてきました。それをAIに当てはめてみたい。

今のところ、AIに対する関心は「生産性」と「置き換え」に集中しています。それはそれで大切なのですが、生産性の向上はすべての企業に当てはまるので競争優位には結びつかないのではないか、既存の構造の中でサブシステムの効率を高めても本質的な変化にはつながらないのではないか――構造変化モデルで考えるとそうした視点に気づくことができます。

日本企業がデジタル化で顕著な成果を出せなかったのは、局所的な生産性向上や置き換え（人員削減等）にとどまって、ビジネスモデルの転換や産業構造の転換にまで踏み込まなかったからだと思います。既存の構造を前提とした発想では、差別化できず、超過利益を獲得できないのです。

では、アーキテクチャ（構造）とはそもそも何なのか。社会システムも技術システムも、複数のサブシステム（またはモジュール、コンポーネント）で構成されています。それらサブシステム間の役割分担とインターフェースを設計することがアーキテクチャだと言えます。

例えば、世の中を政府・企業・非営利部門のように分けるのも、三権分立（立法・行政・司法）も、東アジアの安全保障のために米軍と自衛隊でどう役割分担するかというのもアーキテクチャです。最近では、技術的ソリューション、法的ソリューション、インセンティブ構造などを組み合わせてネットワーク社会のアーキテクチャをどのように設計するかということを語る法学者の人たちもいます。

このように「アーキテクチャがどう変化するか」という視点・フレームワークを固定しておき、テクノロジーがそれをどう変化させるのかを考えるというのが有効なアプローチだと思います。

では、何がアーキテクチャを決定づけるのか――。多くの人は先進技術の最も優れた機能に注目しがちなのですが、長年研究していると構造を決めるのは「ボトルネック」の部分だということが分かってきたのです。

例えば、コンピューターのOS（オペレーティングシステム）。初期のコンピューターはハードウエアとソフトウエア一体で、計算のたびに配線（ワイヤリング）をやり直していました。ハードとソフトが分離したのは、この作業があまりに面倒で非効率だったからです。すると、ハードはムーアの法則で急速に進化しましたが、ソフトの生産性はそのペースに追いつけなかった。そこで、古いソフトを新しいハードで動かすための翻訳層としてOSが生まれてきたのです。IBM360を起点に、ソフトとハードの分離が産業構造に大きな影響を与えました。ここで注目すべきは、生産性が低く遅れている部分（ソフトウエア）が全体の構造を決めたということです。

サプライチェーンでも同様でした。1980年代の終わりから90年代の初めにかけて、大手小売企業がこぞって電子受発注システムを導入しました。ところが、競争優位を築いたのは電子受発注を徹底させた企業ではなく、物流システムの改革に取り組んだ企業でした。その象徴がウォルマートです。先進技術はどんな企業でも導入できましたが、最大のボトルネックだった物流の改革に取り組んだ企業はほとんどありませんでした。ウォルマートはそのボトルネックに挑むことで抜きんでることができたのです。この例でも、全体の足を引っ張っているところに注目すると、次に何が来るのかが見えてくるのです。

AIは「責任」を取れない

菊池　AIに関してはハイエンドの議論ばかりされていますが、社会全体、産業全体の構造を変える要因はむしろローエンドにあるという視点はとても新鮮です。

國領　ここから先はほとんど推測に近い仮説ですが、以上を前提にするとAI社会においては「責任」というものが構造を決める重要要素になると思うのです。

AIはいろいろなことができますが、「責任」を取ることはできません。なんとなれば、AIは死刑を恐れないからです。死刑を恐れない存在は究極の責任主体にはなれないのです。古代ギリシャでは責任を負うのは市民であり、奴隷は免責されていました。つまり、責任を負うか否かで市民と奴隷の間に線引きをしたのです。現代においても同様に、誰が物事の責任を取るのかが社会や産業の構造を決めるのです。

AIを使ったモノやサービスで問題が起きたときに誰が責任を取るのか――。この問いへの答え次第でこれからの業界構造が変わります。

例えば自動運転車の事故の扱いについては製造物責任の議論に収束しているようなのですが、自動運転を作ったメーカーや販売会社に全責任を負わせるのは難しいでしょう。なぜなら、自動運転はハード（クルマ）・ソフト（AI）・データ（情報）が一体的に運用されることで初めて成り立つものだからです。AI本体や運行データを持たない自動運転車メーカーに事故の全責任を負わせることはできません。

だとすれば、自動運転車についてはメーカーがユーザーに売り切ってしまう「販売モデル」ではなく、ハード（クルマ）・ソフト（AI）・データ（情報）を垂直統合的に管理・運用・保守する「サービスモデル」でなければ結果責任を負うことができないのではないか、という仮説が浮上してきます。GoogleからスピンアウトしたWaymoが提供する自動運転タクシーは自動運転をサービスモデルとして具現化したものです。もしかすると、AI時代には「垂直統合」が産業構造の主流になるかもしれません。

ビッグブラザーAIによる寡占は考えにくい

ここで、「AIによって寡占化が進むか？」というテーマが浮上してきます。究極の仮説は、一つの巨大AI（ビッグブラザーAI）が世界を支配するようになるということです。より多くのビッグデータを持っている方が有利なので自ずと寡占化が進むという考え方です。

一方、対抗仮説としてスモールデータのエージェントAIが林立し、AI間の相互ネゴシエーションによって部分最適を図ることで全体が均衡するというシナリオもあり得ます。

例えば物流業界を考えると、あらゆるトラックとあらゆる荷物の状況を単一のビッグブラザーAIが把握すれば究極の全体最適が実現するはずですが、実際にはそんなことになりません。やはり、個々の企業のAIエージェントが自社のために最適化を行い、他企業のAIエージェントとネゴシエーションすることで部分最適を測るというモデルに落ち着いていく。私はそう思います。

再び、「責任」という観点で考えてみましょう。

ビッグブラザーAIが全体最適解を導く世界は、計画経済的、中央集権的で、それ故に責任の所在が不明確です。ビッグブラザーAIは極めて優秀ですが責任は取れません。

しかも、株主、顧客、裁判所（刑法・民法）は「全体最適だから一部の過失・損失はやむを得ない」などということを決して認めません。市場経済、グローバル・サプライチェーン、インターネットなど歴史を振り返っても、ほとんどの社会システムは分散調整型モデルに落ち着いています。なぜなら、「責任」を取れるのは企業、法人、個人、国家、つまり法的・社会的に罰することができる主体だけだからです。

つまり、全体を一つの賢いAIが最適化するのではなく、責任を負う主体（法人・個人）ごとにエージェントAIがあり、それぞれが自分の利益と責任の範囲で判断し、交渉し合うという世界の方が現実的だということが見えてきます。これは、経済学者フリードリヒ・ハイエクの市場経済モデルの世界観を踏襲するものです。

認知限界の突破がアーキテクチャ再構築を迫る

菊池　「ボトルネック」「責任」のほかに、AI時代のアーキテクチャを決定づける要因はありますか。

國領　AIの支援によって人間がこれまでの「認知限界」を超えていくと、それに連動して世の中のすべての構造が変化していく可能性があると思います。

ノーベル経済学賞受賞者でもある社会科学者ハーバート・サイモンは、「限定合理性」を唱えたことで知られています。伝統的経済学は人間を完全な情報と計算能力をもつ合理的選択主体と仮定しますが、実際の人間は認知能力や情報が制約される中で必ずしも最適な解ではなく「十分に満足できる解」を選んで意思決定しているという現実に則した学説です。

簡単に言えば、人間には理解力の限界があり、社会システムの構造は人間が理解できる範囲で決定づけられるということです。物質は分子や原子で構成されていますが、人間はそんな微細なスケールで世の中をとらえていません。ある程度の大きさをもったまとまり（chunk）の集合体として世の中を理解しています。

サイモンは、「複雑なものを準分解可能な下位システムの連結したものとして取り扱うことで限界を突破する」と表現しました。だとすれば、AIが人間の認知能力を肩代わりすることで限界を超え、それに連動して世の中のあらゆる構造が変化することになるかもしれません。

繰り返しになりますが、AIが社会に与える影響を考えるときに、「生産性」や「置き換え」という視点だけに頼っていると大局を見失います。「ボトルネック」「責任」「認知限界」といった要素の変化によって全体の構造がどのように変わるのかという視点からの分析・研究が必要だと思っています。

菊池　構造変化モデルによってAI社会の輪郭が少しずつ見えてくることになりますね。重厚なお話をいただきありがとうございました。