AI（人工知能）が驚くべきスピードで進化している。人間の知をはるかに超えるAGI（汎用人工知能）、ASI（人工超知能）の実現も近いという見方もある。AIは、人間にとって便利な道具であり続けるのか、はたまた、人間を支配する脅威となるのか――。デジタル政策フォーラムのメンバーおよび関係者にその問題意識を聞くシリーズ第６回は、喜連川優 大学共同利用機関法人 情報・システム研究機構 機構長／東京大学 特別教授に「日本が進むべき道」について聞いた。（聞き手は、谷脇康彦 デジタル政策フォーラム 代表幹事、以下敬称略）

喜連川 優 情報・システム研究機構 機構長

谷脇　デジタル政策フォーラムでは、去年7月にAIガバナンスに関する最初の提言をまとめ、同年12月には提言のバージョン2.0を公表しました。政府がAI法を国会に提出する直前のタイミングで、「AIガバナンスに関する規制法を作るべきではない」という点をベースラインにした報告書です。その後、AI法は国会で成立しましたが、規制色は薄く、AI関連施策の推進体制の明確化やAIに関する研究開発の推進、AI活用の推進などを内容とする基本法的なものとなりました。AI法の方向感は我々の提言内容にも適合するものであり、そこは良かったと思っています。

このAI法の成立を受け、今後、AI基本計画の策定など具体的な議論に入っていきます。日本はどの方向に進むべきなのか、どのような全体像を描くべきか、今日はそのためのヒントをお伺いしたいと思います。

基礎研究なきガバナンス論は空回り

喜連川　ちょっと自慢してもいいですか（笑）。NIKKEI Digital Governanceが米Weights and Biasesと共同作成している主要AIモデルの性能比較データベース「AI Model Score 100」で、僕たち、国立情報学研究所（NII）の「LLM-jp-3.1」が総合21位、日本勢でトップにランキングされたんです（NIKKEI Digital GovernanceのAIモデルランキング「AI Model Score」で「LLM-jp 3.1 8x13B」が日本製のモデルの中で第1位に）。

2022年11月にOpenAIがChatGPTを正式ローンチし、生成AIブームが巻き起こりました。「なんや、このペラペラ喋る気色悪いものは！？」（笑）と戸惑っていたのですが、NII所員に聞いて回っても「よく、わからない」という答えばかりです。当時はOpenAIが生成AIの作り方に関する情報をかなり公開していたので、「分からんのやったら作ってもうたらええやんか。モノマネだと言われてもかまわへんやないか」と発破をかけ、所内にプロジェクトが立ち上がったのです。僕自身は翌2023年3月末でNIIの所長を退任することになっていたのですが、動かずにはいられなかった。

僕が言いたいのは、AIとは何かを理解していない人たちばかり、AIを作ることもできない人たちばかりで、「AIガバナンス」を議論することなんてできますか、ということなんです。他人が作ったAIプロダクトを評価したり、使い方をマスターするということではなく、AIそのものを理解することが重要です。言い換えれば、基礎研究を抜きにしてガバナンスを論じても空回りしてしまうと思います。

今回の取り組みは、国費を使った「ソブリンAI」です。ソブリンということには苦い思い出があって、経済産業省が2007年に立ち上げた「情報大航海プロジェクト」という国産検索エンジン開発プロジェクトでは、100億円以上が投じられましたが、メディアからは「国税の無駄づかい」「Googleに勝てるわけがない」と厳しい批判を浴びました。しかし、今になって思い返しても、あれはやっておくべきだったし、やっておいて良かったと心底から思います。自分たちで学んで、考えて、作ってみて初めて分かることがたくさんあるからです。冒頭のランキングの件は、順位がどう優劣がどうということよりも、自分たちの試行錯誤や取り組みが的外れではないことを確認できたことに大きな意味があると思っています。

LLM（大規模言語モデル）という得体のしれない巨大ニューラルネットワークが、人間にとって制御可能なのかどうか――。そういう基礎研究、根本的な研究をしっかりやるべきというのが、僕の意見です。

AIエージェントはRPAの二の舞に？

谷脇　その問題意識、AIガバナンスを論じていく上でとても重要な示唆を与えるものだと思います。別の視点から伺います。コンピュータの世界には「集中と分散」という議論があります。集中型の大型コンピュータから分散型のPCの普及、さらにクラウドのような集中型から分散型のエッジコンピューティングのような変遷です。AIの場合、LLMはこの「集中と分散」という文脈の中でどのようにとらえるべきでしょうか。

喜連川　どちらの側面もあります。LLMは集中型ですが、最近の流行語であるAIエージェントは分散型ととらえられます。かつてのコンピュータシステムがそうであったように、AIも非常に速いペースでその形態を変えているのです。

AIエージェントの分散化が行き過ぎると心配なのは、RPA（ロボティック・プロセス・オートメーション）の導入で起こったような混乱がAIでも起こるのではないかということです。RPAは定型的・反復的業務を自動化・省力化できるということで大流行し、大きな大学ではRPAを5000、1万と作った。その結果、どうなったかというと管理・メンテナンスが困難な複雑怪奇な寄せ集めシステムになってしまいました。

AIエージェントでも同じような現象が起きるかもしれません。SLM（小規模言語モデル）がエージェント分野に特化して多数作られていったとき、最初は良くても、長期的に維持・運用し続けられるのか。AIエージェントを導入するのは、コンピュータシステムの専門家ではなく、AI研究者や実務家ですから、維持管理のところまで考えが及ばない可能性もあります。

谷脇 康彦 デジタル政策フォーラム 代表幹事

日本の実力を直視して、何を究めていくか

谷脇　先ほどの基礎研究をしっかりということに関連するのですが、国はAI分野にもっと投資すべきではないでしょうか。半導体に何兆円も投じていますが、それだけで大丈夫でしょうか。俯瞰的なアプローチが必要な感じもしています。

喜連川　ご質問の含意は、日本が勝てたのはメモリーだけなのに苦手なロジック系に挑んで勝ち目はあるのか、ではAIへの投資はどのように行えば良いのか、と言い換えることができると思います。前者についてはぜひ成功してほしいと願っていますし、後者については自らを省みて戦略的に行う必要があると思います。

いずれにしても、しっかり認識しておくべきことは、日本は論理的に複雑で新奇なものをインベント（発明、創造）することが、少なくともこれまでは必ずしも得意ではなかったということと、責任の所在を曖昧にしてはいけないということの2点です。

近代における日本の成功・発展というのは、米欧が発明した技術や方法を学んで、真似て、改善を繰り返すという辛抱強い努力の賜物だったと言って良いのではないでしょうか。コンピュータ然り、自動車然り、家電然り、半導体然り、そして、生成AI然りです。最初の「発明」の段階から日本が道を拓いたという成功事例は考えてもあまり思い浮かばない。1980年代に「Japan as No. 1」という言葉が流行りましたが、たまたま時代の巡り合わせが良かった“まぐれ当たり”だったのではないか。それは、その後の“失われた30年”の凋落を見れば自明ではないか――。年齢を重ね、過去を冷静に振り返ってみると、日本の実像がそんなふうに見えてくるのです。悲観ばかりでは前に進めませんが、驕り高ぶれば道を誤ります。日本の実力を踏まえた上で「何を究めるのか」を定めることをしないと、いくら金を注ぎ込んでも同じ轍を踏むことになります。

もう一つは、政策とその結果に誰が責任を持つのかを曖昧にしないということです。NIIのLLMプロジェクトについては、200億円以上の公費が投入されています。その結果責任を負うのは言い出した僕自身です。大学や組織の壁を越えて皆さんで一緒にやりましょうと声がけして、日本のトップクラス研究者200人くらいに参画してもらいました。アメリカの企業が作ったものに依存するのではなく、自分たちで考えて、作って、工夫して、真理に迫るというアティテュード（姿勢・考え方）で向き合いました。

僕はやってみて本当に良かったと思っていますし、参画してくれた皆さんも同じ思いだという自信があります。そうした研究者の熱意に加えて、政策担当者の敏感なセンスと俊敏なレスポンスが絶妙に嚙み合ったことも大きかった。これからのAI国家戦略を定めていくための礎の一角くらいにはなったんじゃないでしょうか。

ただし、もし失敗したら、何が悪かったのか、どうすれば良かったのかを徹底的に究明して、次に生かす。それが責任を取るということです。誰も責任を取らない構造を放置していたから“失われた30年”などということになってしまった。僕は、そこを強く懸念しています。基礎研究への国家予算はどんどん減らされ、応用研究にシフトしてきましたが、それで日本は強くなったのか、このままでAI時代を生き抜けるのか。今こそ考え直すべき時だと思います。

谷脇　政府の「基本計画」というものは、「研究開発予算を倍増」「全国で実証実験100件」など、KPIの分かりやすさを追求した“お決まりメニュー”に陥りやすいところがありますが、何を実現するために何をどのようにやるのかという点を明確にすることが重要ですね。

喜連川　AI基本計画を書く人にも覚悟が必要でしょうね。“お決まりメニュー”ではあまり役に立ちそうにはないですから。

学問の領域では、研究スタイルそのものがAIの登場によって様変わりしています。サイエンス領域に特化したファウンデーションモデルが数多く登場していて、テーマを入力すると、関連論文が一覧できるばかりか、研究活動が厚い領域と薄い領域が見えてくる。以前は、大量の論文を一生懸命読み込んで「この領域の研究が抜けている！」みたいなことを自分で見つけるしかなかった。その膨大な作業がAIでほぼ自動化できてしまうのです。また、AIに書かせた論文のレベルも急速に上がっています。まだ学会などではデスク・リジェクト（却下）されていますが、優秀な研究者が書いたものと見まがうような素晴らしい論文も出てきています。

もう、そういう時代になっているのです。研究のためにはAIを使わざるを得ない。本当に使わざるを得ないのです。よく「AIは思考の壁打ちに使っています」という人がいますが、壁を打ち破るくらいの勢いで使い倒してほしいですね（笑）。AI基本計画もAIに書かせてみたらどうでしょうか（笑）。

恐れたって来るものは来る

谷脇　シンプルな質問です。先生はAGI（Artificial General Intelligence、汎用人工知能）やASI（Artificial Superintelligence 人工超知能）の到来に恐れのようなものを感じることはありますか。

喜連川　恐れたって来るものは来るんですよ。百科事典が電子辞書に置き換わってしまったように、AIがいろいろなものを置き換えていくのは必然です。今は、その変化をどう受け止めるかを考える段階にあって、怖いか怖くないかを論じるのはあまり意味がないと思います。

谷脇　AIガバナンスの観点からすると、凄まじい勢いで進化していくAIを人間のスピードでガバナンスできるものでしょうか。

喜連川　それはAIの問題というより、人間の問題ですね。悪意ある人間というのは、いつの時代も、どこにでも必ずいるもので、日本で規制をかければ規制の緩い第三国に移って悪さをするわけでしょう。日本は規制が厳しすぎるせいで、いろいろな分野で後れを取ったという過去を直視すべきです。その点、デジタル政策フォーラムが提言した通り、AI法が規制法ではなく推進法となったことは喜ばしいことです。

そして、AIガバナンスは必要ですが、それが日本の成長・発展に直接寄与するというものではないでしょう。AI時代に日本がいかに生き抜いていくのかについては、英知を結集して、ホンモノの戦略を練る必要があると思います。

谷脇　国のあり方と表裏一体の関係にある安全保障戦略の議論と似ていますね。デジタル政策フォーラムでもAI戦略のあり方について議論を重ねていきたいと思います。貴重な示唆をいただき、ありがとうございました。