AI時代において、日本が「デジタル主権」を確立・維持していくために必要な政策は何か――。古くて新しいこの根源的命題について五賢人に問う。（聞き手は、谷脇康彦 デジタル政策フォーラム 代表幹事）

徳田 英幸　情報通信研究機構 顧問

【私のデジタル主権論】

デジタル主権を、すべての技術を自前で持つことだととらえるべきではない。重要なのは、他国や特定の企業への過度な依存を避け、必要なときに自らの判断で制御し、代替できる能力を確保することである。私は、戦略的グローバルアライアンスを基盤とした自律性の確保と維持こそ日本が目指すべきものだと考えている。

日本には、ものづくりや精度・品質への意識、社会を支える基盤技術の蓄積がある。それを企業や産業の内側に閉じず、相互運用性を高め、国際的な連携に生かす必要がある。一方で、外部の技術を使うにしても、その安全性を国内で確かめられなければ自らの判断を支えられない。

政策としては、検証用の計算資源と能動的な評価基盤を整えるとともに、PNT（測位・航法・時刻）など普段は見えにくいが基盤となる技術にも取り組む必要がある。日本は何を持ち、どこを同志国との協力で支えるか――。日本が目指すべきなのは、閉じて守る主権ではなく、つながりながら自ら選択し、社会を動かし続けるための主権である。

提言①　企業と産業の壁を越え、データの相互運用性を確保せよ

私は、日本がフィジカルAIで強みを発揮する可能性に期待している。ただし、ものづくりに優れているから、そのままAIでも勝てるというほど単純ではない。日本の製造業には、企業や事業領域の単位でデータとシステムが構成されているため、全体として十分に統合されていないという課題がある。まず、この問題に取り組む必要がある。

現実世界をセンシング（計測）し、得られた情報をプロセッシング（処理）し、アクチュエーション（動作・制御）として現実世界に戻す。フィジカルAIを考える基本はこの循環にある。日本の勝ち筋は特にアクチュエーション（デジタル空間からリアル空間への還元）の部分にある。

そして、AIエージェントが加わることで、何を自動化し、どこを人間の管理下に置くかといった新たな判断が必要になってくる。しかし、その循環を支える価値の源泉は、やはりデータである。例えば、企業間でやり取りするデータに「25」と書かれていても、それが25mmなのか25cmなのか分からなければ、受け取った側は正しく使えない。各社が独自の形式で蓄積してきた情報を集めても、単位や意味を共有できなければ、相互運用性は確保できない。機械加工やロボットの細かな動作についても、事業領域を越えて扱えるデータにしていくことが重要だ。

つながることによって新たな不具合も生じる。昔話だが、自動車の車載通信ネットワーク規格（CAN）に基づき同じ仕様で作った部品でも、メーカーによって微妙な差異があり、組み合わせによっては途端に動かなくなることがあると聞いたことを思い出す。データを流せるようにすることと、システム全体が正しく動くようにすることを、併せて考えなければならない。

日本のものづくりに根付く精度や品質に対する意識の高さは、センシングやデータプロセッシングにも生かされている。この強みを、企業内に閉じたままにしておくのは惜しい。先行する企業の実践を起点に、データの形式や意味をまずは産業内で共有し、さらには産業の境界を越えて使える仕組みへ広げていくべきである。

つながり合い、データを活用するための基盤インフラへの信頼も欠かせない。例えば、ポジショニング（測位）、ナビゲーション（航法）、タイミング（時刻・タイミング）の総称であるPNTシステムは、GPS、自動運転、金融取引、スマートグリッドなど現代の社会インフラのために必要不可欠になっている。このシステムを正確に動かすためには、高精度の時刻同期が欠かせない。手前みそではあるが、情報通信研究機構（NICT）では高精度の日本標準時をインターネット経由で提供することで、PNTシステムの安定的な運用に貢献している。AI社会を支えるそうした基盤技術をどう確保していくか、見えるサービスだけでなくその下で社会を支える基盤的技術にも目を向けることが、相互運用性の確保のために重要だ。

提言②　AIを能動的に評価し、迅速に改善する仕組みを築け

AIの安全性は、決められた試験を一度通しただけでは確保できない。評価方法が固定化されれば、新たな使われ方や問題を見逃すおそれがある。開発と利用の変化に合わせて、能動的にAIを評価するための改良・改善を続けなければならない。

例えば総務省とNICTが取り組んでいる能動的評価は、評価する側にもAIを使い、対象のAIとやり取りをしながら振る舞いを確かめるものである。決まった問題を順番に解かせるだけでなく、対象の反応を見ながら評価する。このような臨機応変に検証できる基盤を、日本国内に持つことが重要である。（注1）

ただし、社会からの要請に、研究開発が十分追いついているとは言えない。検証のノウハウを持つ人がいても、必要な計算資源にすぐアクセスできるとは限らない。AIを作るためだけでなく、その安全性を調べるためにも潤沢な計算資源が必要である。かつて大型計算センターを日本各地に整備してさまざまな研究を支えたように、生成AIを検証するための人材と計算資源を、両面から支える必要がある。

評価は導入時点で終わらない。設計し、テストし、導入した後も、監視、監査、更新を続け、その結果を次の設計に活かす。そうした循環を作ることが大切だ。安全に作ったつもりでも、実際に社会へ出れば、開発者が想定しなかった使われ方が生まれる。AIの振る舞いを制約するガードレールも、一度作れば完成というものではない。

利用者が問題を見つけたとき、開発側へ報告できる仕組みも必要である。開発者による評価だけでは、運用中のすべての出来事をとらえきれない。利用者からのフィードバックを蓄積し、改善につなげられることが重要である。多くのAIが使われるようになるほど、それぞれの特性や問題を共有するための共通基盤が重要となる。

AIに関する判断を技術者だけに任せるべきではない。社会にとって何が適切かは、開発者、利用者、研究者、行政など、多様な関係者が考える必要がある。ただし、何年かに一度の見直しなどではとても間に合わない。AIの進化スピードに迅速に対応できる仕組みを作り出さなければならない。

提言③　人間の関与と責任を再設計せよ

急速に進化するAIに対して、その自律性をどこまで認め、人間はどのように関与するのか、人間はどこまで責任を持つのかを再設計しなければならない。

ただし、すべての局面で人間の承認を挟むことはできない。自動運転車の衝突回避のように瞬時の反応が必要な制御では、人間の判断を待てない。そうした部分は十分にテストした仕組みに任せ、より長い時間軸での運用や方針の判断に人間がどう関わるかを考える。処理の時間軸によって、関与の仕方を変える必要がある。

事故が起きた場合には、どのセンサーが動き、どこで不具合が起きたのかを追跡できなければならない。特に電力などの社会インフラでは、間違いを後から取り消せない場合がある。自律的なエージェントが深く入り込むほど、その備えは重要になる。

ヒューマン・イン・ザ・ループ、ヒューマン・オン・ザ・ループ、ヒューマン・オーバー・ザ・ループなど（注2）、タイミングと度合いによって様々なパターンがあり得るだろう。AIの利用推進と安全確保を同時に進めるため、AIに自律的な処理を任せる範囲、人間が見守る範囲、責任を持って判断する範囲を、具体的な仕組みに落としていかなければならない。

社会の意思決定にもAIは関わってくる。有権者の意見をAIで可視化・分析し、その情報を踏まえて人間の議員が判断する。そうしたハイブリッドな間接民主主義という方向性もあるだろう。ここでも、AIに判断を任せきってしまうのではなく、人間が責任ある意思決定を行うためにどのような能力を補完するべきかが問われることになる。

一方、危険だから使わせないという方向へ過度に傾くことも心配している。例えば教育の現場で、生徒や学習への影響が見通せないから使わせないという対応を取り続ければ、使わないことによる別のリスクを生むだろう。生徒に使わせる前にまず教師自身が率先して使ってみて、何に役立ち、何が問題かを体験することが教育者としての責任である。

私は、長年にわたるオープンソースの活動を通して、異なる背景を持つ人々が共通の目的に向けて不具合を直し、成果を共有する文化の素晴らしさを体感してきた。それゆえに、コミュニティの力には大いに期待している。AIについても、特定の企業や組織だけに任せるのではなく、様々な利用者や開発者/研究者が問題を共有し、議論を重ねることが基本になると思う。社会全体で、使う力と、問題を発見し、改善し、人間と共生できるAIに育てていく力を高めていくことが必要だ。

インタビュー実施：2026年8月24日