OpenAIの生成AI「ChatGPT」が2022年11月にリリースされてから3年が経過した。日本の企業・組織における導入・利活用はどこまで進んでいるのか、今後の課題は何か――。AIガバナンスを巡る論点をあぶり出すシリーズ第18回は、村上明子　AIセーフティ・インスティテュート（AISI）所長の視点。（聞き手は、菊池尚人 デジタル政策フォーラム 代表幹事代理／慶應義塾大学大学院 メディアデザイン研究科　特任教授）

村上明子　AIセーフティ・インスティテュート（AISI）所長

生成AIの急速な普及により、「AIは安全なのか」「AIを信頼してよいのか」という問いが、これまでになく社会の前面に出てきました。私自身、AIセーフティ・インスティテュート（AISI、読みはエイシー）の活動を通じて、国内外でこうした問いと向き合ってきましたが、整理しておきたいのは、AIにおける「安全」と「安心」は同じものではないという点です。

「安全」は技術で作れるが、「安心」は技術だけでは作れない

私が考える「安全」とは、AIを使うことで客観的に被害が生じない状態を指します。モデル評価、レッドチーミング、ガードレール設計、サイバーセキュリティ対策などは、いずれも安全性を高めるための技術的な取り組みです。安全は、一定程度までであれば、技術と検証によって客観的に評価することができます。

一方で、「安心」は技術だけでは完結しません。安心とは、利用者や社会が主観的に「納得して使える」と感じられる状態です。たとえ安全性が技術的に確認されていたとしても、「よく分からない」「誰が責任を持っているのか見えない」と利用者が感じた場合、安心は生まれません。

ここで重要なのは、安心は結果ではなく、プロセスへの信頼から生まれるという点です。どのような考え方で設計され、どのような前提で使われ、問題が起きたときに誰がどう対応するのか。そうした姿勢や説明があって初めて、社会はAIを受け入れることができます。

日本では「安心」が先に問われる

日本では、特にこの「安心」が強く問われる傾向があります。海外では、まず安全性を最優先し、使いながら改善していくという考え方が一般的ですが、日本では「本当に大丈夫なのか」「誰か困る人はいないのか」という安心の問いが、しばしば先に立ちます。これは単なる慎重さではなく、日本社会が培ってきた価値観の表れでもあります。

ただし、この整理を怠ると、安全に関する技術的議論が、安心をめぐる情緒的議論に飲み込まれてしまいます。その結果、何が問題で、何を議論すべきなのかが曖昧になり、建設的な議論が難しくなってしまいます。

AIガバナンスは「安心を支えるプロセス」である

この文脈で、AIガバナンスの役割を考える必要があります。AIガバナンスは、「AIを完全に安全にする仕組み」ではありません。むしろ、安全を、AI利活用の前提としつつ、社会に安心をもたらすための判断と説明の枠組みだと私は考えています。

重要なのは、AIガバナンスが政府や専門機関だけの仕事ではないという点です。実際にAIを使い、その結果に対して説明責任を負うのは、企業や民間事業者です。したがって、組織レベルのAIガバナンスは、国レベルの枠組みとは別に、主体的に設計されなければなりません。

ソブリンAIではなく、「AIソブリンシー」という考え方を

ここで誤解されがちなのが、「ソブリンAI」という考え方です。「国産であれば安心」という発想は分かりやすい一方で、現実を単純化しすぎています。どこで作られたかよりも重要なのは、誰がそのAIを管理し、制御し、説明できるのかという点です。

私は、重要なのは「ソブリンAI」ではなく、どこに主権的な判断を置くのかという意味での「AIソブリンシー」だと考えています。技術の国籍ではなく、統治の所在こそが、安心につながります。

AIの進化は速く、不安を煽る言説も少なくありません。しかし、恐怖に引きずられて立ち止まることも、無警戒に突き進むことも、どちらも望ましい姿ではありません。

安全と安心を丁寧に切り分け、技術と社会の双方から備えていく。そのプロセスを誰が、どの立場で引き受けるのかを明確にすることこそが、AIを持続的に活用するための前提条件なのだと思います。