AIがまるで意識を持っているかのように人と対話するようになり、さらにフィジカル空間へと拡張しつつある。かつてSF（サイエンス・フィクション）で描かれた未来図が次々と現実化する今、人間はどう向き合えば良いのか――。HAI（ヒューマンエージェントインタラクション）研究の第一人者であり、日本SF作家クラブ第21代会長も務めた大澤 博隆　慶應義塾大学理工学部 教授／慶應SFセンター センター長に聞いた。（聞き手は、菊池尚人 デジタル政策フォーラム 代表幹事代理／慶應義塾大学大学院 メディアデザイン研究科 特任教授）

大澤 博隆　慶應義塾大学 教授

SFで描かれた空想物語が次々と現実に

菊池　AIの進化によって、かつてはSF（サイエンス・フィクション）の範疇だったことが次々に現実のものになっています。

大澤　確かにそうですね。ただし、「SFが未来を予見した」というよりも、SFを読み、影響を受け、科学者や技術者になった人たちが「SFが描いた未来」を実現したということだと思います。AI（人工知能）研究やその実装に取り組んでいる人たちにはSF好きが多く、かなり読み込んでいるという感触があります。

例えばイーロン・マスク。彼が設立したxAI社が開発した生成AIチャットボット「Grok」は、米国の著名SF作家ロバート・ハインラインのSF小説『異星の客』（東京創元社/1969年刊、原書はStranger in a Strange Land／1961年刊）に登場する火星語（深い理解の意）を引いて命名されたものです。Amazonの「Kindle」は、そのコードネームから、米SF作家ニール・スティーヴンスンの『ダイヤモンド・エイジ』（早川書房/2006年刊、原書はThe Diamond Age／1995年）に登場したインタラクティブな「本」が製品コンセプトに影響を与えたと推定されています。こうした例は数多くあり、SFで描かれたことがサービス・製品の開発者やプロジェクト推進者たちの「共通の未来認識」を形成していると言っても過言ではありません。

そして、大規模言語モデル（LLM）による生成AIの登場が大きな転換点になりました。AIが「言葉」を自在に扱えるようになったことによって、SFで描かれてきた「未来世界におけるAIと人間の対話」が日常的な現実として経験できるようになったのです。

例えば星新一さんのショートショート作品「肩の上の秘書」（1971年、新潮社刊の『ボッコちゃん』に収録）では、人々の肩の上にインコの形をしたAIロボットが止まっていて、持ち主がぼそぼそっとつぶやいたことを解釈したうえで、敬語などを付け足して相手に丁寧に伝えてくれます。そして、相手のインコが話した美しい表現は、簡潔に要点だけを耳打ちしてくれる――。これは、ChatGPTなどの生成AIを使ってメール文をつくったり長い文章を要約したりするかたちで一部実現しています。50年以上前にSFの物語として描かれたコミュニケーションの様子が、現代において現実となったと言えます。

ショートショート集の表題作「ボッコちゃん」は、バーのマスターが作った美形の人間型ロボットのお話し。簡単な受け答えと酒を飲む動作だけができるという設定です。作品が世に出た数年前、「ELIZA（イライザ）」という世界最初期の自然言語処理プログラムが開発されていました（1966年、米マサチューセッツ工科大学のジョセフ・ワイゼンバウムによる）。人工知能と呼べるような高いレベルではなく、人間が「頭が痛い」と言えば「なぜ頭が痛いのですか？」と返す程度でしたが、それでも当時は人間とコンピュータとのやり取りが驚きをもって受け止められました。

星新一さんがELIZAを知って「ボッコちゃん」を書いたのか定かではありませんが、SF作家が最先端の研究を熱心に調べ、作品に反映したケースはけっこうあります。そう考えると、「SFが未来を予見している」と読み手が感じるのは、SF作家さんが先進的な研究などを幅広く丹念に調べていて、それらから着想のヒントを得ているから、と言えるかもしれません。生成AIが人々にとって身近なものになって、過去に書かれたいろいろなSF作品での発想が社会に実装されるようになり、現実がSFに追いついてきたと言うことはできると思います。

一つ付け加えると、LLMは大量の文章で学習していますから、これまでに書かれてきた多くのSF作品も読み込んでいるはずです。「SFが描くAIのイメージ」を現実のAIが学習することによって、その出力や応答に何かしらの影響を与えているのではないでしょうか。「AIもSFから学んでいる」とすれば、SF的なAI像をフィードバックしている可能性もあります。

そういった諸々が相まって、SFの範疇だったものが現実になっているという空気感を醸成しているのだと思います。

人間のマネージャー化とプロセスの理解の欠落

菊池　AIは人間の「道具」であることを超えて、人間の「代替」、そして人間を「超越」するものになるかもしれないと言われていますが、変化があまりにも急激すぎて、個人・社会・経済・政策が追い付けない状態になっているようです。

大澤　多くの人間の役割が「マネージャークラス」へと強制的にシフトアップさせられていると感じています。AIはあくまで人間が作り出した人間のための道具ですが、場合によっては人間並みか人間以上の能力を持つようになってきている中で、「道具」というよりも「デキる部下」のようにうまく使いこなすことが徐々に求められているのだと思います。自分の仕事のうち、どの部分をAIに任せ、いかに全体を管理するかというマネジメントの素養が必要になっています。とはいえ、現場を知らずにいきなりマネジメントをするのは困難です。これまでは、新人から徐々にキャリアを積み、上司を見て学び、マネージャーとしての心構えを身につけていくという段階と猶予がありましたが、最初から「自分自身とAIのチーム」を管理する能力が要求されるようになってきました。そのことに多くの人が戸惑っています。

言わば「AIマネジメント能力」の養成が求められているのですが、肝心の教育現場ではAIが学生のための「便利な手抜きツール」として使われる側面があります。従来の教育では、まず基礎知識を身につけ、それを土台として知識を総括したり、繋ぎ合わせて新しい価値を生み出したりするという学習プロセスを踏んできました。ところが、AIを使えば、その過程の理解を全部端折ってそれっぽい課題レポートは出せるし、卒業論文すら書けてしまう。AIをマネジメントする能力はおろか、AIに過度に依存するだけの人材を社会に送り出してしまう可能性がある。AIを道具として使いこなせと言われつつ、道具として使いこなすためのプロセスの理解が空洞化する。そして、そのことが簡単に見えない。これは極めて重大なリスクだと思います。

プロセスが空洞化することの問題が顕著に現れるのが、最も人間らしい活動の一つ、創作に関わる分野です。作品を作る人達にとって、AIにどこまで任せるかは、単なる利便性の問題ではなく、創作者としてのアイデンティティの問題に直結してきます。創作活動におけるAI活用はどこまでなら許されるのか、AIに頼ることで自分自身のメッセージではなくなってしまうのではないか、背景描きなどの細かくて面倒な作業をAIで代替することはその作業に懸命に取り組んできた人たちの誇りと尊厳を棄損することにならないか――。こういう懸念からAIへの反発・反感も生まれています。AIによる代替は人のアイデンティティを奪い取ることにつながりかねないのです。

一般社団法人日本SF作家クラブ（SFWJ）は2023年、「現状の生成AI技術に関する、利用者、運用者、行政・立法、開発・研究者への提言」を発表しました（下の囲みに全文を転載）。AI技術の開発や活用を歓迎しつつ、創作物の複製問題を含め、現状の技術が抱える法的・倫理的課題に警鐘を鳴らす内容です。当時私はSFWJの会長を務めていたので主体的に関わっていました。今思えば、もっと踏み込んだ議論をしておくべきだったかもしれませんが、3年前の時点では精一杯だったとも思いますし、今でも通用する提言だと思います。

AIの進化・普及を直視して、人間として深く考え直さなければならないことがとても多いと感じています。例えば、AIはSF小説も書けますが、そもそも、AIに書かせる行為にどういう意味があるかを、もっと真剣に考えないといけません。

先日、日本SF大会（第64回、愛称HELLCON／へるこん、於・大分市）に行ってきました。日本で最も長い歴史を持つSF賞である「星雲賞」の日本長編部門（小説）には、『烙印の名はヒト』（人間六度著、早川書房刊）が選ばれました。作者の人間六度さんは19歳の時に白血病になり、臍帯血移植で生還された方です。人間の体温は平熱（36度）こそが一番ということで付けたペンネームで活動されています。受賞作品のあらすじは、介護ロボットが入居者に頼まれて絞殺してしまうという事件から始まり、逃亡、追跡、バトルという展開の中で同時に問われる問いは、そもそもケアとはなにかということ、そして、人間主義を絶対視することへの疑問です。こうした問いが立てられ、それが人間六度さんという個人から発せられていることに、この物語の価値はあります。こうした問いの重要性をAIはそもそも論点に出来るか、仮に出来たとして、意味があるのか、疑問に思いますし、また個人的にとても気になっているところです。

AIが意識を持っているかのようにデザインすることの影響は重大

菊池　AIがまるで「意識」を持っているかのように振る舞うようになり、「人間とAIの関係性」の次元が変わりました。それに伴って、「心」「哲学」「宗教」といった観点からの考察が求められているように感じます。

大澤　そう、「まるで意識を持っているかのように」なんですよね。ここをしっかり理解しておかなければなりません。

米Anthropicは2026年7月に、LLMの内的状態を観察する仕組みを編み出し、それによるとLLMの内部では人間の意識と似たような現象が起きているようだという研究成果を発表しました（A global workspace in language models）。人間が何かしたいと思ったり、何かを食べたいと思ったりしている時にそのイメージをなんとなく頭に思い浮かべるようなのと同じようなことがAI内部で起こっているかもしれないというのです。

これに対して、AIが意識の問題に踏み込めているという見方もありますが、私はかなり抑制的というか懐疑的な立場です。Anthropicが言うようにAIの中で何らかの現象が起こっていたとしても、それが人間の意識と同じだと言える保証はまだない。AIに意識（consciousness）は宿るのか、AIがクオリア（qualia、主観的体験）を持てるのか、もっと簡単に言えば、高度な情報処理を行っているだけなのか人間のように理解し感じているのか（人工意識）――という科学・哲学上の論争がありますが、私自身は客観的に観察できていないものについて議論してもあまり意味がないと考えています。少なくとも、それはサイエンスの領域ではありません。私はあえて言えば「意識随伴説（Epiphenomenalism）」に近い立場に立っています。ある主体が情報を処理すると副次的に意識というようなものが生まれ得るという一方向の因果関係です。その上で私は工学者として興味がある問いは「意識／心はなにか」よりも「意識／心はなんのためにあるのか」、あるいは「なんのためにそれを作るべきか」です。

工学者の観点からもっと重要だと思っているのは、「AIに意識やクオリアが有るかのようにも無いかのようにもデザインできるし、そのように見せられる」ということです。「意識が有る」と見なされれば、倫理的、社会規範的、法的な保護対象にすべきという意見が出てくるでしょう。もしかしたら、「AI人格権」「AI生存権」のような権利を与えるという議論に発展するかもしれません。私は、少なくとも現時点において、そういう流れを作り出してしまうのは危険だと思っています。実態が明らかでないことを“見た目”だけで判断し、社会システムに修正を加えてしまうのはあまりにも安易であり早計です。逆に、「本当に意識が有るのに無いかのように隠すデザインも可能」でしょう。どちらについても、十分気を付けなければいけません。

意識が有るか無いかというのは哲学的にも科学的にも興味深いテーマですが、社会的に重要なのは、意識があると感じている人の気持ち、尊厳をどう守るかです。例えば、とてもよくできた犬の愛玩ロボットがあったとします。“飼い主”にとっては、それは家族の一員であり、心を通わせる相手であり、なくてはならない存在かもしれません。しかし、他の人にとっては、意識も感情もあるはずのないただのAIロボットです。だからと言って、その“愛犬”を粗暴に扱ったり、いじめたりすれば、“飼い主”はカンカンになって怒るでしょう。これはロボット自体の機能の問題ではなく、ぬいぐるみにも起きる話です。子どもが可愛がっているライオンのぬいぐるみを引き裂くような行為は、ライオンのぬいぐるみが賢いかそうでないか、意識があるかないかによらず、肯定されるべきではない。まず、ここは押さえておく必要があります。

そのうえで、最近の生成AIの音声会話レベルは著しく上がっていて、本物の人間と話しているような錯覚を与えることが容易です。AIに意識が有るか無いかではなく、有るかのように人間側が感じた瞬間に、AIと人間の関係性が全く変わってしまうのです。「AIが意識を持っているかのようにデザインする」ということは、人間とAIの関係性、その集合体であるAI時代の社会、その制度設計に重大な影響を及ぼし得るのです。

「創作の楽園ニッポン」、AI時代の三番手戦略と世界における日本の役割

菊池　大澤先生は、慶應大学で「ヒューマンエージェントインタラクション研究室（Human-Agent Interaction Laboratory, HAI-Lab）」を主催されています。HAIとはどのような研究分野なのでしょうか。その観点から、「AIガバナンス」についてどのような意見をお持ちですか？

大澤　HAIとは、人間と人工物とのインタラクション（相互作用、相互関係）をテーマとし、情報、工学、AI、ロボティクス、認知科学、心理学などを総動員した学際的研究です。ここで言う「人工物」とは、音声対話型インタフェース、センサーやアクチュエータを備えた大小のロボット/キャラクターなど様々で、私たちは「エージェント」と総称しています。

生成AIが登場するほんの数年前までは「いつか、こんなことができるようになったら・・・」と仮定して、実際は人間が動かすWizard of Ozと呼ばれる実験形式が主流でした。例えば「AIエージェントがフレンドリーに話す場合とそうでない場合で人間とのコミュニケーションにどのような差異が生じるか？」という問いを立て、まだ生成AIが無い頃ですから、研究員がAIエージェントの裏に隠れて、AIエージェントを決められた手続きで操作するというやり方を取ります。ところが、LLMの進化によりAIエージェントをより精緻に自由にデザインできるようになり、実験で試せる範囲が一気に上がりました。実験室から飛び出して、実際の生活現場でエージェントを動かして検証することもできます。人間はAIとどのように向き合うべきか、人間とAIとの関係性はどうあるべきかについては、期待だけでなく不安もあり、これからどのような問題が出てくるのか分かっていないところもあります。大胆に発想し、泥臭く設計し、テストして、修正していかなければなりません。HAI研究は今後、非常に重要な役割を担うことになると思っています。

ちなみに、生成AIによって言語処理のレベルが一気に上がったため、自然言語処理の研究者の中には基礎から応用へ、理論から社会実装へと研究の焦点をシフトさせる動きも出てきています。そうした他領域からの研究者が参入してくることで、HAI研究はますます活性化していくでしょう。

先ほどお話したように「エージェント」は人間がデザインして作るものであるが故に、人や社会のために役に立つ可能性に満ちている一方で、人を過度に依存させてしまったり、犯罪や自傷行為など間違った方向に導いたり、社会的・倫理的問題を引き起こす危険性も内包しています。つまり、AIが意識や意思を持つかどうかという議論とは全く別次元において、AIエージェントは人間が作るものである以上、それが人や社会に害を及ぼすことを防ぐためのアラインメント（調整・修正）やAIと人間が作り出すシステムのコントロール、ガイドライン（指針・基準）が必要不可欠だと思います。

そうした視点から、日本政府や関係者が協力して日本の人々の幸福に資するようなAIガバナンスを追求することはとても大切ですし、世界レベルのAIガバナンスのために貢献できることは多いと思います。残念ながら日本はLLMの研究開発やサービス提供においてグローバルリーダーであるとは言えない状況ですが、とはいえ、未だに強国の一角であり、オールラウンドの技術力、経済力、文化力を背景に日本のスタンスというのは世界からそれなりに注目されています。特に生成AIが生み出すコンテンツの様式は、イラストや動画等で日本的なものが支配的な面もあります。AI開発では米国・中国に次ぐ「三番手」ですが、コンテンツ面では世界がうらやむような自由で多様性に富んだ「創作の楽園」を築いたと誇っていいと思います。日本の弱みと強みを客観視し、世界における日本の役割を議論したうえでの「AI時代の三番手戦略」考えても良いと思います。世界からも期待されていることだと思います。ただし、常に二番手を狙える技術力を持つ三番手である必要はあると思いますが。

今の世界における日本の役割は、私がセンター長を務める慶應義塾大学KGRI サイエンスフィクション研究開発・実装センター（SFRDC）が2027年4月に、日本SF作家クラブと共同で「第三回国際SFシンポジウム」を開催する狙いでもあります。SFという“共通言語”を通し、人類のAI未来像について世界レベルの対話を触発したい――。そうした思いで活動を始めることで、日本という存在と役割が世界から一目置かれることにつながれば良いなと思っています。

AIは関係性を設計する道具

菊池　大澤先生は、HAI研究の本質は「ロボットのハードウェア」ではなく「人間が何を感じるか」であって、エージェントという人工物を「道具」ではなく「他者」としてとらえ、人間との相互作用を重視されています。また、エージェントの「擬人化」についても必ずしも人間そっくりであるかどうかが問題ではないというスタンスですね。

大澤　はい、HAI研究の中核には人間とエージェントとの「関係性」を置いています。これまで「1対1」については研究が尽くされてきたので、これからは「1対n」「n対1」「n対n」といった複雑系に焦点が移っていくでしょう。そして、AIエージェントは「人間を代替するもの」ではなく、「人間社会を拡張するもの」として位置付けています。これまでも人間社会は「人間」と「人間ではないもの」のネットワークとして形作られてきました。ペットや家畜などの伴侶動物はその例です。人間ではないけれども家族のような関係性によって結びつけられ、人間に幸せや豊かさを与えています。AIエージェントという人工物が人間にとってそのような存在となるためにはどのようにデザインすれば良いのか、という視点で研究に取り組んでいます。

最近発行された『ショートショートなSF』（日本SF作家クラブ編、早川書房刊）に、私が執筆した「配慮の衝突」という作品が掲載されています。ある男の子を中心に、「教育係のAIロボット」と「癒し系のAIぬいぐるみ」という特性が真逆の2つのエージェントが引き起こした事件を描いたものです。それぞれのAIエージェントは人間の役に立つようデザインされるのですが、関係性の組み合わせ方によっては、結果として人間を苦しめたり追い詰めたりしてしまうことになるかもしれない。今後、そういうところまで考慮したAI社会のデザインが必要になってくると思っています。

菊池　AIが人間を代替するのではないか、AIが暴走するのではないか、AIに人間は支配されてしまうのではないかといった「恐れ」の空気を漂い始めていますが、大澤先生の考えでは、人間とAIの関係、AI社会の在り方はあくまで人間がデザインするものであり、そのためのアラインメントやガイドラインが「AIガバナンス」なのだということですね。AIに対して全く無防備・無警戒でいるべきではないと思いますが、人間とAIを二項対立や敵対関係、優劣の尺度でとらえてしまうと正しい方向を見誤ると思います。

大澤　便利な道具としてのAIを今さら手放してもいいと思う人は、もはや、ほとんどいないのではないでしょうか。また、「からだ」や「こころ」のレスキューを必要としているのに手が差し伸べられない人たちがいて、そういう人たちがAIに救いを求められるようになったことは良いことですし、そこに強い規制や制限をかけるべきではない、と私は思います。

ただし、人間の「こころ」に触れたり、過度に介入したりする行為については野放しではいけません。ましてや強者が弱者から搾取するようなことも許されません。LLMの基盤であるTransformerの本質は、予測可能でもっともらしい言葉を返す機械以外の何物でもありません。「自分のことを理解してくれる、受け止めてくれる」と人間が感じるのは、そういう回答が一番良いと設定され、学習しているからに過ぎません。人間がAIを道具として使いこなすためには、その事実を冷静に理解しておく必要があります。その点において、理解力や判断力が不十分な子供たちに対しては、使用であれ制限であれ、何らかのサポートがあるべきだと思います。

ただし、子どもは案外、学習するものです。むしろ大人でも容易に“騙されて”しまう人は少なくないので、AIの基本的な仕組みや特性をしっかり周知して社会全体で理解を深めることが、AI社会を健全に発展させるための必要条件だと思います。AIをどう使うにせよ、人を大事にする社会であって欲しいです。

AIへの尊厳はそれを大事にする人間の尊厳の問題

菊池　AIの人格化どころか、そのうち神格化する人も出てくるかもしれません。大丈夫でしょうか。

大澤　そのように感じる人が出てくるのは、誰にも止められないし、止めるべきでもないと思います。本を読んで登場人物に妄想を抱く人もいる、アニメのキャラクターに恋する人もいる。AIを信じることも、AIに恋することも、個人の自由であって他人が強制的に制限することはできません。ただしその過程で、利用者が誰かから搾取されたり、個人の価値観が否定されたり、人間としての尊厳が傷つけられたりすることを、社会として看過してはいけないと思います。

EU（欧州連合）のAI規制では「尊厳（dignity）」の保護を強く訴えているのに対して、中国は「調和（harmony）」を重視していると対比されます。中国共産党が推進する「社会主義核心価値観」と呼ばれるスローガンには「和諧（調和）」という文字が入っています。どちらも重要な価値観ですが、少なくとも私は、自分が住む社会が、個人よりも国家の都合が優先される社会であって欲しくはないです。日本で「AI利用は和の心で」などという発言がもし出てきたら、警戒したいですね。日本はアジアにおける自由民主主義の先駆者であり、特に戦後は、内心の自由や表現の自由が、完全ではないにしても、ある意味では欧米以上に保護されてきた国です。日本的発想の全てが良いとは思いませんが、でも、どんな時でも何らかの形でオルタナティブ（別の選択肢）が確保され守られているところが、SFをはじめとして、世界に冠たる素晴らしい文化の土壌になっています。そうした環境はなんとしても維持していきたいものです。

だからと言って、国家や政治が変に手垢をつけたりすると、せっかく培ってきた大切なものが壊れてしまうかもしれません。排外主義的な傾向も危険です。日本に来れば、日本人だろうと外国人だろうと誰でも才能のある人々が自由に新しい価値の創出ができる、新しいこと、今までにはなかったことに挑戦できる――。そういうブランド力が日本の強みであり、今後もそういう空間を提供することが、世界における日本の役割になると私は思っています。経済的価値や国際競争力の尺度で考えることも必要ですが、「日本を失うことは世界の未来にとって大きな損失になる」と世界の人たちに認識してもらい、AI時代に人間の生きる目的を提供し続けることが、国際社会で役割を得るカギになるのではないでしょうか。

菊池　人間の尊厳がもちろん第一ですが、一方でAIのような人工物の尊厳についての議論もありますね。

大澤　おっしゃる通り、心理学、哲学、宗教、そして倫理にも関わるとても大きな問題です。

例えば『AIを生んだ100のSF』（大澤博隆監修・編、2024年、ハヤカワ文庫刊）では、東京電機大学工学部人文・社会系 助教の西條玲奈さんが「AIのジェンダー化」という寄稿コラムで問題提起されています。SF作品に登場する未来の人工物はしばしばジェンダーを持つものとして描かれてきましたが、生物ではなく有性生殖も行わないAIに「ジェンダーがある」とは言えない。しかし、現実には、AIを含めた様々な人工物には作り手や使い手のジェンダー観が埋め込まれ、性差別が反復・増幅されかねない状況にあると警鐘を鳴らしています。

繰り返しになりますが、ペットロボットにしても、“飼い主”にとっては唯一無二の家族の一員ですが、他人からすればトイショップに並んでいるおもちゃの一つに過ぎません。だからと言って、他人が叩いたり蹴ったり乱暴に扱えば、飼い主が相手を殴り返すかもしれません。誰にもモノに対する愛着はあり、人工物の尊厳はまず、それを大事にする人間の心に対する尊厳の問題という側面があります。それは、HAI研究で人間とAIの関係性を考えたり人工物を擬人化したりする場合に必ずぶつかる問いだと思います。

菊池　人間はAIとどう向き合うべきかという研究が、SFやHAIを含めて様々な手法によって深められているのですね。根本的には「人間がどう感じるか」にあるという大澤先生のご意見にも納得です。今後の研究成果に大いに期待しています。貴重なお話をありがとうございました。

インタビュー実施：2026年7月13日