AI（人工知能）がまるで意識を持っているかのように人と対話するようになり、さらにフィジカル空間へと拡張しつつある。かつてSF（サイエンス・フィクション）で描かれた未来図が次々と現実となる様をSF作家自身はどう見ているのか――。日本SF作家クラブ第20代会長を務めた小説家で、エッセイスト、声優、女優としても幅広く活躍している池澤春菜さんに聞いた。（聞き手は、菊池尚人 デジタル政策フォーラム 代表幹事代理／慶應義塾大学大学院 メディアデザイン研究科 特任教授）

SF作家・声優の池澤 春菜さん

私は糖度の低いホープパンクです（笑）

菊池　SF作家の視点から「AIが変える未来」はどのように見えていますか？それはディストピアでしょうか、ユートピアでしょうか？

池澤　私は、ユートピアというのはディストピアの一つの形だと思っています。「理想郷」と言われますが、人々の間に格差が全くない世界、それを徹底した管理によって成し遂げている社会とも考えられるわけですから少し不気味。一方、ユートピアに対するディストピアという言葉は人々がいろんな形で不幸な状況にあることを非常に曖昧なまま表現しています。どちらも目指すべきものではない、そんな気がしています。

菊池　SFストーリーの土台となる代表的思想に、「グリムダーク」（世界は最悪で、人間は信用できない）と「ホープパンク」（世界は最悪かもしれないが、希望を捨てずに抵抗する）があります。池澤さんは、どう見ていますか？

池澤　ホープパンクの“パンク”は、元々は「サイバーパンク」（ディストピア未来における腐敗・抑圧・支配への抵抗・反抗を描くSFジャンル）に由来する言葉です。体制に対する反抗精神、小さなものが大きなものに抗うことを意味していますが、ホープパンクは「希望」を武器として使う点で意味合いが違います。現実世界の厳しさを認めつつも、抵抗を諦めない、希望を捨てないことを闘う姿勢とする――。今の世界っぽい言葉が生まれたなと思っています。というのは、私たちが生きているこの世界が既にグリムダーク的だと思うからです。その世界に、権力、財力、武力ではなく、あらゆる人が持つことができる「希望」を武器として立ち向かっていく。今の世界にある暗さや未来への不安から出てきた言葉だと思いますし、ホープパンクの次に来るものが何なのかっていうことにも注目しています。

一方グリムダークは、テーブルトップゲーム（盤の上でコマなどを使って遊ぶ戦術ゲーム）から生まれた言葉です。グリムはgrim、童話のことではなくて、無慈悲な、とか、絶望的な、という意味ですね。どちらかというとグリムダークはファンタジー、ホープパンクはSFの文脈で使われることが多いです。この言葉のあと、グリムダークに対するものとしてホープパンクが生まれました。どちらも絶望的な状況に変わりはないけれど、それに抗うか、受け入れるか・・・。

ホープパンクに似た言葉としてSweetweird、Noblebrightなどもあります。それぞれちょっとずつ違っていて、ややこしい（笑）。

今、AIを脅威としてとらえる見方が急速に広がっています。今回のインタビューに臨む前に、「自分は何を怖がっているんだろう？」「私の根源にあるAIに対する恐怖って何だろう？」って考えてみたんです。思い至ったのは、「私たちは“考える葦”ではなかった、ということが証明されてしまうことへの恐怖ではないか」ということでした。人間は、考えざるを得ない環境に置かれていたから考えていただけで、AIの出現によって考えなくても良くなったらたちまち考えなくなってしまう、その程度の生き物だったのではないか・・・。私自身は考えることが好きだし、考えることを諦めずに続けていきますが、ひょっとしたら世の中の多くの人たちにとってそれほど重要ではないのかもしれないと思ったら、背筋が寒くなりました。

この話は宗教にもつながっていきます。私個人は、「宗教とは世界観のマニュアルだ」というふうに解釈しています。例えばキリスト教というマニュアルを手に入れると、そのマニュアルに沿って「生きるということ」を説明できるようになる。「それは神の摂理です」と言われれば、いろいろなことが美しく収まる。人間はとても楽になるというか、救われるんですね。たぶん、AIはそうした「考えることのアウトソーシング」という領域に入り込んでくるのではないかと思うのです。聖書や仏典などと並んでAIという新しいマニュアル、「考えることの外注先」が加わっただけと考えれば、人間にとってそれほど大きな変化ではないかもしれない。過去に宗教は世界をとても大きく変えてきて、もしかしたらそれが救った人よりもそれが奪った命の方が多いかもしれないということは別として・・・。

人間という生き物が、権威を求め、整合性のある意見を求め、慰めを求め、世界を簡単に解きほぐしてくれる拠り所を求めるものである以上、AIは新しい宗教としてうまく合致するのでしょう。ただ、私自身は宗教に何かを求めることはありません。それと同様に、AIとも少し距離を置いて、「そういう世界観もあるね」という感じで見ていくのだろうと思っています。

なので、私自身は非常に糖度の低いホープパンクです（笑）。暗い現実、厳しい戦い、勝てる見込みは低い、それでもディストピアに隷属はしない。「希望」は人間に残された唯一有効な武器ですし、救いなのだと思っています。

SF作家は預言者ではない

菊池　SF、あるいはSF作家は、AI社会の未来をどこまで見通せるのでしょうか？

池澤　以前、マレーシアのクアラルンプールで開催された文芸フェスでパネルディカッションに登壇した時、「SF作家は預言者か？」という問いかけがあって、冒頭から「違います」と完全否定から始めてしまったことを思い出しました（笑）。

預言というのは、描かれた一つの未来像が「当たる」か「外れるか」に尽きます。SFにできること、やるべきことはそういうことではなくて、「当たり」から「外れ」に至る全てのグラデーション、想像を超えたいろいろな未来像を見せることだと思うんです。無限の選択肢を示し、それが読まれることによって、気づきを与え、備えを促す。進みたい未来、行きたくない未来、そういうものの解像度が上がってくるかもしれない。遠くの目標を見通せれば、次の一歩を踏み出すべき道もなんとなく見えてくる。夜空に輝く無数の星を目印に大航海に臨むような――。良い道も悪い道も、良い星も悪い星も、明るい未来も暗い未来も、すべてを描いてくれる可能性の文学がSFだと、私は思っています。

菊池　そうした無限の未来を描き出すために、どのように発想するのでしょうか？

池澤　「if（もし）」を世界に投げ込みます。そのifを入れたことによって、世界や社会がどう変わっていくのか。池に石を投げ込むと、波紋が広がり、外縁がどこまであるのかが分かる、池の底に何があるのかも見えるかもしれない。たくさんの石を投げ込まず、一つだけ大きな“嘘”をつく。その嘘の周りに何が起こるかをじっくり見つめます。その際、世界を4つの象限に分けてプロットしてみたりします。例えば、テクノロジーの恩恵を受けられる人／受けられない人、テクノロジーに肯定的な人／否定的な人という2軸を切って、それぞれの象限の人物像を想像してみるのです。

例えば、『Yours is the Earth and everything that’s in it』（『わたしは孤独な星のように』、池澤春菜著、2024年、早川書房刊に所収の短編SF小説）では、4象限それぞれに当てはまる人たちの顔を見たいなと思って、ひとりずつ書き上げていきました。一つのテクノロジーを投げ入れたときに、人や社会、その構造がどう変わっていくのか。テクノロジーにはプラス面もマイナス面もあるので、両方についてきちんと考えてみたいというところが出発点でした。

菊池　投げ入れる石の大きさ、強さ、場所によって結果が変わってくると思うのですが、思考実験を重ねるうちに、いけないことに気づいてしまったようなことはありますか、「これは本当にヤバい・・・」みたいな？

池澤　あります（笑）。私、書く前にまさに「SFプロトタイピング」（Science Fiction Prototyping、SFの発想を用いて未来の社会や技術を物語として描き、そこから現在の課題や新しいアイデアを探る手法）をしているわけですが、「あ、これは本当に怖い未来になるな」と思う時は確かにあります。でもだからこそ、それを突き詰めて考え、SFの中で描くことに意味があると思うんですよね。

先ほど、「私が怖いのは、考える人である私という自己像が無くなること」という気づきについてお話ししましたが、そういう意識が無い人ばかりになった世界はどんなことになってしまうんだろうと考えるとゾッとします。逆に、「私は考える人でありたい」という意識は実はとても特権的・優越的な立場からものを言っているのではないか、考える人と考えない人の間に分け、そこに線を引こうとしているのではないか、自分の中で無意識のうちに差別感情が生まれていてそれこそが社会を脅かす元凶になり得るのではないか・・・とか。

AIはあくまでツール、擬人化し過ぎに要注意

菊池　ちょっと角度を変えて、池澤さんご自身は、AIと友達になりますか、恋人になりますか、家族になりますか？

池澤　私にとってAIはツールです。手で穴を掘るのは大変だからスコップを使う、でも、掘るのはあくまで自分、自分の手を使って。掘る先の状態を知るための探知機としてAIを使うこともありますが、ピンポイントで目標を特定して一目散に掘り進めていくというより、試しに周りを掘ってみたら思いがけない発見にぶち当たるということの方が楽しい。AIに導いてもらうのではなく、あくまで私がやりたいことをやるためのツールとして使っています。

AIを擬人化し過ぎることについては注意が必要です。AIを怖がる人に言うのは、「AIが邪悪だとしたら、それはあなたが邪悪だからです。AIが人間を滅ぼそうとするのならば、それは人間が人間を滅ぼそうとするからです」ということです。AIはどこまで行っても人間のエコー（反響）であり、人間の知をコロケーション（併置）しているだけのことなので。

本当に恐れるべきことは「思考の均質化」です。全てのものの真ん中を取ろうとする、大きく外れないようにするというのがAIに働いている力の一つなので、AIとやり取りしているうちに、自分の考えの「角」が削り取られてしまい、どんどん均質化されていってしまうということが起こり得ます。思考汚染されないように気をつけなければと思っています。

とはいえ、「創造性とAI」という観点では、私自身は人間の創造性にAIが良くない影響を及ぼすとはあまり考えていなくて・・・。声優の仕事とか俳優のお芝居というものは「再現」することなんです。実はそこに「本物」は無くて、本物に近づけるための再現をしているに過ぎない。私は人を殺していないし、殺されてもいない。やっていることは実はAIとそれほど変わらないんです。ただ、私たちはそこに外れ値だったり、残り香だったり、和音から外れた音だったり、そういうクオリア（qualia、感覚質）的なものを入れ込むことができる。それはまだAIにはできない。やがてできるようになるかもしれないけど、それはあくまで外れ値を模した計算結果なんですですから、作り手の側はまだ大丈夫だと思います。問題は受け手の側です。作り手がどんなにオリジナリティを突き詰めても、受け手が「いえ、それはいりません。120点の人間でなくてもコンスタントに95点のAIで十分です」となった時、クリエイターは経済的活動として行き詰まってしまうでしょう。AIが絶対代替できないものを創る人は残ります。でもそれ以外の人たちは危ないです。

私は声優としても活動させていただいていて、あるFMラジオ局では「AI池澤春菜」が渋滞情報や天気予報を読み上げているんです（笑）。私がスタジオに行かなくても、私自身でなくても、私の声が毎日、毎回、オンエアされるんです。そういうところはどんどん置き換わっていくでしょう。幸いにも私は他にもお仕事をいただいているので食べていけるのですが、それだけを生業にしている人には厳しい状況だと思います。ただ、AIを恨んでいても何も変わらないので、人間はAIに代替されない高みを目指して精進していくしかないのだと思います。

人間は「計算と論理」ではなく「言語と共感」に流される

菊池　「心」の領域に、AIはどこまで入り込んでくるでしょうか？

池澤　その昔、「ロボット工学三原則」を発案したアイザック・アシモフ（1920-1992）など草創期のSF作家が書いていたロボット像やAI像を一言で言うと「計算と論理」でした。ところが、今、私たちの目の前にある生成AIは、アルゼンチン出身の作家ホルヘ・ルイス・ボルヘスが書いた『バベルの図書館』のイメージそのものなのです。計算と論理ではなく、「言語と共感」が前面に出てきた。もちろん、AIは計算と論理で成り立っていますが、人間は言語と共感にめっぽう弱い。計算と論理の結果に言語と共感の皮をかぶせれば、可愛いペット、便利な友人として人間のそばにいられる。AIがそう考えて行動したわけではありませんが、そう見える現象が今まさに起きているのです。

かつてAIは方法を学ばせて結果を出すものだと思われていたけれど、いざ実装されたら結果をひたすら組み合わせていくものだった。現在の生成AIは膨大な言語の中から確率的に高い組み合わせを探しているだけなので、猿がタイプライターを叩いているのとそれほど変わらないんですけど、なのにそれが創造性の皮をかぶってるように見えてしまう。そして、最近のSNSではナラティブ全盛で、「理解」ではなく「共感」で埋め尽くされています。なぜ、そうなったかというと、私たち、そもそも理解至上主義になってしまっているからなんです。なので、読めない本をみんな嫌がるんです。理解できないことをみんな嫌がるんです。理解できないということはネガティブなこと、良くないこと、人より劣っていることだというふうに、いつの間にか刷り込まれてしまった。理解できないことを過度に恐れた結果として、共感に走っているんだと思うんです。理解はできないけど共感ができる。それが今のSNSの中心にあるものじゃないかなと思うんです。その共感の部分をAIにハッキングされ続けたら、人間が抗うのは無理かもしれません。

心の領域にAIがどこまで入り込んでくるのか、逆に私たちは心の領域にAIをどこまで入れることを許すのか――。その判断はやっぱり人間がしなければいけないんだと思います。人間には脆弱性があるということを理解しておく、人間の言葉できちんとパッチを当て続ける、SFを読んで勉強する（笑）。ただし、「ボルヘスの皮をかぶったアシモフ」っていうよく分からないものが私たちの前にいるわけですから、あっさりハッキングされてしまうのかなという気もします。

「AIにとっての神」を想像しながら

菊池　人間や人間社会はこれからどうなっていくのでしょう？

池澤　19世紀、産業革命による生産効率の向上によって職を失った労働者が自動織機などの機会を叩き壊したラッダイト運動がありましたよね。最近、AIに関する会話の中でこの言葉が聞こえてくることがよくあります。たぶん、そういうことを人間は何度も繰り返してきていて、一時期社会は混乱に陥るけれど、それでも人類は滅んでいなくて、新しい仕事も生まれてきて、社会は進化してきました。ラッダイトの混乱期を長引かせるのか、シュッと突き抜けて新しいテクノロジーの良い面を享受する世の中にできるのかは、今生きる私たち次第かなと思います。

そして、SF作家として面白そうだと感じているテーマは、人間と同じように「AIにとっての神」が生まれるのかということです。人間には神と宗教が必要でした。過酷な人生を絶望せずに生き切るためには、来世への希望の火を心の中に灯して現世を耐え忍ぶしかなかった。私は、AIに自己保存の欲求が生まれた時こそAGI（Artificial General Intelligence、人工汎用知能）がASI（Artificial Superintelligence、人工超知能）になる瞬間だと思っているのですが、もしも、AIが人間と同じような絶望や恐怖を味わった時にどうなるのか、人間がそうであったようにAIも自分たちを超越する存在としての「神」を創り出して救いを求めるのだろうか――。最近は、そんなことを想像して楽しんでいます。

菊池　池澤さんの未来への想像力の幅広さと奥深さに敬服いたしました。AIに対する視野を広げていただき、ありがとうございました。

インタビュー実施：2026年8月4日