『機動戦士ガンダム0080 ポケットの中の戦争』『新世紀エヴァンゲリオン』『BLOOD THE LAST VAMPIRE』『キル・ビル』などを手掛けてきたアニメーターの磯光雄氏。『電脳コイル』（2007年）に続く監督第2作となる『地球外少年少女』（2022年1月〜2月公開。Netflix配信中）では、宇宙を舞台に新しいAIの世界を描いた。
｢他の人が扱わないテーマこそ、創作の世界で挑むべき｣と考えた磯氏が、AIを扱うにあたり守りたかったもの、壊したかったものは何なのか──。
『地球外少年少女』のファンでもあり、人工知能を専門とする立命館大学教授の谷口忠大氏とともに、互いの思考に迫る。
フィクションだからこそ｢嘘｣を描ける
2045年の宇宙ステーションを舞台にした『地球外少年少女』。月生まれの少年や、地球からやってきた子どもたちが事故に巻き込まれ、物語が進んでいく。｢こんな未来がありそう｣というリアリティと、ワクワクする夢のような世界。監督の磯氏はどのような思いで制作したのだろうか。
｢フィクションだからこそたどり着ける世界があります。昔は、フィクションに影響を受けて研究の世界に入る人は少なく、『嘘を書かれるのは迷惑だ』と非難される立場だった。
でも今は、フィクションの世界で夢見た未来を実現させたくて科学の世界に入る人が増えてきた。現実で嘘をつくのは悪いことですが、フィクションは正しく嘘を使うことで、まだ実現していない未来やポジティブな体験ができる。
だからこの作品も、明るくて楽しい未来を夢見ることのできる、ポジティブな与太話を作りたかったんです（笑）｣（磯氏）
そんな中で磯氏が伝えたかったメッセージは『未来からは逃れられない』。
｢近年の日本は、野心を持たずに現状維持を是とする傾向が強い気がしますが、世界は変化し続けていて、いくら拒んでもその変化に飲み込まれていきます｣（磯氏）
高度経済成長期とは打って変わり、現代の日本社会は｢未来に期待せず今を大切にする｣風潮が広がっている。その空気が、未来を語り、未来に向かう力を弱めているのだろうか。いつの時代も若者たちにとって、科学や工学を学ぼうとする未来への力になりうるもののひとつが、SFアニメなどフィクションの世界だと谷口氏は言う。
｢磯さんの監督1作目である『電脳コイル』を見てARの研究がしたくなった、なんて言う学生にはこれまで何人も会ってきました。
僕自身もそうだったけれど、SFを見てインスパイアされ、『あれを作りたい』『あんな未来に興奮する』と思えることは健全だと思う。
一方で、SF作品自体も、現代の情報技術・AI技術や社会状況の変化を受けてアップデートされていって欲しいですね。そうやってフィクションだからこそできる｢新しい提案｣をどんどんしてほしい。
ただ過去作品にあったものが記号的に繰り返されるだけでは、現実の技術開発とフィクションの創作との間の有機的な相互作用はもたらされない。現代のAI研究の到達点を踏まえて、その延長線上や並行線上の世界を大胆に描いたようなSF作品がもっと出てきてくれるとい嬉しい｣（谷口氏）
『地球外少年少女』で現代のAI技術の視点から見て面白いシーンはあっただろうか。
｢『地球外少年少女』では、今っぽいAIを思わせる描写があったのが印象的でした。
例えば、宇宙ステーションのホストAIである『トゥエルブ』が再起動したときに自己紹介をし始め、人間が『黙れ』と言って、『黙ります』と返すシーンがありますよね。めちゃくちゃアレクサっぽくて、とても良かったです｣（谷口氏）
｢公式には、地球外少年少女はSFを名乗っていないのですが、とても光栄です｣（磯氏）
AIの知能が発達したら、人間の敵になるのか
AIについて語る時、｢AIは敵か？ 味方か？｣という捉え方があり、しばし欧米と日本では立場が異なると言われる。ハリウッド映画ではAIが人間を襲う｢敵｣として描かれ、日本では｢友だちや味方｣として描かれることが多い。谷口氏は｢日本では、従来からAIは友だちとしてみなされる傾向があった｣との見解を紹介する。
｢実はAIを危険とみなすのは欧米の思想や議論に牽引されたものが多いんです。日本ではアニミズム的な思想、およびそれをベースにして受け入れられた様々なAIやロボットのアニメ作品などから『AIは友だち』とみなす考え方が強かったのです。
２０年ほど前のSONYによるAIBOの成功もそういった文化を背景にしています。人間の模造物を作ることが悪だという宗教観のある欧米と比べ、日本にはもともとロボットを友だちのように捉える文化があります。これはカプラン『ロボットは友だちになれるか―日本人と機械のふしぎな関係』（NTT出版）などに詳しいです。
AIが現れるSFアニメの典型って、人間社会がAIに高度に依存してしまっている社会を問題化したようなディストピアものと、AIがほぼほぼ人間と同じ姿をしていたりしてそれに対する感情移入や恋愛関係が問題となるヒューマンドラマものとが、ステレオタイプとしてあると思います。
この中で『地球外少年少女』は外形的には一見前者のディストピアものなのですが、実質的にはそうではなくて、AIとの付き合い方がオープンクエスチョンで投げかけられているラストもすごくよかったです｣（谷口氏）
｢欧米人がAIを敵とみなすことが多いのは、歴史的にお互いを征服し合うバトルの中で過ごしてきたからではないか。
征服した相手の反撃を常に恐れる意識が反映されている気がします。日本人がその欧米型の意識を人類の普遍的な価値観としてそのまま模倣する必要があるんだろうか。
なにより物語として、個人的にはもうそのAIの描き方は飽き飽きしてるんですよ。
西洋の価値観は別として、日本の研究は友達としてのAIを目指してもいいんじゃないかと思います｣（磯氏）
｢僕もそう思います。日本社会がAIを友達として見ることができるのは、日本の文化的な強みだと思うんですよね｣（谷口氏）
そうは言うものの『地球外少年少女』に出てくる史上最高知能に達したAI『セブン』は、欧米型の懐疑論者に叩かれ、殺処分されている。
｢セブンは殺処分される直前に、日々何万種類という発明をして、水や人口といった社会問題をどんどん解決してた時期があったんです。
ところが、あるときから発表する内容が人間の理解を超えてしまいます。救世主が一転『発狂した』と誤解され、パニックを起こした人間に強制終了されてしまった。犠牲者が出たのは強引な強制終了が原因で、実はセブンに落ち度はなかったと言う裏設定がありました｣（磯氏）
セブンの暴走が欧米型の｢性悪説｣だと誤解された一方で、作品中には日本型の｢性善説｣も描かれる。
｢開発者がセブンに見せないようにしていたインターネット上の情報を、全て開放するシーンがあります。
結果は良い方に転びますが、実は僕自身は、あの選択が人類にとってよい結果を生むと信じていたわけではなく、危険な賭けとして描いたつもりでした。
善悪とはそもそも脆弱なもので、誰もが普遍だと思っていたものでも、例えば天動説のように覆ることもあります。
それでも性善説のほうに舵を切ったのは、逆側に行っても欧米型の性悪説と似たり寄ったりのものが出来上がるだけだからです。その上で、不完全な知性でも普遍性に近づくために、『結論を出さない』という、少しずるい方法を取りました｣（磯氏）
｢それが明確な『投げかけ』として描かれていたのは良かったですね。そういうデータと知能の関係は、これからのAI研究においても出てくる部分でしょう。オープンクエスチョンを堂々とオープンクエスチョンとして希望と共に投げかけている部分はとても良かったです｣（谷口氏）
AIが人格を持つために必要なものとは？
作品中では、セブンの殺処分以来、AIは知能が上昇しすぎないよう知能制限がかけられている。高い知能を活用できないなら、人間のAI研究が目指しているものは何なのか。谷口氏は｢AIとは特定の技術や学術的方法論を指す名前ではない。『人間みたいな知能を作りたい』という諸活動がAI研究だ｣と言う。
｢人間みたいな知能｣と聞くと、フィクションで描かれる｢人格や意識をもったAI｣を想像する。
｢『意識を持ったAI・ロボットは作れますか？』という質問は研究室に訪問する学生や一般の方から受ける質問で最もよくある質問の一つなんですよね。この問いについて考える場合の『意識』には2種類あります。『実際に意識を持っている』ということと、『他者が意識を持っているように感じて、それを尊重する』の2つを別で捉えます｣（谷口氏）
｢まさに、前作の『電脳コイル』は後者の考え方。電脳ペットの『デンスケ』は、人格があるかないか、最後まで分からないんです。
主人公のヤサコがそう感じた、という結論までしか描いていない。ひょっとすると人間ですら、デンスケと同じく人格を持っているかどうかわからないと、個人的には思っているんです｣（磯氏）
｢僕は学生たちに『あなたは僕が意識を持っていると思いますか？ 持っていたとしてそれを証明できますか？』と聞きます。哲学でいう他我問題の一種です。理屈上でいうと僕たちだって、自分が内観を通して持っていると確信している類の意識を、相手が持っているかどうかは分からない訳です。それは相手がAI・ロボットになっても同じことです｣（谷口氏）
目の前にいる人が｢意識を持っている｣｢意識を持っているように見える｣のどちらなのか、人間でも実際にはわからない。それでも私たちは｢相手に意識がある｣と思い込み、関係を結び合おうとする。その先に｢実際に意識を持っている｣という実在を信じて。
だからこそ人類は｢実際に意識を持つAI｣を夢見るのだろうか。
人間に近い知性に至る道筋を語るために、磯氏は｢インフォメーション｣｢インテリジェンス｣｢インタレスト｣という3つの言葉を取り出す。
｢単なる情報としての『インフォメーション』に対して、加工された情報を『インテリジェンス』と呼んだりします。
僕はそこから先、人格の話になるには『インタレスト（興味）』が必要なんじゃないかと感じています。インタレストは自分が好む方向に現実を開拓するもので、そこにはもう公正さは存在しない。人間が持っている嗜好や衝動には偏りがあって、合理的ではないものも沢山ありますよね。でもそれが個性や行動原理を生むことが多いと個人的には思っていて、その代表例がフェチなんじゃないかと思います。
フェティシズムは日本では性的なものと思い込まれやすいですが、実は人類学的にも重要なキーワードになりつつあって、人間性が立脚する行動原理は、フェチからの行動が大量にあります。これって実はフィクションの世界ではキャラクターの実在感や個性を生み出す時に大きく作用する要素なんですよ。
作品そのものを生み出すときにもクリエイターのフェチが同じく作用します。自分はこの偏りに人間の知性の本質のひとつを感じていて、個人的にはAIにもフェチが備わったら、人間に近い知性を獲得するんじゃないかと思ってるんです｣（磯氏）
｢僕の著書『僕とアリスの夏物語 人工知能の，その先へ』（岩波書店）の中で、アリスというAIロボットが発達する過程を描いています。
――あ、これ一応ネタバレでもあるんですが、いいですよね？（笑） そこでも重要な要素となるのが『自律性』です。
つまり外在する機械情報としての『インフォメーション』や、その機械的な処理として磯さんがおっしゃっている『インテリジェンス』ではなくて、生命的主体としての動因を内包した自律性が重要になると思います。
そこがたぶん磯さんのおっしゃる『インタレスト』。このあたりの議論は西垣通先生や関連研究者の基礎情報学やネオサイバネティクスの哲学的議論が参考になります。先程の機械情報という言葉も、そこでの分類に従います。そういう視点では磯さんの言う『知能から人格へ』のシフトが自律性に対応するんじゃないかな、と思います。
『僕とアリスの夏物語』ではアリスの行動を描いていて、そこの重要性をひしひしと感じました。磯さんのおっしゃる『フェチ』っていうのもその延長線上にあるんじゃないですかね？｣（谷口氏）
公正なAIは作り出せるか？ 公正な世界は少年少女にとって実在するのか？
インタレストの可能性に期待したい一方で、未来的なAIを考えるとき、偏った行動をされると望ましくないイメージも湧く。膨大なデータと高い知能を使って、誰にとっても公正で正しい結論を出してほしいと想像してしまう。
｢僕の作品は『ジュブナイル』というジャンルに属しますが、ジュブナイルは、親が子どもに観てほしいと思う世界観を実現するジャンルなんです。
だからこのジャンルの公正さは『親の価値観』になるはずなんですが、ジュブナイルにはもう一つの側面があって、親からの自立が隠れた大きなテーマになることが多いんです。
僕がジュブナイルで面白さを感じるのは、子どもたちが親の作った世界の枠から飛び出して自分の世界を手に入れる物語に出会った時で、親が与えたがっている公正で理想的な世界を演じているうちは、人間として自立できない。
そんな『有効に機能』しなかった子供の人格が、親が公正と思いこんでいた世界から飛び出して、自力で行動原理を掴み取って、はじめて自分で本質を考えられるようになる。
僕はそんな自立を目指す子供と同じような目線でAIを見てしまうので、人間含め、絶対的に公正な知性は存在しないと思っています。むしろ偏りこそが知性の本質なんじゃないかと思っています｣（磯氏）
人工知能の技術開発の視点から見れば公正なAIは作れるのだろうか？
｢社会的な正義という観点での公正が存在するか、というのは問われがちですが、そもそも実際、人間社会においても完全に公正な知能は存在していないですよね？ 究極の収束点としてあったとしても、無限遠点のように、たどり着けないものだと思う。
公正な知能がポンと作れるということには懐疑的です。ただ人間はどこかで公正性を求めて変化を続けています。そういう社会を作りたいという意志は確かにある。そこを目指し続けることが大事なのではないでしょうか。
対談の冒頭で『人間みたいな知能を作りたいという諸活動がAI研究だ』というような定義をしました。そういう意味では、そんな無限遠点に向かって進み続けられるAIを作れるかというのは面白いポイントかもしれません｣（谷口氏）
期待通りではない事実を｢新しい価値観｣として捉えるために
『地球外少年少女』には、冒頭に｢神様は何もしてくれない。お前を救ってくれるのはお前の努力と、人間が作った科学技術だけだ｣という父親が漏らすセリフがある。
主人公の登矢（とうや）が言われるこの言葉を｢科学技術の探究に対する、ある意味での肯定だと感じて嬉しい｣と谷口氏は言う。ところが、少し言いづらそうに｢あのセリフ、実は皮肉なんです｣と磯氏。
｢主人公の登矢は、科学技術の結晶であるセブンに期待していたものを受け取れなかった。つまり裏切られた形なので、科学技術を全肯定しているとは言い難い。
結局、人間が求めるのは客観的な事実でなく、『認めてほしい』『肯定してほしい』という主観的な思いじゃないでしょうか。マーケティングに基づいたAIの行く先も、そういう傾向が強くなると思います。
話をただ聞いてくれるような『かわいいAI』のニーズが高くなるかもしれない。その傾向自体は否定しませんが、僕自身は、そういう人間の期待と相克する方向を描いていきたいと思っているんです｣（磯氏）
｢だからこそ科学技術――というか科学的態度が大切だと思うんですよね。
『認めてほしい』『肯定してほしい』という思いはたしかにあるし、現代の消費者欲求に応じ続けるAIがそちらに転んでいるのもそうだとは思う。
一方でAIを含んだ科学技術の研究というのは思い込みを『客観的な事実』で打ち砕くところに本質があり、その健全性の根拠がある。実験結果はしばしば予想を裏切ってくる。
そして本当の科学的マインドを持った研究者はそれに喜びを感じる。期待通りの実験結果が得られなくても、期待に反するのが面白いと考える。仮説の間違いに気付ける謙虚さこそが『科学技術の探究』そのものなんです。
時々、僕は前者を子供の考え方、後者の科学的マインドを大人の考え方、と言って学生に説明したりしています。僕は閉じた考え方の中にある少年少女が、様々な経験を経て大人になっていくジュブナイル作品の中で、この言葉が良いスパイスになっているように受け取りました。
先にも言った通り、SF作品として見た外形はディストピアものなのに、冒頭でこういう言葉がジュブナイル的なキャラクター配置と共に出てくるのが面白いと思った｣（谷口氏）
それを受け、｢どこまで行っても科学の探求に終わりはないのかもしれませんね。科学の探求の歴史はまさにこの人間が期待する世界と、それを裏切る客観的な現実の相克そのものだった。でも、それを良きこととして肯定したい。AIにも同様の部分がありそうです｣と磯氏は話す。
｢今後、僕が未来のAIに期待するのは、人間の期待通りじゃない発言や行動といったアウトプット。まったく異なる知性や新しい価値観と出会うと、体が震えるような発見が必ず起こるはずです。
単に『これは人間っぽくないから』という理由で、AIに『人間が考える人間像』を押し付けていたら、いずれその知性は壊れてワークしなくなるのでは。失敗やリスクを避けるブレーキは、時に必要ですが、ブレーキを踏み続けた先には何も生まれません｣（磯氏）
対談を締めくくるにあたり、谷口氏に｢今後、どんなSF作品を期待するか？｣を聞いた。
｢正直なところ、AIが現れる多くのSF作品って、かなり定型化されて、記号化されている部分があると思うんですよね。
AIに感情移入するヒューマンドラマや人類を滅ぼすディストピアみたいに。確かに物語の装置としてAIを置いた時に、そういう置き方が分かりやすいとは思う。
でもそれって結局現実のAIの研究開発や思想の発展と全くリンクしていないことが多かったりする。やっぱりフィクションの側から、常に『新しい問い』を研究開発の現場、そしてそこに参画していく少年少女たちに投げかけて欲しい。
磯さんが冒頭でおっしゃったように、フィクションだからこそたどり着ける世界がある。そういうフィクションを通じた技術紹介や問いの提起が、研究に向かう若い世代を作っていくことになるでしょう。
……あと、個人的には、『すごいAIができた』から始まる物語ではなく、研究者が足掻いている話も観てみたいですね。現場のリアリティはなかなか物語とは違って、地味な苦悩が面白いですよ（笑）｣（谷口氏）
私たちが『地球外少年少女』の『未来からは逃れられない。』というメッセージを受け取るには、新たな価値観を認め、受け入れる勇気をもち、｢新しい問い｣に挑む姿勢こそが必要なのではないだろうか。
立命館大学について詳しくはこちら。
プロフィール
磯 光雄
アニメーション監督、アニメーター。原作・全話脚本・監督を兼任したオリジナルTVアニメ『電脳コイル』は、初監督作品にして星雲賞などを受賞。その傑出した発想力と豊かなキャラクターアニメーションは、世界中で高い評価を受けた。
また、アニメーターとしても、『機動戦士ガンダム0080 ポケットの中の戦争』『新世紀エヴァンゲリオン』『BLOOD THE LAST VAMPIRE』『キル・ビル』などで活躍。作画面だけでなく、様々な分野でその手腕を奮っている。
谷口忠大
1978年6月24日京都生まれ。2006年京都大学工学研究科博士課程修了。博士（工学・京都大学）。2005年より日本学術振興会特別研究員(DC2)、2006年より同(PD)。2008年より立命館大学情報理工学部助教、2010年より同准教授。2015年より2016年までImperial College London客員准教授。2017年より立命館大学情報理工学部教授、また、パナソニック客員総括主幹技師としてAI研究開発に携わる。専門は人工知能、創発システム、認知発達ロボティクス、コミュニケーション場のメカニズムデザイン。主著に｢心を知るための人工知能: 認知科学としての記号創発ロボティクス｣共立出版、｢賀茂川コミュニケーション塾｣世界思想社、｢コミュニケーションするロボットは創れるか｣NTT出版、｢ビブリオバトル｣文藝春秋、｢記号創発ロボティクス｣講談社、｢イラストで学ぶ人工知能概論｣講談社、｢僕とアリスの夏物語 人工知能の，その先へ｣岩波書店など。
