三宅陽一郎さま

このたびはお返事をありがとうございます。人工知能による社会と人の変化として、人間のアイデンティティがどのように変化しうるか。また今後の人工知能の姿について、三宅さんのお考えがよくわかりました。書簡の中ではやわらかな世界観が展開されており、１つの作品を読ませていただいたような感覚を覚えました。また、人工知能の理解として、私が、こうだと思いこんでいた枠があったことにもあらためて気づかされました。そうした枠と、いただいたビジョンとの乖離を手がかりに新たに考えたことを共有したいと思います。その中で、三宅さんからいただいたお題、すなわち人工知能の社会に対する影響は、これまでの歴史を繰り返すのか、そうではなく何か新しい世界を拓きうるのか——についてもこたえてみたいと思います。

気づきの1つは、人工知能を「人工物に宿る知能である」とする定義（視点）の重要性です。人工知能といえば、「人工的に作られた知能」をつい思い浮かべやすいと思います。人工的に作られた知能と、人工物に宿る知能、両者はもちろん重なってくる部分もありますが、両者の違いは大きく、また興味深いものです。私の最初の書簡では、人工的に作られた知能（ソフトウェア）に対する物理的実体（ハードウェア）とする二項対立図式を前提にして議論を展開してしまっていたかもしれません。丁寧にご解説いただきありがとうございました。三宅さんは人工物に宿る知能を措かれているわけですので、物体を伴わないソフトウェアの問題を切り出して扱っているわけではないのですね。人工知能はソフトウェアの上位概念である、この点を確認することで、より理解が深まったように思います。
とするならば、第1回目の書簡でもお伝えした通り、人工知能と共生していく今後の新しい社会を、何か未知の新しい生物が地球上に現れ、その生物と共生していく社会としてまず想像してみるのが、今の私たちにはもっとも容易いかもしれません。そうした世界で、人のアイデンティティはどうなるのかの考察も示唆的でした。新しい人工知能との共生を目前にして、「揺さぶりを怖がる人もいれば、そうした揺さぶりを待っている人もいる」との三宅さんの文言が大変印象に残っています。人工知能からのアイデンティティの揺さぶりを待つ。その感性に、私たちを新しい世界に導く鍵が見つかりそうです。もちろんこれまでにも、他者との邂逅によるアイデンティティの揺さぶりは論じられてきました。たとえば、異文化に生きる人々との邂逅を通じてアイデンティティのくみかえを余儀なくされる経験、あるいは、イノベーションにより既存の自己や社会の輪郭が更新される経験、など。しかし、人工知能からの覆しを待ち望む私たちの望みとは、上記とまったく異なる位相の社会・心理現象ではないかとも考えます。
ここで、作家スティーブン・ミルハウザーの『新自動人形劇場』という短編小説を紹介させてください。ミルハウザーは、想像上の特殊な職人・天才の世界を描くことに長けており、『新自動人形劇場』でも、ミニチュアのからくり人形（自動人形）をつくる天才作家が登場します。自動人形は、人間の身体の動きをそっくりそのまま模倣し、好評を博すものの、しばらくすると、天才作家はふっつりと表舞台から消えてしまいます。再び現れた作家が制作した新自動人形は、動きもぎこちなく、人間に似ていません。一見、ただの下手な自動人形です。しかし費やされている技術、技巧はすさまじく、さまざまな工夫がなされています。「自動人形らしく造られた」人形が新自動人形です。そして、人々はこの新自動人形に魅せられ、ひきつけられていくといった筋書きです。

「古典的な自動人形劇場においては、実はそれがミニチュアの人形だと知りつつ、私たちは人間の感情を共有することを求められる。新自動人形劇場では、人形自身の感情を共有することを求められる。」「私たちは彼らのぶざまさを共に苦しみ、彼らの人間ならざる渇望に心を刺される。自分でもよくわからない形で私達は胸を打たれる。これら不思議な新参者と混じり合いたい、彼らのからくり人生に入っていきたいと私たちは希（こうねがう）う。」
スティーブン・ミルハウザー「新自動人形」（白水社『ナイフ投げ師』所収）

ミルハウザーは人工物らしさをまとう人工物の魅力を、不吉な美、不穏への取り込み、と表現しています。これはいかにも文学的かもしれません。とはいえ、人（自然知能）と人工知能の関係性において、人が人工知能を求める望みは確かにあるようです。それは、何かを模しその何かに近づけるという段階を過ぎ、作り物の人工物が、作り物であるという由来を保ちつつ、作り物としての固有の世界を形成しつつあることの魅力を発揮する段階に入りつつあります。さまざまな人工知能のみならず、1つの細胞から培養される人工肉をとっても、私たちの社会は模倣のその先にあるものに囲まれつつあります。こうした状況でどのようにアイデンティティが変容するのかという問いに対して、三宅さんからは足元の深淵というキーワードをご提示いただきましたが、哀感といったキーワードを付け加えてもよいかもしれません。しかしその深淵にこそ未来への可能性が含まれていることに私も賛同します。
少々楽観的に考え、人工知能が溢れる社会は、人と人同士の関係性がもうすこし風通しが良い社会にならないかとも夢想します。抜きがたいわかりにくさを持つ人工知能という相手との接触が増えるわけですので、境界を強固に設け、異質なものを排斥するという自然知能が慣性として持つ行動意識のパターンが修正されるかもしれません。人工知能がぼんやりともたらす連続的な世界観により、弱者やマイノリティー、他集団の人々への不寛容さが薄らぐというのは、あまりに楽観的でしょうか。ただ、近年の社会運動や組織の在り方を見ていると、私たちの社会自体も、人間集団の動きにかかわる複数の引き出しを備えつつあり、それがテクノロジーの発展とも連動しているように思います。




　
ここで、三宅さんからいただいたご質問にあらためて向き合いたいと思います。テクノロジーは、使い手の意図によって、幸福や福祉への貢献にもなれば、権力や争いの促進にもなる。人工知能の技術による社会に対する影響は、これまでのテクノロジーと同様の歴史を繰り返すのか、そうではなく何か新しい世界が拓けるのか、という内容でした。この問いには、考える度に異なる答えが浮かびます。ここでは、私なりにこのご質問を解釈し、いかなるテクノロジーも避けがたく持つ問題——権力や争いのために悪用される危険性がある問題——を、人工知能は回避できる可能性があるのだろうか、という問題提起として受け止めてみました。
その答えとしては、人工知能がはたして道具なのか、という点に尽きるのではないでしょうか。三宅さんが提示されたこれからの人工知能の3つの方向性を手掛かりに、整理したいと思います。
　これからの人工知能の第一の方向性は、「自律する人工知能」でした。私は、自律する人工知能は、新しい生物種としての人工知能をもっとも体現する方向性だと思います。自律する人工知能は、道具ではなく、生物としての特性を顕にします。すくなくとも、道具としての役割に収まらない性質を多分に纏うのではないでしょうか。とするならば、ここには、自然知能（人）の意図による悪用を回避する可能性が含まれていそうです。人工知能を制御することによって悪用を防ぐのではなく、むしろ人工知能（単体ではなく人工知能の群、それがなすシステム）の自律性やランダムさの中に自然知能の権力が及ばない境界が現れるならば、それが悪用の回避につながると思います。
　第二の方向性は、「場としての人工知能」でした。この人工知能ももはや道具ではないといえるでしょう。三宅さんのご指摘の通り、場としての人工知能は、場、空間、そのものであり、インフラストラクチャー（見えない基盤）となります。インフラの特徴は、それが成功すればするほど不可視化されることです。ICFの議論の中でも、感染症問題への予測とその防御がうまくいっている社会とは、予測技術がまったくのバックグラウンドで働いており、技術により調整されているメカニズムすら見えない社会だろう、といった議論が出ていました。こうした場としての人工知能は、これまでの都市や各種基盤がそうであるように、個別技術と生成原理が大きく異なり、個人の善意によって作成される、あるいは、悪意によって人を傷つけうるわけにはいかなくなるでしょう。都市を統べる巨大人工知能は、内包する文化的ルーツや、そこで生きる人々の精神の変容と連動して一つの個性を持ちます。そして、善／悪、という次元ではなく、外部環境としての気候変動や感染症問題にうまく対処できるか／否かによって、巨大人工知能＝都市自らの個性を修正・拡張していくように思います。ここにも新しい局面の可能性があるといえます。
第三の方向性である「人間拡張としての人工知能」。これは既存の道具の延長と言えますので、私はこの領域では、これまでの道具の歴史が繰り返され、悪用の危険性が残っていると考えます。

このように考察してきた中で、もう一つ気づかされた点があります。私は、三宅さんのおっしゃる通り、技術と人間との段階的な変化に関心があります。技術Ｘ１の影響により、人間Ｙ１がＹ２に変化し、そしてそれが技術Ｘ１からＸ２への変化につながる、といったように、双方が徐々に更新されていく過程を想定していました。確かに人々の心理的反応や不安を扱う場合には、そこに至る細やかな過程や経緯が重要となってきます。また、現代のテクノサイエンスをめぐる課題はあたかも巨大な森の様相を呈しており、1つの事例を繙くだけでも実証研究では非常な労力がかかります。ただし、未来を考え構想するには、今見えている現象からの射影やアナロジーを用いるだけではなく、多様な想像力が力になることを学びました。物語を作る力があらためて問われているように思います。

　おたずねしたいことはまだまだございます。たとえば、お示しされた第二と第三の人工知能は、前者が、安寧を求め都市内部にとどまるような精神的影響を及ぼすのに対して、後者は、より遠くに、より外へ向かっていく精神を涵養していきます。この相反する志向性がどのように調整されうるのか。また、社会の変化について十分に論じられませんでしたが、人工知能によって実際の我々の生活に引き起こされる課題の多くは、まず労働の領域に現れるでしょう。人工知能がもたらす労働の変化は、（豊かな）多様化ではなく、社会階層の分断と多層化につながるのではないか、など。もうすこし時間が欲しいところですね。あらためて刺激的な視点をご提示いただきありがとうございました。ぜひまた議論する機会があればと願います。