攻殻機動隊 M.M.A. - Messed Mesh Ambitions_

大屋　2013年に鈴木さんが上梓した『なめらかな社会とその敵』は、生命システムの観点から300年後の社会システムを構想するというスケールの大きい作品です。それから10年が経ち、世界的に分断の時代を迎えつつある2024年において、同書の内容はますますアクチュアルになっていると思います。対話をはじめるにあたって、まずはこの「なめらかな社会」という概念について、簡単にご紹介いただけるでしょうか。

鈴木　「なめらかな社会」という言葉で私が考えたい問題は二項対立のない社会はいかにして成立するのか、ふたつ以上の異なる考え方が、いかにして共存できるかということです。しかも、両者が孤立したまま併存するのではなくて、複数のものを抱え込んだ中間的な状態を許容し、それが時間のなかで変化していく。そんな共存の仕方です。たとえば、国籍の場合、誰もが日本人からアメリカ人に変わることができ、その度合いについても変容しうるということです。家族や会社への所属についても、同様ですね。

これはさまざまな境界線をすべてなくし、のっぺりしたフラットな世界にしてしまおうというものではありません。フラットな世界には多様性も複雑性もありません。もともと私の着想は、細胞膜のような複雑な半透膜がモチーフです。半透膜は、ある成分をもった物質は通すけれども、また別のものは通さないという動的かつ複数的な仕組みをもっています。また、細胞そのものも生命ですが、それが合わさった多細胞生物もひとつの生命です。そうした生命システムのような特徴を、社会システムにもたせることができないか。それが私の考える「なめらかな社会」です。

では、なぜそんな社会システムが求められるのでしょうか。現在の社会では、それぞれが社会的な制約条件を内面化し、自由な感情や生き方が制約されています。先ほどあげた国籍や家族、会社への所属といった条件が強すぎて、自分らしいバランスで生きることができません。それによって、人間が本来できるはずの活動や生き方が難しくなり、不自由になっているのです。そんな不自由な状態の極地は戦争、特に総力戦ですね。総力戦では、国民が徴兵され、文化活動も経済活動や生産活動も統制されます。戦時中そのものはもちろん、国によっては兵役の義務があるなど、平時においても戦争を想定するがゆえに不自由になっていることは多々あります。

このような不自由を解消することがいかにしていかにして可能かというのが、私の最大の関心事です。この本のタイトルには「敵」という言葉が含まれていますよね。これはカール・シュミットの友敵理論のことです。シュミットは、敵と味方を二元論的に分けることこそが政治の本質であると考えます。それとは反対に、私は友と敵の区別を解消できるような社会システムを提案したいというわけです。

大屋　ありがとうございます。とりわけ政治の領域においては、現代は「なめらかな社会」とは言い難いですね。身近な例を挙げれば、ベッドタウン問題です。経済生活の大半を都心で過ごしていながらも、政治参加は住民票のある郊外でしかできませんよね。あるいは、国境を自由に越えて生活する人はたくさんいますが、どの国のパスポートを持つかはそれほど自由ではありません。日本では、所得税を払うことになる「103万円の壁」のように、制度側で設けられた閾値によって、それぞれの行動が制約されることもあります。経済の領域では、社会がなめらかになってきていることもあって、政治の領域が遅れているとも言えます。

鈴木　まさにそうだと思います。整理すれば、私は「なめらかな社会」がいまだ実現していない理由は3つあると考えています。まず、認知限界の問題です。人間の脳のキャパシティには限界があり、中間的で複雑な状態を理解することは困難です。ただ、これについてはコンピュータや情報技術の発展によってある程度克服できるでしょう。むしろ、克服できた程度にしか社会は複雑化できないといったほうが正確かもしれません。次に、アイデンティティの問題です。人間には、自分より大きなものに所属し、一体化したいという欲求をもっています。それによって生きがいや人生の意味を感じる生き物であって、複数の所属を自分でコントロールできるほうが幸せだと必ずしも感じるわけではありません。最後に、生存と安全の問題です。これは先ほど挙げた戦争の問題に近いですね。市民生活を守るためには、さしあたり暴力を合法的に独占した既存の国民国家を維持せざるをえないだろうということです。2つ目と3つ目の問題は、大屋さんが言うように、政治の領域でもありますよね。

鈴木　少し時系列で考えてみたいと思います。現代社会を考えるうえで区切りとなる年号として、私は1989年を重要な年だと位置づけています。これはベルリンの壁が崩壊した年であるとともに、ティム・バーナーズ・リーがWorldWideWebの構想を提案した年でもあります──士郎正宗の《攻殻機動隊》の雑誌連載が始まったのもこの年ですね。ベルリンの壁が崩壊したとき、自分自身がドイツに住んでいたこともあって、この出来事からは大きな影響を受けました。

では、それから2024年現在までの35年間でなにが大きく変化し、なにが変わらなかったのでしょうか。冷戦終結以降、世界経済のグローバル化が進行し経済は国境を超え、インターネットも発展して情報も国境を超えました。この数十年で、経済も情報も国境を超えることは当たり前になりました。これは劇的と言ってもいいほどの変化です。

これに対して、政治はどうでしょうか。ソ連崩壊とともにロシアや東欧の国々は民主化しましたが、その後の経過をみると、民主主義はむしろ退潮しているとすら言えると思います。実際、V-Dem研究所が発表する世界の民主主義指数は冷戦時代並みに低下しているのです。

2016年の英国のEU離脱にはじまり、ドナルド・トランプの大統領当選など、旧西側諸国の間であっても民主主義に異変が起こっています。これらは、経済システムや情報システムが国境を超えても、政治システムは国境を超えられないことによる拒否反応だとしてみることができます。自由貿易によって世界全体としての経済格差が縮まったとしても、国内の経済格差がかえって増すことは起こりうるのです。また、経済安全保障も注目を浴びています。結果として、経済や情報にも国境が意識されるようになってきました。

大屋　おっしゃるとおりですね。民主主義の健全性が損なわれている原因には、鈴木さんが触れた認知限界の問題もあると思います。SNSの台頭によって情報量が爆発的に増えた結果、人々の判断能力が相対的に低下してしまったのではないでしょうか。フェイクニュースやデマの影響がこれまでの社会より大きくなったとも言えます。これでは「思想の自由市場」のような、自由な意見交換によって誤った考えが段々と淘汰されていくというアイデアも機能しません。むしろ、ドイツではヘイトスピーチ規制が導入されるなど、政府による介入が必要とされる事態になっています。

政府による市民のコントロールは、ほかの局面でも強まっています。コロナ禍のとき、各国の国民は身体的な移動を制限されましたよね。グローバルなパンデミックでしたから、国籍の問題も全面化しました。日本の場合、武漢がロックダウンしたとき、自国民を保護する目的でチャーター機を飛ばしたのですが、そこでは国籍という定義が絶対的なものになりました。

私はかつて、重国籍問題について論じたことがあります。そのとき、国民の定義にはサービスの受給者と国家の構成主体のふたつの側面があると考えました。前者の側面では、国民の範囲を柔軟に捉えることができます。居住の実態があれば治安維持などのサービスを受ける資格があるし、重国籍も可能でしょう。しかし、後者の側面では、ひとりの人間はひとつの国家にしか所属できないのではないか。人間の肉体は一箇所にしか存在できず、そのコントロールが問題となる場合に、重国籍の是非はよくわからなくなります。この問題がコロナ禍というかたちで現れたというわけです──実際に論文を書いたときは戦争のことを想定していたのですが。

鈴木　「保護」という言葉は重要ですよね。トマス・ホッブズの社会契約論によれば、国家と国民の関係は、国民の服従と引き換えに国家が保護を提供するという社会契約に基づいています。この保護というのは、身体の安全から財産権、社会保障、教育といったものです。反対に服従というのは、納税や法律の順守ですよね。裏を返せば、この交換関係が成立しなくなると契約の存続が怪しくなって、クーデターや内戦といったリスクが高まります。

政治学者のバーバラ・F・ウォルターが書いた、『アメリカは内戦に向かうのか』（井坂康志訳、東洋経済新報社、2023年）という興味深い本があります。本書のなかでウォルターらは、国の民主化の度合いをスコア化し、それと内戦発生リスクの関係を統計的に分析しています。興味深いのは、完全な民主主義政体を+10として、完全な専制主義政体を-10としたとき、この中間にあたる-5から+5までのスコアが最も内戦のリスクが高いというのです。つまり、民主主義国や権威主義国は安定しているが、移行期の国は不安定になりやすいというわけです。アメリカの場合、かつては民主主義度が最高値の+10でしたが、最新のスコアでは+5と下がっており、リスク領域に入っている。アメリカでは武器の所持も認められているため、内戦リスクが現実化する可能性があると危惧されています。ウクライナとロシアによる戦争のように、国家に対するアイデンティやロイヤリティが強まる動きもありますが、その一方で、国内の分断が強まる動きにも着目する必要があるのです。

大屋　大変興味深いですね。似た話で言うと、2010年頃にイギリスの経済学者ポール・コリアーは、アフリカの混乱した社会において、デモクラシーファーストをやるか、セキュリティファーストをやるかによって、国家の命運が分かれていったと論じました。コリアーの結論は、セキュリティファーストこそが重要だということです。アフリカではデモクラシーファーストをやると、選挙で負けた側が外敵を呼び込んで社会を崩壊させてしまうというんですね。この研究は欧米では大変評判が悪かったのですが、日本の開発経済学者は当然のことだという反応をしました。韓国や台湾の成功をみればわかるように、開発独裁を進めてから自由化すればうまくいくという事例を知っているからです。

このセキュリティファーストという考え方は、すでに民主主義が実現した国においても重要だと思っています。アメリカの民主主義の危機も、政府がセキュリティを維持できていないことに起因しているからです。具体的には、トランプ大統領の当選は、白人貧困層の不満に訴えたことによるわけですよね。日本の場合は、相対的に言えばセキュリティが保たれているので、危機が爆発的に広がる可能性は低いと思いますが。

大屋　1989年以降のグローバリゼーションによって経済的に国境のない世界が出現しました。そのこと自体が新しい分断につながっているという議論もありますよね。よくある話ですが、国境線を自由に移動できる5%の富裕層と、国境線に縛られた95%との間に境界線が引かれてしまったと。

経済学者のウィリアム・イースタリーが『傲慢な援助』（小浜裕久・織井啓介・冨田陽子訳、東洋経済新報社、2009年）で指摘したのもその問題です。アフリカの一部の国だと、統治階層はスイスの国際学校で教育を受けていたりして自国民との一体感をもっておらず、それが自国民の窮状に目を向けず国際支援を私物化することにつながっているというのです。

では国境線そのものをなくしてしまえばよいかというと、それもよくわからない。たとえば、政治哲学者のロバート・グッディンが展開する割り当て責任論は、国境の必要性を正当化する議論のひとつです。グッディンの議論では、国境を設けることで、国内の問題に対する第一義的な責任を負う主体を特定できるとしています。単純に言えば、近くで火事が起こっているときに、その地域の責任者が誰かがわかっていれば行動しやすいし、反対に責任が割り当られていないと誰も行動しなくなってしまうだろうというわけです。ただし、この議論は国境線の存在そのものを正当化するものであって、現状の国境線を正当化するものではありませんが。

こうしたグッディンの議論にはそれなりに説得力があると思いますが、現代ではそのバグが出てきてしまっているというわけです。先ほどお話ししたように、経済的には富裕層が国境線を自由に移動できるようになってしまったことで、政治的にはそこで得た利益をそれ以外の人々に分配することが難しくなってきている。これはつまり、部分的に「なめらかな社会」が実現したことによって、短期的にさまざまな問題が噴出していると整理できるのではないでしょうか。300年後の社会システムとして「なめらかな社会」を提案した鈴木さんは、このような事態をどのようにみていますか。

鈴木　基本的には、同じ認識をもっています。グッディンが言うように、国境のような境界線によって自分たちのことを自分たちで決めるという発想が出てくるというのは、近代という観点からするとたしかに素晴らしい。しかし、大屋さんが指摘するように、いまやそれだけではうまくいかない事態が生じているわけです。

では、境界線に縛り付けられない自由を享受しながら、同時に、それぞれの地域ごとの自治を尊重する。そんな「なめらかな社会」は、どのようにすれば可能になるでしょうか。私が思うに、地域への帰属意識や責任の度合いを動的にコントロールできればよいと思うのです。それぞれの実態に応じて責任を割り当てることができれば、単純な白黒をつけなくとも、それぞれのコミットメントを促すことが可能になるはずです。たとえば、国境を超えて自動車の走行距離に応じて課税をおこなうEUのような仕組みは、現実に存在するものとしては参考になるかもしれません。

意思決定やそれに伴う責任を動的に配分するというアイデアに関心をもつ人はグローバルにも増えてきています。たとえば、注目すべきもののひとつとして、「ラディカルエクスチェンジ」という運動があります。イーサリアムの創設者であるヴィタリック・ブテリンや、台湾でデジタル政策を進めるオードリー・タン、経済学者のグレン・ワイルらが中心となっているものです。あるテーマに対してより強い選好を持つ人々の意見がより強く政策に反映されるようにしながらも政治経済学的な公平性を維持する方法として、1人の人が2票投票するためには4クレジット、3票投票するためには9クレジットを支払うという新しい投票システム「クアドラティック・ボーティング」や、それを資源配分に応用した「クアドラティック・ファンディング」といった方法が提案されています。これらはブロックチェーン技術の進展を背景に現れたものですが、その理論的背景には柄谷行人の交換様式論があるそうで、その点も興味深いですね。彼らが最近提唱しはじめたPluralityという概念は、私の提案した「なめらかな社会」の構想とも近いところがあると思います。

このような運動が出てきた背景には、ブロックチェーン技術の発展があります。そのものとになっているPeer to Peer（以下、P2P）については、2000年ごろから私自身も関心をもってきました。P2Pといえば、NapsterやGnutellaといったファイル共有ソフトをおぼえている方もいるのではないでしょうか。2008年にサトシ・ナカモトが、ビットコインのアイデアを論文として投稿したのも、一番最初はP2Pにかんするフォーラムだったのです。ただ、まさかここまで速く技術が進化するとは、思っていませんでした。イーサリアムが生まれてスマートコントラクトが実装されるのは、『なめらかな社会とその敵』が出版された2年後の2015年です。最近では、私の本が日本でWeb3に関心をもつ20代の若者たちの間で予言の書のように読まれていて、ちょっと不思議な気持ちですね。

鈴木　ブロックチェーン技術にくわえて、もうひとつ想定以上に速く進展した技術の進化があります。それはAIにかんするものです。ちょうど私が本を書いていた2012年に画像認識の世界大会「ImageNet」が開かれました。そこでニューラルネットワークをもちいた「AlexNet」がGPUを用いることでものすごいハイスコアを出し、AI研究にふたたび注目が集まるようになったのです。それからの進化は飛躍的なもので、2017年にはディープラーニングのそれまでの限界を突破する「Transformer」にかんする論文が出て、2022年にChatGPTが登場します。レイ・カーツワイルのシンギュラリティ論では、2045年にAIがAI自身を改善する加速的サイクルに入り、結果として人間の知能を超えるとされていましたが、そういった話がリアリティをもちはじめるようになってきました。

《攻殻機動隊》には、ネットワーク上の情報の海から生まれた「人形使い」という存在が登場しますよね。作中では「人形使い」が自身の権利を主張して政治亡命を求めたり、「人形使い」との融合によって草薙素子が自己同一性をめぐって思い悩んだりする描写があります。大学院で人工生命の研究室に所属していたころ、漫画版の《攻殻機動隊》シリーズが置いてあって、これを読んでいないやつは潜りだと言われていたものです。生命や意識そのものに対する、先駆的な問いかけがあったからですね。

ところが、もはやこの問いは一部の物好きな研究者たちやSFファンのものではなくなりつつある。AGI（汎用人工知能）の実現可能性が真面目に議論されるようになり、そこに意識や身体をもたせるべきだろうかというような問題に対して、社会的なリアリティが出てきていると思うんです。

大屋　《攻殻機動隊》シリーズの漫画版と押井守の映画版とを比較すると、心のモデルに大きな違いがありますよね。漫画版の登場人物は自身の自己同一性、ゴーストの存在に確信をもっています。他方で押井守の映画版では、偽の記憶を植え付けられた人が絶望したような表情を見せるといったシーンがあったり、鈴木さんが言われたような素子の葛藤があったりして、自分自身のゴーストはたしかなものなのかという哲学的な不安が主題になっています。

ここで私が重要だと考えるのは、「どのような心のモデルによって他者を社会的に承認するか」という問題です。たとえば、「人形使い」が現れて自分には意識があるのだと主張したとしても、それが本当かどうかわからないですよね。これはAIに限った問題ではなくて、我々は他者が心をもっているかどうかがそもそもわからないわけです。一定の知性があればそこには人格や心があるのであって人権を与えてよいと考えたとしても、むしろ人間のなかにそうでない者もいるわけで、パラドックスが生じてしまいます。

鈴木　心のモデルの多様性について考えるうえで、哲学者の下西風澄は『生成と消滅の精神史 終わらない心を生きる』（文藝春秋、2022年）という興味深い本を書いています。同書によれば、古代ギリシャのホメロスの時代には、人間は神の声に従うだけであって、心がないパペットのような存在でした。しかし、ソクラテスの登場によって、そうした時代は終わり、心を鍛えることで徳を身につけることができるようになる。それから近世になるとデカルトが現れて、心というものは外部世界を表象としてコピーし、自ら制御できるコンピューターのような存在として捉えられるようになります。こうした計算論的な心の概念はカントによって完成され、その後も強い影響力を持ち続ける。その一方で、パスカルや夏目漱石をはじめ、完全にはそうした心のありかたに満足できず、かといって古代の感覚に戻ることもできず、両者の間で苦しみもがいている現代人の似姿のような思想家もいる。そんな整理がされています。

そのうえで、少なくともたしからしいこととして、人間は自分のもっている心のモデルを他者に投影させがちだという性質があります。マジョリティ的な心性をもっている人が、マイノリティに対する理解が難しいのは、そういうことですね。そこで、異なる心のモデルをもつ者同士がコミュニケーションを取るためのメディアが必要になります。『なめらかな社会とその敵』の第2部では、その一例として貨幣を挙げて、伝播投資貨幣というアイデアを提案しました。先ほど少し触れたスマートコントラクトのような新しい契約概念にも、異質な人をつなぐことのできる可能性があると思いますが、まだ道半ばだろうと思っています。

『なめらかな社会とその敵』の第4部の第9章では、「パラレルワールドを生きること」として、そもそも人間の心は異なる「現実」を見ているのであって、コミュニケーションというのは意味のレイヤーでは本質的に成立していない。そのため、コミュニケーション技術はそれをうまく偽装する必要があるということを論じています。

『攻殻機動隊 SAC_2045』では、このことを「ダブルシンク」という設定によって表現していました。ダブルシンクの元ネタである、1949年に発表されたジョージ・オーウェルの『1984』（田内志文訳、KADOKAWA、2021年）にしても、同作にしても、現実の困難さを心のレイヤーでなんとか隠蔽するという発想です。つまり、どんなに厳しい現実があったとしても、コミュニケーションや心のレイヤーですべてがカバーできるかもしれないという発想です。一方で、「なめらかな社会とその敵」では、現実のコンフリクトのほうを減らすように、コミュニケーションのレイヤーを工夫するしかないという言い方をしています。つまり、人間が生物的、物理的基盤をもっている以上、現実のコンフリクトの問題に蓋をすることはできないというリアリズムの地点にたっているのです。

人間同士をつなげるだけでも難しいのに、テクノロジーの発展によって、異なる心のモデルを持つAIが登場することで、この問題はさらに複雑になります。人間をサポートするシステムとして存在するのであればともかく、より自律的なシステムとしてAIが現れるとき、どうなるでしょうか。

大屋　総務省の研究会に参加して、行政におけるAI活用について議論したことがあります。全体的には、法律に基づく政策立案は裁量性が高いので人間がやるけれども、その執行は決定論的なプロセスだからAIに任せてもよいという方向性でした。たとえば、税金をとるときなにを経費として認定するかは裁量性があるので人間が決めるべきだけれども、それが決まった後の処理はルールベースでAIが実行したほうが効率的だろうというわけです。実際、ドイツや韓国では、裁量性のない行政プロセスでのAI使用を法律で認めています。

しかし、裁量性の有無というのは、そうはっきり言えるものではありません。たとえば、アメリカのウィスコンシン州では、仮釈放の可否や刑期の算定をおこなう際に再犯確率を予測するAIを用いるべきかについて、その合憲性が争われました。そこでは裁判官が最終判断をおこなうということで、合憲であるとされました。しかし、ドイツのニュルンベルクでは、損害賠償金額の推定にAIを用いていたのだけれども、裁判官がAIの判断を鵜呑みにしてしまう危険があるために、実質的にはAIが裁量性のある判断をしてしまっているということで違法になったのです。

これは法律の世界だけの話ではなくて、さまざまな領域で似たような問題があります。たとえば医療の分野では、レントゲン写真の異常などを検知するためにAIを使うことはよいけれども、最終判断は必ず医師が下さなければならないといった議論があります。ここでは意思決定を補助することと、代替することの差が問われていますが、それは自明ではないというわけです。

鈴木　がんの検知では、すでにAIのほうが医師よりも高い検知率を示すといった話がありますよね。AIの診断を医師が覆したけれども、実際にはAIのほうが正しくて、結果的に患者が亡くなってしまうといったことも起こりえます。AIと人間の判断能力に著しい差ができてしまうと、もはや人間が意思決定をおこなうべきかどうか怪しくなりますよね。これでは、遣唐使の船に乗って無事を祈る祈祷師が、嵐に遭遇したときに責任を取らされることと変わらなくなってしまいます。人間はシステムが正常に働くことを祈るほかなくなるのかもしれません。そうだとしたら、そもそも責任という概念や、その根拠になりうる権利主体のあり方から問い直さなければならなくなりますよね。

主権論や人権論の問題に遡って議論しなければなりません。人間がAIの決定に対してどこまで関与するべきか、あるいはAIが人間の決定に対してどのように関与するべきかどうかというのは、主権や人権が守られる限り、あるいは最大に尊重される限りにおいて正当化されるだろうということだろうと思います。行政、立法、司法の三権のすべてにおいて、AIの利用は進んでいくでしょう。特に行政はAI化するメリットが一番大きい。しかし、司法と立法の段になると法学的な意味における最終審級において人間を登場しなければならない理由がでてきます。なぜなら、主権論や人権論からみたときに、すべてをAIに決めてもらうというのは論理破綻をもたらす可能性があるからです。一方で、主権論や人権論自体がアップデートされ、人間中心主義が見直される契機にもなるかもしれません。人権を至上の目的関数とすること自体を問い直す必要がでてきます。

鈴木　現在の多くのAIはもともと最適化問題を解くために設計されているため、単一の目的関数をもっています。そのため、あらかじめ設定された目的関数を極端に追求してしまうという危険性があります。わかりやすく言えば、AIに地球温暖化対策という目的を与えたら、人類を滅ぼしたほうがよいという選択をしてしまうかもしれないということをディープ・ラーニングの父ともいわれるジェフリー・ヒントンは例示しています。

これに対して、人間の知性は複数の目的関数を自然ともっています。人間がチェスをプレイする場合、ただ勝つことだけではなくて、相手を尊重したり、プレイスタイルや見栄えを大切にしたり、いろいろなことを考えますよね。ちょっと接待麻雀のような例になってしまいますが、こういうのはAIは明示的に目的関数を設定しないとできない。これは生命システムが本質的にはホメオスタシス（恒常性）という性質を持っていて、ひとつの目的関数が極端に走ると、別のパラメーターが調整されてそれを抑制することができるからです。生命システムが、多くの人工知能研究者が想定するよりもはるかに複雑なことをしているのは、ホメオスタシスがないシステムは終末が訪れるからです。それによって、あるシステムが成立するための見えない前提を破壊してしまうことを未然に防いでいるのですが、重要なことは、この目的関数は単一のレイヤーで複数設定されているのではなく、複数のレイヤーで動的に再調整され続けている極めてなめらかなシステムであるということです。つまり、人間の個体単体での目的関数が複数あるという単純な話だけではなく、人間を構成する器官や細胞レベル、共生している細菌などの微生物、生態系など複数のレイヤーにまたがるのです。

これに対して、近代以降の国民国家においては、人権概念が至上のものとされ、あらゆるものがその手段とされてしまいます。人権概念は、現代社会における究極の目的関数として設定されてしまっているのです。人権概念そのもののアップデートするという発想は、「なめらかな社会とその敵」の中でも触れられていますが、人間に似せる知能としての人間を超える知能をもつAIの登場は、2つの意味で人権概念に揺さぶりをかけるでしょう。

ひとつはAIそのものに人権を与えるべきかという問題です。《攻殻機動隊》の中では、「人形使い」が政治亡命を希望しますよね。そもそも、ネットの海の中から生まれてきた知能である「人形使い」が、個体の存続性のために市民権という人権を国家に要求するというのは逆説的で面白い話です。しかし、ここまでであれば、あくまで人に似せた知能としてのAIに権利を与えるかという話ですから、人間が理解できるレベルでの人権概念の拡張になります。

ふたつめには、現実的には、LLM（大規模言語モデル）は人間の言語だけではなく、より複雑な言語を学習することもできるでしょう。LLMの学習で使われている手法は、目的関数を明示するような強化学習だけではなく、自己教師付き学習という大変興味深い手法なのです。画像や動画の生成AIで使われているDiffusion Modelも広い意味で自己教師付き学習であるといえます。このような手法の普遍性は高く、人間の知能だけではなく、生命など他の自律システムの学習にも適応できます。わたしたちは生命の言語を理解あるいは利用できるシステムを生み出すことができるようになるでしょう。そのときに、人間には理解できない言語の意味と構造が、LLMによって拡張された生命同士の中では成立するときに、人間中心主義をもとにした人権概念を至上化することの意味が改めて問われることでしょう。しかもそのような言語や生態系としての知能が、人間の外部にあるのではなく、ある程度において人間との協調関係の中で存在するとしたら。

そこで法哲学者である大屋さんに伺ってみたいのは、法律の世界におけるAIの活用です。人間の場合、単一の目的関数だけではなく、複数の目的関数を整理し、調整しながら法をつくりますよね。AIの場合、そこはどうなると考えられているのでしょうか。

大屋　人工知能学会に参加したとき、美術家の中ザワヒデキさんがこういう話をしていました。ある時期までのアートは実物を精密に描写することが目的関数として設定されていたけれども、写真の発明によってその目的は技術的に達成されてしまった。そこでアーティストは新たな目的関数を提示するようになり、印象派のように対象の印象を表現したり、特定の出来事から受けた衝撃を描いたりするようになった。つまり、アートというのは目的関数を書き換える営みになったのだというわけですね。現代アートにおいてはとりわけそうで、新しい目的関数を提示し、人々の認識を変えることが常に求められている。そしてこの意味において、AIはまだまだ途上であると中ザワさんは言っていました。

私は法解釈もこれと同様だと考えています。たとえば、最高裁判所は法解釈を通じて、新しい目的関数を提示したり、目的関数ごとの重み付けをおこなったりしているということです。ですから法解釈はアートであって、サイエンスではないし、現状ではAIがこれを十全にこなせるとは言えないと思います。私が最初に出した『法解釈の言語哲学　クリプキから根元的規約主義へ』（勁草書房、2006年）という本は、まさにこういうことを書いています。

鈴木　現状のAIができないから、未来のAIができないという保証はありませんよね。目的関数自体を常に進化させ続けることで、進化が終わらない状態を作り出そうという発想は、「オープンエンデッドエボリューション」と呼ばれて、複雑系や人工生命の分野では1980年ごろから議論されていました。ただし、このようなシステムは「創発性」を持つため、危険性も孕んでいます。目的関数が単一で非創発的なシステムは最適化問題を解くことしかできないのでどこかで収束しますが、創発的なシステムでは予測不可能な目的関数が出現し収束しない可能性があるからです。先ほどお話ししたヒントンの例とは逆の意味で、結果的に人間を滅ぼしてしまう可能性もあるかもしれないわけですね。というよりも、目的関数自体が明示的に定義できないシステムになります。目的関数とは後付け的に、世界を単純化しないと理解できない人類が生み出した概念に過ぎないのかもしれません。

似たような話が神山監督の『攻殻機動隊 STAND ALONE COMPLEX』にもあります。この作品にはアオイというハッカーが登場して、彼は事件を起こした際に利用した印象的なマークから「笑い男」と呼ばれます。その後、作中では次々と「笑い男」の模倣犯が匿名的に現れて、ひとつの人格のように解釈され社会全体が揺るがされます。これは「消滅する媒介者」というフレドリック・ジェイムソンによるマックス・ウェーバーにかんする議論が下敷きになっていて、匿名の集合体が社会を意図せずに動かしていくという話になっています。技術の進化にもこれと似たところがあって、当初の意図とは異なるところに集合的に進んでいくことがあります。AIではありませんが、ビットコインの発明者であるサトシ・ナカモトの正体がわからないまま、ビットコインそのものはメンテナンスされ続けて、ゴールドのような投資の対象になっているのは象徴的ですよね。《攻殻機動隊》が描いている世界というのは、技術的進化の自律性をなんとかして人類がまだ制御しようともがいている時代という設定なのかもしれません。

大屋　アートの世界であれば、「人殺しこそが芸術だ」というような新しい目的関数が出現したとしても、それをアート業界が受け入れなければ、目的関数は書き換えられなかったことになりますよね。ある種のガバナンスシステムが作動しているわけです。

当たり前の話ですが、AIが進化していった場合、法律の世界でも同じことが必要になります。AIによって新しい法解釈が提案されたとしても、それを承認するか否かの判断は人間が下さなければならないはずです。ただ、法システムが複雑になっていくと、人間が全体を把握できなくなり、AI同士が相互にお互いの目的関数を監視し、法解釈のプロセスを制御し合うようになるかもしれません。その場合も、緊急時にはAIのアウトカムに対して人間がすぐに介入できる必要がある。一種のキングストンバルブのようなシステムがつくられるのだろうと思います。

ただ、現実に立ち戻ると、少なくとも日本の法曹の世界では、新しい目的関数を提案したり、それを吟味するような教育がなされているとは言い難いですね。むしろ、既存の目的関数のなかでルールをどのように読むかという解釈論を学ぶことが主流で、ルール自体を変えるような立法論はあまり議論されていません。解釈論がAIに代替されていくと考えれば、法曹は立法論に取り組むべきだと思うのですが。

ここで興味深いのは、アメリカのようなコモン・ローの国では、こうした解釈論と立法論の区別がそもそもあまり存在しないということです。アメリカの場合、個別の事件の判例を通じて、新しい法がつくられていくからです。このような社会では、ルールの改変がしやすいので、それに挑むプレイヤーが次々に現れます。たとえば、Google社の「Google ブックス」はもともと著作権法と矛盾した存在でしたが、裁判のなかで公共の利益に資するということでその正当性が認められることになりました。

しかし、これは必ずしもアメリカ型が望ましいということを意味しません。判例で法律が変わっていくということは、優秀な弁護士を雇えるような、お金がある企業が自分たちに有利になるようにルールをつくってしまうからです。その結果、力の弱い非営利団体が活動しづらくなることがあります。著作権法でいえば、アメリカで教育機関が定めているガイドラインは一般的に非常に厳しい。詩を2バース以上引用をする場合は、必ず許諾をとってくださいというような感じです。日本の場合、ルールメイキングは良くも悪くも「お上」の判断によるところが大きいので、コロナ禍で遠隔教育を進めなければならないというときにも、政府は教育機関に対してかなり柔軟な対応をしました。平等なアクセシビリティの確保とイノベーションの推進はトレードオフの関係があるとも言えるかもしれません。

鈴木　お話を伺っていて改めて思ったのですが、いまは技術の進化が急速で、これからの社会システムのあり方を論じる難易度があまりにも高くなってしまいましたよね。かつては現実の社会に基づいて未来を考えることができましたが、いまは未来の技術の動向を踏まえなければ説得力がありません。さらに、未来がどこまで技術が進化するかの読みによって、社会デザインの方向性がまったく変わってしまうのです。昔であれば、いまある技術をもとに社会デザインを考えれば間に合ったのですが、いまや、これから実現すると多数の人が予測するくらいの技術をもとに社会デザインを論じても、間に合わないのです。

そのため、《攻殻機動隊》のようなSF的な設定について考えることと、未来について考えることがほとんど区別できなくなっています。今日はAIやブロックチェーンを取り上げましたが、まったく別の分野で言っても、もし核融合が実現したら、サステナビリティをめぐる議論はまったく変わってしまうでしょう。CO2問題やエネルギー問題を前提にした社会像も見直しを迫られます。

大屋　おっしゃるとおりですね。しかも、技術の進化はコントロールが難しい。社会の側だけで想像しうるのは、人口予測くらいでしょうか。

鈴木　人口予測ですら、医療技術の革新によって劇的な長寿化が実現すれば変わってしまうかもしれませんよ。コロナワクチンで話題になったモデルナ社は、もともとがんを撲滅するためにメッセンジャーRNAワクチンの研究をやっていたのです。こうした分野でイノベーションが起これば、これから10年、20年くらいのスパンで、平均寿命が大幅に延びる可能性もあります。もしそうなれば、日本のような国では、いわゆるシルバーデモクラシーがさらに進展するでしょうね。

ちなみに、シルバーデモクラシーについては、批判されることが多いですが、これだけ技術進化が激しい時代においては、それはそれで悪くないかもしれないと少し思っています。というのも、いまは技術の変化にともなって、社会の変化が速くなりすぎているからです。一方で、それに耐えられるような社会システムの技術的なアップデートは本質的に起きていないままです。もちろん領域にもよりますが、全体としては民主主義が保守的で予測可能性の高いものになったほうが、社会システムはより安定するのではないかなと思います。それでもいじゃないかという人がいるかもしれませんが、現在の加速的なイノベーションを生み出している、スタートアップやベンチャーキャピタル、大学や自由な論文アクセス等のエコシステムも破壊される可能性があります。

その意味で、自分はいわゆる技術加速主義の潮流には賛成しませんね。原子爆弾を開発したロバート・オッペンハイマーのように、後悔したくはないですから。当時でさえ、現在でさえ、核兵器もとにした安定した社会秩序の社会システムデザインは、ゲーム理論に基づいた相互確証破壊の概念に留まっているわけです。結果として核兵器後の世界史で起きていることは、大国の代理戦争と核不拡散スキームの成立とそのほころびです。社会システムの統治技術がアップデートされないと、こういうことが起きるわけです。現実に即して言っても、OpenAI社はあと10年で人間の知能を超えるAGI(汎用人工知能)が登場すると予測していますが、そもそも社会のほうはそんなことが起きた後に備える準備ができているんでしょうか。人間の認知限界を超えた速度で変化を起こしても、社会側の適応がとてもうまくいくとは思えません。むしろ、変化の速度を減速させる方法を真剣に考えなければならない時代になっていると思います。エドマンド・バークの保守主義のようですが。

大屋　『なめらかな社会とその敵』の読者にとっては少し新鮮な印象を与えるお話しかもしれませんね。それとの関係でいうと、私自身の問題意識は、否応なく生じる技術の進化に対して、いかにしてガバナンスシステムをついていかせるかということです。日本の場合、民主政の構造や選挙制度によって、社会システムが硬直化しすぎています。鈴木さんが語っていた動的な委任システムのようなアイデアは、これに対する重要な問題提起になりえると思います。

鈴木　あくまでも『なめらかな社会とその敵』は、300年後を見据えて書いた本ですからね（笑）。そうは言っても、ただ待っているだけではありません。具体的には公共財、そのなかでも準公共財に注目していて、なにかプロジェクトをつくりたいと考えています。国や地方自治体といった公的機関は、法律を変更しない限り大きな変革は難しいですが、大規模な集合住宅や駐車場、ゴルフ場、公園といった準公共財の領域では、民間からのアプローチも可能です。そうした領域において、新しい自治の仕組みや、そのなかで機能する新しいクレジットや貨幣のシステムといったオルタナティブを実験したいと考えています。「なめらかな社会」へと無理なく移行するために、民主主義の小さな実験を繰り返していきたいと思います。

総じて言えることは、技術進化の速度がはるかに早く、なめらかになる前に社会が壊れるリスクがあるということです。逆にいえば、なめらかな社会をつくるための社会技術的チャレンジも急ぐ必要がでてきています。多くの議論において、社会と技術は対立的に描かれますよね。しかし、社会制度や統治機構もある種の技術であるということを忘れてはなりません。つまり、技術の中で進化の速い部分（インターネットやAIなど）と遅い部分（社会技術）があって、そこにずれやコンフリクトが起きていると考えた方が自然なのです。私たちは、社会的技術をアップデートする研究にもっと注目して投資をしなければ、どんなに素晴らしい技術がでてきても、社会はそれを受け入れることはできないでしょう。どんなにパワーのあるエンジンができても、空力を考慮したボディのデザインがなければ、結果として車のスピードがでないのと同じなのです。最後に一言、タチコマかわいいですよね。