「ひょっとしたら人工知能（AI）が人間を支配する日がくるのではないか──」

シンギュラリティが語られるようになって久しい。「AIが人間の職業を奪う」というコピーもよく目にするようになった。未来学者レイ・カーツワイルが広めたとされる「シンギュラリティ（技術的特異点）」は2045年に到達するといわれる。果たして私たちは「社会の主役が人間からAIへ変わる」というシンギュラリティを、単なる「SF」だと楽観的に構えていてよいのだろうか。

アニメ『PSYCHO-PASS サイコパス』はシンギュラリティの2045年よりもさらに未来の2112年が舞台だ。厚生省が管轄する「シビュラシステム」が、人間の生体反応を計測し、個人の能力や性格をスコア化して”管理”をする社会。たしかにアニメ『PSYCHO-PASS サイコパス』の世界は近未来SFではあるが、アニメーションの世界だと高をくくってはいけない。その緻密に作られた世界観を知ることは、私たちの未来を知る一端となる。

かつて、英国の功利主義者ジェレミ・ベンサムは全展望囚人監視システム「パノプティコン」の構想を打ち立てた。パンプティコンは刑務所で、建物中央に監視用の塔があり、その塔を囲むように独房が並ぶ。監視塔からは360度見渡せ、つねに囚人を監視することができる。独房は各部屋に仕切られているため互いの顔は見えない。監視塔で効率良く大勢を管理できるという仕組みだ。

パノプティコンは、街中に監視カメラがあり、GPSで管理される現在の私たちの生活としばしば比較される。「監視の目」は、プライヴァシーの問題を多分に含むが、実際に監視カメラが犯罪を未然に防いでいるという事実もある。アニメ『PSYCHO-PASS サイコパス』の世界では、街頭スキャナーにより、フェイスレコグニション（顔認証）を行い、個人を特定する。さらに精神状態の表層的な部分を視覚化した「色相」の色を判別し、犯罪傾向をスコア化した「犯罪係数」を割り出し、その地区の「エリアストレス」を測り、犯罪を未然に防ぐことができる。

2112年のこの世界で、なぜ完全な「監視の目」が可能かといえば、それは「シビュラシステム」が社会を完全に管理しているためだ。つねに”誰か”に管理されていることを人々が受け入れ、それが当たり前となるとプライヴァシーは問題にならない。管理・管理されることに幸福を感じる人々。秩序ある社会で、人々の”自由”はどこにあるのか──。

「シビュラシステム」は社会インフラを管理するだけではなく、人間一人ひとりを管理する。人々は、シビュラシステムが編み出すスコアにより、適性の職業が推薦され、安定した生活を手に入れることができる。食べ物、洋服など、あらゆる選択にサジェスチョンがある。

個人をスコアで管理する傾向はすでに片鱗を見せつつある。2018年頃、中国では「芝麻信用」が話題となった。芝麻信用とはいわゆる「AIスコア」のことであり、中国のアリババグループ関連企業が開発した個人信用評価システムだ。これはいわば個人の社会信用度を計る物差しであり、クレジットの利用限度額やホテルの予約、買い物にまで影響され、スコアが低いと就職や結婚にまで影響が出てくると言われる。

高スコアをもつことが社会的なステータスとなり、人々はあらゆることをスコア化し、合理化をはかる。やがて人間は高スコアを獲得するための行動が活動の中心となり、AIに完全に管理された社会の中で生きていくことになる。この構図はアニメ『PSYCHO-PASS サイコパス』の世界そのものだ。

アニメ『PSYCHO-PASS サイコパス』で描かれる世界は、私たちが今後選択する未来のひとつの姿かもしれない。どんな未来を選ぶのは私たち次第だ。テクノロジーの進化とともに、もはや未来は予測不能だ。アニメ『PSYCHO-PASS サイコパス』を、起こりうる私たちの待つ未来として、その目で確かめてほしい。

──アニメ『PSYCHO-PASS サイコパス』（以下、PSYCHO-PASS）は、2112年が舞台のSF作品で、人間は、シビュラシステムに完全に管理されています。松田先生はもともとご覧になっていたそうですね。

最初にぼくが見たのは2015年の『劇場版 PSYCHO-PASS サイコパス』の映画ですね。そのあとアニメの1期を全部みましたよ。

──PSYCHO-PASSで描かれる社会を見てどのようなことを考えましたか？

ぼくは「PSYCHO-PASS」には2つのポイントがあると思います。ひとつは人間の脳が集まってつくった一種の「超知能」、シビュラシステムですね。もうひとつは超知能による「支配」。

物語はエージェントの話だけれど、ぼくが興味をもったのは超知能と、その支配について。実は「脳を集めて超知能をつくる」というのは、「PSYCHO-PASS」を見る前から空想していたんですよ。ぼく、妄想が好きだから（笑）。

このアニメで描いているのは「世界支配の方法」なんです。でね、ニック・ボストロムの論文に、「Singleton（シングルトン）」という言葉があるんです。これがまさにPSYCHO-PASSのシビュラシステムのことなんです。

ボストロムの著書『スーパーインテリジェンス 超絶AIと人類の命運』<日本経済新聞出版社>は、超知能について書かれています。例えば、”Future of machine intelligence”（機械知能の未来）や、”what happened when our computers get smarter than we are”（コンピュータがわれわれよりも賢くなったら何が起こるか）、”end of humanity”（人類の終わり）について書いている。彼は「超知能」だけではなく、「人類の生存の危険性」、「シミュレーション仮説」、「シングルトン」とさまざまな話をしていて、どれも極めて面白い。

<ニック・ボストロム: コンピュータが人間より知的になったとき何が起きるか？>

例えば、超知能は機械、つまり人工知能（AI）で、AIがとてつもなく賢くなったらどうなるか。ボストロムは、人間の知能をAIが超えるシンギュラリティが起こると言っています。そしてシンギュラリティの後で超知能ができて、人類を滅ぼす可能性があるという警告をボストロムは発しています。

ボストロムの影響力は極めて高く、亡くなったホーキングや、イーロン・マスク、米国のオバマ前大統領もAIの危険性を訴えています。その危険性というのが、普通の人の考える危険性とは違う。普通の人の考える「AIの脅威」は、映画で言えば『ターミネーター』みたいに、スカイネット、つまりAIが意識をもち、意図をもち、人間に悪意をもち、人間を滅ぼそうとするという考え方が多い。ぼくはそれをハリウッド的世界観と呼んでいます。

──AIが人間の敵になるという構図ですね。

ボストロムはそんなことは全くない。彼はペーパークリップマシンという例え話をします。人間のコントロール下にあるAIに、「ペーパークリップを作れ」と命令する。そうするとAIはペーパークリップを作るのですが、地球中がペーパークリップで埋め尽くされるほど作る。なぜなら人間に指示をされたから。あらゆるリソースをペーパークリップ作るためだけに使ってしまう。

──それしかやらなくなるのですね。

結論から言えば、人間と機械とでは価値観が違うということです。機械の常識は必ずしも同じではないから、そこで齟齬が生じてしまうんですね。

「シビュラ」は、太陽神アポロンの信託を受ける地中海の巫女のことをシビュラと呼ぶのが由来。「PSYCHO-PASS」の舞台となる2112年では、日本が世界で唯一シビュラシステムを実現し、法治国家として機能している社会が描かれる

──ボストロムの「シングルトン」とはどういうものでしょうか。

「シングル」はひとつのもの、世界を支配するひとつのものということです。つまり、「PSYCHO-PASS」でいうとシビュラシステムがシングルトンです。シングルトンとしてどのようなものがありうるかというと、人間の政府というものも考えることができる。ただ、人間は不完全だから、いままで世界を征服しようとした帝国はいっぱいあったけれど、すべて滅んでいる。ペルシャ帝国、アレクサンダー帝国、ローマ帝国。人間のつくる帝国はすべて滅んでしまいました。

──人間が統治するとその不完全さで滅んでしまうということですね。

ギリシャ時代の哲学者のプラトンは政治形態を6種に分けていますが、一番良いとされるのが聖人君主による哲人政治です。当時のアテネは民主政治でしたが、プラトンの考えでは下から2番目の政治形態。なぜかというと衆愚政治になるから。

プラトンの師匠ソクラテスが、民主政治下で不当な裁判で処刑されました。そのせいでプラトンは民主政治に疑念を抱くようになり、思索を巡らせた結果、哲人政治の思想にたどり着いたんです。哲人政治とは、鉄人、つまり完璧な人間が世界を支配すべきという考えです。

でも人間の官僚制で世界政府をつくるのは難しい。そこでボストロムは、人間ではダメだ、AIがよいのではないかという話になるんです。その思想と、「PSYCHO-PASS」の思想は同じであろうとぼくは思います。


──完璧なAIが支配する社会と、不完全な人間が統治する社会の違いはどのようなものでしょうか。

映画『マトリックス』も、モーフィアスの一派は機械の支配に疑問をもちます。ところが、あのなかで、サイファーという裏切り者がいます。彼は敵方のエージェントスミスと密かに会い、「自分は反乱軍にいるけれど、狭い潜水艦の中でまずいものを食べている。そんなものよりは、夢の中であっても、うまいジューシーなビフテキを食べたい」と話します。「幸せとは何か」。ここでは根源的な問題が問われています。

これは2つの考え方があります。シビュラシステムに支配されていても幸せと思う生活を選ぶか、あるいは自由を選ぶか。つまり支配されるのは嫌で、自由でありたいという価値観。この自由という価値観は、徹底的にアメリカ的、西洋的価値観です。

ハリウッド映画は、自分たちの価値観こそ至上のもので、世界の人々はこの価値観に憧れてると思っている。ところが昨今の米中覇権闘争でそうではないことがわかってきた。

米中覇権闘争はアメリカのニクソンが訪中したときから始まりました。アメリカはアメリカ的価値観を中国も望むはずだと考えていた。彼らを豊かにすれば自由を求めるはずだと。

ところが中国はそうは思っていない。中国は基本的に、4000年という長い歴史をもっている。アメリカの数百年の歴史とは比べものにならない。当時、鄧小平が「韜光養晦（とうこうようかい）」、つまり「能ある鷹は爪を隠す」という言葉を使いました。

要するに自分たちはアメリカを凌ぐ力をもっているけれど、そのことは隠せと。ところが2010年くらいに習近平が権力をもってから、その衣をかなぐり捨てた。で、中国が世界覇権を握る。世界を支配するとまでは言わないけれども、われわれが世界のトップに立つという姿勢を見せました。

──確かに近年の中国の経済・技術力の進歩はめまぐるしいです。

だからシビュラシステムが、真っ先にできるのは中国だと思いますね。デジタル独裁。AIに関して言えば、研究レヴェル、投資レヴェル、とさまざまなレヴェルがあるのですが、中国はAI関係の特許数でアメリカを抜きました。それからAIに投じる投資額でも、アメリカを抜いています。

ただ、まだアメリカのAI研究のレヴェルは抜かれていない。AIで有力なのは英語圏。アメリカ、イギリス、カナダ、の３国です。日本はほとんど論外。だからシングルトンができるとしたら、アメリカならグーグルかフェイスブック。アメリカからもしシングルトンができるならば、それは国家ではなくて企業からだと思いますね。

──シビュラシステムは治安維持やあらゆるインフラストラクチャー、水道やガスなど、すべてを監督しています。

そう。シングルトンは世界を支配している存在ですが、これが目立つか目立たないかというのも重要だと思いますね。

シビュラは「独裁しているぞ」と目立ちます。『1984年』というジョージ・オーウェル の小説がありますが、この話の「ビッグブラザー」はシングルトンです。ビッグブラザーの顔写真も出てくるのだけど、実は何者かわからない。

こういう風にバーンと、人々の目につくところに「オレが支配しているんだ」と明らかにするタイプと、顔が見えないところで支配することもある。それをぼくは「酒場の親父モデル」といっています。

──酒場の親父ですか？

『座頭市』という映画がありますよね。北野武の新しいほうです。話の中に、ある盗賊団が出てきて、押し込み強盗をします。この組織は頭領がいて、部下がいて、その下の部下がいるという階層式になっています。でも1番の支配者である頭領は姿を見せない。

──誰がボスだかわからないのですね。

ある酒屋で親父がいてお酒を持ってくる。情けない感じの親父で。そこに座頭市が来る。で、ふらふらした親父がお酒を持ってきます。そこで親父は座頭市の仕込杖にけつまづいたふりをする。で、刀をさーっと見ようとしました。 そこで座頭市が、こいつが頭領だと気づくというエピソードがあります。

つまり、支配者たるものは陰に隠れるべきだろうというのがぼくの考えるシングルトンです。ぼくがシビュラシステムをつくるなら、もっと見えない姿にする（笑）。あと、脳が200や300では足りない。

──シビュラシステムの正体は神経細胞網を模した大量の演算装置による並列分散処理ネットワークであり、その演算装置は人体から摘出した人間の「脳」をつないだシステムでした。脳は水槽のような場所に入っていました。

ぼくの空想では、平面に並べるのではなく、立方体で箱の中に脳を浮かべるアイデア。例えば10の3乗で1000個になるから、10の6乗くらいの脳はほしい。生身の脳である限り、寝なくてはいけないとも考えると稼働率は⅔だから。

考える速さでいうと、コンピュータのクロック周波数が大体1ギガヘルツ。人間の脳の考える速さはよくわからないけれど、人間の脳は大体1ミリ秒がひとつの単位。でも1ミリセックでは何もできない。10ミリ秒だとすれば、1秒に100回何かできる。例えば人間の脳のクロック周波数を100ヘルツとしましょう。そうすると、コンピュータは人間よりも考える速さが10,000,000倍速い。だから人間は”とっさの判断”はなかなかできないんです。

──人間の脳であるメリットは少ないように感じます。

そう、でもそれはやはり機械では脳をつくれないんです。人間の脳はまだ「わからない」要素がある。「PSYCHO-PASS」では免罪体質者の脳を使っていて、彼らの”経験”を活用している。

ぼくがこういうものをつくるとしたら、人間の脳をとってくるわけにはいかないから、ステムセルから脳をつくって水槽の中で脳を育てますね。”brain in a vat”という考え方があります。

「水槽の脳というのはあなたが体験してる世界は実は水槽に浮かんだ脳が見ている夢なのではないか。という仮説。で哲学の世界で対応され、懐疑主義的な思考実験で1982年哲学者ヒラリー・パトナムによって提唱された」

これは要するに、人間は脳があり、目があるので、実際に見たものを感じていますが、そうではなく、あらゆる視覚や聴覚、触覚の電気信号を脳に送ればいい。「PSYCHO-PASS」の水槽も”brain in a vat”のアイデアを使っているようですね。

“brain in a vat”は自分が水槽の中にいることを知らないけれど、「PSYCHO-PASS」の世界では知っているわけだよね。

──機械は人間のことを100%わかっていないのですよね。

人間の脳の中で働くアルゴリズムを”マスターアルゴリズム”と呼びますが、これが解明できれば、ぼくは世界を支配できると思います。これはどのようなものかをぼくは研究しています。『The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World（マスターアルゴリズム）』という本がありますが、この本にはおそるべき逸話があってね…。習近平主席の本棚にこの本があるという（笑）。

──それは…怖いですね。

怖いよねぇ。このマスターアルゴリズム、つまり人間の脳のアルゴリズムを解明したら、シングルトンがつくれるようになります。シビュラシステムと似たようなものを、人間の脳ではなく、機械でつくることができます。つまり、AIを支配したものは世界を支配するということです。