アップグレードは豊かさをもたらすのか。『ホモ・デウス（下）』を読んで

おはようございます、ゆまコロです。

ユヴァル・ノア・ハラリさん、柴田裕之さん（訳）『ホモ・デウス（下）』を読みました。

神や国家といった想像上の存在を人々に信じさせたかったら、彼らに何か価値あるものを犠牲にさせるべきだ。その犠牲に伴う苦痛が大きいほど、人はその犠牲の想像上の受け取り手の存在を強く確信する。ローマ神話の主神ユピテルに貴重な牛を一頭生贄として捧げる貧しい農民は、ユピテルが本当に存在すると確信するだろう。そうでなければ、自分の愚かさをどうして許せるだろうか? その農民は、さらに一頭、また一頭、そしてまた一頭と牛を生贄にする。そうすれば、それまで捧げた牛はすべて無駄だったと認めずに済むからだ。もしイタリアという国家の栄光のために子供を一人犠牲にしたり、共産主義革命のために両脚を犠牲にしたりしたら、たいていの人がそれだけで熱狂的なイタリア国家主義者や熱心な共産主義者になるのも、それとまったく同じ理由からだ。なぜなら、もしイタリアの国家神話や共産主義のプロパガンダが偽りなら、我が子の死や自分の負傷が完全に無駄だったことを認めざるをえなくなるからだ。そんなことを認める勇気のある人はほとんどいない。
それと同じ論理が経済の領域でも働いている。一九九七年、スコットランド政府は新しい議事堂を建てることを決めた。当初の計画では、建設には二年の月日と四〇〇〇万ポンドの費用がかかる見込みだった。ところが実際に要した時間は五年、金額は四億ポンドだった。建設業者は、予期せぬ困難と出費に出くわすたびにスコットランド政府にすがって、期間の延長と資金の追加を求めた。そして政府は、「うーん、このためにすでに何千万ポンドも注ぎ込んだのだから、今やめにして、造りかけの骨組みだけが残されたら、私たちは完全に信用を失うだろう。それなら、あと四〇〇〇万ポンド認めよう」と毎回自分に言い聞かせた。数か月後、また同じことが起こり、その頃には、建物が未完成になるのを避けるという圧力はさらに高まっている。そしてそのまた数か月後、同じ事態が発生し、それを繰り返しているうちに、とうとう実際の費用は当初の見積もりの一〇倍に達した。

この罠にはまるのは政府だけではない。企業もうまく行かない事業に何百万ドルも投入することが多く、個人も破綻した結婚生活や将来性のない仕事にしがみつく。私たちの物語る自己は、過去の苦しみにはまったく意味がなかったと認めなくて済むように、将来も苦しみ続けることのほうをはるかに好む。ついには、もし私たちが過去の誤りを白状したくなれば、物語る自己は何かこじつけを工夫して筋書きを変え、そうした誤りに意味を持たせざるをえない。たとえば平和主義の退役軍人は、次のように自分に言い聞かせるかもしれない。「たしかに私は誤りのせいで両脚を失った。だがこの誤りのおかげで、戦争が地獄であることがわかったので、今後は自分の人生を平和のための戦いに捧げよう。そうすれば、この負傷もけっきょく好ましい意味を持つ。平和を大切にすることを教えてくれたのだから」
というわけで、国家や神や貨幣と同様、自己もまた想像上の物語であることが見て取れる。
(p128)

スコットランドの議事堂の話が興味深いです。建設費用が見積もりの10倍かかるって、どんだけ甘い見積もりなんだと脱力しますが、でも冷静になってみるとこういう考え方に陥る気持ち、分からなくもない。こんなにつぎ込んだんだから、空ら手じゃ帰れないでしょ、みたいな。

「企業もうまく行かない事業に何百万ドルも投入することが多く、個人も破綻した結婚生活や将来性のない仕事にしがみつく。」

分かりやすい例えです。今とは違う行動をしたらどうなるか分からない不安を抱えるより、不満があっても現状を甘んじて受け入れるほうがマシ、と思ってしまうのはなぜなのでしょうね。でもそれが行き過ぎると、戦況が悪化しているのに、ここで退いたら犠牲になった兵士は犬死にになってしまう、みたいな発想で戦争を続行するといった事態になりそうで恐ろしさも感じます。

ヨーロッパの帝国主義の全盛期には、征服者や商人は、色のついたガラス玉と引き換えに、島や国をまるごと手に入れた。二一世紀には、おそらく個人データこそが、人間が依然として提供できる最も貴重な資源であり、私たちはそれを電子メールのサービスや面白おかしいネコの動画と引き換えに、巨大なテクノロジー企業に差し出しているのだ。

巫女(みこ)から君主へ

グーグルやフェイスブックなどのアルゴリズムは、いったん全知の巫女として信頼されれば、おそらく代理人へ、最終的には君主へと進化するだろう。この道筋を理解するには、今や多くの運転者が使う、GPSに基づいたナビゲーション・アプリの「Waze(ウェイズ)」の場合を考えるといい。ウェイズはただの地図ではない。何百万ものユーザーが、交通渋滞や自動車事故や警察の車両などについて絶えずアップデートしている。だからウェイズは、ユーザーに混雑した道を避けさせ、最短時間のルートで目的地に導くことができる。ユーザーが交差点に差しかかり、直感的に右に曲がりたいのにウェイズが左へ曲がるように指示すれば、そのユーザーは自分の感覚よりもウェイズに耳を傾けたほうがいいことを、遅かれ早かれ学ぶ。
一見すると、ウェイズのアルゴリズムは巫女のような役割を果たしているだけに思える。あなたが質問すると、巫女が答えるが、決定を下すのはあくまであなただ。ところが、もし巫女があなたの信頼を勝ち取れば、当然、次のステップは巫女を代理人に変えることだ。あなたはアルゴリズムに最終目的だけを告げ、アルゴリズムがあなたの監督なしに、その目的を達するために行動する。ウェイズの場合には、このアプリを自動運転車に接続し、「いちばん速く帰れるルートで家へ」「いちばん眺めが良いルートで」「引き起こす大気汚染が最小になるルートで」などと指示したときに実現するだろう。あなたが采配を振っているが、命令の実行はウェイズに任せる。
そしてついには、ウェイズは君主になるかもしれない。途方もない力を手にし、あなたよりもはるかに多くを知っているウェイズは、あなたや他の運転者たちを操作し、あなたの欲望を形作り、あなたに代わって決定を下し始めるかもしれない。たとえば、ウェイズはとても性能が良いので、誰もが使い始めたとしょう。そして、ルート1号では交通渋滞が発生しているけれど、その代わりとなるルート2号は比較的空いているとしよう。たんにウェイズが運転者全員にそれを知らせるだけでは、彼らはルート2号に殺到するので、こちらの道も渋滞してしまう。誰もが同じ巫女を利用し、誰もがその巫女を信用しているときには、巫女は君主に変わる。だからウェイズは私たちのために考えなければならない。ひょっとするとウェイズは、運転者の半数にしかルート2号が空いていることを伝えず、残りの半数にはこの情報を伏せておくかもしれない。そうすれば、ルート2号を混雑させずに、ルート1号の渋滞を緩和できる。
マイクロソフトは、「Cortana(コルタナ)」と呼ばれる、それよりもはるかに高性能のシステムを開発している。同社の人気の高い「Halo(ヘイロー)」というコンピューターゲームシリーズに登場するAIキャラクターにちなんだ命名だ。コルタナは、マイクロソフトが将来のウィンドウズのバージョンに不可欠の機能として搭載することを望んでいるAIパーソナルアシスタントだ。ユーザーはコルタナに自分のファイルやメールやアプリへのアクセスを許すことを奨励される。コルタナがユーザーを知り、それによって、無数の件に関して助言を提供するとともに、ユーザーの関心を実行に移すバーチャルな代理人にもなれるようにするためだ。コルタナは、あなたが妻の誕生日に何か買うつもりだったことを思い出させ、プレゼントを選び、レストランのテーブルを予約し、処方されている薬を夕食の一時間前に飲むように促す。今読書をやめなければ、重要なビジネスミーティングに遅れてしまうと注意してくれる。あなたがミーティングの場に入ろうとするときには、こう警告してくれる。あなたは血圧が高過ぎ、ドーパミン値が低過ぎ、過去の統計に基づくと、こういう状況では重大なビジネス上のミスを犯しがちだから、万事を仮の話にしておき、確約したり契約したりするのは避けるほうがいい、と。
いったんコルタナが巫女から代理人に進化したら、今度はコルタナどうしが主人の代わりに直接話し合い始めるかもしれない。最初は私のコルタナがあなたのコルタナに連絡を取り、会う場所と時間を決めるといった、当たり障りのないところから始まりうる。ところがいつの間にか、私の雇用を考えている人が、わざわざ履歴書を送ってもらわなくていいから、自分のコルタナに、私のコルタナに詳しく質問をさせてほしいと言いだすかもしれない。あるいは、私のコルタナに、私に恋心を抱いている人のコルタナが接近してきて、両者が情報を照合し、良い取り合わせかどうか判断するかもしれない。それも、持ち主の人間たちがまったく知らないうちに。
コルタナは権限を獲得するにつれ、主人の利益を増進するために互いに操作し合い始めるかもしれないので、求人市場や結婚市場での成功は、あなたのコルタナの性能にしだいに依存するようになりかねない。最新式のコルタナを持っている豊かな人々は、古いバージョンしか持っていない貧しい人よりも圧倒的優位に立つ。

だが、最も厄介な問題は、コルタナの主人のアイデンティティにまつわるものだ。すでに見たとおり、人間は分割不能の個人ではなく、単一の統一された自己は持っていない。それならば、コルタナは誰の利益のために働けばいいのか? 私の物語る自己が新年の決意として、ダイエットを始めて毎日スポーツジムに行くことにしたとしよう。一週間後、ジムに行く時が来たら、経験する自己がコルタナにテレビのスイッチを入れてピザを注文するように指示する。コルタナはどうするべきなのか? 経験する自己に従うべきか、それとも、物語る自己が一週間前に宣言した新年の決意に従うべきか?
経験する自己を仕事に間に合う時間に起こすように、物語る自己が夜にかけておく目覚まし時計と、コルタナは本当に違うのだろうか、と思う人もいるだろう。だがコルタナは、目覚まし時計よりもはるかに大きな力を私に振るうことになる。経験する自己はボタンを押して目覚まし時計を黙らせることができる。それに対してコルタナは、私のことを知り尽くしているので、自分の「助言」に従わせるためには、私の内なるボタンのどれを押せばいいか、完全にわかっている。

この分野はマイクロソフトのコルタナの独占ではない。Google Now(グーグル・ナウ)やアップルのSiri (シリ)も、同じ方向を目指している。アマゾンもアルゴリズムを使い、あなたを研究した上で、蓄積した知識を利用して製品を推薦する。私は書店に行くと、棚を見て回り、自分の感覚に頼って、これぞという本を選ぶ。だが、アマゾンのバーチャルショップを訪れると、たちまちアルゴリズムがしゃしゃり出てきて、こう告げる。「あなたがこれまでどんな本を気に入ったか知っています。同じような好みの人は、これこれの新刊を選ぶ傾向があります」
だが、これはほんの序の口にすぎない。今日、アメリカでは印刷された本よりも電子書籍を読む人のほうが多い。アマゾンのキンドルのような機器は、ユーザーが読んでいる間にデータを収集できる。たとえば、キンドルはあなたがどの部分を素早く読み、どの部分をゆっくり読むかや、どのページで読むのを中断して一休みし、どの文で読むのをやめて二度と戻ってこなかったかをモニターしている(著者にその部分を少しばかり手直しするように伝えるといいだろう)。もしキンドルがアップグレードされ、顔認識とバイオメトリックセンサーの機能を備えれば、あなたが読んでいる一つひとつの文が、心拍数や血圧にどのような影響を与えたかを読み取れるようになる。あなたが何に笑い、悲しくなり、腹を立てたかも知ることができる。ほどなく、あなたが本を読んでいる間に本があなたを読むようになる。そして、あなたは自分が読んだことをすぐに忘れるのに対して、アマゾンは何一つけっして忘れない。そのようなデータがあれば、アマゾンは並外れた精度であなたのために本を選ぶことができる。また、アマゾンはあなたがどんな人間で、どうすればあなたに興味を抱かせたり失わせたりできるかも、正確に知ることができる。
やがて、私たちはこの全知のネットワークからたとえ一瞬でも切り離されてはいられなくなる日が来るかもしれない。切り離されたら、それは死を意味する。もし医療の分野の希望が実現したら、未来の人間はバイオメトリック機器や人工臓器やナノロボットをたくさん体内に取り込み、健康状態をモニターしたり、感染症や疾患や損傷から守ってもらったりすることになる。とはいえ、これらの機器は、最新の医学的な進歩に即してアップデートするためにも、サイバースペースの新しい疫病から守るためにも、毎日二四時間休みなくネットワークに接続していなければならない。パソコンが絶えずウイルスやワームやトロイの木馬に攻撃されているのとちょうど同じで、ペースメーカーや補聴器やナノテクノロジーの免疫系も四六時中、攻撃を受ける。もし自分の体のアンチウイルスプログラムを定期的にアップデートしなければ、ある日目が覚めたら、自分の血管を流れる何百万ものナノロボットを、北朝鮮のハッカーが好き勝手に操っていたという事態を招きかねない。
（p176）

・みんなが同じシステムを使っていたら、一番早く帰れるルートを教えてくれるそのシステムに使い手が支配される、という発想に、そう言われればそうだな、と思いました。年末年始の渋滞予測を見て出発しても結局渋滞に巻き込まれるのは、わざわざ自分もその状況を作りに行っているからということなのでしょうか。

・Amazonのすすめてくる本を喜んで次から次へとお気に入りに入れていましたが、それって無償で個人データを提供して、Amazonの戦略に乗せられているということなんですね。とは言っても、こちらが好きそうな本を出してくるので特に怒りの気持ちもわきませんが、何の疑問も抱かずにお金を払っている自分も、単純すぎて笑えてきます。

だからといって私たちは、二〇世紀のもののような独裁制に立ち返るわけではない。独裁的な政権もやはり、テクノロジーの発展のペースや、データの流れの速度と量に圧倒されているようだ。二〇世紀には、独裁者は将来への壮大なビジョンを持っていた。共産主義者もファシストもともに、古い世界を完全に破壊してそこに新しい世界を建設しようとした。あなたがレーニンやヒトラーや毛沢東についてどう考えていようと、彼らにはビジョンがないと非難することはできない。今日、指導者にはより壮大なビジョンを追い求める機会があるようだ。共産主義者とナチスは蒸気機関とタイプライターの助けを借りて新しい社会と新しい人間を作ろうとしたが、今日の預言者はバイオテクノロジーとスーパーコンピューターを頼りにできる。
　SF映画では、ヒトラーのような冷酷な政治家がそういった新しいテクノロジーにたちまち飛びつき、あれやこれやの誇大妄想的な政治の理想の実現に利用する。ところが二一世紀初頭、現実の世界の政治家は、ロシアやイランや北朝鮮のような独裁国家においてさえ、ハリウッド映画に登場するような人物とはまったく違う。彼らはどんな「素晴らしき新世界」の構想も練っていないようだ。金正恩やアリー・ハメネイも、原爆や弾道ミサイル以上のものには逆立ちしても思いが及ばない。まさに一九四五年止まりなのだ。プーチンの野心はもっぱら旧ソヴィエトブロック、あるいはさらに昔のロシア帝国を再構築することに限られているらしい。一方、アメリカでは被害妄想を抱く共和党員が、バラク・オバマをアメリカ社会の基盤を崩壊させる陰謀を企てている冷酷な独裁者だと非難したものの、オバマ大統領は八年間の在任中、小規模な医療改革法案をかろうじて通すことしかできなかった。新しい世界や新しい人間を創り出すことなど、彼の眼中にはまったくなかった。
　今やテクノロジーは急速に進歩しており、議会も独裁者もとうてい処理が追いつかないデータに圧倒されている。まさにそのために、今日の政治家は一世紀前の先人よりもはるかに小さなスケールで物事を考えている。結果として、二一世紀初頭の政治は壮大なビジョンを失っている。政府はたんなる管理者になった。国を管理するが、もう導きはしない。政府は、教師の給与が遅れずに支払われ、下水道があふれないことを請け合うが、二〇年後に国がどうなるかは見当もつかない。
　これは、見ようによってはとても良いことだ。二〇世紀の大きな政治的ビジョンのいくつかがアウシュヴィッツや広島や大躍進政策へとつながったことを考えると、私たちは狭量な官僚の管理下にあったほうがいいのかもしれない。神のようなテクノロジーと誇大妄想的な政治という取り合わせは、災難の処方箋となる。多くの新自由主義の経済学者や政治学者は、重要な決定はすべて自由市場の手に委ねるのが最善だと主張する。それによって政治家は、無為や無知であることの完璧な口実が得られ、無為と無知は深遠な知恵として再解釈される。政治家にとっては、理解する必要がないからこの世界を理解しないのだと思うのが好都合なのだ。
　とはいえ、神のようなテクノロジーを近視眼的な政治と組み合わせることには悪い面もある。ビジョンの欠如がいつも恵みであるわけではなく、また、あらゆるビジョンが必ずしも悪いわけではない。二〇世紀に、陰惨なナチスのビジョンは自然に崩れたのではなかった。同じぐらい壮大な社会主義や自由主義のビジョンに打ち負かされたのだ。私たちの未来を市場の力に任せるのは危険だ。なぜならその力は、人類や世界にとって良いことでなく、市場にとって良いことをするからだ。市場の手は目に見えないだけでなく、盲目でもあるので、放っておくと、地球温暖化の脅威やAIの危険な潜在能力に関して何一つしないかもしれない。

（p219)