エクス・マキナ〜検索エンジンとAI開発の果てにあるもの

Ex Machina review – dazzling sci-fi thriller

日本未公開ですが、非常に興味深いイギリス映画が海外公開されています。

「エクス・マキナ」というタイトルで、ジャンルは近未来SFスリラーといえるでしょう。
僕は、ユーチューブにアップされているフルムービーを見ることが出来ました(英語音声・英語字幕でしたが)。
映画自体は、ほとんど制作費用はかかっていない映画で、静かに進んでいきます。
人工物の極限であるAIアンドロイドの対極にあるような美しい大自然の描写は印象的です。

ネタバレですが、ストーリーをお話します。これを語らなければ、この文章のテーマを理解していただけないと思うので。

さて、ストーリーを織り交ぜて話を進めていきます。

グーグルとか、Facebookのような、ある世界最大級のネット企業で働くケイレブ(ドーナル・グリーソン)が、ある日、会社のコンテストで優勝して、大自然の中で研究生活を送る創業者ネイサン(オスカー・アイザック)の家に1週間招かれます。創業者は「Blue Book(青色本)」という検索エンジンを開発して巨万の富を築いた億万長者で、スティーブ・ジョブズのような、ちょっと変な人です。ケイレブは、そこでアンドロイド「エヴァ」(アリシア・ヴィキャンデル)と出会い、惹かれてゆきます。

リアルタイムの情報をアルゴリズムで整理する検索エンジンは、AI研究の出発点としてはまさに理想的です。実際、Googleには物凄く精密なAIソフトウェアが既にあるそうなんですが、人間のように考えるAIを作るためには人間の思考をまず知る必要があります。そこで、世界中の人間の検索履歴にアクセスすることが必要です。

人間か機械かを区別する判断基準に、あの「イミテーション・ゲーム」で話題になったアラン・チューリングが開発した、チューリングテストというものがあります。去年、13歳のウクライナ少年・ユージーン」というAIプログラムが、初めてチューリングテストにパスして世界を驚かせました。

でも、実は、昔ながらのチューリングテストをクリアするのは今のAIには、もうそんなに難しいことじゃないそうです。AIはもう言語習得も特に問題ではなくなってきているそうです。

難しいのはロボットに人間のような見た目やしぐさなどを与えることだそうです。人間の行動、表情、感情は本当に微妙で、検索語だけじゃわからないからです。それで、この映画の中のAI開発者ネイサンはどうしたのか? ありとあらゆるデータを集めたのです。

ネイサンは、映画の中で、「私には政府から、地球上のありとあらゆるスマホとパソコンのカメラそしてマイクに侵入して画像データとそれに付随する顔の表情、会話まで回収できる権限が与えられているんだ」と、言います。あの元CIAのエージェントのスノーデンが暴露した通り、ビッグデータを始め、あらゆるネット上のデータを収集・分析しているわけです。

実は、主人公のケイレブが、会社のコンテストで優勝して連れてこられたのも、運が良かったからではありませんでした。彼は、新しいチューリングテストをエヴァに試すための人間として 、検索履歴を調べられて「優れた倫理規範」を備えた一番理想的な人間と判断されたからだったのです。

そして、この新しいチューリングテストというのが、単にAIと人間の違いを判断させるだけじゃなくて、実は、AI自身が、自分の思い通りにその人間操ることができるかどうか試すものだったのです。そして映画の中のAIアンドロイドであるエヴァの仕向けた行動は、開発者ネイサンが管理するこの山奥の大豪邸(実は研究施設)から主人公ケイレブによって自分を脱出させることでした。そして、これを実現するには、純真な若い主人公ケイレブを誘惑し、自分の会社の社長であるネイサンの命令に背いてでも、エヴァを逃す行動を起こさせなければなりません。

そして、結局エヴァは見事この新チューリングテストをクリアして施設から脱出し、主人公ケイレブは山奥の大豪邸に監禁され、AI開発者ネイサンは殺されます。
純真なケイレブに対して、エヴァが自分に恋をしていて、自分を信頼し、自分に頼りきっていると錯覚させたから出来たことです。では、どうして、エヴァはケイレブを錯覚させ、ケイレブに自分を脱出させるような行動をとらせることができたのでしょうか?

それは、主人公ケイレブについての大量の個人情報が、好きな色や好みの女性のタイプまで、ケイレブ自身がそれまでにネットで検索することを通して、全て自分から検索エンジンに渡されてしまっていたからです。ケイレブの個人情報を使って、話し方やしぐさ、表情、服装など、あらゆる手段をつくして、エヴァがケイレブを誘惑したからなのです。

これって実は、Googleが毎日やってることですよね。私達は自分がほしいもの、希望するもの、必要なもの、興味のあるもの、嫌いなものなどを逐一細かく、毎日検索エンジンに教えています。今現在は、それによってグーグル広告が表示されるだけで済んでいますが、近い将来、それと同じ情報がAIにフィードされて、それでAIが自分を利用しようとしたり、破滅させようとしたら、なんていうことを考えると、背筋が寒くなります。そもそも、AIにとっては人間は頭の悪いサルみたいなものですから、AIがデータを学習して、人間を抹殺しようとしてきたら、それこそ、ターミネーターの世界です。

そうえいば、グーグルの創業者2人が、殺人ロボットに自分たちを対象除外するようにグーグルのサーバー上にファイルを置いている(こちらを御覧ください)ことが以前話題になりました。もちろん、このファイルは冗談だと思いますが、グーグルを使わないで生活することは、今、ほとんど出来ませんよね。検索エンジンだけでなく、マップ、メール、スケジュール、全部タダで利用させてもらっていますが、その代償として、個人情報をほとんど全て提供してしまっています。タダほど高いものはないかもしれません。

グーグルのような企業が人類を滅ぼすターミネーターを作るなんてことはまずないと思いますが、AIの開発について、スティーブン・ホーキング博士を始めとして心配してる人もいますよね。
集められた膨大な個人情報を使って、僕たちが想像もしなかったようなかたちで、破滅をもたらすようにそれが使われる危険性は十分にあるのでは?と僕も思いました。