「人工生命」が生み出す未知の倫理とは?【池上高志】

H.SCHOOL「人工生命」特集#02/03(2017/05/20)

  • 『人工知能』と『人工生命』の違いは、自動化と自律化
  • ポイントは「フレームの外に出ること」
  • 「人工生命」が生み出す倫理によって争いがなくなるかも

『人工生命』をテーマに4名の識者と未来のあり方を探った大人のトーク番組「H.SCHOOL」。
東京大学教授でALIFE研究者の池上高志さんが、人工生命がもたらす「生成的倫理(Generative Ethics)」について解説する。

ALIFE(人工生命)とは

池上
Artificial LIFE(人工生命)は、自律性を持つシステムを作って研究する分野だと考えていいと思います。
脳にしても進化にしても誰かが説明、誰かがプログラムを入れたり、こうしなさいって命令するわけではなくて、自然とできているわけで、自発的に自然にできちゃうっていう形を考えたい、というのがALIFEの心だと考えています。

自動化と自律化の違い

池上
“自動化”と“自律化”っていうのはどう違うのか。
アメリカとかだと郵便を出したいときに、旗を立てていると郵便屋さんが手紙を回収したりしてくれるというのがありますよね。

池上
それで、次のフェーズとして、インターネットを使ってどんどんメールを送り合うようになってきた。
郵便屋さんもいないし赤い旗を立てることもないんだけれども、送ったメッセージが世界中のアドレスを持ったところへ届けられると。
これも自動化ですね。郵便局員の自動化。郵便システムの自動化っていうことだと思うんです。

池上
自動化のもうひとつの例としては「ルンバ」。
iRobotという会社が作ったお掃除ロボットで、これは家でお掃除する人がすることを代わりにロボットにやってもらうと。
だから「掃除することの自動化」ということです。

池上
こちらは「グーグルカー(2005年)」。
車は人が運転するものじゃなくて、車自身が信号で止まったり、人がいたら止まったり、青になったら進んだりとか、目的地まで自動的に行ってくれる。これも「運転の自動化」というやつですね。

池上
これらが、人がしてきたことの“自動化”。
“自律化”っていうのは人のやることの自動化ではなくて、自然界の生き物のように自律的に意思や行為決定をしていくシステムのことなんですね。

自律化=生命くさくなる

池上
鳥を見て飛行機を作ったっていうのは「飛ぶシステムの自動化」で、それでかっこいい飛行機を作ってきたということなんですが、飛行機は生きてないじゃないですか。鳥から飛行機にするときに何がコピーされなかったかっていうことを考えて、つまり簡単にいうと「鳥-(引く)飛行機」は何かということですね。

池上
僕が子供のころに見ていた『スーパージェッター』っていう漫画に出てくる流星号っていう車は自律性を持っていて、自分でどこかへ行って、呼ぶと来てくれるんですね。これはどのくらい自律性があるのかっていうのは、後から考えたら分からなくて、言われたとおりに飛んでくるくらいかも知れませんが、でも普段どこにいるかよく分からないようなところもあって、面白いかなぁと思って。

そういうような、僕らと一緒にいないときの世界を持っているものっていうのが自律性の特徴で、そこは自動化されたのとは違うパーソナルな世界を持ち始めているということ。その辺から生命くさくなるということですね。

池上
自律的なものをどうやって作ればいいかというと、例えば、ディープニューラルネットワーク。深層学習って言われているんですけど、深層学習っていうのは与えられたデータを分類するんじゃなくて、見せなかったデータを自分でどんどん新しく作っていっちゃうと。

例えば、ゴッホらしいけどゴッホが描いたことがない絵とか、いかにも海の観光地みたいに見えるんだけど存在しない観光地の海とか。そういうのを考えて作ることができるようになってくると。そのしくみをみんなが研究しているということですね。

「フレームの外に出る」が生命の倫理につながる

池上
皆さんご存知の「アルファ碁」っていうのがあって、これはGoogleのディープマインドっていうところが深層ネットワークを使って学習させた。自分と自分が対戦するのを繰り返して、学習してきた。その囲碁のプログラムが世界チャンピオンのイ・セドルを負かしたっていうので、非常に有名になりましたよね。

このとき面白かったのは、負かした技術もそうなんですけど、囲碁の配置が今まで人々が知らなかったような新しい画期的な配置を見つけ出したってことで非常にびっくりしたと。そういうところで人の考えられないようなことができるようになるんじゃないかということで、これも自律的に生成するということですね。完全に自律的、人間の言う生命の自律的ということに半分くらい近づいているけど、まだ。

例えば、途中で囲碁をやめちゃったりするほうが自律的じゃないですか?

市原えつこ
確かにそうですね。

池上
(アルファ碁は)そういうことはしないですよね。囲碁をするっていうことのフレームの中で新しいことはしてくれるけれども、囲碁をやめたり、途中で負けそうになったからって壊しちゃったりしないじゃないですか。

そういうような、外に対して予想もしなかったような行動をとることの方が、生命の自律性っていうこと。そういうのはまだこの延長上にはないですよね。延長上にはないので、どうやってそのフレームの外に行くものが作れるかっていうことがALIFEの中心課題になるということです。

市原
人間は命令した以外のことをしてしまうんですね。

池上
そうですね。フレームの外に出るってことはすごく重要で、これが倫理の話につながっていくということなんですね。

だからフレームっていうのは1つのキーワードで、与えられたフレームの中で最善の手を探したり最善のことをするっていうのが自動化された機械の特徴なんですけども、与えられたフレームそのものに気がついて「俺はちょっとそこから出ていきたいんだ」ってことを考える。そういうところが生命の一つ始まりなんです。

もうちょっと言うと、エデンの園だったらすごい幸せじゃないですか。エデンの園っていうのが1つのフレームで、そこから出て行くっていうことを考え出したのがヘビに渡されたリンゴを食べたっていうことなんですけども、それが生命になったということを表していると。そのフレームの外に出ていけるかってことがALIFEの1つの目的になっています。

自律化した機械を描いた2つの映画

池上
1982年に公開された『ブレードランナー』という映画があって、レプリカントっていう人間が作り出した人間そっくりの超優秀なヒューマノイドが、自分の寿命が4年ということに気付いたりして、生き延びるために人間の下で働くことから脱却して、自分の命を救うために頑張るっていう話です。

池上
こういう時代から30年以上経って、新しい映画が作られて、それが『エクス・マキナ』。

池上
こいつ(『エクス・マキナ』の登場人物)は、人里離れた山の中で新しいヒューマノイドを作っているんです。そのヒューマノイドは、ヒューマノイドを作った人と会話したり生活をしてるように見えて、常にここから逃げることを考えているんですよね。そこを世界だと思わないで、外側に世界があることを知っているっていうところが意外だし、面白いところですよね。与えられたところから出ていこうと。

市原
人間が結構、恐れていることでもありますよね。機械が自律的に動いてっていうのは。

池上
そうですね。自律性を与えるっていうことは自由ってことがプライマリー(最初)にくるっていうことで、それをどうしても尊重して、そいつを守るためになんでもやろうと考えるっていうのが、生命の根本的な動機なんじゃないかと考えているんですけど。
30年離れて作られたこの2つの映画は両方ともそれがテーマになっていて、僕は面白いと思ったんです。

所有制に根ざさない倫理が生まれてくる

池上
『ブレードランナー』も『エクス・マキナ』もそうなんですけど、生命的なものが自分というものを認識したら、その自分の自律性を侵されることを恐れて、とにかく逃げていく。誰かに所有されたくないというのはなぜかというと、自分だから。
所有されることからの逃避っていうのが人工生命の動くモチベーションになっていくだろうと考えて、その所有からの逃避っていうのが倫理に繋がっていくだろうと。

池上
そもそも今の倫理っていうのは所有制にすごく根ざしていると思うんです。所有からフリーになることによって悪い振る舞いがなくなるというか、悪いことは結果としてすごく抑えられるんじゃないか。所有に根ざさない倫理。

所有制っていうことから自由になっていけば、そこには戦争とか殺し合いとかなくなるんじゃないか。それはすごくナイーブな意見だけど、そういうことが考えられるじゃないですか。

人間は「機械の逃避」とどう向き合えばいいのか?

塚田有那(編集者・キュレーター)
池上さんが先ほどから“逃避”っていう言葉をある種、すごくポジティブに使われているのが面白いなと思っていて。

あと、今までよくある議論では、機械が逃げてしまったら、それは人間にとって脅威であるという風にずっと言われ続けてきたと思うんですね。映画『2001年宇宙の旅』の「HAL9000」が暴走して、その結果、そこにいた宇宙飛行士は宇宙の彼方に飛ばされてしまう、というようなストーリーはやっぱり定石としてあって、機械が暴走する・逃げるというのは、シンギュラリティ問題でも怖いことだと言われていたと思うんですけれども、池上さんの捉え方って、そこはどうイメージしているのでしょうか?

池上
『2001年宇宙の旅』のHALの問題に関しては、僕が子供の時に思ったのは、それは機械を、HALを治せばよくて、どうして(電源を)落とすことを考えているのかと思って。まあ最終的に(電源は)落とされちゃうんですけど。それはやっぱり、悲しい感じとして描かれていますよね。

だから、HALを生命だと思っていたら、たぶん止めるっていうことよりも、HALと話し合おうとするじゃないですか。そう思っていないから、(人が)陰謀的に話し合って、口の動きからHALに知れちゃって…っていう話になるんですよね。

塚田
宇宙飛行士たちはHALと話し合うべきだったということですか。なるほど、面白い。あと、池上さんが“育てる”っていう表現をされていたのも面白いなと思っていて。それがAIではなくALIFEと呼ぶところの意義というか。生命である以上、生まれてしまったものを自分たちの子供をどう育てるか。それを「どうコントロールするか」というとやっぱり違和感がありますよね。そういう感覚なのかなという風に思いました。

池上
まさにそうですよね。だからその、自動機械とか奴隷であれば、自分に従わなければ壊しちゃえばいいし、殺しちゃえばいいって考えるけれども、生きたものに対する根源的な尊敬があったら、そうじゃなくて、了承せざるを得ないっていうことですよね。

相手のわがままとかも受け入れて、付き合っていかなくてはいけないところが一番重要なところだと思うんですよね。

人間はなぜ、わざわざ「人工生命」を作ろうとするのか?

池上
モリス・バーマンという人が『デカルトからベイトソンへ』という素晴らしい本を書いてるんですが、その中にこういうセリフが出てきます。

「未来の文化は人格のうちにおいても外においても、異形のもの、非人間的なものをはじめ、あらゆる種類の多様性をより広く受け入れるようになるだろう」。
これは、ありとあらゆる生命が生まれて、ありとあらゆる形の生命の多様性が生まれたときに、所有しようとか制御しようということじゃなくて、それをいかに受け入れるかということに、みんなの気持ちがいくようになるっていう。

そういうことが、われわれが考えるべきユートピア(理想郷)なんじゃないかということなんですけどね。

ドミニク
どうして今、僕たちは自律化する機械、生命的な機械っていうものをわざわざ作ろうとしているのかっていう。そういう質問が飛んできそうな気がするんですけども、それに対して池上さんはどう答えますか?

池上
そうですね、すぐには答えられない難しい問題だと思うんですけども、まぁ技術で何を求めるかという問題だと思うんですよね。

さっき言った、鳥から飛行機を作ったのとはまた別の方向の、鳥からなんか別のものを取り出して、それを技術にする仕方もあるとしたら、それは人工生命化されたものを作るっていう道だと考えて、技術化の第2の方向として考えたっていうのが1つ。

ペットを作るとか自分の友達を作るっていうことを考えるときに、最初に必要なのはやっぱり自律化ですよね。自律化したからといって、すぐにこっちに歯向かってくるわけじゃなくて、友達を作っていくっていう感じで僕は考えていたんですけど。

市原
人間の歴史って考えると、自然という脅威があるじゃないですか。それから襲ってくる猛獣とかを排除し、住みやすいように自然を開拓していって、どんどんいろんなものを制御しやすい方に成長してきた歴史だと思うんですけど、それからさらに、自然のような制御できないものを機械的に生み出すっていうのはびっくりするような発想だなと個人的には思います。

池上
本当にそう思います? でも例えば、みんなすごく危ない山に行きたがったりとか、無人島に行きたがったりとか、そういうことが心の中にあるじゃないですか。それはなぜかというと、最初に言ってたように、今いる世界のフレームから外に飛び出していって、今まで見たこともないようなものに会えるかもしれないと思うからじゃないですかね。

市原
すごく危ないものが出てくるかもしれないけれども、これまで見たこともないような世界が広がっているかもしれないと…確かに。

池上
そういうのが生命の根源的な欲求だと思うんですけど、違いますかね。