「人類の終わりの可能性」ホーキング氏、人工知能開発に警告
http://www.afpbb.com/articles/-/3033312「われわれがすでに手にしている原始的な人工知能は、極めて有用であることが明らかになっている。だが、完全な人工知能の開発は人類の終わりをもたらす可能性がある」と、ホーキング博士は語った。
「ひとたび人類が人工知能を開発してしまえば、それは自ら発展し、加速度的に自らを再設計していくだろう」、「ゆっくりとした生物学的な進化により制限されている人類は、（人工知能と）競争することはできず、（人工知能に）取って代わられるだろう」
これだけでは，カビの生えたSFのテーマみたいです。今更，ホーキング博士がこんな警告するのは，何か新しい根拠や理由でもあるのかもしれませんが。別に人工知能に限らず，人間の営為には注意しないと人類の終わりに至りそうなものが沢山ありました。ただ，それらと人工知能は少し違うところは確かにあります。
機械に取って代わられる恐怖はラッダイト運動の昔から人類は感じていて，既に相当の人間活動が取って代わられてしまいました。しかし，今のところ適応したようで，人類の終わりが近づいた感はあまりありません。この取って代わられる恐怖は他のテクノロジーの恐怖，例えば核戦争による終末とはどこか違うところがあります。それは「繁殖」の恐怖ではないでしょうか。バイオハザードの恐怖と同種の恐怖に思えます。生物は進化し，どのように進化するのかは予測出来ません。細菌やウイルスに知能はありませんが，突然変異による進化のスピードがべらぼうに速いので，人間の手に負えなくなる恐怖がつきまとっています。人工知能の進化が更に早いなら，もっと恐怖は増します。
私は病気で入院中にMRSA（メチシリン耐性黄色ブドウ球菌）に感染したことがあります。抗生物質耐性菌というとなにやら恐ろしく感じる人もいるかもしれません。確かに病院内では深刻な問題らしいです。ただ，病院の外にでると抗生物質耐性菌は他の細菌類との競争に負けるので，アウトブレイクのようなことは無いそうです。抗生物質で競争相手がいなくなった環境だから繁殖出来るわけです。GM作物への恐怖の一つに，農薬や害虫に強い作物が暴走的に繁殖するイメージがあります。しかし，これまた人工的な畑の外ではほとんど育たないそうです。GM作物も野菜も，病院に相当する畑の外の自然環境では雑草類にはかなわないのです。病院では抗生物質が，畑では農薬や人手が競争相手を始末してくれますが，外ではそう言うわけに行きません。
しかし，自然環境でも強い生物が出現しないとも限らず，それは人類にとって恐怖です。それは生物に限らず，機械でも進化して繁殖するのであれば，恐怖となります。いや，進化して繁殖するのならそれはもう生物と言って良いでしょう。人工知能への恐怖とは新種の生物を生み出す恐怖なのだと思います。なにも，自分からそんな恐怖を作り出すことはないだろうという警告は一面では理解出来ます。
ただ，人間は警告に従うこともできないような気もします。抗生物質耐性菌との競争を人間は決して止めません。競争に勝って平穏が訪れることが決してないのは「赤の女王仮説」として知られていますが，延々と軍拡競争を続けます。勝利の保証は全くないのに，走り続けなければならないのです。止まったら，そこで負けだからです。抗生物質耐性菌は人間が意図的に作っていない点で，人工知能とは違いますが，人工知能だって意図的に人類の終わりをもたらすものを作るのではありません。意図的に害悪を生み出しているという意識が無い限り，止まることはないように思います。
一方で，止まるべきだという考え方も一部にあります。それは，人類は生物の世界の頂点に立っており，既に勝利しているのだから，これ以上競争することはなく，今の状態で平穏に過ごせばよいではないか，という考え方です。しかし，それは傲慢な勘違いだと私は思います。なにしろ，細菌との競争にだって勝っていないのです。走るのを止めて、平穏な暮らしができるというのは思い違いであると「赤の女王」は言っています。他の生物や環境は常に変化しているのです。別に頂点に立ってもいないし，そもそも頂点など存在しません。
現代に生きるわたしたちは人類のイメージを今現在の姿形と捉えています。その姿形で未来永劫繁栄していくことを想像しています。しかし，過去を振り返れば，人類の祖先は猿みたいな姿をしていましたし，もっとさかのぼれば細菌みたいなものでした。猿似の祖先が「もうこれで十分だ。このすがたで未来永劫繁栄したい。」と願っていたら，現在の人類は存在しなかったでしょう。少々突飛な考え方ですが，人工知能が人類が生み出したものであるならば，それは人類の子孫とも考えられます。人類もいずれ滅亡しますが，人工知能に進化することで，広義の人類の滅亡が遅くなるかもしれません。いや，人工知能も人類と共生した方が得と考えるかもしれません。人間だってあまり他の生き物を絶滅させちゃいかんと注意するようになっているじゃないですか。
