哲学者がAIとシンギュラリティを恐れるのは、その知が【非理性的】だからだ

シンギュラリティ後、私達はAIに滅ばされる。そんな悲観論に「考えすぎだ」と嘲笑する向きは多い。しかし可能性が低くとも火災保険に入るのと同様、AIの急成長への対策は十分準備するべきだと思う。AI研究の予算の5%をそれに充てるなど。

本連載について

この記事は「日本と世界の課題を丸くする」という連載の中に位置づけられます。個別の問題についての具体的な分析はもちろん、それ以上に「そもそもどのような課題が日本や世界にはあって、その課題の中にあるサブ課題やそこにある対立、関係性はどのようなものか」を俯瞰的に整理していくことが目的です。

そのために、主に2つのソースを使って記事を書いていきます。1つは書籍。社会問題を広く取り扱う書籍を参照しながらその目次を洗い、いまある課題のカテゴリや構造を読み取ります。もう1つはツイキャスを通した対話です。今後活発に行っていくつもりですので是非楽しみにお待ち下さい。

連載「日本と世界の課題を丸くする」
vol.1 書評:小川仁志「哲学の最新キーワードを読む」
vol.2 ポピュリズムとは何か、そして抵抗としてのスローイズム(Slowism)
vol.3 再呪術化とは何か、理性よりも宗教が力を持つ時代で対話の道はあるのか
vol.4 哲学者がAIとシンギュラリティを恐れるのは、その知が【非理性的】だからだ
vol.5 無自覚なフィルターバブル、閉じこもることが可能なインターネット
vol.6 プライバシーと超監視社会:利便性・自由・意思
vol.7 アメリカと同じ分断が生じる日本には、社会問題のwikipediaが必要だ
vol.8 「日本と世界の2018年の論点」を整理した3冊を丸めてわかったこと
vol.9 2018年の論点本を4冊読んで見えてきた日本の課題と抜け落ちた視点

 

今回の書籍

連載最初に取り上げる書籍は小川仁志さんの「哲学の最新キーワードを読む 私と社会をつなぐ知」にしました。2018年2月に出版されたばかりの書籍である点、哲学のキーワードと言いつつ社会全体を捉えるための重要な視座を提供している点が選んだ理由です。

ちなみにこれまで「様々な社会問題を整理、分類している書籍はないか」ということを色んなところで聞いており、そこで教えてもらった書籍をウィッシュリストにまとめています。もしよろしければ是非おすすめの本をコメントなどで教えて頂けたら幸いです。また、お贈り頂けた場合は必ず書評を書きますので是非お願い致します。

ロボットが意識を持つことはあるのか

シンギュラリティについては詳しい説明は必要ないと思いますが、簡単に言うとこのままAIが加速度的に性能を高めていく中で、どこかのタイミングでAIが人間よりも賢くなるときがきて、そこから最早人類が理解出来ないレベルまで一気に成長していくことを指すようです。

既に囲碁などの特定の分野では人間のトップレベルよりも高い能力を持つことが証明されたAIですが、人間が持つような汎用知能(特定の用途に限らない能力)を獲得するのは2045年頃だとされています。もちろんこの数字は想定であって明確な根拠があるわけではありません。

その中で必ず議論になるのがAIは意識を持ちうるのか、ということです。人間が当たり前に持っている(と思われている)意識をAIも持つようになれば、人間と同じように考えて自分自身で意思決定を行うのではないかと不安に感じている人が少なくないのです。

この疑問に対する答えは明確です。それは「人間の意識だって、持っていると思っているから持っていることになっているだけだ」というものです。チューリングテストというのをご存知でしょうか? チャット相手が人間かロボットかを確かめる試験のことです(チャットを使っているのは話し方や音で人間じゃないとすぐにわかってしまうことが多いからです:昔からあるテストなので)。

性能の高いAIであればあるほど、まるで人間のように受け答えをするのでチャットをしているだけでは返事をくれているのがAIなのか人間なのか区別をつけるのが難しくなります。最近日本でも女子高生のようなキャラクターで会話のように返信をしてくるAIが登場していましたが、まさにあれですね。もしも彼女がAIであると知らずに話していたら、気づいていない人も少なくないでしょう。

なぜここでチューリングテストの話をしたかというと、それはつまり私達が他の人が意識を持っているかどうか判定する方法となんら変わりがないからです。私達は他の人たちの意識を自明に前提としています。声をかければ返事をし、文脈に沿った応答をします。その意味内容や人間関係における距離感によって動作に違いが生じて、人間らしさを感じます。私達はそのように対応してくる人に、意識があると認識します。

もしも極めて高度なAIが会話を生成し、音声合成技術の発達によってそのテキストを実に人間らしく発話するロボットが生まれ、その挙動まで人間らしく作り込むことが出来たら、私たちはロボットと人間とを見分けることは出来るのでしょうか。出来ないのだとしたら、意識があると感じる人間とロボットとの間に最早区別は無いのではないでしょうか。そのまま一緒に生活したりクラスメイトにいても気づかないかもしれないということなのですから。

このような意味において、ロボットが意識を持つかどうかという問は実はほとんど無内容であることがわかります。ここにあるのはただ「人間と区別がつかないほどに高性能化するのか」という問であり、そして恐らくはYesです。技術の発達は必ずその段階までいくでしょう。

でも、人間らしくある必要はない

技術的にいえば人間と区別がつかないほどに高性能化するとしましょう。そうした場合に、果たして「人間そっくりであること」がどのくらいAIにとって重要でしょうか。日本だとロボットと聞くと鉄腕アトムなどの影響で人形を想定したり、ドラえもんの影響で少なくとも二足歩行の物体をイメージしますが、海外では必ずしもそうではありません。ロボットとはロボットアームのような極めて機能的な物体のことも示します。

AIが目的関数における効能の最大化を企図する(つまり目的を達成することを他の何よりも重視する)とするなら、人間らしくある必要など全くありません。有名な例ですが、クリップを手に入れるという目的を与えられれば、AIは地球を滅ぼしてでもクリップを手に入れようとする可能性があります。人間だと到底ありえないことですが、そのように機能する可能性も全く0とはいえません。

当然ながら思考も人間らしくある必要はありません。話す言語も人間が理解出来るものである必要がありません。そこで、次によく出てくる問「AIは人間を滅ぼすのではないか」という疑問が生まれてくるのです。人間のために動くわけではないのだとしたら、人間を滅ぼす方が良い解であるならそれを実行する可能性は当然ありますよね。

多くの哲学者は人間と動物との区別を理性におきました。理性があるからこそ人は他の動物とは異なるのです。しかし彼らのいう理性とはあくまで「人間の理性」以外の何者でもありません。AIは人間とは異なる知性を持つ可能性は十分あります。その知性を私たちは「理性的」だと認識するかもしれません。なぜならそれは人間主体の思考ではないからです。

AIの暴走は止められるか

一昔前ならバッテリーやコンセントを抜けば大丈夫なんて考え方もありましたが、プログラムとしてどこまでも自由に動けるようになればその完全な削除は不可能ですし、いまやバッテリーを交換するためのロボットなどだって簡単に作れるのですから、そのような方法ではAIが暴走したときに止める手立てがないかもしれません。

実際、これについて危惧している研究者は少なくありません。現実問題として、AIが暴走したときにどうやってその被害を最小限に抑えるのかは議論の余地があるのです。書籍の中でも記述があるように、これは原子力発電などとも似ているところがあります。

1.原子力は魅力的だが危険でもある
2.被害を防ぐには予防的措置と、起きてからの被害を小さくする措置がある
3.予防的措置の最たるものは使用しないことである
4.最近自然エネルギーの技術が上がってコスパが良くなってきた
5.このまま進めば原子力に頼らなくて良くなるかもしれない

これはAIについても同じように考えることが出来ます。カウンターセキュリティではなくて、むしろAIを使わない方向にシフトしていくことだってありえるはずです。もちろんセキュリティ技術を高めることも極めて重要なことです。これらはほとんど起こり得ないことだと仮定しても、もし起きた場合の被害は尋常ではありません。人間よりも高度なプログラミング技術をAIが手に入れることは十分にありえるのです。人間が出来るのだから。

AIの発達は私達の生活に大きな恵みを与える一方で、大きなリスクもまた背負わせることになります。悲観論の視点を失うことなく現実を直視し続けること(経済的利益と潜在的リスクとのバランス)を人類がどこまで続けられるか、不安でもあり楽しみでもありますね。

僕の考え

個人的に、AIとロボティクスの発達に伴って人間とロボットの境界線が最早なくなった世界を想像すると非常に面白い。いまでも人間のアクティビティログというのは様々な形で採られている(典型的には日記で、SNSなどならサービス上の挙動で)わけだけど、もっと発達すれば例えばメガネのセンシングで「誰と会う時に、どんな風に話すのか」なら簡単に情報が得られそう。それは人間関係がどんな風に親密になるのか、その親密度によって会話内容や距離感はどう変わるのかってことまでわかるようになるはず。

そのデータを取り続ければ、例えばその人が死んでしまった時にそっくりな人格を生み出して同じ体格のロボットを作ることも可能なんじゃないだろうか。生前と同じように笑い、怒り、悲しんで一緒に人生を生きていけるようになるのかもしれない。そうなったとき、生きていた頃と区別が本当につかないなら、最早生きていることと死んでいることの区別はどうなるんだろう。この技術が実現したら、多くの人は死を受け入れられなくなるような気がする。あるいは、死という概念が意味をなくすのかもしれない。

AIが人類を滅ぼす選択をするのかどうかとは全く別の次元において、恐らくこの技術の発達は僕達のあらゆる価値観を根っこから揺さぶるようなアイディアやプロダクトをどんどん生み出していくと思う。そして、その時やはりこの世界を考える上で大事なのはヒューマニティー、すなわち人文学など価値を取り扱う分野の知見なのではないかなと感じている。

ちなみに欧米では政府などが提供する資金を研究で用いる場合には、その予算の一定程度の割合をELSIに使うように指示される。Ethics,Legal,Social implicationのことだ。その研究について倫理的、法的、社会的側面から考える研究を同時に行わねばならないのだ。これって日本でも取り入れられていく必要があるでしょう。

次回

さて、連載「日本と世界の課題を丸くする」は次にインターネットという巨大な装置について考えます。シンギュラリティよりもよっぽど現実的に存在する問題です。フィルターバブルという言葉はご存知ですか?

連載「日本と世界の課題を丸くする」
vol.1 書評:小川仁志「哲学の最新キーワードを読む」
vol.2 ポピュリズムとは何か、そして抵抗としてのスローイズム(Slowism)
vol.3 再呪術化とは何か、理性よりも宗教が力を持つ時代で対話の道はあるのか
vol.4 哲学者がAIとシンギュラリティを恐れるのは、その知が【非理性的】だからだ
vol.5 無自覚なフィルターバブル、閉じこもることが可能なインターネット
vol.6 プライバシーと超監視社会:利便性・自由・意思
vol.7 アメリカと同じ分断が生じる日本には、社会問題のwikipediaが必要だ
vol.8 「日本と世界の2018年の論点」を整理した3冊を丸めてわかったこと
vol.9 2018年の論点本を4冊読んで見えてきた日本の課題と抜け落ちた視点

 

One thought on “哲学者がAIとシンギュラリティを恐れるのは、その知が【非理性的】だからだ

  • 2018年3月25日 at 1:49 PM
    Permalink

    https://twitter.com/senlisangatuki/status/977765509943840769?s=21
    有名な人なんで多分知ってると思うけど、一応貼っておきますね。

    いわゆる人間性と機能をトレードオフしてヒト⇄機械のモザイク模様の社会というアプローチ。
    フランケンシュタインシンドロームは杞憂だと思いたいけど、断定はできない。
    でも便利に人は逆らえないから安全装置なんてつけられずに上記の社会が実現するのではないでしょうか。

    Reply

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です