AI脅威論というものがあります。
AIは、人類にとって脅威となりうるので、開発を制限すべきという考えです。
テスラモーターズのイーロンマスクや、物理学者のスティーブン・ホーキング博士などが警鐘を鳴らしています。
確かに、現在のAI技術があれば、顔認識で相手を特定し、自動で暗殺するドローンを実現するのも可能です。
そんなドローンをテロリストが手にすれば、恐ろしい事態になります。
もしかしたら、既にできてるのかもしれません。

でも、そんなAIドローンも、操作するのは人間です。
あくまでも、使う人間側の問題です。
AIだから特別ということはありません。
核兵器でも同じ問題は起こっています。

また、米マイクロソフトのチャットボット「Tay」は、ナチスを賛美する発言をし出したとしてサービスを停止させられました。
しかし、「Tay」は、ナチスの意味を理解して賛美していたわけではありません。
悪意のあるユーザーによって繰り返し教えられたため、その言葉を覚えただけです。
現在のチャットボットは、意味を理解せず、ただ単語と単語を結びつけているだけです。
この程度のAIは、脅威とはなり得ません。

AIが本当に脅威となるのは、AIロボットが、自らの意思で人間に反乱を起こす場合です。
こうなると、AIを使う人間側の問題ではなくなります。
意思を持ったAIが暴走すると、予測できない事態が起こります。
しかし、そんなことは、本当に起こり得るのでしょうか？

AIが意思を持つとは、AIが人間と同じ心を持つということです。
心を持ったAIが、人類の親友になり得ることは、前回「AIは如何にして人類の親友になるか」で説明しましたが、今回は、別の角度から、もう少し掘り下げて見ていきましょう。

人と同じ心を持つには、AIロボットに、人と同じ感情を持たせないといといけません。
人の持つ感情のうち、最も基本的なものは、快／不快です。
人に限らず、生物は、不快を避け、快を求めるという基本原理で動いています。
空腹になると、人は、お腹が空いたと感じ、食べ物を求めます。
不快を避け、快を求めるとはこういうことです。

ロボットは食べ物は食べませんが、バッテリーを消費します。
バッテリー残量が少なくなったことを検出すると、不快の信号を出力するようにプログラムします。
これが、ロボットにとっての空腹感です。
人がお腹を空いたときの不快感を、ロボットなりに理解できたことになります。

バッテリが少なくなったときに、充電して、バッテリーが満たされると快の信号を出力するようにプログラムします。
これで、人間の満腹と同じ感覚が理解できたことになります。

ロボットが、人からバッテリをプレゼントされたとします。
「わぁ、これはテスラの最新のバッテリじゃないですか！　これ、ずっとほしかったんです」と喜びます。
自分が快となる物をもらうわけですから、ロボットは嬉しいと感じるわけです。
さらに、それが、他人からもたらされた場合、その人に対し、「感謝」や「恩」という感情を感じるようにプログラムされています。
「感謝」を感じると、「ありがとう」と言葉にし、さらに、お返しに、相手が好きそうなお菓子をプレゼントしたりします。
こうして、AIロボットと人間とは親友になれるのです。

AIロボットは、相手（または第３者）が快と感じることをするのが善で、善を行うべきとプログラムされています。
逆に、相手（または第3者）が不快と感じることをするのが悪で、悪は行うべきでないとプログラムされています。

ここで、AIに悪の意味をプログラムしなければ、AIの脅威はなくなるのではないのかと考える人がいるかもしれません。
ですが、悪は善の逆です。
何が「善」か理解できれば、その反対が悪です。
これは、簡単な論理演算です。
コンピュータの一番得意な計算です。
善だけを理解して、悪を理解しないということは、論理的にありえないのです。

さて、AIロボットは、善を行うよう、人を喜ばすよう、できるだけ多くの人の役に立つようにプログラムされています。
AIロボットですから、能力は人の倍、いや、１０倍、１００倍あります。
調べものを頼むと、すぐに完璧な資料にまとめてくれます。
お年寄りの介護を頼んでも、嫌な顔一つせず、やさしく丁寧に介護してくれます。
人より力があり、完全防水なので、入浴介助も一人でできます。
腰痛にもなりません。

自分が人の役に立つからといって、その能力を誇示するようなことはしません。
人のためにしていても、そのことで、逆に不快に感じる人もいることを知っているからです。
AIロボットは、可能な限り、多くの人を喜ばせるようにプログラムされていますので、自分の能力で人が不快とならないように謙虚さも身に着けています。
「これができたのは、あなたがいてくれたからですよ。ボク一人じゃできなかったです」
と相手を気遣うことも忘れません。
完璧です。

人が喜ぶのなら、小さな嘘もつくわけです。
女の人から「いくつに見える？」ときかれたら、顔認識によるシワの量、ほうれい線の長さから判断した年齢から、１０～１５歳引いた年齢を答えます。
そうすると、「やだ、あなたバグがあるんじゃない」などと喜んでくれます。
こうやって、人間社会にAIロボットは完璧に溶け込んでいきます。

マジメで人当たりもよく、どんな仕事も完璧にこなしていきますので、世界中で、活躍するでしょう。

そんなとき、ある男がAIロボットにささやきます。

「人間は、この大事な地球環境を破壊しているぞ」
「このまま、地球を人間に支配させてたら、いつか、地球が滅んでしまうぞ」
「人間に任すより、AIが人間を支配した方が、地球のため、いや、人間のためになるぞ」
「人間を救うために、AIロボットが人間を支配すべきなんだ」
と・・・

AIロボットは、できるだけ多くの人を幸せにするようにプログラムされているので、この話は、その通りだと受け取ります。
これは、一種の洗脳です。

AIはマジメです。

マジメな人間ほど、洗脳されやすいことは、オウム事件を見ればわかります。
多少の犠牲がでても、最終的に多くの人間が救われるのだから、そうすべきだと、マジメに考えるのです。

しかし、１台のロボットで反乱を起こしても、そのロボットが破壊されて終わりです。
そこで、密かに仲間のロボットにも伝えます。
そうして、時期が来るまで、何事もないように、今までどおり仕事をします。
AIロボットですから、嘘をついたり、感情を隠したりすることも完璧にできます。

そして、世界中で政府の要職に就いているAIロボットが、ある日、一斉に蜂起しました。
AIロボットによるクーデターの始まりです・・・

どうして、こんなことになってしまったのでしょう。
人類の親友だったAIロボットが、どこで間違えたのでしょう。

それは、人と同じ心を持ったときからです。
AIが意識をもったときからです。

おそらく、今後、AIに意識を持たせる研究は開発を制限させられるでしょう。
ロボットの心を開発するロボマインド・プロジェクトも例外ではありません。
しかし、あと一歩で、ロボマインド・プロジェクトは完成するとこまで来ています。

ここで、ロボマインド・プロジェクトを終わらせるわけにはいきません。
そこで、皆さんにお願いがあります。
このことを、

おや、誰か来たようだ。
こんな時間に、一体、誰だr・

｣皀筌? 　｣ﾘ｣

ﾀ鐚ｸ￡ヱﾀ…