幼稚園児でもできるのにAIに絶対に解けないゴレンジャー問題とは

AIの進化が止まりません。
ちょっと前まで、大学の入試問題を解いたと思ったら、今は、博士課程の問題とか、数学オリンピックの問題を解いています。
どんだけ頭がよくなるんでしょう。

そんな今のAI業界を悩ましているのはペーパークリップ最大化問題です。
AIにペーパークリップを出来るだけ作るように指示したとします。
そしたら、地球を破壊して全部ペーパークリップにするんじゃないかって問題です。

言いたいことはわからないでもないですけど、まぁ、ちょっとあり得ない話ですよね。

それより、幼稚園児には簡単に答えられるのに、AIには難しい問題があります。
それをゴレンジャー問題といいます。

AIに、「何レンジャーが好き？」って質問します。
さっき、ChatGPTに聞いたら「アオレンジャー」って答えてくれました。
一見、問題なさそうですよね。

さて、この答え、アオレンジャーで正解なんでしょうか？
今のAI業界、これで何も問題ないと思っているようです。
そんなことより、数学オリンピックの問題の方が重要のようです。

でも、本当にこれでいいんでしょうか？
ここ、深く探ると厄介な問題が立ち現れてきます。

それは、人とは何かとか、心とは何かってことです。

AI業界では、あと数年でAGIが実現すると言っています。
AGIというのは、人間とほぼ同じAIのことです。

人間と同じAIなんて、本当にできるんですかねぇ。
なんか、人間を甘く見すぎてないですかねぇ。

それにしても、なぜ、このことを誰も指摘しないんでしょう？
ペーパークリップ問題とか、起こりえない問題に悩むより、もっと重要な問題だと思うんですけどねぇ。