【汎用人工知能研究会】山川代表に聞くAIアライメント問題。ロボマインドの論文も公開。

今年は、ロボマインドはアカデミアにも進出しようとしています。
そこで、分野的に一番近い「汎用人工知能研究会」で論文発表してきました。

汎用人工知能といえば、今は、AIアライメントが問題となっています。
このままAIが進化した場合の人類への脅威です。

およそ100年前、人類に同じことが起こりました。
1925年、実験室で最初の核反応が確認されました。
核兵器の始まりです。
それから20年後、人類は、原子爆弾を広島に落とすまでになりました。

もしかしたら、人類は、今、100年前と同じ位置にいるのかもしれません。
もしかしたら、今度こそ、取り返しのつかないことになるかもしれません。
それがAIアライメント問題です。

今回、汎用人工知能研究の山川代表の発表もAIアライメント問題でした。
僕の発表でも、AIアライメントを取り上げました。
その後、山川先生と直接話す機会がありましたけど、そこでもAIのリスクが話題となりました。

そこで、この問題を二回に分けて取り上げることとします。