超知能《ASI》は意識を持つのか？　自由意志をもつのか？

ソフトバンクの孫社長の目標は、10年以内にASIを実現することだそうです。
ASIというのは、超知能のことです。
よく似た言葉にAGIというのがあります。
AGIは、人間と同じような知能をもった人工知能、汎用人工知能のことです。
超知能は、人間をはるかに超えた知能です。

はるかにって、いったいどのくらいでしょう？
孫さんがいうには、1万倍だそうです。

いやぁ、大きく出ましたねぇ。
人間より頭がいいって簡単にいいますけど、頭が良ければいいんでしょうか？
人間が持ってるもっと根本的なものを忘れていないですか？
それは、「意識」です。

意識について、僕はずっと考えてきました。
そして、大事なことに気づいたんです。
それは、意識と自由意志とは切っても切れない関係にあるってことです。

さて、超知能が自由意志を持ったとしたらどうなるでしょう？
人間のために働いてくれるんでしょうか？

AIの意識とか自由意志について、孫さんはどこまで考えているんでしょうかねぇ。
孫さんだけでなく、AI関係者も、このことについてあまり考えてないようです。

そこで、何をもって意識というのか、どうなれば自由意志があるといえるのか。
そういった根本的なところを厳密に定義していきます。