意識のハードプロブレムが解決しましたが、何か?

意識のハードプロブレムが解決しましたが、何か?

どうすれば、AIが、「私って何?」という問題に気づくのか

このエントリーをはてなブックマークに追加

 

 

意識のハードプロブレム」とは、1994年、第一回の意識に関する国際会議(ツーソン会議)で、哲学者デイヴィット・チャーマーズが提起したものです。彼は、意識を二つの問題に分けました。
一つは、イージープロブレムで、物質としての脳はどのように情報を処理しているのかという問題です。
これは、現在、脳科学の分野で、fMRIなどを使って盛んに研究されているものです。

もう一つが、ハードプロブレムで、主観的な意識体験はどのように発生するのかといった問題です。
主観的な意識体験とは、自分が見ている、感じているという意識して感じることができる部分です。
どうすれば、そんな意識が発生するのか、これがハードプロブレムの問題です。

なぜ、ハードプロブレムかというと、脳の観測からは見えてこないからです。
リンゴを見つけて、手で取って食べるまでの脳の信号処理の流れを完全に解明できたとしても、「リンゴを食べよう」と思った意識の本質がどこにあるのかは見えてこないからです。
科学は、観測可能なものしか対象としていないため、観測できない意識といったものは現代科学では手に負えず、どこから手を付けていいのかもわからない難問なのです。

コンピュータを分解すれば、処理の中心はCPUだとわかるでしょう。
でも、CPUの中の信号の流れをすべて解明できたとしても、そのコンピュータでどんなソフトウェアを実行しているのかを解明するのは難しいでしょう。
エクセルなのか、ワードなのか、はたまたスーパーマリオブラザーズなのか。

意識は、コンピュータでいうソフトウェアに近いものです。
脳の信号処理を全て解明しても、意識の本質は見えてきません。

 

僕がこの研究を始めたころ、同じような問題で悩んでいました。
僕の場合、人と自然な会話ができるAIを作ろうとしていました。
当初は、会話シナリオを用意して、単語に応じて用意していた応答を返すだけの会話システムを考えていたのですが、それでは、どうしても自然な会話が続きません。
自然な会話を成立させるには、最終的には、人と同じ心や意識を持たせないと無理だとの結論に至ったのです。

そこで、人の「心」と同じ動きをするプログラムのアイデアを思いつき、ロボマインド・プロジェクトがスタートしたのです。
今から、15年前のことです。
「意識のハードプロブレム」を知ったのもその頃です。
そこで、自分のアイデアをハードプロブレムに当てはめてみたところ、主観的な意識体験が発生することが確認できて、安心したのを覚えています。

自分の中では、「意識のハードプロブレム」はすでに解決した問題だったので、すっかり忘れていたのですが、最近のAIブームで、「意識のハードプロブレム」の問題を再び聞くようになりました。
「あれ、意識のハードプロブレムって、まだ、解決してなかったっけ?」と思ったので、今回は、「意識のハードプロブレム」はどうやったら解決できるかを記事にまとめてみました。

 

主観的な意識体験に関しては、「主観と客観」で詳しく説明しましたが、重要なので、ここでもう一度説明します。
まず、意識のないロボットとしてライントレーサーを例に挙げます。

 

 

ライントレーサーとは、紙の上に描いたラインに沿って走るマイコンロボットのことです。
マイコンロボットは、ラインの位置を検出するセンサーと、車輪を駆動するモータを有するロボット本体と、センサーからの入力に応答し、ラインに沿って走るように左右の車輪をコントロールするコントローラから成ります。

ライントレーサーは、簡単なシステムですが、外の世界を検知するセンサーと、外の世界に働きかける車輪をもっていて、外部世界に応答して自分をコントロールすることができるロボットです。
では、このライントレーサーは、世界をどのように認識しているでしょう?

ライントレーサーにとって世界とは、白い紙と、その上の黒い線と思っているのでしょうか?
自分は、その紙の上で、線にそって動くロボットと思っているのでしょうか?

それは、ちょっと違います。

なぜかというと、ライントレーサーは、検知した世界に応じて動いているだけです。
コントローラーで制御しているとはいえ、外部世界の変化に応答して動いているだけです。
人間でいえば、反射反応です。
膝頭(ひざがしら)の下を木づちで叩いたら足が上がる、あの、反射反応のことです。
反射反応には意識は存在しないですよね。
それと同じです。

ライントレーサーは、自分は、ラインの上を走っているなどと考えることはありません。
自分がラインの上を走っていると考えるには、どうすればいいでしょう?
そのためには、自分と世界の両方を認識できないといけません。
つまり、「自分」という「主観」を持つには、「自分」以外の「世界」と「自分」とを区別して認識できないといけません。

ここで言う「自分」とは、「ロボット本体」と「コントローラ」を指します。
ロボット本体とは、人間でいう「身体」のことです。
コントローラーとは、人間でいう「心」のことです。
「心」とは、身体を制御するプログラム全体を指し、「心」のプログラムの中で、自分や世界を認識する部分を「意識」と呼ぶことにします。

そうすると、身体から心、または、心から身体への信号処理の部分がイージープロブレムに該当するといえます。
心のプログラムの中身がハードプロブレムに該当するといえます。
こう考えると、ハードプロブレムである「どうすれば主観的な意識体験を発生できるか」という問題は、「どうすれば、意識が、世界と自分を区別して認識できるか」いう問題に置き換えることができます。

 

どうすれば、意識が、自分と世界を区別して認識できるでしょう?

物を認識するとは、物を外から観察しないといけません。
それでは、自分や世界を認識するとは、どういうことでしょう?
それは、自分や世界を外から観察することです。

自分で、自分を観察するには、どうすればいいのでしょう?
自分が、自分の外に出る?

世界を観察するには、どうすればいいのでしょう?
世界の中にいる自分が、世界の外に出る?

そんなことができるのでしょうか?

もし、「自分」や「世界」を外から観察する「意識」ができれば、「『世界』とは、白い紙と、その上に描かれた黒い線で、『自分』は、その線に沿って動くロボットだ」などと認識することができます。
ここまで認識できれば、主観的な意識体験を持っているといえるでしょう。
ハードプロブレムが解決したといえるでしょう。

では、どうすれば、「自分」の「意識」が「自分」を外から、「世界」を外から観察できるのでしょう?
15年ほど前、僕は、この問題に直面したのでした。

そうして、考え出したのが、意識は世界を直接認識しないというアイデアです。
「自分」という「意識」が世界に属している限り、「意識」は「世界」を外から眺めることはできません。
「世界」を外から眺めるには、「自分」が世界を作ればいいのです。

何をいっているのかわからないですよね。
もう少し丁寧に説明しますね。

カメラで世界を撮影するとします。
それを見て、反応するシステムでは、自分は世界に属してしまいます。
世界を認識する自分が、世界に属している限り、世界と自分とを区別することはできません。

それでは、どうすれば、自分を世界から分離することができるでしょう?
カメラで世界を撮影して、次は、それとまったく同じものを3Dモデルの仮想世界としてCGで作りだします。
その仮想世界には、自分も3Dモデルとして作り出されます。
意識は、そうやって作り出された仮想世界を観察するのです。
そうすれば、意識は、世界を外から観察できるのです。
意識は、自分を外から観察できるのです。
意識は、世界と自分を区別して認識できるのです。
これができれば、「意識」は、「『世界』とは、白い紙と、その上に描かれた黒い線で、『自分』は、その線に沿って動くロボットだ」と認識することができるのです。

外部の世界と同じ世界を内部に再構築し、それを観察する意識
このような心のプログラムを作れば、意識を発生させることができるのです。

これを、僕は「意識の仮想世界仮説」と呼んでいます。
このような心のプログラムを持った者同士だと、外部の世界は共通の世界として共有しています。
つまり、「私は、誰々です」「誰々の息子です」と自分のことを他人に説明することができます。
他人とコミュニケーションできるということです。
この心のプログラムを持ったエージェント同士が相互にコミュニケーションするエコシステムを僕は「心のエコシステム」(チューリング・テストと心の仕組み(心のエコシステム)参照)と呼んでいます。

他人と世界を共有しているので、他人と比較することもできます。
「自分はあなたより背が高い」などと。

世界は、物理的に観測できるデータだけでできている分けではありません。
人間世界には、名前や価値や性格といった物理的に観測できないものもあります。
内部に再構築する仮想世界は、そういった目に見えない価値観も含めることができます。

「自分の名前は〇〇です。」
「仕事は△△をしています。」
「年収は、□□円です。」
「決して高くはないですが、お金が全てじゃないですよね。」
「本当の幸せってなんですか?」

AIが、そんなことを悩み始めたら、AIが意識を獲得したといっても、言い過ぎじゃないですよね。
意識のハードプロブレムが解決したといってもいいですよね。

 

このエントリーをはてなブックマークに追加

“意識のハードプロブレムが解決しましたが、何か?” への28件のフィードバック

  1. 河村 拓海 より:

    こんにちは 一つ質問です
    もしも その意識のハードプロブレムが解決できた場合 意識に霊魂のようなものが関与していないとゆう証明になるのでしょうか?

    • 田方 篤志 田方 篤志 より:

      質問、ありがとうございます。
      霊魂の問題は、慎重に考える必要があると思います。
      ロボマインド・プロジェクトで目指しているのは、まずは、コンピュータで演算可能なモデルで意識を作ろうというものです。
      そのような意識でも、人間と何時間でも会話が続くようなAIが作れると思います。
      ただ、そのAIと会話してても、何か、足りないものを感じるかもしれません。
      もしかしたら、それが、霊魂なのかもしれません。
      霊魂について議論は、そこが出発点になると思います。
      まだ、やるべきことがいっぱいあって、まずは、今の技術で、できるものを作ろうというのが僕のスタンスです。
      霊魂の存在は、デカルト以来の大きな問題ですので、答えを出すのはまだ早いと思います。

  2. 佐藤優也 より:

    ハードプロブレムってそれだけなんですか?例えば意識とか認識って人それぞれ違いますよね?それも脳を調べただけじゃわからないと思うんですけどそれはハードプロブレムにはなり得ないのですか?例えばAIがみな同じ感覚や認識で私たちに接することになった場合それは本当にAIが自分たちを認識してなおかつ考えて私たちを相手にしているといってもいいのでしょうか?

    • 田方 篤志 田方 篤志 より:

      佐藤さん、コメントありがとうございます。

      例えば意識とか認識って人それぞれ違いますよね?

      はい、ここは重要だと思います。
      人には、個性があります。個性が生まれるのも、頭の中に構築した仮想世界を意識が認識するという心のモデルで説明できると思います。
      主観と客観」で説明しましたが、人間のような意識をもっていないカエルだと、外界に直接応答しているだけなので、あまり個性が生まれません。
      一方、頭の中に仮想世界を構築する心のモデルの場合、仮想世界に、人によって様々な情報を付加します。
      たとえば、同じ人物を認識しても、過去の経験から、その人は怖い人だと認識したり、一見怖そうに見えるけど、本当は優しい人だと認識したり。
      このようにして、仮想世界モデルを持つAIだと、過去の経験から個性が生まれ、同じ感覚や認識で私たちに接することはないと考えられます。

  3. レナルド より:

    意識のハードプロブレムってそう言うことじゃないと思うんですが…
    意識のハードプロブレムって、要はクオリアがどうして生じるか、あるいはクオリアという概念を何故人は理解できるのかと言う問題です。あなたは反射には意識が無いと言い切っていますが、もしかしたら反射を起こしている筋肉には非常に原始的なクオリアが生じているかもしれません。AIには意識がある、とも言い切っていますが、AIにクオリアがあるかどうかはやはりわからない。もしかしたらクオリアを生じてない可能性もあるわけです。
    そのあたりどうでしょう?

    • 田方 篤志 田方 篤志 より:

      鋭い質問、ありがとうございます。
      ハードプロブレムとクオリアの関係については、きちんと、記事にまとめようと思っておりましたので、この機会に、説明したいと思います。

      「リンゴ」を見たとき、赤いなぁとか、丸いなぁと感じます。これが「赤」や「丸」のクオリアです。
      クオリアを感じるときには、必ず、「私が赤と感じる」「私が丸と感じる」と「私」の存在が前提となっています。感じる私とは、主観のことです。
      そもそも意識って何?」「主観と客観」において、主観が存在するのは、意識のある場合に限ることを説明しました。

      意識のない例として、カエルや自転車を運転する場合の例をあげています。カエルは、外界の状況に自動で反応して生きています。自転車を運転するときも、左に倒れようとするとき、自動でハンドルを左に切って、倒れないように運転します。これは、無意識の動作です。

      一方、意識を発生させるために、現実世界の仮想世界を脳内に再構築するという心のモデルを提唱しました。仮想世界を観察するのが意識です。
      仮想世界の「リンゴ」には、「赤」や「丸い」といったデータが関連付けられています。なので、仮想世界を観察する意識は、「リンゴ」から「赤」や「丸」といったデータを感じることができます。
      これがクオリアです。
      別の味方をすれば、仮想世界の材料がクオリアと言えます。仮想世界は、クオリアという材料(要素)で構築されていて、意識は、それらのデータを受け取ることができます。
      これはコンピュータプログラム(ソフトウェア)と見ることもできます。コンピュータで作られた仮想世界に対し、それを読み取るプログラムが意識です。
      仮想世界も意識も同じプログラムで作られているので、仮想世界を構成する要素(クオリア)を意識は読み取ることができるのです。

      無意識のシステムは、外界の状況を感覚器(センサー)で受信し、その条件に応じて反応するプログラムです。
      外界の状況に直接反応して動作するだけで、外界を構成する要素を感じることはできません。
      別の言い方をすれば、無意識システムは、外界が、複数の要素から構成されると解釈するシステムとなっていません。センサーで検知した条件に応じた反応をするだけのシステムです。

      以上は、あくまでも、僕が理解するクオリアですが、以上の説明から、反射を起こしている筋肉には、クオリアは生じ得ないと僕は考えます。
      クオリアが存在するには、外界の仮想世界を内部に構築し、それを観察するシステムが必要と考えられますので。仮想世界の材料がクオリアで、観察する主体が意識です。
      参考までに、僕がクオリアを直接体験した話を、「クオリア体験と僕が幽体離脱した話2」に書いてあります。
      クオリアのイメージの参考にしてください。

  4. レナルド より:

    でも無意識の領域でクオリアが発生している可能性は排除できませんよね。盲視の例ではその可能性を排除できそうにも思えますが、盲視患者が、普通の人が知覚できない微かな、何らかの異質な知覚を光点に対して感じているという報告もあります。これが正しいとすれば盲視患者が光点を正確に指せるのは、視覚以外のクオリアを感じ取って反応しているからです。或いは、盲視患者が無意識的に、普段の我々と比べると異質な方法でクオリアを感じ取っているからです。
    そして無意識的に、現象的にクオリアが発生しているとすれば、ライントレーサーにも主観、あるいは意識が発生する可能性を捨てきれません。そのあたりどうでしょうか。

    • 田方 篤志 田方 篤志 より:

      返信、ありがとうございます。
      意識やクオリアの話をするとき、問題となるのは、人によって定義が異なることです。
      サーモスタットにさえ意識が存在すると主張する研究者がいると聞きますので、ライントレーサーに主観や意識が発生するとの考えがあってもいいと思います。
      重要なのは、意識やクオリアの定義とか、何らかの軸となる考えだと思います。
      レオナルドさんの意見を見る限り、その点が明確になっていないようなので、うまく議論が噛み合わないのかもしれません。

      ちなみに、僕の場合、「『言語』によるコミュニケーションはいかにして可能か」という軸からすべて出発しています。
      その中で、頭の中に現実世界をシミュレートした仮想世界を構築するという心のモデルにたどり着きました。
      仮想世界を観察するのが意識です。
      重要なポイントは、仮想世界は、現実世界から「切り離されている」という点です。
      このような構造から、 主観やクオリアを生じざるを得なくなったと考えます。
      サーモスタットやライントレーサーは、現実世界に「直結」しているため、世界と調和しており、主観やクオリアを発明する必要がないと考えています。

  5. レナルド より:

    ようは、万人の人間が納得できるクオリアの定義、つまり科学的なクオリアの定義付けがまだできていないのでは?と言いたいんです。無意識下でクオリアが発生していないということさえ科学的に証明できてない。そこを抜かして、ハードプロブレムを解決したとするのは科学的に、哲学的に正しくないと言いたいです。

    • 田方 篤志 田方 篤志 より:

      お返事、ありがとうございます。
      意識やクオリアの難しいところは、今までの還元主義科学では扱うことができず、定義することすら困難なことにあります。
      このことに関しては、「チューリング・テストと心の仕組み」で詳しく説明しており、ここで、「心のエコシステム」という考えを提案しました。

      この考えを前提として、「意識の仮想世界仮説」という仮説を提案しました。
      これは、あくまでも仮説で、この説が正しいと証明するには、チューリング・テストに合格するシステムを作るしかありません。
      ロボマインド・プロジェクトは、このようなシステムを作ることを目指していますが、まだ完成していませんので、この仮説を証明したことにはなっていません。

      この点に関して、確かに、科学的には証明されていないので、レオナルドさんの指摘は正しいといえます。
      ただ、「意識のハードプロブレムが解決しましたが、何か?」という挑発的なブログタイトルは、いわゆる「釣り」タイトルで、ネット文化の文脈から意図を読み取っていただければと思います。
      少なくとも、「ネイチャー」や「サイエンス」に論文として投稿する場合には、タイトル最後の「何か?」は削除するでしょうね。

  6. より:

    この記事はどうかと思います。
    意識のハードプロブレムの解決につながるヒントは一切無いといってもよい内容です。

    主観的な意識体験、クオリアを客観的に観測する方法は今現在わからない、
    そして単に今わからないだけでなくて今後もわかりそうにない、
    という事実そのものを指したものが意識のハードプロブレムです。

    意識について仮説を立てるのは結構ですが、
    こうした仮説の是非を確かめる方法に検討がつかないことこそが、
    この問題のハードを冠する由来です。
    内部に仮想世界を構築し、人間と変わらないコミュニケーションが可能なシステムができたとして、
    そのシステムに主観的な意識があることを客観的にどう確かめるんでしょうか。

    ハードプロブレムは言ってしまえば、仮説を立ててもしょうがないよっていう問題です。
    そこへ仮説を立てましたと言われても当然話が先へ進むことはありません。

    • 田方 篤志 田方 篤志 より:

      コメント、ありがとうございます。
      意識科学の難しさに関しては、「チューリング・テストと心の仕組み」の記事で説明したとおり、従来の還元主義的な科学では検証できません。そこでチューリングが提案したのが、チューリング・テストではないかというのが僕の考えです。

      そのシステムに主観的な意識があることを客観的にどう確かめるんでしょうか。

      チューリング・テストの考えをさらに推し進めて提案したのが、先の記事で説明した「心のエコシステム」という考えです。
      話し相手に、主観的な意識があることを確かめることはできませんが、自分には、主観的な意識があると感じます。
      自分に主観的な意識があると感じる人(またはAI)が、互いにコミュニケーションを取るエコシステムを心のエコシステムとして考えます。
      そうして、互いにコミュニケーションを取り、相手にも自分と同等の心があると感じられれば、その相手にも主観的な意識があると信じるしかない。
      主観的な意識とは、こういった形でしか確認できないというのが「心のエコシステム」の考えです。

      ハードプロブレムは言ってしまえば、仮説を立ててもしょうがないよっていう問題です。

      この理屈が理解できません。
      「自分はこう考える」という意見は、仮説とみなせますが、ハードプロブレムに関しては、意見を述べるべきでないということでしょうか?

      一方、

      主観的な意識体験、クオリアを客観的に観測する方法は今現在わからない、
      そして単に今わからないだけでなくて今後もわかりそうにない、
      という事実そのものを指したものが意識のハードプロブレムです。

      とも述べられていることと合わせると、ハードプロブレムに関しては、誰も何も意見を言ってはいけないと読み取れるのですが、そういうことを言いたいのでしょうか?

  7. 山田河太郎 より:

    この記事は少しどうかと思います。
    意識のハードプロブレムについて誤解をされているようで、
    問題の解決に繋がるような内容は一切ない、
    そもそも話題が頓珍漢で全く言及されていないと言ってもよいです。

    主観的な意識体験、クオリアを客観的に観測する方法は今現在わからない、
    単に今わからないだけでなくて今後もわかりそうにない、
    という事実そのものを指したものが、意識のハードプロブレムです。

    意識についての仮説を述べるのは構いませんが、
    こうした仮説を確かめる方法が想像できないというところに
    ハードとされるこの問題の本質があります。

    仮に、内部に仮想世界を構築しながら人間と遜色ないコミュニケーションができるシステムが実現したとして、
    そのシステムに主観的な意識があることをどのように確かめるのでしょうか。
    そこを書いていただかないとなんの意味もありません。

    • 田方 篤志 田方 篤志 より:

      質問、ありがとうございます。

      仮に、内部に仮想世界を構築しながら人間と遜色ないコミュニケーションができるシステムが実現したとして、
      そのシステムに主観的な意識があることをどのように確かめるのでしょうか。

      この質問に関しては、上の枕さんへの回答を参考にしてください。

  8. 山田河太郎 より:

    ハードプロブレムでいう意識やクオリアの定義はそこまで曖昧なものではないです。
    少なくとも心のエコシステムとして説明されている概念とは異なります。

    • 田方 篤志 田方 篤志 より:

      それでは、その「ハードプロブレムでいう意識やクオリアの定義」をできるだけ厳密に説明していただけないでしょうか?

  9. 山田河太郎 より:

    申し訳ありません。枕のコメントも私が書き込んだものです。
    一方を削除していただいても構いません。

    >「自分はこう考える」という意見は、仮説とみなせますが、
    >ハードプロブレムに関しては、意見を述べるべきでないということでしょうか?

    すみません少し表現がよくありませんでした。
    ハードプロブレムに関する意見を述べることは問題ないと思いますが、
    この記事で紹介されている仮説「意識の仮想世界仮説」は
    ハードプロブレムよりも少し低次元に位置する問題についての仮説であって、
    そもそもハードプロブレムに対する仮説になっていないというところでしょうか。

    ハードプロブレムは平たく言えば「意識をどのように観測するか」という問題です。
    対して、仮想世界の考え方は単に「意識はどういう条件で生まれるのか」という問題に対する
    イージープロブレム的なレベルでの仮説です。
    意識の実体について仮説を立てるだけならば、もとよりいくらでも可能です。
    そうした仮説を検証する方法が想像できない、という問題が難しい問題とされているわけです。

    意識が生まれる過程はこの際どうでもよくて、
    では結果として意識が生まれているかどうか客観的にどう確かめることができそうかどうか。
    繰り返しになりますが現代の科学の方法では検討がつかないですよね、という問題がハードプロブレムです。
    そこまでいかないとハードプロブレムの話題にすらなりません。

    記事の内容では取り上げている問題がずれていて、
    ハードプロブレムに関して何も話されていないと指摘をさせていただいたところでした。

    >その相手にも主観的な意識があると信じるしかない。
    >主観的な意識とは、こういった形でしか確認できないというのが「心のエコシステム」の考えです。

    これは記事の内容とは違って確かにハードプロブレムについての意見だと思います。
    せめてこの辺の考えをこのタイトルの記事に掲載するべきです。

    ただこれもハードプロブレムの解決につながる有意な意見かといえば疑問に感じるところです。
    主観的な意識があると”信じるしかない”というレベルでは、観測できた、確認できたとは到底いえません。
    しかない、ということは、客観的に観測する手段はあなたも想定することができないわけですよね。
    この意見は、ハードプロブレムの難しさを改めて復唱しているばかりで、
    手の打ちようがない現状から前に進むことができていません。

    >それでは、その「ハードプロブレムでいう意識やクオリアの定義」をできるだけ厳密に説明していただけないでしょうか?

    他の記事も少し読ませていただきました。
    文章としては大変おもしろかったですが
    やはりクオリアや主観的体験というものについて誤解を孕んでいるような印象です。

    貴方の解釈は、記事の中に引用されているWikipediaの説明から
    既にずれているような気がいたします。
    Wikipediaとはいえ一応は確立された説明といえるでしょうから、
    まずご自身が引用されている文章を今一度よく確認してただくのがよいかと思います。

    その上で、私からも少しお伝えをさせていただきます。
    たとえば、ある人から、
    「あなたは赤がどんな色に見えているか」という問題を投げかけられたとします。
    これは件のハードプロブレムに相当するもので、解決できません。
    そんなことを言われても「赤は赤だよ」としか言いようがないですよね。
    「りんごの色」「情熱的な色」などと答えても、
    ではそれはどんな色に見えるかという問題に変わるだけです。
    実際にりんごを指差して「こいつの色だよ」と言えば、
    相手に対しても物理的には赤の波長を共有することが可能ですが、
    結局自分と相手で見え方が違うので伝わりません。

    この問題の中で、どうしても相手に伝えきれなかった部分、主観的な見え方、「感じ」がクオリアです。
    現状は自分以外の存在に伝えることもできませんし、
    自分以外の存在のクオリアを体験することもできません。
    さらには他人の知覚世界にクオリアが存在するかどうかもわかりませんし、
    逆に自分がクオリアを体験していることを証明することすらもできません。

    仮想世界のリンゴにデータとして関連付けたところで、
    外から見ればデータを処理しているという事実があるだけで、
    その事実をクオリアと呼ぶのは誤りです。
    脳も知覚の際には内部で信号を処理しているという話ですが、
    これも外から見れば存在するのは単なる信号のやりとりです。
    客観的には赤の刺激に対して赤と応答しているだけで、
    クオリアの存在を示しているわけではなく、
    その主観にクオリアが発生しているかどうかはわかりません。
    長くなってしまって恐縮ですがそういうものだと思います。

    • 田方 篤志 田方 篤志 より:

      丁寧な回答、ありがとうございます。
      これで、ようやく山田さんの言いたいことが理解できました。
      山田さんの言うハードプロブレムとは、意識やクオリアを、どうすれば「観察」できるかということですよね。
      残念ながら、その点に関しては、僕は答えを持ち合わせていません。

      ロボマインド・プロジェクトの目的は、意識や心をどうやって創り出すかということです。
      その過程で、ハードプロブレムに言及しただけで、意識やクオリアを観察することは目的にしておらず、意識やクオリアの観察の仕方については、当ブログにはこれ以上の記述はないので、あまりお役に立てないかと思います。
      個人的には、意識やクオリアを観察することは原理的に不可能だと思っています。
      なぜなら、意識やクオリアは主観を前提に成り立つ現象です。一方、観察とは客観を前提とし、主観を排除する行為だからです。
      つまり、主観を排除すれば、自ずと意識やクオリアは存在しなくなると考えます。

      意識やクオリアが観察不可能な点に関して、「脳を観察して心はどこまで解明できるか」で別の見方で説明しています。
      参考になるとすれば、このぐらいだと思います。
      どうぞよろしくお願いいたします。

  10. 山田河太郎 より:

    >個人的には、意識やクオリアを観察することは原理的に不可能だと思っています。
    >なぜなら、意識やクオリアは主観を前提に成り立つ現象です。
    >一方、観察とは客観を前提とし、主観を排除する行為だからです。

    まさにおっしゃるとおりです。
    主観を客観的に観測するというのは最早一種の矛盾であって原理的に不可能、
    だからこそハードプロブレムということですね。
    意識の仮想世界仮説でいう、意識を持っているかのように振舞うシステムを想像することは、
    ハードプロブレムの解決には全くつながらないわけです。
    ここをまずお伝えすることができたのであれば話は早いです。

    ハードプロブレムについては、ほんとうに「言及した」だけでしょうか。
    この記事は明らかに、意識の仮想世界仮説によってハードプロブレムを「解決することができた」
    という主旨の内容です。
    そのような理屈に到底無理があることはご理解いただけているはずですよね。
    此処は、この手の話題に関して学ぶことができるという側面の良さもあるでしょうから、
    「釣り」にしてもせめて誇張にとどめ、虚偽を掲載するべきではないと思います。
    意識、クオリア、ハードプロブレムの理解が浅いと捉えられても仕方のない内容ですから、
    貴方にとっても不利益になるんではないでしょうか。

    • 田方 篤志 田方 篤志 より:

      お返事、ありがとうございます。

      此処は、この手の話題に関して学ぶことができるという側面の良さもあるでしょうから、
      「釣り」にしてもせめて誇張にとどめ、虚偽を掲載するべきではないと思います。

      今回も、こうして大きな魚が釣れたのも、「意識のハードプロブレムが解決できましたが、何か?」という釣りタイトルのおかげですので、これを修正しては意味がないです。
      いずれにせよ、こちらの思惑どおりの反応をしていただいたおかげで、議論が深まりました。
      ありがとうございました。

  11. 田中太郎 より:

    大変興味深く読ませていただきました。
    しかしながら、AIが「熱」や「衝撃」や「弾力性」や「電磁波」を検出して認識することはできても、「熱い」や「痛い」や「ふわふわしてる」や「赤い」は感じていないと思います。つまり擬似的な意識っぽいものはつくれてもそれは本物の意識とはまったく別のものだと思います。

    • 田方 篤志 田方 篤志 より:

      田中太郎様

      コメントありがとうございます。

      「熱い」や「痛い」を感じるかの話は、クオリアの話になりますね。
      クオリアはかなり重要ですので、丁寧に説明したいと思います。

      クオリアは、意識が「熱い」や「痛い」と感じる感覚で、本人にしかわからず、客観的に確認することはできません。
      自分も相手も「赤い」といっても、同じ「赤さ」を感じているかはわかりません。
      言えるのは、同じ色を指して、自分も相手も「赤」と言っていれば、相手も自分と同じ「赤」を感じているのだろうということだけです。
      これが「赤」のクオリアです。
      逆に言えば、同じ赤色を指して「赤」と言えれば、AIであっても「赤」のクオリアを持っていると言えるわけです。

      クオリアは色だけではありません。
      形や温度、熱さ、痛さ、感情、・・・
      人の意識が認識するあらゆるものがクオリアです。
      人と同じように認識するAIロボットを作れば、そのAIはクオリアを感じているといえるのです。

      それでは、人と同じように認識するにはどうすればいいでしょう。

      光は電磁波です。眼は光を検知するセンサーです。
      目の前のテーブルを見ていたとします。
      意識は、目の前にテーブルがあって、それを見ていると感じますよね。
      でも、よく考えると、それって、おかしくないですか?

      センサーである眼にテーブルが映し出されているのですから、眼にテーブルが張り付いていると考えるのが普通じゃないでしょうか?
      でも、絶対にそんな風に感じることはないですよね。
      なぜ、そうならないのでしょう?

      それを解決するのが、僕が提案する「意識の仮想世界仮説」です。
      人間と同じように認識するAIロボットを作るとします。
      眼はカメラでできています。

      見るという経験は、その物の形、位置、色などを認識できることです。
      空間の中の形、位置情報は、3次元空間のXYZ座標で表現できます。
      色情報は、赤青緑の3原色で表現できます。
      見るという経験によって得られる情報は、3次元のコンピュータグラフィック(3DCG)で表現できる情報と同じなのです。

      そこで、眼のカメラで撮影した光景を3DCGで再構築し、3次元の仮想空間に配置します。
      こうすれば、色や形、位置といった情報を人間と同じように感じることができるのです。
      AIロボットの意識は、この仮想世界の情報を取得します。
      これが、AIロボットの意識が世界を認識するということです。
      AIロボットにとってクオリアとは、仮想世界の情報なのです。

      AIロボットは、テーブルを指して、形、位置、色を、人間と同じように説明することができます。
      これは、AIが、色や形、位置といったクオリアを持つのと同じと言えます。
      これで人間が見るという経験をAIでも再現できるのです。

      これが僕の提案する「意識の仮想世界仮説」です。

      仮想世界には自分自身の身体も含まれます。
      テーブルは、自分の前に配置されます。
      なので、眼にテーブルが張り付いたようには感じないのです。

      次は触覚です。
      手でテーブルを触ると、手に触れた感覚がします。

      「触れる」という感覚は、身体のどの位置が触れたかの情報で表現できます。
      位置情報は身体上の位置情報で表現できます。
      触れるは、触れたか、触れてないかの2値(ON/OFF)で表現できます。
      AIロボットの表面に多数の接触センサを設置し、そのセンサのON/OFFを仮想世界の自分の身体にマッピングすれば、触覚を表現できるのです。
      AIロボットの指先にテーブルが触れれば、仮想世界のAIロボットの指先の触覚がONとなり、AIロボットの意識は、指先に何かが触れたと感じるのです。
      これが触覚のクオリアです。

      次は「痛み」です。
      痛みのセンサーは痛覚です。
      手の甲をつねると痛みを感じます。
      強くつねると強く痛みます。
      痛みは、2値でなく大きさをもちます。
      痛みが大きくなれば、意識は大きな苦痛を感じます。

      色や位置と違って、「苦痛」は物理的なデータではないので測定できるものではありません。
      ですが、意識が感じるものとして定義することはできます。
      意識が感じるものとして「快」「不快」を定義します。
      意識は、「快」を求めて「不快」を避けます。
      「痛覚」センサーからのデータが大きくなると、意識は「不快」の度合いが大きくなるように構成されています。
      手の甲を強くつねられて「痛覚」センサーから大きなデータが送られてくると、意識は強い「苦痛」を感じます。
      「痛覚」センサーから送られてくるデータが「痛み」のクオリアです。
      意識は、「痛み」のクオリアを受け取ることができるように構成されているわけです。
      「痛み」のクオリアは、物理的なデータではありませんが、意識が感じることができるように定義されているものです。

      「苦痛」とは肉体的な「不快」で、意識は「苦痛」を感じると「苦痛」を取り除く行動を取ります。
      AIロボットの身体の表面に多数の痛覚センサーを設置します。
      AIロボットの手の甲を、田中さんがつねったとします。
      すると、AIロボットの意識は、仮想世界の自分の手の甲の位置に痛みを感じます。
      これが「痛み」のクオリアです。

      つねられたAIロボットは、「イテテテテ」と言って、苦痛から逃れるために仮想世界の手を引っ込めます。
      仮想世界の身体と現実世界の身体とは連動していて、意識が仮想世界の身体の手を引っ込めると、現実世界のAIロボットの手も引っ込められます。
      田中さんに手をつねられたAIロボットは、「イテテテテ」といって手を引っ込めるわけです。
      これを、AIの疑似的な意識っぽいものということは簡単です。

      でも、僕が田中さんに手をつねられると、僕も「イテテテテ」と言って手を引っ込めます。
      それでは、僕は本物の意識を持っていて、AIロボットは疑似的な意識をもっていると、どうやったら判断できるのでしょう。
      本物の意識と疑似的な意識の違いとは何でしょう?

      それを明確に指摘できないのであれば、これを意識と呼んで何が問題なのでしょうか?

      参考:「クオリア体験と僕が幽体離脱した話2

    • 中畑友宏 より:

       AIに「痛み」があるかを疑い、人間と違うと指摘するならば、
       人間に「痛み」があるかを疑って見てはどうですか。
       人間は「何か(おそらくは身体にとって不都合な影響が生じている状態)」を身体内部の神経(センサ)から感じ取り、その感覚(データ)を「痛み」と言う言語で定義します。
       「データA」=「痛み」だと。このように考えれば認識は正確には「痛み」ではありませんし、毎度同じ程度のものでもありません。

       クオリアの定義は知りませんが、その定義が不確かなことをいいことに他者にケチをつけるならば、まず自分の考える定義を定めるか定める努力をするべきです。というより他の人の定義にケチをつけるなら根拠が「わからないこと」である、というのは建設性がなく、哲学者としてはあまり好ましくないであろう「絶対的懐疑主義」の立場に当たります。
       
       人間にしても、一体なんという表現をしたら良いかわからずカテゴリエラーのような状況に陥ることはあります。高音のものに触れた時に「痛い」のか「熱い」のかわからないように。
       あるいは「too Hot」なのか「熱い」なのか。
       クオリアは認識と言語の合成物なのでしょうか? 私は詳しくないのでわかりかねますが、そうではないと思いたいです。

       であれば、厳密には人間も「痛み」を認識しているとは言えないのではないですか。私たちは「痛み」を認識しているのではなく、おそらくは一般的に「痛み」にカテゴリされるであろう「感覚」を受け取っているに過ぎないのではないでしょうか。

       もし、クオリアが言語に先立つ感覚(データ)なら、機械は人間の赤子同様、他の人間がどういう場合に「痛い」と言い、どういう場合に「熱」と言うのかを学べば、人間のように主観的にそのカテゴリを行えると思います。

    • 田方 篤志 田方 篤志 より:

      中畑様

      コメントありがとうございます。

      クオリアの定義は知りませんが、その定義が不確かなことをいいことに他者にケチをつけるならば、まず自分の考える定義を定めるか定める努力をするべきです。

      「ケチをつける」が、どの部分を指して言っているのかがちょっとわからないです。
      僕は、ケチをつけた気はないのですが、どこかの文章が、中畑さんにとって「ケチをつけてる」と感じたみたいですね。
      いずれにせよ、今回の中畑さんのコメントは、質問してるわけでもなく、僕が、何か回答すべき内容でもなさそうですね。
      ただ、思ったことを言いたいだけのようですので、言いたいことが言えて気が済んでくれればいいと思います。
       

  12. 中畑友宏 より:

     これは、すみません。
     どうやらサイトの形式を誤解しているようで、他の方のコメントに対しての意見のつもりでした。
     その方のコメントの下に「返信」があったので、その方のそのコメントへの返信として、処理されると思ったのですが、どうやら全て田方さんへのコメントとして処理されるようですね。
     御察しの通り、田方さんへのコメントではありませんので、お気になさらないでください。

     「感覚(データ)」でもなく、それに経験的に対応させる「言語」でもない、その中間のような、あるいはその両方のような「クオリア」というものをどう考えるべきかについて悩みながら書きました。

    • 田方 篤志 田方 篤志 より:

      中畑様

      すみません、こちらが勘違いしていましたようです。
      確かに、中畑さんのコメントは、田中太郎さんへの返信となっていました。
      全てのコメントは、管理者である僕のところにメールが来るので、つい、自分への返信だと思ってしまいました。

  13. Karat より:

    私が読んだ以下の二冊の書籍(読んでいたらすみません)
    意識の正体についての説明が書いてあるので引用します。
    ロボマインド・プロジェクトでお役に立てれば幸いです。

    松尾豊『人工知能は人間を超えるか』 (角川EPUB選書)

    >私の考えでは、特徴量を生成していく段階で思考する必要があり、その中で自分自身の状態を再帰的に認識すること、つまり自分が考えているということを自分でわかっているという「入れ子構造」が無限に続くこと、その際、それを「意識」と呼んでもいいような状態が出現するのではないかと思う。

    甘利俊一『脳・心・人工知能』 (ブルーバックス)

    >意識とは、自分がいま何をしようとしているかを自分で知っていることである。こう考えれば、コンピュータに意識を植え付けることは容易であろう。
    コンピュータのプログラムが走っているときに、これは何を計算しているか、その計算はどのような意義を持ち、どの程度重要なのか、いまどこまで計算が進み、次はどこへ行くのか、などを理解し監視するプログラムを付加しておけばよい。これは後付けの機能のように見える。
    このプログラムが問題ありと判定すれば、元のプログラムに介入し、その決定を変えることができる。

    あと、余談ですが気になることを質問です。
    このサイトの「採用情報」のページにある
    PCの前に座る田方さんの画像がありますけど
    なぜモニターが3台もあるのでしょうか(^^;)?
    3台ともWindows 10のデスクトップだし。
    マイクもありますけど、何に使っているのでしょうか?
    机の上の分厚い紙も気になります

    すみません。問題なければ教えて下さい。
    よろしくお願いします。

    • 田方 篤志 田方 篤志 より:

      Karat様

      コメントありがとうございます。
      松尾先生のこの本は、僕も読みましたよ。
      ディープラーニングについて、一番わかりやすく説明していて、かなり参考になりました。
      松尾先生といえばディープラーニングですが、意識とか汎用人工知能とか、その先の話になると、ちょっと物足りないですねぇ。
      「入れ子構造」が無限に続くと意識になるって、ちょっとイメージできないですし。

      甘利先生の本は、この本ではないですが、昔、読んだ記憶があります。
      意識が、「監視するプログラム」というのは、すごくよくわかります。
      僕の場合、これはシミュレーションすることで実現するようにしています。

      モニターが3台あるのは、開発するときは、いろんなウインドウを開くので、モニターは多いほうがいいもので。
      マイクは、リモートで働く社員とスカイプで連絡するときに使ってます。
       

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です