“ディープラーニングは、なぜ、自然言語処理で失敗したのか” への9件のフィードバック

1. 与那嶺 より:

   素晴らしい。ディープラーニングによって色々な特徴が掴めてくれば、新しい概念や言葉も作られてきますね。動物との会話もできそうですね。

   返信
   • 田方 篤志 より:

     ありがとうございます。
     心のモデルが完成して、それにディープラーニングを適用すれば、さまざまな概念が見つかると思いますよ。

2. ロボットの心「マインドエンジン」をつくるロボマインド社が初の新規採用を開始！ – LoveTechMedia – ラブテックメディア より:

   […] わって、そればっかり責めますやん・・・ そんなん言うんやったら、そもそも、なんで、AIロボットなんか作ったんやって話になりますやん・・・」 https://robomind.co.jp/deeplearninghanazesippai/ […]

   返信
3. 通りすがり より:

   　５〜６年くらい前だと思うのですが、いっちょ面白い自然言語のインタプリタを有したデータベースを作ってやろうと思ったことがありました。AIの研究はかなり古典的なものなので、すでにライブラリがたくさん存在しているはずだから、それらを適当に組み合わせたらWebをクローリングして知識を収集し、それを組み合わせて回答を生成できるシステムなど簡単にできるだろうとおもったわけです。ところが、現実問題、自然言語の処理というのは思いの外大変で、結局は断念した。
   　この記事に限らず、ブログの中で何度かワトソンについて言及されていますが、当時僕が調べた限りでは、ワトソンの構造はいわゆる人工無脳とは全く違っているように思えます。
   　参考：https://www.ibm.com/blogs/solutions/jp-ja/watson-machinelearning-1/
   　別にIBMの肩を持つわけではないですが、この簡単な説明を見る限りでも、「メタデータ」と呼ばれるある種のオントロジーを持ったデータベースとなっているようです（新しい治療法の発見、レシピの生成、などの機能が実現できたのはこのためだと思われます）。ブログ主さんが、どの程度のシステムを開発しようと考えているのかはわかりませんが、いわゆるAIの分類としてはIBMワトソンにかなり近いように思われます（単語をベースとした、概念のデータベースを持ち、そこからパターンを抽出するというような構成）。ワーキングペーパーなども公開されているようなので、ちょっと読んで見たらいいのでは、と思います。
   　その頃僕が興味を持っていたシステムが他にもあります。下記のものです。
   　https://research.preferred.jp/2011/07/markov-logic/
   　これはAIというか処理系ですが、自然言語をベースとした推論を行う、という目的を考えるとかなり参考になりそうなものだと思います。述語論理ベースの推論システムというとかなりクラッシックな香りがしますが、インターネットから自動で知識を収集することで、「知識を人間がメンテしなければならない」という、初期のエキスパートシステムの問題点を解決しようとしているものもあり、個人的には頑張って欲しいなぁ（？）と思ったりもしています。
   　http://www.anthology.aclweb.org/D/D10/D10-1106.pdf
   　結局、普通の人がAIと聞いて思い浮かべるのは、「対話的に質問に答えてくれること」のような気がします（そういう映画を見て育った世代だからかもしれませんが）。確かに、「感情」や「共感」といった側面も必要かもしれませんが、単純な推論を行い、それについて説明することができる、というだけでも、自然言語をインターフェーイスとしたシステムとしては画期的で、感情や意識といった高次の機能は、収集した知識から「エミュレート」する形で実現するしかないんじゃないかなぁ、という気もします（コンピュータに意識を持たせるというのは、ざっくり言って無理なのでないかなぁ、というのが私の意見ということ）。
   　「ロボマインド・プロジェクト」これからどうなるのだろう？思ってしまうところもありますが、どうせ新しいことをするなら、目標は高い方がいいのかもしれませんね！ニューラルネットワークを応用した人工知能がAIブームを牽引しているように見えますが、自然言語をコンピューターに理解させる、というのはチューリングがチューリング・テストを提唱して以来の、見果てぬ夢なので、実現できたらすごいと思います！

   返信
   • 田方 篤志 より:

     通りすがりさん、コメントありがとうございます。

     コメントを読む限り、かなりＡＩに詳しい方のようですね。
     たしかに、おっしゃるようにワトソンは、単純な人工無脳と同じとは言い切れないところはあると思います。
     僕が取り組んでいるロボマインド・プロジェクトは、最終的な形態がワトソンのような対話プログラムに近い物なので、ワトソンと同じようなものと思われるのも無理がないかもしれません。
     また、技術的には、概念といったオントロジーを使っているもので、そう誤解されるのかもしれませんし、AIに詳しいと、エキスパートシステムと比較したくなるかもしれません。

     感情や意識といった高次の機能は、収集した知識から「エミュレート」する形で実現するしかないんじゃないかなぁ、という気もします（コンピュータに意識を持たせるというのは、ざっくり言って無理なのでないかなぁ、というのが私の意見ということ）

     そうなんですよね。
     ＡＩに詳しければ詳しいほど、「推論」「オントロジー」「エキスパートシステム」「人工無脳」といった今まであった知識のどれかに当てはめようとして、そのどれにも当てはまらないと、無理なんじゃないかなぁと思って、それ以上深く考えなくなるようです。

     僕が提唱している根本的な理論は、「意識の仮想世界仮説」で、これは、今までのＡＩとは全く異なるところから出発しています。
     表層に近い部分で、オントロジーを使っているので、ＡＩの知識のある人は、その部分しか見ない傾向があるようですが、メタデータのようなオントロジーなんかは、誰が考えてもそうなるわけで、僕にとっては、そんなとこは、正直、どうでもいい話なんですが。
     最も重要な「主観」だとか「意識」といった部分は、技術者の苦手な分野に属するようで、みなさん、スルーされます。
     逆に、哲学が好きなひとは、「主観」や「意識」に関するブログにコメントを寄せてくれます。

     もし、通りすがりさんが、ＡＩという枠を取り払って、本当に、コンピュータに意識を持たせる方法に興味があるなら、ぜひ、以下のブログを順に読んでみてください。

     ロボマインド・プロジェクトとは
     「ロボットの心」を作るってどういうこと？
     感情とは　認知パターンって何？
     チューリング・テストと心の仕組み（心のエコシステム）
     そもそも意識って何？人工知能で人工意識は作れるの？
     主観と客観
     ３次元空間を認識するってどういうこと？
     記憶って何？思い出ってどういうこと？
     時間は現実には存在しない。時間は幻想。
     意識の仮想世界仮説　－目の前に見えてる世界は全て幻想－
     意識をプログラムで作るには
     ロボマインド・プロジェクト　システム概要

     　
     通りすがりさんが、全く新しいアイデアを受け入れる勇気を持っていることを祈っています。
     　

4. karat より:

   『人工知能は人間を超えるか』のディープラーニングからの技術進展で
   ディープラーニングが以下のように進歩すると予測されています。
   これが実現できれば失敗とは言えないのでは？
   いかがでしょうか？

   ①画像特徴の抽象化ができる Ａ Ｉ → ②マルチモ ーダルな抽象化ができる Ａ Ｉ

   ③行動と結果の抽象化ができる Ａ Ｉ

   ④行動を通じた特徴量を獲得できる Ａ Ｉ

   ⑤言語理解 ・自動翻訳ができる Ａ Ｉ

   ⑥知識獲得ができる Ａ Ｉ

   返信
   • 田方 篤志 より:

     karat様

     コメントありがとうございます。
     記事のタイトルの「ディープラーニングは、なぜ、自然言語処理で失敗したのか」は、いわゆる「釣りタイトル」で、本気で失敗したと主張したいわけではないです＾＾;
     ディープラーニングで意味理解ができるようになれば、そりゃ、すごいと思いますよ。

     ＡＩは大きくコネクショニズムと記号主義に分かれて、ディープラーニングはコネクショニズムに属して、僕の手法は、どちらかと言うと記号主義に属します。
     ディープラーニングが得意なのは、大量のデータから最適解を求めることですが、最適解となるルール自体はディープラーニングで作り出すことはできません。
     画像認識で、ネコや犬を認識できるようになっても、２次元画像からネコや犬の３次元を生成することは、そのルールを教えない限り、いくら大量のデータを与えても、自動でできるようにはなりません。
     ルールはあくまでも人間が考えて与えないとできません。
     ルールを作るのが記号主義となるわけです。

     大雑把なルールが完成すれば、次は、大量のデータを与えて自動で最適化するというのが、ＡＩの流れになると思います。
     この辺りのことは、「『教えて！いろはちゃん』全文掲載」で分かりやすく説明してますので、ぜひ、読んでみてください＾＾
     　

5. karat より:

   >ディープラーニングで意味理解ができるようになれば、そりゃ、すごいと思いますよ。

   もし、意味理解ができるまでになれば
   そのAIは意識を持っているのでしょうか？
   ディープラーニングだけで意識は作り出せますか？
   このディープラーニングモデルには仮想世界のモデルは持っているのでしょうか？

   返信
   • 田方 篤志 より:

     karat様

     コメント、ありがとうございます。
     「意識」というのは、人によって定義すら変わってくるものでして、意識の話をする場合はそこを気に掛ける必要があります。
     意識科学の分野でいう意識は、眠っている間はなく、起きている間にある意識を指して、人間だけでなく、動物にもあるものを指しているようです。
     ＩＩＴなどで使ってるのは、この意味での意識ですね。
     僕の言う意識は、もっと限定されたもので、人間のみが持ちうるものを指してます。
     具体的には、言語を使える能力があるものを意識と呼んでいます。
     そこで、言葉の意味理解ができるなら、僕のいう意識は備えていると考えます。

     ディープラーニングで学習させるには、学習するモデルが先に合って、そのモデル内で最適なパラメータを学習させるわけです。
     今のところ、ディープラーニングで学習させるモデルに、仮想世界のモデルは聞いたことはないです。

     ディープラーニングを使った自然言語処理では、概念を使って言葉をまとめたりましています。
     後は、文章の一部の単語を隠して、それを予想させるといった学習を繰り返すといったことをやっているみたいですね。
     隠された単語を当てるゲームで、人間に勝ったことで人間より意味理解ができるようになったと言っているようですが、それで意味理解できてるというのは、ちょっと早計じゃないかと思いますよね＾＾;