脳が言葉を理解するとは？　言語学最大の謎をLLMのアルゴリズムから解明する。

LLMの仕組み、調べれば調べるほど、これが言語そのものだと思えてきました。

LLMの核心はTransfomererです。

ただ、Transfomererは、膨大なベクトル演算で、一見しただけではなにがなんだかわかりません。

Transfomererの中身を知っている人も、やっていることは次にくる単語を予測しているだけと言います。
だから、LLMは単語を予測しているだけで意味など理解しないと言語学者は言います。

僕も、そう思っていました。
でも、違うんです。

脳のニューロンがやっていることも統計処理と言えます。
だから、脳は意味を理解してないとは言いませんよね。
でも、統計処理とか予測とかは一側面で、本質はそこじゃありません。

LLMの本質は、世界をいかにして認識するかです。
その視点でLLMのアルゴリズムを見ると、言語とはなにかが見えてきます。

この視点は言語学者からは絶対に生まれてきません。
同様にAI研究者も、LLMがやっていることは意味理解だとか、世界認識だといったことは見えてきません。

ほとんどの人が気が付いていないAIの本質をいろんな角度から掘り下げていきますよ。