≪全文≫

●概念の学習と「記号接地」

――　そのようなお話も非常に多々、このご本（『学力喪失』）の中にはご紹介されていますけれど、もう1つ最後に興味深かったのは、いわゆるAIですね。

　人工知能、特に大規模言語モデルというところで、あたかも分かったような文章が返ってくるというところで、コンピュータもここまで考えられるようになったのかと、ついつい思ってしまいがちです。先生がご本を書いた時点では、例えばAIに2分の1と3分の1のどちらが大きいですかと問題を与えたところ間違えてしまっているということですね。

今井　はい。

――　これは、私もやってみたところ、今は直っているようですけれど、そういう事例を見ていくと、本当に理解しているのかどうかというのが非常に危うい気持ちになってきますね。

今井　そうですね。「ハルシネーション」という、しれっと間違えるという問題はすごく大きいですね。

　実は人間には「流暢性バイアス」というものがあって、あからさまに間違ったことを言われても、すごく流暢に言われると信じてしまうというバイアスもあるのです。なので、気をつけなくてはいけないというところはあるのですけれど、ハルシネーション自体はなくなることはないと思います。学習が進めば少なくはなるとは思うけれど、なくなることはないので、（だから）すごく気をつけなくてはいけないと思います。

　でも、それ以上に大事な、AIと人の違いでいちばん大きなところは、「記号接地」をしているかどうかということなのです。

　「記号接地」という言葉、ここまでも何回か使っていますが、記号接地という言葉をご存じない方は多いと思うので、改めて少しだけお話しさせていただきます。

　記号接地という言葉は、もともと1990年、今のような生成AIができるはるか昔なのですが、そのときに、当時の人工知能というのは、定義として記号の意味を人間が与えて、その意味を与えられた記号をどのように操作して問題解決をしていくとコンピュータが問題解決をする（のか）というような（ことで）、それが人工知能の研究の主流だったのです。

　そのときに、人が意味を与えた記号をただ操作するということに意味があるのか。特に言語を学習するというと...