●「身体的経験」をもたないAI
―― 二つ目にお聞きしたいのが、さきほども少し話に出ましたが、「AIが意味を理解しているのかどうか」についてです。この点を深掘りしてお聞きしたいのですが、先生はいかがお考えですか。
西垣 まず、「意味とは何か」ということが問われてきます。私がコンピュータエンジニアをしていた1970年代や80年代の頃から、AIが意味を理解できないということは本質的な限界であると指摘されていました。これに反論することはやはり難しかったのです。
先ほど出た話にもあるように、事実に反することを言うのは、意味を理解していないことの証拠として考えられます。例えば、徳川家康が20世紀に生きていたというような誤りに対しては、AIはチェックできるのです。ここは微妙でもう少し深い話になります。
というのは、何を言っているかというと、意味を理解していないという批判に対して、AIの専門家やIT技術者の中から、「(AIは)それなりに意味分析も行っていますよ」という答えも出てくるわけです。
どういうことかというと、例えば、徳川家康という人物について、彼が政治家であり、何世紀に生きた人物であり、江戸幕府を作った人物であるといった事実を分析してデータベースに入れていくことができます。そうなると、家康が現代に生きているという出力はダメだと排除できることになる。
これは意味分析であって、AIもそういうレベルで、つまり、表面的ないし形式的な、いわゆる事実に反するか否かの意味分析は可能です。これは大事なことです。「そういう攻め方で全部分かる」というのが、いわゆるAI楽観派です。
これに基づくと、「意味分析もやっているし、世界の事実をきちんと分析して、構造化したデータがあるのだから、そういうやり方を改善していけば、おそらく人間と同じような判断ができるはずだ」と主張する人たちもいます。これも大事な点です。
しかし、その一方で、まったく異なる意見もあります。例えば、言葉の問題からいえば、ChatGPTも「言葉の訓練」を受けています。
―― 言葉の訓練ですか。
西垣 そう、訓練。ChatGPTというのは、Chatが会話を意味し、GPTは「Generative Pre-trained Transformer」の略です。Generativeというのは言葉を生成する、作り出すという意味ですね。Pre-trainedというのは、前もって訓練されたということを指します。つまり、言葉を学習し、訓練されているということです。
私は、この(ChatGPTの)学習の仕方が、人間の言葉の学習の仕方と異なるのではないかと、強調したいのです。
実は私にも孫がいまして、まだ小さな頃からだんだん幼稚園に行くというプロセスを見ていると、文法を勉強しているようには見えません。
―― そうですね。おっしゃる通りです。
西垣 熟語や語順なんて勉強していないにもかかわらず、生活の中でお母さんからさまざまなこと、例えば「ダメだ」と言われたり、「面白い?」と聞かれると「うん」と答えたりしながら、徐々に「母語」を覚えていきます。「Mother tongue」ですね。
―― はい。
西垣 全世界、どんな子どもも、そのように「母語」を学んでいきます。これは「第一言語習得」といわれます。第一言語というのは「母語」のことで、こうした言葉の勉強の仕方、あるいは言語訓練の仕方がある。生活や体験の中で、意味を体で覚えていくわけです。
ところが、私の場合、今の学生さんたちと違って、中学生になるまで日本語しかできなかったし、中学、高校では受験のため英語を勉強しました。これは、はっきりいうと文法や語彙、語順、熟語などを形式的に覚えていくわけで、「第二言語習得」といわれます。
この勉強の仕方は、データや文章の用例に基づいています。例えば、“I am a boy.”という文章について、実際には顔を見れば分かるわけですから、そんなことを言う必要はないのですが、このような、(ある意味)無意味な文章例を形式的に覚えていくわけです。
私は、このやり方とChatGPTが受けるトレーニングが同じだと考えています。
―― なるほど。
西垣 つまり、「AIは第二言語学習と同じ学習のやり方」をしているのです。しかし、その学習速度は非常に速く、大量のデータをあっという間に学習してしまいます。
でも、われわれが第二言語(英語、フランス語、ドイツ語など)を勉強するときは、まず母語の知識と照らし合わせながら覚えていきます。そこに文法という知識を組み合わせて、第二言語学習をしていくわけです。ところが、AIは「母語」を持っていません。
―― なるほど。自分の経験に立脚したものがないわけですね。
西垣 そう、何もないわけです。身体的経験を持っていないですから。
だから、(ChatGPTは)私の孫のような言語能力を持っていません。ただ...