第2話では、「AIが意味を理解しているのかどうか」を、深掘りしていく。そもそも「意味」とは何だろうか。AI研究者からは、「AIはそれなりに意味分析も行なっている」という声も挙がる。しかし西垣氏は、人間とAIとでは、言語の学び方も全然違うと指摘する。人間はまず、乳幼児期からの身体的経験に基づいて「母語（＝第一言語）」を習得していく。言葉の意味を想像する力は、「生きてきた母語の世界」と深く結びついている。一方、青少年期以降に「第二言語」を学ぶときは、ある意味で機械的・形式的に学習していく。それでも、「母語」の世界と結びつけながら、意味を理解していく。だがAIは、機械的・形式的に言葉を学びながら、それを結びつける「母語」を持たない。身体的経験がないからだ。そのことが、いかなる違いや悲劇を生んでしまうのか。（全8話中第2話）
※インタビュアー：川上達史（テンミニッツTV編集長）
ChatGPT～AIと人間の未来
この講義の続きはもちろん、
6,000本以上の動画を好きなだけ見られる。
アウシュヴィッツの悲劇をAIは理解できるか…母語の有無
ChatGPT～AIと人間の未来（2）AIは意味を理解しているのか
西垣通（東京大学名誉教授）
時間：11分53秒
収録日：2023年3月15日
追加日：2023年5月25日
収録日：2023年3月15日
追加日：2023年5月25日
カテゴリー：
≪全文≫
●「身体的経験」をもたないAI
―― 二つ目にお聞きしたいのが、さきほども少し話に出ましたが、「AIが意味を理解しているのかどうか」についてです。この点を深掘りしてお聞きしたいのですが、先生はいかがお考えですか。
西垣 まず、「意味とは何か」ということが問われてきます。私がコンピュータエンジニアをしていた1970年代や80年代の頃から、AIが意味を理解できないということは本質的な限界であると指摘されていました。これに反論することはやはり難しかったのです。
先ほど出た話にもあるように、事実に反することを言うのは、意味を理解していないことの証拠として考えられます。例えば、徳川家康が20世紀に生きていたというような誤りに対しては、AIはチェックできるのです。ここは微妙でもう少し深い話になります。
というのは、何を言っているかというと、意味を理解していないという批判に対して、AIの専門家やIT技術者の中から、「（AIは）それなりに意味分析も行っていますよ」という答えも出てくるわけです。
どういうことかというと、例えば、徳川家康という人物について、彼が政治家であり、何世紀に生きた人物であり、江戸幕府を作った人物であるといった事実を分析してデータベースに入れていくことができます。そうなると、家康が現代に生きているという出力はダメだと排除できることになる。
これは意味分析であって、AIもそういうレベルで、つまり、表面的ないし形式的な、いわゆる事実に反するか否かの意味分析は可能です。これは大事なことです。「そういう攻め方で全部分かる」というのが、いわゆるAI楽観派です。
これに基づくと、「意味分析もやっているし、世界の事実をきちんと分析して、構造化したデータがあるのだから、そういうやり方を改善していけば、おそらく人間と同じような判断ができるはずだ」と主張する人たちもいます。これも大事な点です。
しかし、その一方で、まったく異なる意見もあります。例えば、言葉の問題からいえば、ChatGPTも「言葉の訓練」を受けています。
―― 言葉の訓練ですか。
西垣 そう、訓練。ChatGPTというのは、Chatが会話を意味し、GPTは「Generative Pre-trained Transformer」の略です。Generativeというのは言葉を生成する、作り出すという意味ですね。Pre-trainedというのは、前もって訓練されたということを指します。...
●「身体的経験」をもたないAI
―― 二つ目にお聞きしたいのが、さきほども少し話に出ましたが、「AIが意味を理解しているのかどうか」についてです。この点を深掘りしてお聞きしたいのですが、先生はいかがお考えですか。
西垣 まず、「意味とは何か」ということが問われてきます。私がコンピュータエンジニアをしていた1970年代や80年代の頃から、AIが意味を理解できないということは本質的な限界であると指摘されていました。これに反論することはやはり難しかったのです。
先ほど出た話にもあるように、事実に反することを言うのは、意味を理解していないことの証拠として考えられます。例えば、徳川家康が20世紀に生きていたというような誤りに対しては、AIはチェックできるのです。ここは微妙でもう少し深い話になります。
というのは、何を言っているかというと、意味を理解していないという批判に対して、AIの専門家やIT技術者の中から、「（AIは）それなりに意味分析も行っていますよ」という答えも出てくるわけです。
どういうことかというと、例えば、徳川家康という人物について、彼が政治家であり、何世紀に生きた人物であり、江戸幕府を作った人物であるといった事実を分析してデータベースに入れていくことができます。そうなると、家康が現代に生きているという出力はダメだと排除できることになる。
これは意味分析であって、AIもそういうレベルで、つまり、表面的ないし形式的な、いわゆる事実に反するか否かの意味分析は可能です。これは大事なことです。「そういう攻め方で全部分かる」というのが、いわゆるAI楽観派です。
これに基づくと、「意味分析もやっているし、世界の事実をきちんと分析して、構造化したデータがあるのだから、そういうやり方を改善していけば、おそらく人間と同じような判断ができるはずだ」と主張する人たちもいます。これも大事な点です。
しかし、その一方で、まったく異なる意見もあります。例えば、言葉の問題からいえば、ChatGPTも「言葉の訓練」を受けています。
―― 言葉の訓練ですか。
西垣 そう、訓練。ChatGPTというのは、Chatが会話を意味し、GPTは「Generative Pre-trained Transformer」の略です。Generativeというのは言葉を生成する、作り出すという意味ですね。Pre-trainedというのは、前もって訓練されたということを指します。...
