テンミニッツTV|有識者による1話10分のオンライン講義
ログイン 会員登録 テンミニッツTVとは
テンミニッツTVは、有識者の生の声を10分間で伝える新しい教養動画メディアです。
すでにご登録済みの方は
このエントリーをはてなブックマークに追加

ChatGPTは考えてない?…「AIの回答」の本質とは

ChatGPT~AIと人間の未来(1)ChatGPTは何ができて、何ができないか

西垣通
東京大学名誉教授
情報・テキスト
オープンAI(マイクロソフト)の「ChatGPT」やグーグルの「Bard」は、“対話型の生成AI”と呼ばれ、私たちの質問に対して分かりやすい文章で答えてくれる。一見すると、ChatGPTも「考えて」答えを返してきているように見える。しかし、西垣通氏は、「ChatGPTは考えているとはいえない」と指摘する。普通、人間が考えるときには「意味に基づいて考える」が、ChatGPTの技術を支えるのは「パターン認識」なのである。大量のパターンを統計的に処理して、いかにも自然な文章を出力する。そのため、よくある一般的な質問にはうまく答えられるが、データが不足している個人的な質問にはなかなか答えが出てこない。それはなぜなのか。鍵となるのは「身体的経験」である。(全8話中第1話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:15:59
収録日:2023/03/15
追加日:2023/05/18
タグ:
キーワード:
≪全文≫

●最近話題の「ChatGPT」は検索とは全然違う


―― 皆さま、こんにちは。本日は、西垣通先生に“AIと人間の未来~「ChatGPT」的技術と「超デジタル世界」のゆくえ”というテーマでお話をいただきたいと思っております。西垣先生、どうぞよろしくお願いいたします。

西垣 よろしくお願いします。

―― 最近、ChatGPTが大変話題になってきていますね。

西垣 そうですね。すごいですね。大人気です(笑)。

―― 大人気ですが、実際にどのようなものなのかをご存じない方もいらっしゃるかもしれません。そこで、まず画面をお見せしたいと思います。

 今、映っているのがChatGPTの画面です。ここに「世界を変えた経済学者を3人教えてください」という質問を入力してみましょう。すると、アダム・スミス、ケインズ、ハイエクという回答が得られました。ハイエクは少し長めに説明されていますね。このように、さまざまな質問に対して答えが得られます。「もっと教えて」などと入力すると、さらに詳しい情報が示されます。

 基本的なことからお聞かせいただきたいのですが、これは従来の「検索」とは異なるということでよろしいのでしょうか。

西垣 普通、「検索」といいますと、キーワードを入れて、エンターを押すと結果が一覧として表示されるという形式ですね。それに対して、ChatGPTはまるで普通の人間に聞くかのような感覚で尋ねることができ、先生が書いたような文章が回答として得られます。これは今までの検索とは全然違うものだと思います。

―― そうですね。ChatGPTは、質問者が「400字で答えて」とか「300字で答えて」と指定するとその通りに答えるので、大学の先生の中には学生が講義の課題などに使うと問題があるのではないかと懸念されている方もいるようです。

 ChatGPTは正確な答えを出すこともあれば、個人的な質問に対しては全く的はずれな回答が示されることもあります。今、皆さんがいろいろと試してみている段階だと思いますが、ChatGPTには何ができて、何ができないのでしょうか。

西垣 「世界を変えた経済学者」のような一般的な質問に対しては、割と上手に回答します。今回の「アダム・スミス、ケインズ、ハイエク」という答えに対して、全然間違っているという人は誰もいないですよね。

―― はい。

西垣 ただ、例えば「ハイエクだけでいいのか?」というような疑問に対して、もう一歩踏み込んで「自由主義的な経済というと、フリードマンもいるし、その違いはどこですか?」と、だんだん深い質問をしていくと、ChatGPTが簡単に答えられるかどうか。それなりに答えたとしても、専門の先生からすると「えっ何だ? これは基本的なことが分かっていないな」というような答えが出てくる可能性はあります。


●ChatGPTはパターン認識を行っている


―― 見ていると、こうした形(ChatGPTが出力する回答)で出てくるので、自ら考えて答えを導き出しているような感覚になるのですが、実際にはどういう技術なのでしょうか。

西垣 今、考えているとおっしゃいましたが、普通、人間が考えるときには意味に基づいて考えることになります。先ほどの例では、経済学者のハイエクやフリードマンの理論の意味内容について一生懸命考えているわけですね。ですが、率直にいって、ChatGPTが人間と同じように「考えている」とはいえないと思います。

―― なるほど。

西垣 人間が考えるときには、単にデータを形式的に組み合わせるのではなく、言葉の意味や論理、知識を用いて、より深い、一つのモデルのようなものを考えています。大学の先生などはこのような深い思考を学生に求めているわけですね。それに対して、ChatGPTが何をしているのかというと、基本的にはパターン認識を行っています。

―― パターン認識ですか。

西垣 ええ。パターンというと、普通は画像や映像のパターン、人間の顔のパターンなどが思い浮かびますが、それとは別に文字列のパターンというものもあります。先ほど出力された回答も、AIから見れば一つの文字列でしかありません。このようなパターンが山のようにデータとしてあるわけです。それを上手に組み合わせて、いかにもありそうな答えを出すことができますが、その組み合わせ方は統計処理に基づいています。これは、大学の先生や学生が論理に基づいて考えるのとは、やはり違います。

―― 人間の場合、例として挙げた経済学者だと、アダム・スミスはどう良かった、悪かった、ケインズはどうだ、といったように評価をするわけですね。その評価に基づいて、その先生ならではの見解で3人を選ぶことになる。一方、この(ChatGPT)の場合だと、統計処理を行うということでしたが、それは「世界を変えた経済学者3人」というキーワードから出てきそう...
テキスト全文を読む
(1カ月無料で登録)
会員登録すると資料をご覧いただくことができます。