●「分かる」こととは何か
柳川 松尾さんが言われていることがもう1つあります。人に説明をすることについてです。単純に自分が分かるか分からないかだけではなく、何かを人に説明して、なんだかうまく言えなくとも、「この人は良い」と思うから、あるいは「このやり方がダメだ」と思うから判断するということがあるとおっしゃいました。やはり説明するということと、自分が「分かる」「腑に落ちる」ということは、次元の違うものです。
そうなると、多数パラメータで何かが決まっている、あるいは無限のパラメータ全体のなかで、「一応こういう関係になっている」と相手に伝えたとして、果たしてその情報が正しく伝わるのかというと、実は少し難しい問題です。「分かる」ということについて発想を転換し、定義を変えれば良いのかもしれないのですが、人に説明をしてその情報が伝わるためには、ある種のパラメータの選択を行わなければなりません。そうしないと、今の人間のコミュニケーション能力では難しい（情報が伝わらない）からです。このあたりが、よく「AIはブラックボックスだ」といわれることと関係しているように思います。
●「分かる」とは手続き的に再現可能であるということ
松尾 今の2つの話（前回の話と上の話）は、実は同じなのかもしれないと思っています。なぜかというと、僕は「分かる」ということを、記号処理系と知覚運動系に分けています。僕の仮説は、人間の知能は2階建て構造をしているのではないかというものです。
特に記号処理系にとって「分かる」とは、基本的には手続き的に再現可能であるということとほぼイコールです。なんらかの初期状態を設定して、そこからアクションの系列、手続きの系列にしていって、何か最終状態が得られたというときに、「ああ、これは分かった」と人が感じる場合が多いと思います。例えば、数式の証明や法律の文書などがそうです。必ず前提条件や何かの初期条件が明示されて、そこからだんだん変化があって、結果的に必ず同じ状態（メンタル面も含め）にたどりつくというものです。
これは、映画を見るときも、小説を読むときも同様です。つまり、人間が「分かる」ということは、多数パラメータのモデルを手続き的に分解して、そのままでは理解できない大量のデータを、常識的な範囲内での手続きの系列にしてしまうということなのです。これによって、「そういうことね」と納得できます。逆にそうなっていれば、人に伝えることができるということじゃないかなと。
そのため、多数パラメータでも、例えばあるfor文（繰り返し処理に用いられる文のこと）のようなものがあり、それを100回繰り返すとします。「この処理を100回繰り返すんだ」と言われると、結果的に得られるモデルのパラメータが1万になろうが、1億になろうが、「ああ、これを100回なのね。おお、分かった、分かった」という気がしますよね。結局、系列にしてしまえると、人間は分かった気になるということではないかと思います。
●自然言語は人と「分かる」を共有できる
柳川 それはおっしゃる通りですね。私が先ほど言った時には、分かった気にさせる手法として、自然言語を想定していました。その限界が、おそらくあるのではないかということです。例えば、ある映画について「この映画、すごく良かった」ということを人に伝えようとします。そのときには、映画の良かった要因を、先ほどのように代表的なパラメータとして抽出し、「あのストーリーがすごく感動的だったんだよ」とか「この男優さんのあの演技が素晴らしかった。だからこの映画、良かったんだよ」と伝えるしかありません。そうすると、われわれが持っている言語技術では、映画の良さに関する全てのパラメータを相手にうまく伝えることはできません。だから、俳優やストーリーのような代表的なパラメータを選び、言語として伝えざるを得ない。言葉によって文章で書くと、もっとたくさん書けるのですが、そこでもやはり無限のパラメータを文章で全て記述することはできません。
ところが、「一緒にこの映画を見てね」と言われれば、多くの言語を介さなくても伝えられるので、その時点では共有できる。そして、その部分も含めれば、「いいでしょ」「分かるでしょ」ということが可能になるということですよね。
●日本語の言語構造は前提条件の共有に向いている
松尾 例えば、よく「現地現物」というじゃないですか。「やはり現場に行って物を見ないと分からないよね」という考え方は、日本の製造業における1つの文化です。それはとても正しくて、見ることによって前提条件を共有でき、そこから会話が始まります。前提条件を共有した上で、次に系列によって知識を伝達するというのが、人間のやり方です。
しかし、多くの場合、前提条件の共...
