生成AI・大規模言語モデルのしくみ
この講義は登録不要無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
5,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
「科学と技術」でまず見るべき講義シリーズ
断熱から考える一年中快適で健康な住環境(1)日本の住宅の実態と問題点
なぜ日本は夏暑く、冬寒いのか…断熱から考える住宅の問題
前真之
進化生物学から見た「宗教の起源」(1)宗教の起源とトランス状態
私たちにはなぜ宗教が必要だったのか…脳の働きから考える
長谷川眞理子
水から考える「持続可能」な未来(1)気候変動の現在地
最悪10メートル以上海面上昇…将来に禍根残す温暖化の影響
沖大幹
ブラックホールとは何か(1)私たちが住む銀河系
太陽系は銀河系の中で塵のように小さな存在でしかない
岡朋治
本当によくわかる「量子コンピュータ入門」(1)量子コンピュータとは何か
「量子コンピュータ」はどういうもので、何に使えるのか
武田俊太郎
知能と進化(1)知性と身体性
AI、ディープラーニングとは…知能と身体性は不可分か?
長谷川眞理子

人気の講義ランキングTOP10
戦争と暗殺~米国内戦の予兆と構造転換(2)戦争省とチャーリー・カーク暗殺事件
チャーリー・カーク暗殺事件とは?その真相と政権への影響
東秀敏
編集部ラジオ2025(26)ソニー流!多角化経営と人材論
ソニー流「人材の活かし方」「多角化経営の秘密」を学ぶ
テンミニッツ・アカデミー編集部
徳と仏教の人生論(1)経営者の条件と50年間悩み続けた命題
宇宙の理法――松下幸之助からの命題が50年後に解けた理由
田口佳史
何回説明しても伝わらない問題と認知科学(1)「スキーマ」問題と認知の仕組み
なぜ「何回説明しても伝わらない」のか?鍵は認知の仕組み
今井むつみ
組織心理学~「不満」を生かす(1)不満・相談・予防
職場への不満は6割以上~ポイントは隠蔽、心理的安全性…
山浦一保
エンタテインメントビジネスと人的資本経営(1)ソニー流の多角化経営の真髄
ソニー流「多角化経営」と「人的資本経営」の成功法とは?
水野道訓
習近平中国の真実…米中関係・台湾問題(7)不動産暴落と企業倒産の内実
不動産暴落、大企業倒産危機…中国経済の苦境の実態とは?
垂秀夫
経験学習を促すリーダーシップ(4)成功を振り返り、強みを伸ばす
なぜ強みが大事なのか?ドラッカー、西田幾多郎の答えは
松尾睦
クーデターの条件~台湾を事例に考える(1)クーデターとは何か
台湾でクーデターは起きるのか?想定シナリオとその可能性
上杉勇司
学力喪失の危機~言語習得と理解の本質(1)数が理解できない子どもたち
なぜ算数が苦手な子どもが多いのか?学力喪失の真相に迫る
今井むつみ