生成AI・大規模言語モデルのしくみ
この講義は登録不要で無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
6,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
(会員の方に広告は表示されません)
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
(会員の方に広告は表示されません)
「科学と技術」でまず見るべき講義シリーズ
現在の宇宙の姿(1)星はなぜ自ら輝くのか
星はなぜ自ら輝くのか…宇宙と銀河の「現在の姿」を概観する
岡村定矩
本当によくわかる「量子コンピュータ入門」(1)量子コンピュータとは何か
「量子コンピュータ」はどういうもので、何に使えるのか
武田俊太郎
心と感情の進化(1)そもそも「心と感情」とは何なのか
「心と感情」とは何か、行動生態学から考える大事な問題
長谷川眞理子
社会はAIでいかに読み解けるのか(1)経済学理論の役割
AIやディープラーニングによって社会分析の方法が変わる
柳川範之
ブラックホールとは何か(1)私たちが住む銀河系
太陽系は銀河系の中で塵のように小さな存在でしかない
岡朋治
巨大地震予知の現在地と私たちにできること(1)地震予知研究と前兆すべり
地震予知に挑む!確かな前兆現象を捉える画期的手法とは
梅野健

人気の講義ランキングTOP10
高齢者のフレイル・認知症とその予防対策(1)老年病科と高齢者の疾患・病態の特徴
頻尿、低栄養、転倒、誤嚥、フレイル…増える老年症候群と高齢者の疾患・病態の特徴
小川純人
「満洲」から考える日本とアジア(7)シベリア出兵と張作霖爆殺事件
軍閥割拠の中国は魑魅魍魎の世界…列強やコミンテルンの思惑も絡む中で翻弄される日本と張作霖爆殺事件の謎
宮脇淳子
編集部ラジオ2026(34)『オデュッセイア』の秘密と愉しみ
【10min解説】大ヒット映画『オデュッセイア』がもっと楽しくなる神話講義
テンミニッツ・アカデミー編集部
『オデュッセイア』で読み解く神話の秘密(1)物語の構造を読み解くおもしろさ
『オデュッセイア』の面白さの秘密を神話の構造から読み解く…なぜ波乱万丈の神話が人間の創作の源泉になったか
松村一男
仏教とキリスト教が照らし出す日本の宗教(2)教義の宗教と覚りの宗教
キリスト教は教義の宗教、仏教は覚りの宗教…仏教はなぜ普遍宗教か
橋爪大三郎
習近平中国の真実…米中関係・台湾問題(5)恐るべき台湾への「浸透」
浸透工作…台湾でスパイ裁判が約70件、それも氷山の一角
垂秀夫
禅とは何か~禅と仏教の心(1)アメリカの禅と日本の禅
「禅とは何か」藤田一照師が禅と仏教の心を説く…自発性を重んじる
藤田一照
ピアノでたどる西洋音楽史(1)ヴィヴァルディとバッハ
クラシック音楽の歴史をピアノ演奏で辿る~ヴィヴァルディ四季
野本由紀夫
中国春秋戦国時代と始皇帝(序)映画『キングダム』の中国史監修
中国古代史の真実と『キングダム』…史実がわかれば物語はもっと面白い
鶴間和幸
日本の財政の真実を検証する(3)金利上昇の深刻な影響
金利が上昇した未来を10年スパンで見てみると…何が起きるか?
宮本弘曉