生成AI・大規模言語モデルのしくみ
この講義は登録不要で無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
6,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
(会員の方に広告は表示されません)
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
(会員の方に広告は表示されません)
「科学と技術」でまず見るべき講義シリーズ
ChatGPT~AIと人間の未来(1)ChatGPTは何ができて、何ができないか
ChatGPTは考えてない?…「AIの回答」の本質とは
西垣通
科学的思考はなぜ大切か(1)「状態図」という概念
科学的思考とは「なぜ?」を追究していくこと
岡部徹
生成AI・大規模言語モデルのしくみ(1)生成AIとは何か
10年で劇的な進歩を遂げた生成AIと日本の開発事情
岡野原大輔
社会はAIでいかに読み解けるのか(1)経済学理論の役割
AIやディープラーニングによって社会分析の方法が変わる
柳川範之
「宇宙の創生」の仕組みと宇宙物理学の歴史(1)宇宙の階層構造
「宇宙の階層構造」誕生の謎に迫るのが宇宙物理学のテーマ
岡朋治
レアメタルの光と影(1)イントロ
イノベーションがレアメタルをコモンメタルにする
岡部徹

人気の講義ランキングTOP10
本番に向けた「心と身体の整え方」(1)ディテールにこだわる
トップアスリートが実践する「自分の高め方」とは…まず集中のスイッチを入れる方法は?
為末大
「満洲」から考える日本とアジア(9)アヘンの実態と満洲開発
満洲国の開発とアヘン問題…アヘンが資金源となったのは事実だが「同時代の世界」と比較せねば真実はつかめない
宮脇淳子
編集部ラジオ2026(35)鶴見太郎先生の公開収録を振り返る
【10min紹介】鶴見太郎先生の公開収録を振り返る・・・お寄せいただいた声
テンミニッツ・アカデミー編集部
高齢者のフレイル・認知症とその予防対策(4)認知症と共生社会の実現に向けた対策
その物忘れ、認知症かも…加齢による物忘れとの違いと一番大事なこと
小川純人
『オデュッセイア』で読み解く神話の秘密(1)物語の構造を読み解くおもしろさ
『オデュッセイア』の面白さの秘密を神話の構造から読み解く…なぜ波乱万丈の神話が人間の創作の源泉になったか
松村一男
教養としての「ユダヤ人の歴史とユダヤ教」(2)厳格な一神教と選民思想
一神教とは、選民思想の真相とは…ユダヤ教の「最終目的」を考える
鶴見太郎
小澤開作と満洲事変・日中戦争(1)少年時代の苦労と五族協和の夢
満洲で「五族協和」に命を懸けた小澤征爾の父・小澤開作
小澤俊夫
国家の利益~国益の理論と歴史(2)ペロポネソス戦争の教訓
国益の歴史…ペロポネソス戦争の教訓とトゥキディデスの罠
小原雅博
50代からの親の介護~その課題と準備(2)マネジメントとしての介護
介護を「プロジェクト」と捉え、マネジャーに徹すべし
太田差惠子
プラトン『ソクラテスの弁明』を読む(1)真実の創作
プラトンの『ソクラテスの弁明』は謎多き作品
納富信留