生成AI・大規模言語モデルのしくみ
この講義は登録不要で無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
6,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
(会員の方に広告は表示されません)
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
(会員の方に広告は表示されません)
「科学と技術」でまず見るべき講義シリーズ
「宇宙の創生」の仕組みと宇宙物理学の歴史(1)宇宙の階層構造
「宇宙の階層構造」誕生の謎に迫るのが宇宙物理学のテーマ
岡朋治
本当によくわかる「量子コンピュータ入門」(1)量子コンピュータとは何か
「量子コンピュータ」はどういうもので、何に使えるのか
武田俊太郎
進化生物学から見た「宗教の起源」(1)宗教の起源とトランス状態
私たちにはなぜ宗教が必要だったのか…脳の働きから考える
長谷川眞理子
水から考える「持続可能」な未来(1)気候変動の現在地
最悪10メートル以上海面上昇…将来に禍根残す温暖化の影響
沖大幹
生成AI・大規模言語モデルのしくみ(1)生成AIとは何か
10年で劇的な進歩を遂げた生成AIと日本の開発事情
岡野原大輔
知性の進化と科学技術文明の未来(1)ヒトは本当に賢いか
なぜ人類は進化できたか?…5つの環境要因と脳の発達
長谷川眞理子

人気の講義ランキングTOP10
「重要思考」で考え、伝え、聴き、議論する(1)「重要思考」のエッセンス
重要思考とは?「一瞬で大切なことを伝える技術」を学ぶ
三谷宏治
『万葉集』と律令社会~官僚の心得と歌宴(3)国司と郡司のつきあい
郡司の妻たちと宴会!?……国司・大原真人今城へのはなむけの歌に示す媚態表現の真相
上野誠
ロシア人の見る「ロシアの歴史」(2)タタールのくびきと「第三のローマ」
なぜロシアが「第三のローマ」なのか?…東ローマ帝国とモンゴル帝国の根深い影響を探る
上月豊久
『「甘え」の構造』と現代日本(1)「甘え」のインパクト
「甘え」は現代においてダメなものなのか…名著『「甘え」の構造』への2種類の誤解とは?
與那覇潤
編集部ラジオ2026(37)長谷川眞理子先生の公開収録!
【アンケート&公開収録】長谷川眞理子先生:男と女でどう違う?能力の高め方
テンミニッツ・アカデミー編集部
高齢者のフレイル・認知症とその予防対策(1)老年病科と高齢者の疾患・病態の特徴
頻尿、低栄養、転倒、誤嚥、フレイル…増える老年症候群と高齢者の疾患・病態の特徴
小川純人
『オデュッセイア』で読み解く神話の秘密(1)物語の構造を読み解くおもしろさ
『オデュッセイア』の面白さの秘密を神話の構造から読み解く…なぜ波乱万丈の神話が人間の創作の源泉になったか
松村一男
「満洲」から考える日本とアジア(1)「満洲」を知る意義とは
「満洲史」はなぜ現代日本でタブー視されるのか?…王道楽土の夢とアヘンなどの裏面から見えてくる現代への教訓
宮脇淳子
第二次世界大戦とソ連の真実(1)レーニンの思想的特徴
レーニン演説…革命のため帝国主義の3つの対立を利用せよ
福井義高
家康の人間成長~戦略性をいかに培ったか(1)今川「人質」時代と今川義元の思惑
徳川家康の秘密…「辛抱」イメージとは異なる自由奔放な人質時代
小和田哲男