生成AI・大規模言語モデルのしくみ
この講義は登録不要無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
5,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
(会員の方に広告は表示されません)
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
(会員の方に広告は表示されません)
「科学と技術」でまず見るべき講義シリーズ
ブラックホールとは何か(1)私たちが住む銀河系
太陽系は銀河系の中で塵のように小さな存在でしかない
岡朋治
水から考える「持続可能」な未来(1)気候変動の現在地
最悪10メートル以上海面上昇…将来に禍根残す温暖化の影響
沖大幹
「進化」への誤解…本当は何か?(1)進化の意味と生物学としての歴史
実は生物の「進化」とは「物事が良くなる」ことではない
長谷川眞理子
レアメタルの光と影(1)イントロ
イノベーションがレアメタルをコモンメタルにする
岡部徹
進化生物学から見た「宗教の起源」(1)宗教の起源とトランス状態
私たちにはなぜ宗教が必要だったのか…脳の働きから考える
長谷川眞理子
火山の仕組みを知る(1)火山の世界的分布と噴火の仕組み
火山噴火が起こるメカニズムと日本の火山の特徴
藤井敏嗣

人気の講義ランキングTOP10
デジタル全体主義を哲学的に考える(1)デジタル全体主義とは何か
20世紀型の全体主義とは違う現代の「デジタル全体主義」
中島隆博
教養としての「ユダヤ人の歴史とユダヤ教」(8)シオニズムとユダヤ教
シオニズムは伝統的なユダヤ教とは異質…イスラエル建国の背景
鶴見太郎
編集部ラジオ2026(12)自転車の青切符と「法と自粛」
【10minで考える】自転車の青切符と「法と自粛」
テンミニッツ・アカデミー編集部
イラン戦争とトランプ大統領の戦争指導(1)米軍式戦略リーダーシップによる評価
イラン戦争…トランプ大統領の戦争指導のどこが問題なのか?
東秀敏
ラフカディオ・ハーン『神国日本』を読む(1)なぜ『神国日本』なのか?
ラフカディオ・ハーンが解明した「美しい日本」の秘密と未来
賴住光子
新撰組と幕末日本の「真実」(序)『ちるらん 新撰組鎮魂歌』の魅力と史実の絶妙さ
新撰組と『ちるらん 新撰組鎮魂歌』…群像劇としての魅力の源泉に迫る!
堀口茉純
お金とは何か?…金本位制とビットコイン(5)ゴールドや暗号通貨への評価
ゴールドやビットコインへの評価は?…現代社会の写し鏡
養田功一郎
日本人とメンタルヘルス…心のあり方(1)米を食べる日本人と『分裂病と人類』
日本人の生きづらさの特徴は?~中井久夫著『分裂病と人類』
與那覇潤
こどもと学ぶ戦争と平和(2)「本当の平和」とは何か
「平和」には2つある…今の日本は本当に平和なのか?
小原雅博
AI時代と人間の再定義(1)AIは思考するのか
AIでは「思考の三位一体」が成立しない…考えるとは?
中島隆博