生成AI・大規模言語モデルのしくみ
この講義は登録不要無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
5,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
科学と技術
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
「科学と技術」でまず見るべき講義シリーズ
2050年「プラチナ社会」実現への挑戦(1)「プラチナ社会」実現のルーツと現況
2025年頭所感~5つのプラチナ産業イニシアティブ創りへ
小宮山宏
ヒトの性差とジェンダー論(1)「性」とは何か
MLBのスーパースターも一代限り…生物学から迫る性の実態
長谷川眞理子
2050年のための「前向きの愛国心」(1)木造都市へのシフト
木造ビルで20階…新しい暮らしを支える森林産業の確立を
小宮山宏
生成AI・大規模言語モデルのしくみ(1)生成AIとは何か
10年で劇的な進歩を遂げた生成AIと日本の開発事情
岡野原大輔
未来を知るための宇宙開発の歴史(1)宇宙開発の流れを概観する
宇宙開発の歴史、そして未来へ…6枚の写真で概観する
川口淳一郎
「宇宙の創生」の仕組みと宇宙物理学の歴史(1)宇宙の階層構造
「宇宙の階層構造」誕生の謎に迫るのが宇宙物理学のテーマ
岡朋治

人気の講義ランキングTOP10
ヒトは共同保育~生物学から考える子育て(1)動物の配偶と子育てシステム
ヒトは共同保育の動物――生物学からみた子育ての基礎知識
長谷川眞理子
未来を知るための宇宙開発の歴史(7)米ソとは異なる日本の宇宙開発
日本の弾道ミサイル開発禁止!?米ソとは異なる宇宙開拓の道
川口淳一郎
「集権と分権」から考える日本の核心(3)中央集権と六国史の時代の終焉
天平期の天然痘で国民の3割が死亡?…大仏と崩れる律令制
片山杜秀
数学と音楽の不思議な関係(1)だれもがみんな数学者で音楽家
世界は数学と音楽でできている…歴史が物語る密接な関係
中島さち子
モンゴル帝国の世界史(2)チンギス・ハーンのカリスマ性
自由な多民族をモンゴルに統一したチンギス・ハーンの魅力
宮脇淳子
DEIの重要性と企業経営(4)人口統計的DEIと女性活躍推進の効果
日本的雇用慣行の課題…女性比率を高めても業績向上は難しい
山本勲
睡眠から考える健康リスクと社会的時差ボケ(5)シフトワークと健康問題
発がんリスク、心身の不調…シフトワークの悪影響に迫る
西多昌規
「アカデメイア」から考える学びの意義(1)学びを巡る3つの危機
「学びの危機」こそが現代社会と次世代への大きな危機
納富信留
知識創造戦略論~暗黙知から形式知へ(1)イノベーションと価値創造
価値創造において重要なのは未来から現在を見るという視点
遠山亮子
トランプ政権と「一寸先は闇」の国際秩序(3)これからの世界と底線思考の重要性
同盟国よもっと働け…急激に進んでいる「負担のシフト」
佐橋亮