生成AI・大規模言語モデルのしくみ
この講義は登録不要無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
5,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
(会員の方に広告は表示されません)
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
(会員の方に広告は表示されません)
「科学と技術」でまず見るべき講義シリーズ
Beyond5G・6Gで進む情報通信の民主化(1)情報通信の民主化と「協創」
6Gの研究開発を推進する情報通信の民主化
中尾彰宏
進化生物学から見た「宗教の起源」(1)宗教の起源とトランス状態
私たちにはなぜ宗教が必要だったのか…脳の働きから考える
長谷川眞理子
「宇宙の創生」の仕組みと宇宙物理学の歴史(1)宇宙の階層構造
「宇宙の階層構造」誕生の謎に迫るのが宇宙物理学のテーマ
岡朋治
もっと知りたいイヌのこと(1)イヌの歴史を振り返る
オオカミはいつイヌになったか…犬の起源と家畜化の歴史
長谷川眞理子
本当によくわかる「量子コンピュータ入門」(1)量子コンピュータとは何か
「量子コンピュータ」はどういうもので、何に使えるのか
武田俊太郎
知能と進化(1)知性と身体性
AI、ディープラーニングとは…知能と身体性は不可分か?
長谷川眞理子

人気の講義ランキングTOP10
お金とは何か?…金本位制とビットコイン(2)金本位制復活の現実味
金本位制復活の可能性は?…ネックは量の操作性、柔軟性
養田功一郎
人の行動の「なぜ」を読み解く行動分析学(1)随伴性
三日坊主、部屋が片付かない…なぜできないか行動分析学で考える
島宗理
教養としての「ユダヤ人の歴史とユダヤ教」(5)キリスト教と反ユダヤ思想
ユダヤ人迫害を生んだ「権力者・ユダヤ人・民衆」の三者関係
鶴見太郎
イラン戦争とトランプ大統領の戦争指導(3)戦争終結シナリオと大統領選挙の行方
MAGA連合に亀裂!?イラン戦争が及ぼす大統領選への影響
東秀敏
組織心理学~若者とのコミュニケーション(2)自信をもたせることの大切さ
『寅さんの教育論』――山田洋次監督から学んだ大事な教え
山浦一保
本質から考えるコンプライアンスと内部統制(2)社会の変化から考えるハラスメント
経営幹部のセクハラは一発退場!ハラスメント問題を考える
國廣正
大人の学び~発展しつづける人生のために(1)「Unlearn(アンラーン)」とは何か
見方を変える!生き方を変える!そのためのアンラーン
為末大
編集部ラジオ2026(10)ユダヤ人特集~鶴見太郎先生
【10min解説】鶴見太郎先生《教養としてのユダヤ人の歴史》
テンミニッツ・アカデミー編集部
大統領に告ぐ…硫黄島からの手紙の真実(1)ルーズベルトに与ふる書
奇跡の史実…硫黄島の戦いと「ルーズベルトに与ふる書」
門田隆将
小澤開作と満洲事変・日中戦争(1)少年時代の苦労と五族協和の夢
満洲で「五族協和」に命を懸けた小澤征爾の父・小澤開作
小澤俊夫