生成AI・大規模言語モデルのしくみ
この講義は登録不要無料視聴できます!
▶ 無料視聴する
この講義の続きはもちろん、
5,000本以上の動画を好きなだけ見られる。
スキマ時間に“一流の教養”が身につく
まずは72時間¥0で体験
常識を初めて知った!?生成AIの大規模言語モデルとは
生成AI・大規模言語モデルのしくみ(2)機械学習と大規模言語モデル
岡野原大輔(株式会社Preferred Networks 共同創業者、代表取締役 最高研究責任者)
機械学習とは何なのか。AIはどのように「理解をしている」のか。近年の著しい進歩により、ますます身近な存在になっている生成AIだが、それがどのようなメカニズムでさまざまなデータを出力しているのかを知る機会は少ない。そういった、私たちの素朴な疑問を通じて、生成AIへの理解を深めるとともに、生成AIの1つの代表的なモデルである「大規模言語モデル」についての知識を広げよう。(全6話中第2話)
※インタビュアー:川上達史(テンミニッツTV編集長)
時間:11分33秒
収録日:2024年4月16日
追加日:2024年7月16日
≪全文≫

●膨大なパラメータを使って出力を調整する


―― 機械学習という話も、だいぶ聞く言葉にはなってきたのですけれど、実際それがどう学習しているのかというところが、たぶん多くの方にとっては分からないところだと思うのです。機械というのはどうやって学習するものなのですか。

岡野原 私の本の中でも書いた例で説明しますと、その機械は、AIといっても、結局はたくさんのパラメータがあるようなシステムになっています。例えば、大きいシンセサイザーがあって、シンセサイザーにいろいろなつまみがある。それぞれのつまみを少しずつ変えると、出てくる音が少し変わる。少しずつ変えると、入れた入力に対して出力が変わると。

 機械学習がやっているのは、結局はこのパラメータの数がものすごくたくさんあるようなことで、何か入力を入れたら出力が出るような関数になっています。

 例えば、先ほど(第1話)の犬猫分類の例でいいますと、最初に画像を入れたら、何に分類するのかがほぼランダムに決まるというようなモデルがあって、そのシステムに対して、「今『犬』と言ったけれど、本当は『猫』だよ」と、間違えたときに、次から間違えないように「犬ではなく猫」と出せるようにパラメータを変えましょうと。そのパラメータをどうやって変えたら次から同じデータに対して犬と間違えずに猫を出せるかという技術が進んでいまして、機械学習にはそのパラメータの変え方がある(ということ)です。

 たくさんデータを見せて、この場合は犬です、この場合は猫です、というのを見せていくと、どんどんパラメータの調整が進んでいって、究極的には、見たことがない、いろいろなデータに対しても、犬とか猫とか、ちゃんとそういったものが正しく出せるようになるのです。

 これは、小さい規模だと想像しにくく、そこまでできるのかという話なのですけれど、実際に今、生成AI、例えば大規模言語モデルで使われているようなものですと、つまみの数、(つまり)パラメータ数というのはだいたい数千億から1兆といった、ものすごい数、人の想像も及ばないような数になっています。それらのパラメータを調整することによって、入力に対してどういう生成をするのかということが、外から見ると非常に賢くやっているように見えるものができています。

―― なるほど。


●常識を初めて学習、演繹的アプローチを実装した大規模...


スキマ時間でも、ながら学びでも
第一人者による講義を1話10分でお届け
さっそく始めてみる
「科学と技術」でまず見るべき講義シリーズ
社会はAIでいかに読み解けるのか(1)経済学理論の役割
AIやディープラーニングによって社会分析の方法が変わる
柳川範之
本当によくわかる「量子コンピュータ入門」(1)量子コンピュータとは何か
「量子コンピュータ」はどういうもので、何に使えるのか
武田俊太郎
レアメタルの光と影(1)イントロ
イノベーションがレアメタルをコモンメタルにする
岡部徹
「進化」への誤解…本当は何か?(1)進化の意味と生物学としての歴史
実は生物の「進化」とは「物事が良くなる」ことではない
長谷川眞理子
水から考える「持続可能」な未来(1)気候変動の現在地
最悪10メートル以上海面上昇…将来に禍根残す温暖化の影響
沖大幹
ヒトの性差とジェンダー論(1)「性」とは何か
MLBのスーパースターも一代限り…生物学から迫る性の実態
長谷川眞理子

人気の講義ランキングTOP10
和歌のレトリック~技法と鑑賞(1)枕詞:その1
ぬばたまの、あしひきの……不思議な「枕詞」の意味は?
渡部泰明
これからの社会・経済の構造変化(1)民主主義と意思決定スピード
フラット化…日本のヒエラルキーや無謬性の原則は遅すぎる
柳川範之
「進化」への誤解…本当は何か?(9)AI時代の人間と科学の関係
科学は嫌われる!? なぜ「物語」のほうが重要視されるのか
長谷川眞理子
独裁の世界史~未来への提言編(1)国家の三つの要素
未来を洞察するために「独裁・共和政・民主政」の循環を学べ
本村凌二
AI時代と人間の再定義(1)AIは思考するのか
AIは間違いが分からない…思考で大事なのは訂正可能性
中島隆博
歌舞伎はスゴイ(1)市川團十郎の何がスゴイか(前編)
市川團十郎の歴史…圧倒的才能の初代から六代目までの奮闘
堀口茉純
豊臣兄弟~秀吉と秀長の実像に迫る(8)秀長の死の影響と秀吉政権の瓦解
「家康対奉行」の構図は真っ赤な嘘!? 秀吉政権瓦解の真相
黒田基樹
逆境に対峙する哲学(1)日常性が「破れ」て思考が始まる
逆境にどう対峙するか…西洋哲学×東洋哲学で問う知的ライブ
津崎良典
エネルギーと医学から考える空海が拓く未来(5)『秘蔵宝鑰』が示す非二元論的世界
雄大で雄渾な生命の全体像…その中で点滅する個々の生命
鎌田東二
生成AI「Round 2」への向き合い方(1)生成AI導入の現在地
生成AIの利活用に格差…世界の導入事情と日本の現状
渡辺宣彦