人工知能(AI)が人類を征服する時代はくるのか?
人工知能(AI)対人間をテーマとした古典といえば、1968年に公開されたスタンリー・キューブリック監督の映画『2001年宇宙の旅』でしょう。「HAL9000」という人工知能が意思を持ち、それを察知して機能を停止させようとした乗務員を殺害していく。暴走する人工知能というモチーフはその後もSFや映画において大きな位置を占め、『ターミネーター』『トランセンデンス』と継承されてきました。そうした意味での「人工知能対人間」の戦いは、本当にあるのでしょうか。
シンギュラリティの脅威に対して、「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」と警告しているのは、宇宙物理学者のスティーヴン・ホーキング氏。そして、「(AIは)もしかすると核兵器よりも危険かもしれない」と言っているのが、テスラモーターズのCEO、イーロン・マスク氏です。マイクロソフト社のビル・ゲイツ氏も著書の中で「わたしも超知能に関して懸念を抱いている側の1人だ」と語っています。
こうした脅威に対し、グーグルをはじめとする人工知能研究機関では「倫理委員会」の設立が始まっています。日本の人工知能学会にも倫理委員会が設立され、倫理綱領の発表に向けて動いています。倫理委員長を務めるのは、10MTVでもお話しいただいた松尾豊氏(東京大学大学院工学系研究科 技術経営戦略学専攻 特任准教授)です。
今ディープラーニングで起こりつつあることは「世界の特徴量を見つけ特徴表現を学習する」ことであり、これにより人が介在しなくてもシステムが自ら学ぶことが可能になりました。
人間は何かを見ていると、自然にそこにある特徴に気づき、語ることができ、それにより複雑な事象をシンプルに説明することもできるのです。これが従来の「機械と人間」の間に一線を引く出来事であり、そこを克服する手法としてディープラーニングが新時代を切り開いているのです。
また、この特質は、過去の歴史から現在と似た事象を探してきたり、組織のあり方を大局的に見る「判断・識別」能力にも関わります。実際、高齢者の学習能力は若者より劣っているにもかかわらず、企業のトップに高齢者の判断・識別能力が必要なことは、日々さまざまな組織が実証していることでしょう。
現在の「人工知能(AI)対人間」議論に抜けているのは、「生命」の観点です。人とは、「人間=知能+生命」です。知能をつくることができたとしても、生命をつくることは非常に難しい。また、生命ができて初めて、自らを保存したいという欲求や自らの複製を増やしたいという欲求が出てくる。それがつのったときにこそ、「征服したい」という意思につながるのでしょう。
便利に使えるルンバやSiriなどの人工知能に恐怖を抱く必要は、今のところなさそうですが、この先はどうなのでしょうか。人工知能の今後を注視していくしかないですね。
「シンギュラリティ」の脅威とは
シンギュラリティ(技術的特異点)という概念は、近年よく取り上げられるようになりました。人工知能が十分に賢くなって、自分自身よりも賢い人工知能を作れるようになった瞬間、無限に知能の高い存在が出現する。その時期を、実業家のレイ・カーツワイル氏は、2045年という近未来だと主張しています。シンギュラリティの脅威に対して、「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」と警告しているのは、宇宙物理学者のスティーヴン・ホーキング氏。そして、「(AIは)もしかすると核兵器よりも危険かもしれない」と言っているのが、テスラモーターズのCEO、イーロン・マスク氏です。マイクロソフト社のビル・ゲイツ氏も著書の中で「わたしも超知能に関して懸念を抱いている側の1人だ」と語っています。
こうした脅威に対し、グーグルをはじめとする人工知能研究機関では「倫理委員会」の設立が始まっています。日本の人工知能学会にも倫理委員会が設立され、倫理綱領の発表に向けて動いています。倫理委員長を務めるのは、10MTVでもお話しいただいた松尾豊氏(東京大学大学院工学系研究科 技術経営戦略学専攻 特任准教授)です。
「本当にすごいこと」とは何かが問題
松尾氏が強調するのは、現在人工知能について報道されているニュースや出来事の中には、「本当にすごいこと」と「実はそんなにすごくないこと」が混ざっているということです。今ディープラーニングで起こりつつあることは「世界の特徴量を見つけ特徴表現を学習する」ことであり、これにより人が介在しなくてもシステムが自ら学ぶことが可能になりました。
人間は何かを見ていると、自然にそこにある特徴に気づき、語ることができ、それにより複雑な事象をシンプルに説明することもできるのです。これが従来の「機械と人間」の間に一線を引く出来事であり、そこを克服する手法としてディープラーニングが新時代を切り開いているのです。
また、この特質は、過去の歴史から現在と似た事象を探してきたり、組織のあり方を大局的に見る「判断・識別」能力にも関わります。実際、高齢者の学習能力は若者より劣っているにもかかわらず、企業のトップに高齢者の判断・識別能力が必要なことは、日々さまざまな組織が実証していることでしょう。
「人間=知能+生命」であるというシンプルな認識から
このようなディープラーニングの方向性は、人工知能が自らの意思を持ったり、人工知能を設計し直したりすることとは、「天と地ほど距離が離れている」と松尾氏は指摘します。現在の「人工知能(AI)対人間」議論に抜けているのは、「生命」の観点です。人とは、「人間=知能+生命」です。知能をつくることができたとしても、生命をつくることは非常に難しい。また、生命ができて初めて、自らを保存したいという欲求や自らの複製を増やしたいという欲求が出てくる。それがつのったときにこそ、「征服したい」という意思につながるのでしょう。
便利に使えるルンバやSiriなどの人工知能に恐怖を抱く必要は、今のところなさそうですが、この先はどうなのでしょうか。人工知能の今後を注視していくしかないですね。