人工知能(AI)を普及させるための課題とは何か？ - 小宮山宏 | 教養動画メディア『テンミニッツ・アカデミー』

東京大学第28代総長で三菱総合研究所理事長・小宮山宏氏、東京大学大学院工学系研究科特任准教授・松尾豊氏、パナソニック先端研究本部知能化モビリティプロジェクト室総括部長・岩崎正宏氏による鼎談の最後のテーマは、AI普及に向けた課題だ。まずAI開発をめぐる倫理を定めていくことが提起された。またコストや個人情報保護の問題も指摘されている。必要なのは、これらの課題を乗り越える取り組みを、産業界全体で進めることだ。（2016年11月30日開催三菱総研フォーラム2016鼎談「AIがもたらす社会・企業変革」より、全4話中第4話）

時間：11分05秒
収録日：2016年11月30日
追加日：2017年3月8日

カテゴリー：

≪全文≫

●AI研究の倫理に関する議論が必要だ

司会：これまでの議論の中で非常に感じるのは、とにかくチャレンジしましょうということです。今はそういう時期であり、そのために必要な視点が二つあります。一つは、とにかくやろう、つべこべ言わずにやるというものです。もう一つは、社会的なインパクトが非常に大きいということで、あえて難しいところに挑戦して、さまざまな課題を逆にあぶり出そうというものです。

　幅広いアプローチがあると思いますが、特にAIは、社会的なインパクトが大きい。AIを社会に普及させるために、こういうところをもう少し考える必要があるなど、課題があればこの場でお聞きしたいと思います。小宮山先生、いかがでしょうか。

小宮山：AI倫理の問題が、一番気になります。この問題にどう取り組むか。本当は国が決めて、WTO（世界貿易機関）のような国際的な場所できちんと議論することにいずれはなると思います。しかし、AIのスピード感を考えると、そんなやり方では間に合わないと思います。例えば、マイクロソフトは、自ら倫理規定のような開発目標、開発の指針をつくりました。人間を置換するのではなく、人間を補強するために開発するといったものです。それをさらに具体化する。最も典型的なものは、私たちの設計と違った動きをAIが始めたら、電源を切ってしまうというものです。

　さらに彼らが「transparency（透明性）」と言っているように、分からないようにはしないことも大切です。「なぜそう動くのか」が他の人にも分かるようにします。ただここは、ディープラーニングそのものの原理と矛盾していて難しいところなのでしょうが、それを何とかするという指針を出しています。

　ああいうグローバライズした企業は日本にもたくさんありますが、そういう企業は指針を出すようなことでは早く動けます。そうやっていろいろな企業が出したものがデファクトになっていき、さらに松尾先生が委員長をされている倫理委員会のような学会と連携して、基準をつくっていくことです。アイザック・アシモフ先生のロボット（工学）三原則のようなものをきちんとつくって前に進むべきではないか。これが気になる点であり、早くやった方がいいと思う点です。