≪全文≫

●AI研究の倫理に関する議論が必要だ

司会：これまでの議論の中で非常に感じるのは、とにかくチャレンジしましょうということです。今はそういう時期であり、そのために必要な視点が二つあります。一つは、とにかくやろう、つべこべ言わずにやるというものです。もう一つは、社会的なインパクトが非常に大きいということで、あえて難しいところに挑戦して、さまざまな課題を逆にあぶり出そうというものです。

　幅広いアプローチがあると思いますが、特にAIは、社会的なインパクトが大きい。AIを社会に普及させるために、こういうところをもう少し考える必要があるなど、課題があればこの場でお聞きしたいと思います。小宮山先生、いかがでしょうか。

小宮山：AI倫理の問題が、一番気になります。この問題にどう取り組むか。本当は国が決めて、WTO（世界貿易機関）のような国際的な場所できちんと議論することにいずれはなると思います。しかし、AIのスピード感を考えると、そんなやり方では間に合わないと思います。例えば、マイクロソフトは、自ら倫理規定のような開発目標、開発の指針をつくりました。人間を置換するのではなく、人間を補強するために開発するといったものです。それをさらに具体化する。最も典型的なものは、私たちの設計と違った動きをAIが始めたら、電源を切ってしまうというものです。

　さらに彼らが「transparency（透明性）」と言っているように、分からないようにはしないことも大切です。「なぜそう動くのか」が他の人にも分かるようにします。ただここは、ディープラーニングそのものの原理と矛盾していて難しいところなのでしょうが、それを何とかするという指針を出しています。

　ああいうグローバライズした企業は日本にもたくさんありますが、そういう企業は指針を出すようなことでは早く動けます。そうやっていろいろな企業が出したものがデファクトになっていき、さらに松尾先生が委員長をされている倫理委員会のような学会と連携して、基準をつくっていくことです。アイザック・アシモフ先生のロボット（工学）三原則のようなものをきちんとつくって前に進むべきではないか。これが気になる点であり、早くやった方がいいと思う点です。

●AI倫理の議論には、人文科学との連携も不可欠だ

司会：では、倫理委員会の委員長でいらっしゃる松尾先生は、この点について、現在の検討状...