●AI研究の倫理に関する議論が必要だ
司会：これまでの議論の中で非常に感じるのは、とにかくチャレンジしましょうということです。今はそういう時期であり、そのために必要な視点が二つあります。一つは、とにかくやろう、つべこべ言わずにやるというものです。もう一つは、社会的なインパクトが非常に大きいということで、あえて難しいところに挑戦して、さまざまな課題を逆にあぶり出そうというものです。
幅広いアプローチがあると思いますが、特にAIは、社会的なインパクトが大きい。AIを社会に普及させるために、こういうところをもう少し考える必要があるなど、課題があればこの場でお聞きしたいと思います。小宮山先生、いかがでしょうか。
小宮山：AI倫理の問題が、一番気になります。この問題にどう取り組むか。本当は国が決めて、WTO（世界貿易機関）のような国際的な場所できちんと議論することにいずれはなると思います。しかし、AIのスピード感を考えると、そんなやり方では間に合わないと思います。例えば、マイクロソフトは、自ら倫理規定のような開発目標、開発の指針をつくりました。人間を置換するのではなく、人間を補強するために開発するといったものです。それをさらに具体化する。最も典型的なものは、私たちの設計と違った動きをAIが始めたら、電源を切ってしまうというものです。
さらに彼らが「transparency（透明性）」と言っているように、分からないようにはしないことも大切です。「なぜそう動くのか」が他の人にも分かるようにします。ただここは、ディープラーニングそのものの原理と矛盾していて難しいところなのでしょうが、それを何とかするという指針を出しています。
ああいうグローバライズした企業は日本にもたくさんありますが、そういう企業は指針を出すようなことでは早く動けます。そうやっていろいろな企業が出したものがデファクトになっていき、さらに松尾先生が委員長をされている倫理委員会のような学会と連携して、基準をつくっていくことです。アイザック・アシモフ先生のロボット（工学）三原則のようなものをきちんとつくって前に進むべきではないか。これが気になる点であり、早くやった方がいいと思う点です。
●AI倫理の議論には、人文科学との連携も不可欠だ
司会：では、倫理委員会の委員長でいらっしゃる松尾先生は、この点について、現在の検討状況や見通しをどうご覧になっていますか。
松尾：人工知能学会の倫理員会でも、議論は継続的にやっています。ただ、かなり哲学的な話や社会学、心理学など、いろいろな要素が入ってくるので、どういう人工知能（AI）をつくったらいいかといった指針を示すのは、かなり難しいと私は思っています。
そこで最終的な指針への前段階として、まずは人工知能研究者の倫理規定をつくろうとしています。人工知能研究者として、社会のために研究開発をするべきであり、そこで自分が知り得ることに対し誠実であろうといったことを定めた、研究開発のベースになるものです。今はその草案を公開していて、もうすぐ確定版を出すという話になっています。
その後に、人工知能（AI）がどうあるべきか、私たちの社会がどうあるべきかといったより広い議論をしていかないといけません。おそらくここは、多くの方、特に人文社会の先生などを巻き込んで、議論をしていく必要があると思っています。
●技術開発において個人情報保護がコストになっている
司会：岩崎さんは、産業界の立場からどうお考えですか。「こういうところがネックになっている」などという点はありますか。
岩崎：私たちがいつも苦労するのは、個人情報保護の問題です。AIはデータが命というところがありますが、例えば先ほどお見せした障害物検知の映像でも、あれを例えばクラウドソーシングに出す際は、全ての顔にマスクをかけ、どこの場所かも分からないようにして出しています。
それをアマゾン・メカニカル・タークに出せば、おそらくものすごく安い値段でやってくれるのですが、個人情報もきちんと担保してくれるという手順をつけると、値段がひと桁違います。そうした個人情報保護には、手間も時間も非常にかかります。ただでさえ遅いのに、それによってもっと遅くなることが、大きな課題です。
●「目」のある機械で新たな成長をもたらせ
司会：今までの話で、皆さんもすでにお気付きかと思いますが、私のような立場にはト書きが本来あり、最後に「要望はありますか」と聞くと、「産業界としてはこういうことをする必要がある」の前に、だいたい「国としてこういうことをやってほしい」という話が出るケースが多いのです。ところが今日は、そうした要望が出ませんでした。社会課題に対して、オープンイノベーションで、特に産業界の力を使ってビジネスとし...
