10MTVオピニオン|有識者による1話10分のオンライン講義
ログイン 会員登録
10MTVオピニオンは、有識者の生の声を10分間で伝える新しい教養動画メディアです。
すでにご登録済みの方は
このエントリーをはてなブックマークに追加

ロボットが人間の道徳次元を高める未来も近い?

AIに善悪の判断を教える方法(8)道徳のアルゴリズム化

鄭雄一
東京大学大学院工学系研究科 バイオエンジニアリング専攻教授
情報・テキスト
道徳次元の高いロボットが家庭で、人間の道徳を高めることにつながる―鄭雄一氏が予測するのはこのような近未来である。少子高齢化社会では地域、国境を越えた仲間づくりが必要であり、そのための道徳のアルゴリズム化について、鄭氏が語る。(全8話中第8話)
≪全文≫

●家庭のロボットが人間の道徳次元を高める


 この新しい価値軸を広めるために、私が今考えていることを述べさせていただきます。例えば法人においてはChief Moral Officer(CMO)のようなものを置いてもいいかと思っています。CTOとかCFOといった役職ありますが、新しい時代にはこういうものも必要ではないかと思います。

 また、人はなかなか他人の言うことは素直に聞かないものです。特にコアな価値観である道徳などについて、大人ですとなかなか素直になれません。ですので、近未来では、一家に一台導入されるロボットやAIを利用して、さりげなく新しい価値軸を広げるのはどうかと思っています。

 このような時代はそんなに遠くないと思っています。10年ぐらいしたら、われわれが考えているのとはすごく違った社会になっている可能性があります。ロボットというのは、ペッパーを見ても分かりますが、センサーの塊です。ですから、このセンサーの塊であるロボットが常にうちの中にいて、その家の人々の情報を取ってくるということになります。これに最高次元の道徳エンジンを搭載します。このセンサーを利用して音声であったり、脈拍や行動パターンであったり、相手の次元を計測しつつ個別に自然に導いていくのはどうかと思っています。


●ロボットで自然に高次の道徳次元に導く


 ロボットが最高次元の道徳エンジンを搭載しても、これは能書きを垂れるという意味ではありません。「あなたのやっていることは道徳次元が低いから、何とかしなきゃ駄目だ」、といったことをロボットが言うというのでは多分駄目で、さりげなく導いていく必要があります。人間がやらないのにロボットの方が、むしろ人助けをしたりもします。

 そうすると、ロボットの振り見てわが振り直せ、ではないですが、特に子どもたちはすぐに影響を受けると思います。ロボットのやっていることの方が、より寛容性が高くて、多様性を認める社会をつくるのに役立つのではないか、こちらの方がいけているのではないかとなると、親の側でも「しょうがない、やってみようか」というように思うのではないでしょうか。そのようなものがさりげなくできれば一番いいのです。

 荒唐無稽のように聞こえますけれども、今から10年もすればいろいろなかたちでAIやロボットが家庭の中に入っていって、いろいろな情報をわれわれから取って、日々のやりとりを通じてやるということになると思います。

 それから道徳次元を、先ほどいかにも固定したもののように言いましたけど、実はそうではありません。今までのデータからすると、これが結構動きます。その人の状態とか、その人が資源をどれぐらい持っているかで結構上下するので、決して固定されたものではありません。ですから、日々一緒にいるロボットのようなもので、常時計測することが重要ではないかと思っています。


●道徳のアルゴリズム化を考える


 そうなりますと、これで最後になりますが、ロボットに積まなければいけないということで、アルゴリズムを考えなくてはいけません。

 ロボットの道徳を考えたときに、アシモフのロボット三原則というのは大変有名ですが、これは3つの条項から成っています。これは後ほどロボットやAIに積むためのアルゴリズム、こんなアルゴリズムを積めばいいということを説明しますが、そうするとこの条項のどこに問題があるかが分かってくるので、これはぜひ考えていただければと思います。

 基本的構成は他の動物でも同じような、非常に原始的なものです。これは出会いがあったときに、普通にリアルな出会いであれば、仲間らしいかどうかは、共通と個別の基準をごっちゃにして適用して、YESだったら道徳を適用して受け入れ・協力・分業する。NOであれば道徳を適用しないので、受け入れ・協力・分業しないで、危害が小さければ無視をするし、危害が大きければ攻撃するという、どの動物にもある感じになっています。

 このYES、NOというのはリアルな記憶にためられて次にその答えに出会ったときに、閾値制御するのに使います。前にこのような悪いことをしたから、何をしても駄目とか、前はちょっといいことをしてくれたので、今回は大目に見ようとか、この辺の閾値を制御することになります。


●現実の人間的構成と理想的構成


 現実の人間ではここにバーチャルな出会いが入ってきます。ただ、仲間らしさを判断するとき、共通、個別がごっちゃになっていると、YES、NOも同じだし対応も同じです。もう1つ違うのは、このYES、NOというのは記憶にたまるわけですが、ここにリアルな記憶だけではなくて、うわ...
テキスト全文を読む
(1カ月無料で登録)
会員登録すると資料をご覧いただくことができます。