10MTVオピニオン|有識者による1話10分のオンライン講義
ログイン 会員登録
10MTVオピニオンは、有識者の生の声を10分間で伝える新しい教養動画メディアです。
すでにご登録済みの方は
このエントリーをはてなブックマークに追加

道徳次元の計測、可視化のためのロバストな方法

AIに善悪の判断を教える方法(7)道徳次元の計測・可視化

鄭雄一
東京大学大学院工学系研究科 バイオエンジニアリング専攻教授
情報・テキスト
道徳の次元が高いか低いかは、どのように計測できるのだろうか。鄭雄一氏は、これを可能にするために「異質・未知だが危害のない対象」を見せる方法を生み出している。具体的にどのようなものか、道徳次元が計測可能になると、どのような未来が生まれるのだろうか。(全8話中第7話)
時間:08:06
収録日:2018/06/20
追加日:2019/07/10
キーワード:
≪全文≫

●道徳次元3以下と4の人の違い


 もっとロバストな道徳次元の計測・可視化ができるかについては、一番大事なのは道徳次元4という最高次元が測れるかということなので、ここに絞って議論をしたいと思います。

 例えば、ここに道徳次元3以下の人がいます。この人が観測者だとすると、この人は自分の頭の中で、共通のおきてと個別のおきてがごっちゃになってしまっているわけです。定義上そうなっています。そういう人たちが、例えば他の文化の人から来た人を見たとすると、その人の共通のおきてと個別のおきてもごっちゃになって見えます。そうすると、自分は赤で、あいつは緑で違うからと、反感を覚えて仲間ではないと思ってしまいます。

 ところがもしここで、先ほど言った仲間らしさのデュアリティ、個別のおきてと共通のおきてに気付くことができるようになるとします。レンズのようなもので拡大してみると、実はこれは市松模様のようになっていて、中には赤の個別のおきてと黒の共通のおきて、相手も緑の個別のおきてと黒の共通のおきてでできていることが見えるようになります。

 そして、共通のおきての一般性と個別のおきての多様性を認めることができれば、この個別のおきては、多様なのが当たり前だと理解されます。そして共通のおきてさえ守れば、仲間になれると思えることになります。これが道徳次元4であると思います。

 そうすると、どうやってこの心の多様性、寛容性が計測できるかが鍵になります。


●絵を使って心の多様性・寛容性を測定する-道徳次元3以下の場合


 ここに、プロトタイプですが、心の多様性、寛容性の測定方法を示します。これはすでに実験をして、ある程度データが出ることを確認しているものです。例えば、観測者に「異質・未知だが危害のない対象」というものを見せます。それがどういうものか分かりにくいと思いますが、具体的には今は、非常に前衛的な芸術、絵を見せています。あまり皆さんが見たことのない、でも傑作といった絵があるのです。私は絵が昔から好きでずっと描いてきたので、いろいろ集めてあるのですが、それを見せます。

 そうすると、道徳次元3以下の人の場合、共通のおきてと個別のおきてが混在しています。ですから、当然異質・未知のもの見れば誰でも不安や恐怖を覚えるわけですが、危害のない対象であると分かったとしても、また、これは絵ですから危害の対象であるわけがないのですが、そうと分かったとしてもごっちゃになっているので、不安と恐怖から「見たことないからこれは嫌だ」という気持ちがずっと変わらないということです。

 この感情の動きというのは、実は今われわれが持っている音声で計測することができます。この絵を見ながら、いろいろしゃべってもらうのです。絵を見せるとまず不安とか恐怖で、赤になります。これがいつまでたっても赤で変わりません。これが道徳次元3以下であるということになります。


●道徳次元4の人の異質・未知で危害がないものの捉え方


 では、道徳次元4の人はどうかというと、彼らの中では個別のおきてと共通のおきてはきっちり分かれています。もちろん異質・未知なものを最初に見たときは、ある程度不安や恐怖を、人間として覚えます。しかし、これに危害がないと分かれば、これは共通のおきてを守っているということで、今度は逆に好奇心が出てきて「違うのが面白い」と思って、これが興味や喜びに変わっていきます。

 これも音声で捉えることができて、これは赤から黄色になるとこういう動きが捉えられます。もちろんこれは絵ですので、見慣れていればだんだん赤ではなくなるのですが、道徳次元3以下の人は、この不安・恐怖から変わらない時間がすごく長いのに対して、道徳次元4の人は、不安・恐怖から興味・喜びに変わる時間がすごく早いのです。変わる時間も人によって違うので、こういう変化の時間を測ると、その人の心の広さが分かると考えています。

 異質・未知だが危害のない対象とは一体何かと思うかもしれません。非常に抽象的な言葉です。実はこれには、例えば他の地方から来た移住者、他の文化を持っている移民の人、そして将来的にはロボットも入ってくるだろうと思っています。将来的に移住者とか移民を増やした国づくりをする、あるいはロボットも含めた国づくりをするといったときに、道徳次元4のメンタリティをつくっていくことが重要と思っています。


●お金に加えて、道徳の評価軸を導入する


 ではこのような道徳の次元が計測できるとどうなるかですけれども、今のところわれわれは、ほとんどの場合、貨幣価値軸で物事を考えています。あの人は何をやっているか分か...
テキスト全文を読む
(1カ月無料で登録)
会員登録すると資料をご覧いただくことができます。