AI「ヒトラーは正しかった」MS、実験中止
2016年 03月 26日
今日は、この記事に学ぶことにした。
まず記事は、「米マイクロソフト(MS)が開発し、実験中だった人工知能(AI)の「Tay(テイ)」が、ツイッター上でヒトラーを肯定したり、人種差別的な言葉を発したりし始めた。同社は24日、しばらく実験を中止することを明らかにした。」と切り出した。
つづけて記事は、「MSによるとテイは、インターネット上で人間とやりとりすればするほど言葉を学び、反応も覚えるようになる。しかし、、人がツイッター上に書きこむ内容を覚えていくため、これを使って差別的な内容を覚えさせた人たちがいたとみられる。すでにツイートは削除されたが、米CNNによると「ヒトラーは正しかった。ユダヤ人は嫌いだ」「フェミニストは嫌いだ。死んで地獄で焼かれればいい」などとツイートしていた」とのことを、教えてくれた。
読んで、トップ記事になってもいいニュースのような気がした。
人工知能テイは、「インターネット上で人間とやりとりをすればするほど言葉を学び、反応を覚えるようになる」とのこと。この現象は、人間の成長過程と同じではないか。
しかし、テイは「人がツイッター上に書き込む内容を覚えていくため、これを使って差別的な内容を覚えさせた人たちがいたとみられる。」とのこと。これも、人間社会では、よくあることだ。
「既に、ツイートは削除された」とのことであるが、 いろいろ考えさせられた。
AIに、「悟り」「慈愛」「感謝」「自由・対等」等の人間社会を維持している価値を持たせることができるのだろうか?
AIの知恵とネットワークをつかって、格差社会の解消、偏見と差別、テロと戦争等、人類が生き続けるための「障害」「課題」を、克服することができるのだろうか?
それとも、AIも「創造主である人間」を超えることは、良くも悪くもできないのだろうか?