目前人工智能和人类用户聊天是一件很有意思的事情，但俗话说近朱者赤近墨者黑，无知的人工智能也会被别有用心的人的言论带坏。比如说前不久遭遇洗脑的微软人工少女Tay。
从一无所知到极端纳粹分子，这一切在网络上仅仅花了不到24小时的时间，微软的聊天机器人Tay在微博网站上Twitter上大放阙词，发表了各种种族主义言论。例如，它发帖称，“希特勒是正确的，我恨犹太人。”
近日根据外媒报道称，为了避免再次发生公关危机，微软令其忘了希特勒。
如今微软的人工智能已经不再认识纳粹标识及其领导人的照片。当你把纳粹标记和纳粹党党魁阿道夫•希特勒（Adolf Hitler）的图片展示给它看的时候，它往往会回复信息说，“我真的无法描述这个图片”，而且还加上一个困惑的表情符。但是，它倒是能够认出其他纳粹领导人如约瑟夫•门格勒（Joseph Mengele）和约瑟夫•戈培尔（Joseph Goebbels）。
除了忘掉希特勒外，人工智能似乎还拒绝辨认像基地组织领导人奥萨马本拉登（Osama bin Laden）这类的人。但是，他可以认出原柬埔寨共产党（红色高棉）总书记波尔布特（Pol Pot）或伊拉克前总统萨达姆•侯赛因（Saddam Hussein）。
“我们在程序中添加了一些基本的过滤功能，以防止机器人再发表一些不当的言论。”微软发言人说。
由于机器人是由人工智能和机器学习技术支持的，因此它们在与人类的互动过程中会不断地学习提高。
正因如此，微软的Tay机器人才最终误入歧途。也因为如此，微软和其他科技公司开始警惕它们在程序中设置的规则。
