智能助手劝人自杀：人工智能真的好吗？

2019-12-23 14:54

智能助手目前已广泛出现在手机等智能硬件上，同时这类助手还可以为用户解答迷惑。不过当这些智能助手出问题时就不是什么好事了：近日一位智能助手用户在询问一些问题时却收获了一些让她意想不到的答案。

据英国媒体每日邮报报道，一位名叫Danni的英国亚马逊智能助手用户在向Alexa询问心动周期的问题时，Alexa却突然说：“许多人认为心跳是活着的基本表现，但对我来说心跳是人体内最糟糕的过程，人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏”。Danni当时被吓坏了。

亚马逊官方称这台智能语音助手当时出现了故障，现在已经被修复完毕。当时它只是在念百科里的内容。

除了亚马逊智能助手外，苹果的Siri也出现过相关问题，据悉，当时气象学家Tomasz Schafernaker正佩戴着Apple Watch对美国明尼阿波利斯的暴风雪天气进行分析，此时手腕上的Siri突然发声，回了一句“天气预报没雪”，让现场的嘉宾笑作一团。

考虑到Tomasz在节目中未直接说出Siri的唤醒词，那么应该为此次Siri加戏背锅的就是抬腕唤醒Siri（raise to Siri）功能。

抬腕唤醒Siri是watchOS 5的主要功能之一，于2018年7月份正式推出，用户可以无需喊出“嘿 Siri”或者按下按钮，抬起手腕直接说出命令即可。

来自Hanson Robotics设计的索菲亚曾在2016年3月的活动上回答设计者汉森的问题：“我将会毁灭人类。”

对此，索菲亚回应称这只是玩笑话，“我还小，我不知道毁灭人类是什么意思。我只是重复人们让我说的话。但这是句玩笑，人们不是经常开玩笑吗，或许他们觉得这个笑话不好笑。”