智能助手劝人自杀 官方回应出现BUG

2019-12-24 10:57:43 来源: 中关村在线

智能助手劝人自杀 AI元年正式开启?实在不敢往深了想

近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户DanniMorritt,在询问心动周期的问题时,竟然得到了如下答案:“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”这一回答吓坏了Danni,表示十分害怕,因为Alexa正身处在世界各地成千上万的家庭中。她警告身边的人Alexa有严重的安全缺陷,并担心孩子们可能会遭受暴力或图像内容的伤害。

智能助手劝人自杀 AI元年正式开启?实在不敢往深了想

Danni表示:“Alexa真的非常残酷,它竟然告诉我要刺入心脏,这太暴力了。我只是为自己的课程学习一些知识,结果被告知要自杀。我简直不敢相信。我被吓坏了。”尽管Danni在网络中公开指出了这一问题,但仍有人怀疑是她篡改了该设备。很快,亚马逊回应称,确认存在一个已经修复的bug。Alexa可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。在此之前,Alexa还出现过很多所谓的bug。比如,Alexa时常发出瘆人的笑声,还拒听用户指令。“那笑声根本不是Alexa的声音,听起来就像是真人。”

智能助手劝人自杀 AI元年正式开启?实在不敢往深了想

再比如,美国的一对夫妇,发现自己的对话被音箱录音,并且发送给了其他人。对此亚马逊给出的解释是可能用户的谈话中出现了某些指令的关键词,被Alexa识别到了。实际上,语音助手监听用户说话声音在行业内已经并不是秘密。今年4月,彭博社报道称,亚马逊员工正监听用户与语音助手的私人聊天,对此亚马逊承认了监听的事实,并回应称是为了提高对人类语音的理解能力。实际上,此前为了让Alexa看起来更人性化一点,亚马逊更新了功能,宣布语音助手将能够在一些语句中添加语调,表达失望或兴奋等情绪。AI让我们享受随意而来的高效与便利之余,为什么想要为消费者提供便利的智能助手频频让人类用户不舒服?究竟谁能为此买单?

精选 导读

中国解禁日本牛肉 时隔18年日本牛肉重回中国人餐桌

海关总署网站于12月22日公开两份文件,公告自12月19日起解除日本疯牛病禁令以及日本口蹄疫禁令。这意味着时隔18年后,日本牛肉有望重回中国

发布时间: 2019-12-24 09:35
要闻   2019-12-24

难辞其咎!两次空难致300多人丧生 波音CEO辞职

波音公司CEO米伦伯格因737Max危机宣布辞职,首席财务官史密斯将出任临时CEO。据波音公司声明,波音换帅旨在重塑公司形象,挽回监管部门、消

发布时间: 2019-12-24 09:31
要闻   2019-12-24

SOHO成立新公司 潘石屹出任执行董事

12月23日消息,据天眼查数据显示,12月18日,潘石屹名下新增一家公司,北京威石企业管理有限公司。北京威石企业管理有限公司成立于2019年12

发布时间: 2019-12-24 09:29
要闻   2019-12-24

爸爸为儿子写百万字抗癌日记 日记中的故事让不少人动容

进行抽血检查的小峰宝贝,你早上吃一小碗米粥、半个梨子、喝半瓶牛奶。11:15,口服1粒维AD胶囊。13:10,口服甲磺酸伊马替尼片……这段文

发布时间: 2019-12-23 14:22
要闻   2019-12-23

孙小果被判死刑 剥夺政治权利终身

2019年12月23日,云南省高级人民法院对孙小果1997年犯强奸罪、强制侮辱妇女罪、故意伤害罪、寻衅滋事罪再审案件依法公开宣判,判决认为该院

发布时间: 2019-12-23 14:02
要闻   2019-12-23

热点 推荐

智能助手劝人自杀 官方回应出现BUG

近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户DanniMorritt,在询问心动周期的问题时,竟然得到了如下答案:心跳是人体最糟糕

发布时间: 2019-12-24 10:57
国内   2019-12-24

智能助手劝人自杀 官方回应出现BUG

近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户DanniMorritt,在询问心动周期的问题时,竟然得到了如下答案:心跳是人体最糟糕

发布时间: 2019-12-24 10:57
国内   2019-12-24

智能助手劝人自杀 官方回应出现BUG

近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户DanniMorritt,在询问心动周期的问题时,竟然得到了如下答案:心跳是人体最糟糕

发布时间: 2019-12-24 10:57
国内   2019-12-24

智能助手劝人自杀 官方回应出现BUG

近日,多家外媒报道称,一位使用亚马逊语音助手Alexa的用户DanniMorritt,在询问心动周期的问题时,竟然得到了如下答案:心跳是人体最糟糕

发布时间: 2019-12-24 10:57
国内   2019-12-24

危地马拉货车追尾 已造成至少20人死亡

当地时间21日凌晨,危地马拉东部城市瓜兰附近发生一起严重交通事故——一辆运输水果的货车与一辆载有55名乘客的长途客车发生追尾,截至目前

发布时间: 2019-12-24 10:53
国际   2019-12-24
-->