科技网

当前位置: 首页 >智能

Alexa“监听门”:用户隐私与科技发展,总有一个要牺牲?

智能
来源: 作者: 2019-05-14 17:52:12

从2014年Echo推出至今,的Alexa在智能语音助手领域仍是打遍天下无敌,遥遥领先其他企业的相关产品。在很大程度上,这取决于它所拥有的数万项技能,而且,它的技能还在不断更新拓展。仅在本月中旬,Alexa的技能库里就新增了“测血压”、“解答护照和假期相关问题”的技能。

然而,在用户毫无戒备之心地享受Alexa带来便利的同时,一些工作正在秘密地进行。

亚马逊雇佣大量员工监听Alexa录音

本月早些时候, 据彭博社披露 ,亚马逊公司在全世界范围内雇佣了员工(评审员)来提升Alexa的服务功能,然而,这个巨大团队并不负责技术改进,而是负责收集用户对Alexa发出的指令,并作出相应的反馈。参与该项目的评审员从波士顿到哥斯达黎加,从印度到罗马尼亚,总之遍布全球。

据悉,评审员每天工作9个小时,要分析上千条录音。如此大规模、高强度地分析(监听),评审员难免会听到非常隐私的声音。有两名知情人甚至表示,他们确信自己通过Alexa听到了性侵事件,当他们向亚马逊公司寻求指导意见,却吃了闭门羹。

在彭博社爆料之后,亚马逊发言人发表了声明,大概是说:

亚马逊十分注重客户的隐私安全。我们收集用户对Alexa的指令,是为了更好地训练语言识别系统和系统,以便于改善用户体验。目前,亚马逊已有严格的技术和措施来保护用户的个人信息,即便是公司的员工也无权访问。

然而,无论是在营销过程中,还是在公司的隐私政策中,亚马逊从来都没有明确表示,他们雇佣了评审员来实时监听Alexa的录音。而且,即便是用户禁用了Alexa的语音记录功能,这些用户的语音记录还是会传送给评审员进行分析。

密歇根大学的教授Florian Schaub是智能扬声器隐私问题方面的专家,他也对此事发表了自己的意见:

这件事是否属于隐私问题,取决于亚马逊对待这些信息的谨慎程度,以及向他人呈现的方式。

姓名、电话号码、家庭地址不保

就在大家以为人工监听事件快要过去的时候, 彭博社在本周三又放出了一颗炸弹 :Alexa背后的评审员可以获知用户的家庭地址,甚至包括姓名和电话号码。如果用户选择与Alexa共享自己的联系人,这些联系人的相关信息也会出现在评审员的操作界面。

此前,亚马逊声称公司员工无法获取用户信息(上文已提及),然而这一事实与之相悖。

对于这一情况,亚马逊给出的解释是:

亚马逊之所以收集位置数据,是为了更准确地为用户服务,比如建议当地的餐厅,或者提供天气预报。而且,评审员在入职之前都签订了保密协议,不会透露项目相关的任何内容。

雷锋网获悉,位置数据会以地理坐标的形式提供给评审员,他们只要将坐标数据输入地图软件,就能轻松获得用户的具体地址。如果用户外出时使用Alexa,他/她的实时定位也有可能被追踪。

两位知情人士向彭博社透露:

事情曝光之后,亚马逊也亡羊补牢,进一步限制了用户信息的访问权限。目前,一些软件已经对评审员关闭了。

虽然,现在还没有迹象表明,评审员试图利用这些信息来追踪用户,但是,人们还是担心这种不必要的访问权限会让情况失控。

领域佼佼者同样有黑历史 雷锋网注:【 图片来源: Axios  所有者:Axios The Harris Poll 】

如图所示,自2012年以来,亚马逊的公众声誉一直名列前茅。然而, 即便是公众心中口碑最佳的亚马逊也曾有过黑历史。实际上,本月彭博社的两次曝光并不是Alexa第一次处在舆论的风口浪尖。

去年2月底,陆续有多名用户在Twitter和Reddit上表示,自己家内含Alexa的智能设备会突然爆发邪恶的笑声,令人毛骨悚然。

一位网友在推特上说道:

躺在床上准备睡觉,Echo里的Alexa突然爆发惊悚的笑声。。。我怕是活不过今晚了。

另一位网友说道:

我在厨房,Alexa莫名其妙地笑了。好恐怖,就感觉像有一个婴儿在我们身后。

对于这起“灵异事件”,亚马逊官方出的解释是,Alexa会将环境中的噪音错认为短语“Alexa,笑一个”(“Alexa,laugh”)。随后,亚马逊紧急修复了这个bug,将原先简短的指令改为了“Alexa,你能笑一个吗?”(Alexa,can you laugh?),并且,更新后的Alexa在听到指令后会进行回复,而不是直接大笑。

除了怪笑事件,2018年,亚马逊还陷入了隐私泄露的丑闻。当时,Alexa录下一段私人对话,未经用户同意就发送了出去,这起事件再次引起了公愤。

亚马逊不得不出面回复,它首先声明自己没有窃听用户的对话,然后指出,此次事件的起因是Alexa被错误地唤醒,和怪笑事件的起因如出一辙。值得注意的是,如果亚马逊的解释成立,那么,Alexa至少要错误识别4次,才能够将录音发送给别人。

亚马逊官方发言人也承认:

这是一个非常极端的例子,我们也在努力降低错误识别率,尽量减少此类事故的出现。

语音助手还无法脱离人类独立工作

对于亚马逊的各种风波,该领域的专家Schaub并没有感到惊讶,他说道:

我们潜意识里认为语音助手在进行神奇的机器学习。但实际上,它们还无法脱离人类独立工作。

当然,亚马逊并不是唯一一家做类似事情的公司。去年, 《卫报》报道了“伪人工智能”(pseudo-AI)的兴起 ,文中列举了一些人类顶替AI完成工作的科技公司,其中就包括Facebook、亚马逊、谷歌和苹果等科技巨头。

心理学家Alison Darcy在接受《卫报》采访时说道,

很多时候,AI的背后是人类而不是算法,因为建立一个良好的AI系统需要大量数据。但是,作为心理学家,我认为,这种欺骗行为显然违反了道德原则。

研究机构Canalys的数据显示 ,去年全球共销售7,800万个智能扬声器,其中,亚马逊的销售量大约占三分之一(图1)。Canalys预计,到2020年,智能扬声器的使用量会在2018年的1亿基础上再翻一番,达到2.25亿(图2)。

(公众号:雷锋网) 注:图1【 图片来源: Canalys Newsroom  所有者:Canalys 】

雷锋网注:图2【 图片来源: Canalys Newsroom   所有者:Canalys 】

以上数据和图表似乎映射出了智能扬声器欣欣向荣的美好前景。

然而,就目前而言,凭空创造出一个能够准确识别语音或人脸的神经网络几乎不可能的。因为仅凭算法,语音助手无法准确识别不同的口音、俚语、或者是其他一些带有挑战性的任务。

雷锋网总结

毫无疑问,Alexa是亚马逊所推出的最具影响力的产品之一,而且,它已经列入亚马逊帝国的四大支柱。随着Echo走进越来越多的家庭,Alexa也对人们的生活产生着深刻影响。

实际上,人类参与训练语音助手并没有什么错。为了让语音助手提供更好、更准确的服务,人工的帮助是必不可少的因素。

然而,消费者真正在意的是,在享受科技带来便利的同时,他们有没有被诚实地对待,自己的隐私有没有得到尊重。身为大公司的亚马逊应该深知隐私保护的重要性,但是,至少从眼下看来,它做的还不够好。


雷锋网版权文章,未经授权禁止转载。详情见。


专注科技资讯挖掘,通过关键词过滤科技资讯,提高阅读效率10倍以上。 网站定位极少数高效能人士,精准快速定位资讯,大大提高阅读效率。经常肠胀气怎么办东北制药整肠生多少钱一盒肠道敏感忌什么饮食

相关推荐