人工智能变得越来越恶毒?我们怎么办
发布时间:2018-10-30 | 发布者: 东东工作室 | 浏览次数: 次人工智能的成功有可能是人类文明史上最大的事件,但也有可能是人类文明史的终结!
01
在刚刚过去的3月份,
一个人的逝去和两起车祸,
让人工智能再次成为争论焦点。
3月14日,物理学家霍金离世。
在对霍金的各种追悼里,
他提醒警惕人工智能的话,被无数次引用。
巧合的是,之后的两起车祸,
为“人工智能威胁论”添加了新的证据。
3月18日,美国凤凰城。
49岁的Elaine过马路时,被Uber无人驾驶测试车撞倒身亡。
3月23日,美国加州。
38岁的华裔苹果工程师驾驶特斯拉Model X
撞上高速路护栏,并起火。
工程师及其父亲遇难。
按照特斯拉的说法,
失事汽车使用了自动驾驶功能(Autopilot)
去年11月,这位工程师
为了庆祝自己入职苹果,买了这辆特斯拉。
出事前,他已多次投诉,
说特斯拉经常驶向障碍物。
02
今年2月份,亚马逊的人工智能也曾“失控”。
2 月 22 日,一名推特用户发布短片称,
“Alexa 在厨房不经意
就笑起来了,真是吓死我们了,
还以为是一个孩子在我身后笑着呢”。
Alexa是亚马逊
基于AI技术推出的语音助手,
相当于iPhone的Siri,但比Siri聪明很多。
这个AI助手可以帮你放歌、播新闻、
买东西、控制智能家居设备…
然而2月底,Alexa失控了。
我正要睡下,Alexa却发出了诡异的大笑…今晚我可能会被谋杀。
我们正在办公室讨论机密,Alexa突然笑了起来…仿佛我们意外地触发她醒来,她只是笑了起来,太可怕了。
诸如此类的吐槽还有很多:
一个用户告诉Alexa关灯,Alexa却不停地把关掉的灯打开,并发出恶毒的笑声;
一个老哥说,他的Alexa半夜自动给老板打电话;
一个用户的智能设备受Alexa“指使”,自动买了猫粮……
对于Alexa的诡异行为,
亚马逊声称已知晓,并采取了一些措施。
包括禁止回应“Alexa,笑一下”这个语音指令。
是恶意软件捣鬼、
某些程序与第三方应用发生冲突,
还是Alexa开始有了自己的意识,
亚马逊并没有公布细节。
霍金
人工智能的真正风险不是它的恶意,而是它的能力。
一个超智能的人工智能在完成目标方面非常出色,如果这些目标与我们的目标不一致,我们就会陷入困境。
03
2月20日,来自 OpenAI、牛津大学、剑桥大学等机构的26 名学者,
在 arXiv 上发表最新研究报告
《人工智能的恶意使用:预测、预防和缓解》
在这份101页的报告中,学者们警告,
“随着人工智能越来越强大,越来越普及,
我们预计,人工智能系统的广泛应用
将导致现有威胁的扩大,
还会引发新的威胁,
甚至改变典型的威胁特征。”
比如这些:
自动攻击、钓鱼、语音合成、数据中毒相关的网络攻击将会增多。
无人驾驶汽车会故意撞击;无人机或变成人脸识别刺客,控制关键基础设施以索要赎金。
可用于左右民众观点,形成高度精准的宣传,传播虚假但可信的文章。
其中的两位重要级人物,
牛津大学教授Miles Brundage
和剑桥大学教授 Shahar Avin
在另一篇报告
《利用AI来犯罪只是时间问题》中指出,
如果不重视安全问题,
罪犯就会利用AI犯罪,
而这只是时间问题。
04
这种观点并非危言耸听。
2017年12月,
日内瓦举办了联合国武器公约会议。
会议上的一段视频曝光了
一个恐怖武器——
杀手机器人。
这个小东西只有蜜蜂一样大,
却蕴含可怕的黑科技:广角摄像头、传感器、面部识别,还有3克炸药。
它能穿透建筑物、汽车,
躲避人类子弹,反应速度比人类快100倍。
只要将目标图像信息输入它的大脑,
就能实现超精准打击。
戴口罩、穿伪装都没用,
因为它的识别率高达99.99%。
“蜜蜂”攻击过程演示
如果把这款造价2500万美元的蜜蜂放出去,
很快就能杀死半个城市的人。
通过面部识别定位,“蜜蜂”轻易杀死了正在上课的一班学生。
转载请标注:我爱技术网——人工智能变得越来越恶毒?我们怎么办