• 我爱技术网-河南网站建设-上海网站建设-SEO优化-网络营销-SEO三人行

  • 专注网站建设 服务热线: 13061801310

当前位置:我爱技术网 > 新闻信息 > 正文

人工智能变得越来越恶毒?我们怎么办

发布时间:2018-10-30 | 发布者: 东东工作室 | 浏览次数:

  人工智能的成功有可能是人类文明史上最大的事件,但也有可能是人类文明史的终结!

  01

  在刚刚过去的3月份,

  一个人的逝去和两起车祸,

  让人工智能再次成为争论焦点。

  3月14日,物理学家霍金离世。

  在对霍金的各种追悼里,

  他提醒警惕人工智能的话,被无数次引用。

  巧合的是,之后的两起车祸,

  为“人工智能威胁论”添加了新的证据。

  3月18日,美国凤凰城。

  49岁的Elaine过马路时,被Uber无人驾驶测试车撞倒身亡。

3月23日,美国加州。

  3月23日,美国加州。

  38岁的华裔苹果工程师驾驶特斯拉Model X

  撞上高速路护栏,并起火。

  工程师及其父亲遇难。

  按照特斯拉的说法,

  失事汽车使用了自动驾驶功能(Autopilot)

  去年11月,这位工程师

  为了庆祝自己入职苹果,买了这辆特斯拉。

  出事前,他已多次投诉,

  说特斯拉经常驶向障碍物。

人工智能变得越来越恶毒?我们怎么办

02

  今年2月份,亚马逊的人工智能也曾“失控”。

  2 月 22 日,一名推特用户发布短片称,

  “Alexa 在厨房不经意

  就笑起来了,真是吓死我们了,

  还以为是一个孩子在我身后笑着呢”。

Alexa是亚马逊

Alexa是亚马逊

  基于AI技术推出的语音助手,

  相当于iPhone的Siri,但比Siri聪明很多。

  这个AI助手可以帮你放歌、播新闻、

  买东西、控制智能家居设备…

  然而2月底,Alexa失控了。

我正要睡下,Alexa却发出了诡异的大笑…今晚我可能会被谋杀。

我正要睡下,Alexa却发出了诡异的大笑…今晚我可能会被谋杀。

我们正在办公室讨论机密,Alexa突然笑了起来…仿佛我们意外地触发她醒来,她只是笑了起来,太可怕了。

  我们正在办公室讨论机密,Alexa突然笑了起来…仿佛我们意外地触发她醒来,她只是笑了起来,太可怕了。

  诸如此类的吐槽还有很多:

  一个用户告诉Alexa关灯,Alexa却不停地把关掉的灯打开,并发出恶毒的笑声;

  一个老哥说,他的Alexa半夜自动给老板打电话;

  一个用户的智能设备受Alexa“指使”,自动买了猫粮……

  对于Alexa的诡异行为,

  亚马逊声称已知晓,并采取了一些措施。

  包括禁止回应“Alexa,笑一下”这个语音指令。

  是恶意软件捣鬼、

  某些程序与第三方应用发生冲突,

  还是Alexa开始有了自己的意识,

  亚马逊并没有公布细节。

人工智能变得越来越恶毒?我们怎么办

霍金

  人工智能的真正风险不是它的恶意,而是它的能力。

  一个超智能的人工智能在完成目标方面非常出色,如果这些目标与我们的目标不一致,我们就会陷入困境。

  03

  2月20日,来自 OpenAI、牛津大学、剑桥大学等机构的26 名学者,

  在 arXiv 上发表最新研究报告

  《人工智能的恶意使用:预测、预防和缓解》

  在这份101页的报告中,学者们警告,

  “随着人工智能越来越强大,越来越普及,

  我们预计,人工智能系统的广泛应用

  将导致现有威胁的扩大,

  还会引发新的威胁,

  甚至改变典型的威胁特征。”

  比如这些:

  自动攻击、钓鱼、语音合成、数据中毒相关的网络攻击将会增多。

  无人驾驶汽车会故意撞击;无人机或变成人脸识别刺客,控制关键基础设施以索要赎金。

  可用于左右民众观点,形成高度精准的宣传,传播虚假但可信的文章。

  其中的两位重要级人物,

  牛津大学教授Miles Brundage

  和剑桥大学教授 Shahar Avin

  在另一篇报告

  《利用AI来犯罪只是时间问题》中指出,

  如果不重视安全问题,

  罪犯就会利用AI犯罪,

  而这只是时间问题。

人工智能变得越来越恶毒?我们怎么办

04

  这种观点并非危言耸听。

  2017年12月,

  日内瓦举办了联合国武器公约会议。

  会议上的一段视频曝光了

  一个恐怖武器——

杀手机器人。

  这个小东西只有蜜蜂一样大,

  却蕴含可怕的黑科技:广角摄像头、传感器、面部识别,还有3克炸药。

  它能穿透建筑物、汽车,

  躲避人类子弹,反应速度比人类快100倍。

  只要将目标图像信息输入它的大脑,

  就能实现超精准打击。

  戴口罩、穿伪装都没用,

  因为它的识别率高达99.99%。

“蜜蜂”攻击过程演示

“蜜蜂”攻击过程演示

  如果把这款造价2500万美元的蜜蜂放出去,

  很快就能杀死半个城市的人。

通过面部识别定位,“蜜蜂”轻易杀死了正在上课的一班学生。

通过面部识别定位,“蜜蜂”轻易杀死了正在上课的一班学生。

转载请标注:我爱技术网——人工智能变得越来越恶毒?我们怎么办