当前位置:主页 > 新闻中心 >

新闻中心

NEWS INFORMATION

AI不完美人脸识别系统也会被欺骗

时间:2021-06-05 00:01 点击次数:
  本文摘要:软件工程师也是人,而人类总会犯错误,所以我们的机器上总是弥漫着安全漏洞。在建构驱动这些计算出来系统的软件时,他们有可能让代码运行在了错误的地方,把数据储存在了错误的地方,也许他们储存了过于多数据。 林林总总的安全漏洞沦为了黑客的反击对象,而且他们在反击时毫不手软。 但即使是让人工智能代替那些软件工程师,风险依然不存在。

欧帝欧洲杯赛事

软件工程师也是人,而人类总会犯错误,所以我们的机器上总是弥漫着安全漏洞。在建构驱动这些计算出来系统的软件时,他们有可能让代码运行在了错误的地方,把数据储存在了错误的地方,也许他们储存了过于多数据。

林林总总的安全漏洞沦为了黑客的反击对象,而且他们在反击时毫不手软。  但即使是让人工智能代替那些软件工程师,风险依然不存在。AI也不会受罚,正如谷歌和一个由特斯拉创始人ElonMusk启动的创业公司OpenAI的研究人员公布的一篇新的论文里面叙述的,这些风险在那些大大地改建我们的计算机系统的新型AI里十分相当严重,特别是在是当AI认识监控摄像机,传感器等产于在世界各地的电子设备时,它们可以显得十分高危。

  这是一个每个人都应当思维的问题,OpenAI研究人员,前谷歌员工IanGoodfellow说道,他与现任的Google研究人员AlexeyKurakin和SamyBengio一起写出了这篇论文。  看见不不存在的东西  随着可以通过分析大量的数据来自学零散的任务的人工智能分支深层神经网络的蓬勃发展,我们正在南北一个新的潮流:相比必要让我们的计算机继续执行服务,我们不会为训练机器写出更加多的代码。而在Facebook、Google和微软公司这类互联网龙头企业内部,这种趋势早就变为现实。

  马克扎克伯格和他的公司在世界最受青睐的社交网络上用数百万的图片训练神经网络去辨识人脸。Google用于大量的口语词汇训练神经网络去辨识安卓手机的语言指令。

在未来,我们将建构智能机器人和无人驾驶汽车。  2020-03-30 ,神经网络不仅能辨识物体,动物,标志和其他书面语言,而且他们需要十分好地辨识出有人脸和语音。

但是它们也不会受罚有时候甚至会犯一些想象将近的错误。Kurakin说道:没极致的机器学习系统。事实上,在某些情况下,你可以愚弄这些系统,让它们以为自己看见或听见了实质上不不存在的东西。

  Kurakin说明说道,只要十分微小地转变一个图像,神经网络就不会指出这个图像包括了一些它实质上并没的东西,这些转变是人类的肉眼或许也感觉将近的有时转变意味着是在图片的各处随便加到了几个像素。他说道,你可以转变大象的照片的几个像素,然后愚弄神经网络让它指出这是一辆汽车。像Kurakin这样的研究人员把这些称作对付样本。它们也是神经网络的安全漏洞之一。

  Kurakin,Bengio和Goodfellow在他们的新论文中指出,神经网络即使被用作辨识必要从照相机或其他传感器传过来的数据,有可能也不会不存在某种程度的漏洞。  想象一下,如果有一个利用一个基于神经网络的人脸识别技术来掌控一个绝密的设施的进出权限的系统,Kurakin说道,你只需在你的脸上画一些点就可以只能愚弄它,让它指出你是另外一个人。Goodfellow说道,这种类型的反击完全可以用作任何形式的机器学习算法,不仅还包括神经网络,还包括决策树和反对向量机那些在十几年来仍然甚广热门,协助机器从数据中自学规律的算法。  事实上,他指出类似于的反击早已在现实世界中实践中。

欧帝欧洲杯赛事

他猜测金融公司很有可能正在用于这些漏洞去愚弄竞争对手所用于的交易系统。他们可以假造一些交易,引诱他们的竞争对手以高于现实价值的价格去挤兑股票,他说道,然后他们就可以以较低价格买入股票。  在他们的论文中,Kurakin和Goodfellow通过在一张纸上打印机一个敌对的图像并将这张纸展出给照相机来愚弄神经网络。但他们指出更加微小的反击也可以有效果比如前面的在人脸上特一些像素点的例子。

  Goodfellow说道:我们不确认我们在现实世界中可以做到的是哪些,但我们的研究指出这是有可能的。我们证明了我们可以愚弄照相机,我们指出不存在各种各样的反击途径,还包括通过加到人类看不到的标识来愚弄一个人脸识别系统。

他补足道。  一场难以实现的骗局  虽然这绝不是一件更容易构建的事情,但要愚弄神经网络,你不一定必须告诉它是如何设计或者它是通过什么数据训练的。正如前面的研究展出,如果你能创建一个对抗性样本来愚弄你自己的神经网络,它也有可能也可以愚弄其他处置完全相同任务的神经网络。换句话说,如果你可以愚弄一个图像识别系统,你也许就可以愚弄另一个。

  Kurakin说道你可以用另一个系统去制作一个对抗性样本,而这个样本不会更加有可能愚弄你的神经网络。  Kurakin特别强调,这些是小的安全漏洞。

他说道,在理论上它们是一个问题,但是在现实世界中,精准反击是很艰难的除非攻击者把点按照极致的模式所画在她的脸上,否则什么都会再次发生。然而,这种漏洞是现实不存在的。随着神经网络在现代世界中充分发挥更加大的起到,我们必需空缺这些漏洞。

但怎样做到呢建构更佳的神经网络。  虽然这不更容易,但这项工作正在展开中。

欧帝欧洲杯赛事

深层神经网络的设计理念是仿效大脑神经元的网络,这就是它们被称作神经网络的原因。但归根结底,它们只是一个可观而简单的数学运算层层相叠的微积分公式。

这种公式是由像Kurakin和Goodfellow这样的研究人员重新组建的,而他们都是人类。从本质上来说,他们掌控这些系统,而他们早已在为避免这些安全漏洞绞尽脑汁。  Kurakin说道,有一个自由选择就是把对付样本重新加入到神经网络的训练集里,教教神经网络区别现实的和敌对的图像。

研究人员也在找寻其他的自由选择,但他们并无法确认这些方法究竟是不是效果。归根结底,想要让神经网络显得更佳,我们人类自己首先要不断进步。


本文关键词:不,完美,人脸,识别,系统,也,会被,欺骗,软件,欧帝欧洲杯赛事

本文来源:欧帝欧洲杯赛事-www.bifengchao.com

Copyright © 2008-2021 www.bifengchao.com. 欧帝欧洲杯赛事科技 版权所有 备案号:ICP备54734715号-7

在线客服 联系方式 二维码

服务热线

034-34466110

扫一扫,关注我们