新智元报道来源：aiweirdness、gizmodo编译：肖琴神经网络的专长之一是图像识别。谷歌、微软、IBM、Facebook等科技巨头都有自己的照片标签算法。但即使是顶尖的图像识别算法，也会犯非常奇怪的错误，它只看到它希望看到的东西。同样，即使是非常聪明的人类，也会被算法“愚弄”。今天，只要你生活在互联网的世界，你就可能与神经网络交互。神经网络是一种机器学习算法，从语言翻译到金融建模等各种应用，神经网络都可以发挥作用。它的专长之一是图像识别。谷歌、微软、IBM、Facebook等科技巨头都有自己的照片标签算法。但即使是顶尖的图像识别算法，也会犯非常奇怪的错误。微软Azure的计算机视觉API添给上面这张图添加了标题和标签：一群绵羊在郁郁葱葱的山坡上吃草标签：放牧，绵羊，山，牛，马但这张图上没有羊。我放到最大，仔细检查了每一个点，没有。一片绿油油的草原的特写标签：草，原野，羊，站立，彩虹，男人这张照片也被标记了绵羊。我碰巧知道附近有绵羊，但这张照片没有拍到没有一只绵羊。一个石头山坡的特写标签：山坡，放牧，羊，长颈鹿，牧群这是另一个例子。实际上，神经网络每次看到这种类型的景观时都会产生幻觉。这是怎么回事?神经网络只看到它们希望看到的羊神经网络学习的方式就是看大量的样本。在这种情况下，训练这个网络的人给它提供了很多人工标记的图像——而且这些图像很多都包含了绵羊。神经网络是从没有任何知识开始的，它必须制定关于哪些图像应该被标记为“羊”的规则。看起来它并没有认识到“羊”是指真正的动物，而不仅仅是“在没有树的草地上的东西”。（类似地，它将上面第2张图标记了“彩虹”，可能是因为图上看起来天气潮湿，在下雨，它没有认识到对于“彩虹”来说，“彩色”是必不可少的）。那么神经网络是否过度警惕，到处寻找羊？事实证明，不是。它们只看到它们希望看到的羊。它们很容易在草原和山坡上找到羊，但只要羊开始出现在奇怪的地方，就会明显看出算法依赖于猜测和概率。把羊带到室内，它们就会被贴上猫的标签。你双手抱起一只绵羊（或山羊），它们会被标记为狗。左图：一个男人双手抱着一只狗右图：一个女人双手抱着一只狗把绵羊涂成橙色，它们又变成了“花”。图：草原上一簇簇橙色的花给绵羊戴上项圈，它们就被贴上“狗”的标签。把它们放在车上，它们又变成了狗或猫。如果把羊放到水中，可能最终会被标记成鸟类甚至北极熊。如果山羊爬树，它们就变成了鸟，或者可能被标记成长颈鹿。（由于原始数据集中长颈鹿的图像过多，导致微软Azure在各种图片上都能看到长颈鹿。）NeuralTalk2：一群鸟在天上飞MicrosoftAzure：一群长颈鹿站在一棵树旁问题在于，神经网络是“匹配模式”（matchpattern）工作的。它们如果看到有类似动物毛皮的东西，有一大片绿色，就得出结论说有“羊”。如果它们看到有毛皮，有厨房的样子，可能就会得出结论说有“猫”。如果生活按常规运行，这一套图像识别方法的效果很好。但是，一旦人们——或羊们——做出了意想不到的事情，这些算法就会显示出它们的弱点。想要骗过神经网络可能很简单。也许未来的特工会穿成小鸡的样子，或驾驶伪装成牛的外观的汽车。作者JanelleShane在推特上搜集了许多有趣的绵羊图片，你可以用微软Azure的图像识别API亲自测试一下，看看即使是顶尖的算法都依赖于概率和运气。谷歌新研究：人类也会被算法愚弄“愚弄”神经网络有很多例子，但是即使是自以为聪明的人类，也有可能被算法愚弄。最近谷歌大脑有一项研究，在图像识别中让机器和人类双双上当。图：新算法将一只猫变成了AI和人类都可能识别成狗的东西。Image：GoogleBrain谷歌大脑的计算机科学家设计了一种技巧，可以在图像识别时欺骗神经网络——这个攻击也对人类起作用。所谓的“对抗”（adversarial）样本可以用来同时欺骗人类和计算机。谷歌大脑开发的这一算法可以对图片进行调整，使视觉识别系统无法正确识别它们，往往将它们误认为是别的东西。在测试中，一个用于分析和识别视觉图像的深度卷积网络（CNN）被愚弄了，例如，将一只猫的图片识别成一只狗。左边是未修改的原图。右边是修改后的“对抗”图像看起来像一只狗。Image:GoogleBrain令人着迷的是，人类也同样被欺骗了。这一发现表明计算机科学家正在逐渐接近开发像我们一样看世界的系统。然而，更令人不安的是，这也意味着我们将在欺骗人类方面做得更好了。GAN提出者IanGoodfellow也参与的这项新研究在arXiv上发布了（
转载请注明：http://www.abachildren.com/sstx/8446.html
联系电话：