深度神经网络是一个使用数学模型来处理图像和其他数据的多层系统，现已发展成为人工智能的重要基石。深度神经网络的结果可能看起来很复杂，但也可能会产生误导。这种误导可能导致将一种动物误识别为另一种动物，或者将自动驾驶汽车的停车标志误认为是正常进展。休斯敦大学的一位哲学家在发表于《自然机器智能》上的一篇论文中提到了这一点。这些假设问题背后的一般假设是，误导性信息可能会对此类网络的可靠性产生严重影响。随着机器学习和其他形式的人工智能越来越深入地渗透到社会中，它们的使用已开始涵盖从ATM机器到网络安全系统的广泛领域。哲学系副教授卡梅伦·巴克纳（Cameron Buckner）表示，正是这种受欢迎程度使得理解明显错误的根源变得极为重要。研究人员将这种类型的信息称为“对抗性示例”，这意味着当深度神经网络在学习过程中遇到除训练输入之外的信息时，很可能会得出错误的结论并最终触发图像或数据。错误判断。它被描述为“对抗性的”。因为此类问题通常只能由另一个机器学习网络生成或发现。作为机器学习领域中的一项前沿技术，双方将继续提高其能力，并尝试通过更复杂的方法来实现干扰和抗干扰。巴克纳（Buckner）提到：“但是这种对抗有时可能是由于人的误导造成的。因此，为了更好地理解神经网络的可靠性，我们必须对误导问题进行深入研究。换句话说，这种误导性结果很可能是由网络需要处理的内容与所涉及的实际模式之间的某种交互作用触发的。这与传统意义上的误导并不完全相同。 Buckner写道：“了解对抗性整合的含义可能需要探索第三种可能性：至少某些模式是人为创造的。因此，当前的问题是，直接丢弃这些模式可能会损害模型学习，但是直接使用它具有潜在的风险。”除了会导致机器学习系统错误的意外对抗事件之外，它们更有可能是故意的。 Buckner认为这是一个更严重的风险，“意味着恶意攻击者可能会欺骗某些应该可靠的系统，例如安全应用程序”。例如，基于面部识别技术的安全系统可能会遭到黑客入侵。导致侵权行为的出现；或在交通标志上张贴某些图形，导致对自动驾驶汽车的意外误解。先前的研究发现，与人们的期望相反，在使用场景中自然会有一些对抗性示例，也就是说，机器学习系统可能由于偶然的交互作用（而不是由于数据错误）而误解了。这种情况很少见，只能通过其他人工智能技术来发现。但是这些问题是真实的，要求研究人员重新考虑如何区分自然异常和人类误导。实际上，我们对这种类型的人类误导的理解尚不清楚。但这有点像不时出现在相机镜头上的光环，类似于依靠光环来确定照片中太阳的位置。研究人员似乎能够利用这些线索来推断机器学习中的恶意误导性方法。更重要的是，这种新的思维方式还将影响人们在深度神经网络中使用人工产物的方式，其中包括误解性结论不应简单地视为对深度学习无效。他总结说，“一些对抗性事件很可能是人为设计的。为了真正理解深度神经网络的可靠性，我们必须知道技术和工件是什么。