基于神经网络的后门攻击 下载:270 浏览:2963
陈丹 张丽
《神经科学研究》 2022年5期
摘要: 现如今人工智能可谓是最热门的领域,随着人工智能和机器学习不断发展,以神经网络为基础的深度学习模型也日益强大起来,深度神经网络的安全问题也变得越来越重要且逐渐受到了广泛关注。然而,神经网络的特质导致其与生俱来存在安全隐患,经过特别处理后的样本数据在输入深度模型后,会导致错误的分类。目前攻击方式变化多端,另外由于攻击的成本变得越来越低,深度学习模型受到了前所未有的挑战,对各种商业应用来说也是极具威胁的。本文主要介绍了神经网络的后门攻击概念、攻击场景、攻击的种类。