Deep Neural Lesion：深度神经病变一比特摧毁大模型

这项研究介绍了一种名为 Deep Neural Lesion (DNL) 的攻击方法，通过仅修改深度神经网络（DNN）中极少数的参数符号位，便能引发模型的灾难性失效。该方法极其高效且具有隐蔽性，因为它无需任何训练数据或复杂的优化过程，仅凭参数权重大小和网络层级位置即可锁定关键点。研究表明，在图像分类、目标检测及大语言模型等多个领域，仅需翻转一两个比特位，就能使 ResNet-50 或 Qwen3 等顶尖模型的准确率几近清零。实验进一步揭示，早期网络层的参数对模型性能至关重要，破坏这些“神经病灶”会导致错误信号在后续层级中剧烈放大。此外，作者还提出了一种增强版的 1P-DNL 策略，通过单次随机输入的前后向传播，能更精准地识别并摧毁模型的关键架构。这项工作强调了保障模型参数存储安全的重要性，并建议通过针对性保护这些脆弱比特位来提升系统的防御能力。