欢迎光临
我们一直在努力
        找回密码
当前位置：171主机测评 > 服务器技术 > 正文

2025_NIPS_Defending Pre-trained Language Models as Few-shot Learners against Backdoor Attacks

2026-06-19 分类：服务器技术 阅读(52) 评论(0)

一、文章主要内容总结

该研究聚焦于提示学习范式下，作为少样本学习者的预训练语言模型（PLMs）面临的后门攻击防御问题，核心内容如下：

  • 问题背景：提示学习使PLMs无需重训练即可通过少量样本适配下游任务，但该场景下的安全风险尚未被充分探索。现有后门防御方法多针对微调范式设计，依赖充足训练数据和计算资源，无法适配少样本场景的独特挑战（数据稀缺、与提示的复杂交互、计算能力有限）。
  • 核心发现：少样本场景中，PLMs极易遭受文本后门攻击——攻击者通过注入含“触发器”（如罕见词、特定句子）的毒样本，使模型在推理时将毒样本误分类到目标类别，而现有防御效果极差。
  • 防御方案（MDP）：提出掩码差分提示（Masking-Differential Prompting, MDP），一种轻量、可插拔的防御方法。其核心逻辑是：毒样本对随机掩码更敏感（触发器被掩码后，模型预测概率波动显著），而干净样本的掩码敏感性较低。MDP以少量少样本数据为“分布锚点”，通过对比样本在不同掩码下的表示变化，识别毒样本；还可通过优化提示提升干净样本的掩码不变性，进一步增强区分能力。
  • 理论与实证验证：
    • 理论上，MDP使攻击者陷入“攻击有效性”与“躲避检测”的两难困境——提升攻击效果需增强触发器影响，却会提高掩码敏感性，更易被检测。
    • 实证上，在5个基准数据集（SST-2、MR等）和5种代表性攻击（BadNets、AddSent等
    • 赞(0)
    未经允许不得转载：171主机测评 » 2025_NIPS_Defending Pre-trained Language Models as Few-shot Learners against Backdoor Attacks
    分享到： 更多 (0)
    标签：

    相关推荐

    评论 抢沙发

    取消

    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址

    热门标签

    #人工智能(58098)#python(19754)#开发语言(16622)#java(15267)#运维(15186)#linux(14813)#大数据(14379)#服务器(12937)#算法(11647)#前端(10709)#网络(9240)#数据库(8777)#ai(8696)#c++(8074)#课程设计(6767)#学习(6669)#机器学习(6622)#区块链(5853)#OpenClaw(5379)#后端(5075)#spring boot(4966)#深度学习(4859)#c语言(4330)#毕业设计(4280)#数据结构(4158)#安全(3972)#docker(3902)#架构(3782)#javascript(3767)#大模型(3606)

    热门文章

    最新文章

    归档

    分类