康奈尔大学研究人员发现“代码中毒”攻击

根据康奈尔大学技术团队在USENIX 安全会议上发布的一项研究，该团队发现了一种新型的后门攻击，这种攻击可以“操纵自然语言建模系统以产生错误的输出并逃避任何已知的防御”，这类攻击被命名为“代码中毒”。该团队表示，通过代码中毒攻击，攻击者不再需要观察代码的执行，也不需要在训练期间或训练后观察后门模型的权重。攻击在模型训练时“即时”合成中毒输入，并使用多目标优化，以在主任务和后门任务上同时实现高精度。