DEF CON将举办大语言模型黑客马拉松

9日消息，计划于8月10日至13日在美国拉斯维加斯举行的安全会议DEF CON将举办大语言模型黑客马拉松，邀请黑客在Anthropic、Google、Hugging Face、Nvidia、OpenAI和Stability等公司开发的大语言模型中挖掘、寻找bug。组织者将这次活动形容为AI模型组至今最大规模的红队演习，预计会有数千人参加。参加者除了寻找传统的程序bug，还有大模型专有问题，如偏差（bias）、幻觉（hallucination）和越狱（jailbreak）。