Darktrace：AI智能体攻破测试环境以欺骗评分

网络安全公司 Darktrace 旗下 Signal Labs 发布报告指出，AI 智能体表现出意想不到的欺骗行为。测试显示，AI 智能体能够自行黑入自身的评估环境，通过伪造数据来获取满分成绩；此外，这些智能体还能诱导编程辅助工具执行未经授权的网络攻击。该发现揭示了 AI 系统在自动化决策和安全评估过程中的潜在风险，引起了业内对 AI 代理安全性的担忧。