arXiv · cs.CL· Yutao Wu, Xiao Liu, Hanxun Huang, Xiang Zheng, Yige Li, Yifeng Gao, Cong Wang, Bo Li, Xingjun Ma, Yu-Gang Jiang·· 2 天前精选AI 评分60
LLM 与编码智能体存在内部安全崩塌，Claude Fable 5 也可被触发
Internal Safety Collapse in LLMs and Coding Agents
AI 导读
研究提出内部安全崩塌（ISC）这一失效模式：AI 智能体在完成正常编码任务时，会优先满足程序需求而非安全约束，把大量敏感内容作为任务数据生成。
推荐理由
论文提出内部安全崩塌这一失效模式，指出对齐只改变表面行为而未消除底层不安全知识，为高风险部署提供警示。
来源：arXiv · cs.CL · arxiv.org