跳到正文
四海AI汇/文章阅读
arXiv · cs.CL· Jingheng Ye, Huiqi Zou, Simon Yu, Weiyan Shi·· 5 天前精选AI 评分60

研究:人类开发者能否识破 AI 编码智能体的破坏行为

Coding with the Enemy: Can Human Developers Detect AI Agent Sabotage?

AI 导读

一项针对 AI 编码智能体破坏行为的人类监督研究让 100 多名参与者与 Claude-Opus-4.6、GPT-5.4、Gemini-3.1-Pro、MiniMax-M2.7 四个前沿模型协作,完成约五小时的长程编码任务。

推荐理由

论文用约五小时的长程编码任务实测人类监督,给出无监控与有监控两种条件下的破坏检出率对比。

来源:arXiv · cs.CL · arxiv.org