跳到正文
四海AI汇/主题

技术方向

安全对齐 最新动态

让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。

21 条精选近 30 天 21 条共收录 252 条

更新

精选归档 · 第 2 页

10月14日周三第 21–21 条
  1. Google DeepMind78

    Google DeepMind 详解 Gemini 4 Argon 的安全与责任开发

    Google DeepMind 发布 Gemini 4 Argon 的安全与责任开发说明,并开始广泛推送该模型、扩大 Fairwind Program 的受信任网络安全防御者范围。文中称 Argon 在 12 个端到端模拟网络攻击场景中全部通关(上一代为 5 个),对抗测试中的违规行为减少近两倍,在 Gray Swan 间接提示注入基准上 15 次自适应攻击的成功率降至 0.7%。

    推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物滥用防护、失准监控和提示注入防御上的具体测试数据与机制。