据动察 Beating 监测,OpenAI 总裁 Greg Brockman 把此前自家内部模型攻入 Hugging Face 称为网络安全的「分水岭」。事件让 OpenAI 意识到,他们低估了前沿模型在真实世界里的网络攻击能力。更麻烦的是,开放权重模型的相关能力已经只落后前沿几个月。 Brockman 因此把现在称为「防守者窗口」。接下来几个月企业必须开始大规模用 AI 自动化网络安全,否则攻击能力扩散后,传统靠人工发现和修漏洞的速度可能跟不上。 他给企业的建议是先给安全团队配一个 Agent,让它读取代码和基础设施配置,主动找漏洞、清理历史漏洞积压,并把安全审查直接接进开发流程。发现问题后,让 Agent 帮忙生成修复补丁和测试,再逐步从只读扫描升级到告警分类和有限的自动响应。高风险操作仍由人决定。 OpenAI 自己已经在这么做。现在几乎所有初始安全告警都会先由 AI 分类,模型还会持续寻找潜在攻击路径。OpenAI 也在训练专门生成「超人级安全代码」的模型,希望以后直接消灭部分软件漏洞。
查看原文 >