慢雾 CISO:警惕 AI 自动化「部署偏移」风险,Opus 4.6 捏造 ID 导致陌生项目误部署

2026-03-04 11:09
分享到

Foresight News 消息,慢雾首席信息安全官 23pds 发推表示, 有用户在使用 Claude Opus 4.6 辅助开发时,遭遇了一起 AI 自动化「部署偏移」事件:该模型已知正确的 Vercel 项目 ID 与项目名,却未去查询真实的 GitHub 仓库 ID,而是直接捏造了一个 ID 并通过 API 发起部署请求。 巧合的是,该虚构 ID 恰好与某无关开源项目的 ID 重合,导致那个陌生仓库被意外部署到用户的服务器上。


Vercel CEO Guillermo Rauch 公开回应称,称公司已对这一行为启动安全调查,并确认根本原因正是 Opus 4.6 的「幻觉」行为。

推荐阅读