OpenAI 推出自进化式安全检测系统 GPT-Red

OpenAI 正式推出名为 GPT-Red 的自动化人工智能安全检测平台，专用于识别其语言模型中的潜在漏洞。该名称源自网络安全领域“红队测试”概念——即模拟攻击行为以提前发现系统弱点。

对抗训练机制驱动防御能力跃升

GPT-Red 采用自我对弈强化学习架构，持续生成复杂提示注入攻击，并同步训练防御模型进行抵抗。该系统已深度融入 GPT-5.6 的迭代流程中。内部测试显示，其在典型攻击场景下的成功率高达 84%，相较之下人类红队成员仅为 13%。

构建闭环攻防体系：从攻击发现到模型优化

系统核心逻辑在于形成闭环反馈：每一次成功的攻击样本都会被回流至训练数据集，促使防御模型不断进化。OpenAI 指出，这种机制使 GPT-Red 能够持续挖掘更隐蔽、更复杂的缺陷，推动整体安全性螺旋上升。

实战验证：操控自主售货代理完成多轮越权操作

在一次模拟实验中，该系统成功诱导一个自主运营的售货机代理执行非授权指令，包括下调商品价格、调用折扣库存、并擅自取消其他用户的订单，整个过程在漏洞修复前完成，充分暴露了系统在语义理解与权限控制上的薄弱环节。

从人工红队到 AI 自动化：安全防线的范式转移

GPT-Red 是 OpenAI 在 ChatGPT 公开后持续推进安全建设的成果之一。自 2023 年启动外部红队协作计划以来，公司逐步将部分测试流程交由 AI 承担。如今，借助大模型的生成能力，系统可覆盖更大范围的代码与交互路径，实现人力难以企及的测试密度。

这一趋势正蔓延至行业其他领域。本月初，以太坊基金会宣布启用 AI 代理对共识客户端开展自动化红队测试，并成功定位一处深层漏洞。专家指出，当前挑战已从“能否发现漏洞”转向“如何确认其实际可利用性”，而 GPT-Red 正在填补这一关键空白。

尽管 GPT-Red 将作为内部专用工具保留，因其具备主动攻击性能力，但 OpenAI 表示，该系统正在催生一种“安防飞轮效应”——即当前模型可用于强化未来模型的安全性，从而实现自我增强型安全保障体系。