OpenAI推锁定模式强化敏感数据防护

OpenAI上线锁定模式应对提示词注入风险

OpenAI近日正式发布名为“锁定模式”的新安全功能,专为处理机密信息的用户提供强化保护机制,以有效抵御提示词注入类攻击。该功能已在平台全面启用。

多层级控制机制防范输入层面威胁

提示词注入作为当前大型语言模型部署中的核心安全隐患,常被攻击者利用构造诱导性输入,试图绕过系统规则或获取受控数据。锁定模式通过引入额外的输入验证与行为约束层,显著提升模型对异常指令的识别与拦截能力。

尽管技术实现细节尚未完全公开,但官方明确指出,该功能主要面向需管理敏感内容的专业用户群体,涵盖企业机构、科研团队及对数据合规性要求较高的个体使用者。

此举反映出OpenAI在拓展高价值应用场景时所采取的渐进式安全策略——通过增加访问权限与输入校验环节,满足法律、医疗、公共治理等领域对模型可控性的严苛要求。

行业监管趋严背景下加速安全能力建设

此次功能更新正值全球对人工智能行为规范高度关注的节点。数周前,多家头部AI企业负责人联合倡议立法机构加强对生物安全相关技术的监管,警示模型可能被用于生成潜在危险内容的风险。

与此同时,业内竞争对手也在同步强化高性能模型的访问控制体系。年初以来,已有数家机构在预发布阶段实施了更严格的准入审查机制,限制特定能力的开放范围。

在公司战略推进的关键期,增强企业级安全保障能力正成为赢得客户信任与资本青睐的核心竞争力之一。