印度央行拟强制AI模型紧急关停机制
印度央行推出AI风险监管框架:强制部署紧急停用机制
印度储备银行(RBI)正式发布人工智能与机器学习模型风险管理指导方针草案,旨在构建覆盖金融机构全业务链的风险治理结构。该框架明确要求所有受监管机构在部署人工智能系统时,必须配置可立即触发的暂停与终止机制,以应对模型输出异常或产生潜在危害的情形。
模型全周期登记与分级评估制度启动
为实现对各类智能系统的有效监控,监管方提出全面的模型注册制度,涵盖从基础数据处理工具到前沿生成式人工智能的全部应用形态。所有模型须在使用前完成备案,并按其影响范围与复杂程度被划入不同风险层级,定期开展风险评估。一旦识别出超出容忍限度的隐患,机构须立即采取纠正措施,包括强化控制、调整参数,直至彻底禁用该模型,并提交详尽的决策说明报告。
高风险模型需董事会审批,人工监督成硬性要求
根据草案设计,所有被归类为高风险的模型必须获得董事会下属风险管理委员会的正式批准方可上线。此外,每项模型运行均须接受持续的人工干预与复核,确保算法行为不脱离人类判断范畴。尤其对于涉及客户交互的系统,监管强调必须实施透明化披露,告知用户其正在与自动化系统互动,并提供随时切换至人工服务的选项。
第三方供应商纳入全链条责任体系
无论人工智能模型是内部研发还是外部采购,银行均需承担最终责任。监管特别指出供应链集中带来的系统性风险,警惕过度依赖少数国际厂商所引发的脆弱性问题。所有外部引入的模型必须经过独立验证程序,并设定可解释性的量化标准——即在关键决策环节,能以非技术语言阐明模型输出逻辑,防止‘黑箱’操作导致误判。
目前,该草案正处于公开征求意见阶段,截止日期为7月24日。此举标志着印度央行首次构建起面向整个金融业的、具备董事会层级问责机制的综合性人工智能治理框架,预示着金融行业智能化进程正迈向规范化与可控化新阶段。
一分钟读懂:印度储备银行发布人工智能风险管理草案,要求金融机构建立覆盖全生命周期的AI风险管控体系,包括强制性紧急停用机制与董事会级问责架构,推动金融系统智能化转型中的安全边界建设。
