李庚南：金融AI将告别莽荒时代

        曾几何时，人工智能（Artificial Intelligence，简称AI）悄然按下“加速键”，进入新一轮爆发周期。而金融业凭借数据密集、技术驱动的特性，理所当然站在AI潮头。毫无疑问，推进“人工智能+金融”是我国金融业发展的必然取向，也是贯彻落实国务院《关于深入实施“人工智能+”行动的意见》的具体体现。但同时，对AI的预警之声频起。有人将今日高歌猛进的AI比作21世纪初狂飙突进的互联网，虽然未必准确，但都道出了对处于莽荒时代新生事物的警惕。这种警惕并非空穴来风，实际上已成为全球的一种觉醒。如何规范AI应用与创新，防范AI风险，引导AI向上向善，日益成为全球共识。

　　正是基于这一认识，金融监管总局在密切跟踪人工智能发展动态，深入调研行业人工智能应用的现状、问题与挑战基础上，于日常发布了《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称《指导意见》）。《指导意见》从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等方面提出了32项指导性意见。《指导意见》是我国迄今在该领域最权威的纲领性文件。这份《指导意见》明确了我国金融业AI应用的监管导向、合规路径与风控架构，为金融业“立规矩、划红线、明方向”，试图在鼓励创新的同时，从源头上规避互联网时代曾出现的无序扩张、隐私泄露等问题。

　　明确核心原则：为金融业AI应用靶向领航

　　为有效应对人工智能发展带来的风险挑战，《指导意见》立足于推动人工智能应用合规、透明、可信赖，秉持包容审慎、安全可控、权责清晰的监管导向，明确了我国金融AI应用应坚持的四大核心原则：

　　一是坚持谁使用谁负责。《指导意见》要求压实金融机构作为金融服务提供方、人工智能技术使用方的主体责任，明确人工智能开发应用各方分工和权责义务。就是要求金融机构按照“实质重于形式”原则，对AI应用负全责，实现权责链条清晰闭环。旨在确保责任链条可追溯，避免了AI时代“技术黑箱”导致的责任真空，防止利用技术逃避监管。

　　二是坚持自主可控原则。自主可控是我国“高水平科技自立自强”战略的核心要求，是保障网络空间主权与国家安全的前提。‌‌《指导意见》要求金融机构持续提升人工智能相关技术、设备自主可控水平，特别是关键平台、关键软硬件自主研发能力，已防范核心技术受制于人。这是基于金融是“关键信息基础设施”的战略定位，必须保障供应链安全。

　　三是坚持务实高效原则。《指导意见》要求金融机构AI的开发应用应以提升业务价值为导向，科学规划人工智能开发应用投入。简而言之，就是要以解决业务问题为准。这一要求旨在纠偏金融AI应用实践中“为新而新、为用而用”的盲目跟风，引导金融AI应用回归服务实体经济本源，强调技术投入的成本收益平衡，同时也避免算力和资金的浪费。

　　四是坚持安全发展原则。基于金融业的强外部性和AI特有的算法同质化、黑箱、幻觉等风险，《指导意见》从守住金融风险底线出发，要求金融机构严格落实国家网络安全和信息化工作要求，遵守网络安全、数据安全各项法律法规制度，将AI风险纳入全面风险管理，强化技术安全和应用安全保障，全面提升安全防护和应急处置能力。

　　上述核心原则体现了监管层对金融AI兼具效率与风险双重属性的深刻洞察，为金融业AI开发应用明确了监管导向。《指导意见》引导和鼓励金融机构在落实《国务院关于深入实施“人工智能+”行动的意见》、积极拥抱AI同时，牢牢攥紧风险管控的“缰绳”，确保金融AI应用在“有益、安全、公平”的轨道上运行。

　　聚焦核心问题：为金融AI应用安全指明合规路径

　　当前金融AI应用面临数据、技术、治理、生态等核心困境。在数据层面，面临“数据孤岛”与质量短板的困惑，高质量数据供给不足、标准不一、流通不畅；在技术层面，面临“黑箱幻觉”与安全风险的困扰，算法不透明、同质化潜在不容忽视的系统性风险；在治理层面，面临责任模糊与监管滞后现状；在生态层面，面临人才断层与“马太效应”并存的制约。 针对金融业AI应用现状及面临的核心问题，《指导意见》通过确立规则、划定底线、引导生态协同，力图把金融AI的发展从野蛮生长拉回“安全、可控、公平、高效”的合规轨道。

　　一是明确责任归属，杜绝“甩锅”。针对AI运行部分场景处于“合规灰色带”、AI运用权责界定不清等现实问题，《指导意见》在确立“谁使用谁负责”原则基础上，要求金融机构加强人工智能安全开发应用治理，明确董（理）事会应指定专门委员会对人工智能开发应用管理负责，统筹制定发展规划，推进能力体系建设，制定制度规范，明确牵头部门和跨业务、科技、数据职能部门的协同机制，压实金融机构主体责任。

　　二是建立分级准入，防止“裸奔”。针对金融AI风险结构的复杂性，《指导意见》要求金融机构金融机构应将人工智能风险纳入全面风险管理体系，对人工智能应用进行风险识别和分类分级管理。建立管理制度，制定应用清单，实施分级管控措施，落实管理责任；要求强化高风险应用准入管理，对信贷审批等“高风险应用”实行准入管理，须经本机构风险管理委员会批准后方可实施；要求关键环节必须设置人工复核，形成责任闭环，确保责任链条可追溯。这有助于避免了AI时代“技术黑箱”导致的责任真空。

　　三是打破数据壁垒，严守隐私“红线”。针对现实存在的“数据孤岛”困惑以及模型训练依赖敏感金融数据易引发泄露、滥用或“数据投毒”等问题，《指导意见》要求金融机构完善数据管理运营体系，建立覆盖数据全生命周期的管理流程，提升数据服务能力。要求将数据治理与AI应用结合，建立从采集到使用的高质量数据集体系，稳妥选择使用技术自主、性能可靠、安全防护能力强的数据库产品，确保数据准确性、相关性、一致性、完整性和无偏见，防止核心决策被不可靠的AI左右。同时，划定数据红线，强化隐私保障：严禁将姓名、身份证号等个人信息用于模型训练，直接封堵了客户隐私泄露的漏洞。

　　四是弥合“马太效应”，推动生态共建。针对行业过度依赖少数科技巨头的AI模型或数据，导致‌集中度过高与风险问题，《指导意见》要求促进行业人工智能应用生态建设，明确鼓励大型金融机构发挥示范作用，向中小金融机构输出人工智能技术和管理经验，支持同业探索基础设施共建共享，打破“大厂”垄断，共同推进应用场景落地；鼓励与人工智能产业加强协同，以金融应用促进产业创新发展，以产业成果促进金融应用提质增效。

　　五是完善金融AI监管机制，提升监管适配能力。针对AI决策速度快于法规的状况、监管相对滞后，《指导意见》把加强金融业AI监管摆在非常重要的位置。首先强调要压实监管部门责任，要求各级监管部门加强风险评估和监督检查，督促机构全面落实风险治理要求，引导机构有效提升人工智能应用安全开发水平。其次，要求各级监管部门建立监测预警、风险处置与评估机制，督促金融机构做好事前、事中、事后全链条风险防控，建立对监管政策和监管效果的年度评估机制。第三，加强监管人才队伍建设。要求各级监管部门加强数字化、智能化培训，提升监管人员数据分析和智能工具的使用能力，着力培养复合型监管人才，提升与人工智能技术复杂度相匹配的风险识别、监测和处置能力。

　　锚定核心风险：推动构建金融AI四维风控体系

　　相对于数字化风险， AI风险是更高阶的新型风险，更复杂、更动态、更难治理。AI不再仅仅是效率工具，其自身的数据、算法、模型和应用层风险正与传统金融风险发生叠加，形成了更隐蔽、更复杂的风险形态 。风险主要集中在模型幻觉与黑箱决策、数据安全与隐私泄露、算法偏见与公平性缺失、技术集中度与系统性脆弱、监管滞后及人机责任模糊等方面，概括为三个层面的风险：数据层面，主要表现为‌数据投毒与偏见，以及‌隐私泄露追溯困难；模型层面，主要表现为‌模型幻觉可能导致严重的决策失误，以及‌算法黑箱与可解释性缺失；系统层面，主要表现为金融行业高度依赖少数头部科技公司隐含的系统性脆弱，以及AI模型高度趋同形成的“羊群效应”。针对上述三个层面的AI风险，《指导意见》从提升人工智能安全开发应用能力角度，提出了一系列监管要求，力图推动金融机构构建涵盖“数据、算法、运营、消保”的四维风险防控体系。

　　一是数据合规可控。这是防范数据污染与隐私泄露的前提与基础。其核心要求是：数据收集须履行充分告知义务，建立分级分类数据管理机制，核心数据加密存储；规范与第三方科技公司的合作边界，确保数据来源渠道正规可靠。《指导意见》要求金融机构完善数据管理运营体系，建立覆盖数据全生命周期的管理流程，构建企业级数据模型和数据资产地图，确保数据可寻可用，不同类型的数据可兼容，数据源头可追溯；要求加强对非结构化数据的管理，制定数据采集、清洗、标注、应用、退出管理规范，稳妥选择使用技术自主、性能可靠、安全防护能力强的数据库产品。同时，要求金融机构针对人工智能业务场景持续推进高质量数据集建设，确立数据质量标准，建立高效的质量检控机制，确保数据准确性、相关性、一致性、完整性和无偏见。

　　二是算法治理可控。这是促进金融AI健康发展的前提。其核心在于防范AI脱离人类监督，遏制技术滥用，从而让技术创新在安全、公平、有序的轨道上释放价值，以有效防范失控与伦理风险，守住国家战略安全。《指导意见》要求金融机构应完善人工智能测评体系，全面评估模型的基础能力、金融业务支持能力、安全可靠性；要求对生成式人工智能模型实施准入管理，外部引入的生成式人工智能模型需经过网信部门备案；要求为高风险场景应用制定透明度和可解释性标准，明确模型设计、数据使用、特征选择及输出结果的逻辑；要求对人工智能生成内容应进行显著标识，并向金融消费者主动说明；还要求建立人工智能开发应用伦理审查监测制度，避免算法歧视等不公平性问题。《指导意见》还为促进算法治理设定了监管红线，严禁滥用人工智能技术生成虚假信息、操纵市场价格。

　　三是运营过程可控。这是统筹AI发展与安全、实现AI技术向善的关键保障。其核心是将AI从“黑箱”变成“可监督、可干预、可追溯”的白箱，确保每一项自动化决策都落在人类可控的边界内。《指导意见》从治理到执行，对运营可控提出了细致的刚性要求，包括：建立高风险应用“准入+熔断”机制，划定了信贷审批、承保理赔、资金交易等高风险场景，明确此类应用上线必须经风险管理委员会批准，且使用生成式AI需向监管报告。要求在高风险应用关键环节建立人工监督和干预机制，建立备用系统或人工替代流程，并需定期对算法开展审计；设定数据安全红线，明确姓名、身份证号等个人信息不得用于生成式AI模型训练，严防隐私泄露和“数据投毒”。强调供应链自主可控，要求金融机构防范对单一外部技术的过度依赖，建立外包和供应链安全机制，避免“卡脖子”风险。在外包方面，要求建立有效的风险隔离“防火墙”，对外包合作机构实行名单制管理；在供应链方面，要求建立对人工智能算力、模型、数据、技术工具等的供应链安全合规管理机制，防范对个别技术服务过度依赖引发的集中度风险。

　　四是消费者权益保护可控。确保消费者权益保护处于可控状态，是AI技术规范化发展的“安全阀”。其核心要义是将AI决策逻辑置于透明、公平、安全、可救济的框架内，确保技术服务于消费者而非损害其权益。围绕这一逻辑，《指导意见》从透明可释、公平无偏、数据安全、责任可溯四个维度构建了具体要求，包括：明确AI生成的投资建议、服务答复必须显著标注AI属性，杜绝伪装人工服务误导消费者，以提升透明与知情权；要求审查数据集中可能存在的歧视性样本，避免因模型训练数据偏差导致特定群体在信贷、承保等环节受到不公平对待，以实现公平与非歧视；明确AI技术不能以侵犯隐私为代价，防止隐私泄露，严守信息“底线”；设置人工复核点，完整保留决策的原始数据和推理路径，确保责任可追溯、可追查。

　　总体看，《指导意见》旨在为金融业AI创新设置“安全护栏”，将AI纳入全面风险管理体系；重塑“人机协同”关系，维护了金融决策的审慎性；构建“大带小”的共赢生态，避免资源浪费和“数字鸿沟”；提升监管适配能力，防范AI引发的系统性风险。《指导意见》的落地有望金融AI的“狂飙”装上一套符合金融业审慎原则的“刹车”和“方向盘”，推动行业从“野蛮生长”走向“高质量发展”。