“要清醒看到，人工智能的算法‘黑箱’、数据污染、模型缺陷等潜在风险问题不容忽视。”中国财富管理50人论坛理事长、原银监会主席、证监会原主席尚福林尚福林在4月10日举行的国民财富发展研究合作平台2025春季峰会上表示。
尚福林特别提到，在金融行业应用时，应关注人工智能带来的效率提升与风险加剧的双重效应。
尚福林提到两点措施：一方面，在技术上强化垂直领域的专业性，在技术基座基础上针对金融行业特点进行精细训练，对生成内容及时进行交叉验证，提升模型的准确性和可靠性。另一方面，监管机构应密切关注人工智能技术在金融领域的应用动态，增强对智能算法风险的穿透式分析能力，健全智能算法的规则制度，提升算法可解释性、透明性、公平性和安全性。
人工智能对依托密集的物理网点和客户经理的中小银行冲击最大
回顾金融业发展历程，经历了信息化、数字化、智能化全过程，金融业始终走在技术变革前沿。如今越来越多的金融机构正在探索应用人工智能，加快数字化转型。
相关部门也出台了一系列政策和规划，推动技术的应用与创新。《金融科技发展规划（2022-2025年）》提出，抓住全球人工智能发展的新机遇，全面推进智能技术在金融领域的深化应用。人民银行不久前召开2025年科技工作会议特别提到，加快金融数字化智能化转型，安全稳妥有序推进人工智能大模型等在金融领域应用。
尚福林指出，各方对于人工智能在金融业推进充满了期待。以生成式人工智能为例，它的对话、创作、推理三大核心能力，非常契合金融行业需求。可以预见，人工智能将对金融业产生深远影响。
一是增强交互体验。大语言模型利用自然语言处理技术，实时回答客户问题，提供个性化的服务建议，极大地提高了客户服务效率，减少了人工客服的工作量和成本。
二是全面分析“画像”。在信贷业务中，人工智能通过挖掘分析消费习惯、交易行为等非结构化数据，分析借款人的各种特征、评估还款意愿，通过动态风险评估替代静态抵押，实现风险评估从“静态指标”向“动态画像”的转变；推动风险定价从“经验主导”向“数据+算法”驱动转变。此外，逻辑推理模型通过交易行为数据中的异常逻辑链检测等策略，加上生物信息识别技术，在反洗钱、反金融欺诈等方面发挥了较好效果。
在金融市场上，通过机器学习算法，更高效地进行市场分析和投资决策。国际货币基金组织（IMF）最近一期发布的《全球金融稳定报告》分析了人工智能在提高投资和资产配置的效率、帮助完善组合投资框架、改进回报预测方面的作用。根据市场研究机构估算，2024年全球智能投顾管理的资产规模已突破2万亿美元，较2023年增长超过30%。
同时也要看到，人工智能正在改变传统物理服务模式，对依托密集的物理网点和客户经理的中小银行冲击最大。对这方面的影响还需要进行深入的研究。
关注人工智能提升效率与加剧风险的双重效应
在尚福林看来，当前，我国人工智能发展的总体态势良好，正处在加强人工智能布局、加快数字化智能化转型的历史机遇期。算力、算法和数据是大模型应用的三大支撑要素。
“同时也要清醒看到，人工智能的算法‘黑箱’、数据污染、模型缺陷等潜在风险问题不容忽视。”尚福林表示，特别是在金融行业应用时，应关注人工智能带来的效率提升与风险加剧的双重效应。
一是算力效率的提升是基础。大模型需要依托由高性能计算芯片、存储和网络共同构成算力集群。硬件投入大、训练成本高一直是在行业普及应用的重要制约因素。特别是中小银行科技投入能力明显不具优势。这种局面随着DeepSeek的出现，通过算法优化，减少了对高算力硬件的依赖，打破了“堆算力、拼资本”的大模型发展路径。大大减轻了金融机构特别是中小机构的资本投入压力，为弥合技术差距提供了机会。
二是数据安全可靠与隐私保护是关注焦点。人工智能让数据的应用价值凸显，也让数据的安全防护变得更加复杂。
一方面，持续加强数据的隐私安全保护。金融机构和科技企业需要共同研究数据在采集、存储、传输和使用过程中的安全性问题。要在保障安全和隐私前提下，推动金融与公共服务领域信息互联互通，释放数据要素潜能。
另一方面，关注数据污染。金融机构每天都在处理海量的数据和复杂的交易，信息的准确性和可靠性至关重要。在金融行业，信息污染风险同样存在。如果虚假信息被灌入训练模型，有可能污染模型的训练数据。一旦部署到金融交易、风险分析当中，可能会引发连锁反应，造成难以估量的损失。
三是提高模型算法的透明性和可解释性是关键。深度学习模型目前还存在不可解释性，输出的结果难以解释和追溯，增加了监管的难度。训练数据中的偏差会导致算法输出的不公平或错误。人工智能工具是根据过去的数据进行训练的，可能无法准确反映现实和预测未来。人工智能驱动的高频交易提升市场反应速度的同时，也放大了波动性。当多数人工智能策略采用相似风险模型时，这种同质化响应可能会加速放大负面反馈循环，进而加剧金融脆弱性。此外，需要强调一点，在模型训练中，还要充分体现国家的政策导向和相关要求。
尚福林称，需要积极采取措施。一方面，在技术上强化垂直领域的专业性，在技术基座基础上针对金融行业特点进行精细训练，对生成内容及时进行交叉验证，提升模型的准确性和可靠性。另一方面，监管机构应密切关注人工智能技术在金融领域的应用动态，增强对智能算法风险的穿透式分析能力，健全智能算法的规则制度，提升算法可解释性、透明性、公平性和安全性。
相关文章：
陈茂波：若海外上市中概股希望回流 必须让香港成为它们首选上市地04-14
先行指标看经济丨投资回暖 消费市场“春意盎然” 重点领域建设提速04-12
方达合伙人详解：特朗普2.0时代，企业如何重构全球供应链04-11
广东发布中小学人工智能教育方案04-11
霜冻+大风+扬沙！两部门联合发布设施农业气象灾害风险预警！04-11
金价逼近1000元/克！04-11