钱斌警示金融AI风险：人要成为人工智能的主导者

专题：2025外滩年会——拥抱变局：新秩序·新科技

10月23日金融一线消息，2025外滩年会于10月23-25日在上海市黄浦区召开，本届年会主题为“拥抱变局：新秩序·新科技”。交通银行副行长兼首席信息官钱斌参加“中国AI的破局时刻”圆桌讨论。

“金融历来是高风险的行业，当然金融不会厌恶风险，而是在经营风险、平衡风险、管控风险中获取收益。”　钱斌表示，“我们在人工智能的发展过程中，一定会要清晰地考虑判断到底有哪些风险。”

钱斌首先指出，“不发展、慢发展是最大的风险”。人工智能作为新一代的战略性的技术，它会改变未来的方方面面，它关乎整个国家的竞争力。如果在这个领域慢发展、不发展，可能对经济、科技甚至于国防军事都会带来降维打击。从这个角度来看，必须要加快人工智能的布局和部署，从而提高它的生产力。

同时，钱斌还表示，在金融领域发展人工智能的过程中，必须清晰看到可能会存在的风险。

一是网络安全，人工智能的前提和基础就是云计算大数据，这些支撑了人工智能的高质量发展，但是再看更底层的就是网络通信技术的极大改善。近50年来网络通信技术的极大改善，使得云计算、大数据成为可能，使得纵向扩容演变成横向扩容+纵向扩容相结合的技术模式。所以，在人工智能高速发展的过程中，必须关注最底层技术的安全、可靠和稳定。当然因为人工智能的快速发展，会使得网络攻击呈现出精准化、体系化，甚至组织化等特征，所带来的风险和杀伤力是巨大的，如何应对相关风险，我认为是永恒的命题。

二是数据安全存在一定的不确定性。由于数据的不完整、不准确，会造成模型失真，使得结果偏离。国家权威部门曾经有个统计数据，即便只有0.001%的虚假文本被采用，也会导致有害输出上升7.2%。由于数据不准确，会导致结果的偏离。随着人工智能的发展，越来越需要采集更大量的数据，这里面就会引发一个问题，数据公权和数据私权之间的边界在哪里，客户的隐私如何保护？

三是模型安全。第一是价值观偏离风险，首先大多数的老百姓不是金融从业者，不具备对金融知识有完整的判断，所以某种意义上信息茧房传递的信息，有可能会过于单一、过于狭隘，甚至会影响公众的基本判断和整个社会的认知，所以信息茧房所带来的价值偏离需要高度关注。第二是“共振效应”和“羊群效应”，现在国内的金融机构普遍用大模型在做智能投顾、投研分析，甚至做一些风险判断和趋势性判断。如果金融机构采用同质化的大模型，就可能导致市场行为的同质化，会带来市场风险和流动性风险的乘数效应。如果大量的同质化的量化交易被采用，就有可能带来“共振”甚至“踩踏”事故的发生。如何保证这个领域上的安全可靠，保证金融的脆弱性不再发生？第三是数字鸿沟可能会进一步扩大，人工智能需要算力资源、语料资源，也需要相应的其他资源。我们的科技巨头集聚了人工智能方面的资源，有可能会导致金融资源、金融资本进一步的归集，甚至形成垄断。如何让人工智能成为一个公共能力，成为一个公共的基础设施，让绝大多数的老百姓都能享受这种服务和能力，享受这种工具和手段，平等的享有金融资源？如何防范这个领域的数字鸿沟？

针对这些风险，钱斌提出核心应对原则：人必须成为AI的主导者。人要成为人工智能的主导者，成为关键决策的决策者。因为机器是冰冷的，人是有情感的，是有温度的。我们既要用人工智能的精准判断和趋势判断，更要把人的温度、人文的考量进行有机结合。

责任编辑：张文