国家统计局何强：警惕“AI+金融”模式下99%可靠性背后的1%风险隐患

（原标题：国家统计局何强：警惕“AI+金融”模式下99%可靠性背后的1%风险隐患）

2024年12月26日，国家统计局统计科学研究所首席统计师何强在第九届新金融论坛上谈到了关于“人工智能（AI）+金融”模式的思考。

何强表示，当前，以ChatGPT（聊天生成式预训练模型）等大模型为代表的人工智能技术，其运作原理被形象地描述为“暴力出奇迹”。程序员通过为模型配置大量参数并输入海量数据，迫使人工智能学习并完成任务。当效果不尽如人意时，常见的做法是继续增加数据以进行训练。人工智能的广泛部署产生了更多新数据，这些数据随后被用于下一轮的训练，使得技术与数据之间的界限愈发模糊。因此，这类人工智能更倾向于被视为工程学上的成就，而非科学领域的奇迹。

何强认为，从技术被发明的那一刻起，人类实际上已经开始依赖于人工智能。表面上，人类似乎在利用人工智能提升金融服务实体经济的效率，但实际上，人工智能正利用人类的这一需求，生产和模拟大量数据，以实现自身的快速发展，并加速迈向美国未来学家雷蒙德·库兹韦尔提出的“技术奇点”。届时，人工智能可能会彻底超越人类智慧和计算机的计算能力，推动社会的爆炸性发展。

何强表示，目前出现了一个令人担忧的新趋势，即传统人工智能主要基于已标记的数据进行拟合和训练，这种方法的可控性较强。然而，现在的人工智能开始采用自我模拟和自我反省的数据进行训练，其自我训练的极限未知，导致人类对这一领域失去控制。这正是人工智能的反噬性所在，需要引起业界的高度警觉。

何强表示，在智能金融分析领域，尽管有高达99%的可靠性，但金融危机仍有可能在剩余的1%中发生。人工智能技术在金融领域的应用是一把“双刃剑”，它可以辅助金融机构提高识别、预警和控制风险的能力，但并不具备分散或消除金融风险的能力。尤其是人工智能依赖于历史数据进行预测，如果历史数据存在算法偏见、歧视或错误，将导致分析结果失真，影响投资决策和监管政策的实效。

何强建议，应迅速成立相关行业规范委员会，以加快行业标准的制订，提升社会公众的认同度，进而促进金融行业整体加速变革。