AI幻觉冲击合规防线,“大模型不金融”困局待解
作者: 第一财经 日期:2025-04-12 17:42 阅读:0 来源:第一财经
【天维网综合报道】2025年是AI应用元年,金融行业正经历一场以“垂直化AI”为核心的深度变革。安永最新报告显示,中国金融科技市场规模已突破4.59万亿美元,预计2030年将达9.97万亿美元,年复合增长率达13.8%。
当前,包括银行、保险、基金等金融机构已完成多类通用大模型的本地化部署。行业人士对记者称,大模型与专业知识库的结合是AI落地的未来趋势。
金融AI的知识基建:从通用到专属
具体看来,AI正逐步渗透金融领域,从风险管理到客户服务、从投资决策再到支付安全。
易方达投顾金融科技负责人刘玮对第一财经分析称,DeepSeek的出现令金融机构以更具成本效益的方式运用AI技术,也催生出更多智能化应用场景。金融机构积极跟进,纷纷完成多类通用大模型的本地化部署,也有越来越多基于专有数据与知识的领域模型及AI应用的创新。
那么AI在金融领域要实现精准应用,光DeepSeek就够了吗?
燕道数科CTO袁考明透露,以保险领域为例,大模型因缺乏专业级的精算数据和监管规则库,“AI幻觉”仍是不容忽视的问题。例如,在产品定价或条款解释中,AI可能生成不符合监管要求或实际情况的回答。那么在强监管、高精度的保险、以及整个金融行业,这一问题不仅影响决策效率还可能带来合规风险。
Vectara实验室最新测评显示,主流大模型DeepSeek-R1的幻觉率高达14%,而南都大数据研究院发布的《2024 AI风险白皮书》也提到,被记录的220起风险事件中,技术滥用(50%)、决策伦理争议(24%)与虚假信息传播(20%)构成三大风险集群,叠加数据泄露等安全隐患,折射出AI治理体系升级的迫切需求。
“站在投顾的角度,也要求在技术的使用上需要负责任地使用AI。”刘玮分析称,投顾机构应重视拥抱AI以降本增效,培养复合型人才,明确AI应用边界,强化数据保护,坚守买方立场。这要求从业人员要学习AI知识技能,提升合规意识,维护客户利益与隐私安全。
在法律层面,早在2023年8月,由网信办等七部门发布的《生成式人工智能服务管理暂行办法》(下称《办法》)正式施行,《办法》明确要求生成式AI服务提供者需建立数据合规、算法透明、生成内容管理等六大机制,随着《办法》的实施,中国AI产业的治理与规范化水平日益发展和成熟。
目前监管框架的完善正为行业划定边界。国家金融监督管理总局此前强调,AI应用需坚持技术中立原则,重点防范数据滥用与算法歧视。
数据资产待沉淀
随着生成式AI技术加速渗透各行业,数据资产沉淀与风险治理成为制约技术落地的核心挑战。
金融领域因其数据密度高、专业性强,暴露出大模型垂直行业数据供给不足的问题。
“当我们通过AI应用咨询金融问题的时候,即便接入DeepSeek等前沿大模型,回复的完整性和准确性往往都不尽如人意。”盈米基金相关负责人告诉记者,这并非源于模型本身推理能力的局限,而是金融领域专业数据的结构性缺失。
该上述负责人透露,该机构目前的应对措施是构建多元混合大模型技术底座,同时体系化梳理公司的数据资产,将前期积累的财富管理知识图谱转化为机器可读的知识库,通过API接口赋能AI模型训练,以期破解"金融大模型不金融"的行业困局。
燕道数科的解决方案也在“AI寿险工具”中采用了多模态混合引擎结合行业内部数据形成专有知识体系。“与专业数据库深度融合,能够准确理解保险领域的复杂逻辑。”袁考明称,此外还有整合保险产品知识、费率表、利率曲线及监管政策等全市场数据,构建动态知识库。以及分层多数据源混合存储策略,并结合专业领域模型微调,通过意图分析理解进行高效且精准的数据调用,减少无效计算,目前该解决方案已在多家寿险公司投入测试及应用。
“数据质量与知识含量,是发挥AI价值的关键前提。”安永大中华区科技咨询服务主管合伙人顾卿华此前对第一财经称,机构需通过数据要素的全生命周期管理、AI可信体系构建等措施,来厘清AI应用场景与建设路径。此外,拥抱AI的目标并不是替代人,而是让人类专注于决策创新与情感交互。
业内人士指出,未来AI破局需“数据+风控”双驱动,深化数据要素配置,构建全周期风控体系。随着监管完善,技术与伦理协同将成AI发展关键。
版权声明
1. 未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。
2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。
版权声明
1.
未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。
2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。
- 美国收紧身份证规定 不符规定者或被拒登机
- 跨国化工企业巴斯夫、世索科回应“对等关税”影响
- GE医疗回应“对等关税”影响,称对中国市场的承诺不变
- 开源小号人形机器人,傅利叶再打生态牌
- 中国多地出现罕见强风 北京多趟列车停运 航班或受影响
- 第100届奥斯卡奖新增最佳特技设计奖
- 美国海关报告关税系统出现故障 暂未征收关税
- 民调显示逾半数美国人对加征关税不满
- 清华大学研究显示:全球塑料回收率仅为9%
- 特朗普喊话墨西哥不“还水”就制裁加关税,水资源争端升级为政治武器
· 请您文明上网、理性发言
· 尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任
· 您的留言只代表个人意见,不代表本站立场
· 天维网拥有管理笔名和留言的一切权利
· 您在天维网留言板发表的言论,天维网有权在网站内转载或引用
· 天维网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容
· 参与本留言即表明您已经阅读并接受上述条款
查看所有评论 共( 条)