七星期货:金融大模型解决方案发布,腾讯云总裁邱跃鹏:推动金融服务进入全新智能时代

图片[1]-七星期货:金融大模型解决方案发布,腾讯云总裁邱跃鹏:推动金融服务进入全新智能时代-七星期货

智能化正在成为金融行业变革的核心驱动,金融科技的发展正推动行业进入新阶段。
11月23日,腾讯云正式发布金融行业大模型解决方案,该解决方案包含四层架构,分别从算力层、平台层、大模型层及应用层助力金融行业提升效率。此外,对于金融行业重点关注的合规问题,腾讯云基于自身的数据隐私、内容安全解决方案,通过模型私有化部署、权限管控和数据加密等方式,确保金融机构在打造模型与使用模型的过程中安全合规。
目前,腾讯云推出的金融大模型已经在智能客服、智能投顾等场景落地使用。在保险展业场景中,金融大模型已经实现较高匹配度并用于具体金融实践,保险代理人开始结合数字人应用场景进行营销展业、业务培训以及智能客服等工作。腾讯云团队称,未来努力让每个金融机构都拥有自己的大模型。
图片来源:腾讯
四层架构助推金融场景落地

腾讯公司副总裁、腾讯云与智慧产业事业群COO、腾讯云总裁邱跃鹏表示,“金融行业的数据资源丰富,实践场景广泛。通过将大模型与行业场景深度结合,有望将智慧金融服务提升到新水准,并催化更多融合创新场景,推动金融服务进入全新智能时代。”
此次发布的腾讯云金融行业大模型解决方案主要包含四层架构。
首先,在算力层,该大模型基于HCC高性能算力集群、云原生数据湖仓和向量数据库,提供高性能算力和数据接入能力;平台层,腾讯云TI平台已实现从数据预处理、模型训练、模型部署的一站式训练,配合训练加速套件,大幅提升模型训练效率;大模型层,金融机构能根据不同细分场景的业务需求,通过模型商店MaaS接入腾讯混元大模型、金融行业大模型及20多个主流开源模型,通过灵活选择大模型类型降低使用成本。
值得关注的是,今年9月,腾讯自研的超千亿参数规模通用大模型——腾讯混元通过腾讯云正式对外开放。近期,腾讯混元经过重大升级,正式开放“文生图”能力,目前其中文能力整体超过GPT3.5水平,代码能力大幅提升20%,达到业界领先水平。
最终落实到应用层,腾讯云基于金融行业大模型结合金融行业前中后台多个业务场景,打造了一系列智能应用,致力于更好地服务金融机构展业。
目前金融行业+大模型业务落地客服是重要的应用场景之一,而目前用户常常反馈客服回答一些正确的“废话”,事实上,这是大模型里最难解决的技术难点“幻觉”。对此,腾讯云智能解决方案负责人王麒解释道:“由于大模型是生成式模型,客户的问题大模型即使不知道,它也不会谦虚地说它不知道,它会在所有海量数据里面生成一个可能性最高的答案给客户。”如果在开始的预训练里,没有放入核心问题,最终形成的答案自然就是正确的“废话”。    
他提到,腾讯混元在技术角度解决“幻觉”的方案是使用“探真”的技术,目前解决幻觉能力已经提升30%50%,可以说与业界平均水平相比已经取得不错的成绩。
对于目前智能客服不智能的现象,王麒介绍,现在“客服系统+大模型”是各类场景里应用最广泛的,也是大模型与企业落地业务结合最紧密的环节,成熟速度也最快。但据完全智能化还有一定距离,王麒还是建议现阶段将大模型和传统坐席配合使用,智能客服目前主要承担常规问题过滤及搜索,协助人工坐席更高效、更快速解决客户问题,提升处理效率。
“精调”单一机构专属大模型
当前,通用大语言模型在应对产业场景落地时,存在数据准确性、服务专业性、安全合规性、训练成本等方面的局限。
针对这一痛点,腾讯云MaaS全景图给出了解决路径——以腾讯云的大模型算力作为硬支撑,在腾讯云TI平台内置多个高质量行业大模型,提供企业结合自身场景数据按需定制精调,大幅降低大模型应用门槛。
王麒解释称,整个大模型生态上的产品,是基于腾讯云提出的MaaS体系,从最底层的算力支持、计算网络存储等,再到通用大模型,然后在通用大模型基础上再去预训练出一个行业专属的金融大模型。在这个金融大模型的基础上,再加上行业的数据做精调,最终变成客户的专属大模型。
“我们知道整个金融大模型的产品体系是由下往上走的,不同金融企业根据自身投入成本、场景复杂度等从不同角度切入。”王麒进一步指出,比较大的金融企业会选择更多往底层方向走,甚至构建自己的模型。但比如算力集群、计算网络存储这些底层基础设施方面,一般来讲,金融机构不会再去触到这层,都会选择跟腾讯云这样的专业云厂商一起合作。
王麒表示,考虑到金融行业更多是对数据的管理,以及对场景的管理,所以它们更多会与厂商合作进行模型训练。在这个基础上,腾讯云提供金融行业的大模型,并由客户来提供数据以及专业场景,腾讯云和客户一起做“最后一公里”的精调,解决金融机构面临的实际问题。
事实上,金融大模型要立足场景和高质量数据,追求效率和成本的最优解,并不是参数越大越好。为了打造专业合规的金融行业大模型,腾讯云通过预训练、金融领域垂类任务精调、强化学习的方式,持续积累和强化金融行业大模型。在通用能力的基础上,腾讯云金融行业大模型解决方案具备金融领域知识推理、研报撰写、智能舆情等专业下游任务能力。
面向金融行业的特殊合规要求,腾讯云已经有金腾科技的合作案例,采用公私域结合的模式,在公有云环境实现热点分析、行情总结、股市收评等场景应用;在私有云环境下,构建企业专属大模型,帮助金融机构实现产品信息查询、业务指引、投资建议、投后管理等业务场景。
腾讯云副总裁胡利明表示,针对金融客户在大模型落地应用中的难点和需求,腾讯云将和行业联创、共创,不断探索新的技术应用和场景落地,让每一个金融机构快速拥有高精度、高性价比的AI助手。

THE END
喜欢就支持一下吧
点赞9