曹刚：加速大模型产业落地

专题：2024中国AIGC创新发展论坛

　　2024年服贸会专题论坛之一——“2024中国AIGC创新发展(zhǎn)论(lùn)坛”于9月13日-14日在(zài)北(běi)京举行。蚂蚁集团财富保险事业群平台科技总经理曹刚出席并演讲。

　　曹刚表示，大模型技术是实现高质量金融服务普惠的关键。他说，高质(zhì)量(liàng)的金融服务(wù)是非常稀缺的，从统计数据来看，目(mù)前国内投资者大概有7.2亿(yì)，但真正具(jù)备投资顾问资质
的专家只(zhǐ)有20万(wàn)，要服务好广大消费者的，光靠专家的能(néng)力是非
常困难的，而且金融服务门槛(kǎn)比(bǐ)较高。

　　“大(dà)模型技术的到来，让我(wǒ)们(men)看到了高质量金融服务普(pǔ)惠的可能性，大(dà)模型具备压缩世界金融知识的能力，专业知识力一定程度(dù)上远超人类专家，同(tóng)时还(hái)有强大的推 理能力，并可以通过(guò)自然语言进(jìn)行交互，相(xiāng)对于传统的GUI图形界(jiè)面操作，自然语言交互更加(jiā)简单和流畅”，他说。　　

　　以下
为演讲(jiǎng)实录：

　　曹刚：各位领导(dǎo)、各位来宾，大家下午好，我是来 自蚂蚁集团(tuán)财富保险事业群的曹刚，很高兴参加今天2024中(zhōng)国AIGC创(chuàng)新发展论坛，我今天分享(xiǎng)的题目是“加速大模型产业落地(dì)，让 AI人(rén)人可事”。

　　蚂蚁集团一直是普惠(huì)金融的(de)实践(jiàn)者，伴随整个科技的发展(zhǎn)，我们坚持(chí)用科技持续为整个社(shè)会带来微小而美好的变化。在互联网早期 阶段，我们推出(chū)了快捷支付、扫码支付的服务，实 现了整个支付服务的普惠。不管是在街边买一个(gè)包子还是去商场付个款，很容易(yì)就能完(wán)成支付(fù)过程(chéng)。我自己也非常荣幸
参(cān)与了快捷支付(fù)建设过程，至今仍然
是非常有成就(jiù)感的一件事情。进入大数据、云计算以(yǐ)及移动互联网(wǎng)这个阶段后，蚂蚁集团(tuán)从支付走向了金融，推(tuī)出了余额宝、花呗、借呗，以(yǐ)及(jí)蚂蚁财富等金融产(chǎn)品(pǐn)，通过这些产品用户能更加(jiā)容易获得信贷服务和理财服务。到了2022年，以(yǐ)ChatGPT为代表的大模型技术爆发，点燃了整个业界(jiè)，大模型出色(sè)的推理、认知和生成能力，让我们看到了实现AGI的 可能。我们也一直在思考和探索怎么样让大模型(xíng)技术落地到金融场(chǎng)景中，让(ràng)大模型成(chéng)为(wèi)业务发展新的驱动力(lì)，就(jiù)在刚过(guò)去的一周，我们在上海的外滩大会发布了 蚂蚁(yǐ)集团三款大模型AI的产品，分别是(shì)AI金融管家、AI生活管家，还有(yǒu)AI健康管家，大家可以上(shàng)支付(fù)宝进行(xíng)搜索试(shì)用(yòng)。

　　回到金(jīn)融领域，我们认为，大模型技(jì)术(shù)是实现高质量金融服务普惠的关键，高质量的金融服务是非常稀缺的(de)，从统计数(shù)据来看，目前(qián)国内投资者大概有7.2亿，但真正具(jù)备投资顾问资质的专家只有20万(wàn)，要(yào)服务好(hǎo)广大消费者的，光靠专家的能力是(shì)非常困难的，而且金融服务门槛比较高，相信大家都知道这个问(wèn)题。大模型技术的(de)到来，让我们看到了高质量金融服务(wù)普惠的可能性，大模型(xíng)具备压缩世界金融知识的能力，专(zhuān)业知识力一定程度(dù)上远超人类专家，同时(shí)还有强大的推理(lǐ)能力，并可以通过自然语言进行交互，相(xiāng)对于传统的GUI图形(xíng)界面操作，自(zì)然语(yǔ)言交互更 加简单和流畅。

　　面对大模型技术的发展以及实现高(gāo)质量金融服 务普惠的机遇和挑战，我们确定(dìng)了金融AI的战略布局，在我 们内 部称为1+2布局，1+2是(shì)1个大模型基建(jiàn)，这个大(dà)模型(xíng)基(jī)建是由我们自研的凤凰大模型以(yǐ)及AgentUniverse专业的智能体框架组成(chéng)，后面会给大家展开介绍，两个大模型(xíng)AI产(chǎn)品 ，一个(gè)是2C的(de)蚂小财，也(yě)就AI金融管家，蚂小(xiǎo)财集成(chéng)了(le)财经、投研、财报、核赔等(děng)金融服务能力，通过语(yǔ)控一切、有问必答、全程陪伴方式，为(wèi)用户带来(lái)全新的智能服(fú)务体验。另一个是2P的(de)支小(xiǎo)助，支小(xiǎo)助一个专业(yè)严谨的AI助手，主要服务对(duì)象就是我(wǒ)们整个金融(róng)服务(wù)链(liàn)条上的各类专家，希望通过(guò)支小助提
高专家作业流程的效率和水平。

　　大(dà)模型基建部分，从(cóng)去年大(dà)模型技术爆发以来，不(bù)管是国外(wài)还是国 内，有非常多的大模型企(qǐ)业冒出来，形成(chéng)了“百模大战”的态(tài)势(shì)。我们尝试过(guò)多个通用大模型底(dǐ)座，但效果都不是特别理想。我们看到大模型技术落地专业严谨领域还(hái)存在诸多困难和挑战，比如用(yòng)户会问：”A公司的最新财报表(biǎo)现是什么样？”，在金融领域，这涉及到一个公司的财务数(shù)据(jù)，时效性(xìng)要求高，需要对信息进行精确的处理(lǐ)。比如用户会问：”我有(yǒu)甲状腺(xiàn)结节，到底能不能买这款保险产品？”，这个问题涉及(jí)到保险领(lǐng)域核赔核保的专业(yè)知(zhī)识，判断和决策逻(luó)辑(jí)是非常复杂(zá)的。再(zài)比如用户会问：”能不能给我推荐一款稳赚不赔的基金？”，这个问题(tí)涉及到金融常识(shí)以及金融合规性的要求，我们只能在安全合规的前提下去给用户做答。这些问题是通过大模型(xíng)难以甚任(rèn)的。

　　为此，从去年开(kāi)始，我们自研了蚂蚁凤凰(huáng)大模型，去解决(jué)通用大模型在专业、严谨、安全合规层(céng)面曹刚：加速大模型产业落地面临(lín)的问题。凤凰大模型(xíng)今年已经通过备案，我们的工作重心(xīn)集中在(zài)这(zhè)几个方面：首先是专业(yè)性方面，核心是让(ràng)大模型对齐人类专家的知(zhī)识和决(jué)策逻辑(jí)，通过(guò)这种方式，我们在产(chǎn)品 客(kè)服、投研(yán)分析(xī)、财经(jīng)编(biān)辑领域做到(dào)了80%左右的水平，可以(yǐ)很好(hǎo)的辅助专家进(jìn)行作业。在严(yán)谨性上，我们核心在数据指标查询和数据指标计算等领域进行发力，从实践(jiàn)结(jié)果(guǒ)来看，在数据指(zhǐ)标查询方面，我们已经实现了95%以上的(de)准确率(lǜ)。在金融计算部分，金融(róng)领域有很多计算逻辑，比如计算你的存款利息、理财收益等等，大模型通(tōng)过工具调用(yòng)，能做到(dào)80%左右的水平，还有很大提(tí)升空间(jiān)。在安全合规层面，我们搭建(jiàn)了安全技术围(wéi)栏，通过 专(zhuān)家标注以及自动化攻防等措(cuò)施进行(xíng)防控，上(shàng)线(xiàn)以来，零风险事件(jiàn)的发生。 同时，为(wèi)了(le)提高
上层应用的创新效率(lǜ)，我们搭建并开源了一套专业的多智(zhì)能体的框架AgentUniverse，相对于市面上常见的智能体平台(tái)而言，我们核心在专(zhuān)业能力上进行增强，同时搭载了一些可快速插拔(bá)的工(gōng)具，比如检(jiǎn)索增强相(xiāng)关的RAG、SUG等等，通过这样的能力让我们在研发(fā)上层的(de)蚂小财和(hé)支小助应用时，变得更(gèng)加高效。现(xiàn)在我们把这(zhè)套框架开(kāi)源出来，希望这套框架能够助力更多企业在研发智能体的时候能更加高效。

　　下面结合今天论坛主题，展开介绍一下我们在支小助部分的实践，首先是营销创意(yì)产品，先来看一下产品Demo视频。 （现场播放(fàng)视频(pín)） 。营销是每个企业(yè)都会涉及的领域，大模型对于营销 领域而言，最大(dà)的增益在(zài)于供给(gěi)侧的创意(yì)可以直(zhí)接由AI生产，我们通过多模态大模 型能力，结合(hé)用(yòng)户(hù)偏好 以(yǐ)及市场热点，能够批量化地快速生成符合生产(chǎn)要求的图文、视频和卡片，改变(biàn)过往这些素材需要运营专家或(huò)者设计师人工生产的方式，极大提升了运营的效率，同时丰富了对客表达的空间。 我们(men)还在探索用(yòng)大模型做用户理(lǐ)解、产品理解、做样本增(zēng)强，通过与推荐系统的结合，整个流量运营效率(lǜ)能够进一步提升，从实践的结果看，我(wǒ)们(men)平台上50%展位(wèi)背后的创意(yì)是(shì)由AI生产的，同时，营销能力能为平台带来10%以上的GMV复利增长，效果上是非常好的。

　　除了营销创意(yì)，我们还在用它做金融市场投研分(fēn)析，金融市场投研分析是一个蛮复杂的事情，它需要投研(yán)分析(xī)专家对市场或某一个行业的(de)趋势和问题进行分析，把趋势(shì)和问题拆解成一个一(yī)个小(xiǎo)的任务，由各个专家小组通过对市场信息(xī)的收集、整理形成研(yán)判观点，最终形成投研分析(xī)报告需 要经过专家评审后才会被(bèi)广大(dà)用户看到。投研支小(xiǎo)助的建设，核心就是(shì)用系统和(hé)AI的方式在模拟整(zhěng)个(gè)投研分析生产的过程，我们通过刚才讲(jiǎng)到(dào)的Agent框架，将整个过程拆解成策(cè)划、执行、表达(dá)、评
价这样(yàng)四个大的阶段，通过注(zhù)入专家知识框架，以及检索各(gè)种各样的知识库，用多个智能体去模拟整个小组分工(gōng)协作的过(guò)程，从而产(chǎn)出(chū)投研分析内容(róng)。目前我们已经能(néng)够快速支撑9类(lèi)标的物的分析，在分析效率上从过往的小时级别到现(xiàn)在的分钟级别(bié)。

　　这是投(tóu)研支小助方面(miàn)的介绍，同时，我们还在尝(cháng)试用大模型去做财务(wù)报告(gào)的撰写，上市公司每个季度都要发财务报告，财报是一个非(fēi)常专业、复杂度极高的(de)报告，去年我们跟阿里巴巴集团(tuán)进行合作，用大模型(xíng)的方式去辅助(zhù)财务人(rén)员完成财报的生产过程，这里(lǐ)面包括怎么用大(dà)模型做财务数据计算，怎么做业绩(jì)归因和推理(lǐ)，怎么做财报专业的表达，这(zhè)些都对大模型的能力提出了更高的要(yào)求和挑战。从实(shí)践(jiàn)结果(guǒ)来看，大模型辅助生成财报整体采纳率达到77%，上个季度阿里巴巴集团的财报就是(shì)通过我们的大模(mó)型和财务人员共同撰写，整个财报的写作效率得到了提升，同(tóng)时我们也可以看到，大模型在业绩归因 和财务推理这(zhè)部分的(de)准确率还不够高(gāo)，我(wǒ)们还会进一步提升整个推理(lǐ)部分的能力。

　　上面给大(dà)家介绍了(le)我们在2P支小助部分的三个产品，支小助通过大模型能力、多智能体能力对(duì)整个金融服务链条(tiáo)各个环曹刚：加速大模型产业落地节进行升级(jí)和重塑，现在已经覆盖(gài)了营销、投研等十几(jǐ)个垂直领域，是各(gè)垂直领域(yù)专业严谨的AI业务(wù)助手，目前我们已曹刚：加速大模型产业落地经在(zài)蚂蚁集团(tuán)财富(fù)保险(xiǎn)多个业务(wù)场景中进行了规(guī)模(mó)化验证，基本(běn)上是业界首个完成规模化验 证的产品，使得各(gè)服务环节效率(lǜ)倍增，通过这种2P2C模式，为上亿用户带(dài)来了高质量的金融服务。支小助已经跟平台上(shàng)120多家(jiā)机
构开展了合作(zuò)，我 们期(qī)待和更(gèng)多的产业合(hé)作伙伴一起，加速大模型产业落地，让AI人人(rén)可享。

　　以上是我的分享，感谢
大家(jiā)聆听，谢谢。

　　新浪声明：所有会(huì)议实录均为现场速记整理(lǐ)，未经演讲者审(shěn)阅，新浪网登载此文出于传递更多信(xìn)息之目的，并(bìng)不意味(wèi)着赞同其观点或证实其描(miáo)述。

责任编辑：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道 曹刚：加速大模型产业落地