周健:Agentic AI代表着大模型的技术更迭与落地状态
专题(tí):2024中国(guó)AIGC创(chuàng)新(xīn)发(fā)展(zhǎn)论坛
2024年服贸会专题活动(dòng)之(zhī)一——“第六届中国金融(róng)科技论坛”于(yú)9月12日-13日在北京举行。上海澜码(mǎ)科技有(yǒu)限公司创始人兼(jiān)CEO周健出席并演讲(jiǎng)。
据周健介绍,AI Agent是能够感知环境,基于目标 进行决策并(bìng)执(zhí)行行动的智能(néng)化应(yīng)用。Agent技(jì)术的核心在于与环(huán)境的互动,而大模型本身不(bù)具(jù)备感知和改变环境的能力。AI Agent可以通过外挂知(zhī)识库和记忆(yì)系统,赋予(yǔ)Agent更多的学习能力、感知能力。而AI Agent与Copilot最大的区别(bié)在于自主性,Agent是帮助人类完成(chéng)目标,Copilot则需要根(gēn)据用户设置的目标,一步(bù)步(bù)与人互动,并完成(chéng)用(yòng)户的目标(biāo)。
他指出,随着(zhe)大模型能力的不断增强,Agent的 能力不(bù)断丰富,我们有可能(néng)在未(wèi)来看到AI模型 像人类一样处理复杂的逻辑推理任务(wù),深刻变革企业的(de)组织结构、人员配备乃至业务流程。无论是处理端到(dào)端重复(fù)性的业务内容,还是跨部门协作(zuò),AI都在增强人类的工作效率。
周健说,未来,AI有望在角(jiǎo)色、团队和业务(wù)层面逐步取代部分人力工作。目(mù)前,数字化技术(shù)如API、BI、OCR以及低代码平台 等,已(yǐ)经在各个层面发挥其独特(tè)作用。AI可能更多在(zài)业务处理量和业务活动上表现 突出,未来,AI的应(yīng)用能力预计(jì)将得(dé)到进一步的扩展和增强。
以(yǐ)下为演讲实录:
澜码科(kē)技是一家“AI原生”的企业,创办于大模型技术问(wèn)世后。大(dà)模型行业(yè)发(fā)展迅速,就在昨天深夜,OpenAI发布了全新的o1模型,重新定义了(le)代码和计(jì)算方式。我们(men)在过(guò)去的18个月里快速前行(xíng),沉淀了丰(fēng)富的行业实践与(yǔ)经验,今天想借此机会,分享我们在(zài)金融行业的(de)应用实践与未来展望。
首先,我想介绍一个新的(de)概念——Agentic AI。我个人认(rèn)为这一概念(niàn)比AI Agent更为贴切,因为它(tā)不仅表(biǎo)达(dá)了一种(zhǒng)技术形态,更代表着一种持续演进的状态。大模型的发展过程类似于自动驾驶的分(fēn)级,当前我们(men)已进(jìn)入了“Number 2”阶段,而(ér)未来还会有更多层次,如“Number 3”、“Number 4”等,正如自动驾驶历经十年的演(yǎn)进一样(yàng),AI大模型在推动企业数智化转型,包(bāo)括(kuò)在金融行(xíng)业的应用,也将是一个持续不断的过程。
当前的大模型主要分为三个不同的品类(lèi)。第一个是纯文本模型,OpenAI最新发布的o1模型(xíng)就属于这一类;第二类是多模态模型,能够处(chù)理文本(běn)、图像、视(shì)频等多种(zhǒng)输入和输出;第(dì)三类是全实时、端到端的模型,能够在(zài)多模态(tài)环境下整合各类(lèi)信息,如GPT-4o。纯文本(běn)模型虽然相(xiāng)对成(chéng)熟,但(dàn)仍存在幻(huàn)觉(jué)等问题,而多模态和实时模型则代表了(le)未来(lái)的(de)发展方(fāng)向。
纯文本模型(xíng)与传(chuán)统软件开发的区(qū)别在于它为我们提供了两个全新的通用能力:信息提取能力和指令遵循能力。以往我们需要耗费大 量工(gōng)程师资源(yuán)进行(xíng)算法开发,现在(zài),利用大模型,一(yī)个 工程师仅需一周时间便可完成复杂的简历筛选任务。
而指(zhǐ)令遵循能力是指大语言模型完全可以理(lǐ)解人类的自然语(yǔ)言去执行相应的工作,这就意味着AI可以理解各种各样的内容,包括文档、数(shù)据、应(yīng)用、流程等,我们(men)能(néng)够将数(shù)字(zì)世界(互联网网页,企业内部ERP、CRM系(xì)统)、智能世界以及其它智能体(tǐ)结(jié)合,代表企业员(yuán)工在领域模型的指导之下完成复杂(zá)的任务(wù)。
我(wǒ)们认为,AI Agent是能够感知环境,基(jī)于目(mù)标进行(xíng)决策并执行行动的(de)智能化应用。Agent技术的核心(xīn)在于与环境的互动,而大(dà)模型本身(shēn)不具(jù)备感(gǎn)知和改变 环境的(de)能力。AI Agent可以通过外挂知识库(kù)和记忆系统,赋予Agent更(gèng)多的学习能(néng)力、感知能力。而AI Agent与Copilot最(zuì)大的区别在(zài)于自主性,Agent是帮助(zhù)人类完成(chéng)目标(biāo),Copilot则需要根据用户设置的目标,一步步与人互动(dòng),并完成用户的目标。
谈到学习能力(lì),传统大模型依靠预训练的方(fāng)式学习,而我们正在(zài)探索如何让AI更好地理解和运用企业内部的专家知识。
我们认为,专家知识(shí)可以分为不同的(de)层次,冰(bīng)山(shān)之上都是可以(yǐ)用自(zì)然语言描述的,如:过程(chéng)性知识、规则性(xìng)知识、事实知识等等;冰山之下的则是大模型尚未(wèi)发掘(jué)的隐性知识——企业内部的专家知识(shí)。这些知识往往与具体行(xíng)业和企业运营模式相关,是动态的(de)、领域性(xìng)的、智慧性的、无法通过纯文本训练获得的。因此,我们希望通过AI Agent将这些隐性知识数字化,从而使AI Agent能达到(dào)更高层次的水平,进(jìn)一步推动企业的数智(zhì)化转型。
当前,随(周健:Agentic AI代表着大模型的技术更迭与落地状态suí)着AI技术的(de)发展,大模型的推理能力正在不断提高。之前大(dà)模型的能力还处于“Number 1—高中生”水平。今天(tiān)凌晨(chén)OpenAI发布了(le)最新(xīn)模型o1,并(bìng)表示o1可以推理复杂的任务,目前已达到“博士生的水平”
那么,如何(hé)理解两种(zhǒng)水平的差(chà)异(yì)?刚毕业的高中生与博士生的薪资差距最多在5倍,但大模型落地(dì)所(suǒ)产生的算力(lì)差(chà)距是十倍、百倍、甚至是千(qiān)倍,这意味着参数本身代表着更(gèng)好的模型(xíng)效(xiào)果,同时也会(huì)带(dài)来成本的大幅提升(shēng)。
当然,根据(jù)智能摩尔定律,这个(成本)曲(qū)线会往下(xià)降,但 本身是符合这个规律的。因此我们需要找到(dào)更(gèng)经济有效(xiào)的方式来应用这些先(xiān)进的AI技术。
从ROI的视角来看,AI Agent可以实现周健:Agentic AI代表着大模型的技术更迭与落地状态“更大规模的上下文”理解(jiě),基于企业已有系统,把(bǎ)企业(yè)内部的组(zǔ)织结构、人(rén)员(yuán)技能(néng)、业务流程结合,并将流(liú)程 结果记录下来,实现Agent像人一样工作。从这个角度出(chū)发(fā),团队结构变(biàn)为一个专家加上100个(gè)数据员工再加上大模型(xíng),相比于10个专家与100个(gè)数(shù)据员工(gōng)的配置,成本效益(yì)曲线(xiàn)可能会发生变化。
Agentic AI在金融业(yè)的落地实践
随着大模型能力的不断增强,Agent的能力不(bù)断丰富(fù),我们有可(kě)能在未来看(kàn)到AI模型像(xiàng)人类(lèi)一样处理复杂的逻(luó)辑(jí)推理任务,深刻变革企业的组织结(jié)构(gòu)、人员配(pèi)备乃至业 务(wù)流程。无论是处(chù)理端(duān)到端重复性的业(yè)务内容,还是跨部门(mén)协作(zuò),AI都在增强人类的工作(zuò)效率(lǜ)。
我(wǒ)们认为,未来,AI有望在角色、团队和业务层 面逐步取(qǔ)代部分人力工作。目前 ,数字化技术如API、BI、OCR以及低代码平台等,已经在各个层面发挥其独特(tè)作用(yòng)。AI可能更多在业务处理(lǐ)量和业务活动上表现突(tū)出(chū),未来(lái),AI的应用能力预计将得到进一步的扩展和增强。
这是澜码科技现在(zài)的产品架构(gòu)。我们从业务 流程(chéng)视角去改进、增强、替代人的能力(lì)。
最底层是工作流,我们通过低代码的方(fāng)式将复杂(zá)的(de)业务流程(chéng)编排成可自动执行的任(rèn)务,让AI Agent能完成一些简单的业务任务;
再(zài)向上一层是对话流(liú),这是(shì)我们的创新(xīn)之处(chù),基于大模型的理解能力,Agent能够(gòu)深入理解人类需求,在(zài)处理复杂(zá)任务时,能够清晰地(dì)界定业务活动的(de)各个(gè)环节,实现自(zì)动(dòng)化处理复杂的业务内容;
在业务处(chù)理层面,我们有能力将不同的业务内容进行编排和整合,采用多样化的方法 来解决(jué)业务活动(dòng)中的 复杂问题。
以澜码(mǎ)为保险行业提供的销(xiāo)售增强解决(jué)方案为例(lì),我们(men)主要帮助(zhù)客户解 决了保险代理在解读体检报告和精准推荐保险产品方面(miàn)的难题。传统上的保险代理可能缺乏(fá)必要的专业知识来(lái)准(zhǔn)确解读体检(jiǎn)报告,并据此为(wèi)用 户推荐合适的保险产品。
基于此,我们(men)能够将保险公司(sī)的业务专(zhuān)家知识和经验整理成可操(cāo)作的指导或规则,通过工作流将信息(xī)抽取、指引和遵循等步骤自动化,从而提(tí)高处理体(tǐ)检报告的效(xiào)率。同时,根(gēn)据(jù)体检报(bào)告的内容,AI Agent能够给出(chū)符合(hé)个人健(jiàn)周健:Agentic AI代表着大模型的技术更迭与落地状态康状况的保险(xiǎn)产品推(tuī)荐。在实际应用中,这一解决方(fāng)案在某地级市处(chù)理的(de)10万份体检报告案例中 ,显著提高(gāo)了保险业务人员的转化率。
目前,我们也正(zhèng)在与一家股份(fèn)制银行合作(zuò),开发针(zhēn)对银行对公客户经理的营销客(kè)户解决方案。在银(yín)行业,营销是目前至关重(zhòng)要的一个领域,这也是Gartner所提到的,生成式AI在银行业(yè)最重(zhòng)要的是(shì)营销(xiāo)场景。
我们打造的方案旨(zhǐ)在让客户经理将更多的(de)时间(jiān)和精力(lì)投入(rù)到客户关系上,而不(bù)是花费大量(liàng)时(shí)间去理解和制定复杂的(de)金(jīn)融方案。制定可行化金融方(fāng)案通(tōng)常是(shì)比较复杂的,包括理解客(kè)户需求、用户(hù)行为习惯,并据此制定存款方案。方(fāng)案包括(kuò)利息计算和比较等。而这些工作(zuò)往往涉及多(duō)个不同的(de)系统,我们通过基本能力的封装,为企业提(tí)供对公客户经理辅(fǔ)助Agent,从而提升他(tā)们(men)的工作效率和自动化水平。
此外,我们(men)在获客转化过程中,可以利用(yòng)企(qǐ)查查等各种数据平台获取信息,挖掘供应链的上下游关系,帮助客户经理更(gèng)准(zhǔn)确地描绘客户画像,从而更有效地吸(xī)引优质客户。
新浪声明:所有会议实录(lù)均为 现场速记整理(lǐ),未经(jīng)演讲者审阅,新(xīn)浪网登载此文出于传递更多信息之目 的,并不(bù)意(yì)味着赞同其观点或证实其描述。
责任编辑:梁斌 SF055
未经允许不得转载:橘子百科-橘子都知道 周健:Agentic AI代表着大模型的技术更迭与落地状态
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了