外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　9月(yuè)7日(rì)，2024 Inclusion·外滩大会正(zhèng)式闭幕。事实上，这一天下(xià)午，距离大会闭幕几(jǐ)个小时(shí)前(qián)，仍(réng)有观众在排队入(rù)场。官(guān)方数据(jù)显示，本届(jiè)大会共吸引了5.2万人现场参(cān)会，无论是(shì)参会(huì)规(g外滩大会参会规模创新高，人们都在关注如何防止AI作恶uī)模还是国际嘉宾的(de)数量，均(jūn)创下了历史新高。除了(le)年轻人，记者注意到，观众队伍(wǔ)中还有不少老人(rén)、小孩。

　　本届外滩大会(huì)以“科技·创造可持续未(wèi)来”为主题，包括36场开放见解(jiě)论坛、10多场创外滩大会参会规模创新高，人们都在关注如何防止AI作恶新者舞台、2场AI创新赛事、1场10000平(píng)方米的展览以及1场绿色生活节(jié)和1场科技人才招聘会。据统(tǒng)计，三天时间内，有30余项AI新成(chéng)果在本届外滩大会发(fā)布，包括蚂蚁AI生活管家“支小宝”、AI金融管家“蚂小财”，AI健康管家等。

　　10000平方米的展览场地汇集了众多企(qǐ)业参展，记者(zhě)观察到，相比往年，准备各类装备体验、互(hù)动的厂(chǎng)商越来越多了，许多展台前，观众(zhòng)为参与体验排起长队。重视人文性，成为(wèi)本届外滩大会的一大特(tè)点。除了开幕式上24岁的独臂(bì)男孩周键借智能仿生手演奏钢琴的动人瞬间，在外滩大会的展区，借助设备观众可(kě)以体验将(jiāng)脑电波以花朵的形式可视化，让瞬间的情绪形成纪(jì)念(niàn)。还有(yǒu)可(kě)实现“拥抱传递(dì)”的设备(bèi)，穿戴上内嵌人(rén)造肌肉纤(xiān)维的特制背(bèi)心，当另一(yī)个人拥抱装有压力(lì)传感器(qì)的模型时，体验者(zhě)便能感受到模拟其声控、触觉反馈和温度调节等多种感官元素的“远(yuǎn)程拥抱”。

　　在这一年的外(wài)滩大(dà)会(huì)上，如何让“技术(shù)向善”的讨(tǎo)论和研发更加被业(yè)界重(zhòng)视。

　　AI医疗受关注

　　为期三天的展览中，AI医疗的相(xiāng)关产品、企业展台总有着最(zuì)多(duō)的人流外滩大会参会规模创新高，人们都在关注如何防止AI作恶量，“爸妈记忆力下降了怎么(me)办？”“AI如(rú)何(hé)辅助癌症筛(shāi)查？”这(zhè)些问题让不少观(guān)众不自觉就(jiù)迈入了相关展区，不断有(yǒu)老(lǎo)人加入脑(nǎo)健康(kāng)检测，有年轻人加入脑电波的(de)“画图”。

　　“和去年相比，今年外滩大会AI人工智(zhì)能的份额感觉更高了，而且不是像之前傻乎乎(hū)的那种，今年(nián)的很多应用是真的有用的(de)，明显能感觉到算法提升了(le)很多，比如说面(miàn)部识别功能(néng)或者语音交互功能，都感(gǎn)觉(jué)上升了一个档(dàng)次，效果变好了，所以大家体验的热情也高。”一位参会的(de)展商对记者表示。

　　来不及喝口水(shuǐ)，达摩院AI医疗展台的工作人员就(jiù)迎来了下一(yī)位咨询的观众，今年(nián)的外滩大会上，达摩(mó)院医疗AI实验室展出了其AI医学影像分析产(chǎn)品，借助AI技术，这项产品能(néng)够从平扫(sǎo)CT中进行胰腺癌、食管癌、肠癌、胃(wèi)癌等(děng)八大癌症及一系列(liè)慢性病的筛查，吸引了不少(shǎo)观众。

　　展台(tái)的工作(zuò)人(rén)员(yuán)告诉记者，通过AI识(shí)别(bié)，这项产品能够在肝癌、肺(fèi)癌等癌症筛(shāi)查中达到90%以(yǐ)上的准(zhǔn)确率(lǜ)，提升医(yī)生的工作效率，补足一些医疗资源不均衡带来的问(wèn)题。

　　“其(qí)实这项技术(shù)主(zhǔ)要是面(miàn)向B端的，为医生服务，客(kè)户更多是医院、体验机构、保险(xiǎn)公司、公益组织以(yǐ)及(jí)软件厂商之类的，但(dàn)这两(liǎng)天很多个人(rén)也非常感兴趣。”上述工作人员表示。尽管许多AI医(yī)疗产(chǎn)品(pǐn)并未直接面向C端用户，但外滩大会的观众们对AI医疗将如何改变(biàn)疾病的诊治感到(dào)好奇。

　　博斯腾科(kē)技的展台则吸(xī)引到了大量的老年观众，许多老人纷纷拿出手机通过支付宝“碰一碰”进行答题，检测自(zì)己得阿(ā)尔兹海默(mò)病的风险指数。展区的工(gōng)作人员介绍，通过许多(duō)数据、资料的支撑，这款产品能(néng)够通过答题测验、语音交(jiāo)互、动作识别等方式检测阿尔兹海默病，并通过大模型生成用户专属的脑健康训练计划。

　　“我(wǒ)们的产(chǎn)品2020年成型，但借助(zhù)摄像(xiàng)头的(de)动态识别功能是今年刚推出的(de)，主要是借力于(yú)AI功能的发达，包括训练方案的推荐，也的确在大模型出现后(hòu)智能了很多。”该展区的工作人(rén)员告诉(sù)记者。随着AI的发展，更多AI医(yī)疗产品的“进化”值得(dé)期待。

　　需要(yào)强(qiáng)调的是，目前，许多AI医疗(liáo)产品的诊疗(liáo)效果仍缺乏公开数据或第三方权威机构的验证，相关展台的工作人员也(yě)均表示AI医疗产品无法完全代替医生诊疗需求，以辅(fǔ)助作用为主。不(bù)过(guò)，AI在医疗问题中的应用的确被业界期(qī)待。

　　不少(shǎo)大厂也在押注AI医疗赛道。外滩大会上(shàng)，支付宝发布AI应用新产品“AI健康管家”，为用户提供找医生、读报告、陪看诊、问医保、管健康等30多项AI健康服务。百川(chuān)智能(néng)创始(shǐ)人王小川则介绍，百川(chuān)智能(néng)将(jiāng)重点在大(dà)医疗(liáo)AI领域做投入，从儿科(kē)医生(shēng)、全科医生两个切入点发力(lì)，希望在明年(nián)实现医疗的低(dī)成本和可(kě)及性，减少医院的挤(jǐ)兑现象。

　　全国政协(xié)常委周汉民在外(wài)滩(tān)大会的一场论坛中表示，随着人工智能等新技术的不断(duàn)发展和应用，医疗(liáo)产业正迎来一(yī)场深刻(kè)的变革。据他观察，从最初的影(yǐng)像诊断、辅助诊疗、基因检测，到近年来的药物(wù)发(fā)现、临床试验、健康管理等，人工智能在提高精准度与效率、个性化治疗、数据处理等方面具备显著优势。他指出，医疗健康与人工智能的融合还延(yán)伸到了中医领域。

　　谈及人工智能在医疗产业的应用(yòng)情况，周汉民表示，人工智能在医疗健(jiàn)康(kāng)产(chǎn)业的应(yīng)用应着力提高(gāo)精准性(xìng)、适用性和安全(quán)性，此外，还需(xū)关(guān)注人工智能的引入是否(fǒu)会(huì)导致医护人员技能萎缩(suō)、对人工智能的信任的误判以及信(xìn)息超载。

　　以AI对抗AI

　　在期待技术(shù)带来美好生活的同时，如何预防技术“作恶”也成为外滩大(dà)会(huì)讨论的(de)热点话(huà)题。

　　今(jīn)年的外滩大会(huì)上，举办了包括(kuò)“afac2024金融智能创新大赛”和(hé)“全球Deepfake攻防挑战赛”两场子赛事在内的AI创(chuàng)新(xīn)大赛，由于近日韩国曝(pù)出“Deepfake”（深度伪造技术）事件，被认为是采用新犯罪手段的“N号房”案件(jiàn)重现，以AI对抗AI，Deepfake攻防挑战赛尤其受到观众的(de)挑(tiāo)战。

　　事实上，随着AI技术的发展，Deepfake滋(zī)生欺(qī)诈等黑色产业(yè)链，AI换脸欺诈带来(lái)的经济财产损失、名誉受损等事件正(zhèng)在成为全球挑战。

　　在(zài)外滩(tān)大会展区，许多观(guān)众现场拍(pāi)照，然后利(lì)用Deepfake换脸(liǎn)模(mó)型和算法，通过视频活化、微笑和眼镜模版对(duì)观众的真实照(zhào)片进行换脸，亲身感受了Deepfake的逼真。

　　而在(zài)外滩大会AI创新赛·全球Deepfake攻防挑战赛的(de)表(biǎo)演赛上，观众更是为AI识(shí)别AIGC伪造图片感到激(jī)动。在这场表演赛中，主持(chí)人拿出了9张玛丽莲梦露等女星的照片，其中2张是(shì)AIGC伪造(zào)的(de)，选(xuǎn)手用自己(jǐ)的参赛模型给出每张图片的伪造概率值(zhí)，并(bìng)对概率值最高的2张照片(piàn)与(yǔ)正确答案进行比对。最终，两支参赛队伍的模型都找到了(le)正确答(dá)案。

　　在后续的互动(dòng)中，一个(gè)有趣(qù)的(de)现象是，人类肉眼能够看出“一眼假”的伪(wěi)造图片，AI可能(néng)识别不出，一些肉眼(yǎn)真(zhēn)假难辨的图片(piàn)，AI反而能识别。新加坡科技研究(jiū)局周天異教授分(fēn)析，人类在判断图像是否伪造会依赖直觉和(hé)逻辑，一些人类一眼便知的(de)问题AI无法联系相关背景、情形无法(fǎ)识别，而一些难以(yǐ)识别的图片，AI一丝不苟、勤勤恳恳地完成人类(lèi)指令的(de)工作模式反而能找出问题。他表示，相(xiāng)比“一眼假”的图片，恰恰是这些难以识别的图片往往给人类带(dài)来更大损失，因(yīn)此，用AI应对Deepfake有着重要意义。

　　“从我们(men)现在看到的数据来看，我们叫 Deepfake的攻击也好，AIGC的(de)生(shēng)成伪造，今年的攻击量比去年大(dà)概增加了10倍，去年攻击的浓度大概是1%，今年就是10%。整个风险其实是(shì)呈指数级上升的(de)情况，这不仅仅是在中国(guó)，在韩国，在菲律宾(bīn)、印尼等(děng)国家(jiā)都有(yǒu)类似的情况发生。”外(wài)滩大会AI创新赛·全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌表示，10%的浓度意味着业界发现(xiàn)线上(shàng)的流量有10%是Deepfake的流(liú)量，随着AIGC的发展，生成的(de)成本会越(yuè)来越低，效率越来越高，明年可能不是20%，可能是50%，这是一个必须(xū)重视的威胁。

　　更多引导AI向善的观点也在(zài)外滩大会被(bèi)讨论，姚伟斌坦言，研发检测算法(fǎ)，只是(shì)遏制Deepfake技(jì)术滥用的方式之一(yī)。这种方式是相对(duì)滞(zhì)后的。如果要从根源上防范欺诈行为，姚伟斌(bīn)认为(wèi)应在标准和立法(fǎ)角度，要求给(gěi)A IGC 内容建立通用标识，比如(rú)每一张AIGC生成的(de)视频或图片都在文(wén)件信息里带一个签名或水印，这(zhè)样平台管理更有依据，也能让AIGC 可以更可信。

　　“让人工智能帮助人弹钢琴，而不是作恶。”是(shì)本(běn)届外滩大会(huì)反复强调的价值观(guān)。上海市数据科学重点实验室主任肖仰华表示(shì)，AI的大(dà)规模(mó)滥用是(shì)可能损害人之(zhī)为人的本(běn)性的。要(yào)有所为有所不为，但凡(fán)伤害(hài)人(rén)之为人之本性的AI应用，我们要谨慎(shèn)，要加以限(xiàn)制。为此，“我们要重视技术(shù)治理，并将(jiāng)治理提前考虑，做到未雨绸缪。”

　　浙江强脑(nǎo)科技创始人兼(jiān)CEO韩璧丞则表示，AI伦理委员会的存在非常重要。技术前进的时候，更应该(gāi)关注“走的慢”的人。“当一个足以改变(biàn)世界的技术出(chū)现时，我们先用它来帮助最需要的(de)人”。

　　（本(běn)文来自第一财经）

责任编辑：李桐

未经允许不得转载：橘子百科-橘子都知道外滩大会参会规模创新高，人们都在关注如何防止AI作恶