外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正式闭幕。事(shì)实上，这(zhè)一(yī)天下午，距离大会闭幕几(jǐ)个小时(shí)前，仍有观众在排队入场(chǎng)。官(guān)方数据显示(shì)，本届大会共吸引了5.2万(wàn)人现(xiàn)场参会，无论(lùn)是参会规模(mó)还是国际嘉宾的数量，均创下 了历史新高。除了年轻人，记者注意到，观众队伍中还有不少老人、小孩。

　　本(běn)届外滩(tān)大会以“科技·创造可持续未来”为 主(zhǔ)题，包括36场开放见 解论坛、10多场创
新者舞台、2场AI创新赛(sài)事、1场10000平方米的(de)展览以及1场绿色生活节(jié)和(hé)1场科技人才招(zhāo)聘会。据统计，三天时间内(nèi)，有30余(yú)项(xiàng)AI新成果在本届外滩大(dà)会发布，包括蚂蚁AI生(shēng)活管家(jiā)“支小宝”、AI金(jīn)融管家“蚂小财”，AI健康(kāng)管(guǎn)家等。

　　10000平(píng)方(fāng)米的展览场地(dì)汇集了众多企业参 展，记者观(guān)察(chá)到(dào)，相比往年，准备(bèi)各类装备体验、互(hù)动的厂(chǎng)商越来越多(duō)了，许多(duō)展台前，观众为参与体验排(pái)起长队。重视(shì)人文性，成为(wèi)本届外滩大会的(de)一大特点。除(chú)了开幕式上24岁的独臂男孩周键(jiàn)借智能仿生手演奏(zòu)钢琴的动人(rén)瞬间，在外滩大会的展区，借助设备观(guān)众可以体验将脑电(diàn)波以花朵的形式可(kě)视化，让瞬(shùn)间的情绪形成纪念。还有可(kě)实现“拥抱传递”的设备，穿戴上内嵌人造肌肉纤维的特(tè)制背心，当另一个人拥抱装有压力传感器的(de)模型(xíng)时，体(tǐ)验者便能感(gǎn)受到模拟其(qí)声控、触觉(jué)反馈和温度调节等多
种感(gǎn)官元素的“远程拥抱”。

　　在(zài)这一年的(de)外滩大会上，如(rú)何让“技术向善”的(de)讨(tǎo)论和研发更(gèng)加被业(yè)界(jiè)重视。

　　AI医疗受关注

　　为期(qī)三天(tiān)的展览中，AI医疗的(de)相关产品、企业展
台总有着最多(duō)的人流量，“爸(bà)妈(mā)记忆(yì)力(lì)下降了怎么办？”“AI如(rú)何辅助癌症(zhèng)筛查？”这些问题让不少观众不自觉就迈入了相关展区，不断有老人加入脑健康检测，有年轻人加入脑电(diàn)波的“画图”。

　　“和去年相(xiāng)比，今年外滩大会AI人工 智能的份额感觉更高了，而且不是像之前傻乎乎的(de)那种，今年的很多应用是真的有用的，明显能感觉到算(suàn)法提升了很(hěn)多，比如说面部识别(bié)功能或者语音交互功能，都感觉上(shàng)升(shēng)了一个(gè)档次，效果变好(hǎo)了(le)，所以大家体验的热情也高。”一位参会的展商对记者表示。

　　来不及喝口水，达摩院AI医 疗展台的工(gōng)作(zuò)人员就迎来了(le)下(xià)一位咨(zī)询的观众，今(jīn)年的外滩大会上，达摩(mó)院医疗AI实(shí)验室展出了(le)其(qí)AI医学影像(xiàng)分析产品，借助AI技术，这项产品能够从平扫CT中进行胰腺癌、食管癌、肠癌、胃癌等(děng)八大癌症及一系列慢(màn)性病的筛查，吸引(yǐn)了不少观众。

　　展台的 工作人员(yuán)告诉记者，通过AI识别，这(zhè)项产品能够在肝癌、肺癌等癌症筛查中达到90%以上的准确(què)率，提升医生的工作效率，补足一些医疗(liáo)资源不均衡带来(lái)的问题。

　　“其
实这项技术主要(yào)是面向(xiàng)B端的，为医生服务(wù)，客(kè)户更多是医(yī)院、体验机构、保险公司(sī)、公益组织以及软件厂商之类(lèi)的，但这两天很多个人也非常感兴(xīng)趣。”上述(shù)工作人员表示。尽(jǐn)管许(xǔ)多AI医疗产品并未直接面向C端用户(hù)，但外滩大会的观众们对AI医疗将如何改变疾病的诊治感到好奇。

　　博(bó)斯腾科技的展台则吸引到了大量的老 年观众，许多老人纷纷拿出手(shǒu)机通过支 付宝“碰 一碰(pèng)”进行答题，检测自己得阿尔(ěr)兹海默(mò)病的风险指(zhǐ)数。展区(qū)的工(gōng)作人员介(jiè)绍，通过许多(duō)数据、资料的支撑，这(zhè)款产品能够通过答题测验、语(yǔ)音交(jiāo)互、动作识别等(děng)方式(shì)检测阿(ā)尔
兹海默病，并通过大(dà)模型生成用(yòng)户专(zhuān)属的(de)脑健康训练计(jì)划。

　　“我们的产品2020年成型，但借助摄像头的动态(tài)识别功(gōng)能(néng)是今年刚推出(chū)的(de)，主要是借力于(yú)AI功能的发达 ，包括训(xùn)练方案的推荐外滩大会参会规模创新高，人们都在关注如何防止AI作恶，也的(de)确在大模型出(chū)现后智能了很多。”该(gāi)展区的工作人员(yuán)告诉记者。随着(zhe)AI的发展，更多AI医(yī)疗产品的“进化(huà)”值得期待。

　　需要强调的是，目前(qián)，许多AI医疗产品的诊 疗效果仍缺乏公开数据或第(dì)三方权威机构的(de)验证，相关(guān)展台的工作人员也均表示AI医疗产品无法完全代替医生诊疗需(xū)求(qiú)，以(yǐ)辅助作用为主。不过，AI在医疗(liáo)问(wèn)题中(zhōng)的应(yīng)用的确被(bèi)业界期(qī)待。

　　不(bù)少(shǎo)大(dà)厂也在押注AI医疗赛道(dào)。外滩大会上，支付宝发布AI应用(yòng)新产品“AI健(jiàn)康管家”，为用户提供找医(yī)生、读报告、陪(péi)看诊(zhěn)、问医(yī)保、管健康(kāng)等30多项AI健康服务。百川智能(néng)创始人王小川则介绍，百川智能将重点在大医疗AI领域做投入，从儿(ér)科(kē)医生、全科医生两(liǎng)个(gè)切入点发力(lì)，希望在明(míng)年实现医(yī)疗的(de)低成本和(hé)可及性，减少医院的挤兑现(xiàn)象。

　　全国政(zhèng)协常委周汉民在外滩(tān)大会的一(yī)场论坛中表(biǎo)示，随着人工智能等新技术的不断发展和应用，医疗产业正迎来一(yī)场深刻的变革。据他观察，从最初的影像诊断、辅助诊疗、基因检(jiǎn)测(cè)，到近年来的药物(wù)发现、临床(chuáng)试验、健康管理等，人工(gōng)智能在提高精准度与效率、个(gè)性化(huà)治(zhì)疗(liáo)、数据处理等方面具(jù)备显(xiǎn)著优(yōu)势。他指出，医疗健康与人工(gōng)智(zhì)能的融合还延伸到了中医领域。

　　谈及人工智能在医疗(liáo)产业的应用情况(kuàng)，周汉民(mín)表示，人工智能(néng)在医疗健康产业的(de)应用应着力提高精准性、适用性和安全性(xìng)，此外(wài)，还需关注(zhù)人工(gōng)智能的引(yǐn)入是否会导(dǎo)致医护人员(yuán)技能萎(wēi)缩、对人工(gōng)智能的信任的误判以及信息超载(zài)。

　　以AI对抗AI

　　在期待技术带来(lái)美好生(shēng)活的同时，如何预防技术“作恶”也(yě)成为外滩大会讨论(lùn)的热点话题。

　　今年的外滩大会上，举(jǔ)办了包(bāo)括“afac2024金融智能创新大赛”和“全球Deepfake攻防挑(tiāo)战赛”两场子赛事在内(nèi)的AI创新大赛，由于近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采用(yòng)新犯罪手段的“N号房”案件重现，以(yǐ)AI对抗AI，Deepfake攻防挑战赛尤(yóu)其受到观众的挑战。

　　事实上，随着AI技(jì)术的发展，Deepfake滋生欺诈等黑色产业链，AI换脸欺诈(zhà)带来的经(jīng)济财产损失、名誉(yù)受损等事件正在成为全球(qiú)挑战。

　　在外滩大会展区，许多观众现场拍照，然后利用(yòng)Deepfake换脸(liǎn)模(mó)型和算法，通过视频活化、微笑和眼镜模版
对观
众的(de)真(zhēn)实照片进行换脸，亲身感受了Deepfake的(de)逼真(zhēn)。

　　而在外滩大(dà)会AI创新赛·全球Deepfake攻防挑(tiāo)战赛的表(biǎo)演赛上，观众更是为AI识别(bié)AIGC伪造(zào)图片感到激动。在这场表演赛中，主持人拿出了9张玛丽莲梦露等女星的照片，其
中2张是AIGC伪造的，选手用自己的参赛模型给(gěi)出每张图片的伪造概(gài)率值，并对概率值最高
的2张照片与正确(què)答案进(jìn)行比对。最终，两支参赛队伍的(de)模型都找到了正确答案。

　　在后续的互动 中，一个有趣的现象是(shì)，人类肉(ròu)眼能(néng)够看出“一眼假”的(de)伪造图片，AI可能识别不出，一些肉眼(yǎn)真假难辨的图片，AI反而能识别。新
加 坡科技研究局周(zhōu)天異教授分析，人类(lèi)在判断图像(xiàng)是 否伪造会依赖直觉和逻辑，一些人类一眼便知的问题AI无(wú)法联系相关(guān)背景、情形无法识别，而一些难以识别的图片，AI一丝不苟、勤勤恳恳地(dì)完成人类指令的工作(zuò)模式反而(ér)能找(zhǎo)出问题。他(tā)表示，相比(bǐ)“一
眼假”的图(tú)片，恰恰是这些难以识别的图片往往给人(rén)类带(dài)来更大损失，因(yīn)此(cǐ)，用AI应对Deepfake有着重要意义。

　　“从我
们(men)现在看到(dào)的数据来看，我们(men)叫Deepfake的(de)攻击也好，AIGC的生成伪造，今年的攻击量比去年大概增加了10倍，去年 攻击的浓度大概是1%，今年就是10%。整个风险其(qí)实是呈指数级上升的情况(kuàng)，这不仅仅是在中国，在韩国，在菲律宾、印尼等国家都有(yǒu)类似的情况发生。”外滩大会AI创新赛·全球Deepfake攻防挑战赛出(chū)题人、ZOLOZ技术总监姚伟斌表示，10%的浓度意味(wèi)着业界发(fā)现线上的流量有10%是Deepfake的流量 ，随着AIGC的发展，生成的成本会越来越低，外滩大会参会规模创新高，人们都在关注如何防止AI作恶效率越来越高，明年可能不是20%，可(kě)能是50%，这是一个必须重(zhòng)视的威胁。

　　更多引导AI向善的观点也(yě)在外滩大会被讨论，姚(yáo)伟斌坦言，研(yán)发检测算法，只是遏制(zhì)Deepfake技术滥用(yòng)的方式之一。这种方式是相对滞(zhì)后的。如果要从根源上防范欺诈行为(wèi)，姚伟斌认为应在标准和立法角(jiǎo)度，要(yào)求(qiú)给(gěi)A IGC 内容建立通(tōng)用(yòng)标识，比如每一张AIGC生(shēng)成的视频或图片都在文件 信息里带一个签名(míng)或水印，这样平台管理更有依(yī)据，也能让AIGC 可以更可信。

　　“让人工智能帮助人弹钢琴，而不是作恶。”是本(běn)届外(wài)滩大(dà)会反复强调的价值观。上海市数(shù)据科学重点(diǎn)实验室主任肖仰华(huá)表示，AI的大规模滥用是可能损害人之为(wèi)人的本性的。要(yào)有所为有所不为，但凡伤害人之为人之本性的AI应(yīng)用，我们要谨慎，要加以限制。为(wèi)此(cǐ)，“我们要重视技术治(zhì)理，并将治理提前(qián)考虑，做到(dào)未雨绸缪。”

　　浙江强脑科技(jì)创始人兼CEO韩璧(bì)丞则表示(shì)，AI伦理委员会的(de)存在非常重要。技术前进的(de)时候，更应该(gāi)关注“走的慢
”的人。“当一个足以改变(biàn)世界的技术(shù)出现(xiàn)时，我(wǒ)们先用它来帮助(zhù)最(zuì)需要的人”。

　　（本文(wén)来(lái)自第(dì)一财经）

责任编辑：李桐

未经允许不得转载：橘子百科-橘子都知道 外滩大会参会规模创新高，人们都在关注如何防止AI作恶