外滩 大会参会规 模创新高，人们都在关注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正
式闭幕。事实上，这(zhè)一天下午，距离大会闭幕几个小时(shí)前(qián)，仍有观众(zhòng)在排(pái)队入场。官方数据显示，本届大会共(gòng)吸引了5.2万 人现场参会(huì)，无(wú)论是参会规模还是国际 嘉宾的数量，均(jūn)创(chuàng)下(xià)了(le)历史新高。除了年轻人，记者注意到，观众队(duì)伍中还有不少(shǎo)老人、小孩。

　　本届(jiè)外滩大(dà)会以“科技·创造可(kě)持续未来”为主题，包括(kuò)36场开放见解论(lùn)坛、10多场(chǎng)创新者舞台(tái)、2场AI创新赛(sài)事、1场10000平方米(mǐ)的展览以及1场(chǎng)绿色生活节和1场科技人(rén)才招聘(pìn)会。据统计，三天时间内，有30余项AI新(xīn)成果在本外滩大会参会规模创新高，人们都在关注如何防止AI作恶届外滩大会发布，包括蚂蚁AI生活管家“支(zhī)小宝”、AI金
融管家“蚂小(xiǎo)财”，AI健康管家(jiā)等。

　　10000平方米的展览场地汇集了(le)众多企业参展，记(jì)者观察到，相比往年，准备(bèi)各(gè)类装备体验、互动的厂商越来越多了，许多展台前，观众为参(cān)与体验排起长队。重视人文性，成为本届外滩大(dà)会的一大特点。除了(le)开幕式上24岁的独(dú)臂(bì)男孩周键借智能仿生(shēng)手演(yǎn)奏钢琴的动人瞬间，在外滩大会的展区，借助设备(bèi)观众(zhòng)可以体验(yàn)将(jiāng)脑电波以花朵的形式可视化，让瞬间的情绪形成纪念(niàn)。还有可实现“拥(yōng)抱传递”的设备，穿戴(dài)上内嵌人造肌肉纤(xiān)维(wéi)的特制背(bèi)心，当另一个 人 拥抱装有压力(lì)传感器的 模型时，体验者便(biàn)能感受到(dào)模(mó)拟其声(shēng)控、触觉反馈和温度调节等多种感官元素的“远程拥(yōng)抱(bào)”。

　　在这一年(nián)的外(wài)滩大会上，如何让“技术向善”的讨(tǎo)论和(hé)研发更加被业界重视。

　　AI医疗受(shòu)关注

　　为期三天的展览中，AI医 疗的相关产(chǎn)品、企业展(zhǎn)台总有着最多的(de)人流量，“爸妈记忆力下降了怎(zěn)么(me)办？”“AI如何辅助癌(ái)症筛查？”这(zhè)些问题让不少观众(zhòng)不自觉就迈(mài)入了相关展区(qū)，不断有老人加入脑健康检测，有年轻人加入脑电波的“画图”。

　　“和去年相比，今年外滩大会AI人工智能的份额感觉更高了，而且不是像之前傻乎乎的那种(zhǒng)，今年的很(hěn)多应用是真的有用的，明(míng)显能感觉到算法提升了很多，比如说面部(bù)识别功能或者语音交互功能，都感觉上升了一个档次，效果(guǒ)变(biàn)好(hǎo)了，所以大家体验的热情也高(gāo)。”一位参会的展商(shāng)对记者表示。

　　来不及喝口水，达摩(mó)院(yuàn)AI医疗(liáo)展台的工作人员就迎来了下一 位咨询的观(guān)众，今(jīn)年的外 滩(tān)大 会上，达摩院医(yī)疗AI实验室展出 了其(qí)AI医学影像(xiàng)分析产品，借助AI技(jì)术，这项产品能够从平扫CT中进行胰腺癌(ái)、食管癌、肠癌、胃癌等八大(dà)癌症及一(yī)系列慢性病的筛查，吸引了不(bù)少观众。

　　展台的(de)工作人员(yuán)告诉记者，通过AI识别，这项(xiàng)产品能够在肝癌、肺癌等癌症(zhèng)筛查中达到(dào)90%以上的准确率，提升医生
的工作(zuò)效率，补足 一些医疗资源不(bù)均(jūn)衡带来的问题。

　　“其实这项技(jì)术主要是面向B端的，为(wèi)医生(shēng)服务，客户更多是医院、体验机构、保险公司、公益组织以及软件厂商之(zhī)类的，但这两天(tiān)很多(duō)个(gè)人也(yě)非常感(gǎn)兴(xīng)趣。”上述工(gōng)作人员表(biǎo)示(shì)。尽管许多AI医疗产品并未直接面向C端用户，但外滩大会的观众们对AI医疗将如何改变疾病的诊治感到好奇(qí)。

　　博(bó)斯腾科技的展台则吸引到了大量的(de)老年观(guān)众，许多老人纷纷拿出手机通过支付宝“碰一碰(pèng)”进行答题，检测自己得阿(ā)尔兹海默(mò)病(bìng)的(de)风(fēng)险指数。展区的工作人员介绍，通过许多数(shù)据、资(zī)料的支撑，这款(kuǎn)产品能(néng)够通过答题测验、语音交互(hù)、动作识别等方式检测(cè)阿尔(ěr)兹海默
病，并通过大模型生成用户专(zhuān)属的脑健康训练计(jì)划。

　　“我(wǒ)们(men)的产(chǎn)品(pǐn)2020年成型，但借助摄像头的动态(tài)识别功能是今(jīn)年刚推出的，主要是借力于AI功能(néng)的发达，包括训练方案(àn)的(de)推荐，也的确在(zài)大模型出现后智能了很多。”该(gāi)展区的工作人员告诉记者。随着AI的(de)发展，更(gèng)多AI医疗产品(pǐn)的(de)“进化”值得期待。

　　需(xū)要强调的是，目(mù)前，许多AI医疗产品的诊疗效果仍缺乏公(gōng)开数据或第三(sān)方权威机构(gòu)的验证，相关展台的工作人员也均表示AI医疗产品无法完全(quán)代替(tì)医生诊疗需求，以辅助作用为主。不过，AI在医(yī)疗问(wèn)题(tí)中的应(yīng)用的确被业界期待。

　　不少大厂也在押注AI医疗赛道。外滩大会上，支付宝发布AI应用新产品“AI健康管家(jiā)”，为用(yòng)户提供找(zhǎo)医(yī)生、读报告、陪看(kàn)诊、问医保、管健康 等(děng)30多项AI健康服(fú)务。百川智(zhì)能(néng)创始人王小(xiǎo)川则介绍，百川智能将重点在大医疗AI领域(yù)做投入，从儿
科医(yī)生、全科(kē)医生两个切(qiè)入点发力，希望在明年实现医疗 的(de)低成本(běn)和可(kě)及性，减少医院的挤兑现象。

　　全(quán)国政协常委周汉民在(zài)外滩大会的一场论坛中表示，随着人工智 能等新技术的不断发展和应用，医疗(liáo)产业正迎来一场深 刻的(de)变革。据他观察，从最初的影像(xiàng)外滩大会参会规模创新高，人们都在关注如何防止AI作恶诊(zhěn)断、辅
助诊疗、基因检测，到近年来的药物发现、临床(chuáng)试验、健康管理等，人工智能在提高精(jīng)准度(dù)与效率、个性化治疗、数据处理等方(fāng)面具备显著优(yōu)势。他指出，医疗(liáo)健康与人工智能的融合还延伸到了中医领域。

　　谈及(jí)人工(gōng)智能在(zài)医(yī)疗产业的应用情况，周汉民表示，人工智能在医疗健康产业的应用应着(zhe)力提高(gāo)精准性、适用性和安全(quán)性，此外(wài)，还需关注(zhù)人工智能的引入是否会导致医护(hù)人(rén)员技能萎缩、对人工智能的信任的误判以及信息(xī)超(chāo)载。

　　以AI对抗
AI

　　在(zài)期待技术带来美好生活的同时，如何预防技术“作恶”也(yě)成为外滩大会讨论的热点话题。

　　今年的(de)外滩大会(huì)上，举(jǔ)办了包(bāo)括“afac2024金融智能创新大(dà)赛”和“全球Deepfake攻防挑战赛”两(liǎng)场子(zi)赛事在内的AI创新大赛，由于近日韩国曝出(chū)“Deepfake”（深度伪(wěi)造技(jì)术）事件，被认为(wèi)是采(cǎi)用(yòng)新(xīn)犯罪(zuì)手段的“N号房”案件重(zhòng)现，以AI对抗AI，Deepfake攻防挑战赛尤其受到观众(zhòng)的挑战。

　　事实上，随着AI技术的发展，Deepfake滋生欺诈等黑色产业链，AI换脸(liǎn)欺诈带来的经济
财产(chǎn)损失、名 誉受损等事件正在成为全球挑战。

　　在外滩大(dà)会展区，许多观众(zhòng)现场拍照，然后利用Deepfake换脸模型和算(suàn)法，通过视频活化、微笑(xiào)和眼镜模版对观众的真实照片进行换脸，亲(qīn)身感受了(le)Deepfake的逼真 。

　　而在(zài)外滩大(dà)会AI创新赛(sài)·全球Deepfake攻防挑(tiāo)战赛的表(biǎo)演赛上，观众更是(shì)为AI识别AIGC伪造图片感到激动。在(zài)这(zhè)场表(biǎo)演赛中，主持人拿出(chū)了9张玛丽莲梦露等女星的照片，其中2张是AIGC伪造的，选手(shǒu)用自己的参赛模型给出(chū)每张图片(piàn)的伪造概率值，并对概率值最高的2张照片与(yǔ)正(zhèng)确答案进行比对。最终，两(liǎng)支(zhī)参赛队伍的模型都找到了正确(què)答(dá)案。

　　在后续的互动中，一个有(yǒu)趣的现象(xiàng)是(shì)，人(rén)类肉眼能够看出“一眼(yǎn)假”的伪造图片，AI可能识别(bié)不出(chū)，一些肉(ròu)眼(yǎn)真假难辨的图片
，AI反而能识别。新(xīn)加坡科技(jì)研究局周天(tiān)異教(jiào)授分析，人类在判断图像是否伪 造会依赖直觉和逻(luó)辑，一些人类一眼便知的问题AI无法联系相关背景(jǐng)、情形无法识别，而一些难以识别的图片，AI一丝不苟、勤勤恳恳地完(wán)成人类(lèi)指令的工作模(mó)式反而能找出问题(tí)。他表示，相比(bǐ)“一眼(yǎn)假”的图(tú)片，恰恰是这些难以识别的图片往(wǎng)往给人类带来(lái)更(gèng)大损失，因此
，用AI应对Deepfake有着(zhe)重(zhòng)要意义(yì)。

　　“从我们现在看到的数据来看，我们(men)叫Deepfake的(de)攻击也好(hǎo)，AIGC的 生成伪造，今年的攻击量比去年大概增加了(le)10倍，去年攻击的浓度大概是1%，今年(nián)就(jiù)是10%。整个风险其实是呈指数级上升的情况，这不仅仅是在(zài)中国(guó)，在韩国，在菲律宾、印尼等国家都(dōu)有类似的情况发生。”外滩大会AI创新赛·全(quán)球Deepfake攻防(fáng)挑(tiāo)战赛(sài)出题人、ZOLOZ技术总(zǒng)监姚伟斌表示，10%的浓度意味着业界发现线上的流量有10%是Deepfake的流量，随着(zhe)AIGC的(de)发展，生成的成本会越来越低，效(xiào)率越来越高，明年可能不是20%，可能(néng)是50%，这是一个必须重视的威胁。

　　更多引导AI向善的观点也(yě)在外(wài)滩大会被讨论，姚(yáo)伟斌坦言，研发检测算法，只是遏制Deepfake技术滥用的方式之一。这种方式是相对滞(zhì)后的。如果要从根源上防范欺诈行为，姚伟斌认为应在标准和立(lì)法角度，要求给(gěi)A IGC 内容 建立通用标识，比(bǐ)如每一张AIGC生成的(de)视频或图片都在文件
信息(xī)里带一个签名或水印，这样平台管理更有依据，也能让AIGC 可以(yǐ)更可(kě)信。

　　“让人工智能帮助人弹钢琴，而不是作恶。”是本(běn)届外滩大会反复强调的价值观。上(shàng)海市数据科学重点实验室主任肖仰华表示，AI的大规模滥用是可能损害人 之为人(rén)的(de)本性的。要有所为有所不为，但凡伤害人之为人之本性的AI应用，我们要谨慎，要(yào)加(jiā)以限制。为此，“我们要重视技术治理，并将治理提前考虑，做到未雨绸缪。”

　　浙江(jiāng)强脑科技创始人兼CEO韩璧丞则表示，AI伦理委 员会的存在非常重要。技术前进的时候，更应该关注“走的慢”的人。“当一个足(zú)以改变世(shì)界的技术出现时，我们先(xiān)用它来帮助最需要的人”。

　　（本文来自第一(yī)财经(jīng)）

责任编辑：李桐(tóng)

未经允许不得转载：橘子百科-橘子都知道 外滩大会参会规模创新高，人们都在关注如何防止AI作恶