外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正式闭幕。事实上，这一天下午，距离(lí)大会闭幕几个小时前，仍有观众在排队入场。官方数(shù)据显示(shì)，本届大会共吸引了(le)5.2万人现场参会，无论是参会规模还是(shì)国际嘉(jiā)宾的数量，均创下了(le)历史新高(gāo)。除了年轻人，记(jì)者(zhě)注意到，观众队伍中(zhōng)还有(yǒu)不少老人、小孩。

　　本届外滩大会以“科(kē)技·创造可(kě)持(chí)续未来”为(wèi)主题，包括36场开(kāi)放见解论坛、10多场创(chuàng)新者舞台、2场
AI创新赛事、1场10000平方(fāng)米(mǐ)的(de)展览以(yǐ)及1场绿色生活节和1场科技人才招聘会(huì)。据统(tǒng)计，三天时间内，有(yǒu)30余项AI新成果(guǒ)在本届外滩大(dà)会发布，包括蚂蚁AI生活管家“支(zhī)小宝”、AI金融管家(jiā)“蚂小财”，AI健康管家等。

　　10000平方(fāng)米的展览场地汇集了众多企业(yè)参展(zhǎn)，记者观察(chá)到，相(xiāng)比往年，准(zhǔn)备各类装备体验、互动的厂商越来(lái)越多了，许多展台(tái)前，观众为参与体验排起长(zhǎng)队(duì)。重(zhòng)视人文性，成为本届(jiè)外滩大会的一(yī)大特点(diǎn)。除了开幕式上24岁的独(dú)臂男(nán)孩周(zhōu)键 借智能仿生手(shǒu)演奏钢琴的动人瞬间，在外滩(tān)大 会的展区，借助设(shè)备观众可以体验将脑电波以花朵的形式可视化，让瞬(shùn)间的情绪形(xíng)成纪念。还有可实现“拥抱传(chuán)递”的设备，穿戴上内嵌人造
肌肉纤维的特制(zhì)背心，当另一个人拥(yōng)抱装有压力传感(gǎn)器的模型时，体验者便能感受到模拟其声(shēng)控、触(chù)觉(jué)反馈和温度调节(jié)等多种感官元素的“远程拥抱 ”。

　　在这一年的外滩大(dà)会上，如何让(ràng)“技术向善”的讨论和研发
更加被业界重(zhòng)视。

　　AI医疗受(shòu)关注

　　为期三天的展览中，AI医疗的相关产品、企业展台总有着最多(duō)的人流量，“爸
妈记忆力(lì)下降了怎么办(bàn)？”“AI如何辅助癌症筛查？”这些问题让不少观(guān)众不自觉就迈入了相(xiāng)关展区，不(bù)断有(yǒu)老人加入脑(nǎo)健康检测，有年轻人加入脑电波的“画图”。

　　“和(hé)去年相比(bǐ)，今年外(wài)滩(tān)大会AI人 工智能的份额感觉更高了，而且不是像之前(qián)傻乎乎的那种，今年(nián)的很 多(duō)应用是真的(de)有用的，明显能(néng)感(gǎn)觉到算(suàn)法提升了(le)很多，比如说面部(bù)识(shí)别(bié)功(gōng)能或(huò)者语音交互功能，都感觉上升了一个档次，效果变好了，所以大家体验的热情也高。”一位参会的展(zhǎn)商对记者表示。

　　来不及喝口水，达摩院AI医疗展台的(de)工作人员(yuán)就迎来了下一位咨询的(de)观众，今年(nián)的外(wài)滩大会上(shàng)，达(dá)摩院(yuàn)医疗(liáo)AI实验室(shì)展出(chū)了其AI医学影像分析(xī)产品(pǐn)，借助AI技术(shù)，这(zhè)项产品能够从(cóng)平扫CT中进行胰腺癌(ái)、食(shí)管癌、肠癌、胃癌(ái)等八大癌症及一(yī)系列慢性病的筛查，吸(xī)引了不少观众。

　　展台的工作(zuò)人员(yuán)告(gào)诉记者，通过AI识别(bié)，这项产(chǎn)品能够在肝癌、肺癌等癌症筛查中达到90%以(yǐ)上的准确率，提升(shēng)医生的工作效率，补足一(yī)些医疗资源不均衡带来的(de)问(wèn)题(tí)。

　　“其实这项(xiàng)技术主要是面向B端
的，为医生服务，客(kè)户更多是医(yī)院、体验机构、保
险公司、公益组织以及软件厂商之类的，但(dàn)这两天很多个人也非常(cháng)感兴趣。”上(shàng)述工作(zuò)人员表示。尽管许多AI医疗产(chǎn)品并未直接(jiē)面向C端用户，但外滩大会的(de)观众们对AI医疗将如何改(gǎi)变疾病的诊(zhěn)治感到好奇。

　　博斯腾科(kē)技
的展(zhǎn)台则吸引到了大量的老年观众，许多老人纷纷拿出手机通过支付宝“碰一(yī)碰”进行答题，检测自己得阿尔(ěr)兹海默病的风 险(xiǎn)指(zhǐ)数。展区的工作人员介(jiè)绍，通过许多数据、资料的支撑，这款(kuǎn)产品能够通过(guò)答题(tí)测(cè)验、语音交互、动作(zuò)识(shí)别等方式检测阿尔(ěr)兹(zī)海默病，并通过大模型生成用户专属的脑健康(kāng)训(xùn)练计划(huà)。

　　“我(wǒ)们的产品2020年成型，但借助摄像头的动(dòng)态识别功能是今年刚推出的(de)，主要是借力于AI功能的发达，包(bāo)括训练(liàn)方
案的推荐，也的确在大模型出现后智能
了很多。”该(gāi)展区的 工作人员告诉记者。随着AI的发展，更多(duō)AI医疗产品的“进化”值得(dé)期待。

　　需要强调的是，目(mù)前，许(xǔ)多AI医疗产品的诊疗效果仍缺乏公(gōng)开数据或第三方权威机(jī)构的验(yàn)证，相关(guān)展台的工(gōng)作人员(yuán)也均表示AI医(yī)疗产品无法完(wán)全代替医生诊疗需求，以辅助作用(yòng)为(wèi)主(zhǔ)。不(bù)过，AI在医疗问题中的应(yīng)用的确被业界(jiè)期待。

　　不少大(dà)厂也在押注AI医疗赛(sài)道。外滩大会上，支付宝(bǎo)发布AI应用新产品“AI健康管家”，为用户提供找医生、读报告(gào)、陪看(kàn)诊、问(wèn)医保、管健康等30多项AI健康服务。百(bǎi)川智能创(chuàng)始人王(wáng)小川则介(jiè)绍(shào)，百川智能将(jiāng)重点在大医疗AI领域做投入，从儿科医
生、全(quán)科医生两个切(qiè)入(rù)点发力，希望在明年实现医疗的低成本和可及性，减少医院的挤兑现象。

　　全(quán)国(guó)政(zhèng)协常委周汉民在外(wài)滩大会的一场论坛(tán)中(zhōng)表示(shì)，随着人工(gōng)智能等新技术的不断发展和应用(yòng)，医疗产业正迎(yíng)来一场深刻(kè)的变革(gé)。据他观察，从最初的影像诊断、辅助诊 疗、基因检测，到近年来的药物发现、临床试验、健(jiàn)康管理等，人工智能(néng)在提高
精准度与效率(lǜ)、个性化(huà)治疗、数据处理
等方面具备显著优势。他指出，医疗健康与(yǔ)人工智能的融合还(hái)延伸到(dào)了中医领域。

　　谈及人(rén)工智能在医疗产(chǎn)业的应用(yòng)情况，周汉民表示，人工智能(néng)在医疗健康产(chǎn)业的应用应(yīng)着力提高精准(zhǔn)性(xìng)、适(shì)用(yòng)性和安全性，此(cǐ)外，还需关注(zhù)人工智能的引入是否会导致医护人员技能萎缩、对人工智(zhì)能的信任的误判(pàn)以及信(xìn)息超载。

　　以(yǐ)AI对抗AI

　　在期(qī)待技术带来美好生活的同时，如何预防技(jì)术“作恶(è)”也成(chéng)为外(wài)滩大
会讨论的热点(diǎn)话题。

　　今年的外滩
大会上，举办了包括“afac2024金融智能(néng)创新大赛”和“全(quán)球Deepfake攻(gōng)防挑战赛”两场子赛事在内的AI创(chuàng)新大赛，由于 近日韩国曝出“Deepfake”（深度伪造技术）事件，被认(rèn)为是采用新犯罪手段的“N号房”案件(jiàn)重现，以AI对抗(kàng)AI，Deepfake攻防挑战赛尤其受到观众的挑战。

　　事实上，随着AI技术的发展，Deepfake滋(zī)生 欺诈等黑色产业链(liàn)，AI换脸(liǎn)欺(qī)诈(zhà)带来(lái)的经济财产损失、名誉受损等事件正在成为全球挑(tiāo)战。

　　在外
滩大会展区，许多观(guān)众现场拍照，然后利用Deepfake换脸模型(xíng)和算法，通过视频(pín)活化、微笑和眼镜模版对观众的真实照片进行换脸，亲身(shēn)感受了Deepfake的(de)逼真外滩大会参会规模创新高，人们都在关注如何防止AI作恶。

　　而在外滩大(dà)会AI创新赛·全球Deepfake攻防挑战赛(sài)的(de)表 演赛(sài)上，观众更是(shì)为AI识别AIGC伪造图(tú)片(piàn)感到激动(dòng)。在这场表演赛中(zhōng)，主(zhǔ)持(chí)人拿出(chū)了9张(zhāng)玛丽莲梦露等女星的照片，其中2张(zhāng)是AIGC伪(wěi)造的(de)，选手(shǒu)用自己的参赛模型给(gěi)出每张图
片的伪造概率值，并对概率值最高的2张照(zhào)片与正确答案进行比对。最终，两(liǎng)支参赛队(duì)伍的模型都找到了正(zhèng)确答案。

　　在后续的互动中，一个有趣的现象是，人类肉眼能够看出“一眼假”的伪造图片(piàn)，AI可(kě)能识(shí)别不出，一些肉眼真假难辨的图 片，AI反而能识别(bié)。新加坡科技研究局周天(tiān)異教授分(fēn)析，人(rén)类在判断图像(xiàng)是否伪造会依赖直觉
和逻辑(jí)，一些(xiē)人类一眼便知的问(wèn)题AI无(wú)法联(lián)系相关背景、情形无(wú)法识别，而一些难以识别的图片，AI一丝不(bù)苟、勤勤恳(kěn)恳(kěn)地(dì)完成人类(lèi)指令的工(gōng)作模式反而能找出问题。他表示，相(xiāng)比“一眼假”的图片，恰恰是这些(xiē)难以识(shí)别的(de)图片往往给人类带来(lái)更大损失(shī)，因此，用AI应对Deepfake有(yǒu)着重(zhòng)要意(yì)义。

　　“从(cóng)我们现在看到(dào)的数据来(lái)看，我们(men)叫Deepfake的攻击也好，AIGC的(de)生成伪造，今年的攻击(jī)量比 去年(nián)大概增加了10倍，去(qù)年 攻击的浓度大概是1%，今年就是10%。整个风险其实是呈指数级上升的情(qíng)况，这不仅仅是在中国，在韩国，在菲(fēi)律宾 、印尼等国(guó)家(jiā)都有类似的情况(kuàng)发生。”外(wài)滩大会AI创新赛·全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌表示，10%的浓(nóng)度意味着(zhe)业界发现线上的流量有(yǒu)10%是Deepfake的流量(liàng)，随着(zhe)AIGC的发展，生成的成本会越 来(lái)越低，效(xiào)率越来越高，明年可能不是20%，可能是50%，这是一个必须(xū)重视的威胁。

　　更多(duō)引导AI向善(shàn)的观点也在外滩大会(huì)被讨论，姚伟斌坦言(yán)，研发检(jiǎn)测(cè)算法，只是遏(è)制Deepfake技术滥用的方式之一。这种方式是
相对滞后外滩大会参会规模创新高，人们都在关注如何防止AI作恶的。如果(guǒ)要从根源上防范欺诈(zhà)行为，姚伟(wěi)斌认(rèn)为应在(zài)标准和立法角度，要求给A IGC 内容建立通用标识，比如每一张AIGC生成的视(shì)频或(huò)图片都(dōu)在(zài)文件信息里带一个签名或水印，这样平台管理更有依据，也能让AIGC 可以更可信。

　　“让人工外滩大会参会规模创新高，人们都在关注如何防止AI作恶智(zhì)能帮助人弹(dàn)钢琴，而不是作恶。”是本(běn)届外滩大会反复强调的价值观。上海市数据科学(xué)重(zhòng)点(diǎn)实验室主任肖仰华表示，AI的大规模滥用是可能损害人之为人的本性的。要有所(suǒ)为有所不为(wèi)，但凡伤害人之为人之本性的(de)AI应用，我们要谨慎，要加以(yǐ)限制(zhì)。为此，“我们(men)要重视技术
治理，并将(jiāng)治理提前考虑，做到未雨绸(chóu)缪。”

　　浙(zhè)江强(qiáng)脑科技创(chuàng)始人兼CEO韩璧丞则表示，AI伦理委员会的存(cún)在非常重要。技术前进(jìn)的时候，更应该关注
“走的(de)慢(màn)”的人。“当一个足以改变世界的技术出(chū)现时(shí)，我们先用它来帮(bāng)助最需 要的人”。

　　（本文来(lái)自第一财经）

责任编辑：李(lǐ)桐(tóng)

未经允许不得转载：橘子百科-橘子都知道 外滩大会参会规模创新高，人们都在关注如何防止AI作恶