周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点

专题：2024亚(yà)布(bù)力企(qǐ)业家第(dì)二十届(jiè)夏季年会

　　新(xīn)浪科技讯 8月31日下(x周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点ià)午消(xiāo)息，2024亚布力企业家第(dì)二十届夏季年会在(zài)广州举行。论坛期间，在东方甄(zhēn)选直播间，新东方教育科技周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点集团董事长(zhǎng)俞敏洪与(yǔ)多位企业家对话。360集团创始人、董事长(zhǎng)周鸿祎在直(zhí)播间谈到国(guó)内(nèi)人工智能发展面临的主要挑战(zhàn)。

　　周(zhōu)鸿祎表示，有一(yī)个挑战是对错(cuò)误，对创新的宽容、理解和和包容。他表示，人(rén)工智能一定会出错，但(dàn)不知(zhī)道它在(zài)什么(me)情况下会莫名其妙的出错。

　　“所以这里面有两种可能，一种是(shì)大模型(xíng)自身会产生幻觉，”他(tā)认为，幻觉是大模(mó)型真正有智力的一(yī)种体现，这是它先天决定的。

　　周鸿祎表示，也研究了对付幻觉的方法(fǎ)，比如说用知识对齐，也就是当大模型产生内(nèi)容之(zhī)后，去找内容来(lái)做对标，但这里面又(yòu)会有一(yī)个陷阱，就是曾几何时我(wǒ)们都认为(wèi)网上的内(nèi)容都是对的，只要是印成(chéng)印刷(shuā)体的内容都是对的，所以用搜索引擎来做对齐，但现在发现网上(shàng)也有很多(duō)内容被污(wū)染了或者被“投毒(dú)”了。

　　“比如，如果网上贴(tiē)了很多关于俞老师的负(fù)面，完全是无中生有，但(dàn)这个帖(tiē)子又没被删掉，就会被当成(chéng)事实，进入事实库(kù)之后，可能大模型就开始乱说俞老师的坏话。”他还谈到，Google最近也(yě)犯了这样(yàng)的错误，有人在Google里(lǐ)问怎么吃石头，Google就认真回答说吃石头要磨(mó)细了吃，咽不下的时候还用水来送服(fú)，石头有很丰(fēng)富的营养，就成(chéng)为一(yī)个丑闻。原来谷歌是从(cóng)一个社区论(lùn)坛抓取的内容，那里有人恶(è)搞，模拟科(kē)普文章，写了如何吃石头，然后就被谷歌抓取了，谷歌就认为这(zhè)个文章都是(shì)对的。

　　周鸿(hóng)祎(yī)指出，以后(hòu)在(zài)网上还需要解决(jué)的问题是(shì)用大模(mó)型来判断内容到底对不对，但前提是要有一些对的内(nèi)容，那就需要人工筛选一些内容。

　　他认为，未来随着大模型用的越(yuè)来越多(duō)之(zhī)后，一定会在回答某些问题的时候(hòu)可能口出乱言，碰(pèng)到这种情况，建议(yì)用户还是宽容一点，发现漏(lòu)洞可以主动通知对方去修正，而不是大肆渲染，变成巨大的事件。

　　新浪(làng)声(shēng)明：所有会议实录均为现场速记(jì)整理，未经演讲(jiǎng)者审阅(yuè)，新浪网(wǎng)登载此文(wén)出于传递(dì)更多信息之目的，并(bìng)不(bù)意味着赞同其观点或证实(shí)其描述。

责任(rèn)编辑：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点