周鸿祎谈大
模型出错：可能会在某些时候口出乱言，建议用户宽容一点

专题：2024亚布力企业家第二十届夏(xià)季年会

　　新(xīn)浪科技讯 8月31日下午消息(xī)，2024亚布力企业家第二十届(jiè)夏季
年会在广州举行(xíng)。论坛期间，在(zài)周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点东方甄选直播间，新东方(fāng)教育科技集团董事长(zhǎng)俞敏洪与多位企业家对话。360集团创始人、董(dǒng)事长周鸿祎在(zài)直周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点播间谈到国内人工智能发(fā)展面临的主要(yào)挑战(zhàn)。

　　周鸿祎表示，有一个挑战是对错(cuò)误，对创新的宽容、理解和和包容。他表示，人工智能一定会出错，但不知道它在什(shén)么情况下会莫名其妙(miào)的出错。

　　“所以这(zhè)里面有两种可能，一种是大模型(xíng)自身会产生幻觉(jué)，”他认为，幻觉是大(dà)模型(xíng)真正有智力的一种体现，这是它先天决定的。

　　周鸿祎表示，也研究了对付幻觉的方法，比如说用知识(shí)对齐(qí)，也就是(shì)当大模型产生内容之后，去找内(nèi)容来做对标，但这里面又会(huì)有一个陷阱，就是曾几(jǐ)何时我们都(dōu)认为网上的内容都(dōu)是对的，只要是印成印刷体的内容都是对的(de)，所以用(yòng)搜索引擎来做对齐，但现在发(fā)现网上也有很多内容被污染了(le)或者(zhě)被“投毒”了。

　　“比如，如果网上贴(tiē)了很多关于俞老(lǎo)师的负(fù)面，完全是无中生有，但这个帖子又没被删掉，就会被当成事实，进入事实库之(zhī)后，可能大模(mó)型就开始乱说俞老师的坏话。”他还谈到，Google最近也(yě)犯了(le)这样的错误，有人在Google里问怎么吃(chī)石头，Google就认真(zhēn)回答说吃石头(tóu)要磨细了吃，咽不下的时候还用水来(lái)送服，石头有很丰富(fù)的营养，就成为一个丑(chǒu)闻(wén)。原来谷(gǔ)歌是(shì)从一个社区论坛抓取的内容，那里(lǐ)有人恶搞，模拟科普文(wén)章，写了如何吃石(shí)头
，然后就被谷歌
抓取了，谷歌就认为这个(gè)文章都是(shì)对的(de)。

　　周鸿祎指出(chū)，以后在网上还(hái)需要解决(jué)的问题是用大(dà)模型来判断内容(róng)到底对不对，但前提是要有一些对的内容，那就需要人
工筛选一些内容(róng)。

　　他认为，未来随(suí)着大模型用的(de)越来越多之后，一定会在(zài)回答某(mǒu)些(xiē)问题的时候可能口出乱言，碰到这种情况，建议用户还是宽容一点，发现漏洞可以主动通知对方去修正，而不是(shì)大肆 渲染，变成(chéng)巨大的(de)事(shì)件(jiàn)。

　　新浪声明：所有会(huì)议实录均为现场速记整(zhěng)理，未经演讲者审阅，新浪网登(dēng)载此文出于传递更多信息之目(mù)的，并不意(yì)味着赞同其观点或证实(shí)其描述。

责任编(biān)辑：梁(liáng)斌 SF055

未经允许不得转载：橘子百科-橘子都知道 周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点