周鸿祎谈大模型出错：可能会在某些时候
口出乱言，建议用户宽容一点

专题：2024亚布力企(qǐ)业家第二十届(jiè)夏季年会

　　新浪科技(jì)讯 8月31日下午消息，2024亚布力企业家第二十届(jiè)夏季
年会在广州举行。论坛期间，在东(dōng)方甄选(xuǎn)直播间，新东方教育科技集团(tuán)董事长(zhǎng)俞敏洪与多位(wèi)企业家对(duì)话。360集团创始人、董事长周鸿祎在直(zhí)播(bō)间谈到国内人工(gōng)智能(néng)发展面临的主要挑战。

　　周鸿祎表示，有一个挑战是 对错误，对创新的宽容、理解和和包容(róng)。他表示，人工(gōng)智能一(yī)定会出错，但不知道
它在什么情况下会莫名其妙(miào)的(de)出错。

　　“所以(yǐ)这里面有两种(zhǒng)可能，一种是大模型自身会产生幻觉，”他认为，幻觉是大模型真(zhēn)正有智力的一种体现(xiàn)，这是它先天决定的。

　　周鸿祎表示，也研(yán)究了(le)对付(fù)幻觉的方法，比如说用知识对齐，也就是当大模型产生内容之后，去(qù)找内容来做对标，但这里(lǐ)面又会有一个(gè)陷阱，就是曾(céng)几何(hé)时我们都认(rèn)为网上的内容都是对(duì)的，只(zhǐ)要是印成印刷体的内容都是对的，所以用(yòng)搜索引擎来做对齐，但现在发现(xiàn)网上也周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点有很多内容被污染了或者被“投毒”了。

　　“比(bǐ)如，如果网上贴了很多关于俞老(lǎo)师的(de)负(fù)面(miàn)，完全是无中生有，但这个帖子又没被删掉，就会被当成事实，进入事实库之后，可能大模型就开始乱说(shuō)俞老师的坏话。”他还谈到，Google最近(jìn)也犯了这样(yàng)的错误，有(yǒu)人在 Google里问怎么(me)吃石头，Google就(jiù)认真回答说吃石头要磨细了(le)吃，咽不下的时候还用水来送服，石头有很丰富的(de)营养，就成(chéng)为一个丑闻(wén)。原来谷(gǔ)歌是从一个社区论坛抓取的内容，那里有人恶搞，模拟科(kē)普文章，写了如何吃石头，然后就被谷歌抓取了(le)，谷歌就认(rèn)为这个文章都是对的。

　　周鸿(hóng)祎指出，以后在网上(shàng)还需要解决的问题(tí)是用大模型来判断内(nèi)容到底对不对，但前提是要有一些对的(de)内容，那就需(xū)要人工筛选一些内容。

　　他认为，未来随着大模型用的(de)越来越多之后，一定会在回答某些(xiē)问题的时(shí)候可能口出乱言，碰到这(zhè)种情况，建(jiàn)议用户还是宽容一点，发现漏洞可以主动通知对方(fāng)去修
正，而不是大肆渲染，变成巨大的事(shì)件。

　　新浪声(shēng)明：所有会议 实录均为现场速记整理(lǐ)，未经演讲者审阅，新浪网(wǎng)登(dēng)载此文出于传递更多信息之目的，并不(bù)意味着赞同其观点或(huò)证实(shí)其描述。

责任(rèn)编辑(jí)：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道 周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点