周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点

专题：2024亚布力(lì)企业家第二十届夏季年会

　　新浪科技讯 8月31日(rì)下午消(xiāo)息，2024亚布力企业家第二十届夏季年会在(zài)广州(zhōu)举行。论(lùn)坛期间，在东方甄选直播(bō)间，新东(dōng)方教(jiào)育科技集(jí)团董事长俞敏(mǐn)洪与多(duō)位(wèi)企业家(jiā)对话。360集团创始人、董事长周鸿祎在(zài)直播间谈(tán)到(dào)国内人工智能(néng)发展面临的主要挑(tiāo)战。

　　周鸿(hóng)祎表示(shì)，有一个挑战是对错误，对创新的宽容、理解和和包容。他表示(shì)，人工智能一定会出错(cuò)，但不知道它(tā)在什么情况下会莫名其妙的(de)出错(cuò)。

　　“所(suǒ)以这里面有两种可能(néng)，一种是(shì)大模型自身会产生幻觉，”他认为，幻觉是大模型真正有智力的一(yī)种(zhǒng)体现，这(zhè)是它先天决定的。

　　周鸿祎表示，也(yě)研究了对付幻(huàn)觉(jué)的方法，比如说用知识对(duì)齐，也就是当(dāng)大模型产生内容(róng)之后，去找内容来做对标，但(dàn)这里面(miàn)又会有一个陷阱，就是曾几何(hé)时我们都认为网上的(de)内容都是对(duì)的，只(zhǐ)要是印成印(yìn)刷体的内容都是对的，所以用搜索引擎来(lái)做对齐，但现在发现网上也有很多内容被污(wū)染了(le)或者被“投毒”了。

　　“比如(rú)，如果网上贴了很多(duō)关于俞老(lǎo)师(shī)的(de)负面(miàn)，完全是无中生有，但这个帖子又(yòu)没被删掉，就会被当(dāng)成事实，进入事实库之后，可能大模型(xíng)就开始乱说俞老师的(d周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点e)坏话。”他还谈到，Google最近也犯了这样的错误，有人在(zài)Google里(lǐ)问怎么吃石头，Google就认(rèn)真回答说吃石头要磨细了吃，咽(yàn)不下的时(shí)候(hòu)还用水来送服，石头(tóu)有很丰富的营养，就成为一个丑闻。原来谷歌是从一个社(shè)区(qū)论坛抓(zhuā)取的(de)内容(róng)，那里有(yǒu)人恶搞，模拟科普文章，写了如(rú)何吃石头，然(rán)后就被(bèi)谷歌抓取了(le)，谷歌就认为这个文章(zhāng)都是对的。

　　周鸿祎指出，以后在网上还需(xū)要(yào)解决的问题是用大模(mó)型来判(pàn)断内容到底(dǐ)对不对，但前提是要有一些对的内(nèi)容(róng)，那就需要人工筛选一些内容。

　　他认为，未来随着大模(mó)型用的越来越多之后，一定会在回答某些(xiē)问(wèn)题的时候(hòu)可能口出乱言，碰(pèng)到这种情况，建议用户还是宽(kuān)容一(yī)点，发周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点现漏洞可以主动通知对(duì)方去修正，而不是大肆渲染，变成巨大的事件。

　　新浪声明：所有会议实录(lù)均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并(bìng)不意味着赞同其观点或证实其描述。

责任编辑：梁斌(bīn) SF055

未经允许不得转载：橘子百科-橘子都知道周鸿祎谈大模型出错：可能会在某些时候口出乱言，建议用户宽容一点