对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题(tí)：2024亚布力企业家第(dì)二十届夏(xià)季年会

　　8月30日消息，在2024亚(yà)布力企业家第二十届夏季年会期间，百度副总裁石清华对新浪科技表(biǎo)示，其
实大模型的特性是很客观的，你教他什(shén)么他就回答什么，给他训(xùn)练什么
他就说什么，但是(shì)里边有一些价值(zhí)观的事情要对齐(qí)。

　　“我们(men)叫对齐，输出对齐(qí)，比如说一些普(pǔ)世大众的(de)价值标
准，是(shì)不能够胡说八(bā)道的(de对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐)；再(zài)比如涉毒(dú)、涉(shè)恐、涉赌等等三十几个门类(lèi)敏感信息，我们需要一点点去对齐，对齐之后，文心一言才正式发布。”

　　石清华谈到，现在百度的文心一言(yán)每天有超过6亿(yì)次调(diào)用(yòng)，日(rì)均处理tokens超1万亿，这个量级是非常大的，没办(bàn)法人工干预，更不(bù)可(kě)能人工审核对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐，所以大模型必须有最终(zhōng)输出(chū)的能(néng)力，而且最终(zhōng)输出能力一定要合理、合法、合规、合价值观。

　　“大模(mó)型就是一(yī)个(gè)学生，你(nǐ)教他什么他就会(huì)什么(me)，但(dàn)同时还要告诉(sù)他什么是对的，什么是不(bù)对的，我们的安全模块就(jiù)像学(xué)生的思想(xiǎng)政治教(jiào)育工(gōng)作，要明确什么东(dōng)西能说，什么东西不能说(shuō)。”他表示，这是大模型的正常训练，思想(xiǎng)政治训(xùn)练就是安全模块(kuài)。

　　石(shí)清华表示，“我们是分成几层(céng)对(duì)齐(qí)的，第一个价值观对齐，是最大的对(duì)齐(qí)；第二 个是行业对齐，不能回答一些违(wéi)反行业普遍规律的问题。第三个(gè)是(shì)对(duì)企业的对齐，比如服务(wù)一个企业(yè)的(de)大模型就要充分(fēn)了解企业的情况(kuàng)和文化。

　　“普世价值观对齐，行业基(jī)本逻辑对(duì)齐，特殊客群对齐，训练(liàn)大模型这些缺一(yī)不可，”石清华谈到。（刘(liú)丽丽）

　　新浪声(shēng)明：所有会议实
录均为现场(chǎng)速记整理，未经演讲者审(shěn)阅，新(xīn)浪(làng)网登载此(cǐ)文出于传(chuán)递更多(duō)信息之目(mù)的，并不意味着赞同其观点(diǎn)或证实其描述。

责任编辑：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐