8月30日(rì)消息(xī)，在2024亚布力企业家第(dì)二(èr)十届夏(xià)季年(nián)会期(qī)间，百(bǎi)度副总裁石清华对新浪科(kē)技表示，其实大(dà)模型的特性是很客观的，你教他什(shén)么他(tā)就回答什么 ，给他训(xùn)练什么他就说什么，但是里边有一些(xiē)价值观的(de)事情要对齐。

　　“我们叫(jiào)对齐，输出对齐，比如(rú)说一些普(pǔ)世大众的价值标(biāo)准，是不能够胡说八(bā)道的；再比(bǐ)如涉毒、涉恐、涉赌(dǔ)等等(děng)三十几
个门类敏(mǐn)感信
息，我们需要一点点去(qù)对(duì)齐，对(duì)齐之后(hòu)，文心一言(yán)才正式发布(bù)。”

　　石清华(huá)谈到，现在
百度的文心一言每天有 超过6亿次调用，日均处理tokens超1万亿，这个量级是非常大的，没办法人(rén)工干(gàn)预，更不可能人工审核，所以大模型必(bì)须有最终输出的能(néng)力，而且最终输出能力一定(dìng)要合(hé)理、合法(fǎ)、合(hé)规、合(hé)价值观。

　　“大模型(xíng)就是一个学生，你教他什(shén)么他就会什么，但同时还要告诉他什么(me)是(shì)对的，什么是不对(duì)的(de)，我们(men)的安全模块就像学生的思想(xiǎng)政治教育工作，要(yào)明(míng)确什么东西能说，什么(me)东西不能说。”他表示(shì)，这是大模型的 正常(cháng)训(xùn)练，思想(xiǎng)政治训练就是安(ān)全模块。

　　石清华表示，“我们是分成几层对齐的，第一个价值观对齐，是最大的对齐；第二个(gè)是行业(yè)对齐，不能回答一(yī)些违反行业普遍规律的问题。第三(sān)个(gè)是 对企业的(de)对齐，比如 服务一个企业的大模型就要(yào)充分了解企业的情况和文化。

　　“普世价值观对齐，行业基本逻辑(jí)对齐，特殊(shū)客群(qún)对齐，训练大模型这些缺一不可，”石清(qīng)华谈到。（刘丽(lì)丽）

　　新(xīn)浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪(làng)网登载此文出于传递
更多信息(xī)之目的，并不(bù)意味(wèi)着赞(zàn)同其观点或证实其描述。

责任编辑：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐