对话百度副总裁石清华：大模型的特性是客观的，但价
值观要对齐

专题
：2024亚布力企(qǐ)业(yè)家第二十届夏季年(nián)会

　　8月30日消息，在2024亚布力企(qǐ)业(yè)家第二十届夏季年会期间，百度副(fù)总裁(cái)石清华(huá)对新浪科技表(biǎo)示，其实大模(mó)型的特性是很(hěn)客观的，你教他什(shén)么他就回答什么，给(gěi)他训练什么他就说什么，但是里边
有一些价值观的事情要对齐。

　　“我们叫对(duì)齐，输出对(duì)齐(qí)，比如说一(yī)些普世大众的价值 标(biāo)准，是(shì)不能够胡说八道(dào)的；再比如涉毒、涉恐、涉赌等等三十(shí)几个门类敏感信息(xī)，我们需要一点点去对齐，对齐之后，文心一言才正式发(fā)布。”

　　石清华谈到，现(xiàn)在百度的文心一言每(měi)天有超过6亿(yì)次(cì)调用，日均处理tokens超(chāo)1万亿，这个量(liàng)级是非常(cháng)大(dà)的，没办(bàn)法人工(gōng)干预(yù)，更(gèng)不可能人工审核，所以大模 型必(bì)须有最终输出的能(néng)力，而且最终输出能力一定要合理、合法、合(hé)规、合价值观。

　　“大模型就(jiù)是一个 学生(shēng)，你教他什么他就会什么，但同时还要告诉(sù)他(tā)什么是对的，什么是不对(duì)的，我们的安全模块就(jiù)像学生的思想政(zhèng)治教育工作，要明确什么东西能说，什么(me)东西不能说。”他表示，这是大模(mó)型(xíng)的正(zhèng)常(cháng)训练，思想政治训练就是安全模(mó)块。

　　石清华表(biǎo)示，“我们是分成几层对齐的，第一个价值观对齐 ，是最大的对齐(qí)；第二个是(shì)行业对(duì)齐，不能回答一些违反(fǎn)行(xíng)业(yè)普遍规律(lǜ)的问(wèn)题。第三个是对企业的对齐，比如服务(对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐wù)一(yī)个企业的大(dà)模型就要充分了解企(qǐ)业的情(qíng)况和文化。

　　“普世价值(zhí)观(guān)对齐，行业基本逻辑对齐，特殊(shū)客群对齐(qí)，训练大(dà)模型这些缺一不(bù)可(kě)，”石清(qīng)华谈到。（刘丽(lì)丽(lì)）

　　新浪声明：所有会议实录均为现场速(sù)记整理，未经演(yǎn)对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐讲者(zhě)审阅(yuè)，新浪网登载(zài)此文出于传递更多信息之
目的，并不意味着赞同其观点或证实其描述。

对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐ss="article-editor">责任
编辑：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐