对话百度副总裁石清
华：大模型的特性是客观的，但价值观要对齐

专题：2024亚布力企业家第二十届夏季年会

　　8月30日消息，在2024亚布力企业家第二十届夏季年会期间(jiān)，百度副总裁石清华对新浪科技表示，其实大模对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐型的特性是很客观的，你教他什么他就回答(dá)什么，给他训练什么他就(jiù)说什么，但(dàn)是(shì)里边(biān)有一些价值观的事情要对齐。

　　“我们叫对齐，输出对齐，比如(rú)说一(yī)些普世大众的价值标准，是不能(néng)够(gòu)胡说八道的；再比如涉毒、涉恐、涉赌等等三十几个门类敏感
信息，我们需要(yào)一点点(diǎn)去对齐，对(duì)齐之后，文心(xīn)一言才(cái)正(zhèng)式发布(bù)。”

　　石清华谈(tán)到，现在百度的(de)文心(xīn)一言每天有超过6亿次调用(yòng)，日均(jūn)处理tokens超1万亿，这个量级是非常大的，没办法人工干预，更不可能人工审核，所(suǒ)以大模型必须(xū)有最终输(shū)出的(de)能力，而且最终(zhōng)输出(chū)能力一定(dìng)要合理、合法、合规、合价值观。

　　“大模型就是一个学生 ，你教他什(shén)么他就会什么(me)，但同时还要告诉他(tā)什么是(shì)对的(de)，什么是不对的(de)，我们的安(ān)全模块就像学生的思想政(zhèng)治教育工作，要明确什么(me)东西能说，什么东西不能说。”他表示，这是大(dà)模型的(de)正常训练，思想政治(zhì)训对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐练就是安全模块。

　　石清华表示，“我们是分成几层对齐的，第一个价值观对(duì)齐(qí)，是最大的对齐；第二个是行业对齐，不能回答一些违反行(xíng)业普(pǔ)遍规律(lǜ)的问题。第(dì)三个是对企业的对齐，比如服务一个企业的大模型就要充分了解企业的情况(kuàng)和文化。

　　“普世价值观对齐，行业基本逻(luó)辑对齐，特(tè)殊客群对(duì)齐，训练大模型这些缺一不可，”石(shí)清华谈到。（刘丽
丽）

　　新浪声明：所(suǒ)有会议实录均为现场速(sù)记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不(bù)意味着
赞(zàn)同其观点或(huò)证实其描
述。

责任编辑(jí)：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐