对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题：2024亚布力企业家第二十届夏季(jì)年会

　　8月(yuè)30日消息，在2024亚布力企(qǐ)业家(jiā)第二十届夏(xià)季年会(huì)期间(jiān)，百度副总裁石清华对新浪科技(jì)表示，其实(shí)大模型的特性是很客(kè)观的，你教他什么(me)他就回答什么，给他训练什么他就说什么
，但(dàn)是里边有一些价值观的事(shì)情要对齐。

　　“我们叫对齐，输出对齐，比(bǐ)如说(shuō)一些普世大众的价值标准(zhǔn)，是不能够胡说(shuō)八道(dào)的；再(zài)比如涉毒(dú)、涉恐、涉赌等等三十几个(gè)门类敏感信息，我们(men)需要一点点去对(duì)齐，对齐之后，文心一言才正式发(fā)布。”

　　石清华谈到，现在(zài)百度的文心一言(yán)每天有超过6亿次调用(yòng)，日均处理tokens超
1万亿，这个量级是(shì)非常大的，没办(bàn)法人工干预，更不可能人(rén)工审核，所以大模(mó)型对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐(xíng)必须有最终输出的能力，而且最终输出能力一定要合理、合法、合规(guī)、合价值观。

　　“大(dà)模(mó)型就是一个
学生，你教他(tā)什么他就会什么，但同时还要告诉他什么是对的，什么(me)是不对的，我们的安全模块就像(xiàng)学生的思想政治教育工作，要明确什么东西能说，什么(me)东西(xī)不能说。”他表示 ，这是大模型(xíng)的正常训(xùn)练，思想政治训练就是安全模块。

　　石清华表(biǎo)示(shì)，“我们是分成几层对齐的，第一个价值观对齐，是最大的对(duì)齐(qí)；第二个(gè)是(shì)行业对
齐，不能回答(dá)一些违反行业普遍规律的问题。第三个是对企业的对 齐(qí)，比如(rú)服务一个企(qǐ)业(yè)的大模型就要充分了解(jiě)企业的(de)情况和文化。

　　“普世价值观对齐，行(xíng)业基本逻辑对齐，特殊客群对齐，训(xùn)练(liàn)大模型这些缺一不可，”石清华谈到。（刘丽丽）

　　新(xīn)浪声明：所有会议实录均为现场速记整(zhěng)理，未(wèi)经(jīng)演讲者审(shěn)阅，新浪网登载此文出于传递更多信息之目的
，并不意味着(zhe)赞同其观点或证实其描述。

责任编辑：梁斌 SF055

未经允许不得转载：橘子百科-橘子都知道 对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐