百度石清华:万卡集群每天用电量相当于一个北京东城区
专题:2024亚布力(lì)企业家第二十届夏季年会
“2024亚布力企业家第二十届夏季年会”于8月30日-9月1日在广州市举行。58同城(chéng)CEO姚劲波表示(shì),作为大模型(xíng)的使用者,希望相(xiāng)关公司提供的产品价格越低(dī)越好,性能越高 越好。“最好你们都免费(fèi)或者亏本给我们(men)提供服务,这是我们(men)最愿意看到的”。
姚劲波还表示,作为大模型的使(shǐ)用者,自(zì)己是(shì)愿意付费的(de),但并非是按照大模型公司的成本来付费,而(ér)是应该按照大模型(xíng)给使用者(zhě)创造的价值(zhí),或(huò)者是帮助使用(yòng)者节省的成本(běn)来付费(fèi)。
对(duì)此,百度副总裁石清华回应称,“愿意为价值来付(fù)费(fèi)和买(mǎi)单,这(zhè)是(shì)我们大模型厂商最终追求的”。
他介绍说,“百度的文心一言要开始进入5的时代了,Open AI ChatGPT要进入5的时代了,这个训练非(fēi)常恐怖的。一个智算中心,比如说一个万卡集群,大家算算账,上百亿甩(shuǎi)进去了,万卡集群每天的电(diàn)量基本上相当于一个北京东(dōng)城区(的(de)电量),还是很费资源(yuán)的”。
他透露,百度(dù)文(wén)心一言目前有三亿用户,千帆平台在一年之内服务了15万家(jiā)企(qǐ)业,平均(jūn)每天调用量超过了6.5亿次,换成token基本上是万亿token,“这表明它真的(de)被用起(qǐ)来,不然不可能有这(zhè)么多的用量”。
“现在大家都说(shuō)大模型厂商(shāng)焦虑”,他(tā)说,“可能有的焦虑,有的 不焦虑。百度应该是叫‘笃定’,笃定 在要把它用上去,用在具(jù)体的场景里面”。
“大(dà)模型(定价)到底应该怎(zěn)么衡量?”,石清华(huá)说,“现(xiàn)在的价格,比如你1000万,我800,我800万,你700万,无限(xiàn)往下打价格战(zhàn),但是 我(wǒ)相信早晚有一天是(shì)要回归到价值定价”。
新浪声明:所有会议实录均为现(xiàn)场速(sù)记整理,未经演讲者审阅,新(xīn)浪网登载此(cǐ)文出于传(chuán)递更多(duō)信息之目的,并不意味着赞同其观点或证(zhèng)实其描述。
责任编(biān)辑(jí):梁斌 SF055
未经允许不得转载:橘子百科-橘子都知道 百度石清华:万卡集群每天用电量相当于一个北京东城区
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了