橘子百科-橘子都知道橘子百科-橘子都知道

百度石清华:万卡集群每天用电量相当于一个北京东城区

百度石清华:万卡集群每天用电量相当于一个北京东城区

专题 :2024亚(yà)布力企业家第二十(shí)届夏季年会

  “2024亚布力(lì)企业家第二十届夏季年会(huì)”于8月30日-9百度石清华:万卡集群每天用电量相当于一个北京东城区月1日在广州市(shì)举(jǔ)行。58同(tóng)城(chéng)CEO姚劲波表示,作为(wèi)大模型的使用者,希望相关公司提供的产品价格越低(dī)越(yuè)好,性(xìng)能越高越好。“最好你们都免(miǎn)费或者(zhě)亏本给我们提供服务,这(zhè)是我们最(zuì)愿(yuàn)意看到的”。

  姚劲波还表示,作为(wèi)大模型的使用者,自己是愿意(yì)付费(fèi)的,但并非是按照大模型公(gōng)司的成(chéng)本来付费,而是应该(gāi)按照大模型给使(shǐ)用者创造的价值,或者是(shì)帮助使(shǐ)用者节省的成本来付费。

  对此,百度副总裁石清华回(huí)应称,“愿意为价值来付费和买单,这是我们大模 型厂商最终追求的”。

  他介(jiè)绍说,“百度的文心一言要(yào)开始进入5的时代了,Open AI ChatGPT要进入5的时代(dài)了,这个(gè)训(xùn)练非常恐怖的。一个智算中心,比如说一个万卡集群,大家算算(suàn)账,上百亿甩进去了,万卡集群每天的电量(liàng)基本上相当于一个北京东城区(的电量),还是很(hěn)费资源的”。

  他透露,百度文心一言目前有三亿用户,千帆(fān)平台(tái)在一年之内服(fú)务了15万家企业,平均每天调用量超过了6.5亿次,换成token基本上是万亿token,“这(zhè)表明它(tā)真的被用起来,不然不可能有这么多的用量”。

  “现在大家都说(shuō)大模型厂商(shāng)焦虑”,他(tā)说,“可(kě)能有的焦虑,有(yǒu)的 不(bù)焦虑。百度应该是叫‘笃定’,笃定在要把它用上去,用在具体的场景里面”。

  “大模(mó)型(定价(jià))到底应该(gāi)怎么(me)衡量?”,石清(qīng)华说,“现(xiàn)在的价格,比如你1000万,我800,我(wǒ)800万,你700万,无限往下(xià)打价格(gé)战,但是我相信(xìn)早晚有一天(tiān)是要回归到价值定价”。

  新浪(làng)声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪(làng)网 登载此文出于传递更多(duō)信息(xī)之目的,并不(bù)意味着赞同其观点或证(zhèng)实其描述。

责任(rèn)编辑:梁百度石清华:万卡集群每天用电量相当于一个北京东城区斌 SF055

未经允许不得转载:橘子百科-橘子都知道 百度石清华:万卡集群每天用电量相当于一个北京东城区

评论

5+2=