Meta继续押宝开源大模型 Llama 3拿下“赛点”？

开源与(yǔ)闭源之争延续到大模型时代。在寻找“新大陆
”的路上，开源与闭源的辩论，就像是一场关于AI未来的“航海策(cè)略(lüè)”讨论。

开源(yuán)一派认为，开(kāi)源能(néng)够促进全球科研人员和开发者的协作，加速(sù)AI技术的迭(dié)代与创(chuàng)新。同时，开源让更多人(rén)参与到(dào)模型的改进和优(yōu)化中，通过集体(tǐ)智慧解决复(fù)杂的技术难题。

闭源的倡导者则看(kàn)重其在商业化、技术保护和产品差异化方面(miàn)的优(yōu)势。闭源模(mó)型使得企业能够控制(zhì)产(chǎn)品的开发节奏(zòu)和市 场策略，保护其商业利益。此外，闭源也有(yǒu)助于(yú)企业维(wéi)护其技(jì)术优势，避免竞争对手模仿或超越 。

Llama 3的发布让开源大模型在与闭源(yuán)的竞争中(zhōng)再度“扳回一(yī)城”。从测试结果来看，Llama 3的成绩大幅超越了Llama 2，也(yě)胜过了(le)GPT-3.5。

在AI这场没有硝烟(yān)的“航海竞赛(sài)”中，大模型已然(rán)成为(wèi)眼前的灯塔。未(wèi)知(zhī)的是，这座灯塔究竟(jìng)是向所有航海者开放其光芒，还是仅(jǐn)为特定的船只照(zhào)亮前行的(de)航(háng)道。

开源在开(kāi)发者和研(yán)究人(rén)员中极受欢迎

Meta正沿着开源路径继续前(qián)进。

近日，Meta推出开源大模型Llama 3系列，发布8B和70B两个版本。Meta创始人兼首席执 行官(guān)扎克伯格在同一天宣布，基于Llama 3，Meta的AI助手现在已经覆盖Instagram、WhatsApp、Facebook等全系应用，并单独开启了网站。

与Llama 2相比，Llama 3进(jìn)行了几项关键(jiàn)的改进：使用具128K token（输入数据的最小单元）词(cí)汇表的tokenizer（编译器），可以(yǐ)更有效地(dì)编码语言，从而显著提升模型性(xìng)能；在8B和(hé)70B模型中都采用分组查询注(zhù)意力（GQA），以提高Llama 3模型的推理(lǐ)效率；在8192个token的序列上训练模型，使用(yòng)掩码(mǎ)来确保(bǎo)自(zì)注意力(lì)（Self-Attention）不会跨越(yuè)文档边界。

据Meta介绍，Llama 3已经(jīng)在多种行业(yè)基准(zhǔn)测(cè)试上展现(xiàn)了最先(xiān)进 的性能，提供了包括改进的推理能力在
内的新功能(néng)，是目前(qián)市场上(shàng)最好的开源大模型。

此外，Llama 3发布后，微软(ruǎn)Azure、谷歌云、百度智能云等陆续宣布(bù)其平台上线(xiàn)Llama 3。百度方面(miàn)此前对《每日经(jīng)济(jì)新闻》记者表(biǎo)示，百度(dù)智(zhì)能云(yún)千帆大模型平台在国内首家推出
针对Llama 3全系(xì)列版本的训练推理方案(àn)，便于开发者进行再训练 ，搭建专属大模型。

工业和信息化部工业文化发展中心AI应(yīng)用(yòng)工作组执行组长(zhǎng)、行行AI董事长李明顺在(zài)接受《每(měi)日经济新闻》记者(zhě)采访时表示，Meta的Llama 3发布可能会带来更多(duō)AI应用落地机(jī)会和(hé)场景，它通过提供(gōng)更(gèng)大词汇量的Token词典、更长的输入上(shàng)下文长度以及优化(huà)的模型结构，增强了(le)模型(xíng)的编码(mǎ)效率和推理效率
。“现在，比起Llama 2，Llama 3在(zài)代码能力和逻辑推理能力上有显著提升(shēng)，这可能会促进(jìn)相关AI应用的性能（提升），尤其是在需要复(fù)杂逻辑和代码理解的(de)场景中(zhōng)去落地。”

OpenAI在GPT-2之后调转船头走向(xiàng)闭源，Meta则(zé)成为开源界的引领(lǐng)者之一(yī)。

从2020年发布GPT-3，到引发轰动的(de)GPT-3.5，以及2023年3月发布 的GPT-4，都是(shì)闭源模型。此前，马斯克起诉OpenAI时曾直言：“如果OpenAI改
名为ClosedAI，我就撤销(xiāo)诉讼(sòng)。”

李明顺认为，OpenAI的转变(bMeta继续押宝开源大模型 Llama 3拿下“赛点”？iàn)可能与其商(shāng)业战略和市(shì)场定(dìng)位有关。“初期开源有助于快速吸引关注和社区参(cān)与，但随着公司的发展，我(wǒ)估计阿尔特曼（Sam Altman）的野心和商业梦想越来越膨胀了，闭源可(kě)以更好(hǎo)地让它融资，包括和微软合作，保(bǎo)护领先的技术优势。”他表示，从(cóng)OpenAI的转(zhuǎn)变中可以看(kàn)出，开源与闭源的选择(zé)并非固定(dìng)不变(biàn)，而是需要(yào)根据公司战略目标、市场环境和产(chǎn)品发展阶段(duàn)灵活调整。天下(xià)没什么事情是(shì)绝对的(de)，很(hěn)多开源公司也是拿着次优代码开(kāi)源，独家秘方闭源。

在追逐AGI（通(tōng)用人工智 能）这颗明珠的道路上，迄今为止，Meta依(yī)旧持(chí)续沿(yán)着开源的路径
前行。

2024年初，扎克伯格在Meta第四季度及2023全年财报电话(huà)会议上表示
：“长期以来，我们的策略是(shì)构(gòu)建(jiàn)并开放(fàng)源代码通用基(jī)础设施，同时保留我
们的具体产品实现为专(zhuān)有技术。”

他认为，开源带(dài)来了几个战略
好处。首先，开源
软(ruǎn)件通常更加安(ān)全可靠，并且因(yīn)为社(shè)区的持续反馈、审查(chá)和开发，更加高效(xiào)。其次，开源软件(jiàn)经常成为行业标准，“当企业开始(shǐ)基于我们的技术栈建立标准时，这使得将创(chuàng)新融入我们的产品变得更加容易。这种微妙的优势，能(néng)够迅(xùn)速学(xué)习和改进(jìn)，是巨大的竞(jìng)争优(yōu)势(shì)，而成(chéng)为行业标准(zhǔn)正是这一能力(lì)的关键”。第三，开源在(zài)开发者和研究人员中极(jí)受欢迎。

开源与闭源并不矛(máo)盾

开源还是闭源，也许是全
球人工智能信徒长久的辩题。在Llama 3诞生前几天，国内同样在进行一场“辩论”。

4月11日
，百度董(dǒng)事长兼首席执行官李彦(yàn)宏在(zài)其内部讲话中(zhōng)直言，大模型开源的(de)意义不大，闭源模型在能力上(shàng)会持续领(lǐng)先，而(ér)不是一时领先(xiān)，做模型的创业公司既做 模型又做应用的“双轮
驱动”不是一个好(hǎo)的模式。在一周后的Create 2024百度AI开发(fā)者大会上，李彦宏再度提到(dào)，大家以前用开源觉得开源便宜，其(qí)实在大模型场景下，开源是最贵的，所以开(kāi)源模型会 越来越落后。

360公司创始人周鸿(hóng)祎则持不同的(de)观点。他表示：“网上有些名(míng)人胡说八道 ，大(dà)家也别被他们忽悠，说开源不如闭源好。一句话(huà)，今天没(méi)有开源就没有Linux（操作系 统内(nèi)核），没有Linux就没有互联网，就连说这话的公司自己都借助了开源(yuán)的力量才成(chéng)长到今天(tiān)。”

这段发言被解读为对李彦(yàn)宏观点的回怼，周鸿祎随后澄清道：“我(wǒ)一直是开源的信(xìn)徒，但是我说开源好，是（4月）13日在哈佛(fú)讲的，李厂长（指李彦宏）说闭(bì)源好，是（4月）16日在北京讲的。”

生数科技联合创(chuàng)始(shǐ)人兼CEO唐家(jiā)渝站在闭(bì)源的一边。在4月18日举(jǔ)行(xíng)的“2024中国生成式AI大会”上，唐(táng)家渝(yú)表示：“在我们看(kàn)来，开源、闭源都有各自可(kě)以做的商业生态，但是从模型(xíng)能力 的提升来说(shuō)，或者(zhě)持续走到前列来说，闭源还是会走到(dào)开源的前面。”

昆仑(lún)万维董事(shì)长(zhǎng)方汉的观点是，开源模型与闭源模型之间的差距正在不断缩小。4月16日，方汉在接受《每日经 济新(xīn)闻(wén)》记者在内的媒体采访时表示，闭(bì)源模(mó)型的确(què)是第一，但是开源大模型在2023年(nián)到今年这一年间，从落后两年以上，已经进化到落后4~6个月以上。

此(cǐ)外，方汉(hàn)认为(wèi)，在(zài)应用侧，闭源对于产品特性和长尾需求的满足都落后于开源大模型，开源大模(mó)型是一种生态构建器，更利于满(mǎn)足用户的长尾需求。开源大模型和(hé)闭源(yuán)大模型(xíng)是一个生态的组成部(bù)分，不是谁压倒谁，大家都有自己的生存空间，也都有更好的明(míng)天。

不过(guò)，从商业化上来讲，闭源和开源也许并不矛盾(dùn)。启明创投(tóu)合伙人周志峰就(jiù)认为，开源闭源(yuán)在过去几个(gè)大(dà)浪(làng)潮当中没有很大的冲突(tū)，不太理解为什么很(hěn)多(duō)人把闭源(yuán)、开源
在AI时代看成(chéng)对立的。

李(lǐ)明顺的观点则是，在当前强应用导(dǎo)向的背景下，开源(yuán)模(mó)式具(jù)有显著
优势，能够吸引全球范围内最(zuì)广泛(fàn)的人参与，从而使其创新性保持在较高水平。

相较之(zhī)下，尽管一些闭源大模(mó)型在技(jì)术上具有领先地位，但其成本太高。不过他也强调，开源与闭源在不同公司和应用场景中(zhōng)可以相互转换(huàn)。一些基于开源的产品在(zài)发掘到(dào)独特(tè)优势后，可能会通过闭源策略建立竞争壁垒。同时，一些闭源(yuán)公司也会(huì)不断将其部分产品开源(yuán)。这两(liǎng)个(gè)应 该是共存的 ，未来开(kāi)源可能用 户(hù)量级上更大
，但是行业内，商业化 做得比较好的公司，往(wǎng)往还是
闭源的(de)多一点。Meta继续押宝开源大模型 Llama 3拿下“赛点”？>

在(zài)开源与闭(bì)源(yuán)的(de)辩论中，也许答案并非非此即彼。AI的未来可能既不是完全开放的“自由港”，也(yě)不是彻底封闭(bì)的“孤岛(dǎo)”，而(ér)是一个既包(bāo)含开(kāi)放协作(zuò)也包(bāo)含封闭竞争(zhēng)的混合生态。在(zài)这个生态系统中，开放与封闭不是对立的(de)两极，而是一枚硬(yìng)币(bì)的两面。

未经允许不得转载：橘子百科-橘子都知道 Meta继续押宝开源大模型 Llama 3拿下“赛点”？