Meta继续押宝开源大模型 Llama 3拿下“赛点”？

开源与闭源之(zhī)争延(yán)续到大(dà)模型时代。在寻(xún)找“新大陆”的路(lù)上，开源与闭源的辩论，就(jiù)像是(shì)一场关于AI未来的“航海策略(lüè)”讨论。

开源一(yī)派认(rèn)为，开(kāi)源(yuán)能够促进全球科研人员和开发者(zhě)的协作，加速AI技(jì)术的迭代与创新。同时，开源让更多人参(cān)与到(dào)模型的(de)改进和优化中，通过集体智慧解决(jué)复杂的技术(shù)难题(tí)。

闭源的倡导者则看重其在商业(yè)化、技术保护和产(chǎn)品差(chà)异化方(fāng)面的优势。闭源模型使得企业能够控制(zhì)产品的开发节奏和(hé)市场策略，保护其商业利益。此(cǐ)外(wài)，闭源也(yě)有助于企业维护其技(jì)术优势，避免(miǎn)竞争对手模(mó)仿或超越。

Llama 3的发(fā)布让开源大模型在与(yǔ)闭源的竞争中再度“扳回一城”。从测试结果来看，Llama 3的成绩大幅超(chāo)越(yuè)了(le)Llama 2，也胜过了GPT-3.5。

在AI这场(chǎng)没有硝烟的“航海竞(jìng)赛”中，大模型已然成为眼(yǎn)前的(de)灯塔。未知的是，这座灯塔究竟(jìng)是向所(suǒ)有航海者开放其光(guāng)芒，还是仅为特定的船只照亮前行的航道。

开(kāi)源在开(kāi)发者和(hé)研究人员中极(jí)受欢迎

Meta正沿着(zhe)开源路径继续(xù)前进。

近(jìn)日，Meta推出(chū)开源大模型Llama 3系列，发布8B和70B两个版本。Meta创始人(rén)兼首席执行官扎克伯格在同一天宣布，基于Llama 3，Meta的AI助手现在已经(jīng)覆盖Instagram、WhatsApp、Facebook等全系应用，并单独开启了(le)网站。

与Llama 2相比，Llama 3进行了几项关键的改进：使用具128K token（输入(rù)数据的最小单元）词汇表的tokenizer（编译器），可以更有效地编(biān)码语言，从而显著提升模型(xíng)性能；在8B和70B模型中都采用分组查询注意力（GQA），以提高Llama 3模型的推理效率；在8192个token的序列(liè)上训练模型(xíng)，使用掩码来确保自注意力（Self-Attention）不会跨越文档边界。

据(jù)Meta介(jiè)绍，Llama 3已经在多种行业基准测(cè)试上展(zhǎn)现(xiàn)了最先进的性能，提供了包括改进的推理能力在内的新功能，是目(mù)前市(shì)场上最好的(de)开源(yuán)大模型。

此外，Llama 3发布后，微软Azure、谷歌云(yún)、百度智能云等陆续(xù)宣布其平台上线Llama 3。百(bǎi)度方(fāng)面此前对《每日经济(jì)新闻》记者表示(shì)，百度智能(néng)云(yún)千帆大模(mó)型平台在国内首家推出针对Llama 3全(quán)系列版本的训(xùn)练推(tuī)理方案，便于(yú)开发者进行再训练，搭建专属大模型。

工业和信息化部工业文(wén)化发展中心AI应用(yòng)工作组执行组长、行(xíng)行AI董事长李明顺在接受《每日经济新闻》记者采访时表示，Meta的Llama 3发布可能会带来更多AI应用落地机会和(hé)场(chǎng)景，它通过提供更大词汇量的Token词典、更长的输入上(shàng)下(xià)文长度以及(jí)优化(huà)的(de)模型结构，增强了模型的编码效率和推理效率。“现在，比起Llama 2，Llama 3在代码(mǎ)能力和(hé)逻辑推理能力上有显著提升，这可能会促进(jìn)相关AI应用的性能（提升），尤其是在需要复杂逻辑和(hé)代码理(lǐ)解的场景中去落地。”

OpenAI在GPT-2之后调转船头走向闭源，Meta则成为开源界的(de)引领者之一。

从2020年发布GPT-3，到引发轰动的GPT-3.5，以及2023年3月(yuè)发布的GPT-4，都是(shì)闭(bì)源模型。此前，马斯克(kè)起诉OpenAI时曾(céng)直言：“如果OpenAI改名为ClosedAI，我(wǒ)就撤(chè)销诉讼。”

李明顺(shùn)认(rèn)为，OpenAI的转变可能与(yǔ)其商业战略和市场定(dìng)位有关。“初期(qī)开(kāi)源有助于快(kuài)速吸引关注和社区(qū)参与，但随着(zhe)公司的发展，我估计阿尔(ěr)特曼（Sam Altman）的野心(xīn)和商业(yè)梦想越来越膨胀了，闭源可以更好(hǎo)地让它融资，包括和(hé)微软(ruǎn)合作，保护领先的技术优势(shì)。”他表示，从(cóng)OpenAI的转变中可(kě)以看出，开源(yuán)与闭源的(de)选择并非固(gù)定(dìng)不变，而是需(xū)要根据公司战略目标、市场环境(jìng)和产品发展(zhǎn)阶段灵活调整。天下没(méi)什么事情是绝(jué)对的，很(hěn)多(duō)开源(yuán)公司也是拿着次优代码开源，独(dú)家秘方闭源。

在追逐AGI（通(tōng)用人(rén)工智能(néng)）这颗明珠的道路上，迄今为止，Meta依旧持(chí)续(xù)沿着开源(yuán)的路径前行。

2024年初，扎克伯格在Meta第四季度及(jí)2023全年财报(bào)电(diàn)话会议上表示：“长期(qī)以来，我们的策略是(shì)构建并(bìng)开放(fàng)源代码通(tōng)用基础设施，同时保留我们的具体产品实现为专有技术。”

他认(rèn)为，开源带来了几个战略好处。首先(xiān)，开源软件通常更加安全可靠，并且因为社区的持续反馈(kuì)、审查和开发，更加高效。其(qí)次，开源软(ruǎn)件经(jīng)常成为行业标准，“当(dāng)企业开(kāi)始基于我们的技术栈建立标准时，这使得将创新融(róng)入我们的产品变得更加容易。这种微妙的(de)优势，能够迅速学习和(hé)改进(jìn)，是巨大(dà)的竞争优势，而成为行业标准正是这一能力的关键”。第三，开源在开发(fā)者和研究人员(yuán)中(zhōng)极受欢迎。

开源与闭源(yuán)并不矛盾

开源还是闭源，也许(xǔ)是全球人(rén)工智能信徒(tú)长久的辩题。在 Llama 3诞生前几天，国(guó)内同样在进行(xíng)一场“辩(biàn)论(lùn)”。

4月11日，百度董事长兼首席执行官李彦宏在其(qí)内(nèi)部讲(jiǎng)话中直言，大(dà)模型(xíng)开(kāi)源的意义不大，闭源模型在能力上会持续领(lǐng)先，而不是(shì)一时领先(xiān)，做模型的创业公司既做模型又做应(yīng)用的(de)“双轮驱动”不(bù)是一个好的模式。在一周后的Create 2024百度AI开(kāi)发者大会上，李彦宏再度提到，大家以前用开源觉得(dMeta继续押宝开源大模型 Llama 3拿下“赛点”？é)开源便宜，其实在大模(mó)型场(chǎng)景下，开(kāi)源是最贵(guì)的(de)，所(suǒ)以开源模型(xíng)会越(yuè)来越落后。

360公(gōng)司(sī)创始人周鸿祎则持不同(tóng)的观点。他表示：“网上有些名人胡说八(bā)道(dào)，大家也别被他们忽悠，说开源不如闭源好(hǎo)。一句话，今天没有开源就没有Linux（操(cāo)作系统内核），没有Linux就没有互联网，就连说这话的公司自己都借助(zhù)了开源的力量才成长到今天(tiān)。”

这段发言被解读为对(duì)李彦宏观点的回怼(duì)，周(zhōu)鸿祎随后(hòu)澄清道：“我一直是开源的信徒，但是我说开源好，是（4月）13日在哈佛讲的(de)，李厂长(zhǎng)（指李彦宏）说闭源好，是（4月）16日(rì)在北京讲的。”

生数科(kē)技联合创始人兼CEO唐家渝站在闭源的一边。在4月18日举行的“2024中国生成(chéng)式AI大会(huì)”上，唐家渝(yú)表示：“在我(wǒ)们看(kàn)来，开(kāi)源、闭源都有各自可以做的商业生态，但是从模型能力(lì)的提升来说，或者持续(xù)走到前列来说，闭源(yuán)还是会走到开源的前面。”

昆仑万(wàn)维董事长方(fāng)汉(hàn)的(de)观点(diǎn)是，开源模型与闭(bì)源模型之间的差距正在不断缩小(xMeta继续押宝开源大模型 Llama 3拿下“赛点”？iǎo)。4月16日，方汉在接受《每日经济新闻》记者(zhě)在(zài)内(nèi)的媒体采访(fǎng)时表示，闭源模型的确(què)是第一，但是开(kāi)源大模型在2023年(nián)到今年这一年间，从落后两年以上(shàng)，已经进(jìn)化到落(luò)后4~6个月(yuè)以(yǐ)上。

此外，方汉认为，在应用侧，闭源对(duì)于产(chǎn)品特性和(hé)长尾需求的满足都落(luò)后于开源大(dà)模(mó)型，开源大模型是一种生态构(gòu)建器，更利于满足用户(hù)的长尾(wěi)需求。开源大模型(xíng)和闭源大模型是(shì)一个生态的组(zǔ)成部分，不是谁压倒谁，大家都有自己的生存空(kōng)间，也都有更好的(de)明天。

不过，从商业化上来讲，闭源和开源也许并不矛盾(dùn)。启明创投合伙人周(zhōu)志峰就认为，开源闭源(yuán)在过去几个大浪潮当中没有很(hěn)大的(de)冲突，不太(tài)理(lǐ)解为什么很多(duō)人把(bǎ)闭源(yuán)、开源在AI时代看成对立的(de)。

李明顺的观点(diǎn)则是，在当前强应用导向的(de)背景下(xià)，开源(yuán)模(mó)式具有显著优势，能(néng)够吸(xī)引(yǐn)全球(qiú)范围内最广泛的人参与，从而(ér)使(shǐ)其(qí)创新性保持在较高水平。

相(xiāng)较之下，尽管(guǎn)一些闭源大模型在技术(shù)上具有(yǒu)领先地(dì)位，但其成本(běn)太高。不过他也强调，开源(yuán)与闭源在不同公司和应用场景中可(kě)以相互(hù)转换。一些(xiē)基于开源的产品在发掘(jué)到独(dú)特优势(shì)后，可能会通过闭源策(cè)略建立竞争壁垒。同时，一些闭源公司也会(huì)不断将其部(bù)分产品开源。这两个应该是共存的(de)，未来(lái)开源可能(néng)用户量级上更大，但是行业内，商(shāng)业化做得比较好的公司(sī)，往往还是闭源(yuán)的多一(yī)点。

在开源与闭源(yuán)的辩论中，也许答案并非非(fēi)此即彼。AI的未来可(kě)能既不是完全开放的“自由港”，也不是彻底封闭的“孤岛”，而是一个既包含开放协作(zuò)也包含封闭竞(jìng)争的混合生态。在这(zhè)个生(shēng)态系统中，开放与封闭不(bù)是对立的两极，而是一枚硬币(bì)的两面。

未经允许不得转载：橘子百科-橘子都知道 Meta继续押宝开源大模型 Llama 3拿下“赛点”？