太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司

Meta继 续 押宝开源大模型 Llama 3拿下“赛点”?

Meta继 续 押宝开源大模型 Llama 3拿下“赛点”?

开源(yuán)与闭源之争延续到大模型时(shí)代。在寻找“新大陆”的路上,开源与闭源的辩论,就像是一场关于AI未来的“航海策略”讨论(lùn)。

开源一派(pài)认为,开源能(néng)够促进全球科研 人员和开发者的协作,加速AI技术的(de)迭代与创新。同时,开源让更多人参与到(dào)模型的改进和优化中,通过(guò)集体智慧解决复杂(zá)的技术难题。

闭(bì)源(yuán)的倡导(dǎo)者(zhě)则看重 其在商业化、技(jì)术保护和产(chǎn)品差异化方面的 优(yōu)势(shì)。闭源模 型使得企业能够控制产品(pǐn)的开发节奏和市场策略,保(bǎo)护其 商业利益。此外,闭源也有(yǒu)助于企业维护其技术优势,避免竞(jìng)争对(duì)手模仿或超越。

Llama 3的(de)发 布让开源大模型在与闭源的竞争中再(zài)度“扳(bān)回一城”。从测试结(jié)果来看,Llama 3的成绩大幅超越(yuè)了Llama 2,也胜过(guò)了GPT-3.5。

在AI这场没有硝烟的“航海竞赛”中,大模(mó)型已然成为眼前的灯(dēng)塔。未(wèi)知(zhī)的是,这座灯塔究(jiū)竟是向所有航海者开放(fàng)其光芒,还是仅为(wèi)特定的船只照亮前行(xíng)的航(háng)道(dào)。

开(kāi)源在开发者和研究人(rén)员(yuán)中极受欢迎(yíng)

Meta正沿着开源(yuán)路径继续(xù)前进。

近日,Meta推出开(kāi)源大模 型(xíng)Llama 3系列,发布8B和70B两个(gè)版本。Meta创始人 兼首席执行官扎克伯格在同一天宣(xuān)布,基于Llama 3,Meta的AI助手现(xiàn)在已经覆盖Instagram、WhatsApp、Facebook等全系应用,并单独开启了(le)网站。

与Llama 2相比,Llama 3进行了几项关键的(de)改进:使用具128K token(输入数据的最小单元)词汇(huì)表的tokenizer(编(biān)译器),可以更有效地(dì)编码语(yǔ)言,从而显著提升(shēng)模型性能;在8B和70B模型中都 采用分组查询(xún)注(zhù)意力(lì)(GQA),以提高Llama 3模(mó)型的推理效率;在8192个token的序列上训练(liàn)模型,使(shǐ)用掩码来确保自(zì)注(zhù)意力(Self-Attention)不会跨(kuà)越文档边界(jiè)。

据Meta介绍,Llama 3已经在多种行业基(jī)准测试上展现了最先(xiān)进的性能,提供了包括改进的推(tuī)理(lǐ)能力在内的新功能,是目前市场上最好的开源大(dà)模型。

此外(wài),Llama 3发布后,微软Azure、谷歌云、百度智能云等陆(lù)续宣布其平(píng)台上线Llama 3。百度方面(miàn)此前对《每日(rì)经济新闻》记者表示,百(bǎi)度智能云千帆(fān)大模英语暑假生活的作文(mó)型平台在国内首家推出针对(duì)Llama 3全系列版本的训练推理方案,便于开发者进(jìn)行再训练,搭建专(zhuān)属大模型。

工业和信息化部(bù)工业文(wén)化发展中心AI应用工 作组执行组长、行(xíng)行AI董事长李(lǐ)明顺在接受《每日经济新闻》记者采访时表示,Meta的Llama 3发布(bù)可能会带(dài)来更多AI应用落地机会和(hé)场景 ,它通(tōng)过提供更大词汇量的Token词典、更长的输入上下文长度以(yǐ)及(jí)优化的模型结构,增强了模型(xíng)的(de)编码(mǎ)效率和推理(lǐ)效率。英语暑假生活的作文“现在,比起Llama 2,Llama 3在(zài)代码能力和逻辑推理能力上有(yǒu)显(xiǎn)著提(tí)升,这可(kě)能会促进相关AI应用(yòng)的(de)性能(néng)(提升),尤其是在需 要复杂逻辑和代码理解的场景中去 落(luò)地(dì)。”

OpenAI在GPT-2之后调 转船头走向闭(bì)源,Meta则成为开 源界(jiè)的(de)引领(lǐng)者之一。

从2020年发布GPT-3,到引发轰动的GPT-3.5,以及2023年3月发布的(de)GPT-4,都是闭源模(mó)型。此前,马斯克起诉OpenAI时曾直言:“如果OpenAI改(gǎi)名为ClosedAI,我就撤销诉讼(sòng)。”

李明顺认为,OpenAI的(de)转变可能(néng)与其商(shāng)业战略和市场定位(wèi)有关。“初期开源有助于快速吸引关注和社(shè)区参与,但随着公司的发(fā)展,我估计(jì)阿尔特曼(Sam Altman)的野(yě)心和商业梦(mèng)想越来越膨胀(zhàng)了,闭源可以(yǐ)更好地让(ràng)它融资,包括和微软合(hé)作,保护领先的技术(shù)优势。”他表示,从OpenAI的转变中可(kě)以(yǐ)看出,开(kāi)源与闭源的选择并非固(gù)定不变,而是需(xū)要根据公司战略目标、市场环境和(hé)产(chǎn)品发展阶段灵(líng)活调整。天下没什么事情(qíng)是绝对的,很(hěn)多开源(yuán)公司也是拿着次优代码开(kāi)源,独家秘方闭源。

在追逐AGI(通(tōng)用人工(gōng)智能)这颗明珠的道路上,迄今为止,Meta依旧持(chí)续沿着开源的路 径前行。

2024年初,扎克伯格在Meta第(dì)四季度及2023全年财报电话会议上(shàng)表示:“长期以来,我们的策略是构建并开放源代(dài)码通用(yòng)基础 设施,同时保留我们的具体英语暑假生活的作文产品(pǐn)实现为专有技术。”

他认为,开源带来了(le)几个 战略好(hǎo)处。首先(xiān),开源软件通常更加安全(quán)可靠,并且因为(wèi)社区的持续反馈、审查和(hé)开发,更加高(gāo)效。其次,开源软件经常成为行业标准,“当企业开始基于我们的技术栈(zhàn)建(jiàn)立标(biāo)准时(shí),这使得将创新融入我们的产品(pǐn)变得更加容易。这种微妙的优势,能够迅速学习和改进,是 巨大的竞争优(yōu)势,而成为行业标准正是这一能力的关键”。第三,开源在开发者和研究人员中极(jí)受欢迎。

开源与闭源并不(bù)矛盾

开源(yuán)还 是闭源,也许是全(quán)球人工智能信徒长久的辩题。在Llama 3诞生前几天,国内同样在进行一场“辩(biàn)论”。

4月11日,百度董 事长兼首席执(zhí)行官(guān)李彦宏在其内部(bù)讲(jiǎng)话 中直言,大模型开源的(de)意义不大,闭(bì)源模型在能力上会持续(xù)领先,而不是(shì)一时领先(xiān),做(zuò)模(mó)型的创业公司既(jì)做模型又做应用(yòng)的“双轮驱动”不(bù)是一个好的模式。在一周后的Create 2024百度AI开发者(zhě)大(dà)会上(shàng),李彦宏再度提(tí)到,大家(jiā)以前(qián)用开源觉得开源便宜,其实在大 模(mó)型场景下(xià),开源是最贵的,所以开源模型会越来(lái)越落后。

360公司创始人周鸿祎则持不同的观点。他表示:“网上有些(xiē)名人胡说八(bā)道(dào),大家也别被(bèi)他们忽悠,说开源不如闭源好。一句话(huà),今天没有开源就没有(yǒu)Linux(操作系统内核(hé)),没有Linux就没有互联网(wǎng),就连(lián)说这话的公司自(zì)己都借助了(le)开源的力量才(cái)成长到今天。”

这段发言被解(jiě)读(dú)为对李彦宏观点的回(huí)怼,周鸿祎随后澄清道:“我(wǒ)一直是开源 的信徒(tú),但是我说开源好,是(4月)13日在哈(hā)佛讲的,李厂长(指李彦宏)说闭源好,是(4月)16日(rì)在北京讲的。”

生数科技(jì)联合创始(shǐ)人(rén)兼CEO唐(táng)家渝站在闭源的一边。在4月18日举行的“2024中国(guó)生成式AI大会”上,唐家(jiā)渝 表示:“在我们看来,开源(yuán)、闭源都有各自可以(yǐ)做的(de)商业生态,但是 从模(mó)型能力的提(tí)升来说,或者持续走到前列(liè)来说,闭源还是会走(zǒu)到开源的前面(miàn)。”

昆仑万维董事长方汉的(de)观点是,开(kāi)源模型与闭源模型(xíng)之间的差距正在不断缩小。4月16日,方汉在接受《每日经济新闻》记(jì)者在(zài)内的媒(méi)体(tǐ)采访时表示,闭源模型的确(què)是(shì)第一,但是开源大模型在2023年到今年这一年(nián)间,从(cóng)落后两年以上,已经进化到(dào)落后4~6个月以上。

此外,方汉认为,在应用侧(cè),闭源对于产品特性和长尾 需求的(de)满足都落后于(yú)开(kāi)源大模 型,开源大模(mó)型是一(yī)种生态构建器,更利于(yú)满足用户的长尾需求。开源大模型和闭(bì)源大模型(xíng)是一个生(shēng)态(tài)的(de)组成部(bù)分,不是谁压倒谁,大家都有自己的生存空间(jiān),也都有更(gèng)好(hǎo)的(de)明天。

不(bù)过,从商业化上来讲,闭(bì)源和开 源也许并不矛盾。启明创投合伙人周志峰(fēng)就认(rèn)为,开源闭(bì)源(yuán)在过去几个大浪潮当中没(méi)有很大的冲突,不太(tài)理解为什(shén)么很多人把闭(bì)源、开源(yuán)在AI时代看成对立的。

李明顺(shùn)的观点则是,在当前强应用(yòng)导向的背景(jǐng)下,开源(yuán)模式具有显(xiǎn)著优势,能(néng)够(gòu)吸引全球范围内最广泛的人参与,从而使其创新性保持在较高水平。

相较之下,尽管一些闭源大模型在技术上具有领(lǐng)先地位,但其成本太高。不过他也强调,开源与(yǔ)闭源在不同公司和(hé)应用场景中(zhōng)可以相互转(zhuǎn)换。一(yī)些基于开源的产品在发掘到独特(tè)优势后,可能会通过(guò)闭(bì)源(yuán)策(cè)略(lüè)建立竞争壁垒。同(tóng)时,一些闭源(yuán)公司也会不断将其部分产品开源。这两个应该是共(gòng)存的,未来开源可(kě)能用户量 级上(shàng)更大,但是行业内,商(shāng)业化做得(dé)比较好的(de)公司,往往还是闭源的(de)多一点。

在开源与闭源的辩论(lùn)中,也许答案(àn)并非非(fēi)此即(jí)彼(bǐ)。AI的未来可能既(jì)不(bù)是完(wán)全开放的“自由港”,也不是彻底封闭(bì)的“孤岛”,而是一个既包含开放协(xié)作也包含封(fēng)闭(bì)竞(jìng)争的(de)混合生态。在这个生(shēng)态系统中,开放与封闭不是对立(lì)的两极,而是一枚硬币的两(liǎng)面。

未经允许不得转载:太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司 英语暑假生活的作文

评论

5+2=