澎湃Logo
下载客户端

登录

  • +1

年底手握60万块GPU!扎克伯格宣战AGI,血拼谷歌OpenAI

2024-01-20 12:18
来源:澎湃新闻·澎湃号·湃客
字号

正在训练Llama 3,对标谷歌Gemini。

编译 | 李水青

智东西1月19日消息,Meta的首席执行官马克·扎克伯格(Mark Zuckerberg)的一场最新专访,小扎首次明确宣布投身通用人工智能(AGI)并谈及具体规划。

扎克伯格首先谈道,当下AI领域人才竞争异常激烈,年薪动辄100万美元,且常需要他这样的CEO亲自去请,还要时刻提防人才被挖走。

面对全球AI算力的供应紧缺,扎克伯格称Meta的GPU资源可能是全球公司之最,到2024年底将拥有近35万个英伟达(Nvidia)的H100 GPU,近60万个GPU储备,总体拥有相当于60万个H100的计算能力。

Meta将两个主要的AI研究部门FAIR和生成式AI团队重组,它们将“更紧密地结合”以支持开源AGI的长期目标。

新的开源大模型Llama 3已经在训练,扎克伯格透露这一新的开源模型将具备升级代码、推理及规划能力,对标谷歌Gemini。

扎克伯格在采访中还不点名地批评了OpenAI的封闭策略,认为这是在为先进AI技术设置护栏,而不是主要出于所谓的安全考虑。

Meta在两年前改名并聚焦元宇宙领域,现在要放弃元宇宙转做生成式AI了?

扎克伯格对此当然不承认。他表示Meta确实在大力投入生成式AI,但每年在元宇宙项目上的投入仍然超过150亿美元。

▲Meta于2023年9月底推出其首款生成式AI软件Meta AI

01.

人才和算力两手抓

小扎囤60万块GPU

扎克伯格坦言AI人才争夺激烈。专业人才年薪已高达100万美元,还往往需要像他这样的CEO亲自出马去招聘,并且时刻提防核心人才跳槽到竞争对手那里。

“我们早已习惯了激烈的人才竞争,但这次有所不同。”他说,“多家公司都在追求相同的人才,而且投资者在不同的项目上投入巨资,这使得人们很容易受到外部的诱惑而改变方向。”

说到这里,扎克伯格想必是一把辛酸泪。智东西在2023年9月6日报道,Meta在2月份发表Llama原始研究论文的14名作者中,传出有一半以上已经离开了Meta,包括FAIR巴黎分部负责人安东尼·博尔代斯(Antoine Bordes)等。(《Meta大模型核心团队一半出走!内部三大矛盾首次被曝》)

而面对更为棘手的AI算力紧缺问题,扎克伯格表现得胜券在握:到今年年底,Meta将拥有超过340000个英伟达的H100 GPU,或许接近350000个,据称可能超过市面上所有其他公司。

外部研究显示,2023年Meta的H100出货量达到了150000,与微软的出货量相当,而这个数字比其他所有公司的出货量高出至少三倍。

扎克伯格表示,如果将Nvidia A100和其他AI芯片也算在内,到2024年底,Meta将拥有近600000个GPU储备。

“我们的能力已经相当强大,规模可能超过任何其他公司。”他说,“这一点可能很多人都没意识到。”

02.

正在训练Llama 3

对标谷歌Gemini

包括扎克伯格在内的AI从业者们,似乎都没有明确的定义通用AI(AGI),也不知道它何时会出现。

“我并没有一个精确的定义,”扎克伯格告诉记者,“有些人认为,通用智能相当于人类水平的智能,或者超越人类的超级智能,甚至可能是未来某个阶段的超级智能。但对我来说,关键在于智能的广度,也就是说,智力应该具备推理和直觉等各种能力。”

他认为通用智能的出现是一个渐进的过程,而不是一个突然的转折点。“实际上,我不确定是否存在一个明确的临界点,能让人感到通用智能真的出现了。”

扎克伯格透露,Meta正在训练Llama 3,它将具有代码生成能力。就像谷歌的Gemini模型,另一个重点是更先进的推理和规划能力。

Meta在2023年9月发布了其首个商用免费大型语言模型Llama 2,时至今日已成为GPT-4在开源开模型领域的一大“最强平替”。()

扎克伯格称,就Llama 2的落地情况来说,公司并不认为Meta的应用产品需要代码生成能力。但对于构建更智能的AI来说,这仍然是一项需要开发的重要技能,所以Meta还是构建了它。

扎克伯格说:“编程可能并不是那么重要,因为没有多少人会在WhatsApp上访问编程问题……事实证明,编码实际上在结构上非常重要,因为它使学习记忆模型能够理解知识的严谨性和层次结构,并且通常具有更直观的逻辑感。”

“我们的目标是打造最先进的产品,并最终成为行业领先的模型。”

“Llama 2并不是业界领先的模型,但它是最好的开源模型。”扎克伯格说,“有了Llama 3和更高版本,我们的目标是制造出处于最先进水平的产品,并最终成为业内领先的模型。”

03.

批评OpenAI封闭

但Meta开放的动机也不纯?

谁将最终控制AGI的问题是一个备受争议的话题。最近,OpenAI的内部动态向外界展示了这一点。

扎克伯格凭借对Meta股票的投票控制权,在Meta中拥有绝对的话语权。这使他处于一个非常强势的地位,如果AGI得以实现,这种地位可能会带来更大的影响力。对此他表示,到目前为止,Meta一直遵循着Llama的开源发展路线。

“如果创造了真正有价值的东西,它最终可能会变得非常集中。”扎克伯格说,“然而,如果你选择更加开放,那么就能解决许多可能源自机会和价值不平等的问题。所以,这是开源愿景中非常重要的一部分。”

他没有直接点名,但将Meta的方法与OpenAI的方法进行了对比。

OpenAI最初是希望开源其技术的,但现在变得越来越不透明。“有许多公司曾经是开放的,曾经发布过他们的所有研究成果,并讨论过他们将如何开源所有的技术。但我认为,人们现在才意识到一个事实,那就是‘嘿,这将是一个非常有价值的东西,我们不想与人分享它’。”

尽管萨姆·阿尔特曼(Sam Altman)和其他人支持更封闭的AI开发方法的安全优势,但扎克伯格却认为这是其精明的商业策略。同时,他认为目前抛开公平谈模型安全为时尚早。

他告诉记者:“在很多情况下,那些一开始就拥有最大领先优势的大公司也是那些呼吁设置最多护栏的公司。我相信其中一些人确实关心安全问题,但这与他们的战略有多大关系,这是一个很值得怀疑的事情。”

当然,扎克伯格也有自己的动机。他对AI的开放愿景最终可能仍然会导致权力的集中,只是形式不同而已。

Meta已经拥有了比地球上几乎任何一家公司都多的用户,并且拥有一个利润丰厚的社交媒体业务。AI的特性可以使他的平台更加吸引人、更加有用。如果Meta能够通过公开发布其模型来规范AI的发展,那么它对整个生态系统的影响力只会越来越大。

还有一个问题:如果Meta实现了通用AI,是否将其开源最终取决于扎克伯格本人。他还没有对此做出明确的承诺。

“只要我们认为这是有意义、安全且负责任的事情,那么我们通常会倾向于开源。”他说。“显然,你不会因为承诺了某件事情而陷入困境。”

04.

放弃元宇宙转做生成式AI?

扎克伯格回应一切

在Meta的大背景下,扎克伯格新推AGI的时机确实有点尴尬。

自从他将公司改名并宣布专注于元宇宙,时间仅仅过去两年。Meta的最新款雷朋(Ray-Ban)智能眼镜已初见成色,但成熟的AR眼镜似乎遥不可及。

与此同时,苹果近来加速了其混合现实头显的进程,Vision Pro的发布表明,尽管VR仍然是一个市场空间有限的行业,但仍在全速前行。

当然,扎克伯格不同意将AI作为Meta新的重心的说法。

“我不知道如何更明确地声明,我们将继续专注于Reality Labs(现实实验室)和元宇宙。”他告诉记者,Meta每年在元宇宙项目上的投入仍然超过150亿美元。

雷朋智能眼镜最近增加了一个视觉AI助手,可以识别物体和翻译语言。他认为生成型AI在Meta未来的硬件发展中扮演着更加关键的角色。

他看到了一个由AI生成的虚拟世界,并充满了伴随真人的AI角色。

他说,今年会有一个新的平台,让任何人都可以创建自己的AI角色,并在Meta的社交应用中分发。也许这些AI甚至能够将自己的内容发布到Facebook、Instagram和Threads等社交媒体上。

Meta仍然是一个元宇宙公司,是世界上最大的社交媒体公司。它现在正在尝试构建AGI。扎克伯格把这一切都围绕着“构建未来连接”这一首要使命。

迄今为止,这种联系主要是人与人之间的相互作用。与扎克伯格交谈后发现,未来人类与AI的对话也将越来越多。显然,他认为这个未来是不可避免的和令人兴奋的,不管我们其他人是否准备好了。

05.

结语:Meta加入通用智能战斗

巨头竞赛愈演愈烈

OpenAI、谷歌都明确投身通用人工智能(AGI)发展,现在,Meta也加入了战斗。扎克伯格的目标是将AI更直接地推广给其数十亿用户,可见是产品驱动的技术研发。

当下,美国各大巨头都围绕生成式AI的角逐愈演愈烈,展开了人才、算力、产品、生态、用户等多方面的争夺战。每一家的侧重又有所差别,但都不会允许自己有明显的短板。

Meta是不是元宇宙做不下去了转做生成式AI?这个问题或许不是最重要的。最重要的是,Meta能否在元宇宙的社交属性和用户流量池基础上,打造自己的护城河。

(本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。)

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报
            查看更多

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2024 上海东方报业有限公司

            反馈