深度阁 网络技术 年底上线!马斯克:训练Grok 3用了10万块英伟达

年底上线!马斯克:训练Grok 3用了10万块英伟达

临近年底,职场又迎来新一轮的跳槽活跃期。近日,前程无忧发布的“年第四季度职场人跳槽意愿调查”结果显示,的受访者表示会跳槽,和上一季度相比上涨了个百分点,与去年同期相比更是提升了个百分点。的受访者表示不会跳槽,比上一季度下降了个百分点。另有的受访者持观望态度。和去年受疫情冲击导致就业低迷的情况不同,随着市场的回温,不愿意为新工作做出妥协的职场人变多了,期望薪资有所增加。数据显示,选择“涨幅在”的受访者比例占,比去年同期提升了个百分点。“涨幅在”的受访者占比,比去年同期提升了个百分点。而对期望薪资涨幅需求持平和较低的人群比例同比都有小幅的下降。

7月2日消息,亿万富翁埃隆·马斯克(Elon Musk)正在为其即将推出的AI聊天机器人Grok的新版本造势。马斯克周一在社交媒体X上回应了一则帖子,表示经过10万块H100芯片训练后的Grok 3聊天机器人将会“非常特别”。

这里所说的H100是英伟达开发的图形处理单元,也称为Hopper,是专门用于处理大语言模型(LLMs)数据的AI芯片。随着科技公司竞相开发更智能的AI产品,这些芯片成了硅谷的热门商品。

每块英伟达H100人工智能芯片的价格估计在3万美元左右,也有人估计价格高达4万美元,如果批量购买的话可能会有折扣。

通过简单计算,单单训练Grok 3就用了价值30亿至40亿美元的人工智能芯片,目前不确定这些芯片是否是马斯克公司直接购买的,此前报道称,马斯克旗下的xAI公司正在与甲骨文谈判,计划在未来几年内花费100亿美元租用云服务器。近年来,马斯克的公司已直接购买了大量的H100芯片。据报道,马斯克曾将原本供特斯拉使用的价值5亿美元的H100芯片转给了X公司。

相较于Grok 2,使用10万块H100训练Grok 3无疑是一个巨大的提升。今年4月,马斯克在接受挪威主权基金负责人尼科莱·坦根(Nicolai Tangen)的采访时表示,训练Grok 2需要大约2万块H100。

目前,xAI已发布了Grok-1和Grok-1.5版本,最新版本仅对X平台上的早期测试者和现有用户开放。马斯克在周一的帖子中透露,Grok 2计划于今年8月推出,并暗示Grok 3将于年底发布。

xAI没有回应置评请求。

10万块H100芯片听起来很多,但其他科技巨头,如Meta,也在大量购买GPU芯片。Meta首席执行官马克·扎克伯格(Mark Zuckerberg)今年1月曾表示,到2024年底,Meta将购买约35万块英伟达H100芯片,并表示包括其他类型的GPU在内,Meta将拥有约60万块芯片。

如果是这样的话,Meta将为构建自家人工智能能力花掉大约180亿美元。

这些芯片的积累也导致了过去一年中顶尖AI人才的招聘竞争变得异常激烈。AI初创公司Perplexity的创始人兼首席执行官阿拉文德·斯里尼瓦斯(Aravind Srinivas)谈到了他试图从Meta挖角一位资深研究人员的经历,但对方因扎克伯格拥有大量AI芯片而拒绝了他的邀请。

“我试图聘请一位非常资深的Meta研究员,他们的回答是:‘等你有了1万块H100 GPU再来找我。’”斯里尼瓦斯说。(辰辰)

本文来自网络,不代表深度阁立场,转载请注明出处:https://shenduge.cn/index.php/2024/07/02/f5d9655365164afd79b324e1531849a1/

作者: admin

广告位

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

联系我们

0898-88881688

在线咨询: QQ交谈

邮箱: email@wangzhan.com

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部