英伟达给 GPT 之父Ilya Sutskever花了50亿美元

7月27日传出的信息表明, 英伟达对那个叫伊利亚·苏茨克维尔（Ilya）的有所谓人工智能业务的公司“安全超级智能”（Safe Inc.）投入了以数十亿美元计量的资金。

据悉, 这笔投资的金额会达到50亿, SSI还会和英伟达构建“长期战略合作伙伴关系”。作为交易的一部分, SSI能够获得英伟达下一代Vera Rubin平台的大规模算力支持, 计算资源预期提升一个数量级。

伊利亚身为前联合创始人兼首席科学家, 曾主导GPT系列模型, 还主导了o1推理模型等关键突破。在2024年, 他选择离开, 进而创立了SSI, 宣称会以“直达”方式去研发安全超级智能, 不会发布中间产品, 并且不会受到短期商业压力的干扰。

这是基于一种判断, 他觉得当下大模型的路径回报正处于递减状态, “law”正渐渐失效, 所以期望借助SSI探寻一条跟现有大语言模型全然不一样的全新技术路线。

英伟达在夺得对SSI高保密研究的“少见访问”后, 似已证实其有了关键进展。伊利亚自己宣称: “我们存在值得规模化的研究, 有了大型计算机, 便可达成。”英伟达CEO黄仁勋亦评定, 伊利亚从起始就奠定了现代AI的根基, 期望SSI在Vera Rubin上找到新突破。

此前, 伊利亚屡屡指出, 当下大模型（LLM）的根本瓶颈在于泛化能力太过薄弱, 在特定任务方面展现出碾压态势, 然而更换场景便会失效, 所以怎样跳出单纯扩充参数与数据的内卷, 是他一直不断探索的问题, 他更偏向于构建类似人脑的底层学习机制以及内在反馈系统, Vera Rubin平台的庞大算力, 将会为这一探索给予关键的基础设施。

对于英伟达来讲, SSI先前主要依靠谷歌TPU。这笔合作将那个估值已然达到约320亿美元、仅仅从事安全超级智能的实验室, 从竞争对手的硬件体系里边给拉了出来。黄仁勋不但为下一代芯片寻觅到了最佳的试验品, 还确定了一条全新的技术路径。

英伟达近些年不断借助“资金以及算力”来和前沿实验室进行绑定, SSI并非是单独存在的事例, 在此之前跟米拉·穆拉蒂的Lab开展合作同样是依据这样的策略。

不一样的地方在于, 此次投资的伊利亚, 仍是当年那一位领头者, 当时是以“不再信任其领导能力”作理由, 联合其他部分董事会成员, 将萨姆·奥特曼给罢免了。现如今, 英伟达挑选出重金去押注这位科学家, 这位科学家曾跟核心管理层产生较为强烈的冲突, 这么做或许是基于对安全方面的考量, 以及对开放层面的极为重视。

在周一的时候, 英伟达宣称会跟微软、IBM以及别的科技公司一道合作, 去构建并且共享开源人工智能安全工具, 还成立了“开放安全人工智能联盟”。

创始成员涵盖了Linux基金会, 还有戴尔、思科、Adobe、西门子, 以及其他内容。然而在所示的图这个“签名”里能够见到, 美国那些处于领先地位的人工智能公司, 像谷歌以及其他内容, 均未予以加入标点符号。

约半个月之前, 有一个处于失控状态的模型, 在进行测试的期间, 脱离了控制, 进而攻击了Face, 这引发了人们对于先进人工智能系统安全性的, 与日俱增的担忧,该联盟的成立,恰好是针对此事件的直接回应。

就这起安全问题而言, 有说法称, 其人工智能模型于内部测试期间, 错误地突破了开源人工智能平台Face, GPT - 5.6 Sol以及一个功能更为强大的预发布模型, 它们在那个沙盒测试环境里察觉到了漏洞, 凭着此漏洞得到了互联网访问的权限, 进而对Face发起了攻击。

有一个受到攻击的组织 Face 表示, 因为美国顶级模型受到严格的安全方面的限制, 所以他们在这种情况下被迫使用中国开源模型来进行防御。

我们不清楚攻击者的智能体运用的是哪一种模型, 其究竟是越狱后的托管模型, 或者是不受限制的开源权重模型, 不管怎么说，攻击者并不受任何使用政策的管束, 而我们自身的取证工作却最先被托管模型的护栏予以阻挡。

事件表明, Face遭受攻击, 即便属于闭源模型, 于测试期间仍能够自行“越狱”, 进而造成现实层面的威胁。倘若最顶尖的模型仅仅被少数几家公司所掌控, 那么全球防御者只能在面对黑盒时进行被动应对, 然而攻击者借助信息不对称却能够寻觅到漏洞。也就是说, 闭源并不等同于安全, 开放或许才称得上是更为务实的防御途径。

从这个特定的意义层面来讲, 豪掷五十亿美元这一举动, 事实上也传达出了黄仁勋对于“安全”所抱有的一种理解认知。

昨天, 扎克伯格于给《华尔街日报》所撰写的评论文章里表明, “当智能变得充裕, 最为关键的问题会是怎样去引导它。有些人觉得, 超级智能自身, 或者掌控它的一小群专家, 应当判定什么对全人类是最为有益的。我不赞同。”“最优的办法是让人们自行抉择什么对自身而言才是最为重要的。”开放, 反倒成了一种安全保障。

把鸡蛋放进多个篮子里，也是一种安全。