小扎炮轰AI末日论！超级智能要人人可用，少数人控制才危险

新智元报道

最强的AI太危险，不能随便放出来。

把最强的模型锁起来，是眼下头部实验室的主流做法。

今年的, 那个名为GPT的事物, 都未向公众进行开放, 仅仅留给了那些通过资格审核的机构客户。

《时代》周刊将这称之为AI行业的新常态, 那是什么样的新常态呢, 是能力太过强大, 所以先不予以发布。

在这一整套叙事当中, AI所存在的危险始终处于首要位置。其中的CEO Dario甚至于公开表述过, 应当给这个世界留存一条可供后退的道路: 在必要的情形下放缓速度, 甚而至于暂停AI的开发进程。

这次小扎要打破的，正是硅谷这一套把危险摆在第一位的叙事。

于他而言，越是着重突出危险, 便越会得出「仅能交付予少数一些人」这样的结论。然而这一点, 才是切实存在危险的所在之处。

七月二十八日, 他于《华尔街日报》发布了一篇带有署名的评论, 其题目为《AI的未来属于每个人》（The AI Is for）。

于文中, 他并非仅仅停留在对开源予以力挺这一程度, 而是进一步抛出了一个在开源背后存在的、更深层次的问题:

于这个时代而言，具有决定性意义的问题, 并非是否会出现超级智能这一情况, 而是究竟是谁得以运用它。

到底是被少数机构拿捏在手中, 仅仅对几家予以开放性, 或是成为一件所有人都能够加以应用的工具? 扎克伯格讲, 这才是切实应当出现争论的所在之处。

他所要做的, 是将AI巨头的战场, 从“谁的模型最强”这个范畴, 拖拽到“超级智能该由谁控制”这个领域。

一封檄文

先向「末日论」开火

扎克伯格这篇文章里，火力率先对准那些兜售「末日论」的同行。

他说，很多正在开发AI的人，言论里充满末日色彩，这很奇怪。

他怎么也想不明白, 有这样一个人, 这个人认定AI会消灭大部分工作, 这个人认定AI会抹掉人类大半价值, 可这个人为何却还要急急忙忙地把这个未来给造出来呢。

更为关键的是, 扎克伯格持有这样的看法, 即, “AI危险到只有极端集中权力方安全”这样的一套逻辑, 其自身是十分危险的。

扭转视线看向过往的历史, 心里想着妄图掌控享有极致权力之人能够尽显着足够的通达明智, 还会心存慈善地来悉心供养住每一个人, 这般的事例过往从来就不曾拥有过良好的结局。

他反对的是「只有少数人控制自动化」

为了将「权力集中」这个问题叙述明白, 扎克伯格列举出一个例子, 此例子是关于超级智能律师的。

假定有且仅存在一个人富有到足以聘请一位超级智能的律师, 哪怕这个人在事理上处于理亏的境地, 然而在法庭之上却能够占据所有的有利条件, 如此一来社会也会因此而变得更加糟糕。

然而要是每个人都存在一位具备超级智能的律师状况呢, 那么司法反而会相较于当下更加公平的以及更加高效的。

扎克伯格达成这样得出结论, 即，在每一个人都被赋予能量的状况下, 人们会很自然地相互实施制衡, 并且还会一道对大机构的权力予以制衡。

安全真正的地基, 是权力制衡, 并非把所有筹码押在「某个善良的超级智能」那儿。

他另外又补充说了, 想着凭借使一个善良的超级智能达成对齐这种方式, 去处理掉全部的社会问题, 这是无法行得通的啦。

人不是单一文化, 价值观相互冲突, 诉求不一样, 没有哪个超级智能能够一块讨好所有人。

任意一个「独一无二的超级智能」, 都必定会致使一部分人的价值观被牺牲或者遭到违背。

值得玩味的是, 几个月之前奥特曼讲过近乎相同的话语, 其内容为「一旦你体验过AGI, 你便再也难以忘怀了」, 那种「坚决要变成掌控AGI的那个人」的想法最为凶险, 而唯一的解决途径是「不让任何单一个体占据这枚魔戒」。

反对权力集中，正在成为硅谷的一种共识。

扎克伯格给出的是一套三段式主张：

依托于个人赋能来当作繁荣的源头, 将「发明」而非「自动化」认定为超级智能的首要运用方向, 把「权力制衡」视为安全构建的基础。

其中「发明」是他乐观的底气。

依他之见, 早期的AI仅能够回答问题之外, 并从事一些例行性的工作, 然而, 它很快便会协助人们去发掘新的知识, 此类新知识涵盖范围涉及从研发治疗疾病的新型药物, 一直延伸至探寻拓展生意规模的全新途径。

你一天能问的问题有限，它能替你发明的东西却没有上限。

从就业方面来说, 对于扎克伯格来讲, 其真正所持担心挂念的并非是AI自动化自身这个玩意儿, 他保持着警惕戒备的是, 自动化的那个开关仅仅被掌控在数量极少的那一部分人手中, 呀。

所以, 他再三着重平衡, AI能够是取代人的自动化器具, 还能够是助人拓展技能、创办公司的赋能器具。

一旦天平朝着自动化倾斜, 那对于就业以及经济所产生的冲击, 或许会呈负面态势；然而只要超级智能得以广泛传播, 他觉得未来所拥有的工作数量, 将会更多, 而非更少。

他给出的理由是, 如今创业不用一开始融一大量笔钱了, 门槛大幅度降低, 基于此经济将会更有“创业气概”, 于是更多的人在小公司工作, 而非往大厂里蜂拥挤入。

「人人可用」

不等于「全部开源」

扎克伯格并没有要求把超级智能全部开源。

早在2025年, 那篇名为《个人超级智能》（）的宣言里, 他已然明确地写道, 面对新出现的安全风险, Meta会「慎重地决定哪些能力适宜进行开源」, 像生物风险这类, 还需要政府之间、机构之间有更多地协调。

于2025年7月30号, 扎克伯格于《个人超级智能》这篇文章当中写道, 在尽可能广泛地去分享超级智能红利之际, 将会审慎地抉择什么样的能力是适合开源的有标点。

他在《华尔街日报》的这篇文中所提到的, 那个“谁能获得、用上它”里面的“它”, 表示的是访问权, 并非是法律层面所讲的那种“谁能拥有”的意思, 另外更不是指“把所有能力都进行全面开源”这种情况。

因而, Meta的实际路线为, 把“尽可能去扩大个人的访问权, 与此同时给最具危险性的能力留下一道发布的闸门”作为准则, 并非是“一股脑儿地全部进行开源”。

理想主义背后

是Meta的最优解

小扎的理想主义，当然也站在Meta的立场上。

和这些闭源的大厂不一样, Meta并非凭借售卖模型API获取资金, 它最为关键的是那几十亿用户所对应的属于消费级别的产品并赖以存在的有分发功能的网络并且是一种基于消费级别的产品和该分发网络。

早在2024年, 那封名为《开源AI才是前进之路》（Open AI Is the Path）的内容里, 扎克伯格就已经把话挑明了, 开放Llama不会如同闭源公司那样, 直接就砍掉Meta的收入, 相反的是, 它能够帮Meta建起一个不被对手卡脖子的生态。

2024年7月, 在一篇名为《开源AI才是前进之路》的文章里, 扎克伯格列举了开发者需要开放模型的原因, 原因是不被单一闭源厂商限制住, 并且开源能够支撑起一个可以自由转移的广泛生态。

所以, “人人可用”, 这是他所描绘的理想, 同时, 这也是最贴合Meta商业位置的一步棋。

这也是Meta连续三年开源叙事的又一次加码：

在2024年这一年, 他借助Linux往昔逆袭闭源Unix的那段历史, 来论证开源模型为何更加安全, 为何更有利于实现创新。

在2025年的时候, 他抛出了所谓的「个人超级智能」, 进而将Meta的路线, 与那种「集中控制、自动化掉所有有价值工作」的路线, 清晰地划清了界限。

这一回, 他将这套主张提升到这般高度, 什么高度呢? 是AI权力集中的高度, 是就业结构的高度，还是创业机会以及社会制度的高度。

一个CEO的公开立场，总是和他背后的公司高度契合。

经营售卖「安全」以及API的, 天然是更为审慎的, 依赖分发来获取收益的Meta, 天然是更为开放的, 每一家的开放程度, 差不多都能够依据「它凭借什么来赚取钱财」反向推断出来。

那德拉, 身为微软CEO这般角色, 就特意针对小扎这方面的文章, 给出了点赞的行为动作, 并且称赞其为是很具备良好性质的一篇文章, 还讲出大家应当共同去构建一个, 名为「赋能个人和组织的前沿生态」的这样一种情况。

然而, 他赞成的仅仅是这个趋向, 这并不意味着微软已然赞同Meta的所有开放权重举措。

可是, 有一点已然发生了变化, 这场关于AI巨头的竞赛, 以前比拼的是, 谁的模型更具优势, 而现在争夺的是, 超级智能降临之后，究竟由谁来制定规则。

扎克伯格于X表示, 另外还将会公布更多有关超级智能世界的「积极愿景」。

但他这篇文章真正抛出的问题，也留给了我们每一个人：

当超级智能真正降临，它到底归谁？

参考资料：