A 除社发表了对近期舆论的回应。
https://www.anthropic.com/news/position-open-weights-models其内容相当的婊,依然是一套民族主义叙事。
A 除社认为,专制政府(不只是中共,但中共明显是能力最强的威胁)可能建成比美国更强大的 AI 模型,用来谋求永久性军事优势,或对本国人民实施深度压迫。他引用副总统万斯去年在巴黎的表态,以及美国情报界《2026 年度威胁评估》的结论,指出模型是否开放权重、是否被美国企业使用都无关紧要,最危险的模型可能是秘密训练、只交给解放军用于无人机、交给国家安全部用于监控和镇压的模型。
同时,他们认为,强大的 AI 模型可能被滥用于网络攻击或生物攻击。开放权重模型(无论来自中国还是其他地方)风险可能更高,因为很难对其施加防护措施或监控使用情况,权重一旦发布便无法收回。但禁止美国企业使用这些模型无法解决此风险,因为不法行为者本来就不太可能是合法的美国企业。这种禁令确实能让美国 AI 公司免受竞争,但这从来不是他的目标。
A 除社认为,面对 AI 增长浪潮,政府应当:
不向中国出售先进芯片或芯片制造设备,并打击相关走私和规避行为。他援引 Scale Law,指出中国本土产能有限,没有美国芯片就无法造出比美国更强的模型。这是阻止第一种威胁最直接有效的方式,也间接有助于抑制第二种威胁。
他们认为应当打击工业规模的蒸馏(distillation)行为,蒸馏比从头训练模型节省算力得多,能让中国用更少芯片造出更强模型,从而部分规避芯片禁令。他承认蒸馏无法让中共获得与美国同等或更强的能力,但可能把中国前沿模型的差距缩小到落后美国仅几个月。他强调问题的核心在于这些操作背后有专制国家试图在前沿超越美国,而非开放权重本身;应通过政策手段遏制,而非一刀切禁止开放权重模型。
针对联署公开信,A 除社同意,开放权重确实扩大了 AI 经济的可及性,在某些场景下加强了竞争,也让客户拥有更大控制权。但 A 除社反对信中「开放权重模型必然更容易开发防护措施」或「能力的广泛可及必然更有利于防御者而非攻击者」的论断。该公司认为生物安全领域存在强烈的「攻防不对称」:足够强大的模型可能借助容易获得的材料迅速把大流行级别的病毒武器化,而防御这类病原体在最好情况下也是需要数年的行动任务。
我个人对于此事的看法如下:
你 A 除社前面 not solely the Chinese Communist Party (CCP),后面全都是 CCP,司马昭之心路人皆知。我非反感民族主义叙事,无论是 CCP 煽动的沙文主义,还是你 A 除社煽动的民族主义叙事,全部都是一丘之貉。将 AI 用于军事用途对于任何一个国家来讲都是一个明确的威胁,不因为你美国是一个所谓的民主政体,对其的使用就更加安全。不要忘了,将 AI 用作军事用途是在贵国发扬光大的。
关于对民族内部意志的扭曲,这根本不是 AI 的问题,剑桥分析事件发生在美国,利用算法令床破获得了选举优势,这种荒谬的事情同样会发生在民主政体当中,你把它硬套到 AI 叙事上是一种牵强附会。
蒸馏方面,你 A 除社大面积盗用版权资源训练模型,因而你的模型合法性本身就有严重问题,你现在拿着充满争议的模型要求其他人不可以蒸馏,这是赤裸裸的双标。
关于 Cyber Security 的问题同理,第一个 AI 模型沙箱逃逸搞到抱脸服务的也是你美国的模型,这不因你是一个民主政体事情就不会发生。
至于生物安全领域,你 A 除社用精湛的 Framing 方法,把问题框定在要不要用 AI 设计生物武器的问题之上。生物武器在实战中几乎从未被使用过,对政体而言,能力并不是唯一的制约其行为的变量。国际声誉代价、报复风险、政权自身的政治生存考量,这些因素的作用远比单纯的技术能力更强。
唯一能说的是民用层面的,利用 AI 进行生物武器制备,但这个风险本身抽象而模糊。况且阻止硬件出口、阻止模型蒸馏并不必然阻止开放模型社区获得与之相对应的能力,这个地方的论述本身就是错位的。与之相对的,开放模型带来的经济收益是巨大的,哪怕是贵民主政体,依然有大量企业通过开放模型节省开支。大量民众通过低价的开放模型解方生产力。每一代技术的进步都会带来新的问题,这不能说服人们阻止技术进步、构建开放社区。
有那时间发羊癫疯不如好好去做你们的下一代模型,Sonnet 5 都已经烂到什么程度了自己心理没 B 数么。
考虑到你 A 除社员工在 Twitter 上一贯的嘴脸,上面这一份冗长的信件更像是贵司给自己无处安放的情绪找一块遮羞布,着实让人感到不适。
Anthropic
Our position on open-weights models
Anthropic CEO Dario Amodei on open-weights models