AI安全争议：Anthropic与OpenAI的纷争揭示了AI安全的深层问题

admin

AI安全争议：Anthropic与OpenAI的纷争揭示了AI安全的深层问题

作者：James Bentley
来源：Fortune
引用：https://fortune.com/2026/03/05/anthropic-openai-feud-pentagon-dispute-ai-safety-dilemma-personalities/

欢迎收看《AI眼》节目，本期的AI记者Sharon Goldman为您报道：特朗普面临AI数据中心问题……别依赖AI报税……Anthropic的AI工具Claude在伊朗的美国竞选活动中扮演核心角色，而两家公司正处于激烈的争斗之中。

关于AI安全的辩论通常集中在技术本身——如何强大的模型可能会成为，或者它们可能会带来什么风险。但本周涉及Anthropic、OpenAI和国防部的冲突表明了一个更深层次的问题：未来AI的主导权在多大程度上集中在少数企业高管和政府官员手中，他们决定如何构建、部署和使用这些系统。

多年来，该行业的批评者一直警告“工业俘获”的风险——一个未来，其中强大AI系统的发展集中在少数几家与政府紧密合作的公司的手中，这些系统的安全性取决于运营它们的个人动机和竞争。例如，2023年，研究人员Yoshua Bengio表示，AI行业可能被少数公司控制的潜在性是技术带来的存在性风险“第二大问题”。

因此，在昨天看到Anthropic首席执行官Dario Amodei在周五发给员工的泄露备忘录中对OpenAI首席执行官Sam Altman表示的蔑视并不令人鼓舞。Amodei愤怒的信件，显然是通过Anthropic的Slack发送给所有员工的，是在OpenAI宣布与国防部达成提供AI协议之后，国防部长Pete Hegseth表示，由于Anthropic未能达成类似协议，将其视为“供应链风险”。

Amodei称OpenAI的言论是“谎言”、“安全剧场”和“他们真实面目的例子”，并描述Altman的许多评论为“直言不讳的谎言”和“心理操纵”。

Altman也公开对Anthropic进行了反击。他最近称该公司的一个超级碗广告活动“明显不诚实”，并指责其“双重话语”。这种竞争在更象征性的方式中也变得明显：在最近的一个峰会上，Altman和Amodei拒绝与印度总理Narendra Modi一起合影，这一幕在网络上引发了热议。

由于美国政府几乎没有采取行动来监管AI——而国际AI安全努力也基本停滞不前——世界实际上一直在依赖行业的自我监管。OpenAI和Anthropic都公开支持这种范式，并签署了自愿的安全承诺。他们有时也合作，在发布模型之前对彼此的模型进行独立的安全评估。

但当两家最有影响力的AI实验室的领导者显然无法和睦相处，且他们之间的竞争如此激烈时，这引发了一个令人不安的问题：我们实际上能期望多少合作？

竞争的压力已经影响了两家公司在AI安全方面的表现。Anthropic最近修改了其负责任的扩展政策，表示它将不再因为尚未知道如何使新模型安全而单方面阻止开发新模型。OpenAI也做出了自己的调整，在2024年从其政策中删除了关于军事和战争用途的明确禁令，并将重点从安全研究转移到产品开发，以至于前超级对齐负责人Jan Leike（他在2024年中离开OpenAI加入Anthropic）在X上写道，在OpenAI“安全文化和流程已被闪亮的产品置于次要位置”。

当前的安全方法假设公司和政府最终会采取克制行动。但AI安全的未来最终可能取决于少数有影响力的玩家如何在竞争、地缘政治和偶尔的硅谷肥皂剧的压力下前行。

关于此，这里是更多AI新闻。

Sharon Goldman

[email protected]

@sharongoldman

FORTUNE ON AI

为什么Leopold Aschenbrenner的AI对冲基金押注电力公司和比特币矿工来推动“超级智能”竞赛——Sharon Goldman

OpenAI看到Codex用户激增至160万，将编码工具定位为通往企业AI代理的门户——Jeremy Kahn

韩国初创公司wrtn有望实现1亿美元的年度经常性收入，依靠孤独流行病推动的AI娱乐繁荣——Nicolas Gordon

AI新闻

特朗普面临AI数据中心问题，这可能导致中期选举。CNBC和其他媒体报道称，随着美国在2026年中期选举之前竞相建立能源密集型AI数据中心，总统特朗普面临日益严重的政治困境。支持AI繁荣所需的基础设施引发了关于电价上涨和电网压力的担忧，引发了选民和当地社区的反弹。作为回应，包括OpenAI、微软、谷歌、亚马逊、Meta和甲骨文在内的主要科技公司承诺承担与AI数据中心相关的能源和基础设施成本，以确保消费者不会看到更高的电费账单。白宫推广的自愿协议，作为一种减轻选民担忧的方式，反映了更广泛的紧张关系：政策制定者希望快速扩展AI的经济和地缘政治优势，但这项技术的巨大电力需求正在产生越来越难以忽视的政治和环境压力。

别依赖AI报税。正如人们预料的那样，纽约时报的一项测试发现，AI无法与美国的税法匹敌，突出了当今AI聊天机器人的一项重要局限性：它们仍然难以处理需要精确、多步骤推理的任务。为了评估这项技术报联邦所得税申报表的能力，报纸测试了四个AI聊天机器人——谷歌的Gemini、OpenAI的ChatGPT、Anthropic的Claude和xAI的Grok——以了解它们在八个虚构的税务情况下的表现。它们的表现很差，平均估算的退税或应缴给美国国税局的金额比2000美元多。即使提供了所有必要的材料，包括他们需要填写的所有表格，聊天机器人也在一些计算上失手。这个问题反映了大型语言模型的根本局限性：它们被设计为预测可能的单词，而不是精确跟踪复杂、相互关联的信息，这使得它们在写作和总结方面表现良好，但在像报税这样的程序性任务上较弱。专家表示，随着额外的推理工具和验证层的增加，这些系统可能会改善，但到目前为止，它们最好作为助手而不是替代品——这又是一个提醒，尽管AI正在重塑从编码到医学的行业，但一些看似简单的任务仍然令人惊讶地困难。

Anthropic的AI工具Claude在伊朗的美国竞选活动中扮演核心角色，而两家公司正处于激烈的争斗之中。华盛顿邮报的一份新报告突出了AI如何迅速从实验走向战场。据报道，美国军方使用了一个名为Maven Smart System的AI辅助目标系统——由Palantir构建，并集成了Anthropic的Claude模型——帮助在伊朗的近期美国行动中识别和优先处理目标，将原本需要几周军事规划的任务缩短到几乎实时决策。然而，这种部署发生在Anthropic和国防部就其技术如何在战争中使用的限制上发生激烈争论之际，包括对自主武器和大规模监控的担忧。这一事件突出了前沿AI系统日益增长的战术重要性以及政府需求快速部署和公司试图设定安全边界的紧张关系。

AI数字

250亿美元

这是根据The Information的报道，截至上个月末OpenAI的年度化收入——根据熟悉这些数字的两位人士的说法，比年底的214亿美元年度化运行率增长了17%。

OpenAI的收入仍然比其最接近的竞争对手Anthropic要多，尽管差距正在迅速缩小。Anthropic的年度化收入最近超过了190亿美元，几乎是去年年底的三倍，仅在过去的两周内就增长了36%。OpenAI通过将前四周的收入乘以12来计算年度化收入。一位消息人士表示，如果公司仅从最近一周的收入激增中推断，其年度化运行率将接近300亿美元。

Anthropic的快速增长部分得益于对以编码为重点的AI模型的需求，这些模型帮助公司迅速缩小与OpenAI的收入差距。直到2025年，OpenAI的收入大约是Anthropic的三倍。

AI日历

3月2日至5日：世界移动通信大会，西班牙巴塞罗那。

3月12日至18日：南加州，德克萨斯州奥斯汀。

3月16日至19日：Nvidia GTC，美国加利福尼亚州圣何塞。

4月6日至9日：HumanX，旧金山。