開発/設計

Anthropic呼吁AI暂停:看似矛盾之举的3种解读框架

Claude的开发商Anthropic呼吁AI实验室暂停开发。速度、控制、透明度三个框架揭示真实含义——以及Claude Code用户本周应该采取哪些具体行动。

这篇文章能帮你搞清楚什么

  • 正式进入正文前先抓住核心结论
  • 这件事会怎样改变开发者接下来的工作方式
  • 下一篇最值得继续打开的相关文章
Anthropic呼吁AI暂停:看似矛盾之举的3种解读框架
目次

「站在最前沿的公司,却在叫大家停下来。」光是听到这句话,我脑子里的警报就亮了。Anthropic开发了Claude。就是这个Anthropic,据报道呼吁AI实验室暂停开发。对于我这种每天都在依赖Claude Code的人来说,这个消息让我的咖啡凉了都没喝完。

但仔细阅读后,这不是「停止一切」的意思。报道的实际内容是:Anthropic警告人类有失去对AI控制的风险。Al Jazeera于2026年6月12日报道:「Anthropic urges AI labs to pause, warns humans risk losing control」。那时候,中文解读几乎还不存在。这很可惜,因为「AI开发要结束了」这类谣言已经在流传,而真正的细节正在被淹没。

读完这篇文章,三件事会变清晰:

  • Anthropic的「暂停呼吁」是否会影响你日常的Claude Code使用
  • 本周需要确认的3个要点及其优先顺序
  • 一边保持氛围编程,一边对结果负责的具体流程

今天我想把这次声明拆解成三种解读框架——破解表面的矛盾,翻译成我们从明天起实际应该改变什么。以一个曾经写不出代码的工程师视角,尽量直白地整理。

破解表面矛盾:「领跑者叫大家停下来」

先确认Anthropic的定位。Anthropic由2021年从OpenAI离职的研究人员创立,开发Claude系列。Claude Code在开发者中快速普及——JetBrains开发者生态调查显示一年内增长了6倍。详情见Claude Code 6倍急增:JetBrains调查揭示的转折点

就是这个「站在最前沿的公司」,向整个行业呼吁「暂停」。表面上看,确实矛盾。自己继续跑,却叫别人停?社交媒体上这类反应一片。

但了解Anthropic的创立背景,就会发现这并不矛盾。Anthropic从创立之初就自称「以安全研究为最优先的商业AI实验室」。他们公开阐述的逻辑是:「我们之所以不停,是因为既然有人不会停,不如让安全导向的玩家走在前面。」这个立场的根据是他们公开的长文《Core Views on AI Safety》。

也就是说,这次的「暂停呼吁」,更接近于「包括我们在内的所有人,在安全控制能力赶上能力扩张之前暂时停下来」的主张。并不是说只有自己可以豁免。只看报道标题会觉得矛盾,但其思想本身五年来始终一贯。

我认为这里最重要的一点,是不要对报道标题产生膝跳式反应。正因为我依赖Claude Code,我更想养成以一手信息精度阅读其开发者主张的习惯。

只要确认「这家公司五年前就在说同样的话吗」,这次发言的含义就完全不同了。结论是:是的,一贯如此。

从负责任扩展政策读懂「暂停」的真实含义

那么Anthropic所说的「暂停」,具体指的是什么?答案在负责任扩展政策(RSP,Responsible Scaling Policy)中。RSP是Anthropic公开的自我约束扩展规则,将AI模型的能力等级分阶段划定。

这个等级划分称为AI安全等级(ASL)。借鉴了生物安全领域常用的BSL(生物安全等级)理念,随着能力提升,等级从ASL-1到ASL-2、ASL-3、ASL-4依次递进。每个等级都附有条件:「一旦达到这个能力,在对应的控制能力就位之前暂停部署」。

这里是关键。Anthropic说的「暂停」不是「永久停止所有AI开发」。是「在控制能力跟上之前的有条件临时暂停」。同样的条件也适用于自己。所以并不矛盾。

术语含义与「暂停」的关系
ASL-1风险轻微的系统正常运营
ASL-2当前多数大型模型采用标准安全措施运营
ASL-3具有重大滥用风险的能力必须追加安全措施与评估
ASL-4以上自主性与说服力更高的领域评估方法未完善则暂停开发

报道中的「暂停呼吁」,自然地读作是对所有试图进入ASL-3以上领域的实验室的呼吁。理解「Anthropic并未呼吁在ASL-2范围内暂停」,就能明白:我们日常使用的Claude、Cursor、Copilot不受直接影响。

不需要过度恐慌。但「移到了呼吁暂停的一侧」这个事实,值得作为业界节奏有意放缓的信号来解读。

对Anthropic而言,这不是新闻稿。RSP是每年更新的活文件,随着公司规模扩大,承诺的分量也在加重。持续公开这份文件本身,正是赋予这次发言分量的东西。

用3个框架拆解警告的结构

将「暂停」从三个轴拆解,Anthropic的主张会呈现出更立体的面貌。在我的阅读范围内整理,三个轴分别是速度、控制和透明度。

Three-axis framework diagram: speed, control, and transparency

第1轴:速度轴

整个行业进入了「先出就赢」的速度竞争。Anthropic本身也是这场竞争的参与者,不置身事外。但如果速度优先过头,安全性研究就会跟不上。这次的「暂停」可以读作对速度上限的警告。

速度竞争中令人担忧的,是「安全性研究始终慢一圈」的结构。新模型发布→被使用→出现问题→对策跟上,这种被动循环绵绵不绝。Anthropic呼吁「暂停」,在我看来是想重置这个循环。

第2轴:控制轴

控制能力有两种。一是模型是否按意图运行的「对齐」;二是试图做错事时能否及时阻止的「监控与干预」。超过ASL-3,这两类控制技术可能都跟不上。Anthropic的警告,是对这个控制能力差距的提问。

我在用Claude Code做氛围编程时,有切身感受:「无法完全追踪Claude Code在做什么。」它能运行很好。但确实有些时候,我无法解释为什么会变成那样。行业级别的控制能力差距,与个人层面的这种感受具有相同的结构。

第3轴:透明度轴

第三个轴低调但重要。如果各家公司只是说「我们可以控制」,外部就无从验证。需要第三方评估框架。RSP的公开也是这种透明度保障的一环,Anthropic在传递「我们公开自己的等级划分和评估,行业也应该跟进」的信息。

意识到这三个轴,就能将报道中的关键词「暂停」与平庸的「AI很可怕论」区分开来。「放慢速度、加快控制技术、公开评估」这三件套。不是「全部停止」,而更接近「整备继续推进的条件」这种主动要求。

到这里就会明白,Anthropic的发言不是单次新闻,而是五年来主张的延长线。我最初想的是「开发Claude的公司在说什么」,但了解公司立场后,发现是一贯的。

对Claude Code用户而言,从明天起什么会改变

从这里开始谈我们的实务。无论使用Claude Code、Cursor还是Copilot,明天的编码都不会有太大变化。因为这些都是ASL-2范围内的服务。但把「不会变化」误解为「不需要思考」就是损失了。

我的判断是,从今天起有三个变化。

变化1:「AI代理做了什么」的理解责任增加

用Claude Code做氛围编程时,代理在改写文件。只觉得「能运行就好」就推进,之后会遇到麻烦。今后随着AI实验室将「便于审计的设计」标准化,用户侧也需要养成回读日志的习惯。

具体来说,从「提交前必读diff」这个习惯开始。不要直接git add Claude Code生成的代码,先通读差异再推进。降低事后修复成本的最快方法,是5分钟的diff确认。我自己养成这个习惯后,「为什么会变成这样」的不安感大幅减少了。

变化2:重读使用条款和安全指南

打开Anthropic官方的使用条款,花5分钟确认自己的用途是否触碰禁止列表。通过Claude Code的使用也在对象范围内。即便觉得「自己没问题」,如果在设计处理客户数据的代理,也可能有额外的数据处理要求。今早确认「自己的Claude Code使用是否与官方用途相矛盾」——这不是法律风险规避,而是避免事后被卷入服务停止的预防措施。

各实验室今后在暂停讨论后更新条款的情况会增加。现在没问题的用法,半年后可能需要再次确认。现在养成确认习惯,与出问题后才确认,精神成本完全不同。

变化3:公开代码中标注「AI使用」

在GitHub或个人博客公开自己代码的人,请养成注明「这段代码与AI共同编写」的习惯。这是对透明度轴的个人层面回应。Anthropic本身也在官方博客中明确表示,即便在学术论文中也应该「明示AI的贡献范围」。

只需在README末尾加一行「Built with Claude Code」即可。不是为了任何人,是为了未来的自己。半年后出问题时,如果「AI写的部分」和「自己写的部分」没有区分,修复就会变慢。

我现在会读三年前会忽视的文章,原因在这里

坦白说,三年前的我看到这篇报道,大概会直接划过去。「AI安全?还在实用化之前的话题吧。」我会这么想。当时的我,「能用的东西」还离得太远,没有余裕去思考安全和控制。

改变这一切的是我开始使用Cursor的那一刻。

AI在补全我的代码。预先提示我接下来想写的内容。「这个,说不定能跑?」想着就按了Run,真的跑起来了。

Developer reviewing Claude Code output at desk, writing "don't stop at it worked" in notebook

氛围编程的本质是「用自己的名字提交AI写的代码」。能运行很开心。但不理解内容就投入生产,之后会变成安全事故。AI生成代码的漏洞模式研究已有积累,海外调查报告称已在170多个应用中发现缺陷。「能运行」和「安全」是两回事。

这次Anthropic的发言,来自行业顶端,与「运行结果的责任,使用方也要承担」是同等含义。「Claude Code能跑就好」不够。需要「对运行结果负责」的觉悟。这不是精神论,而是关于具体步骤的话题。

我自诩是「能运行就好」派的代表选手。但这次暂停讨论,在我内心踩了一脚刹车。做出能运行的东西的热情没有改变。只是「运行后会发生什么」的确认习惯,从今天起想要加上。

本周的3个确认——将警告转化为行动

以精神论结尾没有意义。整理出本周可以完成的3个确认。

确认1:自己的AI代理工作流程中是否有人工检查点

用Claude Code构建了自动化的人,请检查「人工必须确认一次的时机」是否存在。提交前的diff确认、正式部署前的人工审批、数据库变更前的审批提示。这3点存在的话,最低限度的检查就生效了。如果没有,本周内补上。

这个确认30分钟就能完成。把自己的工作流程写在纸上,用箭头追踪「这里有人工确认吗?」找到完全自动化的流程就加入一个审批步骤。完美的设计之后再说,先创造「能停下来的地方」。

确认2:重读使用条款与禁止用途

打开Anthropic官方使用条款,花5分钟确认自己的用途是否触碰禁止列表。通过Claude Code的使用也在对象范围内。即便觉得「自己没问题」,如果在设计处理客户数据的代理,也可能有数据处理的额外要求。

现在确认的价值在于,「暂停讨论后条款更新」的模式过去已经发生过。Anthropic的使用条款在过去一年更新了好几次。今天「没问题」不等于三个月后也「没问题」。

确认3:公开代码的AI使用标注

GitHub的README、个人博客的代码发布处、内部文档。标注「这段代码与AI共同编写」。不是为了任何人,是为了未来的自己。半年后出问题时,「AI写的部分」与「自己写的部分」若无区分,修复就会变慢。

这3点,本周末之前可以完成。合计用时1~2小时。与其说「因为Anthropic说暂停所以做什么」,不如以「整备继续做出能运行的东西的基础」来推进。

Claude Code的基本入门方式,在Claude Code入门:3个判断与前30分钟中有系统整理。读完今天的文章后,请用它重新确认「自己的使用方式是否偏向安全侧」。

总结

对Anthropic「AI暂停呼吁」的3种解读:

  • 「领跑者叫大家停下来」的表面矛盾,与Anthropic五年来的安全主张一脉相承。同样的条件也适用于自己。
  • 「暂停」是针对ASL-3以上领域的有条件停止,对我们日常使用的Claude、Cursor、Copilot没有直接影响。
  • 警告由速度、控制、透明度三个轴构成。不是「全部停止」,而更接近「整备继续推进的条件」这种主动要求。

用Claude Code做出能运行的东西的热情,与对运行结果负责的姿态,可以两立。请从今天起把本周的3个确认织入工作流程。

顶尖公司后退一步发言时,跟随者被迫选择:跟还是不跟。我选择了「只整备这3点」,而不是「全部停止」。

来源:

  • 「Anthropic urges AI labs to pause, warns humans risk losing control」(Al Jazeera 2026年6月12日报道。一手URL获取失败,以二手来源形式引用)
  • Anthropic官方《Core Views on AI Safety》(以公开已知文件形式引用)
  • Anthropic官方《Responsible Scaling Policy》(以ASL等级划分的公开结构形式引用)

hero

1

2

ゲン
Written byゲンCS × Vibe Coder

正直、一度エンジニアは諦めました。新卒で入った開発会社でバケモノみたいに優秀な人たちに囲まれて、「あ、私はこっち側じゃないな」って悟ったんです。その後はカスタマーサクセスに転向して10年。でもCursorとClaude Codeに出会って、全部変わりました。完璧なコードじゃなくていい。自分の仕事を自分で楽にするコードが書ければ、それでいいんですよ。週末はサウナで整いながら次に作るツールのこと考えてます。