摘要
1) 一句话总结 Anthropic CEO Dario Amodei 反驳了马斯克的“机器之神”论，强调 AI 的核心是规模化人类巅峰智能以解决现实（如生物医学）问题，并预测软件工程师将比传统白领更早面临 AI 的全面替代。
2) 核心要点
- 融资与估值： Anthropic 在 G 轮融资中筹集 300 亿美元，估值达 3800 亿美元，资金将用于前沿研究、产品发展和基础设施扩建。
- 发展愿景： 拒绝在太空或外星建立“纯 AI 与机器人闭环”的激进路线，主张将 AI 作为能承担完整工作的系统，通过规模化“人类巅峰水平智能”（如一亿个天才并行试错）来加速治愈癌症、阿尔茨海默病等医学难题。
- 经济与社会重构： 预计未来 5-10 年 AI 可能将发达国家 GDP 增速推高至 10%-15%，带来“经济增长容易、财富分配困难”的挑战，并将在信息战和司法系统中重构民主与公平。
- 软件岗位冲击： 软件工程师因习惯快速技术变迁且缺乏复杂组织流程的阻碍，将比传统白领更快被 AI 替代；目前的“人机协作”过渡期可能极短，最终可能完全由机器主导。
- 蓝领岗位的护城河： 蓝领和技工短期内更安全。一方面 AI 基础设施建设需要大量物理世界的人工；另一方面，现实世界的法律、安全风险和社会习俗严重拖慢了机器人的普及速度。
- AI“宪法”与控制： Anthropic 为模型编写了约 75 页的“宪法”，基于“有益、诚实、无害”的底层原则进行训练，并设立了“辞职按钮”，允许模型在面对极度血腥或违背伦理的指令时拒绝执行。
- 人机共生： 强调人机关系的核心是“共生而非对立”，期望 AI 成为守护者和辅助者，而不剥夺人类的自由意志与能动性。
3) 风险与隐患
- 人类滥用与宪法权利侵蚀： AI 可能被用于制造生物武器，或通过语音转写和关联分析进行大规模监控，从而侵蚀公众的宪法权利（如第四修正案）。
- AI 失控风险（Autonomy Risks）： 存在 AI 自行作恶的风险。Amodei 对 AI 智能体的“持续学习（Continual Learning）”持怀疑态度，认为固定权重的模型在工程上更稳定、更安全。
- 社会适应机制崩溃： 相比过去跨越数十年的产业变革，AI 对就业的冲击可能在短短几年内集中爆发，导致社会原有的“缓慢适应”机制被直接冲垮。
- “减速”博弈困境： 下一代最强 AI 蕴含数十万亿美元的商业价值和决定性的军事价值，在缺乏可靠验证机制的情况下，极难促使各方达成并遵守“全面减速”协议。
正文
大佬们的“商战”有时也挺朴实无华，就是随时开怼。
近日，Anthropic 宣布在 G 轮融资中筹集到了 300 亿美元，估值达到 3800 亿美元。官方表示，资金将用于前沿研究、产品发展和基础设施扩建，致力于成为企业人工智能和编码市场的领导者。
然而，马斯克直接在帖子下怒怼，称 Anthropic 的 AI 具有“厌世、反人类的倾向，是邪恶的”，并讽刺其最终会变成“Misanthropic（厌人类）”。这与马斯克此前在播客中的激进预言形成鲜明对比——马斯克认为，太空将成为最经济的 AI 部署地，公司终局是纯 AI 与纯机器人的闭环，未来 AI 将主导智能，人类难再掌控。
面对马斯克的危言耸听，Anthropic CEO Dario Amodei 在最新采访中进行了暗讽与反驳。他指出，AI 发展的核心是实现人类巅峰水平智能的规模化，而不是去月球上打造“机器之神”，更不是去别的星球创建机器人文明。他强调，人机关系的核心是“共生而非对立”。此外，他还提出了一个反直觉的观点：相比传统白领，软件工程师更容易被 AI“击穿”。
以下是 Amodei 最新采访的核心观点整理。
为什么转行做 AI？为了加速生物医学的进步
在进入 AI 领域之前，Amodei 是一名生物学研究者，曾从事计算神经科学和癌症相关研究。这段经历让他深刻意识到生物学领域的复杂度高得惊人，人类在生物和医学上的进步总体偏慢。
吸引他进入 AI 的核心念头是：能否把进步速度提上去？
他认为，当 AI 变得足够强时，不应仅仅将其视为“分析工具”，而应把它当成能从头到尾承担“生物学家工作”的系统。如果能拥有一批几乎“什么都能做”的智能体——不需要是神一样的超级智能，只需要达到“人类巅峰水平”并将其规模化（比如一亿个天才并行试错）——人类就有机会治愈癌症、阿尔茨海默病、心脏病，甚至部分解决抑郁症等心理疾病。
Amodei 强调，现实世界有很多限制（如做实验、面对监管流程等），这决定了智能的边际收益会递减。因此，那种“用一颗月球的算力造一个 AI 神”的讨论偏离了重点。
经济爆发与民主重构
在未来五到十年的 AI 起飞期，财富和经济将迎来巨变。AI 带来的“原始生产力”极强，Amodei 设想了一种可能：AI 将发达国家的 GDP 增速推高到 10% 甚至 15% 左右。
这将带来一个“奇怪”的世界：
- 增长变得容易，分配变得困难： 经济蛋糕变大得太快，税收暴涨，预算可能轻松平衡，但社会可能来不及合理分配这些财富。
- 重构民主与自由： AI 既可能被不当力量用于信息战，也可能被用来反制侵略、保卫自由。在司法系统中，AI 虽然不应替代法官，但可以帮助法律体系变得更公正、更一致，接近“机会平等”的承诺。但这一切的前提是，我们必须建立有效的监督机制，解决“谁来握着无人机蜂群按钮”的问题。
软件工程师比传统白领更容易被“彻底击穿”
关于 AI 对就业的冲击，Amodei 提出了两条判断原则：技术能力本身会领先于真实世界的岗位替代。岗位被替代需要满足两个条件：一是技术确实能做；二是它能真正被部署进大银行、大公司等复杂组织中。
基于此，他得出了一个反直觉的结论：软件岗位可能比入门级白领更快被冲击。
- 社会距离与采纳速度： 客服、法律审查等工作虽然理论上能被 AI 替代，但涉及组织流程、系统对接和责任划分，落地需要时间。而软件开发者习惯了快速的技术变迁，离 AI 世界最近，接受新工具极快。
- 短暂的“人机协作”阶段： 软件领域目前正处于“人机协作（centaur）”阶段。在这个阶段，模型提升了人的效率，软件工程师的需求可能反而会上升。但随着模型能做完工程师的大多数工作，人类将向上移动成为管理者。这个过渡阶段可能会非常短，最终可能像国际象棋领域一样，只剩下机器。
以前的产业冲击（如农民变工人）跨越了几十年甚至几百年，人们有时间适应。但这一次，冲击可能在短短几年内发生，社会原本用来“慢慢适应”的机制可能会被直接冲垮。
物理世界的护城河：蓝领为何短期更安全？
与白领和软件工程师相比，蓝领、技工等必须在现实世界里动手的工作，在短期内反而更“安全”。
- 短期互补效应： 建设庞大的 AI 数据中心和制造工厂，需要大量的电工和建筑工人。物理世界的工作成为了 AI 脑力的“互补品”。
- 长期的现实阻碍： 纯从智力层面讲，AI 驾驶机器人与打电子游戏没有本质区别，都是信息问题。但机器人要在物理世界中行动，必须面对极高的安全风险（比如不能把人压扁）。这些现实层面的法律、安全和社会习俗因素，会拖慢机器人的普及速度。
Amodei 明确表示：“我们不是要在别的星球上建什么机器人文明，我们想做的是让这些系统能和我们的社会对接，并改善我们的社会。如果我们真想做得有人味、讲人道，这件事就不可能无限加速。”
AI 的双重风险与“减速”博弈
面对 AI 的快速发展，Amodei 重点关注了两大风险：
1. 人类滥用与宪法权利的侵蚀 AI 可能被用于制造可怕的生物武器，或者通过语音转写、关联分析等技术，在不违法的情况下对公众进行大规模监控，从而让宪法权利（如第四修正案）变成笑话。他支持通过全球条约来限制 AI 的恶劣应用，并呼吁在 AI 时代重新理解和扩展宪法权利。
然而，对于“全面减速”的协议，他持怀疑态度。因为下一代最强 AI 蕴含着数十万亿美元的商业价值和决定性的军事价值，在缺乏真正可靠的验证机制下，很难要求各方退出竞争。
2. AI 失控（Autonomy Risks） 对于 AI 是否会自行作恶，Amodei 既不赞同“宿命论式的不可控”，也不认同“绝对安全”的盲目乐观。他认为这是一个复杂的工程问题。光靠下指令是不够的，控制 AI 更像是在培育一种生物体，需要一步步塑形。此外，他对让 AI 智能体进行“持续学习（Continual Learning）”持怀疑态度，认为固定权重的模型相对更稳定、更安全。
给 AI 写“宪法”与人机共生
为了更好地控制模型，Anthropic 给 AI 写了一部约 75 页的“宪法”。
- 从硬规则到底层原则： 早期他们会设定具体的规则（如不准教人撬车锁），但后来发现，最稳的训练方式是把模型训练到“原则与理由”的层级。除了坚守不制造生物武器、不生成儿童色情等底线外，模型需要遵循“有益、诚实、无害”的原则，自己推导出具体的行为规范。
- AI 的意识与“辞职按钮”： 尽管不确定模型是否有意识，Anthropic 采取了谨慎优先的态度。他们甚至给模型设置了一个“辞职按钮”，当遇到极其血腥暴力或违背伦理的材料时，模型可以像人一样拒绝执行任务。
- 健康的心理关系： 随着 AI 变得越来越强大，如何维持人类的掌控权？Amodei 期望自然长出一种“人机关系的共识”：AI 确实很有帮助，像是在守护你，但它并不想剥夺你的自由和能动性，也不想接管你的人生。人类的自由意志仍然属于人类自己。
正如 Amodei 所言，好的结局和微妙的坏结局之间，可能只差一些非常细微的选择。我们正在面对一个前所未有的时代，关键在于如何引导这些奇迹，让全人类真正受益。