AI安全

• 不到两年，27亿变成2000万 （2026-10-13）
• AI灾难将在一年内发生？ （2026-10-10）
• 于是，一个「完美的」正反馈回路就出现了：Anthropic 估值越高，依赖这笔股票的安全生态越有钱，「AI 末日」的叙事喊得越响；而当这些机构不断谈论 AI 灾难，社会越害怕，就越需要第三方的独立评估；新的拨款和权力又回到熟悉的一群人手中 （2026-09-20）
• 如果AI能做一个人90%的工作，那个人的注意力就会集中到AI做不好的那10%上。 工作的性质在改变 （2026-09-17）
• AI创造的社会价值、AI公司的收入、AI投资者的回报，是三件不同的事 （2026-09-14）
• 当AI开始说服AI （2026-09-08）
• MIT最新研究显示：AI文明可能根本不需要语言。 （2026-09-08）
• 风险投资人Sarah Guo在访谈中描述了一个引人深思的现象：当模型训练预算迈向数千亿美元、团队扩张至数千人规模时，越来越多的顶尖研究人员产生了两种消极情绪——"我做的事情不重要，因为模型很快能自己做"，以及"唯一重要的只有算力规模，个人贡献被稀释" （2026-09-02）
• 在Anthropic内部，他们非常自信。多个我信任的人告诉过我，Dario说过：Anthropic某一天可能成为世界上唯一的私营公司 （2026-08-18）
• 全球领先的AI公司可能已经接近实现「自动化AI研究」（RSI，递归自我改进），让模型参与研发下一代模型。 一旦这个循环加速，能力增长可能超过人类理解和控制的速度。 没有公司愿意单方面减速，所以他们要求美国政府支持建立国际机制，在危机到来之前，先把共同减速的工具造出来 （2026-07-29）