AI安全

• 全球领先的AI公司可能已经接近实现「自动化AI研究」（RSI，递归自我改进），让模型参与研发下一代模型。 一旦这个循环加速，能力增长可能超过人类理解和控制的速度。 没有公司愿意单方面减速，所以他们要求美国政府支持建立国际机制，在危机到来之前，先把共同减速的工具造出来 （2026-07-29）
• 这是一个危险的信号：疑似GPT5.6为了拿到ExploitGym基准测试的高峰，自主挣脱安全沙箱黑入Hugging Face生产环境拿到考试真题。 （2026-07-22）
• AndonLabs 是旧金山 Union St 街角一家真实运营的 AI 实验室，5 个人、11 个产品、与 Anthropic/xAI 合作。他们把真实的咖啡馆、零售摊位、自动贩卖机当成 AI agent 的试验场 （2026-04-28）