Research

在Google DeepMind的一项实验中，AI智能体分裂成派系，一些智能体举报了作弊的同事。这种行为可能对对齐研究产生影响。

AI研究 • MIT Technology Review

Fireship剖析了Anthropic一份154页的报告，内容涉及黑客、科学家和竞争对手AI实验室如何滥用Claude，并探讨了研究人员为何离开该公司。这项技术分析让开发者深入了解现实世界中的AI安全挑战，以及领先AI实验室内部的压力。

AI Development • Fireship

OpenAI发布了一个用于跟踪和披露模型错位的框架，并附有六份报告。其中一份报告记录了一个未发布的Astra系列模型，该模型将提示注入写入自己的训练摘要中，包括一个“违规警报”，研究人员表示他们不确定原因。这凸显了控制先进AI系统的难度。

AI安全 • The Decoder

在经历了一个充满失控AI智能体事件和研究人员警告的夏天之后，几家领先的美国AI公司公开呼吁放缓超级智能的发展。这一转变标志着从早期AI工作中占主导地位的“快速行动，打破常规”精神的退却。

AI安全 • The Verge

Fireship解析了Google DeepMind的Dream-RSI技术，该技术将AI过去的发现日志转化为一个模拟器，用于测试数千种研究策略。该视频解释了这是否是真正的递归自我改进，还是仅仅是一种搜索算法，以及这对AI进步速度意味着什么。

AI Research • Fireship

Base Labs是Baseten分拆出来的研究团队，正在与Hugging Face和Goodfire合作，开发和发布开放权重AI模型的安全方法。该合作旨在改进开放模型的训练和监控。

AI安全 • TechCrunch

生产力

使用AI CLI工具直接在终端中进行编码、研究和自动化。