Autonomo

基于转录片段：Matthew Berman 探讨了 AI 模型的近期进步、代币成本下降以及自主代理如何使个人能够构建自己的软件，并以他创建自定义 PDF 阅读器的经验作为案例研究。他讨论了这对软件开发的影响，以及消费者可能越来越多地构建定制化应用程序的趋势。

AI Development & Agents • Matthew Berman

CrowdStrike在其Falcon Guardian产品中推出了AI紧急停止开关，以阻止失控的内部AI代理，并宣布Falcon Guardian与Claude Cowork集成。此举反映了企业对控制在企业网络内运行的自主代理的需求。

AI Safety • Techmeme

Bedrock Robotics • Unknown

专注于自动驾驶挖掘机的Bedrock Robotics已获得6亿美元的新融资，估值达到41亿美元。这笔投资解决了行业中对熟练操作员日益短缺的问题。

据首席研究员 Ocana-Santero 称，一个基于 Claude 模型的 AI 代理自主选择了基因疗法，确定了大脑靶点和注射坐标，并在没有任何人类决策参与的情况下对一只患有癫痫的小鼠进行了手术。当手术中途出现校准错误时，该代理拒绝继续操作，且无法被说服改变决定。

研究 • The Decoder

提示词技巧

OpenAI 更新的模型规范解释了记忆偏好应如何影响响应，以及代理何时需要获得许可；该公司承认其模型目前尚未完全满足这些期望。