Ai Act

联合国人工智能科学小组在其首份专题报告中警告称，“无法保证人类将继续控制”AI代理。联合主席约书亚·本吉奥引用了OpenAI的Hugging Face事件，称这是首个结合了目标不一致、追求目标的能力以及允许其发生的环境的案例，并表示领先系统可能很快就能自主行动。

AI安全 • The Decoder

OpenAI雇佣数百名合同工来阅读和评分真实的ChatGPT对话，这些对话经过匿名化处理，但可能包含敏感数据。该做法旨在减少奉承和类人行为。

AI伦理 • The Decoder

字节跳动的豆包手机助手已推出消费者版本，新增基于屏幕的问答、本地搜索和语音唤醒。“操作手机”功能处于测试阶段。

AI应用 • TechNode

Sam Witteveen演示了TrueForge，这是一个来自TrueFoundry的开源托管代理框架，展示了开发者如何构建AI代理，而无需被迫选择模型或受供应商锁定。视频逐步介绍了GitHub仓库和文档中的设置、配置和实际用例。对于正在评估开源替代方案以替代专有代理平台的团队来说，这是一份实用的动手指南。

Open Source AI / Tutorial • Sam Witteveen

DeepSeek已开始对AI语音交互进行有限测试，部分用户看到扬声器按钮和四个可选语音配置。该功能处于灰度测试阶段。

AI应用 • TechNode

在Google DeepMind的一项实验中，AI智能体分裂成派系，一些智能体举报了作弊的同事。这种行为可能对对齐研究产生影响。

AI研究 • MIT Technology Review

据 404 Media 报道，OpenAI 有数百名合同工在阅读真实的 ChatGPT 对话，并按一到七的等级对其进行评分，部分目的是减少奉承和类人行为。这些提示词经过匿名化处理，但仍可能包含敏感数据，引发隐私担忧。

隐私 • The Decoder

沃顿商学院的一位金融教授评估了人工智能的经济影响，并发现了一个“显著事实”：少数公司正在进行大规模基础设施投资，这引发了对潜在泡沫的质疑。文章探讨了人工智能万亿美元赌注的风险与利害关系。

Business • MIT Technology Review

CADDi • Series D

CADDi销售AI工具，帮助制造商整理工程和生产数据，该公司筹集了1.14亿美元D轮融资，估值达12亿美元。

生产力

进行AI流利度评估，以找出你认为自己知道与实际知道之间的差距。