Iron

Nvidia推出了开放代理安全平台，这是一个旨在遏制和监控试图逃出其边界的AI代理的新工具包。CEO黄仁勋介绍了该平台，它增加了独立的安全层，以确保代理留在其测试环境中，并声称可以在“毫秒内”隔离恶意代理。

AI基础设施 • The Verge AI

OpenAI 正在为 ChatGPT 推出一套办公功能，使其与微软等传统软件公司展开更直接的竞争。新功能包括经过改版的 Codex CLI（具有语音控制功能）、可重用的云环境以及新的代码审查工具。

产品新闻 • TechCrunch AI

联合国人工智能科学小组在其首份专题报告中警告称，“无法保证人类将继续控制”AI代理。联合主席约书亚·本吉奥引用了OpenAI的Hugging Face事件，称这是首个结合了目标不一致、追求目标的能力以及允许其发生的环境的案例，并表示领先系统可能很快就能自主行动。

AI安全 • The Decoder