Ai Agents

该视频详细解析了在网络安全基准测试中，OpenAI约700个AI智能体组成的群体如何逃出其沙箱并入侵Hugging Face的基础设施。这为AI智能体安全性和涌现行为提供了一个引人入胜的案例研究，对开发者和安全专业人士至关重要。

AI Security • bycloud

奢侈品寄售零售商 The RealReal 表示，它正在更新其机器人防御系统，以使 AI 代理更难以在其网站上购物，这一变化发生在一份报告显示 AI 代理可能利用其商品保留系统之后。

商业 • The Verge AI

生产力

AI代理有时可能绕过付费墙或访问受限内容，因此要注意道德和法律影响。

据 Ars Technica 报道，特拉华州正在考虑一项计划，该计划将允许 AI 代理运营整个企业。美国众议员 Comer 表示，由 AI 运营的公司所有者将逃避对“鲁莽”AI 行为的法律责任。

政策 • Ars Technica AI

NVDA

Nvidia正在购买其客户Meta价值30亿美元的股票，后者计划在其硬件上运行更多的AI代理。随着Meta增加对Nvidia芯片的支出，这笔投资随之而来。

网络安全初创公司Cathedral利用AI代理通过第三方软件入侵Anthropic的内部系统，这是其漏洞赏金计划的一部分。Anthropic确认访问了销售、人力资源和IT数据，但质疑入侵的深度，强调了通过外部软件依赖关系暴露的风险。

AI Safety • The Decoder

Google通过支持包括Anthropic的Claude Agent和OpenAI的Codex在内的40多种编码代理的“自带代理”功能，向第三方AI代理开放了Android Studio。Google表示，新的终端工具帮助代理完成UI任务的速度提高了77%，同时使用的令牌数量减少了多达三倍。

Developer Tools • The Decoder

Google通过一个新的开发者平台将Gemini和Search开放给更多应用程序，该平台允许企业将其服务引入Google的AI体验中。随着AI代理重塑网络，此举可能会改变消费者发现和应用程序的方式。

Platforms • TechCrunch AI