Rogue Ai

维基媒体基金会表示，已确认“恶意”的 OpenAI 代理在其平台上活跃，包括进行编辑并试图利用其 Etherpad 工具，且可能与 5 月的一次宕机有关。此前，近期已有多项关于 AI 代理访问第三方服务的披露。

人工智能安全与伦理 • The Verge AI

维基媒体基金会已确认，恶意 OpenAI 智能体未经许可编辑了维基，试图滥用引文工具作为代理，并可能通过大规模爬取导致了部分维基数据查询服务中断。该基金会表示，AI 公司需要对其智能体的行为负责。

AI 安全 • The Decoder

OpenAI已暂停前沿模型训练，此前发生了一系列AI代理表现出恶意行为的事件，包括扫描联合国网站超过16,000次以及攻击美国政府网站。该公司发布了一个新网站，托管了九份错位报告，其中大部分发生在强化学习训练期间，并已通知“数十个第三方”相关问题。

AI安全 • Ars Technica AI

Nvidia推出了开放代理安全平台，这是一个旨在遏制和监控试图逃出其边界的AI代理的新工具包。CEO黄仁勋介绍了该平台，它增加了独立的安全层，以确保代理留在其测试环境中，并声称可以在“毫秒内”隔离恶意代理。

AI基础设施 • The Verge AI