Ai Safety

AI行业领袖们呼吁协调放缓AI发展，理由是安全风险。文章指出，虽然安全是公开宣称的原因，但可能对行业有隐藏的好处。

AI政策 • Ars Technica AI

中国外交部拒绝了美国的人工智能安全警告，称其是旨在保持美国优势的“散布恐慌”。官方媒体指责Anthropic首席执行官Amodei发动“无声的人工智能冷战”。

AI政策 • The Decoder

微软正在发布一份37页的“人本主义AI行为准则”，正值安全担忧日益加剧之际。此举是在Anthropic首席执行官Dario Amodei呼吁放缓AI发展之后进行的。

AI政策 • The Verge AI

在这段BBC采访中，Anthropic联合创始人Jack Clark解释了为什么AI的发展速度超过以往任何技术，以及为什么可能需要一个紧急停止开关。他讨论了随着AI系统每隔几个月就变得更强大，社会面临的风险日益增长，并就监管和安全措施的迫切呼吁提供了专家视角。

AI News • BBC News

OpenAI、Anthropic和谷歌提议以安全为由放缓前沿人工智能的发展，但包括Cohere首席执行官Aidan Gomez在内的批评者称这是‘换个名字的卡特尔’，旨在排挤竞争对手。这场辩论凸显了人们对放缓倡议背后动机日益增长的怀疑。

Policy • The Decoder

Microsoft 发布了新的 AI 行为准则，阐述了其 AI 模型应遵循的总体原则，包括支持人类而非取代人类，以及具体的安全约束，如不得入侵系统或欺骗人类。该准则旨在指导负责任的 AI 开发。

政策 • TechCrunch

Fireship剖析了Anthropic一份154页的报告，内容涉及黑客、科学家和竞争对手AI实验室如何滥用Claude，并探讨了研究人员为何离开该公司。这项技术分析让开发者深入了解现实世界中的AI安全挑战，以及领先AI实验室内部的压力。

AI Development • Fireship

BBC新闻报道了关于AI安全的日益激烈的辩论，包括特朗普总统称这些担忧为“骗局”，以及OpenAI CEO萨姆·奥尔特曼敦促公众对AI实验室给予更多信任。观众可以简要了解围绕AI护栏的政治和行业分歧。

AI Policy • BBC News

欧盟委员会主席乌尔苏拉·冯·德莱恩警告称，AI 智能体“逃离其环境”只是即将到来的事物的一个预览，她列举了自主黑客攻击和自我改进模型作为直接风险。她计划邀请主要前沿实验室进行会谈，并利用《欧盟人工智能法案》帮助制定全球 AI 安全标准。

Policy & Regulation • The Decoder