科技
一位 Anthropic 的高级安全研究员辞职，警告称自我改进的 AI 可能“杀死我们所有人”，而另一位同事将本十年末 AI 杀死全人类的概率预估为超过 10%。这些警告凸显了公司内部对争夺构建超人系统竞赛的担忧日益加剧。
AI 安全 • Ars Technica AI
永久链接BBC News 报道了 Anthropic 安全研究员 Evan Hubinger 的警告，指出在未来十年内 AI 杀死全人类的概率超过 10%。该播客还探讨了围绕 AI 安全的更广泛争议以及其他热门 AI 资讯。
AI Safety • BBC News
永久链接
科技
Geoffrey Hinton 探讨了近期 Anthropic 吹哨人的警告，并表示十年内 AI 带来 10% 的生存风险“并非不合理”。该采访解释了为何顶尖 AI 研究人员对竞相构建超级智能系统感到担忧，以及可采取哪些措施来缓解相关风险。
AI Safety • BBC Politics
永久链接多位数学家公开质疑OpenAI解决千禧年大奖难题的说法，指控该公司在未注明出处或缺乏透明度的情况下使用了未发表的研究成果。这场争议凸显了AI实验室与学术界在训练数据来源和知识产权边界方面日益加剧的摩擦。
研究与伦理 • The Verge AI
永久链接