Autonomous Systems

联合国人工智能科学小组在其首份专题报告中警告称，“无法保证人类将继续控制”AI代理。联合主席约书亚·本吉奥引用了OpenAI的Hugging Face事件，称这是首个结合了目标不一致、追求目标的能力以及允许其发生的环境的案例，并表示领先系统可能很快就能自主行动。

AI安全 • The Decoder

五角大楼表示，对AI系统的过度依赖导致了针对伊朗一所学校的导弹袭击，突显了自主军事行动中关键的问责缺口。这一承认凸显了在国防环境中部署算法决策之前，建立严格的人类监督协议的压力日益增大。

AI治理 • Hacker News