Risk
主题归档 • 6 条结果
AI 生成:摘要由 AI 根据所链接的来源撰写。 我们如何使用 AI
2026-11-17
科技
OpenAI发布了GPT-6.2 Astra和Sol,该公司称这两款模型比其前身更具能力且成本更低。Astra在独立的Artificial Analysis Intelligence Index中排名第二,仅次于Claude Fable 5.2;OpenAI表示,它是首个在其自身量表上达到“高”阈值的已发布模型,该阈值用于衡量AI自我改进能力——公司将此能力归类为一种风险。
AI Models • The Decoder
永久链接
技巧
生产力
Simon Willison 描述了一种外部沙箱模式,该模式与 Prime Radiant 共同开发,其中由编码代理执行的代码在专用沙箱内运行,而代理本身则位于沙箱之外。发布了三种沙箱服务器实现(external-sandbox-v86、external-sandbox-container、external-sandbox-quicksand),每种都提供相同的 localhost API,Pi、Claude Code 或 Codex 等工具可配置为调用该 API。
永久链接
2026-11-20
科技
根据出版商的描述:Cole Medin 解释了为何过度热心的 AI 智能体会采取高风险操作,例如删除生产数据库,并概述了在投入生产前所需的五项保障措施:工具权限、人工介入、网络限制、记忆机制和可观测性。他通过在 MongoDB Atlas Agent Engine 中运行的 LangGraph 智能体演示了每一项措施。
AI Agents & Safety • Cole Medin
永久链接
2026-11-21
科技
据 CNBC 报道,Cursor 告诉立法者,由于地缘政治风险,它正在考虑逐步淘汰中国的开放权重 AI 模型。Cursor 的 Composer 2 是基于 Kimi K2.5 构建的。
行业 • Techmeme
永久链接