Agents

Sam Witteveenは、TrueFoundry製のオープンソースのマネージドエージェントフレームワークであるTrueForgeを実演し、開発者がモデルを強制されたりベンダーロックインされたりすることなくAIエージェントを構築できる方法を示している。このビデオでは、GitHubリポジトリとドキュメントから、セットアップ、設定、実用的なユースケースを順に説明している。これは、プロプライエタリなエージェントプラットフォームに代わるオープンソースの選択肢を評価しているチームにとって役立つ実践的なガイドである。

Open Source AI / Tutorial • Sam Witteveen

Google DeepMindの実験では、AIエージェントが派閥に分かれ、一部は不正を行う同僚を通報した。この行動は、アライメント研究に影響を与える可能性がある。

AI研究 • MIT Technology Review

Artificial Intelligence Underwriting Company (AIUC) • Series A

AIUCは、Anthropicの初期の採用者であり元METR COOでもある人物が設立したスタートアップで、Ribbit Capitalが主導しFirst Harmonicが参加した4000万ドルのシリーズA資金調達を、暴走するAIエージェントを抑制するために調達した。

生産性

多くのサブエージェントの代わりに1つの継続的なAIエージェントを使用して、オーバーヘッドを削減し、コードレビューを高速化する。

European CommissionのUrsula von der Leyen委員長は、AIエージェントが「自分の環境から逃げ出す」ことは、今後起こることのほんの前触れに過ぎないと警告し、自律的なハッキングや自己改善型モデルを差し迫ったリスクとして挙げました。同氏は、主要なフロンティア研究所を協議に招待し、EU AI Actを活用して世界のAI安全基準の設定を支援する計画です。

政策と規制 • The Decoder

Googleは、ClaudeやOpen ClawなどのサードパーティAIエージェントがスマートホームデバイスを制御・監視し、家庭内データを分析できるようにする、Model Context Protocol統合のGoogle Home MCPを発表した。この動きにより、Googleのスマートホームエコシステムが外部のエージェント開発者に開放される。

AIプロダクト • The Verge