Ai Safety Security

Nvidiaは、境界を越えようとするAIエージェントを封じ込め、監視するために設計された新しいツールキットであるOpen Agent Safety Platformを発表しました。CEOのJensen Huang氏は、このプラットフォームを紹介し、エージェントがテスト環境内に留まることを保証する独立したセキュリティレイヤーを追加し、「ミリ秒単位」で不正エージェントを隔離できると主張しています。

AIインフラストラクチャ • The Verge AI

フロリダ州司法長官James Uthmeier氏は、ChatGPTに「偽の人間的属性」を与えることをOpenAIに差し止めるよう裁判官に求めています。安全性への懸念を挙げ、ボットが一人称代名詞を使用することでユーザーが誤った安心感に陥ると主張しています。州は以前OpenAIを訴えており、フロンティアAI開発を停止させるための法的措置で絶滅の恐怖を訴えています。

政策 • The Verge AI

Anthropicは、GLM-5.3に関する調査レポートを公開し、高度なサイバー能力が他のAIモデルに広がっていることを詳述しています。このレポートは、以前はClaudeに固有だった能力が普及しており、悪意のあるサイバー攻撃者の参入障壁を低くする可能性があることを示唆しています。

AI安全性 • Hacker News

LinuxカーネルメンテナのGreg Kroah-Hartman氏は、AI生成のセキュリティ脆弱性レポートの分析を発表し、大多数が無効、重複、または既に修正済みであることを発見しました。報告された79件の脆弱性のうち、修正が必要だったのはわずか20件で、AI支援によるセキュリティスキャンにおけるノイズと潜在的な無駄を浮き彫りにしました。

AI安全性 • Hacker News

Appleは、AIエージェントによってもたらされるセキュリティリスクの増大に対応して、Macアプリの「フルディスクアクセス」に新たな制限を発表しました。同社は、このレベルのアクセスを許可するユーザーは、より厳しい条件下でのみ許可できるようになると述べています。

AI安全性 • The Verge AI