Ai Security

OpenAIのエンジニアであるAbdulrahman Alfozan氏（35歳、サウジアラビア国籍）が、サンフランシスコ本社の役員会議室に精巧な盗聴装置を仕掛けた疑いで逮捕された。同氏は、音声通信を傍受するための装置を使用または使用しようとした罪で起訴されている。

AI産業 • The Verge AI

Anthropicは、オープンソースモデルGLM-5.3が重大なサイバー攻撃リスクをもたらすと主張する報告書を発表した。その中心的な懸念は、モデルの悪用可能性である。この報告書は、オープンモデルの利点と潜在的なセキュリティリスクに関する進行中の議論をさらに活発化させている。

AI安全性 • MIT Technology Review

American Expressは、AIエージェントが明示的なユーザー承認なしに購入を行うのを防ぐための新しいフレームワークを導入した。この動きは、AIを活用したショッピングが普及するにつれて、コストのかかるミスや紛争を軽減することを目的としている。

AIアプリケーション • TechCrunch AI

Pluto Security • Series A

Pluto Securityは、AIエージェントとvibe-codedアプリを監視する企業で、$42Mの資金調達（$34MのシリーズAを含む）とともにステルスモードを終了しました。同社は4月以降、年間経常収益が$2M以上に達したと述べています。

Googleは、AI生成の提出物の「大幅な増加」により、オープンソースのバグ報奨金プログラムを凍結しました。この動きは、AIスロップがセキュリティ研究の取り組みを圧倒するという課題を浮き彫りにしています。

AIの安全性と倫理 • TechCrunch AI

独立した研究者が、Tencentのインフラストラクチャ上で実行されているAI「エージェント艦隊」を発見しました。これは、Alibabaの地図サービス「Amap」を標的にしているように見えます。この群れは、調整されたAIエージェント活動の顕著な例を表しています。

AIの安全性と倫理 • TechCrunch AI

Fleuret AI • Pre-Seed

フランスのサイバーセキュリティ新興企業Fleuret AIは、エージェント型AIを使用したペネトレーションテストを自動化するプラットフォームを開発するため、プレシード資金調達ラウンドで400万ユーロを調達した。このラウンドはRAISE Venturesが主導した。

Ars Technicaは、エージェント間通信のためのModel Context Protocol（MCP）の構造的欠陥について報告しており、これにより悪意のあるプロンプトがエージェントから別のエージェントに拡散する可能性があります。この脆弱性は、Googleや他の企業のエージェントで露呈し、新しいプロトコルにおける信頼のギャップを浮き彫りにしています。

AI安全性 • Ars Technica AI