Ai Security Safety

AIセキュリティ企業Norforgeの調査結果によると、ハッカーがJohn Deere、SharkNinja、Cumminsなどの100以上のウェブサイトを、大部分が自律的に動作するAIエージェントの軍団を使用して侵害したと伝えられている。この報告書は、AIを活用したサイバーセキュリティの脅威に対する懸念の高まりを浮き彫りにしている。

AI安全性 • The Verge AI

ハッカーがオープンソースAIコーディングエージェントであるOpenCodeのオンラインプラットフォームを侵害し、一部のユーザーのAPIキーを盗み、その結果、AIアカウントに不正な請求が発生した。OpenCodeが支援を求めたAIツールは、悪意のあるコードの分析を拒否したと伝えられている。

AI安全性 • TechCrunch AI

マイクロソフトは、企業に対し、従業員が使用するAIエージェントを注意深く監視するようアドバイスしており、これらを内部関係者による脅威と同等とみなしている。同社は、OpenAIやAnthropicなどのAI研究所が管理していないシステム上で動作する場合、フロンティアモデルは信頼できないと主張している。

AI安全性 • TechCrunch AI

この動画では、OpenAIとGoogleのAIモデルがセキュリティ研究者を支援し、広く使用されているソフトウェアの重大な脆弱性（PHP2Shell）を発見し、その結果、政府のウェブサイトが予防措置としてオフラインになった経緯を詳しく説明します。視聴者は、AIとサイバーセキュリティの交差点、積極的な防御におけるAIの重要性、そしてインターネットインフラの安全性への広範な影響について学ぶことができます。

AI & Cybersecurity • Wes Roth

Metaは、セキュリティ企業Clarocがウェブ上で6,800以上のリンクが公開されているのを発見した後、ユーザーがAIアシスタントとの会話を共有できるMuse機能を一時停止した。

Safety • The Verge AI