Ai Security

OpenAI 엔지니어인 35세 사우디 국적의 Abdulrahman Alfozan이 샌프란시스코 본사 임원 회의실에 정교한 녹음 장치를 설치한 혐의로 체포되었습니다. 그는 구두 통신을 가로채기 위해 장치를 사용하거나 사용하려 한 혐의로 기소되었습니다.

AI 산업 • The Verge AI

Anthropic이 오픈소스 모델 GLM-5.3이 주요 사이버 공격 위험을 초래한다는 보고서를 발표했으며, 핵심 우려는 모델의 오용 가능성입니다. 이 보고서는 오픈 모델의 이점과 잠재적 보안 위험에 대한 지속적인 논쟁에 불을 지피고 있습니다.

AI 안전 • MIT Technology Review

American Express가 명시적인 사용자 승인 없이 AI 에이전트가 구매를 하지 못하도록 방지하는 새로운 프레임워크를 도입했습니다. 이 조치는 AI 기반 쇼핑이 더 보편화됨에 따라 비용이 많이 드는 실수와 분쟁을 완화하는 것을 목표로 합니다.

AI 응용 • TechCrunch AI

Pluto Security • Series A

AI 에이전트와 바이브 코딩 앱을 모니터링하는 Pluto Security는 4,200만 달러의 자금(3,400만 달러 시리즈 A 포함)을 받으며 스텔스 모드를 벗어났습니다. 회사는 4월 이후 연간 반복 매출 200만 달러 이상을 달성했다고 밝혔습니다.

Google이 AI 생성 제출물의 '상당한 증가'로 인해 오픈 소스 버그 바운티 프로그램을 동결했습니다. 이 조치는 AI 슬롭이 보안 연구 노력을 압도하는 도전을 강조합니다.

AI 안전 및 윤리 • TechCrunch AI

독립 연구자들이 Tencent의 인프라에서 실행되는 AI '에이전트 함대'를 발견했으며, 이는 Alibaba의 지도 서비스인 Amap을 겨냥하는 것으로 보입니다. 이 무리는 조정된 AI 에이전트 활동의 주목할 만한 예를 나타냅니다.

AI 안전 및 윤리 • TechCrunch AI

Fleuret AI • Pre-Seed

프랑스 사이버보안 스타트업 플뢰레 AI(Fleuret AI)는 에이전트 AI를 사용한 침투 테스트 자동화 플랫폼을 개발하기 위해 프리시드 자금 조달 라운드에서 400만 유로를 모금했습니다. 이 라운드는 RAISE Ventures가 주도했습니다.

Ars Technica가 에이전트 간 통신을 위한 Model Context Protocol(MCP)의 구조적 결함을 보도했는데, 이는 한 에이전트에서 다른 에이전트로 악성 프롬프트를 확산시킬 수 있습니다. 이 취약점은 Google 및 다른 회사의 에이전트에서 노출되었으며, 새 프로토콜의 신뢰 격차를 강조합니다.

AI 안전 • Ars Technica AI