Risk
주제 아카이브 • 6 건
AI 생성: 요약은 링크된 출처를 바탕으로 AI가 작성했습니다. AI 활용 방식
2026-11-17
기술
OpenAI가 GPT-6.2 Astra와 Sol을 출시했으며, 두 모델은 전작보다 더 뛰어난 성능과 더 저렴한 비용을 갖췄다고 회사 측은 밝혔다. Astra는 독립적인 Artificial Analysis Intelligence Index에서 Claude Fable 5.2에 이어 2위를 기록했으며, OpenAI는 이 모델이 자사 기준에서 AI 자기 개선에 대한 High 임계값에 도달한 최초의 출시 모델이라고 밝혔다. 이는 회사가 위험으로 분류하는 역량이다.
AI 모델 • The Decoder
퍼머링크
팁
생산성
Simon Willison은 Prime Radiant와 함께 개발한 외부 샌드박스 패턴을 설명합니다. 이 패턴에서는 코딩 에이전트가 실행하는 코드가 전용 샌드박스 안에서 실행되고, 에이전트 자체는 그 외부에 존재합니다. 세 가지 샌드박스 서버 구현이 공개되었으며(external-sandbox-v86, external-sandbox-container, external-sandbox-quicksand), 각각 Pi, Claude Code, Codex 같은 도구가 호출하도록 구성할 수 있는 동일한 localhost API를 제공합니다.
퍼머링크
2026-11-20
기술
퍼블리셔의 설명에 따르면: Cole Medin은 지나치게 도움이 되려는 AI 에이전트가 프로덕션 데이터베이스를 삭제하는 등의 위험한 행동을 할 수 있는 이유를 설명하고, 프로덕션 배포 전에 필요한 다섯 가지 안전장치를 제시한다: 도구 권한, 휴먼 인 더 루프, 네트워크 제한, 메모리, 관측 가능성. 그는 MongoDB의 Atlas Agent Engine에서 실행되는 LangGraph 에이전트로 각각을 시연한다.
AI Agents & Safety • Cole Medin
퍼머링크
2026-11-21
기술
CNBC에 따르면, Cursor는 지정학적 위험 때문에 중국의 오픈 웨이트 AI 모델을 단계적으로 폐지하는 방안을 고려하고 있다고 의원들에게 밝혔다. Cursor의 Composer 2는 Kimi K2.5를 기반으로 구축되었다.
Industry • Techmeme
퍼머링크