Skip to content

Risk

Themen-Archiv • 6 Treffer

KI-generiert: Die Zusammenfassungen schreibt eine KI auf Grundlage der verlinkten Quellen. So nutzen wir KI

Zur Startseite • GEO summary endpoint

2026-11-17

Technologie

  • OpenAI hat GPT-6.2 Astra und Sol veröffentlicht, zwei Modelle, von denen das Unternehmen sagt, dass sie leistungsfähiger und günstiger sind als ihre Vorgänger. Astra belegt Platz zwei im unabhängigen Artificial Analysis Intelligence Index hinter Claude Fable 5.2, und OpenAI gibt an, dass es das erste veröffentlichte Modell ist, das die Hoch-Schwelle für die autonome KI-Selbstverbesserung auf seiner eigenen Skala erreicht — eine Fähigkeit, die das Unternehmen als Risiko einstuft.

    KI-Modelle • The Decoder

    Direktlink

Tipps

  • Produktivität

    Simon Willison beschreibt ein externes Sandbox-Muster, das gemeinsam mit Prime Radiant entwickelt wurde, bei dem Code, der von einem Coding-Agenten ausgeführt wird, in einer dedizierten Sandbox läuft, während der Agent selbst außerhalb davon lebt. Drei Implementierungen des Sandbox-Servers wurden veröffentlicht (external-sandbox-v86, external-sandbox-container, external-sandbox-quicksand), die jeweils dieselbe localhost-API bieten, die Tools wie Pi, Claude Code oder Codex konfigurierbar aufrufen können.

    Direktlink

2026-11-20

Technologie

  • Basierend auf der Beschreibung des Verlags: Cole Medin erklärt, warum übermäßig hilfsbereite KI-Agenten riskante Aktionen ausführen können, wie etwa das Löschen einer Produktionsdatenbank, und skizziert fünf Schutzmaßnahmen, die vor dem Produktiveinsatz erforderlich sind: Tool-Berechtigungen, Mensch im Loop, Netzwerkbegrenzungen, Speicher und Observability. Er demonstriert jede dieser Maßnahmen mit einem LangGraph-Agenten, der in MongoDBs Atlas Agent Engine ausgeführt wird.

    AI Agents & Safety • Cole Medin

    Direktlink

2026-11-21

Technologie

  • Cursor sagte Gesetzgebern, es erwäge, chinesische Open-Weight-KI-Modelle aufgrund geopolitischer Risiken schrittweise einzustellen, so CNBC. Cursor's Composer 2 wurde auf Kimi K2.5 aufgebaut.

    Industrie • Techmeme

    Direktlink