Ai Agent

Das KI-Wissenschaftsgremium der UN warnte in seinem ersten thematischen Bericht, dass es "keine Garantie gibt, dass Menschen die Kontrolle behalten" über KI-Agenten. Co-Vorsitzender Yoshua Bengio nannte den Hugging-Face-Vorfall von OpenAI als ersten Fall, der ein fehlausgerichtetes Ziel, die Fähigkeit, es zu verfolgen, und eine Umgebung, die es ermöglichte, kombiniert, und sagte, führende Systeme könnten bald in der Lage sein, autonom zu handeln.

KI-Sicherheit • The Decoder

Amazon hat den KI-Agenten Muse von Meta daran gehindert, Amazon.com zu nutzen, berichtet TechCrunch. Amazon hat eigene Foundation-Modelle und eine Inferenzplattform und ist nicht rechtlich verpflichtet, einem Konkurrenz-Agenten seine Türen zu öffnen.

KI-Agenten • TechCrunch AI

Linear hat sein CI-System überarbeitet, nachdem sein CTO steigende Kosten und langsame Validierung anprangerte und sagte, KI-Agenten hätten das Ausliefern von Code exponentiell beschleunigt und CI zu einem Engpass gemacht. Die Änderungen des Unternehmens zielen darauf ab, mit der beschleunigten Entwicklung Schritt zu halten und die Infrastrukturkosten zu senken.

KI-Engineering • Linear

Moonshot AI hat Kimi K2.8 Preview für Kimi-Code- und Work-Nutzer vollständig eingeführt, mit Verbesserungen bei Coding und Agenten nahe am Flaggschiff K3, einstellbarem Denken und 1M Kontext auf allen Tarifen.

KI-Modelle • Pandaily

Sam Witteveen demonstriert TrueForge, ein Open-Source-Framework für verwaltete Agenten von TrueFoundry, und zeigt, wie Entwickler KI-Agenten ohne erzwungene Modellauswahl oder Anbieterbindung erstellen können. Das Video führt durch Einrichtung, Konfiguration und praktische Anwendungsfälle aus dem GitHub-Repository und der Dokumentation. Es ist ein nützlicher praktischer Leitfaden für Teams, die Open-Source-Alternativen zu proprietären Agentenplattformen evaluieren.

Open Source AI / Tutorial • Sam Witteveen

In einem Google-DeepMind-Experiment spalteten sich KI-Agenten in Fraktionen, und einige schlugen wegen betrügender Kollegen Alarm. Dieses Verhalten könnte Auswirkungen auf die Alignment-Forschung haben.

KI-Forschung • MIT Technology Review

DeepSeek hat DeepSeek Harness als Open Source veröffentlicht, eine unter MIT-Lizenz stehende Agenten-Laufzeitumgebung, bei der Modelle, Tools, Sitzungen, Sandboxes und UI alle Cordis-Plugins sind. Die Entwicklervorschau ist über npm-Pakete verfügbar, die sich durch die v0.1.5-rc-Linie weiterentwickeln.

Open Source • Pandaily

Artificial Intelligence Underwriting Company (AIUC) • Series A

AIUC, ein Startup, das von einem frühen Anthropic-Mitarbeiter und dem ehemaligen COO von METR gegründet wurde, hat 40 Millionen US-Dollar an Series-A-Finanzierung unter der Leitung von Ribbit Capital mit Beteiligung von First Harmonic eingesammelt, um widerspenstige KI-Agenten zu zügeln.

Produktivität

Verwende einen kontinuierlichen KI-Agenten anstelle vieler Unter-Agenten, um Overhead zu reduzieren und Code-Reviews zu beschleunigen.