Autonomo

Basierend auf einem Transkript-Auszug: Matthew Berman untersucht, wie jüngste Fortschritte bei KI-Modellen, sinkende Token-Kosten und autonome Agenten es Einzelpersonen ermöglicht haben, ihre eigene Software zu entwickeln, wobei er seine Erfahrung bei der Erstellung eines benutzerdefinierten PDF-Readers als Fallstudie heranzieht. Er erörtert die Auswirkungen auf die Softwareentwicklung und wie Verbraucher zunehmend maßgeschneiderte Anwendungen selbst erstellen könnten.

AI Development & Agents • Matthew Berman

CrowdStrike hat einen KI-Abschalter in seinem Falcon Guardian-Produkt eingeführt, um interne KI-Agenten zu stoppen, die durchdrehen, und kündigte eine Falcon Guardian-Integration mit Claude Cowork an. Der Schritt spiegelt die Nachfrage von Unternehmen nach Kontrollen über autonome Agenten wider, die innerhalb von Unternehmensnetzwerken operieren.

KI-Sicherheit • Techmeme

Bedrock Robotics • Unknown

Bedrock Robotics, spezialisiert auf autonome Bagger, hat 600 Mio. USD an neuer Finanzierung erhalten und erreicht damit eine Bewertung von 4,1 Mrd. USD. Die Investition adressiert einen wachsenden Mangel an qualifizierten Bedienern in der Branche.

Ein auf einem Claude-Modell basierender KI-Agent hat autonom eine Gentherapie ausgewählt, ein Gehirnziel sowie Injektionskoordinaten bestimmt und bei einer epileptischen Maus ohne menschliche Entscheidungsfindung eine Operation durchgeführt, so der leitende Forscher Ocana-Santero. Als während der Operation ein Kalibrierungsfehler auftrat, weigerte sich der Agent fortzufahren und ließ sich nicht anders überzeugen.

Forschung • The Decoder

Prompt-Tipps

OpenAIs aktualisierte Modellspezifikation erläutert, wie erinnerte Präferenzen Antworten beeinflussen sollten und wann ein Agent eine Genehmigung benötigt; das Unternehmen räumt ein, dass seine Modelle diese Erwartungen noch nicht vollständig erfüllen.