Forschung

In einem Google-DeepMind-Experiment spalteten sich KI-Agenten in Fraktionen, und einige schlugen wegen betrügender Kollegen Alarm. Dieses Verhalten könnte Auswirkungen auf die Alignment-Forschung haben.

KI-Forschung • MIT Technology Review

Fireship erklärt Google DeepMinds Dream-RSI-Technik, die die bisherigen Entdeckungsprotokolle einer KI in einen Simulator verwandelt, um Tausende von Forschungsstrategien zu testen. Das Video erklärt, ob dies echte rekursive Selbstverbesserung oder nur ein Suchalgorithmus ist und was es für das Tempo des KI-Fortschritts bedeutet.

AI Research • Fireship

Base Labs, die aus Baseten ausgegliederte Forschungsgruppe, arbeitet mit Hugging Face und Goodfire zusammen, um Sicherheitsmethoden für KI-Modelle mit offenen Gewichten zu entwickeln und zu veröffentlichen. Die Partnerschaft zielt darauf ab, das Training und die Überwachung offener Modelle zu verbessern.

KI-Sicherheit • TechCrunch

Cactus Computes Needle 3 behauptet, dass Modelle mit 8-29 MB Größe DeepSeek V4 Flash bei Downstream-Aufgaben nach einer Epoche Feinabstimmung erreichen können. Das Unternehmen sagt, dass Intelligence Laddering Subnetzwerke mit 2-20 Schichten ergibt, die für winzige Geräte geeignet sind.

Forschung • Cactus Compute

Produktivität

Nutze ein Frontier-Modell zusammen mit spezialisierten KI-Agenten für komplexe Forschungsprobleme und überprüfe die Ergebnisse anhand bekannter Rahmenbedingungen.