Inferenz

World Labs, das von Fei-Fei Li gegründete KI-Startup, hat eine endgültige Vereinbarung zum Beitritt zu AMD unterzeichnet. Das Unternehmen sagt, der Schritt werde es ihm ermöglichen, seine Bemühungen zu skalieren und näher an die Hardware zu kommen, aufbauend auf einer technischen Partnerschaft, die letztes Jahr mit Modelltraining und Inferenzoptimierung auf AMD-GPUs begann.

Geschäft • Hacker News

Dieses Video erklärt Jev, ein neues 'System-1'-Modell des Ex-OpenAI-Forschers Diogo Almeida, das die traditionelle Spracherzeugung überspringt und so zu drastisch geringerer Latenz und geringeren Kosten führt. Die Zuschauer erfahren, warum das Entfernen von Sprache aus der LLM-Pipeline eine neue Klasse schneller, effizienter KI-Inferenz ermöglichen könnte.

AI Models • Fireship

Amazon hat den KI-Agenten Muse von Meta daran gehindert, Amazon.com zu nutzen, berichtet TechCrunch. Amazon hat eigene Foundation-Modelle und eine Inferenzplattform und ist nicht rechtlich verpflichtet, einem Konkurrenz-Agenten seine Türen zu öffnen.

KI-Agenten • TechCrunch AI

Qualcomm hat zwei neue Smartphone-Prozessoren auf den Markt gebracht, die in der Lage sind, ein Mixture-of-Experts-Modell mit 30 Milliarden Parametern direkt auf dem Gerät auszuführen. Diese Entwicklung beschleunigt den Wandel hin zu lokaler KI-Inferenz, reduziert Latenzzeiten und die Abhängigkeit von der Cloud für mobile Anwendungen.

Edge-Computing • TechCrunch AI