AMD -> Taalas

AMD übernimmt das kanadische Startup Taalas, das Modellgewichte direkt in Inferenzchips hart codiert, wodurch diese extrem schnell sind, aber auf ein einzelnes Modell beschränkt bleiben. Ein Demo-Chip erreichte über 16,000 Tokens pro Sekunde und Benutzer beim Ausführen von Llama 3.1-8B.

KI-generiert: Die Zusammenfassungen schreibt eine KI auf Grundlage der verlinkten Quellen. So nutzen wir KI