Skip to content

On Device Ki

Themen-Archiv • 2 Treffer

KI-generiert: Die Zusammenfassungen schreibt eine KI auf Grundlage der verlinkten Quellen. So nutzen wir KI

Zur Startseite • GEO summary endpoint

2026-11-11

Technologie

  • Huawei hat detailliert beschrieben, wie sein Kirin 9050-Chip ein Mixture-of-Experts-Modell mit 30 Milliarden Parametern auf einem Telefon ohne Internetverbindung ausführt, wobei jeweils etwa 2 Milliarden Parameter aktiviert werden. Der Da Vinci NPU des Chips nutzt Low-Bit-Quantisierung und koordiniert Speicher und Rechenleistung, um das Modell lokal auszuführen.

    Hardware • TechNode

    Direktlink

2026-11-13

Technologie

  • Edge0 hat Edge0-145B und Edge0-120B als Open Source veröffentlicht, zusammen mit einem einheitlichen Inferenz-Framework und Deployment-Tools. Das Unternehmen behauptet, Edge0-145B sei das weltweit erste quelloffene On-Device-KI-Modell mit 145 Milliarden Parametern, das Programmier-, Reasoning- und Agenten-Fähigkeiten, die mit Frontier-Cloud-Modellen konkurrieren, auf einen Personal Computer bringt.

    Modelle • Hacker News

    Direktlink