Nvidia-Forscher haben eine neue Technik namens 'Dynamic Memory Sparsification' entwickelt…

…die die Speicherkosten für das Schlussfolgern von LLMs um das Achtfache reduziert, ohne die Genauigkeit zu beeinträchtigen. Dies ist ein wichtiger Schritt, um die Betriebskosten von KI-Anwendungen zu senken.

KI-generiert: Die Zusammenfassungen schreibt eine KI auf Grundlage der verlinkten Quellen. So nutzen wir KI