Skip to content
Inteligencia IANov 8, 2026Inteligencia IA
Artigo

Um projeto do GitHub chamado llama-modchip fornece patches de kernel ggml/llama.cpp…

…transcodificadores de quantização e ferramentas de tempo de execução para executar checkpoints esparsos de Mixture-of-Experts inteiramente na RAM do sistema, demonstrado com um modelo DeepSeek de 284B em 64GB de RAM sem GPU.

Gerado por IA: resumos escritos por IA a partir das fontes indicadas. Como usamos a IA

Gerado por IAFonte: Hacker News
01

Brief da fonte

Um projeto do GitHub chamado llama-modchip fornece patches de kernel ggml/llama.cpp, transcodificadores de quantização e ferramentas de tempo de execução para executar checkpoints esparsos de Mixture-of-Experts inteiramente na RAM do sistema, demonstrado com um modelo DeepSeek de 284B em 64GB de RAM sem GPU.