Unslothは、LLM用の新しい量子化方法であるDynamic 2.0をリリースしました。

これは既存の主要な方法を上回り、高い精度で量子化モデルを実行および微調整することが可能です。これらのモデルはllama.cppのような人気のある推論エンジンと互換性があります。

AI生成：要約はリンク先の情報源をもとにAIが作成しています。 AIの利用について