Llm Efficiency
トピックアーカイブ • 1 件
AI生成:要約はリンク先の情報源をもとにAIが作成しています。 AIの利用について
2026-11-21
テクノロジー
Nvidiaの研究者たちは、大きなコンテキストウィンドウはしばしば不要であり、遅く、高価で、エラーが発生しやすいと主張している。テストでは、周期的な要約とターゲットキーワード検索が、通常、コストの大幅な削減でフルコンテキストの結果と同等のものとなった。チームは、長いコンテキストの代わりに短いノートで動作する新しいクラスのモデルを提案している。
研究 • The Decoder
パーマリンク