Cache Kv
주제 아카이브 • 1 건
AI 생성: 요약은 링크된 출처를 바탕으로 AI가 작성했습니다. AI 활용 방식
2026-10-27
기술
Rock Matrix는 HKUST 및 CMU와 함께 Qwen3.5-4B를 기반으로 구축한 EdgeRock-4B를 오픈소스로 공개했다. 회사 측에 따르면, 이 모델은 256K 컨텍스트에서 8 GiB에서 72 MiB로 줄어든 고정 KV 캐시를 유지하며, 추론 점수의 대부분을 유지하면서 6.42배의 처리량을 제공한다.
AI 모델 • Pandaily
퍼머링크