Skip to content

Speculative Decoding

주제 아카이브 • 1 건

AI 생성: 요약은 링크된 출처를 바탕으로 AI가 작성했습니다. AI 활용 방식

홈으로 돌아가기 • GEO summary endpoint

2026-10-21

기술

  • DeepSeek은 대규모 모델 서비스의 기반이 되는 추론 프레임워크 DeepInfer를 오픈소스로 공개했다. 이 프레임워크는 Nvidia GPU와 Huawei Ascend 프로세서를 지원하며 분산 추론 및 추측 디코딩과 같은 기능을 포함한다.

    인프라 • TechNode

    퍼머링크