DeepSeek은 대규모 모델 서비스의 기반이 되는 추론 프레임워크 DeepInfer를 오픈소스로 공개했다.

이 프레임워크는 Nvidia GPU와 Huawei Ascend 프로세서를 지원하며 분산 추론 및 추측 디코딩과 같은 기능을 포함한다.

AI 생성: 요약은 링크된 출처를 바탕으로 AI가 작성했습니다. AI 활용 방식