Snowflake는 Cortex AI Gateway를 통해 동적 모델 라우팅을 도입하여 작업 복잡성에 따라 가장 비용 효율적인 모델로 쿼리를 자동으로 전송합니다.

출처 브리프

Snowflake는 Cortex AI Gateway를 통해 동적 모델 라우팅을 도입하여 작업 복잡성에 따라 가장 비용 효율적인 모델로 쿼리를 자동으로 전송합니다. 초기 도입자들은 일관된 출력 품질을 유지하면서 추론 비용을 최대 3배 절감했다고 보고합니다. 이 기능은 고정 모델 배포가 사소한 요청에 예산을 낭비하거나 복잡한 추론을 위한 용량이 부족한 일반적인 엔터프라이즈 문제를 해결합니다.