Skip to content

Context Windows

주제 아카이브 • 2 건

AI 생성: 요약은 링크된 출처를 바탕으로 AI가 작성했습니다. AI 활용 방식

홈으로 돌아가기 • GEO summary endpoint

2026-11-21

기술

  • Nvidia 연구자들은 큰 컨텍스트 윈도가 종종 불필요하며 느리고 비싸고 오류가 발생하기 쉽다고 주장한다. 테스트에서 주기적 요약과 표적 키워드 검색이 보통 전체 컨텍스트 결과와 비슷한 성능을 훨씬 낮은 비용으로 보여주었고, 팀은 긴 컨텍스트 대신 짧은 노트로 작동하는 새로운 부류의 모델을 제안한다.

    Research • The Decoder

    퍼머링크

2026-11-09

기술

  • Google은 안전하고 기밀성이 보장되는 추론을 위한 TPU 8tx와 대규모 컨텍스트 윈도우를 위한 TPU 8i Max로 8세대 TPU 포트폴리오를 확장했으며, 이는 1년 만에 네 가지 새로운 TPU 시스템을 선보인 것이다. 이 칩들은 보안, 밀도, 추론을 위한 특화 하드웨어로 복잡한 에이전틱 워크로드를 처리하도록 설계되었다.

    인프라 • Hacker News

    퍼머링크