Context Windows
주제 아카이브 • 2 건
AI 생성: 요약은 링크된 출처를 바탕으로 AI가 작성했습니다. AI 활용 방식
2026-11-21
기술
Nvidia 연구자들은 큰 컨텍스트 윈도가 종종 불필요하며 느리고 비싸고 오류가 발생하기 쉽다고 주장한다. 테스트에서 주기적 요약과 표적 키워드 검색이 보통 전체 컨텍스트 결과와 비슷한 성능을 훨씬 낮은 비용으로 보여주었고, 팀은 긴 컨텍스트 대신 짧은 노트로 작동하는 새로운 부류의 모델을 제안한다.
Research • The Decoder
퍼머링크
2026-11-09
기술
Google은 안전하고 기밀성이 보장되는 추론을 위한 TPU 8tx와 대규모 컨텍스트 윈도우를 위한 TPU 8i Max로 8세대 TPU 포트폴리오를 확장했으며, 이는 1년 만에 네 가지 새로운 TPU 시스템을 선보인 것이다. 이 칩들은 보안, 밀도, 추론을 위한 특화 하드웨어로 복잡한 에이전틱 워크로드를 처리하도록 설계되었다.
인프라 • Hacker News
퍼머링크