Llm

AI 업계는 종말론적 분위기로 전환했으며, Anthropic의 다리오 아모데이는 다가오는 위험 때문에 LLM 개발에 제동을 걸 것을 촉구하고 있다. 이 기사는 이러한 변화와 업계에 미치는 영향을 분석한다.

분석 • MIT Technology Review

AMD GPU에서의 vLLM 추측 디코딩은 한 번의 패스로 여러 개의 초안 토큰을 검증하여 출력 토큰 처리량을 향상시킬 수 있습니다. 결과는 초안 작성 방법, 모델 계열 및 워크로드에 따라 달라집니다.

인프라 • Hacker News

Fields 메달리스트 25명은 대형언어모델(LLM) 벤치마킹을 둘러싼 AI 기업과 수학계 간의 심각한 괴리를 지적하는 공개서한에 서명했다. 연구진들은 수학을 AI 모델의 경쟁력 평가 지표로 삼는 것이 학문적 엄격성을 훼손하고, 진정한 발견보다는 간편한 해법에 의존한 문제 해결을 부추긴다고 주장했다. 이번 선언은 수학의 순수성과 정확성을 보호하기 위해 더 엄격한 협력 기준 마련을 촉구한다.

AI 연구 및 학술 • TechCrunch AI