Llm

L'industrie de l'IA a pris un tournant « doomer », Dario Amodei d'Anthropic appelant à freiner le développement des LLM en raison de dangers imminents. L'article analyse ce changement et ses implications pour le domaine.

Analysis • MIT Technology Review

Le décodage spéculatif de vLLM sur les GPU AMD peut vérifier plusieurs jetons proposés en un seul passage, améliorant le débit de jetons en sortie. Les résultats varient selon la méthode de proposition, la famille de modèles et la charge de travail.

Infrastructure • Hacker News

Vingt-cinq lauréats de la médaille Fields ont signé une lettre ouverte déclarant un grave désalignement entre les entreprises d'IA et la communauté mathématique concernant l'évaluation des LLM. Les chercheurs soutiennent que traiter les mathématiques comme une métrique de score compétitive pour les modèles d'IA érode la rigueur académique et incite à la résolution de problèmes par raccourcis plutôt qu'à la découverte véritable. La déclaration appelle à des normes de collaboration plus strictes pour protéger l'intégrité mathématique.

Recherche et milieu universitaire de l'IA • TechCrunch AI