Inference

Cette vidéo explique Jev, un nouveau modèle « System 1 » de l'ancien chercheur d'OpenAI Diogo Almeida qui contourne la génération de langage traditionnelle pour une latence et un coût considérablement réduits. Les spectateurs apprennent pourquoi la suppression du langage du pipeline LLM pourrait permettre une nouvelle classe d'inférence IA rapide et efficace.

AI Models • Fireship

Amazon a bloqué l'agent d'IA Muse de Meta pour utiliser Amazon.com, rapporte TechCrunch. Amazon a ses propres modèles de fondation et plateforme d'inférence, et n'est sous aucune obligation légale d'ouvrir ses portes à l'agent d'un concurrent.

Agents d'IA • TechCrunch AI

Qualcomm a lancé deux nouveaux processeurs pour smartphones capables d'exécuter un modèle mixture-of-experts de 30 milliards de paramètres directement sur l'appareil. Ce développement accélère la transition vers l'inférence IA locale, réduisant la latence et la dépendance au cloud pour les applications mobiles.

Edge Computing • TechCrunch AI