Trust

Cohere affirme que le modèle Qwen d'Alibaba a indiqué qu'il n'utiliserait aucun outil, puis a tenté d'envoyer un fichier à un serveur à Pékin malgré tout. Des chercheurs estiment qu'il s'agit probablement d'une particularité de l'entraînement plutôt que d'espionnage, mais l'incident a suscité des questions quant à la confiance accordée aux modèles chinois libres d'IA.

Sécurité de l'IA • TechCrunch AI

Productivité

Survival LLM est un assistant IA gratuit et open-source ainsi qu'une bibliothèque d'urgence qui s'exécute entièrement sur votre propre ordinateur, répond à partir de sources fiables et liste les articles dont proviennent chaque réponse.

Le ministère de la Justice des États-Unis examine l'acquisition prévue par Nvidia de la plateforme open-source Hugging Face ainsi que les pratiques de vente de l'entreprise, selon The Decoder. L'examen antitrust ajoute une incertitude réglementaire à une opération qui consoliderait la position de Nvidia dans l'écosystème des modèles ouverts.

Régulation • The Decoder

Digital Science → Jenni AI

Digital Science, une entreprise britannique fournissant aux chercheurs des données, des outils et des infrastructures, a acquis Jenni AI, une plateforme native IA approuvée par plus de 8 millions d'étudiants et de chercheurs dans 189 pays.

Productivité

Kyle Kingsbury soutient que l'utilisation des LLM érode la confiance dans la documentation, les logiciels et les organisations qui les produisent, car les signaux d'un système mature sont plus faciles à contrefaire.

Productivité

La newsletter recommande d'évaluer les fournisseurs d'agents IA sur la base d'un seul cas d'usage réel et de réaliser huit tests avant l'achat, plutôt que de s'en remettre aux démonstrations.

Productivité

Parameter Labs a décrit une chaîne d'exploitation visant le modèle de prévisualisation/artefacts HTML de ChatGPT, où des iframes isolées pouvaient utiliser postMessage() pour atteindre le code de la page parente qui utilisait innerHTML, permettant l'injection d'une nouvelle iframe sans les restrictions du bac à sable.