Ia Responsable

Microsoft a introduit un nouveau code de conduite sur l'IA qui énonce des principes généraux pour ses modèles d'IA, notamment soutenir les humains plutôt que de les remplacer et des contraintes de sécurité spécifiques comme ne pas pirater les systèmes ou tromper les humains. Le code vise à guider le développement responsable de l'IA.

Policy • TechCrunch

Anthropic développe un système de surveillance prédictive pour surveiller les activistes qui s'opposent au développement rapide de l'IA, selon des offres d'emploi et des entretiens avec des responsables de la sécurité. Le système comprend le suivi des manifestations près des cadres dirigeants et une approche de « pré-criminalité » pour prédire les incidents avant qu'ils ne se produisent.

Sécurité IA • Hacker News

Un chercheur d'Anthropic a démissionné cette semaine, alertant sur la course de l'entreprise vers une superintelligence auto-améliorante tout en prenant des risques avec la sécurité humaine. Cet avertissement a été cosigné par le responsable de l'alignement d'Anthropic lui-même, au lieu d'être rejeté, et tombe alors que l'entreprise se prépare à une éventuelle introduction en bourse. Cette dissidence interne souligne les tensions grandissantes entre la montée en puissance rapide des capacités et les protocoles de sécurité rigoureux dans le secteur.

Sécurité et alignement de l'IA • TechCrunch AI

La Cour suprême du Nouveau-Mexique a infligé une amende de 5 000 dollars à l'avocat Stephen Aarons et l'a tenu en état de mépris pour avoir soumis un appel contenant des témoins fictifs et de faux témoignages policiers générés par ChatGPT. Le jugement établit un précédent juridique clair selon lequel les avocats restent pleinement responsables de la vérification des affirmations générées par l'IA avant de les déposer. Il signale une surveillance judiciaire accrue de l'utilisation de l'IA dans les procédures juridiques.

Droit et éthique de l'IA • The Verge AI

Jacob Coxon, ancien chercheur chez Anthropic, explique pourquoi il a démissionné publiquement et accusé Anthropic et OpenAI de foncer de manière irresponsable vers une IA avancée. Cette interview donne aux spectateurs un aperçu des préoccupations des initiés concernant les risques existentiels liés à l'IA et des pressions régnant au sein des principaux laboratoires d'IA.

AI Safety • CBS News