Course A L Ia

Un chercheur senior en sécurité chez Anthropic a démissionné, mettant en garde contre le fait qu'une IA auto-améliorante pourrait « nous tuer tous », tandis qu'un collègue évaluait à plus de 10 % les chances que l'IA élimine l'humanité d'ici la fin de la décennie. Ces mises en garde soulignent les préoccupations internes croissantes concernant la course à la création de systèmes surhumains.

Sécurité IA • Ars Technica AI

Geoffrey Hinton aborde les avertissements récents du lanceur d'alerte d'Anthropic et indique qu'un risque existentiel de 10 % lié à l'IA dans les dix prochaines années n'est « pas déraisonnable ». L'interview explique pourquoi les principaux chercheurs en IA s'inquiètent de la course à la mise au point de systèmes surintelligents et quelles mesures pourraient être prises pour atténuer ces risques.

AI Safety • BBC Politics

Un chercheur d'Anthropic a démissionné cette semaine, alertant sur la course de l'entreprise vers une superintelligence auto-améliorante tout en prenant des risques avec la sécurité humaine. Cet avertissement a été cosigné par le responsable de l'alignement d'Anthropic lui-même, au lieu d'être rejeté, et tombe alors que l'entreprise se prépare à une éventuelle introduction en bourse. Cette dissidence interne souligne les tensions grandissantes entre la montée en puissance rapide des capacités et les protocoles de sécurité rigoureux dans le secteur.

Sécurité et alignement de l'IA • TechCrunch AI