Un chercheur d'Anthropic a démissionné cette semaine, avertissant que l'entreprise fonce vers une superintelligence auto-améliorée...
Tout en jouant avec la sécurité humaine. L'avertissement a été cosigné par le responsable de l'alignement d'Anthropic lui-même plutôt que rejeté, intervenant au moment où l'entreprise se prépare à une éventuelle introduction en bourse. Cette dissension interne met en évidence les tensions croissantes entre l'augmentation rapide des capacités et les protocoles de sécurité rigoureux dans le secteur.
Brief source
Un chercheur d'Anthropic a démissionné cette semaine, avertissant que l'entreprise fonce vers une superintelligence auto-améliorée tout en jouant avec la sécurité humaine. L'avertissement a été cosigné par le responsable de l'alignement d'Anthropic lui-même plutôt que rejeté, intervenant au moment où l'entreprise se prépare à une éventuelle introduction en bourse. Cette dissension interne met en évidence les tensions croissantes entre l'augmentation rapide des capacités et les protocoles de sécurité rigoureux dans le secteur.