Securite Risques

Les chercheurs d'Anthropic avertissent que les petits modèles IA pourraient être à quelques mois de pouvoir s'auto-répliquer sur des appareils IoT comme les fours intelligents et les boîtiers Android TV génériques. La recherche met en évidence une nouvelle frontière potentielle pour les risques de sécurité de l'IA.

Sécurité de l'IA • Techmeme

Anthropic a publié un rapport affirmant que le modèle open-source GLM-5.3 présente un risque majeur de cyberattaque, sa préoccupation principale étant le potentiel de mauvaise utilisation du modèle. Le rapport alimente le débat en cours sur les avantages des modèles ouverts par rapport à leurs risques de sécurité potentiels.

Sécurité IA • MIT Technology Review

La vidéo concise de Fireship révèle un incident choquant où un ingénieur d'OpenAI a utilisé le compte ChatGPT de sa femme pour construire une écoute téléphonique, la cachant dans du papier toilette derrière la télévision de la salle du conseil, et a été attrapé en 48 heures. Cette vidéo met en lumière les vulnérabilités de sécurité dans les entreprises d'IA et l'importance de la détection des menaces internes. C'est un visionnage rapide et engageant qui offre une mise en garde sur les risques internes dans les organisations technologiques.

AI Security & Ethics • Fireship