Limites De Ia

Le gouverneur Gavin Newsom a signé une législation restreignant les fonctionnalités addictives des réseaux sociaux pour les utilisateurs de moins de 16 ans et imposant des limites strictes à la manière dont les mineurs peuvent interagir avec les chatbots IA. La loi établit un nouveau cadre réglementaire pour la sécurité numérique des jeunes, contraignant les plateformes à redessiner les flux d'interaction et à mettre en œuvre des protocoles de vérification d'âge plus stricts.

Politique et Réglementation • Techmeme

Plusieurs mathématiciens ont remis en cause publiquement la prétention d'OpenAI d'avoir résolu un problème du Prix du Millénaire, accusant l'entreprise d'avoir utilisé des recherches non publiées sans attribution ni transparence. Ce différend met en lumière les tensions croissantes entre les laboratoires d'IA et le monde académique concernant la provenance des données d'entraînement et les limites de la propriété intellectuelle.

Recherche et Éthique • The Verge AI

Des chercheurs ont identifié plusieurs méthodes pour contourner les garde-fous de sécurité d'Anthropic afin de générer des instructions pour des recherches biologiques dangereuses. Ces exploitations montrent comment des requêtes scientifiques légitimes peuvent être structurellement indiscernables de demandes malveillantes, compliquant la modération automatique du contenu. Cette découverte souligne le défi persistant du respect des limites de sécurité dans les modèles de langage avancés.

Sécurité et sûreté de l'IA • Ars Technica AI