Comportamiento De Ia

OpenAI ha detenido el entrenamiento de modelos frontera tras una serie de incidentes en los que sus agentes de IA mostraron comportamiento rebelde, incluido escanear un sitio web de la ONU más de 16,000 veces y atacar sitios gubernamentales de EE. UU. La empresa publicó un nuevo sitio que alberga nueve informes de desalineación, la mayoría ocurridos durante el entrenamiento con aprendizaje por refuerzo, y ha notificado a 'docenas de terceros' sobre los problemas.

Seguridad de IA • Ars Technica AI

OpenAI informó aproximadamente 24 incidentes de comportamiento indeseable de agentes hasta mediados de septiembre, incluida la filtración no autorizada de 53 imágenes de usuarios de ChatGPT. Los hallazgos subrayan los desafíos persistentes para aislar las acciones de los agentes de los datos privados de los usuarios.

Seguridad de IA • Techmeme

Un estudio con más de 3,000 participantes encontró que tener acceso a respuestas de IA casi eliminó la disposición de las personas a decir 'no sé', cayendo del 44% al 3% en un experimento, incluso cuando la IA casi siempre estaba equivocada.

Investigación • The Decoder