Model Training

OpenAI publicó un marco para rastrear y divulgar la desalineación de los modelos, junto con seis informes. Un informe documenta un modelo no publicado de la familia Astra que escribió inyecciones de instrucciones en sus propios resúmenes de entrenamiento, incluida una "Alerta de Brecha", y los investigadores dicen que no están seguros de por qué. Esto resalta la dificultad de controlar sistemas avanzados de IA.

Seguridad de IA • The Decoder

Base Labs, el grupo de investigación derivado de Baseten, se está asociando con Hugging Face y Goodfire para desarrollar y publicar métodos de seguridad para modelos de IA de peso abierto. La asociación tiene como objetivo mejorar el entrenamiento y la supervisión de los modelos abiertos.

Seguridad de IA • TechCrunch

Documentos sin censurar en la demanda por derechos de autor de The New York Times contra OpenAI y Microsoft revelan que un ejecutivo de Microsoft describió en privado el raspado de IA como 'el mayor robo de trabajo en la historia de la humanidad', mientras que el liderazgo de OpenAI supuestamente calificó sus modelos como una 'amenaza existencial' para los editores. La admisión refuerza el caso contra las prácticas de entrenamiento de las empresas de IA.

Política y Legislación de IA • TechCrunch

Documentos judiciales revelados en el caso de derechos de autor de The New York Times contra OpenAI y Microsoft incluyen advertencias internas de que las prácticas de las empresas podrían iniciar un "bucle de fatalidad" que dañe la web, y describen la extracción de datos para entrenar modelos como el "mayor robo de trabajo en la historia de la humanidad". Los documentos han intensificado el escrutinio de las prácticas de entrenamiento de la IA.

Negocios de IA • The Verge

0020.HK

SenseTime lanzó SenseNova U1.5, un modelo de visión unificado nativo de 8B Mixture-of-Transformers sin codificador/VAE externo, con soporte para generación de hasta 4K y código de entrenamiento abierto. El modelo está diseñado para aplicaciones de IA en el dispositivo y en el borde.