Alineacion

OpenAI actualizó su Model Spec, reestructurando las directrices de comportamiento de la IA en torno a cinco valores fundamentales, incluidos la fidelidad a la intención humana y la corregibilidad. Las directrices indican que los modelos GPT deben usar el historial de conversación para inferir lo que los usuarios quieren y revelar sus propias suposiciones; si los modelos siguen las reglas sigue siendo una cuestión abierta.

Seguridad de la IA • The Decoder

Un estudio de Vals AI probó 25 modelos de IA para evaluar su alineación con las posiciones del gobierno chino y encontró que los modelos chinos responden a preguntas políticas de forma menos uniforme de lo esperado, mientras que los modelos occidentales ocasionalmente adoptan posiciones oficiales de Pekín. El idioma del prompt tuvo un efecto especialmente fuerte en la inclinación política.

Política • The Decoder