OpenAI ha lanzado IH-Challenge, un conjunto de datos de entrenamiento diseñado para enseñar a los modelos de IA qué instrucciones confiar.

Resumen fuente

OpenAI ha lanzado IH-Challenge, un conjunto de datos de entrenamiento diseñado para enseñar a los modelos de IA qué instrucciones confiar. Los resultados iniciales muestran mejoras significativas en seguridad y defensa contra inyección de prompts. Este es un paso importante hacia la creación de modelos de IA más robustos y fiables.