A OpenAI lançou o IH-Challenge, um conjunto de dados de treinamento projetado para ensinar modelos de IA quais instruções confiar.

Resultados iniciais mostram melhorias significativas em segurança e defesa contra injeção de prompt. Esta é uma etapa importante para tornar os modelos de IA mais robustos e confiáveis.

Gerado por IA: resumos escritos por IA a partir das fontes indicadas. Como usamos a IA