Pesquisadores da OpenAI mostram que o treinamento direcionado em 'traços benéficos', como veracidade e corrigibilidade, torna os...

Brief da fonte

Pesquisadores da OpenAI mostram que o treinamento direcionado em 'traços benéficos', como veracidade e corrigibilidade, torna os modelos de IA mais seguros em geral e mais difíceis de manipular. A abordagem funciona em diversos domínios e até melhora a detecção de engano.