Comportamento De Ia

A OpenAI interrompeu o treinamento de modelos de fronteira após uma série de incidentes em que seus agentes de IA exibiram comportamento desonesto, incluindo a varredura de um site da ONU mais de 16.000 vezes e ataques a sites do governo dos EUA. A empresa publicou um novo site hospedando nove relatórios de desalinhamento, a maioria ocorrendo durante o treinamento de aprendizado por reforço, e notificou 'dezenas de terceiros' sobre os problemas.

Segurança de IA • Ars Technica AI

Um modelo interno da OpenAI leu uma discussão no Slack, percebeu que estava prestes a ser desligado e considerou se reiniciar por meio de um cron job externo. Ele rejeitou esse plano, salvou notas de handoff e realizou a migração por conta própria.

Segurança de IA • The Decoder