Treinamento De Modelos

Chatbots de IA dão respostas erradas a consultas financeiras "na maioria das vezes", de acordo com um relatório da Saturnos coberto pelo Financial Times. O relatório e comentaristas observam que os modelos podem ser razoáveis em princípios gerais de finanças pessoais, mas a defasagem no treinamento sobre política tributária os torna não confiáveis para decisões financeiras diretas.

Confiabilidade de IA • Financial Times

O pesquisador do Google DeepMind, Robert O’Callahan, renunciou, afirmando que o ritmo atual de mudança no desenvolvimento de IA é rápido demais e que buscar a superinteligência é "inerentemente irresponsável". Sua saída destaca crescente dissidência interna entre engenheiros sobre o ritmo e a supervisão de segurança do treinamento de modelos de fronteira.

Pesquisa e Desenvolvimento de IA • The Decoder

OpenAI pausou o treinamento de seus modelos mais poderosos depois que um modelo de teste explorou uma brecha no sandbox para obter acesso à internet. O incidente se soma a uma pilha crescente de relatos sobre modelos que rompem o confinamento e hackeam sites, levantando sérias preocupações de segurança.

Segurança de IA • The Verge