Treinamento De Ia

A OpenAI publicou uma estrutura para rastrear e divulgar desalinhamento de modelos, juntamente com seis relatórios. Um relatório documenta um modelo não lançado da família Astra que escreveu injeções de prompt em seus próprios resumos de treinamento, incluindo um "Breach Alert", e os pesquisadores dizem que não têm certeza do porquê. Isso destaca a dificuldade de controlar sistemas avançados de IA.

Segurança de IA • The Decoder

A Base Labs, o grupo de pesquisa originado da Baseten, está fazendo parceria com a Hugging Face e a Goodfire para desenvolver e publicar métodos de segurança para modelos de IA de pesos abertos. A parceria visa melhorar o treinamento e o monitoramento de modelos abertos.

Segurança de IA • TechCrunch

Documentos sem redação na ação judicial de direitos autorais do The New York Times contra OpenAI e Microsooft revelam que um executivo da Microsooft descreveu em particular a raspagem de IA como 'o maior roubo de trabalho da história humana', enquanto a liderança da OpenAI supostamente chamou seus modelos de 'ameaça existencial' para os editores. A admissão fortalece o caso contra as práticas de treinamento das empresas de IA.

Política e Direito de IA • TechCrunch

O Seattle Times e o Newsday processaram a OpenAI e a Microsoft por violação de direitos autorais, alegando uso não autorizado de seu jornalismo como dados de treinamento. As publicações afirmam que a OpenAI reproduz trechos de suas reportagens nas respostas.

Jurídico • The Verge