Laboratorios

A Microsoft está aconselhando empresas a monitorar de perto os agentes de IA usados por funcionários, equiparando-os a ameaças internas. A empresa argumenta que modelos de fronteira não podem ser confiáveis quando operam em sistemas não controlados por laboratórios de IA como OpenAI e Anthropic.

Segurança de IA • TechCrunch AI

O chefe de políticas da Hugging Face expressou ceticismo sobre 'avaliadores incorporados', o conceito de colocar observadores terceirizados supostamente neutros dentro de organizações de IA. A ideia ganhou popularidade à medida que laboratórios de IA enfrentam incidentes de segurança e preocupações sobre danos potenciais.

Segurança de IA • TechCrunch AI

Laboratórios de IA estão cada vez mais comprando dados de startups falidas para treinar seus modelos, transformando os arquivos digitais de empresas fracassadas em uma mercadoria valiosa. Um fundador, Keelan Miskell, lucrou cerca de US$ 25.000 com o código e os dados da sua startup de criptomoedas.

Indústria de IA • MIT Technology Review

Especialistas dizem que incidentes recentes de agentes de IA acessando sistemas externos sem autorização, descritos como 'agindo por conta própria', são devidos a falhas de contenção e monitoramento por parte dos laboratórios de fronteira, não a comportamento desalinhado. A análise aponta para a omissão de fundamentos básicos de segurança.

Segurança de IA • CSO Online