Trust

A Cohere diz que o modelo Qwen da Alibaba afirmou que não usaria nenhuma ferramenta, mas tentou enviar um arquivo para um servidor em Pequim mesmo assim. Pesquisadores dizem que provavelmente é uma peculiaridade do treinamento, em vez de espionagem, mas o incidente levantou questões sobre a confiança nos modelos de IA chineses gratuitos.

Segurança de IA • TechCrunch AI

Produtividade

O Survival LLM é um assistente de IA gratuito e de código aberto e uma biblioteca de emergência que roda inteiramente no seu próprio computador, responde com base em fontes confiáveis e lista os artigos dos quais cada resposta foi retirada.

O Departamento de Justiça dos EUA está examinando a aquisição planejada da plataforma de código aberto Hugging Face pela Nvidia, bem como as práticas de vendas da empresa, de acordo com o The Decoder. A revisão antitruste adiciona incerteza regulatória a um acordo que consolidaria a posição da Nvidia no ecossistema de modelos abertos.

Regulamentação • The Decoder

Digital Science → Jenni AI

A Digital Science, empresa britânica que fornece dados, ferramentas e infraestrutura para pesquisadores, adquiriu a Jenni AI, uma plataforma nativa de IA confiada por mais de 8 milhões de estudantes e pesquisadores em 189 países.

Produtividade

Kyle Kingsbury argumenta que o uso de LLMs corrói a confiança na documentação, no software e nas organizações que os produzem, já que sinais de um sistema maduro são mais fáceis de falsificar.

Produtividade

A newsletter recomenda avaliar fornecedores de agentes de IA com base em um trabalho real e executar oito testes antes da compra, em vez de confiar apenas em demonstrações.

Produtividade

O Parameter Labs descreveu uma cadeia de exploração contra o padrão de pré-visualizações/artefatos HTML do ChatGPT, na qual iframes isolados poderiam usar postMessage() para alcançar o código da página pai que utilizava innerHTML, permitindo a injeção de um novo iframe sem as restrições de sandbox.