Skip to content

Safety

Arquivo temático • 11 resultados

Gerado por IA: resumos escritos por IA a partir das fontes indicadas. Como usamos a IA

Voltar ao início • GEO summary endpoint

2026-11-09

Tecnologia

  • O cientista-chefe de IA da Tencent, Vincent Yao Shunyu, alertou que a IA em breve será capaz de desenvolver armas biológicas e defendeu um meio-termo entre modelos abertos e fechados. Para seu próximo modelo de pesos abertos Hy4, a Tencent está filtrando conhecimento perigoso de hacking diretamente dos dados de treinamento.

    Segurança de IA • The Decoder

    Link permanente

2026-11-10

Tecnologia

  • Nova York está se preparando para aplicar sua abrangente lei de segurança de IA, exigindo que grandes desenvolvedores como OpenAI e Anthropic se registrem, divulguem práticas de segurança e relatem incidentes críticos, sob pena de multas. A lei adiciona uma nova camada de supervisão para laboratórios de fronteira.

    Política e Regulamentação • TechCrunch AI

    Link permanente
  • O Google DeepMind revelou o Gemini Robotics 2.5, que a empresa afirma ser até duas vezes mais bem-sucedido em algumas tarefas, ao lado de um benchmark aberto de segurança chamado 'ASIMOV-jailbreak'. O lançamento combina uma atualização do modelo de robótica com uma avaliação de segurança focada em jailbreak.

    Pesquisa • Ars Technica AI

    Link permanente

2026-11-12

Tecnologia

  • A equipe de segurança da OpenAI investigou sistematicamente por que as cadeias de pensamento em modelos de fronteira como o GPT-6 Astra estão cada vez mais escapando à supervisão. A análise identifica quatro etapas de treinamento que impulsionam essa erosão, incluindo escolhas de arquitetura e aprendizado por reforço, e conclui que a perda de transparência reflete trocas entre capacidade e custo, em vez de uma lei da natureza.

    Pesquisa • The Decoder

    Link permanente
  • O governo da Austrália, liderado pelo primeiro-ministro Anthony Albanese, propôs um projeto de lei que consagraria regras obrigatórias de segurança para empresas de IA de fronteira na lei pela primeira vez. Um novo regulador aplicaria auditorias independentes de modelos e imporía pesadas penalidades por violações, com Canberra priorizando a regulamentação doméstica antes de entrar em negociações internacionais.

    Política e Regulamentação • The Decoder

    Link permanente
  • Um estudo da empresa de proteção de propriedade intelectual Podqi, compartilhado exclusivamente com The Verge, descobriu que compradores que usam ChatGPT, Gemini e Perplexity para pesquisar produtos podem ser direcionados a impostores e outros sites arriscados. O estudo foi realizado submetendo perguntas relacionadas a compras aos chatbots, envolvendo uma seleção de produtos.

    Segurança • The Verge AI

    Link permanente