Ag Barr

Tecnologia

• Pesquisadores identificaram múltiplos métodos para contornar as barreiras de segurança da Anthropic a fim de gerar instruções para pesquisas biológicas perigosas. As explorações demonstram como consultas científicas legítimas podem ser estruturalmente indistinguíveis de solicitações maliciosas, complicando a moderação automática de conteúdo. Essa descoberta reforça o desafio persistente de fazer cumprir limites de segurança em modelos de linguagem avançados.

  Segurança e Proteção de IA • Ars Technica AI

  Link permanente

• A OpenAI lançou a API de Agentes em versão beta pública, fornecendo aos desenvolvedores a infraestrutura subjacente que alimenta o Codex e o ChatGPT. A API permite a criação de agentes autônomos baseados na nuvem capazes de executar código, gerenciar fluxos de trabalho em múltiplas etapas e delegar tarefas a subagentes sem taxas adicionais de plataforma além do uso padrão de tokens. Este lançamento reduz a barreira para a construção de sistemas de automação de IA de nível de produção.

  Desenvolvimento e Ferramentas de IA • The Decoder

  Link permanente