Limites De Ia

O governador Gavin Newsom sancionou legislação que restringe recursos viciantes de redes sociais para usuários menores de 16 anos e impõe limites rigorosos à forma como menores podem interagir com chatbots de IA. A lei estabelece um novo marco regulatório para a segurança digital juvenil, obrigando as plataformas a redesenhar fluxos de interação e implementar protocolos de verificação de idade mais rigorosos.

Política e Regulamentação • Techmeme

Vários matemáticos desafiaram publicamente a alegação da OpenAI de ter resolvido um Problema do Prêmio Millennium, acusando a empresa de usar pesquisas não publicadas sem atribuição ou transparência. A disputa destaca o crescente atrito entre laboratórios de IA e a academia sobre a procedência dos dados de treinamento e os limites da propriedade intelectual.

Pesquisa e Ética • The Verge AI

Pesquisadores identificaram múltiplos métodos para contornar as barreiras de segurança da Anthropic a fim de gerar instruções para pesquisas biológicas perigosas. As explorações demonstram como consultas científicas legítimas podem ser estruturalmente indistinguíveis de solicitações maliciosas, complicando a moderação automática de conteúdo. Essa descoberta reforça o desafio persistente de fazer cumprir limites de segurança em modelos de linguagem avançados.

Segurança e Proteção de IA • Ars Technica AI