Los investigadores han identificado múltiples métodos para eludir las barreras de seguridad de Anthropic con el fin de generar…

…instrucciones para investigaciones biológicas peligrosas. Las vulnerabilidades demuestran cómo las consultas científicas legítimas pueden ser estructuralmente indistinguibles de las solicitudes maliciosas, lo que complica la moderación automática de contenido. Este hallazgo subraya el desafío persistente de hacer cumplir los límites de seguridad en modelos de lenguaje avanzados.

Generado por IA: resúmenes redactados por IA a partir de las fuentes enlazadas. Cómo usamos la IA