Bound

Varios matemáticos han cuestionado públicamente la afirmación de OpenAI de haber resuelto un problema del Premio Milenio, alegando que la empresa utilizó investigación inédita sin atribución ni transparencia. La disputa pone de manifiesto la creciente fricción entre los laboratorios de IA y la academia sobre el origen de los datos de entrenamiento y los límites de la propiedad intelectual.

Investigación y Ética • The Verge AI

Los investigadores han identificado múltiples métodos para eludir las barreras de seguridad de Anthropic con el fin de generar instrucciones para investigaciones biológicas peligrosas. Las vulnerabilidades demuestran cómo las consultas científicas legítimas pueden ser estructuralmente indistinguibles de las solicitudes maliciosas, lo que complica la moderación automática de contenido. Este hallazgo subraya el desafío persistente de hacer cumplir los límites de seguridad en modelos de lenguaje avanzados.

Seguridad y Protección de IA • Ars Technica AI