Ag Barr

Tecnología

• Los investigadores han identificado múltiples métodos para eludir las barreras de seguridad de Anthropic con el fin de generar instrucciones para investigaciones biológicas peligrosas. Las vulnerabilidades demuestran cómo las consultas científicas legítimas pueden ser estructuralmente indistinguibles de las solicitudes maliciosas, lo que complica la moderación automática de contenido. Este hallazgo subraya el desafío persistente de hacer cumplir los límites de seguridad en modelos de lenguaje avanzados.

  Seguridad y Protección de IA • Ars Technica AI

  Enlace permanente

• OpenAI ha lanzado la API de Agents en beta pública, proporcionando a los desarrolladores la infraestructura subyacente que impulsa Codex y ChatGPT. La API permite la creación de agentes autónomos basados en la nube que pueden ejecutar código, gestionar flujos de trabajo de múltiples pasos y delegar tareas a subagentes sin tarifas adicionales de plataforma más allá del uso estándar de tokens. Este lanzamiento reduce la barrera para construir sistemas de automatización de IA listos para producción.

  Desarrollo y Herramientas de IA • The Decoder

  Enlace permanente