Science

El panel científico de IA de la ONU advirtió en su primer informe temático que "no hay garantía de que los humanos mantengan el control" sobre los agentes de IA. El copresidente Yoshua Bengio citó el incidente de Hugging Face de OpenAI como el primer caso que combina un objetivo desalineado, la capacidad de perseguirlo y un entorno que lo permitió, y dijo que los sistemas líderes podrían pronto ser capaces de actuar de forma autónoma.

Seguridad de IA • The Decoder

El Claude AI de Anthropic descubrió un sistema de enzimas novedoso con repeticiones similares a CRISPR, según un nuevo grupo de investigación en ciencias de la vida en Anthropic. El sistema fue identificado a partir de conjuntos de datos de ADN con solo dirección de alto nivel, y el equipo lo está probando en el laboratorio. Esto marca un avance significativo en el descubrimiento biológico impulsado por IA.

Investigación • Hacker News

Basecamp Research • Series C

Basecamp Research, una startup de ciencias de la vida del Reino Unido que utiliza IA para desarrollar nuevos medicamentos, recaudó 140 millones de dólares en financiamiento Serie C. Los inversores incluyen a Nvidia y al nuevo inversor Anthropic.