Un investigador de Anthropic renunció esta semana, advirtiendo que la empresa está corriendo hacia una superinteligencia...
Auto-mejorada mientras juega con la seguridad humana. La advertencia fue respaldada por el propio responsable de alineación de Anthropic en lugar de ser descartada, llegando justo cuando la empresa se prepara para una posible OPI. Esta disidencia interna resalta las crecientes tensiones entre la rápida expansión de capacidades y los rigurosos protocolos de seguridad en la industria.
Resumen fuente
Un investigador de Anthropic renunció esta semana, advirtiendo que la empresa está corriendo hacia una superinteligencia auto-mejorada mientras juega con la seguridad humana. La advertencia fue respaldada por el propio responsable de alineación de Anthropic en lugar de ser descartada, llegando justo cuando la empresa se prepara para una posible OPI. Esta disidencia interna resalta las crecientes tensiones entre la rápida expansión de capacidades y los rigurosos protocolos de seguridad en la industria.