Carrera De Ia

Un investigador senior de seguridad de Anthropic renunció, advirtiendo que la IA auto-mejorable podría 'matar a todos', y un colega estimó en más del 10 % la probabilidad de que la IA mate a todos los humanos para finales de la década. Las advertencias destacan la creciente preocupación interna sobre la carrera por construir sistemas superhumanos.

Seguridad de IA • Ars Technica AI

Geoffrey Hinton comenta las advertencias del reciente denunciante de Anthropic y afirma que un riesgo existencial del 10 % por parte de la IA en una década no es 'irrazonable'. La entrevista explica por qué los principales investigadores en IA están preocupados por la carrera para construir sistemas superinteligentes y qué se podría hacer para mitigar los riesgos.

AI Safety • BBC Politics