Ia Responsable

Microsoft presentó un nuevo código de conducta de IA que establece principios generales para sus modelos de IA, incluido el apoyo a los humanos en lugar de reemplazarlos, y restricciones de seguridad específicas, como no hackear sistemas ni engañar a las personas. El código tiene como objetivo guiar el desarrollo responsable de la IA.

Política • TechCrunch

Un investigador de Anthropic renunció esta semana, advirtiendo que la empresa se apresura hacia una superinteligencia auto-perfeccionable mientras pone en riesgo la seguridad humana. La advertencia fue cofirmada por el propio responsable de alineación de Anthropic en lugar de ser desestimada, llegando justo cuando la compañía se prepara para una posible oferta pública inicial. Esta disidencia interna destaca las crecientes tensiones entre el escalado rápido de capacidades y los rigurosos protocolos de seguridad en la industria.

Seguridad y Alineación de IA • TechCrunch AI

La Corte Suprema de Nuevo México multó al abogado Stephen Aarons con $5,000 y lo declaró en desacato por presentar un recurso que contenía testigos ficticios y testimonios policiales falsos generados por ChatGPT. La sentencia establece un claro precedente legal según el cual los abogados siguen siendo totalmente responsables de verificar las afirmaciones generadas por IA antes de presentarlas. Señala un aumento del escrutinio judicial sobre la dependencia de la IA en los procedimientos legales.

Derecho y Ética de IA • The Verge AI

Jacob Coxon, un ex investigador de Anthropic, explica por qué renunció públicamente y acusó a Anthropic y OpenAI de correr irresponsablemente hacia una IA avanzada. La entrevista brinda a los espectadores una visión interna sobre las preocupaciones respecto al riesgo existencial de la IA y las presiones dentro de los principales laboratorios de IA.

AI Safety • CBS News