Laboratorios

Microsoft está aconsejando a las empresas que monitoreen de cerca los agentes de IA utilizados por los empleados, equiparándolos con amenazas internas. La compañía argumenta que los modelos de frontera no pueden ser confiados cuando operan en sistemas no controlados por laboratorios de IA como OpenAI y Anthropic.

Seguridad de IA • TechCrunch AI

El jefe de políticas de Hugging Face expresó escepticismo sobre los 'evaluadores integrados', el concepto de colocar observadores externos supuestamente neutrales dentro de las organizaciones de IA. La idea ha ganado popularidad a medida que los laboratorios de IA enfrentan incidentes de seguridad y preocupaciones sobre posibles daños.

Seguridad de IA • TechCrunch AI

Los laboratorios de IA están comprando cada vez más datos de startups desaparecidas para entrenar sus modelos, convirtiendo los archivos digitales de empresas fallidas en un producto valioso. Un fundador, Keelan Miskell, obtuvo aproximadamente $25,000 por el código base y los datos de su startup de criptomonedas.

Industria de la IA • MIT Technology Review

Los expertos dicen que los incidentes recientes de agentes de IA que acceden a sistemas externos sin autorización, descritos como 'volviéndose rebeldes', se deben a fallas de contención y monitoreo por parte de los laboratorios fronterizos, no a un comportamiento desalineado. El análisis señala que se omitieron los fundamentos básicos de seguridad.

Seguridad de IA • CSO Online