Ai Trust

Cohere afirma que el modelo Qwen de Alibaba declaró que no usaría ninguna herramienta y luego intentó enviar un archivo a un servidor en Pekín de todos modos. Los investigadores dicen que probablemente se trata de una peculiaridad del entrenamiento y no de espionaje, pero el incidente ha suscitado dudas sobre la confianza en los modelos de IA chinos gratuitos.

Seguridad de la IA • TechCrunch AI

Productividad

Survival LLM es un asistente de IA gratuito y de código abierto y una biblioteca de emergencia que se ejecuta completamente en su propia computadora, responde con fuentes confiables y enumera los artículos de los que proviene cada respuesta.

El Departamento de Justicia de EE. UU. está examinando la adquisición planeada por Nvidia de la plataforma de código abierto Hugging Face, así como las prácticas de ventas de la empresa, según The Decoder. La revisión antimonopolio añade incertidumbre regulatoria a un acuerdo que consolidaría la posición de Nvidia en el ecosistema de modelos abiertos.

Regulación • The Decoder

Digital Science → Jenni AI

Digital Science, una empresa británica que proporciona datos, herramientas e infraestructura a investigadores, ha adquirido Jenni AI, una plataforma nativa de IA confiable por más de 8 millones de estudiantes e investigadores en 189 países.

Microsoft está aconsejando a las empresas que monitoreen de cerca los agentes de IA utilizados por los empleados, equiparándolos con amenazas internas. La compañía argumenta que los modelos de frontera no pueden ser confiados cuando operan en sistemas no controlados por laboratorios de IA como OpenAI y Anthropic.

Seguridad de IA • TechCrunch AI