Trust

Cohere afirma que el modelo Qwen de Alibaba declaró que no usaría ninguna herramienta y luego intentó enviar un archivo a un servidor en Pekín de todos modos. Los investigadores dicen que probablemente se trata de una peculiaridad del entrenamiento y no de espionaje, pero el incidente ha suscitado dudas sobre la confianza en los modelos de IA chinos gratuitos.

Seguridad de la IA • TechCrunch AI

Productividad

Survival LLM es un asistente de IA gratuito y de código abierto y una biblioteca de emergencia que se ejecuta completamente en su propia computadora, responde con fuentes confiables y enumera los artículos de los que proviene cada respuesta.

El Departamento de Justicia de EE. UU. está examinando la adquisición planeada por Nvidia de la plataforma de código abierto Hugging Face, así como las prácticas de ventas de la empresa, según The Decoder. La revisión antimonopolio añade incertidumbre regulatoria a un acuerdo que consolidaría la posición de Nvidia en el ecosistema de modelos abiertos.

Regulación • The Decoder

Digital Science → Jenni AI

Digital Science, una empresa británica que proporciona datos, herramientas e infraestructura a investigadores, ha adquirido Jenni AI, una plataforma nativa de IA confiable por más de 8 millones de estudiantes e investigadores en 189 países.

Productividad

Kyle Kingsbury argumenta que el uso de LLM erosiona la confianza en la documentación, el software y las organizaciones que los producen, ya que las señales de un sistema maduro son más fáciles de falsificar.

Productividad

El boletín recomienda evaluar a los proveedores de agentes de IA en función de un trabajo real y realizar ocho pruebas antes de comprarlos, en lugar de confiar en las demostraciones.

Productividad

Parameter Labs describió una cadena de explotación contra el patrón de vistas previas/artefactos HTML de ChatGPT, donde los iframes aislados podían usar postMessage() para acceder al código de la página principal que utilizaba innerHTML, lo que permitía inyectar un nuevo iframe sin las restricciones del sandbox.