Inference
Archivo temático • 8 resultados
Generado por IA: resúmenes redactados por IA a partir de las fuentes enlazadas. Cómo usamos la IA
2026-11-09
Tecnología
Google amplió su portafolio de TPU de octava generación con TPU 8tx para inferencia segura y confidencial y TPU 8i Max para ventanas de contexto masivas, marcando cuatro nuevos sistemas TPU en un solo año. Los chips están diseñados para manejar cargas de trabajo agénticas complejas con hardware especializado para seguridad, densidad y razonamiento.
Infraestructura • Hacker News
Enlace permanente
2026-11-13
Tecnología
DeepX, con sede en Corea del Sur, ha completado el tapeout del DX-M2, un chip de IA de borde diseñado para ejecutar inferencia de LLM de 100 000 millones de parámetros en robots y drones con menos de 5 W. La empresa apunta al otoño de 2027 para la producción en masa, según EE Times.
Hardware • Techmeme
Enlace permanenteEdge0 liberó como código abierto Edge0-145B y Edge0-120B, junto con un marco de inferencia unificado y herramientas de despliegue. La empresa afirma que Edge0-145B es el primer modelo de IA en dispositivo de código abierto del mundo con 145 000 millones de parámetros, llevando capacidades de programación, razonamiento y agentes que rivalizan con los modelos en la nube de frontera a una computadora personal.
Modelos • Hacker News
Enlace permanente
2026-11-14
Tecnología
Nvidia publicó una guía para servir GLM-5.3, un modelo de mezcla de expertos cuantizado de 753 mil millones de parámetros de Z.ai con 40 mil millones de parámetros activados por token, en dos DGX Stations conectadas mediante ConnectX-8 RDMA. La configuración utiliza el paralelismo tensorial de vLLM para dividir los pesos y la computación entre ambas GPU a través de un único endpoint, alcanzando 607.8 tokens por segundo.
Infraestructura • Hacker News
Enlace permanenteUn benchmark para la predicción de experimentos de laboratorio húmedo, descrito como el más estricto de su tipo, fue publicado por más de diez equipos de primer nivel, incluidos Stanford, Harvard y Cornell. Los resultados indican que escalar la inferencia y quintuplicar la computación no mejoró el rendimiento.
Investigación en IA • QbitAI 量子位
Enlace permanente
Inversión
Luminal • Series A
Luminal, que proporciona una nube de inferencia y desarrolla software de compilador de inferencia para probar modelos de IA en ejecución en diferentes chips, recaudó una ronda Serie A de 25 millones de dólares liderada por Standard Capital. El CEO Joe Fioti reveló la ronda a Axios Pro.
Enlace permanente