OpenAI a transformé sa bibliothèque interne Habitat en une plateforme de stockage distribuée à l'échelle mondiale…
…capable de gérer 22 millions de requêtes par seconde pour plus d'un milliard d'utilisateurs de ChatGPT. Cette refonte technique répond aux défis de latence et de cohérence inhérents à la fourniture d'applications d'IA à l'échelle grand public. L'architecture fournit une feuille de route pour la gestion de charges de travail massives et simultanées dans les systèmes d'IA en production.
Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA
Brief source
OpenAI a transformé sa bibliothèque interne Habitat en une plateforme de stockage distribuée à l'échelle mondiale, capable de gérer 22 millions de requêtes par seconde pour plus d'un milliard d'utilisateurs de ChatGPT. Cette refonte technique répond aux défis de latence et de cohérence inhérents à la fourniture d'applications d'IA à l'échelle grand public. L'architecture fournit une feuille de route pour la gestion de charges de travail massives et simultanées dans les systèmes d'IA en production.