L'essor des agents d'IA pourrait quadrupler la demande de cœurs de processeur dans les centres de données

low-angle photography of metal structure — Alina Grubnyak / Unsplash

La popularité croissante des agents d'IA autonomes pourrait entraîner une augmentation quadruple de la demande en cœurs de processeur central dans les centres de données, selon la firme de recherche TrendForce.

Les agents d'IA imposent une charge de travail beaucoup plus importante sur les processeurs centraux que l'inférence traditionnelle des modèles de langage. Tandis que les unités de traitement graphique restent essentielles pour l'entraînement de l'IA, les processeurs centraux doivent coordonner les séquences complexes d'actions permettant aux agents de fonctionner de manière autonome. Ces tâches incluent la planification, l'ordonnancement des étapes intermédiaires, l'invocation d'outils externes, la gestion des interactions entre plusieurs agents et l'évaluation des résultats. Les agents utilisent également les ressources informatiques traditionnelles pour exécuter du code, interroger des bases de données, explorer des pages web et traiter des informations.

Dans les centres de données d'IA traditionnels, un processeur central était généralement associé à quatre à huit unités de traitement graphique, reflétant l'accent mis par l'industrie sur l'accélération des calculs d'IA. Cependant, l'IA agentive pourrait transformer complètement cette configuration. Selon les estimations d'Arm citées par TrendForce, la demande de puissance de calcul des processeurs centraux pourrait augmenter d'environ 30 millions de cœurs par gigawatt de puissance du centre de données à 120 millions de cœurs. Dans l'infrastructure dédiée aux agents d'IA, le rapport entre processeurs centraux et unités de traitement graphique pourrait passer à une relation de 1:1 ou 1:2, alors que dans les déploiements d'IA antérieurs, la part des processeurs centraux était beaucoup plus faible.

Cette évolution aura également des répercussions sur les performances des systèmes, la consommation d'énergie et les coûts d'infrastructure. Les recherches citées par TrendForce montrent que la gestion des outils par le processeur central pourrait être responsable de jusqu'à 90,6 pour cent des délais totaux dans certaines tâches agentives. Dans certaines conditions de fonctionnement, la consommation d'énergie dynamique du processeur central représente également une part importante de l'énergie totale consommée par le système.