Le supercalculateur français Jean Zay A100 améliore la recherche sur l’IA avec l’injection de GPU de 80 Go

Depuis sa mise en ligne à Paris à l’automne 2019, le supercalculateur Jean J est l’un des supercalculateurs les plus puissants d’Europe à la disposition des chercheurs en HPC et en IA.

Désormais, la société française GENCI (Grand Équipement National de Calcul Intensif) a annoncé qu’avec l’ajout des nouveaux GPU Nvidia A100 80 Go et d’autres matériels, Jean Zay sera en mesure de fournir deux fois plus de capacité de calcul que la recherche en IA et HPC. Institut national des ressources informatiques et de stockage hautes performances pour la recherche et l’industrie en éducation.

Le Power Boost Apollo 6500 Gen est livré avec 52 nœuds supplémentaires de 10 nœuds, chacun huit. GPU Nvidia A100 80 Go – Un total de 640 Go de mémoire à bande passante élevée (HBM2) par serveur – et quelques mises à niveau supplémentaires mineures, dont trois nœuds Apollo 6500 Gen10, chacun avec huit GPU Nvidia A100 40 Go PCIe ; Stephen Requena, a déclaré le directeur de l’innovation et de la technologie de GENCI IA d’entreprise.

Le supercalculateur Jean Zay mis à jour disposera d’un total de 3 152 GPU d’ici la fin de cette année.

« Cela doublera la capacité informatique pour la recherche en IA dans ce système intégré HPC et IA », a déclaré Requena.

Les Les mises à jour pour Jean Zay ont été publiées le 17 novembre (mercredi) à SC21 Conférence, c’est st. Louis, Mo. Et c’est presque un phénomène mixte. Le Centre National de la Recherche Scientifique (Jean Zay) est impliqué dans le projet de développement.CNRS) Et l’Institut pour son développement et ses ressources dans la Division de calcul scientifique (IDRIS), ainsi que Hewlett Packard Enterprise (HPE), qui a créé l’original Gene Jay et Nvidia. Jean J. est à l’IDRIS à Paris.

« L’un des premiers programmes d’IA à utiliser cette extension à plein temps »Le grand projet scientifique, qui vise à développer un modèle de traitement du langage naturel (NLP) multilingue et protocolaire ouvert avec jusqu’à 200 milliards de paramètres qui peuvent rivaliser avec le GPT-3 d’OpenAI », a déclaré Requena. « Le programme mobilise plus de 600 partenaires dans le monde, issus des secteurs de l’éducation et de l’industrie, notamment des start-up, des petites et moyennes entreprises et d’autres grands groupes.

Jusqu’à présent, plus de 700 programmes d’IA ont été utilisés depuis que le moteur Jean J est devenu disponible, a-t-il déclaré. « Avec l’annonce de la deuxième phase du projet d’IA français appelé AI For Humanity, notre organisation Jean Zay continuera à servir la recherche française en IA avec des installations souveraines et à fournir un support utilisateur approprié. »

Apporter des compétences de recherche approfondies

L’incitation informatique pour la machine est importante pour les entreprises qui la sous-tendent, a déclaré Requena. « Cela prouve que le pilote de systèmes intégrés Jean Jay a réussi à servir au-delà des communautés d’utilisateurs HPC traditionnelles … dans tous les domaines, et accélère les projets de simulation et d’intégration d’IA. Permettra.

Les recherches menées jusqu’à présent avec Jean Zay incluent la santé et la médecine, y compris le traitement automatisé du langage, la vision par ordinateur, l’aide à la décision, la recherche sur les villes intelligentes, COVID-19 et la lutte contre le cancer, ainsi que la neurologie, la robotique, les sciences sociales, la chimie et la physique des particules. , Astronomie et climat, dit.

L’IDRIS a porté son équipe d’appui à 21 personnes en recrutant neuf personnes supplémentaires pour répondre à une demande supplémentaire.

Nvidia A100 80 Go Les GPU inclus dans Jean Zay incluent des cœurs de tenseur de troisième génération qui offrent des performances d’IA 20x de la génération Volta précédente avec le nouveau format TF32, et la prise en charge des formats de données 20x INT8 et BF16 pour l’hypothèse d’IA 2.5x FP64 (tenseur à double précision) pour HPC. Comprend une mémoire HBM2e rapide avec deux bandes de mémoire de téraoctets par seconde et la technologie Nvidia MIG (GPU multi-instance), qui double la mémoire pour un événement isolé, offrant jusqu’à sept MIG de 10 gigaoctets chacun. Les capacités NVLink et NVSwitch de troisième génération sont également incluses, fournissant deux fois la bande passante GPU à GPU de la technologie d’interconnexion de génération précédente et accélérant le transfert de données vers le GPU à 600 gigaoctets par seconde pour les charges de travail gourmandes en données.

Toute cette puissance de calcul supplémentaire sera un atout clé pour le développement de l’IA en France et en Europe », a déclaré Requena, ajoutant que l’utilisation de cette nouvelle capacité informatique pourrait conduire à des projets de recherche innovants et sans précédent. [projects], à l’échelle mondiale.

Un système innovant mis en place par l’IDRIS et l’Etablissement public d’aménagement Paris-Saclay (EPAPS) est également prévu, qui permettra d’exploiter une plus grande partie de la chaleur générée par le supercalculateur Jean Zay, a précisé Requena. La chaleur du supercalculateur alimentera un réseau d’échangeurs de chaleur et de froid dans l’ensemble urbain Paris-Chockley, offrant une couverture thermique équivalente à 1 000 logements. Cet aspect du projet sera le premier du genre en Europe, a-t-il déclaré.

Le projet de mise à niveau du supercalculateur est financé par le ministère français de l’Enseignement supérieur, de la Recherche et de l’Innovation. jeunesse, IDRIS-CNRS, HPE et Nvidia.

Historique du projet

En 2019, HPE a remporté le contrat de création de Jean Jay. Nommé Jean-J, ministre de l’Éducation nationale et des Beaux-Arts français, qui a exercé ses fonctions de juin 1936 à septembre 1939. En tant que ministre de l’Éducation, Jean-Ji a mis en œuvre des avancées importantes dans le système éducatif français. Et en tant que ministre des Beaux-Arts, il a initié la création de Musique D Art Moderne, Musique D L Home, Musi des Arts et Traditions Populaires et du Festival de Cannes. Il a également contribué à la création du Centre national de la recherche scientifique (CNRS) en France en 1939. Vichy est assassiné par des militants le 20 juin 1944. Le CNRS a été nommé en son honneur en hommage à ses contributions à la France.

Jean Jay a commencé comme un ordinateur HPE SGI 8600, qui était divisé en deux sections. La première section est constituée de nœuds scalaires et la deuxième section est constituée de nœuds hybrides accélérés. Ces nœuds hybrides incluent des CPU et des GPU qui permettent l’exécution de charges de travail HPC et AI efficaces. Les nœuds sont interconnectés avec un réseau omni-path et peuvent accéder au système de fichiers partagé avec une bande passante élevée. Le moteur d’origine avait 1 528 nœuds de calcul HPE XA730i Gen10, deux processeurs Intel Cascade Lag 6248 (chacun fonctionnant à 20 cœurs, 2,5 GHz) et 261 nœuds intégrés HPE XA780i, deux processeurs Intel Cascade Lake 6248 V20 Svidia 32 Go chacun.

La configuration configurée à l’origine du moteur Gene J avait une performance maximale de 14 bêtaflops. Le partitionnement uniquement CPU se classe 163e sur la dernière liste des 500 meilleurs (novembre 2021), offrant 3,05 bêtaflops HPL sur 4,87 bêtaflops théoriques.

Réactions des analystes

L’ami de Carl, fondateur et analyste en chef de Cambrian AI Research, a déclaré que les mises à jour du supercalculateur français sont aujourd’hui une réalité pour les propriétaires de supercalculateurs.

« L’IA n’est plus une option pour la plupart des utilisateurs et des scientifiques de HPC », a déclaré Freund. « L’intégration des Nvidia A100 avec les GPU V100 existants a conduit Jean Jay à utiliser l’IA pour évaluer considérablement les résultats de la simulation à faible coût et avec un délai d’exécution rapide. »

Un autre analyste, Dan Olds, directeur de la recherche chez Intersect360 Research, a qualifié les plans de mise à jour d’intéressants et a déclaré que les mouvements « signalent le monde en pleine croissance de l’IA, qui a besoin de ce type de boîtier pour le rendre plus grand ».

Les plus anciens ont déclaré que les mises à niveau étaient une bonne décision pour HPE et Nvidia. « Je soulignerai que ces accords deviendront plus compétitifs avec l’avènement des annonces de GPU et de processeurs AMD et de ce qui se prépare sur la route d’Intel », a déclaré Olds.

Il a déclaré que la décision d’utiliser la chaleur résiduelle du superordinateur pour chauffer les bâtiments était également intrigante. « C’est très innovant », a déclaré Olds. « Nous verrons plus à ce sujet à l’avenir. »

Dans les nouvelles liées à SC21 plus tôt cette semaine, HPE a nommé le dernier supercalculateur de France, Adostra, un moteur betaflops à 70 pics appartenant à GENCI et au Centre national de l’enseignement supérieur (CINES). L’organisme, dont la livraison et l’exploitation sont prévues l’année prochaine, soutiendra la recherche pédagogique et industrielle française.