Colossus : Le superordinateur d'IA d'Elon Musk équipé de 100 000 cartes graphiques Nvidia H100
Dans le domaine de l'intelligence artificielle, un nouveau géant vient de voir le jour. Elon Musk, le célèbre entrepreneur et fondateur de SpaceX et Tesla, a récemment dévoilé son dernier projet phare : Colossus, un superordinateur d'IA équipé d'un impressionnant arsenal de 100 000 cartes graphiques Nvidia H100. Ce système informatique colossal est conçu pour révolutionner le traitement des données et les applications de l'apprentissage automatique. Avec une puissance de calcul inégalée, Colossus promet de pousser les limites de l'intelligence artificielle et de nous faire entrer dans une nouvelle ère de la technologie.
Colossus : le géant de l'intelligence artificielle équipé de puces graphiques Nvidia H
xAI, l'entreprise fondée par Elon Musk et spécialisée dans l'intelligence artificielle, vient de franchir un pas décisif dans ce domaine en achevant la configuration de son superordinateur nommé Colossus.
Colossus est un superordinateur d'entraînement d'intelligence artificielle, alimenté par 100 000 GPUs Nvidia H100. Ce superordinateur devrait doubler sa taille à 200 000 GPUs dans les mois à venir, selon les dires d'Elon Musk. Au total, 50 000 de ces 200 000 GPUs seront les Nvidia H200.
Ce superordinateur sera utilisé pour entraîner la nouvelle version de Grok, la mise en avant de l'intelligence artificielle d'Elon Musk, qui sera disponible sur les comptes premium de X, l'ancienne Twitter. La plateforme sociale X prévoit de lancer la troisième version de Grok en décembre, dans le but de rivaliser avec son principal concurrent, GPT-4 d'OpenAI.
Ce superordinateur Colossus a déjà surpassé d'autres systèmes d'intelligence artificielle, tels que Aurora du Département de l'Énergie des États-Unis, en atteignant une vitesse maximale de 10,6 exaflops avec 87% de son matériel actif lors d'un test réalisé en mai.
Elon Musk précise que son superordinateur Colossus est équipé de 100 000 cartes graphiques Nvidia H100, basées sur le module Transformer Engine, qui est utilisé pour les modèles basés sur l'architecture Transformer.
Il est important de noter que ces cartes graphiques H100 ont la capacité d'exécuter des modèles de langage jusqu'à 30 fois plus rapidement que les GPU de générations précédentes. De plus, leur successeur, H200, promet d'être encore plus rapide en raison d'améliorations architecturales telles que l'utilisation de la mémoire HBM3e et une capacité de mémoire augmentée à 141 gigaoctets.
En savoir plus sur notre manière de travailler à ComputerHoy.
Étiquettes : Intelligence artificielle
Laisser un commentaire