Dans le cadre du Cisco Live, qui s’est déroulé cette semaine à Las Vegas, Cisco et Nvidia ont pu annoncer une collaboration approfondie pour présenter une infrastructure dédiée à l’intelligence artificielle (IA). Leur objectif est ainsi de proposer une pile complète permettant aux entreprises de créer, déployer et surveiller leurs applications IA et de GenAI. Cette infrastructure peut être installée sur site ou dans un cloud privé.
Les clusters Nexus HyperFabric AI combinent plusieurs éléments pour répondre aux besoins de calcul, de réseau et de stockage. Du côté du réseau, ils font appel aux commutateurs de la série Nexus 6000, offrant des connectivités allant jusqu’à 400G et 800G. La gestion des switchs se fait depuis le cloud grâce au tableau de bord du Nexus et d’Intersight. Pour optimiser les performances réseau, le DPU BlueField-3 de Nvidia est utilisé pour décharger le CPU des tâches de traitement réseau.
En ce qui concerne le calcul, Cisco apporte ses serveurs UCS, notamment les M7 qui intègrent les accélérateurs GPU H200 NVL développés en collaboration avec Nvidia. La partie logicielle est assurée par le logiciel AI Enterprise de Nvidia, incluant les microservices NIM pour l’inférence. Enfin, pour le stockage, Cisco et Nvidia s’appuient sur Vast Data et sa plateforme de données unifiées, conçue pour gérer tous types de données non structurées et structurées. Cette plateforme comprend 4 piliers : DataStore, DataBase, DataEngine et DataSpace, offrant une architecture de stockage évolutive, une base de données sémantique intégrée, un moteur d’exécution et un système de stockage et de traitement des données provenant de différents sites.
Les clusters Nexus HyperFabric AI seront disponibles pour certains clients à partir du quatrième trimestre 2024, avec une disponibilité générale suivant peu après. Cisco prévoit également d’ouvrir cette infrastructure à d’autres acteurs du stockage, tels que Pure Storage et Netapp, avec qui ils travaillent déjà sur des projets d’IA. Cette collaboration entre Cisco et Nvidia ainsi que le développement d’infrastructures adaptées à l’IA montrent l’importance croissante de cette technologie pour les acteurs du secteur de l’infrastructure.