Stockage de données OceanStor

OceanStor A600

Huawei OceanStor A600 est le stockage distribué de fichiers haute performance de nouvelle génération pour l’intelligence artificielle (IA), accélérant l’ensemble du processus d’entraînement et d’inférence des modèles grâce à des performances extrêmes. Chaque enceinte de contrôleur fournit jusqu’à 160 GB/s de bande passante et 3,6 millions d’opérations d’entrée/sortie par seconde (IOPS). Grâce à une architecture innovante de séparation du plan de contrôle des données, un seul cluster prend en charge une extension flexible jusqu’à 32 contrôleurs, répondant aux exigences d’évolution fluide des modèles multimodaux comportant des billions — voire des dizaines de billions — de paramètres. L’OceanStor A600 prend également en charge de nouveaux paradigmes de données, tels que les vecteurs, les tenseurs et le cache clé-valeur (KV), ainsi que l’accélération de l’inférence de grands modèles IA. Avec une architecture de cache KV à plusieurs niveaux, il réduit le temps jusqu’au premier jeton (TTFT) de 78 % et améliore le débit d’inférence de 60 %. Cela permet l’inférence de séquences longues — où la longueur de la séquence d’entrée dépasse la fenêtre de contexte — tout en optimisant le rapport coût-efficacité de l’inférence.