Le spécialiste du stockage Sandisk a récemment recruté des experts pour élaborer sa stratégie sur la technologie HBF (high bandwidth flash). Cette innovation vise à compléter la HBM (high bandwidth memory), qui est déjà largement utilisée dans les infrastructures d’intelligence artificielle (IA).
Une avancée dans les infrastructures IA
Dans le secteur des mémoires pour infrastructures IA, la technologie HBM est devenue essentielle. Elle est intégrée dans les GPU et certains CPU de serveurs pour offrir un accès aux données extrêmement rapide, surpassant largement la DRAM classique. Cependant, une nouvelle architecture, la HBF, commence à se faire connaître grâce à Sandisk.
Alper Ilkbahar, vice-président des technologies mémoires chez Sandisk, a expliqué en février dernier que l’approche consiste à diviser la matrice de mémoire NAND en plusieurs mini-matrices, permettant un accès parallèle. « Ces mini-matrices peuvent être empilées verticalement en utilisant la technologie BICS 3D-NAND de Kioxia. Nous avons déjà réalisé des mémoires de R&D de 16 couches, offrant des capacités 8 à 16 fois supérieures aux HBM, pour un coût comparable », a-t-il précisé.
Sandisk a démontré qu’un GPU IA utilisant uniquement la HBM pouvait supporter jusqu’à 192 Go de mémoire. En intégrant la HBF, cette capacité pourrait atteindre 3 To. Dans une configuration entièrement basée sur la HBF, la mémoire pourrait atteindre 4 To.
Un comité technique pour convaincre les fournisseurs de GPU
Pour promouvoir la HBF, Sandisk doit également convaincre les fournisseurs de GPU de fournir des interfaces adaptées. Étant donné que Nvidia et SK Hynix soutiennent la HBM, tout comme Micron et Samsung, Sandisk doit établir des relations avec d’autres acteurs du secteur de l’IA. Pour cela, la société a constitué un comité technique en recrutant des personnalités influentes telles que le professeur David Patterson et Raja Koduri.
David Patterson, co-développeur de RISC (reduced instruction set computing) et acteur clé dans le RAID (redundant array of inexpensive disks), a déclaré que « la HBF promet de jouer un rôle majeur dans l’IA des centres de données, en offrant une capacité de mémoire à haut débit sans précédent, ce qui permettra de surmonter largement les contraintes actuelles. Cela pourrait réduire les coûts des applications d’IA récentes qui sont actuellement inaccessibles ».
Raja Koduri, ancien architecte en chef chez AMD, où il a dirigé le développement des architectures GPU Polaris, Vega et Navi, a également exprimé son optimisme. Selon lui, la HBF va « révolutionner l’usage de l’IA en edge, en fournissant aux terminaux une capacité de mémoire et une bande passante suffisantes pour prendre en charge des modèles sophistiqués localement et en temps réel ».
Les promesses de la technologie HBF
Le développement de la mémoire HBF par Sandisk représente une avancée significative dans le domaine des infrastructures d’IA. Cette nouvelle mémoire pourrait transformer la manière dont les données sont traitées et stockées, ouvrant la voie à de nouvelles applications et améliorant considérablement les performances des systèmes existants.