Broadcom présente un énorme accélérateur XPU AI pour client mystère

Une plateforme centrée sur le réseau conçue pour évoluer à la consommation la plus faible

Questions de taille: Le secret d’une meilleure accélération matérielle pour les algorithmes d’IA semble être lié à la taille des micropuces de calcul réelles. Le dernier « XPU » personnalisé de Broadcom pourrait être le plus grand de ces accélérateurs d'IA présentés jusqu'à présent.

Broadcom a récemment organisé une « Journée des investisseurs en IA » pour présenter ses dernières solutions de marché. Le géant des réseaux a introduit une série d’innovations spécialement conçues pour accélérer et gérer les algorithmes d’intelligence artificielle. L'une des innovations était un grand « XPU » qui, selon Broadcom, reposait sur des technologies fondamentales de classe mondiale telles que SerDes et DSP.

Intel définit un XPU comme toute architecture de calcul qui répond le mieux aux besoins de l'application d'une entreprise. Qu'il s'agisse d'un CPU, d'un GPU, d'un FPGA ou d'un ASIC avec une conception en silicium personnalisée, un XPU peut théoriquement offrir une expérience transparente sur les PC, les voitures, les bras robotiques ou tout autre élément matériel « intelligent ». L'analyste technique Patrick Moorhead a assisté à l'événement Broadcom et a pu obtenir une documentation visuelle intéressante sur les derniers produits de l'entreprise.

Sur l'une des photos partagées sur Twitter, Moorhead tenait un très gros morceau de silicium portant une étiquette « XPU ». Selon Frank Ostojic, responsable du groupe silicium personnalisé de Broadcom, le XPU en question a été spécialement conçu pour une grande « entreprise d'IA grand public ». Le XPU est équipé de deux unités de calcul au centre, tandis que la mémoire à large bande passante (HBM) remplit les côtés gauche et droit de la puce.

Quelques photos amusantes de la journée des investisseurs @Broadcom AI aujourd'hui. Il s'agit bien évidemment d'une plaquette dans son étui de protection. Cette puce « XPU » (AI accelerator) utilise un package 3D. La puce supérieure est un accélérateur de 700 mm2 au-dessus d'une SRAM de 800 m2. Oui, je suis surpris car :
A/ Je ne sais pas si $AVGO avait des côtelettes 3D. (C'est… pic.twitter.com/SjoVY90yiq

– Patrick Moorhead (@PatrickMoorhead) 21 mars 2024

Moorhead suppose que le XPU de Broadcom contient « beaucoup, beaucoup » de puissance de calcul, une connectivité intra-puce à très haut débit et les « performances les plus élevées » pour les communications réseau externes. L'accélérateur Blackwell AI récemment introduit par Nvidia utilise également deux unités de calcul intégrées dans la même puce, mais le XPU de Broadcom est aussi grand, voire même plus grand, que cela.

Jusqu'à présent, aucune information n'a été fournie sur la « société d'IA » tierce pour laquelle Broadcom a conçu son XPU soi-disant puissant. La société est surtout connue pour son équipement et ses services de réseau, mais elle fournit également des puces personnalisées à d'importantes organisations de consommateurs comme Google. Comme beaucoup d’autres concepteurs de puces sans usine, Broadcom utilisera les services de fonderie du géant taïwanais TSMC pour fabriquer le XPU.

Les accélérateurs d'IA personnalisés font partie de la stratégie de Broadcom visant à vendre des solutions de centre de données performantes, efficaces et évolutives. Les applications d'IA grand public génèrent le besoin de silicium d'IA personnalisé et innovant, a déclaré la société, tandis qu'une « infrastructure d'IA » appropriée nécessiterait un portefeuille complet de produits liés au réseau, capables de déplacer toutes ces données aussi rapidement que possible. Et Broadcom est, bien entendu, plus que disposé à vendre à l’avenir son portefeuille d’IA à des entreprises technologiques axées sur l’IA.