Nvidia Rubin: Иновација во Центрите за податоци со новата платформа со систем на шрафици NVL72

Моќната вештачка интелигенција што ги остварува работните товари е платформата Rubin, која нуди импресивен раст на перформансите во споредба со архитектурата Blackwell на Nvidia. Rubin сојузува еколошки систем од шест различни чипови и се издвојува како најцелосно решение за центри за податоци. Во наследството на оваа платформа се наоѓа Rubin GPU, Vera CPU, NVLink 6 Switch, ConnectX-9 и BlueField-4 мрежни решенија, како и силиконскиот фотонски инфраструктурен Spectrum-X 102.4T CPO. Сето тоа е дизајнирано да работи во хармонија во системи DGX, HGX и MGX.

Централната точка е Rubin Superchip, кој ги собира двата Rubin GPU, една Vera CPU и висококапацитетните мемории HBM4 со LPDDR5x. Rubin GPU е дизајниран со специјални модулски компоненти со независни процесорски и tensor јадра, нуди 50 PFLOPs за изведување и 35 PFLOPs за обука. Овие вредности се околу пет и три и пол пати поголеми во споредба со Blackwell. На мемориската страна, Rubin GPU ветува 22 TB/s ширина на појасот користејќи HBM4 чипови, што е околу 2,8 пати повеќе отколку кај Blackwell. Исто така, за секој процесор се достапни 3,6 TB/s NVLink ширина на линијата, што е скоро двојно повеќе од претходната генерација.

Vera CPU е базиран на новата архитектура Arm со кодно име Olympus, нуди вкупно 88 јадра и 176 тредови. Оваа процесорска единица работи со Nvidia Spatial Multi-Threading технологија, нуди 1,8 TB/s NVLink-C2C мемориска конекција, 1,5 TB системска меморија и 1,2 TB/s LPDDR5x ширина на појасот. Според Grace архитектурата, оваа структура нуди приблизно двојно подобрување во перформансите при обработка и алгоритми за компресија. Платформата вклучува и тајно ниво на поддршка за раф изчислувања.

NVLink 6 Switch го врши централната улога во мрежната инфраструктура на платформата Rubin. Благодарение на 400G SerDes инфраструктурата, секој процесор е поврзан со 3,6 TB/s и се постигнува вкупна мрежна пропусност од 28,8 TB/s, со што системот нуди AI интерна мрежна можност од 14,4 TFLOPS FP8. Дизајнот е целосно фокусиран на течна ладење. Во мрежната страна, ConnectX-9 SuperNIC се истакнува со ширина на линијата од 1,6 TB/s и PAM4 SerDes од 200G како решение за безбедност и програмирање на RDMA. BlueField-4 DPU спојува 64 јадрениот Grace CPU со ConnectX-9, ветувајќи што е можно поголема брзина во мрежната, процесорската и мемориската ширина на линијата во споредба со претходната генерација.

Со системот NVL72 раф, Nvidia Rubin концентрира платформа под едно огнено место, обезбедувајќи околу десетпатно намалување на трошоците за изведување во споредба со Blackwell во делот на изведбата, а во обучувањето на MoE модели – намалување од околу четири пати во бројот на GPU-ја. Со Spectrum-X Ethernet решенија за скалабилност до 102,4 Tb/s и со Silikon Photonic интеграција од 200G, значително се подобрува вкупната пропусност на интернет врските. За Rubin SuperPOD, Inference Context Memory Storage платформата се фокусира на широк спектар на сценарија за изведување токени; со Nvidia софтверски решенија како Dynamo, NIXL и DOCA, таа е целосно интегрирана.

Rubin, со DGX SuperPOD решенијата што вклучуваат 8 NVL72 рафови, се на пазарот и се достапни, а можно е да се избере и моделот DGX Rubin NVL8 за поголеми центри за податоци. Целта на компанијата е да значително го намали трошокот за изведба на токените за изведување во споредба со Blackwell GB200, како и да ја намали бројката на GPU-ите потребни за обука. Првите чипови од Rubin системот се очекува да бидат доставени до клиентите оваа година.

Платформата Rubin нуди сеопфатен еко систем за трансформација на работните товари во центри за податоци, комбинирајќи шест клучни чипови како Rubin GPU, Vera CPU и NVLink 6 Switch за високоперформансна пресметка. Сите компоненти се дизајнирани за безпроблемна работа во системи DGX, HGX и MGX.

Централната точка на центарот за податоци е Rubin Superchip, кој ги собира двата Rubin GPU, една Vera CPU и висококапацитетните мемории. Rubin GPU е способен за 50 PFLOPs изведба за изведување и 35 PFLOPs за обука со активен капацитет, со 22 TB/с ширина на појасот на меморијата. Vera CPU, базирана на Arm архитектурата, е јадро со 88 јадра што нуди висока брзина на врска со меморијата преку NVLink и ветува значително подобрување на перформансите во однос на Grace архитектурата.

NVLink 6 Switch обезбедува вкупна пропусност од 28,8 TB/с и AI мрежна можност од 14.4 TFLOPS FP8. ConnectX-9 SuperNIC и BlueField-4 DPU се решенија кои ја оптимизираат безбедноста, RDMA и мрежната диференцијација, обезбедувајќи висок степен на скалабилност и ефикасност. Со сите овие компоненти, системите базирани на NVL72 рафи нудат значителни подобрувања во изведба и ефективност во однос на претходните решенија.