Nvidijina revolucija tečnog hlađenja za AI server
Potrošnja energije vrhunskih AI čipova u stalnom je porastu, što je postalo katalizator za sljedeću generaciju DGX AI servera za prelazak na tečno hlađenje. Trenutni TDP (termička snaga dizajna) Nvidijinog vodećeg H100 GPU-a je 700W, što je premašilo granicu tradicionalnog vazdušnog hlađenja. Očekuje se da će Nvidia lansirati Blackwell arhitekturu B100 GPU sa TDP-om od približno 1000W kasnije ove godine, a tečno hlađenje će definitivno biti neophodno u to vrijeme.
Za računarske sisteme visokih performansi, tečno hlađenje ima nekoliko ključnih prednosti u odnosu na vazdušno:
Odlična efikasnost prenosa toplote omogućava da se komponente sa većim TDP-om potpuno ohlade
Zbog smanjene potražnje za ventilatorima velike brzine, rad je tiši
Dizajn sistema je gušći, a glomazni hladnjaci i ventilatori zauzimaju manje prostora
Potencijal za hvatanje i ponovno korištenje otpadne topline u izmjenjivačima topline tekućina-tečnost
Koristeći tečno hlađenje, Nvidia može nastaviti da premašuje granice performansi AI akceleratora bez ograničenja sistemom hlađenja. Kako složenost opterećenja za obuku umjetne inteligencije nastavlja da raste, a odgovarajuća potrošnja energije hardvera raste, ovo je ključno. Nvidijin DGX AI server pakuje više GPU-a u optimizovani sistem za AI radna opterećenja, koji su brzo usvojila velika preduzeća. Glavni provajderi usluga u oblaku kao što su Google Cloud, Meta i Microsoft postavili su DGX sisteme u svoje centre podataka. Poslednjih godina, kako sve više i više organizacija nastoji da iskoristi transformativnu moć veštačke inteligencije, usvajanje Nvidia DGX sistema veštačke inteligencije eksponencijalno je poraslo.
Nvidia DGX sistem može koristiti napredne dizajne hlađenja utapanjem koji koriste dielektrične tekućine. Direktno hlađenje čipova pumpa dielektrične tekućine direktno na GPU čipove i druge termalne komponente, bez potrebe za hladnim pločama, postižući direktniji prijenos topline. Može podržati vrlo visoke nivoe TDP-a (500W+) na jednom čipu, postižući gušće sisteme.
Kako se umjetna inteligencija nastavlja razvijati zadivljujućom brzinom, podržana hardverska infrastruktura mora se razvijati sinhrono. Tečno hlađenje je ključna tehnologija koja će omogućiti akceleratorima da dođu do neviđenih nivoa performansi. Ova transformacija nije bez izazova. Budući da centri podataka zahtijevaju transformaciju infrastrukture za hlađenje tekućinom i razvoj novih programa održavanja, prednosti energetske efikasnosti, gustine i performansi su značajne i ne mogu se zanemariti.
