datacentra

Startup Rune Energy umisťuje modulární datová centra přímo k solárním elektrárnám, kde využívají přebytky energie, které by jinak síť nedokázala přijmout. Kontejnery RELIC se napojují na stejnosměrný proud před jeho přeměnou na střídavý a obsahují vlastní chlazení, síťové prvky, výkonovou elektroniku i GPU. Jeden modul může odebírat až 100 kilowattů a podle konfigurace pojme 128 až více než 2 000 grafických procesorů Nvidia B300. Firma uzavírá smlouvy přímo s provozovateli solárních farem a nabízí výpočetní kapacitu hlavně pro inferenci, dolaďování a menší trénování modelů. Výpadky sluneční výroby mají pokrýt integrované baterie, jejichž kapacitu společnost navrhuje podle místních historických dat. Rune působí v Kalifornii, Texasu a Massachusetts a během roku chce dosáhnout výpočetního výkonu odpovídajícího 100 megawattům.

Pozornost technologických firem se podle článku přesouvá od trénování stále větších modelů k inferenci, tedy jejich každodennímu nasazení pro odpovědi, tvorbu kódu či autonomní agenty. Zátěž zvyšují zejména uvažující modely, které vytvářejí delší řetězce výstupů, a agentní systémy běžící nepřetržitě. Inference se od trénování liší tím, že při generování každého dalšího tokenu musí opakovaně pracovat s parametry modelu i rostoucí pamětí kontextu, takzvanou KV cache. Hlavní překážkou proto není jen výpočetní výkon, ale zejména kapacita a propustnost paměti; GPU mohou při čekání na data zahálet. Výrobci hledají nové architektury, například těsnější vertikální propojení paměti a výpočtů nebo rozšíření paměti do větší vzdálenosti od akcelerátorů. Rostoucí poptávka zároveň vede k neobvyklým partnerstvím mezi velkými firmami a specializovanými výrobci čipů.