Serija procesora AMD EPYC 9006 šeste generacije, kodnog naziva „Venice”, označava odlučan arhitektonski zaokret u oblasti računarstva visokih performansi. Dok je peta generacija procesora EPYC donela značajnu, 10.1 puta veću propusnost u odnosu na prvu generaciju, „Venice” taj rezultat podiže na impresivnih 18 puta veću propusnost. Takve performanse nisu rezultat pukog povećanja frekvencije, već onoga što glavni arhitekta Majk Klark (Mike Clark) naziva „točkom performansi”.
Arhitekte u AMD-u moraju da usklade četiri ključna, često međusobno suprotstavljena projektna faktora:
- Broj instrukcija po taktu (IPC): Maksimizovanje obima logičkih operacija i rada obavljenog u svakom taktu.
- Frekvencija: Postizanje visokih taktnih frekvencija bez ugrožavanja stabilnosti ili prekoračenja dozvoljenog kašnjenja logičkih kola.
- Površina: Upravljanje fizičkom površinom silicijuma kako bi se obezbedila velika gustina kola.
- Potrošnja energije: Optimizovanje potrošnje kako bi ostala u okviru strogih toplotnih ograničenja.
U generaciji „Venice” ovi faktori su prilagođeni specifičnim ograničenjima na nivou sistema u eri agentske veštačke inteligencije. Pritom u prvi plan dolaze tradicionalna uska grla: memorijska propusnost i gustina snage u serverskim ormarima, posebno u okruženjima sa snagom od 100 kW po ormaru.
Srce zveri: jezgra Zen 6 i Zen 6c
AMD nastavlja strategiju optimizacije u dva pravca, koristeći isti RTL i istu softversku osnovu kako bi zadovoljio različite potrebe data centara. Jedan od ključnih uvida iz „točka performansi” jeste da se za postizanje najviših ciljanih frekvencija jezgara Zen 6 dizajn mora „podeliti na manje celine” kako bi se ispunili zahtevi vremenskog usklađivanja, što neizbežno zahteva veću površinu. S druge strane, Zen 6c je usmeren na najveću moguću gustinu jezgara za radna opterećenja kod kojih je ključna propusnost.
Strategija keš memorije bez kompromisa. Na arhitektonskom nivou serija 9006 prelazi na model keš memorije „punog kapaciteta”. Za razliku od prethodnih generacija, u kojima se kapacitet L3 keš memorije povremeno prepolovljavao radi veće gustine, „Venice” za obe vrste jezgara kao osnovno arhitektonsko obeležje donosi punih 4 MB L3 keš memorije po jezgru. Time se obezbeđuje da i konfiguracije sa najvećom gustinom zadrže lokalnost podataka potrebnu za izvršavanje složenog koda sa brojnim grananjima.
Procesorske specifikacije
- Gustina jezgara: Do 256 fizičkih jezgara i 512 niti po procesorskom podnožju (Zen 6c).
- Performanse jezgara Zen 6: Do 96 jezgara optimizovanih za celobrojne operacije uz nisku latenciju.
- AMD 3D V-Cache™: Varijante sa proširenom keš memorijom nude do 1152 MB ukupnog kapaciteta L3 keš memorije.
- Dosledna primena SMT-a: Uprkos zaokretu dela industrije ka jezgrima sa jednom niti (Arm/Intel), AMD ostaje pri stavu da je istovremeno izvršavanje više niti (SMT) njegova „najbolja funkcionalnost u pogledu performansi po vatu i po jedinici površine”. U izolovanim izvršnim okruženjima agentske veštačke inteligencije, u kojima hiljade jednostavnih zadataka poput pozivanja alata i izvršavanja koda često čekaju završetak ulazno-izlaznih operacija, SMT omogućava procesorima „Venice” da iskoriste svaki ciklus rada tranzistora, efikasno pretvarajući periode čekanja u koristan rad.
Modularno skaliranje: arhitektura čipleta i osnove ulazno-izlaznog sistema
Serija 9006 zasniva se na razdvajanju računarskih čipleta (CCD) i ulazno-izlaznog čipa (IOD). Ovakva modularnost omogućava proizvodnju procesorskih jezgara u najnaprednijim proizvodnim procesima, dok IOD ostaje optimizovan za brza kola SerDes i povezivanje platforme.
Mogućnosti ulazno-izlaznog sistema
- PCIe® šeste generacije: 128 linija u jednoprocesorskoj konfiguraciji (1P) pri brzini od 64 Gbit/s, čime se udvostručuje propusnost u odnosu na prethodnu generaciju.
- CXL 3.1: Snažna podrška za proširenje memorije i objedinjavanje memorijskih resursa, ključna za obimna radna opterećenja koja koriste generisanje potpomognuto preuzimanjem podataka (RAG, engl. Retrieval-Augmented Generation).
- Infinity Fabric pete generacije: Održavanje koherentnosti pri velikim brzinama komunikacije između CPU-a i GPU-a putem xGMI-ja.
- Infinity Fabric over Ethernet (IFoE): Važan detalj za analitičare jeste da IFoE proširuje koncepte međusobnog povezivanja izvan procesorskog podnožja, na nivo serverskih ormara i grupa ormara, omogućavajući nesmetanu koordinaciju više čvorova u radnim procesima agentske veštačke inteligencije.
Memorijski podsistem: od LPDDR5X-a do MRDIMM-a
„Venice” uvodi obimnu memorijsku arhitekturu sa 16 kanala, koja podržava standardne module RDIMM i nove module MRDIMM usklađene sa standardom JEDEC. Pored toga, podržava i konfiguraciju memorije LPDDR5X sa 24 kanala putem modula SOCAMM2 koji se mogu zameniti na terenu, čime donosi do sada nedostignutu ravnotežu između gustine i potrošnje energije za zadatke veštačke inteligencije ograničene memorijskim resursima.
| Specifikacija | DDR5-8000 | MRDIMM-12800 |
| Maksimalna propusnost (po procesorskom podnožju) | ~1.0 TB/s | ~1.6 TB/s |
| Najveći kapacitet (po procesorskom podnožju) | Do 4 TB | Do 4 TB |
| Konfiguracija | 16 kanala | 16 kanala |
Tehnologija proširenja memorije (MEXT). MEXT odgovara na ekonomsku činjenicu da DRAM čini najveći deo troškova komponenti servera. Uz softversko upravljanje zasnovano na veštačkoj inteligenciji, MEXT raspoređuje podatke između sloja za često korišćene podatke (DRAM) i sloja za retko korišćene podatke (fleš memorija). Time arhitektama omogućava povećanje efektivnog memorijskog kapaciteta za ogromne skupove podataka uz kontrolu troškova i prikrivanje dodatne latencije fleš skladišta.
Za arhitekte data centara otpornost na greške ne sme biti predmet kompromisa. „Venice” koristi sveobuhvatnu arhitekturu za pouzdanost, raspoloživost i mogućnost servisiranja (RAS), po kojoj se razlikuje od memorijskih rešenja male potrošnje (LP). Konkretno, podsistemi DDR5 RDIMM i MRDIMM podržavaju potpuno ispravljanje grešaka u podacima izazvanih kvarom jednog memorijskog čipa. Ovaj nivo otpornosti ugrađene u arhitekturu nije moguć sa memorijskim tehnologijama male potrošnje, koje često daju prednost gustini na račun mogućnosti ispravljanja grešaka. Zbog toga je „Venice” stabilniji izbor za primenu u velikim grupama servera koji izvršavaju kritične zadatke.
Agentska veštačka inteligencija: prelazak na odnos CPU-a i GPU-a od 1 : 1
Oblast veštačke inteligencije razvila se od jednostavnog treniranja modela do radnih procesa agentske veštačke inteligencije koji uključuju pozivanje alata, proveru pravila i izvršavanje koda. Budući da ovi zadaci često sadrže brojna grananja i zahtevaju značajnu koordinaciju, CPU više nije sporedna komponenta. AMD predviđa da će čvorovi na kojima se izvršavaju agentski sistemi zahtevati odnos CPU-a i GPU-a od 1:1 kako CPU ne bi postao usko grlo zbog kojeg GPU ostaje bez posla.
Napredno matrično proširenje (ACE). Kako bi standardizovali ubrzavanje zadataka veštačke inteligencije, AMD i Intel su sarađivali na razvoju ACE-a (Advanced Matrix Extension). ACE je naslednik „koprocesorskog modela”, kakav primenjuje Intelov AMX. Budući da je ACE integrisan direktno u protočnu strukturu CPU-a, lakše se skalira u celom ekosistemu, od prenosnih računara male potrošnje do najnaprednijih serverskih procesora sa 256 jezgara. Time se izbegava fragmentacija skupa instrukcija koja je opterećivala starija vektorska proširenja poput AVX-512.
Zrelost ekosistema i prednost arhitekture x86
O zrelosti platforme EPYC svedoči njena primena u više od 450 OEM platformi i više od 1600 instanci u javnom oblaku. U okviru savetodavne grupe x86 Ecosystem Advisory Group, AMD i Intel obezbeđuju usklađen pravac razvoja softvera. Standardizacijom funkcionalnosti poput ACE-a i FRED-a grupa sprečava fragmentaciju, omogućavajući korisnicima da iskoriste velike ulazno-izlazne kapacitete i veliku gustinu jezgara procesora „Venice” bez skupog restrukturiranja softvera. „Venice” nije samo predvodnik po broju jezgara, već i uravnotežena, zrela platforma za najzahtevnije razdoblje računarstva.
