Firma Intel Corporation osiągnęła kamień milowy w zintegrowanej technologii fotonicznej do szybkiej transmisji danych. Podczas konferencji Optical Fiber Communication Conference (OFC) 2024, grupa Integrated Photonics Solutions (IPS) firmy Intel zademonstrowała najbardziej zaawansowany w branży i pierwszy w pełni zintegrowany optyczny interkonekt obliczeniowy (OCI) w pakiecie z procesorem Intela i danymi na żywo.
Chiplet OCI firmy Intel stanowi krok naprzód w zakresie połączeń o wysokiej przepustowości, umożliwiając jednoczesne pakowanie optycznego wejścia / wyjścia (I / O) w powstającej infrastrukturze sztucznej inteligencji dla centrów danyc i aplikacji obliczeniowych o wysokiej wydajności (HPC).
Stale rosnący przepływ danych z serwera do serwera obciąża możliwości dzisiejszej infrastruktury centrum danych, a obecne rozwiązania szybko zbliżają się do praktycznych granic wydajności elektrycznych I/O. Przełomowe osiągnięcie Intela umożliwia jednak klientom płynną integrację rozwiązań interkonektowych fotoniki krzemowej w systemach obliczeniowych nowej generacji. Nasz chiplet OCI zwiększa przepustowość, zmniejsza zużycie energii i zwiększa zasięg, umożliwiając akcelerację obciążeń ML, która obiecuje zrewolucjonizować wysokowydajną infrastrukturę sztucznej inteligencji. – Thomas Liljeberg, starszy dyrektor ds. zarządzania produktami i strategii, Grupa Integrated Photonics Solutions (IPS).
Co to robi?
Ten pierwszy chiplet OCI został zaprojektowany do obsługi 64 kanałów transmisji danych o przepustowości 32 gigabitów na sekundę (Gb/s) w każdym kierunku na światłowodach o długości do 100 metrów i ma sprostać rosnącym wymaganiom infrastruktury sztucznej inteligencji w zakresie wyższej przepustowości, niższego zużycia energii i większego zasięgu. Umożliwia przyszłą skalowalność łączności klastrów CPU/GPU i nowatorskich architektur obliczeniowych, w tym spójną rozbudowę pamięci i dezagregację zasobów.
Dlaczego ma to znaczenie?
Aplikacje oparte na sztucznej inteligencji są coraz częściej wdrażane na całym świecie, a ostatnie osiągnięcia w zakresie dużych modeli językowych (LLM) i generatywnej sztucznej inteligencji przyspieszają ten trend. Większe i bardziej wydajne modele uczenia maszynowego (ML) będą odgrywać kluczową rolę w spełnianiu pojawiających się wymagań obciążeń akceleracji AI. Potrzeba skalowania przyszłych platform obliczeniowych dla sztucznej inteligencji napędza wykładniczy wzrost przepustowości I/O i większy zasięg w celu obsługi większych klastrów jednostek przetwarzających (CPU / GPU / IPU) i architektur z bardziej wydajnym wykorzystaniem zasobów, takich jak dezagregacja xPU i łączenie pamięci.
Elektryczne I/O (tj. połączenia miedziane) obsługują wysoką gęstość przepustowości i niską moc, ale oferują tylko krótkie zasięgi wynoszące około jednego metra lub mniej. Wtykowe optyczne moduły nadawczo-odbiorcze stosowane w centrach danych i wczesnych klastrach AI mogą zwiększyć zasięg przy kosztach i poziomach mocy, które nie są zrównoważone z wymaganiami skalowania dla obciążeń AI. Rozwiązanie optycznego wejścia/wyjścia xPU w pakiecie może obsługiwać wyższe przepustowości z lepszą wydajnością energetyczną, niskimi opóźnieniami i większym zasięgiem – dokładnie to, czego wymaga skalowanie infrastruktury AI/ML.
Analogicznie, zastąpienie elektrycznego I/O optycznym I/O w procesorach CPU i układach GPU w celu przesyłania danych jest jak przejście od korzystania z powozów konnych do dystrybucji towarów, o ograniczonej pojemności i zasięgu, do korzystania z samochodów i ciężarówek, które mogą dostarczać znacznie większe ilości towarów na znacznie większe odległości. Ten poziom zwiększonej wydajności i kosztów energii jest tym, co rozwiązania optyczne I/O, takie jak pojawiający się chiplet OCI firmy Intel, wnoszą do skalowania sztucznej inteligencji.
Jak to działa?
W pełni zintegrowany chiplet OCI wykorzystuje sprawdzoną w praktyce technologię fotoniki krzemowej Intela i integruje krzemowy fotoniczny układ scalony (PIC), który obejmuje lasery i wzmacniacze optyczne na chipie, z elektrycznym układem scalonym. Chiplet OCI zademonstrowany na OFC został zapakowany razem z procesorem Intela, ale może być również zintegrowany z procesorami nowej generacji, procesorami graficznymi, jednostkami IPU i innymi systemami na chipie (SOC).
Ta pierwsza implementacja OCI obsługuje dwukierunkowy transfer danych o przepustowości aż do 4 terabitów na sekundę (Tbps), kompatybilny z peripheral component interconnect express (PCIe) Gen5. Łącze optyczne na żywo prezentuje połączenie nadajnika (Tx) i odbiornika (Rx) między dwiema platformami CPU za pośrednictwem jednomodowego kabla światłowodowego (SMF). Procesory wygenerowały i zmierzyły optyczną bitową stopę błędów (BER), a demo ukazuje widmo optyczne Tx z 8 długościami fal w odstępach 200 gigahertzów (GHz) na pojedynczym włóknie, , wraz z wykresem oka Tx 32 Gb / s ilustrującym wysoką jakość sygnału.
Obecny chiplet obsługuje 64 kanały danych o przepustowości 32 Gb/s w każdym kierunku na odległość do 100 metrów (choć praktyczne zastosowania mogą być ograniczone do kilkudziesięciu metrów ze względu na opóźnienia w czasie przelotu), wykorzystując osiem par włókien, z których każda przenosi osiem długości fal DWDM (dense wavelength division multiplexing). Pakietowe rozwiązanie jest również niezwykle energooszczędne, zużywając zaledwie 5 pikodżuli (pJ) na bit w porównaniu z podłączanymi optycznymi modułami nadawczo-odbiorczymi, które zużywają około 15 pJ/bit.
Ten poziom hiper-wydajności ma kluczowe znaczenie dla centrów danych i wysokowydajnych środowisk obliczeniowych i może pomóc w rozwiązaniu niezrównoważonych wymagań energetycznych sztucznej inteligencji.
O wiodącej pozycji firmy Intel w dziedzinie fotoniki krzemowej
Jako lider rynku fotoniki krzemowej, Intel wykorzystuje ponad 25 lat wewnętrznych badań prowadzonych przez Intel Labs, które było pionierem zintegrowanej fotoniki. Intel był pierwszą firmą, która opracowała i dostarczyła produkty łączności oparte na fotonice krzemowej o wiodącej w branży niezawodności w dużych ilościach do głównych dostawców usług w chmurze.
Głównym wyróżnikiem firmy Intel jest niezrównana integracja przy użyciu hybrydowej technologii laser-on-wafer i bezpośredniej integracji, która zapewnia wyższą niezawodność i niższe koszty. To unikalne podejście umożliwia Intelowi dostarczanie najwyższej wydajności przy jednoczesnym zachowaniu efektywności. Solidna, wysokonakładowa platforma Intela może pochwalić się dostarczeniem ponad 8 milionów układów PIC z ponad 32 milionami zintegrowanych laserów na chipie, wykazując wskaźnik awarii lasera w czasie (FIT) poniżej 0,1. Jest to powszechnie stosowana miara niezawodności, która reprezentuje wskaźniki awaryjności i liczbę występujących awarii.
Te układy PIC zostały zapakowane w podłączane moduły nadawczo-odbiorcze, wdrożone w dużych sieciach centrów danych u głównych dostawców usług chmurowych w hiperskali dla aplikacji 100, 200 i 400 Gbps. Układy PIC nowej generacji o przepustowości 200 Gb/s do obsługi nowych aplikacji o przepustowości 800 Gb/s i 1,6 Tb/s są obecnie opracowywane.
Intel wdraża również nowy węzeł procesowy fotoniki krzemowej z najnowocześniejszą wydajnością urządzeń (SOA), większą gęstością, lepszym sprzężeniem i znacznie lepszą ekonomią. Intel kontynuuje postępy w zakresie wydajności laserów i SOA, kosztów (redukcja powierzchni matrycy powyżej 40%) i mocy (redukcja powyżej 15%).
Co dalej?
Obecny chip Intel OCI jest prototypem. Intel współpracuje z wybranymi klientami w celu wspólnego pakowania OCI z ich systemami na chipie (SOC) jako optycznym rozwiązaniem I/O.
Chiplet OCI firmy Intel stanowi krok naprzód w szybkiej transmisji danych. Wraz z ewolucją infrastruktury AI, Intel pozostaje w czołówce, napędzając innowacje i kształtując przyszłość łączności.
