NVLink nədir? Necə işləyir, bant genişliyi və GPU istifadələri
2026-07-31 1259

Müasir çox GPU sistemləri yalnız xam GPU performansına deyil, daha çox şeyə əsaslanır. Prosessorların məlumat mübadiləsini, yaddaşa müraciətini və birgə işini nə qədər sürətli etdikləri ümumi sürətə böyük təsir göstərə bilər. Bu məqalə NVLink bant genişliyini və nəsillərini izah edir, NVLink-i PCIe və NVSwitch ilə müqayisə edir, GPU yaddaşına giriş və NVLink-C2C-ni əhatə edir və NVLink-in AI və HPC iş yükündə necə istifadə edildiyini göstərir. Həmçinin, NVLink-in performansı necə artıracağına və PCIe-in nə vaxt yetərli olacağına qərar verməyə kömək edir.

Kataloq

NVLink nədir?

NVLink NVIDIA-nın yüksək sürətli əlaqə texnologiyasıdır ki, bu, sürətlənmiş hesablama sistemlərində GPU-lar və digər prosessorlar arasında məlumat transferini təmin edir. Onun əsas məqsədi, bir neçə prosessorun böyük miqdarda məlumat mübadiləsi etməsi lazım olduqda ünsiyyət boğulmalarını azaltmaqdır.

Çox prosessorlu sistemlərdə, performans bu cihazlar arasında məlumatın nə qədər tez hərəkət etməsindən asılı ola bilər. NVLink yüksək bant genişliyi, aşağı gecikmə ilə ünsiyyət yolu təmin edir ki, bu da transfer gecikmələrini azaldır və bağlı prosessorların məlumat mübadiləsini daha səmərəli şəkildə həyata keçirməyə kömək edir.

NVLink necə işləyir?

Şəkil 2. NVLink GPU-dan GPU-ya Kommunikasiya Yolu

NVLink yüksək sürətli kommunikasiya yolu yaradır uyğun GPU-lar və digər prosessorlar arasında. İki GPU-nun məlumat mübadiləsi etməsi lazım olduqda, peer-to-peer erişimi, məlumatların hər transferin CPU yaddaşı vasitəsilə göndərilməsi əvəzinə birbaşa onların yaddaş sahələri arasında hərəkət etməsinə imkan tanaya bilər.

NVLink iki istiqamətli kommunikasiya dəstəkləyir, beləliklə məlumat bağlı prosessorlar arasında hər iki istiqamətdə hərəkət edə bilər. Birdən artıq NVLink bağlantısı da birlikdə işləyə bilər və prosessorlar arasında məlumat transferləri üçün daha geniş bir yol təmin edir.

NVLink bu ünsiyyət üçün fiziki yolu təmin edir, eyni zamanda proqram təminatı bu yolun necə və nə vaxt istifadə ediləcəyini müəyyən edir. CUDA, cihaz sürücüləri, NCCL və tətbiq transferləri idarə edir. Peer erişimi dəstəkləndikdə və aktiv olduqda, bir GPU digər GPU-nun yaddaşına mövcud NVLink bağlantısı vasitəsilə oxuya, yaza və ya məlumat köçürə bilər.

NVLink nəsilləri və bant genişliyi

NVLink bant genişliyi hər əsas NVIDIA GPU arxitekturası ilə artırılıb. Birinci nəsil NVLink, dörd NVLink bağlantısını və hər GPU üçün 160 GB/s-ə qədər toplam iki istiqamətli bant genişliyini dəstəkləyən Pascal-a əsaslanan Tesla P100 ilə ortaya çıxdı. Volta V100 bunu altı bağlantıya və hər GPU üçün 300 GB/s-ə qədər artırdı.

Üçüncü nəsil NVLink Ampere A100 ilə gəldi. A100, 12 NVLink bağlantısını və hər GPU üçün 600 GB/s-ə qədər toplam iki istiqamətli bant genişliyini dəstəkləyir. Hopper H100 bağlantıların sayını 18-ə qədər artıraraq dördüncü nəsil NVLink bant genişliyini hər GPU üçün 900 GB/s-ə qaldırdı.

Beşinci nəsil NVLink Blackwell ilə gəldi, toplam iki istiqamətli bant genişliyini hər GPU üçün 1.8 TB/s-ə artırdı. Altıncı nəsil NVLink, Rubin platforması ilə əlaqəli olaraq maksimumu 36 bağlantıya və hər GPU üçün 3.6 TB/s-ə qədər artırır.

NVLink Nəsil	NVIDIA Arxitektura	Nümunə GPU və ya Platforma	Maksimum GPU-başına Linklər	Maksimum İki Tərəfli Bant Genişliyi üzrə GPU
NVLink 1	Pascal	P100	4	160 GB/s
NVLink 2	Volta	V100	6	300 GB/s
NVLink 3	Ampere	A100	12	600 GB/s
NVLink 4	Hopper	H100	18	900 GB/s
NVLink 5	Blackwell	Blackwell GPU-ları	18	1.8 TB/s
NVLink 6	Rubin	Rubin platforması	36	3.6 TB/s

Hər Link üçün NVLink Bant Genişliyi vs Cəmi Bant Genişliyi

Hər bir link üzrə bant genişliyi və GPU başına cəmi bant genişliyi fərqli dəyərləri təsvir edir. Bir GPU bir neçə NVLink bağlantısına sahib ola bilər, beləliklə cəmi bant genişliyi GPU başına dəstəklənən bütün əlaqələrdən əldə olunan bant genişliyini birləşdirir.

Məsələn, H100-də 18 NVLink 4 bağlantısı var. Hər bir bağlantı 50 GB/s iki tərəfli bant genişliyi təmin edir, bu da GPU başına maksimum 900 GB/s-dən ibarətdir. Blackwell 100 GB/s iki tərəfli bant genişliyi olan 18 NVLink 5 bağlantısından istifadə edir ki, bu da GPU başına 1.8 TB/s-ə qədər istehsal edir.

Bu rəqəmlər maksimum interfeys bant genişliyini təsvir edir. İki GPU arasında əsl bant genişliyi aktiv bağlantıların sayı, sistem topologiyası və avadanlıq konfiqurasiyasından asılı olaraq daha aşağı ola bilər. NVLink spesifikasiyalarını oxuyarkən, həmişə dəyərin bir bağlantıya, bir GPU-ya və ya tam NVLink parça fabrikinə aid olub olmadığını yoxlayın.

NVLink vs PCIe vs NVSwitch

Şəkil 3. NVLink vs PCIe vs NVSwitch Müqayisəsi

NVLink, PCIe və NVSwitch GPU sistemləri içində məlumatı hərəkət etdirirlər, lakin fərqli rollar oynayırlar. PCIe GPU-ları və digər cihazları ev sahibi sistemə bağlayan ümumi məqsədli interfeysdir. NVLink dəstəklənən NVIDIA prosessorları arasında yüksək sürətli kommunikasiya təmin edir, NVSwitch isə daha böyük GPU qruplarını paylaşılmış switching parça vasitəsilə bağlamaq üçün NVLink ilə işləyir.

Xüsusiyyət	NVLink	PCIe	NVSwitch
Nədir	Yüksək sürətli prosessor bağlantısı	Ümumi məqsədli sistem interfeysi	NVLink ilə istifadə olunan switching parça
Əsas məqsəd	Dəstəklənən GPU-lar və prosessorlar arasında sürətli kommunikasiya	GPU-ları, SSD-ləri, NIC-ləri və digər cihazları sistemə bağlayın	Bir parça vasitəsilə bir çox NVLink-ə mümkün GPU-ları birləşdirir
GPU-dan GPU-ya kommunikasiya	Yüksək bant genişliyi peer kommunikasiya təmin edir	GPU-dan GPU-ya transferləri dəstəkləyir, lakin performans PCIe topologiyasından asılıdır	Bir neçə GPU arasında NVLink trafikini yönləndirir
Məlumat yolu	Birbaşa prosessor bağlantıları və ya NVSwitch vasitəsilə bağlantılar	Trafik PCIe kök kompleksləri və switchlər vasitəsilə hərəkət edir	NVLink-ə qoşulmuş GPU-lar arasında switching yolları təmin edir
Gecikmə	Aşağı gecikməli prosessor kommunikasiya üçün nəzərdə tutulmuşdur	Ümumi I/O üçün uyğundur, lakin GPU-dan GPU-ya yollar daha çox sistem infrastrukturunu əhatə edə bilər	Switching əlavə edir, eyni zamanda GPU-ları yüksək sürətli NVLink yolları vasitəsilə birləşdirir
Topologiya	Birbaşa nöqtədən nöqtəyə bağlantılar və ya NVSwitch-ə bağlantılar	CPU kök kompleksləri və PCIe switchləri	Switching, yüksək əlaqəli GPU parçası
Uyğunluq	Dəstəklənən NVIDIA avadanlığı tələb edir	Geniş sənaye standartı dəstəyi	Dəstəklənən NVIDIA NVLink platformaları tələb edir
Ən yaxşı uyğun	Kommunikasiya yoğun çox-GPU sistemləri	Məhdud GPU-dan GPU-ya trafik olan tək-GPU sistemlər və iş yükü	Bir çox GPU-nun tez-tez kommunikasiya etməsi lazım olan böyük sistemlər
Əsas məhdudiyyət	Uyğun NVIDIA avadanlığı və platformaları ilə məhdudlaşır	Aşırı GPU iş yükündə boğulma yaradaraq bottleneck ola bilər	Avadanlıq xərclərinin artması və sistemin mürəkkəbliyi

Sadə dildə, PCIe cihazları sistemi ilə birləşdirir, NVLink yüksək sürətli prosessor-üçün-prosessor kommunikasiya təmin edir və NVSwitch NVLink-i daha böyük GPU konfiqurasiyalarına genişləndirir. NVSwitch, GPU trafikini daşımaq üçün NVLink bağlantılarına ehtiyac duyduğundan NVLink-in əvəzləyicisi deyil.

GPU-dan GPU-ya kommunikasiya məhdud olduqda PCIe kifayət edə bilər. NVLink GPU-lar məlumat mübadiləsi etdikdə daha faydalı olur, NVSwitch isə əksərən bir çox NVLink-ə imkan verən GPU-ların eyni sistemdə genişlənə bilən kommunikasiya ilə əlaqələndirildiyi zaman istifadə olunur.

NVLink GPU yaddaşını birləşdirirmi?

NVLink bir neçə GPU-nun VRAM-ını bir daha böyük fiziki yaddaş sahəsinə avtomatik birləşdirmir. Hər biri 80 GB yaddaşa sahib iki GPU hələ də ayrı-ayrı 80 GB yaddaş sahələrinə malikdir, 160 GB-lik yerli VRAM olan bir GPU halına gəlmir.

Hər hansı bir avadanlıq və topologiya bunu dəstəklədikdə, CUDA peer-to-peer yaddaş erişimi bir GPU-nun digər GPU-nun yaddaşına erişim etməsinə imkan verir. Bir GPU peer yaddaşdan oxuya, yazıya bilər və ya verilənləri CPU yaddaşı vasitəsilə ilk olaraq keçirmədən kopyalaya bilər. NVLink bu köçürmələr üçün yüksək bant genişliyi təmin edir, əgər GPU-lar onun vasitəsilə qoşulmuşdursa.

Lakin, uzaq GPU yaddaşı hələ də fiziki olaraq digər GPU-ya bağlıdır. Proqram təminatı hələ də verilənlərin harada saxlanıldığını, hansı GPU-nun ona erişim etdiyini və verilənlərin kopyalanıb-kopyalanmayacağını və ya uzaqdan erişim edilməli olduğunu müəyyən edir. CUDA Unified Memory cihazlar arasında yaddaş erişimini sadələşdirə bilər, lakin bu, GPU yaddaşı arasındakı fiziki ayrılığı aradan qaldırmır.

Bu səbəbdən, yaddaşın tuğsi multi-GPU sistemlərdə hələ də əhəmiyyətlidir. Uzaq GPU yaddaşına tez-tez erişim performansa təsir edə bilər, NVLink daha sürətli bir əlaqə təmin etsə də.

NVLink-C2C NVLink-i Çipdən-Çipə Bağlantılara Genişləndirir

Şəkil 4. CPU və GPU arasında NVLink-C2C Bağlantısı

NVLink-C2C NVIDIA NVLink-i board səviyyəli prosessor bağlantılarından qısa çipdən-çipə bağlantılara genişləndirir. Bu, CPU-ları, GPU-ları və digər uyğun prosessor die-lərini bir-biri ilə məlumat mübadiləsi etməyə imkan tanıyan sıx inteqrasiya olunmuş bir əlaqə vasitəsilə birləşdirə bilər.

Dəstəklənən koherensiyalı NVLink-C2C platformalarında, qoşulmuş prosessorlar da yaddaşın ardıcıl görünüşünü təmin edə bilərlər. Məsələn, Grace Hopper NVLink-C2C-ni Grace CPU və Hopper GPU arasında istifadə edir, bu da hər iki prosessorun əlaqə vasitəsilə yaddaşa erişim etməsinə imkan tanıyır, eyni zamanda onların fiziki yaddaşı ayrı qalır.

Əsas fərq hər bir texnologiyanın harada istifadə edilməsidir. Standart NVLink, adətən ayrı GPU-ları birləşdirir və ya GPU-ları board və ya sistem səviyyəsində NVSwitch-yə qoşur. NVLink-C2C, eyni yüksək sürətli interkonekt konsepsiyasını prosessorların özlərinə daha yaxın gətirir, bu onu CPU-dan GPU-ya, CPU-dan CPU-ya və digər sıx inteqrasiya olunmuş çipdən-çipə bağlantılar üçün uyğun edir.

NVLink AI və Multi-GPU İş Yükleri Üçün

NVLink bir neçə GPU eyni iş yükü ilə işlədikdə və tez-tez məlumat mübadiləsi etdikdə ən faydalıdır. Bu sistemlərdə performans yalnız GPU hesablama sürəti ilə deyil, eyni zamanda verilənlərin sürətlə bir-biri ilə mübadiləsindən asılıdır.

AI təlimi zamanı, GPU-lar gradientlər, parametrlər, aktivləşdirmələr və ara nəticələri mübadilə edə bilər. NVIDIA NCCL bu köçürmələrin bir çoxunu AllReduce, AllGather, ReduceScatter, Broadcast və nöqtə-nöqtə kommunikasiya kimi əməliyyatlar vasitəsilə idarə edir.

Tensor paralelliyi tez-tez kommunikasiya yaradır, çünki eyni hesablamanın hissələri müxtəlif GPU-larda işləyir və qismən nəticələr mübadilə edilməlidir ki, emal davam edə bilsin. Model paralelliyi də verilənləri GPU-lar arasında köçürür, çünki modelin müxtəlif hissələri emal olunarkən.

Multi-GPU LLM çıxarılması böyük bir model bir neçə GPU-nun arasında bölündükdə bənzər tələblərə malikdir. Əgər bir GPU başqa GPU-dan verilənləri gözləməli olsa, kommunikasiya gecikmələri ümumi hasilatı azalda bilər.

Elmi simulyasiyalar, hesablamalı maye dinamikası və molekulyar modelleme kimi HPC iş yükleri də GPU-lar arasında sərhəd verilənləri, qismən nəticələri və sinxronizasiya məlumatlarını mübadilə edir. Daha sürətli GPU-dan-GPU-ya köçürmələr bu gözləmə vaxtını azalda bilər və iş yükünün daha səmərəli işləməsinə kömək edər.

kommunikasiya-yüklü iş yükleri üçün, NVLink GPU-ların verilən mübadiləsi üçün sərf etdiyi vaxtı azalda bilər və multi-GPU sistemlərinin daha səmərəli olaraq genişlənməsinə kömək edər.

NVLink-ə Nə Zaman Ehtiyacınız Var?

NVLink bir neçə GPU eyni vəzifə üzərində işlədikdə və tez-tez məlumat mübadiləsi etdikdə uyğun olur. GPU-dan-GPU-ya kommunikasiya iş yükünü yavaşladığında və sistem NVLink-i dəstəklədikdə kömək edə bilər.

NVLink daha üstün seçimdir:

• Bir neçə GPU bir iş yükü üzrə birlikdə işləyir

• GPU-lar arasında böyük miqdarda verilənlər köçürülür

• GPU kommunikasiya performansı məhdudlaşdırır

• GPU-lar və platforma NVLink-i dəstəkləyir

• Proqram təminatı multi-GPU kommunikasiya istifadə edə bilir

PCIe aşağıdakı hallarda kifayət edə bilər:

• Sistem yalnız bir GPU istifadə edir

• Bir neçə GPU ayrı vəzifələri yerinə yetirir

• GPU-dan-GPU-ya trafik aşağıdır

• PCIe artıq tələb olunan performansı təmin edir

• Aşağı xərclər və daha geniş avadanlıq dəstəyi daha vacibdir

Xərc və sistem dizaynı da əhəmiyyətlidir. NVLink dəstəkləyən sistemlər dəstəklənən GPU-ları, düzgün sistem topologiyasını, əlavə keçidləri, həmçinin daha böyük konfiqurasiyalarda daha çox enerji və soyutma tələb edə bilər.

Ümumiyyətlə, NVLink GPU-lar arasında kommunikasiya açıq performans məhdudiyyəti olduqda ən faydalıdır. Əgər GPU-lar nadir hallarda verilənləri mübadilə edirlərsə və ya PCIe artıq kifayət qədər bant genişliyi təmin edirsə, NVLink xərcləri və mürəkkəbliyi artıraraq açıq bir performans artımı olmadan əlavə edə bilər.