Nvidia hevder 50 prosent raskere lagring av KI
Selskapet sier en kombinasjon av ethernet-svitsjen Spectrum-X og Bluefield-3 SuperNIC smart nettverkskort gjør det mulig å lagre raskere. Linken til kunstig intelligens, er at store språkmodeller krever flytting av store datamengder til grafikkprosessorene (GPU). Det kan fort skape flaskehalser der GPU-ene venter på data. Svitsjen leverer porter som takler 64.800 Gbit/s for opptil 51,2 Tbit/s total båndbredde. Nvidia sier de sender data over den minst belastede nettverksruten for å redusere flaskehalser.
Utfordringen da er at datapakker kan nå fram til destinasjonen på ulike tidspunkt. Bluefield-3 DPU kjenner den korrekte rekkefølgen og kan sette datastrømmen sammen korrekt. Normalt ville en slik metode krevd å sende ethernet-pakker på nytt. Dermed økes hastigheten, skriver Networkworld.
