VMware Cloud on AWS får virtualiserte GPUer ettersom selskapet samarbeider med Nvidia

Teknisk / VMware Cloud on AWS får virtualiserte GPUer ettersom selskapet samarbeider med Nvidia 2 minutter lest

Nvidia



Med AI og maskinlæring som en stadig viktigere del av moderne databehandling, er Nvidias forretningsgrunnlag fortsatt sterkt. De har stått i spissen for å være en fremtredende styrke i servervirksomheten og skape partnerskap med flere teknologiske selskaper. Nylig kunngjorde Nvidia og VMware en tilknytning, som vil bringe Nvidias vGPU (Virtual GPU Technology) til VMwares vSphere-stack på AWS.

GPUer er designet med tanke på dataparallell databehandling, som akselererer vektor- og matriseoperasjoner. Dette gjør dem ideelle for AI-belastninger.



Tidligere begrenset til kun CPU, kan AI-arbeidsbelastninger nå enkelt distribueres i virtualiserte miljøer som VMware vSphere med nye vComputeServer programvare og NVIDIA NGC . Gjennom vår partnerskap med VMware , vil denne arkitekturen hjelpe organisasjoner med å sømløst migrere AI-arbeidsbelastninger på GPUer mellom kundedatasentre og VMware Cloud på AWS.



- ANNE HECHT (Nvidia)



GPU-akselerert arbeidsbelastning kjøres ofte på fysiske servere med en leietaker, men med vComputeServer-selskaper kan kjøre AI-arbeidsbelastninger i et virtualisert miljø, dette gir mer fleksibilitet og økonomiske besparelser (opp til en viss skala). Nvidia støtter allerede noen få KVM-baserte hypervisorer, inkludert Red Hat og Nutanix. VMwares vSphere er det siste tilskuddet.

Funksjonene til vComputeServer inkluderer:

  • GPU-ytelse: Opptil 50 ganger raskere dyplæringstrening enn bare CPU, tilsvarende ytelse som å kjøre GPU på bart metall.
  • Avansert beregning: Feilkorrigerende kode og dynamisk pensjonering av sider forhindrer korrupsjon av data for arbeidsnøyaktigheter med høy nøyaktighet.
  • Live migrasjon: GPU-aktiverte virtuelle maskiner kan overføres med minimal forstyrrelse eller nedetid.
  • Økt sikkerhet: Bedrifter kan utvide sikkerhetsfordelene ved servervirtualisering til GPU-klynger.
  • Multi-leietaker isolasjon : Arbeidsbelastninger kan isoleres for å støtte flere brukere på en enkelt infrastruktur på en sikker måte.
  • Styring og overvåking : Administratorer kan bruke de samme hypervisor-virtualiseringsverktøyene til å administrere GPU-servere, med synlighet på verts-, virtuell maskin- og app-nivå.
  • Bredt utvalg av støttede GPUer: vComputeServer støttes på NVIDIA T4 eller V100 GPUer, så vel som Quadro RTX 8000 og 6000 GPUer, og tidligere generasjoner av Pascal-arkitektur P40, P100 og P60 GPUer.

- Nvidia



VMware vSphere-brukere vil også få Nvidia GPU Cloud-støtte, som er en GPU-akselerert skyplattform optimalisert for dyp læring og vitenskapelig databehandling. Anne Hecht fra Nvidia skriver “ NVIDIA NGC , vårt knutepunkt for GPU-optimalisert programvare for dyp læring, maskinlæring og HPC, tilbyr over 150 containere, forhåndstrente modeller, opplæringsskript og arbeidsflyter for å akselerere AI fra konsept til produksjon, inkludert RAPIDS , vår CUDA-akselererte datavitenskapsprogramvare ”.

VMware-partnerskap i tråd med nylig innkjøp

VMware skal anskaffe Bitfusion, som vil gi mye verdi til sin vSphere-skyplattform. Som vi diskuterte tidligere i artikkelen, kan virtualisering tilby selskaper mange fordeler med et minimum av ytelseshit. Med Bitfusions teknologi vil bedrifter kunne bevege seg vekk fra bare-metall-servere og virtualisere GPU-ene sine, ettersom en slik ordning kan resultere i bedre utnyttelse av tilgjengelige ressurser. Med akselerert databehandling som tar sentralt, vil selskaper se etter måter å virtualisere maskinvarestakken sin, er VMware godt klar over dette, og de beveger seg for å gjøre vSphere-plattformen viktig i datasentre.

Merker nvidia