VMware Cloud na AWS-u dobiva virtualizirane grafičke procesore kako se tvrtka udružuje s Nvidijom

Nvidia

Budući da su AI i strojno učenje sve neophodniji dio modernog računarstva, Nvidijine poslovne osnove ostaju jake. Predvodili su svoj napor da budu istaknuta snaga u poslu poslužitelja u kovanju partnerstava s više tehnoloških tvrtki. Nedavno su Nvidia i VMware najavili povezivanje koje će dovesti Nvidijin vGPU (Virtual GPU Technology) u vMwareov vSphere stog na AWS-u.

GPU-ovi su dizajnirani s računalom paralelno s podacima, što ubrzava vektorske i matrične operacije. To ih čini idealnim za AI radna opterećenja.

Ranije ograničena samo na CPU, AI radna opterećenja sada se lako mogu rasporediti u virtualizirana okruženja poput VMware vSphere s novim vComputeServer softver i NVIDIA NGC . Kroz naš partnerstvo s VMwareom , ova će arhitektura pomoći organizacijama da bez problema premještaju AI radna opterećenja na GPU-ove između korisničkih podatkovnih centara i VMware Cloud na AWS-u.

- ANNE HECHT (Nvidia)

GPU-ubrzana radna opterećenja često se izvode na fizičkim poslužiteljima s jednim stanarom, ali s vComputeServer tvrtke mogu pokretati AI radna opterećenja u virtualiziranom okruženju, što nudi veću fleksibilnost i novčane uštede (do određene razmjere). Nvidia već podržava nekoliko hipervizora temeljenih na KVM-u, uključujući Red Hat i Nutanix. VMwareov vSphere najnoviji je dodatak.

Značajke vComputeServer uključuju:

• Učinak GPU-a: Do 50 puta brži trening dubokog učenja od samo CPU-a, slične performanse kao pokretanje GPU-a na golom metalu.
• Napredno izračunavanje: Kôd za ispravljanje pogrešaka i dinamično povlačenje stranice sprječavaju oštećivanje podataka zbog visokih točnosti radnih opterećenja.
• Migracija uživo: Virtualni strojevi s omogućenim GPU-om mogu se migrirati s minimalnim prekidima ili zastojima.
• Povećana sigurnost: Poduzeća mogu proširiti sigurnosne prednosti virtualizacije poslužitelja na GPU klastere.
• Izolacija više stanara : Radna opterećenja mogu se izolirati kako bi se sigurno podržavalo više korisnika na jednoj infrastrukturi.
• Upravljanje i praćenje : Administratori mogu koristiti iste alate za virtualizaciju hipervizora za upravljanje GPU poslužiteljima, s vidljivošću na razini hosta, virtualnog stroja i aplikacije.
• Širok raspon podržanih grafičkih procesora: vComputeServer je podržan na NVIDIA T4 ili V100 GPU-ima, kao i Quadro RTX 8000 i 6000 GPU-ovi, kao i prethodne generacije Pascal-arhitekture P40, P100 i P60 GPU-ovi.

- Nvidia

Korisnici VMware vSphere dobit će i podršku za Nvidia GPU Cloud, koja je GPU-ubrzana cloud platforma optimizirana za duboko učenje i znanstveno računanje. Anne Hecht iz Nvidije piše “ NVIDIA NGC , naše središte softvera za dubinsko učenje, strojno učenje i HPC optimiziran za GPU, nudi preko 150 spremnika, unaprijed obučenih modela, skripti za obuku i tijekove rada kako bi se AI ubrzao od koncepta do proizvodnje, uključujući BRZI , naš CUDA-ubrzani softver za znanost o podacima ”.

VMware partnerstvo usklađeno s nedavnom akvizicijom

VMware će nabaviti Bitfusion, što će dodati veliku vrijednost svojoj vSphere cloud platformi. Kao što smo raspravljali ranije u članku, virtualizacija tvrtkama može ponuditi puno prednosti uz minimalan učinak. S tehnologijom Bitfusion tvrtke će se moći odmaknuti od golo-metalnih poslužitelja i virtualizirati svoje GPU-ove, jer takav aranžman može rezultirati boljim iskorištavanjem raspoloživih resursa. S ubrzanim računanjem koje zauzima središnje mjesto, tvrtke će tražiti načine za virtualiziranje svog hardverskog stoga, VMware je toga svjestan i kreće u to da vSphere platforma postane vitalna u podatkovnim centrima.