Azure: Microsoft kauft Tausende Nvidia-H100-GPUs Nvidia Azure
KI-Training im Fokus
Immer acht H100-GPUs kommunizieren untereinander per NV-Link; die Nodes sind über Nvidias NV-Switches und dem Quantum-2-InfiniBand des zugekauften Netzwerkspezialisten Mellanox miteinander verbunden. Die Hardware gibt eine Interconnect-Geschwindigkeit von 3,2 Tbit/s innerhalb einer Fat-Tree-Topologie her. Entsprechende SystemeAufgrund des Aufbaus lassen sich Instanzen nur in Blöcken von zwei CPUs und acht GPUs mieten.
Dank des flotten Interconnects zwischen den GPUs sollen die Instanzen auch große KI-Modelle trainieren können. Ein 8er-Verbund kommt auf 640 GByte flotten HBM2e-Speicher, hinzu kommt DDR5-RAM an zweimal acht Speicherkanälen der CPUs. Microsoft hat schon vor der Ankündigung die Trainings-Hardware für die ChatGPT-KI von OpenAI bereitgestellt – die Erfahrungen damit sollen nun in die ND H100 v5 VM eingeflossen sein.
Italia Ultime Notizie, Italia Notizie
Similar News:Puoi anche leggere notizie simili a questa che abbiamo raccolto da altre fonti di notizie.
Koalitionsverhandlungen in Berlin: CDU lässt Microsoft-Lobbyistin über Digitalisierung verhandelnSeit Jahren steht die Abhängigkeit der öffentlichen Verwaltung von Microsoft in der Kritik. Nun darf die deutsche Chef-Lobbyistin des US-Konzern in den Reihen der CDU die künftige Berliner Digital- und Verwaltungspolitik mit verhandeln. Das birgt erhebliche Interessenkonflikte.
Leggi di più »
Diablo 4: Der Microsoft-Deal weckte eine große Hoffnung, die nun erlischtWer darauf hofft, dass Diablo 4 im Game Pass landet, wird jetzt enttäuscht. Laut Activision Blizzard gibt’s dafür aktuell keine Pläne.
Leggi di più »
Weniger Kontrolle: Microsoft löst Team für 'Ethik und Gesellschaft' bei KI aufBei Microsoft war lange ein Team dafür zuständig, den Einbau von KI-Technik verantwortungsvoll zu gestalten. Ausgerechnet jetzt wurde es aber ganz aufgelöst.
Leggi di più »
Mit ChatGPT: Microsoft schraubt an neuer Bilderstellungs-KI🤖📷 Entwickler von Microsoft arbeiten derzeit an einer neuen KI zur Bilderstellung. Was unterscheidet Visual ChatGPT von Dall-E?
Leggi di più »
Neuer KI Index: Unendliche Chancen mit diesen 20 UnternehmenNvidia, Microsoft, Alphabet, Amazon: Sie alle haben KI längst auf dem Schirm. Klar – ihre Dienste greifen seit Jahren erfolgreich auf die Technologie zurück. Mit dem Hype um ChatGPT scheint künstliche Intelligenz jetzt salonfähig geworden zu sein.
Leggi di più »