Amazon gaat Nvidia-technologie gebruiken in AI-chips en introduceert nieuwe servers

In dit artikel:

AWS, de cloudtak van Amazon, kondigde op 2 december tijdens zijn grote re:Invent-conferentie in Las Vegas aan dat het Nvidia-technologie zal integreren in toekomstige generaties van eigen AI-trainingschips. Een nog te verschijnen chip, Trainium4, krijgt ondersteuning voor Nvidia’s NVLink Fusion — een snelle interconnect die meerdere chips efficiënter met elkaar verbindt en cruciaal is bij het trainen van zeer grote AI-modellen. NVLink wordt al opgepikt door andere chipfabrikanten zoals Intel en Qualcomm.

Tegelijkertijd rolde AWS direct nieuwe servers uit op basis van Trainium3; die systemen bevatten elk 144 chips, leveren volgens AWS ruim vier keer meer rekenkracht dan de vorige generatie en verbruiken ongeveer 40% minder energie. AWS zegt met zulke verbeteringen en concurrerende prijsstelling te willen aantonen dat klanten voor hun eigen chips kunnen kiezen in plaats van alleen voor aanbieders als Nvidia.

Als onderdeel van de samenwerking krijgen klanten ook toegang tot zogenoemde “AI Factories”: exclusieve AI-infrastructuur in hun datacenters voor snellere verwerking en betere beschikbaarheid. De aankondigingen zijn gericht op het binnenhalen van grote AI-klanten en het versnellen van de bouw van schaalbare AI-omgevingen waarin duizenden machines efficiënt moeten samenwerken. Amazon verwacht tijdens de conferentie ook nieuwe versies van zijn Nova-AI-model te presenteren.