Microsoft plant grote uitrol eigen AI-chips om kosten te besparen

In dit artikel:

Microsoft heeft maandag in San Francisco de Maia 300 onthuld, de derde generatie eigen AI-chip. Het bedrijf wil de processors vanaf volgend jaar op grote schaal inzetten voor interne AI-diensten, mogelijk in aantallen van meer dan een miljoen. De chip is bedoeld voor taken zoals programmeren en complexe zakelijke opdrachten en moet ook helpen de afhankelijkheid van Nvidia te verkleinen.

In tegenstelling tot Nvidia’s ontwerp met één grote rekenchip gebruikt Maia 300 meerdere gespecialiseerde chiplets. De belangrijkste daarvan worden geproduceerd met 2-nanometertechnologie van Taiwan Semiconductor Manufacturing Co.; goedkopere 3-nanometerchips verzorgen onder meer datatransport. Microsoft plaatst 96 Maia 300-processors in één rack, dat ongeveer 167 kilowatt verbruikt. Volgens het bedrijf levert het systeem per megawatt circa 40 procent meer bruikbare rekenkracht dan toonaangevende GPU-systemen, al maakte Microsoft niet bekend met welke systemen het precies vergeleek. Vanaf volgend jaar wil het bedrijf implementaties op meerdere gigawatts uitrollen, tegen de achtergrond van fors stijgende investeringen in AI-infrastructuur.