Exclusive: Google wil Nvidia's softwarevoorsprong aantasten met hulp van Meta
In dit artikel:
Alphabet-dochter Google ontwikkelt intern een project met de werktitel "TorchTPU" om zijn Tensor Processing Units (TPU’s) veel beter te laten samenwerken met PyTorch, het populairste AI-softwareframework. Doel is de afhankelijkheid van Nvidia’s GPU’s en zijn dominante CUDA-ecosysteem aan te tasten door de softwarebarrière weg te nemen die bedrijven ervan weerhoudt TPU’s eenvoudig in te zetten. Reuters berichtte hierover op 17 december op basis van bronnen die bij de zaak betrokken zijn.
Waarom: TPU‑verkopen zijn uitgegroeid tot een belangrijke groeimotor voor Google Cloud en het bedrijf wil investeerders overtuigen dat zijn AI-hardware rendeert. Veel klanten vinden echter het overstappen naar TPU’s kostbaar omdat Google intern vooral Jax en XLA gebruikt, terwijl de meeste externe AI‑ontwikkelaars PyTorch hanteren. Die kloof maakt het moeilijk om TPU‑prestaties even aantrekkelijk te maken zonder veel extra ontwikkelingswerk.
Wat houdt TorchTPU in: Google wil TPU’s volledig compatibel en ontwikkelaarsvriendelijk maken voor PyTorch‑workloads. Dat omvat mogelijk het vrijgeven van delen van de software als open source om acceptatie te versnellen. Volgens bronnen heeft dit initiatief nu meer prioriteit, middelen en organisatorische focus dan eerdere pogingen om PyTorch op TPU’s te ondersteunen.
Samenwerking met Meta: Google werkt nauw samen met Meta (de belangrijkste ondersteuner van PyTorch). Er zijn gesprekken geweest over grotere toegang van Meta tot TPU’s; vroege voorstellen betroffen door Google beheerde diensten met operationele ondersteuning. Voor Meta is die samenwerking strategisch aantrekkelijk om inferentiekosten te verlagen en zijn infrastructuur minder afhankelijk van Nvidia te maken.
Achtergrond en recente stappen: TPU’s waren lange tijd vooral voor intern gebruik binnen Alphabet. Sinds 2022 voert Google Cloud de verkoop van TPU’s naar externe klanten op, en dit jaar begon Google ook met directe leveringen aan klantdatacenters. Recentelijk werd Amin Vahdat benoemd tot hoofd AI‑infrastructuur, wat de grotere nadruk op deze hardware en bijbehorende softwareondersteuning onderstreept.
Belang en gevolgen: Als TorchTPU succesvol is, verlaagt het de overstapkosten voor bedrijven die alternatieven zoeken voor Nvidia, omdat de noodzaak om code naar Jax te herschrijven afneemt. Dat zou de grip van Nvidia op de AI‑rekenmarkt kunnen verzwakken door niet alleen concurrerende chips, maar ook compatibele software-ecosystemen te bieden. Voor Google betekent het versnelling van cloudgroei en betere inzetmogelijkheden voor zijn eigen AI‑producten zoals Gemini en AI-gestuurde zoekfuncties.