Media: Apple praat met start-up die AI-modellen verkleint

In dit artikel:

Apple bekijkt de technologie van startup PrismML, die AI-modellen drastisch kleiner kan maken zodat ze rechtstreeks op een iPhone draaien en veel minder geheugen gebruiken. Volgens PrismML-ceo Babak Hassibi zijn de modellen van het bedrijf zo ver gecomprimeerd dat een versie van Alibaba’s open-source Qwen van circa 54 GB is teruggebracht tot minder dan 4 GB, genoeg om alle 27 miljard parameters op een iPhone 15 of nieuwer te laten draaien.

De evaluatie door Apple en andere bedrijven bevindt zich nog in een vroeg stadium, benadrukte Hassibi tegenover CNBC. Er wordt daarbij getest op snelheid, energieverbruik en prestaties op het apparaat zelf. Als de technologie in de praktijk werkt, kan dat Apple helpen om functies als Siri sneller, zuiniger en privacyvriendelijker te maken, doordat meer AI-verwerking lokaal gebeurt in plaats van in de cloud.

Tegelijk waarschuwen analisten dat AI-chips en datacentercapaciteit ondanks zulke efficiënties nog steeds hard nodig blijven. Het bericht leek op de beurs weinig enthousiasme op te wekken: Apple leverde dinsdag 0,9 procent in.