Nvidia-ondersteunde Enfabrica brengt systeem uit om geheugenkosten te verlagen

In dit artikel:

De Silicon Valley-chipstartup Enfabrica heeft het EMFASYS-systeem gelanceerd, gericht op het verlagen van de kosten van geheugenchips in AI-datacenters. Met een investering van $260 miljoen en steun van Nvidia, ontwikkelde het bedrijf een combinatie van een eigen netwerkchip en speciale software waardoor AI-rekenchips verbonden kunnen worden met betaalbaardere DDR5-geheugenchips in plaats van de duurdere high-bandwidth memory (HBM) die doorgaans wordt gebruikt. Hoewel DDR5 langzamer is, kan het via deze innovatieve aanpak toch datacentersnelheden handhaven en tegelijkertijd de hoge geheugenuitgaven beteugelen, een cruciale factor nu AI-toepassingen als chatbots flink opschalen. Volgens oprichter Rochan Sankar gebruiken inmiddels drie grote AI-cloudklanten het systeem, al worden hun namen niet bekendgemaakt. EMFASYS vervangt HBM niet volledig, maar helpt de kosten te beheersen waar anders flinke prijsstijgingen zouden optreden bij opschaling. Deze doorbraak speelt in op de groeiende vraag naar efficiënte en betaalbare geheugenoplossingen in AI-infrastructuren.