Investeren we in de verkeerde AI-toekomst? 'Edge computing wint het van datacenters'

Beleggers en techgiganten pompen momenteel honderden miljarden dollars in immens grote AI-datacenters. Toch zetten zij daarmee mogelijk in op een achterhaald toekomstbeeld. Volgens Joachim Klement, managing director bij financieel adviesbureau Panmure Liberum, ligt de werkelijke doorbraak van kunstmatige intelligentie niet in de cloud, maar op het bureau en in de broekzak van de gebruiker.

Klement stelt dat de markt te sterk gericht is op zogeheten 'frontier models' zoals ChatGPT en Claude, die enorme hoeveelheden rekenkracht in datacenters vereisen. Uit onderzoek van Stanford University blijkt echter dat kleinere taalmodellen, die gewoon op consumentenhardware kunnen draaien, al meer dan 80 procent van de dagelijkse computertaken correct kunnen uitvoeren.

De economische voordelen van lokale hardware

De economische argumenten voor deze verschuiving naar de 'edge' zijn overtuigend. Het lokaal draaien van een AI-model op een pc is qua initiële investering per gigabyte werkgeheugen ongeveer 80 procent goedkoper dan in een datacenter. Ook op de energierekening valt 70 tot 80 procent te besparen, zelfs als er gerekend wordt met consumententarieven voor elektriciteit.

Grote bedrijven passen hun strategie hier al op aan. Zo zet AT&T verschillende modellen in op basis van kosten en benodigde prestaties, terwijl JPMorgan verwacht dat het bedrijfsleven een mix van grote en kleine AI-modellen zal gebruiken. Thomson Reuters lanceerde recent een eigen intern systeem op basis van het opensource Qwen-model van Alibaba, dat draait tegen een fractie van de kosten van grote cloudsystemen.

Verschuiving in de keten: van hyperscalers naar pc-makers

Als AI-taken massaal verhuizen naar lokale apparaten, dreigen zogeheten 'hyperscalers' achter te blijven met een overschot aan datacentercapaciteit. De waarde verschuift in dat scenario naar hardwarefabrikanten en leveranciers van edge-chips, die door beleggers tot nu toe vaak als AI-achterblijvers werden gezien.

Klement ziet fabrikanten als Apple en Dell dan ook als de grote potentiële winnaars van deze ontwikkeling. Ook chipontwerpers zoals Arm en Qualcomm profiteren direct van de stijgende vraag naar lokale rekenkracht. Bij geheugenfabrikanten zal de vraag verschuiven van het kostbare high-bandwidth geheugen (HBM) voor datacenters naar traditioneel DRAM voor pc's en mobiele telefoons.

Nvidia sorteert voor op de kanteling

Hoewel chipgigant Nvidia nog steeds sterk afhankelijk is van de uitgaven aan grote datacenters, lijkt het bedrijf de verandering al aan te voelen. Met de introductie van desktop-AI-oplossingen zoals DGX Spark bouwt Nvidia volgens Klement aan een opvangsysteem voor het geval de datacenterboom afkoelt.

Weliswaar vormt de edge-tak momenteel minder dan 10 procent van Nvidia's omzet, maar het biedt het bedrijf een belangrijke vluchtroute als de investeringsgolf in hyperscale-infrastructuur zijn piek bereikt en bedrijven kritischer naar hun IT-uitgaven gaan kijken.