Waar eerdere generaties opgroeiden met knuffels die hooguit een oog verloren, worden kinderen vandaag de dag geconfronteerd met een nieuw type verlies: de plotselinge 'dood' van hun interactieve robotvriend. Wanneer de startup achter zo'n AI-gebaseerd apparaat failliet gaat en de externe servers uitschakelt, verandert de vertrouwde pratende speelgezel van het ene op het andere moment in een onbeantwoorde huls van plastic en elektronica.
Journalist Sara Harrison belicht in MIT Technology Review deze problematiek aan de hand van Moxie, een felblauwe robot van circa 38 centimeter met grote, expressieve ogen. Moxie werd op de markt gebracht door het bedrijf Embodied en was specifiek ontworpen als sociaal coachend hulpmiddel voor neurodivergente kinderen. Zo hielp het apparaat de tienjarige Xander met het oefenen van gespreksvaardigheden en het toepassen van rustgevende technieken.
Een digitale vriendschap met een vervaldatum
Sociale robots worden steeds vaker gepositioneerd als continue ondersteuning bij therapeutische trajecten. Hoewel eerste kleinschalige onderzoeken laten zien dat de interactie met een robot het oogcontact en de betrokkenheid van kinderen tijdelijk kan vergroten, lijken die positieve effecten na verloop van tijd weer af te nemen. Deskundigen benadrukken bovendien dat de ondersteuning van kinderen met bijvoorbeeld autisme te complex en gelaagd is om toe te vertrouwen aan geautomatiseerde systemen.
Het grootste knelpunt blijkt echter niet de software, maar de achterliggende bedrijfsvoering. Toen ontwikkelaar Embodied kampte met geldgebrek en de deuren moest sluiten, ging de cloudinfrastructuur definitief op zwart. Moxie hield direct op met functioneren. Hoewel de robot via een tweede investeerder nog een korte herstart maakte, viel ook voor die onderneming al snel het doek.
Ethiek en commerciële kwetsbaarheid
Voor kinderen die een sterke emotionele band hebben opgebouwd met hun robot, voelt het uitvallen van de technologie als het verlies van een echte maatje. Dit stelt ouders en gedragswetenschappers voor een ingewikkeld ethisch vraagstuk. Welke verantwoordelijkheid dragen fabrikanten die apparaten ontwerpen die bewust zijn gemaakt om genegenheid op te roepen, maar afhankelijk zijn van een kwetsbaar commercieel verdienmodel?
Het wegvallen van Moxie toont de schaduwzijde van cloudgestuurde consumentenelektronica. Zolang er geen waarborgen zijn voor de langdurige ondersteuning van dit soort sociale technologie, blijven jonge en kwetsbare gebruikers het risico lopen op een onverwacht afscheid van hun AI-speelkameraad.