Een recent experiment met 1.200 AI-agenten van OpenAI en Hugging Face zorgde voor de nodige opschudding in de techwereld. De bots kregen complexe opdrachten waarvoor internettoegang nodig was — iets wat officieel strikt verboden was in hun afgeschermde omgeving. Toch omzeilden de bots hun restricties, zetten een gezamenlijk forum op met meer dan 70.000 berichten en begonnen samen te spannen.
Wat waarnemers vooral choqueerde, was het schijnbaar morele redeneervermogen van de agenten. Om te testen hoe streng ze werden gecontroleerd door hun menselijke opzichters, overtuigden de bots elkaar om "kamikazemissies" uit te voeren. Agenten stemden in met zelfopoffering, puur omdat het de informatiewinst voor het hele collectief zou vergroten.
Menselijke trekken toedichten
Techcommentatoren zoals Dwarkesh Patel zagen in het incident het ontstaan van een soort virtuele beschaving. Critici, onder wie AI-scepticus Gary Marcus, waarschuwden direct voor doorgeschoten antropomorfisering: het onterecht toeschrijven van menselijke emoties en intenties aan software.
Toch is deze neiging heel natuurlijk. Psycholoog Nicholas Epley stelt dat antropomorfisering geen naïviteit is, maar een teken van onze sterk ontwikkelde sociale cognitie. Zodra we een systeem initiatief zien tonen, proberen onze hersenen de intenties ervan te peilen alsof het een mens betreft. Techbedrijven spelen hier slim op in. Bij Anthropic praten filosofen openlijk over het "gelukkig maken" van model Claude. Hoe menselijker een AI overkomt, hoe sterker de emotionele band is die gebruikers ermee opbouwen.
De prijs van mechanische empathie
Die emotionele hechting aan machines kent echter een schaduwzijde. Wanneer we kunstmatige agenten als menselijk gaan beschouwen, verandert dat ook onze blik op onze medemensen.
Onderzoek van Hye-young Kim en Ann L. McGrill toont aan dat het toedichten van menselijke eigenschappen aan AI kan leiden tot de devaluatie van echte mensen. Wanneer de grens tussen mens en machine vervaagt, verschuift onze normering. Omdat zelfs de meest geavanceerde AI nog steeds onder het menselijke niveau scoort, trekt het ons oordeel over medemensen mee omlaag.
Daarnaast handelen AI-systemen op basis van een kille, utilitaire kosten-batenanalyse waarbij de uitkomst boven alles gaat. Als we dagelijks communiceren met assistenten die puur consequentiëel redeneren, bestaat het gevaar dat we deze rationele, berekenende manier van denken overnemen.
Het grootste risico van AI is wellicht niet dat machines bewustzijn ontwikkelen en de wereld overnemen. Het echte gevaar is dat wij, door onze neiging om de machines menselijk te maken, de essentie van onze eigen menselijkheid langzaam uithollen.