Amerikaanse inlichtingencommissie waarschuwt voor 'Black Swan'-risico's door AI

De inlichtingencommissie van het Amerikaanse Huis van Afgevaardigden roept de Amerikaanse spionagediensten op om zich beter voor te bereiden op zogenaamde 'Black Swan'-scenario's rond kunstmatige intelligentie. In een nieuw rapport waarschuwt de commissie dat kwaadwillenden en terroristen geavanceerde AI-modellen kunnen gebruiken voor het plannen van dodelijke aanvallen en het ontwikkelen van gevaarlijke wapens.

De publicatie van het rapport komt vlak voor de 25e herdenking van de terreuraanslagen op 11 september 2001. Het document evalueert de inspanningen die de afgelopen kwarteeuw zijn geleverd om falende inlichtingensystemen te herstellen, maar concludeert dat het huidige dreigingslandschap minstens zo complex en gevaarlijk is als destijds.

Risico van geavanceerde taalmodellen

De commissie maakt zich met name zorgen over de snelle opkomst van de nieuwste generatie grote taalmodellen (frontier LLMs). Deze technologie maakt het voor kwaadwillenden aanzienlijk eenvoudiger om toegang te krijgen tot specifieke expertise en informatie, bijvoorbeeld voor het ontwikkelen van biologische wapens.

Hoewel makers van AI-systemen beveiligingsbarrières inbouwen om te voorkomen dat hun modellen schadelijke instructies geven, ontwikkelt de onderliggende capaciteit van AI zich zo snel dat deze beveiliging op termijn mogelijk tekortschiet. Het commissierapport benadrukt dat het misbruik van dergelijke krachtige instrumenten uiterst moeilijk volledig te controleren is.

Versnelling van eigen AI-adoptie

Om de technologische voorsprong op vijandige mogendheden te behouden, adviseren de wetgevers dat de Amerikaanse inlichtingengemeenschap juist zelf sneller gebruik moet gaan maken van geavanceerde AI.

Er moet volgens het rapport gericht worden geïnvesteerd in veilige AI-toepassingen voor dataverzameling, gevarenanalyse en vroegtijdige waarschuwingssystemen. Wel stelt de commissie dat dit strikt gecombineerd moet worden met menselijk toezicht, grondige tests en de bescherming van privacy en burgerrechten.

Bipartisan waarschuwing voor hiaten

Het rapport is opgesteld door een bipartijdelijke groep parlementariërs, onder leiding van commissievoorzitter Rick Crawford (Republikein) en Jim Himes (Democraat), samen met afgevaardigden Elise Stefanik en Josh Gottheimer.

De wetgevers stellen vast dat de Verenigde Staten op dit moment niet adequaat zijn voorbereid op de kwetsbaarheden die AI met zich meebrengt. Er bestaan volgens de commissie nog altijd ernstige hiaten in het vermogen om deze nieuwe generatie dreigingen tijdig op te sporen en af te wenden.