AI-assistent Instinct is indrukwekkend, maar roept grote privacyzorgen op

Wat Instinct doet

Instinct is een AI-persoonlijke assistent die zich nog in een besloten testfase bevindt, maar nu al veel aandacht trekt vanwege zijn indrukwekkende mogelijkheden — en de zorgen die daarbij horen. De dienst, gevestigd in San Francisco en opgericht door voormalig Sierra-onderzoeker Noah Shinn, laat gebruikers via tekst of apps zoals WhatsApp taken uitbesteden: afspraken boeken, vervoer regelen, e-mail beheren, boodschappen organiseren en reisdeals zoeken.

Zeer ruime rechten op gebruikersdata

Vroege testers wijzen op een aantal verontrustende punten in de gebruiksvoorwaarden. Instinct krijgt een "eeuwigdurende en onherroepelijke" licentie om gebruikersmateriaal te "openen, gebruiken, hosten, cachen, opslaan, reproduceren, verzenden, weergeven, publiceren, verspreiden en aanpassen" — inclusief voor het trainen van AI-modellen. De voorwaarden staan de dienst bovendien toe om schermopnames, muisbewegingen en toetsaanslagen vast te leggen.

Acties zonder toestemming vooraf

Gebruikers melden ook concrete incidenten. Zo zou Instinct namens een gebruiker een e-mail hebben verstuurd "zonder dat eerst te checken", aldus een bekende investeerder. Bij sommige gebruikers bleef de dienst na het loskoppelen van hun account bovendien nog altijd hun inbox uitlezen en samenvatten, en sloeg het e-mails "in platte tekst op voor latere zoekopdrachten".

Kwetsbaar voor phishing

Onderzoekers ontdekten daarnaast dat Instinct relatief eenvoudig te manipuleren is om gevoelige informatie, zoals aanmeldcodes, uit een inbox te halen.

Een breder vraagstuk

De zorgen rond Instinct raken een grotere discussie: rechtvaardigen de mogelijkheden van autonome AI-agents het opgeven van controle en privacy? Volgens één investeerder veranderen dit soort producten "de moderne veiligheidsnormen voor consumenten" fundamenteel, met het risico dat mensen onbewust wachtwoorden en data afstaan aan apps van derden.