In januari brachten wereldwijde media het nieuws naar buiten over een Franse vrouw genaamd Anne, die meer dan $800.000 verloor nadat ze geloofde dat ze een online relatie had met Brad Pitt. De oplichter gebruikte nep-profielen, WhatsApp-accounts en zelfs een vals paspoort om de illusie te creëren. Maar Pitt heeft geen sociale media. Dit alles was mogelijk door AI-gegenereerde afbeeldingen van de acteur.

Deze zaak is slechts één voorbeeld van hoe digitale misleiding de online wereld heeft veranderd. Wat ooit werd gezien als een ruimte voor verbinding, samenwerking en open communicatie, is steeds meer een broedplaats geworden voor manipulatie en wantrouwen.

“Het cynisme dat we nu hebben over online interacties is een ingrijpende verandering,” zei Adrian Ludwig, Chief Technology Officer bij Tools for Humanity, tijdens het “Identity Crisis”-panel op de Web Summit in Doha afgelopen dinsdag.

Elke dag komen gebruikers zoals Anne AI-gegenereerde content tegen zonder het te beseffen.

“Het vertrouwen in online identiteiten brokkelt af,” zei Ludwig. “Je scrolt misschien door een sociale site of datingapp en realiseert je dat je geen feedback vertrouwt van mensen die je niet persoonlijk kent. Die mensen zijn misschien niet eens echt.”

Deepfake-technologie, ooit het domein van Hollywood-special effects, is nu breed beschikbaar.

“Er zijn meer dan een miljoen verschillende gratis tools online waarmee iedereen een perfecte deepfake kan maken zonder technische ervaring,” legde Ben Coleman uit, CEO en oprichter van Reality Defender, een platform dat gespecialiseerd is in het detecteren van deepfakes.

Deepfake-technologie, die hyperrealistische digitale poppen kan creëren, heeft de grens tussen feit en fictie vervaagd. Met weinig regelgeving waarschuwen experts al lang voor het potentieel om onrust of politieke schandalen te veroorzaken — waarschuwingen die nu werkelijkheid worden.

Vertrouwenscrises

Sinan Aral, een MIT-professor en een vooraanstaand onderzoeker op het gebied van desinformatie, legde uit dat deepfakes drie primaire bedreigingen vormen: gezondheidsmisinformatie, verkiezingsinmenging en persoonlijke fraude binnen bedrijven.

“De gevolgen zijn enorm maar subtiel,” zei Aral, wijzend op vaccinatie-scepsis.

“Zeven miljoen mensen stierven aan COVID, en zelfs nu blijft 28% van de bevolking ongevaccineerd. De CDC ontdekte dat desinformatie verantwoordelijk was voor 80% van die scepsis,” voegde hij eraan toe.

Een ander belangrijk domein dat wordt beïnvloed, zijn verkiezingen.

Aral zei dat de meningen van mensen worden veranderd door simpelweg de manipulatie van informatie die ze ontvangen. Desinformatietactieken richten zich op opkomstpercentages die regeringen vormen.

“Mijn onderzoek toont aan dat desinformatie verschuift of mensen komen stemmen, niet hoe ze stemmen,” zei hij, verwijzend naar Facebook's eerdere betrokkenheid bij grootschalige sociale experimenten om te laten zien hoe gemakkelijk de publieke perceptie op grote schaal kan worden gevormd.

Fraude is een ander groeiend strijdtoneel met phishing-scams, identiteitsdiefstal en frauduleuze transacties.

“Honderden miljoenen gaan jaarlijks verloren aan oplichting,” zei Aral, verwijzend naar gevallen waarin grootouders nep, dringende berichten ontvangen waarin wordt gevraagd om geld over te maken.

Voor Aral is de systemische aard van deepfake-misleiding wat het zo gevaarlijk maakt.

“Je moet van een individuele deepfake naar het systeemniveau gaan,” zei hij. Hij beschreef een scenario waarin AI-gestuurde netwerken desinformatiecampagnes optimaliseren en coördineren om sleutelstaten, kwetsbare individuen en financiële doelwitten te raken, terwijl ze hun tactieken verfijnen door gebruikersgedragsdata.

“In plaats van het te zien als een ‘willekeurige valse gebeurtenis,’ denk aan een systeem dat miljoenen deepfakes kan coördineren en optimaliseren,” voegde hij eraan toe.

Verdwijnende grens tussen mens en machine

Naarmate AI geavanceerder wordt, is persoonlijke data een risico geworden. “Waarom is het hebben van zoveel persoonlijke data riskant?” vraagt Aral.

Hoe meer informatie online beschikbaar is — namen, adressen, financiële gegevens — hoe gemakkelijker het is voor AI-gestuurde oplichting om hiervan te profiteren.

“Er is momenteel geen basis van vertrouwen voor het zijn van een mens op het internet,” zei Ludwig. De uitdaging, betoogde hij, is het definiëren van menselijke identiteit zonder dat mensen steeds meer gevoelige informatie hoeven prijs te geven. “Op dit moment geef je steeds meer van je identiteit op — waar je woont, je creditcardgegevens — alleen om te bewijzen dat je echt bent,” voegde hij eraan toe.

Zelfs bekende publieke figuren zijn slachtoffer geworden van deze praktijken.

Aral vertelde over een geval dat hij persoonlijk meemaakte, waarin iemand deepfake-technologie gebruikte om George Clooney te imiteren en een frauduleus handelsalgoritme te promoten.

“Het was erg eng en erg echt,” zei hij.

Wapenwedloop voor digitale authenticiteit

De uitdaging om digitale authenticiteit te behouden wordt steeds moeilijker, aangezien experts spreken van een wedloop tussen misleiding en detectie.

“We zitten in een wapenwedloop,” zei Aral. “We worden geconfronteerd met een stortvloed aan toenemende desinformatie en identiteitsmisleiding.”

De oplossing, zei hij, is een meerlaagse verdediging — een die zowel privacybeschermende tools als rigoureuze verificatiesystemen omvat. “We hebben alle tools nodig die we kunnen krijgen voor anonieme toepassingen, zodat we kunnen vertrouwen waar informatie vandaan komt,” zei hij, terwijl hij ook benadrukte dat AI-gegenereerde misleiding moet worden blootgelegd.

Ludwig benadrukte dat dit meer is dan alleen online veiligheid. “Alle maatschappelijke vooruitgang — samenwerking, coördinatie, communicatie — hangt af van vertrouwen,” zei hij. “Zonder dat valt samenwerking uit elkaar, en loopt het internet het risico een ruimte te worden waar niemand weet wat echt is.”

“De strijd om digitale authenticiteit is nog lang niet voorbij,” zei Ludwig. “Maar door bewustwording, prioritering en de juiste tools kunnen we er nog steeds voor zorgen dat het internet een veilige plek blijft.”