De authenticiteitscrisis

01

Waarom dit, waarom nu

Stel je een financieel medewerker voor die wordt gebeld voor een videovergadering. De cameraatjes gaan aan. Daar zit de directeur, daar zitten twee collega's van de afdeling waar hij zelden komt, en er is haast bij een betaling. Hij herkent de gezichten. Hij herkent de stemmen. Hij maakt het geld over.

Dat is niet hypothetisch. Bij ingenieursbureau Arup gebeurde precies dat in februari 2024 in Hongkong, waarbij een medewerker vijftien overboekingen goedkeurde voor een bedrag van omgerekend zo'n 25,6 miljoen dollar. Elke andere deelnemer aan die vergadering was gegenereerd. Voor zover wij kunnen nagaan is het nog steeds het grootste openbaar gedocumenteerde geval, tweeënhalf jaar later, en dat zegt vermoedelijk meer over wat bedrijven melden dan over hoe vaak het gebeurt.

Dit dossier gaat over wat er gebeurt wanneer beeld en geluid ophouden bewijs te zijn. En er is deze maand iets veranderd waardoor het van een interessant onderwerp een verplichting werd.

Sinds 2 augustus 2026 is artikel 50 van de Europese AI-verordening handhaafbaar. Wie deepfakes maakt, wie door AI geschreven teksten publiceert over onderwerpen van algemeen belang, of wie een chatbot laat praten met klanten, moet duidelijk maken dat er AI aan te pas is gekomen. Machineleesbaar, dus een zichtbaar bijschrift alleen volstaat niet. Dat geldt voor iedereen die op de Europese markt actief is, en voor een Nederlands bedrijf betekent dat: nu.

Er is een tweede reden om dit dossier te herschrijven in plaats van bij te werken, en die is ongemakkelijker. Bij het naslaan van de schadecijfers voor deze editie liep ik tegen iets aan wat ik in geen enkel ander dossier uit deze reeks in deze mate ben tegengekomen. Hoofdstuk 4 gaat daarover, en het heeft veranderd wat dit dossier nog durft te beweren.

02

Inhoud

1. Wat er sinds 2 augustus moet

2. Waarom scherper kijken niet meer helpt

3. Wat er in een organisatie misgaat

4. Het cijferprobleem in dit vakgebied

5. Waarom een detector het structureel verliest

6. De stroom, en de premie voor de leugenaar

7. Wat herkomst wel en niet oplost

8. Verifiëren als werkwijze

9. Wat een Nederlandse organisatie nu doet

10. Waar wij op letten

11. Verantwoording en bronnen

03

1. Wat er sinds 2 augustus moet

Begin bij de verplichting, want dat is het deel waar deze maand iets aan is veranderd.

De verordening vraagt drie dingen. Materiaal dat een persoon of gebeurtenis nabootst moet als kunstmatig gegenereerd of gemanipuleerd worden aangeduid. Door AI geschreven tekst over onderwerpen van algemeen belang moet dat vermelden. En een chatbot moet duidelijk maken dat de gebruiker met een machine praat. De aanduiding moet machineleesbaar zijn, wat betekent dat ze in het bestand zelf moet zitten en niet alleen in de tekst eromheen.

Wat de wet níét doet, is een standaard voorschrijven. De verordening is bewust techniekneutraal geschreven en noemt geen enkel product of protocol.

In de praktijk werkt dat anders uit dan op papier. Er bestaat op dit moment één breed uitgerolde open standaard die aan de beschrijving voldoet, en de bijbehorende gedragscode adviseert om cryptografisch ondertekende herkomstgegevens te combineren met een onzichtbaar watermerk, met als redenering dat elk van beide alleen moeite heeft om te voldoen aan de wettelijke eisen van doeltreffend, uitwisselbaar, robuust en betrouwbaar. Een organisatie die moet kiezen hoe ze voldoet is dus formeel vrij en feitelijk gestuurd. In dat gat tussen de letter en de gebaande weg wordt het komende jaar advies verkocht, en wij zouden dat gat kennen voordat we zulk advies kopen.

De naleving loopt bovendien zichtbaar uiteen. Ruim zesduizend organisaties hebben de herkomststandaard aangenomen, waaronder Adobe, Google, Microsoft en OpenAI. Van minstens één bekende beeldgenerator werd rond de deadline gemeld dat die dat niet had gedaan. Zo ontstaat de eerste handhavingszaak, en die zal het praktische nalevingsniveau meer bepalen dan de wettekst.

Voor een Nederlandse organisatie is de vraag niet óf dit geldt. De vraag is welke van je eigen uitingen eronder vallen, en daar zit het werk. Marketingbeeld dat met AI is bijgewerkt, een klantenservicebot, een gegenereerde stem in een instructievideo, een door AI geschreven opiniestuk onder de naam van een directielid: sommige daarvan vallen er duidelijk onder, andere zijn discutabel, en juist de discutabele kosten tijd.

Wij leggen graag uit waaróm die discutabel zijn, want dat patroon komt bij vrijwel elke organisatie terug.

De plicht bij nabootsend beeld hangt aan materiaal dat lijkt op bestaande mensen, voorwerpen of gebeurtenissen en ten onrechte echt zou overkomen. Een volledig gegenereerde foto van een niet-bestaand persoon, gebruikt als stockbeeld, valt er ruim binnen. Een foto van een echt product waarvan de achtergrond is vervangen ligt ergens anders, en adviseurs verschillen daar op dit moment over van mening. De grens die de wetgever lijkt te bedoelen loopt tussen bewerking die verandert wat een kijker over de werkelijkheid concludeert en bewerking die dat niet doet. Wij vinden dat een verstandig beginsel en een slechte werkinstructie, want het vraagt van een marketingafdeling dat ze voorspelt hoe een toezichthouder de gedachten van een kijker leest.

De plicht bij tekst is smaller dan de meeste samenvattingen doen vermoeden. Ze hangt aan tekst die is gepubliceerd om het publiek te informeren over aangelegenheden van algemeen belang, en die categorie is gebouwd voor iets dat dichter bij journalistiek ligt dan bij een productbeschrijving. Een bedrijfsblog over een nieuwe functie valt er waarschijnlijk buiten. Een bedrijfsblog dat een standpunt inneemt over regelgeving ligt dichter bij de grens dan de schrijvers ervan doorgaans beseffen.

En de plicht bij chatbots is de helderste van de drie, en de plicht waaraan de meeste organisaties al per ongeluk voldoen, omdat een ingezette assistent zichzelf meestal toch al aankondigt.

Ons praktische advies is saai. Inventariseer eerst, in drie bakken: duidelijk wel, duidelijk niet, discutabel. Duid alles in de eerste bak nu aan, want dat is goedkoop en het haalt de makkelijke bevindingen weg. En leg bij de tweede en derde bak schriftelijk vast hoe je hebt geredeneerd. De waarde daarvan zit er niet in dat de redenering klopt, maar dat ze laat zien dat de vraag is gesteld, en bij dit soort regimes valt vroege handhaving historisch het hardst op partijen die niet kunnen aantonen dat ze de vraag überhaupt hebben overwogen.

04

2. Waarom scherper kijken niet meer helpt

Het fundament onder dit hele onderwerp is geen technische prestatie maar een prijs.

Een overtuigende nepvideo maken vroeg vroeger om een studio, een budget en een ploeg. Het vraagt nu om een opdrachtregel en een paar minuten. Elke verdediging die we in een eeuw hebben opgebouwd tegen vervalst bewijs steunde op de aanname dat vervalsen duur was. Die aanname is weg, en ze is zo snel weggegaan dat instellingen zich er niet op hebben aangepast.

Daar komt een bevinding bij die de meeste mensen verrast. Synthetische media misleiden niet alleen, ze presteren geregeld beter dan het echte werk. Gegenereerde gezichten worden in onderzoek vaker als betrouwbaar beoordeeld dan foto's van bestaande mensen, omdat het generatieproces naar een gemiddelde toe werkt en menselijke waarneming dat gemiddelde als eerlijk leest. Voor stemmen geldt iets vergelijkbaars.

Dat keert de intuïtieve verdediging om. "Kijk goed en je ziet het" veronderstelt dat de vervalsing slechter is. Steeds vaker is de vervalsing juist beter, in de precieze zin dat ze beter past bij wat mensen van iets betrouwbaars verwachten. Beter kijken maakt haar dan overtuigender in plaats van doorzichtiger.

05

3. Wat er in een organisatie misgaat

De blootstelling is breder dan reputatieschade, en ze is verrassend concreet.

Neem elk proces waarin een mens wordt geïdentificeerd doordat iemand hem ziet of hoort. Een betaling die telefonisch of per videogesprek wordt geaccordeerd. Identiteitsvaststelling met een selfie. Een wachtwoordherstel via de stem. Een sollicitatiegesprek op afstand. Al die processen berusten op de aanname dat een gezicht of een stem aan één persoon toebehoort, en die aanname is opgeheven.

Wat het lastig maakt, is dat de meeste van die processen zijn ontworpen voordat iemand deze vraag stelde. Ze zijn niet bewust gebouwd op een zwakke aanname; de aanname was toen sterk. Dat betekent ook dat de inventarisatie niet moeilijk is, alleen ongebruikelijk: loop na waar in je organisatie een gezicht of een stem als bewijs geldt, en je hebt de lijst.

06

4. Het cijferprobleem in dit vakgebied

Dit hoofdstuk stond niet in de julieditie en had er wel in moeten staan, want het bepaalt hoe de rest gelezen hoort te worden.

Bij het verzamelen van de schadecijfers voor deze editie stuitte ik op iets wat ik in de andere dossiers uit deze reeks niet in deze mate ben tegengekomen. De veelgeciteerde statistieken over deepfakefraude komen overwegend van bedrijven die deepfakedetectie verkopen, ze spreken elkaar geregeld tegen, en de tegenspraken zijn van een soort die suggereert dat ze niet hetzelfde meten.

Een paar voorbeelden uit één middag lezen. Het ene cijfer zet AI-gedreven deepfakes achter ruwweg elf procent van alle fraude wereldwijd. Een ander, net zo breed verspreid, komt op zes en een half. De ene bron meldt minstens 3,7 miljard dollar aan gedocumenteerde wereldwijde schade, de andere 1,1 miljard in de Verenigde Staten, en of dat tweede een deelverzameling van het eerste is wordt niet gezegd. Beleggingsfraude heet ergens 57 procent van de geanalyseerde schade te zijn en sociale media elders 47 procent van de schade, met noemers die niet worden genoemd en vermoedelijk niet vergelijkbaar zijn.

Het enige cijfer met een onberispelijke herkomst klinkt het zwakst. De FBI opende in 2025 een eigen categorie voor AI-fraude en registreerde daarin ongeveer 893,3 miljoen dollar aan gecorrigeerde schade over 22.364 meldingen. Dat is een opsporingsdienst die telt wat er bij haar wordt gemeld, met alle onderrapportage die daarbij hoort, en het ligt een orde van grootte onder de hoogste rondzingende bedragen.

Daar volgen twee conclusies uit die de andere kant op wijzen, en juist daarom horen ze er allebei.

Het probleem is echt en het FBI-cijfer is een ondergrens en geen schatting van het totaal. Fraude wordt stelselmatig ondergemeld, slachtoffers van accorderingsfraude zitten bovendien in een gênante positie, en een categorie die in 2025 is geopend heeft geen historie om mee te vergelijken.

En tegelijk: een directiepresentatie die een miljardenbedrag van een detectieleverancier citeert, citeert marketing. Dat is geen beschuldiging van oneerlijkheid. Het is de vaststelling dat de prikkel één kant op staat, dat de methode meestal niet wordt vermeld, en dat de cijfers zich daarnaar gedragen. Waar wij zulke getallen eerder met een middelmatig vertrouwen gebruikten, noemen we ze nu mét hun herkomst of we gebruiken ze niet.

Wat dat praktisch betekent is smaller dan het klinkt. De reden om iets te doen hangt niet af van de omvang van het totaal. Ze hangt af van de vraag of jouw eigen accorderingsproces te verslaan is met een videogesprek, en die vraag kun je over jezelf beantwoorden zonder één marktcijfer.

07

5. Waarom een detector het structureel verliest

Voordat we bij de praktische hoofdstukken komen, ruimen wij één reflex op, want het is het eerste waar organisaties naar grijpen en wat ons betreft loopt het dood.

Die reflex luidt: koop een detector. Is synthetisch materiaal het probleem, zoek dan het gereedschap dat het herkent. Dat is een begrijpelijke gedachte en ze klopt niet, en wij leggen graag uit waarom, want dezelfde redenering geldt voor meer problemen uit deze reeks.

Detectie is een wedloop met scheve kosten. Een detector wordt getraind op de sporen die de huidige generatoren achterlaten: licht dat niet klopt, handen die niet kloppen, statistische vingerafdrukken in de ruis. Stuk voor stuk zijn dat gebreken, en gebreken worden verholpen. Erger nog: een gepubliceerde detector is een trainingssignaal, want hij vertelt de volgende generatie precies wat er weg moet. De verdediger moet alles vangen en moet genoeg over zijn methode prijsgeven om vertrouwd te worden. De aanvaller hoeft er één keer doorheen en leert van elke mislukking.

Er zit een tweede scheefheid in die minder wordt besproken. Detectienauwkeurigheid wordt genoemd op verzamelingen bekende vervalsingen, en de vraag in de praktijk is een andere. Stel dat één op de duizend stukken die langskomen synthetisch is, en dat je detector in beide richtingen 99 procent haalt. Dan levert hij per duizend stukken één terechte vondst en tien valse meldingen op, want de valse meldingen komen uit een groep die duizend keer groter is. Dat is de kwestie van de basiskans, het is rekenwerk en geen tekortkoming van een bepaald product, en het verklaart waarom een detector die in een demonstratie indruk maakt binnen een maand kan worden uitgezet.

Dat maakt detectie niet waardeloos. Wij behandelen haar als een zeef die volume terugbrengt en niet als een poort die waarheid vaststelt, en een organisatie die het tweede aanneemt komt bedrogen uit. De twee dingen die wij wél zien werken staan in hoofdstuk 7 en 8: stel de herkomst vast in plaats van het stuk te ondervragen, en richt processen zo in dat ze het stuk helemaal niet hoeven te vertrouwen.

08

6. De stroom, en de premie voor de leugenaar

Naast bewuste fraude staat het probleem met veel groter volume en veel minder opzet: materiaal dat wordt gemaakt omdat het maken bijna niets kost.

De economie daarvan is simpel. Levert content geld op per weergave en kost ze vrijwel niets, dan is de evenwichtshoeveelheid enorm. Het gevolg is dat een groeiend deel van wat er rondgaat gegenereerd is in plaats van waargenomen of meegemaakt, en het effect op één stuk doet er minder toe dan het effect op de basiskans. Wanneer het meeste wat je tegenkomt synthetisch zou kunnen zijn, wordt het controleren per stuk duurder dan het stuk waard is, en dan is de verstandige reactie om te stoppen met controleren en alles te gaan wantrouwen.

Daar leggen wij de eigenlijke schade. De redelijke lezer houdt op met geloven, en dat is moeilijker te herstellen dan welk afzonderlijk verzinsel ook.

En daar zit de spiegelbeeldige variant tegenaan die minstens zo vervelend is. Zodra iedereen weet dat beeld te genereren valt, krijgt échte beeldopname een verweer: ze kan worden weggewuifd. Een opname van iemand die iets doet wordt ontkenbaar, en die ontkenning is nu aannemelijk op een manier die vijf jaar geleden niet bestond. In de literatuur heet dat de premie voor de leugenaar, en ze komt terecht bij wie het meest te ontkennen heeft.

Voor organisaties is dat de stillere helft. Fraude is duur en aantoonbaar. Het verlies van het vermogen om met een opname iets te bewijzen is geen van beide, en het tast processen, bewijsvoering en verantwoording aan zonder dat er één voorval is om naar te wijzen.

09

7. Wat herkomst wel en niet oplost

Het technische hoofdantwoord is herkomst: materiaal cryptografisch ondertekenen op het moment van vastleggen of maken, zodat er een keten van bewerkingen met het bestand meereist.

Dat is een echt antwoord op een echt deel van het probleem, en wij willen precies zijn over welk deel. Herkomst spoort geen vervalsingen op. Ze bevestigt originelen. Van een ondertekend bestand valt aan te tonen dat het uit een bepaald apparaat of programma komt met een bepaalde bewerkingsgeschiedenis; een niet-ondertekend bestand is eenvoudigweg niet ondertekend, en dat geldt voor vrijwel alles wat vóór nu is gemaakt en voor veel van wat er sindsdien bij komt.

De lekken zitten in de structuur en niet in de techniek. De meeste platforms strippen metagegevens als onderdeel van hun gewone verwerking. Een schermafbeelding van een ondertekend beeld is een niet-ondertekend beeld. De keten vraagt dat élke stap, vastleggen, bewerken, publiceren, doorplaatsen, haar in stand houdt, en de zwakste stap bepaalt de uitkomst. En herkomst zegt niets over waarheid: een echt gefilmde opname van een in scène gezette gebeurtenis draagt een vlekkeloze keten.

Wat herkomst wél oplevert, en dat vinden wij niet niets, is een bodem. In een wereld waarin het meeste niet ondertekend is, valt een ondertekend stuk op. Dat is meer waard binnen een organisatie, waar je de keten beheert, dan in de open stroom, waar je dat niet doet.

10

8. Verifiëren als werkwijze

Het individuele antwoord, leer vervalsingen herkennen, schaalt niet, en hoofdstuk 2 legt uit waarom: de vervalsingen zijn geoptimaliseerd op precies de signalen waar mensen op afgaan.

Het antwoord dat wij zouden bouwen zit in de inrichting van processen. De minimale versie bestaat uit drie delen.

Bevestig via een tweede kanaal dat de tegenpartij niet beheerst. Een videogesprek waarin om een betaling wordt gevraagd, controleer je met een terugbelactie naar een bekend nummer, niet door beter naar het beeld te kijken. Alleen die wijziging had de schade bij Arup voorkomen.

Zet drempels waarboven meer dan één mens nodig is. Elke accordering boven een afgesproken bedrag vraagt een tweede fiatteur die langs een eigen weg wordt bereikt. Ons punt is niet dat die tweede persoon moeilijker te misleiden is. Het is dat twee mensen via twee kanalen misleiden een wezenlijk zwaardere aanval is.

En wij zouden vooraf vastleggen wat in jouw organisatie als bewijs geldt. De meeste organisaties hebben dat nooit opgeschreven, waardoor het antwoord in de praktijk neerkomt op wat de hoogste aanwezige overtuigend vindt, en hoofdstuk 2 gaat over hoe die intuïtie het tegenwoordig begeeft.

11

9. Wat een Nederlandse organisatie nu doet

Er liggen dus twee opdrachten tegelijk op tafel, en ze worden makkelijk door elkaar gehaald.

De eerste is naleving, en die is nieuw sinds deze maand. Inventariseer welke uitingen van je organisatie onder de aanduidingsplicht vallen, begin bij de duidelijke gevallen en houd een lijst bij van de discutabele. Kies bewust hoe je aanduidt, met de wetenschap uit hoofdstuk 1 dat de wet je vrijlaat en de praktijk je stuurt. En bedenk dat naleving over je eigen uitingen gaat: het beschermt je niet tegen wat anderen jou sturen.

De tweede is weerbaarheid, en die is ouder en urgenter. Loop na welke processen een gezicht of een stem als identiteitsbewijs gebruiken, en bouw daar een tweede kanaal in. Dat is goedkoop, het vraagt geen aanschaf, en het is de enige maatregel in dit dossier waarvan we zeker weten dat ze werkt tegen de aanval die daadwerkelijk geld heeft gekost.

En dan het punt waar dit dossier op uitkomt, dat het deelt met ons dossier over wat menselijk blijft, langs een heel andere weg bereikt. Wanneer materiaal gratis te maken is en niet door ernaar te kijken op echtheid te controleren valt, is het schaarse goed een mens of een instelling die bereid is iets op het spel te zetten voor de bewering dat iets klopt. Geen detectiealgoritme, want dat zit in een wapenwedloop die het structureel verliest. Geen watermerk, want hoofdstuk 7 laat zien dat dat een bodem is en geen garantie. Een mens met een naam en een reputatie die eraan hangt.

Daarom lezen wij dit uiteindelijk als een bestuurlijke vraag en niet als een aankoop. Wie mag namens deze organisatie ergens voor instaan, en waar hebben we vastgelegd wat we als bewijs accepteren.

12

10. Waar wij op letten

De eerste handhavingszaak onder artikel 50. Tegen wie, waarvoor, en hoe zwaar. Dat antwoord bepaalt het praktische nalevingsniveau meer dan de wettekst.

Of platforms stoppen met het strippen van herkomstgegevens. Dat is de enige wijziging die hoofdstuk 7 op internetschaal laat werken, en er is nu een regelgevende reden voor.

Of de schadecijfers beter worden. Gaan onafhankelijke partijen, verzekeraars, toezichthouders of opsporingsdiensten hun methode publiceren naast hun getallen, dan wordt hoofdstuk 4 overbodig. Dat zou goed nieuws zijn.

Accorderingsfraude bij het middenbedrijf. De gemelde gevallen betreffen grote organisaties. De blootstelling is groter bij bedrijven met minder controles en zonder eigen beveiligingsfunctie, en juist die gevallen halen de krant niet.

Of de premie voor de leugenaar de rechtszaal bereikt. Het eerste serieuze geschil waarin echt beeldbewijs met succes wordt aangevochten omdat het gegenereerd zóú kunnen zijn, wordt een ijkpunt, en het is een kwestie van wanneer.

13

11. Verantwoording en bronnen

Dit dossier steunt op webonderzoek en een persoonlijk archief van meer dan 15.000 bronnen. Hoofdstuk 4 legt uit waarom deze verantwoording meer werk doet dan gebruikelijk: de bronkwaliteit in dit vakgebied is duidelijk slechter dan in de rest van de reeks, en enkele breed verspreide cijfers zijn uit deze editie geschrapt in plaats van met een voorbehoud meegenomen.

Grafieken met het label "BFF" zijn van ons.