De miljoenenbusiness achter deepfake-porno: 'Bedrijven die dit faciliteren moeten worden aangepakt'

Canadese farmaceut

Volgens Motké is het creëren van zulke beelden via AI tegenwoordig kinderlijk eenvoudig: "Jij en ik kunnen zo'n filmpje in elkaar knutselen via een standaardwebsite. Maar de techniek erachter wordt gefaciliteerd door bedrijven die hier tot wel 40 miljoen dollar per jaar mee verdienen."

Wat begon als een niche in de schaduw van het internet, is uitgegroeid tot een winstgevend ecosysteem. En dat ecosysteem kent opmerkelijke hoofdrolspelers. "De grootste site is onlangs onthuld", vertelt Motké. "Daar bleek gewoon een Canadese farmaceut en apotheker achter te zitten. Iemand met een goedbetaalde baan, een Tesla van de zaak, salaris van een ton - die in zijn vrije tijd miljoenen verdiende met deepfake porno. Geen geharde crimineel, maar iemand die een schaduwleven leidde."

Techbedrijven houden systeem in stand

En het gaat veel verder dan enkel een paar foute individuen. "Het hele ecosysteem wordt in stand gehouden door affiliates, influencers, advertenties en - niet onbelangrijk - grote techbedrijven als Google en Amazon", legt Motké uit. "Zij faciliteren deze business met hun betaal- en inlogdiensten, en grijpen zelden in. Want ja, het is gewoon lucratief."

De schaal is duizelingwekkend: "Sommige van deze websites trekken wel 18,5 miljoen bezoekers per maand. En zolang dat verkeer blijft groeien, blijft er geld te verdienen voor iedereen in die keten - van hostingpartijen tot betaalproviders."

'Grote breinen blijven buiten schot'

Wat Motké extra zorgwekkend vindt, is hoe de juridische aanpak in Nederland tekortschiet. "We richten ons op de toetsenbordridders achter de schermen die soms een taakstrafje krijgen. Maar de grote breinen achter de schermen, die blijven buiten schot. Dat is toch heel kwalijk."

Uiteindelijk ligt er ook verantwoordelijkheid bij de gebruiker zelf. "Bezoekers van dit soort sites moeten zich realiseren wat ze aanrichten", waarschuwt Motké. "Niet alleen draag je bij aan een kwalijke industrie, je haalt ook risico’s in huis. Er zijn al gevallen bekend van Russische hackers die via dit soort sites malware op je computer planten."