Met hulp van het NFI kon de politie meelezen met duizenden cryptotelefoons

De politie is er al meermaals in geslaagd om criminele communicatiediensten te ontsleutelen. Criminelen waanden zich veilig op de server, maar niets bleek minder waar. De politie kon veel berichten meelezen. Ze wilden berichten met een bedreiging er zo snel mogelijk uithalen om mishandelingen, ontvoeringen en liquidaties te voorkomen. Het NFI heeft daarom een model ontwikkeld om de politie te helpen voorspellen welke berichten een serieuze bedreiging bevatten.

'De politie kwam op de lijn en vroeg ons of wij een model konden maken dat tekstberichten kan herkennen waar 'levensgevaar' of 'doodsdreigingen' in zitten', vertelt Ypma. Over de context van de zaak mocht het NFI niets weten. 'Bij het NFI willen wij onze taak doen.' Volgens de data scientist was het wel opvallend hoeveel hulp ze kregen bij het ontwikkelen van dat model.

Speld in een hooiberg

Dagelijks worden er tienduizenden versleutelde berichten verstuurd. Het ontcijferen is een ding, maar hoe zoek je naar de speld in de hooiberg? 'Dat is precies een van de dingen waar AI bij kan helpen', legt Ypma uit. 'Toevallig was net rond die periode een nieuw AI-tekstmodel uitgekomen. Een voorloper van ChatGPT en bij het NFI waren we daar experimenten mee aan het doen.'

De data scientists van het NFI wisten een goed werkend model te ontwikkelen die snel kon zoeken in al die berichten. Dat is ook het belangrijkste, vertelt Ypma. 'Hij weet het niet beter dan mensen, maar hij weet het sneller.'

Het filteren van de juiste data heeft deels te maken met woorden, maar ook met de context van de berichten. Zo kun je bijvoorbeeld zoeken op termen als 'doodmaken'. 'Maar het kunnen ook andere woorden zijn, zoals 'slapen', in de zin van: 'we gaan hem laten slapen'', wat dus eigenlijk doodmaken betekent.

'Het probleem is dat 98 procent van de keren dat er 'slapen' staat, is het iemand die sms't: ik ga slapen, ik ben moe. Dat is niet relevant', vervolgt Ypma. 'AI kijkt niet alleen naar de woorden zelf, maar ook naar de context van het bericht. Wat staat er nou omheen? En we merkten dat dat aanzienlijk beter werkte dan alleen die woorden gebruiken.'

Dat komt bijvoorbeeld doordat er ook veel spelfouten in de berichten staan of spellingsvariaties. 'Als je 'slappen' spelt, zo'n ctrl-F zal het niet vinden, maar een AI-model kan er wel mee omgaan.'

Impact

Voor de onderzoekers bij het NFI is het des te leuker om achteraf te horen waar al hun werk voor nodig was en wat het heeft opgeleverd. Ypma vertelt: 'Een deel van het werken bij het NFI is dat je weet dat je bijdraagt aan een veiligere en rechtvaardigere samenleving. Dat is waar je het voor doet. Dus als je hoort dat het zoveel impact heeft, dat is prachtig om te horen.'