appjecalendarcheckchevron-downchevron-leftchevron-rightchevron-upclosedownloaddragfacebookfast-backwardfast-forwardgoogle-plusiconinstagramlinkedinlistlisten-livelogo-nporadio1logo-tour-de-france mailmicrophonepauseperson-man-2person-woman-4phonepinterestplayplaylistplyr-nextplyr-prevquestionquotesearchsharesorter--up-and-down star--open-and-filled star-openstarthumbdownthumbuptwitterwatch-livewhatsappyoutubeplyr-captions-off plyr-captions-on plyr-enter-fullscreen plyr-exit-fullscreen plyr-fast-forward plyr-muted plyr-pause plyr-play plyr-restart plyr-rewind plyr-volume
STER Advertentie

AI-collusion: gaan computers onderling prijsafspraken maken?

pxfuel
vrijdag 27 november 2020 | NTR | Redactie

Slimme algoritmes van bedrijven die onderling prijsafspraken maken; dat gevaar is bepaald niet denkbeeldig, waarschuwt een aantal wetenschappers in Science. We kunnen ons er maar beter op voorbereiden, schrijven ze, zodat we er klaar voor zijn als het zover is.

Als twee bedrijven prijsafspraken maken, kun je dat normaliter proberen te achterhalen door op zoek te gaan naar heimelijke communicatie tussen mensen van die bedrijven. En als daar sprake van is, kun je die mensen daar verantwoordelijk voor houden.

Kunstmatig hoge prijzen

Maar wat nu als niet mensen, maar computers verantwoordelijk zijn voor die prijsafspraken? Die mogelijkheid is reeël, want algoritmes zijn tegenwoordig zelflerend. Als meerdere bedrijven aan hun algoritmes de opdracht geven om een prijs vast te stellen die de winstgevendheid van het bedrijf ten goede komt, dan zouden kunstmatige hoge prijzen zomaar een mogelijke uitkomst kunnen zijn.

Naarmate bedrijven die algoritmes langer gebruiken - en luchtvaartmaatschappijen en websites doen dat al jaren - groeit de kans dat de algoritmes de mogelijkheid van prijsafspraken gaan ontdekken. Daar hoeft geen mens aan te pas te komen. Sterker nog, misschien weet geen mens er iets van af. De algoritmes zijn immers zelflerend.

AI-collusion voorkomen

Hoe voorkom je dat? Hoe herken je het? En wie is er verantwoordelijk en aansprakelijk? Italiaanse en Amerikaanse wetenschappers adviseren in de nieuwste Science om dat nu alvast uit te zoeken. Computerwetenschappers, economen en juristen zouden de handen ineen moeten slaan om een strategie te ontwikkelen tegen geheime prijsafspraken tussen algoritmes, oftewel 'AI-collusion'.

Een eerste stap zou kunnen zijn om in een laboratoriumsetting te testen welke algoritmische prijsbepalingen het meest risicovol zijn. Vervolgens zou je toezichthoudende software moeten ontwikkelen om die algoritmes er in de praktijk uit te kunnen pikken. En ten slotte zou je ook specifieke beperkingen kunnen stellen aan het leervermogen van de algoritmes, zodat ze de illegale prijsafspraken niet kunnen ontwikkelen.

Als je die stappen hebt doorlopen, denken de wetenschappers, zou het mogelijk moeten zijn om bepaalde algoritmes te verbieden - en bedrijven die ze toch gebruiken daarvoor te straffen.

Luister ook:

Verantwoordelijkheid kunstmatige intelligentie

NPO Radio 1 houdt je dagelijks op de hoogte over de laatste ontwikkelingen in de wetenschap  

Dagelijks tussen 17.00 en 18.30 uur in Nieuws en Co
Iedere werkdag van 02.00 tot 04.00 uur in Focus 
En wanneer je maar wil in podcast Focus Wetenschap

Correctie melden

STER Advertentie
Vorige pagina Back to top
NPO Radio 1