appjecalendarcheckchevron-downchevron-leftchevron-rightchevron-upclosedownloaddragfacebookfast-backwardfast-forwardgoogle-plusiconinstagramlinkedinlistlisten-livelogo-nporadio1logo-tour-de-france mailmicrophonepauseperson-man-2person-woman-4phonepinterestplayplaylistplyr-nextplyr-prevquestionquotesearchsharesorter--up-and-down star--open-and-filled star-openstarthumbdownthumbuptwitterwatch-livewhatsappyoutubeplyr-captions-off plyr-captions-on plyr-enter-fullscreen plyr-exit-fullscreen plyr-fast-forward plyr-muted plyr-pause plyr-play plyr-restart plyr-rewind plyr-volume
STER Advertentie

Rapport over killer robots zonder nuance

Protest in 2013
zaterdag 24 augustus 2019 | AVROTROS | redactie dr Kelder en Co Twitter

Machines die zelfstandig de beslissing kunnen nemen dat ze mensen doden. Het is een angstaanjagend scenario. Afgelopen week publiceerde vredesorganisatie Pax een rapport waarin volgens dr Dieuwertje Kuijpers de nuances over 'killer robots' ver te zoeken zijn. "Er is niet eens een heldere definitie van autonome wapens", zegt ze in dr Kelder en Co.

Killer robots

In het rapport van Pax wordt gewaarschuwd voor grote techbedrijven die werken aan militaire middelen. Die bedrijven zouden daarmee op een 'zeer zorgwekkende' wijze bijdragen aan het maken van autonome wapens: robots die zelfstandig kunnen beslissen om mensen te doden of om bombardementen uit te voeren.

Luister ook Jortcast: 

"Een mijn zou je een autonoom wapen kunnen noemen, die ontploft vanzelf als er druk op komt", zegt dr. Kuijpers. Het gaat om de vraag of er een menselijke beslissing aan die dodelijke actie vooraf gaat. Bij drones met bommen is het nog altijd zo dat een mens die op afstand bestuurt en ook een mens beslist of de bommen worden afgevuurd. Het is dan de vraag of dat autonome wapens zijn.

Macht

In het rapport wordt daar niet bij stilgestaan. Militaire middelen die niet zelfstandig kunnen handelen worden in het rapport wél tot autonome wapens gerekend.

"De vraag is natuurlijk of die grote tech-bedrijven (Google, Facebook, Amazon) al hun kracht en geld gaan inzetten om dit soort autonome wapens te ontwikkelen. Dat is de macht in zichzelf", merkt dr Kelder op.

Thermische camera's

"De intellectuele capaciteit die gestoken wordt in het ontwikkelen van die kunstmatige intelligentie, zit in die civiele markt", zegt dr. Kuijpers. De technologie voor duurzame windmolens wordt ook gebruikt in thermische camera’s van Defensie.

"Het Pentagon of het Nederlandse ministerie van Defensie kijken naar die bedrijven voor de mogelijkheden", zegt Kuijpers. Maar er zijn al internationale afspraken gemaakt over hoe je civiele ontwikkelingen mag gebruiken voor militaire doeleinden. Dat wiel hoeven we niet opnieuw uit te vinden.

Ethiek

Wel moeten we een discussie voeren over hoe we die systemen een moreel bewustzijn kunnen geven. Hoe ga je ethiek programmeren? En wat gebeurt er als kunstmatige intelligentie slimmer wordt dan de mens? Die discussie moet gevoerd worden, meent dr. Kuijpers. "Het helpt dan niet om paniek te gaan zaaien met hysterische berichten over killer robots."

Hysterie rondom killer robots

Correctie melden

STER Advertentie
Vorige pagina Back to top
NPO Radio 1