AI speelt steeds grotere rol in oorlogen: 'De mens kan nadenken over ethiek, AI niet'

Dat kunstmatige intelligentie de aard van oorlog ingrijpend kan veranderen, daar waarschuwde onlangs zelfs de paus voor. In zijn eerste encycliek waarschuwde hij voor autonome wapensystemen, die zelf mensen kunnen doden zonder dat een mens ingrijpt. Deze worden nog niet op grote schaal toepast. Wat Boer betreft, blijft dat ook zo. "Als je het hebt over het inzetten van geweld tegen mensen dan is dat wat ons betreft een bepaalde grens die niet overgegaan moet worden", zegt ze.

Wat AI wel doet is helpen bij doelwitselectie. In het voorjaar werd in Iran een meisjesschool geraakt door een Israëlische raket, met tientallen doden tot gevolg. Volgens defensie-expert Bart van den Berg zou 'het heel goed kunnen' dat dit een fout was door AI, zo vertelt hij in Dit is de Dag. 

Doelwitselectie wordt door AI veel efficiënter en sneller, vertelt Van den Berg: "Veel van die stappen gaan geautomatiseerd. Wat vroeger 2000 mensen aan het doen waren, zijn dat er nu 20. Dus dat gaat veel sneller. Maar wat dan vervolgens het effect en de kwaliteit is van die lijsten met doelwitten en die bommen, daar heb ik wel mijn vraagtekens bij."

'Kan ook voordelen hebben'

Marc Derksen, oprichter van een drone-softwarebedrijf die zaken levert aan Defensie, ziet echter ook wel voordelen. AI maakt sneller beslissingen, waardoor de oorlog minder lang kan duren. "Op het moment dat je in strijd bent met een land is het de bedoeling om zo snel mogelijk die strijd tot een einde te brengen. Dat doe je door ervoor te zorgen de wil om te vechten van de vijand te breken. Door dit soort software te gebruiken om sneller doelen uit te schakelen, kan je de strijd korter laten duren."

Zijn drones kunnen overigens niet autonoom beslissen, vertelt hij. "We werken altijd met een human onderloop, een betekenisvolle menselijke controle."

Boer is daar blij mee. "Mensen zijn in staat tot empathie en in staat verantwoordelijkheid te nemen als ze op fouten worden aangesproken. Daarnaast kunnen ze bedenken wat de waarde van een menselijk leven is en compassie tonen. Dat zijn allemaal waarden die je aan AI kan meegeven. Maar ik denk dat de mens tot ethiek in staat is en AI niet."