Kunstmatige intelligentie belooft veel, maar is volgens Ilyas Nasrullah minder intelligent dan we denken

Een contentgenerator, geen expert

Nasrullah waarschuwde al in 2023 voor de hype rond ChatGPT. Volgens hem bootsen chatbots vooral taal na. "Ze voorspellen welke woorden bij elkaar passen op basis van grote hoeveelheden trainingsdata, maar begrijpen niet daadwerkelijk wat ze zeggen". Daarom spreekt hij liever van een 'contentgenerator' dan van kunstmatige intelligentie.

Dat verschil kan grote gevolgen hebben. Zo komt in de uitzending een voorbeeld ter sprake van een Canadese bergbeklimmer die een chatbot om routeadvies vroeg en uiteindelijk met een helikopter moest worden gered. "Deze situatie is tekenend voor het vertrouwen dat mensen in kunstmatige intelligentie stellen. Chatbots kunnen antwoorden geven die deskundig klinken, zonder dat die antwoorden ook daadwerkelijk betrouwbaar zijn", zegt Nasrullah.

Waarom vertrouwen we kunstmatige intelligentie zo snel?

Dat mensen chatbots toch als intelligent ervaren, heeft volgens Nasrullah te maken met de manier waarop ze communiceren. "Omdat de systemen menselijke taal gebruiken en soms in de ik-vorm spreken, ontstaat al snel de indruk dat er een menselijke gesprekspartner achter zit", zegt hij. Nasrullah verwijst naar het zogenoemde Eliza-effect, waarbij mensen menselijke eigenschappen toekennen aan computers.

Ook spreekt hij over de miljardeninvesteringen in kunstmatige intelligentie: "Die investeringen dragen bij aan het vertrouwen in de technologie. Tegelijkertijd schuift de industrie problemen te gemakkelijk door naar de gebruiker, terwijl hun eigen techniek zelf nog te kort komt". 

Kunstmatige intelligentie kan nuttig zijn, maar niet overal

Nasrullah benadrukt dat kunstmatige intelligentie wel degelijk waardevol kan zijn, bijvoorbeeld bij het vroeg opsporen van kanker. Daarvoor moet de technologie volgens hem wel zorgvuldig worden getest. In andere sectoren ontbreekt die voorzichtigheid volgens hem te vaak.

Hij maakt zich ook zorgen over het uitbesteden van denkwerk. Zo vindt hij het problematisch wanneer politici belangrijke toespraken door kunstmatige intelligentie laten schrijven. Bij zulke momenten verwachten mensen volgens hem persoonlijke betrokkenheid. "Een tekst controleren is niet hetzelfde als zelf nadenken over de boodschap die je wilt overbrengen".

Nasrullah pleit daarom voor een kritischer houding tegenover kunstmatige intelligentie. Zolang niet duidelijk is dat een systeem betrouwbaar genoeg is voor een bepaalde toepassing, moeten organisaties het daar volgens hem niet voor inzetten.