De duistere kant van ChatGPT en Claude: 'Mensen moeten lezen over pedo's en seks met dieren'

Nasrullah vertelt dat een systeem als chatGPT pretendeert te kunnen bepalen of een tekst bijvoorbeeld sekistisch, racistisch of nazistisch is. Maar daarvoor moet wel eerst een mens die tekst lezen en het juiste label geven. "Dat kunnen dus ook heel schokkende teksten zijn. Er is een voorbeeld bekend van een tekst over een man die seks heeft met een hond, terwijl er een kind bij is", vertelt de digitaal strateeg.

Heftige beelden

Niet alleen teksten moeten worden beoordeeld. Ook video's, bijvoorbeeld voor Meta, het bedrijf achter Facebook en Instagram. Het Amerikaanse nieuwsprogramma 60 Minutes sprak met een aantal mensen uit Kenia, die voor techbedrijven werkten. Ze moesten beelden bekijken van mensen die suïcide pleegden, werden afgeslacht of ongebruikelijk seksueel gedrag vertoonden. Het was erg traumatisch, vertelden zij. "Ik genoot erg van mijn huwelijk, ook als het gaat om het vuurwerk in de slaapkamer, maar nu die baan haatte ik seks", vertelde één van hen in het programma. 

Niet alleen in Kenia wordt dit werk gedaan. Ook in Venezuela is het bekend. "We weten dat het aantal mensen dat dit doet in de miljoenen loopt", vertelt Nusrallah. "Maar de exacte schaal is niet bekend, omdat het vaak achter de schermen gebeurt via vage constructies. Als OpenAI – het bedrijf achter ChatGPT – dit werk wil laten doen, doen ze het via een tussenpartij. Op deze manier kunnen ze hun handen in onschuld wassen." Dat is bewust, denkt hij: "Toen er kritiek op kwam, gingen ze nog meer via die tussenpartijen doen."

De paus noemde dit werk onlangs 'slavernij'. Nusrallah vindt dat geen gekke benaming. "Ze werken tegen hele lage lonen, ze krijgen geen goeie ondersteuning en er is veel kinderarbeid in deze industrie. Het heeft veel aspecten van slavernij, al zitten mensen niet met ketenen vast." Bovendien is er weinig zekerheid: als mensen hun werk niet goed doen, worden ze er heel makkelijk uitgegooid. In het eerder genoemde Kenia is de werkloosheid onder jonge mensen gigantisch, waardoor men ook geen andere keuze heeft om dit werk te doen.

Politiek moet ingrijpen

Als je ChatGPT, Claude of een andere AI-tool gebruikt, sta je dus eigenlijk toe dat deze uitbuiting plaatsvindt, zeggen critici. Nusrallah vindt dat niet helemaal eerlijk: het zijn de bedrijven zelf die verantwoordelijk zijn, niet de gebruiker. "Ik vind het dus bij uitstek een onderwerp waar de politiek op moet ingrijpen. Zij moeten zeggen: deze praktijken moeten we niet willen, we hebben een nieuwe manier van werken nodig", zegt hij. En als de bedrijven dit niet aanpassen? Dan moeten overheden hun spierballen maar eens laten zien. "Je moet er wel consequenties aan verbinden." Of dat gaat gebeuren, daar is Nusrallah wel somber over.