‘De overheid kan ons niet beschermen tegen Big Tech’

Neem Uber-chauffeurs: zij klokken in voor een dienst door hun gezicht te scannen met herkenningssoftware, krijgen beoordelingen via een online rating-systeem en kunnen zonder verder overleg worden ontslagen bij een slechte score. Een groep Britse chauffeurs was het zat om dit alles te ondergaan voor minder dan het minimumloon en zonder betaling bij ziekte of vakantie. Ze zagen maar één optie: naar de rechter stappen.

Met succes. Uber moet zijn chauffeurs als werknemers behandelen, en dus ook een minimumloon en betaald verlof geven, zo oordeelde het Britse Hooggerechtshof. Als ze écht freelancers waren, dan konden ze namelijk ook onderhandelen over de arbeidsvoorwaarden, ritprijzen en verdeling van ritten. Er volgden vergelijkbare uitspraken in onder meer Nederland en Italië, en de EU is regelgeving aan het ontwikkelen over hoe álle digitale platforms met hun werkers moeten omgaan.

“Digitale rechten zijn eigenlijk gewoon mensenrechten, maar dan in een digitale context”, zegt Jansen Reventlow. Het gaat om de arbeidsrechten van Uber-chauffeurs, het recht op onderwijs van kinderen die geen laptop hebben en het recht om enkel met een goede reden als fraudeur te worden aangemerkt, niet op basis van een algoritme van de Belastingdienst.

“Ik zou graag zeggen dat ik een prachtig verhaal heb over waarom ik me tegen onrecht verzet, maar dat is niet zo”, lacht Jansen Reventlow. “Mijn vader is Malinees, mijn moeder een geboren Nederlander; als je altijd ‘anders’ bent, word je scherp op onrecht. Maar ik ging vooral rechten studeren omdat ik niet wist wat ik wilde worden.” Eenmaal in de collegebanken viel alles op zijn plek. “Ik was zo’n vreselijk irritante student die altijd haar huiswerk deed en steeds discussies voerde.”

Jaren later specialiseerde ze zich in digitale rechten. “Veel mensen denken dat de gevaren van technologie zich beperken tot ‘privacy’ en ‘databescherming’. Maar het is veel groter. Het gaat erom dat we zóveel automatiseren, dat onze basisrechten – van het recht op een minimumloon tot de vrijheid van meningsuiting – ongemerkt in de knel komen.

“Waar ik me vooral druk om maak is hoe techbedrijven zichzelf opwerpen als de ‘grote verlossers’ en overheden dat zomaar accepteren, omdat ze zelf geen technologie kunnen ontwikkelen. Neem de coronapandemie: er zijn massaal covid-apps ontwikkeld, waardoor surveillance steeds normaler wordt. Maar er is nooit écht kritisch gekeken naar wat er met onze data gebeurt. Techbedrijven geven niet graag openheid, en beleidsmakers vechten daar niet hard genoeg voor. Terwijl, als je een brug laat bouwen, dan wil je toch ook precies weten waar je geld heen gaat en of de brug wel veilig is?

Waarom komt Big Tech hier zo makkelijk mee weg?

“Het versterkt zichzelf: zolang bedrijven niet transparant zijn, blijven de misstanden onzichtbaar, en zijn we ons dus niet bewust van de gevaren. Ook begrijpen veel media en politici gewoon te weinig van technologie.

Er is redelijk wat aandacht voor privacy, databescherming en vrijheid van meningsuiting online, maar je hoort weinig over hoe technologie sociaaleconomische rechten onder druk zet. Dat komt doordat het hele veld – van Silicon Valley tot ontwikkelaars, van juristen en ngo’s tot media en politiek – ontzettend homogeen is. Wit, mannelijk, cisgender, middenklasse, zonder beperking. Zij hebben weinig te vrezen van automatisering; die raakt juist de ondervertegenwoordigde groepen.”

“Precies. Door automatisering kan een uitkeringsaanvraag zonder duidelijke reden worden afgewezen. Of neem het onderwijs: sinds de pandemie gebruiken veel universiteiten ‘proctoring’ software om studenten die thuis hun examens doen te controleren op fraude. Dat gebeurt ook in Nederland. Uit Amerikaans onderzoek blijkt dat die software racistische elementen heeft: kinderen van kleur worden niet goed herkend, waardoor ze sneller als fraudeur worden aangemerkt.

En in Europa zijn er steeds meer camera’s op straat vanwege de ‘veiligheid’. Maar voor wie is dat veilig? Voor iemand die vaak etnisch wordt geprofileerd en handhaving als bedreiging ziet, is constante surveillance juist onveiliger.”

“Het DFF ondersteunde bijvoorbeeld de zaak van Liberty, een Britse mensenrechtenorganisatie die strijdt tegen het gebruik van gezichtsherkenningssoftware bij de politie. Zij wonnen in 2018 in hoger beroep hun eerste zaak: volgens de rechter kon de politie van South Wales niet garanderen dat hun software niet discrimineert, en geen inbreuk maakt op de privacy van mensen wiens gezicht werd gescand. En we hebben ook de succesvolle SyRI-zaak ondersteund [hierdoor moest het fraudebestrijdingssysteem van de Nederlandse overheid van tafel, dat volgens de rechter inbreuk maakte op het recht op privacy, red.].

Je vertelde dat het digitale rechtenveld erg wit en mannelijk is. Hoe is het voor jou om in die wereld te bewegen?
“Ik heb lang getwijfeld of ik hier eerlijk over zou zijn, want het gaat over mensen met wie ik samenwerk. Maar het is belangrijk om hierover te praten. Ik heb dan wel een organisatie opgezet die er prachtig uitziet, maar het was niet altijd makkelijk.

Het team en bestuur ondervroegen mij altijd extra op mijn expertise of plannen voor de organisatie. Terwijl ik zeker weet dat als ik een witte kerel was geweest, niemand ook maar één seconde aan mijn voorstellen zou hebben getwijfeld.

Je hebt het wel in actie omgezet: in 2018 startte DFF het project Decolonising Digital Rights. Wat houdt dat precies in?

“We willen samenwerking faciliteren tussen juristen en activisten uit gemarginaliseerde groepen. Dus we brengen digitale rechtenorganisaties uit heel Europa in contact met onder meer lhbti+- en vrouwenorganisaties, antiracisme-activisten, sekswerkerscollectieven en ongedocumenteerden. Zij kunnen van ons leren over de gevaren van technologie en hoe hiertegen te strijden. Wij leren op onze beurt over issues waarmee zij te maken hebben die we misschien over het hoofd zien, en wat er nodig is om onze eigen bias aan te pakken.

Mijn nieuwe organisatie, Systemic Justice, gaat dan ook anders te werk dan advocaten meestal doen: we gaan eerst in gesprek met lokale organisaties in Europa – van vakbonden tot Roma-organisaties – om dan samen zaken aan te spannen over wat zíj belangrijk vinden.”

Hoe kunnen ‘gewone mensen’ voor hun online rechten opkomen?

“Burgercoalities stellen massaclaims op tegen grote techbedrijven, bijvoorbeeld vanwege het schenden van hun privacy. In de VS gebeurt dat veel, in Europa is het redelijk nieuw.

Maar de verandering moet vooral van overheden komen. Zij zouden altijd de vraag moeten stellen: hebben we hier écht technologie voor nodig? Ook media zijn daar niet altijd kritisch over, dus mijn belangrijkste advies is: houd lokale organisaties in de gaten, zoals in Nederland Bits of Freedom. Zij geven niet alleen goede tips over hoe je jouw eigen privacy beschermt, ze waarschuwen ook als eerste voor online gevaren.”