Een overheid die overal oren en ogen heeft. In China is het bijna zover. Naar schatting 600 miljoen camera’s hangen er inmiddels in het immense land. Dat is ruwweg 1 camera voor elke 2 Chinese burgers; het grootste videobewakingsnetwerk ter wereld. Maar wacht, er is meer: het zijn niet zomaar camera’s…
Bijna allemaal zijn ze uitgerust met gezichtsherkenningssoftware, waardoor elke burger binnen 3 seconden kan worden geïdentificeerd. Zoals onverlaten die te voet een rood stoplicht negeren of de poep van hun hond niet opruimen. Maar ook spijbelende scholieren, zwartrijders en dronkenlappen. En natuurlijk dissidenten en kritische journalisten. Niemand ontkomt aan het spiedende oog van de Chinese overheid. Ook de Oeigoeren niet, een moslimminderheid de door de Chinese autoriteiten gewantrouwd wordt. Altijd handig om te weten waar zij zich ophouden.
Tekst gaat verder onder de afbeelding
Maar daarmee zijn we er nog niet. De gezichtsherkenningssoftware is gekoppeld aan een immense database die meer dan een miljard Chinezen (uitgezonderd minderjarigen) van een zogenaamde ‘sociale kredietscore’ voorziet. Een persoonlijke ‘burgerscore voor gedrag’ die in real time, via geautomatiseerde rekenkundige modellen, kan worden aangepast. Elke stap die een volwassen Chinees zet, elke uitgave die hij doet en al zijn sociale gedragingen, zowel offline als op sociale media, kunnen van invloed zijn op die score. Precies zoals je financiële kredietwaardigheid, een eventueel strafblad en alle overtredingen die je ooit hebt begaan, dat ook zijn.
Tel daarbij op dat veel Chinezen, vooral in de grote steden, hun complete bestaan via apps op hun smartphone regelen, en je begrijpt dat er geen ontsnappen mogelijk is aan deze sociale kredietscore. Een getal dat je met goed gedrag kunt verbeteren – maar ook met slecht gedrag verder omlaag kunt helpen. En dan zijn de rapen gaar, want de Chinese overheid streeft een harmonieuze socialistische samenleving na.
Een lage sociale kredietscore heeft dan ook verregaande gevolgen. Waar in het westen snelheidsovertredingen er enkel voor kunnen zorgen dat je wellicht geen auto meer mag rijden, daar hebben in China overtredingen ook consequenties voor alle andere delen van je leven.
Wie daar bijvoorbeeld een betalingsachterstand heeft, hondenpoep laat liggen, zwartrijdt, drugs gebruikt, zijn ouders verwaarloost, kritiek heeft op de overheid of een reservering in een restaurant niet tijdig annuleert, die ziet zijn persoonlijke burgerscore dalen en komt – wanneer deze onder een bepaald puntenaantal zakt – op een van de vele beruchte zwarte lijsten terecht. En probeer er dan nog maar eens van af te komen. In veel gevallen is het niet eens duidelijk waarom iemand überhaupt op een zo’n lijst belandt. Klagen is onmogelijk, want niet alleen de registratie van overtredingen gaat geheel automatisch, maar ook de aftrek van punten.
Wie naar verluidt vijf keer door rood wandelt, belandt automatisch op een zwarte lijst. Al is dat aantal van vijf allerminst zeker. Het kan ook meer of minder zijn, want hoe de algoritmen achter zo’n ‘persoonlijke burgerscore’ werken, dat weet enkel de overheid. ‘Het Systeem’ is allerminst transparant.
Tekst gaat verder onder de afbeelding
Hoe dan ook, wie op een van de vele zwarte lijsten belandt, die krijgt van de Chinese overheid het stempel ‘onbetrouwbare’ burger. En dat heeft zo zijn consequenties. Elke ongelukkige die uit de gratie valt, kan zomaar van de ene op de andere dag ontdekken dat reizen met het openbaar vervoer niet meer mag (alleen al in 2018 overkwam dat meer dan 23 miljoen Chinezen) of dat het plots verboden is om een eigen huis of luxegoederen te kopen. Ook de internetsnelheid van ‘onbetrouwbaren’ kan worden afgeknepen, of zelfs helemaal geblokkeerd. Verder krijgen zij minder makkelijk leningen en verzekeringen, mogen ze niet solliciteren op overheidsfuncties en ook reizen naar het buitenland behoort voortaan tot de verleden tijd. Om het nog een graadje erger te maken, zijn ook de kinderen van ‘onbetrouwbaren’ de klos. Hen wordt de toegang ontzegd tot de betere opleidingen.
Overbodig te vermelden dat degenen die goed scoren, al deze geneugten wél krijgen. Wie een hoge score heeft, bijvoorbeeld door onberispelijk internetgedrag en respect voor de autoriteiten, die geniet tal van voordelen zoals voordelige leningen, korting op stadsverwarming, het openbaar vervoer en zelfs op vliegtickets. Maar ook voorrang wanneer het gaat om toegang tot overheidsdiensten.
De ‘onbetrouwbaren’ in China
Is de sociale kredietscore een streng en hardvochtig systeem? “Wie zijn krediet verliest, zal in deze maatschappij geen stap meer kunnen zetten,” stelt de Chinese overheid. En daar dient ook de sociale omgeving van ‘onbetrouwbaren’ aan mee te werken, want wie bevriend is met iemand die op een zwarte lijst staat, loopt óók het risico plots een lagere burgerscore te krijgen. Ook een vorm van sociale controle: immers, als iemand iets doet dat de Chinese overheid onwelgevallig is, kunnen degenen die met die persoon contact hebben, ook gestraft worden.
Tekst gaat verder onder de afbeelding
Voor Chinezen met te weinig krediet zit er dan ook niets anders op dan punten bij te verdienen. Bijvoorbeeld door het doneren van bloed, het verrichten van vrijwilligerswerk, het verbreken van banden met kritische vrienden of door geld over te maken aan een door de Chinese overheid erkend goed doel. Wie bijvoorbeeld meerdere keren over de stoep heeft gefietst, kan zijn sociale score naar verluidt weer verhogen door een week vrijwilligerswerk te doen. Maar ook dat is allerminst zeker. Zoals het onduidelijk is waarom iemand op een zwarte lijst belandt, is het ook onduidelijk hoe je er weer zonder kleerscheuren af kunt komen.
Black Mirror
Het Chinese systeem doet sterk denken aan de aflevering Nosedive uit de tv-serie Black Mirror. De episode speelt zich af in een samenleving waarin elke burger een persoonlijke score heeft (van 1 tot 5 sterren). Iedereen kan elkaar beoordelen, de hele dag door. Elke misstap, hoe klein ook, heeft consequenties. Een vrouw, Lacie Pound, is onderweg naar een bruiloft. Als haar vlucht wordt geannuleerd, snauwt ze het luchthavenpersoneel af. Dat komt haar duur te staan: er worden punten in mindering gebracht op haar sociale score. Daardoor mag ze überhaupt niet meer vliegen, want daarvoor heb je een sociale score van 4,2 nodig.
Lacie belandt in een neerwaartse spiraal, het gaat van kwaad tot erger. Als ze uiteindelijk al liftend toch aankomt op de bruiloft, zwetend, hijgend en met uitgelopen mascara, is ze daar eigenlijk niet meer welkom. Haar rating is namelijk zover gezakt, dat de bruid vreest dat haar aanwezigheid een negatieve invloed zal hebben op haar eigen score. Waarop Lacie tegen beter weten in toch haar speech begint, met als gevolg nóg meer negatieve beoordelingen. Daardoor zakt haar sociale score onder de 1 ster, waarna The System de politie een seintje geeft en Lacie in de gevangenis belandt.
Tekst gaat verder onder de video
Modelburger
Weinig Chinezen maken zich openlijk zorgen over het sociaal kredietsysteem waarmee de overheid van iedere burger een modelburger wilt maken. Al was het maar omdat kritiek op het systeem bijna automatisch kritiek is op de autoriteiten.
Bovendien zijn veel Chinezen al generaties lang gewend aan verregaande overheidsbemoeienis, dus dan kan dit er ook nog wel bij. Liever focussen zij zich op de voordelen van deze permanente surveillance. Zo vond de politie van de Chinese stad Shenzhen in 2017 binnen één dag een ontvoerd jongetje terug. Het kereltje werd herkend door surveillancecamera’s die met gezichtsherkenning waren uitgerust. Ook de vreemde vrouw die bij hem was, werd direct geïdentificeerd. Door data te koppelen, wist de politie al snel dat zij een treinkaartje had gekocht naar Wuhan. Daar werd ze op het treinstation gearresteerd. Binnen 24 uur was het jongetje weer thuis – en dat in een land van 1,3 miljard inwoners!
De snelheid waarmee de zaak werd geklaard, maakte veel indruk op ouders van jonge kinderen. In de weken die volgden, tilden zij op straat hun kinderen op om zo de gezichtsherkenning van de surveillancecamera’s te ‘voeden’, mocht hun oogappeltje ooit ontvoerd worden.
De start
Maar het oplossen van ontvoeringen is niet de reden waarom de Chinese overheid met het sociaal kredietsysteem is gestart. Sinds China de ‘vrije markt’ heeft omarmt en de economie van het land groeit en bloeit, zijn veel mensen binnenlands verhuisd, steeds op zoek naar beter werk. Mede daardoor werkt het traditionele ‘papieren surveillancesysteem’ niet meer. Bovendien kent het immense land geen gemeentelijke basisadministratie, waarin persoonsgegevens staan zoals naam, leeftijd, woonplaats, burgerlijke staat en kinderen. Welbeschouwd was de Chinese overheid het overzicht over haar 1,3 miljard burgers kwijt.
Tekst gaat verder onder de afbeelding
Hoogste tijd dus voor een digitale basisadministratie, zo besloten de autoriteiten in 2013. Eentje waarbij ook gebruik wordt gemaakt van alle ‘extra’s’ die nieuwe technologieën te bieden hebben. Het ambitieuze idee: geef op basis van ‘Big Data’ (denk aan gegevens uit databases van politie, banken, verzekeringsmaatschappijen en internetbedrijven) elke burger een persoonlijke score en pas deze vervolgens aan door hun gedrag te monitoren. Goed gedrag wordt beloond en slecht gedrag wordt bestraft.
Zo spant de Chinese overheid dus een immens, digitaal web over het land. Het sociale kredietsysteem had in 2020 al volledig operatief moeten zijn, maar nog niet alle technologische en bureaucratische problemen zijn opgelost. Al is dat slechts een kwestie van tijd.
De grote winst voor de overheid? Het nieuwe, digitale systeem maakt het burgers onmogelijk om te ‘vluchten’. In stad A er een potje van maken en vervolgens duizend kilometer verderop in stad B opnieuw beginnen, is er nu niet meer bij. De vrije markt heeft immers ook fraude en corruptie tot gevolg, niet bepaald bevorderlijk voor het onderling vertrouwen. Veel Chinezen beamen dat en snakken naar een vorm van sociale controle. Oké, deze vorm is dan wel erg dwingend, maar aan de andere kant: als iedereen zich gedraagt, dan levert dat een veilige en stabiele samenleving op. Oftewel, wie een gewoon leven leidt, die heeft allerminst iets te vrezen.
Doemscenario
Goed gedrag, daar draait het dus om. Plichtsgetrouwheid. Maar wat is goed gedrag? Dat bepaalt de Chinese overheid, oftewel de communistische partij. Waar in een democratie de kiezers bepalen wat de overheid dient te zien als goed gedrag, daar bepalen de Chinese machthebbers dat op eigen houtje. Zij leggen elke burger, geheel geautomatiseerd, langs de meetlat van de communistische partij.
Inmiddels hangen er zoveel surveillancecamera’s in China, dat ze voor de meest malle zaken worden gebruikt. De autoriteiten leggen de lat steeds lager en gebruiken de camera’s inmiddels ook om ‘ongeciviliseerd gedrag’ aan de kaak te stellen. Wie bijvoorbeeld zijn huis verlaat om in pyjama of ochtendjas even een ontbijtje te kopen, die loopt de kans zichzelf met foto, naam en toenaam terug te zien op een van de vele grote digitale billboards, die overal hangen. De publieke digitale schandpaal, naming and shaming.
Tekst gaat verder onder de afbeelding
De digitale massasurveillance is werkelijk overal. Zelfs in de openbare toiletten van grote steden wordt gezichtsherkenning ingezet. Tenminste, wanneer je ook je billen wilt afvegen. Daar zijn alle papierdispensers uitgerust met gezichtsherkenningssoftware. Volgens de autoriteiten om het jatten van toiletpapier tegen te gaan.
Maar critici zien dat anders. Zij spreken inmiddels van een orwelliaans doemscenario, zeker nu de Chinese overheid steeds vaker preventief ingrijpt. Zo kan het kopen van alcohol op verslaving duiden, waarna bijna als vanzelf een maatschappelijk werker zich bij de persoon in kwestie aan de deur meldt. Of erger: volgens mensenrechtenorganisatie Human Rights Watch worden in de Chinese regio Xinjiang burgers al preventief opgepakt en naar ‘politieke heropvoedingscentra’ gestuurd. De reden? Het algoritme (een mengelmoes van artificiële intelligentie, gezichtsherkenning en Big Data) heeft bepaald dat zij ‘ongewoon gedrag’ vertonen en dus mogelijk staatsgevaarlijk of ‘niet aangepast’ zijn.
Ook andere toepassingen staan op de rol. Zo zou er ook al een nieuwe technologie zijn die middels sonargolven toeterende auto’s kan herkennen. Dit omdat maar heel weinig automobilisten zich houden aan het claxonneerverbod. Maar de volgende stap is helder: surveillancecamera’s die niet alleen gezichten, maar ook stemmen herkennen.
Hoe vaak je onterecht mag claxonneren zonder op een zwarte lijst te belanden, is vooralsnog onbekend.
Is China ook óns digitale voorland?
Zover als in China zijn we hier nog lang niet. Maar wat niet is, kan nog komen. Waar China steeds meer begint te lijken op Black Mirror, daar laat Nederland zich bijvoorbeeld inspireren door de sciencefictionfilm Minority Report van Paul Verhoeven, met Tom Cruise in de hoofdrol, als hoofdcommissaris John Anderton. Voor wie de film niet kent: het is 2054 en een speciale politie-eenheid onder leiding van Anderton houdt zich bezig met pre-crime: het doel is om toekomstige moordenaars te arresteren nog voordat ze de moord plegen. Er is geen vuiltje aan de lucht, totdat ‘Het Systeem’ Anderton aanwijst als moordenaar in spé.
Tekst gaat verder onder de video
Precies dát is wat de Nederlandse politie voor ogen heeft met Predictive policing. Preventief ingrijpen dus; verdachten oppakken vóórdat ze een misdaad plegen. Bij de Hollandse dienders voorspelt het Criminaliteits Anticipatie Systeem (CAS) criminaliteit door zogenaamde ‘dreigingsscores’ te berekenen. Bijvoorbeeld door het combineren van postcodes, gegevens van het Centraal Bureau van de Statistiek (CBS), politiedata als strafbladen, beelden van camerasysteem en berichten op sociale media. Laat op al die data een slim algoritme (een rekenkundig model) los en je weet wie je eruit moet pikken. Een ‘buienradar voor boeven’ noemen sommigen het zelfs.
Zo heeft een man van 33 uit een achterstandswijk, die in zijn auto met een Roemeens nummerbord naar een winkelcentrum rijdt, al een probleem. Camera’s registreren zijn nummerbord en het CAS begint te rekenen. Meneer heeft een dreigingsscore van 72% wanneer het gaat om zakkenrollen. De man wordt vervolgens bestempeld als ‘risicoburger’, waarna in het centrum surveillerende dienders een seintje krijgen en de man volgen. Met andere woorden: niet het strafbare gedrag zelf maakt je tot een verdachte, maar het feit dat je afwijkt van de norm. Reden te meer voor burgerrechtenorganisatie Bits of Freedom om al in 2015 de Nationale Politie de Big Brother Award toe te kennen, een prijs voor de privacy-schender van het jaar.
