Fred Sengers

In een totalitaire staat zijn nieuwe technieken levensgevaarlijk

Door Fred Sengers - 03 mei 2018

Nieuwe technieken kunnen het leven aangenamer maken en efficiencyvoordelen opleveren. Maar in handen van een totalitaire staat kunnen zij ook een middel van ongekende onderdrukking vormen, schrijft Chinadeskundige Fred Sengers.

Chinese bedrijven gebruiken nieuwe techniek om de emotionele staat van werknemers te registreren. Sensoren, klein en licht genoeg om te worden ingebouwd in een veiligheidshelm of uniformpet, meten ongewone hersenactiviteit die duiden op woede, vermoeidheid of stress.

De data worden draadloos naar een computer gestuurd die veranderingen in de emoties van de werknemers vastlegt. De apparatuur blijkt al sinds 2014 in uiteenlopende branches met succes te worden ingezet.

Goed voor de productiviteit, menen voorstanders

Voorstanders claimen dat het systeem de productiviteit verhoogt. Woede en stress kunnen erop duiden dat er iets in de werkomstandigheden niet deugt. Vermoeidheid dat het werktempo te hoog ligt of dat er onvoldoende pauzes zijn. Groepsgegevens kunnen het productieproces optimaliseren en tegelijkertijd werkomstandigheden verbeteren.

Deayea, een van de bedrijven die de apparatuur levert, wijst op kwaliteitsverbetering en risicoverlaging. Werkgevers zouden snel in de gaten hebben welke personeelsleden er niet helemaal bij zijn. Wie vermoeid is kan bijtijds worden vervangen voordat er iets misgaat. Het is niet voor niets dat de Chinese spoorwegen, electriciteitsbedrijven en het leger in de nieuwe technologie zijn geïnteresseerd.

Gezichtsherkenning

De voordelen zijn evident. Maar het systeem kan ook onthullen dat bepaalde werknemers het tempo ophouden, tijdelijk persoonlijke problemen hebben of slecht in de groep liggen. Chinese privacydeskundigen (ja, die bestaan) waarschuwen dat regelgeving nodig is om werknemers te beschermen.

Een ander voorbeeld is gezichtsherkenning. In Hangzhou experimenteren Ant Financial, de financiële tak van Alibaba, en fastfoodketen KFC met gezichtsherkenning als middel van betaling. De klant kijkt in de camera, de computer verifieert Ant’s klantendatabase en presenteert de bijbehorende naam, waarna het aankoopbedrag automatisch wordt afgeschreven.

Gezichtsherkenning kan ook worden ingezet bij toegangscontrole. Werknemers hebben dan geen pasjes meer nodig. In de toekomst hebben we geen kaartjes meer nodig om met de trein of een concert te bezoeken. De computer herkent ons wel. Makkelijk en efficiënt.

De Chinese overheid is ook geïnteresseerd. In China hangen 170 miljoen bewakingscamera’s. De computer kan verkeersovertredingen niet alleen vastleggen, maar ook de plegers identificeren, gezochte criminelen herkennen of geautomatiseerd terreurverdachten volgen. Daar zal niemand tegen zijn. Maar een regime kan de techniek ook inzetten om criticasters te volgen en vast te leggen wie zij ontmoeten.

Nationale database

Isvision in Shanghai heeft in 2016 van de Chinese overheid de opdracht gekregen een nationale database te ontwikkelen ten behoeve van gezichtsherkenning. De foto’s van de ID-kaarten van alle Chinezen moeten in het systeem worden opgenomen. De database moet een cruciale rol gaan spelen bij het identificeren van Chinese burgers in al zijn contacten met de overheid.

Hoe ver gezichtsherkenning al is, bleek vorig jaar uit een BBC-reportage. Verslaggever John Sudworth kreeg een inkijkje in de controlekamer van de politie in de stad Guiyang. Bij wijze van experiment werd zijn foto in een database met gezochte personen geladen en ging de verslaggever de straat op. Al binnen zeven minuten werd hij aangehouden. Niet omdat agenten wisten wie hij was, maar omdat de computer hem feilloos uit de mensenstroom had weten te pikken.

Internetgigant Alibaba experimenteert met zogeheten financiële kredietscores. Klanten die zich netjes gedragen kosten het bedrijf minder dan klanten die dat niet doen. Alibaba geeft een deel van die winst terug in de vorm van kleine voordeeltjes, zoals korting, geen borg betalen bij autohuur of makkelijk een persoonlijke lening verstrekken. De meeste klanten vinden dat fijn en doen hun best een hogere kredietscore te krijgen. Soms zetten Chinese mannen het zelfs in hun datingprofiel (‘Ik ben betrouwbaar’)!

Laagvertrouwenmaatschappij

De Chinese regering is hierin zeer geïnteresseerd. Als gewenst gedrag stimuleren cq ongewenst gedrag ontmoedigen met financiële kredietwaardigheid kan, waarom zou dat niet met sociale kredietwaardigheid kunnen? Net zoals private partijen het nog niet zo makkelijk vinden uit de berg big data van hun klanten bruikbare algoritmes te destilleren (van de acht bedrijven die vergunning hebben gekregen voor zo’n scoresysteem, heeft alleen Alibaba vooralsnog een bruikbaar systeem ontwikkeld), zo heeft ook de overheid het gouden ei nog niet gevonden. Maar dat is een kwestie van tijd.

Veel gewone Chinezen zien dit allemaal niet als een zorgwekkende ontwikkeling. Dit komt omdat China een zogeheten laagvertrouwenmaatschappij is. Veel burgers zien elkaar als een grotere bedreiging dan de overheid. En eerlijk is eerlijk: fraude, diefstal en bedrog komen ook veel voor in de Chinese maatschappij. Veel burgers verwachten dan ook dat de overheid hen daar tegen beschermt.

Onderdrukkingsinstrument

Op zichzelf zijn er legio voordelen aan dit systeem. Maar het kan in een autocratie eenvoudig worden misbruikt als naast allerlei objectieve criteria ook ideologische criteria in de weging worden opgenomen.

Is een modelburger iemand die zich aan de wet houdt of iemand die ook loyaal is aan de staat en de partij? Dan kan het een instrument van onderdrukking worden. En gezien de huidige situatie in China waarbij de communistische partij de controle op de samenleving steeds verder vergroot, is dat niet onwaarschijnlijk.

Ingelogde abonnees van Elsevier Weekblad kunnen reageren.