L’Empire du Milieu distingue le bon citoyen du mauvais

La populaire série Black Mirror, qui en est à sa cinquième saison sur Netflix, explorait les conséquences d’un système de crédit social dans l’épisode Nosedive. Une effrayante vision du futur. Pourtant, en Chine, un système de notation des citoyens existe bel et bien. Ce système de pointage vise à récompenser les bons comportements et à punir les mauvais. En période de tests, le « crédit social » de l’Empire du Milieu a déjà des répercussions et le système sera opérationnel d’ici 2020 à la grandeur du pays. La réalité dépasse-t-elle la fiction ?

Crédit : Kevin Hong

Prélude d’un monde nouveau

En 2014, le Parti communiste chinois (PCC) fignolait un système de notation des citoyens. Ce n’est qu’en 2018 que ce dernier a été mis en place dans quarante-trois municipalités pour une période d’essai. Grâce à la reconnaissance faciale à grande échelle, et à la cueillette de mégadonnées, des points et des avantages sociaux sont attribués aux citoyens dits « modèles », alors que les « mauvais » élèves voient leurs points dégringoler au même rythme que leurs avantages (lire droits). Tout citoyen est étiqueté selon ses actions en ligne et hors ligne : situation financière, habitudes de consommation, carrière professionnelle, comportements sur les réseaux sociaux, voire même fréquentations. Ainsi, les Chinois au score faible se verront restreindre l’accès à certains types d’emploi, d’écoles, de prêts bancaires, d’appartements et de transports publics. Les personnes endettées verront même leurs photos, noms et adresses divulguées sur un panneau, au vu de tous. Déjà, en 2018, 23 millions de citoyens se sont vu interdire l’achat de billets d’avion et de train, d’après ce que rapporte le Guardian. Lors du dévoilement de son programme, le gouvernement de Xi Jinping présentait le système de crédit social comme un « moyen de parfaire l’économie socialiste du marché et renforcer et renouveler la gouvernance de la société ». Mais qu’en est-il vraiment du « score de confiance national » ?

Capture d'écran tirée de l’épisode Nosedive (Black Mirror)

Le big data au service de la surveillance de masse

Le crédit social chinois repose sur des données fournies par les appareils intelligents, les médias sociaux, les plateformes d’e-commerce collectées sur les Chinois ayant accès à Internet. L’information est alors stockée dans une base de données colossale.

« Les mégadonnées permettent au Parti d’étendre son emprise déjà tentaculaire sur la vie des citoyens chinois. Le système de crédit social qu’il instaure lui permettra d’effectuer une collecte de données exhaustive pour mesurer la loyauté de chacun envers l’État. Comme des données peuvent être recueillies sur des entreprises et des individus à l’étranger, les pays qui voudront se mettre à l’abri du système de contrôle social de la Chine auront fort à faire. La stratégie de mégadonnées de la Chine pourrait renforcer le contrôle politique sans améliorer la qualité réelle de la gouvernance », peut-on lire dans la publication La Chine à l’ère de la rivalité stratégique, de la série Regards sur le monde : avis d’experts.

Cette collecte massive de données dissimule-t-elle une éphéméride plus sombre que de simplement séparer le « bon » du « mauvais » citoyen ? Selon la sinologue et scientifique politique Katika Kühnreich, l’instauration d’un tel système ne peut que devenir un outil de contrôle social. Par ailleurs, l’opacité de l’algorithme à l’origine du système de classement du crédit social semble hasardeuse.

Amazon et Google n’existent point dans la République populaire de la Chine ; la toile étant vigoureusement censurée par le biais d’une muraille virtuelle, la Great Firewall. Les Chinois connaissent plutôt les géants technologiques Baidu (concurrent de Google), Alibaba (équivalent d’Amazon et mieux connu sous le nom d’AliExpress par les Occidentaux) et Tencent (un peu comme notre Facebook). Surnommées BAT, ce sont ces mêmes sociétés qui recueillent et compilent les données des citoyens grâce aux traces numériques qu’ils étalent derrière eux. Ces données personnelles sont la base même des systèmes de crédit social et des calculs de scores imposés par le PCC.

Avec ce système, la Chine entre d’ores et déjà dans une nouvelle ère de surveillance et de contrôle, combinant propagande, intelligence artificielle, surveillance analogique et numérique.

Crédit : Marcin Wolski

Sous le regard du « Big Brother » chinois

D’ici l’an 2020, « L’Œil céleste » sera omniprésent en Chine, avec quelque 600 millions de caméras de vidéosurveillance installées. Si le système se met en branle comme prévu, on assisterait peut-être alors à une dictature numérique. Katika Kühnreich estimait qu’un projet de la sorte pourrait être étendu à d’autres pays. « Il y a une forte tendance actuelle à vouloir résoudre les problèmes de société avec des solutions technologiques, ou du moins, de tenter de le faire, explique-t-elle. Cela se produit actuellement en Chine, mais nous sommes loin d’en être exemptés en Occident ».

L’univers dystopique et cauchemardesque dépeint par Georges Orwell dans 1984 aurait-il pris vie ?

Pour l’économiste Antonia Hmaidi, doctorante à l’Université de Duisbourg-Essen, ce système est perçu différemment en Occident et en Chine, selon ce que rapporte Le Monde. « Ici, on le voit comme une grande dystopie orwellienne. En Chine, ils estiment plutôt que la technologie va régler les problèmes de la société. » Pas étonnant que plusieurs municipalités chinoises se soient portées volontaires pour livrer leurs données.

Quand bien même que le globe aurait les yeux rivés sur la Chine et tremblerait face à ce scénario qui ne relève désormais plus de la fiction, les Occidentaux ne sont pas tout à fait étrangers au système de notation. Nous n’avons qu’à penser aux UBER, AirBnb, TripAdvisor et autres services de ce monde. Et que dire de la protection des renseignements personnels et des données personnelles ! Fort à parier que peu nombreux sont les utilisateurs qui parcourent en entier les politiques de confidentialité des applications dont ils font usage avant de donner leur consentement. Nul doute que nous ne savons pas comment nos données sont collectées et partagées non plus. Rappelons notamment le scandale de l’appropriation des données personnelles de millions d’usagers Facebook par la firme Cambridge Analytica, jouant un rôle majeur dans l’élection de Trump à la présidentielle aux États-Unis et le vote en faveur du Brexit au Royaume-Uni. Et, plus récemment, la fuite de données personnelles de 2,9 millions de membres du Mouvement Desjardins. Par ailleurs, une étude menée dans neuf pays par l’Université d’Oxford en juin 2017 arrivait à la conclusion que Facebook et Twitter étaient devenus des outils de contrôle social… Le monde emboitera-t-il le pas en rejoignant les 1,4 milliard d’habitants sous le régime du « Big Brother chinois » ?

Lectures intéressantes sur le sujet :