Nous ne sommes ni dans les prophéties politiques d’Alexis de Tocqueville (De la démocratie en Amérique, 1840, tome 2, chapitre 6) ni dans les rêves prémonitoires et les anticipations technologiques d’Aldous Huxley (Le meilleur des mondes, 1932) et de George Orwell (1984, 1949).

Nous sommes dans le réel, celui d’une société entièrement placée sous surveillance, avec des caméras dans les rues, à raison d’une pour deux ou trois habitants. Sans compter qu’on y trouve de nombreuses applications sur le téléphone portable qui permettent de tracer les déplacements et d’enregistrer toutes les habitudes de consommation de chacun.

Cette société, c’est la Chine. Elle gère le quotidien de Lulu et de ses compatriotes. Tous sont confrontés à une technologie qui observe, juge et détermine pour une bonne part leur existence. Lulu, c’est aussi l’épouse de Sébastien Le Belzic, un journaliste français installé à Pékin depuis 2007, qui a décidé de filmer son quotidien pour mieux comprendre cette révolution technologique et sociale. D’ailleurs, le journaliste en a même tiré un documentaire en février 2022 : «Ma femme a du crédit».

Concrètement parlant, le documentaire en question relate que le simple fait de prendre le métro, d’acheter à manger, de choisir un livre, tous ces actes du quotidien sont archivés par la grande moissonneuse numérique chinoise. En effet, le régime mélange toutes ces données pour construire le portrait numérique de chaque citoyen. Tous les Chinois, ou du moins la majorité de ceux vivant dans les grands centres urbains, ont désormais leur double numérique, noté, calibré, évalué par les ordinateurs du parti et stocké dans de puissants serveurs informatiques de Pékin.

Nouvelles normes de conduite dans la cité

Le stratagème chinois est simple : la loyauté fait gagner des points, tandis que les critiques font perdre du crédit. Si certains Chinois rejettent ce nouveau mode de surveillance et vont même jusqu’à le dénoncer, en dépit des avertissements des autorités, le combat semble pourtant perdu d’avance. Pékin contrôle toute l’activité des géants des nouvelles technologies. Ainsi, le droit de regard et d’utilisation des données par le Parti communiste chinois risque de ne jamais être remis en cause.

Comment pourrait-il en être autrement? La Chine est le pays du paradoxe… Un pays où les couleurs de la démocratie et du libéralisme économique se mélangent à celle du communisme afin de donner une teinte propre aux règles et à la tradition du conformisme, héritage de la philosophie confucéenne. Preuve en est que ce système posant les bases d’un nouveau crédit social contribue à faire des 1,4 milliards de Chinois, incluant Lulu, des individus constamment hantés par la crainte de passer sous le seuil des 350 points et venir grossir la liste des citoyens de seconde zone.

Et nous, Occidentaux, comment vivons-nous en démocratie?

Quel regard doit-on porter sur cette société de surveillance qui promet en retour une vie à crédit? Une posture critique est d’autant plus nécessaire, car lorsque je dis «vie à crédit», j’entends que cela conditionne non seulement la possibilité d’un prêt dans une banque — jusque-là pas trop de différence avec nous —, une réservation pour un billet de train, voire un voyage à l’étranger (et donc une demande de passeport) ou encore le libre choix d’envoyer ses enfants dans une école en particulier.

Ainsi donc, prendre toute la mesure d’un tel système implique qu’on y réfléchisse à deux fois? Étienne de La Boétie n’avait peut-être pas tort lorsqu’il décrivait la Servitude volontaire (1576) comme un renoncement conscient à sa liberté. La culture et la réalité quotidienne des Chinois ont beau contraster avec les valeurs occidentales, nous sommes subjugués par un tel fonctionnement. Certes, il est possible que, comme dans 1984 d’Orwell, l’on réalise sur le long terme que cette surveillance électronique est totalement bénigne, donc beaucoup moins puissante, et que par conséquent, nous ayons tort d’en perdre le sommeil des nuits durant.

Du reste, ce qui ne rend pas cependant optimiste au sujet de cette forme d’absolutisme chinois, contrairement à d’autres progrès technoscientifiques en cours, c’est qu’il mélange des avantages manifestes et des inconvénients plus subtils dans une même enveloppe, à savoir le souci de la sécurité des biens et des personnes et, paradoxalement, l’atteinte aux droits et libertés.

L’obsession sécuritaire à tout prix

Qu’il s’agisse d’un prêt bancaire, d’un service à la consommation ou du permis de conduire, une part essentielle du mode de vie occidental est déterminée par des cotes de crédit. À vrai dire, lorsqu’on y regarde plus près, on s’aperçoit que le système chinois s’apparente assez bien avec le calcul du crédit qui s’est développé aux États-Unis dans la période de l’après-guerre, notamment avec les courtiers en notation dans le domaine des assurances et du crédit à la consommation.

Est-ce à dire que le modèle chinois de surveillance prend racine chez le «grand frère» américain? Chose certaine, là où la Chine semble toutefois se différencier du reste du monde, c’est par un recours décomplexé aux nouvelles technologies et au numérique afin d’exercer un contrôle à plus grande échelle.

Cette ambition remonte tout particulièrement au début des années 2000 lorsque le pays voulut s’ouvrir davantage à l’économie de marché et au libéralisme. Ce faisant, la Chine y trouva non seulement la solution pour une gestion cohérente de ses finances et des échanges commerciaux, mais également un outil parfait pour assurer l’ordre, l’équilibre et la paix sociale.

Si le pays paraît avoir un pas d’avance sur le reste du monde en matière de surveillance, ce n’est pas tant grâce à de l’innovation ou à une plus grande expertise qu’au fait d’avoir su imposer à sa population — il en coûterait des milliards pour surveiller la minorité musulmane ouïghoure — une production (occidentale) de l’intelligence artificielle (IA) appliquée sur des données issues de capteurs, tandis qu’ailleurs, surtout en Europe, l’on débat encore des fondements juridiques d’un tel contrôle social par la reconnaissance faciale (lire Jean-Gabriel Ganascia, Les servitudes virtuelles, 2022). À titre d’exemple, sur les vingt villes les plus équipées au monde en caméra de surveillance, dix-huit sont chinoises.

La question des droits et libertés

En définitive, si la question du tout sécuritaire ne va pas sans poser de réels problèmes, c’est parce qu’elle comporte des risques d’atteinte aux droits et libertés. Concrètement parlant, nous disposons actuellement, incluant les Chinois, de trois outils de surveillance : 1- les caméras; 2- la fusion des informations et des images disponibles; 3- l’interprétation des sources à partir de l’IA (identité, comportement, etc.).

Concernant le recours à l’IA, celle-ci comporte des effets à la fois positifs et négatifs en matière de droits et libertés. Si personne ne s’objectera vraiment à ce que sa sécurité soit assurée, comme lorsque la reconnaissance faciale permet de certifier un passeport (l’authentification), en revanche l’identification et le suivi des individus (la couleur de la peau et des yeux) présentent un réel danger (lire Olivier Tesquet, État d’urgence technologique, 2021).

Dans cet entre-deux réside la part d’ombre des technologies de surveillance. Une réflexion de fond sur ce qui est acceptable et ce qui ne l’est pas mérite d’être poursuivie en parallèle aux recherches et aux expérimentations légalement en cours, mais qui, hélas, pour des raisons de sécurité, ne sont pas toujours transparentes.

C’est sans doute le meilleur moyen de rompre avec une certaine technophobie ambiante (Gilbert Simondon, Du mode d’existence des objets techniques, 1958) tout en nous assurant, grâce aux ressorts des États, voire à travers la fondation d’une instance internationale (Francis Fukuyama, La fin de l’homme, 2002), de mieux réglementer ce nouveau type de pouvoir.