Le développement exponentiel des technologies du numérique fascine autant qu’il inquiète, et ce n’est pas la série Black Mirror, créée en 2011 par Charlie Brooker, qui le contredira puisque celle-ci a fait des craintes face aux dérives potentielles de nos technologies contemporaines le cœur d’intrigue de ses dystopies.

De la fiction à la réalité, il n’y a parfois qu’un pas, ou plutôt 6 ans. Puisque depuis 2014, l’épisode ‘Nosedive’ de la saison 3 de Black Mirror qui expose les risques d’un futur proche où toutes les interactions sociales seraient notées par une application, est en passe de devenir une réalité en Chine à l’horizon 2020.

Depuis 4 ans, le gouvernement chinois s’est en effet donné pour mission de créer un « crédit social » généralisé à toute la population, avec pour objectif officiel d’établir une « culture de la sincérité », « une mentalité de l’honnêteté et d’élever le niveau de crédit de la société dans son ensemble ».¹

Chacun des 1,4 milliards de citoyens et citoyennes chinois.e.s se verrait attribuer un score personnel récompensant les bons comportements et pénalisant les mauvais (incivilité, retard dans le paiement des impôts ou des taxes pour les entreprises, violation du code de la route ...). Les conséquences pourraient être importantes, parmi lesquelles la privation d’accès à un prêt bancaire pour les citoyen.ne.s les moins bien noté.e.s, à l’achat d’une propriété ou même à l’achat d’un billet d’avion.

Le système de crédit social n’est en réalité pas une nouveauté introduite au monde par la Chine.

C’est un système communément utilisé, notamment aux États-Unis, pour évaluer les capacités d'emprunt des individus en fonction de leurs comportements financiers et ainsi permettre aux organismes prêteurs d’accorder leur confiance en tout état de cause, comme le fait le FICO score sur la base du volontariat.

Toutefois, avec le « social credit system » à la chinoise, c’est la première fois qu’un pays s’empare au niveau étatique de cet outil de crédit social dans le but d’en faire un instrument de contrôle politique.

Derrière l’étiquette qui lui est attribuée de ‘‘Laboratoire du Futur’’, vantant ses avancées technologiques dans les domaines de l’Intelligence Artificielle (IA) et de la Big Data, la Chine questionne les limites éthiques de l’utilisation de la technologie dans un but de surveillance et de contrôle de masse. Déjà, des entreprises comme SenseTime, (une des plus grandes réussites dans le milieu de l’IA²), fournissent au gouvernement les outils nécessaires pour y parvenir, sous la forme de caméras de surveillance dotées d’un système sophistiqué de reconnaissance faciale qui peut identifier les individus, les véhicules et les vélos. D’autres ne font que l’inspirer, comme ce fut le cas de la filiale d’Alibaba, Sesame Credit. En effet, son credit score utilisé à des fins marketing analyse le comportement de près de 400 millions de clients et clientes d’Alibaba³, notamment via l’application de paiement Alipay Wallet.

Qui dit « expérimentation » d’implémentation suppose donc des phases de test du système. C’est vers la ville de Rongcheng, à l’est du pays, qu’il faut se tourner pour observer de plus près les effets du crédit social une fois implanté. ⁴ Sur des panneaux publics, les « bons et bonnes citoyen.ne.s » voient leurs photos placardées, alors qu’au comptoir municipal, un.e citoyen.ne découvre pour la première fois sa note. Pour les habitants et habitantes de Rongcheng, le crédit social change efficacement leurs mauvais comportements, notamment d’automobilistes, en les rendant plus attentifs et attentives aux potentielles infractions. La Chine, de son statut de laboratoire du futur, nous invite donc, avec quelques années d’avance, à nous questionner sur la place que la technologie peut être amenée à jouer dans notre rôle de citoyen.ne.

Mais des technologies comme l’intelligence artificielle ou le Big Data peuvent-elles, et surtout doivent-elles, réguler nos comportements sociaux ?

Sources

1 State Council Notice concerning Issuance of the Planning Outline for the Construction of a Social Credit System (2014-2020), GF No. (2014)21

2 https://www.cnet.com/news/china-turns-to-tech-to-monitor-shame-and-rate-citizens/

3 https://information.tv5monde.com/info/chine-sesame-cr%C3%A9dit-la-clef-du-controle-social-76679

4 http://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory/