Contrôle social 4.0 ? Le système chinois de crédit social

Les sys­tèmes chi­nois de cré­dit social contrôlent la socié­té de manière ludique : ils récom­pensent les uti­li­sa­teurs en leur attri­buant un score sur la base de leur com­por­te­ment en ligne et hors ligne. Le gou­ver­ne­ment chi­nois veut mettre en place d’ici 2020 un sys­tème natio­nal de cré­dit social por­tant sur la répu­ta­tion des citoyens. Les obser­va­teurs occi­den­taux sont inquiets, mais que pen­ser de nos propres médias sociaux ?

Les ambi­tions géo­po­li­tiques de la Chine étant au cœur de l’actualité, les mesures poli­tiques inté­rieures du Par­ti com­mu­niste chi­nois (PCC) passent sou­vent inaper­çues. Pour­tant, la Chine est en pleine trans­for­ma­tion : le PCC veut intro­duire des sys­tèmes numé­riques de contrôle social à l’échelle natio­nale. Ces sys­tèmes de cré­dit social, qui fonc­tionnent déjà par­tiel­le­ment depuis quatre ans, visent à attri­buer un score à chaque citoyen chi­nois en fonc­tion de son com­por­te­ment. Ils reposent sur la quan­ti­té impres­sion­nante de don­nées recueillies via Inter­net sur les pra­tiques de paie­ment, les casiers judi­ciaires, les habi­tudes de consom­ma­tion, les habi­tudes de navi­ga­tion et de mes­sa­ge­rie en ligne, ain­si que sur le com­por­te­ment social en géné­ral. La confor­mi­té aux attentes du sys­tème de répu­ta­tion sociale se tra­duit par des récom­penses : cré­dit bon mar­ché, pro­mo­tion ou, plus concrè­te­ment, pas­sage plus rapide des contrôles de sécu­ri­té dans les aéro­ports. Par contre, un com­por­te­ment indé­si­rable accroit le risque de punitions. 

Les sys­tèmes de cré­dit social font appel à de nom­breuses bases de don­nées pri­vées et publiques. En 2014, le Par­ti com­mu­niste chi­nois a per­mis à huit four­nis­seurs pri­vés de déve­lop­per leur propre sys­tème numé­rique d’évaluation. Ils uti­lisent des algo­rithmes et l’intelligence arti­fi­cielle pour cal­cu­ler les points ou les scores. Au même moment, le PCC a com­men­cé à ins­tal­ler un sys­tème éta­tique de répu­ta­tion sociale dans des zones de tests appe­lées encore « zones spé­ciales ». Lorsque ce sys­tème sera opé­ra­tion­nel sur l’ensemble du ter­ri­toire dans envi­ron deux ans, les citoyens chi­nois et les entre­prises auront accès à leur compte géré de manière centralisée.

Le Par­ti com­mu­niste chi­nois pro­meut ce sys­tème de cré­dit social comme une étape vers la « socié­té socia­liste har­mo­nieuse ». Selon la ver­sion offi­cielle, il vise à moder­ni­ser la capa­ci­té de gou­ver­nance et à pro­mou­voir la confiance au sein de la socié­té ain­si qu’entre le gou­ver­ne­ment, la popu­la­tion et les entre­prises. Cepen­dant, les poten­tia­li­tés ouvertes par un tel sys­tème indiquent aus­si qu’il peut deve­nir un ins­tru­ment de contrôle social. Cela se marque d’autant plus que l’essor éco­no­mique de la Chine au cours des der­nières décen­nies a ren­for­cé les inéga­li­tés, engen­drant du même coup des ten­sions sociales. En 2014, on dénom­brait envi­ron 90.000 cas de troubles sociaux en Chine offi­ciel­le­ment décrits comme des « inci­dents de masse ». Ce chiffre a encore augmenté.

Instrument de contrôle social

Pour contrô­ler ces mou­ve­ments de pro­tes­ta­tion, la Chine s’appuie sur une tra­di­tion mil­lé­naire de cen­tra­li­sa­tion éta­tique et bureau­cra­tique. Les sys­tèmes de contrôle issus du confu­cia­nisme ont été en par­tie main­te­nus dans l’organisation léni­niste de la Répu­blique popu­laire, tels le sys­tème d’enregistrement des ménages Hukou et celui de l’affectation à une uni­té sociale appe­lée Dan­wei, où chaque uni­té super­vi­sait ses membres et tenait des registres poli­tiques. Ces struc­tures orien­taient les déci­sions concer­nant les pro­mo­tions, l’appartenance au par­ti et même les mariages. Après la mort de Mao Tse Toung, cer­tains sys­tèmes de contrôle ont per­du de leur impor­tance en rai­son des trans­for­ma­tions poli­tiques de l’ère des réformes. Cepen­dant, la pro­pa­gande d’État s’est ren­for­cée après 1989.

Avec le sys­tème de cré­dit social, la Chine entre dans une nou­velle ère de sur­veillance et de contrôle dans laquelle le PCC com­bine la sur­veillance ana­lo­gique et la sur­veillance numé­rique, la pro­pa­gande et des formes sub­tiles de dis­ci­pline. Le déve­lop­pe­ment d’Internet et des appa­reils mobiles, comme les smart­phones, les montres et les lunettes intel­li­gentes, four­nit aux ser­vices de sécu­ri­té et aux ser­vices de pro­pa­gande de nou­veaux moyens de sur­veillance et d’influence sur la popu­la­tion chinoise.

Le PCC pro­fite éga­le­ment des par­ti­cu­la­ri­tés de l’Internet chi­nois. Non seule­ment le web chi­nois est sou­mis à une règle­men­ta­tion très stricte, mais son accès est éga­le­ment res­treint par le Grand Fire­wall de Chine. Le prin­ci­pal ins­tru­ment en est le Gol­den Shield Pro­ject ou pro­jet du bou­clier doré qui réunit le Bureau de super­vi­sion de l’information publique et de la sécu­ri­té des réseaux et plu­sieurs minis­tères res­pon­sables de la sur­veillance d’Internet. Une telle inter­con­nexion met en dan­ger la pro­tec­tion des don­nées pri­vées et réduit la marge de manœuvre pour toute contes­ta­tion de la socié­té civile.

L’Internet chi­nois est ain­si à la fois for­te­ment sur­veillé et sou­mis à la pro­pa­gande. D’une part, de nom­breux agents de police et ins­pec­teurs du sec­teur pri­vé traquent les avis cri­tiques contre le régime ; il en va de même des sys­tèmes d’intelligence arti­fi­cielle. D’autre part, une armée de com­men­ta­teurs favo­rables au régime sont actifs sur les forums en ligne. Ils cherchent à influen­cer le débat public au pro­fit du Par­ti com­mu­niste chinois.

Les géants du web chinois : Baidu, Alibaba et Tencent

Pour le PCC, Inter­net a consti­tué dès ses débuts une forme de com­mu­ni­ca­tion à contrô­ler. La cen­sure éta­tique ne cherche tou­te­fois pas à éra­di­quer tout com­men­taire cri­tique contre le régime. Le PCC cherche plu­tôt à empê­cher l’émergence d’une action col­lec­tive à grande échelle¹. Par ailleurs, comme pour la cen­sure en géné­ral, de nom­breuses mesures chi­noises de contrôle peuvent être contour­nées, du moins en par­tie. La Chine pos­sède donc un pay­sage inter­net assez hétérogène.

Ce pay­sage est néan­moins dif­fé­rent de celui de l’Europe occi­den­tale. Étant don­né que la Toile chi­noise est iso­lée du World Wide Web, elle n’est pas domi­née par les géants amé­ri­cains de la tech­no­lo­gie. Des entre­prises com­mer­ciales dis­tinctes y ont trou­vé leur place. Les trois plus grandes, Bai­du, Ali­ba­ba et Tencent, sont connues sous le nom de BAT. Non seule­ment elles four­nissent l’infrastructure aux sys­tèmes d’évaluation sociale des citoyens, mais elles sont éga­le­ment à la pointe du déve­lop­pe­ment des sys­tèmes d’intelligence arti­fi­cielle dans le monde.

Ces trois entre­prises ont accès à de vastes banques de don­nées. Le géant des moteurs de recherche, Bai­du, exploite la plus grande ency­clo­pé­die en ligne de Chine ain­si que l’application de paie­ment Bai­du Pay. Ali­ba­ba, socié­té connue par la plu­part des Euro­péens sous le nom d’AliExpress, est le plus grand acteur du com­merce en ligne chi­nois. Il four­nit éga­le­ment une pla­te­forme de consom­ma­teur à consom­ma­teur, Tao­bao Wang, uti­li­sée par envi­ron 470 mil­lions de per­sonnes par mois. En outre, Ali­ba­ba détient envi­ron un tiers des actions de la pla­te­forme de micro­blog­ging la plus popu­laire de Chine, Sina Wei­bo, uti­li­sée par envi­ron 380 mil­lions de Chi­nois par mois. Le groupe de ser­vices finan­ciers de l’entreprise com­prend le sys­tème de cré­dit social indi­vi­duel Sésame et l’application de paie­ment Ali­pay. Au cours de l’année 2018, le groupe Ali­ba­ba a annon­cé un chiffre d’affaires d’environ 8,3 mil­liards de dol­lars. Depuis 2016, il est éga­le­ment pro­prié­taire du quo­ti­dien South Chi­na Mor­ning Post basé à Hong Kong. La troi­sième socié­té, Téngxùn, est connue en Occi­dent sous le nom de Tencent. Elle pos­sède des parts dans des socié­tés de jeux vidéo. Cepen­dant, ce que l’on ignore sou­vent est que Tencent détient des parts dans Snap­chat, un ser­vice de réseau social mon­dia­le­ment uti­li­sé (SocMe). D’autres ser­vices clés déte­nus par Tencent sont QQ et WeChat : avec près de 900 mil­lions d’utilisateurs actifs, QQ est le ser­vice de mes­sa­ge­rie le plus popu­laire de Chine ; WeChat est une appli­ca­tion de mes­sa­ge­rie pour montres et lunettes connec­tées qui concerne envi­ron un mil­liard de per­sonnes dans le monde. Avec l’option WeChat Pay, elle consti­tue éga­le­ment une appli­ca­tion de paie­ment uti­li­sée dans toute la Chine.

Métadonnées et autres traces numériques

Pour les inter­nautes chi­nois, ces ser­vices font par­tie de la vie quo­ti­dienne. Envi­ron 95% des uti­li­sa­teurs uti­lisent le web via un smart­phone. Comme tout inter­naute, ils laissent der­rière eux de nom­breuses traces numé­riques — don­nées per­son­nelles et don­nées sur leur com­por­te­ment en ligne — qui sont col­lec­tées par des entre­prises com­mer­ciales et des ins­ti­tu­tions publiques. Ces traces per­mettent de les iden­ti­fier et de les clas­ser selon des caté­go­ries. Elles consti­tuent la base des sys­tèmes de cré­dit social et du cal­cul des scores effec­tué à l’aide d’algorithmes et de sys­tèmes d’intelligence arti­fi­cielle, un pro­ces­sus non trans­pa­rent pour les utilisateurs.

Les sys­tèmes numé­riques pré­sentent deux autres carac­té­ris­tiques par­ti­cu­liè­re­ment impor­tantes pour les sys­tèmes de cré­dit social. D’une part, les don­nées sto­ckées peuvent être dupli­quées et échan­gées de manière illi­mi­tée et, d’autre part, les sys­tèmes numé­riques n’oublient rien. De plus, les sys­tèmes chi­nois de cré­dit social consti­tuent des sys­tèmes hybrides, ils intègrent des don­nées tant numé­riques qu’analogiques dans leurs éva­lua­tions. Ces don­nées liées aux com­por­te­ments « hors ligne » viennent de l’utilisation accrue dans les espaces publics de camé­ras de sur­veillance « intel­li­gentes », autre­ment dit dotées d’un sys­tème de recon­nais­sance faciale.

Le système de crédit social Sésame d’Alibaba

Le sys­tème de cré­dit social Sésame d’Alibaba illustre bien la façon dont l’évaluation est effec­tuée. Ali­ba­ba récolte d’importantes quan­ti­tés de don­nées sur ses uti­li­sa­teurs : les appli­ca­tions des réseaux sociaux SocMe four­nissent en effet des infor­ma­tions sur leurs humeurs, leurs pré­fé­rences et leurs « ami­tiés ». Les don­nées sur les com­mandes de pro­duits et les inter­ac­tions avec les publi­ci­tés inter­net sont éga­le­ment col­lec­tées. S’ajoutent à cela les paie­ments en ligne et les recherches effec­tuées sur Inter­net, en ce com­pris les méta­don­nées sur les pages consul­tées et les don­nées dyna­miques. L’évaluation et la clas­si­fi­ca­tion des don­nées liées à un uti­li­sa­teur s’effectuent ensuite selon cinq cri­tères : l’historique de son cré­dit, ses liqui­di­tés, ses don­nées per­son­nelles, ses habi­tudes et com­por­te­ments et ses contacts SocMe. La note la plus basse dans le sys­tème de cré­dit Sésame est 350 et la note maxi­male 950. Ce sys­tème accorde une note par­ti­cu­liè­re­ment éle­vée à l’utilisation des ser­vices Ali­ba­ba. Dans le sys­tème de cré­dit Sésame, les uti­li­sa­teurs peuvent, selon leur score, deman­der des prêts immé­diats ou avoir accès à d’autres pro­duits finan­ciers sans payer d’acompte.

Les sys­tèmes de cré­dit social s’appliquent à d’autres domaines tels que celui de la sécu­ri­té. Ain­si, un bon score per­met d’accélérer les contrôles de sécu­ri­té dans les aéro­ports. Les avan­tages s’appliquent aus­si en dehors de la Chine. Depuis 2015, les ambas­sades de Sin­ga­pour et du Luxem­bourg offrent des condi­tions de visa sim­pli­fiées pour les citoyens chi­nois qui ont obte­nu un score éle­vé. Pour le cal­cu­ler, le sys­tème de cré­dit Sésame uti­lise des bases de don­nées com­mer­ciales et publiques autres que la sienne. Depuis 2015, il intègre les don­nées du plus grand site de ren­contres en Chine, Baihe, qui pos­sède des infor­ma­tions intimes sur près de 90 mil­lions de per­sonnes. Le sys­tème de cré­dit Sésame recourt éga­le­ment aux bases de don­nées des tri­bu­naux chi­nois. Cela a bien enten­du des consé­quences pour ceux qui ont été condam­nés en rai­son de leurs convic­tions poli­tiques : leurs peines sont assor­ties de res­tric­tions sup­plé­men­taires. Enfin, depuis du 1er mai 2018, le gou­ver­ne­ment peut inter­dire aux citoyens ins­crits sur une liste noire de voya­ger en train ou en avion pen­dant une année au maxi­mum. Cette mesure signi­fie un ren­for­ce­ment des sanc­tions déjà appli­quées. En mars 2018, la Com­mis­sion natio­nale pour le déve­lop­pe­ment et la réforme a révé­lé que plus de 9 mil­lions de per­sonnes avaient été inter­dites de vol, tan­dis que plus de 3 mil­lions n’avaient pas pu ache­ter de billets de train de pre­mière classe en rai­son d’un mau­vais score. Par­mi ces per­sonnes figurent celles qui auraient publié de « fausses » infor­ma­tions sur le terrorisme.

Surveillance ludique : le principe de la gamification

Quel sera le domaine d’application du sys­tème de cré­dit social en 2020 lorsque le Par­ti com­mu­niste chi­nois l’introduira à l’échelle natio­nale ? Comme indi­qué ci-des­sus, les sys­tèmes chi­nois de répu­ta­tion des citoyens reposent sur la col­la­bo­ra­tion entre acteurs com­mer­ciaux et ins­ti­tu­tions publiques. Ils se carac­té­risent, en outre, par la reprise d’éléments de jeux par­ti­ci­pa­tifs, et donc par une part de sub­jec­ti­vi­té et d’engagement. La tech­nique dite de « gami­fi­ca­tion » per­met au sys­tème de cré­dit social de moti­ver les uti­li­sa­teurs non seule­ment à l’aide de scores à atteindre, mais aus­si par des « mini-jeux » assor­tis de petites récom­penses. Ces jeux ont un effet boule de neige : les uti­li­sa­teurs dif­fusent les pro­duits et ser­vices sur leurs réseaux sociaux, atti­rant davan­tage de per­sonnes à par­ti­ci­per au sys­tème de cré­dit social. Cela per­met aux entre­prises asso­ciées aux sys­tèmes de cré­dit social de gagner des parts impor­tantes de mar­ché jusqu’à deve­nir des monopoles.

Internet sous surveillance en Europe ?

La réac­tion des obser­va­teurs occi­den­taux par rap­port aux sys­tèmes chi­nois de répu­ta­tion sociale est mar­quée par la défiance et le rejet. Une telle atti­tude tra­duit les pré­ju­gés occi­den­taux à l’égard de la Chine, mais aus­si le manque de réflexion cri­tique sur la numé­ri­sa­tion mas­sive de tous les actes de la vie quo­ti­dienne. En outre, Inter­net est déjà sous l’emprise de socié­tés com­mer­ciales qui col­lectent de grosses quan­ti­tés de don­nées. Les indi­vi­dus éprouvent de plus en plus de dif­fi­cul­tés à se pro­té­ger, d’autant plus qu’ils com­prennent de moins en moins les dis­po­si­tifs « intel­li­gents » qu’ils uti­lisent quo­ti­dien­ne­ment et les tech­niques de mani­pu­la­tion qui sont employées. Dès lors, les sys­tèmes chi­nois de cré­dit social posent la ques­tion du sens et de l’usage de la col­lecte, de l’évaluation, du trans­fert et de la vente d’une quan­ti­té de don­nées sur les citoyens. Vers quel type de socié­té la sur­veillance numé­rique de masse qu’elle engendre condui­ra-t-elle ? Que pou­vons-nous faire pour résis­ter ? Une chose est claire : les don­nées, c’est le pouvoir.

1. King G. et al., « How Cen­sor­ship in Chi­na Allows Govern­ment Cri­ti­cism but Silences Col­lec­tive Expres­sion », Ame­ri­can Poli­ti­cal Science Review, 2/2013, p. 326 – 343.

Katika Kühnreich

Auteur

Sinologue et politologue. Ses recherches portent sur les implications sociales de la numérisation.

Article(s) de l'auteur