Avez-vous vu la série anthologique britannique de science-fiction Black Mirror ? Si oui, vous vous êtes probablement dit : "Mon Dieu, cela aurait pu se produire dans la vraie vie". Ils utilisent une application mobile qui suit votre vie et attribue une note à votre comportement. Par exemple, un excès de vitesse ou une dispute avec quelqu'un font baisser votre score. En conséquence, les banques peuvent refuser de vous accorder un crédit. Imaginez que certaines villes chinoises le fassent déjà !

De nombreux programmeurs se demandent comment construire un réseau social qui apportera de réels avantages aux gens. Inspiré par le film "Nosedive" (miroir noir), comment un réseau social qui vous note pourrait-il ressembler à l'UE ? S'agit-il d'un bon idée commerciale? Pourrait-il devenir une entreprise d'un milliard d'euros ? Découvrons-le !

Nosedive : Black Mirror, Saison 3, Episode 1

Bientôt peut-être, nous vivrons dans une nouvelle réalité où une grande partie de notre vie dépendra de l'évaluation que les autres feront de nous. Votre classement social a un effet tangible sur les opportunités et le luxe que vous pouvez vous offrir. Elle détermine votre classe sociale, mais elle affecte aussi des aspects plus tangibles de votre vie, comme.. :

- loyer ;

- travail ;

- traitement médical ;

- les possibilités de rencontres, etc.

L'action décrite dans la célèbre série télévisée Black Mirror se déroule rarement dans un futur lointain. La plupart du temps, la seule différence réelle que vous pouvez remarquer est la technologie unique qui est mise en évidence dans l'épisode.

Lacey Pound vit dans un monde où des amis et des inconnus peuvent vous évaluer sur une échelle de cinq points. Ils utilisent des technologies intégrées dans leurs téléphones portables et leurs "lentilles intelligentes". Cette technologie affecte non seulement le mode de vie quotidien de chacun, mais aussi sa position dans la société. Les personnes dont l'évaluation est inférieure à 2,5 points appartiennent à la classe la plus basse. Lacey, qui veut absolument que tout le monde l'aime, affiche actuellement une note impressionnante de 4,2. Elle vit avec son petit ami Ryan, dont la note est plus basse parce qu'il ne se soucie pas de son apparence sociale. Leur contrat de location est sur le point d'expirer et Lacey rêve de déménager. Lacey apprend que sa note doit être de 4,5 points ou plus pour obtenir un appartement de luxe. Et c'est là que les aventures commencent !

Pourriez-vous imaginer une telle situation dans notre réalité ? En attendant, tout cela existe déjà. Certes, nous n'avons pas d'implants AR Vision qui affichent les notes de chacun. Mais cette technologie est déjà adoptée dans quelques villes de Chine. 

Système de crédit social en Chine

Le classement social divise tous les résidents chinois en quatre castes inégales :

- Les citoyens de classe A bénéficient de l'ensemble des droits. 

- La catégorie B a moins de droits. 

- Les citoyens de classe C ont encore moins de droits. 

- La classe D est un paria absolu, un analogue des intouchables dans le système indien des castes.

Le système chinois de crédit social est une initiative très ambitieuse. L'objectif est de créer une base de données qui suit le comportement des individus, des entreprises et des gouvernements. Les participants reçoivent une récompense pour leurs actions publiques positives et sont pénalisés en cas de mauvaise note.

Il est possible d'augmenter votre taux d'intérêt ; une personne doit le faire :

- donner son sang ;

- faire du bénévolat ;

- collecter les déchets séparément, etc.

Bien entendu, il est beaucoup plus facile de perdre des points d'évaluation que d'en acquérir.

Les bases de données sont gérées par :

- Les planificateurs économiques chinois ;

- Commission nationale du développement et de la réforme (NDRC) ;

- Banque populaire de Chine (PBOC) ;

- le système judiciaire du pays. 

Le gouvernement chinois expérimente la vidéosurveillance et la collecte de données par transmission en temps réel. La plupart des données sont collectées à partir de sources traditionnelles :

- financière ;

- criminel ;

- les dossiers gouvernementaux ;

- les données existantes des bureaux d'enregistrement. 

Une bonne note donne lieu à une récompense, tandis qu'une mauvaise note peut donner lieu à une sanction. Les personnes peu fiables peuvent faire l'objet de restrictions dans différents domaines : 

- des prêts ;

- voyager en avion ou en train ;

- l'éducation. 

Que se passera-t-il s'ils approuvent le système de crédit social chinois en 2023 ? Transporteront-ils la Chine dans un monde de dystopies violentes ? 

Comment un réseau social qui vous évalue pourrait-il se présenter dans l'UE ? 

La technologie nous a beaucoup effrayés. Si nous vivons aujourd'hui dans une dystopie, nous semblons bien nous en accommoder. "Black Mirror" montre le progrès technologique, qui utilise des scénarios extrêmes pour nous faire réfléchir à ce que nous devrions faire dans le futur. Est-il possible d'introduire un système similaire en Europe ?

L'objectif de ce système est d'accroître la transparence de la société. Mais il sert également d'outil gouvernemental pour contrôler presque tous les aspects de notre vie. La notation de crédit social suscite généralement la colère des commentateurs occidentaux, et nombre d'entre eux pensent que le système de crédit social ressemble à un gouvernement autoritaire. 

Le système de notation sociale repose sur deux piliers :

- Il s'agit tout d'abord de l'omniprésence du système de reconnaissance faciale. 

- Deuxièmement, il s'agit de la présence d'une personne dans de nombreuses bases de données - bancaires, médicales, policières - qui échangent des informations entre elles en temps réel.

Les technologies de l'intelligence artificielle permettent de traiter de grandes quantités de données à une vitesse maximale. Il est très tentant pour l'État de disposer d'informations analysées sur la vie des citoyens, et cela l'aide à comprendre ce qui se passe dans la société, quels sont ses besoins et ce qu'il faut changer.

La tentation est grande de diviser les gens en catégories spécifiques. En Chine, cette voie de la différenciation sociale est compréhensible. Mais dans d'autres parties du monde, l'utilisation d'un système d'évaluation sociale est inhabituelle. Il s'agit d'une solution ambiguë qui comporte de nombreux risques cachés. Et par-dessus tout, c'est le risque de perdre la liberté personnelle et le droit de choisir.

Une personne peut se retrouver au bas de la pyramide sociale sans avoir commis le moindre acte illégal. Aujourd'hui, les critères d'intégrité sont déterminés par des lois. Mais en introduisant une notation sociale, on peut se retrouver au bas de la pyramide. C'est l'un des risques les plus terribles.

L'introduction d'une innovation, même la plus progressiste, suscite toujours des opinions divergentes. Il en va de même pour l'introduction de la surveillance sociale... Il y a des avantages et des inconvénients. Cette surveillance sociale peut être utile pour :

- la planification ;

- la prévention des infractions ;

- le diagnostic des maladies.

Le système de notation sociale comporte des risques psychologiques et des risques technologiques importants, car le système est imparfait. En outre, le système juridique est relégué à l'arrière-plan. Les Européens sont-ils prêts pour cela ?

L'avenir des réseaux sociaux

Les catégories les plus précieuses sont le bonheur et la santé. Sont-ils déterminés par la classe à laquelle une personne est assignée ? Personne ne peut nous donner le bénéfice d'être en bonne santé ou heureux. Et où se trouve la mesure de ce qui nous rendra heureux ? L'un a besoin de beaucoup d'argent pour être satisfait, l'autre a besoin de pouvoir prendre des décisions globales, et le troisième a besoin de créer.

Une personne devrait pouvoir choisir, et nous ne devrions pas y porter atteinte. On peut sacrifier certaines libertés, mais on ne peut pas priver les gens du droit de choisir. Il s'agit d'un moment psychologique important.