Protection des données personnelles : avons-nous eu le bon discours ?

C'est suite à la lecture du papier de Reuters à propos de l'instauration au Venezuela du même système de score social que celui que l'on peut trouver en Chine que j'en suis venu à me poser cette question.

Le score social c'est quoi ? C'est un moyen de calculer la réputation des citoyens en fonction de ce qu'iels font (attitude, respect des règles ou non, ...). De là en découle plein de choses fortement impactantes sur la vie et ce de façon plus ou moins visible et d'une plus ou moins directe des façons : allez-vous avoir le droit à un crédit pour acheter votre maison ? Est-ce que vos enfants pourront aller dans une bonne école ? Est-ce que votre assurance acceptera de vous assurer et si oui à quel taux ? etc.

Pour le dire autrement c'est un superbe outil coercitif. Du genre de ceux auquel on ne peut pas échapper (parce que le simple fait de ne pas adhérer à un des dispositifs le composant peut être jugé de façon négative) et dont les règles s'appliquent de façon systématique (c'est à dire que l'on a peu de chances de passer sous les radars et de ne pas se faire prendre).

Il arrive même à certain·e·s citoyen·ne·s de voir leur score évoluer sans trop savoir pourquoi : les règles ne sont pas forcément limpides : il faut alors deviner ce qui a pu influer sur le score ou non. Il arrive même que le simple fait d'être en relation avec une personne ayant un mauvais score impacte négativement votre propre score (coucou isolement social pour ceux qui sont déjà au plus mal).

Pour que ce score fonctionne, il faut des données, beaucoup de données.

Ces données nous en créons tous les jours et nous le faisons depuis longtemps. Elles sont générées et stockées par les divers services et appareils que nous utilisons. Avec notre concours direct ou involontairement. Tiens en parlant d'appareils vous saviez que Samsung a les données des utilisateurs des téléphones de sa gamme Galaxy ?

Pour expliquer qu'il est important de protéger sa vie privée, ses données, nous disions aux gens "attention les vilains loups du marketing vont vous envoyer des pubs". Certes c'est vrai, certes cette menace est très proche mais ce discours est, je pense, assez inaudible : elle ne représente pas un risque facilement mesurable par les gens.

Hors avec le crédit social on a un outil qui nous prive très clairement de notre liberté d'action : si on n'agit pas comme le pouvoir en place le veut, alors notre score baisse et impacte directement nos possibilités de faire ou non des choses. Le pouvoir pouvant être un état mais aussi toute organisation choisissant d'y avoir recours.

Quid encore d'un tel système sur la capacité démocratique d'un peuple ? Que deviennent nos vies le jour où le score change parce qu'une nouvelle politique arrive ? Croit-on vraiment que nos données, qui servent à calculer ce score, seront effacées lors de ce changement de régime ?

Sommes nous encore libres dans une société où chacun de nos faits et gestes est monitoré, tracké ?

Un tel système de score est à la porte de nos pays. On a déjà des exemples d'assurances qui vous proposent de baisser le prix de votre cotisation si vous équipez votre voiture d'un tracker qui collecte la vitesse, les accélérations, le respect ou non des limitations de vitesse, ... ou encore la brosse à dents qui dit à votre assurance si vous avez raté un brossage et s'il est assez long (sinon paf adieu les remboursements dentaires).

Pour installer un tel outil, on ne le présente bien entendu pas sous l'angle coercitif mais on explique aux gens tous les bénéfices réels ou supposés qu'apporte un tel système : "mettez ce boîtier dans votre voiture, ça vous fait baisser le coût de l'assurance" (ce sera peut être le cas en premier lieu, mais à quel prix sur les libertés et la vie privée ? Et que faire une fois que le système est massivement adopté pour s'en échapper lorsqu'on n'en voudra plus ou qu'un nouveau tour de vis arrivera ?).

Autre exemple : les applications de suivi de santé, de règles &co ou de rencontre. Nombre d'elles récoltent une quantité d'informations sensibles et les envoient sur des serveurs de sociétés voir les revendent pour des usages biens plus cra cra.

Il nous faut revoir notre discours pour faire sentir aux gens que l'immense bénéfice qu'apportent ces services représentent une menace réelle aux portes de nos vies sans aucune mesure par rapport aux gains supposés, vendus, mis en avant. Il nous faut requestionner ces menaces pour les actualiser (le système était déjà complètement fucked up quand on a commencé à en parler au public et aujourd'hui nous touchons à des usages dégueulasses qui étaient même pas immaginables au début de nos luttes).

Il nous faut aussi exiger des mainteneurs de nos outils libres d'arrêter de faire les cons et de considérer plus que sérieusement une meilleure conception des outils tant en terme d'accessibilité, de design que de simplicité dans le temps (coucou GPG t'es le parfait exemple de ce qu'il faut pas faire).

Voyez-vous je doute que l'exportation du Score social Chinois se limite au Venezuela. La Chine est prête à fournir le système sur étagère (autrement dit prêt à l'emploi) comme semble l'indique le papier de Reuters cité plus haut. On trouve aussi des implémentations prêtes à l'emploi pour débusquer les mauvais candidats à l'embauche. Il ne s'agit que de temps avant que ce système arrive dans nos contrées. Tout comme le grand pare-feu chinois qu'on pouvait imaginer, un moment, rester en Chine qu'on n'aurait jamais le malheur d'y goûter. Aujourd'hui de nombreux indices laissent à penser que ce ne sera pas le cas (lois répressives, demandes de suppression de contenus de façon automatisée, attaques contre les VPN et le chiffrement, mise en place de politiques sécuritaires en coopération avec d'autres nations, ...).

Côté français, on a déjà énormément d'outils de contrôle de flux des populations : vidéo surveillance, reconnaissance faciale, badges, cellulaires, lecture de plaques minéralogiques, documents d'identité biométriques, cartes bancaires (dont le sans contact nous rapproche du moment où les espèces disparaitront - seul moyen de paiement encore anonyme aujorud'hui), ... qui nous sont imposés dans l'espace public, ils viennent en complément des données que nous semons en ligne.

L'avantage de ce système c'est qu'il est de plus en plus documenté et développé en Chine et donc qu'on ne manque pas d'exemples à donner aux gens pour alimenter leur imaginaire coercitif et l'enfer qui nous attend toutes et tous demain. L'inconvénient c'est que ca va hyper vite. Bien trop vie comparé au peu de monde qu'on touche actuellement avec des outils de sensibilisation tels que les cafés vie privée ou les projection-débats dans les cinémas.

Quand un pouvoir est en déclin, pour se maintenir le plus possible, il use de tous les moyens dont il dispose à défaut de pouvoir fédérer les gens en agissant dans son intérêt. Et outre ce pouvoir on peut voir les puissances industrielles essayer de conquérir de nouveaux territoires. Exemple à Valenciennes où Huawei a offert les caméras de vidéosurveillance à la ville. Caméras avec des capacités de reconnaissance faciale et dont.... le fabricant garde un accès distant.

J'aurai bien aimé parler ici de la manipulation des scrutins qu'on a pu observer sous Trump ou le Brexit tout en n'oubliant pas qu'en France plusieurs candidats dont Macron ont fait appel à des sociétés similaires telles que Nation Builder par exemple. Sommes nous aussi libre dans un système qui autorise des entreprises à manipuler l'information d'une portion significative du corps électoral pour influer sur les élections comme on a pu le voir avec le Brexit par exemple (à ce titre je vous recommande chaudement le film "Brexit, the uncivil war"). Le point crucial ici étant que l'ère où nous étions toutes et tous confronté·e·s aux mêmes informations / au même temps de parole pour les différents courants politique est terminée. Aka : le CSA LOL. Et ce qu'on comprend à travers ce film c'est pourquoi le dispositif de manipulation électorale est resté si longtemps dans l'ombre : le corps électoral visé excluait - de fait - les journalistes puisque ces personnes ne font pas partie du panel visé (par exemple critère intrinsèque des journalistes : iels sont plus aisé·e·s que le panel visé). A ce propos nous devrions parler avec les gens qui bossent dans le marketing. Histoire de se prendre une belle baffe avec ces outils dégueulasse que nous sommes à des milliers de lieues de croiser et d'utiliser.

Quelques petits liens pour continuer à exlorer le sujet :