Jeudi dernier, Amnesty International a publié un rapport (accompagné d'un résumé en français pour les anglophobes) sur les dégâts causés par les géants de la tech, notamment, Amnesty oblige, en termes de droits humains.

Je suis surpris de ne pas avoir vu l'article plus relayé que ça sur les réseaux de libristes¹, alors je me permets de commenter la nouvelle.

Si le rapport ne contient rien de bien nouveau pour quelqu'un qui s'intéresse déjà au sujet, je remarque qu'il va jusqu'à parler de démanteler les entreprises concernées, et ça, ça m'intéresse.

Je n'ai pas suivi ce genre de rapports de très près par le passé, mais je ne me souviens pas d'un organisme d'envergure allant aussi loin dans ses recommandations. Et si je me trompe, peu importe, l'important c'est que le mot soit lâché.

Réguler, oui, mais quoi, et comment ?

On parle beaucoup, et depuis un moment déjà, de réguler les réseaux sociaux. Et si je suis convaincu de l'urgence de mettre en place un cadre juridique digne de ce nom, je reste méfiant et sceptique à chaque fois que le sujet est évoqué.

Méfiant parce qu'il ne s'agit pas de faire passer tout et n'importe quoi. Leur imposer de fliquer nos conversations privées,² c'est aussi de la régulation, et c'est quand même une idée de merde.

Attention également à la lutte contre "la haine en ligne". Si l'intention peut sembler louable, quand il s'agit en réalité de déléguer des missions de justice à des boites privées, pas besoin d'être devin pour prédire que ça ne peut que nous retomber sur la gueule.

Ce genre de mesures ne fait que légitimer le pillage des données personnelles qui est déjà leur coeur de métier, et renforce le pouvoir d'influence qu'ils ont déjà sur le discours public. S'imaginer qu'on va résoudre quoi que ce soit avec ça, c'est soit mal comprendre le problème, soit se foutre du monde en échange d'un chèque et / ou en espérant bénéficier du pouvoir de contrôle déjà terrifiant de ces outils.³

Et ça, c'est pour les arnaques évidentes. Mais l'autre problème avec la plupart des projet de régulation qui ciblent spécifiquement "lérézosocios", c'est qu'ils reviennent bien souvent à préscrire de l'aspirine à un cancéreux. Ça peut (peut-être) soulager, mais ça ne résorbera pas les tumeurs.

Le seul objectif des plateformes, c'est de maximiser ce qu'elles appellent l'engagement, ce qui en marketteux signifie capter l'intégralité de notre attention et si possible nous rendre accros au passage. Leurs algos ne cherchent pas à nous orienter vers telle ou telle idéologie, mais simplement à nous faire réagir le plus impulsivement possible.

Les bulles de filtres, l'amplification des contenus haineux, la désinformation, les troubles mentaux, et toutes les autres saloperies qu'on leur reproche ne sont que les conséquences logiques du fonctionnement de base des plates-formes.

Au départ, c'était pensé pour nous vendre des yaourts. Il se trouve que vendre du fascisme⁴, c'est pas bien différent.

Alors bien sûr, on peut ajuster les curseurs pour essayer de limiter les dégâts. Ça peut même marcher un peu. Mais ça reste des rustines sur un modèle qui reste profondément malsain. Au mieux, ça peut masquer certains problèmes, mais ça ne les résoudra pas.⁵

La seule solution crédible, c'est de dégager complètement les mécanismes de recommandation, ou à défaut, les rendre le plus neutres possible.

Sauf que ça, c'est pas possible. Parce que le produit qu'ils vendent à leurs véritables clients (les annonceurs), c'est justement cette attention qu'ils nous volent. Supprimer ou limiter la portée de l'algorithme, économiquement, c'est du suicide. Donc ils ne le feront pas.

C'est donc au modèle économique dans son ensemble qu'il faut s'attaquer. Se focaliser sur les symptômes, c'est passer à côté du problème de fond, et à supposer qu'on arrive à faire tomber les géants du moment, ça n'empêchera pas leurs successeurs de nous vendre une V2 relookée du même enfer.

Casser les monopoles

L'autre coeur du problème, c'est la centralisation. Le vrai pouvoir des plateformes, il vient de leur monopole. Une fois que l'intégralité ou presque du débat public a lieu chez eux, forcémment, ça devient compliqué de s'en passer. Toute leur force est là.

L'idée d'Amnesty d'utiliser la législation commerciale existante pour casser ces empires est intéressante. Il n'y a pas si longtemps, même les plus fervents défenseurs du capitalisme reconnaissaient que les monopoles, c'était plutôt caca. Que le saint-marché, il lui fallait de la concurrence pour bien se porter.

Comme l'explique très bien Ploum dans une excellente leçon d'histoire de l'informatique,⁶ cette vision est passée de mode depuis les années 80. Mais les lois anti-trust sont toujours là, et on a même réussi à asticoter Google et Meta récemment.

C'est encore très insuffisant, mais c'est toujours ça de pris. Et si, soyons fous, on arrive à imposer l'idée que la santé économique ne se mesure pas à la fortune des plus gros, alors le levier peut devenir encore plus efficace.

Et au passage, ça devrait intéresser les partisans d'une souveraineté numérique européenne, en tout cas ceux qui prennent ce projet au sérieux.⁷ Ce sera toujours plus crédible que de croire aux licornes.

Tout ça n'empêche pas de réguler en parallèle. Mais je suis du coup bien plus partisan des mesures qui vont dans le sens d'une re-décentralisation comme une obligation d'interopérabilité, que de celles qui consistent à demander à nos seigneurs de faire la police à notre place.

Quitte à rêver un peu, je commencerais bien par une interdiction pure et simple de la publicité ciblée ou de la revente de données personnelles. Je serais curieux de voir comment les génies de la disruption vont s'y adapter, à celle là.

Si le rapport d'Amnesty ne va pas aussi loin, il est toutefois tout à fait pertinent sur ce point. Aucune de leurs recommandations n'a l'odeur de fausse bonne idée dont j'ai appris à me méfier.

Simplifier pour mieux régner

J'ai peu d'espoir dans l'impact effectif de ce rapport, mais s'il peut au moins participer à ancrer l'idée qu'il faut se débarrasser de ces parasites numériques au lieu de chercher à les contrôller, alors rien que pour ça ça vaut le coup de le relayer.

Je pense que beaucoup pensent encore qu'on ne peut plus se passer d'eux. Ce qui, d'un point de vue technique, est parfaitement faux. La difficulté, elle est dans l'effet de réseau. Et ça tombe bien : les 2 seules mesures techniques que suggère le rapport d'Amnesty (interopérabilité et portabilité des données) devraient déjà bien aider sur ce front là.

Mais si on continue à croire qu'on ne peut plus communiquer sans tous s'entasser sur les machines d'une poignée d'acteurs, ce ne sera pas suffisant.

Si les geeks des années 2000 avaient déjà vu venir le merdier dans lequel on se trouve aujourd'hui, ce n'est pas parce qu'ils étaient plus malins que les autres. C'est juste qu'ils comprenaient ce qu'était le web et qu'ils ont tout de suite vu venir l'arnaque des vendeurs de minitels.

Et les années 2000, en terme d'interfaces, ce n'était plus l'époque des terminaux. Les non informaticiens⁸ se débrouillaient très bien, et le web n'était pas plus compliqué à utiliser.

Petit à petit, l'informatique s'est imposée à tous, même à ceux qui n'en voulaient pas ou n'en avaient pas besoin. Et au lieu de former les gens à ces outils qu'ils n'avaient pas choisi d'utiliser, on a préferé leur mâcher le travail. Ce qui pouvait passer au début pour un effort louable de démocratisation a rapidement privé les utilisateurs de tout contrôle sur ce que faisaient leurs machines.

C'est flagrant et de plus en plus assumé avec l'IA: on ne nous propose plus des outils, mais de faire les choses à notre place. Je comprends que ça puisse être séduisant, mais la conséquence de ça, c'est qu'on ne décide plus de rien.

Et pourtant, la technologie n'est en réalité pas plus compliquée qu'il y a 20 ans. Les machines sont plus puissantes, mais elles font toujours fondamentalement les mêmes choses. Et si la complexité des logiciels a explosé (pour des raisons souvent discutables) au point que plus grand monde n'y comprenne réellement grand chose, rien ne nous empêche de re-simplifier les choses. Il ne s'agit pas de revenir à l'âge de pierre, mais de se débarrasser de l'inutile.

Reprendre le contrôle sur nos vies numériques va demander un peu de boulot, et ça va impliquer de tolérer un peu plus de friction, mais ça n'a rien d'impossible.

On se trimballe avec des ordinateurs de poche au moins mille fois plus puissants que ceux qui ont permis d'envoyer des gens sur la lune, mais on aurait quand même besoin d'entreprises multinationales pour prendre des nouvelles de mamie ?⁹

Tant qu'on aura pas compris l'absurdité de cette situation, j'ai bien peur qu'on n'avance pas. Les GAFAMs ont tout fait pour nous rendre ignorants, ce qui leur permet de nous vendre toujours plus de vent. C'est pour ça qu'il est urgent de se rééduquer sur le sujet.

J'ai conscience d'en rester au stade Yaka-Fokon avec cet article. J'ai quelques vagues idées pour essayer de vulgariser un peu certains sujets, mais j'ai encore du mal à m'y mettre. Ne me sentant pas une fibre très pédagogue, je pense, au moins dans un premier temps, m'en tenir à une approche assez générale. On verra ce que ça donne.

Mais même si j'en reste à la simple râlerie, je me dis que si ça peut aider à comprendre qu'on n'est pas aussi impuissant qu'on le croit et qu'un monde sans Google et sa clique n'a rien d'inimaginable, ce sera toujours ça de pris.

C'est pour ça que le rapport d'Amnesty m'a semblé important. Parler de démentèlement, c'est plus radical que les mesurettes potentiellement dangereuses qu'on évoque habituellement et je suis intimement convaincu qu'il va être indispensable d'en passer par là si on veut un jour tenter de repartir sur des bases plus saines.

Ça va pas se faire en six mois, et vu le contexte économique et politique actuel, on part franchement mal. Mais si l'idée peut germer dans les esprits, ce sera déjà un premier pas.

---

En guise de conclusion, une citation sortie tout droit du rapport (emphasis mine, comme disent les Anglois):

OpenAI was accused by Italy’s data protection authority of violating the GDPR through its data scraping practices. OpenAI claims its actions are justified under a public interest exception under GDPR.

C'est pas ça qui me les rendra sympathiques, mais entre ça et "s'accaparrer les oeuvres de tout le monde c'est du fair-use", je dois reconnaitre qu'on rigole bien quand OpenAI essaye de se défendre.