Lecture – Vers un cauchemar algorithmique ?

Dominique CARDON, « A quoi rêvent les algorithmes, nos vies à l’heure des big data », Seuil-La République des idées, Novembre 2015, 112p.

9782021279962

Lecture réalisée par Lionel CORDIER

 » (…) On pourrait dire que la communication, c’est la transmission et la propagation d’une information. Or une information, c’est quoi ? C’est pas très compliqué, tout le monde le sait : une information, c’est un ensemble de mots d’ordre. Quand on vous informe, on vous dit ce que vous êtes sensés devoir croire. En d’autres termes : informer c’est faire circuler un mot d’ordre. (…) C’est ça l’information, la communication, et, indépendamment de ces mots d’ordre, et de la transmission de ces mots d’ordre, il n’y a pas de communication, il n’y a pas d’information. Ce qui revient à dire : que l’information, c’est exactement le système du contrôle. »
Deleuze – « Qu’est-ce que l’acte de création ? » Conférence du 17 Mai 1987

Tous les deux jours, nous produisons aujourd’hui plus d’informations que l’humanité n’en a généré depuis ses débuts (CARDON, p.11). La constitution de ces gigantesques masses de données, les Big Data, vient aujourd’hui alimenter les rêves et les cauchemars les plus fous : séparation obsolète entre privé et public, fusion progressive de l’humain et de la machine, avènement d’un monde rationnel, délivré des affres de la politique et des subjectivités humaines…
Mais au-delà de ces fantasmes, que font les algorithmes à nos sociétés, aux sciences sociales et aux épistémologies sur lesquelles s’appuient nos démarches ? Quels sont les enjeux philosophiques portés par l’usage de ces nouveaux outils ? Et plus largement, de quelle façon ceux-ci viennent transformer et créer de nouveaux usages politiques ?
C’est à ces interrogations que se propose de répondre Dominique Cardon, sociologue au laboratoire des usages d’Orange Labs, dans son dernier ouvrage « A quoi rêvent les algorithmes ». Le livre est didactique, accessible, et en évitant de tomber dans le jargon informatique nous permet d’accéder à un large panorama d’enjeux passionnants.

Ce genre d’ouvrage vient combler une lacune importante au sein des sciences sociales, qui semblent pour l’instant assister impuissantes ou indifférentes à l’émergence des Big Data, aux prétentions démiurgiques de la Silicon Valley et des GAFA (Google, Apple, Facebook et Amazon). La nécessité d’intégrer dans nos réflexions, dans nos recherches, ces outils numériques émergents devient ainsi un enjeu vital, comme le rappelait encore récemment Dominique Boullier qui en appelle à la constitution de « Social Data Sciences ».
Non pas en remplacement des outils que nous mobilisons déjà, mais bien comme de nouvelles extensions, qui doivent nous permettre aussi de nous retourner sur le chemin parcouru, construire de nouvelles réflexivités sur le rôle et les fonctions des sciences sociales. En apercevant les bouleversements à venir de ces nouveaux usages du numérique, ce ne sont pas seulement les sciences sociales qui seront touchées, mais bien aussi les humanités et les logiques de création, nos façons de faire de la politique et de la philosophie.

Nous proposons ici d’aborder sereinement les enjeux posés par la constitution des algorithmes, car comme toute nouvelle innovation technique celle-ci semble davantage venir augmenter, accélérer, mettre en évidence des mouvements déjà à l’œuvre depuis longtemps dans nos sociétés. A travers ce retour sur l’ouvrage de Dominique Cardon, nous nous proposons d’en dégager les principales lignes, autant de lignes de fuite pour de nouveaux questionnements.

Sociotechnique

Il n’y a pas de vraie frontière entre humain et machine. Cet ouvrage est d’abord un appel à cesser de cultiver la peur ou une indifférence feinte vis-à-vis des nouvelles « machines à calculer ». Cesser d’être indifférent face aux algorithmes, c’est cesser de jouer sur les oppositions binaires et d’entretenir cette vision classique d’opposition entre « la froide rationalité des machines » qui s’opposerait à « notre subtile sagacité » (p.7). Cette vision fait plus de mal aux sciences sociales qu’elle ne les sert.
Apercevoir la nature « sociotechnique » de nos sociétés, c’est comprendre donc que « nous fabriquons les calculateurs et [qu’]ils nous construisent en retour » (p.7). Il s’agit là en vérité d’un point central qui préside à l’ensemble de l’ouvrage : cesser de penser ce qui serait une frontière entre d’un côté l’humanité et de l’autre la technique.
L’algorithme vient répondre à des besoins humains, les humains adaptent leurs usages face aux effets provoqués par les algorithmes. Les algorithmes sont eux-mêmes les fruits de concepteurs inscrits dans l’espace social, qui entretiennent leurs propres vues de monde et de ce qu’il doit être. Envisager l’algorithme comme fondamentalement externe à toute logique humaine, c’est s’empêcher de le penser comme objet social.
Par exemple face au « page-ranking » de Google, à la hiérarchisation des sites web selon leur « force sociale » par le moteur de recherche, les concepteurs de sites vont inventer les machines à clics, vont changer leurs façons d’écrire (p.23). Mais cette récompense au mérite que produit Google provient elle-même du monde du logiciel libre, de la récompense au mérite selon les apports de chaque internaute.
Dominique Cardon décrit ainsi un véritable jeu du chat et de la souris (p.23), où les techniques de Google viennent influer sur la façon d’organiser et d’écrire le web. Ces effets rétroactifs s’observent partout, avec des internautes qui se révèlent de plus en plus inventifs et spécialistes de la construction de popularité, de réputation. Par exemple les entreprises, les administrations consultent et apprennent que les meilleurs moments pour diffuser un contenu sur les réseaux se situent le lundi à 11h (p.28), vont créer des contenus plus interactifs, etc.

De la nature de l’algorithme. Dominique Cardon vient définir l’algorithme de façon diaboliquement simple : « une série d’instructions permettant d’obtenir un résultat » (p.7). Sa nature complexe n’apparaît que dans le sens où celui-ci est capable d’opérer à grande vitesse, avec une quantité phénoménale de données.
C’est là le deuxième visage de la révolution en cours : l’accumulation sans précédant d’informations. Mais ces amas d’informations ne sont rien s’ils ne sont pas triés, organisés, mis en cohérence. Ils ne formeraient (et forment la plupart du temps) qu’un ensemble gigantesque et illisible de données incohérentes. La mise en algorithme de ce monde de données, c’est d’en dégager une certaine lisibilité, une interprétation du réel.
Comment fonctionnent-ils ? Dominique Cardon nous répond : « de manière inductive, [ils] partent à la recherche de régularités en faisant le moins d’hypothèses possible » (p.47), dans une logique qui viendrait effacer peu à peu toute tentative de théorisation : ils ne cherchent qu’à dessiner des ensemble de corrélations, c’est à dire des ensemble de « coïncidences », de suites similaires, de variables cachées qui nous auraient échappées.
C’est à partir du nombre de communications téléphoniques dans le RER A que l’on va observer une hausse similaire des files d’attente à Disneyland (p.67), les assureurs sauront que les clients qui achètent des feutres pour leurs pieds de table afin de ne pas rayer leur parquet sont aussi ceux qui auront un comportement automobile plus prudent (p.47) etc.

Des corrélations sans causes. Les corrélations n’ont donc plus besoin de causes. C’est ce que semble nous dirent les algorithmes. Il n’y a plus besoin de bâtir des modèles explicatifs où des causes on déduit des conséquences. Les algorithmes produisent un travail inverse, ils observent les conséquences, et en déduisent, si besoin, un ensemble de causes probables.
Mais ce que vient signaler Chris Anderson, avec toute l’arrogance propre à la Silicon Valley, c’est qu’il n’est même plus essentiel de connaître les raisons de pourquoi les gens font ce qu’ils font, il suffit de savoir qu’ils le font, cela est suffisant pour créer de nouveaux algorithmes de prédiction sur ce qu’ils feront demain.
Anderson en vient ainsi à clamer « la fin de la théorie » et l’abandon des modèles explicatifs « a priori ». Les algorithmes ne viennent nourrir qu’une « mosaïque constamment révisable de micro-théories contingentes » (p.47), réduites également à l’individu et à des comportements proprement personnels, qui ne s’embarrassent plus des catégories sociales dans lesquelles on le classait auparavant.
C’est oublier une hypothèse de base qui guide tous les algorithmes, que ceux-ci servent à calculer la popularité, l’autorité, la réputation voire à faire des prédictions : « lls demandent au caractère régulier et monotone du comportement des utilisateurs de stabiliser les modèles en les aidant à apprendre les bonnes corrélations » (p.59).
Ainsi les modèles de prédiction par exemple se base sur l’hypothèse basique suivante : « le futur sera une reproduction du passé » (p.63). Le plus passionnant ici étant qu’en dégageant ces caractères réguliers, les algorithmes ne font que mettre en évidence le concept d’habitus de Bourdieu, à savoir « cette disposition incorporée à travers laquelle la société façonne des choix réguliers et prévisibles, jusque dans les petits anfractuosités du quotidien » (p.59). Les algorithmes deviennent donc une cartographie gigantesque des habitus de chacun.

La fin des catégories ? Ainsi en prétendant individualiser les mesures des comportements de chacun, Cardon signale le tournant économétrique que font prendre les algorithmes à notre perception du social, et l’amenuisement du rôle des catégories statistiques, qui sierait mieux aux sociétés plus hiérarchiques des anciens médias de masse (p.40).
Mais comme il le signale plus loin, la catégorisation ne disparaît pas, elle se révèle tout simplement beaucoup plus fine et précise, parfois jusqu’à l’absurde, comme ces 77 000 microgenres formés par Netflix par l’observation de ses consommateurs, tels que « thrillers violents au sujet des chats pour les 8-10 ans » (p.75)…
Les algorithmes peuvent également venir refléter les vues racistes ou sexistes de ses usagers. Latanya Sweeney, une chercheuse afro-américaine, constate ainsi que Google proposera dans ses suggestions de voir si elle a déjà été arrêtée, et ne tend à reproduire cette proposition que pour les personnes noires. On peut citer aussi l’algorithme de GoogleMaps, qui avait rebaptisé la Maison blanche « la maison du nègre » en se référant aux requêtes des internautes. Ainsi, pour Cardon, « livré à lui-même, le calculateur s’appuie sur les comportements des autres internautes et contribue « innocemment  » si l’on ose dire à la reproduction de la structure sociale, des inégalités et des discriminations. » (p.75)
Enfin l’algorithme peut aussi venir invisibiliser un mouvement social lorsque celui-ci ne correspond pas à ses critères de classements. Cardon vient ainsi rappeler les critiques virulentes de participants au mouvement « Occupy Wall Street » contre Twitter qui ne faisait pas remonter dans ses tendances les mots-clics #occupy et #OWS, certes populaires mais pas assez « explosifs », ne correspondant donc pas à ce que Twitter considère être un mouvement d’opinion « immédiat et simultané » (p.73).

Déconstruire la machine à fantasmes

Les algorithmes ne peuvent pas (encore) tout, et leur critique vient souvent viser « à côté », c’est à dire qu’en les prenant pour ce qu’ils ne sont pas, nous restons aveugles à leurs véritables potentialités.
Par exemple les algorithmes de prédiction sont également de véritables machines à créer de « faux positifs » (p.67), l’hypothèse d’une marge d’erreur de 1% pour un algorithme capable de prédire un comportement terroriste dans la population française désignerait tout de même des centaines de milliers de personnes non concernées. Des interrogations similaires se dessinent pour des algorithmes de prédiction du crime, comme Bilel Benbouzid s’en était déjà fait l’écho.

Emotions et réflexion à long terme, les dernières frontières ? Si les techniques de prédiction ne sont pas toujours très efficaces, l’abandon par Google de son algorithme à prévoir les épidémies, GoogleFlu, montre notamment la difficulté à relier ce que Cardon va nommer « le signal et la trace » (p.64), c’est à dire l’émission d’un signal et le contexte dans lequel celui-ci est né. Autrement dit l’une des difficultés actuelles dans la conception des algorithmes, c’est de comprendre la signification donnée à un signal (p.66), autrement dit la subjectivité de son émetteur. La quantification et la prédiction des émotions continuent donc de donner des sueurs froides aux programmeurs, et ne donnent pour l’instant que des résultats très limités (p.57)… Comment saisir l’usage de l’ironie sur Twitter, ou bien si la diffusion du message d’un politique sur Facebook vise à le dénigrer ou le porter ? Cela peut s’observer également dans la traduction automatique, qui peine toujours à saisir sous-entendus ou sens cachés, d’où un tournant statistique s’appuyant sur les millions de traductions humaines parsemant la toile (p.55).

Pas d’envahissement du privé, mais une « privatisation du privé ». Si Mark Zuckerberg avait un temps voulu enterrer la vie privée, concevoir les enjeux privé/public comme une simple lutte de territoires est peut-être erronée. Pour Cardon, il serait plus judicieux aujourd’hui de considérer que le domaine privé est en situation d’individualisation, ou de « privatisation » (p.70), autrement dit chaque utilisateur en viendrait à faire ses propres arbitrages sur les informations privées qu’il laisserait à la machine. Mais cette idée d’un choix libre et éclairé de la part de l’utilisateur serait peu pertinent et relevant davantage de l’illusion et de la résignation, et exigerait donc en contrepartie un contrôle de nos données non seulement « ex ante », mais également « ex post » c’est à dire l’usage qu’il est fait de nos données après leur émission.

Un monde horizontal, vraiment ? A contrario, l’idée de parler du web comme d’un système en réseau qui permettrait d’équilibrer et faire émerger des voix différentes serait de moins en moins pertinent. Près de 1% des acteurs du web profiteraient de 90% de sa visibilité, profitant ainsi de « l’effet Matthieu » des calculs en réseau (p.86). Ces « glissements vers des répartitions extrêmes » résulte ainsi des structures en réseau qui viennent favoriser les entités disposant d’un positionnement central. Qu’il s’agisse du monde de l’art, des universités, des services ou du journalisme, pour Cardon « l’unification des marchés du jugement contribue à donner aux meilleurs une visibilité surnuméraire » (p.86). Mais cette fabrique de réputation et d’autorité vient aussi invisibiliser les perdants, elle reconduit l’ordre social et diminue l’accès aux ressources des moins favorisés.

« Conduire les conduites » (Foucault)

La fin de la politique ? Pour illustrer les transformations des conduites individuelles et collectives qu’opérerait l’émergence des algorithmes, Cardon s’appuie sur le concept de « dividu » de Deleuze et Anders, pour évoquer la disparition de l’individu dans des flux de contrôle machinique, où « l’individu calculé est un flux » (p.77). L’évocation des sociétés de contrôle par Deleuze sonne également de façon extrêmement contemporaine aujourd’hui, et vient rejoindre les descriptions des nouvelles formes de pouvoir de Foucault, dont l’objectif serait désormais, plutôt que de « surveiller et punir », de « conduire les conduites ». Ainsi un algorithme fonctionne « lorsqu’il parvient à épouser si étroitement le milieu dans lequel il intervient que les comportements des acteurs se règlent sur ses verdicts et que les principes qu’il met en œuvre nourrissent leurs représentations » (p.57), autrement dit l’algorithme procède peu à peu à un enfermement de l’individu, il considérerait « de façon très conservatrice [que les individus] sont rarement à la hauteur de leurs désirs » (p.63).
L’algorithme va aller se coller davantage aux comportements qu’aux aspirations exprimées par ses utilisateurs : par exemple même si des utilisateurs affirment vouloir davantage regarder de films d’Arte, l’algorithme saura que cette aspiration est généralement peu suivie d’effets, et il proposera un choix en conséquence.

Apprendre à ne pas désapprendre. Quels sont les lieux de résistances qui peuvent se dessiner face à l’envahissement par notre quotidien des machines à calculer ? C’est tout d’abord, comme le propose à de multiples reprises Cardon, nous rappeler que c’est l’objet et les buts des algorithmes qui doivent être discuté, et non les algorithmes eux-mêmes. Il est par ailleurs nécessaire de croiser cette objectif avec la protection des données que nous émettons en permanence : comment justifier en effet que « plus les individus sont transparents, plus ceux qui les observent sont opaques » (p.71), de la privatisation des données les plus capitales par les GAFA ?
D’où pour Dominique Cardon l’urgence d’opposer ces contre-calculs, et de multiplier les initiatives d’audit, d’imitations et de copies d’algorithmes (p.93). Ces objectifs doivent nous permettre également « d’apprendre à ne pas désapprendre », c’est-à-dire de constituer des savoirs et des techniques qui nous permettraient de domestiquer les calculateurs qui viennent gérer nos vies.
Le droit vient également peu à peu construire de nouvelles notions juridiques comme une « obligation à la loyauté » revendiquée par le CNNum et le Conseil d’Etat, qui au lieu de tomber dans une critique en cul-de-sac d’algorithmes biaisés, viendrait plutôt obliger à une concordance effective entre objectifs affichés et effets réelles des machines à calculer.

Quelques critiques

* Autonomie ou accès à la parole ? Cardon fait la supposition à plusieurs reprises d’une plus grande autonomie des individus, de sociétés moins hiérarchiques et plus individualistes. Mais l’on peine à comprendre en quoi nous serions davantage autonomes. Il semble qu’il y ait une confusion entre autonomie et l’accès plus général à la prise de parole publique, qui en effet se trouve facilitée par internet (mais qui n’efface pas pour autant tous les biais déjà constatés IRL)
* Une critique de l’entre-soi ? Pour Cardon le fait que les algorithmes au sein des médias sociaux viennent former une « bulle », reprenant les critiques d’Eli Pariser, où nous ne fréquentons que des personnes qui nous ressemblent, serait un problème (p.29). Mais celui-ci n’explique jamais pourquoi. D’une part ce constat n’offre rien de véritablement nouveau sur la question de la réception de l’information, comme il l’indique lui-même, puisque par exemple les sociabilités homophiles des individus politisés étaient déjà constatés pour les médias antérieurs au web : les lecteurs du Figaro choisissent d’acheter le Figaro car ils savent ce qu’ils y trouveront.
D’autre part ce qui ressemble à une critique républicaine assez classique du communautarisme semble oublier que les réseaux sociaux offrent également un refuge informationnel capital pour des personnes vivant déjà des décalages par rapport à leurs milieux, et qui par l’usage de ces réseaux voient la possibilité d’accéder à de nouvelles ressources et de nouveaux contacts qui partagent leurs centres d’intérêts ou de nouvelles techniques de résistance (féministes, LGBT, personnes racisées etc).
* Parler de l’humain. Alors que Cardon commence son livre sur une note fertile, à savoir le non-sens méthodologique à vouloir concevoir l’algorithme comme fondamentalement externe à l’expérience humaine, celui-ci retombe parfois dans l’illusion de la définition d’une supposée essence de l’humanité. Ainsi les machines à calculer ne peuvent être intelligentes face à « l’infinie variété des situations et des contextes » (p.54), sous-entendant que l’intelligence humaine, elle, le pourrait. Si l’exemple sert à poser le passage des machines intelligentes d’hier aux machines statistiques d’aujourd’hui, pourquoi considérer que la constitution d’une intelligence artificielle resterait un horizon inatteignable ? Pourquoi ne pas considérer que peut-être oui, un jour nos machines à calculer nous surpasseront dans tous domaines, y compris ceux que nous considérons classiquement comme les plus « humains » (arts, politique, etc) ?
Nous nous appuierons donc pour conclure plutôt sur une citation de La Zone du dehors, d’Alain Damasio, une œuvre majeure de la nouvelle science-fiction française, s’inspirant largement des œuvres de Deleuze, Guattari et Spinoza, et qui a su également avant l’heure, en 1999 déjà, proposer une réflexion poétique et profonde sur la rationalisation du monde et des nouvelles gouvernances. A côté de la critique politique formulée par Cardon, y-a-t-il une alternative à l’idéal d’amélioration incessante et de fusion avec les algorithmes ?

« Change l’ordre du monde… plutôt que tes désirs… Tes désirs sont désordres… »

 

Pour aller plus loin :

* Gilles BABINET, Big Data, penser l’homme et le monde autrement, Le Passeur, février 2015, 256p.

* Dominique BOULLIER, Les Sciences sociales face aux traces du big data ? Société, opinion et répliques, FMSH-WP-2015-88, avril 2015

* Isabelle BRUNO, Emmanuel DIDIER, Julien PRÉVIEUX, Statactivisme, comment lutte avec des nombres, La Découverte, Hors Collection ZONES, mai 2014, 208p.

* Alain DAMASIO, La Zone du dehors, Cylibris, 2001

* Gilles DELEUZE, « Post-scriptum sur les sociétés de contrôle », in Pourparlers, 1972-1990, Paris, Minuit, 2003

* Alain DESROSIERES, La Politique des grands nombres. Histoire de la raison statistique, Paris, La Découverte, 2000

* Michel FOUCAULT, « Le sujet et le pouvoir », in Dits et écrits, Paris, Gallimard, coll. « Quarto », 1982, tome II, p.1041-1062

* Matthew HINDMAN, The Myth of digital Democracy, Princeton, Princeton University Press, 2009

* Eli PARISER, The Filter Bubble. What the Internet is Hiding from You, New York, The Penguin Press, 2011

* Bill WASIK, And Then There This. How Stories Live and Die in Viral Culture, New York, Viking Books, 2009