Les algorithmes ont-ils pris le pouvoir ?

Mis à jour le 13/01/2015

David est un ado qui aime bidouiller des programmations informatiques sans autorisation. En pleine guerre froide, il réussit à entrer sans le savoir dans le système informatique du réseau de défense militaire américain. Ce qu’il prend pour un jeu est en réalité un programme de simulation de réponses à des attaques nucléaires. La machine s’emballe et manque de déclencher une troisième guerre mondiale… Ce scénario de science-fiction est celui du film Wargames sorti en 1983. En trente ans, la réalité a rattrapé la fiction. 


Les algorithmes sont entrés 
dans nos vies


Les algorithmes désignent une suite d’opérations permettant de transformer des données multiples en un résultat précis. Une recette de cuisine est, si l’on veut, un algorithme. « Initialement utilisé par les mathématiciens pour décrire une série de calculs, le terme s’est généralisé pour désigner les tâches automatisées de la programmation informatique », résume le sociologue Dominique Cardon (1). La naissance de Google, en 1998, est le symbole de l’algorithmisation du monde, tout comme le système qu’il utilise : PageRank. Pour trier et faire remonter les pages Internet par ordre d’importance, les concepteurs ne voulaient pas se contenter d’une analyse sémantique du contenu de ces pages. Ils ont voulu prendre en compte les relations entre les documents. « De façon intuitive, un document doit être important (sans considération pour son contenu) s’il est beaucoup cité par d’autres documents », dit Larry Page, le cofondateur de Google. La qualité devient une construction sociale.


Pour Alain Lelu (2), spécialiste des sciences de l’information, « PageRank et Wikipedia remplissent honnêtement et efficacement leur rôle modeste, mais basique : celui d’informer l’internaute de “ce qui se dit”, de ce qui est socialement reconnu dans le milieu sur lequel porte sa requête, fût-il aussi limité que celui des collectionneurs de porte-clés. »


Google n’hésite pas à proclamer son algorithme comme le code source de la démocratie, souligne D. Cardon. Chaque lien entrant et sortant est considéré comme un « vote ». Mais tous les votants n’ont pas le même poids. Les pages les plus vues sont celles qui ont le plus de pouvoir : si elles pointent vers une autre page, celle-ci aura plus de chances de remonter que si elles sont recommandées par un « petit » site. C’est donc une « méritocratie censitaire » plus qu’une démocratie. On en arrive à un effet de renforcement, où les sites les plus importants raflent toujours la mise. 90 % du PageRank du Web est possédé par 10 % des sites (3).


De l’IP tracking aux cookies


C’est pourquoi, pour les journalistes Web par exemple, il est devenu indispensable de maîtriser les codes du référencement pour que leur article ait une chance d’exister : ne pas négliger le titre (avec des mots-clés), les expressions en gras, les liens… Ces efforts ne suffisent d’ailleurs pas à déjouer les techniques de référencement et à apprivoiser Google. L’algorithme se complexifie pour donner sa vision d’un site de qualité : des articles ayant une vraie valeur ajoutée (plutôt que des dépêches AFP reprises par des centaines de rédactions), sur lesquels les lecteurs passeront plus de temps, auront plus de chance de remonter, car ils seront recherchés et rares. Au final, des conseils journalistiques de bon sens… Pour justifier sa méthode de référencement, Google se défend d’intervenir « à la main » dans ce qui n’est que le résultat d’algorithmes. Il sépare clairement les résultats de la recherche « organique » et ceux de la recherche « stratégique », pour les publicités. Dans la première, la réputation se crée via les internautes puisque ce sont eux qui font ce travail de recommandation récupéré par Google. De l’autre, la réputation s’obtient en payant des mots-clés.


Dès lors que l’internaute clique sur une publicité, par exemple pour réserver un billet d’avion, il va falloir qu’il prenne conscience des algorithmes qui sont à l’œuvre pour ne pas se faire berner. Certaines compagnies aériennes pratiquent en effet l’IP tracking* : l’adresse IP de l’utilisateur est enregistrée, et puisqu’elle est liée à différentes recherches sur un voyage, le prix va monter progressivement. Le but est de déclencher l’acte d’achat de la part de l’internaute, pressé par cette montée des prix.


Dans un récent rapport, la Commission nationale de l’informatique et des libertés (Cnil) et la Direction générale de la concurrence, de la consommation et de la répression des fraudes (4) pointent d’autres pratiques tendancieuses, comme l’utilisation des cookies, ces indications sur la navigation de l’internaute, pour en arriver exactement au même point : repérer les goûts et les pratiques de chacun, pour proposer au consommateur des publicités « ciblées » et le faire payer au maximum.


Une « gouvernementalité algorithmique »


Le journaliste et ingénieur américain Christopher Steiner a alerté récemment l’opinion sur notre dépendance croissante aux algorithmes. Dans son dernier ouvrage, Automate this. How algorithms came to rule our world (2012), best-seller aux États-Unis, il prend l’exemple de la firme Music Xray. Grâce à des algorithmes, cet outil est capable de classer les créations musicales en fonction de rythmes ou de tempos qui ont déjà connu du succès. Les créations qui ne collent pas au « hit appeal » auront moins de chances d’être commercialisées, d’où une tendance à l’homogénéisation musicale.


C’est au fond le principal reproche adressé aux algorithmes : en classant les informations qui nous arrivent, ils orientent notre action à notre insu. Ils nous font des recommandations sur les musiques à écouter, les objets à acheter, les gens à rencontrer, les pays à visiter. Mais ils peuvent aussi cibler les individus, décider de la visibilité de certaines idées, personnes et produits au détriment d’autres, engager des transactions financières…


Tout l’enjeu est de savoir comment rester maître de ces algorithmes. Le philosophe Bernard Stiegler (5) y voit une nouvelle forme de prolétarisation : « La prolétarisation, affirme-t-il, c’est historiquement la perte du savoir du travailleur face à la machine qui a absorbé ce savoir. » Selon lui, nous aurions atteint un nouveau stade : les machines, que nous nous contentons de paramétrer sans les maîtriser, nous dépossèdent de l’information, et surtout de l’information nous concernant. Car même s’il existe des garde-fous, comme la désactivation des cookies ou l’utilisation de moteurs de recherche qui ne pratiquent aucun traçage, les règles sont opaques et l’internaute n’en a pas forcément conscience.


Ce type d’argument ranime la flamme technophobe : serions-nous entrés dans un monde surveillé, paramétré, décrypté, où nos libertés civiles disparaissent, de facto, dans les serveurs des datacenters ? C’est la thèse défendue par certains sociologues et politistes, qui voient dans la puissance des machines la défaite de nos libertés. Deux chercheurs belges, Thomas Berns et Antoinette Rouvroy (6), avancent que nous entrerions dans une « nouvelle gouvernementalité algorithmique » : l’individu s’efface au profit de son double statistique qu’il ne maîtrise pas vraiment. Dans le même ordre d’idée, Evgeny Morozov (7) affirme que la montée en puissance des données (big data) mine les fondements du politique : si la technologie fournit les réponses aux problèmes de la société, à quoi sert la politique ? L’affaire Prism a révélé que la NSA, l’agence américaine de renseignement, repérait les profils « à risque » grâce à ce genre d’algorithme : si une personne a fait telle recherche ou qu’elle est en contact avec tel individu par courriel, alors elle est à risque. Sinon l’individu n’est pas à risque… Dans le même ordre d’idée, le programme Predpol utilisé dans certaines villes aux États-Unis utilise un algorithme prédictif pour empêcher les crimes avant qu’ils se produisent.


Faut-il alors lutter contre les algorithmes ? Ce serait vain, voire absurde. Aussi puissants soient-ils, les algorithmes ne sont pas doués de raison. D’ailleurs, même un auteur aussi critique que C. Steiner reconnaît qu’ils permettent de nombreuses avancées : ils stimulent la productivité, diffusent de la connaissance ou améliorent la fiabilité des opérations lors de tâches répétées comme l’analyse de tests médicaux.


Tout l’enjeu pour l’homme consiste à (ré)apprendre à les maîtriser. Dans Boston College Law Review, Kate Crawford, chercheuse au laboratoire Social Media Collective de Microsoft Research, et Jason Schultz de l’école de droit de l’université de New York, avancent quelques propositions. Il faudrait que soit notifié aux citoyens, par exemple, quand sont collectées leurs données personnelles, quel traitement va en être fait, et à quelles fins. Ou encore qu’ils puissent contester la prédiction qui est faite de leur comportement (scoring) lors d’une demande de crédit.


Les algorithmes prendront donc la direction que l’homme leur laissera prendre. Dans le film Wargames, c’est bien parce que l’homme a réussi à dialoguer avec la machine qu’une nouvelle guerre a pu être évitée…

Mots-clés :

• technologies de l'information et de la communication
• technologies
• nouvelles technologies
• sciences sociales
• informatique
• numérique
• algorithmes