«Facebook vous permet de rester en contact avec les personnes qui comptent dans votre vie.» ; «Don’t be evil.» ; «C’est gratuit et ça le restera toujours.» Derrière ces messages séduisants se cache le pillage du siècle, celui de nos données. Celui de nos cerveaux ! Comment l’Internet des débuts, celui de la liberté, du partage et de la connexion entre les individus, est-il devenu ce monstre centralisé qui manipule nos opinions et influence notre monde ? La réponse est complexe, pourtant elle tient en deux mots : Big Tech et algorithmes.
Ce billet inaugure une série d’articles consacrés à l’influence des algorithmes sur nos vies.
Big Tech
Les Titans de la technologie
Les Big Tech sont ces mastodontes technologiques d’une puissance et d’une portée inédites. Google, Meta (Facebook), Amazon, Apple, Microsoft, X (Twitter), Tesla, SpaceX…
Ces entités ont transcendé leur statut de simples entreprises. Elles jouent désormais un rôle omniprésent dans notre quotidien. Non seulement en tant que fournisseurs de services, mais aussi en tant qu’acteurs politiques et culturels. Leur influence sur nos vies et leur pouvoir rivalisent aujourd’hui avec ceux des États.
Évolutions et impact sociétal
Initialement conçues pour répondre à des besoins spécifiques – moteurs de recherche, réseaux sociaux, commerce en ligne – ces entreprises ont rapidement évolué pour englober une vaste gamme de services et de technologies. Certains n’ont rien donné. D’autres ont modifié de manière indélébile nos interactions, nos comportements et notre accès à l’information.
Grâce à leur maîtrise de l’information, l’influence de ces conglomérats technologiques s’étend désormais bien au-delà du périmètre de leurs services. Ils affectent les dynamiques sociale, politique et économique, et exercent un pouvoir considérable sur l’opinion publique et la formation des discours.
Influence et manipulation
Aujourd’hui, les GAFAM sont devenus des acteurs incontournables de la diffusion de l’information à l’échelle mondiale. Et cette privatisation des espaces publics numériques soulève des questions fondamentales sur la souveraineté, la liberté et l’avenir démocratique de nos sociétés.
L’exemple le plus frappant est sans doute celui du scandale de Cambridge Analytica en 2016, où les données de millions d’utilisateurs de Facebook ont été utilisées sans leur consentement pour influencer l’élection présidentielle américaine.
Dans “MindFuck” (Grasset), le lanceur d’alerte Christopher Wylie démontre comment la manipulation de l’information associée au micro-ciblage de masse a influencé le vote de milliers d’électeurs, conduisant Trump à la Maison Blanche.
Pouvoir sur les opinions publiques
Cet incident a mis en lumière la capacité des GAFAM à manipuler non seulement les données, mais aussi les perceptions et les comportements à une échelle massive.
Regardez ce qu’une entreprise (Cambridge Analytica) a pu faire avec un accès partiel aux données détenues par Facebook : faire élire un Président des États-Unis. Imaginez donc le pouvoir qu’ont les Big Tech grâce à la quantité de données en leur possession.
Et avec l’avènement de l’intelligence artificielle, les exemples de manipulation se multiplient :
- deepfake de Jo Biden a appelé les électeurs démocrates à ne pas se rendre aux primaires ;
- faux enregistrement de Michal Simeka en train de converser avec une journaliste sur la façon de manipuler les votes ;
- en Inde, un deepfake d’un ministre en exercice appelle à voter contre son gouvernement.
Ironiquement :
- les politiciens en viennent à créer de fausses vidéos d’eux-mêmes pour sensibiliser les électeurs aux risques de manipulation ;
- les États, devenus impuissants, appellent à une intervention des Big Tech.
Bâtisseurs de futur
Et leur pouvoir promet de s’étendre encore dans les années à venir. Les Big Tech investissent dans des domaines stratégiques comme l’intelligence artificielle, les biotechnologies, l’exploration spatiale, la robotique ou encore les villes intelligentes. Des projets comme les implants neuronaux de Neuralink ou les satellites internet, illustrent leur ambition de redéfinir les contours du monde.
Surtout, ils investissent des domaines autrefois réservés aux États rendant ces derniers dépendants de leurs technologies. Les dirigeants de ces entreprises ne sont plus de simples entrepreneurs. Ils permettent au monde actuel de fonctionner. Ils prennent part dans les guerres et les mouvements sociaux et deviennent les bâtisseurs du futur de l’humanité.
Problème : leur vision du futur est intrinsèquement liée à leurs intérêts commerciaux, ce qui soulève des questions éthiques et politiques. En effet, l’idée d’un avenir façonné et dominé par une poignée de grandes entreprises privées remet en question les principes de démocratie et de souveraineté.
Algorithmes
Les algorithmes, au cœur de l’activité des GAFAM, jouent un rôle central dans ces manipulations.
“Un mensonge peut faire le tour du monde le temps que la vérité mette ses chaussures” aurait dit Mark Twain. Citation apocryphe mais dont je vous laisse apprécier l’actualité du propos.
Les algorithmes sont conçus pour retenir l’attention et maximiser l’engagement, souvent au détriment de la véracité de l’information. Ils créent ainsi un environnement où les fausses informations se propagent rapidement.
« Il ne s’agit plus de voir pour croire mais de croire pour voir » constate Bruno Palatino dans “La civilisation du poisson rouge”.
En décidant ce qui est montré à l’utilisateur, quand et comment, les algorithmes façonnent notre compréhension du monde. Ils créent des bulles de filtres qui accélèrent la diffusion de fausses informations, intensifient les discours de haine et menacent la cohésion sociale.
Nelly Garnier pose la question dès le titre de son livre : «La démocratie du Like : Et si les réseaux sociaux avaient pris le pouvoir ?»
Vers une régulation et un contrôle démocratique.
Se pose alors le défi de réguler les Big Tech et d’encadrer les algorithmes.
Objectifs :
- Protéger les données personnelles et la vie privée des individus,
- préserver le tissu démocratique et social.
Mais ce n’est pas si simple.
- Problème 1 : les Big Tech sont très douées pour influencer les politiques publiques et les cadres réglementaires via le lobbying, les campagnes de relations publiques ou le financement de la recherche universitaire.
- Problème 2 : les normes technologiques et réglementaires établies par les Big Tech deviennent souvent des standards et limitent la capacité des États à intervenir de manière autonome.
Les initiatives de régulation, telles que le Règlement général sur la protection des données (RGPD) de l’Union européenne, le Digital Services Act (DSA) ou plus récemment l’IA Act, représentent des premiers pas importants. Mais la lutte pour maintenir l’équilibre entre innovation et éthique ne fait que commencer.
D’ailleurs, on peut se demander si la partie n’est pas déjà jouée d’avance. Les Big Tech ne sont-elles pas déjà trop puissantes ? Les États eux-mêmes ne sont-ils pas trop dépendants des technologies des GAFAM pour agir ? La régulation ne freinerait-elle pas l’innovation ? Le contrôle est-il encore possible à l’ère de l’intelligence artificielle ?
Dompter les algorithmes
Dans «Technopolitique», Asma Mhalla estime que «le solutionnisme techno-juridique atteint un plancher» : la centralisation du contrôle est impossible face à « l’hyper-personnalisation algorithmique de masse » et à la « production de contenu à cadence inhumaine« .
Alors comment doivent réagir les systèmes judiciaires quand les algorithmes prennent tant d’importance dans nos vies ?
Dans « Les algorithmes font-ils la loi ? » Aurélie Jean soutient qu’il faut dompter les algorithmes. Une partie de la solution réside dans la création d’un cadre réglementaire qui met l’accent sur les pratiques de développement, mais surtout l’explicabilité des algorithmes, afin rendre leur fonctionnement accessible et compréhensible pour tous et de pouvoir ainsi déterminer des responsabilités.
Le rôle de l’éducation
Plutôt qu’une régulation trop longue à mettre en place et à l’efficacité incertaine, c’est d’une éducation aux nouvelles technologies dont nous avons besoin. Et notamment au fonctionnement et aux impacts des algorithmes.
Cette éducation ne doit pas se limiter à la manipulation des outils numériques. On ne parle pas ici de réduire la fracture numérique, mais de construire les citoyens de l’ère numérique.
Une formation à la consommation de l’information
Dans ce contexte, l’école joue un rôle primordial pour préparer les citoyens à la société numérique. Ils ne doivent plus être de simples « scrollers », mais des acteurs critiques et informés, conscients de naviguer dans un paysage technologique complexe.
La formation doit donc se concentrer sur une compréhension de l’impact sociétal, éthique et politique des technologies. Mais aussi sur la façon d’appréhender l’information.
Comme l’esprit critique a joué un rôle primordial au siècle des Lumières, la littératie algorithmique doit permettre de construire une société démocratique à l’ère numérique.
