Chaque clic, chaque scroll, chaque interaction est silencieusement guidée par des forces invisibles : les algorithmes. Ces entités complexes ne se contentent pas de répondre à nos demandes. Elles façonnent activement notre perception du monde. Sur les réseaux sociaux, dans les moteurs de recherche, ou au travers des recommandations de produits, les algorithmes filtrent, trient et sélectionnent l’information qui nous parvient. Jusqu’à quel point ces sélections dictent-elles la réalité que nous percevons ? Sommes-nous encore en mesure de distinguer une réalité objective quand nos expériences sont si profondément filtrées et orientées ?
Grâce aux algorithmes, des entreprises exercent une influence sans précédent sur l’avenir de nos sociétés, nos croyances et nos interactions quotidiennes. C’est ce que nous avons observé le premier épisode de notre série d’articles consacrés aux algorithmes. A travers cet article, nous explorons l’idée provocante selon laquelle les algorithmes sont devenus des créateurs de réalité.
C’est quoi un algorithme ?
Explication
Que nous dit Wikipedia ? Un algorithme est une suite finie et non ambiguë d’instructions et d’opérations permettant de résoudre une classe de problèmes.
Sur des plateformes comme Facebook, Google ou Amazon, les algorithmes trient des quantités astronomiques de données pour personnaliser l’expérience utilisateur. Les algorithmes y gèrent ce que vous voyez dans votre fil d’actualité comme ce que vous êtes encouragé à acheter.
Impact sur la perception
Mais le rôle des algorithmes dépasse de loin la création de l’expérience en ligne ; ils modèlent notre perception du monde. Chaque action effectuée est précieusement enregistrée pour optimiser l’expérience de l’utilisateur. C’est cette personnalisation qui présente une réalité numérique différente car adaptée chaque utilisateur.
Par exemple, les moteurs de recherche comme Google affichent des résultats basés non seulement sur la pertinence mais aussi sur des comportements de navigation antérieurs, créant ainsi une boucle de rétroaction où ce que vous croyez être le « meilleur » résultat est en fait le résultat le plus « personnalisé« .
Cette personnalisation peut sembler innocente. Elle est d’ailleurs adaptée dans de nombreux cas. Mais elle oriente aussi la manière dont nous comprenons des concepts, des événements, et même des vérités supposées. En créant un environnement sur mesure qui peut varier considérablement d’une personne à l’autre, les algorithmes influencent non seulement nos choix de consommation mais aussi nos perspectives politiques et sociales.
Si chaque utilisateur perçoit une version du monde filtrée pour répondre à ses préférences personnelles, quelle place reste-t-il à une vision objective de la réalité ?
Algorithmes et construction de réalités
Formation des bulles de filtres
Cette personnalisation de l’expérience en ligne crée des « bulles de filtres » dans lesquelles beaucoup d’entre nous vivent sans même s’en rendre compte.
Ces bulles sont des écosystèmes d’information personnalisés, créés à partir de nos interactions en ligne. Elles renforcent continuellement, en même temps qu’elles limitent, notre exposition à des idées, des opinions et des faits qui correspondent à nos préférences identifiées.
Conséquence : ces bulles ont tendance à isoler les utilisateurs dans des chambres d’écho où les points de vue opposés sont rares ou absents.
Par exemple, sur les plateformes comme Facebook ou X, les algorithmes de recommandation poussent les contenus qui sont les plus susceptibles d’engager l’utilisateur, souvent en réaffirmant ses croyances actuelles.
Ce processus exacerbe la polarisation sociale et politique, car les utilisateurs ne sont confrontés qu’à des informations qui renforcent leurs opinions, réduisant les chances de débat ouvert et équilibré.
Boomers vs GenZ
Les algorithmes creusent le fossé générationnel jusqu’à parfois provoquer des conflits au sein même des familles.
Voici le témoignage d’Emma parlant de sa maman :
Facebook l’engrène complètement dans ces théories là, elle est devenue une extrémiste du complot, elle est en train de s’enfermer et de s’éloigner de nous.
Mes parents, ces complotistes
La génération des baby-boomers, habituée à recevoir des informations de sources traditionnelles comme la télévision, perçoivent souvent les contenus des réseaux sociaux avec le même degré de crédibilité.
Ce manque de recul critique face aux informations diffusées sur les réseaux sociaux les enferme dans des croyances réactionnaires voire complotistes. Et la personnalisation des contenus renforce leurs préjugés, sans qu’ils soient conscients de la manipulation algorithmique.
En contraste, les générations plus jeunes, comme les milléniaux et la génération Z sont souvent plus sceptiques et mieux informées sur le fonctionnement des algorithmes, ce qui les rend plus aptes à remettre en question les informations qu’ils reçoivent. D’autre part, ils ont leurs propres convictions et aspirations liées à leur génération.
Les algorithmes ne font alors qu’exacerber les divisions, en exposant chaque groupe à des contenus qui alimentent leurs convictions. Et les discussions intergénérationnelles sur des sujets d’actualité ou politiques peuvent alors rapidement dégénérer en conflits.
Effets sur la société
La structuration algorithmique de l’information a des conséquences profondes sur les discours et sur la dynamique démocratique.
Les bulles de filtres contribuent à un environnement où les faits objectifs sont souvent éclipsés par des récits biaisés.
On voit à quel point est déformée la perception de sujets importants comme le changement climatique, les crises sanitaires ou les élections politiques. Cette situation est dangereuse non seulement parce qu’elle divise la société, mais aussi parce qu’elle crée un terreau fertile pour la désinformation et les théories complotistes.
Cette réalité sociale construite par les algorithmes affecte également les mouvements sociaux.
Si les plateformes numériques sont de formidables vecteurs pour aider à mobiliser le soutien et à sensibiliser sur des questions importantes. Elles peuvent aussi être utilisées pour réprimer ou détourner ces mêmes mouvements.
Les algorithmes façonnent désormais les structures sociales et culturelles de notre monde. Il faut le reconnaître pour envisager des solutions.
De nombreux exemples
Un des exemples les plus parlants est celui de la diffusion de fausses nouvelles lors des élections présidentielles américaines de 2016. Les algorithmes des réseaux sociaux ont joué un rôle crucial en poussant des fake news vers des utilisateurs susceptibles de les recevoir favorablement. En exploitant le fonctionnement des algorithmes, l’entreprise Cambridge Analytica a permis à Trump d’investir la Maison Blanche.
Un autre exemple est celui des recommandations de YouTube. L’algorithme a été critiqué pour orienter les utilisateurs vers des contenus de plus en plus extrêmes pour maximiser leur temps passé sur la plateforme. Cette tendance a non seulement renforcé les croyances extrémistes chez certains utilisateurs, mais a également contribué à créer un terrain propice à la radicalisation.
Il faut parler aussi de TikTok dont l’algorithme est l’un des plus puissant.
L’algorithme de suggestions de vidéos de Tik Tok peut créer des tendances virales en quelques heures. Ainsi, Tik Tok influence des comportements dans la vie réelle, allant des défis de danse aux mouvements de protestation.
Ces cas concrets montrent que les algorithmes ont un impact profond et mesurable sur la société en influençant nos comportements, nos croyances, et même nos identités.
Nous parlons ici des algorithmes, mais il faut aussi prendre en compte que les avancées de l’intelligence artificielle, notamment dans le domaine des deep fake sont des technologiques qui viennent renforcer les menaces de manipulation de la perception de nos réalités.
Les défis éthiques et pratiques
Questions d’éthique
L’impact des algorithmes sur la société soulève une série de dilemmes éthiques.
L’un des principaux enjeux est la transparence : les utilisateurs ont souvent peu ou pas de visibilité sur la manière dont les algorithmes fonctionnent et sur les critères qui guident leurs décisions.
Cette opacité entraîne un manque de responsabilité criant lorsque les algorithmes perpétuent ou amplifient des biais.
Le respect de la vie privée est aussi un important défi à relever. Avec la capacité des algorithmes à collecter et analyser d’énormes volumes de données personnelles, il est impératif de s’interroger sur les limites de cette collecte et sur la sécurité des informations personnelles des utilisateurs. Car personne ne vous connaît mieux que les algorithmes.
Responsabilité des créateurs
Les concepteurs et les opérateurs de plateformes numériques portent une lourde responsabilité dans la gestion de l’impact de leurs algorithmes.
Il est nécessaire qu’ils adoptent des pratiques de conception éthique, incluant des tests rigoureux pour détecter et corriger les biais avant que ces algorithmes ne soient déployés à grande échelle.
De plus, ils doivent être transparents sur les mécanismes de leurs algorithmes pour permettre aux utilisateurs et aux régulateurs de comprendre comment les décisions sont prises.
Les développeurs doivent également envisager les conséquences à long terme de l’emploi des algorithmes, notamment leur impact sur la démocratie et sur la cohésion sociale.
Cela implique de réfléchir non seulement à ce que leurs algorithmes sont techniquement capables de faire, mais aussi à ce qu’ils devraient faire éthiquement, en tenant compte du bien-être collectif.
Vers une régulation plus efficace
Relever ces défis implique une régulation plus efficace des algorithmes.
Cela pourrait inclure des lois garantissant que les utilisateurs peuvent accéder à leurs données collectées, comprendre les raisons des décisions algorithmiques les concernant, et contester ces décisions si nécessaire.
Outre des mesures comme la transparence du code, le caractère open-source, il serait intéressant d’établir des standards internationaux pour la conception et le suivi des systèmes algorithmiques, pour s’assurer que ces technologies servent l’intérêt public à travers le monde.
Standards qui pourraient d’ailleurs être, pourquoi pas, définis par des personnes élues démocratiquement. Il y a du boulot pour en arriver là ! Et pas sûr que les Big Tech derrière ces algorithmes y trouvent leur intérêt.
Conclusion
Face à ces enjeux, nous devons mener une réflexion critique sur la manière dont ces outils numériques sont intégrés dans nos vies. Les défis qu’ils posent ne sont pas que des questions techniques, mais des impératifs moraux qui nécessitent des actions concertées de la part des développeurs, des utilisateurs, et des régulateurs.
La régulation des algorithmes doit évoluer pour garantir que ces technologies ne se contentent pas de servir uniquement des intérêts commerciaux, mais qu’elles contribuent positivement à la construction d’une société juste et ouverte.
En attendant, il est impératif d’éduquer les utilisateurs aux impacts des algorithmes sur leurs perception du monde. Notre futur en dépend : quel impact auront les algorithmes qui régissent les métavers sur notre perception ?
Dans un prochain article, nous étudierons en quoi personnifier les algorithmes pourrait être un début de solution.
