Interview

Les dérives de certains algorithmes décryptées par Aurélie Jean

Publié le 14/10/2021

Aurélie Jean, docteure en science numérique et entrepreneure, vient de sortir son nouveau livre, « Les algorithmes font-ils la loi ? ». Elle répond aux questions du Hub de La Poste.

Aurélie Jean (photo copyright Frédéric Monceau)

Comment fonctionnent les algorithmes sur les réseaux sociaux ?

Aurélie Jean : Il existe différents types d’algorithmes sur les réseaux sociaux. Il y a par exemple des algorithmes de suggestion qui vous proposent des contenus à lire, à regarder ou à écouter. Ces algorithmes sont par exemple des algorithmes dits de clustering (ou catégorisation) qui classent les utilisateurs en fonction de leurs comportements sur la plateforme. Par exemple, sur Twitter, ces comportements sont le type de posts que vous aimez, que vous partagez ou encore le contenu sémantique de vos propres posts et de vos commentaires. Ces algorithmes classent également les utilisateurs en fonction du profil des comptes qui les suivent et de ceux qu’ils suivent. Chaque classe regroupe des utilisateurs qui se ressemblent. L’idée est ensuite de vous suggérer des contenus que des utilisateurs de votre classe/catégorie ont aimés, avec la prédiction en retour qu’ils vous plairont.

Quelles dérives entraîne l’utilisation d’algorithmes par les opérateurs de réseaux sociaux ?

Les déclarations de Frances Haugen résument à elles seules le sujet [Cette lanceuse d’alerte, ancienne salariée de Facebook, affirme notamment que le réseau social a délibérément caché des recherches sur son impact négatif sur la santé mentale des adolescentes, lié aux algorithmes - NDLR]. Les algorithmes des réseaux sociaux sont construits pour satisfaire un modèle de revenus basé sur la consommation et le partage de contenus sur ces réseaux. Cela étant dit, les algorithmes de suggestion de contenus vont mettre en avant des contenus qui se partagent vite et beaucoup, comme des contenus polémiques, complotistes, voire haineux. Ils peuvent également enfermer les utilisateurs dans des bulles d’observation et d’opinion par une catégorisation algorithmique rigide. Là encore, cela va dans le sens du modèle économique de ces plateformes. Il est important d’encadrer le développement, le test et l’usage de ces algorithmiques pour protéger le débat, les libertés individuelles et la démocratie.

Sait-on vraiment ce que produisent les algorithmes ?

C’est difficile à dire car les propriétaires de ces réseaux donnent peu de détails sur leurs algorithmes. Cela étant dit, on peut expliquer un minimum comment les algorithmes fonctionnent pour permettre aux utilisateurs de fournir du feedback constructif pour l’entreprise propriétaire du réseau. Le plus important est de dire sur quels types de data ces algorithmes fonctionnent. Dire cela ne met pas en évidence les secrets techniques de l’entreprise et implique au contraire une posture responsable de l’entreprise en question.

Sur la critique concernant l’enfermement dans des bulles d’opinion, en quoi les algorithmes sur les réseaux sociaux changent-ils la donne ? Avant les réseaux sociaux, les individus pouvaient déjà être enfermés dans les croyances selon les journaux qu’ils lisaient, les personnes de leur milieu qu’ils fréquentaient…

Les bulles ont toujours existé car nous tendons à nous entourer de gens comme nous, parfois sans le réaliser. Cela étant dit, les réseaux sociaux décuplent ces effets par leur fonctionnement plus rapide et intense, mais aussi par le nombre de gens impliqués dans une bulle, et leur intangibilité. Les algorithmes peuvent, s’ils sont mal développés et utilisés, être des déclencheurs, voire des accélérateurs, de l’effet bulle et de ses conséquences, qui incluent l’adhésion au complotisme ou la propagation de fausses nouvelles.

Est-il aujourd’hui possible de se passer d’algorithmes sur les réseaux sociaux ?

Il est difficile d’imaginer un réseau social sans algorithme, car cela ne fonctionnerait pas bien. Cela étant dit, il faut des règles sur les pratiques de développement, de test et d’usage de ces algorithmes, qui permettraient d’assurer que les menaces envers les utilisateurs soient quasi-inexistantes. La question n’est pas « Pour ou contre les algorithmes ? » mais plutôt « Comment bien les concevoir ? ».

Que peut faire un individu pour éviter les dérives des algorithmes sur les réseaux sociaux ?

En tant qu’individu, il faut comprendre comment ces outils fonctionnent afin de se positionner différemment face aux géants technologiques. Il faut les défier, choisir d’utiliser une technologie plutôt qu’une autre, ou encore se poser les bonnes questions. Les efforts doivent venir de tous les acteurs : citoyens, États, concepteurs et acteurs technologiques.

Que pourraient faire les gouvernements ?

Construire des régulations pertinentes qui protègent les utilisateurs tout en encourageant l’innovation. Ce sera le défi des deux prochaines années pour l’Europe qui réfléchit sérieusement à cela aujourd’hui.