MaïtanéConcrètement, qu’a-t-il fait ? On peut se concentrer sur trois aspects clefs : le timing des notifications d’une part, le scroll infini et son effet « machine à sous » d’autre part, et enfin la volonté de provoquer des « school blasts » afin de maximiser l’usage pendant les cours.
Les algorithmes de Meta retardent volontairement les notifications afin de rendre leur arrivée plus difficile à prévoir et donc de maximiser leur impact sur le cerveau
6
. Imaginons une adolescente qui s’appellerait Elie et qui posterait une photo sur Instagram. Elie recevrait des likes sur cette photo à un rythme régulier d’environ un toutes les 5 minutes. L’algorithme d’Instagram ne va pas lui envoyer de notification toutes les 5, 10 ou 15 minutes car ce rythme régulier faciliterait la prédiction de l’arrivée future de cette récompense qui n’aurait alors plus d’effet sur ses neurones dopaminergiques. L’algorithme va donc envoyer une notification au bout de 5 minutes, puis au bout d’une heure, puis au bout de 27 minutes, etc…
Le cerveau comprend alors qu’une récompense peut arriver à tout moment, sans qu’il soit possible de prévoir exactement quand. C’est précisément cette incertitude qui maintient en éveil le circuit de la récompense et renforce la réponse : une immense sécrétion de dopamine.
Meta n’a pas inventé le scroll infini, (…) ni le pull-to-refresh, cette mécanique de rafraîchissement en « swipant » vers le bas (…). L’entreprise de Marck Zuckerberg a en revanche adopté et optimisé ces technologies pour renforcer leur effet sur le circuit de la récompense neurologique.
D’une part, ils ont ajouté une flèche circulaire qui tourne pendant le rafraîchissement du flux même lorsque le réseau est excellent et qu’il n’y a aucun temps de chargement afin d’imiter la rotation d’une machine à sous qui est essentielle pour mobiliser les neurones dopaminergiques. En effet, la sécrétion de dopamine est maximale lorsque cette roue tourne et que le cerveau anticipe une potentielle récompense mais sans avoir la certitude qu’elle arrivera. Cette roue qui tourne pendant que le flux se rafraîchit est ainsi ajoutée et prolongée artificiellement quel que soit l’état du réseau dans le seul but de mobiliser les neurones dopaminergiques.
Enfin, on peut parler de la poursuite agressive d’une utilisation plus intensive des réseaux sociaux par les adolescents pendant leurs heures de cours. En 2017, Mark Zuckerberg se montre on ne peut plus clair : « notre objectif clef pour 2017 est que les adolescents passent un maximum de temps sur nos plateformes. »
8
C’est ainsi que les équipes de Meta se sont mises à concevoir ce qu’elles ont appelé les « school blasts » : des vagues de notifications envoyées aux jeunes dont les données de localisation indiquent qu’ils se trouvent à l’intérieur d’un établissement scolaire afin de jouer sur la pression des pairs et la « peur de passer à côté de quelque chose » pour provoquer une utilisation groupée des réseaux sociaux au milieu des heures de cours. Un responsable de Meta va même jusqu’à écrire dans un e-mail interne : « Nous devons optimiser notre design pour que chaque jeune ne puisse plus passer un cours de chimie sans jeter un coup d’œil à son téléphone. »
Le second aspect de la prédation passive de Meta concerne la propagation de fake news, de la désinformation, et des discours de haine. Les propres équipes de chercheurs de Meta ont suggéré divers mécanismes permettant de lutter contre ce phénomène, regroupés sous le terme « frictionner la viralité ».
L’idée est de ralentir la propagation virale de contenu car celui-ci contient une surreprésentation des fake news et du contenu haineux. Par exemple, en limitant le nombre de fois qu’un contenu peut être partagé ou en requérant que l’utilisateur commente avant de repartager. Même devant une étude interne montrant que ces mécanismes pouvaient significativement réduire la proportion de fake news, Mark Zuckerberg s’est personnellement opposé à toute forme de friction qui réduirait l’engagement et ferait courir le risque de voir ses usagers partir chez la concurrence
10
.
On notera ici que les équipes de Meta ont interviewé des politiques européens qui leur ont expressément avoué se sentir obligés de poster du contenu toxique, voire haineux, pour pouvoir bénéficier d’un minimum de visibilité. Certains ont expressément demandé à Meta de modifier ses algorithmes, notamment pour réduire la mise en avant des contenus générant des réactions de colère afin de ne plus avoir à produire un discours haineux.