Cette femme a tout risqué pour dénoncer Facebook et ses pratiques de manipulations politiques

Avant d’être licenciée, Sophie Zhang était officiellement employée par Facebook en tant data scientist. Cependant, elle était obnubilée par une tâche qu’elle jugeait plus importante: trouver et supprimer les faux comptes et les “likes” qui étaient utilisés pour influencer les élections dans le monde entier.

En quittant l’entreprise, elle a rédigé un rapport acerbe contre son ancien employeur. Dans ce dernier, elle avait identifié des dizaines de pays, dont l’Inde, le Mexique, l’Afghanistan et la Corée du Sud, où ce type d’abus permettait à des politiciens de tromper le public et d’accéder au pouvoir. Elle a également révélé le peu de mesures prises par l’entreprise pour atténuer le problème, malgré ses efforts répétés pour le porter à l’attention de la direction.

En prévision de la rédaction de ce rapport, elle a refusé une indemnité de départ de près de 64.000 dollars qui aurait impliqué la signature d’un accord de confidentialité. Elle voulait conserver la liberté de critiquer l’entreprise.

En avril 2020, elle s’est donc présentée dans deux articles du Guardian avec son visage, son nom et des documents détaillés sur la manipulation politique qu’elle avait découverte et la négligence de Facebook à cet égard.

Son récit a fourni des preuves concrètes à l’appui de ce que les critiques disaient depuis longtemps à l’extérieur : Facebook facilite l’ingérence dans les élections et, à moins que cette activité ne nuise aux intérêts commerciaux de l’entreprise, celle-ci ne se soucie pas de régler le problème.

Dans une déclaration, Joe Osborne, un porte-parole de Facebook, a démenti avec véhémence ces affirmations. “Dans les innombrables interviews qu’elle a accordées à la presse depuis qu’elle a quitté Facebook, nous sommes fondamentalement en désaccord avec la façon dont Mme Zhang décrit nos priorités et nos efforts pour éradiquer les abus sur notre plateforme”, a-t-il déclaré. “Nous nous attaquons énergiquement aux abus dans le monde entier et disposons d’équipes spécialisées dans ce domaine. En conséquence, nous avons déjà démantelé plus de 150 réseaux. Cette problématique est une de nos priorités.”

En rendant l’affaire publique et en renonçant à l’anonymat, Zhang a pris le risque d’une action en justice de la part de l’entreprise, de nuire à ses futures perspectives de carrière, et peut-être même de subir des représailles de la part des politiciens qu’elle a exposés dans le processus. “Ce qu’elle a fait est très courageux”, déclare Julia Carrie Wong, la journaliste du Guardian qui a publié ses révélations.

Après six mois dans l’entreprise, Zhang a eu l’intuition que les hommes politiques pouvaient s’investir sur Facebook, de manière étrange, pour accroître leur influence et leur portée sur la plateforme. Il ne lui a pas fallu longtemps pour trouver des exemples au Brésil et en Inde, qui se préparaient tous deux à des élections générales.

En cherchant une activité scriptée, elle a également trouvé quelque chose de bien plus inquiétant. L’administrateur de la page Facebook du président hondurien, Juan Orlando Hernández, avait créé des centaines de pages avec de faux noms et de fausses photos de profil pour ressembler aux utilisateurs - et les utilisait pour inonder les publications du président de likes, de commentaires et de partages. (Facebook interdit aux utilisateurs de créer plusieurs profils, mais n’applique pas la même restriction aux pages, qui sont généralement destinées aux entreprises et aux personnalités publiques).

L’activité n’était pas considérée comme scriptée, mais l’effet était le même. Non seulement elle pouvait induire en erreur l’observateur occasionnel en lui faisant croire que M. Hernández était plus apprécié et populaire qu’il ne l’était, mais elle faisait également remonter ses messages dans le fil d’actualité des gens.

Mais lorsque Zhang a soulevé le problème, dit-elle, elle a reçu un accueil tiède. L’équipe chargée de l’intégrité des pages, qui gère les abus sur les pages Facebook, n’a pas voulu bloquer la fabrication massive de pages ressemblant à des utilisateurs. L’équipe chargée de l’intégrité du fil d’actualité, qui s’efforce d’améliorer la qualité de ce qui apparaît dans le fil d’actualité des utilisateurs, n’a pas voulu retirer les faux commentaires de l’algorithme de classement. “Tout le monde était d’accord pour dire que c’était terrible”, dit Zhang. “Personne n’arrivait à se mettre d’accord sur qui devait être responsable, ni même sur ce qu’il fallait faire”.

Après que Zhang ait fait pression pendant un an, le réseau de fausses pages a finalement été supprimé. Quelques mois plus tard, Facebook a créé une nouvelle “politique de comportement inauthentique” pour interdire les fausses pages se faisant passer pour des utilisateurs. Mais ce changement de politique n’a pas permis de résoudre un problème plus fondamental : personne n’était chargé de la faire appliquer.

Zhang a donc pris l’initiative elle-même. Lorsqu’elle n’était pas en train d’éliminer les likes vaniteux, elle passait au peigne fin des flux de données, à la recherche de l’utilisation de fausses pages, de faux comptes et d’autres formes d’activités fausses coordonnées sur les pages des politiciens. Elle a trouvé des cas dans des dizaines de pays, le plus flagrant étant l’Azerbaïdjan, où la technique des pages était utilisée pour harceler l’opposition.

Au bout de quelques années, ses efforts quasi vains ont entraînés un net déclin de sa santé. Elle souffrait déjà d’anxiété et de dépression, mais ces troubles se sont aggravés de manière significative et dangereuse. Lectrice vorace de l’actualité mondiale, elle ne pouvait plus se détacher de l’agitation politique qui régnait dans d’autres pays. La pression la pousse à s’éloigner de ses amis et de ses proches. Elle s’isole de plus en plus et rompt avec sa petite amie. Elle a augmenté sa dose d’anxiolytiques et d’antidépresseurs jusqu’à ce qu’elle soit multipliée par six.

C’est au début de son déclin physique et mental, à l’automne 2019, que Zhang a commencé à réfléchir à l’opportunité de se manifester. Elle voulait donner une chance aux systèmes officiels de Facebook de fonctionner. Mais elle s’inquiétait d’être plus ou moins la seule à vouloir se battre. “Et si je me faisais renverser par un bus?”, dit-elle. Elle avait besoin que quelqu’un d’autre ait accès aux mêmes informations.

Par coïncidence, elle a reçu un courriel d’un certain M. Wong, un journaliste de The Guardian. Elle a donc saisi sa chance et a accepté de le rencontrer pour une conversation confidentielle. Ce jour-là, elle dépose par précaution son téléphone et son ordinateur fournis par l’entreprise chez une ancienne colocataire, sachant que Facebook a la possibilité de la localiser. À son retour, elle avait l’air un peu soulagée, se souvient l’ancienne colocataire, Ness Io Kain : “On voyait qu’elle avait l’impression d’avoir accompli quelque chose.”

Pendant un moment, les choses ont semblé progresser chez Facebook. Elle a vu le changement de politique et le démantèlement du faux réseau du président hondurien comme un élan vers l’avant. Elle a été appelée à plusieurs reprises pour aider à gérer des situations d’urgence et a été félicitée pour son travail, dont on lui a dit qu’il était apprécié et important.

Mais malgré ses tentatives répétées de réclamer davantage de ressources, les dirigeants ont invoqué d’autres priorités. Ils ont également rejeté les suggestions de Zhang en faveur d’une solution plus durable, comme la suspension ou la pénalisation des politiciens récidivistes. Elle s’est retrouvée face à un afllux sans fin: les réseaux de manipulation qu’elle a démantelés sont rapidement revenus, souvent quelques heures ou quelques jours plus tard. “J’avais de plus en plus l’impression d’essayer de vider l’océan avec une passoire”, dit-elle.

Puis, en janvier 2020, le vent a tourné. Ses responsables lui ont dit d’arrêter son travail politique et de s’en tenir au travail qui lui était assigné. Si elle ne le faisait pas, ses services au sein de l’entreprise ne seraient plus nécessaires. Mais sans équipe désignée pour poursuivre son travail, Zhang a continué à le faire en secret.

Alors que la pression monte et que sa santé se dégrade, Zhang réalise qu’elle devra finalement partir. Elle a prévu de partir après les élections américaines, considérant qu’il s’agissait du dernier événement le plus important qu’elle devait gérer. Mais les dirigeants avaient d’autres plans. En août, elle a été informée qu’elle serait licenciée pour mauvais résultats.

Le dernier jour, quelques heures après avoir publié son rapport en interne, Facebook l’a supprimé (rétabli par la suite dans une version modifiée après la colère générale des employés). Quelques heures plus tard, un responsable des ressources humaines l’a appelée pour lui demander de supprimer également une copie protégée par un mot de passe qu’elle avait publiée sur son site web personnel. Elle a tenté de négocier : elle le ferait s’ils rétablissaient la version interne. Le lendemain, au lieu de cela, elle a reçu une notification de son serveur d’hébergement l’informant qu’il avait retiré l’intégralité de son site web à la suite d’une plainte de Facebook. Quelques jours plus tard, son domaine était également supprimé.

L’impact n’a finalement pas été à la hauteur de ses espérances. Plusieurs médias américains et étrangers ont relayés les informations, mais pour autant qu’elle le sache, elle n’a pas obtenu ce qu’elle espérait: un scandale de relations publiques suffisamment important pour que Facebook donne enfin la priorité au travail qu’elle a laissé derrière elle.

Facebook conteste une nouvelle fois cette caractérisation, affirmant que l’équipe chargée des faux profils a poursuivi le travail de Zhang. Mais cette dernière met en avant d’autres preuves: le réseau de fausses pages en Azerbaïdjan est toujours là. “Il est clair qu’ils n’ont pas eu de succès”, dit-elle.

Néanmoins, Zhang ne regrette pas sa décision de se manifester. “J’étais la seule à occuper ce poste de responsabilité depuis le début”, dit-elle, “et quelqu’un devait prendre ses responsabilités et faire le maximum pour protéger les gens.”

Facebook met son projet d’Instagram pour enfants sur pause