Comment l'unité secrète de Facebook a créé des armées de troll en Inde pour la propagande numérique afin d'influencer les élections (CGI News)

Comment l'unité secrète de Facebook a créé des armées de troll en Inde pour la propagande numérique afin d'influencer les élections
Article originel : How Facebook’s Secret Unit Created India’s Troll Armies For Digital Propaganda To Influence Elections
Par Shelley Kasli
GGI News

Traduction SLT

Quelques jours seulement après que GreatGameIndia ait révélé comment les entreprises étatsuniennes et japonaises pourraient pirater les élections indiennes, un récent article de Bloomberg a révélé comment une unité secrète de Facebook a aidé à créer des armées de trolls pour les gouvernements du monde entier, y compris l'Inde pour la propagande numérique pour influencer les élections. Sous le feu des projecteurs, Mark Zuckerberg, cofondateur de Facebook Inc., a dénoncé le rôle de plate-forme de propagande politique qu'on lui prêtait, affirmant que sa mission est au-dessus de la partialité.

Mais il s'avère que Facebook n'est pas un spectateur dans la politique mondiale. Ce qu'il n'a pas dit, c'est que son entreprise travaille activement avec les partis politiques et les dirigeants, y compris ceux qui utilisent la plate-forme pour étouffer l'opposition - parfois à l'aide d'une "armée de troll" qui répand la désinformation et les idéologies extrémistes.

L'initiative est dirigée par une équipe politique et gouvernementale mondiale peu connue de Facebook, dirigée par Katie Harbath, une ancienne stratège numérique républicaine qui a travaillé sur la campagne présidentielle 2008 du maire de New York, Rudy Giuliani, ainsi que sur les élections indiennes de 2014.

Depuis que Facebook a embauché Harbath pour diriger son unité secrète de gouvernement et de politique mondiale, trois ans plus tard, son équipe a parcouru le monde (y compris l'Inde pour aider ses clients politiques à utiliser les puissants outils numériques de l'entreprise pour créer des armées de trolls pour la propagande numérique).

En Inde (beaucoup d'autres pays aussi) les employés de l'unité sont devenus de facto des travailleurs de la campagne. Et une fois qu'un candidat est élu, l'entreprise continue dans certains cas à former des employés du gouvernement ou à fournir une assistance technique pour les flux en direct lors d'événements officiels de l'État.

Aux États-Unis, l'unité a intégré des employés à la campagne de Trump. En Inde, l'entreprise a aidé à développer la présence en ligne du Premier ministre Narendra Modi, qui a maintenant plus de fans Facebook que tout autre leader mondial.

Lors des réunions avec les campagnes politiques, les membres de l'équipe de Harbath côtoient des vendeurs de publicité Facebook qui contribuent à monétiser l'attention souvent virale suscitée par les élections et la politique. Ils enseignent aux politiciens et aux dirigeants comment créer une page de campagne et l'authentifier avec une coche bleue de vérification, comment utiliser au mieux la vidéo pour engager les spectateurs et comment cibler les publicités sur des blog de vote critiques. Une fois que ces candidats sont élus, leur relation avec Facebook peut contribuer à étendre la portée de l'entreprise sur le gouvernement de façon significative, par exemple en étant bien positionnée pour faire pression contre la réglementation.

Ce problème est exacerbé lorsque le moteur démocratique de Facebook est déployé de manière antidémocratique. Un rapport publié en novembre par Freedom House, un organisme étatsunien à but non lucratif qui défend les droits politiques et les droits de la personne, a révélé qu'un nombre croissant de pays "manipulent les médias sociaux pour miner la démocratie". L'un de ces aspects concerne le "troll patriotique", ou l'utilisation du harcèlement et de la propagande soutenus par le gouvernement pour contrôler le récit, faire taire les dissidents et consolider le pouvoir.

En 2007, Facebook a ouvert son premier bureau à Washington. L'élection présidentielle de l'année suivante a vu la montée en puissance du premier "Président Facebook" du monde, Barack Obama, qui, avec l'aide de la plate-forme, a pu atteindre des millions d'électeurs dans les semaines précédant l'élection. Le nombre d'utilisateurs de Facebook a bondi autour des soulèvements du printemps arabe au Moyen-Orient vers 2010 et 2011, démontrant ainsi le large pouvoir de la plateforme d'influencer la démocratie.

À l'époque où Facebook a nommé Harbath, l'ancien assistant de Giuliani, pour diriger sa politique mondiale et l'unité gouvernementale, les élections étaient en train de devenir des attractions sociales-médiatiques majeures. Facebook a commencé à s'intéresser aux points chauds électoraux partout dans le monde.

Facebook s'est ancré dans certains des mouvements politiques les plus controversés au monde tout en résistant à la transparence. Depuis 2011, il a demandé à la Federal Election Commission des États-Unis d'accorder des exemptions générales aux règles de divulgation de la publicité politique qui auraient pu l'aider à éviter la crise actuelle des dépenses publicitaires russes avant les élections de 2016.

Les relations de l'entreprise avec les gouvernements demeurent complexes. Facebook a été critiqué dans l'Union européenne, y compris pour la propagation de l'extrémisme islamique sur son réseau. L'entreprise vient de publier son rapport annuel sur la transparence, dans lequel elle explique qu'elle ne fournira des données sur les utilisateurs aux gouvernements que si la demande est juridiquement suffisante et qu'elle rejettera les demandes devant les tribunaux si elles ne sont pas justifiées.

Armées de Trolls Facebook en Inde

L'Inde est sans doute le marché le plus important de Facebook ces derniers temps, devançant les États-Unis en tant que premier marché de l'entreprise. Le nombre d'utilisateurs croît deux fois plus vite en Inde qu'aux États-Unis. Et cela ne compte même pas les 200 millions de personnes qui utilisent le service de messagerie WhatsApp de la société en Inde, plus que partout ailleurs dans le monde.

Au moment des élections en Inde en 2014, Facebook avait travaillé pendant des mois avec plusieurs campagnes électorales. Modi s'est fortement appuyé sur Facebook et WhatsApp pour recruter des bénévoles qui, à leur tour, ont diffusé son message sur les médias sociaux. Depuis son élection, les partisans de Modi sur Facebook sont passés à 43 millions, soit presque deux fois plus que Trump.

Dans les semaines qui ont suivi l'élection de Modi, Zuckerberg et Sheryl Sandberg, chef de l'exploitation, se sont rendues en Inde, alors qu'elle déployait un service Internet gratuit essentiel qui a été freiné par la suite en raison de protestations massives. Mme Harbath et son équipe se sont également rendues en Inde, offrant une série d'ateliers et de colloques qui ont permis de former plus de 6 000 fonctionnaires.

Au fur et à mesure que la portée des médias sociaux de Modi augmentait, ses partisans se tournaient de plus en plus vers Facebook et WhatsApp pour harceler les campagnes de ses rivaux politiques. L'Inde est devenue un foyer de fausses nouvelles, avec un canular cette année qui a circulé sur WhatsApp et qui a entraîné plusieurs morts. Le pays est également devenu un endroit de plus en plus dangereux pour les partis d'opposition et les journalistes.

Toutefois, ce n'est pas seulement Modi ou le parti Bharatiya Janata qui a utilisé les services de Facebook. L'entreprise affirme qu'elle offre les mêmes outils et services à tous les candidats et à tous les gouvernements, quelle que soit leur affiliation politique, et même aux groupes de la société civile qui peuvent avoir une voix moindre.

Ce qui est intéressant, c'est que Mark Zukerberg lui-même veut être président des Etats-Unis et qu'il a déjà employé successivement David Plouffe (conseiller de campagne chez Barack Obama en 2008) et Ken Mehlman (conseiller de campagne chez George Bush Jr. en 2004). Il emploie actuellement Amy Dudley (ancien conseiller du sénateur Tim Kaine), Ben LaBolt (ancien conseiller de presse de Barack Obama) et Joel Benenson (ancien conseiller de campagne de Clinton en 2016).

La manipulation émotionnelle de Facebook

Une étude de 2014 intitulée "Preuve expérimentale d'une contagion émotionnelle à grande échelle par les réseaux sociaux" a manipulé l'équilibre des messages positifs et négatifs vus par 689 000 utilisateurs de Facebook. L'article décrit en détail l'expérience qui se déroula du 11 au 18 janvier 2012, dans le but d'identifier les effets de contagion émotionnelle en modifiant la quantité de contenu émotionnel dans le fil d'information des utilisateurs ciblés. Les chercheurs ont conclu qu'ils avaient trouvé " certaines des premières preuves expérimentales à l'appui des affirmations controversées selon lesquelles les émotions peuvent se propager dans un réseau,[bien que] les effets des manipulations soient faibles ".

L'étude a été critiquée tant pour son éthique que pour ses méthodes et allégations. Au fur et à mesure que la controverse sur l'étude grandissait, Adam Kramer, auteur principal des deux études et membre de l'équipe de données Facebook, a défendu le travail dans une mise à jour de Facebook. Quelques jours plus tard, Sheryl Sandburg, directrice de l'exploitation de Facebook, a fait une déclaration lors d'un voyage en Inde. Lors d'une réunion des Chambres de commerce indiennes à New Delhi, elle a déclaré : "Cela faisait partie de la recherche en cours que les entreprises font pour tester différents produits, et c'était ce que c'était. C'était mal communiqué et nous nous en excusons. On n' a jamais voulu vous contrarier."

Quel était donc ce nouveau produit révolutionnaire pour lequel Facebook menait des expériences psychologiques sur la manipulation émotionnelle de ses utilisateurs ? Ces produits révolutionnaires constituent la propagande numérique via des armées de Troll qui répandent de fausses nouvelles comme un incendie de forêt en aidant ses clients lors des élections.

Peu de temps après, le 3 juillet 2014, USA Today a rapporté que l'Electronic Privacy Information Center (EPIC) avait déposé une plainte officielle auprès du Federal Trade alléguant que Facebook avait enfreint la loi lorsqu'il avait mené l'étude sur les émotions de ses utilisateurs à leur insu et sans leur consentement. Dans sa plainte, l'EPIC allègue que Facebook a trompé ses utilisateurs en menant secrètement une expérience psychologique sur leurs émotions : "Au moment de l'expérience, Facebook n'a pas déclaré dans sa politique d'utilisation que les données sur les utilisateurs seraient utilisées à des fins de recherche. Facebook n'a pas non plus informé les utilisateurs que leurs renseignements personnels seraient communiqués aux chercheurs." La plupart des cobayes pour ces expériences de manipulation émotionnelle étaient des Indiens.

La plupart d'entre nous ne réfléchissons pas beaucoup à ce que nous publions sur les médias sociaux, et beaucoup de ce que nous voyons sur les médias sociaux est assez inoffensif. Cependant, cela ne semble qu'à première vue. La vérité est que ce que nous publions en ligne a un potentiel effrayant. Selon des recherches récentes du Pacific Northwest National Laboratory et de l'Université de Washington, les choses que nous affichons sur les médias sociaux pourraient être utilisées par des logiciels pour prédire les événements futurs - peut-être même le prochain premier ministre de l'Inde.

Dans un article qui vient d'être publié sur Arxiv, l'équipe de chercheurs a découvert que les médias sociaux peuvent être utilisés pour "détecter et prédire des événements hors ligne". L'analyse de Twitter peut prédire avec précision les troubles civils, par exemple, parce que les gens utilisent certains hashtags pour discuter des questions en ligne avant que leur colère s'exprime dans le monde réel.

L'exemple le plus célèbre de ce phénomène est survenu au printemps arabe, lorsque des signes évidents de protestations et de troubles imminents ont été découverts sur les réseaux sociaux quelques jours avant que les gens ne descendent dans la rue.

L'inverse est également vrai. Signifiant que la colère peut également être fabriquée sur les médias sociaux et une fois qu'elle atteint un niveau optimal être ciblé sur les événements de la vie réelle dans les rues comme nous l'avons vu depuis au moins deux ans en Inde avec des cas de lynchages et ainsi de suite.

Fonctionnement de l'écosystème des fausses nouvelles en Inde

En Inde, une industrie massive des fausses nouvelles a vu le jour, exerçant une influence sur le discours politique traditionnel et a le potentiel de devenir un défi sécuritaire comme le Printemps arabe, si elle n'est pas maîtrisée. Alors que le débat sur le lynchage de masse en Inde fait rage, il faut comprendre que de tels incidents n'auraient pas eu un effet aussi rapide et massif si les jeunes n'avaient pas eu accès à Facebook, Twitter, YouTube et d'autres médias sociaux qui ont permis à l'industrie des fausses nouvelles d'organiser et de partager des vidéos et des informations inventées. Le lynchage depuis les dernières années est le résultat direct de l'industrie des fausses nouvelles qui s'étend des médias sociaux au monde réel.

Cela prend une toute nouvelle dimension maintenant qu'il a été révélé que Facebook & WhatsApp ont eux-même collaboré avec l'establishment en créant de tels "armées de trolls" pour la propagande numérique, aboutissant directement à la violence sur le sol indien. Il s'agit d'un cas classique de terrorisme. Le terrorisme est défini comme "l'utilisation systématique de la terreur ou de la violence par tout individu ou groupe pour atteindre des objectifs politiques". Dans le cas présent, ce terrorisme est perpétré par une société étrangère Facebook sur le sol indien, qui utilise la guerre de l'information numérique.

Qu'attendons-nous de plus pour réagir à un tel acte ?

Les fausses nouvelles ont été utilisées très efficacement lors des élections présidentielles étatsuniennes. Cela faisait partie de la campagne officielle elle-même, menée en collaboration avec des entreprises de technologie et on prétend également que même les Russes ont également dirigé leur propre réseau. La même méthode a également été utilisée pour façonner le débat sur le Brexit. Alors que nous écrivons cela, l'industrie des fausses nouvelles répand également ses tentacules en Inde. Beaucoup de sportifs, de célébrités, d'économistes et de politiciens en Inde ont déjà été victimes en diffusant de faux contenus. Il s'agit là d'une tendance dangereuse qui devrait être maîtrisée par nos services de renseignement afin d'éviter de futures catastrophes.

C'est comme ça que ça marche. De nombreux sites Web et portails, dont le niveau de légitimité et de financement varie, sont lancés. Des contenus d'information spécifiques sont générés pour différents groupes en fonction de leur région, idéologie, âge, religion, etc. qui sont mélangés à une forte dose de pornographie douce pour se fondre lentement dans leur objectif. Ces faux contenus sont ensuite colportés dans les médias sociaux et des groupes spécifiques ciblés par le biais d'outils d'analyse développés par des sociétés de technologie. Comme une grande partie de ce contenu factice est généré lentement, il commence à se répandre et, quelque part sur le web, il est pris en charge par toute personne d'influence insoupçonnée - les célébrités, les politiciens et même les journalistes eux-mêmes. Ce qui se passe après, c'est de la pure folie.

Que ce soit par choix ou par ignorance, même les médias grand public commencent à colporter cette absurdité, en consacrant la totalité de leurs émissions d'information aux heures de grande écoute à l'analyse des fausses nouvelles, à savoir qui a dit quoi et pourquoi et blah blah... au lieu d'identifier où le faux contenu a été généré en premier lieu et de le faire taire. En raison de la nature et du sensationnalisme du contenu généré et aussi parce que son écho par les personnes d'influence avec le temps, cette fausse vision du monde a le potentiel de se répandre dans le monde réel avec des pertes physiques, comme nous l'avons vu dans tant de cas de lynchage. S'il n'est pas surveillé, il pourrait capturer et prendre le contrôle de l'ensemble du discours national. Nous atteindrons un point où il sera très difficile de suivre ce qui est fait ou fiction et la société entière serait radicalisée dans différents camps opposés tous basés sur des mensonges.

Facebook et élections indiennes

Vers le moment de l'élection indienne en mai 2014, une nouvelle sérieuse a commencé à se répandre : "Google a-t-il influencé le résultat de l'élection indienne ?" Sous le titre, il y avait un iceberg - Si Facebook peut modifier nos émotions et nous faire voter, que peut-il faire d'autre?

Étonnamment, la Commission électorale de l'Inde elle-même s'est associée à Facebook pour l'inscription des électeurs pendant le processus électoral. Dr Nasim Zaidi, commissaire électoral en chef de la Commission électorale de l'Inde, a déclaré : "Je suis heureux d'annoncer que la Commission électorale indienne va lancer une campagne spéciale visant à enrôler les électeurs laissés pour compte, en mettant particulièrement l'accent sur les nouveaux électeurs. Il s'agit là d'une étape vers la réalisation de la devise des ICE, à savoir "AUCUN ÉLECTEUR NE DOIT ÊTRE LAISSE POUR COMPTE". Dans le cadre de cette campagne, Facebook lancera un rappel d'inscription des électeurs dans plusieurs langues indiennes à tous les utilisateurs de Facebook en Inde. J'exhorte tous les citoyens admissibles à s'inscrire et à VOTER, c'est à dire à "Reconnaitre votre droit et accomplir votre devoir. Je suis sûr que Facebook renforcera la campagne d'enrôlement de la Commission électorale indienne et encouragera les futurs électeurs à participer au processus électoral et à devenir des citoyens responsables de l'Inde".

Les 17 agences de renseignement étastuniennes ont exprimé de sérieuses inquiétudes au sujet de l'impact de cette fausse industrie des nouvelles sur leur processus électoral et leur société. D'après une étude menée par le Pew Research Center, une majorité d'Etatsuniens (88%) croient que des nouvelles complètement inventées ont rendu les Etatsuniens confus même sur des faits de base. En Inde, nous nous dirigeons vers le pire scénario. Pourquoi ? Car, contrairement à l'Inde, le gouvernement étatsunien et la communauté du renseignement ont publiquement abordé cette question et s'emploient à résoudre cette menace. Le gouvernement indien va-t-il s'attaquer à cette ingérence de Facebook dans les affaires intérieures de l'Inde ?

Comités après comités, les audiences du Sénat sont convoquées pour faire toute la lumière sur cette question et de nouvelles unités sont créées pour contrer efficacement cette menace pour leur société. Alors que Facebook fait l'objet d'une enquête pour ingérence dans les élections présidentielles étatsuniennes, on n'a pas accordé beaucoup d'attention à la façon dont l'unité secrète de Facebook a influencé les élections en Inde. Face à ces révélations, l'ingérence de Facebook dans les élections en Inde devrait faire l'objet d'une enquête approfondie. Bien sûr, pour ce faire, le gouvernement devrait d'abord reconnaître l'existence de cette industrie de fausses nouvelles afin d'agir contre elle.

En plus de Facebook, American Microchip Inc et Japanese Renesas  contracté par la Commission électorale pour la fusion du code secret EVM devrait également faire l'objet d'une enquête pour ingérence dans les élections en Inde et tous ceux qui ont collaboré avec eux. Ce sera une grave erreur de prendre à la légère cette menace d'ingérence de sociétés étrangères dans les élections en Inde.