Canulars et viralité: la grippe du canard

(source: Hamarkada)

Andi Arief, conseiller en gestion des désastres naturels du président de l’Indonésie, a tweeté à ses « followers », en novembre 2010, la nouvelle selon laquelle un tsunami allait s’abattre sur le pays. Son compte avait été piraté et les usurpateurs diffusaient de fausses alertes (source: Graham Cluley).

En janvier 2011, les usagers de Twitter ont déclenché une alerte majeure à la sécurité à Londres en faisant circuler la nouvelle selon laquelle un homme armé tirait des coups de feu sur Oxford Street. La nouvelle était fausse : il s’agissait d’une manœuvre policière qui a été mal interprétée (sources : Mark Prigg et Justin Davenport; Andrew Hough et Kerry Cunningham).

À la même époque, le membre du Congrès américain Gabrielle Giffords a reçu une balle dans la tête à Tucson (Arizona). La nouvelle de sa mort circule comme une traînée de poudre sur Twitter. Elle est tweetée par l’agence Reuter et retweetée par NPR News et BBC News. La dame a été opérée et se porte bien aujourd’hui, merci  (source : Steve Safran et AFP).

Ces fausses nouvelles (mentionnées dans un diaporama de Greg Marra) ont circulé rapidement. Elles ont été invalidées peu après leur publication. Mais dans le délai, des membres de la twittersphère les ont vécues comme réelles.

Selon Serge Proulx, la réalité virtuelle transforme le rapport à la vérité. En effet, les objets qu’elle met en scène transcendent la simple représentation et deviennent vrais, dans la mesure où ils sont expérimentés par les sujets (source : Communautés virtuelles). Les usagers illusionnés de Twitter ont expérimenté la panique, l’angoisse ou l’affliction liée au décès d’une personnalité publique. Cette expérience est irréversible, qu’elle soit fondée sur une information vraie ou fausse.   

La circulation de fausses nouvelles n’est pas un phénomène récent (voir les exemples extrêmes que sont l’Opération Fortitude et les Protocoles des Sages de Sion), mais ils prennent une toute autre dimension grâce aux outils du web social et à la propagation virale.

(source: Influenza-H5N1.org)

Dans un premier temps, la propagation virale accélère la circulation des canulars, de sorte qu’un nombre important de personnes auront été bernées avant que ceux-ci aient été invalidés. En contrepartie, l’invalidation du canular risque de ne pas rejoindre l’ensemble des personnes illusionnées. D’abord parce que la viralité ne se commande pas. Ensuite, parce que la fausse nouvelle peut s’avérer plus attrayante et sensationnaliste que sa démystification, ce qui en fait une moins bonne candidate à une propagation virale (à titre d’exemple, dans un quotidien, une nouvelle inexacte peut faire la une et l’erratum, se trouver en page 65, juste après le courrier du cœur). Enfin, parce que les moteurs de recherche conserveront tout autant les traces du canular que les démonstrations de son imposture et que les secondes ne seront pas nécessairement mieux référencées que les premières, et on sait ce qu’a de crucial le référencement pour la visibilité.

(source: OWNI)

Dans un deuxième temps, si la force du nombre favorise une invalidation rapide des fausses nouvelles grâce aux effets de la vigilance participative, la démultiplication des sources indépendantes d’informateurs sur les blogues et les réseaux sociaux peut conduire, à l’inverse, à un phénomène de crédibilisation tautologique de l’information qui augmente la possibilité qu’un canular passe pour une nouvelle authentique. Dans Critique de la communication, Lucien Sfez décrit la tautologie par cette formule : « je répète donc je prouve ». Ainsi, une nouvelle est lancée par un usager X qui la transmet à son graphe social. Chacun des éléments du graphe transmet la nouvelle à son propre graphe, puis la visibilité de celle-ci grossit au point d’attirer l’attention d’un média institué, source de confiance. Tous les autres médias qui relaieront ensuite la nouvelle croiront alors avoir une nouvelle crédible entre les mains (sur la différence entre confiance et crédibilité : INF 6107).     

Quelle serait la principale conséquence de la multiplication des canulars dans le cadre du web social? L’expérimentation d’une succession de réalités alternatives (sur l'expérimentation de l'actualité, voir Jean-Louis Weissberg), de réalités en puissance mais non physiquement advenus, donc, de réalités virtuelles (source : Proulx et Latzko-Toth). Et si l’on en croit les propositions des tenants de la construction de la réalité sociale en communication, les fausses nouvelles pourraient s’avérer aussi réelles que les nouvelles que nous considérons comme vraies (source : Danielle Charron, p. 39-42).

Quelques conseils pour ne communiquer qu'avec des êtres humains certifiés "bio" (Mon ami est un robot, partie II)

Vous pourriez en fréquenter sur les réseaux sociaux sans le savoir. Vous les connaissez comme les amis de vos amis, ils s’expriment comme des humains, mais ce ne sont pas des humains : on les appelle des robots sociaux (suite du billet précédent, intitulé Mon ami est un robot).

Comment convient-il d’agir devant la nouvelle réalité des robots sociaux? Voici trois conseils que vous pourriez suivre: 

      ·         Premier conseil : étendez vos communications lorsqu'une personne vous paraît suspecte

(source de l'image: Wiki Noticia)

On ne peut apprendre l’existence de ces robots sans penser au défunt Alan Turing, l’un des pionniers de la science informatique et l’inventeur du test de Turing: si un humain se voit incapable de différencier une communication avec un ordinateur d’une conversation avec un autre humain, alors l’ordinateur passe le test avec succès.  

Dans cette logique, afin de savoir si la personne avec qui l’on communique est humaine ou artificielle, il convient, selon Tim Hwang, chercheur associé au Berkman Center for Internets and Society, d’avoir une discussion plus longue avec elle. En effet, la simulation d’une conversation humaine ne passerait le test sur Twitter que parce que la plateforme repose sur de courts messages, lors de courtes interactions.

·         Second conseil : n’acceptez pas n’importe qui dans vos réseaux sociaux

C’est une évidence mainte fois répétée et c’est une solution qui vous préservera également des harceleurs, des trolls et de quiconque a intérêt à accumuler des données personnelles sur nous (les fraudeurs et les entreprises, pour commencer). Cela peut inclure également les amis de vos amis.

(source: Les pieds sur terre)

Pour tester la capacité de réseautage de Facebook, j’ai constitué, en 2010, un réseau de 1500 amis en l'espace de trois semaines, sans connaître quiconque. Les premières sollicitations d’amitié ont été peu fructueuses, mais à mesure que des usagers m’acceptaient, il me devenait facile d’ajouter de nouveaux amis tirés de leur réseau social, puisque j’apparaissais désormais comme l’ami d’un ami. Après deux semaines, je ne sollicitais plus personne : ce sont les amis de mes nouveaux « amis » qui m’invitaient. Ce réseau, je l’ai construit sans mentir ni même communiquer avec qui que ce soit, parce qu’à l’exception d’une dizaine d’usagers, personne ne m’a demandé qui j’étais et d’ où nous nous connaissions. Imaginez, maintenant, la facilité avec laquelle un robot peut s’immiscer dans votre graphe social, lui qui déborde de temps libre…

     ·         Troisième conseil : sachez à qui vous avez affaire

(source de l’image: Socialbot Central)

La meilleure solution, pour détecter une communication artificielle, reste encore de connaître les caractéristiques de son émetteur.

 

Les robots utilisés dans le cadre du projet Realboy, sur Twitter, communiquaient en dupliquant des tweets de vrais usagers, de manière aléatoire. Ainsi, ils n'étaient pas à l'abri d'émettre des énoncés hors propos, lesquels devenaient de plus en plus probables au fur et à mesure que s'étendaient les échanges avec un même interlocuteur (ce qui nous ramène au premier conseil). Il existe cependant d'autres types de robots sociaux que ces duplicateurs.   

 

En effectuant une recherche sur le web pour mieux connaître le phénomène des robots sociaux, j’ai trouvé le site Socialbot Central, consacré à un robot social développé par Dario Nardi. Celui-ci n’est pas destiné à fabriquer de faux profils sur les plateformes sociales, mais sert de compagnon dans les jeux virtuels ou peut être couplé à un système robotique physique.

Le robot de Nardi peut initier des conversations dans le but d’accumuler des données qu’il pourra se remémorer et réutiliser dans des conversations futures, faire des inférences, catégoriser l’information et puiser dans une encyclopédie de connaissances communes. Ce robot fonctionne à partir de comportements ("behaviours"), c’est-à-dire de courtes séries d’instructions destinées à l’effectuation de tâches précises qui se combinent et s’actualisent lorsqu’il reçoit des données utilisables de la part de la personne avec qui il est en interaction et qui orientent son identité. Ces comportements peuvent être cachés à son interlocuteur, afin qu’il puisse saisir au cours de la conversation un « pattern » dans ses valeurs personnelles.   

Il est possible de télécharger une version limitée de ce robot ici. Quelques secondes passées en sa compagnie vous permettront de comprendre ses limites, ses tics et ses tactiques. Mais, ce faisant,  il ne faut pas oublier que :

1) cette version du logiciel est simplifiée, donc moins performante que la version intégrale;

2) le logiciel date de 2006 et que, depuis, des progrès ont été effectués dans le domaine de l’intelligence artificielle;

3) les robots sociaux du futur ne pourront que gagner en intelligence et rendre plus difficile la détection de leur artificialité;

4) vous savez que vous communiquez avec un robot, ce qui ne sera pas le cas dans le contexte des plateformes sociales, lorsque vous ne serez pas sur vos gardes;

En conclusion, j’attirerai votre attention sur le fait suivant : les robots sociaux tel que celui que j'au testé sont programmés de telle sorte que plus vous les informez sur vous-même et plus ils vous apparaîtront humains. Plus crédible sera leur simulation.

Ceci dit, il s’agit d’un phénomène encore marginal qui pourrait être enrayé par les développeurs des plateformes sociales avant qu'il ne se généralise que vous ne rentriez en communication avec eux. Néanmoins, certains des conseils promulgués précédemment demeurent valables pour vous prémunir contre les êtres humains certifiés « bio » malintentionnés que vous ne gagneriez pas à connaître.  

Mon ami est un robot

(source de l’image : Global Nerdy)

Vous pourriez en fréquenter sur les réseaux sociaux sans le savoir. Vous les connaissez comme les amis de vos amis. Ils s’expriment comme des humains, mais ce ne sont pas des humains : on les appelle des robots sociaux.

Techopedia définit les robots sociaux (en anglais : « socialbots » ou « social networking bots ») comme des logiciels automatisés qui contrôlent un profil sur une plateforme sociale et qui se font passer pour des humains. L’étudiant en ingénierie informatique Greg Marra les distingue des « spambots », car là où ces derniers diffusent simultanément une multitude de messages contenant des liens à des internautes sélectionnés au hasard, les robots sociaux communiquent un message à la fois, avec des personnes dont ils partagent le même réseau social (source: Greg Marra).

Dans un billet publié le 2 novembre sur Radio-Canada.ca, le blogueur Vincent Grou décrit comment les chercheurs britanno-colombiens Yazan Boshmaf, Ildar Muslukhov, Konstantin Beznosov et Matei Ripeanu sont parvenus à insérer des robots sociaux dans le graphe social d’usagers de Facebook (l'étude intégrale est disponible ici). Pendant huit semaines, 102 robots, sur 102 profils Facebook, ont invité 8 570 usagers à devenir leurs amis. 3 055 d’entre eux ont accepté et ont ouvert la porte à un réseau de 1 085 785 personnes. Les « bots » ont ainsi recueilli 46 500 adresses électroniques, 14 500 adresses physiques d'usagers (source: Vincent Grou). En outre, ils ont accumulé de l'information sur leur sexe, leur date et lieu de naissance, leur lieu de résidence et de travail, les écoles qu'ils ont fréquentées, leur numéro de téléphone, les identifiants de comptes de messagerie instantanée et leur situation familiale. Cela a été rendu possible grâce aux failles dans la sécurité de Facebook, qui n'a détecté que 20% des faux profils grâce à la vigilance de ses membres (source: Jean Elyan et IDG NS).

Facebook n’est pas la seule plateforme sociale qui recèle des robots sociaux parmi ses membres. Tweeter également. Le blogueur de CBC News Dan Misener a consacré un billet sur le sujet le 29 mars dernier. Il y mentionne notamment le fait que des robots sociaux pourraient influencer l’opinion publique, mais nous reviendrons sur le sujet dans un billet ultérieur.     

Selon Misener, les robots peuvent non seulement tweeter, mais également répondre aux tweets d’autres usagers ou se les approprier et re-tweeter les messages populaires. Pour illustrer le phénomène, il relate l’histoire de @trackgirl. @trackgirl est un robot social élaboré par Zack Coburn et Greg Marra, dans le cadre d’un projet d’architecture informatique appelé Realboy (que vous pouvez consulter ici). L’objectif était de l’intégrer dans un réseau social d’amateurs de course à pied sur Tweeter. Pour ce faire, elle s’exprimait à propos de son entraînement pour un marathon, jusqu’au jour où son projet (fictif)  a été compromis par un accident au genou. Non seulement @trackgirl s’est taillée une place auprès des amateurs de course, qui sont devenus ses « followers », mais elle a également développé avec eux une connexion émotionnelle.

Communiquer avec un robot à notre insu peut être, après dévoilement de la supercherie, quelque peu perturbant pour qui s’est laissé prendre. Mais le danger ne réside pas là. Le danger réel, c’est de laisser entrer dans son graphe social ces robots sociaux, des logiciels qui sont conçus pour accumuler des données personnelles et qui pourraient potentiellement nourrir la fraude, l’usurpation d’identité et les activités des entreprises qui œuvrent dans le commerce de données personnelles (dans ce domaine, Facebook n’est pas innocent, si l’on se rapporte au billet suivant, de Frédéric Cavazza).