La première étape pour régler un problème est d’abord de reconnaître qu’il y en a un. Et nous en avons un gros sur les bras avec ces applications sur nos appareils qui scrutent et manipulent nos comportements en ligne, dans le seul but de faire du profit. Car c’est le consensus minimal entre citoyens qui est en jeu dans nos sociétés, d’après le documentaire The Social Dilemma (VF : Derrière nos écrans de fumée) qui sort ce mercredi sur Netflix.

Publié le 9 sept. 2020
Chantal Guy
Chantal Guy La Presse

De plus en plus de voix s’élèvent contre ce que l’on appelle le capitalisme de surveillance, et elles sont nombreuses à provenir d’anciens de la Silicon Valley qui ont contribué à mettre en place les fonctionnements de Google, Facebook, Twitter, Instagram, Pinterest et YouTube. On les retrouve pratiquement tous, comme une fronde, dans le documentaire The Social Dilemma.

PHOTO FOURNIE PAR NETFLIX

Une image tirée du documentaire The Social Dilemma

Le documentariste Jeff Orlowski (qui a réalisé Chasing Ice et Chasing Coral) a dit en entrevue au Financial Times qu’il espère que son film sera un peu pour les réseaux sociaux ce qu’a été An Inconvenient Truth d’Al Gore pour le réchauffement climatique. Parce que ceux-ci seraient à l’origine, selon lui, du « changement climatique de la culture ». C’est-à-dire de la polarisation, de la radicalisation, de l’indignation en permanence et du culte de la personnalité.

On revient à cette idée que si vous ne payez pas pour le produit, c’est que vous êtes le produit ; le temps et les informations que vous donnez gratuitement aux géants de la techno font leur fortune, et vous n’êtes payés qu’en petites doses de dopamine — c’est le créateur du bouton « J’aime » qui le confirme dans le documentaire —, notre dope à tous. On nous dit en gros que ces applications ont été développées à partir de nos faiblesses.

Comme le titre en anglais l’indique, c’est un dilemme, car nous reconnaissons les avantages que nous ont apportés ces technologies, du point de vue social justement, lorsque nous pouvons être en contact avec nos proches peu importe où nous sommes sur la planète. Ça n’a jamais été plus vrai qu’en temps de pandémie. Mais le côté sombre est en train de prendre le dessus, à leur avis. « Regardez autour de vous, on dirait que tout le monde est en train de devenir fou », note Tristan Harris, cofondateur du Center for Humane Technology, qui a autrefois travaillé chez Google, et l’intervenant principal de ce documentaire.

J’ai grandi dans le monde pré-internet. Avec cette dernière occasion de pouvoir constater ce que cette technologie a changé dans ma vie, au contraire de la génération qui est née avec. Disons que je sais quand ça ne me fait pas du bien, mais que j’aurais de la misère à m’en passer. On apprend dans The Social Dilemma des choses plus qu’inquiétantes. Depuis 2011, la détresse psychologique chez les préadolescents et les adolescents n’aurait pas cessé de grimper. Anxiété, dépression, suicide, tous les indicateurs sont à la hausse. On pointe bien sûr vers les réseaux sociaux, comme autrefois on s’est inquiété que la télévision puisse créer une génération d’« idiovisuels ».

Au début, ils ont vraiment pensé qu’ils œuvraient pour le bien de l’humanité. Parmi eux, Tim Kendall, qui a travaillé chez Facebook et qui a été président de Pinterest, Roger McNamee, l’un des premiers investisseurs de Facebook, Sandy Parakilas, ancien directeur des opérations chez Facebook et qui a travaillé aussi chez Uber, ou Chamath Palihapitiya, qui a été responsable de la croissance chez Facebook. Aujourd’hui, ils sont tous inquiets, autant que des spécialistes comme Shoshana Zuboff, professeure à la Harvard Business School, dont le livre L’âge du capitalisme de surveillance, une somme de 700 pages, va paraître en français cet automne chez Zulma.

Comment ne pas être inquiet lorsque les fausses nouvelles ont une incidence dans le réel, lorsqu’elles poussent des gens à harceler des pizzerias (à cause du #pizzagate), à croire que la Terre est plate, lorsqu’elles brisent des familles dans des engueulades ?

Il ne sert à rien de désigner « l’autre camp » comme un ramassis de gens stupides, parce que de l’autre côté, ils ne voient aussi qu’un ramassis de gens stupides.

On explique dans le film que personne ne reçoit les mêmes informations, selon les zones où vous habitez, selon vos intérêts enregistrés dans les algorithmes. Quand vous « faites vos recherches », ce sont plutôt vos recherches qui vous trouvent et vous suggèrent ce qui va valider votre point de vue. Le seul but étant de vous garder le plus longtemps possible dans l’application. « Chaque personne s’informe avec des faits différents, explique Rashida Richardson, professeure à la NYU School of Law. Lorsque ce phénomène se produit à grande échelle, il devient impossible de prendre en compte, voire de lire une information qui n’est pas en accord avec votre vision du monde. Ça veut dire qu’on n’est désormais plus des individus objectifs. »

Selon une étude du MIT, une fausse nouvelle se propage six fois plus vite qu’une vraie sur Twitter. Les vidéos où l’on affirme que la Terre est plate ont été recommandées sur YouTube des millions de fois. Ça finit par avoir une influence. « On a créé un système qui favorise clairement les fausses informations, estime Sandy Parakilas. Parce que les fausses informations génèrent plus d’argent pour les entreprises. Le fait est que la vérité est ennuyeuse. »

Et ce ne sont pas ces entreprises qui vont arranger la situation parce qu’elles sont coincées dans un modèle d’affaires sans pitié, avec des actionnaires qui ne veulent rien perdre. La seule solution se trouve dans la réglementation, selon les intervenants du documentaire, persuadés qu’on peut changer la suite des choses si, bien sûr, on est minimalement au courant. Et c’est en cela que The Social Dilemma est intéressant. La plupart des documentaires sur le sujet sont un peu pointus pour le grand public, et la vaste majorité des utilisateurs de réseaux sociaux ne sont pas des geeks. Les passages fictifs, très dramatiques, montrant les impacts des outils technologiques sur une famille ordinaire, pourraient en agacer certains plus au fait des enjeux dont il est question, et rappeler quasiment le film Reefer Madness sur les dangers du cannabis, mais il est peut-être temps que ces enjeux soient connus et discutés à plus grande échelle.

The Social Dilemma a l’avantage d’être une bonne introduction, bien vulgarisée, sur le phénomène, malgré un penchant un peu trop apocalyptique. Car enfin, lorsqu’à la question « qu’est-ce qui vous fait peur ? », Tim Kendall répond franchement « la guerre civile », on ne rit plus.