En marge de la sortie de ses mémoires en novembre, Barack Obama a attaqué les géants de la Silicon Valley pour leur rôle dans cette plaie qu’est la désinformation pour nos démocraties. « L’entêtement de ces entreprises à prétendre qu’elles ressemblent à des entreprises téléphoniques relayant sans interférence des informations n’est pas tenable », a-t-il dit à The Atlantic.

Chantal Guy Chantal Guy
La Presse

Cette prise de position d’Obama lui vient probablement de la lecture de l’essai L’âge du capitalisme de surveillance de Shoshana Zuboff, en tête de sa liste de livres de 2019. Quand bien même, sous son mandat, le lobbying des GAFAM et les liens entre la Silicon Valley et Washington se sont intensifiés.

Cet essai, qui vient enfin de paraître en français chez Zulma, est une somme colossale, le résultat de dix ans de recherches de Shoshana Zuboff, professeure émérite à la Harvard Business School.

> (Re)lisez notre article « Barack Obama tire à boulets rouges sur les réseaux sociaux »

Vingt ans après l’explosion des technologies qui allaient complètement changer nos vies, alors que nous sommes encore sous le choc et stupéfaits de ces bouleversements comme un chevreuil tétanisé par les phares d’une voiture dans la nuit, ce livre est crucial. J’ai souligné des passages à toutes les pages, de moins en moins convaincue qu’il était possible d’en rendre compte dans une chronique, mais cet essai doit être sur l’écran de tous, et vous me pardonnerez de le résumer grossièrement dans le seul but de piquer votre curiosité.

Il ne faut pas se laisser impressionner par sa taille et son titre. Nul besoin d’être un geek pour en saisir les informations et la portée, Zuboff étant une excellente vulgarisatrice. L’âge du capitalisme de surveillance est à la fois un livre d’histoire et de philosophie, un pamphlet et un manuel de survie pour le futur qu’on est en train de nous voler. Car la pire menace qui pèse sur nous n’est pas tant les GAFAM que notre ignorance et, surtout, notre indifférence face à leurs pratiques et leurs dangers potentiels. Nous avons malheureusement une lecture ancienne d’une situation sans précédent.

Nous pouvons reconnaître qu’au fil des siècles nous avons imaginé le péril sous la forme du pouvoir étatique. Nous n’étions donc pas du tout préparés à nous défendre contre de nouvelles entreprises aux noms novateurs dirigées par de jeunes génies qui semblaient pouvoir nous fournir exactement ce à quoi nous aspirions, à peu ou sans frais.

Shoshana Zuboff, dans son livre L’âge du capitalisme de surveillance

Ce que l’on doit comprendre, c’est que les promesses réelles de ce nouveau monde où nous serions tous connectés ont été trahies et que les États sont à la traîne dans cette course effrénée. S’ils ont de la misère à seulement taxer Netflix, comment vont-ils protéger nos données, qui sont le pétrole du XXIe siècle, on se le demande.

Mais qu’est-ce que le capitalisme de surveillance ? « Un nouvel ordre économique qui revendique l’expérience humaine comme matière première gratuite à des fins de pratiques commerciales dissimulées d’extraction, de prédiction et de vente », le définit Zuboff, entre autres choses. Car contrairement à ce qu’on a pu penser et voir circuler, à savoir que nous serions le « produit » pour ces différentes plateformes que nous utilisons « gratuitement », nous en sommes plutôt la matière première, pillée et exploitée sans vergogne au profit d’une poignée de puissants qui ne rencontrent aucun obstacle sur leur route, dans une sauvagerie qui rappelle les débuts de l’ère industrielle.

Zuboff commence par nous raconter dans quel contexte économique et politique sont nés des géants comme Google, soit la mentalité néolibérale et la frénésie boursière de la fin du XXe siècle, qui allait frapper un mur avec l’éclatement de la bulle technologique, ce qui a fait paniquer les investisseurs et mis de la pression sur les start-up. Et c’est dans les déchets du web qu’ils ont trouvé la mine d’or, en quelque sorte. Les traces que les utilisateurs laissaient de leurs activités, ce que Zuboff nomme « le surplus comportemental ».

Elle rapporte une anecdote révélatrice de 2002, lorsque l’équipe des data logs de Google se demandait pourquoi, dans les recherches des internautes, avait surgi « Quel est le nom de jeune fille de Carol Brady ? ». Cela venait d’une question de la populaire émission Who Wants to Be a Millionaire ?, et l’équipe a ainsi pu suivre les pics de demandes selon les fuseaux horaires aux États-Unis.

Cette formidable capacité de pouvoir observer les comportements des internautes, quelque chose de très utile pour faire de la publicité ciblée et satisfaire des clients, va finir par basculer dans la prédiction de ces comportements, puis dans la possibilité de les manipuler et, pourquoi pas, de les créer.

« Google n’exploiterait plus les données comportementales dans le seul but d’améliorer le service aux utilisateurs, mais plutôt pour déchiffrer l’esprit des utilisateurs en vue de faire correspondre les publicités à leurs centres d’intérêt, une fois ces centres d’intérêt déduits des traces collatérales du comportement en ligne, explique Zuboff. Grâce à l’accès unique de Google aux données comportementales, il serait désormais possible de savoir ce qu’un individu particulier à un moment et dans un lieu particuliers pense, sent et fait. »

Que cela ne nous semble plus étonnant ou même digne d’attention témoigne du profond engourdissement psychique qui nous a habitués à un audacieux changement sans précédent dans les méthodes capitalistes.

Shoshana Zuboff, dans son livre L’âge du capitalisme de surveillance

C’est ce filon que Google protège depuis le début, au mépris de notre vie privée (personne n’a donné son consentement à cela), qui n’était pas une priorité dans l’Amérique qui venait de voter le Patriot Act après les attaques du 11 septembre 2001. Avec pour résultat que lorsque Google est entré en Bourse en 2004, « la découverte du surplus comportemental avait produit en moins de quatre ans une stupéfiante augmentation de 3590 % dans les revenus de Google ».

Nous apprenons tout cela dans les 100 premières pages d’un essai qui en compte plus de 800. Cela vous donne une idée de la masse d’informations qu’il contient. Zuboff nous rappelle quelque chose d’important : « Voici le cœur de notre réflexion : le capitalisme de surveillance a été inventé par un groupe spécifique d’êtres humains en un lieu et à une époque spécifiques. Ce n’est ni un résultat inhérent à la technologie numérique, ni une expression nécessaire du capitalisme de l’information. Il a été construit intentionnellement à un moment précis de l’histoire, de façon très similaire à la production de masse inventée en 1913, à Detroit, par les ingénieurs et les bricoleurs de Ford Motor Company. »

Ce que l’essayiste tente ainsi de nous dire est que ce monde numérique façonné de plus en plus contre nos intérêts pour les intérêts d’autres que nous n’est pas une fatalité, mais que nous allons devoir nous battre collectivement pour qu’il respecte le bien commun.

Car c’est bien cela qui est arrivé à Google au début des années 2000 : « les utilisateurs n’étaient plus des fins en eux-mêmes : ils étaient désormais les moyens permettant à d’autres d’atteindre leurs objectifs ». Et la culture du secret dans ces entreprises s’est définitivement installée, ainsi qu’une propension féroce à écraser rapidement la concurrence. « Google a découvert que nous avons moins de valeur que les paris sur notre comportement futur, ce qui a tout changé. » Un modèle que tout le monde s’est empressé de copier, plutôt que de le contrer.

Quelles sont les conséquences à mesure que se développent l’intelligence artificielle, la reconnaissance faciale, la géolocalisation ou les maisons dites « intelligentes » ? Que deviennent notre volonté et notre personnalité, quand on se sait surveillé par ce qu’on appelle le « Big Other », quand la vie intime de chacun est elle-même envahie par des algorithmes, que l’incertitude face à nos comportements trop humains est quelque chose à abattre pour atteindre des objectifs ? Car pour Zuboff, l’incertitude est essentielle pour habiter le présent. « En l’absence de cette liberté, le futur s’effondre en un présent infini de pur comportement, dans lequel il ne peut y avoir ni sujet, ni projet, mais seulement des objets. »

Zuboff parle beaucoup de notre « droit au temps futur », car comment voulons-nous qu’il soit, ce futur ? Qu’il soit le nôtre, à visage humain, ou celui d’une poignée d’hommes qui ont profité d’un « momentum » ? « Si nous voulons redécouvrir notre sens de la stupéfaction, écrit-elle, que ce soit devant ce constat : si la civilisation industrielle a prospéré aux dépens de la nature et menace à présent de nous coûter la Terre, une civilisation de l’information modelée par le capitalisme de surveillance prospérera aux dépens de la nature humaine et menacera de nous coûter notre humanité. »

Fermer l’ordinateur et ouvrir ce livre est non seulement un cadeau à se faire, mais un premier acte de résistance. Car ce n’est pas la pandémie qui nous a rendus captifs des écrans qui ont affaibli ces ogres, on n’en doute plus maintenant. Il suffit de regarder leurs profits en pleine crise mondiale.

IMAGE TIRÉE DU SITE DE L’ÉDITEUR

L’âge du capitalisme de surveillance, de Shoshana Zuboff

L’âge du capitalisme de surveillance, de Shoshana Zuboff, Zulma, 843 pages