« Dieu seul sait ce que ça fait aux cerveaux de nos enfants. »

« Ça », c'est Facebook. Et celui qui en parle de cette façon n'est pas un de ses détracteurs de longue date. Au contraire. C'est son ancien président, Sean Parker.

Il a partagé ses remords publiquement l'automne dernier au sujet de la façon dont Facebook, mais aussi de nombreuses autres sociétés dans le domaine du numérique, ont trouvé le moyen de susciter la dépendance avec leurs produits.

Ces jours-ci, c'est Tristan Harris, ancien éthicien chez Google, qui se retrouve sous les projecteurs parce qu'il tient un discours similaire.

En compagnie d'autres anciens responsables de Google et de Facebook, il a créé un organisme visant à responsabiliser les entreprises de la Silicon Valley et alerter le grand public : le Center for Humane Technology. Il a annoncé, d'emblée, l'investissement de plusieurs dizaines de millions pour sensibiliser les jeunes (qui sont plus vulnérables) aux dangers auxquels ils s'exposent.

Ces lanceurs d'alerte sont particulièrement crédibles parce qu'ils savent de quoi ils parlent. Et parce qu'on est en train de se rendre compte, de plus en plus, que leurs inquiétudes sont fondées.

Leurs témoignages, tout comme leurs efforts, sont précieux. Ils nous permettent de comprendre que les créateurs des réseaux sociaux et des téléphones intelligents, entre autres, ont trouvé des moyens insidieux d'agir sur nos cerveaux pour qu'on passe plus de temps sur leurs produits.

Certains de leurs concepteurs, comme les fabricants de tabac jadis, ont conçu leurs produits afin qu'ils créent une dépendance.

L'envoi de notifications, le bouton « j'aime » sur Facebook, etc... Rien de tout ça n'est le fruit du hasard. Il s'agit pour notre cerveau de « récompenses » qui surviennent de façon aléatoire et favorisent ainsi la production de dopamine (associée à la dépendance), expliquent les spécialistes. Forcément, on en redemande !

***

Les anciens responsables de ces grandes entreprises font aujourd'hui penser à Victor Frankenstein, le savant du roman Frankenstein de Mary Shelley. On a l'impression qu'ils se rendent compte qu'ils ont créé un monstre.

Et ils insistent, avec raison, pour dire qu'il faut responsabiliser les dirigeants actuels de ces grandes sociétés.

Prenons Apple, par exemple. Deux grands actionnaires de l'entreprise l'ont sommée, au début du mois de janvier, de prendre des mesures concrètes dans le but de protéger les enfants qui utilisent leurs produits.

Ils ont rendu publique une lettre adressée au conseil d'administration de la société dans laquelle ils réclament à la fois des études sur l'impact de ces produits et des changements qui rendront ces derniers « plus sécuritaires pour les jeunes utilisateurs ».

Ils proposent des solutions aussi concrètes que réalistes. Ils suggèrent par exemple de permettre aux parents d'entrer l'âge de leur enfant qui utilise un produit Apple. Ça devrait selon eux permettre une configuration appropriée notamment pour « limiter le temps d'écran, restreindre l'usage à certaines heures, réduire le nombre de réseaux sociaux disponibles, mettre en place une surveillance parentale ».

Ce n'est pas sorcier. Mais il y a une raison pour laquelle ces grandes entreprises hésitent à rectifier le tir. Ce qui est les intéresse par-dessus tout, c'est notre argent, même si elles se démènent pour nous faire croire qu'elles veulent uniquement notre bonheur.

***

Les problèmes liés à ces produits numériques dont nous avons du mal à décrocher commencent, lentement mais sûrement, à être documentés. Dépendance, comportements suicidaires et cyberintimidation sont notamment évoqués pour ce qui est de l'impact sur la santé mentale. La santé physique peut aussi être affectée. Les études citées par le Center for Humane Technology font état d'effets négatifs sur le développement du cerveau et sur les capacités d'attention.

Sans oublier l'impact général sur nos sociétés. Sur nos démocraties. Avec leurs mystérieux algorithmes, les dirigeants de Facebook sont incontestablement en train de jouer aux apprentis sorciers.

Nos élus sont directement interpellés par la situation et ils auraient avantage, sans plus attendre, à soutenir avec plus d'enthousiasme la recherche dans ce domaine pour mieux cerner les problèmes causés par les Facebook et Apple de ce monde.

Cela dit, la balle est avant tout dans le camp des dirigeants de ces entreprises. Ils savent comment régler les problèmes qu'ils ont créés. Mais jusqu'ici, ils n'ont pas eu la volonté de le faire. Le grand patron de Facebook, Mark Zuckerberg, a déjà fait son mea-culpa à quelques reprises depuis le début de l'année 2018. Mais les gestes faits par sa société jusqu'ici demeurent très timides.

Si ces dirigeants commencent - enfin ! - à dire vouloir agir, c'est qu'ils savent que la confiance à l'égard de leurs entreprises est en train de s'effriter. Que le public est de mieux en mieux renseigné et de plus en plus confronté aux effets pervers de leurs produits. Alors qu'attendent-ils pour dompter leur monstre ?

Remords et regrets

Ce qu'ils ont dit

1. « Les superordinateurs les plus puissants du monde se trouvent au sein de deux compagnies : Google et Facebook. Et vers quoi sont-ils braqués ? Nous les braquons sur les cerveaux des gens, sur les enfants. »

- Tristan Harris, ancien éthicien de Google, février 2018.

2. « Nous n'empêcherons pas toutes les erreurs et tous les détournements (de Facebook) mais nous faisons à l'heure actuelle trop d'erreurs pour ce qui est de faire respecter nos règles (d'utilisation) et d'empêcher les mauvais usages de nos outils. »

- Mark Zuckerberg, cofondateur et PDG de Facebook, janvier 2018.

3. « Nous en sommes littéralement à un point où je crois que nous avons créé des outils qui déchirent le tissu social. Nous en sommes véritablement là. [...]Si vous nourrissez la bête, elle va vous détruire. Mais si vous la repoussez, vous aurez une chance de la contrôler et de la contenir. »

- Chamath Palihapitiya, ancien vice-président chargé de la croissance de l'audience chez Facebook, novembre 2017

4. « Le processus de réflexion ayant mené à la conception de ces applications [...] était : comment pouvons-nous nous approprier, autant que possible, votre temps et votre attention consciente. [...] Ça signifie que nous avons besoin de vous donner un hit de dopamine de temps en temps, lorsque quelqu'un aime ou commente une photo, un message ou autre chose. Et ça va vous encourager à fournir du nouveau contenu, ce qui va vous permettre d'obtenir plus de " j'aime " et de commentaires. »

- Sean Parker, ancien président de Facebook, novembre 2017

Sources : AFP, Axios, New York Times, The Verge.

Qu'en pensez-vous? Exprimez votre opinion