(CAMBRIDGE, Massachussets) Les technologies numériques ont transformé notre manière de communiquer, de nous déplacer, de faire nos achats, d’apprendre et de nous divertir. Bientôt, les technologies telles que l’intelligence artificielle (IA), le big data et l’internet des objets (IdO) révolutionneront probablement la santé, l’énergie, les transports, l’agriculture, le secteur public, l’environnement naturel, voire notre corps et notre esprit.

Daron Acemoglu Daron Acemoglu
Professeur d’économie au Massachusetts Institute of Technology

Le fait d’appliquer la science aux problématiques sociales a porté ses fruits par le passé. Bien avant l’invention de la puce électronique, un certain nombre d’innovations médicales et technologiques avaient déjà rendu notre existence plus confortable et plus longue. Mais l’histoire abonde également de catastrophes provoquées par la puissance de la science, et sa volonté zélée d’améliorer la condition humaine.

Les efforts d’augmentation des rendements agricoles via l’optimisation scientifique ou technologique dans le cadre de la collectivisation menée en URSS ou en Tanzanie ont par exemple mal tourné. De même, les projets de refonte des villes dans le cadre de l’aménagement urbain ont parfois conduit à leur quasi-destruction. Le politologue James Scott qualifie de « haut modernisme » ces efforts consistant à transformer l’existence au moyen de la science.

Idéologie aussi dangereuse que dogmatiquement très sûre d’elle, le haut modernisme refuse de reconnaître qu’un grand nombre d’activités et comportements humains revêtent une logique inhérente adaptée à l’environnement complexe dans lequel ils s’expriment. Lorsque les partisans du haut modernisme ignorent ces pratiques afin d’instituer une approche plus scientifique et rationnelle, ils échouent quasi systématiquement.

Historiquement, l’œuvre du haut modernisme s’est particulièrement révélée dommageable entre les mains d’États autoritaires déterminés à transformer une société soumise et affaiblie. Dans le cas de la collectivisation soviétique, l’autoritarisme étatique a puisé sa source dans le « rôle de leader » autoproclamé du Parti communiste, et a poursuivi ses objectifs en l’absence de toute organisation susceptible de lui résister efficacement, ou de fournir une protection à des paysans qui n’ont pu que subir.

Mais l’autoritarisme n’est pas l’apanage des États. Il peut également être associé à la prétention d’une connaissance ou capacité supérieure sans limites. Songez aux efforts des grandes entreprises, entrepreneurs et autres acteurs déterminés à améliorer notre monde via les technologies numériques.

Les récentes innovations ont considérablement optimisé la productivité manufacturière, amélioré la communication, et enrichi l’existence de milliards d’individus. Mais elles pourraient également facilement dégénérer en un fiasco du haut modernisme.

Les technologies d’avant-garde telles que l’IA, le big data et l’IdO sont souvent présentées comme autant de miracles pour l’optimisation du travail, les loisirs, la communication et la santé.

Déséquilibre de pouvoir

L’idée est que nous n’aurions pas grand-chose à apprendre des individus ordinaires et des adaptations qu’ils ont développées dans différents contextes sociaux.

Le problème, c’est que cette conviction inconditionnelle selon laquelle « l’IA peut tout faire mieux que nous », pour ne prendre qu’un seul exemple, crée un déséquilibre de pouvoir entre ceux qui développent les technologies d’IA et ceux dont l’existence est vouée à être transformée par ces technologies. Ces derniers n’ont pour l’essentiel pas leur mot à dire quant à la manière dont ces applications seront conçues et déployées.

Les problèmes qui touchent actuellement les réseaux sociaux constituent un parfait exemple de ce qu’il peut se produire lorsque des règles uniformes sont imposées, sans considération du contexte social et des comportements évolués.

Les modes de communication riches et variés qui existent en dehors d’internet ont été remplacés par la communication formatée, standardisée et limitée que l’on retrouve sur des plateformes comme Facebook et Twitter. Conséquence, les nuances de la communication en face à face, ainsi que des informations d’actualité modérées par des organes de confiance, ont pour ainsi dire disparu.

Les efforts visant à « connecter le monde » aux technologies ont engendré un marasme de propagande, de désinformation, de discours de haine et d’intimidation.

Tout n’est cependant pas joué d’avance sur cette voie caractéristique du haut modernisme. Plutôt que d’ignorer le contexte social, ceux qui développent les nouvelles technologies pourraient au contraire apprendre de l’expérience et des préoccupations des individus du monde réel. Ces technologies pourraient elles-mêmes être adaptatives plutôt qu’immuables, veiller à élever la société plutôt qu’à la faire taire.

Deux forces

Deux forces peuvent orienter les nouvelles technologies dans cette direction. Premièrement, le marché peut faire office de barrière aux démarches verticales malavisées. Dès lors que les planificateurs soviétiques ont décidé de collectiviser l’agriculture, il était trop tard pour les paysans ukrainiens, avec pour conséquence une famine de masse.

Ce n’est pas inéluctable pour les technologies numériques d’aujourd’hui, dont le succès dépendra des décisions prises par des milliards de consommateurs et des millions d’entreprises à travers le monde (à l’exception peut-être des entreprises en Chine).

Le pouvoir de contrainte du marché ne doit toutefois pas être surestimé. Rien ne garantit que le marché sélectionnera les bonnes technologies pour une adoption généralisée, ni qu’il internalisera les effets négatifs de certaines nouvelles applications.

Le fait que Facebook existe et que l’entreprise collecte les informations de ses 2,5 milliards d’utilisateurs actifs au sein d’un environnement de marché ne signifie pas que nous pouvons avoir confiance dans la manière dont sont utilisées ces données. Le marché ne garantit pas que le modèle d’affaires et les technologies sous-jacentes de Facebook n’entraîneront pas des conséquences imprévues.

Pour que fonctionne le pouvoir de contrainte du marché, il doit être secondé par un autre garde-fou, plus puissant : le système politique démocratique. Tout État a son rôle à jouer dans la réglementation de l’activité économique ainsi que de l’utilisation et de la propagation des nouvelles technologies.

La démocratie favorise bien souvent une demande en réglementations de ce type. Elle constitue également la meilleure défense contre la captation des politiques publiques par des sociétés rentières déterminées à accroître leurs parts de marché et leurs bénéfices.

La démocratie constitue également le mécanisme le plus propice à l’expression de points de vue divers, ainsi qu’à l’organisation d’une résistance contre les volontés coûteuses et périlleuses du haut modernisme.

En nous exprimant, nous pouvons ralentir, voire empêcher l’avancée d’applications pernicieuses de surveillance, de contrôle et de manipulation numérique. Une voix démocratique, tel est précisément ce qui a manqué aux paysans ukrainiens et tanzaniens confrontés aux programmes de collectivisation.

Mais la tenue régulière d’élections ne suffira pas à empêcher les géants du numérique de faire de notre réalité un cauchemar moderniste. Tant que les nouvelles technologies pourront étouffer la liberté d’expression, entraver le compromis politique et accentuer la concentration du pouvoir dans les mains de l’État ou du secteur privé, elles risqueront de contrecarrer le fonctionnement de la démocratie elle-même et d’engendrer un cercle vicieux.

Si le monde technologique choisit la voie du haut modernisme, il pourrait tôt ou tard endommager notre seule barrière de défense fiable contre son arrogance : le contrôle démocratique sur la manière dont sont développées et déployées les nouvelles technologies. Nous autres consommateurs, travailleurs et citoyens devons prendre davantage conscience de la menace, car nous sommes les seuls à pouvoir la stopper.