Qui suis-je et pourquoi suis-je ici ?
J’ai essayé de changer la politique de Google de l’intérieur, en tant que designer éthique, après que Google a racheté mon entreprise en 2011. J’ai échoué car rien n’incite les entreprises à le faire. J’ai découvert que seule l’influence extérieure des gouvernants, des actionnaires, des médias, des annonceurs pouvait amener ce changement.
Persuasion et magie
La persuasion est une question d’asymétrie de pouvoir.
J’ai appris cela enfant en découvrant la magie. J’ai appris que l’esprit humain était très vulnérable et influençable. Le magicien nous dit « Piochez n’importe quelle carte ! ». De votre côté vous pensez que votre choix est libre, alors que le magicien, avant même que vous ne choisissiez une carte, a truqué le paquet et connaît déjà le résultat. Ce tour est possible car celui qui tient les cartes sait la façon dont votre esprit fonctionne, alors que vous non.
A l’université, j’ai étudié au Laboratoire de technologie persuasive de Stanford pour comprendre comment la technologie pouvait influencer nos attitudes, nos croyances, nos comportements. Je travaillais sur des projets avec les fondateurs d’Instagram, nous avons lancé le prototype d’une application persuasive faite pour soulager de la dépression, appelée « Transmets du soleil ». Comme la magie, la technologie de la persuasion consiste en une asymétrie de pouvoir, une capacité croissante à influencer le comportement de l’autre.
Echelle des plateformes et course à l’attention
De nos jours, les grandes plateformes ont plus d’influence et en savent plus sur nos actions quotidiennes que n’importe quel gouvernement. 2,3 milliards de personnes utilisent Facebook, l’équivalent de la Chrétienté dans le monde. 1,9 milliards utilisent Youtube, soit plus que l’Islam et le Judaïsme réunis. Ceci n’est pas neutre.
Le modèle de revenus publicitaires conditionne le profit de ces plateformes à la quantité d’attention captée. C’est la course « au plus profond du cerveau humain », pour atteindre ses zones les plus reculées – notre cerveau reptilien – lieu de la dopamine, de la peur, de la colère, et en extraire le maximum d’attention.
Comment la technologie a piraté nos faiblesses
Cela commence par la captation de l’attention. Les techniques comme « pull to refresh » fonctionnent comme des machines à sous pour nous forcer à continuer à jouer, même pour rien. Le « scroll infini » nous ôte toute possibilité de stopper le défilement des contenus. Vous pouvez essayer de vous imposer une forme de contrôle, mais en face de vous, de l’autre côté de l’écran, ce sont des milliers d’ingénieurs qui travaillent pour éviter cela.
Le design a ensuite évolué vers un nouvel objectif : faire que les gens deviennent accros à l’attention des autres. Des fonctionnalités comme « follow / suivre » ou « like / j’aime » ont poussé les gens à créer et développer leur audience personnelle, faite de validation sociale au compte-goutte, alimentant de fait le jeu de comparaison et l’émergence du statut « d’influenceur ». Tout d’un coup, tout le monde devait être connu.
La course est allée plus loin dans la persuasion de notre identité : les applications de partage de photographies qui contiennent des options de « filtre de beauté », altérant la réalité de notre image, capturent mieux l’attention que celles qui n’en proposent pas. Cela a alimenté le Syndrome de dysmorphie[4] en modifiant l’idée que des millions d’adolescents se font d’eux-mêmes, c’est-à-dire en leur imposant des versions irréalistes d’eux-mêmes et en renforçant l’évaluation sociale continue dont ils sont l’objet. Ce principe fait que les gens ne vous aiment que si vous semblez différent de ce que vous êtes réellement. 55 % des cas de chirurgies plastiques en 2018 sont le fait de patients souhaitant améliorer leurs selfies (ils étaient 13 % en 2016). Au lieu des seules plateformes luttant une par une pour notre attention, nous nous retrouvons avec un échantillon d’outils utiles en la matière, chacun d’entre nous luttant pour l’attention des autres en utilisant différentes plateformes.
Être constamment visibles des autres a entraîné une anxiété sociale et une crise massive de la santé mentale. Il vous est impossible de vous déconnecter si votre réputation sociale risque d’être ruinée le temps que vous arriviez à la maison. Après environ 20 ans de baisse, les symptômes de forte dépression des adolescentes de 13 à 18 ans ont augmenté de 170 % entre 2010 et 2017. Dans le même temps, la plupart des parents n’ont jamais été mis au courant de l’asymétrie grandissante entre la technologie de la persuasion et nos faiblesses humaines.
L’intelligence artificielle pour extraire l’attention, le rôle des algorithmes
La course à l’armement pour l’attention s’est déplacée vers les algorithmes et l’intelligence artificielle : les entreprises luttent pour détenir l’algorithme qui prédira le plus efficacement ce qui retiendra les usagers le plus longtemps face à l’écran.
Par exemple, vous lancez une vidéo « Youtube » et vous vous dîtes, « je me souviens ces fois où je suis resté sur Youtube, mais cette fois-ci ce sera différent ! ». Deux heures plus tard vous vous réveillez comme d’une transe et vous vous dîtes « c’est incroyable c’est encore arrivé ! ». Dire que nous devrions faire preuve de self-control, c’est nier l’asymétrie invisible de pouvoir : Youtube a un super ordinateur braqué sur votre cerveau.
Quand vous cliquez sur « Play », Youtube réveille votre avatar, une poupée vaudou à votre effigie. Tous vos clics sur les différentes vidéos, tous vos « j’aime », toutes vos vues, participent à l’amélioration de votre poupée dans tous ses détails, vous ressemblant de plus en plus pour que vos actions soient de plus en plus prévisibles. Youtube « pique » alors votre poupée avec ses millions de vidéos pour simuler et prédire celles qui vous maintiendront en ligne. C’est comme jouer aux échecs contre Garry Kasparov, vous allez perdre. Les machines de Youtube ont trop de coups d’avance.
C’est exactement ce qui s’est produit : 70 % du trafic de Youtube résulte maintenant de recommandations automatiques, provenant de ce que « notre moteur de recommandation offre à vous » disait Neal Mohan, CPO de Youtube. Avec plus d’un milliard d’heures de vidéos regardées chaque jour, les algorithmes ont déjà pris le contrôle de la pensée de deux milliards de personnes.
Emmener la colonie de fourmis jusqu’à « Crazytown »
Imaginez l’éventail des vidéos sur Youtube, depuis le côté « calme » des contenus rationnels, étayés, scientifiques, longs (la section « Walter Cronkite »), jusqu’au versant opposé que nous appelerions « Crazytown ».
Comme Youtube veut maximiser notre temps de visionnage, il pousse toute la communauté humaine à pencher vers le versant « Crazytown ». C’est « l’extrémisme algorithmique » :
- les adolescentes qui ont cherché des vidéos avec le mot « régime » sur Youtube se sont vues proposer des vidéos sur l’anorexie ;
- Le site AlgoTransparency.org montre que les mots-clefs les plus représentés par les vidéos recommandées automatiquement sur Youtube sont : « être scolarisé », « mettre en lambeaux », « ridicules », « démantelés », « débats », « déchirés », « confronter », « détruit », « haït », « démolis », « effacés » ;
- en visionnant les vidéos sur la conquête spatiale de la NASA, les vidéos conspirationnistes « La Terre est plate » ont été recommandées des millions de fois avant d’être déréférencées ;
- Youtube a recommandé les vidéos d’Alex Jones InfoWars 15 milliards de fois – soit plus que tous les trafics réunis du NYTimes, du Guardian, du Washington Post et de Fox News ;
- Plus de 50 % des activistes extrémistes utilisent Internet pour diffuser leurs contenus (étude Bellingcat). Youtube est le site qu’ils utilisent le plus ;
- Lorsque le rapport Mueller sur le rôle joué par la Russie dans les élections américaines de 2016 a été publié, les reportages de RussiaToday’s ont été les plus recommandés, parmi plus de 1000 autres chaînes ;
- Les adultes consultant des contenus sexuels se sont vus recommander des vidéos contenant d’avantage d’actrices jeunes, puis d’adolescentes puis d’enfants jouant en maillots de bain (article NYT) ;
- Les fake news se propagent six fois plus vite que les informations éditorialisées, au contraire des nouvelles réelles, qui sont limitées par la réalité des faits (MIT Twitter Study).
La liberté de parole n’est pas la même chose que la liberté d’atteindre. Tout le monde a le droit de s’exprimer, mais personne ne doit avoir celui d’utiliser un mégaphone pour atteindre les oreilles de deux milliards de personnes. Les plateformes sociales amplifient les discours clivants sans appliquer aucun standards ni pratiques utilisés régulièrement par les médias et diffuseurs traditionnels. Si l’on devait écrire la devise des plateformes technologiques, ce serait « avec un grand pouvoir n’est venue aucune responsabilité ».
Une relation égale ou asymétrique ?
Une fois que l’on a constaté à quel point les technologies ont pris le contrôle des individus, nous devons interroger la nature du contrat commercial liant l’usager à la plateforme : est-ce un contrat équilibré entre deux parties, ou la manifestation d’une relation déséquilibrée et asymétrique ?
Il y a eu un grand malentendu sur la nature de la relation commerciale liant la plateforme et l’usager, lié au fait que les plateformes se sont toujours présentées comme des partenaires ouverts à pouvoir équitable. Dans les faits, elles jouent beaucoup plus le rôle d’un psychologue, d’un avocat ou d’un prêtre. Elles ont un degré d’information supérieur au vôtre et vous imposent leur pacte de confiance.
Dire « nous donnons aux gens ce qu’ils veulent » ou « nous sommes des plateformes neutres » dissimule en réalité une dangereuse asymétrie. Google et Facebook détiennent une telle quantité d’informations compromettantes sur deux milliards d’humains, qu’elles excèdent largement le rôle d’un psychologue, d’un avocat ou d’un prêtre, tout en maximisant certains comportements pour en tirer des bénéfices.
L’asymétrie ne fera que s’aggraver exponentiellement
La raison pour laquelle nous devons rétablir la balance maintenant est que la situation va empirer. L’intelligence artificielle augmentera les capacités de la technologie à prédire ce qui manipulera les foules, pas moins.
Une théorie du complot répandue voudrait que Facebook vous écoute à travers votre microphone, parce que le sujet dont vous veniez de discuter avec votre ami vient justement d’apparaître sur votre fil d’actualités… Mais les experts sont formels : ils n’écoutent pas. La vérité est plus terrifiante encore : ils n’ont même pas besoin d’écouter. Il leur suffit de réveiller l’une de leurs 2,3 milliards de poupées vaudous représentant votre avatar pour prédire avec précision la conversation que vous êtes susceptible de tenir.
Et cela ne fera que s’aggraver. Aujourd’hui déjà, les plateformes sont facilement capables de prédire :
- si vous êtes seul ou si vous manquez de confiance en vous ;
- vos 5 principaux traits de personnalités rien qu’avec l’analyse du temps que vous passez en ligne ;
- quand vous êtes sur le point d'entrer en couple ;
- votre sexualité avant que vous en ayez conscience ;
- quelles vidéos vous feront rester en ligne.
Mis ensemble, Google et Facebook sont comme un prêtre dans un confessionnal écoutant les vies de deux milliards de personnes, mais dont l’unique but est d’influencer le comportement de ces personnes pendant qu’un tiers les enrichit.
Pire encore le prêtre dispose d’un super ordinateur établissant des schémas de calcul parmi les 2,3 milliards de confessions, pour prédire la confession que vous comptiez faire avant même que vous n’en ayez conscience – et mieux vendre ainsi les accès au confessionnal à d’autres parties.
La technologie, non surveillée, sera uniquement capable de prédire plus précisément ce qui influencera notre comportement, pas moins.
Il y existe deux solutions pour prendre le contrôle d’un humain : 1/ vous pouvez construire des intelligences artificielles plus sophistiquées pour prédire ce qui manipulera les actions d’une personne. 2/ vous pouvez simplifier les humains en les rendant plus prévisibles et réactifs. Aujourd’hui la technologie fait les deux à la fois : les profits dégagés par Facebook et Google sont réinvestis dans de meilleurs modèles prédictifs et des machines apprenantes (machine learning) pour manipuler les comportements, tout en simplifiant les réflexes humains en leur soumettant des stimuli toujours plus simples. C’est une façon de mettre échec et mat l’humanité.
Tous ces effets ne sont que les facettes d’un seul et même péril
Nous pensons souvent les problèmes causés par la technologie indépendamment les uns des autres – addiction, distraction, fake news, polarisation, santé mentale et dépressions adolescentes. Ils ne sont pas séparés. Ils sont des facettes d’un seul et même mouvement qui est la conséquence de la course à destination de la racine de nos cerveaux.
Réduction de notre capacité d’attention, baisse de notre confiance, polarisation des idées politiques, récompense à l’outrage, crise de la pensée critique, augmentation de la solitude et de l’isolement social, hausse des suicides chez les adolescents – en particulier chez les filles, augmentation des extrémismes et des théories du complot –fragilisation enfin de notre environnement d’informations et de la fabrique sociale dont nous dépendons. Chacun de ces traits alimente l’autre.
Lorsque notre capacité d’attention se réduit, nous ne pouvons que nous exprimer plus simplement, avec 140 caractères pour résumer des problèmes complexes, encourageant la polarisation : la moitié des gens semblent d’accord en cliquant sur un simple bouton d’appel à l’action. Les chercheurs en psychologie de New York ont montré que chaque mot agressif ajouté à un tweet augmentait son taux de retweet de 17 %. Plus d’outrages entraîne des effets de foule, avec des personnes de plus en plus en colère sur des sujets pourtant de plus en plus lointains.
Tout cela mène à une culture du fantasme qui électrise les groupes occupés à s’insulter et à se troller les uns les autres autour de l’interprétation la moins charitable d’un message de plus en plus simple. Les incompréhensions réciproques entraînent des réflexes de défense. Plus de victimisation, plus de colère et de polarisation, moins de confiance sociale. « La culture du fantasme[5] » fige les positions, empêche une pensée inclusive habile à refléter le monde complexe dans lequel nous vivons, nuit à notre capacité à construire des agendas partagés. Plus d’isolement entraîne de fait une sensibilité croissante pour les théories du complot.
Comme la capacité d’attention se réduit, les entreprises doivent fragmenter cette attention en la découpant en plusieurs flux – nous encourageant à être multitâches, à faire toujours 3 ou 4 choses à la fois. Elles peuvent ainsi multiplier artificiellement le marché de l’économie de l’attention, tout en dégradant la qualité de notre temps d’attention. Notre temps moyen de concentration chute, comme notre productivité.
Nommer ce système
Tous ces effets sont reliés entre eux et se renforcent. Frank Luntz appelle cela le « dérèglement climatique culturel ». Au Center for Humane Technology nous le nommons « le déclassement humain ».
Pendant que la technologie améliorait les machines, elle déclassait l’humain : déclassement de notre capacité d’attention, de notre civilité, de notre santé mentale, de nos enfants, de notre productivité, de notre esprit critique, de nos relations, de notre démocratie.
Tout le monde est concerné
Même si vous n’êtes pas sur ces plateformes, vous êtes affecté par ce problème. Vous vivez toujours dans un pays où vos concitoyens votent selon ce qui leur a été recommandé. Vous envoyez toujours vos enfants dans des écoles où d’autres parents croient des théories anti-vaccins qui leur ont été proposées sur les réseaux sociaux. Les cas de rougeole ont augmenté de 30 % entre 2016 et 2017 et les mots clefs principalement utilisés étaient « vérité sur les vaccins » parmi les requêtes sur les questions de santé.
Nous sommes tous dans le même bateau. Le déclassement humain est comme un nuage noir qui descend sur la société et affecte tout le monde.
Compétition avec la Chine
Ce déclassement impacte aussi la compétition mondiale. Comment batailler avec la Chine, ou quelque nation que ce soit lorsque l’on dégrade le temps d’attention de ses citoyens, l’esprit critique, la santé mentale et qu’augmente la polarisation politique ?