Comme nous l'avions fait pour l'audition de Tristan Harris en juin 2019 (voir ici sur notre site), nous proposons une traduction en français de l'audition de Frances Haugen devant le Sénat américain le 04 octobre 2021. Ancienne cadre de Facebook, Frances Haugen est à l'origine de l'affaire des "Facebook files", par laquelle elle révèle à quel point l'entreprise privilégie sciemment les profits et l'engagement des utilisateurs au détriment de leur santé mentale, et plus largement de la santé de nos sociétés et de notre démocratie.
La vidéo ainsi que la retranscription de son audition sont disponibles ici.
***
« Président Blumenthal, membre Blackburn et membres du sous-comité. Merci de me permettre de témoigner devant vous et merci pour votre intérêt face à l'une des menaces les plus graves pour le peuple américain, pour ses enfants et le bien-être de notre pays, ainsi que pour les peuples et les nations du monde entier.
Je m'appelle Frances Haugen. J'ai travaillé chez Facebook parce que je pensais que Facebook a le potentiel de révéler le meilleur de nous-mêmes. Mais je suis ici aujourd'hui parce que je crois que les services de Facebook nuisent en fait profondément à nos enfants, qu'ils alimentent la division, affaiblissent notre démocratie et plus encore. Les dirigeants de l'entreprise savent comment rendre Facebook et Instagram plus sûrs et ne feront pas les changements nécessaires car ils ont toujours fait passer leurs profits, colossaux, avant les gens. Le Congrès doit désormais agir. Ces dirigeants ne pourront pas résoudre cette crise sans vous.
Je crois que les médias sociaux ont le potentiel d'enrichir nos vies et notre société. Nous pouvons avoir des médias sociaux que nous apprécions – qui font ressortir le meilleur de nous. Internet a permis aux gens du monde entier de recevoir, de partager des informations et des idées comme jamais dans l'Histoire. Mais si Internet peut relier une société de plus en plus mondialisée, il reste que sans prudence ni responsabilité, Internet peut nuire autant qu'il aide.
J'ai travaillé comme responsable de produit dans de grandes entreprises technologiques depuis 2006 : Google, Pinterest, Yelp et Facebook. Mon travail s'est concentré sur les algorithmes comme le moteur de recherche Google Search + et les systèmes de recommandation comme celui qui alimente le fil d'actualité de Facebook (Facebook newsfeed). Travaillant dans quatre entreprises technologiques qui exploitent des réseaux sociaux spécifiques, j'ai pu comparer la façon dont chacune aborde et traite ces enjeux. Les choix faits par les dirigeants de Facebook constituent un problème majeur – pour les enfants, pour la sécurité publique, pour la démocratie – et c'est pourquoi je me présente devant vous. Soyons clairs : tout ceci ce n'est pas une fatalité. Nous sommes ici aujourd'hui à cause de choix délibérés faits par Facebook.
J'ai rejoint Facebook en 2019 parce qu'un de mes proches s'était radicalisé en ligne. J'ai alors senti que je devais participer à la création d'un meilleur Facebook, moins toxique. Pendant mon travail, d'abord en tant que responsable de produit principal sur la désinformation civique puis plus tard sur le contre-espionnage, j'ai constaté que Facebook était fréquemment confronté à des choix entre d'un côté ses propres bénéfices et de l'autre notre sécurité. Facebook a systématiquement résolu ces conflits en privilégiant ses profits. En a résulté un système qui amplifie la division, l'extrémisme et la polarisation – et détruit les sociétés du monde entier. Dans certains cas, la violence en ligne a conduit à une violence réelle qui blesse et même tue des personnes. Dans d'autres, l'optimisation des profits a généré de la haine de soi et de l'auto-mutilation, en particulier chez certains groupes vulnérables comme les adolescentes. Ces problèmes ont été documentés à plusieurs reprises par les propres recherches menées en interne chez Facebook.
Il ne s'agit pas simplement de la colère ou de l'instabilité de certains utilisateurs. Facebook est devenu une entreprise assises sur 1 000 milliards de dollars, créant ces bénéfices en sacrifiant notre sécurité, y compris celle de nos enfants. C'est inacceptable.
Je crois que ce que j'ai fait était juste et nécessaire pour le bien commun, mais je sais aussi que Facebook dispose de ressources infinies qu'il pourrait utiliser pour me détruire. Je me présente à vous parce que j'ai constaté une vérité glaçante : presque personne en dehors de Facebook ne sait ce qui se passe à l'intérieur de Facebook. La direction de l'entreprise cache des informations vitales au public, au gouvernement américain, à ses actionnaires et aux gouvernements du monde entier. Les documents que j'ai révélés démontrent que Facebook nous a trompés à plusieurs reprises sur ce que ses propres recherches révélaient quant à la sécurité des enfants, ou encore sur son rôle dans la diffusion de messages haineux et polarisants. J'apprécie le sérieux avec lequel les membres du Congrès et de la Commission Sécurité et échanges abordent ces questions.
La gravité de cette crise nous oblige à revoir nos cadres réglementaires. Les ajustements apportées sur la protection de la vie privée et sur l'article 230 ne seront pas suffisantes. Le cœur du problème est que personne ne peut aujourd'hui mieux comprendre les choix destructeurs de Facebook que Facebook, car seul Facebook peut regarder sous le capot. Un principe essentiel pour une réglementation efficace est la transparence : ici nous parlons d'un accès complet aux données pour des recherches non dirigées par Facebook. Sur cette base, nous pourrons élaborer des règles et des normes utiles pour lutter contre les préjudices causés aux consommateurs, les contenus illégaux, la fuite des données, les pratiques anticoncurrentielles, les systèmes algorithmiques, etc.
Tant que Facebook opère dans le noir, il ne doit de comptes à personne. Et continuera à faire des choix qui vont à l'encontre du bien commun. Notre bien commun.
Lorsque nous avons réalisé que les industriel du tabac cachaient les méfaits qu'ils causaient, le gouvernement a réagi. Lorsque nous avons compris que les voitures étaient plus sûres avec des ceintures de sécurité, le gouvernement a réagi. Aujourd'hui, le gouvernement prend des mesures contre les entreprises qui ont caché des preuves sur les dangers des opioïdes.
Je vous implore de faire la même chose ici.
En ce moment-même, Facebook choisit les informations que des milliards de personnes voient, façonnant leur perception de la réalité. Et même ceux qui n'utilisent pas Facebook sont impactés par la radicalisation de ceux qui l'utilisent. Une entreprise qui contrôle nos pensées, nos sentiments et nos comportements les plus profonds a besoin d'une véritable surveillance.
Le fonctionnement opaque de Facebook signifie qu'il n'y a aucune surveillance, même de la part de son propre conseil, qui est aussi aveugle que le public. Seul Facebook sait comment il personnalise votre flux. Caché derrière des murs qui empêchent les yeux des chercheurs et des régulateurs de comprendre la véritable dynamique du système. Lorsque les fabricants de tabac ont prétendu que les cigarettes avec filtres étaient plus sûres pour les consommateurs, il a été possible pour les scientifiques de contredire de manière indépendante ce message marketing, et de prouver leur nocivité. Mais aujourd'hui nous ne pouvons pas mener ce genre d'étude indépendante sur Facebook. Nous en sommes réduits à les croire sur parole, alors même qu'ils ont déjà prouvé par le passé qu'ils ne méritaient pas d'être crus sur parole.
Cette incapacité à analyser les systèmes réels de Facebook et à confirmer qu'ils fonctionnent comme ils le disent, c'est un peu comme si le Ministère des Transports encadrait l'industrie automobile en se contentant de les regarder rouler sur l'autoroute. Imaginez si aucun régulateur ne pouvait monter dans un véhicule, gonfler ses roues, tester le comportement en cas de collision ou même penser que des ceintures de sécurité pourraient exister. Les régulateurs de Facebook peuvent constater certains des problèmes, mais ne savent pas ce qui les cause et ne peuvent donc pas élaborer de solutions spécifiques. Ils ne peuvent même pas accéder aux propres données de l'entreprise sur la sécurité des produits, et encore moins mener un quelconque audit indépendant. Comment le public pourrait-il évaluer ces questions et Facebook résoudre les conflits d'intérêts en privilégiant le bien public, si personne n'a aucune visibilité ni aucun contexte sur la façon dont Facebook fonctionne réellement ?
Cela doit changer.
Facebook veut vous faire croire que les problèmes dont nous parlons sont insolubles. Ils veulent que vous croyiez aux choix faussés. Ils veulent vous faire croire qu'il faut choisir entre d'un côté se connecter en ligne avec ceux qu'on aime, et de l'autre votre vie privée. Que pour partager des photos amusantes de vos enfants avec de vieux amis, vous devez également être inondé de contenus de désinformation. Ils veulent que vous croyiez que ce n'est qu'une partie de l'accord. Je suis ici pour vous dire aujourd'hui que ce n'est pas vrai. Ces problèmes sont solubles. Un réseau social plus sûr et agréable est possible. Mais s'il y a une chose que j'espère que tout le monde retiendra, c'est que Facebook choisit chaque jour le profit plutôt que la sécurité – et que cela continuera si rien n'est fait.
Le Congrès peut changer les règles suivies par Facebook et en stopper les effets néfastes.
J'ai osé parler, consciente des risques que je prends, car je pense que nous avons encore le temps d'agir. Mais nous devons agir maintenant.
Merci. »
Frances Haugen