Dire aux gens de supprimer Facebook ne résoudra pas Internet

Votre fils adolescent tombe-t-il dans une mauvaise foule? Votre adolescente a-t-elle une faible estime de soi et de graves problèmes de contrôle des impulsions? Vos dîners de famille sont-ils brefs et peu fréquentés? Si cela vous semble familier, votre ménage peut être victime de… des médias sociaux.

Nous avons vu des années de craintes croissantes (et raisonnables) que Facebook, YouTube et d’autres grands réseaux sociaux ne soient mauvais pour leurs utilisateurs. Le dilemme social, un docu-drame qui fera ses débuts sur Netflix la semaine prochaine, se veut un récit édifiant. C’est en fait quelque chose d’un peu plus étrange: une introduction à la conception d’interface manipulatrice sous la forme d’un programme spécial après l’école ou d’un PSA anti-drogue. Réalisé par Jeff Orlowski, Le dilemme social est une explication agréablement lucide de la façon dont les sites permettent aux utilisateurs de faire défiler et de cliquer. Mais cela réitère une évaluation familière et simpliste de la façon dont Internet a changé nos vies.

Le dilemme social avance une explication populaire de la raison pour laquelle les médias sociaux ont exacerbé les plus gros problèmes du monde – y compris les politiciens autoritaires, la désinformation sur le COVID-19 et l’augmentation des taux de suicide et d’automutilation chez les adolescents. Grâce à des entretiens d’experts entrecoupés de segments narratifs, il soutient que les réseaux financés par la publicité utilisent des éléments d’interface addictifs (comme le défilement sans fin et les notifications contextuelles) et la personnalisation automatisée (comme les vidéos ou les groupes recommandés) pour augmenter l’engagement avec un contenu nuisible mais convaincant (comme le complot) théories, désinformation et commentaires méchants de vos abonnés Instagram). Dans son récit – ainsi que dans celui de sujets tels que l’éthicien de la technologie Tristan Harris, le pionnier d’Internet Jaron Lanier et l’universitaire Shoshana Zuboff -, cela a transformé Internet en une force mondiale pour les malades.

Le film dramatise intelligemment les inconvénients des médias sociaux avec un réseau fictif qui est littéralement géré par trois hommes sociopathes (tous joués par Hommes fous Vincent Kartheiser) à l’intérieur d’un serveur. Entre ses experts expliquant des systèmes spécifiques, Le dilemme social propose une histoire sur l’adolescent accro aux médias sociaux Ben (BooksmartSkyler Gisondo) et sa famille tout aussi dépendant de l’écran. Regarder un algorithme amoral et souriant gâcher la vie d’un enfant peut être le plus amusant que vous ayez jamais appris sur les notifications push.

Mais le drame sape Le dilemme socialLe message ostensible de – ou peut-être simplement révèle ses faiblesses. Les interviewés du film martèlent l’idée que les médias sociaux sont une menace totalement sans précédent, rejetant les comparaisons avec la radio, la télévision ou tout autre média de masse antérieur. L’histoire de Ben, quant à elle, est un Progrès de Rake de la dysfonction juvénile de la classe moyenne. Il se désintéresse des jolies filles et du sport, commence à soutenir un mouvement pseudo-politique antisocial et tombe généralement dans un malaise que les critiques sociaux antérieurs épinglaient sur la musique rock ou la télévision. (Il convient également de noter que de nombreux vrais adolescents n’ont pas de famille solidaire ni de bonne vie sociale à débrancher.)

Semblable à Le grand hack, un autre documentaire anti-Big Tech que Netflix a distribué l’année dernière, le film d’Orlowski s’appuie sur des initiés de l’industrie de la technologie devenus voyous, avec toute la puissance de cette stratégie et les limites qui en découlent. Le film met en vedette plusieurs anciens employés de Facebook, Google et de grandes plateformes similaires, qui critiquent tous leur produit. Mais ces apostats technologiques sont des produits de la même culture de la Silicon Valley qu’ils critiquent, et ils vendent une version du même mythe: que quelques ingénieurs omnipotents ont provoqué l’apocalypse en construisant une machine de contrôle de l’esprit parfaite.

En relation :  Comment obtenir des notifications de groupe Facebook sans laisser de commentaire

En fait, combiner Facebook, YouTube et Instagram avec l’interaction sociale sur Internet – et les «médias sociaux» avec Internet en général – est le plus grand truc que ces plates-formes aient jamais tiré. Le dilemme social, comme de nombreuses critiques des médias sociaux, dépeint un monde où les ruches de données manipulées par algorithme ont remplacé une interaction physique saine. Par extension, il traite tout problème avec Internet comme un problème avec le spécifique conditions qui rendent Facebook ou YouTube mauvais. Toute solution à grande échelle se résume à bricoler ou à fermer ces plates-formes. Et toute solution à petite échelle implique de réduire le «temps d’écran» ou de supprimer vos comptes, les principales options qui Le dilemme social propose.

La propagande, l’intimidation et la désinformation sont en fait beaucoup plus importantes et compliquées. Le film mentionne brièvement, par exemple, que WhatsApp, propriété de Facebook, a diffusé des informations erronées qui lynchages grotesques inspirés en Inde. Le film ne mentionne cependant pas que WhatsApp ne fonctionne presque pas comme Facebook. Il s’agit d’un service de messagerie crypté hautement privé, sans interférence algorithmique, et qui reste un terrain fertile pour les faux récits. Comme Notes d’Alexis Madrigal, condamner les plates-formes ensemble est «inconfortablement près d’admettre que les communications mobiles posent des défis fondamentaux aux sociétés du monde entier». Il y a un bon cas pour cela, soutient-il – mais un cas avec des implications beaucoup plus alarmantes.

La radicalisation ne se produit pas uniquement sur Facebook et YouTube. Beaucoup des tueurs d’extrême droite les plus meurtriers ont apparemment été incubés sur de petits forums: le tueur de la mosquée de Christchurch Brenton Tarrant le 8chan; Le tireur de masse de l’Oregon Chris Harper-Mercer sur 4chan; Robert Bowers, tueur de la synagogue Tree of Life sur Gab; et le terroriste norvégien Anders Breivik sur des sites de suprématie blanche, dont Stormfront, un site haineux de 23 ans crédité d’inspirer des dizaines de meurtres.

Ces sites ne sont pas principalement motivés par des algorithmes ou des motifs de profit. Au lieu de cela, ils déforment et exploitent la capacité positive d’Internet ouvert à connecter des personnes partageant les mêmes idées. Lorsqu’un contenu nuisible leur fait surface, cela soulève des questions de modération complexes pour les hôtes de domaine et les fournisseurs d’infrastructure Web – un ensemble distinct de sociétés puissantes qui ont des modèles commerciaux complètement différents de Facebook.

Les grandes plateformes sociales peuvent jouer un rôle clé dans l’amplification de la haine et des complots. Le mouvement QAnon, par exemple, a commencé sur 4chan et 8chan mais s’est répandu grâce aux recommandations de groupe de Facebook et aux outils promotionnels algorithmiques similaires. Dans un monde sans géants sociaux gigantesques et centralisés, son pouvoir aurait pu être beaucoup plus limité.

Mais les petits espaces en ligne toxiques se sont déjà avérés aptes à détourner une simple réaction contre Big Tech en se présentant comme des alternatives. Le dilemme social, en revanche, n’offre pas une représentation terriblement convaincante de la vie sans son clone Facebook fictif. Cela suppose que si vous ne parcouriez pas votre flux, vous seriez attiré par des tête-à-tête spontanés ou par la lecture du tome sociopolitique de Zuboff de 700 pages. L’ère du capitalisme de surveillance… Au lieu des tabloïds, des téléphones, des films, de la télévision, des centres commerciaux, de la pornographie, de la radio, des forums Internet ou de l’une des millions d’autres activités qui étaient auparavant accusées de tuer de bons livres et de bonnes conversations.

Il y a une soif évidente de polémiques comme Le dilemme social, même si la plupart des gens considèrent favorablement les grandes entreprises technologiques. Lorsqu’une poignée de sites domine Internet, leurs problèmes sont faciles à repérer. Mais des théories unifiées nettes – y compris les minuscules serveurs maléfiques – associent inutilement les problèmes posés par des plates-formes sociales spécifiques, la communication de masse en ligne et les mauvais acteurs en dehors du monde de la technologie.

En relation :  Disney Plus diffuse désormais Les Simpsons dans son format approprié, mais ce n'était pas facile

Les affaires, les médias et la politique à l’ancienne jouent toujours un rôle important dans l’élaboration de ce que nous voyons en ligne. Les marchands de désinformation et les propagandistes comprennent des dirigeants mondiaux, partis politiques, et figures militaires, ainsi que des célébrités frappées au cinéma ou à la télévision – des personnes qui peuvent et doivent être tenues pour responsables de leur propre chef, non rejetées comme des sous-produits inévitables de «l’algorithme». De même, les plateformes Web ne sont pas uniquement exécutées par code. Des dirigeants de Facebook, par exemple, seraient intervenus pour protéger la désinformation de droite de son processus de modération standard.

Et comme pour de nombreux mouvements d’auto-assistance, dénoncer la dépendance à l’écran est une astuce facile pour transformer les problèmes de culture du lieu de travail en honte personnelle. Tristan Harris, ancien employé de Google et l’un des Le dilemme socialLes figures centrales de, raconte sa révélation que l’interface de messagerie de Gmail crée une dépendance. Personne ne soulève un problème tout aussi évident: dans de nombreuses entreprises, répondre aux e-mails 24h / 24 est encouragé ou obligatoire. (Curieusement, Harris loue plus tard les applications de télé-assistance – une entreprise impitoyablement exploitante basée sur des algorithmes opaques et des interfaces de manipulation – comme exemple du potentiel de la Silicon Valley.) Au lieu de demander aux entreprises de détacher les employés d’un bureau ouvert 24h / 24, des experts en addiction technologique réprimander les utilisateurs de téléphone pour laisser leurs notifications activées.

Le dilemme social écarte l’idée d’utiliser les réseaux sociaux de manière créative ou critique, parfois au point de condescendance. (Quelques sujets d’interview impliquent que les gens ordinaires voient les tours de passe-passe comme littéralement magiques, il n’est donc pas étonnant qu’ils ne leur font pas confiance.) Mais il est facile de trouver des personnes qui s’engagent de manière réfléchie avec ces applications, en particulier au milieu du COVID-19 pandémie, qui a transformé les écrans en certains des seuls espaces publics sûrs. Les militants qui critiquent profondément Facebook et Google ont toujours construit des réseaux d’entraide et organisé des manifestations sur leurs réseaux.

Ces militants ne sont pas inconscients des inconvénients des grandes plates-formes, et beaucoup ont appeler pour – ou même construit – de meilleurs outils indépendants. Malgré cela, ils ont réorienté des systèmes défectueux pour répondre à de réels besoins sociaux. Dans le processus, ils ont aidé à éclairer les façons dont les médias sociaux pourraient être utilisés pour de bon, ainsi que les changements nécessaires pour y parvenir.

Il est trop désinvolte de dire que tous les médias ont causé des problèmes et que les médias sociaux ne sont donc pas différents de la télévision ou de la radio. Internet évolue, accélère et automatise les anciens médias d’une manière qui pose des problèmes uniques.

Mais cela rend l’ancien statu quo pire, pas meilleur. La radio, la télévision et les livres ont propulsé la désinformation pendant des années sans que le public ne lève les yeux de manière affectueuse. Les chaînes câblées dédiées à la science, à l’histoire ou à la «réalité» regorgent de pseudoscience, de tromperie et de complot. Les réseaux sociaux modernes ont amplifié toutes les pires parties de la culture existante. Corriger cela ne peut pas simplement signifier condamner Facebook. Au lieu de cela, nous devons le traiter comme une partie d’un problème beaucoup plus important. Et plus important encore, nous devons imaginer ce qui va suivre.

Le dilemme social fera ses débuts sur Netflix le 9 septembre.

Moyens Staff
Moyens I/O Staff vous a motivé, donner des conseils sur la technologie, le développement personnel, le style de vie et des stratégies qui vous aider.