Notes De Lecture - Algocratie - Arthur Grimonpont
Trouver le livre Algocratie - Arthur Grimonpont
Mes commentaires
Les Sapiens que nous sommes ont besoin de rĂ©cits pour diffuser l’information, comme l’a montrĂ© le livre Ă©ponyme de Harari. La montĂ©e de l’accumulation du savoir, illustrĂ©e par exemple par WikipĂ©dia, a atteint ses limites et bloque dĂ©sormais sur sa diffusion.
Sa diffusion a comme obstacle la tendance de notre espèce à subir des biais:
- moindre effort: notre cerveau adore une nouvelle information acquise en un minimum de temps.
- confirmation: choisir parmi des milliers de choix le confort de l’information qui confirme ce qu’on pense déjà .
- négativité: le succès des rubriques faits divers n’est plus à démontrer.
- …
Ces biais sur l’information sont exploités par les réseaux sociaux en ligne de la même manière que nous avons du mal à arrêter de manger après la première chips ou bonbon acidulé. Ces réseaux sont capables de toucher des milliards d’individus et leurs bénéfices dépendent du temps que nous passons dessus.
Ceci pousse ces entreprises Ă privilĂ©gier l’extraction de notre temps de façon industrielle - en tĂ©moigne nos statistiques d’utilisation disponibles sur nos tĂ©lĂ©phones - plutĂ´t que vers la diffusion de savoir utile pour nos dĂ©mocraties et notre santĂ©.
Cette extraction de notre temps est poussée à son paroxysme avec la compétition entre les différents réseaux sociaux, qui descendent jusqu’au plus bas de ce que l’Humanité est capable pour pousser ses utilisateurs à rester sur la plateforme, comme le partage d’adolescent.es à moitié dénudé.es.
A l’heure oĂą l’extrĂŞme-droite gagne du terrain par la diffusion de fake news, l’utilisation du biais de nĂ©gativitĂ©, et sa mainmise sur de nombreux mĂ©dias traditionnels comme Cnews, et oĂą le consensus scientifique est formel sur le lien entre catastrophes naturelles (megafeux, canicules, famine) et l’utilisation d’Ă©nergies fossiles, nous ne pouvons pas compter sur des Ă©co-gestes numĂ©riques, comme la limitation du temps sur les rĂ©seaux sociaux, mais nous devons, Ă travers l’application de lois comme le Digital Service Act, rĂ©guler ces plateformes. Non pas pour crĂ©er une censure ou une atteinte Ă la libertĂ© d’expression - faussement dĂ©fendue par le milliardaire d’extrĂŞme droite Elon Musk - mais pour crĂ©er un espace de libertĂ© oĂą l’information peut circuler - de la mĂŞme manière que le code de la route permet un meilleur transport des passagers plutĂ´t que de laisser certaines personnes en tuer d’autres en roulant Ă une extrĂŞme vitesse non rĂ©gulĂ©e.
Quelques extraits choisis du livre
Si une fraction de la population mondiale peut, grâce Ă YouTube et autres Facebook, avoir accès Ă une information encyclopĂ©dique qui lui permet de gagner en hauteur de vue et en autonomie de jugement, pour l’essentiel de nos concitoyens c’est l’inverse qui se produit: ces rĂ©seaux rĂ©trĂ©cissent le champ de vision, en ne proposant que des informations qui confortent des opinions prĂ©existantes, et l’expĂ©rience montre que cet effet est d’autant plus prononcĂ© que l’opinion est en contradiction avec les faits.
Nous disposons tous de vingt-quatre heures quotidiennes, dont un moindre nombre d’heures de cerveau disponible que nous pouvons allouer Ă diffĂ©rentes activitĂ©s, parmi lesquelles les rĂ©seaux sociaux. Cette quĂŞte impitoyable de notre temps de cerveau disponible - et des revenus associĂ©s porte le nom d’Ă©conomie de l’attention.
Le patron de TF1 dĂ©clarait: “Ce que nous vendons Ă Coca-Cola, c’est du temps de cerveau humain disponible!”
Les conditions Ă remplir pour accĂ©der Ă cette promotion algorithmique sont antagonistes avec toute prĂ©occupation de qualitĂ© ou d’honnĂŞtetĂ© intellectuelle. Comme souligne le sociologue GĂ©rald Bronner, la pression concurrentielle pour accĂ©der Ă notre attention sur un marchĂ© dĂ©rĂ©gulĂ© constitue la pire des censures, car celle-ci contraint les mĂ©dias Ă traiter le sujet plutĂ´t que tel autre pour espĂ©rer ĂŞtre lu.
En se prĂ©tendant garantes de la libertĂ© d’expression, les plateformes sociales se font les porte-paroles les plus puissants ayant jamais existĂ© des informations fausses, des idĂ©es clivantes, des dĂ©clarations mensongères et des thĂ©ories complotistes. En prĂ©tendant nous connecter, elles isolent les individus et diminuent le temps passĂ© en famille et entre amis. En prĂ©tendant favoriser l’Ă©change et le dĂ©bat, elles attisent notre attrait pour le conflit, nous enferment dans des bulles informationnelles, nous incitent au retranchement idĂ©ologique, atomisent la sociĂ©tĂ© et Ă©rodent notre socle de valeurs communes
Elles sont tout d’abord dangereuses par essence : maximiser par tous les moyens possibles le temps passĂ© par leurs utilisateurs reprĂ©sente une menace directe pour notre dĂ©veloppement cognitif et notre santĂ© mentale. On l’a vu, l’absence de normes nutritionnelles contraignantes a laissĂ© le marchĂ© agroalimentaire se muer en une cause majeure de dĂ©gradation de la santĂ© publique. Les campagnes de sensibilisation individuelle, pas plus que les soins curatifs, ne suffisent Ă endiguer la progression du surpoids et des maladies associĂ©es. De façon semblable, la quĂŞte dĂ©rĂ©gulĂ©e de notre temps d’attention a pour consĂ©quence directe une atteinte Ă notre santĂ© psychologique
Les profits rĂ©alisĂ©s par plateformes sociales sont presque exclusivement fondĂ©s (…) sur la rĂ©tention de leurs utilisateurs. Toute volontĂ© de rĂ©orienter significativement leurs IA de recommandation ou le design de leurs applications se heurtera donc directement Ă leur sem d’ĂŞtre : des machines Ă convertir notre attention en revenus publicitaires. Les initiatives d’auto-limitation des plateformes sont donc ures Ă n’avoir qu’un effet Ă la marge et ne remettent pas en cause modèle Ă©conomique : l’extraction de notre temps d’attention.
Le budget R&D de Meta atteint 18 milliards de dollars et celui du groupe Alphabet (sociĂ©tĂ© mère de Google), 28 milliards de dollars. Ces montants dĂ©passent d’un facteur dix celui de n’importe quelle grande universitĂ© amĂ©ricaine.
Il n’est pas exagĂ©rĂ© d’affirmer que les gĂ©ants du numĂ©rique contrĂ´lent la majoritĂ© des efforts de recherche dans chaque discipline susceptible de trouver une application rentable dans l’Ă©conomie de l’attention :IA, science des donnĂ©es,…
Quand les Ă©tudes ne vont pas dans leur sens, Google n’hĂ©site pas Ă licencier. Timnit Gebru, co-dirigeait “Ă©thique des IA”, a Ă©tĂ© licenciĂ© en 2020 suite Ă une Ă©tude pointant des failles chez Google. Cela n’empĂŞche pas le CEO de Google Sundar PichaĂŻ d’appeler publiquement Ă davantage de recherche et de rĂ©gulation d’un autre cĂ´tĂ©.
Frances Haugen, ex employĂ©e de FB et diplĂ´mĂ©e de Harvard, accuse Facebook de “faire primer sa croissance sur la sĂ©curitĂ©” en mentant dĂ©libĂ©rĂ©ment au public et aux autoritĂ©s sur l’efficacitĂ© des actions qu’elle mène pour lutter contre la haine en ligne et la dĂ©sinformation. Les documents dĂ©voilĂ©s non seulement corroborent les dangers identifiĂ©s par de nombreuses recherches externes, mais en plus dĂ©montrent que la direction de Facebook dispose d’une connaissance aiguĂ« de ces problèmes et n’agit pas pour les rĂ©soudre
Pourtant, la guerre de l’attention qui fait rage sous nos yeux donne lieu Ă une censure d’un autre type, celle de la soumission aux intĂ©rĂŞts commerciaux et de la pression dĂ©bridĂ©e pour l’audience. Ce marchĂ© dĂ©rĂ©gulĂ© s’avère si toxique pour santĂ© mentale, si nĂ©faste pour nos sociĂ©tĂ©s et si dangereux pour dĂ©mocraties, que certaines politiques chinoises semblent paradoxalement enviables, y compris selon nos standards culturels
Cette stratĂ©gie postule que l’expansion Ă©conomique permanente est compatible avec la prĂ©servation des grands Ă©quilibres garants de l’habitabilitĂ© de la planète, puisque les progrès technologiques permettent de dissocier la croissance du PIB de la consommation de ressources. Toutes les Ă©tudes existantes concluent cependant dans le sens contraire : il n’existe Ă ce jour aucune preuve de la possibilitĂ© d’un dĂ©couplage entre la production Ă©conomique et la consommation matĂ©rielle Ă l’Ă©chelle mondiale
Pour produire des effets significatifs, les changements de comportements individuels doivent ĂŞtre coordonnĂ©s Ă grande Ă©chelle. faute de quoi ils sont condamnĂ©s Ă se fondre dans le bruit statistique de nos prĂ©fĂ©rences interpersonnelles. C’est tout le sens d’un projet politique que d’actionner le changement Ă une Ă©chelle dĂ©passant l’individu. Pour crĂ©er des services publics, nous ne nous contentons pas d’incanter la charitĂ© et le partage: nous levons un impĂ´t. Pour faire progresser l’alphabĂ©tisation, nous ne plaçons pas nos espoirs dans un Ă©veil spontanĂ© des consciences: nous interdisons le travail des mineurs et finançons l’Ă©cole obligatoire. Pour combattre le crime, nous n’en appelons pas seulement Ă plus d’empathie et de bienveillance envers notre prochain: nous finançons des programmes de rĂ©insertion et criminalisons la vente de drogues et d’armes Ă feu. De mĂŞme, il est tout Ă fait vain de nous en remettre aux Ă©co-gestes individuels pour combattre le changement climatique ou l’effondrement de la biodiversitĂ©. Nos comportements doivent changer Ă grande Ă©chelle et cela n’aura pas lieu sans un changement culturel et politique de grande envergure, seule hypothèse permettant d’imaginer soumettre nos intĂ©rĂŞts individuels de court terme Ă l’intĂ©rĂŞt collectif de long terme.
Notre socle de valeurs communes n’est donc pas plus universel ni intemporel que celui de nos connaissances. Qui plus est, les changements culturels et politiques semblent connaĂ®tre une forte accĂ©lĂ©ration, puisque ceux-ci prennent appui sur un volume d’Ă©changes et une vitesse de communications absolument inĂ©galĂ©s avant l’ère d’internet et des rĂ©seaux sociaux.
John Stuart Mill et son postulat de base (sur la dĂ©fense de la libertĂ© d’expression) - lorsque mises en concurrence, les idĂ©es vraies l’emportent - se voit contredit par les connaissances les plus basiques de psychologie sociale.
Depuis des siècles les philosophes dĂ©battent du concept de vĂ©ritĂ© et des meilleurs moyens de l’approcher. Si aucune rĂ©ponse dĂ©finitive n’a Ă©tĂ© apportĂ©e Ă cette vaste question d’Ă©pistĂ©mologie, une chose est certaine : les mĂ©thodes conçues pour mieux cerner la rĂ©alitĂ©, telles que la science, s’Ă©loignent en tout point d’un marchĂ© oĂą chaque prĂŞcheur ferait commerce de ses idĂ©es Ă qui veut bien les Ă©couter. Dès l’AntiquitĂ©, les penseurs grecs faisaient une distinction claire entre la philosophie, dont le but Ă©tait d’approcher la vĂ©ritĂ©, et la rhĂ©torique, dont l’objectif Ă©tait de persuader. LĂ oĂą la raison et la logique (le logos) devaient commander le philosophe, c’est avant tout l’art de vĂ©hiculer des Ă©motions (le pathos) et de renvoyer la meilleure image de soi (l’ethos) qui donnait au rhĂ©toricien sa force de persuasion.
Marx Ă©crit dès 1845: “Ă€ toute Ă©poque, les idĂ©es de la classe dominante sont les idĂ©es dominantes; autrement dit, la classe qui est la puissance matĂ©rielle dominante de la sociĂ©tĂ© est en mĂŞme temps la puissance spirituelle dominante. La classe qui dispose des moyens de la production matĂ©rielle dispose en mĂŞme temps, de ce fait, des moyens de la production intellectuelle, si bien qu’en gĂ©nĂ©ral, elle exerce son pouvoir sur les idĂ©es de ceux Ă qui ces moyens font dĂ©faut”.En 2016 a Ă©tĂ© publiĂ©e une vaste enquĂŞte analysant la propriĂ©tĂ© des mĂ©dias Ă travers le monde. L’ouvrage, intitulĂ© Who Owns the World’s Media? (“Qui dĂ©tient les mĂ©dias sur terre ?”) couvre trente pays et treize types d’industries mĂ©diatiques incluant la tĂ©lĂ©vision, la presse, l’Ă©dition de livres, la production de films, les moteurs de recherche ou encore les fournisseurs d’accès Ă internet. Les auteurs estiment qu’Ă l’Ă©chelle mondiale, les gouvernements contrĂ´lent environ un tiers des grandes structures mĂ©diatiques, les grandes sociĂ©tĂ©s privĂ©es un autre tiers, les individus et familles fortunĂ©es le dernier tiers. Dans la plupart des pays occidentaux Ă©tudiĂ©s, un petit nombre de milliardaires et de groupes tentaculaires contrĂ´lent la majoritĂ© des mĂ©dias. La France n’est pas exception (…)
Donner libre cours Ă nos pulsions dans un environnement que nous ne contrĂ´lons pas n’a rien Ă voir avec l’exercice de la libertĂ© d’opinion. Une libertĂ© pleine et entière requiert que nous nous informions consciemment et suivant notre volontĂ© profonde. Pour Rousseau, “seule [la libertĂ© morale] rend l’homme vraiment maĂ®tre de lui; car l’impulsion du seul appĂ©tit est esclavage, et lobeisance Ă la loi qu’on s’est prescrite est libertĂ©”.
Les megafeux de 2019 en Australie ont causĂ© la mort d’environ 3 milliards d’animaux sauvages" et provoquĂ©, d’après une Ă©quipe internationale de scientifiques, “la perte d’habitat d’espèces menacĂ©es et la dĂ©vastation d’Ă©cosystèmes les plus spectaculaires de l’histoire postcoloniale”.
Quelle histoire l’Australie en a-t-elle retenu? Une Ă©tude rĂ©trospective dĂ©taillĂ©e a analysĂ© les types de rĂ©cit les plus communĂ©ment dĂ©ployĂ©s par les mĂ©dias australiens pour couvrir le Black Summer : le rĂ©cit intitulĂ© “Triomphe de l’humanitĂ©” arrive en tĂŞte du classement avec 18% des articles. Ce type de rĂ©cit mettait en avant les efforts hĂ©roĂŻques des pompiers ainsi que l’esprit d’entraide spon- tanĂ© ayant Ă©mergĂ© dans la population. Sur la totalitĂ© des articles de presse traitant des mĂ©gafeux, seuls 16% Ă©tablissaient un lien direct avec le changement climatique et moins de 2% appelaient Ă agir politiquement. Une partie de l’explication tient Ă ce que le paysage mĂ©diatique australien est l’un des plus concentrĂ©s au monde. Un seul homme, Rupert Murdoch, y est Ă la tĂŞte d’un empire contrĂ´lant plus de la moitiĂ© du marchĂ© de la presse papier et plus du quart du marchĂ© de l’information en ligne. Ses journaux constituent le premier relais du dĂ©ni climatique et sont entre autres connus pour avoir fait pression pour abroger la taxe carbone*7, Vient ensuite le filtre des rĂ©seaux sociaux, qui n’ont pas dĂ©rogĂ© Ă leur rĂ´le habituel : “Au mieux, ils ont massivement amplifiĂ© les informations fausses ou trompeuses. Au pire, ils ont activement contribuĂ© Ă des campagnes de dĂ©sinformation”
Quelles consĂ©quences ont produit ces rĂ©cits sur les idĂ©es et modes de vie des Australiens? Du cĂ´tĂ© des idĂ©es, l’Australie est l’un des pays oĂą le dĂ©ni climatique est le plus Ă©levĂ© au monde et aucun changement significatif en la matière n’est Ă relever Ă la suite du Black Summer. Du cĂ´tĂ© des comportements, les vĂ©hicules de type SUV y ont atteint leur record de vente en 2020, c’est-Ă -dire l’annĂ©e suivant celle du dĂ©sastre". La consommation de viande y est la plus Ă©levĂ©e au monde et ne cesse de croĂ®tre. Les Ă©missions de carbone par habitant y sont les plus Ă©levĂ©es au monde
Le cas de l’Australie est paroxystique mais pas isolĂ©: il illustre la cĂ©citĂ© dans laquelle se trouve plongĂ©e la majeure partie de l’humanitĂ© contemporaine face au gouffre Ă©cologique. ÉloignĂ©s dans le temps, dans l’espace mais surtout par la pensĂ©e des consĂ©quences de nos actes, nous sommes mus par des histoires qui impriment sur nos comportements l’intĂ©rĂŞt de ceux qui les propagent.
Cette machine trouve les ressorts de son efficacitĂ© dans sa propension Ă susciter notre addiction en stimulant nos pulsions instantanĂ©es. Les pulsions dĂ©chaĂ®nent les passions; les passions Ă©clipsent la raison; les croyances et la superstition remettent en cause les connaissances scientifiques les mieux Ă©tablies. Notre socle de valeurs communes s’effrite et la distraction divertit notre attention des prioritĂ©s collectives. Les histoires sont en compĂ©tition dans une arène oĂą les coups bas sont non seulement permis mais encouragĂ©s: plus elles nous divisent, plus elles nous mentent et plus elles sont propulsĂ©es.
Pourtant, nul dĂ©terminisme technologique ne nous condamne au pire. Nous sommes confrontĂ©s Ă des dĂ©fis que seule une coopĂ©ration d’envergure planĂ©taire nous permettra de relever. RĂ©soudre ces dĂ©fis impose de mettre les mĂ©dias, les plateformes sociales et leurs IA de recommandation au service du bien commun. RĂ©guler et encadrer les rĂ©seaux sociaux n’est plus une option.