Intelligence artificielle : remettre en question le statu quo

Réglementer correctement l’intelligence artificielle est l’un des problèmes les plus urgents auxquels notre espèce est confrontée, et aussi l’un des plus délicats. L’IA a le potentiel d’améliorer la plupart des aspects de nos vies ; Le directeur général d’Alphabet, Sundar Pichai, affirme que son impact sera « plus profond que l’électricité ou le feu ».

Il a également le potentiel de nous nuire profondément ; dans une enquête menée auprès de chercheurs en intelligence artificielle, 48 % pensaient qu’il y avait au moins 10 % de chances que son impact soit « extrêmement mauvais », c’est-à-dire qu’il conduise à l’extinction humaine.

Comment pouvons-nous maximiser les avantages de la nouvelle technologie et minimiser les inconvénients ?

C’est le sujet au cœur d’un nouveau livre important par deux éminents économistes. Daron Acemoglu et Simon Johnson sont professeurs au Massachusetts Institute of Technology, l’un des principaux temples du culte de la technologie. Acemoglu est le co-auteur (avec James Robinson) de « Why Nations Fail: The Origins of Power, Prosperity and Poverty ». Johnson est un ancien économiste en chef du Fonds monétaire international. Dans « Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity », ils examinent un millénaire d’innovation technologique pour comprendre l’impact probable de l’IA.

La réponse à laquelle ils arrivent n’est pas réjouissante, bien qu’ils soient parvenus à cette conclusion par le biais d’un populisme brahmane irritant. C’est un livre écrit pour les gens qui traînent dans des quartiers d’innovation oints comme Kendall Square à Cambridge, Mass., ou dans les couloirs privilégiés de Harvard.

Acemoglu et Johnson rejettent la vision techno-optimiste selon laquelle la technologie entraîne inévitablement le progrès dans son sillage au cœur d’un certain type de libéralisme. Ils disent qu’il n’y a rien d’automatique à ce que les nouvelles technologies apportent une prospérité généralisée.

Tout au long de l’histoire, des élites puissantes ont pris le contrôle des nouvelles technologies et les ont utilisées pour s’enrichir et étendre leur contrôle sur leurs subordonnés. Il ne s’agit pas seulement d’extraire le surplus généré par les gains de productivité. Cela implique de fausser les façons dont la technologie est développée et appliquée pour profiter à un groupe plutôt qu’à un autre.

Voici quelques exemples tirés du livre. Les améliorations de l’agriculture au Moyen Âge – meilleures charrues, rotation des cultures et moulins – ont enrichi les propriétaires et le clergé tout en aggravant souvent la situation des paysans. L’égreneuse de coton d’Eli Whitney, qui a considérablement amélioré la productivité de l’industrie du coton en facilitant la séparation de la fibre de la plante de ses graines vertes collantes, a contribué à enraciner l’esclavage et à étendre son adoption aux États-Unis. La révolution technologique à partir des années 1980 a fait des patrons riches tout en maintenant les revenus des travailleurs à un niveau stable, grâce à une combinaison d’externalisation, de réingénierie et d’idéologie.

Les auteurs admettent que le progrès technologique est souvent l’œuvre de challengers du statu quo. La révolution industrielle britannique a été menée par « le genre moyen » d’artisans autodidactes qui ont révolutionné la production à la vapeur pendant que les élites paonnaient. George Stephenson, inventeur du train Rocket, était le fils de parents analphabètes pauvres du Northumberland. Richard Arkwright, dont les innovations ont révolutionné l’industrie textile, était le fils d’un tailleur. Mais ces technologies et leurs créateurs ont finalement été cooptés par la classe dirigeante.

Des forces compensatoires peuvent se présenter et rediriger la technologie de l’enrichissement des élites vers la création de gains partagés. Les auteurs louent la combinaison de la concurrence électorale, du pouvoir syndical et de la réforme des intellectuels et des politiciens. Pourtant, les auteurs craignent que l’IA n’explose dans un monde où de telles forces ont été émasculées. Les titans des affaires jouissent de plus de pouvoir et de prestige qu’ils n’en ont depuis l’âge d’or, le travail organisé est chétif et la démocratie a été capturée par l’argent. La formule gagnante (innovation plus conseils) a été remplacée par une formule perdante (laisser les élites contrôler la technologie).

Selon Acemoglu et Johnson, la révolution numérique a déjà été détournée par des élites égoïstes. Le monde de rêve des pirates informatiques de puissance distribuée et d’innovation ouverte a été remplacé par un paysage infernal d’oligopole de géants de la technologie. Ceux-ci utilisent des machines et des algorithmes pour remplacer les travailleurs : ils surveillent les employés pour en tirer plus de plus-value.

« L’une des choses que nous entendons constamment de la part des travailleurs, c’est qu’ils sont traités comme des robots en fait parce qu’ils sont surveillés et supervisés par ces systèmes automatisés », a déclaré un défenseur des droits des travailleurs cité dans le livre.

Le nouvel oligopole a créé le capitalisme de surveillance : un système économique qui rassemble toujours plus d’informations sur nous tous pour les vendre aux annonceurs. Ces annonceurs, ainsi que les magnats des médias, peuvent utiliser ces informations pour manipuler les masses plus efficacement qu’elles ne l’ont jamais été auparavant, en personnalisant les publicités, en façonnant l’environnement de l’information et en jouant avec les émotions des gens. Le résultat est un défi fondamental à la notion d’individu souverain de John Stuart Mill au XIXe siècle.

La principale préoccupation des auteurs à propos de l’IA n’est pas qu’elle fasse quelque chose d’inattendu comme faire exploser le monde, bien que ce ne soit pas souhaitable. C’est qu’il va suralimenter le régime actuel de surveillance, de substitution de main-d’œuvre et de manipulation émotionnelle. Leur grande solution consiste à utiliser la politique publique pour recentrer la nouvelle technologie de « l’intelligence de la machine » vers « l’utilité de la machine ». Mais ils avertissent qu’avant que nous puissions avoir une chance de le faire, nous devons éduquer l’opinion publique et recharger la démocratie.

Le livre propose un ensemble intéressant de politiques pour produire une meilleure version de l’avenir : fournir des subventions gouvernementales pour développer des technologies plus socialement bénéfiques ; refuser de breveter des technologies destinées à la surveillance des travailleurs ou des citoyens ; éliminer les incitations fiscales pour remplacer la main-d’œuvre par des machines ; démanteler les grandes entreprises technologiques qui jouissent de parts de marché sans précédent depuis l’époque des industriels américains John D. Rockefeller et Andrew Carnegie ; abroger le secteur 230 de la Communications Decency Act de 1996 qui protège les plates-formes Internet contre les poursuites ou la réglementation en raison du contenu qu’elles hébergent, et imposer une taxe sur la publicité numérique.

La conviction qu’il faut faire quelque chose à propos de la technologie n’est pas aussi originale que semblent le penser Acemoglu et Johnson. La toute première phrase du livre est : « Chaque jour, nous entendons dire par des cadres, des journalistes, des politiciens que nous nous dirigeons sans relâche vers un monde meilleur, grâce à des avancées technologiques sans précédent. » En fait, chaque jour, la plupart d’entre nous entendons le contraire.

Il y a beaucoup d’anxiété populaire et médiatique à propos de l’IA. Elon Musk a rejoint des dizaines de sommités technologiques appelant à une pause de six mois dans la création des formes les plus avancées pendant que nous acceptons ses implications. Henry Kissinger, le maître stratège qui vient d’avoir 100 ans, craint que l’IA, en tant que maximiseur d’efficacité, n’oriente les futurs conflits militaires vers une sauvagerie sans précédent.

Plutôt que le voyage à sens unique vers la perdition high-tech évoqué par les auteurs, nous sommes peut-être en train de faire un choix important ; en effet, réaffirmant Mill à la fin.

Il y a une sorte de myopie volontaire dans le livre. Acemoglu et Johnson parlent peu des avantages que l’innovation technologique apporte aux consommateurs. Ce qui frappe le plus dans les innovations du XIXe siècle, par exemple, ce n’est pas leur impact sur les salaires, comme l’affirment les auteurs, mais leur impact sur la qualité de la vie en général. Les personnes qui vivaient dans l’obscurité pouvaient invoquer la lumière après le coucher du soleil, grâce à l’électricité. Des gens qui n’avaient jamais été à plus de quelques kilomètres de chez eux pouvaient traverser le pays grâce au chemin de fer.

Le rôle libérateur de la technologie s’est accéléré au XXe siècle : pensez au rôle de la radio pour divertir les fermes isolées, ou de la machine à laver et de l’aspirateur pour réduire le temps passé aux corvées domestiques. Ces avantages ne sont pas le résultat d’intellectuels bienveillants divisant le surplus pour le bien commun, mais de capitalistes recherchant le profit en vendant aux gens ce qu’ils veulent.

Les auteurs ont une manière distrayante de diviser le monde en élites (mauvaises) et en peuple (bonnes). En vérité, les élites comprennent de nombreux réformateurs : des commerçants libres comme Robert Peel, dont l’abrogation des lois sur le maïs en 1846 a inauguré l’ère des petits déjeuners abordables. Les gens ne sont pas toujours des anges. Les syndicats ont été des obstacles à l’introduction des nouvelles technologies. Les syndicats britanniques de l’imprimerie, qui se sont battus pendant des années pour empêcher l’introduction de l’impression électronique, étaient connus pour leurs pratiques restrictives et l’emploi de travailleurs fantômes.

Acemoglu et Johnson ne reconnaissent pas à quel point « le peuple » peut parfois agir en tant qu’intérêts acquis plutôt qu’en tant qu’apôtres du bien commun. L’astuce consiste à trouver un équilibre entre permettre au marché de produire ses avantages (souvent imprévus) grâce à la concurrence et empêcher qu’il ne soit faussé par des intérêts particuliers. Cela ne peut se faire qu’en ayant une vision claire à la fois du « peuple » et des « élites ».

Malgré tous ses péchés, Big Tech nous a fourni des merveilles électroniques qui mettent une grande partie des connaissances du monde à portée de main. L’IA commence déjà à faire le contraire de ce que les auteurs disent que l’oligopole est en train de comploter : elle donne du pouvoir aux travailleurs réguliers en facilitant la recherche et la présentation d’informations, en nous fournissant à tous notre propre assistant de recherche.

Les auteurs s’inquiètent à juste titre de la manière dont le gouvernement chinois utilise la révolution numérique pour surveiller et réprimer son peuple. Mais qu’en est-il de l’Inde ? Grâce en grande partie à Nandan Nilekani, un milliardaire technologique et président d’Infosys, l’Inde a introduit le plus grand système d’identification biométrique au monde qui fournit à 1,3 milliard d’Indiens une identité numérique. Les personnes qui n’avaient auparavant aucun moyen de prouver leur identité ont désormais accès aux allocations de chômage, aux comptes bancaires et aux services mobiles. Cela a simultanément révolutionné la vie des pauvres et accru la capacité de l’État à contrôler la population.

L’histoire citée dans le livre dans le cadre de son argumentation est également grossière. L’affirmation selon laquelle « l’Angleterre a produit peu de valeur durable pendant toute la période médiévale » pourrait surprendre les admirateurs des universités d’Oxford et de Cambridge, des écrits de Chaucer ou de la Magna Carta.

Dommage que le livre soit si grossier. C’est parce qu’Acemoglu et Johnson soulignent une inquiétude importante quant à l’évolution de l’industrie technologique. Le pouvoir émancipateur d’Internet a sans doute été réduit par le mariage entre Google et la publicité (ce que les fondateurs Larry Page et Sergey Brin n’ont jamais envisagé en tant qu’étudiants). Internet est maintenant autant utilisé pour nous inciter à acheter des choses dont nous n’avons pas besoin que pour démocratiser l’information. Le pouvoir émancipateur de l’IA sera sûrement limité et déformé de la même manière.

Mais la perspective des auteurs limite l’attrait du livre. Selon eux, le « discours de haine » émane toujours des « nationalistes blancs », jamais, disons, des anarchistes et des militants antifa qui ont transformé Portland en zone d’émeute. De nombreuses personnes de droite s’inquiètent également du pouvoir et de l’orientation de la technologie. Les conservateurs s’inquiètent également de la capacité des entreprises technologiques à s’enrichir en se branchant directement sur les côtés les plus bas de notre nature. La meilleure façon de produire un nouveau régime réglementaire est de construire une large coalition qui inclut la droite.

Il n’y a rien d’inévitable dans l’orientation de la technologie. Des personnes puissantes peuvent l’orienter vers des intérêts étroits plutôt que vers le bien commun. Des coalitions clairvoyantes des concernés peuvent la conduire de manière plus éclairée. Le temps presse peut-être compte tenu du rythme d’avancée de l’IA, mais il est encore temps de nous sauver de l’esclavage numérique.