Mustafa Suleyman : Confinement pour l’IA

Les deux dernières années ont été marquées par des progrès surprenants dans le domaine de l’intelligence artificielle. Les prochaines années promettent bien davantage, avec l’émergence probable de modèles plus grands et plus efficaces, capables d’une réelle créativité et d’une planification complexe. Les avantages potentiels sont étonnants, notamment une productivité accrue des entreprises, des soins de santé moins chers et plus efficaces, des découvertes scientifiques et des programmes éducatifs adaptés aux besoins de chaque enfant. Mais les risques sont également colossaux. Il s’agit notamment de la prolifération de la désinformation, des pertes d’emplois et de la probabilité que de mauvais acteurs cherchent à utiliser les nouvelles technologies pour semer le chaos.

Cette technologie va proliférer rapidement. Cela signifie qu’au cours des dix prochaines années, lutter contre la tendance intrinsèque de l’IA à une propagation incontrôlée deviendra un défi générationnel. Cela nécessitera donc une réponse générationnelle similaire à celle que l’Occident a mobilisée au début de la guerre froide. À cette époque, le diplomate américain George F. Kennan parlait de contenir l’Union soviétique en utilisant la force dure et la pression économique et culturelle pour garantir que les Soviétiques restent derrière leurs frontières et que le monde démocratique ne soit pas submergé. Le défi d’aujourd’hui nécessite un programme tout aussi vaste et ambitieux, en l’occurrence pour garder l’IA sous contrôle et les sociétés sous contrôle. Ce sera, comme celui de Kennan, un effort fondé sur les lois et les traités. Mais cela nécessitera également un mouvement mondial massif et des changements dans la culture des entreprises technologiques. Cette forme moderne de confinement sera nécessaire non seulement pour gérer l’IA et l’empêcher de créer une catastrophe, mais aussi pour garantir qu’elle devienne l’une des inventions les plus extraordinairement bénéfiques de l’histoire de l’humanité.

LA MARÉE MONTE TOUJOURS

Tout au long de l’histoire de l’humanité, il existe une loi unique, apparemment immuable : chaque technologie fondamentale jamais inventée – des pioches aux charrues, de la poterie à la photographie, des téléphones aux avions – deviendra moins chère et plus facile à utiliser. Cela se propagera partout. L’écosystème de l’invention est par défaut en expansion. Et les gens qui dirigent toujours ce processus sont Homo technologiquel’espèce intrinsèquement technologique.

Prenons l’exemple de l’imprimerie. Dans les années 1440, après son invention par Johannes Gutenberg, il n’en restait qu’un seul exemplaire en Europe : son original à Mayence, en Allemagne. Mais à peine 50 ans plus tard, il existait environ 1 000 presses réparties sur tout le continent. Les résultats ont été extraordinaires. Au Moyen Âge, de grands pays dont la France et l’Italie produisaient chacun quelques centaines de milliers de manuscrits par siècle. Cent ans plus tard, ils produisaient chacun environ 400 000 livres par an, et le rythme s’accélérait. Rien qu’au XVIIe siècle, les pays européens ont imprimé 500 millions de livres.

La même tendance a été observée avec le moteur à combustion interne. Il s’agissait d’une invention délicate qui a mis plus de 100 ans à se perfectionner. Finalement, dans les années 1870, il n’existait que quelques exemplaires fonctionnels dans les ateliers allemands. La technologie était encore naissante, limitée en nombre et totalement marginale. Huit ans après avoir inventé la première automobile pratique en 1885, l’ingénieur allemand Carl Benz n’avait vendu que 69 voitures. Mais un peu plus de 100 ans plus tard, il existait plus de deux milliards de moteurs à combustion interne de toutes formes et tailles imaginables, alimentant tout, des tondeuses à gazon aux porte-conteneurs.

Certaines technologies, notamment les armes nucléaires, pourraient sembler aller à l’encontre de cette tendance. Après tout, 80 ans après leur création, ils n’ont été utilisés que deux fois, par les États-Unis en 1945, et leurs arsenaux sont bien en baisse par rapport à leurs sommets des années 1980. Bien qu’il y ait une part de vérité dans ce contre-argument, il ignore cependant les milliers d’ogives nucléaires encore déployées dans le monde, la pression constante des nouveaux États cherchant à les construire, et la litanie effrayante d’accidents et d’accidents évités de justesse qui, depuis le début, , sont une caractéristique régulière et, pour des raisons évidentes, sous-estimée de ces armes. Depuis le drame de la crise des missiles de Cuba en 1962 jusqu’à la disparition de matières nucléaires dans la voiture d’un employé du gouvernement américain en 2017, les armes nucléaires n’ont jamais été véritablement maîtrisées, même si une catastrophe pure et simple a été évitée. Si des technologies telles que les armes nucléaires constituent une exception à la règle de la diffusion technologique, elles constituent, au mieux, une exception très partielle et préoccupante.

LE DÉLUGE IMMINANT

Il est inévitable que l’IA suive la trajectoire du hache à main, de la presse à imprimer, du moteur à combustion interne et d’Internet. Lui aussi sera partout et il s’améliorera constamment. Cela se produit déjà. En quelques années seulement, les modèles de pointe sont passés de millions de paramètres, ou de variables ajustées lors de la formation, à des milliards, ce qui indique la complexité toujours croissante de ces systèmes. Au cours de la dernière décennie, la quantité de calcul utilisée pour entraîner de grands modèles d’IA a augmenté de neuf ordres de grandeur. La loi de Moore, selon laquelle la puissance de calcul double tous les deux ans, prédit une augmentation exponentielle de ce que les ordinateurs peuvent faire. Mais les progrès ont été encore plus rapides dans le domaine de l’IA, avec des tendances à la baisse des coûts et à l’amélioration des capacités qui suivent une courbe dépassant tout ce que l’on a pu observer auparavant avec une technologie. Les résultats sont visibles dans les produits d’IA bien connus, mais s’avèrent également transformateurs sous la surface du monde numérique, alimentant les logiciels, organisant les entrepôts, faisant fonctionner les équipements médicaux, conduisant des véhicules et gérant les réseaux électriques.

À mesure que la prochaine phase de l’IA se développera, une puissante génération d’agents d’IA autonomes, capables d’atteindre des objectifs concrets, émergera. Bien que cela soit souvent appelé intelligence artificielle générale, je préfère le terme « intelligence artificielle capable » ou ACI, qui est une étape avant l’AGI complète, dans laquelle l’IA peut néanmoins accomplir une série de tâches de manière autonome. Cette technologie peut accomplir des activités complexes au nom des humains, depuis l’organisation d’une fête d’anniversaire jusqu’à la réalisation des courses hebdomadaires, en plus de quelque chose d’aussi important que la création et la gestion d’un secteur d’activité complet. Il s’agira d’une étape sismique pour la technologie, avec des implications transformatrices pour la nature du pouvoir et l’économie mondiale. On peut s’attendre à ce qu’elle prolifère rapidement et de manière irréversible.

Un ACI dans la poche de chacun se traduira par des augmentations colossales de la croissance économique, dans la mesure où le plus important outil d’amélioration de la productivité observé depuis des générations deviendra aussi omniprésent que l’électricité. ACI révolutionnera des domaines tels que les soins de santé, l’éducation et la production d’énergie. Surtout, cela donnera aux gens la possibilité de réaliser ce qu’ils veulent dans la vie. Il y a actuellement pas mal de discours pessimistes sur l’IA, mais au milieu d’inquiétudes bien justifiées, il est important de garder à l’esprit les nombreux avantages de l’IA. C’est particulièrement le cas pour ACI, qui a le potentiel de donner à chacun accès au meilleur assistant, chef de cabinet, avocat, médecin et équipe polyvalente au monde.

Pourtant, les inconvénients ne peuvent être ignorés. Pour commencer, l’IA va déclencher une série de nouveaux dangers. Le plus grave d’entre eux sera peut-être les nouvelles formes de désinformation et de désinformation. Quelques commandes linguistiques simples peuvent désormais produire des images (et, de plus en plus, des vidéos) d’une fidélité stupéfiante. Lorsque des gouvernements hostiles, des partis politiques marginaux et des acteurs isolés peuvent créer et diffuser du matériel impossible à distinguer de la réalité, ils seront capables de semer le chaos, et les outils de vérification conçus pour les arrêter pourraient bien être dépassés par les systèmes génératifs. Les deepfakes ont provoqué des troubles sur le marché boursier l’année dernière lorsqu’une image concoctée du Pentagone en feu a provoqué une baisse momentanée mais perceptible des indices, et il est probable qu’ils occuperont une place importante dans la course électorale actuelle aux États-Unis.

De nombreux autres problèmes devraient résulter des progrès mondiaux de l’IA. L’automatisation menace de perturber le marché du travail et le potentiel d’immenses cyberattaques augmente. Une fois que de nouvelles formes puissantes d’IA se seront répandues, tout le bien et tout le mal seront disponibles à tous les niveaux de la société : entre les mains des PDG, des vendeurs ambulants et des terroristes.

ARRÊTER LA PROPAGATION

L’attention de la plupart des gens s’est à juste titre concentrée sur les implications sociales et éthiques de ce changement. Mais cette discussion néglige souvent de prendre en compte la tendance de la technologie à pénétrer toutes les couches de la civilisation, et c’est précisément cela qui nécessite une action drastique. C’est la tendance de la technologie à se propager rapidement, loin et largement qui exige que l’IA soit contenue, tant dans sa prolifération que dans ses impacts négatifs, lorsque ces derniers se produisent. Le confinement est une tâche ardue, compte tenu de l’histoire et de la trajectoire de l’innovation, mais c’est la seule réponse – aussi difficile soit-elle – à la manière dont l’humanité devrait gérer le déploiement le plus rapide de la nouvelle technologie la plus puissante de l’histoire.

Dans ce sens, le confinement englobe la réglementation, une meilleure sécurité technique, de nouveaux modèles de gouvernance et de propriété, ainsi que de nouveaux modes de responsabilité et de transparence. Tous ces éléments sont nécessaires – mais pas suffisants – pour garantir une technologie plus sûre. Le confinement doit combiner une ingénierie de pointe avec des valeurs éthiques qui éclaireront la réglementation gouvernementale. L’objectif devrait être de créer un ensemble de mécanismes techniques, culturels, juridiques et politiques interdépendants et se renforçant mutuellement pour maintenir le contrôle sociétal de l’IA. Les gouvernements doivent contenir ce qui aurait pu représenter des siècles ou des millénaires de changement technologique, mais qui se déroule désormais en quelques années, voire quelques mois. Le confinement est, en théorie, une réponse au caractère inéluctable de la prolifération, capable à la fois de l’endiguer et de remédier à ses conséquences.

Il ne s’agit pas d’un confinement au sens géopolitique du terme, rappelant les doctrines de Kennan. Il ne s’agit pas non plus de mettre l’IA dans une boîte hermétique, même si certaines technologies – les logiciels malveillants d’IA malveillants et les agents pathogènes artificiels, en particulier – ont précisément besoin de cela. Le confinement de l’IA n’est pas non plus compétitif, dans le sens où il s’agit de chercher à combattre une menace rouge soviétique. Cela ressemble à l’approche de Kennan dans la mesure où le cadre politique doit fonctionner dans toutes les dimensions. Mais contenir la technologie est un programme bien plus fondamental que ce que Kennan envisageait, cherchant un équilibre des pouvoirs non pas entre des acteurs concurrents mais entre les humains et leurs outils. Ce qu’il cherche n’est pas d’arrêter la technologie mais de la maintenir sûre et contrôlée.

La plupart des gens affirment, à juste titre, que la réglementation est nécessaire, tandis que l’on a tendance à croire qu’elle est suffisante. Ce n’est pas. Dans la pratique, le confinement doit fonctionner à tous les niveaux où la technologie opère. Elle a donc besoin non seulement de législateurs et de bureaucrates proactifs et bien informés, mais également de technologues et de dirigeants d’entreprise. Il a besoin que les diplomates et les dirigeants coopèrent au niveau international pour construire des ponts et combler les lacunes. Il faut que les consommateurs et les citoyens du monde entier exigent mieux de la technologie et veillent à ce qu’elle reste centrée sur leurs intérêts. Il faut qu’ils militent et s’attendent à une technologie responsable, tout comme la demande croissante d’énergie verte et de produits respectueux de l’environnement a incité les entreprises et les gouvernements à agir.

PILOTAGE SANS CARTE

Le confinement nécessitera que des questions techniques difficiles soient résolues à la fois par les traités internationaux et par les mouvements mondiaux de masse. Il doit englober les travaux sur la sécurité de l’IA, ainsi que les mécanismes d’audit nécessaires pour surveiller et faire respecter la conformité. Les entreprises à l’origine de l’IA joueront un rôle essentiel dans cet effort et devront réfléchir attentivement à la manière d’aligner leurs propres incitations sur la réglementation gouvernementale. Pourtant, contenir l’IA ne relèvera pas de la seule responsabilité de ceux qui construisent sa prochaine génération. Cela ne dépendra pas non plus entièrement des dirigeants nationaux. Au contraire, tous ceux qui en seront affectés (c’est-à-dire tout le monde) joueront un rôle essentiel pour créer une dynamique derrière cet effort. Le confinement offre un mélange de politiques capables de fonctionner depuis les détails les plus fins d’un modèle d’IA jusqu’à d’énormes programmes publics qui pourraient atténuer de vastes destructions d’emplois.

Collectivement, ce projet pourrait s’avérer à la hauteur de ce moment et capable de contrecarrer les nombreux risques que pose l’IA. L’effet cumulatif de ces mesures – qui doivent inclure des régimes de licences, le recrutement d’une génération d’entreprises critiques et la création de mécanismes intégrés pour garantir l’accès aux systèmes avancés – est de maintenir l’humanité aux commandes de cette série de changements historiques. , et capable, à la limite, de dire non. Aucune de ces étapes ne sera facile. Après tout, la prolifération incontrôlée a été la norme tout au long de l’histoire de l’humanité. Le confinement ne doit donc pas être considéré comme la réponse finale à tous les problèmes technologiques mais plutôt comme la première étape critique.