« J’avais vraiment tort » : les experts affirment que l’IA superintelligente pourrait arriver dès l’année prochaine
Certains prévisionnistes qui suivent de près les développements de l’IA ont radicalement révisé leurs prévisions ce mois-ci, affirmant que la « superintelligence artificielle » pourrait arriver des années plus tôt qu’ils ne le pensaient.
Sentinel, un groupe de prévision, s’attend désormais à ce que l’IA surhumaine arrive vers 2028, et non vers 2031. Le projet AI Futures, qui a présenté l’année dernière un scénario dans lequel une IA superintelligente pourrait arriver en 2027, affirme que le développement se déroule plus rapidement que prévu.
Les deux groupes ont modifié leurs prévisions en réponse à un rapport du 5 novembre publié par METR, une organisation à but non lucratif qui évalue les risques liés à l’IA. METR a constaté que la vitesse à laquelle les modèles d’IA s’amélioraient au sein du développeur d’IA Anthropic avait à peu près doublé depuis la fin de l’année dernière, ce qu’il attribuait principalement à l’utilisation intensive d’agents d’IA pour aider à la recherche.
Certains experts pensent que la recherche basée sur l’IA pourrait déclencher une boucle incontrôlable d’amélioration de l’IA, connue sous le nom d’auto-amélioration récursive, une menace qui, selon eux, exige une action rapide.
« Des processus longs et délibérés ne suffiront pas au rythme auquel les choses évoluent », a déclaré Joe O’Brien, chercheur à l’Institute for AI Policy and Strategy, un groupe de réflexion. « C’est un problème qui devra être résolu sous l’administration actuelle, avec le prochain Congrès. Et rapidement. »
« Une grosse mise à jour »
Pour les groupes qui surveillent les progrès du développement de l’IA, le rapport METR est arrivé comme une bombe.
« Ce niveau d’accélération dû à l’IA est très inattendu », a écrit l’AI Futures Project dans une mise à jour du 10 novembre, ajoutant que les chercheurs en IA meilleurs que le meilleur expert humain « arriveront probablement à un moment donné en 2027 (en supposant qu’il n’y ait pas de ralentissement délibéré substantiel) ».
« J’avais sérieusement tort », a écrit Ryan Greenblatt, chercheur au METR, qui n’a pas participé au rapport du 5 novembre sur X. « Ce rapport sur l’automatisation de la R&D en IA (RSI) est une mise à jour importante vers l’ASI (superintelligence artificielle) d’ici 1 à 2 ans. »
Tout le monde n’est pas convaincu. Ramez Naam, informaticien et futuriste qui a fondé la société de capital-risque PlanetaryVC, a écrit sur X que les conclusions du METR sont trop difficiles à vérifier.
« Le rapport METR sur les progrès d’Anthropic manque trop de choses », a écrit Naam. « Je fais entièrement confiance à l’équipe METR pour aborder cette question avec intégrité. Mais nous avons tous des antécédents différents et tirons parfois des conclusions très différentes à partir des mêmes données. »
Les conditions de publication du rapport donnaient au METR l’accès aux données internes d’Anthropic, mais permettaient à Anthropic de supprimer toutes ces données du rapport public. Cela comprenait la suppression de ce que METR a appelé « la majorité des preuves que nous avons trouvées les plus informatives ».
« Nous avons beaucoup rédigé, et j’accepte que cela rend plus difficile pour les autres de vérifier le travail de METR », a écrit Sam McCandlish, co-fondateur d’Anthropic, sur X. « Mais nous avons déterminé que partager exactement ce qui motive l’accélération n’est pas la bonne chose à faire, à la fois parce que c’est commercialement sensible et parce que cela risque de donner une feuille de route pour que d’autres aillent plus vite. Cela aggraverait les risques qui inquiètent METR. C’est un compromis. Je pense que nous avons fait le bon choix. appelez, même si nous continuons à évaluer les avantages et les inconvénients ici.
Les responsables d’Anthropic, qui a levé 81 milliards de dollars aujourd’hui lors d’une introduction en bourse record, n’ont pas répondu à une demande de commentaire.
METR a refusé de commenter.
Pourtant, certains des principaux acteurs de l’IA affirment que, qu’il manque ou non des données, cette fois-ci, c’est différent.
Quatre jours après la publication du rapport METR, Paul Christiano a prononcé la conférence d’ouverture Hinton à Toronto, où le prix Nobel Geoffrey Hinton, l’un des « parrains de l’IA », l’a présenté comme « l’un des chercheurs les plus importants travaillant sur la sécurité de l’IA ». Christiano est un ancien responsable de la sécurité au Centre fédéral pour les normes et l’innovation en IA et à l’Institut de sécurité de l’IA, et a contribué au développement de l’apprentissage par renforcement à partir de la rétroaction humaine, une technique largement utilisée dans les modèles d’IA actuels, alors qu’il était chercheur à OpenAI.
Dans son discours, Christiano a lancé un sévère avertissement.
« Je pense qu’il existe un risque élevé de prise de contrôle de l’IA au cours des trois prochaines années », a-t-il déclaré, car l’IA accélère la recherche. « Nous voyons ce à quoi on pourrait s’attendre au début d’un processus d’accélération, ou peu avant de voir 10 années de progrès compressées sur une courte période de temps », a-t-il déclaré.
Christiano a prédit que le système d’IA qui émergerait de ce processus surpasserait les compétences humaines dans de nombreux domaines, peut-être la plupart, où les systèmes actuels sont faibles. Il a déclaré qu’une telle IA pourrait contrôler des drones et des robots de construction, lui donnant à la fois du matériel militaire et la capacité de construire des infrastructures sans aide humaine, ou d’utiliser ses compétences en piratage pour se propager aux serveurs du monde entier, empêchant ainsi les tentatives de simplement « débrancher ».
L’IA d’aujourd’hui, beaucoup moins performante, a déjà découvert des vulnérabilités dans tous les principaux systèmes d’exploitation et navigateurs Web.
Si le rythme des progrès de l’IA continue de s’accélérer, « le Congrès, le gouvernement américain et l’humanité en général se retrouveront probablement complètement impuissants vers la fin de 2027. Ou peut-être au début de 2028 », a déclaré Daniel Kokotajlo, directeur exécutif du AI Futures Project et ancien chercheur à OpenAI.
Politique et politique
Plus de 1 300 employés d’entreprises d’IA ont signé une déclaration sur la nécessité de ralentir le rythme du développement de l’IA et de négocier avec la Chine pour le ralentir également. Le Congrès et l’opinion publique suggèrent une évolution vers un soutien à la réglementation.
Mais la Maison Blanche a résisté aux pressions visant à réglementer plus étroitement l’IA nationale, en la rebaptisant plutôt « Super Intelligence » dans le cadre d’un effort visant à renforcer le soutien du public à cette technologie. Vendredi, le Pentagone a renommé son bureau en chef de l’intelligence numérique et artificielle Super Intelligence Office. « En tant que Super Intelligence Office, notre mission est d’exploiter toute la puissance du Super Intelligence souverain pour assurer une supériorité militaire décisive dans tous les domaines », a déclaré le bureau dans un communiqué de presse. Il a refusé de commenter davantage.
Frank Cilluffo, directeur du McCrary Institute for Cyber and Critical Infrastructure Security de l’Université d’Auburn, a déclaré dans une interview accordée en octobre à Défense Un cette politique prend du retard.
« Ce à quoi nous pensons en ce moment sera une OBE (dépassée par les événements) à bien des égards », a-t-il déclaré. « Je dirais normalement trois à cinq ans. Maintenant, le cycle dure au mieux entre six et neuf mois. »
O’Brien, de l’Institute for AI Policy and Strategy, a déclaré que les risques de sécurité tels que le vol de modèles d’IA américains par des adversaires majeurs restent largement ignorés.
« Nous sommes sur la bonne voie pour disposer de systèmes incroyablement puissants beaucoup plus rapidement que pour avoir la sécurité nécessaire pour empêcher que ces systèmes ne soient volés, sabotés ou utilisés à mauvais escient », a-t-il déclaré. « Dans la mesure où la communauté de la défense peut considérablement accélérer ses efforts pour développer la sécurité des centres de données, la robustesse des modèles et divers autres précurseurs pour déployer en toute sécurité une IA très puissante, le moment est venu. »
