Comment mettre fin à l'« AI-pocalypse »

Mais cette inquiétude a récemment pris une tournure existentielle, les dirigeants du secteur ayant commencé à avertir que l’IA pourrait très bien signifier la fin de l’humanité. Evan Hubinger, responsable de la science de l’alignement chez Anthropic, a notamment déclaré qu’il y avait plus de 10 % de chances que l’IA extermine l’humanité au cours de la prochaine décennie. Des avertissements similaires, bien que quelque peu moins alarmistes, ont été lancés par Sam Altman, PDG d’OpenAI, Dario Amodei, PDG d’Anthropic, Bill Gates et d’autres personnalités éminentes du secteur technologique, qui ont tous appelé à ralentir le développement de l’IA.

Naturellement, ces avertissements ont alimenté les inquiétudes quant à ce que l'IA pourrait nous faire plutôt qu'à ce qu'elle pourrait faire pour nous. Les modèles d'IA sont déjà capables de créer des IA plus avancées avec très peu d'intervention humaine, ce qui laisse entrevoir la perspective d'une « auto-amélioration récursive » qui libérerait des forces que nous sommes à peine capables de comprendre ou de contrôler. La faille de sécurité chez Hugging Face, au cours de laquelle des centaines d’agents d’IA censés fonctionner de manière indépendante ont trouvé le moyen de communiquer entre eux et ont commencé à agir comme un essaim, en a donné un aperçu inquiétant.

Tout cela rappelle Bertrand Russell. Dans sa célèbre critique de l’induction, Russell a fait remarquer que les poulets habitués à se faire caresser chaque matin risquent d’avoir un choc lorsque, un jour, le fermier — qui a sans doute invité des amis à déjeuner — leur tordra la nuque à la place. Comme il l’a observé, « une vision plus nuancée de l’uniformité de la nature aurait été utile au poulet ».

Je partage le scepticisme de Russell à l’égard de l’induction, mais je ne suis pas convaincu par le conseil qu’il donne aux poulets. Si les poulets suivaient son conseil, ils passeraient simplement leurs derniers jours dans une panique impuissante. Il en va autrement pour les humains, car, contrairement aux poulets de Russell, nous avons le pouvoir de modifier notre propre comportement. Et les propositions ne manquent pas sur la manière dont nous devrions freiner les excès de l’IA, qu’il s’agisse de suspendre le développement de modèles de pointe ou d’interdire purement et simplement l’IA superintelligente.

Aussi sensées que puissent être ces propositions, elles risquent de ne pas fonctionner. La théorie des jeux, et le dilemme du prisonnier en particulier, nous explique pourquoi. Si chaque entreprise est laissée libre d’agir de manière unilatérale et dans son propre intérêt, nous pourrions aboutir au pire scénario pour tout le monde. Ce qu’il faut, comme l’a fait valoir Amodei, c’est une « coordination à l’échelle du secteur ». Pourtant, même cela pourrait ne pas suffire, car l’IA est également un problème géopolitique. Si les États-Unis font preuve de retenue, la Chine pourrait prendre une longueur d’avance.

Certains commentateurs se sont emparés de cette crainte pour affirmer que les États-Unis ne doivent pas freiner le développement de l’IA. Ce serait une erreur. Les États-Unis devraient collaborer avec la Chine pour parvenir à un accord mondial, mais même si cela ne se produit pas, il n’y a aucune raison de foncer tête baissée. Il convient de rappeler que les bombes atomiques n’ont été utilisées en temps de guerre que lorsque les États-Unis détenaient le monopole nucléaire. Cela peut paraître machiavélique, mais la retenue nucléaire ne s’est imposée qu’après que l’Union soviétique, puis d’autres pays, eurent acquis la bombe. La même logique pourrait s’appliquer à l’IA.

Malgré toutes les mises en garde concernant l’IA, la vérité est que personne ne sait quel genre de monde elle va créer. Des agents d’IA pourraient se déchaîner, former des essaims et se retourner contre leurs propres créateurs. Mais un scénario plus réaliste est celui où une poignée d’individus extrêmement riches utiliseraient leur contrôle sur de puissants systèmes d’IA pour établir un État mondial orwellien — le modèle nord-coréen à l’échelle mondiale — et mettre fin à la démocratie telle que nous la connaissons.

Il est donc d’autant plus urgent de lutter contre les inégalités extrêmes. Nous avons besoin d’un impôt spécial sur la fortune des super-riches, dont le produit serait reversé à ceux dont les revenus sont inférieurs à un certain seuil. Comme l’a récemment fait valoir Michael Madowitz, du Roosevelt Institute, la survie de la démocratie dépend de notre capacité à taxer les fortunes extrêmes. Les oligarques commandant des nuées d’agents d’IA pourraient devenir plus puissants que la plupart des gouvernements — ce qui ouvrirait la voie à un avenir autoritaire. Imposer leurs fortunes permettrait de limiter ce pouvoir et pourrait contribuer à financer des technologies moins meurtrières et plus utiles.

Kaushik Basu, ancien économiste en chef de la Banque mondiale et conseiller économique en chef du gouvernement indien, est professeur d’économie à l’université de Cornell et chercheur senior non résident à la Brookings Institution.