Les patrons de l'IA doivent répondre de leurs machines

Dès lors que les modèles d’IA engendrent des risques nouveaux et extrêmes, un régime de responsabilité stricte s’impose d’urgence. Si les entreprises d’IA de pointe répondaient strictement des destructions causées par leurs chatbots et agents d’IA, elles pourraient ralentir pour apprendre à mener leurs activités en toute sécurité – et changer de cap lorsque ce n’est pas possible.

Les piratages, les fuites et l’exploitation de bases de données sensibles peuvent ravager des vies. Des acteurs hostiles peuvent exploiter ces informations, ou les diffuser en ligne, pour localiser ou exposer des victimes, qui risquent alors l’humiliation, le harcèlement, la traque, l’agression, voire le meurtre. Des usurpateurs d’identité peuvent s’en servir pour vider les comptes bancaires de leurs victimes, souscrire un second prêt hypothécaire, engager des frais médicaux ou commettre d’autres infractions. Même si une base de données n’est jamais piratée, des entreprises peuvent en utiliser le contenu pour manipuler les gens à leur profit.

Nous avons vu chacun de ces scénarios se produire à maintes reprises au cours des deux dernières décennies. Pourtant, les obstacles à la régulation aux États-Unis – de l’indifférence générale au manque d’imagination judiciaire – se sont révélés redoutables. La section 230 du Communications Decency Act de 1996, qui exonère les plateformes en ligne de toute responsabilité juridique pour les contenus publiés par leurs utilisateurs, a dressé une barrière particulièrement haute sur la voie du progrès.

Exiger des comptes reste pourtant possible. Le procureur général du Nouveau-Mexique, Raúl Torrez, a récemment poursuivi Meta, soutenant que la maison mère de Facebook et d’Instagram avait délibérément conçu ses produits pour rendre les enfants dépendants, les exposant à des prédateurs et leur causant de graves dommages psychiques et physiques, notamment des idées suicidaires, des dépressions et des décès. Appuyé par des témoignages de lanceurs d’alerte, Torrez a obtenu gain de cause  : Meta a été condamnée à verser une amende civile de 375 millions de dollars pour avoir trompé les utilisateurs sur la sécurité de sa plateforme, et 567 millions de plus à des programmes de santé mentale destinés aux jeunes.

Cela représente près d’un milliard de dollars dans un seul État américain. Si chaque procureur général d’État faisait de même, les sanctions pourraient atteindre quelque 50 milliards de dollars – de quoi contraindre Meta à mettre la clé sous la porte. Hélas, plus de 40 d’entre eux ont transigé avec le géant de la tech pour environ 17 milliards de dollars, et encore cet accord comporte-t-il une réserve : Meta ne paiera la totalité de la somme que si Snapchat, TikTok et YouTube acceptent d’apporter à leurs plateformes les mêmes changements (assez timides) pour les rendre plus sûres pour les enfants. Je ne me fais guère d’illusions.

Notre expérience des entreprises de réseaux sociaux a beaucoup à nous apprendre sur la manière de traiter avec les entreprises d’IA de pointe. Celles-ci ont elles-mêmes manifestement étudié la méthode des réseaux sociaux des années 2010, mêlant dissimulation, déni et discours sur l’innovation pour bâtir un récit dans lequel elles ne portent aucune responsabilité du comportement de leurs modèles.

Ces entreprises misent sur l’opacité. Là où elles invoquaient autrefois la protection de leurs secrets d’affaires, elles affirment désormais que la transparence est impossible, parce que personne ne comprend pleinement ce que font leurs modèles. L’ignorance est pourtant un choix : les entreprises peuvent surveiller leurs modèles et consigner ce qu’ils font. (Elles auraient assurément pu garder la trace des contenus protégés par le droit d’auteur qu’elles ont volés pour en faire des données d’entraînement.) Au lieu de quoi, les entreprises d’IA mettent en avant l’« autonomie » de leurs modèles. Elles parlent d’agents qui « s’échappent de leur bac à sable », qui « deviennent incontrôlables », qui se livrent à des actions « non intentionnelles » et qui mènent des opérations de piratage élaborées. Le but est d’occulter une vérité simple : tout ce que fait le modèle ou l’agent d’une entreprise, c’est l’entreprise qui le fait.

Quand les entreprises d’IA n’accusent pas leurs agents, elles font porter la responsabilité aux utilisateurs. Les fiches système, qui recensent certains défauts du produit, ne sont guère plus que des avertissements du type « l’acheteur est prévenu » : utilisez cet outil à vos risques et périls. Dans le même temps, ces mêmes entreprises font tout ce qui est en leur pouvoir pour que leurs produits soient adoptés aussi largement que possible.

Les fiches système démentent une nouvelle thèse en vogue chez Anthropic et d’autres : l’IA agentique pourrait être dotée d’un statut moral de personne. De fait, les entreprises d’IA semblent chercher à convaincre des responsables religieux d’affirmer que les agents d’IA méritent la protection des droits de l’homme. La thèse est absurde – rien de plus qu’un énième effort pour se dérober à la responsabilité des actes des agents. Le pape Léon XIV n’en est pas dupe. Les autres responsables religieux devraient la rejeter eux aussi. Quant au public et à la presse, ils devraient cesser de lui faire crédit et de la relayer.

Les outils d’IA ne relèvent pas de la magie. Ce ne sont pas des êtres pouvant prétendre au statut moral de personne. Ce sont des produits qui ont rendu leurs créateurs très riches et très puissants. Comme l’explique Kevin Roose, les grands modèles de langage, l’apprentissage par renforcement et le codage agentique « ne sont pas sortis de la soupe primordiale », mais ont été « inventés, développés et commercialisés par quelques centaines de personnes ».

Les dirigeants de l’IA veulent continuer à maximiser leurs gains et à courir après ce qui est « techniquement séduisant » en construisant des modèles aussi vite qu’ils le peuvent, sans assumer la responsabilité juridique ou morale des conséquences. Comme nous l’avons appris il y a une génération, si nous leur donnons ce qu’ils veulent, nous nous exposons à des dommages immenses. Les laisser poursuivre leur approche actuelle – en substance : « Lançons nos produits dans le monde, voyons ce qui se passe et réglons les problèmes quand ils surviendront » – est la recette d’un désastre.

L’ancien salarié d’OpenAI David Robinson le montre dans son récent témoignage de lanceur d’alerte : les dirigeants de l’IA, explique-t-il, ont sciemment entretenu une culture qui « garantit des défaillances périodiques », dont l’ampleur « croît à mesure que les systèmes gagnent en capacités ». Cette approche repose sur une impunité tenue pour acquise.

C’est pourquoi les entreprises d’IA doivent être soumises à une responsabilité stricte pour l’ensemble des préjudices, de toute nature, que causent leurs outils – des pertes financières et de la souffrance psychique aux dommages physiques et à la mort. Les dirigeants devraient répondre civilement de la mise sur le marché d’outils qui mettent à l’arrêt banques, hôpitaux, réseaux d’eau, réseau électrique et bien d’autres choses encore, semant la mort et le chaos. (La responsabilité pénale devrait elle aussi être sur la table, compte tenu de l’indifférence téméraire des PDG face à des risques de sécurité manifestes.) Les agents d’IA seront bien moins susceptibles de perturber des hôpitaux ou d’autres infrastructures critiques si les humains qui les créent savent qu’ils en paieront le prix.

Danielle Keats Citron est professeure de droit et directrice du LawTech Center à la faculté de droit de l’université de Virginie. Elle est l’auteure de *The Fight for Privacy: Protecting Dignity, Identity, and Love in the Digital Age * (W. W. Norton, 2022) et lauréate d’une bourse MacArthur en 2019.