Par Laurent Vallée, secrétaire général du groupe Carrefour, ancien secrétaire général du Conseil constitutionnel

Too fast, too furious ?

William Gibson, dans son roman Neuromancer publié en 1984, chargeait la « police de Turing » de surveiller les intelligences artificielles (IA) et d’intervenir lorsque l’une d’entre elles cherchait à devenir plus intelligente que ce qui lui était permis.

Plus de quarante ans plus tard, ce n’est pas la police qui cherche à freiner le développement des IA mais ceux qui les construisent.

Le 12 septembre, Dario Amodei, PDG d’Anthropic, publiait « We Must Pace the Frontier ». Le verbe se traduit imparfaitement : il s’agit de régler l’allure, de continuer à avancer, mais assez lentement pour que les techniques permettant de comprendre, d’évaluer et de contrôler les modèles d’IA progressent au même rythme que ces derniers.

Autrement dit, il s’agit moins ici de prévenir le risque Skyn et des machines qui deviennent autonomes et échappent à leurs créateurs pour les détruire que de maîtriser la situation de Jurassic Park : les hommes ont ouvert les grilles à des systèmes qui se développent plus vite que les dispositifs prévus pour les contenir. Il est moins question d’arrêter la machine que de commencer à freiner ceux qui l’ont mise en mouvement.

L’initiative de Dario Amodei a ainsi immédiatement changé la nature du débat sur la régulation de l’IA en la faisant passer du contrôle du risque au contrôle du rythme.

Mais qui peut fixer une limitation de vitesse dans la course mondiale à la puissance qui s’est ouverte en matière d’IA ?

Ralentir, responsabiliser les coureurs ou gagner à tout prix ?

La difficulté soulevée publiquement par Dario Amodei tient à ce que le risque associé au développement de l’IA ne se définit plus seulement par un niveau de puissance. Il réside dans un écart, dans la distance entre ce qu’un modèle sait faire et ce que ses concepteurs savent encore contrôler. Or cet écart se creuse d’autant plus vite que les systèmes contribuent désormais eux-mêmes à la recherche et au code qui produisent la génération suivante d’IA.

Le « pacing » vise donc moins à tracer une frontière qu’il serait interdit de franchir qu’à empêcher que la progression des capacités ne distance celle des moyens de contrôle.

Le plan de Dario Amodei comporte plusieurs composantes.

Anthropic s’engage d’abord unilatéralement à accueillir en son sein des évaluateurs indépendants disposant d’un accès comparable à celui de ses propres salariés. Les principaux laboratoires américains pourraient ensuite convenir de standards communs et de limites au rythme de progression des capacités. Amodei reconnaît la difficulté antitrust : il appelle les pouvoirs publics à encadrer ces discussions et envisage une dérogation étroite pour certaines coopérations de sécurité. Viendrait enfin, plus hypothétique, une coordination internationale incluant la Chine.

L’initiative d’Amodei a d’abord reçu les soutiens inattendus de Sam Altman et Elon Musk, mais également de Demis Hassabis et Satya Nadella. Au Sénat américain, dans un sens similaire, Adam Schiff et Jim Banks défendaient déjà une proposition créant une exemption antitrust ciblée pour permettre notamment aux entreprises de coordonner, sous certaines conditions, le retard ou la limitation du déploiement de modèles présentant des risques élevés. Enfin, le 16 septembre, Ursula von der Leyen a repris les termes mêmes d’Amodei (« pace the frontier ») dans son discours annuel sur l’état de l’Union devant le Parlement européen.

Mark Zuckerberg et Jensen Huang ont répondu presque aussitôt dans un sens opposé à celui défendu par Dario Amodei.

Pour le PDG de Meta, il appartient à chaque laboratoire d’IA de régler sa propre allure. Son entreprise a ainsi estimé de sa responsabilité de retarder le lancement de l’un de ses agents sans demander à quiconque d’en faire autant. Si un dommage devait naître d’un modèle développé trop rapidement, l’entreprise en répondrait juridiquement. Si Zuckerberg est favorable à des évaluateurs indépendants, il est hostile à une coordination du rythme entre concurrents.

Le dirigeant de Nvidia va plus loin : opposer innovation et sécurité serait selon lui un faux choix, chacun devant avancer aussi vite qu’il le peut et ralentir lorsqu’il doute de la sûreté de son produit. Le marché suffirait à fournir les signaux nécessaires, incitatifs et désincitatifs. Si cela n’invalide pas son argumentation, on peut néanmoins souligner que le premier fournisseur des processeurs sur lesquels repose l’essentiel de la puissance de calcul des laboratoires d’IA n’est pas dépourvu d’intérêt direct à la multiplication des modèles.

Autrement dit, deux conceptions s’affrontent : pour les uns, la course elle-même produit une partie du risque, car nul ne peut ralentir durablement si ses concurrents accélèrent, tandis que pour les autres, concurrence, réputation et responsabilité suffisent à ce que chacun freine à temps.

Celui qui veut à tout prix gagner la course est venu perturber le débat. Le Président des États-Unis a ainsi immédiatement rejeté tout appel au ralentissement, motif pris de ce que les États-Unis sont en tête et qu’il ne s’agit pas de laisser la Chine revenir à hauteur.

Au demeurant, Dario Amodei avait anticipé cette réaction, et son plan suppose de préserver l’avance américaine, qui seule donne la « marge » nécessaire pour ralentir. Son « pacing » n’est pas un renoncement à la course géopolitique, il en est une variante qui escompte l’avance plutôt que de la maximiser. La divergence est ainsi moins absolue qu’il n’y paraît : tous deux raisonnent à partir de l’avance américaine, l’un veut la convertir en marge de sécurité et l’autre en accélération supplémentaire.

Des concurrents peuvent-ils fixer ensemble la limitation de vitesse ?

Dario Amodei a également demandé que les principales entreprises de « frontier AI » puissent se concerter volontairement pour fixer des standards communs de sécurité et des limites au rythme de progression des capacités et sollicite ainsi un « narrow waiver for certain kinds of safety conversations ».

Le point délicat est ici moins la discussion sur la sécurité elle-même que la coordination du ralentissement. Si Anthropic, OpenAI, Google, xAI … devaient s’entendre sur le rythme de l’innovation, cela pourrait être analysé comme une coordination entre concurrents, risque qu’Amodei voudrait neutraliser.

Le droit de la concurrence repose en effet sur l’idée que la rivalité suscite l’innovation et Andrew Ferguson, président de la Federal Trade Commission, ne s’y est d’ailleurs pas trompé en signalant, le 15 septembre, à titre personnel, que lorsque des entreprises demandent simultanément des règles nouvelles et une exemption antitrust, « all of my alarm bells go off », car elles risquent de créer des barrières à l’entrée mettant leur position à l’abri de potentiels compétiteurs.

La difficulté de principe ainsi soulevée n’a rien de neuf en droit. En 1988, dans Allied Tube & Conduit Corp. v. Indian Head (486 U.S. 492), la Cour suprême des États-Unis a refusé de soustraire au droit antitrust la manœuvre d’industriels qui avaient orienté un processus privé de normalisation pour écarter une technologie concurrente. L’existence de préoccupations de sécurité ne suffisait pas à soustraire ce processus privé de normalisation au contrôle du droit antitrust. La Cour soulignait précisément que la crédibilité du processus privé de normalisation reposait sur des garanties destinées à empêcher que les intérêts économiques de ses participants n’en déterminent le résultat. Une norme n’est pas économiquement neutre parce que son objet est la sécurité.

La nécessité même d’une exemption est d’ailleurs discutée : OpenAI a indiqué travailler avec Anthropic et Google DeepMind sur des questions de sécurité sans qu’une dérogation ait jusqu’ici été nécessaire à ces échanges. Dès lors, le droit de la concurrence empêche-t-il réellement les entreprises de coopérer pour rendre l’IA plus sûre, ou seulement de coordonner entre concurrents le rythme auquel elles développent leurs capacités ?

La différence tiendrait, en matière d’IA, à ce qu’à ses frontières, la compétition entre concurrents les pousse à développer des modèles qu’ils ne peuvent pas maîtriser, et que ce risque particulier devrait justifier un aménagement ciblé des contraintes du droit de la concurrence.

Une autre voie pourrait se dessiner dans le dialogue entre États : ainsi des experts américains et chinois proposent désormais, pour les usages militaires de l’IA, des mécanismes inspirés de la maîtrise des armements nucléaires : lignes rouges, maintien d’un contrôle humain et mécanismes de communication en cas d’incident. La coopération nécessaire à la sécurité n’implique donc pas nécessairement que les entreprises concurrentes soient elles-mêmes chargées d’en définir les limites.

Ce débat soulève ainsi, une nouvelle fois, la question des méthodes de régulation des innovations technologiques les plus rapides.

Au fond, Dario Amodei demande à l’État de permettre aux entreprises privées de déterminer collectivement une contrainte que la puissance publique est, selon lui, trop lente ou trop réticente à imposer elle-même. Le paradoxe est remarquable : pour permettre aux entreprises de construire provisoirement une règle de sécurité que l’État n’a pas encore édictée – à supposer qu’il le puisse, ou le veuille – celui-ci devrait commencer par aménager l’une de ses propres règles, le droit de la concurrence.

Le mécanisme fait écho, sous une forme différente, à celui que révélait récemment l’accord conclu par Meta : lorsque la norme publique tarde à naître, la norme privée occupe l’espace. Avec le pacing, une nouvelle étape serait franchie, la puissance publique devant elle-même aménager le droit pour permettre aux acteurs privés de créer une norme au moins provisoire.

L’Europe hors course ?

L’Europe dispose, avec le règlement sur l’intelligence artificielle, d’un cadre juridique complet. Les fournisseurs de modèles à usage général présentant un risque systémique y sont soumis à des obligations d’évaluation et d’atténuation des risques, auxquelles un code de bonnes pratiques élaboré dans le cadre d’un processus piloté par le Bureau de l’IA permet notamment de démontrer la conformité.

Elle dispose aussi, depuis 1957, d’un texte, aujourd’hui à l’article 101 TFUE, qui avait déjà nommé, sans le savoir, le pacing, en mentionnant parmi les accords susceptibles de restreindre la concurrence ceux qui consistent à « limiter ou contrôler … le développement technique », ces accords pouvant bénéficier d’une exemption sous certaines conditions.

Juridiquement, l’Europe dispose ainsi des instruments pour arbitrer.

Il reste que les entreprises qui occupent les « frontières » de l’IA sont américaines. Leurs « responsible scaling policies » et « preparedness frameworks » ont précédé une grande partie de la réglementation publique et contribué à structurer le débat technique sur les risques.

L’Europe risque ainsi de réglementer souverainement une technologie en reprenant, au moins en partie, un vocabulaire de sécurité forgé ailleurs, notamment par ceux qu’elle entend réglementer. Le danger n’est pas qu’elle perde le pouvoir d’édicter la règle mais qu’elle l’exerce trop tard, dans des catégories déjà fabriquées par ceux auxquels la règle doit s’appliquer.

Le discours prononcé le 16 septembre par Ursula von der Leyen illustre la difficulté. La présidente de la Commission a repris l’appel à « pace the frontier » et annoncé qu’elle réunirait les principaux « frontier labs » pour examiner comment les pouvoirs publics pourraient soutenir cet effort. Elle a, dans le même temps, affirmé que l’Europe devait « rester dans la course », augmenter massivement ses capacités de calcul et investir dans ses entreprises d’intelligence artificielle.

Ursula von der Leyen distingue plusieurs courses. L’Europe peut soutenir un ralentissement de certains modèles tout en développant ses propres capacités et, surtout, en cherchant à tirer de l’IA davantage de valeur dans l’industrie, la santé, les transports ou la défense. Elle le dit explicitement : l’Europe n’a pas besoin d’être celle qui développe la technologie « de frontière » pour être celle qui en tire le plus de valeur. Cette position laisse toutefois entière une autre question, soulevée le même jour par le ministre français de l’Économie, Roland Lescure qui met en garde contre les appels au ralentissement provenant de ceux qui étaient en tête de classe et entendaient ainsi conforter leur place.

Le dilemme européen est là. Pour les États-Unis, la question est de savoir s’ils peuvent se permettre de ralentir les entreprises qui dominent la frontière. Pour l’Europe, elle est plus inconfortable : peut-elle accepter une limitation de vitesse conçue par ceux qu’elle cherche encore à rattraper ?

La réponse ne peut être de renoncer à la sécurité pour favoriser des champions européens. Elle impose au contraire que l’Europe conserve la maîtrise des critères auxquels elle donne force juridique. Lorsqu’un seuil, un test ou une méthode d’évaluation issus de l’industrie sont appelés à devenir une norme, il faut en examiner non seulement la pertinence scientifique, mais aussi les effets concurrentiels : qui l’a conçu, qui peut le satisfaire et qui risque d’être empêché d’entrer dans la course ?

C’est peut-être là que se trouve, pour l’Europe, la véritable question de souveraineté. Elle n’est pas seulement de savoir si elle développera demain les modèles les plus puissants. Elle est de savoir si elle conservera le pouvoir de décider selon quelles règles ils pourront l’être.

Gibson avait imaginé un problème plus simple. La police de Turing savait où se trouvait la frontière et avait le pouvoir d’empêcher qu’elle soit franchie. Nous ignorons encore où placer la nôtre et à quelle vitesse il est raisonnable de s’en approcher.

Une chose au moins devrait relever de la puissance publique : ceux qui mènent la course ne peuvent être seuls à fixer la limitation de vitesse, surtout quand personne ne sait encore quelle est la destination.