« Le kill switch n'est plus une figure de style » : Clément Mary décrypte l'affaire Fable 5

Pouvez-vous nous rappeler ce qui s'est passé le 12 juin ?

À 17h21, Anthropic reçoit une directive du Département du Commerce américain et quelques heures plus tard, Claude Fable 5 et Mythos 5 sont coupés dans le monde entier. La raison invoquée est une mesure de contrôle à l'exportation visant « tout ressortissant étranger ». Le problème, c'est qu'Anthropic n'avait aucun moyen de vérifier la nationalité de chaque utilisateur en temps réel. Résultat : l'entreprise a dû désactiver les modèles pour l'ensemble de sa base de clients dans le monde, alors qu'ils avaient été lancés trois jours plus tôt seulement.

C'est inédit ?

C'est la première fois qu'un service IA déjà en production est éteint du jour au lendemain par une décision externe. On parlait du kill switch depuis des années dans les débats sur la sécurité de l'IA, mais toujours comme un concept théorique, or il vient de s'activer en conditions réelles.

Quelle leçon en tirez-vous pour les entreprises qui exploitent l'IA en production ?

La leçon, c'est qu'un cas d'usage hérite du profil de risque de son modèle. Quand vous branchez un processus métier sur un modèle d'IA, vous n'importez pas seulement ses capacités, vous importez aussi tout ce qui peut lui arriver. Et ce profil de risque inclut désormais une dimension géopolitique que vous ne maîtrisez pas du tout. Vous pouvez avoir fait toutes les bonnes choses sur la sécurité, la conformité, la qualité des données, et voir votre service s'arrêter pour des raisons qui n'ont rien à voir avec votre relation contractuelle avec le fournisseur.

Faut-il en conclure qu'il faut abandonner les modèles propriétaires américains ?

Non, et c'est là qu'il y a une bonne nouvelle : l'alternative est mûre. Consommer des modèles open weight, auto-hébergés sur une infrastructure souveraine, c'est aujourd'hui crédible pour une large part des cas d'usage métier. La maîtrise du modèle est entre vos mains et personne ne peut couper l'accès. Mais je voudrais être clair sur un point : il ne faut pas remplacer une dépendance par une autre. Passer en tout open source par réflexe, ce serait juste déplacer le problème.

Quelle est la vraie réponse, alors ?

La vraie tendance n'est pas binaire, c'est l'hybride. Concrètement, ça veut dire router chaque cas d'usage vers la bonne solution : du souverain pour ce qui est critique ou sensible, du propriétaire pour profiter du meilleur de l'état de l'art quand le risque est acceptable. Et surtout, il faut gérer ce qu'on appelle le switch back, c'est-à-dire la capacité à rebasculer automatiquement vers un modèle de repli quand un modèle américain devient indisponible. Le 12 juin l'a montré très clairement : ceux qui avaient un plan de repli ont continué à fonctionner, les autres ont dû mettre à jour leurs intégrations dans l'urgence, en pleine panique.

Concrètement, comment une organisation construit ce plan de repli ?

Il y a trois briques qui rendent cette stratégie réellement opérable. La première, c'est une gateway AI : un point d'accès unique qui rend le routage et le switch back possibles techniquement, sans que chaque équipe ait à recoder ses intégrations à chaque fournisseur. La deuxième, c'est la gouvernance AI : savoir précisément quel cas d'usage utilise quel modèle, avec quelles données, et pourquoi. La troisième, c'est le FinOps AI : arbitrer entre coût et performance sur la base de données réelles, pas par habitude ou par défaut.

C'est ce que vous avez développé chez Claranet avec Clovis ?

Exactement. Clovis, c'est notre réponse à ce problème : consommation de modèles open weight auto-hébergés en souverain, routage intelligent entre les modèles, et switch back. L'objectif, c'est de permettre à nos clients de bénéficier du meilleur de l'IA disponible sur le marché sans jamais s'exposer à un kill switch en production.

Si vous deviez résumer ce que les DSI doivent retenir de cet épisode ?

Le 12 juin a montré que la dépendance peut se retourner en quelques heures. Ce n'était pas un scénario de risque théorique discuté en comité, c'était un vendredi après-midi comme un autre, devenu un cas réel du jour au lendemain. Construire une architecture qui ne peut pas être éteinte par une décision externe, ce n'est plus un luxe stratégique réservé aux grands comptes qui ont des moyens. C'est devenu une question de résilience de base, au même titre que n'importe quel plan de continuité d'activité.

Ce qui m'inquiète un peu plus, en réalité, c'est que ce risque-là reste souvent invisible jusqu'au jour où il se matérialise. Sur la cybersécurité, ça fait quinze ans qu'on construit une culture du risque, avec des plans de continuité testés, des exercices de crise, des responsabilités claires. Sur l'IA, on est encore au stade où beaucoup d'usages ont été déployés par les équipes métier elles-mêmes, en dehors des radars de la DSI, sans qu'on se pose la question du fournisseur unique ou du plan de repli. Le 12 juin devrait servir de déclencheur pour traiter le risque IA avec la même rigueur que le risque cyber, et pas comme un sujet d'innovation qu'on gère à part.