Maîtrise des coûts de l'IA dans l'analytique de données de santé.

Les outils d'IA ont rendu l'analytique de données accessible à un public bien plus large. C'est réellement utile. Cela a aussi introduit un problème de coûts que la plupart des organisations ne sont pas encore outillées pour gérer.

Cet article s'adresse aux dirigeants et aux responsables opérationnels, pas aux ingénieurs. Si vous prenez des décisions sur la façon dont votre équipe utilise l'IA pour le travail sur les données, ou si vous vous demandez pourquoi vos factures cloud grimpent, il est fait pour vous.

Avant d'aborder le problème de coûts, il est utile de comprendre ce qui se passe quand vous utilisez un outil comme Claude, ChatGPT ou Cursor pour analyser des données.

Au fond, tous ces outils font la même chose : ils prédisent la prochaine séquence de caractères probable à partir de ce que vous leur donnez en entrée. Il n'y a pas de moteur de raisonnement, pas de compréhension de votre activité. Quand vous demandez à l'un de ces outils d'analyser des données, il élabore un plan, génère du code pour l'exécuter, lance le code, vérifie les erreurs, les corrige, et continue d'itérer jusqu'à obtenir un résultat.

Une façon de contourner cela consiste à lui fournir un repère connu. Si vous savez que le chiffre d'affaires du trimestre dernier était d'un million de dollars, dites-le-lui, et demandez-lui de confirmer ce chiffre avant de faire confiance à tout le reste de ce qu'il produit. Si le nombre connu se vérifie, les autres ont plus de chances de l'être aussi.

Les analystes ont toujours travaillé de façon itérative. Il est rare d'écrire un script une seule fois et de l'avoir juste du premier coup. Vous le lancez, vérifiez le résultat, ajustez, relancez. Un bon analyste peut reprendre un script une trentaine de fois avant qu'il soit juste.

La différence avec l'IA, c'est la vitesse. Ce qui prend une journée à un analyste, un ordinateur le fait en quelques minutes. Les plateformes de données cloud facturent en fonction du volume de calcul utilisé. Plus d'itérations, exécutées plus vite, sur des jeux de données plus grands, cela veut dire une facture plus lourde.

Le problème plus profond, c'est que les outils d'IA ne portent pas la conscience du contexte qu'un analyste développe avec le temps. Un analyste expérimenté travaillant sur un data lake de santé sait qu'il faut filtrer sur une seule journée de données pendant le développement et les tests, pas sur deux ans. Cet instinct vient de la compréhension de ce que coûte le travail. Un LLM n'a pas cet instinct.

C'est pourquoi avoir un humain dans la boucle compte encore, même quand l'IA réalise l'essentiel du travail technique. Un analyste humain n'aurait pas commis cette erreur.

La plupart des environnements de données modernes sont structurés en trois couches. La couche brute contient des données proches de ce qu'elles étaient à leur arrivée des systèmes sources. Une couche intermédiaire les nettoie et les contextualise. La couche supérieure, la couche gold dans la terminologie Databricks, contient les données curées, prêtes pour le reporting, sur lesquelles travaillent les analystes et les utilisateurs métier.

Lorsque les outils d'IA peuvent exécuter des requêtes et agir de façon autonome, il devient important d'être délibéré sur la couche à laquelle ces outils ont accès. La couche gold existe pour une raison. Pointer des outils d'IA vers des données brutes alors qu'ils n'ont besoin que de la couche curée est l'une des sources les plus courantes de coûts inutiles.

Au-delà des contrôles d'accès, les configurations précises à mettre en place ne sont pas nouvelles. Ce qui a changé, c'est que la vitesse de la machine rend leur application plus lourde de conséquences qu'auparavant.

• 01
  Limites de durée des requêtes

  Un plafond strict sur la durée d'une requête individuelle. Le frein le plus simple sur une boucle d'agent qui s'emballe, et celui que la plupart des équipes négligent.
• 02
  Plafonds sur la taille des serveurs

  Limitez le cluster d'entrepôt que l'IA peut démarrer, afin que la facture du pire scénario soit bornée avant de devenir un problème.
• 03
  Permissions explicites sur les jeux de données

  Des règles écrites et appliquées sur les tables, schémas et couches qu'un outil d'IA est autorisé à toucher. Refus par défaut sur la couche brute.
• 04
  Un humain dans la boucle

  Quelqu'un qui relit le plan avant qu'il ne s'exécute sur quoi que ce soit de volumineux. Pas sur chaque requête, seulement sur celles qui coûtent de l'argent réel.

Quand plusieurs équipes lancent des requêtes agentiques de façon indépendante, l'addition grimpe vite. Une équipe générant dix fois le coût de calcul habituel par des requêtes non maîtrisées devient trente fois quand trois équipes régionales font la même chose simultanément. Une gouvernance qui suffisait pour des analystes humains travaillant à vitesse humaine peut ne pas suffire pour des outils d'IA travaillant à vitesse machine.

Dans la santé et d'autres environnements réglementés, il y a davantage à considérer que les seuls coûts de calcul.

Les fournisseurs de LLM stockent les données que vous leur envoyez. Pour la plupart des offres standard, ces données servent à entraîner les futures versions de leurs modèles. Les offres entreprise et conformes HIPAA l'interdisent généralement, mais elles coûtent plus cher, et les fournisseurs des secteurs réglementés savent qu'ils peuvent facturer une prime pour des contrats de niveau conformité.

Le cadre juridique sur ce sujet est encore en construction. Il y a encore peu de jurisprudence aux États-Unis. En Europe, l'attention des régulateurs avance plus vite. En pratique, les négociations contractuelles autour de l'usage de l'IA sont inégales, et la responsabilité de les mener revient le plus souvent à celui qui fait le travail.

Pour le travail d'ingénierie de données en particulier, l'IA peut rendre un expert nettement plus rapide sur la bonne catégorie de problèmes. Le code est un cas particulièrement adapté, car il s'exécute correctement ou non. C'est un résultat vérifiable, ce que ne sont ni un résumé écrit ni une recommandation métier.

Ces outils ouvrent aussi le travail analytique à des personnes qui comprennent l'activité mais ne savent pas écrire de code. Un associé ou un responsable opérationnel qui a passé des années à comprendre le fonctionnement d'une entreprise est souvent mieux placé pour poser les bonnes questions aux données qu'un analyste technique qui découvre encore le domaine. L'IA lève la barrière du code. Faire relire le résultat par quelqu'un de technique reste judicieux, mais la contrainte est nettement réduite.

Les problèmes de coûts et de gouvernance sont réels mais gérables avec la bonne structure en place. Les équipes qui tirent le meilleur de ces outils traitent la gouvernance comme un prérequis, pas comme un sujet à régler plus tard.