Garde-fous pour l’IA

Le problème que règlent les garde-fous de gouvernance de l’IA

Situation courante : les équipes branchent des LLM plus vite que quiconque ne peut définir des politiques, si bien que les flux de données sont flous, les dépenses ne sont pas suivies et l’utilisation clandestine grandit. Cause profonde : l’adoption de l’IA a dépassé les contrôles de la plateforme ; une gouvernance achetée sous forme de SaaS externe ou de présentation n’applique rien à l’intérieur de vos comptes, ne survit pas à l’abonnement et laisse actifs les risques de flux de données et de dépenses.

Pourquoi ce n’est ni un logiciel-service de gouvernance ni des diapositives

Un tableau de bord loué observe ; il applique rarement, et quand vous cessez de payer, le contrôle s’en va avec lui. Un cadre de cabinet-conseil vous dit à quoi ressemble le bon et vous facture pour vous le dire. Nous bâtissons les garde-fous en politique en tant que code et en infrastructure à l’intérieur de vos propres comptes — pour que l’application soit réelle, auditable, qu’elle continue de fonctionner après notre départ, et qu’elle vous appartienne pour la modifier à mesure que les modèles et vos besoins changent.

Ce que vous possédez à notre départ

• Un module de chemin balisé : du Terraform/IaC pour l’accès aux modèles autorisés (patrons d’accès à des modèles gérés, passerelles, gestion des clés) que les équipes consomment au lieu de le contourner.
• Des garde-fous en politique en tant que code : quels modèles, quelles classifications de données, régions autorisées, limites de dépenses/de débit, journalisation de l’utilisation lorsque c’est approprié — appliqués, dans votre dépôt.
• Un modèle de menaces de flux de données pour l’utilisation de l’IA (quelles données peuvent atteindre quel modèle, et les frontières qui arrêtent le reste).
• Visibilité et contrôles des coûts et de l’utilisation sous forme de code.
• Des ADR pour les décisions d’accès aux modèles et de frontières de données, et des guides d’exploitation pour autoriser un nouveau modèle ou un nouveau cas d’usage.

Pas seulement un document de « stratégie de gouvernance de l’IA ». Nous rédigerons volontiers le document aussi — il arrive simplement avec les garde-fous qui l’appliquent déjà.

Notre façon de procéder

1. 01

   Découverte

   Nous lisons directement vos comptes, vos configurations et vos contraintes (accès en lecture seule à portée définie ou état exporté), nous cartographions l’état actuel réel et nous convenons d’une portée écrite et de critères de réussite avant d’écrire la moindre ligne de code.

2. 02

   Registres de décisions d’architecture (ADR)

   Nous consignons les décisions clés — ce que nous faisons, les options écartées et les raisons — sous forme d’ADR dans votre dépôt, afin que le raisonnement survive longtemps après notre départ et que vous puissiez le remettre en question avant que nous construisions quoi que ce soit.

3. 03

   Implémentation

   Nous bâtissons la solution sous forme de Terraform/IaC révisable, dans de petites pull requests testées et intégrées à votre CI, pour que vous la voyiez arriver progressivement et que rien ne débarque comme une boîte noire.

4. 04

   Transfert

   Nous guidons votre équipe en direct à travers le dépôt, le modèle de menaces et les guides d’exploitation, nous confirmons que vous pouvez l’appliquer, le détruire et l’étendre vous-mêmes, puis nous partons. Vous êtes propriétaires de tout : il n’y a pas de phase 5 où vous avez encore besoin de nous.

Forme du mandat

Une construction à portée fixe sur votre plateforme d’IA/infonuagique, livrée sous forme de module de chemin balisé consommable plus une politique en tant que code appliquée et une passation en direct. La portée est déterminée par votre cloud, les patrons d’accès aux modèles en jeu et les politiques que vous devez faire appliquer — convenus d’avance.

Un exemple illustratif du format

# policy/guardrails.rego — model calls fail closed at the gateway
package ai.guardrails

default allow := false

allow if {
  input.model.id in data.sanctioned_models
  data_classification_permitted
  input.usage.monthly_spend_usd < data.team_budgets[input.team].limit_usd
}

# Restricted data only reaches no-retention models in the required region.
data_classification_permitted if {
  input.request.data_classification == "restricted"
  data.models[input.model.id].retention == "none"
  data.models[input.model.id].region == input.policy.required_region
}

data_classification_permitted if {
  input.request.data_classification in {"public", "internal"}
}