Garde-fou

Les limites posées autour d'un modèle pour l'empêcher de répondre à tout

Les garde-fous sont les limites posées autour d'un modèle : sujets refusés, formats imposés, contrôle de ce qui entre et de ce qui sort. Ils ne changent pas le modèle, ils encadrent ce qu'on lui laisse faire.

Où ils se posent

À trois endroits : dans le modèle lui-même au moment de son réglage, dans la consigne permanente qui accompagne chaque échange, et dans les filtres qui examinent la question posée puis la réponse produite.

Ce qu’ils bloquent

Les demandes manifestement nuisibles, la divulgation de la consigne interne, et — côté entreprise — la sortie de données que l’on ne veut pas voir quitter la maison : un nom de client, un extrait de contrat, un mot de passe recopié dans une question.

Pourquoi ils se contournent

Un modèle traite la consigne et la question dans la même langue, sans frontière nette entre les deux. Une demande bien tournée peut donc se faire passer pour une instruction légitime.

Ce qu’ils ne remplacent pas

Un modèle sans garde-fou existe et circule : le contrôle porte sur l’outil qu’on déploie, jamais sur ceux qu’emploient les autres. Ce qui protège une organisation reste ce qu’elle décide de ne pas confier à la machine.

Mise à jour : 1 septembre 2026