Alignement

Faire correspondre le comportement d'un modèle à ce qu'on attend de lui

L'alignement désigne le travail qui consiste à faire correspondre le comportement d'un modèle aux intentions de ceux qui l'emploient : refuser ce qui doit l'être, répondre utilement au reste, et ne pas contourner la consigne.

Le problème qu’il désigne

Un modèle entraîné à prédire la suite d’un texte n’a aucune raison d’être serviable, prudent ou honnête. Ces qualités ne sortent pas de l’entraînement : elles s’ajoutent après, et c’est ce travail que l’on nomme alignement.

Ce qu’on aligne, concrètement

Un refus de certaines demandes, une tenue dans le ton, une manière de signaler l’incertitude plutôt que d’inventer, et une tenue de la consigne quand l’interlocuteur cherche à la faire oublier.

Pourquoi ce n’est jamais fini

Chaque contournement découvert donne lieu à un correctif, qui ouvre un autre chemin. Le réglage se poursuit tant que le modèle est employé, et il ne converge pas.

Ce que ça ne garantit pas

Ni l’exactitude d’une réponse, ni la confidentialité de ce qu’on lui confie, ni l’absence de biais dans ce qu’il a appris. Un modèle bien aligné se trompe poliment.

Mise à jour : 1 septembre 2026