Garde-fous (guardrails)
En bref
Les garde-fous sont des mécanismes de contrôle appliqués aux entrées et sorties d'un LLM pour bloquer le contenu interdit, sensible ou dangereux et assurer la conformité.
📖 Définition
💬 En termes simples
C'est comme les garde-fous d'un pont et un agent de sécurité à l'entrée : ils ne conduisent pas la voiture (le modèle), mais ils empêchent d'aller dans le décor et filtrent ce qui entre et ce qui sort.
🎯 Exemple concret
Un robot conversationnel d'entreprise : à l'entrée, un garde-fou masque le numéro de carte bancaire qu'un client a collé ; à la sortie, un autre bloque une réponse qui révélerait les données d'un autre client et force un format de ticket valide.
💡 Le saviez-vous ?
Les garde-fous sont une couche SÉPARÉE du modèle : on peut renforcer la sécurité d'un assistant sans réentraîner le LLM, simplement en ajustant les filtres d'entrée et de sortie.
❓ Questions fréquentes
Quelle différence entre garde-fous d'entrée et de sortie ?
Les garde-fous remplacent-ils l'alignement du modèle ?
📰 Dans l'actualité
- Rapport Anthropic sur les détournements de Claude : ce que disent vraiment les cinq cas biologiques (il y a 2 jours)
- OpenAI : ce que son directeur scientifique a dit (il y a 5 jours)
- Le nouveau modèle d'OpenAI pilote un ordinateur, coûte cher et alarme sur la cybersécurité (il y a 1 semaine)
- Bailey (FSB) avertit le G20 : l'IA menace la stabilité boursière mondiale (il y a 1 semaine)
- « Coup de semonce » : ce que le rapport d'OpenAI dit vraiment de l'incident Hugging Face - et ce qu'un relais y ajoute (il y a 2 semaines)