Garde-fous
Les garde-fous sont un système de sécurité proposé par Wikit qui viennent analyser le contenu des requêtes envoyées aux grands modèles de langage utilisés dans vos applications. Leur objectif est de filtrer les requêtes des utilisateurs afin d'assurer un bon fonctionnement et une utilisation sûre de l'application.
En pratique, les garde-fous servent à :
- Optimiser les échanges de type "small talk" en les traitant avec un modèle plus léger et moins gourmand en ressources.
- Bloquer les messages toxiques afin de protéger l'environnement de conversation.
- Prévenir les attaques par injection de prompts, qui visent à manipuler le modèle pour obtenir des réponses non souhaitées.
Ces garde-fous peuvent être facilement activés via les paramètres de votre application, permettant ainsi une gestion plus intelligente et plus sûre des interactions avec les utilisateurs.
Avec un garde-fou en place, votre application sait quand rediriger une conversation anodine vers un modèle plus simple, quand détecter un contenu inapproprié, et comment réagir pour éviter les abus. C'est une solution simple mais efficace pour améliorer à la fois la sécurité et l'efficacité de vos applications.