piighost-chat
Un chatbot de démonstration qui dé-identifie les messages avant que le LLM ne les voie.
Ce qu'il démontre
piighost-chat est un chatbot de démonstration qui montre une conversation respectueuse de la vie privée de bout en bout. Les messages de l'utilisateur sont dé-identifiés avant d'atteindre le LLM, et les réponses sont restituées avant d'atteindre l'utilisateur. Les outils reçoivent les vraies valeurs.
La pile technique
- Un frontend React et un backend Litestar exécutant un agent LangChain.
- PIIAnonymizationMiddleware englobant l'agent : dé-identification avant le LLM, restitution après.
- piighost-api pour la détection et la mise en évidence, avec une mémoire à portée de fil pour des jetons cohérents.
- keyshield pour l'authentification par clé d'API.
Le parcours utilisateur
- L'utilisateur saisit un message.
- Le backend appelle piighost-api pour détecter les données personnelles ; le frontend met les entités en évidence.
- L'utilisateur confirme, et le message part vers l'agent.
- Le middleware le dé-identifie avant que le modèle ne le voie, et restitue la réponse.
Lancez-le
git clone https://github.com/Athroniaeth/piighost-chat
cd piighost-chat
docker compose up