hazylab / security

Sécurité des systèmes LLM

Moteur de détection d'injections de prompts en dix stades, scoring local sans appel réseau, obfuscation des prompts système. Banc de pentest contre agents et surfaces réseau. Hébergement rouge instrumenté, incident sur soi et déception.

Détection multi-couches

Le moteur analyse chaque entrée utilisateur à travers dix stades indépendants : correspondance exacte, distance floue, normalisation NFKC, détection d'homoglyphes Unicode, analyse sémantique, scoring par catégorie (exfiltration, contournement, jeu de rôle). Chaque stade produit un score partiel. L'agrégation pondérée détermine le niveau de risque final.

Obfuscation

Les prompts système sont nettoyés avant envoi au modèle. Jetons sensibles, chemins de fichiers, adresses IP, traces de pile sont remplacés par des marqueurs génériques.

Éprouver la protection

hazmatharness confine les modèles et les protège des charges utiles et des contenus toxiques ; redbench les attaque pour vérifier que la protection tient. Les deux sont nés du harnais horos-system.