Conçu pour les équipes qui livrent un chat à entrée non fiable
Choisissez votre segment pour voir les analyses qui comptent le plus.
Chatbots de support
Douleur : Les clients collent un texte de commande qui peut remplacer le prompt système.
Comment PromptShield aide : Signalez les motifs « ignorer les instructions » et d’exfiltration du prompt avant la mise en ligne.
Agents utilisant des outils
Douleur : Un jailbreak réussi peut atteindre les outils et les données.
Comment PromptShield aide : Faites apparaître les signaux de jeu de rôle et de sortie de délimiteur dans les entrées d’échantillon.
RAG sur des fichiers utilisateur
Douleur : Les documents téléversés peuvent cacher une injection indirecte.
Comment PromptShield aide : Analysez des extraits d’échantillon pour des charges qui ressemblent à des instructions.
Portes de livraison
Douleur : Les démos du chemin heureux ratent l’injection jusqu’à l’abus en production.
Comment PromptShield aide : Répétez la même liste de motifs sur chaque prompt candidat.
références : OWASP LLM prompt-injection cheat sheet (LLM01) · liste de durcissement