使用场景
面向上线不可信输入对话的团队
选择你的场景,看最相关的扫描。
客服聊天机器人
痛点: 客户粘贴的订单文本可能覆盖系统提示。
PromptShield 如何帮助: 上线前标出“忽略指令”和提示词外泄模式。
使用工具的代理
痛点: 一次成功的越狱就可能碰到工具和数据。
PromptShield 如何帮助: 在样本输入中标出角色扮演和分隔符突破信号。
基于用户文件的 RAG
痛点: 上传的文档可能藏着间接注入。
PromptShield 如何帮助: 扫描样本摘录中像指令一样的载荷。
上线门禁
痛点: 顺利路径演示会漏掉注入,直到生产环境被滥用。
PromptShield 如何帮助: 对每个候选提示重复同一份模式清单。
来源:OWASP LLM prompt-injection cheat sheet(LLM01)· 加固清单