使用场景

面向上线不可信输入对话的团队

选择你的场景,看最相关的扫描。

客服聊天机器人

痛点: 客户粘贴的订单文本可能覆盖系统提示。

PromptShield 如何帮助: 上线前标出“忽略指令”和提示词外泄模式。

使用工具的代理

痛点: 一次成功的越狱就可能碰到工具和数据。

PromptShield 如何帮助: 在样本输入中标出角色扮演和分隔符突破信号。

基于用户文件的 RAG

痛点: 上传的文档可能藏着间接注入。

PromptShield 如何帮助: 扫描样本摘录中像指令一样的载荷。

上线门禁

痛点: 顺利路径演示会漏掉注入,直到生产环境被滥用。

PromptShield 如何帮助: 对每个候选提示重复同一份模式清单。

来源:OWASP LLM prompt-injection cheat sheet(LLM01)· 加固清单

这次结果有帮助吗?反馈