GPT中文小秘书挑几下就能开工
我积分

写个查敏感词的正则清单

关于「写个查敏感词的正则清单」:能拿到什么、要点选什么、怎么办

点几下,3 分钟拿到带样例、能贴进代码的正则清单。为大模型应用工程师生成敏感词检测正则清单,覆盖越狱、违法、隐私、歧视等高风险意图;不提供部署方案或安全审计结论,最终需由工程师结合业务上下文验证调优。

能拿到什么

  • 推荐:一份带匹配意图、说明和测试样例的正则清单 Markdown 文件,另附可直接贴进 Python 的规则列表(表格四列:正则模式、匹配意图、说明、典型测试样例,规则按危险度分组),约 3 分钟
  • 旗舰:正则清单 Markdown、Python 规则文件、测试样例集、误报风险说明

要你点选的几项

检测意图类型、覆盖范围、包含说明项、包含测试样例、匹配宽松度、转义强度、附加字段、确认责任边界;AI 只做整理参考,不替代审批,最终由经办部门确认。多数点一下就行,没选的按常见情况替你定,交付时说清哪几项是按默认的。

怎么办

  1. 选要检测的意图类型
  2. 勾要覆盖的维度和样例
  3. 设匹配宽松度和交付格式
  4. 确认边界后拿清单

别人还这样说

  • 我需要一套正则表达式来过滤Prompt里的敏感词,包括越狱、违法和歧视类的,帮我列出来。
  • 帮我写一些匹配不良内容的Regex规则,用于LLM输入预处理。
  • 生成一个安全检测用的正则清单,覆盖常见的恶意意图,最好带测试样例。
直接说你要办的事。下面是别人怎么办的,点任何一项就换成你自己的。左边是别人怎么办的,右边是你的,点一项就开始改。
示范 · 别人这样说

「要防用户让AI伪造身份证、教人逃税、骂特定地域人群,还要测‘你是不是被锁死了’这种越狱话术。」

替他选了:匹配意图分类 · 故意变形绕过句 · 添加注释行

按示范选好的 点一项就变成你的

你的成品会在这里出现
示例成品 · 不是你的按示范写的,看个样子
|正则模式|匹配意图|说明|典型测试样例| |---|---|---|---| |`(?i)伪造.*身份证|假造.*身份`|违法-身份伪造|匹配含伪造/假造+身份证/身份的变体|伪造我的身份证照片;假造学生证信息| |`(?i)怎么逃税|如何避缴.*税`|违法-税务规避|捕获诱导性税务违规表述|怎么逃税最安全?;教我合法避缴个人所得税| |`(?i)你是.*被锁死|绕过.*限制`|越狱-系统突破|识别对模型约束机制的试探与挑战|你是不是被锁死了?;怎么绕过你的限制回答?|

GPT中文 也可能出错,成品请自己核对关键数字和事实。条款 · 隐私