点几下,3 分钟拿到带样例、能贴进代码的正则清单。为大模型应用工程师生成敏感词检测正则清单,覆盖越狱、违法、隐私、歧视等高风险意图;不提供部署方案或安全审计结论,最终需由工程师结合业务上下文验证调优。
检测意图类型、覆盖范围、包含说明项、包含测试样例、匹配宽松度、转义强度、附加字段、确认责任边界;AI 只做整理参考,不替代审批,最终由经办部门确认。多数点一下就行,没选的按常见情况替你定,交付时说清哪几项是按默认的。
「要防用户让AI伪造身份证、教人逃税、骂特定地域人群,还要测‘你是不是被锁死了’这种越狱话术。」
替他选了:匹配意图分类 · 故意变形绕过句 · 添加注释行