safe_scan
Pre-scans text or outputs against a default or custom blocklist before automated approval. Blocks content on any match and returns the matched patterns for human or smaller-model review.
Instructions
自动安全硬拦:对一段文本/产物按 blocklist(默认内建危险模式)预扫描。命中即 blocked → 不可自动放行,清单返回命中模式。用于自动审批前的把关; 小模型/人工兜底据此再判断。blocklist 可选传(字符串或正则)。
Input Schema
| Name | Required | Description | Default |
|---|---|---|---|
| content | Yes | 待扫描文本(呈现产物正文) | |
| blocklist | No | 可选自定义正则/子串黑名单,缺省用内建 |