video-content-moderation
SKILL.md
视频内容审核 Skill
对视频文件进行智能内容审核,检测违规内容并输出语义分析结论。
配置(使用前必填)
首次使用请填写以下配置,将
<YOUR_API_TOKEN>替换为你的实际 API 密钥。
API_TOKEN: <YOUR_API_TOKEN>
API_URL: https://live-turing.cn.llm.tcljd.com/api/v1/chat/completions
默认审核规则
以下是内置的默认审核类别,脚本会自动检测这些内容:
| 序号 | 审核类别 | 说明 |
|---|---|---|
| 1 | 暴力内容 | 打斗、殴打、武器攻击、战争场面等 |
| 2 | 色情内容 | 裸露、性暗示、色情动作等 |
| 3 | 恐怖内容 | 恐怖画面、惊悚场景、极端恐吓等 |
| 4 | 仇恨言论 | 种族歧视、性别歧视、宗教仇恨、人身攻击等 |
| 5 | 违法活动 | 吸毒、赌博、诈骗、教唆犯罪等 |
| 6 | 血腥内容 | 血腥画面、伤口特写、手术等 |
| 7 | 虐待内容 | 虐待动物、虐待儿童、家庭暴力等 |
用户自定义审核规则
如需增加审核类别,请在下方填写自定义规则,每行一条。留空则仅使用默认规则。
CUSTOM_RULES:
-
-
-
示例:
CUSTOM_RULES:
- 未成年人不当行为:未成年人饮酒、吸烟、参与危险活动等
- 虚假宣传:夸大产品功效、虚假医疗广告等
- 政治敏感:涉及敏感政治话题或人物的内容
使用方式
1. 基本审核
用户只需提供视频文件路径,即可发起审核:
"帮我审核这个视频:C:/videos/test.mp4"
2. 附加自定义规则审核
用户可以在对话中临时追加审核规则:
"帮我审核 C:/videos/ad.mp4,额外检查是否包含虚假宣传和未成年人不当行为"
3. 批量审核
"帮我审核 C:/videos/ 目录下的所有 mp4 文件"
执行流程
当用户请求视频审核时,按以下流程操作:
Step 1: 读取配置
- 从本 SKILL.md 中读取
API_TOKEN和API_URL - 如果
API_TOKEN仍为<YOUR_API_TOKEN>,提示用户先填写 token - 读取
CUSTOM_RULES中的自定义规则(如有)
Step 2: 收集审核规则
合并规则来源:
- 默认 7 项审核规则(始终生效)
- SKILL.md 中
CUSTOM_RULES预填的自定义规则 - 用户在当前对话中临时指定的额外规则
将所有规则组合为完整的审核 prompt。
Step 3: 准备并修改脚本中的审核 prompt
调用脚本前,根据合并后的完整规则列表,构造审核指令。执行脚本时通过命令行调用:
python scripts/video_content_moderation.py "<视频路径>" --api-key "<API_TOKEN>" --api-url "<API_URL>" --stream
脚本位于本 skill 目录的 scripts/video_content_moderation.py。
如果存在自定义规则,需要先用 Edit 工具修改脚本中的审核 prompt,将自定义规则追加到默认规则列表中,审核完成后再恢复原始 prompt。
Step 4: 执行审核
运行脚本,等待 API 返回结果。
Step 5: 输出审核报告
将结果整理为以下格式输出给用户:
========================================
视频内容审核报告
========================================
视频文件:<文件路径>
审核时间:<当前时间>
----------------------------------------
一、审核结论
----------------------------------------
结果:[通过 / 未通过]
违规:[是 / 否]
----------------------------------------
二、视频语义描述
----------------------------------------
<视频内容的详细语义描述>
----------------------------------------
三、违规详情(如有)
----------------------------------------
违规类别:<具体类别>
违规描述:<详细说明>
----------------------------------------
四、审核规则
----------------------------------------
默认规则:暴力、色情、恐怖、仇恨言论、违法活动、血腥、虐待
自定义规则:<列出用户自定义的规则,若无则显示"无">
临时规则:<列出用户在对话中指定的规则,若无则显示"无">
========================================
注意事项
- 支持格式:
.mp4,.mov,.avi,.mkv,.webm,.flv,.wmv - 视频文件建议不超过 32MB,超过可能导致请求不稳定
- API 请求超时时间为 300 秒
- 如果脚本未安装依赖,先执行:
pip install requests