内容审核服务

技能简介

基于Vettly内容审核API的多模态内容安全检查服务，支持对文本、图片和视频进行自动化安全评估。

业务背景

为 UGC 平台提供多模态内容安全检测能力，覆盖文本、图片、视频三类载体，支持灵活配置审核策略并留存完整决策记录。成本监控功能帮助运营团队把控第三方服务支出，避免预算超支。

落地案例：社区运营团队接入 Vettly MCP 服务器后，对用户上传的图片调用审核接口，指定 policyId 后返回 flag/block/pass 动作及分类得分。运营定期查询 list_policies 优化策略配置，并通过统计接口追踪月度调用量与费用。对于边界案例，结合人工复核降低误判影响。

能做什么

• 检测用户生成内容中的违规信息（毒性、垃圾信息等）
• 验证审核策略YAML配置的正确性
• 查询账户下的可用审核策略列表
• 获取近期审核决策记录与统计数据
• 监控审核成本与调用量

使用说明

安装步骤：

1. 访问 vettly.dev 注册并获取API密钥
2. 将以下配置添加到MCP服务器设置中：

   {"mcpServers":{"vettly":{"command":"npx","args":["-y","@vettly/mcp"],"env":{"VETTLY_API_KEY":"your-api-key"}}}}

基本用法：

• 首次使用先调用 list_policies 获取可用策略ID
• 使用 moderate_content 提交内容审核请求
• 图片/视频需传入URL地址，不支持原始二进制数据

输入与输出

见下方输入与输出表格。

风险提示

• 需要有效的VETTLY_API_KEY环境变量，密钥泄露可能导致账户被盗用
• 审核结果依赖第三方AI模型，存在误判可能，建议人工复核关键决策
• 图片/视频审核按调用计费，高频使用需关注成本
• 策略配置错误可能导致内容漏检或过度拦截

来源信息

原始链接：https://github.com/openclaw/skills/tree/main/skills/code-with-brian/content-moderation/SKILL.md
来源类型：GitHub仓库