Swarm并行计算

1小时前更新 1 00
Swarm并行计算Swarm并行计算
Swarm并行计算

技能简介

Swarm 是一个基于 Gemini Flash 的分布式任务执行系统,通过并行化方式将 LLM 调用成本降低至传统方案的 1/200。支持独立任务并行、多主题研究、链式流水线等多种执行模式,配备 LRU 响应缓存和成本追踪功能。

业务背景

Swarm通过分布式并行计算大幅降低大模型调用成本,将原本串行执行的AI任务改为批量并发处理。支持独立任务并行、多主题研究、链式流水线等多种模式,帮助企业快速完成大规模内容生成、数据分析等场景,同时配备缓存和成本追踪功能,让AI投入更加可控透明。

落地案例:某市场研究团队需要同时分析10个竞品的产品定位,传统方式需逐个调用API、耗时且费用高。使用Swarm的Parallel模式,一次性提交10个分析提示,系统自动分发到多个节点并行执行,结果统一返回;若需深度调研,可切换Research模式自动搜索网络信息并生成对比报告,全程成本仅为传统方案的1/200。

能做什么

  • 同时执行多个独立提示任务(Parallel 模式)
  • 对多个主题进行自动化网络搜索与深度分析(Research 模式)
  • 构建多阶段数据处理流水线,支持扇出、归约等编排策略(Chain 模式)
  • 对比单线程与并行方案的执行效果与成本(Benchmark 模式)
  • 自动缓存重复查询结果,实现数百倍响应加速
  • 实时追踪会话与每日成本消耗

使用说明

安装要求:需预先安装 Node.js 运行时环境。

基础操作步骤:

  1. 检查守护进程状态:swarm status
  2. 若未运行则启动服务:swarm start
  3. 执行并行任务swarm parallel "问题A" "问题B" "问题C"
  4. 多主题研究:swarm research "主题A" "主题B" --topic "分析角度"
  5. 查看可用能力:swarm capabilities

链式流水线示例:

# 自动生成最优流水线
curl -X POST http://localhost:9999/chain/auto \
  -d '{"task":"业务机会识别","data":"市场数据...","depth":"standard"}'

# 预览不执行
curl -X POST http://localhost:9999/chain/preview \
  -d '{"task":"...","depth":"standard"}'

缓存管理:

curl http://localhost:9999/cache      # 查看统计
curl -X DELETE http://localhost:9999/cache  # 清空缓存

输入与输出

见下方输入与输出表格。

项目内容
输入文本提示、研究主题、流水线 JSON、深度预设、搜索开关、缓存控制
输出任务结果数组、分析报告、成本统计、缓存状态、质量评分
适用人群需降低 LLM 成本的开发者、批量数据处理人员、多源研究分析师
不包含非 Gemini 模型支持、图形界面、云服务托管、自动扩缩容

 

风险提示

  • 网络搜索任务强制跳过缓存,每次均产生新调用成本
  • 链式任务失败时仅重试失败子任务,但需关注阶段间数据依赖完整性
  • 缓存默认 1 小时 TTL,时效敏感数据需手动禁用缓存
  • 守护进程重启后成本统计重置,日常累计数据持久化存储
  • 深度预设层级越高(exhaustive 为 8 阶段),token 消耗与等待时间同步增长

来源信息

原始链接:https://github.com/openclaw/skills/tree/main/skills/chair4ce/swarm/SKILL.md
来源类型:GitHub 仓库

数据统计

相关导航

暂无评论

none
暂无评论...