开源项目OpenSquilla：智能路由与本地检索，大幅降低LLM使用成本
TL;DR · AI 摘要
介绍小龙虾和Hermes爆火带来的Token消耗问题及解决方法。智能模型根据任务复杂度进行动态选择，节省Token。
核心要点
- 智能模型路由减少Token消耗
- 本地向量检索提高效率
- 后台成本统计方便管理
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- 开源项目OpenSquilla
- 智能模型路由
- 本地向量检索
- 成本控制
- 安全考虑
- 便捷性
金句 / Highlights
值得收藏与分享的关键句。
智能模型路由可根据任务复杂度自动选择合适的模型，显著减少Token消耗。
本地向量检索技术提高了响应速度，减少了Token的使用。
后台提供详细的模型调用成本统计，方便用户监控和管理费用。
关于怎么省Token，很多人研究了很多方法，比如用qmd等本地语义搜索，换便宜模型等。
最近刷到一个开源项目@OpenSquilla，把省Token这件事儿做得很不错。
核心逻辑：智能模型路由 + 本地向量检索 https://t.co/ZGsTQl0ldP" / X
向阳乔木 on X: "前段时间小龙虾、Hermes爆火，一个特别大的痛点就是太烧Token了。 关于怎么省Token，很多人研究了很多方法，比如用qmd等本地语义搜索，换便宜模型等。 最近刷到一个开源项目@OpenSquilla，把省Token这件事儿做得很不错。 核心逻辑：智能模型路由 + 本地向量检索 https://t.co/ZGsTQl0ldP" / X
Don’t miss what’s happening
Show translation
前段时间小龙虾、Hermes爆火，一个特别大的痛点就是太烧Token了。 关于怎么省Token，很多人研究了很多方法，比如用qmd等本地语义搜索，换便宜模型等。 最近刷到一个开源项目
，把省Token这件事儿做得很不错。 核心逻辑：智能模型路由 + 本地向量检索 简单问题，用便宜模型，复杂任务，用更厉害的模型。 智能路由本地完成，不消耗Token，换模型也是自动判断，不需要手动切。 后台还有模型调用成本统计，随时查看用了哪些模型，花了多少钱。 连续对话，让它写个抓取 Paulgraham 最新文章脚本，只消耗了5500 Token。 完成后会显示 COMBO ×2 ，像游戏的连击反馈，有意思，哈哈哈 相比完整重发，每轮只增量发送，缓存命中机制也实际传输 token 减少了 90%+ 记忆系统做得也不错，快到上下文上限时，子 Agent 筛除关键内容再压缩，支持BM25 + 向量混合检索。 自动整理白天对话，第二天也能记得上下文，让 Cron job 定时抓新闻、跑任务，很省心。 安全上也有考量，高风险工具跑在沙箱里，按来源直接不明工具、Skill调用。 支持 Openclaw 一键迁移，记忆、配置、技能全能移过来，切换零成本。 安装很简单，跟Claude Code或Codex说： 带我安装配置：https://github.com/opensquilla/op ensquilla…
·
3
2
9
18