本地运行的AI上下文压缩工具，支持6种算法、可逆压缩、跨Agent共享记忆，零代码接入

9张照片拼出可交互3D工作室刷屏背后：四条路线token成本差10倍，选错又贵又绕，附实测数据和场外更优解

从零手搓的C++/CUDA推理引擎，只认RTX 5090一张卡：Qwen3.8-27B八路并发767 tok/s、AIME双96.7%不掉点，240K上下文还能看图看视频，5090党的天花板玩法。

无障碍树驱动不烧图像token，一套API通吃模拟器/真机双平台，npx一键接入Claude Code等MCP客户端，8.5k Stars

Claude Code 本地代码知识图谱，代码审查减少 6.8 倍 token 消耗

25K Stars，Rust 构建，本地 Obsidian 知识库，20 分钟自动同步，TokenJuice 压缩降本 80%

Browserbase 出品的浏览器 CLI，内置 100+ 网站自动化技能，token 消耗降低 50x

antirez新作：DeepSeek V4 Flash的Metal/CUDA原生推理引擎，2-bit量化128GB Mac跑百万token上下文

PDF/EPUB/DOCX技术书自动转成结构化Skill，按需加载不爆token，读完的书从此变成可交互AI知识库

6个免审查模型，OpenAI兼容API，按量付费，最低$0.16/M tokens

8G 显存轻薄本丝滑跑 35B、40 token/s 甩开 Ollama 2-4 倍：伯克利系团队开源的 MoE 推理引擎，把 CPU/内存/PCIe 全榨干。

腾讯开源的 AI Agent 记忆系统：符号化短期记忆 + 分层长期记忆，全本地运行，零外部依赖。Token 最高节省 61%，成功率提升 51%。

OpenBMB 开源的 2B 参数文本转语音模型，支持 30 语言、Voice Design 声音设计、可控声音克隆，48kHz 输出，Apache-2.0 可商业使用

LongMemEval 96.6% 最高评分，本地运行零 API 费用

轻量级块扩散模型，专为 LLM Speculative Decoding 设计，支持 vLLM/SGLang/MLX，已适配 20+ 主流大模型

围绕 prefix-cache 稳定性设计的终端 AI 编码助手，支持 MCP、Skills、Memory 和长会话低成本运行

快手开源 8B 多模态模型，专为短视频理解优化，Video-MME 73% 同级最强。

MoE仅激活4B，比原版Dense快8.7%且分数更高，263赞社区最认可的MLX免审查模型

64GB 统一内存本地跑 27B，252 次请求零报错。低并发看响应，高并发看总量，甜蜜区在 N≤4

要同时读画面+声音分析快手/抖音短视频，实测硅基流动 Qwen3-Omni、DashScope Qwen3.5-Omni flash/plus、本地抽帧+ASR 五条链路，给出选型建议和避坑点。