合集六 · 值得继续挖掘的工具链补充(2026 年 10 月)

周店瑟谷 2 阅读 【Method】AI方法得当
在整理前五篇合集的过程中,顺带挖到的一批「原视频没提、但同属一条工具链」的开源项目。
作为前五篇的延伸阅读:每条附官方地址 + 一句话价值 + 它衔接的是哪一篇。全部为开源或免费入口。

一、本地大模型推理(衔接 合集一)

Colibri:纯 C、零依赖,把 744B–2.8T 的 MoE 跑到消费级机器上

  • 价值:把显存 / 内存 / 硬盘当成一条统一的内存层级,专家权重按需从磁盘流式加载;约 25GB 内存即可在本机跑 744B 的 GLM-5.2。是「小机器跑超大模型」的另一种极端解法(对照合集一里的 FreeToken)。
  • 官方/开源:https://github.com/JustVugg/colibri (Apache-2.0,单 C 文件,make 后 ./coli chat 即用)

Ollama / llama.cpp:最省事与最底层的两条本地推理路线


二、Agent 底座与系统学习(衔接 合集一 / 合集三)

Pi(earendil-works/pi):一个进程里塞进「统一 LLM API + Agent 循环 + TUI + 编码 CLI」

  • 价值:用最小内核替代「LangChain + LangGraph + 各家 SDK + 编排 + CLI」的层层拼装,MIT 协议、单二进制分发,适合想自己掌控 Agent 运行时的人。
  • 官方/开源:https://github.com/earendil-works/pi (MIT,npm install && npm run build && npm link 后直接运行 pi)

Datawhale happy-llm:从零手搭一个大模型的中文系统教程

  • 价值:从 NLP 基础、Transformer、预训练一路讲到 SFT / LoRA / RAG / Agent,并真的带你实现一个 LLaMA2 级别的模型。和合集三的《动手学大模型》《深入理解 AI Agent》正好构成「原理—工程—Agent」三段式。
  • 官方/开源:

三、去 AI 味与写作(衔接 合集五)

去 AI 味全家桶(中英文各有专攻)


四、文档 / 采集 / 社媒(衔接 合集三 / 合集五)

MarkItDown(微软):把 PDF / Office / 图片一键转成给 AI 读的 Markdown

  • 价值:做知识库前最常用的「清洗」环节,和合集三的 Gitingest(代码→文本)、公众号转 ima 属于同一条「喂给 AI 之前的预处理」链。
  • 官方/开源:https://github.com/microsoft/markitdown

MediaCrawler:多平台内容采集的经典开源方案

SocialFlow / Postiz:自托管的社媒发布与调度


五、技能市场与生态(衔接 合集三 / 合集五)

几个值得收藏的「技能超市」


一句话总结

前五篇是「已经跑通、马上能用」的清单;这一篇是「同一条链上、值得继续挖」的矿脉。真正的用法不是把工具都装一遍,而是沿着一条链找到自己缺的那一环——推理、Agent 底座、写作去味、文档清洗、发布调度,各补一块即可。