ds4-server 对接 Cursor。
2026 年 ds4 是什么：为什么 antirez 选择「只做一款模型」
本地推理赛道并不缺引擎——llama.cpp、Ollama、MLX 都能加载大量 GGUF。ds4 的反常识在于：故意做窄，只为 DeepSeek V4 Flash（及后续同族 checkpoint）服务，把 Metal 图执行、非对称量化加载、磁盘 KV、Tool Calling 与 ds4-server 一次性焊死。antirez 在 项目说明里写得很直白：瓶颈从来不是「有没有推理框架」，而是「有没有足够快、足够大的开源权重能在个人机器上替代 Claude 日常查询」。
社区热度：仓库 antirez/ds4 上线数日内 Star 破万，说明「单模型深度集成」比再做一个通用加载器更能击中 2026 年的痛点。
自包含：不依赖 llama.cpp 运行时；macOS 上默认走 Metal 生产路径，CPU 路径仅作校验（且官方警告 macOS 虚拟内存 bug 可能导致内核崩溃，勿把 CPU 当生产后端）。
Agent 就绪：ds4-server 同时暴露 OpenAI 与 Anthropic 兼容端点，Cursor、opencode、Claude Code 可把 Base URL 指向本机，实现「数据中心不出家门」的编码会话。
长上下文：项目目标包含百万级 token 窗口；配合 DeepSeek V4 压缩 KV 与 ds4 的磁盘快照，长文档不必每次全量 prefill。
真正的障碍：软件已就绪，96GB～512GB 统一内存才是把大多数人拦在门外的硬门槛——这正是 Mac 云端租赁要解决的问题。
ds4 证明「本地跑准前沿大模型」在 2026 年已可行；拦路的是内存规格，不是 C 语言写得好不好。
ds4 技术亮点：Metal、磁盘 KV 与 2-bit 量化如何协同
把 ds4 与「随便装个 GGUF」区分开来的，是几条可量化的工程选择（社区在 M 系列 Max 上报告的 prefill 约 463 token/s、生成约 34 token/s，具体数值随机型与量化档变化，部署前请在目标机器上自测）。
| 能力 | ds4（DwarfStar 4） | 通用 Ollama / llama.cpp |
|---|---|---|
| 模型范围 | DeepSeek V4 Flash 专用路径 | 数百种 GGUF 架构 |
| GPU 后端 | Metal 为 macOS 首要目标 | 多后端，Metal 非最优定制 |
| KV 状态 | RAM + 磁盘快照，会话可恢复 | 依实现而定，常随进程退出丢失 |
| 量化策略 | 2-bit 仅压路由专家，其余层保精度 | 整模型统一量化档 |
| 编码 Agent | 内置 Tool Calling + 兼容 API | 需额外网关拼装 |
| 上下文 | 面向 1M token 级设计目标 | 受模型与内存双重限制 |
Apple Silicon 的统一内存（UMA）让 CPU/GPU 共享同一块物理内存，配合高带宽与 NVMe，磁盘 KV 缓存才有意义——这也是 ds4 把 Metal + macOS SSD 写成「首选组合」的原因，而不是偶然偏好。
可引用参数：官方 README 将生产推理明确绑定 Metal/CUDA；Flash 非对称 2/8 bit 量化在 96GB 或 128GB 统一内存机器上才可完整加载——低于此档不应视为「官方支持路径」。
DeepSeek V4 Flash / PRO 需要多少内存：2026 选型矩阵
下面矩阵综合项目文档与社区部署反馈，售价区间为 2026 年国内市场常见顶配量级，仅供租买决策对照，实际请以 Apple 与云租报价为准。
| 模型 / 量化 | 最低统一内存 | 典型机型 | 自购参考量级 |
|---|---|---|---|
| V4 Flash · q2 | 96 GB | MacBook Pro M3/M4/M5 Max | 约 ¥30,000+ |
| V4 Flash · q4 | 256 GB | Mac Studio Ultra | 约 ¥60,000+ |
| V4 PRO · q2 | 512 GB | Mac Studio M3 Ultra 顶配 | 约 ¥110,000+ |
试跑档（96～128GB）：足够验证 Flash q2、对接 Cursor 的 Tool Calling 与中等长度上下文；适合个人研究者按日租压测。
生产编码档（128～256GB）：多 Agent 并行 + 长上下文 + 磁盘 KV 常驻时，建议留出 20% 内存余量避免 Swap 打穿。
PRO 实验档（512GB）：仅当必须本地跑 PRO 权重；多数团队用云实例按周租用即可，无需一次性购机。
六步在云 Mac 上跑通 ds4：从选规格到 Agent 验收
以下 Runbook 假设你使用 MESHLAUNCH 或其它提供商的裸金属 macOS，已开通 SSH，且实例内存 ≥ 你目标量化档（Flash q2 至少 96GB）。
按量化档选云实例：Flash 试跑选 128GB 档留余量；要跑 q4 或 PRO 直接选 256GB / 512GB 规格，避免中途换机重下权重。
登录并验收 Metal：system_profiler SPDisplaysDataType 确认 Apple Silicon；xcode-select -p 确保 Command Line Tools 可用，后续 make 依赖 clang。
克隆并编译 ds4：git clone https://github.com/antirez/ds4.git && cd ds4 && make（macOS 默认 Metal）；首次编译建议在 tmux 或 screen 里执行，防止 SSH 抖动中断。
下载模型权重：按仓库文档获取 DeepSeek V4 Flash 官方向量/GGUF 路径，落盘到实例本地 NVMe（数百 GB 级），勿放 iCloud 同步目录。
启动 ds4-server：绑定 127.0.0.1 或内网 IP，记录 OpenAI 兼容端口；用 curl 对 /v1/models 做冒烟，确认 Metal 路径已加载而非 CPU 调试后端。
Agent 验收：在 Cursor 或 Claude Code 将 Provider Base URL 指向该实例（SSH 隧道或 Tailscale Serve）；跑一条含 Tool Calling 的编码任务，检查 KV 快照是否按预期落盘、会话重连是否免全量 prefill。
ssh -N -L 8080:127.0.0.1:PORT user@your-cloud-mac.example.com export OPENAI_BASE_URL=http://127.0.0.1:8080/v1
买不起顶配 Mac？云租 Flash 试跑、按需升 PRO 的 TCO 逻辑
自购顶配 Mac 的优势是「永远属于你」；劣势是一次性现金流与折旧，且 PRO 档机器闲置时成本极高。云端裸金属租赁把内存规格变成可调变量：本周 128GB 跑 Flash 写插件，下周升 512GB 做 PRO 对比实验，跑完即停。
| 维度 | 自购 Mac Studio Ultra | 高内存云 Mac 租赁 |
|---|---|---|
| 前期投入 | 十万级一次性 | 按小时/天/月，无折旧记账 |
| 规格弹性 | 换机=再买 | 控制台切换 128GB ↔ 512GB |
| 团队共享 | 一人一机 | 一台实例 + SSH 分权，轮班推理 |
| 环境预装 | 自行踩坑编译 | 可固定 Xcode/CLT 与磁盘水位 |
| 隐私边界 | 物理机可控 | 独占裸金属实例，权重不出你的磁盘 |
相比之下，用普通 Linux VPS 或消费级 GPU 云主机硬跑 ds4 往往要走非 Metal 路径或根本不受官方支持；租一台内存规格对口的 macOS 裸金属，才是与 ds4 设计意图一致的做法。若你已在实践并行 Agent 工作流，把 ds4 当作「重推理分身」、把 64GB 云 Mac 当作调度台，是 2026 年常见的成本结构。
对需要稳定 Metal 推理、又不想为 96GB 门槛一次性掏十几万硬件预算的团队，MESHLAUNCH 的高内存 Mac mini / M4 Pro / Max 云端裸金属租赁通常是更务实的起点：按日验证 Flash、按月锁定长上下文生产、临时升配 PRO，且推理全程在专属实例内完成，不经过第三方模型 API。选型与水位说明见租赁价格页与帮助中心。
官方路径以 96GB 统一内存为 Flash q2 的最低门槛；64GB 无法完整加载非对称量化权重。建议先按日租 128GB 档验证，再决定是否自购。
不会。ds4-server 在租用实例内监听；你把 Cursor Base URL 指向该机器即可，权重与 KV 快照留在实例磁盘上。
可以同机安装，但避免两个大模型同时满载。把 96GB 以上内存优先留给 ds4 长上下文；小模型补全可继续走 Ollama，详见帮助中心的内存对照。