做AI应用，推理是自建GPU还是调云API？初期调API便宜，量大了自建划算。本文帮你算这笔账。
一、两种方式对比
调用云API按token付费，初期免费或便宜，但量大了账单暴涨。自建GPU常驻，单卡固定月费，量大后单位成本低。关键看调用量拐点。
二、成本拐点估算
| 阶段 | 建议 | 原因 |
|---|---|---|
| 早期量小 | 调API | 零运维 |
| 量大稳定 | 自建GPU | 单位成本低 |
三、切换建议
- 先用API快速上线。
- 监控token消耗，算拐点。
- 过拐点再自建。
需要自建推理服务时，云GPU常驻实例即可。可参考GPU推理实例，包月或按量。
实际算账中，调用云API初期确实方便，不用管服务器。但用户量起来后，按token付费的账单会线性暴涨，往往比自建贵好几倍。建议每月导出API账单估算拐点：当月API费用超过一张云GPU常驻实例的月费，就该考虑自建。自建后数据更可控，单位成本也低。切换时保持接口兼容，前端不用改。
四、决策小结
早期用API，过拐点自建，成本最优。
自建后做监控，按调用量弹性扩缩实例，闲时缩容省成本。
总之，早期用API、过拐点自建，成本最优。
自建后按调用量弹性扩缩，闲时缩容省钱。
接口保持兼容，切换时前端不用改。
每月导出API账单估算拐点。
自建后数据更可控。
按token付费初期零运维。
量大了按token付费会暴涨。
自建后单位成本大幅降低。
单卡常驻月费比API按量更省。
早期调API快速上线不操心。
过拐点再自建不迟。
接口兼容前端不用改。
自建后按调用量弹性扩缩。
闲时缩容节省成本。
月API账单超过一张卡月费就自建。
早期API后期自建最省。
自建后数据更可控。
按调用量弹性扩缩实例。
闲时缩容省成本。
自建后单位成本大幅降低。
接口保持兼容不用改前端。
自建后按调用量弹性扩缩。
早期API后期自建最省成本。
过拐点再自建不迟。
数据更可控合规。
常见问题
问：什么时候该自建？答：月API账单超过一张云GPU月费，就该考虑自建。
