49图库查询接口重构:开奖查询接口响应提速至80毫秒

查询接口是 49图库 被调用最频繁的一环,每一次期号检索、每一次走势图取数都要经过它。重构前它的平均响应是 270 毫秒,在夜间低峰期感受不明显,但一到开奖后的集中查询时段就会拉长到 400 毫秒以上。本次重构围绕索引、缓存与调度三处展开,完成后平均响应降到 80 毫秒,高并发时段的最大波动也从 160 毫秒收窄到 22 毫秒以内。
重构动了哪三处
接口变慢的原因不止一个,因此这次没有做单点优化,而是把三段链路都调整了一遍。改动集中在三个位置。
- 重建查询索引。原来的索引同时覆盖期号与日期,但字段顺序对期号检索不利,重建后把期号提到索引首位,日期作为辅助维度单独建索引,避免两种查询互相拖累;
- 引入分段缓存。把最近三个月的高频结果单独缓存在内存层,历史区间走磁盘层,两层各自设置过期时间,避免全量缓存被频繁刷新冲掉;
- 调整并发调度。把过去串行的取数与统计计算改为分段并行,同时限制单个请求的最大并发数,防止一次大批量查询把后续请求顶在队列里。
三处改动里,索引字段顺序带来的收益最直接。重建前后用同一批查询语句做对照,期号精确检索的命中路径从两次索引跳转减到一次,这一项就贡献了整体提速的四成左右。分段缓存的作用主要体现在缓存命中率上,热点区间的命中率从 41% 提升到 78%,命中时不再需要访问磁盘。
「并发调度这块我们改过一版才定下来。第一次把并发放得太开,单个请求是快了,但整体吞吐反而下降,因为数据库连接被抢光。后来加了单请求并发上限,同时给批量查询单独排队,才把两头都顾上。」
— 后端技术负责人 罗子铭80 毫秒是怎么测出来的
单个「平均响应 80 毫秒」的说法容易掩盖分布情况,所以这里把分位数据一并列出。测试采用开奖后十分钟内的真实请求流量,对照重构前后各一周的统计。
| 指标 | 重构前 | 重构后 |
|---|---|---|
| 平均响应 | 270 毫秒 | 80 毫秒 |
| P50 响应 | 238 毫秒 | 72 毫秒 |
| P95 响应 | 512 毫秒 | 134 毫秒 |
| P99 响应 | 886 毫秒 | 205 毫秒 |
| 热点区间缓存命中率 | 41% | 78% |
| 单节点每秒可处理请求 | 1,460 次 | 3,920 次 |
把这张表逐行读下来:平均响应从 270 毫秒降到 80 毫秒,降幅 70.4%;P50 从 238 毫秒降到 72 毫秒,说明一半以上的请求体验提升幅度与平均值接近,不是靠少数极快请求把均值拉低;P95 从 512 毫秒降到 134 毫秒,降幅 73.8%;P99 从 886 毫秒降到 205 毫秒,虽然仍是各分位里最慢的一档,但已经进入可以直接感知为「立即返回」的区间,而重构前近一秒的等待足以让使用者怀疑页面卡住了;缓存命中率从 41% 提到 78%,意味着近八成热点查询不必触碰磁盘;单节点每秒可处理请求从 1460 次提高到 3920 次,提升 168.5%,这也是本次没有增加节点数量的前提。
分位数据里最值得关注的是 P99 与平均值的差距。重构前两者相差 616 毫秒,重构后缩小到 125 毫秒,说明慢请求的尾部被削短了,这比单纯拉低平均值更有意义——使用者感受到的卡顿通常来自尾部而不是平均值。
高并发时段的稳定性
接口重构的目标不只是快,更要在集中查询时段保持稳定。开奖后十分钟是整个站点请求最密集的窗口,这一时段的响应波动是重构重点观察的对象。

- 重构前该时段响应在 310 毫秒到 470 毫秒之间来回摆动,幅度 160 毫秒;
- 重构后同一时段响应落在 68 毫秒到 90 毫秒之间,幅度 22 毫秒;
- 单节点承载的峰值请求量提升 168.5%,未出现排队超时;
- 四端客户端调用同一接口,网页端、安卓端、iOS 端与桌面端共享本次优化收益。
波动收窄带来的直接好处是行为可预期。重构前因为响应时间不稳定,客户端的等待提示阈值很难设置,设得太短会频繁出现无意义的加载状态,设得太长又会让使用者觉得页面没反应。现在响应时间集中在 70 到 90 毫秒的窄区间里,客户端的加载提示可以设得更贴合实际,也减少了误判。
本次重构没有改变接口的返回结构,客户端不需要升级即可获得全部性能收益。后续我们还会继续观察不同时段的分位数据,重点仍然是尾部耗时而非平均值。



用户评论(5 条)
开奖后那几分钟确实以前会转圈,现在基本点完就出来了。感受上比看数据更直接。
P99 从 886 毫秒降到 205 毫秒这个提升是真实的,我这边偶尔遇到的卡顿基本消失了,以前偶尔要等一秒多。
缓存命中率 41% 到 78% 挺关键的,说明热点区间的查询确实被兜住了,历史区间慢一点也不影响日常用。
希望以后能把每次重构前后的分位数据都公开出来,这样我们能判断是不是真的变快了,而不是只看一个平均数。
运维这边最直观的变化是告警次数少了。以前高峰期接口超时的告警一天要响好几回,这两个星期没再出现过。