连接池、背压与容量预算
Python 性能优化与高并发#Python全栈#第二十一阶段#Python 性能优化与高并发#连接池、背压与容量预算约 892 字 · 3 分钟阅读
追问显示点击任意追问卡片可收起 / 展开
怎样估算一个服务的数据库连接总预算？
追问 实例数、Worker 数、各自池上限、溢出连接和后台任务怎样计入？滚动发布中新旧实例共存时，为什么峰值可能高于日常运行值？
连接池大小、连接池超时与连接持有时间有什么关系？
追问 池等待变长时，应该先增大池还是检查连接释放和事务时长？池上限提高后，为什么数据库争用也可能加重？
连接健康检查能解决哪些问题，不能保证什么？
追问 借出前检查、连接回收与执行中断开怎样区别？事务中途失败后，为什么仍需判断事务结果和重试安全，不能依赖池自动完成业务恢复？
应用并发限制与连接池限制应怎样协调？
追问 一个请求需要多个下游调用时，怎样估算放大效应？HTTP/2 多路复用等机制存在时，为什么连接数量与请求并发也不能简单画等号？
什么是背压，为什么只把请求放进队列还不够？
追问 有界队列、上游等待、拒绝和降级分别怎样控制负载？队列持续增长时，用户等待、内存和最终超时会怎样变化？
怎样设置请求进入系统的容量保护？
追问 限制在入口、昂贵计算之前还是下游调用前，各有什么作用？拒绝响应、客户端重试提示与不同用户的公平性怎样设计？
重试为什么可能让拥塞更严重？
追问 尝试次数、退避、随机抖动与剩余截止时间怎样共同控制？多个调用层都重试时，怎样避免请求倍增，并限制非幂等操作的重复执行？
怎样用 Little 定律辅助理解并发、吞吐和停留时间？
追问 在稳定且统计边界一致时，平均系统内数量、通过率和平均停留时间有什么关系？持续积压、丢弃或观测窗口太短时，为什么不能直接套用作容量保证？
增加 Worker 或实例后，为什么性能可能恶化？
追问 连接总数、内存复制、CPU 争用、缓存冷启动与下游负载怎样改变？怎样逐档增加并发并记录曲线，识别收益停止或回退的区间？
怎样找到满足延迟与错误率要求的可持续容量？
追问 逐步增加负载时，成功吞吐、排队、尾延迟和资源使用如何一起判断？流量波动与恢复时间应如何影响容量余量，而不是只记录一次峰值？
资源管理核对资料： SQLAlchemy：Connection Pooling、HTTPX：Resource Limits。不同池实现、协议和部署方式的上限含义需分别确认。