 xsl
|
3350e0ad77
|
feat(gateway): 接口5排队插队优先级，两级队列均支持
- 全局槽换为 _PrioritySemaphore：priority 大者排到等待队列最前，同级 FIFO，
无等待者时才允许直接获取（收紧 asyncio.Semaphore 的 barging）；
授予槽位瞬间请求被取消时归还槽位，防泄漏
- worker 池 Condition FIFO 等待改为显式优先级等待队列，release 唤醒队首；
被唤醒但 worker 被抢时按原序号重排；授予/取消竞态时转手唤醒下一位
- forward.py 新增 PRIORITY_PATHS（现仅接口5 /api/v1/hairline/generate）
- 新增 4 个单测：两级队列的插队 + 同级 FIFO
|
2026-09-23 22:24:21 +08:00 |
|
|
xsl
|
f1b8b7bd82
|
feat(gateway): worker 池主备分组派发，主全挂才用备机
- pool.py: WorkerState 增加 primary 标记；acquire_worker 分级派发——
主组有在线只在主组内挑空闲（全忙排队，不退备组），主组全部下线才用备机
- config.py: 新增可选 primary_workers 配置（须为 workers 子集，自动过滤+告警）；
不配置/空列表 = 全部视为主 worker，兼容旧行为
- config.json(不入 git): 3 台 GPU worker 设为主，max_global_concurrency 1→3
- app.py: /health 增加 workers_primary_total / workers_primary_healthy
- tests: 新增 4 条主备派发单测（主优先/主全挂用备/主全忙不走备/无配置兼容）
- docs(实现说明): 补充 primary_workers 配置说明，改配置需重启网关生效
|
2026-09-22 23:48:21 +08:00 |
|
|
xsl
|
6b24bf0b0d
|
feat(gateway): 被动摘除后进入 60s 隔离期，防探测复活横跳
落地 docs/网关摘除隔离期实施方案.md（9·19 worker 磁盘满事故第 3 层防线）：
- pool.py: WorkerState.offline_until + _cooldown_seconds()；mark_worker_unhealthy
摘除时设隔离截止时刻，隔离期内探测成功也不复活（_try_revive 守卫）
- pool.py: 删除从未被调用的死代码 _check_worker_health/_mark_failure
- config.py + config.example.json: health_check.cooldown_seconds（默认 60，0=关闭）
- tests/test_gateway_pool.py: 9 用例（摘除设隔离/隔离内不复活/期满复活/整链路等）
网关机已重启验证：启动日志含"隔离期=60s"，/gateway-health 正常。
|
2026-09-20 23:02:18 +08:00 |
|