2bec257289
iotlcm-worker-svr:异步执行中枢(RabbitMQ 消费者 + 全量同步编排)。 - Go module:iotlcm-worker-svr → git.5iot.com/iotlcm-public/iotlcm-worker-svr(214 文件) - 凭据与内部标识脱敏:MySQL/Redis 凭据、私网与生产 IP、内网域名、 库名 xiujie_admin → iotlcm、哨兵名占位 - 159 处真实手机号 → 合法 11 位编造号(保留号段与后 4 位,维持互异, 不破坏「校验 MSISDN 格式」等测试断言) - 移除内部资产:CI 触发器、Jenkins 触发测试文档、预演门禁与镜像 digest 记录 - Dockerfile 改用公共基础镜像(golang:1.25-alpine → alpine:3.23), 移除写死的 git 凭据 - README 重写(架构/全量同步模型/配置/已知失败),补 Apache-2.0 LICENSE,LF 行尾 + .gitattributes 已知:3 个测试包在源仓同一提交上同样失败(client/upstream、 service/allocate、service/inbound),属既有缺陷,本仓未引入亦未修复。
4.7 KiB
4.7 KiB
iotlcm-worker-svr
iotLCM 物联网卡全生命周期管理平台的异步执行中枢 —— RabbitMQ 消费者 + 全量同步编排器。
平台的大部分耗时操作(批量开停复机、续费变更、流量/状态/IMEI 全量同步、达量断网、工单自动关闭)都在本服务里异步执行。
特性
- 多队列消费者:注册业务消费者处理重试队列、批次执行、工单等
- 全量同步编排:卡状态 / 本月流量 / 日流量 / 月流量历史 / IMEI 五条全量同步链路,统一的 Producer(扫描 + 供料)→ Consumer(领取 + 执行)模型
- 通道级并发与限速:按通道模板配置 QPS,按通道隔离并发度
- 多轮执行:失败卡进入下一轮重试,单轮上限与轮次上限可配
- 运行归档:每轮执行产出终态 JSON 归档,供通知与排障使用
- 可观测:阶段耗时、库存水位、缺料观测等遥测写入归档
技术栈
- Go 1.25 + GoFrame v2
- RabbitMQ(
github.com/rabbitmq/amqp091-go) - MySQL(业务库)、Redis(任务队列与锁)、TDengine(用量时序)
- 支付宝(余额充值)、excelize(Excel 导入导出)
快速开始
go mod tidy
go run .
配置
配置文件在 config/config_default.yaml(默认配置)与 config/config.yaml(部署时覆盖)。公开版里的凭据与地址全部是占位符:
| 配置项 | 占位 | 说明 |
|---|---|---|
database.default.link |
${DB_USER}:${DB_PASSWORD}@tcp(${DB_HOST}:3306) |
业务库 |
redis.default.address |
${REDIS_ADDR} |
任务队列 |
redis.default.pass |
${REDIS_PASSWORD} |
缓存口令 |
上游凭据(AppKey / AppSecret)不写在本仓,存放在通道表 t_sim_channels 与通道模板表里,由平台写入。
目录结构
iotlcm-worker-svr/
├── internal/
│ ├── cmd/ # 启动装配
│ ├── consumer/
│ │ ├── rabbitmq/ # RabbitMQ 消费者(批次、重试、工单等)
│ │ └── zset/ # 全量同步消费者(ZSet 任务队列)
│ ├── producer/
│ │ ├── simstatus/ # 卡状态全量同步
│ │ ├── monthlyusage/ # 本月流量全量同步
│ │ ├── dailyusage/ # 日流量全量同步
│ │ ├── monthlyusagehistory/ # 月流量历史同步
│ │ └── imei/ # IMEI 全量同步
│ ├── fullsync/ # 全量同步运行时、归档、契约、HTTP 诊断
│ ├── service/ # 各业务动作执行器
│ ├── repository/ # 数据访问
│ ├── queue/zset/ # 任务队列与锁
│ └── library/rabbitmq/ # MQ 封装
├── config/ # 配置
├── build/ # Dockerfile 与镜像内配置
├── manifest/deploy/kustomize/ # K8s 部署清单
└── manifest/docker/ # compose 与启动脚本
全量同步模型
Producer(扫描卡 → 按通道分片入队)
│
▼
ZSet 任务队列(Redis)
│
▼
Consumer(按通道 QPS 领取 → 调上游 → 写库 → 结算)
│
▼
运行归档(终态 JSON,供 Bot 通知与排障)
关键设计:
- 通道隔离:每个通道独立并发与 QPS,一个慢通道不拖垮其他通道
- 供料与消费解耦:Producer 只负责入队,Consumer 按节奏领取,避免上游被瞬时打满
- 多轮重试:单卡失败进入下一轮,轮次上限与单轮上限均可配
- 归档去重:按
runId标识一次执行,Bot 据此去重推送
容器化构建
docker build -f build/Dockerfile -t iotlcm-worker-svr:latest .
镜像内不含任何凭据;config/config.yaml 以只读方式挂载覆盖。
测试
go test ./...
测试使用本地替身,不访问真实运营商接口。
已知失败(与上游主分支一致,非本仓引入):
TestValidateUpstreamBasicInfoAcceptsMatchingIdentifiers、TestConfiguredInboundBasicInfoClientUsesDedicatedEndpoint、TestAllocateProcessingRetryAfterHasLargeBatchDefault。 这三项在源仓库同一提交上同样失败,属既有缺陷。
相关项目
- iotlcm-bot —— 读取归档 JSON 并推送飞书卡片
- iotlcm-upstream-chan —— 运营商上游适配
- iotlcm-admin-svr —— 管理后台(发起批次与定时任务)