自建对象存储的长期维护:升级、备份与迁移的顺序

自建服务 · 3 分钟阅读· 170 次阅读

生命周期规则是后台异步扫描,配完不会立刻删除对象

把升级、备份、迁移这三件事流程化,才敢长期用。

先说结论

升级前先备份,备份后先演练恢复;不能回滚的升级不做。

  • 固定版本,改动前记录当前版本号
  • 升级前:备份数据 + 备份配置
  • 升级后:验证核心功能,不只看进程
  • 迁移:先迁数据,再迁流量
  • 回滚方案写在纸上,别只存在脑子里

升级策略

mc mirror 做增量同步,比 rsync 更懂对象与分片上传。

类型 频率 风险 做法
补丁版本 每月 低 直接升,保留旧镜像
次版本 每季 中 看变更日志,先在测试实例升
大版本 按需 高 读迁移指南,准备回滚
依赖升级 每季 中 锁版本,别用 latest

备份的三层

三层分别是:数据备份、配置备份、以及「能重建这台机器」的文档。缺第三层,前两层迟早用不上。

这个服务的几个维护事实

和它自身机制相关的几条:

  • 纠删码的可用容量约为总容量的一半,不是四分之三
  • mc mirror 做增量同步,比 rsync 更懂对象与分片上传
  • 分片上传的 ETag 不是文件 MD5,校验要用 x-amz-checksum 头
  • 大量小对象会拖慢列举,10 万个对象 ls 一次要几十秒

自建对象存储的长期维护

迁移的步骤

大量小对象会拖慢列举,10 万个对象 ls 一次要几十秒。

  • 新机器按文档重建环境,验证空跑
  • 同步数据,做一次一致性校验(条数、校验和)
  • 切换前用 hosts 指向新机器验证
  • 切换 DNS 或反代,保留旧机器一周
  • 观察日志与错误率,再决定是否下线旧机

维护日历

每月:看磁盘与日志;每季:升级 + 备份校验;每半年:恢复演练一次;每年:清理不再需要的服务。

还有几处容易忽略的

都是小地方,但出问题时往往就卡在这里。

  • 单盘模式没有冗余,盘坏了数据直接没;纠删码 4 盘只能坏 2 盘
  • 单盘跑对象存储当唯一备份目标,盘坏了源和备份一起没
  • 用 ETag 校验分片上传的文件,永远对不上
  • 把 20 万个小文件塞进一个前缀,控制台列表直接卡死

长期维护的秘诀很土:每次只改一件事,改完就验证。

评论 (3)

K
Kevin

版本差异要强调,我照着做结果参数名全变了。

L
lin

最小可用配置这个说法很好,先跑起来再优化。

阿
阿哲

排查顺序那段直接抄进值班手册了。

发表评论

验证码

提交后需站长审核,通过后才会显示。