《UNIX/Linux系统管理技术手册-读书笔记-第三十章

数据中心基础

1. 数据中心概述

概念 说明 能做什么
数据中心 放置服务器、网络设备、存储设备的物理空间 服务的物理根基——其可靠性决定了服务的可靠性上限
核心要素 安全空间 + 机架 + 电力/备用电源 + 制冷 + 网络 + 现场运维 任何云资源归根结底都在物理世界的某处

💡 关键认知:云供应商虽然提供高可用服务,但所有云资源最终仍依赖物理数据中心。系统管理员必须清楚数据物理位置。

2. 机架

概念 说明 建议
高架地板 传统数据中心,电源/冷却/网络藏于地板下 线缆易成“老鼠窝”,仅推荐用于电力供应和冷气散布
悬轨布线系统 线缆在头顶线槽中走线 推荐,可维护性高,易查找线缆
标准机架 19英寸单轨电信机架 适用于导轨式/机架式服务器
设备上架 唯一可维护的专业选择 避免将设备放在桌上或地板上

3. 电力系统

3.1 电力冗余方案

方案 说明 适用场景
UPS(不间断电源) 电池供电,覆盖断电到发电机启动的间隙 必须配备,所有服务器至少1台UPS
现场发电机 柴油/天然气/液化石油气,长期备用 长期断电时维持运营,燃料储备≥72小时
冗余市电 来自不同电厂的两路供电 高可用数据中心(Tier IV)

UPS管理

  • 具备以太网/USB接口 → 连接服务器或监控系统
  • 断电时通知系统管理员或自动关机

发电机要点

  • 寒冷地区使用“冬季混合柴油”或Jet A-1航空燃料防凝结
  • 柴油需添加除藻剂防止藻类滋生
  • 每6个月至少测试一次,每年预防性维护

3.2 机架功率分级(表30.1)

级别 功率/机架 适用设备
极高密度/定制 40 kW 特殊高密计算
超高密度 25 kW 高性能计算
较高密度 20 kW 刀片服务器
高密度 16 kW 1U服务器
存储设备 12 kW 磁盘阵列
网络交换设备 8 kW 交换机/路由器
普通密度 6 kW 通用服务器

规划建议

  • 使用“每机架功耗”模型,而非建筑面积模型
  • 同级别机架集中放置,便于规划冷却

3.3 kVA vs kW(关键换算)

概念 说明
kW 实际有功功率(IT设备使用)
kVA 视在功率(UPS标注)
功率因数(pf) 交流电中kVA与kW的比例关系

实用换算公式(现代计算机设备):

kVA = kW / 0.85

重要:估算数据中心耗电时,测量设备实际功耗,而非依赖设备铭牌标称值(标称值通常为最大功耗,偏高)。

3.4 能效(PUE)

概念 说明
PUE(电力使用效率) 数据中心总耗电 / IT设备耗电
理想值 1.0(所有电都用于IT设备)
现代优秀值 ≤1.4
Google 2016年平均 1.12
10年前典型值 2.0 ~ 3.0

PUE解读

  • PUE=1.4 → 每1度电用于IT,额外0.4度用于冷却/照明等
  • PUE越高 → 能效越低 → 运营成本越高

3.5 远程电源控制

方案 说明
APC远程配电装置 通过Web浏览器远程控制服务器电源循环
用途 内核崩溃时远程重启,无需亲临现场

4. 冷却与环境

4.1 温度要求

标准 温度范围 说明
ASHRAE传统建议 20°C ~ 25°C(68°F ~ 77°F) 服务器入口处测量
ASHRAE 2012放宽 18°C ~ 27°C(64.4°F ~ 80.6°F) 硬件适应性更强,利于节能

4.2 冷却负荷估算

热源 计算方法 示例
电子设备 功耗(W) × 3.413 = BTUH 25台×450W×3.413 = 38,385 BTUH
照明 灯具功率 × 3.413 6个灯具×160W×3.413 = 3,276 BTUH
操作人员 300 BTUH/人 4人 = 1,200 BTUH
建筑围护 HVAC工程师估算 20,000 BTUH

总热负荷 = 各部分之和。
冷却容量(吨) = 总BTUH / 12,000 × 1.5(至少加50%余量)

示例:62,861 BTUH → (62,861/12,000) × 1.5 = 7.86吨冷却

4.3 冷热通道布局

概念 说明 能做什么
冷通道 带开孔地板,服务器吸入冷气 确保服务器进气口吸入冷气
热通道 无开孔地板,接收服务器排气 将热空气集中排出,避免与冷空气混合
交替布局 机架背靠背,通道冷热交替 优化气流,提高冷却效率

无高架地板方案:使用行内冷却单元(APC等),安装在机架之间(图30.2)。

线缆布线

  • 电源线走冷通道
  • 网线/光纤走热通道

工具推荐:红外测温仪(如Fluke 62)——测试冷却效果,检查冷热通道温差。

4.4 湿度

标准(ASHRAE 2012) 范围
相对湿度 8% ~ 60%
过低风险 静电放电
过高风险 冷凝 → 短路/氧化

4.5 环境监控

方案 说明
Sensaphone等环境监控器 监控温度/湿度/噪声/电力,电话或短信告警
必要性 周一早上发现“融化的塑料堆”——绝不想要

💡 Infrared测温仪是系统管理员必备工具——快速检测机架热点、验证冷热通道效果。

5. 数据中心可靠性分级(Uptime Institute Tier)

级别 可用性 发电机 UPS 供电 HVAC 特点
Tier I 99.671%(年停机~29h) N 单路 N 基础,无冗余
Tier II 99.741%(年停机~23h) N N+1 单路 N+1 部分冗余
Tier III 99.982%(年停机~1.6h) N+1 N+1 双路可切换 N+1 可维护时不停机
Tier IV 99.995%(年停机~26min) 2N 2N 双路并行 2N 区域化隔离,最高容错
  • N:刚好满足需求的设备数量
  • N+1:一套备件
  • 2N:每设备都有完整备份

Tier IV必须“区域化”——按组划分供电和冷却,单组故障不影响其他组。管理不善/架构不当会抵消硬件冗余的优势。

6. 数据中心安全

6.1 选址

应避免 理由
森林火灾/龙卷风/飓风/地震/洪水区 自然灾害风险
机场/高速公路/炼油厂/油库附近 人为灾难风险

资源:USGS地震概率数据、Uptime Institute数据中心位置风险地图

6.2 周边安全

措施 标准
围栏 距建筑物至少25英尺
门禁 安保+多重门禁系统(如读卡器+生物识别)
视频监控 100%覆盖外部周边、大门、入口道路、停车场、屋顶
建筑物标识 不做任何标记——不显示公司名或“数据中心”字样

6.3 设施访问与机架

层级 措施
设施访问 安保+多重门禁+生物识别;访客需预先登记+审核
厂商管理 除非有明确授权,否则拒绝任何自称来维修的“厂商”
机架访问 共享数据中心需每机架独立门禁(读卡器+指纹);每个机架独立视频监控

7. 系统管理员工具箱(表30.3)

类别 工具
普通工具 内六角扳手套件、十字/平头螺丝刀(多种规格)、尖嘴钳、锤子、手电筒、卷尺
计算机专用 PC固定螺丝、线缆扎带(+Velcro)、红外测温仪、RJ-45压钳、网络分析仪/便携机、备用交叉线缆、备用电源线、静电接地带
电气 数字万用表(DMM)、RJ-45接头(硬芯+多股)、剥线钳
探测 Ridgid SeeSnake微型检查相机、伸缩式磁性拾取棒、牙医镜
杂项 镊子、压缩空气罐、绝缘胶带、棉签、急救包(含布洛芬/对乙酰氨基酚)、紧急维修联系人名单、手机、6扎好啤酒

8. 本章核心概念速查表

概念 要点
机架功率规划 6-40kW/机架,按级别分区
kVA→kW换算 kW = kVA × 0.85
PUE 总电耗/IT电耗,≤1.4为优秀,理想=1.0
冷却温度 18-27°C(服务器入口)
冷热通道 冷通道进冷气,热通道排热气
湿度 8%~60%
Uptime Tier I~IV,可用性99.671%~99.995%
物理安全 围栏+门禁+视频监控+无标识

DBA视角补充

  • 数据中心选址直接影响数据库合规性:数据主权法律(如GDPR)要求某些数据不能离开特定国家/地区。选择数据中心位置时需考虑法律合规,而非仅关注成本和性能。
  • 电力冗余对数据库可用性至关重要:数据库对突然断电极为敏感(可能损坏数据文件/事务日志)。确保数据库服务器连接双路UPS + 发电机,且UPS容量足以支撑到发电机启动。
  • 断电自动关机策略:UPS电池电量低时应自动触发数据库优雅关闭mysqladmin shutdownpg_ctl stop -m fast),避免突然断电导致数据损坏。
  • 冷热通道与数据库机架布局:数据库服务器通常高密度、高功耗,应部署在高功率机架区域并确保冷通道供冷充足。红外测温仪定期检查机架入口温度。
  • 环境监控告警:数据中心温度异常时,需第一时间通知DBA——温度过高会导致数据库服务器降频甚至宕机。环境监控告警应与数据库监控系统集成(如通过PagerDuty)。
  • 数据中心分级与数据库RTO/RPO:选择数据中心Tier级别时,需与企业数据库恢复时间目标(RTO)和恢复点目标(RPO)对齐。Tier III/IV的可维护性对于数据库零停机升级/补丁至关重要。
  • 物理安全与数据库安全:数据库服务器的物理访问等同于root权限。确保机架有独立门禁和视频监控,防止物理窃取或篡改数据库服务器(如插入恶意USB设备)。