UNIX/Linux系统管理技术手册-读书笔记-第三十章
《UNIX/Linux系统管理技术手册-读书笔记-第三十章
数据中心基础
1. 数据中心概述
| 概念 | 说明 | 能做什么 |
|---|---|---|
| 数据中心 | 放置服务器、网络设备、存储设备的物理空间 | 服务的物理根基——其可靠性决定了服务的可靠性上限 |
| 核心要素 | 安全空间 + 机架 + 电力/备用电源 + 制冷 + 网络 + 现场运维 | 任何云资源归根结底都在物理世界的某处 |
💡 关键认知:云供应商虽然提供高可用服务,但所有云资源最终仍依赖物理数据中心。系统管理员必须清楚数据物理位置。
2. 机架
| 概念 | 说明 | 建议 |
|---|---|---|
| 高架地板 | 传统数据中心,电源/冷却/网络藏于地板下 | 线缆易成“老鼠窝”,仅推荐用于电力供应和冷气散布 |
| 悬轨布线系统 | 线缆在头顶线槽中走线 | ✅ 推荐,可维护性高,易查找线缆 |
| 标准机架 | 19英寸单轨电信机架 | 适用于导轨式/机架式服务器 |
| 设备上架 | 唯一可维护的专业选择 | 避免将设备放在桌上或地板上 |
3. 电力系统
3.1 电力冗余方案
| 方案 | 说明 | 适用场景 |
|---|---|---|
| UPS(不间断电源) | 电池供电,覆盖断电到发电机启动的间隙 | 必须配备,所有服务器至少1台UPS |
| 现场发电机 | 柴油/天然气/液化石油气,长期备用 | 长期断电时维持运营,燃料储备≥72小时 |
| 冗余市电 | 来自不同电厂的两路供电 | 高可用数据中心(Tier IV) |
UPS管理:
- 具备以太网/USB接口 → 连接服务器或监控系统
- 断电时通知系统管理员或自动关机
发电机要点:
- 寒冷地区使用“冬季混合柴油”或Jet A-1航空燃料防凝结
- 柴油需添加除藻剂防止藻类滋生
- 每6个月至少测试一次,每年预防性维护
3.2 机架功率分级(表30.1)
| 级别 | 功率/机架 | 适用设备 |
|---|---|---|
| 极高密度/定制 | 40 kW | 特殊高密计算 |
| 超高密度 | 25 kW | 高性能计算 |
| 较高密度 | 20 kW | 刀片服务器 |
| 高密度 | 16 kW | 1U服务器 |
| 存储设备 | 12 kW | 磁盘阵列 |
| 网络交换设备 | 8 kW | 交换机/路由器 |
| 普通密度 | 6 kW | 通用服务器 |
规划建议:
- 使用“每机架功耗”模型,而非建筑面积模型
- 同级别机架集中放置,便于规划冷却
3.3 kVA vs kW(关键换算)
| 概念 | 说明 |
|---|---|
| kW | 实际有功功率(IT设备使用) |
| kVA | 视在功率(UPS标注) |
| 功率因数(pf) | 交流电中kVA与kW的比例关系 |
实用换算公式(现代计算机设备):
kVA = kW / 0.85
重要:估算数据中心耗电时,测量设备实际功耗,而非依赖设备铭牌标称值(标称值通常为最大功耗,偏高)。
3.4 能效(PUE)
| 概念 | 说明 |
|---|---|
| PUE(电力使用效率) | 数据中心总耗电 / IT设备耗电 |
| 理想值 | 1.0(所有电都用于IT设备) |
| 现代优秀值 | ≤1.4 |
| Google 2016年平均 | 1.12 |
| 10年前典型值 | 2.0 ~ 3.0 |
PUE解读:
- PUE=1.4 → 每1度电用于IT,额外0.4度用于冷却/照明等
- PUE越高 → 能效越低 → 运营成本越高
3.5 远程电源控制
| 方案 | 说明 |
|---|---|
| APC远程配电装置 | 通过Web浏览器远程控制服务器电源循环 |
| 用途 | 内核崩溃时远程重启,无需亲临现场 |
4. 冷却与环境
4.1 温度要求
| 标准 | 温度范围 | 说明 |
|---|---|---|
| ASHRAE传统建议 | 20°C ~ 25°C(68°F ~ 77°F) | 服务器入口处测量 |
| ASHRAE 2012放宽 | 18°C ~ 27°C(64.4°F ~ 80.6°F) | 硬件适应性更强,利于节能 |
4.2 冷却负荷估算
| 热源 | 计算方法 | 示例 |
|---|---|---|
| 电子设备 | 功耗(W) × 3.413 = BTUH | 25台×450W×3.413 = 38,385 BTUH |
| 照明 | 灯具功率 × 3.413 | 6个灯具×160W×3.413 = 3,276 BTUH |
| 操作人员 | 300 BTUH/人 | 4人 = 1,200 BTUH |
| 建筑围护 | HVAC工程师估算 | 20,000 BTUH |
总热负荷 = 各部分之和。
冷却容量(吨) = 总BTUH / 12,000 × 1.5(至少加50%余量)
示例:62,861 BTUH → (62,861/12,000) × 1.5 = 7.86吨冷却
4.3 冷热通道布局
| 概念 | 说明 | 能做什么 |
|---|---|---|
| 冷通道 | 带开孔地板,服务器吸入冷气 | 确保服务器进气口吸入冷气 |
| 热通道 | 无开孔地板,接收服务器排气 | 将热空气集中排出,避免与冷空气混合 |
| 交替布局 | 机架背靠背,通道冷热交替 | 优化气流,提高冷却效率 |
无高架地板方案:使用行内冷却单元(APC等),安装在机架之间(图30.2)。
线缆布线:
- 电源线走冷通道
- 网线/光纤走热通道
工具推荐:红外测温仪(如Fluke 62)——测试冷却效果,检查冷热通道温差。
4.4 湿度
| 标准(ASHRAE 2012) | 范围 |
|---|---|
| 相对湿度 | 8% ~ 60% |
| 过低风险 | 静电放电 |
| 过高风险 | 冷凝 → 短路/氧化 |
4.5 环境监控
| 方案 | 说明 |
|---|---|
| Sensaphone等环境监控器 | 监控温度/湿度/噪声/电力,电话或短信告警 |
| 必要性 | 周一早上发现“融化的塑料堆”——绝不想要 |
💡 Infrared测温仪是系统管理员必备工具——快速检测机架热点、验证冷热通道效果。
5. 数据中心可靠性分级(Uptime Institute Tier)
| 级别 | 可用性 | 发电机 | UPS | 供电 | HVAC | 特点 |
|---|---|---|---|---|---|---|
| Tier I | 99.671%(年停机~29h) | 无 | N | 单路 | N | 基础,无冗余 |
| Tier II | 99.741%(年停机~23h) | N | N+1 | 单路 | N+1 | 部分冗余 |
| Tier III | 99.982%(年停机~1.6h) | N+1 | N+1 | 双路可切换 | N+1 | 可维护时不停机 |
| Tier IV | 99.995%(年停机~26min) | 2N | 2N | 双路并行 | 2N | 区域化隔离,最高容错 |
- N:刚好满足需求的设备数量
- N+1:一套备件
- 2N:每设备都有完整备份
Tier IV必须“区域化”——按组划分供电和冷却,单组故障不影响其他组。管理不善/架构不当会抵消硬件冗余的优势。
6. 数据中心安全
6.1 选址
| 应避免 | 理由 |
|---|---|
| 森林火灾/龙卷风/飓风/地震/洪水区 | 自然灾害风险 |
| 机场/高速公路/炼油厂/油库附近 | 人为灾难风险 |
资源:USGS地震概率数据、Uptime Institute数据中心位置风险地图
6.2 周边安全
| 措施 | 标准 |
|---|---|
| 围栏 | 距建筑物至少25英尺 |
| 门禁 | 安保+多重门禁系统(如读卡器+生物识别) |
| 视频监控 | 100%覆盖外部周边、大门、入口道路、停车场、屋顶 |
| 建筑物标识 | 不做任何标记——不显示公司名或“数据中心”字样 |
6.3 设施访问与机架
| 层级 | 措施 |
|---|---|
| 设施访问 | 安保+多重门禁+生物识别;访客需预先登记+审核 |
| 厂商管理 | 除非有明确授权,否则拒绝任何自称来维修的“厂商” |
| 机架访问 | 共享数据中心需每机架独立门禁(读卡器+指纹);每个机架独立视频监控 |
7. 系统管理员工具箱(表30.3)
| 类别 | 工具 |
|---|---|
| 普通工具 | 内六角扳手套件、十字/平头螺丝刀(多种规格)、尖嘴钳、锤子、手电筒、卷尺 |
| 计算机专用 | PC固定螺丝、线缆扎带(+Velcro)、红外测温仪、RJ-45压钳、网络分析仪/便携机、备用交叉线缆、备用电源线、静电接地带 |
| 电气 | 数字万用表(DMM)、RJ-45接头(硬芯+多股)、剥线钳 |
| 探测 | Ridgid SeeSnake微型检查相机、伸缩式磁性拾取棒、牙医镜 |
| 杂项 | 镊子、压缩空气罐、绝缘胶带、棉签、急救包(含布洛芬/对乙酰氨基酚)、紧急维修联系人名单、手机、6扎好啤酒 |
8. 本章核心概念速查表
| 概念 | 要点 |
|---|---|
| 机架功率规划 | 6-40kW/机架,按级别分区 |
| kVA→kW换算 | kW = kVA × 0.85 |
| PUE | 总电耗/IT电耗,≤1.4为优秀,理想=1.0 |
| 冷却温度 | 18-27°C(服务器入口) |
| 冷热通道 | 冷通道进冷气,热通道排热气 |
| 湿度 | 8%~60% |
| Uptime Tier | I~IV,可用性99.671%~99.995% |
| 物理安全 | 围栏+门禁+视频监控+无标识 |
DBA视角补充:
- 数据中心选址直接影响数据库合规性:数据主权法律(如GDPR)要求某些数据不能离开特定国家/地区。选择数据中心位置时需考虑法律合规,而非仅关注成本和性能。
- 电力冗余对数据库可用性至关重要:数据库对突然断电极为敏感(可能损坏数据文件/事务日志)。确保数据库服务器连接双路UPS + 发电机,且UPS容量足以支撑到发电机启动。
- 断电自动关机策略:UPS电池电量低时应自动触发数据库优雅关闭(
mysqladmin shutdown、pg_ctl stop -m fast),避免突然断电导致数据损坏。- 冷热通道与数据库机架布局:数据库服务器通常高密度、高功耗,应部署在高功率机架区域并确保冷通道供冷充足。红外测温仪定期检查机架入口温度。
- 环境监控告警:数据中心温度异常时,需第一时间通知DBA——温度过高会导致数据库服务器降频甚至宕机。环境监控告警应与数据库监控系统集成(如通过PagerDuty)。
- 数据中心分级与数据库RTO/RPO:选择数据中心Tier级别时,需与企业数据库恢复时间目标(RTO)和恢复点目标(RPO)对齐。Tier III/IV的可维护性对于数据库零停机升级/补丁至关重要。
- 物理安全与数据库安全:数据库服务器的物理访问等同于root权限。确保机架有独立门禁和视频监控,防止物理窃取或篡改数据库服务器(如插入恶意USB设备)。
文章作者 会写代码的小郎中
上次更新 2011-07-11
许可协议 CC BY-NC-ND 4.0