从北京到南京:偶数在能源行业的数据迁移实践

能源行业的数字化转型

当前,大数据技术在以电力为代表的能源行业不断推进,同时,分布式能源、储能、电网技术不断改进,电力行业的数字化转型充满了机遇和挑战。

一方面,电力行业本身自动化程度高、信息化基础好、系统完备,电力企业在数字化转型上,更加关注通过物联网、大数据、人工智能等新技术的应用挖掘数据的价值。另一方面,在信息化建设和数字化转型的过程中,智能传感器生态链尚不完善,海量数据闲置无法发挥价值,错综复杂的系统形成信息孤岛无法有效融合。

因此,为了充分挖掘,实现数据价值,电力企业首先要考虑如何实现数据的高效整合,以及如何形成数据资产。

在这个背景下,偶数科技为国内某大型能源集团进行了数据迁移并成功实现了大数据底座的优化升级。

平台升级改造迫在眉睫

2023年,该能源集团数据中心在经过多年的使用后即将进行升级改造。由于业务调整,数据中心的地理位置也随之变更,需要将原北京数据中心迁移至南京的新数据中心。同时,当前数据平台系统已经遇到瓶颈,无法有效满足业务需求,亟需对管理架构进行升级改造。

平台技术瓶颈定位

1. 平台拓展能力受限,当前集群规模已达到上限,形成性能瓶颈,如果拓展节点就需要增加新的集群,不仅系统变得复杂,管理维护也变得异常困难。2. 平台数据更新能力受制约,需要原生支持 HDFS 存储上的 Update/Delete 操作。3. 原平台达到性能瓶颈,需要新平台能大幅改善数据库系统插入和查询的性能。


核心组件选型

在对现有分析型国产数据库进行横向调研和测评后,该能源集团对 OushuDB 新产品特性产生了极大的兴趣和期待。一方面是 OushuDB 产品本身对 HDFS 操作的灵活支持,另一方面客户非常认可偶数自研存储的性能及其可插拔存储架构。经过多轮的沟通和测试,确定了以 OushuDB 为核心的数据平台解决方案,并正式进入了数据迁移改造阶段。


整体迁移方案

由于北京数据中心原来的服务器机型老旧,不兼容南京数据中心即将搭建的新集群,因此本次迁移通过搭建临时集群的方式,在北京数据中心将原有数据文件同步至临时集群,再将临时集群搬迁至南京数据中心,临时集群和南京集群组建新的OushuDB 集群,导入备份数据。最后补录迁移期间数据,完成整体迁移。

平台迁移时间线

迁移实施过程

本次大数据平台搬迁实施总体目标是完成大数据平台由北京机房搬迁至南京机房,本次迁移分为两个主要步骤,第一是北京机房的数据备份,迁移至南京机房,第二是新集群的部署和系统及数据验证,再进行业务切换。

北京机房搭建临时集群

为了保证搬迁效率和控制成本,在搭建临时大数据集群时采用规模最小原则,根据数据实际情况,本次项目使用了5台服务器以支撑数据迁移。

在临时集群搭建完毕后,通过数据快照的方式,将北京机房通过万兆局域网进行跨集群数据迁移,数据由原大数据平台迁移至新集群环境。

临时集群搬迁

待北京机房新大数据新集群数据迁移完成后,将新集群下电搬迁至南京机房。将5个节点新集群下架,通过物流运输的方式,将5个节点组成的临时集群搬迁至南京机房。

南京机房集群部署及运行

同步进行部署在虚拟化集群的大数据平台应用功能迁移,新集群重新加电启动,进行系统和数据验证后,依托广域网络完成增量数据迁移,完成系统功能和数据验证。

1. 在南京机房上架新服务器

将10台服务器进行上架。设备网络互联、设备电源连接、打印标签。服务器安装操作系统,网络设备配置、调试;

2. 大数据平台虚拟化应用部署

在南京机房虚拟化集群部署大数据平台的各应用及服务;

3. 新大数据集群搬迁及扩容

待5节点集群迁移至南京机房,进行设备网络互联、设备电源连接、打印标签、启动设备,对集群平台进行功能验证,并将南京机房现有的服务器10台纳入新大数据集群,形成15节点集群;

4. 增量数据同步,新、旧集群并列运行

通过大数据平台数据补招和离线文件导入功能,将大数据搬迁期间增量运行数据迁移至新集群,并进行新集群业务功能验证;核实数据无问题后,将剩余相关业务整体切换至南京机房大数据集群。


平台能力提升
布局实时分析和人工智能

通过本次数据迁移,该客户不仅实现了从北京机房到南京机房无损、平稳的数据搬迁,同时还通过这次契机实现了大数据平台的升级,并在以下几个方面得到了显著提升。

1. 平台性能大幅提升,更换采用新一代向量化执行引擎,让硬件资源得以充分释放,减少了业务分析的延迟。2. 平台可靠性得到有力保障,通过多活主节点保证更高的系统可用性,规避单主节点的故障风险。3. 平台动态水平扩展,通过存算分离、可拓展技术架构解决了集群规模受限的长期困扰。4. 共享一份数据,解决数据孤岛,减少冗余。通过开放的存储格式让所有数据形成统一的一份数据,减少了不同集群之间底层数据存储不兼容的问题。

除了以上平台能力建设的大幅提升,该客户基于平台开放格式的统一数据存储,还可以选用和优化不同大数据组件(如处理结构化数据、非结构化数据和流式数据的不同计算引擎),可落地的多引擎融合能力,让该客户在能源领域提早布局实时分析和人工智能,抓住数字化转型先机。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
THE END
分享
二维码
< <上一篇
下一篇>>