CN109614441A - 一种营销业务系统智能运维同步架构系统 - Google Patents

Abstract

本发明提供一种营销业务系统智能运维同步架构系统，包括将营销费控、基础数据平台数据直接由营销业务生产数据库提供，搭建基础数据平台备库(Oracle Active DataGuard技术)，将电动汽车业务到基础数据平台的数据同步去掉，调整全业务中心数据来源；架构优化调整计划将全业务中心的数据来源从基础数据平台调整到查询数据库；重新梳理同步架构并加以调整和优化，最终保证各业务系统之间数据同步的及时性和完整性。

Description

一种营销业务系统智能运维同步架构系统

技术领域

本发明涉及电力数据处理技术领域，具体为一种营销业务系统智能运维同步架构系统。

背景技术

国网辽宁电力有限公司(以下简称辽宁公司)营销部门有多套业务系统使用OGG及SHAREPLEX软件进行数据同步，涉及的业务系统多、同步机制复杂、同步数据量巨大。另外还有部分业务系统的数据需要与国网进行数据同步，接受国网考核。

随着国网辽宁电力有限公司(以下简称辽宁公司)各业务系统规模发展，系统之间的数据同步业务需求进一步增多。业务系统对数据同步实时性要求较高，但现有数据同步架构存在一定问题，主要有以下几点：

1、同步环节众多，流程复杂：数据在流动中需要经过多个环节，多的需要经过4个中间数据库节点才能到达最终目的地，如果中间环节遇到问题，后面的所有环节都受到影响，具有连带效应。

2、同步延时较大：有时会有部分业务的同步数据出现同步延时，造成延时的原因有多种，主要有架构复杂，同步软件bug，业务变化数据量突增，硬件资源瓶颈等。

3、数据存在不一致现象：部分业务表经检查发现存在历史数据目标端与源端不一致现象。造成数据不一致现象的原因也有几种，比如同步规则复杂(有的表是异构表，有的表还出现转码操作，源端及目标端的主键列不同等)；或者当在维护过程中遇到无法解决问题(归档丢失，进程异常无法启动等)时，为实现业务连续，要通过跳过部分数据解决。

4、部分业务系统的ogg软件版本不匹配并遇到bug：该问题主要集中在营销采集数据库，当触发bug时，ogg进程会宕掉，需要人为干预才能修复。

5、当前ogg缺乏故障切换机制：目前各业务数据库都为RAC架构，ogg部署在单个节点上，当遇到单个节点实例或主机遇到故障时，虽然数据库仍然能使用，但ogg已经无法进行同步操作

由于存在以上问题，当前同步架构已无法满足各业务对数据及时性、完整性的需求。为解决辽宁公司业务统之间数据同步延时高和数据同步不一致的情况，辽宁公司计划重新梳理同步软件架构并加以调整和优化，最终保证辽宁公司各业务系统之间数据同步的及时性和完整性。

发明内容

本发明要解决的技术问题是，提供一种营销业务系统智能运维同步架构系统，主要涉及营销数据业务，营销业务系统查询数据库是一个中间环节，费控业务，同业对标以及基础数据平台的数据，都需要经它进行中转。同时，查询库的数据是由营销业务生产数据库通过shareplex软件同步来的，营销稽查1期数据库也是如此。这样的架构会带来一系列问题：shareplex软件维护难度较高，现场人员基本只能做启动停止进程类的操作，一旦遇到故障同步中止，可能需要较长修复时间，导致整体数据同步出现延时。

采用的技术方案为：

一种营销业务系统智能运维同步架构系统，包括：

将营销费控、基础数据平台数据直接由营销业务生产数据库提供，少了中间环节后，可有效简化同步流程，也可以降低故障出现几率以及减少同步时间；

将稽查一期同步软件由shareplex改为ogg，可有效降低维护难度；

另外，搭建基础数据平台备库(Oracle Active DataGuard技术)，将省公司管辖范围内的ogg同步分发源端抽取进程及传输进程迁移到备库主机(要求ogg版本大于12.1.2.1)，可降低基础数据平台的IO压力；

将电动汽车业务到基础数据平台的数据同步去掉，因其在2015年之后就没有数据同步，应确认是否可以将其清理掉释放ogg进程资源；

调整全业务中心数据来源；目前全业务中心营销生产数据来自基础数据平台，对基础数据平台是很大的压力，另外基础数据平台的部分业务数据是经过多个节点同步而来，在实时性和准确性上并不能完全保证，所以本次架构优化调整计划将全业务中心的数据来源从基础数据平台调整到查询数据库；

为同期线损及营配调贯通指标考核等业务单独搭建新基础数据平台数据库，数据直接来源于营销生产，降低同步延迟带来业务影响；

另，对于营销生产库的架构，规划未来将营销生产数据库由2节点11g RAC改为4节点12c RAC，主机跨中心，存储实现双活。

本发明的优势在于：

由于存在以上问题，当前同步架构已无法满足各业务对数据及时性、完整性的需求。为解决业务统之间数据同步延时高和数据同步不一致的情况，本发明提供一种营销业务系统智能运维同步架构系统，重新梳理同步架构并加以调整和优化，最终保证各业务系统之间数据同步的及时性和完整性。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例：

一种营销业务系统智能运维同步架构系统，包括下述步骤：

一、调整同步架构：

(1)调整费控数据流向：

1.在营销生产端创建针对费控数据的ogg新抽取进程，不启动；

2.在营销生产端创建针对费控数据的ogg新传输进程，指向费控数据库；

3.在费控数据库主机创建ogg新复制进程，不启动；

4.停止营销生产对应费控的业务；

5.待查询库到费控库传输延迟为0，停止查询库到费控库的数据同步；

6.启动营销生产源端ogg抽取进程；

7.启动营销生产源端ogg传输进程；

8.启动费控库目标端ogg复制进程；

(2)调整营销业务生产数据流向；

1.在营销生产端创建针对营销生产数据的ogg新抽取进程，不启动；

2.在营销生产端创建针对营销生产数据的ogg新传输进程，指向基础数据平台数据库；

3.在基础数据平台数据库主机创建ogg新复制进程，不启动；

4.停止营销生产业务；

5.待查询库到基础数据平台传输延迟为0，停止查询库到基础数据平台数据同步；

6.启动营销生产源端ogg抽取进程；

7.启动营销生产源端ogg传输进程；

8.启动基础数据平台目标端ogg复制进程；

(3)取消电动汽车业务数据同步；

1.确认电动汽车业务无需同步；

2.在基础数据平台(86.1)删除进程；

REPQCA01；

REPQCA02；

(4)调整全业务数据中心数据来源；

1.梳理全业务数据中心所需业务数据；

2.逐一配置各业务到全业务数据中心数据ogg同步进程；

3.停止基础数据平台对应全业务数据中心的数据抽取及传输；

4.有必要的情况下进行全业务数据中心数据初始化；

(5)调整掌上电力对比业务数据源；

当前掌上电力业务使用查询库(数据由营销生产同步而来)来做业务数据的比对，由于shareplex有时出现同步延迟导致业务无法正常运行，建议业务部门调整连接指向，直接在营销生产库进行数据比对，提高业务感受；

(6)为同期线损及营配调贯通指标考核等业务搭建新基础数据平台；

由于当前由部分业务较重要，容易受复杂同步流程影响(某个环节有延迟即影响业务)，建议搭建一套专用基础数据平台数据库，保障重点业务没有同步延迟现象。

通过前期调研有这种需求的为同期线损及营配调指标考核业务，后续有需求可再增加。

(7)将稽查一期数据库同步软件由shareplex替换为ogg；

1.在营销生产端创建针对营销稽查数据的ogg新抽取进程，不启动；

2.在营销生产端创建针对营销稽查数据的ogg新传输进程，指向查询数据库；

3.在营销稽查数据库主机创建ogg新复制进程，不启动；

4.停止营销稽查业务；

5.停止shareplex针对营销稽查的数据同步；

6.启动营销生产源端ogg抽取进程；

7.启动营销生产源端ogg传输进程；

8.启动营销稽查目标端ogg复制进程；

(8)搭建基础数据平台ADG，并切换ogg源端抽取及传输至备库；

1.搭建基础数据平台ADG；

2.在ADG的备端部署抽取及传输进程，分别指向多套目标业务系统数据库；

3.停止ADG主端对应多套目标业务系统数据库的抽取及传输进程，并记录日志号及偏移地址；

4.设定ADG备端抽取进程日志号及偏移地址；

5.设定ADG备端传输进程的远程trail文件号；

6.启动ADG备端抽取进程及传输进程；

7.调整多套目标业务系统数据库的复制进程，指向新trail文件；

二、降低同步延迟：

(1)将对实时性要求高的表拆分成独立进程；

1.梳理各重要业务(营销生产，费控等)对实时性要求高的表；

2.从shareplex或者整合ogg进程中拆分出来，单独用ogg进行复制，如有需要，单独进行抽取及传输；

如遇到存在历史数据不一致的情况可能需要做数据补齐或者数据初始化；

(2)通过自动化运维脚本迅速解决常见故障

用采ogg源端抽取进程经常因bug宕掉，人工处理一般不会特别及时，通过编写自动化运维脚本准实时监控进程状态，遇到固定原因的进程宕，脚本进行自动处理，迅速恢复同步；

(3)将存在延迟问题的进程拆分；

当前运行中已很少有延迟现象，但运维中发现当费控->基础数据平台的同步遇到业务量突增时会导致一定延迟，因此可能需要把其中有密集dml操作的表单独拆分出来，如果独立进程仍然满足不了要求，针对该表做进一步并行拆分。

(4)调优数据库性能；

根据运维中观察，同步架构中营销生产，用电信息采集以及基础数据平台三个数据库在业务量大时都存在硬件资源不足的情况，营销生产在之前的硬件扩容后缓解了这一现象，但其他两套数据库仍然经常性能不佳，尤其是基础数据平台。

由于和应用厂商沟通中得知，基础数据平台业务无法进行拆分以减少对数据库的访问，那么只能通过调优应用SQL降低对数据库的资源消耗，如有必要，我方可配合抓取有性能问题的SQL语句。

(5)规范同步源端及目标端表结构变更流程；

为降低因表结构变更导致同步中断现象，对变更流程进行规范：

在由表结构变更的检修，需提前通知ogg维护人员；

源端表结构变更前停止抽取进程；

先对目标端进行表结构变更，再对源端进行表结构变更，如有国网同步，需通知国网运维

如同步表源端与目标端异构，重新生成定义文件；

以上步骤完成后，启动源端抽取进程；

针对有新业务需求的，需要完成业务配置申请单，由相关人员签字确认后再由运维人员完成实施工作；

三、优化同步软件配置：

(1)升级ogg软件；

采集业务数据库之前由oracle 10g升级为oracle 11g，但ogg软件未跟随升级，仍然是for 10g的

Version 11.2.1.0.3 14400833 OGGCORE_11.2.1.0.3_PLATFORMS_120823.1258

HP/UX,IA64,64bit(optimized),Oracle 10g on Aug 23 2012 16:44:55

因此，需要将其更换为for 11g的，且小版本要大于11.2.1.0.6，避免bug；

(2)优化营销费控->基础数据平台ogg进程；

目标端去掉复制进程中重复apply的表；

FDPSHARE.ARC_ES_PL_AMT

FDPSHARE.ES_CONS_PRC_AMT

FDPSHARE.ES_MP_PQ

(3)优化营销查询->费控业务ogg进程

1.目标端去掉复制进程中重复apply的表；

EPM_CP_LN.A_ACCT_BAL

EPM_CP_LN.C_METER_READ

EPM_CP_LN.INT_C_MP_LADDER_INFO

EPM_CP_LN.R_SECT

2.删除不必要的进程；

源端DPEFKB进程和目标端REPYXA05 REPYXA06 REPYXA08 REPYXA09 REPYXA10对应，但是进程里的同步表不对应；

3.删除源端多余的表；

EPM_IC_LN.INT_C_MP_LADDER_INFO

(4)优化营销查询->基础数据平台ogg进程；

删除源端多余的表；

采集进程extlnyxc抽取多余表；

EPC_LN.S_SUBSCIBE_CONT

EPM_LN.S_ACTIVE_PUSH_DET

EPM_LN.S_APP_RETVISIT_RSLT

EPM_LN.S_INTERVAL_CONSTRAIN

EPM_LN.S_LINE_CONSTRAIN

EPM_LN.S_MT_CONSTRAIN

EPM_LN.S_PRJ_INFO

EPM_LN.S_PRJ_STOCK

EPM_LN.S_PRJ_SUB_PACKAGE

EPM_LN.S_PROCESS_QUERY_DET

EPM_LN.S_REMINDER_INFO

EPM_LN.S_SYN_ORG_RELA

EPM_LN.S_TG_CONSTRAIN

(5)优化用电信息采集->基础数据平台ogg进程；1.删除源端多余的表；

源端抽取了多余的表EDAS.E_MP_ENERGY_CURVE；

2.目标端去掉复制进程中重复apply的表；

FDPSHARE.E_HV_MP_DAY_ENERGY

CACHER02.GC_POWER_RECORD

FDPSHARE.GC_POWER_RECORD

CACHER02.GC_POWER_HOUR

FDPSHARE.GC_POWER_HOUR

FDPSHARE.GC_POWER_HOUR

(6)优化计量网省中间库ogg进程；

1.营销生产业务->计量网省中间库；

目标端去掉复制进程中重复apply的表；

MPAC.C_MP_IT_RELA；

2.计量调度生产->计量网省中间库

删除源端的抽取和复制进程；

EXTLC DP_LC进程在目标端没有对应的复制进程；

(7)优化计量资产寿命ogg进程；

1.计量调度生产->计量资产寿命；

删除源端多余的表；

源端抓取多余表；

MPAC.O_ORG；

目标端去掉复制进程中重复apply的表；

LCAM.PUB_ONLINE

LCAM.PUB_ONLINE_HIST

LCAM.PUB_STRU

2.营销基础数据平台->计量资产寿命；

目标端去掉复制进程中重复apply的表；

LCCJJK.TMNL_ONLINE_LIST

(8)重点保障营销查询业务表；

当前使用shareplex同步的查询库里的表C_CUST、C_CONTACT需要重点保障；

可单独使用ogg进行同步；

四、实现数据一致性：

(1)补足缺失数据；

但遇到某些缺失数据的表只包含insert操作时，可以通过对比源端及目标端两边的数据，编写存储过程直接将缺失数据从源端插入到目标端；

(2)数据初始化；

对于包含各种dml操作的缺失数据的表，只能通过数据初始化来实现数据一致；

但这里要注意几点：

1.由运维人员提出已发现数据不同步的表或由业务部门额外提出有数据不同步现象的重要业务表；

2.所有初始化表需要相关业务部门确认；

3.基础数据平台的表与源端的表为异构表，会增加4个时间列，在初始化后要手工增加；

4.有的基础数据平台表比源端表的列少，初始化后要删掉；

5.有的基础数据平台表还向下一层分发，要同时对下一层做数据初始化。

五、分散各业务trail文件：

根据目前运维过程发现，基础数据平台有三大数据来源：营销生产，营销采集，营销费控；每套业务系统每日传给基础数据平台的trail文件量都在60gb左右，多的时候能达到200g；

由于trail文件放置在本地文件系统，磁盘io效率不高，经常发生busy 100％的情况，建议将其分散到不同磁盘所在文件系统，以增加整体的IO吞吐量。

六、增强ogg安全及故障切换能力：

(1)将ogg本地盘替换为存储盘；

有些ogg所在文件系统使用本地磁盘，当本地主机损坏时会影响ogg数据，为避免此情况，配合系统工程师将本地盘统一替换成存储盘。

(2)增加ogg故障切换能力；

ogg需要进行故障切换的场景分两种：

1.ogg所在主机实例宕；

为ogg增加备用配置文件，配置文件中将本地连接串改为通过监听连接另一实例的连接串，并制定应急预案，当出现实例宕问题，通过手工指定备用配置文件，切换连接，降低ogg停机时间。

2.ogg所在主机节点宕；

将ogg所用磁盘替换为共享磁盘，并制定切换预案，当遇到主机宕机时，按照预案将ogg所在vg切换到另一节点并启动。

为目标端ogg增加源端传输进程的备用配置文件，当遇到目标端ogg切换节点时，传输进程使用备用配置文件。

七、存储分离或硬件扩容：

目前基础数据平台数据库与营销采集数据库的底层存储是同一台，这两套业务系统的IO两都是非常巨大的，特别是营销基础数据平台的吞吐量，峰值达到了1GB/s，从数据库里查得写响应时间达到100ms，已出现IO瓶颈；如果能在硬件层面将这两者分离，将大大提高各自的IO能力。

虽然本发明以较佳实施例揭露如上，但并非用以限定本发明实施的范围。任何本领域的普通技术人员，在不脱离本发明的发明范围内，当可作些许的改进，即凡是依照本发明所做的同等改进，应为本发明的范围所涵盖。

Claims (1)

1.一种营销业务系统智能运维同步架构系统，其特征在于：包括：

将营销费控、基础数据平台数据直接由营销业务生产数据库提供，少了中间环节后，可有效简化同步流程，也可以降低故障出现几率以及减少同步时间；

将稽查一期同步软件由shareplex改为ogg，可有效降低维护难度；

另外，搭建基础数据平台备库(Oracle Active DataGuard技术)，将省公司管辖范围内的ogg同步分发源端抽取进程及传输进程迁移到备库主机(要求ogg版本大于12.1.2.1)，可降低基础数据平台的IO压力；

将电动汽车业务到基础数据平台的数据同步去掉，因其在2015年之后就没有数据同步，应确认是否可以将其清理掉释放ogg进程资源；

调整全业务中心数据来源；目前全业务中心营销生产数据来自基础数据平台，对基础数据平台是很大的压力，另外基础数据平台的部分业务数据是经过多个节点同步而来，在实时性和准确性上并不能完全保证，所以本次架构优化调整计划将全业务中心的数据来源从基础数据平台调整到查询数据库；

为同期线损及营配调贯通指标考核等业务单独搭建新基础数据平台数据库，数据直接来源于营销生产，降低同步延迟带来业务影响；

另，对于营销生产库的架构，规划未来将营销生产数据库由2节点11g RAC改为4节点12c RAC，主机跨中心，存储实现双活。