CN113110922B - 一种基于Quartz与多线程的不动产登记方法 - Google Patents

一种基于Quartz与多线程的不动产登记方法 Download PDF

Info

Publication number
CN113110922B
CN113110922B CN202110249794.5A CN202110249794A CN113110922B CN 113110922 B CN113110922 B CN 113110922B CN 202110249794 A CN202110249794 A CN 202110249794A CN 113110922 B CN113110922 B CN 113110922B
Authority
CN
China
Prior art keywords
task
quartz
service
platform
tasks
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110249794.5A
Other languages
English (en)
Other versions
CN113110922A (zh
Inventor
车德伦
张露
黄明峰
张峥
章丽莉
王军刚
王仕品
王竹清
陈言军
江雄
窦义红
唐文武
刘雷保
陈雪萍
朱兴旺
张寅菠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cloud Guizhou Big Data Industry Development Co ltd
Guizhou Real Estate Registration Center
Beijing Century Antu Digital Technology Development Co ltd
Original Assignee
Cloud Guizhou Big Data Industry Development Co ltd
Guizhou Real Estate Registration Center
Beijing Century Antu Digital Technology Development Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cloud Guizhou Big Data Industry Development Co ltd, Guizhou Real Estate Registration Center, Beijing Century Antu Digital Technology Development Co ltd filed Critical Cloud Guizhou Big Data Industry Development Co ltd
Priority to CN202110249794.5A priority Critical patent/CN113110922B/zh
Publication of CN113110922A publication Critical patent/CN113110922A/zh
Application granted granted Critical
Publication of CN113110922B publication Critical patent/CN113110922B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5072Grid computing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083Techniques for rebalancing the load in a distributed system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/16Real estate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/5018Thread allocation

Abstract

本发明公开了一种基于Quartz与多线程的不动产登记方法,包括:构建Quartz系统框架,多线程处理任务程序,调度系统在服务器上进行分布式部署,使用云平台负载均衡组件(F5)实现每个分布式应用平台的集群部署,Quartz系统以Windows服务的形式在服务器运行,自动读取任务列表中的任务,按照业务类型、进站时间等多种逻辑对任务进行排队处理,处理好的任务返回业务系统,通过上述方式,提供了一种高并发、分布式、集群化环境下基于Quartz框架的多线程任务调度系统,按照不动产登记业务逻辑个性化的对软硬件资源进行个性化分配,通过任务异步处理避免系统卡顿提升用户与系统交互体验,同时对复杂任务进行多线程处理提升任务处理速度提升系统性能。

Description

一种基于Quartz与多线程的不动产登记方法
技术领域
本发明涉及多重编程领域,具体涉及一种基于Quartz与多线程的不动产登记方法。
背景技术
不动产登记平台采用统一云端部署方式,涉及与不动产登记专网、电子政务网和互联网之间12个横向部门、6家金融机构和3种不同数据库之间业务数据的协同共享交互。在数据交互过程中需要在不同网络间进行数据传输,由于不动产登记数据的敏感性,跨网协同共享过程中对数据交互的安全性、稳定性带来极大挑战,同时,由于协同审批的时间限制,需要在接件后15分钟之内完成部门间协同审批,并将审批数据实时反馈回不动产登记平台,在数据传输时效性方面对系统及网络提出了极高的要求。如何确保数据在跨网传输过程中的安全性,同时满足数据传输的低延迟、高兼容性,并提供良好的扩展性,是系统部署过程中面临的较大技术难题。
发明内容
针对现有技术中的上述不足,本发明提供了一种基于Quartz与多线程的不动产登记方法。
为了达到上述发明目的,本发明采用的技术方案为:
一种基于Quartz与多线程的不动产登记方法,包括如下步骤:
S1、建立网络内外两侧的数据交换服务器及数据交换系统;
S2、在网络外侧认真数据采集对象的身份,对从网络外侧数据库欧证采集的数据包进行过滤并加密;
S3、将加密后的数据包发送至网闸设备的外网主机;
S4、网闸外网端主机将数据包剥离,并将裸数据文件发送至网闸内网端主机;
S5、网闸内网端主机将接收到的数据包封装并解析数据库数据。
本发明的有益效果是,本发明充分利用分布式+负载均衡+Quartz任务调度+多线程处理技术,解决了省级不动产登记系统瞬时访问量大,业务处理数据量大逻辑复杂对硬件性能要求高等问题,在平台界面层提高使用体验,在任务处理上提高处理速度,解决了高并发情况下系统响应慢,任务高峰期资源占用过高引发宕机等问题。
进一步的,所述S1具体为:
S11、在Oracle中新建任务列表,包含:任务名称、任务组、任务程序集、任务处理类程序集、状态、备注内容等字段,该表作为Quartz任务执行列表;
S12、基于Quartz按需要定义父类BaseTaskJob,添加一些逻辑到execute()方法,按任务定义若干子类;
S13、配置Trigger参数,通过Cron定义任务的执行计划,包括执行周期和执行频率。
上述一步方案的有益效果是:
将业务逻辑编写到Quartz的中,可以按照任务的紧急程度、业务类型、进站时间按顺序对任务进行排队,依次处理,避免了业务扎堆无序,提高系统处理任务的流畅度。同时在实际应用中,后台运维人员根据现场反馈或者业务层面分析提前预知瞬时高频运算的环节,提前将运算规则配置好。当高频运算出现时,系统根据预设规则,自动把耗时的瞬时高频运算分解到任务中托管给Quartz,任务按照预先设置好的逻辑自动运行。并且Job逻辑设置简单快捷,不需要重新部署只需要修改参数或增加一个job文件即可。
进一步的,所述S2具体为:
S21、通过任务类型判断任务是简单任务还是复杂任务,简单任务进入单行线处理流程,复杂任务进入多线程处理流程;
S22、复杂业务进入多线程处理,进入多线程处理的任务按照业务类型可设置0-300个线程同时处理的最大线程数。
上述一步方案的有益效果是,采用单一的多线程技术,在短时间内消耗大量的资源;来达到降低运算时间的目的,通常来说WEB应用资源是共享的,如果一方资源消耗过多,他方的资源会受到挤压,会导致其他事务响应时间会延长。采用该种多线程任务处理方法,从业务层面粗筛选进入多线程的业务,减少没必要的业务进行多线程造成的资源浪费。
进一步的,所述S3具体为:
S31、按照应用模块职能将不动产登记平台拆分为登记、权籍、数据管理3个应用平台,将支撑平台拆分为用户平台、工作流平台、GIS服务平台、任务调度平台、任务执行服务5大平台,分别部署到各自的服务器上。通过分布式部署方式减少各个模块之间高耦合产生的交叉影响;
S32、使用云平台负载均衡组件实现每个分布式应用平台的集群部署,可以支持对每个单应用的平滑扩展,在监测到资源紧张或性能瓶颈时,可以快速分配云资源,快速加入集群;
S33、将Quartz封装好,以Windows服务的形式部署在任务调度服务器上。
上述进一步方案的有益效果是,将不同的业务平台分开部署,可以减少各个模块之间高耦合产生的影响。同时按照不同业务占用资源比例不同选择占用硬件资源多少。采用传统的单一的负载均衡方式部署,每台服务器无差别的部署应用,负载均衡只能提供访问自动分配功能,无法预判哪些访问的是高消耗资源,一旦出现高消耗集中在某台服务器,就会出现局部区域出现系统卡慢问题,使用云平台负载均衡组件可以自动监测资源占用情况并进行自动分配。
附图说明
图1为本发明实施例基于Quartz与多线程的不动产登记方法示意图。
图2为本发明实施例Quartz方式处理耗时任务流程图。
图3为本发明实施例Quartz任务调度+多线程流程。
具体实施方式
下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
如图一所示,本发明提供了一种基于分布式Quartz框架的多线程任务处理提升不动产登记系统性能的方法,其实现方法如下:
S1、构建Quartz系统框架,按照业务系统任务内容新建任务表单,并根据业务需要定义多级类。根据业务需要在Quartz中添加Job逻辑,并配置Trigger参数,Quartz可以按照定义好的逻辑在调度器中询查任务。
S2、在任务处理过程中,按照业务负责程度将任务按业务类型进行判定,简单任务进行单线程处理,复杂任务设置多线程处理的模式。
S3、将编辑好的Quartz系统封装,在服务器上进行分布式部署。使用云平台负载均衡组件(F5)实现每个分布式应用平台的集群部署。
S4、Quartz系统以Windows服务的形式在服务器运行,自动读取任务列表中的任务,按照业务类型、进站时间等多种逻辑对任务进行排队处理,处理好的任务返回业务系统。
本实施例中,用户按照业务系统任务内容在Oracle中新建任务表单(表1),表单信息包括:数据库唯一标识、任务名称、任务组、任务程序集、任务处理类程序集、状态、备注。
表1
序号 字段名称 字段中文名 字段类型 字段长度
1 id 数据库唯一标识 int 11
2 JobName 任务名称 varchar 50
3 JobGroup 任务组 varchar 50
4 JobTypeFullName 任务程序集 varchar 200
5 JobClassAssembly 任务处理类程序集 varchar 50
6 Status 状态 int 11
7 Remark 备注 varchar 1000
本实施例中,用户根据实际情况对Quartz框架进行填充,按公有成员和全局变量定义一级父类AntuBaseJob,按处理方式定义二级父类BaseTaskJob,在BaseTaskJob类里面,添加一些逻辑到execute()方法,根据业务需要将,按具体任务分类定义13个子类(表2)
表2
本实施例中,通过创建Triggeritems表单(表3)对每个job按照业务实际需要设置触发条件和执行周期以及任务巡回频率,在实际调试中根据测试运行情况修改参数设置。
表3
序号 字段名称 字段中文名称 字段类型 字段长度
1 Id id int 11
2 TriggerName 触发器名称 varchar 50
3 TriggerGroup 触发器组 varchar 50
4 TriggerType 触发器类型 int 11
5 CronExpression Cron表达式 varchar 50
6 RepeatCount 重复次数 int 11
7 RepeatInterval 重复周期 int 11
8 Status 状态 int 11
9 Remark 备注 varchar 100
10 CrDate 创建日期 datetime 0
11 CrUser 创建人 varchar 50
12 EdtDate 编辑日期 datetime 0
13 EdtUser 编辑人 varchar 50
本实施例中,按照业务负责程度将任务按业务类型进行判定,简单任务进行单线程处理,复杂任务设置多线程处理的模式。进入多线程处理的业务类型有两种,分别是对外查询业务和自动汇交业务。自动汇交业务经过业务类型判定为是后直接进入多线程处理。对外查询业务在业务判定为是后,再对查询到的权籍数量进行判断,当权籍数量≥10时则进入多线程处理。
本实施例中,按照应用模块职能将不动产登记平台拆分为登记、权籍、数据管理3个应用平台,将支撑平台拆分为用户平台、工作流平台、GIS服务平台、任务调度平台、任务执行服务5大平台,分别部署到各自的服务器上。通过分布式部署方式减少各个模块之间高耦合产生的交叉影响。
本实施例中,使用云平台负载均衡组件(F5)实现每个分布式应用平台的集群部署,可以支持对每个单应用的平滑扩展,在监测到资源紧张或性能瓶颈时,可以快速分配云资源,快速加入集群。
本实施例中,将Quartz封装后以Windows服务的形式部署在任务调度服务器上,随不动产登记业务平台一起启动。业务平台启动后,当业务系统处理耗时较长的业务时将任务发送到Quartz中,所有长耗时任务在调度器中按设定排队依次进行单线程或多线程处理,处理好的结果自动返回到业务系统。
本发明通过以上设计,提供了一种高并发、分布式、集群化环境下基于Quartz框架的多线程任务调度系统,按照不动产登记业务逻辑个性化的对软硬件资源进行个性化分配,通过任务异步处理避免系统卡顿提升用户与系统交互体验,同时对复杂任务进行多线程处理提升任务处理速度提升系统性能。利用集群化分布式部署方式,提高资源弹性调度、按需提升系统处理能力和吞吐量,提高资源利用率,降低硬件成本。
本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
本领域的普通技术人员将会意识到,这里所述的实施例是为了帮助读者理解本发明的原理,应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合,这些变形和组合仍然在本发明的保护范围内。

Claims (1)

1.一种基于Quartz与多线程的不动产登记方法,其特征在于,包括如下步骤:
S1、构建Quartz系统框架,按照业务系统任务内容新建任务表单,并根据业务需要定义多级类,根据业务需要在Quartz中添加Job逻辑,并配置Trigger参数,Quartz按照定义好的逻辑在调度器中询查任务,具体为:
S11、在Oracle中新建任务列表,包含:任务名称、任务组、任务程序集、任务处理类程序集、状态、备注内容字段,该表作为Quartz任务执行列表;
S12、基于Quartz按需要定义父类BaseTaskJob,添加逻辑到execute()方法,按任务定义若干子类;
S13、配置Trigger参数,通过Cron定义任务的执行计划,包括执行周期和执行频率;
S2、在任务处理过程中,按照业务负责程度将任务按业务类型进行判定,简单任务进行单线程处理,复杂任务设置多线程处理的模式,具体为:
S21、通过任务类型判断任务是简单任务还是复杂任务,简单任务进入单行线处理流程,复杂任务进入多线程处理流程;
S22、复杂业务进入多线程处理,进入多线程处理的任务按照业务类型可设置0-300个线程同时处理的最大线程数;
S3、将编辑好的Quartz系统封装,在服务器上进行分布式部署,使用云平台负载均衡组件实现每个分布式应用平台的集群部署,具体为:
S31、按照应用模块职能将不动产登记平台拆分为登记、权籍、数据管理3个应用平台,将支撑平台拆分为用户平台、工作流平台、GIS服务平台、任务调度平台、任务执行服务5大平台,分别部署到各自的服务器上;
S32、使用云平台负载均衡组件对每个分布式应用平台的集群部署;
S33、对Quartz进行封装,以Windows服务的形式部署在任务调度服务器上;
S4、Quartz系统以Windows服务的形式在服务器运行,自动读取任务列表中的任务,按照业务类型、进站时间多种逻辑对任务进行排队处理,处理好的任务返回业务系统。
CN202110249794.5A 2021-03-08 2021-03-08 一种基于Quartz与多线程的不动产登记方法 Active CN113110922B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110249794.5A CN113110922B (zh) 2021-03-08 2021-03-08 一种基于Quartz与多线程的不动产登记方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110249794.5A CN113110922B (zh) 2021-03-08 2021-03-08 一种基于Quartz与多线程的不动产登记方法

Publications (2)

Publication Number Publication Date
CN113110922A CN113110922A (zh) 2021-07-13
CN113110922B true CN113110922B (zh) 2024-04-12

Family

ID=76710822

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110249794.5A Active CN113110922B (zh) 2021-03-08 2021-03-08 一种基于Quartz与多线程的不动产登记方法

Country Status (1)

Country Link
CN (1) CN113110922B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016101423A1 (zh) * 2014-12-23 2016-06-30 中兴通讯股份有限公司 作业调度方法和云调度服务器
CN106775985A (zh) * 2016-12-26 2017-05-31 中国建设银行股份有限公司 一种批处理任务调度方法及装置
CN109636334A (zh) * 2018-12-07 2019-04-16 深圳市汇鑫科技股份有限公司 一种物业智慧社区服务系统及方法
CN110019021A (zh) * 2017-10-25 2019-07-16 凯迈(洛阳)机电有限公司 一种Windows系统与centos系统中NFS目录数据的传输方法
CN110569113A (zh) * 2018-06-06 2019-12-13 海通证券股份有限公司 分布式任务的调度方法及系统、计算机可读存储介质
CN110888719A (zh) * 2019-09-18 2020-03-17 广州市巨硅信息科技有限公司 一种基于web服务的分布式任务调度系统及方法
CN110989983A (zh) * 2019-11-28 2020-04-10 深圳航天智慧城市系统技术研究院有限公司 一种零编码的应用软件快速构建系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016101423A1 (zh) * 2014-12-23 2016-06-30 中兴通讯股份有限公司 作业调度方法和云调度服务器
CN106775985A (zh) * 2016-12-26 2017-05-31 中国建设银行股份有限公司 一种批处理任务调度方法及装置
CN110019021A (zh) * 2017-10-25 2019-07-16 凯迈(洛阳)机电有限公司 一种Windows系统与centos系统中NFS目录数据的传输方法
CN110569113A (zh) * 2018-06-06 2019-12-13 海通证券股份有限公司 分布式任务的调度方法及系统、计算机可读存储介质
CN109636334A (zh) * 2018-12-07 2019-04-16 深圳市汇鑫科技股份有限公司 一种物业智慧社区服务系统及方法
CN110888719A (zh) * 2019-09-18 2020-03-17 广州市巨硅信息科技有限公司 一种基于web服务的分布式任务调度系统及方法
CN110989983A (zh) * 2019-11-28 2020-04-10 深圳航天智慧城市系统技术研究院有限公司 一种零编码的应用软件快速构建系统

Also Published As

Publication number Publication date
CN113110922A (zh) 2021-07-13

Similar Documents

Publication Publication Date Title
CN104915407B (zh) 一种基于Hadoop多作业环境下的资源调度方法
CN106844198B (zh) 一种分布式调度自动化测试平台及方法
Coutinho et al. Elasticity in cloud computing: a survey
CN106371918B (zh) 任务集群调度管理方法及装置
CN103092698B (zh) 云计算应用自动部署系统及方法
CN109347974B (zh) 提高在线服务质量和集群资源利用率的混合调度系统
CN107066319A (zh) 一种面向异构资源的多维调度系统
CN105635283A (zh) 一种云制造服务的组织管理和使用方法和系统
CN106533806B (zh) 多租户SDN网络中基于应用感知提供跨层QoS的方法
CN103023980B (zh) 一种云平台处理用户服务请求的方法和系统
WO2021190087A1 (zh) 任务执行方法、装置、系统和服务器
CN106033373A (zh) 一种云计算平台中虚拟机资源调度方法和调度系统
CN109783225B (zh) 一种多租户大数据平台的租户优先级管理方法及系统
CN104735095A (zh) 一种云计算平台作业调度方法及装置
CN110677274A (zh) 一种基于事件的云网络服务调度方法及装置
WO2022057001A1 (zh) 一种设备纳管方法、系统及纳管集群
CN104112049A (zh) 基于P2P构架的MapReduce任务跨数据中心调度系统及方法
CN114138434A (zh) 一种大数据任务调度系统
CN111258760A (zh) 一种平台管理方法、系统、装置及存储介质
CN114666335A (zh) 一种基于dds的分布式系统负载均衡装置
WO2021129862A1 (zh) 容器集群节点资源池的管理方法和装置
CN113110922B (zh) 一种基于Quartz与多线程的不动产登记方法
CN105893160B (zh) 一种多接口数据的调度方法
CN111913784A (zh) 任务调度方法及装置、网元、存储介质
CN115712572A (zh) 任务的测试方法、装置、存储介质及电子装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant