CN111818154B - 一种基于网络层报文解析的业务推送系统及方法 - Google Patents

一种基于网络层报文解析的业务推送系统及方法 Download PDF

Info

Publication number
CN111818154B
CN111818154B CN202010640103.XA CN202010640103A CN111818154B CN 111818154 B CN111818154 B CN 111818154B CN 202010640103 A CN202010640103 A CN 202010640103A CN 111818154 B CN111818154 B CN 111818154B
Authority
CN
China
Prior art keywords
message
service
module
client
rule
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010640103.XA
Other languages
English (en)
Other versions
CN111818154A (zh
Inventor
梅芳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huaying Shanghai Information Technology Co ltd
Original Assignee
Huaying Shanghai Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huaying Shanghai Information Technology Co ltd filed Critical Huaying Shanghai Information Technology Co ltd
Priority to CN202010640103.XA priority Critical patent/CN111818154B/zh
Publication of CN111818154A publication Critical patent/CN111818154A/zh
Application granted granted Critical
Publication of CN111818154B publication Critical patent/CN111818154B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/55Push-based network services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/22Parsing or analysis of headers

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种基于网络层报文解析的业务推送系统及方法,所述系统包括网络报文解析子系统和业务推送子系统;网络报文解析子系统包括:报文获取模块、报文分发模块、报文处理模块和规则服务器;业务推送子系统包括:业务特征分析模块,用于根据报文处理模块输出的报文信息,解析出金融业务信息,并从金融业务信息中获取不同客户的业务特征,为每一个客户构建业务特征库;客户标签生成模块,通过业务特征组合,并生成客户的标签特征;触点管理模块,用于根据客户标签特征,建立以客户为中心的触点管理,在不过度打扰客户,确保用户体验的情况下,针对用户进行业务推送。本发明减少了数据获取所需的时间,降低了数据处理的复杂度。

Description

一种基于网络层报文解析的业务推送系统及方法
技术领域
本发明涉及金融业务推送,特别是涉及一种基于网络层报文解析的业务推送系统及方法。
背景技术
大数据的实时应用越来越多,包括在实时风控、客户发现、精准营销、业务监控等领域。怎样尽可能的提升实时的时效,能在秒级毫秒级的范围内完成计算及分析是大家关心的问题。
在金融领域,常常需要向用户进行金融业务的推送,金融业务的推送一般会基于一个用户相关业务情况的大数据分析,但是,就目前而言,目前大部分金融数据都是基于应用的处理,包括从业务系统的数据库做实时抽取或者DSG/OGG等数据库同步技术或者日志同步技术,这些都是在应用层实现。从网络层到应用层的转换还是会有时间损耗。
这就使得在进行金融业务推送过程时,数据获取延时较大,从而影响推送的准确性,同时,从网络层经过一系列处理到达数据库后,再从数据库中提取数据进行分析,也会极大增加了后台数据处理的复杂度。
发明内容
本发明的目的在于克服现有技术的不足,提供一种基于网络层报文解析的业务推送系统及方法,压缩了从网络层到应用层的时耗,并基于网络层报文处理进行金融业务的推送,减少了数据获取所需的时间,降低了数据处理的复杂度。
本发明的目的是通过以下技术方案来实现的:一种基于网络层报文解析的业务推送系统,其特征在于:包括网络报文解析子系统和业务推送子系统;
所述网络报文解析子系统包括:
报文获取模块,用于从网络设备驱动程序中收集链路层数据包,并按照预定义的规则对收集的数据包进行过滤,过滤后的数据传输给报文分发模块;
报文分发模块,通过白名单配置定义的方式筛选过滤需要应用报文,再对报文进行分发处理;
报文处理模块,用于对来自于报文分发模块的报文数据进行分布式处理,依次完成对报文数据的报文协议识别、报文类型识别、协议分流、报文解析、报文配对、报文加解密、报文脱敏和报文组装,并将组装得到的报文传输给业务推送子系统;
规则服务器,用于为报文获取模块和报文处理模块配置相应的数据处理规则;
所述业务推送子系统包括:
业务特征分析模块,用于根据报文处理模块输出的报文信息,解析出金融业务信息,并从金融业务信息中获取不同客户的业务特征,为每一个客户构建业务特征库;
客户标签生成模块,通过业务特征组合,由业务特征库确定并生成客户的标签特征;
触点管理模块,用于根据客户标签特征,建立以客户为中心的触点管理,在不过度打扰客户,确保用户体验的情况下,针对用户进行业务推送。
优选地,所述业务特征库中包含客户的资产信息、交易信息、产品偏好和静态属性。所述标签特征由多个业务特征通过算数运算、关系运算或逻辑运算进行建立。
优选地,所述网络报文解析子系统还包括报文存储模块,用于对报文处理模块处理得到的报文进行保存。
其中,所述触点管理模块包括:
接触对象管理单元,用于设定业务推送的免打扰名单,降低客户投诉比例;
接触渠道管理单元,用于综合用户的渠道偏好,对业务的推送渠道进行优先级排序,并根据排序完成业务推送;或是通过多种渠道的协同,保护客户体验的一致性;
接触频次管理单元,用于设定用户的接触频次,避免一定时间段内对客户的过度打扰;
接触内容管理单元,用于根据用户的产品偏好,优先推荐用户所需要的内容。
一种基于网络层报文解析的业务推送方法,包括以下步骤:
S1.在规则服务器中预配置筛选过滤规则、加解密规则、关联规则和替换规则;
S2.利用报文获取模块从网络设备驱动程序中收集链路层数据包,并按照预定义的规则对收集的数据包进行过滤,过滤后的数据传输给报文分发模块;
S3.报文分发模块利用规则服务器中的筛选过滤规则,对来自报文分发模块的数据进行筛选过滤,得到需要应用报文,再对报文进行分发处理;
S4.报文处理模块对来自于报文分发模块的报文数据进行分布式处理,依次完成对报文数据的报文协议识别、报文类型识别、协议分流、报文解析、报文配对、报文加解密、报文脱敏和报文组装;
S5.业务特征分析模块根据报文处理模块输出的报文信息,解析出金融业务信息,并从金融业务信息中获取不同客户的业务特征,为每一个客户构建业务特征库;
S6.客户标签生成模块通过业务特征组合,由业务特征库确定并生成客户的标签特征;
S7.触点管理模块根据客户标签特征,建立以客户为中心的触点管理,在不过度打扰客户,确保用户体验的情况下,针对用户进行业务推送。
本发明的有益效果是:本发明从通讯报文直接解析重组需要的业务报文和指标,压缩从网络层到应用层的时耗,并应用了分布式处理设计,并发式处理,进一步压缩了报文处理时间;同时本发明基于网络层报文处理进行金融业务的推送,减少了数据获取所需的时间,降低了数据处理的复杂度。
附图说明
图1为本发明的系统原理框图;
图2为本发明的方法流程图。
具体实施方式
下面结合附图进一步详细描述本发明的技术方案,但本发明的保护范围不局限于以下所述。
如图1所示,一种基于网络层报文解析的业务推送系统,包括网络报文解析子系统和业务推送子系统;
所述网络报文解析子系统包括:
报文获取模块,用于从网络设备驱动程序中收集链路层数据包,并按照预定义的规则对收集的数据包进行过滤,过滤后的数据传输给报文分发模块;
在本申请的实施例中,所述报文获取模块采用PCAP抓包进行报文获取,包括网络分接单元和BPF过滤器;所述网络分接单元,用于在数据链路层增加一个旁路处理,当一个数据包到达网络接口时利用已经创建的Socket从链路层驱动程序中获得该数据包的拷贝,再通过Tap函数将数据包发给BPF过滤器;所述BPF过滤器,用于根据用预定义的过滤规则对数据包进行逐一匹配,匹配成功则放入内核缓冲区,并传输给报文分发模块,匹配失败则直接丢弃。
报文分发模块,通过白名单配置定义的方式筛选过滤需要应用报文,再对报文进行分发处理;
在本申请的实施例中,所述报文分发模块包括:白名单过滤单元,用于通过白名单配置的方式对报文获取模块输出的数据进行筛选过滤,得到需要的应用报文;任务分发单元,用于对报文进行分发处理:考虑重要度及紧急度两个因素及权重设计,在满足应用的重要度和紧急度的前提下,对整体需要发送报文用hash算法进行散列分发。
报文处理模块,用于对来自于报文分发模块的报文数据进行分布式处理,依次完成对报文数据的报文协议识别、报文类型识别、协议分流、报文解析、报文配对、报文加解密、报文脱敏和报文组装,并将组装得到的报文传输给业务推送子系统;
在本申请的实施例中,所述报文处理模块包括:协议识别单元,用于对接收到的报文进行通讯协议识别,所述通讯协议包括TCP、UDP、HTTP或HTTPS协议;类型识别单元,用于对接收到的报文进行报文内容的组织结构识别,所述组织结构包括ISO8583、Json、XML、SOP或SOAP;协议分流单元,用于构建报文接口规范知识库,将已知报文的报文接口规范按格式构建在知识库中;根据识别得到的报文通讯协议和报文类型,在报文接口规范知识库中查找对应的报文接口规范格式,故对不同格式的报文进行分流操作;协议解析单元,用于构建不同报文接口规范格式对应的解析器,在接收到分流后的报文后,根据报文接口规范格式,加载相应的解析器,对报文各个域的属性信息进行内容解析,得到结构化的报文数据,所述属性信息包括域名称、域数据类型和域长度;报文配对单元,用于将结构化报文数据中关联的请求和响应报文匹配成对;报文加解密单元,用于连接加密机对匹配成对的报文中的关键域进行加解密操作;报文脱敏单元,用于对加解密后报文中的敏感信息进行脱敏处理;报文组装单元,用于将脱敏后的结构化报文组装成新的报文数据包。
规则服务器,用于为报文获取模块和报文处理模块配置相应的数据处理规则;
在本申请的实施例中,所述规则服务器包括:过滤规则配置单元,用于为报文分发模块配置筛选过滤规则,所述筛选过滤规则包括白名单配置;加解密规则配置单元,用于为数据处理模块配置加解密规则,以便于数据处理模块按照配置规则进行加解密操作;管理规则配置单元,用于配置请求和响应报文的关联规则,以便于数据处理模块进行报文配对;替换规则配置单元,用于配置敏感信息和对应的替换规则,以便于数据处理模块在进行脱敏处理时,确定报文中的敏感信息,并利用对应的替换规则进行替换,以实现脱敏处理;
所述业务推送子系统包括:
业务特征分析模块,用于根据报文处理模块输出的报文信息,解析出金融业务信息,并从金融业务信息中获取不同客户的业务特征,为每一个客户构建业务特征库;
客户标签生成模块,通过业务特征组合,由业务特征库确定并生成客户的标签特征;
触点管理模块,用于根据客户标签特征,建立以客户为中心的触点管理,在不过度打扰客户,确保用户体验的情况下,针对用户进行业务推送。
在本申请的实施例中,所述业务特征库中包含客户的资产信息、交易信息、产品偏好和静态属性。所述标签特征由多个业务特征通过算数运算、关系运算或逻辑运算进行建立。所述网络报文解析子系统还包括报文存储模块,用于对报文处理模块处理得到的报文进行保存。
所述触点管理模块包括:
接触对象管理单元,用于设定业务推送的免打扰名单,降低客户投诉比例;
接触渠道管理单元,用于综合用户的渠道偏好,对业务的推送渠道进行优先级排序,并根据排序完成业务推送;或是通过多种渠道的协同,保护客户体验的一致性;
接触频次管理单元,用于设定用户的接触频次,避免一定时间段内对客户的过度打扰;
接触内容管理单元,用于根据用户的产品偏好,优先推荐用户所需要的内容。
如图2所示,一种基于网络层报文解析的业务推送方法,包括以下步骤:
S1.在规则服务器中预配置筛选过滤规则、加解密规则、关联规则和替换规则;
S2.利用报文获取模块从网络设备驱动程序中收集链路层数据包,并按照预定义的规则对收集的数据包进行过滤,过滤后的数据传输给报文分发模块;
S3.报文分发模块利用规则服务器中的筛选过滤规则,对来自报文分发模块的数据进行筛选过滤,得到需要应用报文,再对报文进行分发处理;
S4.报文处理模块对来自于报文分发模块的报文数据进行分布式处理,依次完成对报文数据的报文协议识别、报文类型识别、协议分流、报文解析、报文配对、报文加解密、报文脱敏和报文组装;
S5.业务特征分析模块根据报文处理模块输出的报文信息,解析出金融业务信息,并从金融业务信息中获取不同客户的业务特征,为每一个客户构建业务特征库;
S6.客户标签生成模块通过业务特征组合,由业务特征库确定并生成客户的标签特征;
S7.触点管理模块根据客户标签特征,建立以客户为中心的触点管理,在不过度打扰客户,确保用户体验的情况下,针对用户进行业务推送。
综上,本发明从通讯报文直接解析重组需要的业务报文和指标,压缩从网络层到应用层的时耗,并应用了分布式处理设计,并发式处理,进一步压缩了报文处理时间;同时本发明基于网络层报文处理进行金融业务的推送,减少了数据获取所需的时间,降低了数据处理的复杂度。
以上所述是本发明的优选实施方式,应当理解本发明并非局限于本文所披露的形式,不应该看作是对其他实施例的排除,而可用于其他组合、修改和环境,并能够在本文所述构想范围内,通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离本发明的精神和范围,则都应在本发明所附权利要求的保护范围内。

Claims (5)

1.一种基于网络层报文解析的业务推送系统,其特征在于:包括网络报文解析子系统和业务推送子系统;
所述网络报文解析子系统包括:
报文获取模块,用于从网络设备驱动程序中收集链路层数据包,并按照预定义的规则对收集的数据包进行过滤,过滤后的数据传输给报文分发模块;
报文分发模块,通过白名单配置定义的方式筛选过滤需要应用报文,再对报文进行分发处理;
报文处理模块,用于对来自于报文分发模块的报文数据进行分布式处理,依次完成对报文数据的报文协议识别、报文类型识别、协议分流、报文解析、报文配对、报文加解密、报文脱敏和报文组装,并将组装得到的报文传输给业务推送子系统;
规则服务器,用于为报文获取模块和报文处理模块配置相应的数据处理规则;所述规则服务器包括:过滤规则配置单元,用于为报文分发模块配置筛选过滤规则,所述筛选过滤规则包括白名单配置;加解密规则配置单元,用于为数据处理模块配置加解密规则,以便于数据处理模块按照配置规则进行加解密操作;管理规则配置单元,用于配置请求和响应报文的关联规则,以便于数据处理模块进行报文配对;替换规则配置单元,用于配置敏感信息和对应的替换规则,以便于数据处理模块在进行脱敏处理时,确定报文中的敏感信息,并利用对应的替换规则进行替换,以实现脱敏处理;
所述业务推送子系统包括:
业务特征分析模块,用于根据报文处理模块输出的报文信息,解析出金融业务信息,并从金融业务信息中获取不同客户的业务特征,为每一个客户构建业务特征库;
客户标签生成模块,通过业务特征组合,由业务特征库确定并生成客户的标签特征;
触点管理模块,用于根据客户标签特征,建立以客户为中心的触点管理,在不过度打扰客户,确保用户体验的情况下,针对用户进行业务推送:
所述触点管理模块包括:
接触对象管理单元,用于设定业务推送的免打扰名单,降低客户投诉比例;
接触渠道管理单元,用于综合用户的渠道偏好,对业务的推送渠道进行优先级排序,并根据排序完成业务推送;或是通过多种渠道的协同,保护客户体验的一致性;
接触频次管理单元,用于设定用户的接触频次,避免一定时间段内对客户的过度打扰;
接触内容管理单元,用于根据用户的产品偏好,优先推荐用户所需要的内容。
2.根据权利要求1所述的一种基于网络层报文解析的业务推送系统,其特征在于:所述业务特征库中包含客户的资产信息、交易信息、产品偏好和静态属性。
3.根据权利要求1所述的一种基于网络层报文解析的业务推送系统,其特征在于:所述标签特征由多个业务特征通过算数运算、关系运算或逻辑运算进行建立。
4.根据权利要求1所述的一种基于网络层报文解析的业务推送系统,其特征在于:所述网络报文解析子系统还包括报文存储模块,用于对报文处理模块处理得到的报文进行保存。
5.一种基于网络层报文解析的业务推送方法,采用权利要求1~4中任意一项所述的系统,其特征在于:包括以下步骤:
S1.在规则服务器中预配置筛选过滤规则、加解密规则、关联规则和替换规则;
S2.利用报文获取模块从网络设备驱动程序中收集链路层数据包,并按照预定义的规则对收集的数据包进行过滤,过滤后的数据传输给报文分发模块;
S3.报文分发模块利用规则服务器中的筛选过滤规则,对来自报文分发模块的数据进行筛选过滤,得到需要应用报文,再对报文进行分发处理;
S4.报文处理模块对来自于报文分发模块的报文数据进行分布式处理,依次完成对报文数据的报文协议识别、报文类型识别、协议分流、报文解析、报文配对、报文加解密、报文脱敏和报文组装;
S5.业务特征分析模块根据报文处理模块输出的报文信息,解析出金融业务信息,并从金融业务信息中获取不同客户的业务特征,为每一个客户构建业务特征库;
S6.客户标签生成模块通过业务特征组合,由业务特征库确定并生成客户的标签特征;
S7.触点管理模块根据客户标签特征,建立以客户为中心的触点管理,在不过度打扰客户,确保用户体验的情况下,针对用户进行业务推送。
CN202010640103.XA 2020-07-06 2020-07-06 一种基于网络层报文解析的业务推送系统及方法 Active CN111818154B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010640103.XA CN111818154B (zh) 2020-07-06 2020-07-06 一种基于网络层报文解析的业务推送系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010640103.XA CN111818154B (zh) 2020-07-06 2020-07-06 一种基于网络层报文解析的业务推送系统及方法

Publications (2)

Publication Number Publication Date
CN111818154A CN111818154A (zh) 2020-10-23
CN111818154B true CN111818154B (zh) 2022-11-18

Family

ID=72856824

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010640103.XA Active CN111818154B (zh) 2020-07-06 2020-07-06 一种基于网络层报文解析的业务推送系统及方法

Country Status (1)

Country Link
CN (1) CN111818154B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116821428B (zh) * 2023-08-29 2023-11-07 成都智慧锦城大数据有限公司 基于数据中台的业务数据智能存储方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106209911A (zh) * 2016-08-30 2016-12-07 北京仁聚汇通信息科技有限责任公司 一种统一支付报文的数据处理方法及系统
WO2017071518A1 (zh) * 2015-10-29 2017-05-04 中国银联股份有限公司 联机处理各机构间数据差错的数据处理装置及其方法
CN107040863A (zh) * 2015-07-30 2017-08-11 中国移动通信集团内蒙古有限公司 实时业务推荐方法及系统
CN108667921A (zh) * 2018-04-27 2018-10-16 中国农业银行股份有限公司 一种基于网络旁路的银行业务推荐信息生成方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107040863A (zh) * 2015-07-30 2017-08-11 中国移动通信集团内蒙古有限公司 实时业务推荐方法及系统
WO2017071518A1 (zh) * 2015-10-29 2017-05-04 中国银联股份有限公司 联机处理各机构间数据差错的数据处理装置及其方法
CN106209911A (zh) * 2016-08-30 2016-12-07 北京仁聚汇通信息科技有限责任公司 一种统一支付报文的数据处理方法及系统
CN108667921A (zh) * 2018-04-27 2018-10-16 中国农业银行股份有限公司 一种基于网络旁路的银行业务推荐信息生成方法及系统

Also Published As

Publication number Publication date
CN111818154A (zh) 2020-10-23

Similar Documents

Publication Publication Date Title
US11659004B2 (en) Networking flow logs for multi-tenant environments
US10200506B2 (en) Method, system and device for monitoring data
US8972612B2 (en) Collecting asymmetric data and proxy data on a communication network
US8938534B2 (en) Automatic provisioning of new users of interest for capture on a communication network
CN106302445B (zh) 用于处理请求的方法和装置
US20120017010A1 (en) Inferring server state in a stateless communication protocol
US20150120914A1 (en) Service monitoring system and service monitoring method
US20160328890A1 (en) System and Method for Automotive Diagnostic Tool Data Collection and Analysis
WO2017124024A1 (en) Single click delta analysis
US20080144655A1 (en) Systems, methods, and computer program products for passively transforming internet protocol (IP) network traffic
CN111818041B (zh) 一种基于网络层报文解析的实时报文处理系统及方法
US20180159884A1 (en) Dtat stream surveillance, intelligence and reporting
US9058323B2 (en) System for accessing a set of communication and transaction data associated with a user of interest sourced from multiple different network carriers and for enabling multiple analysts to independently and confidentially access the set of communication and transaction data
CN103546343A (zh) 网络流量分析系统的网络流量展示方法和系统
CN110928934A (zh) 一种用于业务分析的数据处理方法和装置
CN111741007B (zh) 一种基于网络层报文解析的金融业务实时监控系统及方法
CN111818154B (zh) 一种基于网络层报文解析的业务推送系统及方法
CN112883011A (zh) 实时数据处理方法和装置
US20130290476A1 (en) Identifying Business Transactions from Traffic in an Enterprise Content Management System
CN114449029A (zh) 业务数据获取方法、系统、装置、计算机设备和存储介质
US8725703B2 (en) Management of an inventory of websites
CN113434742A (zh) 账号的筛选方法和装置、存储介质及电子装置
CN111367686A (zh) 业务接口的调用方法及装置、计算机设备、存储介质
CN110989537A (zh) 生产数据处理方法、设备、介质及系统
CN114915566B (zh) 应用识别方法、装置、设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant