CN108733758A - 酒店静态数据推送方法、装置、电子设备及可读存储介质 - Google Patents
酒店静态数据推送方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN108733758A CN108733758A CN201810322981.XA CN201810322981A CN108733758A CN 108733758 A CN108733758 A CN 108733758A CN 201810322981 A CN201810322981 A CN 201810322981A CN 108733758 A CN108733758 A CN 108733758A
- Authority
- CN
- China
- Prior art keywords
- data
- push
- intermediate database
- pushing
- hotel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 230000003068 static effect Effects 0.000 title claims abstract description 35
- 238000006243 chemical reaction Methods 0.000 claims abstract description 30
- 238000013499 data model Methods 0.000 claims abstract description 20
- 238000013500 data storage Methods 0.000 claims abstract description 12
- 238000001914 filtration Methods 0.000 claims description 12
- 230000004048 modification Effects 0.000 claims description 7
- 238000012986 modification Methods 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 2
- 238000012546 transfer Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000000586 desensitisation Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002955 isolation Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000000686 essence Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/12—Hotels or restaurants
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/02—Network architectures or network communication protocols for network security for separating internal from external traffic, e.g. firewalls
- H04L63/0227—Filtering policies
- H04L63/0245—Filtering by information in the payload
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Tourism & Hospitality (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Computer Security & Cryptography (AREA)
- Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种酒店静态数据推送方法、装置、电子设备及可读存储介质,所述方法包括:通过不同数据接口从外部数据库中获取外部数据;按照目标数据模型对所述外部数据进行转换;根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;将所述中间数据库中的数据推送至业务数据中心。解决了现有技术中供应商的接入过程复杂、效率较低的问题,能够针对不同数据结构以及数据获取方式进行数据转换,以适配不同的数据接口,且可以根据不同的数据更新方式进行数据更新。
Description
技术领域
本发明实施例涉及网络技术领域,尤其涉及一种酒店静态数据推送方法、装置、电子设备及可读存储介质。
背景技术
对于酒店产品,产品数据主要包括静态数据和动态数据两种。其中,动态数据主要包括库存、价格等,动态数据的缓存时间较短;静态数据主要包括酒店位置、酒店等级、设备设施、环境等,静态数据的缓存时间较长。
现有技术中,供应商的酒店信息由文件链接或者HTTP接口提供;平台侧对静态数据的获取主要包括如下步骤:首先,数据拉取推送模块单独调用文件或通过数据接口获取全量的外部数据;然后,再由数据拉取推送模块将数据推送至业务系统,业务系统进行归档保存。
可以看出,上述过程存在如下问题:数据拉取推送只能全量进行,耗时长,频率低;数据拉取推送模块无错误记录,失败无法重试;文件和接口分开处理,加上供应商的组合情况,接入工作量大。
发明内容
本发明提供一种酒店静态数据推送方法、装置、电子设备及可读存储介质,以解决现有技术酒店静态数据推送的上述至少一个问题。
根据本发明的第一方面,提供了一种酒店静态数据推送方法,所述方法包括:
通过不同数据接口从外部数据库中获取外部数据;
按照目标数据模型对所述外部数据进行转换;
根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;
将所述中间数据库中的数据推送至业务数据中心。
可选地,所述根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中的步骤,包括:
当预先配置的数据更新方式为增量更新、或更新方式为全量更新但所述中间数据库中不存在对应的数据记录时,将外部数据作为新的数据记录存储至中间数据库中,并将创建时间修改为系统当前时间;
当预先配置的数据更新方式为全量更新且所述中间数据库中存在对应的数据记录时,将所述对应的数据记录中的数据替换为外部数据,并将更新时间修改为系统当前时间。
可选地,在所述将所述中间数据库中的数据推送至业务数据中心的步骤之前,还包括:
基于目标词库对所述中间数据库中的数据进行敏感词汇过滤。
可选地,所述将所述中间数据库中的数据推送至业务数据中心的步骤,包括:
基于预先配置的推送周期,将创建时间和/或更新时间在当前推送周期内的数据,从所述中间数据库中推送至业务数据中心。
可选地,在所述将所述中间数据库中的数据推送至业务数据中心的步骤之后,还包括:
记录对所述数据的推送结果,所述推送结果包括推送成功、推送失败。
可选地,所述方法还包括:
对于推送失败的至少一条数据,按照预设次数进行批量重新推送。
根据本发明的第二方面,提供了一种酒店静态数据推送装置,所述装置包括:
数据拉取模块,用于通过不同数据接口从外部数据库中获取外部数据;
数据转换模块,用于按照目标数据模型对所述外部数据进行转换;
数据存储模块,用于根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;
数据推送模块,用于将所述中间数据库中的数据推送至业务数据中心。
可选地,所述数据存储模块,包括:
增量存储子模块,用于当预先配置的数据更新方式为增量更新、或更新方式为全量更新但所述中间数据库中不存在对应的数据记录时,将外部数据作为新的数据记录存储至中间数据库中,并将创建时间修改为系统当前时间;
全量存储子模块,用于当预先配置的数据更新方式为全量更新且所述中间数据库中存在对应的数据记录时,将所述对应的数据记录中的数据替换为外部数据,并将更新时间修改为系统当前时间。
可选地,所述装置还包括:
敏感过滤模块,用于基于目标词库对所述中间数据库中的数据进行敏感词汇过滤。
可选地,所述数据推送模块,包括:
数据推送子模块,用于基于预先配置的推送周期,将创建时间和/或更新时间在当前推送周期内的数据,从所述中间数据库中推送至业务数据中心。
可选地,所述装置还包括:
推送结果记录模块,用于记录对所述数据的推送结果,所述推送结果包括推送成功、推送失败。
可选地,所述装置还包括:
重新推送模块,用于对于推送失败的至少一条数据,按照预设次数进行批量重新推送。
根据本发明的第三方面,提供了一种电子设备,包括:
处理器、存储器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现前述酒店静态数据推送方法。
根据本发明的第四方面,提供了一种可读存储介质,其特征在于,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行前述酒店静态数据推送方法。
本发明实施例提供了一种酒店静态数据推送方法、装置、电子设备及可读存储介质,所述方法包括:通过不同数据接口从外部数据库中获取外部数据;按照目标数据模型对所述外部数据进行转换;根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;将所述中间数据库中的数据推送至业务数据中心。解决了现有技术中数据结构以及数据获取方式不同导致数据获取失败的问题,能够针对不同数据结构以及数据获取方式进行数据转换,以适配不同的数据接口,且可以根据不同的数据更新方式进行数据更新。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的系统架构下的一种酒店静态数据推送方法具体步骤流程图;
图2是本发明实施例提供的系统架构下的另一种酒店静态数据推送方法具体步骤流程图;
图3是本发明实施例提供的一种酒店静态数据推送装置的结构图;
图4是本发明实施例提供的另一种酒店静态数据推送装置的结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一
参照图1,其示出了一种移动酒店静态数据推送方法的步骤流程图,包括:
步骤101,通过不同数据接口从外部数据库中获取外部数据。
其中,外部数据为酒店供应商提供的酒店数据。当酒店供应商与酒店或第三方供应商签订合同之后,可以将酒店数据直接导入酒店供应商的数据库中,也可以不导入,直接从酒店自身的数据库中获取酒店数据。
数据接口包括但不限于:HTTP(Hyper Text Transfer Protocol,超文本传输协议)接口、FTP(File Transfer Protocol,文件传输协议)接口。
在实际应用中,不同的外部数据库对应的不同的数据接口,从而得到的数据格式不同。
步骤102,按照目标数据模型对所述外部数据进行转换。
目标数据模型为统一格式和结构的数据模型。本发明实施例可以将不同格式和结构的数据,转换为具有统一格式和结构的数据模型。
在实际应用中,酒店数据由供应商提供,不同供应商由不同的数据接口供应数据。例如,将供应商的数据分为酒店的基本信息,酒店的丰富信息,酒店设施信息,酒店图片信息,房型的基本信息,房型的设施信息,房型的图片信息等。
具体地,我们对数据按照类型设置不同的存储格式。例如,当酒店基本信息包括但不限于酒店中文名称、英文名称、中文地址信息、应文地址信息、星级、经度信息、纬度信息、电话等。对于上述酒店基本信息,中文名称、应文名称、中文地址信息、英文地址信息、星级、电话为字符串格式,经度信息、纬度信息为数值。
本发明实施例适用于从供应商处加载酒店数据至业务数据中心的应用场景。
步骤103,根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中。
其中,数据更新方式包括增量更新和全量更新。增量更新通过将添加的方式更新数据,并不影响原有的数据;全量更新替换原有的数据进行更新。在实际应用中,当原有数据不变,只需要新增数据时,可以采用增量更新的方式更新数据;当原有数据发生变化时,需要全量更新的方式更新数据。
可以理解,可以在配置界面中配置供应商数据的更新方式,并提供修改功能。
中间数据库为业务平台提供的临时数据库,该中间数据库中的数据会在一定时间之后删除。删除的时间可以根据实际应用场景设定,本发明实施例对其不加以限制。中间数据库将数据拉取和数据推送隔离起来,从而使得数据拉取和数据推送互不影响。
具体地,若数据更新方式为增量时,将转换之后的外部数据添加至中间数据库中;当数据更新方式为全量时,将中间数据库中的原有数据删除,并将转换之后的外部数据存储至中间数据库中。
步骤104,将所述中间数据库中的数据推送至业务数据中心。
其中,业务数据中心为应用平台的数据库。
在实际应用中,需要根据供应商数据的更新周期,周期性的将中间数据库中的数据推送至业务数据中心。例如,当供应商数据的更新周期为天,在每天凌晨将数据从外部数据库转换并保存至中间数据库,从而可以在每天凌晨一点将数据从中间数据库中推送至业务数据中心。
在实际应用中,可以在配置中心配置从中间数据库中推送数据的周期。
本发明实施例可以同时将多个供应商的数据一次性存储至中间数据库中,且可以一次性将多个供应商的数据从中间数据库中进行推送。从而不需要区分供应商。
综上所述,本发明实施例提供了一种酒店静态数据推送方法,所述方法包括:通过不同数据接口从外部数据库中获取外部数据;按照目标数据模型对通过所述外部数据进行转换;根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;将所述中间数据库中的数据推送至业务数据中心。解决了现有技术中数据结构以及数据获取方式不同导致数据获取失败,无法进行增量推送的问题,能够针对不同数据结构以及数据获取方式进行数据转换,以适配不同的数据接口,且可以根据不同的数据更新方式进行数据更新。
实施例二
本申请实施例从系统架构的层级对可选地酒店静态数据推送方法进行了描述。
参照图2,其示出了另一种酒店静态数据推送方法的具体步骤流程图。
步骤201,通过不同数据接口从外部数据库中获取外部数据。
该步骤可以参照步骤101的详细说明,在此不再赘述。
步骤202,按照目标数据模型对所述外部数据进行转换。
该步骤可以参照步骤102的详细说明,在此不再赘述。
步骤203,当预先配置的数据更新方式为增量更新、或更新方式为全量更新但所述中间数据库中不存在对应的数据记录时,将外部数据作为新的数据记录存储至中间数据库中,并将创建时间修改为系统当前时间。
其中,系统当前时间可以通过调用函数直接获取。
在实际应用中,对于增量更新方式,直接将数据添加至中间数据库中;对于全量更新方式,第一次进行数据拉取时,直接将数据添加至中间数据库中。
可以理解,对于直接添加的数据,修改创建时间为系统当前时间。
步骤204,当预先配置的数据更新方式为全量更新且所述中间数据库中存在对应的数据记录时,将所述对应的数据记录中的数据替换为外部数据,并将更新时间修改为系统当前时间。
在实际应用中,对于全量更新方式,根据供应商标识找到供应商的现有数据,替换为新的数据,并修改更新时间为系统当前时间。
步骤205,基于目标词库对所述中间数据库中的数据进行敏感词汇过滤。
其中,目标词库为包括敏感词汇的词库,可以通过收集得到。
本发明实施例通过两个目标词库进行敏感词汇过滤。首先,通过系统的目标词库进行初步过滤;然后,通过业务目标词库进行进一步过滤。从而可以有效保证进入业务数据中心的数据不包含敏感词汇。
在实际应用中,可以将敏感词汇直接删除,也可以将敏感词汇替换为其他词汇。
本发明实施例可以对外部数据进行脱敏处理,从而使得达到业务数据中心的数据不存在敏感信息。
步骤206,基于预先配置的推送周期,将创建时间和/或更新时间在当前推送周期内的数据,从所述中间数据库中推送至业务数据中心。
其中,推送周期可以根据供应商数据的更新周期确定,可以与供应商数据的更新周期相同,也可以为供应商数据的更新周期的倍数。可以理解,当倍数越小时,可以更好的保证数据为最新数据;当倍数越大时,不能很好的保证数据最新。
具体地,对于增量更新,根据创建时间确定是否推送;对于全量更新,根据更新时间确定是否推送。
例如,当配置的推送周期为一小时时,每隔一小时推送一次数据。例如,在14点进行数据推送时,推送创建时间和/或更新时间在13至14点之间的数据。
步骤207,记录对所述数据的推送结果,所述推送结果包括推送成功、推送失败。
其中,推送结果可以作为中间数据库中的数据记录的一个字段,该字段可以默认为成功。当推送数据失败时,修改该字段为失败;当推送数据成功时,不需要修改该字段。
在实际应用中,推送成功和推送失败可以采用枚举值来表示。例如,推送成功用“success”表示,推送失败用“fail”表示。推送成功和推送失败还可以用标志位来表示。例如,推送成功用0表示,推送失败用1表示。
可以理解,推送成功和推送失败对应的标识可以根据实际应用场景设定,本发明实施例对其不加以限制。
步骤208,对于推送失败的至少一条数据,按照预设次数进行批量重新推送。
其中,推送失败可以通过步骤207中记录的推送结果来判断。
预设次数可以根据实际应用场景设定,本发明实施例对其不加以限制。
在实际应用中,还可以设置重试周期。例如,当重试周期为一小时时,将当前时间前一小时内推送失败的所有数据重新推送。可以理解,在批量重试时,需要判断推送失败次数是否大于等于预设次数;若推送失败次数大于预设次数,则不推送该条数据;若推送失败次数小于预设次数,重新推送该条数据。
可以理解,对于推送失败次数较多的数据,其数据本身存在问题的可能性较大,从而不再进行重试,在确定推送失败原因并解决之后再重新推送;对于推送失败次数较少的数据,可能由于资源缺乏等问题导致,从而可以在重试时若分得资源则可以推送成功。
本发明实施例可以允许批量重试,从而可以避免每条数据进行重试影响正常推送,且可以提高重试效率。
综上所述,本发明实施例提供了一种酒店静态数据推送方法,所述方法包括:通过不同数据接口从外部数据库中获取外部数据;按照目标数据模型对所述外部数据进行转换;根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;将所述中间数据库中的数据推送至业务数据中心。解决了现有技术中数据结构以及数据获取方式不同导致数据获取失败,无法进行增量推送的问题,能够针对不同数据结构以及数据获取方式进行数据转换,以适配不同的数据接口,且可以根据不同的数据更新方式进行数据更新。此外,还可以对推送失败的数据进行自动重试,在推送之前进行敏感信息过滤。
实施例三
参照图3,其示出了一种酒店静态数据推送装置的结构图,具体如下。
数据拉取模块301,用于通过不同数据接口从外部数据库中获取外部数据。
其中,外部数据为酒店供应商提供的酒店数据。当酒店供应商与酒店或第三方供应商签订合同之后,可以将酒店数据直接导入酒店供应商的数据库中,也可以不导入,直接从酒店自身的数据库中获取酒店数据。
数据接口包括但不限于:HTTP(Hyper Text Transfer Protocol,超文本传输协议)接口、FTP(File Transfer Protocol,文件传输协议)接口。
在实际应用中,不同的外部数据库对应的不同的数据接口,从而得到的数据格式不同。
数据转换模块302,用于按照目标数据模型对所述外部数据进行转换。
目标数据模型为统一格式和结构的数据模型。本发明实施例可以将不同格式和结构的数据,转换为具有统一格式和结构的数据模型。
在实际应用中,酒店数据由供应商提供,不同供应商由不同的数据接口供应数据。例如,将供应商的数据分为酒店的基本信息,酒店的丰富信息,酒店设施信息,酒店图片信息,房型的基本信息,房型的设施信息,房型的图片信息等。
具体地,我们对数据按照类型设置不同的存储格式。例如,当酒店基本信息包括但不限于酒店中文名称、英文名称、中文地址信息、应文地址信息、星级、经度信息、纬度信息、电话等。对于上述酒店基本信息,中文名称、应文名称、中文地址信息、英文地址信息、星级、电话为字符串格式,经度信息、纬度信息为数值。
本发明实施例适用于从供应商处加载酒店数据至业务数据中心的应用场景。
数据存储模块303,用于根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中。
其中,数据更新方式包括增量更新和全量更新。增量更新通过将添加的方式更新数据,并不影响原有的数据;全量更新替换原有的数据进行更新。在实际应用中,当原有数据不变,只需要新增数据时,可以采用增量更新的方式更新数据;当原有数据发生变化时,需要全量更新的方式更新数据。
可以理解,可以在配置界面中配置供应商数据的更新方式,并提供修改功能。
中间数据库为业务平台提供的临时数据库,该中间数据库中的数据会在一定时间之后删除。删除的时间可以根据实际应用场景设定,本发明实施例对其不加以限制。中间数据库将数据拉取和数据推送隔离起来,从而使得数据拉取和数据推送互不影响。
具体地,若数据更新方式为增量时,将转换之后的外部数据添加至中间数据库中;当数据更新方式为全量时,将中间数据库中的原有数据删除,并将转换之后的外部数据存储至中间数据库中。
数据推送模块304,用于将所述中间数据库中的数据推送至业务数据中心。
其中,业务数据中心为应用平台的数据库。
在实际应用中,需要根据供应商数据的更新周期,周期性的将中间数据库中的数据推送至业务数据中心。例如,当供应商数据的更新周期为天,在每天凌晨将数据从外部数据库转换并保存至中间数据库,从而可以在每天凌晨一点将数据从中间数据库中推送至业务数据中心。
在实际应用中,可以在配置中心配置从中间数据库中推送数据的周期。
本发明实施例可以同时将多个供应商的数据一次性存储至中间数据库中,且可以一次性将多个供应商的数据从中间数据库中进行推送。从而不需要区分供应商。
综上所述,本发明实施例提供了一种酒店静态数据推送装置,所述装置包括:数据拉取模块,用于通过不同数据接口从外部数据库中获取外部数据;数据转换模块,用于按照目标数据模型对所述外部数据进行转换;数据存储模块,用于根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;数据推送模块,用于将所述中间数据库中的数据推送至业务数据中心。解决了现有技术中数据结构以及数据获取方式不同导致数据获取失败,无法进行增量推送的问题,能够针对不同数据结构以及数据获取方式进行数据转换,以适配不同的数据接口,且可以根据不同的数据更新方式进行数据更新。
实施例四
参照图4,其示出了另一种酒店静态数据推送装置的结构图,具体如下。
数据拉取模块401,用于通过不同数据接口从外部数据库中获取外部数据。
该模块可以参照步骤101的详细说明,在此不再赘述。
数据转换模块402,用于按照目标数据模型对所述外部数据进行转换。
该模块可以参照步骤102的详细说明,在此不再赘述。
数据存储模块403,用于根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中。
该模块可以参照步骤103的详细说明,在此不再赘述。
可选地,在本发明实施例中,上述数据存储模块403,包括:
增量存储子模块4031,用于当预先配置的数据更新方式为增量更新、或更新方式为全量更新但所述中间数据库中不存在对应的数据记录时,将外部数据作为新的数据记录存储至中间数据库中,并将创建时间修改为系统当前时间。
其中,系统当前时间可以通过调用函数直接获取。
在实际应用中,对于增量更新方式,直接将数据添加至中间数据库中;对于全量更新方式,第一次进行数据拉取时,直接将数据添加至中间数据库中。
可以理解,对于直接添加的数据,修改创建时间为系统当前时间。
全量存储子模块4032,用于当预先配置的数据更新方式为全量更新且所述中间数据库中存在对应的数据记录时,将所述对应的数据记录中的数据替换为外部数据,并将更新时间修改为系统当前时间。
在实际应用中,对于全量更新方式,根据供应商标识找到供应商的现有数据,替换为新的数据,并修改更新时间为系统当前时间。
敏感过滤模块404,用于基于目标词库对所述中间数据库中的数据进行敏感词汇过滤。
其中,目标词库为包括敏感词汇的词库,可以通过收集得到。
本发明实施例通过两个目标词库进行敏感词汇过滤。首先,通过系统的目标词库进行初步过滤;然后,通过业务目标词库进行进一步过滤。从而可以有效保证进入业务数据中心的数据不包含敏感词汇。
在实际应用中,可以将敏感词汇直接删除,也可以将敏感词汇替换为其他词汇。
本发明实施例可以对外部数据进行脱敏处理,从而使得达到业务数据中心的数据不存在敏感信息。
数据推送模块405,用于将所述中间数据库中的数据推送至业务数据中心。
该模块可以参照步骤104的详细说明,在此不再赘述。
可选地,在本发明实施例中,上述数据推送模块405包括:
数据推送子模块4051,用于基于预先配置的推送周期,将创建时间和/或更新时间在当前推送周期内的数据,从所述中间数据库中推送至业务数据中心。
其中,推送周期可以根据供应商数据的更新周期确定,可以与供应商数据的更新周期相同,也可以为供应商数据的更新周期的倍数。可以理解,当倍数越小时,可以更好的保证数据为最新数据;当倍数越大时,不能很好的保证数据最新。
具体地,对于增量更新,根据创建时间确定是否推送;对于全量更新,根据更新时间确定是否推送。
例如,当配置的推送周期为一小时时,每隔一小时推送一次数据。例如,在14点进行数据推送时,推送创建时间和/或更新时间在13至14点之间的数据。
推送结果记录模块406,用于记录对所述数据的推送结果,所述推送结果包括推送成功、推送失败。
其中,推送结果可以作为中间数据库中的数据记录的一个字段,该字段可以默认为成功。当推送数据失败时,修改该字段为失败;当推送数据成功时,不需要修改该字段。
在实际应用中,推送成功和推送失败可以采用枚举值来表示。例如,推送成功用“success”表示,推送失败用“fail”表示。推送成功和推送失败还可以用标志位来表示。例如,推送成功用0表示,推送失败用1表示。
可以理解,推送成功和推送失败对应的标识可以根据实际应用场景设定,本发明实施例对其不加以限制。
重新推送模块407,用于对于推送失败的至少一条数据,按照预设次数进行批量重新推送。
其中,推送失败可以通过步骤207中记录的推送结果来判断。
预设次数可以根据实际应用场景设定,本发明实施例对其不加以限制。
在实际应用中,还可以设置重试周期。例如,当重试周期为一小时时,将当前时间前一小时内推送失败的所有数据重新推送。可以理解,在批量重试时,需要判断推送失败次数是否大于等于预设次数;若推送失败次数大于预设次数,则不推送该条数据;若推送失败次数小于预设次数,重新推送该条数据。
可以理解,对于推送失败次数较多的数据,其数据本身存在问题的可能性较大,从而不再进行重试,在确定推送失败原因并解决之后再重新推送;对于推送失败次数较少的数据,可能由于资源缺乏等问题导致,从而可以在重试时若分得资源则可以推送成功。
本发明实施例可以允许批量重试,从而可以避免每条数据进行重试影响正常推送,且可以提高重试效率。
综上所述,本发明实施例提供了一种酒店静态数据推送装置,所述装置包括:数据拉取模块,用于通过不同数据接口从外部数据库中获取外部数据;数据转换模块,用于按照目标数据模型对所述外部数据进行转换;数据存储模块,用于根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;敏感过滤模块,用于基于目标词库对所述中间数据库中的数据进行敏感词汇过滤;数据推送模块,用于将所述中间数据库中的数据推送至业务数据中心;推送结果记录模块,用于记录对所述数据的推送结果,所述推送结果包括推送成功、推送失败;重新推送模块,用于对于推送失败的至少一条数据,按照预设次数进行批量重新推送。解决了现有技术中数据结构以及数据获取方式不同导致数据获取失败,无法进行增量推送的问题,能够针对不同数据结构以及数据获取方式进行数据转换,以适配不同的数据接口,且可以根据不同的数据更新方式进行数据更新。此外,还可以对推送失败的数据进行自动重试,在推送之前进行敏感信息过滤。
本发明实施例还提供了一种电子设备,包括:处理器、存储器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现前述实施例的酒店静态数据推送方法。
本发明实施例还提供了一种可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行前述实施例的酒店静态数据推送方法。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的酒店静态数据推送设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种酒店静态数据推送方法,其特征在于,所述方法包括:
通过不同数据接口从外部数据库中获取外部数据;
按照目标数据模型对所述外部数据进行转换;
根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;
将所述中间数据库中的数据推送至业务数据中心。
2.根据权利要求1所述的方法,其特征在于,所述根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中的步骤,包括:
当预先配置的数据更新方式为增量更新、或更新方式为全量更新但所述中间数据库中不存在对应的数据记录时,将外部数据作为新的数据记录存储至中间数据库中,并将创建时间修改为系统当前时间;
当预先配置的数据更新方式为全量更新且所述中间数据库中存在对应的数据记录时,将所述对应的数据记录中的数据替换为外部数据,并将更新时间修改为系统当前时间。
3.根据权利要求1或2所述的方法,其特征在于,在所述将所述中间数据库中的数据推送至业务数据中心的步骤之前,还包括:
基于目标词库对所述中间数据库中的数据进行敏感词汇过滤。
4.根据权利要求3所述的方法,其特征在于,所述将所述中间数据库中的数据推送至业务数据中心的步骤,包括:
基于预先配置的推送周期,将创建时间和/或更新时间在当前推送周期内的数据,从所述中间数据库中推送至业务数据中心。
5.根据权利要求4所述的方法,其特征在于,在所述将所述中间数据库中的数据推送至业务数据中心的步骤之后,还包括:
记录对所述数据的推送结果,所述推送结果包括推送成功、推送失败。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
对于推送失败的至少一条数据,按照预设次数进行批量重新推送。
7.一种酒店静态数据推送装置,其特征在于,所述装置包括:
数据拉取模块,用于通过不同数据接口从外部数据库中获取外部数据;数据转换模块,用于按照目标数据模型对所述外部数据进行转换;
数据存储模块,用于根据预先配置的数据更新方式,将所述转换之后的外部数据存储至中间数据库中;
数据推送模块,用于将所述中间数据库中的数据推送至业务数据中心。
8.一种电子设备,其特征在于,包括:
处理器、存储器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-6中一个或多个所述的酒店静态数据推送方法。
9.一种可读存储介质,其特征在于,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如方法权利要求1-6中一个或多个所述的酒店静态数据推送方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810322981.XA CN108733758B (zh) | 2018-04-11 | 2018-04-11 | 酒店静态数据推送方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810322981.XA CN108733758B (zh) | 2018-04-11 | 2018-04-11 | 酒店静态数据推送方法、装置、电子设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108733758A true CN108733758A (zh) | 2018-11-02 |
CN108733758B CN108733758B (zh) | 2022-04-05 |
Family
ID=63941398
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810322981.XA Active CN108733758B (zh) | 2018-04-11 | 2018-04-11 | 酒店静态数据推送方法、装置、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108733758B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110460659A (zh) * | 2019-08-06 | 2019-11-15 | 辽宁途隆科技有限公司 | 数据推送方法及装置、存储介质、计算机设备 |
CN111813846A (zh) * | 2020-06-29 | 2020-10-23 | 北京九章云极科技有限公司 | 一种数据分析处理系统和数据处理方法 |
CN114579590A (zh) * | 2022-03-02 | 2022-06-03 | 苏州酷乐信息科技有限公司 | 一种多源数据处理方法、装置、系统及存储介质 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6934711B2 (en) * | 2002-10-01 | 2005-08-23 | Hewlett-Packard Development Company, L.P. | Method and arrangement for communicating with SCSI devices |
CN101140548A (zh) * | 2007-10-23 | 2008-03-12 | 北京握奇数据系统有限公司 | 一种卡片操作系统对数据文件进行操作的方法及智能卡 |
CN102368273A (zh) * | 2011-11-29 | 2012-03-07 | 神华集团有限责任公司 | 档案管理系统和方法 |
CN103856392A (zh) * | 2013-06-26 | 2014-06-11 | 携程计算机技术(上海)有限公司 | 消息推送方法及其外发服务器和外发服务器系统 |
WO2014098662A1 (en) * | 2012-12-19 | 2014-06-26 | Telefonaktiebolaget L M Ericsson (Publ) | Exposing data to query generating applications using usage profiles |
CN103955510A (zh) * | 2014-04-30 | 2014-07-30 | 广西电网公司电力科学研究院 | 基于etl云平台上传的海量电力营销数据整合方法 |
CN104038414A (zh) * | 2013-08-21 | 2014-09-10 | 江南大学 | 一种多协议智能家庭网关装置及其系统 |
CN104361424A (zh) * | 2014-10-11 | 2015-02-18 | 中国电子科技集团公司第十研究所 | 基于企业服务总线的主数据系统集成方法 |
CN104734894A (zh) * | 2013-12-18 | 2015-06-24 | 中国移动通信集团甘肃有限公司 | 一种流量数据筛选方法和装置 |
CN104933112A (zh) * | 2015-06-04 | 2015-09-23 | 浙江力石科技股份有限公司 | 分布式互联网交易信息存储处理方法 |
CN105243155A (zh) * | 2015-10-29 | 2016-01-13 | 贵州电网有限责任公司电力调度控制中心 | 一种大数据抽取和交换系统 |
CN106789978A (zh) * | 2016-12-07 | 2017-05-31 | 高新兴科技集团股份有限公司 | 一种数据汇聚系统和方法 |
CN107016027A (zh) * | 2016-12-08 | 2017-08-04 | 阿里巴巴集团控股有限公司 | 实现业务信息快速搜索的方法和装置 |
-
2018
- 2018-04-11 CN CN201810322981.XA patent/CN108733758B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6934711B2 (en) * | 2002-10-01 | 2005-08-23 | Hewlett-Packard Development Company, L.P. | Method and arrangement for communicating with SCSI devices |
CN101140548A (zh) * | 2007-10-23 | 2008-03-12 | 北京握奇数据系统有限公司 | 一种卡片操作系统对数据文件进行操作的方法及智能卡 |
CN102368273A (zh) * | 2011-11-29 | 2012-03-07 | 神华集团有限责任公司 | 档案管理系统和方法 |
WO2014098662A1 (en) * | 2012-12-19 | 2014-06-26 | Telefonaktiebolaget L M Ericsson (Publ) | Exposing data to query generating applications using usage profiles |
CN103856392A (zh) * | 2013-06-26 | 2014-06-11 | 携程计算机技术(上海)有限公司 | 消息推送方法及其外发服务器和外发服务器系统 |
CN104038414A (zh) * | 2013-08-21 | 2014-09-10 | 江南大学 | 一种多协议智能家庭网关装置及其系统 |
CN104734894A (zh) * | 2013-12-18 | 2015-06-24 | 中国移动通信集团甘肃有限公司 | 一种流量数据筛选方法和装置 |
CN103955510A (zh) * | 2014-04-30 | 2014-07-30 | 广西电网公司电力科学研究院 | 基于etl云平台上传的海量电力营销数据整合方法 |
CN104361424A (zh) * | 2014-10-11 | 2015-02-18 | 中国电子科技集团公司第十研究所 | 基于企业服务总线的主数据系统集成方法 |
CN104933112A (zh) * | 2015-06-04 | 2015-09-23 | 浙江力石科技股份有限公司 | 分布式互联网交易信息存储处理方法 |
CN105243155A (zh) * | 2015-10-29 | 2016-01-13 | 贵州电网有限责任公司电力调度控制中心 | 一种大数据抽取和交换系统 |
CN106789978A (zh) * | 2016-12-07 | 2017-05-31 | 高新兴科技集团股份有限公司 | 一种数据汇聚系统和方法 |
CN107016027A (zh) * | 2016-12-08 | 2017-08-04 | 阿里巴巴集团控股有限公司 | 实现业务信息快速搜索的方法和装置 |
Non-Patent Citations (1)
Title |
---|
薛羽: "无线城市Web数据采集系统的设计与实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110460659A (zh) * | 2019-08-06 | 2019-11-15 | 辽宁途隆科技有限公司 | 数据推送方法及装置、存储介质、计算机设备 |
CN111813846A (zh) * | 2020-06-29 | 2020-10-23 | 北京九章云极科技有限公司 | 一种数据分析处理系统和数据处理方法 |
CN111813846B (zh) * | 2020-06-29 | 2021-04-02 | 北京九章云极科技有限公司 | 一种数据分析处理系统和数据处理方法 |
CN114579590A (zh) * | 2022-03-02 | 2022-06-03 | 苏州酷乐信息科技有限公司 | 一种多源数据处理方法、装置、系统及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN108733758B (zh) | 2022-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103049271B (zh) | 自动生成api接口的描述文档的方法和装置 | |
CN103608772B (zh) | 多承租人协作审阅服务 | |
US8495571B2 (en) | Computer method and apparatus for engineered product management including simultaneous indication of working copy status and repository status | |
CN108733758A (zh) | 酒店静态数据推送方法、装置、电子设备及可读存储介质 | |
CN110413288A (zh) | 应用部署方法、装置、服务器及存储介质 | |
Lozano–Fuentes et al. | Cell phone-based system (Chaak) for surveillance of immatures of dengue virus mosquito vectors | |
CN103034546B (zh) | iOS系统中应用程序间通信的方法及装置 | |
US20130318135A1 (en) | Data record dynamic active content systems and methods | |
US20090024639A1 (en) | Data mapping and import system | |
CN108804241B (zh) | 跨平台任务调度方法、系统、计算机设备和存储介质 | |
CN108628669A (zh) | 一种调度机器学习算法任务的方法和装置 | |
Owens et al. | The oceans 2.0/3.0 data management and archival system | |
CN109284452B (zh) | 电子协议在线展示方法、装置、电子设备、存储介质 | |
Papatheodorou et al. | A new architecture and approach to asset representation for Europeana aggregation: The CARARE way | |
CN102508673A (zh) | 快速开发与配置平台类软件的系统及方法 | |
CN110471730A (zh) | 基于Echarts的展示方法、系统、大屏系统和介质 | |
CN105426541B (zh) | 一种通用数据的存储方法和装置 | |
CN116069407A (zh) | 解析swift报文和自动映射到业务交易栏位的方法及系统 | |
CN109947466A (zh) | 一种逆向获取ue4全局对象表的方法及其装置 | |
CN104572145B (zh) | 文件版本管理方法及系统 | |
CN109508244A (zh) | 数据处理方法及计算机可读介质 | |
CN113076308B (zh) | 一种时空大数据服务系统 | |
US10671371B2 (en) | Alerting an offline user of a predicted computer file update | |
CN103164765A (zh) | 专利管理方法及系统 | |
CN103218424B (zh) | 网页显示方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20231010 Address after: 22-01, 18th Floor, Building 38 Haidian Street, Haidian District, Beijing, 100089 Patentee after: BEIJING KUXUN TECHNOLOGY Co.,Ltd. Patentee after: BEIJING SANKUAI ONLINE TECHNOLOGY Co.,Ltd. Address before: 100083 2106-030, 9 North Fourth Ring Road, Haidian District, Beijing. Patentee before: BEIJING SANKUAI ONLINE TECHNOLOGY Co.,Ltd. |