CN107451259A - 一种数据字典动态更新方法及装置 - Google Patents
一种数据字典动态更新方法及装置 Download PDFInfo
- Publication number
- CN107451259A CN107451259A CN201710641505.XA CN201710641505A CN107451259A CN 107451259 A CN107451259 A CN 107451259A CN 201710641505 A CN201710641505 A CN 201710641505A CN 107451259 A CN107451259 A CN 107451259A
- Authority
- CN
- China
- Prior art keywords
- data
- real time
- dictionary
- calculation procedure
- data dictionary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2372—Updates performed during offline database operations
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例提供一种数据字典动态更新方法及装置，应用于实时数据计算程序，该方法通过在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件(所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果)；若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序的方式，实现了对数据字典的动态更新，避免了因更新数据字典所导致的数据丢失的问题。
Description
技术领域
本申请涉及数据更新技术领域，特别是涉及一种数据字典动态更新方法及装置。
背景技术
随着科技的发展，实时数据计算技术应用越来越广泛，实时数据计算不仅是数据分析的基础，而且还可为公司的运营决策提供实时有效的数据支持。
在实时计算数据的过程中，某些场景下会需要关联数据字典，以从数据字典中查询数据。一般情况下是在实时数据计算程序启动后，将数据字典初始化到内存中，进而基于初始化到内存中的数据字典进行实时数据计算。
但是，在数据字典需要更新时，因需要重新启动实时数据计算程序，将更新后的数据字典初始化到内存，以达到更新数据字典的目的，因此，通常会导致在实时数据计算程序重新启动的这段时间数据丢失的问题。
发明内容
有鉴于此，本申请实施例提供一种数据字典动态更新方法及装置，以在避免数据丢失的基础上，实现数据字典的动态更新。
为了实现上述目的，本申请实施例提供的技术方案如下：
一种数据字典动态更新方法，应用于实时数据计算程序，该方法包括：
在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果；
若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序。
优选的，在所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机时，
所述启动继续运行所述实时数据计算程序，包括：
启动继续运行所述实时数据计算程序，确定当前待处理的数据，所述数据包括在暂停运行所述实时数据计算程序时待被所述实时数据计算程序处理的数据，或者，若在暂停运行所述实时数据计算程序时不存在待被所述实时数据计算程序处理的数据，在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，从数据源获取的下一待被所述实时数据计算程序处理的数据；
将所确定的数据作为当前的查询条件，在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果。
优选的，若在所述内存中的更新后的数据字典中未查找到所述查询条件的数据查询结果，将所述查询条件的数据查询结果设置为空值，
在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果之后，该方法还包括：
若所述查询条件的数据查询结果为空值，将关联有所述查询条件的所述数据查询结果存储至第一数据库；
若所述查询条件的数据查询结果不为空值，将关联有所述查询条件的所述数据查询结果存储至第二数据库。
优选的，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果时，
所述确定是否满足预设的数据字典更新条件，包括：
在从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果的情况下，确定所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值；
若否，确定满足预设的数据字典更新条件；
若是，确定不满足预设的数据字典更新条件。
优选的，若从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果，将所述当前作为查询条件的数据的数据查询结果设置为空值，
在所述确定不满足预设的数据字典更新条件之后，该方法还包括：
将关联有所述当前作为查询条件的数据的所述数据查询结果存储至第三数据库。
优选的，所述启动继续运行所述实时数据计算程序，包括：
启动继续运行所述实时数据计算程序，在所述内存中的更新后的数据字典中，再次查找所述当前作为查询条件的数据的数据查询结果。
一种数据字典动态更新装置，应用于实时数据计算程序，该装置包括：
条件确定单元，用于在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果；
动态更新单元，用于若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序。
优选的，在所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机时，
所述动态更新单元，具体用于：
若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，确定当前待处理的数据，所述数据包括在暂停运行所述实时数据计算程序时待被所述实时数据计算程序处理的数据，或者，若在暂停运行所述实时数据计算程序时不存在待被所述实时数据计算程序处理的数据，在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，从数据源获取的下一待被所述实时数据计算程序处理的数据；
将所确定的数据作为当前的查询条件，在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果。
优选的，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果时，
所述条件确定单元，具体用于：
在所述实时数据计算程序运行过程中，在从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果的情况下，确定所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值；
若否，确定满足预设的数据字典更新条件；
若是，确定不满足预设的数据字典更新条件。
优选的，所述动态更新单元，具体用于：
若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，在所述内存中的更新后的数据字典中，再次查找所述当前作为查询条件的数据的数据查询结果。
本申请实施例提供一种数据字典动态更新方法及装置，应用于实时数据计算程序，该方法通过在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件(所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果)；若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序的方式，实现了对数据字典的动态更新，避免了因更新数据字典所导致的数据丢失的问题。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种数据字典动态更新方法流程图；
图2为本申请实施例提供的另一种数据字典动态更新方法流程图；
图3为本申请实施例提供的又一种数据字典动态更新方法流程图；
图4为本申请实施例提供的又一种数据字典动态更新方法流程图；
图5为本申请实施例提供的又一种数据字典动态更新方法流程图；
图6为本申请实施例提供的又一种数据字典共同更新方法流程图；
图7为本申请实施例提供的一种数据字典动态更新装置的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
实施例：
图1为本申请实施例提供的一种数据字典动态更新方法流程图。
如图1所示，该方法包括：
S101、在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件；若确定满足所述数据字典更新条件，则执行步骤S102；
可选的，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果。
可选的，所述数据字典更新时机为从系统时间的第0秒开始计时，每隔5秒钟，到达一次数据字典更新时机；或者，从系统时间的第0秒开始计时，隔5秒钟(第5秒)到达一次数据字典更新时机，再隔10秒钟(第15秒)到达下一次数据字典更新时机，再隔15秒(第30秒)到达一次数据字典更新时机，以此类推。
以上仅仅是本申请实施例提供的数据字典更新时机的优选方式，发明人可根据自己的需求任意设置数据字典更新时机，在此不做限定。
S102、暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序。
图2为本申请实施例提供的另一种数据字典动态更新方法流程图。
如图2所示，该方法包括：
S201、在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机；若确定满足所述数据字典更新条件，则执行步骤S202；
S202、暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，确定当前待处理的数据；
可选的，所述步骤S202所确定的当前待处理的数据包括：在暂停运行所述实时数据计算程序时待被所述实时数据计算程序处理的数据，或者，若在暂停运行所述实时数据计算程序时不存在待被所述实时数据计算程序处理的数据，在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，从数据源获取的下一待被所述实时数据计算程序处理的数据。
S203、将所确定的数据作为当前的查询条件，在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果。
图3为本申请实施例提供的又一种数据字典动态更新方法流程图。
如图3所示，该方法包括：
S301、在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机；若确定满足所述数据字典更新条件，则执行步骤S302；
S302、暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，确定当前待处理的数据；
S303、将所确定的数据作为当前的查询条件，在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果，若在所述内存中的更新后的数据字典中未查找到所述查询条件的数据查询结果，将所述查询条件的数据查询结果设置为空值；
S304、判断所述查询条件的数据查询结果是否为空值，若是，则执行步骤S305；若否，则执行步骤S306；
S305、将关联有所述查询条件的所述数据查询结果存储至第一数据库；
S306、将关联有所述查询条件的所述数据查询结果存储至第二数据库。
可选的，通过将关联有所述查询条件的所述数据查询结果存储至第一数据库，可便于后续基于第一数据库中存储的数据对未查找到数据查询结果的数据进行再次查询，以补齐数据查询结果。
在本申请实施例中，优选的，当所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果时，所述确定是否满足预设的数据字典更新条件，包括：在从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果的情况下，确定所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值；若否，确定满足预设的数据字典更新条件；若是，确定不满足预设的数据字典更新条件。
图4为本申请实施例提供的又一种数据字典动态更新方法流程图。
如图4所示，该方法包括：
S401、在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果；若确定满足所述数据字典更新条件，则执行步骤S402；若确定不满足所述数据字典更新条件，则执行步骤S403；
S402、暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序；
S403、若从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果，将所述当前作为查询条件的数据的数据查询结果设置为空值，将关联有所述当前作为查询条件的数据的所述数据查询结果存储至第三数据库。
可选的，步骤S403中的存储至第三数据库的关联有所述当前作为查询条件的数据的所述数据查询结果为空值，或者，为从与所述实时数据计算程序关联的内存中的数据字典中查找到的当前作为查询条件的数据的数据查询结果。
图5为本申请实施例提供的又一种数据字典动态更新方法流程图。
如图5所示，该方法包括：
S501、在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果；若确定满足所述数据字典更新条件，则执行步骤S502；若确定不满足所述数据字典更新条件，则执行步骤S503；
S502、暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，在所述内存中的更新后的数据字典中，再次查找所述当前作为查询条件的数据的数据查询结果；
S503、若从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果，将所述当前作为查询条件的数据的数据查询结果设置为空值，将关联有所述当前作为查询条件的数据的所述数据查询结果存储至第三数据库。
本申请实施例提供一种数据字典动态更新方法，应用于实时数据计算程序，该方法通过在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件(所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果)；若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序的方式，实现了对数据字典的动态更新，避免了因更新数据字典所导致的数据丢失的问题。
为了便于对本申请实施例提供的一种数据字典动态更新方法的理解，现通过两个实例进行进一步介绍。
如图6所示为本申请实施例提供的又一种数据字典共同更新方法流程图。
如图6所示，该方法包括：
S601、启动运行实时数据计算程序；
S602、将当前本地数据库中的数据字典初始化到与所述实时数据计算程序关联的内存中；
S603、从数据源读取一个数据，将所读取的数据作为查询条件；
S604、判断是否从与所述实时数据计算程序关联的内存中的数据字典中查找到当前作为查询条件的数据的数据查询结果；如果否，则执行步骤S605；如果是，执行步骤S608；
S605、判断所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值；如果否，则执行步骤S606；如果是，执行步骤S607；
可选的，若所述预设阈值为3次，判断当前作为查询条件的数据是否连续被查询了3次；如果是，则确定所述当前作为查询条件的数据连续被查询的次数达到预设阈值；如果否，则确定所述当前作为查询条件的数据连续被查询的次数未达到预设阈值。
以上仅仅是本申请实施例提供的判断所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值的优选方式，发明人可根据自己的需求任意设置判断所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值的具体方式，在此不做限定。
S606、暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，并返回执行步骤S604；
S607、将所述当前作为查询条件的数据的数据查询结果设置为空值；
S608、将关联有所述当前作为查询条件的数据的所述数据查询结果存储至第三数据库，并返回执行步骤S603；
可选的，将关联有所述当前作为查询条件的数据的所述数据查询结果存储至第三数据库后，返回执行步骤S603，以从数据源读取下一个数据，将所读取的下一个数据作为查询条件并进行处理。
可选的，实时数据计算程序在服务器启动，实时数据计算程序启动时，进行初始化数据字典操作，数据字典初始化操作会读取本地数据库里的数据字典，将字典以键-值对(key，value)的形式缓存在服务器的内存中，字典的主键作为key，值作为value。
可选的，当数据字典初始化操作完成以后，实时数据计算程序开始调用kafka的consumer API(接口)连接kafka开始接入数据到实时数据计算程序，以便实时数据计算程序从kafka中读取一个数据进行处理(从内存中的数据字典中查询所述数据的数据查询结果)，并在处理完成后(比如，将数据查询结果存入数据库后/对数据查询结果进行处理后存入数据库后)再从kafka中读取下一个数据；
当实时数据计算程序从数据源读取到一个数据后，将该数据穿入数据字典进行匹配，实时数据计算程序匹配字典时，通过传入数据(key值)，去匹配内存中已经缓存的键-值对(key，value)，如果key能匹配上，则取出数据的数据查询结果value，否则设置数据的数据查询结果为一个空值(null)；
数据匹配完成后，判断数据是否为命中数据(若数据的数据查询结果为value说明数据是命中数据；若数据的数据查询结果为空值说明数据是未命中数据)；如果数据是未命中数据，立即读取本地数据库中的字典数据，并将最新的数据字典更新到内存中，以保持内存中的数据字典为最新状态；然后，再对刚才未匹配到的数据再一次进行匹配，如果依然未匹配到数据(默认匹配3次)，则视为该数据无数据字典匹配，将该数据的数据查询结果设置为空值(即，该数据的value值默认为null)，然后执行步骤A；如果数据是命中数据，则执行步骤A；
步骤A：将数据的数据查询结果写入第三数据库，或者，将数据的数据查询结果进行处理并将处理结果写入第三数据库，写入完成后实时数据计算程序继续循环，从数据源中读取下一个数据并进行处理。
上述是通过在字典匹配过程中，如果有数据未匹配到，则动态对字典进行更新，更新完数据字典后再次处理未匹配到的数据，优点在于在处理的数据结果集出现数据匹配未命中的情况概率及其低，数据更新及时，更新频率高，从而保证了数据的完整性。
下面为本申请实施例提供的又一种数据字典动态更新方法的介绍。
在本申请实施例中，优选的，在未满足预设的数据字典更新条件(即，当前系统时间未到达预设的数据字典更新时机)时，执行如下步骤B：启动运行实时数据计算程序；将当前本地数据库中的数据字典初始化到与所述实时数据计算程序关联的内存中；从数据源读取一个数据，将所读取的数据作为查询条件；判断是否从与所述实时数据计算程序关联的内存中的数据字典中查找到作为查询条件的所述数据的数据查询结果；如果是，将查找到的数据查询结果(关联有所述数据)写入第一数据库(此处，也可是对所述数据处理结果进行处理后将处理结果写入第一数据库)；如果否，将所述作为查询条件的所述数据的数据查询结果设置为空值，将设置为空值的所述数据查询结果(关联有所述数据)写入第二数据库(此处，也可是对所述数据处理结果进行处理后将处理结果写入第二数据库)；数据查询结果写入数据库(第一数据库或第二数据库)完成后继续循环，从数据源中读取下一个数据作为查询条件并进行处理。
若在执行步骤B的过程中，确定满足预设的数据字典更新条件，则暂停执行步骤B(即，阻塞步骤B继续运行)，立即将所述内存中的数据字典更新为当前本地数据库中的数据字典，以保持内存中的数据字典为最新状态，并停止暂停执行步骤B、以继续执行步骤B。
上述在字典匹配过程中定时的去更新数据字典，从而保证了数据匹配的命中率，优点在于在处理的数据字典更新频率可控，可根据字典更新的频率来控制数据的命中率。
通过上述对本申请实施例提供的又一种数据字典动态更新方法的详细介绍，使得本申请实施例提供的一种数据字典动态更新方法更加清晰、完整、便于理解。
图7为本申请实施例提供的一种数据字典动态更新装置的结构示意图。
如图7所示，该装置应用于实时数据计算程序，该装置包括：
条件确定单元71，用于在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果；
动态更新单元72，用于若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序。
可选的，在所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机时，所述动态更新单元，具体用于：若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，确定当前待处理的数据，所述数据包括在暂停运行所述实时数据计算程序时待被所述实时数据计算程序处理的数据，或者，若在暂停运行所述实时数据计算程序时不存在待被所述实时数据计算程序处理的数据，在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，从数据源获取的下一待被所述实时数据计算程序处理的数据；将所确定的数据作为当前的查询条件，在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果。
可选的，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果时，所述条件确定单元，具体用于：在所述实时数据计算程序运行过程中，在从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果的情况下，确定所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值；若否，确定满足预设的数据字典更新条件；若是，确定不满足预设的数据字典更新条件。
可选的，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果时，所述动态更新单元，具体用于：若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，在所述内存中的更新后的数据字典中，再次查找所述当前作为查询条件的数据的数据查询结果。
本申请实施例提供一种数据字典动态更新装置，应用于实时数据计算程序，该方法通过在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件(所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果)；若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序的方式，实现了对数据字典的动态更新，避免了因更新数据字典所导致的数据丢失的问题。
最后，还需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、物品或者设备中还存在另外的相同要素。
本说明书中各个部分采用递进的方式描述，每个部分重点说明的都是与其他部分的不同之处，各个部分之间相同相似部分互相参见即可。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种数据字典动态更新方法，其特征在于，应用于实时数据计算程序，该方法包括：
在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果；
若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序。
2.根据权利要求1所述的方法，其特征在于，在所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机时，
所述启动继续运行所述实时数据计算程序，包括：
启动继续运行所述实时数据计算程序，确定当前待处理的数据，所述数据包括在暂停运行所述实时数据计算程序时待被所述实时数据计算程序处理的数据，或者，若在暂停运行所述实时数据计算程序时不存在待被所述实时数据计算程序处理的数据，在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，从数据源获取的下一待被所述实时数据计算程序处理的数据；
将所确定的数据作为当前的查询条件，在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果。
3.根据权利要求2所述的方法，其特征在于，若在所述内存中的更新后的数据字典中未查找到所述查询条件的数据查询结果，将所述查询条件的数据查询结果设置为空值，
在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果之后，该方法还包括：
若所述查询条件的数据查询结果为空值，将关联有所述查询条件的所述数据查询结果存储至第一数据库；
若所述查询条件的数据查询结果不为空值，将关联有所述查询条件的所述数据查询结果存储至第二数据库。
4.根据权利要求1所述的方法，其特征在于，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果时，
所述确定是否满足预设的数据字典更新条件，包括：
在从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果的情况下，确定所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值；
若否，确定满足预设的数据字典更新条件；
若是，确定不满足预设的数据字典更新条件。
5.根据权利要求4所述的方法，其特征在于，若从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果，将所述当前作为查询条件的数据的数据查询结果设置为空值，
在所述确定不满足预设的数据字典更新条件之后，该方法还包括：
将关联有所述当前作为查询条件的数据的所述数据查询结果存储至第三数据库。
6.根据权利要求5所述的方法，其特征在于，所述启动继续运行所述实时数据计算程序，包括：
启动继续运行所述实时数据计算程序，在所述内存中的更新后的数据字典中，再次查找所述当前作为查询条件的数据的数据查询结果。
7.一种数据字典动态更新装置，其特征在于，应用于实时数据计算程序，该装置包括：
条件确定单元，用于在所述实时数据计算程序运行过程中，确定是否满足预设的数据字典更新条件，所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机，或者，从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果；
动态更新单元，用于若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序。
8.根据权利要求7所述的装置，其特征在于，在所述数据字典更新条件包括当前系统时间到达预设的数据字典更新时机时，
所述动态更新单元，具体用于：
若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，确定当前待处理的数据，所述数据包括在暂停运行所述实时数据计算程序时待被所述实时数据计算程序处理的数据，或者，若在暂停运行所述实时数据计算程序时不存在待被所述实时数据计算程序处理的数据，在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，从数据源获取的下一待被所述实时数据计算程序处理的数据；
将所确定的数据作为当前的查询条件，在所述内存中的更新后的数据字典中查找所述查询条件的数据查询结果。
9.根据权利要求7所述的装置，其特征在于，所述数据字典更新条件包括从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果时，
所述条件确定单元，具体用于：
在所述实时数据计算程序运行过程中，在从与所述实时数据计算程序关联的内存中的数据字典中未查找到当前作为查询条件的数据的数据查询结果的情况下，确定所述当前作为查询条件的数据连续被查询的次数是否达到预设阈值；
若否，确定满足预设的数据字典更新条件；
若是，确定不满足预设的数据字典更新条件。
10.根据权利要求9所述的装置，其特征在于，所述动态更新单元，具体用于：
若确定满足所述数据字典更新条件，暂停运行所述实时数据计算程序，并在将所述内存中的数据字典更新为当前本地数据库中的数据字典后，启动继续运行所述实时数据计算程序，在所述内存中的更新后的数据字典中，再次查找所述当前作为查询条件的数据的数据查询结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710641505.XA CN107451259A (zh) | 2017-07-31 | 2017-07-31 | 一种数据字典动态更新方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710641505.XA CN107451259A (zh) | 2017-07-31 | 2017-07-31 | 一种数据字典动态更新方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107451259A true CN107451259A (zh) | 2017-12-08 |
Family
ID=60489263
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710641505.XA Pending CN107451259A (zh) | 2017-07-31 | 2017-07-31 | 一种数据字典动态更新方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107451259A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109684611A (zh) * | 2018-12-18 | 2019-04-26 | 北京城市网邻信息技术有限公司 | 一种字典转码方法、装置、存储介质及终端 |
| CN111951488A (zh) * | 2020-08-17 | 2020-11-17 | 深圳市丰巢网络技术有限公司 | 智能柜的结构配置方法、装置、计算机设备及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104298761A (zh) * | 2014-10-23 | 2015-01-21 | 浪潮通用软件有限公司 | 一种异构软件系统间主数据匹配的实现方法 |
| CN104536784A (zh) * | 2014-12-23 | 2015-04-22 | 北京国双科技有限公司 | 实时系统更新方法及装置 |
| CN104954866A (zh) * | 2015-06-19 | 2015-09-30 | 杭州施强网络科技有限公司 | 一种流媒体数据直播中播放点动态控制方法 |
| CN106155729A (zh) * | 2015-04-21 | 2016-11-23 | 阿里巴巴集团控股有限公司 | Lua脚本热更新方法、装置及系统 |
-
2017
- 2017-07-31 CN CN201710641505.XA patent/CN107451259A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104298761A (zh) * | 2014-10-23 | 2015-01-21 | 浪潮通用软件有限公司 | 一种异构软件系统间主数据匹配的实现方法 |
| CN104536784A (zh) * | 2014-12-23 | 2015-04-22 | 北京国双科技有限公司 | 实时系统更新方法及装置 |
| CN106155729A (zh) * | 2015-04-21 | 2016-11-23 | 阿里巴巴集团控股有限公司 | Lua脚本热更新方法、装置及系统 |
| CN104954866A (zh) * | 2015-06-19 | 2015-09-30 | 杭州施强网络科技有限公司 | 一种流媒体数据直播中播放点动态控制方法 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109684611A (zh) * | 2018-12-18 | 2019-04-26 | 北京城市网邻信息技术有限公司 | 一种字典转码方法、装置、存储介质及终端 |
| CN109684611B (zh) * | 2018-12-18 | 2024-02-20 | 北京城市网邻信息技术有限公司 | 一种字典转码方法、装置、存储介质及终端 |
| CN111951488A (zh) * | 2020-08-17 | 2020-11-17 | 深圳市丰巢网络技术有限公司 | 智能柜的结构配置方法、装置、计算机设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Zoghi et al. | Relative upper confidence bound for the k-armed dueling bandit problem | |
| CN110489405A (zh) | 数据处理的方法、装置和服务器 | |
| CN107728941A (zh) | 一种区块链数据压缩方法及系统 | |
| US20210109920A1 (en) | Method for Validating Transaction in Blockchain Network and Node for Configuring Same Network | |
| CN108875040A (zh) | 词典更新方法及计算机可读存储介质 | |
| CN109271391A (zh) | 数据存储方法、服务器、存储介质及装置 | |
| CN106649717A (zh) | 基于哈希值的医疗文件冗余处理系统及方法 | |
| US20210166220A1 (en) | Method for Enabling Access to Past Transaction in Blockchain Network, and Node | |
| CN107004013A (zh) | 用于使用基于硬件的处理来提供分布式树遍历的系统和方法 | |
| CN106599260A (zh) | 医疗信息化重复医疗文件删除系统及方法 | |
| CN106293744B (zh) | 一种应用版本动态切换方法及装置 | |
| CN103500191A (zh) | 一种流表配置、查询、表项删除方法及装置 | |
| CN105100050A (zh) | 用户权限管理方法及系统 | |
| EP2680166A1 (en) | Accelerated searching of substrings | |
| CN113568940B (zh) | 数据查询的方法、装置、设备以及存储介质 | |
| CN107451259A (zh) | 一种数据字典动态更新方法及装置 | |
| CN103309873B (zh) | 数据的处理方法、装置及系统 | |
| CN110018982A (zh) | 查找文件的方法、装置、设备及计算机可读存储介质 | |
| CN112052413B (zh) | Url模糊匹配方法、装置和系统 | |
| US20140108367A1 (en) | Client apparatus and database server for resumable transaction and method thereof | |
| CN103701653B (zh) | 一种接口热插拔配置数据的处理方法及网络配置服务器 | |
| CN110232095A (zh) | 一种数据同步方法、装置、存储介质和服务器 | |
| CN110457704A (zh) | 目标字段的确定方法、装置、存储介质及电子装置 | |
| CN104536785B (zh) | 实时系统更新方法及装置 | |
| CN109905366A (zh) | 终端设备安全验证方法、装置、可读存储介质及终端设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| AD01 | Patent right deemed abandoned |
Effective date of abandoning: 20200922 |
|
| AD01 | Patent right deemed abandoned |