CN110955673A - 数据去标识化方法、装置、设备及存储介质 - Google Patents

数据去标识化方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN110955673A
CN110955673A CN202010110562.7A CN202010110562A CN110955673A CN 110955673 A CN110955673 A CN 110955673A CN 202010110562 A CN202010110562 A CN 202010110562A CN 110955673 A CN110955673 A CN 110955673A
Authority
CN
China
Prior art keywords
data
identification
log file
database log
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010110562.7A
Other languages
English (en)
Inventor
孙同乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yidu Cloud Beijing Technology Co Ltd
Original Assignee
Yidu Cloud Beijing Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yidu Cloud Beijing Technology Co Ltd filed Critical Yidu Cloud Beijing Technology Co Ltd
Publication of CN110955673A publication Critical patent/CN110955673A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23Updating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/17Details of further file system functions
    • G06F16/172Caching, prefetching or hoarding of files
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/18File system types
    • G06F16/1805Append-only file systems, e.g. using logs or journals to store data
    • G06F16/1815Journaling file systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/18File system types
    • G06F16/182Distributed file systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/60ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Bioethics (AREA)
  • Computing Systems (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开一种数据去标识化方法、装置、设备及存储介质。该方法包括:当源端服务器发生数据更新并生成数据库日志文件时,目标服务器接收所述源端服务器主动推送的所述数据库日志文件;当所述目标服务器接收到所述源端服务器发送的所述数据库日志文件后,所述目标服务器基于预配置的应用进程,对所述数据库日志文件进行解析以解析出所述数据库日志文件中的标识化数据,对所述标识化数据进行去标识化处理,并将去标识数据存入所述目标服务器的目标数据库中。根据本发明提供的数据去标识化方法,能够在数据应用之前完成大数据量的同步存储及去标识,无需对应用程序进行去标识化配置,有效地节约了开发成本。

Description

数据去标识化方法、装置、设备及存储介质
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据去标识化方法、装置、电子设备及计算机可读存储介质。
背景技术
近年来,随着信息技术的快速发展,大数据实现共享的同时带来了个人隐私泄露等信息安全问题。例如,医疗机构间共享含有患者姓名、电话、证件号码等信息的原始医疗数据,过程中一旦发生泄漏或被非法窃取,将给患者的健康和财产带来巨大损失,甚至危及国家安全。
因此,目前的大数据应用场景对于数据去标识化的需求愈发强烈。现阶段的去标识化进程通常在应用层执行,然而在应用程序的基础上进行去标识配置的难度极大,需要大量修改程序代码。再者,应用程序尚无法在接收大数据量的同时对其完成同步去标识。
需要说明的是,在所述背景技术部分公开的上述信息仅用于加强对本发明的背景的理解,因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
有鉴于此,本发明提供一种数据去标识化方法、装置、电子设备及计算机可读存储介质。
本发明的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本发明的实践而习得。
根据本发明的一方面,提供一种数据去标识化方法,包括:当源端服务器发生数据更新并生成数据库日志文件时,目标服务器接收所述源端服务器主动推送的所述数据库日志文件;当所述目标服务器接收到所述源端服务器发送的所述数据库日志文件后,所述目标服务器基于预配置的应用进程,对所述数据库日志文件进行解析以解析出所述数据库日志文件中的标识化数据,对所述标识化数据进行去标识化处理,并将去标识数据存入所述目标服务器的目标数据库中。
根据本发明的一实施方式,所述目标服务器基于预配置的应用进程,对所述数据库日志文件进行解析以解析出所述数据库日志文件中的标识化数据包括:所述目标服务器基于预配置的第一应用进程,对所述数据库日志文件中的所述源端服务器的更新数据是否包括标识化数据进行识别;当识别出所述更新数据包括标识化数据时,所述目标服务器基于预配置的第二应用进程,解析出所述标识化数据。
根据本发明的一实施方式,在将去标识数据存入所述目标服务器的目标数据库中之后,所述方法还包括:所述目标服务器接收终端的操作指令;所述目标服务器根据所述操作指令,将所述操作指令对应的去标识数据发送给所述终端。
根据本发明的一实施方式,对所述标识化数据进行去标识化处理包括:对所述标识化数据进行脱敏处理,获得所述标识化数据对应的脱敏数据;以及对所述脱敏数据进行去标识化处理,获得所述标识化数据对应的去标识数据。
根据本发明的一实施方式,对所述标识化数据进行脱敏处理,获得所述标识化数据对应的脱敏数据包括:基于预设的脱敏规则,对所述标识化数据进行数据变形处理,以获得所述脱敏数据。
根据本发明的一实施方式,对所述脱敏数据进行去标识化处理,获得所述标识化数据对应的去标识数据包括:根据所述标识化数据的类型,基于不同的去标识化规则,对所述标识化数据进行去标识化处理。
根据本发明的一实施方式,当所述标识化数据的类型为患者ID(IdentityDocument,身份标识号)时,在对所述标识化数据进行去标识化处理之前,所述方法还包括:校验所述患者ID的有效性。
根据本发明的另一方面,提供一种数据去标识化装置,应用于目标服务器侧,包括:文件获取模块,用于当源端服务器发生数据更新并生成数据库日志文件时,接收所述源端服务器主动推送的所述数据库日志文件;数据处理模块,用于在接收到所述源端服务器发送的所述数据库日志文件后,基于预配置的应用进程,对所述数据库日志文件进行解析以解析出所述数据库日志文件中的标识化数据,对所述标识化数据进行去标识化处理,并将去标识数据存入目标数据库中。
根据本发明的再一方面,提供一种电子设备,包括:存储器、处理器及存储在所述存储器中并可在所述处理器中运行的可执行指令,所述处理器执行所述可执行指令时实现如上述任一种数据去标识化方法。
根据本发明的再一方面,提供一种计算机可读存储介质,其上存储有计算机可执行指令,所述可执行指令被处理器执行时实现如上述任一种数据去标识化方法。
根据本发明提供的数据去标识化方法,能够在数据应用之前完成大数据量的同步存储及去标识,即能够在对数据库的数据进行实时同步过程中进行去标识化处理,无需对应用程序进行去标识化配置,有效地节约了开发成本。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据一示例性实施方式示出的一种数据去标识化方法的流程图。
图2是根据一示例性实施方式示出的另一种数据去标识化方法的流程图。
图3是根据一示例性实施方式示出的再一种数据去标识化方法的流程图。
图4是根据一示例性实施方式示出的一种数据去标识化装置的框图。
图5是根据一示例性实施方式示出的一种电子设备的结构示意图。
图6是根据一示例性实施方式示出的一种计算机可读存储介质的示意图。
图7是根据一示例性实施例示出的一种基于私有云的数据去标识化方法的数据流向示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。附图仅为本发明的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本发明的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、装置、步骤等。在其它情况下,不详细示出或描述公知结构、方法、装置、实现或者操作以避免喧宾夺主而使得本发明的各方面变得模糊。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
本发明提供的方案涉及“去标识化”处理,为了便于理解,下面首先对其概念进行解释:
去标识化,就是指去除一组可识别数据与数据主体之间的关联关系的过程。通过该过程,数据管理者可以删除或改变数据集中的标识信息,使得恶意攻击者难以利用数据集识别出具体的个人主体身份,从而可以将数据集共享到预定范围内进行使用。以医疗领域为例:去标识以保护个人隐私在于掐断将被曝光的医疗信息与现实中的具体个人之间的联系。因此,任何能够用于个人定位的信息都应当被保护,包括:患者姓名、出生地、ID、家庭住址、工作单位及地址、联系人姓名/地址/电话等患者在接受治疗过程中产出、被医疗机构合法获取的隐私信息。
如上所述,为解决应用程序难以进行二次配置、无法实现大数据量的同步获取及实时去标识等问题,本发明提出了一种新的数据去标识化方法。下面通过本发明的各实施方式进行具体说明。
图1是根据一示例性实施方式示出的一种数据去标识化方法的流程图。如图1所示的数据去标识化方法例如可以应用于医疗机构的私有云(Private Clouds)服务器端。
本发明方法旨在于数据库同步过程中,在数据同步存储的同时对具有标识化的数据进行去标识处理,从而完成数据的去标识化处理。
参考图1,数据去标识化方法10包括:
在步骤S102中,当源端服务器发生数据更新并生成数据库日志文件时,目标服务器接收源端服务器主动推送的数据库日志文件。
其中,数据库日志文件包含源端服务器的更新数据。
本发明方法以关系型数据库—Oracle为例进行说明:源端服务器上部署有捕获进程,用于从自身Oracle数据库日志抓取到数据变化,生成trail日志文件;源端服务器上还部署有推送进程,用于向目标服务器推送生成的trail日志文件。私有云服务器(即目标服务器)通过TCP/IP(Transmission Control Protocol/Internet Protocol,传输控制协议/网际协议)或其它通信协议接收日志流,获取到上述日志文件。
在步骤S104中,当目标服务器接收到源端服务器发送的数据库日志文件后,目标服务器基于预配置的应用进程,对数据库日志文件进行解析以解析出数据库日志文件中的标识化数据,对标识化数据进行去标识化处理,并将去标识数据存入目标服务器的目标数据库中。
承上述,私有云服务器上部署的应用进程对trail日志文件进行解析,并将解析出的数据去标识后写入私有云服务器端的Oracle数据库,以使目标服务器与源端保持数据实时同步变化,且目标服务器存储的是去标识化后的数据。
根据本发明实施方式提供的数据去标识化方法,能够在数据应用之前完成大数据量的同步存储及去标识,无需对应用程序进行去标识化配置,有效地节约了开发成本。
应清楚地理解,本发明描述了如何形成和使用特定示例,但本发明的原理不限于这些示例的任何细节。相反,基于本发明公开的内容的教导,这些原理能够应用于许多其它实施方式。
图2是根据一示例性实施方式示出的另一种数据去标识化方法的流程图。与图1所示方法10的不同之处在于,图2所示的方法进一步提供了解析标识化数据的一种具体方法,即进一步提供了上述步骤S104的一实施例。同样地,如图2所示的数据去标识化方法例如也可以应用于医疗机构的私有云服务器端。
参考图2,步骤S104中目标服务器基于预配置的应用进程,对数据库日志文件进行解析以解析出数据库日志文件中的标识化数据,可进一步包括:
在步骤S1042中,目标服务器基于预配置的第一应用进程,对数据库日志文件中的源端服务器的更新数据是否包括标识化数据进行识别。
在步骤S1044中,当识别出更新数据包括标识化数据时,目标服务器基于预配置的第二应用进程,解析出标识化数据。
也即,当目标服务器基于第一应用进程识别出更新数据的一部分是标识化数据时,需再基于第二应用进程解析出标识化数据,并对其进行去标识化处理后完成同步存储。与此同时,目标服务器对更新数据的另一部分(即非标识化数据)仅需同步即可。
相应地,当目标服务器基于第一应用进程识别出更新数据不包括任何标识化数据时,目标服务器仅需直接同步源端服务器的更新数据。
第一应用进程例如可以为数据标识类型的识别进程,第二应用进程例如可以为专用于标识化数据的解析进程。
图3是根据一示例性实施方式示出的再一种数据去标识化方法的流程图。与图1所示方法10的不同之处在于,图3所示的方法进一步提供了去标识化处理的一种具体方法,即进一步提供了上述步骤S104的一实施例。同样地,如图3所示的数据去标识化方法例如也可以应用于医疗机构的私有云服务器端。
参考图3,步骤S104中对标识化数据进行去标识化处理,可进一步包括:
在步骤S202中,对标识化数据进行脱敏处理,获得标识化数据对应的脱敏数据。
在一些实施例中,可以基于预设的脱敏规则(例如通过私有云服务器上部署的应用进程调度自定义的脱敏函数),对标识化数据进行数据变形处理,以获得脱敏数据。
数据变形处理,是在非可信环境中使用敏感数据时,通过给定的规则或策略对敏感数据进行变换、修改的技术机制。常见的数据变形处理方法包括:
替换:以虚构的数据代替真值,例如建立一个较大的虚拟值数据表,对每一真实值记录产生随机种子,对原始数据内容进行哈希映射替换;
置乱:对敏感数据列的值进行重新随机分布,混淆原有值和其他字段的联系;
均值化:计算数值型数据的均值,使脱敏后的值在均值附近随机分布,从而保持数据的总和不变;
偏移:通过随机移位改变数字数据。
需要说明的是,本发明方法中的数据变形处理不局限于上述列举的四种方式。
在步骤S204中,对脱敏数据进行去标识化处理,获得标识化数据对应的去标识数据。
类似地,例如可通过私有云服务器上部署的应用进程调度自定义的去标识化函数,对脱敏数据进行去标识化处理,以获得去标识数据。
数据去标识是本发明方法的关键环节。在一些实施例中,步骤S204可进一步包括:根据标识化数据的类型,基于不同的去标识化规则,对标识化数据进行去标识化处理。
其中,标识化数据例如可包括:患者姓名、电话号码、ID、家庭住址、工作单位等类型。
去标识化规则的制定与标识化数据的类型相对应。承上述,在一些实施例中,当步骤S202中得到的脱敏数据包含变形处理后的患者ID时,在对患者ID进行去标识化处理之前,医疗机构的私有云服务器还可先行校验患者ID的有效性。对于有效患者ID和无效患者ID,医疗机构的私有云服务器可采用两种不同的方式进行去标识并分别展示,以将二者区别开来。也即,对于两名不同的患者,如果其中一人的原始ID有效而另一人的原始ID无效,则这两个ID在分别经过相同的脱敏处理后,会经过不同的去标识化处理得到相应的去标识化结果。
如图7所示,虚线(代表防火墙)左侧所示例如以医疗机构(如某医院)的任意多个服务器作为源端服务器71,虚线右侧所示例如以布置于该院方的任意多个私有云服务器作为目标服务器72。回顾上述步骤S102,其可包括:基于Oracle Goldengate工具,获取源端服务器71发送的数据库日志文件。其中,Oracle Goldengate作为同步软件,分别安装于源端服务器71及目标服务器72,前者用于同步发送、后者用于同步接收。
基于Oracle数据库711、721本身的函数功能以及Oracle Goldengate工具实现上述步骤S102~S104,可使数据的去标识化与存储过程具备良好的稳定性。再者,上述方法10还可充分利用Oracle Goldengate本身的各项监控功能,对整个数据实时同步过程进行监控。
在一些实施例中,本发明上述方法10还可包括对去标识数据进行应用的多个方法,例如:
(一)继续参考图7,目标服务器72还可将去标识数据传输至数据生产服务器73,以对去标识数据进行应用。
去标识数据存储于目标服务器72的Oracle数据库721后,数据生产服务器73可从中抽取去标识数据,转存于自身的数据库731,供生产平台732对其进行处理以生成各种数据产品。需要说明的是,数据生产服务器73可以布置于私有云网络中(如图7中所示),也可以独立布置于私有云网络之外,本发明对此不作限定。
(二)目标服务器可接收终端的操作指令,并根据操作指令将对应的去标识数据发送给终端。
其中,操作指令例如可包括:对去标识数据的读、写等操作请求。
本领域技术人员可以理解实现上述实施方式的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU 执行时,执行本发明提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中,该存储介质可以是只读存储器,磁盘或光盘等。
此外,需要注意的是,上述附图仅是根据本发明示例性实施方式的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
下述为本发明装置实施例,可以用于执行本发明方法实施例。对于本发明装置实施例中未披露的细节,请参照本发明方法实施例。
图4是根据一示例性实施方式示出的一种数据去标识化装置的框图。
参考图4,数据去标识化装置40,应用于目标服务器侧,该装置包括:文件获取模块402以及数据处理模块404。
其中,文件获取模块402用于当源端服务器发生数据更新并生成数据库日志文件时,接收源端服务器主动推送的数据库日志文件。
数据处理模块404用于在接收到源端服务器发送的数据库日志文件后,基于预配置的应用进程,对数据库日志文件进行解析以解析出数据库日志文件中的标识化数据,对标识化数据进行去标识化处理,并将去标识数据存入目标数据库中。
根据本发明实施方式提供的数据去标识化装置,能够在数据应用之前完成大数据量的同步存储及去标识,无需对应用程序进行去标识化配置,有效地节约了开发成本。
可选地,数据处理模块404基于预配置的应用进程,对数据库日志文件进行解析以解析出数据库日志文件中的标识化数据,具体用于:
基于预配置的第一应用进程,对数据库日志文件中的源端服务器的更新数据是否包括标识化数据进行识别;
当识别出更新数据包括标识化数据时,基于预配置的第二应用进程,解析出标识化数据。
可选地,数据处理模块404在将去标识数据存入目标服务器的目标数据库中之后,还用于:
接收终端的操作指令;
根据操作指令,将操作指令对应的去标识数据发送给终端。
可选地,数据处理模块404对标识化数据进行去标识化处理,具体用于:
对标识化数据进行脱敏处理,获得标识化数据对应的脱敏数据;
对脱敏数据进行去标识化处理,获得标识化数据对应的去标识数据。
可选地,数据处理模块404对标识化数据进行脱敏处理,获得标识化数据对应的脱敏数据,具体用于:基于预设的脱敏规则,对标识化数据进行数据变形处理,以获得脱敏数据。
可选地,数据处理模块404对脱敏数据进行去标识化处理,获得标识化数据对应的去标识数据,具体用于:根据标识化数据的类型,基于不同的去标识化规则,对标识化数据进行去标识化处理。
可选地,当标识化数据的类型为患者ID时,数据处理模块404在对标识化数据进行去标识化处理之前,还用于:校验患者ID的有效性。
需要注意的是,上述附图中所示的框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图5来描述根据本发明的这种实施方式的电子设备800。图5显示的电子设备800仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于:上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830。
其中,所述存储单元820存储有程序代码,所述程序代码可以被所述处理单元810执行,使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元810可以执行如图1中所示的S102,当源端服务器发生数据更新并生成数据库日志文件时,目标服务器接收所述源端服务器主动推送的数据库日志文件;S104,当目标服务器接收到源端服务器发送的数据库日志文件后,目标服务器基于预配置的应用进程,对数据库日志文件进行解析以解析出数据库日志文件中的标识化数据,对标识化数据进行去标识化处理,并将去标识数据存入目标服务器的目标数据库中。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202,还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204,这样的程序模块8205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备800也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备800交互的设备通信,和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图5所示,网络适配器860通过总线830与电子设备800的其它模块通信。应当明白,尽管图5中未示出,可以结合电子设备800使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本发明实施方式的方法。
在本发明的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
参考图6所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品900,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本发明中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本发明实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由所附的权利要求指出。

Claims (10)

1.一种数据去标识化方法,其特征在于,包括:
当源端服务器发生数据更新并生成数据库日志文件时,目标服务器接收所述源端服务器主动推送的所述数据库日志文件;
当所述目标服务器接收到所述源端服务器发送的所述数据库日志文件后,所述目标服务器基于预配置的应用进程,对所述数据库日志文件进行解析以解析出所述数据库日志文件中的标识化数据,对所述标识化数据进行去标识化处理,并将去标识数据存入所述目标服务器的目标数据库中。
2.根据权利要求1所述的方法,其特征在于,所述目标服务器基于预配置的应用进程,对所述数据库日志文件进行解析以解析出所述数据库日志文件中的标识化数据包括:
所述目标服务器基于预配置的第一应用进程,对所述数据库日志文件中的所述源端服务器的更新数据是否包括标识化数据进行识别;
当识别出所述更新数据包括标识化数据时,所述目标服务器基于预配置的第二应用进程,解析出所述标识化数据。
3.根据权利要求1所述的方法,其特征在于,在将去标识数据存入所述目标服务器的目标数据库中之后,所述方法还包括:
所述目标服务器接收终端的操作指令;
所述目标服务器根据所述操作指令,将所述操作指令对应的去标识数据发送给所述终端。
4.根据权利要求1所述的方法,其特征在于,对所述标识化数据进行去标识化处理包括:
对所述标识化数据进行脱敏处理,获得所述标识化数据对应的脱敏数据;以及
对所述脱敏数据进行去标识化处理,获得所述标识化数据对应的去标识数据。
5.根据权利要求4所述的方法,其特征在于,对所述标识化数据进行脱敏处理,获得所述标识化数据对应的脱敏数据包括:基于预设的脱敏规则,对所述标识化数据进行数据变形处理,以获得所述脱敏数据。
6.根据权利要求4所述的方法,其特征在于,对所述脱敏数据进行去标识化处理,获得所述标识化数据对应的去标识数据包括:根据所述标识化数据的类型,基于不同的去标识化规则,对所述标识化数据进行去标识化处理。
7.根据权利要求6所述的方法,其特征在于,当所述标识化数据的类型为患者ID时,在对所述标识化数据进行去标识化处理之前,所述方法还包括:校验所述患者ID的有效性。
8.一种数据去标识化装置,应用于目标服务器侧,其特征在于,包括:
文件获取模块,用于当源端服务器发生数据更新并生成数据库日志文件时,接收所述源端服务器主动推送的所述数据库日志文件;
数据处理模块,用于在接收到所述源端服务器发送的所述数据库日志文件后,基于预配置的应用进程,对所述数据库日志文件进行解析以解析出所述数据库日志文件中的标识化数据,对所述标识化数据进行去标识化处理,并将去标识数据存入目标数据库中。
9.一种电子设备,包括:存储器、处理器及存储在所述存储器中并可在所述处理器中运行的可执行指令,其特征在于,所述处理器执行所述可执行指令时实现如权利要求1-7任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机可执行指令,其特征在于,所述可执行指令被处理器执行时实现如权利要求1-7任一项所述的方法。
CN202010110562.7A 2020-02-04 2020-02-24 数据去标识化方法、装置、设备及存储介质 Pending CN110955673A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010079690 2020-02-04
CN202010079690X 2020-02-04

Publications (1)

Publication Number Publication Date
CN110955673A true CN110955673A (zh) 2020-04-03

Family

ID=69985771

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010110562.7A Pending CN110955673A (zh) 2020-02-04 2020-02-24 数据去标识化方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN110955673A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111858546A (zh) * 2020-06-22 2020-10-30 网联清算有限公司 数据处理方法、装置及系统
TWI778698B (zh) * 2021-06-16 2022-09-21 大陸商深圳富桂精密工業有限公司 日誌解析系統及日誌解析方法
WO2023061108A1 (zh) * 2021-10-14 2023-04-20 中国银联股份有限公司 数据脱敏方法、联邦学习方法及系统
CN116991947A (zh) * 2023-09-22 2023-11-03 湖南三湘银行股份有限公司 一种自动化数据同步方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140350954A1 (en) * 2013-03-14 2014-11-27 Ontomics, Inc. System and Methods for Personalized Clinical Decision Support Tools
CN104376062A (zh) * 2014-11-11 2015-02-25 中国有色金属长沙勘察设计研究院有限公司 一种异构数据库平台数据的同步方法
CN107301350A (zh) * 2017-05-24 2017-10-27 国信优易数据有限公司 一种数据处理方法和系统
CN108491526A (zh) * 2018-03-28 2018-09-04 腾讯科技(深圳)有限公司 日志数据处理方法、装置、电子设备及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140350954A1 (en) * 2013-03-14 2014-11-27 Ontomics, Inc. System and Methods for Personalized Clinical Decision Support Tools
CN104376062A (zh) * 2014-11-11 2015-02-25 中国有色金属长沙勘察设计研究院有限公司 一种异构数据库平台数据的同步方法
CN107301350A (zh) * 2017-05-24 2017-10-27 国信优易数据有限公司 一种数据处理方法和系统
CN108491526A (zh) * 2018-03-28 2018-09-04 腾讯科技(深圳)有限公司 日志数据处理方法、装置、电子设备及存储介质

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111858546A (zh) * 2020-06-22 2020-10-30 网联清算有限公司 数据处理方法、装置及系统
TWI778698B (zh) * 2021-06-16 2022-09-21 大陸商深圳富桂精密工業有限公司 日誌解析系統及日誌解析方法
WO2023061108A1 (zh) * 2021-10-14 2023-04-20 中国银联股份有限公司 数据脱敏方法、联邦学习方法及系统
CN116991947A (zh) * 2023-09-22 2023-11-03 湖南三湘银行股份有限公司 一种自动化数据同步方法及系统
CN116991947B (zh) * 2023-09-22 2024-01-05 湖南三湘银行股份有限公司 一种自动化数据同步方法及系统

Similar Documents

Publication Publication Date Title
CN110955673A (zh) 数据去标识化方法、装置、设备及存储介质
US11520912B2 (en) Methods, media, apparatuses and computing devices of user data authorization based on blockchain
EP3275115B1 (en) Database server and client for query processing on encrypted data
CN109639652B (zh) 一种基于安全隔离的网间数据访问的方法及系统
CN111062024B (zh) 一种应用登录方法和装置
US9111035B2 (en) Methods, systems, and computer program products for analyzing an occurrence of an error in a computer program by restricting access to data identified as being sensitive information
EP3278263B1 (en) Computing on encrypted data using deferred evaluation
US20190042786A1 (en) Query Processing with Adaptive Risk Decisioning
CN106528421B (zh) 一种Android应用中SDK处理方法
CN116011023A (zh) 数据脱敏处理方法及装置、终端设备、存储介质
CN112307515A (zh) 基于数据库的数据处理方法、装置、电子设备和介质
CN113285945B (zh) 通信安全监控方法、装置、设备及存储介质
CN114239026A (zh) 信息脱敏转换处理方法、装置、计算机设备和存储介质
US11017029B2 (en) Data transfer system, data transfer apparatus, data transfer method, and computer-readable recording medium
US10049222B1 (en) Establishing application trust levels using taint propagation
KR20200047992A (ko) 개인정보의 암호화 및 비식별화를 동시 처리하는 방법, 서버 장치 및 클라우드 컴퓨팅 서비스 서버 장치
CN113282959A (zh) 业务数据处理方法、装置及电子设备
CN103034811A (zh) 一种文件处理的方法、系统及装置
CN109635558B (zh) 访问控制方法、装置和系统
CN109388917B (zh) 硬件设备的鉴权方法、装置、设备及存储介质
CN116028917A (zh) 权限检测方法及装置、存储介质及电子设备
CN111062053B (zh) 生物特征数据的处理方法、装置、设备及介质
CN111782678A (zh) 数据存储方法和装置
CN113965366B (zh) 反向代理钓鱼攻击的防御方法、系统和计算机设备
CN111382713B (zh) 生物识别方法、系统、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20200403