CN110490598A - 异常检测方法、装置、设备及存储介质 - Google Patents
异常检测方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN110490598A CN110490598A CN201910782984.6A CN201910782984A CN110490598A CN 110490598 A CN110490598 A CN 110490598A CN 201910782984 A CN201910782984 A CN 201910782984A CN 110490598 A CN110490598 A CN 110490598A
- Authority
- CN
- China
- Prior art keywords
- graphs
- connected graph
- user
- trade company
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9024—Graphs; Linked lists
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/38—Payment protocols; Details thereof
- G06Q20/40—Authorisation, e.g. identification of payer or payee, verification of customer or shop credentials; Review and approval of payers, e.g. check credit lines or negative lists
- G06Q20/401—Transaction verification
- G06Q20/4016—Transaction verification involving fraud or risk level assessment in transaction processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Theoretical Computer Science (AREA)
- Finance (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- Databases & Information Systems (AREA)
- Strategic Management (AREA)
- Development Economics (AREA)
- Technology Law (AREA)
- Marketing (AREA)
- Software Systems (AREA)
- Economics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供了一种异常检测方法、装置、设备及存储介质,涉及计算机和互联网技术领域,所述方法包括:通过构建连通图集合,根据n个连通图生成g个图集合,对于g个图集合中的第i个图集合,计算第i个图集合中的各个连通图的流通量,根据第i个图集合中的各个连通图的流通量,确定第i个图集合中的异常连通图,根据异常连通图,确定异常用户和/或异常商户。本申请实施例可以有效地对标签数据较少的稀疏图进行异常检测,准确率较高,简单高效,实用性和适用性强。
Description
技术领域
本申请实施例涉及计算机和互联网技术领域,特别涉及一种异常检测方法、装置、设备及存储介质。
背景技术
随着网络技术的进步,电商平台和网络支付平台也在迅速发展,每天都有大量的交易行为和评价行为产生,故而需要对其中的虚假交易和恶意刷评进行异常检测。
以对虚假交易进行异常检测为例,在相关技术中,将参与虚假交易的用户和商户称为欺诈者,根据已获取的大量标签数据(如资金流向信息、交易方关联信息等数据)构建拓扑关系图,并使用pagerank(网页排名)算法进行迭代更新,使欺诈者分值迅速累积,当欺诈者的分值高于预设值,就能挖掘得到欺诈者。
发明内容
本申请提供了一种异常检测方法、装置、设备及存储介质。所述技术方案包括:
一方面,本申请实施例提供了一种异常检测方法,所述方法包括:
构建连通图集合,所述连通图集合包括n个连通图,每个连通图包括至少一个用户结点和至少一个商户结点,其中,连接所述用户结点和所述商户结点的边,用于表示所述用户结点对应的用户与所述商户结点对应的商户之间具有关联关系,所述n为大于1的整数;
根据所述n个连通图生成g个图集合,每个图集合中包括结点数满足预设条件的多个连通图,所述g为正整数;
对于所述g个图集合中的第i个图集合,计算所述第i个图集合中的各个连通图的流通量,所述流通量用于指示所述连通图中的用户与商户之间交互的频繁程度,所述i为小于或等于所述g的正整数;
根据所述第i个图集合中的各个连通图的流通量,确定所述第i个图集合中的异常连通图;
根据所述异常连通图,确定异常用户和/或异常商户。
另一方面,本申请实施例提供了一种异常检测装置,所述装置包括:
连通图构建模块,用于构建连通图集合,所述连通图集合包括n个连通图,每个连通图包括至少一个用户结点和至少一个商户结点,其中,连接所述用户结点和所述商户结点的边,用于表示所述用户结点对应的用户与所述商户结点对应的商户之间具有关联关系,所述n为大于1的整数;
图集合生成模块,用于根据所述n个连通图生成g个图集合,每个图集合中包括结点数满足预设条件的多个连通图,所述g为正整数;
流通量计算模块,用于对于所述g个图集合中的第i个图集合,计算所述第i个图集合中的各个连通图的流通量,所述流通量用于指示所述连通图中的用户与商户之间交互的频繁程度,所述i为小于或等于所述g的正整数;
异常图确定模块,用于根据所述第i个图集合中的各个连通图的流通量,确定所述第i个图集合中的异常连通图;
异常者确定模块,用于根据所述异常连通图,确定异常用户和/或异常商户。
再一方面,本申请实施例提供了一种计算机设备,所述计算机设备包括处理器和存储器,所述存储器中存储有计算机程序,所述计算机程序由所述处理器加载并执行以实现上述异常检测方法。
还一方面,本申请实施例提供了一种计算机可读存储介质,所述存储介质中存储有计算机程序,所述计算机程序由处理器加载并执行以实现上述异常检测方法。
本申请实施例提供的技术方案可以带来如下有益效果:
通过构建连通图集合,根据该连通图集合中包含的各个连通图,生成若干个图集合,对于任意一个图集合,通过计算该图集合中的各个连通图的流通量,据此对各个连通图进行横向对比,从中确定出异常连通图,进而根据异常连通图确定异常用户和/或异常商户。由于本申请实施例提供的技术方案是通过多个连通图的横向对比来进行异常检测的,不需要建立包含大量标签数据的拓扑关系图,任一连通图也无需包含大量标签数据,可以有效地对标签数据较少的稀疏图进行异常检测,准确率较高,简单高效,实用性和适用性强。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一示例性实施例示出的一种异常检测方法的流程图;
图2是本申请一示例性实施例示出的图集合生成的示意图;
图3是本申请一示例性实施例示出的目标连通图划分的示意图;
图4是本申请一示例性实施例提供的一种异常检测装置的框图;
图5是本申请另一示例性实施例提供的一种异常检测装置的框图;
图6是本申请一示例性实施例提供的计算机设备的结构框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的方法的例子。
图1是根据本申请一示例性实施例示出的一种异常检测方法的流程图。该方法可应用于计算机设备中,计算机设备可以是任何具备计算和存储能力的电子设备,如PC(Personal Computer,个人计算机)、服务器等。结合图1,该方法可以包括如下几个步骤:
步骤101,构建连通图集合,连通图集合包括n个连通图,n为大于1的整数。
每个连通图包括至少一个用户结点和至少一个商户结点,其中,连接用户结点和商户结点的边,用于表示用户结点对应的用户与商户结点对应的商户之间具有关联关系。每个连通图中包括结点和连接结点的边,结点包括用户结点和商户结点,每个用户结点对应于一个用户,每个商户结点对应于一个商户。
连通图集合可以根据用户和商户之间的关联关系构建。上述关联关系可以为直接关联关系,也即,对于每条边,其所表示的关联关系,仅由该条边所对应的一个用户和一个商户确定,无需通过除该一个用户和该一个商户之外的其他用户或其他商户确定。
步骤102,根据n个连通图生成g个图集合,每个图集合中包括结点数满足预设条件的多个连通图,g为正整数。
每一个连通图最多属于一个图集合,一个图集合中包括至少两个连通图。
可选地,预设条件是指预先设定的用于划分图集合的条件,如预设条件可以是结点数相同,也可以是结点数相近。
可选地,结点数相同的两个连通图,是指这两个连通图中的结点总数相同,一个连通图的结点数是指该连通图中包含的用户结点的数量与商户结点的数量之和。例如,连通图A中有5个用户结点和3个商户结点,连通图B中有4个用户结点和4个商户结点,连通图A、连通图B的用户结点的数量与商户结点的数量之和均为8,则连通图A与连通图B的结点数相同,这两个连通图可以属于同一个图集合。
可选地,结点数相近的两个连通图,是指这两个连通图的结点数的差值小于或等于预设差值。例如,设定预设差值为2,连通图C中有2个用户结点和2个商户结点,连通图D中有3个用户结点和2个商户结点,连通图C的结点数为4,连通图D的结点数为5,这两个连通图的结点数的差值为1,小于预设差值2,则说明连通图C和连通图D的结点数相近,这两个连通图可以属于同一个图集合。
示例性地,假设连通图集合中包括22个连通图,其结点数分别为:3、4、5、5、6、6、6、7、7、7、8、8、8、8、8、9、9、9、9、10、10、11,上述预设差值为2,那么,结点数为6的3个连通图生成图集合A,结点数为7的3个连通图生成图集合B,结点数为8的5个连通图生成图集合C,结点数为9的4个连通图生成图集合D,结点数为3、4、5的4个连通图生成图集合E,结点数为10、11的3个连通图生成图集合F,也即总共生成6个图集合。
步骤103,对于g个图集合中的第i个图集合,计算第i个图集合中的各个连通图的流通量,i为小于或等于g的正整数。
流通量用于指示连通图中的用户与商户之间交互的频繁程度。
可选地,对于虚假交易的异常检测,用户和商户之间的交互可以表示为用户和商户之间的交易行为;对于恶意刷评的异常检测,用户和商户之间的交互可以表示为用户和商户之间的评价行为。
其中,对于第i个图集合中的某一个连通图来说,该连通图的流通量与第i个图集合中的其他连通图的流通量的差异越大,表示相对于第i个图集合中的其他连通图,该连通图中用户与商户之间的交互越频繁。例如,当连通图的流通量与连通图中用户与商户之间交互的频繁程度为正相关关系时,对于第i个图集合中的某一个连通图来说,该连通图的流通量相对于第i个图集合中的其他连通图的流通量越大,表示相对于第i个图集合中的其他连通图,该连通图中用户与商户之间的交互越频繁。
流通量可以由权重确定,例如可以将连通图中所有边的权重之和作为该连通图的流通量,权重可以由用户和商户之间的交易行为确定,也可以由用户和商户之间的评价行为确定。
在示例性实施例中,上述步骤103可以包括:对于第i个图集合中的第j个连通图,计算第j个连通图的各条边对应的权重之和,得到第j个连通图的流通量,j为正整数。其中,权重用于指示具有关联关系的用户和商户之间交互的频繁程度。通过上述方式,提供了一种计算连通图的流通量的方法,简单高效。
步骤104,根据第i个图集合中的各个连通图的流通量,确定第i个图集合中的异常连通图。
由于对于第i个图集合中的某一个连通图来说,该连通图的流通量相对于第i个图集合中的其他连通图的流通量的差异越大,表示相对于第i个图集合中的其他连通图,该连通图中用户与商户之间的交互越频繁,故对于第i个图集合中的连通图,若其流通量相对于其他连通图的流通量过大,表示该连通图中用户和商户的交互过于频繁,则该连通图可视为异常连通图。
步骤105,根据异常连通图,确定异常用户和/或异常商户。
可选地,将异常连通图中包含的各个用户结点对应的用户作为异常用户,将异常连通图中包含的各个商户结点对应的商户作为异常商户。
可选地,将异常连通图中包含的各用户结点和商户结点所对应的用户和商户找出,进一步筛选出其中的异常用户和异常商户。可选地,上述进一步筛选异常用户和异常商户的方法,可以是通过设定的算法自动筛选,也可以是人工筛选,本申请实施例对此不作限定。
需要说明的是,在本实施例中,主要以第i个图集合为例,对从该第i个图集合中确定异常图集合,并确定异常用户和/或异常商户的流程进行了介绍说明,该第i个图集合可以是上述g个图集合中的任意一个图集合,也即对于上述g个图集合中的任意一个图集合,均可以采用上文实施例介绍的方法流程,来确定出异常用户和/或异常商户。
综上所述,本申请实施例提供的技术方案中,通过构建连通图集合,根据该连通图集合中包含的各个连通图,生成若干个图集合,对于任意一个图集合,通过计算该图集合中的各个连通图的流通量,据此对各个连通图进行横向对比,从中确定出异常连通图,进而根据异常连通图确定异常用户和/或异常商户。由于本申请实施例提供的技术方案是通过结点数相同或相近的多个连通图的横向对比来进行异常检测的,任一连通图无需包含大量标签数据,可以有效地对标签数据较少的稀疏图进行异常检测,准确率较高,简单高效,实用性和适用性强。
在上文已经介绍,本申请实施例提供的技术方案,可以对异常交易进行检测,也可以对恶意刷评进行异常检测。
在示例性实施例中,如果是对异常交易进行检测,则上述步骤101中可以根据用户和商户之间的交易数据构建连通图集合,该步骤101可以包括如下几个子步骤:
1、获取多条交易数据,每一条交易数据用于表征一个用户和一个商户之间的一次交易行为;
2、根据多条交易数据,构建连通图集合。
可选地,交易数据包括但不限于以下至少一种:交易金额、交易次数和交易自然日数。其中,对于存在交易行为的用户和商户,用户对应的用户结点和商户对应的商户结点之间建立有边,边对应的权重用于指示具有交易行为的用户和商户之间交易的频繁程度。
可选地,权重可以由用户和商户之间的交易金额、交易次数和交易自然日数中的至少一项确定。例如,可以将具有交易行为的用户和商户之间的交易金额,作为对应边的权重;或者,也可以将具有交易行为的用户和商户之间的交易次数,作为对应边的权重;或者,也可以将具有交易行为的用户和商户之间的交易自然日数作为对应边的权重;或者,还可以根据交易次数和交易自然日数,得到具有交易行为的用户和商户之间的交易频率,从而可以将该交易频率作为对应边的权重,等等。
通过上述方式,实现了基于用户和商户之间的交易数据,构建连通图集合,从而能够进一步对该连通图集合进行处理和分析,从中找出存在异常交易的用户和商户。
在示例性实施例中,如果是对恶意刷评进行检测,则上述步骤101中可以根据用户和商户之间的评价数据构建连通图集合,该步骤101可以包括如下几个子步骤:
1、获取多条评价数据,每一条评价数据用于表征一个用户和一个商户之间的一次评价行为;
2、根据多条评价数据,构建连通图集合。
可选地,评价数据包括但不限于以下至少一种:评价字符数、评价次数和评价自然日数。其中,对于存在评价行为的用户和商户,用户对应的用户结点和商户对应的商户结点之间建立有边,边对应的权重用于指示具有评价行为的用户和商户之间评价的频繁程度。
可选地,权重可以由用户和商户之间的评价字符数、评价次数和评价自然日数中的至少一项确定。例如,可以将具有评价行为的用户和商户之间的评价字符数,作为对应边的权重;或者,也可以将具有评价行为的用户和商户之间的评价次数,作为对应边的权重;或者,也可以将具有评价行为的用户和商户之间的评价自然日数作为对应边的权重;或者,还可以根据评价次数和评价自然日数,得到具有评价行为的用户和商户之间的评价频率,从而可以将该评价频率作为对应边的权重,等等。
通过上述方式,实现了基于用户和商户之间的评价数据,构建连通图集合,从而能够进一步对该连通图集合进行处理和分析,从中找出存在恶意刷评的用户和商户。
在示例性实施例中,上述步骤102可以包括:根据n个连通图生成至少一个第一类型的图集合,每个第一类型的图集合中包括的各个连通图的结点数相同,且每个第一类型的图集合中包括的连通图的数量大于第一阈值;和/或,根据n个连通图生成至少一个第二类型的图集合,每个第二类型的图集合中包括的各个连通图的结点数相近,且每个第二类型的图集合中包括的连通图的数量大于第二阈值。
其中,第一类型的图集合可以称为相同图集合,在第一类型的图集合中,任意两个连通图的结点数相同;第二类型的图集合可以称为相似图集合,在第二类型的图集合中,存在至少两个连通图的结点数相近。
可选地,生成至少一个第一类型的图集合,可以包括如下几个子步骤:
1、从n个连通图中找出结点数相同的a个连通图,a为小于或等于n的正整数;
2、设定第一阈值,比较a与第一阈值的大小,若a大于第一阈值,则生成一个包括该a个连通图的第一类型的图集合;
3、重复上述步骤1-2,直到不能再生成新的第一类型的图集合。
当存在多个第一类型的图集合时,各个第一类型的图集合中,包含的连通图的数量可以相同,也可以不同,本申请实施例对此不作限定。
需要说明的是,上述第一阈值可以由相关技术人员根据实际使用需求进行设置,示例性地,第一阈值可以是10、11、12,13、14、15等等,本实施例对此不做限定。
对于不能用于生成上述第一类型的图集合的连通图,可以用于生成至少一个第二类型的图集合,相应地包括如下几个子步骤:
1、将n个连通图中,结点数唯一的连通图,以及连通图数量小于或等于第一阈值的结点数相同的连通图找出,并将找出的连通图按照结点数依次排列;
2、设定第二阈值,依次取前z个结点数,将其对应的连通图生成一个第二类型的图集合,该z个结点数对应的连通图数量之和大于第二阈值,z为正整数;
3、重复上一步,直到不能再生成新的第二类型的图集合。
需要说明的是,上述第二阈值可以由相关技术人员根据实际使用需求进行设置,示例性地,第二阈值可以是10、11、12,13、14、15,本实施例对此不做限定。
请参考图2,在本实施例中,根据n个连通图201生成g个图集合202,g个图集合可以包括第一类型的图集合203和第二类型的图集合204,在各图集合中,找到异常连通图205,根据异常连通图205可以确定异常用户和异常商户206。
在一些其它可能的实施方式中,根据n个连通图生成g个图集合,还可以采用如下步骤实现:
1、将n个连通图按结点数从小到大或从大到小的顺序排列;
2、设定预设值L,任一图集合中的连通图的数量大于或等于L,L为正整数;
3、按排列顺序取前L个连通图生成图集合1,再取剩下连通图中的前L个连通图生成图集合2,以此类推。
通过上述方式,实现了将n个连通图生成g个图集合,对这n个连通图进行了分类,将结点数相同和/或结点数相近的连通图归入同一个图集合中,便于在接下来的步骤中对连通图进行横向比较。
另外,采用上述优先生成第一类型的图集合,再生成第二类型的图集合的方法,使各图集合中的连通图的结点数尽可能地相同或相近,使得各图集合中的连通图互相之间更具有可比性和可参考性。
在示例性实施例中,上述步骤104可以包括如下几个子步骤:
1、确定第i个图集合中的各个连通图的流通量的中位数median(x)。
可选地,获取该中位数median(x)的方法可以是:将第i个图集合中的各个连通图按照流通量从小到大或从大到小的顺序排列,设第i个图集合中的连通图数量为h,若h为奇数,那么median(x)为第[(h+1)/2]个连通图的流通量;若h为偶数,那么median(x)为第(h/2)和第(h/2+1)个连通图的流通量的平均值。
2、分别计算第i个图集合中的各个连通图对应的绝对差值,绝对差值是指连通图的流通量与流通量的中位数之间的差值的绝对值。
可选地,第i个图集合中第j个连通图的流通量为xj,则该第j个连通图对应的绝对差值yj可以表示为:
yj=|xj-median(x)|;
3、确定第i个图集合中的各个连通图对应的绝对差值的中位数,该中位数m可表示为median(yj)。
4、根据绝对差值的中位数以及第i个图集合中的各个连通图对应的绝对差值,计算第i个图集合中的各个连通图的分值,该分值用于指示目标连通图的流通量与第i个图集合中的各个连通图的整体流通量之间的差异程度。
可选地,采用如下公式计算第j个连通图的分值sj:
sj=f×yj/m;
其中,f为预设常数,例如f可以为0.675,也可以为其他值,本申请对此不做限定。
5、将分值大于预设分值的连通图,确定为异常连通图。
该预设分值可以由相关技术人员在实际应用过程中自行设定,本申请实施例对此不作限定。
在上述实现方式中,通过计算各连通图的分值,得到各连通图与其所在图集合中的其他连通图的差异程度,具有普适性,通过差异程度可以很方便地找到异常连通图;在寻找异常连通图时设定了一预设分值,避免了将正常连通图误认为异常连通图,提高检测的准确率。
在示例性实施例中,在上述步骤101之后还可以执行如下步骤,以实现对结构庞大的连通图进行划分:选取连通图集合中的目标连通图,将目标连通图划分为多个连通图。
目标连通图是指结点数大于或等于预设数量的连通图。
需要说明的是,上述预设数量可以由相关技术人员根据实际连通图的结点数情况进行设置,示例性地,预设数量可以是20、21、22、25、30、40,本实施例对此不做限定。
可选地,可以基于louvian算法将目标连通图划分为多个连通图,该方法可以包括以下步骤:
1、对目标连通图的预设社区进行编号。
每一预设社区的编号都不相同,目标连通图中的各结点可以位于任意一个预设社区,预设社区的数量等于目标连通图的结点数量。
2、建立关于该目标连通图的模块度公式。
示例性地,模块度公式可以如下:
其中,Q表示该目标连通图的模块度,m表示该目标连通图中各条边的权重之和,Ade表示该目标连通图中结点d和e之间的权重,kd表示与该目标连通图中的结点d相连的各条边的权重之和,ke表示与该目标连通图中的结点d相连的各条边的权重之和,cd表示该目标连通图中的结点d所在社区,表示该目标连通图中的结点e所在社区。
其中,若cd=ce,则δ=0;若cd≠ce,则δ=1。
3、找出目标连通图的各结点所处社区的各种组合方式,根据模块度公式计算各种组合方式对应的模块度。
将目标连通图的各结点所处社区的各种组合方式的所需数据代入到上述公式一中,计算得到各种组合方式对应的Q的值。
4、找出各种组合方式对应的模块度的最大值,根据最大值对应的组合方式,确定目标连通图的各结点所处社区。
得到该Q的最大值时的各δ的取值,表示目标连通图的各结点是否处于同一个社区。
可选地,若Q有一个以上的最大值,可以选择其中任意一个Q的最大值用于执行此步骤。
5、根据Q的最大值对应的目标连通图的各结点所处的社区,将不在同一个社区的两个结点之间的边断开,得到多个连通图。
在一些其它可能的实施方式中,基于louvian算法将目标连通图划分为多个连通图的方法还可以包括以下步骤:
1、建立关于该目标连通图的模块度公式。
示例性地,模块度公式可以如下:
其中,Q表示该目标连通图的模块度,m表示该目标连通图中各条边的权重之和,Ade表示该目标连通图中结点d和e之间的权重,kd表示与该目标连通图中的结点d相连的各条边的权重之和,ke表示与该目标连通图中的结点d相连的各条边的权重之和。其中,δ用于表示表示目标连通图中各条边所连接的两个结点是否在同一个社区,当结点d和结点e在同一个社区时,δ=1;当结点d和结点e不在同一个社区时,δ=0。
2、找出该目标连通图中各条边是否断开的各个可能性的组合。
对于目标连通图中的各条边,包括断开和不断开两种可能性,也即,对于目标连通图中任一相连的两个结点,包括在同一个社区和不在同一个社区两种可能性,示例性地,若结点d和结点e之间的边不断开,即,结点d和结点e在同一个社区,则δ=1;若结点d和结点e之间的边断开,即,结点d和结点e不在同一个社区,则δ=0。
可选地,采用穷举法,找出该目标连通图中各边状态的各个可能性的组合。
3、将目标连通图中各边状态的各个可能性的组合代入上述模块度公式,直至找到使模块度Q值最小的该目标连通图中各边状态,若δ为1,则表示结点d和结点e在同一社区;若δ为0,则表示结点d和结点e不在同一社区。
4、将没有划分到同一个社区的两个结点之间的边断开,得到多个连通图。
请参考图3,图3是本申请一示例性实施例示出的目标连通图的划分示意图,采用上述方法,如图3所示,可将连通图31划分为连通图32和连通图33。
目标连通图由于结点数较多,且与其结点数相同或相似的连通图数量较少,难以通过直接生成第一类型的图集合或第二类型的图集合进行异常检测,从而难以对一些隐藏在目标连通图中的异常结点进行检测。在上述实现方式中,通过将结点数较多的目标连通图划分成更多连通图,解决了上述问题,从而提升了异常检测的全面性,尽可能地减少遗漏。
在示例性实施例中,还可以通过如下方式对目标连通图中的异常结点进行检测,包括如下几个步骤:
1、对于连通图集合中的目标连通图,生成目标连通图对应的边集合,目标连通图是指结点数大于等于预设数量的连通图。
可选地,可以由目标连通图中包括的各条边生成该目标连通图的对应边集合,该边集合中的各条边在该边集合中独立存在,不与其他边相连。
2、计算边集合中的各条边的流通量。
可选地,将边的权重作为该边的流通量。
3、根据边集合中的各条边的流通量,确定边集合中的异常边。
根据边的流通量确定异常边的方式,与上文实施例中介绍的根据连通图的流通量确定异常连通图的方式相类似,可参见上文实施例中的介绍说明,此处不再赘述。
4、根据异常边,确定异常用户和/或异常商户。
可选地,枚举异常边连接的各结点作为异常点,将各个异常结点对应的用户或商户作为异常用户或异常商户。
在上述实现方式中,将目标连通图的各条边的流通量与该连通图中的其他边的流通量进行横向比较,可以确定出异常边,从而确定异常用户或异常商户,解决目标连通图难以进行异常检测的问题。
下述为本申请装置实施例,可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节,请参照本申请方法实施例。
请参考图4,其示出了本申请一个实施例提供的异常检测装置的框图。该装置具有实现上述方法示例的功能,所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该装置可以是上文介绍的计算机设备,也可以设置在计算机设备中。如图4所示,该装置400可以包括:连通图构建模块410、图集合生成模块420、流通量计算模块430、异常图确定模块440和异常者确定模块450。
连通图构建模块410,用于构建连通图集合,连通图集合包括n个连通图,每个连通图包括至少一个用户结点和至少一个商户结点,其中,连接用户结点和商户结点的边,用于表示用户结点对应的用户与商户结点对应的商户之间具有关联关系,n为大于1的整数。
图集合生成模块420,用于根据n个连通图生成g个图集合,每个图集合中包括结点数满足预设条件的多个连通图,g为正整数。
流通量计算模块430,用于对于g个图集合中的第i个图集合,计算第i个图集合中的各个连通图的流通量,流通量用于指示连通图中的用户与商户之间交互的频繁程度,i为小于或等于g的正整数。
异常图确定模块440,用于根据第i个图集合中的各个连通图的流通量,确定第i个图集合中的异常连通图。
异常者确定模块450,用于根据异常连通图,确定异常用户和/或异常商户。
综上所述,本申请实施例提供的技术方案中,通过构建连通图集合,根据该连通图集合中包含的各个连通图,生成若干个图集合,对于任意一个图集合,通过计算该图集合中的各个连通图的流通量,据此对各个连通图进行横向对比,从中确定出异常连通图,进而根据异常连通图确定异常用户和/或异常商户。由于本申请实施例提供的技术方案是通过结点数相同或相近的多个连通图的横向对比来进行异常检测的,任一连通图无需包含大量标签数据,可以有效地对标签数据较少的稀疏图进行异常检测,准确率较高,简单高效,实用性和适用性强。
在示例性实施例中,如图5所示,该异常图确定模块440,包括:分值计算子模块441和异常图确定子模块442。
分值计算子模块441,用于根据第i个图集合中的各个连通图的流通量,计算第i个图集合中的各个连通图的分值,其中,第i个图集合中的目标连通图的分值,用于指示目标连通图的流通量与第i个图集合中的各个连通图的整体流通量之间的差异程度。
异常图确定子模块442,用于将分值大于预设分值的连通图,确定为异常连通图。
在示例性实施例中,如图5所示,该分值计算子模块441,用于:
确定第i个图集合中的各个连通图的流通量的中位数;
分别计算第i个图集合中的各个连通图对应的绝对差值,绝对差值是指连通图的流通量与流通量的中位数之间的差值的绝对值;
确定第i个图集合中的各个连通图对应的绝对差值的中位数;
根据绝对差值的中位数以及第i个图集合中的各个连通图对应的绝对差值,计算第i个图集合中的各个连通图的分值。
在示例性实施例中,如图5所示,该图集合生成模块420,包括:第一图集合生成模块和/或第二图集合生成模块。
第一图集合生成模块,用于生成至少一个第一类型的图集合,每个第一类型的图集合中包括的各个连通图的结点数相同,且每个第一类型的图集合中包括的连通图的数量大于第一阈值。
第二图集合生成模块,用于生成至少一个第二类型的图集合,每个第二类型的图集合中包括的各个连通图的结点数相近,且每个第二类型的图集合中包括的连通图的数量大于第二阈值。
在示例性实施例中,所述第一图集合生成模块,用于:
从n个连通图中找出结点数相同的a个连通图,a为小于或等于n的正整数;
设定第一阈值,比较a与第一阈值的大小,若a大于第一阈值,则生成一个包括该a个连通图的第一类型的图集合;
重复上述步骤,直到不能再生成新的第一类型的图集合。
在示例性实施例中,所述第二图集合生成模块,用于:
将n个连通图中,结点数唯一的连通图,以及连通图数量小于或等于第一阈值的结点数相同的连通图找出,并将找出的连通图按照结点数依次排列;
设定第二阈值,依次取前z个结点数,将其对应的连通图生成一个第二类型的图集合,该z个结点数对应的连通图数量之和大于第二阈值,z为正整数;
重复上一步,直到不能再生成新的第二类型的图集合。
在示例性实施例中,如图5所示,该流通量计算模块430,用于:
对于第i个图集合中的第j个连通图,计算第j个连通图的各条边对应的权重之和,得到第j个连通图的流通量,j为正整数;
其中,权重用于指示具有关联关系的用户和商户之间交互的频繁程度。
在示例性实施例中,如图5所示,该连通图构建模块410,用于:
获取多条交易数据,每一条交易数据用于表征一个用户和一个商户之间的一次交易行为;
根据多条交易数据,构建连通图集合;
其中,对于存在交易行为的用户和商户,用户对应的用户结点和商户对应的商户结点之间建立有边,边对应的权重用于指示具有交易行为的用户和商户之间交易的频繁程度。
在示例性实施例中,如图5所示,该连通图构建模块410,用于:
获取多条评价数据,每一条评价数据用于表征一个用户和一个商户之间的一次评价行为;
根据多条评价数据,构建连通图集合;
其中,对于存在评价行为的用户和商户,用户对应的用户结点和商户对应的商户结点之间建立有边,边对应的权重用于指示具有评价行为的用户和商户之间评价的频繁程度。
在示例性实施例中,如图5所示,该装置400还包括:连通图选取模块411和连通图划分模块412。
连通图选取模块411,用于选取连通图集合中的目标连通图,目标连通图是指结点数大于等于预设数量的连通图。
连通图划分模块412,用于将目标连通图划分为多个连通图。
在示例性实施例中,如图5所示,该连通图划分模块412,用于:
对目标连通图的预设社区进行编号;
建立关于目标连通图的模块度公式;
找出目标连通图的各结点所处社区的各种组合方式,根据模块度公式计算各种组合方式对应的模块度;
找出各种组合方式对应的模块度的最大值;
根据最大值对应的组合方式,确定目标连通图的各结点所处社区;
根据目标连通图的各结点所处社区,将没有划分到同一个社区的两个结点之间的边断开,得到多个连通图。
在示例性实施例中,该装置400还包括:边集合生成模块(图中未示出)。
边集合生成模块,用于对于连通图集合中的目标连通图,生成目标连通图对应的边集合,目标连通图是指结点数大于等于预设数量的连通图。
流通量计算模块430,还用于计算边集合中的各条边的流通量。
异常图确定模块440,还用于根据边集合中的各条边的流通量,确定边集合中的异常边。
异常者确定模块450,还用于根据异常边,确定异常用户和/或异常商户。
需要说明的是,上述实施例提供的装置,在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置与方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
请参考图6,其示出了本申请一个实施例提供的计算机设备的结构框图。该计算机设备用于实施上述实施例中提供的异常检测方法。具体来讲:
计算机设备600包括中央处理单元(CPU)601、包括随机存取存储器(RAM)602和只读存储器(ROM)603的系统存储器604,以及连接系统存储器604和中央处理单元601的系统总线605。计算机设备600还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(I/O系统)606,和用于存储操作系统613、应用程序614和其他程序模块612的大容量存储设备607。
基本输入/输出系统606包括有用于显示信息的显示器608和用于用户输入信息的诸如鼠标、键盘之类的输入设备609。其中显示器608和输入设备609都通过连接到系统总线605的输入输出控制器610连接到中央处理单元601。基本输入/输出系统606还可以包括输入输出控制器610以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。类似地,输入输出控制器610还提供输出到显示屏、打印机或其他类型的输出设备。
大容量存储设备607通过连接到系统总线605的大容量存储控制器(未示出)连接到中央处理单元601。大容量存储设备607及其相关联的计算机可读介质为计算机设备600提供非易失性存储。也就是说,大容量存储设备607可以包括诸如硬盘或者CD-ROM驱动器之类的计算机可读介质(未示出)。
不失一般性,计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM、EEPROM、闪存或其他固态存储其技术,CD-ROM、DVD或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知计算机存储介质不局限于上述几种。上述的系统存储器604和大容量存储设备607可以统称为存储器。
根据本申请的各种实施例,计算机设备600还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即计算机设备600可以通过连接在系统总线605上的网络接口单元66连接到网络612,或者说,也可以使用网络接口单元611来连接到其他类型的网络或远程计算机系统(未示出)。
所述存储器还包括计算机程序,该计算机程序存储于存储器中,且经配置以由一个或者一个以上处理器执行,以实现上述异常检测方法。
在示例性实施例中,还提供了一种计算机可读存储介质,所述存储介质中存储有计算机程序,所述计算机程序在被处理器执行时以实现上述异常检测方法。
在示例性实施例中,还提供了一种计算机程序产品,当该计算机程序产品被处理器执行时,其用于实现上述异常检测方法。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。另外,本文中描述的步骤编号,仅示例性示出了步骤间的一种可能的执行先后顺序,在一些其它实施例中,上述步骤也可以不按照编号顺序来执行,如两个不同编号的步骤同时执行,或者两个不同编号的步骤按照与图示相反的顺序执行,本申请实施例对此不作限定。
以上仅为本申请的示例性实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (14)
1.一种异常检测方法,其特征在于,所述方法包括:
构建连通图集合,所述连通图集合包括n个连通图,每个连通图包括至少一个用户结点和至少一个商户结点,其中,连接所述用户结点和所述商户结点的边,用于表示所述用户结点对应的用户与所述商户结点对应的商户之间具有关联关系,所述n为大于1的整数;
根据所述n个连通图生成g个图集合,每个图集合中包括结点数满足预设条件的多个连通图,所述g为正整数;
对于所述g个图集合中的第i个图集合,计算所述第i个图集合中的各个连通图的流通量,所述流通量用于指示所述连通图中的用户与商户之间交互的频繁程度,所述i为小于或等于所述g的正整数;
根据所述第i个图集合中的各个连通图的流通量,确定所述第i个图集合中的异常连通图;
根据所述异常连通图,确定异常用户和/或异常商户。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第i个图集合中的各个连通图的流通量,确定所述第i个图集合中的异常连通图,包括:
根据所述第i个图集合中的各个连通图的流通量,计算所述第i个图集合中的各个连通图的分值,其中,所述第i个图集合中的目标连通图的分值,用于指示所述目标连通图的流通量与所述第i个图集合中的各个连通图的整体流通量之间的差异程度;
将所述分值大于预设分值的连通图,确定为所述异常连通图。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第i个图集合中的各个连通图的流通量,计算所述第i个图集合中的各个连通图的分值,包括:
确定所述第i个图集合中的各个连通图的流通量的中位数;
分别计算所述第i个图集合中的各个连通图对应的绝对差值,所述绝对差值是指所述连通图的流通量与所述流通量的中位数之间的差值的绝对值;
确定所述第i个图集合中的各个连通图对应的绝对差值的中位数;
根据所述绝对差值的中位数以及所述第i个图集合中的各个连通图对应的绝对差值,计算所述第i个图集合中的各个连通图的分值。
4.根据权利要求1所述的方法,其特征在于,所述根据所述n个连通图生成g个图集合,包括:
生成至少一个第一类型的图集合,每个第一类型的图集合中包括的各个连通图的结点数相同,且每个第一类型的图集合中包括的连通图的数量大于第一阈值;
和/或,
生成至少一个第二类型的图集合,每个第二类型的图集合中包括的各个连通图的结点数相近,且每个第二类型的图集合中包括的连通图的数量大于第二阈值。
5.根据权利要求4所述的方法,其特征在于,所述生成至少一个第二类型的图集合,包括:
将所述n个连通图中,结点数唯一的连通图,以及连通图数量小于或等于第一阈值的结点数相同的连通图找出,并将找出的连通图按照结点数依次排列;
设定第二阈值,依次取前z个结点数,将其对应的连通图生成一个第二类型的图集合,所述z个结点数对应的连通图数量之和大于第二阈值,z为正整数;
重复上一步,直到不能再生成新的第二类型的图集合。
6.根据权利要求1所述的方法,其特征在于,所述计算所述第i个图集合中的各个连通图的流通量,包括:
对于所述第i个图集合中的第j个连通图,计算所述第j个连通图的各条边对应的权重之和,得到所述第j个连通图的流通量,所述j为正整数;
其中,所述权重用于指示具有所述关联关系的用户和商户之间交互的频繁程度。
7.根据权利要求1至6任一项所述的方法,其特征在于,所述构建连通图集合,包括:
获取多条交易数据,每一条交易数据用于表征一个用户和一个商户之间的一次交易行为;
根据所述多条交易数据,构建所述连通图集合;
其中,对于存在所述交易行为的用户和商户,所述用户对应的用户结点和所述商户对应的商户结点之间建立有边,所述边对应的权重用于指示具有所述交易行为的用户和商户之间交易的频繁程度。
8.根据权利要求1至6任一项所述的方法,其特征在于,所述构建连通图集合,包括:
获取多条评价数据,每一条评价数据用于表征一个用户和一个商户之间的一次评价行为;
根据所述多条评价数据,构建所述连通图集合;
其中,对于存在所述评价行为的用户和商户,所述用户对应的用户结点和所述商户对应的商户结点之间建立有边,所述边对应的权重用于指示具有所述评价行为的用户和商户之间评价的频繁程度。
9.根据权利要求1至6任一项所述的方法,其特征在于,所述构建连通图集合之后,还包括:
选取所述连通图集合中的目标连通图,所述目标连通图是指结点数大于等于预设数量的连通图;
将所述目标连通图划分为多个连通图。
10.根据权利要求9所述的方法,其特征在于,所述将所述目标连通图划分为多个连通图,包括:
对所述目标连通图的预设社区进行编号;
建立关于所述目标连通图的模块度公式;
找出所述目标连通图的各结点所处社区的各种组合方式,根据所述模块度公式计算所述各种组合方式对应的模块度;
找出所述各种组合方式对应的模块度的最大值;
根据所述最大值对应的组合方式,确定所述目标连通图的各结点所处社区;
根据所述目标连通图的各结点所处社区,将没有划分到同一个社区的两个结点之间的边断开,得到多个连通图。
11.根据权利要求1至6任一项所述的方法,其特征在于,所述构建连通图集合之后,还包括:
对于所述连通图集合中的目标连通图,生成所述目标连通图对应的边集合,所述目标连通图是指结点数大于等于预设数量的连通图;
计算所述边集合中的各条边的流通量;
根据所述边集合中的各条边的流通量,确定所述边集合中的异常边;
根据所述异常边,确定所述异常用户和/或所述异常商户。
12.一种异常检测装置,其特征在于,所述装置包括:
连通图构建模块,用于构建连通图集合,所述连通图集合包括n个连通图,每个连通图包括至少一个用户结点和至少一个商户结点,其中,连接所述用户结点和所述商户结点的边,用于表示所述用户结点对应的用户与所述商户结点对应的商户之间具有关联关系,所述n为大于1的整数;
图集合生成模块,用于根据所述n个连通图生成g个图集合,每个图集合中包括结点数满足预设条件的多个连通图,所述g为正整数;
流通量计算模块,用于对于所述g个图集合中的第i个图集合,计算所述第i个图集合中的各个连通图的流通量,所述流通量用于指示所述连通图中的用户与商户之间交互的频繁程度,所述i为小于或等于所述g的正整数;
异常图确定模块,用于根据所述第i个图集合中的各个连通图的流通量,确定所述第i个图集合中的异常连通图;
异常者确定模块,用于根据所述异常连通图,确定异常用户和/或异常商户。
13.一种计算机设备,其特征在于,所述计算机设备包括处理器和存储器,所述存储器中存储有计算机程序,所述计算机程序由所述处理器加载并执行以实现如权利要求1至11任一项所述的异常检测方法。
14.一种计算机可读存储介质,其特征在于,所述存储介质中存储有计算机程序,所述计算机程序由处理器加载并执行以实现如权利要求1至11任一项所述的异常检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910782984.6A CN110490598A (zh) | 2019-08-23 | 2019-08-23 | 异常检测方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910782984.6A CN110490598A (zh) | 2019-08-23 | 2019-08-23 | 异常检测方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110490598A true CN110490598A (zh) | 2019-11-22 |
Family
ID=68553133
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910782984.6A Pending CN110490598A (zh) | 2019-08-23 | 2019-08-23 | 异常检测方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110490598A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111292090A (zh) * | 2020-02-19 | 2020-06-16 | 京东数字科技控股有限公司 | 用于检测异常账号的方法和装置 |
CN111984698A (zh) * | 2020-08-07 | 2020-11-24 | 北京芯盾时代科技有限公司 | 一种信息预测方法、装置及存储介质 |
-
2019
- 2019-08-23 CN CN201910782984.6A patent/CN110490598A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111292090A (zh) * | 2020-02-19 | 2020-06-16 | 京东数字科技控股有限公司 | 用于检测异常账号的方法和装置 |
CN111984698A (zh) * | 2020-08-07 | 2020-11-24 | 北京芯盾时代科技有限公司 | 一种信息预测方法、装置及存储介质 |
CN111984698B (zh) * | 2020-08-07 | 2021-03-19 | 北京芯盾时代科技有限公司 | 一种信息预测方法、装置及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112766500B (zh) | 图神经网络的训练方法及装置 | |
Zhou et al. | A two-phase multiobjective evolutionary algorithm for enhancing the robustness of scale-free networks against multiple malicious attacks | |
JP6199812B2 (ja) | 明示的に表されたグラフで並列探索を行うシステムおよび方法 | |
US20140143110A1 (en) | Circular Transaction Path Detection | |
CN111046429B (zh) | 基于隐私保护的关系网络构建方法及装置 | |
KR20110131094A (ko) | 정보 네트워크 내의 커뮤니티를 식별하는 방법 및 시스템 | |
CN112396189A (zh) | 一种多方构建联邦学习模型的方法及装置 | |
CN110555172B (zh) | 用户关系挖掘方法及装置、电子设备和存储介质 | |
Tran et al. | Community detection in partially observable social networks | |
CN113010896B (zh) | 确定异常对象的方法、装置、设备、介质和程序产品 | |
CN105335368B (zh) | 一种产品聚类方法及装置 | |
CN107291760A (zh) | 无监督的特征选择方法、装置 | |
Patro et al. | Predicting protein interactions via parsimonious network history inference | |
CN108985954A (zh) | 一种建立各标识的关联关系的方法以及相关设备 | |
Dey et al. | Influence maximization in online social network using different centrality measures as seed node of information propagation | |
CN110490598A (zh) | 异常检测方法、装置、设备及存储介质 | |
CN112329895A (zh) | 一种具有窃电嫌疑的用户的识别方法及装置 | |
CN110032603A (zh) | 一种对关系网络图中的节点进行聚类的方法及装置 | |
CN104158748A (zh) | 一种面向云计算网络的拓扑探测方法 | |
Saravanan et al. | A graph-based churn prediction model for mobile telecom networks | |
CN110930090A (zh) | 基于人工智能和区块链的电商大数据物流供应链控制系统 | |
CN113609345A (zh) | 目标对象关联方法和装置、计算设备以及存储介质 | |
CN109213801A (zh) | 基于关联关系的数据挖掘方法和装置 | |
CN115660540B (zh) | 货物跟踪方法、装置、计算机设备和存储介质 | |
CN111445255A (zh) | 异常资金转移关系的确定方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |