CN110781655B - 标题列的数据采集方法、装置、计算机设备及存储介质 - Google Patents
标题列的数据采集方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN110781655B CN110781655B CN201911037685.6A CN201911037685A CN110781655B CN 110781655 B CN110781655 B CN 110781655B CN 201911037685 A CN201911037685 A CN 201911037685A CN 110781655 B CN110781655 B CN 110781655B
- Authority
- CN
- China
- Prior art keywords
- field
- column
- header
- field value
- title
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/957—Browsing optimisation, e.g. caching or content distillation
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了标题列的数据采集方法、装置、计算机设备及存储介质,涉及网页表格数据采集领域。该方法包括:定位到网页中的目标表格;对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录。该方法能够针对基于标题列样式所展示的表格进行自动采集,无需人工编排,操作简单,不易出错,并且能够动态适应标题字段的新增、删减、位置变化。
Description
技术领域
本发明涉及网页表格数据采集领域,尤其涉及标题列的数据采集方法、装置、计算机设备及存储介质。
背景技术
现有技术中,一般对于网页表格数据的采集,都需要根据具体表格的展示样式对字段逐一采集,依赖于每一个字段在网页中的具体位置,这种采集方法操作繁琐、容易出错,且无法动态适应网页元素的位置变化,假如位置发生变化则需要同步修改程序。
发明内容
本发明实施例提供了标题列的数据采集方法、装置、计算机设备及存储介质,旨在解决现有网页表格数据采集方法操作繁琐容易出错、且无法动态适应网页元素位置变化的问题。
本发明实施例提供一种基于标题列的网页表格数据采集方法,其包括:
定位到网页中的目标表格;
对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;
按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
将每一标题列的记录进行组合生成记录集,输出所述记录集。
优选的,所述定位到网页中的目标表格,包括:
采用预设的定位表达式对网页中的目标表格进行定位。
优选的,采用预设的定位表达式对网页中的目标表格进行定位,包括:
使用元素id、表类、正文、相对路径或绝对路径中的一种或几种条件进行定位。
优选的,还包括:
当目标表格的标题字段发生变化时,重新对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;
重新按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
重新按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
将每一标题列的记录进行组合生成记录集,输出所述记录集。
优选的,所述对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,包括:
按照从左至右的顺序对所述目标表格进行分解;
先获取标题字段列,然后获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列;
将所述标题字段列与所述字段值列进行组合,构成组合列。
优选的,所述先获取标题字段列,然后获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列,包括:
先获取标题字段列;
再获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列的数量;
若获取到的字段值列有多个,则分解出多个字段值列;
将所述标题字段列与所述多个字段值列进行组合,构成组合列。
优选的,所述表格为行列整齐的标准表格。
本发明实施例还提供一种基于标题列的网页表格数据采集装置,其包括:
定位单元,用于定位到网页中的目标表格;
分解重组单元,用于对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;
标题字段读取单元,用于按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
字段值读取单元,用于按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
组合输出单元,用于将每一标题列的记录进行组合生成记录集,输出所述记录集。
本发明实施例还提供一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述的基于标题列的网页表格数据采集方法。
本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行如上所述的基于标题列的网页表格数据采集方法。
本发明实施例提供了标题列的数据采集方法、装置、计算机设备及存储介质,方法包括:定位到网页中的目标表格;对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;将每一标题列的记录进行组合生成记录集,输出所述记录集。该方法能够针对基于标题列样式所展示的表格进行自动采集,无需人工编排,操作简单,不易出错,并且能够动态适应标题字段的新增、删减、位置变化。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的标题列的数据采集方法的流程示意图;
图2为本发明实施例提供的标题列的数据采集装置的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
请参阅图1,图1为本发明实施例提供的一种基于标题列的网页表格数据采集方法的流程示意图,该方法可以包括步骤S101~S105:
S101、定位到网页中的目标表格;
首先确定需要进行数据采集的目标表格,然后定位到网页中的目标表格。以便对该目标表格进行数据采集。
在一实施例中,所述定位到网页中的目标表格,包括:
采用预设的定位表达式对网页中的目标表格进行定位。
目标表格的定位方式可以是多种方式,本发明实施例可以预先设置好定位表达式,然后根据定位表达式来对目标表格进行定位。
本实施例中的定位表达式的作用不仅是对目标表格整体进行定位,同样包含对目标表格中的各个元素进行定位,以便采集表格中的数据。
在一实施例中,采用预设的定位表达式对网页中的目标表格进行定位,包括:
使用元素id、表类、正文、相对路径或绝对路径中的一种或几种条件进行定位。
具体地,可以使用元素id或正文来定位目标表格中的元素,使用表类来定位目标表格,使用相对路径或绝对路径来定位目标表格或目标表格中的元素。
S102、对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;
本步骤是对目标表格进行分解,由于本发明实施例是对基于标题列的网页表格进行数据采集,即目标表格中的的标题字段是以列的形式进行展示,而对于这种目标表格,一般来说可能具有多列标题字段,所以本实施例可以先对目标表格进行分解,获取各个标题字段列以及与标题字段列相邻且匹配的字段值列构成的组合列。即将目标表格分解成多个组合列,每一组合列均包含标题字段列以及匹配的字段值列。
在一具体应用场景中,本发明实施例对分解得到的各个组合列按照其在目标表格的顺序进行依次排列,方便后续进行配对和组合,避免出现错误。
其中的标题字段列是指目标表格中专门用来放置标题字段的列。其中的字段值列是指目标表格中专门用来放置字段值的列。
在一实施例中,所述步骤S102包括步骤S201~S203:
S201、按照从左至右的顺序对所述目标表格进行分解;
S202、先获取出标题字段列,然后获取出与所述标题字段列相邻且位于所述标题字段列右侧的字段值列;
S203、将所述标题字段列与所述字段值列进行组合,构成组合列。
在步骤S201中,先按照从左至右的顺序对目标表格进行分解,从而使目标表格分解成多个单独的列。在步骤S202中,可以先获取分解出的标题字段列,然后获取分解出的字段值列,并且所获取的字段值列是与前述的标题字段列是相邻的,并且字段值列位于前述的标题字段列的右侧,这样字段值列的内容就是与标题字段列对应的。所以在步骤S203中,可以最终将二者进行组合,构成组合列。
在一实施例中,所述步骤S202包括步骤S301~S304:
S301、先获取出标题字段列;
S302、再获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列的数量;
S303、若获取到的字段值列有多个,则分解出多个字段值列;
S304、将所述标题字段列与所述多个字段值列进行组合,构成组合列。
上述实施例是针对前述实施例的进一步优化,在获取标题字段列之后,可以获取与该标题字段列相邻且位于所述标题字段列右侧的字段值列的数量。也就是说,一个标题字段列的右侧可能会设置有多个字段值列,这在一些基于标题列的网页表格中也是会出现的,所以可先获取这种情况下的字段值列的数量,然后根据该数量分解出多个字段值列,也就是获取满足上述条件的全部字段值列,最后将该标题字段列与这些字段值列进行组合,构成组合列。在这种组合列中会包含一个标题字段列和多个字段值列。
S103、按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
本步骤是在获取到组合列之后,按照从上至下的顺序逐行读取标题字段列的标题字段,从而得到多个标题字段,然后将读取到的标题字段按顺序进行组合,其中的顺序即为读取顺序,这样可以构成一个由标题字段组成的集合,即标题字段集。
S104、按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
本步骤是在获取到组合列之后,按照从上至下的顺序逐行读取字段值列的字段值,从而得到多个字段值,然后将读取到的标题字段与前面读取到的标题字段进行配对,从而形成标题列的记录。需说明的是,在进行配对时,应严格按照之前的读取顺序进行配对,即第一行的标题字段与第一行的字段值进行配对,第二行的标题字段与第二行的字段值进行配对,以此类推。
当然也可以将读取到的字段值按照读取顺序进行组合得到字段值集,再逐个将标题字段集中的每个标题字段与字段值集中的字段值进行配对,从而形成标题列的记录。
S105、将每一标题列的记录进行组合生成记录集,输出所述记录集。
按照上述方式可以得到多个标题列的记录,然后将所有标题列的记录进行组合即可得到记录集,然后输出即可。
在一实施例中,所述基于标题列的网页表格数据采集方法还包括:
当目标表格的标题字段发生变化时,重新对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;
重新按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
重新按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
将每一标题列的记录进行组合生成记录集,输出所述记录集。
本实施例中,当目标表格的标题字段发生变化,例如某一标题字段的内容发生变化,或者新增了某一标题字段,或者减少了某一标题字段,在这些情况下,都需要重新对目标表格进行分解得到组合列,以及重新读取组合列中标题字段列的标题字段和重新读取组合列中字段值列的字段值,并且重新进行配对,以及重新进行组合输出。
也就是说,本发明实施例的数据读取和采集方式是动态调整的,其并不会严格按照某一目标表格的格式进行读取,这样可以提高本发明实施例的方法通用性。
在一实施例中,所述目标表格为行列整齐的标准表格。本发明实施例更适合于这种行列整齐的标准表格,以提高准确率和效率。对于不规则的表格,则需要根据表格的特点专门设置配对方式。
本发明实施例中,一张目标表格中的数据将会被生成一个记录集,该目标表格中一个组合列的每一字段值都会与相应的标题字段配对生成记录,各个记录形成的集合即成为所述记录集。
本发明实施例中,还可以对所述记录进行分析,以便对记录集中的各条记录的情况进行初步的说明,方便后续调用该记录集的调用方对记录的内容有初步的了解。
具体的,可以获取与标题字段配对的字段值的类型,例如字段值的类型为数值,那么可以对各记录中在同一标题字段下字段值的数值进行比较,并将其中最大的字段值进行标记,标记的方式可以是将该字段值进行突出显示,例如标记为黄色,或者加粗显示,或者加下划线显示。也可以将其中最小的字段值进行标记,标记的方式也可以是将该字段值进行突出显示,例如标记为红色,或者加粗显示,或者加下划线显示。这样在某一标题字段下,可以快速地从各条记录中找到具有最大的字段值和最小的字段值的记录。
另外也可以在该字段值的侧边增加一个提示字符,例如提示字符为“最大”或“最小”,这样可以更明显的提示该字段值的特点。当然为了避免提示字符与原始的字段值无法区分,可以对该提示字符进行专门的设置,例如将提示字符设置在对应字段值的左上方,从而使提示字符作为上标的形式显示于字段值的左上方,提示该字段值的特点。另外在将提示字符作为上标的形式时,还可将提示字符加上双引号,以便与字段值区分的更明显。
还可将提示字符的方案与对字段值进行突出显示的方式进行结合使用,这样可以使提示更加明显。
假如字段值的类型为时间,那么可以对各记录中在同一标题字段下字段值的时间进行比较,并将其中最新的字段值进行标记,标记的方式可以是将该字段值进行突出显示,例如标记为黄色,或者加粗显示,或者加下划线显示。也可以将其中最旧的字段值进行标记,标记的方式也可以是将该字段值进行突出显示,例如标记为红色,或者加粗显示,或者加下划线显示。这样在某一标题字段下,可以快速地从各条记录中找到具有最新的字段值和最旧的字段值的记录。
另外也可以在该字段值的侧边增加一个提示字符,例如提示字符为“最新”或“最旧”,这样可以更明显的提示该字段值的特点。当然为了避免提示字符与原始的字段值无法区分,可以对该提示字符进行专门的设置,例如将提示字符设置在对应字段值的左上方,从而使提示字符作为上标的形式显示于字段值的左上方,提示该字段值的特点。另外在将提示字符作为上标的形式时,还可将提示字符加上双引号,以便与字段值区分的更明显。
还可将提示字符的方案与对字段值进行突出显示的方式进行结合使用,这样可以使提示更加明显。
假如字段值的类型为文件,那么可以获取各记录中在同一标题字段下字段值的文件类型,然后在该字段值的侧边增加一个提示字符,例如提示字符为“图片”、“文档”、“音频”或“视频”,这样可以更明显的提示该字段值的特点。当然为了避免提示字符与原始的字段值无法区分,可以对该提示字符进行专门的设置,例如将提示字符设置在对应字段值的左上方,从而使提示字符作为上标的形式显示于字段值的左上方,提示该字段值的特点。另外在将提示字符作为上标的形式时,还可将提示字符加上双引号,以便与字段值区分的更明显。
诸如此类,还可以根据字段值的特点,进行其他方式的设置,以便在获取这样的记录集后,能对记录集的内容一目了然。
进一步的,还可在每条记录的开始位置标识该记录在记录集中所处的位置以及记录集中记录的总条数,这样调用该记录集时,就能知道该记录集一共有多少条记录,并且每一条记录位于该记录集的哪一位置,例如该位置可以用该记录在记录集的排序来表示,如某记录排在记录集中的第一的位置,而该记录集一共有一百条记录,那么可将该记录的开始位置标记上“第一条,共一百条”的标识。
另外,当目标表格更新时,还可以针对目标表格更新的内容,对记录集的内容进行更新,例如目标表格中字段值发生了变化,则可以对对应记录中的字段值进行同步修改。又或者目标表格中增加了标题字段和对应的字段值,那么可以对记录集中每条记录增加标题字段,同时增加匹配的字段值。又或者目标表格中减少了标题字段和对应的字段值,那么可以对记录集中每条记录中对应标题字段进行删除,同时删除匹配的字段值。这样就可以利用一个记录集实时管理目标表格中的数据变化,以便调用方能够获得最新的信息。
请参阅图2,图2为本发明实施例提供的一种基于标题列的网页表格数据采集装置的示意性框图,该装置200可以包括:
定位单元201,用于定位到网页中的目标表格;
分解重组单元202,用于对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;
标题字段读取单元203,用于按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
字段值读取单元204,用于按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
组合输出单元205,用于将每一标题列的记录进行组合生成记录集,输出所述记录集。
本发明实施例还提供一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述的基于标题列的网页表格数据采集方法。
本发明实施例还一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行如上所述的基于标题列的网页表格数据采集方法。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的设备、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为逻辑功能划分,实际实现时可以有另外的划分方式,也可以将具有相同功能的单元集合成一个单元,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接,也可以是电的,机械的或其它的形式连接。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (7)
1.一种基于标题列的网页表格数据采集方法,其特征在于,包括:
定位到网页中的目标表格;
对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列并按组合列在目标表格的顺序进行依次排列,所述组合列设置有多个;
按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
将每一标题列的记录进行组合生成记录集,输出所述记录集;对于所述记录集,获取与标题字段配对的字段值的类型,如果字段值的类型为数值,则对各记录中在同一标题字段下字段值的数值进行比较,并将其中最大的字段值和最小的字段值进行标记,标记的方式是将该字段值进行突出显示,并在该字段值的侧边增加一个提示字符;如果字段值的类型为时间,则对各记录中在同一标题字段下字段值的时间进行比较,并将其中最新的字段值和最旧的字段值进行标记,标记的方式是将该字段值进行突出显示,并在该字段值的侧边增加一个提示字符;如果字段值的类型为文件,则获取各记录中在同一标题字段下字段值的文件类型,并在该字段值的侧边增加一个提示字符;以及在每条记录的开始位置标识该记录在记录集中所处的位置以及记录集中记录的总条数;
当目标表格的标题字段发生变化时,重新对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;重新按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;重新按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;将每一标题列的记录进行组合生成记录集,输出所述记录集;
所述对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,包括:按照从左至右的顺序对所述目标表格进行分解;先获取标题字段列,然后获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列;将所述标题字段列与所述字段值列进行组合,构成组合列;
所述先获取标题字段列,然后获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列,包括:先获取标题字段列;再获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列的数量;若获取到的字段值列有多个,则分解出多个字段值列;将所述标题字段列与所述多个字段值列进行组合,构成组合列。
2.根据权利要求1所述的基于标题列的网页表格数据采集方法,其特征在于,所述定位到网页中的目标表格,包括:
采用预设的定位表达式对网页中的目标表格进行定位。
3.根据权利要求2所述的基于标题列的网页表格数据采集方法,其特征在于,采用预设的定位表达式对网页中的目标表格进行定位,包括:
使用元素id、表类、正文、相对路径或绝对路径中的一种或几种条件进行定位。
4.根据权利要求1所述的基于标题列的网页表格数据采集方法,其特征在于,所述目标表格为行列整齐的标准表格。
5.一种基于标题列的网页表格数据采集装置,其特征在于,包括:
定位单元,用于定位到网页中的目标表格;
分解重组单元,用于对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;
标题字段读取单元,用于按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;
字段值读取单元,用于按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;
组合输出单元,用于将每一标题列的记录进行组合生成记录集,输出所述记录集;对于所述记录集,获取与标题字段配对的字段值的类型,如果字段值的类型为数值,则对各记录中在同一标题字段下字段值的数值进行比较,并将其中最大的字段值和最小的字段值进行标记,标记的方式是将该字段值进行突出显示,并在该字段值的侧边增加一个提示字符;如果字段值的类型为时间,则对各记录中在同一标题字段下字段值的时间进行比较,并将其中最新的字段值和最旧的字段值进行标记,标记的方式是将该字段值进行突出显示,并在该字段值的侧边增加一个提示字符;如果字段值的类型为文件,则获取各记录中在同一标题字段下字段值的文件类型,并在该字段值的侧边增加一个提示字符;以及在每条记录的开始位置标识该记录在记录集中所处的位置以及记录集中记录的总条数;
当目标表格的标题字段发生变化时,重新对目标表格进行分解,获取标题字段列和与标题字段列相邻且匹配的字段值列构成的组合列,所述组合列设置有多个;重新按照从上至下的顺序逐行读取组合列中标题字段列的标题字段,将读取到的标题字段按读取顺序进行组合构成标题字段集;重新按照从上至下的顺序逐行读取组合列中字段值列的字段值,将读取到的字段值与标题字段集中的标题字段依次进行配对,形成标题列的记录;将每一标题列的记录进行组合生成记录集,输出所述记录集;
所述分解重组单元具体用于按照从左至右的顺序对所述目标表格进行分解;先获取标题字段列,然后获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列;将所述标题字段列与所述字段值列进行组合,构成组合列;
所述先获取标题字段列,然后获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列,包括:先获取标题字段列;再获取与所述标题字段列相邻且位于所述标题字段列右侧的字段值列的数量;若获取到的字段值列有多个,则分解出多个字段值列;将所述标题字段列与所述多个字段值列进行组合,构成组合列。
6.一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至4中任一项所述的基于标题列的网页表格数据采集方法。
7.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行如权利要求1至4任一项所述的基于标题列的网页表格数据采集方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911037685.6A CN110781655B (zh) | 2019-10-29 | 2019-10-29 | 标题列的数据采集方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911037685.6A CN110781655B (zh) | 2019-10-29 | 2019-10-29 | 标题列的数据采集方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110781655A CN110781655A (zh) | 2020-02-11 |
CN110781655B true CN110781655B (zh) | 2023-10-27 |
Family
ID=69387366
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911037685.6A Active CN110781655B (zh) | 2019-10-29 | 2019-10-29 | 标题列的数据采集方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110781655B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6707454B1 (en) * | 1999-07-01 | 2004-03-16 | Lucent Technologies Inc. | Systems and methods for visualizing multi-dimensional data in spreadsheets and other data structures |
CN101576891A (zh) * | 2008-05-05 | 2009-11-11 | 北京瑞佳晨科技有限公司 | 一种解析网页表格对象节点的方法 |
CN107480134A (zh) * | 2017-07-28 | 2017-12-15 | 国信优易数据有限公司 | 一种数据处理方法和系统 |
CN110119423A (zh) * | 2019-05-17 | 2019-08-13 | 厦门商集网络科技有限责任公司 | 一种可配置化的数据解析方法和计算机可读存储介质 |
-
2019
- 2019-10-29 CN CN201911037685.6A patent/CN110781655B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6707454B1 (en) * | 1999-07-01 | 2004-03-16 | Lucent Technologies Inc. | Systems and methods for visualizing multi-dimensional data in spreadsheets and other data structures |
CN101576891A (zh) * | 2008-05-05 | 2009-11-11 | 北京瑞佳晨科技有限公司 | 一种解析网页表格对象节点的方法 |
CN107480134A (zh) * | 2017-07-28 | 2017-12-15 | 国信优易数据有限公司 | 一种数据处理方法和系统 |
CN110119423A (zh) * | 2019-05-17 | 2019-08-13 | 厦门商集网络科技有限责任公司 | 一种可配置化的数据解析方法和计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110781655A (zh) | 2020-02-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110825944B (zh) | 网页表格数据采集方法、装置、计算机设备及存储介质 | |
CN108399256B (zh) | 异构数据库内容同步方法、装置及中间件 | |
US10817621B2 (en) | Anonymization processing device, anonymization processing method, and program | |
KR102230661B1 (ko) | Sql 검토 방법, 장치, 서버 및 저장 매체 | |
CN104281672B (zh) | 日志数据的处理方法和装置 | |
CN110908997A (zh) | 数据血缘构建方法、装置、服务器及可读存储介质 | |
EP3023885A1 (en) | Method and device for storing data | |
CN104240171B (zh) | 电子病历生成方法及系统 | |
CN106407407A (zh) | 一种文件标注系统及方法 | |
KR101690587B1 (ko) | 전자 문서의 데이터 업데이트 방법, 장치, 프로그램 및 기록매체 | |
CN106570013B (zh) | 页面访问数据的处理方法和装置 | |
US9584589B2 (en) | Friend recommendation method, apparatus and storage medium | |
CN105630992B (zh) | 静态页面中的场景显示方法及装置 | |
CN107526755B (zh) | 数据的处理方法及装置 | |
CN107832625A (zh) | 一种文档的处理方法和装置 | |
CN110765782A (zh) | 基于键值的字段翻译方法、装置、计算机设备及存储介质 | |
CN110781655B (zh) | 标题列的数据采集方法、装置、计算机设备及存储介质 | |
CN110795654A (zh) | 网页数据展示方法、装置、计算机设备及存储介质 | |
CN107111802A (zh) | 业务规范再生系统、业务规范再生方法 | |
CN103605640B (zh) | 表单适配方法和装置 | |
KR20150123603A (ko) | 데이터베이스 관리 방법 및 데이터베이스 관리 시스템 | |
CN111782684B (zh) | 一种配网电子化移交信息匹配方法及装置 | |
CN110457323B (zh) | 数据表的处理方法及装置 | |
CN110532242B (zh) | 业务消息发送方法和装置 | |
CN109684437B (zh) | 用于文件比较的内容对齐方法、装置、存储介质和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |