CN116049524A - 网页数据抓取方法、装置、设备以及存储介质 - Google Patents

网页数据抓取方法、装置、设备以及存储介质 Download PDF

Info

Publication number
CN116049524A
CN116049524A CN202310010458.4A CN202310010458A CN116049524A CN 116049524 A CN116049524 A CN 116049524A CN 202310010458 A CN202310010458 A CN 202310010458A CN 116049524 A CN116049524 A CN 116049524A
Authority
CN
China
Prior art keywords
program
webpage data
web page
grabbing
url list
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310010458.4A
Other languages
English (en)
Inventor
吴脂娟
郝伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Huayun'an Technology Co ltd
Original Assignee
Anhui Huayun'an Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Huayun'an Technology Co ltd filed Critical Anhui Huayun'an Technology Co ltd
Priority to CN202310010458.4A priority Critical patent/CN116049524A/zh
Publication of CN116049524A publication Critical patent/CN116049524A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/951—Indexing; Web crawling techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/955—Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本公开的实施例提供了一种网页数据抓取方法、装置、设备以及存储介质。该方法包括：对启动之后的网页数据抓取程序进行状态检测，其中，网页数据抓取程序在启动之后，用于根据URL列表中的URL抓取对应的网页数据，并将URL列表中与网页数据对应的URL删除；若检测到网页数据抓取程序处于运行状态，则确定网页数据抓取程序是否卡顿；若卡顿，则重启网页数据抓取程序；若检测到网页数据抓取程序处于停止状态，则确定URL列表是否为空；若不为空，则启动网页数据抓取程序。以此方式，不仅可以使网页数据抓取程序在报错停止或卡顿时自动启动或重启，无需人工监控，还可以使该程序延续上一次的抓取进度，继续抓取网页数据，避免重复抓取。

Description

网页数据抓取方法、装置、设备以及存储介质
技术领域
本公开涉及计算机技术领域，尤其涉及一种网页数据抓取方法、装置、设备以及存储介质。
背景技术
目前在批量抓取网页数据过程中，可能因网页请求限制、网络不稳定等原因导致网页数据抓取程序报错终止或是卡顿不再继续，此时需要重启网页数据抓取程序才能继续。可知，这样操作往往会导致之前抓取的网页数据会重复抓取，也需求管理人员时刻看着程序等诸多不变。
发明内容
本公开提供了一种网页数据抓取方法、装置、设备以及存储介质。
第一方面，本公开的实施例提供了一种网页数据抓取方法，该方法包括：
对启动之后的网页数据抓取程序进行状态检测，其中，网页数据抓取程序在启动之后，用于根据统一资源定位符(Uniform Resource Locator，URL)列表中的URL抓取对应的网页数据，并将URL列表中与网页数据对应的URL删除；
若检测到网页数据抓取程序处于运行状态，则确定网页数据抓取程序是否卡顿；
若确定网页数据抓取程序卡顿，则重启网页数据抓取程序；
若检测到网页数据抓取程序处于停止状态，则确定URL列表是否为空；
若确定URL列表不为空，则启动网页数据抓取程序。
在第一方面的一些可实现方式中，确定网页数据抓取程序是否卡顿，包括：
计算最新抓取的网页数据的抓取时间与当前时间的时间间隔；
若时间间隔大于或等于预设阈值，则确定网页数据抓取程序卡顿。
在第一方面的一些可实现方式中，网页数据抓取程序还用于将抓取的网页数据生成为超文本标记语言(Hyper Text Markup Language，HTML)文件，并存储至目标文件目录；
确定网页数据抓取程序是否卡顿，包括：
计算最新生成的HTML文件的生成时间与当前时间的时间间隔；
若时间间隔大于或等于预设阈值，则确定网页数据抓取程序卡顿。
在第一方面的一些可实现方式中，网页数据抓取程序还用于在URL列表为空的情况下，将URL列表删除。
在第一方面的一些可实现方式中，URL列表存储在远程字典服务(RemoteDictionary Server，Redis)中。
在第一方面的一些可实现方式中，URL列表是通过以下步骤生成的：
获取目标网站对应的多个URL；
根据多个URL，生成URL列表。
第二方面，本公开的实施例提供了一种网页数据抓取装置，该装置包括：
检测模块，用于对启动之后的网页数据抓取程序进行状态检测，其中，网页数据抓取程序在启动之后，用于根据URL列表中的URL抓取对应的网页数据，并将URL列表中与网页数据对应的URL删除；
确定模块，用于若检测到网页数据抓取程序处于运行状态，则确定网页数据抓取程序是否卡顿；
重启模块，用于若确定网页数据抓取程序卡顿，则重启网页数据抓取程序；
确定模块，还用于若检测到网页数据抓取程序处于停止状态，则确定URL列表是否为空；
启动模块，用于若确定URL列表不为空，则启动网页数据抓取程序。
第三方面，本公开的实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如以上所述的方法。
第四方面，本公开的实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如以上所述的方法。
在本公开的实施例中，不仅可以使网页数据抓取程序在报错停止或卡顿时自动启动或重启，无需人工监控，还可以使该程序延续上一次的抓取进度，继续抓取网页数据，避免重复抓取。
应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。
附图说明
结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。附图用于更好地理解本方案，不构成对本公开的限定在附图中，相同或相似的附图标记表示相同或相似的元素，其中：
图1示出了本公开的实施例提供的一种网页数据抓取方法的流程图；
图2示出了本公开的实施例提供的又一种网页数据抓取方法的流程图；
图3示出了本公开的实施例提供的一种网页数据抓取装置的结构图；
图4示出了一种能够实施本公开的实施例的示例性电子设备的结构图。
具体实施方式
为使本公开的实施例的目的、技术方案和优点更加清楚，下面将结合本公开的实施例中的附图，对本公开的实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。
另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
针对背景技术中出现的问题，本公开的实施例提供了一种网页数据抓取方法、装置、设备以及存储介质。具体地，对启动之后的网页数据抓取程序进行状态检测，其中，网页数据抓取程序在启动之后，用于根据URL列表中的URL抓取对应的网页数据，并将URL列表中与网页数据对应的URL删除；若检测到网页数据抓取程序处于运行状态，则确定网页数据抓取程序是否卡顿；若确定网页数据抓取程序卡顿，则重启网页数据抓取程序；若检测到网页数据抓取程序处于停止状态，则确定URL列表是否为空；若确定URL列表不为空，则启动网页数据抓取程序。
如此一来，不仅可以使网页数据抓取程序在报错停止或卡顿时自动启动或重启，无需人工监控，还可以使该程序延续上一次的抓取进度，继续抓取网页数据，避免重复抓取。
下面结合附图，通过具体的实施例对本公开的实施例提供的网页数据抓取方法、装置、设备以及存储介质进行详细地说明。
图1示出了本公开的实施例提供的一种网页数据抓取方法的流程图，如图1所示，网页数据抓取方法100可以包括以下步骤：
S110，对启动之后的网页数据抓取程序进行状态检测。
在一些实施例中，可以对启动之后的网页数据抓取程序实时或周期进行状态检测，在此不做限定。
其中，网页数据抓取程序在启动之后，用于根据URL列表中的URL抓取对应的网页数据，并将URL列表中与网页数据对应的URL删除以避免重复抓取，重复多次，直到URL列表为空。进一步地，可以将空URL列表删除。
示例性地，URL列表存储在Redis中，其可以通过以下步骤生成：
获取目标网站对应的多个URL，根据多个URL，快速生成URL列表。
值得注意的是，在网页数据抓取程序运行期间，网页数据抓取程序还可以用于将抓取的网页数据生成为HTML文件，并将其存储至目标文件目录，便于后续查找使用。
S120，若检测到网页数据抓取程序处于运行状态，则确定网页数据抓取程序是否卡顿。
在一些实施例中，可以计算最新抓取的网页数据的抓取时间与当前时间的时间间隔，若计算的时间间隔大于或等于预设阈值，则确定网页数据抓取程序卡顿；若计算的时间间隔小于预设阈值，则确定网页数据抓取程序未卡顿，仍在正常运行。
在另一些实施例中，可以计算最新生成的HTML文件的生成时间与当前时间的时间间隔，若计算的时间间隔大于或等于预设阈值，则确定所述网页数据抓取程序卡顿；若计算的时间间隔小于预设阈值，则确定网页数据抓取程序未卡顿，仍在正常运行。
如此一来，可以在网页数据抓取程序处于运行状态的情况下，根据最新抓取的网页数据的抓取时间或者最新生成的HTML文件的生成时间，灵活准确地判断网页数据抓取程序是否卡顿。
S130，若确定网页数据抓取程序卡顿，则重启网页数据抓取程序。
重启后的网页数据抓取程序如S110中的示例所介绍一样继续运行。
S140，若检测到网页数据抓取程序处于停止状态，则确定URL列表是否为空。
可以理解，在URL列表为空的情况下，表示URL已经全被使用，对应的网页数据已被抓取完成，此时网页数据抓取程序正常停止。
在URL列表不为空的情况下，表示存在URL未被使用，网页数据抓取程序报错停止了，此时需要启动网页数据抓取程序。
S150，若确定URL列表不为空，则启动网页数据抓取程序。
启动后的网页数据抓取程序如S110中的示例所介绍一样继续运行。
在本公开的实施例中，不仅可以使网页数据抓取程序在报错停止或卡顿时自动启动或重启，无需人工监控，还可以使该程序延续上一次的抓取进度，继续抓取网页数据，避免重复抓取。
下面结合一个具体实施例，对本公开的实施例提供的网页数据抓取方法进行详细介绍，如图2所示，具体如下：
首先，介绍下正常情况下的网页数据抓取程序运行流程，包括：
S211，判断Redis中是否存在URL列表，若存在，则执行S212；反之执行S216。
S212，从URL列表中获取URL。
S213，根据URL抓取网页数据，并将该URL从URL列表中删除。
S214，将网页数据生成为HTML文件，并存储至目标文件目录。
S215，判断URL列表是否为空，若为空，则删除空URL列表，并结束；反之，则执行S212。
S216，通知其他程序生成URL列表，并存储至Redis。
这里，在网页数据抓取程序启动之后，执行S201-S206：
S201，对启动之后的网页数据抓取程序进行状态检测，若检测到网页数据抓取程序处于运行状态，则执行S202；若检测到网页数据抓取程序处于停止状态，则执行S205。
S202，计算最新生成的HTML文件的生成时间与当前时间的时间间隔。
S203，判断时间间隔是否大于或等于预设阈值，若大于，则执行S204；反之，则执行S201。
S204，确定网页数据抓取程序卡顿，重新启动网页数据抓取程序。
S205，确定URL列表是否为空(可知，在没有URL列表的情况下，也视为URL列表为空)，若为空，则结束；若不为空，则执行S206。
S206，启动网页数据抓取程序。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。
以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。
图2示出了本公开的实施例提供的一种网页数据抓取装置的结构图，如图2所示，网页数据抓取装置200可以包括：
检测模块310，用于对启动之后的网页数据抓取程序进行状态检测，其中，网页数据抓取程序在启动之后，用于根据URL列表中的URL抓取对应的网页数据，并将URL列表中与网页数据对应的URL删除。
确定模块320，用于若检测到网页数据抓取程序处于运行状态，则确定网页数据抓取程序是否卡顿。
重启模块330，用于若确定网页数据抓取程序卡顿，则重启网页数据抓取程序。
确定模块320，还用于若检测到网页数据抓取程序处于停止状态，则确定URL列表是否为空。
启动模块340，用于若确定URL列表不为空，则启动网页数据抓取程序。
在一些实施例中，确定模块320具体用于：
计算最新抓取的网页数据的抓取时间与当前时间的时间间隔。
若时间间隔大于或等于预设阈值，则确定网页数据抓取程序卡顿。
在一些实施例中，网页数据抓取程序还用于将抓取的网页数据生成为HTML文件，并存储至目标文件目录。
确定模块320具体用于：
计算最新生成的HTML文件的生成时间与当前时间的时间间隔。
若时间间隔大于或等于预设阈值，则确定网页数据抓取程序卡顿。
在一些实施例中，网页数据抓取程序还用于在URL列表为空的情况下，将URL列表删除。
在一些实施例中，URL列表存储在Redis中。
在一些实施例中，URL列表是通过以下步骤生成的：
获取目标网站对应的多个URL。
根据多个URL，生成URL列表。
可以理解的是，图2所示的网页数据抓取装置200中的各个模块/单元具有实现图1所示的网页数据抓取方法100中的各个步骤的功能，并能达到其相应的技术效果，为了简洁，在此不再赘述。
图4示出了一种能够实施本公开的实施例的示例性电子设备的结构图。电子设备400旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备400还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图4所示，电子设备400可以包括计算单元401，其可以根据存储在只读存储器(ROM)402中的计算机程序或者从存储单元408加载到随机访问存储器(RAM)403中的计算机程序，来执行各种适当的动作和处理。在RAM403中，还可存储电子设备400操作所需的各种程序和数据。计算单元401、ROM402以及RAM403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
电子设备400中的多个部件连接至I/O接口405，包括：输入单元406，例如键盘、鼠标等；输出单元407，例如各种类型的显示器、扬声器等；存储单元408，例如磁盘、光盘等；以及通信单元409，例如网卡、调制解调器、无线通信收发机等。通信单元409允许电子设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理，例如方法100。例如，在一些实施例中，方法100可被实现为计算机程序产品，包括计算机程序，其被有形地包含于计算机可读介质，例如存储单元408。在一些实施例中，计算机程序的部分或者全部可以经由ROM402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM403并由计算单元401执行时，可以执行上文描述的方法100的一个或多个步骤。备选地，在其他实施例中，计算单元401可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法100。
本文中以上描述的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，计算机可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。计算机可读介质可以是计算机可读信号介质或计算机可读储存介质。计算机可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。计算机可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
需要注意的是，本公开还提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行方法100，并达到本公开的实施例执行其方法达到的相应技术效果，为简洁描述，在此不再赘述。
另外，本公开还提供了一种计算机程序产品，该计算机程序产品包括计算机程序，计算机程序在被处理器执行时实现方法100。
为了提供与用户的交互，可以在计算机上实施以上描述的实施例，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将以上描述的实施例实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (9)

1.一种网页数据抓取方法，其特征在于，所述方法包括：
对启动之后的网页数据抓取程序进行状态检测，其中，所述网页数据抓取程序在启动之后，用于根据URL列表中的URL抓取对应的网页数据，并将所述URL列表中与所述网页数据对应的URL删除；
若检测到所述网页数据抓取程序处于运行状态，则确定所述网页数据抓取程序是否卡顿；
若确定所述网页数据抓取程序卡顿，则重启所述网页数据抓取程序；
若检测到所述网页数据抓取程序处于停止状态，则确定所述URL列表是否为空；
若确定所述URL列表不为空，则启动所述网页数据抓取程序。
2.根据权利要求1所述的方法，其特征在于，所述确定所述网页数据抓取程序是否卡顿，包括：
计算最新抓取的网页数据的抓取时间与当前时间的时间间隔；
若所述时间间隔大于或等于预设阈值，则确定所述网页数据抓取程序卡顿。
3.根据权利要求1所述的方法，其特征在于，所述网页数据抓取程序还用于将抓取的网页数据生成为HTML文件，并存储至目标文件目录；
所述确定所述网页数据抓取程序是否卡顿，包括：
计算最新生成的HTML文件的生成时间与当前时间的时间间隔；
若所述时间间隔大于或等于预设阈值，则确定所述网页数据抓取程序卡顿。
4.根据权利要求1所述的方法，其特征在于，所述网页数据抓取程序还用于在所述URL列表为空的情况下，将所述URL列表删除。
5.根据权利要求1所述的方法，其特征在于，所述URL列表存储在Redis中。
6.根据权利要求1-5中任一项所述的方法，其特征在于，所述URL列表是通过以下步骤生成的：
获取目标网站对应的多个URL；
根据所述多个URL，生成URL列表。
7.一种网页数据抓取装置，其特征在于，所述装置包括：
检测模块，用于对启动之后的网页数据抓取程序进行状态检测，其中，所述网页数据抓取程序在启动之后，用于根据URL列表中的URL抓取对应的网页数据，并将所述URL列表中与所述网页数据对应的URL删除；
确定模块，用于若检测到所述网页数据抓取程序处于运行状态，则确定所述网页数据抓取程序是否卡顿；
重启模块，用于若确定所述网页数据抓取程序卡顿，则重启所述网页数据抓取程序；
所述确定模块，还用于若检测到所述网页数据抓取程序处于停止状态，则确定所述URL列表是否为空；
启动模块，用于若确定所述URL列表不为空，则启动所述网页数据抓取程序。
8.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
9.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使计算机执行权利要求1-6中任一项所述的方法。
CN202310010458.4A 2023-01-04 2023-01-04 网页数据抓取方法、装置、设备以及存储介质 Pending CN116049524A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310010458.4A CN116049524A (zh) 2023-01-04 2023-01-04 网页数据抓取方法、装置、设备以及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310010458.4A CN116049524A (zh) 2023-01-04 2023-01-04 网页数据抓取方法、装置、设备以及存储介质

Publications (1)

Publication Number Publication Date
CN116049524A true CN116049524A (zh) 2023-05-02

Family

ID=86129024

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310010458.4A Pending CN116049524A (zh) 2023-01-04 2023-01-04 网页数据抓取方法、装置、设备以及存储介质

Country Status (1)

Country Link
CN (1) CN116049524A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116594961A (zh) * 2023-07-19 2023-08-15 安徽华云安科技有限公司 文件处理方法、装置、设备以及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116594961A (zh) * 2023-07-19 2023-08-15 安徽华云安科技有限公司 文件处理方法、装置、设备以及存储介质
CN116594961B (zh) * 2023-07-19 2023-09-22 安徽华云安科技有限公司 文件处理方法、装置、设备以及存储介质

Similar Documents

Publication Publication Date Title
CN116049524A (zh) 网页数据抓取方法、装置、设备以及存储介质
CN116089231B (zh) 一种故障告警方法、装置、电子设备及存储介质
CN113641544B (zh) 用于检测应用状态的方法、装置、设备、介质和产品
CN113656252B (zh) 故障定位方法、装置、电子设备以及存储介质
CN112965799B (zh) 任务状态的提示方法、装置、电子设备和介质
CN113656239A (zh) 针对中间件的监控方法、装置及计算机程序产品
CN113590447B (zh) 埋点处理方法和装置
CN114706622B (zh) 启动模型服务的方法、装置、设备、介质及产品
CN116431313A (zh) 一种轮询任务的调度方法、装置、设备及介质
CN113703793B (zh) 用于云手机的应用安装方法、装置、设备和介质
CN112925623B (zh) 任务处理方法、装置、电子设备和介质
CN112925675B (zh) 用于小程序的恢复方法和装置
CN115766697A (zh) 一种文件下载方法、装置、设备和存储介质
CN113448767B (zh) 分布式事务数据库恢复方法、装置、设备及存储介质
CN114706774A (zh) 接口测试方法、装置、设备以及存储介质
CN113360258B (zh) 数据处理方法、装置、电子设备及存储介质
CN117112873B (zh) 基于代码注入的api爆破方法、装置、设备以及存储介质
CN117077151B (zh) 漏洞挖掘方法、装置、设备以及存储介质
CN115333858B (zh) 登录页面破解方法、装置、设备以及存储介质
CN114358288B (zh) 生成知识图谱的方法、信息推荐方法、装置及电子设备
CN117331716B (zh) 一种消息处理方法及系统
CN113297492B (zh) 数据确定方法、数据确定装置、电子设备及存储介质
CN115878362A (zh) 一种操作系统异常定位方法、装置、设备及存储介质
CN113360407A (zh) 函数的定位方法、装置、电子设备及可读存储介质
CN118642807A (zh) 界面操作处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination