CN114003794A - 资产收集方法、装置、电子设备和介质 - Google Patents

Abstract

本公开的实施例提供了一种资产收集方法、装置、电子设备和介质。本公开实施例提供的方法和装置可用于金融领域或信息安全、互联网技术领域。本公开实施例提供的方法和装置可用于金融领域的资产信息收集。该方法包括：设定信息采集目标，其中，所述目标包括域名和IP地址中的至少一种；基于所述信息采集目标的种类，选定信息采集方法，其中，所述信息采集方法包括子域名爆破和中间件识别中的至少一种；基于选定的信息采集方法进行信息采集，采集信息包括子域名和中间件信息中的至少一种；基于所述采集信息获取资产信息，其中，所述资产信息包括路径信息。

Description

资产收集方法、装置、电子设备和介质

技术领域

本公开涉及互联网技术领域和信息安全技术领域，更具体地，涉及一种资产收集方法、装置、电子设备和介质。

背景技术

随着国家、企业、个人对于网络安全的重视程度提高，企业暴露在互联网侧的薄弱点已经越来越少，应用系统的安全性也有了整体的提升。但是由于企业的各种网络设备和文件信息纷繁复杂，管理难度较大，导致部分网络资产，例如Web应用信息暴露在互联网中也未可知。而Web应用等网络资产往往作为攻击渗透的首要突破口，因此，不在管理视线内的Web应用被攻击的风险极高。如何快速发现暴露在互联网的Web应用信息，从而及时进行风险防控，是每个企业都亟需解决的问题。目前对于暴露在互联网侧的Web应用信息梳理和资产清点，一种方法是采用的是从内部管理入手，通过梳理防火墙的策略、设备的部署、应用的配置信息等确定哪些不必要信息是暴露在互联网侧的。

针对攻击渗透，常采用渗透测试的方法来检查当前网络防御机制是否存在漏洞，信息收集是其中的重要环节。

在实现本公开构思的过程中，发明人发现现有技术中至少存在如下问题：

企业内设备信息、资产信息复杂，不同资产间关联性较强，不同应用的配置信息也存在差异，采用内部管理入手的方式进行梳理容易出现资产遗漏的情况。另一方面，现有的应用渗透测试收集互联网应用信息的方法通常仅将主域名作为信息测试目标，信息价值较低；且信息收集主要用于探测漏洞，对后台文件路径等资产信息的收集不全面。

发明内容

有鉴于此，本公开的实施例提供了一种自动化的提高互联网资产信息收集效果的资产收集方法、装置、电子设备和介质。

本公开的一个方面提供了一种资产收集方法，其特征在于，包括如下步骤：设定信息采集目标，其中，所述目标包括域名和IP地址中的至少一种；基于所述信息采集目标的种类，选定信息采集方法，其中，所述信息采集方法包括子域名爆破和中间件识别中的至少一种；基于选定的信息采集方法进行信息采集，采集信息包括子域名和中间件信息中的至少一种；基于所述采集信息获取资产信息，其中，所述资产信息包括路径信息。

在某些实施例中，所述基于所述信息采集目标的类型，选定信息采集方法包括：判断所述信息采集目标的种类；当种类为IP地址时，选定中间件识别作为信息采集方法；当种类为域名时，基于预设的规则选定子域名爆破或中间件识别作为信息采集方法，其中，当选定子域名爆破作为信息采集方法时，所述信息采集方法还包括：基于所述域名以及爆破获取的子域名共同进行中间件识别。

在某些实施例中，在进行中间件识别后，所述信息采集方法还包括：源代码审计，所述源代码审计包括：基于预设的爬虫策略爬取网站源代码，提取页面路径信息，所述页面路径信息包括绝对路径以及相对路径中的至少一种；将所述页面路径信息汇聚成路径字典，其中，所爬取的网站基于所述IP地址、域名、子域名以及所识别的中间件信息中的至少一种确定。

在某些实施例中，预设的爬虫策略包括：基于网站包含页面的数量对待爬取的网站按照页面数量从多到少的顺序排序；对排序靠前的网站优先爬取。

在某些实施例中，在进行源代码审计后，所述信息采集方法还包括：目录文件遍历，所述目录文件遍历包括：基于所识别的中间件信息，遍历目录字典，其中，所述目录字典基于中间件类型确定，所述目录字典包含对应于所述中间件的后台目录文件路径信息；基于所述路径字典和目录字典获取目录文件路径信息。

在某些实施例中，所述资产信息包括利用信息采集方法获取到的目录文件路径信息、中间件信息、对应于目录文件路径的访问状态信息中的至少一种。

在某些实施例中，所述中间件信息包括中间件类型、中间件版本号、运行容器、脚本库中的至少一种。

在某些实施例中，所述子域名爆破包括：获取目标域名；基于所述目标域名进行爆破，过滤泛解析子域名，其中，所述泛解析子域名基于查询获得的IP地址和生存时间获取；基于过滤结果，获取非泛解析子域名。

在某些实施例中，所述中间件识别基于中间件指纹信息进行，所述中间件信息基于中间件源码识别和目标交互识别中的至少一种方法获取。

本公开的另一个方面提供了一种资产收集装置，包括：任务设定模块，配置为设定信息采集目标，所述目标包括域名和IP地址中的至少一种；信息采集模块，配置为基于选定的信息采集方法，进行信息采集，其中，基于所述信息采集方法基于信息采集目标的种类选定，所述信息采集方法包括子域名爆破和中间件识别中的至少一种；结果输出模块，配置为基于信息采集结果获取资产信息，其中，所述资产信息包括采集获取到的路径信息。

在某些实施例中，所述信息采集模块至少包括中间件识别子模块，所述中间件识别子模块被配置为当信息采集目标种类为IP地址，或信息采集目标种类为域名且基于预设的规则选定中间件识别作为信息采集方法时，进行中间件识别；当信息采集目标种类为域名且选定子域名爆破为信息采集方法时，基于所述域名以及爆破获取的子域名共同进行中间件识别。

在某些实施例中，所述信息采集模块还包括：子域名爆破子模块，被配置为当选定的信息采集方法包括子域名爆破时，进行子域名爆破。

在某些实施例中，所述信息采集模块还包括源代码审计子模块，其中，所述源代码审计子模块被配置为基于预设的爬虫策略爬取网站源代码，提取页面路径信息，将所述页面路径信息汇聚成路径字典，其中，所述页面路径信息包括绝对路径和相对路径中的至少一种；所爬取的网站基于所述IP地址、所述域名、所述子域名以及所识别的中间件信息中的至少一种确定。

在某些实施例中，所述信息采集模块还包括目录文件遍历子模块，其中，所述目录文件遍历子模块被配置为基于所识别的中间件信息，遍历目录字典，其中，所述目录字典基于中间件类型确定，所述目录字典包含对应于所述中间件的后台目录文件路径信息；基于所述路径字典和所述目录字典获取目录文件路径信息。

本公开的另一方面提供了一种电子设备，包括一个或多个处理器以及存储装置，其中，所述存储装置用于存储可执行指令，所述可执行指令在被所述处理器执行时，实现如上所述的方法。

本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。

本公开的另一方面提供了一种计算机程序产品，所述计算机程序包括计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的可以应用资产收集方法、装置的示例性系统架构。

图2示意性示出了根据本公开实施例的资产收集方法的流程图。

图3示意性示出了根据本公开实施例的基于信息采集目标的类型，选定信息采集方法的流程图。

图4示例性示出了根据本公开实施例的子域名爆破的方法的流程图。

图5示例性示出了根据本公开实施例的源代码审计的方法的流程图。

图6示例性示出了根据本公开的实施例的预设的爬虫策略的方法的流程图。

图7示例性示出了根据本公开的实施例的目录文件遍历的方法的流程图。

图8示意性示出了根据本公开实施例的资产收集装置的框图。

图9示意性示出了根据本公开实施例的信息采集模块的装置的框图。

图10示意性示出了根据本公开另一实施例的信息采集模块的装置的框图。

图11示意性示出了根据本公开又一实施例的信息采集模块的装置的框图。

图12示意性示出了根据本公开再一实施例的信息采集模块的装置的框图。

图13示意性示出了根据本公开实施例的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。

现如今，随着网络安全的日益重视，企业暴露在互联网侧的薄弱点已经越来越少，应用系统的安全性也有了整体的提升。但是由于企业的各种网络设备和目录文件等网络资产纷繁复杂，管理难度较大，导致部分应隐藏的网络资产，例如Web应用信息暴露在互联网中也无从知晓。而Web应用往往作为攻击渗透的首要突破口，因此，不在管理视线内的Web应用被攻击的风险极高。如何快速发现暴露在互联网的Web应用信息，从而及时进行风险防控，是每个企业都亟需解决的问题。

根据是否与目标直接交互，资产收集可分为被动资产收集和主动资产收集。被动资产收集指的是利用公开的资源情报，通过搜索引擎及其他手段从各种公开的资源中获取目标的信息。这种收集方式虽然不会被目标察觉，但是获取到的目标资产信息往往不是最新的，且不易找到特殊的突破口。主动资产收集指的是与目标直接交互，通过请求响应、扫描等方式获取目标的信息。这种信息收集方式虽然增加了攻击者暴露的风险，但是能够收集到更加准确、完整的目标资产信息。

目前对于暴露在互联网侧的Web应用信息梳理，一般采用的是从内部管理入手，通过梳理防火墙的策略、设备的部署、应用的配置信息等确定哪些不必要信息是暴露在互联网侧的。亦即主动资产收集。但是，由于企业内设备信息、资产信息复杂，不同资产间关联性较强，不同应用的配置信息也存在差异，通过人工内部管理的方式难以进行准确梳理，而且也容易出现资产遗漏的情况。

在一些现有技术中，通过渗透测试技术来发现网站存在的漏洞。其中，信息收集是整个渗透测试过程的第二个阶段，也是非常重要的一个环节，信息收集的完整性很大程度上决定了渗透测试的结果。然而，由于现有的互联网信息收集主要是用于后续渗透测试使用，信息收集的目的主要是发现网站存在的漏洞，缺乏尽可能获取企业暴露在互联网侧的全量资产，例如目录文件路径信息的方法。并且在利用渗透测试的数据收集方法时，主要以主域名作为信息采集目标，其信息价值有限。在一些现有技术中，利用了探测中间件的方法，但该方法也主要收集漏洞信息，收集目标较为单一，未充分利用中间件的信息对后台目录文件路径等信息进行全面收集。

针对现有技术中存在的上述问题，本公开的实施例提供了一种资产收集方法、装置、电子设备和介质。该方法包括：设定信息采集目标，其中，所述目标包括域名和IP地址中的至少一种；基于所述信息采集目标的种类，选定信息采集方法，其中，所述信息采集方法包括子域名爆破和中间件识别中的至少一种；基于选定的信息采集方法进行信息采集，采集信息包括子域名和中间件信息中的至少一种；基于所述采集信息获取资产信息，其中，所述资产信息包括路径信息。其中，在选择采用子域名或中间件信息作为信息采集方法时，可以首先判断所述信息采集目标的种类；当种类为IP地址时，选定中间件识别作为信息采集方法。当种类为域名时，可以基于预设的规则选定子域名爆破或中间件识别作为信息采集方法。其中，当选定子域名爆破作为信息采集方法时，所述信息采集方法还包括：基于所述域名以及爆破获取的子域名共同进行中间件识别。

进一步，在利用子域名和/中间件信息收集资产信息后，为了进一步提升资产收集的全面性，弥补内部资产梳理产生资产遗漏的情况，还可以进一步利用源代码审计和/或目录文件遍历以获取全量资产，包括中间件信息、目标涉及的所有的目录文件路径以及网页的响应状态信息等，从而全面获取互联网资产信息，弥补内部资产梳理产生资产遗漏的情况，及时进行风险防控。

需要说明的是，本公开实施例提供的资产收集方法、装置、系统和电子设备可用于互联网技术、信息安全技术在资产收集相关方面，也可用于除互联网技术、信息安全技术之外的多种领域，如金融领域等。本公开实施例提供的资产收集的方法、装置、系统和电子设备的应用领域不做限定。

以下将结合附图及其说明文字围绕实现本公开的至少一个目的的上述操作进行阐述。

随着信息技术的高速发展，网络安全成为人们越来越关心的问题。网络资产的管理成为网络安全中的重要环节。目前常采用的手段是从内部管理入手，通过梳理防火墙的策略、设备的部署、应用的配置信息等确定哪些不必要信息是暴露在互联网侧的。但由于企业内设备信息、资产信息复杂，不同资产间关联性较强，不同应用的配置信息也存在差异，通过人工内部管理的方式难以进行准确梳理，而且也容易出现资产遗漏的情况。

渗透测试是一种有效的通过模拟恶意黑客的攻击方法，来评估计算机网络系统安全的一种评估方法。指渗透人员在不同的位置(比如从内网、从外网等位置)利用各种手段对某个特定网络进行测试，以期发现和挖掘系统中存在的漏洞，然后输出渗透测试报告，并提交给网络所有者。网络所有者根据渗透人员提供的渗透测试报告，可以清晰知晓系统中存在的安全隐患和问题。信息收集是整个渗透测试过程的第二个阶段，也是非常重要的一个环节，所收集到的情报信息，能直接影响下一阶段的工作及效果。因此，信息收集的完整性很大程度上决定了渗透测试的结果。为了更好的梳理网络资产，可以利用渗透测试中的信息收集方法对网络资产信息，例如目录文件路径等信息进行收集，克服人工梳理信息带来的不准确和不全面的弊端。

图1示意性示出了根据本公开实施例的可以应用方法、装置的示例性系统架构。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送信息等。终端设备101、102、103可以具有输入用户指令，启动本公开实施例的资产收集装置，或开启资产收集方法，以及接收来自于服务器的资产信息收集结果的功能。此外，终端设备101、102、103上还可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等需要进行身份验证功能的应用(仅为示例)。

终端设备101、102、103包括但不限于智能手机、平板电脑、膝上型便携计算机等等。

服务器105可以解析用户指令，执行资产收集方法，完成资产收集。服务器105可以为数据库服务器、后台管理服务器、服务器集群等。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的资产信息数据、资产信息数据子集合等)反馈给终端设备。

需要说明的是，本公开实施例所提供的方法一般可以由服务器105执行。相应地，本公开实施例所提供的装置一般可以设置于服务器105中。

应该理解，终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

图2示意性示出了根据本公开实施例的资产收集方法的流程图。

如图2所示，该方法可以包括操作S201～操作S204。

在操作S201，设定信息采集目标。其中，所述目标包括域名和IP地址中的至少一种。

在操作S202，基于所述信息采集目标的种类，选定信息采集方法。其中，所述信息采集方法包括子域名爆破和中间件识别中的至少一种。

在操作S203，基于选定的信息采集方法进行信息采集，采集信息包括子域名和中间件信息中的至少一种。

在操作S204，基于所述采集信息获取资产信息。其中，所述资产信息包括路径信息。

根据本公开的实施例，利用渗透测试的信息收集方法收集互联网资产信息时，需先设定信息采集目标。在本公开的实施例中，目标可以是网站的域名，也可以是网站的IP地址。目标的数量可以是单个，也可以是多个。例如目标可以同时包括网站的域名和IP地址，也可以仅为单一网站域名或单一IP地址。可以理解的是，基于目标存储形式的不同，可以在系统中直接进行输入，也可以由系统从文本中进行目标读取。

根据本公开的实施例，在采集资产信息时，至少需要进行中间件识别和子域名爆破中的至少一种。

在现有技术中，大多时候，渗透测试提供的目标仅仅只是一个企业的主域名，如果仅仅关注企业的主域名，获取到的信息是极其有限的。另外，大部分企业的主域名网站安全性较高，防护措施也比较到位，获取到有利用价值的信息的可能性较小。这种情况下就需要积极寻找相对薄弱的子域名站点作为突破口进行渗透测试。

另一方面，随着计算机技术的快速发展，更多的应用软件被要求在许多不同的网络协议、不同的硬件生产厂商以及不一样的网络平台和环境上运营。这导致了软件开发者需要面临数据离散、操作困难、系统匹配程度低，以及需要开发多种应用程序来达到运营的目的。中间件技术的产生，在极大程度上减轻了开发者的负担，使得网络的运行更有效率，因此企业越来越多地采用中间件技术。中间件是介于应用系统和系统软件之间的一类软件，它使用系统软件所提供的基础服务(功能)，衔接网络上应用系统的各个部分或不同的应用，能够达到资源共享、功能共享的目的。某些中间件存在暴露的0day或者Nday漏洞，可以通过不同中间件特有的指纹信息来准确识别网站使用的各种中间件，进而快速地判断该站点是否存在可利用的漏洞，因此准确掌握企业采用的中间件类型、版本等信息可以及时防范使用存在漏洞的中间件版本，避免安全威胁。

在本公开的实施例中，通过选择中间件识别和子域名爆破中的至少一种方法进行资产信息采集，可以识别安全性较为薄弱的目录文件路径信息或中间件未授权路径信息，提高资产信息收集的有效性。

根据本公开的实施例，基于种类不同，可以选择不同的信息采集方法。

图3示意性示出了根据本公开实施例的基于信息采集目标的类型，选定信息采集方法的流程图。

如图3所示，该方法可以包括操作S301～操作S302，或操作S301/操作S303～操作S304，或操作S301/操作S303/操作S305～操作S306。

在操作S301，判断所述信息采集目标的种类。

当种类为IP地址时，执行操作S302。

在操作S302，选定中间件识别作为信息采集方法。

当种类为域名时，执行操作S303。

在操作S303，基于预设的规则选定子域名爆破或中间件识别作为信息采集方法，执行操作S304或S305。

根据本公开的实施例，为了扩大收集目标的可选择范围，满足个性化资产信息收集需求，可以人工选择是否进行子域名爆破。如果不需要，则执行步骤S304，

在操作S304，直接进行中间件识别。

另一方面，如果人工选择需要进行子域名爆破，则执行操作S305-S306。

在操作S305，进行子域名爆破。

在操作S306，基于域名以及通过对域名进行子域名爆破获取的子域名共同进行中间件识别。

图4示例性示出了根据本公开实施例的子域名爆破的方法的流程图。

如图4所示，该方法可以包括操作S401～操作S403。

在操作S401，获取目标域名。

在操作S402，基于所述目标域名进行爆破，过滤泛解析子域名，其中，所述泛解析子域名基于查询获得的IP地址和生存时间获取。

在操作S403，基于过滤结果，获取非泛解析子域名。

根据本公开的实施例，由于存在泛解析的子域名并非有效资产，需要将其进行过滤，从而获得应用于有效资产信息收集的非泛解析子域名。子域名爆破的原理通过枚举的方式来实现，通过不断地拼接字典中的内容以枚举域名的A记录。例如，需要爆破xx.com的子域名时，首先访问一个随机且并不存在的域如nouse.xx.com，通过返回结果判断是否存在泛解析。确定存在泛解析后，程序开始不断地循环产生随机域名，并向DNS服务器查询，将每次查询到的IP地址和生存时间(TTL值)记录下来，直到大部分IP地址出现次数都大于两次，则将这些出现次数大于两次的IP地址作为IP黑名单进行收集。在得到了IP黑名单以后，将字典中的每一项和要指定查询的域名进行拼接，对二级子域名进行轮询查询，在爆破过程中根据IP黑名单进行过滤，将不属于泛解析记录的子域名进行输出。由于仅依据IP黑名单来进行宽泛的过滤容易导致漏报，因此将TTL也作为黑名单规则的一部分。在权威DNS中，泛解析记录的TTL应相同的，如果子域名记录相同，但TTL不同，说明该记录不是泛解析记录。由此，在子域名爆破时，通过不断地自动循环产生随机域名，并向DNS服务器查询的方式，获取域名解析的黑IP以及TTL值，解决域名泛解析的问题，获取真实有效的子域名，从而实现有效资产的收集。

根据本公开的实施例，中间件识别基于中间件指纹信息进行，所述中间件信息基于中间件源码识别和目标交互识别中的至少一种方法获取。

根据本公开的实施例，框架和CMS一般都会有自己独特的图标、js文件、css文件、版权信息Powered By、标签属性值、注释等等。上述独特的信息即为中间件指纹信息。比如Django框架中，表单默认是带csrf_token验证的，在源代码中可以找到隐藏的token字段，以此来判断网站是否采用Django框架。由此可以基于中间件源码识别来获取中间件指纹信息。另一种识别方法是通过与目标交互获取中间件指纹信息，比如通过http返回响应信息中提取server字段；通过端口服务探测中间件。不同的中间件的默认端口不同，如Tomcat默认开发端口为8080，Weblogic默认开放端口为7001等。通过识别中间件指纹信息可以识别不同的中间件模块，从而获取中间件信息。

根据本公开的实施例，可以获取的中间件信息包括但不限于中间件类型、中间件版本号、运行容器、脚本库等信息。当某个中间件爆出0day漏洞时，可以第一时间排查企业使用的中间件版本是否受影响，是否需要安装补丁或进行升级，降低0day漏洞的威胁度。其中，可以基于中间件类型、版本号获取未授权路径信息。可以基于运行容器、脚本库获取后台敏感文件路径信息。其中，后台敏感文件路径信息可以包括开发者在使用不同语言编写的程序文件时遗留的配置文件路径信息。在获取上述未授权路径信息及遗留的配置文件路径信息后，可以有针对性的采取网络安全措施以防范安全风险。

根据本公开的实施例，在进行中间件识别后，信息采集方法还可以包括源代码审计。

图5示例性示出了源代码审计的方法的流程图。

如图5所示，该方法可以包括操作S501～操作S502。

在操作S501，基于预设的爬虫策略爬取网站源代码，提取页面路径信息。

在操作S502，将所述页面路径信息汇聚成路径字典。

根据本公开的实施例，所述页面路径信息包括绝对路径以及相对路径中的至少一种。所爬取的网站基于所述IP地址、域名、子域名以及所识别的中间件信息中的至少一种确定。

在本公开的实施例中，可以通过源代码审计获取网站的敏感信息。目前绝大多数的网页由三部分组成：HTML(结构)、CSS(样式)、JavaScript(动作)，浏览器会将代码解析成友好页面，但包括隐藏的表单、JavaScript代码在内的很多细节并不会在页面中进行展示。因此可以通过对源代码的审计获取到有价值的隐藏信息。为了获取隐藏的页面及其目录文件路径信息，可以对前期获取的IP地址、域名、子域名以及所识别的中间件对应的网站页面进行源代码的爬取和审计，以提取页面路径信息，并将所获取的页面路径信息汇聚成路径字典。所述路径字典可以为资产信息的集合或部分集合。

图6示例性示出了本公开的实施例的预设的爬虫策略的方法的流程图。

如图6所示，该方法可以包括操作S601～操作S602。

在操作S601，基于网站包含页面的数量对待爬取的网站按照页面数量从多到少的顺序排序。

在操作S602，对排序靠前的网站优先爬取。

根据本公开的实施例，在进行源代码审计时，采用的爬虫策略是大站优先策略。该策略的思路为：以网站为单位来判断网页的重要性。对于待爬取URL队列中的网页，根据所属网站归类，如果哪个网站等待下载的页面最多，则优先下载这些链接，其本质思想倾向于优先下载大型网站。大型网站往往包含更多的页面，其网页质量一般也较高，通过优先下载大型网站，可以优先获取更多有价值的信息，并且相对于广度优先遍历策略具有更高的效率。例如，某大型网站包含十个子页面，其中一个子页面进一步包含五个子页面。则以该大型网站作为初始爬取目标的效率高于随机抽取网页进行爬取的效率。

根据本公开的实施例，在使用爬虫爬取网站源码，包括js代码时，可以提取出网站的绝对路径以及相对路径，将这些路径信息汇聚成路径字典。例如：目标域名为a.com，通过爬虫获取到响应页面后通过正则匹配的方式，匹配相应页面中出现的路径信息，如果匹配到的是相对路径例如：/index.php，则需要加上当前绝对路径拼接成完整的路径，即a.com/index.php。如果匹配到的路径为绝对路径，则直接将该路径输出到路径字典。

根据本公开的实施例，在进行源代码审计后，信息采集方法还可以包括目录文件遍历的步骤。

图7示例性示出了本公开的实施例的目录文件遍历的方法的流程图。

如图7所示，该方法可以包括操作S701～操作S702。

在操作S701，基于所识别的中间件信息，遍历目录字典。

在操作S702，基于所述路径字典和目录字典获取目录文件路径信息。

根据本公开的实施例，所述目录字典基于中间件类型确定，所述目录字典包含对应于所述中间件的后台目录文件路径信息。

根据本公开的实施例，在获取目标中间件信息、源代码信息后，可以进一步收集Web应用的结构信息，查看网站特殊的目录和文件。例如：网站后台、Web管理入口、探针类文件、备份文件、配置文件等。可以通过如下两种方法收集目录和文件信息：一是手工构造，即利用自身经验及前期收集到的信息，构造路径，查看目录和文件是否存在。二是利用字典库进行暴力破解。

在本公开的实施例中，综合应用了收集目录和文件信息的两种手段。本公开实施例的目录文件遍历包括两个方面，一方面是遍历通过源代码审计获取到的路径字典。另一方面中是根据前期探测的中间件的不同，选择不同的目录字典。其中，根据不同中间件选择的目录字典可以为对应于所述中间件的现有的目录字典，其中主要包括中间件默认后台地址、已知中间件的未授权访问路径、常见后台路径等。例如，若判定网站采用的中间件是tomcat，则目录字典包括：/docs/jndi-datasource-examples-howto.html、/manager/html、/host-manager/html/docs/config/、/docs/security-howto.html、/docs/appdev/、/docs/、/docs/changelog.html、/docs/api/index.html、/docs/RELEASE-NOTES.txt、/manager/status、/docs/cluster-howto.html、/docs/deployer-howto.html、/docs/setup.html、/docs/realm-howto.html、favicon.ico、/examples/、/docs/manager-howto.html等。

根据本公开的实施例，进行目录遍历时不仅仅采用固定的路径字典来进行暴破，而是结合不同的中间件类型选择不同的目录字典，同时可以进一步梳理通过源代码审计获取到的路径字典，对其暴露的未授权漏洞进行排查，避免出现未授权访问漏洞。进一步提高了资产收集的全面性和准确性。

根据本公开的实施例，可以将利用本公开的资产收集方法获取的包括中间件信息、目标涉及的所有的目录文件路径信息以及对应于目录文件路径的访问状态信息，例如网页的响应状态中的至少一种进行输出，以全面收集网络资产。

本公开的实施例，通过将攻击者在渗透测试信息收集阶段进行的各个环节智能联动起来，简单输入资产信息收集的目标，即可自动化地进行资产信息收集，高效、准确地输出目标暴露在互联网中的路径、文件等资产信息，实现梳理企业暴露在互联网侧资产信息的目的。从攻击者的角度出发，利用渗透测试信息收集中的各个手段联动对企业资产信息进行收集，解决了企业内部资产梳理时消耗大量人力、时间的问题，同时也避免了资产遗漏的情况。通过及时发现未知的暴露在互联网中的资产信息，可以进行及时的风险防控，避免企业存在严重安全隐患。

本公开的另一个方面提供了一种资产收集装置。

图8示意性示出了根据本公开实施例的资产收集装置的框图。

如图8所示，本公开实施例的资产收集装置800可以包括任务设定模块801，信息采集模块802，结果输出模块803。

其中，任务设定模块801被配置为设定信息采集目标，所述目标包括域名和IP地址中的至少一种。

信息采集模块802被配置为基于选定的信息采集方法，进行信息采集。其中，基于所述信息采集方法基于信息采集目标的种类选定，所述信息采集方法包括子域名爆破和中间件识别中的至少一种。

结果输出模块803被配置为基于信息采集结果获取资产信息，其中，所述资产信息包括采集获取到的路径信息。

图9示意性示出了根据本公开实施例的信息采集模块的装置的框图。

如图9所示，信息采集模块802包括中间件识别子模块8021。其中，中间件识别子模块8021被配置为当信息采集目标种类为IP地址，或信息采集目标种类为域名且基于预设的规则选定中间件识别作为信息采集方法时，进行中间件识别。当信息采集目标种类为域名且选定子域名爆破为信息采集方法时，基于所述域名以及爆破获取的子域名共同进行中间件识别。

图10示意性示出了根据本公开另一实施例的信息采集模块的装置的框图。

如图10所示，信息采集模块802还包括子域名爆破子模块8022。其中，子域名爆破子模块8022被配置为当选定的信息采集方法包括子域名爆破时，进行子域名爆破。

图11示意性示出了根据本公开又一实施例的信息采集模块的装置的框图。

如图11所示，信息采集模块802还包括源代码审计子模块8023。

其中，所述源代码审计子模块8023被配置为基于预设的爬虫策略爬取网站源代码，提取页面路径信息，将所述页面路径信息汇聚成路径字典。其中，所述页面路径信息包括绝对路径和相对路径中的至少一种；所爬取的网站基于所述IP地址、所述域名、所述子域名以及所识别的中间件信息中的至少一种确定。

图12示意性示出了根据本公开再一实施例的信息采集模块的装置的框图。

如图12所示，信息采集模块802还包括目录文件遍历子模块8024。

其中，所述目录文件遍历子模块8024被配置为基于所识别的中间件信息，遍历目录字典，其中，所述目录字典基于中间件类型确定，所述目录字典包含对应于所述中间件的后台目录文件路径信息；基于所述路径字典和所述目录字典获取目录文件路径信息。

需要说明的是，装置部分实施例中各模块/单元/子单元等的实施方式、解决的技术问题、实现的功能、以及达到的技术效果分别与方法部分实施例中各对应的步骤的实施方式、解决的技术问题、实现的功能、以及达到的技术效果相同或类似。

根据本公开的实施例的模块、单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

例如，设定模块801，信息采集模块802，结果输出模块803、中间件识别子模块8021、子域名爆破子模块8022、源代码审计子模块8023，以及目录文件遍历子模块8024中的任意多个可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，设定模块801，信息采集模块802，结果输出模块803、中间件识别子模块8021、子域名爆破子模块8022、源代码审计子模块8023，以及目录文件遍历子模块8024中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，设定模块801，信息采集模块802，结果输出模块803、中间件识别子模块8021、子域名爆破子模块8022、源代码审计子模块8023，以及目录文件遍历子模块8024中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

图13示意性示出了根据本公开实施例的电子设备的方框图。图13示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图13所示，根据本公开实施例的电子设备900包括处理器901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 903中，存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备900还可以包括输入/输出(I/O)接口905，输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。

根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本公开还提供了一种计算机程序，该计算机程序包括一个或者多个程序。上述方法可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (17)

1.一种资产收集方法，其特征在于，包括如下步骤：

设定信息采集目标，其中，所述目标包括域名和IP地址中的至少一种；

基于所述信息采集目标的种类，选定信息采集方法，其中，所述信息采集方法包括子域名爆破和中间件识别中的至少一种；

基于选定的信息采集方法进行信息采集，采集信息包括子域名和中间件信息中的至少一种；

基于所述采集信息获取资产信息，其中，所述资产信息包括路径信息。

2.根据权利要求1所述的资产收集方法，其中，所述基于所述信息采集目标的类型，选定信息采集方法包括：

判断所述信息采集目标的种类；

当种类为IP地址时，选定中间件识别作为信息采集方法；

当种类为域名时，基于预设的规则选定子域名爆破或中间件识别作为信息采集方法，其中，当选定子域名爆破作为信息采集方法时，所述信息采集方法还包括：基于所述域名以及爆破获取的子域名共同进行中间件识别。

3.根据权利要求1所述的资产收集方法，其中，在进行中间件识别后，所述信息采集方法还包括源代码审计，

所述源代码审计包括：

基于预设的爬虫策略爬取网站源代码，提取页面路径信息，所述页面路径信息包括绝对路径以及相对路径中的至少一种；

将所述页面路径信息汇聚成路径字典，

其中，所爬取的网站基于所述IP地址、域名、子域名以及所识别的中间件信息中的至少一种确定。

4.根据权利要求3所述的资产收集方法，其中，所述预设的爬虫策略包括：

基于网站包含页面的数量对待爬取的网站按照页面数量从多到少的顺序排序；

对排序靠前的网站优先爬取。

5.根据权利要求3所述的资产收集方法，其中，在进行源代码审计后，所述信息采集方法还包括目录文件遍历，

所述目录文件遍历包括：

基于所识别的中间件信息，遍历目录字典，其中，所述目录字典基于中间件类型确定，所述目录字典包含对应于所述中间件的后台目录文件路径信息；

基于所述路径字典和目录字典获取目录文件路径信息。

6.根据权利要求5所述的资产收集方法，所述资产信息包括利用信息采集方法获取到的目录文件路径信息、中间件信息、对应于目录文件路径的访问状态信息中的至少一种。

7.根据权利要求1所述的资产收集方法，其中，所述中间件信息包括中间件类型、中间件版本号、运行容器、脚本库中的至少一种。

8.根据权利要求1所述的资产收集方法，其中，所述子域名爆破包括：

获取目标域名；

基于所述目标域名进行爆破，过滤泛解析子域名，其中，所述泛解析子域名基于查询获得的IP地址和生存时间获取；

基于过滤结果，获取非泛解析子域名。

9.根据权利要求1所述的资产收集方法，所述中间件识别基于中间件指纹信息进行，所述中间件信息基于中间件源码识别和目标交互识别中的至少一种方法获取。

10.一种资产收集装置，其特征在于，包括：

任务设定模块，配置为设定信息采集目标，所述目标包括域名和IP地址中的至少一种；

信息采集模块，配置为基于选定的信息采集方法，进行信息采集，其中，基于所述信息采集方法基于信息采集目标的种类选定，所述信息采集方法包括子域名爆破和中间件识别中的至少一种；

结果输出模块，配置为基于信息采集结果获取资产信息，其中，所述资产信息包括采集获取到的路径信息。

11.根据权利要求10所述的资产收集装置，其中，所述信息采集模块至少包括中间件识别子模块，所述中间件识别子模块被配置为当信息采集目标种类为IP地址，或信息采集目标种类为域名且基于预设的规则选定中间件识别作为信息采集方法时，进行中间件识别；当信息采集目标种类为域名且选定子域名爆破为信息采集方法时，基于所述域名以及爆破获取的子域名共同进行中间件识别。

12.根据权利要求11所述的资产收集装置，其中，所述信息采集模块还包括：

子域名爆破子模块，被配置为当选定的信息采集方法包括子域名爆破时，进行子域名爆破。

13.根据权利要求10所述的资产收集装置，其中，所述信息采集模块还包括源代码审计子模块，其中，

所述源代码审计子模块被配置为基于预设的爬虫策略爬取网站源代码，提取页面路径信息，将所述页面路径信息汇聚成路径字典，其中，所述页面路径信息包括绝对路径和相对路径中的至少一种；所爬取的网站基于所述IP地址、所述域名、所述子域名以及所识别的中间件信息中的至少一种确定。

14.根据权利要求10所述的资产收集装置，其中，所述信息采集模块还包括目录文件遍历子模块，其中，

所述目录文件遍历子模块被配置为基于所识别的中间件信息，遍历目录字典，其中，所述目录字典基于中间件类型确定，所述目录字典包含对应于所述中间件的后台目录文件路径信息；基于所述路径字典和所述目录字典获取目录文件路径信息。

15.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储可执行指令，所述可执行指令在被所述处理器执行时，实现根据权利要求1至9中任一项所述的方法。

16.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时，实现根据权利要求1至9中任一项所述的方法。

17.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现权利要求1至9中任一项所述的方法。

Images