CN107122450A - 一种网络图片舆情监测方法 - Google Patents

Abstract

本发明提供了一种网络图片舆情监测方法，其具体包括如下步骤：S1、根据需要搜索的信息输入关键字进行全网爬虫搜索相关图片；S2、步骤S1中搜索到的图片集作为训练样本数据，对样本图片中的目标图像进行标注；S3、将步骤S2中标注过的样本图片集交给训练机进行模式训练，得到具备识别目标图像能力的识别引擎；S4、识别引擎在全网进行全网爬虫搜索相关信息并进行识别。本发明基于深度学习的图像识别先进技术和网络爬虫技术，基于全网图片寻找相关纯图片、图片&文字、纯文字的舆情信息，填补了获取网络舆情信息中图片舆情这一缺口，能够全方位地获知网络舆情。

Description

一种网络图片舆情监测方法

技术领域

本发明涉及一种网络舆情监测方法。

背景技术

随着互联网在全球范围内的大量普及，网络媒体成为传播社会信息的主要载体之一，并且网络媒体包含了专业媒体以及群众、消费者等更广泛的声音。品牌企业需要知道消费者、媒体在网络各个平台上对自身品牌形象、产品的评价，政府部门以及公众人物也需要了解网络各个渠道群众、媒体的正负面声音。对于政府部门、品牌企业、公众人物来说，了解网络舆情有利于发现问题并快速对自身作出调整。

目前的网络舆情监测方法均是通过关键字匹配或文字OCR识别技术，抓取网络各个平台上相关的新闻、社交动态、网民评论等网络舆情信息。在这种情况下，只有包含相关关键字文本的数据才会被处理，声量只是文字声量，针对只有图片而没有相关关键字的内容却不能被搜索到。例如，越来越多的消费者喜欢用图片来表达情感，他们可能没有提及到某些关键词，但却用图片传递了同样的信息，微博真实用户每日所发的图片就达数百万张。目前由于缺乏有效的识别手段，图片数据是长期存在的监测盲区。

中国专利201310395230.8公开了一种图片搜索系统，，包括以下程序：(1)图片搜索系统进行关键字搜索，关键字包括颜色、形状、质地、通用名称和品质表征，(2)进行图片检索，用户首先对检索图片进行分类，标示出主要进行检索的区域，使用图片检索系统中的抓取键抓取图片中的关键部分，然后点击确认按钮进行检索，图片检索系统会自动检索出所有含有该抓取部分的图片集，并且按照相似度，进行排列，(3)进行图片对比，所述图片搜索系统还包括图片对比功能，图片搜索软件将用户图片与搜索到的图片进行对比，找出其中的相同点和不同点，确认图片的相似度和相似比例。通过上述方式，本发明图片搜索系统不仅能够通过关键字进行图片搜索，还能够通过抓取图片的关键部分进行图片搜索，并且能够将搜索到的图片与原始图片进行对比，使用效果好、检索效率高、有效识别出山寨图片、弥补了现阶段对于图片搜索和图片对比的空白。

中国专利201410189773.9公开了一种图片搜索方法及装置，其中，图片搜索方法包括：获得客户端发送的当前图片，从当前图片中提取出当前特征，根据当前特征对倒排索引库进行检索，获取倒排索引值，其中，倒排索引库中包含多个与图片的特征一一对应的链表；根据倒排索引值对对应的链表进行归并排序处理；以及根据处理后的结果向客户端返回检索结果，以便向用户显示。本发明实施例，提取获得的当前图片的当前特征，根据当前特征对包含多个链表的倒排索引库进行检索获取倒排索引值，根据倒排索引值对对应的链表进行归并排序处理，并向用户显示检索结果，操作方便、实现简单，克服了依赖文字的输入来获取结果的不便。

上述两个专利都在图片信息搜索方面提供了搜索方法，依据标记关键部分或者特征索引获得与目标图片的相似度和相关性并进行排序处理，根据排序结果向用户显示检索结果。此方法并不能全面完整地获得相关纯图片的搜索结果，因此无法全方位地获知网络舆情信息。

发明内容

针对现有技术的缺点，本发明的目的是提供一种图片舆情信息搜索方法，使用该方法可以将网络上不包含相关关键字的纯图片信息一并搜索到，使获得的舆情信息更全面，更确切。

为了实现上述目的，本发明提供了一种网络图片舆情监测方法用来监测网络舆情信息，该方法具体包括如下步骤：

S1、根据需要搜索的信息输入关键字进行全网爬虫搜索相关图片；

S2、所述步骤S1中搜索到的图片集作为训练样本数据，对样本图片中的目标图像进行标注；

S3、将所述步骤S2中标注过的样本图片集交给训练机进行模式训练，得到具备识别目标图像能力的识别引擎；

S4、所述识别引擎在全网进行全网爬虫搜索相关信息并进行识别。

本发明基于深度学习的图像识别先进技术和网络爬虫技术进行网络图片舆情信息监测。通过用户关键字信息全网爬虫搜索相关的网络图片作为训练机模式训练学习的样本图片集，训练完成后得到具备图像识别能力的识别引擎，再通过识别引擎基于全网爬虫搜索相关图片并识别抓取，此时不仅能够搜索到包含关键字的图片还能搜索到不包含关键字的纯图片。因此，通过本方法监测舆情填补了纯图片舆情这一缺口，能够全方位地获知网络舆情。

根据本发明另一具体实施方式，步骤S3模式训练进一步包括目标检测训练和分类训练。

根据本发明另一具体实施方式，目标检测训练根据图像物体检测模型进行目标检测与提取，该图像物体检测模型基于卷积神经网络建立。

根据本发明另一具体实施方式，分类训练对目标检测训练提取的结果进行二分类训练，人工将提取的结果标注为录入物体和非录入物体。

根据本发明另一具体实施方式，舆情监测方法进一步包括将识别结果进行统计整理并提交在网页上显示，显示结果包括纯图片、图片&文字、纯文字的声量和纯图片、图片&文字、纯文字的互动量。

根据本发明另一具体实施方式，步骤S1和S4均采用爬虫系统搜索，所述爬虫系统为全网分布式爬虫系统，由JAVA编写，采取多线程并行抓取文本+图片的模式，步骤S1根据信息关键字搜索部分图片作为样本图片，步骤S4搜索全网所有图片。

根据本发明另一具体实施方式，爬虫系统搜索包括如下步骤：

1、通过广度优先算法遍历指定超链接对应的网站；

2、对网站的返回解析出相关图片的链接；

3、对步骤2中获得的链接进行图片的下载。

与现有技术相比，本发明具备如下有益效果：

1、融合了图片监测能力的舆情监测方法：现有技术使用关键字匹配技术监测网络舆情，局限于文本监测以及包含相关关键字的图片监测，本方法在现有技术的基础上融合了图像识别技术，除了能够监测包含关键字的舆情信息外还可监测不包含相关关键字的纯图片信息，因此能够全方位地获取政府部门、品牌企业、公众人物在全网的纯文字、文字&图片、纯图片的舆情信息。

2、本发明在模式训练中，目标检测训练完成后再进行分类训练，该分类训练只进行二分类，将目标检测后提取的结果严格地划分为录入物体和非录入物体，对目标检测的结果进一步精确地识别，相较于目前使用的概率分类器有更高的准确率。

3、全网爬虫：现有技术通过爬虫技术抓取全网关键字文本为监测提供数据，不可避免地遗漏一些关键的图片数据，本系统在现有技术基础上开发了全网分布式爬虫系统，采取了抓取文本+图片的方式，保证了数据的完整性。

下面结合附图对本发明作进一步的详细说明。

附图说明

图1是实施例1的网络图片舆情监测方法模块划分图；

图2是实施例1的网络图片舆情监测方法工作流程图.

具体实施方式

实施例1

本实施例提供了一种网络图片舆情监测方法，具体步骤如下：

S1、根据需要搜索的信息输入关键字进行全网爬虫搜索相关图片；

全网爬虫：爬虫系统是通过构造参数，用程序模拟用户的浏览器的网页请求来获取网站的返回信息，再对网站返回的信息进行解析，最后得到所需要的数据。步骤如下：

1、通过广度优先算法遍历指定超链接对应的网站；

2、对网站的返回解析出相关图片的链接；

3、对步骤2中获得的链接进行图片的下载。

本实施例在现有技术基础上采用JAVA编程开发了全网分布式爬虫系统，采取了抓取文本+图片的方式，保证了数据的完整性。采取多线程并行抓取的模式，尽可能地加大带宽的利用率。

S2、将步骤S1中搜索到的图片集作为训练样本数据，对样本图片中的目标图像进行标注；

训练样本数据为爬虫系统全网爬虫抓取到的样本图片集，并将样本图片集中的图片需要识别部分的位置进行标注，使训练机能够识别出图片中的标注。模式训练时，不仅需要包含需要识别目标部分的图片给训练机识别正确，还需要一些不包含识别目标的图片给训练机识别错误，从而达到验证的目的，因此该部分图片为验证图片集。该验证图片集通过全网爬虫搜索获得。

S3、将所述步骤S2中标注过的样本图片集交给训练机进行模式训练，得到具备识别目标图像能力的识别引擎；

本实施例中的模式训练基于深度学习的图像识别技术对训练机进行多层模型训练，深度学习使用的模型主要是类似神经网络的层状结构，每一层都相当于一个更加抽象的特征表示，各层由若干个参数进行连接，最后一层将抽象的特征进行分类，模型的训练就是自动调节这些参数的过程。最后得到的模型就是模型的结构以及模型里面各种各样的参数。

模式训练包括目标检测训练和分类训练。模型的训练就是每次将一批样本图片集输入模型中，正向传递得到输出，如果模型的输出和图片标定的不一致，则认为模型错误，这时，模型就会计算对应的误差值(loss)，然后反向修正各层的参数。训练进行数十万次的迭代，直到误差值小于一定的值(假设为1x10^-6)。训练时首先采用目标检测训练，目标检测训练完后再进行分类训练。

目标检测训练采用图像物体检测模型，将样本图片集中识别为录入物体的图片检测和提取出来。图像物体检测模型基于卷积神经网络建立，卷积神经网络是近年发展起来，并引起广泛重视的一种高效识别方法。它是一种前馈式神经网络，主要用来识别位移、缩放及其他形式扭曲不变性的二维图形。卷积神经网络基本结构包括两层，其一为特征提取层，每个神经元的输入与前一层的局部接受域相连，并提取该局部的特征。一旦该局部特征被提取后，它与其它特征间的位置关系也随之确定下来；其二是特征映射层，网络的每个计算层由多个特征映射组成，每个特征映射是一个平面，平面上所有神经元的权值相等。由于一个映射面上的神经元共享权值，因而减少了网络自由参数的个数。卷积神经网络中的每一个卷积层都紧跟着一个用来求局部平均与二次提取的计算层，这种特有的两次特征提取结构减小了特征分辨率。

因为目标检测的结果包含一定的误判，为了达到更精确的识别，再次采用分类训练进行训练。针对上一步检测提取出来的图片集，将图片集继续分类为录入物体和非录入物体，非录入物体则不是目标图片，不需要提取的，分类训练后的录入物体则是更精确的搜索结果。

模式训练出来后将会用到实际分类中，如果模型在实际分类中的效果不好，将完善训练集，然后在之前训练出来的模型的基础上进行二次训练、完善。通过不断地训练，训练机能够识别带有标注物体的图片，具备了一定的识别目标图片的能力。识别引擎是训练机训练后得出的一个模型，该模型具备图像识别的能力，并为训练机提供若干接口，通过这个接口可以调用其他程序(例如爬虫系统)，从而实现网络图片舆情监测的功能。

S4、所述识别引擎在全网进行全网爬虫搜索相关信息并进行识别。

将带有训练机的识别引擎放入到全网中进行搜索，利用全网爬虫技术抓取文本+图片的方式，抓取全网络中的图片并提交给识别引擎识别，识别引擎判断所抓取的图片中是否出现目标物体，若出现则保留，否则就丢弃该图片。根据识别引擎识别后保留下来的图片，进一步查看该图片所对应的信息或文字评论，进而统计得出关于该物体在网络上的舆情信息，将统计整理后的信息提交在网页上显示。用户能在电脑端和移动端进入图片舆情网站，登录后即可查看相关物体的纯图片、图片&文字、纯文字声量和纯图片、图片&文字、纯文字互动量以及所有相关图片的详情。其中声量：图片/文字中包含指定目标的信息，计为一个声量；互动量：针对声量的转/评/赞的总和；纯图片：图片提及了目标对象，而文字未提及目标对象；纯文字：文字提及了目标对象，而图片未提及目标对象；图片&文字：图片和文字都提及目标对象。

图1为本实施例的网络图片舆情检测方法模块划分图；其主要包括全网爬虫、模式训练、识别引擎、网页显示。

图2为本实施例网络图片舆情监测方法的工作流程图。如图所示，首先根据用户关键字全网爬虫搜索相关图片，将搜索到的图片集进行标注作为模式训练的样本图片集，将不包含目标图像的图片集作为验证图片集。将样本图片集和验证图片集提交给训练机依次进行目标检测训练和分类训练，目标检测训练为对图片中标注为目标图像的部分进行检测与提取，分类训练是在目标检测训练基础之上将识别结果分为录入物体和非录入物体进行识别，识别出的录入物体则为更精确的结果。经过训练后训练机具备了一定的图像识别能力，将该训练机引入到识别引擎，识别引擎是具有输入输出接口并能调用各种程序的一个模型，用户需要搜索相关信息时，识别引擎调用爬虫系统全网抓取文本+图片，再调用训练机的图像识别模型依次对图片进行识别，识别认为正确的则保留，不正确则放弃，从而保留的信息为用户所需要的舆情信息。根据抓取到的舆情信息进行统计整理，归纳出纯图片、图片&文字、纯文字声量和纯图片、图片&文字、纯文字互动量以及所有相关图片的详情并提交网页显示，用户通过网页可查看舆情信息。

虽然本发明以较佳实施例揭露如上，但并非用以限定本发明实施的范围。任何本领域的普通技术人员，在不脱离本发明的发明范围内，当可作些许的改进，即凡是依照本发明所做的同等改进，应为本发明的范围所涵盖。

Claims (7)

1.一种网络图片舆情监测方法，其特征在于，所述舆情监测方法包括如下步骤：

S1、根据需要搜索的信息输入关键字进行全网爬虫搜索相关图片；

S2、所述步骤S1中搜索到的图片集作为训练样本数据，对样本图片中的目标图像进行标注；

S3、将所述步骤S2中标注过的样本图片集交给训练机进行模式训练，得到具备识别目标图像能力的识别引擎；

S4、所述识别引擎在全网进行全网爬虫搜索相关信息并进行识别。

2.如权利要求1所述的舆情监测方法，其特征在于，所述步骤S3模式训练进一步包括目标检测训练和分类训练。

3.如权利要求2所述的舆情监测方法，其特征在于，所述目标检测训练根据图像物体检测模型进行目标检测与提取，所述图像物体检测模型基于卷积神经网络建立。

4.如权利要求2所述的舆情监测方法，其特征在于，所述分类训练对目标检测训练提取的结果进行二分类训练，人工将提取的结果标注为录入物体和非录入物体。

5.如权利要求1所述的舆情监测方法，其特征在于，所述舆情监测方法进一步包括将识别结果进行统计整理并提交在网页上显示，显示结果包括纯图片、图片&文字、纯文字的声量和纯图片、图片&文字、纯文字的互动量。

6.如权利要求1所述的舆情监测方法，其特征在于，所述步骤S1和S4均采用爬虫系统搜索，所述爬虫系统为全网分布式爬虫系统，由JAVA编写，采取多线程并行抓取文本+图片的模式，所述步骤S1根据信息关键字搜索部分图片作为样本图片，所述步骤S4搜索全网所有图片。

7.如权利要求6所述的舆情监测方法，其特征在于，所述爬虫系统搜索包括如下步骤：

1)、通过广度优先算法遍历指定超链接对应的网站；

2)、对网站的返回解析出相关图片的链接；

3)、对步骤2中获得的链接进行图片的下载。