CN110663057A - 虚假投稿过滤装置、虚假投稿过滤系统、虚假投稿过滤方法和虚假投稿过滤程序 - Google Patents

Abstract

在与虚假投稿过滤装置相当的SNS服务器(103)中，事项确定部(604)对通知发生某个事项的投稿的内容进行分析，确定事项的发生场所(721)。询问对象确定部(605)检索询问对象数据库(613)，确定与由事项确定部(604)确定的场所(721)对应的询问对象。询问部(606)向由询问对象确定部(605)确定的询问对象发送根据1个以上的设备的观测结果确认有无发生事项的请求。询问部(606)接收针对请求的响应。结果反映部(607)根据由询问部(606)接收到的响应所示的确认结果判断投稿的内容的真伪。结果反映部(607)对投稿执行与判断结果对应的处理。

Description

虚假投稿过滤装置、虚假投稿过滤系统、虚假投稿过滤方法和 虚假投稿过滤程序

技术领域

本发明涉及虚假投稿过滤装置、虚假投稿过滤系统、虚假投稿过滤方法和虚假投稿过滤程序。

背景技术

以Twitter(注册商标)、Facebook(注册商标)和GREE(注册商标)等SNS为代表的社交媒体正在广泛普及。“SNS”是Social Networking Service(社交网络服务)的简称。在社交媒体上，用户个人能够自由发布信息并进行双向的交流。

但是，用户个人能够自由进行信息发布，因此，在社交媒体上充斥着包含诽谤中伤他人、煽动恐怖而使他人陷入不安、违反公序良俗和道德的字面或图像的内容。由此，产生社交媒体上的起火、民事指控和刑事指控等社会动乱。

近年来，已研究并制定出针对在一定期间内未进行恶意内容的删除或用户帐号的删除的运营商处以罚款等刑事处罚的法律。服务提供运营商如果在一定期间内不删除恶意内容或者不删除用户帐号，则将受到法律的制裁。因此，SNS等服务提供运营商通过投稿的内容的手动监视和用户的举报等删除恶意内容或者删除用户帐号。

在专利文献1中记载有如下方法：以能够从传感器网络和SNS等自由取得全部大数据为前提，通过在得到一定的置信度之前，反复从不同的信息源得到信息，对信息的可靠性进行分析。

在专利文献2中记载有如下方法：通过近距离无线通信测定存在于投稿者周边的智能手机和移动电话等终端装置的数量，将终端数作为起哄的数量进行处理，根据起哄的数量和紧急车辆的出动历史，对投稿消息的真实性进行评价。

在专利文献3中记载有如下方法：根据违反投稿消息的消息投稿数判断虚假信息。

现有技术文献

专利文献

专利文献1：日本特开2016-224710号公报

专利文献2：日本特开2016-15008号公报

专利文献3：日本特开2015-5057号公报

发明内容

发明要解决的课题

以往，SNS等服务提供运营商通过投稿的内容的手动监视和用户的举报等删除恶意内容或者删除用户帐号。因此，投稿的内容等的删除滞后，恶意内容扩散。由此，无法防止社会动乱。

在专利文献1记载的技术中，无法确认针对SNS的投稿消息的真伪。此外，传感器网络的信息对于个人和企业等组织而言是机密信息。因此，很难假设SNS等服务提供运营商能够自由取得传感器网络的信息等全部信息。即，专利文献1记载的技术是不现实的。

在专利文献2和专利文献3记载的技术中，没有根据来自传感器和监视摄像机这样的设备的监视信息进行真伪评价。

本发明的目的在于，同时实现根据设备的观测结果判断投稿内容的真伪并迅速进行针对虚假投稿的措施，以及将设备的观测结果作为机密信息进行处理这双方。

用于解决课题的手段

本发明的一个方式的虚假投稿过滤装置具有：事项确定部，其对通知发生某个事项的投稿的内容进行分析，确定所述事项的发生场所；询问对象确定部，其检索询问对象数据库，确定与由所述事项确定部确定的场所对应的询问对象，所述询问对象数据库存储有将由1个以上的设备观测到的场所和对所述1个以上的设备进行管理的管理主体的询问对象对应起来的数据；询问部，其向由所述询问对象确定部确定的询问对象发送根据所述1个以上的设备的观测结果确认有无发生所述事项的请求，接收针对所述请求的响应；以及结果反映部，其根据由所述询问部接收到的响应所示的确认结果判断所述投稿的内容的真伪，对所述投稿执行与判断结果对应的处理。

发明效果

在本发明中，由对设备进行管理的管理主体进行根据设备的观测结果确认投稿的内容正确与否的作业，因此，能够将设备的观测结果作为机密信息进行处理。根据对投稿的内容进行分析而得到的结果选择管理主体的询问对象，因此，能够迅速地进行询问。因此，能够同时实现根据设备的观测结果判断投稿内容的真伪并迅速进行针对虚假投稿的措施，以及将设备的观测结果作为机密信息进行处理这双方。

附图说明

图1是示出实施方式1的虚假投稿过滤系统的结构的图。

图2是示出实施方式1的终端的结构的框图。

图3是示出实施方式1的SNS服务器的结构的框图。

图4是示出实施方式1的投稿判断部的结构的框图。

图5是示出实施方式1的事项确定部的结构的框图。

图6是示出实施方式1的场所确定部的结构的框图。

图7是示出实施方式1的DS服务器的结构的框图。

图8是示出实施方式1的设备管理装置的结构的框图。

图9是示出实施方式1的设备数据库中登记的对应表的图。

图10是示出实施方式1的询问对象数据库中登记的对应表的图。

图11是示出实施方式1的状态变化数据库中登记的对应表的图。

图12是示出实施方式1的设置场所数据库中登记的对应表的图。

图13是示出实施方式1的虚假投稿过滤系统的通信流程的时序图。

图14是示出实施方式1的SNS服务器的处理流程的流程图。

图15是示出实施方式1的SNS服务器的处理流程的流程图。

图16是示出实施方式1的DS服务器的处理流程的流程图。

图17是示出实施方式1的设备管理装置的处理流程的流程图。

图18是示出实施方式1的设备管理装置的处理流程的流程图。

图19是示出实施方式1的投稿判断部的处理流程的流程图。

图20是示出实施方式1的事项确定部的处理流程的流程图。

图21是示出实施方式1的场所确定部的处理流程的流程图。

图22是示出实施方式1的场所确定部的处理流程的流程图。

图23是示出实施方式1的场所确定部的处理流程的流程图。

图24是示出实施方式2的终端的结构的框图。

图25是示出实施方式2的SNS服务器的结构的框图。

图26是示出实施方式2的设备管理装置的结构的框图。

图27是示出实施方式2的设备数据库中登记的对应表的图。

图28是示出实施方式2的设置场所数据库中登记的对应表的图。

图29是示出实施方式2的虚假投稿过滤系统的通信流程的时序图。

图30是示出实施方式2的终端的处理流程的流程图。

图31是示出实施方式2的终端的处理流程的流程图。

图32是示出实施方式2的设备管理装置的处理流程的流程图。

图33是示出实施方式3的虚假投稿过滤系统的结构的图。

图34是示出实施方式3的网络装置的结构的框图。

图35是示出实施方式3的设备数据库中登记的对应表的图。

图36是示出实施方式3的询问对象数据库中登记的对应表的图。

图37是示出实施方式3的虚假投稿过滤系统的通信流程的时序图。

图38是示出实施方式3的网络装置的处理流程的流程图。

图39是示出实施方式3的网络装置的处理流程的流程图。

图40是示出实施方式3的设备管理装置的处理流程的流程图。

具体实施方式

下面，使用附图对本发明的实施方式进行说明。在各图中，对相同或相当的部分标注相同的标号。在实施方式的说明中，针对相同或相当的部分适当省略或简化说明。另外，本发明不限于以下说明的实施方式，能够根据需要进行各种变更。例如，也可以组合实施以下说明的实施方式中的2个以上的实施方式。或者，也可以部分地实施以下说明的实施方式中的1个实施方式或2个以上的实施方式的组合。

实施方式1

使用图1～图23对本实施方式进行说明。

***结构的说明***

参照图1对本实施方式的虚假投稿过滤系统100的结构进行说明。

虚假投稿过滤系统100具有多个终端102a、102b、102c、…、多个SNS服务器103a、103b、103c、…、DS服务器104以及多个设备管理装置105a、105b、105c、…。“DS”是DirectoryService(目录服务器)的简称。

另外，虚假投稿过滤系统100也可以仅具有1个终端102a来代替多个终端102a、102b、102c、…。虚假投稿过滤系统100也可以仅具有1个SNS服务器103a来代替多个SNS服务器103a、103b、103c、…。虚假投稿过滤系统100也可以具有多个DS服务器104a、104b、104c、…。

下面，将多个终端102a、102b、102c、…统称作终端102。将多个SNS服务器103a、103b、103c、…统称作SNS服务器103。将多个设备管理装置105a、105b、105c、…统称作设备管理装置105。

SNS服务器103经由互联网101而与用户在投稿和阅览中使用的终端102连接。终端102例如是PC或智能手机。“PC”是Personal Computer(个人计算机)的简称。

SNS服务器103经由互联网101而与对1个以上的设备进行管理的管理主体即设备管理装置105和对管理主体的询问对象进行管理的DS服务器104连接。

在本实施方式中，SNS服务器103相当于虚假投稿过滤装置。SNS服务器103是从用户的终端102受理投稿并在网络上公开投稿的服务器。在本实施方式中，投稿是针对SNS的投稿，但是，也可以是针对SNS以外的服务或站点的投稿。在本实施方式中，公开对象网络是互联网101，但是，也可以是企业的内联网等其他种类的网络。

参照图2对本实施方式的终端102的结构进行说明。

终端102是计算机。终端102具有处理器201，并且具有存储器202、辅助存储装置203、输入输出接口204和通信模块205这样的其他硬件。处理器201经由总线206而与其他硬件连接，对这些其他硬件进行控制。

终端102具有投稿阅览部601。投稿阅览部601的功能通过软件实现。

处理器201是执行投稿程序的装置。投稿程序是实现投稿阅览部601的功能的程序。具体而言，投稿程序是网页浏览器或专用应用。处理器201例如是CPU。“CPU”是CentralProcessing Unit(中央处理单元)的简称。

存储器202和辅助存储装置203是存储投稿程序的装置。存储器202例如是闪存或RAM。“RAM”是Random Access Memory(随机存取存储器)的简称。辅助存储装置203例如是闪存或HDD。“HDD”是Hard Disk Drive(硬盘驱动器)的简称。

投稿程序预先存储在辅助存储装置203中。投稿程序载入存储器202，读入处理器201，由处理器201执行。在辅助存储装置203中，不仅存储有投稿程序还存储有OS。“OS”是Operating System(操作系统)的简称。处理器201一边执行OS一边执行投稿程序。

另外，投稿程序的一部分或全部也可以组入OS中。

输入输出接口204包含连接未图示的输入设备的输入接口以及连接未图示的显示器的输出接口。输入设备是为了向投稿程序输入数据而由用户操作的设备。输入设备例如是鼠标、键盘或触摸面板。显示器是在画面中显示从投稿程序输出的数据的设备。显示器例如是LCD。“LCD”是Liquid Crystal Display(液晶显示器)的简称。

通信模块205包含接收被输入到投稿程序的数据的接收机以及发送从投稿程序输出的数据的发送机。通信模块205例如是通信芯片或NIC。“NIC”是Network Interface Card(网络接口卡)的简称。通信模块205直接或经由LAN而与互联网101连接。“LAN”是LocalArea Network(局域网)的简称。

终端102也可以具有代替处理器201的多个处理器。这些多个处理器分担执行投稿程序。各个处理器例如是CPU。

由投稿程序利用、处理或输出的数据、信息、信号值和变量值存储在存储器202、辅助存储装置203或处理器201内的寄存器或高速缓冲存储器中。

投稿程序是使计算机执行将投稿阅览部601的“部”改写成“处理”的处理的程序。或者，投稿程序是使计算机执行将投稿阅览部601的“部”改写成“步骤”的步骤的程序。投稿程序可以记录在计算机能读取的介质中来提供，也可以作为程序产品来提供。

参照图3对本实施方式的SNS服务器103的结构进行说明。

SNS服务器103是计算机。SNS服务器103具有处理器301，并且具有存储器302、辅助存储装置303、输入输出接口304和通信模块305这样的其他硬件。处理器301经由总线306而与其他硬件连接，对这些其他硬件进行控制。

SNS服务器103具有SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606、结果反映部607、投稿数据库611、设备数据库612。SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能通过软件实现。投稿数据库611和设备数据库612也可以构筑在存储器302中，但是，在本实施方式中构筑在辅助存储装置303中。投稿数据库611是对来自终端102的投稿消息进行保存和管理的数据库。设备数据库612容后再述。

处理器301是执行SNS程序和虚假投稿过滤程序的装置。SNS程序是实现SNS提供部602的功能的程序。虚假投稿过滤程序是实现投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能的程序。处理器301例如是CPU。

存储器302和辅助存储装置303是存储SNS程序和虚假投稿过滤程序的装置。存储器302例如是闪存或RAM。辅助存储装置303例如是闪存或HDD。

SNS程序和虚假投稿过滤程序预先存储在辅助存储装置303中。SNS程序和虚假投稿过滤程序载入存储器302，读入处理器301，由处理器301执行。在辅助存储装置303中，不仅存储有SNS程序和虚假投稿过滤程序还存储有OS。处理器301一边执行OS一边执行SNS程序和虚假投稿过滤程序。

另外，SNS程序和虚假投稿过滤程序的一部分或全部也可以组入OS中。

输入输出接口304包含连接未图示的输入设备的输入接口以及连接未图示的显示器的输出接口。输入设备是为了向SNS程序和虚假投稿过滤程序输入数据而由用户操作的设备。输入设备例如是鼠标、键盘或触摸面板。显示器是在画面中显示从SNS程序和虚假投稿过滤程序输出的数据的设备。显示器例如是LCD。

通信模块305包含接收被输入到SNS程序和虚假投稿过滤程序的数据的接收机以及发送从SNS程序和虚假投稿过滤程序输出的数据的发送机。通信模块305例如是通信芯片或NIC。通信模块305直接或经由LAN而与互联网101连接。

SNS服务器103也可以具有代替处理器301的多个处理器。这些多个处理器分担执行SNS程序和虚假投稿过滤程序。各个处理器例如是CPU。

由SNS程序和虚假投稿过滤程序利用、处理或输出的数据、信息、信号值和变量值存储在存储器302、辅助存储装置303或处理器301内的寄存器或高速缓冲存储器中。

SNS程序是使计算机执行将SNS提供部602的“部”改写成“处理”的处理的程序。或者，SNS程序是使计算机执行将SNS提供部602的“部”改写成“步骤”的步骤的程序。SNS程序可以记录在计算机能读取的介质中来提供，也可以作为程序产品来提供。

虚假投稿过滤程序是使计算机执行将投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的“部”改写成“处理”的各处理的程序。或者，虚假投稿过滤程序是使计算机执行将投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的“部”改写成“步骤”的各步骤的程序。虚假投稿过滤程序可以记录在计算机能读取的介质中来提供，也可以作为程序产品来提供。

参照图4对投稿判断部603的结构进行说明。

投稿判断部603具有威胁判断部641和玩笑判断部642。

参照图5对事项确定部604的结构进行说明。

事项确定部604具有威胁提取部651和场所确定部652。

参照图6对场所确定部652的结构进行说明。

场所确定部652具有第1信息提取部661、第2信息提取部662、第3信息提取部663、第4信息提取部664和场所判断部665。

参照图7对本实施方式的DS服务器104的结构进行说明。

DS服务器104是计算机。DS服务器104具有处理器401，并且具有存储器402、辅助存储装置403、输入输出接口404和通信模块405这样的其他硬件。处理器401经由总线406而与其他硬件连接，对这些其他硬件进行控制。

DS服务器104具有检索处理部608和询问对象数据库613。检索处理部608的功能通过软件实现。询问对象数据库613也可以构筑在存储器402中，但是，在本实施方式中构筑在辅助存储装置403中。询问对象数据库613容后再述。

处理器401是执行检索程序的装置。检索程序是实现检索处理部608的功能的程序。处理器401例如是CPU。

存储器402和辅助存储装置403是存储检索程序的装置。存储器402例如是闪存或RAM。辅助存储装置403例如是闪存或HDD。

检索程序预先存储在辅助存储装置403中。检索程序载入存储器402，读入处理器401，由处理器401执行。在辅助存储装置403中，不仅存储有检索程序还存储有OS。处理器401一边执行OS一边执行检索程序。

另外，检索程序的一部分或全部也可以组入OS中。

输入输出接口404包含连接未图示的输入设备的输入接口以及连接未图示的显示器的输出接口。输入设备是为了向检索程序输入数据而由用户操作的设备。输入设备例如是鼠标、键盘或触摸面板。显示器是在画面中显示从检索程序输出的数据的设备。显示器例如是LCD。

通信模块405包含接收被输入到检索程序的数据的接收机以及发送从检索程序输出的数据的发送机。通信模块405例如是通信芯片或NIC。通信模块405直接或经由LAN而与互联网101连接。

DS服务器104也可以具有代替处理器401的多个处理器。这些多个处理器分担执行检索程序。各个处理器例如是CPU。

由检索程序利用、处理或输出的数据、信息、信号值和变量值存储在存储器402、辅助存储装置403或处理器401内的寄存器或高速缓冲存储器中。

检索程序是使计算机执行将检索处理部608的“部”改写成“处理”的各处理的程序。或者，检索程序是使计算机执行将检索处理部608的“部”改写成“步骤”的各步骤的程序。检索程序可以记录在计算机能读取的介质中来提供，也可以作为程序产品来提供。

参照图8对本实施方式的设备管理装置105的结构进行说明。

设备管理装置105是计算机。设备管理装置105具有处理器501，并且具有存储器502、辅助存储装置503、输入输出接口504、第1通信模块505和第2通信模块507这样的其他硬件。处理器501经由总线506而与其他硬件连接，对这些其他硬件进行控制。

设备管理装置105具有观测部621、询问响应部622、数据取得部623、事项判断部624、观测数据库631、状态变化数据库632和设置场所数据库633。观测部621、询问响应部622、数据取得部623和事项判断部624的功能通过软件实现。观测数据库631、状态变化数据库632和设置场所数据库633也可以构筑在存储器502中，但是，在本实施方式中构筑在辅助存储装置503中。观测数据库631是将1个以上的设备的观测结果作为观测数据进行保存和管理的数据库。状态变化数据库632和设置场所数据库633容后再述。

处理器501是执行设备管理程序的装置。设备管理程序是实现观测部621、询问响应部622、数据取得部623和事项判断部624的功能的程序。处理器501例如是CPU。

存储器502和辅助存储装置503是存储设备管理程序的装置。存储器502例如是闪存或RAM。辅助存储装置503例如是闪存或HDD。

设备管理程序预先存储在辅助存储装置503中。设备管理程序载入存储器502，读入处理器501，由处理器501执行。在辅助存储装置503中，不仅存储有设备管理程序还存储有OS。处理器501一边执行OS一边执行设备管理程序。

另外，设备管理程序的一部分或全部也可以组入OS中。

输入输出接口504包含连接未图示的输入设备的输入接口以及连接未图示的显示器的输出接口。输入设备是为了向设备管理程序输入数据而由设备的管理者操作的设备。输入设备例如是鼠标、键盘或触摸面板。显示器是在画面中显示从设备管理程序输出的数据的设备。显示器例如是LCD。

第1通信模块505包含接收被输入到设备管理程序的数据的接收机以及发送从设备管理程序输出的数据的发送机。第1通信模块505例如是通信芯片或NIC。第1通信模块505直接或经由LAN而与互联网101连接。

第2通信模块507包含从1个以上的设备接收数据的接收机以及向1个以上的设备发送数据的发送机。第2通信模块507例如是通信芯片或NIC。第2通信模块507经由网络111而与1个以上的设备连接。在本实施方式中，作为1个以上的设备，存在多个监视摄像机112以及热感知传感器、烟传感器和水位传感器这样的多个传感器113。

设备管理装置105也可以具有代替处理器501的多个处理器。这些多个处理器分担执行设备管理程序。各个处理器例如是CPU。

由设备管理程序利用、处理或输出的数据、信息、信号值和变量值存储在存储器502、辅助存储装置503或处理器501内的寄存器或高速缓冲存储器中。

设备管理程序是使计算机执行将观测部621、询问响应部622、数据取得部623和事项判断部624的“部”改写成“处理”的各处理的程序。或者，设备管理程序是使计算机执行将观测部621、询问响应部622、数据取得部623和事项判断部624的“部”改写成“步骤”的各步骤的程序。设备管理程序可以记录在计算机能读取的介质中来提供，也可以作为程序产品来提供。

图9中示出SNS服务器103的设备数据库612中登记的对应表671。

设备数据库612是存储指定与威胁701对应的设备类别711的数据的数据库。具体而言，设备数据库612是登记威胁701与应该确认的设备的设备类别711的对应作为对应表671的数据库。设备类别711是如“监视摄像机”、“火灾传感器”和“水位传感器”那样对设备进行抽象化的信息。在火灾传感器中包含热感知传感器和烟传感器等。

设备数据库612的对应表671由威胁701、威胁ID702、设备类别711和设备类别ID712这至少4个项目构成。“ID”是Identifier(标识符)的简称。在设备数据库612的对应表671中按照每个威胁ID702登记有设备类别ID712。即，针对威胁701，示出如果确认哪个设备类别711则能够确认有无发生威胁701。威胁ID702是唯一分配给威胁701的标识符。优选威胁ID702在全世界内统一。设备类别ID712是唯一分配给设备类别711的标识符。优选设备类别ID712在全世界内统一。威胁701和设备类别711在人工管理设备数据库612的对应表671的方面是便利的，但是不是必须的。

图10中示出DS服务器104的询问对象数据库613中登记的对应表672。

询问对象数据库613是存储有将由1个以上的设备观测到的场所721和对1个以上的设备进行管理的管理主体的询问对象即URL731对应起来的数据的数据库。具体而言，询问对象数据库613是登记场所721、设备管理装置105管理的设备的设备类别711、询问对象的URL731的对应作为对应表672的数据库。“URL”是Uniform Resource Locator(统一资源定位器)的简称。优选询问对象数据库613如DNS那样由特定的组织进行管理和维持，使得在登记着的信息中不会产生错误或矛盾。“DNS”是Domain Name System(域名系统)的简称。场所721由地址722和经度纬度723表示。另外，作为管理主体的询问对象，也可以代替URL731而使用邮件地址或IP地址等。“IP”是Internet Protocol(互联网协议)的简称。

询问对象数据库613的对应表672由设置有设备的场所721的地址722和经度纬度723、设备类别ID712、设备类别711、URL731这至少5个项目构成。URL731是对设置于场所721的设备进行管理的设备管理装置105询问有无发生威胁701的询问对象。在询问对象数据库613的对应表672中按照每个场所721和设备类别ID712登记有URL731。即，示出针对特定的场所721的特定的设备类别711的询问有无发生威胁701的目的地即URL731。设备类别711在人工管理询问对象数据库613的对应表672方面是便利的，但是不是必须的。在询问对象数据库613的对应表672中，按照设备管理装置105管理的设备的每个设备类别711，可以登记不同的URL731，也可以登记相同的URL731。

图11中示出设备管理装置105的状态变化数据库632中登记的对应表681。

状态变化数据库632是登记威胁701、设备类别711、设备分类742、状态变化751的对应作为对应表681的数据库。

状态变化数据库632的对应表681由威胁ID702、威胁701、设备类别ID712、设备类别711、设备分类ID741、设备分类742、状态变化751这至少7个项目构成。在状态变化数据库632的对应表681中，按照每个威胁ID702登记有设备分类ID741以及发生威胁701时的设备的状态变化751。即，针对威胁701，示出通过确认哪个设备分类742的哪种状态变化751则能够确认有无发生威胁701。设备分类ID741是唯一分配给设备分类742的标识符。设备分类ID741在对应的设备分类742相同的情况下，可以按照每个设备管理装置105而不同，也可以相同。设备分类742是如“监视摄像机”、“热感知传感器”、“烟传感器”和“水位传感器”那样比设备类别711更加详细的设备的种类。状态变化751是应该确认的状态的变化。如果设备发生了登记着的状态变化751，则发生了威胁701。通过按照每个设备管理装置105变更状态变化751，能够设定与设备管理装置105的环境相符的状态变化751。在状态变化数据库632的对应表681中仅登记设备管理装置105能够确认的威胁701、设备管理装置105管理的设备的设备类别711、设备类别ID712、设备分类742和设备分类ID741、针对设备的状态变化751即可。也可以省略设备类别ID712和设备类别711。威胁701、设备类别711和设备分类742在人工管理状态变化数据库632的对应表681方面是便利的，但是不是必须的。

图12中示出设备管理装置105的设置场所数据库633中登记的对应表682。

设置场所数据库633是登记设置场所761、设备分类742、设备名772的对应作为对应表682的数据库。

设置场所数据库633的对应表682由设置场所761、设备分类ID741、设备分类742、设备ID771、设备名772这至少5个项目构成。在设置场所数据库633的对应表682中，按照每个设置场所761和设备分类ID741登记有设备ID771。即，示出与特定的设置场所761的特定的设备分类742相符的设备。设置场所761是设置有设备的场所。设备ID771是在设备管理装置105内唯一分配给设备的标识符。设备ID771在设备管理装置105保存设备的观测结果时被提供给设备。监视摄像机112和传感器113分别具有固有的设备ID771。也可以代替设备ID771而使用MAC地址或IP地址。“MAC”是Media Access Control(介质访问控制)的简称。设备名772是分配给设备的名字。在设置场所数据库633的对应表682中仅登记有设备管理装置105管理的设备的设置场所761、设备分类ID741、设备分类742、设备ID771和设备名772。设备分类742和设备名772在人工管理设置场所数据库633的对应表682方面是便利的，但是不是必须的。通过使用设置场所数据库633的对应表682中登记的设备ID771，设备管理装置105能够取得观测数据库631中保存的特定设备的观测数据。

***动作的说明***

除了图1～图12以外，还参照图13～图18对本实施方式的虚假投稿过滤系统100的动作进行说明。虚假投稿过滤系统100的动作相当于本实施方式的虚假投稿过滤方法。

在步骤S1302中，终端102的投稿阅览部601经由输入输出接口204从用户即投稿者121受理投稿消息的输入。在步骤S1303中，投稿阅览部601经由通信模块205向SNS服务器103发送投稿消息。作为具体例，设投稿者121向SNS投稿了“XXX街的X大楼着火、危险！”这样的煽动他人恐怖的消息。在本例中，设在投稿消息中粘贴有图像和投稿场所的GPS信息。设在图像中包含拍摄场所的GPS信息。“GPS”是Global Positioning System(全球定位系统)的简称。

在步骤S1401中，SNS服务器103的SNS提供部602经由通信模块305接收来自投稿者121的投稿消息。在步骤S1402中，SNS提供部602在投稿数据库611中保存投稿消息。在步骤S1403中，SNS服务器103的投稿判断部603判断投稿消息是否是煽动他人恐怖的消息以及是否明确投稿消息是玩笑。步骤S1403的处理的详细情况容后再述。在步骤S1404中，进行与步骤S1403的判断结果对应的分支处理。在步骤S1403中判断为投稿消息不是煽动他人恐怖的消息或者虽然是煽动他人恐怖的消息但是明确是玩笑的情况下，处理流程结束。在步骤S1403中判断为投稿消息是煽动他人恐怖的消息且不确定是玩笑的情况下，进行步骤S1405的处理。

在步骤S1405中，SNS服务器103的事项确定部604根据投稿消息确定作为恐怖根源的威胁701和威胁701的发生场所721。在本例中，威胁701是“火灾”。威胁701的发生场所721是“XXX县XXX市XXX街X-X X大楼”。步骤S1405的处理的详细情况容后再述。

在步骤S1406中，SNS服务器103的询问对象确定部605根据由事项确定部604确定的威胁701检索设备数据库612的对应表671，确定与威胁701对应的威胁ID702和应该确认的设备的设备类别ID712。在本例中，针对威胁701即“火灾”，威胁ID702是“T001”，应该确认的设备的设备类别ID712是与“监视摄像机”对应的“MC0001”和与“火灾传感器”对应的“MC0002”。

在步骤S1304和步骤S1407中，询问对象确定部605经由通信模块305向DS服务器104发送由事项确定部604确定的威胁701的发生场所721以及应该确认的设备的设备类别ID712，对询问对象的设备管理装置105的URL731进行询问。在本例中，询问对象确定部605向DS服务器104发送作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”以及作为设备类别ID712的“MC0001”和“MC0002”。

在步骤S1801中，DS服务器104的检索处理部608经由通信模块405接收来自SNS服务器103的询问。在步骤S1802中，检索处理部608根据接收到的询问所示的威胁701的发生场所721和设备类别ID712检索询问对象数据库613的对应表672，确定询问对象的设备管理装置105的URL731。在本例中，对威胁701的发生场所721即“XXX县XXX市XXX街X-X X大楼”的与设备类别ID712即“MC0001”和“MC0002”分别对应的“监视摄像机”和“火灾传感器”进行管理的设备管理装置105的URL731均是“http：//xxx.xxx.co.jp/iot”。另外，在不存在“XXX县XXX市XXX街X-X X大楼”的设备管理装置105的情况下，也可以确定对“XXX县XXX市XXX街X-X”的设备进行管理的设备管理装置105的URL731。

在步骤S1305和步骤S1803中，检索处理部608经由通信模块405向SNS服务器103发送已确定的设备管理装置105的URL731。在本例中，检索处理部608发送“http：//xxx.xxx.co.jp/iot”作为设备管理装置105的URL731。

在步骤S1408中，SNS服务器103的询问对象确定部605经由通信模块305接收来自DS服务器104的响应。在本例中，询问对象确定部605接收表示询问对象的设备管理装置105的URL731均是“http：//xxx.xxx.co.jp/iot”的响应。

在步骤S1306和步骤S1409中，SNS服务器103的询问部606经由通信模块305向由询问对象确定部605确定的询问对象的设备管理装置105的URL731发送威胁ID702、威胁701的发生场所721以及作为威胁701的发生时刻的投稿消息的时刻，询问有无发生威胁701。另外，询问部606也可以根据来自设备管理装置105的请求，向设备管理装置105发送应该确认的设备的设备类别ID712作为URL731的参数等。在存在多个询问对象的设备管理装置105的情况下，对全部设备管理装置105进行询问。在本例中，询问部606与威胁701的发生时刻一起向“http：//xxx.xxx.co.jp/iot”发送作为威胁ID702的“T001”以及作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”，询问有无发生“火灾”。询问部606也可以根据需要发送“MC0001”和“MC0002”作为设备类别ID712。

在步骤S2001中，设备管理装置105的观测部621经由第2通信模块507从与管理主体的网络111连接的监视摄像机112和传感器113始终实时地收集观测数据。观测部621在观测数据库631中保存观测数据。观测部621在将观测数据保存到观测数据库631中时，还一并保存收集方的设备即监视摄像机112或传感器113的设备ID771和观测时刻。半永久地反复进行步骤S2001的处理，直到设备管理装置105停止为止。

在步骤S1901中，设备管理装置105的询问响应部622经由第1通信模块505接收来自SNS服务器103的有无发生威胁701的询问。在有无发生威胁701的询问中包含威胁ID702、威胁701的发生场所721和威胁701的发生时刻。在本例中，“XXX县XXX市XXX街X-X X大楼”的设备管理装置105与威胁701的发生时刻一起接收作为威胁ID702的“T001”和作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”，作为有无发生威胁701的询问。另外，设备管理装置105也可以根据需要接收“MC0001”和“MC0002”作为设备类别ID712。

在步骤S1902中，设备管理装置105的数据取得部623从由询问响应部622接收到的有无发生威胁701的询问中取出威胁ID702、威胁701的发生场所721和威胁701的发生时刻。数据取得部623在还发送来设备类别ID712作为URL731的参数等的情况下，还取出设备类别ID712。数据取得部623根据从有无发生威胁701的询问中取出的威胁ID702，从状态变化数据库632的对应表681中取得应该确认的设备的设备分类ID741、发生威胁701的情况下的设备的状态变化751。另外，数据取得部623也可以根据需要，与威胁ID702一起还使用设备类别ID712，取得应该确认的设备的设备分类ID741、发生威胁701的情况下的设备的状态变化751。在本例中，针对与“火灾”对应的威胁ID702“T001”，应该确认的设备的设备分类ID741成为与“监视摄像机”对应的“SC”、与“热感知传感器”对应的“HD”和与“烟感知传感器”对应的“SS”。在“监视摄像机”中，在映出“火的影像”时，发生了“火灾”。在“热感知传感器”中，在“感知”到热时，发生了“火灾”。在“烟感知传感器”中，在“感知”到烟时，发生了“火灾”。

在步骤S1903中，数据取得部623根据从有无发生威胁701的询问取出的发生场所721和从状态变化数据库632取得的设备分类ID741，从设置场所数据库633的对应表682取得应该确认的设备的设备ID771。在本例中，“XXX县XXX市XXX街X-X X大楼”的与“SC”、“HD”和“SS”相符的设备ID771未示出发生威胁701的楼层，因此，成为“SC0100”、“SC0110”、“SC0120”、“SC0130”、…、“HD0100”、“HD0110”、“HD0120”、“HD0130”、…、“SS0100”、“SS0110”、“SS0120”、“SS0130”、…。

在步骤S1904中，数据取得部623根据已取得的设备ID771和从有无发生威胁701的询问取出的发生时刻，从观测数据库631取得威胁701的发生时刻周边的观测数据。在本例中，数据取得部623从观测数据库631取得威胁701的发生时刻周边的与“SC0100”、“SC0110”、“SC0120”、“SC0130”、…、“HD0100”、“HD0110”、“HD0120”、“HD0130”、…、“SS0100”、“SS0110”、“SS0120”、“SS0130”、…对应的监视摄像机112和传感器113的观测数据。“发生时刻周边”例如是从发生时刻前一小时到发生时刻。

在步骤S1905中，设备管理装置105的事项判断部624对由数据取得部623从观测数据库631取得的观测数据进行分析，判断是否发生了发生威胁701的情况下的设备的状态变化751。在观测数据中，在发生了设备的状态变化751的情况下，发生了威胁701。在未发生状态变化751的情况下，未发生威胁。在观测数据是由监视摄像机112得到的图像数据的情况下，事项判断部624通过使用图像识别技术和机器学习等AI技术，判断是否发生了状态变化751。“AI”是Artificial Intelligence(人工智能)的简称。在根据与不同的设备分类ID741对应的多个设备的观测数据判断有无发生威胁701的情况下，设备管理装置105的管理者可以自由设定使用什么样的判断基准。例如，也可以针对1个设备分类ID741，如果在来自与该设备分类ID741对应的设备的观测数据中发生了状态变化751，则判断为发生了威胁701。或者，也可以针对全部设备分类ID741，仅在来自与各个设备分类ID741对应的设备的观测数据中发生了状态变化751时，判断为发生了威胁701。在本例中，如果在“SC0100”、“SC0110”、“SC0120”、“SC0130”、…中的任意图像数据中映出“火的影像”，在“HD0100”、“HD0110”、“HD0120”、“HD0130”、…中的任意数据中“感知”到热，在“SS0100”、“SS0110”、“SS0120”、“SS0130”、…中的任意数据中“感知”到烟，则判断为发生了“火灾”。

在步骤S1307和步骤S1906中，询问响应部622经由第1通信模块505向SNS服务器103发送事项判断部624对有无发生威胁701的判断结果作为针对有无发生威胁701的询问的响应。例如，询问响应部622在发生了威胁701的情况下发送“是”，在未发生威胁701的情况下发送“否”。

在步骤S1410中，SNS服务器103的询问部606经由通信模块305从全部询问对象的设备管理装置105接收有无发生威胁701的判断结果。例如，询问部606在投稿消息真实而发生了威胁701的情况下接收“是”，在投稿消息虚假而未发生威胁701的情况下接收“否”。

在步骤S1411中，SNS服务器103的结果反映部607根据由询问部606接收到的有无发生威胁701的判断结果判断投稿消息的真伪。例如，在接收到“是”的情况下，判断为发生了威胁且投稿消息真实。另一方面，在接收到“否”的情况下，判断为未发生威胁且投稿消息虚假。SNS服务器103的管理者可以自由设定向多个设备管理装置105发送询问的情况下的真伪判断的基准。例如，可以是如果至少一个为“是”，则判断为投稿消息真实。或者，也可以是如果过半数为“是”，则判断为投稿消息真实。在步骤S1412中，进行与步骤S1411的判断结果对应的分支处理。在步骤S1411中判断为投稿消息真实的情况下，处理流程结束。在步骤S1411中判断为投稿消息虚假的情况下，进行步骤S1413的处理。

在步骤S1413中，结果反映部607对投稿消息标注表示虚假的记号，或者删除投稿消息，将真伪的判断结果反映到投稿消息中。SNS服务器103的SNS提供部602经由通信模块205向终端102发布反映了真伪的判断结果的投稿消息。另外，SNS提供部602也可以在步骤S1402中保存投稿消息的时点发布投稿消息，在反映了真伪的判断结果的时点根据需要再次发布投稿消息。终端102的投稿阅览部601经由通信模块205接收从SNS服务器103发布的消息，投稿者121能够阅览消息。

如以上说明的那样，在本实施方式中，事项确定部604对通知发生某个事项的投稿的内容进行分析，确定事项的发生场所721。具体而言，事项确定部604使用AI技术和自然语言处理技术中的至少任意一方，根据投稿中包含的文本和图像中的至少任意一方确定尽可能详细的事项的发生场所721。询问对象确定部605检索询问对象数据库613，确定与由事项确定部604确定的场所721对应的询问对象。询问部606向由询问对象确定部605确定的询问对象发送根据1个以上的设备的观测结果确认有无发生事项的请求。

设备管理装置105的询问响应部622接收由询问部606发送的请求。设备管理装置105的数据取得部623根据由询问响应部622接收到的请求取得1个以上的设备的观测结果。设备管理装置105的事项判断部624根据由数据取得部623取得的观测结果确认有无发生事项。询问响应部622发送表示事项判断部624的确认结果的响应。

询问部606接收针对请求的响应。结果反映部607根据由询问部606接收到的响应所示的确认结果判断投稿内容的真伪。结果反映部607对投稿执行与判断结果对应的处理。

在本实施方式中，事项确定部604对投稿的内容进行分析，进一步确定作为事项发生的威胁701。询问部606检索设备数据库612，确定与由事项确定部604确定的威胁701对应的设备类别711。询问部606将已确定的设备类别711的信息包含在请求中，由此，发送根据与已确定的设备类别711相符的设备的观测结果确认有无发生事项的请求。

在本实施方式中，投稿时刻视为事项的发生时刻，但是，事项确定部604也可以对投稿的内容进行分析，进一步确定事项的发生时刻。具体而言，事项确定部604也可以使用AI技术和自然语言处理技术中的至少任意一方，根据投稿中包含的文本确定尽可能详细的事项的发生时刻。询问部606也可以将由事项确定部604确定的时刻的信息包含在请求中，由此，发送根据1个以上的设备的观测结果确认由事项确定部604确定的时刻有无发生事项的请求。

在本实施方式中，由事项确定部604确定发生场所721的事项是威胁701，但是，也可以是任意的事项，例如，也可以是投稿者121目击到特定的人物或特定的车辆等移动体这样的事项。

下面，主要参照图19对步骤S1403的处理的详细情况进行说明。

如上所述，在步骤S1403中，SNS服务器103的投稿判断部603判断投稿消息是否是煽动他人恐怖的消息以及是否明确投稿消息是玩笑。

在步骤S1501中，投稿判断部603的威胁判断部641使用AI技术和自然语言处理技术判断投稿消息是否是煽动恐怖的消息。在步骤S1502中，进行与步骤S1501的判断结果对应的分支处理。在步骤S1501中判断为投稿消息是煽动恐怖的消息的情况下，进行步骤S1503的处理。在步骤S1501中判断为投稿消息不是煽动恐怖的消息的情况下，进行步骤S1506的处理。在本例中，“着火、危险！”这样的文章包含在投稿消息中，因此，威胁判断部641判断为投稿消息是煽动恐怖的消息。

在步骤S1503中，投稿判断部603的玩笑判断部642使用AI技术和自然语言处理技术判断投稿消息是否是明确判定为玩笑的消息。具体而言，玩笑判断部642根据投稿消息的风格、图案字符的用法和记号的用法等判断投稿消息是否是明确判定为玩笑的消息。在步骤S1504中，进行与步骤S1503的判断结果对应的分支处理。在步骤S1503中判断为投稿消息不是判定为玩笑的消息的情况下，进行步骤S1505的处理。在步骤S1503中判断为投稿消息是明确判定为玩笑的消息的情况下，进行步骤S1506的处理。在本例中，提示“(笑)”或“(^^)”这样的玩笑的图案字符和记号等未包含在投稿消息中而使用感叹号“！”，并且风格认真，因此，玩笑判断部642判断为投稿消息不是判定为玩笑的消息。

在步骤S1505中，玩笑判断部642输出投稿消息是“未判定为玩笑且煽动恐怖的消息”这样的判断结果。另一方面，在步骤S1506中，威胁判断部641或玩笑判断部642输出投稿消息不是“未判定为玩笑且煽动恐怖的消息”这样的判断结果。

下面，主要参照图20对步骤S1405的处理的详细情况进行说明。

如上所述，在步骤S1405中，SNS服务器103的事项确定部604根据投稿消息确定作为恐怖根源的威胁701和威胁701的发生场所721。

在步骤S1601中，事项确定部604的威胁提取部651使用AI技术和自然语言处理技术，从投稿消息中提取作为投稿消息煽动的恐怖根源的事项。威胁提取部651根据相似词辞典等，确定提取出的事项与设备数据库612的对应表671中登记的哪个威胁701相符。在本例中，威胁提取部651根据投稿消息识别到作为恐怖根源的事项是“着火”。威胁提取部651根据相似词辞典等，判断为“着火”与设备数据库612的对应表671中登记的威胁701中的“火灾”相符。

在步骤S1602中，事项确定部604的场所确定部652根据投稿消息的字面和投稿消息中添加的图像确定威胁701的发生场所721。

主要参照图21～图23对步骤S1602的处理的详细情况进行说明。

在步骤S1701中，场所确定部652的第1信息提取部661使用AI技术和自然语言处理技术以及互联网101上的检索站点等，从投稿消息的字面中提取尽可能详细的威胁701的发生场所721。在步骤S1702中，场所确定部652的第2信息提取部662使用正则表达式检索技术等，确认是否通过投稿者121的操作而在投稿消息的字面中插入了GPS信息。在插入了GPS信息的情况下，在步骤S1703中，第2信息提取部662提取投稿消息的字面中插入的GPS信息。在未插入GPS信息的情况下，第2信息提取部662不进行任何动作。

在步骤S1704中，场所确定部652的第3信息提取部663和第4信息提取部664确认是否在投稿消息中添加了图像文件。在未添加图像文件的情况下，第3信息提取部663和第4信息提取部664不进行任何动作。在添加了图像文件的情况下，在步骤S1705中，第3信息提取部663使用AI技术和互联网101上的图像检索站点等，从投稿消息中添加的图像文件中提取发生了威胁701的场所721。在步骤S1706中，第4信息提取部664使用图像文件格式处理技术，确认是否在拍摄时在图像文件中插入了GPS信息。在图像文件中插入了GPS信息的情况下，在步骤S1707中，第4信息提取部664使用图像文件格式处理技术提取图像文件中插入的GPS信息。在图像文件中未插入GPS信息的情况下，第4信息提取部664不进行任何动作。

在步骤S1708中，场所确定部652的场所判断部665确认第1信息提取部661是否能够从投稿消息的字面中提取威胁701的发生场所721。在能够从投稿消息的字面中提取威胁701的发生场所721的情况下，在步骤S1709中，场所判断部665确认第4信息提取部664是否能够提取图像文件中插入的GPS信息。在无法提取图像文件中插入的GPS信息的情况下，在步骤S1710中，场所判断部665将从投稿消息的字面中提取出的场所721判断为威胁701的发生场所721，结束处理。

在能够提取图像文件中插入的GPS信息的情况下，在步骤S1711中，场所判断部665确认从投稿消息的字面中提取出的威胁701的发生场所721和从图像文件中提取出的GPS信息是否一致。具体而言，场所判断部665使用互联网101上的检索站点等，根据从图像文件中提取出的GPS信息确定发生了威胁701的场所721。场所判断部665确认已确定的场所721是否与从投稿消息的字面中提取出的威胁701的发生场所721一致。另外，场所判断部665也可以使用互联网101上的检索站点等取得与从投稿消息的字面中提取出的威胁701的发生场所721对应的GPS信息，确认取得的GPS信息是否与从图像文件中提取出的GPS信息一致。

在从投稿消息的字面中提取出的威胁701的发生场所721和从图像文件中提取出的GPS信息一致的情况下，在步骤S1712中，场所判断部665将从图像文件中提取出的GPS信息所示的位置判断为威胁701的发生场所721，结束处理。另一方面，在从投稿消息的字面中提取出的威胁701的发生场所721和从图像文件中提取出的GPS信息不一致的情况下，在步骤S1713中，场所判断部665判断为投稿消息虚假，结束处理。

在无法从投稿消息的字面中提取威胁701的发生场所721的情况下，在步骤S1714中，场所判断部665确认第4信息提取部664是否能够提取图像文件中插入的GPS信息。在能够提取图像文件中插入的GPS信息的情况下，在步骤S1715中，场所判断部665将从图像文件中提取出的GPS信息所示的位置判断为威胁701的发生场所721，结束处理。

在无法提取图像文件中插入的GPS信息的情况下，在步骤S1716中，场所判断部665确认第3信息提取部663是否能够从图像文件中提取威胁701的发生场所721。在能够从图像文件中提取威胁701的发生场所721的情况下，在步骤S1717中，场所判断部665将从图像文件中提取出的场所721判断为威胁701的发生场所721，结束处理。

在无法从图像文件中提取威胁701的发生场所721的情况下，在步骤S1718中，场所判断部665确认第2信息提取部662是否能够提取字面中插入的GPS信息。在能够提取字面中插入的GPS信息的情况下，在步骤S1719中，场所判断部665将从字面中提取出的GPS信息所示的位置判断为威胁701的发生场所721，结束处理。在无法提取字面中插入的GPS信息的情况下，在步骤S1720中，场所判断部665不能确定威胁701的发生场所721，判断为投稿消息虚假，结束处理。

如以上说明的那样，在本实施方式中，事项确定部604根据投稿中包含的文本和图像双方确定事项的发生场所721。结果反映部607在由事项确定部604根据文本和图像确定了不同的场所721的情况下，判断为投稿的内容虚假。在由事项确定部604根据文本和图像确定了不同的场所721的情况下，省略由询问部606发送请求。

事项确定部604在根据图像确定事项的发生场所721时，参照图像中附加的位置信息确定事项的发生场所721。在本实施方式中，所参照的位置信息是GPS信息，但是，也可以是任意的位置信息，例如也可以是表示地址722的信息。

***实施方式的效果的说明***

在本实施方式中，通过对设备进行管理的管理主体进行根据设备的观测结果确认投稿的内容正确与否的作业，因此，能够将设备的观测结果作为机密信息进行处理。根据对投稿的内容进行分析而得到的结果选择管理主体的询问对象，因此，能够迅速地进行询问。因此，能够同时实现根据设备的观测结果判断投稿内容的真伪并迅速进行针对虚假投稿的措施以及将设备的观测结果作为机密信息进行处理这双方。

在本实施方式中，确认投稿消息的真伪的主体即SNS服务器103确定与威胁701和威胁701的发生场所721对应的询问对象。SNS服务器103询问设备的管理主体即设备管理装置105有无发生威胁701。设备管理装置105确认发生场所721中的设备的状态变化751，由此判断有无发生威胁701并进行响应。由此，SNS服务器103确认是否在确定为威胁701的发生场所721的地方发生了威胁701，能够将确认结果反映到投稿消息中。因此，能够自动地瞬时删除虚假的投稿消息或者显示投稿消息是虚假的消息。其结果是，能够自动防止感到恐怖的读者扩散虚假的投稿消息以及引起社会恐慌。而且，监视摄像机112和传感器113的观测数据作为管理主体的机密信息进行处理，不会向管理主体的外部泄露。

根据本实施方式，能够根据由现实世界的设备得到的观测数据自动判断向网络空间投稿的消息或新闻的真伪。具体而言，能够自动地瞬时判断SNS中的投稿消息的真伪。

在本实施方式中，针对煽动恐怖而使他人陷入不安、引起恐慌的投稿消息，能够根据来自通过IoT技术连接的监视摄像机112和传感器113的监视信息，自动地瞬时判断消息的内容的真伪。“IoT”是Internet of Things(物联网)的简称。在消息的内容虚假的情况下，自动删除投稿消息或者自动显示投稿消息是虚假的消息。而且，在本实施方式中，来自监视摄像机112和传感器113的监视信息能够作为个人或企业等组织的机密信息进行处理。即，监视信息能够不流出到与对监视摄像机112和传感器113进行管理的个人或企业等组织不同的个人或组织。这是因为，确认投稿消息的真伪的主体即SNS服务器103询问管理监视摄像机112和传感器113的主体即设备管理装置105有无发生事项，仅接受有无发生事项作为询问结果。

***其他结构***

作为本实施方式的变形例，DS服务器104也可以统合到SNS服务器103中。

在本实施方式中，终端102的投稿阅览部601的功能通过软件实现，但是，作为变形例，投稿阅览部601的功能也可以通过硬件实现。即，终端102也可以具有实现投稿阅览部601的功能的专用硬件。该专用硬件例如是单一电路、复合电路、程序化的处理器、并行程序化的处理器、逻辑IC、GA、FPGA或ASIC。“IC”是Integrated Circuit(集成电路)的简称。“GA”是Gate Array(门阵列)的简称。“FPGA”是Field-Programmable Gate Array(现场可编程门阵列)的简称。“ASIC”是Application Specific Integrated Circuit(面向特定用途的集成电路)的简称。

作为另一个变形例，投稿阅览部601的功能也可以通过软件和硬件组合来实现。即，也可以是投稿阅览部601的功能的一部分通过专用硬件实现，其余部分通过软件实现。

处理器201和专用硬件均是处理电路。即，通过处理电路发挥投稿阅览部601的功能，而与通过软件、硬件以及软件和硬件的组合中的哪种实现无关。

在本实施方式中，SNS服务器103的SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能通过软件实现，但是，作为变形例，SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能也可以通过硬件实现。即，SNS服务器103也可以具有实现SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能的专用硬件。该专用硬件例如是单一电路、复合电路、程序化的处理器、并行程序化的处理器、逻辑IC、GA、FPGA或ASIC。

作为另一个变形例，SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能也可以通过软件和硬件的组合来实现。即，也可以是SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能的一部分通过专用硬件实现，其余部分通过软件实现。

处理器201和专用硬件均是处理电路。即，通过处理电路发挥SNS提供部602、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能，而与通过软件、硬件以及软件和硬件的组合中的哪种实现无关。

在本实施方式中，DS服务器104的检索处理部608的功能通过软件实现，但是，作为变形例，检索处理部608的功能也可以通过硬件实现。即，DS服务器104也可以具有实现检索处理部608的功能的专用硬件。该专用硬件例如是单一电路、复合电路、程序化的处理器、并行程序化的处理器、逻辑IC、GA、FPGA或ASIC。

作为另一个变形例，检索处理部608的功能也可以通过软件和硬件的组合来实现。即，也可以是检索处理部608的功能的一部分通过专用硬件实现，其余部分通过软件实现。

处理器201和专用硬件均是处理电路。即，通过处理电路发挥检索处理部608的功能，而与通过软件、硬件以及软件和硬件的组合中的哪种实现无关。

在本实施方式中，设备管理装置105的观测部621、询问响应部622、数据取得部623和事项判断部624的功能通过软件实现，但是，作为变形例，观测部621、询问响应部622、数据取得部623和事项判断部624的功能也可以通过硬件实现。即，设备管理装置105也可以具有实现观测部621、询问响应部622、数据取得部623和事项判断部624的功能的专用硬件。该专用硬件例如是单一电路、复合电路、程序化的处理器、并行程序化的处理器、逻辑IC、GA、FPGA或ASIC。

作为另一个变形例，观测部621、询问响应部622、数据取得部623和事项判断部624的功能也可以通过软件和硬件的组合来实现。即，也可以是观测部621、询问响应部622、数据取得部623和事项判断部624的功能的一部分通过专用硬件实现，其余部分通过软件实现。

处理器201和专用硬件均是处理电路。即，通过处理电路发挥观测部621、询问响应部622、数据取得部623和事项判断部624的功能，而与通过软件、硬件以及软件和硬件的组合中的哪种实现无关。

实施方式2

关于本实施方式，主要使用图24～图32对与实施方式1的差异进行说明。

***结构的说明***

本实施方式的虚假投稿过滤系统100的结构与图1所示的实施方式1的结构相同，因此省略说明。

在实施方式1中，询问投稿消息的真伪的主体是SNS服务器103。此外，表示发生威胁701的设备的状态变化751按照每个设备分类ID741进行定义，登记在状态变化数据库632的对应表681中。在本实施方式中，询问投稿消息的真伪的主体是终端102。此外，表示发生威胁701的设备的状态变化751按照每个设备ID771进行定义，登记在设置场所数据库633的对应表682中。另外，作为本实施方式的变形例，与实施方式1同样，表示发生威胁701的设备的状态变化751也可以按照每个设备分类ID741进行定义，登记在状态变化数据库632的对应表681中。

在本实施方式中，终端102相当于虚假投稿过滤装置。终端102由利用在网络上公开投稿的服务的用户进行操作。在本实施方式中，服务是SNS，但是，也可以是SNS以外的服务。在本实施方式中，公开对象网络是互联网101，但是，也可以是企业的内联网等其他种类的网络。

参照图24对本实施方式的终端102的结构进行说明。

终端102除了具有投稿阅览部601以外，还具有在实施方式1中SNS服务器103具有的投稿判断部603、事项确定部604、询问对象确定部605、询问部606、结果反映部607、设备数据库612。投稿阅览部601、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能通过软件实现。设备数据库612也可以构筑在存储器202中，但是，在本实施方式中构筑在辅助存储装置203中。设备数据库612容后再述。

在本实施方式中，投稿程序和虚假投稿过滤程序预先存储在辅助存储装置203中。与实施方式1同样，投稿程序是实现投稿阅览部601的功能的程序。虚假投稿过滤程序是实现投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能的程序。投稿程序和虚假投稿过滤程序载入存储器202，读入处理器201，由处理器201执行。

投稿判断部603的结构与图4所示的实施方式1的结构相同，因此省略说明。

事项确定部604的结构与图5所示的实施方式1的结构相同，因此省略说明。

事项确定部604的场所确定部652的结构与图6所示的实施方式1的结构相同，因此省略说明。

参照图25对本实施方式的SNS服务器103的结构进行说明。

SNS服务器103具有SNS提供部602和投稿数据库611。SNS提供部602的功能通过软件实现。投稿数据库611也可以构筑在存储器302中，但是，在本实施方式中构筑在辅助存储装置303中。与实施方式1同样，投稿数据库611是对来自终端102的投稿消息进行保存和管理的数据库。

在本实施方式中，SNS程序预先存储在辅助存储装置303中。与实施方式1同样，SNS程序是实现SNS提供部602的功能的程序。SNS程序载入存储器302，读入处理器301，由处理器301执行。

本实施方式的DS服务器104的结构与图7所示的实施方式1的结构相同，因此省略说明。

参照图26对本实施方式的设备管理装置105的结构进行说明。

在实施方式1中，状态变化数据库632设置于设备管理装置105，但是，在本实施方式中，状态变化数据库632统合到设置场所数据库633中。设置场所数据库633容后再述。

图27中示出终端102的设备数据库612中登记的对应表671。

设备数据库612是存储有指定与威胁701对应的设备类别711的数据的数据库。具体而言，设备数据库612是登记威胁701、应该确认的设备的设备类别711和设备分类742的对应作为对应表671的数据库。

设备数据库612的对应表671由威胁701、威胁ID702、设备类别711、设备类别ID712、设备分类ID741、设备分类742这至少6个项目构成。在设备数据库612的对应表671中，按照每个威胁ID702登记有设备类别ID712和设备分类ID741。即，针对威胁701，示出如果确认哪个设备分类742则能够确认有无发生威胁701。也可以省略设备分类ID741和设备分类742。威胁701、设备类别711和设备分类742在人工管理设备数据库612的对应表671方面是便利的，但是不是必须的。

DS服务器104的询问对象数据库613中登记的对应表672与图10所示的实施方式1的对应表相同，因此省略说明。

图28中示出设备管理装置105的设置场所数据库633中登记的对应表682。

设置场所数据库633是登记设置场所761、设备分类742、设备名772、威胁701、状态变化751的对应作为对应表682的数据库。

设置场所数据库633的对应表682由设置场所761、设备分类ID741、设备分类742、设备ID771、设备名772、威胁ID702、威胁701、状态变化751这至少8个项目构成。在设置场所数据库633的对应表682中，按照每个设置场所761和设备分类ID741登记有设备ID771、威胁ID702以及发生威胁701时的设备的状态变化751。即，示出在与特定的设置场所761的特定的设备分类742相符的设备中，针对某个威胁701，通过确认各个设备的什么样的状态变化751则能够确认有无发生威胁701。状态变化751是应该确认的状态的变化。如果设备发生了登记着的状态变化751，则发生了威胁701。通过按照每个设备ID771变更状态变化751，能够设定与设备管理装置105的环境和设备的规格相符的状态变化751。在设置场所数据库633的对应表682中仅登记有设备管理装置105管理的设备的设置场所761、设备分类ID741、设备分类742、设备ID771和设备名772、设备管理装置105能够确认的威胁701、针对设备的状态变化751。设备分类742、设备名772和威胁701在人工管理设置场所数据库633的对应表682方面是便利的，但是不是必须的。通过使用设置场所数据库633的对应表682中登记的设备ID771，设备管理装置105能够取得观测数据库631中保存的特定的设备的观测数据。

***动作的说明***

除了图1、图7、图10和图24～图28以外，还参照图16和图29～图32对本实施方式的虚假投稿过滤系统100的动作进行说明。虚假投稿过滤系统100的动作相当于本实施方式的虚假投稿过滤方法。

在步骤S2501和步骤S2601中，终端102的投稿阅览部601经由输入输出接口204受理用户即读者的操作，经由通信模块205从SNS服务器103读入向SNS服务器103投稿的消息。作为具体例，设从SNS读入“XXX街的X大楼着火、危险！”这样的煽动他人恐怖的投稿消息。在本例中，设在投稿消息中粘贴有图像和投稿场所的GPS信息。设在图像中包含拍摄场所的GPS信息。

在步骤S2602中，终端102的投稿判断部603判断投稿消息是否是煽动他人恐怖的消息以及是否明确投稿消息是玩笑。步骤S2602的处理的详细情况与在实施方式1中由SNS服务器103的投稿判断部603进行的图19所示的步骤S1403的处理相同，因此省略说明。在步骤S2603中，进行与步骤S2602的判断结果对应的分支处理。在步骤S2602中判断为投稿消息不是煽动他人恐怖的消息或者虽然是煽动他人恐怖的消息但是明确是玩笑的情况下，处理流程结束。在步骤S2602中判断为投稿消息是煽动他人恐怖的消息且不确定是玩笑的情况下，进行步骤S2604的处理。

在步骤S2604中，终端102的事项确定部604根据投稿消息确定作为恐怖根源的威胁701和威胁701的发生场所721。在本例中，威胁701是“火灾”。威胁701的发生场所721是“XXX县XXX市XXX街X-X X大楼”。步骤S2604的处理的详细情况与在实施方式1中由SNS服务器103的事项确定部604进行的图20所示的步骤S1405的处理相同，因此省略说明。

在步骤S2605中，终端102的询问对象确定部605根据由事项确定部604确定的威胁701检索设备数据库612的对应表671，确定与威胁701对应的威胁ID702和应该确认的设备的设备类别ID712。在本例中，针对威胁701即“火灾”，威胁ID702是“T001”，应该确认的设备的设备类别ID712是与“监视摄像机”对应的“MC0001”和与“火灾传感器”对应的“MC0002”。

在步骤S1304和步骤S2606中，询问对象确定部605经由通信模块205向DS服务器104发送由事项确定部604确定的威胁701的发生场所721以及应该确认的设备的设备类别ID712，对询问对象的设备管理装置105的URL731进行询问。在本例中，询问对象确定部605向DS服务器104发送作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”以及作为设备类别ID712的“MC0001”和“MC0002”。

在步骤S1801中，DS服务器104的检索处理部608经由通信模块405接收来自终端102的询问。在步骤S1802中，检索处理部608根据接收到的询问所示的威胁701的发生场所721和设备类别ID712检索询问对象数据库613的对应表672，确定询问对象的设备管理装置105的URL731。在本例中，对威胁701的发生场所721即“XXX县XXX市XXX街X-X X大楼”的与设备类别ID712即“MC0001”和“MC0002”分别对应的“监视摄像机”和“火灾传感器”进行管理的设备管理装置105的URL731均是“http：//xxx.xxx.co.jp/iot”。另外，在不存在“XXX县XXX市XXX街X-X X大楼”的设备管理装置105的情况下，也可以确定对“XXX县XXX市XXX街X-X”的设备进行管理的设备管理装置105的URL731。

在步骤S1305和步骤S1803中，检索处理部608经由通信模块405向终端102发送已确定的设备管理装置105的URL731。在本例中，检索处理部608发送“http：//xxx.xxx.co.jp/iot”作为设备管理装置105的URL731。

在步骤S2607中，终端102的询问对象确定部605经由通信模块205接收来自DS服务器104的响应。在本例中，询问对象确定部605接收表示询问对象的设备管理装置105的URL731均是“http：//xxx.xxx.co.jp/iot”的响应。

在步骤S1306和步骤S2608中，终端102的询问部606经由通信模块205向由询问对象确定部605确定的询问对象的设备管理装置105的URL731发送威胁ID702、威胁701的发生场所721以及作为威胁701的发生时刻的投稿消息的时刻，询问有无发生威胁701。另外，询问部606也可以根据来自设备管理装置105的请求，向设备管理装置105还发送应该确认的设备的设备分类ID741或设备类别ID712作为URL731的参数等。在存在多个询问对象的设备管理装置105的情况下，对全部设备管理装置105进行询问。在本例中，询问部606与威胁701的发生时刻一起向“http：//xxx.xxx.co.jp/iot”发送作为威胁ID702的“T001”以及作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”，询问有无发生“火灾”。询问部606也可以根据需要发送“SC”、“HD”和“SS”作为设备分类ID741，或者发送“MC0001”和“MC0002”作为设备类别ID712。

步骤S2001的处理与图17所示的实施方式1的处理相同，因此省略说明。

在步骤S2701中，设备管理装置105的询问响应部622经由第1通信模块505接收来自终端102的有无发生威胁701的询问。在有无发生威胁701的询问中包含威胁ID702、威胁701的发生场所721和威胁701的发生时刻。在本例中，“XXX县XXX市XXX街X-X X大楼”的设备管理装置105与威胁701的发生时刻一起接收作为威胁ID702的“T001”和作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”，作为有无发生威胁701的询问。另外，设备管理装置105也可以根据需要接收“SC”、“HD”和“SS”作为设备分类ID741，或者接收“MC0001”和“MC0002”作为设备类别ID712。

在步骤S2702中，设备管理装置105的数据取得部623从由询问响应部622接收到的有无发生威胁701的询问中取出威胁ID702、威胁701的发生场所721和威胁701的发生时刻。数据取得部623在还发送来设备分类ID741或设备类别ID712作为URL731的参数等的情况下，还取出设备分类ID741或设备类别ID712。数据取得部623根据从有无发生威胁701的询问中取出的威胁ID702，从设置场所数据库633的对应表682中取得应该确认的设备的设备分类ID741。另外，数据取得部623也可以根据需要，与威胁ID702一起还使用设备类别ID712，取得应该确认的设备的设备分类ID741。在本例中，针对与“火灾”对应的威胁ID702“T001”，应该确认的设备的设备分类ID741成为与“监视摄像机”对应的“SC”、与“热感知传感器”对应的“HD”和与“烟感知传感器”对应的“SS”。

在步骤S2703中，数据取得部623根据从有无发生威胁701的询问取出的威胁ID702和发生场所721以及从设置场所数据库633取得的设备分类ID741，从设置场所数据库633的对应表682取得应该确认的设备的设备ID771和发生威胁701的情况下的设备的状态变化751。在本例中，与“XXX县XXX市XXX街X-X X大楼”的“SC”、“HD”和“SS”相符的设备ID771未示出发生了威胁701的楼层，因此，成为“SC0100”、“SC0110”、“SC0120”、…、“HD0100”、“HD0110”、“HD0120”、…、“SS0100”、“SS0110”、“SS0120”、…。在“SC0100”、“SC0110”、“SC0120”、…的各“监视摄像机”中，在映出“火的影像”时，发生了“火灾”。在“HD0100”、“HD0110”、“HD0120”、…的各“热感知传感器”中，在“感知”到热时，发生了“火灾”。在“SS0100”、“SS0110”、“SS0120”、…的各“烟感知传感器”中，在“感知”到烟时，发生了“火灾”。

在步骤S2704中，数据取得部623根据取得的设备ID771和从有无发生威胁701的询问取出的发生时刻，从观测数据库631取得威胁701的发生时刻周边的观测数据。在本例中，数据取得部623从观测数据库631取得威胁701的发生时刻周边的与“SC0100”、“SC0110”、“SC0120”、…、“HD0100”、“HD0110”、“HD0120”、…、“SS0100”、“SS0110”、“SS0120”、…对应的监视摄像机112和传感器113的观测数据。“发生时刻周边”例如是从发生时刻前一小时到发生时刻。

在步骤S2705中，设备管理装置105的事项判断部624对由数据取得部623从观测数据库631取得的观测数据进行分析，判断是否发生了在发生了威胁701的情况下的设备的状态变化751。在观测数据中，在发生了设备的状态变化751的情况下，发生了威胁701。在未发生状态变化751的情况下，未发生威胁。在观测数据是由监视摄像机112得到的图像数据的情况下，事项判断部624通过使用图像识别技术和机器学习等AI技术，判断是否发生了状态变化751。在根据与不同的设备分类ID741对应的多个设备的观测数据判断有无发生威胁701的情况下，设备管理装置105的管理者可以自由设定使用什么样的判断基准。在本例中，如果在“SC0100”、“SC0110”、“SC0120”、…中的任意图像数据中映出“火的影像”，在“HD0100”、“HD0110”、“HD0120”、…中的任意数据中“感知”到热，在“SS0100”、“SS0110”、“SS0120”、…·中的任意数据中“感知”到烟，则判断为发生了“火灾”。

在步骤S1307和步骤S2706中，询问响应部622经由第1通信模块505向终端102发送事项判断部624对有无发生威胁701的判断结果，作为针对有无发生威胁701的询问的响应。

在步骤S2609中，终端102的询问部606经由通信模块205从全部询问对象的设备管理装置105接收有无发生威胁701的判断结果。

在步骤S2610中，终端102的结果反映部607根据由询问部606接收到的有无发生威胁701的判断结果判断投稿消息的真伪。终端102的管理者可以自由设定向多个设备管理装置105发送了询问的情况下的真伪判断基准。在步骤S2611中，进行与步骤S2610的判断结果对应的分支处理。在步骤S2610中判断为投稿消息真实的情况下，处理流程结束。在步骤S2610中判断为投稿消息虚假的情况下，进行步骤S2612的处理。

在步骤S2612中，结果反映部607经由通信模块205对投稿消息标注表示虚假的记号或者删除投稿消息，终端102的投稿阅览部601使得投稿者121能够阅览消息。或者，在步骤S2612中，结果反映部607经由通信模块205对投稿消息标注表示虚假的记号或者删除投稿消息，请求SNS服务器103将真伪的判断结果反映到投稿消息中。SNS服务器103的SNS提供部602根据请求，经由通信模块205向终端102发布反映了真伪的判断结果的投稿消息。终端102的投稿阅览部601经由通信模块205接收从SNS服务器103发布的消息，使得投稿者121能够阅览消息。

***实施方式的效果的说明***

在本实施方式中，与实施方式1同样，能够同时实现根据设备的观测结果判断投稿内容的真伪并迅速进行针对虚假投稿的措施以及将设备的观测结果作为机密信息进行处理这双方。

在本实施方式中，与实施方式1同样，能够自动地瞬时删除虚假的投稿消息或者显示投稿消息是虚假的消息。其结果是，能够自动防止感到恐怖的读者扩散虚假的投稿消息以及引起社会恐慌。而且，监视摄像机112和传感器113的观测数据作为管理主体的机密信息进行处理，不会向管理主体的外部泄露。

***其他结构***

作为本实施方式的变形例，DS服务器104也可以统合到终端102中。

在本实施方式中，终端102的投稿阅览部601、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能通过软件实现，但是，投稿阅览部601、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能也可以通过硬件实现。或者，投稿阅览部601、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能也可以通过软件和硬件的组合来实现。

在本实施方式中，SNS服务器103的SNS提供部602的功能通过软件实现，但是，SNS提供部602的功能也可以通过硬件实现。或者，SNS提供部602的功能也可以通过软件和硬件的组合来实现。

实施方式3

关于本实施方式，主要使用图33～图40对与实施方式2的差异进行说明。

***结构的说明***

参照图33对本实施方式的虚假投稿过滤系统100的结构进行说明。

虚假投稿过滤系统100还具有多个网络装置131a、131b、131c、…。

下面，将多个网络装置131a、131b、131c、…统称作网络装置131。

终端102经由LAN132而与UTM或代理等网络装置131连接。“UTM”是Unified ThreatManagement(统一威胁管理)的简称。网络装置131经由互联网101而与SNS服务器103连接。

在实施方式2中，询问投稿消息的真伪的主体是终端102。此外，为了高效地进行针对设备管理装置105的询问和来自设备管理装置105的响应，导入了对设备进行抽象化而得到的设备类别711。在本实施方式中，询问投稿消息的真伪的主体是网络装置131。此外，未导入设备类别711。另外，作为本实施方式的变形例，与实施方式2同样，也可以导入设备类别711。

在本实施方式中，网络装置131相当于虚假投稿过滤装置。网络装置131是设置于用户的终端102与SNS服务器103之间的装置，该SNS服务器103从用户的终端受理投稿并在网络上公开投稿。在本实施方式中，投稿是针对SNS的投稿，但是，也可以是针对SNS以外的服务或站点的投稿。公开对象网络是互联网101，但是，也可以是企业的内联网等其他种类的网络。

本实施方式的终端102的结构与图24所示的实施方式2的结构不同，但是，与图2所示的实施方式1的结构相同，因此省略说明。

本实施方式的SNS服务器103的结构与图25所示的实施方式2的结构相同，因此省略说明。

参照图34对本实施方式的网络装置131的结构进行说明。

网络装置131是计算机。网络装置131具有处理器801，并且具有存储器802、辅助存储装置803、输入输出接口804和通信模块组805这样的其他硬件。处理器801经由总线806而与其他硬件连接，对这些其他硬件进行控制。

网络装置131除了具有转送处理部609以外，还具有在实施方式2中终端102具有的投稿判断部603、事项确定部604、询问对象确定部605、询问部606、结果反映部607、设备数据库612。转送处理部609、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能通过软件实现。设备数据库612也可以构筑在存储器802中，但是，在本实施方式中构筑在辅助存储装置803中。设备数据库612容后再述。

处理器801是执行转送程序和虚假投稿过滤程序的装置。转送程序是实现转送处理部609的功能的程序。虚假投稿过滤程序是实现投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能的程序。处理器801例如是CPU。

存储器802和辅助存储装置803是存储转送程序和虚假投稿过滤程序的装置。存储器802例如是闪存或RAM。辅助存储装置803例如是闪存或HDD。

转送程序和虚假投稿过滤程序预先存储在辅助存储装置803中。转送程序和虚假投稿过滤程序载入存储器802，读入处理器801，由处理器801执行。在辅助存储装置803中，不仅存储有转送程序和虚假投稿过滤程序，还存储有OS。处理器801一边执行OS一边执行转送程序和虚假投稿过滤程序。

另外，转送程序和虚假投稿过滤程序的一部分或全部也可以组入OS中。

输入输出接口804包含连接未图示的输入设备的输入接口以及连接未图示的显示器的输出接口。输入设备是为了向转送程序和虚假投稿过滤程序输入数据而由用户操作的设备。输入设备例如是鼠标、键盘或触摸面板。显示器是在画面中显示从转送程序和虚假投稿过滤程序输出的数据的设备。显示器例如是LCD。

通信模块组805的各模块包含接收被输入到转送程序和虚假投稿过滤程序的数据的接收机以及发送从转送程序和虚假投稿过滤程序输出的数据的发送机。通信模块组805的各模块例如是通信芯片或NIC。通信模块组805与LAN132和互联网101连接。

网络装置131也可以具有代替处理器801的多个处理器。这些多个处理器分担执行转送程序和虚假投稿过滤程序。各个处理器例如是CPU。

由转送程序和虚假投稿过滤程序利用、处理或输出的数据、信息、信号值和变量值存储在存储器802、辅助存储装置803或处理器801内的寄存器或高速缓冲存储器中。

转送程序是使计算机执行将转送处理部609的“部”改写成“处理”的处理的程序。或者，转送程序是使计算机执行将转送处理部609的“部”改写成“步骤”的步骤的程序。转送程序可以记录在计算机能读取的介质中来提供，也可以作为程序产品来提供。

投稿判断部603的结构与图4所示的实施方式1和实施方式2的结构相同，因此省略说明。

事项确定部604的结构与图5所示的实施方式1和实施方式2的结构相同，因此省略说明。

事项确定部604的场所确定部652的结构与图6所示的实施方式1和实施方式2的结构相同，因此省略说明。

本实施方式的DS服务器104的结构与图7所示的实施方式1和实施方式2的结构相同，因此省略说明。

本实施方式的设备管理装置105的结构与图26所示的实施方式2的结构相同，因此省略说明。

图35中示出网络装置131的设备数据库612中登记的对应表671。

设备数据库612是存储指定与威胁701对应的设备分类742的数据的数据库。具体而言，设备数据库612是登记威胁701和应该确认的设备的设备分类742的对应作为对应表671的数据库。

设备数据库612的对应表671由威胁701、威胁ID702、设备分类ID741、设备分类742这至少4个项目构成。在设备数据库612的对应表671中，按照每个威胁ID702登记有设备分类ID741。即，针对威胁701，表示如果确认哪个设备分类742则能够确认有无发生威胁701。威胁701和设备分类742在人工管理设备数据库612的对应表671方面是便利的，但是不是必须的。

图36中示出DS服务器104的询问对象数据库613中登记的对应表672。

在实施方式1和实施方式2中，在询问对象数据库613中登记有场所721、设备管理装置105管理的设备的设备类别711和询问对象的URL731的对应。在本实施方式中，在询问对象数据库613中登记有场所721、设备管理装置105管理的设备的设备分类742和询问对象的URL731的对应作为对应表672。

询问对象数据库613的对应表672由设置有设备的场所721的地址722和经度纬度723、设备分类ID741、设备分类742、URL731这至少5个项目构成。在询问对象数据库613的对应表672中，按照每个场所721和设备分类ID741登记有URL731。即，示出针对特定的场所721的特定的设备分类742的询问有无发生威胁701的对象即URL731。设备分类742在人工管理询问对象数据库613的对应表672方面是便利的，但是不是必须的。在询问对象数据库613的对应表672中，按照设备管理装置105管理的设备的每个设备分类742，可以登记不同的URL731，也可以登记相同的URL731。

设备管理装置105的设置场所数据库633中登记的对应表682与图28所示的实施方式2的对应表相同，因此省略说明。但是，设备分类ID741和设备分类742不是必须的。

***动作的说明***

除了图2、图7、图25、图26、图28和图33～图36以外，还参照图16和图37～图40对本实施方式的虚假投稿过滤系统100的动作进行说明。虚假投稿过滤系统100的动作相当于本实施方式的虚假投稿过滤方法。

在步骤S3301中，终端102的投稿阅览部601经由输入输出接口204受理用户即读者的操作，经由通信模块205请求网络装置131读入向SNS服务器103投稿的消息。在步骤S3401中，网络装置131的转送处理部609经由通信模块组805接收来自终端102的投稿消息的读入请求。在步骤S2501和步骤S3402中，转送处理部609根据读入请求，经由通信模块组805从SNS服务器103读入投稿消息。作为具体例，设从SNS读入“XXX街的X大楼着火、危险！”这样的煽动他人恐怖的投稿消息。在本例中，设在投稿消息中粘贴有图像和投稿场所的GPS信息。设在图像中包含拍摄场所的GPS信息。

在步骤S3403中，网络装置131的投稿判断部603判断投稿消息是否是煽动他人恐怖的消息以及是否明确投稿消息是玩笑。步骤S3403的处理的详细情况与在实施方式1中由SNS服务器103的投稿判断部603进行的图19所示的步骤S1403的处理相同，因此省略说明。在步骤S3404中，进行与步骤S3403的判断结果对应的分支处理。在步骤S3403中判断为投稿消息不是煽动他人恐怖的消息或者虽然是煽动他人恐怖的消息但是明确是玩笑的情况下，进行步骤S3414的处理。在步骤S3403中判断为投稿消息是煽动他人恐怖的消息且不确定是玩笑的情况下，进行步骤S3405的处理。

在步骤S3405中，网络装置131的事项确定部604根据投稿消息确定作为恐怖根源的威胁701和威胁701的发生场所721。在本例中，威胁701是“火灾”。威胁701的发生场所721是“XXX县XXX市XXX街X-X X大楼”。步骤S3405的处理的详细情况与在实施方式1中由SNS服务器103的事项确定部604进行的图20所示的步骤S1405的处理相同，因此省略说明。

在步骤S3406中，网络装置131的询问对象确定部605根据由事项确定部604确定的威胁701检索设备数据库612的对应表671，确定与威胁701对应的威胁ID702和应该确认的设备的设备分类ID741。在本例中，针对威胁701即“火灾”，威胁ID702是“T001”，应该确认的设备的设备分类ID741是与“监视摄像机”对应的“SC”、与“热感知传感器”对应的“HD”和与“烟感知传感器”对应的“SS”。

在步骤S1304和步骤S3407中，询问对象确定部605经由通信模块组805向DS服务器104发送由事项确定部604确定的威胁701的发生场所721以及应该确认的设备的设备分类ID741，对询问对象的设备管理装置105的URL731进行询问。在本例中，询问对象确定部605向DS服务器104发送作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”以及作为设备分类ID741的“SC”、“HD”和“SS”。

在步骤S1801中，DS服务器104的检索处理部608经由通信模块405接收来自网络装置131的询问。在步骤S1802中，检索处理部608根据接收到的询问所示的威胁701的发生场所721和设备分类ID741检索询问对象数据库613的对应表672，确定询问对象的设备管理装置105的URL731。在本例中，对威胁701的发生场所721即“XXX县XXX市XXX街X-X X大楼”的与设备分类ID741即“SC”、“HD”和“SS”分别对应的“监视摄像机”、“热感知传感器”和“烟感知传感器”进行管理的设备管理装置105的URL731均是“http：//xxx.xxx.co.jp/iot”。另外，在不存在“XXX县XXX市XXX街X-X X大楼”的设备管理装置105的情况下，也可以确定对“XXX县XXX市XXX街X-X”的设备进行管理的设备管理装置105的URL731。

在步骤S1305和步骤S1803中，检索处理部608经由通信模块405向网络装置131发送已确定的设备管理装置105的URL731。在本例中，检索处理部608发送“http：//xxx.xxx.co.jp/iot”作为设备管理装置105的URL731。

在步骤S3408中，网络装置131的询问对象确定部605经由通信模块组805接收来自DS服务器104的响应。在本例中，询问对象确定部605接收表示询问对象的设备管理装置105的URL731均是“http：//xxx.xxx.co.jp/iot”的响应。

在步骤S1306和步骤S3409中，网络装置131的询问部606经由通信模块组805向由询问对象确定部605确定的询问对象的设备管理装置105的URL731发送威胁ID702、威胁701的发生场所721以及作为威胁701的发生时刻的投稿消息的时刻，询问有无发生威胁701。另外，询问部606也可以根据来自设备管理装置105的请求，向设备管理装置105还发送应该确认的设备的设备分类ID741作为URL731的参数等。在存在多个询问对象的设备管理装置105的情况下，对全部设备管理装置105进行询问。在本例中，询问部606与威胁701的发生时刻一起向“http：//xxx.xxx.co.jp/iot”发送作为威胁ID702的“T001”以及作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”，询问有无发生“火灾”。询问部606也可以根据需要发送“SC”、“HD”和“SS”作为设备分类ID741。

步骤S2001的处理与图17所示的实施方式1的处理相同，因此省略说明。

在步骤S3501中，设备管理装置105的询问响应部622经由第1通信模块505接收来自网络装置131的有无发生威胁701的询问。在有无发生威胁701的询问中包含威胁ID702、威胁701的发生场所721和威胁701的发生时刻。在本例中，“XXX县XXX市XXX街X-X X大楼”的设备管理装置105与威胁701的发生时刻一起接收作为威胁ID702的“T001”和作为威胁701的发生场所721的“XXX县XXX市XXX街X-X X大楼”，作为有无发生威胁701的询问。另外，设备管理装置105也可以根据需要接收“SC”、“HD”和“SS”作为设备分类ID741。

在步骤S3502中，设备管理装置105的数据取得部623从由询问响应部622接收到的有无发生威胁701的询问中取出威胁ID702、威胁701的发生场所721和威胁701的发生时刻。数据取得部623在还发送来设备分类ID741作为URL731的参数等的情况下，还取出设备分类ID741。数据取得部623根据从有无发生威胁701的询问中取出的威胁ID702和发生场所721，从设置场所数据库633的对应表682中取得应该确认的设备的设备ID771和发生威胁701的情况下的设备的状态变化751。另外，数据取得部623也可以根据需要，与威胁ID702一起还使用设备分类ID741，取得应该确认的设备的设备ID771和发生威胁701的情况下的设备的状态变化751。在本例中，针对与“火灾”对应的威胁ID702“T001”，“XXX县XXX市XXX街X-X X大楼”的设备ID771未示出发生了威胁701的楼层，因此，成为“SC0100”、“SC0110”、“SC0120”、…、“HD0100”、“HD0110”、“HD0120”、…、“SS0100”、“SS0110”、“SS0120”、···。在“SC0100”、“SC0110”、“SC0120”、…的各“监视摄像机”中，在映出“火的影像”时，发生了“火灾”。在“HD0100”、“HD0110”、“HD0120”、…的各“热感知传感器”中，在“感知”到热时，发生了“火灾”。在“SS0100”、“SS0110”、“SS0120”、…的各“烟感知传感器”中，在“感知”到烟时，发生了“火灾”。

在步骤S3503中，数据取得部623根据取得的设备ID771和从有无发生威胁701的询问取出的发生时刻，从观测数据库631取得威胁701的发生时刻周边的观测数据。在本例中，数据取得部623从观测数据库631取得威胁701的发生时刻周边的与“SC0100”、“SC0110”、“SC0120”、…、“HD0100”、“HD0110”、“HD0120”、…、“SS0100”、“SS0110”、“SS0120”、…对应的监视摄像机112和传感器113的观测数据。“发生时刻周边”例如是从发生时刻前一小时到发生时刻。

在步骤S3504中，设备管理装置105的事项判断部624对由数据取得部623从观测数据库631取得的观测数据进行分析，判断是否发生了在发生了威胁701的情况下的设备的状态变化751。在观测数据中，在发生了设备的状态变化751的情况下，发生了威胁701。在未发生状态变化751的情况下，未发生威胁。在观测数据是由监视摄像机112得到的图像数据的情况下，事项判断部624通过使用图像识别技术和机器学习等AI技术，判断是否发生了状态变化751。在根据与不同的设备分类ID741对应的多个设备的观测数据判断有无发生威胁701的情况下，设备管理装置105的管理者可以自由设定使用什么样的判断基准。在本例中，如果在“SC0100”、“SC0110”、“SC0120”、…中的任意图像数据中映出“火的影像”，在“HD0100”、“HD0110”、“HD0120”、…中的任意数据中“感知”到热，在“SS0100”、“SS0110”、“SS0120”、···中的任意数据中“感知”到烟，则判断为发生了“火灾”。

在步骤S1307和步骤S3505中，询问响应部622经由第1通信模块505向网络装置131发送事项判断部624对有无发生威胁701的判断结果，作为针对有无发生威胁701的询问的响应。

在步骤S3410中，网络装置131的询问部606经由通信模块组805从全部询问对象的设备管理装置105接收有无发生威胁701的判断结果。

在步骤S3411中，网络装置131的结果反映部607根据由询问部606接收到的有无发生威胁701的判断结果判断投稿消息的真伪。网络装置131的管理者可以自由设定向多个设备管理装置105发送了询问的情况下的真伪判断基准。在步骤S3412中，进行与步骤S3411的判断结果对应的分支处理。在步骤S3411中判断为投稿消息真实的情况下，进行步骤S3414的处理。在步骤S3411中判断为投稿消息虚假的情况下，进行步骤S3413的处理。

在步骤S3413中，结果反映部607对投稿消息标注表示虚假的记号或者删除投稿消息，经由通信模块组805向通过LAN132连接的终端102转送反映了真伪的判断结果的投稿消息。终端102的投稿阅览部601经由通信模块205接收从网络装置131转送的消息，使得投稿者121能够阅览消息。或者，在步骤S3413中，结果反映部607经由通信模块组805对投稿消息标注表示虚假的记号或者删除投稿消息，请求SNS服务器103将真伪的判断结果反映到投稿消息中。SNS服务器103的SNS提供部602根据请求，经由通信模块组805向网络装置131发布反映了真伪的判断结果的投稿消息。在步骤S3302和步骤S3414中，网络装置131的转送处理部609经由通信模块组805向通过LAN132连接的终端102转送反映了真伪的判断结果的投稿消息。终端102的投稿阅览部601经由通信模块205接收从网络装置131转送的消息，使得投稿者121能够阅览消息。另外，网络装置131的转送处理部609还能够在终端102与SNS服务器103之间进行上述以外的通信的中继。

***实施方式的效果的说明***

在本实施方式中，与实施方式1和实施方式2同样，能够同时实现根据设备的观测结果判断投稿内容的真伪并迅速进行针对虚假投稿的措施以及将设备的观测结果作为机密信息进行处理这双方。

在本实施方式中，与实施方式1和实施方式2同样，能够自动地瞬时删除虚假的投稿消息或者显示投稿消息是虚假的消息。其结果是，能够自动防止感到恐怖的读者扩散虚假的投稿消息以及引起社会恐慌。而且，监视摄像机112和传感器113的观测数据作为管理主体的机密信息进行处理，不会向管理主体的外部泄露。

***其他结构***

作为本实施方式的变形例，DS服务器104也可以统合到网络装置131中。

在本实施方式中，网络装置131的转送处理部609、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能通过软件实现，但是，作为变形例，转送处理部609、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能也可以通过硬件实现。即，网络装置131也可以具有实现转送处理部609、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能的专用硬件。该专用硬件例如是单一电路、复合电路、程序化的处理器、并行程序化的处理器、逻辑IC、GA、FPGA或ASIC。

作为另一个变形例，转送处理部609、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能也可以通过软件和硬件的组合来实现。即，也可以是转送处理部609、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能的一部分通过专用硬件实现，其余部分通过软件实现。

处理器201和专用硬件均是处理电路。即，通过处理电路发挥转送处理部609、投稿判断部603、事项确定部604、询问对象确定部605、询问部606和结果反映部607的功能，而与通过软件、硬件以及软件和硬件的组合中的哪种实现无关。

标号说明

100：虚假投稿过滤系统；101：互联网；102：终端；103：SNS服务器；104：DS服务器；105：设备管理装置；111：网络；112：监视摄像机；113：传感器；121：投稿者；131：网络装置；132：LAN；201：处理器；202：存储器；203：辅助存储装置；204：输入输出接口；205：通信模块；206：总线；301：处理器；302：存储器；303：辅助存储装置；304：输入输出接口；305：通信模块；306：总线；401：处理器；402：存储器；403：辅助存储装置；404：输入输出接口；405：通信模块；406：总线；501：处理器；502：存储器；503：辅助存储装置；504：输入输出接口；505：第1通信模块；506：总线；507：第2通信模块；601：投稿阅览部；602：SNS提供部；603：投稿判断部；604：事项确定部；605：询问对象确定部；606：询问部；607：结果反映部；608：检索处理部；609：转送处理部；611：投稿数据库；612：设备数据库；613：询问对象数据库；621：观测部；622：询问响应部；623：数据取得部；624：事项判断部；631：观测数据库；632：状态变化数据库；633：设置场所数据库；641：威胁判断部；642：玩笑判断部；651：威胁提取部；652：场所确定部；661：第1信息提取部；662：第2信息提取部；663：第3信息提取部；664：第4信息提取部；665：场所判断部；671：对应表；672：对应表；681：对应表；682：对应表；701：威胁；702：威胁ID；711：设备类别；712：设备类别ID；721：场所；722：地址；723：经度纬度；731：URL；741：设备分类ID；742：设备分类；751：状态变化；761：设置场所；771：设备ID；772：设备名；801：处理器；802：存储器；803：辅助存储装置；804：输入输出接口；805：通信模块组；806：总线。

Claims (11)

1.一种虚假投稿过滤装置，该虚假投稿过滤装置具有：

事项确定部，其对通知发生某个事项的投稿的内容进行分析，确定所述事项的发生场所；

询问对象确定部，其检索询问对象数据库，确定与由所述事项确定部确定的场所对应的询问对象，所述询问对象数据库存储有将由1个以上的设备观测到的场所和对所述1个以上的设备进行管理的管理主体的询问对象对应起来的数据；

询问部，其向由所述询问对象确定部确定的询问对象发送根据所述1个以上的设备的观测结果确认有无发生所述事项的请求，接收针对所述请求的响应；以及

结果反映部，其根据由所述询问部接收到的响应所示的确认结果判断所述投稿的内容的真伪，对所述投稿执行与判断结果对应的处理。

2.根据权利要求1所述的虚假投稿过滤装置，其中，

所述事项确定部根据所述投稿中包含的文本或图像确定所述事项的发生场所，

在由所述事项确定部根据所述文本和所述图像确定了不同的场所的情况下，所述结果反映部判断为所述投稿的内容虚假，省略由所述询问部发送所述请求。

3.根据权利要求2所述的虚假投稿过滤装置，其中，

所述事项确定部参照所述文本或所述图像中附加的位置信息，确定所述事项的发生场所。

4.根据权利要求1～3中的任意一项所述的虚假投稿过滤装置，其中，

所述事项确定部对所述投稿的内容进行分析，进一步确定所述事项的发生时刻，

所述询问部将由所述事项确定部确定的时刻的信息包含在所述请求中，由此，发送根据所述1个以上的设备的观测结果确认在由所述事项确定部确定的时刻有无发生所述事项的请求。

5.根据权利要求1～4中的任意一项所述的虚假投稿过滤装置，其中，

所述事项确定部对所述投稿的内容进行分析，进一步确定作为所述事项而发生的威胁，

所述询问部检索设备数据库，确定与由所述事项确定部确定的威胁对应的设备类别，将所确定的设备类别的信息包含在所述请求中，由此，发送根据与所确定的设备类别相符的设备的观测结果确认有无发生所述事项的请求，所述设备数据库存储有指定与威胁对应的设备类别的数据。

6.根据权利要求1～5中的任意一项所述的虚假投稿过滤装置，其中，

所述虚假投稿过滤装置是从用户的终端受理所述投稿并在网络上公开所述投稿的服务器。

7.根据权利要求1～5中的任意一项所述的虚假投稿过滤装置，其中，

所述虚假投稿过滤装置是利用在网络上公开所述投稿的服务的用户的终端。

8.根据权利要求1～5中的任意一项所述的虚假投稿过滤装置，其中，

所述虚假投稿过滤装置是网络装置，该网络装置设置于用户的终端与从所述用户的终端受理所述投稿并在网络上公开所述投稿的服务器之间。

9.一种虚假投稿过滤系统，该虚假投稿过滤系统具有：

权利要求1～8中的任意一项所述的虚假投稿过滤装置；以及

设备管理装置，其接收由所述询问部发送的请求，根据接收到的请求取得所述1个以上的设备的观测结果，根据所取得的观测结果确认有无发生所述事项，发送表示确认结果的响应。

10.一种虚假投稿过滤方法，其中，

虚假投稿过滤装置对通知发生某个事项的投稿的内容进行分析，确定所述事项的发生场所，检索询问对象数据库，确定与所确定的场所对应的询问对象，向所确定的询问对象发送根据1个以上的设备的观测结果确认有无发生所述事项的请求，所述询问对象数据库存储有将由所述1个以上的设备观测到的场所和对所述1个以上的设备进行管理的管理主体的询问对象对应起来的数据，

设备管理装置接收从所述虚假投稿过滤装置发送的请求，根据接收到的请求取得所述1个以上的设备的观测结果，根据所取得的观测结果确认有无发生所述事项，发送表示确认结果的响应，

所述虚假投稿过滤装置接收从所述设备管理装置发送的响应，根据接收到的响应所示的确认结果判断所述投稿的内容的真伪，对所述投稿执行与判断结果对应的处理。

11.一种虚假投稿过滤程序，该虚假投稿过滤程序使计算机执行以下步骤：

事项确定步骤，对通知发生某个事项的投稿的内容进行分析，确定所述事项的发生场所；

询问对象确定步骤，检索询问对象数据库，确定与通过所述事项确定步骤确定的场所对应的询问对象，所述询问对象数据库存储有将由1个以上的设备观测到的场所和对所述1个以上的设备进行管理的管理主体的询问对象对应起来的数据；

询问步骤，向通过所述询问对象确定步骤确定的询问对象发送根据所述1个以上的设备的观测结果确认有无发生所述事项的请求，接收针对所述请求的响应；以及

结果反映步骤，根据通过所述询问步骤接收到的响应所示的确认结果判断所述投稿的内容的真伪，对所述投稿执行与判断结果对应的处理。

Images