CN109543067A - 基于人工智能的企业生产状况实时监控分析系统 - Google Patents
基于人工智能的企业生产状况实时监控分析系统 Download PDFInfo
- Publication number
- CN109543067A CN109543067A CN201811378836.XA CN201811378836A CN109543067A CN 109543067 A CN109543067 A CN 109543067A CN 201811378836 A CN201811378836 A CN 201811378836A CN 109543067 A CN109543067 A CN 109543067A
- Authority
- CN
- China
- Prior art keywords
- video
- data
- module
- analysis
- enterprise
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- Multimedia (AREA)
- Finance (AREA)
- Economics (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- Development Economics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及一种基于人工智能的企业生产状况实时监控分析系统,其包括综合管理核心单元、视频记录服务单元、视频分析服务单元和视频识别服务单元。本发明构思合理,能对银行信贷企业进行视频直播监控进行图像的智能分析识别,得到结构化的信息后,再与知识图谱、具体商业逻辑数据结合,进行进一步的逻辑分析,为银行信贷提供坚实的实时有效的真实数据,为信贷决策提供数据依据,大大减小人力物力,加快了数据的获取速度,数据分析的实时有效性也得到根本性的提高。
Description
技术领域
本发明涉及人工智能技术领域,具体涉及一种基于人工智能的企业生产状况实时监控分析系统。
背景技术
随着神经网络技术的突破以及相应技术发展,人工智能和深度学习在图像与视频识别方面的独特的优势显现出来,通过深度学习系统能够很好的完成各种识别任务,效率远胜于人眼,比如汽车牌照识别、人物行为监控、特殊物体识别等等,已经有广泛的运用。
目前银行贷后管理系统,主要还是通过传统的人工监控录入的方式,定期派人到相关企业,收集数据,费事费力;传统收集数据的方式,也只能是通过人工的观察、记录,再上传到中心数据系统中,因此不能形成实时的有效数据给信贷业务提供坚实可靠及时的数据信息;收集来的数据会非常繁杂,需要进行各种转化整理,这就需要花费大量的人力物力,最后往往还得不到有效的信息。
发明内容
针对上述背景技术中存在的问题,本发明提出了一种基于人工智能的企业生产状况实时监控分析系统,构思合理,能对银行信贷企业进行视频直播监控进行图像的智能分析识别,得到结构化的信息后,再与知识图谱、具体商业逻辑数据结合,进行进一步的逻辑分析,为银行信贷提供坚实的实时有效的真实数据,为信贷决策提供数据依据,大大减小人力物力,加快了数据的获取速度,数据分析的实时有效性也得到根本性的提高。
本发明的技术方案如下:
上述的基于人工智能的企业生产状况实时监控分析系统,其包括综合管理核心单元、视频记录服务单元、视频分析服务单元和视频识别服务单元;所述综合管理核心单元是以Django与Celery为核心的控制系统,用于负责视频监控分析系统的整个调度工作;所述视频记录服务单元用于为系统提供视频录制服务,从Redis获取录制任务并开启录制子线程,根据需求从网络上获取视频并录制保存起来;所述视频分析服务用于为系统提供初步的视频识别视频分析服务,其从Redis获取系统的分析识别任务,使用视频识别算法对直播视频或录制视频进行分析处理,得到格式化的数据并保存起来,以为后续智能分析提供基础;所述视频识别服务单元包含在所述视频分析服务单元中,用于为系统的分析提供识别基础,且所述识别基础需要进行预先的模型搭建以及使用标注好的数据对其进行训练。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述综合管理核心单元包括定时任务执行模块、后台管理控制平台、视频录制任务定时发送模块、视频分析任务定时发送模块和第三方数据综合平台接口模块;所述定时任务执行模块用于控制视频分析数据的二次整理、管理定时录制视频行为以及对视频直播源状态进行监控;所述后台管理控制平台为中枢管理平台,其用于为管理员提供管理页面,显示当前的各种视频监控状态,并提供设置添加视频监控、控制监控状态、录制视频、视频智能分析和数据管理的功能;所述视频录制任务定时发送模块用于根据第三方或系统输入,定时地调用视频录制功能,对在线视频流进行录制存储,并对过期无效的视频进行删除;所述视频分析任务定时发送模块用于根据第三方或系统输入,定时地调用视频分析功能,分析出视频里每帧的内容,存储为结构化的信息,供后续使用;所述第三方数据综合平台接口模块用于为第三方以及后续的数据分析提供接口,根据第三方输入的具体需求,提供整理分析后的结构化数据。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述视频记录服务单元使用GlusterFS分布式文件存储系统,解决原视频文件及分析出的结构化数据过大的问题;所述视频记录服务单元使用Redis进行任务的分发,实现部署多台Record Service协同工作,实现录制系统的进一步扩展,以达到分布式录制的目的。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述视频分析服务单元采用Redis任务分发模式部署分布式的视频识别架构,以达到多路视频同时分析的目的;所述视频识别算法使用Tensorflow框架,并利用CUDA计算平台为视频分析提供计算服务,得到的识别数据保存为可为后续使用的数据结构并保存入Mysql或送入Kafka中,以为后续的分析工作提供数据支持。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述视频识别服务单元包括智能识别标注单元和神经网络模型训练单元;所述智能识别标注单元用于对输入的海量视频、图片进行结构化处理和机器智能标注,并根据设定的规则进行整理存储以及索引,为后续的智能处理提供关键的结构化数据,并为操作人员提供报警提示及搜索关键词图片的功能;所述神经网络模型训练单元是为所述智能识别标注单元提供基本的识别模型,其采用分布式的神经网络架构训练需要海量的标注数据,且在使用人工收集训练数据的同时,也尝试使用机器智能采集的方式,从网络抓取合理的图片集,以提高训练数据集的收集能力。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述智能识别标注单元主要包括视频图像识别引擎模块、大数据存储与检索模块、自然言语处理引擎模块、数据整理模块及二次关联模块、媒体数据导入模块、后台管理模块和操作员界面模块;所述视频图像识别引擎模块用于为系统的机器提供机器识别功能;所述大数据存储与检索模块使用分布式的储存框架以处理海量视频、图片数据;所述自然言语处理引擎模块基于RNN核心框架,用于处理经过CNN处理后生成的结构化信息,特别是文本信息,进行信息分析整合的工作;所述数据整理模块及二次关联模块用于根据生成的结构化数据进行统计、聚类、关联一序列处理,并根据关联规则进行二次整合关联,以达到视频的分类、基本的场景事件描述的功能;所述媒体数据导入模块用于与现有的平台数据进行对接,通过Redis/Kafka技术,达到快速转存处理的目的;所述后台管理模块用于提供基本的角色权限管理、报警规则的输入、数据统计和日志查看功能;所述操作员界面模块用于为操作员提供视频手工标注、机器辅助标记和报警后续处理功能。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述视频图像识别引擎模块采用神经网络模型TensorFlow,使用CNN卷积神经网络模型对视频、图片进行分析处理;所述大数据存储与检索模块采用分布式文件系统GlusterFS、大数据存储框架Hadoop和ElasticSearch;所述自然言语处理引擎模块采用RNN中的LSTM对文本自然语言进行处理;所述数据整理模块及二次关联模块采用聚类技术对结构化的信息进行多维度整合分析,并使用ElasticSearch/Mysql/MongoDB作为基础数据库;所述后台管理模块采用Vue2+ElementUI技术;所述操作员界面模块采用Vue2 + Vuerouter + Webpack+ Axios集成的前端技术,同时为后端提供RESTFUL API接口。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述神经网络模型训练单元主要包括卷积/循环神经网络模型分布式架构模块、数据集整理、人工数据采集模块和智能机器数据采集模块;所述卷积/循环神经网络模型分布式架构模块用于构建一个分布式的神经网络模型,使得原本单一且仅仅在单台主机和单独显卡上运行的神经网络模型,能够扩展到多台主机和多个显卡同时运行,以提高训练效率,减少训练总耗时;所述数据整理模块用于对搜集输入的标注数据进行初步的清洗工作,去除错误标注的数据,以提高训练的性能和模型识别准确率;所述人工数据采集模块用于为神经网络模型的监督学习训练提供数据信息;所述智能机器数据采集模块采用机器自动化的方式,用于从网络抓取合适的图片集,并进行简单分类标注,为神经网络模型的训练提供训练数据,以弥补人工采集标注的不足。
所述基于人工智能的企业生产状况实时监控分析系统,其中:所述卷积/循环神经网络模型分布式架构模块采用Kubernetes分布式神经网络框架,以提高运算速度与效率;所述智能机器数据采集模块采用Scrapy从网络抓取图片与数据元信息,并通过基本的搜索引擎对图片进行初步分类过滤,然后再用基础的图像识别进行二次过滤,以得到标注好的图片训练集。
本发明基于人工智能的企业生产状况实时监控分析系统构思合理,依靠快速发展的人工智能技术,使用Google的Tensorflow 等开源框架,对视频、图像进行机器分析处理,获得结构化信息,进行释义标注,为后续的大数据分析及自然语言分析处理提供数据源,最终达到视频与图像的监控、分析、处理等目标。更具体的,本发明对银行信贷企业进行视频直播监控进行图像的智能分析识别,得到结构化的信息后,再与知识图谱、具体商业逻辑数据结合,进行进一步的逻辑分析,为银行信贷提供坚实的实时有效的真实数据,为信贷决策提供数据依据。相比传统的方式,需要信贷监控人员去到每个信贷企业现场,进行长期的人眼监控,还需要整理数据、汇总、并进行人工维护推理,才能得到具体的商业数据,流程非常繁琐,而使用本发明大大减小人力物力,加快了数据的获取速度,数据分析的实时有效性,也得到根本性的提高。
同时,本发明还具有以下特点:
(1)使用一整套程序化的方案,对银行信贷企业进行实时跟踪,收集及时有效的生产、消费数据;
(2)对实时收集到的信贷企业数据信息进行分析,包括视频分析、水电消耗等;把视频的图像信息转化为结构化的信息数据,为下一步的数据分析提供基础;
(3)采用程序化的整合方式,利用各种金融分析指标的方式,对各种生产、消费数据进行数据处理,得到最后的生产、分险指标等,为银行的信贷业务提供有效参考。
附图说明
图1为本发明基于人工智能的企业生产状况实时监控分析系统的结构树形图。
图2为本发明基于人工智能的企业生产状况实时监控分析系统的综合管理核心单元的结构树形图。
图3为本发明基于人工智能的企业生产状况实时监控分析系统的视频识别服务单元的结构树形图。
具体实施方式
英文注解:
[1]Django是一个开放源代码的Web应用框架,由Python写成,采用了MVC的框架模式。
[2]Celery是一个用Python写成的,基于分布式消息传递的异步任务作业队列。它侧重于实时操作,但对调度支持也很好。
[3] Redis是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。
[4] RESTful API是用一套协议来规范多种形式的前端和同一个后台的交互方式。
[5]GlusterFS是一个开源的分布式文件系统,它具有强大的横向扩展能力,通过扩展能够支持极大的存储容量和处理数千客户端。
[6] Record Service是本系统的视频或图片视频记录服务程序模块。
[7] TensorFlow是谷歌研发的第二代人工智能学习系统,它将复杂的数据结构传输至人工智能神经网中进行分析和处理;TensorFlow可被用于语音识别或图像识别等多项机器学习和深度学习领域,近年来在该领域取得了显著成效。
[8] CUDA是显卡厂商NVIDIA推出的一个运算平台,基于通用并行计算架构,通过该平台,可以利用显卡解决复杂的计算问题。
[9] GPU(英语:Graphics Processing Unit,缩写:GPU),图形处理器,又称显示核心、视觉处理器、显示芯片,是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上图像运算工作的微处理器。
[10] MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,目前属于Oracle 旗下产品;MySQL 是最流行的关系型数据库管理系统之一。
[11] Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写;Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。
[12] Google即谷歌公司,是一家位于美国的跨国科技企业,业务包括互联网搜索、云计算、广告技术等。
[13]CNN即卷积神经网络,是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。
[14] RNN即循环神经网络,是一种节点定向连接成环的人工神经网络;RNN可以利用它内部的记忆来处理任意时序的输入序列,这让它可以更容易处理如不分段的手写识别、语音识别等。
[15] Hadoop是一个由Apache基金会所开发的分布式系统基础架构,该框架最核心的设计可以为海量的数据提供存储,同时可以为海量的数据提供计算。
[16] ElasticSearch是一个搜索服务器,其提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口,可用于云计算中,能达到实时搜索,并有稳定,可靠,快速,安装使用方便等优点。
[17] MongoDB 是一个基于分布式文件存储的数据库,旨在为网站应用提供可扩展的高性能数据存储解决方案,MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。
[18] Vue2是一套构建用户界面的渐进式框架,它只关注视图层, 采用自底向上增量开发的设计,它的目标是通过尽可能简单的接口实现响应的数据绑定和组合的视图组件。
[19] VueRouter是Vue官方的路由管理器。其和Vue的核心深度集成。
[20] Webpack是一个模块打包器,其主要目标是将JavaScript文件打包在一起,打包后的文件用于在浏览器中使用。
[21] Axios是一个基于promise的HTTP库,可以用在浏览器和node.js中。
[22] Kubernetes是一个开源的,用于管理云平台中多个主机上的容器化的应用,Kubernetes的目标是让部署容器化的应用简单并且高效,Kubernetes提供了应用部署,规划,更新,维护的一种机制。
[23] Scrapy是一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据;Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试。
如图1至3所示,本发明基于人工智能的企业生产状况实时监控分析系统,包括综合管理核心单元1、视频记录服务单元2、视频分析服务单元3和视频识别服务单元4。
该综合管理核心单元1是以Django与Celery为核心的控制系统,主要用于负责视频监控分析系统的整个调度工作。
该综合管理核心单元1包括定时任务执行模块11、后台管理控制平台12、视频录制任务定时发送模块13、视频分析任务定时发送模块14和第三方数据综合平台接口模块15。
该定时任务执行模块11用于控制视频分析数据的二次整理、管理定时录制视频行为以及对视频直播源状态进行监控。
该后台管理控制平台12为中枢管理平台,其用于为管理员提供管理页面,显示当前的各种视频监控状态,并提供设置添加视频监控、控制监控状态、录制视频、视频智能分析、数据管理的功能。
该视频录制任务定时发送模块13用于根据第三方或系统输入,定时地调用视频录制功能,对在线视频流进行录制存储,并对过期无效的视频进行删除。
该视频分析任务定时发送模块14用于根据第三方或系统输入,定时地调用视频分析功能,分析出视频里每帧的内容,存储为结构化的信息,供后续使用。
该第三方数据综合平台接口模块15用于为第三方以及后续的数据分析提供接口,根据第三方输入的具体需求,提供整理分析后的结构化数据。
该视频记录服务(Record Service)单元2用于为系统提供视频录制服务,从Redis获取录制任务并开启录制子线程,根据需求从网络上获取视频并录制保存起来。由于一般视频数据都比较大,所以该视频记录服务(Record Service)单元2使用GlusterFS分布式文件存储系统,能够解决原视频文件及分析出的结构化数据过大的问题;该视频记录服务(Record Service)单元2使用Redis进行任务的分发,实现部署多台Record Service协同工作,实现录制系统的进一步扩展,以达到分布式录制的目的。
该视频分析服务(Analysiz Service)单元3用于为系统提供初步的视频识别视频分析服务,从Redis获取系统的分析识别任务,使用Tensorflow等视频识别算法,对直播视频或是录制视频进行分析处理,得到格式化的数据并保存起来,为后续的智能分析提供基础。该视频分析服务单元3采用Redis任务分发模式,可以部署分布式的视频识别架构,达到多路视频同时分析的目的;视频识别算法使用最近比较热门的Tensorflow框架,并利用CUDA计算平台使用强大的GPU计算能力,为视频分析提供高效的服务;得到的识别数据保存为可为后续使用的数据结构并保存入Mysql或送入Kafka中,为后续的分析工作提供数据支持。
该视频识别服务单元4包含在视频分析服务单元3中,用于为系统的分析提供识别基础,而该识别基础需要进行预先的模型搭建以及使用大量标注好的数据对其进行训练;其中,该视频识别服务单元4包括智能识别标注单元41和神经网络模型训练单元42。
该智能识别标注单元41用于对输入的海量视频、图片进行结构化处理、机器智能标注,并根据设定的规则进行整理存储以及索引,为后续的智能处理提供关键的结构化数据,并为操作人员提供报警提示及搜索关键词图片的功能。
该智能识别标注单元41主要包括视频图像识别引擎模块411、大数据存储与检索模块412、自然言语处理引擎模块413、数据整理模块及二次关联模块414、媒体数据导入模块415、后台管理模块416和操作员界面模块417。
该视频图像识别引擎模块411为系统的核心功能模块,用于为系统的机器提供机器识别功能;该视频图像识别引擎模块411采用谷歌最强大的神经网络模型TensorFlow,使用CNN卷积神经网络模型对视频、图片进行分析处理。CNN卷积神经网络模型是深度学习的一个重要框架,卷积神经网络是一种多层神经网络,擅长处理图像特别是大图像的相关机器学习问题;积神经网络通过一系列方法,成功将数据量庞大的图像识别问题不断降维,最终使其能够被训练;CNN卷积神经网络模型通过卷积来模拟特征区分,并且通过卷积的权值共享及池化,来降低网络参数的数量级,最后通过传统神经网络完成分类等任务。
该大数据存储与检索模块412使用分布式的储存框架以处理海量视频、图片数据。该大数据存储与检索模块412采用分布式文件系统GlusterFS、大数据存储框架Hadoop,包括ElasticSearch等。GlusterFS是一个开源的分布式文件系统,具有强大的横向扩展能力,通过扩展能够支持极大存储容量和处理数千客户端。Hadoop是一个能够对大量数据进行分布式处理的软件框架,具有可靠、高效、可伸缩的特点。ElasticSearch是一个搜索服务器,其提供了一个分布式多用户能力的全文搜索引擎,基于RESTFUL API接口;Elasticsearch是当前流行的企业级搜索引擎,设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。
该自然言语处理引擎模块413基于RNN核心框架,用于处理经过CNN处理后生成的结构化信息,特别是文本信息,进行信息分析整合的工作。该自然言语处理引擎模块413采用RNN中重要的一种结构LSTM对文本自然语言进行处理,该LSTM是一种 RNN 特殊的类型,可以学习长期依赖信息。
该数据整理模块及二次关联模块414用于根据生成的结构化数据进行统计、聚类、关联一序列处理,并根据关联规则进行二次整合关联,达到视频的分类、基本的场景事件描述的功能;该数据整理模块及二次关联模块414采用聚类技术,对结构化的信息进行多维度整合分析,并使用ElasticSearch/Mysql/MongoDB作为基础数据库。
该媒体数据导入模块415用于与现有的平台数据进行对接,通过Redis/Kafka技术,达到快速转存处理的目的。Redis有以下三个特点:(1)支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用;(2)支持简单的键值类型的数据,同时还提供list,set,zset,hash等数据结构的存储;(3)支持数据的备份,即键值模式的数据备份;Redis有着更为复杂的数据结构并且提供对他们的原子性操作,这是一个不同于其他数据库的进化路径;Redis的数据类型都是基于基本数据结构的同时对程序员透明,无需进行额外的抽象。
该后台管理模块416用于提供基本的角色权限管理、报警规则的输入、数据统计、日志查看功能。该后台管理模块416采用Vue2+ElementUI技术;Vue是一套构建用户界面的渐进式框架,它是以数据驱动和组件化的思想构建的,采用自底向上增量开发的设计;Vue的核心库只关注视图层,它不仅易于上手,还便于与第三方库或既有项目整合。ElementUI是一套为开发者、设计师和产品经理准备的基于 Vue 2.0 的组件库,提供了配套设计资源,帮助你的网站快速成型。
该操作员界面模块417用于为操作员提供视频手工标注、机器辅助标记、报警后续处理功能;该操作员界面模块417采用Vue2 + Vuerouter + Webpack+ Axios集成的前端技术,同时为第三方应用以及后续的具体数据分析需求提供RESTFUL API接口。
该神经网络模型训练单元42是为该智能识别标注单元41提供基本的识别模型,由于训练需要海量的标注数据,为了提高计算的速度与效率,将采用分布式的神经网络架构,且在使用人工收集训练数据的同时,也尝试使用机器智能采集的方式,从网络抓取合理的图片集,提高训练数据集的收集能力。
该神经网络模型训练单元42主要包括卷积/循环神经网络模型分布式架构模块421、数据集整理模块422、人工数据采集模块423和智能机器数据采集模块424。
该卷积/循环神经网络模型分布式架构模块421用于构建一个分布式的神经网络模型,使得原本单一的,仅仅在单台主机、单独显卡上运行的神经网络模型能够扩展到多台主机、多个显卡同时运行,提高训练效率,减少训练总耗时;神经网络模型需要使用海量数据进行大规模的训练,使用分布式的架构,能提高计算速度与效率,减小训练所需时间,提高识别的准确率;该卷积/循环神经网络模型分布式架构模块421采用Kubernetes分布式神经网络框架,提高运算速度与效率。传统的训练神经网络模型存在各种问题,训练Tensorflow时各个资源无法隔离,缺乏GPU调度能力,任务管理麻烦,查看日志不方便,创建训练集群难度大。Kubernetes提供多种资源管理机制,支持GPU调度,支持容器里进行任务训练,对接成熟日志方案,轻松快捷实现大规模Tensorflow集群。
该数据整理模块422用于对搜集输入的标注数据进行初步的清洗工作,去除错误标注的数据,以提高训练的性能,提高模型识别准确率。
该人工数据采集模块423用于为神经网络模型的监督学习训练提供数据信息。
该智能机器数据采集模块424采用机器自动化的方式,用于从网络抓取合适的图片集,并进行简单分类标注,为神经网络模型的训练提供训练数据,弥补人工采集标注的不足。该智能机器数据采集模块424采用Scrapy从网络抓取图片与数据元信息,通过基本的搜索引擎对图片进行初步分类过滤,然后再用基础的图像识别进行二次过滤,得到标注好的图片训练集。
本发明为银行的贷后管理提供了一整套实时数据监测的技术,它不仅大大降低了数据收集的难度,数据收集的时间性,同时还能够对图像等传统无法处理的数据比如图像信息进行结构化处理,转化为可以进一步分析处理的数据信息,接着,利用程序化的方式,根据各种风险指标的计算方法,对这些生产、消费数据进行综合处理,得到可视化的信息,为银行工作人员提供及时有效的参考信息,达到智能分析管理处理的目的。
Claims (9)
1.一种基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述系统包括综合管理核心单元、视频记录服务单元、视频分析服务单元和视频识别服务单元;
所述综合管理核心单元是以Django与Celery为核心的控制系统,用于负责视频监控分析系统的整个调度工作;
所述视频记录服务单元用于为系统提供视频录制服务,从Redis获取录制任务并开启录制子线程,根据需求从网络上获取视频并录制保存起来;
所述视频分析服务用于为系统提供初步的视频识别视频分析服务,其从Redis获取系统的分析识别任务,使用视频识别算法对直播视频或录制视频进行分析处理,得到格式化的数据并保存起来,以为后续智能分析提供基础;
所述视频识别服务单元包含在所述视频分析服务单元中,用于为系统的分析提供识别基础,且所述识别基础需要进行预先的模型搭建以及使用标注好的数据对其进行训练。
2.如权利要求1所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述综合管理核心单元包括定时任务执行模块、后台管理控制平台、视频录制任务定时发送模块、视频分析任务定时发送模块和第三方数据综合平台接口模块;
所述定时任务执行模块用于控制视频分析数据的二次整理、管理定时录制视频行为以及对视频直播源状态进行监控;
所述后台管理控制平台为中枢管理平台,其用于为管理员提供管理页面,显示当前的各种视频监控状态,并提供设置添加视频监控、控制监控状态、录制视频、视频智能分析和数据管理的功能;
所述视频录制任务定时发送模块用于根据第三方或系统输入,定时地调用视频录制功能,对在线视频流进行录制存储,并对过期无效的视频进行删除;
所述视频分析任务定时发送模块用于根据第三方或系统输入,定时地调用视频分析功能,分析出视频里每帧的内容,存储为结构化的信息,供后续使用;
所述第三方数据综合平台接口模块用于为第三方以及后续的数据分析提供接口,根据第三方输入的具体需求,提供整理分析后的结构化数据。
3.如权利要求1所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述视频记录服务单元使用GlusterFS分布式文件存储系统,解决原视频文件及分析出的结构化数据过大的问题;所述视频记录服务单元使用Redis进行任务的分发,实现部署多台Record Service协同工作,实现录制系统的进一步扩展,以达到分布式录制的目的。
4.如权利要求1所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述视频分析服务单元采用Redis任务分发模式部署分布式的视频识别架构,以达到多路视频同时分析的目的;
所述视频识别算法使用Tensorflow框架,并利用CUDA计算平台为视频分析提供计算服务,得到的识别数据保存为可为后续使用的数据结构并保存入Mysql或送入Kafka中,以为后续的分析工作提供数据支持。
5.如权利要求1所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述视频识别服务单元包括智能识别标注单元和神经网络模型训练单元;
所述智能识别标注单元用于对输入的海量视频、图片进行结构化处理和机器智能标注,并根据设定的规则进行整理存储以及索引,为后续的智能处理提供关键的结构化数据,并为操作人员提供报警提示及搜索关键词图片的功能;
所述神经网络模型训练单元是为所述智能识别标注单元提供基本的识别模型,其采用分布式的神经网络架构训练需要海量的标注数据,且在使用人工收集训练数据的同时,也尝试使用机器智能采集的方式,从网络抓取合理的图片集,以提高训练数据集的收集能力。
6.如权利要求5所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述智能识别标注单元主要包括视频图像识别引擎模块、大数据存储与检索模块、自然言语处理引擎模块、数据整理模块及二次关联模块、媒体数据导入模块、后台管理模块和操作员界面模块;
所述视频图像识别引擎模块用于为系统的机器提供机器识别功能;
所述大数据存储与检索模块使用分布式的储存框架以处理海量视频、图片数据;
所述自然言语处理引擎模块基于RNN核心框架,用于处理经过CNN处理后生成的结构化信息,特别是文本信息,进行信息分析整合的工作;
所述数据整理模块及二次关联模块用于根据生成的结构化数据进行统计、聚类、关联一序列处理,并根据关联规则进行二次整合关联,以达到视频的分类、基本的场景事件描述的功能;
所述媒体数据导入模块用于与现有的平台数据进行对接,通过Redis/Kafka技术,达到快速转存处理的目的;
所述后台管理模块用于提供基本的角色权限管理、报警规则的输入、数据统计和日志查看功能;
所述操作员界面模块用于为操作员提供视频手工标注、机器辅助标记和报警后续处理功能。
7.如权利要求6所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述视频图像识别引擎模块采用神经网络模型TensorFlow,使用CNN卷积神经网络模型对视频、图片进行分析处理;
所述大数据存储与检索模块采用分布式文件系统GlusterFS、大数据存储框架Hadoop和ElasticSearch;
所述自然言语处理引擎模块采用RNN中的LSTM对文本自然语言进行处理;
所述数据整理模块及二次关联模块采用聚类技术对结构化的信息进行多维度整合分析,并使用ElasticSearch/Mysql/MongoDB作为基础数据库;
所述后台管理模块采用Vue2+ElementUI技术;
所述操作员界面模块采用Vue2 + Vuerouter + Webpack+ Axios集成的前端技术,同时为后端提供RESTFUL API接口。
8.如权利要求5所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述神经网络模型训练单元主要包括卷积/循环神经网络模型分布式架构模块、数据集整理、人工数据采集模块和智能机器数据采集模块;
所述卷积/循环神经网络模型分布式架构模块用于构建一个分布式的神经网络模型,使得原本单一且仅仅在单台主机和单独显卡上运行的神经网络模型,能够扩展到多台主机和多个显卡同时运行,以提高训练效率,减少训练总耗时;
所述数据整理模块用于对搜集输入的标注数据进行初步的清洗工作,去除错误标注的数据,以提高训练的性能和模型识别准确率;
所述人工数据采集模块用于为神经网络模型的监督学习训练提供数据信息;
所述智能机器数据采集模块采用机器自动化的方式,用于从网络抓取合适的图片集,并进行简单分类标注,为神经网络模型的训练提供训练数据,以弥补人工采集标注的不足。
9.如权利要求8所述的基于人工智能的企业生产状况实时监控分析系统,其特征在于:所述卷积/循环神经网络模型分布式架构模块采用Kubernetes分布式神经网络框架,以提高运算速度与效率;
所述智能机器数据采集模块采用Scrapy从网络抓取图片与数据元信息,并通过基本的搜索引擎对图片进行初步分类过滤,然后再用基础的图像识别进行二次过滤,以得到标注好的图片训练集。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811378836.XA CN109543067A (zh) | 2018-11-19 | 2018-11-19 | 基于人工智能的企业生产状况实时监控分析系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811378836.XA CN109543067A (zh) | 2018-11-19 | 2018-11-19 | 基于人工智能的企业生产状况实时监控分析系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109543067A true CN109543067A (zh) | 2019-03-29 |
Family
ID=65848355
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811378836.XA Pending CN109543067A (zh) | 2018-11-19 | 2018-11-19 | 基于人工智能的企业生产状况实时监控分析系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109543067A (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110458123A (zh) * | 2019-08-15 | 2019-11-15 | 成都睿晓科技有限公司 | 一种基于视频监控的加油站服务效率智能分析系统 |
CN111026879A (zh) * | 2019-12-09 | 2020-04-17 | 海南大学 | 多维度价值导向的针对意图的面向对象数值计算方法 |
CN111489744A (zh) * | 2020-04-03 | 2020-08-04 | 中数通信息有限公司 | 一种智慧银行管理系统 |
CN111694854A (zh) * | 2020-06-05 | 2020-09-22 | 北京百度网讯科技有限公司 | 一种区域进出监控方法、装置、电子设备及存储介质 |
CN111814549A (zh) * | 2020-06-04 | 2020-10-23 | 北京沅启融安科技有限公司 | 一种基于监控视频采样与图像识别技术的数据分析方法 |
CN111859076A (zh) * | 2020-07-31 | 2020-10-30 | 平安健康保险股份有限公司 | 数据爬取方法、装置、计算机设备及计算机可读存储介质 |
CN111882049A (zh) * | 2020-07-02 | 2020-11-03 | 清华大学 | 基于企业智能神经网络物质流监控及分析系统 |
CN112784805A (zh) * | 2021-02-02 | 2021-05-11 | 郑州地铁集团有限公司 | 一种基于图像识别的弓网视频分析系统及方法 |
CN112801431A (zh) * | 2021-04-13 | 2021-05-14 | 广东浩迪智云技术有限公司 | 基于人工智能分析的企业经营风险评估方法及系统 |
CN113065051A (zh) * | 2021-04-02 | 2021-07-02 | 西南石油大学 | 一种可视化农业大数据分析交互系统 |
CN113255477A (zh) * | 2021-05-08 | 2021-08-13 | 深圳市安软科技股份有限公司 | 一种行人视频图像的综合管理系统及方法 |
CN113612970A (zh) * | 2021-07-30 | 2021-11-05 | 国电汉川发电有限公司 | 一种面向工业监控视频的安全事件智能分析管控平台 |
CN113688279A (zh) * | 2021-08-20 | 2021-11-23 | 山东产业技术研究院智能计算研究院 | 一种基于celery的视频结构化方法及系统 |
CN114819708A (zh) * | 2022-05-17 | 2022-07-29 | 中国银行股份有限公司 | 一种企业经营状况的监控方法、装置及设备 |
CN114862284A (zh) * | 2022-07-06 | 2022-08-05 | 南通思普信息科技有限公司 | 一种基于云端实时语义分析的商业智能模块系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101667271A (zh) * | 2009-09-14 | 2010-03-10 | 石庆生 | 大批量生产企业的管控一体化系统及方法 |
CN103826108A (zh) * | 2014-03-18 | 2014-05-28 | 江苏苏大大数据科技有限公司 | 基于视频图像的贷后监控方法及系统 |
CN108174165A (zh) * | 2018-01-17 | 2018-06-15 | 重庆览辉信息技术有限公司 | 电力安全作业及运维智能监管系统及方法 |
WO2018124510A1 (ko) * | 2016-12-27 | 2018-07-05 | 한화테크윈 주식회사 | 이벤트 저장 장치, 이벤트 검색 장치, 및 이벤트 알람 장치 |
-
2018
- 2018-11-19 CN CN201811378836.XA patent/CN109543067A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101667271A (zh) * | 2009-09-14 | 2010-03-10 | 石庆生 | 大批量生产企业的管控一体化系统及方法 |
CN103826108A (zh) * | 2014-03-18 | 2014-05-28 | 江苏苏大大数据科技有限公司 | 基于视频图像的贷后监控方法及系统 |
WO2018124510A1 (ko) * | 2016-12-27 | 2018-07-05 | 한화테크윈 주식회사 | 이벤트 저장 장치, 이벤트 검색 장치, 및 이벤트 알람 장치 |
CN108174165A (zh) * | 2018-01-17 | 2018-06-15 | 重庆览辉信息技术有限公司 | 电力安全作业及运维智能监管系统及方法 |
Non-Patent Citations (1)
Title |
---|
霍达: "基于Celery 的分布式视频计算处理框架", 《电视技术》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110458123A (zh) * | 2019-08-15 | 2019-11-15 | 成都睿晓科技有限公司 | 一种基于视频监控的加油站服务效率智能分析系统 |
CN111026879A (zh) * | 2019-12-09 | 2020-04-17 | 海南大学 | 多维度价值导向的针对意图的面向对象数值计算方法 |
CN111026879B (zh) * | 2019-12-09 | 2020-11-06 | 海南大学 | 多维度价值导向的针对意图的面向对象数值计算方法 |
CN111489744A (zh) * | 2020-04-03 | 2020-08-04 | 中数通信息有限公司 | 一种智慧银行管理系统 |
CN111814549A (zh) * | 2020-06-04 | 2020-10-23 | 北京沅启融安科技有限公司 | 一种基于监控视频采样与图像识别技术的数据分析方法 |
CN111694854A (zh) * | 2020-06-05 | 2020-09-22 | 北京百度网讯科技有限公司 | 一种区域进出监控方法、装置、电子设备及存储介质 |
CN111694854B (zh) * | 2020-06-05 | 2023-07-21 | 北京百度网讯科技有限公司 | 一种区域进出监控方法、装置、电子设备及存储介质 |
CN111882049B (zh) * | 2020-07-02 | 2022-11-11 | 清华大学 | 基于企业智能神经网络物质流监控及分析系统 |
CN111882049A (zh) * | 2020-07-02 | 2020-11-03 | 清华大学 | 基于企业智能神经网络物质流监控及分析系统 |
CN111859076A (zh) * | 2020-07-31 | 2020-10-30 | 平安健康保险股份有限公司 | 数据爬取方法、装置、计算机设备及计算机可读存储介质 |
CN111859076B (zh) * | 2020-07-31 | 2024-04-02 | 平安健康保险股份有限公司 | 数据爬取方法、装置、计算机设备及计算机可读存储介质 |
CN112784805A (zh) * | 2021-02-02 | 2021-05-11 | 郑州地铁集团有限公司 | 一种基于图像识别的弓网视频分析系统及方法 |
CN113065051A (zh) * | 2021-04-02 | 2021-07-02 | 西南石油大学 | 一种可视化农业大数据分析交互系统 |
CN112801431A (zh) * | 2021-04-13 | 2021-05-14 | 广东浩迪智云技术有限公司 | 基于人工智能分析的企业经营风险评估方法及系统 |
CN113255477A (zh) * | 2021-05-08 | 2021-08-13 | 深圳市安软科技股份有限公司 | 一种行人视频图像的综合管理系统及方法 |
CN113612970A (zh) * | 2021-07-30 | 2021-11-05 | 国电汉川发电有限公司 | 一种面向工业监控视频的安全事件智能分析管控平台 |
CN113688279A (zh) * | 2021-08-20 | 2021-11-23 | 山东产业技术研究院智能计算研究院 | 一种基于celery的视频结构化方法及系统 |
CN114819708A (zh) * | 2022-05-17 | 2022-07-29 | 中国银行股份有限公司 | 一种企业经营状况的监控方法、装置及设备 |
CN114862284A (zh) * | 2022-07-06 | 2022-08-05 | 南通思普信息科技有限公司 | 一种基于云端实时语义分析的商业智能模块系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109543067A (zh) | 基于人工智能的企业生产状况实时监控分析系统 | |
Jauro et al. | Deep learning architectures in emerging cloud computing architectures: Recent development, challenges and next research trend | |
Mehmood et al. | Implementing big data lake for heterogeneous data sources | |
CN109272155A (zh) | 一种基于大数据的企业行为分析系统 | |
CN107229708A (zh) | 一种个性化出行服务大数据应用系统及方法 | |
CN105893583A (zh) | 基于人工智能的数据采集方法及系统 | |
CN110516077A (zh) | 面向企业商情的知识图谱构建方法及装置 | |
CN112580831A (zh) | 一种基于知识图谱的电力通信网智能辅助运维方法及系统 | |
CN108597605A (zh) | 一种个人健康生活大数据采集与分析系统 | |
Prabowo et al. | Utilizing mobile-based deep learning model for managing video in knowledge management system | |
CN106844588A (zh) | 一种基于网络爬虫的用户行为数据的分析方法及系统 | |
CN113741883A (zh) | 一种rpa轻量级数据中台系统 | |
Li et al. | Big data and its key technology in the future | |
CN109345293A (zh) | 一种面向品牌电商的大数据信息服务方法和系统 | |
Bouzidi et al. | Enhancing crisis management because of deep learning, big data and parallel computing environment: survey | |
CN103227810B (zh) | 一种在网络监控中识别远程桌面语义的方法、装置和系统 | |
CN111026940A (zh) | 一种面向电网电磁环境的网络舆情及风险信息监测系统、电子设备 | |
CN116010662A (zh) | 一种能源消费-碳排放查询系统的构建方法、装置及介质 | |
Ren et al. | [Retracted] A Study on Information Classification and Storage in Cloud Computing Data Centers Based on Group Collaborative Intelligent Clustering | |
CN113901291A (zh) | 资产字典库的构建方法及装置、存储介质及电子设备 | |
CN110069469A (zh) | 一种科研大数据的建立方法及基于神经网络算法的研究合作匹配撮合系统 | |
CN101996255A (zh) | 一种面向需求接口的云计算搜索体系架构方法 | |
Jie et al. | Application Status of Big Data in Agriculture and International Cooperation | |
Singh et al. | Application of Hadoop in Data Science | |
Al Aghbari | Mining big data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190329 |
|
RJ01 | Rejection of invention patent application after publication |