CN113887439A - 基于图像识别的自动预警方法、装置、设备及存储介质 - Google Patents
基于图像识别的自动预警方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113887439A CN113887439A CN202111167947.8A CN202111167947A CN113887439A CN 113887439 A CN113887439 A CN 113887439A CN 202111167947 A CN202111167947 A CN 202111167947A CN 113887439 A CN113887439 A CN 113887439A
- Authority
- CN
- China
- Prior art keywords
- image
- monitoring image
- skeleton
- preset
- early warning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C9/00—Individual registration on entry or exit
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B31/00—Predictive alarm systems characterised by extrapolation or other computation using updated historic data
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Emergency Management (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及人工智能及数字医疗技术,揭露一种基于图像识别的自动预警方法,包括:对原始监控图像进行频域转换及滤波处理,得到初始监控图像,根据计算得到的全局阈值对初始监控图像进行二值化,得到标准监控图像,从标准监控图像中提取标准骨架图像,筛选标准骨架图像中的多条骨架直线,并对多条骨架直线进行相交处理,得到多个骨架关键点,将多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别区域的个数,根据个数和预设的预警规则进行预警。此外,本发明还涉及区块链技术,全局阈值可存储于区块链的节点。本发明还提出一种基于图像识别的自动预警装置、电子设备以及存储介质。本发明可以解决自动预警的准确度较低的问题。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于图像识别的自动预警方法、装置、电子设备及计算机可读存储介质。
背景技术
随着互联网和经济的快速发展,人们的工作和生活也更加忙碌,为了节约时间,通常希望在各种需要排队的场合可以减少排队的时间,进而可以将更多的时间花在工作上。因此急需一种排队拥堵时的自动预警方法。
现有的自动预警方法通常是将可以进行计数的硬件装在场地的门上,当有人进门后则会进行计数,当计数量达到一定的阈值时发出警报,但是这种方法并没有考虑到进门和出门造成了重复计数,进而导致自动预警的准确度较低。
发明内容
本发明提供一种基于图像识别的自动预警方法、装置及计算机可读存储介质,其主要目的在于解决自动预警的准确度较低的问题。
为实现上述目的,本发明提供的一种基于图像识别的自动预警方法,包括:
获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像;
计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像;
根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像;
筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点;
将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数;
根据所述多个目标关键区域的个数和预设的预警规则进行预警。
可选地,所述计算所述初始监控图像的全局阈值,包括:
将所述初始监控图像中的像素点分配至预设的直方图中的各个区块,并统计所述直方图中每个区块所包含的像素点的数量;
分别将每个区块所包含的像素点的数量除以所述初始监控图像中的总像素点数量,得到每个区块对应的区块值;
获取预设的分类值、第一阈值和第二阈值,将所述分类值和所述第一阈值构建为第一区间,将所述分类值和所述第二阈值构建为第二区间;
令所述区块值在所述第一区间的像素点为前景像素,计算所述前景像素和所述初始监控图像中的总像素点数量的比例为前景比例,并得到所述前景像素对应的前景灰度;
令所述区块值在所述第二间的像素点为背景像素,计算所述背景像素和所述初始监控图像中的总像素点数量的比例为背景比例,并得到所述背景像素对应的背景灰度;
利用预设的方差公式计算所述前景像素和所述背景像素的方差值;
重新设置多个分类值,分别根据设置后的多个分类值和所述第一阈值、第二阈值构建对应的区间,并执行方差值计算的步骤,将得到多个分类值对应的方差值按照从大到小进行排序,得到方差值排行榜;
将所述方差值排行榜上排在第一位的方差值对应的分类值作为全局阈值。
可选地,所述根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像,包括:
将所述初始监控图像中大于所述全局阈值的像素点设置为预设的第一灰度值;
将所述初始监控图像中小于或者等于所述全局阈值的像素点设置为预设的第二灰度值,得到标准监控图像。
可选地,所述根据预设骨架提取条件从所述标准区域图像中提取标准骨架图像,包括:
将所述标准区域图像中满足第一骨架提取条件的像素点删除,所述第一骨架提取条件为令满足预设的第一乘积式的多个目标像素点的乘积为第一预设值;或
将所述标准区域图像中满足第二骨架提取条件的像素点删除,得到标准骨架图像,所述第二骨架提取条件为令满足预设的第二乘积式的多个所述目标像素点的乘积为第二预设值。
可选地,所述筛选所述标准骨架图像中的多条骨架直线,包括:
利用预设的直线检测算法检测出所述标准骨架图像中的多条直线;
删除所述多条直线中直线长度小于预设的直线阈值的直线,得到多条骨架直线。
可选地,所述对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像,包括:
对所述原始监控图像进行空间转换处理,得到频域图像;
利用预设的滤波函数对所述频域图像进行滤波处理,得到滤波图像;
对所述滤波图像进行空间恢复处理,得到初始监控图像。
可选地,所述对所述原始监控图像进行空间转换处理,得到频域图像,包括:
利用预设的快速傅里叶公式对所述原始监控图像进行空间转换处理,得到频域图像:
其中,f(x,y)表示原始监控图像的像素值,F(u,v)表示频域图像的像素值,M、N表示原始监控图像的宽和高,j为快速傅里叶变换函数中的固定参数,x、y分别代表所述原始监控图像中的第x行第y列,u、v分别代表所述频域图像中的第u行第v列。
为了解决上述问题,本发明还提供一种基于图像识别的自动预警装置,所述装置包括:
频域转换模块,用于获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像;
二值化模块,用于计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像;
骨架提取模块,用于根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像;
直线相交模块,用于筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点;
关键区域获取模块,用于将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数;
预警模块,用于根据所述多个目标关键区域的个数和预设的预警规则进行预警。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述所述的基于图像识别的自动预警方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个计算机程序,所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的基于图像识别的自动预警方法。
本发明实施例通过对原始监控图像进行频域转换及滤波处理,得到初始监控图像,所述滤波处理可以过滤掉低频分量和高频分量,计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,可以凸显出所述初始监控图像中的目标物体的轮廓,根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像,提高了骨架筛选的准确度,并进行筛选和进行相交及映射处理,得到目标关键区域。根据所述多个目标关键区域的个数和预设的预警规则进行预警,提高了预警的准确度。因此本发明提出的基于图像识别的自动预警方法、装置、电子设备及计算机可读存储介质,可以实现解决自动预警的准确度较低的问题。
附图说明
图1为本发明一实施例提供的基于图像识别的自动预警方法的流程示意图;
图2为本发明一实施例提供的基于图像识别的自动预警装置的功能模块图;
图3为本发明一实施例提供的实现所述基于图像识别的自动预警方法的电子设备的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种基于图像识别的自动预警方法。所述基于图像识别的自动预警方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述基于图像识别的自动预警方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。所述服务器可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(ContentDelivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
参照图1所示,为本发明一实施例提供的基于图像识别的自动预警方法的流程示意图。在本实施例中,所述基于图像识别的自动预警方法包括:
S1、获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像。
本发明实施例中,所述原始监控图像是指在食堂场景中拍摄排队队伍的监控图像,其中,所述原始监控图像中的排队队伍中包含多个排队者。
具体地,所述对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像,包括:
对所述原始监控图像进行空间转换处理,得到频域图像;
利用预设的滤波函数对所述频域图像进行滤波处理,得到滤波图像;
对所述滤波图像进行空间恢复处理,得到初始监控图像。
详细地,所述空间转换处理是指将所述原始监控图像从空间域转换到频域上,可以利用快速傅里叶公式实现空间转换。所述空间恢复处理是指将所述滤波图像从频域转换到空间域上,可以利用傅里叶反变换公式实现空间恢复。所述滤波处理是采用一个高斯带通滤波函数来过滤掉所述频域图像中的低频分量和高频分量。其中,环境光等光线干扰属于低频分量,噪音属于高频分量。
进一步地,所述对所述原始监控图像进行空间转换处理,得到频域图像,包括:
利用预设的快速傅里叶公式对所述原始监控图像进行空间转换处理,得到频域图像:
其中,f(x,y)表示原始监控图像的像素值,F(u,v)表示频域图像的像素值,M、N表示原始监控图像的宽和高,j为快速傅里叶变换函数中的固定参数,x、y分别代表所述原始监控图像中的第x行第y列,u、v分别代表所述频域图像中的第u行第v列。
详细地,本发明实施例利用下述滤波函数对所述频域图像进行滤波处理,得到滤波图像:
其中,H(u,v)为滤波图像的像素值,F(u,v)为频域图像的像素值,D0、W和n为固定参数。
优选地,n取值为3,D0取值为120,W取值为10。
进一步地,本发明实施例利用下述预设的傅里叶反变换公式对所述滤波图像进行空间恢复处理,得到初始监控图像:
其中,L(a,b)为初始监控图像的像素值,X、Y表示所述滤波图像的宽和高,j为傅里叶反变换函数中的固定参数,H(u,v)为滤波图像的像素值,a和b为固定参数。
S2、计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像。
本发明实施例中,对所述初始监控图像进行二值化处理,可以凸显出目标物体的轮廓。
具体地,所述计算所述初始监控图像的全局阈值,包括:
将所述初始监控图像中的像素点分配至预设的直方图中的各个区块,并统计所述直方图中每个区块所包含的像素点的数量;
分别将每个区块所包含的像素点的数量除以所述初始监控图像中的总像素点数量,得到每个区块对应的区块值;
获取预设的分类值、第一阈值和第二阈值,将所述分类值和所述第一阈值构建为第一区间,将所述分类值和所述第二阈值构建为第二区间;
令所述区块值在所述第一区间的像素点为前景像素,计算所述前景像素和所述初始监控图像中的总像素点数量的比例为前景比例,并得到所述前景像素对应的前景灰度;
令所述区块值在所述第二间的像素点为背景像素,计算所述背景像素和所述初始监控图像中的总像素点数量的比例为背景比例,并得到所述背景像素对应的背景灰度;
利用预设的方差公式计算所述前景像素和所述背景像素的方差值;
重新设置多个分类值,分别根据设置后的多个分类值和所述第一阈值、第二阈值构建对应的区间,并执行方差值计算的步骤,将得到多个分类值对应的方差值按照从大到小进行排序,得到方差值排行榜;
将所述方差值排行榜上排在第一位的方差值对应的分类值作为全局阈值。
具体地,本发明实施例利用下述的方差公式计算所述前景像素和所述背景像素的方差值:
g=w0*w1*(μ0-μ1)(μ0-μ1)
其中,g为方差值,w0为前景比例,w1为背景比例,μ0为前景灰度,μ1为背景灰度。
详细地,所述预设的直方图中包含256个区间,所述第一阈值大于所述分类值,所述分类值大于所述第二阈值。
进一步地,所述根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像,包括:
将所述初始监控图像中大于所述全局阈值的像素点设置为预设的第一灰度值;
将所述初始监控图像中小于或者等于所述全局阈值的像素点设置为预设的第二灰度值,得到标准监控图像。
详细地,对初始监控图像进行二值化处理,令所述初始监控图像中大于所述全局阈值的像素点为预设的第一灰度值,令所述初始监控图像中小于或者等于所述全局阈值的像素点为预设的第二灰度值,例如,将大于所述全局阈值的像素点转化为255,以及将小于或者等于所述全局阈值的像素点转化为0,使得大于所述全局阈值的像素点的区域为白色,其他区域为黑色。
S3、根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像。
本发明实施例中,所述预设骨架提取条件包括第一骨架提取条件和第二骨架提取条件,以及所述根据预设骨架提取条件从所述标准区域图像中提取标准骨架图像,包括:
将所述标准区域图像中满足第一骨架提取条件的像素点删除,所述第一骨架提取条件为令满足预设的第一乘积式的多个目标像素点的乘积为第一预设值;或
将所述标准区域图像中满足第二骨架提取条件的像素点删除,得到标准骨架图像,所述第二骨架提取条件为令满足预设的第二乘积式的多个所述目标像素点的乘积为第二预设值。
进一步地,所述根据预设骨架提取条件从所述标准区域图像中提取标准骨架图像之前,所述方法还包括:
以所述标准区域图像中的中心像素点的正上方像素点为起始搜索点,按照“回”字形状对所述第一像素点周围进行邻域搜索,得到所述第一像素点的邻域像素点集合。
详细地,在本发明实施例中,预设的多个目标像素点分别为第二像素、第四像素、第六像素和第八像素,所述第一预设值为零,所述第一乘积式为第二像素、第四像素和第六像素进行相乘且第四像素、第六像素和第八像素进行相乘,用公式表达所述第一次骨架提取条件为:
其中,P1为所述第一像素点,S(P1)为所述第一像素点的非零邻点个数,S(P1)为以P2,P3,…,P9为序时这些点的值从0到1变化次数。
进一步地,在本发明实施例中,所述第二预设值为零,所述第二乘积式为第二像素、第四像素和第八像素进行相乘且第二像素、第六像素和第八像素进行相乘,用公式表达所述第二次骨架提取条件为:
其中,P2为第二像素点,P4为第四像素点,P6为第六像素点,P8为第八像素点。
详细地,所述第一像素点P1的邻域像素点集合中包括第二像素点P2、第三像素点P3、第四像素点P4等一些列像素点,本方案中共有八个像素点。
S4、筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点。
本发明实施例中,所述筛选所述标准骨架图像中的多条骨架直线,包括:
利用预设的直线检测算法检测出所述标准骨架图像中的多条直线;
删除所述多条直线中直线长度小于预设的直线阈值的直线,得到多条骨架直线。
详细地,所述预设的直线检测算法可以为LSD算法或者霍夫变换直线检测算法。
进一步地,本发明实施例对所述多条骨架直线进行相交处理,得到多个骨架关键点,将筛选出来的多条骨架直线按照原先所在的位置进行相交处理,直线和直线之间的交点即为骨架关键点。
S5、将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数。
本发明实施例中,所述预设的坐标系为直角坐标系,将所述多个骨架关键点按照其坐标映射至所述直角坐标系上,得到多个骨架关键点组成的目标关键区域,其中,所述目标关键区域即目标关键人头,识别所述多个目标关键区域的个数即识别出所述原始监控图像中的目标关键人头的个数。
S6、根据所述多个目标关键区域的个数和预设的预警规则进行预警。
本发明实施例中,所述根据所述多个目标关键区域的个数和预设的预警规则进行预警,包括:
判断所述多个目标关键区域的个数与预设的区域阈值之间的大小;
当所述多个目标关键区域的个数大于所述区域阈值时,获取与所述原始监控图像的监控时间间隔预设时间的间隔监控图像;
识别所述间隔监控图像中的关键区域,并统计所述关键区域的个数;
将所述关键区域的个数与所述多个目标关键区域的个数进行差值计算处理,得到区域差值;
当所述区域差值小于预设的区域阈值时,发送预警警告。
详细地,所述目标关键区域是指所述原始监控图像中的识别到的人头,所述间隔监控图像是指与所述原始监控图像的监控时间具有一定时间间隔的图像,单纯的根据所述目标关键区域的个数判断是否需要预警不太全面,而根据将所述关键区域的个数与所述多个目标关键区域的个数进行差值计算处理,得到区域差值,所述区域差值可以说明拥堵的情况。本发明实施例根据所述区域差值进行判断,提高了预警的准确度。
本发明实施例通过对原始监控图像进行频域转换及滤波处理,得到初始监控图像,所述滤波处理可以过滤掉低频分量和高频分量,计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,可以凸显出所述初始监控图像中的目标物体的轮廓,根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像,提高了骨架筛选的准确度,并进行筛选和进行相交及映射处理,得到目标关键区域。根据所述多个目标关键区域的个数和预设的预警规则进行预警,提高了预警的准确度。因此本发明提出的基于图像识别的自动预警方法可以实现解决自动预警的准确度较低的问题。
如图2所示,是本发明一实施例提供的基于图像识别的自动预警装置的功能模块图。
本发明所述基于图像识别的自动预警装置100可以安装于电子设备中。根据实现的功能,所述基于图像识别的自动预警装置100可以包括频域转换模块101、二值化模块102、骨架提取模块103、直线相交模块104、关键区域获取模块105及预警模块106。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述频域转换模块101,用于获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像;
所述二值化模块102,用于计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像;
所述骨架提取模块103,用于根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像;
所述直线相交模块104,用于筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点;
所述关键区域获取模块105,用于将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数;
所述预警模块106,用于根据所述多个目标关键区域的个数和预设的预警规则进行预警。
详细地,所述基于图像识别的自动预警装置100各模块的具体实施方式如下:
步骤一、获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像。
本发明实施例中,所述原始监控图像是指在食堂场景中拍摄排队队伍的监控图像,其中,所述原始监控图像中的排队队伍中包含多个排队者。
具体地,所述对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像,包括:
对所述原始监控图像进行空间转换处理,得到频域图像;
利用预设的滤波函数对所述频域图像进行滤波处理,得到滤波图像;
对所述滤波图像进行空间恢复处理,得到初始监控图像。
详细地,所述空间转换处理是指将所述原始监控图像从空间域转换到频域上,可以利用快速傅里叶公式实现空间转换。所述空间恢复处理是指将所述滤波图像从频域转换到空间域上,可以利用傅里叶反变换公式实现空间恢复。所述滤波处理是采用一个高斯带通滤波函数来过滤掉所述频域图像中的低频分量和高频分量。其中,环境光等光线干扰属于低频分量,噪音属于高频分量。
进一步地,所述对所述原始监控图像进行空间转换处理,得到频域图像,包括:
利用预设的快速傅里叶公式对所述原始监控图像进行空间转换处理,得到频域图像:
其中,f(x,y)表示原始监控图像的像素值,F(u,v)表示频域图像的像素值,M、N表示原始监控图像的宽和高,j为快速傅里叶变换函数中的固定参数,x、y分别代表所述原始监控图像中的第x行第y列,u、v分别代表所述频域图像中的第u行第v列。
详细地,本发明实施例利用下述滤波函数对所述频域图像进行滤波处理,得到滤波图像:
其中,H(u,v)为滤波图像的像素值,F(u,v)为频域图像的像素值,D0、W和n为固定参数。
优选地,n取值为3,D0取值为120,W取值为10。
进一步地,本发明实施例利用下述预设的傅里叶反变换公式对所述滤波图像进行空间恢复处理,得到初始监控图像:
其中,L(a,b)为初始监控图像的像素值,X、Y表示所述滤波图像的宽和高,j为傅里叶反变换函数中的固定参数,H(u,v)为滤波图像的像素值,a和b为固定参数。
步骤二、计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像。
本发明实施例中,对所述初始监控图像进行二值化处理,可以凸显出目标物体的轮廓。
具体地,所述计算所述初始监控图像的全局阈值,包括:
将所述初始监控图像中的像素点分配至预设的直方图中的各个区块,并统计所述直方图中每个区块所包含的像素点的数量;
分别将每个区块所包含的像素点的数量除以所述初始监控图像中的总像素点数量,得到每个区块对应的区块值;
获取预设的分类值、第一阈值和第二阈值,将所述分类值和所述第一阈值构建为第一区间,将所述分类值和所述第二阈值构建为第二区间;
令所述区块值在所述第一区间的像素点为前景像素,计算所述前景像素和所述初始监控图像中的总像素点数量的比例为前景比例,并得到所述前景像素对应的前景灰度;
令所述区块值在所述第二间的像素点为背景像素,计算所述背景像素和所述初始监控图像中的总像素点数量的比例为背景比例,并得到所述背景像素对应的背景灰度;
利用预设的方差公式计算所述前景像素和所述背景像素的方差值;
重新设置多个分类值,分别根据设置后的多个分类值和所述第一阈值、第二阈值构建对应的区间,并执行方差值计算的步骤,将得到多个分类值对应的方差值按照从大到小进行排序,得到方差值排行榜;
将所述方差值排行榜上排在第一位的方差值对应的分类值作为全局阈值。
具体地,本发明实施例利用下述的方差公式计算所述前景像素和所述背景像素的方差值:
g=w0*w1*(μ0-μ1)(μ0-μ1)
其中,g为方差值,w0为前景比例,w1为背景比例,μ0为前景灰度,μ1为背景灰度。
详细地,所述预设的直方图中包含256个区间,所述第一阈值大于所述分类值,所述分类值大于所述第二阈值。
进一步地,所述根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像,包括:
将所述初始监控图像中大于所述全局阈值的像素点设置为预设的第一灰度值;
将所述初始监控图像中小于或者等于所述全局阈值的像素点设置为预设的第二灰度值,得到标准监控图像。
详细地,对初始监控图像进行二值化处理,令所述初始监控图像中大于所述全局阈值的像素点为预设的第一灰度值,令所述初始监控图像中小于或者等于所述全局阈值的像素点为预设的第二灰度值,例如,将大于所述全局阈值的像素点转化为255,以及将小于或者等于所述全局阈值的像素点转化为0,使得大于所述全局阈值的像素点的区域为白色,其他区域为黑色。
步骤三、根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像。
本发明实施例中,所述预设骨架提取条件包括第一骨架提取条件和第二骨架提取条件,以及所述根据预设骨架提取条件从所述标准区域图像中提取标准骨架图像,包括:
将所述标准区域图像中满足第一骨架提取条件的像素点删除,所述第一骨架提取条件为令满足预设的第一乘积式的多个目标像素点的乘积为第一预设值;或
将所述标准区域图像中满足第二骨架提取条件的像素点删除,得到标准骨架图像,所述第二骨架提取条件为令满足预设的第二乘积式的多个所述目标像素点的乘积为第二预设值。进一步地,所述根据预设骨架提取条件从所述标准区域图像中提取标准骨架图像之前,所述方法还包括:
以所述标准区域图像中的中心像素点的正上方像素点为起始搜索点,按照“回”字形状对所述第一像素点周围进行邻域搜索,得到所述第一像素点的邻域像素点集合。
详细地,在本发明实施例中,预设的多个目标像素点分别为第二像素、第四像素、第六像素和第八像素,所述第一预设值为零,所述第一乘积式为第二像素、第四像素和第六像素进行相乘且第四像素、第六像素和第八像素进行相乘,用公式表达所述第一次骨架提取条件为:
其中,P1为所述第一像素点,S(P1)为所述第一像素点的非零邻点个数,S(P1)为以P2,P3,…,P9为序时这些点的值从0到1变化次数。
进一步地,在本发明实施例中,所述第二预设值为零,所述第二乘积式为第二像素、第四像素和第八像素进行相乘且第二像素、第六像素和第八像素进行相乘,用公式表达所述第二次骨架提取条件为:
其中,P2为第二像素点,P4为第四像素点,P6为第六像素点,P8为第八像素点。
详细地,所述第一像素点P1的邻域像素点集合中包括第二像素点P2、第三像素点P3、第四像素点P4等一些列像素点,本方案中共有八个像素点。
步骤四、筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点。
本发明实施例中,所述筛选所述标准骨架图像中的多条骨架直线,包括:
利用预设的直线检测算法检测出所述标准骨架图像中的多条直线;
删除所述多条直线中直线长度小于预设的直线阈值的直线,得到多条骨架直线。
详细地,所述预设的直线检测算法可以为LSD算法或者霍夫变换直线检测算法。
进一步地,本发明实施例对所述多条骨架直线进行相交处理,得到多个骨架关键点,将筛选出来的多条骨架直线按照原先所在的位置进行相交处理,直线和直线之间的交点即为骨架关键点。
步骤五、将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数。
本发明实施例中,所述预设的坐标系为直角坐标系,将所述多个骨架关键点按照其坐标映射至所述直角坐标系上,得到多个骨架关键点组成的目标关键区域,其中,所述目标关键区域即目标关键人头,识别所述多个目标关键区域的个数即识别出所述原始监控图像中的目标关键人头的个数。
步骤六、根据所述多个目标关键区域的个数和预设的预警规则进行预警。
本发明实施例中,所述根据所述多个目标关键区域的个数和预设的预警规则进行预警,包括:
判断所述多个目标关键区域的个数与预设的区域阈值之间的大小;
当所述多个目标关键区域的个数大于所述区域阈值时,获取与所述原始监控图像的监控时间间隔预设时间的间隔监控图像;
识别所述间隔监控图像中的关键区域,并统计所述关键区域的个数;
将所述关键区域的个数与所述多个目标关键区域的个数进行差值计算处理,得到区域差值;
当所述区域差值小于预设的区域阈值时,发送预警警告。
详细地,所述目标关键区域是指所述原始监控图像中的识别到的人头,所述间隔监控图像是指与所述原始监控图像的监控时间具有一定时间间隔的图像,单纯的根据所述目标关键区域的个数判断是否需要预警不太全面,而根据将所述关键区域的个数与所述多个目标关键区域的个数进行差值计算处理,得到区域差值,所述区域差值可以说明拥堵的情况。本发明实施例根据所述区域差值进行判断,提高了预警的准确度。
本发明实施例通过对原始监控图像进行频域转换及滤波处理,得到初始监控图像,所述滤波处理可以过滤掉低频分量和高频分量,计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,可以凸显出所述初始监控图像中的目标物体的轮廓,根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像,提高了骨架筛选的准确度,并进行筛选和进行相交及映射处理,得到目标关键区域。根据所述多个目标关键区域的个数和预设的预警规则进行预警,提高了预警的准确度。因此本发明提出的基于图像识别的自动预警装置可以实现解决自动预警的准确度较低的问题。
如图3所示,是本发明一实施例提供的实现基于图像识别的自动预警方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11、通信总线12以及通信接口13,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如基于图像识别的自动预警程序。
其中,所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(ControlUnit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行基于图像识别的自动预警程序等),以及调用存储在所述存储器11内的数据,以执行电子设备的各种功能和处理数据。
所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备的内部存储单元,例如该电子设备的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备的外部存储设备,例如电子设备上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备的应用软件及各类数据,例如基于图像识别的自动预警程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述通信总线12可以是外设部件互连标准(peripheral componentinterconnect,简称PCI)总线或扩展工业标准结构(extended industry standardarchitecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
所述通信接口13用于上述电子设备与其他设备之间的通信,包括网络接口和用户接口。可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备与其他电子设备之间建立通信连接。所述用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。
图3仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的基于图像识别的自动预警程序是多个指令的组合,在所述处理器10中运行时,可以实现:
获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像;
计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像;
根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像;
筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点;
将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数;
根据所述多个目标关键区域的个数和预设的预警规则进行预警。
具体地,所述处理器10对上述指令的具体实现方法可参考附图对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像;
计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像;
根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像;
筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点;
将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数;
根据所述多个目标关键区域的个数和预设的预警规则进行预警。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种基于图像识别的自动预警方法,其特征在于,所述方法包括:
获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像;
计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像;
根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像;
筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点;
将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数;
根据所述多个目标关键区域的个数和预设的预警规则进行预警。
2.如权利要求1所述的基于图像识别的自动预警方法,其特征在于,所述计算所述初始监控图像的全局阈值,包括:
将所述初始监控图像中的像素点分配至预设的直方图中的各个区块,并统计所述直方图中每个区块所包含的像素点的数量;
分别将每个区块所包含的像素点的数量除以所述初始监控图像中的总像素点数量,得到每个区块对应的区块值;
获取预设的分类值、第一阈值和第二阈值,将所述分类值和所述第一阈值构建为第一区间,将所述分类值和所述第二阈值构建为第二区间;
令所述区块值在所述第一区间的像素点为前景像素,计算所述前景像素和所述初始监控图像中的总像素点数量的比例为前景比例,并得到所述前景像素对应的前景灰度;
令所述区块值在所述第二间的像素点为背景像素,计算所述背景像素和所述初始监控图像中的总像素点数量的比例为背景比例,并得到所述背景像素对应的背景灰度;
利用预设的方差公式计算所述前景像素和所述背景像素的方差值;
重新设置多个分类值,分别根据设置后的多个分类值和所述第一阈值、第二阈值构建对应的区间,并执行方差值计算的步骤,将得到多个分类值对应的方差值按照从大到小进行排序,得到方差值排行榜;
将所述方差值排行榜上排在第一位的方差值对应的分类值作为全局阈值。
3.如权利要求1所述的基于图像识别的自动预警方法,其特征在于,所述根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像,包括:
将所述初始监控图像中大于所述全局阈值的像素点设置为预设的第一灰度值;
将所述初始监控图像中小于或者等于所述全局阈值的像素点设置为预设的第二灰度值,得到标准监控图像。
4.如权利要求1所述的基于图像识别的自动预警方法,其特征在于,所述根据预设骨架提取条件从所述标准区域图像中提取标准骨架图像,包括:
将所述标准区域图像中满足第一骨架提取条件的像素点删除,所述第一骨架提取条件为令满足预设的第一乘积式的多个目标像素点的乘积为第一预设值;或
将所述标准区域图像中满足第二骨架提取条件的像素点删除,得到标准骨架图像,所述第二骨架提取条件为令满足预设的第二乘积式的多个所述目标像素点的乘积为第二预设值。
5.如权利要求1所述的基于图像识别的自动预警方法,其特征在于,所述筛选所述标准骨架图像中的多条骨架直线,包括:
利用预设的直线检测算法检测出所述标准骨架图像中的多条直线;
删除所述多条直线中直线长度小于预设的直线阈值的直线,得到多条骨架直线。
6.如权利要求1所述的基于图像识别的自动预警方法,其特征在于,所述对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像,包括:
对所述原始监控图像进行空间转换处理,得到频域图像;
利用预设的滤波函数对所述频域图像进行滤波处理,得到滤波图像;
对所述滤波图像进行空间恢复处理,得到初始监控图像。
8.一种基于图像识别的自动预警装置,其特征在于,所述装置包括:
频域转换模块,用于获取原始监控图像,对所述原始监控图像进行频域转换及滤波处理,得到初始监控图像;
二值化模块,用于计算所述初始监控图像的全局阈值,并根据所述全局阈值对所述初始监控图像进行二值化处理,得到标准监控图像;
骨架提取模块,用于根据预设骨架提取条件从所述标准监控图像中提取标准骨架图像;
直线相交模块,用于筛选所述标准骨架图像中的多条骨架直线,并对所述多条骨架直线进行相交处理,得到多个骨架关键点;
关键区域获取模块,用于将所述多个骨架关键点映射至预设的坐标系中,得到多个目标关键区域并识别所述多个目标关键区域的个数;
预警模块,用于根据所述多个目标关键区域的个数和预设的预警规则进行预警。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的基于图像识别的自动预警方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的基于图像识别的自动预警方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111167947.8A CN113887439A (zh) | 2021-09-30 | 2021-09-30 | 基于图像识别的自动预警方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111167947.8A CN113887439A (zh) | 2021-09-30 | 2021-09-30 | 基于图像识别的自动预警方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113887439A true CN113887439A (zh) | 2022-01-04 |
Family
ID=79005331
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111167947.8A Pending CN113887439A (zh) | 2021-09-30 | 2021-09-30 | 基于图像识别的自动预警方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113887439A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116303867A (zh) * | 2023-05-19 | 2023-06-23 | 江西省气象灾害应急预警中心(江西省突发事件预警信息发布中心) | 预警区域识别方法、系统、计算机及可读存储介质 |
CN117333675A (zh) * | 2023-10-09 | 2024-01-02 | 国网吉林省电力有限公司 | 一种gis伸缩节的监测预警方法及系统 |
-
2021
- 2021-09-30 CN CN202111167947.8A patent/CN113887439A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116303867A (zh) * | 2023-05-19 | 2023-06-23 | 江西省气象灾害应急预警中心(江西省突发事件预警信息发布中心) | 预警区域识别方法、系统、计算机及可读存储介质 |
CN116303867B (zh) * | 2023-05-19 | 2023-08-22 | 江西省气象灾害应急预警中心(江西省突发事件预警信息发布中心) | 预警区域识别方法、系统、计算机及可读存储介质 |
CN117333675A (zh) * | 2023-10-09 | 2024-01-02 | 国网吉林省电力有限公司 | 一种gis伸缩节的监测预警方法及系统 |
CN117333675B (zh) * | 2023-10-09 | 2024-04-09 | 国网吉林省电力有限公司 | 一种gis伸缩节的监测预警方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113887439A (zh) | 基于图像识别的自动预警方法、装置、设备及存储介质 | |
CN111695609A (zh) | 目标物损伤程度判定方法、装置、电子设备及存储介质 | |
CN112749653A (zh) | 行人检测方法、装置、电子设备及存储介质 | |
CN111914939A (zh) | 识别模糊图像的方法、装置、设备及计算机可读存储介质 | |
CN113298159A (zh) | 目标检测方法、装置、电子设备及存储介质 | |
CN114550076A (zh) | 区域异常行为监控方法、装置、设备及存储介质 | |
CN114637326A (zh) | 区域策略制定方法、装置、设备及存储介质 | |
CN114049568A (zh) | 基于图像比对的标的物形变检测方法、装置、设备及介质 | |
CN113487621A (zh) | 医学图像分级方法、装置、电子设备及可读存储介质 | |
CN113706422B (zh) | 一种基于获取关键点的图像校正方法、装置、设备及介质 | |
CN112528903A (zh) | 人脸图像获取方法、装置、电子设备及介质 | |
CN115757987B (zh) | 基于轨迹分析的伴随对象确定方法、装置、设备及介质 | |
CN115601684A (zh) | 突发事件预警方法、装置、电子设备及存储介质 | |
CN114066664A (zh) | 基于行为画像的风险等级评估方法、装置、设备及介质 | |
CN114882059A (zh) | 基于图像分析的尺寸测量方法、装置、设备及存储介质 | |
CN113869385A (zh) | 基于目标检测的海报比对方法、装置、设备及存储介质 | |
CN113792671A (zh) | 人脸合成图像的检测方法、装置、电子设备及介质 | |
CN114463685A (zh) | 行为识别方法、装置、电子设备及存储介质 | |
CN114240924A (zh) | 一种基于数字化技术的电网设备质量评估方法 | |
CN114387522A (zh) | 一种工作现场的智能预警方法、装置、设备及介质 | |
CN112507903A (zh) | 假脸检测方法、装置、电子设备及计算机可读存储介质 | |
CN113255456A (zh) | 非主动活体检测方法、装置、电子设备及存储介质 | |
CN112561893A (zh) | 图片匹配方法、装置、电子设备及存储介质 | |
CN113705686A (zh) | 图像分类方法、装置、电子设备及可读存储介质 | |
CN113343882A (zh) | 人群计数方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |