CN105049806A - 嵌入式视频监控系统的设计方法 - Google Patents

嵌入式视频监控系统的设计方法 Download PDF

Info

Publication number
CN105049806A
CN105049806A CN201510460301.7A CN201510460301A CN105049806A CN 105049806 A CN105049806 A CN 105049806A CN 201510460301 A CN201510460301 A CN 201510460301A CN 105049806 A CN105049806 A CN 105049806A
Authority
CN
China
Prior art keywords
video
frame
network
client
designing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510460301.7A
Other languages
English (en)
Inventor
郭洁
顾燕
王娴珏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hohai University HHU
Original Assignee
Hohai University HHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hohai University HHU filed Critical Hohai University HHU
Priority to CN201510460301.7A priority Critical patent/CN105049806A/zh
Publication of CN105049806A publication Critical patent/CN105049806A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)

Abstract

本发明公开了一种嵌入式视频监控系统的设计方法,包括服务器端设计和PC客户端设计;对于服务器端设计:基于Video4Linux的API进行编程,采用内存映射方式采集视频图像,并为服务器端创建两个并行线程:视频采集线程和服务线程。对于PC客户端设计,设计了视频流缓冲区暂存,由XviD解码器解压视频流,由SDL程序进行实时播放。PC客户端还具有保存视频压缩流的功能,输入文件播放命令可以播放保存在硬盘上的视频流文件。本发明采用XviD进行编解码,效率高、功能强大,且XviD是免费共享的资源,可在官方网站上直接下载使用,有利于降低嵌入式视频监控系统的设计成本。本发明可用于无线视频监控领域。

Description

嵌入式视频监控系统的设计方法
技术领域
本发明涉及一种嵌入式视频监控系统的设计方法,属于视频监控技术领域。
背景技术
视频监控系统对于保障人们日常生产和生活具有重要意义,在国民经济的各个领域均有广泛的应用。视频监控不仅应用于军事、银行、通信、电力、水利、交通等重要部门的监视和报警,而且在博物馆、商场超市、智能小区、家庭用户和大型仓库等日常生活环境中,也是必不可少的监管和控制设备。
视频监控系统目前已经成为安全防范体系中的一个重要组成部分,它通过固定摄像机直接观看被监视场所,可以把监视场所的图像和声音内容通过通信线路传送到监控中心。同时,视频监控系统还可以与防盗报警等其他安全防范体系联合运行,使得该监控系统的安全保障能力更加强大。先进的视频监控系统通常以计算机技术为核心,综合多媒体技术、网络通信技术、数字图像压缩技术,并且与信息管理系统融合在一起,形成一个有机而完整的现代化远程视频监控系统。
现有技术中视频监控系统存在的不足之处在于:现有视频监控系统的PC软件设计应用比较广泛,而嵌入式视频监控系统设计仍有较大发展空间。嵌入式视频监控系统的服务器端如果设计精简,可以广泛应用于智能农业、工业以及军事等领域,可将监控范围扩展至大规模无人地带。目前视频监控系统设计在这方面的应用较少,系统设计比较复杂,无法做到小型嵌入式系统设计;同时,由于视频压缩方式选择大部分不是开源的,导致生产成本较高。
发明内容
本发明的目的在于针对现有技术中的不足,提供一种嵌入式视频监控系统的设计方法,可应用于实际监控环境中,还能为视频信号分离算法和传输方案提供一个理想的实践验证平台,具有效率高、功能强大、设计成本低等优点。
为达到上述目的,本发明所采用的技术方案是:嵌入式视频监控系统的设计方法,包括服务器端设计和PC客户端设计,
所述服务器端设计包括如下步骤:
步骤101:初始化设备并配置网络数据帧的空间和视频压缩帧的大小;
步骤102:采用socket编程实现视频数据的网络接收和网络发送;
步骤103:基于Video4Linux的API进行编程,采用内存映射方式采集视频图像,并测试是否正确采集视频图像,若是,则进入步骤104;否则,返回步骤101;
步骤104:设置视频采集的参数,将videodev的对象设置为全局变量,作为两个线程的共享资源;
步骤105:为服务器端创建两个并行的线程,分别为:用于采集处理的视频采集线程和用于网络传输的服务线程;视频采集线程创建完成后,判断是否退出视频采集线程,若退出则进入步骤106,否则循环运行视频采集线程;服务线程创建前,先打开socket,将本地IP绑定端口号,实时监听是否有PC客户端需要进行网络传输,若有PC客户端需要进行网络传输,则建立网络连接;服务线程创建完成后,判断是否退出服务线程,若退出则进入步骤106,否则循环运行服务线程;
步骤106:判断是否有其他线程在工作,若有则进入等待,否则直接结束退出;
所述PC客户端设计包括如下步骤:
步骤201:建立socket连接,测试该连接是否能正确传输数据:若数据传输正常,就先发送PC客户端的控制命令帧;
步骤202:开始读取网络数据帧,接收压缩视频流;
步骤203:判断PC客户端软件是否为保存命令,若是保存命令,则将视频流保存到文件中,执行结束命令;若不是保存命令,就进入实时视频播放阶段,将视频流放入缓冲区,并进入下一步;
步骤204:判断缓冲区的视频帧是否可解码:若是,则采用XviD解码器进行解码,最后由SDL程序播放实时视频图像;若否,则返回步骤203继续将视频流放入缓冲区,直至可以解码,播放实时视频图像,最后执行结束命令。
步骤105中视频采集线程的创建步骤如下:
步骤a)捕获视频帧数据,判断当前网络数据帧是否正在发送,若是,则循环等待,否则将线程互斥锁上锁;
步骤b)采用XviD编码器对视频帧数据进行压缩,并将压缩后的数据放到网络数据帧中,等待发送;
步骤c)将线程互斥锁解锁,变换数据帧序列,准备下一次视频图像的采集和压缩。
步骤105中服务线程的创建步骤如下:
步骤i)服务线程接收PC客户端发送来的控制命令帧,并且根据控制命令帧设置采集参数;
步骤ii)查看线程互斥锁是否上锁,若已经上锁,则进入循环等待程序;若没有上锁,则将当前序号的数据帧上锁,即设置framelock[frameout]=1,进入网络数据帧发送流程;
步骤iii)网络数据帧发送后,将当前序号的数据帧解锁,即设置framelock[frameout]=0,准备下一帧的网络发送。
与现有技术相比,本发明所达到的有益效果是:采用XviD进行编解码,效率高、功能强大,且XviD是免费共享的资源,可在官方网站上直接下载使用,有利于降低嵌入式视频监控系统的设计成本;由SDL程序播放实时视频图像,编程简单、稳定、灵活,相比于Directshow具有更好的兼容性和可移植性;服务器端设计精简,可以制作出多个小型的嵌入式服务器端,通过无线方式传输,达到大规模范围的监控效果;采用本发明方法设计的嵌入式视频监控系统可以广泛应用于智能农业、军事等领域,监控范围较普通视频监控系统可扩展范围更大,也可以与传感器结合,进一步拓展了其与智能物联网结合的兼容性。
附图说明
图1是嵌入式视频监控系统的服务器端的工作流程图。
图2是嵌入式视频监控系统的PC客户端的工作流程图。
图3是嵌入式视频监控系统的服务器端的设计流程图。
图4是图3中视频采集线程的设计流程图。
图5是图3中视频采集线程的设计流程图。
图6是嵌入式视频监控系统的PC客户端的设计流程图。
图7是嵌入式视频监控系统的服务器端的数据帧传输结果。
图8是嵌入式视频监控系统的PC客户端的数据帧传输结果。
具体实施方式
嵌入式视频监控系统包括服务器端和PC客户端,服务器端和PC客户端之间通过无线网络进行数据传输。
服务器端的软件程序采用C语言编写,为了开发的方便,一般先在装有Linux系统的PC机上用C语言编写服务器端的程序,初步调试成功后再移植到嵌入式开发板中。服务器端需要实现的基本功能包括:
1)实现数字视频采集;
2)实现XviD视频流压缩,此功能采用软件实现;
3)将视频数据和部分参数打包成一个数据帧,再由TCP/IP协议或RTP/RTCP协议,通过无线局域网发送到网络;
4)接收PC客户端发送的控制命令帧,控制视频采集的参数。
如图1所示,服务器端主要包括视频采集、视频压缩、网络发送三个部分。视频采集程序从摄像头采集到原始视频图像,经过软件视频压缩后,通过网络发送到无线局域网。
PC客户端的操作系统为Linux,PC客户端需要实现的基本功能有:
1)无线网络中接收TCP/IP协议或RTP/RTCP协议包,提取出其中的视频压缩数据包。
2)将不断接收到的视频压缩包放入一个视频缓冲区内;
3)实现视频流的软件解码,解压所需的视频流和参考视频流均在视频缓冲区内;
4)实现视频流的实时播放功能;
5)实现视频压缩流的保存和文件播放功能;
6)可以在PC客户端输入一些控制命令,并将命令通过网络发送到服务器端。
如图2所示,PC客户端软件由网络接收程序得到网络视频帧,然后在视频流缓冲区暂存,由相应的视频解压程序解压视频流后,最后由PC客户端软件实时播放。此外,PC客户端还具有保存视频压缩流的功能,输入文件播放命令可以播放保存在硬盘上的视频流文件。通过视频解压模块,可以实现文件播放,实现由显示器播放视频功能。控制命令由PC客户端键盘输入,它的传输方向与视频流相反。控制命令包被服务器端接收到后,由服务器端发送给视频采集程序,用于控制服务器端的视频分辨率、采集速率、亮度、色彩空间等参数。
嵌入式视频监控系统的网络发送和网络接收采用socket编程实现,socket接口是一种特殊的I/O,它也是一种文件描述符。每一个socket都用协议、本地地址、本地端口来描述。一般编程时应注意包含socket.h的头文件,然后进入打开socket、建立链接、数据传输、关闭socket的基本流程完成网络通信。
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
嵌入式视频监控系统的设计方法,包括服务器端设计和PC客户端设计。
如图3所示,服务器端设计包括如下步骤:
步骤101:初始化设备并配置网络数据帧的空间和视频压缩帧的大小;
步骤102:采用socket编程实现视频数据的网络接收和网络发送;
步骤103:基于Video4Linux的API进行编程,采用内存映射方式采集视频图像,并测试是否正确采集视频图像,若是,则进入步骤104;否则,返回步骤101;
步骤104:设置视频采集的参数,将videodev的对象设置为全局变量,作为两个线程的共享资源;
步骤105:为服务器端创建两个并行的线程,分别为:视频采集线程和服务线程。视频采集线程主要是进行视频采集、视频压缩的过程。网络服务端服务线程主要进行网络数据帧发送和控制命令帧接收的功能。
视频采集线程创建完成后,判断是否退出视频采集线程,若退出则进入步骤106,否则循环运行视频采集线程;服务线程创建前,先打开socket,将本地IP绑定端口号,实时监听是否有PC客户端需要进行网络传输,若有PC客户端需要进行网络传输,则建立网络连接;服务线程创建完成后,判断是否退出服务线程,若退出则进入步骤106,否则循环运行服务线程;
如图4所示,视频采集线程的创建步骤如下:
步骤a)捕获视频帧数据,判断当前网络数据帧是否正在发送,若是,则循环等待,否则将线程互斥锁上锁;
步骤b)采用XviD编码器对视频帧数据进行压缩,并将压缩后的数据放到网络数据帧中,等待发送。XviD是编码效率最高、功能强大,并且是免费共享的资源,它直接可以在官方网站上下载,在Linux系统中的输入如下命令:“make;makeinstall”,然后就可得到动态链接库。
步骤c)将线程互斥锁解锁,变换数据帧序列,准备下一次视频图像的采集和压缩。
如图5所示,服务线程的创建步骤如下:
步骤i)服务线程接收PC客户端发送来的控制命令帧,并且根据控制命令帧设置采集参数;
步骤ii)查看线程互斥锁是否上锁,若已经上锁,则进入循环等待程序;若没有上锁,则将当前序号的数据帧上锁,防止视频采集线程将压缩视频写入正在发送的数据帧内,即设置framelock[frameout]=1,进入网络数据帧发送流程;
步骤iii)网络数据帧发送后,将当前序号的数据帧解锁,即设置framelock[frameout]=0,准备下一帧的网络发送。
步骤106:判断是否有其他线程在工作,若有则进入等待,否则直接结束退出;
如图6所示,PC客户端设计包括如下步骤:
步骤201:建立socket连接,测试该连接是否能正确传输数据:若数据传输正常,就先发送PC客户端的控制命令帧,它是数据结构client_t的实体。
步骤202:开始读取网络数据帧,接收压缩视频流;
步骤203:判断PC客户端软件是否为保存命令,若是保存命令,则将视频流保存到文件中,执行结束命令,视频压缩文件保存到硬盘后,可以再调用播放命令,将视频压缩文件解码后用SDL方式播放出来。若不是保存命令,就进入实时视频播放阶段,将视频流放入缓冲区,并进入下一步。视频文件的保存可以用文件操作函数fwrite实现。
MPEG-4(这里采用XviD方式)编解码的过程与静态图像编解码不一样,MPEG-4的编码是基于前后帧之间的相关性进行压缩的,那么在解码的时候同样需要前后的参考视频帧,这样才能正确的实现MPEG-4解码。于是,就在视频解码之前设计了一个视频缓冲区。该缓冲区由一个环形的数据结构实现,通过写指针和读指针分别实现缓冲区的写入和读取。
步骤204:判断缓冲区的视频帧是否可解码:若是,则采用XviD解码器进行解码,最后由SDL程序播放实时视频图像;若否,则返回步骤203继续将视频流放入缓冲区,直至可以解码,播放实时视频图像,最后执行结束命令。如果PC客户端一直没有结束命令,那么就会进入网络接收、解码、播放的循环中,从而实现连续播放视频帧的过程。
视频数据流的解压过程和服务器端类似,采用XviD解码器实现。PC客户端的程序需要包括XviD.h的文件,具体的静态图像解码过程可以参考文件目录下的XviD_decraw.c文件。实时解码的视频数据流来自视频缓冲区,编写解码过程需要和缓冲区的读写过程配合。
本发明视频编解码采用XviD编解码器提供的函数接口实现。参考xvid_encraw.c程序,该程序在XviD编码函数接口的基础上编写了三个函数,分别表示编码初始化、编码过程、编码结束。参考xvid_decraw.c程序,该程序也在XviD函数接口的基础上编写了三个函数,分别表示解码初始化、解码过程、解码码结束。
本发明的视频编解码的实现就是基于上述两个例子程序编写的编码和解码函数实现的。不同点在于:xvid_encraw.c和xvid_decraw.c程序用于编码、解码静态的图像文件,编解码用于动态的视频流。在服务器端的视频采集线程中,主要实现视频的编码过程。
将服务器端和视频端的程序编写完成后,为了调用XviD的动态链接库或静态链接库,还需要将源码编译后,再与XviD的链接库链接生成可执行文件。总之,实现XviD的编解码需要调用初始化、编解码过程、编解码结束三个基本的成员函数来实现。
如图7所示,是嵌入式视频监控系统的服务器端的数据帧传输结果。如图8所示,是嵌入式视频监控系统的PC客户端的数据帧传输结果。服务器端标识编码视频帧和编码时间;PC客户端标识解码视频帧和解码时间。本发明设计的系统可以实现视频采集、视频编解码、视频传输和视频播放、视频保存的功能,可用于无线视频监控领域,也可用于其他视频压缩技术和视频通信技术的研究和开发。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。

Claims (3)

1.嵌入式视频监控系统的设计方法,包括服务器端设计和PC客户端设计,其特征在于,
所述服务器端设计包括如下步骤:
步骤101:初始化设备并配置网络数据帧的空间和视频压缩帧的大小;
步骤102:采用socket编程实现视频数据的网络接收和网络发送;
步骤103:基于Video4Linux的API进行编程,采用内存映射方式采集视频图像,并测试是否正确采集视频图像,若是,则进入步骤104;否则,返回步骤101;
步骤104:设置视频采集的参数,将videodev的对象设置为全局变量,作为两个线程的共享资源;
步骤105:为服务器端创建两个并行的线程,分别为:用于采集处理的视频采集线程和用于网络传输的服务线程;视频采集线程创建完成后,判断是否退出视频采集线程,若退出则进入步骤106,否则循环运行视频采集线程;服务线程创建前,先打开socket,将本地IP绑定端口号,实时监听是否有PC客户端需要进行网络传输,若有PC客户端需要进行网络传输,则建立网络连接;服务线程创建完成后,判断是否退出服务线程,若退出则进入步骤106,否则循环运行服务线程;
步骤106:判断是否有其他线程在工作,若有则进入等待,否则直接结束退出;
所述PC客户端设计包括如下步骤:
步骤201:建立socket连接,测试该连接是否能正确传输数据:若数据传输正常,就先发送PC客户端的控制命令帧;
步骤202:开始读取网络数据帧,接收压缩视频流;
步骤203:判断PC客户端软件是否为保存命令,若是保存命令,则将视频流保存到文件中,执行结束命令;若不是保存命令,就进入实时视频播放阶段,将视频流放入缓冲区,并进入下一步;
步骤204:判断缓冲区的视频帧是否可解码:若是,则采用XviD解码器进行解码,最后由SDL程序播放实时视频图像;若否,则返回步骤203继续将视频流放入缓冲区,直至可以解码,播放实时视频图像,最后执行结束命令。
2.根据权利要求1所述的嵌入式视频监控系统的设计方法,其特征在于,步骤105中视频采集线程的创建步骤如下:
步骤a)捕获视频帧数据,判断当前网络数据帧是否正在发送,若是,则循环等待,否则将线程互斥锁上锁;
步骤b)采用XviD编码器对视频帧数据进行压缩,并将压缩后的数据放到网络数据帧中,等待发送;
步骤c)将线程互斥锁解锁,变换数据帧序列,准备下一次视频图像的采集和压缩。
3.根据权利要求1所述的嵌入式视频监控系统的设计方法,其特征在于,步骤105中服务线程的创建步骤如下:
步骤i)服务线程接收PC客户端发送来的控制命令帧,并且根据控制命令帧设置采集参数;
步骤ii)查看线程互斥锁是否上锁,若已经上锁,则进入循环等待程序;若没有上锁,则将当前序号的数据帧上锁,即设置framelock[frameout]=1,进入网络数据帧发送流程;
步骤iii)网络数据帧发送后,将当前序号的数据帧解锁,即设置framelock[frameout]=0,准备下一帧的网络发送。
CN201510460301.7A 2015-07-30 2015-07-30 嵌入式视频监控系统的设计方法 Pending CN105049806A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510460301.7A CN105049806A (zh) 2015-07-30 2015-07-30 嵌入式视频监控系统的设计方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510460301.7A CN105049806A (zh) 2015-07-30 2015-07-30 嵌入式视频监控系统的设计方法

Publications (1)

Publication Number Publication Date
CN105049806A true CN105049806A (zh) 2015-11-11

Family

ID=54455958

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510460301.7A Pending CN105049806A (zh) 2015-07-30 2015-07-30 嵌入式视频监控系统的设计方法

Country Status (1)

Country Link
CN (1) CN105049806A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108965756A (zh) * 2018-07-24 2018-12-07 安徽康能电气有限公司 一种基于视频成像的配网可视化监测装置
CN113709518A (zh) * 2021-08-24 2021-11-26 天津津航计算技术研究所 一种基于rtsp协议的视频实时传输模式设计方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101365111A (zh) * 2008-09-25 2009-02-11 浙江大华技术股份有限公司 一种网络视频监控方法
CN101534423A (zh) * 2009-04-21 2009-09-16 东北大学 基于嵌入式平台的网络视频服务器
CN102104772A (zh) * 2011-02-28 2011-06-22 南京邮电大学 一种无线视频传感器编解码系统的设计方法
CN102413320A (zh) * 2011-12-21 2012-04-11 上海大学 一种无线网络智能视频监控系统的实现方法
CN103442204A (zh) * 2013-08-08 2013-12-11 浙江工业大学 一种基于dm365的网络视频传输系统及方法
CN203482325U (zh) * 2013-08-27 2014-03-12 东南大学 智能视频监控系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101365111A (zh) * 2008-09-25 2009-02-11 浙江大华技术股份有限公司 一种网络视频监控方法
CN101534423A (zh) * 2009-04-21 2009-09-16 东北大学 基于嵌入式平台的网络视频服务器
CN102104772A (zh) * 2011-02-28 2011-06-22 南京邮电大学 一种无线视频传感器编解码系统的设计方法
CN102413320A (zh) * 2011-12-21 2012-04-11 上海大学 一种无线网络智能视频监控系统的实现方法
CN103442204A (zh) * 2013-08-08 2013-12-11 浙江工业大学 一种基于dm365的网络视频传输系统及方法
CN203482325U (zh) * 2013-08-27 2014-03-12 东南大学 智能视频监控系统

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108965756A (zh) * 2018-07-24 2018-12-07 安徽康能电气有限公司 一种基于视频成像的配网可视化监测装置
CN113709518A (zh) * 2021-08-24 2021-11-26 天津津航计算技术研究所 一种基于rtsp协议的视频实时传输模式设计方法
CN113709518B (zh) * 2021-08-24 2023-11-28 天津津航计算技术研究所 一种基于rtsp协议的视频实时传输模式设计方法

Similar Documents

Publication Publication Date Title
CN110430441B (zh) 一种云手机视频采集方法、系统、装置及存储介质
CN101198045B (zh) 一种流媒体数字水印系统
US10454986B2 (en) Video synchronous playback method, apparatus, and system
CN106227492B (zh) 拼接墙与移动智能终端互联方法和装置
CN203482325U (zh) 智能视频监控系统
CN103369289A (zh) 一种视频模拟形象的通信方法和装置
JP6843462B2 (ja) イメージ処理装置及び方法
CN110351533A (zh) 基于Linux的视频图像处理的网络传输监控系统及其实现方法
CN103607587A (zh) 一种视频终端的调试方法和系统
CN113938470A (zh) 一种浏览器播放rtsp数据源的方法、装置以及流媒体服务器
CN103037169A (zh) 嵌入式硬盘录像机的画面拼接合成的方法
CN105049806A (zh) 嵌入式视频监控系统的设计方法
CN207399398U (zh) 远程监控系统
WO2018219202A1 (zh) 视频图像的呈现、封装方法和视频图像的呈现、封装装置
CN111698522A (zh) 一种基于混合现实的直播系统
CN103974062B (zh) 图像显示装置、图像显示系统和图像显示方法
CN107332818B (zh) 媒体数据的处理方法、装置和系统、存储介质及处理器
CN115866254A (zh) 一种传输视频帧及摄像参数信息的方法与设备
CN203279035U (zh) 多接口网络硬盘录像机
CN105592316A (zh) 一种数字视频信号解码器
CN105812922A (zh) 多媒体文件数据的处理方法及系统、播放器和客户端
KR101231009B1 (ko) 네트워크 비디오 서버 및 이의 비디오 제어 방법
Xueya et al. Development of wireless mobile video surveillance on windows mobile using DirectShow technology
CN107197287A (zh) 一种基于arm处理器的视频录播方法和装置
CN114357240A (zh) 一种多通道自适应视频识别存储系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20151111