CN114220244B - 一种“研判前置”的居家养老风险检测系统和方法 - Google Patents

一种“研判前置”的居家养老风险检测系统和方法 Download PDF

Info

Publication number
CN114220244B
CN114220244B CN202111664136.9A CN202111664136A CN114220244B CN 114220244 B CN114220244 B CN 114220244B CN 202111664136 A CN202111664136 A CN 202111664136A CN 114220244 B CN114220244 B CN 114220244B
Authority
CN
China
Prior art keywords
home
monitoring
monitoring camera
detection system
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111664136.9A
Other languages
English (en)
Other versions
CN114220244A (zh
Inventor
周晋成
宋晓宁
朱承军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuxi Zhitongzhi New Technology Co ltd
Original Assignee
Wuxi Zhitongzhi New Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuxi Zhitongzhi New Technology Co ltd filed Critical Wuxi Zhitongzhi New Technology Co ltd
Priority to CN202111664136.9A priority Critical patent/CN114220244B/zh
Publication of CN114220244A publication Critical patent/CN114220244A/zh
Application granted granted Critical
Publication of CN114220244B publication Critical patent/CN114220244B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B17/00Fire alarms; Alarms responsive to explosion
    • G08B17/10Actuation by presence of smoke or gases, e.g. automatic alarm devices for analysing flowing fluid materials by the use of optical means
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0438Sensor means for detecting
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/12Alarms for ensuring the safety of persons responsive to undesired emission of substances, e.g. pollution alarms
    • G08B21/14Toxic gas alarms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A50/00TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE in human health protection, e.g. against extreme weather
    • Y02A50/20Air quality improvement or preservation, e.g. vehicle emission control or emission reduction by using catalytic converters

Abstract

本发明公开了一种“研判前置”的居家养老风险检测系统和方法,属于养老服务管理领域。本申请通过结合居家养老场景实际,在启动较为消耗算力的生命体征检测算法之前,采用时间过滤、异常声响过滤、传感报警联动过滤以及是否有人等条件过滤,避免了现有云计算平台匹配多种算法模型的情况以及生命体征检测算法的持续、频繁调用,降低了对于智能终端处理设备的算力要求,使得一些嵌入式设备即可满足算力条件,而且通过研究监控摄像机的拍摄角度使得所获得的监控数据可以直接用于检测生命体征,而不需要进行大量的预处理操作,实现了对于研判算法的裁剪优化,实现了将智能分析放在家庭本地,发现异常报警直接在前端(家里/本地)纠正或处置。

Description

一种“研判前置”的居家养老风险检测系统和方法
技术领域
本发明涉及一种“研判前置”的居家养老风险检测系统和方法,属于养老服务管理领域。
背景技术
随着我国老龄化进程的加快,社会养老问题日益突出。目前在我国养老服务的总供给中,90%为居家养老服务。因此,大力发展居家养老服务,积极探索符合我国国情的居家养老服务新模式是解决我国养老问题的重要举措。居家养老模式则是指老年人在家中居住,依托社区建立养老服务设施,由家庭或社会提供养老服务的养老模式。目前,全国已有多个地区正在开展居家养老服务。
但当前,居家养老面临的风险主要有以下3个方面亟待解决:
1、身体健康(生命体征)异常的及时发现和处置。
居家养老最大的风险来自于身体发生异常时不易及时发现。老人们或多或少都患有慢性病或者某些疾病,再加上因身体机能老化等因素容易诱发突发疾病,因此对于他们而言,夜间睡觉时由于无法不睡觉盯着看护或无人陪护,发生身体健康异常的风险比白天更大、更不容易及时发现。据统计,居家老人夜间发生突发疾病风险的概率大约是白天的10至20倍甚至更高。因此,解决本风险的关键在于能实时监测老人们的生命体征,尤其是在夜间睡觉时的生命体征,包括心率、呼吸/肢体微动作、呼吸频率、体温、血氧含量、血压等,一旦发现异常即报警并联动其子女、社区医护人员或120等,早发现、早处置、早治疗。
2、动作行为异常的及时发现和处置。
居家养老最常见的风险来源于动作行为异常。常见的动作行为异常包括:晕倒、跌倒、突发疾病无法动作等,由于子女多数白天需要工作而不在老人身边,一旦发生动作行为异常老人处理起来往往力不从心,特别是丧偶老年人、文化程度低的老年人、离休前职业为无业的老年人和患病类型多的老年人。因此,防范此类风险的核心在于实时检测存在的异常动作行为并及时报警和联动处理。
3、居家安全风险的及时发现和处置。
居家养老最不容忽视的是居家安全保障。常见的居家安全风险包括:外来人员入侵,起火,烟雾异常,煤气泄漏等。防范此类风险的核心在于及时发现、报警和联动处理。
现有居家养老方案中解决上述问题的方式均是在本地设置音频、视频、传感器等采集设备,然后通过互联网网络将采集到的数据传输至后端的计算平台进行智能分析,由计算平台智能分析出结果,最后再将后端智能分析出的结果通过网络传回至本地进行风险处置,也即,现有方案均是采用一种“研判后置”的风险防控模式,但是考虑上述问题多数要求在尽可能短的时间内作出反应,比如一些疾病的黄金抢救时间,再比如一些突发事件需要即刻处理,但是现有方案中“研判后置”的风险防控模式存在着时间上的耽搁,比如研判发现异常情况时须再次回传报警信息后才能开始处理/处置或救治,严重影响风险处置的效率和效果,大量数据传输还会受到网络质量好坏的限制。而且家庭内部隐私的视频监控数据须在互联网上传输和保存在云计算中心,存在泄漏隐私的可能,安全性一般。
而且考虑应对多种情况下的风险分析,现有方案中的后端计算平台通常依靠大量的硬件算力资源,将其放置到前端本地又不切实际,因此亟需一种既能够满足上述问题解决的时效性、又能够实现智能准确分析且经济的居家养老风险检测系统和方法。
发明内容
为了满足居家养老风险研判的时效性、准确性和经济性,本发明提供了一种“研判前置”的居家养老风险检测系统和方法,将智能分析放在家庭本地,将包括实时视频监控数据、音频数据及其它传感器设备数据等在内的数据,使用本发明的智能终端设备在本地(家里)实时智能分析,有异常即报警并将报警结果传输给预设家庭成员及联动社区医护人员、公安110、119及120等处置救治。
一种“研判前置”的居家养老风险检测系统,所述系统包括:安装于家庭内部卧室房间内的监控摄像机A、安装于家庭内部公共区域内的监控摄像机B和C、安装厨房的煤气泄漏传感器和烟雾传感器、警报装置以及设置在家里内部的智能终端处理设备;
所述监控摄像机A根据卧室内床的摆放位置确定安装位置,且根据卧室内常规使用枕头高度设置其拍摄角度;所述监控摄像机B和C对角位置安装,覆盖包括家庭进门在内、除卧室外的全景;
所述监控摄像机A、监控摄像机B和C、煤气泄漏传感器和烟雾传感器、警报装置均与智能终端处理设备相连;所述监控摄像机A、监控摄像机B和C集成拾音器、语音通话功能;像素符合300万至400万;所述警报装置直接连通至看护人员和/或110、120报警急救电话;
所述智能终端处理设备根据所述监控摄像机A、监控摄像机B和C、煤气泄漏传感器和烟雾传感器采集的数据进行风险防控分析,在确定风险存在时启动警报装置。
可选的,所述监控摄像机A根据卧室内床的摆放位置确定安装位置,且根据卧室内常规使用枕头高度设置其拍摄角度,包括:
所述监控摄像机A安装于家庭内部卧室房间顶部,位置位于房间顶部对应的床中间线处;
所述监控摄像机A的拍摄角度∠A根据下述公式确定:
Figure BDA0003451173620000031
其中,H表示监控摄像机A的安装高度,h1表示枕头高度,h2表示床铺高度;w表示监控摄像机A的安装宽度;所述安装高度指家庭内部卧室房间高度,所述安装宽度指人员躺卧在枕头上时额头部分至监控摄像机A的安装位置的水平距离。
可选的,所述监控摄像机A安装时,通过选择合适的安装位置使得拍摄角度∠A处于90°±12°内。
可选的,所述系统还包括安装于家庭内部客房和书房内的监控摄像机D和E。
本发明还提供一种“研判前置”的居家养老风险检测方法,所述方法基于上述居家养老风险检测系统实现,所述方法包括:
获取所述居家养老风险检测系统中所有监控摄像机、煤气泄漏传感器和烟雾传感器采集的数据;
若煤气泄漏传感器和/或烟雾传感器采集的数据为警报数据,则启动警报装置;
若所述居家养老风险检测系统中任一监控摄像机的拾音器功能检测到声音音量超过预定分贝阈值,则启动警报装置;
若所述居家养老风险检测系统中任一监控摄像机的拾音器功能检测到包含求救关键字,则启动警报装置;
根据所述居家养老风险检测系统中所有监控摄像机的监控数据的获取时间确定对各监控摄像机获取的监控数据中的视频流数据的分析算法:
若监控数据的获取时间处于所述居家养老风险检测系统预设的休息时间,则对所述监控摄像机A获取到的视频流数据启动生命体征检测算法,对所述居家养老风险检测系统中其他监控摄像机获取的视频流数据启动移动目标侦测算法;
若监控数据的获取时间处于所述居家养老风险检测系统预设的非休息时间,则对所述居家养老风险检测系统中所有监控摄像机获取的视频流数据启动人员移动侦测,仅对检测到有人员的视频流数据才启动人员跟踪和动作行为分析研判算法,不对未检测到人员的监控数据进行分析以节省算力。
可选的,所述方法对休息时间内监控摄像机A获取到的视频流数据启动生命体征检测算法之前,还包括,检测床上是否有人;
如果检测到床上无人,则联动所述居家养老风险检测系统中其他监控摄像机检测是否有人员活动,检测到人员活动则通过所述居家养老风险检测系统中的监控摄像机的语音通话功能通知提醒居家养老人员休息提醒信息,未检测到人员活动则启动警报装置告知看护人员居家养老人员不在家;
如果检测到床上有人,则对监控摄像机A获取到的视频流数据启动生命体征检测算法。
可选的,所述方法对监控摄像机A获取到的视频流数据启动生命体征检测算法,包括:
采用人脸检测算法检测视频流中视频图像帧床上位置是否能捕获人脸;
如果检测到人脸,则检测视频图像帧是否能定位到额头部位;定位到额头部位后,通过额部皮肤获取生命体征数据,并与预先存储的该居家养老人员的正常生命体征数据做对比,以确定是否出现异常;所述生命体征数据包括心率数据和体温数据;
如果检测不到人脸,则检测视频图像帧是否能提取到人体模型;若检测到视频图像帧能够提取到人体模型,则检测呼吸频率和/或肢体微动作是否出现异常;
如果出现异常,则触发警报。
可选的,所述方法对于非休息时间内获取到的监控数据启动人员移动侦测时,若检测到居家养老人员预设长度时间内静止不动或者倒地动作,则通过监控摄像机的语言通话功能提示是否需要帮助,如果检测到音频流数据包含“是”或者未应答,则触发警报。
本发明还提供一种智能终端处理设备,所述智能终端处理设备与上述居家养老风险检测系统中的各监控摄像机、煤气泄漏传感器和烟雾传感器以及警报装置相连,执行上述检测方法。
本发明有益效果是:
1、本申请通过结合居家养老实际场景,在启动较为消耗算力的生命体征检测算法之前,采用时间过滤、异常声响过滤、传感报警联动过滤以及是否有人等条件过滤,避免了现有云计算平台需要匹配多种算法模型消耗大量算力的情况以及生命体征检测算法的持续、频繁调用消耗算力的情况,降低了对于智能终端处理设备的算力要求,使得一些嵌入式设备即可满足算力条件,而且通过研究监控摄像机的拍摄角度使得所获得的监控数据可以直接用于检测生命体征,而不需要进行大量的预处理操作,一定程度上也降低了对于算力的要求,使得在家庭本地进行风险研判分析成为可能。
2、在家庭本地进行风险研判分析的优势包括:家庭内部隐私的视频监控数据只在本地运行,不在互联网上传输,从根本上杜绝了隐私数据泄漏的可能,更安全更可靠;采集到的数据直接交在局域网内交互,省掉了将大量的视频数据再由网络传输的过程,避免了网络传输质量好坏的影响,提升了可靠性;节省了传输网络的建设成本和使用成本,节约传输时间,提升了报警的反应速度和响应时间;研判发现异常报警或预警直接在前端(家里/本地)纠正或处置,纠正或处置效率大幅提升。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例中公开的“研判前置”的居家养老风险检测系统的风险防控处理及联动报警处置救治流程图;
图2是本发明一个实施例中公开的居家养老人员睡觉时间的生命体征异常检测方法及联动报警处置救治流程图;
图3是本发明一个实施例中公开的居家养老人员非睡觉时间的动作行为异常检测方法及联动报警处置救治流程图;
图4是本发明一个实施例中公开的居家养老人员全天候居家安全的异常检测方法及联动报警处置救治流程图;
图5是本发明一个实施例中公开的居家养老风险检测系统检测设备安装位置示意图。
图6为本发明一个实施例中公开的居家养老人员卧室内的家用视频监控摄像机A的安装位置示意图。
图7为本发明一个实施例中公开的枕头仰角计算参照图。
图8为本发明一个实施例中公开的居家养老人员卧室内的家用视频监控摄像机A的拍摄角与其安装宽度和高度及枕头仰角的关系示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
实施例一:
本实施例提供一种“研判前置”的居家养老风险检测系统,所述系统包括:安装于家庭内部卧室房间内的监控摄像机A、安装于家庭内部公共区域内的监控摄像机B和C、安装厨房的煤气泄漏传感器和烟雾传感器、警报装置以及设置在家里内部的智能终端处理设备;
所述监控摄像机A根据卧室内床的摆放位置确定安装位置,且根据卧室内常规使用枕头高度设置其拍摄角度;所述监控摄像机B和C对角位置安装,覆盖包括家庭进门在内、除卧室外的全景;
所述监控摄像机A、监控摄像机B和C、煤气泄漏传感器和烟雾传感器、警报装置均与智能终端处理设备相连;所述监控摄像机A、监控摄像机B和C集成拾音器、语音通话功能;像素符合300万至400万;所述警报装置直接连通至看护人员和/或110、120报警急救电话;
所述智能终端处理设备根据所述监控摄像机A、监控摄像机B和C、煤气泄漏传感器和烟雾传感器采集的数据进行风险防控分析,在确定风险存在时启动警报装置。
所述监控摄像机A根据卧室内床的摆放位置确定安装位置,且根据卧室内常规使用枕头高度设置其拍摄角度,包括:
所述监控摄像机A安装于家庭内部卧室房间顶部,位置位于房间顶部对应的床中间线处;
所述监控摄像机A的拍摄角度∠A根据下述公式确定:
Figure BDA0003451173620000061
其中,H表示监控摄像机A的安装高度,h1表示枕头高度,h2表示床铺高度;w表示监控摄像机A的安装宽度;所述安装高度指家庭内部卧室房间高度,所述安装宽度指人员躺卧在枕头上时额头部分至监控摄像机A的安装位置的水平。
所述监控摄像机A安装时,通过选择合适的安装位置使得拍摄角度∠A处于90°±12°内。
所述系统还包括安装于家庭内部客房和书房内的监控摄像机D和E。
根据家庭内部房屋结构,还可能包含其他监控摄像机。
实施例二:
本实施例提供一种“研判前置”的居家养老风险检测系统,参见图5,以常见的三室一厅户型为例,结合居家养老面临的3大风险,所述居家养老风险检测系统包括设置在家庭本地的数据采集设备,包括:
(1)安装于居家养老人员卧室内的家用视频监控摄像机A,吸顶安装,位置位于房间顶部对应的床中间线(虚线所示)上,如图6所示。
该安装在老人卧室内的家用视频监控摄像机可采用市场常见品牌型号,如海康荧石、小米、TP-LINK等品牌的家用型号,像素200万至400万(满足高清即可),带云台旋转功能,带红外夜视功能,集成拾音器,可语音通话和音频采集功能,用于居家养老人员睡觉时的生命体征检测监护、全天候的异常动作行为检测和居家安全保障检测。
(2)安装于家庭公共区域对角位置的视频监控摄像机B和C,像素符合300万至400万(高清),带云台可变焦,带红外夜视功能,集成拾音器,可语音通话和音频采集功能,用于居家养老人员全天候的异常动作行为检测、居家安全保障检测和发生风险时的语音示警提醒。
(3)安装于家庭其它卧室和书房安装的视频监控摄像机D和E,像素符合300万至400万(高清),带云台可变焦,带红外夜视功能,集成拾音器,可语音通话和音频采集功能,用于居家养老人员全天候的异常动作行为检测、居家安全保障检测和发生风险时的语音示警提醒。
(4)安装于厨房的煤气泄漏传感器,用于监测煤气泄漏报警;G、H、I、J、K、L分别是安装在厨房、老人房、主卧、书房、客厅和餐厅顶部的烟雾传感器,用于监测烟雾报警。
(5)警报装置,包括语音对讲设备/手机APP/社区医护人员或120/110等。
(6)智能终端处理设备,上述各视频监控摄像机、各类传感器以及警报装置均与智能终端处理设备相连,该智能终端处理设备可以是计算机,也可以是预设有智能分析处理算法的处理器、嵌入式设备等。
考虑夜间睡觉时由于无法全天候看护或无人陪护,发生身体健康异常的风险比白天更大、更不容易及时发现,本申请对于家用视频监控摄像机A采集到的数据的分析需要实现更多信息的检测,包括对于心率、呼吸频率、体温等生命体征的检测,同时要针对在本地计算机上以较少的硬件资源实现复杂信息的检测,即考虑算力的节省,本申请预先设定该家用视频监控摄像机A的拍摄角度选取在90°±12°,针对该家用视频监控摄像机A的安装说明如下:
首先,居家养老人员因身体素质差异,其仰卧睡觉时存在4种情况:
I、仰卧时正常枕头高度,通常枕头高度在10CM左右,适用于身体健康状况正常的人员;
II、仰卧时枕头的高度可以适当的选择高一些的,通常枕头高度在12CM至15CM,适用于高血压的人群,这样更有利于维持人体的血压稳定;
III、仰卧时枕头的高度可以适当的选择低一些的,通常枕头高度在4CM至8CM,适用于体内血糖偏低的人,这样更有利于提升睡眠的质量;
IV、仰卧时不使用枕头,不排除部分居家养老人员因为某些颈椎问题选择不使用枕头。
考虑算力的节省,本发明种所采用的生命体征检测算法基于先人脸捕获人脸再定位到额头部位,因此在排除床具和人为遮挡监控摄像机拍摄成像前提下,同时排除头发刘海、戴帽子、扎头巾、特殊眼罩等对额头部位定位的影响,监控摄像机成像位置的角度不同(即成像位置角度=拍摄角A+枕头仰角B),对应的人脸捕获成功率和额头定位准确率也会不同。本发明所采取的人脸捕获算法支持的成像位置角度在90°±12°(即78°至102°),由于90°至102°拍摄成像图像须做翻转处理、额外消耗算力,因此本发明为适配智能终端设备节省算力,对应的摄像机安装角度选取在78°至90°。
同时,考虑到市场常见的家用网络摄像机参数(红外夜视距离10M,像素200万至400万,云台旋转角度:水平343度,垂直115度;光圈:F2.0,焦距:4mm),本发明针对房间内不同枕头高度睡觉的居家养老人员,其生命体征检测使用的视频监控摄像机有不同的布设要求:
i、居家养老人员房间的视频监控摄像机建议安装在房间顶部(即吸顶安装),位置位于房间顶部对应的床中间线(虚线所示)上,如图6所示;
ii、枕头仰角的计算:
如图7和8所示,以正常枕头高度10CM计,常人后脑部位至肩部平面距离约20CM,因此枕头仰角B的值约为26.56°;以低一些的枕头高度4CM计,此时枕头仰角B的值约为11.31°;以高一些的枕头高度15CM计,此时枕头仰角B的值约为36.93°。
其中,因视频监控为吸顶安装,则安装高度近似于楼层高度,而图8中标出的安装高度差h为楼层高度减去枕头高度h1以及床铺高度h2的值;因床靠墙安放,安装宽度w近似为床头靠墙位置至监控摄像机安装位置之间的距离。其对应关系如下表1所示:
表1:居家养老人员房间的视频监控摄像机不同安装高度差h、不同枕头高度及不同安装宽度对应的最大拍摄角和最小拍摄角的对应关系
Figure BDA0003451173620000081
Figure BDA0003451173620000091
对于安装于家庭公共区域对角位置的视频监控摄像机B和C,建议对角安装,要求覆盖包括居室进门在内、除房间外的全景,具体要求如下:
1、摄像机宜安装在房间内不易受损伤的地方,安装位置不应影响现场设备运行和人员正常活动。
2、摄像机镜头应避免强光直射,保证摄像管靶面不受损伤。镜头视场内,不得有遮挡监视目标的物体。
3、摄像机镜头应从光源方向对准监视目标,并应避免逆光安装;当需要逆光安装时,应降低监视区域的对比度。
不同的镜头焦距、监控的宽度也决定了其不同的监控距离和摄像机架设要求。其之间的换算关系如下:
U≈f*W/a
h=U*tan(13*3.1415926/180)+1.7
其中,a为senser粑面尺寸(mm),W为监控宽度(米),U为监控距离(米)。
摄像机安装高度及镜头查询表如下表2所示:
表2:摄像机安装高度及镜头查询表
Figure BDA0003451173620000101
实施例三
本实施例提供一种“研判前置”的居家养老风险检测方法,所述方法基于实施例一或实施例二所述的“研判前置”的居家养老风险检测系统实现,所述方法包括:
获取所述居家养老风险检测系统中所有监控摄像机、煤气泄漏传感器和烟雾传感器采集的数据;
若煤气泄漏传感器和/或烟雾传感器采集的数据为警报数据,则启动警报装置;
若所述居家养老风险检测系统中任一监控摄像机的拾音器功能检测到声音音量超过预定分贝阈值,则启动警报装置;
若所述居家养老风险检测系统中任一监控摄像机的拾音器功能检测到包含求救关键字,则启动警报装置;
根据所述居家养老风险检测系统中所有监控摄像机的监控数据的获取时间确定对各监控摄像机获取的监控数据中的视频流数据的分析算法:
若监控数据的获取时间处于所述居家养老风险检测系统预设的休息时间,则对所述监控摄像机A获取到的视频流数据启动生命体征检测算法,对所述居家养老风险检测系统中其他监控摄像机获取的视频流数据启动移动目标侦测算法;
若监控数据的获取时间处于所述居家养老风险检测系统预设的非休息时间,则对所述居家养老风险检测系统中所有监控摄像机获取的视频流数据启动人员移动侦测,仅对检测到有人员的视频流数据才启动人员跟踪和动作行为分析研判算法,不对未检测到人员的监控数据进行分析以节省算力。
实施例四
本实施例提供一种“研判前置”的居家养老风险检测方法,所述方法基于实施例一或实施例二所述的“研判前置”的居家养老风险检测系统实现。
一、家庭实际情况安装好居家养老人员房间的视频监控摄像机A后,获取相应的视频数据,根据获取到的视频数据针对居家养老人员睡觉时的生命体征异常检测方法过程如图2所示,包括:
S1:将获取到的预设拍摄角度下监控摄像机A的视频流/音频流输入智能终端处理设备;
S2:采用人脸检测算法检测视频流中视频图像帧床上位置是否能捕获人脸;
S21:如果检测到人脸,则检测视频图像帧是否能定位到额头部位;
定位到额头部位后,通过额部皮肤获取心率数据、体温等生命体征数据,并与预先存储的该居家养老人员的正常生命体征数据做对比,以确定是否出现异常;
如果异常,则触发警报,联动语音对讲/手机APP/社区医护人员或120/110等;
如果没有出现异常,则结束此次检测,准备下一次检测,同时自动记录居家养老人员的监控数据。
S22:如果检测不到人脸,则检测视频图像帧是否能提取到人体模型;
S221:若视频图像帧能够提取到人体模型,则检测呼吸或肢体微动作是否正常;
若检测呼吸或肢体微动作正常,则结束此次检测,准备下一次检测。
若检测呼吸或肢体微动作不正常,则触发警报,联动语音对讲/手机APP/社区医护人员或120/110等。
S222:若视频图像帧不能够提取到人体模型,则检测视频图像帧是否有人员走动;
若检测到视频图像帧有人员走动,则自动记录居家养老人员的监控数据。
若检测到视频图像帧没有人员走动,则触发警报,联动语音对讲/手机APP/社区医护人员或120/110等。
上述对于视频流中视频图像帧的检测之前,或者检测的同时,智能终端处理设备还会通过对于音频数据进行检测,比如,检测音频数据中是否有求救关键字,如果包含,则触发警报,联动语音对讲/手机APP/社区医护人员或120/110等。
上述检测过程中,对于通过额部皮肤获取心率数据、体温等生命体征数据的实现方法可参考现有技术实现,比如心率数据检测可参考https://zhuanlan.zhihu.com/p/83674059网页中公开的“基于视频分析的rPPG心率检测综述”一文中的介绍;而对于体温检测技术已经非常成熟,本申请不做赘述。
上述检测过程,人脸检测算法、呼吸或肢体微动作检测算法、人员跟踪算法也是较为成熟的检测算法,本申请也不再赘述,本领域技术人员可通过现有技术实现。
二、针对居家养老人员非睡觉时间的动作行为异常检测方法及联动报警处置救治方法过程如图3所示,包括:
监控摄像机B、C对角位置安装,覆盖包括居室进门在内、除房间外的全景,具体要求如下:
1、摄像机宜安装在房间内不易受损伤的地方,安装位置不应影响现场设备运行和人员正常活动。
2、摄像机镜头应避免强光直射,保证摄像管靶面不受损伤。镜头视场内,不得有遮挡监视目标的物体。
3、摄像机镜头应从光源方向对准监视目标,并应避免逆光安装;当需要逆光安装时,应降低监视区域的对比度。
非睡觉时间的动作行为异常检测方法及联动报警处置救治方法过程包括:Step1:将获取到的预设拍摄角度下监控摄像机A/B/C/D/E的视频流/音频流输入智能终端处理设备;
Step2:检测视频图像帧是否有人员存在;
Step21:若检测到视频图像帧有人员存在,则运行人工智能人员跟踪算法,跟踪人员移动位置;人工智能人员跟踪算法可参考现有技术中目标跟踪算法实现。
跟踪过程中,若检测到存在人员长时间久坐不动的情况(可通过预先设定时间阈值实现),则触发语音提示是否需要帮助,若检测到音频流包含“是”或者长时间未应答,则触发警报,联动语音对讲/手机APP/社区医护人员或120/110等。反之,结束跟踪,准备下一次检测。
跟踪过程中,若检测到存在人员倒地动作,则触发语音提示是否需要帮助,若检测到音频流包含“是”或者长时间未应答,则触发警报,联动语音对讲/手机APP/社区医护人员或120/110等。
Step22:若未检测到视频图像帧有人员存在,则继续检测预定时间内视频图像帧是否有人员存在,同时音频检测确认是否有人;
若检测预定时间内视频图像帧有人员存在,则返回Step21;反之,则确定居家养老人员不在家,触发警报,联动语音对讲/手机APP/社区医护人员或120/110等。
上述对于视频流中视频图像帧的检测之前,或者检测的同时,智能终端处理设备还会通过对于音频数据进行检测,比如,检测音频数据中是否有求救关键字,如果包含,则触发警报,联动语音对讲/手机APP/社区医护人员或120/110等。
本申请算力要求分析:
生命体征检测时仅对监控摄像机A中获取的床头区域的数据进行人脸捕获和额头位置处理,其余区域数据舍弃;
舍弃监控视频中非人员属性的固定不动部分的数据,仅对视频帧中具有人员属性的部分或移动部分进行处理;
在算法模型加载上,结合居家养老场景实际,舍弃了多目标的同时跟踪(并发),仅根据上述过滤和裁剪后的智能分析需要加载需要的算法模型以最大程度节省算力。
根据本申请方法实际运行情况统计本发明中所涉及的全部检测算力需求和耗时如下:
1)心率生命体征检测需要的算力为每路视频1.48TOPS至1.56TOPS,单次检测耗时6s至1min;
2)呼吸微动作生命体征检测需要的算力为每路视频0.65TOPS,单次检测耗时3s;
3)人员检测需要的算力为每路视频0.12TOPS,单次检测耗时小于0.3s;
4)移动目标侦测需要的算力为每路视频0.07TOPS,单次检测耗时小于0.1s;
5)1个人员目标跟踪和倒检测需要的算力为每路视频0.45TOPS,2个人员目标同时跟踪检测倒地需要的算力为每路视频1.15TOPS,3个人员目标同时跟踪检测倒地需要的算力为每路视频2.79TOPS,检测耗时0.5s至3s不等;
6)声音检测需要的算力为每路音频0.2TOPS,单次检测耗时0.1s至1s;
7)煤气报警检测由煤气泄漏报警传感器完成,报警信号几乎不需要消耗算力,单次检测耗时随着煤气泄漏速度和浓度不同约3s至10s;
8)烟雾报警检测由烟雾报警传感器完成,报警信号几乎不需要消耗算力,单次检测耗时随着烟雾弥漫速度和浓度不同约3s至10s。
因此相比较全天候24小时检测生命体征,采用时间条件过滤可减少33.3%(对应每天午睡3.5小时、晚上睡觉14.5小时,共计睡觉18小时)至62.5%(对应每天午睡+晚上睡觉共计9小时)的心率和呼吸微动作生命体征检测的算力需求;
人员检测需要的算力为每路视频0.12TOPS,本发明中全部A、B、C、D、E共计5路监控视频同时检测是否有人员需要的总算力为0.6TOPS。在人员检测前置的条件下,可减少1-(1)方式中59.46%【计算方式为:减少算力比例=(1.48-0.6)/1.48*100%】的算力需求;
移动目标侦测需要的算力为每路视频0.07TOPS,本发明中全部B、C、D、E共计4路监控视频同时检测是否有移动目标时需要的总算力为0.28TOPS。在移动目标检测辅助的条件下,相比人员检测可减少1-(2)方式中41.47%【计算方式为:减少算力比例=(0.12-0.07)/0.12*100%】的算力需求;
以本发明所采用的智能终端设备配置(主芯片为瑞芯微RK3399pro*1,NPU算力最高3.0TOPS;2GB*2双通道DDR3-1866内存,共4GB内存;32GB M.2接口SSD硬盘)举例:
进行心率生命体征检测需要每路视频1.42TOPS的算力。如不对A监控摄像机的安装位置进行设定限制,就只能通过云台转动及全部图像帧实时处理,其中捕获人脸需要的算力为每路视频0.09TOPS,定位额头需要的算力为每路视频0.05TOPS,再加上心率检测需要的算力为每路视频1.42TOPS,因此进行心率生命体征检测共需要每路视频1.56TOPS的算力;在监控视频全画面图像帧中捕获到合适的人脸概率约为50%,耗时31ms,在此基础上能定位到合适的额头部位的概率降至29%,耗时28ms;实际应用中为了能捕获到合适的人脸,因此需要转动A监控摄像机云台至适合的角度(可预先设置为预置位,以缩短云台转动耗时)和拉伸镜头以达到最佳效果,该转动云台和拉伸镜头过程最少需要额外耗时3s;为确保心率检测的准确性,心率检测须要持续跟踪和检测5s才能计算出较高准确率的心率值,由于A安装位置无限制,在持续跟踪和检测过程中容易因角度偏差发生中断,如在此过程中发生中断,系统需要等待、直到合适位置出现时才能重启检测。因此,在无安装位置限制条件下首个检测周期(6s)内检测出心率的概率小于1%,且算力资源会因此持续消耗而得不到释放,甚至影响其它检测。
监控摄像机A按照本发明所示的要求安装在指定位置后,此时不需要在全画面帧监控视频图像帧中捕获人脸和定位额头部位,仅需要在特定位置获取人脸和定位额头部位即可,此举可减少共计每路视频0.08TOPS算力需求,进行心率生命体征检测所需总算力要求下降至每路视频1.48TOPS;此时人脸捕获成功概率提升至95%,人脸捕获耗时降至5ms,在此基础上能定位到合适的额头部位的概率提升至90%,耗时降至9ms,节省云台转动和镜头拉伸耗时3s以上,且在持续跟踪和检测过程中不容易因角度偏差发生中断。在居家养老人员仰卧条件下首个检测周期(6s)内检测出心率的概率大于50%,2个检测周期(12s)内检测出心率的概率大于80%,3个检测周期(18s)内检测出心率的概率大于85.33%,4个检测周期(24s)内检测出心率的概率大于87.67%,5个检测周期(30s)内检测出心率的概率大于89.11%,10个检测周期(60s)内检测出心率的概率大于94.33%,且算力资源会因此优化,为其它检测提供资源支持。
在本发明中,所有的算法模型调用采取的是按需调用算法模型的方式,即以达到分析研判为目标,经前置算法按时间、是否人员、移动目标等多维度过滤后再调用适合的算法进行分析研判,以达到分析研判效果和算力需求的动态平衡;这是与采用GPU服务器后端研判(算力充足情况下)将所有模型大规模加载、采用庞大算力作为支撑的最大区别。
本发明实施例中的部分步骤,可以利用软件实现,相应的软件程序可以存储在可读取的存储介质中,如光盘或硬盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (5)

1.一种“研判前置”的居家养老风险检测方法,其特征在于,所述方法包括:
获取居家养老风险检测系统中所有监控摄像机、煤气泄漏传感器和烟雾传感器采集的数据;
若煤气泄漏传感器和/或烟雾传感器采集的数据为警报数据,则启动警报装置;
若居家养老风险检测系统中任一监控摄像机的拾音器功能检测到声音音量超过预定分贝阈值,则启动警报装置;
若居家养老风险检测系统中任一监控摄像机的拾音器功能检测到包含求救关键字,则启动警报装置;
根据居家养老风险检测系统中所有监控摄像机的监控数据的获取时间确定对各监控摄像机获取的监控数据中的视频流数据的分析算法:
若监控数据的获取时间处于居家养老风险检测系统预设的休息时间,则对监控摄像机A获取到的视频流数据启动生命体征检测算法,对居家养老风险检测系统中其他监控摄像机获取的视频流数据启动移动目标侦测算法;
若监控数据的获取时间处于居家养老风险检测系统预设的非休息时间,则对居家养老风险检测系统中所有监控摄像机获取的视频流数据启动人员移动侦测,仅对检测到有人员的视频流数据才启动人员跟踪和动作行为分析研判算法,不对未检测到人员的监控数据进行分析以节省算力;
所述方法对休息时间内监控摄像机A获取到的视频流数据启动生命体征检测算法之前,还包括,检测床上是否有人;
如果检测到床上无人,则联动所述居家养老风险检测系统中其他监控摄像机检测是否有人员活动,检测到人员活动则通过所述居家养老风险检测系统中的监控摄像机的语音通话功能通知提醒居家养老人员休息提醒信息,未检测到人员活动则启动警报装置告知看护人员居家养老人员不在家;
如果检测到床上有人,则对监控摄像机A获取到的视频流数据启动生命体征检测算法;
所述方法对监控摄像机A获取到的视频流数据启动生命体征检测算法,包括:
采用人脸检测算法检测视频流中视频图像帧床上位置是否能捕获人脸;
如果检测到人脸,则检测视频图像帧是否能定位到额头部位;定位到额头部位后,通过额部皮肤获取生命体征数据,并与预先存储的该居家养老人员的正常生命体征数据做对比,以确定是否出现异常;所述生命体征数据包括心率数据和体温数据;
如果检测不到人脸,则检测视频图像帧是否能提取到人体模型;若检测到视频图像帧能够提取到人体模型,则检测呼吸频率和/或肢体微动作是否出现异常;
如果出现异常,则触发警报;
所述方法对于非休息时间内获取到的监控数据启动人员移动侦测时,若检测到居家养老人员预设长度时间内静止不动或者倒地动作,则通过监控摄像机的语言通话功能提示是否需要帮助,如果检测到音频流数据包含“是”或者未应答,则触发警报。
2.一种“研判前置”的居家养老风险检测系统,其特征在于,所述系统用于实现权利要求1所述的居家养老风险检测方法,所述系统包括:安装于家庭内部卧室房间内的监控摄像机A、安装于家庭内部公共区域内的监控摄像机B和C、安装厨房的煤气泄漏传感器和烟雾传感器、警报装置以及设置在家里内部的智能终端处理设备;
所述监控摄像机A根据卧室内床的摆放位置确定安装位置,且根据卧室内常规使用枕头高度设置其拍摄角度;所述监控摄像机B和C对角位置安装,覆盖包括家庭进门在内、除卧室外的全景;
所述监控摄像机A、监控摄像机B和C、煤气泄漏传感器和烟雾传感器、警报装置均与智能终端处理设备相连;所述监控摄像机A、监控摄像机B和C集成拾音器、语音通话功能;像素符合300万至400万;所述警报装置直接连通至看护人员和/或110、120报警急救电话;
所述智能终端处理设备根据所述监控摄像机A、监控摄像机B和C、煤气泄漏传感器和烟雾传感器采集的数据进行风险防控分析,在确定风险存在时启动警报装置;
所述监控摄像机A根据卧室内床的摆放位置确定安装位置,且根据卧室内常规使用枕头高度设置其拍摄角度,包括:
所述监控摄像机A安装于家庭内部卧室房间顶部,位置位于房间顶部对应的床中间线处;
所述监控摄像机A的拍摄角度∠A根据下述公式确定:
Figure FDA0003795190520000031
其中,H表示监控摄像机A的安装高度,h1表示枕头高度,h2表示床铺高度;w表示监控摄像机A的安装宽度;所述安装高度指家庭内部卧室房间高度,所述安装宽度指人员躺卧在枕头上时额头部分至监控摄像机A的安装位置的水平。
3.根据权利要求2所述的系统,其特征在于,所述监控摄像机A安装时,通过选择合适的安装位置使得拍摄角度∠A处于90°±12°内。
4.根据权利要求2所述的系统,其特征在于,所述系统还包括安装于家庭内部客房和书房内的监控摄像机D和E。
5.一种智能终端处理设备,其特征在于,所述智能终端处理设备与权利要求2-4任一所述的居家养老风险检测系统中的各监控摄像机、煤气泄漏传感器和烟雾传感器以及警报装置相连,执行权利要求1所述的检测方法。
CN202111664136.9A 2021-12-31 2021-12-31 一种“研判前置”的居家养老风险检测系统和方法 Active CN114220244B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111664136.9A CN114220244B (zh) 2021-12-31 2021-12-31 一种“研判前置”的居家养老风险检测系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111664136.9A CN114220244B (zh) 2021-12-31 2021-12-31 一种“研判前置”的居家养老风险检测系统和方法

Publications (2)

Publication Number Publication Date
CN114220244A CN114220244A (zh) 2022-03-22
CN114220244B true CN114220244B (zh) 2022-09-16

Family

ID=80707372

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111664136.9A Active CN114220244B (zh) 2021-12-31 2021-12-31 一种“研判前置”的居家养老风险检测系统和方法

Country Status (1)

Country Link
CN (1) CN114220244B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116343425B (zh) * 2023-05-25 2023-08-08 深圳市捷易科技有限公司 火灾检测方法、系统、设备及计算机存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105979220A (zh) * 2016-06-21 2016-09-28 南京工业大学 一种家居养老监控智能移动小车、监控系统及其监控方法
CN105996993A (zh) * 2016-04-29 2016-10-12 南京理工大学 一种智能视频生命体征监测系统及方法
JP2018018456A (ja) * 2016-07-29 2018-02-01 パナソニックIpマネジメント株式会社 監視カメラ、見守り監視システム及び見守り監視方法
CN108227661A (zh) * 2018-01-19 2018-06-29 重庆交通职业学院 一种居家养老的社会化服务系统及方法
CN109035699A (zh) * 2018-08-29 2018-12-18 张力 基于人工智能的老年人居家全景监控看护系统及方法
CN110581983A (zh) * 2019-10-09 2019-12-17 中农航空(吉林)有限公司 一种高空监测系统
CN111314598A (zh) * 2018-12-12 2020-06-19 安讯士有限公司 用于辅助摄像机倾斜角调整的方法
CN111462448A (zh) * 2020-05-20 2020-07-28 南京孝德智能科技有限公司 老人用的智能语音呼叫报警系统、方法及计算机可读介质
WO2020236395A1 (en) * 2019-05-17 2020-11-26 Tellus You Care, Inc. Non-contact identification of sleep and wake periods for elderly care
CN214675456U (zh) * 2021-05-28 2021-11-09 浙江金辉智造科技有限公司 一种智慧养老看护装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150194034A1 (en) * 2014-01-03 2015-07-09 Nebulys Technologies, Inc. Systems and methods for detecting and/or responding to incapacitated person using video motion analytics
CN110660475A (zh) * 2019-11-01 2020-01-07 安徽超清科技股份有限公司 居家养老系统
CN112587107A (zh) * 2020-12-04 2021-04-02 歌尔科技有限公司 一种智能穿戴设备及安全防护管理方法、装置和介质
CN112971723A (zh) * 2021-02-09 2021-06-18 福寿康(上海)医疗养老服务有限公司 一种智能远程居家养老看护系统
CN113688744A (zh) * 2021-08-26 2021-11-23 中国工商银行股份有限公司 自适应高度的人脸识别方法及装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105996993A (zh) * 2016-04-29 2016-10-12 南京理工大学 一种智能视频生命体征监测系统及方法
CN105979220A (zh) * 2016-06-21 2016-09-28 南京工业大学 一种家居养老监控智能移动小车、监控系统及其监控方法
JP2018018456A (ja) * 2016-07-29 2018-02-01 パナソニックIpマネジメント株式会社 監視カメラ、見守り監視システム及び見守り監視方法
CN108227661A (zh) * 2018-01-19 2018-06-29 重庆交通职业学院 一种居家养老的社会化服务系统及方法
CN109035699A (zh) * 2018-08-29 2018-12-18 张力 基于人工智能的老年人居家全景监控看护系统及方法
CN111314598A (zh) * 2018-12-12 2020-06-19 安讯士有限公司 用于辅助摄像机倾斜角调整的方法
WO2020236395A1 (en) * 2019-05-17 2020-11-26 Tellus You Care, Inc. Non-contact identification of sleep and wake periods for elderly care
CN110581983A (zh) * 2019-10-09 2019-12-17 中农航空(吉林)有限公司 一种高空监测系统
CN111462448A (zh) * 2020-05-20 2020-07-28 南京孝德智能科技有限公司 老人用的智能语音呼叫报警系统、方法及计算机可读介质
CN214675456U (zh) * 2021-05-28 2021-11-09 浙江金辉智造科技有限公司 一种智慧养老看护装置

Also Published As

Publication number Publication date
CN114220244A (zh) 2022-03-22

Similar Documents

Publication Publication Date Title
US10504226B2 (en) Seizure detection
US20230222805A1 (en) Machine learning based monitoring system
CN111180091A (zh) 面向智慧医疗社区服务的监护系统
CN103927847A (zh) 一种智能养老看护系统
WO2020253162A1 (zh) 机器人及其控制方法、智能家居控制系统
CN109035699A (zh) 基于人工智能的老年人居家全景监控看护系统及方法
CN105494143A (zh) 一种应用于宠物的智能穿戴设备
CN104966380A (zh) 一种可监控人体意外摔倒的报警系统及方法
CN103544807A (zh) 婴幼儿睡眠看护方法及其系统
CN104305966B (zh) 一种监护仪的界面设置的方法及装置
US10813593B2 (en) Using visual context to timely trigger measuring physiological parameters
WO2019013257A1 (ja) 見守り支援システム及びその制御方法、プログラム
CN114220244B (zh) 一种“研判前置”的居家养老风险检测系统和方法
CN113555136B (zh) 一种基于医工融合技术的五位一体综合医养系统
CN210956179U (zh) 面向智慧医疗社区服务的监护系统
CN114926957B (zh) 基于智能家居的婴幼儿监护系统及监护方法
CN110897277A (zh) 一种智能手环及云平台管理系统
CN115116133A (zh) 一种用于独居老人监护的异常行为检测系统及方法
CN104606003A (zh) 基于人脸识别的智能护理床及其工作方法
Kittipanya-Ngam et al. Computer vision applications for patients monitoring system
CN113068124A (zh) 一种基于智能可穿戴设备的特定区域内人员管理方法
JPWO2018003752A1 (ja) 呼吸異常検出装置及び呼吸異常検出方法
CN108846996B (zh) 一种摔倒侦测系统及方法
CN111601092A (zh) 一种智能急救识别救护系统及其监控方法、行为识别方法
US20230260134A1 (en) Systems and methods for monitoring subjects

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant