CN112329526A - 一种基于ai视觉的驾驶行为实时分析预警系统及方法 - Google Patents

一种基于ai视觉的驾驶行为实时分析预警系统及方法 Download PDF

Info

Publication number
CN112329526A
CN112329526A CN202011048484.9A CN202011048484A CN112329526A CN 112329526 A CN112329526 A CN 112329526A CN 202011048484 A CN202011048484 A CN 202011048484A CN 112329526 A CN112329526 A CN 112329526A
Authority
CN
China
Prior art keywords
driver
driving
real
driving behavior
forklift
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011048484.9A
Other languages
English (en)
Inventor
王兰梅
邓海勤
高志勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aidong Chaoyue Artificial Intelligence Technology Beijing Co ltd
Original Assignee
Aidong Chaoyue Artificial Intelligence Technology Beijing Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aidong Chaoyue Artificial Intelligence Technology Beijing Co ltd filed Critical Aidong Chaoyue Artificial Intelligence Technology Beijing Co ltd
Priority to CN202011048484.9A priority Critical patent/CN112329526A/zh
Publication of CN112329526A publication Critical patent/CN112329526A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66FHOISTING, LIFTING, HAULING OR PUSHING, NOT OTHERWISE PROVIDED FOR, e.g. DEVICES WHICH APPLY A LIFTING OR PUSHING FORCE DIRECTLY TO THE SURFACE OF A LOAD
    • B66F17/00Safety devices, e.g. for limiting or indicating lifting force
    • B66F17/003Safety devices, e.g. for limiting or indicating lifting force for fork-lift trucks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66FHOISTING, LIFTING, HAULING OR PUSHING, NOT OTHERWISE PROVIDED FOR, e.g. DEVICES WHICH APPLY A LIFTING OR PUSHING FORCE DIRECTLY TO THE SURFACE OF A LOAD
    • B66F9/00Devices for lifting or lowering bulky or heavy goods for loading or unloading purposes
    • B66F9/06Devices for lifting or lowering bulky or heavy goods for loading or unloading purposes movable, with their loads, on wheels or the like, e.g. fork-lift trucks
    • B66F9/075Constructional features or details
    • B66F9/0759Details of operating station, e.g. seats, levers, operator platforms, cabin suspension
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Structural Engineering (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geology (AREA)
  • General Engineering & Computer Science (AREA)
  • Transportation (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Civil Engineering (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

本发明公开了一种基于AI视觉的驾驶行为实时分析预警系统及方法,本发明有效监测并识别叉车驾驶员的驾驶行为和状态,包括:人脸识别准驾控制车辆、驾驶员身份更换、疲劳驾驶、分神驾驶、驾驶异常、抽烟、打电话、喝水或饮料和未系好安全带等功能,保障叉车安全规范驾驶,降低叉车意外事故的发生,提高生产效率。相比于基于特殊传感器类的驾驶行为监测系统,本发明可以实时上传有警告行为时的实时画面。相比于单一的驾驶行为监测,本发明增加了人脸识别准驾驶控制功能。相比于汽车驾驶行为监测系统,本发明根据叉车作业的特殊性(如叉货、卸货时需要驾驶员查看和倒车时查看路况等情况)可以实时监测驾驶行为和状态,而且价格更低,更易安装和推广。

Description

一种基于AI视觉的驾驶行为实时分析预警系统及方法
技术领域
本发明涉及叉车人脸识别准驾控车和驾驶安全预警领域,特别是一种基于 AI视觉的驾驶行为实时分析预警系统及方法。
背景技术
随着现代社会物流业的飞速发展,叉车运输的需求不断增加。叉车工作的仓库环境大多是空间密度比较大,且存在着叉车、行人、货物、托盘、货架等多种复杂工况,需要叉车驾驶员在高度集中精力的状态下安全完成装卸运输作业。驾驶叉车存在工作时间长、作业强度大等特点。由于叉车驾驶员长时间驾驶而可会产生疲劳或困倦和一些司机的不规范驾驶等行为,往往可能会引发叉车安全事故,甚至造成生命和财产损失。在这种情况下,驾驶行为与状态实时识别预警对叉车安全驾驶有很重大的意义。
目前,叉车的开启或锁车控制主要是通过钥匙或者刷卡的方式进行,这种传统的方式存在驾驶员身份不明确和冒名顶替的现象。叉车和汽车车辆的锁车实时性差异,叉车很有可能存在中途更换驾驶员的现象。因此,人脸识别准驾驶控制和驾驶员身份的实时追踪,检测身份异常事件的发生对叉车的智能化管理很重要,为此我们提出一种基于AI视觉的驾驶行为实时分析预警系统及方法用于解决上述问题。
发明内容
本发明的目的在于提供一种基于AI视觉的驾驶行为实时分析预警系统及方法,以解决上述背景技术中提出的问题。
为实现上述目的,本发明提供如下技术方案:一种基于AI视觉的驾驶行为实时分析预警系统及方法,硬件包括:
基于人工智能终端(Jetson nano),进行视觉智能分析;
安装在叉车驾驶员前方靠下位置的窄带红外摄像头(。
车联网终端,用于实时采集车辆数据和车辆解锁或关锁控制;
显示器/喇叭,可以显示实时检测识别结果和发出告警声音;
电源模块,对智能计算终端和显示器/喇叭进行供电。
4G天线,用于传输信号。
本发明执行前提条件:
利用窄带红外摄像头采集所需识别的叉车驾驶员正面图像,用于构建驾驶员人脸数据库;
利用窄带红外摄像头对叉车驾驶员作业环境下的驾驶行为和状态(包括不规范驾驶和疲劳等状态)图像采集,并对采集到的图像进行标注,然后基于图像识别神经网络对标注数据进行训练,生成可识别出驾驶员人脸关键点和各种驾驶行为的深度学习网络模型;
通过语音对驾驶员进行提醒,微调摄像头的位置,使得驾驶员头部局域图像中间位置,提高检测的准确性和全面性。
本发明包括如下步骤:
步骤一:利用窄带红外摄像头对叉车驾驶员头部周围区域进行采集;
步骤二:人工智能终端读取深度网络学习模型,模型包括但不限于 ssd-mobilenet v2、yolo v3、dlib、face_recognition,通过tensorrt对训练好的深度学习网络模型进行硬件加速;
步骤三:人工智能终端实时读取摄像头图像数据,并通过硬件加速后的深度学习网络模型对图像进行推理,检测出图像中的驾驶员,并识别出其身份、当前驾驶行为和状态;
步骤四:人工智能终端通过读取驾驶员数据库判断该驾驶员的驾驶权限,若有准许驾驶权限,则向车联网终端发送解锁车辆的命令,完成人脸识别控制开启车辆;
步骤五:车辆开启后,实时获取车联网终端通过can信号或者传感器得到的叉车状态数据。结合当前驾驶行为和状态和已获得的叉车实时数据,判断驾驶员的行为和状态是否处于警报范围内,并结合实时车速判断警报等级,如果是,则进行报警;
步骤六:回到步骤三进行循环。
与现有技术相比,本发明的有益效果是:
1、本发明有效监测并识别叉车驾驶员的驾驶行为和状态,包括:人脸识别准驾控制车辆、驾驶员身份更换、疲劳驾驶、分神驾驶、驾驶异常、抽烟、打电话、喝水或饮料和未系好安全带等功能,保障叉车安全规范驾驶,降低叉车意外事故的发生,提高生产效率。相比于基于特殊传感器类的驾驶行为监测系统,本发明可以实时上传有警告行为时的实时画面。相比于单一的驾驶行为监测,本发明增加了人脸识别准驾驶控制功能。相比于汽车驾驶行为监测系统,本发明根据叉车作业的特殊性(如叉货、卸货时需要驾驶员查看和倒车时查看路况等情况)可以实时监测驾驶行为和状态,而且价格更低,更易安装和推广。
附图说明
图1为本发明人工智能终端检测识别流程图;
图2为本发明流程模块图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1-2,本发明提供一种技术方案:一种基于AI视觉的驾驶行为实时分析预警系统及方法,硬件包括:
基于人工智能终端(Jetson nano),进行视觉智能分析;
安装在叉车驾驶员前方靠下位置的窄带红外摄像头。
车联网终端,用于实时采集车辆数据和车辆解锁或关锁控制;
显示器/喇叭,可以显示实时检测识别结果和发出告警声音;
电源模块,对智能计算终端和显示器/喇叭进行供电。
4G天线,用于传输信号。
本发明执行前提条件:
利用窄带红外摄像头采集所需识别的叉车驾驶员正面图像,用于构建驾驶员人脸数据库;
利用窄带红外摄像头对叉车驾驶员作业环境下的驾驶行为和状态(包括不规范驾驶和疲劳等状态)图像采集,并对采集到的图像进行标注,然后基于图像识别神经网络对标注数据进行训练,生成可识别出驾驶员人脸关键点和各种驾驶行为的深度学习网络模型;
通过语音对驾驶员进行提醒,微调摄像头的位置,使得驾驶员头部局域图像中间位置,提高检测的准确性和全面性。
本发明包括如下步骤:
步骤一:利用窄带红外摄像头对叉车驾驶员头部周围区域进行采集;
步骤二:人工智能终端读取深度网络学习模型,模型包括但不限于ssd-mobilenetv2、yolo v3、dlib、face_recognition,通过tensorrt对训练好的深度学习网络模型进行硬件加速;
步骤三:人工智能终端实时读取摄像头图像数据,并通过硬件加速后的深度学习网络模型对图像进行推理,检测出图像中的驾驶员,并识别出其身份、当前驾驶行为和状态;
步骤四:人工智能终端通过读取驾驶员数据库判断该驾驶员的驾驶权限,若有准许驾驶权限,则向车联网终端发送解锁车辆的命令,完成人脸识别控制开启车辆;
步骤五:车辆开启后,实时获取车联网终端通过can信号或者传感器得到的叉车状态数据。结合当前驾驶行为和状态和已获得的叉车实时数据,判断驾驶员的行为和状态是否处于警报范围内,并结合实时车速判断警报等级,如果是,则进行报警;
步骤六:回到步骤三进行循环。
通过窄带红外摄像头对叉车驾驶员进行图像采集,后经过人工智能终端进行识别并结合车联网终端综合处理识别结果,将识别结果反馈给后台服务器,后台服务器发出处理命令,进行显示和语音告警,以提醒叉车驾驶员安全驾驶。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。

Claims (1)

1.一种基于AI视觉的驾驶行为实时分析预警系统及方法,其特征在于:硬件包括:
基于人工智能终端(Jetson nano),进行视觉智能分析;
安装在叉车驾驶员前方靠下位置的窄带红外摄像头。
车联网终端,用于实时采集车辆数据和车辆解锁或关锁控制;
显示器/喇叭,可以显示实时检测识别结果和发出告警声音;
电源模块,对智能计算终端和显示器/喇叭进行供电。
4G天线,用于传输信号。
本发明执行前提条件:
利用窄带红外摄像头采集所需识别的叉车驾驶员正面图像,用于构建驾驶员人脸数据库;
利用窄带红外摄像头对叉车驾驶员作业环境下的驾驶行为和状态(包括不规范驾驶和疲劳等状态)图像采集,并对采集到的图像进行标注,然后基于图像识别神经网络对标注数据进行训练,生成可识别出驾驶员人脸关键点和各种驾驶行为的深度学习网络模型;
通过语音对驾驶员进行提醒,微调摄像头的位置,使得驾驶员头部局域图像中间位置,提高检测的准确性和全面性。
本发明包括如下步骤:
步骤一:利用窄带红外摄像头对叉车驾驶员头部周围区域进行采集;
步骤二:人工智能终端读取深度网络学习模型,模型包括但不限于ssd-mobilenet v2、yolo v3、dlib、face_recognition,通过tensorrt对训练好的深度学习网络模型进行硬件加速;
步骤三:人工智能终端实时读取摄像头图像数据,并通过硬件加速后的深度学习网络模型对图像进行推理,检测出图像中的驾驶员,并识别出其身份、当前驾驶行为和状态;
步骤四:人工智能终端通过读取驾驶员数据库判断该驾驶员的驾驶权限,若有准许驾驶权限,则向车联网终端发送解锁车辆的命令,完成人脸识别控制开启车辆;
步骤五:车辆开启后,实时获取车联网终端通过can信号或者传感器得到的叉车状态数据。结合当前驾驶行为和状态和已获得的叉车实时数据,判断驾驶员的行为和状态是否处于警报范围内,并结合实时车速判断警报等级,如果是,则进行报警;
步骤六:回到步骤三进行循环。
CN202011048484.9A 2020-09-29 2020-09-29 一种基于ai视觉的驾驶行为实时分析预警系统及方法 Pending CN112329526A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011048484.9A CN112329526A (zh) 2020-09-29 2020-09-29 一种基于ai视觉的驾驶行为实时分析预警系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011048484.9A CN112329526A (zh) 2020-09-29 2020-09-29 一种基于ai视觉的驾驶行为实时分析预警系统及方法

Publications (1)

Publication Number Publication Date
CN112329526A true CN112329526A (zh) 2021-02-05

Family

ID=74313624

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011048484.9A Pending CN112329526A (zh) 2020-09-29 2020-09-29 一种基于ai视觉的驾驶行为实时分析预警系统及方法

Country Status (1)

Country Link
CN (1) CN112329526A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112874463A (zh) * 2021-03-01 2021-06-01 长安大学 一种儿童被困高温车内的保护与报警系统及方法
CN113233379A (zh) * 2021-05-03 2021-08-10 无锡湖山智能科技有限公司 基于人脸识别技术的具备语音播报功能的智能叉车
CN113233380A (zh) * 2021-05-03 2021-08-10 无锡湖山智能科技有限公司 基于人脸识别技术避免非工作人员使用的智能叉车
CN114048439A (zh) * 2021-10-09 2022-02-15 大庆恒驰电气有限公司 一种基于ai的安全行为分析系统及方法
CN114648220A (zh) * 2022-03-18 2022-06-21 江苏云仓联数字科技有限公司 一种叉车物联网管理设备、方法及系统
CN115215267A (zh) * 2022-08-17 2022-10-21 安徽皖新电机有限公司 一种叉车检测数据异常监控系统
CN115818537A (zh) * 2023-03-01 2023-03-21 徐工汉云技术股份有限公司 叉车行驶安全的监控系统、方法及装置
CN116090932A (zh) * 2023-04-10 2023-05-09 安徽江天大数据科技股份有限公司 智慧叉车管理系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106709420A (zh) * 2016-11-21 2017-05-24 厦门瑞为信息技术有限公司 一种监测营运车辆驾驶人员驾驶行为的方法
CN207458085U (zh) * 2017-12-05 2018-06-05 林德(中国)叉车有限公司 一种基于人脸识别的叉车启动控制系统
CN108200031A (zh) * 2017-12-27 2018-06-22 广东博鑫工业科技有限公司 一种二维码控制叉车启动的方法及系统
CN109606376A (zh) * 2018-11-22 2019-04-12 海南易乐物联科技有限公司 一种基于车载智能终端的安全驾驶行为识别系统
CN210825287U (zh) * 2019-06-13 2020-06-23 浙江奥脉特机器人科技有限公司 一种叉车安全监控系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106709420A (zh) * 2016-11-21 2017-05-24 厦门瑞为信息技术有限公司 一种监测营运车辆驾驶人员驾驶行为的方法
CN207458085U (zh) * 2017-12-05 2018-06-05 林德(中国)叉车有限公司 一种基于人脸识别的叉车启动控制系统
CN108200031A (zh) * 2017-12-27 2018-06-22 广东博鑫工业科技有限公司 一种二维码控制叉车启动的方法及系统
CN109606376A (zh) * 2018-11-22 2019-04-12 海南易乐物联科技有限公司 一种基于车载智能终端的安全驾驶行为识别系统
CN210825287U (zh) * 2019-06-13 2020-06-23 浙江奥脉特机器人科技有限公司 一种叉车安全监控系统

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112874463A (zh) * 2021-03-01 2021-06-01 长安大学 一种儿童被困高温车内的保护与报警系统及方法
CN113233379A (zh) * 2021-05-03 2021-08-10 无锡湖山智能科技有限公司 基于人脸识别技术的具备语音播报功能的智能叉车
CN113233380A (zh) * 2021-05-03 2021-08-10 无锡湖山智能科技有限公司 基于人脸识别技术避免非工作人员使用的智能叉车
CN114048439A (zh) * 2021-10-09 2022-02-15 大庆恒驰电气有限公司 一种基于ai的安全行为分析系统及方法
CN114648220A (zh) * 2022-03-18 2022-06-21 江苏云仓联数字科技有限公司 一种叉车物联网管理设备、方法及系统
CN115215267A (zh) * 2022-08-17 2022-10-21 安徽皖新电机有限公司 一种叉车检测数据异常监控系统
CN115215267B (zh) * 2022-08-17 2023-09-19 安徽皖新电机有限公司 一种叉车检测数据异常监控系统
CN115818537A (zh) * 2023-03-01 2023-03-21 徐工汉云技术股份有限公司 叉车行驶安全的监控系统、方法及装置
CN116090932A (zh) * 2023-04-10 2023-05-09 安徽江天大数据科技股份有限公司 智慧叉车管理系统

Similar Documents

Publication Publication Date Title
CN112329526A (zh) 一种基于ai视觉的驾驶行为实时分析预警系统及方法
CN101224113B (zh) 机动车驾驶员状态监控方法及系统
CN204895390U (zh) 一种驾驶员识别管理系统
CN105035025B (zh) 一种驾驶员识别管理方法及系统
CN202389216U (zh) 一种机动车安全驾驶辅助系统
CN110532976A (zh) 基于机器学习和多特征融合的疲劳驾驶检测方法及系统
CN110816551A (zh) 一种车辆运输安全主动防控系统
CN112428952A (zh) 一种基于物联网的车辆安全预警系统
CN109727427A (zh) Dms驾驶员疲劳预警系统
CN102555982A (zh) 基于机器视觉的安全带佩带识别方法及装置
CN103700220A (zh) 一种疲劳驾驶监控装置
CN105632103A (zh) 一种疲劳驾驶的监测方法及装置
CN107610477A (zh) 一种智能交通射频与视频信息融合处理方法
CN112289031A (zh) 一种公交行驶过程中异常情况检测与报警的方法及装置
CN109094574A (zh) 一种基于台架的无人车驾驶状态测量控制系统
CN204123971U (zh) 车载酒精测试系统
CN114360210A (zh) 一种车辆疲劳驾驶预警系统
CN201849322U (zh) 一种汽车防疲劳驾驶装置
CN205722310U (zh) 一种基于视频序列的列车驾驶员行为识别系统
CN109541243A (zh) 一种基于汽车方向盘的酒驾自动检测系统及其方法
CN117334047A (zh) 一种危险驾驶行为检测方法及装置
CN210836483U (zh) 一种具有驾驶员状态检测功能的车载etc智能终端设备
CN110782200A (zh) 一种物流车的智能管理系统及方法
CN107123240A (zh) 一种智能车载检查终端及监控系统
CN110481318A (zh) 一种防酒驾监测与控制系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20210205