CN109166141A - 危险提醒方法、装置、存储介质及移动终端 - Google Patents

危险提醒方法、装置、存储介质及移动终端 Download PDF

Info

Publication number
CN109166141A
CN109166141A CN201810909332.XA CN201810909332A CN109166141A CN 109166141 A CN109166141 A CN 109166141A CN 201810909332 A CN201810909332 A CN 201810909332A CN 109166141 A CN109166141 A CN 109166141A
Authority
CN
China
Prior art keywords
mobile terminal
recognition model
scene recognition
default
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810909332.XA
Other languages
English (en)
Inventor
陈岩
方攀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201810909332.XA priority Critical patent/CN109166141A/zh
Publication of CN109166141A publication Critical patent/CN109166141A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Abstract

本申请实施例公开了危险提醒方法、装置、存储介质及移动终端。该方法包括:通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取移动终端的运动数据;将环境图像数据输入至基于机器学习的预设场景识别模型中;根据预设场景识别模型的输出结果以及运动数据得到当前危险指数;在当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。本申请实施例通过采用上述技术方案,可以在用户使用移动终端的过程中,提高危险情况评估的准确度,并进行及时精准的提醒,完善移动终端的提醒功能。

Description

危险提醒方法、装置、存储介质及移动终端
技术领域
本申请实施例涉及移动终端技术领域,尤其涉及危险提醒方法、装置、存储介质及移动终端。
背景技术
目前,智能手机及平板电脑等移动终端已得到广泛普及,在便携性等方面已经超越笔记本电脑,为用户带来极大的便利,并成为人们生活中不可或缺的电子工具。
随着移动终端的功能越来越丰富,越来越强大,很多用户对移动终端的使用产生了很强的依赖,在乘坐地铁或公交过程中,甚至在走路或乘坐电梯时也在低头使用移动终端,存在严重的安全隐患。因此,针对危险情况对用户进行提醒的方案应运而生,然而,相关技术中,提醒方案的准确率较差,需要改进。
发明内容
本申请实施例提供一种危险提醒方法、装置、存储介质及移动终端,可以优化基于移动终端的危险提醒方案。
第一方面,本申请实施例提供了一种危险提醒方法,包括:
通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据;
将所述环境图像数据输入至基于机器学习的预设场景识别模型中;
根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数;
在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
第二方面,本申请实施例提供了一种危险提醒装置,包括:
数据获取模块,用于通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据;
模型输入模块,用于将所述环境图像数据输入至基于机器学习的预设场景识别模型中;
危险评估模块,用于根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数;
危险提醒模块,用于在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
第三方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本申请实施例所述的危险提醒方法。
第四方面,本申请实施例提供了一种移动终端,包括摄像头,运动传感器,存储器,处理器及存储在存储器上并可在处理器运行的计算机程序,所述处理器执行所述计算机程序时实现如本申请实施例所述的危险提醒方法。
本申请实施例中提供的危险提醒方案,将摄像头获取的环境图像数据输入至基于机器学习的预设场景识别模型中,再综合预设场景识别模型的输出结果以及运动传感器采集的运动数据得到当前危险指数,在当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。通过采用上述技术方案,可以在用户使用移动终端的过程中,提高危险情况评估的准确度,并进行及时精准的提醒,完善移动终端的提醒功能。
附图说明
图1为本申请实施例提供的一种危险提醒方法的流程示意图;
图2为本申请实施例提供的另一种危险提醒方法的流程示意图;
图3为本申请实施例提供的又一种危险提醒方法的流程示意图;
图4为本申请实施例提供的一种危险提醒装置的结构框图;
图5为本申请实施例提供的一种移动终端的结构示意图;
图6为本申请实施例提供的又一种移动终端的结构示意图。
具体实施方式
下面结合附图并通过具体实施方式来进一步说明本申请的技术方案。可以理解的是,此处所描述的具体实施例仅仅用于解释本申请,而非对本申请的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本申请相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理,但是其中的许多步骤可以被并行地、并发地或者同时实施。此外,各步骤的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
图1为本申请实施例提供的一种危险提醒方法的流程示意图,该方法可以由危险提醒装置执行,其中该装置可由软件和/或硬件实现,一般可集成在移动终端中。如图1所示,该方法包括:
步骤101、通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据。
示例性的,本申请实施例中的移动终端可包括手机、平板电脑以及媒体播放器等移动设备。移动终端一般设置有显示屏,用户可以通过显示屏观看视频、浏览网页以及玩游戏等,当显示屏为触摸式显示屏时,用户还可以通过触摸显示屏来完成对移动终端的各种操作。移动终端为用户的日常生活带来了诸多便利和乐趣,然而,很多用户在使用移动终端时,经常不会注意使用环境,在乘坐地铁或公交过程中,甚至在走路或乘坐电梯时也在低头使用移动终端,存在严重的安全隐患。本申请实施例中,利用移动终端的摄像头采集移动终端周围环境的图像,从而获取环境图像数据,同时,通过运动传感器获取移动终端的运动数据,用来综合评估移动终端的使用场景或环境是否存在危险,以便后续及时对用户进行必要的提醒,消除使用过程中的安全隐患。
示例性的,本步骤中的摄像头可包括前置摄像头、后置摄像头、可旋转摄像头以及可升降摄像头(又称潜望式摄像头)等,摄像头的结构、参数以及在移动终端中的精确位置本申请实施例不做限定。运动传感器可包括加速度传感器及陀螺仪等。可选的,运动数据可包括速度、加速度、角速度、角加速度、单位时间内位移、摆动幅度、单位时间内摆动次数以及受力情况等等运动信息,还可包括倾斜角度、以及横竖屏状态等姿态信息。
步骤102、将所述环境图像数据输入至基于机器学习的预设场景识别模型中。
示例性的,预设场景识别模型可以由大量的通过预先拍摄得到的环境图像样本数据训练得到,用于对移动终端所处场景进行识别。本申请实施例中,对预设场景识别模型的来源不做限定,可以是从移动终端本地获取,也可从与移动终端对应的预设服务器获取。当移动终端检测到需要进行危险评估时,可从移动终端本地存储空间中获取预设场景识别模型,也可从对应的预设服务器获取预设场景识别模型。示例性的,预设场景识别模型的训练或更新过程可在移动终端本地进行;也可在预设服务器中进行,当预设场景识别模型训练完毕或更新完毕后,可直接发送至移动终端进行存储,或在预设服务器本地进行存储,等待移动终端主动获取。
示例性的,本申请实施例中的基于机器学习的预设场景识别模型包括基于神经网络的模型,例如,预设场景识别模型中可包括一个或多个卷积神经网络层,还可包括一个或多个激活函数层,也可包括一个或多个循环神经网络层。用于训练的初始模型可基于神经网络理论建立,还可基于经验对网络层数或相关参数进行预先设置。可选的,可采用深度学习框架构建算法得到模型,深度学习框架例如可以是TensorFlow或Caffe2等等。
本申请实施例中,将当前采集到的环境图像数据输入至预设场景识别模型中,以便后续根据模型输出结果识别当前移动终端所处的场景。
步骤103、根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数。
预设场景识别模型的输出结果可以与模型训练过程中对样本的标注相关,可在模型训练阶段根据实际需求对预先获取的数据进行相应的标注。示例性的,模型输出结果可以包括场景信息、路况信息和障碍物信息等,可以以标签的形式输出。其中,场景信息可包括所处环境在室内还是室外,室内坏境信息(如在商场、食堂还是教室等),附近是否有楼梯或电梯等,在市区还是野外,附近是否有河流、水坑、沟渠、井盖或塌陷处等,环境光线是否不足,以及其他一些可能对用户安全构成威胁的信息。路况信息可包括人行横道位置、机动车道路位置、非机动车道路位置、其他道路位置、车流量、人流量、车速、车或人与用户的距离、以及其他可能对用户安全构成威胁的道路情况相关信息。障碍物信息可包括障碍物位置、障碍物数量、障碍物类型、障碍物尺寸、障碍物与用户的距离、以及障碍物的运动速度等,障碍物可包括如人、动物、树木、栏杆、电线杆、路肩、绳索、箱子、石头以及其他可能对用户安全构成威胁的生物或物体。
本步骤中,可以综合预设场景识别模型的输出结果以及运动数据,根据预设规则算法来生成当前危险指数。示例性的,可以为模型的不同输出结果分配不同的第一数值,危险程度越高对应第一数值越高;根据运动数据确定相应的运动状态,为不同的运动状态分配不同的第二数值,根据运动状态对应的用户正沉迷于移动终端的可能性越高,对应的第二数值越高。随后,可利用预设算法根据第一数值和第二数值计算出当前的危险指数,可以理解的是,第一数值可以包含一个或多个,第二数值也可以包含一个或多个,预设算法例如可以是加权求和或加权平均等等。
步骤104、在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
示例性的,若当前危险指数表示发生危险的概率较高时,可认为需要提醒,满足预设提醒条件。假设危险指数越高,代表发生危险的概率越高时,可以预先设置一个指数阈值,可称为预设指数阈值,若当前危险指数大于或等于预设指数阈值时,确定当前危险指数满足预设提醒条件。
本申请实施例中,对危险提醒操作的执行形式不做限定。示例性的,可包括文字提醒、声音提醒、振动提醒、指示灯提醒、熄屏提醒以及强制退出当前应用程序等中的一种或多种。例如,在屏幕上显示文字“前方有危险,请停止使用”并控制移动终端振动,以对用户进行危险提醒。可选的,还可对危险原因进行提醒。例如,提醒“前方为十字路口,请注意安全”等。
本申请实施例中提供的危险提醒方法,将摄像头获取的环境图像数据输入至基于机器学习的预设场景识别模型中,再综合预设场景识别模型的输出结果以及运动传感器采集的运动数据得到当前危险指数,在当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。通过采用上述技术方案,可以在用户使用移动终端的过程中,提高危险情况评估的准确度,并进行及时精准的提醒,完善移动终端的提醒功能。
在一些实施例中,所述根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数,包括:根据所述运动数据确定所述移动终端的运动信息和姿态信息;根据所述预设场景识别模型的输出结果、所述运动信息和所述姿态信息得到当前危险指数;所述输出结果包括场景信息、路况信息和障碍物信息中的至少一种。这样设置的好处在于,能够更加全面的对危险情况进行评估,进一步提升危险评估的准确度。
在一些实施例中,所述预设场景识别模型通过以下方式得到:获取包含目标物的图像数据,所述目标物包括道路、坑、楼梯、电梯、人和障碍物中的至少一种;对所述图像数据进行标注,得到样本图像数据;将所述样本图像数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到预设场景识别模型。这样设置的好处在于,可以预先采集足量的样本对模型进行训练,提高预设场景识别模型的准确度。示例性的,可以专门拍摄大量的图像(可以理解的是,拍摄的图像数量越多,内容越丰富,涵盖面越广,越有利于提升预设场景识别模型的准确度),这些图像中包含了道路、坑、楼梯、电梯、人和障碍物等容易对用户造成威胁的目标物,利用人工对所采集的图像进行标注,提高样本标注的准确度,然后基于深度学习框架构建算法,形成预设初始模型,将经过标注后的样本图像输入至预设初始模型中进行训练,得到预设场景识别模型。
在一些实施例中,所述将所述样本图像数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到预设场景识别模型,包括:将所述样本图像数据中的部分数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到原始预设场景识别模型;利用所述样本图像数据中的剩余数据对所述原始预设场景识别模型进行模型测试,以对所述原始预设场景识别模型进行优化调整,将调整后的原始预设场景识别模型记为预设场景识别模型。这样设置的好处在于,对所采集的样本图像进行分组,并分别用于模型的训练和测试,能够进一步提高预设场景识别模型的准确度。示例性的,可以从样本图像数据中随机抽取预设比例(如80%)的数据用于模型训练,剩余比例(如20%)的数据用于模型测试,方向指导算法优化,得到预设场景识别模型。进一步的,在进行模型测试后,还可进行剪枝及压缩等处理生成在移动终端性能较高的模型,作为最终的预设场景识别模型,提高模型在移动终端中的工作效率。
在一些实施例中,所述通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据,包括:在检测到危险评估事件被触发时,通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据。这样设置的好处在于,在一些特殊情况下才会进行数据获取,节省移动终端电量。危险评估事件的触发条件可以自由设置,本申请实施例不作限定。
在一些实施例中,所述检测到危险评估事件被触发,包括:获取移动终端的使用状态,当所述使用状态与预设使用状态匹配时,确定检测到危险评估事件被触发;其中,所述使用状态包括所述移动终端是否处于亮屏状态、所述移动终端被注视的时长、所述移动终端正在运行的应用程序以及所述移动终端被操作的频率中的至少一种。这样设置的好处在于,能够合理地确定危险评估事件被触发的时机。其中,预设使用状态例如可包括移动终端处于亮屏状态且被注视时长超过预设时长,预设时长可根据实际情况设定,如1分钟,当用户盯着屏幕超过1分钟时,可认为用户正在专注的使用移动终端,容易忽视周围的危险环境;预设使用状态例如可包括正在运行预设应用程序(如游戏类应用程序),且被操作的频率大于预设频率阈值,预设频率阈值可根据实际情况设定,如10次每分钟,当用户在频繁地操控游戏应用时,可认为用户正沉迷于游戏当中,容易忽视周围的危险环境。预设使用状态可以是表示用户正专注地使用移动终端的状态,当然,预设使用状态还可以有其他状态,本申请实施例不再一一列举。
在一些实施例中,所述根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数,包括:获取辅助数据;其中,所述辅助数据包括环境声音数据、时间信息和定位信息中的至少一种;根据所述预设场景识别模型的输出结果、所述运动数据以及所述辅助数据得到当前危险指数。这样设置的好处在于,能够综合更多的辅助数据来评估危险指数,进一步提高危险评估的准确度。其中,环境声音数据可以利用移动终端的麦克风进行采集,当环境声音比较嘈杂时或者能够识别出汽车声音等情况时,说明危险系数相对高一些,当环境声音比较安静时,说明危险系数相对低一些。时间信息可以包括具体的时间,如上午9点10分;也可以包括时间段,如白天或晚上;还可包括日期,如工作日或休息日。不同的时间信息结合场景信息等其他信息,可以得出不同的危险指数。定位信息可以利用移动终端中的定位模块获取,如全球定位系统(Global Positioning System,GPS)模块,定位信息可以是经纬度信息,还可以是当前所处的街道或建筑物等信息。同样的,不同的定位信息结合其他信息也可能得出不同的危险指数。
图2为本申请实施例提供的另一种危险提醒方法的流程示意图,该方法包括如下步骤:
步骤201、检测到危险评估事件被触发。
示例性的,在移动终端的使用过程中,可实时获取移动终端的使用状态,当使用状态与预设使用状态匹配时,确定检测到危险评估事件被触发。其中,所述使用状态包括所述移动终端是否处于亮屏状态、所述移动终端被注视的时长、所述移动终端正在运行的应用程序以及所述移动终端被操作的频率中的至少一种。预设使用状态可以是移动终端处于亮屏状态,并且,移动终端被注视的时长达到预设时长或者移动终端正在运行预设应用程序或者移动终端被操作的频率达到预设频率。
步骤202、通过移动终端的摄像头获取环境图像数据,通过运动传感器获取移动终端的运动数据,并获取辅助数据。
其中,辅助数据包括环境声音数据、时间信息和定位信息。
步骤203、从预设服务器获取预设场景识别模型,并将环境图像数据输入至基于机器学习的预设场景识别模型中。
可选的,模型训练以及模型更新的过程可在预设服务器中完成,当移动终端需要使用预设场景识别模型时,可从预设服务器获取最新的模型,节省移动终端的存储空间。
步骤204、根据运动数据确定移动终端的运动信息和姿态信息。
步骤205、根据预设场景识别模型的输出结果、运动信息、姿态信息和辅助数据计算当前危险指数。
其中,所述输出结果包括场景信息、路况信息和障碍物信息中的至少一种。
步骤206、判断当前危险指数是否达到预设指数阈值,若是,则执行步骤207;否则,返回步骤202。
步骤207、在显示屏上显示危险提醒信息。
本申请实施例提供的危险提醒方法,在根据移动终端的使用状态确定需要进行危险评估时,获取环境图像数据、运动数据以及辅助数据,并将环境图像数据输入至基于机器学习的预设场景识别模型中,根据模型的输出结果以及结合运动信息、姿态信息和辅助数据计算当前危险指数,在当前危险指数达标时,对用户进行及时有效的提醒,避免危险情况的发生。
图3为本申请实施例提供的又一种危险提醒方法的流程示意图,该方法包括:
步骤301、获取包含目标物的图像数据。
可选的,目标物包括道路、坑、楼梯、电梯、人和障碍物等。
步骤302、对图像数据进行标注,得到样本图像数据。
步骤303、将预设比例的样本图像数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到原始预设场景识别模型。
步骤304、利用样本图像数据中的剩余数据对原始预设场景识别模型进行模型测试,以对原始预设场景识别模型进行优化调整,再进行剪枝及压缩操作后,将得到的模型记为预设场景识别模型。
示例性的,在用户使用过程中,可采集用户的使用习惯,并根据使用习惯对预设场景识别模型进行优化及更新,使得模型更加贴合用户的个人情况。
步骤305、检测危险评估事件是否被触发,若是,则执行步骤306;否则,重复执行步骤305。
步骤306、通过移动终端的摄像头获取环境图像数据,通过运动传感器获取移动终端的运动数据,并获取辅助数据。
其中,辅助数据包括环境声音数据、时间信息和定位信息。
步骤307、从本地读取预设场景识别模型,并将环境图像数据输入至基于机器学习的预设场景识别模型中。
步骤308、根据运动数据确定移动终端的运动信息和姿态信息。
步骤309、根据预设场景识别模型的输出结果、运动信息、姿态信息和辅助数据计算当前危险指数。
其中,所述输出结果包括场景信息、路况信息和障碍物信息中的至少一种。
步骤310、判断当前危险指数是否达到预设指数阈值,若是,则执行步骤311;否则,返回步骤305。
步骤311、在显示屏上显示危险提醒信息,同时控制移动终端产生振动。
本申请实施例提供的危险提醒方法,在移动终端中进行预设场景识别模型的训练及测试优化,能够在用户使用过程中根据用户的使用习惯进行模型更新,在确定需要进行危险评估时,获取环境图像数据、运动数据以及辅助数据,并将环境图像数据输入至预设场景识别模型中,根据模型的输出结果以及结合运动信息、姿态信息和辅助数据计算当前危险指数,在当前危险指数达标时,对用户进行及时有效的提醒,避免危险情况的发生。
图4为本申请实施例提供的一种危险提醒装置的结构框图,该装置可由软件和/或硬件实现,一般集成在终端中,可通过执行危险提醒方法来危险提醒。如图4所示,该装置包括:
数据获取模块401,用于通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据;
模型输入模块402,用于将所述环境图像数据输入至基于机器学习的预设场景识别模型中;
危险评估模块403,用于根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数;
危险提醒模块404,用于在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
本申请实施例中提供的危险提醒装置,将摄像头获取的环境图像数据输入至基于机器学习的预设场景识别模型中,再综合预设场景识别模型的输出结果以及运动传感器采集的运动数据得到当前危险指数,在当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。通过采用上述技术方案,可以在用户使用移动终端的过程中,提高危险情况评估的准确度,并进行及时精准的提醒,完善移动终端的提醒功能。
可选的,所述根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数,包括:
根据所述运动数据确定所述移动终端的运动信息和姿态信息;
根据所述预设场景识别模型的输出结果、所述运动信息和所述姿态信息得到当前危险指数;所述输出结果包括场景信息、路况信息和障碍物信息中的至少一种。
可选的,所述预设场景识别模型通过以下方式得到:
获取包含目标物的图像数据,所述目标物包括道路、坑、楼梯、电梯、人和障碍物中的至少一种;
对所述图像数据进行标注,得到样本图像数据;
将所述样本图像数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到预设场景识别模型。
可选的,所述将所述样本图像数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到预设场景识别模型,包括:
将所述样本图像数据中的部分数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到原始预设场景识别模型;
利用所述样本图像数据中的剩余数据对所述原始预设场景识别模型进行模型测试,以对所述原始预设场景识别模型进行优化调整,将调整后的原始预设场景识别模型记为预设场景识别模型。
可选的,所述通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据,包括:
在检测到危险评估事件被触发时,通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据。
可选的,所述检测到危险评估事件被触发,包括:
获取移动终端的使用状态,当所述使用状态与预设使用状态匹配时,确定检测到危险评估事件被触发;其中,所述使用状态包括所述移动终端是否处于亮屏状态、所述移动终端被注视的时长、所述移动终端正在运行的应用程序以及所述移动终端被操作的频率中的至少一种。
可选的,所述根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数,包括:
获取辅助数据;其中,所述辅助数据包括环境声音数据、时间信息和定位信息中的至少一种;
根据所述预设场景识别模型的输出结果、所述运动数据以及所述辅助数据得到当前危险指数。
本申请实施例还提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行危险提醒方法,该方法包括:
通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据;
将所述环境图像数据输入至基于机器学习的预设场景识别模型中;
根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数;
在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
存储介质——任何的各种类型的存储器设备或存储设备。术语“存储介质”旨在包括:安装介质,例如CD-ROM、软盘或磁带装置;计算机系统存储器或随机存取存储器,诸如DRAM、DDRRAM、SRAM、EDORAM,兰巴斯(Rambus)RAM等;非易失性存储器,诸如闪存、磁介质(例如硬盘或光存储);寄存器或其它相似类型的存储器元件等。存储介质可以还包括其它类型的存储器或其组合。另外,存储介质可以位于程序在其中被执行的第一计算机系统中,或者可以位于不同的第二计算机系统中,第二计算机系统通过网络(诸如因特网)连接到第一计算机系统。第二计算机系统可以提供程序指令给第一计算机用于执行。术语“存储介质”可以包括可以驻留在不同位置中(例如在通过网络连接的不同计算机系统中)的两个或更多存储介质。存储介质可以存储可由一个或多个处理器执行的程序指令(例如具体实现为计算机程序)。
当然,本申请实施例所提供的一种包含计算机可执行指令的存储介质,其计算机可执行指令不限于如上所述的危险提醒操作,还可以执行本申请任意实施例所提供的危险提醒方法中的相关操作。
本申请实施例提供了一种移动终端,该移动终端中可集成本申请实施例提供的危险提醒装置。图5为本申请实施例提供的一种移动终端的结构示意图。移动终端500可以包括:摄像头501,运动传感器502,存储器503,处理器504及存储在存储器503上并可在处理器504运行的计算机程序,所述处理器504执行所述计算机程序时实现如本申请实施例所述的危险提醒方法。
本申请实施例提供的移动终端,可以在用户使用移动终端的过程中,提高危险情况评估的准确度,并进行及时精准的提醒,完善移动终端的提醒功能。
图6为本申请实施例提供的另一种移动终端的结构示意图,该移动终端可以包括:壳体(图中未示出)、存储器601、中央处理器(central processing unit,CPU)602(又称处理器,以下简称CPU)、电路板(图中未示出)和电源电路(图中未示出)。所述电路板安置在所述壳体围成的空间内部;所述CPU602和所述存储器601设置在所述电路板上;所述电源电路,用于为所述移动终端的各个电路或器件供电;所述存储器601,用于存储可执行程序代码;所述CPU602通过读取所述存储器601中存储的可执行程序代码来运行与所述可执行程序代码对应的计算机程序,以实现以下步骤:
通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据;
将所述环境图像数据输入至基于机器学习的预设场景识别模型中;
根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数;
在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
所述移动终端还包括:外设接口603、RF(Radio Frequency,射频)电路605、音频电路606、扬声器611、电源管理芯片608、输入/输出(I/O)子系统609、其他输入/控制设备610、触摸屏612、其他输入/控制设备610以及外部端口604,这些部件通过一个或多个通信总线或信号线607来通信。
应该理解的是,图示移动终端600仅仅是移动终端的一个范例,并且移动终端600可以具有比图中所示出的更多的或者更少的部件,可以组合两个或更多的部件,或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
下面就本实施例提供的用于危险提醒的移动终端进行详细的描述,该移动终端以手机为例。
存储器601,所述存储器601可以被CPU602、外设接口603等访问,所述存储器601可以包括高速随机存取存储器,还可以包括非易失性存储器,例如一个或多个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
外设接口603,所述外设接口603可以将设备的输入和输出外设连接到CPU602和存储器601。
I/O子系统609,所述I/O子系统609可以将设备上的输入输出外设,例如触摸屏612和其他输入/控制设备610,连接到外设接口603。I/O子系统609可以包括显示控制器6091和用于控制其他输入/控制设备610的一个或多个输入控制器6092。其中,一个或多个输入控制器6092从其他输入/控制设备610接收电信号或者向其他输入/控制设备610发送电信号,其他输入/控制设备610可以包括物理按钮(按压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击滚轮。值得说明的是,输入控制器6092可以与以下任一个连接:键盘、红外端口、USB接口以及诸如鼠标的指示设备。
触摸屏612,所述触摸屏612是用户移动终端与用户之间的输入接口和输出接口,将可视输出显示给用户,可视输出可以包括图形、文本、图标、视频等。
I/O子系统609中的显示控制器6091从触摸屏612接收电信号或者向触摸屏612发送电信号。触摸屏612检测触摸屏上的接触,显示控制器6091将检测到的接触转换为与显示在触摸屏612上的用户界面对象的交互,即实现人机交互,显示在触摸屏612上的用户界面对象可以是运行游戏的图标、联网到相应网络的图标等。值得说明的是,设备还可以包括光鼠,光鼠是不显示可视输出的触摸敏感表面,或者是由触摸屏形成的触摸敏感表面的延伸。
RF电路605,主要用于建立手机与无线网络(即网络侧)的通信,实现手机与无线网络的数据接收和发送。例如收发短信息、电子邮件等。具体地,RF电路605接收并发送RF信号,RF信号也称为电磁信号,RF电路605将电信号转换为电磁信号或将电磁信号转换为电信号,并且通过该电磁信号与通信网络以及其他设备进行通信。RF电路605可以包括用于执行这些功能的已知电路,其包括但不限于天线系统、RF收发机、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、CODEC(COder-DECoder,编译码器)芯片组、用户标识模块(Subscriber Identity Module,SIM)等等。
音频电路606,主要用于从外设接口603接收音频数据,将该音频数据转换为电信号,并且将该电信号发送给扬声器611。
扬声器611,用于将手机通过RF电路605从无线网络接收的语音信号,还原为声音并向用户播放该声音。
电源管理芯片608,用于为CPU602、I/O子系统及外设接口所连接的硬件进行供电及电源管理。
摄像头613,用于拍摄图像。
运动传感器614,例如可以是加速度传感器或陀螺仪等,用于采集运动数据。
上述实施例中提供的危险提醒装置、存储介质及移动终端可执行本申请任意实施例所提供的危险提醒方法,具备执行该方法相应的功能模块和有益效果。未在上述实施例中详尽描述的技术细节,可参见本申请任意实施例所提供的危险提醒方法。
注意,上述仅为本申请的较佳实施例及所运用技术原理。本领域技术人员会理解,本申请不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本申请的保护范围。因此,虽然通过以上实施例对本申请进行了较为详细的说明,但是本申请不仅仅限于以上实施例,在不脱离本申请构思的情况下,还可以包括更多其他等效实施例,而本申请的范围由所附的权利要求范围决定。

Claims (10)

1.一种危险提醒方法,其特征在于,包括:
通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据;
将所述环境图像数据输入至基于机器学习的预设场景识别模型中;
根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数;
在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
2.根据权利要求1所述的方法,其特征在于,所述根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数,包括:
根据所述运动数据确定所述移动终端的运动信息和姿态信息;
根据所述预设场景识别模型的输出结果、所述运动信息和所述姿态信息得到当前危险指数;所述输出结果包括场景信息、路况信息和障碍物信息中的至少一种。
3.根据权利要求1所述的方法,其特征在于,所述预设场景识别模型通过以下方式得到:
获取包含目标物的图像数据,所述目标物包括道路、坑、楼梯、电梯、人和障碍物中的至少一种;
对所述图像数据进行标注,得到样本图像数据;
将所述样本图像数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到预设场景识别模型。
4.根据权利要求3所述的方法,其特征在于,所述将所述样本图像数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到预设场景识别模型,包括:
将所述样本图像数据中的部分数据输入至基于深度学习框架的预设初始模型中进行模型训练,得到原始预设场景识别模型;
利用所述样本图像数据中的剩余数据对所述原始预设场景识别模型进行模型测试,以对所述原始预设场景识别模型进行优化调整,将调整后的原始预设场景识别模型记为预设场景识别模型。
5.根据权利要求1所述的方法,其特征在于,所述通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据,包括:
在检测到危险评估事件被触发时,通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据。
6.根据权利要求5所述的方法,其特征在于,所述检测到危险评估事件被触发,包括:
获取移动终端的使用状态,当所述使用状态与预设使用状态匹配时,确定检测到危险评估事件被触发;其中,所述使用状态包括所述移动终端是否处于亮屏状态、所述移动终端被注视的时长、所述移动终端正在运行的应用程序以及所述移动终端被操作的频率中的至少一种。
7.根据权利要求1所述的方法,其特征在于,所述根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数,包括:
获取辅助数据;其中,所述辅助数据包括环境声音数据、时间信息和定位信息中的至少一种;
根据所述预设场景识别模型的输出结果、所述运动数据以及所述辅助数据得到当前危险指数。
8.一种危险提醒装置,其特征在于,包括:
数据获取模块,用于通过移动终端的摄像头获取环境图像数据,以及通过运动传感器获取所述移动终端的运动数据;
模型输入模块,用于将所述环境图像数据输入至基于机器学习的预设场景识别模型中;
危险评估模块,用于根据所述预设场景识别模型的输出结果以及所述运动数据得到当前危险指数;
危险提醒模块,用于在所述当前危险指数满足预设提醒条件时,进行相应的危险提醒操作。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的危险提醒方法。
10.一种移动终端,其特征在于,包括摄像头,运动传感器,存储器,处理器及存储在存储器上并可在处理器运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1-7任一所述的危险提醒方法。
CN201810909332.XA 2018-08-10 2018-08-10 危险提醒方法、装置、存储介质及移动终端 Pending CN109166141A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810909332.XA CN109166141A (zh) 2018-08-10 2018-08-10 危险提醒方法、装置、存储介质及移动终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810909332.XA CN109166141A (zh) 2018-08-10 2018-08-10 危险提醒方法、装置、存储介质及移动终端

Publications (1)

Publication Number Publication Date
CN109166141A true CN109166141A (zh) 2019-01-08

Family

ID=64895408

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810909332.XA Pending CN109166141A (zh) 2018-08-10 2018-08-10 危险提醒方法、装置、存储介质及移动终端

Country Status (1)

Country Link
CN (1) CN109166141A (zh)

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109889991A (zh) * 2019-04-28 2019-06-14 广东小天才科技有限公司 一种安全提醒方法、装置及移动设备
CN110213074A (zh) * 2019-03-07 2019-09-06 腾讯科技(深圳)有限公司 分布式协议的异常构造方法、系统和装置
CN110334645A (zh) * 2019-07-02 2019-10-15 华东交通大学 一种基于深度学习的月球撞击坑识别方法
CN110674702A (zh) * 2019-09-04 2020-01-10 精英数智科技股份有限公司 一种矿井图像场景分类方法、装置及设备、系统
CN110705483A (zh) * 2019-10-08 2020-01-17 Oppo广东移动通信有限公司 驾驶提醒方法、装置、终端及存储介质
CN110765946A (zh) * 2019-10-23 2020-02-07 北京卡路里信息技术有限公司 一种跑姿评估方法、装置、设备和存储介质
CN111049992A (zh) * 2020-01-10 2020-04-21 上海海事大学 一种低头族用安全提示方法及其系统
CN111522517A (zh) * 2019-02-01 2020-08-11 阿里巴巴集团控股有限公司 显示方法、内容输出方法、装置、设备及存储介质
CN111796980A (zh) * 2019-04-09 2020-10-20 Oppo广东移动通信有限公司 数据处理方法、装置、电子设备和存储介质
CN112243063A (zh) * 2019-07-18 2021-01-19 北京奇虎科技有限公司 一种基于移动终端的自动报警方法、装置及移动终端
CN112489365A (zh) * 2020-12-15 2021-03-12 乔东志 一种基于大数据的告警控制系统及方法
CN112598805A (zh) * 2020-12-24 2021-04-02 浙江商汤科技开发有限公司 一种提示信息展示方法、装置、设备及存储介质
CN112633387A (zh) * 2020-12-25 2021-04-09 深圳市九洲电器有限公司 一种安全提醒方法、装置、设备、系统及存储介质
CN112651414A (zh) * 2019-10-10 2021-04-13 马上消费金融股份有限公司 运动数据处理和模型训练方法、装置、设备及存储介质
CN112925301A (zh) * 2019-12-05 2021-06-08 杭州海康机器人技术有限公司 用于agv避险的控制方法和agv
CN113256012A (zh) * 2021-06-01 2021-08-13 新华三技术有限公司 一种危险预测方法、装置及电子设备
CN113642111A (zh) * 2021-08-20 2021-11-12 Oppo广东移动通信有限公司 安全防护方法及装置、介质、电子设备及车辆
CN113870525A (zh) * 2021-09-24 2021-12-31 国汽智控(北京)科技有限公司 电子监控方法、装置、设备、存储介质、程序产品
CN114186896A (zh) * 2021-12-16 2022-03-15 东莞先知大数据有限公司 一种走廊安全监管方法、电子设备和存储介质
CN115766934A (zh) * 2021-09-02 2023-03-07 北京小米移动软件有限公司 终端控制方法、装置、电子设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104822042A (zh) * 2015-03-03 2015-08-05 广东欧珀移动通信有限公司 一种基于摄像头的行人安全检测方法及装置
CN104881949A (zh) * 2015-04-24 2015-09-02 深圳市欧珀通信软件有限公司 一种基于移动终端的路况监测方法及装置
CN105894728A (zh) * 2016-05-05 2016-08-24 广东欧珀移动通信有限公司 一种危险报警方法及移动设备
CN106060273A (zh) * 2016-07-15 2016-10-26 中霆云计算科技(上海)有限公司 一种增强使用安全性的数据处理方法、装置及移动终端
WO2017136137A1 (en) * 2016-02-04 2017-08-10 Nec Laboratories America, Inc. Semantic segmentation based on global optimization
CN107231468A (zh) * 2017-04-18 2017-10-03 广东小天才科技有限公司 一种基于移动终端的安全状况提醒方法及装置
CN107749844A (zh) * 2017-10-16 2018-03-02 维沃移动通信有限公司 身份验证方法及移动终端
CN107798821A (zh) * 2017-10-18 2018-03-13 广东欧珀移动通信有限公司 安全提醒方法、装置、移动终端及可读存储介质
CN108229379A (zh) * 2017-12-29 2018-06-29 广东欧珀移动通信有限公司 图像识别方法、装置、计算机设备和存储介质
CN108304821A (zh) * 2018-02-14 2018-07-20 广东欧珀移动通信有限公司 图像识别方法及装置、图像获取方法及设备、计算机设备及非易失性计算机可读存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104822042A (zh) * 2015-03-03 2015-08-05 广东欧珀移动通信有限公司 一种基于摄像头的行人安全检测方法及装置
CN104881949A (zh) * 2015-04-24 2015-09-02 深圳市欧珀通信软件有限公司 一种基于移动终端的路况监测方法及装置
WO2017136137A1 (en) * 2016-02-04 2017-08-10 Nec Laboratories America, Inc. Semantic segmentation based on global optimization
CN105894728A (zh) * 2016-05-05 2016-08-24 广东欧珀移动通信有限公司 一种危险报警方法及移动设备
CN106060273A (zh) * 2016-07-15 2016-10-26 中霆云计算科技(上海)有限公司 一种增强使用安全性的数据处理方法、装置及移动终端
CN107231468A (zh) * 2017-04-18 2017-10-03 广东小天才科技有限公司 一种基于移动终端的安全状况提醒方法及装置
CN107749844A (zh) * 2017-10-16 2018-03-02 维沃移动通信有限公司 身份验证方法及移动终端
CN107798821A (zh) * 2017-10-18 2018-03-13 广东欧珀移动通信有限公司 安全提醒方法、装置、移动终端及可读存储介质
CN108229379A (zh) * 2017-12-29 2018-06-29 广东欧珀移动通信有限公司 图像识别方法、装置、计算机设备和存储介质
CN108304821A (zh) * 2018-02-14 2018-07-20 广东欧珀移动通信有限公司 图像识别方法及装置、图像获取方法及设备、计算机设备及非易失性计算机可读存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
周新丽: "《物联网概论》", 31 August 2016, 北京邮电大学出版社 *
田文超等: "《微机电技术》", 31 August 2014, 西安电子科技大学出版社 *

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111522517A (zh) * 2019-02-01 2020-08-11 阿里巴巴集团控股有限公司 显示方法、内容输出方法、装置、设备及存储介质
CN110213074A (zh) * 2019-03-07 2019-09-06 腾讯科技(深圳)有限公司 分布式协议的异常构造方法、系统和装置
CN110213074B (zh) * 2019-03-07 2022-03-11 腾讯科技(深圳)有限公司 分布式协议的异常构造方法、系统和装置
CN111796980A (zh) * 2019-04-09 2020-10-20 Oppo广东移动通信有限公司 数据处理方法、装置、电子设备和存储介质
CN109889991A (zh) * 2019-04-28 2019-06-14 广东小天才科技有限公司 一种安全提醒方法、装置及移动设备
CN110334645A (zh) * 2019-07-02 2019-10-15 华东交通大学 一种基于深度学习的月球撞击坑识别方法
CN112243063A (zh) * 2019-07-18 2021-01-19 北京奇虎科技有限公司 一种基于移动终端的自动报警方法、装置及移动终端
CN110674702A (zh) * 2019-09-04 2020-01-10 精英数智科技股份有限公司 一种矿井图像场景分类方法、装置及设备、系统
CN110705483A (zh) * 2019-10-08 2020-01-17 Oppo广东移动通信有限公司 驾驶提醒方法、装置、终端及存储介质
CN110705483B (zh) * 2019-10-08 2022-11-18 Oppo广东移动通信有限公司 驾驶提醒方法、装置、终端及存储介质
CN112651414A (zh) * 2019-10-10 2021-04-13 马上消费金融股份有限公司 运动数据处理和模型训练方法、装置、设备及存储介质
CN110765946A (zh) * 2019-10-23 2020-02-07 北京卡路里信息技术有限公司 一种跑姿评估方法、装置、设备和存储介质
CN112925301A (zh) * 2019-12-05 2021-06-08 杭州海康机器人技术有限公司 用于agv避险的控制方法和agv
CN111049992A (zh) * 2020-01-10 2020-04-21 上海海事大学 一种低头族用安全提示方法及其系统
CN112489365A (zh) * 2020-12-15 2021-03-12 乔东志 一种基于大数据的告警控制系统及方法
CN112489365B (zh) * 2020-12-15 2023-09-29 湖北华中电力科技开发有限责任公司 一种基于大数据的告警控制系统及方法
CN112598805A (zh) * 2020-12-24 2021-04-02 浙江商汤科技开发有限公司 一种提示信息展示方法、装置、设备及存储介质
CN112633387A (zh) * 2020-12-25 2021-04-09 深圳市九洲电器有限公司 一种安全提醒方法、装置、设备、系统及存储介质
CN113256012A (zh) * 2021-06-01 2021-08-13 新华三技术有限公司 一种危险预测方法、装置及电子设备
CN113642111A (zh) * 2021-08-20 2021-11-12 Oppo广东移动通信有限公司 安全防护方法及装置、介质、电子设备及车辆
CN115766934A (zh) * 2021-09-02 2023-03-07 北京小米移动软件有限公司 终端控制方法、装置、电子设备及存储介质
CN113870525A (zh) * 2021-09-24 2021-12-31 国汽智控(北京)科技有限公司 电子监控方法、装置、设备、存储介质、程序产品
CN114186896A (zh) * 2021-12-16 2022-03-15 东莞先知大数据有限公司 一种走廊安全监管方法、电子设备和存储介质

Similar Documents

Publication Publication Date Title
CN109166141A (zh) 危险提醒方法、装置、存储介质及移动终端
CN104008664B (zh) 路况信息获取方法及相关装置
CN104937520A (zh) 用于基于身体活动水平的变化自动调节通知操作的方法和装置
CN109479180A (zh) 在紧急通话界面显示当前地理位置的方法及终端
CN108597186B (zh) 一种基于用户行为的溺水报警方法及可穿戴设备
CN104809831A (zh) 体感型通知警告
CN104822132B (zh) 一种位置分享方法
CN108595275A (zh) 一种提示信息推送的方法及终端
CN108900714A (zh) 一种提示方法及终端
CN106343955A (zh) 终端及宠物是否健康的判断方法和装置
CN109993944A (zh) 一种危险预警方法、移动终端及服务器
CN110022409A (zh) 一种终端控制方法及移动终端
CN108229574A (zh) 一种图片筛选的方法、装置和移动终端
CN109040968A (zh) 路况提醒方法、移动终端及计算机可读存储介质
CN107464290A (zh) 三维信息展示方法、装置和移动终端
CN110210045A (zh) 目标区域的人数估算方法、装置及存储介质
CN109830114A (zh) 交通信号灯提醒方法和装置
CN106209595A (zh) 信息提醒方法及装置
CN109708657A (zh) 一种提醒方法及移动终端
CN109410535A (zh) 一种场景信息的处理方法和装置
CN108280405A (zh) 一种车辆避障的方法和装置
CN106525024B (zh) 一种移动终端的提示方法、装置及移动终端
CN108917766A (zh) 一种导航方法和移动终端
CN107784298A (zh) 一种识别方法及装置
CN110399407A (zh) 工作轨迹检查方法及装置、电子设备和非暂态存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190108

RJ01 Rejection of invention patent application after publication