CN102096810A - 一种电脑前疲劳状态的检测方法和装置 - Google Patents

一种电脑前疲劳状态的检测方法和装置 Download PDF

Info

Publication number
CN102096810A
CN102096810A CN2011100278916A CN201110027891A CN102096810A CN 102096810 A CN102096810 A CN 102096810A CN 2011100278916 A CN2011100278916 A CN 2011100278916A CN 201110027891 A CN201110027891 A CN 201110027891A CN 102096810 A CN102096810 A CN 102096810A
Authority
CN
China
Prior art keywords
fatigue state
computer
image
eye areas
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011100278916A
Other languages
English (en)
Other versions
CN102096810B (zh
Inventor
崔国勤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mid Star Technology Ltd By Share Ltd
Vimicro Corp
Original Assignee
Vimicro Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vimicro Corp filed Critical Vimicro Corp
Priority to CN201110027891.6A priority Critical patent/CN102096810B/zh
Publication of CN102096810A publication Critical patent/CN102096810A/zh
Application granted granted Critical
Publication of CN102096810B publication Critical patent/CN102096810B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明提供了一种电脑前疲劳状态的检测方法和装置,其中的方法具体包括:获取摄像头捕获的电脑前脸部图像;对所述电脑前脸部图像进行人脸检测,得到人脸图像;依据所述人脸图像得到眼睛区域图像;对所述眼睛区域图像进行特征提取,得到特征向量;将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果,其中,所述疲劳状态判别器为依据包括疲劳状态和非疲劳状态的电脑前脸部图像样本所构造的分类器,且所述电脑前脸部图像样本为摄像头捕获得到,且所述电脑前脸部图像样本与所述电脑前脸部图像的捕获位置处于相同的位置区间。本发明能够根据摄像头捕获的电脑前脸部图像检测电脑前疲劳状态,以避免对眼睛健康造成的危害。

Description

一种电脑前疲劳状态的检测方法和装置
技术领域
本发明涉及模式识别技术领域,特别是涉及一种电脑前疲劳状态的检测方法和装置。
背景技术
目前,随着信息技术和互联网技术的发展,电脑已普及到千家万户,给人们在生活和工作中带来了很多便利。但是,部分自控能力较差的用户(又称电脑族),会因受电脑上互联网信息的吸引,久坐在电脑前不肯离去;或者,很多电脑工作者需要长期在电脑前伏案工作。
电脑族久坐电脑前,看东西较近,一方面,迫使眼睫状肌处于收缩紧张状态,从而使晶体变凸以适应视近物,眼睛长期处于紧张状态而得不到休息就会导致近视。另一方面,视觉的过度疲劳会引起房水运行受阻,进而成为青光眼、干眼症、白内障等眼病的根源。
如果能够在处于电脑前疲劳状态时,对电脑族进行必要提醒,使其离开电脑,则能够避免对眼睛健康造成不利。
但是,由于电脑族自身对电脑的吸引和依赖,加上电脑前疲劳状态只会对自身的眼睛健康造成危害,故目前电脑前疲劳状态还未引起个人和社会的充分重视,与电脑前疲劳状态相关的研究尚不多见;因此,电脑族并不知道何时应该离开电脑,以避免危害眼睛健康。
总之,需要本领域技术人员迫切解决的一个技术问题就是:如何能够检测电脑前疲劳状态,以避免其对眼睛健康造成的危害。
发明内容
本发明所要解决的技术问题是提供一种电脑前疲劳状态的检测方法和装置,能够根据摄像头捕获的电脑前脸部图像检测电脑前疲劳状态,以避免电脑前疲劳状态对眼睛健康造成的危害。
为了解决上述问题,本发明公开了一种电脑前疲劳状态的检测方法,包括:
获取摄像头捕获的电脑前脸部图像;
对所述电脑前脸部图像进行人脸检测,得到人脸图像;
依据所述人脸图像得到眼睛区域图像;
对所述眼睛区域图像进行特征提取,得到特征向量;
将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果,其中,所述疲劳状态判别器为依据包括疲劳状态和非疲劳状态的电脑前脸部图像样本所构造的分类器,且所述电脑前脸部图像样本为摄像头捕获得到,且所述电脑前脸部图像样本与所述电脑前脸部图像的捕获位置处于相同的位置区间。
优选的,所述捕获位置包括:摄像头与电脑屏幕之间的距离,电脑用户与电脑屏幕之间的距离,以及,电脑用户的视线与电脑屏幕之间的距离;
所述位置区间为预置位置区间。
优选的,所述依据所述人脸图像得到眼睛区域图像的步骤,包括:
对所述人脸图像进行瞳孔定位,得到眼睛位置;
根据所述眼睛位置,对所述人脸图像进行归一化操作;
从归一化后的人脸图像中割取预设大小的裸眼图像,作为眼睛区域图像。
优选的,所述将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果的步骤,包括:
将所述特征向量输入到疲劳状态判别器中,得到疲劳状态判别器的数值;
对该数值进行判别分析,若该数值≥1,则输出处于疲劳状态的检测结果;若该数值≤-1,则输出处于非疲劳状态的检测结果;若-1<该数值<1,则根据计算得到的置信值,输出检测结果。
优选的,在输出处于疲劳状态的检测结果时,所述方法还包括:
发出语音提示,其中,该语音提示用于提醒电脑用户休息。
优选的,所述疲劳状态判别器为通过以下步骤构造的分类器:
获取摄像头捕获的包括疲劳状态和非疲劳状态的电脑前脸部图像样本;
对所述电脑前脸部图像样本进行人脸检测,得到人脸图像样本;
依据所述人脸图像样本得到眼睛区域图像样本;
通过特征提取,得到所述眼睛区域图像样本的特征向量;
依据所述特征向量构造疲劳状态判别器。
优选的,所述特征提取包括:
直接以所述眼睛区域图像样本的灰度值组成特征向量;
或者,
采用Gabor变换、主成分分析和线性判别分析的一种或多种,对所述眼睛区域图像样本进行特征提取,得到相应特征向量。
优选的,所述依据所述特征向量构造疲劳状态判别器的步骤,包括:
构造特征向量训练集{(xi,yi)},其中,i=1,...,n,xi为某一眼睛区域图像样本的特征向量,yi为该眼睛区域图像样本所属的样本类别,在其属于疲劳状态类别时yi=1,在其属于非疲劳状态类别时yi=-1,n为眼睛区域图像样本的数量;
针对所述特征向量训练集,训练获得作为眼睛区域分类器的支持向量机模型
Figure BDA0000045349990000031
其中,sgn为符号函数,b*为分类阈值,αi *为训练得到的最优分类参数。
另一方面,本发明还公开了一种电脑前疲劳状态的检测装置,包括:
捕获模块,用于获取摄像头捕获的电脑前脸部图像;
人脸检测模块,用于对所述电脑前脸部图像进行人脸检测,得到人脸图像;
瞳孔定位模块,用于依据所述人脸图像得到眼睛区域图像;
特征提取模块,用于对所述眼睛区域图像进行特征提取,得到特征向量;及
检测模块,用于将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果,其中,所述疲劳状态判别器为依据包括疲劳状态和非疲劳状态的电脑前脸部图像样本所构造的分类器,且所述电脑前脸部图像样本为摄像头捕获得到,且所述电脑前脸部图像样本与所述电脑前脸部图像的捕获位置处于相同的位置区间。
优选的,所述捕获位置包括:摄像头与电脑屏幕之间的距离,电脑用户与电脑屏幕之间的距离,以及,电脑用户的视线与电脑屏幕之间的距离;
所述位置区间为预置位置区间。
优选的,所述瞳孔定位模块包括:
位置获取单元,用于对所述人脸图像进行瞳孔定位,得到眼睛位置;
归一化单元,用于根据所述眼睛位置,对所述人脸图像进行归一化操作;及
割取单元,用于从归一化后的人脸图像中割取预设大小的裸眼图像,作为眼睛区域图像。
优选的,所述检测模块包括:
输入单元,用于将所述特征向量输入到疲劳状态判别器中,得到疲劳状态判别器的数值;及
判别分析单元,用于对该数值进行判别分析,若该数值≥1,则输出处于疲劳状态的检测结果;若该数值≤-1,则输出处于非疲劳状态的检测结果;若-1<该数值<1,则根据计算得到的置信值,输出检测结果。
优选的,所述装置还包括:
语音提示模块,用于在输出处于疲劳状态的检测结果时,发出语音提示,其中,该语音提示用于提醒电脑用户休息。
优选的,所述装置还包括:疲劳状态判别器构造模块,包括:
样本获取单元,用于获取摄像头捕获的包括疲劳状态和非疲劳状态的电脑前脸部图像样本;
样本人脸检测单元,用于对所述电脑前脸部图像样本进行人脸检测,得到人脸图像样本;
眼镜区域样本获取单元,用于依据所述人脸图像样本得到眼睛区域图像样本;
样本特征提取单元,用于通过特征提取,得到所述眼睛区域图像样本的特征向量;及
构造单元,用于依据所述特征向量构造疲劳状态判别器。
优选的,所述特征样本特征提取单元,具体用于直接以所述眼睛区域图像样本的灰度值组成特征向量;或者,采用Gabor变换、主成分分析和线性判别分析的一种或多种,对所述眼睛区域图像样本进行特征提取,得到相应特征向量。
优选的,所述构造单元包括:
训练集构造子单元,构造特征向量训练集{(xi,yi)},其中,i=1,...,n,xi为某一眼睛区域图像样本的特征向量,yi为该眼睛区域图像样本所属的样本类别,在其属于疲劳状态类别时yi=1,在其属于非疲劳状态类别时yi=-1,n为眼睛区域图像样本的数量;及
训练子单元,用于针对所述特征向量训练集,训练获得作为眼睛区域分类器的支持向量机模型其中,sgn为符号函数,b*为分类阈值,αi *为训练得到的最优分类参数。
与现有技术相比,本发明具有以下优点:
首先,由于电脑用户处于非疲劳状态时,眼睛通常正常睁开,而处于疲劳状态时,眼睛往往半睁半合或者微闭、微睁,也即,处于疲劳状态的眼睛与处于非疲劳状态的眼睛在形状和大小上是存在细微差别的;因而,本发明针对包括疲劳状态和非疲劳状态的眼睛区域图像样本进行统计训练,得到的疲劳状态判别器能够具有这两类眼睛区域图像样本的特征描述能力,以及,这两类眼睛区域图像样本之间细微差别的判别能力;
其次,在对摄像头捕获的电脑前脸部图像进行电脑前疲劳状态检测时,仅需将所述电脑前脸部图像的特征向量输入到疲劳状态判别器中,即可输出是否处于疲劳状态的检测结果;不仅检测速度可以得到保证,并且,由于所述电脑前脸部图像与统计训练所应用眼睛区域图像样本的捕获位置处于相同的位置区间,因此,能够避免电脑用户在电脑前的位置幅度变化较大对统计模式识别精度产生的影响,从而可以有效提高检测的准确度。
附图说明
图1是本发明一种疲劳状态判别器训练方法实施例的流程图;
图2是本发明一种预置位置区间的示意图;
图3是本发明一种瞳孔定位的示意图;
图4是本发明一种电脑前疲劳状态的检测方法实施例的流程图;
图5是本发明一种电脑前疲劳状态的检测装置实施例的结构图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
参照图1,示出了本发明一种疲劳状态判别器训练方法实施例的流程图,具体可以包括:
步骤101、获取摄像头捕获的包括疲劳状态和非疲劳状态的电脑前脸部图像样本;
在实际中,可以采用统计模式识别方法,将摄像头捕获的处于疲劳状态的含有正面或准正面人脸图像作为正样本,以及,将处于非疲劳状态的含有正面或准正面人脸图像作为反样本,
由于电脑用户在电脑前的位置幅度变化较大,为避免位置幅度变化对统计模式识别精度产生影响,在本发明的一种优选实施例中,可以通过设置,使这些电脑前脸部图像样本的捕获位置在预置位置区间内。其中,所述捕获位置具体可以包括:摄像头与电脑屏幕之间的距离,电脑用户与电脑屏幕之间的距离,以及,电脑用户的视线与电脑屏幕之间的距离;
参照图2,示出了本发明一种预置位置区间的示例,其中,摄像头在电脑屏幕的正上方,电脑用户与电脑屏幕之间的距离区间为[50,70]cm,电脑用户的视线与电脑屏幕之间的距离为:电脑荧屏第一行字在视线下约3cm,也即,视线在电脑屏幕上的投影与电脑荧屏第一行字的距离为约3cm。
可以理解,上述预置位置区间只是作为示例,本领域技术人员可以根据实际情况,设置其它预置位置区间,在电脑屏幕尺寸增加时,将电脑用户与电脑屏幕之间的距离区间变为[60,80],等等,本发明对具体的预置位置区间不加以限制。
步骤102、对所述电脑前脸部图像样本进行人脸检测,得到人脸图像样本;
人脸检测是指确定输入图像(所述电脑前脸部图像样本)中是否存在人脸,并在存在时,确定所有人脸的位置、大小和位姿的过程。由于人脸检测作为人脸信息处理中的一项关键技术,近年来成为模式识别与计算机视觉领域内已经得到比较成功应用的课题,因此,这里可以采用已有的人脸检测技术从所述电脑前脸部图像样本中得到人脸图像样本,在此不作赘述。
步骤103、依据所述人脸图像样本得到眼睛区域图像样本;
本专利发明人在研究中发现,电脑前用户处于疲劳状态或非疲劳状态时,一张人脸图像中的眼睛区域图像会有着显著的变化,因为该眼睛区域图像通常反映了眼睛睁开闭合程度,具体而言,处于非疲劳状态时,眼睛正常睁开,而处于疲劳状态时,眼睛往往半睁半合或者微闭、微睁;所以处于疲劳状态的眼睛与处于非疲劳状态的眼睛在形状和大小上都会存在细微差别。因此,本发明针对眼睛区域图像样本统计这些形状和大小上的细微差别。
在实际中,可以通过以下子步骤得到眼睛区域图像样本:
子步骤A1、对所述人脸图像进行瞳孔定位,得到眼睛位置;
在具体实现中,可以采用统计模式识别方法,将采集并分割获得的正面人脸图像中的双眼区域图像和非双眼区域图像作为训练样本,训练得到双眼区域检测器。例如,采用自适应增强(Adaboost,adaptive boosting)算法对10000张24×16的双眼区域图像和非双眼区域图像进行训练,得到双眼区域检测器。
在进行眼睛定位时,可以采用所述双眼区域检测器在人脸图像内搜索双眼区域位置,确定双眼区域位置后,在所述双眼区域位置内定位左眼位置和右眼位置。参考图3示出了一种瞳孔定位的示意图,其中3a为双眼区域检测器搜索到的眼睛矩形区域位置,3b所示的矩形中心即为眼睛位置。
子步骤A2、根据所述眼睛位置,对所述人脸图像进行归一化操作;
在具体实现中,所述归一化操作可以包括尺寸归一化和灰度归一化操作。其中,尺寸归一化的操作可以为:将样本图像旋转,使每个人脸的双眼之间的连线为水平方向,然后按照双眼中心距离固定的原则,比例缩放旋转后的图像,根据双眼距离固定、双眼中心连线中点到人脸图像上矩形框距离固定的原则裁剪图像,即得到了尺寸归一化后的图像。
灰度归一化的操作可以采取对尺寸归一化后的图像进行灰度拉伸,以改善图像的对比度;或者,采用直方图均衡化等直方图修正技术使图像具有相近的统计意义上的均值和方差,以部分消除光照的影响,本发明对具体的操作方式不加以限制。
子步骤A3、从归一化后的人脸图像中割取预设大小的裸眼图像,作为眼睛区域图像。
在实际中,所述割取通常是根据瞳孔中心,分割出两个矩形区域。这里的预设大小应与训练分类器时的样本的单眼区域图像样本和双眼区域图像样本的尺寸一致。例如,对一个归一化80×88大小的人脸,可以分割出32×22大小的眼睛区域。
需要说明的是,由于电脑用户的两只眼睛的活动基本上是一致的,也即,疲劳程度基本一致,因此,这里可以只分割出单眼区域。可以理解,为了疲劳状态判别器的精度起见,亦可以使用双眼区域。总之,本领域技术人员可以根据实际需要,确定使用单眼区域还是双眼区域,本发明对此不加以限制。
经过上述处理后,多个处于疲劳状态的眼睛区域图像样本(以下简称正样本)以及多个处于非疲劳状态的眼睛区域图像样本(以下简称反样本)在某些特征上才会具有一定的相似性,而正样本和反样本之间才会具有一定的差异,此时才可以采用统计模式识别算法进行疲劳状态判别器的训练与识别。
步骤104、通过特征提取,得到所述眼睛区域图像样本的特征向量;
由于步骤102已对眼睛区域进行灰度化处理,在实际中,可直接以所述眼睛区域图像样本的灰度值组成特征向量;例如,直接以32×22=704个像素值作组成特征向量。作为一个眼睛区域的特征表达。
但是,直接以704个像素的灰度值组成特征向量,由于没有经过去噪,可能导致分类器性能降低。
因此,在本发明的一种优选实施例中,可以采用Gabor变换、主成分分析和线性判别分析的一种或多种,对所述眼睛区域图像样本进行特征提取,得到相应特征向量。
其中,Gabor变换在图像分析和计算机视觉方面有着广泛的应用。它提供了一种有效的图像分析途径。它的主要优势在于其无限的平滑能力以及频域响应的指数衰减特性。当被用于提取人脸特征时,它不但能够很好的提取人脸部的不同尺度和不同方向的细节,而且它对光照变化、人脸图像的平移和微小形变等不利因素也有一定的适应能力,所以Gabor变换能够避免噪声对分类器性能的影响。
基于主成分分析(PCA,Principal Component Analysis)和线性判别分析(LDA,Linear Discriminant Analysis)的线性降维方法以其数学基础的成熟和实现上的简单而被深入地研究。其中,PCA通过对训练样本集合的相关矩阵进行特征值分解实现,它旨在针对所有图像提取出最能够表现所有图像特征的特征向量集。LDA利用样本当中的类信息,试图“重塑”样本集合的分布,从而使其更加有利于分类。LDA算法提取出的是最能体现不同类别的特征向量。
对于上述特征提取的结合,基于Gabor变换的PCA和LDA方法目前已被广泛使用,因为相比在纯灰度人脸图像上进行PCA和LDA,在Gabor“小波脸”上进行PCA和LDA的性能更好。
在实际中,本领域技术人员可以根据实际情况,采用上述特征提取方法的一种或多种,或者,采用其它特征提取方法(如FisherFace方法等)。本发明对具体的特征提取方法不加以限制。
步骤105、依据所述特征向量构造疲劳状态判别器。
为解决疲劳状态和非疲劳状态的两类问题,在众多机器学习方法中,支持向量机(SVM,support vector machine)是一种使得分类结构化误差最小的分类器构造方法,是一种具有更好推广性的分类器构造方法。因而,本发明优选采用支持向量机作为两类分类器来构造所述疲劳状态判别器,所述构造疲劳状态判别器的步骤可以通过以下子步骤来实现:
子步骤B1、构造特征向量训练集{(xi,yi)},其中,i=1,...,n,xi为某一眼睛区域图像样本的特征向量,yi为该眼睛区域图像样本所属的样本类别,在其属于疲劳状态类别时yi=1,在其属于非疲劳状态类别时yi=-1,n为眼睛区域图像样本的数量;
子步骤B2、针对所述特征向量训练集,训练获得作为眼睛区域分类器的支持向量机模型
Figure BDA0000045349990000101
其中,sgn为符号函数,b*为分类阈值,αi *为训练得到的最优分类参数。
当然,上述采用SVM方法构造疲劳状态判别器的方式只是作为示例,本领域技术人员可以根据具体情形采用其它统计学习方法,如LDA、AdaBoost方法等,本发明对具体的统计学习方法不加以限制。例如,用Gabor+PCA获得的特征向量,可以通过LDA运算获得线性判别分类器。
参照图4,示出了本发明一种电脑前疲劳状态的检测方法实施例的流程图,具体可以包括:
步骤401、获取摄像头捕获的电脑前脸部图像;
步骤402、对所述电脑前脸部图像进行人脸检测,得到人脸图像;
步骤403、依据所述人脸图像得到眼睛区域图像;
步骤404、对所述眼睛区域图像进行特征提取,得到特征向量;
步骤405、将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果,其中,所述疲劳状态判别器为依据包括疲劳状态和非疲劳状态的电脑前脸部图像样本所构造的分类器,且所述电脑前脸部图像样本为摄像头捕获得到,且所述电脑前脸部图像样本与所述电脑前脸部图像的捕获位置处于相同的位置区间。
在具体实现中,所述疲劳状态判别器可以通过以下训练步骤获得:
步骤C1、获取摄像头捕获的包括疲劳状态和非疲劳状态的电脑前脸部图像样本;
步骤C2、对所述电脑前脸部图像样本进行人脸检测,得到人脸图像样本;
步骤C3、依据所述人脸图像样本得到眼睛区域图像样本;
步骤C4、通过特征提取,得到所述眼睛区域图像样本的特征向量;
步骤C5、依据所述特征向量构造疲劳状态判别器。
对于步骤401-404而言,应采用与步骤405所采用疲劳状态判别器训练过程相同的方法对摄像头捕获的电脑前脸部图像进行数据处理,在此不作赘述。
在本发明的一种优选实施例中,所述将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果的步骤,具体可以包括:
子步骤D1、将所述特征向量输入到疲劳状态判别器中,得到疲劳状态判别器的数值;
子步骤D2、对该数值进行判别分析,若该数值≥1,则输出处于疲劳状态的检测结果;若该数值≤-1,则输出处于非疲劳状态的检测结果;若-1<该数值<1,则根据计算得到的置信值,输出检测结果。
例如,训练步骤采用SVM方法,最终得到待认证用户的人脸模型为
Figure BDA0000045349990000121
其中,n代表样本类别数,xi为某类别一样本的特征向量,yi为该样本所属的样本类别,b*为分类阈值,αi *为训练得到的最优分类参数。那么,判别过程可以为:
①若f(x)≥1,则判别电脑用户处于疲劳状态;
②若f(x)≤-1,则判别电脑用户处于非疲劳状态;
③若-1<f(x)<1,则设定置信函数
Figure BDA0000045349990000122
根据计算
得到的置信值,判别所述人脸图像的检测结果。
考虑到电脑用户在非疲劳状态时眨眼引起的眼睛微闭情况,在采用疲劳状态判别器进行实际的检测时,还可依据一段连续时间内摄像头捕获的电脑前脸部图像进行判别。
例如,如果连续5分钟内,疲劳状态判别器针对摄像头捕获的50幅电脑前脸部图像输出的检测结果均为处于疲劳状态,则可以最终判别电脑用户处于疲劳状态;而如果输出的检测结果中,有45幅(按照时间连续排列)处于疲劳状态,而5幅处于非疲劳状态,则仍最终判别电脑用户处于疲劳状态;而如果输出的检测结果中,位于中间的5幅处于疲劳状态,而其余45幅处于非疲劳状态,则可以最终判别电脑用户处于非疲劳状态;如果输出的检测结果中,位于前面的45幅处于疲劳状态,而最后5幅处于非疲劳状态,则需要将最后5幅与下一时刻捕获图像的检测结果进行结合,以最终判别电脑用户是否处于疲劳状态。
总之,本发明提供了一种利用疲劳状态判别器、对摄像头捕获的电脑前脸部图像进行电脑前疲劳状态检测的方法,而不会对具体的检测方法加以限制。
在本发明的一种优选实施例中,在输出处于疲劳状态的检测结果时,所述方法还可以包括:
发出语音提示,其中,该语音提示用于提醒电脑用户休息。
在实际中,可在电脑附近设置一个与疲劳状态判别器相连的语音提示器,在疲劳状态判别器输出处于疲劳状态的检测结果时,该语音提示器可以发出“请休息一会,防止眼睛疲劳”的声音,提醒电脑用户休息片刻。
对于检测方法实施例而言,由于其与图1所示的训练方法实施例基本相似,所以描述的比较简单,相关之处参见训练方法实施例的部分说明即可。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
与前述检测方法实施例相应,本发明还公开了一种电脑前疲劳状态的检测装置实施例,参照图5,具体可以包括:
捕获模块501,用于获取摄像头捕获的电脑前脸部图像;
人脸检测模块502,用于对所述电脑前脸部图像进行人脸检测,得到人脸图像;
瞳孔定位模块503,用于依据所述人脸图像得到眼睛区域图像;
特征提取模块504,用于对所述眼睛区域图像进行特征提取,得到特征向量;及
检测模块505,用于将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果,其中,所述疲劳状态判别器为依据包括疲劳状态和非疲劳状态的电脑前脸部图像样本所构造的分类器,且所述电脑前脸部图像样本为摄像头捕获得到,且所述电脑前脸部图像样本与所述电脑前脸部图像的捕获位置处于相同的位置区间。
在本发明实施例中,优选的是,所述捕获位置可以包括:摄像头与电脑屏幕之间的距离,电脑用户与电脑屏幕之间的距离,以及,电脑用户的视线与电脑屏幕之间的距离;所述位置区间为预置位置区间。
在本发明的一种优选实施例中,所述瞳孔定位模块503具体可以包括:
位置获取单元,用于对所述人脸图像进行瞳孔定位,得到眼睛位置;
归一化单元,用于根据所述眼睛位置,对所述人脸图像进行归一化操作;及
割取单元,用于从归一化后的人脸图像中割取预设大小的裸眼图像,作为眼睛区域图像。
在本发明的一种优选实施例中,所述检测模块505具体可以包括:
输入单元,用于将所述特征向量输入到疲劳状态判别器中,得到疲劳状态判别器的数值;及
判别分析单元,用于对该数值进行判别分析,若该数值≥1,则输出处于疲劳状态的检测结果;若该数值≤-1,则输出处于非疲劳状态的检测结果;若-1<该数值<1,则根据计算得到的置信值,输出检测结果。
在本发明的一种优选实施例中,所述装置还可以包括:
语音提示模块,用于在输出处于疲劳状态的检测结果时,发出语音提示,其中,该语音提示用于提醒电脑用户休息。
在本发明实施例中,优选的是,所述装置还可以包括:疲劳状态判别器构造模块,具体可以包括:
样本获取单元,用于获取摄像头捕获的包括疲劳状态和非疲劳状态的电脑前脸部图像样本;
样本人脸检测单元,用于对所述电脑前脸部图像样本进行人脸检测,得到人脸图像样本;
眼镜区域样本获取单元,用于依据所述人脸图像样本得到眼睛区域图像样本;
样本特征提取单元,用于通过特征提取,得到所述眼睛区域图像样本的特征向量;及
构造单元,用于依据所述特征向量构造疲劳状态判别器。
优选的,所述特征样本特征提取单元,可具体用于直接以所述眼睛区域图像样本的灰度值组成特征向量;或者,采用Gabor变换、主成分分析和线性判别分析的一种或多种,对所述眼睛区域图像样本进行特征提取,得到相应特征向量。
优选的,所述构造单元具体可以包括:
训练集构造子单元,构造特征向量训练集{(xi,yi)},其中,i=1,...,n,xi为某一眼睛区域图像样本的特征向量,yi为该眼睛区域图像样本所属的样本类别,在其属于疲劳状态类别时yi=1,在其属于非疲劳状态类别时yi=-1,n为眼睛区域图像样本的数量;及
训练子单元,用于针对所述特征向量训练集,训练获得作为眼睛区域分类器的支持向量机模型
Figure BDA0000045349990000151
其中,sgn为符号函数,b*为分类阈值,αi *为训练得到的最优分类参数
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
电脑工程师从业者甚众,电脑工作者的健康状况堪忧,这主要是由于这一行业的特点所决定的。为扭转这种状况,对电脑工作者的工作状态进行监控,是必要的。本发明利用了目前人脸检测的最新结果,在对瞳孔定位后分割出眼睛区域,通过分类判别确定电脑工作者在电脑前是否处于疲劳状态,是否需要休息。
本发明可以有效地对电脑工作者的疲劳状态进行监控,发出有益的信息,对提高从业者的健康水平是很有意义的事情。
以上对本发明所提供的一种电脑前疲劳状态的检测方法和装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (16)

1.一种电脑前疲劳状态的检测方法,其特征在于,包括:
获取摄像头捕获的电脑前脸部图像;
对所述电脑前脸部图像进行人脸检测,得到人脸图像;
依据所述人脸图像得到眼睛区域图像;
对所述眼睛区域图像进行特征提取,得到特征向量;
将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果,其中,所述疲劳状态判别器为依据包括疲劳状态和非疲劳状态的电脑前脸部图像样本所构造的分类器,且所述电脑前脸部图像样本为摄像头捕获得到,且所述电脑前脸部图像样本与所述电脑前脸部图像的捕获位置处于相同的位置区间。
2.如权利要求1所述的方法,其特征在于,所述捕获位置包括:摄像头与电脑屏幕之间的距离,电脑用户与电脑屏幕之间的距离,以及,电脑用户的视线与电脑屏幕之间的距离;
所述位置区间为预置位置区间。
3.如权利要求1所述的方法,其特征在于,所述依据所述人脸图像得到眼睛区域图像的步骤,包括:
对所述人脸图像进行瞳孔定位,得到眼睛位置;
根据所述眼睛位置,对所述人脸图像进行归一化操作;
从归一化后的人脸图像中割取预设大小的裸眼图像,作为眼睛区域图像。
4.如权利要求1所述的方法,其特征在于,所述将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果的步骤,包括:
将所述特征向量输入到疲劳状态判别器中,得到疲劳状态判别器的数值;
对该数值进行判别分析,若该数值≥1,则输出处于疲劳状态的检测结果;若该数值≤-1,则输出处于非疲劳状态的检测结果;若-1<该数值<1,则根据计算得到的置信值,输出检测结果。
5.如权利要求1至4中任一项所述的方法,其特征在于,在输出处于疲劳状态的检测结果时,所述方法还包括:
发出语音提示,其中,该语音提示用于提醒电脑用户休息。
6.如权利要求1至4中任一项所述的方法,其特征在于,所述疲劳状态判别器为通过以下步骤构造的分类器:
获取摄像头捕获的包括疲劳状态和非疲劳状态的电脑前脸部图像样本;
对所述电脑前脸部图像样本进行人脸检测,得到人脸图像样本;
依据所述人脸图像样本得到眼睛区域图像样本;
通过特征提取,得到所述眼睛区域图像样本的特征向量;
依据所述特征向量构造疲劳状态判别器。
7.如权利要求6所述的方法,其特征在于,所述特征提取包括:
直接以所述眼睛区域图像样本的灰度值组成特征向量;
或者,
采用Gabor变换、主成分分析和线性判别分析的一种或多种,对所述眼睛区域图像样本进行特征提取,得到相应特征向量。
8.如权利要求6所述的方法,其特征在于,所述依据所述特征向量构造疲劳状态判别器的步骤,包括:
构造特征向量训练集{(xi,yi)},其中,i=1,...,n,xi为某一眼睛区域图像样本的特征向量,yi为该眼睛区域图像样本所属的样本类别,在其属于疲劳状态类别时yi=1,在其属于非疲劳状态类别时yi=-1,n为眼睛区域图像样本的数量;
针对所述特征向量训练集,训练获得作为眼睛区域分类器的支持向量机模型
Figure FDA0000045349980000021
其中,sgn为符号函数,b*为分类阈值,αi *为训练得到的最优分类参数。
9.一种电脑前疲劳状态的检测装置,其特征在于,包括:
捕获模块,用于获取摄像头捕获的电脑前脸部图像;
人脸检测模块,用于对所述电脑前脸部图像进行人脸检测,得到人脸图像;
瞳孔定位模块,用于依据所述人脸图像得到眼睛区域图像;
特征提取模块,用于对所述眼睛区域图像进行特征提取,得到特征向量;及
检测模块,用于将所述特征向量输入到疲劳状态判别器中,输出是否处于疲劳状态的检测结果,其中,所述疲劳状态判别器为依据包括疲劳状态和非疲劳状态的电脑前脸部图像样本所构造的分类器,且所述电脑前脸部图像样本为摄像头捕获得到,且所述电脑前脸部图像样本与所述电脑前脸部图像的捕获位置处于相同的位置区间。
10.如权利要求9所述的装置,其特征在于,所述捕获位置包括:摄像头与电脑屏幕之间的距离,电脑用户与电脑屏幕之间的距离,以及,电脑用户的视线与电脑屏幕之间的距离;
所述位置区间为预置位置区间。
11.如权利要求9所述的装置,其特征在于,所述瞳孔定位模块包括:
位置获取单元,用于对所述人脸图像进行瞳孔定位,得到眼睛位置;
归一化单元,用于根据所述眼睛位置,对所述人脸图像进行归一化操作;及
割取单元,用于从归一化后的人脸图像中割取预设大小的裸眼图像,作为眼睛区域图像。
12.如权利要求9所述的装置,其特征在于,所述检测模块包括:
输入单元,用于将所述特征向量输入到疲劳状态判别器中,得到疲劳状态判别器的数值;及
判别分析单元,用于对该数值进行判别分析,若该数值≥1,则输出处于疲劳状态的检测结果;若该数值≤-1,则输出处于非疲劳状态的检测结果;若-1<该数值<1,则根据计算得到的置信值,输出检测结果。
13.如权利要求9至12中任一项所述的装置,其特征在于,还包括:
语音提示模块,用于在输出处于疲劳状态的检测结果时,发出语音提示,其中,该语音提示用于提醒电脑用户休息。
14.如权利要求9至12中任一项所述的装置,其特征在于,还包括:疲劳状态判别器构造模块,包括:
样本获取单元,用于获取摄像头捕获的包括疲劳状态和非疲劳状态的电脑前脸部图像样本;
样本人脸检测单元,用于对所述电脑前脸部图像样本进行人脸检测,得到人脸图像样本;
眼镜区域样本获取单元,用于依据所述人脸图像样本得到眼睛区域图像样本;
样本特征提取单元,用于通过特征提取,得到所述眼睛区域图像样本的特征向量;及
构造单元,用于依据所述特征向量构造疲劳状态判别器。
15.如权利要求9至12中任一项所述的装置,其特征在于,所述特征样本特征提取单元,具体用于直接以所述眼睛区域图像样本的灰度值组成特征向量;或者,采用Gabor变换、主成分分析和线性判别分析的一种或多种,对所述眼睛区域图像样本进行特征提取,得到相应特征向量。
16.如权利要求9至12中任一项所述的装置,其特征在于,所述构造单元包括:
训练集构造子单元,构造特征向量训练集{(xi,yi)},其中,i=1,...,n,xi为某一眼睛区域图像样本的特征向量,yi为该眼睛区域图像样本所属的样本类别,在其属于疲劳状态类别时yi=1,在其属于非疲劳状态类别时yi=-1,n为眼睛区域图像样本的数量;及
训练子单元,用于针对所述特征向量训练集,训练获得作为眼睛区域分类器的支持向量机模型
Figure FDA0000045349980000041
其中,sgn为符号函数,b*为分类阈值,αi *为训练得到的最优分类参数。
CN201110027891.6A 2011-01-26 2011-01-26 一种电脑前疲劳状态的检测方法和装置 Active CN102096810B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110027891.6A CN102096810B (zh) 2011-01-26 2011-01-26 一种电脑前疲劳状态的检测方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110027891.6A CN102096810B (zh) 2011-01-26 2011-01-26 一种电脑前疲劳状态的检测方法和装置

Publications (2)

Publication Number Publication Date
CN102096810A true CN102096810A (zh) 2011-06-15
CN102096810B CN102096810B (zh) 2017-06-30

Family

ID=44129898

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110027891.6A Active CN102096810B (zh) 2011-01-26 2011-01-26 一种电脑前疲劳状态的检测方法和装置

Country Status (1)

Country Link
CN (1) CN102096810B (zh)

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103000004A (zh) * 2011-09-13 2013-03-27 三星电子(中国)研发中心 一种人眼到屏幕视距的监控方法
CN103164315A (zh) * 2011-12-15 2013-06-19 无锡中星微电子有限公司 基于智能视频分析的电脑使用时间提示方法及系统
CN103745192A (zh) * 2013-11-27 2014-04-23 苏州清研微视电子科技有限公司 计算机基于层叠式主成分分析法智能识别视频中人眼状态的方法
CN104166456A (zh) * 2014-07-07 2014-11-26 惠州Tcl移动通信有限公司 移动设备和调节用户在适当距离观看移动设备的方法
WO2015137788A1 (en) * 2014-03-14 2015-09-17 Samsung Electronics Co., Ltd. Electronic apparatus for providing health status information, method of controlling the same, and computer-readable storage medium
CN105431852A (zh) * 2014-03-14 2016-03-23 三星电子株式会社 提供健康状态信息的电子装置及其控制方法,以及计算机可读存储介质
CN105744151A (zh) * 2014-12-24 2016-07-06 三星电子株式会社 脸部检测方法、脸部检测装置和包括其的电子系统
CN105853160A (zh) * 2016-03-28 2016-08-17 天脉聚源(北京)传媒科技有限公司 一种防视力疲劳的方法及装置
CN106251828A (zh) * 2016-07-27 2016-12-21 广东欧珀移动通信有限公司 控制方法及控制装置
CN106485191A (zh) * 2015-09-02 2017-03-08 腾讯科技(深圳)有限公司 一种驾驶员疲劳状态检测方法及系统
WO2017101226A1 (zh) * 2015-12-18 2017-06-22 中兴通讯股份有限公司 一种判断用户视力疲劳的方法及装置
CN106934368A (zh) * 2017-03-13 2017-07-07 长安大学 一种基于眼动指标数据的驾驶疲劳检测系统及识别方法
CN107085715A (zh) * 2017-05-19 2017-08-22 武汉理工大学 一种电视智能检测用户睡眠状态的系统及方法
CN107578008A (zh) * 2017-09-02 2018-01-12 吉林大学 基于分块特征矩阵算法和svm的疲劳状态检测方法
CN108108684A (zh) * 2017-12-15 2018-06-01 杭州电子科技大学 一种融合视线检测的注意力检测方法
CN108806209A (zh) * 2018-06-29 2018-11-13 重庆工商职业学院 用于感知屏幕距离的智能报警系统
CN109903852A (zh) * 2019-01-18 2019-06-18 杭州电子科技大学 基于pca-lda用户定制的智能癫痫预测方法
CN110503068A (zh) * 2019-08-28 2019-11-26 Oppo广东移动通信有限公司 视线估计方法、终端及存储介质
CN111695510A (zh) * 2020-06-12 2020-09-22 浙江工业大学 一种基于图像的电脑操作员的疲劳检测方法
CN112455454A (zh) * 2020-12-22 2021-03-09 福州市长乐区三互信息科技有限公司 预防酒驾的检测方法及其系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7027621B1 (en) * 2001-03-15 2006-04-11 Mikos, Ltd. Method and apparatus for operator condition monitoring and assessment
CN101430576A (zh) * 2007-11-05 2009-05-13 鸿富锦精密工业(深圳)有限公司 眼睛防护警示装置及眼睛防护警示方法
CN101908152A (zh) * 2010-06-11 2010-12-08 电子科技大学 一种基于用户定制分类器的眼睛状态识别方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7027621B1 (en) * 2001-03-15 2006-04-11 Mikos, Ltd. Method and apparatus for operator condition monitoring and assessment
CN101430576A (zh) * 2007-11-05 2009-05-13 鸿富锦精密工业(深圳)有限公司 眼睛防护警示装置及眼睛防护警示方法
CN101908152A (zh) * 2010-06-11 2010-12-08 电子科技大学 一种基于用户定制分类器的眼睛状态识别方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张艳君等: "人脸识别中利用眼球进行人脸归一化", 《北京联合大学学报( 自然科学版)》, vol. 20, no. 2, 30 June 2006 (2006-06-30), pages 35 - 39 *
李贤帅等: "基于人眼定位的快速人脸检测及归一化算法", 《计算机工程与科学》, vol. 28, no. 12, 31 December 2006 (2006-12-31), pages 63 - 65 *

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103000004B (zh) * 2011-09-13 2014-09-17 三星电子(中国)研发中心 一种人眼到屏幕视距的监控方法
CN103000004A (zh) * 2011-09-13 2013-03-27 三星电子(中国)研发中心 一种人眼到屏幕视距的监控方法
CN103164315A (zh) * 2011-12-15 2013-06-19 无锡中星微电子有限公司 基于智能视频分析的电脑使用时间提示方法及系统
CN103164315B (zh) * 2011-12-15 2015-09-16 无锡中星微电子有限公司 基于智能视频分析的电脑使用时间提示方法及系统
CN103745192B (zh) * 2013-11-27 2016-11-16 苏州清研微视电子科技有限公司 计算机基于层叠式主成分分析法智能识别视频中人眼状态的方法
CN103745192A (zh) * 2013-11-27 2014-04-23 苏州清研微视电子科技有限公司 计算机基于层叠式主成分分析法智能识别视频中人眼状态的方法
WO2015137788A1 (en) * 2014-03-14 2015-09-17 Samsung Electronics Co., Ltd. Electronic apparatus for providing health status information, method of controlling the same, and computer-readable storage medium
CN105431852A (zh) * 2014-03-14 2016-03-23 三星电子株式会社 提供健康状态信息的电子装置及其控制方法,以及计算机可读存储介质
US10366487B2 (en) 2014-03-14 2019-07-30 Samsung Electronics Co., Ltd. Electronic apparatus for providing health status information, method of controlling the same, and computer-readable storage medium
CN104166456A (zh) * 2014-07-07 2014-11-26 惠州Tcl移动通信有限公司 移动设备和调节用户在适当距离观看移动设备的方法
CN105744151A (zh) * 2014-12-24 2016-07-06 三星电子株式会社 脸部检测方法、脸部检测装置和包括其的电子系统
CN105744151B (zh) * 2014-12-24 2020-09-04 三星电子株式会社 脸部检测方法、脸部检测装置和图像拾取设备
CN106485191A (zh) * 2015-09-02 2017-03-08 腾讯科技(深圳)有限公司 一种驾驶员疲劳状态检测方法及系统
CN106485191B (zh) * 2015-09-02 2018-12-11 腾讯科技(深圳)有限公司 一种驾驶员疲劳状态检测方法及系统
WO2017101226A1 (zh) * 2015-12-18 2017-06-22 中兴通讯股份有限公司 一种判断用户视力疲劳的方法及装置
CN105853160A (zh) * 2016-03-28 2016-08-17 天脉聚源(北京)传媒科技有限公司 一种防视力疲劳的方法及装置
CN105853160B (zh) * 2016-03-28 2018-03-06 天脉聚源(北京)传媒科技有限公司 一种防视力疲劳的方法及装置
CN106251828A (zh) * 2016-07-27 2016-12-21 广东欧珀移动通信有限公司 控制方法及控制装置
CN106934368A (zh) * 2017-03-13 2017-07-07 长安大学 一种基于眼动指标数据的驾驶疲劳检测系统及识别方法
CN107085715A (zh) * 2017-05-19 2017-08-22 武汉理工大学 一种电视智能检测用户睡眠状态的系统及方法
CN107578008A (zh) * 2017-09-02 2018-01-12 吉林大学 基于分块特征矩阵算法和svm的疲劳状态检测方法
CN107578008B (zh) * 2017-09-02 2020-07-17 吉林大学 基于分块特征矩阵算法和svm的疲劳状态检测方法
CN108108684A (zh) * 2017-12-15 2018-06-01 杭州电子科技大学 一种融合视线检测的注意力检测方法
CN108108684B (zh) * 2017-12-15 2020-07-17 杭州电子科技大学 一种融合视线检测的注意力检测方法
CN108806209A (zh) * 2018-06-29 2018-11-13 重庆工商职业学院 用于感知屏幕距离的智能报警系统
CN109903852A (zh) * 2019-01-18 2019-06-18 杭州电子科技大学 基于pca-lda用户定制的智能癫痫预测方法
CN110503068A (zh) * 2019-08-28 2019-11-26 Oppo广东移动通信有限公司 视线估计方法、终端及存储介质
CN111695510A (zh) * 2020-06-12 2020-09-22 浙江工业大学 一种基于图像的电脑操作员的疲劳检测方法
CN112455454A (zh) * 2020-12-22 2021-03-09 福州市长乐区三互信息科技有限公司 预防酒驾的检测方法及其系统

Also Published As

Publication number Publication date
CN102096810B (zh) 2017-06-30

Similar Documents

Publication Publication Date Title
CN102096810A (zh) 一种电脑前疲劳状态的检测方法和装置
CN100592322C (zh) 照片人脸与活体人脸的计算机自动鉴别方法
Zhang et al. Driver fatigue detection based on eye state recognition
Agarwal et al. Face recognition using principle component analysis, eigenface and neural network
CN108549854B (zh) 一种人脸活体检测方法
CN104143079B (zh) 人脸属性识别的方法和系统
Ma et al. Robust precise eye location under probabilistic framework
CN109583342A (zh) 基于迁移学习的人脸活体检测方法
CN104123543B (zh) 一种基于人脸识别的眼球运动识别方法
Hu et al. Research on abnormal behavior detection of online examination based on image information
CN101558431A (zh) 脸认证设备
Li et al. Robust iris segmentation based on learned boundary detectors
US20150044649A1 (en) Systems and methods for detection of behavior correlated with outside distractions in examinations
CN103336973B (zh) 多特征决策融合的眼状态识别方法
CN104021384B (zh) 一种人脸识别方法及装置
Noman et al. Mobile-based eye-blink detection performance analysis on android platform
El-Bakry Fast iris detection for personal verification using modular neural nets
Murugan et al. Fragmented iris recognition system using BPNN
Ashwinkumar et al. Deep learning based approach for facilitating online proctoring using transfer learning
Boncolmo et al. Gender Identification Using Keras Model Through Detection of Face
Gao et al. Research on facial expression recognition of video stream based on OpenCV
Akhdan et al. Face recognition with anti spoofing eye blink detection
WO2021048682A1 (ja) 分類方法
Lokhande et al. Wavelet packet based iris texture analysis for person authentication
Suganthy et al. Effective iris recognition for security enhancement

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
ASS Succession or assignment of patent right

Owner name: VIMICRO CORPORATION

Effective date: 20120207

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20120207

Address after: 100083 Haidian District, Xueyuan Road, No. 35, the world building, the second floor of the building on the ground floor, No. 16

Applicant after: Beijing Vimicro Corporation

Co-applicant after: Vimicro Electronics Co., Ltd.

Address before: 100083 Haidian District, Xueyuan Road, No. 35, the world building, the second floor of the building on the ground floor, No. 16

Applicant before: Beijing Vimicro Corporation

C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20171221

Address after: 100083 Haidian District, Xueyuan Road, No. 35, the world building, the second floor of the building on the ground floor, No. 16

Co-patentee after: Vimicro Electronics Co., Ltd.

Patentee after: Zhongxing Technology Co., Ltd.

Address before: 100083 Haidian District, Xueyuan Road, No. 35, the world building, the second floor of the building on the ground floor, No. 16

Co-patentee before: Vimicro Electronics Co., Ltd.

Patentee before: Beijing Vimicro Corporation

CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 100083 Haidian District, Xueyuan Road, No. 35, the world building, the second floor of the building on the ground floor, No. 16

Co-patentee after: Vimicro Electronics Co., Ltd.

Patentee after: Mid Star Technology Limited by Share Ltd

Address before: 100083 Haidian District, Xueyuan Road, No. 35, the world building, the second floor of the building on the ground floor, No. 16

Co-patentee before: Vimicro Electronics Co., Ltd.

Patentee before: Zhongxing Technology Co., Ltd.