CN103329519A - 图像显示装置及物体检测装置 - Google Patents

图像显示装置及物体检测装置 Download PDF

Info

Publication number
CN103329519A
CN103329519A CN2012800053826A CN201280005382A CN103329519A CN 103329519 A CN103329519 A CN 103329519A CN 2012800053826 A CN2012800053826 A CN 2012800053826A CN 201280005382 A CN201280005382 A CN 201280005382A CN 103329519 A CN103329519 A CN 103329519A
Authority
CN
China
Prior art keywords
luminous intensity
photographic images
shoot part
display
lighting division
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2012800053826A
Other languages
English (en)
Inventor
藤绳展宏
栗林英范
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2011080357A external-priority patent/JP2012216032A/ja
Priority claimed from JP2011080356A external-priority patent/JP5862035B2/ja
Priority claimed from JP2011080355A external-priority patent/JP5862034B2/ja
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of CN103329519A publication Critical patent/CN103329519A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Input (AREA)

Abstract

一种图像显示装置,具备:具有显示画面(2a)的显示器(2);拍摄部(3),其配置在显示画面(2a)的外侧以使光轴(A)与显示画面(2a)的法线(例如,穿过中心的法线B)在显示画面(2a)的前面侧斜交,对光轴(A)的方向逐次进行拍摄来取得拍摄图像;以及检测部,其检测由拍摄部(3)拍摄到的拍摄图像的变化。

Description

图像显示装置及物体检测装置
技术领域
本发明涉及图像显示装置及物体检测装置。
背景技术
已提出在显示画面的外框部分具备拍摄机构(camera)、能够进行与用户的手动作相应的动作操作(motion operation)的图像显示装置(例如专利文献1)。在这样的图像显示装置中,与拍摄机构相邻地设有发光部,使其与拍摄机构的帧频同步地闪烁,取得使发光部发光时所拍摄到的图像与使发光部熄灯时所拍摄到的图像的差,对作为对象物体的用户的手进行检测。
现有技术
文献专利文献
专利文献1:日本特开2010-81466号公报
发明内容
发明要解决的问题
然而,在以往技术中,拍摄机构不仅拍摄到用户的手也包含用户背后的背景,因此存在如下问题:有可能对用户的手的动作以外作出误检测,特别是对背景中的活动(人横穿的情况等)误检测的可能性高。
另外,在拍摄机构的视场内存在荧光灯或LED照明等的闪烁照明的情况下,在以往技术中,有时该照明的图像会作为差分图像而残留,存在有时使作为对象物体的用户的手的检测精度降低的问题。
本发明的目的在于,提高用户的动作操作的检测精度。
用于解决问题的手段
本发明的第1方案的图像显示装置,其特征在于,具备:具有显示画面的显示器;拍摄部,其以使光轴与所述显示画面的法线在所述显示画面的前面侧斜交的方式配置在所述显示画面的外侧,对所述光轴的方向逐次进行拍摄来取得拍摄图像;以及检测部,其检测由所述拍摄部拍摄到的拍摄图像的变化。
本发明的第2方案的图像显示装置,其特征在于,具备:具有显示画面的显示器;照明部,其以使照明光的光线与所述显示画面的法线在所述显示画面的前面侧斜交的方式配置在所述显示画面的外侧;以及拍摄部,其对所述显示画面的前面方向逐次进行拍摄,取得拍摄图像。
本发明的第3方案的物体检测装置,其特征在于,具备:拍摄部,其以预定的帧频逐次进行拍摄,取得拍摄图像;照明部,其发出由所述拍摄部拍摄时的照明光;以及控制部,其进行切换控制以使所述照明部选择性地以第1光强度和比所述第1光强度小的第2光强度进行发光。
发明的效果
根据本发明,能够提高用户的动作操作的检测精度。
附图说明
图1是示意表示本发明的实施方式的数码像框以及对其进行操作的用户的侧视图。
图2是本发明的实施方式的数码像框的主视图。
图3是表示本发明的实施方式的数码像框的控制部的结构的框图。
图4是表示本发明的实施方式的数码像框的控制部的处理的流程图。
图5是表示本发明的实施方式的数码像框的第1变形例的侧视图。
图6是表示本发明的实施方式的数码像框的第1变形例的侧视图。
图7是表示本发明的实施方式的数码像框的第2变形例的侧视图。
图8是表示本发明的实施方式的数码像框的第2变形例的侧视图。
图9是表示本发明的另一实施方式的数码像框的侧视图。
图10是表示本发明的另一实施方式的数码像框的第1变形例的侧视图。
图11是表示本发明的另一实施方式的数码像框的第2变形例的侧视图。
图12是表示本发明的另一实施方式的数码像框的第3变形例的侧视图。
图13是表示本发明的实施方式的第1物体检测处理中的红外光的发光定时以及光强度变化的图。
图14是用于说明本发明的实施方式的第1物体检测处理的图。
图15是表示本发明的实施方式的第2物体检测处理中的红外光的发光定时以及光强度变化的图。
图16是用于说明本发明的实施方式的第2物体检测处理的图。
图17是表示本发明的实施方式的第3物体检测处理中的红外光的发光定时以及光强度变化的图。
图18是用于说明本发明的实施方式的第3物体检测处理的图。
图19是表示本发明的实施方式的第4物体检测处理中的红外光的发光定时以及光强度变化的图。
图20是用于说明本发明的实施方式的第4物体检测处理的图。
具体实施方式
以下,作为应用了本发明的图像显示装置以数码像框为例对本发明的实施方式进行说明。首先,参照图1以及图2。本实施方式的数码像框1构成为主要包括具有大致矩形状的显示画面2a的显示器2和作为拍摄部的拍摄机构3。作为显示器2,例如能够使用液晶面板。
虽然省略了图示,但拍摄机构3具备对被摄体的像进行拍摄的CCD等图像传感器以及使被摄体的像在该图像传感器的成像面上成像的镜头。在本实施方式中拍摄机构3一体地固定于显示器2的正面侧且固定于配置在显示画面2a外周的框架(框部件)的下边部的大致中央部,将与该数码像框1相对的用户7主要是手7a作为被摄体进行拍摄。拍摄机构3以使该拍摄机构的光轴A的方向(指向方向)相对于穿过显示画面2a内的法线的方向在该显示画面2a的前面(正面)侧斜交的方式配置在显示画面2a的外侧。在此,将拍摄机构3的光轴A与穿过显示画面2a的中心(或其附近)的法线B所成的角度设为θa,将显示画面2a与设置面6a的法线D所成的角度设为θb,优选设定成在θb=0°~40°的范围内使θa+θb=70°±10°、在θb=40°~60°的范围内使θa=30°±10°、在θb=60°~90°的范围内使θa+θb=90°±10°。
在本实施方式中,与拍摄机构3相邻地设置有发出作为由拍摄机构3拍摄时的照明光的红外光的LED4。LED4以使该LED4的光轴的方向(主光线的方向)与拍摄机构3的光轴A的方向大致一致(即大致平行)的方式固定于框架2b。但是,如后所述,LED4的光轴的方向也可以设定成与拍摄机构3的光轴A的方向不同的方向。此外,LED4也可以不发出红外光而发出可见光。
用于将显示器2设置于设置面(桌子6的上面)6a的作为显示器支承部件的支架5以能够旋转的方式安装在显示器2的背面侧。通过使支架5相对于显示器2的背面向打开方向或关闭方向旋转而设定成预定的角度范围内的任意角度,能够改变显示画面2a相对于设置面6a的倾斜角度。
通过使框架2b的下边和支架5的下端与设置面6a抵接地进行放置,从而数码像框1以预定的姿态被设置在设置面6a上。此外,在本实施方式中,由于拍摄机构3及LED4固定于框架2b,因此在对支架5的角度进行调整而改变了显示画面2a相对于设置面6a的倾斜角度的情况下,与此相应地拍摄机构3的光轴A及LED4的光轴C相对于设置面6a的角度也被改变。此外,即使改变了显示画面2a相对于设置面6a的倾斜角度,拍摄机构3的光轴A及LED4的光轴C相对于穿过显示画面2a的中心的法线B的角度θa也不会改变。
如图3所示,该数码像框1具备控制显示器2、拍摄机构3及LED4的控制装置11,在控制装置11上连接有操作部件12、连接IF 13及存储介质14。
控制装置11由CPU、存储器以及其他的周边电路构成,对整个数码像框1进行控制。此外,构成控制装置11的存储器例如是SDRAM等非易失性存储器。该存储器包括在CPU执行程序时用于展开程序的工作存储器和用于暂时记录数据的缓冲存储器。
控制装置11基于从拍摄机构3具备的图像传感器输出的图像信号,生成图像数据。另外,控制装置11在由拍摄机构3进行拍摄时,控制LED4的亮灯或亮灯(发光)的强度、或熄灯。
操作部件12包含由数码像框1的用户7操作的操作按钮等。连接IF 13是用于将数码像框1与外部设备连接的接口。在本实施方式中,数码像框1经由该连接IF13与记录有图像数据的外部设备例如数码拍摄机构等连接。并且,控制装置11经由连接IF 13从外部设备取入图像数据并记录到存储介质14中。此外,作为连接IF13,可使用用于将外部设备与数码像框1有线连接的USB接口、或用于无线连接的无线LAN组件等。或者,也可以替代连接IF13而设置存储器卡槽,通过在该存储器卡槽中插入记录有图像数据的存储卡来取入图像数据。
存储介质14是闪存等非易失性的存储器,记录由控制装置11执行的程序和/或经由连接IF13取入的图像数据等。
在本实施方式的数码像框1中,控制装置11基于由拍摄机构3拍摄到的图像来检测用户7的手7a的位置以及帧间的位置的变化,根据该检测结果改变显示器2上的显示图像2a的再现状态。作为再现状态的改变,例如能够例示图像的前进(将当前显示中的图像变为下一个预定显示的图像)或者倒退(将当前显示中的图像变为前一个显示的图像)。以下,对由控制装置11进行的与用户7的手7a的位置以及帧间的位置的变化相应的图像的再现状态的变更处理进行说明。
图4是表示与用户7的手7a的位置以及帧间的位置的变化相应的图像的再现状态的变更处理的流程的流程图。图4所示的处理,作为在开始向显示器2再现显示图像时启动的程序,由控制装置11来执行。
在步骤S1中,控制装置11使拍摄机构3开始拍摄图像。在此,设为拍摄机构3以预定的帧频(例如30fps)进行拍摄,设为控制装置11对以与该帧频相应的预定的时间间隔从拍摄机构3连续输入的图像数据进行处理。另外,设为不使LED4亮灯。但也可以设为:控制装置11使LED4亮灯来取入1帧图像,接着使LED4熄灯来取入1帧图像,实施这两个图像的差分运算,处理与该差量相当的图像(差分图像)的图像数据。通过处理这样的差分图像,能够减轻在拍摄图像内的背景中所产生的干扰的影响。此外,关于用于如此控制LED4的亮灯等来提高对象物体的检测精度的处理(物体检测处理),稍后进行描述。然后,进入步骤S2。
在步骤S2中,控制装置11基于从拍摄机构3输入的图像数据(在实施了差分运算的情况下是该差分图像的图像数据),判断是否检测到图像内的用户7的手7a。例如,预先将用户7的手7a的图像记录为模板图像,控制装置11通过将对象图像与模板图像进行匹配(matching),判定在对象图像内是否拍摄到用户7的手7a,在拍摄到的情况下,检测该手7a的位置。在步骤S2中控制装置11检测到手7a的位置的情况(“是”的情况)下进入步骤S3,在没有检测到手7a的情况(“否”的情况)下进入步骤S5。
在步骤S3中,控制装置11通过对从拍摄机构3按时间序列输入的图像数据(在实施差分运算的情况下按时间序列算出的差分图像的图像数据)之间的图像内的手7a的位置的变化进行监视,检测用户7的手7a动作。在步骤S3中没有检测到用户7的手7a动作的情况(“否”的情况)下,进入步骤S5。与此相对,在步骤S3中检测到用户7的手7a动作的情况(“是”的情况)下,进入步骤S4。
在步骤S4中,控制装置11根据手7a动作改变再现图像。也就是说,控制装置11在检测到手7a从右移动到左的情况下,判断为由用户7指示了图像前进,在显示器2上显示成将当前显示中的图像向左方移动并从画面左边排出画面外,并且显示成将下一个预定显示的图像从画面右边导入画面内,使该下一个预定显示的图像显示在显示器2上。
反过来,控制装置11在检测到手7a从左移动到右的情况下,判断为由用户7指示了图像倒退,在显示器2上显示成将当前显示中的图像向右方移动并从画面右边排出画面外,并且显示成将上一个显示的图像从画面左边导入画面内,使该上一个显示的图像显示在显示器2上。
此外,在此,设为根据用户7的手7a的左右动作进行图像前进或倒退,但也可以设为检测其他动作来进行其他的处理。例如可以设为:与用户7的手7a的位置对应地在画面内显示预定形状的光标,根据手7a的动作使该光标在画面内移动,选择在画面内显示的指示输入用的图标等。另外,例如也可以设为:检测手7a的上下动作,改变图像的显示倍率。
然后,在步骤S5中,控制装置11判断是否由用户7指示了结束图像的再现。在步骤S5中没有指示结束的情况(“否”的情况)下返回步骤S2,在指示了结束的情况(“是”的情况)下结束该处理。
根据以上说明的本实施方式,拍摄机构3以使拍摄机构3的光轴A的方向相对于穿过显示画面2a内的法线(在本实施方式中,作为一例是穿过显示画面2a内的中心的法线B)的方向而在该显示画面2a的前面侧以例如30°左右斜交的方式配置在显示画面2a的外侧。由此,能够将进行用户7的动作操作的手7a的检测范围限定在装置附近。也就是说,由于能够使进行用户7的动作操作的手7a或其附近落入拍摄机构3的视场内,而使用户7后方的背景没有落入所述视场内,因此即使在例如他人横穿过用户7后方的情况下,也不会落入拍摄范围内,能够防止由于检测到该他人的一部分而导致的误检测。
接着,参照图5以及图6对上述的数码像框1的第1变形例进行说明。对与图1~图3实质上相同的构成部分标注相同的符号,省略其说明。也就是说,在上述的实施方式中,对拍摄机构3固定于显示器2的框架2b的下边部的大致中央部的情况进行了说明。因此,在改变支架5的角度而改变了显示画面2a的倾斜度的情况下,拍摄机构3的指向方向也随之发生了改变。
与此相对,在该第1变形例中,设为即使在改变作为显示器支承部件的支架5的角度而改变了显示画面2a的倾斜度的情况下,拍摄机构3的指向方向也不会改变的结构。也就是说,拍摄机构3固定于拍摄机构支承部件8,拍摄机构支承部件8在框架2b的下边附近经由沿与该下边大致平行的方向设定的旋转轴8a以自由旋转的方式被支承。另外,在将该数码像框1举起的状态下,拍摄机构支承部件8由于重力的作用而具有使拍摄机构3指向大致恒定方向的某种程度的偏载重,其下表面变成形成为平坦的抵接面8b。当将该数码像框1设置在设置面6a上时,拍摄机构支承部件8的抵接面8b与设置面6a抵接,拍摄机构支承部件8的旋转被限制,拍摄机构3指向恒定方向。由此,例如,即使改变显示器2的倾斜度以使其从图5的状态变为图6的状态,拍摄机构3的指向方向(光轴A的方向)也不会改变而指向恒定方向。
此外,即使在将LED4固定于拍摄机构支承部件8而改变了显示器2的倾斜度的情况下,也可以使LED4的指向方向(光轴的方向)与拍摄机构3的指向方向(光轴A的方向)同样地指向恒定方向。
接着,参照图7以及图8对上述的数码像框1的第2变形例进行说明。关于与图1~图3实质上相同的构成部分标注相同的符号,省略其说明。也就是说,该第2变形例,与上述的第1变形例同样,也是即使在改变了显示画面2a的倾斜度的情况下拍摄机构3的指向方向也不会改变的结构。也就是说,在该第2变形例中,取代支架5而设置作为显示器支承部件的台座9,将显示器2以经由旋转轴9a能够旋转的方式轴支承于该台座9上。显示器2的旋转在对台座9的支承部上受到能够保持自我姿态的程度的阻力,能够通过用户7用手按压来改变姿态,而在没有按压的状态下保持该姿态。拍摄机构3指向预定方向地固定于台座9。由此,例如即使改变显示器2的倾斜度以使其从图7的状态变为图8的状态,拍摄机构3的指向方向(光轴A的方向)也不会改变而指向恒定方向。
此外,即使在将LED4指向预定方向地固定于台座9而改变了显示器2的倾斜度的情况下,也可以使LED4的指向方向(光轴C的方向)与拍摄机构3的指向方向(光轴A的方向)同样地指向恒定方向。
接着,作为本发明的另一实施方式,对LED4的配置进行详细描述。例如,如图9所示,LED4能够被一体地固定于显示器2的正面侧且固定于配置在显示画面2a外周的框架(框部件)的下边部的大致中央部,并且以使其光轴C的方向(指向方向)相对于穿过显示画面2a内的法线B的方向在该显示画面2a的前面(正面)侧斜交的方式被配置在显示画面2a的外侧。
LED4的光轴C相对于穿过显示画面2a的中心(或其附近)的法线B的角度θ2,例如设定成θ2=40°±20°的范围内。该角度θ2根据显示器2的显示画面2a的尺寸而适当设定,角度θ2更优选为θ2=40°±10°左右,最优选为θ2=40°左右。
如此,通过将LED4配置成其光轴C的方向相对于穿过显示画面2a内的法线B斜交,作为检测的对象物体的用户7的进行动作操作的手7a被来自LED4的照明光所照明,但该手7a以外的用户的身体和后方的背景并没有被照明,在拍摄图像内,作为对象物体的手7a变亮而其余的部分变暗,因此通过设定适当的阈值,能够提高该手7a的检测精度。
此外,在图9中,拍摄机构3固定于配置在显示画面2a外周的框架的上边的大致中央部,而如图10所示,也可以固定于该框架的侧边(左边或右边)的大致中央部。另外,虽然省略了图示,但在图9中,也可以将拍摄机构3和LED4的位置反过来、即在拍摄机构3的位置配置LED4,在LED4的位置配置拍摄机构3。此外,这些情况下的拍摄机构3的光轴A的方向,可以相对于穿过显示画面2a内的法线B而实质上平行,也可以如上述那样斜交。
在使拍摄机构3的光轴A的方向和LED4的光轴C的方向这两者都相对于穿过显示画面2a内的法线B斜交的情况下,例如,如图11所示,也可以将拍摄机构3以及LED4在构成显示画面2a的外周的框架的下边的大致中央部相互相邻地配置,将拍摄机构3的光轴A相对于穿过显示画面2a内的法线B的角度θa和LED4的光轴C相对于该法线B的角度θ2设定得实质相等。如此,能够加倍地实现由于使拍摄机构3的光轴A与该法线B斜交而获得的检测精度提高的效果、和由于使LED4的光轴C与该法线B斜交而获得的检测精度提高的效果。
此外,如图12所示来配置拍摄机构3以及LED4,将拍摄机构3的光轴A与穿过显示画面2a内的法线B的角度θa和LED4的光轴C与该法线B的角度θ2设定得实质相等,也能获得同样的效果。
另外,在使拍摄机构3的光轴A的方向和LED4的光轴C的方向这两者都与穿过显示画面2a内的法线B斜交的情况下,在将拍摄机构3的光轴A与穿过显示画面2a内的法线B的角度θa和LED4的光轴C与该法线B的角度θ2设定成彼此不同的角度的情况(例如,图9所示的情况)下,优选设定成θa<θ2,此时的相对的角度差(θ2-θa)能够设定成10°左右。在该情况下,可以将拍摄机构3和LED4一体地构成而单元化,相对的角度差(θ2-θa)固定,将该单元以可旋转的方式轴支承于框架,能够对其倾斜度进行调整。也可以将拍摄机构3单体或LED4单体轴分别以可旋转的方式轴支承于框架,能够对各自的倾斜度进行调整。
拍摄机构3、LED4或将它们一体化得到的单元的倾斜度的调整,可以通过手动来进行,也可以通过马达驱动等来进行。在通过马达驱动等来进行的情况下,可以在显示器2设置加速度传感器,以能够检测显示画面2a相对于设置面的角度,根据所检测到的角度,能够自动地调整拍摄机构3、LED4或将拍摄机构3以及LED4一体化得到的单元的倾斜度。另外,也可以检测支架5的开闭角度或开闭位置,判断设置面是桌子还是墙壁等,根据该状况,能够自动地调整拍摄机构3、LED4或将拍摄机构3以及LED4一体化得到的单元的倾斜度。进而,也可以设置气压传感器等,检测显示器2的高度位置,根据所检测到的高度位置,能够自动地调整拍摄机构3、LED4或将拍摄机构3以及LED4一体化得到的单元的倾斜度。也可以根据将上述的各检测结果组合得到的检测结果,能够自动地调整拍摄机构3、LED4或将拍摄机构3以及LED4一体化得到的单元的倾斜度。
接着,参照图13以及图14对本实施方式的图像显示装置中用于检测作为检测的对象物体的用户的手7a的第1物体检测处理(物体检测装置)进行说明。
在图13中,上部“vsync”示出了构成拍摄机构3的拍摄元件(图像传感器)的图像摄取的定时(从左起n帧、n+1帧、n+2帧、n+3帧:n为1、2、3、......),下部“红外光”示出了LED4的照明光(在此为红外光)的光强度变化的定时。
控制装置11与拍摄机构3的拍摄元件的帧频同步地选择性依次(交替)对强发光模式和弱发光模式进行切换控制,所述强发光模式是对LED4施加电压以使其以第1光强度发光的模式,所述弱发光模式是对LED4施加电压以使其以比该第1光强度小且比零光强度大的第2光强度发光的模式。在此,所谓零光强度是指没有施加电压的状态、即熄灯的状态,因此,此处的弱发光模式并不包含熄灯的状态。此外,为了简单,在本实施方式中,第1光强度设为100%,第2光强度设为一半即50%的光强度。也就是说,在取得第n帧图像时,LED4以强发光模式发光,在取得第n+1帧图像时,LED4以弱发光模式发光,依次反复强发光模式和弱发光模式。
图14(a)~图14(d)是用于说明第1物体检测处理的图。图14(a)示意性示出在LED4以强发光模式(第1光强度)发光时所取得的第n帧图像,图14(b)示意性示出在LED4以弱发光模式(第2光强度)发光时所取得的第n+1帧图像。
此外,在图14(a)中,左上部的横长长方形所示出的是将闪烁照明(荧光灯或劣质的LED电灯泡等)亮灯时的光作为外部干扰而摄入的图像,在图14(b)中示出了由于该闪烁光源熄灯故而这样的外部干扰没有被摄入的情况。在图像的中央部大致手的形状所示出的是作为检测对象物体的用户的手7a的图像,在图14(a)中示出了由于LED4以强发光模式发光故而以白色(100%的光强度)被摄入的状态,在图14(b)中示出了由于LED4以弱发光模式发光故而以灰色(50%的光强度)被摄入的状态。
首先,求出图14(a)的第n帧取得图像与图14(b)的第n+1帧取得图像的差分{(n+1)-(n)}的图像。该差分的图像是将两个图像的对应像素的亮度值取差得到的图像。该差分的图像示出在图14(c)中。在该阶段,因为仅取得差分,所以外部干扰(横长长方形)有残留,在维持该状态的情况下,无法获得作为检测对象的手7a的图像的充分的检测精度。
于是,在该第1物体检测处理中,通过使照明光的光强度变化,将外部干扰的部分与作为检测对象的手7a的图像相区别,仅排除外部干扰。也就是说,如图14(d)所示,相对于在第n帧以强发光模式的第1光强度(100%)发光,在第n+1帧以弱发光模式的第2光强度(50%)发光,因此作为检测对象的手7a的图像的明亮度(亮度)大致达到{(第2光强度)-(第1光强度)},即达到50%-100%=-50%左右。因此,能够将具有-50%附近的亮度的像素的图像判断为作为检测对象的手7a的图像,与此相对,如果外部干扰在第n帧例如为90%,则在第n+1帧为0%,因此第2光强度与第1光强度的差为0%-90%=-90%,能够将作为检测对象的手7a的图像与外部干扰的图像区别开。
因此,作为图像提取的阈值,例如设定为-50±10%,通过将具有该范围以外的亮度的像素的图像作为外部干扰而消除,如图14(d)所示,能够获得仅提取了手7a的图像部分的图像。因此,能够提高作为检测对象的手7a的图像的检测精度。
接着,参照图15以及图16对本实施方式的图像显示装置中用于检测作为检测的对象物体的用户的手7a的第2物体检测处理(物体检测装置)进行说明。
在图15中,上部“vsync”示出了构成拍摄机构3的拍摄元件(图像传感器)的图像摄取的定时(从左起n帧、n+1帧、n+2帧、n+3帧:n为1、2、3、......),下部“红外光”示出了LED4的照明光(在此设为红外光)的强度变化的定时。
控制装置11与拍摄机构3的拍摄元件的帧频同步地选择性依次对强发光模式、弱发光模式和熄灯模式进行切换控制,所述强发光模式是对LED4施加电压以使其以第1光强度发光的模式,所述弱发光模式是对LED4施加电压以使其以比该第1光强度小且比零光强度大的第2光强度发光的模式,所述熄灯模式是光强度为零(即不施加电压而熄灯)的模式。在此,设为按熄灯模式、弱发光模式、强发光模式的顺序反复使LED4发光。此外,为了简单,在此,第1光强度(强)设为100%,第2光强度(弱)设为一半即50%的光强度,熄灯为零光强度。也就是说,在取得第n帧图像时,LED4熄灯,在取得第n+1帧图像时,LED4以弱发光模式发光,在取得第n+2帧图像时,LED4以强发光模式发光,依次反复熄灯模式、弱发光模式、强发光模式。
图16(a)~图16(d)是用于说明该第2物体检测处理的图。图16(a)示出了LED4熄灯时所取得的第n帧图像,图16(b)示出了LED4以弱发光模式(第2光强度)发光时所取得的第n+1帧图像,图16(c)示出了在LED4以强发光模式发光时所取得的第n+2帧图像。
此外,在图16(a)以及图16(c)中,左上部以横长长方形所示出的是将闪烁照明(荧光灯或劣质的LED电灯泡等)亮灯时的光作为外部干扰而摄入的图像,在图16(b)中示出了由于该闪烁照明熄灯故而这样的外部干扰没有被摄入的情况。在图像的中央部以大致手的形状所示出的是作为检测对象物体的用户的手7a的图像,在图16(a)中示出了由于LED4熄灯故而几乎没有被摄入的状态,在图16(b)中示出了由于LED4以弱发光模式发光故而以灰色(50%的光强度)被摄入的状态,在图16(c)中示出了由于LED4以强发光模式发光故而以白色(100%的光强度)被摄入的状态。
着眼于n帧~n+2帧,被LED4照明的作为检测对象的手7a的部分(像素),根据LED4的发光强度的变化而阶段性地变化(在此为变亮)。因此,通过比较图16(a)的第n帧取得图像、图16(b)的第n+1帧取得图像以及图16(c)的第n+2帧取得图像这3个帧的图像,仅提取以(n<n+1<n+2)的方式变化的像素值,能够排除外部干扰。
在上述的第2物体检测处理中,使LED4以强发光模式、弱发光模式以及熄灯模式这3个模式发光(或熄灯),但也可以设定以强发光模式与弱发光模式之间的光强度发光的模式及/或以弱发光模式与熄灯模式之间的光强度发光的模式等,使用4个帧以上的图像。另外,也可以省略熄灯模式而设定以比弱发光模式的第2光强度小的第3光强度发光的模式。
在此,如图17以及图18所示,也可以将LED4的发光(光强度变化)的顺序与上述的顺序反过来。也就是说,可以按强发光模式、弱发光模式、熄灯模式的顺序反复发光。该情况下的处理与图15以及图16所示的处理同样,因此省略其说明。此外,在该情况下,通过比较图18(a)的第n帧取得图像、图18(b)的第n+1帧取得图像以及图18(c)的第n+2帧取得图像这3个帧的图像,仅提取以(n>n+1>n+2)的方式变化的像素值,能够排除外部干扰。
接着,参照图19以及图20对本实施方式的图像显示装置中用于检测作为检测的对象物体的用户的手7a的第3物体检测处理(物体检测装置)进行说明。
在图19中,上部“vsync”示出了构成拍摄机构3的拍摄元件(图像传感器)的图像摄入的定时(从左起n帧、n+1帧、n+2帧、n+3帧:n为1、2、3、......),下部“红外光”示出了LED4的照明光(在此设为红外光)的光强度变化的定时。
控制装置11与拍摄机构3的拍摄元件的帧频同步地选择性依次对强发光模式、弱发光模式、熄灯模式进行切换控制,所述强发光模式是对LED4施加电压以使其以第1光强度发光的模式,所述弱发光模式是对LED4施加电压以使其以比该第1光强度小且比零光强度大的第2光强度发光的模式,所述熄灯模式为零光强度(即不施加电压而熄灯)的模式。在此,设为按熄灯模式、弱发光模式、强发光模式的顺序反复发光。此外,为了简单,在本实施方式中,将第1光强度设为100%,第2光强度为一半即50%的光强度,熄灯为零光强度。也就是说,在取得第n帧图像时,LED4熄灯,在取得第n+1帧图像时,LED4以弱发光模式发光,在取得第n+2帧图像时,LED4以强发光模式发光,熄灯模式、弱发光模式、强发光模式依次反复。
图20(a)~图20(d)是用于说明该第3物体检测处理的图。图20(a)示出了LED4熄灯时所取得的第n帧图像,图20(b)示出了LED4以弱发光模式(第2光强度)发光时所取得的第n+1帧图像,图20(c)示出了LED4以强发光模式发光时所取得的第n+2帧图像。
此外,在图20(a)以及图20(C)中,左上部以横长长方形所示出的是将闪烁照明(荧光灯或劣质的LED电灯泡等)亮灯时的光作为外部干扰而摄入的图像,在图20(b)中示出了由于该闪烁照明熄灯故而这样的外部干扰没有被摄入的情况。在图像中央部以大致手的形状所示出的是作为检测对象物体的用户的手7a的图像,在图20(a)中示出了由于LED4熄灯而几乎没有被摄入的状态,在图20(b)中示出了由于LED4以弱发光模式发光故而以灰色(50%的光强度)被摄入的状态,在图20(c)中示出了由于LED4以强发光模式发光故而以白色(100%的光强度)被摄入的状态。
在上述的第2物体检测处理中,在3个帧的图像间以亮度变化的大小关系来提取像素,进行对象物体的检测,但在该第3物体检测处理中,也可以选择按LED4的发光强度的变化率(例如,在此为与增加量对应的比率)提取的像素。
首先,取得图20(a)的第n帧取得图像与图20(b)的第n+1帧取得图像的差分,仅取得图像的亮度按发光强度的增加量的比率而上升的部位。为了消除也包含在其中的噪声(例如,闪烁的照明光),进一步取得与第n+2帧取得图像的差分。此时同样也通过提取按发光强度的增加量的比率变亮的像素,能够仅提取对象物体。通过这样的处理,能够更加提高物体的检测精度。
此外,也可以根据闪烁光源等外部干扰的性质选择性地实施上述的第1~第3物体检测处理。例如可以:作为对存在于拍摄机构3的视场内的照明(闪烁光源等)的特性进行检测的照明特性检测部,设置亮度传感器,检测闪烁光源的闪烁的频率,基于所检测到的频率,自动地选择第1~第3物体检测处理中最佳的处理来执行。也可以取代这样的亮度传感器,从由拍摄机构3拍摄到的图像中检测存在于视场内的照明(闪烁光源等)的特性。
在上述的实施方式中,对作为图像显示装置使用数码像框的情况进行了说明。但是,对具备动作检测用的拍摄机构和显示器并具有图像再现功能的其他设备、例如个人计算机、平板型计算机、数码拍摄机构、便携电话、PDA、数字电视接收机等也能够适用本发明。
此外,以上说明的实施方式是为了容易理解本发明而记载的,并不是为了限定本发明而记载的。因此,上述的实施方式所公开的各要素也包含属于本发明的技术范围内的全部设计变更和等同物。

Claims (28)

1.一种图像显示装置,其特征在于,具备:
具有显示画面的显示器;
拍摄部,其以使光轴与所述显示画面的法线在所述显示画面的前面侧斜交的方式配置在所述显示画面的外侧,对所述光轴的方向逐次进行拍摄来取得拍摄图像;以及
检测部,其检测由所述拍摄部拍摄到的拍摄图像的变化。
2.根据权利要求1所述的图像显示装置,其特征在于,
还具备照明部,该照明部发出红外光,作为在由所述拍摄部拍摄时的照明光。
3.根据权利要求2所述的图像显示装置,其特征在于,
所述检测部基于使所述照明部进行照明地由所述拍摄部拍摄到的拍摄图像与不使所述照明部进行照明地由所述拍摄部拍摄到的拍摄图像的差,检测所述拍摄图像的变化。
4.根据权利要求1~3中任一项所述的图像显示装置,其特征在于,
还具备显示器支承部件,该显示器支承部件以能够改变所述显示画面相对于设置面的倾斜度的方式支承所述显示器,
所述拍摄部固定在自由旋转地轴支承于所述显示器的支承部件上,
所述支承部件具有抵接面,所述抵接面在将所述显示器设置于所述设置面上时与所述设置面抵接,并限定所述支承部件的旋转位置以使得所述拍摄部与所述显示器相对于所述设置面的倾斜度无关地指向恒定方向。
5.根据权利要求1~3中任一项所述的图像显示装置,其特征在于,
还具备显示器支承部件,该显示器支承部件以能够改变所述显示画面相对于设置面的倾斜度的方式支承所述显示器,
所述拍摄部以与所述显示器相对于所述设置面的倾斜度无关地指向恒定方向的方式固定在所述显示器支承部件上。
6.根据权利要求1~5中任一项所述的图像显示装置,其特征在于,
所述显示画面为大致矩形状,
所述拍摄部配置在所述显示画面的下边附近的大致中央部分。
7.一种数码像框,其特征在于,具备权利要求1~6中任一项所述的图像显示装置。
8.一种图像显示装置,其特征在于,具备:
具有显示画面的显示器;
照明部,其以使照明光的光线与所述显示画面的法线在所述显示画面的前面侧斜交的方式配置在所述显示画面的外侧;以及
拍摄部,其对所述显示画面的前面方向逐次进行拍摄,取得拍摄图像。
9.根据权利要求8所述的图像显示装置,其特征在于,
所述照明部照射红外光。
10.根据权利要求8或9所述的图像显示装置,其特征在于,
所述拍摄部以使光轴与所述显示画面的法线在所述显示画面的前面侧斜交的方式配置在所述显示画面的外侧。
11.根据权利要求10所述的图像显示装置,其特征在于,
还具备检测由所述拍摄部拍摄到的拍摄图像的变化的检测部,
所述检测部基于使所述照明部进行照明地由所述拍摄部拍摄到的拍摄图像与不使所述照明部进行照明地由所述拍摄部拍摄到的拍摄图像的差,检测拍摄图像的变化。
12.根据权利要求8~11中任一项所述的图像显示装置,其特征在于,
还具备显示器支承部件,该显示器支承部件以能够改变所述显示画面相对于设置面的倾斜度的方式支承所述显示器,
所述拍摄部固定在自由旋转地轴支承于所述显示器的支承部件上,
所述支承部件具有抵接面,所述抵接面在将所述显示器设置于所述设置面上时与所述设置面抵接,并限定所述支承部件的旋转位置以使得所述拍摄部与所述显示器相对于所述设置面的倾斜度无关地指向恒定方向。
13.根据权利要求8~12中任一项所述的图像显示装置,其特征在于,
还具备显示器支承部件,该显示器支承部件以能够改变所述显示画面相对于设置面的倾斜度的方式支承所述显示器,
所述照明部以与所述显示器相对于所述设置面的倾斜度无关地指向恒定方向的方式固定在所述显示器支承部件上。
14.根据权利要求8~13中任一项所述的图像显示装置,其特征在于,
所述显示画面为大致矩形状,
所述照明部配置在所述显示画面的下边附近的大致中央部分。
15.一种数码像框,其特征在于,具备权利要求8~14中的任一项所述的图像显示装置。
16.一种物体检测装置,其特征在于,具备:
拍摄部,其以预定的帧频逐次进行拍摄,取得拍摄图像;
照明部,其发出由所述拍摄部拍摄时的照明光;以及
控制部,其进行切换控制以使所述照明部选择性地以第1光强度和比所述第1光强度小的第2光强度进行发光。
17.根据权利要求16所述的物体检测装置,其特征在于,
所述照明部发出红外光。
18.根据权利要求16或17所述的物体检测装置,其特征在于,
所述控制部与所述帧频同步地进行所述切换控制。
19.根据权利要求16~18中任一项所述的物体检测装置,其特征在于,
还具备检测由所述拍摄部拍摄到的拍摄图像的变化的检测部,
所述检测部基于使所述照明部以所述第1光强度进行照明地由所述拍摄部拍摄到的拍摄图像与使所述照明部以所述第2光强度进行照明地由所述拍摄部拍摄到的拍摄图像的差,检测拍摄图像的变化。
20.根据权利要求16~18中任一项所述的物体检测装置,其特征在于,
还具备检测由所述拍摄部拍摄到的拍摄图像的变化的检测部,
所述检测部基于使所述照明部以所述第1光强度进行照明地由所述拍摄部拍摄到的拍摄图像与使所述照明部以所述第2光强度进行照明地由所述拍摄部拍摄到的拍摄图像的差、以及所述第1光强度与所述第2光强度的比率,检测所述拍摄图像的变化。
21.根据权利要求16~18中任一项所述的物体检测装置,其特征在于,
所述控制部按所述第1光强度、所述第2光强度、比所述第2光强度小的第3光强度的顺序或者按所述第3光强度、所述第2光强度、所述第1光强度的顺序依次进行切换控制,以使所述照明部选择性地以所述第1光强度、所述第2光强度以及所述第3光强度进行发光。
22.根据权利要求21所述的物体检测装置,其特征在于,
所述第3光强度为零光强度。
23.根据权利要求21或22所述的物体检测装置,其特征在于,
还具备检测由所述拍摄部拍摄到的拍摄图像的变化的检测部,
所述检测部,对在使所述照明部以所述第1光强度进行照明地由所述拍摄部拍摄到的拍摄图像、使所述照明部以所述第2光强度进行照明地由所述拍摄部拍摄到的拍摄图像、以及使所述照明部以所述第3光强度进行照明地由所述拍摄部拍摄到的拍摄图像中,与所述第1光强度、所述第2光强度以及所述第3光强度的变化同样变化的部分进行检测,作为所述拍摄图像的变化。
24.根据权利要求21或22所述的物体检测装置,其特征在于,还具备:
对由所述拍摄部拍摄到的拍摄图像的变化进行检测的变化检测部;和
对存在于所述拍摄机构的视场内的照明的特性进行检测的照明特性检测部,
所述变化检测部选择性地执行第1模式、第2模式和第3模式中的任一方,
所述第1模式为如下模式:基于使所述照明部以所述第1光强度进行照明地由所述拍摄部拍摄到的拍摄图像与使所述照明部以所述第2光强度进行照明地由所述拍摄部拍摄到的拍摄图像的差,检测所述拍摄图像的变化,
所述第2模式为如下模式:基于使所述照明部以所述第1光强度进行照明地由所述拍摄部拍摄到的拍摄图像与使所述照明部以所述第2光强度进行照明地由所述拍摄部拍摄到的拍摄图像的差、以及所述第1光强度与所述第2光强度的比率,检测所述拍摄图像的变化,
所述第3模式为如下模式:对在使所述照明部以所述第1光强度进行照明地由所述拍摄部拍摄到的拍摄图像、使所述照明部以所述第2光强度进行照明地由所述拍摄部拍摄到的拍摄图像、以及使所述照明部以所述第3光强度进行照明地由所述拍摄部拍摄到的拍摄图像中,与所述第1光强度、所述第2光强度以及所述第3光强度的变化同样变化的部分进行检测,作为所述拍摄图像的变化,
所述控制部基于所述照明特性检测部的检测结果,决定所述变化检测部应执行的模式。
25.一种图像显示装置,其特征在于,具备:具有显示画面的显示器;和权利要求16~24中任一项所述的物体检测装置。
26.根据权利要求25所述的图像显示装置,其特征在于,
所述拍摄部以使光轴与所述显示画面的法线在所述显示画面的前面侧斜交的方式配置在所述显示画面的外侧。
27.根据权利要求25或26所述的图像显示装置,其特征在于,
所述照明部以使照明光的光线与所述显示画面的法线在所述显示画面的前面侧斜交的方式配置在所述显示画面的外侧。
28.一种数码像框,其特征在于,具备权利要求25~27中任一项所述的图像显示装置。
CN2012800053826A 2011-03-31 2012-03-16 图像显示装置及物体检测装置 Pending CN103329519A (zh)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
JP2011-080356 2011-03-31
JP2011080357A JP2012216032A (ja) 2011-03-31 2011-03-31 画像表示装置
JP2011080356A JP5862035B2 (ja) 2011-03-31 2011-03-31 物体検出装置
JP2011-080355 2011-03-31
JP2011-080357 2011-03-31
JP2011080355A JP5862034B2 (ja) 2011-03-31 2011-03-31 画像表示装置
PCT/JP2012/056838 WO2012132955A1 (ja) 2011-03-31 2012-03-16 画像表示装置及び物体検出装置

Publications (1)

Publication Number Publication Date
CN103329519A true CN103329519A (zh) 2013-09-25

Family

ID=46930688

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2012800053826A Pending CN103329519A (zh) 2011-03-31 2012-03-16 图像显示装置及物体检测装置

Country Status (3)

Country Link
US (1) US20130321643A1 (zh)
CN (1) CN103329519A (zh)
WO (1) WO2012132955A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105593786A (zh) * 2013-11-07 2016-05-18 英特尔公司 对象位置确定

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108700911A (zh) * 2016-03-11 2018-10-23 惠普发展公司,有限责任合伙企业 用于计算设备的支架
KR102573333B1 (ko) * 2016-06-28 2023-08-31 삼성디스플레이 주식회사 표시 장치
CN107219921B (zh) * 2017-05-19 2019-09-27 京东方科技集团股份有限公司 一种操作动作执行方法及其系统
WO2020140241A1 (zh) * 2019-01-03 2020-07-09 汕头市易普联科技有限公司 基于环境光分布场的自适应调节方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08211979A (ja) * 1995-02-02 1996-08-20 Canon Inc 手振り入力装置及び方法
JPH10177449A (ja) * 1996-10-18 1998-06-30 Toshiba Corp 情報入力装置及び情報入力方法及び補正データ生成装置及び固体撮像装置
CN1768322A (zh) * 2003-03-31 2006-05-03 东芝松下显示技术有限公司 显示装置及信息终端装置
US20090189858A1 (en) * 2008-01-30 2009-07-30 Jeff Lev Gesture Identification Using A Structured Light Pattern
CN101661329A (zh) * 2009-09-22 2010-03-03 北京中星微电子有限公司 智能终端的操作控制方法及装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4421013B2 (ja) * 1999-06-25 2010-02-24 株式会社東芝 小型電子機器およびこれを備えた小型電子機器システム
US20120069055A1 (en) * 2010-09-22 2012-03-22 Nikon Corporation Image display apparatus

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08211979A (ja) * 1995-02-02 1996-08-20 Canon Inc 手振り入力装置及び方法
JPH10177449A (ja) * 1996-10-18 1998-06-30 Toshiba Corp 情報入力装置及び情報入力方法及び補正データ生成装置及び固体撮像装置
CN1768322A (zh) * 2003-03-31 2006-05-03 东芝松下显示技术有限公司 显示装置及信息终端装置
US20090189858A1 (en) * 2008-01-30 2009-07-30 Jeff Lev Gesture Identification Using A Structured Light Pattern
CN101661329A (zh) * 2009-09-22 2010-03-03 北京中星微电子有限公司 智能终端的操作控制方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105593786A (zh) * 2013-11-07 2016-05-18 英特尔公司 对象位置确定
CN105593786B (zh) * 2013-11-07 2019-08-30 英特尔公司 对象位置确定

Also Published As

Publication number Publication date
WO2012132955A1 (ja) 2012-10-04
US20130321643A1 (en) 2013-12-05

Similar Documents

Publication Publication Date Title
CN108886569B (zh) 数码相机及数码相机的显示方法
US9307143B2 (en) Multimodal camera and a method for selecting an operation mode of a camera
CN102271222B (zh) 摄像设备
CN103167224B (zh) 具有多功能显示器的相机
TWI333254B (en) Image sensor testing method and apparatus
CN106254785B (zh) 图像传感器及用于改进非可见照明的方法
CN100594711C (zh) 数字照相机以及数字照相机的控制方法
US20100166404A1 (en) Device and Method Using a Touch-Detecting Surface
CN103329519A (zh) 图像显示装置及物体检测装置
CN107409171A (zh) 使用半导体光源的闪烁检测
TWI438766B (zh) 顯示模式控制裝置及記錄有顯示模式控制程式之記錄媒體
KR20030029116A (ko) 발광 소자, 발광 소자를 갖는 카메라 및 촬상
CN101772952A (zh) 摄像装置
US10904418B2 (en) Foldable electronic device and method for capturing view using at least two image sensors based on operating mode corresponding to folding angle
JP5930194B2 (ja) 端末装置及びプログラム
US20100110211A1 (en) Image presentation angle adjustment method and camera device using the same
CN110264394A (zh) 图像背景去除系统及方法、图像背景更换装置
JPWO2018150961A1 (ja) 撮影装置及びその制御方法並びに作動プログラム
US20220166916A1 (en) Imaging apparatus and method of controlling the same
JP6315026B2 (ja) 制御装置及びプログラム
JP5862034B2 (ja) 画像表示装置
JP2010068241A (ja) 撮像素子、撮像装置
CN106303212B (zh) 拍摄装置和拍摄方法
JP2019057902A (ja) 撮像装置、撮像方法、及びプログラム
JP2016106289A (ja) 撮像装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20130925