CN108535868A - 头部佩戴型显示装置及其控制方法 - Google Patents

头部佩戴型显示装置及其控制方法 Download PDF

Info

Publication number
CN108535868A
CN108535868A CN201810106475.7A CN201810106475A CN108535868A CN 108535868 A CN108535868 A CN 108535868A CN 201810106475 A CN201810106475 A CN 201810106475A CN 108535868 A CN108535868 A CN 108535868A
Authority
CN
China
Prior art keywords
image
display unit
head
mount type
dynamic image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810106475.7A
Other languages
English (en)
Other versions
CN108535868B (zh
Inventor
藤卷由贵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Publication of CN108535868A publication Critical patent/CN108535868A/zh
Application granted granted Critical
Publication of CN108535868B publication Critical patent/CN108535868B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4005Detecting, measuring or recording for evaluating the nervous system for evaluating the sensory system
    • A61B5/4023Evaluating sense of balance
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/211Input arrangements for video game devices characterised by their sensors, purposes or types using inertial sensors, e.g. accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/212Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/26Output arrangements for video game devices having at least one additional display device, e.g. on the game controller or outside a game booth
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • A63F13/525Changing parameters of virtual cameras
    • A63F13/5255Changing parameters of virtual cameras according to dedicated instructions from a player, e.g. using a secondary joystick to rotate the camera around a player's character
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4076Diagnosing or monitoring particular conditions of the nervous system
    • A61B5/4094Diagnosing or monitoring seizure diseases, e.g. epilepsy
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2250/00Miscellaneous game characteristics
    • A63F2250/49Miscellaneous game characteristics with provisions for connecting to a part of the body
    • A63F2250/497Head
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0185Displaying image at variable distance

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Optics & Photonics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Cardiology (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Physiology (AREA)
  • Neurology (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Neurosurgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

头部佩戴型显示装置及其控制方法。在透视型的头部佩戴型显示装置中,能够评价影像眩晕或光敏性癫痫的可能性。头部佩戴型显示装置具有能够透视看到外界的显示部。该头部佩戴型显示装置具有:处理部,其将动态图像显示在所述显示部上;以及外界传感器,其检测能够通过所述显示部透视看到的所述外界的运动。所述处理部取得通过所述外界传感器得到的所述外界的运动,对所取得的所述外界的运动和显示的所述动态图像进行合成,根据利用所述合成得到的合成动态图像来评价生物体影响。

Description

头部佩戴型显示装置及其控制方法
技术领域
本发明涉及头部佩戴型显示装置和头部佩戴型显示装置的控制方法。
背景技术
近年来,电视装置或投影仪装置等日益大屏幕化。在大屏幕的显示装置中,能够视听到身临其境感高的好看的影像,但有可能对生物体造成影像眩晕或光敏性癫痫等影响。因此,在再现影像的装置中,提出了各种用于防止影像眩晕或光敏性癫痫的技术。例如,在专利文献1中记载了如下的结构:从所输入的影像中提取图像对象,检测该图像对象占据屏幕的比例、和该图像对象的摆动频率而对影像的运动进行评价,判定该影像是否存在引起影像眩晕的可能性。
专利文献1:日本特开2012-165338号公报
专利文献2:日本特开2014-99028号公报
现有技术是在电视装置或投影仪装置等显示装置中进行影像眩晕的评价的技术。另一方面,在显示装置中,能够在使用者的眼前显示图像的头部佩戴型显示装置日益普及,特别是作为实现增强现实(AR:Augmented Reality)的方法之一,具有能够透视看到外界的透视型的头部佩戴型显示装置。利用透视型的头部佩戴型显示装置,使用者可同时看到外界和再现影像。在这样的透视型的头部佩戴型显示装置中,实际上在评价影像眩晕或光敏性癫痫的可能性方面尚未进行充分的研究。因此,在透视型的头部佩戴型显示装置中,期望有能够评价影像眩晕或光敏性癫痫的可能性的技术。
发明内容
本发明是为了解决上述课题的至少一部分而完成的,能够作为以下的方式来实现。
(1)根据本发明的一个方式,提供头部佩戴型显示装置,该头部佩戴型显示装置具有能够透视看到外界的显示部。该头部佩戴型显示装置具有:处理部,其将动态图像显示在所述显示部上;以及外界传感器,其检测能够通过所述显示部透视看到的所述外界的运动。所述处理部取得所述外界传感器所得到的所述外界的运动,对所取得的所述外界的运动和显示的所述动态图像进行合成,根据利用所述合成得到的合成动态图像来评价生物体影响。根据该方式的头部佩戴型显示装置,能够根据合成动态图像来评价生物体影响,其中,该合成动态图像是将透过显示部而实际到达使用者的眼睛的外界光的像和显示的动态图像合成而得到的。因此,根据该方式的头部佩戴型显示装置,能够高精度地评价对同时看到外界和显示动态图像的使用者的身体的不良影响。
(2)在所述头部佩戴型显示装置中,所述外界传感器也可以是拍摄能够通过所述显示部透视看到的所述外界的照相机,所述处理部取得所述照相机所得到的拍摄图像,通过对所取得的所述拍摄图像和显示的所述动态图像进行合成,得到所述合成动态图像。根据该方式的头部佩戴型显示装置,能够通过简单的结构进一步提高评价的精度。
(3)在所述头部佩戴型显示装置中,所述外界传感器也可以是取得距离图像的距离图像传感器,该距离图像表示能够通过所述显示部透视看到的所述外界的进深,所述处理部取得所述距离图像传感器所得到的距离图像,通过对所取得的所述距离图像和显示的所述动态图像进行合成,得到所述合成动态图像。根据该方式的头部佩戴型显示装置,能够通过简单的结构进一步提高评价的精度。
(4)在所述头部佩戴型显示装置中,所述处理部也可以根据所述照相机的照相机特性,校准所取得的所述拍摄图像,并使用校准后的所述拍摄图像进行所述合成。根据该方式的头部佩戴型显示装置,能够进一步提高评价的精度。
(5)在所述头部佩戴型显示装置中,所述照相机特性也可以至少包含透过所述显示部而到达使用者的外界光相对于所述拍摄图像的位置。根据该方式的头部佩戴型显示装置,能够进一步提高评价的精度。
(6)在所述头部佩戴型显示装置中,所述处理部也可以根据所述显示部的显示特性,校准显示的所述动态图像,并使用校准后的所述动态图像进行所述合成。根据该方式的头部佩戴型显示装置,能够进一步提高评价的精度。
(7)在所述头部佩戴型显示装置中,当通过所述评价识别出生物体影响较大时,也可以进行针对使用者的通知。根据该方式的头部佩戴型显示装置,使用者可以知道动态图像的视听可能对身体带来不良影响。
(8)在所述头部佩戴型显示装置中,当通过所述评价识别出生物体影响较大时,也可以缩小所述显示部上显示的所述动态图像的尺寸。根据该方式的头部佩戴型显示装置,能够抑制对使用者带来身体上的不良影响的可能性。
(9)在所述头部佩戴型显示装置中,所述处理部也可以将所述合成动态图像发送到执行对生物体影响进行评价的评价处理的服务器,将所述评价移交给所述服务器,并接收来自所述服务器的评价结果。根据该方式的头部佩戴型显示装置,能够减少头部佩戴型显示装置中的生物体影响评价所需的负担。
(10)在所述头部佩戴型显示装置中,所述处理部也可以取得使用者的生物体信息,根据所取得的生物体信息改变所述评价的结果。根据该方式的头部佩戴型显示装置,能够高精度地评价对同时看到外界和显示动态图像的使用者造成的影像眩晕。
(11)在所述头部佩戴型显示装置中,所述生物体影响也可以是影像眩晕。根据该方式的头部佩戴型显示装置,能够高精度地评价对同时看到外界和显示动态图像的使用者造成的影像眩晕。
本发明也可以通过头部佩戴型显示装置以外的各种方式实现。例如,能够通过头部佩戴型显示装置的控制方法、用于实现头部佩戴型显示装置所具有的各结构要素的功能的计算机程序、记录有该计算机程序的记录介质等实现。
附图说明
图1是示出第1实施方式的头部佩戴型显示装置的概略结构的说明图。
图2是示出图像显示部所具有的光学系统的结构的主要部分俯视图。
图3是示出由使用者看到的图像显示部的主要部分结构的图。
图4是用于说明照相机的视场角的图。
图5是示出HMD的电结构的框图。
图6是功能性地示出控制装置的结构的框图。
图7是示出HMD所进行的图像显示的一例的说明图。
图8是示出HMD所进行的图像显示的另一例的说明图。
图9是示出影像眩晕防止处理的流程图。
图10是示出作用效果的说明图。
图11是示出包含第2实施例的HMD的显示系统的概略结构的说明图。
图12是示出包含第3实施例的HMD的显示系统的概略结构的说明图。
图13是示出第4实施方式中的头部佩戴型显示装置的概略结构的说明图。
图14是示出进深图的一例的说明图。
图15是示出变形例的图像显示部所具有的光学系统的结构的主要部分俯视图。
标号说明
10:控制装置;12:点亮部;14:触控板;16:方向键;17:确定键;18:电源开关;19:振动器;20:图像显示部;21:右保持部;22:右显示单元;23:左保持部;24:左显示单元;26:右导光板;27:前部框架;28:左导光板;30:头戴式耳机话筒;32:右耳机;34:左耳机;40:连接线缆;46:连接器;61:照相机;63:话筒;65:照度传感器;67:LED指示器;100:头部佩戴型显示装置(HMD);110:操作部;111:6轴传感器;113:磁传感器;115:GPS接收器;117:无线通信部;118:存储器;120:控制器基板;121:非易失性存储部;122:存储功能部;123:设定数据;124:内容数据;130:电源部;132:电池;134:电源控制电路;140:主处理器;145:图像处理部;147:显示控制部;149:摄像控制部;150:控制功能部;151:输入输出控制部;153:通信控制部;155:影像再现部;180:语音编解码器;182:语音接口;184:外部连接器;186:外部存储器接口;188:USB连接器;192:传感器中枢;196:接口;210:显示单元基板;211:接口;213:接收部;215:EEPROM;217:温度传感器;221、221a:OLED单元;223、223a:OLED面板;225:OLED驱动电路;227:调制元件;230:显示单元基板;231:接口;233:接收部;235:6轴传感器;237:磁传感器;239:温度传感器;241、241a:OLED单元;243、243a:OLED面板;245:OLED驱动电路;247:调制元件;251:右光学系统;252:左光学系统;261:半透半反镜;281:半透半反镜;291:振动器;300:控制部;400:服务器;410:控制部;600:手表型可佩戴设备;610:心率测量部;710:进深传感器。
具体实施方式
A.第1实施方式:
A-1.头部佩戴型显示装置的基本结构:
图1是示出本发明第1实施方式的头部佩戴型显示装置的概略结构的说明图。头部佩戴型显示装置100是佩戴于使用者的头部的显示装置,也称为头戴式显示器(HeadMounted Display、HMD)。HMD 100是在透过玻璃而看到的外界之中浮现出图像的透视型(透过型)的头部佩戴型显示装置。
HMD 100具有供使用者看到图像的图像显示部20和对图像显示部20进行控制的控制装置(控制器)10。
图像显示部20是佩戴于使用者的头部的佩戴体,在本实施方式中具有眼镜形状。图像显示部20在支承体上具有右显示单元22、左显示单元24、右导光板26、以及左导光板28,其中,该支承体具有右保持部21、左保持部23、前部框架27。
右保持部21以及左保持部23分别从前部框架27的两端部向后方延伸,如眼镜的镜腿(边撑)那样,将图像显示部20保持于使用者的头部。这里,将前部框架27的两端部中的、在图像显示部20的佩戴状态下位于使用者右侧的端部设为端部ER,将位于使用者左侧的端部设为端部EL。右保持部21设置为从前部框架27的端部ER延伸至图像显示部20的佩戴状态下的、与使用者的右侧头部对应的位置处。左保持部23设置为从前部框架27的端部EL延伸至图像显示部20的佩戴状态下的、与使用者的左侧头部对应的位置处。
右导光板26以及左导光板28设置于前部框架27。右导光板26位于图像显示部20的佩戴状态下的使用者的右眼的眼前,使右眼看到图像。左导光板28位于图像显示部20的佩戴状态下的使用者的左眼的眼前,使左眼看到图像。
前部框架27具有将右导光板26的一端与左导光板28的一端相互连结的形状。该连结位置与图像显示部20的佩戴状态下的使用者的眉间位置对应。可以在前部框架27上的右导光板26与左导光板28的连结位置处,设置有在图像显示部20的佩戴状态下抵靠于使用者的鼻子的鼻托部。在该情况下,能够通过鼻托部、右保持部21和左保持部23将图像显示部20保持于使用者的头部。此外,可以对右保持部21以及左保持部23连结在图像显示部20的佩戴状态下与使用者的后头部接触的带。在该情况下,能够通过带将图像显示部20牢固地保持于使用者的头部。
右显示单元22进行基于右导光板26的图像显示。右显示单元22设置于右保持部21,位于图像显示部20的佩戴状态下的使用者的右侧头部的附近。左显示单元24进行基于左导光板28的图像显示。左显示单元24设置于左保持部23,位于图像显示部20的佩戴状态下的使用者的左侧头部的附近。另外,也将右显示单元22和左显示单元24统称为“显示驱动部”。
本实施方式的右导光板26以及左导光板28是由透光性的树脂等形成的光学部(例如棱镜),将右显示单元22以及左显示单元24输出的图像光引导至使用者的眼睛。另外,也可以在右导光板26和左导光板28的表面设置调光板。调光板是透过率根据光的波段而不同的薄板状的光学元件,作为所谓的波长滤波器而发挥功能。调光板例如被配置成将前部框架27的表面(与使用者的眼睛对置的面的相反侧的面)覆盖。通过适当选择调光板的光学特性,能够对可见光、红外部光和紫外部光等任意波段的光的透过率进行调整,并能够对从外部入射到右导光板26和左导光板28并透过右导光板26和左导光板28的外部光的光量进行调整。
图像显示部20将右显示单元22和左显示单元24分别生成的图像光引导至右导光板26和左导光板28,利用该图像光令使用者看到图像(增强现实(AR)图像)(也将此称为“显示图像”)。在外部光从使用者的前方透过右导光板26和左导光板28入射到使用者的眼睛的情况下,构成图像的图像光和外部光入射到使用者的眼睛。因此,使用者对图像的可视性受到外部光的强度影响。
因此,例如能够通过在前部框架27上安装调光板,并适当选择或调整调光板的光学特性来调整图像被看到的容易度。在典型的例子中,可以选择如下的调光板:该调光板具有使佩戴了HMD 100的使用者至少能够看到外部景色的程度的透光性。当使用调光板时,可以期待如下的效果:保护右导光板26和左导光板28,从而抑制右导光板26和左导光板28的损伤或污物的附着等。也可以是,调光板能够分别相对于前部框架27或右导光板26和左导光板28进行拆装。并且,可以更换多种调光板来进行拆装,也可以省略调光板。
照相机61配置于图像显示部20的前部框架27。照相机61在前部框架27的前表面上设置于不遮挡透过右导光板26以及左导光板28的外部光的位置处。在图1的例子中,照相机61配置于前部框架27的端部ER侧。照相机61也可以配置于前部框架27的端部EL侧,还可以配置于右导光板26与左导光板28的连结部。
照相机61是具有CCD、CMOS等摄像元件以及摄像镜头等的数码照相机。本实施方式的照相机61是单眼照相机,但也可以采用立体照相机。照相机61拍摄HMD100的表侧方向(换言之,在图像显示部20的佩戴状态下使用者所看到的视野方向)的、至少一部分外界(真实空间)。换言之,照相机61拍摄与使用者的视野重叠的范围或方向,拍摄使用者所看到的方向。照相机61的视场角的宽度能够适当设定。在本实施方式中,照相机61的视场角的宽度被设定为拍摄使用者能够透过右导光板26以及左导光板28而看到的、使用者的整个视野。照相机61根据控制功能部150(图6)的控制来执行摄像,将得到的摄像数据向控制功能部150输出。照相机61具有进行动态拍摄的动态图像拍摄模式和进行静态图像拍摄的静态图像拍摄模式,是能够在动态图像拍摄模式和静态图像拍摄模式之间进行切换的结构。
HMD 100也可以具有测距传感器,该测距传感器对到达位于预先设定的测量方向上的测量对象物的距离进行检测。测距传感器例如能够配置在前部框架27的右导光板26与左导光板28的连结部分。测距传感器的测量方向可以是HMD 100的表侧方向(与照相机61的拍摄方向重叠的方向)。测距传感器例如可以由LED或激光二极管等发光部、和接收光源所发出的光在测量对象物上反射的反射光的受光部构成。在该情况下,通过三角测距处理或基于时间差的测距处理来求出距离。测距传感器例如也可以由发出超声波的发送部、和接收在测量对象物上反射的超声波的接收部构成。在该情况下,通过基于时间差的测距处理来求出距离。测距传感器与照相机61同样被控制功能部150(图6)控制,并将检测结果向控制功能部150输出。
图2是示出图像显示部20所具有的光学系统的结构的主要部分俯视图。为了便于说明,在图2中图示出了使用者的右眼RE以及左眼LE。如图2所示,右显示单元22与左显示单元24构成为左右对称。
右显示单元22具有OLED(Organic Light Emitting Diode:有机电致发光二极管)单元221以及右光学系统251,作为使右眼RE看到图像(AR图像)的结构。OLED单元221发出图像光。右光学系统251具有透镜组等,将OLED单元221发出的图像光L引导至右导光板26。
OLED单元221具有OLED面板223以及驱动OLED面板223的OLED驱动电路225。OLED面板223是由通过有机电致发光而发光并分别发出R(红)、G(绿)、B(蓝)的色光的发光元件构成的自发光型的显示面板。在OLED面板223中,以各包含1个R、G、B的元件的单位为1个像素的多个像素配置为矩阵状。
OLED驱动电路225按照控制功能部150(图6)的控制来执行OLED面板223所具有的发光元件的选择以及通电,使发光元件发光。OLED驱动电路225通过粘接等固定于OLED面板223的背面、即发光面的背面侧。OLED驱动电路225例如可以由驱动OLED面板223的半导体器件构成,并安装于固定在OLED面板223的背面的基板上。在该基板上安装有后述的温度传感器217(图5)。另外,OLED面板223可以采用如下结构:将发出白色光的发光元件配置为矩阵状,并重叠配置与R、G、B的各色对应的滤色器。此外,除了分别放射R、G、B的色光的发光元件之外,也可以采用具有放射W(白)的光的发光元件的WRGB结构的OLED面板223。
右光学系统251具有使从OLED面板223射出的图像光L成为平行状态的光束的准直透镜。通过准直透镜而成为平行状态的光束的图像光L入射到右导光板26。在右导光板26的内部引导光的光路上形成有反射图像光L的多个反射面。图像光L在右导光板26的内部经过多次反射而被引导至右眼RE侧。在右导光板26上形成有位于右眼RE的眼前的半透半反镜261(反射面)。图像光L被半透半反镜261反射后从右导光板26向右眼RE射出,该图像光L在右眼RE的视网膜成像,由此,令使用者看到图像。
左显示单元24具有OLED单元241以及左光学系统252,作为使左眼LE看到图像(AR图像)的结构。OLED单元241发出图像光。左光学系统252具有透镜组等,将OLED单元241发出的图像光L引导至左导光板28。OLED单元241具有OLED面板243以及驱动OLED面板243的OLED驱动电路245。各部分的细节与OLED单元221、OLED面板223、OLED驱动电路225相同。在固定于OLED面板243的背面的基板上安装有温度传感器239(图5)。此外,左光学系统252的细节与右光学系统251相同。
根据以上说明的结构,HMD 100能够作为透视型的显示装置而发挥功能。即,被半透半反镜261反射后的图像光L以及透过右导光板26的外部光OL入射到使用者的右眼RE。被半透半反镜281反射后的图像光L以及透过左导光板28的外部光OL入射到使用者的左眼LE。这样,HMD 100使在内部处理后的图像的图像光L与外部光OL重叠地入射到使用者的眼中。其结果是,使用者能够透过右导光板26以及左导光板28而看到外界(真实世界),并且与该外界重叠地看到了基于图像光L的图像(AR图像)。
半透半反镜261和半透半反镜281作为对右显示单元22和左显示单元24分别输出的图像光进行反射而提取图像的“图像提取部”而发挥功能。并且,将右光学系统251和右导光板26也统称为“右导光部”,将左光学系统252和左导光板28也统称为“左导光部”。右导光部和左导光部的结构并不限于上述例子,只要使用图像光在使用者的眼前形成图像,则能够使用任意的方式。例如,右导光部以及左导光部可以使用衍射光栅,也可以使用半透过反射膜。
在图1中,控制装置10和图像显示部20利用连接线缆40连接。连接线缆40以能够拆装的方式与设置于控制装置10的下部的连接器连接,从左保持部23的末端AL连接到图像显示部20内部的各种电路。连接线缆40具有传输数字数据的金属线缆或光纤线缆。连接线缆40还可以包含传输模拟数据的金属线缆。在连接线缆40的中途设置有连接器46。
连接器46是连接立体声迷你插头的插孔,连接器46和控制装置10例如用传输模拟语音信号的线连接。在图1所示的本实施方式的例子中,连接器46与头戴式耳机话筒30连接,该头戴式耳机话筒30具有构成立体声耳机的右耳机32和左耳机34、以及话筒63。
例如,如图1所示,话筒63被配置成使话筒63的语音采集部朝向使用者的视线方向。话筒63采集语音,将语音信号输出到语音接口182(图5)。话筒63可以是单声道话筒,也可以是立体声话筒,可以是定向话筒,也可以是全向话筒。
控制装置10是用于控制HMD 100(特别是图像显示部20)的装置。控制装置10相当于“处理部”。控制装置10包含点亮部12、触控板14、方向键16、确定键17以及电源开关18。点亮部12利用其发光状态来通知HMD 100的工作状态(例如,电源的接通/断开等)。作为点亮部12,例如,可以使用LED(Light Emitting Diode:发光二极管)。
触控板14检测触控板14的操作面上的接触操作而输出与检测内容对应的信号。作为触控板14,可以采用静电式、压力检测式或光学式之类的各种触控板。方向键16检测针对与上下左右方向对应的键的按下操作而输出与检测内容对应的信号。确定键17检测按下操作而输出用于确定在控制装置10中所操作的内容的信号。电源开关18通过检测开关的滑动操作来切换HMD 100的电源的状态。
图3是示出由使用者看到的图像显示部20的主要部分结构的图。在图3中,省略了连接线缆40、右耳机32、左耳机34的图示。在图3的状态下,能够看到右导光板26以及左导光板28的背面侧,并且能够看到大致四边形区域的、用于向右眼RE照射图像光的半透半反镜261以及用于向左眼LE照射图像光的半透半反镜281。使用者可透过包含这些半透半反镜261、281的左右导光板26、28的整体而看到外界,并且在半透半反镜261、281的位置处看到矩形的显示图像。
图4是用于说明照相机61的视场角的图。在图4中,俯视地示意性示出照相机61、使用者的右眼RE以及左眼LE,并且用λ来表示照相机61的视场角(拍摄范围)。另外,照相机61的视场角λ除了如图示那样沿水平方向扩展之外,还与通常的数码照相机同样地沿铅直方向扩展。
如上述那样,照相机61在图像显示部20中配置于右侧的端部,拍摄使用者的视线的方向(即使用者的前方)。因此,照相机61的光轴处于包含右眼RE以及左眼LE的视线方向的方向上。使用者在佩戴有HMD 100的状态下能够看到的外界不限于无限远。例如,当使用者使用双眼注视对象物OB时,使用者的视线如图中的标号RD、LD所示那样朝向对象物OB。在该情况下,从使用者至对象物OB的距离大多情况下为30cm~10m左右,更多情况下为1m~4m。因此,关于HMD 100,可以确定通常使用时的从使用者至对象物OB的距离的上限以及下限的基准。该基准可以预先求得并预设置在HMD 100中,使用者也可以设定该基准。照相机61的光轴以及视场角优选被设定为:使得在这样的通常使用时的、与对象物OB的距离对应于所设定的上限以及下限的基准的情况下,对象物OB包含在视场角内。
另外,一般情况下,人的视野角在水平方向上大约为200度、在垂直方向上大约为125度。其中,信息接受能力优异的有效视野在水平方向上为30度左右、垂直方向上为20度左右。人注视的注视点能够迅速地稳定观察到的稳定注视视野在水平方向上为60~90度、在垂直方向上为45~70度左右。在该情况下,当注视点为对象物OB(图4)时,以视线RD、LD为中心而在水平方向上为30度、在垂直方向上为20度左右是有效视野。此外,在水平方向上为60~90度、在垂直方向上为45~70度左右是稳定注视视野。将使用者透过图像显示部20的右导光板26以及左导光板28而看到的实际视野称为真实视野(FOV:Field Of View)。真实视野比视野角以及稳定注视视野窄,但比有效视野宽。
本实施方式的照相机61的视场角λ被设定为能够拍摄比使用者的视野宽的范围。照相机61的视场角λ优选被设定为至少能够拍摄比使用者的有效视野宽的范围,更优选被设定为能够拍摄比真实视野宽的范围。照相机61的视场角λ进一步优选被设定为能够拍摄比使用者的稳定注视视野宽的范围,最优选被设定为能够拍摄比使用者的双眼的视野角宽的范围。因此,照相机61可以采用如下结构:具有所谓的广角镜头作为摄像镜头从而能够拍摄较宽的视场角。广角镜头可以包含被称为超广角镜头以及准广角镜头的镜头。此外,照相机61可以包含单焦点镜头,也可以包含变焦镜头,还可以包含由多个镜头组成的镜头组。
图5是示出HMD 100的电结构的框图。控制装置10具有:主处理器140,其执行程序而控制HMD 100;存储部;输入输出部;传感器类;接口;以及电源部130。主处理器140分别与这些存储部、输入输出部、传感器类、接口以及电源部130连接。主处理器140安装于内置有控制装置10的控制器基板120。
存储部包含存储器118以及非易失性存储部121。存储器118构成了临时存储由主处理器140执行的计算机程序以及由主处理器140处理的数据的工作区。非易失性存储部121由闪存或eMMC(embedded Multi Media Card:嵌入式多媒体卡)构成。非易失性存储部121存储有主处理器140执行的计算机程序以及由主处理器140处理的各种数据。在本实施方式中,这些存储部安装于控制器基板120。
输入输出部包含触控板14和操作部110。操作部110包含控制装置10所具有的方向键16、确定键17和电源开关18。主处理器140对这各个输入输出部进行控制,并且取得从各输入输出部输出的信号。
传感器类包含6轴传感器111、磁传感器113以及GPS(Global PositioningSystem:全球定位系统)接收器115。6轴传感器111是具有3轴加速度传感器和3轴陀螺仪(角速度)传感器的运动传感器(惯性传感器)。6轴传感器111可以采用将这些传感器模块化而得的IMU(Inertial Measurement Unit:惯性测量装置)。磁传感器113例如是3轴的地磁传感器。GPS接收器115具有未图示的GPS天线,接收从GPS卫星发送的无线信号,从而检测控制装置10的当前位置的坐标。这些传感器类(6轴传感器111、磁传感器113、GPS接收器115)按照预先指定的采样频率将检测值输出到主处理器140。各传感器输出检测值的时刻可以基于来自主处理器140的指示。
接口包含无线通信部117、语音编解码器180、外部连接器184、外部存储器接口186、USB(Universal Serial Bus:通用串行总线)连接器188、传感器中枢192、FPGA 194以及接口196。它们作为与外部的接口而发挥功能。无线通信部117执行HMD 100与外部设备之间的无线通信。无线通信部117构成为具有未图示的天线、RF电路、基带电路以及通信控制电路等,或者作为将它们整合而得的器件。无线通信部117进行基于例如包含Bluetooth(注册商标)和Wi-Fi(注册商标)的无线LAN等标准的无线通信。
语音编解码器180与语音接口182连接,进行经由语音接口182输入输出的语音信号的编码/解码。语音接口182是输入输出语音信号的接口。语音编解码器180可以具有进行从模拟语音信号向数字语音数据的转换的A/D转换器、以及进行从数字语音数据向模拟语音信号的转换的D/A转换器。本实施方式的HMD 100从右耳机32(图1)以及左耳机34输出语音,并通过话筒63采集语音。语音编解码器180将主处理器140输出的数字语音数据转换为模拟语音信号,并经由语音接口182而输出。此外,语音编解码器180将输入到语音接口182的模拟语音信号转换为数字语音数据并输出到主处理器140。
外部连接器184是用于将与主处理器140进行通信的外部装置(例如,个人计算机、智能手机、游戏设备等)连接到主处理器140的连接器。与外部连接器184连接的外部装置除了能够作为内容的供给方之外,还能够用于主处理器140执行的计算机程序的调试、HMD100的工作日志的收集。外部连接器184能够采用各种方式。作为外部连接器184,例如能够采用USB接口、微型USB接口、存储卡用接口等与有线连接对应的接口,或者无线LAN接口、Bluetooth接口等与无线连接对应的接口。
外部存储器接口186是能够用于连接可移动型的存储器件的接口。外部存储器接口186例如包含用于安装卡型记录介质而进行数据的读写的存储卡槽、以及接口电路。卡型记录介质的尺寸、形状、规格等能够适当选择。USB连接器188是能够连接基于USB标准的存储器件、智能手机、个人计算机等的接口。
USB连接器188例如包含基于USB标准的连接器以及接口电路。USB连接器188的尺寸、形状、USB标准的版本等能够适当选择。
传感器中枢192以及FPGA 194经由接口(I/F)196与图像显示部20连接。传感器中枢192取得图像显示部20所具有的各种传感器的检测值,并输出到主处理器140。FPGA 194执行在主处理器140与图像显示部20的各部分之间收发的数据的处理以及经由接口196的传送。接口196分别与图像显示部20的右显示单元22和左显示单元24连接。在本实施方式的例子中,连接线缆40与左保持部23连接,与该连接线缆40(图1)相连的布线铺设在图像显示部20内部,右显示单元22和左显示单元24分别与控制装置10的接口196连接。
并且,HMD 100具有振动器19。振动器19具有未图示的电机以及偏芯的转子等,根据主处理器140的控制而产生振动。例如在检测到对操作部110的操作的情况下、或HMD 100的电源接通断开的情况下等,HMD 100使振动器19按照规定的振动模式产生振动。
电源部130包含电池132以及电源控制电路134。电源部130供给用于供控制装置10动作的电力。电池132是能够充电的电池。电源控制电路134进行电池132的剩余容量的检测以及对OS 143的充电的控制。电源控制电路134与主处理器140连接,将电池132的剩余容量的检测值、电池132的电压的检测值输出到主处理器140。另外,可以根据电源部130所供给的电力而从控制装置10向图像显示部20供给电力。可以构成为:能够通过主处理器140来控制从电源部130向控制装置10的各部分以及图像显示部20的电力的供给状态。
右显示单元22具有显示单元基板210、OLED单元221、照相机61、照度传感器65、LED指示器67以及温度传感器217。在显示单元基板210上安装有与接口196连接的接口(I/F)211、接收部(Rx)213以及EEPROM(Electrically Erasable Programmable Read-OnlyMemory:电可擦可编程只读存储器)215。接收部213接收经由接口211而从控制装置10输入的数据。接收部213在接收到OLED单元221所显示的图像的图像数据的情况下,将接收到的图像数据输出到OLED驱动电路225(图2)。
EEPROM 215以主处理器140能够读取的方式存储各种数据。EEPROM 215例如存储图像显示部20的与OLED单元221、241的发光特性、显示特性相关的数据、与右导光板26和左导光板28的光学特性(光线透过率、扩散率等)相关的数据、与右显示单元22或者左显示单元24的传感器特性相关的数据等。具体而言,例如,存储与OLED单元221、241的伽马校正相关的参数、与右导光板26和左导光板28的亮度校正相关的参数、对后述的温度传感器217、239的检测值进行补偿的数据等。这些数据通过HMD 100的工厂出货时的检查而生成,并被写入EEPROM 215中。在出货后,主处理器140读入EEPROM 215的数据而将其用于各种处理。
照相机61根据经由接口211输入的信号执行拍摄,并将拍摄图像数据或者表示拍摄结果的信号输出到控制装置10。如图1所示,照度传感器65设置于前部框架27的端部ER,配置为接受来自佩戴有图像显示部20的使用者的前方的外部光。照度传感器65输出与受光量(受光强度)对应的检测值。如图1所示,LED指示器67在前部框架27的端部ER配置于照相机61的附近。LED指示器67在照相机61执行拍摄的过程中点亮,从而告知处于拍摄中。
温度传感器217检测温度,并输出与检测到的温度对应的电压值或者电阻值。温度传感器217安装于OLED面板223(图3)的背面侧。温度传感器217例如可以与OLED驱动电路225安装于同一基板。通过该结构,温度传感器217主要检测OLED面板223的温度。另外,温度传感器217可以内置于OLED面板223或者OLED驱动电路225。例如,在将OLED面板223作为Si-OLED而与OLED驱动电路225一起安装为集成半导体芯片上的集成电路的情况下,可以将温度传感器217安装于该半导体芯片。
左显示单元24具有显示单元基板230、OLED单元241以及温度传感器239。在显示单元基板230上安装有与接口196连接的接口(I/F)231、接收部(Rx)233、6轴传感器235以及磁传感器237。接收部233接收经由接口231而从控制装置10输入的数据。接收部233在接收到OLED单元241所显示的图像的图像数据的情况下,将接收到的图像数据输出到OLED驱动电路245(图2)。
6轴传感器235是具有3轴加速度传感器以及3轴陀螺仪(角速度)传感器的运动传感器(惯性传感器)。6轴传感器235可以采用将上述传感器模块化而得的IMU。磁传感器237例如是3轴的地磁传感器。6轴传感器235与磁传感器237设置于图像显示部20,因此,在图像显示部20被佩戴于使用者的头部时,检测使用者的头部的运动。根据检测出的头部的运动来确定图像显示部20的朝向(即,使用者的视野)。
温度传感器239检测温度,并输出与检测的温度对应的电压值或者电阻值。温度传感器239安装于OLED面板243(图3)的背面侧。温度传感器239例如可以与OLED驱动电路245安装于同一基板。通过该结构,温度传感器239主要检测OLED面板243的温度。温度传感器239可以内置于OLED面板243或者OLED驱动电路245。细节与温度传感器217相同。
并且,图像显示部20具有振动器291。振动器291具有未图示的电机以及偏芯的转子等,根据控制装置10的控制而产生振动。在本实施方式中,振动频率为对人体灵敏度较高的250Hz以下。振动强度被调整为接触部的皮肤位移为0.1μm以上。在本实施方式中,如图3所示,振动器291被埋设到鼻托29中。另外,振动器291的配设位置无需限制在鼻托29那样的图像显示部20的正面侧,可以是前部框架27的右侧的端部ER(若以眼镜为例,则为右侧的镜框架部),也可以是前部框架27的左侧的端部EL(若以眼镜为例,则为左侧的镜框架部)。
右显示单元22的照相机61、照度传感器65、温度传感器217以及左显示单元24的6轴传感器235、磁传感器237、温度传感器239与控制装置10的传感器中枢192连接。传感器中枢192根据主处理器140的控制,进行各传感器的采样周期的设定以及初始化。传感器中枢192按照各传感器的采样周期来执行对各传感器的通电、控制数据的发送、检测值的取得等。传感器中枢192在预先设定的时刻,将右显示单元22以及左显示单元24所具有的各传感器的检测值输出到主处理器140。传感器中枢192可以具有临时保存各传感器的检测值的缓存功能。传感器中枢192可以具有各传感器的检测值的信号形式、数据形式的转换功能(例如,向统一形式的转换功能)。
FPGA 194根据主处理器140的控制使对LED指示器67的通电开始以及停止,由此,使LED指示器67点亮或熄灭。并且,FPGA 194根据主处理器140的控制使对振动器291的通电开始以及停止,由此,使振动器291振动或停止。
图6是功能性地示出控制装置10的结构的框图。控制装置10在功能上具有存储功能部122以及控制功能部150。存储功能部122是由非易失性存储部121(图5)构成的逻辑存储部。对于存储功能部122,可以替代仅使用存储功能部121的结构,而采用与非易失性存储部121组合使用EEPROM 215、存储器118的结构。控制功能部150是通过主处理器140执行计算机程序、即硬件与软件协作而构成的。
存储功能部122存储有用于控制功能部150的处理的各种数据。具体而言,本实施方式的存储功能部122存储有设定数据123以及内容数据124。设定数据123包含与HMD 100的动作相关的各种设定值。例如,设定数据123包含控制功能部150控制HMD 100时的参数、行列式、运算式、LUT(Look Up Table:查找表)等。
内容数据124包含内容数据(图像数据、影像数据、语音数据等),该内容数据包含图像显示部20通过控制功能部150的控制而显示的图像、影像。另外,内容数据124可以包含双向型的内容数据。双向型的内容是指如下类型的内容:通过操作部110取得使用者的操作,由控制功能部150执行与所取得的操作内容对应的处理,并将与处理内容对应的内容显示在图像显示部20上。在该情况下,内容数据可以包含用于取得使用者的操作的菜单画面的图像数据、对与菜单画面所包含的项目对应的处理进行确定的数据等。影像数据是表示动态图像的动态图像数据。
控制功能部150利用存储功能部122所存储的数据来执行各种处理,从而执行作为OS143、图像处理部145、显示控制部147、摄像控制部149、输入输出控制部151、通信控制部153、影像再现部155的功能。在本实施方式中,OS 143以外的各功能部作为在OS 143上执行的计算机程序而构成。
图像处理部145根据图像显示部20显示的图像/影像的图像数据,生成发送到右显示单元22以及左显示单元24的信号。图像处理部145生成的信号可以是垂直同步信号、水平同步信号、时钟信号、模拟图像信号等。除了主处理器140执行计算机程序而实现的结构之外,图像处理部145也可以由与主处理器140不同的硬件(例如,DSP(Digital SignalProcessor:数字信号处理器))构成。
另外,图像处理部145可以根据需要执行分辨率转换处理、图像调整处理、2D/3D转换处理等。分辨率转换处理是将图像数据的分辨率转换为与右显示单元22以及左显示单元24相适应的分辨率的处理。图像调整处理是调整图像数据的亮度、饱和度的处理或伽马校正等。2D/3D转换处理是根据三维图像数据生成二维图像数据,或者,根据二维图像数据生成三维图像数据的处理。图像处理部145在执行了这些处理的情况下,根据处理后的图像数据生成用于显示图像的信号,并经由连接线缆40发送到图像显示部20。
显示控制部147生成对右显示单元22以及左显示单元24进行控制的控制信号,并通过该控制信号来控制右显示单元22和左显示单元24各自的图像光的生成和射出。具体而言,显示控制部147控制OLED驱动电路225、245,执行基于OLED面板223、243的图像显示。显示控制部147根据图像处理部145输出的信号,进行OLED驱动电路225、245在OLED面板223、243上进行描绘的时刻的控制、OLED面板223、243的亮度的控制等。
摄像控制部149对照相机61进行控制而使其执行拍摄,生成拍摄图像数据,并临时存储到存储功能部122中。并且,在照相机61构成为包含生成拍摄图像数据的电路的照相机单元的情况下,摄像控制部149从照相机61取得拍摄图像数据,并临时存储到存储功能部122中。
输入输出控制部151对触控板14(图1)、方向键16和确定键17进行适当控制而取得来自它们的输入指令。所取得的指令被输出到OS 143、或在输出到OS 143的同时被输出到在OS 143上运行的计算机程序。OS 143、或在OS 143上运行的计算机程序根据这些输入指令,使显示在图像显示部20的屏幕上的光标移动。通信控制部153对无线通信部117进行控制而在无线通信部117与外部设备之间进行无线通信。
影像再现部155再现作为内容数据124的影像数据(动态图像数据)。影像再现部155在再现影像数据时执行影像眩晕防止处理。之后对影像眩晕防止处理进行详述。
图7是示出HMD 100所进行的图像显示的一例的说明图。在图7中,例示了能够透过右导光板26和左导光板28而看到的使用者的视野VT。如上述那样,被引导至HMD 100的使用者的两眼的图像光在使用者的视网膜上成像,从而使用者看到作为增强现实(AR)的图像AI。在图7的例子中,图像AI是HMD 100的OS的菜单画面。菜单画面例如包含用于启动“消息”、“电话”、“照相机”、“浏览器”、“影像观看”等各个应用程序的图标IC。
并且,通过使左右的导光板26、28透过来自外界SC的光而令使用者看到外界SC。在图7的例子中,外界SC是室内的景致。这样,本实施方式的HMD的使用者能够使视野VT中的显示有图像AI的部分与外界SC重叠而看到图像AI。并且,关于视野VT中的未显示图像AI的部分,只能够看到外界SC。
图8是示出HMD 100所进行的图像显示的另一例的说明图。在图8中。例示了能够透过右导光板26和左导光板28而看到的使用者的视野VT。使用者看到作为增强现实(AR)的影像VA。并且,使用者也能够看到外界(例如室内)SC。使用者通过指定“影像观看”的图标IC(图7)来启动“影像观看”的应用程序,进行内容为从该应用程序下的操作画面再现作为内容数据124的影像数据的指示。影像再现部155(图6)与图像处理部145和显示控制部147协作而再现(显示)存在再现指示的影像数据。通过再现而显示的影像的画面是影像VA。
A-2.影像眩晕防止处理:
图9是示出影像眩晕防止处理的流程图。在通过影像再现部155再现影像数据时,通过控制装置10的主处理器140来每规定的时间地反复执行该影像眩晕防止处理。规定的时间是根据影像数据的帧频而确定的时间,在再现影像数据时,与切换帧的时刻同步地执行影像眩晕防止处理。另外,在通过影像再现部155再现影像数据时,照相机61总是以动态图像拍摄模式进行工作。动态图像拍摄模式时的帧频可以与影像数据的帧频相同,也可以不同。例如,也可以使照相机61的拍摄的帧频比影像数据的帧频小。
当开始处理时,主处理器140从照相机61所得到的拍摄动态图像取得最新的帧(步骤S110)。“帧”是构成动态图像的一个个静态图像。
接着,主处理器140根据照相机61的照相机特性,校准所取得的帧(步骤S120)。这里所说的校准是指如下的处理:使照相机61所拍摄到的图像与透过右导光板26和左导光板28而实际到达使用者的眼睛的外界光(像)一致,具体而言是进行位置对准和颜色匹配。在控制装置10的存储器118中预先存储有照相机特性的数据,其中,该照相机特性表示所述透过而实际到达使用者的眼睛的外界光(像)的位置和颜色(RGB)相对于照相机61的拍摄图像的差分。在步骤S120中,从存储器118读出差分数据,根据差分数据来校正通过步骤S110取得的帧,从而进行上述位置对准和颜色匹配。
另外,在步骤S120的校准的处理中,也可以构成为根据图像显示部20所具有的照度传感器65的检测值来校正照相机特性数据。具体而言,在照度传感器65的检测值较大的情况下,向实际到达作为基准的使用者眼睛的外界光强度变大的一侧校正照相机特性数据。在照度传感器65的检测值较小的情况下,向实际到达作为基准的使用者眼睛的外界光强度变小的一侧校正照相机特性数据。并且,步骤S120的校准的处理也可以构成为仅进行位置对准而不进行颜色匹配。
接着,主处理器140取得通过影像再现部155再现的动态图像数据的当前显示的帧(步骤S130)。
接着,主处理器140根据图像显示部20的显示特性,校准通过步骤S130取得的帧(步骤S140)。在该校准中,进行与在显示动态图像数据时通过图像处理部145进行的图像调整处理相同的处理。具体而言,使用之前说明的预先存储于EEPROM215的、例如图像显示部20的与OLED单元221、241的发光特性或显示特性相关的数据(例如,伽马值)、与右导光板26和左导光板28的光学特性(光线透过率、扩散率等)相关的数据(例如、亮度)等,对通过步骤S130取得的帧也进行利用图像处理部14进行的图像调整处理。
接着,主处理器140进行如下的处理(步骤S150):对通过步骤S120进行了校准后的拍摄动态图像的帧、和通过步骤S140进行了校准后的再现动态图像的帧进行合成。这里所说的合成是指使再现动态图像的帧叠加在拍摄动态图像的帧内的规定的范围。“规定的范围”例如是指以拍摄动态图像的帧的四个角的1点(例如,左上角)为原点,通过以横向为x方向、纵向为y方向的x-y坐标系的两点来确定的矩形的范围。该规定的范围与使用者的视野VT(参照图8)中的影像VA(图8)的位置和尺寸一致。在合成时,以该帧与规定的范围的尺寸一致的方式,对再现动态图像的帧进行缩小或放大。
作为步骤S150中的合成结果,能够得到与使用者透过左右的导光板26、28而看到的图像相同的图像。在执行步骤S150时得到的合成图像是一帧的静态图像,通过每规定的时间地反复执行该影像眩晕防止处理,能够得到将照相机61的拍摄动态图像和内容数据124的再现动态图像合成的合成动态图像。
之后,主处理器140进行如下的处理:评价通过合成得到的合成动态图像的影像眩晕(步骤S160)。具体而言,除了在执行此次影像眩晕防止处理时得到的合成图像,还使用在执行上次(或包括上次之前的次数在内)的影像眩晕防止处理时得到的合成图像来执行影像眩晕评价处理。
视觉全局运动是影像眩晕的较大的影响因素。能够通过分析视觉全局运动来评价影像眩晕,作为评价方法,公知有各种方法。例如,在专利文献1(日本特开2012-165338号公报)所记载的评价方法中,从所输入的影像中提取图像对象,检测该图像对象占据屏幕的比例和该图像对象的摆动频率而对影像的运动进行评价。例如,在专利文献2(日本特开2014-99028号公报)所记载的评价方法中,从包含有运动补偿帧间预测编码后的帧的动态图像编码数据中,取得帧的各像素块的运动矢量,将所取得的运动矢量量化为代表运动矢量而对各代表运动矢量的频数进行计数,从代表运动矢量中提取频数较大的代表运动矢量来作为表征影像的运动的特征运动矢量,关于与特征运动矢量对应的像素块,从动态图像编码数据中取得帧的位置信息,根据特征运动矢量和与特征运动矢量对应的像素块的位置信息来评价影像的运动。
接着,主处理器140判定在步骤S160的评价中是否识别出存在影像眩晕的可能性(步骤S170)。这里,在判定为存在影像眩晕的可能性的情况下,主处理器140使设置于图像显示部20的振动器291振动(步骤S180)。通过使振动器291进行振动,HMD 100的使用者可以知道正在再现的动态图像存在影像眩晕的可能性。
在步骤S180中,通过使振动器291进行振动来提醒使用者注意,但也可以构成为从左右的耳机32、34(图1)以语音的方式进行通知,来替代使振动器291进行振动。或者,也可以构成为通过在图像显示部20上显示内容为提醒注意的消息或标记来进行通知。并且,也可以替代进行通知的结构,采用将再现动态图像切换为造成影像眩晕的可能性较低的动态图像的结构。具体而言,也可以通过使再现动态图像的显示尺寸变小来降低造成影像眩晕的可能性。或者,也可以通过从再现动态图像中切去被判断为造成影像眩晕的可能性较高的部分(例如对象或块)来降低造成影像眩晕的可能性。
在执行步骤S180之后,主处理器140使处理进入“返回”,暂时结束该影像眩晕防止处理。在步骤S170中,在判定为不存在影像眩晕的可能性的情况下,不执行步骤S180的处理,而使处理进入“返回”,暂时结束该影像眩晕防止处理。
A-3.关于实施方式的作用效果:
根据如以上那样构成的第1实施方式的HMD 100,能够根据合成动态图像来评价影像眩晕,其中,该合成动态图像是由透过右导光板26和左导光板28而实际到达使用者的眼睛的外界光的像和再现动态图像合成得到的。因此,根据第1实施方式的HMD 100,能够高精度地评价对同时看到外界SC和显示动态图像的使用者造成影像眩晕的可能性。并且,由于合成前的外界光的像根据照相机61的照相机特性被校准,所以评价的精度变得更高。此外,由于合成前的再现动态图像根据图像显示部20的显示特性被校准,所以评价的精度变得更高。
图10是示出第1实施方式的头部佩戴型显示装置100的作用效果的说明图。图中的P1是通过步骤S120(图9)得到的校准后的照相机61的拍摄动态图像的一例。图中的VP是通过步骤S130(图9)得到的校准后的再现动态图像的一例。通过步骤S150(图9)的合成来得到合成动态图像SP1。例如,在照相机61的拍摄动态图像P1所包含的图像对象(例如楼梯)B1不会移动、再现动态图像VP是造成影像眩晕的可能性较低的图像的情况下,根据基于合成动态图像SP1的影像眩晕评价处理(步骤S160),评价为不存在影像眩晕的可能性。
图中的P2是通过步骤S120(图9)得到的校准后的照相机61的拍摄动态图像的另一例。在该拍摄动态图像P2所包含的图像对象(例如荧光灯)B2存在闪烁等动作的情况下,例如即使在再现动态图像VP是造成影像眩晕的可能性较低的图像的情况下,根据基于合成动态图像SP2的影像眩晕评价处理(步骤S160),有时也评价为存在影像眩晕的可能性。另一方面,根据仅基于再现动态图像来进行影像眩晕评价的现有例,评价为不存在影像眩晕的可能性。本实施方式消除了这样错误的评价。
另外,在拍摄动态图像和再现动态图像都不存在全局运动的情况下,在通过透视显示将拍摄动态图像和再现动态图像重叠的情况下,有时拍摄动态图像与再现动态图像也会相互影响而产生引起全局运动的部位。在该情况下,在现有例的情况下,也评价为不存在影像眩晕的可能性,但在本实施方式中,能够高精度地评价为存在影像眩晕的可能性。
B.第2实施方式:
图11是示出包含第2实施例中的HMD 300的显示系统的概略结构的说明图。该显示系统具有HMD 300和服务器400。
HMD 300与第1实施方式中的HMD 100相比,差异仅为影像眩晕防止处理(图9)的步骤S160的内容,在其他点上相同。HMD 300借助通信运营商BS来利用无线通信与因特网INT连接。通信运营商BS包含收发天线、无线基站和交换站。
服务器400利用有线通信与因特网INT连接。其结果是,HMD 300与服务器400相互通过因特网INT来连接。服务器400具有控制部410。控制部410具有CPU或存储器,该控制部410对服务器400的动作整体进行控制。控制部410利用CPU来执行存储于存储器的计算机程序,从而执行影像眩晕评价处理。
在HMD 300中,在影像眩晕防止处理(图9)的步骤S160中,将通过步骤S150得到的合成动态图像发送到服务器400,将合成动态图像的评价移交给服务器400。服务器400的控制部300取得经由因特网INT发送来的合成动态图像,根据所取得的合成动态图像来进行影像眩晕评价处理。影像眩晕评价处理的内容与第1实施方式中的步骤S160的方法相同。然后,控制部300将影像眩晕评价处理的评价结果发送到HMD 300。接收了评价结果的HMD 300使处理进入影像眩晕防止处理(图9)的步骤S170。
根据以上方式构成的第2实施方式的显示系统,与第1实施方式同样,能够高精度地评价对同时看到外界SC和显示动态图像的使用者造成影像眩晕的可能性。并且,由于通过HMD 300的外侧的服务器400来进行影像眩晕评价,所以能够减少HMD300侧的影像眩晕评价所需的负担。
C.第3实施方式:
图12是示出包含第3实施例中的HMD 500的显示系统的概略结构的说明图。该显示系统具有HMD 500和手表型可佩戴设备600。
HMD 500与第1实施方式中的HMD 100相比,差异仅为影像眩晕防止处理的内容,在其他点上相同。HMD 500与手表型可佩戴设备600通过无线来连接,能够相互进行通信。
除计时功能之外,手表型可佩戴设备600还具有心率测量部610。心率测量部610通过光电式容积脉搏记录法来测量使用者的心率。另外,手表型可佩戴设备600也可以被替换成不具有计时功能的带型可佩戴设备。
在HMD 500中执行的影像眩晕防止处理与第1实施方式中的影像眩晕防止处理(图9)相比,差异为在步骤S160中执行的影像眩晕评价处理的内容。在HMD 500中构成为:从手表型可佩戴设备600接收使用者的心率,在影像眩晕评价处理中,根据心率改变用于判定是否存在影像眩晕的可能性的阈值。当心率比预先确定的值高时,使阈值变低而容易识别出存在影像眩晕的可能性,当心率比所述预先设定的值低时,使阈值变高而不容易识别出存在影像眩晕的可能性。
根据如以上那样构成的第3实施方式的显示系统,与第1实施方式同样,能够高精度地评价对同时看到外界SC和显示动态图像的使用者造成影像眩晕的可能性。特别是在本实施方式中,由于考虑到使用者的心率来评价影像眩晕容易度,所以能够更高精度地进行评价。
另外,作为第3实施方式的变形例,也可以构成为影像眩晕评价处理与第1实施方式相同,在通过影像眩晕评价处理判定为存在影像眩晕的可能性的情况下对使用者的心率进行监视。在监视中,在使用者的心率存在高于规定的值以上的变化的情况下,假设为使用者出现影像眩晕的症状而停止动态图像的再现。根据该结构,能够防止出现影像眩晕的症状的使用者的症状恶化。
D.第4实施方式:
图13是示出第4实施例中的HMD 700的概略结构的说明图。该HMD 700与第1实施方式的HMD 100相比,不同点为具有进深传感器710和影像眩晕防止处理的结构,其他点相同。进深传感器710例如配置在使用者佩戴了图像显示部20时的与使用者的鼻根部对应的位置。进深传感器710是测量进深(距离)的传感器。进深传感器710是“距离图像传感器”。在第4实施方式的影像眩晕防止处理中,将外界视为二维的图像,从进深传感器710的输出信号生成利用像素的灰度来表示该图像的各像素中的进深的进深图(距离图像)。
图14是示出进深图的一例的说明图。如图示那样,进深图DP是灰度图像,利用灰度来表示各像素中的进深(距离)。在第4实施方式的影像眩晕防止处理中,将进深图作为要与再现动态图像的帧合成的对方目标帧来进行合成,并评价合成动态图像的影像眩晕。另外,在第1实施方式中,根据照相机特性,校准拍摄动态图像,但在第4实施方式中,也可以构成为根据进深传感器710的特性,校准距离图像。另外,该校准不是必需的,也可以是不进行该校准的结构。
根据如以上那样构成的第4实施方式的HMD 700,与第1实施方式同样,能够高精度地评价对同时看到外界SC和显示动态图像的使用者造成影像眩晕的可能性。另外,作为第4实施方式的变形例,也可以替代进深传感器710而使用激光测距仪(LRF:Laser RangeFinder)。此外,只要是检测能够通过图像显示部20看到的外界的运动的外界传感器,则不需要限制于第1~3实施方式中的照相机61、第4实施方式中的进深传感器710、第4实施方式的变形例中的激光测距仪以及红外线进深传感器等,可以采用各种结构。
E.变形例:
另外,本发明并不限于第1~第3实施方式及其变形例,能够在不脱离其主旨的范围内实施各种方式,例如,也可以进行如下的变形。
·变形例1:
在各实施方式和变形例中,作为评价生物体影响的处理,执行了影像眩晕评价处理。也可以取而代之,作为变形例,采用评价有关光敏性癫痫的可能性的处理。作为光敏性癫痫的评价方法,当在图像内闪烁有高亮度区域例如RGB分别为240以上(8位)的区域的情况下,判定为引起发作的可能性较高。并且,作为评价生物体影响的处理,也可以构成为评价影像眩晕的可能性和光敏性癫痫的可能性的两者。此外,作为生物体影响,考虑了因立体影像导致的视觉疲劳。在HMD显示3D影像时,也可以构成为执行对因立体影像导致的视觉疲劳进行评价的处理。
·变形例2:
在各实施方式和变形例中,用于合成的拍摄图像是通过照相机61在动态图像拍摄模式下拍摄的动态图像。也可以取而代之,作为变形例,用于合成的拍摄图像是通过照相机61在静态摄影模式下拍摄的静态图像。
·变形例3:
在各实施方式和变形例中,采用了将校准拍摄动态图像的帧的处理(图9的步骤S120)与校准再现动态图像的帧的处理(图9的步骤S140)一起进行的结构,但也可以采用只进行任意一方的结构。此外,还可以采用两方的校准都不进行的结构。
·变形例4:
在第3实施方式中,采用了计测使用者的心率而根据心率来改变评价生物体影响的评价处理的评价结果的结构。也可以取而代之,作为变形例,采用对使用者的血压进行测量而根据血压改变评价结果的结构。此外,也可以构成为根据呼吸、胃电波形、皮肤电活动、脉搏、出汗量、体重扰动、脑波、心电图(ECG)信号、眼球运动、眨眼活动、瞳孔运动等各种生物体信息,改变评价结果。
·变形例5:
在各实施方式和变形例中,可以将由硬件实现的结构的一部分换成软件,相反地,也可以将由软件实现的结构的一部分换为硬件。
·变形例6:
在上述实施方式中,例示了HMD的结构。但是,HMD的结构能够在不脱离本发明的主旨的范围内任意确定,例如,可以进行结构要素的追加、删除、转换等。
·变形例7:
在上述实施方式中,对控制装置10和图像显示部20的功能部进行了说明,但可以任意变更它们。例如,也可以采用如下方式。在控制装置10中搭载存储功能部122和控制功能部150,在图像显示部20中仅搭载显示功能的方式。在控制装置10和图像显示部20这两者中搭载存储功能部122和控制功能部150的方式。使控制装置10和图像显示部20一体化的方式。在该情况下,例如,图像显示部20包含控制装置10的所有结构要素,构成为眼镜型的可佩戴计算机。替代控制装置10而使用智能手机或便携式游戏设备的方式。控制装置10和图像显示部20利用无线通信连接并省略了连接线缆40的方式。在该情况下,例如,也可以以无线的方式实施针对控制装置10或图像显示部20的供电。
·变形例8:
在上述实施方式中,对控制装置10所具有的输入单元的一例进行了说明。但是,控制装置10可以省略所例示的一部分输入单元而构成,也可以具有未被说明的其他输入单元。例如,控制装置10也可以具有操作杆、键盘、鼠标等。例如,控制装置10也可以具有解释与使用者的身体动作等相对应的指令的输入单元。例如,能够通过检测视线的视线检测、检测手的动作的手势检测、检测脚的动作的脚踏开关等取得使用者的身体动作等。另外,例如,能够通过拍摄图像显示部20的内侧的照相机来实现视线检测。例如,能够通过对由照相机61伴随时间经过而拍摄到的图像进行图像分析来实现手势检测。
在上述实施方式中,控制功能部150通过使主处理器140执行存储功能部122内的计算机程序而进行动作。但是,控制功能部150可以采用各种结构。例如,也可以替代存储功能部122或者与存储功能部122一起在非易失性存储部121、EEPROM215、存储器118、其他外部存储装置(包括插入到各种接口的USB存储器等存储装置、经由网络连接的服务器等外部装置)中储存计算机程序。并且,也可以使用为了实现控制功能部150的各功能而设计的ASIC(Application Specific Integrated Circuit:专用集成电路)来实现该功能。
·变形例9:
在上述实施方式中,例示了图像显示部的结构。但是,图像显示部的结构能够在不脱离本发明的主旨的范围内任意地确定,例如,能够进行结构要素的追加、删除、转换等。
图15是示出变形例的图像显示部所具有的光学系统的结构的主要部分俯视图。在变形例的图像显示部中,设置有与使用者的右眼RE对应的OLED单元221a和与左眼LE对应的OLED单元241a。与右眼RE对应的OLED单元221a具有:OLED面板223a,其发出白色光;以及OLED驱动电路225,其对OLED面板223a进行驱动而使该OLED面板223a发光。在OLED面板223a与右光学系统251之间配置有调制元件227(调制装置)。调制元件227例如由透过型液晶面板构成,对OLED面板223a所发出的光进行调制而生成图像光L。透过调制元件227而进行了调制的图像光L被右导光板26引导至右眼RE。
与左眼LE对应的OLED单元241a具有:OLED面板243a,其发出白色光;以及OLED驱动电路245,其对OLED面板243a进行驱动而使该OLED面板243a发光。在OLED面板243a与左光学系统252之间配置有调制元件247(调制装置)。调制元件247例如由透过型液晶面板构成,对OLED面板243a所发出的光进行调制而生成图像光L。透过调制元件247而进行了调制的图像光L被左导光板28引导至左眼LE。调制元件227、247与未图示的液晶驱动电路连接。该液晶驱动电路(调制装置驱动部)例如在配置于调制元件227、247的附近的基板上安装。
根据变形例的图像显示部,右显示单元22和左显示单元24分别构成为影像元件,该影像元件具有作为光源部的OLED面板223a、243a和对光源部所发出的光进行调制而输出包含多种色光的图像光的调制元件227、247。另外,对OLED面板223a、243a所发出的光进行调制的调制装置并不限定于采用透过型液晶面板的结构。例如,可以替代透过型液晶面板而使用反射型液晶面板,也可以使用数字微镜器件,还可以使用激光视网膜投影型的HMD100。
在上述实施方式中,对眼镜型的图像显示部20进行了说明,但图像显示部20的方式可以任意地变更。例如,可以是像帽子那样佩戴图像显示部20的方式,也可以是内置于头盔等身体防护用具的方式。并且,图像显示部20也可以构成为搭载于汽车或飞机等车辆或者其他交通手段上的HUD(Head Up Display:平视显示器)。
在上述实施方式中,作为将图像光引导至使用者的眼睛的光学系统,例示了在右导光板26和左导光板28的一部分中通过半透半反镜261、281形成虚像的结构。但是,该结构可以任意地变更。例如,也可以在占据右导光板26和左导光板28的整个面(或大部分)的区域中形成虚像。在该情况下,也可以通过使图像的显示位置发生变化的动作来缩小图像。并且,本发明的光学元件并不限定于具有半透半反镜261、281的右导光板26和左导光板28,只要使用将图像光入射到使用者的眼睛的光学部件(例如,衍射光栅、棱镜、全息照相机等),则可以采用任意的方式。
本发明并不限于上述实施方式和实施例、变形例,能够在不脱离其主旨的范围内以各种结构实现。例如,为了解决上述课题的一部分或全部,或者为了达成上述效果的一部分或全部,可以对与发明内容栏所记载的各方式中的技术特征对应的实施方式、实施例、变形例中的技术特征进行适当替换或组合。并且,除非该技术特征在本说明书中是作为必需的技术特征而说明的,否则可以适当删除。

Claims (12)

1.一种头部佩戴型显示装置,其具有能够透视看到外界的显示部,在该头部佩戴型显示装置中,具有:
处理部,其将动态图像显示在所述显示部上;以及
外界传感器,其检测能够通过所述显示部透视看到的所述外界的运动,
所述处理部取得所述外界传感器所得到的所述外界的运动,对所取得的所述外界的运动和显示的所述动态图像进行合成,根据利用所述合成得到的合成动态图像来评价生物体影响。
2.根据权利要求1所述的头部佩戴型显示装置,其中,
所述外界传感器是拍摄能够通过所述显示部透视看到的所述外界的照相机,
所述处理部取得所述照相机所得到的拍摄图像,通过对所取得的所述拍摄图像和显示的所述动态图像进行合成,得到所述合成动态图像。
3.根据权利要求1所述的头部佩戴型显示装置,其中,
所述外界传感器是取得距离图像的距离图像传感器,该距离图像表示能够通过所述显示部透视看到的所述外界的进深,
所述处理部取得所述距离图像传感器所得到的距离图像,通过对所取得的所述距离图像和显示的所述动态图像进行合成,得到所述合成动态图像。
4.根据权利要求2所述的头部佩戴型显示装置,其中,
所述处理部根据所述照相机的照相机特性,校准所取得的所述拍摄图像,并使用校准后的所述拍摄图像来进行所述合成。
5.根据权利要求4所述的头部佩戴型显示装置,其中,
所述照相机特性至少包含透过所述显示部而到达使用者的外界光相对于所述拍摄图像的位置。
6.根据权利要求1~5中的任意一项所述的头部佩戴型显示装置,其中,
所述处理部根据所述显示部的显示特性,校准显示的所述动态图像,并使用校准后的所述动态图像来进行所述合成。
7.根据权利要求1~6中的任意一项所述的头部佩戴型显示装置,其中,
当通过所述评价识别出生物体影响较大时,进行针对使用者的通知。
8.根据权利要求1~6中的任意一项所述的头部佩戴型显示装置,其中,
当通过所述评价识别出生物体影响较大时,缩小所述显示部上显示的所述动态图像的尺寸。
9.根据权利要求1~8中的任意一项所述的头部佩戴型显示装置,其中,
所述处理部将所述合成动态图像发送到执行对生物体影响进行评价的评价处理的服务器,将所述评价移交给所述服务器,并接收来自所述服务器的评价结果。
10.根据权利要求1~9中的任意一项所述的头部佩戴型显示装置,其中,
所述处理部取得使用者的生物体信息,并根据所取得的生物体信息改变所述评价的结果。
11.根据权利要求1~10中的任意一项所述的头部佩戴型显示装置,其中,
所述生物体影响是影像眩晕。
12.一种头部佩戴型显示装置的控制方法,该头部佩戴型显示装置具有能够透视看到外界的显示部,在该头部佩戴型显示装置的控制方法中,具有如下的步骤:
将动态图像显示在所述显示部上;以及
检测能够通过所述显示部透视看到的所述外界的运动,
在显示所述动态图像的步骤中,
取得通过检测所述外界的运动的步骤而得到的所述外界的运动,
对所取得的所述外界的运动和显示的所述动态图像进行合成,
根据利用所述合成得到的合成动态图像来评价生物体影响。
CN201810106475.7A 2017-03-01 2018-02-02 头部佩戴型显示装置及其控制方法 Active CN108535868B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-037983 2017-03-01
JP2017037983A JP2018148257A (ja) 2017-03-01 2017-03-01 頭部装着型表示装置およびその制御方法

Publications (2)

Publication Number Publication Date
CN108535868A true CN108535868A (zh) 2018-09-14
CN108535868B CN108535868B (zh) 2022-03-22

Family

ID=63355646

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810106475.7A Active CN108535868B (zh) 2017-03-01 2018-02-02 头部佩戴型显示装置及其控制方法

Country Status (3)

Country Link
US (1) US10782528B2 (zh)
JP (1) JP2018148257A (zh)
CN (1) CN108535868B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112967193A (zh) * 2021-03-02 2021-06-15 Oppo广东移动通信有限公司 图像校准方法及装置、计算机可读介质和电子设备

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6440910B2 (ja) * 2016-07-29 2018-12-19 三菱電機株式会社 表示装置、表示制御装置および表示制御方法
US11030732B2 (en) * 2017-04-14 2021-06-08 Sony Interactive Entertainment Inc. Information processing device, information processing system, and image processing method for generating a sum picture by adding pixel values of multiple pictures
CN110547759A (zh) * 2018-05-31 2019-12-10 托比股份公司 鲁棒会聚信号
KR20200099047A (ko) * 2019-02-13 2020-08-21 주식회사 싸이큐어 씨스루 헤드 마운트 디스플레이를 위한 실세계 영상 왜곡 방법 및 실세계 영상 왜곡 기능을 가지는 씨스루 헤드 마운트 디스플레이
KR102185519B1 (ko) * 2019-02-13 2020-12-02 주식회사 싸이큐어 다이렉트 인코딩 방식의 씨스루 헤드 마운트 디스플레이를 위한 실세계 영상 왜곡 방법 및 실세계 영상 왜곡 기능을 가지는 다이렉트 인코딩 방식의 씨스루 헤드 마운트 디스플레이
US11363247B2 (en) * 2020-02-14 2022-06-14 Valve Corporation Motion smoothing in a distributed system
DE102020118213A1 (de) 2020-07-10 2022-01-13 Audi Aktiengesellschaft Verfahren zum Vorbeugen oder Reduzieren von Reisekrankheit, Steuereinrichtung, Kraftfahrzeug, und tragbares Accessoire
US11620780B2 (en) * 2020-11-18 2023-04-04 Microsoft Technology Licensing, Llc Multiple device sensor input based avatar
US11736679B2 (en) * 2021-01-27 2023-08-22 Meta Platforms Technologies, Llc Reverse pass-through glasses for augmented reality and virtual reality devices

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101163236A (zh) * 2006-10-10 2008-04-16 Itt制造企业公司 用于动态地校正头戴视频系统中的视差的系统和方法
CN101930125A (zh) * 2009-06-22 2010-12-29 索尼公司 头戴型显示器以及头戴型显示器中的图像显示方法
US20120182206A1 (en) * 2011-01-17 2012-07-19 Ronald Steven Cok Head-mounted display control with sensory stimulation
CN104238738A (zh) * 2013-06-07 2014-12-24 索尼电脑娱乐美国公司 在头戴式系统内产生增强虚拟现实场景的系统和方法
CN104252042A (zh) * 2013-06-28 2014-12-31 精工爱普生株式会社 头部佩戴式显示装置以及头部佩戴式显示装置的控制方法
US20160131908A1 (en) * 2014-11-07 2016-05-12 Eye Labs, LLC Visual stabilization system for head-mounted displays
CN105611267A (zh) * 2014-11-21 2016-05-25 罗克韦尔柯林斯公司 现实世界和虚拟世界图像基于深度和色度信息的合并
US20160167672A1 (en) * 2010-05-14 2016-06-16 Wesley W. O. Krueger Systems and methods for controlling a vehicle or device in response to a measured human response to a provocative environment

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012165338A (ja) 2011-02-09 2012-08-30 Canon Inc 画像処理装置、画像処理方法及びプログラム
JP5918618B2 (ja) * 2011-06-03 2016-05-18 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
JP6208936B2 (ja) 2012-11-14 2017-10-04 国立大学法人広島大学 映像動き評価方法および映像動き評価装置
US9630105B2 (en) * 2013-09-30 2017-04-25 Sony Interactive Entertainment Inc. Camera based safety mechanisms for users of head mounted displays
US10235806B2 (en) * 2014-11-21 2019-03-19 Rockwell Collins, Inc. Depth and chroma information based coalescence of real world and virtual world images
JP6362631B2 (ja) * 2016-01-15 2018-07-25 株式会社meleap 画像表示システム、画像表示システムの制御方法、画像配信システムおよびヘッドマウントディスプレイ
CN107544145B (zh) * 2016-06-28 2021-06-01 松下知识产权经营株式会社 头部佩戴型显示器装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101163236A (zh) * 2006-10-10 2008-04-16 Itt制造企业公司 用于动态地校正头戴视频系统中的视差的系统和方法
CN101930125A (zh) * 2009-06-22 2010-12-29 索尼公司 头戴型显示器以及头戴型显示器中的图像显示方法
US20160167672A1 (en) * 2010-05-14 2016-06-16 Wesley W. O. Krueger Systems and methods for controlling a vehicle or device in response to a measured human response to a provocative environment
US20120182206A1 (en) * 2011-01-17 2012-07-19 Ronald Steven Cok Head-mounted display control with sensory stimulation
CN104238738A (zh) * 2013-06-07 2014-12-24 索尼电脑娱乐美国公司 在头戴式系统内产生增强虚拟现实场景的系统和方法
CN104252042A (zh) * 2013-06-28 2014-12-31 精工爱普生株式会社 头部佩戴式显示装置以及头部佩戴式显示装置的控制方法
US20160131908A1 (en) * 2014-11-07 2016-05-12 Eye Labs, LLC Visual stabilization system for head-mounted displays
CN105611267A (zh) * 2014-11-21 2016-05-25 罗克韦尔柯林斯公司 现实世界和虚拟世界图像基于深度和色度信息的合并

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112967193A (zh) * 2021-03-02 2021-06-15 Oppo广东移动通信有限公司 图像校准方法及装置、计算机可读介质和电子设备

Also Published As

Publication number Publication date
JP2018148257A (ja) 2018-09-20
US10782528B2 (en) 2020-09-22
CN108535868B (zh) 2022-03-22
US20180252922A1 (en) 2018-09-06

Similar Documents

Publication Publication Date Title
CN108535868A (zh) 头部佩戴型显示装置及其控制方法
JP7087481B2 (ja) 頭部装着型表示装置、表示制御方法、およびコンピュータープログラム
CN108205197A (zh) 显示装置和显示装置的控制方法
CN109491496A (zh) 头部佩戴型显示装置和头部佩戴型显示装置的控制方法
CN105589199A (zh) 显示装置、显示装置的控制方法以及程序
US10842349B2 (en) Endoscope operation support system
CN108572726A (zh) 透过型显示装置、显示控制方法和记录介质
JP7035510B2 (ja) 表示システム、及び、表示システムの制御方法
CN109960039B (zh) 显示系统、电子设备以及显示方法
US11575877B2 (en) Utilizing dual cameras for continuous camera capture
JP2018160735A (ja) 透過型表示装置、表示制御方法、およびコンピュータープログラム
JP2019164420A (ja) 透過型頭部装着型表示装置および透過型頭部装着型表示装置の制御方法、透過型頭部装着型表示装置の制御のためのコンピュータープログラム
JP6554948B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2019124849A (ja) 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法
CN108376029A (zh) 显示系统
CN105739095A (zh) 显示装置以及显示装置的控制方法
JP2019128693A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
JP2018137505A (ja) 表示装置およびその制御方法
JP2017116562A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2019105885A (ja) 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法
US20230229000A1 (en) Eyewear eye-tracking using optical waveguide
JP6784056B2 (ja) 頭部装着型表示装置、表示システム、頭部装着型表示装置の制御方法、およびコンピュータープログラム
JP2018042004A (ja) 表示装置、頭部装着型表示装置、及び、表示装置の制御方法
JP2017134630A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2018091882A (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant