CN110709920A - 图像处理设备及其控制方法 - Google Patents
图像处理设备及其控制方法 Download PDFInfo
- Publication number
- CN110709920A CN110709920A CN201880037345.0A CN201880037345A CN110709920A CN 110709920 A CN110709920 A CN 110709920A CN 201880037345 A CN201880037345 A CN 201880037345A CN 110709920 A CN110709920 A CN 110709920A
- Authority
- CN
- China
- Prior art keywords
- image
- synchronization signal
- section
- image signal
- shift
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/38—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/10—Intensity circuits
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0464—Positioning
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0464—Positioning
- G09G2340/0471—Vertical positioning
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0464—Positioning
- G09G2340/0478—Horizontal positioning
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Controls And Circuits For Display Device (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Transforming Electric Information Into Light Information (AREA)
Abstract
本发明的目的是能够生成给人较少不舒服感的显示图像。提供了一种图像处理设备,具有:输入部,其用于接收构成移动图像的帧图像,作为图像信号和同步信号;接受部,其用于接受指示给定显示单元的垂直方向上的帧图像显示位置改变的图像移位指令;校正部,其用于基于图像移位指令校正同步信号;以及输出部,其用于将图像信号与校正后同步信号相互关联地输出。在图像移位指令中所包括的垂直方向上的图像移位量超过规定量的情况下,所述校正部进行与小于或等于所述规定量的图像移位量对应的校正。
Description
技术领域
本发明涉及一种生成通过在垂直方向和/或水平方向上移位输入图像获得的图像的图像处理技术。
背景技术
近年来,包括HMD(头戴式显示器)的系统受到关注。HMD用作MR(混合现实)系统或VR(虚拟现实)系统的视觉显示设备。作为MR技术之一,已知有一种技术,其使用视频透明型HMD,使得HMD用户能够观察在从HMD用户的瞳孔位置观察到的被摄体图像上叠置并显示了CG(计算机图形)的图像。另一方面,在VR技术中,已知有一种技术,其使用配备有用来检测用户头部的移动方向的姿态传感器的HMD,以基于姿态传感器检测到的头部方向数据生成和显示虚拟空间的视觉图像。
在MR系统中,理想情况下,应同时进行从HMD用户的视点(瞳孔位置)拍摄被摄体图像并显示在上面叠置有CG的图像。然而,实际上,进行对拍摄的相机图像的图像处理和用于CG渲染的算法处理都需要时间(假设总时间为Δt)。相似地,VR系统需要从头部方向数据的检测到视觉图像的显示的时间(Δt)。因此,当用户移动了他的/她的头部时,在经过了时间Δt之后,显示图像才随着头部方向的改变而移动。这会给用户带来不舒服感。
为了减少由于延迟而产生的不舒服感,PTL 1提出了一种根据方向位移量水平地移位在显示单元上显示的航空图像的位置的技术,该方向位移量是当前头部方向数据和一段时间之前头部方向数据之间的差。此外,PTL 2提出了一种通过基于图像信号移位水平同步信号的定时来移位图像的技术。
引文列表
专利文献
PTL 1:日本特开2004-109994号公报
PTL 2:日本特开2014-78022号公报
发明内容
技术问题
然而,在如上述PTL 2中所描述的来移位同步信号的定时的情况下,根据条件,可能发生诸如在帧图像中途图像中断/偏移的图像混乱。这会导致HMD用户对显示图像感到不舒服的问题。
本发明是考虑到上述问题而作出的,并且提供了一种能够生成给人较少不舒服感的显示图像的技术。
解决问题
为了解决上述问题,根据本发明的图像处理设备包含以下布置。即,图像处理设备包括:
输入部,其用于接收构成移动图像的帧图像,作为图像信号和同步信号;
接受部,其用于接受指示给定显示单元的垂直方向上的帧图像显示位置改变的图像移位指令;
校正部,其用于基于图像移位指令校正同步信号;以及
输出部,其用于将图像信号与校正后同步信号相互关联地输出,
其中,在图像移位指令中所包括的垂直方向上的图像移位量超过预定量的情况下,校正部进行与不多于预定量的图像移位量对应的校正。
发明的有利效果
本发明提供一种能够生成给人较少不舒服感的显示图像的技术。
根据结合附图的以下描述,本发明的其他特征和优点将显而易见,其中,在整个附图中相同的附图标记指定相同或相似部件。
附图说明
并入说明书中并构成说明书的一部分的附图图示了本发明的实施例,并且与说明书一起用于解释本发明的原理。
图1是示意性地示出MR/VR系统的布置的图;
图2是第一实施例和第二实施例中的图像移位处理单元的功能框图;
图3是示出第一实施例中的同步信号校正单元的操作的图;
图4是用于说明第一实施例中的图像移位处理的图;
图5是示出第二实施例中的同步信号校正单元的操作的图;
图6是用于说明第二实施例中的图像移位处理的图;
图7是第三实施例中的图像移位处理单元的功能框图;
图8是示出第三实施例中的同步信号校正单元的操作的图;
图9是用于说明第三实施例中的图像移位处理的图;
图10是用于说明在修改中的图像移位处理的图;
图11是图示图像移位处理单元的一系列操作的流程图;以及
图12是图示图像移位处理单元的一系列操作的另一流程图。
具体实施方式
下面将参照附图详细地说明本发明实施例的示例。注意,以下实施例仅是示例,并不意在限制本发明的范围。
(第一实施例)
下面将以MR/VR系统为例描述根据本发明的图像移位设备的第一实施例。
MR系统包括包含摄像单元和显示单元的HMD,以及在拍摄的移动图像(真实空间图像)上叠置有CG(虚拟空间图像)的PC。HMD的摄像单元在佩戴者的左右眼位置处获取图像,并且显示单元向佩戴者的眼睛显示立体图像。PC接收由HMD拍摄的拍摄图像,通过在拍摄图像上叠置CG生成合成图像,并将合成图像发送到HMD。特别地,通过在基于拍摄图像定义的真实空间的三维坐标系中生成三维CG图像并将其叠置在拍摄图像上,可以为佩戴者提供真实空间和虚拟空间合并的环境。
另一方面,VR系统包括包含显示单元的HMD和用于渲染CG(虚拟空间图像)的PC。通常,使用配备有用于检测用户姿态(视点位置、视线方向等)的姿态传感器的HMD。由HMD的姿态传感器检测到的姿态数据发送到PC,PC基于姿态数据渲染CG并将其发送到HMD。
<设备的布置>
图1是示意性地示出MR/VR系统的布置的图。该系统可以作为MR系统或VR系统操作。MR/VR系统包含HMD 101和PC 103。HMD 101包含摄像单元102和作为给定显示单元的图像显示单元105,PC 103包括显示图像生成单元104。
当系统作为MR系统操作时,由摄像单元102拍摄的图像被发送到PC 103,并且显示图像生成单元104将CG叠置在拍摄图像上以生成合成图像(MR图像)。然后,将合成图像发送到HMD 101,显示在图像显示单元105上,并提供给HMD 101的佩戴者。
另一方面,当系统作为VR系统操作时,布置姿态传感器(加速度传感器/角速度传感器等),而不是摄像单元102,并且将检测到的姿态数据发送到PC 103。显示图像生成单元104基于姿态数据渲染CG。由显示图像生成单元104渲染的CG被发送到HMD 101,显示在HMD101的图像显示单元105上,并且被提供给HMD 101的佩戴者。
注意,在图1中,HMD 101和与其连接的PC 103被示为单独的硬件组件,但是PC 103的所有功能可以在HMD 101中实现以形成集成设备。
理想情况下,在MR/VR系统中的HMD中,摄像或姿态数据获取应与基于摄像或姿态数据获取而生成的MR/VR图像的显示同时进行。然而,在现实中,存在用于对拍摄图像进行图像处理、用于CG渲染的算法处理等的处理时间。因此,当用户的姿态改变时(例如,当头部移动时),在姿态改变后经过上述处理时间之后,显示在图像显示单元105上的显示视频才相应地移动。因此,这给HMD 101的佩戴者(用户)带来不舒服的感觉。
图2是第一实施例中的图像移位处理单元的功能框图。图像移位处理单元是在显示图像生成单元104与图像显示单元105之间实现的功能。注意,用于实现图像移位处理单元的具体位置可以在PC 103或HMD 101中,并且不受特别限制。例如,图像移位处理单元中的姿态检测单元201、同步信号校正单元202和同步信号移动控制单元203可以分布在PC103和HMD 101中。注意,在下面的描述中,假设图像移位处理单元布置在显示图像生成单元104中的后级。
姿态检测单元201是检测HMD 101佩戴者的姿态并确定图像移位量的功能单元。即,姿态检测单元201向同步信号校正单元202输出指示帧图像显示位置改变的图像移位指令。这里,基于来自装备在HMD 101中的姿态传感器(加速度传感器/角速度传感器)的信号,检测HMD 101的姿态。注意,姿态检测单元201仅需要能够检测HMD 101的姿态,以便其可以被构造成通过例如使用红外线或由布置在HMD 101外部的设备进行的图像分析的方法来检测姿态。此外,姿态检测单元201根据检测到的姿态数据计算水平方向上和垂直方向上的图像移位量,以防止由于上述处理延迟而产生的不舒服感。更具体地,为了减少HMD 101的佩戴者(用户)感知到的延迟量,控制图像移位量以随着姿态改变的增加而增加。
同步信号校正单元202是这样的功能单元:其接收基于由显示图像生成单元104渲染的图像的水平同步信号和垂直同步信号,接受上述图像移位指令,并对由图像移位指令指定的图像移位进行校正处理。校正后的同步信号与图像信号相关联地输出到图像显示单元105。
同步信号移动控制单元203是控制同步信号的移动以防止图像混乱的功能单元,详细布置将在后面描述。同步信号校正单元202基于同步信号移动控制单元203的控制和由姿态检测单元201计算的图像移位量来校正同步信号。即,通过以与图像移位量对应的时段移位输入同步信号的定时来生成输出同步信号。
<设备的操作>
图11是图示图像移位处理单元的一系列操作的流程图。如上所述,图像移位处理单元是在显示图像生成单元104与图像显示单元105之间的任意位置实现的功能,并且这里假设要布置在显示图像生成单元104的后级。
在步骤S1101中,图像移位处理单元接收构成移动图像的帧图像,作为图像信号和同步信号。即,在该步骤中,输入了在显示图像生成单元104中的前级处生成的帧图像(图像信号和同步信号)。
在步骤S1102中,图像移位处理单元接受指示在图像显示单元105的垂直方向(与构成帧图像的行正交的方向)上的帧图像显示位置的改变的图像移位指令。例如,接受垂直方向上的移动量(VSHIFT)和水平方向上的移动量(HSHIFT)作为图像移位指令。稍后将参照图3描述细节。
在步骤S1103中,图像移位处理单元基于在步骤S1102中接受的图像移位指令来校正在步骤S1101中输入的同步信号。注意,如果图像移位指令中所包括的在垂直方向上的移动量(VSHIFT)超过预定量,则进行与等于或小于预定量的图像移位量对应的校正。稍后将参照图3描述细节。
在步骤S1104中,图像移位处理单元将在步骤S1101中输入的图像信号与在步骤S1103中校正的同步信号相互关联地输出。
图3是示出第一实施例中图像移位处理单元中的同步信号校正单元202的操作的图。更具体地,图3是示出基于同步信号移动控制单元203的控制(S1102)的同步信号校正单元202的操作(S1103)的时序图。注意,在下面的描述中,水平方向意指沿着构成移动图像的帧图像的行的方向,垂直方向意指与构成帧图像的行正交的方向。
输入垂直同步信号301是在各个帧图像的有效图像区域的开始处声明的信号,而输入水平同步信号302是在构成帧图像的各个图像行的有效图像区域的开始处声明的信号。注意,有效图像区域对应于整个帧图像的不包括垂直和水平消隐时段的时段。
输入数据使能信号303是在有效图像区域的时段期间声明的信号。输入图像数据304是构成帧图像的图像行的数据。在声明输入数据使能信号303的时段期间输入的输入图像数据304用作有效图像数据。
同步信号校正单元202处理上述信号以实现图像移位,并将各信号输出为输出同步信号305、输出水平同步信号306、输出数据使能信号307和输出图像数据308。
图3示出了在第一帧中不进行移位并且在第二帧中进行垂直方向上的移位的情况下的示例。更具体地,在第一帧中,垂直方向上的移动量(VSHIFT)和水平方向上的移动量(HSHIFT)被设定为“0”。另一方面,在作为后续帧图像的第二帧中,垂直方向上的移动量(VSHIFT)被设定为在向下方向上的垂直消隐时段的宽度(VBLK)。
图4是用于说明第一实施例中的图像移位处理的图。
在VSHIFT≤VBLK的情况下,图像401和图像402分别示例性地示出第一帧和第二帧。图像401示例性地示出在图3所示的第一帧中的输出图像,其中图像移位量被设定为“0”。另一方面,图像402示例性地示出在图3所示的第二帧中的输出图像,其中输出在垂直方向上移位VBLK的图像。
在VSHIFT>VBLK的情况下,图像403和图像404分别示例性地示出第一帧和第二帧。如从图3所示的时序图中理解的,如果将垂直方向上的移动量(VSHIFT)设定为超过垂直消隐时段的宽度(VBLK)的值(预定量),则发生图像混乱。更具体地,如在图像403中例示的,在第一帧中丢失有效图像区域的下部。此外,如在图像404中例示的,图像403中丢失的这部分图像出现在第二帧的上部。即,前一帧图像的一部分混合到后一帧图像中。
为了防止上述帧间图像混乱,第一实施例中的同步信号移动控制单元203控制垂直方向上的移动量。更具体地,根据由姿态检测单元201计算连续帧之间的垂直同步信号移动量的改变量(ΔV),如下控制垂直同步信号的移动量。
如果ΔV≤VBLK,则同步信号校正单元202将垂直方向上的移动量(VSHIFT)设定为ΔV;另一方面,如果ΔV>VBLK,则同步信号校正单元202将垂直方向上的移动量(VSHIFT)设定为VBLK。即,控制移动量(VSHIFT),使得垂直方向上的移动量(VSHIFT)的上限变为VBLK(等于或小于预定量的值)。
通过上述控制,在ΔV>VBLK的情况下,可以防止在图像403和404中例示的帧间图像混乱。
如上所述,根据第一实施例,根据由姿态检测单元201计算的连续帧之间的垂直同步信号移动量的改变量(ΔV),控制在图像移位中垂直方向上的移动量。这样可以生成给人较少不舒服感的显示图像。
(第二实施例)
在第二实施例中,将描述在水平方向上进行图像移位处理且在垂直方向上进行图像移位处理的形式。图像移位处理单元的布置及其一系列操作与第一实施例中的几乎相同(图2和图11),但与第一实施例不同的是,还控制水平方向上的移位处理。
<设备的操作>
图5是示出第二实施例中的同步信号校正单元202的操作的图。更具体地,图5是示出基于同步信号移动控制单元203的控制的同步信号校正单元202的操作的时序图。各信号的功能与第一实施例中的功能相似,并且将省略其描述。
图5示出了在第一帧中不进行移位且在第二帧中进行垂直方向上的移位和水平方向上的移位的情况下的示例。更具体地,在第一帧中,垂直方向上的移动量(VSHIFT)和水平方向上的移动量(HSHIFT)被设定为“0”。另一方面,在作为后续帧图像的第二帧中,垂直方向上的移动量(VSHIFT)被设定为向下方向上的一行,水平方向上的移动量(HSHIFT)被设定为向左方向上的一个像素。
图6是用于说明第二实施例中的图像移位处理的图。
在第二帧的有效图像区域外设定将水平方向上的移动量从“0”改变为“1”的定时的情况下,图像601和图像602分别示例性地示出了第一帧和第二帧。另一方面,在第二帧的有效图像区域内设定将水平方向上的移动量从“0”改变为“1”的定时的情况下,图像603和图像604分别示例性地示出了第一帧和第二帧。
即,当在有效图像区域之内的定时改变水平方向上的移动量时,在第二帧中的如图像604所例示的图像中间发生图像偏差,从而导致图像混乱。
为了防止由于上述图像偏差而引起的图像混乱,同步信号移动控制单元203控制反映水平方向上的移动量的定时。更具体地,将反映水平方向上的移动量的定时控制在各个帧的有效图像区域之外的时段中。即,控制定时,使得在各个帧的垂直消隐时段期间反映水平方向上的移动量。
如上所述,根据第二实施例,同步信号移动控制单元203控制变化反射定时,使得在各个帧的有效图像区域的时段内不改变水平方向上的移动量。这样可以生成给人较少不舒服感的显示图像。
(第三实施例)
在第三实施例中,将描述通过图像处理减少由图像移位处理引起的图像混乱的形式。更具体地,使用由预定颜色组成的固定图像数据(例如仅由黑色组成的全黑色数据)来校正发生图像混乱的区域,从而生成给人较少不舒服感的显示图像。
<设备的布置>
图7是第三实施例中的图像移位处理单元的功能框图。将无效区域检测单元701和数据生成单元702添加到上述第一实施例中的布置中。该布置的其余部分与第一实施例中的布置相似,并且将省略其描述。
无效区域检测单元701是基于同步信号校正单元202的操作来检测相关图像的无效区域的功能单元。这里,“无效区域”指示图像移位处理之后的图像帧的一部分,而不是图像移位处理之前的图像帧的有效区域。换言之,无效区域指示通过从有效图像区域减去图像移位处理的移动量而获得的图像区域(移位后有效区域)之外的区域(时段)。
数据生成单元702是校正检测到的无效区域中的图像以防止图像混乱的功能单元。更具体地,基于由无效区域检测单元701对无效区域的检测结果,数据生成单元702生成固定图像数据(例如,全黑数据)的图像信号作为无效区域中的插值图像信号。
<设备的操作>
图12是图示图像移位处理单元的一系列操作的流程图。注意,步骤S1201到S1203中的处理与步骤S1101到S1103中的处理相似,并且将省略对其的描述。
在步骤S1204中,图像移位处理单元基于在步骤S1203中校正的校正后同步信号来检测与校正后同步信号相关的图像信号中的无效区域。稍后将参照图8描述细节。
在步骤S1205中,图像移位处理单元在无效区域的时段内生成插值图像信号。稍后将参照图8和图9描述细节。
在步骤S1206中,图像移位处理单元将在步骤S1205中生成的校正后图像信号与在步骤S1203中校正的同步信号相互关联地输出。
图8是示出第三实施例中图像移位处理单元中的同步信号校正单元202的操作的图。更具体地,图8是示出基于无效区域检测单元701的控制(S1204)的数据生成单元702的操作(S1205)和同步信号校正单元202的操作(S1203)的时序图。
信号301至307的功能与第一实施例中的功能相似,并且将省略其描述。图8示出在第一帧和第二帧二者中,垂直方向上的移动量(VSHIFT)被设定为“0”(即,不移动)和水平方向上的移动量(HSHIFT)被设定为“-3”(向左方向上三个像素)的情况下的实例。
信号801示例性地示出在数据生成单元702中不进行图像处理时的输出图像数据,并且与信号308相似。另一方面,信号802示例性地示出在数据生成单元702中进行图像处理时的输出图像数据。在信号802中,用固定图像数据(例如,全黑数据)覆写图像信号的部分(与无效区域对应的部分)。
图9是用于说明第三实施例中的图像移位处理的图。
图像901示例性地示出在数据生成单元702中不进行图像处理时显示的第一帧和第二帧中各个的输出图像。可以看出,由于后续行的数据的交叠,在图像901的右端部分发生图像混乱。即,图像移位处理之前的第(n+1)行的左端部分中的图像混合进图像移位处理之后的第n行的右端部分中。
另一方面,图像902示例性地示出在数据生成单元702中进行图像处理时显示的第一帧和第二帧中各个的输出图像。在图像902中,在图像的右端部分显示固定图像数据(这里,全黑数据)。即,可以看出,适当地减少了在图像901中发生的图像混乱(交叠显示)。
如上所述,根据第三实施例,进行图像校正,其中用固定图像数据填充由图像移位处理混合的图像混乱(交叠显示)。这样可以生成给人较少不舒服感的显示图像。
(变形例)
在上述第三实施例中,进行图像校正,其中用固定图像(单色)数据填充无效区域。然而,可以使用其他图像来校正无效区域。在变形例中,描述在数据生成单元702中生成看着更自然的图像的形式。
<数据生成单元>
为了实现看着更自然的图像插值,数据生成单元702包含用于保持图像数据的一行RAM。在每一行中,如果包括第三实施例中描述的“移位后有效区域”,则使用移位后有效区域的左端或右端的图像数据生成覆写无效区域的数据。即,生成基于与无效区域接触的移位后有效区域的像素值的图像信号。另一方面,如果图像行不包含移位后有效区域,则使用移位后有效区域的上端或下端中的一行的图像数据来补充无效区域的数据。
注意,可以通过进一步考虑在无效区域中显示的图像的亮度来生成用户感知更自然的图像。例如,如果HMD 101中的显示单元的框构件是黑色的,则通过添加随着接近图像边缘而降低亮度(使亮度更接近黑色)的处理(渐变处理),用户感知图像为更自然的图像。
图10是用于说明在变形例中的图像移位处理的图。图像1001示例性地示出在图像移位处理之前的图像。图像1002示例性地示出在根据变形例的数据生成单元702中对图像1001进行图像移位处理时显示的输出图像。在图像1002中,在无效区域中进行数据插值和亮度调整。注意,在无效区域中反映的插值图像不限于上述插值图像,并且可以使用缓和用户不舒服感的任何插值图像。
<其它实施例>
通过经由网络或存储介质向系统或装置提供用于实现上述实施例的一个或更多个功能的程序并使该系统或装置的计算机中的一个或更多个处理器读出并执行该程序的处理,可以实现本发明。本发明还可以通过用于实现一个或更多个功能的电路(例如,ASIC)来实现。
本发明不限于上述实施例,并且可以在本发明的主旨和范围内进行各种改变和变形。因此,为了使公众了解本发明的范围,提出以下权利要求。
本申请要求2017年6月8日提交的日本专利申请第2017-113636号的优先权,在此通过引用将其全部并入本文。
附图标记列表
101:HMD,102:摄像单元,103:PC,104:显示图像生成单元,105:图像显示单元,201:姿态检测单元,202:同步信号校正单元,203:同步信号移位控制单元。
Claims (20)
1.一种图像处理设备,其特征在于包括:
输入部,其用于接收构成移动图像的帧图像,作为图像信号和同步信号;
接受部,其用于接受指示给定显示单元的垂直方向上的帧图像显示位置改变的图像移位指令;
校正部,其用于基于图像移位指令校正同步信号;以及
输出部,其用于将图像信号与校正后同步信号相互关联地输出,
其中,在图像移位指令中所包括的垂直方向上的图像移位量超过预定量的情况下,所述校正部进行与不多于所述预定量的图像移位量对应的校正。
2.根据权利要求1所述的图像处理设备,其特征在于,所述预定量为帧图像中的垂直消隐时段的宽度。
3.根据权利要求1或2所述的图像处理设备,其特征在于,图像移位指令包括水平方向上的图像移位的指令。
4.根据权利要求3所述的图像处理设备,其特征在于,在不包括帧图像中有效图像区域的时段内,所述校正部进行与水平方向上的图像移位有关的同步信号的校正。
5.根据权利要求3所述的图像处理设备,其特征在于,在垂直消隐时段期间,所述校正部进行与垂直方向上的图像移位有关的同步信号的校正。
6.根据权利要求1至5中任一项所述的图像处理设备,其特征在于,还包括:
检测部,其用于基于校正后同步信号,检测与校正后同步信号相关联的图像信号中的无效区域;以及
图像信号生成部,其用于生成所述无效区域的时段内的插值图像信号。
7.根据权利要求6所述的图像处理设备,其特征在于,所述图像信号生成部生成与预定颜色对应的图像信号,作为所述插值图像信号。
8.根据权利要求7所述的图像处理设备,其特征在于,所述预定颜色为黑色。
9.根据权利要求6所述的图像处理设备,其特征在于,所述图像信号生成部生成基于与所述无效区域接触的图像区域的像素值的图像信号,作为所述插值图像信号。
10.根据权利要求6所述的图像处理设备,其特征在于,所述图像信号生成部针对各个图像行生成所述插值图像信号。
11.根据权利要求10所述的图像处理设备,其特征在于,在所述图像行包括有效区域的情况下,所述图像信号生成部生成基于与所述无效区域接触的有效区域的像素值的图像信号,作为所述插值图像信号。
12.根据权利要求10所述的图像处理设备,其特征在于,在所述图像行不包含有效区域的情况下,所述图像信号生成部生成基于所述有效区域的末端部分中的像素值的图像信号,作为所述插值图像信号。
13.根据权利要求6所述的图像处理设备,其特征在于,所述图像信号生成部通过进行使得亮度朝帧图像末端改变的渐变处理,生成所述插值图像信号。
14.根据权利要求1至13中任一项所述的图像处理设备,其特征在于,还包括姿态检测部,其用于检测所述显示单元的姿态,
其中,所述校正部基于检测的姿态校正同步信号。
15.根据权利要求14所述的图像处理设备,其特征在于,所述校正部还包括计算部,其用于基于检测的姿态的改变量来计算图像移位量。
16.根据权利要求15所述的图像处理设备,其特征在于,随着检测的姿态的改变量增加,所述计算部增加图像移位量。
17.根据权利要求14所述的图像处理设备,其特征在于,所述姿态检测部采用所述显示单元提供的姿态传感器检测所述显示单元的姿态。
18.根据权利要求1至17中任一项所述的图像处理设备,其特征在于,所述图像处理设备与包括给定显示单元的头戴式显示器(HMD)相连。
19.一种图像处理设备的控制方法,所述图像处理设备对构成移动图像的帧图像进行图像处理,所述控制方法特征在于,包括:
输入步骤,接收帧图像作为图像信号和同步信号;
接受步骤,接受指示给定显示单元的垂直方向上的帧图像显示位置改变的图像移位指令;
校正步骤,基于图像移位指令校正同步信号;以及
输出步骤,将图像信号与校正后同步信号相互关联地输出,
其中,在图像移位指令中所包括的垂直方向上的图像移位量超过预定量的情况下,在所述校正步骤中进行与不多于所述预定量的图像移位量对应的校正。
20.一种程序,其用于使计算机用作在权利要求1至18中任一项中定义的图像处理设备的各个部。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017-113636 | 2017-06-08 | ||
JP2017113636 | 2017-06-08 | ||
PCT/JP2018/021199 WO2018225648A1 (ja) | 2017-06-08 | 2018-06-01 | 画像処理装置およびその制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110709920A true CN110709920A (zh) | 2020-01-17 |
CN110709920B CN110709920B (zh) | 2022-11-08 |
Family
ID=64566497
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880037345.0A Active CN110709920B (zh) | 2017-06-08 | 2018-06-01 | 图像处理设备及其控制方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11263999B2 (zh) |
EP (1) | EP3637412A4 (zh) |
JP (1) | JP7161470B2 (zh) |
CN (1) | CN110709920B (zh) |
WO (1) | WO2018225648A1 (zh) |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11202257A (ja) * | 1998-01-14 | 1999-07-30 | Sony Corp | ディスプレイ装置および映像体感装置 |
US6011526A (en) * | 1996-04-15 | 2000-01-04 | Sony Corporation | Display apparatus operable in synchronism with a movement of the body of a viewer |
WO2004021699A1 (ja) * | 2002-08-30 | 2004-03-11 | Olympus Corporation | 頭部装着型画像表示システム装置及びその画像処理方法 |
JP2006154378A (ja) * | 2004-11-30 | 2006-06-15 | Victor Co Of Japan Ltd | 画像表示制御装置 |
CN101119490A (zh) * | 2006-08-02 | 2008-02-06 | 索尼株式会社 | 图像信号处理装置和图像信号处理方法 |
CN101682746A (zh) * | 2008-01-22 | 2010-03-24 | 索尼株式会社 | 发送设备、接收设备、帧速率转换系统和帧速率转换方法 |
CN102375234A (zh) * | 2010-08-09 | 2012-03-14 | 索尼公司 | 显示设备组装体 |
CN104349082A (zh) * | 2013-08-07 | 2015-02-11 | 索尼公司 | 图像处理装置、图像处理方法以及程序 |
CN104423835A (zh) * | 2013-08-30 | 2015-03-18 | 联想(新加坡)私人有限公司 | 基于对计算设备的支撑来调整显示的装置及方法 |
CN104781873A (zh) * | 2012-11-13 | 2015-07-15 | 索尼公司 | 图像显示装置、图像显示方法、移动装置、图像显示系统、以及计算机程序 |
WO2015174501A1 (ja) * | 2014-05-16 | 2015-11-19 | 株式会社ユニモト | 全周動画配信システム、全周動画配信方法、画像処理装置、通信端末装置およびそれらの制御方法と制御プログラム |
CN105474302A (zh) * | 2013-12-19 | 2016-04-06 | 索尼公司 | 头戴显示设备和图像显示方法 |
WO2016099141A2 (ko) * | 2014-12-15 | 2016-06-23 | 조은형 | 멀티미디어 콘텐츠 제작 및 재생 방법, 이를 수행하는 전자 기기 및 이를 실행하는 프로그램이 저장된 기록 매체 |
CN106464826A (zh) * | 2014-07-01 | 2017-02-22 | 索尼公司 | 信息处理装置及方法 |
JP2017085393A (ja) * | 2015-10-29 | 2017-05-18 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
CN106796773A (zh) * | 2014-09-12 | 2017-05-31 | 微软技术许可有限责任公司 | 增强显示旋转 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4688081A (en) * | 1985-01-25 | 1987-08-18 | Hitachi, Ltd. | Apparatus for correcting time base error of video signal |
JPH0771290B2 (ja) * | 1989-12-27 | 1995-07-31 | 富士写真光機株式会社 | 信号処理回路 |
JP3368672B2 (ja) * | 1994-06-30 | 2003-01-20 | 日本ビクター株式会社 | ヘッドマウントディスプレイ |
JP3538904B2 (ja) * | 1994-07-08 | 2004-06-14 | ソニー株式会社 | テレビジョン受像機 |
KR0174152B1 (ko) * | 1996-07-02 | 1999-04-01 | 삼성전자 주식회사 | 디지털 디스플레이 모니터의 영상크기 조정장치 |
TW506212B (en) * | 2001-05-31 | 2002-10-11 | Novatek Microelectronics Corp | Screen self-calibration and automatic adjusting method and the system thereof |
US6943783B1 (en) * | 2001-12-05 | 2005-09-13 | Etron Technology Inc. | LCD controller which supports a no-scaling image without a frame buffer |
US20050156817A1 (en) * | 2002-08-30 | 2005-07-21 | Olympus Corporation | Head-mounted display system and method for processing images |
JP4260696B2 (ja) * | 2004-06-29 | 2009-04-30 | 富士通マイクロエレクトロニクス株式会社 | 固体撮像装置、イメージセンサ、画像処理装置、及び撮像方法 |
JP4541976B2 (ja) * | 2005-06-17 | 2010-09-08 | キヤノン株式会社 | 表示装置 |
JP5761953B2 (ja) * | 2009-12-08 | 2015-08-12 | キヤノン株式会社 | 情報処理装置およびその制御方法 |
JP5499854B2 (ja) * | 2010-04-08 | 2014-05-21 | ソニー株式会社 | 頭部装着型ディスプレイにおける光学的位置調整方法 |
US8681205B2 (en) * | 2010-06-18 | 2014-03-25 | Via Technologies, Inc. | Systems and methods for controlling a three dimensional (3D) compatible viewing device |
JP5517883B2 (ja) * | 2010-10-20 | 2014-06-11 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
KR101337619B1 (ko) | 2012-03-02 | 2013-12-06 | 주식회사 엘지씨엔에스 | 통합 관제 시스템 및 통합 관제 방법 |
JP6188283B2 (ja) * | 2012-06-05 | 2017-08-30 | キヤノン株式会社 | プロジェクタ、及びそれに用いる制御プログラム、制御方法 |
KR20160053988A (ko) * | 2013-10-25 | 2016-05-13 | 미디어텍 인크. | 전송 동기화 이벤트에 따라 압축된 픽처의 전송을 제어하는 방법 및 장치 |
JP5700105B2 (ja) * | 2013-11-29 | 2015-04-15 | ソニー株式会社 | 表示装置組立体 |
JP6499218B2 (ja) | 2017-03-30 | 2019-04-10 | グリー株式会社 | コンピュータ及びコンピュータにおいて実行されるプログラム |
-
2018
- 2018-06-01 EP EP18814371.3A patent/EP3637412A4/en not_active Withdrawn
- 2018-06-01 WO PCT/JP2018/021199 patent/WO2018225648A1/ja unknown
- 2018-06-01 CN CN201880037345.0A patent/CN110709920B/zh active Active
- 2018-06-01 JP JP2019523507A patent/JP7161470B2/ja active Active
-
2019
- 2019-11-25 US US16/693,813 patent/US11263999B2/en active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6011526A (en) * | 1996-04-15 | 2000-01-04 | Sony Corporation | Display apparatus operable in synchronism with a movement of the body of a viewer |
JPH11202257A (ja) * | 1998-01-14 | 1999-07-30 | Sony Corp | ディスプレイ装置および映像体感装置 |
WO2004021699A1 (ja) * | 2002-08-30 | 2004-03-11 | Olympus Corporation | 頭部装着型画像表示システム装置及びその画像処理方法 |
JP2006154378A (ja) * | 2004-11-30 | 2006-06-15 | Victor Co Of Japan Ltd | 画像表示制御装置 |
CN101119490A (zh) * | 2006-08-02 | 2008-02-06 | 索尼株式会社 | 图像信号处理装置和图像信号处理方法 |
CN101682746A (zh) * | 2008-01-22 | 2010-03-24 | 索尼株式会社 | 发送设备、接收设备、帧速率转换系统和帧速率转换方法 |
CN102375234A (zh) * | 2010-08-09 | 2012-03-14 | 索尼公司 | 显示设备组装体 |
CN104781873A (zh) * | 2012-11-13 | 2015-07-15 | 索尼公司 | 图像显示装置、图像显示方法、移动装置、图像显示系统、以及计算机程序 |
CN104349082A (zh) * | 2013-08-07 | 2015-02-11 | 索尼公司 | 图像处理装置、图像处理方法以及程序 |
CN104423835A (zh) * | 2013-08-30 | 2015-03-18 | 联想(新加坡)私人有限公司 | 基于对计算设备的支撑来调整显示的装置及方法 |
CN105474302A (zh) * | 2013-12-19 | 2016-04-06 | 索尼公司 | 头戴显示设备和图像显示方法 |
WO2015174501A1 (ja) * | 2014-05-16 | 2015-11-19 | 株式会社ユニモト | 全周動画配信システム、全周動画配信方法、画像処理装置、通信端末装置およびそれらの制御方法と制御プログラム |
CN106464826A (zh) * | 2014-07-01 | 2017-02-22 | 索尼公司 | 信息处理装置及方法 |
CN106796773A (zh) * | 2014-09-12 | 2017-05-31 | 微软技术许可有限责任公司 | 增强显示旋转 |
WO2016099141A2 (ko) * | 2014-12-15 | 2016-06-23 | 조은형 | 멀티미디어 콘텐츠 제작 및 재생 방법, 이를 수행하는 전자 기기 및 이를 실행하는 프로그램이 저장된 기록 매체 |
JP2017085393A (ja) * | 2015-10-29 | 2017-05-18 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2018225648A1 (ja) | 2020-04-09 |
EP3637412A1 (en) | 2020-04-15 |
US20200090629A1 (en) | 2020-03-19 |
EP3637412A4 (en) | 2021-04-14 |
CN110709920B (zh) | 2022-11-08 |
WO2018225648A1 (ja) | 2018-12-13 |
JP7161470B2 (ja) | 2022-10-26 |
US11263999B2 (en) | 2022-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11024082B2 (en) | Pass-through display of captured imagery | |
CN109863538B (zh) | 用于虚拟及增强现实显示的连续时间扭曲及双目时间扭曲系统和方法 | |
US8233011B2 (en) | Head mounted display and control method therefor | |
KR102298378B1 (ko) | 정보 처리 장치, 정보 처리 방법, 및 프로그램 | |
JP5113426B2 (ja) | 頭部装着型表示装置、及びその制御方法 | |
CN112703464B (zh) | 基于用户注视的分配式注视点渲染 | |
US9952657B2 (en) | Display apparatus and display control method | |
JP5303685B2 (ja) | 拡張現実感提供装置 | |
US20120287246A1 (en) | Image processing apparatus capable of displaying image indicative of face area, method of controlling the image processing apparatus, and storage medium | |
JP6855313B2 (ja) | 画像表示システム、画像表示装置および画像表示方法 | |
JP2007052304A (ja) | 映像表示システム | |
JP2015231106A (ja) | ヘッドマウントディスプレイ装置及びヘッドマウントディスプレイシステム | |
JP2011010126A (ja) | 画像処理装置、画像処理方法 | |
JP7134060B2 (ja) | 画像生成装置および画像生成方法 | |
US20230232103A1 (en) | Image processing device, image display system, method, and program | |
US20210063732A1 (en) | Image processing apparatus, method for controlling the same, non-transitory computer-readable storage medium, and system | |
CN110709920B (zh) | 图像处理设备及其控制方法 | |
JP2016181004A (ja) | 情報処理装置、表示制御方法、プログラムおよび記憶媒体 | |
GB2575824A (en) | Generating display data | |
US20210241425A1 (en) | Image processing apparatus, image processing system, image processing method, and medium | |
JP6424947B2 (ja) | 表示装置、およびプログラム | |
WO2021106136A1 (ja) | 表示端末装置 | |
JP2021086287A (ja) | 情報処理システム、情報処理装置、及び情報処理方法 | |
JP2023132157A (ja) | 画像表示装置、画像表示方法、及びプログラム | |
JP2013069332A (ja) | 情報処理装置及び情報処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |