JP2012147132A - Video generating apparatus and video generating method - Google Patents

Video generating apparatus and video generating method Download PDF

Info

Publication number
JP2012147132A
JP2012147132A JP2011002489A JP2011002489A JP2012147132A JP 2012147132 A JP2012147132 A JP 2012147132A JP 2011002489 A JP2011002489 A JP 2011002489A JP 2011002489 A JP2011002489 A JP 2011002489A JP 2012147132 A JP2012147132 A JP 2012147132A
Authority
JP
Japan
Prior art keywords
display
emission intensity
video
light emission
subframes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011002489A
Other languages
Japanese (ja)
Inventor
Naoto Abe
直人 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011002489A priority Critical patent/JP2012147132A/en
Publication of JP2012147132A publication Critical patent/JP2012147132A/en
Withdrawn legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide technology for easily realizing display with stereoscopic effect by using a regular image which is not for stereoscopic display without the need of special hardware.SOLUTION: A subframe generating section generates respective display subframes of an output video signal so that one video is formed by N-pieces (N is integer larger than 1) of continuous display subframes. The subframe generating section decides light emission intensity at every region in N-pieces of display subframes so that the light emission intensity of a background region in the video does not relatively change among N-pieces of display subframes and the light emission intensity of a region of a target which rises to the surface much more than a background relatively changes among N-pieces of display subframes.

Description

本発明は立体感のある表示を行う技術に関する。   The present invention relates to a technique for performing display with a stereoscopic effect.

立体感のある表示を行う表示装置については、近年、両眼視差(輻輳角の違い)を利用した立体表示装置が製品化されている。すなわち、左目用と右目用の画像を用意し、左目用の画像は観測者の左目のみに、右目用の画像は観測者の右目のみに見えるようにした表示装置である。   In recent years, as a display device that performs display with a stereoscopic effect, a stereoscopic display device using binocular parallax (difference in convergence angle) has been commercialized. That is, a display device is prepared in which images for the left eye and right eye are prepared so that the image for the left eye is visible only to the left eye of the observer, and the image for the right eye is visible only to the right eye of the observer.

例えば、左右の画像をストライプ状に互い違いに表示し、表示パネル前に配置したストライプ状のレンチキュラーレンズやスリットによって左画像は観測者の左目のみに、右画像は右目のみに入射させる、という方法が液晶表示装置(LCD)等で実現されている。
また、表示パネルの前に左右の画像に対応したストライプ状の偏光板を設けることで左右の画像を異なる偏光で表示し、偏光眼鏡を通すことにより観測者の左右の目に対応する画像のみ見えるようにする方法も実現されている。
また、プロジェクタ表示装置においては、表示フレーム周波数を2倍にして左右のフレームを交互に異なる偏光で表示し、偏光眼鏡を通すことにより左右の目に対応する画像のみ見えるようにする方法も実現されている。
また、液晶表示装置(LCD)やプラズマ表示装置(PDP)では、液晶シャッタ眼鏡を利用する方法がすでに製品化されている。この方法は、左右のフレームを交互に表示し、それに同期してシャッタ眼鏡の左右の液晶シャッタの透過/遮光を切り換えることで、左右の目に対応する画像のみ見えるようにする方法である。
For example, the left and right images are displayed alternately in a stripe pattern, and the left image is incident only on the left eye of the observer and the right image is incident only on the right eye by a striped lenticular lens or slit arranged in front of the display panel. This is realized by a liquid crystal display (LCD) or the like.
In addition, by providing striped polarizing plates corresponding to the left and right images in front of the display panel, the left and right images are displayed with different polarizations, and only the images corresponding to the left and right eyes of the observer can be seen through the polarizing glasses. The method of doing so is also realized.
In the projector display device, a method is also realized in which the display frame frequency is doubled and the left and right frames are alternately displayed with different polarizations, and only the images corresponding to the left and right eyes can be seen through the polarizing glasses. ing.
In liquid crystal display devices (LCD) and plasma display devices (PDP), methods using liquid crystal shutter glasses have already been commercialized. In this method, left and right frames are alternately displayed, and in synchronization with this, transmission / shading of the left and right liquid crystal shutters of the shutter glasses is switched so that only images corresponding to the left and right eyes can be seen.

また、特許文献1には、両眼視差に加えて運動視差を利用する立体表示方法が提案されている。この方法は、観測者の視点を動きを検出し、観測者の視点移動速度が大きいときは運動視差のみで両目に同一視点の画像を表示し、視点移動速度が小さいときは両眼視差の画像を表示するというものである。特許文献1では、表示する画像はCG(Computer Graphics)等の技術を用いて形成した仮想空間の画像であり、ヘッドマウンテッドディス
プレイ(HMD)等で観測者に表示する表示方法について開示されている。
Patent Document 1 proposes a stereoscopic display method that uses motion parallax in addition to binocular parallax. This method detects movement of the observer's viewpoint, displays the same viewpoint image with both motion parallax only when the observer's viewpoint movement speed is high, and binocular parallax image when the viewpoint movement speed is low Is displayed. In Patent Document 1, an image to be displayed is a virtual space image formed by using a technique such as CG (Computer Graphics), and a display method for displaying to an observer with a head mounted display (HMD) or the like is disclosed. .

上述した従来の立体表示方法では、表示装置にレンチキュラーレンズやスリットを設けたり、観測者に偏光眼鏡、シャッタ眼鏡、HMDを装着させたりするなど、特別なハードウエアが必要となる。また両眼視差や運動視差が設定された特別な画像でなければ、立体表示を行えないという問題もある。すなわち、従来の立体表示方法は、低コストかつ簡単な構成で立体感のある表示を実現できるものではなかった。   The conventional stereoscopic display method described above requires special hardware such as providing a lenticular lens or a slit in the display device, or allowing an observer to wear polarized glasses, shutter glasses, or an HMD. There is also a problem that stereoscopic display cannot be performed unless the image is a special image in which binocular parallax or motion parallax is set. That is, the conventional stereoscopic display method cannot realize a stereoscopic display with a low cost and simple configuration.

特開平11−338457号公報JP 11-338457 A

本発明は上記実情に鑑みてなされたものであり、その目的は、特別なハードウエアを必要とせず、立体表示用ではない通常の画像を用いて、簡単に立体感のある表示を実現することのできる技術を提供することである。   The present invention has been made in view of the above circumstances, and an object of the present invention is to realize a display with a stereoscopic effect easily using a normal image that is not for stereoscopic display without requiring special hardware. It is to provide technology that can be used.

本発明の第1態様は、立体感のある映像表示を行うための出力映像信号を生成する映像生成装置であって、出力映像信号を構成する表示サブフレームを生成するサブフレーム生成部と、前記表示サブフレームを表示フレーム周波数で表示装置に対し順次出力する出力部と、を有し、前記サブフレーム生成部は、N個(Nは1より大きい整数)の連続する表示サブフレームにより1つの映像を形成するように、各表示サブフレームを生成するものであって、映像中の背景の領域の発光強度がN個の表示サブフレームの間で相対的に変化せず、かつ、背景に比べて浮き出させる対象物の領域の発光強度がN個の表示サブフレームの間で相対的に変化するように、N個の表示サブフレームにおける領域ごとの発光強度を決定する映像生成装置を提供する。   A first aspect of the present invention is a video generation device that generates an output video signal for performing stereoscopic video display, a subframe generation unit that generates a display subframe constituting the output video signal, An output unit that sequentially outputs display subframes to a display device at a display frame frequency, wherein the subframe generation unit includes one video image by N (N is an integer greater than 1) consecutive display subframes. Each of the display subframes is generated so that the light emission intensity of the background region in the video does not change relatively between the N display subframes, and compared to the background. Provided is an image generation device that determines the light emission intensity for each region in N display subframes so that the light emission intensity of a region of an object to be raised changes relatively between N display subframes. That.

本発明の第2態様は、立体感のある映像表示を行うための出力映像信号を生成する映像生成方法であって、出力映像信号を構成する表示サブフレームを生成するサブフレーム生成ステップと、前記表示サブフレームを表示フレーム周波数で表示装置に対し順次出力する出力ステップと、を有し、前記サブフレーム生成ステップでは、N個(Nは1より大きい整数)の連続する表示サブフレームにより1つの映像を形成するように、各表示サブフレームが生成され、映像中の背景の領域の発光強度がN個の表示サブフレームの間で相対的に変化せず、かつ、背景に比べて浮き出させる対象物の領域の発光強度がN個の表示サブフレームの間で相対的に変化するように、N個の表示サブフレームにおける領域ごとの発光強度が決定される映像生成方法を提供する。   According to a second aspect of the present invention, there is provided a video generation method for generating an output video signal for performing stereoscopic video display, a subframe generation step for generating a display subframe constituting the output video signal, An output step of sequentially outputting display subframes to a display device at a display frame frequency, and in the subframe generation step, one video is generated by N consecutive display subframes (N is an integer greater than 1). Each display sub-frame is generated so that the emission intensity of the background region in the video does not change relatively between the N display sub-frames, and the object is raised compared to the background. Image generation in which the light emission intensity for each area in the N display subframes is determined such that the light emission intensity in each of the areas changes relatively between the N display subframes. The law provides.

本発明によれば、特別なハードウエアを必要とせず、立体表示用ではない通常の画像を用いて、簡単に立体感のある表示を実現することができる。   According to the present invention, it is possible to easily realize a stereoscopic display using a normal image that is not for stereoscopic display without requiring special hardware.

本発明の第1の実施形態を示すブロック図。1 is a block diagram showing a first embodiment of the present invention. 本発明の第1の実施形態の変形例を示すブロック図。The block diagram which shows the modification of the 1st Embodiment of this invention. 本発明の第2の実施形態を示すブロック図。The block diagram which shows the 2nd Embodiment of this invention. 本発明の第4の実施形態を示すブロック図。The block diagram which shows the 4th Embodiment of this invention. 本発明の第6の実施形態を示すブロック図。The block diagram which shows the 6th Embodiment of this invention. 本発明の第1の実施形態のタイミング図。The timing diagram of the 1st Embodiment of this invention. 対象物の距離と第1係数の対応テーブルの例を示す図。The figure which shows the example of the corresponding | compatible table of the distance of a target object, and a 1st coefficient. 対象物が移動する場合の追従視を説明する図。The figure explaining the follow-up vision in case a target object moves. 観測者が移動する場合の追従視を説明する図。The figure explaining follow-up vision when an observer moves. サブフレーム表示による運動視差の発生原理を模式的に示す図。The figure which shows typically the generation | occurrence | production principle of the motion parallax by a sub-frame display. サブフレーム表示による運動視差の観察実験に用いた映像を示す図。The figure which shows the image | video used for the observation experiment of the motion parallax by a sub-frame display. 第1の実施形態における画像の例と第1係数k1を模式的に示す図。The figure which shows typically the example of the image in 1st Embodiment, and the 1st coefficient k1. 第2の実施形態における画像の例と第1係数k1を模式的に示す図。The figure which shows the example of the image in 2nd Embodiment, and the 1st coefficient k1 typically. 第3の実施形態における画像の例と第1係数k1を模式的に示す図。The figure which shows the example of the image in 3rd Embodiment, and the 1st coefficient k1 typically.

本発明は、簡易的に立体感のある映像表示を行うための出力映像信号を生成する映像生成装置、映像生成方法に関するものである。本発明は、例えば、TV装置、コンピュータ用モニタ、ディジタルフォトフレームなどの画像表示装置に搭載される映像処理回路に適用することができる。また、本発明は、画像表示装置に対して映像信号を出力する各種の映像機器(例えば、パーソナルコンピュータ、デジタルカメラ、ビデオカメラ、ビデオレコーダなど)に搭載される映像処理回路に適用することもできる。また、本発明は、ノートパソコン、携帯電話、スマートフォン、タブレット端末のような表示装置一体型の電子機器にも適用可能である。   The present invention relates to a video generation apparatus and a video generation method for generating an output video signal for simply displaying a stereoscopic image. The present invention can be applied to a video processing circuit mounted on an image display device such as a TV device, a computer monitor, or a digital photo frame. The present invention can also be applied to video processing circuits mounted on various video devices (for example, personal computers, digital cameras, video cameras, video recorders, etc.) that output video signals to an image display device. . The present invention can also be applied to display-integrated electronic devices such as notebook computers, mobile phones, smartphones, and tablet terminals.

(運動視差)
初めに、運動視差について説明する。運動視差とは、例えば動いている対象物を観測している場合に、その対象物と他の物体(背景)との位置関係が変化することにより立体感が生じることをいう。また観測者の視点が移動しても同様に、対象物と他の物体(背景)の位置関係が変化するため、観測者は立体感を認識する。
(Motion parallax)
First, motion parallax will be described. Motion parallax means that, for example, when a moving object is observed, a stereoscopic effect is generated by changing the positional relationship between the object and another object (background). Similarly, even if the observer's viewpoint moves, the positional relationship between the object and another object (background) changes, so that the observer recognizes a three-dimensional effect.

対象物が移動している場合の説明を行う。図8(a)は対象物が移動する場合の追従視を模式的に示す図である。図8(a)において、100は観測者の目、101a,101b,101c,101d,101eは時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2における対象物を示している。すなわち、対象物は動いている。102a,102b,102c,102d,102eは背景となる他の物体である。本発明の説明では、以降、単に背景と呼ぶことにする。110a,110b,110c,110d,110eは、動いている対象物101a,101b,101c,101d,101eをそれぞれ追従視している視線を模式的に示した点線である。   The case where the target object is moving will be described. FIG. 8A is a diagram schematically showing a follow-up view when the object moves. In FIG. 8A, reference numeral 100 denotes the observer's eyes, and 101a, 101b, 101c, 101d, and 101e denote objects at times Tn-2, Tn-1, Tn, Tn + 1, and Tn + 2. That is, the object is moving. Reference numerals 102a, 102b, 102c, 102d, and 102e denote other objects as backgrounds. In the following description of the present invention, it will be simply referred to as background. Reference numerals 110a, 110b, 110c, 110d, and 110e are dotted lines that schematically show the lines of sight of the moving objects 101a, 101b, 101c, 101d, and 101e, respectively.

図8(b)に移動する対象物が網膜上に結像されたを画像を模式的に示す。図8(b)において、101a,101b,101c,101d,101eは、時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2における対象物を示しており、観測者が追従視を行う結果、時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2において、対象物は網膜上の中心に位置する。102cはある背景である。111は追従視した対象物101a,101b,101c,101d,101eの網膜上の移動を示す線、112は対象物101a,101b,101c,101d,101eを追従視した結果、ある背景102cの網膜上の移動を示す直線である。図8(b)を見てわかるように、対象物の運動を追従視することにより、対象物と背景の位置関係が変化するのがわかる。この変化を観測者は経験的に立体感として認識する。   FIG. 8B schematically shows an image of the moving object formed on the retina. In FIG. 8B, reference numerals 101a, 101b, 101c, 101d, and 101e denote objects at times Tn-2, Tn-1, Tn, Tn + 1, and Tn + 2, respectively. In Tn-2, Tn-1, Tn, Tn + 1, and Tn + 2, the object is located at the center on the retina. Reference numeral 102c denotes a background. 111 is a line indicating the movement of the objects 101a, 101b, 101c, 101d, and 101e on the retina, and 112 is a result of following the objects 101a, 101b, 101c, 101d, and 101e, and on the retina of a certain background 102c. It is a straight line showing the movement of. As can be seen from FIG. 8B, it can be seen that the positional relationship between the object and the background changes by following the movement of the object. The observer recognizes this change as a three-dimensional effect empirically.

次に、観測者の視点が移動している場合の説明を行う。図9(a)は観測者が移動した場合の追従視を模式的に示す図である。図9(a)において、100a,100b,100c,100d,100eは、時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2における観測者の目であり、101は対象物を示している。102a,102b,102c,102d,102eは背景である。110a,110b,110c,110d,110eは、対象物101を追従視した場合の視線を模式的に示した点線である。   Next, the case where the observer's viewpoint is moving will be described. FIG. 9A is a diagram schematically showing the following vision when the observer moves. In FIG. 9A, 100a, 100b, 100c, 100d, and 100e are the eyes of the observer at time Tn-2, Tn-1, Tn, Tn + 1, and Tn + 2, and 101 indicates the object. Reference numerals 102a, 102b, 102c, 102d, and 102e are backgrounds. Reference numerals 110a, 110b, 110c, 110d, and 110e are dotted lines that schematically show the line of sight when the object 101 is viewed.

図9(b)に観測者が移動した場合の網膜上に結像された画像を模式的に示す。図9(b)において、101は時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2における対象物を示しており、観測者が追従視を行う結果、時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2において、網膜上の中心に位置する。102cはある背景である。111は追従視した対象物101の網膜上の移動を示す線、112は対象物101を追従視した結果、ある背景102cの網膜上の移動を示す直線である。図9(b)を見てわかるように、観測者が移動し、観測者が対象物を追従視することにより、対象物と背景の位置関係が変化するのがわかる。この変化を観測者は経験的に立体感として認識する。   FIG. 9B schematically shows an image formed on the retina when the observer moves. In FIG. 9B, reference numeral 101 denotes an object at times Tn-2, Tn-1, Tn, Tn + 1, and Tn + 2. As a result of the observer performing follow-up, time Tn-2, Tn-1, Tn , Tn + 1, Tn + 2 are located at the center on the retina. Reference numeral 102c denotes a background. Reference numeral 111 denotes a line indicating the movement of the object 101 on the retina, and 112 indicates a straight line indicating the movement of the background 102c on the retina as a result of the object 101 being viewed. As can be seen from FIG. 9B, it can be seen that the positional relationship between the object and the background changes as the observer moves and the observer follows the object. The observer recognizes this change as a three-dimensional effect empirically.

以上説明したように、運動視差、すなわち背景に対する対象物の網膜上の位置のずれによって、立体感が生じる。運動視差による立体感は、対象物や背景の位置関係の変化により認知されるものであるため、観測者が単眼で見ても立体的に知覚できるという特性がある。   As described above, the stereoscopic effect is generated by the motion parallax, that is, the displacement of the position of the object on the retina with respect to the background. The stereoscopic effect due to motion parallax is perceived by a change in the positional relationship between the object and the background, and thus has a characteristic that the observer can perceive it stereoscopically even with a single eye.

(サブフレーム表示による運動視差)
次に、表示装置で表示する映像を工夫することによって、上述した運動視差による立体感と同様な効果を得る方法について記す。
(Motion parallax by sub-frame display)
Next, a method for obtaining the same effect as the stereoscopic effect by the motion parallax described above by devising the video displayed on the display device will be described.

本発明者がSED(Surface-conduction Electron-emitter Display)を用い、120
Hzの表示フレーム周波数で映像を表示し、対象物と背景を観察したところ、以下のことがわかった。
The inventor used SED (Surface-conduction Electron-emitter Display), and 120
When an image was displayed at a display frame frequency of Hz and the object and the background were observed, the following was found.

図10(a)と図10(b)に、サブフレーム表示による運動視差の発生原理を模式的に示す。図10(a)において、横軸は空間方向、例えばX方向を示す軸、縦軸は時間方向を示す軸である。縦軸はフレーム時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2における表示を模式的に示している。図10(a)において、101は対象物であり、102a,102b,102d,102eは背景である、また110はマイクロサッカードと呼ばれる観測者の無意識に発生する微小な視点の移動を模式的に示した線である。図10(a)において対象物101は120Hzのフレーム周波数で、例えば奇数フレームのみ表示する。背景102a,102b,102d,102eはフレーム周波数120Hzで全フレームを表示する。この時、対象物101は時間方向に1/2に間引いて表示するので、発光強度を2倍に上げ、間引き無しに120Hzで表示した場合と同じ輝度(観測者が見て同じ明るさ)になるよう調整する。   FIG. 10A and FIG. 10B schematically show the generation principle of motion parallax by subframe display. In FIG. 10A, the horizontal axis is a space direction, for example, an axis indicating the X direction, and the vertical axis is an axis indicating the time direction. The vertical axis schematically shows the display at frame times Tn-2, Tn-1, Tn, Tn + 1, and Tn + 2. In FIG. 10A, reference numeral 101 denotes an object, reference numerals 102a, 102b, 102d, and 102e denote backgrounds, and reference numeral 110 schematically illustrates a minute viewpoint movement that occurs unconsciously called a microsaccade. It is the line shown. In FIG. 10A, the object 101 displays a frame frequency of 120 Hz, for example, only odd frames. The backgrounds 102a, 102b, 102d, and 102e display all frames at a frame frequency of 120 Hz. At this time, since the object 101 is displayed by being decimated by half in the time direction, the luminous intensity is doubled, and the luminance is the same as when displayed at 120 Hz without decimating (the same brightness as viewed by the observer). Adjust so that

図10(b)は、観測者の網膜に結像するサブフレーム表示の画像を模式的に示した図である。図10(b)において、101は対象物、102a,102b,102d,102eは背景を示す。そして、時刻Tn−2,Tn−1,Tn,Tn+1,Tn+2における対象物101と背景102a,102b,102d,102eの関係を模式的に示している。112は観測者の無意識な微小な視点の移動による生じる背景102bの網膜上の動きを模式的に示した線、111は対象物101の残像により見える網膜上の位置を示す線である。   FIG. 10B is a diagram schematically showing a sub-frame display image formed on the retina of the observer. In FIG. 10B, reference numeral 101 denotes an object, and 102a, 102b, 102d, and 102e denote backgrounds. The relationship between the object 101 and the backgrounds 102a, 102b, 102d, and 102e at the times Tn-2, Tn-1, Tn, Tn + 1, and Tn + 2 is schematically shown. Reference numeral 112 is a line schematically showing the movement of the background 102 b on the retina caused by the observer's unconscious movement of the minute viewpoint, and 111 is a line showing the position on the retina that can be seen by the afterimage of the object 101.

図10(b)を見てわかるように、観測者の無意識な微小な視点の移動によって、背景102bは、112の線に示すように、網膜上で移動する。一方、対象物101は、例えば、時刻Tn−2で2倍の発光強度で点灯し、時刻Tn−1で発光しない。そのため111の線に示すように、残像により対象物101が網膜上で固定して見える。次の時刻Tnでは、対象物101が発光するため、背景102bと102dの間に対象物101が移動したように見える。これにより、観測者は、背景102a,102b,102d,102eと対象物101の間に異なった動き(背景と対象物の相対的な動き)が発生したと知覚(錯覚)し、それにより運動視差による立体感が生じる。   As can be seen from FIG. 10B, the background 102 b moves on the retina as indicated by the line 112 by the minute movement of the observer's unconscious minute viewpoint. On the other hand, for example, the object 101 is lit at double emission intensity at time Tn-2 and does not emit light at time Tn-1. Therefore, as shown by the line 111, the object 101 appears to be fixed on the retina due to the afterimage. At the next time Tn, since the object 101 emits light, it appears that the object 101 has moved between the backgrounds 102b and 102d. As a result, the observer perceives (an illusion) that different movements (relative movements of the background and the object) occur between the backgrounds 102a, 102b, 102d, and 102e, and the motion parallax. This creates a three-dimensional effect.

このようなサブフレーム表示を行う場合、背景102a,102b,102d,102eは表示装置の額縁と同等の動きとなるため、背景が表示装置の額縁と同じ距離と認識する手がかりになる。そして、背景102a,102b,102d,102eに対して、対象物101は手前にあるように認識されることにより立体感が生じる。   When such a sub-frame display is performed, the backgrounds 102a, 102b, 102d, and 102e move in the same manner as the frame of the display device, so that the background can be recognized as the same distance as the frame of the display device. Then, the object 101 is recognized as being in front of the backgrounds 102a, 102b, 102d, and 102e, resulting in a three-dimensional effect.

また、本発明者が観察したところ、背景が無地の場合は、背景の動きが認識しづらいため、背景と対象物との相対的な動きが認知しにくくなり、立体感が少なくなることがわかった。また、立体感の手助けを行うような模様を背景として選ぶと、背景と対象物との相対的な動きが認知し易くなるため、サブフレーム表示による運動視差の発生が引き起こす立体感が増強できた。   In addition, when the inventor observed that the background is plain, it is difficult to recognize the movement of the background, so it is difficult to recognize the relative movement between the background and the object, and the stereoscopic effect is reduced. It was. In addition, when a pattern that assists in a stereoscopic effect is selected as the background, the relative movement between the background and the object becomes easy to recognize, so the stereoscopic effect caused by the generation of motion parallax due to subframe display can be enhanced. .

具体的に本発明者がSEDに表示し観察を行った画像を、図11(a)、図11(b)と、図11(c)、図11(d)に示す。これらの画像を用いて、前述した現象を更に詳しく説明する。
図11(a)はサブフレーム表示による観察を行った第1フレームの画像を示す図、図11(b)は第2フレームの画像を示す図である。以降、本明細書では、このサブフレー
ムを表示サブフレームと呼ぶことにする。
Specifically, images displayed by the inventor on the SED and observed are shown in FIGS. 11 (a), 11 (b), 11 (c), and 11 (d). The above-described phenomenon will be described in more detail using these images.
FIG. 11A is a diagram showing an image of the first frame observed by subframe display, and FIG. 11B is a diagram showing an image of the second frame. Hereinafter, in this specification, this subframe is referred to as a display subframe.

初めに、本発明者は、本発明の効果を確認するために、図11(a)、図11(b)の画像をフレーム周波数120Hzで交互に表示した。図の濃さは表示装置の発光強度に対応する。図11(a)、図11(b)の画像は、左右の円部分の輝度がフレーム周波数120Hzで表示した場合に同じになるように調整したデータを用いた。すなわち、図11(a)、図11(b)の左右の円部分の明るさが同じになるように設定して観測者が評価した。具体的には、左の円部分の発光強度は第1フレームを100%、第2フレームを0%、右の円部分の発光強度は第1フレームを50%、第2フレームを50%のように設定した。背景の発光強度は、第1フレームと第2フレームで同じ値に設定した。   First, in order to confirm the effect of the present invention, the present inventor displayed the images of FIGS. 11A and 11B alternately at a frame frequency of 120 Hz. The darkness in the figure corresponds to the emission intensity of the display device. For the images in FIGS. 11A and 11B, data adjusted so that the luminance of the left and right circular portions is the same when displayed at a frame frequency of 120 Hz is used. That is, the observer evaluated by setting the brightness of the left and right circular portions in FIGS. 11A and 11B to be the same. Specifically, the light intensity of the left circle part is 100% for the first frame, the second frame is 0%, the light intensity of the right circle part is 50% for the first frame, and the second frame is 50%. Set to. The light emission intensity of the background was set to the same value in the first frame and the second frame.

一方、背景の模様について評価するために、図11(c)、図11(d)の画像も作成した。図11(c)は立体感の手助けを行うような模様を背景に追加しサブフレーム表示による観察を行った第1フレームの画像を示す図、図11(d)は第2フレームの画像を示す図である。図11(a)、図11(b)の画像と異なる部分は、左右の円の下に左右の円が立体的に見えるように補助する図形を追加したことである。この補助図形は、奥行きがあるように見える斜線と、円の影に見えるような楕円の図形である。その他の部分は、図11(a)、図11(b)の画像とまったく同じとした。   On the other hand, in order to evaluate the background pattern, the images of FIGS. 11C and 11D were also created. FIG. 11 (c) is a diagram showing an image of the first frame obtained by adding a pattern to help the stereoscopic effect to the background and observing by subframe display, and FIG. 11 (d) shows an image of the second frame. FIG. A different part from the images of FIGS. 11A and 11B is that a figure for assisting the left and right circles to be viewed stereoscopically is added under the left and right circles. This auxiliary figure is an oblique figure that appears to have depth and an elliptic figure that appears to be a shadow of a circle. The other parts were exactly the same as the images in FIGS. 11 (a) and 11 (b).

このような画像をSEDで120Hzのフレーム周波数で表示し、立体感を比較した結果、以下のことがわかった。
図11(a)、図11(b)の右の円は、背景と同一(背景に書かれている絵)の様に見える。一方、左の円は、右の円と異なって見えた。すなわち、左の円部分は背景とは別のもののように見え、微妙ではあるが左の円が浮き出て見えることがわかった。
一方、図11(c)、図11(d)については、図11(a)、図11(b)を用いた表示に比べより立体的に(円が浮き出て)見える。特に、図11(c)、図11(d)の左の円については、円が背景とは別のものに見え、右の円に比べより浮き出て見えることがわかった。
また、別の実験として背景に単に模様(テクスチャ)を追加した場合であっても、図11(c)、図11(d)ほどではないが、表示サブフレーム間で発光強度を変えると立体的に見えることがわかった。
As a result of displaying such an image with SED at a frame frequency of 120 Hz and comparing the stereoscopic effect, the following was found.
The right circles in FIGS. 11A and 11B appear to be the same as the background (the picture written on the background). On the other hand, the left circle looked different from the right circle. In other words, the left circle appears to be different from the background, and the left circle appears to be slightly raised.
On the other hand, FIGS. 11 (c) and 11 (d) are more three-dimensional (circles are raised) than the display using FIGS. 11 (a) and 11 (b). In particular, for the left circles in FIGS. 11C and 11D, it was found that the circles looked different from the background and appeared more prominent than the right circles.
Further, as another experiment, even when a pattern (texture) is simply added to the background, it is not as large as in FIGS. 11 (c) and 11 (d). I can see that.

すなわち、上記の観察実験の結果、次のことがわかった。表示サブフレーム間で発光強度を変えていない対象物(右の円)は背景と同じものに見える(円が背景に書かれているような絵に見える)。しかし、表示サブフレーム間で発光強度を相対的に変化させた場合、背景と対象物(左の円)は異なったものに見え、背景に対し対象物が浮き出て見える。更に背景に模様、特に立体感を助長する模様があると立体感が大きくなる。   That is, as a result of the above observation experiment, the following was found. An object whose light emission intensity has not changed between display subframes (the right circle) looks the same as the background (looks like a circle is written on the background). However, when the emission intensity is relatively changed between display subframes, the background and the object (left circle) look different, and the object appears to protrude from the background. Furthermore, if there is a pattern in the background, particularly a pattern that promotes a three-dimensional effect, the three-dimensional effect increases.

以上まとめると、2つの表示サブフレーム間の発光強度比(大きい発光強度/小さい発光強度)が大きな対象物は、背景に比べて浮き出て見える(発光強度比が1の時は通常の表示となり浮き出て見えない)。そして、表示サブフレームを2フレーム表示した結果得られる輝度は対象物によらず表示すべき輝度になるように各表示サブフレームの発光強度を決定することにより、観測者が見た場合の対象物の明るさが変化することもなく、立体感を出すことが可能となる。   In summary, an object having a large light emission intensity ratio (high light emission intensity / small light emission intensity) between two display subframes appears to be raised compared to the background (when the light emission intensity ratio is 1, the normal display is displayed. Can't see). Then, by determining the emission intensity of each display subframe so that the luminance obtained as a result of displaying two display subframes is the luminance that should be displayed regardless of the target, the target when the observer sees it It is possible to achieve a three-dimensional effect without changing the brightness.

インパルス型ディスプレイであるSEDにおいて、上述した効果がはっきり認知できた。ホールド型ディスプレイであるLCDにおいては、上述した効果が少なくなるが、原理的に同様の効果が得られる。また、LCDは近年インパルス型ディスプレイの特性に近づけるために、黒挿入やバックライトの発光時間の制御等を行っており、このようなLCDにおいては、本発明の効果が容易に得られる。   In the SED, which is an impulse type display, the above-mentioned effects can be clearly recognized. In an LCD that is a hold-type display, the above-described effect is reduced, but the same effect can be obtained in principle. In recent years, in order to bring the LCD closer to the characteristics of an impulse display, black insertion, control of the light emission time of the backlight, and the like are performed. In such an LCD, the effects of the present invention can be easily obtained.

以上の検討に基づき、本発明では次のように出力映像信号を生成する。すなわち、本発明に係る映像生成装置は、出力映像信号を構成する表示サブフレームを生成するサブフレーム生成部と、表示サブフレームを表示装置に対し順次出力する出力部と、を有する。サブフレーム生成部は、複数(N個)の連続する表示サブフレームにより1つの映像を形成するように、各表示サブフレームを生成する。このとき、N個の表示サブフレームの間で、背景の領域の発光強度は相対的に変化せず、かつ、背景に比べて浮き出させる対象物の領域の発光強度は相対的に変化するように、各表示サブフレームの領域ごとの発光強度を決める。このように生成した出力映像信号を表示装置に出力すれば、観測者の微小な眼球運動により運動視差が知覚され、対象物が背景から浮き出して見える。
本発明では、出力映像信号における「N個の連続する表示サブフレーム」を便宜的に「フレーム」と呼ぶことにする。また、この1枚のフレームを形成する表示サブフレームの数Nを「単位表示フレーム数」と呼ぶ。単位表示フレーム数Nは、1より大きい整数であり、例えば2〜4程度が好適である。
Based on the above examination, the present invention generates an output video signal as follows. That is, the video generation device according to the present invention includes a subframe generation unit that generates display subframes that constitute an output video signal, and an output unit that sequentially outputs the display subframes to the display device. The subframe generation unit generates each display subframe so that one video is formed by a plurality (N) of consecutive display subframes. At this time, between the N display subframes, the light emission intensity of the background region does not change relatively, and the light emission intensity of the object region to be raised relatively changes compared to the background. The light emission intensity for each display subframe region is determined. If the output video signal generated in this way is output to the display device, motion parallax is perceived by the minute eye movement of the observer, and the object appears to be raised from the background.
In the present invention, “N consecutive display subframes” in the output video signal are referred to as “frames” for convenience. Further, the number N of display subframes forming one frame is referred to as “unit display frame number”. The unit display frame number N is an integer greater than 1, and is preferably about 2 to 4, for example.

(第1の実施形態)
本発明の第1の実施形態は、60Hzの入力映像信号の各フレームから2つのサブフレームを生成し、映像中の各対象物の距離情報を元に各サブフレームの発光強度を調整することによって、120Hzの出力映像信号を生成する、という構成である。
(First embodiment)
The first embodiment of the present invention generates two subframes from each frame of an input video signal of 60 Hz, and adjusts the emission intensity of each subframe based on distance information of each object in the video. , A 120 Hz output video signal is generated.

本発明の第1の実施形態のブロック図を図1、タイミング図を図6に示す。
図1において、1は入力された映像信号から対象物の距離情報を抽出する距離情報抽出部、2は距離情報抽出部1の出力である距離情報を元に第1の表示サブフレームの係数を決定する第1係数生成部である。ここで距離情報とは、映像中の各対象物の奥行き方向の距離(つまり観測者もしくは撮影者から対象物までの距離)を表す情報である。3は入力映像信号を輝度と比例する特性の映像信号に変換する逆ガンマ変換部、4a、4bは乗算器である。5は空間方向、あるいは空間方向および時間方向のローパスフィルタである。ローパスフィルタ5は省略することもできるため、破線で図示している。6は第1の表示サブフレームの係数から、第2の表示サブフレームの係数を算出する第2係数演算部である。7a、7bは入力されるフレーム周波数を倍速化することで、表示サブフレームを作成するために時間軸を圧縮する時間軸圧縮部である。8は倍速化された映像信号を切り替え出力するスイッチである。9は映像信号の特性を表示装置に対応したガンマ特性に変換するガンマ変換部だる。99aは映像信号を入力する入力端子、99bは倍速化された映像信号を出力する出力端子、500は倍速化された映像信号を表示する表示装置である。本実施形態では、第1係数生成部2、ローパスフィルタ5、第2係数演算部6、乗算器4a,4bにより本発明のサブフレーム生成部が構成され、時間軸圧縮部7a,7b、スイッチ8により本発明の出力部が構成されている。
A block diagram of the first embodiment of the present invention is shown in FIG. 1, and a timing diagram is shown in FIG.
In FIG. 1, 1 is a distance information extraction unit that extracts distance information of an object from an input video signal, and 2 is a coefficient of a first display subframe based on distance information that is output from the distance information extraction unit 1. It is the 1st coefficient production | generation part to determine. Here, the distance information is information representing the distance in the depth direction of each target object in the video (that is, the distance from the observer or the photographer to the target object). Reference numeral 3 denotes an inverse gamma converter for converting an input video signal into a video signal having a characteristic proportional to luminance, and 4a and 4b denote multipliers. Reference numeral 5 denotes a low-pass filter in the spatial direction or in the spatial direction and the temporal direction. Since the low-pass filter 5 can be omitted, it is shown by a broken line. Reference numeral 6 denotes a second coefficient calculation unit that calculates the coefficient of the second display subframe from the coefficient of the first display subframe. Reference numerals 7a and 7b denote time axis compression units that compress the time axis in order to create a display subframe by doubling the input frame frequency. Reference numeral 8 denotes a switch for switching and outputting the doubled video signal. A gamma conversion unit 9 converts the characteristics of the video signal into gamma characteristics corresponding to the display device. Reference numeral 99a is an input terminal for inputting a video signal, 99b is an output terminal for outputting a doubled video signal, and 500 is a display device for displaying the doubled video signal. In the present embodiment, the first coefficient generation unit 2, the low-pass filter 5, the second coefficient calculation unit 6, and the multipliers 4a and 4b constitute the subframe generation unit of the present invention, and the time axis compression units 7a and 7b and the switch 8 Thus, the output unit of the present invention is configured.

図6において、横軸は時間、縦軸は信号強度を模式的に示す。図6のS11〜S16は、図1にS11〜S16で示した配線の信号波形にそれぞれ対応する。   In FIG. 6, the horizontal axis schematically represents time, and the vertical axis schematically represents signal intensity. S11 to S16 in FIG. 6 respectively correspond to the signal waveforms of the wirings indicated by S11 to S16 in FIG.

次に、図1、図6を用いて本発明の第1の実施形態の映像生成方法を説明する。図1において入力端子99aには、例えば60Hzのフレーム周波数の映像信号が入力される、この映像信号は、CRTのガンマ特性を打ち消す例えば(1/2.2)乗のガンマ変換がかけられている信号である。逆ガンマ変換部3は2.2乗の変換テーブルであり、入力端子99aに入力された映像信号を輝度に比例する映像信号に変換し出力する。出力された映像信号(S11)を、図6に模式的に示す。図6のS11の波形は一例として1フレーム(1/60秒)の映像信号を示している。S11は例えば画面中央部に明るい横帯がある映像信号を示している。もちろん説明のための映像信号であり、どのような映像信号であってもかまわない。   Next, a video generation method according to the first embodiment of the present invention will be described with reference to FIGS. In FIG. 1, a video signal having a frame frequency of 60 Hz, for example, is input to the input terminal 99a. The video signal is subjected to, for example, (1 / 2.2) power gamma conversion that cancels the gamma characteristic of the CRT. Signal. The inverse gamma conversion unit 3 is a 2.2 power conversion table, which converts the video signal input to the input terminal 99a into a video signal proportional to the luminance and outputs the video signal. The output video signal (S11) is schematically shown in FIG. The waveform of S11 in FIG. 6 shows an image signal of one frame (1/60 second) as an example. S11 indicates a video signal having a bright horizontal band in the center of the screen, for example. Of course, this is a video signal for explanation, and any video signal may be used.

一方、入力端子99aに入力された映像信号は距離情報抽出部1により、撮像装置と被写体である対象物との距離情報の信号に変換される。この変換は例えば、特開平07−244735号公報や特開2007−078454号公報で開示されているような方法によってカメラと被写体の距離を求め距離情報のフレームを生成しても良い。   On the other hand, the video signal input to the input terminal 99a is converted by the distance information extraction unit 1 into a signal of distance information between the imaging apparatus and the target object. For this conversion, for example, the distance between the camera and the subject may be obtained by a method disclosed in Japanese Patent Application Laid-Open Nos. 07-244735 and 2007-077844, and a frame of distance information may be generated.

また、二眼カメラで撮影した2つの画像からブロック毎に検索範囲で移動し他方の画像のブロックとの相関を検出し、相関の高いずらし量から距離情報を作成する方法であっても良い。すなわち、ブロックのずらし量が0の距離は、カメラのセッティングで決まる距離であり、設計者に取っては既知の値である。このずらし量0の距離を元に、ずらし量の大きさ、向き、カメラの撮影画角(レンズの焦点距離、撮像板の大きさ)によってカメラと被写体の距離を計算すればよい。この距離情報のフレームは、距離情報計算に用いた2つの映像信号のうちの一方の映像信号(他方は使用しない)とともに、入力端子99aに入力されるものとする。この場合、距離情報抽出部1は単に、距離情報のフレームを分離するだけの機能ブロックとなる。もちろん、二眼カメラで撮影した2つの画像から距離情報を得る上述の処理を、距離情報抽出部1の機能にしてもよい。   Alternatively, a method may be used in which distance information is generated from a shift amount having a high correlation by moving within a search range for each block from two images captured by a twin-lens camera, detecting a correlation with the block of the other image. That is, the distance where the block shift amount is 0 is a distance determined by the camera setting, and is a known value for the designer. Based on the distance of the shift amount 0, the distance between the camera and the subject may be calculated based on the size and direction of the shift amount and the shooting angle of view of the camera (the focal length of the lens and the size of the imaging plate). This distance information frame is input to the input terminal 99a together with one of the two video signals used for the distance information calculation (the other is not used). In this case, the distance information extraction unit 1 is simply a functional block that only separates the frame of distance information. Of course, the above-described processing for obtaining distance information from two images taken by a twin-lens camera may be a function of the distance information extraction unit 1.

また、コンピュータグラフィックの画像の場合は、仮想空間の座標として、カメラの位置、対象物の位置が既知である。それゆえ、映像信号を生成する際に、カメラからの距離を計算し距離情報を持つフレームデータを作成し、映像信号と同時に、入力端子99aに出力する。この場合、距離情報抽出部1は単に、距離情報のフレームを分離するだけの機能ブロックとなる。   In the case of a computer graphic image, the position of the camera and the position of the object are known as the coordinates of the virtual space. Therefore, when the video signal is generated, the distance from the camera is calculated, frame data having distance information is generated, and the frame data is output to the input terminal 99a simultaneously with the video signal. In this case, the distance information extraction unit 1 is simply a functional block that only separates the frame of distance information.

また、距離情報のフレームは、映像信号の画像サイズと同じ大きさで、必要に応じたデータ幅が望ましい。例えば、後述するように、距離情報の分解能が必要ない場合は、1または2bitのデータ幅であっても良い。   Further, the distance information frame is preferably the same size as the image size of the video signal and has a data width as required. For example, as will be described later, if the resolution of the distance information is not required, the data width may be 1 or 2 bits.

距離情報抽出部1の出力は第1係数生成部2に入力され、距離情報に応じた第1表示サブフレームに乗じる係数(以降、単に第1係数と呼ぶ)に変換される。入力される距離情報に対して出力される第1係数の一例を図7(a)に示す。図7(a)において、横軸は距離情報(対数軸)であり、縦軸は第1係数である。図7(a)で示す特性は、1mより近い距離では第1係数が最大値1.0をとり、距離を認識し易い1mから10mの間では距離が大きくなるほど第1係数が徐々に小さくなり、10mを超える距離では第1係数が最小値0.5をとるテーブルである。もちろん他の特性であってもかまわない。例えば、下に凸の特性とし、1m近傍の立体感を強調しても良い。   The output of the distance information extraction unit 1 is input to the first coefficient generation unit 2 and converted into a coefficient (hereinafter simply referred to as a first coefficient) to be multiplied by the first display subframe corresponding to the distance information. An example of the first coefficient output for the input distance information is shown in FIG. In FIG. 7A, the horizontal axis is distance information (logarithmic axis), and the vertical axis is the first coefficient. In the characteristics shown in FIG. 7A, the first coefficient has a maximum value of 1.0 at a distance closer than 1 m, and the first coefficient gradually decreases as the distance increases between 1 m and 10 m where the distance is easily recognized. It is a table in which the first coefficient has a minimum value of 0.5 at a distance exceeding 10 m. Of course, other characteristics may be used. For example, it is possible to emphasize the stereoscopic effect in the vicinity of 1 m with a downward convex characteristic.

第1係数生成部2の出力である第1係数は第2係数演算部6に入力され、第2係数が計算される。第2係数演算部6は、第1係数をk1、第2係数をk2とすれば、

k2=1−k1 ・・・式1)

と演算すると好適である。
The first coefficient, which is the output of the first coefficient generation unit 2, is input to the second coefficient calculation unit 6, and the second coefficient is calculated. If the first coefficient is k1 and the second coefficient is k2, the second coefficient calculator 6

k2 = 1-k1 (Formula 1)

Is preferably calculated.

続いて、逆ガンマ変換部3の出力である、輝度に比例する映像信号に、第1の係数S12と第2の係数S13をそれぞれ乗じる。その結果、例えば距離1mの対象物の発光強度は第1、第2表示サブフレームで100%,0%であり、例えば距離10mの背景の発光強度は第1、第2表示サブフレームで50%,50%となる(S14a、S14b)。ここでは、説明を分かりやすくするために、表示サブフレームの発光強度を絶対値(映像信号の値)ではなく、入力映像信号の発光強度に対する割合で表現している。すなわち、「100%」というのは、表示サブフレームにおける映像信号の値が入力映像信号の値と同
じであることを意味する。
Subsequently, the video signal proportional to the luminance, which is the output of the inverse gamma conversion unit 3, is multiplied by the first coefficient S12 and the second coefficient S13, respectively. As a result, for example, the emission intensity of the object at a distance of 1 m is 100% and 0% in the first and second display subframes. For example, the emission intensity of the background at a distance of 10 m is 50% in the first and second display subframes. , 50% (S14a, S14b). Here, for easy understanding, the light emission intensity of the display subframe is expressed not as an absolute value (video signal value) but as a ratio to the light emission intensity of the input video signal. That is, “100%” means that the value of the video signal in the display subframe is the same as the value of the input video signal.

第1、第2表示サブフレームに対応する映像信号S14a、S14bは、60Hzのフレーム周波数から、時間軸圧縮部7a,7bによりフレーム時間を圧縮した映像信号S15a,S15bに変換される。続いて時間を圧縮した映像信号S15a,S15bをスイッチ8が交互に選択することによって120Hzのフレーム周波数の映像信号S16を得る。この120Hzのフレーム周波数の映像信号S16は輝度に比例した映像信号であるので、表示する表示装置500の特性にあわせ、ガンマ変換部9は例えば(1/2.2)乗のガンマ変換を映像信号S16に施し出力端子99bに出力する。出力端子99bに出力された映像信号は表示装置500で表示される。表示装置500は、120Hzのフレーム周波数の映像信号を入力し120Hzのフレーム周波数で表示する表示装置である。前述した様に、表示装置500はインパルス型ディスプレイが本発明には好適であるが、ホールド型ディスプレイであっても、本発明の効果を得ることができる。   The video signals S14a and S14b corresponding to the first and second display subframes are converted from the frame frequency of 60 Hz into video signals S15a and S15b in which the frame time is compressed by the time axis compression units 7a and 7b. Next, the video signal S16 having a frame frequency of 120 Hz is obtained by the switch 8 alternately selecting the video signals S15a and S15b whose time is compressed. Since the video signal S16 having a frame frequency of 120 Hz is a video signal proportional to the luminance, the gamma conversion unit 9 performs, for example, (1 / 2.2) power gamma conversion on the video signal in accordance with the characteristics of the display device 500 to be displayed. Apply to S16 and output to output terminal 99b. The video signal output to the output terminal 99b is displayed on the display device 500. The display device 500 is a display device that receives a video signal having a frame frequency of 120 Hz and displays the video signal at a frame frequency of 120 Hz. As described above, the display device 500 is preferably an impulse display for the present invention. However, even if it is a hold type display, the effects of the present invention can be obtained.

式1)の演算は、第1係数と第2係数の和が1であることを示す。これは、対象物の距離、すなわち対象物に設定される発光強度比がいかなる値であっても、第1、第2表示サブフレームの発光強度の合計がつねに同じ値になることを意味する。第1、第2表示サブフレームの発光強度をこのように調整することで、対象物の距離によらず、2つの表示サブフレームを表示した結果観測される輝度が入力映像信号により要求される輝度(表示すべき輝度)に比例する。したがって、映像内における対象物間の輝度比が維持され、良好な品質の映像が表示できる。   The calculation of Equation 1) indicates that the sum of the first coefficient and the second coefficient is 1. This means that the sum of the emission intensities of the first and second display subframes is always the same regardless of the value of the distance of the object, that is, the emission intensity ratio set for the object. By adjusting the emission intensities of the first and second display subframes in this way, the luminance that is observed as a result of displaying the two display subframes regardless of the distance of the target object is required by the input video signal. Proportional to (brightness to be displayed). Therefore, the luminance ratio between the objects in the video is maintained, and a video with good quality can be displayed.

図7(a)の特性の第1係数生成部2において、背景(この特性では10m以上)は、通常の120Hzの表示である。前述した様に、背景は観測者の目の微小な動きと共に網膜上で移動する。一方、距離が1mに近づくにしたがって、第1表示サブフレームの発光強度が上がり、第2表示サブフレームの発光強度が下がるため、網膜上で対象物が固定して見えるようになる。そのため運動視差による立体感が生じる。この立体感は、観測者の微小な目の運動による運動視差により認識されるものであるため、画像によって立体感がわかりにくいことがある。その場合、背景の領域と、背景に比べて浮き出させる対象物の領域との間で、発光強度比を極端に異ならせることによって、立体感を強調することができる。これは、図7(a)のように発光強度比を距離に応じて連続的に変化させるのではなく、発光強度比を距離に応じて段階的に(例えば2〜4段階程度)切り換えることで実現できる。   In the first coefficient generation unit 2 having the characteristics shown in FIG. 7A, the background (10 m or more in this characteristic) is a normal display of 120 Hz. As described above, the background moves on the retina together with the minute movement of the observer's eyes. On the other hand, as the distance approaches 1 m, the emission intensity of the first display subframe increases and the emission intensity of the second display subframe decreases, so that the object appears to be fixed on the retina. Therefore, a stereoscopic effect due to motion parallax occurs. Since this stereoscopic effect is recognized by motion parallax caused by the observer's minute eye movement, the stereoscopic effect may be difficult to understand from the image. In that case, the stereoscopic effect can be enhanced by making the emission intensity ratio extremely different between the background region and the region of the object to be raised compared to the background. This is because the light emission intensity ratio is not continuously changed according to the distance as shown in FIG. 7A, but the light emission intensity ratio is switched stepwise (for example, about 2 to 4 steps) according to the distance. realizable.

図7(b)、図7(c)に発光強度比を段階的に変えるための第1係数生成部2の特性を示す。図7(b)、図7(c)において、横軸は距離情報であり、縦軸は第1係数である。図7(b)では、距離を三段階に分け、表示サブフレームの発光強度を制御する例である。具体的には、2mより小さい距離では第1、第2表示サブフレームの発光強度比は100%:0%であり、2mから10mの距離では75%:25%であり、10mを超える距離では50%:50%となる。図7(c)は距離3m以上の物を背景とし第1、第2表示サブフレームの発光強度を同じとし、一方3mより近い対象物は第1、第2表示サブフレームの発光強度比を100%:0%とすることによって立体感を極端にする。第1係数生成部2の特性は、映像信号の画像や表示装置のサイズ、表示フレーム周波数等により最適に選択すると良い。   FIG. 7B and FIG. 7C show the characteristics of the first coefficient generation unit 2 for changing the emission intensity ratio stepwise. In FIG. 7B and FIG. 7C, the horizontal axis is distance information, and the vertical axis is the first coefficient. FIG. 7B shows an example in which the distance is divided into three stages and the emission intensity of the display subframe is controlled. Specifically, at a distance smaller than 2 m, the emission intensity ratio of the first and second display subframes is 100%: 0%, and at a distance from 2 m to 10 m is 75%: 25%, and at a distance exceeding 10 m. 50%: 50%. In FIG. 7 (c), an object having a distance of 3 m or more is used as a background, and the emission intensities of the first and second display subframes are the same. %: The stereoscopic effect is made extreme by setting it to 0%. The characteristics of the first coefficient generation unit 2 may be optimally selected depending on the image of the video signal, the size of the display device, the display frame frequency, and the like.

ここまでは、ローパスフィルタ5が無い場合の動作について説明した。しかし、ローパスフィルタ5が無い場合は、観測者の無意識な微小な視点の移動によって、対象物と背景との境界部分が黒く見えたり、明るく見えたりする妨害感が発生する可能性がある。そこで、ローパスフィルタ5により第1係数に対し空間的なローパスフィルタをかけることで、発光強度比の空間的な変化(画面内での変化)を緩やかにすることにより、妨害感を抑
制するとよい。また動画の表示の場合は、動きのある対象物の境界部分などで違和感が生じる可能性があるので、空間的なローパスフィルタに加え時間的なローパスフィルタをかけることで、発光強度比の時間的な変化(フレーム間での変化)を緩やかにするとより好ましい。
Up to this point, the operation when the low-pass filter 5 is not described has been described. However, when the low-pass filter 5 is not provided, there is a possibility that a sense of interference occurs in which the boundary between the object and the background looks black or bright due to the observer's unintentional movement of the viewpoint. Therefore, it is preferable to suppress the feeling of interference by applying a spatial low-pass filter to the first coefficient by the low-pass filter 5 to moderate the spatial change (change in the screen) of the emission intensity ratio. In addition, when displaying moving images, there may be a sense of incongruity at the boundaries of moving objects, so by applying a temporal low-pass filter in addition to a spatial low-pass filter, the temporal intensity ratio It is more preferable to moderate the change (change between frames).

本実施形態において重要な特性、すなわち第1、第2表示フレームの発光強度の比を発光強度比Hと呼ぶことにする。すなわちHは、

H=max[(k1/k2),(k2/k1)]
=max[(k1/(1−k1)),((1−k1)/k1)] ・・・式2)

と定義する。
An important characteristic in the present embodiment, that is, the ratio of the emission intensity of the first and second display frames is referred to as the emission intensity ratio H. That is, H is

H = max [(k1 / k2), (k2 / k1)]
= Max [(k1 / (1-k1)), ((1-k1) / k1)] Equation 2)

It is defined as

この発光強度比Hが1のときは、2つの表示サブフレームの発光強度が同じなので浮き出る感じは無い。よって背景の領域ではHは1または1に近い値であるとよい。一方、発光強度比Hが最も大きい(無限大)とき、第2係数が0となり、2つの表示サブフレームの発光強度の差が最大となるので、対象物が最も浮き出して見える。よって、背景に比べて浮き出させる度合いが大きい対象物ほどHを大きい値にするとよい。   When the emission intensity ratio H is 1, there is no feeling that the two display subframes have the same emission intensity. Therefore, H is preferably 1 or a value close to 1 in the background region. On the other hand, when the light emission intensity ratio H is the largest (infinite), the second coefficient is 0, and the difference between the light emission intensities of the two display subframes is the largest, so that the object appears most prominent. Therefore, it is better to set H to a larger value for an object that is more prominent than the background.

本実施形態では、第1係数k1の範囲を1から0.5として、第1表示サブフレームの乗数を1から0.5、第2表示サブフレームの乗数を0から0.5とした。しかし、第1係数と第2係数の値が逆であっても同様な効果が得られる。すなわち、第1係数k1の範囲を0から0.5として、第1表示サブフレームの乗数を0から0.5、第2表示サブフレームの乗数を1から0.5としても、同様な効果が得られる。そのため、式2)では、(k1/k2)と(k2/k1)の最大値を発光強度比Hと定義した。   In the present embodiment, the range of the first coefficient k1 is 1 to 0.5, the multiplier of the first display subframe is 1 to 0.5, and the multiplier of the second display subframe is 0 to 0.5. However, the same effect can be obtained even if the values of the first coefficient and the second coefficient are reversed. That is, even if the range of the first coefficient k1 is 0 to 0.5, the multiplier of the first display subframe is 0 to 0.5, and the multiplier of the second display subframe is 1 to 0.5, the same effect is obtained. can get. Therefore, in Equation 2), the maximum value of (k1 / k2) and (k2 / k1) is defined as the emission intensity ratio H.

以上説明してきた第1の実施形態の処理を数式の形で表現する。
入力される映像信号をSiとし、出力する映像信号の表示サブフレームの各々の映像信号をSo1,So2とし、第1係数を入力したローパスフィルタ5の出力をk1とする(ローパスフィルタ5がない構成であれば、第1係数をk1とする)。第1、第2表示サブフレームの映像信号So1,So2は、以下のように表すことができる。

So1=[k1×Si2.2(1/2.2) ・・・式3)
So2=[(1−k1)×Si2.2(1/2.2)
=[k2×Si2.2(1/2.2) ・・・式4)
The processing of the first embodiment described above is expressed in the form of a mathematical expression.
The input video signal is Si, each video signal of the display subframe of the output video signal is So1, So2, and the output of the low-pass filter 5 to which the first coefficient is input is k1 (configuration without the low-pass filter 5). If so, the first coefficient is k1). The video signals So1, So2 of the first and second display subframes can be expressed as follows.

So1 = [k1 × Si 2.2 ] (1 / 2.2) Expression 3)
So2 = [(1-k1) × Si 2.2 ] (1 / 2.2)
= [K2 × Si2.2 ] (1 / 2.2) Formula 4)

ここで、式3)、式4)の式を変形し、

So1=(k1)(1/2.2)×Si ・・・式5)
So2=(1−k1)(1/2.2)×Si=(k2)(1/2.2)×Si ・・・式6)

とも、表すことができる。
Here, the equations 3) and 4) are modified,

So1 = (k1) (1 / 2.2) × Si ( formula 5)
So2 = (1-k1) (1 / 2.2) .times.Si = (k2) (1 / 2.2) .times.Si ( Expression 6)

Both can be expressed.

式5)、式6)より、第1係数と第2係数に対しガンマ変換を行うことで、映像信号に対する逆ガンマ変換処理と最終的なガンマ変換処理とを省略できることが分かる。この動作を実現した回路構成のブロック図を図2に示す。図2において図1の記号と異なる記号について説明する。図2において3a、3bは映像信号のガンマと同じ例えば(1/2.2)乗するガンマ変換器である。この図2に示す構成によっても、図1の構成と同じ結果
が得られる。
From equations (5) and (6), it can be seen that the inverse gamma conversion processing and the final gamma conversion processing for the video signal can be omitted by performing gamma conversion on the first coefficient and the second coefficient. FIG. 2 shows a block diagram of a circuit configuration that realizes this operation. In FIG. 2, symbols different from those in FIG. 1 will be described. In FIG. 2, reference numerals 3a and 3b denote gamma converters which are the same as the gamma of the video signal, for example, (1 / 2.2). Also with the configuration shown in FIG. 2, the same result as the configuration of FIG. 1 can be obtained.

本発明の第1の実施形態の第1係数k1の例を、図12(a)、図12(b)を基に、具体的に説明する。図12(a)は、不図示の撮像装置により撮像された画像を模式的に示した図、図12(b)は本発明の第1の実施形態の第1係数生成部2が出力した第1係数k1を模式的に示した図である。図12(a)において、201は画像の領域を示す長方形、201aは近景の対象物、201bは中距離にある対象物、201c、201dは背景であるところの遠景の対象物である。図12(a)で示される映像信号の距離情報は、例えば、赤外線や超音波により計測して求めても良いし、前述した方法で映像信号から計算しても良い。距離情報から、対象物201aの距離は1m、対象物201bの距離は5m、背景である対象物201c、201dの距離は100m以上ということがわかるものとする。例えば、図7(b)に示した第1係数生成部2の特性を持つ場合、対象物201aの第1係数k1は”1”、対象物201bの第1係数k1は”0.75”、背景201c、201dの第1係数k1は”0.5”となる。   An example of the first coefficient k1 according to the first embodiment of the present invention will be specifically described with reference to FIGS. 12 (a) and 12 (b). FIG. 12A is a diagram schematically showing an image captured by an imaging device (not shown), and FIG. 12B is a diagram output by the first coefficient generation unit 2 according to the first embodiment of the present invention. It is the figure which showed 1 coefficient k1 typically. In FIG. 12A, 201 is a rectangle indicating an image area, 201a is an object in the foreground, 201b is an object at a medium distance, and 201c and 201d are objects in the background that are the background. The distance information of the video signal shown in FIG. 12A may be obtained by measuring with, for example, infrared rays or ultrasonic waves, or may be calculated from the video signal by the method described above. From the distance information, it is understood that the distance of the object 201a is 1 m, the distance of the object 201b is 5 m, and the distances of the objects 201c and 201d as the background are 100 m or more. For example, in the case of having the characteristics of the first coefficient generation unit 2 shown in FIG. 7B, the first coefficient k1 of the object 201a is “1”, the first coefficient k1 of the object 201b is “0.75”, The first coefficient k1 of the backgrounds 201c and 201d is “0.5”.

この第1係数k1を模式的に図12(b)に示している。図12(b)において、211は第1係数のフレームの領域を示す長方形、211aは近景の対象物201aの第1係数k1、201bは中距離にある対象物201bの第1係数k1、211cは背景の第1係数k1を示しており、図中、黒色で示した部分の第1係数k1は”1”であり、灰色で示した部分の第1係数k1は”0.75”であり、白色で示した部分の第1係数k1は”0.5”である。第1、第2表示サブフレームの発光強度は、第1係数k1が”1”の領域では100%,0%、第1係数k1が”0.75”の領域では75%,25%、第1係数k1が”0.5”の領域では50%,50%である。つまり、近い対象物ほど発光強度比を大きくし、表示する。   The first coefficient k1 is schematically shown in FIG. In FIG. 12B, 211 is a rectangle indicating the frame area of the first coefficient, 211a is the first coefficient k1, 201b of the object 201a in the foreground, and the first coefficients k1, 211c of the object 201b at the intermediate distance are The first coefficient k1 of the background is shown. In the figure, the first coefficient k1 of the part shown in black is “1”, and the first coefficient k1 of the part shown in gray is “0.75”. The first coefficient k1 of the portion shown in white is “0.5”. The emission intensity of the first and second display subframes is 100% and 0% in the region where the first coefficient k1 is “1”, 75% and 25% in the region where the first coefficient k1 is “0.75”, In the region where the one coefficient k1 is “0.5”, they are 50% and 50%. That is, the closer the object is, the larger the emission intensity ratio is displayed.

本発明の第1の実施形態では、60Hzフレーム周波数の映像信号を入力し、120Hzフレーム周波数の2つの表示サブフレームにより1枚のフレームを形成した。前述した様に、第1係数k1と第2係数k2の和が1であるように決定するので、表示サブフレームを単位表示フレーム数(ここでは2つ)表示して得られる輝度は入力映像信号が要求する輝度(表示すべき輝度)に比例した値となる。すなわち、表示サブフレームを単位表示フレーム数表示して得られた輝度は、対象物の距離によって変わることが無い。   In the first embodiment of the present invention, a video signal having a frame frequency of 60 Hz is input, and one frame is formed by two display subframes having a frame frequency of 120 Hz. As described above, since it is determined that the sum of the first coefficient k1 and the second coefficient k2 is 1, the luminance obtained by displaying the display subframes as the number of unit display frames (here, two) is the input video signal. Becomes a value proportional to the required luminance (the luminance to be displayed). That is, the luminance obtained by displaying the display subframes as the number of unit display frames does not change depending on the distance of the object.

本発明の第1の実施形態によれば、1フレームを複数の表示サブフレームに分け、表示サブフレーム間の発光強度比を対象物の距離に応じて変える、という表示方法により、簡易的に立体感のある画像表示を行うことができる。この方法は、映像信号処理だけで実現できるため、従来の立体表示装置のように偏光眼鏡、シャッタ眼鏡、HMD、レンチキュラーレンズ、スリット、視点移動速度の検出器のような特別なハードウエアは必要ない。また、両眼視差や運動視差の情報を含んだ特別な映像信号も必要ない。したがって、複雑で高価な構成を必要とせず、通常の表示装置と通常の映像信号により立体感のある表示を行うことができる。   According to the first embodiment of the present invention, a display method of dividing one frame into a plurality of display subframes and changing the light emission intensity ratio between the display subframes according to the distance of the target object enables simple three-dimensional display. An image with a feeling can be displayed. Since this method can be realized only by video signal processing, special hardware such as polarized glasses, shutter glasses, HMDs, lenticular lenses, slits, and a viewpoint moving speed detector is not required unlike conventional stereoscopic display devices. . Also, a special video signal including information on binocular parallax and motion parallax is not necessary. Accordingly, a complicated and expensive configuration is not required, and a stereoscopic display can be performed using a normal display device and a normal video signal.

また、通常の表示と立体感のある表示の混在や切り換えも容易に実現できる。さらに、本発明の運動視差による立体感は、対象物や背景の位置関係の変化により認知されるので、観測者が単眼で表示装置を見ても立体的に知覚できるという利点がある。   In addition, it is possible to easily realize mixing and switching between normal display and display with a stereoscopic effect. Furthermore, since the stereoscopic effect due to motion parallax according to the present invention is recognized by a change in the positional relationship between the object and the background, there is an advantage that the observer can perceive stereoscopically even when viewing the display device with a single eye.

(第2の実施形態)
前述した様に、本発明の立体感は観測者の視点の微小な運動により生じる。そのため、両眼視差を利用する立体表示装置に比較して、立体感が比較的わかりにくい。したがって、本発明の方法は、映画のように現実的な立体感が望まれるコンテンツに対してよりも、簡易的な立体感で十分な用途に向いている。そこで第2の実施形態では、本発明の好まし
い適用例のひとつを説明する。
(Second Embodiment)
As described above, the three-dimensional effect of the present invention is caused by a minute movement of the observer's viewpoint. Therefore, the stereoscopic effect is relatively difficult to understand compared to a stereoscopic display device that uses binocular parallax. Therefore, the method of the present invention is more suitable for a simple use of a three-dimensional effect than a content that requires a realistic three-dimensional effect such as a movie. Therefore, in the second embodiment, one preferred application example of the present invention will be described.

本発明の第2の実施形態では、通常の映像(第1の映像)の上にテロップ等の付加画像(第2の映像)を合成し表示する表示装置において、付加画像の部分のみを浮き出させて見せる構成について説明する。   In the second embodiment of the present invention, in a display device that synthesizes and displays an additional image (second video) such as a telop on a normal video (first video), only the portion of the additional image is raised. A configuration to be shown will be described.

図3は本発明の第2の実施形態を実現するブロック図である。図3は、第1の実施形態で説明したブロック図である図1とほぼ同じ構成である。図1と異なる点は、距離情報抽出部1が、映像信号から距離を抽出するのではなく、テロップ画像から直接距離情報を決定する点である。テロップ画像の情報は、テロップ画像が合成された映像信号ではなく、テロップ画像のみの映像信号から抽出すると簡便である。例えば本発明の第2の実施形態では、距離情報抽出部1は、テロップ画像部分を立体的に浮き出てみせるために、テロップ画像領域の距離情報を1m、それ以外(通常の映像信号)の領域は距離情報を例えば100mとして第1係数作成部2に出力する。以降の処理は、第1の実施形態と同様に処理され、背景にあたる通常の画像は第1、第2表示サブフレームの発光強度が50%,50%、テロップ画像は第1、第2表示サブフレームの発光強度が100%,0%となる。もちろん、第1の実施形態で説明した図2の構成を第2の実施形態に適用しても良い。   FIG. 3 is a block diagram for realizing the second embodiment of the present invention. FIG. 3 has substantially the same configuration as FIG. 1 which is the block diagram described in the first embodiment. The difference from FIG. 1 is that the distance information extraction unit 1 does not extract the distance from the video signal but determines the distance information directly from the telop image. The information of the telop image is simply extracted from the video signal of only the telop image, not the video signal in which the telop image is synthesized. For example, in the second embodiment of the present invention, the distance information extraction unit 1 sets the distance information of the telop image area to 1 m and the other area (normal video signal) in order to make the telop image portion appear three-dimensionally. Outputs the distance information to the first coefficient creating unit 2 as 100 m, for example. The subsequent processing is performed in the same manner as in the first embodiment. The normal image corresponding to the background has a light emission intensity of 50% and 50% for the first and second display subframes, and the telop image has the first and second display subframes. The light emission intensity of the frame is 100% and 0%. Of course, the configuration of FIG. 2 described in the first embodiment may be applied to the second embodiment.

本発明の第2の実施形態における第1係数k1の決定を、図13(a)、図13(b)をもとに、具体的に説明する。図13(a)は、不図示の撮像装置が撮像した通常の映像信号にテロップ画像を追加した映像信号の画像を模式的に示した図、図13(b)は本発明の第2の実施形態の第1係数生成部2が出力した第1係数k1を模式的に示した図である。図13(a)において202は画像の領域を示す長方形、202aは通常の映像信号の画像を示す絵、202bはテロップにより挿入された文字(「GOAL」)である。図13(a)で示される映像信号の距離情報は、距離情報抽出部2が、通常の映像信号が背景となるように例えば100m、テロップ画像の領域は1mと決める。   The determination of the first coefficient k1 in the second embodiment of the present invention will be specifically described with reference to FIGS. 13 (a) and 13 (b). FIG. 13A is a diagram schematically showing an image of a video signal obtained by adding a telop image to a normal video signal captured by an imaging device (not shown), and FIG. 13B is a second embodiment of the present invention. It is the figure which showed typically the 1st coefficient k1 which the 1st coefficient production | generation part 2 of the form output. In FIG. 13A, 202 is a rectangle indicating an image area, 202a is a picture indicating an image of a normal video signal, and 202b is a character ("GOAL") inserted by a telop. In the distance information of the video signal shown in FIG. 13A, the distance information extraction unit 2 determines, for example, 100 m and the telop image area as 1 m so that the normal video signal becomes the background.

第1係数生成部2の特性は、例えば、図7(c)の特性とする。この場合、通常の映像信号202aについては、第1係数k1は”0.5”、テロップ画像の領域については、第1係数k1は”1”となる。図13(b)において、212は画像の領域を示す長方形、212aは通常の映像信号の画像を示す領域であり、第1係数k1は”0.5”、212bはテロップ画像である文字(「GOAL」)を示す領域であり、第1係数k1は”1”である。つまり、第1、第2表示サブフレームの発光強度は、テロップ画像部分では100%,0%となり、テロップ画像以外の部分では50%,50%となる。   The characteristic of the first coefficient generation unit 2 is, for example, the characteristic shown in FIG. In this case, the first coefficient k1 is “0.5” for the normal video signal 202a, and the first coefficient k1 is “1” for the telop image region. In FIG. 13B, 212 is a rectangle indicating an image area, 212a is an area indicating a normal video signal image, the first coefficient k1 is “0.5”, and 212b is a character (“ GOAL "), and the first coefficient k1 is" 1 ". That is, the emission intensity of the first and second display subframes is 100% and 0% in the telop image portion, and is 50% and 50% in the portion other than the telop image.

第1の実施形態同様に、第1係数k1と第2係数k2の和が1であるように決定するので、表示サブフレームを単位表示フレーム数表示して得られた輝度は入力される映像信号が要求する輝度(表示すべき輝度)に比例した値となる。すなわち、表示サブフレームを単位表示フレーム数表示して得られる輝度は、元映像およびコンテンツ製作者が決定したテロップの表示すべき輝度に比例する。   As in the first embodiment, since the sum of the first coefficient k1 and the second coefficient k2 is determined to be 1, the luminance obtained by displaying the display subframe as the number of unit display frames is the input video signal. Becomes a value proportional to the required luminance (the luminance to be displayed). That is, the luminance obtained by displaying the display sub-frames as the number of unit display frames is proportional to the luminance to be displayed on the telop determined by the original video and the content producer.

本発明の第2の実施形態によれば、複雑で高価な構成が必要なく通常の表示装置そのままで、テロップ画像等のコンテンツ製作者が強調したい部分を簡易的に立体的に見せる表示が可能になる。また、必要なテロップ画像についてのみ、立体感のある表示を行うことができるので、疲労感が少ない立体感のある表示を行うことができる。さらに、観測者が単眼で表示装置を見ても立体的に知覚できる利点がある。   According to the second embodiment of the present invention, a complicated and expensive configuration is not required, and a normal display device can be displayed as it is, and a portion such as a telop image that a content producer wants to emphasize can be displayed easily and stereoscopically. Become. Further, since only a necessary telop image can be displayed with a stereoscopic effect, a display with a stereoscopic effect can be performed with less fatigue. Furthermore, there is an advantage that the observer can perceive stereoscopically even when viewing the display device with a single eye.

(第3の実施形態)
次に、本発明の第3の実施形態を示す。第3の実施形態は、例えば、パーソナルコンピュータ、スマートフォン、タブレットPC、携帯電話、ディジタルフォトフレーム、デジ
タルカメラ、ビデオカムコーダ等(以降、単に「PC」と記載する)のモニタ表示に好適に適用できる方法である。さらに具体的には、第3の実施形態は、注目させたいアイコンやカーソルや写真画像を、立体的に表示することを可能とする表示装置/方法である。
(Third embodiment)
Next, a third embodiment of the present invention will be described. The third embodiment is a method that can be suitably applied to, for example, a monitor display of a personal computer, a smartphone, a tablet PC, a mobile phone, a digital photo frame, a digital camera, a video camcorder, etc. (hereinafter simply referred to as “PC”). It is. More specifically, the third embodiment is a display device / method that enables three-dimensional display of an icon, a cursor, or a photographic image that is desired to be noticed.

PCの映像出力は、既存のTVの様に規格が厳しく定まっていないため、あらかじめ高いフレーム周波数で映像信号を用意することが可能である。この構成であれば、前述したフレーム周波数を倍速にするブロックが省略できる。また、前述したような構成の映像信号の処理をPCのソフトウエアで計算し、映像信号を作成することも可能となる。以降、詳細に説明する。   Since the video output of the PC is not strictly defined as in the existing TV, it is possible to prepare a video signal at a high frame frequency in advance. With this configuration, the block that doubles the frame frequency described above can be omitted. It is also possible to create a video signal by calculating the processing of the video signal having the above-described configuration with software of a PC. Hereinafter, this will be described in detail.

PCの出力が例えば120Hzのフレーム周波数で出力されているとする。本発明の第3の実施形態は、前述した式3)、式4)の処理、または式5)、式6)の処理をPCで計算し、PCから出力される映像信号を120Hzのフレーム周波数のままで表示するものである。   Assume that the output of the PC is output at a frame frequency of 120 Hz, for example. In the third embodiment of the present invention, the processing of Equation 3), Equation 4), or Equation 5) and Equation 6) described above is calculated by the PC, and the video signal output from the PC is set to a frame frequency of 120 Hz. It is displayed as it is.

第1係数k1は距離情報から第1の実施形態と同様に求めることができる。例えば、コンテンツ作成者は、アイコンを立体的に飛び出て見せたい場合は、そのアイコンの距離情報を例えば1mに決める。同様に、メニューバーは、やや立体的に見せるために距離情報を5m、背景は距離情報を100mというように、コンテンツ作成者が決定する。   The first coefficient k1 can be obtained from the distance information as in the first embodiment. For example, when the content creator wants to display an icon in a three-dimensional manner, the distance information of the icon is determined to be 1 m, for example. Similarly, the content creator determines that the menu bar has a distance information of 5 m in order to make the menu bar look somewhat stereoscopic, and the background has a distance information of 100 m.

実際のPCに表示された画像を図14(a)に、第1係数k1を図14(b)に模式的に示した。図14(a)において、203は表示エリアを示す四角形、203aはデスクトップの背景、203bはアイコンが置かれるメニューバー、203cはアイコンを示す。前述したような距離情報をコンテンツ作成者が決定することによって、第1係数k1は図14(b)の様な値に設定される。図14(b)において、213は表示エリアを示す四角形、213aはデスクトップの背景203aに対応する第1係数k1、213bはメニューバー203bに対応する第1係数k1、213cはアイコン203cに対応する第1係数k1であり、それぞれ白色、灰色、黒色で示した。図中、黒色で示した部分の第1係数k1は”1”であり、灰色で示した部分の第1係数k1は”0.75”であり、白色で示した部分の第1係数kは”0.5”である。つまり、120Hzで順次表示されるフレームの発光強度が、アイコン203cの部分では100%と0%で交互に変化し、メニューバー203bの部分では75%と25%で交互に変化する。背景203aの部分の発光強度は50%のまま変化しない。   FIG. 14A schematically shows an image displayed on an actual PC, and FIG. 14B schematically shows the first coefficient k1. In FIG. 14A, reference numeral 203 denotes a square indicating a display area, 203a denotes a desktop background, 203b denotes a menu bar on which an icon is placed, and 203c denotes an icon. When the content creator determines the distance information as described above, the first coefficient k1 is set to a value as shown in FIG. In FIG. 14B, reference numeral 213 denotes a square indicating the display area, 213a denotes first coefficients k1, 213b corresponding to the desktop background 203a, and first coefficients k1, 213c corresponding to the menu bar 203b denote first coefficients k1, 213c corresponding to the icon 203c. One coefficient k1 is shown in white, gray, and black, respectively. In the figure, the first coefficient k1 of the part shown in black is “1”, the first coefficient k1 of the part shown in gray is “0.75”, and the first coefficient k of the part shown in white is “0.5”. That is, the light emission intensity of the frames sequentially displayed at 120 Hz alternately changes between 100% and 0% in the portion of the icon 203c, and alternately changes between 75% and 25% in the portion of the menu bar 203b. The light emission intensity of the background 203a portion remains unchanged at 50%.

本実施形態では、PCで生成し出力される映像信号の各フレームが、前述した第1および第2の実施形態での表示サブフレームに対応している。すなわち、本実施形態において、単位表示フレーム数は2であり、単位表示フレーム数分の表示サブフレームにより形成される合計輝度は第1係数k1の値によらず変化しない。   In the present embodiment, each frame of the video signal generated and output by the PC corresponds to the display subframe in the first and second embodiments described above. That is, in this embodiment, the number of unit display frames is 2, and the total luminance formed by the display subframes corresponding to the number of unit display frames does not change regardless of the value of the first coefficient k1.

図14(a)はPCのデスクトップ画面を例示したが、本実施形態の方法は、背景となる第1の映像の上に浮き出させたい第2の映像を合成する場合に好適に適用可能である。例えば、ディジタルフォトフレームといわれるディジタル写真専用ディスプレイの画面において、壁紙等の背景画像に対してユーザの写真が浮き出て見えるように表示してもよい。この場合に、図11(c)、図11(d)にて説明したように、模様(テクスチャ)や立体感を補助する図形を背景画像に表示することも好ましい。また、表示しているユーザの写真に時刻や日にち等の情報を浮き出て見えるように合成し表示することも可能である。また、デジタルカメラ等の操作モニタにおいて、撮影中の映像の上に、ボタンやスライダ等のGUI、アラートメッセージ等を立体的に表示することにも利用できる。   FIG. 14A illustrates the desktop screen of the PC, but the method of the present embodiment can be suitably applied to the case of synthesizing the second video to be raised on the first video as the background. . For example, on the screen of a display dedicated to digital photography called a digital photo frame, the user's photograph may be displayed so as to appear against a background image such as wallpaper. In this case, as described with reference to FIGS. 11C and 11D, it is also preferable to display a pattern (texture) or a figure assisting a three-dimensional effect on the background image. It is also possible to combine and display information such as the time and date on the displayed user's photo so that it can be seen. In addition, on an operation monitor such as a digital camera, a GUI such as a button or a slider, an alert message, or the like can be displayed three-dimensionally on an image being shot.

本実施形態では、PC(映像生成装置)において最初から表示フレーム周波数(例えば
120Hz)の映像信号を生成するため、倍速変換等の処理が不要であり、ソフトウエアによる表示データの計算のみで本発明を実現できる。なお、表示フレーム周波数は120Hzに限定されない。画面サイズ、第1係数k1にもよるが、フリッカが目立たない範囲のフレーム周波数であればよい。一般的には75Hz以上のフレーム周波数の映像信号はフリッカによる妨害感が少ないので、第3の実施形態の方法に好適である。ただし、画面サイズが小さい場合はフリッカ妨害が少ないので、60Hz程度のフレーム周波数でも好適に表示を行うことができる。
In the present embodiment, since a video signal having a display frame frequency (for example, 120 Hz) is generated from the beginning in a PC (video generation device), processing such as double speed conversion is unnecessary, and the present invention is obtained only by calculation of display data by software. Can be realized. The display frame frequency is not limited to 120 Hz. Although depending on the screen size and the first coefficient k1, the frame frequency may be in a range where flicker is not noticeable. In general, a video signal having a frame frequency of 75 Hz or more is less likely to be disturbed by flicker, and is therefore suitable for the method of the third embodiment. However, when the screen size is small, flicker interference is small, so that display can be suitably performed even at a frame frequency of about 60 Hz.

第3の実施形態においてPCが動画を出力することもできる。その場合、第1の実施形態で説明したローパスフィルタ(図1の符号5)を用い、第1係数に空間的・時間的なローパスフィルタをかけると好適である。その際、距離情報はどちらかのフレーム、または複数のフレームの平均から対象物の位置を算出し、コンテンツ作成者が決定すると良い。   In the third embodiment, the PC can also output a moving image. In this case, it is preferable to use the low-pass filter (reference numeral 5 in FIG. 1) described in the first embodiment and apply a spatial and temporal low-pass filter to the first coefficient. At that time, the distance information may be determined by the content creator by calculating the position of the object from the average of either frame or a plurality of frames.

入力される映像信号が静止画の場合、表示サブフレームを単位表示フレーム数表示して得られる輝度が入力映像信号の要求する輝度(表示すべき輝度)と同じになるように第1係数、第2係数を決定するとよい。動画の場合は、異なるフレームを表示サブフレームとして表示するので、入力映像信号の要求する輝度(表示すべき輝度)を厳密に再現することはできないが、おおよそ同じになればよい(多少の誤差があっても、画質の劣化は少ない)。   When the input video signal is a still image, the first coefficient and the first coefficient are set so that the luminance obtained by displaying the display sub-frames by the unit display frame number is the same as the luminance required by the input video signal (luminance to be displayed). Two coefficients may be determined. In the case of a moving image, since different frames are displayed as display subframes, the luminance required for the input video signal (the luminance to be displayed) cannot be accurately reproduced, but it should be approximately the same (some errors may occur). Even so, there is little degradation in image quality).

本発明の第3の実施形態によれば、映像生成装置が各フレームの領域ごとの発光強度を計算により調整するだけで、アイコン等のコンテンツ製作者が強調したい部分を簡易的に立体的に見せる表示が実現できる。この立体感は、前述のように、観測者の無意識に起きるマイクロサッカードと呼ばれているような微小な眼球運動による運動視差を利用したものである。さらに、スマートフォン等の可搬型の機器においては、眼球の運動に加え、表示装置自体の動きがあるために、運動視差が発生し更に良好に立体感を出すことも期待できる。また、本実施形態の方法は、アイコン等の必要な部分についてのみ立体感のある表示を行うことができるので、疲労感が少ない立体感のある表示を行うことができる。さらに、観測者が単眼で表示装置を見ても立体的に知覚できる利点がある。   According to the third embodiment of the present invention, the image generation device simply adjusts the light emission intensity for each frame area by calculation, and easily displays a portion that the content producer wants to emphasize, such as an icon, in three dimensions. Display can be realized. As described above, this stereoscopic effect uses motion parallax due to minute eye movements called microsaccades that occur unconsciously by the observer. Furthermore, in a portable device such as a smartphone, in addition to the movement of the eyeball, there is a movement of the display device itself, so that a motion parallax is generated and a three-dimensional effect can be expected to be further improved. Moreover, since the method of this embodiment can perform a display with a three-dimensional effect only about necessary parts, such as an icon, it can display with a three-dimensional effect with little fatigue. Furthermore, there is an advantage that the observer can perceive stereoscopically even when viewing the display device with a single eye.

(第4の実施形態)
第3の実施形態で説明したように、フレーム周波数が75Hz以上の場合、第1および第2の実施形態で示したフレーム周波数を上げるためのフレーム周波数変換を行わなくてもよい。表示装置の大きさ、輝度にもよるが、おおよそフレーム周波数が75Hz以上の場合、フリッカ妨害が少ないためである。
(Fourth embodiment)
As described in the third embodiment, when the frame frequency is 75 Hz or more, the frame frequency conversion for increasing the frame frequency shown in the first and second embodiments may not be performed. Although depending on the size and brightness of the display device, when the frame frequency is approximately 75 Hz or more, flicker interference is small.

例えば、120Hzで撮像された映像信号では、映像信号のフレームを表示サブフレームとして取り扱うと良い。この時、あらかじめ単位表示フレーム数を決定し(例えば”2”)、第1の実施形態で示した処理を行う。もちろん、第3の実施形態で示したように、フレーム周波数を上げる処理は必要が無い。すなわち、図1、図2で示した時間軸圧縮部7a、7b、スイッチ8は必要ない。   For example, in a video signal imaged at 120 Hz, a frame of the video signal may be handled as a display subframe. At this time, the number of unit display frames is determined in advance (for example, “2”), and the processing shown in the first embodiment is performed. Of course, as shown in the third embodiment, there is no need to increase the frame frequency. That is, the time axis compression units 7a and 7b and the switch 8 shown in FIGS. 1 and 2 are not necessary.

図4にフレーム周波数変換を行わない第4の実施形態のブロック図を示す。図4において、図1と異なる記号について説明する。図4において、8aはスイッチである。図4で示したブロック図において、距離情報抽出部1は、単位表示フレーム数内のどちらかのフレーム、または平均から対象物の位置、距離情報を算出する。そして第1係数生成部2の出力はローパスフィルタ5に入力され、空間的・時間的なローパスフィルタがかけられる。第2係数演算部6は第1の実施形態同様に第2係数k2を算出する。そして、スイッチ8aは第1係数k1、第2係数k2を入力される映像信号のフレームごとに切り換える。スイッチ8aの出力は、乗算器4aで輝度に比例した映像信号に乗じられ、第1表示サブ
フレーム、第2表示サブフレームが得られる。
FIG. 4 shows a block diagram of a fourth embodiment in which frame frequency conversion is not performed. In FIG. 4, symbols different from those in FIG. 1 will be described. In FIG. 4, 8a is a switch. In the block diagram shown in FIG. 4, the distance information extraction unit 1 calculates the position and distance information of the object from one of the frames within the unit display frame number or the average. The output of the first coefficient generator 2 is input to a low-pass filter 5 and subjected to a spatial and temporal low-pass filter. The second coefficient calculation unit 6 calculates the second coefficient k2 as in the first embodiment. The switch 8a switches the first coefficient k1 and the second coefficient k2 for each frame of the input video signal. The output of the switch 8a is multiplied by the video signal proportional to the luminance by the multiplier 4a to obtain the first display subframe and the second display subframe.

入力される映像信号が静止画の場合、表示サブフレームを単位表示フレーム数表示して得られる輝度が入力映像信号の要求する輝度(表示すべき輝度)と同じになるように第1係数、第2係数を決定するとよい。動画の場合は、異なるフレームを表示サブフレームとして表示するので、表示サブフレームを単位表示フレーム数表示して得られる輝度が、おおよそ入力映像信号の要求する輝度(表示すべき輝度)と同じになるようにする。   When the input video signal is a still image, the first coefficient and the first coefficient are set so that the luminance obtained by displaying the display sub-frames by the unit display frame number is the same as the luminance required by the input video signal (luminance to be displayed). Two coefficients may be determined. In the case of a moving image, since different frames are displayed as display subframes, the luminance obtained by displaying the display subframes as the number of unit display frames is approximately the same as the luminance required by the input video signal (luminance to be displayed). Like that.

また、例えば、60Hzの映像信号の元フレームの間に補間フレームを挿入し、フレーム周波数を倍にすることで作成された、120Hzの映像信号が入力される場合もある。この場合は、元フレームは画質の劣化が少ないので、大きな値(第1係数)が乗じられる第1サブフレームとして、補間フレームは、小さな値(第2係数)が乗じられる第2サブフレームとして使用し、単位表示フレーム数を2とすると好適である。   Also, for example, a 120 Hz video signal created by inserting an interpolation frame between original frames of a 60 Hz video signal and doubling the frame frequency may be input. In this case, since the image quality of the original frame is small, the interpolation frame is used as the second subframe multiplied by the small value (second coefficient) as the first subframe multiplied by the large value (first coefficient). The number of unit display frames is preferably 2.

本発明では、このように、入力された映像信号のフレーム周波数が高い場合は、入力された映像信号をフレームレート変換することなく処理を行うことが可能である。すなわち、入力された映像信号のフレームをそのまま表示サブフレームとして取り扱うことができる。   In the present invention, when the frame frequency of the input video signal is high as described above, it is possible to perform processing without converting the frame rate of the input video signal. That is, the frame of the input video signal can be handled as a display subframe as it is.

(第5の実施形態)
第1の実施形態では第1係数k1と第2係数k2の和を1となるように設計した。この場合、第1、第2表示サブフレームをそれぞれ100%の発光強度(つまり合計200%)で表示できるにもかかわらず、100%と0%、50%と50%のように合計で100%の発光強度となるように表示が行われる。すなわち、表示装置の表示能力の1/2の輝度でしか表示できないことを意味している。
(Fifth embodiment)
In the first embodiment, the sum of the first coefficient k1 and the second coefficient k2 is designed to be 1. In this case, although the first and second display subframes can be displayed with 100% emission intensity (that is, a total of 200%), 100% in total such as 100% and 0%, 50% and 50%. The display is performed so that the emission intensity becomes. That is, it means that the display can be performed only at a luminance that is 1/2 of the display capability of the display device.

そこで輝度を向上するために、以下の様な第1係数、第2係数としても良い。

k2=A−k1 ・・・式7)

すなわち、

A=k1+k2 ・・・式8)

である。ここでA=1の時、第1の実施形態の係数と同じである。
Therefore, in order to improve the luminance, the following first coefficient and second coefficient may be used.

k2 = A−k1 (Expression 7)

That is,

A = k1 + k2 (Formula 8)

It is. Here, when A = 1, it is the same as the coefficient of the first embodiment.

例えば、Aを1.5とすれば、第1係数k1と第2係数k2の和、すなわち輝度に比例した映像データに乗じる係数の和が1.5になるので、第1の実施形態に比べ1.5倍の輝度が得られる。しかしながら、k1=1のとき、k2=0.5となるので、係数間の比すなわち発光強度比が取れず、立体感が少なくなる可能性がある。
この係数Aは、ユーザの要求する明るさ、立体感により決定すると良い。
For example, if A is 1.5, the sum of the first coefficient k1 and the second coefficient k2, that is, the sum of the coefficients multiplied by the video data proportional to the luminance, is 1.5, which is compared with the first embodiment. 1.5 times the luminance is obtained. However, when k1 = 1, since k2 = 0.5, the ratio between coefficients, that is, the emission intensity ratio cannot be obtained, and the stereoscopic effect may be reduced.
The coefficient A may be determined based on the brightness and stereoscopic effect requested by the user.

(第6の実施形態)
第1の実施形態では、単位表示フレーム数が2の場合について説明した。表示サブフレーム間の発光強度比を変えることによって立体感を得るという本発明の効果は、単位表示フレーム数が2以上であっても、得られる。単位表示フレーム数をNとした場合、入力映像信号のフレーム周波数は出力映像信号の表示フレーム周波数のN分の1である。
(Sixth embodiment)
In the first embodiment, the case where the number of unit display frames is 2 has been described. The effect of the present invention of obtaining a stereoscopic effect by changing the emission intensity ratio between display subframes can be obtained even when the number of unit display frames is two or more. When the number of unit display frames is N, the frame frequency of the input video signal is 1 / N of the display frame frequency of the output video signal.

例えば、入力映像信号のフレーム周波数が50Hzの場合は、150Hzフレーム周波数の3つの表示サブフレームで1枚のフレームを形成しても良い(単位表示フレーム数が
3)。3つの表示サブフレームで、距離の近い対象物の発光強度比を、100%,0%,0%とすることで、特にホールド型ディスプレイにおいては、より擬似的な運動視差を生じさせることができる。ホールド型ディスプレイにおいては、表示サブフレームを必要以上に多く設けると、フリッカ妨害が生じるので、フリッカの目立たない範囲で表示サブフレームの数を決定すると良い。
For example, when the frame frequency of the input video signal is 50 Hz, one frame may be formed by three display subframes having a 150 Hz frame frequency (the number of unit display frames is 3). By setting the emission intensity ratio of the objects close to each other in three display subframes to 100%, 0%, and 0%, it is possible to generate more pseudo motion parallax, particularly in a hold-type display. . In a hold-type display, if more display subframes are provided than necessary, flicker interference occurs. Therefore, the number of display subframes may be determined within a range where flicker is not noticeable.

さらに、図5を用い具体的に説明する。図5は3つの表示サブフレームを生成する第6の実施形態を示すブロック図である。図1の第1実施形態と異なる点について説明する。図5において、6aは第2,3係数演算部、4cは乗算器、7cは時間軸圧縮部、8bはスイッチである。第2,3係数演算部6aは、第1係数k1から、第2係数k2と第3係数k3を演算する。そして、第1表示サブフレームに第1係数k1を、第2表示サブフレームに第2係数k2を、第3表示サブフレームに第3係数k3を乗じ、時間軸圧縮部7a,7b,7cとスイッチ8bによりフレーム周波数を3倍にする。その映像信号は、ガンマ変換部9によりガンマ変換された後、表示装置500に出力される。   Furthermore, it demonstrates concretely using FIG. FIG. 5 is a block diagram showing a sixth embodiment for generating three display subframes. A different point from 1st Embodiment of FIG. 1 is demonstrated. In FIG. 5, 6a is a second and third coefficient calculation unit, 4c is a multiplier, 7c is a time axis compression unit, and 8b is a switch. The second and third coefficient calculator 6a calculates the second coefficient k2 and the third coefficient k3 from the first coefficient k1. The first display subframe is multiplied by the first coefficient k1, the second display subframe is multiplied by the second coefficient k2, the third display subframe is multiplied by the third coefficient k3, and the time axis compression units 7a, 7b, 7c and the switch The frame frequency is tripled by 8b. The video signal is subjected to gamma conversion by the gamma conversion unit 9 and then output to the display device 500.

第1表示サブフレームに乗じる第1係数k1を、第1係数生成部2は決定する。前述した様に、第1係数k1の決定は対象物の距離情報から連続的に変化する特性であっても良いし、離散的に変化する特性であってもよい。   The first coefficient generation unit 2 determines the first coefficient k1 to be multiplied by the first display subframe. As described above, the determination of the first coefficient k1 may be a characteristic that continuously changes from the distance information of the object, or may be a characteristic that changes discretely.

第1係数k1に対して、第2係数k2、第3係数k3を例えば以下のように決定すると好適である。

A=k1+k2+k3 ・・・式9)
For example, it is preferable to determine the second coefficient k2 and the third coefficient k3 for the first coefficient k1 as follows.

A = k1 + k2 + k3 (Equation 9)

ここで、前述した様に、A=1の場合に入力映像信号の要求する輝度を再現できるため、A=1の場合について以下説明する。この場合、第1係数生成部2は、第1係数k1の値として、例えば1/3から1で、対象物の距離に応じて変化する値を出力する。対象物の距離が小さいほど第1係数k1は大きい値(1に近い値)となる。   Here, as described above, since the luminance required by the input video signal can be reproduced when A = 1, the case where A = 1 will be described below. In this case, the first coefficient generation unit 2 outputs, for example, 1/3 to 1 as the value of the first coefficient k1, and a value that changes according to the distance of the object. The first coefficient k1 becomes a larger value (a value closer to 1) as the distance of the object is smaller.

k2,k3は式9)のみでは決定できないため、k2とk3の拘束条件を予め定めておく。例えばk2=k3という条件でもよいし、k2=J×k3(Jは1以上の定数)という条件でもよい。例えば、k2=k3という条件の場合、

k2=k3=(1−k1)/2 ・・・式10)

と求まる。
Since k2 and k3 cannot be determined only by Expression 9), the constraint conditions for k2 and k3 are determined in advance. For example, the condition k2 = k3 may be used, or the condition k2 = J × k3 (J is a constant equal to or greater than 1) may be used. For example, in the condition of k2 = k3,

k2 = k3 = (1-k1) / 2 (Equation 10)

It is obtained.

ここで、発光強度比Hは

H=k1/min(k2,k3) ・・・式11)
ただし k1≧k2、k1≧k3

と定義する。
Here, the emission intensity ratio H is

H = k1 / min (k2, k3) Equation 11)
However, k1 ≧ k2, k1 ≧ k3

It is defined as

この発光強度比Hが1のときは、第1、第2、第3表示サブフレームの発光強度が同じなので立体感は生じない。この場合、k1=1/3である。一方、発光強度比Hが最も大きい(無限大)のとき、第2係数k2、第3係数k3が0であるので、対応する対象物が最も飛び出て見える。なお、前述したように、第1係数k1を乗じる表示サブフレームは3つの表示サブフレームの中の最初のフレームでなくてもよく、2番目または3番目のフ
レームに第1係数k1を乗じても、同じような立体感を得ることができる。
When the emission intensity ratio H is 1, the stereoscopic intensity does not occur because the emission intensities of the first, second, and third display subframes are the same. In this case, k1 = 1/3. On the other hand, when the emission intensity ratio H is the largest (infinite), since the second coefficient k2 and the third coefficient k3 are 0, the corresponding object appears to protrude most. As described above, the display subframe to be multiplied by the first coefficient k1 may not be the first frame among the three display subframes, and the second or third frame may be multiplied by the first coefficient k1. A similar three-dimensional effect can be obtained.

入力映像信号のフレーム周波数、出力映像信号の表示フレーム周波数、単位表示サブフレームの数などは任意に選ぶことができる。例えば、60Hzの入力映像信号に対して、3つの表示サブフレームによる180Hz表示を行っても良いし、4つの表示サブフレームによる240Hz表示を行っても良い。各表示サブフレームに乗じる係数は前述した各実施形態に準じて設定すれば良い。このとき、1つの表示サブフレームに輝度が集中するほど立体感が大きくなる。   The frame frequency of the input video signal, the display frame frequency of the output video signal, the number of unit display subframes, and the like can be arbitrarily selected. For example, 180 Hz display using three display subframes may be performed on an input video signal of 60 Hz, or 240 Hz display using four display subframes may be performed. The coefficient to be multiplied to each display subframe may be set according to each embodiment described above. At this time, the stereoscopic effect increases as the luminance concentrates on one display subframe.

また、例えば240Hzのフレーム周波数の映像信号が直接入力される場合は、入力されるフレームを表示サブフレームとみなし同様の処理を行っても良い。また、単位表示フレーム数を2とし、2フレーム単位で第1の実施形態と同じ処理を行っても良い。   For example, when a video signal having a frame frequency of 240 Hz is directly input, the input frame may be regarded as a display subframe and the same processing may be performed. Alternatively, the number of unit display frames may be set to 2, and the same processing as that of the first embodiment may be performed in units of two frames.

(その他の実施形態)
以上説明したように、本発明の本質は、サブフレーム表示を行い、ある対象物の表示サブフレーム間での発光強度比を大きくすることで、観測者の無意識の微小な眼球運動による運動視差により、その対象物が背景に対して浮き出て見えるようにすることである。そのため、第1の実施形態では、画像中の各対象物の距離情報を取得または計算することで、対象物の距離に応じた発光強度比を設定している。しかし、第2、第3の実施形態で取り扱った映像のように、背景映像の上にテロップやアイコンのような別の映像を合成する場合は、もともと距離という概念が存在しない。したがって、このような合成映像を立体的に見せるだけであれば、距離情報の付加や計算は必要なく、直接発光強度比を設定する処理を行っても良い。
(Other embodiments)
As described above, the essence of the present invention is that the sub-frame display is performed, and the light emission intensity ratio between the display sub-frames of a certain object is increased, thereby the motion parallax due to the minute eye movement of the observer unconsciously. , Making the object appear to stand out against the background. Therefore, in the first embodiment, the light emission intensity ratio corresponding to the distance of the target is set by acquiring or calculating the distance information of each target in the image. However, in the case of synthesizing another video such as a telop or icon on the background video like the video handled in the second and third embodiments, the concept of distance does not exist originally. Therefore, as long as such a synthesized image can be viewed three-dimensionally, there is no need to add or calculate distance information, and processing for directly setting the emission intensity ratio may be performed.

1:距離情報抽出部、2:第1係数生成部、4a,4b:乗算器、6:第2係数演算部、7a,7b:時間軸圧縮部、8:スイッチ、500:表示装置   1: distance information extraction unit, 2: first coefficient generation unit, 4a, 4b: multiplier, 6: second coefficient calculation unit, 7a, 7b: time axis compression unit, 8: switch, 500: display device

Claims (10)

立体感のある映像表示を行うための出力映像信号を生成する映像生成装置であって、
出力映像信号を構成する表示サブフレームを生成するサブフレーム生成部と、
前記表示サブフレームを表示フレーム周波数で表示装置に対し順次出力する出力部と、を有し、
前記サブフレーム生成部は、
N個(Nは1より大きい整数)の連続する表示サブフレームにより1つの映像を形成するように、各表示サブフレームを生成するものであって、
映像中の背景の領域の発光強度がN個の表示サブフレームの間で相対的に変化せず、かつ、背景に比べて浮き出させる対象物の領域の発光強度がN個の表示サブフレームの間で相対的に変化するように、N個の表示サブフレームにおける領域ごとの発光強度を決定することを特徴とする映像生成装置。
A video generation device that generates an output video signal for displaying a stereoscopic image,
A subframe generation unit for generating display subframes constituting the output video signal;
An output unit that sequentially outputs the display subframe to a display device at a display frame frequency;
The subframe generation unit includes:
Each display subframe is generated so that one video is formed by N (N is an integer greater than 1) consecutive display subframes,
The light emission intensity of the background area in the video does not change relatively between the N display subframes, and the light emission intensity of the object area to be raised compared to the background is between the N display subframes. A video generation device that determines the light emission intensity for each region in the N display subframes so as to change relatively.
前記N個の表示サブフレームの間における同じ領域の最小の発光強度に対する最大の発光強度の比を発光強度比としたときに、
前記サブフレーム生成部は、背景に比べて浮き出させる度合いが大きいほど発光強度比を大きくすることを特徴とする請求項1に記載の映像生成装置。
When the ratio of the maximum emission intensity to the minimum emission intensity of the same region between the N display subframes is defined as the emission intensity ratio,
The video generation apparatus according to claim 1, wherein the sub-frame generation unit increases the light emission intensity ratio as the degree of protrusion increases compared to the background.
映像中の対象物の奥行き方向の距離を表す距離情報を取得する距離情報抽出部をさらに有し、
前記サブフレーム生成部は、前記距離情報抽出部で取得した各対象物の距離情報を元に、各対象物の発光強度比を決定することを特徴とする請求項2に記載の映像生成装置。
A distance information extraction unit that acquires distance information representing the distance in the depth direction of the object in the video;
The video generation device according to claim 2, wherein the subframe generation unit determines a light emission intensity ratio of each object based on distance information of each object acquired by the distance information extraction unit.
前記サブフレーム生成部は、ある対象物のN個の表示サブフレームでの発光強度の合計が当該対象物の発光強度比によらず同じ値となるように、各表示サブフレームにおける発光強度を決定することを特徴とする請求項2または3に記載の映像生成装置。   The sub-frame generation unit determines the light emission intensity in each display sub-frame so that the total light emission intensity in the N display sub-frames of a certain object has the same value regardless of the light emission intensity ratio of the target object. The video generation apparatus according to claim 2, wherein the video generation apparatus is a video generation apparatus. 前記サブフレーム生成部は、背景に比べて浮き出させる度合いに応じて、発光強度比を段階的に切り換えることを特徴とする請求項2〜4のうちいずれか1項に記載の映像生成装置。   5. The video generation device according to claim 2, wherein the sub-frame generation unit switches the light emission intensity ratio in a stepwise manner in accordance with a degree of protrusion compared to the background. 前記サブフレーム生成部は、発光強度比の空間的な変化、または、発光強度比の空間的および時間的な変化を緩やかにするためのローパスフィルタを有していることを特徴とする請求項2〜5のうちいずれか1項に記載の映像生成装置。   3. The subframe generation unit includes a low-pass filter for moderating a spatial change in the light emission intensity ratio or a spatial and temporal change in the light emission intensity ratio. The video production | generation apparatus of any one of -5. 前記サブフレーム生成部は、前記表示フレーム周波数のN分の1のフレーム周波数の入力映像信号の各フレームからN個のサブフレームを生成し、このN個のサブフレームの領域ごとの発光強度を調整することによって、前記出力映像信号の表示サブフレームを生成することを特徴とする請求項1〜6のうちいずれか1項に記載の映像生成装置。   The subframe generation unit generates N subframes from each frame of the input video signal having a frame frequency of 1 / N of the display frame frequency, and adjusts the light emission intensity for each region of the N subframes. The video generation device according to claim 1, wherein a display subframe of the output video signal is generated. 前記出力映像信号は、背景となる第1の映像の上に第2の映像が合成された映像信号であり、
前記サブフレーム生成部は、前記第1の映像の領域の発光強度を表示サブフレーム間で相対的に変化させず、かつ、前記第2の映像の領域の発光強度を表示サブフレーム間で相対的に変化させることを特徴とする請求項1〜6のうちいずれか1項に記載の映像生成装置。
The output video signal is a video signal in which a second video is synthesized on a first video as a background,
The subframe generation unit does not relatively change the light emission intensity of the first video area between display subframes, and relatively changes the light emission intensity of the second video area between display subframes. The video generation device according to claim 1, wherein the video generation device is changed to:
前記表示装置はインパルス型ディスプレイであることを特徴とする請求項1〜8のうちいずれか1項に記載の映像生成装置。   The video generation device according to claim 1, wherein the display device is an impulse display. 立体感のある映像表示を行うための出力映像信号を生成する映像生成方法であって、
出力映像信号を構成する表示サブフレームを生成するサブフレーム生成ステップと、
前記表示サブフレームを表示フレーム周波数で表示装置に対し順次出力する出力ステップと、を有し、
前記サブフレーム生成ステップでは、
N個(Nは1より大きい整数)の連続する表示サブフレームにより1つの映像を形成するように、各表示サブフレームが生成され、
映像中の背景の領域の発光強度がN個の表示サブフレームの間で相対的に変化せず、かつ、背景に比べて浮き出させる対象物の領域の発光強度がN個の表示サブフレームの間で相対的に変化するように、N個の表示サブフレームにおける領域ごとの発光強度が決定されることを特徴とする映像生成方法。
A video generation method for generating an output video signal for displaying a stereoscopic image,
A subframe generating step for generating a display subframe constituting the output video signal;
And sequentially outputting the display subframe to a display device at a display frame frequency,
In the subframe generation step,
Each display subframe is generated so that one video is formed by N (N is an integer greater than 1) consecutive display subframes,
The light emission intensity of the background area in the video does not change relatively between the N display subframes, and the light emission intensity of the object area to be raised compared to the background is between the N display subframes. A video generation method, wherein the light emission intensity for each region in N display subframes is determined so as to be relatively changed.
JP2011002489A 2011-01-07 2011-01-07 Video generating apparatus and video generating method Withdrawn JP2012147132A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011002489A JP2012147132A (en) 2011-01-07 2011-01-07 Video generating apparatus and video generating method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011002489A JP2012147132A (en) 2011-01-07 2011-01-07 Video generating apparatus and video generating method

Publications (1)

Publication Number Publication Date
JP2012147132A true JP2012147132A (en) 2012-08-02

Family

ID=46790278

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011002489A Withdrawn JP2012147132A (en) 2011-01-07 2011-01-07 Video generating apparatus and video generating method

Country Status (1)

Country Link
JP (1) JP2012147132A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020067738A1 (en) * 2018-09-28 2020-04-02 엘지이노텍 주식회사 Camera device and depth information extraction method of same
JP2021089439A (en) * 2012-11-15 2021-06-10 株式会社半導体エネルギー研究所 Information processing device and program

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021089439A (en) * 2012-11-15 2021-06-10 株式会社半導体エネルギー研究所 Information processing device and program
WO2020067738A1 (en) * 2018-09-28 2020-04-02 엘지이노텍 주식회사 Camera device and depth information extraction method of same
KR20200036614A (en) * 2018-09-28 2020-04-07 엘지이노텍 주식회사 Camera device and depth map extraction method of the same
KR102560397B1 (en) 2018-09-28 2023-07-27 엘지이노텍 주식회사 Camera device and depth map extraction method of the same

Similar Documents

Publication Publication Date Title
JP6644371B2 (en) Video display device
EP2276267A2 (en) Image signal processing apparatus and image display
WO2010084724A1 (en) Image processing device, program, image processing method, recording method, and recording medium
CN108259883B (en) Image processing method, head-mounted display, and readable storage medium
JP2009516864A (en) Drawing views for multi-view display devices
JP3081589B2 (en) Three-dimensional display method and apparatus
WO2011096280A1 (en) Image display device, image display system, and image display method
US20160180498A1 (en) Image display device, image processing device, and image processing method
US9167237B2 (en) Method and apparatus for providing 3-dimensional image
JP5396877B2 (en) Image processing apparatus, program, image processing method, and recording method
US20130010059A1 (en) Image processing apparatus, image processing method, and program
JP2003348621A (en) Means for setting two-viewpoint camera
JP2012147132A (en) Video generating apparatus and video generating method
JP2015043187A (en) Image generation device and image generation program
JP2010267192A (en) Touch control device for three-dimensional imaging
TWI533663B (en) Apparatus and method for processing 3-d image
TWI499279B (en) Image processing apparatus and method thereof
JP4593359B2 (en) 3D display method and 3D display device
JP2011176822A (en) Image processing apparatus, 3d display apparatus, and image processing method
JP2017152784A (en) Display device
JP2009237310A (en) False three-dimensional display method and false three-dimensional display apparatus
KR100939080B1 (en) Method and Apparatus for generating composited image, Method and Apparatus for displaying using composited image
JP3464633B2 (en) 3D display method
JP2004200784A (en) Three-dimensional video terminal device, program and recording medium
WO2023049293A1 (en) Augmented reality and screen image rendering coordination

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140401