JP2011250071A - Image processing apparatus, image processing method, and program - Google Patents
Image processing apparatus, image processing method, and program Download PDFInfo
- Publication number
- JP2011250071A JP2011250071A JP2010120333A JP2010120333A JP2011250071A JP 2011250071 A JP2011250071 A JP 2011250071A JP 2010120333 A JP2010120333 A JP 2010120333A JP 2010120333 A JP2010120333 A JP 2010120333A JP 2011250071 A JP2011250071 A JP 2011250071A
- Authority
- JP
- Japan
- Prior art keywords
- image
- luminance
- new
- value
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
Description
本発明は、画像処理装置、および画像処理方法、並びにプログラムに関する。特に、3次元画像(3D画像)の表示処理を行う画像処理装置、および画像処理方法、並びにプログラムに関する。 The present invention relates to an image processing apparatus, an image processing method, and a program. In particular, the present invention relates to an image processing apparatus, an image processing method, and a program for performing display processing of a three-dimensional image (3D image).
昨今、3次元画像の再生を可能としたテレビなどの表示装置が急速に普及している。3次元画像の表示は以下のような処理によって行われる。すなわち、左眼用画像と右眼用画像を表示装置に表示して、観察者が左眼用画像を左眼でのみ観察し、右眼用画像を右眼でのみ観察するように制御することで立体的な画像の観察を実現する。 Recently, display devices such as televisions capable of reproducing three-dimensional images are rapidly spreading. The display of the three-dimensional image is performed by the following process. That is, the left-eye image and the right-eye image are displayed on the display device, and the observer controls to observe the left-eye image only with the left eye and to observe the right-eye image only with the right eye. Realizes observation of stereoscopic images.
3次元画像の表示方式には様々な表示方式があるが、その代表的手法として、表示装置に左眼用画像と右眼用画像を高速に切り替えて表示し、観察者が例えばシャッタ式メガネを装着して、画像の切り替えに応じてシャッタの開閉を行うものがある。 There are various display methods for displaying a three-dimensional image. As a typical method, a left-eye image and a right-eye image are displayed on a display device by switching them at high speed. Some of them are mounted and the shutter is opened and closed in accordance with image switching.
すなわち、表示部に左眼用画像が表示されている間はシャッタ式メガネの左眼のシャッタを開として右眼シャッタを閉とする。一方、表示部に右眼用画像が表示されている間はシャッタ式メガネの左眼のシャッタを閉として右眼シャッタを開とする。このような制御により、左右の眼用の画像をそれぞれ観察者の一方の眼で観察させるものである。このようなシャッタ方式以外にも異なる偏光方向を持つメガネを利用した偏光方式など、様々な方式の3次元画像表示方式が存在する。 That is, while the left-eye image is displayed on the display unit, the left-eye shutter of the shutter-type glasses is opened and the right-eye shutter is closed. On the other hand, while the right-eye image is displayed on the display unit, the left-eye shutter of the shutter-type glasses is closed and the right-eye shutter is opened. By such control, the images for the left and right eyes are respectively observed with one eye of the observer. There are various three-dimensional image display methods such as a polarization method using glasses having different polarization directions in addition to the shutter method.
このように3次元画像の表示処理においては、表示部に左眼用画像と右眼用画像が表示される。この左眼用画像と右眼用画像は異なる視点から撮影された画像である。例えば図1に示すように、被写体10に対して、左眼用画像撮影位置21において左眼用画像が撮影され、右眼用画像撮影位置22において右眼用画像が撮影される。 As described above, in the display process of the three-dimensional image, the left-eye image and the right-eye image are displayed on the display unit. The left eye image and the right eye image are images taken from different viewpoints. For example, as shown in FIG. 1, a left-eye image is captured at the left-eye image capturing position 21 and a right-eye image is captured at the right-eye image capturing position 22 for the subject 10.
このように異なる位置から左眼用画像と右眼用画像を撮影するため、撮影環境によっては左眼用画像と右眼用画像の輝度が異なってしまう場合が発生する。
左眼用画像と右眼用画像の輝度が異なっている場合に、輝度の高低が左眼用画像と右眼用画像とで入れ替わると観察者は画面のちらつきを感じる。すなわちフリッカ現象が発生する。
Since the left-eye image and the right-eye image are captured from different positions as described above, the brightness of the left-eye image and the right-eye image may differ depending on the shooting environment.
When the brightness of the left-eye image and the right-eye image is different, the observer feels that the screen flickers when the brightness level is switched between the left-eye image and the right-eye image. That is, a flicker phenomenon occurs.
図2は、表示部に表示する左眼用画像と右眼用画像の平均輝度の推移例を示す図である。横軸に時間、縦軸に平均輝度を示している。平均輝度とは各画像フレーム単位の平均輝度である。 FIG. 2 is a diagram illustrating a transition example of the average luminance of the left-eye image and the right-eye image displayed on the display unit. The horizontal axis represents time, and the vertical axis represents average luminance. The average luminance is the average luminance for each image frame unit.
図2に示す例は、フレームn以前は、左眼用画像の平均輝度が右眼用画像の平均輝度より高い状態である。しかし、フレームn+1以降は、右眼用画像の平均輝度が左眼用画像の平均輝度より高い状態に入れ替わっている。
すなわち、フレームnからn+1の間で、左眼用画像と右眼用画像の平均輝度の高低の逆転が発生している。このように左眼用画像と右眼用画像の輝度の高低が逆転すると、観察者は画面のちらつき、すなわちフリッカを感ずることになる。
In the example shown in FIG. 2, the average luminance of the left-eye image is higher than the average luminance of the right-eye image before frame n. However, after frame n + 1, the average luminance of the right eye image is switched to a state higher than the average luminance of the left eye image.
In other words, between the frames n and n + 1, the average brightness of the left eye image and the right eye image is reversed. When the brightness levels of the left-eye image and the right-eye image are reversed in this way, the observer feels flickering of the screen, that is, flicker.
このような現象は、特に画像を編集して連続撮影されていない画像をつなぎ合わせた場合などに発生しやすくなる。あるいは3Dコンテンツのソースの切り替え、あるいは早送り再生などを行った場合などに、より多く発生する。 Such a phenomenon is likely to occur particularly when images are edited and images that are not continuously shot are joined together. Or, it occurs more frequently when the source of 3D content is switched or fast-forward playback is performed.
3D画像の撮影時に発生する左右画像の輝度の差分を調整する手法については例えば特許文献1(特開2003−60947号公報)に記載がある。この特許文献1に記載された方法は3D画像の撮影時に左眼用画像と右眼用画像の画質の差を小さくする調整処理を行う構成を開示している。しかし、撮影された後の画像表示処理における制御については全く示されておらず、例えば画像の編集などによって輝度の異なる画像が連結された場合などの処理について対応可能な構成ではない。
For example, Patent Document 1 (Japanese Patent Application Laid-Open No. 2003-60947) describes a method for adjusting the difference in luminance between the left and right images that occurs when a 3D image is captured. The method described in
また、特許文献2(特開2007−167675号公報)には、シーン変更など輝度等の大きく異なる画像への変更時に、低輝度状態の画像、例えば黒やグレーの画像を挿入して出力しシーンチェンジにおける観察者の違和感を緩和する構成が示されている。しかし、この特許文献2に記載の手法は、黒やグレーの低輝度画像を挿入して出力するものであり、観察者は黒やグレーの画像を検知する可能性があり、このような場合、違和感を感ずることになる。 Further, in Patent Document 2 (Japanese Patent Application Laid-Open No. 2007-167675), when changing to a greatly different image such as a scene change, an image in a low luminance state, for example, a black or gray image is inserted and output. A configuration for alleviating the viewer's uncomfortable feeling in the change is shown. However, the method described in Patent Document 2 inserts and outputs a black or gray low-luminance image, and the observer may detect a black or gray image. In such a case, You will feel uncomfortable.
本発明は、例えば上記問題点に鑑みてなされたものであり、3次元画像(3D画像)を表示する構成において、左眼用画像と右眼用画像の輝度の変化が発生した場合でも観察者にちらつき(フリッカ)等の発生を感じさせにくい表示制御を実現する画像処理装置、および画像処理方法、並びにプログラムを提供することを目的とする。 The present invention has been made in view of, for example, the above-described problems, and in a configuration for displaying a three-dimensional image (3D image), even when a change in luminance occurs between the left-eye image and the right-eye image, the observer An object of the present invention is to provide an image processing apparatus, an image processing method, and a program for realizing display control in which flickering or the like is unlikely to occur.
本発明の第1の側面は、
3次元画像を構成する左眼用画像(L画)と右眼用画像(R画)について、各画像単位の平均輝度を算出する平均輝度算出部と、
新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、該判定情報を利用して新規LR画像の輝度制御を実行するか否かを判定する輝度制御実行判定部と、
前記輝度制御実行判定部の判定結果に応じて、新規LR画像の各々に対する輝度制御値としての加算値を算出する加算値算出部と、
前記加算値算出部の算出した加算値を新規LR画像の各々に加算または減算することで新規LR画像の輝度調整を実行する輝度制御部を有する画像処理装置にある。
The first aspect of the present invention is:
An average luminance calculation unit that calculates an average luminance of each image unit for the left-eye image (L image) and the right-eye image (R image) constituting the three-dimensional image;
It is determined whether the brightness level state of the new LR image that is the new input frame and the brightness level state of the previous LR image that is the immediately previous input frame are reversed, and the brightness control of the new LR image is performed using the determination information A brightness control execution determination unit that determines whether or not to execute
An addition value calculation unit that calculates an addition value as a luminance control value for each of the new LR images according to the determination result of the luminance control execution determination unit;
The image processing apparatus includes a luminance control unit that performs luminance adjustment of a new LR image by adding or subtracting the addition value calculated by the addition value calculation unit to each new LR image.
さらに、本発明の画像処理装置の一実施態様において、前記加算値算出部は、前記新規LR画像の各々の平均輝度がほぼ一致する加算値を算出して前記輝度制御部に出力する。 Furthermore, in an embodiment of the image processing apparatus of the present invention, the addition value calculation unit calculates an addition value in which the average luminances of the new LR images substantially match and outputs the addition value to the luminance control unit.
さらに、本発明の画像処理装置の一実施態様において、前記加算値算出部は、前記新規LR画像の各々の平均輝度をL画像の平均輝度とR画像の平均輝度のほぼ中間値に設定する加算値を算出して前記輝度制御部に出力する。 Furthermore, in an embodiment of the image processing apparatus of the present invention, the addition value calculation unit adds the average luminance of each of the new LR images to an intermediate value between the average luminance of the L image and the average luminance of the R image. The value is calculated and output to the luminance control unit.
さらに、本発明の画像処理装置の一実施態様において、前記加算値算出部は、前記新規LR画像の各々の平均輝度がほぼ一致する加算値を算出して前記輝度制御部に出力し、予め設定した期間の後、加算値を徐々に0に近づける制御を行う。 Furthermore, in an embodiment of the image processing apparatus of the present invention, the addition value calculation unit calculates an addition value in which the average luminances of the new LR images substantially coincide with each other, and outputs the addition value to the luminance control unit. After this period, control is performed so that the added value gradually approaches 0.
さらに、本発明の画像処理装置の一実施態様において、前記輝度制御実行判定部は、新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、さらに、新規LR画像のL画像と直前LR画像のL画像との平均輝度の差分であるL画像フレーム間差分と、新規LR画像のR画像と直前LR画像のR画像との平均輝度の差分であるR画像フレーム間差分を算出し、前記輝度高低状態の逆転が発生し、かつ、前記L画像フレーム間差分が規定閾値以上であり、前記R画像フレーム間差分が規定閾値以上であることの確認を条件として、新規LR画像の輝度制御の実行判定を行う。 Furthermore, in an embodiment of the image processing apparatus of the present invention, the brightness control execution determination unit reverses the brightness high / low state of the new LR image that is the new input frame and the brightness high / low state of the previous LR image that is the previous input frame. In addition, the difference between the L image frames, which is the difference in average luminance between the L image of the new LR image and the L image of the immediately preceding LR image, the R image of the new LR image, and the immediately preceding LR image is determined. A difference between R image frames, which is a difference in average brightness with the R image, is calculated, a reversal of the brightness high / low state occurs, and the difference between the L image frames is equal to or greater than a predetermined threshold, and the difference between the R image frames Is determined to execute the brightness control of the new LR image on the condition that it is equal to or greater than the specified threshold.
さらに、本発明の第2の側面は、
画像処理装置において実行する画像処理方法であり、
平均輝度算出部が、3次元画像を構成する左眼用画像(L画)と右眼用画像(R画)について、各画像単位の平均輝度を算出する平均輝度算出ステップと、
輝度制御実行判定部が、新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、該判定情報を利用して新規LR画像の輝度制御を実行するか否かを判定する輝度制御実行判定ステップと、
加算値算出部が、前記輝度制御実行判定部の判定結果に応じて、新規LR画像の各々に対する輝度制御値としての加算値を算出する加算値算出ステップと、
輝度制御部が、前記加算値算出部の算出した加算値を新規LR画像の各々に加算または減算することで新規LR画像の輝度調整を実行する輝度制御ステップを有する画像処理方法にある。
Furthermore, the second aspect of the present invention provides
An image processing method executed in an image processing apparatus,
An average luminance calculating unit that calculates an average luminance of each image unit for the left-eye image (L image) and the right-eye image (R image) constituting the three-dimensional image;
The luminance control execution determination unit determines whether the luminance high / low state of the new LR image that is the new input frame and the luminance high / low state of the previous LR image that is the previous input frame are reversed, and uses the determination information Brightness control execution determination step for determining whether or not to execute the brightness control of the new LR image;
An addition value calculating step in which an addition value calculation unit calculates an addition value as a luminance control value for each of the new LR images according to a determination result of the luminance control execution determination unit;
In the image processing method, the luminance control unit includes a luminance control step of performing luminance adjustment of the new LR image by adding or subtracting the added value calculated by the added value calculating unit to each new LR image.
さらに、本発明の第3の側面は、
画像処理装置において画像処理を実行させるプログラムであり、
平均輝度算出部に、3次元画像を構成する左眼用画像(L画)と右眼用画像(R画)について、各画像単位の平均輝度を算出させる平均輝度算出ステップと、
輝度制御実行判定部に、新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、該判定情報を利用して新規LR画像の輝度制御を実行するか否かを判定させる輝度制御実行判定ステップと、
加算値算出部に、前記輝度制御実行判定部の判定結果に応じて、新規LR画像の各々に対する輝度制御値としての加算値を算出させる加算値算出ステップと、
輝度制御部に、前記加算値算出部の算出した加算値を新規LR画像の各々に加算または減算することで新規LR画像の輝度調整を実行させる輝度制御ステップを実行させるプログラムにある。
Furthermore, the third aspect of the present invention provides
A program for executing image processing in an image processing apparatus;
An average luminance calculation step for causing the average luminance calculation unit to calculate the average luminance of each image unit for the left-eye image (L image) and the right-eye image (R image) constituting the three-dimensional image;
The brightness control execution determination unit determines whether or not the brightness level state of the new LR image that is the new input frame and the brightness level state of the previous LR image that is the immediately previous input frame are reversed, and uses the determination information A luminance control execution determination step for determining whether or not to execute the luminance control of the new LR image;
An addition value calculation step of causing the addition value calculation unit to calculate an addition value as a luminance control value for each of the new LR images according to the determination result of the luminance control execution determination unit;
The brightness control unit causes the brightness control step to execute brightness adjustment of the new LR image by adding or subtracting the added value calculated by the added value calculating unit to each new LR image.
なお、本発明のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。 The program of the present invention is, for example, a program that can be provided by a storage medium or a communication medium provided in a computer-readable format to an information processing apparatus or a computer system that can execute various program codes. By providing such a program in a computer-readable format, processing corresponding to the program is realized on the information processing apparatus or the computer system.
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。 Other objects, features, and advantages of the present invention will become apparent from a more detailed description based on embodiments of the present invention described later and the accompanying drawings. In this specification, the system is a logical set configuration of a plurality of devices, and is not limited to one in which the devices of each configuration are in the same casing.
本発明の一実施例の構成によれば、3次元画像の表示処理に際して、左眼用画像(L画像)と右眼用画像(R画像)の輝度の高低が逆転することによって発生するちらつきを防止することが可能となる。すなわち、左眼用画像(L画像)と右眼用画像(R画像)の輝度の高低が逆転するフレームを検出し、検出ポイントからの一定期間、左眼用画像(L画像)と右眼用画像(R画像)の輝度を制御して、急激な輝度の逆転を発生させない構成としている。この輝度制御処理により、左眼用画像(L画像)と右眼用画像(R画像)の輝度が瞬時に逆転することがなくなり、観察者にちらつき感を発生させることのない画像表示が実現される。 According to the configuration of one embodiment of the present invention, flickering that occurs when the brightness levels of the left-eye image (L image) and the right-eye image (R image) are reversed during display processing of a three-dimensional image. It becomes possible to prevent. That is, a frame in which the brightness levels of the left-eye image (L image) and the right-eye image (R image) are reversed is detected, and the left-eye image (L image) and the right-eye image are detected for a certain period from the detection point. The luminance of the image (R image) is controlled to prevent a sudden luminance reversal. By this luminance control processing, the luminance of the left-eye image (L image) and the right-eye image (R image) is not instantaneously reversed, and an image display that does not cause the viewer to flicker is realized. The
以下、図面を参照しながら本発明の画像処理装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。
1.本発明の画像処理装置の実行する処理の概要ついての説明
2.本発明の画像処理装置の具体的実施例について
3.画像処理装置のハードウェア構成例について
The details of the image processing apparatus, image processing method, and program of the present invention will be described below with reference to the drawings. The description will be made according to the following items.
1. 1. Outline of processing executed by image processing apparatus of the present invention 2. Specific embodiments of the image processing apparatus of the present invention Example of hardware configuration of image processing device
[1.本発明の画像処理装置の実行する処理の概要ついての説明]
まず、図3を参照して、本発明の画像処理装置の実行する画像表示制御の概要について説明する。
[1. Description of Outline of Processing Performed by Image Processing Apparatus of Present Invention]
First, an overview of image display control executed by the image processing apparatus of the present invention will be described with reference to FIG.
先に図2を参照して説明したように、3次元画像(3D画像)の観察時に発生するちらつき(フリッカ)は、左眼用画像と右眼用画像の平均輝度の高低の逆転が起こると発生する。本発明では、このような逆転現象の発生するフレーム近傍において、図3に示すような輝度調整を実行する。 As described above with reference to FIG. 2, flicker that occurs when observing a three-dimensional image (3D image) occurs when the average brightness of the left-eye image and the right-eye image is reversed between high and low. appear. In the present invention, brightness adjustment as shown in FIG. 3 is performed in the vicinity of a frame where such a reverse phenomenon occurs.
図3は、先に説明した図2と同様、表示部に表示する左眼用画像と右眼用画像の平均輝度の推移例を示す図である。横軸に時間、縦軸に平均輝度を示している。平均輝度とは各画像フレーム単位の平均輝度である。
図3に示す例は、本発明の一実施例に従った輝度調整後の左眼用画像と右眼用画像の平均輝度の推移例である。
FIG. 3 is a diagram illustrating a transition example of the average luminance of the left-eye image and the right-eye image displayed on the display unit, similarly to FIG. 2 described above. The horizontal axis represents time, and the vertical axis represents average luminance. The average luminance is the average luminance for each image frame unit.
The example shown in FIG. 3 is a transition example of the average luminance of the left-eye image and the right-eye image after luminance adjustment according to an embodiment of the present invention.
輝度調整前の入力画像は、先に説明した図2の例と同様であり、フレームn以前は、左眼用画像の平均輝度が右眼用画像の平均輝度より高い状態であり、フレームn+1以降は、右眼用画像の平均輝度が左眼用画像の平均輝度より高い状態に入れ替わっている画像である。 The input image before the luminance adjustment is the same as the example of FIG. 2 described above, and before the frame n, the average luminance of the left eye image is higher than the average luminance of the right eye image, and after the frame n + 1 Is an image in which the average luminance of the right-eye image is switched to be higher than the average luminance of the left-eye image.
本発明の画像処理装置は、このような輝度の高低の入れ替わりが発生する画像について、図3に示す輝度調整フレーム出力期間100を設定する。
図3に示す輝度調整フレーム出力期間100は、例えば出力フレーム数=1〜複数フレーム(kフレーム)の期間として設定し、これらの期間において、左眼用画像と右眼用画像の平均輝度の調整を実行する。
The image processing apparatus of the present invention sets the brightness adjustment frame output period 100 shown in FIG. 3 for an image in which such a change in brightness occurs.
The luminance adjustment frame output period 100 shown in FIG. 3 is set as, for example, the number of output frames = 1 to a plurality of frames (k frames), and in these periods, adjustment of the average luminance of the left-eye image and the right-eye image is performed. Execute.
具体的には、輝度調整フレーム出力期間100は、図3に示すように、左眼用画像と右眼用画像の平均輝度がほぼ一致するように輝度調整を行う。
このような輝度調整期間を設定することで、
フレームn以前:左眼用画像=高輝度、右眼用画像=低輝度、
フレームn+1〜n+k:左眼用画像=中輝度、右眼用画像=中輝度、
フレームn+k+1以降:左眼用画像=低輝度、右眼用画像=高輝度、
このような推移で左眼用画像と右眼用画像の輝度変化が発生する。
Specifically, in the luminance adjustment frame output period 100, as shown in FIG. 3, the luminance adjustment is performed so that the average luminances of the left-eye image and the right-eye image substantially coincide.
By setting such a brightness adjustment period,
Before frame n: Left eye image = high luminance, right eye image = low luminance,
Frames n + 1 to n + k: Left eye image = medium luminance, right eye image = medium luminance,
Frame n + k + 1 and later: left eye image = low luminance, right eye image = high luminance,
With such a transition, a luminance change occurs between the left-eye image and the right-eye image.
このような処理を行うことで、左眼用画像と右眼用画像の輝度がフレーム前後で瞬時に入れ替わることなく、輝度調整フレーム出力期間100として設定されたkフレームの調整期間が介在してなめらかに輝度が入れ替わることになり、ユーザ(観察者)がちらつきを感じることが少なくなる。
本発明の画像処理装置の実行する表示制御はこのような制御を行うものである。
By performing such processing, the luminance of the left-eye image and the right-eye image is not interchanged immediately before and after the frame, and the k-frame adjustment period set as the luminance adjustment frame output period 100 is interposed and is smooth. Thus, the luminance is switched, and the user (observer) is less likely to flicker.
The display control executed by the image processing apparatus of the present invention performs such control.
[2.本発明の画像処理装置の具体的実施例について]
以下、図3を参照して説明した表示制御を行う本発明の画像処理装置の構成と処理の具体的な実施例について説明する。
[2. Specific Examples of Image Processing Apparatus of the Present Invention]
A specific embodiment of the configuration and processing of the image processing apparatus of the present invention that performs display control described with reference to FIG. 3 will be described below.
本発明の画像処理装置は、3次元画像(3D画像)の表示制御を実行する。画像処理装置は、たとえば図4に示すようなフレームシーケンシャル方式のビデオ信号を入力して表示制御を実行する。つまり、左眼用の左眼用画像(L画像)信号と右眼用の右眼用画像(R画像)信号が交互に伝送路を介して伝達し、これを入力する。 The image processing apparatus of the present invention executes display control of a three-dimensional image (3D image). For example, the image processing apparatus inputs a frame sequential video signal as shown in FIG. 4 and executes display control. That is, the left-eye image (L image) signal for the left eye and the right-eye image (R image) signal for the right eye are alternately transmitted via the transmission path and are input.
本発明の画像処理装置の構成例を図5に示す。例えば図4に示す画像信号は、フレームメモリ201に順次、格納される。また、平均輝度算出部202にも並列に供給される。なお、平均輝度算出部202には、フレームメモリ201に格納された画像信号を供給する構成としてもよい。
A configuration example of the image processing apparatus of the present invention is shown in FIG. For example, the image signals shown in FIG. 4 are sequentially stored in the
例えば、平均輝度算出部202は、左眼用画像信号(L画像)を取得すると、左眼用画像信号(L画像)の1フレーム全体の平均輝度を算出する。算出したL画像フレームの平均輝度はメモリ220に記録される。図5に示すメモリ220内のL画像平均輝度221である。
For example, when obtaining the left eye image signal (L image), the average
次に、平均輝度算出部202は、続いて入力する右眼用画像信号(R画像)の1フレーム全体の平均輝度を算出する。算出したR画像フレームの平均輝度もメモリ220に記録する。図5に示すメモリ220内のR画像平均輝度222である。
Next, the average
平均輝度算出部202の算出するL画像平均輝度221とR画像平均輝度222は、具体的には例えば下記のような算出式に従って算出される。
L画像の平均輝度Lm(n)
Lm(n)=ΣLin(x,y)/(画像サイズ)
なお、Lin(x,y)は入力L画像の画素位置(x,y)の輝度である。
R画像の平均輝度Rm(n)
Rm(n)=ΣRin(x,y)/(画像サイズ)
なお、Rin(x,y)は入力R画像の画素位置(x,y)の輝度である。
The L image
Average brightness Lm (n) of L image
Lm (n) = ΣLin (x, y) / (image size)
Lin (x, y) is the luminance at the pixel position (x, y) of the input L image.
Average brightness Rm (n) of R image
Rm (n) = ΣRin (x, y) / (image size)
Rin (x, y) is the luminance at the pixel position (x, y) of the input R image.
メモリ220に保存されたL画像平均輝度221と、R画像平均輝度222は、輝度制御実行判定部203に入力される。
輝度制御実行判定部203は、メモリ220に保存されたLR画像ペア(最新ペア)のL画像平均輝度221と、R画像平均輝度222とを比較する。すなわち、以下のいずれの状態であるかを判断する。
(a)L画像平均輝度221≧R画像平均輝度222、
(b)L画像平均輝度221<R画像平均輝度222、
上記の(a),(b)のいずれの状態にあるかを判定する。
The L image
The luminance control
(A) L image
(B) L image
It is determined whether the state is (a) or (b).
輝度制御実行判定部203は、メモリ220に保存されたLR画像ペア(最新ペア)の直前のLR画像ペア(直前ペア)の輝度の高低差情報を保持しており、
最新ペアの輝度高低差と、直前ペアの輝度高低差の逆転が発生しているか否かを判定する。
すなわち、L画像ペアの平均輝度の状態遷移が、以下の状態遷移となっているか否かを判定する。
直前ペアの平均輝度がL>Rであり、最新ペアがL<Rに変化、または、
直前ペアの平均輝度がL<Rであり、最新ペアがL>Rに変化、
このような輝度の逆転現象が発生しているか否かを判定する。
The brightness control
It is determined whether or not the brightness level difference of the latest pair and the brightness level difference of the previous pair are reversed.
That is, it is determined whether or not the state transition of the average luminance of the L image pair is the following state transition.
The average brightness of the previous pair is L> R and the latest pair is changed to L <R, or
The average brightness of the previous pair is L <R, and the latest pair is changed to L> R.
It is determined whether or not such a luminance reversal phenomenon has occurred.
このような逆転現象が発生していることが検出された場合、先に図3を参照して説明した輝度調整フレーム出力期間を設定した輝度調整処理を実行する。
輝度制御実行判定部203は、このような輝度逆転現象の発生の有無に応じたフラグ(加算値フラグ)を加算値算出部204に出力する。
すなわち、例えば、輝度逆転現象の発生があった場合にフラグ値=1、輝度逆転現象の発生がない場合にフラグ値=0、このような輝度逆転現象の有無を識別可能とした加算値フラグを生成して加算値算出部204に出力する。
When it is detected that such a reverse phenomenon has occurred, the luminance adjustment process in which the luminance adjustment frame output period described above with reference to FIG. 3 is set is executed.
The luminance control
That is, for example, the flag value = 1 when the luminance reversal phenomenon occurs, the flag value = 0 when the luminance reversal phenomenon does not occur, and the addition value flag that makes it possible to identify the presence or absence of such a luminance reversal phenomenon. Generated and output to the added
加算値算出部204は、輝度逆転現象の発生があったことを示すフラグ値(例えば1)が入力された場合に、L画像に対して加算する輝度値と、R画像に対して加算する輝度値を算出する。すなわち、先に図3を参照して説明した輝度調整フレーム出力期間100の輝度レベルに調整するための加算値を算出する。
When a flag value (for example, 1) indicating that a luminance reversal phenomenon has occurred is input, the addition
この輝度加算値が輝度制御部205に出力される。なお、輝度制御部205に出力される輝度加算値は、L画像に対する加算値であるL画像用輝度加算値と、R画像に対する加算値であるR画像用輝度加算値の2つの加算値である。これらが交互に出力される。なお、これらの2つの加算値は+の値、−の値、様々な値に設定される。
This luminance addition value is output to the
輝度制御部205には、フレームメモリ201に格納された入力画像であるL画像とR画像が、順次転送されて格納され、加算値算出部204において算出された輝度加算値が加算された後、出力されることになる。
In the
加算値算出部204の算出した加算値が輝度制御部205に入力した画像フレームに加算される期間は、輝度制御実行判定部203の出力する加算値フラグの値が、加算処理を実行することを示す値(例えばフラグ値=1)に設定されている期間である。これは、図3に示す輝度調整フレーム出力期間100に相当する期間であり、例えば数フレーム〜数10フレーム等、予め設定された期間となる。輝度調整フレーム出力期間100は規定のフレーム数の出力期間あるいは規定の時間(数秒)等、様々な態様での設定が可能である。
During the period in which the addition value calculated by the addition
輝度制御実行判定部203の具体的構成と処理について図6を参照して説明する。
図6に示すように、輝度制御実行判定部203の平均輝度比較部251は、メモリ220からLR画像ペア(最新ペア)のL画像平均輝度221と、R画像平均輝度222とを入力して、この最新ペアのLR画像の平均輝度を比較する。比較結果は、
(a)L画像平均輝度221>R画像平均輝度222、
(b)L画像平均輝度221<R画像平均輝度222、
上記の(a),(b)のいずれの状態であり、この比較結果情報をLR輝度逆転判定部252に出力する。
A specific configuration and processing of the luminance control
As illustrated in FIG. 6, the average
(A) L image
(B) L image
In either state (a) or (b) above, this comparison result information is output to the LR luminance
LR輝度逆転判定部252は、平均輝度比較部251から入力する最新ペアの輝度高低情報と、その直前のLR画像の輝度高低情報をメモリ253から取得して、LR画像の平均輝度の高低の逆転が発生しているか否かを判定する。
すなわち、L画像ペアの平均輝度の状態遷移が、以下の状態遷移となっているか否かを判定する。
直前ペアの平均輝度がL>Rであり、最新ペアがL<Rに変化、または、
直前ペアの平均輝度がL<Rであり、最新ペアがL>Rに変化、
このような輝度の逆転現象が発生しているか否かを判定する。
The LR luminance
That is, it is determined whether or not the state transition of the average luminance of the L image pair is the following state transition.
The average brightness of the previous pair is L> R and the latest pair is changed to L <R, or
The average brightness of the previous pair is L <R, and the latest pair is changed to L> R.
It is determined whether or not such a luminance reversal phenomenon has occurred.
なお、メモリ253には、平均輝度比較部251において輝度高低比較のなされている1つ前のLR画像フレームペア(直前ペア)の輝度高低情報(L>RまたはL<R)が格納されている。このデータは順次更新される。
Note that the
LR輝度逆転判定部252が、以下の輝度逆転現象、すなわち、
直前ペアの平均輝度がL>Rであり、最新ペアがL<Rに変化、または、
直前ペアの平均輝度がL<Rであり、最新ペアがL>Rに変化、
このような輝度の逆転現象が発生していると判定した場合、加算値フラグ出力部254に対して、加算処理を有効化するフラグ(例えばフラグ値=1)の出力を実行させるための制御信号を出力する。さらに、カウンタ255のカウント処理を開始させる。
The LR luminance
The average brightness of the previous pair is L> R and the latest pair is changed to L <R, or
The average brightness of the previous pair is L <R, and the latest pair is changed to L> R.
When it is determined that such a luminance reversal phenomenon has occurred, a control signal for causing the addition value
カウンタ255は、図3に示す輝度調製フレーム出力期間100の開始〜終了を決定するためのカウンタである。例えば輝度調製フレーム出力期間100は予め規定のフレーム数の出力期間、あるいは規定時間(1〜数秒程度)の期間として設定される。
The
輝度調製フレーム出力期間100が規定のフレーム数の出力期間として設定されている場合、カウンタ255は、その規定フレーム数のカウントを実行する。具体的には、輝度調製フレーム出力期間100がフレーム数=kのkフレームを出力する期間として設定されている場合には、カウンタ255は加算処理の開始を示すフラグである加算値フラグ(例えばフラグ値=1)を出力した時点以降の出力フレーム数をカウントする。カウンタ255のカウント値がkとなった時点で、加算値フラグ出力部254に対してフラグ値のリセット信号を出力する。加算値フラグ出力部254は、このリセット信号の入力に応じて、加算処理を有効化するフラグ(例えばフラグ値=1)をリセットし、加算処理を停止するフラグ(例えばフラグ値=0)にフラグ設定を変更する。
When the luminance adjustment frame output period 100 is set as an output period of a specified number of frames, the
加算値フラグ出力部254が出力するフラグは、図5に示す加算値算出部204に入力される。加算値算出部204は、加算値フラグ出力部254から入力するフラグが加算処理の実行を示す有効値(たとえばフラグ値=1)である場合に、L画像に加算する輝度値であるL画像用加算値と、R画像に加算する輝度値であるR画像用加算値を算出する。
The flag output from the added value
すなわち、加算値算出部204は、輝度逆転現象の発生があったことを示すフラグ値(例えば1)が入力された場合に、L画像用加算値とR画像用加算値を算出する。すなわち、先に図3を参照して説明した輝度調整フレーム出力期間100の輝度レベルに調整するための加算値を算出する。
That is, the addition
これらの加算値が輝度制御部205に入力したL画像およびR画像に加算されて出力される。この処理により、図3に示す輝度調整フレーム出力期間100において輝度調整のされたL画像/R画像の出力が行われることになる。
These added values are added to the L and R images input to the
図7に加算値フラグ出力部254が出力するフラグの設定と、出力されるL画像およびR画像の輝度変化の対応図を示す。図7に示す輝度調整フレーム出力期間100が加算値算出部204において算出された輝度加算値の加算によって輝度の調整されたL画像とR画像との出力期間である。
FIG. 7 shows a correspondence diagram between the setting of the flag output by the added value
この期間は、図7の下部に示すフラグの値によって制御される。すなわち、加算値フラグ出力部254から出力されるフラグが加算処理の実行を示す有効値(たとえばフラグ値=1)である期間のみにおいて、加算値算出部204の算出した加算値が、L画像とR画像に各々加算されて出力される。
This period is controlled by the value of the flag shown at the bottom of FIG. That is, only in a period in which the flag output from the added value
加算値算出部204での算出する加算値による輝度調整フレームの生成処理について、図8を参照して説明する。
図8には、
(a)L画像に対する処理、
(b)R画像に対する処理、
これらの処理を示している。
A process for generating a luminance adjustment frame based on the addition value calculated by the addition
In FIG.
(A) Processing for L image,
(B) Processing for R image;
These processes are shown.
図8に示す(a)L画像に対する処理には、上から以下の信号を示している。
(a1)L画像入力(平均輝度)、
(a2)L画像輝度加算値
(a3)L画像出力(平均輝度)
図8に示す(b)R画像に対する処理には、上から以下の信号を示している。
(b1)R画像入力(平均輝度)、
(b2)R画像輝度加算値
(b3)R画像出力(平均輝度)
In the process for (a) L image shown in FIG. 8, the following signals are shown from the top.
(A1) L image input (average luminance),
(A2) L image luminance addition value (a3) L image output (average luminance)
In the process for (b) R image shown in FIG. 8, the following signals are shown from the top.
(B1) R image input (average luminance),
(B2) R image luminance addition value (b3) R image output (average luminance)
図8において、輝度逆転の発生は、フレームnからフレームn+1の間で発生し、輝度調整期間はフレーム数kのkフレームの出力期間とした例である。なお、図8に示す例において、フレーム番号は、L/R画像の1組単位で設定した例を示している。すなわち、LR画像のペアに同一ナンバーのフレーム番号が設定される。従って、輝度調整期間のLR画像個別の出力フレームがkである場合、表示部におけるLR画像のトータル出力フレーム数は2kフレームである。 In FIG. 8, the occurrence of luminance inversion occurs between frame n and frame n + 1, and the luminance adjustment period is an example of an output period of k frames with k frames. In the example illustrated in FIG. 8, the frame number is an example set in units of one set of L / R images. That is, the same frame number is set for each pair of LR images. Therefore, when the number of output frames of individual LR images in the luminance adjustment period is k, the total number of output frames of LR images on the display unit is 2k frames.
図5示す加算値算出部204は、図8の中段(a2),(b2)に示す加算値の算出を実行する。加算値算出部204の構成と処理の具体例について図9以下を参照して説明する。
図9は、加算値算出部204の構成例を示す図である。
The addition
FIG. 9 is a diagram illustrating a configuration example of the addition
加算値算出部204は、図9に示すように、LR画像平均輝度中間値算出部301がメモリ220からL画像平均輝度221とR画像平均輝度222を入力し、これら最新ペアを構成する2つの画像の輝度の中間値(輝度平均)を算出する。
9, the LR image average luminance intermediate
メモリ220に格納されたフレームnのL画像平均輝度221を、
Lm(n)
とし、R画像平均輝度222を、
Rm(n)
としたとき、LR画像平均輝度中間値算出部301はこれら2つの画像輝度平均値のさらに平均値M(n)を算出する。M(n)のnはフレームnのLR画像を示し、M(n)は、フレームnのL画像輝度平均値とR画像輝度平均値の中間値(平均)を示すものとする。
すなわち、
LR画像輝度中間値M(n)=(Lm(n)+Rm(n))/2
上記式に従って、LR画像の輝度中間値を算出する。
The L image
Lm (n)
And the R image
Rm (n)
, The LR image average luminance intermediate
That is,
LR image luminance intermediate value M (n) = (Lm (n) + Rm (n)) / 2
The luminance intermediate value of the LR image is calculated according to the above formula.
LR画像平均輝度中間値算出部301の算出した値は、選択部302に出力される。選択部302は、LR画像平均輝度中間値算出部301の算出した中間値M(n)、または入力値[0]を選択的にローパスフィルタ303に出力する。選択信号として、加算値フラグ出力部254の出力フラグが利用される。
The value calculated by the LR image average luminance intermediate
先に図7を参照して説明したように、加算値フラグ出力部254は、輝度調整フレーム出力期間100において、加算処理の実行を示す設定のフラグ値(例えばフラグ値=1)を出力する。
As described above with reference to FIG. 7, the added value
選択部302は、加算値フラグ出力部254から入力するフラグが加算処理の実行を示す設定のフラグ値(例えばフラグ値=1)の場合は、LR画像平均輝度中間値算出部301の算出した中間値M(n)をローパスフィルタ303に出力し、加算値フラグ出力部254から入力するフラグが加算処理の停止を示す設定のフラグ値(例えばフラグ値=0)の場合は、[0]を選択してローパスフィルタ303に出力する。
When the flag input from the addition value
ローパスフィルタ303の構成と処理について図10を参照して説明する。
ローパスフィルタ303は、図10に示すように、選択部302の出力値をセットする複数のレジスタ(遅延素子)321と、各レジスタ(遅延素子)からの出力と予め設定したフィルタ係数との乗算処理を実行する複数の乗算器322と、複数の乗算器322の出力を入力して加算する加算器323を有する。
The configuration and processing of the low-
As shown in FIG. 10, the low-
加算器323の出力が加算値A(n)として出力される。加算値A(n)は、フレームnに対する加算値であり、第nフレームのL画像とR画像の加算値として利用される。なお、本例では、第nフレームの1つのLR画像ペア(n)に対して共通の加算値A(n)を生成し、平均輝度が低い一方の画像に加算値A(n)を加算し、平均輝度が高い他方の画像から加算値A(n)を減算する処理を実行する。これは、図8(a),(b)において示した処理に対応する。 The output of the adder 323 is output as the added value A (n). The addition value A (n) is an addition value for the frame n, and is used as an addition value for the L image and the R image of the nth frame. In this example, a common addition value A (n) is generated for one LR image pair (n) in the nth frame, and the addition value A (n) is added to one image having a low average luminance. Then, a process of subtracting the added value A (n) from the other image having a high average luminance is executed. This corresponds to the processing shown in FIGS. 8 (a) and 8 (b).
図10に示すローパスフィルタ303の処理について説明する。初期状態において、レジスタ(遅延素子)321のすべてには0がセットされている。
先に説明したように、選択部302は、加算値フラグ出力部254から加算処理の実行を示す設定のフラグ値(例えばフラグ値=1)を入力すると、LR画像平均輝度中間値算出部301の算出した中間値M(n)をローパスフィルタ303に出力する。
Processing of the
As described above, when the
この中間値出力がなされると、レジスタ(遅延素子)321のすべてに中間値M(n)がセットされる。中間値M(n)は、乗算器322においてあらかじめ設定されたフィルタ係数と乗算され、さらに各乗算器322の出力が加算器323において加算されて加算値A(n)が算出されて出力される。フィルタ係数は、各乗算器322のすべての出力を加算した加算値A(n)を入力画像に加算した場合に入力LR画像の平均輝度の中間値になるような値に設定される。
When this intermediate value is output, the intermediate value M (n) is set in all the registers (delay elements) 321. The intermediate value M (n) is multiplied by a preset filter coefficient in the
図10に示すローパスフィルタ303の出力する加算値は、図8に示す加算値A(n)に対応し、初期的な出力タイミングは図8に示すt0に対応する。
その後、選択部302は継続的に中間値M(n)を出力する。すなわち、加算値フラグ出力部254から入力するフラグが加算処理の非実行を示す設定のフラグ値(例えばフラグ値=0)に変更されるまで、中間値M(n)を出力する。この期間、ローパスフィルタ303は、加算値A(n)を継続的に出力する。図8に示す時間t0〜t1の期間である。
The added value output from the low-
Thereafter, the
なお、フレーム進行に伴い、LR画像ペアの平均輝度は変化するので、選択部302が出力する平均値M(n)もフレーム進行に伴い変化する。この変化に伴い加算値A(n)も変化する。なお、図8には時間t0〜t1の期間の加算値を一定に示してあるが、これは簡略化して示しているものであり実際には、加算値は変動する。ただし、加算値は出力されるLR画像を入力LR画像の輝度平均値の中間値に設定するように変動する。
Since the average luminance of the LR image pair changes with the progress of the frame, the average value M (n) output from the
加算値フラグ出力部254は、先に図6を参照して説明したように予め設定した輝度調整フレーム出力期間100(図7参照)の経過によって、カウンタ255からのリセット信号を入力する。このリセット信号の入力により、加算値フラグ出力部254は、加算処理の非実行を示す設定のフラグ値(例えばフラグ値=0)を図9に示す選択部302に出力する。
The added value
選択部302は、このリセット信号の入力に応じて出力を[0]に切り換える。選択部302の出力する値[0]は図10に示す複数のレジスタ(遅延素子)321の左側のレジスタ(遅延素子)Z(0)に入力される。その他のレジスタ(遅延素子)Z(1)〜Z(k)には中間値M(n)が格納されたままとなる。
The
選択部302は画像処理装置の持つシステムクロックのクロックタイミングに応じて、値[0]をローパスフィルタ303に入力する。ローパスフィルタ303に入力された値[0]は1クロックタイミング毎にレジスタ(遅延素子)Z(0)→Z(1)→Z(2)・・・に転送される。
The
すなわち、選択部302からローパスフィルタ303に対する最初の[0]入力時は、レジスタ(遅延素子)Z(0)=0、レジスタ(遅延素子)Z(1)〜Z(k)=中間値M(n)
次のクロックタイミングにおいて、
レジスタ(遅延素子)Z(0),Z(1)=0、レジスタ(遅延素子)Z(2)〜Z(k)=中間値M(n)、
次のクロックタイミングにおいて、
レジスタ(遅延素子)Z(0)〜Z(2)=0、レジスタ(遅延素子)Z(3)〜Z(k)=中間値M(n)、
このようにレジスタ(遅延素子)321の格納値が中間値から0に順次切り替わることになる。
That is, when the first [0] is input from the
At the next clock timing,
Registers (delay elements) Z (0), Z (1) = 0, registers (delay elements) Z (2) to Z (k) = intermediate value M (n),
At the next clock timing,
Register (delay element) Z (0) to Z (2) = 0, register (delay element) Z (3) to Z (k) = intermediate value M (n),
Thus, the stored value of the register (delay element) 321 is sequentially switched from the intermediate value to 0.
この処理はクロックタイミングに従って順次実行される。結果として、加算器323の出力は次第に0に近づくことになる。
この処理期間が図8に示す時間t1〜t2の期間に相当する。
図8の期間t1〜t2に示すように、加算値は時間とともに次第に減少する設定となる。
This process is sequentially executed according to the clock timing. As a result, the output of the adder 323 gradually approaches zero.
This processing period corresponds to the period of time t1 to t2 shown in FIG.
As shown in the period t1 to t2 in FIG. 8, the added value is set to gradually decrease with time.
図10に示すレジスタ(遅延素子)321の全ての格納値が中間値から0に切り替わると、加算器323の出力する加算値A(n)は0になる。この時間が図8に示す時間t2に相当する。時間t2以降は加算値による輝度調整が非実行状態となる。 When all the stored values of the register (delay element) 321 shown in FIG. 10 are switched from the intermediate value to 0, the added value A (n) output from the adder 323 becomes 0. This time corresponds to time t2 shown in FIG. After time t2, the luminance adjustment using the added value is not performed.
上述した加算値による輝度制御について具体的なアルゴリズム例を説明する。
まず、図5に示す平均輝度算出部202は、L画像平均輝度221とR画像平均輝度222を例えば下記の算出式に従って算出する。
L画像の平均輝度Lm(n)
Lm(n)=ΣLin(x,y)/(画像サイズ)
なお、Lin(x,y)は入力L画像の画素位置(x,y)の輝度である。
R画像の平均輝度Rm(n)
Rm(n)=ΣRin(x,y)/(画像サイズ)
なお、Rin(x,y)は入力R画像の画素位置(x,y)の輝度である。
A specific algorithm example for the above-described luminance control based on the added value will be described.
First, the average
Average brightness Lm (n) of L image
Lm (n) = ΣLin (x, y) / (image size)
Lin (x, y) is the luminance at the pixel position (x, y) of the input L image.
Average brightness Rm (n) of R image
Rm (n) = ΣRin (x, y) / (image size)
Rin (x, y) is the luminance at the pixel position (x, y) of the input R image.
これらのL画像平均輝度(Lm(n))221と、R画像平均輝度(Rm(n))222がメモリ220に格納され、輝度制御実行判定部203に入力される。
輝度制御実行判定部203は、メモリ220に保存されたLR画像ペア(最新ペア)のL画像平均輝度221と、R画像平均輝度222とを比較する。すなわち、以下のいずれの状態であるかを判断する。
(a)L画像平均輝度221≧R画像平均輝度222、
(b)L画像平均輝度221<R画像平均輝度222、
上記の(a),(b)のいずれの状態にあるかを判定する。
The L image average luminance (Lm (n)) 221 and the R image average luminance (Rm (n)) 222 are stored in the
The luminance control
(A) L image
(B) L image
It is determined whether the state is (a) or (b).
比較結果は、大小比較結果:C(n)として、以下のような値が例えば図示しないメモリ(レジスタ)に記録される。
C(n)=1 when Lm(n)≧Rm(n)
C(n)=0 when Lm(n)<Rm(n)
As the comparison result, the following value is recorded in, for example, a memory (register) (not shown) as a magnitude comparison result: C (n).
C (n) = 1 when Lm (n) ≧ Rm (n)
C (n) = 0 when Lm (n) <Rm (n)
前述したように輝度制御実行判定部203は、メモリ220に保存されたLR画像ペア(最新ペア)の直前のLR画像ペア(直前ペア)の輝度の高低差を保持しており、
最新ペアの輝度高低差と、直前ペアの輝度高低差の逆転が発生しているか否かを判定する。
この判定処理は、例えば
C(n)=1の場合は、C(n−1)=0であれば逆転が発生していると判定する。
C(n)=0の場合は、C(n−1)=1であれば逆転が発生していると判定する。
このような判定処理として実行することができる。
As described above, the brightness control
It is determined whether or not the brightness level difference of the latest pair and the brightness level difference of the previous pair are reversed.
In this determination process, for example, when C (n) = 1, if C (n−1) = 0, it is determined that reverse rotation has occurred.
In the case of C (n) = 0, if C (n−1) = 1, it is determined that reverse rotation has occurred.
This determination process can be executed.
この判定処理は、L画像ペアの平均輝度の状態遷移が、以下の状態遷移となっているか否かを判定する処理である。
直前ペアの平均輝度がL>Rであり、最新ペアがL<Rに変化、または、
直前ペアの平均輝度がL<Rであり、最新ペアがL>Rに変化、
このような輝度の逆転現象が発生しているか否かを判定する。
This determination process is a process for determining whether or not the state transition of the average luminance of the L image pair is the following state transition.
The average brightness of the previous pair is L> R and the latest pair is changed to L <R, or
The average brightness of the previous pair is L <R, and the latest pair is changed to L> R.
It is determined whether or not such a luminance reversal phenomenon has occurred.
このような輝度の逆転現象が発生している場合、加算値フラグがセットされ、カウンタが動作し始める。生成した現フレームの大小情報は、次フレームで前フレームの大小情報として使用するので、保存する。前フレームの大小情報と現フレームの大小情報が異なる場合に図6に示す輝度制御実行判定部203の加算値フラグ出力部254の出力するフラグが加算処理の実行を示す有効値(たとえばフラグ値=1)に設定され、カウンタ255がカウントを開始する。
When such a luminance reversal phenomenon occurs, the addition value flag is set and the counter starts to operate. The generated size information of the current frame is stored in the next frame because it is used as the size information of the previous frame. When the size information of the previous frame is different from the size information of the current frame, the flag output from the addition value
図5、図9に示す加算値算出部204は、図9に示すように、LR画像平均輝度中間値算出部301がメモリ220からL画像平均輝度(Lm(n))221とR画像平均輝度(Rm(n))222を入力し、これら最新ペアを構成する2つの画像の輝度の中間値(輝度平均)M(n)を算出する。
As shown in FIG. 9, the LR image average luminance intermediate
具体的には、例えば以下の算出式に従ってLR画像ペアの輝度の中間値(輝度平均)M(n)を算出する。
M(n)=(Lm(n)+Rm(n))/2
Specifically, for example, an intermediate value (luminance average) M (n) of the luminance of the LR image pair is calculated according to the following calculation formula.
M (n) = (Lm (n) + Rm (n)) / 2
さらに、図9に示す加算値算出部204のLR画像平均輝度中間値算出部301の算出した値は、選択部302に出力される。選択部302は、LR画像平均輝度中間値算出部301の算出した中間値M(n)、または入力値[0]を選択的にローパスフィルタ303に出力する。選択信号として、加算値フラグ出力部254の出力フラグが利用される。
Further, the value calculated by the LR image average luminance intermediate
前述したように加算値算出部204のローパスフィルタ303はレジスタ321に中間値M(n)または0を入力して加算値A(n)を生成して出力する。加算値A(n)はフレームnに対する加算値であり、第nフレームのL画像とR画像の加算値として利用される。なお、本例では、第nフレームの1つのLR画像ペア(n)に対して共通の加算値A(n)を生成し、平均輝度が低い一方の画像に加算値A(n)を加算し、平均輝度が高い他方の画像から加算値A(n)を減算する処理を実行する。これは、図8(a),(b)において示した処理に対応する。
As described above, the
図5に示す加算値算出部204は加算値A(n)を算出して輝度制御部205に提供する。輝度制御部205はフレームメモリ201から入力したL画像およびR画像に加算値A(n)を加算して出力する。
The added
加算値算出部204がフレームメモリ201から入力したL画像の画素位置(x,y)の輝度値をLin(x,y)、加算値をA(n)、出力L画像の画素位置(x,y)の輝度値をLout(x,y)としたとき、輝度制御部205の出力するL画像の画素輝度値は以下のような値となる。
(a)Lout(x,y)=Lin(x,y)−A(n) whenC(n)==0
(b)Lout(x,y)=Lin(x,y)+A(n) whenC(n)==1
The luminance value at the pixel position (x, y) of the L image input from the
(A) Lout (x, y) = Lin (x, y) −A (n) whenC (n) == 0
(B) Lout (x, y) = Lin (x, y) + A (n) whenC (n) == 1
なお、上記式においてC(n)は先に説明したフレームnのLR画像ペアの輝度大小比較結果である。すなわち、以下の通りである。
C(n)=1 when Lm(n)≧Rm(n)
C(n)=0 when Lm(n)<Rm(n)
In the above equation, C (n) is the luminance magnitude comparison result of the LR image pair of frame n described above. That is, it is as follows.
C (n) = 1 when Lm (n) ≧ Rm (n)
C (n) = 0 when Lm (n) <Rm (n)
すなわち、L画像平均輝度(Lm)がR画像平均輝度(Rm)以上であれば、上記の(a)に示す式に従って入力L画像(Lin)から加算値A(n)を減算して輝度を低下させて出力L画像(Lout)の画素の輝度値を決定する。
一方、L画像平均輝度(Lm)がR画像平均輝度(Rm)未満であれば、上記の(b)に示す式に従って入力L画像(Lin)に加算値A(n)を加算して輝度を上昇させて出力L画像(Lout)の画素の輝度値を決定する。
なお、本例では加算値A(n)は正の値を有する。
That is, if the L image average luminance (Lm) is equal to or higher than the R image average luminance (Rm), the luminance is obtained by subtracting the addition value A (n) from the input L image (Lin) according to the equation shown in (a) above. Decrease the luminance value of the pixel of the output L image (Lout).
On the other hand, if the L image average luminance (Lm) is less than the R image average luminance (Rm), the addition value A (n) is added to the input L image (Lin) according to the equation shown in (b) above to obtain the luminance. The luminance value of the pixel of the output L image (Lout) is determined by raising.
In this example, the addition value A (n) has a positive value.
同様に、加算値算出部204がフレームメモリ201から入力したR画像の画素位置(x,y)の輝度値をRin(x,y)、加算値をA(n)、出力L画像の画素位置(x,y)の輝度値をRout(x,y)としたとき、輝度制御部205の出力するR画像の画素輝度値は以下のような値となる。
(c)Rout(x,y)=Rin(x,y)+A(n) whenC(n)==0
(d)Rout(x,y)=Rin(x,y)−A(n) whenC(n)==1
Similarly, the luminance value at the pixel position (x, y) of the R image input from the
(C) Rout (x, y) = Rin (x, y) + A (n) whenC (n) == 0
(D) Rout (x, y) = Rin (x, y) −A (n) whenC (n) == 1
すなわち、L画像平均輝度(Lm)がR画像平均輝度(Rm)以上であれば、上記の(a)に示す式に従って入力R画像(Rin)に加算値A(n)を加算して輝度を上昇させて出力R画像(Rout)の画素の輝度値を決定する。
一方、L画像平均輝度(Lm)がR画像平均輝度(Rm)未満であれば、上記の(b)に示す式に従って入力R画像(Rin)から加算値A(n)を減算して輝度を低下させて出力R画像(Rout)の画素の輝度値を決定する。
なお、本例では加算値A(n)は正の値を有する。
That is, if the L image average luminance (Lm) is equal to or higher than the R image average luminance (Rm), the luminance value is obtained by adding the added value A (n) to the input R image (Rin) according to the equation shown in (a) above. The luminance value of the pixel of the output R image (Rout) is determined by raising.
On the other hand, if the L image average luminance (Lm) is less than the R image average luminance (Rm), the luminance is obtained by subtracting the addition value A (n) from the input R image (Rin) according to the equation shown in (b) above. Decreasing the luminance value of the pixel of the output R image (Rout) is determined.
In this example, the addition value A (n) has a positive value.
これらの処理により、図3や、図7、図8を参照して説明したように輝度調整フレーム出力期間100において輝度調整のされたL画像/R画像の出力が行われることになる。
この制御により、LR画像の輝度逆転の発生するフレーム推移がある場合、急激な輝度逆転を防止して、緩やかな輝度推移を発生させて複数フレームをむかけて輝度の逆転を発生させる構成としたので視覚的なちらつき(フリッカ)を緩和することができる。
By these processes, as described with reference to FIG. 3, FIG. 7, and FIG. 8, output of the L image / R image whose luminance is adjusted in the luminance adjustment frame output period 100 is performed.
With this control, when there is a frame transition that causes a luminance reversal of the LR image, a configuration in which a sudden luminance reversal is prevented and a gentle luminance transition is generated to generate a reversal of luminance over multiple frames. Therefore, visual flicker can be reduced.
なお、上記実施例では、LR画像の輝度逆転の発生するフレーム推移が検出された場合に全て加算値A(n)による輝度制御を実行する設定として説明した。
この判定処理は、図5に示す輝度制御実行判定部203のLR輝度逆転判定部252(図6参照)において、例えば以下のような判定処理として実行される。
C(n)=1の場合は、C(n−1)=0であれば逆転が発生していると判定する。
C(n)=0の場合は、C(n−1)=1であれば逆転が発生していると判定する。
このような判定処理として実行することができる。
In the above-described embodiment, the description has been made on the setting that the brightness control is performed by the addition value A (n) when the frame transition in which the brightness reversal of the LR image occurs is detected.
This determination process is executed, for example, as the following determination process in the LR luminance inversion determination unit 252 (see FIG. 6) of the luminance control
In the case of C (n) = 1, if C (n−1) = 0, it is determined that reverse rotation has occurred.
In the case of C (n) = 0, if C (n−1) = 1, it is determined that reverse rotation has occurred.
This determination process can be executed.
しかし、このような設定とすると頻繁に制御の切り替えが繰り返されることになり、入力画像の持つ本来の輝度情報を過度に変更することになり、また制御が追随できない可能性も発生する。 However, with such a setting, switching of control is frequently repeated, the original luminance information of the input image is changed excessively, and there is a possibility that the control cannot follow.
このような事態を防止するため、図5に示す輝度制御実行判定部203のLR輝度逆転判定部252(図6参照)において、輝度逆転の判定のみならず、以下のような連続するフレームの平均輝度の変化状態を考慮した処理を行ってもよい。
In order to prevent such a situation, the LR luminance inversion determination unit 252 (see FIG. 6) of the luminance control
処理対象とする第nフレームのL画像平均輝度(Lm(n))と、1つ前のフレームである第n−1フレームのL画像平均輝度(Lm(n−1))との差分Ld(n)を算出する。
同様に、処理対象とする第nフレームのR画像平均輝度(Rm(n))と、1つ前のフレームである第n−1フレームのR画像平均輝度(Rm(n−1))との差分Rd(n)を算出する。
The difference Ld () between the L image average brightness (Lm (n)) of the nth frame to be processed and the L image average brightness (Lm (n-1)) of the (n−1) th frame which is the previous frame. n) is calculated.
Similarly, the R image average luminance (Rm (n)) of the nth frame to be processed and the R image average luminance (Rm (n−1)) of the n−1th frame which is the previous frame. The difference Rd (n) is calculated.
すなわち、以下の式に従ってL画像差分Ld(n)とR画像差分Rd(n)を算出する。
Ld(n)=abs(Lm(n)−Lm(n−1))
Rd(n)=abs(Rm(n)−Rm(n−1))
なお、abs(x)は、xの絶対値を意味する。
That is, the L image difference Ld (n) and the R image difference Rd (n) are calculated according to the following equations.
Ld (n) = abs (Lm (n) −Lm (n−1))
Rd (n) = abs (Rm (n) −Rm (n−1))
Note that abs (x) means the absolute value of x.
さらに、これらのL画像差分Ld(n)とR画像差分Rd(n)のいずれもが予め規定したしきい値(Th)以上である場合にのみ加算値A(n)を適用した制御を実行する。 Furthermore, control is performed by applying the added value A (n) only when both the L image difference Ld (n) and the R image difference Rd (n) are equal to or greater than a predetermined threshold value (Th). To do.
すなわち、LR画像の輝度逆転の発生するフレーム推移が検出された場合に全て加算値A(n)による輝度制御を実行するのではなく、LR画像の輝度逆転の発生するフレーム推移が検出され、かつ
L画像差分Ld(n)≧Th
R画像差分Rd(n)≧Th
これらの各式が成立する場合にのみ、加算値A(n)を適用した輝度制御を行う。
このような制御構成とすることで安定した制御が可能となる。
That is, when the frame transition in which the luminance inversion of the LR image occurs is detected, the luminance control by the addition value A (n) is not executed, but the frame transition in which the luminance inversion of the LR image occurs is detected, and L image difference Ld (n) ≧ Th
R image difference Rd (n) ≧ Th
Only when each of these formulas is satisfied, luminance control to which the added value A (n) is applied is performed.
By adopting such a control configuration, stable control is possible.
図11に示すフローチャートを参照して本発明の画像処理装置の実行する輝度制御シーケンス例について説明する。
まず、図5に示す平均輝度算出部202は、ステップS101において入力画像がL画像であるかR画像であるかを判定する。入力画像は、例えば図4に示すようにLR画像が交互に入力される。
An example of a brightness control sequence executed by the image processing apparatus of the present invention will be described with reference to the flowchart shown in FIG.
First, the average
ステップS101において入力画像がL画像であると判定した場合は、ステップS102に進み、L画像の平均輝度を算出する。この算出処理は、先に説明したように以下の式に従って行われる。
L画像の平均輝度Lm(n)
Lm(n)=ΣLin(x,y)/(画像サイズ)
なお、Lin(x,y)は入力L画像の画素位置(x,y)の輝度である。
If it is determined in step S101 that the input image is an L image, the process proceeds to step S102, and the average luminance of the L image is calculated. This calculation process is performed according to the following equation as described above.
Average brightness Lm (n) of L image
Lm (n) = ΣLin (x, y) / (image size)
Lin (x, y) is the luminance at the pixel position (x, y) of the input L image.
一方、ステップS101において入力画像がR画像であると判定した場合は、ステップS103に進み、R画像の平均輝度を算出する。この算出処理は、先に説明したように以下の式に従って行われる。
L画像の平均輝度Lm(n)
Rm(n)=ΣRin(x,y)/(画像サイズ)
なお、Rin(x,y)は入力R画像の画素位置(x,y)の輝度である。
On the other hand, if it is determined in step S101 that the input image is an R image, the process proceeds to step S103, and the average luminance of the R image is calculated. This calculation process is performed according to the following equation as described above.
Average brightness Lm (n) of L image
Rm (n) = ΣRin (x, y) / (image size)
Rin (x, y) is the luminance at the pixel position (x, y) of the input R image.
次に、輝度制御実行判定部203は、ステップS104においてL画像の平均輝度Lm(n)とR画像の平均輝度Rm(n)の比較情報C(n)を求める。
比較情報は、先に説明したように、以下のような値C(n)が算出される。
C(n)=1 when Lm(n)≧Rm(n)
C(n)=0 when Lm(n)<Rm(n)
Next, the luminance control
As described above, as the comparison information, the following value C (n) is calculated.
C (n) = 1 when Lm (n) ≧ Rm (n)
C (n) = 0 when Lm (n) <Rm (n)
次に、輝度制御実行判定部203は、ステップS105において、処理対象フレーム(n)の1つ前のフレーム(n−1)の比較情報C(n−1)を比較してLR画像の平均輝度の高低の逆転が発生しているか否かを判定する。
この処理は、LR輝度逆転判定部252(図6参照)において、例えば以下のような判定処理として実行する。
C(n)=1の場合は、C(n−1)=0であれば逆転が発生していると判定する。
C(n)=0の場合は、C(n−1)=1であれば逆転が発生していると判定する。
Next, in step S105, the luminance control
This process is executed, for example, as the following determination process in the LR luminance inversion determination unit 252 (see FIG. 6).
In the case of C (n) = 1, if C (n−1) = 0, it is determined that reverse rotation has occurred.
In the case of C (n) = 0, if C (n−1) = 1, it is determined that reverse rotation has occurred.
すなわち、
C(n)=C(n−1)
であればLR画像間において輝度の高低の逆転が発生していないと判定する。この場合、ステップS105の判定はYesとなり、ステップS112に進む。
一方、
C(n)≠C(n−1)
であればLR画像間において輝度の高低の逆転が発生していると判定する。この場合、ステップS105の判定はNoとなり、ステップS106に進む。
That is,
C (n) = C (n-1)
If so, it is determined that there is no reversal in brightness between LR images. In this case, the determination in step S105 is Yes, and the process proceeds to step S112.
on the other hand,
C (n) ≠ C (n-1)
If so, it is determined that a reversal of brightness between the LR images has occurred. In this case, the determination in step S105 is No, and the process proceeds to step S106.
ステップS106では輝度制御実行判定部203のLR輝度逆転判定部252(図6参照)において、処理対象とする第nフレームのL画像平均輝度(Lm(n))と、1つ前のフレームである第n−1フレームのL画像平均輝度(Lm(n−1))との差分Ld(n)を算出する。
すなわち、以下の式に従ってL画像差分Ld(n)を算出する。
Ld(n)=abs(Lm(n)−Lm(n−1))
In step S106, in the LR luminance inversion determination unit 252 (see FIG. 6) of the luminance control
That is, the L image difference Ld (n) is calculated according to the following equation.
Ld (n) = abs (Lm (n) −Lm (n−1))
次に、ステップS107においてL画像差分Ld(n)と予め規定したしきい値(Th)を比較する。
L画像差分Ld(n)≧Th
上記式が成立するか否かを判定する。
上記式が成立しない場合、すなわち、第nフレームのL画像の平均輝度Lm(n)と1つ前の第n−1フレームの平均輝度Lm(n−1)との差分が小さい場合は、ステップS107の判定はNoとなり、ステップS112に進む。この場合は現在実行されている制御を継続することになる。
In step S107, the L image difference Ld (n) is compared with a predetermined threshold value (Th).
L image difference Ld (n) ≧ Th
It is determined whether or not the above equation holds.
If the above equation does not hold, that is, if the difference between the average luminance Lm (n) of the L image of the nth frame and the average luminance Lm (n−1) of the previous n−1 frame is small, the step The determination in S107 is No and the process proceeds to step S112. In this case, the currently executed control is continued.
次に、ステップS107において、
L画像差分Ld(n)≧Th
上記式が成立すると判定した場合、すなわち、第nフレームのL画像の平均輝度Lm(n)と1つ前の第n−1フレームの平均輝度Lm(n−1)との差分が大きい場合は、ステップS107の判定はYesとなり、ステップS108に進む。
Next, in step S107,
L image difference Ld (n) ≧ Th
When it is determined that the above equation holds, that is, when the difference between the average luminance Lm (n) of the L image of the nth frame and the average luminance Lm (n−1) of the previous n−1 frame is large. The determination in step S107 is Yes, and the process proceeds to step S108.
ステップS108では輝度制御実行判定部203のLR輝度逆転判定部252(図6参照)において、処理対象とする第nフレームのR画像平均輝度(Rm(n))と、1つ前のフレームである第n−1フレームのR画像平均輝度(Rm(n−1))との差分Rd(n)を算出する。
すなわち、以下の式に従ってR画像差分Rd(n)を算出する。
Rd(n)=abs(Rm(n)−Rm(n−1))
In step S108, in the LR luminance inversion determination unit 252 (see FIG. 6) of the luminance control
That is, the R image difference Rd (n) is calculated according to the following equation.
Rd (n) = abs (Rm (n) −Rm (n−1))
次に、ステップS109においてR画像差分Rd(n)と予め規定したしきい値(Th)を比較する。
L画像差分Rd(n)≧Th
上記式が成立するか否かを判定する。
上記式が成立しない場合、すなわち、第nフレームのR画像の平均輝度Rm(n)と1つ前の第n−1フレームの平均輝度Rm(n−1)との差分が小さい場合は、ステップS109の判定はNoとなり、ステップS112に進む。
In step S109, the R image difference Rd (n) is compared with a predetermined threshold value (Th).
L image difference Rd (n) ≧ Th
It is determined whether or not the above equation holds.
If the above equation does not hold, that is, if the difference between the average luminance Rm (n) of the R image of the nth frame and the average luminance Rm (n−1) of the previous n−1 frame is small, the step The determination in S109 is No, and the process proceeds to step S112.
一方、ステップS109において、
L画像差分Rd(n)≧Th
上記式が成立すると判定した場合、すなわち、第nフレームのR画像の平均輝度Rm(n)と1つ前の第n−1フレームの平均輝度Rm(n−1)との差分が大きい場合は、ステップS109の判定はYesとなり、ステップS110に進む。
On the other hand, in step S109,
L image difference Rd (n) ≧ Th
When it is determined that the above equation holds, that is, when the difference between the average luminance Rm (n) of the R image of the nth frame and the average luminance Rm (n−1) of the previous n−1 frame is large. The determination in step S109 is Yes, and the process proceeds to step S110.
ステップS110では、加算値フラグを加算処理の実行を示す設定のフラグ値(例えばフラグ値=1)にセットして加算値フラグ出力部254(図6参照)から出力する。
さらに、ステップS111において、カウンタ255のカウント処理を開始させる。カウンタ255は、先に説明したように例えば図3、図7に示す輝度調製フレーム出力期間100の開始〜終了を決定するためのカウンタである。例えば輝度調製フレーム出力期間100は予め規定のフレーム数の出力期間、あるいは規定時間(1〜数秒程度)の期間として設定される。
In step S110, the addition value flag is set to a flag value (for example, flag value = 1) indicating the execution of addition processing, and output from the addition value flag output unit 254 (see FIG. 6).
Further, in step S111, the count process of the
次に、ステップS112においてカウンタの値が0であるか否かを判定する。カウンタの値が0である場合は、加算値A(n)を適用した輝度制御期間でないことを意味する。
ステップS111からステップS112に進んだ場合は、カウンタはすでにカウントを開始しており、ステップS112の判定はNoとなり、ステップS114に進む。
Next, in step S112, it is determined whether or not the counter value is zero. When the value of the counter is 0, it means that it is not the luminance control period to which the added value A (n) is applied.
When the process proceeds from step S111 to step S112, the counter has already started counting, the determination in step S112 is No, and the process proceeds to step S114.
一方、ステップS105からステップS112に進んだ場合において、輝度制御が行われていない場合はカウンタの値は0であり、この場合はステップS112の判定はYesとなり、ステップS113に進む。
ステップS113では、加算値フラグをクリアする。すなわち加算処理の非実行を示す設定のフラグ値(例えばフラグ値=0)にセットして加算値フラグ出力部254(図6参照)から出力する。その後、ステップS114に進む。
On the other hand, when the process proceeds from step S105 to step S112, if the brightness control is not performed, the value of the counter is 0. In this case, the determination in step S112 is Yes, and the process proceeds to step S113.
In step S113, the addition value flag is cleared. That is, the flag value is set to a setting value indicating non-execution of the addition process (for example, flag value = 0) and output from the addition value flag output unit 254 (see FIG. 6). Thereafter, the process proceeds to step S114.
ステップS114では、さらに加算値フラグが加算処理の実行を示す設定のフラグ値(例えばフラグ値=1)であるか否かを判定する。
この判定処理は、加算値A(n)による輝度制御期間内であるか否かの判定処理に相当する。
In step S114, it is further determined whether or not the addition value flag is a setting flag value indicating execution of the addition process (for example, flag value = 1).
This determination process corresponds to a determination process as to whether or not the luminance control period is within the added value A (n).
ステップS114において、加算値フラグが加算処理の実行を示す設定のフラグ値(例えばフラグ値=1)であると判定した場合は、ステップS115に進む。 If it is determined in step S114 that the addition value flag is a flag value that indicates execution of addition processing (for example, flag value = 1), the process proceeds to step S115.
ステップS115では加算値算出部204のLR画像平均輝度中間値算出部301(図9参照)がメモリ220からL画像平均輝度221とR画像平均輝度222を入力し、これら最新ペアを構成する2つの画像の輝度の中間値(輝度平均)を算出する。
LR画像輝度中間値M(n)=(Lm(n)+Rm(n))/2
上記式に従って、LR画像の輝度中間値を算出する。
In step S115, the LR image average luminance intermediate value calculation unit 301 (see FIG. 9) of the addition
LR image luminance intermediate value M (n) = (Lm (n) + Rm (n)) / 2
The luminance intermediate value of the LR image is calculated according to the above formula.
次にステップS116において、LR画像平均輝度中間値算出部301の算出した中間値M(n)を、図10を参照して説明したローパスフィルタ303のレジスタ(遅延素子)321に出力する。
In step S116, the intermediate value M (n) calculated by the LR image average luminance intermediate
次にステップS119において、図10を参照して説明したローパスフィルタ303から加算値A(n)を算出する。
次にステップS120において、図5に示す輝度制御部205はフレームメモリ201から入力したL画像およびR画像に加算値A(n)を加算して出力する。
Next, in step S119, the addition value A (n) is calculated from the low-
In step S120, the
一方、ステップS114において、加算値フラグが加算処理の非実行を示す設定のフラグ値(例えばフラグ値=0)であると判定した場合は、ステップS117に進む。 On the other hand, if it is determined in step S114 that the addition value flag is a flag value set to indicate non-execution of addition processing (for example, flag value = 0), the process proceeds to step S117.
ステップS117〜S118では図9に示す加算値算出部204の選択部302の出力する値[0]を図10に示すローパスフィルタ303の複数のレジスタ(遅延素子)321のレジスタ(遅延素子)Z(0)〜Z(k)に順次0を入力する。
In steps S117 to S118, the value [0] output from the
その後ステップS119において、図10を参照して説明したローパスフィルタ303から加算値A(n)を算出する。
次にステップS120において、図5に示す輝度制御部205はフレームメモリ201から入力したL画像およびR画像に加算値A(n)を加算して出力する。
Thereafter, in step S119, the addition value A (n) is calculated from the
In step S120, the
ステップS115、ステップS116、ステップS119、S120の処理は、図8に示す時間t0〜t1の期間の処理に相当する。すなわち加算値A(n)の加算処理による輝度制御期間である。LR画像の平均輝度の中間値に設定する期間である。
一方、S117、ステップS118、ステップS119、S120の処理は、図8に示す時間t1〜t2の期間の処理に相当する。すなわち加算値A(n)を減少させて、LR画像の平均輝度の中間値への設定から次第に入力画像の輝度へ設定する期間の処理である。
The processes in step S115, step S116, step S119, and S120 correspond to the process in the period of time t0 to t1 shown in FIG. That is, it is a luminance control period by the addition process of the addition value A (n). This is a period set to the intermediate value of the average luminance of the LR image.
On the other hand, the process of S117, step S118, step S119, and S120 is equivalent to the process of the period of time t1-t2 shown in FIG. That is, it is a process of a period in which the addition value A (n) is decreased and the luminance of the input image is gradually set from the setting of the average luminance of the LR image to the intermediate value.
[3.画像処理装置のハードウェア構成例について]
最後に、図12を参照して本発明の画像処理装置の1つの具体的になハードウェア構成例について説明する。図12には、本発明の画像処理装置の一例としてパーソナルコンピュータ(PC)の例を説明する。ただし、本発明の画像処理装置は画像を自装置の表示部、あるいは出力部を介して接続した外部の表示装置に出力可能な機器であればよい。本発明の画像処理装置は、PCに限らず、例えば撮像装置、TV、プレーヤ等の様々な装置において実現される。
[3. Example of hardware configuration of image processing apparatus]
Finally, a specific hardware configuration example of the image processing apparatus of the present invention will be described with reference to FIG. FIG. 12 illustrates an example of a personal computer (PC) as an example of the image processing apparatus of the present invention. However, the image processing apparatus of the present invention may be any device that can output an image to an external display device connected via the display unit of the own device or the output unit. The image processing apparatus of the present invention is not limited to a PC, and can be realized in various apparatuses such as an imaging apparatus, a TV, and a player.
CPU(Central Processing Unit)501は、ROM(Read Only Memory)502、または記憶部508に記憶されているプログラムに従って各種の処理を実行する。例えば、上述の各実施例において説明した輝度制御処理を実行する。RAM(Random Access Memory)503には、CPU501が実行するプログラムやデータなどが適宜記憶される。これらのCPU501、ROM502、およびRAM503は、バス504により相互に接続されている。
A CPU (Central Processing Unit) 501 executes various processes according to a program stored in a ROM (Read Only Memory) 502 or a
CPU501はバス504を介して入出力インタフェース505に接続され、入出力インタフェース505には、キーボード、マウス、マイクロホンなどよりなる入力部506、ディスプレイ、スピーカなどよりなる出力部507が接続されている。CPU501は、入力部506から入力される指令に対応して各種の処理を実行し、処理結果を例えば出力部507に出力する。出力部507はディスプレイ、スピーカ等によって構成され、ディスカプレイには前述した処理によって輝度制御のなされた3D画像等の表示がなされる。
The
入出力インタフェース505に接続されている記憶部508は、例えばハードディスクからなり、CPU501が実行するプログラムや各種のデータを記憶する。通信部509は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
A
入出力インタフェース505に接続されているドライブ510は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア511を駆動し、記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部58に転送され記憶される。
A
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。 The present invention has been described in detail above with reference to specific embodiments. However, it is obvious that those skilled in the art can make modifications and substitutions of the embodiments without departing from the gist of the present invention. In other words, the present invention has been disclosed in the form of exemplification, and should not be interpreted in a limited manner. In order to determine the gist of the present invention, the claims should be taken into consideration.
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。 The series of processing described in the specification can be executed by hardware, software, or a combined configuration of both. When executing processing by software, the program recording the processing sequence is installed in a memory in a computer incorporated in dedicated hardware and executed, or the program is executed on a general-purpose computer capable of executing various processing. It can be installed and run. For example, the program can be recorded in advance on a recording medium. In addition to being installed on a computer from a recording medium, the program can be received via a network such as a LAN (Local Area Network) or the Internet and can be installed on a recording medium such as a built-in hard disk.
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。 Note that the various processes described in the specification are not only executed in time series according to the description, but may be executed in parallel or individually according to the processing capability of the apparatus that executes the processes or as necessary. Further, in this specification, the system is a logical set configuration of a plurality of devices, and the devices of each configuration are not limited to being in the same casing.
以上、説明したように、本発明の一実施例の構成によれば、3次元画像の表示処理に際して、左眼用画像(L画像)と右眼用画像(R画像)の輝度の高低が逆転することによって発生するちらつきを防止することが可能となる。すなわち、左眼用画像(L画像)と右眼用画像(R画像)の輝度の高低が逆転するフレームを検出し、検出ポイントからの一定期間、左眼用画像(L画像)と右眼用画像(R画像)の輝度を制御して、急激な輝度の逆転を発生させない構成としている。この輝度制御処理により、左眼用画像(L画像)と右眼用画像(R画像)の輝度が瞬時に逆転することがなくなり、観察者にちらつき感を発生させることのない画像表示が実現される。 As described above, according to the configuration of the embodiment of the present invention, the brightness level of the left-eye image (L image) and the right-eye image (R image) is reversed in the display process of the three-dimensional image. This makes it possible to prevent flickering that occurs. That is, a frame in which the brightness levels of the left-eye image (L image) and the right-eye image (R image) are reversed is detected, and the left-eye image (L image) and the right-eye image are detected for a certain period from the detection point. The luminance of the image (R image) is controlled to prevent a sudden luminance reversal. By this luminance control processing, the luminance of the left-eye image (L image) and the right-eye image (R image) is not instantaneously reversed, and an image display that does not cause the viewer to flicker is realized. The
10 被写体
21 左眼用画像撮影位置
22 右眼用画像撮影位置
100 輝度調整フレーム出力期間
201 フレームメモリ
202 平均輝度算出部
203 輝度制御実行判定部
204 加算値算出部
205 輝度制御部
220 メモリ
221 L画像平均輝度
222 R画像平均輝度
251 平均輝度比較部
252 LR輝度逆転判定部
253 メモリ
254 加算値フラグ出力部
255 カウンタ
301 LR画像平均輝度中間値算出部
302 選択部
303 ローパスフィルタ
321 レジスタ(遅延素子)
322 乗算器
323 加算器
500 画像処理装置
501 CPU
502 ROM
503 RAM
504 バス
505 入出力インタフェース
506 入力部
507 出力部
508 記憶部
509 通信部
510 ドライブ
511 リムーバブルメディア
DESCRIPTION OF SYMBOLS 10 Subject 21 Left-eye image capturing position 22 Right-eye image capturing position 100 Brightness adjustment
322 Multiplier 323 Adder 500
502 ROM
503 RAM
504 Bus 505 I /
Claims (7)
新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、該判定情報を利用して新規LR画像の輝度制御を実行するか否かを判定する輝度制御実行判定部と、
前記輝度制御実行判定部の判定結果に応じて、新規LR画像の各々に対する輝度制御値としての加算値を算出する加算値算出部と、
前記加算値算出部の算出した加算値を新規LR画像の各々に加算または減算することで新規LR画像の輝度調整を実行する輝度制御部を有する画像処理装置。 An average luminance calculation unit that calculates an average luminance of each image unit for the left-eye image (L image) and the right-eye image (R image) constituting the three-dimensional image;
It is determined whether the brightness level state of the new LR image that is the new input frame and the brightness level state of the previous LR image that is the immediately previous input frame are reversed, and the brightness control of the new LR image is performed using the determination information A brightness control execution determination unit that determines whether or not to execute
An addition value calculation unit that calculates an addition value as a luminance control value for each of the new LR images according to the determination result of the luminance control execution determination unit;
An image processing apparatus comprising: a luminance control unit that performs luminance adjustment of a new LR image by adding or subtracting the addition value calculated by the addition value calculation unit to each new LR image.
前記新規LR画像の各々の平均輝度がほぼ一致する加算値を算出して前記輝度制御部に出力する請求項1に記載の画像処理装置。 The added value calculation unit includes:
The image processing apparatus according to claim 1, wherein an added value in which the average luminances of the new LR images substantially coincide with each other is calculated and output to the luminance control unit.
前記新規LR画像の各々の平均輝度をL画像の平均輝度とR画像の平均輝度のほぼ中間値に設定する加算値を算出して前記輝度制御部に出力する請求項1に記載の画像処理装置。 The added value calculation unit includes:
The image processing apparatus according to claim 1, wherein an addition value for setting an average luminance of each of the new LR images to an intermediate value between an average luminance of the L image and an average luminance of the R image is calculated and output to the luminance control unit. .
前記新規LR画像の各々の平均輝度がほぼ一致する加算値を算出して前記輝度制御部に出力し、予め設定した期間の後、加算値を徐々に0に近づける制御を行う請求項2または3に記載の画像処理装置。 The added value calculation unit includes:
4. The addition value in which the average luminance of each of the new LR images substantially coincides is calculated and output to the luminance control unit, and the addition value is controlled to gradually approach 0 after a preset period. An image processing apparatus according to 1.
新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、
さらに、
新規LR画像のL画像と直前LR画像のL画像との平均輝度の差分であるL画像フレーム間差分と、
新規LR画像のR画像と直前LR画像のR画像との平均輝度の差分であるR画像フレーム間差分を算出し、
前記輝度高低状態の逆転が発生し、かつ、
前記L画像フレーム間差分が規定閾値以上であり、
前記R画像フレーム間差分が規定閾値以上であることの確認を条件として、新規LR画像の輝度制御の実行判定を行う請求項1〜4いずれかに記載の画像処理装置。 The brightness control execution determination unit
It is determined whether or not the brightness level state of the new LR image that is the new input frame and the brightness level state of the previous LR image that is the immediately previous input frame are reversed,
further,
An L image inter-frame difference that is a difference in average luminance between the L image of the new LR image and the L image of the immediately preceding LR image;
Calculating an R image inter-frame difference that is a difference in average luminance between the R image of the new LR image and the R image of the immediately preceding LR image;
Reversal of the brightness high and low state occurs, and
The difference between the L image frames is equal to or greater than a predetermined threshold;
5. The image processing apparatus according to claim 1, wherein execution determination of luminance control of a new LR image is performed on the condition that the difference between the R image frames is equal to or greater than a predetermined threshold.
平均輝度算出部が、3次元画像を構成する左眼用画像(L画)と右眼用画像(R画)について、各画像単位の平均輝度を算出する平均輝度算出ステップと、
輝度制御実行判定部が、新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、該判定情報を利用して新規LR画像の輝度制御を実行するか否かを判定する輝度制御実行判定ステップと、
加算値算出部が、前記輝度制御実行判定部の判定結果に応じて、新規LR画像の各々に対する輝度制御値としての加算値を算出する加算値算出ステップと、
輝度制御部が、前記加算値算出部の算出した加算値を新規LR画像の各々に加算または減算することで新規LR画像の輝度調整を実行する輝度制御ステップを有する画像処理方法。 An image processing method executed in an image processing apparatus,
An average luminance calculating unit that calculates an average luminance of each image unit for the left-eye image (L image) and the right-eye image (R image) constituting the three-dimensional image;
The luminance control execution determination unit determines whether the luminance high / low state of the new LR image that is the new input frame and the luminance high / low state of the previous LR image that is the previous input frame are reversed, and uses the determination information Brightness control execution determination step for determining whether or not to execute the brightness control of the new LR image;
An addition value calculating step in which an addition value calculation unit calculates an addition value as a luminance control value for each of the new LR images according to a determination result of the luminance control execution determination unit;
An image processing method comprising: a luminance control step in which a luminance control unit performs luminance adjustment of a new LR image by adding or subtracting the addition value calculated by the addition value calculation unit to each new LR image.
平均輝度算出部に、3次元画像を構成する左眼用画像(L画)と右眼用画像(R画)について、各画像単位の平均輝度を算出させる平均輝度算出ステップと、
輝度制御実行判定部に、新規入力フレームである新規LR画像の輝度高低状態と、直前入力フレームである直前LR画像の輝度高低状態が逆転しているか否かを判定し、該判定情報を利用して新規LR画像の輝度制御を実行するか否かを判定させる輝度制御実行判定ステップと、
加算値算出部に、前記輝度制御実行判定部の判定結果に応じて、新規LR画像の各々に対する輝度制御値としての加算値を算出させる加算値算出ステップと、
輝度制御部に、前記加算値算出部の算出した加算値を新規LR画像の各々に加算または減算することで新規LR画像の輝度調整を実行させる輝度制御ステップを実行させるプログラム。 A program for executing image processing in an image processing apparatus;
An average luminance calculation step for causing the average luminance calculation unit to calculate the average luminance of each image unit for the left-eye image (L image) and the right-eye image (R image) constituting the three-dimensional image;
The brightness control execution determination unit determines whether or not the brightness level state of the new LR image that is the new input frame and the brightness level state of the previous LR image that is the immediately previous input frame are reversed, and uses the determination information A luminance control execution determination step for determining whether or not to execute the luminance control of the new LR image;
An addition value calculation step of causing the addition value calculation unit to calculate an addition value as a luminance control value for each of the new LR images according to the determination result of the luminance control execution determination unit;
A program for causing a luminance control unit to execute a luminance control step of performing luminance adjustment of a new LR image by adding or subtracting the addition value calculated by the addition value calculating unit to each new LR image.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010120333A JP2011250071A (en) | 2010-05-26 | 2010-05-26 | Image processing apparatus, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010120333A JP2011250071A (en) | 2010-05-26 | 2010-05-26 | Image processing apparatus, image processing method, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011250071A true JP2011250071A (en) | 2011-12-08 |
Family
ID=45414798
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010120333A Withdrawn JP2011250071A (en) | 2010-05-26 | 2010-05-26 | Image processing apparatus, image processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011250071A (en) |
-
2010
- 2010-05-26 JP JP2010120333A patent/JP2011250071A/en not_active Withdrawn
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9338427B2 (en) | Scaling pixel depth values of user-controlled virtual object in three-dimensional scene | |
US8514225B2 (en) | Scaling pixel depth values of user-controlled virtual object in three-dimensional scene | |
US20130051659A1 (en) | Stereoscopic image processing device and stereoscopic image processing method | |
JP4903888B2 (en) | Image display device, image display method, and image correction method | |
US10185145B2 (en) | Display apparatus and operating method of display apparatus | |
WO2011105220A1 (en) | Three-dimensional video processing apparatus, method therefor, and program | |
GB2471137A (en) | Adjusting for non optimal viewer-to-display distance in a 3D stereoscopic system as a function of display size | |
CN106303498B (en) | Video display control method and device, display equipment | |
JP2011171813A (en) | Imaging apparatus and stereoscopic image display method | |
WO2011077177A1 (en) | Method and apparatus for optimal motion reproduction in stereoscopic digital cinema | |
JP2013135357A (en) | Depth estimate data generation device, generation method and generation program, and artificial stereoscopic image generation device, generation method and generation program | |
JP2012080294A (en) | Electronic device, video processing method, and program | |
US9113140B2 (en) | Stereoscopic image processing device and method for generating interpolated frame with parallax and motion vector | |
US8976175B2 (en) | Depth estimation data generating device, computer readable recording medium having depth estimation data generating program recorded thereon, and pseudo-stereo image display device | |
JP2011250071A (en) | Image processing apparatus, image processing method, and program | |
CN106303315B (en) | Video display control method and device, display equipment | |
WO2012117462A1 (en) | Three-dimensional video processing device and method, and three-dimensional video display device | |
WO2012117464A1 (en) | Three-dimensional video processing device and method, and three-dimensional video display device | |
JP5250604B2 (en) | Stereoscopic image display apparatus, stereoscopic image display method, and program | |
JP2012253644A (en) | Image processing device and method, and program | |
JP5899910B2 (en) | Image processing apparatus, image processing method, and image processing program | |
JP5500092B2 (en) | Depth estimation data generation device, depth estimation data generation program, and pseudo-stereoscopic image display device | |
JP2012080469A (en) | Stereoscopic image display device and control method of the same | |
CN106303499B (en) | Video display control method and device, display equipment | |
JP6056459B2 (en) | Depth estimation data generation apparatus, pseudo stereoscopic image generation apparatus, depth estimation data generation method, and depth estimation data generation program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20130806 |