JP6541760B2 - Display device and control method of display device - Google Patents

Display device and control method of display device Download PDF

Info

Publication number
JP6541760B2
JP6541760B2 JP2017234914A JP2017234914A JP6541760B2 JP 6541760 B2 JP6541760 B2 JP 6541760B2 JP 2017234914 A JP2017234914 A JP 2017234914A JP 2017234914 A JP2017234914 A JP 2017234914A JP 6541760 B2 JP6541760 B2 JP 6541760B2
Authority
JP
Japan
Prior art keywords
image data
luminance
brightness
input image
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017234914A
Other languages
Japanese (ja)
Other versions
JP2018077488A (en
Inventor
木村 卓士
卓士 木村
鈴木 康夫
康夫 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017234914A priority Critical patent/JP6541760B2/en
Publication of JP2018077488A publication Critical patent/JP2018077488A/en
Application granted granted Critical
Publication of JP6541760B2 publication Critical patent/JP6541760B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、表示装置、及び、表示装置の制御方法に関する。 The present invention relates to a display device, and relates to control how the display device.

従来、画像データの撮影情報に基づいて画像データの画素値を補正することにより、表示画像(画面に表示された画像)の明るさを制御(調整)する技術がある(特許文献1)。
また、液晶表示装置のバックライトの発光輝度を制御する技術として、バックライト光センサと外光センサの検出結果に基づいて、バックライトの劣化や環境光の影響による表示輝度の変化が抑制されるように、発光輝度を制御する技術がある(特許文献2)。バックライト光センサはバックライト光(バックライトからの光)を検出するセンサであり、外光センサは液晶表示装置に対する外光を検出するセンサである。
Conventionally, there is a technique of controlling (adjusting) the brightness of a display image (image displayed on the screen) by correcting the pixel value of the image data based on the shooting information of the image data (Japanese Patent Application Laid-Open No. 2008-101118).
Further, as a technique for controlling the light emission luminance of the backlight of the liquid crystal display device, based on the detection results of the backlight light sensor and the external light sensor, the change in display luminance due to the deterioration of the backlight and the influence of ambient light is suppressed. Thus, there is a technique for controlling the light emission luminance (Patent Document 2). The backlight light sensor is a sensor that detects backlight light (light from the backlight), and the outside light sensor is a sensor that detects outside light to the liquid crystal display device.

国際公開第2004/008755号WO 2004/008755 特開2008−9090号公報JP 2008-9090A

ここで、表示対象の画像データが撮影によって生成された画像データである場合に、撮影時の被写体の印象に近い画像表示を実現するためには、撮影時の環境光の明るさを考慮して表示輝度を制御することが好ましい。   Here, in the case where image data to be displayed is image data generated by shooting, in order to realize an image display close to the impression of the subject at the time of shooting, the brightness of ambient light at the time of shooting is taken into consideration. It is preferable to control the display brightness.

しかしながら、特許文献1に開示の技術では、表示装置に対する環境光の影響を考慮していないため、当該環境光によって表示輝度が変化してしまう。そのため、撮影時の被写体の印象に近い画像表示を精度良く実現することができない。   However, in the technology disclosed in Patent Document 1, since the influence of ambient light on the display device is not considered, the display brightness is changed by the ambient light. Therefore, an image display close to the impression of the subject at the time of shooting can not be realized with high accuracy.

特許文献1に開示の技術と、特許文献2に開示の技術とを組み合わせれば、上記環境光の影響による表示輝度の変化を抑制することができ、撮影時の被写体の印象により近い画像表示を実現することができる。   By combining the technology disclosed in Patent Document 1 and the technology disclosed in Patent Document 2, it is possible to suppress the change in display luminance due to the influence of the ambient light, and an image display closer to the impression of the subject at the time of shooting It can be realized.

しかしながら、特許文献1に開示の技術では、画像データの画素値を補正することにより表示輝度が制御される。そして、画素値には上限値と下限値が存在する。そのため、暗部の黒つぶれや明部の白つぶれを生じさせずに制御できる表示輝度の範囲は、狭い範囲に制限されてしまう。即ち、暗部の黒つぶれや明部の白つぶれが生じないように画素値を補正すると、表示輝度のダイナミックレンジが狭い範囲に制限されてしまう。それに比べ、撮影時の被写体に対する環境光の明るさは様々であり、被写体の明るさのダイナミックレンジは広い。そのため、特許文献1に開示の技術と、特許文献2に開示の技術とを組み合わせたとしても、撮影時の被写体の印象に近い画像表示を精度良く実現することができない。   However, in the technique disclosed in Patent Document 1, the display luminance is controlled by correcting the pixel value of the image data. The pixel value has an upper limit value and a lower limit value. For this reason, the range of display luminance that can be controlled without causing blackout of a dark part or whiteout of a light part is limited to a narrow range. That is, if the pixel value is corrected so as not to cause blackening of a dark part or whiteout of a bright part, the dynamic range of display luminance is limited to a narrow range. Compared to that, the brightness of the ambient light for the subject at the time of shooting is various, and the dynamic range of the brightness of the subject is wide. Therefore, even if the technology disclosed in Patent Document 1 and the technology disclosed in Patent Document 2 are combined, it is not possible to accurately realize the image display close to the impression of the subject at the time of shooting.

本発明は、撮影時の被写体の印象に近い画像表示を精度良く実現することのできる技術を提供することを目的とする。   An object of the present invention is to provide a technology capable of realizing an image display close to the impression of a subject at the time of shooting with high accuracy.

本発明の第1の態様は、The first aspect of the present invention is
画像データを表示する表示装置であって、A display device for displaying image data;
入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得手段と、A first acquisition unit that acquires imaging information related to imaging conditions at the time of imaging of input image data;
前記表示装置の設置環境に関する環境情報を取得する第2取得手段と、A second acquisition unit configured to acquire environmental information on an installation environment of the display device;
発光手段と、Light emitting means,
前記入力画像データに基づいて前記発光手段からの光を変調することで画面上に画像を表示する表示手段と、Display means for displaying an image on a screen by modulating light from the light emitting means based on the input image data;
前記入力画像データの明るさ、前記第1取得手段で取得された前記撮影情報、及び、前記第2取得手段で取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定手段と、A determination unit that determines a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired by the first acquisition unit, and the environment information acquired by the second acquisition unit When,
前記発光手段の発光輝度を、前記決定手段で決定された目標輝度に制御する制御手段と、Control means for controlling the light emission luminance of the light emission means to the target luminance determined by the determination means;
を有し、Have
前記決定手段は、前記入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、前記発光手段の目標輝度を調整するThe determination means adjusts the target brightness of the light emitting means so that when the brightness of the input image data is bright, the target brightness is lower than when the brightness is dark.
ことを特徴とする表示装置である。It is a display device characterized by the above.
本発明の第2の態様は、The second aspect of the present invention is
発光手段と、入力画像データに基づいて前記発光手段からの光を変調することで画面上に画像を表示する表示手段と、を有する表示装置の制御方法であって、A control method of a display device, comprising: light emitting means; and display means for displaying an image on a screen by modulating light from the light emitting means based on input image data,
前記入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得ステップと、A first acquisition step of acquiring imaging information on imaging conditions at the time of imaging of the input image data;
前記表示装置の制御方法の設置環境に関する環境情報を取得する第2取得ステップと、A second acquisition step of acquiring environment information on an installation environment of the control method of the display device;
前記入力画像データの明るさ、前記第1取得ステップで取得された前記撮影情報、及び、前記第2取得ステップで取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定ステップと、A determination step of determining a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired in the first acquisition step, and the environment information acquired in the second acquisition step When,
前記発光手段の発光輝度を、前記決定ステップで決定された目標輝度に制御する制御スA control system for controlling the light emission luminance of the light emitting means to the target luminance determined in the determination step
テップと、With step
を有し、Have
前記決定ステップでは、前記入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、前記発光手段の目標輝度を調整するIn the determining step, when the brightness of the input image data is bright, the target brightness of the light emitting means is adjusted so that the target brightness is lower than when the brightness is dark.
ことを特徴とする表示装置の制御方法である。It is a control method of a display device characterized by things.

本発明の第3の態様は、The third aspect of the present invention is
画像データを表示する表示装置であって、A display device for displaying image data;
入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得手段と、A first acquisition unit that acquires imaging information related to imaging conditions at the time of imaging of input image data;
前記表示装置の設置環境に関する環境情報を取得する第2取得手段と、A second acquisition unit configured to acquire environmental information on an installation environment of the display device;
発光手段と、Light emitting means,
前記入力画像データに基づいて前記発光手段からの光を変調することで画面上に画像を表示する表示手段と、Display means for displaying an image on a screen by modulating light from the light emitting means based on the input image data;
前記入力画像データの明るさ、前記第1取得手段で取得された前記撮影情報、及び、前記第2取得手段で取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定手段と、A determination unit that determines a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired by the first acquisition unit, and the environment information acquired by the second acquisition unit When,
前記発光手段の発光輝度を、前記決定手段で決定された目標輝度に制御する制御手段と、Control means for controlling the light emission luminance of the light emission means to the target luminance determined by the determination means;
を有し、Have
前記決定手段は、前記入力画像データによって表される画像の面積に対する、前記入力画像データの画素のうち画素値が閾値以上である画素からなる明部の面積の割合が小さいときに、当該割合が大きいときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整するWhen the ratio of the area of the bright portion of the pixels of the input image data to the area of the image represented by the input image data is small, the determining unit determines that the ratio is small. Adjust the target brightness of the light emitting means so that the target brightness is higher than when it is large
ことを特徴とする表示装置である。It is a display device characterized by the above.
本発明の第4の態様は、The fourth aspect of the present invention is
発光手段と、入力画像データに基づいて前記発光手段からの光を変調することで画面上に画像を表示する表示手段と、を有する表示装置の制御方法であって、A control method of a display device, comprising: light emitting means; and display means for displaying an image on a screen by modulating light from the light emitting means based on input image data,
前記入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得ステップと、A first acquisition step of acquiring imaging information on imaging conditions at the time of imaging of the input image data;
前記表示装置の制御方法の設置環境に関する環境情報を取得する第2取得ステップと、A second acquisition step of acquiring environment information on an installation environment of the control method of the display device;
前記入力画像データの明るさ、前記第1取得ステップで取得された前記撮影情報、及び、前記第2取得ステップで取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定ステップと、A determination step of determining a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired in the first acquisition step, and the environment information acquired in the second acquisition step When,
前記発光手段の発光輝度を、前記決定ステップで決定された目標輝度に制御する制御ステップと、Controlling the light emission luminance of the light emitting means to the target luminance determined in the determination step;
を有し、Have
前記決定ステップでは、前記入力画像データによって表される画像の面積に対する、前記入力画像データの画素のうち画素値が閾値以上である画素からなる明部の面積の割合が小さいときに、当該割合が大きいときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整するIn the determining step, when the ratio of the area of a bright portion made up of pixels whose pixel values are equal to or larger than the threshold among the pixels of the input image data is smaller than the area of the image represented by the input image data. Adjust the target brightness of the light emitting means so that the target brightness is higher than when it is large
ことを特徴とする表示装置の制御方法である。It is a control method of a display device characterized by things.

本発明の第5の態様は、The fifth aspect of the present invention is
画像データを表示する表示装置であって、A display device for displaying image data;
入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得手段と、A first acquisition unit that acquires imaging information related to imaging conditions at the time of imaging of input image data;
前記表示装置の設置環境に関する環境情報を取得する第2取得手段と、A second acquisition unit configured to acquire environmental information on an installation environment of the display device;
前記入力画像データに基づいて発光手段を発光させて画面上に画像を表示する表示手段と、Display means for causing a light emitting means to emit light based on the input image data to display an image on a screen;
前記入力画像データの明るさ、前記第1取得手段で取得された前記撮影情報、及び、前記第2取得手段で取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定手段と、A determination unit that determines a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired by the first acquisition unit, and the environment information acquired by the second acquisition unit When,
前記発光手段の発光輝度を、前記決定手段で決定された目標輝度に制御する制御手段と、Control means for controlling the light emission luminance of the light emission means to the target luminance determined by the determination means;
を有し、Have
前記決定手段は、前記入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、前記発光手段の目標輝度を調整するThe determination means adjusts the target brightness of the light emitting means so that when the brightness of the input image data is bright, the target brightness is lower than when the brightness is dark.
ことを特徴とする表示装置である。It is a display device characterized by the above.
本発明の第6の態様は、The sixth aspect of the present invention is
画像データを表示する表示装置であって、A display device for displaying image data;
入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得手段と、A first acquisition unit that acquires imaging information related to imaging conditions at the time of imaging of input image data;
前記表示装置の設置環境に関する環境情報を取得する第2取得手段と、A second acquisition unit configured to acquire environmental information on an installation environment of the display device;
前記入力画像データに基づいて発光手段を発光させて画面上に画像を表示する表示手段と、Display means for causing a light emitting means to emit light based on the input image data to display an image on a screen;
前記入力画像データの明るさ、前記第1取得手段で取得された前記撮影情報、及び、前記第2取得手段で取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定手段と、A determination unit that determines a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired by the first acquisition unit, and the environment information acquired by the second acquisition unit When,
前記発光手段の発光輝度を、前記決定手段で決定された目標輝度に制御する制御手段と、Control means for controlling the light emission luminance of the light emission means to the target luminance determined by the determination means;
を有し、Have
前記決定手段は、前記入力画像データによって表される画像の面積に対する、前記入力画像データの画素のうち画素値が閾値以上である画素からなる明部の面積の割合が小さいときに、当該割合が大きいときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整するWhen the ratio of the area of the bright portion of the pixels of the input image data to the area of the image represented by the input image data is small, the determining unit determines that the ratio is small. Adjust the target brightness of the light emitting means so that the target brightness is higher than when it is large
ことを特徴とする表示装置である。It is a display device characterized by the above.
本発明の第7の態様は、The seventh aspect of the present invention is
入力画像データに基づいて発光手段を発光させて画面上に画像を表示する表示手段を有する表示装置の制御方法であって、It is a control method of a display apparatus which has a display means which makes a light emission means emit light based on input image data, and displays an image on a screen,
前記入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得ステップと、A first acquisition step of acquiring imaging information on imaging conditions at the time of imaging of the input image data;
前記表示装置の制御方法の設置環境に関する環境情報を取得する第2取得ステップと、A second acquisition step of acquiring environment information on an installation environment of the control method of the display device;
前記入力画像データの明るさ、前記第1取得ステップで取得された前記撮影情報、及び、前記第2取得ステップで取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定ステップと、A determination step of determining a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired in the first acquisition step, and the environment information acquired in the second acquisition step When,
前記発光手段の発光輝度を、前記決定ステップで決定された目標輝度に制御する制御ステップと、Controlling the light emission luminance of the light emitting means to the target luminance determined in the determination step;
を有し、Have
前記決定ステップでは、前記入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、前記発光手段の目標輝度を調整するIn the determining step, when the brightness of the input image data is bright, the target brightness of the light emitting means is adjusted so that the target brightness is lower than when the brightness is dark.
ことを特徴とする表示装置の制御方法である。It is a control method of a display device characterized by things.
本発明の第8の態様は、The eighth aspect of the present invention is
入力画像データに基づいて発光手段を発光させて画面上に画像を表示する表示手段を有する表示装置の制御方法であって、It is a control method of a display apparatus which has a display means which makes a light emission means emit light based on input image data, and displays an image on a screen,
前記入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得ステップと、A first acquisition step of acquiring imaging information on imaging conditions at the time of imaging of the input image data;
前記表示装置の制御方法の設置環境に関する環境情報を取得する第2取得ステップと、A second acquisition step of acquiring environment information on an installation environment of the control method of the display device;
前記入力画像データの明るさ、前記第1取得ステップで取得された前記撮影情報、及び、前記第2取得ステップで取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定ステップと、A determination step of determining a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired in the first acquisition step, and the environment information acquired in the second acquisition step When,
前記発光手段の発光輝度を、前記決定ステップで決定された目標輝度に制御する制御ステップと、Controlling the light emission luminance of the light emitting means to the target luminance determined in the determination step;
を有し、Have
前記決定ステップでは、前記入力画像データによって表される画像の面積に対する、前記入力画像データの画素のうち画素値が閾値以上である画素からなる明部の面積の割合が小さいときに、当該割合が大きいときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整するIn the determining step, when the ratio of the area of a bright portion made up of pixels whose pixel values are equal to or larger than the threshold among the pixels of the input image data is smaller than the area of the image represented by the input image data. Adjust the target brightness of the light emitting means so that the target brightness is higher than when it is large
ことを特徴とする表示装置の制御方法である。It is a control method of a display device characterized by things.

本発明によれば、撮影時の被写体の印象に近い画像表示を精度良く実現することができる。   According to the present invention, it is possible to realize an image display close to the impression of the subject at the time of shooting with high accuracy.

実施例1に係る表示装置の機能構成の一例を示す図A figure showing an example of functional composition of a display device concerning Example 1 実施例1に係る入力画像ファイルの構成等の一例を示す図A diagram showing an example of a configuration etc. of an input image file according to the first embodiment 実施例1に係る画像データの形式の一例を示す図FIG. 6 is a diagram showing an example of the format of image data according to the first embodiment 実施例1に係る分離部の機能構成の一例を示す図A figure showing an example of functional composition of a separation part concerning Example 1 実施例1に係る目標輝度決定部の機能構成の一例を示す図A figure showing an example of functional composition of a target luminosity deciding part concerning Example 1 実施例1に係る再現目標輝度の補正方法の一例を示す図FIG. 7 is a diagram showing an example of a method of correcting the reproduction target luminance according to the first embodiment. 実施例1に係るPWM値と発光輝度の関係の一例を示す図The figure which shows an example of the relationship between the PWM value which concerns on Example 1, and light-emitting luminance. 実施例1に係る発光輝度制御の一例を示す図FIG. 6 is a diagram showing an example of light emission luminance control according to the first embodiment. 実施例2に係る表示装置の機能構成の一例を示す図A figure showing an example of functional composition of a display concerning Example 2 実施例2に係る目標輝度決定部の機能構成の一例を示す図The figure which shows an example of a function structure of the target brightness | luminance determination part which concerns on Example 2. 実施例2に係る明部補正率と暗部補正率の決定方法の一例を示す図The figure which shows an example of the determination method of the bright-part correction factor based on Example 2, and a dark-part correction factor. 実施例3に係る表示装置の機能構成の一例を示す図A figure showing an example of functional composition of a display concerning Example 3 実施例3に係る画像処理部の機能構成の一例を示す図A figure showing an example of functional composition of an image processing section concerning Example 3

<実施例1>
以下、本発明の実施例1に係る表示装置及びその制御方法について図面を参照して説明する。
なお、本実施例では、表示装置が透過型の液晶表示装置である場合の例を説明するが、表示装置は、透過型の液晶表示装置に限らない。表示装置は、独立した光源を有する表示装置であればよい。例えば、表示装置は、反射型の液晶表示装置、スクリーンに画像を投影する液晶プロジェクター、などであってもよい。また、表示装置は、液晶素子の代わりにバックライトからの光の透過率を制御可能な他の素子を用いた表示装置であってもよい。例えば、表示装置は、液晶素子の代わりにMEMS(Micro Electro Mechanical System)シャッターを用いたMEMSシャッター方式ディスプレイであってもよい。
Example 1
Hereinafter, the display device according to the first embodiment of the present invention and the control method thereof will be described with reference to the drawings.
Note that although an example in which the display device is a transmissive liquid crystal display device is described in this embodiment, the display device is not limited to the transmissive liquid crystal display device. The display device may be a display device having an independent light source. For example, the display device may be a reflective liquid crystal display device, a liquid crystal projector that projects an image on a screen, or the like. The display device may be a display device using another element capable of controlling the transmittance of light from the backlight instead of the liquid crystal element. For example, the display device may be a MEMS shutter type display that uses a micro electro mechanical system (MEMS) shutter instead of a liquid crystal element.

図1は、本実施例に係る表示装置の機能構成の一例を示すブロック図である。
本実施例に係る表示装置は、分離部101、画像処理部102、表示部111、目標輝度決定部108、バックライトモジュール部109、発光輝度制御部110、などを有する。表示部111は、液晶パネル部103、パネル補正部104、パネル制御部105、走査信号供給部106、データ信号供給部107、などを有する。
FIG. 1 is a block diagram showing an example of a functional configuration of a display device according to the present embodiment.
The display device according to the present embodiment includes a separation unit 101, an image processing unit 102, a display unit 111, a target brightness determination unit 108, a backlight module unit 109, a light emission brightness control unit 110, and the like. The display unit 111 includes a liquid crystal panel unit 103, a panel correction unit 104, a panel control unit 105, a scan signal supply unit 106, a data signal supply unit 107, and the like.

分離部101には、外部装置から、静止画像ファイルや動画像ファイルなどの画像ファイル、デコード処理された画像データ、などが入力される。外部装置は、パーソナルコンピュータ、デジタルカメラ、スマートフォン、などである。本実施例では、外部装置から画像ファイルが入力される例を説明する。以後、分離部101に入力された画像ファイルを“入力画像ファイル”と記載する。
なお、画像ファイルや画像データは、表示装置の内部に設けられた記憶媒体から取得されてもよい。記憶媒体は、磁気ディスク、光ディスク、不揮発性メモリ、などである。
An image file such as a still image file or a moving image file, image data subjected to a decoding process, and the like are input to the separation unit 101 from an external apparatus. The external device is a personal computer, a digital camera, a smartphone or the like. In this embodiment, an example in which an image file is input from an external device will be described. Hereinafter, the image file input to the separation unit 101 will be referred to as an “input image file”.
The image file and the image data may be acquired from a storage medium provided inside the display device. The storage medium is a magnetic disk, an optical disk, a non-volatile memory, or the like.

図2(a)は、画像ファイルのデータ構造について説明するための図である。静止画像ファイルや動画像ファイルなどの画像ファイルは、画像データ部とヘッダ部で構成される。画像データ部には、画像データ(例えば、画素毎のRGB値)が格納されている。以後、入力画像ファイルの画像データ部に格納されている画像データを“入力画像データ”と記載する。ヘッダ部には、ヘッダデータが格納されている。本実施例では、画像データ部に格納されている画像データが撮影によって生成された画像データであるものとする。そして、ヘッダ部には、画像データ部に格納されている画像データの撮影時の撮影条件に関する撮影情報を含むヘッダデータが格納されているものとする。撮影情報は、例えば、撮影時の環境光レベル、ISO感度、シャッター速度、絞り値、及び、撮影モードの少なくとも1つを示す情報を含む。このように、撮影された画像データには撮影時の撮影条件に関する撮影情報が付加されるのが一般的である。画像ファイルのデータフォーマットとして、OpenEXR、TIFF(Tagged Image File Format)、JPEG(Joint Photographic Experts Group)、MPEG(Moving Picture Experts Group)、AVI(Audio Video Interleave)などが挙げられる。   FIG. 2A is a view for explaining the data structure of the image file. Image files such as still image files and moving image files are composed of an image data portion and a header portion. The image data portion stores image data (for example, RGB values for each pixel). Hereinafter, the image data stored in the image data portion of the input image file is referred to as "input image data". Header data is stored in the header section. In this embodiment, it is assumed that the image data stored in the image data unit is the image data generated by photographing. In the header portion, header data including shooting information on shooting conditions at the time of shooting of the image data stored in the image data portion is stored. The shooting information includes, for example, information indicating at least one of an ambient light level at shooting, an ISO sensitivity, a shutter speed, an aperture value, and a shooting mode. As described above, it is general that photographing information on photographing conditions at the time of photographing is added to photographed image data. Examples of data formats of image files include OpenEXR, Tagged Image File Format (TIFF), Joint Photographic Experts Group (JPEG), Moving Picture Experts Group (MPEG), and Audio Video Interleave (AVI).

図2(b)は、撮影情報として環境光レベル情報(環境光レベルを示す情報)を画像ファイルに付加する手順について説明するための概念図である。   FIG. 2B is a conceptual diagram for describing a procedure for adding ambient light level information (information indicating the ambient light level) as imaging information to an image file.

カメラ201で被写体の静止画撮影または動画撮影が行われ、撮影された画像データがカメラ201内のリムーバブルメディア202に記録される。リムーバブルメディア202としては、フラッシュメモリやSDカードなどが挙げられる。   The still image shooting or moving image shooting of the subject is performed by the camera 201, and the shot image data is recorded on the removable media 202 in the camera 201. Examples of the removable media 202 include a flash memory and an SD card.

また、カメラ201での被写体撮影時(撮影中または撮影後)に、撮影者またはアシスタントが環境光レベルを測定器204で測定する。具体的には、被写体の近くに光を反射するホワイトボードを設置し、ホワイトボードの反射光を測定器204で測定することにより、環境光レベルが測定される。そして、カメラ201に接続されたPC(パーソナル
コンピュータ)203を用いてカメラ201に環境光レベルの測定値が入力され、測定値がリムーバブルメディア202に記録される。カメラ201とPC203は、USBケーブルなどを用いて互いに接続される。測定値の単位は、例えばcd(カンデラ)/mとする。
なお、カメラ201とPC203は、互いに有線接続されてもよいし、互いに無線接続されてもよい。
Also, at the time of shooting a subject with the camera 201 (during shooting or after shooting), the photographer or the assistant measures the ambient light level with the measuring device 204. Specifically, the ambient light level is measured by placing a whiteboard that reflects light near the subject and measuring the reflected light of the whiteboard with the measuring instrument 204. Then, a measured value of the ambient light level is input to the camera 201 using a PC (personal computer) 203 connected to the camera 201, and the measured value is recorded on the removable medium 202. The camera 201 and the PC 203 are connected to each other using a USB cable or the like. The unit of the measurement value is, for example, cd (candela) / m 2 .
The camera 201 and the PC 203 may be connected to each other by wire or may be connected to each other wirelessly.

以上の処理を経て、撮影された画像データが画像データ部に格納され、環境光レベルの測定値を含むヘッダデータがヘッダ部に格納された画像ファイルが、リムーバブルメディア202に記録(生成)される。   After the above processing, the captured image data is stored in the image data portion, and the image file in which the header data including the measured value of the ambient light level is stored in the header portion is recorded (generated) on the removable medium 202 .

リムーバブルメディア202に記録された画像ファイルは、リムーバブルメディア202をカメラ201から取り外して、本実施例に係る表示装置100に装着することにより、表示装置100に入力される。
なお、USBケーブルなどを用いてカメラ201と表示装置100を互いに接続し、カメラ201から表示装置100に画像ファイルを入力する構成であってもよい。その場合には、カメラ201は、リムーバブルメディア202の代わりに、取り外し不可能な記憶媒体が設けられていてもよい。カメラ201と表示装置100は、互いに有線接続されてもよいし、互いに無線接続されてもよい。
また、カメラ201が記録機能を有していない場合には、カメラ201とレコーダを互いに接続し、レコーダとPC203を互いに接続し、レコーダ内のリムーバブルメディアに画像ファイルを記録する構成としてもよい。レコーダは、受信した情報(画像データや環境光レベル)を記憶媒体に記録する機能を有する装置である。
The image file recorded on the removable media 202 is input to the display device 100 by removing the removable media 202 from the camera 201 and mounting the removable media 202 on the display device 100 according to the present embodiment.
Alternatively, the camera 201 and the display device 100 may be connected to each other using a USB cable or the like, and an image file may be input from the camera 201 to the display device 100. In that case, the camera 201 may be provided with a non-removable storage medium instead of the removable medium 202. The camera 201 and the display device 100 may be wired to each other or may be wirelessly connected to each other.
If the camera 201 does not have the recording function, the camera 201 and the recorder may be connected to each other, the recorder and the PC 203 may be connected to each other, and the image file may be recorded on the removable medium in the recorder. The recorder is a device having a function of recording received information (image data and ambient light level) in a storage medium.

分離部101は、入力画像データと、入力画像データの撮影時の撮影条件に関する撮影情報とを取得し、取得した入力画像データと撮影情報を出力する。具体的には、分離部101は、入力画像ファイルから入力画像データと撮影情報を抽出し、抽出した入力画像データと撮影情報を出力する。本実施例では、入力画像データは、ラスター形式の画像データに変換されて出力される。
なお、入力画像データの取得と、撮影情報の取得(第1取得)とは、互いに異なる機能部によって行われてもよい。
The separation unit 101 acquires input image data and imaging information regarding imaging conditions at the time of imaging of the input image data, and outputs the acquired input image data and imaging information. Specifically, the separation unit 101 extracts input image data and imaging information from an input image file, and outputs the extracted input image data and imaging information. In this embodiment, input image data is converted to raster image data and output.
Note that acquisition of input image data and acquisition of imaging information (first acquisition) may be performed by different functional units.

図3は、n×m画素の画像データがラスター形式の画像データに変換される例について説明するための図である。ラスター形式の画像データとは、画像を1ライン目からmライン目まで順番に走査して得られる連続した画素データ列の一連である。分離部101は、画像データの各フレームの開始を示す垂直同期信号と、各ラインの開始を示す水平同期信号を、入力画像データに付加し、同期信号が付加された画像データを出力する。   FIG. 3 is a diagram for explaining an example in which image data of n × m pixels is converted into image data of raster format. The raster format image data is a series of continuous pixel data strings obtained by sequentially scanning an image from the first line to the m-th line. The separation unit 101 adds a vertical synchronization signal indicating the start of each frame of image data and a horizontal synchronization signal indicating the start of each line to input image data, and outputs the image data to which the synchronization signal is added.

図4は、分離部101の機能構成の一例を示すブロック図である。
分離部101は、画像ファイルメモリ部131、システム制御部132、画像ファイルデコーダー部133、ヘッダデータメモリ部134、画像データメモリ部135、ラスターデータ変換部136、などを有する。
FIG. 4 is a block diagram showing an example of a functional configuration of the separation unit 101. As shown in FIG.
The separation unit 101 includes an image file memory unit 131, a system control unit 132, an image file decoder unit 133, a header data memory unit 134, an image data memory unit 135, a raster data conversion unit 136, and the like.

画像ファイルメモリ部131は、入力画像ファイルを記憶する。入力画像ファイルの記憶が完了すると、画像ファイルメモリ部131は、画像ファイルメモリ完了信号をシステム制御部132に送信する。   The image file memory unit 131 stores an input image file. When storage of the input image file is completed, the image file memory unit 131 transmits an image file memory completion signal to the system control unit 132.

画像ファイルデコーダー部133は、入力画像ファイルを画像ファイルメモリ部131から取得する。そして、画像ファイルデコーダー部133は、システム制御部132からデコード開始信号が入力されたことに応じて、取得した入力画像ファイルのデコードを行
う。具体的には、画像ファイルデコーダー部133は、取得した入力画像ファイルをヘッダ部と画像データ部に分離し、ヘッダ部からヘッダデータを抽出し、画像データ部から入力画像データを抽出する。デコードが完了すると、画像ファイルデコーダー部133は、ヘッダデータをヘッダデータメモリ部134に出力し、入力画像データを画像データメモリ部135に出力する。システム制御部132は、画像ファイルメモリ完了信号を受信した後にデコード開始信号を出力する。
The image file decoder unit 133 acquires an input image file from the image file memory unit 131. Then, in response to the input of the decoding start signal from the system control unit 132, the image file decoder unit 133 decodes the acquired input image file. Specifically, the image file decoder unit 133 separates the acquired input image file into a header portion and an image data portion, extracts header data from the header portion, and extracts input image data from the image data portion. When the decoding is completed, the image file decoder unit 133 outputs the header data to the header data memory unit 134 and outputs the input image data to the image data memory unit 135. The system control unit 132 outputs a decoding start signal after receiving the image file memory completion signal.

ヘッダデータメモリ部134は、画像ファイルデコーダー部133から受信したヘッダデータを記憶する。ヘッダデータの記憶が完了すると、ヘッダデータメモリ部134は、記憶したヘッダデータをシステム制御部132に出力する。   The header data memory unit 134 stores the header data received from the image file decoder unit 133. When the storage of the header data is completed, the header data memory unit 134 outputs the stored header data to the system control unit 132.

画像データメモリ部135は、画像ファイルデコーダー部133から受信した入力画像データを記憶する。入力画像データの記憶が完了すると、画像データメモリ部135は、画像データメモリ完了信号をシステム制御部132に出力する。   The image data memory unit 135 stores input image data received from the image file decoder unit 133. When storage of the input image data is completed, the image data memory unit 135 outputs an image data memory completion signal to the system control unit 132.

システム制御部132は、分離部101が有する他の機能部の処理開始タイミングを制御する。また、システム制御部132は、ヘッダデータメモリ部134から受信したヘッダデータから撮影情報を抽出し、抽出した撮影情報を出力する。   The system control unit 132 controls processing start timing of the other functional units included in the separation unit 101. The system control unit 132 also extracts imaging information from the header data received from the header data memory unit 134, and outputs the extracted imaging information.

撮影情報の抽出方法の具体例を説明する。以下では、画像ファイルのデータフォーマットがOpenEXRフォーマットである場合の例を説明する。
図2(c)は、OpenEXRフォーマットのヘッダ部のデータ例を示す図である。ヘッダ部のデータは、属性名(attribute name)、属性タイプ(attribute type)、属性サイズ(attribute size)、属性値(attribute value)からなる。
属性名(attribute name)は、撮影情報の種類を表す。撮影時の環境光の明るさ(環境光レベル)を示す情報の場合は、アスキーコードで「white luminance」が記述される。属性タイブ(attribute type)は、後述する属性値(attribute value)のデータ形式を表す。整数形式の場合は、「int」が記述される。属性サイズ(attribute size)は、後述する属性値(attribute value)のデータサイズ(Byte)を表す。図2(c)は4Byteの例を示している。属性値(attribute value)は、撮影情報(環境光レベル、ISO感度、シャッター速度、絞り値、撮影モード)の値を表す。
ヘッダ部から撮影情報として環境光レベル情報を抽出する場合、属性名(attribute name)が「white luminance」であるデータ群が判別される。そして、判別されたデータ群における属性値(attribute value)の値が、環境光レベル情報として抽出される。
A specific example of the method of extracting imaging information will be described. An example in which the data format of the image file is the OpenEXR format will be described below.
FIG. 2C is a diagram showing an example of data in the header portion of the OpenEXR format. The data of the header part consists of an attribute name (attribute name), an attribute type (attribute type), an attribute size (attribute size), and an attribute value (attribute value).
The attribute name (attribute name) indicates the type of imaging information. In the case of information indicating the brightness (ambient light level) of ambient light at the time of shooting, “white luminance” is described by an ASCII code. An attribute type (attribute type) indicates a data format of an attribute value (attribute value) described later. In the integer format, "int" is described. The attribute size (attribute size) represents the data size (Byte) of an attribute value (attribute value) described later. FIG. 2C shows an example of 4 bytes. The attribute value (attribute value) represents a value of shooting information (ambient light level, ISO sensitivity, shutter speed, aperture value, shooting mode).
When ambient light level information is extracted from the header as shooting information, a data group whose attribute name (attribute name) is "white luminance" is determined. Then, the value of the attribute value (attribute value) in the determined data group is extracted as ambient light level information.

ラスターデータ変換部136は、画像データメモリ部135から入力画像データを取得する。そして、ラスターデータ変換部136は、システム制御部132から変換開始信号が入力されたことに応じて、取得した入力画像データに同期信号を付加することにより、入力画像データをラスター形式の画像データに変換する。変換が完了すると、ラスターデータ変換部136は、上記ラスター形式の画像データ(同期信号が付加された入力画像データ)を出力する。システム制御部132は、画像データメモリ完了信号を受信した後に変換開始信号を出力する。   The raster data conversion unit 136 acquires input image data from the image data memory unit 135. Then, in response to the conversion start signal being input from the system control unit 132, the raster data conversion unit 136 adds the synchronization signal to the acquired input image data, thereby adding the input image data to the image data of raster format. Convert. When the conversion is completed, the raster data conversion unit 136 outputs the image data of the raster format (input image data to which the synchronization signal is added). The system control unit 132 outputs a conversion start signal after receiving the image data memory completion signal.

図1の説明に戻る。
画像処理部102は、分離部101から受信した入力画像データ(ラスター形式の入力画像データ)に対し所定の画像処理を施し、所定の画像処理が施された後の画像データを表示画像データとして出力する。所定の画像処理は、データ形式変換処理、IP変換処理
、拡大・縮小処理、エッジ強調処理、ゲイン調整、オフセット調整、色調整、リミット処理などである。所定の画像処理として、1種類の画像処理が行われてもよいし、複数種類の画像処理が行われてもよい。データ形式変換処理は、画像データを表示部111での処理に適したデータ形式の画像データに変換する処理である。例えば、データ形式変換処理は、画像データを表示部111が対応するビット数の画像データに変換する処理である。表示部111が対応する画像データのデータ形式が8ビットの符号なし整数型である場合には、データ形式変換処理により、画像データが、8ビットの符号なし整数型の画像データに変換される。
なお、画像処理部102は、上記所定の画像処理を省略し、入力画像データを表示画像データとして出力してもよい。
It returns to the explanation of FIG.
The image processing unit 102 performs predetermined image processing on input image data (input image data in raster format) received from the separation unit 101, and outputs the image data subjected to the predetermined image processing as display image data. Do. The predetermined image processing includes data format conversion processing, IP conversion processing, enlargement / reduction processing, edge enhancement processing, gain adjustment, offset adjustment, color adjustment, limit processing and the like. As the predetermined image processing, one type of image processing may be performed, or a plurality of types of image processing may be performed. The data format conversion process is a process of converting image data into image data of a data format suitable for the process in the display unit 111. For example, the data format conversion process is a process of converting image data into image data of the number of bits corresponding to the display unit 111. When the data format of the image data corresponding to the display unit 111 is an 8-bit unsigned integer type, the image data is converted into 8-bit unsigned integer type image data by data format conversion processing.
The image processing unit 102 may omit the predetermined image processing and output input image data as display image data.

バックライトモジュール部109は、液晶パネル部103の背面に光を照射する発光部である。本実施例では、バックライトモジュール部109は、個別に発光輝度を制御可能な複数の光源を有する。光源は、1つ以上の発光部材を有する。発光部材としては、例えば、LED、有機EL素子、冷陰極管、などを用いることができる。   The backlight module unit 109 is a light emitting unit that emits light to the back surface of the liquid crystal panel unit 103. In the present embodiment, the backlight module unit 109 has a plurality of light sources capable of individually controlling the light emission luminance. The light source comprises one or more light emitting members. As a light emitting member, an LED, an organic EL element, a cold cathode tube, etc. can be used, for example.

表示部111は、表示画像データに基づいてバックライトモジュール部109からの光が変調することで画面上に画像を表示する。
なお、図1に示すように、入力画像データは、画像処理部102を介して表示部111に入力される。そのため、本実施例では、画像処理部102による処理が施された後の入力画像データに基づいてバックライトモジュール部109からの光が変調される。
The display unit 111 displays an image on the screen by modulating the light from the backlight module unit 109 based on the display image data.
As shown in FIG. 1, input image data is input to the display unit 111 via the image processing unit 102. Therefore, in the present embodiment, the light from the backlight module unit 109 is modulated based on the input image data that has been subjected to the processing by the image processing unit 102.

液晶パネル部103はマトリクス状に配置された複数の液晶素子を有しており、各液晶素子には水平方向に配線された走査線と垂直方向に配線されたデータ線が配置されている。走査線でラインを選択し、選択したラインの各液晶素子にデータ線からその液晶素子の画像データを与えることにより、選択したラインの各液晶素子の透過率が制御される。上記処理を全てのラインについて行うことにより、全ての液晶素子の透過率が制御される。そして、バックライトモジュール部109からの光が各液晶素子を透過することにより、画面上に画像が表示される。   The liquid crystal panel unit 103 has a plurality of liquid crystal elements arranged in a matrix, and in each liquid crystal element, data lines wired in a direction perpendicular to scanning lines wired in a horizontal direction are placed. The transmittance of each liquid crystal element of the selected line is controlled by selecting the line with the scanning line and giving the image data of the liquid crystal element from the data line to each liquid crystal element of the selected line. The transmittance of all liquid crystal elements is controlled by performing the above processing for all lines. Then, the light from the backlight module unit 109 is transmitted through each liquid crystal element to display an image on the screen.

パネル補正部104は、パネル補正部104に入力された画像データに対し歪み補正処理を施し、歪み補正処理後の画像データ(パネル画像データ)をパネル制御部105に出力する。歪み補正処理は、画像データに対する液晶素子の透過率の理想特性からの液晶パネル部103の特性の歪みを補正する処理である。
また、パネル補正部104は、パネル画像データの同期信号(即ち、表示画像データの同期信号)をパネル制御部105に出力する。
The panel correction unit 104 performs distortion correction processing on the image data input to the panel correction unit 104, and outputs the image data (panel image data) after the distortion correction processing to the panel control unit 105. The distortion correction processing is processing for correcting distortion of the characteristic of the liquid crystal panel unit 103 based on the ideal characteristic of the transmittance of the liquid crystal element with respect to image data.
Further, the panel correction unit 104 outputs a synchronization signal of panel image data (that is, a synchronization signal of display image data) to the panel control unit 105.

パネル制御部105は、パネル画像データとその同期信号(垂直同期信号と水平同期信号)に基づいて、走査信号とラインデータ信号を生成する。そして、パネル制御部105は、生成した走査信号とラインデータ信号を出力する。走査信号は、液晶パネル部103のラインを上から順に1ライン単位で選択するための信号で、ラインデータ信号は、走査信号で選択したラインの各液晶素子に画像データを供給するための信号である。   The panel control unit 105 generates a scan signal and a line data signal based on the panel image data and its synchronization signal (vertical synchronization signal and horizontal synchronization signal). Then, the panel control unit 105 outputs the generated scanning signal and line data signal. The scanning signal is a signal for selecting the lines of the liquid crystal panel unit 103 sequentially from the top in one line unit, and the line data signal is a signal for supplying image data to each liquid crystal element of the line selected by the scanning signal. is there.

走査信号供給部106は、パネル制御部105からの走査信号に基づいて、液晶パネル部103のラインを順次選択し、選択したラインの液晶素子に対する画像データの供給を可能にする。   The scanning signal supply unit 106 sequentially selects the lines of the liquid crystal panel unit 103 based on the scanning signal from the panel control unit 105, and enables supply of image data to liquid crystal elements of the selected line.

データ信号供給部107は、パネル制御部105からのラインデータ信号に基づいて、走査信号供給部106によって選択されたラインの各液晶素子に対しその液晶素子の画像データを供給する。   The data signal supply unit 107 supplies the image data of the liquid crystal element to each liquid crystal element of the line selected by the scanning signal supply unit 106 based on the line data signal from the panel control unit 105.

目標輝度決定部108は、表示装置の設置環境に関する環境情報を取得する。また、目標輝度決定部108は、分離部101から出力された撮影情報を受信する。そして、目標輝度決定部108は、撮影情報と環境情報に基づいてバックライトモジュール部109の目標輝度を決定し、決定した目標輝度を出力する。
なお、環境情報の取得(第2取得)と、目標輝度の決定とは、互いに異なる機能部によって行われてもよい。
The target luminance determination unit 108 acquires environment information on the installation environment of the display device. In addition, the target brightness determination unit 108 receives the imaging information output from the separation unit 101. Then, the target brightness determination unit 108 determines the target brightness of the backlight module unit 109 based on the shooting information and the environment information, and outputs the determined target brightness.
Note that acquisition of environmental information (second acquisition) and determination of target brightness may be performed by different functional units.

図5は、目標輝度決定部108の機能構成の一例を示すブロック図である。
目標輝度決定部108は、再現輝度決定部121、視覚範囲推定部122、補正率決定部123、補正部124、などを有する。
FIG. 5 is a block diagram showing an example of a functional configuration of the target luminance determination unit 108. As shown in FIG.
The target luminance determination unit 108 includes a reproduction luminance determination unit 121, a visual range estimation unit 122, a correction factor determination unit 123, a correction unit 124, and the like.

再現輝度決定部121は、分離部101から受信した撮影情報に基づいてバックライトモジュール部109の目標輝度を決定し、決定した目標輝度を出力する。以後、再現輝度決定部121で決定された目標輝度を“再現目標輝度”と記載する。本実施例では、環境光レベル情報から、入力画像データの撮影時の環境光レベルが判断され、判断された環境光レベルに応じて再現目標輝度が決定される。具体的には、入力画像データの撮影時の環境光レベルが高いときに、当該環境光レベルが低いときに比べて再現目標輝度が高くなるように、再現目標輝度が調整される。本実施例では、入力画像データの撮影時の環境光レベルが再現目標輝度として設定される。そのため、入力画像データの撮影時の環境光レベルがLx[cd/m]である場合には、再現目標輝度もLx[cd/m]となる。
なお、再現目標輝度の決定方法は上記方法に限らない。例えば、ISO感度、シャッター速度、絞り値、撮影モード、などの他の情報に応じて再現目標輝度が決定されてもよい。また、複数の情報の組み合わせに応じて再現目標輝度が決定されてもよい。例えば、ISO感度、シャッター速度、及び、絞り値の組み合わせに応じて再現目標輝度が決定されてもよい。また、ISO感度、シャッター速度、絞り値、及び、撮影モードの少なくとも1つを示す情報から環境光レベルが推定され、環境光レベルの推定値に応じて再現目標輝度が決定されてもよい。
The reproduction luminance determination unit 121 determines the target luminance of the backlight module unit 109 based on the imaging information received from the separation unit 101, and outputs the determined target luminance. Hereinafter, the target luminance determined by the reproduction luminance determination unit 121 will be referred to as “reproduction target luminance”. In this embodiment, the ambient light level at the time of shooting of the input image data is determined from the ambient light level information, and the reproduction target luminance is determined according to the determined ambient light level. Specifically, when the ambient light level at the time of shooting the input image data is high, the reproduction target brightness is adjusted so that the reproduction target brightness is higher than when the ambient light level is low. In the present embodiment, the ambient light level at the time of shooting of the input image data is set as the reproduction target luminance. Therefore, when the ambient light level at the time of shooting of the input image data is Lx [cd / m 2 ], the reproduction target luminance is also Lx [cd / m 2 ].
The method of determining the reproduction target luminance is not limited to the above method. For example, the reproduction target luminance may be determined according to other information such as ISO sensitivity, shutter speed, aperture value, shooting mode and the like. Further, the reproduction target luminance may be determined in accordance with a combination of a plurality of pieces of information. For example, the reproduction target luminance may be determined according to the combination of the ISO sensitivity, the shutter speed, and the aperture value. Further, the ambient light level may be estimated from information indicating at least one of the ISO sensitivity, the shutter speed, the aperture value, and the imaging mode, and the reproduction target luminance may be determined according to the estimated value of the ambient light level.

本実施例では、再現目標輝度が、以下の考え方に基づいて補正される。   In the present embodiment, the reproduction target luminance is corrected based on the following concept.

高い視覚感度で人間が視認できる輝度範囲は順応輝度に応じて変化することが知られており、光刺激と視覚感度の関係は、例えば、Hill関数などのS型関数を用いてモデル化されている。光刺激は、人間の目に或る輝度の光が入射することにより人間が受ける刺激である。視覚感度は、人間の目に入射する光の輝度(視認輝度)に対する人間の感度である。視認輝度の変化に対して光刺激が大きく変化する視認輝度の範囲に対しては、視覚感度は高く、視認輝度の変化に対して光刺激があまり変化しない視認輝度の範囲に対しては、視覚感度は低い。   It is known that the luminance range visible to humans with high visual sensitivity changes according to the adaptation luminance, and the relationship between light stimulus and visual sensitivity is modeled using an S-type function such as a Hill function, for example. There is. A light stimulus is a stimulus that a human receives when light with a certain luminance enters the human eye. Visual sensitivity is human sensitivity to the brightness of light incident on the human eye (visible brightness). The visual sensitivity is high for the range of visible brightness where the light stimulus changes significantly with respect to the change in visible brightness, and the visual sensitivity is high for the range of visible brightness where the light stimulus does not change much with respect to the change in visible brightness. The sensitivity is low.

図6(a)は、視認輝度、光刺激、及び、視環境の間の関係の一例を示す図である。視環境は、人間が或る物体を見たときの人間の周囲の環境である。即ち、人間が表示画像(表示装置の画面に表示された画像)を見る場合には、視環境は、表示装置の設置環境ということもできる。また、人間が表示画像を見る場合には、視認輝度は画面上の輝度(表示輝度)ということもできる。
図6(a)の破線で示されたカーブは、順応輝度が低いときの視覚特性を示しており、暗い視環境下での視覚特性に対応する。視覚特性は、視認輝度と光刺激の間の関係を示す特性であり、視認輝度と視覚感度の間の関係を示す特性ということもできる。
図6(a)の一点鎖線で示されたカーブは、順応輝度が高いときの視覚特性を示しており、明るい視環境下での視覚特性に対応する。
図6(a)の実線で示されたカーブは、順応輝度が適度な値であるときの視覚特性を示
しており、適度な明るさの視環境下での視覚特性に対応する。具体的には、図6(a)の実線で示されたカーブは、破線で示された視認特性に対応する視環境の明るさと、一点鎖線で示された視認特性に対応する視環境の明るさとの間の明るさの視環境下での視覚特性を示している。
FIG. 6A is a diagram showing an example of the relationship between the visible luminance, the light stimulation, and the visual environment. The viewing environment is the environment around humans when they look at an object. That is, when a human looks at a display image (image displayed on the screen of the display device), the viewing environment can also be referred to as the installation environment of the display device. Also, when a human looks at a display image, the visual recognition luminance can also be referred to as luminance on the screen (display luminance).
A curve indicated by a broken line in FIG. 6A indicates the visual characteristic when the adaptation luminance is low, and corresponds to the visual characteristic in a dark visual environment. The visual characteristic is a characteristic that indicates the relationship between the visible luminance and the light stimulus, and can also be referred to as a characteristic that indicates the relationship between the visible luminance and the visual sensitivity.
A curve indicated by an alternate long and short dash line in FIG. 6A indicates the visual characteristic when the adaptation luminance is high, and corresponds to the visual characteristic in a bright visual environment.
The curve shown by the solid line in FIG. 6A shows the visual characteristic when the adaptation luminance is a moderate value, and corresponds to the visual characteristic under a moderate brightness visual environment. Specifically, the curve shown by the solid line in FIG. 6A is the brightness of the viewing environment corresponding to the viewing characteristics shown by the broken line and the brightness of the viewing environment corresponding to the viewing characteristics shown by the one-dot chain line. Fig. 6 shows visual characteristics under a light visual environment between the brightness and the brightness.

図6(a)から、視環境の明るさが低い場合には、視環境の明るさが適度な明るさである場合に比べて、高い視認輝度に対する視覚感度が低下してしまい、高輝度な物体が見えにくくなってしまうことがわかる。即ち、表示装置の設置環境における環境光レベルが低い場合には、高輝度な表示画像が見えにくくなってしまうことがわかる。
また図6(a)から、視環境の明るさが高い場合には、視環境の明るさが適度な明るさである場合に比べて、低い視認輝度に対する視覚感度が低下してしまい、低輝度な物体が見えにくくなってしまうことがわかる。即ち、表示装置の設置環境における環境光レベルが高い場合には、低輝度な表示画像が見えにくくなってしまうことがわかる。
したがって、表示装置の設置環境における環境光レベルが低い場合には、表示輝度を低減して、視覚感度の高い表示輝度の画像を表示することが望ましい。そして、表示装置の設置環境における環境光レベルが高い場合には、表示輝度を高め、視覚感度の高い表示輝度の画像を表示することが望ましい。
As shown in FIG. 6A, when the brightness of the viewing environment is low, the visual sensitivity to high visible brightness is reduced compared to the case where the brightness of the viewing environment is appropriate brightness, and thus high brightness It turns out that the object becomes difficult to see. That is, it is understood that when the ambient light level in the installation environment of the display device is low, it is difficult to see a high-brightness display image.
Further, from FIG. 6A, when the brightness of the viewing environment is high, the visual sensitivity to low visible brightness is lowered compared to the case where the brightness of the viewing environment is appropriate brightness, and the low brightness is low. It becomes clear that it becomes difficult to see an object. That is, it can be seen that when the ambient light level in the installation environment of the display device is high, it is difficult to see a low brightness display image.
Therefore, when the ambient light level in the installation environment of the display device is low, it is desirable to reduce the display brightness to display an image of display brightness with high visual sensitivity. And when the ambient light level in the installation environment of a display apparatus is high, it is desirable to raise display brightness and to display the image of display brightness with high visual sensitivity.

そこで、目標輝度決定部108では、表示装置の設置環境における環境光レベルが高いときに、当該環境光レベルが低いときに比べて目標輝度が高くなるように、バックライトモジュール部109の目標輝度を調整する。具体的には、表示装置の設置環境における環境光レベルが高いときに、当該環境光レベルが低いときに比べて補正後の目標輝度が高くなるように、再現目標輝度を補正する。   Therefore, when the ambient light level in the installation environment of the display device is high, the target brightness determination unit 108 sets the target brightness of the backlight module unit 109 so that the target brightness is higher than when the ambient light level is low. adjust. Specifically, when the ambient light level in the installation environment of the display device is high, the reproduction target brightness is corrected such that the target brightness after correction is higher than when the ambient light level is low.

視覚範囲推定部122は、表示装置の設置環境に関する環境情報を取得する。
具体的には、視覚範囲推定部122は、環境情報として、表示装置の設置環境における環境光レベルを示す情報を取得する。表示装置の設置環境における環境光レベルは、例えば、表示装置(画面の周囲など)に設けられた輝度センサを用いて検出された値である。
The visual range estimation unit 122 acquires environment information related to the installation environment of the display device.
Specifically, the visual range estimation unit 122 acquires information indicating the ambient light level in the installation environment of the display device as the environmental information. The ambient light level in the installation environment of the display device is, for example, a value detected using a luminance sensor provided in the display device (such as the periphery of the screen).

そして、視覚範囲推定部122は、取得した環境情報に基づいて、良好な視認が可能な表示輝度の範囲である視覚範囲を推定する。以後、視覚範囲推定部122で推定された視覚範囲を“推定視覚範囲”と記載する。本実施例では、図6(b)に示すように、環境光レベルと、視覚範囲の最大輝度値及び最小輝度値との対応関係を表す情報(テーブルや関数)が予め用意されている。そして、視覚範囲推定部122は、上記対応関係を表す情報を用いて、取得した環境情報で示された環境光レベルに対応する最大輝度値と最小輝度値を判断する。その後、視覚範囲推定部122は、判断した最大輝度値と最小輝度値を、推定視覚範囲の最大輝度値と最小輝度値として出力する。   Then, based on the acquired environment information, the visual range estimation unit 122 estimates a visual range which is a range of display luminance in which good visual recognition is possible. Hereinafter, the visual range estimated by the visual range estimation unit 122 will be referred to as “estimated visual range”. In the present embodiment, as shown in FIG. 6B, information (table or function) representing the correspondence between the ambient light level and the maximum luminance value and the minimum luminance value of the visual range is prepared in advance. Then, the visual range estimation unit 122 determines the maximum luminance value and the minimum luminance value corresponding to the ambient light level indicated by the acquired environment information, using the information indicating the correspondence relationship. Thereafter, the visual range estimation unit 122 outputs the determined maximum luminance value and the minimum luminance value as the maximum luminance value and the minimum luminance value of the estimated visual range.

なお、本実施例では、視覚範囲の最大輝度値と最小輝度値が推定される例を説明したが、これに限らない。例えば、視覚範囲の中心輝度と、視覚範囲の幅とが推定されてもよい。視覚範囲を特定することができれば、どのような値が推定されてもよい。
なお、環境情報の取得と、視覚範囲の推定とは、互いに異なる機能部によって行われてもよい。
なお、環境情報は、環境光レベルを示す情報に限らない。例えば、環境情報は、表示装置の設置場所(リビング、寝室、会議室など)を示す情報であってもよい。環境情報が環境光レベルを示す情報以外の情報である場合に、環境情報に基づいて環境光レベルが推定されてもよい。
Although the example in which the maximum luminance value and the minimum luminance value of the visual range are estimated has been described in the present embodiment, the present invention is not limited thereto. For example, the central luminance of the visual range and the width of the visual range may be estimated. Any value may be estimated as long as the visual range can be specified.
Note that acquisition of environmental information and estimation of the visual range may be performed by different functional units.
The environmental information is not limited to the information indicating the ambient light level. For example, the environment information may be information indicating the installation location (living room, bedroom, meeting room, etc.) of the display device. When the environmental information is information other than the information indicating the environmental light level, the environmental light level may be estimated based on the environmental information.

補正率決定部123は、再現目標輝度と、推定視覚範囲の最大輝度値及び最小輝度値とに基づいて、目標輝度の補正率を決定する。そして、補正率決定部123は、決定した補
正率を出力する。
補正率決定部123は、再現目標輝度と、推定視覚範囲の最大輝度値とから、上限補正率を決定する。上限補正率は、表示輝度が推定視覚範囲の最大輝度値を大きく超えないように再現目標輝度を補正する補正率であり、推定視覚範囲の最大輝度値に対する再現目標輝度の割合が1を超える場合に再現目標輝度を低減(圧縮)する補正率である。具体的には、図6(c)に示すように、推定視覚範囲の最大輝度値に対する再現目標輝度の割合と、上限補正率との対応関係を表す情報(関数やテーブル)が予め用意されており、当該情報を用いて上限補正率が決定される。
同様に、補正率決定部123は、再現目標輝度と、推定視覚範囲の最小輝度値とから、下限補正率を決定する。下限補正率は、表示輝度が推定視覚範囲の最小輝度値を大きく下回らないように再現目標輝度を補正する補正率であり、推定視覚範囲の最大輝度値に対する再現目標輝度の割合が閾値を超える場合に再現目標輝度を高める(伸長する)補正率である。具体的には、図6(c)に示すように、推定視覚範囲の最小輝度値に対する再現目標輝度の割合と、下限補正率との対応関係を表す情報(関数やテーブル)が予め用意されており、当該情報を用いて下限補正率が決定される。閾値は、例えば、液晶パネル部103で表示可能な画像の最大コントラスト比や最大ダイナミックレンジに基づいて決定された値である。具体的には、最大コントラスト比が1000:1の場合には、閾値として1/1000が使用される。
そして、補正率決定部123は、決定した上限補正率と下限補正率を掛け合わせることにより、補正率を算出する。
The correction factor determination unit 123 determines the correction factor of the target brightness based on the reproduction target brightness and the maximum brightness value and the minimum brightness value of the estimated visual range. Then, the correction factor determination unit 123 outputs the determined correction factor.
The correction factor determination unit 123 determines the upper limit correction factor from the reproduction target luminance and the maximum luminance value of the estimated visual range. The upper limit correction rate is a correction rate that corrects the reproduction target luminance so that the display luminance does not greatly exceed the maximum luminance value of the estimated visual range, and the ratio of the reproduction target luminance to the maximum luminance value of the estimated visual range exceeds 1 Correction factor to reduce (reduce) the reproduction target luminance. Specifically, as shown in FIG. 6C, information (a function or a table) representing the correspondence between the ratio of the reproduction target luminance to the maximum luminance value of the estimated visual range and the upper limit correction rate is prepared in advance. The upper limit correction rate is determined using the information.
Similarly, the correction factor determination unit 123 determines the lower limit correction factor from the reproduction target luminance and the minimum luminance value of the estimated visual range. The lower limit correction rate is a correction rate that corrects the reproduction target luminance so that the display luminance does not fall far below the minimum luminance value of the estimated visual range, and the ratio of the reproduction target luminance to the maximum luminance value of the estimated visual range exceeds a threshold Correction factor which increases (expands) the reproduction target luminance. Specifically, as shown in FIG. 6C, information (a function or a table) representing the correspondence between the ratio of the reproduction target luminance to the minimum luminance value of the estimated visual range and the lower limit correction rate is prepared in advance. The lower limit correction factor is determined using the information. The threshold is, for example, a value determined based on the maximum contrast ratio and the maximum dynamic range of an image that can be displayed by the liquid crystal panel unit 103. Specifically, when the maximum contrast ratio is 1000: 1, 1/1000 is used as the threshold.
Then, the correction factor determination unit 123 calculates the correction factor by multiplying the determined upper limit correction factor and the lower limit correction factor.

補正部124は、再現目標輝度に補正率を乗算することにより再現発光輝度を補正し、補正後の目標輝度を出力する。補正部124の処理により、表示輝度が推定視覚範囲に近づくように再現目標輝度を補正することができる。
なお、再現目標輝度の補正方法は上記方法に限らない。表示輝度を推定視覚範囲に近づけることができれば、再現目標輝度はどのように補正されてもよい。換言すれば、表示輝度が推定視覚範囲から大きく外れることを防ぐことができれば、再現目標輝度はどのように補正されてもよい。例えば、補正後の目標輝度が推定視覚範囲の内側の値となるように、再現目標輝度が補正されてもよい。具体的には、補正後の目標輝度が推定視覚範囲の最大輝度値と一致するように、再現目標輝度が補正されてもよい。
なお、表示画像の視認性を向上させるために、表示輝度が推定視覚範囲の内側の値となるように再現目標輝度を補正することが好ましい。
The correction unit 124 corrects the reproduction light emission luminance by multiplying the reproduction target luminance by the correction factor, and outputs the corrected target luminance. The processing of the correction unit 124 can correct the reproduction target luminance so that the display luminance approaches the estimated visual range.
The method of correcting the reproduction target luminance is not limited to the above method. The reproduction target luminance may be corrected in any way as long as the display luminance can be brought close to the estimated visual range. In other words, the reproduction target luminance may be corrected in any way as long as the display luminance can be prevented from largely deviating from the estimated visual range. For example, the reproduction target luminance may be corrected such that the corrected target luminance has a value inside the estimated visual range. Specifically, the reproduction target luminance may be corrected such that the corrected target luminance matches the maximum luminance value of the estimated visual range.
In order to improve the visibility of the display image, it is preferable to correct the reproduction target luminance so that the display luminance has a value inside the estimated visual range.

図1の説明に戻る。
発光輝度制御部110は、バックライトモジュール部109(バックライトモジュール部109が有する光源)の発光輝度を、目標輝度決定部108で決定された目標輝度(補正後の目標輝度)に制御する。具体的には、発光輝度制御部110は、目標輝度決定部108で決定された目標輝度に従い、直流電流制御信号とPWM信号を生成する。そして、発光輝度制御部110は、生成された直流電流制御信号とPWM信号で各光源を駆動制御する。直流電流制御信号は、光源に供給する電流の値(電流値)を示す信号であり、PWM信号は、光源に供給する電流の供給期間の長さを示す信号である。本実施例では、光源への電流の供給のON/OFFを制御する処理(ON/OFF制御処理)が、周期的に行われる。そして、PWM信号は、ON/OFF制御処理の1周期の期間の長さに対する、電流の供給期間の長さの割合(デューティ比)を示す。
なお、光源に印加する電圧の値や電圧の印加期間を制御することにより、光源の発光輝度を制御することもできる。
It returns to the explanation of FIG.
The light emission luminance control unit 110 controls the light emission luminance of the backlight module unit 109 (the light source of the backlight module unit 109) to the target luminance (target luminance after correction) determined by the target luminance determination unit 108. Specifically, the light emission luminance control unit 110 generates a DC current control signal and a PWM signal in accordance with the target luminance determined by the target luminance determination unit 108. Then, the light emission luminance control unit 110 drives and controls each light source with the generated direct current control signal and the PWM signal. The direct current control signal is a signal indicating the value (current value) of the current supplied to the light source, and the PWM signal is a signal indicating the length of the supply period of the current supplied to the light source. In the present embodiment, processing for controlling ON / OFF of supply of current to the light source (ON / OFF control processing) is periodically performed. The PWM signal indicates the ratio (duty ratio) of the length of the current supply period to the length of one period of the ON / OFF control process.
Note that the light emission luminance of the light source can also be controlled by controlling the value of the voltage applied to the light source and the application period of the voltage.

図7は、標準の電流値および標準の1/10の電流値で光源を駆動した場合におけるPWM値(デューティ比)と、光源の発光輝度[cd/m]との関係を例示する図である。光源の発光輝度は、当該光源を駆動する電流値とPWM値により決まる。本実施例では
、発光輝度制御部110は、図7に示すような関係に基づいて、目標輝度に対応する電流値とPWM値を決定し、決定した電流値を示す直流電流制御信号と、決定したPWM値を示すPWM信号を生成する。例えば、目標輝度が500[cd/m]の場合、光源を標準の電流値で駆動し、PWM値を50%とすればよい。また、目標輝度が20[cd/m]の場合には、光源を標準の1/10の電流値で駆動し、PWM値を20%とすればよい。発光輝度を目標輝度に制御するための電流値とPWM値の組み合わせは複数存在する場合もあるが、その場合には、制御精度などを考慮して電流値とPWM値を決定すればよい。電流値とPWM値の両方を制御することにより、一方を制御する場合に比べてより細かく発光輝度を制御することが可能となる。また、電流値とPWM値の両方を制御することにより、一方を制御する場合に比べてより広いダイナミックレンジで発光輝度を制御することができる。
FIG. 7 is a diagram illustrating the relationship between the PWM value (duty ratio) and the light emission luminance [cd / m 2 ] of the light source when the light source is driven with the standard current value and the standard 1/10 current value. is there. The emission brightness of the light source is determined by the current value for driving the light source and the PWM value. In the present embodiment, the light emission luminance control unit 110 determines the current value and the PWM value corresponding to the target luminance based on the relationship as shown in FIG. 7, and determines the DC current control signal indicating the determined current value Generate a PWM signal indicating the selected PWM value. For example, when the target luminance is 500 [cd / m 2 ], the light source may be driven at a standard current value, and the PWM value may be 50%. Further, when the target luminance is 20 [cd / m 2 ], the light source may be driven at a current value of 1/10 of the standard, and the PWM value may be 20%. Although there may be a plurality of combinations of current values and PWM values for controlling the light emission luminance to the target luminance, in this case, the current value and the PWM value may be determined in consideration of control accuracy and the like. By controlling both the current value and the PWM value, it is possible to control the emission brightness more finely than in the case of controlling one. In addition, by controlling both the current value and the PWM value, it is possible to control the light emission luminance in a wider dynamic range as compared with the case of controlling one.

図8は、本実施例による発光輝度制御を説明するための図である。
図8の横軸は入力画像データの撮影時の環境光レベルを示し、縦軸はバックライトモジュール部109の発光輝度を示す。図8には、入力画像データの撮影時の環境光レベルと、バックライトモジュール部109の発光輝度との関係が、環境光レベルが異なる複数の設置環境(表示装置の設置環境)について示されている。具体的には、実線は適度な明るさの視環境下での関係(特性)を示し、破線は暗い視環境下での関係を示し、一点鎖線は明るい視環境下での関係を示す。
図8に示すように、本実施例では、入力画像データの撮影時の環境光レベルが高いほど発光輝度が高くなるように、バックライトモジュール部109の発光輝度が制御される。さらに、本実施例では、視環境(表示装置の設置環境)の明るさを考慮して発光輝度が制御される。具体的には、図8に示すように、入力画像データの撮影時の環境光レベルが高いときに、表示装置の設置環境における環境光レベルが低いほど発光輝度が低くなるように、バックライトモジュール部109の発光輝度が制御される。また、入力画像データの撮影時の環境光レベルが低いときに、表示装置の設置環境における環境光レベルが高いほど発光輝度が高くなるように、バックライトモジュール部109の発光輝度が制御される。それにより、良好な視覚感度で表示画像が視認可能となり、撮影時の被写体の印象に近い画像表示を精度良く実現することができる。
FIG. 8 is a diagram for explaining light emission luminance control according to the present embodiment.
The horizontal axis in FIG. 8 indicates the ambient light level at the time of shooting of the input image data, and the vertical axis indicates the light emission luminance of the backlight module unit 109. FIG. 8 shows the relationship between the ambient light level at the time of shooting of the input image data and the light emission luminance of the backlight module unit 109 for a plurality of installation environments (installation environment of the display device) having different environmental light levels. There is. Specifically, a solid line indicates a relationship (characteristic) under a visual environment of appropriate brightness, a broken line indicates a relationship under a dark visual environment, and a dashed dotted line indicates a relationship under a bright visual environment.
As shown in FIG. 8, in the present embodiment, the light emission luminance of the backlight module unit 109 is controlled such that the light emission luminance becomes higher as the ambient light level at the time of photographing of the input image data becomes higher. Furthermore, in the present embodiment, the light emission luminance is controlled in consideration of the brightness of the viewing environment (the installation environment of the display device). Specifically, as shown in FIG. 8, when the ambient light level at the time of shooting of the input image data is high, the back light module is such that the lower the ambient light level in the installation environment of the display device, the lower the light emission luminance. The light emission luminance of the unit 109 is controlled. Further, when the ambient light level at the time of shooting the input image data is low, the light emission brightness of the backlight module unit 109 is controlled such that the light emission brightness is higher as the ambient light level in the installation environment of the display device is higher. As a result, the display image can be viewed with good visual sensitivity, and image display close to the impression of the subject at the time of shooting can be realized with high accuracy.

以上述べたように、本実施例によれば、撮影情報と環境情報に基づいてバックライトモジュール部109の発光輝度が制御されるため、撮影時の被写体の印象に近い画像表示を精度良く実現することができる。   As described above, according to the present embodiment, since the light emission luminance of the backlight module unit 109 is controlled based on the photographing information and the environment information, the image display close to the impression of the subject at the time of photographing is accurately realized. be able to.

なお、本実施例では、表示装置の設置環境における環境光レベルを考慮してバックライトモジュール部の発光輝度を制御する例を説明したが、表示装置の設置環境における環境光レベルを考慮して画像データを補正してもよい。具体的には、補正前の目標輝度(再現目標輝度)と補正後の目標輝度との差の分だけ、画像データの輝度が補正されてもよい。このような構成によれば、画像の白つぶれや黒つぶれが生じやすくなるが、撮影時の被写体の印象に近い画像表示を行うことができる。   In this embodiment, an example in which the light emission luminance of the backlight module unit is controlled in consideration of the ambient light level in the installation environment of the display device has been described. However, an image is considered in consideration of the ambient light level in the installation environment of the display device Data may be corrected. Specifically, the luminance of the image data may be corrected by the difference between the target luminance before correction (reproduction target luminance) and the target luminance after correction. According to such a configuration, it is easy to cause white crushing and black crushing of the image, but it is possible to perform image display close to the impression of the subject at the time of shooting.

なお、本実施例では、撮影情報に基づいて目標輝度を決定し、決定した目標輝度を環境情報に基づいて補正する、という2段階の処理により最終的な目標輝度が決定される例を説明したが、これに限らない。例えば、撮影情報と環境情報の組み合わせと、目標輝度との対応関係を表す情報を用いるなどして、1段階の処理で撮影情報と環境情報の組み合わせから最終的な目標輝度が決定されてもよい。環境情報に基づいて目標輝度を決定し、決定した目標輝度を撮影情報に基づいて補正する、という2段階の処理により最終的な目標輝度が決定されてもよい。   In this embodiment, an example in which the final target brightness is determined by the two-step process of determining the target brightness based on the shooting information and correcting the determined target brightness based on the environment information has been described. But it is not limited to this. For example, the final target brightness may be determined from the combination of the shooting information and the environment information in a one-step process using, for example, information indicating the correspondence between the combination of the shooting information and the environment information and the target brightness. . The final target brightness may be determined by a two-step process of determining the target brightness based on the environment information and correcting the determined target brightness based on the imaging information.

なお、本実施例では、環境情報に基づいて視覚範囲が推定され、推定された視覚範囲に
基づいて目標輝度(撮影情報に基づいて決定された目標輝度)が補正される例を説明したが、これに限らない。例えば、視覚範囲を推定せずに目標輝度が補正されてもよい。具体的には、環境情報と補正率の対応関係を表す情報を用いるなどして環境情報から補正率が決定され、決定された補正率で目標輝度が補正されてもよい。
In the present embodiment, the visual range is estimated based on the environmental information, and the target luminance (the target luminance determined based on the imaging information) is corrected based on the estimated visual range. It is not limited to this. For example, the target brightness may be corrected without estimating the visual range. Specifically, the correction factor may be determined from the environmental information using information indicating the correspondence between the environmental information and the correction factor, and the target luminance may be corrected with the determined correction factor.

<実施例2>
以下、本発明の実施例2に係る表示装置及びその制御方法について図面を参照して説明する。実施例1では撮影情報と環境情報に基づいて目標輝度を決定する例を説明した。しかし、表示輝度は、バックライトモジュール部の発光輝度や、表示装置の設置環境における環境光レベルだけでなく、画像データにも依存する。そこで、本実施例では、撮影情報、環境情報、及び、入力画像データの明るさに基づいて目標輝度を決定する例を説明する。
Example 2
Hereinafter, a display device according to a second embodiment of the present invention and a control method thereof will be described with reference to the drawings. In the first embodiment, an example in which the target brightness is determined based on the shooting information and the environment information has been described. However, the display luminance depends not only on the light emission luminance of the backlight module portion and the ambient light level in the installation environment of the display device but also on the image data. Thus, in the present embodiment, an example will be described in which the target luminance is determined based on the photographing information, the environment information, and the brightness of the input image data.

図9は、本実施例に係る表示装置の機能構成の一例を示すブロック図である。
本実施例に係る表示装置は、分離部101、画像処理部102、表示部111、画像判断部211、目標輝度決定部208、バックライトモジュール部109、発光輝度制御部110、などを有する。
分離部101、画像処理部102、表示部111、バックライトモジュール部109、及び、発光輝度制御部110の動作は、実施例1と同じである。
FIG. 9 is a block diagram showing an example of a functional configuration of the display device according to the present embodiment.
The display device according to the present embodiment includes a separation unit 101, an image processing unit 102, a display unit 111, an image determination unit 211, a target brightness determination unit 208, a backlight module unit 109, a light emission brightness control unit 110, and the like.
The operations of the separation unit 101, the image processing unit 102, the display unit 111, the backlight module unit 109, and the light emission luminance control unit 110 are the same as in the first embodiment.

画像判断部211は、入力画像データの明るさを判断する。本実施例では、画像処理部102による処理が施された後の入力画像データの明るさ、即ち表示画像データの明るさが判断される。具体的には、画像判断部211は、表示画像データの画素のうち画素値が第1の閾値以下である画素からなる領域の総面積を、暗部面積として判断する(暗部判断)。また、画像判断部211は、表示画像データの画素のうち画素値が第2の閾値以上である画素からなる領域の総面積を、明部面積として判断する(明部判断)。そして、画像判断部211は、判断した暗部面積と明部面積を出力する。第1の閾値は、例えば、表示画像データの取り得る画素値の最大値に対する割合が20%となる画素値である。第2の閾値は、例えば、表示画像データの取り得る画素値の最大値に対する割合が80%となる画素値である。   The image determination unit 211 determines the brightness of input image data. In this embodiment, the brightness of the input image data after the processing by the image processing unit 102, that is, the brightness of the display image data is determined. Specifically, the image determining unit 211 determines the total area of the area including pixels whose pixel values are equal to or less than the first threshold among the pixels of the display image data as the dark area (dark area determination). In addition, the image determination unit 211 determines the total area of the area including pixels in which the pixel value is equal to or more than the second threshold among the pixels of the display image data as the bright area (bright area determination). Then, the image determination unit 211 outputs the determined dark area and bright area. The first threshold is, for example, a pixel value at which the ratio of the obtainable pixel value of the display image data to the maximum value is 20%. The second threshold is, for example, a pixel value at which the ratio of the obtainable pixel value of the display image data to the maximum value is 80%.

なお、第1の閾値と第2の閾値は、上述した値に限らない。第1の閾値と第2の閾値は、上述した値より高くても低くてもよい。第1の閾値と第2の閾値は、予め定められた固定値であってもよいし、ユーザが変更可能な値であってもよい。第1の閾値と第2の閾値は同じ値であってもよい。
なお、画像データの明るさの判断方法は、上記方法に限らない。例えば、判断対象の画像データを、ガンマ変換処理などを施すことにより輝度データに変換し、当該輝度データを用いて明るさが判断されてもよい。また、画像処理部102による処理が施される前の入力画像データの明るさ、即ち分離部101から出力された入力画像データの明るさが判断されてもよい。また、判断結果として、画像データの輝度ヒストグラム、代表輝度値、輝度分散などの情報が取得されてもよい。代表輝度値は、例えば、画像データの輝度値の最大値、最小値、平均値、最頻値、中間値、などである。暗部判断と明部判断の一方のみが行われてもよい。
The first threshold and the second threshold are not limited to the values described above. The first threshold and the second threshold may be higher or lower than the values described above. The first threshold and the second threshold may be predetermined fixed values, or may be values that can be changed by the user. The first threshold and the second threshold may be the same value.
Note that the method of determining the brightness of the image data is not limited to the above method. For example, image data to be determined may be converted into luminance data by performing gamma conversion processing or the like, and the brightness may be determined using the luminance data. Further, the brightness of the input image data before the processing by the image processing unit 102, that is, the brightness of the input image data output from the separation unit 101 may be determined. In addition, information such as a luminance histogram of image data, a representative luminance value, and luminance dispersion may be acquired as a determination result. The representative luminance value is, for example, the maximum value, the minimum value, the average value, the mode value, or the median value of the luminance values of the image data. Only one of the dark area determination and the bright area determination may be performed.

目標輝度決定部208は、入力画像データの明るさ、撮影情報、及び、環境情報に基づいて、バックライトモジュール部109の目標輝度を決定する。
撮影情報と目標輝度の関係、環境情報と目標輝度の関係は、実施例1と同様である。
The target brightness determination unit 208 determines the target brightness of the backlight module unit 109 based on the brightness of the input image data, the shooting information, and the environment information.
The relationship between the shooting information and the target brightness, and the relationship between the environment information and the target brightness are the same as in the first embodiment.

入力画像データの明るさが明るい場合には、表示画像の明るさが撮影時の明るさに比べて高くなることが考えられる。また、入力画像データの明るさが暗い場合には、表示画像
の明るさが撮影時の明るさに比べて低くなることが考えられる。そこで、本実施例では、目標輝度決定部208は、入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、バックライトモジュール部109の目標輝度を調整する。
When the brightness of the input image data is bright, the brightness of the display image may be higher than the brightness at the time of shooting. Further, when the brightness of the input image data is dark, it is conceivable that the brightness of the display image is lower than the brightness at the time of shooting. Therefore, in the present embodiment, when the brightness of the input image data is high, the target brightness determination unit 208 sets the target brightness of the backlight module unit 109 so that the target brightness is lower than when the brightness is low. Adjust the

具体的には、明部面積が小さい場合(暗部面積が大きい場合)には、大部分の画像領域で表示輝度が撮影時の明るさに比べて低くなることが考えられるため、明部面積が小さい場合は、入力画像データの明るさが暗い場合に相当するといえる。また、暗部面積が小さい場合(明部面積が大きい場合)には、大部分の画像領域で表示輝度が撮影時の明るさに比べて高くなることが考えられるため、暗部面積が小さい場合は、入力画像データの明るさが高い場合に相当するといえる。そこで、本実施例では、入力画像データの明るさに基づく目標輝度の調整として、明部面積と暗部面積に基づく目標輝度の調整を行う。   Specifically, when the light area is small (when the dark area is large), it is conceivable that the display brightness is lower than the brightness at the time of photographing in most of the image area. If the input image data is small, it can be said that the input image data is dark. When the dark area is small (when the light area is large), the display brightness may be higher in most image areas than the brightness at the time of shooting. Therefore, when the dark area is small, It can be said that this corresponds to the case where the brightness of the input image data is high. Therefore, in the present embodiment, as the adjustment of the target brightness based on the brightness of the input image data, the adjustment of the target brightness based on the bright area and the dark area is performed.

なお、入力画像データの明るさに基づく目標輝度の調整方法は、明部面積と暗部面積を用いた方法に限らない。入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、バックライトモジュール部109の目標輝度が調整されれば、目標輝度はどのように調整されてもよい。上述したように、入力画像データの明るさの判断結果として得られる情報として種々の情報が考えられるため、判断結果として得られる情報の種類に応じた方法で目標輝度が調整されればよい。また、明部面積に基づく目標輝度の調整と、暗部面積に基づく目標輝度の調整とのうち、一方のみが行われてもよい。   The method of adjusting the target brightness based on the brightness of the input image data is not limited to the method using the bright area and the dark area. If the target brightness of the backlight module unit 109 is adjusted so that the target brightness is lower when the brightness of the input image data is bright than when the brightness is dark, the target brightness is adjusted May be As described above, since various types of information can be considered as information obtained as the determination result of the brightness of the input image data, the target luminance may be adjusted by a method according to the type of information obtained as the determination result. Alternatively, only one of the adjustment of the target brightness based on the bright area and the adjustment of the target brightness based on the dark area may be performed.

図10は、本実施例に係る目標輝度決定部208の機能構成の一例を示すブロック図である。
目標輝度決定部208は、再現輝度決定部121、視覚範囲推定部122、補正率決定部223、補正部124、などを有する。
再現輝度決定部121、視覚範囲推定部122、補正部124の動作は、実施例1と同じである。
FIG. 10 is a block diagram showing an example of a functional configuration of the target luminance determination unit 208 according to the present embodiment.
The target luminance determination unit 208 includes a reproduction luminance determination unit 121, a visual range estimation unit 122, a correction factor determination unit 223, a correction unit 124, and the like.
The operations of the reproduction luminance determination unit 121, the visual range estimation unit 122, and the correction unit 124 are the same as in the first embodiment.

補正率決定部223は、以下の処理を行うことにより上限補正率を決定する。   The correction factor determination unit 223 determines the upper limit correction factor by performing the following process.

まず、補正率決定部223は、入力画像データ(表示画像データ)によって表される画像の面積に対する明部面積の割合(明部割合)が小さいときに、当該割合が大きいときに比べて目標輝度が低くなるように再現目標輝度を補正する。それにより、上限補正率決定用の目標輝度が決定される。
本実施例では、図11に示すように、明部割合と明部補正率の対応関係を表す情報(テーブルや関数)が予め用意されており、当該情報を用いて明部補正率が決定される。そして、再現目標輝度に明部補正率を乗算することにより、上限補正率決定用の目標輝度が決定される。図11に示す情報を用いた場合には、明部割合が閾値より小さいときに入力画像データの明るさが暗いと判断され、明部割合が小さいほど目標輝度が低くなるように再現目標輝度が補正される。閾値は、入力画像データの明るさが暗いか否かを判断できる値であれば、どのような値であってもよい。
そして、補正率決定部223は、上記決定された目標輝度(上限補正率決定用の目標輝度)と、推定視覚範囲の最大輝度値とに基づいて、実施例1と同様の方法により、上限補正率を決定する。それにより、明部割合が小さいときに、明部割合が大きい場合に比べて高い上限補正率が決定される。
First, when the ratio (bright area ratio) of the bright area to the area of the image represented by the input image data (display image data) is small, the correction factor determination unit 223 compares the target luminance with that when the ratio is large. Correct the reproduction target brightness so that Thereby, the target luminance for determining the upper limit correction factor is determined.
In the present embodiment, as shown in FIG. 11, information (table or function) representing the correspondence between the bright area ratio and the bright area correction rate is prepared in advance, and the bright area correction rate is determined using the information. Ru. Then, the target luminance for determining the upper limit correction factor is determined by multiplying the reproduction target luminance by the bright area correction factor. When the information shown in FIG. 11 is used, it is determined that the brightness of the input image data is dark when the light portion ratio is smaller than the threshold, and the reproduction target luminance is lower so that the target luminance decreases as the light portion ratio decreases. It is corrected. The threshold may be any value as long as it can be determined whether the brightness of the input image data is dark.
Then, based on the target luminance (target luminance for determining the upper limit correction rate) determined above and the maximum luminance value of the estimated visual range, the correction factor determination unit 223 performs the upper limit correction in the same manner as in the first embodiment. Determine the rate. As a result, when the light area ratio is small, a higher upper limit correction rate is determined as compared to the case where the light area ratio is large.

また、補正率決定部223は、以下の処理を行うことにより下限補正率を決定する。
まず、補正率決定部223は、入力画像データ(表示画像データ)によって表される画像の面積に対する暗部面積の割合(暗部割合)が小さいときに、当該割合が大きいときに
比べて目標輝度が高くなるように再現目標輝度を補正する。それにより、下限補正率決定用の目標輝度が決定される。
本実施例では、図11に示すように、暗部割合と暗部補正率の対応関係を表す情報(テーブルや関数)が予め用意されており、当該情報を用いて暗部補正率が決定される。そして、再現目標輝度に暗部補正率を乗算することにより、暗部補正率決定用の目標輝度が決定される。図11に示す情報を用いた場合には、暗部割合が閾値より小さいときに入力画像データの明るさが明るいと判断され、暗部割合が小さいほど目標輝度が高くなるように再現目標輝度が補正される。閾値は、入力画像データの明るさが明るいか否かを判断できる値であれば、どのような値であってもよい。暗部補正率を決定する際に使用する閾値は、明部補正率を決定する際に使用する閾値と同じ値であってもよいし、異なっていてもよい。
そして、補正率決定部223は、上記決定された目標輝度(下限補正率決定用の目標輝度)と、推定視覚範囲の最小輝度値とに基づいて、実施例1と同様の方法により、下限補正率を決定する。それにより、暗部割合が小さいときに、暗部割合が大きい場合に比べて低い上限補正率が決定される。
Further, the correction factor determination unit 223 determines the lower limit correction factor by performing the following process.
First, when the ratio (dark area ratio) of the dark area to the area of the image represented by the input image data (display image data) is small, the correction factor determination unit 223 has a higher target luminance than when the ratio is large. The reproduction target luminance is corrected to be Thereby, the target luminance for determining the lower limit correction factor is determined.
In the present embodiment, as shown in FIG. 11, information (table or function) representing the correspondence between the dark area ratio and the dark area correction rate is prepared in advance, and the dark area correction rate is determined using the information. Then, the target luminance for dark area correction factor determination is determined by multiplying the reproduction target luminance by the dark area correction factor. When the information shown in FIG. 11 is used, it is determined that the brightness of the input image data is bright when the dark area ratio is smaller than the threshold, and the reproduction target brightness is corrected such that the target brightness increases as the dark area ratio decreases. Ru. The threshold may be any value as long as it can be determined whether the brightness of the input image data is bright. The threshold used in determining the dark area correction factor may be the same as or different from the threshold used in determining the bright area correction factor.
Then, based on the target luminance (target luminance for determining the lower limit correction rate) determined above and the minimum luminance value of the estimated visual range, the correction factor determination unit 223 performs the lower limit correction in the same manner as in the first embodiment. Determine the rate. Thereby, when the dark area ratio is small, a lower upper limit correction rate is determined as compared with the case where the dark area ratio is large.

そして、補正率決定部223は、決定した上限補正率と下限補正率を掛け合わせることにより補正率を決定し、決定した補正率を出力する。上述したように、上限補正率と下限補正は入力画像データの明るさを考慮して決定されるため、入力画像データの明るさを考慮した補正率(上限補正率と下限補正率を掛け合わせた補正率)を得ることができる。そして、最終的な目標輝度として、入力画像データの明るさを考慮した目標輝度を得ることができる。具体的には、暗部割合が小さいときに、暗部割合が大きいときに比べて目標輝度が低くなるように、バックライトモジュール部109の目標輝度を調整することができる。また、明部割合が小さいときに、明部割合が大きいときに比べて目標輝度が高くなるように、バックライトモジュール部109の目標輝度を調整することができる。   Then, the correction factor determination unit 223 determines the correction factor by multiplying the determined upper limit correction factor and the lower limit correction factor, and outputs the determined correction factor. As described above, since the upper limit correction factor and the lower limit correction are determined in consideration of the brightness of the input image data, the correction factor taking into account the brightness of the input image data (the upper limit correction factor and the lower limit correction factor are multiplied Correction factor) can be obtained. Then, it is possible to obtain the target brightness in consideration of the brightness of the input image data as the final target brightness. Specifically, it is possible to adjust the target brightness of the backlight module unit 109 so that when the dark area ratio is small, the target brightness is lower than when the dark area ratio is large. In addition, when the bright portion ratio is small, it is possible to adjust the target brightness of the backlight module unit 109 so that the target brightness is higher than when the bright portion ratio is large.

以上述べたように、本実施例によれば、撮影情報と環境情報の他に、入力画像データの明るさをさらに考慮して、バックライトモジュール部109の発光輝度が制御される。それにより、撮影時の被写体の印象に近い画像表示をより精度良く実現することができる。   As described above, according to the present embodiment, the light emission luminance of the backlight module unit 109 is controlled in consideration of the brightness of the input image data in addition to the photographing information and the environment information. As a result, it is possible to more accurately realize the image display close to the impression of the subject at the time of shooting.

なお、本実施例では、以下の方法により最終的な目標輝度を決定した。即ち、撮影情報に基づいて再現目標輝度を決定し、入力画像データの明るさに基づいて再現目標輝度を補正することにより、補正率決定用の目標輝度を決定した。そして、補正率決定用の目標輝度と環境情報に基づいて補正率を決定し、決定した補正率で再現目標輝度を補正することにより最終的な目標輝度を決定した。しかし、最終的な目標輝度の決定方法はこれに限らない。例えば、撮影情報、環境情報、及び、入力画像データのうちの少なくとも1つの情報に基づいて目標輝度を決定し、決定した目標輝度を残りの情報に基づいて補正することにより、最終的な目標輝度が決定されてもよい。また、撮影情報、環境情報、及び、入力画像データの明るさの組み合わせと、目標輝度との対応関係を表す情報を用いるなどして、1段階の処理で、撮影情報、環境情報、及び、入力画像データの明るさの組み合わせから最終的な目標輝度が決定されてもよい。   In the present embodiment, the final target luminance is determined by the following method. That is, the reproduction target luminance is determined based on the photographing information, and the reproduction target luminance is corrected based on the brightness of the input image data, thereby determining the correction factor determination target luminance. Then, the correction rate was determined based on the target brightness for determining the correction rate and the environmental information, and the reproduction target brightness was corrected with the determined correction rate to determine the final target brightness. However, the method of determining the final target luminance is not limited to this. For example, the target brightness is determined based on at least one of the imaging information, the environment information, and the input image data, and the determined target brightness is corrected based on the remaining information to obtain the final target brightness. May be determined. In addition, the imaging information, the environment information, and the input in one-step processing by using information representing the correspondence between the combination of the imaging information, the environment information, and the brightness of the input image data and the target luminance. The final target brightness may be determined from the combination of the brightness of the image data.

<実施例3>
以下、本発明の実施例3に係る表示装置及びその制御方法について図面を参照して説明する。実施例1,2では、入力画像データの全ての画素値が表示部で処理可能な画素値である場合を想定した例を説明した。しかし、OpenEXRなどの画像ファイルには、非常に広いダイナミックレンジを有する入力画像データが格納されていることがある。そして、入力画像データの画素値の範囲が、表示部に対応する範囲より広いことがある。即ち、入力画像データが、表示部で有効に使えない画素値を含んでいることがある。本実施例では、そのような場合であっても、適切な表示を行うことのできる構成について説明する
Example 3
Hereinafter, a display device according to a third embodiment of the present invention and a control method thereof will be described with reference to the drawings. In the first and second embodiments, an example has been described in which it is assumed that all pixel values of input image data are pixel values that can be processed by the display unit. However, an image file such as OpenEXR may store input image data having a very wide dynamic range. The range of pixel values of input image data may be wider than the range corresponding to the display unit. That is, input image data may include pixel values that can not be effectively used by the display unit. In this embodiment, a configuration capable of appropriately displaying even in such a case will be described.

図12は、実施例3に係る表示装置の機能構成の一例を示すブロック図である。
本実施例に係る表示装置は、分離部101、画像処理部302、表示部111、画像判断部211、目標輝度決定部208、バックライトモジュール部109、発光輝度制御部110、などを有する。
分離部101、表示部111、バックライトモジュール部109、及び、発光輝度制御部110の動作は、実施例1,2と同じである。画像判断部211と目標輝度決定部208の動作は、実施例2と同じである。
FIG. 12 is a block diagram illustrating an example of a functional configuration of a display device according to a third embodiment.
The display device according to the present embodiment includes a separation unit 101, an image processing unit 302, a display unit 111, an image determination unit 211, a target brightness determination unit 208, a backlight module unit 109, a light emission brightness control unit 110, and the like.
The operations of the separation unit 101, the display unit 111, the backlight module unit 109, and the light emission luminance control unit 110 are the same as in the first and second embodiments. The operations of the image determination unit 211 and the target luminance determination unit 208 are the same as in the second embodiment.

画像処理部302は、実施例1の画像処理部102と同様の機能を有する。但し、画像処理部302は、画素値の最大値を表示部111で処理可能な画素値の範囲内の値にする画像補正率で、入力画像データを補正する。即ち、画像処理部302は、入力画像データの各画素値に画像補正率を乗算することにより、入力画像データを補正する。そして、補正後(画像補正率で画像データを補正する画像補正処理が施された後)の入力画像データを、表示画像データとして出力する。そのため、本実施例では、画像補正処理を行うことにより、表示画像データとして表示部111に対応した画像データを得ることができる。そして、表示部111では、補正後の入力画像データである表示画像データに基づいてバックライトモジュール部109からの光が変調される。
なお、本実施例では、分離部101から出力された入力画像データを画像補正率で補正する例を説明するが、これに限らない。例えば、分離部101から出力された入力画像データに対して、画像補正処理より前に、実施例1で述べた所定の画像処理が施されてもよい。そして、所定の画像処理が施された後の画像データに対して画像補正処理が施されてもよい。
なお、本実施例では、画像処理部302が所定の画像処理と画像補正処理を行う例を説明するが、所定の画像処理と画像補正処理は互いに異なる機能部によって行われてもよい。所定の画像処理は行われなくてもよい。
The image processing unit 302 has the same function as the image processing unit 102 of the first embodiment. However, the image processing unit 302 corrects the input image data with an image correction factor that sets the maximum value of the pixel values to a value within the range of pixel values that can be processed by the display unit 111. That is, the image processing unit 302 corrects input image data by multiplying each pixel value of the input image data by the image correction rate. Then, the input image data after the correction (after the image correction processing for correcting the image data with the image correction rate) is output as display image data. Therefore, in the present embodiment, image data corresponding to the display unit 111 can be obtained as display image data by performing the image correction process. Then, in the display unit 111, light from the backlight module unit 109 is modulated based on display image data which is input image data after correction.
In the present embodiment, although an example in which input image data output from the separation unit 101 is corrected by the image correction rate will be described, the present invention is not limited thereto. For example, the input image data output from the separation unit 101 may be subjected to the predetermined image processing described in the first embodiment prior to the image correction processing. Then, the image correction processing may be performed on the image data after the predetermined image processing has been performed.
In the present embodiment, an example in which the image processing unit 302 performs predetermined image processing and image correction processing will be described, but predetermined image processing and image correction processing may be performed by different functional units. Predetermined image processing may not be performed.

また、画像処理部302は、バックライトモジュール部109の最終的な目標輝度が画像補正率の逆数で補正された値となるように撮影情報を補正する。即ち、画像処理部302は、最終的な目標輝度が実施例1,2の方法で決定された目標輝度に画像補正率の逆数を乗算した値となるように撮影情報を補正する。そして、画像処理部302は、補正後の撮影情報を出力する。これにより、バックライトモジュール部109の発光輝度が、画像補正率の逆数で補正された値に制御されるため、入力画像データを画像補正率で補正したことによる表示輝度の変化を防止することができる。   Further, the image processing unit 302 corrects the shooting information so that the final target luminance of the backlight module unit 109 becomes a value corrected by the reciprocal of the image correction rate. That is, the image processing unit 302 corrects the shooting information so that the final target brightness is a value obtained by multiplying the inverse of the image correction rate by the target brightness determined by the methods of the first and second embodiments. Then, the image processing unit 302 outputs the shooting information after correction. As a result, since the light emission luminance of the backlight module unit 109 is controlled to a value corrected by the reciprocal of the image correction rate, it is possible to prevent a change in display luminance due to the correction of the input image data by the image correction rate. it can.

図13は、画像処理部302の機能構成の一例を示すブロック図である。
画像処理部302は、最大値検出部312、除算部313、乗算部314、表示画像データ生成部315、などを有する。
最大値検出部312は、入力画像データから、入力画像データの画素値の最大値を検出し、検出した画素値を最大画素値として出力する。
除算部313は、入力画像データの各画素値を最大画素値で除算し、除算結果(画素値の最大値が1となるように各画素値が正規化された画像データ)を補正画像データとして出力する。即ち、本実施例では、最大画素値の逆数が画像補正率である。
乗算部314は、画像補正率を用いて撮影情報(例えば、環境光レベル)を補正し、補正後の撮影情報を補正撮影情報として出力する。本実施例では、撮影情報の値と、撮影情報に基づいて決定される再現目標輝度とが比例関係にあるものとする。そのため、乗算部314は、画像補正率の逆数(即ち最大画素値)を撮影情報の値に乗算することにより、撮影情報を補正する。補正撮影情報は目標輝度決定部208に入力され、補正撮影情報に基づいて再現目標輝度が決定される。
除算部313では入力画像データが最大画素値で除算され、乗算部314では撮影情報の値に最大画素値が乗算されるため、本処理による表示輝度の変化は生じない。
表示画像データ生成部315は、補正画像データに対し所定の画像処理を施し、所定の画像処理が施された後の画像データを表示画像データとして出力する。
FIG. 13 is a block diagram showing an example of a functional configuration of the image processing unit 302. As shown in FIG.
The image processing unit 302 includes a maximum value detection unit 312, a division unit 313, a multiplication unit 314, a display image data generation unit 315, and the like.
The maximum value detection unit 312 detects the maximum value of the pixel value of the input image data from the input image data, and outputs the detected pixel value as the maximum pixel value.
The division unit 313 divides each pixel value of the input image data by the maximum pixel value, and the division result (image data in which each pixel value is normalized so that the maximum value of the pixel value is 1) is used as corrected image data. Output. That is, in the present embodiment, the reciprocal of the maximum pixel value is the image correction rate.
The multiplying unit 314 corrects the photographing information (for example, the ambient light level) using the image correction factor, and outputs the corrected photographing information as the corrected photographing information. In this embodiment, it is assumed that the value of shooting information and the reproduction target luminance determined based on the shooting information are in a proportional relationship. Therefore, the multiplication unit 314 corrects the imaging information by multiplying the inverse of the image correction rate (that is, the maximum pixel value) by the value of the imaging information. The corrected shooting information is input to the target brightness determination unit 208, and the reproduction target brightness is determined based on the corrected shooting information.
In the division unit 313, the input image data is divided by the maximum pixel value, and in the multiplication unit 314, the value of the imaging information is multiplied by the maximum pixel value.
The display image data generation unit 315 performs predetermined image processing on the corrected image data, and outputs the image data subjected to the predetermined image processing as display image data.

以上述べたように、本実施例によれば、入力画像データに対し画像補正率で画像データを補正する画像補正処理が施され、画像補正処理が施され後の入力画像データである表示画像データに基づいてバックライトモジュール部109からの光が変調される。そして、バックライトモジュール部109の発光輝度が、画像補正率の逆数で補正された値に制御される。それにより、表示画像データの全ての画素値を表示部111で有効に使用することができ、適切な表示を行うことができる。換言すれば、表示画像データが表示部111で有効に使えない画素値を含むことによる画質の劣化を抑制することができる。   As described above, according to the present embodiment, the input image data is subjected to the image correction processing for correcting the image data at the image correction rate, and the display image data which is the input image data after the image correction processing is performed. The light from the backlight module unit 109 is modulated based on the Then, the light emission luminance of the backlight module unit 109 is controlled to a value corrected by the reciprocal of the image correction rate. Thus, all pixel values of display image data can be effectively used by the display unit 111, and appropriate display can be performed. In other words, it is possible to suppress the deterioration of the image quality due to the display image data including pixel values that can not be effectively used by the display unit 111.

なお、本実施例では、画像補正率が最大画素値の逆数である場合の例を説明したが、画像補正率はこれに限らない。例えば、入力画像データの画素値の平均値の逆数が画像補正率として算出されてもよい。入力画像データのデータ輝度の分布に基づいて画像補正率が決定されてもよい。画素値の最大値を表示部111に入力可能な画素値の範囲内の値にすることができれば、画像補正率はどのような値であってもよい。例えば、画像補正率は、入力画像データを用いて決定される値でなくてもよい。画像補正率は、画素値の上限値の逆数であってもよい。   In the present embodiment, an example in which the image correction rate is the reciprocal of the maximum pixel value has been described, but the image correction rate is not limited to this. For example, the reciprocal of the average value of the pixel values of the input image data may be calculated as the image correction rate. The image correction factor may be determined based on the data luminance distribution of the input image data. The image correction rate may be any value as long as the maximum value of the pixel values can be set to a value within the range of pixel values that can be input to the display unit 111. For example, the image correction factor may not be a value determined using input image data. The image correction factor may be the reciprocal of the upper limit of the pixel value.

なお、本実施例では、画像補正率に基づいて撮影情報の値が補正される例を説明したが、これに限らない。例えば、撮影情報、環境情報、及び、入力画像データの明るさの少なくとも1つ以上の情報に基づいて決定された目標輝度が補正されてもよい。また、表示装置は、撮影情報や目標輝度を補正する不図示の輝度補正部を有していてもよい。   In the present embodiment, an example is described in which the value of the imaging information is corrected based on the image correction factor, but the present invention is not limited to this. For example, the target brightness determined based on at least one or more of the shooting information, the environment information, and the brightness of the input image data may be corrected. In addition, the display device may have a brightness correction unit (not shown) that corrects the shooting information and the target brightness.

<その他の実施例>
記憶装置に記録されたプログラムを読み込み実行することで前述した実施例の機能を実現するシステムや装置のコンピュータ(又はCPU、MPU等のデバイス)によっても、本発明を実施することができる。また、例えば、記憶装置に記録されたプログラムを読み込み実行することで前述した実施例の機能を実現するシステムや装置のコンピュータによって実行されるステップからなる方法によっても、本発明を実施することができる。この目的のために、上記プログラムは、例えば、ネットワークを通じて、又は、上記記憶装置となり得る様々なタイプの記録媒体(つまり、非一時的にデータを保持するコンピュータ読取可能な記録媒体)から、上記コンピュータに提供される。したがって、上記コンピュータ(CPU、MPU等のデバイスを含む)、上記方法、上記プログラム(プログラムコード、プログラムプロダクトを含む)、上記プログラムを非一時的に保持するコンピュータ読取可能な記録媒体は、いずれも本発明の範疇に含まれる。
<Other Embodiments>
The present invention can also be implemented by a computer (or a device such as a CPU or MPU) of a system or apparatus that implements the functions of the above-described embodiments by reading and executing a program recorded in a storage device. For example, the present invention can also be implemented by a method including steps executed by a computer of a system or apparatus that realizes the functions of the embodiments described above by reading and executing a program recorded in a storage device. . To this end, the program may be, for example, through the network or from various types of recording media that can be the storage device (i.e. from computer readable recording media that hold data non-temporarily) Provided to Therefore, the computer (including devices such as CPU and MPU), the method, the program (including program code and program product), and a computer readable recording medium which holds the program non-temporarily are all It is included in the category of the invention.

100 表示装置
101 分離部
108 目標輝度決定部
109 バックライトモジュール部
110 発光輝度制御部
111 表示部
Reference Signs List 100 display device 101 separation unit 108 target luminance determination unit 109 back light module unit 110 emission luminance control unit 111 display unit

Claims (16)

画像データを表示する表示装置であって、
入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得手段と、
前記表示装置の設置環境に関する環境情報を取得する第2取得手段と、
発光手段と、
前記入力画像データに基づいて前記発光手段からの光を変調することで画面上に画像を表示する表示手段と、
前記入力画像データの明るさ、前記第1取得手段で取得された前記撮影情報、及び、前記第2取得手段で取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定手段と、
前記発光手段の発光輝度を、前記決定手段で決定された目標輝度に制御する制御手段と、
を有し、
前記決定手段は、前記入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、前記発光手段の目標輝度を調整する
ことを特徴とする表示装置。
A display device for displaying image data;
A first acquisition unit that acquires imaging information related to imaging conditions at the time of imaging of input image data;
A second acquisition unit configured to acquire environmental information on an installation environment of the display device;
Light emitting means,
Display means for displaying an image on a screen by modulating light from the light emitting means based on the input image data;
A determination unit that determines a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired by the first acquisition unit, and the environment information acquired by the second acquisition unit When,
Control means for controlling the light emission luminance of the light emission means to the target luminance determined by the determination means;
Have
A display apparatus characterized in that the determination means adjusts the target brightness of the light emitting means so that the target brightness is lower when the brightness of the input image data is bright than when the brightness is dark. .
画像データを表示する表示装置であって、
入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得手段と、
前記表示装置の設置環境に関する環境情報を取得する第2取得手段と、
発光手段と、
前記入力画像データに基づいて前記発光手段からの光を変調することで画面上に画像を表示する表示手段と、
前記入力画像データの明るさ、前記第1取得手段で取得された前記撮影情報、及び、前記第2取得手段で取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定手段と、
前記発光手段の発光輝度を、前記決定手段で決定された目標輝度に制御する制御手段と、
を有し、
前記決定手段は、前記入力画像データによって表される画像の面積に対する、前記入力画像データの画素のうち画素値が閾値以上である画素からなる明部の面積の割合が小さいときに、当該割合が大きいときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整する
ことを特徴とする表示装置。
A display device for displaying image data;
A first acquisition unit that acquires imaging information related to imaging conditions at the time of imaging of input image data;
A second acquisition unit configured to acquire environmental information on an installation environment of the display device;
Light emitting means,
Display means for displaying an image on a screen by modulating light from the light emitting means based on the input image data;
A determination unit that determines a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired by the first acquisition unit, and the environment information acquired by the second acquisition unit When,
Control means for controlling the light emission luminance of the light emission means to the target luminance determined by the determination means;
Have
When the ratio of the area of the bright portion of the pixels of the input image data to the area of the image represented by the input image data is small, the determining unit determines that the ratio is small. A display apparatus characterized in that the target brightness of the light emitting means is adjusted so that the target brightness is higher than when it is large.
前記撮影情報は、前記入力画像データの撮影時の環境光レベルに関する情報を含み、
前記環境情報は、前記表示装置の設置環境における環境光レベルに関する情報を含み、
前記決定手段は、前記入力画像データの撮影時の環境光レベルが高いときに、当該環境光レベルが低いときに比べて目標輝度が高くなり、かつ、前記表示装置の設置環境における環境光レベルが高いときに、当該環境光レベルが低いときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整する
ことを特徴とする請求項1または2に記載の表示装置。
The shooting information includes information on ambient light level at the time of shooting of the input image data,
The environmental information includes information on the ambient light level in the installation environment of the display device,
When the ambient light level at the time of photographing the input image data is high, the determination means has a target luminance higher than when the ambient light level is low, and the ambient light level in the installation environment of the display device is 3. The display device according to claim 1, wherein the target brightness of the light emitting means is adjusted so that the target brightness is higher when the level is high than when the ambient light level is low.
前記決定手段は、前記撮影情報に基づいて前記発光手段の目標輝度を決定し、前記環境情報に基づいて前記決定された目標輝度を補正する
ことを特徴とする請求項1〜3のいずれか1項に記載の表示装置。
The said determination means determines the target brightness | luminance of the said light emission means based on the said imaging | photography information, and correct | amends the said determined target brightness | luminance based on the said environment information. The display apparatus as described in a term.
前記決定手段は、
前記環境情報に基づいて、良好な視認が可能な表示輝度の範囲を推定し、
表示輝度が前記推定された範囲に近づくように、前記決定された目標輝度を補正することを特徴とする請求項4に記載の表示装置。
The determining means is
Based on the environmental information, estimate the range of display luminance that allows good visual recognition;
5. The display device according to claim 4, wherein the determined target luminance is corrected such that display luminance approaches the estimated range.
前記決定手段は、表示輝度が前記推定された範囲の内側の値となるように、前記決定された目標輝度を補正する
ことを特徴とする請求項5に記載の表示装置。
The display device according to claim 5, wherein the determination means corrects the determined target luminance such that the display luminance has a value inside the estimated range.
前記撮影情報は、前記入力画像データの撮影時の環境光レベル、ISO感度、シャッター速度、絞り値、及び、撮影モードの少なくとも1つを示す情報を含む
ことを特徴とする請求項1〜6のいずれか1項に記載の表示装置。
The imaging information includes information indicating at least one of an ambient light level at the time of imaging of the input image data, an ISO sensitivity, a shutter speed, an aperture value, and an imaging mode. The display device according to any one of the items.
前記環境情報は、前記表示装置の設置環境における環境光レベルを示す情報である
ことを特徴とする請求項1〜7のいずれか1項に記載の表示装置。
The display device according to any one of claims 1 to 7, wherein the environment information is information indicating an ambient light level in an installation environment of the display device.
発光手段と、入力画像データに基づいて前記発光手段からの光を変調することで画面上に画像を表示する表示手段と、を有する表示装置の制御方法であって、
前記入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得ステップと、
前記表示装置の制御方法の設置環境に関する環境情報を取得する第2取得ステップと、
前記入力画像データの明るさ、前記第1取得ステップで取得された前記撮影情報、及び、前記第2取得ステップで取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定ステップと、
前記発光手段の発光輝度を、前記決定ステップで決定された目標輝度に制御する制御ステップと、
を有し、
前記決定ステップでは、前記入力画像データの明るさが明るいときに、当該明るさが暗いときに比べて目標輝度が低くなるように、前記発光手段の目標輝度を調整する
ことを特徴とする表示装置の制御方法。
A control method of a display device, comprising: light emitting means; and display means for displaying an image on a screen by modulating light from the light emitting means based on input image data,
A first acquisition step of acquiring imaging information on imaging conditions at the time of imaging of the input image data;
A second acquisition step of acquiring environment information on an installation environment of the control method of the display device;
A determination step of determining a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired in the first acquisition step, and the environment information acquired in the second acquisition step When,
Controlling the light emission luminance of the light emitting means to the target luminance determined in the determination step;
Have
A display apparatus characterized in that, in the determination step, when the brightness of the input image data is bright, the target brightness of the light emitting means is adjusted so that the target brightness is lower than when the brightness is dark. Control method.
発光手段と、入力画像データに基づいて前記発光手段からの光を変調することで画面上
に画像を表示する表示手段と、を有する表示装置の制御方法であって、
前記入力画像データの撮影時の撮影条件に関する撮影情報を取得する第1取得ステップと、
前記表示装置の制御方法の設置環境に関する環境情報を取得する第2取得ステップと、
前記入力画像データの明るさ、前記第1取得ステップで取得された前記撮影情報、及び、前記第2取得ステップで取得された前記環境情報に基づいて、前記発光手段の目標輝度を決定する決定ステップと、
前記発光手段の発光輝度を、前記決定ステップで決定された目標輝度に制御する制御ステップと、
を有し、
前記決定ステップでは、前記入力画像データによって表される画像の面積に対する、前記入力画像データの画素のうち画素値が閾値以上である画素からなる明部の面積の割合が小さいときに、当該割合が大きいときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整する
ことを特徴とする表示装置の制御方法。
A control method of a display device, comprising: light emitting means; and display means for displaying an image on a screen by modulating light from the light emitting means based on input image data,
A first acquisition step of acquiring imaging information on imaging conditions at the time of imaging of the input image data;
A second acquisition step of acquiring environment information on an installation environment of the control method of the display device;
A determination step of determining a target luminance of the light emitting unit based on the brightness of the input image data, the photographing information acquired in the first acquisition step, and the environment information acquired in the second acquisition step When,
Controlling the light emission luminance of the light emitting means to the target luminance determined in the determination step;
Have
In the determining step, when the ratio of the area of a bright portion made up of pixels whose pixel values are equal to or larger than the threshold among the pixels of the input image data is smaller than the area of the image represented by the input image data. And adjusting the target brightness of the light emitting means so that the target brightness is higher than when it is large.
前記撮影情報は、前記入力画像データの撮影時の環境光レベルに関する情報を含み、
前記環境情報は、前記表示装置の設置環境における環境光レベルに関する情報を含み、
前記決定ステップでは、前記入力画像データの撮影時の環境光レベルが高いときに、当該環境光レベルが低いときに比べて目標輝度が高くなり、かつ、前記表示装置の設置環境における環境光レベルが高いときに、当該環境光レベルが低いときに比べて目標輝度が高くなるように、前記発光手段の目標輝度を調整する
ことを特徴とする請求項9または10に記載の表示装置の制御方法。
The shooting information includes information on ambient light level at the time of shooting of the input image data,
The environmental information includes information on the ambient light level in the installation environment of the display device,
In the determination step, when the ambient light level at the time of capturing the input image data is high, the target brightness is higher than when the ambient light level is low, and the ambient light level in the installation environment of the display device is 11. The method according to claim 9, wherein the target luminance of the light emitting means is adjusted so that the target luminance is higher when the ambient light level is high than when the ambient light level is low.
前記決定ステップでは、前記撮影情報に基づいて前記発光手段の目標輝度を決定し、前記環境情報に基づいて前記決定された目標輝度を補正する
ことを特徴とする請求項9〜11のいずれか1項に記載の表示装置の制御方法。
The target luminance of the light emitting means is determined based on the photographing information in the determination step, and the determined target luminance is corrected based on the environment information. The control method of the display apparatus as described in a term.
前記決定ステップでは、
前記環境情報に基づいて、良好な視認が可能な表示輝度の範囲を推定し、
表示輝度が前記推定された範囲に近づくように、前記決定された目標輝度を補正することを特徴とする請求項12に記載の表示装置の制御方法。
In the determination step,
Based on the environmental information, estimate the range of display luminance that allows good visual recognition;
The control method of the display device according to claim 12, wherein the determined target luminance is corrected such that display luminance approaches the estimated range.
前記決定ステップでは、表示輝度が前記推定された範囲の内側の値となるように、前記決定された目標輝度を補正する
ことを特徴とする請求項13に記載の表示装置の制御方法。
The control method of a display device according to claim 13, wherein in the determination step, the determined target luminance is corrected such that the display luminance becomes a value inside the estimated range.
前記撮影情報は、前記入力画像データの撮影時の環境光レベル、ISO感度、シャッター速度、絞り値、及び、撮影モードの少なくとも1つを示す情報を含む
ことを特徴とする請求項9〜14のいずれか1項に記載の表示装置の制御方法。
The photographing information includes information indicating at least one of an ambient light level, an ISO sensitivity, a shutter speed, an aperture value, and a photographing mode at the time of photographing of the input image data. The control method of the display apparatus of any one statement.
前記環境情報は、前記表示装置の設置環境における環境光レベルを示す情報である
ことを特徴とする請求項9〜15のいずれか1項に記載の表示装置の制御方法。
The control method of a display device according to any one of claims 9 to 15, wherein the environment information is information indicating an ambient light level in an installation environment of the display device.
JP2017234914A 2017-12-07 2017-12-07 Display device and control method of display device Expired - Fee Related JP6541760B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017234914A JP6541760B2 (en) 2017-12-07 2017-12-07 Display device and control method of display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017234914A JP6541760B2 (en) 2017-12-07 2017-12-07 Display device and control method of display device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013179070A Division JP2015049274A (en) 2013-08-30 2013-08-30 Display device, method for controlling display device, and program

Publications (2)

Publication Number Publication Date
JP2018077488A JP2018077488A (en) 2018-05-17
JP6541760B2 true JP6541760B2 (en) 2019-07-10

Family

ID=62150301

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017234914A Expired - Fee Related JP6541760B2 (en) 2017-12-07 2017-12-07 Display device and control method of display device

Country Status (1)

Country Link
JP (1) JP6541760B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112367752B (en) * 2020-10-19 2023-01-10 深圳市太和世纪文化创意有限公司 Immersive hemispherical projection system, control method and intelligent device

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004294767A (en) * 2003-03-27 2004-10-21 Mitsubishi Electric Corp Image display device
JP4059910B2 (en) * 2005-11-11 2008-03-12 シャープ株式会社 Liquid crystal display
JP4210863B2 (en) * 2006-07-06 2009-01-21 セイコーエプソン株式会社 Image processing system, display device, program, and information storage medium
JP2008026720A (en) * 2006-07-24 2008-02-07 Oki Electric Ind Co Ltd Luminance adjustment device and luminance adjustment program
JP2009171008A (en) * 2008-01-11 2009-07-30 Olympus Corp Color reproduction apparatus and color reproduction program
JP2011085699A (en) * 2009-10-14 2011-04-28 Canon Inc Display device
JP2012008388A (en) * 2010-06-25 2012-01-12 Hitachi Consumer Electronics Co Ltd Liquid crystal display device
JP2015049274A (en) * 2013-08-30 2015-03-16 キヤノン株式会社 Display device, method for controlling display device, and program

Also Published As

Publication number Publication date
JP2018077488A (en) 2018-05-17

Similar Documents

Publication Publication Date Title
JP6598430B2 (en) Display device, display device control method, and program
JP6381215B2 (en) Image processing apparatus, image processing method, display apparatus, display apparatus control method, and program
JP2014155005A (en) Display apparatus and control method of the same
JP5457652B2 (en) Image processing apparatus and method
JP2016018309A (en) Image processing apparatus, image processing method, and program
US9819873B2 (en) Image-processing apparatus and image-processing method
US10565913B2 (en) Image display apparatus and control method thereof
KR20160130005A (en) Optical compensation system and Optical compensation method thereof
CN109120859B (en) Image data processing device, shooting equipment and display system
US9672650B2 (en) Image processing apparatus, image processing method, and storage medium
US10567669B2 (en) Display apparatus and control method thereof
JP2006080942A (en) Image processing apparatus, image processing program, image processing method, and imaging apparatus
JP6541760B2 (en) Display device and control method of display device
JP2009200743A (en) Image processor, image processing method, image processing program and imaging apparatus
JP2008263313A (en) Image processing apparatus and image processing program
JP2015023514A (en) Information processing apparatus, imaging apparatus, control method and program
JP2015049274A (en) Display device, method for controlling display device, and program
US20170061899A1 (en) Image display apparatus, image-processing apparatus, method of controlling image display apparatus, and method of controlling image-processing apparatus
JP5765599B2 (en) Imaging apparatus, image processing method, and program
US10277826B2 (en) Image processing apparatus and image processing method
JP5369751B2 (en) Image processing apparatus, imaging apparatus, and image processing program
JP2012129611A (en) Imaging apparatus
JP5527990B2 (en) Display control apparatus and display control method
JP6628925B2 (en) Image display device and control method thereof
KR20100019222A (en) Method and apparatus for controlling automatic white balance using optical sensor, and digital photographing apparatus using thereof

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181030

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20181116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190611

R151 Written notification of patent or utility model registration

Ref document number: 6541760

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees