JP2014230088A - 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置 - Google Patents

画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置 Download PDF

Info

Publication number
JP2014230088A
JP2014230088A JP2013108224A JP2013108224A JP2014230088A JP 2014230088 A JP2014230088 A JP 2014230088A JP 2013108224 A JP2013108224 A JP 2013108224A JP 2013108224 A JP2013108224 A JP 2013108224A JP 2014230088 A JP2014230088 A JP 2014230088A
Authority
JP
Japan
Prior art keywords
image
region
image adjustment
boundary
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013108224A
Other languages
English (en)
Inventor
山本 英二
Eiji Yamamoto
英二 山本
真範 三上
Masanori Mikami
真範 三上
岡田 俊二
Shunji Okada
俊二 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013108224A priority Critical patent/JP2014230088A/ja
Priority to EP14800928.5A priority patent/EP3001677B1/en
Priority to CN201480027770.3A priority patent/CN105210362B/zh
Priority to PCT/JP2014/001787 priority patent/WO2014188647A1/ja
Priority to US14/888,767 priority patent/US9998676B2/en
Publication of JP2014230088A publication Critical patent/JP2014230088A/ja
Priority to US15/944,899 priority patent/US10623653B2/en
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

【課題】順光領域と逆光領域が併存する画像を不自然さがなく見やすい画像にすることができる画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置を提供する。【解決手段】画像中の順光領域と逆光領域の境界を光源の位置に基づいて求める境界算出部と、境界を基準として、順光領域または逆光領域の状態を調整する画像調整部とを備える画像調整装置である。【選択図】図1

Description

本技術は、画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置に関する。
一般的に撮影装置による撮影は、画像中の任意の1点以上の点にて測光を行い、それを基に自動露出調整機構を用いることにより行われる。しかし、画像中に順光領域と逆光領域が併存する場合、順光領域、逆光領域共に見易くなるように撮影することは困難である。
順光領域を基準に露出を決定すると、逆光領域が暗くなりすぎる場合があり、逆に順光領域を基準に露出を行うと、順光領域が明るくなりすぎる場合がある。また、順光領域と順光領域両方の平均測光を行った場合は、明領域、暗領域共に中途半端な露出となってしまう問題がある。この問題に対し、画素または画素領域単位で露光時間制御を行う技術が提案されている(特許文献1)。
特開2013−21660号公報
しかし、縦横何分割かした小領域を単位として露出を変化させた場合、画像中において領域が矩形として視認され、画像に不自然さが生じてしまう場合がある。
本技術はこのような問題点に鑑みなされたものであり、順光領域と逆光領域が併存する画像を不自然さがなく見やすい画像にすることができる画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置を提供することを目的とする。
上述した課題を解決するために、第1の技術は、画像中の順光領域と逆光領域の境界を光源の位置に基づいて求める境界算出部と、境界を基準として、順光領域または前記逆光領域の状態を調整する画像調整部とを備える画像調整装置である。
また、第2の技術は、画像中の順光領域と逆光領域の境界を光源の位置に基づいて求め、境界を基準として、順光領域または前記逆光領域の状態を調整する画像調整方法である。
また、第3の技術は、画像中の順光領域と逆光領域の境界を光源の位置に基づいて求め、境界を基準として、順光領域または逆光領域の状態を調整する画像調整方法をコンピュータに実行させる画像調整プログラムである。
さらに、第4の技術は、光学系を介した光を受光して画像を生成する撮像部と、画像中の順光領域と逆光領域の境界を光源の位置に基づいて求める境界算出部と、境界を基準として、順光領域または逆光領域の状態を調整する画像調整部とを備える撮像装置である。
本技術によれば、順光領域と逆光領域が併存する画像を不自然さがなく見やすい画像にすることができる。
図1は、本技術の第1の実施の形態に係る画像調整装置の構成を示すブロック図である。 図2は、本技術の第1の実施の形態に係る撮像装置の構成を示すブロック図である。 図3は、正射影方式の魚眼レンズの仮想球面モデルである。 図4は、第1の実施の形態における処理の流れを示すフローチャートである。 図5Aは、本技術による処理が施されていない画像の例であり、図5Bは、本技術による処理が施された画像の例である。 図6Aは、処理対象の画像の例を示す図であり、図6Bは、画像の輝度をグラデーションで変化させることを示した図であり、図6Cは、処理が施された画像を示す図である。 図7は、本技術の第2の実施の形態に係る画像表示装置の構成を示す図である。 図8は、第2の実施の形態における処理の流れを示すフローチャートである。
以下、本技術の実施の形態について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<1.第1の実施の形態>
[1−1.画像調整装置および画像調整装置を備える撮像装置の構成]
[1−2.画像調整装置および撮像装置における処理]
<2.第2の実施の形態>
[2−1.画像調整装置および画像調整装置の機能を備える画像表示装置の構成]
[2−2.画像調整装置および画像表示装置における処理]
<3.変形例>
<1.第1の実施の形態>
[1−1.画像調整装置および画像調整装置を備える撮像装置の構成]
まず、本技術の第1の実施の形態に係る画像調整装置10および画像調整装置10の機能を備える撮像装置100の構成について説明する。第1の実施の形態では、画像調整装置10は撮像装置100において動作するものとする。
画像調整装置10は、境界算出部11および画像調整部12を備える。境界算出部11には、処理対象である画像データと、その画像データに係る画像中における光源の位置を示す光源情報が供給される。詳しくは後述するが、光源情報は、撮像装置100が備える光源検出部、または外部の装置としての光源検出装置による検出などにより求められる。
境界算出部11は、光源情報に基づいて、画像中における、光源が撮影位置の背後から被写体を照らしている領域(以下、順光領域と称する。)と、光源が撮影位置の前方から被写体を照らしている領域(以下、逆光領域と称する。)の境界を求めるものである。境界算出部11による境界の算出方法については後述する。算出された境界を示す情報(以下、境界情報と称する。)は、画像調整部12に供給される。
画像調整部12は、供給された境界情報に基づき、画像中の境界を基準として順光領域または逆光領域の状態を調整する処理を行う。画像調整部12は、順光領域、逆光領域のうちの少なくとも一方の状態を調整する。画像調整部12による処理の詳細は後述する。
図2は、画像調整装置10の機能を備える撮像装置100の構成を示すブロック図である。撮像装置100は、光学撮像系101、レンズ制御部102、撮像素子103、前処理回路104、カメラ処理回路105、画像メモリ106、表示部107、入力部108、記憶部109、位置検出部110、制御部111とから構成されている。また、制御部111は、光源検出部112、画像調整装置10を構成する境界算出部11、画像調整部12として機能する。
光学撮像系101は、被写体からの光を撮像素子103に集光するための撮影レンズ、撮影レンズを移動させてフォーカス合わせやズーミングを行うための駆動機構、シャッタ機構、アイリス機構などから構成されている。これらはレンズ制御部102による制御により駆動される。光学撮像系101を介して得られた被写体の光画像は、撮像素子103上に結像される。
レンズ制御部102は、例えば、レンズ内マイコンであり、制御部111および画像調整部12からの制御に従い、光学撮像系101の駆動機構、シャッタ機構、アイリス機構などの動作を制御する。これにより、露光時間(シャッタースピード)の調整、絞り値(F値)などの調整がなされる。
撮像素子103は、被写体からの入射光を光電変換して電荷量に変換し、アナログ撮像信号として出力する。撮像素子103から出力されるアナログ撮像信号は前処理回路104に出力される。撮像素子103としては、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などが用いられる。
前処理回路104は、撮像素子103から出力された撮像信号に対して、CDS(Correlated Double Sampling)処理によりS/N(Signal/Noise)比を良好に保つようにサンプルホールドなどを行う。さらに、AGC(Auto Gain Control)処理により利得を制御し、A/D(Analog/Digital)変換を行ってデジタル画像信号を出力する。これらの処理は、制御部111からの制御に従い行われる。
カメラ処理回路105は、前処理回路104からの画像信号に対して、ホワイトバランス調整処理や色補正処理、ガンマ補正処理、Y/C変換処理、AE(Auto Exposure)処理などの信号処理を施す。
画像メモリ106は、揮発性メモリ、例えば、DRAM(Dynamic Random Access Memory)で構成されるバッファメモリである。画像メモリ106は、前処理回路104およびカメラ処理回路105によって所定の処理が施された画像データを一時的に蓄えておくものである。
表示部107は、例えば、LCD(Liquid Crystal Display)、PDP(Plasma Display Panel)、有機EL(Electro Luminescence)パネルなどにより構成された表示デバイスである。表示部107には、撮像中のスルー画、記憶部109に記録された撮影済み画像などが表示される。
入力部108は、例えば、電源オン/オフ切り替えのための電源ボタン、撮像画像の記録の開始を指示するためのレリーズボタン、ズーム調整用の操作子、表示部107と一体に構成されたタッチスクリーンなどからなる。入力部108に対して入力がなされると、その入力に応じた制御信号が生成されて制御部111に出力される。そして、制御部111はその制御信号に対応した演算処理や制御を行う。
記憶部109は、例えば、ハードディスク、メモリースティック(ソニー株式会社の登録商標)、SDメモリーカードなどの大容量記憶媒体である。画像は例えばJPEG(Joint Photographic Experts Group)などの規格に基づいて圧縮された状態で保存される。また、保存された画像に関する情報、撮像日時などの付加情報を含むEXIF(Exchangeable Image File Format)データもその画像に対応付けられて保存される。
位置検出部110は、GPS(Global Positioning System)の受信デバイスにより構成されるものである。位置検出部110は、GPS衛星からGPS電波を受信して所定の処理を行って得られる軌道データと、GPS衛星から撮像装置100までの距離データとに基づいて撮像装置100の位置を検出する。GPS機能を用いることにより、撮影位置の緯度経度情報を取得することが可能であり、地磁気センサを併用することにより撮影方向を取得することが可能である。ただし、位置検出部110は、撮像装置100における必須の構成ではない。
制御部111は、CPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Memory)などから構成されている。ROMには、CPUにより読み込まれ動作されるプログラムなどが記憶されている。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって撮像装置100全体の制御を行う。
さらに、制御部111は所定のプログラムを実行することにより、光源検出部112、画像調整装置10を構成する境界算出部11および画像調整部12として機能する。ただし、それらの構成は、プログラムによって実現されるのみでなく、それぞれの機能を有するハードウェアによる専用の装置、回路などを組み合わせて実現されてもよい。
光源検出部112は、処理対象となる画像における光源の位置の検出を行うものである。光源検出部112による光源検出の方法としては、例えば、公知技術である、画像中における輝度分布に基づいて光源を検出する方法などを用いることができる。ただし、これに限られず、公知の光源を検出することができる方法であればどのようなものを採用してもよい。また、画像中に光源が存在しない場合には、光源検出用センサを用いることにより、光源の位置を検出することができる。
また、光源が太陽である場合には、撮影地点の緯度経度情報、撮影の日付および時刻情報に基づいて太陽の高度および方位を求め、その太陽の高度および方位を撮影方向と照らし合わせることにより、光源としての太陽の位置を検出することも可能である。撮影地点の緯度経度情報および撮影方向は、位置検出部110におけるGPS機能等により取得することが可能である。撮影日時および撮影時刻は、GPS機能を用いて取得する以外に、例えば、制御部111などが備えるRTC(Real Time Clock)で取得することが可能である。
光源検出部112により検出された光源情報は、境界算出部11に供給される。
境界算出部11は、光源情報に基づいて、画像中における順光領域と、逆光領域の境界を求めるものである。境界算出部11には、画像データおよび光源情報が供給される。画像調整装置10が撮像装置100において動作する場合、処理対象となる画像データは、例えば、撮像装置100の撮像素子103により取得された、スルー画を構成するフレーム画像である。処理対象がスルー画を構成するフレーム画像である場合、本技術による処理が施された画像を撮影により取得することが可能となる。
境界算出部11は、供給された画像情報および光源情報に基づいて画像中における順光領域と逆光領域の境界を求める。図3を参照して、境界の算出方法について説明する。図3は正射影方式の魚眼レンズの仮想球面モデルである。
まず、半径rの魚眼レンズ仮想球面モデル1の中心である原点0に向かって光源2から入射する入射光3を想定する。入射光3と魚眼レンズ仮想球面モデル1の交点Pから魚眼画像撮像面4へ引いた垂線と魚眼画像撮像面との交点P‘は、魚眼画像撮像面4に射影された光源2の位置となる。
そして、入射光3に鉛直で原点0を通る平面5を考えると、この平面5で二分される空間の光源2側が逆光領域となり、光源2と反対側の空間が順光領域となる。この逆光領域と順光領域の魚眼画像撮像面4上の境界線6は、以下の様にして求めることができる。
半径rの魚眼レンズ仮想球面モデル1上の任意の点を(x,y,z)とする、また、下記の式1、式2で示されるようにベクトルを置く。
[数1]
[数2]
そうすると、魚眼レンズ仮想球面モデル1は下記の式(3)のベクトル方程式で表される。
[数3]
また、入射光3に鉛直な平面5は下記の式(4)のベクトル方程式で表される。
[数4]
次に、式(3)と式(4)の交点を求める。上記の式(1)と、上記の式(2)から記述できる下記の式(5)を式(3)と式(4)に代入する。そうすると、下記の式(6)、式(7)が求まる。
[数5]
[数6]
[数7]
そして、式(7)より、下記の式(8)が導き出される。
[数8]
この式(8)を上記の式(6)に代入すると、下記の式(9)が求まる。
[数9]
ここで、x=u・cosθ、y=u・sinθと置き、上記の式(9)に代入すると、下記の式(10)が求まる。
[数10]
式(10)におけるuは正の値をとることが明らかであることから、式(10)から下記の式(11)が導き出される。
[数11]
したがって、魚眼画像撮像面4上における順光領域と逆光領域の境界線6は下記の式(12)、(13)で表される。
[数12]
このようにして、境界算出部11は、順光領域と逆光領域の境界線6は計算により算出する。境界算出部11は、算出した境界線を示す境界情報を画像調整部12に供給する。
画像調整部12は、供給された境界情報に基づいて、画像中の順光領域と逆光領域の輝度分布を取得し、画像の調整処理を行う。
画像調整部12は、画像調整装置10が撮像装置100において動作する場合、画像中の順光領域と逆光領域が適切な輝度となるように露出値(EV:Exposure Value)を求める。さらに、その露出値を得ることができるように撮像装置100の光学撮像系101における露光時間を設定する。
そして、画像調整部12は、レンズ制御部102に対して露光時間の設定情報を示す所定の制御信号を送信する。レンズ制御部102は、供給された制御信号に基づいて光学撮像系101におけるシャッタ機構を動作させて露光時間を調整する。この露光時間の調整により、画像の輝度の調整がなされる。画像調整部12は、順光領域、逆光領域のうちの少なくとも一方の状態を調整する。
画像調整部12は、例えば、画像中の順光領域の輝度に逆光領域の輝度が一致するように露光時間の設定を行う。より詳細には、例えば、画像中の順光領域の平均輝度に、逆光領域中の各画素の輝度が一致するように露光時間の設定を行う。
または、画像調整部12は、順光領域の輝度と逆光領域の輝度の平均値を求め、順光領域と逆光領域の輝度がその平均輝度に一致するように露光時間の設定を行なってもよい。
さらに、画像調整部12は、画像の表示に用いる表示部107、外部モニタなどの表示装置における最適な輝度レベルに順光領域と逆光領域の輝度が合うように露光時間の設定を行なってもよい。この場合、表示部107、外部表示装置の最適な輝度レベルは、事前に画像調整部12に保持させておくとよい。
なお、撮像装置100に対する入力により、上述した露光時間設定手法のどれを使用するかをユーザが選択できるようにしてもよい。
画像調整部12は、画素単位で露光時間設定を行なっても良いし、複数の画素からなる領域(画素領域)単位で露光時間設定を行なってもよい。画素単位で露光時間設定を行う場合は画像中の輝度の違いによる違和感をより低減させることができる。
以上のようにして画像調整装置10および画像調整装置10の機能を有する撮像装置100が構成されている。なお、画像調整装置10により行われる処理はハードウェア、またはソフトウェアにより実行可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、撮像装置100の制御部111のメモリにインストールして実行させる。
例えば、プログラムはハードディスクやROMなどの記録媒体にあらかじめ記録しておくことができる。または、プログラムはCD−ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)、半導体メモリなどの記録媒体に記録しておくことが可能である。このような記録媒体は、パッケージソフトウェアとして提供することができる。ユーザはそのパッケージソフトウェアを撮像装置100にインストールする。
なお、プログラムは、上述したような記録媒体から撮像装置100にインストールするほかに、インターネットにおいてアプリケーションとして提供されるものを撮像装置100に転送し、インストールすることも可能である。
[1−2.画像調整装置および撮像装置における処理]
次に画像調整装置10および画像調整装置10の機能を備える撮像装置100において行われる処理の流れについて図4を参照して説明する。図4は処理の流れを示すフローチャートである。処理対象の画像データは供給されているものとする。
まずステップS1で、光源検出部112により、光源検出処理が行われる。そして、光源が存在する場合、処理はステップS2からステップS3に進む(ステップS2のYes)。なお、上述したように、光源検出部112により検出された光源情報は、光源検出部112から境界算出部11に供給される。
次にステップS3で、境界算出部11により画像中の順光領域と逆光領域の境界が算出される。算出された境界情報は画像調整部12に供給される。次にステップS4で、画像調整部12により、露出値および露光時間が算出される。そして、ステップS5で、画像調整部12は、算出した露光時間に従ってレンズが駆動するようにレンズ制御部102に制御信号を送信し、画像の調整処理を行う。
説明はステップS2に戻る。ステップS2における光源検出により光源が検出されなかった場合、処理はステップS6に進む(ステップS2のNo)。そしてステップS6で、通常の露出設定がなされる。通常の露出設定においては、本技術の境界算出部11と画像調整部12は動作しない。
以上のようにして、本技術の第1の実施の形態における画像調整処理が行われる。本技術による処理の効果について図5を参照して説明する。図5Aは、本技術による処理が施されていない画像の例である。一方、図5Bは、本技術による処理を施して取得された画像である。
図5A、図5Bともに、画像略中央の破線が境界算出部11により求められた順光領域と逆光領域の境界である。また、図5A、図5Bともに、境界の左側が順光領域であり、境界の右側が逆光領域である。
図5Aにおいては、順光領域は輝度が高く被写体が見やすいため、ユーザは被写体を容易に視認することができる。一方、逆光領域は輝度が低いため被写体が暗く、ユーザは被写体をはっきりと視認することができない。
一方、図5Bに示されるように、この図5Aの画像に対して本技術の処理を施すことにより、逆光領域の輝度が順光領域の輝度と同等レベルまで高くなっている。これにより、逆光領域が明るくなり、逆光領域内の被写体も見やすくなっている。
本技術の一実施例によれば、撮影画像に順光領域と逆光領域が併存する場合、まず光源の位置を求め、そこから演算により求まる順光領域と逆光領域の境界線を基準に撮像装置100の露光時間を調整する。これにより、逆光により暗く写る暗領域と、順光で明るく写る明領域の両方が見易く、露出時間を変化させた境界線を目立たせることなく、違和感のない画像を得ることができる。
魚眼レンズ等を用いて広角の画像を撮影する場合は、順光の被写体と逆光の被写体が1枚の画像に写る場合が増える。通常の撮像装置100では、順光領域と逆光領域が明暗はっきり分かれてしまい、全体として見づらい画像となっていた。しかし、本技術によれば、逆光領域の輝度を上げて順光領域と逆光領域の明暗の差を少なくし、見やすい画像を得ることができる。特に、撮影時に魚眼レンズ等を用いて超広角の画像を撮影し、再生時にその一部を拡大して見ることが可能な機器においては、本技術を用いることにより、より良い画像を得ることができる。ただし、本技術は、魚眼レンズ以外にも広角レンズ、特殊なレンズを用いた場合においても適用可能である。
なお、画像調整部12は、順光領域と逆光領域の違和感がない画像とするために、輝度をグラデーション変化させるように処理してもよい。この点について図6を参照して説明する。
例えば図6Aに示されるように、逆光領域内においても、順光領域に近い領域は比較的明るく、順光領域から遠い領域は暗いという場合がある。このような場合、逆光領域全体の輝度を一律に上げると、逆光領域中の順光領域から遠い領域は順光領域と同等の明るさになったが、逆光領域中の順光領域に近い領域は明るくなりすぎてしまうということがある。
このような場合には、図6Bに示されるように、逆光領域中の順光領域に近い領域から遠い領域にかけて、輝度の変化の度合いをグラデーション変化させ、順光領域に近い領域は、順光領域と同等となるように輝度の上昇は抑え目とし、順光領域から遠い領域は、順光領域と同等となるように輝度を大きく上げる。
これにより、図6Cに示されるように、順光領域と逆光領域間において違和感がなく、さらに、逆光領域内においても違和感がない画像を得ることができる。なお、この処理は順光領域に対する処理においても適用可能である。
なお、順光領域と逆光領域の境界線を基準に、画素或いは画素領域単位の露出処理を行う際に、境界を挟んだ一定の領域で、徐々に露出設定を変化させるようにしてもよい。
なお、画像中に光源が複数存在する場合には、光源ごとに境界を算出し、さらに、光源ごとに画像調整部12による調整処理を行うとよい。
<2.第2の実施の形態>
[2−1.画像調整装置および画像調整装置の機能を備える画像表示装置の構成]
次に本技術の第2の実施の形態について説明する。第2の実施の形態においては、画像調整装置20は画像表示装置200において動作する。図7は第2の実施の形態に係る画像表示装置200の構成を示すブロック図である。なお、画像調整装置20の構成は第1の実施の形態におけるものと同様である。
画像表示装置200は、画像を表示することができる装置であり、例えば、パーソナルコンピュータ、タブレット端末、テレビジョン受像機、スマートフォン、携帯電話機などが含まれる。画像表示装置200は、表示部201、入力部202、音声出力部203、記憶部204、外部インターフェース205、通信部206および制御部207とから構成されている。また、制御部207は、光源検出部208、画像調整装置20を構成する境界算出部11、画像調整部21として機能する。
表示部201は、例えば、LCD、PDP、有機ELパネルなどにより構成された表示手段である。表示部201には、記憶部204に保存された画像、映像、さらに、外部インターフェース205を介して入力された外部記憶媒体に保存された画像、映像などが表示される。
入力部202は、ハードウェアボタン、タッチパネルなどからなる、ユーザから画像表示装置200に対する指示を入力するものである。入力部202に対して入力がなされると、その入力に応じた制御信号が生成されて制御部207に出力される。そして、制御部207はその制御信号に対応した演算処理や制御を行う。
音声出力部203は、音楽などの音声コンテンツ、または画像、映像に付随する音声の出力などを行うスピーカである。
記憶部204は、例えば、ハードディスク、メモリースティック(ソニー株式会社の登録商標)、SDメモリーカードなどの大容量記憶媒体である。画像は例えばJPEGなどの規格に基づいて圧縮された状態で保存される。
外部インターフェース205は、例えば、USB(Universal Serial Bus)などの外部機器と情報の送受信を行うためのインターフェースである。外部インターフェース205を介して接続される外部機器としては、例えば、デジタルカメラ、スマートフォン、携帯電話機、ノートパソコンなどがある。画像表示装置200には、外部インターフェース205からも画像データが供給される。
通信部206は、例えば、所定のプロトコルに基づいてインターネット、専用回線などのネットワークを介して他の装置などとの通信を行うための通信モジュール、ネットワークインターフェースである。通信方式は有線通信、無線LAN(Local Area Network)、Wi−Fi(Wireless Fidelity)、LTE(Long Term Evolution)、3G回線を用いた通信など、どのようなものでもよい。
また、画像表示装置200は、Bluetooth通信用のモジュールを備えるようにしてもよい。Bluetoothモジュールによって、外部Bluetooth機器である各種コンテンツ再生装置とのデータのやり取りが可能となる。
制御部207は、CPU、RAMおよびROMなどから構成されている。ROMには、CPUにより読み込まれ動作されるプログラムなどが記憶されている。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって画像表示装置200全体の制御を行う。
さらに制御部207は、所定のプログラムを実行することにより、光源検出部208、画像調整装置20を構成する境界算出部11および画像調整部21として機能する。ただし、それらの構成は、プログラムによって実現されるのみでなく、それぞれの機能を有するハードウェアによる専用の装置、回路などを組み合わせて実現してもよい。
第2の実施の形態においては、記憶部204に保存されている撮影済みの画像または、外部インターフェース205を介して入力された撮影済みの画像が画像調整装置20による処理のもと表示部201に表示される。
光源検出部208は、処理対象となる画像データにおける光源の位置の検出を行うものである。光源検出部208による光源検出の方法としては、例えば、公知技術である、画像中における輝度分布に基づいて光源を検出する方法を用いることができる。
なお、画像調整装置20の処理のもと画像表示装置200において表示される画像データにメタデータとして光源情報が付随している場合には、光源検出部112による光源検出処理は不要である。境界算出部11は、そのメタデータとして画像データに付随する光源情報を用いて境界を算出する。
境界算出部11は、画像中における順光領域と、逆光領域の境界を求めるものである。境界算出部11には、記憶部204または外部インターフェース205を介して外部記憶媒体から画像データが供給される。また、メタデータとして画像データに付随する光源情報も供給される。境界算出部11は光源情報に基づいて画像データに係る画像中の境界を求める。求められた境界情報は画像調整部21に供給される。なお、境界の算出方法は第1の実施の形態において説明したものと同様である。
画像調整部21は、供給された境界情報に基づいて、画像中の順光領域と逆光領域の輝度分布を取得し、表示部201に表示される画像の輝度の調整処理を行う。画像調整部21は、順光領域、逆光領域のうちの少なくとも一方の状態を調整する。画像調整部21は、例えば、画像中の順光領域の輝度に逆光領域の輝度が一致するように輝度の調整を行う。より詳細には、例えば、画像中の順光領域の平均輝度に、逆光領域中の各画素の輝度が一致するように輝度の調整を行う。
または、順光領域の輝度と逆光領域の輝度の平均値を求め、順光領域と逆光領域の輝度が共にその平均輝度に一致するように輝度の調整を行なってもよい。さらに、画像を表示する表示部201における最適な輝度レベルに順光領域と逆光領域の輝度が合うように輝度の調整を行なってもよい。この場合、表示部201の最適な輝度レベルは、事前に画像調整部21に保持させておくとよい。画像データの画素または複数の画素からなる画素領域単位で、画像の輝度を調整するようにしてもよい。
画像調整部21は、画素単位で輝度の調整を行なってもよいし、複数の画素からなる領域(画素領域)単位で輝度の調整を行なってもよい。画素単位で輝度の調整を行う場合は画像中の輝度の違いによる違和感をより低減させることができる。
以上のようにして、第2の実施の形態に係る画像調整装置20および画像表示装置200が構成されている。
[2−2.画像調整装置および画像表示装置における処理]
次に画像調整装置20および画像調整装置20の機能を備える画像表示装置200において行われる処理の流れについて図8を参照して説明する。図8は画像調整装置20および画像表示装置200により行われる処理の流れを示すフローチャートである。処理対象の画像データは供給されているものとする。
まずステップS21で、制御部207は、表示する画像データにメタデータとして光源情報が付随しているか否かを確認する。ステップS21で、画像データにメタデータとして光源情報が付随している場合、処理はステップS3に進む(ステップS21のYes)。この場合、光源情報はすでにあるため、ステップS1、2における光源検出処理は行われない。
そしてステップS3で、境界算出部11により、メタデータとして画像データに付随する光源情報を用いて画像中の境界が算出される。
ステップS3で、境界算出部11により境界が求められた後、処理はステップS22に進む。次にステップS22で、画像調整部21は、境界情報に基づいて画像を最適な状態で表示するための画像中の順光領域および逆光領域の輝度を算出する。そして、画像調整部21は、ステップS23で、算出した輝度で画像表示を行うように所定の制御信号を表示部201に供給する。これにより、表示部201において、輝度が調節された状態で画像が表示される。
説明はステップS21に戻る。画像データにメタデータとして光源情報が付随していない場合、処理はステップS1に進む(ステップS21のNo)。次に、ステップS1で、光源検出部208による光源検出処理が行われる。なお、ステップS1乃至ステップS3は第1の実施の形態と同様の処理であるため、その説明を省略する。そして、光源検出部208により検出された光源情報に基づいて、ステップS22およびステップS23の処理が行われる。ステップS22およびステップS23の処理は上述したものと同様である。
説明はステップS2に戻る。ステップS2における光源検出により光源が検出されなかった場合、処理はステップS24に進む(ステップS2のNo)。そしてステップS24で、通常の表示設定がなされる。通常の表示設定においては、画像調整装置20の境界算出部11と画像調整部21は動作しない。
なお、画像表示装置200が、光源検出部208を備えず、画像データのメタデータとしてのみ光源情報を得ることができる場合において光源情報がない場合は、ステップS24において、通常の輝度設定で画像が表示される。
以上のようにして、第2の実施の形態に係る画像調整装置20および画像表示装置200における処理が行われる。第2の実施の形態によれば、撮像装置100における撮影時ではなく、既に撮影済みの画像を表示する際にも本技術を適用することができる。よって、逆光領域が暗い状態で撮影してしまった画像であっても、逆光領域が明るい画像として表示させることができる。
<3.変形例>
以上、本技術の実施の形態について具体的に説明したが、本技術は上述の実施の形態に限定されるものではなく、本技術の技術的思想に基づく各種の変形が可能である。
本技術に係る画像調整装置は、撮像装置、画像表示装置に限らず、プリンタ、コピー機など画像を紙、布などの媒体に出力する画像出力装置にも適用することが可能である。本技術の利用分野としては、通常のカメラ、監視カメラ、プリンタ、ディスプレイ等における画像表示などが挙げられる。また、本技術は、静止画像の他、動画像にも適用することが可能である。
また、本技術は以下のような構成も取ることができる。
(1)
画像中の順光領域と逆光領域の境界を光源の位置に基づいて求める境界算出部と、
前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する画像調整部と
を備える画像調整装置。
(2)
前記画像調整部は、前記画像の撮影時における露光時間を調整することにより前記順光領域または前記逆光領域の状態を調整する
(1)に記載の画像調整装置。
(3)
前記画像調整部は、前記画像の表示時における輝度を調整することにより前記順光領域または前記逆光領域の状態を調整する
(1)に記載の画像調整装置。
(4)
前記画像調整部は、前記逆光領域の輝度が前記順光領域の輝度に一致するように調整を行う
(1)乃至(3)のいずれかに記載の画像調整装置。
(5)
前記画像調整部は、前記順光領域と前記逆光領域の輝度が、前記順光領域の輝度と前記逆光領域の輝度の平均に一致するように調整を行う
(1)乃至(3)のいずれかに記載の画像調整装置。
(6)
前記画像調整部は、前記画像が表示される表示部における最適な輝度に合わせて調整を行う
(1)乃至(3)のいずれかに記載の画像調整装置。
(7)
画像中の順光領域と逆光領域の境界を光源の位置に基づいて求め、
前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する
画像調整方法。
(8)
画像中の順光領域と逆光領域の境界を光源の位置に基づいて求め、
前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する
画像調整方法をコンピュータに実行させる画像調整プログラム。
(9)
光学系を介した光を受光して画像を生成する撮像部と、
前記画像中の順光領域と逆光領域の境界を光源の位置に基づいて求める境界算出部と、
前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する画像調整部と
を備える撮像装置。
10、20・・・・画像調整装置
11・・・・・・・境界算出部
12、21・・・・画像調整部
100・・・・・・撮像装置
103・・・・・・撮像素子

Claims (9)

  1. 画像中の順光領域と逆光領域の境界を光源の位置に基づいて求める境界算出部と、
    前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する画像調整部と
    を備える画像調整装置。
  2. 前記画像調整部は、前記画像の撮影時における露光時間を調整することにより前記順光領域または前記逆光領域の状態を調整する
    請求項1に記載の画像調整装置。
  3. 前記画像調整部は、前記画像の表示時における輝度を調整することにより前記順光領域または前記逆光領域の状態を調整する
    請求項1に記載の画像調整装置。
  4. 前記画像調整部は、前記逆光領域の輝度が前記順光領域の輝度に一致するように調整を行う
    請求項1に記載の画像調整装置。
  5. 前記画像調整部は、前記順光領域と前記逆光領域の輝度が、前記順光領域の輝度と前記逆光領域の輝度の平均に一致するように調整を行う
    請求項1に記載の画像調整装置。
  6. 前記画像調整部は、前記画像が表示される表示部における最適な輝度に合わせて調整を行う
    請求項1に記載の画像調整装置。
  7. 画像中の順光領域と逆光領域の境界を光源の位置に基づいて求め、
    前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する
    画像調整方法。
  8. 画像中の順光領域と逆光領域の境界を光源の位置に基づいて求め、
    前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する
    画像調整方法をコンピュータに実行させる画像調整プログラム。
  9. 光学系を介した光を受光して画像を生成する撮像部と、
    前記画像中の順光領域と逆光領域の境界を光源の位置に基づいて求める境界算出部と、
    前記境界を基準として、前記順光領域または前記逆光領域の状態を調整する画像調整部と
    を備える撮像装置。
JP2013108224A 2013-05-22 2013-05-22 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置 Pending JP2014230088A (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2013108224A JP2014230088A (ja) 2013-05-22 2013-05-22 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置
EP14800928.5A EP3001677B1 (en) 2013-05-22 2014-03-27 Image adjustment device, image adjustment method, image adjustment program, and image capture device
CN201480027770.3A CN105210362B (zh) 2013-05-22 2014-03-27 图像调整设备、图像调整方法和图像捕获设备
PCT/JP2014/001787 WO2014188647A1 (ja) 2013-05-22 2014-03-27 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置
US14/888,767 US9998676B2 (en) 2013-05-22 2014-03-27 Image adjustment apparatus, method, and imaging apparatus to determine a boundary in an image based on a position of a light source
US15/944,899 US10623653B2 (en) 2013-05-22 2018-04-04 Image adjustment apparatus and image adjustment method that determines and adjusts a state of a back light region in an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013108224A JP2014230088A (ja) 2013-05-22 2013-05-22 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置

Publications (1)

Publication Number Publication Date
JP2014230088A true JP2014230088A (ja) 2014-12-08

Family

ID=51933220

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013108224A Pending JP2014230088A (ja) 2013-05-22 2013-05-22 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置

Country Status (5)

Country Link
US (2) US9998676B2 (ja)
EP (1) EP3001677B1 (ja)
JP (1) JP2014230088A (ja)
CN (1) CN105210362B (ja)
WO (1) WO2014188647A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018050202A (ja) * 2016-09-21 2018-03-29 カシオ計算機株式会社 撮像装置、画像処理方法及びプログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107483823A (zh) * 2017-08-31 2017-12-15 努比亚技术有限公司 一种图像处理方法及终端
WO2020008511A1 (ja) * 2018-07-02 2020-01-09 株式会社ソニー・インタラクティブエンタテインメント 電子機器、コンテンツ処理装置、コンテンツ処理システム、画像データ出力方法、および画像処理方法
JP2020036091A (ja) * 2018-08-27 2020-03-05 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08146484A (ja) * 1994-11-15 1996-06-07 Canon Inc カメラ
US5818975A (en) 1996-10-28 1998-10-06 Eastman Kodak Company Method and apparatus for area selective exposure adjustment
JP4123900B2 (ja) 2002-11-05 2008-07-23 ノーリツ鋼機株式会社 画像処理方法、画像処理装置、画像処理プログラム、および画像処理プログラムを記録した記録媒体
JP4756316B2 (ja) * 2005-03-11 2011-08-24 アイシン精機株式会社 広域画像生成装置及びこれを用いた車両の周辺監視装置並びに広域画像生成方法
JP2007249568A (ja) 2006-03-15 2007-09-27 Omron Corp 画像処理装置および方法、記録媒体、並びに、プログラム
JP4830652B2 (ja) 2006-06-12 2011-12-07 日産自動車株式会社 画像処理装置及び画像処理方法
JP5215820B2 (ja) 2008-11-14 2013-06-19 パナソニック株式会社 撮像装置
US8547457B2 (en) * 2009-06-22 2013-10-01 Empire Technology Development Llc Camera flash mitigation
JP2013021660A (ja) 2011-07-14 2013-01-31 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
CN102694963B (zh) * 2012-04-27 2014-09-17 南京航空航天大学 一种获取无阴影目标图像的方法
US20140240477A1 (en) * 2013-02-26 2014-08-28 Qualcomm Incorporated Multi-spectral imaging system for shadow detection and attenuation

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018050202A (ja) * 2016-09-21 2018-03-29 カシオ計算機株式会社 撮像装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
EP3001677B1 (en) 2019-06-19
CN105210362B (zh) 2020-04-07
US20160088207A1 (en) 2016-03-24
US10623653B2 (en) 2020-04-14
WO2014188647A1 (ja) 2014-11-27
EP3001677A4 (en) 2016-11-30
US20180227477A1 (en) 2018-08-09
CN105210362A (zh) 2015-12-30
EP3001677A1 (en) 2016-03-30
US9998676B2 (en) 2018-06-12

Similar Documents

Publication Publication Date Title
JP6460721B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6659162B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
EP3306913B1 (en) Photographing method and apparatus
JP5713885B2 (ja) 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
JP2008170932A (ja) 撮像装置および撮像装置の露出制御方法
JP2012253674A (ja) 動画生成装置、動画生成方法、および、プログラム
US10623653B2 (en) Image adjustment apparatus and image adjustment method that determines and adjusts a state of a back light region in an image
JP2007074031A (ja) 撮像装置、及び、画像処理装置及び方法
US8860840B2 (en) Light source estimation device, light source estimation method, light source estimation program, and imaging apparatus
JP2014123915A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
US9986163B2 (en) Digital photographing apparatus and digital photographing method
JP2015136096A (ja) 撮像装置
JP2014179920A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP6758950B2 (ja) 撮像装置、その制御方法とプログラム
WO2019064757A1 (ja) 撮像装置、撮像方法、およびプログラム
JP7247609B2 (ja) 撮像装置、撮像方法およびプログラム
KR20110062391A (ko) 촬상장치 및 이를 이용한 스미어 제거 방법
US10110826B2 (en) Imaging with adjustment of angle of view
JP7131541B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US10250760B2 (en) Imaging device, imaging system, and imaging method
JP2008180840A (ja) 撮影装置
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
JP2006157342A (ja) カメラモジュール
JP2008160406A (ja) 撮影装置
US20210289163A1 (en) Image processing device, image processing method, and program