JP2011076167A - 画像表示装置及び方法並びにプログラム - Google Patents

画像表示装置及び方法並びにプログラム Download PDF

Info

Publication number
JP2011076167A
JP2011076167A JP2009224009A JP2009224009A JP2011076167A JP 2011076167 A JP2011076167 A JP 2011076167A JP 2009224009 A JP2009224009 A JP 2009224009A JP 2009224009 A JP2009224009 A JP 2009224009A JP 2011076167 A JP2011076167 A JP 2011076167A
Authority
JP
Japan
Prior art keywords
image
face
light source
display
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009224009A
Other languages
English (en)
Other versions
JP4831223B2 (ja
Inventor
Takayuki Hiroya
孝幸 廣谷
Keiichi Sakurai
敬一 櫻井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2009224009A priority Critical patent/JP4831223B2/ja
Priority to US12/887,741 priority patent/US20110074782A1/en
Priority to CN2010105460395A priority patent/CN102096916A/zh
Publication of JP2011076167A publication Critical patent/JP2011076167A/ja
Application granted granted Critical
Publication of JP4831223B2 publication Critical patent/JP4831223B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/50Lighting effects
    • G06T15/506Illumination models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Image Generation (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)

Abstract

【課題】鑑賞者に現実感のある自然な画像の提示を可能にする画像表示装置を提供すること。
【解決手段】装置の撮影部22は、表示部21を視認する鑑賞者11が存在し得る場所の画像を撮影する。装置は、その撮影画像から鑑賞者11の顔を検出する。装置は、検出された顔の顔位置と、光源12の光源位置とをそれぞれ決定する。装置は、顔位置及び光源位置に基づいて、表示画像(時計のオブジェクト31を含む画像)の中から反射領域61を検出する。次に、装置は、反射領域61に対して反射効果を付加する画像処理を、表示画像のデータに対して実行する。そして、装置は、当該画像処理後のデータが表わす表示画像を表示部21に表示させる。
【選択図】図1

Description

本発明は、画像処理技術に関し、例えば、鑑賞者に現実感のある自然な画像を提示することができる画像表示装置及び方法並びにプログラムに関する。
従来より、画像に反射光と陰影を付加して三次元の効果を演出する画像処理が存在する(例えば、特許文献1参照)。
特開2007−328460号公報
しかしながら、従来の画像処理では、画像に反射光と陰影を付加する際に、画像を鑑賞する鑑賞者の存在については何ら考慮されていなかった。このため、従来の画像処理で三次元の効果を演出した画像は、実際の環境とは無関係に表示される反射光又は陰影によって、鑑賞者にとって、違和感のある不自然な画像として視認される場合があった。
そこで、本発明は、上記課題に鑑みてなされたものであり、鑑賞者に現実感のある自然な画像を提示することを目的とする。
本発明の第1の観点によると、表示部に表示される表示画像を鑑賞する鑑賞者を撮影する撮影部と、前記撮影部により撮影された前記画像から、顔を検出する顔検出部と、前記顔検出部により検出された前記顔の位置を決定する顔位置決定部と、光源の位置を決定する光源位置決定部と、前記顔位置決定部により決定された前記顔の位置、及び、前記光源位置決定部により決定された前記光源の位置に基づいて、前記表示画像から、前記光源から入射した光が前記顔の方向に反射する反射領域を検出する反射領域検出部と、前記反射領域検出部により検出された前記反射領域に対して反射効果を付加する画像処理を、前記表示画像のデータに対して実行する反射効果処理部と、前記反射効果処理部により前記画像処理が実行された前記データに基づいて、前記表示画像を前記表示部に表示させる表示制御部と、を備える画像表示装置を提供する。
本発明の第2の観点によると、前記光源は仮想光源であり、前記光源位置決定部は、前記顔の位置に基づいて前記仮想光源の位置を決定する画像表示装置を提供する。
本発明の第3の観点によると、前記光源は実光源であり、前記撮影画像の輝度分布を測定する輝度測定部をさらに備え、前記光源位置決定部は、前記輝度測定部の測定結果に基づいて前記実光源の位置を決定する画像表示装置を提供する。
本発明の第4の観点によると、前記反射領域検出部は、さらに、前記表示画像から、陰影が存在する影領域を検出し、前記反射効果処理部は、さらに、前記反射領域検出部により検出された前記影領域に対して影効果を付加する画像処理を、前記表示画像の前記データに対して実行する画像表示装置を提供する。
本発明の第5の観点によると、前記顔位置決定部は、前記検出部により複数の顔が検出された場合、前記複数の顔の中から所定の1つを処理対象の顔として設定し、前記処理対象の顔の位置を決定する画像表示装置を提供する。
本発明の第6の観点によると、前記検出部により顔が検出されなかった場合、前記反射効果処理部は前記画像処理の実行を禁止する画像表示装置を提供する。
本発明の第7の観点によると、画像の撮影を制御して表示部に表示される表示画像を鑑賞する鑑賞者を撮影する撮影制御ステップと、前記撮影制御ステップの制御処理により撮影された前記画像から、顔を検出する顔検出ステップと、前記顔検出ステップの処理により検出された前記顔の位置を決定する顔位置決定ステップと、光源の位置を決定する光源位置決定ステップと、前記顔位置決定ステップの処理により決定された前記顔の位置、及び、前記光源位置決定ステップの処理により決定された前記光源の位置に基づいて、前記表示画像の中から、前記光源から入射した光が前記顔の方向に反射する反射領域を検出する反射領域検出ステップと、前記反射領域検出ステップの処理により検出された前記反射領域に対して反射効果を付加する画像処理を、前記表示画像のデータに対して実行する反射効果処理ステップと、前記反射効果処理ステップにより前記画像処理が実行された前記データに基づいて、前記表示画像を前記表示部に表示させる表示制御ステップと、を含む画像表示方法を提供する。
本発明の第8の観点によると、画像処理を制御するコンピュータに、画像の撮影を制御して表示部に表示される表示画像を鑑賞する鑑賞者を撮影する撮影制御ステップと、前記撮影制御ステップの制御処理により撮影された前記画像から、顔を検出する顔検出ステップと、前記顔検出ステップの処理により検出された前記顔の位置を決定する顔位置決定ステップと、光源の位置を決定する光源位置決定ステップと、前記顔位置決定ステップの処理により決定された前記顔の位置、及び、前記光源位置決定ステップの処理により決定された前記光源の位置に基づいて、前記表示画像の中から、前記光源から入射した光が前記顔の方向に反射する反射領域を検出する反射領域検出ステップと、前記反射領域検出ステップの処理により検出された前記反射領域に対して反射効果を付加する画像処理を、前記表示画像のデータに対して実行する反射効果処理ステップと、前記反射効果処理ステップにより前記画像処理が実行された前記データに基づいて、前記表示画像を前記表示部に表示させる表示制御ステップと、を含む制御処理を実行させるプログラムを提供する。
本発明によれば、鑑賞者に現実感のある自然な画像の提示を可能にすることができる。
本発明の一実施の形態に係る画像表示装置を構成するデジタルフォトフレームの外観構成を示す正面図である。 図1のデジタルフォトフレームの機能的構成を示す機能ブロック図である。 図1のデジタルフォトフレームの外観構成を示す正面図であって、光源が仮想光源である場合の例を説明する図である。 図1のデジタルフォトフレームの外観構成を示す上面図であって、光源顔角度算出部の処理の例を説明する図である。 図1のデジタルフォトフレームの外観構成を示す上面図であって、反射効果処理部の処理の例を説明する図である。 図1のデジタルフォトフレームのハードウェアの構成を示すブロック図である。 図1のデジタルフォトフレームにおける画像表示処理の流れの一例を示すフローチャートである。 本発明の変形態様に係る画像表示装置を構成するデジタルフォトフレームの外観構成を示す上面図である。 図8のデジタルフォトフレームが演出する反射効果と影効果を説明する図である。
以下、本発明の実施の形態を図面に基づいて説明する。
本発明の画像表示装置は、例えばデジタルフォトフレームやパーソナルコンピュータ等により構成することができる。以下、画像表示装置をデジタルフォトフレーム1として構成した場合について説明する。図1は、デジタルフォトフレーム1の外観構成例を示す正面図である。
デジタルフォトフレーム1の正面には、例えば、液晶ディスプレイ等で構成される表示部21が設けられている。本実施の形態では、表示部21に表示される画像(以下、「表示画像」と呼ぶ)は、時計のオブジェクト31を含むものとする。したがって、デジタルフォトフレーム1の表示画像を観賞する鑑賞者11は、表示部21に表示される時計のオブジェクト31を見ることによって、現在の時刻を知ることができる。
さらに、デジタルフォトフレーム1には、例えばデジタルカメラ等として構成される撮影部22が設けられている。撮影部22は、デジタルフォトフレーム1の正面(表示部21の表示面)から前方に向かう方向に対して、画角の範囲内にある画像を撮影する。以下、撮影部22により撮影された画像を、「撮影画像」と呼ぶ。換言すると、撮影部22は、表示部21を鑑賞する鑑賞者11が存在し得る場所の画像を、撮影画像として撮影して、撮影画像の画像データを出力する。なお、本実施の形態では、図4を参照して後述するが、表示部21の中央から表示画像を観賞する鑑賞者を撮影できるように、撮影部22は表示部21の後部に配置するものとして説明するが、その配置位置は特に限定されず、例えば表示部21の表示範囲外に配置してもよい。
デジタルフォトフレーム1は、撮影部22から出力された画像データに基づいて、撮影画像に含まれる鑑賞者11の顔の検出を試みる。ここで、顔が検出された場合、デジタルフォトフレーム1は、顔の位置を特定する情報、例えば、撮影部22を基準とする顔までの距離及び方向に関する情報を決定する。このようにして得られた顔の位置を特定する情報を以下、「顔位置」と呼ぶ。ここで、時計のオブジェクト31を見るために鑑賞者11の顔が存在し得る位置の範囲を予め予想しておき、撮影部22は、この予想される範囲を十分に撮影できるように設計しておくことが好ましい。本実施の形態では、オブジェクトとして時計のオブジェクト31を用いて説明するが、オブジェクトはこれに限定されない。
また、デジタルフォトフレーム1は、光源12の位置を特定する情報、例えば、撮影部22を基準とする光源12までの距離及び方向に関する情報を決定する。このようにして得られた光源12の位置を特定する情報を以下、「光源位置」と呼ぶ。本実施の形態では、光源12として、実光源と仮想光源とを選択的に採用することができる。したがって、光源位置の決定手法は、実光源と仮想光源とで異なるが、それらの具体例については後述する。
次に、デジタルフォトフレーム1は、検出した顔位置及び光源位置に基づいて、表示画像の中から、光源12から入射した光が鑑賞者11の顔の方向に反射すると想定される領域(以下、「反射領域」と呼ぶ)を検出する。そして、デジタルフォトフレーム1は、例えば、反射領域の輝度を上げるなどして、反射領域において光があたかも反射しているように演出する効果(以下、「反射効果」と呼ぶ)を付加する画像処理を、表示画像の画像データに対して実行する。さらに、デジタルフォトフレーム1は、検出した顔位置及び光源位置に基づいて、表示画像の中の反射領域を除く領域から、鑑賞者11に陰影として見えると想定される領域(以下、「影領域」と呼ぶ)を検出する。そして、デジタルフォトフレーム1は、例えば、影領域の輝度を下げるなどして、影領域には光が反射せずにあたかも陰影が存在しているように演出する効果(以下、「影効果」と呼ぶ)を付加する画像処理を、表示画像の画像データに対して実行する。
デジタルフォトフレーム1は、このような画像処理を実行して生成した画像データに基づいて、表示画像を表示部21に表示する。こうして得られる表示画像は、実際の鑑賞者11の環境に合わせて、反射領域には反射光(若しくは拡散光)が存在し、影領域には陰影が存在する画像となる。例えば図1の例では、時計のオブジェクト31の長針32の一部の領域61が、反射領域として検出されて、反射光(若しくは拡散光)が表示されている。このように、デジタルフォトフレーム1は、鑑賞者11にとって現実感のある自然な画像を、表示画像として表示部21に表示させることができる。
図2は、デジタルフォトフレーム1の機能的構成例を示す機能ブロック図である。図2を参照して、本実施の形態のデジタルフォトフレーム1の機能的構成について説明する。
デジタルフォトフレーム1はより詳細には、上述した表示部21及び撮影部22に加えてさらに、データ記憶部51と、顔検出部52と、顔位置決定部53と、輝度測定部54と、光源位置決定部55と、光源顔角度算出部56と、反射領域検出部57と、反射効果処理部58と、表示制御部59と、を備える。
データ記憶部51は、表示画像の画像データや、該表示画像の三次元情報である三次元データ(以下、まとめて、表示画像のデータと呼ぶ)を記憶している。例えば本実施の形態では、図1の時計のオブジェクト31を構成する長針32等の各構成要素のデータも、データ記憶部51に記憶されている。また、仮想光源の種類や位置等を特定可能なデータ(以下、仮想光源データと呼ぶ)も、データ記憶部51に記憶されている。
顔検出部52は、撮影部22から出力された画像データに基づいて、撮影画像に含まれる人物の顔の検出を試みる。1以上の人物の顔が検出された場合、顔検出部52の検出結果は、顔位置決定部53に供給される。顔位置決定部53は、顔検出部52により検出された1以上の顔の中から所定の1つを、処理対象の顔として設定する。顔位置決定部53は、こうして設定された処理対象の顔位置を決定する。図1の例では、一人の鑑賞者11のみが存在することから、鑑賞者11の顔が処理対象の顔となるので、顔位置決定部53は、鑑賞者11の顔位置を決定する。顔位置決定部53により決定された顔位置は、光源位置決定部55、光源顔角度算出部56、及び反射領域検出部57に供給される。
輝度測定部54は、撮影部22から出力された画像データに基づいて、撮影画像の輝度分布を測定する。輝度測定部54が測定した輝度分布の情報は、撮影画像の画像データとともに、光源位置決定部55に供給される。
光源位置決定部55は、仮想光源を採用する場合は、仮想光源データをデータ記憶部51から取得する。そして、光源位置決定部55は、仮想光源データに基づいて、仮想光源の光源位置を決定する。
本実施の形態では、図1に示すように、表示部21の中心に対して紙面に向かって左側に鑑賞者11の顔が存在する場合、表示部21の中心に対して紙面に向かって右側に仮想光源である光源12が位置するように、光源位置が決定される。これに対して、図3に示すように、表示部21の中心に対して紙面に向かって右側に鑑賞者11の顔が存在する場合、表示部21の中心に対して紙面に向かって左側に仮想光源である光源12が位置するように、光源位置が決定される。鑑賞者11にとって好適な反射効果や影効果を付加するためには、鑑賞者11の顔位置に基づいて仮想光源の光源位置を決定することが好ましいと考えられる。なお、仮想光源の光源位置は、仮想光源データに基づく手法に限定されない。本発明によると、実装に応じて、光源位置を任意の位置及び方向に設定して画像処理することが可能である。
図2に戻り、光源位置決定部55は、実光源を採用する場合、輝度測定部54が測定した輝度分布の情報を取得する。光源位置決定部55は、この輝度分布の情報に基づいて、撮影画像のうち一定以上の輝度を有する領域を、実光源として決定する。そして、光源位置決定部55は、撮影画像の画像データに基づいて、決定した実光源の光源位置を決定する。
このようにして光源位置決定部55により決定された光源位置は、光源顔角度算出部56及び反射領域検出部57に供給される。
光源顔角度算出部56は、例えば図4に示すように、処理対象の顔(図4の例では鑑賞者11の顔)と撮影部22とを通る直線と、光源12と撮影部22とを通る直線とがなす角度θα(以下、「顔光源角度θα」と呼ぶ)を算出する。顔光源角度θαは、図2の顔位置決定部53により決定された顔位置、光源位置決定部55により決定された光源位置、及び、撮影部22の画角に基づいて算出される。顔光源角度θαは、光源顔角度算出部56から反射領域検出部57に供給される。
反射領域検出部57は、表示画像のデータをデータ記憶部51から取得する。また、反射領域検出部57は、顔光源角度θαを光源顔角度算出部56から取得し、顔位置を顔位置決定部53から取得し、光源位置を光源位置決定部55から取得する。そして、反射領域検出部57は、こうして取得した各種データに基づいて、表示画像における反射領域を検出する。
本実施の形態では、説明を容易にするため、時計のオブジェクト31の表面は凹凸が無い平面であるものとし、時計のオブジェクト31のうちの針にのみ反射効果が付加されるものとして説明する。この場合、例えば図5に示すように、反射領域検出部57は、表示画像を構成する領域毎に、想定される光源12からの光の入射角θinと、その光の反射角θout(=入射角θin)を求める。そして、反射領域検出部57は、例えば、表示画像の時計のオブジェクト31の針を構成する領域の中で、顔光源角度θαが、反射角θoutの略2倍の角度(入射角θin+反射角θoutとほぼ同一の角度)となる領域を、反射領域として検出する。図5の例では、時計のオブジェクト31の長針32の一部の領域61が、反射領域として検出される。なお、反射領域の検出手法は、本実施の形態の手法に特に限定されず、例えば、表示画像の各領域の撮影部22との距離毎に顔光源角度θαを補正するなど、実装に応じて好適な手法を採用してもよい。
図2に戻り、反射領域検出部57は、さらに、表示画像の中から、検出された反射領域以外の所定の領域を影領域として検出する。反射領域検出部57により検出された反射領域及び影領域を特定する情報が、反射領域検出部57の検出結果として反射効果処理部58に供給される。
反射効果処理部58は、データ記憶部51から表示画像のデータを取得する。反射効果処理部58は、反射領域検出部57の検出結果に基づいて、反射領域に対して反射効果を付加する画像処理を、かつ影領域に対して影効果を付加する画像処理を、表示画像のデータに対して実行する。反射効果や影効果が付加された表示画像のデータは、表示制御部59に供給される。
表示制御部59は、反射効果処理部58から供給されたデータに基づいて、反射効果や影効果が付加された表示画像を表示部21に表示させる。図1の例では、時計のオブジェクト31の長針32の一部の領域61が、反射領域として、反射効果が付加されて表示される。その結果、鑑賞者11は、時計のオブジェクト31の長針32の一部の領域61において光が反射している様子を鑑賞することができる。また、図1には図示はしないが、例えば時計のオブジェクト31の別の部分は影領域として、影効果が付加されて表示される。その結果、鑑賞者11は、時計のオブジェクト31の影領域においてあたかも陰影が存在している様子を鑑賞することができる。さらに、図示はしないが、時計のオブジェクト31の長針32は時間の経過とともに回転移動していくので、表示画像の長針32構成する領域の中に、顔光源角度θαと、反射角θoutの略2倍の角度とが一致する領域が存在しなくなる時間帯がある。このような時間帯では、反射領域は検出されずに、長針32は反射効果が付加されずに表示される。したがって、鑑賞者11は、時間帯に応じて、長針32が反射したり、反射しなかったりする様子を鑑賞することができる。さらに、図示はしないが、鑑賞者11は、このような様子を短針や秒針についても鑑賞することができる。このようにして、鑑賞者11にとって現実感のある自然な画像が、表示画像として表示部21に表示される。
図6は、デジタルフォトフレーム1のハードウェアの構成例を示すブロック図である。
デジタルフォトフレーム1は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、バス104と、入出力インターフェース105と、入力部106と、出力部107と、記憶部108と、通信部109と、ドライブ110と、上述した撮影部22と、を備えている。
CPU101は、ROM102に記録されているプログラムに従って各種の処理を実行する。又は、CPU101は、記憶部108からRAM103にロードされたプログラムに従って各種の処理を実行する。RAM103にはまた、CPU101が各種の処理を実行する上において必要なデータ等も適宜記憶される。
例えば本実施の形態では、図2の顔検出部52乃至表示制御部59の各機能を実行するプログラムが、ROM102や記憶部108に記憶されている。従って、CPU101が、このプログラムに従った処理を実行することで、顔検出部52乃至表示制御部59の各機能を実現することができる。なお、以下、このプログラムに従った処理を、画像表示処理と呼ぶ。画像表示処理の一例については、図7のフローチャートを参照して後述する。
CPU101、ROM102、及びRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インターフェース105も接続されている。
入出力インターフェース105には、入力部106、図2の表示部21を含む出力部107、及び、ハードディスク等より構成される記憶部108が接続されている。記憶部108には、図2のデータ記憶部51が含まれている。入出力インターフェース105にはまた、モデム、ターミナルアダプタ等より構成される通信部109や、図2の撮影部22が接続されている。通信部109は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
入出力インターフェース105にはまた、必要に応じてドライブ110が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなるリムーバブルメディア111が適宜装着される。そして、それらから読み出されたプログラムが、必要に応じて記憶部108にインストールされる。また、リムーバブルメディア111は、図2の例ではデータ記憶部51に記憶されている画像データや三次元データ等の各種データも記憶することができる。
図7は、図6のデジタルフォトフレーム1による画像表示処理の流れの一例を示すフローチャートである。
ステップS1において、CPU101は、撮影部22を制御して、表示部21の前方を撮影する。具体的には例えば、図1の例では、鑑賞者11と、光源12が実光源の場合さらに光源12を含む撮影画像が撮影される。
ステップS2において、CPU101は、撮影部22から出力された画像データに基づいて、撮影画像に含まれる人物の顔の検出を試みる。
ステップS3において、CPU101は、1以上の顔が存在するか否かを判定する。
ステップS2の処理で1つの顔も検出されなかった場合、又は、ステップS2の処理で検出された顔の全てが一定距離以上離間していると判断される場合(例えば全ての顔の領域が一定面積以下である場合)、ステップS3の処理でNOであると判定される。その結果、後述するステップS4乃至S9の処理は実行されずに、すなわち、反射効果や影効果を付加する画像処理は実行されずに、処理はステップS10に進む。ステップS10において、CPU101は、反射効果や影効果が付加されていない表示画像を表示部21に表示させる。これにより、画像表示処理は終了となる。
これに対して、ステップS2の処理で、一定距離内に存在する1以上の顔が検出された場合(例えば1以上の顔の領域が一定面積よりも大きい場合)、ステップS3の処理でYESであると判定されて、処理はステップS4に進む。具体的には例えば、図1の例では、鑑賞者11の顔が検出されるので、ステップS3の処理でYESであると判定されて、処理はステップS4に進む。
ステップS4において、CPU101は、1以上の顔のうち1つを処理対象の顔に設定する。すなわち、複数の顔が検出された場合には、複数の顔の全てにとって適切な反射効果や影効果を付加することは非常に困難である。そこで、CPU101は、複数の顔のうちの所定の1つを処理対象の顔に設定する。CPU101は、こうして設定した処理対象の顔にとって適切な反射効果や影効果が付加されるように、ステップS5以降の処理を実行する。複数の顔の中から処理対象の顔を一つ選択する手法は、特に限定されず、例えば、顔検出部52が画像の中央に検出した顔を処理対象の顔に選択する手法、あるいは、予め特徴を記憶してあるユーザの顔を処理対象の顔に選択する手法など、実装に応じて決定してよい。図1の例では、鑑賞者11の顔が処理対象の顔に設定されたものとして説明を続ける。
ステップS5において、CPU101は、処理対象の顔の顔位置を決定する。具体的には例えば、図1の例では、ステップS1の処理で撮影された撮影画像データに基づいて、鑑賞者11の顔位置が決定される。
ステップS6において、CPU101は、光源位置を決定する。なお、上述したように、本実施の形態では、仮想光源と実光源とを選択的に採用することができるが、何れを光源として選択するかによって、光源位置を決定する手法が異なることになる。具体的には例えば、図1の例では、光源12の光源位置が決定される。
ステップS7において、CPU101は、撮影部22の画角並びに顔位置及び光源位置に基づいて、顔と光源の角度を算出する。具体的には例えば、図4に示すように、顔光源角度θαが算出される。
ステップS8において、CPU101は、算出された角度に基づいて、表示画像における反射領域及び影領域を検出する。ここでは、表示画像の時計のオブジェクト31の針を構成する領域毎に、想定される光源12からの光の入射角θinと反射角θout(=入射角θin)が求められる。そして、この時点で、表示画像の中で、顔光源角度θαが、反射角θoutの略2倍の角度(入射角θin+反射角θoutとほぼ同一の角度)となる針の領域が、反射領域として検出される。図5の例では、時計のオブジェクト31の長針32の一部の領域61が、反射領域として検出される。また、表示画像の中から、検出された反射領域以外の所定の領域が影領域として検出される。
ステップS9において、CPU101は、反射領域に対する反射効果及び影領域に対する影効果を付加する画像処理を、表示画像のデータに対して実行する。
ステップS10において、CPU101は、ステップS9の画像処理が実行された画像データに基づいて、反射領域に対する反射効果及び影領域に対する影効果が付加された画像を、表示画像として表示部21に表示させる。具体的には例えば、図1の例では、時計のオブジェクト31の長針32の一部の領域61が、反射領域として、反射効果が付加されて表示される。また図示はしないが、例えば時計のオブジェクト31の別の部分は影領域として、影効果が付加されて表示される。
これにより、画像表示処理が終了となる。
以上説明したように、本実施の形態の画像表示装置は、撮影画像から鑑賞者の顔を検出して、その顔の顔位置を決定する。また、本実施の形態の画像表示装置は、仮想光源又は実光源の光源位置を決定する。すると、本実施の形態の画像表示装置は、決定した顔位置及び光源位置に基づいて、表示画像における反射領域及び影領域を検出する。本実施の形態の画像表示装置は、こうして検出した反射領域には反射効果を付加しかつ影領域には影効果を付加する画像処理を、表示画像の画像データに対して実行する。これにより、本実施の形態の画像表示装置は、反射領域に対しては反射効果が付加されかつ影領域に対しては影効果が付加された画像を、表示画像として表示することができる。すなわち、本実施の形態の画像表示装置は、鑑賞者に現実感のある画像を表示することができる。
なお、本発明は本実施の形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
例えば、本実施の形態では、デジタルフォトフレーム1が表示する時計のオブジェクト31の表面を凹凸の無い平面として説明したが、本発明はこれに限定されない。時計のオブジェクト31は、実装に応じて様々な立体的形状を表す三次元オブジェクトから構成されてもよい。
例えば、図8に示すように、時計のオブジェクト31の長針32を、鑑賞者11から見た表面に対して垂直に切った断面の形状が三角形となるような、三次元オブジェクトとして構成してもよい。換言すると、鑑賞者11側から見た長針32の表面は、中央の部分を境に傾斜した形状になっていてもよい。この場合、図2の反射領域検出部57は、表示画像のうち長針32を示す領域については、想定される光源12からの光の入射角θinと反射角θout(=入射角θin)を、長針32の表面の傾斜角を考慮して求める。そして、反射領域検出部57は、長針32を示す領域の中に、例えば、顔光源角度θαが反射角θoutの略2倍の角度(入射角θin+反射角θoutとほぼ同一の角度)となる領域がある場合、その領域を反射領域として検出する。このとき、顔光源角度θαは、長針32の表面の傾斜角を考慮して補正されていてもよい。
図8の例では、時計のオブジェクト31の長針32の一斜面の領域71が、反射領域として検出される。この場合、図9に示されるように、時計のオブジェクト31の長針32を示す領域のうち、中央の部分を境にして、鑑賞者11側の斜面(図9中左側の斜面)の領域71が反射領域として検出されたので、例えば、その反対側の斜面(図9中右側の斜面)の領域72が影領域として検出される。この結果、図9に示されるように、長針32の領域71には反射効果が付加される。従って、鑑賞者11は、領域71からはあたかも光が反射している様子を鑑賞することができる。一方、長針32の領域72には影効果が付加される。従って、鑑賞者11は、領域72からはあたかも陰影が存在する様子を鑑賞することができる。このように、鑑賞者11にとってより一段と現実感のある自然な画像が、表示画像として表示部21に表示される。
例えば、本実施の形態では、時計のオブジェクト31のうちの針にのみ反射効果又は影効果が付加されるものとして説明したが、本発明はこれに限定されない。例えば時計のオブジェクト31全体に反射効果又は影効果が付加されるようにしてもよい。この場合、時計のオブジェクト31を構成する領域のうち、顔光源角度θαが反射角θoutの略2倍の角度(入射角θin+反射角θoutとほぼ同一の角度)となる領域を文字盤などの針以外の領域も含めて反射領域とする。影領域も反射領域に応じて決定することができる。また、針と、針以外の領域、例えば、文字盤とを視覚的に区別する場合は、例えば針と文字盤との各々の領域の反射率を変化させるなどして、画像表示装置が、反射率を考慮した反射効果を付加する画像処理を実行して、明るさを変化させたることも可能である。
なお、本実施の形態では、説明を容易にするため、演出効果を付加する表示画像として、時計のオブジェクト31を含む画像を例に説明したが、当然ながら本発明はこれに限定されない。換言すると、演出効果を付加する表示画像に含まれるオブジェクトは、時計のオブジェクト31に特に限定されず、二次元又は三次元を問わない様々なオブジェクトを採用することが可能である。
また、本実施の形態では、デジタルフォトフレーム1が光源12として仮想光源と実光源とを選択的に用いることができるものとして説明したが、本発明はこれに限定されない。例えば、本発明は、仮想光源と実光源とのうちの何れか一方のみを固定して用いても適用可能である。これによって、例えば、仮想光源のみを用いる場合には、図2の輝度測定部54を省略することができる。同様に、例えば、実光源のみを用いる場合には、図2の仮想光源データをデータ記憶部51に記憶させておく必要は特に無くなる。
本実施の形態では、デジタルフォトフレーム1が、図9等を参照して説明したように、反射効果と影効果の両効果を付加する画像処理を実行することができるものとしたが、本発明はこれに限定されない。例えば、本発明は、反射効果と影効果のうちの何れか一方の効果のみを付加する画像処理に対しても適用可能である。或いはまた、本発明は、反射効果と影効果のうちの少なくとも一方の効果を付加する画像処理に加えて、さらに、他の任意の画像処理を組み合わせたものに対しても適用可能である。
また、本実施の形態では、デジタルフォトフレーム1が、図2の顔検出部52乃至表示制御部59は、ソフトウェアとハードウェア(CPU101)の組み合せで構成するものとして説明したが、かかる構成は当然ながら例示に過ぎない。例えば、図2の顔検出部52乃至表示制御部59のそれぞれを、実装に応じて、専用のハードウェアで構成してもよいし、ソフトウェアで構成してもよい。
ところで、上述したように、本発明に係る一連の処理は、ハードウェアにより実行させることも、ソフトウェアにより実行させることもできる。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムを、記録媒体から、或いは、ネットワークを介してコンピュータにインストールすることができる。コンピュータは、専用のハードウェアを組み込んだコンピュータであってもよいし、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータであってもよい。
本発明に係わる一連の処理を実行するための各種プログラムを含む記録媒体は、画像表示装置本体とは別に、ユーザにプログラムを提供するために配布されるリムーバブルメディアでもよく、或いは、画像表示装置本体に予め組み込まれた記録媒体等でもよい。リムーバブルメディアは、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた記録媒体としては、例えば、プログラムが記録されている図6のROM102や、図示せぬハードディスク等でもよい。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
1・・・画像表示装置、21・・・表示部、22・・・撮影部、51・・・データ記憶部、52・・・顔検出部、53・・・顔位置決定部、54・・・輝度測定部、55・・・光源位置決定部、56・・・光源顔角度算出部、57・・・反射領域検出部、58・・・反射効果処理部、59・・・表示制御部、101・・・CPU、102・・・RAM、103・・・ROM、107・・・表示部、108・・・記憶部、111・・・リムーバブルメディア

Claims (8)

  1. 表示部に表示される表示画像を鑑賞する鑑賞者を撮影する撮影部と、
    前記撮影部により撮影された前記画像から、顔を検出する顔検出部と、
    前記顔検出部により検出された前記顔の位置を決定する顔位置決定部と、
    光源の位置を決定する光源位置決定部と、
    前記顔位置決定部により決定された前記顔の位置、及び、前記光源位置決定部により決定された前記光源の位置に基づいて、前記表示画像から、前記光源から入射した光が前記顔の方向に反射する反射領域を検出する反射領域検出部と、
    前記反射領域検出部により検出された前記反射領域に対して反射効果を付加する画像処理を、前記表示画像のデータに対して実行する反射効果処理部と、
    前記反射効果処理部により前記画像処理が実行された前記データに基づいて、前記表示画像を前記表示部に表示させる表示制御部と、
    を備える画像表示装置。
  2. 前記光源は仮想光源であり、
    前記光源位置決定部は、前記顔の位置に基づいて前記仮想光源の位置を決定する、
    請求項1に記載の画像表示装置。
  3. 前記光源は実光源であり、
    前記撮影画像の輝度分布を測定する輝度測定部をさらに備え、
    前記光源位置決定部は、前記輝度測定部の測定結果に基づいて前記実光源の位置を決定する、
    請求項1に記載の画像表示装置。
  4. 前記反射領域検出部は、さらに、前記表示画像から、陰影が存在する影領域を検出し、
    前記反射効果処理部は、さらに、前記反射領域検出部により検出された前記影領域に対して影効果を付加する画像処理を、前記表示画像の前記データに対して実行する、
    請求項1乃至3の何れか1項に記載の画像表示装置。
  5. 前記顔位置決定部は、前記検出部により複数の顔が検出された場合、前記複数の顔の中から所定の1つを処理対象の顔として設定し、前記処理対象の顔の位置を決定する、
    請求項1乃至4の何れか1項に記載の画像表示装置。
  6. 前記検出部により顔が検出されなかった場合、前記反射効果処理部は前記画像処理の実行を禁止する、
    請求項1乃至4の何れか1項に記載の画像表示装置。
  7. 画像の撮影を制御して表示部に表示される表示画像を鑑賞する鑑賞者を撮影する撮影制御ステップと、
    前記撮影制御ステップの制御処理により撮影された前記画像から、顔を検出する顔検出ステップと、
    前記顔検出ステップの処理により検出された前記顔の位置を決定する顔位置決定ステップと、
    光源の位置を決定する光源位置決定ステップと、
    前記顔位置決定ステップの処理により決定された前記顔の位置、及び、前記光源位置決定ステップの処理により決定された前記光源の位置に基づいて、前記表示画像の中から、前記光源から入射した光が前記顔の方向に反射する反射領域を検出する反射領域検出ステップと、
    前記反射領域検出ステップの処理により検出された前記反射領域に対して反射効果を付加する画像処理を、前記表示画像のデータに対して実行する反射効果処理ステップと、
    前記反射効果処理ステップにより前記画像処理が実行された前記データに基づいて、前記表示画像を前記表示部に表示させる表示制御ステップと、
    を含む画像表示方法。
  8. 画像処理を制御するコンピュータに、
    画像の撮影を制御して表示部に表示される表示画像を鑑賞する鑑賞者を撮影する撮影制御ステップと、
    前記撮影制御ステップの制御処理により撮影された前記画像から、顔を検出する顔検出ステップと、
    前記顔検出ステップの処理により検出された前記顔の位置を決定する顔位置決定ステップと、
    光源の位置を決定する光源位置決定ステップと、
    前記顔位置決定ステップの処理により決定された前記顔の位置、及び、前記光源位置決定ステップの処理により決定された前記光源の位置に基づいて、前記表示画像の中から、前記光源から入射した光が前記顔の方向に反射する反射領域を検出する反射領域検出ステップと、
    前記反射領域検出ステップの処理により検出された前記反射領域に対して反射効果を付加する画像処理を、前記表示画像のデータに対して実行する反射効果処理ステップと、
    前記反射効果処理ステップにより前記画像処理が実行された前記データに基づいて、前記表示画像を前記表示部に表示させる表示制御ステップと、
    を含む制御処理を実行させるプログラム。
JP2009224009A 2009-09-29 2009-09-29 画像表示装置及び方法並びにプログラム Expired - Fee Related JP4831223B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009224009A JP4831223B2 (ja) 2009-09-29 2009-09-29 画像表示装置及び方法並びにプログラム
US12/887,741 US20110074782A1 (en) 2009-09-29 2010-09-22 Image display apparatus, method, and storage medium
CN2010105460395A CN102096916A (zh) 2009-09-29 2010-09-28 图像显示装置和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009224009A JP4831223B2 (ja) 2009-09-29 2009-09-29 画像表示装置及び方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2011076167A true JP2011076167A (ja) 2011-04-14
JP4831223B2 JP4831223B2 (ja) 2011-12-07

Family

ID=43779812

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009224009A Expired - Fee Related JP4831223B2 (ja) 2009-09-29 2009-09-29 画像表示装置及び方法並びにプログラム

Country Status (3)

Country Link
US (1) US20110074782A1 (ja)
JP (1) JP4831223B2 (ja)
CN (1) CN102096916A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012155624A (ja) * 2011-01-27 2012-08-16 Canon Inc 画像出力装置、画像表示装置、画像出力方法、プログラム及び記憶媒体
JP2016072692A (ja) * 2014-09-26 2016-05-09 キヤノン株式会社 画像処理装置およびその制御方法
KR20160144851A (ko) * 2015-06-09 2016-12-19 삼성전자주식회사 이미지를 처리하는 전자 장치 및 그 제어 방법
WO2017154046A1 (ja) * 2016-03-10 2017-09-14 パナソニックIpマネジメント株式会社 表示装置

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201205551A (en) * 2010-07-29 2012-02-01 Hon Hai Prec Ind Co Ltd Display device assembling a camera
US9582083B2 (en) * 2011-12-22 2017-02-28 Apple Inc. Directional light sensors
US20130265306A1 (en) * 2012-04-06 2013-10-10 Penguin Digital, Inc. Real-Time 2D/3D Object Image Composition System and Method
KR101509712B1 (ko) * 2013-09-13 2015-04-07 현대자동차 주식회사 디스플레이 장치에서의 빛 반사 방지 방법 및 시스템
KR101484242B1 (ko) * 2013-12-19 2015-01-16 현대자동차 주식회사 자동차의 디스플레이 제어장치 및 제어방법
CN104050799B (zh) * 2014-06-06 2017-03-08 北京智谷睿拓技术服务有限公司 反射控制方法及控制装置
KR102333101B1 (ko) * 2017-06-21 2021-12-01 삼성전자주식회사 관심 객체에 대한 외부 광원의 속성 정보를 제공하는 방법을 지원하는 전자 장치

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007094680A (ja) * 2005-09-28 2007-04-12 Dainippon Printing Co Ltd 画像処理装置、画像処理方法等

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2796797B1 (fr) * 1999-07-22 2001-09-07 Eastman Kodak Co Dispositif et procede pour afficher une image sur un ecran selon une perspective dependant de la position d'un utilisateur
CN1244237C (zh) * 2000-09-27 2006-03-01 皇家菲利浦电子有限公司 提供要在屏幕上显示的图像的方法和装置
US6980697B1 (en) * 2001-02-01 2005-12-27 At&T Corp. Digitally-generated lighting for video conferencing applications
JP4350725B2 (ja) * 2005-08-05 2009-10-21 キヤノン株式会社 画像処理方法、画像処理装置、及び、画像処理方法をコンピュータに実行させるためのプログラム
US7471292B2 (en) * 2005-11-15 2008-12-30 Sharp Laboratories Of America, Inc. Virtual view specification and synthesis in free viewpoint
EP1967016B1 (en) * 2005-12-19 2012-09-26 Koninklijke Philips Electronics N.V. 3d image display method and apparatus
IL183386A0 (en) * 2007-05-24 2007-09-20 Wavebreak Technologies Ltd Systems and methods for counting an audience

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007094680A (ja) * 2005-09-28 2007-04-12 Dainippon Printing Co Ltd 画像処理装置、画像処理方法等

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012155624A (ja) * 2011-01-27 2012-08-16 Canon Inc 画像出力装置、画像表示装置、画像出力方法、プログラム及び記憶媒体
JP2016072692A (ja) * 2014-09-26 2016-05-09 キヤノン株式会社 画像処理装置およびその制御方法
KR20160144851A (ko) * 2015-06-09 2016-12-19 삼성전자주식회사 이미지를 처리하는 전자 장치 및 그 제어 방법
US11263469B2 (en) 2015-06-09 2022-03-01 Samsung Electronics Co., Ltd. Electronic device for processing image and method for controlling the same
KR102507567B1 (ko) * 2015-06-09 2023-03-09 삼성전자주식회사 이미지를 처리하는 전자 장치 및 그 제어 방법
WO2017154046A1 (ja) * 2016-03-10 2017-09-14 パナソニックIpマネジメント株式会社 表示装置

Also Published As

Publication number Publication date
US20110074782A1 (en) 2011-03-31
JP4831223B2 (ja) 2011-12-07
CN102096916A (zh) 2011-06-15

Similar Documents

Publication Publication Date Title
JP4831223B2 (ja) 画像表示装置及び方法並びにプログラム
CA2969482C (en) Method and apparatus for multiple technology depth map acquisition and fusion
CN108307675B (zh) 用于vr/ar应用中的深度增强的多基线相机阵列系统架构
JP6456156B2 (ja) 法線情報生成装置、撮像装置、法線情報生成方法および法線情報生成プログラム
TWI527448B (zh) 成像設備,影像處理方法,及用以記錄程式於其上之記錄媒體
CN107992187B (zh) 显示方法及其系统
JP5562154B2 (ja) 撮像装置、撮影補助システム、撮影補助方法、画像データ解析方法およびプログラム
US20120242780A1 (en) Image processing apparatus and method, and program
JP5246078B2 (ja) 被写体位置特定用プログラム、およびカメラ
US9282241B2 (en) Image processing device, image processing method, and image processing program
TWI531928B (zh) 投影式運算系統
US20120200670A1 (en) Method and apparatus for a disparity limit indicator
TWI524258B (zh) 電子書顯示調整系統及方法
JP5805013B2 (ja) 撮像画像表示装置、撮像画像表示方法、プログラム
US20240104866A1 (en) Image processing device and image processing method
JP5055462B2 (ja) 画像処理装置,画像処理方法及び撮像装置
US20230419604A1 (en) Information processing apparatus, information processing method, and recording medium
JP5398575B2 (ja) 情報表示制御装置及び情報表示制御方法及びプログラム
JP6942567B2 (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
JP2008287704A (ja) 顔画像検出装置、顔画像検出方法及び撮影装置
KR20230039466A (ko) 복수의 카메라들로부터 획득된 이미지들에 기반하는 입체 사진을 생성하는 전자 장치 및 그 방법
JP5786539B2 (ja) 目視対象物判定装置、目視対象物判定方法および目視対象物判定プログラム
JP2014052505A (ja) 撮像装置、撮像装置の制御方法及びプログラム並びに記録媒体
JP2012134926A (ja) 立体画像表示装置、および立体画像の表示を制御するための方法
JP2013085184A (ja) 撮影装置および撮影方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110905

R150 Certificate of patent or registration of utility model

Ref document number: 4831223

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees