JP7422454B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP7422454B2
JP7422454B2 JP2019184741A JP2019184741A JP7422454B2 JP 7422454 B2 JP7422454 B2 JP 7422454B2 JP 2019184741 A JP2019184741 A JP 2019184741A JP 2019184741 A JP2019184741 A JP 2019184741A JP 7422454 B2 JP7422454 B2 JP 7422454B2
Authority
JP
Japan
Prior art keywords
distance
image
information
lighting effect
accuracy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019184741A
Other languages
English (en)
Other versions
JP2020126582A (ja
Inventor
有一 中田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to CN202010008485.4A priority Critical patent/CN111541840B/zh
Priority to US16/775,793 priority patent/US11210767B2/en
Priority to KR1020200010331A priority patent/KR102565151B1/ko
Publication of JP2020126582A publication Critical patent/JP2020126582A/ja
Application granted granted Critical
Publication of JP7422454B2 publication Critical patent/JP7422454B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、仮想光源に応じた効果を画像に付与する情報処理技術に関する。
従来、画像内の物体に対して仮想光源から光が照射されたような効果(以下、ライティング効果と呼ぶ)を付与する画像処理技術が知られている。特許文献1は、被写体の三次元情報に基づいてライティング効果を画像に付与する技術を開示している。
特開2017-117029号公報
しかしながら、特許文献1においては、被写体の距離情報の精度によっては所望のライティング効果を画像に付与することができない場合がある。
本発明は上記課題を鑑みてなされたものであり、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定するための情報処理を提供することを目的とする。
上記課題を解決するために、本発明に係る情報処理装置は、画像を表す画像データを取得する第1取得手段と、前記画像データに対応する距離情報を取得する第2取得手段と、前記画像に前記距離情報に応じたライティング効果を付与する際に前記画像に付与可能なライティング効果の候補を、前記距離情報の精度に基づいて決定する決定手段と、を有することを特徴とする。
本発明によれば、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
情報処理装置のハードウェア構成を示す図 情報処理装置の外観を示す図 情報処理装置の論理構成を示す図 情報処理装置が実行する処理を示すフローチャート ライティング効果リストを設定する処理を示すフローチャート 距離情報の精度を判定する処理の概要を示す図 ライティング効果リストに加えるライティング効果の例を示す図 画像にライティング効果を付与する処理を示すフローチャート 顔距離画像データ及び法線画像データの例を示す図 ライティング効果を示すアイコンの例を示す図 画像にライティング効果を付与する際の表示画像の例を示す図 画像にライティング効果を付与する際の表示画像の例を示す図 ライティング効果リストを設定する処理を示すフローチャート ライティング効果リストを設定する処理を示すフローチャート ライティング効果リストを設定する処理を示すフローチャート 人物情報の例を示す図 ライティング効果リストを設定する処理を示すフローチャート 情報処理装置が実行する処理を示すフローチャート 画像にライティング効果を付与する際の表示画像の例を示す図 情報処理装置の論理構成を示す図 情報処理装置が実行する処理を示すフローチャート 調整可能パラメータを設定する処理を示すフローチャート 調整可能パラメータの設定例を示す図 画像にライティング効果を付与する処理を示すフローチャート 画像にライティング効果を付与する際の表示画像の例を示す図 情報処理装置が実行する処理を示すフローチャート 画像にライティング効果を付与する際の表示画像の例を示す図 ライティング効果リストを設定する処理を示すフローチャート 画像にライティング効果を付与する際の表示画像の例を示す図
以下、本実施形態について、図面を参照して説明する。尚、以下の実施形態は本発明を必ずしも限定するものではない。また、本実施形態において説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。
[第1実施形態]
<距離情報に応じた画像へのライティング効果付与>
被写体の距離情報に応じて画像にライティング効果を付与する際に、近くの被写体ほど明るく照らすようなライティング効果を付与するためには、距離情報が、被写体と背景との前後関係が判別できる程度の精度を有している必要がある。また、被写体に対して任意の角度から光源からの光が当たっているように見せるライティング効果を付与するためには、距離情報が、被写体の顔の凹凸が判別できる程度の精度を有している必要がある。このように、ライティング効果によって距離情報に求められる精度がある。しかし、距離情報が所望のライティング効果を付与するのに十分な精度ではない場合には、所望のライティング効果が得られない場合があった。そこで、本実施形態においては、ライティング効果を画像に付与する際に用いる距離情報の精度に応じて、画像に付与するのに適したライティング効果の候補をユーザに提示する。これにより、ユーザは、画像に対応して取得した距離情報に適したライティング効果を選択することができる。その結果、本実施形態においては、距離情報の精度に応じて付与可能なライティング効果とユーザが意図するライティング効果とが一致しないことによって、ユーザが意図していないライティング効果が画像に付与されることを抑制することができる。
<情報処理装置1のハードウェア構成>
図1(a)は、情報処理装置1のハードウェア構成の一例を示す図である。情報処理装置1は、スマートフォンやタブレットPC(パーソナルコンピュータ)等の通信機能及び撮像機能を備えた機器により実現される。情報処理装置1は、CPU101と、ROM102と、RAM103と、入出力インタフェース(I/F)104と、タッチパネルディスプレイ105と、撮像部106と、通信I/F107と、を有する。CPU101は、RAM103をワークメモリとして、ROM102、記憶装置110などに格納されたOS(オペレーティングシステム)や各種プログラムを実行する。また、CPU101は、システムバス108を介して各構成を制御する。尚、後述するフローチャートによる処理は、ROM102や記憶装置110などに格納されたプログラムコードがRAM103に展開され、CPU101によって実行される。入出力I/F104には、シリアルバス109を介して、記憶装置110が接続される。記憶装置110は、HDD(ハードディスクドライブ)である。タッチパネルディスプレイ105は、画像の表示を行うディスプレイと、指などの指示体によるタッチの位置を検出するタッチパネルと、が一体となった入出力部である。撮像部106は、撮像対象の画像を取得する撮像部である。
図2に本実施形態における情報処理装置1の外観の一例を示す。図2(a)に、情報処理装置1のタッチパネルディスプレイ105を有する面(以下、ディスプレイ面と呼ぶ)を示し、図2(b)に、情報処理装置1のディスプレイ面と反対の面(以下、背面と呼ぶ)を示す。本実施形態における撮像部106は、情報処理装置1の背面に備えられるメインカメラ202及び情報処理装置1のディスプレイ面に備えられるインカメラ201である。インカメラ201は、ディスプレイ(表示画面)を閲覧しようとするユーザの顔を撮像可能な位置及び方向に設置されている。通信I/F107は、他の情報処理装置や通信機器、記憶装置等との間で、有線又は無線による双方向の通信を行う。本実施形態における通信I/F107は、無線LAN(ローカルエリアネットワーク)を介して通信相手とのデータの送受信が可能である。また、通信I/F107は、他の通信機器との間では、直接の通信以外に、中継装置を介した間接的な通信も可能である。
<情報処理装置1の論理構成>
情報処理装置1の論理構成例を説明する。図3は、本実施形態における情報処理装置1の論理構成を示すブロック図である。情報処理装置1は、CPU101がROM102に格納されたプログラムをRAM103をワークメモリとして実行することによって、図3に示す論理構成として機能する。尚、以下に示す処理の全てが必ずしもCPU101によって実行される必要はなく、処理の一部または全てがCPU101以外の一つまたは複数の処理回路によって行われるように情報処理装置1が構成されていてもよい。
情報処理装置1は、画像データ取得部301と、ライティング効果リスト決定部302と、ライティング効果選択部303と、ライティング処理部304と、画像表示制御部305と、ライティング効果表示制御部306と、を有する。画像データ取得部301は、入出力部309から取得したユーザからの指示に基づいて、撮像部308又は記憶部307から画像データを取得する。画像データ取得部301が取得する画像データは、ライティング効果を付与する対象のカラー画像を表すカラー画像データと、カラー画像に対応する距離情報を有する距離画像データと、の2種類の画像データである。ここで、記憶部307の機能は、例えば、記憶装置110により実現され、撮像部308の機能は撮像部106により実現され、入出力部309の機能はタッチパネルディスプレイ105により実現される。
カラー画像データは、各画素に、R(レッド)値、G(グリーン)値、B(ブルー)値を有するカラー画像を表す画像データである。カラー画像データは、撮像部308を用いて物体を撮像することによって生成される。距離画像データは、各画素に、撮像部308から撮像対象の物体までの距離値を有する距離画像を表す画像データである。距離画像データは、異なる複数の位置から物体を撮像して得られる複数のカラー画像データに基づいて生成される。例えば、並べて配置された2つのカメラを用いて物体を撮像して得られる画像データや、1つのカメラの位置を移動させながら物体を複数回撮像して得られる画像データに基づいて、公知のステレオマッチングにより距離画像データを生成することができる。また、赤外光を物体に照射する赤外発光部と、物体において反射した赤外光を受光する受光部と、を含む距離取得装置を利用することにより距離画像データを生成してもよい。具体的には、赤外発光部が照射した赤外光が物体において反射し、受光部が受光するまでの時間に基づいて、カメラから物体までの距離値を導出することができる。尚、距離画像データ等の距離情報を生成する方法は、上述した方法に限られない。例えば、物体に対応する三次元モデルデータを、カラー画像データに基づいて物体にフィッティングすることによって、物体の距離情報を生成してもよい。尚、画像データ取得部301が取得する各画像データが表す画像は、互いの同一画素位置の画素値が物体上の同一位置に対応しているものとする。
ライティング効果リスト決定部302は、距離画像データが有する距離情報の精度(以下、距離精度と呼ぶ)を判定し、距離精度に応じて有効なライティング効果を含むリスト(以下、ライティング効果リストと呼ぶ)を決定する。本実施形態におけるライティング効果リスト決定部302は、予め付与可能なライティング効果として4つの異なるライティング効果を保持している。ただし、距離情報の精度によってはライティング効果を実現できない場合がある。そこで、ライティング効果リスト決定部302は、予め付与可能なライティング効果のうち、距離精度に応じて処理対象とする画像に有効なライティング効果を選択する。ここで、ライティング効果リスト決定部302は、最小で2、最大で4のライティング効果を選択することにより、ライティング効果リストを作成する。ライティング効果選択部303は、入出力部309から取得したユーザ操作に基づいて、ライティング効果リストに含まれるライティング効果から1つのライティング効果を選択する。ライティング処理部304は、選択されたライティング効果をカラー画像に付与するため、カラー画像に対してライティング処理を実行することによりカラー画像を補正する。また、ライティング処理部304は、入出力部309から取得したユーザ操作に基づいて、記憶部307にライティング効果が付与された画像を表す画像データを記録する。
画像表示制御部305は、入出力部309を表示部として用いて、ライティング効果が付与された画像を入出力部309に表示する。ライティング効果表示制御部306は、ライティング効果リストに含まれるライティング効果に対応するアイコンを入出力部309に表示する。
<情報処理装置1が実行する処理>
図4は、情報処理装置1が実行する処理を示すフローチャートである。本実施形態においては、距離画像データに基づいて設定された距離精度に応じて、カラー画像に適用可能なライティング効果を提示する。以下、各ステップ(工程)は符号の前にSをつけて表す。
S401において、画像データ取得部301は、入出力部309から取得したユーザ操作に基づいて、記憶部307からカラー画像データ及び距離画像データを取得する。ここで、記憶部307は、上述した方法によって予め生成されたカラー画像データ及び距離画像データを保持しているものとする。S402において、ライティング効果リスト決定部302は、距離画像データに基づいて設定した距離精度に応じて、有効なライティング効果を含むライティング効果リストを決定する。尚、ライティング効果リストを決定する処理の詳細については後述する。
S403において、ライティング効果選択部303は、入出力部309から取得したユーザ操作に基づいて、ライティング効果リストに含まれるライティング効果から1つのライティング効果を選択する。また、ユーザ操作に基づいて、被写体に光を照射する仮想光源の向きなどのライティングパラメータを設定する。ユーザ操作によりライティング効果が選択されていない場合は、初期状態として予め定められたライティング効果を選択する。S404において、ライティング処理部304は、選択されたライティング効果に基づいて、カラー画像を補正する。以下、補正されたカラー画像を補正画像と呼び、補正画像を表す画像データを補正画像データと呼ぶ。尚、カラー画像を補正する処理の詳細は後述する。
S405において、画像表示制御部305は、補正画像を入出力部309に表示する。S406において、ライティング効果表示制御部306は、ライティング効果リストに含まれるライティング効果を入出力部309に表示する。尚、ライティング効果の表示については後に詳述する。S407において、ライティング処理部304は、入出力部309から取得したユーザ操作に基づいて、補正画像データを記憶部307に記録するか否かを判定する。補正画像データを記録する操作が検出された場合はS409に進み、補正画像データを記録する操作が検出されない場合はS408に進む。S408において、ライティング処理部304は、入出力部309から取得したユーザ操作に基づいて、ライティング効果を付与するカラー画像を変更するか否かを判定する。カラー画像を変更する操作が検出された場合はS401に進み、カラー画像を変更する操作が検出されない場合はS403に進む。S409において、ライティング処理部304は、記憶部307に補正画像データを記録し、処理を終了する。
<ライティング効果リストを決定する処理(S402)>
S402における、ライティング効果リストを決定する処理について説明する。図5は、ライティング効果リストを決定する処理を示すフローチャートである。ライティング効果リスト決定部302は、カラー画像において被写体の顔に対応する顔領域を抽出し、距離画像における顔領域に対応する距離値に基づいて距離精度を設定する。ライティング効果リスト決定部302は、設定した距離精度に基づいて、ライティング効果リストに含めるライティング効果を決定する。
S501において、ライティング効果リスト決定部302は、カラー画像から顔領域を抽出する。図6(a)に顔領域の例を示す。顔領域601の抽出には、例えば、テンプレートマッチングや、Haar-Like特徴量を用いたアルゴリズムなど、公知の方法を利用することができる。S502において、ライティング効果リスト決定部302は、距離画像において、顔領域に対応する距離情報の精度を判定する。具体的に、ライティング効果リスト決定部302は、カラー画像に対応する距離画像から顔領域における距離値を取得する。顔領域内に予め定められた値よりも大きな値を示す距離値を有する画素が所定の数以上含まれる場合は、距離精度が低いと判定し、S503に進む。顔領域内に予め定められた値よりも大きな値を示す距離値を有する画素が所定の数未満しか含まれない場合は、距離精度が高いと判定し、S504に進む。尚、本実施形態においては、予め定められた値よりも大きな値を示す距離値を有する画素を、カラー画像における背景に対応する画素とみなす。
S503において、ライティング効果リスト決定部302は、距離精度を「低」に設定する。図6(b)に距離精度が「低」と判定される距離画像の例を示す。図6(b)の距離画像においては、顔領域601内の画素は全て背景を示す距離値を有する。S504において、ライティング効果リスト決定部302は、顔領域に凹凸があるか否かを判定する。具体的に、ライティング効果リスト決定部302は、顔領域内の画素が有する距離値の分散が所定の値未満であるか否かを判定する。この判定により、被写体の顔における細かい凹凸の情報を距離画像が有しているか否かに応じて、距離情報の精度を判定することができる。顔領域内の画素が有する距離値の分散(ばらつき)が所定の値未満である場合は凹凸がないと判定し、S505に進む。顔領域内の画素が有する距離値の分散が所定の値以上である場合は凹凸があると判定し、S506に進む。
S505において、ライティング効果リスト決定部302は、距離精度を「中」に設定する。図6(c)に距離精度が「中」と判定される距離画像の例を示す。図6(c)の距離画像においては、顔領域601内の画素は全て同じ距離値である。S506において、ライティング効果リスト決定部302は、距離精度を「高」に設定する。図6(d)に距離精度が「高」と判定される距離画像の例を示す。図6(d)の距離画像においては、顔領域601内の画素は被写体の顔の形状に応じて様々な距離値を有する。
S507において、ライティング効果リスト決定部302は、距離精度に基づいて、ライティング効果リストに含めるライティング効果を決定する。図7に、距離精度に基づくライティング効果の設定方法の例を示す。本実施形態においては、「OFF」、「顔を強調」、「被写体を強調」、「光源の位置を指定」の4種類のライティング効果からライティング効果リストへ加えるライティング効果を距離精度に基づいて決定する。本実施形態においては、距離精度が高いほど多くのライティング効果をライティング効果リストに加える。具体的に、距離精度が「低」である場合は、前景と背景とを識別できる精度の距離情報が得られていない、又は、距離情報自体が存在しない場合である。この場合、前景と背景との識別(m単位)が必要な「被写体を強調」と、顔の目や鼻などの凹凸の識別(cm単位)が必要な「光源の位置を指定」と、は適したライティング効果ではない。一方で、「顔を強調」は、カラー画像における顔の検出により得られる情報から実現できるライティングである。このため、距離精度が「低」である場合は、「OFF」、「顔を強調」が有効なライティング効果としてライティング効果リストに加えられる。距離精度が「中」である場合は、顔の目や鼻などの凹凸の識別(cm単位)まではできないが、前景と背景との識別(m単位)が可能な距離情報が得られている場合である。よって、距離精度が「中」である場合は、「光源の位置を指定」を除く、「OFF」、「顔を強調」、「被写体を強調」が有効なライティング効果としてライティング効果リストに加えられる。距離精度が「高」である場合は、顔の目や鼻などの凹凸の識別(cm単位)ができる精度の距離情報が得られている場合であるため、上述した4種類全てのライティング効果がライティング効果リストに加えられる。つまり、ライティング効果リスト決定部302は、距離精度が「低」の場合は、「OFF」、「顔を強調」をライティング効果リストに加える。距離精度が「中」の場合は、「OFF」、「顔を強調」、「被写体を強調」をライティング効果リストに加える。距離精度が「高」の場合は、「OFF」、「顔を強調」、「被写体を強調」、「光源の位置を指定」をライティング効果リストに加える。この処理により、距離精度に応じて決まる有効なライティング効果から、カラー画像に付与するライティング効果を選択することができる。
<カラー画像を補正する処理(S404)>
S404における、カラー画像を補正する処理について説明する。図8は、カラー画像を補正する処理を示すフローチャートである。ライティング処理部304は、距離画像データに基づいて法線画像データを生成する。ライティング処理部304は、距離画像データ及び法線画像データに基づいて、カラー画像を補正する。
S801において、ライティング処理部304は、距離画像データに基づいて、顔距離画像データを生成する。顔距離画像データは、顔領域に対応する領域を前景領域、その他の領域を背景領域とする距離画像データである。本実施形態において、ライティング処理部304は、距離画像データが表す距離画像において、顔領域を含む楕円領域を設定する。設定した楕円領域の内部の画素に前景を示す距離値、それ以外の画素に背景を示す距離値を有する距離画像を表す距離画像データを、顔距離画像データとして生成する。図9(a)に顔距離画像データの例を示す。S802において、ライティング処理部304は、S402において設定された距離精度を判定する。距離精度が「高」の場合はS803に進み、それ以外の場合はS804に進む。
S803において、ライティング処理部304は、距離画像データに基づいて法線画像データを生成する。法線画像データは、各画素に、被写体の表面における法線ベクトルを有する法線画像を表す画像データである。具体的に、ライティング処理部304は、距離画像の画素の二次元座標値と、画素に保持されている距離値と、に基づいて、画素毎に三次元座標値を導出する。導出した三次元座標値に基づいて、画素毎に対応する法線ベクトルを導出する。法線ベクトルの導出方法としては、三次元座標値から導出した勾配に基づいて導出する方法や、画素毎に平面を当てはめてその垂線を法線ベクトルとする方法などを利用できる。
本実施形態におけるライティング処理部304は、注目画素の近傍領域に対応する近似平面を導出し、近似平面に垂直なベクトルを注目画素の法線ベクトルとして導出する。その手順を以下に述べる。法線ベクトルを導出する注目画素及びその近傍画素の三次元座標値をそれぞれ(x,y,z)、・・・、(xn-1,yn-1,zn-1)とする。尚、x座標値は距離画像の水平方向の二次元座標値に基づいて導出し、y座標値は距離画像の垂直方向の二次元座標値に基づいて導出する。また、z座標値は距離画像の画素値に基づいて導出する。注目画素の座標値及び近傍画素の座標値に対して平面ax+by+c=zを当てはめる。具体的には、z軸方向の距離値を利用し、式(1)に示す関数Eが最小になるようなa、b、cを導出する。
E=Σ(ax+by+c-z・・・式(1)
a、b、cは式(2)に従って導出する。
Figure 0007422454000001
また、平面ax+by+c=zに垂直なベクトルn=(n,n,n)は式(3)に従って導出する。
Figure 0007422454000002
式(3)に従って導出したベクトルn=(n,n,n)を、注目画素に対応する法線ベクトルとする。同様の処理を距離画像の各画素において行うことによって、法線画像データを生成する。法線画像データは、画素(i,j)に法線ベクトル(n(i,j),n(i,j),n(i,j))を有する法線画像を表す画像データである。生成した法線画像データが表す法線画像の例を図9(b)に示す。
S804において、ライティング処理部304は、簡易的に法線画像データを生成する。本実施形態におけるライティング処理部304は、全ての画素が法線ベクトルn=(0,0,1)を有する法線画像を表す法線画像データを生成する。図9(c)に簡易的に生成した法線画像データの例を示す。尚、予め生成しておいた法線画像データを記憶部307などから取得してもよい。S805において、ライティング処理部304は、S403において選択されたライティング効果を判定する。選択されたライティング効果が「OFF」の場合はS806に進む。選択されたライティング効果が「顔を強調」の場合はS807に進む。選択されたライティング効果が「被写体を強調」の場合はS808に進む。選択されたライティング効果が「光源の位置を指定」の場合はS809に進む。
S806において、ライティング処理部304は、カラー画像を補正せずにそのままカラー画像データを画像表示制御部305に出力する。尚、出力されたカラー画像データは、補正画像データとして扱う。S807において、ライティング処理部304は、顔距離画像データと法線画像データとに基づいて、カラー画像を補正する。S807においては、後述するカラー画像を補正する処理により、カラー画像に顔を強調するライティング効果を適用する。また、ライティング処理部304は、補正されたカラー画像を表す補正画像データを画像表示制御部305に出力する。
S808において、ライティング処理部304は、距離画像データと法線画像データとに基づいて、カラー画像を補正する。S808においては、後述するカラー画像を補正する処理により、カラー画像に背景を暗くし前景の被写体を強調するライティング効果を適用する。また、ライティング処理部304は、補正されたカラー画像を表す補正画像データを画像表示制御部305に出力する。S809において、ライティング処理部304は、距離画像データと法線画像データとに基づいて、カラー画像を補正する。S809においては、後述するカラー画像を補正する処理により、カラー画像にユーザに指定された光源の位置に応じたライティング効果を適用する。また、ライティング処理部304は、補正されたカラー画像を表す補正画像データを画像表示制御部305に出力する。
<カラー画像を補正する処理(S807、S808、S809)>
S807、S808、S809における、カラー画像を補正する処理について説明する。ライティング処理部304は、カラー画像に付与するライティング効果に応じて、補正に用いるパラメータを切り替える。これにより、同一の処理手順を用いて、所望の方向から光を当てたように陰影をつけることにより立体感を強調するライティング効果や、背景を暗くすることにより前景の被写体に光を当てたように強調するライティング効果を被写体に付与する。以下、具体的な処理手順の例を述べる。まず、ライティング処理部304は、式(4)に従って、カラー画像の背景の明るさを補正する。カラー画像の画素値をI、背景の明るさが補正されたカラー画像の画素値をI’とする。
I’=(1-β)I+βD(d)I・・・式(4)
ここで、βは背景の暗さを調整するためのパラメータ、Dは距離画像の画素値(距離値)dに基づく関数である。Dは距離値dが大きくなるほど値が小さくなるような関数であり、値は0から1の間の値となる。つまり、Dは前景を示す距離値に対して大きな値となり、背景を示す距離値に対して小さな値となる。βは0から1の値が設定されるものとし、βが1に近いほどカラー画像の背景が暗くなるように補正される。式(4)に従い補正することにより、距離値dが大きく、Dが1未満となった画素のみパラメータβに応じて暗くすることができる。
続いて、式(5)に従い、背景の明るさが補正されたカラー画像に対して、距離画像データ及び法線画像データに応じた陰影を加える。陰影が加えられたカラー画像の画素値をI’’とする。
I’’=I’+αD(d)H(n,L)I’・・・式(5)
ここで、αは光源の明るさを調整するためのパラメータ、Lは被写体から仮想的な光源への向きを示す光源ベクトルである。また、Hは法線画像の画素値(法線ベクトル)nと光ベクトルLとに基づく関数である。Hは法線ベクトルnと光源ベクトルLとのなす角度が小さいほど大きな値となるような関数であり、値は0から1の間の値となる。例えば、Hは式(6)のように設定することができる。
Figure 0007422454000003
S807、S808、S809においては、選択されたライティング効果に応じて上記のパラメータを変更する。
S807において、ライティング処理部304は、Dを顔距離画像の距離値に基づいて設定する。これにより、顔領域を強調することができる。S808において、ライティング処理部304は、Dを距離画像の距離値に基づいて設定する。また、βを1より小さな値に設定する。これにより、背景を暗くし前景の被写体を強調することができる。S809において、ライティング処理部304は、Dを距離画像の距離値に基づいて設定する。また、光源ベクトルLを含むパラメータをユーザ操作に基づいて設定する。光源ベクトルLは、例えば、ユーザ操作に基づいて設定した被写体に対する上下方向の回転角と左右方向の回転角とに基づいて、三次元ベクトルを導出することにより得られる。これにより、ユーザにより指定された光源の位置に応じたライティング効果をカラー画像に付与することができる。
<ライティング効果を表示する処理(S406)>
S406における、ライティング効果の候補を表示する処理について説明する。図10は、本実施形態におけるライティング効果(「OFF」、「顔を強調」、「被写体を強調」、「光源の位置を指定」)に対応するアイコンの例である。ライティング効果表示制御部306は、ライティング効果リストに含まれるライティング効果群に基づいて、各ライティング効果に対応するアイコンを表示する。図11にライティング効果の表示例を示す。ライティング効果表示制御部306は、ライティング効果に対応するアイコンを表示する。距離精度が「低」の場合は、図11(a)のように「OFF」、「顔を強調」に対応するアイコンを表示する。距離精度が「中」の場合は、図11(b)のように「OFF」、「顔を強調」、「被写体を強調」に対応するアイコンを表示する。距離精度が「高」の場合は、図11(c)のように「OFF」、「顔を強調」、「被写体を強調」、「光源の位置を指定」に対応するアイコンを表示する。選択されているライティング効果のアイコンは、枠で囲んだり色を変えたりするなどして、選択されていない他のライティング効果のアイコンと区別できるように表示する。
図11は、「OFF」のライティング効果が選択されている場合の例を示している。その他のライティング効果が選択されている場合の例を図12に示す。図12(a)は「顔を強調」が選択された場合の表示画像の例である。この場合、顔領域が強調された補正画像を表示する。図12(b)は「被写体を強調」が選択された場合の表示画像の例である。この場合、背景が暗くなり被写体が強調された補正画像を表示する。図12(c)は「光源の位置を指定」が選択された場合の表示画像の例である。この場合は、ユーザにより指定されたライティングパラメータに応じた補正画像を表示する。また、ライティングパラメータを調整するためのスライダーなどを補正画像に重畳して表示する。本実施形態においては、光源の位置を調整するためのスライダーと、光源の明るさを調整するためのスライダーと、が表示される。ここで表示されるスライダーは、ユーザのタッチが検出されることにより移動する。
<第1実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、画像を表す画像データと、画像データに対応する距離情報と、を取得する。画像に距離情報に応じたライティング効果を付与する際に画像に付与可能なライティング効果の候補を、距離情報の精度に基づいて決定する。これにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。また、このユーザへの提示により、距離情報の精度に応じて付与可能なライティング効果とユーザが意図するライティング効果とが一致しないことによって、ユーザが意図していないライティング効果が画像に付与されることを抑制することができる。
<変形例>
本実施形態においては、S502において背景を示す距離値を有する画素を所定の数以上含む場合に距離精度が低いと判定したが、カラー画像データに対応する距離画像データが存在しない場合も距離精度が低いと判定するようにしてもよい。
また、本実施形態における情報処理装置1は、画像表示制御部305が画像の表示を制御し、ライティング効果表示制御部306が有効なライティング効果の表示を制御したが、表示制御部は1つであってもよい。この場合は、情報処理装置1が有する1つの表示制御部が画像の表示と有効なライティング効果の表示との両方を制御する。
また、本実施形態においては、有効なライティング効果を入出力部309に表示することによってユーザに提示したが、有効なライティング効果を提示する方法は上記の例に限られない。例えば、音を利用してユーザに有効なライティング効果を提示してもよい。この場合、図10に示す4つのアイコンが入出力部309に表示される。アイコンに対するタッチが検出された際に、タッチされたアイコンがライティング効果リストに含まれる有効なライティング効果を示すアイコンでない場合は警告音等を出力するようにしてもよい。
また、本実施形態においては、ライティング効果リストを決定する処理において距離精度を3段階に分けて設定したが、2段階でも4段階以上でもよい。
また、本実施形態においては、距離精度を顔領域の距離値に基づいて判定したが、顔領域以外の距離値に基づいて距離精度を判定してもよい。例えば、別途抽出した人物領域の距離値に基づいて判定してもよいし、顔領域に加えて顔領域の下部の領域の距離値に基づいて距離精度を判定してもよい。また、距離精度の判定に利用する領域は、入出力部309を介してユーザにより指定された領域であってもよい。
[第2実施形態]
第1実施形態においては、距離画像データに基づいて距離精度を設定した。本実施形態においては、画像データにタグ情報として付与された撮像装置情報に基づいて距離精度を設定する。尚、本実施形態における情報処理装置1のハードウェア構成は、図1(b)に示すものであるとする。すなわち、本実施形態においては、情報処理装置1には撮像部は内臓されておらず、画像データは外部から取得するものとする。情報処理装置1の論理構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置1が実行する処理>
本実施形態は、第1実施形態と比較して、S402におけるライティング効果リストを決定する処理が異なる。本実施形態におけるライティング効果リスト決定部302は、画像データに付与された撮像装置情報に基づいて、距離精度を判定する。尚、撮像装置情報には、撮像装置名、撮像装置が距離情報を取得可能か否か、距離情報の取得方法などが含まれるものとする。また、距離情報を取得するために被写体に光を投影する撮像装置は、他の撮像装置と比べて、最も高精度に距離情報を取得できるものとする。その他の方法により距離情報を取得する撮像装置は、その次に精度の高い距離情報を取得することができるものとする。距離情報を取得できない撮像装置を用いた場合が最も距離情報の精度が低いものとする。以下、ライティング効果リストを決定する処理の詳細について説明する。
<ライティング効果リストを決定する処理(S402)>
図13は、ライティング効果リストを決定する処理を示すフローチャートである。S1301において、ライティング効果リスト決定部302は、カラー画像データのタグ情報から撮像装置情報を取得する。撮像装置情報は、カラー画像データと距離画像データとを生成するために用いた撮像装置を特定する情報である。本実施形態においては、情報処理装置1が撮像部106を有しているため、情報処理装置1を撮像装置として扱う。S1302において、ライティング効果リスト決定部302は、撮像装置情報に基づいて、撮像装置が距離情報を取得できるか否かを判定する。撮像装置が距離情報を取得できる場合はS1304に進み、撮像装置が距離情報を取得できない場合はS1303に進む。
S1303において、ライティング効果リスト決定部302は、距離精度を「低」に設定する。S1304において、ライティング効果リスト決定部302は、撮像装置が距離情報を取得するために被写体に光を投影するか否かを判定する。撮像装置が被写体に光を投影しない場合はS1305に進み、撮像装置が被写体に光を投影する場合はS1306に進む。距離情報を取得するために被写体に光を投影する撮像装置の例としては、被写体に投影した特定のパターンを撮像し、パターンの変形量に基づいて距離を計測するカメラや、被写体に照射した光の飛行時間に基づいて距離を計測するカメラなどがある。距離情報を取得するために被写体に光を投影しない撮像装置の例としては、視差に基づいて距離情報を取得するカメラがある。
S1305において、ライティング効果リスト決定部302は、距離精度を「中」に設定する。S1306において、ライティング効果リスト決定部302は、距離精度を「高」に設定する。S1307において、ライティング効果リスト決定部302は、距離精度に基づいて、ライティング効果リストに含めるライティング効果を決定する。S1307の処理は、第1実施形態におけるS507の処理と同等であるため説明を省略する。
<第2実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、画像データに対応する撮像装置が距離情報を取得する機能を有するか否かに基づいて、距離情報の精度を判定する。これにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
<変形例>
本実施形態においては、被写体に光を投影するか否かに応じて距離精度を判定したが、複数のカメラで撮像するか否かに応じて距離精度を判定してもよい。この場合、1つのカメラで撮像する場合よりも、複数のカメラで撮像する場合に距離精度が高くなるように設定する。図28は、ライティング効果リストを決定する処理を示すフローチャートである。図13と比較して、S2804が異なる。S2804において、ライティング効果リスト決定部302は、撮像装置が複数のカメラで被写体を撮像するか否かを判定する。1つのカメラで撮像する場合はS2805に進み、複数のカメラで撮像する場合はS2806に進む。1つのカメラで撮像する場合、レンズによるボケの大きさに基づいて距離情報を取得する方法や、撮像画像における被写体の認識結果に基づいて距離情報を取得する方法などが知られている。複数のカメラで撮像する場合、ボケの大きさや被写体の認識結果に加えてカメラ位置の違いによる視差情報に基づいて距離情報を取得することができる。このため、1つのカメラで撮像する場合よりも、複数のカメラで撮像する場合の方が精度の高い距離情報を取得できる。
また、本実施形態においては、距離情報を取得できるか否かと距離情報の取得方法とに応じて距離精度を設定したが、撮像装置名に応じて距離精度を設定してもよい。この場合、予め撮像装置名と距離精度との対応関係を保持するテーブルを作成しておく。カラー画像データに対応する撮像装置名と、予め作成しておいたテーブルと、に基づいて、距離精度を設定すればよい。
また、本実施形態においては、情報処理装置1が図1(b)のハードウェア構成であると説明した。しかしながら、情報処理装置1が図1(a)に示すハードウェア構成であっても、本実施形態を適用することができる。特に、情報処理装置1が撮像部106を用いて複数の算出方法により複数の異なる距離情報を取得できる場合がある。この場合、画像データにタグ情報として距離情報の取得方法を保存しておくことにより、ライティング効果リスト決定部302は、本実施形態において説明したように、ライティング効果リストを決定することができる。
[第3実施形態]
第1実施形態においては、距離画像データに基づいて距離精度を設定した。本実施形態においては、撮像部106から、撮像の際にフォーカスを合わせた被写体の位置までの距離(以下、被写体距離と呼ぶ)に基づいて距離精度を設定する。尚、本実施形態における情報処理装置1のハードウェア構成及び論理構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置1が実行する処理>
本実施形態は、第1実施形態と比較して、S402におけるライティング効果リストを決定する処理が異なる。本実施形態におけるライティング効果リスト決定部302は、カラー画像データに対応する被写体距離情報に基づいて、距離精度を判定する。尚、被写体距離情報は、撮像部106から、撮像の際にフォーカスを合わせた被写体の位置までの距離値を表す情報である。ライティング効果リスト決定部302は、被写体距離が小さいほど距離精度が高いと判定する。具体的には、被写体距離を予め定められた値L1、L2(L1>L2)と比較することにより、距離精度を判定する。以下、ライティング効果リストを決定する処理の詳細について説明する。
<ライティング効果リストを決定する処理(S402)>
図14は、ライティング効果リストを決定する処理を示すフローチャートである。S1401において、ライティング効果リスト決定部302は、カラー画像データのタグ情報から被写体距離情報を取得する。S1402において、ライティング効果リスト決定部302は、被写体距離がL1以上であるか否かを判定する。被写体距離がL1以上であると判定した場合はS1403に進み、被写体距離がL1未満であると判定した場合はS1404に進む。S1403において、ライティング効果リスト決定部302は、距離精度を「低」に設定する。
S1404において、ライティング効果リスト決定部302は、被写体距離がL2以上であるか否かを判定する。被写体距離がL2以上であると判定した場合はS1405に進み、被写体距離がL2未満であると判定した場合はS1406に進む。S1405において、ライティング効果リスト決定部302は、距離精度を「中」に設定する。S1406において、ライティング効果リスト決定部302は、距離精度を「高」に設定する。S1407において、ライティング効果リスト決定部302は、距離精度に基づいて、ライティング効果リストに含めるライティング効果を決定する。S1407の処理は、第1実施形態におけるS507の処理と同等であるため説明を省略する。
<第3実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、画像データに対応する被写体距離情報に基づいて、距離情報の精度を判定する。これにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
[第4実施形態]
第1実施形態においては、距離画像データに基づいて距離精度を設定した。本実施形態においては、撮像されたシーンに基づいて距離精度を設定する。尚、本実施形態における情報処理装置1のハードウェア構成及び論理構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置1が実行する処理>
本実施形態は、第1実施形態と比較して、S402のライティング効果リストを決定する処理が異なる。本実施形態におけるライティング効果リスト決定部302は、カラー画像データを得るための撮像の際に撮像されたシーンに基づいて、距離精度を判定する。ライティング効果リスト決定部302は、人物の有無と動きの有無とに応じて撮像シーンを判定する。本実施形態においては、ライティング効果を付与する対象を人物とするため、人物を含まないシーンは最も距離精度が低いものとする。また、人物を含む動きのないシーンを最も距離精度が高いものとする。また、人物を含む動きのあるシーンを次に距離精度が高いものとする。以下、ライティング効果リストを決定する処理の詳細について説明する。
<ライティング効果リストを決定する処理(S402)>
図15は、ライティング効果リストを決定する処理を示すフローチャートである。S1501において、ライティング効果リスト決定部302は、カラー画像データに基づいて、撮像シーンの判定を行う。具体的に、ライティング効果リスト決定部302は、カラー画像に人物が含まれているか否かの判定と、カラー画像に動きのあるシーンが含まれているか否かと、を判定する。人物の有無の判定は、カラー画像から検出された顔領域の数に基づいて行う。顔領域の数が1つ以上ある場合はカラー画像に人物が含まれていると判定し、顔領域が検出されない場合はカラー画像に人物が含まれていないと判定する。顔領域の検出は、第1実施形態におけるS501の処理と同じ方法を利用する。動きの有無の判定は、カラー画像における、被写体に対応する領域の高周波成分の強度に基づいて行う。高周波成分の強度が予め定められた値以上である場合に動きがないと判定し、高周波成分の強度が予め定められた値未満である場合に動きがあると判定する。高周波成分の強度は、ラプラシアンフィルタ等のエッジ抽出フィルタ適用後のカラー画像における画素値の絶対値の総和とする。尚、高周波成分の強度は、カラー画像に公知のFFTを適用することにより導出される周波数空間におけるパワースペクトルであってもよい。また、動きの有無の判定は、ライティング効果を付与する対象のカラー画像を得るための撮像の直前あるいは直後に撮像を行い、対象のカラー画像と直前又は直後の撮像に対応するカラー画像との差分の大きさに基づいて判定してもよい。この場合は、差分が予め定められた値以下である場合に動きがないと判定し、差分が予め定められた値より大きい場合に動きがあると判定すればよい。
S1502において、ライティング効果リスト決定部302は、人物の有無に関する判定の結果を取得する。カラー画像に人物が含まれていないと判定された場合はS1503に進み、カラー画像に人物が含まれていると判定された場合はS1504に進む。S1503において、ライティング効果リスト決定部302は、距離精度を「低」に設定する。S1504において、ライティング効果リスト決定部302は、動きの有無に関する判定の結果を取得する。カラー画像に動きのあるシーンが含まれていると判定された場合はS1505に進み、カラー画像に動きのあるシーンが含まれていないと判定された場合はS1506に進む。
S1505において、ライティング効果リスト決定部302は、距離精度を「中」に設定する。S1506において、ライティング効果リスト決定部302は、距離精度を「高」に設定する。S1507において、ライティング効果リスト決定部302は、距離精度に基づいて、ライティング効果リストに含めるライティング効果を決定する。S1507の処理は、第1実施形態におけるS507の処理と同等であるため説明を省略する。
<第4実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、撮像シーンに基づいて、距離精度を設定する。具体的には、カラー画像に人物が含まれているか否かや、カラー画像に動いている被写体の一時的な状態が含まれているか否かに基づいて、距離精度を設定する。これにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
[第5実施形態]
第1実施形態においては、距離画像データに基づいて距離精度を設定した。本実施形態においては、予め設定された人物情報に基づいて距離精度を設定する。尚、本実施形態における情報処理装置1のハードウェア構成及び論理構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置1が実行する処理>
本実施形態は、第1実施形態と比較して、S402のライティング効果リストを決定する処理が異なる。本実施形態におけるライティング効果リスト決定部302は、距離画像データに基づいて距離精度を設定した後、予め設定された人物情報に基づいて距離精度を更新する。尚、人物情報には、人物名、人物画像データ、人物距離画像データ、人物距離精度が含まれているものとする。人物情報の例を図16に示す。人物画像データは、少なくとも人物の顔を含む画像を表す画像データであり、対応する人物の顔領域が設定されている。人物距離画像データは、人物画像データに対応する距離画像データである。人物距離精度は、人物距離画像データが有する距離情報の精度を表しており、上述した距離精度と同様に「高」、「中」、「低」のいずれかに設定される。尚、複数の人物それぞれに対応する人物情報を予め設定できるものとする。以下、ライティング効果リストを決定する処理の詳細について説明する。
<ライティング効果リストを決定する処理(S402)>
図17は、ライティング効果リストを決定する処理を示すフローチャートである。S1701において、ライティング効果リスト決定部302は、距離画像データに基づいて、距離精度を設定する。S1701の処理は、第1実施形態におけるS501からS506までの処理と同等であるため説明を省略する。
S1702において、ライティング効果リスト決定部302は、カラー画像に含まれる人物の判定を行う。まず、ライティング効果リスト決定部302は、カラー画像から顔領域を抽出する。抽出した顔領域における人物の顔と、予め設定された人物情報が表す人物の顔と、の類似度を導出し、最も類似度の高い顔を表す人物情報を選択する。類似度は、カラー画像から抽出した顔領域と、人物画像データが表す人物画像における顔領域と、の差分に基づいて導出する。選択された人物情報の類似度が所定の値以上である場合は、カラー画像における被写体に、選択された人物情報を対応付ける。選択された人物情報の類似度が所定の値未満である場合は、カラー画像における被写体に対応する人物情報はないと判定する。また、カラー画像から顔領域が抽出されない場合も、カラー画像における被写体に対応する人物情報はないと判定する。
S1703において、ライティング効果リスト決定部302は、カラー画像における被写体に人物情報が対応付けられているか否かを判定する。カラー画像における被写体に人物情報が対応付けられている場合はS1704に進み、カラー画像における被写体に人物情報が対応付けられていない場合はS1708に進む。S1704において、ライティング効果リスト決定部302は、人物情報に含まれる人物距離精度と、S1701において設定された距離精度と、を比較する。S1701において設定された距離精度よりも人物距離精度の方が低い場合はS1705に進み、S1701において設定された距離精度よりも人物距離精度の方が高い場合はS1706に進む。
S1705において、ライティング効果リスト決定部302は、人物情報に含まれる人物画像データ、人物距離画像データ、人物距離精度を更新する。人物画像データはカラー画像データに基づいて更新する。顔領域に基づいてカラー画像を人物画像に合わせて変形することにより、変形したカラー画像を表す画像データを新たな人物画像データとする。人物距離画像データは距離画像データに基づいて更新する。距離画像をカラー画像と同様に変形することにより、変形した距離画像を表す画像データを新たな人物距離画像データとする。人物距離精度は、S1701において設定された距離精度に更新する。以上のように人物情報を更新することにより、人物情報に含まれる距離精度を高めることができる。
S1706において、ライティング効果リスト決定部302は、人物距離画像データに基づいて、距離画像データを補正する。まず、ライティング効果リスト決定部302は、人物画像をカラー画像に合わせて変形するためのパラメータを導出する。導出したパラメータに基づいて、人物距離画像を距離画像に合わせて変形する。ここで導出するパラメータは、人物画像とカラー画像とから抽出した特徴点に基づいた射影変換パラメータである。変形した人物距離画像を表す画像データを新たな距離画像データとする。S1707において、ライティング効果リスト決定部302は、距離精度を人物距離精度の値に更新する。S1708において、ライティング効果リスト決定部302は、距離精度に基づいて、ライティング効果リストに含めるライティング効果を決定する。S1708の処理は、第1実施形態におけるS507の処理と同等であるため説明を省略する。
<第5実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、予め設定された人物情報に基づいて、距離精度を設定する。これにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
<変形例>
本実施形態においては、S1705において人物情報の更新を行ったが、S1705の処理を省略してもよい。
また、本実施形態においては、S1706において人物距離画像を変形し、変形した人物距離画像を新たな距離画像としたが、変形した人物距離画像と距離画像とを合成して新たな距離画像としてもよい。
また、S1706において、人物距離画像の距離値を距離画像の距離値に基づいて補正した後に、人物距離画像を変形してもよい。例えば、人物距離画像の顔領域における距離値の平均値と、距離画像の顔領域における距離値の平均値と、の差が小さくなる、又は、一致するように人物距離画像の距離値を補正してもよい。
[第6実施形態]
本実施形態においては、ユーザ操作に基づいて撮像方法を設定する。また、設定された撮像方法に基づいてライティング効果リストを決定する。尚、本実施形態における情報処理装置1のハードウェア構成及び論理構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置1が実行する処理>
本実施形態においては、カラー画像データを得るための撮像における撮像方法に基づいて、距離精度を設定する。図18は、本実施形態において情報処理装置1が実行する処理を示すフローチャートである。S1801において、画像データ取得部301は、入出力部309から取得したユーザ操作に基づいて、画像データを取得するための撮像方法を設定する。本実施形態においては、情報処理装置1のディスプレイ面に備えられるインカメラ201と、情報処理装置1の背面に備えられるメインカメラ202と、のどちらで撮像を行うかを選択する。尚、本実施形態において、インカメラ201は距離情報を取得できない単眼カメラとする。また、メインカメラ202は視差情報に基づいて距離画像データを取得できるカメラとする。
S1802において、画像データ取得部301は、設定されたカメラから画像データを取得する。S1803において、ライティング効果リスト決定部302は、撮像方法に基づいて、距離精度を設定する。また、ライティング効果リスト決定部302は、距離精度に基づいて、有効なライティング効果を含むライティング効果リストを決定する。距離精度の設定方法は、第2実施形態において説明した内容と同様に行うことができる。例えば、撮像に用いるカメラをインカメラ201に設定した場合、インカメラ201は距離情報を取得できないため、距離精度は「低」と判定される。また、撮像に用いるカメラをメインカメラ202に設定した場合、メインカメラ202は視差に基づいて距離画像データを取得するため、距離精度は「中」と判定される。
S1804において、ライティング効果選択部303は、入出力部309から取得したユーザ操作に基づいて、ライティング効果リストに含まれるライティング効果から1つのライティング効果を選択する。また、ライティング効果選択部303は、ライティング効果を選択後に、ユーザ操作に基づいて仮想光源の位置などのパラメータを設定する。ユーザ操作によりライティング効果が選択されていない場合は、初期状態として予め定められたライティング効果を選択する。S1805において、ライティング処理部304は、選択されたライティング効果をカラー画像に付与する。ライティング効果をカラー画像に付与する処理は、第1実施形態におけるS404の処理と同様である。
S1806において、画像表示制御部305は、補正画像を入出力部309に表示する。S1807において、ライティング効果表示制御部306は、ライティング効果リストに含まれるライティング効果を入出力部309に表示する。画像表示制御部305により表示される表示画像の例を図19に示す。図19(a)は、撮像に用いるカメラとしてメインカメラ202を選択した場合の表示画像の例である。この場合、距離精度「中」に応じたアイコンが表示される。図19(b)は撮像に用いるカメラとしてインカメラ201を選択した場合の表示画像の例である。この場合、距離精度「低」に応じたアイコンが表示される。尚、カメラ切り替え操作を表すアイコン1901がユーザにより選択されることによって撮像方法を変更することができる。
S1808において、ライティング処理部304は、入出力部309から取得したユーザ操作に基づいて、補正画像データを記憶部307に記録するか否かを判定する。補正画像データを記録する操作が検出された場合はS1810に進み、補正画像データを記録する操作が検出されない場合はS1809に進む。S1809において、ライティング処理部304は、入出力部309から取得したユーザ操作に基づいて、撮像方法を変更するか否かを判定する。撮像方法を変更する操作が検出された場合はS1801に進み、撮像方法を変更する操作が検出されない場合はS1802に進む。S1810において、ライティング処理部304は、記憶部307に補正画像データを記録し、処理を終了する。
<第6実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、カラー画像データを得るための撮像における撮像方法に基づいて、距離精度を設定する。これにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
<変形例>
本実施形態においては、インカメラ201を距離情報を取得できないカメラとし、メインカメラ202を視差情報に基づいて距離画像データを取得するカメラとしたが、カメラの組み合わせはこれに限られない。距離情報を取得するために被写体に光を投影するカメラをインカメラ201もしくはメインカメラ202としてもよい。あるいは、3つ以上のカメラを切り替えるようにしてもよい。
また、本実施形態においては、撮像方法としてインカメラ201とメインカメラ202とのどちらを使用するかに応じてライティング効果リストを決定したが、メインカメラ202使用時の撮像モードに応じてライティング効果リストを決定してもよい。本実施形態においては、メインカメラ202は視差情報に基づいて距離画像データを取得できるカメラであり、メインカメラ202として複数のカメラを備えている。さらに、メインカメラ202使用時の撮像モードとして、1つのカメラで撮像し距離情報を取得可能な単眼撮像モードと、複数のカメラで撮像し距離情報を取得可能な多眼撮像モードとを備えるものとする。この場合、S1803において、ライティング効果リスト決定部302は、撮像モードに応じて距離精度を設定する。また、ライティング効果リスト決定部302は、距離精度に基づいて、有効なライティング効果を含むライティング効果リストを決定する。距離精度の設定方法は、第2実施形態において図28を用いて説明した内容と同様に行うことができる。例えば、撮像モードが単眼撮像モードの場合は、距離情報を取得可能であるが複数のカメラで撮像をしないため、距離精度は「中」と判定される。また、撮像モードが多眼撮像モードの場合は、距離情報を取得可能であり、複数のカメラで撮像をするため、距離精度は「高」と判定される。図29(a)は、撮像モードとして単眼撮像モードを選択した場合の表示画像の例である。この場合、距離精度「中」に応じたアイコンが表示される。図29(b)は撮像モードとして多眼撮像モードを選択した場合の表示画像の例である。この場合、距離精度「高」に応じたアイコンが表示される。尚、カメラ切り替え操作を表すアイコン2901がユーザにより選択されることによって撮像方法を変更することができる。撮像モード切り替え操作を表すアイコン2902がユーザにより選択されることによって撮像モードを変更することができる。尚、本実施形態において、インカメラ201は距離情報を取得できない単眼カメラとしたが、メインカメラ202と同様に視差情報に基づいて距離画像データを取得できるカメラとし、撮像モードを切り替えられるようにしてもよい。また、撮像モードとして1つのカメラで撮像し距離情報を取得しない撮像モードを備えてもよい。
[第7実施形態]
上述した実施形態おいては、ユーザ操作に基づいて選択されたライティング効果に応じてライティング効果をカラー画像に付与した。本実施形態においては、ライティング効果をカラー画像に付与する処理において用いるパラメータ(以下、ライティングパラメータと呼ぶ)をユーザ操作に基づいて設定する。尚、本実施形態における情報処理装置1のハードウェア構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置1の論理構成>
図20は、本実施形態における情報処理装置1の論理構成を示すブロック図である。情報処理装置1は、CPU101がROM102に格納されたプログラムをRAM103をワークメモリとして実行することによって、図20に示す論理構成として機能する。尚、以下に示す処理の全てが必ずしもCPU101によって実行される必要はなく、処理の一部または全てがCPU101以外の一つまたは複数の処理回路によって行われるように情報処理装置1が構成されていてもよい。
情報処理装置1は、画像データ取得部2001と、パラメータ調整範囲設定部2002と、ライティングパラメータ設定部2003と、ライティング処理部2004と、画像表示制御部2005と、インタフェース表示制御部2006と、を有する。画像データ取得部2001は、入出力部2009から取得したユーザ操作に基づいて、撮像部2008又は記憶部2007からカラー画像データと距離画像データとを取得する。ここで、記憶部2007の機能は、例えば、記憶装置110により実現され、撮像部2008の機能は撮像部106により実現され、入出力部2009の機能はタッチパネルディスプレイ105により実現される。パラメータ調整範囲設定部2002は、画像データに基づいて判定した距離精度に応じて、調整可能なライティングパラメータを設定する。
ライティングパラメータ設定部2003は、入出力部2009から取得したユーザ操作に基づいて、ライティングパラメータを設定する。ライティング処理部2004は、設定されたライティングパラメータに基づいて、ライティング効果をカラー画像に付与する。また、ライティング処理部2004は、入出力部2009から取得したユーザ操作に基づいて、記憶部2007に補正画像データを記録する。
画像表示制御部2005は、補正画像を入出力部2009に表示する。インタフェース表示制御部2006は、ライティングパラメータを調整するためのスライダーやボタンなどのインタフェースを入出力部2009に表示する。
<情報処理装置1が実行する処理>
本実施形態においては、距離画像データに基づいて、ライティングパラメータの調整範囲を設定する。さらに、ユーザ操作に基づいて設定したライティングパラメータに応じて、カラー画像にライティング効果を付与する。図21は、本実施形態において情報処理装置1が実行する処理を示すフローチャートである。
S2101において、画像データ取得部2001は、入出力部2009から取得したユーザ操作に基づいて、記憶部2007からカラー画像データと距離画像データとを取得する。S2102において、パラメータ調整範囲設定部2002は、距離画像データに基づいて、距離精度を設定する。また、パラメータ調整範囲設定部2002は、設定した距離精度に基づいて、ライティングパラメータの調整範囲を設定する。ライティングパラメータの調整範囲を設定する処理の詳細については後述する。
S2103において、ライティングパラメータ設定部2003は、入出力部2009から取得したユーザ操作に基づいて、ライティングパラメータを設定する。ユーザ操作が行われない場合は、予め定められた値をライティングパラメータとして設定する。S2104において、ライティング処理部2004は、設定されたライティングパラメータに基づいて、カラー画像を補正する。カラー画像を補正する処理の詳細は後述する。
S2105において、画像表示制御部2005は、補正画像を入出力部2009に表示する。S2106において、インタフェース表示制御部2006は、ライティングパラメータを調整するためのスライダーやボタンなどのインタフェースを入出力部2009に表示する。インタフェースの表示については後に詳述する。S2107において、入出力部2009から取得したユーザ操作に基づいて、補正画像データを記憶部2007に記録するか否かを判定する。補正画像データを記録する操作が検出された場合はS2109に進み、補正画像データを記録する操作が検出されない場合はS2108に進む。
S2108において、ライティング処理部2004は、入出力部2009から取得したユーザ操作に基づいて、ライティング効果を付与するカラー画像を変更するか否かを判定する。カラー画像を変更する操作が検出された場合はS2101に進み、カラー画像を変更する操作が検出されない場合はS2103に進む。S2109において、ライティング処理部2004は、記憶部2007に補正画像データを記録し、処理を終了する。
<ライティングパラメータの調整範囲を設定する処理(S2102)>
図22は、ライティングパラメータの調整範囲を設定する処理を示すフローチャートである。S2201において、パラメータ調整範囲設定部2002は、距離画像データに基づいて、距離精度を設定する。S2201の処理は、第1実施形態におけるS501からS506までの処理と同等であるため説明を省略する。
S2202において、パラメータ調整範囲設定部2002は、距離精度に基づいて、ライティングパラメータの調整範囲を設定する。図23(a)に、距離精度に基づくライティングパラメータの設定方法の例を示す。本実施形態においては、ライティングパラメータとして、ライティング効果を付与するか否かを示すON/OFF、仮想光源の明るさ、仮想光源の位置にそれぞれ対応するパラメータを扱う。パラメータ調整範囲設定部2002は、距離精度に応じてライティングパラメータをユーザが調整できるように設定する。具体的には、距離精度が高いほどユーザが調整できるパラメータを増やすように設定する。例えば、距離精度が「低」の場合は、ON/OFFのみを調整可能にする。距離精度が「中」の場合は、ON/OFF、光源の明るさを調整可能にする。距離精度が「高」の場合は、ON/OFF、光源の明るさ、光源の位置を調整可能にする。
<カラー画像を補正する処理(S2104)>
図24は、カラー画像を補正する処理を示すフローチャートである。S2401において、ライティング処理部2004は、S2102において設定された距離精度を判定する。距離精度が「高」である場合はS2402に進み、距離精度が「高」である場合はS2402に進み、距離精度が「中」、「低」である場合はS2403に進む。S2402において、ライティング処理部2004は、距離画像データに基づいて、法線画像データを生成する。S2402の処理は、第1実施形態におけるS803の処理と同等であるため説明を省略する。
S2403において、ライティング処理部2004は、簡易的に法線画像データを生成する。S2403の処理は、第1実施形態におけるS804の処理と同等であるため説明を省略する。S2404において、ライティング処理部2004は、S2103において設定されたライティングパラメータに基づいて、カラー画像を補正する。ライティング処理部304は、式(7)に従って、カラー画像に対して、距離画像データ及び法線画像データに応じた陰影を加える。カラー画像の画素値をI、陰影が加えられたカラー画像の画素値をI’’とする。
I’’=I+wαD(d)H(n,L)I・・・式(7)
ここで、wはライティング効果のON/OFFに対応するパラメータであり、ONの場合はw=1、OFFの場合はw=0とする。αは光源の明るさに対応するパラメータであり、ユーザ操作に応じて値を設定する。Lは被写体から仮想的な光源への向きを示す光源ベクトルに対応するパラメータであり、光源の位置に関するユーザ操作に応じて値を設定する。D(d)、H(n,L)、nについては第1実施形態と同様である。
<インタフェースの表示(S2106)>
ここでは、S2106におけるインタフェースの表示について説明する。図25にインタフェースの表示例を示す。本実施形態において、インタフェース表示制御部2006は、ライティングパラメータを調整するためのスライダーやボタンを補正画像に重畳して表示する。距離精度が「低」の場合は、図25(a)のように、ライティング効果のON/OFFを切り替えるボタンを表示する。距離精度が「中」の場合は、図25(b)のように、ON/OFFを切り替えるボタンと、光源の明るさを調整するためのスライダーと、を表示する。距離精度が「高」の場合は、図25(c)のように、ON/OFFを切り替えるボタンと、明るさを調整するスライダーと、光源の位置を調整するためのスライダーと、を表示する。入出力部2009に表示されたインタフェースに対するユーザ操作により、ライティングパラメータを調整することができる。
<第7実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、距離精度に基づいて、ライティングパラメータの調整範囲を設定する。このように、距離精度に応じてライティングパラメータの調整範囲を制限することにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
<変形例>
本実施形態においては、距離精度に応じて調整可能なパラメータの数を変えたが、距離精度に応じてパラメータの調整可能範囲を変えてもよい。例えば、距離精度に応じて光源の位置の調整範囲を切り替えてもよい。図23(b)に、距離精度に基づくライティングパラメータの設定方法の例を示す。また、距離精度が「中」の場合の表示画像の例を図25(d)に示す。この例においては、距離精度が「中」の場合は、光源の位置を狭い範囲において調整できるように設定する。図25(d)に示す距離精度が「中」の場合の表示画像は、図25(c)に示す距離精度が「高」の場合の表示画像よりも、光源の位置を調整するためのスライダーの可動範囲が狭くなっている。
また、本実施形態においては、距離画像データに基づいて距離精度を判定したが、判定方法には上述した実施形態における別の方法を利用してもよい。
[第8実施形態]
第7実施形態おいては、距離精度に基づいて、ライティングパラメータの調整範囲を設定した。本実施形態においては、撮像方法に基づいて、ライティングパラメータの調整範囲を設定する。尚、本実施形態における情報処理装置1のハードウェア構成及び論理構成は第7実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第7実施形態とで異なる部分を主に説明する。尚、第7実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置1が実行する処理>
図26は、本実施形態において情報処理装置1が実行する処理を示すフローチャートである。S2601において、画像データ取得部2001は、入出力部2009から取得したユーザ操作に基づいて、画像データを取得するための撮像方法を設定する。本実施形態においては、情報処理装置1のディスプレイ面に備えられるインカメラ201と、情報処理装置1の背面に備えられるメインカメラ202と、のどちらで撮像を行うかを選択する。尚、本実施形態において、インカメラ201は距離情報を取得できない単眼カメラとする。また、メインカメラ202は視差情報に基づいて距離画像データを取得できるカメラとする。
S2602において、画像データ取得部301は、設定されたカメラから画像データを取得する。S2603において、パラメータ調整範囲設定部2002は、撮像方法に基づいて、距離精度を設定し、設定した距離精度に基づいて、ライティングパラメータの調整範囲を設定する。撮像方法に基づく距離精度の設定方法は第6実施形態と同等であるため説明を省略する。また、ライティングパラメータの調整範囲の設定方法は第7実施形態と同等であるため説明を省略する。S2604において、ライティングパラメータ設定部2003は、入出力部2009から取得したユーザ操作に基づいて、ライティングパラメータを設定する。ユーザ操作が行われていない場合は、予め定められた値をライティングパラメータとして設定する。
S2605において、ライティング処理部2004は、設定されたライティングパラメータに基づいて、カラー画像を補正する。カラー画像を補正する処理は第7実施形態と同等であるため説明を省略する。S2606において、画像表示制御部2005は、補正画像を入出力部2009に表示する。
S2607において、インタフェース表示制御部2006は、ライティングパラメータを調整するためのインタフェースを表示する。表示画像の例を図27に示す。図27(a)は、撮像するカメラとしてメインカメラ202を選択した場合の表示画像の例である。この場合、距離精度「中」に応じたインタフェースが表示される。図27(b)は、撮像するカメラとしてインカメラ201を選択した場合の表示画像の例である。この場合、距離精度「低」に応じたインタフェースが表示される。尚、カメラ切り替え操作を表すアイコン2701がユーザにより選択されることによって、撮像方法を変更する。
S2608において、ライティング処理部2004は、入出力部2009から取得したユーザ操作に基づいて、補正画像データを記憶部2007に記録するか否かを判定する。補正画像データを記録する操作が検出された場合はS2610に進み、補正画像データを記録する操作が検出されない場合はS2609に進む。S2609において、ライティング処理部2004は、入出力部2009から取得したユーザ操作に基づいて、撮像方法を変更するか否かを判定する。撮像方法を変更する操作が検出された場合はS2601に進み、撮像方法を変更する操作が検出されない場合はS2602に進む。S2610において、ライティング処理部304は、記憶部2007に補正画像データを記録し、処理を終了する。
<第8実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、カラー画像データを得るための撮像における撮像方法に基づいて、ライティングパラメータの調整範囲を設定する。このように、撮像方法に応じてライティングパラメータの調整範囲を制限することにより、被写体の距離情報に応じて画像にライティング効果を付与するために、適したライティング効果の候補を決定することができる。
<変形例>
本実施形態においては、インカメラ201を距離情報を取得できないカメラとし、メインカメラ202を視差情報に基づいて距離画像データを取得するカメラとしたが、カメラの組み合わせはこれに限られない。距離情報を取得するために被写体に光を投影するカメラをインカメラ201もしくはメインカメラ202としてもよい。あるいは、3つ以上のカメラを切り替えるようにしてもよい。
[その他の実施形態]
上述した実施形態において、情報処理装置1のハードウェア構成は、図1(a)に示した構成であったが、情報処理装置1のハードウェア構成は上記の例に限られない。例えば、情報処理装置1のハードウェア構成は、図1(b)に示す構成であってもよい。情報処理装置1は、CPU101と、ROM102と、RAM103と、VC(ビデオカード)111と、汎用I/F114と、SATA(シリアルATA)I/F118と、を有する。CPU101は、RAM103をワークメモリとして、ROM102、記憶装置110などに格納されたOSや各種プログラムを実行する。また、CPU101は、システムバス108を介して各構成を制御する。汎用I/F114には、シリアルバス115を介して、マウスやキーボードなどの入力デバイス116や撮像装置117が接続される。SATAI/F118には、シリアルバス119を介して、記憶装置110が接続される。VC111には、シリアルバス112を介して、ディスプレイ113が接続される。CPU101は、プログラムによって提供されるUI(ユーザインタフェース)をディスプレイ113に表示し、入力デバイス116を介して得られたユーザの指示を表す入力情報を受信する。図1(b)に示す情報処理装置1は、例えば、デスクトップ型のPCによって実現される。尚、情報処理装置1は、撮像装置117と一体となったデジタルカメラや、ディスプレイ113と一体となったPCなどによっても実現される。
また、上述した実施形態においては、情報処理装置1は撮像部106としてメインカメラ202とインカメラ201との2つのカメラを有していたが、撮像部106は上記の例に限られない。例えば、情報処理装置1は、メインカメラ202のみであってもよい。
また、上述した実施形態においては、ライティング効果を付与する対象の画像はカラー画像としたが、グレースケール画像であってもよい。
また、上述した実施形態における記憶装置110はHDDであったが、記憶装置110は上記の例に限られない。例えば、SSD(ソリッドステートドライブ)であってもよい。また、記憶装置110は、メディア(記録媒体)と、当該メディアへのアクセスを行うための外部記憶ドライブとによっても実現される。メディアには、フレキシブルディスク(FD)、CD-ROM、DVD、USBメモリ、MO、フラッシュメモリなどを用いることができる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
1 情報処理装置
301 画像データ取得部
302 ライティング効果リスト決定部

Claims (20)

  1. 画像を表す画像データを取得する第1取得手段と、
    前記画像データに対応する距離情報を取得する第2取得手段と、
    前記画像に前記距離情報に応じたライティング効果を付与する際に前記画像に付与可能なライティング効果の候補を、前記距離情報の精度に基づいて決定する決定手段と、
    を有することを特徴とする情報処理装置。
  2. 前記距離情報の精度を判定する判定手段をさらに有し、
    前記決定手段は、前記判定手段による判定の結果に基づいて、前記画像に付与可能なライティング効果の候補を決定することを特徴とする請求項1に記載の情報処理装置。
  3. 前記判定手段は、前記距離情報に基づいて、前記距離情報の精度を判定することを特徴とする請求項2に記載の情報処理装置。
  4. 前記判定手段は、前記画像における被写体に対応する領域について、前記距離情報の精度を判定することを特徴とする請求項3に記載の情報処理装置。
  5. 前記判定手段は、前記画像から前記被写体の顔の凹凸が特定できるか否かに応じて、前記距離情報の精度を判定することを特徴とする請求項4に記載の情報処理装置。
  6. 前記判定手段は、前記距離情報を取得するために用いる撮像手段に関する情報に基づいて、前記距離情報の精度を判定することを特徴とする請求項2に記載の情報処理装置。
  7. 前記判定手段は、前記距離情報を取得するための撮像手段が距離情報を取得する機能を有するか否かに基づいて、前記距離情報の精度を判定することを特徴とする請求項6に記
    載の情報処理装置。
  8. 前記機能は、被写体に光を投影することにより距離情報を取得する機能であることを特徴とする請求項7に記載の情報処理装置。
  9. 前記判定手段は、前記画像データを得るための撮像におけるフォーカスの位置に基づいて、前記距離情報の精度を判定することを特徴とする請求項2に記載の情報処理装置。
  10. 前記判定手段は、前記画像データを得るために撮像されたシーンに基づいて、前記距離情報の精度を判定することを特徴とする請求項2に記載の情報処理装置。
  11. 前記判定手段は、前記シーンに人物が含まれるか否かに基づいて、前記距離情報の精度を判定することを特徴とする請求項10に記載の情報処理装置。
  12. 前記判定手段は、前記シーンに動いている被写体の一時的な状態が含まれているか否かに基づいて、前記距離情報の精度を判定することを特徴とする請求項10又は請求項11に記載の情報処理装置。
  13. 前記判定手段は、前記画像に含まれる人物に対応する情報に基づいて、前記距離情報の精度を判定することを特徴とする請求項2に記載の情報処理装置。
  14. 人物を特定する人物情報を取得する第3取得手段をさらに有し、
    前記判定手段は、前記画像から人物の顔に対応する領域を抽出し、抽出した前記領域における前記顔と、前記人物情報が特定する人物の顔と、の類似度に基づいて、前記距離情報の精度を判定することを特徴とする請求項13に記載の情報処理装置。
  15. 前記画像に付与可能なライティング効果の候補を提示する提示手段を制御する制御手段をさらに有し、
    前記制御手段は、前記画像に付与可能なライティング効果を表すアイコンを表示手段に表示することを特徴とする請求項1乃至請求項14のいずれか一項に記載の情報処理装置。
  16. 前記制御手段は、前記ライティング効果が付与された前記画像に、前記アイコンを重畳して前記表示手段に表示することを特徴とする請求項15に記載の情報処理装置。
  17. 前記画像に付与可能なライティング効果の候補を提示する提示手段を制御する制御手段をさらに有し、
    前記制御手段は、前記画像に付与可能なライティング効果の候補を、表示手段においてライティング効果を調整可能な範囲を示すことにより提示することを特徴とする請求項1乃至請求項14のいずれか一項に記載の情報処理装置。
  18. 前記制御手段は、前記ライティング効果を調整可能な範囲を、ユーザのタッチが検出されることにより移動するスライダーを前記表示手段に表示することにより提示することを特徴とする請求項17に記載の情報処理装置。
  19. コンピュータを請求項1乃至請求項18のいずれか一項に記載の情報処理装置の各手段として機能させるためのプログラム。
  20. 画像を表す画像データを取得する第1取得ステップと、
    前記画像データに対応する距離情報を取得する第2取得ステップと、
    前記画像に前記距離情報に応じたライティング効果を付与する際に前記画像に付与可能なライティング効果の候補を、前記距離情報の精度に基づいて決定する決定ステップと、を有することを特徴とする情報処理方法。
JP2019184741A 2019-02-06 2019-10-07 情報処理装置、情報処理方法及びプログラム Active JP7422454B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202010008485.4A CN111541840B (zh) 2019-02-06 2020-01-06 确定照明效果候选的信息处理设备、方法及存储介质
US16/775,793 US11210767B2 (en) 2019-02-06 2020-01-29 Information processing apparatus to determine candidate for lighting effect, information processing method, and storage medium
KR1020200010331A KR102565151B1 (ko) 2019-02-06 2020-01-29 라이팅 효과에 대한 후보를 결정하기 위한 정보 처리 장치, 정보 처리 방법, 및 저장 매체

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019020147 2019-02-06
JP2019020147 2019-02-06

Publications (2)

Publication Number Publication Date
JP2020126582A JP2020126582A (ja) 2020-08-20
JP7422454B2 true JP7422454B2 (ja) 2024-01-26

Family

ID=72084947

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019184741A Active JP7422454B2 (ja) 2019-02-06 2019-10-07 情報処理装置、情報処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7422454B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160330434A1 (en) 2015-05-08 2016-11-10 Lite-On Electronics (Guangzhou) Limited Control method of a depth camera
US20170084068A1 (en) 2015-09-17 2017-03-23 Samsung Electronics Co., Ltd. Apparatus and method for adjusting brightness of image
JP2017204673A (ja) 2016-05-09 2017-11-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2018010497A (ja) 2016-07-14 2018-01-18 キヤノン株式会社 画像処理装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160330434A1 (en) 2015-05-08 2016-11-10 Lite-On Electronics (Guangzhou) Limited Control method of a depth camera
US20170084068A1 (en) 2015-09-17 2017-03-23 Samsung Electronics Co., Ltd. Apparatus and method for adjusting brightness of image
JP2017204673A (ja) 2016-05-09 2017-11-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2018010497A (ja) 2016-07-14 2018-01-18 キヤノン株式会社 画像処理装置

Also Published As

Publication number Publication date
JP2020126582A (ja) 2020-08-20

Similar Documents

Publication Publication Date Title
US9846803B2 (en) Makeup supporting device, makeup supporting system, makeup supporting method, and non-transitory computer-readable recording medium
JP6864449B2 (ja) イメージの明るさを調整する方法及び装置
US9760976B2 (en) Image processing apparatus and image processing method
US8515172B2 (en) Segmentation of image data
CN105611275B (zh) 执行电子装置的多照相机捕捉控制的方法及其设备
US10139218B2 (en) Image processing apparatus and image processing method
CN111541840B (zh) 确定照明效果候选的信息处理设备、方法及存储介质
DE112020003794T5 (de) Tiefenbewusste Fotobearbeitung
EP3588456A1 (en) Image processing apparatus, image processing method, and program
US20090168027A1 (en) Projector system employing depth perception to detect speaker position and gestures
US20160117832A1 (en) Method and apparatus for separating foreground image, and computer-readable recording medium
US9679415B2 (en) Image synthesis method and image synthesis apparatus
KR20160021607A (ko) 배경 화면을 디스플레이하는 방법 및 장치
KR20170002308A (ko) 물체 영역에 근거하여 화상을 처리하는 장치 및 그 방법
CN108986016A (zh) 图像美化方法、装置及电子设备
WO2019036866A1 (zh) 控制方法、控制装置、智能镜子和计算机可读存储介质
DE102015110955A1 (de) Informationsverarbeitungsvorrichtung zum Erfassen eines Objekts von einem Bild, Verfahren zum Steuern der Vorrichtung und Speichermedien
KR102459851B1 (ko) 이미지의 밝기를 조절하는 방법 및 장치
US20130162518A1 (en) Interactive Video System
US20140198177A1 (en) Realtime photo retouching of live video
JP7422454B2 (ja) 情報処理装置、情報処理方法及びプログラム
CN107430841B (zh) 信息处理设备、信息处理方法、程序以及图像显示系统
CN111652792B (zh) 图像的局部处理、直播方法、装置、设备和存储介质
US10497103B2 (en) Information processing apparatus, information processing system, information processing method, and recording medium
JP2019021333A (ja) 画像処理装置及び画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220930

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231212

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240110

R151 Written notification of patent or utility model registration

Ref document number: 7422454

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151