JP7046340B2 - 画像処理装置、端末、画像処理方法、プログラム - Google Patents

画像処理装置、端末、画像処理方法、プログラム Download PDF

Info

Publication number
JP7046340B2
JP7046340B2 JP2019174726A JP2019174726A JP7046340B2 JP 7046340 B2 JP7046340 B2 JP 7046340B2 JP 2019174726 A JP2019174726 A JP 2019174726A JP 2019174726 A JP2019174726 A JP 2019174726A JP 7046340 B2 JP7046340 B2 JP 7046340B2
Authority
JP
Japan
Prior art keywords
image
region
color information
unit
image pickup
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019174726A
Other languages
English (en)
Other versions
JP2021051611A (ja
Inventor
駿 平井
宰成 李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Morpho Inc
Original Assignee
Morpho Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Morpho Inc filed Critical Morpho Inc
Priority to JP2019174726A priority Critical patent/JP7046340B2/ja
Publication of JP2021051611A publication Critical patent/JP2021051611A/ja
Application granted granted Critical
Publication of JP7046340B2 publication Critical patent/JP7046340B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Image Processing (AREA)

Description

本発明は、色情報を推定する画像処理技術に関する。
顔画像における色情報に基づいて、顔の肌の状態や肌年齢等を解析する画像処理装置が提案されている。この際、より精度の高い解析を行うためには、解像度が高い画像が必要とされる。しかしながら、例えばスマートフォンに代表される端末として動作する画像処理装置において、一般的にフロントカメラよりも解像度が高い画像が得られるリアカメラで撮像する場合には、撮影者がリアカメラのプレビュー画像を確認することができないため、適切な画像の取得が困難である。そのため、撮影者がプレビュー画像を確認することができないような場合であっても、所定の撮影結果が得られるように撮影者を誘導する画像処理装置が提案されている。
例えば特許文献1には、顔領域検出の結果、顔領域が撮影領域内の目標領域に入っているか否かに応じて撮像部の位置または向きの補正を撮影者に指示する画像処理装置が開示されている。
特開2008-118276号公報
特許文献1に記載の画像処理装置では、撮影者が撮像部を自分自身に向けてシャッターボタンを押す前の段階で、得られた被写体の画像データから顔領域を検出し、この顔領域が目標領域に入るように、通知手段が撮影者に指示する。しかし、実際には、顔領域が十分に含まれていない状態で撮像されたり、シャッターボタンを押す際に被写体ぶれが発生したりすることで、色情報に基づく解析に耐え得る精度の画像取得が難しいという問題がある。
また、特許文献1に記載の画像処理装置では、撮影者の習熟度が低い場合には、通知手段による指示を撮影者が忠実に実行できない可能性があり、目標領域に顔領域が入るように撮像部の位置等を誘導することが困難である。
本発明は上記課題を鑑みなされたものであり、その目的は、画像中の特定の領域における色情報を高精度に推定する画像処理技術を提供することである。
本発明の一態様によれば、画像処理装置は、第1撮像部で撮像される第1画像に含まれる第1領域における第1色情報を算出する第1算出手段と、第2撮像部で撮像される第2画像に含まれる前記第1領域における第2色情報と、第2領域における第3色情報とを算出する第2算出手段と、第2色情報から第1色情報への変換用の係数を算出する係数算出手段と、係数に基づいて、第3色情報から、第1撮像部で撮像される場合の第2領域における第4色情報を推定する推定手段と、を備える。
本発明に係る画像処理装置によれば、撮影者が所望の被写体を確実に捕捉することができる、プレビュー画像を確認できるフロントカメラ画像を用いて、撮影者がプレビュー画像を確認できないリアカメラで撮像する場合における、所望の被写体の色情報を高精度に推定することができる、という効果を奏する。
画像処理装置の機能構成の一例を示すブロック図。 画像処理の流れの一例を示すフローチャート。 スマートフォンの機能構成の一例を示すブロック図。 実施例に係るスマートフォンの表示部に表示される表示画面の一例を示す図。 実施例に係るスマートフォンの表示部に表示される表示画面の一例を示す図。 実施例に係るスマートフォンの表示部に表示される表示画面の一例を示す図。 実施例に係るスマートフォンの表示部に表示される表示画面の一例を示す図。 実施例に係るスマートフォンの表示部に表示される表示画面の一例を示す図。 実施例に係るスマートフォンの表示部に表示される表示画面の一例を示す図。 実施例に係るスマートフォンの表示部に表示される表示画面の一例を示す図。 記録媒体の一例を示す図。
以下、本発明を実施するための形態の一例について図面を参照して説明する。なお、図面の説明において同一の要素には同一の符号を付して、重複する説明を省略する場合がある。ただし、この実施形態に記載されている構成要素はあくまで例示であり、本発明の範囲をそれらに限定する趣旨のものではない。
[実施形態]
以下、本発明の画像処理技術を実現するための実施形態の一例について説明する。
図1は、本実施形態の一態様に係る画像処理装置10の機能構成の一例を示すブロック図である。
画像処理装置10は、例えば、第1位置検出部110と、第1色情報算出部120と、第2位置検出部130と、第2色情報算出部140と、第3色情報算出部150と、色情報変換パラメータ算出部160と、第4色情報推定部170と、色情報解析部180とを備える。これらは、例えば、画像処理装置10の不図示の処理部(処理装置)や制御部(制御装置)が有する機能部(機能ブロック)であり、CPUやDSP等のプロセッサーやASIC等の集積回路を有して構成される。
第1位置検出部110は、例えば、リアカメラである第1撮像部210で撮像された第1画像(以下、第1画像のことを適宜「リアカメラ画像」と称する。)に基づいて、リアカメラ画像中における第1領域の一例である、撮影者の手の甲の領域(以下、「手の甲領域」と称する。)を検出(抽出)する機能を有する。
本実施形態において、リアカメラとは、例えば撮影者が第2領域である後述の頬領域を撮影する際に、不図示の表示部によって、第1撮像部210の撮像領域(撮像対象)を確認することができないカメラを指す。
リアカメラは、例えば、装置の筐体の背面側(表示部が形成される面の反対側)に設けられるカメラ(バックカメラ、アウトカメラ)とすることができる。
第1色情報算出部120は、一例として、リアカメラ画像のうち、第1位置検出部110で検出された手の甲領域における画像に基づいて、例えば、輝度(Y)・青色差(Cb)・赤色差(Cr)で構成される色情報を算出する機能を有する。
第2位置検出部130は、例えば、フロントカメラである第2撮像部220で撮像された第2画像(以下、第2画像のことを適宜「フロントカメラ画像」と称する。)に基づいて、フロントカメラ画像中における手の甲領域と、第2領域の一例である撮影者の頬の領域(以下、「頬領域」と称する。)とを検出(抽出)する機能を有する。
本実施形態において、フロントカメラとは、例えば撮影者が第2領域である頬領域を撮影する際に、不図示の表示部によって、第2撮像部220の撮像領域(撮像対象)を確認可能であるカメラを指す。
フロントカメラは、例えば、装置の筐体の正面側(表示部を有する面側)に設けられるカメラ(インカメラ)とすることができる。
なお、フロントカメラ画像の解像度は、リアカメラ画像の解像度と比べて低くてもよい(フロントカメラ画像の画素数は、リアカメラ画像の画素数と比べて小さくてもよい)。この場合、フロントカメラの解像度は、リアカメラの解像度と比べて低くてもよい(フロントカメラの有効画素数は、リアカメラの有効画素数と比べて小さくてもよい)。
第2色情報算出部140は、一例として、フロントカメラ画像のうち、第2位置検出部130で検出された手の甲領域における画像に基づいて、例えば、輝度(Y)・青色差(Cb)・赤色差(Cr)で構成される色情報を算出する機能を有する。
第3色情報算出部150は、一例として、フロントカメラ画像のうち、第2位置検出部130で検出された頬領域における画像に基づいて、例えば、輝度(Y)・青色差(Cb)・赤色差(Cr)で構成される色情報を算出する機能を有する。
色情報変換パラメータ算出部160は、一例として、第1色情報算出部120で算出された手の甲領域における色情報と、第2色情報算出部140で算出された手の甲領域における色情報とに基づいて、フロントカメラ画像の色情報と、リアカメラ画像の色情報との間で色情報の変換を行うための色情報変換パラメータを算出する機能を有する。
第4色情報推定部170は、一例として、色情報変換パラメータ算出部160で算出された色情報変換パラメータと、第3色情報算出部150で算出された頬領域における色情報とに基づいて、リアカメラ画像で頬領域を撮像した場合の、例えば、輝度(Y)・青色差(Cb)・赤色差(Cr)で構成される頬領域における色情報を推定する機能を有する。
色情報解析部180は、一例として、第4色情報推定部170で推定された頬領域における色情報に基づいて、例えば、撮影者に最も適合するファンデーションの色や、肌質を整える野菜等の情報を解析結果として出力する機能を有する。
なお、色情報解析部180は、画像処理装置10の要素として必須ではなく、画像処理装置10の要素から除外してもよい。
また、第1位置検出部110と、第2位置検出部130とは、同一の機能(画像が入力されると、その画像中の特定領域を検出(抽出)した画像が出力される機能)を持つ単一の位置検出部として置き換えてもよい。
また、第1色情報算出部120と、第2色情報算出部140と、第3色情報算出部150とは、同一の機能(画像が入力されると、色情報が出力される機能)を持つ単一の色情報算出部として置き換えてもよい。
また、第1撮像部210は、リアカメラに限定されない。例えば、単なるカメラとしてもよい。第2撮像部220も同様に、フロントカメラに限定されない。
また、第1領域と第2領域とは、それぞれ手の甲領域と頬領域に限定されない。例えば、より広義に、第1領域を手の領域としたり、第2領域を顔の領域とするなどしてもよい。
また、この他にも、例えば、第1領域を手首の領域としてもよい。第2領域を顔の額の領域としてもよい。もしくは、第1領域・第2領域を人物以外の領域としてもよい。
[画像処理の手順]
図2は、本実施形態における画像処理の手順例を示すフローチャートである。
図2のフローチャートにおける処理は、例えば画像処理装置10の不図示の処理部が、記憶部300に格納された画像処理プログラムのコードを不図示のRAMに読み出して実行することにより実現される。
なお、図1では、記憶部300を画像処理装置10の構成要素から除外して示しているが、記憶部300を画像処理装置10の構成要素に含めてもよい。また、図2のフローチャートにおける各記号Sは、ステップを意味する。
また、以下説明するフローチャートは、あくまでも本実施形態における画像処理の手順の一例を示すものに過ぎず、他のステップを追加したり、一部のステップを削除したりしてもよいことは勿論である。
S101において、第1位置検出部110は、第1撮像部210で撮像されたリアカメラ画像の入力を受け付ける。
なお、入力されたリアカメラ画像は、例えば、不図示の表示部に表示させるようにしてもよい。
本実施形態において、リアカメラ画像は、例えば、標準イルミナントD65(D65光源)や、測色用補助イルミナントC(C光源)に準ずる、色温度が既知である光源(定められる色温度に調光可能な光源)を用いて撮像される。
S103において、第1位置検出部110は、リアカメラ画像から、撮影者の手の甲領域を検出(抽出)する。これは、例えば領域抽出処理によって実現することができる。
領域抽出処理では、例えば、ディープラーニングの一手法である、FCN(Fully Convolutional Network)やSegNet、U-Net等を用いてリアカメラ画像に対してセマンティックセグメンテーションを実行する。そして、第1領域(手の甲領域)として分類された画素の位置と、画素の色情報とを第1の第1領域画像情報(手の甲領域画像情報)として第1色情報算出部120へ出力(送信)する。
なお、リアカメラ画像からHOG(Histogram of Oriented Gradients)特徴量を用いて特徴抽出を行い、SVM(Support Vector Machine)等の識別器を用いて第1領域の抽出を行うことも可能である。
また、第1領域が肌の場合には、色ヒストグラムを用いて画素の肌色らしさを評価し、リアカメラ画像から第1領域を抽出することも可能である。SVMによる抽出結果に対して肌色らしさを評価してもよい。
また、ディープラーニングによる結果と、これらの結果を組み合わせて領域抽出を行ってもよい。
S105において、第1位置検出部110は、S103の検出結果(抽出結果)に基づいて、第1領域(手の甲領域)の検出に成功したか否かを判定する。この判定は、例えば、第1領域(手の甲領域)がリアカメラ画像の所定割合を占めるか否かを判定することによって実現することができる。
第1領域(手の甲領域)がリアカメラ画像の所定割合を占めていない場合には、検出失敗とし(S105:NO)、第1位置検出部110は、第1撮像部210に再度リアカメラ画像を撮像させる制御命令を送信し、S101を実行する。
一方、第1領域(手の甲領域)がリアカメラ画像の所定割合を占める場合には、検出成功とし(S105:YES)、S107へと処理を移す。
S107において、第1色情報算出部120は、第1領域画像情報に基づいて、例えば、定められた大きさの画像パッチ(画像の小領域)ごとに、各画素の色情報の平均値を算出する。そして、その平均値に基づいて、例えば、Y―Cb―Cr色空間での画像パッチごとの色情報(第1色情報)を算出する。
なお、リアカメラ画像が、色温度が既知である光源を用いて撮像された場合には、光源の色温度情報に基づいて、例えば、Y―Cb―Cr色空間に変換を行う際に色情報の補正を行い、第1色情報を算出してもよい。
ここで、例えば、i番目の画像パッチにおけるY―Cb―Cr色空間での輝度をYi、青色差をUi、赤色差をViとするとき、i番目の画像パッチにおける第1色情報を(Y,U,V,Pi)と表記する。ただし、Piはi番目の画像パッチの位置を表す座標情報である。また、生成される画像パッチの数を「N」枚とする。
S109において、第2位置検出部130は、第2撮像部220で撮像されたフロントカメラ画像の入力を受け付ける。
なお、入力されたフロントカメラ画像は、例えば、不図示の表示部に表示させるようにしてもよい。
S111において、第2位置検出部130は、フロントカメラ画像から、撮影者の手の甲領域を検出する。これは、例えば領域抽出処理によって実現することができる。
なお、領域抽出処理については、S103と同様に実現可能であるため、詳細な説明は省略する。そして、第2位置検出部130は、抽出結果を第2の第1領域画像情報(手の甲領域画像情報)として第2色情報算出部140へ出力(送信)する。
S113において、第2位置検出部130は、フロントカメラ画像から、撮影者の頬領域を検出する。これも、例えば領域抽出処理によって実現することができる。
なお、領域抽出処理については、S103と同様に実現可能であるため、詳細な説明は省略する。そして、第2位置検出部130は、抽出結果を第2領域画像情報(頬領域画像情報)として第3色情報算出部150へ出力(送信)する。
S115において、第2位置検出部130は、S111の検出結果とS113の検出結果とに基づいて、第1領域(手の甲領域)と第2領域(頬領域)との検出に成功したか否かを判定する。この判定は、例えば、第1領域(手の甲領域)と第2領域(頬領域)とがフロントカメラ画像の所定割合を占めるか否かを判定することによって実現することができる。
第1領域または第2領域、もしくはその両方が、フロントカメラ画像の所定割合を占めていない場合には、検出失敗とし(S115:NO)、第2位置検出部130は、第2撮像部220に再度フロントカメラ画像を撮像させる制御命令を送信し、S109を実行する。
一方、第1領域(手の甲領域)と第2領域(頬領域)とがフロントカメラ画像の所定割合を占めている場合には、検出成功とし(S115:YES)、S117へと処理を移す。
S117において、第2色情報算出部140は、第2領域画像情報に基づいて、例えば、定められた大きさの画像パッチ(画像の小領域)ごとに、各画素の色情報の平均値を算出する。そして、その平均値に基づいて、例えば、Y―Cb―Cr色空間での画像パッチごとの色情報(第2色情報)を算出する。
ここで、例えば、j番目の画像パッチにおけるY―Cb―Cr色空間での輝度をy、青色差をu、赤色差をvとするとき、j番目の画像パッチにおける第2色情報を(y,u,v,p)と表記する。ただし、pはj番目の画像パッチの位置を表す座標情報である。また、生成される画像パッチの数を「M」枚とする。
ここで、前述したように、例えばリアカメラ画像の解像度がフロントカメラ画像の解像度と比べて高くなるようにする場合、「N≧M」となるように、画像パッチの大きさを定めるようにするとよい。
S119において、第3色情報算出部150は第3領域画像情報に基づいて、定められた大きさの画像パッチ(画像の小領域)ごとに、各画素の色情報の平均値を算出し、その平均値に基づいて、例えば、Y―Cb―Cr色空間での画像パッチごとの色情報を算出する。
なお、S119では、画像パッチごとに各画素の色情報を平均化せずに、各画素の色情報を、例えば、Y―Cb―Cr色空間に変換するとしてもよい。
例えば、第2色情報と同様に、k番目の画像パッチにおける第3色情報を(y′,u′,v′,p′)と表記する。ただし、p′はk番目の画像パッチの位置を表す座標情報である。
S121において、色情報変換パラメータ算出部160は、色情報変換パラメータを算出する。具体的には、まず、第1色情報と第2色情報とに基づいて、第2色情報における各画像パッチが、第1色情報におけるいずれの画像パッチと対応するかを算出するパッチ対応点探索処理を実行する。対応点探索の手法としては、例えば、BRIEF(Binary Robust Independent Elementary Features)特徴量を用いて相関を取る方法などを用いることができる。
この場合、第2色情報におけるある一つの画像パッチが、第1色情報における複数の画像パッチと対応関係にあるとしてもよい。
なお、パッチ対応点探索処理では、パッチ平均をとる前の元画像(リアカメラ画像の第1領域画像とフロントカメラ画像の第1領域画像)を利用して対応点を求め、その対応点から画像パッチ間の対応関係を求めてもよい。
例えば、第1色情報におけるi番目の画像パッチと、第2色情報におけるj番目の画像パッチとが対応関係にあるとする。このとき、以下のような変換式(1)を定めることができる。
Figure 0007046340000001
ここで、(a,b,c)は、第2色情報から第1色情報の輝度への変換を行うためのパラメータである。
同様に、(a,b,c),(a,b,c)は、それぞれ青色差・赤色差の変換を行うためのパラメータである。
「N≧M」であることに注意すると、各パッチにおける変換式は、例えば以下のように行列式(2)で記述できる。
Figure 0007046340000002
各行列を以下の式(3)のように置き換える。
Figure 0007046340000003
すると、各パッチにおける変換式は、行列を用いて以下の式(4)のように記述できる。
Figure 0007046340000004
このとき、ムーア-ペンローズの擬似逆行列(一般化逆行列)を用いて行列Mを計算すると、以下の式(5)で表される評価関数を最小化するMを求めることができる。
Figure 0007046340000005
すなわち、以下の式(6)を用いて変換式における各パラメータを算出することができる。
Figure 0007046340000006
上記の式に従って、S121において、色情報変換パラメータ算出部160は、フロントカメラ画像(第2撮像部で撮像された画像)の色情報から、リアカメラ画像(第1撮像部で撮像された画像)の色情報への変換を行うための色情報変換パラメータMを算出する。
S123において、第4色情報推定部170は、第1撮像部であるリアカメラを用いて第1領域である頬領域を撮像した場合における画像の色情報である、第4色情報(頬領域における色情報)を推定する。
いま、画像の座標p′において推定される第4色情報を(Y′,U′,V′,p′)と表す。ただし、Y′はY―Cb―Cr色空間での輝度を、U′は青色差を、V′は赤色差を、それぞれ表す。
この場合、第4色情報は、S123で算出された色情報変換パラメータMと、S119で算出された第3色情報とを用いて、以下の式(7)を用いて推定できる。
Figure 0007046340000007
S125において、色情報解析部180は、S123で推定された第4色情報を用いて、例えば、事前に行われるクラスタリング解析の結果に基づいて、第4色情報がどのクラスに属するのかを算出し、クラスに応じた情報、例えば、ファンデーションの色番号を出力し、本フローチャートの処理を終了する。
なお、色情報解析部180は、第4色情報をサーバクライアントシステム等によってサーバ等の外部装置に不図示の通信部によって送信し、サーバでの処理結果を不図示の通信部を介して受信する処理を行う機能を有する機能部としてもよい。
本フローチャートでは、S109はS107の後に実行されるとして図示したが、S109からS119の処理を実行後にS101からS105の処理が実行されるとしてもよい。
[実施例]
次に、上記の画像処理装置10を適用した、または上記の画像処理装置10を備える端末、色情報推定装置、電子装置(電子機器)、情報処理装置の実施例について説明する。ここでは、一例として、カメラ機能付き(撮像機能付き)携帯電話機の一種であるスマートフォンの実施例について説明する。但し、本発明を適用可能な実施例が、この実施例に限定されるわけでないことは勿論である。
図3は、本実施例におけるスマートフォン1000の機能構成の一例を示す図である。
スマートフォン1000は、例えば、処理部100と、操作部230と、タッチパネル240と、表示部250と、記憶部300と、第1撮像部210と、第2撮像部220と、ジャイロセンサ260と、音出力部270と、通信部280とを備える。
処理部100は、記憶部300に記憶されているシステムプログラム等の各種プログラムに従ってスマートフォン1000の各部を統括的に制御したり、画像処理に係る各種の処理を行う処理装置であり、CPUやDSP等のプロセッサーやASIC等の集積回路を有して構成される。
処理部100は、主要な機能部として、第1位置検出部110と、第1色情報算出部120と、第2位置検出部130と、第2色情報算出部140と、第3色情報算出部150と、色情報変換パラメータ算出部160と、第4色情報推定部170と、色情報解析部180と、表示制御部190とを有する。これらの機能部は、図1の画像処理装置10が備える機能部にそれぞれ対応するものである。
ただし、表示制御部190は、図1の画像処理装置10による各種出力の一態様として、各種の画像を表示部250に表示(表示出力)させる制御を行う。
操作部230は、操作ボタンや操作スイッチといった、ユーザーがスマートフォン1000に対する各種の操作入力を行うための入力装置を有して構成される。また、操作部230は、表示部250と一体的に構成されたタッチパネル240を有し、このタッチパネル240は、ユーザーとスマートフォン1000との間の入力インターフェースとして機能する。操作部230からは、ユーザー操作に従った操作信号が処理部100に出力される。
表示部250は、LCD(Liquid Crystal Display)等を有して構成される表示装置であり、表示制御部190から出力される表示信号に基づいた各種の表示を行う。本実施例では、表示部250は、タッチパネル240と一体的に構成されてタッチスクリーンを形成している。
音出力部270は、スピーカ等を有して構成される音出力装置であり、処理部100から出力される音出力信号に基づいた各種の音出力を行う。
第1撮像部210は、任意のシーンの画像を撮像可能に構成された撮像デバイスであり、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary MOS)イメージセンサ等の撮像素子(半導体素子)を有して構成される。第1撮像部210は、撮像対象物から発せられた光を、不図示のレンズによって撮像素子の受光平面に結像させ、光電変換によって、像の光の明暗を電気信号に変換する。変換された電気信号は、不図示のA/D(Analog Digital)変換器によってデジタル信号に変換されて、処理部100に出力される。
第1撮像部210は、スマートフォン1000のタッチパネル240が存在しない背面に配置され、撮像時に光源として利用可能なフラッシュ(ストロボ)を有する。このフラッシュは、発光時の色温度が既知であるか、もしくは処理部100によって色温度を調光可能なフラッシュとしてもよい。
第1撮像部210の撮像時には、表示制御部190は、プレビュー画像を表示部250に表示させるようにしてもよい。ただし、プレビュー画像が表示される表示部250は、第1撮像部の撮像時には、スマートフォン1000のユーザーからは視認することができない、もしくは視認することが困難である。第1撮像部210は、リアカメラと言い換えてもよい。
第2撮像部220は、任意のシーンの画像を撮像可能に構成された撮像デバイスであり、フラッシュを有さない以外は第1撮像部210と同様の構成をとる。なお、第2撮像部220は、第1撮像部210と比べて解像度が低い(有効画素数が少ない)撮像デバイスとしてもよい。
第2撮像部220は、スマートフォン1000のタッチパネル240が存在する前面に配置される。
第2撮像部220の撮像時には、表示制御部190は、プレビュー画像を表示部250に表示させるようにしてもよい。ただし、プレビュー画像が表示される表示部250は、第2撮像部の撮像時には、スマートフォン1000のユーザーから容易に視認することが可能である。第2撮像部220は、フロントカメラと言い換えてもよい。
通信部280は、装置内部で利用される情報を外部の情報処理装置との間で送受するための通信装置である。通信部280の通信方式としては、所定の通信規格に準拠したケーブルを介して有線接続する形式や、クレイドルと呼ばれる充電器と兼用の中間装置を介して接続する形式、近距離無線通信を利用して無線接続する形式等、種々の方式を適用可能である。
ジャイロセンサ260は、例えば3軸の軸回りの角速度を検出するセンサである。ジャイロセンサ260の検出結果は、処理部100に随時出力される。
記憶部300は、ROMやEEPROM、フラッシュメモリ、RAM等の揮発性又は不揮発性のメモリや、ハードディスク装置等を有して構成される記憶装置である。
本実施例では、記憶部300には、例えば、色情報推定処理プログラム310と、画像用バッファ320と、色情報変換パラメータデータ330とが記憶される。
色情報推定処理プログラム310は、処理部100により読み出され、画像処理として実行されるプログラムである。この画像処理は、例えば図2に示したフローチャートに基づく処理として実行される。
画像用バッファ320は、例えば、第1撮像部210もしくは第2撮像部220によって撮像される撮像画像が記憶されるバッファである。
色情報変換パラメータデータ330は、例えば、色情報変換パラメータ算出部160によって推定された色情報変換パラメータが記憶されるデータである。
スマートフォン1000の処理部100は、記憶部300に記憶されている色情報推定処理プログラム310に従って、色情報推定処理を行う。この色情報推定処理は、例えば図2に示したフローチャートに従って実行される。
この場合、図2の処理において、表示制御部190は、S101において、スマートフォン1000のユーザーに対して、例えば第1撮像部210のプレビュー画像(ライブビュー画像)が第1領域である手の甲がすべて映る位置に収まるような位置にスマートフォン1000を構えることをガイド(案内)する画像を、表示部250に表示させる。
次いで、表示制御部190は、スマートフォン1000のユーザーに対して、第1撮像部210が第1領域である手の甲に近づくようにガイドする画像を、表示部250に表示させる。
そして、第1位置検出部110は、S101からS105において、第2撮像部220のプレビュー画像を仮の第1画像として、第1領域を抽出する処理を逐次実行する。そして、抽出された第1領域がプレビュー画面全体に対して所定の割合(例えば8割)を占めている場合には(S105:YES)、第1位置検出部110は、第1撮像部210に第1画像を撮像する制御命令を送信する。その際、第1位置検出部110は、第1撮像部210のフラッシュを強制発光させる制御命令を、第1画像を撮像する制御命令と併せて送信する。
なお、第1撮像部210は、タッチパネル240に対するユーザー操作を受け付け、手動で第1画像を撮像するようにしてもよい。また、上記のガイドする画像を表示部250に表示させる代わりに、音出力部270によって出力される音声によってガイドするようにしてもよい。また、ガイド画像と音声ガイダンスとを組み合わせてもよい。
表示制御部190は、S109において、スマートフォン1000のユーザーに対して、例えば第2撮像部220のプレビュー画像(ライブビュー画像)が第1領域である手の甲と、第2領域である頬領域とがすべて映る位置に収まるような位置にスマートフォン1000を構えることをガイドする画像を、表示部250に表示させる。
そして第2位置検出部130は、S109からS115において、第2撮像部220のプレビュー画像を仮の第2画像として、第1領域と第2領域とを抽出する処理を逐次実行する。そして、抽出された第1領域と第2領域とがプレビュー画面全体に対してそれぞれ所定の割合を占めている場合には(S115:YES)、第2位置検出部130は、第2撮像部220に第2画像を撮像する制御命令を送信する。
なお、第2撮像部220は、タッチパネル240に対するユーザー操作を受け付け、手動で第2画像を撮像するようにしてもよい。また、上記のガイドする画像を表示部250に表示させる代わりに、音出力部270によって出力される音声によってガイドするようにしてもよい。また、ガイド画像と音声ガイダンスとを組み合わせてもよい。
表示制御部190は、S125において、色情報解析部180で得られた解析結果を、表示部250に表示させる。
[表示画面例]
本実施例における色情報推定装置を利用するアプリケーション実行例について表示画面例を参照して説明する。
図4~図9は、スマートフォン1000で実行される肌解析アプリケーションにおいて表示部250(タッチパネル240を有するタッチスクリーン)に表示されるアプリケーション画面の一例を示す図である。これらのアプリケーション画面は、処理部100によって色情報推定処理が実行される場合に表示される画面の一例である。
図4のアプリケーション画面には、実行中のアプリケーションの名称である「肌解析アプリケーション」が上部に表示される。その下に、図2のS101を実行することを示す「Step.1」の表示と、図2のS101でリアカメラ画像を撮像するために必要な、リアカメラの撮像領域内に手の甲領域全体が収まるアングルにスマートフォン1000を構えることをガイドする画像が表示される。ガイド画像の下には、ガイド画像に従ってスマートフォン1000のユーザーにスマートフォン1000を構えることを促すメッセージが表示される。また、その下には、リアカメラでの撮像を開始するOK機能ボタンが配置される。
図5は、図4において、ユーザーによってOK機能ボタンがタッチされた場合の画面の一例である。
図5では、アプリケーション名称「肌解析アプリケーション」の下には、リアカメラのプレビュー画像と、リアカメラに手動で撮像させる際に使用される、例えば同心円で表される撮像機能ボタンとが配置される。プレビュー画像の下には、図2のS103・S105の処理結果に基づいて、リアカメラが手の甲領域に近づくようにスマートフォン1000を移動させることを促すガイドメッセージが表示される。
図6は、図5において、スマートフォン1000をガイドメッセージに従って移動させた場合の画面の一例である。
図6では、図2のS105において、手の甲領域がリアカメラプレビュー画像中に十分に含まれると判断され、リアカメラでリアカメラ画像を撮像していることを示す「撮影中」のメッセージが表示される。また、リアカメラ画像を撮像していることをユーザーに報知させるため、シャッター音を音出力部270から出力させる。
なお、撮像機能ボタンをユーザーにタッチさせるように促し、手動でリアカメラ画像を撮像させてもよい。
図7は、図6におけるリアカメラ画像の撮像が終了した場合の画面の一例である。
図7では、図2のS109を実行することを示す「Step.2」の表示と、図2のS109でフロントカメラ画像を撮像するために必要な、フロントカメラの撮像領域内に手の甲領域と頬領域とが収まるアングルにスマートフォン1000を構えることをガイドする画像が表示される。ガイド画像の下には、ガイド画像に従ってスマートフォン1000のユーザーにスマートフォン1000を構えることを促すメッセージが表示される。また、その下には、フロントカメラでの撮像を開始するOK機能ボタンが配置される。
図8は、図7において、ユーザーによってOK機能ボタンがタッチされた場合の画面の一例である。
図8では、アプリケーション名称「肌解析アプリケーション」の下には、フロントカメラのプレビュー画像と、フロントカメラに手動で撮像させる際に使用される、例えば同心円で表される撮像機能ボタンとが配置される。なお、フロントカメラのプレビュー画像には、撮像に理想的な手の位置と顔の位置とをユーザーに報知するためのガイド線(太線)がオーバーレイされ表示される。
プレビュー画像の下には、図2のS111~S115の処理結果に基づいて、顔と手とをガイド線に合わせることをユーザーに促すメッセージが表示される。
図9は、図8において、ユーザーが顔と手とをガイド線に合わせた場合の画面の一例である。
図9では、図2のS115において、手の甲領域と頬領域とがフロントカメラプレビュー画像中に十分に含まれると判断され、フロントカメラでフロントカメラ画像を撮像していることを示す「撮影中」のメッセージが表示される。また、フロントカメラ画像を撮像していることをユーザーに報知させるため、シャッター音を音出力部270から出力させる。
なお、撮像機能ボタンをユーザーにタッチさせるように促し、手動でフロントカメラ画像を撮像させてもよい。
[実施形態の効果]
本実施形態の画像処理装置(画像処理装置10)は、第1撮像部で撮像される第1画像に含まれる第1領域における第1色情報を算出する第1算出手段(第1色情報算出部120)と、第2撮像部で撮像される第2画像に含まれる第1領域における第2色情報と、第2領域における第3色情報とを算出する第2算出手段(第2色情報算出部140、第3色情報算出部150)と、第2色情報から第1色情報への変換用の係数Mを算出する係数算出手段(色情報変換パラメータ算出部160)と、係数Mに基づいて、第3色情報から、第1撮像部で撮像される場合の第2領域における第4色情報を推定する推定手段(第4色情報推定部170)とを備える。
これによれば、第1撮像部で撮像される第1画像には含まれていない第2領域について、第1撮像部で撮像された場合の第4色情報を、第2画像を介して推定することが可能になる。よって、第2領域が、第1撮像部での撮像が困難な領域であっても、第1撮像部での撮像が容易である第1領域と、その第2領域とが撮像された第2画像が存在すれば、第1撮像部において第2領域を撮像した場合の第4色情報を推定することができる。
また、この場合、第2画像は、第1画像と比べて解像度が低い。すると、係数Mを算出する際に、第1色情報と第2色情報との画像パッチ同士の対応数を増やすことができる。そのため、係数をより正確に算出することが可能になる。その結果、推定される第4色情報の妥当性が増す。
また、この場合、画像処理装置10は、色温度が既知である光源を利用して第1撮像部によって撮像された第1画像に基づいて、第1色情報を算出するため、第1色情報は、光源の色情報を用いて補正することで、より適切に算出可能になる。結果として、推定される第4色情報はより適切なものとなる。
また、この場合、第2算出手段は、第1領域と、第2領域とを検出する領域検出手段(第2位置検出部)を有し、領域検出手段によって検出された第1領域と第2領域とに基づいて、第2色情報と、第3色情報とを算出する。
これによれば、第2色情報と、第3色情報とは、検出された領域に基づいて算出されるため、第2色情報と、第3色情報とを、より正確に算出し得る。
また、この場合、画像処理装置10は、領域検出手段(第2位置検出部130)によって検出された第1領域と第2領域とが第2撮像部の撮像領域に含まれるか否かを判定する判定手段(図2のS115)と、判定手段による判定に基づいて、第2画像を撮像させるように第2撮像部を制御する制御手段(図2のS115:NO)とを備える。
これによれば、第2画像は、第1領域と第2領域とが過不足なく検出される状態で撮像されるため、その第2画像から生成される、第2色情報と第3色情報とは、より正確に算出される可能性が高まる。
また、この場合、画像処理装置10において、第1領域は手の領域であり、第2領域は顔の領域である。すなわち、第1撮像部での撮像が容易な手の領域を撮像した第1画像から、第1撮像部での撮像が困難な顔の領域を、それらの領域が撮像されている第2画像を介して、第1撮像部において撮像した場合における第4色情報を推定することが可能になる。
また、上記の条件を、第1領域は手の甲の領域であり、前記第2領域は頬の領域であるとすることで、第1撮像部での撮像が容易な手の甲の領域を撮像した第1画像から、第1撮像部での撮像が困難な頬の領域を、第1撮像部において撮像した場合における第4色情報を推定することが可能になる。
また、色情報変換パラメータ算出部160は、第1領域内の第1パッチ領域(第1部分領域)における第1色情報と、第1パッチ領域に対応する第2パッチ領域(第2部分領域)における第2色情報と、色情報変換パラメータとに基づく評価関数(例えば式(5))を用いて、色情報変換パラメータを算出する。
このような構成を用いることで、第2色情報から第1色情報への変換用の係数を簡易かつ適切に算出することができる。
また、第4色情報推定部170は、上記のようにして算出された色情報変換パラメータと、第2領域内のパッチ領域(部分領域)における第3色情報とを乗算して、当該パッチ領域における第4色情報を推定する(例えば式(6))。
このような構成を用いることで、部分領域における第4色情報を簡易かつ適切に推定することができる。
また、スマートフォン1000(端末)は、第1撮像部と、第2撮像部と、第1撮像部で撮像される第1画像に含まれる第1領域における第1色情報を算出する第1算出手段と、第2撮像部で撮像される第2画像に含まれる第1領域における第2色情報と、第2領域における第3色情報とを算出する第2算出手段と、第2色情報から第1色情報への変換用の係数を算出する係数算出手段と、係数に基づいて、第3色情報から、第1撮像部で撮像される場合の第2領域における第4色情報を推定する推定手段とを備える端末である。
これによると、第1撮像部で撮像される第1画像には含まれていない第2領域について、第1撮像部で撮像された場合の第4色情報を、第2撮像部で撮像された第2画像を介して推定することが可能になる。結果として、端末のユーザーの利便性を向上させることができる。
また、この場合、スマートフォン1000は、第1撮像部が第2領域を撮像する際に、そのプレビュー画像をユーザーが視認することが不能な撮像部であり、第2撮像部が第2領域を撮像する際に、そのプレビュー画像をユーザーが視認することが可能な撮像部である端末である。
これによると、端末のユーザーは、第1撮像部によって第2領域を含む画像を適切に撮像することが不能である。また、第2撮像部によって第2領域を含む画像を適切に撮像することが可能である。そのため、上記の効果を鑑みると、第1撮像部での撮像が困難な第2領域について、第2撮像部を用いて、その第2領域と第1領域とを含む第2画像を撮像することで、第1撮像部において第2領域を撮像した場合の第4色情報を推定することを可能とする。結果として、端末のユーザーの利便性を向上させることができる。
また、この場合、スマートフォン1000は、第1撮像部はリアカメラであり、第2撮像部はフロントカメラである端末である。
このような構成を用いると、第2領域が端末よりも端末のユーザー側に存在する場合には、リアカメラが第2領域を撮像する際に、端末のユーザーはリアカメラによって第2領域を含む画像を適切に撮像することが不能となる。しかし、フロントカメラによって第2領域を含む画像を適切に撮像することが可能となる。従って、上記の効果と相まって、第1領域をリアカメラで撮像することで、フロントカメラによって撮像される、第1領域と第2領域とを含む第2画像を介して、リアカメラで撮像される場合の第2領域における第4色情報を推定することが可能になる。結果として、端末のユーザーの利便性を向上させることができる。
また、第1算出手段は、フラッシュを利用して第1撮像部によって撮像された第1画像に基づいて、第1色情報を算出する。そのため、第1画像は、撮像時における環境光よりもフラッシュの光に対して従属的になる。よって、フラッシュの色温度に基づいて第1色情報を算出することで、より正確な第1色情報を算出することができる。結果として、端末のユーザーの利便性を向上させることができる。
また、スマートフォン1000は、第1領域が手の領域であり、第2領域が顔の領域である端末である。すなわち、第1撮像部での撮像が容易な手の領域を撮像した第1画像から、第1撮像部での撮像が困難な顔の領域を、それらの領域が撮像されている第2画像を介して、第1撮像部において撮像した場合における第4色情報を推定することが可能になる。結果として、端末のユーザーの利便性を向上させることができる。
また、上記の条件を、第1領域は手の甲の領域であり、前記第2領域は頬の領域であるとすることで、第1撮像部での撮像が容易な手の甲の領域を撮像した第1画像から、第1撮像部での撮像が困難な頬の領域を、第1撮像部において撮像した場合における第4色情報を推定することが可能になる。結果として、端末のユーザーの利便性を向上させることができる。
また、スマートフォン1000は、自装置の移動をガイドするガイド手段をさらに備え、ガイド手段は、第1撮像部のプレビュー画像が第1領域を包含する状態から撮像を開始させ、第1撮像部が第1領域に近接する方向へ自装置を移動させるようにガイドする端末である。
これによると、端末のユーザーに、より確実かつ容易に第1領域を適切に含む第1画像を撮像させることを可能とする。
また、この場合、第1撮像部は、ガイド手段によるガイドに応じた自装置の移動操作に基づき、第1撮像部のプレビュー画像における第1領域の占める割合が所定割合となった場合に第1画像を撮像する。
これによると、端末のユーザーに手動でシャッターを切ることを要求しないため、ユーザーの利便性を向上させることができる。また、撮像された第1画像は、第1領域を適度に含む画像となるため、第1画像に基づいて算出される第1色情報は、適切に算出される可能性が高まる。結果として、推定される第4色情報の精度を向上させることができる。
[変形例]
本発明を適用可能な実施形態は、上記の実施形態に限定されない。以下、変形例について説明する。
<画面図例の変形例>
上記の実施形態では、手の甲領域として、スマートフォン1000のユーザーにおける左手の手の甲を用いたが、これに限定されない。例えば、右手の手の甲を用いてもよい。
図10は、図7において、ユーザーによってOK機能ボタンがタッチされた場合の画面の一例である。
図10では、フロントカメラのプレビュー画像の右上に、ガイド線を左右反転させる機能を持つ、例えば両端矢印で表される反転機能アイコンRIが表示される。ユーザーによってこの反転機能アイコンRIがタッチされると、左手の手の甲から、右手の手の甲に第1領域が遷移する。その結果、ガイド線は左右反転される。
このような構成を用いることで、利き手が左手のユーザーにも対応可能とすることができ、ユーザーの利便性を向上させることができる。
<UIの変形例>
上記の実施形態では、リアカメラによって第1領域である手の甲領域を撮像する際に、手の甲領域を包含する位置から撮像を開始させるガイド画像を用いたが、それに限定されない。例えば、リアカメラを手の甲領域に接触もしくは近接させた状態から撮像を開始させるようなガイド画像を用いてもよい。
この場合には、撮像が開始されると、例えば、スマートフォン1000の表示部250に、リアカメラの焦点が合焦する、手の甲領域からリアカメラを離す方向にスマートフォン1000を動かすようユーザーに促すガイド画像(ガイドメッセージ)が表示される。
そして、リアカメラは、焦点が手の甲に対して合焦する位置になると、リアカメラ画像を撮像する。
このような構成を用いることで、端末のユーザーに、より確実かつ容易に第1領域を適切に含む第1画像を撮像させることを可能とすることができる。また、端末のユーザーに手動でシャッターを切ることを要求しないため、ユーザーの利便性を向上させることができる。そして、撮像された第1画像は、第1領域を適度に含む画像となるため、第1画像に基づいて算出される第1色情報は、適切に算出される可能性が高まる。結果として、推定される第4色情報の精度を向上させることができる。
<ジャイロセンサの使用>
上記の実施形態では、図5において、スマートフォン1000を移動させることを促すガイドメッセージが表示されるとしたが、この際に、ジャイロセンサ260による姿勢情報を用いてガイドメッセージを表示させてもよい。
具体的には、例えば、ジャイロセンサ260で取得するスマートフォン1000の姿勢情報と、リアカメラのプレビュー画像とに基づいて、VIO(visual-inertial odometry)によってリアカメラの位置と手の甲領域の位置関係を推定する。そして、リアカメラの撮像面と手の甲領域とが並行で、かつ手の甲領域がリアカメラ画像の所定割合を占める位置に、スマートフォン1000をガイドする情報(例えば矢印)を、プレビュー画像にオーバーレイして表示させ る。
なお、この場合、スマートフォン1000をガイドする情報を音出力部270から出力させてもよい。
また、図7においても、同様に第2撮像部と撮像対象領域の位置関係を推定し、その推定結果に基づいて、ガイド情報を表示させてもよい。また、図10においても同様である。
<変換係数の算出・色情報の推定>
上記の実施形態では、式(6)に従って係数(色情報変換パラメータM)を算出し、算出された色情報変換パラメータMを用いて、式(7)に従って第4色情報を推定することとしたが、これに限定されない。
具体的には、カラーバランスやホワイトバランスを考慮して、例えば前述した式(1)を、次式(8)のように置き換えることができる。
Figure 0007046340000008
式(8)では、式(1)とは異なり、色情報変換パラメータMに対応する行列Mの対角成分以外の成分が、全て「0」とされている。
この場合、例えば、行列Mの対角成分(a,b,c)の値を所定の数値範囲で所定の刻み幅(例えば「0.01」)で変化させながら全探索を行う。そして、全探索によって算出された(a,b,c)の値を用いて、次式(9)に従って第4色情報を推定する。
Figure 0007046340000009
<表色系>
上記の実施形態では、色情報としてYCbCrで表現される色情報を用いたが、これに限定されない。
具体的には、例えば、YCbCrで表現される色情報に代えて、RGBで表現される色情報を用いるようにしてもよい。YCbCrとRGBとは、線形変換によって変換可能であるため、いずれの表色系を用いる場合であっても、上記の実施形態と同様の手法を適用できる。より具体的には、例えば式(1)~式(9)におけるYUVを、それぞれRGBに置き換えて、同様の演算を行うようにすればよい。
また、色情報としてHSVで表現される色情報を用いるようにしてもよい。
<撮像装置等>
上記の実施例では、本発明を、撮像装置、電子装置(電子機器)、情報処理装置の一例であるスマートフォンに適用した場合を例示したが、これに限定されない。スマートフォン等の携帯電話機の他にも、本発明は、カメラ、PDA、パソコン、ナビゲーション装置、腕時計、各種のタブレット端末といった各種の装置に適用可能である。
また、上記の各種の装置は、第1撮像部と、第2撮像部とを備えているとよいが、これらの撮像部(撮像手段)を必ずしも備えていなくてもよい。この場合は、例えば、第1撮像部と、第2撮像部とを備える外部装置から第1画像と第2画像とのデータを入力し、入力した撮像画像のデータに基づいて画像処理を行うようにすればよい。
<記録媒体>
上記の実施形態では、画像処理に係る各種のプログラムやデータが、記憶部300に記憶されており、処理部がこれらのプログラムを読み出して実行することで、上記の各実施形態における画像処理が実現された。この場合、各装置の記憶部は、ROMやEEPROM、フラッシュメモリ、ハードディスク、RAMといった内部記憶装置の他に、メモリカード(SDカード)やコンパクトフラッシュ(登録商標)カード、メモリスティック、USBメモリ、CD-RW(光学ディスク)、MO(光磁気ディスク)といった記録媒体(記録メディア、外部記憶装置、記憶媒体)を有していてもよく、これらの記録媒体に上記の各種のプログラムやデータを記憶させることとしてもよい。
図11は、この場合における記録媒体の一例を示す図である。
この例において、画像処理装置10には、メモリカード430を挿入するためのカードスロット410が設けられており、カードスロット410に挿入されたメモリカード430に記憶された情報を読み取る又はメモリカード430に情報を書き込むためのカードリーダライタ(R/W)420が設けられている。
カードリーダライタ420は、処理部の制御に従って、記憶部300に記録されたプログラムやデータをメモリカード430に書き込む動作を行う。メモリカード430に記録されたプログラムやデータは、画像処理装置10以外の外部装置で読み取ることで、当該外部装置において上記の実施形態における画像処理を実現することが可能に構成されている。
なお、上記の記録媒体は、上記の実施例で説明した画像処理装置10を備える端末、色情報推定装置、電子装置(電子機器)、情報処理装置といった各種の装置に適用することもできる。
10 画像処理装置
110 第1位置検出部
120 第1色情報算出部
130 第2位置検出部
140 第2色情報算出部
150 第3色情報算出部
160 色情報変換パラメータ算出部
170 第4色情報推定部
180 色情報解析部
1000 スマートフォン

Claims (18)

  1. 第1撮像部で撮像される第1画像に含まれる第1領域における第1色情報を算出する第1算出手段と、
    第2撮像部で撮像される第2画像に含まれる前記第1領域における第2色情報と、第2領域における第3色情報とを算出する第2算出手段と、
    前記第2色情報から前記第1色情報への変換用の係数を算出する係数算出手段と、
    前記係数に基づいて、前記第3色情報から、前記第1撮像部で撮像される場合の前記第2領域における第4色情報を推定する推定手段と、
    を備え
    前記第1領域と、前記第2領域とは、同一の被写体に含まれる異なる領域である、
    画像処理装置。
  2. 前記第1領域は前記被写体の手の領域であり、前記第2領域は前記被写体の顔の領域である、
    請求項に記載の画像処理装置。
  3. 前記手の領域は手の甲の領域であり、前記顔の領域は頬の領域である、
    請求項2に記載の画像処理装置。
  4. 前記第2画像は、前記第1画像と比べて解像度が低い、
    請求項1~3のいずれか一項に記載の画像処理装置。
  5. 前記第1算出手段は、色温度が既知である光源を利用して前記第1撮像部によって撮像された前記第1画像に基づいて、前記第1色情報を算出する、
    請求項1~4のいずれか一項に記載の画像処理装置。
  6. 前記係数算出手段は、前記第1領域内の第1部分領域における前記第1色情報と、前記第1部分領域に対応する第2部分領域における前記第2色情報と、前記係数とに基づく評価関数を用いて、前記係数を算出する、
    請求項1~5のいずれか一項に記載の画像処理装置。
  7. 前記推定手段は、前記係数と、前記第2領域内の部分領域における前記第3色情報とに基づいて、前記部分領域における前記第4色情報を推定する、
    請求項6に記載の画像処理装置。
  8. 前記第1領域と前記第2領域とを検出する検出手段と、
    前記検出手段によって検出された前記第1領域と前記第2領域とが前記第2撮像部の撮像領域に含まれるか否かを判定する判定手段と、
    前記判定手段による判定に基づいて、前記第2画像を撮像させるように前記第2撮像部を制御する制御手段と、
    をさらに備える請求項1~7のいずれか一項に記載の画像処理装置。
  9. 請求項1~のいずれか一項に記載の画像処理装置と、
    前記第1撮像部と、
    前記第2撮像部と、
    を備える端末。
  10. 前記第1撮像部は、そのプレビュー画像をユーザーが視認することが不能な撮像部であり、
    前記第2撮像部は、そのプレビュー画像を前記ユーザーが視認することが可能な撮像部である、
    請求項に記載の端末。
  11. 前記第1撮像部はリアカメラであり、前記第2撮像部はフロントカメラである、
    請求項10に記載の端末。
  12. 前記第1算出手段は、フラッシュを利用して前記第1撮像部によって撮像された前記第1画像に基づいて、前記第1色情報を算出する、
    請求項11のいずれか一項に記載の端末。
  13. 自装置の移動をガイドするガイド手段をさらに備え、
    前記ガイド手段は、前記第1撮像部のプレビュー画像が前記第1領域を包含する状態から撮像を開始させ、前記第1撮像部が前記第1領域に近接する方向へ自装置を移動させるようにガイドする、
    請求項12のいずれか一項に記載の端末。
  14. 前記第1撮像部は、前記ガイド手段によるガイドに応じた自装置の移動操作に基づき、前記第1撮像部の前記プレビュー画像における前記第1領域の占める割合が所定割合となった場合に前記第1画像を撮像する、
    請求項13に記載の端末。
  15. 自装置の移動をガイドするガイド手段をさらに備え、
    前記ガイド手段は、前記第1撮像部が前記第1領域と接触または近接する状態から撮像を開始させ、前記第1撮像部における焦点が合焦する方向に自装置を移動させるようにガイドする、
    請求項12のいずれか一項に記載の端末。
  16. 前記第1撮像部は、前記ガイド手段によるガイドに応じた自装置の移動操作に基づき、前記第1撮像部における焦点が合焦する位置となった場合に前記第1画像を撮像する、
    請求項15に記載の端末。
  17. 画像処理装置の画像処理方法であって、
    第1撮像部で撮像される第1画像に含まれる第1領域における第1色情報を前記画像処理装置の処理部によって算出することと、
    第2撮像部で撮像される第2画像に含まれる前記第1領域における第2色情報と、第2領域における第3色情報とを前記処理部によって算出することと、
    前記第2色情報から前記第1色情報への変換用の係数を前記処理部によって算出することと、
    前記係数に基づいて、前記第3色情報から、前記第1撮像部で撮像される場合の前記第2領域における第4色情報を前記処理部によって推定することと、
    を含み、
    前記第1領域と、前記第2領域とは、同一の被写体に含まれる異なる領域である、
    画像処理方法。
  18. コンピュータに、
    第1撮像部で撮像される第1画像に含まれる第1領域における第1色情報を算出することと、
    第2撮像部で撮像される第2画像に含まれる前記第1領域における第2色情報と、第2領域における第3色情報とを算出することと、
    前記第2色情報から前記第1色情報への変換用の係数を算出することと、
    前記係数に基づいて、前記第3色情報から、前記第1撮像部で撮像される場合の前記第2領域における第4色情報を推定することと、
    を実行させ
    前記第1領域と、前記第2領域とは、同一の被写体に含まれる異なる領域である、
    プログラム。
JP2019174726A 2019-09-25 2019-09-25 画像処理装置、端末、画像処理方法、プログラム Active JP7046340B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019174726A JP7046340B2 (ja) 2019-09-25 2019-09-25 画像処理装置、端末、画像処理方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019174726A JP7046340B2 (ja) 2019-09-25 2019-09-25 画像処理装置、端末、画像処理方法、プログラム

Publications (2)

Publication Number Publication Date
JP2021051611A JP2021051611A (ja) 2021-04-01
JP7046340B2 true JP7046340B2 (ja) 2022-04-04

Family

ID=75156245

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019174726A Active JP7046340B2 (ja) 2019-09-25 2019-09-25 画像処理装置、端末、画像処理方法、プログラム

Country Status (1)

Country Link
JP (1) JP7046340B2 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002190014A (ja) 2000-09-29 2002-07-05 Konica Corp Idカード作成システムにおける色補正方法及びidカード作成システム
JP2002218491A (ja) 2001-01-23 2002-08-02 Torai Tec:Kk デジタルカメラの色補正システム
JP2006191490A (ja) 2005-01-07 2006-07-20 Nec Saitama Ltd カメラ、当該カメラを備えた携帯通信機器、撮影方法及びプログラム
JP2008040827A (ja) 2006-08-07 2008-02-21 Fujitsu Ltd 画像認証装置、画像認証方法、画像認証プログラム、記録媒体及び電子機器
JP2010200312A (ja) 2009-01-28 2010-09-09 Nikon Corp 電子カメラおよび画像処理プログラム
JP2015119436A (ja) 2013-12-20 2015-06-25 キヤノン株式会社 撮像装置
JP2019087945A (ja) 2017-11-09 2019-06-06 キヤノン株式会社 情報処理装置、プログラム及び情報処理方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002190014A (ja) 2000-09-29 2002-07-05 Konica Corp Idカード作成システムにおける色補正方法及びidカード作成システム
JP2002218491A (ja) 2001-01-23 2002-08-02 Torai Tec:Kk デジタルカメラの色補正システム
JP2006191490A (ja) 2005-01-07 2006-07-20 Nec Saitama Ltd カメラ、当該カメラを備えた携帯通信機器、撮影方法及びプログラム
JP2008040827A (ja) 2006-08-07 2008-02-21 Fujitsu Ltd 画像認証装置、画像認証方法、画像認証プログラム、記録媒体及び電子機器
JP2010200312A (ja) 2009-01-28 2010-09-09 Nikon Corp 電子カメラおよび画像処理プログラム
JP2015119436A (ja) 2013-12-20 2015-06-25 キヤノン株式会社 撮像装置
JP2019087945A (ja) 2017-11-09 2019-06-06 キヤノン株式会社 情報処理装置、プログラム及び情報処理方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Dennis Hospach et al.,"Simulation and Evaluation of Sensor Characteristics in Vision Based Advanced Driver Assistance Systems",17th International IEEE Conference on Intelligent Transportation Systems (ITSC),米国,IEEE,2014年10月08日,pp.2610-2615
立花 綱治、外4名,"通常教室におけるデジタルコンテンツ自動作成システムの開発",電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会,2004年12月11日,Vol.104, No.534,pp.87-92

Also Published As

Publication number Publication date
JP2021051611A (ja) 2021-04-01

Similar Documents

Publication Publication Date Title
CN101753822B (zh) 摄像装置和摄像装置中的图像处理方法
JP6186521B2 (ja) 合焦制御装置、撮像装置、合焦制御方法、及び合焦制御プログラム
JP5159515B2 (ja) 画像処理装置およびその制御方法
KR101679290B1 (ko) 영상 처리 방법 및 장치
US8254630B2 (en) Subject extracting method and device by eliminating a background region using binary masks
US8582891B2 (en) Method and apparatus for guiding user with suitable composition, and digital photographing apparatus
US20100123816A1 (en) Method and apparatus for generating a thumbnail of a moving picture
JP4732299B2 (ja) 特定被写体像の検出方法およびデジタルカメラ
KR101762769B1 (ko) 촬영 장치에서 피사체를 촬영하기 위한 장치 및 방법
KR20110089655A (ko) 촬영 구도를 유도하는 디지털 영상 촬영 장치 및 방법
KR101549824B1 (ko) 피부색 보정 방법 및 장치, 이를 이용한 디지털 촬영 장치
JP2013106284A (ja) 光源推定装置、光源推定方法、光源推定プログラムおよび撮像装置
JP2016123044A (ja) 被写体追跡装置、その制御方法およびプログラム
JPWO2015156151A1 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP4148903B2 (ja) 画像処理装置、画像処理方法およびデジタルカメラ
JP5691617B2 (ja) 被写体特定装置、および被写体追尾装置
WO2012014946A1 (ja) 画像処理装置、および画像処理プログラム
JP6172973B2 (ja) 画像処理装置
JP4632417B2 (ja) 撮像装置、及びその制御方法
JP7046340B2 (ja) 画像処理装置、端末、画像処理方法、プログラム
JP5044472B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
EP2690859B1 (en) Digital photographing apparatus and method of controlling same
CN104871532A (zh) 拍摄装置及其动作控制方法
JP2018056784A (ja) 画像読取装置、画像読取方法及び画像読取プログラム
JP2009088986A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200814

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211109

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220301

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220314

R150 Certificate of patent or registration of utility model

Ref document number: 7046340

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350