JP2020154639A - 電子機器、画像処理方法、及び画像処理プログラム - Google Patents
電子機器、画像処理方法、及び画像処理プログラム Download PDFInfo
- Publication number
- JP2020154639A JP2020154639A JP2019051821A JP2019051821A JP2020154639A JP 2020154639 A JP2020154639 A JP 2020154639A JP 2019051821 A JP2019051821 A JP 2019051821A JP 2019051821 A JP2019051821 A JP 2019051821A JP 2020154639 A JP2020154639 A JP 2020154639A
- Authority
- JP
- Japan
- Prior art keywords
- organ
- image
- correction
- template
- predetermined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims description 4
- 210000000056 organ Anatomy 0.000 claims abstract description 297
- 238000012937 correction Methods 0.000 claims abstract description 179
- 238000003702 image correction Methods 0.000 claims abstract description 110
- 238000001514 detection method Methods 0.000 claims abstract description 89
- 238000000034 method Methods 0.000 claims description 37
- 230000008859 change Effects 0.000 claims description 14
- 238000003384 imaging method Methods 0.000 abstract description 14
- 238000005516 engineering process Methods 0.000 abstract description 2
- 238000012545 processing Methods 0.000 description 58
- 230000008569 process Effects 0.000 description 25
- 230000004048 modification Effects 0.000 description 14
- 238000012986 modification Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 230000008921 facial expression Effects 0.000 description 5
- 238000013459 approach Methods 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 230000002087 whitening effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000004383 yellowing Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
Description
しかしながら、予め用意された補正テンプレートを用いた場合、ユーザの顔の向きや表情によっては、画像補正を行う対象の領域に適切に対応できず、検出した器官からはみ出した領域や、検出した器官における補正が必要ない領域に対して補正を行ってしまうことがあった。このような補正を行ってしまうと、補正後の画像が、不自然となってしまうという問題が生じる。
被写体画像を取得する画像取得手段と、
前記被写体画像における被写体の所定の器官を検出する器官検出手段と、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段と、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段と、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段と、
を有することを特徴とする。
図1は、本発明の画像処理装置の一実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、例えば、画像処理機能を備えるデジタルカメラとして構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号は、撮像された画像としてCPU11や図示しない画像処理部等に適宜供給される。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像を記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
次に、図2を参照して、被写体画像補正処理について説明する。図2は、図1に示すように構成される撮像装置1が行う、被写体画像補正処理の処理過程を説明するための模式図である。
ここで、被写体画像補正処理は、被写体画像における被写体の所定の器官に対して、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制する一連の処理である。
図2に示すように、撮像装置1は、被写体画像補正処理の対象となる画像(以下、「元画像」と称する。)を取得する。元画像がどのような画像であるかは特に限定されないが、ここでは、元画像として人物の顔が含まれる画像であって、画像パラメータとしてYUVで表現される画像を元画像とすることを想定する。ここで、YUVでは、輝度成分の信号Y、青色成分の差分信号U、及び赤色成分の差分信号Vそれぞれが示すディジタル値に基づいて画像が表現される。
このように、撮像装置1は、器官検出に基づいて作成した第1αマップを、更に色情報や明るさ情報に基づいて修正して、第2αマップを作成して、画像補正を行う。これにより、予め用意された補正テンプレートを用いる場合に比べて、より精度高く、画像補正を行う対象の領域を適切に特定できる。そのため、撮像装置1は、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制することができる。
図3は、図1の撮像装置1の機能的構成のうち、上述した被写体画像補正処理を実行するための機能的構成を示す機能ブロック図である。
以下で特に言及しない場合も含め、これら機能ブロック間では、被写体画像補正処理を実現するために必要なデータを、適切なタイミングで適宜送受信する。
ここで、唇及び歯を検出する方法について、図4を参照して説明する。図4(A)に示すように、器官検出部112は、歯に隣接する器官である唇の器官点P1を検出する。器官点P1は、上唇及び下唇のそれぞれについて複数検出される。なお、図中では、複数の器官点P1をそれぞれ白色の丸で示すが、図示の都合上、その内の1つの器官点P1に対してのみ符号を付す。
そして、画像情報取得部113は、作成したトリミング画像から、色情報や明るさ情報といった、第2αマップ作成においてのα値を決定するための情報を取得する。
また、他にも、画像情報取得部113は、トリミング画像をHSVモデルに変換する。そして、画像情報取得部113は、変換後のHSV画像の各画素から、Hの値を取得する。
なお、唇の領域におけるVの値は、画素毎のバラつきが大きく、最頻値を決定しにくい場合がある。そのため、Vの値を取得する前処理として、既存の技術を利用して元画像をぼかす処理を行うようにしてもよい。そして、ぼかす処理を施すことにより各画素のバラつきを抑えた元画像から、各画素のVの値を取得するようにしてもよい。また、この場合に、最頻値に限らず、平均値や中央値を唇指標値としてもよい。
しかしながら、このようにα値が設定された第1αマップを、そのまま画像補正に利用すると、画像補正を行う領域と補正を一切行わない領域との境界が明確となり、画像補正が不自然となってしまう。そこで、第1テンプレート作成部114は、この境界をぼかすために、第1αマップの中央の領域から外部に近づくにつれてα値が段階的に低くなり、画像補正の度合いが抑えられるように、第1αマップを修正する。
第2テンプレート作成部115は、この第1αマップにおける各画素のα値(以下、「第1α値」と称する。)を、第2α値に修正することによって、図5(E)に示すような第2αマップを作成する。この第2テンプレート作成部115による、第2α値への修正は、2つの観点から行われる。この2つの観点では、それぞれの観点において、除外しようとする対象の器官(例えば、所定の器官に含まれる、複数の器官の何れか)の特性に応じて、色情報及び明るさ情報の何れか一方を、他方よりも優先して利用して第2α値への修正を行なうようにしている。以下では、一例として所定の器官(ここでは、歯)に含まれてしまっている第1の器官(ここでは、唇や舌や歯茎)と、第2の器官(ここでは、口の中における舌や歯茎の影)それぞれの特性に応じて、色情報及び明るさ情報の何れか一方を、他方よりも優先して利用して第2α値への修正を行なう。
具体的には、上述したように、画像情報取得部113が、トリミング画像の各画素から取得したYUVモデルにおけるVの値と、唇指標値となるVの値と、下記の<Vの重みの算出式>とに基づいて、各画素でのVによる重みを算出する。このVの重みの算出式は、今回の被写体画像における唇指標値にVの値が近似している画素や、よりVの値が大きい画素は、歯に対応する画素ではなく、唇や舌や歯茎に対応する画素であると考えられるので、歯を白くするための画像補正の対象から除外する(すなわち、α値をゼロにする)という考えに基づいた式である。なお、以下の<Vの重み算出式>で利用されている定数はパラメータ値であり、状況に応じて変更してもよい。
Vによる重み=−0.5×tanh(0.05×(トリミング画像のVの値−唇指標値のVの値))+0.5
具体的には、上述したように、画像情報取得部113が、トリミング画像の各画素から取得したYUVモデルにおけるYの値と、下記の<Yの重みの算出式>とに基づいて、各画素でのYによる重みを算出する。このYの重みの算出式は、Yの値が所定以上大きい画素は、歯に対応する画素ではなく、影として撮像された舌や歯茎に対応する画素であると考えられるので、歯を白くするための画像補正の対象から除外する(すなわち、α値をゼロにする)という考えに基づいた式である。なお、以下の<Yの重み算出式>で利用されている定数はパラメータ値であり、状況に応じて変更してもよい。
Yによる重み=0.5×tanh(0.05×(トリミング画像のYの値−50))+0.5
第2α値=第1α値×Vによる重み×Yによる重み
更に、第2テンプレート作成部115は、第1αマップを作成した場合と同様に、画像補正を行う領域と補正を一切行わない領域との境界をぼかすために、既存の技術を利用して第2αマップをぼかす。これにより、図5(F)に示すような、唇や歯茎や舌を画像補正の対象から除外するように第2α値が設定された、第2αマップを作成することができる。
この場合、画像補正部116は、歯に対応する領域の彩度を下げる(すなわち、白くする)ために、YUVモデルにおけるUの値とVの値を低減させる。
補正後画像のUの値=((トリミング画像のUの値−128)/(1+色重み値×第2α値×ユーザ設定値))+128
補正後画像のVの値=((トリミング画像のVの値−128)/(1+色重み値×第2α値×ユーザ設定値))+128
具体的には、上述したように、画像情報取得部113がトリミング画像の各画素から取得したYUVモデルにおけるYの値と、図6(D)に示すような明るさ上昇テーブルと、下記の<補正後のYの値の算出式>とに基づいて、各画素での補正後のYの値を算出する。そして、この算出した補正後の値になるように、補正前のトリミング画像に対して画像補正を行う。これらの算出式及び明るさ上昇テーブルは、極めて明るい画素や、極めて暗い画素については、補正せず、中間の明るさの画素がより明るくなるように補正することにより、不自然さを感じさせることなく、歯を輝かせるという考えに基づいた式やテーブルである。以下の明るさ上昇値とは、トリミング画像の対象画素のYを図6(D)に示した明るさ上昇テーブルに代入することで得られる明るさ上昇値のことである。
補正後画像のYの値=元画像のYの値+(明るさ上昇値×第2α値×ユーザ設定値)
そして、画像補正部116は、最終画像を出力する。例えば、画像補正部116は、出力として、最終画像を出力部18に表示させたり、最終画像を画像記憶部191に記憶させたりする。
図7は、図3の機能的構成を有する図1の撮像装置1が実行する被写体画像補正処理の流れを説明するフローチャートである。
被写体画像補正処理は、ユーザによる入力部17への被写体画像補正処理開始の操作により開始される。
被写体画像補正処理開始の操作は、撮影指示操作であって、この撮影指示操作に応じて撮像部16により撮像され、現像処理が行われた画像に対して、引き続き被写体画像補正処理を行ってもよく、また、画像記憶部191に記憶されている画像を選択し、その選択された画像に対する被写体画像補正処理開始の操作であってもよい。
ステップS12において、器官検出部112は、ステップS11で画像取得部111が取得した画像から被写体であるユーザの顔を検出すると共に、検出した顔において顔を構成する各器官を検出するための処理を行う。
ステップS15において、画像情報取得部113は、ステップS14で作成したトリミング画像から、色情報や明るさ情報といった、第2αマップ作成においてα値を決定するための情報を取得する。
ステップS17において、第2テンプレート作成部115は、ステップS16で作成された第1αマップを、ステップS15で取得された色情報や明るさ情報で修正することにより、第2αマップを作成する。
ステップS19において、画像補正部116は、ステップS18で画像補正を施したトリミング画像を、元画像の対応する位置に貼り付けて、合成することにより、最終画像を作成する。
以上のように構成される撮像装置1は、画像取得部111と、器官検出部112と、画像情報取得部113と、第2テンプレート作成部115と、画像補正部116と、を有する。
画像取得部111は、被写体画像を取得する。
器官検出部112は、被写体画像における被写体の所定の器官を検出する。
画像情報取得部113は、器官検出部112により検出された所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する。
第2テンプレート作成部115は、画像情報取得部113により取得された色情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は画像情報取得部113により取得された明るさ情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレート(第2αマップに相当)を作成する。
画像補正部116は、補正テンプレートに基づいて、被写体画像を補正する。
このように、撮像装置1は、色情報や明るさ情報に基づいて補正テンプレートを作成することから、予め用意された補正テンプレートを用いる場合に比べて、より精度高く、画像補正を行う対象の領域を適切に特定できる。そのため、撮像装置1は、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制することができる。
このように、撮像装置1は、明るさ情報及び色情報の何れか又は双方のみを用いて、補正テンプレートを作成することができるので、例えば、補正対象となる器官の特性に対応した情報を用いて、補正テンプレートを作成することできる。
第1テンプレート作成部116は、器官検出部112の検出結果に基づいて、所定の器官の形状に対応する修正前補正テンプレート(第1αマップに相当)を作成する。
第2テンプレート作成部115は、画像情報取得部113により取得された色情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、修正前補正テンプレートを修正する、又は画像情報取得部113により取得された明るさ情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、修正前補正プレートを修正することにより補正テンプレートを作成することにより補正テンプレートを作成する。
このように、撮像装置1は、器官検出に基づいて作成した修正前補正テンプレートを、更に色情報や明るさ情報に基づいて修正することから、修正前補正テンプレートを作成しない場合よりも、より精度高く、画像補正を行う対象の領域を適切に特定できる。
これにより、撮像装置1は、色情報及び明るさ情報の何れか又は双方を優先的に利用して、補正対象とするべきでない領域を特定し、補正対象から除外することができる。例えば、歯に対して補正を行う場合に、唇の色情報を優先的に利用して、補正対象とするべきでない唇や歯茎や舌を、補正対象から除外することができる。
第1テンプレート作成部116は、器官検出部112の検出結果に基づいて、他の器官の形状に対応する修正前補正テンプレートを更に作成する。
第2テンプレート作成部115は、他の器官に対応する修正前補正テンプレートは修正しない。
これにより、撮像装置1は、所定の器官(例えば、歯)以外の領域に対しても、修正前補正テンプレートを利用した補正を行うことができる。
これにより、撮像装置1は、形状が変化しやすく、予め作成したテンプレート等での補正が困難な器官に対して、本実施形態における補正を行うことができる。
被写体画像の所定の器官に対応する領域とは少なくとも唇を含んだ領域である。
これにより、撮像装置1は、補正対象とする歯のみならず、補正対象としない領域である、唇の色情報及び明るさ情報にも基づいて、補正を行うことができる。
これにより、撮像装置1は、色情報及び明るさ情報の何れか又は双方に基づいた度合いで補正を行うことができる。この場合に、色情報及び明るさ情報の取得元は特に限定されないので、撮像装置1は、例えば、補正対象とする領域(例えば、歯)の色情報及び明るさ情報のみならず、補正対象としない領域(例えば、唇)の色情報及び明るさ情報にも基づいて、補正を行うことができる。
これにより、撮像装置1は、所定の器官に含まれる各器官それぞれで異なる特性に応じて、明るさ情報及び色情報の何れかを優先して用いて、補正テンプレートを作成することができる。
本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。例えば、上述の実施形態を以下の変形例のように変形してもよい。
上述の実施形態において、第2テンプレート作成部115は、画像情報取得部113が取得した色情報や明るさ情報に基づいて、第1テンプレート作成部114が作成した第1αマップを修正することによって、第2αマップを作成していた。これに限らず、第2テンプレート作成部115は、画像情報取得部113が取得した色情報や明るさ情報に基づいて、第1αマップを修正するのではなく、直接第2αマップを作成してもよい。
また、第2テンプレート作成部115は、画像情報取得部113がこのトリミング画像から取得した色情報や明るさ情報に基づいて、上述した処理と同様の処理を行なうことにより、第2α値を算出する。
そして、第2テンプレート作成部115は、作成したα値が設定されていないマップの各画素のα値を、このようにして算出した第2α値に設定することにより、第2αマップを作成することができる。
例えば、上述したように歯が所定器官である場合には、唇に対応する領域の画素のみならず、唇よりも外側の肌部分や鼻等の他の器官に対応する領域の画素についても、歯に対応する領域の画素に比べてVの値が大きい。そのため、上記の<Vの重みの算出式>における各定数(すなわち、パラメータ値)を適切に設定することにより、本変形例のように、直接第2αマップを作成した場合であっても、適切に第2αマップを作成することができる。すなわち、歯等の所定器官に対応する領域の画素のみにα値を設定し、他の領域の画素についてはα値を「0」と設定した第2αマップを作成することができる。
これにより、上述した被写体画像補正処理における、第1αマップの作成処理を省略することができる。そのため、被写体画像補正処理全体の処理量が削減でき、被写体画像補正処理を高速に終了させることが可能となる。
上述の実施形態において、第2αマップを利用して画像補正を行う所定の器官(上述の実施形態では、歯)を、被写体画像補正処理の対象としていた。これに限らず、この所定の器官以外の他の器官に対して、被写体画像補正処理の一部又は全部を行うようにしてもよい。
例えば、この所定の器官に対しては上述した第2αマップを利用した画像補正を行う一方で、この所定の器官以外の他の器官(以下、単に「他の器官」と称する。)に対しては上述した第1αマップを利用した画像補正を行うようにしてもよい。上述したように、第1αマップは、画像補正の度合い等が調整された、一般的な器官の補正に用いるのに好適なαマップである。そのため、他の器官が、歯のような大きく変化するような特性を有さない鼻等の器官である場合には、第1αマップにより適切な画像補正を行うことができる。
上述した第1変形例を更に変形し、器官検出部112による検出結果に基づいて、所定の器官であるか他の器官であるかを判定するようにしてもよい。例えば、上述したように、ユーザの表情等の変化に伴い、補正対象となる領域が大きく変化する器官を所定の器官とすることが望ましい。そこで、例えば、器官検出部112は、補正対象となる領域が大きく変化したか否かに基づいて、所定の器官であるか他の器官であるかを判定する。
更に、器官検出部112は、この継続中の期間における各器官に対応する領域の変化の程度を特定する。例えば、各器官に対応する領域が最小となった際の大きさと、最大となった際の大きさとの差分に基づいて、変化の程度を特定する。あるいは、各器官に対応する領域の位置が変動したか否かに基づいて、変化の程度を特定する。
上述の実施形態において、第2テンプレート作成部115は、所定の器官(ここでは、歯)に含まれてしまっている第1の器官(ここでは、唇や舌や歯茎)と、第2の器官(ここでは、口の中における舌や歯茎の影)それぞれの特性に応じて、色情報及び明るさ情報の何れか一方を、他方よりも優先して利用して第2α値への修正を行っていた。すなわち、第1の器官に対応して、色情報を優先して用いる<Vの重みの算出式>を利用して第2α値への修正を行なうと共に、第2の器官に対応して、明るさ情報を優先して用いる<Yの重みの算出式>を利用して第2α値への修正を行なっていた。これに限らず、状況に応じて、色情報を優先した第2α値の修正と、明るさ情報を優先した第2α値の修正の、何れかのみを行なうようにしてもよい。
そこで、第2テンプレート作成部115は、例えば、器官検出部112の検出結果に基づいてユーザの上下の歯が閉じていると判定した場合や、画像情報取得部113の取得した明るさ情報(すなわち、Yの値)に基づいて影に対応するような輝度が低い領域が含まれていないと判定した場合に、第1の器官に対応して<Vの重みの算出式>を利用して第2α値への修正を行なう一方で、第2の器官に対応した<Yの重みの算出式>を利用した第2α値への修正は省略する。
このように、色情報を優先した第2α値の修正と、明るさ情報を優先した第2α値の修正の、何れかのみを行なうことにより、被写体画像補正処理全体としての演算処理量を削減し、処理を高速に行なうことが可能となる。
上述した実施形態で示した、各算出式やテーブルは、説明のための一例に過ぎず、特に限定されない。実施形態を実装する環境や、被写体画像補正処理の対象とする器官等に応じて、適宜修正することができる。
また、同様に第2αマップを作成するための明るさの情報として、上述したYUVモデルのYの値ではなく、HSVのVの値や、RGBモデルの各値を用いてもよい。更には、これらの値を組み合わせて用いてもよい。
上述の実施形態では、本発明が適用される対象が、デジタルカメラで実現される撮像装置1である場合を例にとって説明したが、これに限らない。本発明は、情報処理機能を有する電子機器一般に適用することができる。例えば、本発明は、パーソナルコンピュータ、サーバ装置、スマートフォン、携帯電話機、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、ポータブルゲーム機等に適用することができる。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図3の機能的構成は例示に過ぎず、特に限定されない。すなわち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図3の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
[付記1]
被写体画像を取得する画像取得手段と、
前記被写体画像における被写体の所定の器官を検出する器官検出手段と、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段と、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段と、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段と、
を有することを特徴とする電子機器。
[付記2]
前記テンプレート作成手段は、前記所定の器官に対応する領域の画像情報に含まれる明るさ情報と色情報のうち、明るさ情報及び色情報の何れか又は双方のみを用いて、前記補正テンプレートを作成することを特徴とする付記1に記載の電子機器。
[付記3]
前記器官検出手段の検出結果に基づいて、前記所定の器官の形状に対応する修正前補正テンプレートを作成する修正前テンプレート作成手段を更に有し、
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記修正前補正テンプレートを修正する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記修正前補正プレートを修正することにより前記補正テンプレートを作成することを特徴とする付記1又は2に記載の電子機器。
[付記4]
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する、
又は、前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する
ことを特徴とする付記3に記載の電子機器。
[付記5]
前記器官検出手段は、前記被写体画像における被写体の前記所定の器官とは異なる他の器官を更に検出し、
前記修正前テンプレート作成手段は、前記器官検出手段の検出結果に基づいて、前記他の器官の形状に対応する修正前補正テンプレートを更に作成し、
前記テンプレート作成手段は、前記他の器官に対応する修正前補正テンプレートは修正しない
ことを特徴とする付記3又は4に記載の電子機器。
[付記6]
前記器官検出手段は、時間の経過に伴う形状の変化が他の器官に比べて大きい器官を、前記所定の器官として検出する
ことを特徴とする付記1乃至5の何れか1に記載の電子機器。
[付記7]
前記所定の器官とは、歯であり、
前記被写体画像の前記所定の器官に対応する領域とは少なくとも唇を含んだ領域である
ことを特徴とする付記1乃至6の何れか1に記載の電子機器。
[付記8]
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報及び明るさ情報の何れか又は双方に基づいて、前記補正テンプレートにおける各画素それぞれの補正度合いを決定する
ことを特徴とする付記1乃至7の何れかに記載の電子機器。
[付記9]
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、
且つ前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成することを特徴とする付記1乃至8の何れかに記載の電子機器。
[付記10]
被写体画像を取得する画像取得ステップと、
前記被写体画像における被写体の所定の器官を検出する器官検出ステップと、
前記器官検出ステップにより検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得ステップと、
前記画像情報取得ステップにより取得された色情報を前記器官検出ステップにて検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得ステップにて取得された明るさ情報を前記器官検出ステップにより検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成ステップと、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正ステップと、
を有することを特徴とする画像処理方方法。
[付記11]
被写体画像を取得する画像取得手段、
前記被写体画像における被写体の所定の器官を検出する器官検出手段、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段、
としてコンピュータを機能させることを特徴とする画像処理プログラム。
Claims (11)
- 被写体画像を取得する画像取得手段と、
前記被写体画像における被写体の所定の器官を検出する器官検出手段と、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段と、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段と、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段と、
を有することを特徴とする電子機器。 - 前記テンプレート作成手段は、前記所定の器官に対応する領域の画像情報に含まれる明るさ情報と色情報のうち、明るさ情報及び色情報の何れか又は双方のみを用いて、前記補正テンプレートを作成することを特徴とする請求項1に記載の電子機器。
- 前記器官検出手段の検出結果に基づいて、前記所定の器官の形状に対応する修正前補正テンプレートを作成する修正前テンプレート作成手段を更に有し、
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記修正前補正テンプレートを修正する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記修正前補正プレートを修正することにより前記補正テンプレートを作成することを特徴とする請求項1又は2に記載の電子機器。 - 前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する、
又は、前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する
ことを特徴とする請求項3に記載の電子機器。 - 前記器官検出手段は、前記被写体画像における被写体の前記所定の器官とは異なる他の器官を更に検出し、
前記修正前テンプレート作成手段は、前記器官検出手段の検出結果に基づいて、前記他の器官の形状に対応する修正前補正テンプレートを更に作成し、
前記テンプレート作成手段は、前記他の器官に対応する修正前補正テンプレートは修正しない
ことを特徴とする請求項3又は4に記載の電子機器。 - 前記器官検出手段は、時間の経過に伴う形状の変化が他の器官に比べて大きい器官を、前記所定の器官として検出する
ことを特徴とする請求項1乃至5の何れか1項に記載の電子機器。 - 前記所定の器官とは、歯であり、
前記被写体画像の前記所定の器官に対応する領域とは少なくとも唇を含んだ領域である
ことを特徴とする請求項1乃至6の何れか1項に記載の電子機器。 - 前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報及び明るさ情報の何れか又は双方に基づいて、前記補正テンプレートにおける各画素それぞれの補正度合いを決定する
ことを特徴とする請求項1乃至7の何れかに記載の電子機器。 - 前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、
且つ前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成することを特徴とする請求項1乃至8の何れかに記載の電子機器。 - 被写体画像を取得する画像取得ステップと、
前記被写体画像における被写体の所定の器官を検出する器官検出ステップと、
前記器官検出ステップにより検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得ステップと、
前記画像情報取得ステップにより取得された色情報を前記器官検出ステップにて検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得ステップにて取得された明るさ情報を前記器官検出ステップにより検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成ステップと、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正ステップと、
を有することを特徴とする画像処理方方法。 - 被写体画像を取得する画像取得手段、
前記被写体画像における被写体の所定の器官を検出する器官検出手段、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段、
としてコンピュータを機能させることを特徴とする画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019051821A JP7400196B2 (ja) | 2019-03-19 | 2019-03-19 | 電子機器、画像処理方法、及び画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019051821A JP7400196B2 (ja) | 2019-03-19 | 2019-03-19 | 電子機器、画像処理方法、及び画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020154639A true JP2020154639A (ja) | 2020-09-24 |
JP7400196B2 JP7400196B2 (ja) | 2023-12-19 |
Family
ID=72559100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019051821A Active JP7400196B2 (ja) | 2019-03-19 | 2019-03-19 | 電子機器、画像処理方法、及び画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7400196B2 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008160474A (ja) * | 2006-12-22 | 2008-07-10 | Canon Inc | 画像処理装置およびその方法 |
JP2012085083A (ja) * | 2010-10-12 | 2012-04-26 | Nikon Systems Inc | 画像処理装置、撮像装置および画像処理プログラム |
JP2012165146A (ja) * | 2011-02-04 | 2012-08-30 | Canon Inc | 画像処理装置及び方法 |
JP2018117289A (ja) * | 2017-01-19 | 2018-07-26 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2019032714A (ja) * | 2017-08-08 | 2019-02-28 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
-
2019
- 2019-03-19 JP JP2019051821A patent/JP7400196B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008160474A (ja) * | 2006-12-22 | 2008-07-10 | Canon Inc | 画像処理装置およびその方法 |
JP2012085083A (ja) * | 2010-10-12 | 2012-04-26 | Nikon Systems Inc | 画像処理装置、撮像装置および画像処理プログラム |
JP2012165146A (ja) * | 2011-02-04 | 2012-08-30 | Canon Inc | 画像処理装置及び方法 |
JP2018117289A (ja) * | 2017-01-19 | 2018-07-26 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2019032714A (ja) * | 2017-08-08 | 2019-02-28 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP7400196B2 (ja) | 2023-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10885616B2 (en) | Image processing apparatus, image processing method, and recording medium | |
CN108337450B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
WO2021047345A1 (zh) | 图像降噪方法、装置、存储介质及电子设备 | |
JP5434361B2 (ja) | 画像処理装置及び画像処理方法 | |
JP5949331B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP6193721B2 (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
KR20130031574A (ko) | 영상 처리 방법 및 영상 처리 장치 | |
CN109639959B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
CN111526279B (zh) | 图像处理装置、图像处理方法和记录介质 | |
US10861140B2 (en) | Image processing apparatus, image processing method, and recording medium | |
KR20120071192A (ko) | 디지털 촬영 장치 및 이의 제어 방법 | |
KR20120114899A (ko) | 영상 처리 방법 및 영상 처리 장치 | |
WO2019124289A1 (ja) | 装置、制御方法および記憶媒体 | |
JP2009200743A (ja) | 画像処理装置および画像処理方法および画像処理プログラムおよび撮像装置 | |
CN109104601A (zh) | 检测装置、图像处理装置、检测方法以及图像处理方法 | |
JP2015041901A (ja) | 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置 | |
JP7375313B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP7400196B2 (ja) | 電子機器、画像処理方法、及び画像処理プログラム | |
CN104935805A (zh) | 图像处理装置以及图像处理方法 | |
JP7102192B2 (ja) | 画像処理装置、その制御方法、プログラム | |
JP6908013B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5891874B2 (ja) | 撮像装置及びプログラム | |
JP6554009B2 (ja) | 画像処理装置、その制御方法、プログラム及び記録媒体 | |
JP2014155000A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2010028237A (ja) | 撮影装置及び撮影パラメータ決定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220308 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221212 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230613 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230808 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231107 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231120 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7400196 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |