JP5966657B2 - 画像生成装置、画像生成方法及びプログラム - Google Patents

画像生成装置、画像生成方法及びプログラム Download PDF

Info

Publication number
JP5966657B2
JP5966657B2 JP2012140288A JP2012140288A JP5966657B2 JP 5966657 B2 JP5966657 B2 JP 5966657B2 JP 2012140288 A JP2012140288 A JP 2012140288A JP 2012140288 A JP2012140288 A JP 2012140288A JP 5966657 B2 JP5966657 B2 JP 5966657B2
Authority
JP
Japan
Prior art keywords
image
face
contour
unit
face contour
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012140288A
Other languages
English (en)
Other versions
JP2014006604A (ja
JP2014006604A5 (ja
Inventor
敬輔 島田
敬輔 島田
滋 加福
滋 加福
大聖 笠原
大聖 笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012140288A priority Critical patent/JP5966657B2/ja
Priority to CN201310247029.5A priority patent/CN103516951B/zh
Priority to US13/923,253 priority patent/US8971636B2/en
Publication of JP2014006604A publication Critical patent/JP2014006604A/ja
Publication of JP2014006604A5 publication Critical patent/JP2014006604A5/ja
Application granted granted Critical
Publication of JP5966657B2 publication Critical patent/JP5966657B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像生成装置、画像生成方法及びプログラムに関する。
従来、目、鼻、口、耳、顔の輪郭等の顔部品の特徴点を用いて似顔絵を作成する似顔絵作成装置が知られている(例えば、特許文献1参照)。
また、各部位毎に予め用意されているパーツオブジェクトを組み合わせてキャラクタを作成するゲーム装置が知られている(例えば、特許文献2参照)。
特開2004−145625号公報 特開2008−061896号公報
ところで、入力される顔画像の顔の向きは必ずしも正面に向いている訳ではないので、正面向きではない目、鼻、口等の顔の主要な構成部を、予め用意された正面向きの顔輪郭画像の内部に配置して似顔絵を作成する場合には、構成部と顔輪郭画像とのバランスが悪くなり、不自然な似顔絵となってしまうと言った問題点があった。
そこで、本発明の課題は、構成部、若しくは、顔輪郭画像を変形してより自然な似顔絵を生成することが可能な画像生成装置、画像生成方法及びプログラムを提供することである。
上記課題を解決するため、本発明に係る画像生成装置は、
画像を取得する第1取得手段と、前記第1取得手段により取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する抽出手段と、前記第1取得手段により取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する第2取得手段と、前記第1取得手段により取得された画像内の顔の向きに基づいて、顔を略真正面から視た状態で、当該顔の前後方向、左右方向及び上下方向の各方向に互いに直交して延在する3つの軸のうち、少なくとも何れか一の軸を中心として回動させたように、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方を変形する変形手段と、前記変形手段により少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する生成手段と、を備えたことを特徴としている。
また、本発明に係る画像生成方法は、
画像を取得する処理と、前記取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する処理と、前記取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する処理と、前記取得された画像内の顔の向きに基づいて、顔を略真正面から視た状態で、当該顔の前後方向、左右方向及び上下方向の各方向に互いに直交して延在する3つの軸のうち、少なくとも何れか一の軸を中心として回動させたように、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方を変形する処理と、少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する処理と、を含むことを特徴とする画像生成方法。
また、本発明に係るプログラムは、
画像生成装置のコンピュータを、画像を取得する第1取得手段、前記第1取得手段により取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する抽出手段、前記第1取得手段により取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する第2取得手段、前記第1取得手段により取得された画像内の顔の向きに基づいて、顔を略真正面から視た状態で、当該顔の前後方向、左右方向及び上下方向の各方向に互いに直交して延在する3つの軸のうち、少なくとも何れか一の軸を中心として回動させたように、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方を変形する変形を施す変形手段、前記変形手段により少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する生成手段、として機能させることを特徴としている。
本発明によれば、より自然な似顔絵を生成することが可能になる。
本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。 似顔絵画像生成処理に係る画像の一例を模式的に示す図である。 似顔絵画像生成処理に係る画像の一例を模式的に示す図である。 図1の撮像装置による似顔絵画像生成処理に係る動作の一例を示すフローチャートである。 顔輪郭画像の変形に係る詳細動作の一例を示すフローチャートである。 顔輪郭画像の変形に係る画像の一例を模式的に示す図である。 顔輪郭画像の変形に係る画像の一例を模式的に示す図である。 似顔絵画像生成処理で生成された似顔絵画像の一例を模式的に示す図である。 変形例1及び変形例2に係る顔輪郭画像の一例を模式的に示す図である。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
(実施形態1)
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
図1に示すように、本実施形態の撮像装置100は、具体的には、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像記録部5と、画像処理部6と、表示制御部7と、表示部8と、操作入力部9と、中央制御部10とを備えている。
また、撮像部1、撮像制御部2、画像データ生成部3、メモリ4、画像記録部5、画像処理部6、表示制御部7及び中央制御部10は、バスライン11を介して接続されている。
撮像部1は、撮像手段として、所定の被写体を撮像してフレーム画像を生成する。
具体的には、撮像部1は、レンズ部1aと、電子撮像部1bと、レンズ駆動部1cとを備えている。
レンズ部1aは、例えば、ズームレンズやフォーカスレンズ等の複数のレンズから構成されている。
電子撮像部1bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサ(撮像素子)から構成されている。そして、電子撮像部1bは、レンズ部1aの各種レンズを通過した光学像を二次元の画像信号に変換する。
レンズ駆動部1cは、例えば、図示は省略するが、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えている。
なお、撮像部1は、レンズ部1a、電子撮像部1b及びレンズ駆動部1cに加えて、レンズ部1aを通過する光の量を調整する絞り(図示略)を備えても良い。
撮像制御部2は、撮像部1による被写体の撮像を制御する。即ち、撮像制御部2は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部2は、タイミング発生器、ドライバにより電子撮像部1bを走査駆動して、レンズを通過した光学像を電子撮像部1bにより所定周期毎に二次元の画像信号に変換させ、当該電子撮像部1bの撮像領域から1画面分ずつフレーム画像を読み出して画像データ生成部3に出力させる。
なお、撮像制御部2は、レンズ部1aのフォーカスレンズに代えて、電子撮像部1bを光軸方向に移動させてレンズ部1aの合焦位置を調整するようにしても良い。
また、撮像制御部2は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体を撮像する際の条件の調整制御を行っても良い。
画像データ生成部3は、電子撮像部1bから転送されたフレーム画像のアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMA(Direct Memory Access)コントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
メモリ4は、例えば、DRAM(Dynamic Random Access Memory)等により構成され、画像処理部6や中央制御部10等によって処理されるデータ等を一時的に格納する。
画像記録部5は、例えば、不揮発性メモリ(フラッシュメモリ)等により構成され、画像処理部6の符号化部(図示略)により所定の圧縮形式(例えば、JPEG形式等)で符号化された記録用の画像データを記録する。
また、画像記録部(記録手段)5には、似顔絵画像の生成に用いるためのイラストである複数の髪型の髪型画像P1(図示略)、及び、複数の顔の形状に対応した顔輪郭画像P2(図示略)の画像データが予め記録されている。
髪型画像P1の画像データの各々は、例えば、ヒトの髪の輪郭を模式的に表した画像であり、顔輪郭画像P2の画像データの各々は、例えば、ヒトの顔の輪郭を模式的に表した画像である。
具体的には、髪型画像P1の画像データは、顔検出処理(後述)により検出された顔領域内から、顔の顎の輪郭及び当該顎よりも内側の部分を消去することで形成することが可能であり、また、顔輪郭画像P2は、顔検出処理(後述)により検出された顔領域内から、顔の輪郭のみを抽出することで形成することが可能である。
さらに、髪型画像P1の画像データは、髪を所定の色で塗り潰すことにより形成することも可能であり、顔輪郭画像P2は、肌部分を所定の色で塗り潰すことにより形成することも可能である。
また、顔の輪郭や髪の先端部に沿った線の描画は、ユーザによる操作入力部9の所定操作に基づいて手動で行われても良いし、中央制御部10のCPUの制御下にて自動で行われても良い。
なお、画像記録部5は、例えば、記録媒体(図示略)が着脱自在に構成され、装着された記録媒体からのデータの読み出しや記録媒体に対するデータの書き込みを制御する構成であっても良い。
画像処理部6は、画像取得部6aと、顔検出部6bと、構成部画像生成部6cと、特徴情報抽出部6dと、髪型画像特定部6eと、顔輪郭画像特定部6fと、顎輪郭特定部6gと、顔輪郭画像分割部6hと、顔輪郭画像変形部6iと、似顔絵画像生成部6jとを具備している。
なお、画像処理部6の各部は、例えば、所定のロジック回路から構成されているが、当該構成は一例であってこれに限られるものではない。
画像取得部6aは、似顔絵画像生成処理の処理対象となる画像を取得する。
即ち、画像取得部6aは、第1取得手段として、元画像(例えば、写真画像等)P3の画像データを取得する。具体的には、画像取得部6aは、撮像部1及び撮像制御部2による被写体の撮像によって画像データ生成部3により生成された元画像P3の画像データ(YUVデータ)の複製をメモリ4から取得したり、画像記録部5に記録されている元画像P3の画像データ(YUVデータ)の複製を取得する(図2(a)参照)。
顔検出部6bは、処理対象となる元画像P3から顔領域F1(図2(a)参照)を検出する。
即ち、顔検出部6bは、顔検出手段として、画像取得部6aにより取得された元画像P3から顔が含まれる顔領域F1を検出する。具体的には、顔検出部6bは、画像取得部6aにより似顔絵画像生成処理の処理対象の画像として取得された元画像P3の画像データを取得して、当該画像データに対して所定の顔検出処理を行って顔領域F1を検出する。
なお、顔検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
構成部画像生成部6cは、顔の主要な顔構成部を表した顔構成部画像P5(図3(b)参照)を生成する。
即ち、構成部画像生成部6cは、抽出手段として、画像取得部6aにより取得された元画像P3(図2(a)参照)内の顔の主要な顔構成部に係る顔構成部画像P5を抽出する。具体的には、構成部画像生成部6cは、元画像P3の顔が含まれる顔領域F1に対して微細部抽出処理を施して、例えば、目、鼻、口、眉、髪の毛、顔の輪郭等の顔構成部を線で表した顔微細部画像P4(図2(b)参照)を生成する。例えば、構成部画像生成部6cは、微細部抽出処理として、AAM(Active Appearance Model)を用いた処理により顔微細部画像P4を生成する。また、構成部画像生成部6cは、顔検出部6bにより元画像P3の画像データから検出された顔領域F1に対して微細部抽出処理を施す。
ここで、AAMとは、視覚的事象のモデル化の一手法であり、任意の顔領域F1の画像のモデル化を行う処理である。例えば、構成部画像生成部6cは、複数のサンプル顔画像における所定の特徴部位(例えば、目じりや鼻頭やフェイスライン等)の位置や画素値(例えば、輝度値)の統計的分析結果を所定の登録手段に登録しておく。そして、構成部画像生成部6cは、上記の特徴部位の位置を基準として、顔の形状を表す形状モデルや平均的な形状における「Appearance」を表すテクスチャーモデルを設定し、これらのモデルを用いて顔領域F1の画像をモデル化する。これにより、構成部画像生成部6cは、元画像P3内の主要な構成を抽出して線で表した顔微細部画像P4を生成する。
また、構成部画像生成部6cは、微細部抽出処理により顔領域F1内の顔の輪郭W1(図3(a)参照)を特定して、顔の輪郭W1内に存する顔構成部及び当該輪郭W1と接する顔構成部を線で表した顔構成部画像P5を生成する。
具体的には、構成部画像生成部6cは、顔微細部画像P4内で顔の輪郭W1と接する画素を特定し、当該画素と連続する画素のうち、顔の輪郭W1よりも外側に存する画素集合G、…(図3(a)参照)を消去する。つまり、構成部画像生成部6cは、顔微細部画像P4のうち、顔の輪郭W1よりも外側に存する部分を消去すると共に、顔の輪郭W1よりも内側に存し、且つ、当該輪郭W1と接する部分(例えば、図3(a)における向かって左側の眉等)を残して、例えば、目、鼻、口、眉等の主要な顔構成部のパーツ画像Mを含む顔構成部画像P5を生成する(図3(b)参照)。なお、図3(a)にあっては、顔の輪郭W1を模式的に破線で表す。
ここで、構成部画像生成部6cは、各顔構成部のパーツ画像MのXY平面空間での相対的な位置関係に係る情報や、座標位置に係る情報を抽出して取得しても良い。
なお、微細部抽出処理として、AAMを用いた処理を例示したが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
例えば、微細部抽出処理として、エッジ抽出処理や非等方拡散処理を行って、顔構成部のパーツ画像Mを含む顔構成部画像P5を生成しても良い。具体的には、構成部画像生成部6cは、例えば、元画像P3の画像データ(YUVデータ)に対して所定の微分フィルタ(例えば、ハイパスフィルタ等)を用いて微分演算を行って、輝度値や色や濃度に急峻な変化があるところをエッジとして検出するエッジ検出処理を行っても良い。また、構成部画像生成部6cは、例えば、元画像P3の画像データに対して所定の非等方拡散フィルタを用いて、線状のエッジの接線方向とエッジの垂直方向とで重みを異ならせて平滑化する非等方拡散処理を行っても良い。
特徴情報抽出部6dは、元画像P3の顔領域F1から特徴情報を抽出する。
即ち、特徴情報抽出部6dは、情報抽出手段として、画像取得部6aにより取得された元画像P3内の顔から、例えば、顔の輪郭W1の形状等の特徴情報を抽出する。具体的には、特徴情報抽出部6dは、元画像P3の画像データ(YUVデータ)に基づいて、顔領域F1内で特徴の高いブロック領域(特徴点)を選択して抽出する特徴抽出処理を行う。例えば、特徴情報抽出部6dは、微細部抽出処理として、例えば、AAMを用いた処理により顔領域F1内で特定された顔の輪郭W1を構成する画素について特徴抽出処理を行って、当該顔の輪郭W1の形状を特徴情報として抽出する。ここで、顔の輪郭W1の形状としては、例えば、長軸及び短軸の長さが特定された楕円形、特に、各顔の顎の輪郭W1と合致する楕円形が挙げられる。
なお、特徴抽出処理にて抽出される特徴情報として、顔の輪郭の形状を例示したが、一例であってこれに限られるものではなく、元画像P3と髪型画像P1(或いは、顔輪郭画像P2)とで対比可能な情報であれば適宜任意に変更可能である。例えば、元画像P3と髪型画像P1(或いは、顔輪郭画像P2)とで顔の輪郭の特徴ベクトルを抽出して用いても良いし、髪型の形状を用いても良い。また、特徴抽出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
髪型画像特定部6eは、特徴情報抽出部6dにより抽出された特徴情報に対応する髪型画像P1を特定する。
即ち、髪型画像特定部6eは、髪型特定手段として、画像記録部5に顔の特徴情報と対応付けて記録されている髪型画像P1から、特徴情報抽出部6dにより抽出された特徴情報に対応する髪型画像P1を特定する。具体的には、髪型画像特定部6eは、画像記録部5に記録されている所定数の顔の輪郭の形状を規定する楕円形と、特徴情報抽出部6dにより抽出された顔の輪郭W1の形状を規定する楕円形とを比較して、一致度が所定値よりも高い楕円形を特定する。そして、髪型画像特定部6eは、特定された楕円形と対応付けられている髪型画像P1の画像データを特定する。
なお、髪型画像特定部6eは、一致度が所定値よりも高い楕円形を複数特定し、当該複数の楕円形の中で、ユーザによる操作入力部9の所定操作に基づいて選択されたユーザ所望の楕円形を特定しても良い。
顔輪郭画像特定部6fは、特徴情報抽出部6dにより抽出された特徴情報に対応する顔輪郭画像P2を特定する。
即ち、顔輪郭画像特定部6fは、第2取得手段として、画像記録部5に顔の特徴情報と対応付けて記録されている顔輪郭画像P2から、特徴情報抽出部6dにより抽出された特徴情報に対応する顔輪郭画像P2を特定する。具体的には、顔輪郭画像特定部6fは、画像記録部5に記録されている所定数の顔の輪郭の形状を規定する楕円形と、特徴情報抽出部6dにより抽出された顔の輪郭W1の形状を規定する楕円形とを比較して、一致度が所定値よりも高い楕円形を特定する。そして、顔輪郭画像特定部6fは、特定された楕円形と対応付けられている顔輪郭画像P2の画像データを特定する。
なお、顔輪郭画像特定部6fは、一致度が所定値よりも高い楕円形を複数特定し、当該複数の楕円形の中で、ユーザによる操作入力部9の所定操作に基づいて選択されたユーザ所望の楕円形を特定しても良い。
顎輪郭特定部6gは、顔微細部画像P4の顎輪郭W2及び顎輪郭W2が収まる矩形領域F2と、顔微細部画像P4における顎の先端を特定する。
即ち、顎輪郭特定部6gは、特定手段として、AAMを用いた処理により得られた顔微細部画像P4で顎輪郭W2を特定すると共に、顎輪郭W2が収まる矩形領域F2を特定する(図6参照)。さらに、顎輪郭特定部6gは、顔微細部画像P4における両目の中点を算出し、両目の中心を結んだ直線と直交し、且つ算出した中点を通る直線を下ろし、先に特定した顔微細部画像P4の顎輪郭W2と交わった点を、顔微細部画像P4における顎の先端として特定する。
また、顎輪郭W2、及び、顎輪郭W2が収まる矩形領域F2の特定処理は、公知の技術であるので、ここでは詳細な説明を省略する。
顔輪郭画像分割部6hは、顔輪郭画像を左右に分割して分割顔輪郭領域を生成し、また、分割顔輪郭領域を更に左右に分割して再分割領域を生成する。
即ち、顔輪郭画像分割部6hは、分割手段として、顔輪郭画像特定部6fで特定された顔輪郭画像P2を顎の先端を中心として左右の分割顔輪郭領域に分割し、更に、これらの分割顔輪郭領域を左右に分割して複数の再分割領域を生成する。
顔輪郭画像変形部6iは、顔輪郭画像特定部6fで特定された顔輪郭画像P2を、画像内の顔の向きに基づいて、所定方向の軸を中心として回動させたような変形を施す。
ちなみに、画像内の顔の向きとは、略真正面から視た状態の基準顔を互いに直交する前後方向、左右方向及び上下方向のうち少なくとも何れか一の方向に延在する軸を中心として所定の方向に回動させた際のずれ方向である。
即ち、顔輪郭画像変形部6iは、変形手段として、AAMを用いた処理により得られた顔微細部画像P4で、両目の位置が水平になるように回転補正、言い換えれば、略真正面から視た状態の顔の前後方向に延在する軸を中心として回動するように、顔微細部画像P4を変形させる。
さらに、顔輪郭画像変形部6iは、顔輪郭画像特定部6fで特定された顔輪郭画像P2における顎輪郭が収まる矩形領域と、先に算出した顔微細部画像P4における顎輪郭W2が収まる矩形領域F2とが一致するように、顔輪郭画像P2全体を拡大、若しくは、縮小すると共に、顎の先端を中心とする左右の比率が顔微細部画像P4と一致するように顔輪郭画像P2を変形する。
具体的には、顔輪郭画像分割部6hにより左右に分割された分割顔輪郭領域の左右どちらか一方の分割顔輪郭領域を拡大し、他方の分割顔輪郭領域を縮小する。
なお、顎の先端を中心とする左右の比率が顔微細部画像P4と一致するように顔輪郭画像P2を変形する場合には、勿論、完全一致である必要はなく、顎の先端を中心とする左右の比率が顔微細部画像P4と概ね一致する程度であって構わない。
似顔絵画像生成部6jは、髪型画像P1と顔構成部画像P5と顔輪郭画像P2とを用いて似顔絵画像P6を生成する。
即ち、似顔絵画像生成部6jは、生成手段として、髪型画像特定部6eにより特定された髪型画像P1の画像データ、構成部画像生成部6cにより生成された顔構成部画像P5のパーツ画像M、及び、顔輪郭画像特定部6fにより特定され顔輪郭画像変形部6iにより変形された顔輪郭画像P2の画像データを用いて似顔絵画像P6を生成する。
具体的には、似顔絵画像生成部6jは、髪型画像P1及び顔輪郭画像P2の顔の輪郭W1よりも内側にて、例えば、目、鼻、口、眉等の各顔構成部のパーツ画像Mを重畳させる位置を特定し、当該位置に各顔構成部のパーツ画像Mを重畳させて、元画像P3を似顔絵で表した似顔絵画像P6の画像データを生成する。このとき、似顔絵画像生成部6jは、髪型画像P1及び顔輪郭画像P2をその顔の輪郭を規定する楕円形が元画像P3の顔の輪郭W1を規定する楕円形と合致するように変形させても良い。
また、似顔絵画像生成部6jは、似顔絵画像P6の所定の部分(例えば、目、口、眉等の顔構成部等)に所定の色を付けて表した画像を生成しても良い。
表示制御部7は、メモリ4に一時的に格納されている表示用の画像データを読み出して表示部8に表示させる制御を行う。
具体的には、表示制御部7は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部10の制御下にてメモリ4から読み出されてVRAM(図示略)に格納されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
表示部8は、例えば、液晶表示パネルであり、表示制御部7からのビデオ信号に基づいて撮像部1により撮像された画像などを表示画面に表示する。具体的には、表示部8は、静止画撮像モードや動画撮像モードにて、撮像部1及び撮像制御部2による被写体の撮像により生成された複数のフレーム画像を所定のフレームレートで逐次更新しながらライブビュー画像を表示する。また、表示部8は、静止画として記録される画像(レックビュー画像)を表示したり、動画として記録中の画像を表示する。
操作入力部9は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部9は、被写体の撮像指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定ボタン、ズーム量の調整指示に係るズームボタン等(何れも図示略)の操作部を備え、当該操作部の各ボタンの操作に応じて所定の操作信号を中央制御部10に出力する。
中央制御部10は、撮像装置100の各部を制御するものである。具体的には、中央制御部10は、図示は省略するが、CPU(Central Processing Unit)等を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
次に、撮像装置100による似顔絵画像生成処理について、図4を参照して説明する。図4は、似顔絵画像生成処理に係る動作の一例を示すフローチャートである。
似顔絵画像生成処理は、ユーザによる操作入力部9の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の動作モードの中から似顔絵画像生成モードが選択指示された場合に、中央制御部10の制御下にて当該撮像装置100の各部、特に画像処理部6により実行される処理である。
また、似顔絵画像生成処理の処理対象となる元画像P3の画像データが画像記録部5に記録されているものとする。
図4に示すように、先ず、画像記録部5は、画像記録部5に記録されている画像データの中で、ユーザによる操作入力部9の所定操作に基づいて指定された元画像P3(図2(a)参照)の画像データを読み出し、画像処理部6の画像取得部6aは、読み出された画像データを当該似顔絵画像生成処理の処理対象として取得する(ステップS1)。
次に、顔検出部6bは、処理対象として画像取得部6aにより取得された元画像P3の画像データに対して所定の顔検出処理を行って顔領域F1を検出する(ステップS2)。
続けて、構成部画像生成部6cは、検出された顔領域F1に対して微細部抽出処理(例えば、AAMを用いた処理等)を行って、元画像P3の顔領域F1内の目、鼻、口、眉、髪の毛、顔の輪郭等の顔構成部を線で表した顔微細部画像P4(図2(b)参照)を生成する(ステップS3)。そして、構成部画像生成部6cは、微細部抽出処理により顔領域F1内の顔の輪郭W1を特定して、顔の輪郭W1内に存する顔構成部及び当該輪郭W1と接する顔構成部、即ち、例えば、目、鼻、口、眉等の主要な顔構成部のパーツ画像Mを含む顔構成部画像P5を生成する(ステップS4;図3(b)参照)。
続けて、特徴情報抽出部6dは、微細部抽出処理により顔領域F1内で特定された顔の輪郭W1を構成する画素について特徴抽出処理を行って、当該顔の輪郭W1の形状を規定する楕円形を特定し、特徴情報として抽出する(ステップS5)。
次に、髪型画像特定部6eは、画像記録部5に記録されている所定数の顔の輪郭の形状を規定する楕円形と、特徴情報抽出部6dにより抽出された顔の輪郭W1の形状を規定する楕円形とを比較する。そして、髪型画像特定部6eは、一致度が所定値よりも高い楕円形を特定し、特定された楕円形と対応付けられている髪型画像P1の画像データを特定して、画像記録部5から読み出して取得する(ステップS6)。
同様に、顔輪郭画像特定部6fは、画像記録部5に記録されている所定数の顔の輪郭の形状を規定する楕円形と、特徴情報抽出部6dにより抽出された顔の輪郭W1の形状を規定する楕円形とを比較する。そして、顔輪郭画像特定部6fは、一致度が所定値よりも高い楕円形を特定し、特定された楕円形と対応付けられている顔輪郭画像P2の画像データを特定して、画像記録部5から読み出して取得する(ステップS7)。
そして、顔輪郭画像変形部6iは、顔輪郭画像P2の変形を行う(ステップS8)。ここで、顔輪郭画像変形部6iによる顔輪郭画像P2の変形(ステップS8)について、図5を参照して詳細に説明する。顔輪郭画像P2の変形に係る詳細動作の一例を示すフローチャートである。
先ず、顔輪郭画像変形部6iは、略真正面から視た状態の顔の前後方向に延在する軸を中心として回動するように、顔微細部画像P4を変形させる(ステップS11)。
例えば、図6(a)に示すように、顔輪郭画像変形部6iは、AAMを用いた処理により得られた顔微細部画像P4の両目の位置が水平させるために、略真正面から視た状態の顔の前後方向に延在する軸を中心として回動するように、顔微細部画像P4を変形させる。
次に、顎輪郭特定部6gは、顔微細部画像P4における顎輪郭W2及び、顎輪郭W2が収まる矩形領域F2を特定する(ステップS12)。但し、図6(a)では説明の簡単のために元画像P3に顔微細部画像P4の顎輪郭W2を重畳させてある。
また、顎輪郭特定部6gは、顔微細部画像P4における顎の先端PS2の特定を行う(ステップS13)。
例えば、図6(b)に示すように、顎輪郭特定部6gは、AAMを用いた処理により得られた顔微細部画像P4で、両目の中点PS1を算出し、両目の中心を結んだ直線と直交し、且つ算出した両目の中点PS1を通る直線が顎輪郭W2と交わった点を、顔微細部画像P4における顎の先端PS2として特定する。但し、図6(b)では説明の簡単のために元画像P3に顔微細部画像P4の顎輪郭W2を重畳させてある。
次に、顔輪郭画像変形部6iは、略真正面から視た状態の顔の左右方向に延在する軸を中心として回動するように、顔輪郭画像P2を変形させる(ステップS14)。
例えば、図7(a)に示すように、顔輪郭画像変形部6iは、顔輪郭画像特定部6fで特定された顔輪郭画像P2における顎輪郭が収まる矩形領域F3と、顎輪郭特定部6gで特定された顔微細部画像P4における顎輪郭W2が収まる矩形領域F2とが一致するように顔輪郭画像P2全体を拡大、若しくは、縮小する。
具体的には、画像記録部5に記憶されている顔輪郭画像P2が図7(a)中”TP1”示すサイズであった場合、図7(a)中”TP2”に示すように全体を拡大して顎輪郭が収まる矩形領域F3が、矩形領域F4に拡大されて、顎輪郭特定部6gで特定された顔微細部画像P4における顎輪郭W2が収まる矩形領域F2と一致するようにする。
このように、顔輪郭画像P2全体を拡大、若しくは、縮小することにより、略真正面から視た状態の顔の左右方向に延在する軸を中心として回動するように、顔輪郭画像P2を変形させることができる。
すなわち、顔が正面ではなく上、或いは、下を向いている場合には、顔の顎輪郭が収まる矩形領域の縦方向が短くなり、このような矩形領域に、顔輪郭画像P2における顎輪郭が収まる矩形領域F3を一致させることにより、顔輪郭画像P2の縦方向が短くなり、より自然な似顔絵画像を生成することが可能になる。
なお、略真正面から視た状態の顔の左右方向に延在する軸を中心として回動するように変形させる場合には、上述のように、単純に全体を拡大、若しくは、縮小するだけではなく、顔輪郭画像P2の横幅を一定にして、縦幅のみを拡大、若しくは、縮小しても構わない。
次に、顔輪郭画像変形部6iは、略真正面から視た状態の顔の上下方向に延在する軸を中心として回動するように、顔輪郭画像P2を変形させた後に(ステップS15)、図4のフローチャートのステップS9に戻る(リターン)。
例えば、顔輪郭画像変形部6iは、顔微細部画像P4において特定された顎の先端PS2と(図6(b)参照)、顔輪郭画像P2の顎の先端PS3(図7(a)参照)とが一致するように、顔輪郭画像分割部6hにより顔輪郭画像P2を左右に分割した分割顔輪郭領域のうち、左右どちらか一方の分割顔輪郭領域を拡大して他方の分割顔輪郭領域を縮小する。
具体的には、顔輪郭画像P2は正面画像であるため、顔輪郭画像P2の顎の先端PS3は矩形領域F4の下辺の中央に存在する。一方、図6(b)において、顔微細部画像P4における顎の先端PS2は顎幅WD1の中心から若干図面左方向にずれている。
このため、顔輪郭画像変形部6iは、顔輪郭画像P2(図7(b)参照)における顎幅WD4(顎幅WD1と同じ長さ)を一定として、顎の先端PS3から図面左側の顎幅までの長さWD5と、顎の先端PS3から図面右側の顎幅までの幅WD6とが、図6(b)における顎の先端PS2から図面左側の顎幅までの幅WD2と、顎の先端PS2から図面右側の顎幅までの幅WD3とそれぞれ等しくなるように、顔輪郭画像P2を左右に分割した分割顔輪郭領域の左右どちらか一方の分割顔輪郭領域を拡大して他方の分割顔輪郭領域を縮小する。
すなわち、図6(b)においては、顎の先端PS2から図面左側の顎幅までの幅WD2が、顎の先端PS2から図面右側の顎幅までの幅WD3よりも短いので、顔輪郭画像変形部6iは、顔輪郭画像P2(図7(b)参照)の顎幅WD4を一定として、幅WD5を縮小して狭くなるように、且つ、幅WD6を拡大して広くなるように、顔輪郭画像P2を左右に分割した分割顔輪郭領域のスケーリング比率を調整する。
このように、顔輪郭画像分割部6hにより顔輪郭画像P2を左右に分割した分割顔輪郭領域の左右どちらか一方の分割顔輪郭領域を拡大して他方の分割顔輪郭領域を縮小することにより、略真正面から視た状態の顔の上下方向に延在する軸を中心として回動させたように、顔輪郭画像P2を変形させることができる。
最後に、図4のフローチャートに戻って、似顔絵画像生成部6jは、髪型画像P1、顔輪郭画像P2及び、顔構成部画像P5の例えば、目、鼻、口、眉等の各顔構成部のパーツ画像Mを重畳させる位置を特定し、当該位置に各顔構成部のパーツ画像Mを重畳させて、元画像P3を似顔絵で表した似顔絵画像P6の画像データを生成する。
そして、画像記録部5は、似顔絵画像生成部6jにより生成された似顔絵画像P6の画像データ(YUVデータ)を取得して記録する(ステップS9;図10参照)。
これにより、似顔絵画像生成処理を終了する。
例えば、図(a)に示す似顔絵画像生成部6jにより生成された似顔絵画像P6では、顔輪郭画像P2の顎の先端PS4が、顔微細部画像P4において特定された顎の先端PS2と(図6(b)参照)、一致しているので、より自然な似顔絵となっている。
一方、図(b)は、顔輪郭画像変形部6iにより顔輪郭画像P2の変形を行わなかった場合の似顔絵画像であり、顎幅の中央部分である顔輪郭画像P2の顎の先端PS5が、顔微細部画像P4において特定された顎の先端PS2と(図6(b)参照)、一致していないので、顔の輪郭と配置された目、鼻、口、眉等の各顔構成部のパーツ画像とのバランスが不自然になっている。
以上のように、本実施形態の撮像装置100によれば、似顔絵画像の生成元となる画像内の向きを考慮して顔構成画像や顔輪郭画像を変形させることができるので、より自然な似顔絵を生成することが可能になる。
また、顔微細部画像P4において特定された顎の先端PS2と、顔輪郭画像P2の顎の先端PS3とが一致するように顔輪郭画像P2を左右に分割した分割顔輪郭領域の左右どちらか一方の分割顔輪郭領域を拡大して他方の分割顔輪郭領域を縮小することにより、略真正面から視た状態の顔の上下方向に延在する軸を中心として回動するように、顔輪郭画像P2を変形させることができる。
また、AAMを用いた処理により得られた顔微細部画像P4において、顎輪郭W2が収まる矩形領域F2を算出する際に、両目の位置が水平になるように回転補正することにより、略真正面から視た状態の顔の前後方向に延在する軸を中心として回動するように、生成される似顔絵画像P6を変形させることができる。
また、顔微細部画像P4における顎輪郭が収まる矩形領域と、顔輪郭画像P2における顎輪郭が収まる矩形領域とが一致するように顔輪郭画像P2全体を拡大、若しくは、縮小する、或いは、顔輪郭画像P2の横幅を一定にして縦幅のみを拡大、若しくは、縮小することにより、略真正面から視た状態の顔の左右方向に延在する軸を中心として回動するように、顔輪郭画像P2を変形させることができる。
(変形例1)
実施形態1の変形例1について説明する。但し、実施形態1と同様の説明は省略する。
実施形態1では、幅WD6に示す分割顔輪郭領域を拡大して広くすることにより、顔輪郭のみならず顔輪郭画像P2を構成する耳もその幅が拡大されることになる。
また、逆に、幅WD5に示す分割顔輪郭領域を縮小して狭くすることにより、顔輪郭のみならず顔輪郭画像P2を構成する耳もその幅が縮小されることになる。但し、耳の幅が縮小される場合は、耳の幅が拡大される場合と比較して違和感は小さい。
このため、耳の幅の拡大の割合が大きい場合には、生成される似顔絵は不自然なものになってしまう。
従って、変形例1では、図9(a)に示すように、分割手段である顔輪郭画像分割部6hは、顔輪郭画像P2を左右に分割した分割顔輪郭領域R1及びR2の内、拡大される分割顔輪郭領域R2を更に分割して再分割領域R21及びR22とする。但し、元画像P3やその他の条件は第1実施形態と同じものとする。
そして、変形手段である顔輪郭画像変形部6iは、再分割領域R21及びR22を拡大して広くする際に、再分割領域R22の拡大する割合を、再分割領域21を拡大する割合よりも小さくする。
すなわち、耳が含まれる再分割領域R22を拡大する割合を、他の再分割領域R21と比べて小さくすることにより、耳の幅が拡大されて生成される似顔絵が不自然になることを防ぐことができる。
以上のように、変形例1では、変形手段である顔輪郭画像変形部6iが、分割顔輪郭領域を更に分割した再分割領域の間で横幅の拡大、若しくは、縮小する割合を変えることにより、特に、耳が含まれる再分割領域を拡大する割合を、他の再分割領域と比べて小さくすることにより、より自然な似顔絵を生成することが可能なる。
(変形例2)
実施形態1の変形例2について説明する。但し、実施形態1と同様の説明は省略する。
変形例2では、分割顔輪郭領域を更に再分割領域に分割することなく、分割顔輪郭領域内で幅の拡大、若しくは、縮小する割合を連続的に変化させても構わない。
例えば、図9(b)において拡大、若しくは、縮小する割合を示す曲線C1のように、図面左側では連続的に分割顔輪郭領域の幅を縮小し、図面右側では連続的に分割顔輪郭領域の幅を拡大すると共に、耳部分の領域R3及びR4では拡大、若しくは、縮小を行わないようにする。
このように分割顔輪郭領域内で幅の拡大、若しくは、縮小する割合を連続的に変化させることにより、耳の幅は一切変化することなく、略真正面から視た状態の顔の上下方向に延在する軸を中心として回動するように、顔輪郭画像P2を変形させることができる。
以上のように、変形例2では、変形手段である顔輪郭画像変形部6iが、分割顔輪郭領域内で幅の拡大、若しくは、縮小する割合を連続的に変化させることにより、より自然な似顔絵を生成することが可能なる。
(変形例3)
実施形態1の変形例3について説明する。但し、実施形態1と同様の説明は省略する。
変形例3では、髪型画像P1もまた元画像P3の顔の向きに対応して変形させても構わない。
例えば、変形手段である顔輪郭画像変形部6iが、髪型画像P1と顔輪郭画像P2とを合成した上で、或いは、顔輪郭画像P2とは別個に、先に述べた図4に示すステップS8(詳細は図5参照)に示すような手順で髪形画像P1の変形を行うことにより、画像P3の顔の向きに対応して髪型画像P1及び顔輪郭画像P2の変形した似顔絵を生成することができる。
すなわち、髪型画像P1を左右に分割した一方の分割髪型領域の横幅を拡大し他方の分割髪型領域の横幅を縮小することにより、髪型を含めて、略真正面から視た状態の顔の上下方向に延在する軸を中心として回動するように、顔輪郭画像P2を変形させることができる。
以上のように、変形例3では、変形手段である顔輪郭画像変形部6iが、髪型画像P1を左右に分割した一方の分割髪型領域の横幅を拡大し他方の分割髪型領域の横幅を縮小することにより、より自然な似顔絵を生成することが可能なる。
(変形例4)
実施形態1の変形例4について説明する。但し、実施形態1と同様の説明は省略する。
変形例4では、予め目、鼻、口、眉等の各顔構成部が含まれている顔輪郭画像P2を用いて、元画像P3の顔の向きに対応して変形させても構わない。
以上のように、変形例4では、変形手段である顔輪郭画像変形部6iが、予め目、鼻、口、眉等の各顔構成部が含まれている顔輪郭画像P2を用いて、元画像P3の顔の向きに対応して変形させることにより、顔構成部画像P5を生成することなく、より自然な似顔絵を生成することが可能なる。
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、上記実施形態にあっては、顔構成部画像P5の生成後に特徴情報(顔の輪郭W2の形状等)の抽出を行うようにしたが、これらの処理の順序は一例であってこれに限られるものではなく、順序を逆、即ち、特徴情報の抽出処理後に顔構成部画像P5の生成処理を行うようにしても良い。
また、顔検出部6bにより検出された顔領域F1から顔構成部画像P5を生成するようにしたが、顔検出処理を施す顔検出部6bを具備するか否かは適宜任意に変更可能である。
さらに、顔構成部画像P5の生成元となる画像は、正面顔を表した画像P3である必要はなく、例えば、斜めを向くように顔が傾いた画像の場合には、当該顔が正面を向くように変形させた画像を生成して、生成元として用いても良い。
また、髪型画像P1及び顔輪郭画像P2を記録する画像記録部5を備える構成としたが、これに限られず、例えば、当該装置本体と所定の通信ネットワークを介して接続可能な所定のサーバに髪型画像P1及び顔輪郭画像P2を記録しておく構成とし、図示しない通信処理部から通信ネットワークを介して所定のサーバにアクセスして、画像取得部6aは、当該サーバから髪型画像P1及び顔輪郭画像P2を取得する構成としても良い。
また、上記実施形態では、髪型画像P1及び顔輪郭画像P2に、目、鼻、口、眉等の各顔構成部のパーツ画像Mを重畳させて似顔絵画像P6を生成するようにしたが、一例であってこれに限られるものではない。
さらに、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。また、画像生成装置として、撮像装置100を例示したが、これに限られるものではなく、本発明に係る画像生成処理を実行可能なものであれば如何なる構成であっても良い。
また、第2取得手段である顔輪郭画像特定部6fは、特徴情報抽出部6dにより抽出された特徴情報に対応する髪型画像P1を特定しているが、特徴情報抽出部6dにより抽出された特徴情報を利用することなしに、顔輪郭画像特定部6fが髪型画像P1を特定するものであっても構わない。
また、実施形態1では、説明の簡単のために、髪型画像P1と顔輪郭画像P2とを別々に取り扱って説明しているが、髪形画像P1と顔輪郭画像P2が一体となった画像を、顔輪郭画像P2として取り扱っても構わない。
すなわち、髪の輪郭を表すと共に、顔の形状に対応した顔輪郭画像P2を用いることも可能である。
また、勿論、顔輪郭画像P2が、顔の輪郭のみであって、髪型の輪郭を含まないものでも構わない。
この場合には、生成手段である似顔絵画像生成部6jは、髪型画像特定部6eにより特定された髪型画像P1の画像データを用いることなく、顔構成部画像P5のパーツ画像M、及び、顔輪郭画像特定部6fにより特定され顔輪郭画像変形部6iにより変形された顔輪郭画像P2の画像データを用いて似顔絵画像P6を生成することが可能になる。
同様に、髪形画像P1と顔輪郭画像P2が一体となった画像を、顔輪郭画像P2として取り扱う場合、顔輪郭画像P2は髪の輪郭も同時に表すものとなり、変形手段である顔輪郭画像変形部6iによって、顔微細部画像P4において特定された顎の先端PS2と、顔輪郭画像P2の顎の先端PS3とが一致するように顔輪郭画像P2を左右に分割した分割顔輪郭領域の左右どちらか一方の分割顔輪郭領域を拡大して他方の分割顔輪郭領域を縮小することにより、略真正面から視た状態の顔の上下方向に延在する軸を中心として回動するように、髪型を変形させることができる。
また、変形手段である顔輪郭画像変形部6iによって、AAMを用いた処理により得られた顔微細部画像P4において、顎輪郭W2が収まる矩形領域F2を算出する際に、両目の位置が水平になるように回転補正することにより、略真正面から視た状態の顔の前後方向に延在する軸を中心として回動するように、髪型を変形させることができる。
さらに、変形手段である顔輪郭画像変形部6iによって、顔微細部画像P4における顎輪郭が収まる矩形領域と、顔輪郭画像P2における顎輪郭が収まる矩形領域とが一致するように顔輪郭画像P2全体を拡大、若しくは、縮小する、或いは、顔輪郭画像P2の横幅を一定にして縦幅のみを拡大、若しくは、縮小することにより、略真正面から視た状態の顔の左右方向に延在する軸を中心として回動するように、髪型を変形させることができる。
また、特定手段である顎輪郭特定部6gでは、AAMを用いた処理により得られた顔微細部画像P4の両目の中点を算出し、両目の中心を結んだ直線と直交し、且つ算出した中点を通る直線が顎輪郭と交わった点を、顔微細部画像P4における顎の先端として特定しているが、勿論、顔構成部画像P5に対して上述の処理を行うことにより、顔構成部画像P5における顎の先端として特定しても構わない。
また、変形手段である顔輪郭画像変形部6iでは、顔輪郭画像P2における顎輪郭が収まる矩形領域と、顔微細部画像P4における顎輪郭が収まる矩形領域とが一致するように顔輪郭画像P2全体を拡大、若しくは、縮小しているが、勿論、顔輪郭画像P2における顎輪郭が収まる矩形領域と、顔構成部画像P5における顎輪郭が収まる矩形領域とが一致するように顔輪郭画像P2全体を拡大、若しくは、縮小しても構わない。
また、変形手段である顔輪郭画像変形部6iでは、顎の先端を中心とする左右の比率が顔微細部画像P4と一致するように顔輪郭画像P2を変形しているが、勿論、顎の先端を中心とする左右の比率が顔構成部画像P5と一致するように顔輪郭画像P2を変形しても構わない。
また、顔輪郭画像特定部6fは、画像記録部5に記録されている所定数の顔の輪郭の形状を規定する楕円形と、特徴情報抽出部6dにより抽出された顔の輪郭W1の形状を規定する楕円形とを比較することにより、顔輪郭画像P2を特定しているが、顔輪郭画像特定部6fが、元画像P3の顔領域F1から特徴情報を抽出すると共に、顔輪郭画像P2を特定しても構わない。
また、変形手段である顔輪郭画像変形部6iでは、顔輪郭画像P2を変形しているが、勿論、顔構成部画像P5の方を変形しても構わない。例えば、顔構成部画像P5の左右の目の大きさを変形するものであっても構わない。
加えて、上記実施形態にあっては、第1取得手段、抽出手段、第2取得手段、変形手段、生成手段としての機能を、中央制御部10の制御下にて、画像取得部6a、構成部画像生成部6c、顔輪郭画像特定部6f、顔輪郭画像変形部6i、似顔絵画像生成部6jが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部10によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、第1取得処理ルーチン、抽出処理ルーチン、第2取得処理ルーチン、変形処理ルーチン、生成処理ルーチンを含むプログラムを記憶しておく。そして、第1取得処理ルーチンにより中央制御部10のCPUを、画像を取得する手段として機能させるようにしても良い。また、抽出処理ルーチンにより中央制御部10のCPUを、取得された画像内の顔の主要な構成部に係る顔構成部画像P5を生成する手段として機能させるようにしても良い。また、第2取得処理ルーチンにより中央制御部10のCPUを、画像記録部5に顔の特徴情報と対応付けて記録されている顔の輪郭を表した顔輪郭画像P2から、抽出された特徴情報に対応する顔輪郭画像P2を特定する手段として機能させるようにしても良い。また、変形処理ルーチンにより中央制御部10のCPUを、顔輪郭画像特定部6fで特定された顔輪郭画像P2の全体の拡大、若しく、縮小や、顔輪郭画像P2の左右の分割顔輪郭領域の左右どちらか一方の分割顔輪郭領域を拡大して他方の分割顔輪郭領域を縮小して、顔輪郭画像P2変形させる手段として機能させるようにしても良い。また、画像生成処理ルーチンにより中央制御部10のCPUを、特定された髪型画像P1及び変形された顔輪郭画像P2と、生成された顔構成部画像P5とを用いて似顔絵画像P6を生成する手段として機能させるようにしても良い。
同様に、上記実施形態にあっては、特定手段、分割手段としての機能を、中央制御部10の制御下にて、顎輪郭特定部6g、顔輪郭画像分割部6hが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部10によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、特定処理ルーチン、分割処理ルーチンを含むプログラムを記憶しておく。そして、特定処理ルーチンにより中央制御部10のCPUを、顔微細部画像P4で顎輪郭W2を特定すると共に、顎輪郭W2が収まる矩形領域F2を特定する手段として機能させるようにしても良い。また、分割処理ルーチンにより中央制御部10のCPUを、顔輪郭画像P2を顎の先端を中心として左右の分割顔輪郭領域に分割し、更に、これらの分割顔輪郭領域を左右に分割して複数の再分割領域を生成する手段として機能させるようにしても良い。
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM(Compact Disc Read Only Memory)、読み出し専用型DVD(Digital Versatile Disc)及び書き込み可能型DVD等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
画像を取得する第1取得手段と、
前記第1取得手段により取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する抽出手段と、
前記第1取得手段により取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する第2取得手段と、
前記第1取得手段により取得された画像内の顔の向きに基づいて、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方に対して所定方向の軸を中心として回動させたような変形を施す変形手段と、
前記変形手段により少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する生成手段と、
を備えたことを特徴とする画像生成装置。
<請求項2>
前記変形手段は、
顔を略真正面から視た状態で、当該顔の互いに直交する前後方向、左右方向及び上下方向の各方向に延在する3つの軸のうち、少なくとも何れか一の方向に延在する軸を中心として回動させたように、前記顔輪郭画像を変形させることを特徴とする請求項1に記載の画像生成装置。
<請求項3>
前記変形手段は、
前記顔構成部画像の顎の先端を中心とする左右比率を基準として、前記顔輪郭画像を上下方向に延在する軸を中心として回動させたように変形することを特徴とする請求項2に記載の画像生成装置。
<請求項4>
顎輪郭の特定手段を備え、
前記特定手段は、
前記顔構成部画像における顎輪郭を特定し、前記顔構成部画像における両目の中点を算出し、両目の中心を結んだ直線と直交し、且つ前記中点を通る直線と前記顎輪郭との交点を前記顔構成部画像の顎の先端として特定することを特徴とする請求項3に記載の画像生成装置。
<請求項5>
前記顔輪郭画像を顎の先端を中心として左右の分割顔輪郭領域に分割する分割手段を備え、
前記変形手段は、
一方の前記分割顔輪郭領域の横幅を拡大し他方の前記分割顔輪郭領域の横幅を縮小することを特徴とする請求項3〜4の何れか一項に記載の画像生成装置。
<請求項6>
前記分割手段は、
前記分割顔輪郭領域を左右に分割して複数の再分割領域を生成し、
前記変形手段は、
複数の前記再分割領域の間で横幅の拡大、若しくは、縮小する割合を変えることを特徴とする請求項5に記載の画像生成装置。
<請求項7>
前記変形手段は、
複数の前記再分割領域の内、耳が含まれる前記再分割領域の拡大、若しくは、縮小する割合を他の前記再分割領域の割合よりも小さくすることを特徴とする請求項6に記載の画像生成装置。
<請求項8>
画像生成装置を用いた画像生成方法であって、
画像を取得する処理と、
前記第1取得手段により取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する処理と、
前記第1取得手段により取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する処理と、
前記第1取得手段により取得された画像内の顔の向きに基づいて、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方に対して所定方向の軸を中心として回動させたような変形を施す処理と、
前記変形手段により少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する処理と、
を含むことを特徴とする画像生成方法。
<請求項9>
画像生成装置のコンピュータを、
画像を取得する第1取得手段、
前記第1取得手段により取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する抽出手段、
前記第1取得手段により取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する第2取得手段、
前記第1取得手段により取得された画像内の顔の向きに基づいて、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方に対して所定方向の軸を中心として回動させたような変形を施す変形手段、
前記変形手段により少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する生成手段、
として機能させることを特徴とするプログラム。
100 撮像装置
1 撮像部
5 画像記録部
6 画像処理部
6a 画像取得部
6b 顔検出部
6c 構成部画像生成部
6d 特徴情報抽出部
6e 髪型画像特定部
6f 顔輪郭画像特定部
6g 顎輪郭特定部
6h 顔輪郭画像分割部
6i 顔輪郭画像変形部
6j 似顔絵画像生成部
10 中央制御部

Claims (8)

  1. 画像を取得する第1取得手段と、
    前記第1取得手段により取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する抽出手段と、
    前記第1取得手段により取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する第2取得手段と、
    前記第1取得手段により取得された画像内の顔の向きに基づいて、顔を略真正面から視た状態で、当該顔の前後方向、左右方向及び上下方向の各方向に互いに直交して延在する3つの軸のうち、少なくとも何れか一の軸を中心として回動させたように、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方を変形する変形手段と、
    前記変形手段により少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する生成手段と、
    を備えたことを特徴とする画像生成装置。
  2. 前記変形手段は、
    前記顔構成部画像の顎の先端を中心とする左右比率を基準として、前記顔輪郭画像を上下方向に延在する軸を中心として回動させたように変形することを特徴とする請求項1に記載の画像生成装置。
  3. 顎輪郭の特定手段を備え、
    前記特定手段は、
    前記顔構成部画像における顎輪郭を特定し、前記顔構成部画像における両目の中点を算出し、両目の中心を結んだ直線と直交し、且つ前記中点を通る直線と前記顎輪郭との交点を前記顔構成部画像の顎の先端として特定することを特徴とする請求項2に記載の画像生成装置。
  4. 前記顔輪郭画像を顎の先端を中心として左右の分割顔輪郭領域に分割する分割手段を備え、
    前記変形手段は、
    一方の前記分割顔輪郭領域の横幅を拡大し他方の前記分割顔輪郭領域の横幅を縮小することを特徴とする請求項2又は3に記載の画像生成装置。
  5. 前記分割手段は、
    前記分割顔輪郭領域を左右に分割して複数の再分割領域を生成し、
    前記変形手段は、
    複数の前記再分割領域の間で横幅の拡大、若しくは、縮小する割合を変えることを特徴とする請求項4に記載の画像生成装置。
  6. 前記変形手段は、
    複数の前記再分割領域の内、耳が含まれる前記再分割領域の拡大、若しくは、縮小する割合を他の前記再分割領域の割合よりも小さくすることを特徴とする請求項5に記載の画像生成装置。
  7. 画像生成装置を用いた画像生成方法であって、
    画像を取得する処理と、
    前記取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する処理と、
    前記取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する処理と、
    前記取得された画像内の顔の向きに基づいて、顔を略真正面から視た状態で、当該顔の前後方向、左右方向及び上下方向の各方向に互いに直交して延在する3つの軸のうち、少なくとも何れか一の軸を中心として回動させたように、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方を変形する処理と、
    少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する処理と、
    を含むことを特徴とする画像生成方法。
  8. 画像生成装置のコンピュータを、
    画像を取得する第1取得手段、
    前記第1取得手段により取得された画像内の顔の主要な構成部に係る顔構成部画像を抽出する抽出手段、
    前記第1取得手段により取得された画像内の顔の特徴情報に対応する顔輪郭画像を取得する第2取得手段、
    前記第1取得手段により取得された画像内の顔の向きに基づいて、顔を略真正面から視た状態で、当該顔の前後方向、左右方向及び上下方向の各方向に互いに直交して延在する3つの軸のうち、少なくとも何れか一の軸を中心として回動させたように、前記顔構成部画像及び前記顔輪郭画像のうち、少なくとも一方を変形する変形手段、
    前記変形手段により少なくとも一方が変形された前記顔構成部画像及び前記顔輪郭画像を用いて似顔絵画像を生成する生成手段、
    として機能させることを特徴とするプログラム。
JP2012140288A 2012-06-22 2012-06-22 画像生成装置、画像生成方法及びプログラム Active JP5966657B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012140288A JP5966657B2 (ja) 2012-06-22 2012-06-22 画像生成装置、画像生成方法及びプログラム
CN201310247029.5A CN103516951B (zh) 2012-06-22 2013-06-20 图像生成装置以及图像生成方法
US13/923,253 US8971636B2 (en) 2012-06-22 2013-06-20 Image creating device, image creating method and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012140288A JP5966657B2 (ja) 2012-06-22 2012-06-22 画像生成装置、画像生成方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2014006604A JP2014006604A (ja) 2014-01-16
JP2014006604A5 JP2014006604A5 (ja) 2015-06-18
JP5966657B2 true JP5966657B2 (ja) 2016-08-10

Family

ID=49774523

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012140288A Active JP5966657B2 (ja) 2012-06-22 2012-06-22 画像生成装置、画像生成方法及びプログラム

Country Status (3)

Country Link
US (1) US8971636B2 (ja)
JP (1) JP5966657B2 (ja)
CN (1) CN103516951B (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6098133B2 (ja) * 2012-11-21 2017-03-22 カシオ計算機株式会社 顔構成部抽出装置、顔構成部抽出方法及びプログラム
JP7239148B2 (ja) * 2018-11-21 2023-03-14 国立大学法人 新潟大学 画像処理装置、パズル遊技システム、画像処理方法及びプログラム
CN109672830B (zh) * 2018-12-24 2020-09-04 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN109919016B (zh) * 2019-01-28 2020-11-03 武汉恩特拉信息技术有限公司 一种在无脸部器官的对象上生成人脸表情的方法及装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11203455A (ja) * 1998-01-09 1999-07-30 Omron Corp 画像生成装置、画像生成方法および記録媒体
JPH11306372A (ja) * 1998-04-17 1999-11-05 Sharp Corp 画像加工装置、画像加工方法およびその方法を記憶した記憶媒体
JP2001307123A (ja) * 2000-02-18 2001-11-02 Nippon Telegr & Teleph Corp <Ntt> 表情変形のある似顔絵作成方法及び装置、似顔絵作成システム、似顔絵作成システム用送信機及び受信機、並びに、似顔絵作成プログラム及び似顔絵作成プログラムを記録した記録媒体
JP2004145625A (ja) 2002-10-24 2004-05-20 Mitsubishi Electric Corp 似顔絵の作成装置
JP2007213378A (ja) * 2006-02-10 2007-08-23 Fujifilm Corp 特定表情顔検出方法、撮像制御方法および装置並びにプログラム
JP4986279B2 (ja) 2006-09-08 2012-07-25 任天堂株式会社 ゲームプログラムおよびゲーム装置
CN101383001B (zh) * 2008-10-17 2010-06-02 中山大学 一种快速准确的正面人脸判别方法
CN101452582B (zh) * 2008-12-18 2013-09-18 北京中星微电子有限公司 一种实现三维视频特效的方法和装置
JP2011090466A (ja) * 2009-10-21 2011-05-06 Sony Corp 情報処理装置及び方法、並びにプログラム
JP4844670B2 (ja) * 2009-11-13 2011-12-28 日本ビクター株式会社 映像処理装置および映像処理方法
CN101739719B (zh) * 2009-12-24 2012-05-30 四川大学 二维正面人脸图像的三维网格化方法

Also Published As

Publication number Publication date
CN103516951B (zh) 2016-05-25
CN103516951A (zh) 2014-01-15
JP2014006604A (ja) 2014-01-16
US20130343656A1 (en) 2013-12-26
US8971636B2 (en) 2015-03-03

Similar Documents

Publication Publication Date Title
JP5949331B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP5880182B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP5949030B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP6111723B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP2009237619A (ja) 画像における顔領域および器官領域の検出
JP5966657B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP6311372B2 (ja) 画像処理装置および画像処理方法
JP6098133B2 (ja) 顔構成部抽出装置、顔構成部抽出方法及びプログラム
JP7110899B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2015184701A (ja) 画像処理装置、画像処理方法及びプログラム
KR100422470B1 (ko) 3차원 동화상 모델 얼굴 대체 방법 및 장치
JP2014174855A (ja) 画像処理装置、画像処理方法及びプログラム
JP6354118B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6260094B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN111083345A (zh) 独照生成装置和方法及其非易失性计算机可读媒体
JP5927972B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP6668646B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014048767A (ja) 画像生成装置、画像生成方法及びプログラム
JP6142604B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2015139065A (ja) 画像再生制御装置及び画像再生制御方法
JP2022137198A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP6326808B2 (ja) 顔画像処理装置、投影システム、画像処理方法及びプログラム
JP2014186404A (ja) 画像処理装置、画像処理方法及びプログラム
JP2014016761A (ja) 画像処理装置、画像処理方法、画像生成方法及びプログラム
JP2014182722A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150428

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150428

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160308

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160620

R150 Certificate of patent or registration of utility model

Ref document number: 5966657

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150