JP5239396B2 - 画像出力方法、画像出力装置および画像出力プログラム - Google Patents

画像出力方法、画像出力装置および画像出力プログラム Download PDF

Info

Publication number
JP5239396B2
JP5239396B2 JP2008047474A JP2008047474A JP5239396B2 JP 5239396 B2 JP5239396 B2 JP 5239396B2 JP 2008047474 A JP2008047474 A JP 2008047474A JP 2008047474 A JP2008047474 A JP 2008047474A JP 5239396 B2 JP5239396 B2 JP 5239396B2
Authority
JP
Japan
Prior art keywords
image data
face
image
rotation angle
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008047474A
Other languages
English (en)
Other versions
JP2009205467A (ja
Inventor
敬重 田中
健治 松坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2008047474A priority Critical patent/JP5239396B2/ja
Priority to US12/380,646 priority patent/US8170299B2/en
Publication of JP2009205467A publication Critical patent/JP2009205467A/ja
Application granted granted Critical
Publication of JP5239396B2 publication Critical patent/JP5239396B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/243Aligning, centring, orientation detection or correction of the image by compensating for image skew or non-uniform image deformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3247Data linking a set of images to one another, e.g. sequence, burst or continuous capture mode

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Geometry (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像出力方法、画像出力装置および画像出力プログラムに関し、特に人物画像を含む画像データを出力する画像出力方法、画像出力装置および画像出力プログラムに関する。
デジタルスチルカメラの急速な普及にともなって、ユーザーが多数の画像データを所有することとなっている。そのため、多数の画像データをいかに管理するかが大きな課題となっている。さらに、デジタルスチルカメラに連写機能が備えられるようになり、異なる画像データであっても非常に類似した画像を示すものがストレージに多数記憶されることとなっている。このように類似した画像を示す画像データが多数存在する場合でも、ほとんどの場合はいずれか一つを印刷すれば十分であり、ユーザーが複数のなかからいずれか1つを選択することとなる。このような状況において、正面に対する顔向き角度に基づいて最適な画像データを選択するものが提案されている(特許文献1、参照。)。かかる文献では、正面に対する顔向き角度が小さい画像データを選択することにより、撮影者の希望に合った画像データの撮影を可能としている。
特開2004−361989号公報
しかしながら、デジタルスチルカメラが水平に構えられていない場合等には、顔自体は正面を向いているものの、画像の枠に対して顔が回転することとなる。このような場合、上述した文献に開示された手法を適用しても、画像に対して回転した顔を含む画像データも撮影者の希望に合った画像データであるとして選択されることとなってしまう。すなわち、顔の中央軸が画像の枠に対して平行または垂直であることが望ましく、このような希望に添うような選択を行うことができないという問題があった。
本発明は、前記課題にかんがみてなされたもので、顔の角度も良好な顔画像を有する画像データを選択する画像出力方法、画像出力装置および画像出力プログラムを提供する。
前記課題を解決するために、複数の画像データから所定の画像データを出力するにあたり、まず複数の画像データから互いに類似するものからなる群を取得する。次に、同一の前記群に属する各画像データが示す画像に含まれる顔の画像平面に対する顔向き角度を検出するとともに、顔の画像平面における回転角度を示す顔回転角度も検出する。そして、同一の前記群に属する画像データのうち前記顔向き角度と前記顔回転角度が画像データよりも小さいものを出力する。このようにすることにより、顔が正面を向いているだけでなく、画像平面内における顔回転角度が小さいものを出力することができる。
また、顔が正面を向いており回転していない場合であっても、あまりにも小さい場合には人物画としては不適切である。そのため、同一の前記群に属する画像データのうち前記顔向き角度と前記顔回転角度が他の画像データよりも小さく、かつ、当該顔が他の画像データよりも大きいものを出力するようにしてもよい。このようにすることにより、より適切な画像データを出力することができる。
さらに、前記顔向き角度と前記顔回転角度を検出する手法の一例として、まず同一の前記群に属する各画像データが示す画像に含まれる顔の両目および口を検出し、当該両目および口の位置関係に基づいて前記顔向き角度と前記顔回転角度を検出するようにしてもよい。さらに、大量の画像データ群から所定の画像データを出力する場合、効率的かつ負荷の少ない処理が要求されることとなる。そのため、各画像データが示す画像に含まれる顔の前記顔向き角度と前記顔回転角度を検出するのに、各画像データに添付されたサムネイル画像を使用するようにしてもよい。前記サムネイルは、画像サイズが小さいため、効率的かつ負荷の少ない処理で済ませることができる。
さらに、本発明の技術的思想は、具体的な画像出力方法にて具現化されるのみならず、当該方法を画像出力装置において具現化することもできる。すなわち、上述した画像出力方法が行う各工程に対応する手段を有する画像出力装置としても本発明を特定することができる。むろん、上述した画像出力装置がプログラムを読み込んで上述した各手段を実現する場合には、当該各手段に対応する機能を実行させるプログラムや当該プログラムを記録した各種記録媒体においても本発明の技術的思想が具現化できることは言うまでもない。なお、本発明の画像出力装置は、単一の装置のみならず、複数の装置によって分散して存在可能であることはいうまでもない。例えば、画像出力装置が有する各手段が、パーソナルコンピュータ上で実行されるプリンタドライバと、プリンタの双方において分散することも可能である。また、プリンタ等の印刷装置に本発明の画像出力装置の各手段を包含させることも可能である。
以下、下記の順序に従って本発明の実施形態を説明する。
1.画像選択装置の構成:
2.画像選択処理の流れ:
3.変形例:
1.画像選択装置の構成
図1は、本発明の一実施形態にかかる画像出力装置としての画像選択装置を具体的に実現するコンピュータの構成を示している。同図において、コンピュータ10はCPU11とRAM12とROM13とハードディスクドライブ(HDD)14と汎用インターフェイス(GIF)15とビデオインターフェイス(VIF)16と入力インターフェイス(IIF)17とバス18とから構成されている。バス18は、コンピュータ10を構成する各要素11〜17の間でのデータ通信を実現するものであり、図示しないチップセット等によって通信が制御されている。HDD14には、オペレーティングシステム(OS)を含む各種プログラムを実行するためのプログラムデータ14aが記憶されており、当該プログラムデータ14aをRAM12に展開しながらCPU11が当該プログラムデータ14aに準じた演算を実行する。
また、HDD14には、デジタルスチルカメラやスキャナによって画像入力された画像データIDと、後述するパターンマッチングにおいて使用する多数の顔輪郭テンプレート14bと目テンプレート14cと口テンプレート14dが記憶されている。さらに、HDD14には、後述する画像選択処理によって生成される画像データベース14eが記憶されている。GIF15は、例えばUSB規格に準じたインターフェイスを提供するものであり、外部のプリンタ20やデジタルスチルカメラ30をコンピュータ10に接続させている。なお、デジタルスチルカメラ30の図示しないフラッシュメモリにも複数の画像データIDが記憶されている。VIF16はコンピュータ10を外部のディスプレイ40に接続し、ディスプレイ40に画像を表示するためのインターフェイスを提供する。IIF17はコンピュータ10を外部のキーボード50aとマウス50bに接続し、キーボード50aとマウス50bからの入力信号をコンピュータ10が取得するためのインターフェイスを提供する。
図2は、コンピュータ10において実行されるプログラムのソフトウェア構成を示している。同図において、オペレーティングシステム(OS)P1と画像選択アプリケーションP2とプリンタドライバP3が実行されている。OS P1は各プログラム間のインターフェイスを提供し、プリンタドライバP3はプリンタ20を制御するための処理を実行する。画像選択アプリケーションP2は、グループ取得部P2aと顔器官検出部P2bと仮選択部P2cと角度検出部P2dと評価値算出部P2eと画像選択部P2fと印刷出力部P2gとから構成されている。また、角度検出部P2dは、顔向き角算出部P2d1と顔回転角算出部P2d2とから構成されている。画像選択アプリケーションP2を構成する各モジュールP2a〜P2gが実行する処理の詳細については後述する画像選択処理の流れとともに説明する。
2.画像選択処理の流れ
図3は、画像選択処理の流れを示している。ステップS100においては、グループ取得部P2aが所定のUI画面をディスプレイ40に表示させ、画像選択の対象範囲を指定するための操作をキーボード50aとマウス50bを介して受け付ける。例えば、HDD14やデジタルスチルカメラ30のディレクトリ構造を表示させ、画像選択の対象とする複数の画像データIDからなる画像データ群を選択させるようにしてもよいし、撮影日時や更新日時等の画像データIDの付属情報に基づいて画像選択の対象とする画像データIDを検索するようにしてもよい。
ステップS110においては、ステップS100にて選択された複数の画像データIDをグループ取得部P2aが取得し、各画像データIDの類否判定を行うことにより、類似している画像データID同士で構成されるグループ(本発明の群に相当。)を取得する。ここでは、グループ取得部P2aが画像データIDの撮影時刻と画像データIDが示す画像の色情報に基づいて画像データIDの類否判定を行う。なお、本実施形態の画像データIDは、Exifフォーマットであり、予め画像データIDが示す画像を縮小したサムネイル画像が埋め込まれている。また、画像データIDの撮影時刻等の付属情報も画像データIDのタグ情報として添付されている。なお、画像データIDやサムネイル画像は、例えばJPEG方式によって圧縮されていてもよく、使用する際に適宜図示しないデコーダがビットマップデータに展開するものとする。
図4は、類否判定の様子を模式的に示している。同図上段において、各画像データIDの組における撮影時刻の差(横軸)に基づいて画像データIDの類似判定が行われている様子を示している。連写機能で撮影した場合や、同じ構図で複数枚撮り直し場合、画像データIDが示す画像が類似するとともに、その撮影時刻も近いものとなる。従って、本実施形態では、撮影時刻の差が閾値(2分)以内か否かで類似性を判断し、閾値以内の差で撮影された一連の画像データIDについてはグループの候補としている。例えば、多数のサンプルの画像データIDの類似性を人間が実際に判断し、そのうち類似するもの同士の撮影時刻の差を統計することにより、閾値を設定することができる。ただし、撮影時刻が近くても類似しない可能性もあるため、次に色情報に基づく画像データIDの類否判定を行う。
図4下段においては、画像データIDが示す画像の色情報に基づいて画像データIDの類否判定を行う際に使用されるヒストグラムを示している。当該ヒストグラムにおいては、撮影時刻に基づいて同一グループに属する候補であると判定された2枚の画像データIDのサムネイル画像の色情報(例えばYCbCr表色系のY階調)ごとの度数をそれぞれ示している。互いに画像データIDが示す画像が類似していれば、このヒストグラムの形状も類似していると推定することができる。そこで、2枚の画像データIDのサムネイル画像の度数の差の累積値(ハッチングの面積相当値)を算出し、この累積値が所定の閾値を超えていない場合には当該2枚の画像データIDが類似していると判定する。一方、前記累積値が所定の閾値を超えている場合には当該2枚の画像データIDが類似していないと判定する。すなわち、撮影時刻に基づいて形成されたグループが、色情報に基づく類否判定によって細分化されることとなる。以上のように類似する画像データIDのグループ化が完了すると、ステップS120にてグループ化の結果を画像データベース14eに記憶させる。
図5は、画像データベース14eを示している。同図において、各画像データIDについて属するグループが記憶されている。ステップS130においては、UI画面をディスプレイ40に表示させ、どのグループについて好ましい画像データIDの選択処理を実行させるかの指定を受け付ける。なお、グループG1に属するすべての画像データIDが家の前で複数の人物を撮影したものであり、互いに類似していると判定されている。このような写真は、時間をあけずに撮影されるのが通常であり、また構図も大きく変わらないため、色情報も似たようなものとなる。ステップS110では複数のグループのうち1つが選択できるようなUI画面を生成し、ディスプレイ40に表示させる。このとき、各グループの任意の画像データIDのサムネイルを表示させることにより、どのような画像データIDが各グループに含まれるかを確認できるようにするのが望ましい。
ここでは、上述したグループG1が選択されたものとして以下説明する。ステップS140においては、選択されたグループG1に属する複数の画像データIDのなかから2つの画像データIDを仮選択部P2cが仮選択する。ここでは、ランダムに仮選択してもよいし、撮影時刻の順で仮選択してもよい。ステップS150においては、顔器官検出部P2bが当該仮選択した2つの画像データIDに添付されているサムネイル画像から顔器官を検出する。本実施形態では、顔輪郭テンプレート14bと目テンプレート14cと口テンプレート14dを使用して、顔輪郭と両目と口を検出する。ここでは、多数の顔輪郭テンプレート14bと目テンプレート14cと口テンプレート14dを使用して、公知のパターンマッチング法を行うことによって画像データIDから顔を検出する。
具体的には、多数の顔輪郭テンプレート14bと目テンプレート14cと口テンプレート14dを画像データIDに対応するサムネイル画像に形成された矩形状の比較領域の画像と比較し、顔テンプレート14bとの類似性が高くなる比較領域に各顔器官があると判定する。この比較領域の位置や大きさや角度をシフトさせることにより、画像データIDの各部に含まれる顔を順次検出することができる。また、顔輪郭テンプレート14bと目テンプレート14cと口テンプレート14dとの類似性が高くなる比較領域の大きさから各顔器官の大きさも検出することができる。顔輪郭テンプレート14bと目テンプレート14cと口テンプレート14dは矩形状の画像データであり、各顔器官を含む矩形の位置と大きさと角度がそれぞれ検出される。
図6は、顔器官検出の結果の一例を示している。同図において、画像データIDに対応するサムネイル画像に存在する複数の顔に対応して顔輪郭を含む矩形領域A1が特定されている。この矩形領域A1の大きさによって顔の大きさと位置を判断することができる。さらに、左右の目を含む矩形領域A2と、口を含む矩形領域A3がそれぞれ検出されている。ステップS160においては、仮選択した2つの画像データIDに対応するサムネイル画像の双方から顔が検出されたか否かを判定する。顔が検出されたか否かは、顔輪郭を含む矩形領域A1が少なくとも1つ検出されたかどうかによって判断することができる。また、顔輪郭の矩形領域A1だけでなく、1つの矩形領域A1の付近において目の矩形領域A2が2つと口の矩形領域A3の1つが顔器官として適切な配置で検出されたことをもって1つの顔が検出されたと判断してもよい。
ここで、一方の画像データIDのみから顔が検出された場合には、ステップS170において、顔が検出されなかった方の画像データIDの仮選択を仮選択部P2cが解除する。また、画像データIDの双方ともから顔が検出されなかった場合には、ステップS170において、無作為に一方の画像データIDの仮選択を仮選択部P2cが解除する。なお、すべての各画像データIDが家の前で複数の人物を撮影したグループG1が選択されているため、ここでは双方の画像データIDに対応するサムネイル画像から複数の顔が検出されたと判定されることとなる。双方の画像データIDに対応するサムネイル画像から顔が検出された場合、ステップS180において仮選択部P2cが2つの画像データIDに対応するサムネイル画像から検出された顔のうちそれぞれの画像データIDにおいて最も小さい顔を前記顔器官検出の結果から特定する。
サムネイル画像から検出された矩形領域A1のうち最も小さいものに基づいて、画像データIDに対応するサムネイル画像において最も小さい顔の大きさを特定することができる。そして、それぞれのサムネイル画像において最小の顔の大きさ(最小の矩形領域A1の大きさ)の差を算出し、この大きさの差が所定の閾値を超えているか否かを判定する。例えば、2つの画像データIDから検出された顔輪郭の矩形領域A1の幅の差が、画像データIDの全幅の10%程度を越えているようであれば、顔の大きさの差が所定の閾値を超えていると判定してもよい。
ここで、顔の大きさの差が所定の閾値を超えていると判定された場合には、ステップS190にて最小の顔が小さい方を好ましくない画像データIDとして仮選択部P2cが仮選択を解除する。このようにすることにより、もう一方の画像データIDよりも、最小の顔があからさまに小さい画像データIDを選択の対象から除外することができる。一方、最小の顔の大きさの差が所定の閾値を超えていないと判定された場合には、ステップS200にて、角度検出部P2dが2つの画像データIDに対応するサムネイル画像に含まれる各顔について顔向き角と顔回転角を算出し、さらに評価値算出部P2eが顔向き角と顔回転角に基づいて顔評価値を算出する。
図7は、角度検出部P2dが顔の顔向き角と顔回転角を算出する様子を示している。1つの顔輪郭の矩形領域A1の付近に存在する2つの目の矩形領域A2と1つの口の矩形領域A3の重心同士を結んだ三角形Tの形状を解析することによって、顔向き角と顔回転角を算出する。顔回転角算出部P2d2は、2つの目の矩形領域A2の重心を結んだ線分Mに直交し、かつ、口の矩形領域A3の重心を通過する直線を顔の中央軸Lとする。そして、この中央軸L1の画像データIDに対応するサムネイル画像の左右辺の方向(基準方向)に対する傾斜角度を顔回転角αとして算出する。これにより、顔の中央軸Lが画像平面内において基準方向に対してどの程度傾斜しているかを顔回転角αとして算出することができる。なお、45度よりも大きい顔回転角αが算出された場合には、(90−α)を顔回転角αとする。これにより画像データIDの撮影方向がポートレートであっても、ランドスケープであっても適切に顔回転角αを評価することができる。
一方、顔向き角算出部P2d1は、上述した中央軸Lによって目の矩形領域A2の重心を結んだ線分Mを分断した線分m1,m2の長さl1,l2を算出する。そして、長さl1,l2の差Δlを線分Mの全長さlで除算することにより、長さ比Rを算出する。ここで、差Δlが0(R=0)であるとき、顔が画像平面に対して垂直な方向に向いていると考えることができ、画像平面の垂線に対して0度の顔向き角βを有している(傾いていない)と考えることができる。一方、差Δlが線分Mの全長さlと等しい(R=1)とき、画像平面の垂線に対して約±45度の顔向き角βを有していると考えることができる。長さ比R=0〜1に対応する顔向き角βを線形的に推定すると、任意の長さ比Rに対応する顔向き角βは(R×45)度で算出することができる。
以上のようにして、顔回転角αと顔向き角βが算出できると、評価値算出部P2eが下記の(1)式によって、顔角度評価値Eを算出する。
E=w1×α+w2×β ・・・(1)
上記の(1)式において、w1,w2は顔回転角αと顔向き角βのどちらを重視するかを設定する重み係数であり、例えば顔回転角αを重視する場合には係数w1を係数w2よりも大きくする。本実施形態では、w1=w2=0.5とされており、顔回転角αと顔向き角βを同程度重視するものとする。顔角度評価値Eが大きければ顔回転角αと顔向き角βが総合的に大きいと判断することができ、顔角度評価値Eが小さければ顔回転角αと顔向き角βが総合的に大きいと判断することができる。ステップS200においては、2つの画像データIDに対応するサムネイル画像から検出されたすべての顔について顔角度評価値Eを算出する。
ステップS210においては、算出した顔角度評価値Eのうち最大となるものを2つの画像データIDのそれぞれについて検出する。すなわち、2つの画像データIDのそれぞれにおいて顔回転角αと顔向き角βが総合的に最も大きい顔についての顔角度評価値Eを検出する。ステップS220においては、ステップS210にて検出した2つの画像データIDについての最大の顔角度評価値Eを比較する。そして、仮選択部P2cは、顔角度評価値Eが大きい方の画像データIDの仮選択を解除する。
以上の処理によって、2つの画像データIDから好ましい方の仮選択を維持し、好ましくない方の仮選択を解除することができる。従って、ステップS220の段階では、1つの画像データIDが仮選択されていることとなる。ステップS230においては、グループG1に属するすべての画像データIDをステップS140,S240にて一旦は仮選択したかどうかを判定する。ここで、すべての画像データIDをステップS140,S240にて仮選択していなかった場合には、ステップS240において、まだ仮選択していないグループG1の画像データIDの1つを仮選択し、ステップS150以降の処理を繰り返して実行する。
繰り返して実行されるステップS150以降の処理においては、前回の処理によって仮選択が維持された画像データIDと、ステップS240にて新たに仮選択した画像データIDとの比較が行われ、良好な方の仮選択が維持されることとなる。このようなループ処理を行うことにより、最終的にはグループG1において顔角度評価値Eが小さい画像データIDの仮選択を維持することができる。そして、ステップS230において、グループG1に属するすべての画像データIDをステップS140,S240に仮選択したと判定した場合には、ステップS250にて画像選択部P2fが現在において仮選択が維持されている画像データIDを最も好ましい画像データIDであるとして選択する。
このようにすることにより、グループG1において最も顔回転角αと顔向き角βが小さい画像データIDを最終的に選択することができ、例えば選択された画像データIDを印刷出力部P2gによってプリンタドライバP3に出力し、プリンタ20にて印刷させることができる。なお、同一の画像データIDについてステップS150以降の処理が複数回行われることとなるため、前回算出した当該画像データIDについての最小の顔の大きさや最大の顔角度評価値EをRAM12やHDD14に記憶しておき、再度必要となったときに読み出して使用するのが望ましい。
図8は、グループG1に属する画像データIDの例を示している。同図において、3つの画像データID1,ID2,ID3が示されている。画像データID1,ID2,ID3は、すべて家の前で複数の人物を撮影して得られたものであるが、各人物が移動することによって、複数の顔の位置や大きさや角度が異なったものとなっている。本実施形態においては、これらの複数の顔のうち最も大きさが小さいものに注目し、最も小さいものが比較対象のものよりも所定の閾値以上小さい場合には、仮選択から解除するようにしている(ステップS190)。ここで、画像データID1,ID2が仮選択されている場合を考える。なお、画像データID1における最小の顔に対応する矩形領域A1よりも、画像データID2における最小の顔に対応する矩形領域A1の方が小さく、その差が所定の閾値(サムネイル画像の全幅の10%)よりも大きいものとする。この場合には、ステップS190にて、画像データID2の仮選択が解除されることとなる。画像データID2のように極端に小さい顔を含む画像は集合写真として不適切であり、このような画像データID2が選択されることを回避することができる。
次に画像データID1,ID3が仮選択されている場合を考える。画像データID1,ID3が示す画像(サムネイル画像)に含まれる複数の顔の大きさは、同程度となっている。この場合、ステップS190にて画像データID1,ID3の一方の仮選択が解除されることなく、ステップS220にてそれぞれの最大の顔角度評価値Eを比較することとなる。すなわち、画像データID1,ID3が示す画像(サムネイル画像)に含まれる複数の顔のうちそれぞれにおいて最も顔回転角αと顔向き角βが総合的に大きいもの同士を比較し、顔回転角αと顔向き角βの程度が大きい方の画像データID1,ID3の仮選択が解除されることとなる。画像データID1,ID3においては、顔角度評価値Eが最大となる顔の顔向き角βは同等であるが、画像データID3において顔角度評価値Eが最大となる顔の顔回転角αが大きくなっており、画像データID3の仮選択が解除されることとなる。このように、顔向き角βだけでなく顔回転角αも合わせて総合的に判断することにより、被写体の顔に対してデジタルスチルカメラが適切な角度で構えられていたか否かも判断することができる。
3.変形例
上述した実施形態においては、係数w1=w2=0.5としたが、画像選択の対象とするグループの構図やユーザーの好みに応じて係数w1,w2を調整するようにしてもよい。例えば、検出された顔の個数に応じて係数w1,w2を調整するようにしてもよいし、どちらをどの程度重視するかをユーザーが指定できるようにしてもよい。また、同一のグループG1に属する2個の画像データIDを順次比較するようにしたが、すべての画像データIDについて顔角度評価値Eを一括して算出し、顔角度評価値Eが最も良好(小さい)なものを検索するようにしてもよい。さらに、画像データIDが示す画像の顔のうち顔角度評価値Eが最も大きいものに基づいて判定を行うようにしたが、複数の顔についての顔角度評価値Eの平均値に基づいて判定を行うようにしてもよい。
画像出力装置のハードウェア構成を示すブロック図である。 画像出力装置のソフトウェア構成を示すブロック図である。 画像選択処理の流れを示すフローチャートである。 類否判定の様子を示す模式図である。 画像データベースを示す図である。 顔器官検出の結果の一例を示す図である。 顔向き角と顔回転角を算出する様子を示す図である。 画像データの例を示す図である。
符号の説明
10…コンピュータ、11…CPU、12…RAM、13…ROM、14…HDD、14a…プログラムデータ、14b…顔輪郭テンプレート、14c…目テンプレート、14d…口テンプレート、14e…画像データベース、15…GIF、16…VIF、17…IIF、18…バス、20…プリンタ、40…ディスプレイ、50a…キーボード、50b…マウス、P1…OS、P2…画像選択アプリケーション、P2a…グループ取得部、P2b…顔器官検出部、P2d…角度検出部、P2d1…顔向き角算出部、P2d2…顔回転角算出部、P2e…評価値算出部、P2f…画像選択部、P2g…印刷出力部、P3…プリンタドライバ、ID…画像データ。

Claims (5)

  1. 複数の画像データから所定の画像データを出力する画像出力方法であって、
    前記画像データの生成時刻と、前記画像データの色情報に基づいて、互いに類似する複数の画像データからなる群を取得し、
    同一の前記群に属する各画像データが示す画像に含まれる顔の内、最も小さい顔をそれぞれ比較画像として検出し、
    同一の前記群に属する各画像データが示す画像に含まれる顔の画像平面に対する顔向き角度と、顔の画像平面における回転角度を示す顔回転角度を検出し、
    前記比較画像の大きさが所定の大きさ以下となる同一の前記群に属する画像データを出力対象から除外し、
    前記出力対象から除外されなかった同一の前記群に属する画像データの前記顔向き角度と前記顔回転角度を順次比較し、前記顔向き角度と前記顔回転角度が他の画像データよりも小さい画像データを出力することを特徴とする画像出力方法。
  2. 同一の前記群に属する各画像データが示す画像に含まれる顔の両目および口を検出し、これらの位置関係に基づいて前記顔向き角度と前記顔回転角度を検出することを特徴とする請求項1に記載の画像出力方法。
  3. 各画像データに添付されたサムネイル画像に基づいて前記顔向き角度と前記顔回転角度を検出することを特徴とする請求項1又は請求項2のいずれかに記載の画像出力方法。
  4. 複数の画像データから所定の画像データを出力する画像出力装置であって、
    前記画像データの生成時刻と、前記画像データの色情報に基づいて、互いに類似する複数の画像データからなる群を取得する群取得手段と、
    同一の前記群に属する各画像データが示す画像に含まれる顔の内、最も小さい顔をそれぞれ比較画像として検出する第1の検出手段と、
    同一の前記群に属する各画像データが示す画像に含まれる顔の画像平面に対する顔向き角度と、顔の画像平面における回転角度を示す顔回転角度を検出する第2の検出手段と、
    前記比較画像の大きさが所定の大きさ以下となる同一の前記群に属する画像データを出力対象から除外し、前記出力対象から除外されなかった同一の前記群に属する画像データの前記顔向き角度と前記顔回転角度を順次比較し、前記顔向き角度と前記顔回転角度が他の画像データよりも小さい画像データを出力する選択手段とを具備することを特徴とする画像出力装置。
  5. 複数の画像データから所定の画像データを出力する機能をコンピュータに実行させるためのコンピュータ読み取り可能な画像出力プログラムであって、
    前記画像データの生成時刻と、前記画像データの色情報に基づいて、互いに類似する複数の画像データからなる群を取得する群取得機能と、
    同一の前記群に属する各画像データが示す画像に含まれる顔の内、最も小さい顔をそれぞれ比較画像として検出する第1の検出機能と、
    同一の前記群に属する各画像データが示す画像に含まれる顔の画像平面に対する顔向き角度と、顔の画像平面における回転角度を示す顔回転角度を検出する第2の検出機能と、
    前記比較画像の大きさが所定の大きさ以下となる同一の前記群に属する画像データを出力対象から除外し、前記出力対象から除外されなかった同一の前記群に属する画像データの前記顔向き角度と前記顔回転角度を順次比較し、前記顔向き角度と前記顔回転角度が他の画像データよりも小さい画像データを出力する選択機能とをコンピュータに実行させることを特徴とするコンピュータ読み取り可能な画像出力プログラム。
JP2008047474A 2008-02-28 2008-02-28 画像出力方法、画像出力装置および画像出力プログラム Active JP5239396B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008047474A JP5239396B2 (ja) 2008-02-28 2008-02-28 画像出力方法、画像出力装置および画像出力プログラム
US12/380,646 US8170299B2 (en) 2008-02-28 2009-03-02 Image output method, image output device, and image output program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008047474A JP5239396B2 (ja) 2008-02-28 2008-02-28 画像出力方法、画像出力装置および画像出力プログラム

Publications (2)

Publication Number Publication Date
JP2009205467A JP2009205467A (ja) 2009-09-10
JP5239396B2 true JP5239396B2 (ja) 2013-07-17

Family

ID=41013221

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008047474A Active JP5239396B2 (ja) 2008-02-28 2008-02-28 画像出力方法、画像出力装置および画像出力プログラム

Country Status (2)

Country Link
US (1) US8170299B2 (ja)
JP (1) JP5239396B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8639028B2 (en) * 2006-03-30 2014-01-28 Adobe Systems Incorporated Automatic stacking based on time proximity and visual similarity
US8379999B2 (en) * 2011-01-18 2013-02-19 Chanan Gabay Methods, circuits, devices, apparatuses and systems for providing image composition rules, analysis and improvement
JP6045232B2 (ja) * 2012-07-09 2016-12-14 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US8983150B2 (en) 2012-12-17 2015-03-17 Adobe Systems Incorporated Photo importance determination
US8897556B2 (en) 2012-12-17 2014-11-25 Adobe Systems Incorporated Photo chapters organization
JP6264976B2 (ja) * 2014-03-19 2018-01-24 富士ゼロックス株式会社 画像処理システム、画像処理装置、処理制御装置及びプログラム
TWI646503B (zh) * 2014-12-30 2019-01-01 香港商富智康〈香港〉有限公司 照片方位校正系統及方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08168317A (ja) * 1994-12-16 1996-07-02 Ishii Seisakusho:Kk 穀類容器の取扱い装置
US6272231B1 (en) * 1998-11-06 2001-08-07 Eyematic Interfaces, Inc. Wavelet-based facial motion capture for avatar animation
US9400921B2 (en) * 2001-05-09 2016-07-26 Intel Corporation Method and system using a data-driven model for monocular face tracking
JP4208450B2 (ja) * 2001-10-15 2009-01-14 株式会社東芝 顔画像監視システム
JP2004201113A (ja) * 2002-12-19 2004-07-15 Konica Minolta Holdings Inc 画像データ記録装置、撮影装置、画像データ記録方法及び画像データ記録プログラム
US7421097B2 (en) * 2003-05-27 2008-09-02 Honeywell International Inc. Face identification verification using 3 dimensional modeling
US7391888B2 (en) * 2003-05-30 2008-06-24 Microsoft Corporation Head pose assessment methods and systems
JP4367010B2 (ja) * 2003-05-30 2009-11-18 セイコーエプソン株式会社 システム、プログラムおよび方法
WO2005008593A1 (ja) * 2003-07-18 2005-01-27 Canon Kabushiki Kaisha 画像処理装置、撮像装置、画像処理方法
JP4612806B2 (ja) * 2003-07-18 2011-01-12 キヤノン株式会社 画像処理装置、画像処理方法、撮像装置
JP4455302B2 (ja) * 2003-12-25 2010-04-21 富士フイルム株式会社 画像編集装置および方法並びにプログラム
JP2006072770A (ja) * 2004-09-02 2006-03-16 Sanyo Electric Co Ltd 顔検出装置および顔向き推定装置
JP2006254278A (ja) * 2005-03-14 2006-09-21 Fuji Photo Film Co Ltd 撮影装置
JP2006285469A (ja) * 2005-03-31 2006-10-19 Seiko Epson Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2007041964A (ja) * 2005-08-04 2007-02-15 Matsushita Electric Ind Co Ltd 画像処理装置
JP2007226536A (ja) * 2006-02-23 2007-09-06 Seiko Epson Corp 画像検索装置、画像検索方法、および、画像検索用プログラム
JP2007274017A (ja) * 2006-03-30 2007-10-18 Fujifilm Corp 自動トリミング方法および装置ならびにプログラム

Also Published As

Publication number Publication date
JP2009205467A (ja) 2009-09-10
US20090220159A1 (en) 2009-09-03
US8170299B2 (en) 2012-05-01

Similar Documents

Publication Publication Date Title
JP5239396B2 (ja) 画像出力方法、画像出力装置および画像出力プログラム
US8644563B2 (en) Recognition of faces using prior behavior
JP4998995B2 (ja) アルバム作成装置および方法ならびにプログラム
US8176426B2 (en) Image reproduction apparatus and image reproduction program product
US10115178B2 (en) Image processing apparatus, image capturing apparatus, image processing method, and storage medium
US11037265B2 (en) Information processing method, information processing apparatus, and storage medium
JP6119991B2 (ja) 画像処理装置およびコンピュータプログラム
JP6031278B2 (ja) 情報処理装置及びその制御方法及びプログラム
JP2011129114A (ja) 検出装置、検出方法、検出プログラム、および記録媒体
US20160353021A1 (en) Control apparatus, display control method and non-transitory computer readable medium
US8411311B2 (en) Image processor
JP2006139369A (ja) 画像処理方法および装置並びにプログラム
JP2006303707A (ja) 画像処理装置及び画像処理方法
JP4992519B2 (ja) 情報処理方法、情報処理装置及びプログラム
JP5050926B2 (ja) 画像出力方法、画像出力装置および画像出力プログラム
JP2009205468A (ja) 画像出力方法、画像出力装置および画像出力プログラム
JP2007306463A (ja) トリミング支援方法および装置ならびにプログラム
JP2009237629A (ja) 画像処理方法、画像処理装置、及び画像処理プログラム
JP2006344166A (ja) 画像処理装置及び方法
JP4366286B2 (ja) 画像処理方法、画像処理装置、及びコンピュータプログラム
JP5434057B2 (ja) 画像表示装置、および画像表示プログラム
JP4946332B2 (ja) 情報処理プログラム、および情報処理装置
JP5146223B2 (ja) プログラム、カメラ、画像処理装置および画像の輪郭抽出方法
JP6776532B2 (ja) 画像処理装置、撮像装置、電子機器及び画像処理プログラム
JP4290080B2 (ja) 画像処理装置および画像処理方法およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130318

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160412

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5239396

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250