JP2009059106A - 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム - Google Patents

画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム Download PDF

Info

Publication number
JP2009059106A
JP2009059106A JP2007224872A JP2007224872A JP2009059106A JP 2009059106 A JP2009059106 A JP 2009059106A JP 2007224872 A JP2007224872 A JP 2007224872A JP 2007224872 A JP2007224872 A JP 2007224872A JP 2009059106 A JP2009059106 A JP 2009059106A
Authority
JP
Japan
Prior art keywords
image
subject
size
deformation
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007224872A
Other languages
English (en)
Other versions
JP4973393B2 (ja
Inventor
Atsushi Hoshii
淳 星井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2007224872A priority Critical patent/JP4973393B2/ja
Priority to US12/201,474 priority patent/US7961230B2/en
Publication of JP2009059106A publication Critical patent/JP2009059106A/ja
Application granted granted Critical
Publication of JP4973393B2 publication Critical patent/JP4973393B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Analysis (AREA)

Abstract

【課題】被写体を直接観察したときの印象とは異なる印象の形状となった被写体を含む画像が生成されていた。
【解決手段】対象画像中の特定の被写体の画像を検出する被写体検出部と、上記対象画像の撮像に用いられる単眼レンズを介して捉えられる上記被写体の大きさと両眼によって知覚される上記被写体の大きさとの比率を表す比率情報を取得する比率情報取得部と、上記取得された比率情報に基づいて、対象画像上における上記被写体の画像を含む領域の画像変形を行う変形処理部とを備える構成とした。
【選択図】図9

Description

本発明は、画像の変形を実行可能な画像処理技術に関する。
デジタル画像を対象に、画像を変形するための画像処理技術が知られている(特許文献1参照。)。特許文献1には、顔の画像上の一部の領域(頬の画像を表す領域)を補正領域として設定し、補正領域を所定のパターンに従い複数の小領域に分割し、小領域毎に設定された倍率で画像を拡大または縮小することにより、顔の形状を変形する画像処理が開示されている。
特開2004‐318204号公報
ここで、人間は、ある被写体を直接見たときの印象とは異なる印象を、同被写体が撮影された画像(写真やモニタ上の画像)から受けることがある。特に、被写体を画像で見たときの印象の方が、実物を見たときの印象よりも「太め」に見えることがあり、観察者にとって違和感があった。
しかしながら、上述したような、人が直に被写体を見たときの印象と同じ被写体が表れた画像を見たときの印象との乖離を解消するための画像変形の処理は知られていなかった。
本発明は上記課題に鑑みてなされたものであり、人が被写体を直に見たときの印象と極力同じ印象を与えるような画像を得ることが可能な画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システムを提供することを目的とする。
上記目的を達成するため、本発明にかかる画像処理装置は、被写体検出部が、対象画像中の特定の被写体の画像を検出し、比率情報取得部が、上記対象画像の撮像に用いられる単眼レンズを介して捉えられる上記被写体の大きさと両眼によって知覚される上記被写体の大きさとの比率を表す比率情報を取得する。そして、変形処理部が、上記取得された比率情報に基づいて、対象画像上における上記被写体の画像を含む領域の画像変形を行う。すなわち本発明によれば、単眼レンズを介して捉えられる被写体の大きさと両眼によって知覚される被写体の大きさとの比率に応じて、対象画像上における被写体の画像を含む領域が変形処理される。そのため、人が被写体を直に見たときに感じる印象と極力同じ印象を与える画像を得ることができる。
上記比率情報取得部は、左眼によって知覚される被写体の大きさを示す左眼知覚範囲と右眼によって知覚される被写体の大きさを示す右眼知覚範囲とを、被写体上の注視点に対応する左眼知覚範囲上の点と当該注視点に対応する右眼知覚範囲上の点とを一致させることにより重ね合わせたときに、左眼知覚範囲および右眼知覚範囲に共通する範囲を、上記両眼によって知覚される上記被写体の大きさとする、としてもよい。かかる構成によれば、人間が目視で物の大きさを認識する際の仕組みを利用して、両眼によって知覚される上記被写体の大きさを正確に取得することができる。
画像処理装置は、上記被写体の実の大きさを示す第1の被写体サイズ情報を取得するサイズ情報取得部と、上記単眼レンズから上記被写体までの距離を示す被写体距離情報を取得する距離情報取得部とをさらに備える。そして、上記比率情報取得部は、上記第1の被写体サイズ情報と被写体距離情報と基づいて、上記単眼レンズを介して捉えられる被写体の大きさを算出し、かつ、上記第1の被写体サイズ情報と被写体距離情報と予め規定された左右両眼間の距離を示す両眼距離情報とに基づいて、左眼知覚範囲と右眼知覚範囲とを算出するとしてもよい。かかる構成によれば、第1の被写体サイズ情報が示すサイズを有する被写体と、被写体から被写体距離情報が示す距離だけ離れた位置の単眼レンズと、単眼レンズの左右両側の位置であって被写体から被写体距離情報が示す距離だけ離れ、かつ互いに両眼距離情報が示す距離だけ離れている左右両眼との配置関係を利用して、幾何学的計算によって容易に、単眼レンズを介して捉えられる被写体の大きさや、左眼知覚範囲や、右眼知覚範囲を算出することができる。
また上記比率情報取得部は、複数の第1の被写体サイズ情報および被写体距離情報の組み合わせに夫々対応した比率情報を規定したテーブルを作成するとともに、上記サイズ情報取得部によって取得された第1の被写体サイズ情報と上記距離情報取得部によって取得された被写体距離情報とに対応する比率情報を上記テーブルを参照して取得するとしてもよい。かかる構成によれば、上記テーブルを参照することにより、様々な値を取りうる第1の被写体サイズ情報および被写体距離情報に応じた比率情報を容易に得ることができる。
上記距離情報取得部は、上記対象画像に対する対象画像中の上記被写体の画像の大きさを示す第2の被写体サイズ情報と、対象画像の画角を特定可能な第3の情報とを取得するとともに、上記サイズ情報取得部によって取得された第1の被写体サイズ情報と、上記第2の被写体サイズ情報と、上記第3の情報とに基づき、上記被写体距離情報を推定するとしてもよい。かかる構成によれば、これまで取得することが難しかった、単眼レンズから被写体までの距離を、容易且つ正確に取得することができる。
ここで、上記比率情報取得部は、被写体の部位毎に異なる比率情報を取得し、上記変形処理部は、画像変形の対象とした上記領域内における被写体の各部位に対応した領域毎に、異なる比率に基づいて画像変形を行うとしてもよい。人が物体を直に見たときに受ける印象と物体を画像として見たときに受ける印象の違いは、物体の大きさによっても異なる。上記構成によれば、画像変形を行う際に被写体の各部位に対応した領域毎に、異なる比率で変形をするため、部位毎に大きさが異なる被写体の画像を人による見た目に非常に近い形状にすることができる。
画像変形処理の一例として、上記変形処理部は、上記比率情報に基づいて被写体の横幅方向において圧縮するように画像変形する。つまり、人が被写体を直接見たときの印象と、撮像画像として見たときの印象との違いで最も顕著なのは「太さ」であるため、かかる太さの違いを解消するために、上記比率情報に基づいて被写体の横幅方向において圧縮する変形処理を行なう。
対象画像の中でも特に人物の部分は注目を浴びる部分であり、人の顔などが実物よりも太って見えるとユーザにとって好ましくない。そこで上記被写体検出部は、特定の被写体の画像として人物の画像を検出するとしてもよい。かかる構成とすれば、人物の画像を含む領域の変形を行うことができ好適である。
これまでは本発明にかかる技術的思想を、画像処理装置として説明したが、上述した画像処理装置が備える各手段に対応した工程を備えた画像処理方法の発明、さらには、上述した画像処理装置が備える各手段に対応した機能をコンピュータに実行させる画像処理プログラムの発明をも把握可能であることは、言うまでも無い。さらに、上記画像処理装置が実現する処理を複数の装置からなるシステムによって実現してもよい。
この場合の一例として、単眼レンズと、上記単眼レンズを介して捉えられた対象画像中の、特定の被写体の画像を検出する被写体検出部と、上記単眼レンズを介して捉えられた対象画像を撮像する撮像部と、上記撮像された対象画像の画像データを出力する出力部とを備える第1の装置と、上記第1の装置から出力された対象画像の画像データを入力する入力部と、上記単眼レンズを介して捉えられた上記被写体の大きさと両眼によって知覚される上記被写体の大きさとの比率を表す比率情報を取得する比率情報取得部と、上記取得された比率情報に基づいて、上記入力した画像データ中の上記被写体の画像を含む領域内の画像変形を行う変形処理部とを備える第2の装置と、からなる画像処理システムを把握することができる。
下記の順序に従って本発明の実施例を説明する。
(1)第1の実施例:
(1‐1)装置等の概略構成:
(1‐2)画像生成処理:
(1‐3)顔形状補正印刷処理:
(2)他の実施例:
(1)第1の実施例:
(1‐1)装置等の概略構成:
図1は、第1の実施例(本実施例)におけるデジタルスチルカメラ500の構成を概略的に示す説明図である。デジタルスチルカメラ(以下「DSC」と呼ぶ)500は、対象物を撮像して画像を生成する撮影装置(画像生成装置)として機能すると共に、生成された画像に対する画像処理を行う画像処理装置としても機能する。
DSC500は、レンズ(単眼レンズ)502と、レンズ502を駆動して焦点(ピント)の位置や焦点距離を調整するレンズ駆動部504と、レンズ駆動部504を制御するレンズ駆動制御部506と、レンズ502を介して受光面に入力された光を電気信号に変換する撮像素子508と、撮像素子508から出力された電気信号に対するA/D変換を行うA/D変換器510と、外部機器との情報のやり取りのためのインターフェース(I/F)部512と、液晶ディスプレイにより構成された表示部514と、ボタンやタッチパネルにより構成された操作部516と、DSC500の各部を制御するCPU518と、ROMやRAMによって構成された内部メモリ600と、カードインターフェース(カードI/F)520と、を備えている。カードI/F520は、カードスロット524に挿入されたメモリーカードMCとの間でデータのやり取りを行うためのインターフェースである。撮像素子508は、例えばCCDを用いて構成される。DSC500の各構成要素は、バス522を介して互いに接続されている。
内部メモリ600には、画像生成部610が格納されている。画像生成部610は、所定のオペレーティングシステムの下で、後述する画像生成処理を実行するためのコンピュータプログラムである。CPU518は、内部メモリ600から、このプログラムを読み出して実行することにより、画像生成部610の機能を実現する。
画像生成部610は、プログラムモジュールとして、基本的に、顔領域検出部620と、被写体距離推定部630と、画像ファイル生成部650と、を含んでいる。また、被写体距離推定部630は、情報取得部640を含んでいる。これらの各部の機能については、後述の画像生成処理の説明において詳述する。顔領域検出部620は、被写体としての人物の画像(正確には、人物の顔を含む画像)を検出するものであり、「被写体検出部」とも呼ぶことができる。
図2は、第1の実施例における画像出力機器の構成を概略的に示す説明図である。本実施例における画像出力機器はプリンタ100である。プリンタ100は、メモリーカードMC等から取得した画像データに対する画像処理を行う画像処理装置としても機能し、また画像データに基づき画像を印刷する、いわゆるダイレクトプリントに対応したカラーインクジェットプリンタである。プリンタ100は、プリンタ100の各部を制御するCPU110と、例えばROMやRAMによって構成された内部メモリ120と、ボタンやタッチパネルにより構成された操作部140と、液晶ディスプレイにより構成された表示部150と、プリンタエンジン160と、カードI/F170と、外部機器との情報のやり取りのためのI/F部130と、を備えている。プリンタ100の各構成要素は、バスを介して互いに接続されている。
プリンタエンジン160は、印刷データに基づき印刷を行う印刷機構である。カードI/F170は、カードスロット172に挿入されたメモリーカードMCとの間でデータのやり取りを行うためのインターフェースである。本実施例では、カードスロット172に挿入されたメモリーカードMCにはRGBデータとしての画像データを含む画像ファイルが格納されている。この画像ファイルは、本実施例では、DSC500によりExif(Exchangeable Image File Format)規格に則って生成されたファイルであり、撮像により生成された画像データの他に、撮像時の絞り・シャッタースピード・レンズの焦点距離等の付加データを含んでいる。プリンタ100は、カードI/F170を介してメモリーカードMCに格納された画像ファイルの取得を行う。つまりプリンタ100は、メモリーカードMCを媒体として、DSC500から画像ファイルの提供を受けることが可能である。むろん、画像ファイル提供のための媒体としてはメモリーカードMC以外にも種々の媒体を用いることができるし、DSC500側のI/F部512とプリンタ100側のI/F部130とをケーブルで接続して画像ファイルのやり取りを行っても良い。
内部メモリ120には、基本的に、顔形状補正部200と、顔領域検出部220と、表示処理部310と、印刷処理部320と、比率情報取得部350と、が格納されている。顔形状補正部200と顔領域検出部220と比率情報取得部350とは、所定のオペレーティングシステムの下で、それぞれ後述する顔形状補正処理、顔領域検出処理、比率情報取得処理を実行するためのコンピュータプログラムである。表示処理部310は、表示部150を制御して、表示部150上に処理メニューやメッセージを表示させるディスプレイドライバである。印刷処理部320は、画像データから印刷データを生成し、プリンタエンジン160を制御して、印刷データに基づく画像の印刷を実行するためのコンピュータプログラムである。CPU110は、内部メモリ120から、これらのプログラムを読み出して実行することにより、これら各部の機能を実現する。
顔形状補正部200は、プログラムモジュールとして、顔領域調整部230と、変形領域設定部240と、変形領域分割部250と、分割領域変形部260と、を含んでいる。これらの各部の機能については、後述の顔形状補正印刷処理の説明において詳述する。なお後述するように、変形領域分割部250と分割領域変形部260とにより画像の変形が行われる。そのため、変形領域分割部250と分割領域変形部260とは、併せて「変形処理部」とも呼ぶことができる。
内部メモリ120には、また、分割点配置パターンテーブル410が格納されている。分割点配置パターンテーブル410の内容についても、後述の顔形状補正印刷処理の説明において詳述する。さらに、内部メモリ120には、比率情報テーブル420が格納されている場合もある。比率情報テーブル420の内容についても後述する。
以下では、上記のようなDSC500とプリンタ100とからなる画像処理システムを前提として本実施例の説明を行う。この意味で、DSC500は、本発明における第1の装置の一例に該当し、プリンタ100は、本発明における第2の装置の一例に該当する。
(1‐2)画像生成処理
画像処理システムによる処理のうち、まずDSC500によって実行される処理について説明する。
図3は、本実施例のDSC500による画像生成処理の流れを示すフローチャートである。ステップS(以下、ステップの記載を省略。)810では、画像生成部610(図1)が準備画像を取得する。ここでは、撮影前の種々の処理に用いられる画像という意味で準備画像と呼んでいるが、画像としての内容は後述の対象画像と基本的に同じであるため、準備画像を対象画像と読み替えても差し支えない。画像生成部610は、レンズ502や撮像素子508、A/D変換器510を制御して、準備画像を取得する。なお、表示部514が撮影時のファインダーとして利用されている場合には、準備画像が表示部514に表示される。
S820では、顔領域検出部620(図1)が、準備画像における顔領域FAを検出する。ここで、顔領域FAとは、準備画像上の領域であって、少なくとも顔の一部の画像が含まれる領域を意味している。顔領域FAの検出は、例えばテンプレートを利用したパターンマッチングによる方法(特開2004‐318204参照)といった公知の顔検出方法を用いて実行される。
図4は、顔領域FAの検出結果の一例を示す説明図である。図4の例では、準備画像JIに人物の画像が含まれている。そのため、S820において、準備画像JIから人物の顔領域FAが検出される。この顔領域FAは、図4に示すように、両目と鼻と口の画像を含む矩形の領域となっている。なお、顔領域検出部620は、顔領域FAの検出結果として、準備画像JIにおける顔領域FAの位置を特定可能な情報(例えば顔領域FAの4つの頂点の座標)を出力する。また、図4に示すように、本実施例では、準備画像JIの幅をWwi(単位は画素数)と表し、顔領域FAの幅をWfi(単位は画素数)と表すものとする。
なお、S820の顔領域FAの検出において、顔領域FAが検出されなかった場合には、その旨が表示部514を通じてユーザに通知される。この場合には、人物以外の被写体を検出してもよいし、他の顔検出方法を用いた顔領域FAの再度の検出処理が行われるとしてもよい。
S820では、テンプレートを利用したパターンマッチングにより準備画像JIから顔領域FAが検出される。このようなテンプレートを利用したパターンマッチングによる方法等の公知の顔検出方法は、一般に、顔全体や顔の部位(目や口等)について位置や傾き(角度)を詳細に検出するものではなく、準備画像JI中から顔の画像が概ね含まれると考えられる領域を顔領域FAとして設定するものである。
S830では、被写体距離推定部630(図1)が、準備画像JIにおける被写体距離Sdを推定し取得する。被写体距離Sdは、準備画像JIの取得時におけるDSC500(より詳細には、DSC500のレンズ502の主点)から被写体までの距離を意味している。本実施例では、特定の被写体として人物の顔が設定されている。従って、本実施例における被写体距離Sdは、DSC500から人物の顔までの距離である。このような被写体距離Sdを推定する被写体距離推定部630は「距離情報取得部」と呼ぶことができる。またS830では、被写体距離Sdの推定の過程において、被写体の実の大きさを表した情報も取得する。
図5は、被写体距離Sdの推定方法を示す説明図である。図5には、準備画像JIの取得時におけるDSC500の結像面ISと被写体としての人物Pの顔との位置関係を示している。図5に示すように、レンズ502の主点UPと人物Pの顔との間の距離である被写体距離Sdは、人物Pの顔の位置を含み結像面ISに平行な面(以下「被写体面SS」とも呼ぶ)における撮像範囲の幅Wwと画角θとにより定まる。また、画角θは、レンズ502の焦点距離fと結像面ISの幅Wxとの関係により特定される。すなわち、下記の式(1)が成り立つ。
Sd:Ww=f:Wx …(1)
また、被写体面SSにおける撮像範囲の幅Wwは、人物Pの顔の画像が準備画像JI(図4)において占める大きさに基づき特定される。すなわち、被写体面SSにおける幅Wwと人物Pの顔の幅Wfとの比は、準備画像JIにおける画像全体の幅Wwiと顔領域FAの幅Wfiとの比に等しいと考えられる(式(2)参照)。
Ww:Wf=Wwi:Wfi …(2)
上記式(1)および(2)から、下記の式(3)が導かれる。
Sd=(Wwi×Wf×f)/(Wfi×Wx) …(3)
被写体距離推定部630の情報取得部640(図1)は、式(3)を用いた被写体距離Sdの算出に必要な情報を取得する。具体的には、情報取得部640は、準備画像JIの全体の幅Wwiの値(画素数)と顔領域FAの幅Wfiの値(画素数)とを算出する。顔領域FAの幅Wfiの算出は、例えば顔領域FAの2つの頂点の座標を用いて2つの頂点間の距離を算出することにより行う。なお、本実施例において、準備画像JIの全体の幅Wwiの値と顔領域FAの幅Wfiの値とは、準備画像JIの大きさに対する顔の画像の大きさを示す情報であり、本発明における第2の被写体サイズ情報の一例に該当する。
情報取得部640は、また、人物Pの顔の幅Wfの値として、予め設定され内部メモリ600(図1)に格納された典型的な人物の顔の幅(顔の現実の大きさ)の概略値(例えば200mm)を取得する。人物Pの顔の幅Wfの値は、被写体の実サイズを表した情報の一種であり、本発明における第1の被写体サイズ情報に相当する。この意味で、情報取得部640は、本発明におけるサイズ情報取得部に該当する。
さらに、情報取得部640は、準備画像JI取得時のレンズの焦点距離fの値および、結像面ISの幅Wxの値を取得する。ここで取得する焦点距離fは、DSC500の実際の焦点距離(実焦点距離)である。だだし、替わりに、焦点距離fとして35mmフィルム換算値の焦点距離を取得し、結像面ISの幅Wxとして、予め設定された35mmフィルムの幅の値(=36mm)を取得してもよい。本実施例において、レンズの焦点距離fの値と結像面ISの幅Wxの値とは、準備画像(対象画像)の画角θを特定可能な情報であり、本発明における第3の情報に相当する。
被写体距離推定部630は、情報取得部640により取得された上記各情報(準備画像JIの全体の幅Wwiの値、顔領域FAの幅Wfiの値、人物Pの顔の幅Wfの値、レンズの焦点距離fの値、結像面ISの幅Wxの値)と、上記式(3)とを用いて、被写体距離Sdを算出(推定)する。
S840では、画像生成部610が撮像により画像データを生成する。つまり、シャッターが押されたことを契機として撮像が行われる。このとき、画像生成部610は、レンズ502、レンズ駆動部504、レンズ駆動制御部506を制御して、自動焦点合わせ(オートフォーカス)を行い、主要被写体を特定した上で撮像を行う。具体的には、画像生成部610は、所定の焦点範囲内で焦点を移動させつつ撮像により画像を取得し、取得された画像の内のコントラストが最も大きい画像に対応した位置に焦点を合わせる。
S850では、画像ファイル生成部650が、撮像により生成された画像データと、S830において推定された被写体距離Sdと、人物Pの顔の幅Wfの値と、等を含む画像ファイルを生成する。画像ファイルは、例えばExif規格に則ったファイルとして生成され、被写体距離Sd、顔の幅Wfの値等は付加データとして画像ファイルに付加される。また本実施例では、上記S820において顔領域FAを検出した際に得られた、顔領域FAの位置を特定可能な情報(顔領域FAの4つの頂点の座標)についても、画像ファイルに付加データとして含めておく。付加データは、プリンタ100側で実行される処理において適宜利用される。
S860では、画像生成部610は、上記生成された画像ファイルを出力する。ここで言う出力とは、単純には、カードI/F520を介したメモリーカードMCへの出力(保存)を言う。あるいは、DSC500が、I/F部512を介して外部機器(プリンタ100)と接続している場合には、当該I/F部512を経由した外部への出力を言う。この意味で、画像生成部610は出力部としての機能も兼ね備えていると言える。
以上説明したように、本実施例のDSC500では、準備画像(対象画像)の全体の幅Wwiの値、顔領域FAの幅Wfiの値、人物Pの顔の幅Wfの値、レンズの焦点距離fの値、結像面ISの幅Wxの値を用いて、上記式(3)により、準備画像(対象画像)における被写体距離Sdを推定することができる。
なお上記では、S850で生成された画像ファイルにS830において取得された被写体距離Sdを示すデータ(すなわち準備画像における被写体距離Sdを示すデータ)が含まれるとしている。しかし、S840の撮像により生成された画像について新たに被写体距離Sdの推定を行い、当該被写体距離Sdを示すデータを画像ファイルに含ませるものとしてもよい。
(1‐3)顔形状補正印刷処理:
次に、画像処理システムによる処理のうち、プリンタ100によって実行される処理について説明する。
プリンタ100は、メモリーカードMCに格納された画像ファイル等に基づき、画像の印刷を行う。上記DSC500のカードスロット524に挿入されていたメモリーカードMCがカードスロット524から抜かれ、プリンタ100のカードスロット172に挿入されると、表示処理部310により、DSC500によってメモリーカードMCに格納された画像ファイルの一覧表示を含むユーザインターフェースが、表示部150に表示される。
図6は、画像ファイルの一覧表示を含むユーザインターフェースの一例を示す説明図である。図6に示すユーザインターフェースには、8つのサムネイル画像TN1〜TN8と、5つのボタンBN1〜BN5が表示されている。ただし、プリンタ100は、I/F部130を介して外部機器(DSC500)から入力し所定のメモリ領域に保存した画像ファイルについて、サムネイル画像による一覧表示をするようにしても良い。
プリンタ100は、図6に示すユーザインターフェースにおいて、ユーザにより、1つ(または複数)の画像が選択されると共に通常印刷ボタンBN3が選択されると、選択された画像を通常通り印刷する通常印刷処理を実行する。他方、当該ユーザインターフェースにおいて、ユーザにより、1つ(または複数)の画像が選択されると共に顔形状補正印刷ボタンBN4が選択されると、プリンタ100は、選択された画像について、画像中の顔の形状を補正して補正後の画像を印刷する顔形状補正印刷処理を実行する。図6の例では、サムネイル画像TN1と顔形状補正印刷ボタンBN4とが選択されているため、プリンタ100は、サムネイル画像TN1に対応する画像について顔形状補正印刷処理を行う。
図7は、本実施例のプリンタ100による顔形状補正印刷処理の流れを示すフローチャートである。S100では、顔形状補正部200(図2)が、顔形状補正処理を実行する。本実施例の顔形状補正処理は、画像中の顔を含む所定の領域を、観察者が当該顔などを直に観察したときの印象と撮像された画像を観察したときの印象との間に生じる差を解消するように、補正(変形)する処理である。
図8は、本実施例における顔形状補正処理(図7のS100)の流れを示すフローチャートである。S110では、顔形状補正部200が、顔形状補正処理の対象となる対象画像TIを設定する。顔形状補正部200は、図6に示したユーザインターフェースにおいてユーザにより選択されたサムネイル画像TN1に対応する画像ファイルを対象画像TIとして設定する。設定された対象画像TIの画像ファイルは、メモリーカードMCからカードI/F170を介してプリンタ100に入力され、内部メモリ120の所定領域に格納される。この意味で、顔形状補正部200は入力部としての機能も兼ね備えていると言える。
S120では比率情報取得部350が、後述の画像変形の際に用いられる変形の度合い(程度)を規定する比率情報を、上記S110において設定された対象画像TIの画像ファイルが有している付加データなどに基づいて算出し、取得する。
図9は、S120における処理の詳細をフローチャートにより示している。
S121では、比率情報取得部350は、対象画像TIの画像ファイルから、被写体距離Sdおよび、顔の幅Wfの値を示すデータを読み出し取得する。
S122では、比率情報取得部350は、人間の左右の眼の間隔を示す両眼距離情報DEを取得する。両眼距離情報DEは、予め内部メモリ120に格納された典型的な人物の両眼の間隔の値であり、例えば60mmといった数値である。
S123では、比率情報取得部350は、上記S121において取得した各情報(Sd,Wf)に基づいた幾何学的計算により、単眼(レンズ502)を介して捉えられる対象画像TI中の被写体の大きさ(単眼知覚サイズSMと呼ぶ)を算出する。
また、S124では、比率情報取得部350は、上記S121,122において取得した各情報(Sd,Wf,DE)に基づいた幾何学的計算により、人間の左右の眼によって知覚される対象画像TI中の被写体の大きさ(両眼知覚サイズSBと呼ぶ)を算出する。
図10,11は、単眼知覚サイズSMおよび両眼知覚サイズSBの算出方法を説明するための説明図である。
図10では、レンズ502と、人間の左右の眼(右眼RE、左眼LE)と、被写体OB(人物Pの顔)と、仮想的な結像面S1と、の位置関係を上面から2次元にて示している。図中の中心軸であるY軸上には、レンズ502(レンズ502の主点)と、被写体OBの中心点Cが位置する。レンズ502と中心点Cとの距離は、Sdである。本実施例では計算を容易とするために、被写体OBは球体であるものとしている。被写体OBの半径rは、Wf/2である。右眼REと左眼LEとは、両者の中間点がレンズ502の主点に一致し、かつ互いにDEだけ離れた状態でレンズ502の両側に位置する。右眼RE、レンズ502、左眼LEの並びは、X軸に平行である。結像面S1は、X軸に平行な面であって、右眼RE、レンズ502、左眼LEが並ぶ面(観察面S2)を挟んで被写体OBとは反対側に在る。観察面S2と結像面S1との距離d1は特に問われない。比率情報取得部350は、単眼知覚サイズSMおよび両眼知覚サイズSBの算出に際し、距離d1として、任意の値(距離)を固定値として設定すればよい。
このような位置関係において、上記S123では、比率情報取得部350は、レンズ502の位置において交差する被写体OBの2本の接線を引く。当該2本の接線と被写体ОBとの2つの接点AS,BSの間の範囲が、レンズ502を介して捉えられる被写体ОBの横幅となる。従って比率情報取得部350は、当該2本の接線と結像面S1との2つの交点間のX軸方向の範囲の距離を、単眼知覚サイズSMとして算出する。
上記S124では、比率情報取得部350は、まず両眼知覚サイズSBを得るための前段階の処理として、右眼REの位置において交差する被写体OBの2本の接線と、左眼LEの位置において交差する被写体OBの2本の接線とをそれぞれ引く。右眼REの位置において交差する2本の接線と被写体OBとの2つの接点AR,BRの間の範囲が、右眼REによって知覚される被写体ОBの横幅となる。そこで、比率情報取得部350は、右眼REの位置において交差する2本の接線と結像面S1との2つの交点間のX軸方向の範囲の距離を、右眼知覚範囲SRとして算出する。同様に、左眼LEの位置において交差する2本の接線と被写体OBとの2つの接点AL,BLの間の範囲が、左眼LEによって知覚される被写体ОBの横幅となる。そこで、比率情報取得部350は、左眼LEの位置において交差する2本の接線と結像面S1との2つの交点間のX軸方向の範囲の距離を、左眼知覚範囲SLとして算出する。
このように右眼RE、左眼LEによってそれぞれ知覚される被写体の範囲には、左右方向(横幅方向)にずれが生じている。ここで、人間が両目で物を見るときには、右眼REで知覚される範囲の像と左眼LEで知覚される範囲の像とを重ね合わせたときに共通する範囲を、その物の大きさと認識すると推測される。そこで本実施例では、上記算出した左眼知覚範囲SLと右眼知覚範囲SRとを重ね合わせたときに共通する範囲の長さを、両眼知覚サイズSBとする。当該重ね合わせの処理には、被写体ОB上の注視点PGの位置を利用する。注視点PGとは、人間が被写体ОBを見たときに最も注目していると推定される点であり、本実施例では、右眼RE、左眼LEの両方から見える被写体ОB上の点であって、右眼REからの距離と左眼LEからの距離とが等しい点としている。比率情報取得部350は、注視点PGおよび右眼REを通過する直線と結像面S1との交点位置を、注視点PGに対応する右眼知覚範囲SR上の点PGrとし、注視点PGおよび左眼LEを通過する直線と結像面S1との交点位置を、注視点PGに対応する左眼知覚範囲SL上の点PGlとする。そして、点PGrと点PGlとが一致するように、左眼知覚範囲SLと右眼知覚範囲SRとを重ね合わせる。
図11では、点PGrと点PGlとが一致するように左眼知覚範囲SLと右眼知覚範囲SRとを重ね合わせた状態を示しており、このとき両範囲SL,SRに共通する範囲のX軸方向の距離を、比率情報取得手段330は、両眼知覚サイズSBと認定する。このように求められる両眼知覚サイズSBは、上記S123で求めた単眼知覚サイズSMよりも短いものとなる。従って、DSC500のレンズ502を介して撮像された被写体OBの画像を観察すると、被写体OBを直接観察したときと比較して横幅が広い(太った)印象を受けると言える。
次にS125では、比率情報取得部350は、上記算出した単眼知覚サイズSMと両眼知覚サイズSBとの比率を算出する。例えば、単眼知覚サイズSMを1とした場合の両眼知覚サイズSMの比率を算出し、当該比率の数値を比率情報とする。
このように本実施例では、被写体OBの注視点PGを基準とした右眼知覚範囲SRと左眼知覚範囲SLとの重ね合わせによって得られる共通範囲の長さを両眼知覚サイズSBとしている。そのため、かかる両眼知覚サイズSBと上記単眼知覚サイズSMとの長さの比率は、上記被写体距離Sdで人が被写体OBを観察したときに受ける被写体ОBの横方向の幅の印象と、同被写体距離Sdで単眼レンズで撮像された被写体OBの画像を観察したときに受ける被写体ОBの横方向の幅の印象との差を、正確に表しているものと推測される。
次に、S130(図8)では、顔領域検出部220(図2)が、対象画像TIにおける顔領域FAの検出を行う。顔領域検出部220は、DSC500の顔領域検出部620と同様に、例えばテンプレートを利用したパターンマッチングによる方法といった公知の顔検出方法を用いて顔領域FAを検出可能である。ただし本実施例では、上述したように対象画像TIの画像ファイルにはDSC500の顔領域検出部620によって検出された顔領域FAの位置を特定可能な情報(顔領域FAの4つの頂点の座標)が、付加データとして含められている。従ってS130では、顔領域検出部220は、対象画像TIの画像ファイルから上記顔領域FAの位置を特定可能な情報を読み出すとともに、当該読み出した情報に基づいて、対象画像TI上に矩形の顔領域FAを設定する。
S500では、プリンタ100は、対象画像TI上の顔領域FAに基づいて変形領域TAを設定する。変形領域TAは、対象画像TI上の領域であって顔形状補正のための画像変形処理の対象となる領域である。
図14は、顔領域FAの検出結果の一例を示す説明図である。図14に示した基準線RLは、顔領域FAの高さ方向(上下方向)を定義すると共に、顔領域FAの幅方向(左右方向)の中心を示す線である。すなわち、基準線RLは、矩形の顔領域FAの重心を通り、顔領域FAの高さ方向(上下方向)に沿った境界線に平行な直線である。
変形領域TAは、顔領域FAに基づき設定される。ここで、上述したように、顔領域FAの検出に用いられる公知の顔検出方法(テンプレートを利用したパターンマッチングによる方法等)は、顔全体や顔の部位(目や口等)について位置や傾き(角度)を詳細に検出するものではなく、対象画像TI中から顔の画像が概ね含まれると考えられる領域を顔領域FAとして設定するものである。他方、顔の画像は、一般に、観察者の注目度が高いため、顔領域FAに基づき設定された変形領域TAと顔の画像との位置や角度の関係によっては、顔形状補正後の画像が不自然なものとなる可能性がある。そこで、本実施例では、より自然で好ましい顔形状補正が実現されるように、S130で検出された顔領域FAについて、以下に説明する位置調整および傾き調整を行うものとしている。
図15は、変形領域設定処理の流れを示すフローチャートである。S510では、顔領域調整部230(図2)が、S130で検出された顔領域FAの高さ方向の位置調整を行う。ここで、顔領域FAの高さ方向の位置調整とは、顔領域FAの基準線RL(図14参照)に沿った位置を調整して、対象画像TIにおける顔領域FAを再設定することを意味している。
図16は、顔領域FAの高さ方向の位置調整処理の流れを示すフローチャートである。S511では、顔領域調整部230が、特定領域SAを設定する。ここで、特定領域SAとは、対象画像TI上の領域であって、顔領域FAの高さ方向の位置調整を実行する際に参照する所定の参照被写体の画像を含む領域である。参照被写体は、例えば「目」に設定することができ、その場合、特定領域SAは「目」の画像を含む領域として設定される。
図17は、特定領域SAの一例を示す説明図である。本実施例では、顔領域調整部230が、特定領域SAを顔領域FAとの関係に基づいて設定する。具体的には、顔領域FAの大きさを、基準線RLに直行する方向および基準線RLに平行な方向に、所定比率で縮小(または拡大)した大きさの領域であって、顔領域FAの位置と所定の位置関係を有する領域が、特定領域SAとして設定される。すなわち、本実施例では、顔領域FAとの関係に基づき特定領域SAを設定すれば、特定領域SAが両方の目の画像を含む領域となるように、上記所定比率や所定の位置関係が予め設定されている。なお、特定領域SAは、目の画像とまぎらわしい画像(例えば髪の毛の画像)がなるべく含まれないように、両目の画像を含む限りにおいて、なるべく小さい領域として設定されることが好ましい。
また、図17に示すように、特定領域SAは、基準線RLに対して対称な矩形形状の領域として設定される。特定領域SAは、基準線RLにより、向かって左側の領域(以下「左分割特定領域SA(l)」とも呼ぶ)と、向かって右側の領域(以下「右分割特定領域SA(r)」とも呼ぶ)とに分割される。特定領域SAは、左分割特定領域SA(l)と右分割特定領域SA(r)とのそれぞれに片目の画像が含まれるように設定される。
S512(図16)では、顔領域調整部230が、特定領域SAにおける目の画像の位置を検出するための評価値を算出する。図18は、評価値の算出方法の一例を示す説明図である。本実施例では、RGB画像データとしての対象画像TIの各画素のR値(R成分値)が評価値の算出に用いられる。これは、肌の部分の画像と目の部分の画像とではR値の差が大きいため、R値を評価値の算出に用いることにより、目の画像の検出精度を向上させることができると考えられるからである。また、本実施例では、対象画像TIのデータがRGBデータとして取得されているため、R値を評価値の算出に用いることにより、評価値の算出の効率化を図ることができるからでもある。なお、図18に示すように、評価値の算出は、2つの分割特定領域(右分割特定領域SA(r)および左分割特定領域SA(l))のそれぞれについて個別に行われる。
顔領域調整部230は、図18に示すように、分割特定領域(右分割特定領域SA(r)および左分割特定領域SA(l))内に、基準線RLと直行するn本の直線(以下「対象画素特定線PL1〜PLn」と呼ぶ)を設定する。対象画素特定線PL1〜PLnは、分割特定領域の高さ(基準線RLに沿った大きさ)を(n+1)等分する直線である。すなわち、対象画素特定線PL同士の間隔は、すべて等間隔sである。
顔領域調整部230は、対象画素特定線PL1〜PLnのそれぞれについて、対象画像TIを構成する画素の中から評価値の算出に用いる画素(以下「評価対象画素TP」と呼ぶ)を選択する。図19は、評価対象画素TPの選択方法の一例を示す説明図である。顔領域調整部230は、対象画像TIを構成する画素の内、対象画素特定線PLと重なる画素を評価対象画素TPとして選択する。図19(a)は、対象画素特定線PLが対象画像TIの画素の行方向(図19のX方向)と平行である場合を示している。この場合には、各対象画素特定線PLと重なる画素行上の画素(図19(a)において○印を付した画素)が、各対象画素特定線PLについての評価対象画素TPとして選択される。
一方、顔領域FAの検出方法や特定領域SAの設定方法によっては、図19(b)に示すように、対象画素特定線PLが対象画像TIの画素の行方向(X方向)と平行とはならない場合も生ずる。このような場合にも、原則として、各対象画素特定線PLと重なる画素が、各対象画素特定線PLについての評価対象画素TPとして選択される。ただし、例えば図19(b)における対象画素特定線PL1と画素PXaおよびPXbとの関係のように、ある対象画素特定線PLが、対象画像TIの画素マトリクスの同一列に位置する(すなわちY座標が同一の)2つの画素と重なる場合には、重なり部分の距離のより短い方の画素(例えば画素PXb)は評価対象画素TPから除外される。すなわち、各対象画素特定線PLについて、画素マトリクスの1つの列からは1つの画素のみが評価対象画素TPとして選択される。
なお、対象画素特定線PLの傾きが、X方向に対して45度を超える場合には、上記説明において画素マトリクスの列と行との関係が逆転し、画素マトリクスの1つの行から1つの画素のみが評価対象画素TPとして選択されることとなる。また、対象画像TIと特定領域SAとの大きさの関係によっては、1つの画素が複数の対象画素特定線PLについての評価対象画素TPとして選択される場合もある。
顔領域調整部230は、対象画素特定線PLのそれぞれについて、評価対象画素TPのR値の平均値を評価値として算出する。ただし、本実施例では、各対象画素特定線PLについて、選択された複数の評価対象画素TPの内、R値の大きい一部の画素を評価値の算出対象から除外するものとしている。具体的には、例えば、ある対象画素特定線PLについてk個の評価対象画素TPが選択された場合、評価対象画素TPが、R値の比較的大きい0.75k個の画素により構成される第1グループと、比較的R値の小さい0.25k個の画素により構成される第2グループとの2グループに分けられ、第2グループに属する画素のみが評価値としてのR値の平均値の算出対象となる。このように一部の評価対象画素TPを評価値の算出対象から除外する理由については後述する。
以上のように、本実施例では、顔領域調整部230により各対象画素特定線PLについての評価値が算出される。ここで、対象画素特定線PLは基準線RLに直行する直線であるため、評価値は、基準線RLに沿った複数の位置(評価位置)について算出されると表現することができる。また、評価値は、各評価位置について、基準線RLに直行する方向に沿った画素値の分布の特徴を表す値と表現することができる。
S513(図16)では、顔領域調整部230が、特定領域SAにおける目の位置を検出し、検出結果に基づき高さ基準点Rhを決定する。まず、顔領域調整部230は、図18の右側に示すように、各分割特定領域について、基準線RLに沿った評価値(R値の平均値)の分布を表す曲線を作成し、評価値が極小値をとる基準線RL方向に沿った位置を目の位置Ehとして検出する。なお、左分割特定領域SA(l)における目の位置EhをEh(l)と表し、右分割特定領域SA(r)における目の位置EhをEh(r)と表わす。
黄色人種の場合、分割特定領域中の肌の画像を表す部分はR値が大きい一方、目(より詳細には目の中央の黒目部分)の画像を表す部分はR値が小さいと考えられる。そのため、上述のように、評価値(R値の平均値)が極小値をとる基準線RLに沿った位置を目の位置Ehと判断することが可能となる。但し、他の人種(白色人種や黒色人種)を対象とする場合には、他の評価値(例えば、輝度や明度やB値)が用いられる。
なお、図18に示すように、分割特定領域には、目の画像以外にもR値の小さい他の画像(例えば、眉や髪の毛の画像)が含まれている場合もある。そのため、顔領域調整部230は、基準線RLに沿った評価値の分布を表す曲線が複数の極小値をとる場合には、極小値をとる位置の内、最も下側の位置を目の位置Ehと判断する。一般に、目の画像より上側には眉や髪の毛等のR値の小さい画像が位置することが多い一方、目の画像より下側にはR値の小さい画像が位置することが少ないと考えられることから、このような判断が可能となる。
また、上記曲線が、目の画像の位置よりも下側(主に肌の画像に対応した位置)であっても、評価値が大きいながらも極小値をとる可能性があるため、極小値の内、所定の閾値より大きいものは無視するものとしてもよい。あるいは、単純に、各対象画素特定線PLについて算出された評価値の内の最小値に対応した対象画素特定線PLの位置を目の位置Ehとしてもよい。
なお、本実施例では、顔において周囲との色の差が比較的大きいと考えられる部位である目(目の中央の黒目部分)を顔領域FAの位置調整の参照被写体として用いている。しかし、評価値としてのR値の平均値は、対象画素特定線PL上の複数の評価対象画素TPを対象として算出されるため、例えば、黒目の周縁の白目部分の画像の影響により、黒目部分の検出の精度が低下する怖れがある。本実施例では、上述したように、参照被写体とは色の差が大きいと考えられる一部の評価対象画素TP(例えば上述した第1のグループに属する比較的R値の大きい画素)を評価値の算出対象から除外することにより、参照被写体の検出精度をより向上させている。
次に、顔領域調整部230は、検出された目の位置Ehに基づき高さ基準点Rhを決定する。図20は、高さ基準点Rhの決定方法の一例を示す説明図である。高さ基準点Rhは、顔領域FAの高さ方向の位置調整の際に、基準として用いられる点である。本実施例では、図20に示すように、左右2つの目の位置Eh(l)およびEh(r)の中間に位置する基準線RL上の点が高さ基準点Rhとして設定される。すなわち、左の目の位置Eh(l)を示す直線EhL(l)と基準線RLとの交点と、右の目の位置Eh(r)を示す直線EhL(r)と基準線RLとの交点と、の中点が、高さ基準点Rhとして設定される。
なお、本実施例では、顔領域調整部230が、検出された目の位置Ehに基づき、顔画像の概略の傾き角(以下「概略傾き角RI」と呼ぶ)を算出するものとしている。顔画像の概略傾き角RIは、対象画像TI中の顔の画像が、顔領域FAの基準線RLに対して概ねどれぐらい傾いているかを推定した角度である。図21は、概略傾き角RIの算出方法の一例を示す説明図である。図21に示すように、顔領域調整部230は、まず、左分割特定領域SA(l)の幅Ws(l)を半分に分割する直線と直線EhL(l)との交点IP(l)と、右分割特定領域SA(r)の幅Ws(r)を半分に分割する直線と直線EhL(r)との交点IP(r)とを決定する。そして、交点IP(l)と交点IP(r)とを結ぶ直線に直交する直線ILと、基準線RLとのなす角が、概略傾き角RIとして算出される。
S514(図16)では、顔領域調整部230が、顔領域FAの高さ方向の位置調整を行う。図22は、顔領域FAの高さ方向の位置調整方法の一例を示す説明図である。顔領域FAの高さ方向の位置調整は、高さ基準点Rhが、位置調整後の顔領域FAにおける所定の位置に位置することとなるように、顔領域FAを再設定することにより行う。具体的には、図22に示すように、高さ基準点Rhが、顔領域FAの高さHfを所定の比率r1対r2で分けるような位置に位置することとなるように、顔領域FAが基準線RLに沿って上下に位置調整される。図22の例では、破線で示した調整前の顔領域FAを上方向に移動することにより、実線で示した調整後の顔領域FAが再設定されている。
顔領域FAの位置調整の後、S520(図15)では、顔領域調整部230が、顔領域FAの傾き調整(角度調整)を行う。ここで、顔領域FAの傾き調整とは、対象画像TIにおける顔領域FAの傾きを顔の画像の傾きに適合するように調整して、顔領域FAを再設定することを意味している。本実施例では、顔領域FAの傾き調整を実行する際に参照する所定の参照被写体は、「両目」と設定されている。本実施例における顔領域FAの傾き調整では、傾き調整の調整角度の選択肢を表す複数の評価方向が設定され、各評価方向に対応した評価特定領域ESAが両目の画像を含む領域として設定される。そして、各評価方向について評価特定領域ESAの画像の画素値に基づき評価値が算出され、評価値に基づき決定される傾き調整の調整角度を用いて顔領域FAの傾きが調整される。
図23は、本実施例における顔領域FAの傾き調整処理の流れを示すフローチャートである。また、図24は、顔領域FAの傾き調整のための評価値の算出方法の一例を示す説明図である。S521(図23)では、顔領域調整部230が、初期評価特定領域ESA(0)を設定する。初期評価特定領域ESA(0)は、顔領域FAの位置調整後の基準線RL(図22参照)と平行な方向(以下「初期評価方向」とも呼ぶ)に対応付けられた評価特定領域ESAである。本実施例では、位置調整後の顔領域FAに対応した特定領域SA(図22参照)が、そのまま初期評価特定領域ESA(0)として設定される。なお、顔領域FAの傾き調整における評価特定領域ESAは、顔領域FAの位置調整時の特定領域SAとは異なり、左右2つの領域に分割されることはない。図24の最上段には、設定された初期評価特定領域ESA(0)が示されている。
S522(図23)では、顔領域調整部230が、複数の評価方向と各評価方向に対応した評価特定領域ESAとを設定する。複数の評価方向は、傾き調整の調整角度の選択肢を表す方向として設定される。本実施例では、基準線RLとのなす角が所定の範囲内である複数の評価方向線ELが設定され、評価方向線ELと平行な方向が評価方向として設定される。図24に示すように、基準線RLを初期評価特定領域ESA(0)の中心点(重心)CPを中心として反時計回りおよび時計回りに所定の角度α刻みで回転させることにより定まる直線が、複数の評価方向線ELとして設定される。なお、基準線RLとのなす角がφ度である評価方向線ELをEL(φ)と表す。
本実施例では、上述した各評価方向線ELと基準線RLとのなす角についての所定の範囲は±20度と設定される。ここで本明細書では、基準線RLを時計回りに回転させたときの回転角は正の値で表され、基準線RLを反時計回りに回転させたときの回転角は負の値で表される。顔領域調整部230は、基準線RLを反時計回りおよび時計回りにα度、2α度・・・と20度を超えない範囲で回転角を増加させつつ回転させ、複数の評価方向線ELを設定する。図24には、基準線RLを−α度,−2α度,α度回転させることによりそれぞれ定まる評価方向線EL(EL(−α),EL(−2α),EL(α))が示されている。なお、基準線RLは、評価方向線EL(0)とも表現できる。
各評価方向を表す評価方向線ELに対応した評価特定領域ESAは、初期評価特定領域ESA(0)を、中心点CPを中心として、評価方向線ELの設定時の回転角と同じ角度で回転させた領域である。評価方向線EL(φ)に対応した評価特定領域ESAは、評価特定領域ESA(φ)と表される。図24には、評価方向線EL(−α),EL(−2α),EL(α)のそれぞれに対応した評価特定領域ESA(ESA(−α),ESA(−2α),ESA(α))が示されている。なお、初期評価特定領域ESA(0)も評価特定領域ESAの1つとして扱われるものとする。
S523(図23)では、顔領域調整部230が、設定された複数の評価方向のそれぞれについて、評価特定領域ESAの画像の画素値に基づき評価値を算出する。本実施例では、顔領域FAの傾き調整における評価値として、上述した顔領域FAの位置調整における評価値と同様に、R値の平均値が用いられる。顔領域調整部230は、評価方向に沿った複数の評価位置についての評価値を算出する。
評価値の算出方法は、上述した顔領域FAの位置調整における評価値の算出方法と同様である。すなわち、顔領域調整部230は、図24に示すように、各評価特定領域ESA内に、評価方向線ELに直交する対象画素特定線PL1〜PLnを設定し、各対象画素特定線PL1〜PLnについて評価対象画素TPを選択し、選択された評価対象画素TPのR値の平均値を評価値として算出する。
評価特定領域ESAにおける対象画素特定線PLの設定方法や評価対象画素TPの選択方法は、領域を左右に分割するか否かの違いはあるものの、図18および図19に示した顔領域FAの位置調整における方法と同様である。なお、顔領域FAの位置調整時と同様に、選択された評価対象画素TPの内の一部(例えばk個の評価対象画素TPの内のR値の比較的大きい0.75k個の画素)を評価値の算出対象から除外するとしてもよい。図24の右側には、各評価方向について、算出された評価値の評価方向線ELに沿った分布を示している。
なお、対象画素特定線PLは評価方向線ELに直行する直線であるため、評価値は、評価方向線ELに沿った複数の位置(評価位置)について算出されると表現することができる。また、評価値は、各評価位置について、評価方向線ELに直行する方向に沿った画素値の分布の特徴を表す値と表現することができる。
S524(図23)では、顔領域調整部230が、顔領域FAの傾き調整に用いる調整角度を決定する。顔領域調整部230は、各評価方向について、S523において算出された評価値の評価方向線ELに沿った分散を算出し、分散の値が最大となる評価方向を選択する。そして、選択された評価方向に対応した評価方向線ELと基準線RLとのなす角を、傾き調整に用いる調整角度として決定する。
図25は、各評価方向についての評価値の分散の算出結果の一例を示す説明図である。図25の例では、回転角が−α度である評価方向において、分散が最大値Vmaxをとる。従って、−α度、すなわち反時計回りにα度の回転角が、顔領域FAの傾き調整に用いる調整角度として決定される。
評価値の分散の値が最大となるときの評価方向に対応した角度が傾き調整に用いる調整角度として決定される理由について説明する。図24の上から2段目に示すように、回転角が−α度であるときの評価特定領域ESA(−α)では、左右の目の中央部(黒目部分)の画像が、概ね対象画素特定線PLに平行な方向(すなわち評価方向線ELに直行する方向)に並ぶような配置となっている。また、このときには、左右の眉の画像も同様に、概ね評価方向線ELに直行する方向に並ぶような配置となる。従って、このときの評価方向線ELに対応した評価方向が、概ね顔の画像の傾きを表す方向であると考えられる。このときには、一般にR値が小さい目や眉の画像と一般にR値が大きい肌の部分の画像との位置関係が、対象画素特定線PLの方向に沿って両者が重なる部分の小さい位置関係となる。そのため、目や眉の画像の位置における評価値は比較的小さくなり、肌の部分の画像の位置における評価値は比較的大きくなる。従って、評価方向線ELに沿った評価値の分布は、図24に示すように、比較的ばらつきの大きい(振幅の大きい)分布となり、分散の値は大きくなる。
一方、図24中の最上段および3段目、4段目に示すように、回転角が0度,−2α度,α度であるときの評価特定領域ESA(0),ESA(−2α),ESA(α)では、左右の目の中央部や左右の眉の画像が、評価方向線ELに直行する方向に並ばず、ずれた配置となっている。従って、このときの評価方向線ELに対応した評価方向は、顔の画像の傾きを表していはいない。このときには、目や眉の画像と肌の部分の画像との位置関係が、対象画素特定線PLの方向に沿って両者が重なる部分の大きい位置関係となる。そのため、評価方向線ELに沿った評価値の分布は、図24に示すように、比較的ばらつきの小さい(振幅の小さい)分布となり、分散の値は小さくなる。
以上のように、評価方向が顔の画像の傾きの方向に近い場合には、評価方向線ELに沿った評価値の分散の値が大きくなり、評価方向が顔の画像の傾きの方向から遠い場合には、評価方向線ELに沿った評価値の分散の値が小さくなる。従って、評価値の分散の値が最大となるときの評価方向に対応した角度を傾き調整に用いる調整角度として決定すれば、顔領域FAの傾きが顔の画像の傾きに適合するような顔領域FAの傾き調整を実現することができる。
なお本実施例では、評価値の分散の算出結果が、角度の範囲の臨界値、すなわち−20度または20度において最大値をとるような結果となった場合には、顔の傾きが正確に評価されていない可能性が高いと考えられるため、顔領域FAの傾き調整を行わないものとしている。
また本実施例では、決定された調整角度が、上述した顔領域FAの位置調整の際に算出された概略傾き角RIと比較される。調整角度と概略傾き角RIとの差が所定の閾値より大きい場合には、顔領域FAの位置調整および傾き調整における評価や決定の際に何らかの誤りが発生したと考えられるため、顔領域FAの位置調整および傾き調整を行わないものとしている。
S525(図23)では、顔領域調整部230が、顔領域FAの傾き調整を行う。図26は、顔領域FAの傾き調整方法の一例を示す説明図である。顔領域FAの傾き調整は、顔領域FAを、初期評価特定領域ESA(0)の中心点CPを中心に、S524において決定された調整角度だけ回転させることにより行う。図26の例では、破線で示した調整前の顔領域FAを反時計回りにα度回転させることにより、実線で示した調整後の顔領域FAが設定される。
顔領域FAの傾き調整終了後のS530(図15)では、変形領域設定部240(図2)が、変形領域TAを設定する。変形領域TAは、対象画像TI上の領域であって顔形状補正のための画像変形の対象となる領域である。図27は、変形領域TAの設定方法の一例を示す説明図である。図27に示すように、本実施例では、変形領域TAは、顔領域FAを基準線RLと平行な方向(高さ方向)および基準線RLに直行する方向(幅方向)に伸張(または短縮)した領域として設定される。具体的には、顔領域FAの高さ方向の大きさをHf、幅方向の大きさをWfiとすると、顔領域FAを、上方向にk1・Hf、下方向にk2・Hfだけ伸ばすと共に、左右にそれぞれk3・Wfiだけ伸ばした領域が、変形領域TAとして設定される。なお、k1,k2,k3は、所定の係数である。
このように変形領域TAが設定されると、顔領域FAの高さ方向の輪郭線に平行な直線である基準線RLは、変形領域TAの高さ方向の輪郭線にも平行な直線となる。また、基準線RLは、変形領域TAの幅を半分に分割する直線となる。
図27に示すように、変形領域TAは、高さ方向に関しては、概ね顎から額までの画像を含み、幅方向に関しては、左右の頬の画像を含むような領域として設定される。すなわち、本実施例では、変形領域TAが概ねそのような範囲の画像を含む領域となるように、顔領域FAの大きさとの関係に基づき、上述の係数k1,k2,k3が予め設定されている。
S600(図8)では、上記設定された変形領域TAを対象とした変形処理が行われる。本実施例においては、上記S120で取得した比率情報に基づいて、変形領域TA内の画像の幅方向(基準線RLと直交する方向)のサイズを圧縮するように変形処理する。
図28は、変形処理の流れを示すフローチャートである。S610では、変形領域分割部250(図2)が、変形領域TAを複数の小領域に分割する。
図29は、変形領域TAの小領域への分割方法の一例を示す説明図である。変形領域分割部250は、変形領域TAに複数の分割点Dを配置し、分割点Dを結ぶ直線を用いて変形領域TAを複数の小領域に分割する。分割点Dの配置の態様(分割点Dの個数および位置)は、分割点配置パターンテーブル410(図2)により定義されている。変形領域分割部250は、分割点配置パターンテーブル410を参照して分割点Dを配置する。
図29に示すように、一例として、分割点Dは水平分割線Lhと垂直分割線Lvとの交点と、水平分割線Lhおよび垂直分割線Lvと変形領域TAの外枠との交点とに配置される。ここで、水平分割線Lhおよび垂直分割線Lvは、変形領域TA内に分割点Dを配置するための基準となる線である。図29に示した分割点Dの配置では、基準線RLと直行する2本の水平分割線Lhと、基準線RLに平行な4本の垂直分割線Lvとが設定される。2本の水平分割線Lhを、変形領域TAの下方から順に、Lh1,Lh2と呼ぶ。また、4本の垂直分割線Lvを、変形領域TAの左から順に、Lv1,Lv2,Lv3,Lv4と呼ぶ。
水平分割線Lh1は、変形領域TAにおいて、顎の画像より下方に配置され、水平分割線Lh2は、目の画像のすぐ下付近に配置される。また、垂直分割線Lv1およびLv4は、頬のラインの画像の外側に配置され、垂直分割線Lv2およびLv3は、目尻の画像の外側に配置される。なお、水平分割線Lhおよび垂直分割線Lvの配置は、水平分割線Lhおよび垂直分割線Lvと画像との位置関係が結果的に上述の位置関係となるように予め設定された変形領域TAの大きさとの対応関係に従い実行される。
上述した水平分割線Lhと垂直分割線Lvとの配置に従い、水平分割線Lhと垂直分割線Lvとの交点と、水平分割線Lhおよび垂直分割線Lvと変形領域TAの外枠との交点とに、分割点Dが配置される。図29に示すように、水平分割線Lhi(i=1または2)上に位置する分割点Dを、左から順に、D0i,D1i,D2i,D3i,D4i,D5iと呼ぶものとする。例えば、水平分割線Lh1上に位置する分割点Dは、D01,D11,D21,D31,D41,D51と呼ばれる。同様に、垂直分割線Lvj(j=1,2,3,4のいずれか)上に位置する分割点Dを、下から順に、Dj0,Dj1,Dj2,Dj3と呼ぶものとする。例えば、垂直分割線Lv1上に位置する分割点Dは、D10,D11,D12,D13と呼ばれる。
なお、図29に示すように、本実施例における分割点Dの配置は、基準線RLに対して対称の配置となっている。
変形領域分割部250は、配置された分割点Dを結ぶ直線(すなわち水平分割線Lhおよび垂直分割線Lv)により、変形領域TAを複数の小領域に分割する。本実施例では、図29に示すように、変形領域TAが15個の矩形の小領域に分割される。
なお本実施例では、分割点Dの配置は、水平分割線Lhおよび垂直分割線Lvの本数および位置により定まるため、分割点配置パターンテーブル410は水平分割線Lhおよび垂直分割線Lvの本数および位置を定義していると言い換えることも可能である。
S620(図28)では、分割領域変形部260(図2)が、対象画像TIの変形領域TAを対象とした画像の変形処理を行う。分割領域変形部260による変形処理は、S610で変形領域TA内に配置された分割点Dの位置を移動して、小領域を変形することにより行われる。
図30は、分割点Dの位置移動の一例を示す説明図である。本実施例では、分割領域変形部260は、基準線RLを挟んで対称の関係にある分割点D間のH方向(基準線RLに直交する方向)の距離を、上記S120で取得した比率情報が示す比率(比率Rと呼ぶ)に基づいて移動させる。例えば、基準線RLを挟んで対称の関係にある分割点D11と分割点D41とのH方向の距離(画素数)がW1であるとすると、移動後の分割点D11(D’11と呼ぶ)と移動後の分割点D41(分割点D’41と呼ぶ)とのH方向の距離(画素数)がR・W1となるように、分割点D11,D41をそれぞれH方向に沿って基準線RLに近づく方向に移動させる。同様に、基準線RLを挟んで対称の関係にある分割点D21と分割点D31との組、分割点D12と分割点42との組、についても夫々に組を構成する2点間のH方向の距離を、上記比率Rに応じて短縮させる移動を行う。なお本実施例では、基準線RLと平行な方向(V方向)への分割点Dの移動は行わない。
本実施例では、変形領域TAの内外の画像間の境界が不自然とならないように、変形領域TAの外枠上に位置する分割点D(例えば図29に示す分割点D10等)の位置は移動されないものとしている。図30では、移動前の分割点Dは白抜きの丸で、移動後の分割点Dや位置の移動の無い分割点Dは黒丸で示されている。移動後の各分割点Dについては、「’」を付して表現している。
なお、本実施例では、基準線RLに対して対称な位置関係にある2つの分割点Dの組み合わせ(例えば分割点D11とD41との組み合わせ)のすべてが、分割点Dの移動後も、基準線RLに対して対称な位置関係を維持するように移動を行う。
分割領域変形部260は、変形領域TAを構成する各小領域について、分割点Dの位置移動前の状態における小領域の画像が、分割点Dの位置移動により新たに定義された小領域の画像となるように、画像の変形処理を行う。例えば、図30において、分割点D11,D21,D22,D12を頂点とする小領域(ハッチングを付して示す小領域)の画像は、分割点D’11,D’21,D22,D’12を頂点とする小領域の画像に変形される。
図31は、分割領域変形部260による画像の変形処理方法の概念を示す説明図である。図31では、分割点Dを黒丸で示している。図31では、説明を簡略化するために、4つの小領域について、左側に分割点Dの位置移動前の状態を、右側に分割点Dの位置移動後の状態を、それぞれ示している。図31の例では、中央の分割点Daが分割点Da’の位置に移動され、その他の分割点Dの位置は移動されない。これにより、例えば、分割点Dの移動前の分割点Da,Db,Dc,Ddを頂点とする矩形の小領域(以下「変形前注目小領域BSA」とも呼ぶ)の画像は、分割点Da’,Db,Dc,Ddを頂点とする矩形の小領域(以下「変形後注目小領域ASA」とも呼ぶ)の画像に変形される。
本実施例では、矩形の小領域を小領域の重心CGを用いて4つの三角形領域に分割し、三角形領域単位で画像の変形処理を行っている。図31の例では、変形前注目小領域BSAが、変形前注目小領域BSAの重心CGを頂点の1つとする4つの三角形領域に分割される。同様に、変形後注目小領域ASAが、変形後注目小領域ASAの重心CG’を頂点の1つとする4つの三角形領域に分割される。そして、分割点Daの移動前後のそれぞれの状態において対応する三角形領域毎に、画像の変形処理が行われる。例えば、変形前注目小領域BSA中の分割点Da,Ddおよび重心CGを頂点とする三角形領域の画像が、変形後注目小領域ASA中の分割点Da’,Ddおよび重心CG’を頂点とする三角形領域の画像に変形される。
図32は、三角形領域における画像の変形処理方法の概念を示す説明図である。図32の例では、点s,t,uを頂点とする三角形領域stuの画像が、点s’,t’,u’を頂点とする三角形領域s’t’u’の画像に変形される。画像の変形は、変形後の三角形領域s’t’u’の画像中のある画素の位置が、変形前の三角形領域stuの画像中のどの位置に相当するかを算出し、算出された位置における変形前の画像における画素値を変形後の画像の画素値とすることにより行う。
例えば、図32において、変形後の三角形領域s’t’u’の画像中の注目画素p’の位置は、変形前の三角形領域stuの画像中の位置pに相当するものとする。位置pの算出は、以下のように行う。まず、注目画素p’の位置を、下記の式(4)のようにベクトルs’t’とベクトルs’u’との和で表現するための係数m1およびm2を算出する。
Figure 2009059106
次に、算出された係数m1およびm2を用いて、下記の式(5)により、変形前の三角形領域stuにおけるベクトルstとベクトルsuとの和を算出することにより、位置pが求まる。
Figure 2009059106
変形前の三角形領域stuにおける位置pが、変形前の画像の画素中心位置に一致した場合には、当該画素の画素値が変形後の画像の画素値とされる。一方、変形前の三角形領域stuにおける位置pが、変形前の画像の画素中心位置からはずれた位置となった場合には、位置pの周囲の画素の画素値を用いたバイキュービック等の補間演算により、位置pにおける画素値を算出し、算出された画素値が変形後の画像の画素値とされる。
変形後の三角形領域s’t’u’の画像中の各画素について上述のように画素値を算出することにより、三角形領域stuの画像から三角形領域s’t’u’の画像への画像変形処理を行うことができる。分割領域変形部260は、図30に示した変形領域TAを構成する各小領域について、上述したように三角形領域を定義して変形処理を行い、変形領域TAにおける画像変形処理を行う。
ここで、本実施例の顔形状補正の態様についてより詳細に説明する。本実施例では、基準線RLと直交する方向(H方向)に関し、垂直分割線Lv1上に配置された分割点D(D11,D12)の位置は右方向に移動され、垂直分割線Lv4上に配置された分割点D(D41,D42)の位置は左方向に移動される(図30参照)。さらに、垂直分割線Lv2上に配置された2つの分割点Dの内、水平分割線Lh1上に配置された分割点D(D21)の位置は右方向に移動され、垂直分割線Lv3上に配置された2つの分割点Dの内、水平分割線Lh1上に配置された分割点D(D31)の位置は左方向に移動される(図30参照)。従って、垂直分割線Lv1より左側に位置する画像は、H方向に関して右側に拡大され、垂直分割線Lv4より右側に位置する画像は、左側に拡大される。また、垂直分割線Lv1と垂直分割線Lv2との間に位置する画像は、H方向に関して縮小または右側に移動され、垂直分割線Lv3と垂直分割線Lv4との間に位置する画像は、H方向に関して縮小または左側に移動される。さらに、垂直分割線Lv2と垂直分割線Lv3との間に位置する画像は、水平分割線Lh1の位置を中心にH方向に関して縮小される。
上述したように、垂直分割線Lv1およびLv4は、頬のラインの画像の外側に配置され、垂直分割線Lv2およびLv3は、目尻の画像の外側に配置される。そのため、上記顔形状補正では、顔の画像の内、両目尻より外側の部分の画像が全体的にH方向に縮小される。この結果、画像中の顔の形状は、全体的に顔の幅方向に細くなる。
分割点D22,D32,D33,D23を頂点とする小領域は、上述した水平分割線Lh2や垂直分割線Lv2およびLv3の配置方法によると、両目の画像を含む領域となる(図29参照)。図30に示すように、分割点D22およびD32は移動されないため、この両目の画像を含む小領域は変形されない。このように両目の画像を含む小領域については変形しないことにより、顔形状補正後の画像がより自然で好ましいものとなるようにしている。
ただし、人は、撮像された被写体の画像を観察すると被写体を直接観察したときと比較して横幅が広い印象を受けるという事情に鑑みれば、分割点D22,D32についても移動するようにしてもよい。つまり、分割点D22と分割点D33との組についても、両点間のH方向の距離を上記比率rに応じて短縮させる移動を行うとしてもよい。また、水平分割線Lh2については、目の画像よりも上側(例えば、眉毛の上付近の位置)に配置し、かかる水平分割線Lh2上の分割点D12,22,32,42を上述したように移動させるとしてもよい。このように、分割点D22,D32についても基準線RLに近づくように移動させたり、水平分割点Lh2の位置を高くすることで、顔の横幅をより全体的に細める変形を行うことができる。
S200(図7)では、顔形状補正部200が、顔形状補正後の対象画像TIを表示部150に表示するよう表示処理部310に指示する。図13は、顔形状補正後の対象画像TIが表示された表示部150の状態の一例を示す説明図である。顔形状補正後の対象画像TIが表示された表示部150により、ユーザは、補正結果を確認することができる。ユーザが補正結果に満足し「印刷」ボタンを選択した場合には、以下の補正画像印刷処理(S300)が開始される。ユーザが補正結果に満足せず「戻る」ボタンを選択した場合には、例えば表示部150に図6に示したインターフェース画面を表示し、ユーザに通常印刷を選択可能にさせる等してもよい。なおS200の処理は必須ではなく、S100の処理後、当該S200を飛ばして以下のS300の処理に移っても良い。
S300(図7)では、印刷処理部320が、プリンタエンジン160を制御して、顔形状補正処理後の対象画像TIの印刷を行う。印刷処理部320は、顔形状補正処理後の対象画像TIの画像データに、解像度変換やハーフトーン処理などの処理を施して印刷データを生成する。生成された印刷データは、印刷処理部320からプリンタエンジン160に供給され、プリンタエンジン160は対象画像TIの印刷を実行する。これにより、顔形状補正後の対象画像TIの印刷が完了する。
このように本実施例によれば、対象画像TIの撮像の際のレンズ502から被写体までの距離(被写体距離Sd)と被写体の大きさの情報等を用いて、被写体距離Sdから単眼(レンズ502)を介して捉えられる被写体の大きさ(単眼知覚サイズSM)と同被写体距離Sdから人間の左右の眼によって知覚される被写体の大きさ(両眼知覚サイズSB)との比率を算出し、当該算出した比率に応じて対象画像TI上の被写体を横幅方向に圧縮するように変形処理する。その結果、人が被写体を直接観察したときに受ける印象と極めて近い形状となった被写体を含む対象画像を得る(例えば、印刷結果として)ことができる。
(2)他の実施例:
上記S120(図8)の処理においては、比率情報取得部350が、被写体距離Sd、顔の幅Wf、両眼距離情報DE、といった各種値を用いて、その都度比率情報を計算するとした。ただしプリンタ100は、上記SdとWfとの任意の組み合わせに応じた比率情報を読み出し可能なテーブル(比率規定テーブル420)を予め持ち、上記S120では、比率規定テーブル420を参照して比率情報を取得するとしてもよい。
図12は、比率情報テーブル420の一例を示している。同図では、複数の被写体距離Sd毎の、被写体OBの半径rと比率情報(比率R)との対応関係を規定したテーブルF1,F2,F3,F4,F5を示している。テーブルF1は、Sd=0.5mの場合の半径rと比率Rとの対応関係を規定し、テーブルF2は、Sd=1.0mの場合の半径rと比率Rとの対応関係を規定し、テーブルF3は、Sd=2.0mの場合の半径rと比率Rとの対応関係を規定し、テーブルF4は、Sd=5.0mの場合の半径rと比率Rとの対応関係を規定し、テーブルF5は、Sd=10mの場合の半径rと比率Rとの対応関係を規定している。このようなテーブルF1〜F5は、各種半径rと被写体距離Sdとの組み合わせと、固定値としての両眼距離情報DEおよび上記距離d1と、を用いた計算によって予め得ることができる。そこで、プリンタ100は、かかるテーブルF1〜F5からなる比率情報テーブル420を予め生成して内部メモリ120に格納しておくか、あるいは、外部の機器(例えば、コンピュータ)によって生成された比率情報テーブル420を当該外部の機器から取得して内部メモリ120に格納する。
この結果、上記S120では、比率情報取得部350が、比率情報テーブル420を参照することにより、対象画像TIの画像ファイルから取得した被写体距離Sdおよび顔の幅Wfに応じた(被写体距離Sdおよび顔の幅Wf/2に応じた)比率情報(比率R)を、直接的にあるいは必要に応じて補間演算を行うことにより、取得することが可能となる。
説明したように、単眼知覚サイズSMに対する両眼知覚サイズSBの比率は、被写体距離Sdや被写体の大きさによって変化する値である。ここで、一つの被写体であってもその部位毎に大きさは異なる場合がある。従って、ある被写体の画像を観察したときの印象と、同じ被写体を直接観察したときの印象との違いは、被写体の部位毎に異なると言える。人が実物を見たときに受ける印象と略同じ形状の画像を変形処理によって生成するという本発明の観点に立てば、被写体中のサイズの違う部位毎に、各部位のサイズに応じた比率情報に基づいて変形処理を行なったほうが、より好ましい。そこで本発明の他の実施例として、上記S120において比率情報取得部350は、被写体の部位毎に、異なる比率情報を取得する。
被写体としての人物においては、顔よりも首の方が細いのが通常である。図12の比率情報テーブル420から明らかなように、観察の対象となる被写体のサイズが小さいほど、単眼知覚サイズSMに対する両眼知覚サイズSBの比率は小さくなると言える。そのため、人物の画像を観察したときに感じる印象も顔部分に対する印象と首部分に対する印象とでは異なり、実物と比較して特に人物の首部分が太いと感じることも多かった。
そこで一例として、比率情報取得部350は、対象画像TIの画像ファイルから取得した被写体距離Sdおよび顔の幅Wfに応じた比率情報を取得するとともに、被写体距離Sdおよび首の幅Wnに応じた比率情報をも取得する。
首の幅Wnの値については、プリンタ100が、人の首の幅として典型的な数値(例えば、120mm)を、予め内部メモリ120に保持していても良い。あるいは、DSC500の側において、人の首の幅として典型的な数値を保持しておき、画像ファイルの生成処理(図3)の際に、当該数値を付加データとして画像ファイルに含ませるとしてもよい。比率情報取得部350は、内部メモリ120の所定領域から、あるいは画像ファイルから、首の幅Wnの値を読み出す。その結果、比率情報取得部350は、顔の幅Wf/2を被写体OBの半径rとした場合の比率情報(比率Rfと呼ぶ)に加え、首の幅Wn/2を被写体OBの半径rとした場合の比率情報(比率Rnと呼ぶ)を、上述した計算方法によって、あるいは比率情報テーブル420を参照することによって、取得することが可能となる。
このように、比率Rfおよび比率Rnが取得された場合、上記S600の変形処理では、変形領域TA内における被写体の各部位に対応した領域毎に、異なる比率Rf,Rnに基づいた画像変形を行う。比率Rf,Rnを用いた変形処理を行なう前提として、変形領域TAの設定処理(図15のS530)および分割点Dの配置処理(図28のS610)も、以下に説明するように、上記第1の実施例と異なる。
図33は、当該他の実施例において変形領域設定部240がS530で設定する変形領域TAの例を示している。同図の変形領域TAは、第1の実施例と同様に、係数k1,k2,k3を用いて顔領域FAの高さ方向の大きさおよび幅方向の大きさを、基準線RLと平行な方向および基準線RLに直行する方向に伸張することにより設定される。図33の変形領域TAは、幅方向に関しては左右の頬の画像を含み、高さ方向に関しては、概ね肩の高さから額までの画像を含むような領域として設定されている。つまり、顔領域FAの上方向への伸張に作用する係数k1および、顔領域FAの左右への伸張に作用する係数k3については、第1の実施例で用いられた数値と同じであるが、顔領域FAの下方向への伸張に作用する係数2については、変形領域TAの下のラインがほぼ肩の位置となるような値に設定されている。
また、図33では、変形領域分割部250がS610で変形領域TAに対して設定する水平分割線Lh、垂直分割線Lvおよび各分割点Dも例示している。
図33に示した例では、図29に示した例と異なり、下方から順に3本の水平分割線Lh1,Lh2,Lh3が設定されている。水平分割線Lh2は、変形領域TAにおいて、顎の先端付近の画像位置に配置され、水平分割線Lh3は、目の画像のすぐ下付近に配置される。また、水平分割線Lh1は、顎と肩の間であって首を横切る位置に配置されている。垂直分割線Lv1およびLv4が頬のラインの画像の外側に配置され、垂直分割線Lv2およびLv3が目尻の画像の外側に配置される点は、図29の例と同様である。水平分割線Lhおよび垂直分割線Lvの配置は、水平分割線Lhおよび垂直分割線Lvと画像との位置関係が結果的に上述の位置関係となるように予め設定された変形領域TAの大きさとの対応関係に従い実行される。
当該他の実施例では、図33のように分割点Dが配置された変形領域TAを対象として、分割領域変形部260がS620において、比率Rfまたは比率Rnに基づいて分割点Dを移動させる。
図34は、分割点Dの位置移動の一例を示す説明図である。図34においても、移動前の分割点Dを白抜きの丸で、移動後の分割点Dや位置の移動の無い分割点Dを黒丸で示している。移動後の各分割点Dについては、「’」を付して表現している。
当該他の実施例においても、分割領域変形部260は、基準線RLを挟んで対称の関係にある分割点D間のH方向の距離をS120で取得した比率に基づいて移動させるが、適用する比率を移動対象となる分割点Dの高さ位置に応じて異ならせている。例えば、水平分割線Lh2上に位置する分割点D12,D42の組、分割点D22,D32の組、および水平分割線Lh3上に位置する分割点D13,D43の組、については、被写体距離Sdおよび顔の幅Wf/2に応じて決定された上記比率Rfに応じて、組を構成する2点間のH方向の距離を短縮させる移動を行う。一方、首を横切る水平分割線Lh1上に位置する分割点D11,D41の組、分割点D21,D31の組、については、被写体距離Sdおよび首の幅Wn/2に応じて決定された上記比率Rnに基づいて、組を構成する2点間のH方向の距離を短縮させる移動を行う。V方向への分割点Dの移動は行わない。
分割領域変形部260が、変形領域TAを構成する各小領域について、分割点Dの位置移動前の状態における小領域の画像が、分割点Dの位置移動により新たに定義された小領域の画像となるように画像の変形処理を行う点は、第1の実施例と同様である。
このように当該他の実施例では、顔を横切る水平分割線Lh3上および顔(顎)の直ぐ下を横切る水平分割線Lh2上に位置する分割点D間の距離の圧縮には、上記比率Rfを用い、顔よりも細い首を横切る水平分割点Lh1上に位置する分割点D間の距離の縮小には上記比率Rnを用いる。被写体距離Sdにもよるが、基本的には、比率Rf>比率Rnの関係が成り立つ。従って、当該他の実施例の変形処理によれば、画像中の顔の形状および首の形状はそれぞれ幅方向に細くなり、かつ、顔よりも首の方が高い圧縮率にて細くなる。
このように、変形処理の対象となる被写体におけるサイズの異なる部位毎に比率情報を取得し、異なる各比率情報に基づいて被写体のサイズの異なる部位毎の変形処理を行なうことにより、人が被写体を直接観察したときに受ける印象と極めて近い形状となった被写体を含む対象画像を得ることができる。特に、顔より一般的に細い首については、撮像された画像を観察したときに、実物を観察したときの印象と比べて太いと感じる程度が顔よりも大きいが、上記構成を採用すれば、そのような違和感を生じさせない画像が得られる。
なお図33,34に示した変形領域TAの設定態様、分割線の配置態様、各分割点Dの移動態様はあくまで一例である。例えば、図33,34に示したものよりも水平分割線Lhの本数を増やし、被写体を高さ方向においてより細かく分割し、それぞれの水平分割線Lh上の分割点Dの移動量を、各水平分割線Lhが対応する部位のサイズに応じてより細かく設定するとしてもよい。さらに、変形領域TAの範囲を人物全体を含む範囲にまで拡大して設定してもよい。そして、顔、首、胴体といった夫々大きさ(横幅)が異なる部位毎に取得した各比率Rに応じて、各部位の幅方向における変形(圧縮)を行うとしてもよい。
DSC500による被写体距離Sdの取得は、上述した式(1)〜(3)を用いた被写体距離Sdを推定する手法に限られず、以下のように行ってもよい。
例えば、画像生成部610は、準備画像を取得する際、レンズ駆動部504、レンズ駆動制御部506を制御してレンズ502を移動させて、焦点(ピント)の位置をDSC500の近い位置から遠い位置へと徐々に移動させるとともに、当該移動の過程において、複数の準備画像を取得する。被写体距離推定部630は、各準備画像の顔領域FA(顔領域検出部620によって検出した顔領域FA)における鮮鋭度(シャープネス)を計測する。鮮鋭度は、例えば、画像の空間周波数成分を計測することにより得られる。
ここで、レンズ502から焦点の位置までのおよその距離というものは、上記のように移動するレンズ502の各状態(各位置)に応じて変化する値であるため、内部メモリ600には、レンズ502から焦点の位置までの距離とレンズ502の各状態(各位置)との対応関係を規定したテーブルデータを予め格納しておく。そして、被写体距離推定部630は、上記複数の準備画像のうち、顔領域FAの鮮鋭度が最も高い準備画像を特定し、当該特定した準備画像を取得した際のレンズ502の状態(位置)に対応する距離(レンズ502から焦点の位置までの距離)を、上記予め格納されたテーブルデータから読み出す。そして、当該読み出した距離を被写体距離Sdとする。つまり、顔領域FAの鮮鋭度が最も高かった準備画像は、被写体にピントが合っている準備画像と言えるため、当該準備画像を取得した際のレンズ502から焦点の位置までの距離は、被写体距離Sdをおよそ表していると言えるからである。
さらに、情報取得部640は、被写体の実の大きさ(人物Pの顔の幅Wf)の値を、内部メモリ600に予め格納された情報として取得するのではなく、上記のようにレンズ502の状態に応じて取得した被写体距離Sdに基づいて、決定するとしてもよい。具体的には、取得した被写体距離Sdと、準備画像における画像全体の幅Wwiに対する顔領域FAの幅Wfiの比と、に基づいて顔の幅Wfを決定する。この場合、内部メモリ600には、例えば、複数の被写体距離Sdから夫々ある共通の大きさのサンプル物体(例えば横幅1mの物体)を撮像したときに得られた各撮像結果における、画像全体の幅に対するサンプル物体の画像の幅が占める比、というような情報(基準情報)を予め備えておき、かかる基準情報と、取得した被写体距離Sdと、準備画像における画像全体の幅Wwiに対する顔領域FAの幅Wfiの比と、に基づいて人物Pの顔の幅Wfの値を算出する。
このように被写体距離推定部630が取得した被写体距離Sdや、情報取得部640が取得した人物Pの顔の幅Wfは、付加データとして画像ファイルに付加される。
上記では、被写体距離Sdを取得する被写体として人物(人物の顔)を採用しているが、被写体としては人物の顔以外の任意の被写体を採用可能である。例えば、ボールや車両、建築物、製造機器等、対象画像(準備画像)からの検出が可能である。また、対象画像(準備画像)から被写体を検出する方法としては、任意の方法を採用可能である。
また、図6に示したインターフェース画面においては、通常印刷と顔形状補正印刷とを選択可能としているが、かかる選択肢を廃し、ユーザが対象画像TIを選択して印刷実行を指示したら顔形状補正を伴う印刷処理がなされるとしてもよい。なお、上記各実施例では、本発明における画像変形を適宜「顔形状補正」と呼んでいるが、これは対象となる被写体が多くの場合人の顔だからである。実際の処理は「顔形状」の補正に限られないことは、被写体が人の顔以外のボールや車両、建築物、製造機器等であり得ることからも、明らかである。
これまでは、図3のフローチャートに示した処理をDSC500が実行し、図7のフローチャートに示した処理をプリンタ100が実行するという前提で説明を行ったが、DSC500が、プリンタ100が行う処理の一部を行うとしてもよいし、逆に、プリンタ100が、DSC500が行う処理の一部を行なうとしてもよい。
例えば、DSC500の側において、図7のフローチャートのS100の処理をも実行可能であってもよい。DSC500は、プリンタ100の、顔形状補正部200、比率情報取得部350の各機能と同じ機能を持つプログラム(顔形状補正部660、比率情報取得部670)を、内部メモリ600に格納しているものとする(図1参照)。この場合、DSC500は、上記S850において生成した画像ファイル内の画像データについて、ユーザからの指示に応じて、あるいは、ユーザからの指示を待つことなく自動的に、上記S100の処理対象とする。その結果、画像中の被写体がユーザが当該被写体を直接見たときの印象に近い形状に変形された画像データが得られ、DSC500では、当該得られた画像データを画像ファイルとしてメモリーカードMC等に保存することができる。
あるいは、プリンタ100の側において、DSC500の被写体距離推定部630の機能と同じ機能を持つプログラム(被写体距離推定部330)を、内部メモリ120に格納し(図2参照)、上記説明したDSC500側の処理の一部を行なうとしてもよい。
まずプリンタ100は、メモリーカードMC等を介して外部から入力した画像ファイルのいずれか一つを対象画像TIとして設定する(図8のS110)。次に、プリンタ100では、S120の処理の前に、図3のS820,830に相当する処理を行なう。つまり、顔領域検出部220が、対象画像TIから顔領域FAを検出するとともに、被写体距離推定部330が、対象画像TIにおける被写体距離Sdを推定する。
この場合、被写体距離推定部330の情報取得部340が、上記式(3)を用いた被写体距離Sdの算出に必要な情報を取得する。情報取得部340は、対象画像TIを表す画像ファイルにメタデータとして付加されている対象画像TIの全体の幅Wwiの値(画素数)を取得すると共に、顔領域FAの幅Wfiの値(画素数)を算出する。情報取得部340は、また、人物Pの顔の幅Wfの値として、内部メモリ120に格納された典型的な人物の顔の幅の概略値を取得する。情報取得部340は、また、対象画像TIの画像ファイルの付加データに含まれる撮像時のレンズ焦点距離fの値および結像面ISの幅Wxを取得する。被写体距離推定部330は、情報取得部340が取得した情報と上記式(3)とを用いて被写体距離Sdを算出(推定)する。このように被写体距離Sdを取得したら、プリンタ100では、図8のフローチャートに従って、S120以降の処理(ただし、S130の処理は不要)を実行する。
この発明は上記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。プリンタ100はインクジェットプリンタに限らず、他の方式のプリンタ、例えばレーザプリンタや昇華型プリンタであるとしてもよい。また上述した各画像処理の一部を、パーソナルコンピュータが行うとしてもよい。また上記では、画像出力機器の例としてプリンタ100を採用したが、画像出力機器としては、プロジェクタや、モニタ装置等も採用可能である。つまり、プロジェクタあるいはモニタ装置が、上述したプリンタ100による処理(印刷処理は除く)を行ない、最終的に得られた画像データを、スクリーンに投射したり、モニタに表示するとしてもよい。
画像処理装置としてのDSC500の構成を概略的に示す説明図。 画像処理装置としてのプリンタ100の構成を概略的に示す説明図。 画像生成処理の流れを示すフローチャート。 顔領域FAの検出結果の一例を示す説明図。 被写体距離Sdの推定方法を示す説明図。 画像の一覧表示を含むユーザインターフェースの一例を示す説明図。 顔形状補正印刷処理の流れを示すフローチャート。 顔形状補正処理の流れを示すフローチャート。 比率情報取得処理の流れを示すフローチャート。 単眼知覚サイズSMおよび両眼知覚サイズSBの算出の様子を示す説明図。 単眼知覚サイズSMおよび両眼知覚サイズSBを示す説明図。 比率情報テーブル420の一例を示す図。 顔形状補正後の対象画像TIが表示された表示部150の状態の一例を示す説明図。 顔領域FAの検出結果の一例を示す説明図。 変形領域設定処理の流れを示すフローチャート。 顔領域FAの高さ方向の位置調整処理の流れを示すフローチャート。 特定領域SAの一例を示す説明図。 評価値の算出方法の一例を示す説明図。 評価対象画素TPの選択方法の一例を示す説明図。 高さ基準点Rhの決定方法の一例を示す説明図。 概略傾き角RIの算出方法の一例を示す説明図。 顔領域FAの高さ方向の位置調整方法の一例を示す説明図。 顔領域FAの傾き調整処理の流れを示すフローチャート。 顔領域FAの傾き調整のための評価値の算出方法の一例を示す説明図。 各評価方向についての評価値の分散の算出結果の一例を示す説明図。 顔領域FAの傾き調整方法の一例を示す説明図。 変形領域TAの設定方法の一例を示す説明図。 変形処理の流れを示すフローチャート。 変形領域TAの小領域への分割方法の一例を示す説明図。 分割点Dの位置の移動の一例を示す説明図。 分割領域変形部260による画像の変形処理方法の概念を示す説明図。 三角形領域における画像の変形処理方法の概念を示す説明図。 変形領域TAの設定方法および小領域への分割方法の他の例を示す説明図。 分割点Dの位置の移動の他の例を示す説明図。
符号の説明
100…プリンタ、110…CPU、120…内部メモリ、130…I/F部、140…操作部、150…表示部、160…プリンタエンジン、170…カードI/F、172…カードスロット、200…顔形状補正部、220…顔領域検出部、230…顔領域調整部、240…変形領域設定部、250…変形領域分割部、260…分割領域変形部、310…表示処理部、320…印刷処理部、330…被写体距離推定部、340…情報取得部、350…比率情報取得部、410…分割点配置パターンテーブル、420…比率情報テーブル、500…デジタルスチルカメラ、502…レンズ、504…レンズ駆動部、506…レンズ駆動制御部、508…撮像素子、510…A/D変換器、512…I/F部、514…表示部、516…操作部、518…CPU、520…カードI/F、522…バス、524…カードスロット、600…内部メモリ、610…画像生成部、620…顔領域検出部、630…被写体距離推定部、640…情報取得部、650…画像ファイル生成部、660…顔形状補正部、670…比率情報取得部

Claims (11)

  1. 対象画像中の特定の被写体の画像を検出する被写体検出部と、
    上記対象画像の撮像に用いられる単眼レンズを介して捉えられる上記被写体の大きさと両眼によって知覚される上記被写体の大きさとの比率を表す比率情報を取得する比率情報取得部と、
    上記取得された比率情報に基づいて、対象画像上における上記被写体の画像を含む領域の画像変形を行う変形処理部と、
    を備えることを特徴とする画像処理装置。
  2. 上記比率情報取得部は、左眼によって知覚される被写体の大きさを示す左眼知覚範囲と右眼によって知覚される被写体の大きさを示す右眼知覚範囲とを、被写体上の注視点に対応する左眼知覚範囲上の点と当該注視点に対応する右眼知覚範囲上の点とを一致させることにより重ね合わせたときに、左眼知覚範囲および右眼知覚範囲に共通する範囲を、上記両眼によって知覚される上記被写体の大きさとすることを特徴とする請求項1に記載の画像処理装置。
  3. 上記被写体の実の大きさを示す第1の被写体サイズ情報を取得するサイズ情報取得部と、上記単眼レンズから上記被写体までの距離を示す被写体距離情報を取得する距離情報取得部とをさらに備え、
    上記比率情報取得部は、上記第1の被写体サイズ情報と被写体距離情報と基づいて、上記単眼レンズを介して捉えられる被写体の大きさを算出し、かつ、上記第1の被写体サイズ情報と被写体距離情報と予め規定された左右両眼間の距離を示す両眼距離情報とに基づいて、上記左眼知覚範囲と右眼知覚範囲とを算出することを特徴とする請求項2に記載の画像処理装置。
  4. 上記比率情報取得部は、複数の第1の被写体サイズ情報および被写体距離情報の組み合わせに夫々対応した比率情報を規定したテーブルを作成するとともに、上記サイズ情報取得部によって取得された第1の被写体サイズ情報と上記距離情報取得部によって取得された被写体距離情報とに対応する比率情報を上記テーブルを参照して取得することを特徴とする請求項3に記載の画像処理装置。
  5. 上記距離情報取得部は、上記対象画像に対する対象画像中の上記被写体の画像の大きさを示す第2の被写体サイズ情報と、対象画像の画角を特定可能な第3の情報とを取得するとともに、上記サイズ情報取得部によって取得された第1の被写体サイズ情報と、上記第2の被写体サイズ情報と、上記第3の情報とに基づき、上記被写体距離情報を推定することを特徴とする請求項3または請求項4のいずれかに記載の画像処理装置。
  6. 上記比率情報取得部は、被写体の部位毎に異なる比率情報を取得し、
    上記変形処理部は、画像変形の対象とした上記領域内における被写体の各部位に対応した領域毎に、異なる比率に基づいて画像変形を行うことを特徴とする請求項1〜請求項5のいずれかに記載の画像処理装置。
  7. 上記変形処理部は、上記比率情報に基づいて被写体の横幅方向において圧縮するように画像変形することを特徴とする請求項1〜請求項6のいずれかに記載の画像処理装置。
  8. 上記被写体検出部は、特定の被写体の画像として人物の画像を検出することを特徴とする請求項1〜請求項7のいずれかに記載の画像処理装置。
  9. 対象画像中の特定の被写体の画像を検出する被写体検出工程と、
    上記対象画像の撮像に用いられる単眼レンズを介して捉えられる上記被写体の大きさと両眼によって知覚される上記被写体の大きさとの比率を表す比率情報を取得する比率情報取得工程と、
    上記取得された比率情報に基づいて、対象画像上における上記被写体の画像を含む領域の画像変形を行う変形処理工程と、
    を備えることを特徴とする画像処理方法。
  10. 対象画像中の特定の被写体の画像を検出する被写体検出機能と、
    上記対象画像の撮像に用いられる単眼レンズを介して捉えられる上記被写体の大きさと両眼によって知覚される上記被写体の大きさとの比率を表す比率情報を取得する比率情報取得機能と、
    上記取得された比率情報に基づいて、対象画像上における上記被写体の画像を含む領域の画像変形を行う変形処理機能と、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
  11. 単眼レンズと、
    上記単眼レンズを介して捉えられた対象画像中の、特定の被写体の画像を検出する被写体検出部と、
    上記単眼レンズを介して捉えられた対象画像を撮像する撮像部と、
    上記撮像された対象画像の画像データを出力する出力部と、を備える第1の装置と、
    上記第1の装置から出力された対象画像の画像データを入力する入力部と、
    上記単眼レンズを介して捉えられた上記被写体の大きさと両眼によって知覚される上記被写体の大きさとの比率を表す比率情報を取得する比率情報取得部と、
    上記取得された比率情報に基づいて、上記入力した画像データ中の上記被写体の画像を含む領域の画像変形を行う変形処理部と、を備える第2の装置と、
    からなることを特徴とする画像処理システム。
JP2007224872A 2007-08-30 2007-08-30 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム Active JP4973393B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007224872A JP4973393B2 (ja) 2007-08-30 2007-08-30 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム
US12/201,474 US7961230B2 (en) 2007-08-30 2008-08-29 Image processing device, image processing program, image processing system, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007224872A JP4973393B2 (ja) 2007-08-30 2007-08-30 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム

Publications (2)

Publication Number Publication Date
JP2009059106A true JP2009059106A (ja) 2009-03-19
JP4973393B2 JP4973393B2 (ja) 2012-07-11

Family

ID=40406807

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007224872A Active JP4973393B2 (ja) 2007-08-30 2007-08-30 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム

Country Status (2)

Country Link
US (1) US7961230B2 (ja)
JP (1) JP4973393B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023112347A1 (ja) * 2021-12-16 2023-06-22 古野電気株式会社 物標監視装置、物標監視方法、及びプログラム

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4289415B2 (ja) * 2007-03-27 2009-07-01 セイコーエプソン株式会社 画像変形のための画像処理
US20110025836A1 (en) * 2008-03-18 2011-02-03 Satoshi Tamaki Driver monitoring apparatus, driver monitoring method, and vehicle
JP2009232246A (ja) * 2008-03-24 2009-10-08 Seiko Epson Corp 画像処理装置および画像処理方法
US8233078B2 (en) * 2009-02-19 2012-07-31 Apple Inc. Auto focus speed enhancement using object recognition and resolution
JP5506499B2 (ja) * 2010-03-30 2014-05-28 キヤノン株式会社 撮像装置、その制御方法、プログラム及び記録媒体
KR101972356B1 (ko) * 2010-12-21 2019-04-25 한국전자통신연구원 상반신 검출장치 및 검출방법
JP6573193B2 (ja) * 2015-07-03 2019-09-11 パナソニックIpマネジメント株式会社 判定装置、判定方法、および判定プログラム
CN106131409B (zh) * 2016-07-12 2019-01-25 京东方科技集团股份有限公司 图像处理方法及装置
KR102623989B1 (ko) * 2016-08-01 2024-01-11 삼성전자주식회사 영상 처리 방법 및 이를 지원하는 전자 장치
CN107911618A (zh) * 2017-12-27 2018-04-13 上海传英信息技术有限公司 拍照的处理方法、终端及终端可读存储介质
CN108376255B (zh) * 2018-03-30 2023-06-30 腾讯科技(深圳)有限公司 一种图像处理方法、装置及存储介质
WO2023087877A1 (zh) * 2021-11-22 2023-05-25 江苏科技大学 一种基于双目视觉和对称性的偏移量检测方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004318204A (ja) * 2003-04-10 2004-11-11 Sony Corp 画像処理装置、画像処理方法及び撮影装置
JP2005353047A (ja) * 2004-05-13 2005-12-22 Sanyo Electric Co Ltd 立体画像処理方法および立体画像処理装置
JP2006010610A (ja) * 2004-06-29 2006-01-12 Tokyo Univ Of Science 単眼視3次元位置計測装置および方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001209817A (ja) 2000-01-27 2001-08-03 Fujimikku:Kk 顔面画像の修正方法およびそのための装置
JP2004048644A (ja) * 2002-05-21 2004-02-12 Sony Corp 情報処理装置、情報処理システム、及び対話者表示方法
JP3855939B2 (ja) 2003-01-31 2006-12-13 ソニー株式会社 画像処理装置、画像処理方法及び撮影装置
JP4664805B2 (ja) 2005-11-17 2011-04-06 アイシン精機株式会社 顔端検出装置、顔端検出方法、及び、プログラム
WO2008091401A2 (en) * 2006-09-15 2008-07-31 Retica Systems, Inc Multimodal ocular biometric system and methods
US20080298643A1 (en) * 2007-05-30 2008-12-04 Lawther Joel S Composite person model from image collection

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004318204A (ja) * 2003-04-10 2004-11-11 Sony Corp 画像処理装置、画像処理方法及び撮影装置
JP2005353047A (ja) * 2004-05-13 2005-12-22 Sanyo Electric Co Ltd 立体画像処理方法および立体画像処理装置
JP2006010610A (ja) * 2004-06-29 2006-01-12 Tokyo Univ Of Science 単眼視3次元位置計測装置および方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023112347A1 (ja) * 2021-12-16 2023-06-22 古野電気株式会社 物標監視装置、物標監視方法、及びプログラム

Also Published As

Publication number Publication date
JP4973393B2 (ja) 2012-07-11
US20090059029A1 (en) 2009-03-05
US7961230B2 (en) 2011-06-14

Similar Documents

Publication Publication Date Title
JP4973393B2 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム
JP4946741B2 (ja) 画像処理装置、画像処理方法、及び画像処理システム
KR102126241B1 (ko) 화상 처리 장치, 화상 처리 방법, 화상 처리 장치용 프로그램, 기록 매체, 및 화상 표시 장치
JP5115398B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5239625B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US9595243B2 (en) Image processing apparatus and image processing method
US10467770B2 (en) Computer program for calibration of a head-mounted display device and head-mounted display device using the computer program for calibration of a head-mounted display device
US8249312B2 (en) Image processing device and image processing method
US20090028390A1 (en) Image Processing for Estimating Subject Distance
WO2012086362A1 (ja) 画像処理装置、そのプログラム、および画像処理方法
JP4389954B2 (ja) 画像処理装置、画像処理方法、コンピュータープログラム、記録媒体、および、プリンタ
JP4816538B2 (ja) 画像処理装置および画像処理方法
JP2008282205A (ja) 画像処理装置および画像処理方法
JP2010056726A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2010170219A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび印刷装置
JP4853541B2 (ja) 画像処理装置および画像処理方法
JP4816540B2 (ja) 画像処理装置および画像処理方法
JP7066414B2 (ja) 画像処理装置、表示システム、画像処理方法及びプログラム
JP2009217506A (ja) 画像処理装置及び画像処理方法
JP4737324B2 (ja) 画像処理装置、画像処理方法およびコンピュータプログラム
JP5163801B2 (ja) 装置、方法、及びコンピュータープログラム
JP2008250400A (ja) 画像処理装置および画像処理方法
JP2024003912A (ja) 画像処理装置、頭部装着型表示装置、画像処理装置の制御方法、頭部装着型表示装置の制御方法、およびプログラム
JP2009055305A (ja) 画像に情報を付加する画像処理
JP4946729B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100730

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120313

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120326

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4973393

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150420

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250