JP5500048B2 - 画像処理方法および画像処理装置 - Google Patents

Description

この発明は、顔情報に基づく画像データの補正を適切に行う画像処理方法および画像処理装置に関するものである。

近年、デジタルカメラで撮影時に画像を解析して補正を行うことが多くなってきた。その補正処理の一つとして、顔認識処理がある。これは、被写体に人物が含まれている際に画像から人物の顔を認識し、その認識した顔に合わせてオートフォーカスや露出を制御する機能である。また、顔認識機能を有するデジタルカメラでは、顔認識処理により得られる顔情報（顔オブジェクト情報や顔検出結果などと称することもある）を画像データに付加することが提案されている（例えば特許文献１参照）。そして、この特許文献１に記載の印刷装置では、画像データに付加される顔情報に基づいて画像データに対して色補正が実行され、色補正済の画像が印刷される。このように、デジタルカメラによる顔認識結果を利用して印刷装置側で独自に補正をかける技術が知られている。

特開２００７−２１３４５５号公報

ところで、デジタルカメラでは被写体を撮像しながら顔認識処理を行っているため、例えば撮影時に露出補正を組み合わせて顔認識処理を行うことができ、顔認識精度の向上が図られている。しかしながら、デジタルカメラの顔認識によって撮影画像に含まれる人物の顔の全部が完全かつ正確に認識される保証はない。このため、デジタルカメラ側での顔認識の補佐あるいは再確認を行う意味で印刷装置側でも独自に顔認識を行い、それにより検出される顔情報を利用して画像データに補正を掛けることは有効である。その一方で、印刷装置側での顔認識処理により検出した顔情報を使用して一律に画像データを補正することが妥当でないこともある。例えばデジタルカメラで既に補正されている画像データに対し、さらに印刷装置側で補正を掛けることになり、過剰補正や印刷速度の低下という問題が発生することがある。

この発明にかかるいくつかの態様は、顔情報に基づいて画像データの補正を行う画像処理方法および画像処理装置において、顔情報が付加された画像データに対する補正を適正化することを目的とする。

本発明の第１の態様は、上記目的を達成するため、画像データから人物の顔を認識する顔認識処理を実行して第１顔情報を検出する第１工程と、画像データに付加される第２顔情報を取得する第２工程と、第１顔情報が第２顔情報と一致するときには画像データの補正を規制する第３工程とを備えることを特徴としている。

また、本発明の第２の態様は、上記目的を達成するため、画像データから人物の顔を認識する顔認識処理を実行して第１顔情報を検出する顔情報検出部と、画像データに付加される第２顔情報を取得する顔情報取得部と、第１顔情報が第２顔情報と一致するときには画像データの補正を規制する補正制御部とを備えることを特徴としている。

このように構成された発明（画像処理方法および画像処理装置）では、第１顔情報が第２顔情報と一致するとき、画像データの補正が規制される。これは以下の理由からである。これら２種類の顔情報のうち第２顔情報は予め画像データに付加されているものであり、このように画像データへの第２顔情報の付加は、当該画像データを生成する際に顔認識処理および補正処理が行われている蓋然性が高いことを示している。したがって、当該画像データに対する顔認識処理により検出された第１顔情報が第２顔情報と一致する場合、上記補正規制によって画像データの補正が重複して実行されるのを防止することができる。このように第２顔情報が付加された画像データに対する補正が適正化されて無駄な画像データの補正が省かれる。

ここで、第１顔情報および第２顔情報の個数は常に同じというわけではなく、１対１、１対多、多対１、多対多などのケースが生じる。そこで、第１顔情報と第２顔情報との一致／不一致については、次のようにして判別するのが好適である。すなわち、顔認識処理により検出された第１顔情報の各々が画像データに付加された第２顔情報のいずれかと一致するか否かを判別し、第１顔情報の全部が第２顔情報のいずれかに一致するときに、第１顔情報が第２顔情報と一致するとして補正を規制してもよい。

また、第２顔情報のいずれとも一致しない第１顔情報が存在する、つまり第２顔情報で特定される人物以外の顔を顔認識処理によって検出したときには、第２顔情報のいずれとも一致しない第１顔情報と、第２顔情報とに基づいて画像データを補正するのが望ましい。このように第２顔情報のいずれとも一致しない第１顔情報を加えて画像データを補正することで画像データの補正精度をさらに高めることができる。

なお、第１顔情報と第２顔情報との一致／不一致については、例えば第１顔情報で特定される第１顔領域と、第２顔情報で特定される第２顔領域との重なり部分の面積によって求めることができる。より具体的には、重なり部分の面積が第２顔領域の面積の４０％以上であるときに第１顔情報が第２顔情報に一致すると判別することができる。

本発明にかかる画像処理装置の一実施形態を用いた印刷システムを示す図。 デジタルカメラで作成される画像ファイルの一例を示す図。 図２の部分拡大図。 顔認識処理により認識された顔の一例を示す図。 図１の印刷装置で実行される画像処理および印刷動作を示すフローチャート。 図１の印刷装置で実行される画像処理および印刷動作を示すフローチャート。 プリンター顔座標およびカメラ顔座標の座標リストへの登録例を示す図。

図１は、本発明にかかる画像処理装置の一実施形態を用いた印刷システムを示す図である。この印刷システムは、デジタルカメラ２００の撮影により取得された画像データを、メモリカードＭ、ＵＳＢ(Universal Serial Bus)ケーブルや無線ＬＡＮ(Local Area Network)等によって印刷装置１００に転送し、印刷装置１００で印刷するものである。すなわち、ここではユーザーがデジタルカメラ２００で画像を撮影して画像データを生成し、その画像データをそのまま印刷装置１００で読み込んで印刷する、いわゆるダイレクト印刷を想定しているが、本発明を適用可能な印刷システムはこれに限定されるものではない。つまり、デジタルカメラ２００で生成した画像データをパーソナルコンピューターや携帯電話などに取り込み、パーソナルコンピューターから印刷装置１００に画像データを送信して印刷する印刷システムにも本発明を適用することは可能である。

デジタルカメラ２００では、同図に示すように、ＣＰＵ（Central Processing Unit）２０１、ＲＯＭ（Read Only Memory）２０２、ＲＡＭ（Random Access Memory）２０３、ＣＣＤ（Charge Coupled Device）２０４、ＧＰ（Graphic Processor）２０５およびＩ／Ｆ（Interface）２０６がバス２０７を介して相互に接続され、これらの間で情報の授受が可能となっている。そして、ＣＰＵ２０１はＲＯＭ２０２に格納されているプログラムに応じて各種演算処理を実行しながらデジタルカメラ２００の制御を行う。このとき一時的に必要となるデータはＲＡＭ２０３に格納される。また、ＣＣＤ２０４は、光学系２０８によって集光された被写体からの光学像を電気信号に変換して出力する。この光学系２０８は、複数のレンズおよびアクチュエータによって構成されており、アクチュエータによってフォーカス等を調整しながら被写体の光学像を複数のレンズによってＣＣＤ２０４の受光面に結像する。さらに、ＧＰ２０５は、ＣＰＵ２０１から供給される表示命令に基づいて表示用の画像処理を実行し、得られた表示用画像データをＬＣＤ（Liquid Crystal Display）２０９に供給して表示させる。

Ｉ／Ｆ２０６はデジタルカメラ２００の入出力機能を提供するものであり、操作ボタン２１０、ジャイロセンサー２１１およびカードＩ／Ｆ回路２１２の間で情報を授受する際に、データの表現形式を適宜変換する装置である。Ｉ／Ｆ２０６に接続される操作ボタン２１０には、電源、モード切替え、シャッターなどのボタンや、各種機能を設定できる入力手段があり、これらによってユーザーはデジタルカメラ２００を任意に制御して動作させることが可能となっている。また、ジャイロセンサー２１１はデジタルカメラ２００によって被写体を撮影した際のカメラ本体の角度（水平面に対する角度）を示す信号を生成して出力する。デジタルカメラ２００は、上記したカメラ本体の角度を含め、撮影時における種々の情報（例えば、露光、被写体等に関する情報）を生成する。それらの情報の一つである撮影情報に後述する顔情報が含まれる。なお、本実施形態では、デジタルカメラ２００は、撮影情報をＥｘｉｆ（Exchangeable Image File Format）情報に記載し、画像データに付加した画像ファイルを生成することができる構造となっている。

また、カードＩ／Ｆ回路２１２はカードスロット２１３に挿入されたメモリカードＭとの間で情報を読み書きするためのインタフェースである。さらに、Ｉ／Ｆ２０６は図示を省略するＵＳＢ、無線ＬＡＮなどの外部機器との接続機能も有しており、有線または無線にて印刷装置１００との間で画像ファイルの授受が可能となっている。なお、デジタルカメラ２００で作成され、印刷装置１００に与えられる画像ファイル（画像データ＋Ｅｘｉｆ情報）については、後で詳述する。

印刷装置１００はデジタルカメラ２００で撮像された画像を印刷する装置であり、次のように構成されている。印刷装置１００では、ＣＰＵ１０１、ＲＯＭ１０２、ＲＡＭ１０３、ＥＥＰＲＯＭ（Electrically Erasable and Programmable ROM）１０４、ＧＰ１０５およびＩ／Ｆ１０６がバス１０７を介して相互に接続され、これらの間で情報の授受が可能となっている。ＣＰＵ１０１はＲＯＭ１０２およびＥＥＰＲＯＭ１０４に格納されているプログラムに応じて各種演算処理を実行するとともに印刷装置１００の各部を制御し、本発明の「顔情報検出部」、「顔情報取得部」および「補正制御部」として機能する。また、ＣＰＵ１０１が実行対象とするプログラムやデータについてはＲＡＭ１０３に一時的に格納される一方、印刷装置の電源が切断された後も保持しておくデータ等についてはＥＥＰＲＯＭ１０４に格納される。さらに、ＣＰＵ１０１は必要に応じてＧＰ１０５に対して表示命令を与え、この表示命令に応じてＧＰ１０５が表示用の画像処理を実行し、その処理結果をＬＣＤ１０８に供給して表示させる。

Ｉ／Ｆ１０６は、操作ボタン１０９、カードＩ／Ｆ回路１１０およびプリンターエンジンコントローラー１１１の間で情報を授受する際に、データの表現形式を適宜変換する装置である。印刷装置１００では、操作ボタン１０９は印刷装置１００のメニュー選択等を行う時に押されるように構成されている。また、カードＩ／Ｆ回路１１０は、カードスロット１１２と接続されており、このカードスロット１１２に挿入されたメモリカードＭからデジタルカメラ２００によって生成された画像ファイルを読み出す。なお、Ｉ／Ｆ１０６は、図示を省略するＵＳＢ、無線ＬＡＮなどの外部機器との接続機能も有しており、有線通信または無線通信にてデジタルカメラ２００との間で画像ファイルの授受が可能となっている。

そして、印刷装置１００は、メモリカードＭを介して、あるいはデータ通信により画像データを受け取ると、ＣＰＵ１０１により種々の処理を行うとともにプリンターエンジンコントローラー１１１によりプリンターエンジン１１３を制御し、これによって画像データに対応する画像を印刷する。以下、図２ないし図４に基づき画像ファイルの構成を説明した上で、本実施形態における画像処理動作および印刷動作について図４ないし図７を参照しつつ詳述する。

図２は上記のように構成されたデジタルカメラで作成される画像ファイルの一例を示す図である。また、図３は図２の部分拡大図である。この実施形態では、デジタルカメラ２００はＣＣＤ２０４で撮像された画像データをＲＡＭ２０３に格納する。また、デジタルカメラ２００は、被写体に人物が含まれているときには顔認識処理を行う（顔認識方式については従来より数多く提案されており、それらのうちいずれの方式を採用してもよい）。なお、本実施形態では、顔認識処理により検出される顔認識結果は、図４（ａ）に示すような座標情報が顔情報として表現される。すなわち、同図（ａ）に示すように、画像データは所定の画像幅(Width)と画像高さ(Height)の画素で構成されており、Ｘが横軸、Ｙが縦軸を表しており、左上が原点（０，０）である。そして、画像データから顔が検出されると、両目端が入る間隔（顔サイズ）を１辺とする正方形の顔領域（または顔矩形という）ＦＲｃを左上（ＬＴ）、左下（ＬＢ）、右上（ＲＴ）、右下（ＲＢ）の４点の座標で囲まれる領域で表し、顔領域ＦＲｃを示す座標、つまり顔座標を、認識した顔の個数（つまりカメラ顔個数）ＮｃとともにＲＡＭ２０３に格納する。

また、本明細書では、後で説明するように、印刷装置１００においてもデジタルカメラ２００での顔認識と同様に顔認識を行って顔座標を求めるため、デジタルカメラ２００での顔認識により得られる顔座標を「カメラ顔座標」と称し、左上（ＬＴｃ）、左下（ＬＢｃ）、右上（ＲＴｃ）、右下（ＲＢｃ）で示す。また、顔認識処理により複数個の顔が検出される場合もあるため、第ｎ番目のカメラ顔座標を左上（ＬＴｎｃ）、左下（ＬＢｎｃ）、右上（ＲＴｎｃ）、右下（ＲＢｎｃ）で示す。また、後述するように印刷装置１００の顔認識処理により検出される顔座標については「プリンター顔座標」と称し、第ｎ番目のプリンター顔座標については、左上（ＬＴｎｐ）、左下（ＬＢｎｐ）、右上（ＲＴｎｐ）、右下（ＲＢｎｐ）で示す。図４（ａ）では、カメラ側での顔認識処理によって二人の人物が検出され、各人物のカメラ顔座標（ＬＴ１ｃ，ＬＢ１ｃ，ＲＴ１ｃ，ＲＢ１ｃ）、（ＬＴ２ｃ，ＬＢ２ｃ，ＲＴ２ｃ，ＲＢ２ｃ）が図示されている。

また、この実施形態では、上記のように画像データ、顔個数および顔座標などをＲＡＭ２０３に格納しているが、その記録方式としてディジタルスチルカメラ用画像ファイルフォーマット規格Ｅｘｉｆ Ver.2.2.1を使用している。このＥｘｉｆ画像ファイルの構造は、基本的には通常のＪＰＥＧ（Joint Photographic Experts Group）画像形式そのものであり、その中にサムネイル画像や撮影関連データ等のデータをＪＰＥＧの規約に準拠した形で埋め込んだものである。

本実施形態で使用する画像ファイルは、図２の左側部分に示すように、最初にＳＯＩ(Start of image)３０１がある。その後に、ＡＰＰ１（アプリケーション・マーカーセグメント）３０２、ＤＱＴ(Define Quantization Table)３０３、ＤＨＴ(Define Huffman Table)３０４の順となっている。さらにその後に、ＳＯＦ(Start of Frame)３０５、ＳＯＳ(Start of Stream)マーカー３０６、圧縮データ(Compress Data)３０７の順となっている。最後にＥＯＩ(End of Image)３０８がある。これらのうちＡＰＰ１はアプリケーションプログラムで使用するためのデータ領域として図２の中央部分に示す構造を有している。ＡＰＰ１の構造では、先頭にＡＰＰ１ Ｍａｒｋｅｒ領域３０２ａがある。そして、その次にＬｅｎｇｔｈ領域３０２ｂがある。

Ｌｅｎｇｔｈ領域３０２ｂに続くデータの最初の６バイトの領域３０２ｃでは、識別子としてASCII文字の“Exif"が、その次に2バイトの0x00が続く。そこからＴｉｆｆ(Tagged Image File Format)形式でデータが格納されている。Ｔｉｆｆ形式の最初の８バイトはＴｉｆｆヘッダー(Header)領域３０２ｄである。

また、Ｔｉｆｆヘッダー領域３０２ｄの次の０ｔｈ ＩＦＤ(IFD of main image)領域３０２ｅに、同図の右側部分に示すように、画像幅、画像高さ等の画像関連情報が格納される。そして、０ｔｈ ＩＦＤの次に０ｔｈ ＩＦＤ Ｖａｌｕｅ領域３０２ｆがある。さらに、その次にＥｘｉｆ ＩＦＤ領域３０２ｇが設けられ、露出時間、Ｆナンバーなどの撮影関連情報が格納される。また、Ｅｘｉｆ ＩＦＤ領域３０２ｇにＥｘｉｆ ＩＦＤ Ｖａｌｕｅ領域３０２ｈがある。なお、現在のところ、顔認識処理により検出される顔個数ＮｃとＮｃ個の顔座標をＥｘｉｆタグに書き込む規格は規定されていないが、本実施形態では顔個数ＮｃがＥｘｉｆ ＩＦＤ領域３０２ｇに書き込まれ、Ｎｃ個の顔座標がＥｘｉｆ ＩＦＤ Ｖａｌｕｅ領域３０２ｈに書き込まれるとともに該書込位置をポイントする情報がＥｘｉｆ ＩＦＤ領域３０２ｇに書き込まれると仮定して説明を続ける。もちろん、これらの情報をメーカーに依存する領域に書き込むように構成してもよい。このように、顔位置（顔座標）の情報である顔情報はＥｘｉｆ情報に記載され、画像データに添付されている。したがって、Ｅｘｉｆ情報に顔情報が含まれる場合には、顔個数Ｎｃやシーン情報などとともに画像データの補正に利用される。一方、Ｅｘｉｆ情報に顔情報が含まれていない場合、顔情報がないと判断される。

次に、上記のようなデータ構造（図２）を有する画像ファイルがメモリカードＭに保存されており、そのメモリカードＭから画像ファイルを読み出し、印刷装置１００により画像ファイルに含まれる各種情報に基づき所定の画像処理を実行して印刷する動作について、図４ないし７を参照しつつ説明する。

図５および図６は図１の印刷装置で実行される画像処理および印刷動作を示すフローチャートである。ユーザーが印刷装置１００のカードスロット１１２にメモリカードＭを挿入し、操作ボタン１０９を操作して印刷指令を与えると、ＣＰＵ１０１がＲＯＭ１０２に格納されているプログラムにしたがって装置各部を制御して以下の画像処理および印刷動作を実行する。

まず、ＣＰＵ１０１は、印刷の対象となる画像ファイルをメモリカードＭから取得し、ハフマン解凍処理を実行し、量子化ＤＣＴ（Discrete Cosine Transform）係数を得る（ステップＳ１０）。より具体的には、ＣＰＵ１０１は、図２に示す画像ファイルからエントロピー符号化テーブルを取得し、圧縮データ３０７に含まれているＹ（輝度）成分、Ｃｒ（色差成分）、および、Ｃｂ（色差成分）のそれぞれのブロックのＤＣ係数と、ＡＣ係数とを復号する。なお、この際、最小符号化単位であるＭＣＵ（Minimum Coded Unit）単位で復号を行う。

また、ＣＰＵ１０１は、ステップＳ１０において得られた量子化ＤＣＴ係数を逆量子化する（ステップＳ１１）。具体的には、ＣＰＵ１０１は、図２に示す画像ファイルから量子化テーブルを取得し、ステップＳ１０において得られた量子化ＤＣＴ係数に乗じることにより（逆量子化することにより）、ＤＣＴ係数を得る。

次に、ＣＰＵ１０１は、画像を回転させるために必要な情報を、例えばＲＡＭ１０３にキャッシュする（ステップＳ１２）。具体的には、ＪＰＥＧ方式によって圧縮された画像を回転させる場合、ＭＣＵのＤＣ成分（直流成分）とＡＣ成分（交流成分）のそれぞれを一度ハフマン展開しなければならない。ここで、ＤＣ成分については隣接するＤＣ成分値の差分をハフマン符号化することから、隣接するＭＣＵとの相関関係が問題となる。また、ＡＣ成分ではハフマン符号化処理によりそのデータ長が各ＭＣＵで一定にならず、ＪＰＥＧデータのビットストリーム中のどのデータが求めるＭＣＵのＡＣ成分値であるかが不明となることが問題となる。そこで、ステップＳ１２では、各ＭＣＵのＤＣ成分値とＡＣ成分のアドレスを求めてキャッシュしておくことにより、ローテート処理を可能とする。

そして、ＣＰＵ１０１はステップＳ１１で得られたＤＣＴ係数に対して逆ＤＣＴ演算を施すことによりもとの画素値を得る（ステップＳ１３）。また、ＣＰＵ１０１は、ステップＳ１３の処理によって得られたＹＣＣ空間の画像をＲＧＢ（Red Green Blue）空間の画像と、ＨＳＢ（Hue Saturation Brightness）空間の画像に変換する（ステップＳ１４）。

次に、ＣＰＵ１０１はステップＳ１３およびステップＳ１４の処理において得られたＹＣＣ，ＲＧＢ，ＨＳＢのそれぞれの画像をＲＡＭ１０３に格納して保持する。なお、このとき、データ量を削減するために画素を所定の割合で間引きした後にＲＡＭ１０３に格納してもよい（ステップＳ１５）。

また、ＣＰＵ１０１は、ステップＳ１５においてＲＡＭ１０３に格納されたＹＣＣ，ＲＧＢ，ＨＳＢそれぞれの画像の成分について、ヒストグラムを計算する（ステップＳ１６）。具体的には、ＲＧＢ画像については、Ｒ，Ｇ，Ｂそれぞれの画像についてヒストグラムを計算する。その結果、画像を構成する各成分の分布を得る。

上記したように、本実施形態では、ステップＳ１０〜１６の処理はＭＣＵ単位で行われており、ＣＰＵ１０１は、全てのＭＣＵについての処理が終了したことを確認するまで、ステップＳ１０に戻って処理を繰り返して実行する。一方、全てのＭＣＵについての処理が終了した場合には、次のステップＳ１７に進む。

このステップＳ１７で、ＣＰＵ１０１は、ステップＳ１５でＲＡＭ１０３に格納した画像データを使って顔認識処理を行う。この顔認識方式についても、デジタルカメラ２００と同様に従来より提案されている方式を採用することができ、デジタルカメラ２００で採用した方式と同一のものを採用してもよいし、異なる方式であってもよい。また、印刷装置１００の顔認識処理により検出されたプリンター顔座標についてはＲＡＭ１０３に記憶される。この実施形態では、図７（ａ）に示すように予め１０個のプリンター顔座標を記憶するためのメモリ空間がＲＡＭ１０３に準備されており、このメモリ空間に検出されたプリンター顔座標が登録顔情報Ｎｏ．１、２、…の順序で記憶される。例えば図４（ｃ）に示すように印刷装置（プリンター）１００での顔認識処理によって三人の人物について、各人物のプリンター顔座標（ＬＴ１ｐ，ＬＢ１ｐ，ＲＴ１ｐ，ＲＢ１ｐ）、（ＬＴ２ｐ，ＬＢ２ｐ，ＲＴ２ｐ，ＲＢ２ｐ）、（ＬＴ３ｐ，ＬＢ３ｐ，ＲＴ３ｐ，ＲＢ３ｐ）が検出されると、図７（ａ）に示すようにそれぞれ登録顔情報Ｎｏ．１〜３に登録される。なお、該当するプリンター顔座標がない登録顔情報Ｎｏ．４以降のアドレスにはゼロを登録する。また、ＣＰＵ１０１は、検出した顔の個数、つまりプリンター顔個数Ｎｐを設定する（上記した具体例では、Ｎｐ＝３と設定する）。

また、プリンター顔座標の検出・記憶に続いて、ＣＰＵ１０１はステップＳ１８およびＳ１９を実行してカメラ顔座標を取得し、ＲＡＭ１０３のカメラ顔座標用のメモリ空間に記憶するとともにカメラ顔個数Ｎｃを記憶する。すなわち、ＣＰＵ１０１は、図２の画像ファイル中のＥｘｉｆタグから顔個数Ｎｃおよび顔座標を読み込み（ステップＳ１８）、さらにカメラ顔座標についてはＱＶＧＡ（Quarter Video Graphics Array）サイズに規格化し、それらをＲＡＭ１０３に格納する（ステップＳ１９）。この実施形態では、カメラ顔座標についても、図７（ｂ）に示すように予め１０個を記憶するためのメモリ空間がＲＡＭ１０３に準備されており、このメモリ空間にカメラ顔座標が登録顔情報Ｎｏ．１、２、…の順序で記憶される。例えば図４（ａ）に示すようにデジタルカメラ２００での顔認識処理によって二人の人物について、各人物のカメラ顔座標（ＬＴ１ｃ，ＬＢ１ｃ，ＲＴ１ｃ，ＲＢ１ｃ）、（ＬＴ２ｃ，ＬＢ２ｃ，ＲＴ２ｃ，ＲＢ２ｃ）が検出されて画像データに付加されているときには、印刷装置１００において２つのカメラ顔座標は図７（ｂ）に示すようにそれぞれ登録顔情報Ｎｏ．１、２に登録される。なお、該当するカメラ顔座標がない登録顔情報Ｎｏ．３以降のアドレスにはゼロを登録する。また、ＣＰＵ１０１は、ステップＳ１８で読み込んだ顔の個数、つまりカメラ顔個数Ｎｃを設定する（上記した具体例では、Ｎｃ＝２と設定する）。

こうして、プリンター顔座標とカメラ顔座標とが得られると、ＣＰＵ１０１は、印刷装置１００で検出されたプリンター顔座標（第１顔情報）の各々がステップＳ１９で取得されたカメラ顔座標（第２顔情報）のいずれかと一致するか否かを判別する（ステップＳ２０〜Ｓ２５）。すなわちステップＳ２０で、ＣＰＵ１０１は、カメラ顔個数Ｎｃがゼロよりも大きいか否かを判別する。ここで、ステップＳ１８で取得したカメラ顔個数Ｎｃが元々ゼロである場合、あるいはステップＳ２１〜Ｓ２５の処理を全カメラ顔座標について完了した時点でカメラ顔個数Ｎｃ＝０となるため、これらの場合には、ＣＰＵ１０１はステップＳ２０で「ＮＯ」と判別し、ステップＳ２６に進む。

一方、ステップＳ２０で「ＹＥＳ」のとき、つまり各プリンター顔座標との異同判別が実施されていないカメラ顔座標が残っている間、ステップＳ２１〜Ｓ２５の処理を繰り返して行う。このステップＳ２１で、ＣＰＵ１０１は、プリンター顔個数Ｎｐがゼロよりも大きいか否かを判別する。そして、ステップＳ２１で「ＹＥＳ」のとき、つまりＮｃ番目のカメラ顔座標との異同判別が実施されていないプリンター顔座標が残っているときには、ＣＰＵ１０１は、Ｎｃ番目のカメラ顔座標で特定されるカメラ顔と、各プリンター顔座標で特定されるプリンター顔との重複率を算出する（ステップＳ２２）。例えば図４（ｂ）に示すように、カメラ顔座標（ＬＴ２ｃ，ＬＢ２ｃ，ＲＴ２ｃ，ＲＢ２ｃ）で特定されるカメラ顔の顔領域ＦＲｃと、プリンター顔座標（ＬＴ２ｐ，ＬＢ２ｐ，ＲＴ２ｐ，ＲＢ２ｐ）で特定されるプリンター顔の顔領域ＦＲｐとの重なっている重複領域（同図（ｂ）中のハッチング領域）ＯＲの面積を求めるとともに、顔領域ＦＲｃ（またはＦＲｐ）に対する重複領域ＯＲの面積率を上記重複率として求める。

また、ＣＰＵ１０１は、その他のプリンター顔の顔領域ＦＲｐについても同様にして求めた後、重複率が４０％以上となるプリンター顔が存在する、つまりステップＳ１７で検出したプリンター顔のなかにＮｃ番目のカメラ顔と重なる（あるいは一致する）ものがあるか否かを判別する（ステップＳ２３）。このステップＳ２３でＮｃ番目のカメラ顔と重なるプリンター顔が見つかった場合のみ、ＣＰＵ１０１は、当該プリンター顔を特定するプリンター顔座標をＲＡＭ１０３から削除するとともに、プリンター顔個数Ｎｐを「１」だけデクリメントし（ステップＳ２４）、ステップＳ２５に進む。なお、Ｎｃ番目のカメラ顔と重なるプリンター顔がない場合には、ステップＳ２４を実行することなく、ステップＳ２５に進む。

このステップＳ２５で、ＣＰＵ１０１はＮｃ番目のカメラ顔座標をＲＡＭ１０３の座標リストに登録する。この座標リストは、例えば図７（ｃ）に示すように予め１０個の顔座標を記憶するためのＲＡＭ１０３に設定されたメモリ空間であり、上記カメラ顔座標用およびプリンター顔座標用とは別個に設けられたものである。また、ＣＰＵ１０１は、Ｎｃ番目カメラ顔座標の座標リストへの登録後に、カメラ顔個数Ｎｃを「１」だけデクリメントし、ステップＳ２０に戻る。

このようにステップＳ２０〜Ｓ２５の実行により、ステップＳ１９で取得されたカメラ顔座標の全部は座標リストに登録されるのに対し、ステップＳ１７で検出されたプリンター顔座標のうちカメラ顔座標と重なるものについてはＲＡＭ１０３から削除される。例えば図４および図７に示す具体例では、３つのうちプリンター顔座標（ＬＴ１ｐ，ＬＢ１ｐ，ＲＴ１ｐ，ＲＢ１ｐ）、（ＬＴ２ｐ，ＬＢ２ｐ，ＲＴ２ｐ，ＲＢ２ｐ）がＲＡＭ１０３から削除され、プリンター顔座標（ＬＴ３ｐ，ＬＢ３ｐ，ＲＴ３ｐ，ＲＢ３ｐ）のみがＲＡＭ１０３に残っている（なお、この時点でのプリンター顔個数Ｎｐ＝１である）。

次のステップＳ２６で、ＣＰＵ１０１は、残っているＮｐ個のプリンター顔座標を座標リストに登録する。そして、残ったプリンター顔個数と、座標リストへの顔座標の登録状況とに応じて３つのケース、つまり、
(1)座標リストにプリンター顔座標が登録されているケース、
(2)座標リストにカメラ顔座標もプリンター顔座標も登録されていないケース、
(3)座標リストにカメラ顔座標のみが登録されているケース、
に区分けし、各ケースに応じてエンハンスパラメータを設定する（ステップＳ２７〜Ｓ３２）。

(1)座標リストにプリンター顔座標が登録されているケース
この場合、ステップＳ２７でＣＰＵ１０１は、プリンター顔個数Ｎｐがゼロよりも大きい、つまりステップＳ１７で検出されたプリンター顔座標のうち一部または全部が残っていると判別し、ステップＳ２８およびＳ２９を実行する。すなわち、ＣＰＵ１０１は、座標リストに登録された顔座標に基づいて全ての顔位置を計算し、さらに顔の平均顔色を取得した（ステップＳ２８）後、顔色が最適になるようにエンハンスパラメータを計算する（ステップＳ２９）。なお、エンハンスパラメータ計算の詳細については省略するが、ＲＡＭ１０３に記憶したＲＧＢヒストグラムに基づきコントラスト、明度、彩度、シャープネスなどの各画質パラメータの特徴量を抽出し、抽出した特徴量が所定の画質パラメータの特徴量に近づくようエンハンスのパラメータを設定する。

(2)座標リストにカメラ顔座標もプリンター顔座標も登録されていないケース
これは、ステップＳ２７で「ＮＯ」と判別され、しかもステップＳ３０で「ＮＯ」と判別されたケースである。このステップＳ３０は、座標リストに顔登録座標が含まれているか否かを判別するステップである。したかって、ステップＳ３０で「ＮＯ」と判別されるという技術的意味は、座標リストにカメラ顔座標が登録されない、さらに遡って言えば、画像データにカメラ顔座標が付加されていないことを意味している。したがって、この場合、ＣＰＵ１０１は、画像全体が最適になるようにエンハンスパラメータを計算する（ステップＳ３１）。

(3)座標リストにカメラ顔座標のみが登録されているケース
これは、ステップＳ２７で「ＮＯ」と判別され、しかもステップＳ３０で「ＹＥＳ」と判別されたケースであり、ステップＳ１７で検出した各プリンター顔座標が、ステップＳ１９で取得したカメラ顔座標のいずれかと一致していることを意味している。また、画像データにカメラ顔座標を付加する際には、顔認識処理および補正処理が行われている。したがって、カメラ顔座標しか座標リストに残っていない状況で、これらカメラ顔座標に基づき画像データを補正することは補正処理の重複となり、無駄である。そこで、本ケースでは、ＣＰＵ１０１は「エンハンスなし」と設定し、後で説明するように印刷前のエンハンス処理を省き、デジタルカメラ２００により予め補正された画像データに基づいて印刷処理を実行する。

このようにエンハンスパラメータに関する設定が完了すると、ＣＰＵ１０１は、印刷対象となる画像ファイルにおいて、解凍処理の対象となる位置を示すファイルポインタをリセットし、処理位置を画像ファイルの先頭に復元する（ステップＳ３３）。そして、ＣＰＵ１０１は、以下のステップＳ３４〜Ｓ４２を繰り返して画像データに基づいて画像を印刷する。

ＣＰＵ１０１は、ＲＡＭ１０３にキャッシュされた１ＭＣＵライン分の画像データにハフマン解凍処理を施し、量子化ＤＣＴ係数を得る（ステップＳ３４）。ここで、１ＭＣＵラインとは、画像を回転させる場合には、画像を構成する列方向に１列のＭＣＵ群をいい、回転させない場合には、画像を構成する行方向に１列のＭＣＵ群をいう。そして、ＣＰＵ１０１は、ステップＳ２９の処理において得られた量子化ＤＣＴ係数を逆量子化し（ステップＳ３５）、さらにステップＳ３０で得られたＤＣＴ係数に対して逆ＤＣＴ演算を施すことによりもとのデータを得る（ステップＳ３６）。

こうして得られたＹＣＣ空間の画像を、ＣＰＵ１０１はＲＧＢ空間の画像に変換する（ステップＳ３７）。そして、ＣＰＵ１０１は、エンハンスの実行が設定されている場合のみ、つまりステップＳ３８で「ＹＥＳ」と判別した場合のみ、ＲＧＢ空間の画像を構成する各画素に対してステップＳ２９、Ｓ３１において算出したエンハンスパラメータを適用することにより、印刷される画像を最適な色合いに補正し（ステップＳ３９）、次のステップＳ４０に進む。

ＣＰＵ１０１は、こうして補正された画像データに対して、リサイズ、回転などのレイアウト処理を施し（ステップＳ４０）、プリンターエンジンコントローラー１１１の図示せぬバンドバッファに供給する。これを受けたプリンターエンジンコントローラー１１１は、プリンターエンジン１１３の各部を制御して画像データに対応する画像を印刷する（ステップＳ４１）。そして、印刷処理が完了すると、ＣＰＵ１０１はＲＡＭ１０３のキャッシュ状態を更新する（ステップＳ４２）。そして、全ＭＣＵライン分について上記ステップＳ３４〜Ｓ４２が完了すると、一連の処理を終了する。

以上のように、本実施形態によれば、全プリンター顔座標がカメラ顔座標と一致している場合には、印刷装置１００でエンハンス処理を行わず、デジタルカメラ２００で補正された画像データに基づき印刷処理を行っているので、画像データの補正が重複して実行されるのを防止することができる。また、無駄な画像データの補正を省略することができ、ユーザーが印刷装置１００でのエンハンス処理を待つ必要はなくなる。

また、ステップＳ１９で画像データに付加されているカメラ顔座標を取得するとともに、ステップＳ１７で画像データからプリンター顔座標を検出し、各プリンター顔の顔領域ＦＲｐと各カメラ顔の顔領域ＦＲｃとの重複率を求め、それらに基づきプリンター顔座標がカメラ顔座標と一致しているか否かを判別している。このため、被写体に含まれる人物が複数人であり、デジタルカメラ２００で検出されるカメラ顔座標の数と、印刷装置１００で検出されるプリンター顔座標の数が同数である場合はもちろんのこと、異なる場合でも、各プリンター顔座標について、カメラ顔座標との一致／不一致を正確に求めることができる。また、カメラ顔の顔領域ＦＲｃとプリンター顔の顔領域ＦＲｐとの重複領域ＯＲの面積率に基づき重複率を求め、基準値と対比してカメラ顔座標との一致／不一致を判別しているため、客観的で、かつ高精度な判別が可能となっている。なお、本実施形態では、基準値を４０％以上としているが、これは種々の検証に基づき設定した値である。

さらに、いずれのカメラ顔座標とも一致しないプリンター顔座標が検出された場合には、当該プリンター顔座標で特定される人物の顔色と、カメラ顔座標で特定される人物の顔色とに基づきエンハンス処理を行っているので、デジタルカメラ２００で補正し切れなかった人物を含め、被写体に含まれる人物全体について顔色の色合いを最適化することができる。

このように、本実施形態では、エンハンス処理が本発明の「画像データの補正」に相当し、プリンター顔情報およびカメラ顔情報がそれぞれ本発明の「第１顔情報」および「第２顔情報」に相当する。また、顔領域ＦＲｐ、ＦＲｃはそれぞれ本発明の「第１顔領域」および「第２顔領域」に相当し、重複領域ＯＲが本発明の「重なり部分」に相当する。

なお、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能である。例えば、上記実施形態では、画像データに顔座標などを付加した画像ファイルをメモリカードＭに記録し、当該メモリカードＭを介して印刷装置１００に供給して印刷しているが、有線または無線通信により画像ファイルが印刷装置１００に供給される場合も、本発明を適用することで上記した実施形態と同様の作用効果が得られる。

また、上記実施形態では、顔領域を４点の座標で示しているが、顔領域の表現方式はこれに限定されるものではなく、例えば中心座標に大きさを組み合わせたもの、中心座標に幅および高さを組み合わせたもの等を用いることができる。

また、上記実施形態では、本発明にかかる画像処理装置および方法を印刷装置１００に適用しているが、複数の電子機器から構成される印刷システムにも、また印刷装置以外の１つの電子機器（例えば複合機、ファクシミリ装置など）にも適用可能である。

また、上記実施形態にかかる画像処理方法を実行するプログラムを、ＣＤ−ＲＯＭ、光ディスク、光磁気ディスク、不揮発性メモリカードなどの記憶媒体に記憶させ、この記憶媒体からプログラムをコードとして読み出し、コンピューターにおいて実行してもよい。つまり、上記プログラムを記憶した記憶媒体、コンピュータープログラム自体も本発明の一実施形態に含まれる。

１００…印刷装置、 １０１…ＣＰＵ（顔情報検出部、顔情報取得部、補正制御部）、 １０２…ＲＯＭ、 １０３…ＲＡＭ、 １０４…ＥＥＰＲＯＭ、 ２００…デジタルカメラ、 ３０７…圧縮データ（画像データ）、 ＦＲｃ…（第２）顔領域、 ＦＲｐ…（第１）顔領域、 ＯＲ…重複領域

Claims (8)

1. 画像データから人物の顔を認識する顔認識処理を実行して第１顔情報を検出する第１工程と、
   前記画像データに付加される第２顔情報を取得する第２工程と、
   前記第１顔情報が前記第２顔情報と一致するときには前記画像データの補正を規制する第３工程と
   を備えることを特徴とする画像処理方法。
2. 前記第３工程は、前記第１工程で検出された前記第１顔情報の各々について第１顔情報が前記第２工程で取得された前記第２顔情報のいずれかと一致するか否かを判別する判別工程と、前記第１顔情報の全部が前記第２顔情報のいずれかと一致すると判別されると前記補正を規制する規制工程とを有する請求項１に記載の画像処理方法。
3. 前記判別工程で前記第２顔情報のいずれとも一致しないと判別される前記第１顔情報があるとき、前記第２顔情報のいずれとも一致しない前記第１顔情報と、前記第２顔情報とに基づいて前記画像データを補正する第４工程を備える請求項２に記載の画像処理方法。
4. 前記判別工程は、前記第１顔情報で特定される第１顔領域と、前記第２顔情報で特定される第２顔領域との重なり部分の面積が前記第２顔領域の面積の４０％以上であるときに前記第１顔情報が前記第２顔情報と一致すると判別する請求項２または３に記載の画像処理方法。
5. 画像データから人物の顔を認識する顔認識処理を実行して第１顔情報を検出する顔情報検出部と、
   前記画像データに付加される第２顔情報を取得する顔情報取得部と、
   前記第１顔情報が前記第２顔情報と一致するときには前記画像データの補正を規制する補正制御部と
   を備えることを特徴とする画像処理装置。
6. 前記補正制御部は、前記顔情報検出部により検出された前記第１顔情報の各々について第１顔情報が前記顔情報取得部で取得された前記第２顔情報のいずれかと一致するか否かを判別し、前記第１顔情報の全部が前記第２顔情報のいずれかに一致すると判別されると前記補正を規制する請求項５に記載の画像処理装置。
7. 前記補正制御部は、前記第２顔情報のいずれとも一致しない前記第１顔情報があるときには、前記第２顔情報のいずれとも一致しない前記第１顔情報と、前記第２顔情報とに基づいて前記画像データを補正する請求項５または６に記載の画像処理装置。
8. 前記補正制御部は、前記第１顔情報で特定される第１顔領域と、前記第２顔情報で特定される第２顔領域との重なり部分の面積が前記第２顔領域の面積の４０％以上であるときに前記第１顔情報が前記第２顔情報に一致すると判別する請求項６または７に記載の画像処理装置。

Images