JP2010010946A - 画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体 - Google Patents

画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体 Download PDF

Info

Publication number
JP2010010946A
JP2010010946A JP2008166326A JP2008166326A JP2010010946A JP 2010010946 A JP2010010946 A JP 2010010946A JP 2008166326 A JP2008166326 A JP 2008166326A JP 2008166326 A JP2008166326 A JP 2008166326A JP 2010010946 A JP2010010946 A JP 2010010946A
Authority
JP
Japan
Prior art keywords
image processing
image
detection
target area
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008166326A
Other languages
English (en)
Other versions
JP4769847B2 (ja
JP2010010946A5 (ja
Inventor
Yoshitoku Kawai
良徳 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008166326A priority Critical patent/JP4769847B2/ja
Priority to US12/483,815 priority patent/US20090324069A1/en
Publication of JP2010010946A publication Critical patent/JP2010010946A/ja
Publication of JP2010010946A5 publication Critical patent/JP2010010946A5/ja
Application granted granted Critical
Publication of JP4769847B2 publication Critical patent/JP4769847B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/62Retouching, i.e. modification of isolated colours only or in isolated picture areas only
    • H04N1/624Red-eye correction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30216Redeye defect

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Abstract

【課題】デジタルカメラとプリンタの両方に顔領域の検出機能がある場合に画像処理のスピードと画像処理結果の最適化を図ること。
【解決手段】画像データを入力し複数の種類の画像処理から選択された画像処理の種類を判別する(S1401〜1402)。判別された画像処理の種類に応じて、画像処理に使用する顔領域を第1の顔領域または第2の顔領域のいずれかに決定する(S1403〜1404,1406)。使用する顔領域が第2の顔領域に決定されると新たに画像の第2の顔領域を検出する(S1405)。決定されたいずれかの顔領域を使用して画像処理を行う(S1407)。
【選択図】図14

Description

本発明は画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体に関する。詳細には、デジタルカメラ等の画像作成装置とプリンタ等の画像出力装置に同じような検出処理を有する場合に、画像処理の種類によって使用する検出結果を切り替える画像処理装置及び方法、該方法のプログラム、該プログラムを記憶した記憶媒体に関する。
写真撮影において、すべての写真が適正に撮影されているとは限らず、撮影状況や撮影対象などにより露出不足、露出過剰、逆光、色かぶり、赤目等の失敗写真となることも多い。伝統的な銀塩フィルムカメラでの撮影では、現像やプリント時にプリントショップで補正を行い、ユーザが気にする必要は少なかった。しかし、近年普及しているデジタルカメラでの撮影では、撮影からプリントまでユーザ自身で行うことができる。そのため上記失敗に対する補正をユーザの環境で行うことが必要になる。そこでアプリケーションやプリンタの製造業者では、撮影された画像データのヒストグラム等を解析し自動的に補正する技術を開発し、アプリケーションやプリンタなどに搭載してきた。
ところで、写真撮影で最も重要なのは人物であり、人物や顔が最適になることが求められる。さらにより良い補正を行うために、画像データ中から顔領域を自動で検出し、検出した顔領域の情報を用いて補正等を行う技術も開発されて搭載されている。
一方、デジタルカメラにおいても撮影時により人物に対して最適な結果が得られるような技術の開発が行われている。例えば、撮影時に顔領域の検出を行い、検出した顔領域にピントを合わせたり、検出した顔領域の露出が最適になるように露出を決定したりしている。
そのためデジタルカメラで撮影時に検出した顔領域を利用した技術が開発され始めている。デジタルカメラ側で検出した顔領域を画像データに付加し、付加された顔領域をプリント時に自動トリミングする際に使用する方法(特許文献1)、デジタルカメラ側で検出した顔領域をプリンタ側での自動補正に使用する方法(特許文献2)が開発されている。
また、デジタルカメラとプリンタ両者に顔検出技術が搭載され、写真撮影からプリントへの一連のワークフローの中で複数の顔検出技術が存在し得る状況に成ってきている。
さらに、顔検出を応用した様々な画像補正、画像加工、画像処理も新たに考えられている。一例として、美肌補正、笑顔検出、人物認識による振り分けなどが挙げられる。
特開2004−207987号公報 特開2007−213455号公報
特許文献1,2では、プリンタ側では顔領域の検出機能を持たず、デジタルカメラで検出した顔領域をプリンタ側で使用することのみについて考えられている。しかし、顔領域の検出機能のないデジタルカメラでは上記従来技術は使用できないため、プリンタ側での顔領域検出機能は不可欠である。従来技術では、デジタルカメラとプリンタの両方に顔領域の検出機能がある場合について考慮されていない。そのため課題として、デジタルカメラとプリンタの両方に顔領域の検出機能があった場合についての処理フローを決定する必要がある。
検出される顔領域は検出アルゴリズムなどにより異なることがある。例えば、目/鼻/口を含む肌色の領域のみを顔領域としたり、上記顔領域に髪の毛や背景も含む領域を合わせて顔領域としたり、といった違いがある。つまりデジタルカメラの機種によって画像データに付加された顔領域が異なってくる。またプリンタ内で検出される顔領域とデジタルカメラで検出される顔領域も、検出アルゴリズムが異なれば相違する。
例えば検出された顔領域を用いた画像処理の一例として逆光補正処理と赤目補正処理を考える。顔領域を用いた赤目補正処理などは、検出された顔領域内で赤目の検出を行う。目/鼻/口を含む肌色の領域のみの顔領域と髪の毛や背景も含む顔領域のどちらでも、顔領域内に赤目が含まれていれば、両者とも赤目は検出され、検出された顔領域の違いは影響しない。
逆光補正処理では顔領域の明るさを最適にするために顔領域の色分布を解析する。その場合、機器により検出された顔領域の違いがある場合、算出される顔領域の色分布にも違いが出る。色分布が異なると補正量も異なる。目/鼻/口を含む肌色の領域のみの顔領域と髪の毛や背景も含む顔領域を比較すると、髪の毛も含む顔領域のほうが暗部の分布が増え、露出が不足と判定されることがある。特許文献1,2のようにデジタルカメラでの顔領域の検出結果をそのままプリンタでの画像補正に用いた場合、カメラの種類(検出された顔領域の相違)によっては最適な結果が得られないことがある。
このように、特許文献1,2のようにデジタルカメラの検出結果をそのまま利用し画像補正・加工を行った場合を考える。処理の種類によっては、得られる結果も遜色がなくプリンタ側で顔検出を行わないため画像処理のスピードアップが図れる場合と、スピードアップは図れるがカメラの種類によっては最適な結果が得られない場合の2つがある。従来技術は後者の場合が大きな問題となる。
本発明の目的は、カメラの種類によらずにプリンタ側で最適な処理結果が得られるようにすることである。
本発明の上述の課題は、以下に列記する態様の本発明により解決される。
本発明の第1の態様は、入力された画像データに対して対象領域の検出を行う検出手段、及び、該画像データの対象領域に対して選択的に第1または第2の画像処理を行う画像処理手段を備えた画像処理装置であって、前記第1及び第2の画像処理から選択された画像処理を判別する手段を備え、前記画像処理手段は、前記第1の画像処理を行うと判別された場合、前記画像データに予め付加されている撮影情報に基づき、該第1の画像処理を前記画像データの対象領域に対して行い、及び、前記第2の画像処理を行うと判別された場合、該第2の画像処理を前記検出手段により検出した対象領域に対して行うことを特徴とすることができる。
本発明の第2の態様は、画像データの対象領域に対して選択的に第1または第2の画像処理を行う画像処理方法において、前記第1及び第2の画像処理から選択された画像処理を判別する判別ステップ、入力された画像データに対して対象領域の検出を行う検出ステップ、並びに、該画像データの対象領域に対して選択的に前記第1または第2の画像処理を行う画像処理ステップであって、前記判別ステップにおいて前記第1の画像処理を行うと判別された場合、前記画像データに予め付加されている撮影情報に基づき、該第1の画像処理を前記画像データの対象領域に対して行い、及び、前記判別ステップにおいて前記第2の画像処理を行うと判別された場合、該第2の画像処理を前記検出ステップにおいて検出した対象領域に対して行う画像処理ステップを含むことを特徴とすることができる。
上記各態様の本発明により、以下に列記する効果が得られる。
入力された画像データに予め対象領域が付加されている場合と、入力された画像データに対して対象領域の検出を行う場合の両方について、画像処理フローが実現可能となる。
さらに、入力された画像データに異なる検出アルゴリズムによって検出された対象領域が付加されている場合にも、選択された画像処理に応じて使用する対象領域の検出結果を切り替えることができる。そうすることで、上記2つの場合の画像に対する画像処理のスピードアップと画像処理結果の最適化を図ることができる。
(実施形態1)
図1は、本発明を適用し得る画像処理装置であるプリンタ101のハードウェア構成の例を示したものである。プリンタ内部には、CPU102、ROM103、RAM104、さらに、印刷処理を実行するためのプリンタエンジン105を保持している。また、近年では、プリンタにスキャナを搭載した複合機が台頭していることもあり、場合によっては、原稿を読み取るためのスキャナエンジン107を備えている場合もある。また、表示装置106は、プリントを行う際に用紙、印刷品位などの様々な設定を行うために使用される。108はボタン、タッチパネル等のユーザインターフェイス、109はパーソナルコンピュータ等との接続するためのインターフェイスを示している。上記デバイスが、システムバスを介して接続されている状態が、プリンタ内部の基本構造である。
なお、この他にもプリンタを構成する要素として様々なものが考えられる。例えば、電源部や、用紙をハンドリングするためのフィーダ部や、ネットワークと直接接続するためのインターフェイスなどである。しかし、それらについては本実施形態では直接言及することはないため、ここでは割愛する。
図2、図3は、本発明で考えられる印刷環境の一例である。図2は、デジタルカメラで撮影した画像データを印刷する形態を示したものである。デジタルカメラ201で撮影された画像データを、メモリカード202に保存する。メモリカード202はプリンタ203に接続され、撮影した画像データがプリンタ203から印刷される。
図3はパーソナルコンピュータを主とした印刷環境の一例を示した図である。パーソナルコンピュータ303はハードディスクを保持している。ハードディスクには、カードリーダ302を介してメモリカード301内の画像データを保存したり、ルータ305を介してインターネット306に接続してダウンロードした画像データを保存したり、と様々な経路から入手したデータを保存している。このハードディスクに保存されたデータは、パーソナルコンピュータ303で操作することにより、プリンタ304から印刷される。
上記のように、本実施形態は、デジタルカメラ等の画像作成装置で作成された画像データをプリンタ等の画像出力装置で印刷等、画像出力する形態とすることができる。
画像作成装置と画像出力装置の組み合わせをデジタルカメラとプリンタとして説明するが、次の組み合わせであっても構わない。スキャナとプリンタ、デジタルカメラとモニタ(画像処理アプリケーション)、モニタ(画像処理アプリケーション)とプリンタなどが考えられる。
以下、実施形態1の画像作成装置に関して説明する。
図4は、デジタルカメラ等の画像作成装置で画像データを作成する際の一連の構成に関して示した図である。撮影時に検出した顔情報を用いて露出等の制御を行い、画像データの作成を行う場合について一実施形態として説明する。画像作成装置において、何らかの顔検出が行われ、検出された顔領域が画像データに付加され保存されることが重要である。そのため、撮影後の画像データに対して顔検出のみを行い検出結果を画像データに付加して保存しても良いし、検出結果を用いて画像データを補正し補正した画像データに検索結果を付加して保存しても良い。
画像作成装置は、撮像部401、顔検出部402、撮影制御部403、画像保存部404から構成される。
撮像部401は、CCDなどの撮像素子により被写体を信号値に変換する。
顔検出部402は、撮像部401で取得したデータ内に顔領域が含まれているか判定及び検出を行う。顔検出方法は、既に提案されているパターンマッチングを利用した手法、ニューラルネットワークによる学習データを利用した手法など、どのような手法により検出してもよい。
図5は、顔検出結果を説明するための図である。画像領域501内で、任意のアルゴリズムにより顔検出が行われる。画像領域501内に顔領域502が検出された場合、顔領域の中心座標(顔中心座標503)、顔領域の幅(顔幅w504)、顔領域の高さ(顔高h505)を検出結果として出力する。この他に回転角度などを出力してもよい。
図4の顔検出部402は、撮像部401から得られた信号値より、顔領域の中心座標、幅、高さを検出結果として撮像制御部403および画像保存部404へ出力する。
撮像制御部403は、撮像部401で得られた信号値および顔検出部402で検出された顔領域の情報より最適な撮影条件を決定し撮影制御を行い、画像データを生成する。
制御に用いた露出時間、絞り等の撮影条件は画像データとともに画像保存部404へ送られる。
画像保存部404は、撮影条件及び顔領域の検出結果をタグ情報として画像データに付加して保存する。
タグ情報に関しては、図6を利用して説明する。
図6は、保存される画像データのデータ構造を示した図である。保存される画像データは、タグ情報部601と画像データ部602とに分かれる。
画像データ部602には、撮影された画像情報が格納されている。タグ情報(撮影情報)601は、メイン情報603、サブ情報604、メーカ独自情報605、サムネイル情報606に分かれる。
メイン情報603は、撮影時の日時や機種名などの撮影に関する情報が格納されている。サブ情報604は、画像の圧縮モード、色空間、画素数などの情報が格納されている。メーカ独自情報605は、入力装置開発メーカが独自に出力した情報が格納されている。サムネイル情報606は、撮影された画像データから作成された縮小画像がプレビュー用として格納されている。
顔検出結果は、メーカ独自情報605に格納する。詳細には、顔検出結果である、顔の中心座標607、顔の大きさ(顔領域の幅及び高さ)608が格納されている。
画像保存部404ではこれらタグ情報(撮影情報)を画像データに付加して保存する。
以上が、実施形態1の画像作成装置に関する説明である。
次に上述した画像作成装置の動作手順に関して説明する。図7は、画像作成装置の処理フロー図である。
まず、撮像部401により、被写体の信号値を取得する(S701)。顔検出部402は、取得した信号値に対して顔検出処理を行い、顔検出情報を取得する(S702)。撮影制御部403は、検出した顔領域と信号値を元に撮影条件を決定して撮影し画像データを作成する。また制御に用いた条件を撮影情報として出力する(S703)。画像保存部404は、検出した顔領域を含む撮影情報と撮影した画像データを組み合わせて、図6のデータ構造の画像データとして保存する(S704)。
これら一連のフローにより、検出した顔情報を含む撮影情報を付加した画像データが作成される。
図8は、画像作成装置で作成された画像データをプリンタ等の画像出力装置で印刷出力等する際の一連の構成に関して示した図である。
本実施形態の画像出力装置は、画像入力部801と、画像処理選択部802と、検出器判定部803と、顔検出部804と、タグ解析部805と、画像処理部806と、画像印刷部807とを含んで構成され、プログラムにしたがって各要素が処理をする。
画像入力部801では、予めデジタルカメラで検出された顔領域の情報を含む撮影情報が付加された画像データの読み込みを行う。
画像処理選択部802は、画像データに対して行う画像補正・加工処理の選択を行う。これはユーザが明示的に指定しても良いし、印刷設定などに応じてプリンタが自動で選択することも考えられる。
検出器判定部803は、選択された画像処理の種類により、デジタルカメラで検出した顔領域を使用するかプリンタ側で新たに検出した顔領域のどちらを使用するか(どちらの検出器を使用するか)判定を行う。
顔検出部804では、プリンタ側で画像データを解析し新たに顔領域の検出を行うことが可能である。顔検出方法は、画像作成装置で説明したように、既に提案されているパターンマッチングを利用した手法、ニューラルネットワークによる学習データを利用した手法など、どのような手法であってもよい。
タグ解析部805は、デジタルカメラで予め検出され、画像データにタグ情報(撮影情報)として付加された顔領域の検出結果の取得を行う。
画像処理部806は、検出器判定部803により決定した検出器により検出された顔領域の情報を選択的に用いて画像処理を行う。
画像印刷部807は、画像処理部806で画像処理された画像の印刷を行う。
検出された顔領域の情報を用いて画像処理部806が行う代表的な画像処理として、赤目補正技術と逆光補正技術について説明する。
まず、顔領域を用いた赤目補正技術について説明する。
検出された顔領域の位置情報より器官検出対象領域を決定する。次に、決定された器官検出対象領域に対して器官検出を行う。赤目補正の場合は目の検出を行う。検出された目が赤目であるかどうかを判定し、赤目が自然な色合いの虹彩色に戻すように赤目に対して補正を行う。
図9の目/鼻/口を含む肌色の領域のみを顔領域(第1の顔領域)とする場合、領域内に目を含むため、問題なく目を検出でき、検出された目が赤目ならば赤目補正できる。図10の髪の毛や背景も含む領域を顔領域(第2の顔領域)とする場合も領域内に目を含むため、問題なく目を検出でき、検出された目が赤目ならば赤目補正できる。このように、赤目補正の処理結果が検出された顔領域の違いにより相違することはない。すなわち、画像処理部806が画像入力部801からの画像に対して顔検出部804による検出結果を用いても、画像入力部801からのタグ情報からタグ解析部805が取得した検出結果を用いても、赤目補正を最適に行うことができる。
さらに、検出された顔領域に対してマージンを加味して一回り広い領域を器官検出対象領域とすることも可能である。こうすることで、顔検出のアルゴリズムの違いや精度等による検出器による顔領域の違いをさらに吸収できる。
また、器官検出を行わず、検出対象領域内に赤い点が存在しないかを検出し、赤い点部分の特徴を詳細に解析することで、赤目がどうかを判定しても構わない。検出された顔領域の情報を用いて画像処理部806が画像処理を行うことが重要である。
次に、顔領域を用いた逆光補正技術について説明する。
検出された顔領域の位置情報より顔領域内のヒストグラムを算出する。ヒストグラムの平均値を算出し、顔領域の輝度とする。それとは別に画像データの全領域に対してもヒストグラムを算出し、画像データの輝度とする。算出した顔領域の輝度と画像データの輝度から顔領域の明るさが最適となるような補正パラメータを決定する。決定したパラメータにより逆光補正を行う。
ところで、図9の目/鼻/口を含む肌色の領域のみを顔領域とする場合、顔領域内のヒストグラムは図11のようになる。一方、図10の髪の毛や背景も含む領域を顔領域とする場合、顔領域内のヒストグラムは図12のようになる。図12のヒストグラムを見ると、髪の毛を含むため暗部の分布が増加する。2つのヒストグラムは大きく異なる。逆光補正は顔領域の肌色を最適にするためには顔領域の肌色のみのヒストグラムを取得するのが望ましいため、図9の顔領域についてのヒストグラム(図11)を利用する方が望ましい。そのため、本実施形態においてプリンタで顔検出を行う際は、目/鼻/口を含む肌色領域のみを顔検出部804により検出して画像処理部806で利用することで、逆光補正の精度を上げる。
上記のように、画像処理によって、検出された顔領域の違いが画像処理結果に大きく関係する画像処理とそうでない画像処理があることがわかる。検出した顔領域の位置情報のみを使用する画像処理(上記赤目補正技術)は、検出結果の違いが画像処理結果に影響を受けにくい。一方検出した顔領域内のヒストグラムを使用する画像処理(上記逆光補正技術)は、検出結果の違いにより画像処理結果が変わってくる。
顔領域の検出結果の違いが画像処理結果に影響しないかまたは影響が小さい画像処理に関しては、処理速度を優先してプリンタ側では顔検出は行わず、タグ解析部805で取得したデジタルカメラで検出された顔領域を画像処理部806で用いる。このような画像処理は、検出領域の位置情報のみを使用するものが多い。このようなデジタルカメラで検出された顔領域を用いた方が好適な結果が得られる画像処理として上記赤目検出、赤目補正に加えて、口や鼻や目や眉などの器官検出処理、それら器官に対して何らかの補正を行う器官補正等がある。器官補正に関しては、目をつむっていた場合に目を開けたりする補正も考えられる。さらに、器官には含まれないしわ/ほくろ/しみ等の特徴検出、それら特徴を補正する特徴補正も、デジタルカメラで検出された顔領域を用いた方が好適である。さらに、器官などを解析し笑顔を判定する笑顔検出、器官などを解析しその顔が誰であるかを認識する人物認識も、デジタルカメラで検出された顔領域を用いた方が好適である。認識した顔領域を基準にトリミングする自動トリミング技術も、デジタルカメラで検出された顔領域を用いた方が好適である。これらの、顔領域の位置情報依存の画像処理を第1の画像処理と呼ぶ。
一方、検出結果の違いが画像処理結果に影響する画像処理に関しては、画像処理結果を優先して画像処理に最適な検出領域になるようにプリンタ側で顔検出を行いプリンタ側で顔検出部804により検出された顔領域を画像処理部806で用いる。このような画像処理は、検出領域の色または輝度の分布を解析し補正量を解析するようなものが多い。このように顔検出部804により検出された顔領域を用いた方が好適な結果が得られる画像処理として上記の逆光補正に加えて、一般的な露出補正も含まれる。また、被写体のみの露出を制御しそれ以外の露出はほぼ変えない覆い焼き補正なども、プリンタ側で検出した顔領域を用いた方が好適である。さらに、顔などの肌をより綺麗に見えるよう、色味補正や平滑化を行う美肌補正も、プリンタ側で検出した顔領域を用いた方が好適である。これらの、おける色または輝度の分布を解析し補正量を解析する画像処理を第2の画像処理と呼ぶ。
検出器判定部803は、上記に基づき、選択された画像処理の種類により、デジカメで検出した顔領域を使用するかプリンタ側で新たに検出した顔領域のどちらを使用するか(どちらの検出器を使用するか)判定を行う。予めプリンタで行う画像処理に関して検出結果の違いにより影響があるかないかを調べておき、画像処理の種類と使用する検出結果をデータベースに保持しておく。これにより、選択された画像処理をデータベースで参照してどちらの検出結果を使用するか判定することが可能である。
データベースの一例を図13に示す。画像処理の種類と使用する検出器が対応して記載されている。画像処理部806では、「プリンタ」と記載された画像処理が選択された場合は顔検出部804により新たに検出された顔領域を用い、「デジタルカメラ」と記載された処理が選択された場合はタグ解析部805で取得した顔領域を用い、選択された処理を行う。
次に、上記の構成を備えた本実施形態に係る画像出力装置であるプリンタにおける処理手順について、図14のフローチャートを参照して説明する。
まず、予めデジタルカメラで検出された顔領域を含む撮影情報が付加された画像データを、画像入力部801が、図2のメモリカード202、または、図3のパーソナルコンピュータ303に備えられたハードディスクから読み込む(S1401)。
次に、画像処理選択部802で画像データに対して行う画像処理をユーザが選択すると、その選択を受け取る(S1402)。ユーザ選択に替えて、印刷設定などに応じてプリンタが自動で画像処理を選択し、自動選択された処理を判別することもできる。
判定部803が、画像データに付加された撮影情報に記録されている顔領域とプリンタ側で新たに顔領域の検出を行い新たに検出した顔領域のどちらを使用するかを、選択された画像処理の種類に基づきデータベースを参照し判定する(S1403,S1404)。
選択された画像処理が顔領域内の色分布等に依存する画像処理であってプリンタで検出した顔領域を使用すると判定した場合、顔検出部804は、プリンタ側で画像データを解析し新たに顔領域の検出を行う(S1405)。
一方、選択された画像処理が顔領域の位置情報依存の画像処理であり画像データに付加された撮影情報に記録されている顔領域を利用すると判定した場合、ステップS1406の処理がされる。すなわち、タグ解析部805は、画像データにタグ情報として付加された、デジタルカメラ側検出の顔領域の検出結果を取得する。ここで、デジタルカメラで撮影し検出した顔領域に対してマージンを加えた顔領域を使用することもできる。
画像処理部806において、検出器判定部803により決定した検出器により検出された顔領域の情報を用いて、選択された画像処理を行う(S1407)。
最後に、画像印刷部807において、画像処理された画像の印刷を行う(S1408)。
これら一連のフローにより、検出した顔情報を付加した画像データを画像処理した結果が印刷される。
本実施形態によれば、おおよその顔領域が決まっていればよい器官検出等にはデジタルカメラでの顔検出結果を用いることで、処理時間を短縮できる。また、顔領域内の色の分布等は補正アルゴリズムに最適な顔領域検出を行う必要があるため、デジタルカメラでの未知の性能の検出結果を使用せずにプリンタ側で顔領域検出を行うことで処理精度を向上して最適な処理結果を得ることができる。
(実施形態2)
本実施形態では、メモリカード等に保存された画像データについてなされた顔領域検出と同じような検出処理をプリンタで行う場合、メモリカード等に保存された検出結果をプリンタにおける検出処理の前処理に使用することで、処理内容を削減できる。
プリンタ側で顔領域検出する場合、画像データの全領域に対して顔検出すると処理時間が増大するので、プリンタ側ではデジタルカメラで検出された顔領域を包含する近傍領域に対してのみ顔検出を行うことで全領域に対して顔検出するより処理時間を短縮できる。また、画像処理に応じた顔検出をプリンタ側で行っているので補正精度も維持できる。
本実施形態は実施形態1と同一のハードウェア構成で実施でき、画像作成装置、画像出力装置とも図4,図8に示した構成を備え、図8中の各要素が実施形態1とは別のプログラムにしたがって処理をする。本実施形態に係る画像出力装置の処理フローに関して図15を用いて説明する。
まず、予めデジタルカメラで検出された顔領域が付加された画像データ、画像入力部801が、図2のメモリカード202から、または、図3のパーソナルコンピュータ303に備えられたハードディスクから読み込む(S1501)。
次に、画像処理選択部802で画像データに対して行う画像処理をユーザが選択すると、その選択を受け取る(S1502)。ユーザ選択に替えて、印刷設定などに応じてプリンタが自動で画像処理を選択し、自動選択された処理を判別することもできる。
検出器判定部803が、画像データに付加された顔領域を使用するか、またはプリンタ側で新たに顔領域の検出を行い新たに検出した顔領域を使用するかを、選択された画像処理の種類に基づき、データベースを参照して判定する(S1503)。
タグ解析部805は、画像データにタグ情報として付加された、デジタルカメラ側で検出された顔領域の検出結果を取得する(S1504)。ここで、デジタルカメラで撮影し検出した顔領域に対してマージンを加えた顔領域を使用することもできる。
ステップS1505ではステップS1503における判定結果に応じて処理を分岐する。デジタルカメラで検出した顔領域を使用すると判定した場合はステップS1504で取得した顔領域の検出結果を利用する。
プリンタで検出した顔領域を使用すると判定した場合、顔検出部804は、ステップS1504で取得した検出結果を前処理に用いて検出対象領域を決定し、デジタルカメラで検出された顔領域を包含する近傍領域について新たに顔領域を検出する(S1506)。
画像処理部806において検出器判定部803により決定した検出器により検出された顔領域の情報を用いて画像処理を行う(S1507)。
最後に、画像印刷部807において画像処理された画像の印刷を行う(S1508)。
<他の実施形態>
本発明は上述のように、複数の機器(たとえばホストコンピュータ、インターフェイス機器、リーダ、プリンタ等)から構成されるシステムに適用しても一つの機器(たとえば複写機、ファクシミリ装置)からなる装置に適用してもよい。
また、前述した実施形態の機能を実現するように各種のデバイスを動作させるように該各種デバイスと接続された装置あるいはシステム内のコンピュータに、前記実施形態機能を実現するためのソフトウェアのプログラムコードを供給し、そのシステムあるいは装置のコンピュータ(CPUあるいはMPU)を格納されたプログラムに従って前記各種デバイスを動作させることによって実施したものも本発明の範疇に含まれる。
またこの場合、前記ソフトウェアのプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコード自体、およびそのプログラムコードをコンピュータに供給するための手段、例えばかかるプログラムコードを格納した記憶媒体は本発明を構成する。
かかるプログラムコードを格納する記憶媒体としては例えばフロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
またコンピュータが供給されたプログラムコードを実行することにより、前述の実施形態の機能が実現されるだけではなく、そのプログラムコードがコンピュータにおいて稼働しているOS(オペレーティングシステム)、あるいは他のアプリケーションソフト等と共同して前述の実施形態の機能が実現される場合にもかかるプログラムコードは本発明の実施形態に含まれることは言うまでもない。
さらに供給されたプログラムコードが、コンピュータの機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに格納された後そのプログラムコードの指示に基づいてその機能拡張ボードや機能格納ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本発明に含まれることは言うまでもない。
本発明を適用し得る印刷装置の内部のハードウェア構成例を示すブロック図である。 本発明が実施される、印刷装置の接続環境の一例を示す図である。 本発明が実施される、印刷装置の接続環境の別の例を示す図である。 本発明の実施形態における画像作成に係るシステムブロック図である。 タグ情報内に含まれる顔情報の説明図である。 画像タグ情報の説明図である。 本発明の実施形態における画像作成のフローチャートである。 本発明の実施形態における画像出力に係るシステムブロック図である。 本発明の実施形態における顔領域の一例(目/鼻/口を含む肌色の領域のみの顔領域)を説明する説明図である。 本発明の実施形態における顔領域の別の例(図9の顔領域に加え髪の毛/背景を含む顔領域)を説明する説明図である。 本発明の実施形態における、図9の顔領域のヒストグラムである。 本発明の実施形態における、図10の顔領域のヒストグラムである。 本発明の実施形態における画像処理と使用する検出器の対応データベースを説明する説明図である。 本発明の実施形態1における画像出力の処理手順を示すフローチャートである。 本発明の実施形態2における画像出力の処理手順を示すフローチャートである。
符号の説明
101:プリンタ
102:CPU
103:ROM
104:RAM
105:プリンタエンジン
106:表示部
107:スキャナエンジン
108:ユーザインターフェイス
109:シリアルIF
110:外部機器
201:デジタルカメラ
202:メモリカード
203:プリンタ
301:デジタルカメラ
302:カードリーダ
303:パーソナルコンピュータ
304:プリンタ
305:ルータ
306:インターネット

Claims (14)

  1. 入力された画像データに対して対象領域の検出を行う検出手段、及び、該画像データの対象領域に対して選択的に第1または第2の画像処理を行う画像処理手段を備えた画像処理装置であって、
    前記第1及び第2の画像処理から選択された画像処理を判別する手段を備え、
    前記画像処理手段は、前記第1の画像処理を行うと判別された場合、前記画像データに予め付加されている撮影情報に基づき、該第1の画像処理を前記画像データの対象領域に対して行い、及び、前記第2の画像処理を行うと判別された場合、該第2の画像処理を前記検出手段により検出した対象領域に対して行うことを特徴とする画像処理装置。
  2. 前記第1の画像処理は前記対象領域における位置情報のみを使用する画像処理であり、前記第2の画像処理は前記対象領域における色または輝度の分布を解析し補正量を解析する画像処理であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記対象領域は顔領域であることを特徴とする請求項2に記載の画像処理装置。
  4. 前記第1の画像処理は、赤目検出、赤目補正、器官検出、器官補正、特徴検出、特徴補正、笑顔検出、人物認識、自動トリミングのいずれかであること特徴とする請求項3に記載の画像処理装置。
  5. 前記第2の画像処理は、露出補正、逆光補正、美肌補正、覆い焼き補正のいずれかであること特徴とする請求項3に記載の画像処理装置。
  6. 前記検出手段は、前記予め付加されている対象領域を利用して検出を行うことを特徴とする請求項1乃至5のいずれか一項に記載の画像処理装置。
  7. 画像データの対象領域に対して選択的に第1または第2の画像処理を行う画像処理方法において、
    前記第1及び第2の画像処理から選択された画像処理を判別する判別ステップ、
    入力された画像データに対して対象領域の検出を行う検出ステップ、並びに、
    該画像データの対象領域に対して選択的に前記第1または第2の画像処理を行う画像処理ステップであって、前記判別ステップにおいて前記第1の画像処理を行うと判別された場合、前記画像データに予め付加されている撮影情報に基づき、該第1の画像処理を前記画像データの対象領域に対して行い、及び、前記判別ステップにおいて前記第2の画像処理を行うと判別された場合、該第2の画像処理を前記検出ステップにおいて検出した対象領域に対して行う画像処理ステップ
    を含むことを特徴とする画像処理方法。
  8. 前記第1の画像処理は前記対象領域における位置情報のみを使用する画像処理であり、前記第2の画像処理は前記対象領域における色または輝度の分布を解析し補正量を解析する画像処理であることを特徴とする請求項7に記載の画像処理方法。
  9. 前記対象領域は顔領域であることを特徴とする請求項8に記載の画像処理方法。
  10. 前記第1の画像処理は、赤目検出、赤目補正、器官検出、器官補正、特徴検出、特徴補正、笑顔検出、人物認識、自動トリミングのいずれかであること特徴とする請求項9に記載の画像処理方法。
  11. 前記第1の画像処理は、露出補正、逆光補正、美肌補正、覆い焼き補正のいずれかであること特徴とする請求項9に記載の画像処理方法。
  12. 前記検出ステップでは、前記予め付加されている対象領域を利用して検出を行うことを特徴とする請求項7乃至11のいずれか一項に記載の画像処理方法。
  13. コンピュータに、画像データの対象領域に対して選択的に第1または第2の画像処理を行う画像処理方法を実行させるためのプログラムであって、該画像処理方法が、
    前記第1及び第2の画像処理から選択された画像処理を判別する判別ステップ、
    入力された画像データに対して対象領域の検出を行う検出ステップ、並びに、
    該画像データの対象領域に対して選択的に前記第1または第2の画像処理を行う画像処理ステップであって、前記判別ステップにおいて前記第1の画像処理を行うと判別された場合、前記画像データに予め付加されている撮影情報に基づき、該第1の画像処理を前記画像データの対象領域に対して行い、及び、前記判別ステップにおいて前記第2の画像処理を行うと判別された場合、該第2の画像処理を前記検出ステップにおいて検出した対象領域に対して行う画像処理ステップ
    を含むことを特徴とするプログラム。
  14. コンピュータに、画像データの対象領域に対して選択的に第1または第2の画像処理を行う画像処理方法を実行させるためのプログラムを記憶したコンピュータ読み取り可能な記憶媒体であって、該画像処理方法が、
    前記第1及び第2の画像処理から選択された画像処理を判別する判別ステップ、
    入力された画像データに対して対象領域の検出を行う検出ステップ、並びに、
    該画像データの対象領域に対して選択的に前記第1または第2の画像処理を行う画像処理ステップであって、前記判別ステップにおいて前記第1の画像処理を行うと判別された場合、前記画像データに予め付加されている撮影情報に基づき、該第1の画像処理を前記画像データの対象領域に対して行い、及び、前記判別ステップにおいて前記第2の画像処理を行うと判別された場合、該第2の画像処理を前記検出ステップにおいて検出した対象領域に対して行う画像処理ステップ
    を含むことを特徴とするコンピュータ読み取り可能な記憶媒体。
JP2008166326A 2008-06-25 2008-06-25 画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体 Expired - Fee Related JP4769847B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008166326A JP4769847B2 (ja) 2008-06-25 2008-06-25 画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体
US12/483,815 US20090324069A1 (en) 2008-06-25 2009-06-12 Image processing device, image processing method, and computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008166326A JP4769847B2 (ja) 2008-06-25 2008-06-25 画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体

Publications (3)

Publication Number Publication Date
JP2010010946A true JP2010010946A (ja) 2010-01-14
JP2010010946A5 JP2010010946A5 (ja) 2010-02-25
JP4769847B2 JP4769847B2 (ja) 2011-09-07

Family

ID=41447515

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008166326A Expired - Fee Related JP4769847B2 (ja) 2008-06-25 2008-06-25 画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体

Country Status (2)

Country Link
US (1) US20090324069A1 (ja)
JP (1) JP4769847B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012010173A (ja) * 2010-06-25 2012-01-12 Panasonic Electric Works Co Ltd インターホンシステム
JP2012098980A (ja) * 2010-11-04 2012-05-24 Seiko Epson Corp 画像処理方法および画像処理装置
JP2014016821A (ja) * 2012-07-09 2014-01-30 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP2015011557A (ja) * 2013-06-28 2015-01-19 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2017059177A (ja) * 2015-09-18 2017-03-23 富士フイルム株式会社 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5685821B2 (ja) * 2009-05-14 2015-03-18 株式会社リコー 画像形成システムおよび印刷制御方法
JP5683882B2 (ja) * 2009-10-15 2015-03-11 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP5669489B2 (ja) * 2009-10-15 2015-02-12 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP2014021782A (ja) * 2012-07-19 2014-02-03 Canon Inc 画像処理装置、その制御方法及びプログラム
CN104766372B (zh) * 2015-04-29 2017-09-26 江苏保千里视像科技集团股份有限公司 一种用人脸识别逃票判定系统及其使用方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004207987A (ja) * 2002-12-25 2004-07-22 Fuji Photo Film Co Ltd 画像処理方法及びプリントシステム
JP2005045497A (ja) * 2003-07-28 2005-02-17 Fuji Photo Film Co Ltd 画像処理装置及び画像処理システム
JP2006024184A (ja) * 2004-06-09 2006-01-26 Canon Inc 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP2007074142A (ja) * 2005-09-05 2007-03-22 Canon Inc 撮像装置及びその制御方法、及び画像処理装置及び方法
JP2007213455A (ja) * 2006-02-10 2007-08-23 Seiko Epson Corp 画像処理装置、デジタルカメラ、画像データ構造、自動色補正機能付き印刷装置、顔オブジェクト情報付き撮影画像の生成方法および色補正方法
JP2007318564A (ja) * 2006-05-26 2007-12-06 Canon Inc 画像処理方法および画像処理装置
JP2008060844A (ja) * 2006-08-30 2008-03-13 Canon Inc 画像処理装置及び画像処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5760922A (en) * 1993-10-08 1998-06-02 Matsushita Electric Industrial Co., Ltd. Area recognizing device and gradation level converting device employing area recognizing device
DE60318351T2 (de) * 2002-05-21 2008-12-11 Fujifilm Corp. Ratschlaggebende Vorrichtung, Ausdruck und Speichermedium mit Programm
US7620218B2 (en) * 2006-08-11 2009-11-17 Fotonation Ireland Limited Real-time face tracking with reference images
KR100506095B1 (ko) * 2003-11-17 2005-08-03 삼성전자주식회사 지능형 시스템에 있어서 표식검출방법 및 장치
KR100609155B1 (ko) * 2004-03-22 2006-08-02 엘지전자 주식회사 영상 처리 장치 및 이를 이용한 역광 보정 방법
JP4559935B2 (ja) * 2005-08-25 2010-10-13 株式会社東芝 画像記憶装置及び方法
US20070121146A1 (en) * 2005-11-28 2007-05-31 Steve Nesbit Image processing system
JP5029164B2 (ja) * 2006-09-25 2012-09-19 セイコーエプソン株式会社 未現像の画像データを用いる画像処理
US8331721B2 (en) * 2007-06-20 2012-12-11 Microsoft Corporation Automatic image correction providing multiple user-selectable options

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004207987A (ja) * 2002-12-25 2004-07-22 Fuji Photo Film Co Ltd 画像処理方法及びプリントシステム
JP2005045497A (ja) * 2003-07-28 2005-02-17 Fuji Photo Film Co Ltd 画像処理装置及び画像処理システム
JP2006024184A (ja) * 2004-06-09 2006-01-26 Canon Inc 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP2007074142A (ja) * 2005-09-05 2007-03-22 Canon Inc 撮像装置及びその制御方法、及び画像処理装置及び方法
JP2007213455A (ja) * 2006-02-10 2007-08-23 Seiko Epson Corp 画像処理装置、デジタルカメラ、画像データ構造、自動色補正機能付き印刷装置、顔オブジェクト情報付き撮影画像の生成方法および色補正方法
JP2007318564A (ja) * 2006-05-26 2007-12-06 Canon Inc 画像処理方法および画像処理装置
JP2008060844A (ja) * 2006-08-30 2008-03-13 Canon Inc 画像処理装置及び画像処理方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012010173A (ja) * 2010-06-25 2012-01-12 Panasonic Electric Works Co Ltd インターホンシステム
JP2012098980A (ja) * 2010-11-04 2012-05-24 Seiko Epson Corp 画像処理方法および画像処理装置
JP2014016821A (ja) * 2012-07-09 2014-01-30 Canon Inc 画像処理装置、画像処理方法およびプログラム
US9501688B2 (en) 2012-07-09 2016-11-22 Canon Kabushiki Kaisha Apparatus, processing method and storage medium storing program
JP2015011557A (ja) * 2013-06-28 2015-01-19 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2017059177A (ja) * 2015-09-18 2017-03-23 富士フイルム株式会社 画像処理装置,画像処理方法,画像処理プログラムおよびそのプログラムを格納した記録媒体

Also Published As

Publication number Publication date
JP4769847B2 (ja) 2011-09-07
US20090324069A1 (en) 2009-12-31

Similar Documents

Publication Publication Date Title
JP4769847B2 (ja) 画像処理装置及び画像処理方法、プログラム、並びに、コンピュータ読み取り可能な記憶媒体
JP4942189B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記憶媒体
JP4218348B2 (ja) 撮影装置
US7756343B2 (en) Image processing method, image processing apparatus, and computer-readable recording medium storing image processing program
JP4281311B2 (ja) 被写体情報を用いた画像処理
US20050062856A1 (en) Camera equipped with red-eye correction feature
JP2005045497A (ja) 画像処理装置及び画像処理システム
JP2004246456A (ja) 画像編集装置および画像編集方法
JP2005310068A (ja) 白目補正方法及びこの方法を実施する装置
JP2005086516A (ja) 撮像装置、印刷装置、画像処理装置およびプログラム
JP2005092759A (ja) 画像処理装置、画像処理方法、および赤目検出方法ならびにプログラム
US8693049B2 (en) Image processing apparatus for selecting a feature area, image processing method and storage medium therefor
US20090231627A1 (en) Image Processing Apparatus, Image Processing Method, Computer Program for Image Processing
JP2005286830A (ja) 画像処理方法、画像処理装置、およびプログラム
JP4618153B2 (ja) 画像処理装置、デジタルカメラ、画像データ構造、自動色補正機能付き印刷装置、顔オブジェクト情報付き撮影画像の生成方法および色補正方法
JP2009037625A (ja) 被写体情報を用いた画像処理
JP2004145287A (ja) 赤目補正方法、画像処理方法、プリント方法およびプリンタ
US20050094894A1 (en) Image processing device, image processing method, and program therefor
US8630503B2 (en) Image processing apparatus, image processing method, and computer program
JP2010010947A (ja) 画像処理装置、画像処理方法、プログラム、および記録媒体
JP5071529B2 (ja) デジタルカメラ、印刷装置、デジタルカメラにおいて実行される方法、及び印刷装置において実行される方法
JP2006344166A (ja) 画像処理装置及び方法
JP2005283801A (ja) プリント装置、プリント方法およびそのプログラム
US20090232402A1 (en) Image Processing Apparatus, Image Processing Method, and Computer Program for Image Processing
JP2005316978A (ja) 画像出力装置、画像出力方法およびそのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100628

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20101106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110425

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110520

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110620

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140624

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees