JP2014102713A - 顔構成部抽出装置、顔構成部抽出方法及びプログラム - Google Patents
顔構成部抽出装置、顔構成部抽出方法及びプログラム Download PDFInfo
- Publication number
- JP2014102713A JP2014102713A JP2012254824A JP2012254824A JP2014102713A JP 2014102713 A JP2014102713 A JP 2014102713A JP 2012254824 A JP2012254824 A JP 2012254824A JP 2012254824 A JP2012254824 A JP 2012254824A JP 2014102713 A JP2014102713 A JP 2014102713A
- Authority
- JP
- Japan
- Prior art keywords
- image
- face
- eye
- evaluation value
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/165—Detection; Localisation; Normalisation using facial parts and geometric relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Geometry (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
Abstract
【解決手段】撮像装置100であって、画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出部5cと、検出された複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1評価値算出部5dと、算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、複数の顔構成部を抽出するための複数の抽出用モデルを画像内で適合させるモデル適合部5eと、複数の抽出用モデルの適合状態に係る第2評価値を所定数の一対の目領域毎に算出する第2評価値算出部5fと、所定数の第2評価値の算出結果に基づいて、複数の抽出用モデルの適合態様を決定する適合態様決定部5gと、を備えている。
【選択図】図1
Description
画像を取得する取得手段と、前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段と、前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段と、前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段と、前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段と、前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段と、を備えたことを特徴としている。
顔構成部抽出装置を用いた顔構成部抽出方法であって、画像を取得する処理と、取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する処理と、検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する処理と、算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる処理と、前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する処理と、所定数の第2評価値の算出結果に基づいて、前記複数の抽出用モデルの適合態様を決定する処理と、を含むことを特徴としている。
顔構成部抽出装置のコンピュータを、画像を取得する取得手段、前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段、前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段、前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段、前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段、前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段、として機能させることを特徴としている。
図1に示すように、本実施形態の撮像装置100は、具体的には、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像処理部5と、記録媒体制御部6と、表示制御部7と、表示部8と、操作入力部9と、中央制御部10とを備えている。
また、撮像部1、撮像制御部2、画像データ生成部3、メモリ4、画像処理部5、記録媒体制御部6、表示制御部7及び中央制御部10は、バスライン11を介して接続されている。
具体的には、撮像部1は、レンズ部1aと、電子撮像部1bと、レンズ駆動部1cとを備えている。
電子撮像部1bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサ(撮像素子)から構成されている。そして、電子撮像部1bは、レンズ部1aの各種レンズを通過した光学像を二次元の画像信号に変換する。
レンズ駆動部1cは、例えば、図示は省略するが、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えている。
なお、撮像部1は、レンズ部1a、電子撮像部1b及びレンズ駆動部1cに加えて、レンズ部1aを通過する光の量を調整する絞り(図示略)を備えても良い。
また、撮像制御部2は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の特定の被写体を撮像する際の条件の調整制御を行っても良い。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
なお、画像処理部5の各部は、例えば、所定のロジック回路から構成されているが、当該構成は一例であってこれに限られるものではない。
即ち、画像取得部(取得手段)5aは、元画像となる画像(例えば、写真画像等)P1の画像データを取得する。具体的には、画像取得部5aは、撮像部1及び撮像制御部2による特定の被写体(例えば、ヒトの顔)の撮像によって画像データ生成部3により生成された画像P1の画像データ(RGBデータやYUVデータ)の複製をメモリ4から取得したり、記録媒体Cに記録されている画像P1の画像データの複製を取得する(図3参照)。
なお、後述する画像処理部5による各処理は、画像P1の画像データ自体に対して行われても良いし、必要に応じて画像P1の画像データを所定の比率で縮小した所定サイズ(例えば、VGAサイズ等)の画像データに対して行われても良い。
また、以下の説明では、画像P1の画像データは、各画素の画素値(例えば、輝度値)を8bit(256階調)で表した画像データとして説明する。
即ち、顔検出部(顔検出手段)5bは、画像取得部5aにより取得された画像P1から顔領域Fを検出する。具体的には、顔検出部5bは、画像P1に対して所定のアルゴリズムを用いた顔検出処理を施す。例えば、顔検出部5bは、画像P1を処理対象として、顔領域Fの候補領域として所定サイズ(例えば、24×24[画素])の検出候補領域を複数生成する。そして、顔検出部5bは、例えば、各検出候補領域の画像データと所定の基準画像の画像データとの類似度をadaboost(アダブースト)出力計算を用いて算出し、算出された類似度が所定の閾値以上である検出候補領域の画像データを顔領域Fの画像データとして特定する(図4(a)等参照)。
なお、顔検出部5bによる顔検出処理の内容は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
即ち、目検出部(目検出手段)5cは、画像取得部5aにより取得された画像P1の顔領域から一対の目に対応する一対の目領域E、Eを複数検出する。具体的には、目検出部5cは、顔検出部5bにより検出された顔領域Fに対して目検出処理を施して、一対の目領域E、Eを検出する。
そして、目検出部5cは、所定サイズの縮小画像の各々を処理対象として、目検出用フィルタ(例えば、リング状のリングフィルタ等)を用いて目の候補点を検出する。具体的には、目検出部5cは、例えば、処理対象画像内で、リングフィルタの中心の輝度値が当該リングの全ての縁部分の輝度値よりも低い(即ち、暗い)場合に目の候補点の一部とみなし、該当する座標の輝度画像「リングイメージ」を出力する。そして、目検出部5cは、所定サイズの縮小画像の各々から出力された輝度画像「リングイメージ」を同一の所定サイズ(例えば、80×80画素等)となるように変形し、これらをまとめた一枚の合成画像を生成する。
また、目検出部5cは、合成画像中の複数の輝度画像「リングイメージ」の各々の重心(図中、「+」印で表す)の位置座標を算出して目候補点として特定する。このとき、目検出部5cは、輝度画像「リングイメージ」の各々の最大輝度値も算出して、目候補点と対応付けて所定の格納手段に記憶する。
そして、目検出部5cは、複数の目候補点のうちの何れか2点を選択して、一対の目領域E、Eとみなす。また、目候補点が3点以上特定されている場合には、目検出部5cは、取り得る組み合わせ全てについて一対の目領域E、Eとみなす。
即ち、第1評価値算出部(第1算出手段)5dは、目検出部5cにより検出された複数の一対の目領域E、Eについて、目らしさに係る第1評価値をそれぞれ算出する。
具体的には、第1評価値算出部5dは、目検出部5cにより検出された複数の一対の目領域E、Eの各々について、目らしさを表す第1評価値を所定の演算式を用いて算出する。例えば、第1評価値算出部5dは、基準となる平均的な目の位置に対する距離が大きいほど低下し、また、目候補点に対応する最大輝度値が大きいほど高くなるような演算式に従って第1評価値をそれぞれ算出する。そして、第1評価値算出部5dは、算出された第1評価値が高い方から順に所定数(例えば、3つ)特定して、これらの第1評価値と一対の目領域E、Eの位置座標とをそれぞれ対応付けて所定の格納手段に記憶する。
なお、第1評価値算出部5dによる第1評価値の算出処理の内容は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
即ち、モデル適合部(適合手段)5eは、第1評価値算出部5dにより算出された第1評価値が所定値以上の所定数の一対の目領域E、Eに基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルM、…を画像P1内で適合させる。このとき、モデル適合部5eは、目検出部5cによる目領域Eの検出結果に加えて、顔検出部5bによる顔領域Fの検出結果に基づいて、複数の抽出用モデルM、…を画像P1内で適合させても良い。
例えば、モデル適合部5eは、第1評価値算出部5dにより算出された所定数の第1評価値を比較して、これらの中で最も評価値が高い第1評価値を特定する。そして、モデル適合部5eは、最も評価値が高い第1評価値と対応付けられている一対の目領域E、Eに基づいて、複数の抽出用モデルM、…を画像P1内で適合させる。
また、モデル適合部5eは、第1評価値算出部5dにより算出された所定数の第1評価値の中で、評価値が最も高い第1評価値の次に高い第1評価値を特定し、特定された第1評価値が最も高い評価値に対して所定の割合(例えば、80%等)以上であるか否かを判定する。そして、モデル適合部5eは、所定の割合以上であると判定された第1評価値と対応付けられている一対の目領域E、Eに基づいて、複数の抽出用モデルM、…を画像P1内で適合させる。
モデル適合部5eは、複数の抽出用モデルM、…の適合態様が所定数(例えば、3つ等)となるように、上記の処理を繰り返し行う。
具体的には、後述するように、画像処理部5は、例えば、AAM(Active Appearance Model)を用いた微細部抽出処理により画像P1から顔構成部を抽出し、モデル適合部5eは、当該AAMにて画像P1の顔領域F内に配置される複数の抽出用モデルM、…が当該画像P1内で合致(適合)する箇所を探索する。
ここで、AAMとは、視覚的事象のモデル化の一手法であり、任意の顔領域Fの画像のモデル化を行う処理である。例えば、後述するように画像処理部5の構成部画像生成部5hは、複数のサンプル顔画像における所定の特徴部位(例えば、目じりや鼻頭やフェイスライン等)の位置や画素値(例えば、輝度値)の統計的分析結果を所定の登録手段に登録しておく。そして、構成部画像生成部5hは、上記の特徴部位の位置を基準として設定された各種のモデル、即ち、顔構成部の形状を表す形状モデル(抽出用モデルM)や平均的な形状における「Appearance」を表すテクスチャーモデルを用いて、顔領域Fの画像をモデル化する。
このとき、モデル適合部5eは、複数の顔構成部に対応する複数の抽出用モデルM、…、即ち、一対の目や眉や鼻や口や顔(特に、顎)の輪郭等に対応する抽出用モデルMの画像P1内における初期配置を設定する。具体的には、モデル適合部5eは、目検出部5cにより検出された一対の目領域E、Eの画像P1における位置に、一対の目を抽出するための一対の目抽出用モデルM1、M1が重なるように複数の抽出用モデルM、…の初期配置を設定する。即ち、複数の顔構成部に対応する複数の抽出用モデルM、…は、基準状態にて相対的な位置関係や間隔が予め設定されているため、モデル適合部5eは、複数の抽出用モデルM、…を一体として相似変形させることでこれら複数の抽出用モデルM、…の相対的な位置関係を変化させないように、一対の目抽出用モデルM1、M1の位置(初期配置)を決定する。また、モデル適合部5eは、目検出部5cにより検出された一対の目領域E、Eの画像P1における位置に加えて、これら一対の目領域E、Eの重心の中点を通り、当該一対の目領域E、Eの重心どうしを結ぶ直線に対して直交する直線が顔領域Fの矩形枠の顎側の辺と交わる交点の位置を基準として、一対の目抽出用モデルM1、M1の位置(初期配置)を決定するようにしても良い。
これにより、画像P1内で他の顔構成部(例えば、口等)に対応する複数の抽出用モデルM、…が適合する位置(初期配置)も決定される(図4(b)等参照)。
そして、モデル適合部5eは、複数の抽出用モデルM、…の各々の形状や大きさ等を個別に変形させて当該抽出用モデルMの各々が最も合致する領域を画像P1の顔領域F内で探索して、その適合結果を第2評価値算出部5fに出力する(図4(c)等参照)。
即ち、第2評価値算出部(第2算出手段)5fは、所定数の一対の目領域E、E毎に、モデル適合部5eによる複数の抽出用モデルM、…の適合状態に係る第2評価値を所定の演算式に従って算出する。具体的には、第2評価値算出部5fは、例えば、モデル適合部5eにより所定数の一対の目領域E、Eの各々を基準として画像P1内に複数の抽出用モデルM、…が適合される毎に、各抽出用モデルMと対応する合致領域との画素値や位置座標のずれ量等を基準として当該複数の抽出用モデルM、…の適合状態に係る第2評価値を算出する。そして、第2評価値算出部5fは、算出された第2評価値を一対の目領域E、Eと対応付けて所定の格納手段に記憶する。
なお、ここでの第2評価値算出部5fによる第2評価値の算出手法は、公知の技術であるので詳細な説明は省略する。また、第2評価値の算出処理の内容は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
即ち、適合態様決定部(決定手段)5hは、第2評価値算出部5fによる所定数の第2評価値の算出結果に基づいて、モデル適合部5eによる複数の抽出用モデルM、…の適合態様を決定する。具体的には、適合態様決定部5gは、例えば、第2評価値算出部5fにより算出された所定数の第2評価値を比較して評価値が最も高い第2評価値を特定し、当該第2評価値に対応する複数の抽出用モデルM、…の適合態様を微細部抽出処理(AAM)用の適合態様として特定する。
なお、複数の抽出用モデルM、…の適合態様の決定手法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、適合態様決定部5gは、第2評価値が算出された所定数の一対の目領域E、Eに対応する複数の抽出用モデルM、…の適合態様の中で、ユーザによる操作入力部9の所定操作に基づいてユーザ所望の適合態様が選択指定されることで、当該複数の抽出用モデルM、…の適合態様を決定するようにしても良い。
即ち、構成部画像生成部(第1生成手段)5hは、適合態様決定部5gにより決定された複数の抽出用モデルM、…の適合態様に基づいて、画像P1内の顔の主要な構成部に係る顔構成部画像(図示略)を生成する。具体的には、構成部画像生成部5hは、例えば、適合態様決定部5gにより決定された複数の抽出用モデルM、…を用いた微細部抽出処理(AAM)により顔領域Fの画像をモデル化する。そして、構成部画像生成部5hは、画像P1内の主要な構成を抽出して線で表した顔微細部画像(図示略)を生成する。
また、構成部画像生成部5hは、顔領域F内の顔の輪郭内に存する顔構成部及び当該輪郭と接する顔構成部を線で表した顔構成部画像を生成する。具体的には、構成部画像生成部5hは、顔微細部画像内で顔の輪郭と接する画素を特定し、当該画素と連続する画素のうち、顔の輪郭よりも外側に存する画素集合を消去する。つまり、構成部画像生成部5hは、顔微細部画像のうち、顔の輪郭よりも外側に存する部分を消去するとともに、顔の輪郭よりも内側に存し、且つ、当該輪郭と接する部分を残して、例えば、目、鼻、口、眉等の主要な顔構成部のパーツ画像を含む顔構成部画像を生成する。
即ち、似顔絵画像生成部(第2生成手段)5iは、構成部画像生成部5hにより生成された顔構成部画像を用いて画像P1の似顔絵画像(図示略)を生成する。具体的には、似顔絵画像生成部5iは、所定の髪型画像の顔の輪郭よりも内側にて、例えば、目、鼻、口、眉等の各顔構成部のパーツ画像を重畳させる位置を特定し、当該位置に各顔構成部のパーツ画像を重畳させて、画像P1を似顔絵で表した似顔絵画像の画像データを生成する。
また、似顔絵画像生成部5iは、似顔絵画像の所定の部分(例えば、目、口、眉等の顔構成部等)に所定の色を付けて表した画像を生成しても良い。
即ち、記録媒体制御部6は、画像処理部5の符号化部(図示略)により所定の圧縮形式(例えば、JPEG形式等)で符号化された記録用の画像データを記録媒体Cに記録させる。
なお、記録媒体Cは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
具体的には、表示制御部7は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部10の制御下にてメモリ4から読み出されてVRAM(図示略)に格納されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
図2は、似顔絵画像生成処理に係る動作の一例を示すフローチャートである。
また、似顔絵画像生成処理の処理対象となる画像P1の画像データは、予め記録媒体Cに記録されているものとする。
なお、図4(a)は、一対の目領域E、Eのうち、一方の目領域Eの重心が眼鏡の縁から検出されている誤検出状態を模式的に表し、図6(a)は、一対の目領域E、Eの両方の目領域Eの重心が眼鏡の縁から検出されている誤検出状態を模式的に表している。
なお、一対の目領域E、Eについて算出された第1評価値は、例えば、図4(a)に示されているものが最も高く、図5(a)に示されているものがその次に高く、図6(a)に示されているものがその次に高くなっている。
ステップS8にて、第1評価値が所定の割合以上であると判定されると(ステップS8;YES)、モデル適合部5eは、当該第1評価値と対応付けられている一対の目領域E、E(図5(a)参照)に基づいて、複数の抽出用モデルM、…を画像P1内で適合させる(ステップS9)。
ここでの複数の抽出用モデルM、…を適合させる処理は、上記のステップS6の処理と略同様である。具体的には、モデル適合部5eは、複数の抽出用モデルM、…の初期配置を設定した後(図5(b)参照)、複数の抽出用モデルM、…の各々の形状や大きさ等を個別に変形させて当該抽出用モデルMの各々が最も合致する領域を画像P1の顔領域F内で探索する(図5(c)参照)。
そして、上記のステップS7の処理と略同様に、第2評価値算出部5fは、複数の抽出用モデルM、…の適合状態に係る第2評価値を所定の演算式に従って算出して、算出された第2評価値を一対の目領域E、Eと対応付けて所定の格納手段に記憶する(ステップS10)。
ステップS11にて、第1評価値が所定の割合以上であると判定されると(ステップS11;YES)、モデル適合部5eは、当該第1評価値と対応付けられている一対の目領域E、E(図6(a)参照)に基づいて、複数の抽出用モデルM、…を画像P1内で適合させる(ステップS12)。
ここでの複数の抽出用モデルM、…を適合させる処理は、上記のステップS6、S9の各処理と略同様である。具体的には、モデル適合部5eは、複数の抽出用モデルM、…の初期配置を設定した後(図6(b)参照)、複数の抽出用モデルM、…の各々の形状や大きさ等を個別に変形させて当該抽出用モデルMの各々が最も合致する領域を画像P1の顔領域F内で探索する(図6(c)参照)。
そして、上記のステップS7、S10の各処理と略同様に、第2評価値算出部5fは、複数の抽出用モデルM、…の適合状態に係る第2評価値を所定の演算式に従って算出して、算出された第2評価値を一対の目領域E、Eと対応付けて所定の格納手段に記憶する(ステップS13)。
また、ステップS11にて、第1評価値が所定の割合以上でないと判定された場合にも(ステップS11;NO)、適合態様決定部5gは、所定の格納手段から算出済みの2つの第2評価値を取得して、これらの第2評価値を比較して評価値が最も高い第2評価値を特定し、当該第2評価値に対応する複数の抽出用モデルM、…の適合態様を特定する(ステップS14)。
また、ステップS8にて、第1評価値が所定の割合以上でないと判定された場合(ステップS8;NO)、構成部画像生成部5hは、最も評価値が高い第1評価値と対応付けられている一対の目領域E、E(図4(a)参照)に対応する複数の抽出用モデルM、…の適合態様(図4(c)参照)に基づいて微細部抽出処理(AAM)を行って、画像P1内の顔の主要な構成部に係る顔構成部画像を生成する(ステップS15)。
その後、似顔絵画像生成部5iは、顔構成部画像を用いて画像P1の似顔絵画像を生成する(ステップS17)。具体的には、似顔絵画像生成部5iは、所定の髪型画像を取得して、当該髪型画像の顔の輪郭よりも内側にて、例えば、目、鼻、口、眉等の各顔構成部のパーツ画像を重畳させる位置を特定し、当該位置に各顔構成部のパーツ画像を重畳させて、画像P1を似顔絵で表した似顔絵画像の画像データを生成する。
そして、記録媒体制御部6は、似顔絵画像生成部5iにより生成された似顔絵画像の画像データ(YUVデータ)を取得して記録する。
これにより、似顔絵画像生成処理を終了する。
従って、画像P1から複数の顔構成部を適正に抽出することができる。
例えば、上記実施形態にあっては、画像P1内の顔の主要な構成部に係る顔構成部画像を生成し、当該顔構成部画像を用いて似顔絵画像を生成するようにしたが、必ずしも顔構成部画像や似顔絵画像を生成する必要はなく、当該顔構成部画像や似顔絵画像を生成するか否かは適宜任意に変更可能である。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、目検出処理ルーチン、第1算出処理ルーチン、適合処理ルーチン、第2算出処理ルーチン、決定処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンにより中央制御部10のCPUを、画像P1を取得する手段として機能させるようにしても良い。また、目検出処理ルーチンにより中央制御部10のCPUを、取得された画像P1の顔領域Fから一対の目に対応する一対の目領域E、Eを複数検出する手段として機能させるようにしても良い。また、第1算出処理ルーチンにより中央制御部10のCPUを、検出された複数の一対の目領域E、Eについて、目らしさに係る第1評価値をそれぞれ算出する手段として機能させるようにしても良い。また、適合処理ルーチンにより中央制御部10のCPUを、算出された第1評価値が所定値以上の所定数の一対の目領域E、Eに基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルM、…を画像P1内で適合させる手段として機能させるようにしても良い。また、第2算出処理ルーチンにより中央制御部10のCPUを、複数の抽出用モデルM、…の適合状態に係る第2評価値を、所定数の一対の目領域E、E毎に算出する手段として機能させるようにしても良い。また、決定処理ルーチンにより中央制御部10のCPUを、所定数の第2評価値の算出結果に基づいて、複数の抽出用モデルM、…の適合態様を決定する手段として機能させるようにしても良い。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
画像を取得する取得手段と、
前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段と、
前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段と、
前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段と、
前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段と、
前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段と、
を備えたことを特徴とする顔構成部抽出装置。
<請求項2>
前記決定手段は、前記第2算出手段により算出された所定数の第2評価値の中で評価値が最も高い第2評価値を特定し、当該第2評価値に対応する前記複数の抽出用モデルの適合態様を決定することを特徴とする請求項1に記載の顔構成部抽出装置。
<請求項3>
前記適合手段は、前記第1算出手段により算出された複数の第1評価値のうちの最も評価値が高い第1評価値を基準として評価値が所定値以上の所定数の一対の目領域を特定して、当該一対の目領域の各々に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項1又は2に記載の顔構成部抽出装置。
<請求項4>
前記取得手段により取得された画像から顔領域を検出する顔検出手段を更に備え、
前記目検出手段は、前記顔検出手段により検出された顔領域から前記一対の目に対応する一対の目領域を検出することを特徴とする請求項1〜3の何れか一項に記載の顔構成部抽出装置。
<請求項5>
前記適合手段は、更に、前記顔検出手段による顔領域の検出結果に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項4に記載の顔構成部抽出装置。
<請求項6>
前記決定手段により決定された前記複数の抽出用モデルの適合態様に基づいて、前記複数の顔構成部に係る顔構成部画像を生成する第1生成手段と、
前記第1生成手段により生成された顔構成部画像を用いて前記画像の似顔絵画像を生成する第2生成手段と、を更に備えることを特徴とする請求項1〜5の何れか一項に記載の顔構成部抽出装置。
<請求項7>
顔構成部抽出装置を用いた顔構成部抽出方法であって、
画像を取得する処理と、
取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する処理と、
検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する処理と、
算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる処理と、
前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する処理と、
所定数の第2評価値の算出結果に基づいて、前記複数の抽出用モデルの適合態様を決定する処理と、
を含むことを特徴とする顔構成部抽出方法。
<請求項8>
顔構成部抽出装置のコンピュータを、
画像を取得する取得手段、
前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段、
前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段、
前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段、
前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段、
前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段、
として機能させることを特徴とするプログラム。
5 画像処理部
5a 画像取得部
5b 顔検出部
5c 目検出部
5d 第1評価値算出部
5e モデル適合部
5f 第2評価値算出部
5g 適合態様決定部
5h 構成部画像生成部
5i 似顔絵画像生成部
10 中央制御部
Claims (8)
- 画像を取得する取得手段と、
前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段と、
前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段と、
前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段と、
前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段と、
前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段と、
を備えたことを特徴とする顔構成部抽出装置。 - 前記決定手段は、前記第2算出手段により算出された所定数の第2評価値の中で評価値が最も高い第2評価値を特定し、当該第2評価値に対応する前記複数の抽出用モデルの適合態様を決定することを特徴とする請求項1に記載の顔構成部抽出装置。
- 前記適合手段は、前記第1算出手段により算出された複数の第1評価値のうちの最も評価値が高い第1評価値を基準として評価値が所定値以上の所定数の一対の目領域を特定して、当該一対の目領域の各々に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項1又は2に記載の顔構成部抽出装置。
- 前記取得手段により取得された画像から顔領域を検出する顔検出手段を更に備え、
前記目検出手段は、前記顔検出手段により検出された顔領域から前記一対の目に対応する一対の目領域を検出することを特徴とする請求項1〜3の何れか一項に記載の顔構成部抽出装置。 - 前記適合手段は、更に、前記顔検出手段による顔領域の検出結果に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項4に記載の顔構成部抽出装置。
- 前記決定手段により決定された前記複数の抽出用モデルの適合態様に基づいて、前記複数の顔構成部に係る顔構成部画像を生成する第1生成手段と、
前記第1生成手段により生成された顔構成部画像を用いて前記画像の似顔絵画像を生成する第2生成手段と、を更に備えることを特徴とする請求項1〜5の何れか一項に記載の顔構成部抽出装置。 - 顔構成部抽出装置を用いた顔構成部抽出方法であって、
画像を取得する処理と、
取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する処理と、
検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する処理と、
算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる処理と、
前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する処理と、
所定数の第2評価値の算出結果に基づいて、前記複数の抽出用モデルの適合態様を決定する処理と、
を含むことを特徴とする顔構成部抽出方法。 - 顔構成部抽出装置のコンピュータを、
画像を取得する取得手段、
前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段、
前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段、
前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段、
前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段、
前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段、
として機能させることを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012254824A JP6098133B2 (ja) | 2012-11-21 | 2012-11-21 | 顔構成部抽出装置、顔構成部抽出方法及びプログラム |
US14/051,236 US9323981B2 (en) | 2012-11-21 | 2013-10-10 | Face component extraction apparatus, face component extraction method and recording medium in which program for face component extraction method is stored |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012254824A JP6098133B2 (ja) | 2012-11-21 | 2012-11-21 | 顔構成部抽出装置、顔構成部抽出方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014102713A true JP2014102713A (ja) | 2014-06-05 |
JP6098133B2 JP6098133B2 (ja) | 2017-03-22 |
Family
ID=50728018
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012254824A Active JP6098133B2 (ja) | 2012-11-21 | 2012-11-21 | 顔構成部抽出装置、顔構成部抽出方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9323981B2 (ja) |
JP (1) | JP6098133B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5911634B1 (ja) * | 2015-10-07 | 2016-04-27 | 株式会社LinkPro | 画像処理装置 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103996033B (zh) * | 2014-05-29 | 2017-02-22 | 厦门瑞为信息技术有限公司 | 一种基于人脸五官坐标跟踪的真人识别方法 |
US10671837B2 (en) | 2015-09-08 | 2020-06-02 | Nec Corporation | Face recognition system, face recognition method, display control apparatus, display control method, and display control program |
JP6872742B2 (ja) * | 2016-06-30 | 2021-05-19 | 学校法人明治大学 | 顔画像処理システム、顔画像処理方法及び顔画像処理プログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050041867A1 (en) * | 2002-03-27 | 2005-02-24 | Gareth Loy | Method and apparatus for the automatic detection of facial features |
JP2005293539A (ja) * | 2004-03-08 | 2005-10-20 | Matsushita Electric Works Ltd | 表情認識装置 |
JP2007286923A (ja) * | 2006-04-17 | 2007-11-01 | Kao Corp | 顔パーツの位置の検出方法及び検出システム |
JP2012186821A (ja) * | 2012-04-18 | 2012-09-27 | Toshiba Corp | 顔画像処理装置、顔画像処理方法、電子スチルカメラ、デジタル画像処理装置およびデジタル画像処理方法 |
Family Cites Families (42)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3017384B2 (ja) * | 1993-07-19 | 2000-03-06 | シャープ株式会社 | 特徴領域抽出装置 |
US6529630B1 (en) * | 1998-03-02 | 2003-03-04 | Fuji Photo Film Co., Ltd. | Method and device for extracting principal image subjects |
US6154559A (en) * | 1998-10-01 | 2000-11-28 | Mitsubishi Electric Information Technology Center America, Inc. (Ita) | System for classifying an individual's gaze direction |
US6807290B2 (en) * | 2000-03-09 | 2004-10-19 | Microsoft Corporation | Rapid computer modeling of faces for animation |
AUPQ896000A0 (en) * | 2000-07-24 | 2000-08-17 | Seeing Machines Pty Ltd | Facial image processing system |
KR100523742B1 (ko) * | 2002-03-26 | 2005-10-26 | 김소운 | 3차원 안경 시뮬레이션 시스템 및 방법 |
JP2004062651A (ja) * | 2002-07-30 | 2004-02-26 | Canon Inc | 画像処理装置、画像処理方法、その記録媒体およびそのプログラム |
WO2008156437A1 (en) * | 2006-04-10 | 2008-12-24 | Avaworks Incorporated | Do-it-yourself photo realistic talking head creation system and method |
JP2004145625A (ja) | 2002-10-24 | 2004-05-20 | Mitsubishi Electric Corp | 似顔絵の作成装置 |
JP2004206688A (ja) * | 2002-12-12 | 2004-07-22 | Fuji Photo Film Co Ltd | 顔認識方法、顔切出方法、および撮像装置 |
CN100465985C (zh) * | 2002-12-31 | 2009-03-04 | 佳能株式会社 | 人眼探测方法及设备 |
US6989754B2 (en) * | 2003-06-02 | 2006-01-24 | Delphi Technologies, Inc. | Target awareness determination system and method |
US20050063568A1 (en) * | 2003-09-24 | 2005-03-24 | Shih-Ching Sun | Robust face detection algorithm for real-time video sequence |
JP2005202562A (ja) * | 2004-01-14 | 2005-07-28 | Konica Minolta Photo Imaging Inc | 画像処理方法、画像処理装置及び画像処理プログラム |
JP4505362B2 (ja) * | 2004-03-30 | 2010-07-21 | 富士フイルム株式会社 | 赤目検出装置および方法並びにプログラム |
JP4320272B2 (ja) * | 2004-03-31 | 2009-08-26 | 富士フイルム株式会社 | 特定領域検出方法、特定領域検出装置、およびプログラム |
KR100590572B1 (ko) * | 2004-12-15 | 2006-06-19 | 삼성전자주식회사 | 눈 위치 검출 방법 및 장치 |
JP2006254229A (ja) * | 2005-03-11 | 2006-09-21 | Fuji Photo Film Co Ltd | 撮像装置、撮像方法及び撮像プログラム |
JP2007025900A (ja) * | 2005-07-13 | 2007-02-01 | Canon Inc | 画像処理装置、画像処理方法 |
KR100735549B1 (ko) * | 2005-08-08 | 2007-07-04 | 삼성전자주식회사 | 영상의 피부색을 변환하는 영상 처리 방법 및 장치 |
JP4712563B2 (ja) * | 2006-01-16 | 2011-06-29 | 富士フイルム株式会社 | 顔検出方法および装置並びにプログラム |
JP2007265367A (ja) * | 2006-03-30 | 2007-10-11 | Fujifilm Corp | 視線検出方法および装置ならびにプログラム |
JP4998026B2 (ja) * | 2007-03-15 | 2012-08-15 | ソニー株式会社 | 画像処理装置、撮像装置、および画像表示制御方法、並びにコンピュータ・プログラム |
JP4309928B2 (ja) * | 2007-03-15 | 2009-08-05 | アイシン精機株式会社 | 瞼検出装置、瞼検出方法、及び、プログラム |
US20080298643A1 (en) * | 2007-05-30 | 2008-12-04 | Lawther Joel S | Composite person model from image collection |
JP4919297B2 (ja) * | 2008-03-13 | 2012-04-18 | 富士フイルム株式会社 | 画像評価装置および方法並びにプログラム |
FR2933218B1 (fr) * | 2008-06-30 | 2011-02-11 | Total Immersion | Procede et dispositif permettant de detecter en temps reel des interactions entre un utilisateur et une scene de realite augmentee |
JP4719825B2 (ja) * | 2008-09-17 | 2011-07-06 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP5187139B2 (ja) * | 2008-10-30 | 2013-04-24 | セイコーエプソン株式会社 | 画像処理装置およびプログラム |
KR100954835B1 (ko) * | 2009-08-04 | 2010-04-30 | 주식회사 크라스아이디 | 얼굴변화 검출 시스템 및 얼굴변화 감지에 따른 지능형 시스템 |
WO2011046128A1 (ja) * | 2009-10-16 | 2011-04-21 | 日本電気株式会社 | 人物服装特徴抽出装置、人物検索装置、及びその処理方法 |
JP5476955B2 (ja) * | 2009-12-04 | 2014-04-23 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
US9013489B2 (en) * | 2011-06-06 | 2015-04-21 | Microsoft Technology Licensing, Llc | Generation of avatar reflecting player appearance |
JP2013003662A (ja) * | 2011-06-13 | 2013-01-07 | Sony Corp | 情報処理装置及び方法、並びにプログラム |
US9082235B2 (en) * | 2011-07-12 | 2015-07-14 | Microsoft Technology Licensing, Llc | Using facial data for device authentication or subject identification |
US8885882B1 (en) * | 2011-07-14 | 2014-11-11 | The Research Foundation For The State University Of New York | Real time eye tracking for human computer interaction |
KR101322168B1 (ko) * | 2012-01-17 | 2013-10-28 | 성균관대학교산학협력단 | 실시간 얼굴 인식 장치 |
JP5880182B2 (ja) * | 2012-03-19 | 2016-03-08 | カシオ計算機株式会社 | 画像生成装置、画像生成方法及びプログラム |
JP5949030B2 (ja) * | 2012-03-26 | 2016-07-06 | カシオ計算機株式会社 | 画像生成装置、画像生成方法及びプログラム |
JP5966657B2 (ja) * | 2012-06-22 | 2016-08-10 | カシオ計算機株式会社 | 画像生成装置、画像生成方法及びプログラム |
JP6111723B2 (ja) * | 2013-02-18 | 2017-04-12 | カシオ計算機株式会社 | 画像生成装置、画像生成方法及びプログラム |
KR20150065445A (ko) * | 2013-12-05 | 2015-06-15 | 한국전자통신연구원 | 얼굴 포즈를 이용한 정면 얼굴 검출 장치 및 방법 |
-
2012
- 2012-11-21 JP JP2012254824A patent/JP6098133B2/ja active Active
-
2013
- 2013-10-10 US US14/051,236 patent/US9323981B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050041867A1 (en) * | 2002-03-27 | 2005-02-24 | Gareth Loy | Method and apparatus for the automatic detection of facial features |
JP2005293539A (ja) * | 2004-03-08 | 2005-10-20 | Matsushita Electric Works Ltd | 表情認識装置 |
JP2007286923A (ja) * | 2006-04-17 | 2007-11-01 | Kao Corp | 顔パーツの位置の検出方法及び検出システム |
JP2012186821A (ja) * | 2012-04-18 | 2012-09-27 | Toshiba Corp | 顔画像処理装置、顔画像処理方法、電子スチルカメラ、デジタル画像処理装置およびデジタル画像処理方法 |
Non-Patent Citations (1)
Title |
---|
JPN6016039524; 押田 昌大、外6名: '"Hough変換などを用いた顔部品認識の試み-似顔絵生成システムPICASSOの顔入力部自動化-"' 電子情報通信学会技術研究報告 Vol.98 No.608 IEICE Technical Report Vol.98, No.608, 19990218, pp.41-48, 社団法人電子情報通信学会 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5911634B1 (ja) * | 2015-10-07 | 2016-04-27 | 株式会社LinkPro | 画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6098133B2 (ja) | 2017-03-22 |
US9323981B2 (en) | 2016-04-26 |
US20140140624A1 (en) | 2014-05-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5880182B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP5949331B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
US20170323465A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP4739870B2 (ja) | サングラス検出装置及び顔中心位置検出装置 | |
JP6111723B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP5949030B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
WO2015008717A1 (en) | Image processing device and imaging apparatus | |
JP6098133B2 (ja) | 顔構成部抽出装置、顔構成部抽出方法及びプログラム | |
JP2005149370A (ja) | 画像撮影装置、個人認証装置及び画像撮影方法 | |
US8971636B2 (en) | Image creating device, image creating method and recording medium | |
JP2015184701A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2008129901A (ja) | 眼鏡検出装置、画像処理装置、眼鏡検出方法、及び、コンピュータプログラム | |
JP6070098B2 (ja) | 閾値設定装置、閾値設定方法及びプログラム | |
JP2014174855A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6260094B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6354118B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7110657B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2014099077A (ja) | 顔構成部抽出装置、顔構成部抽出方法及びプログラム | |
JP6668646B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5927972B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP5962268B2 (ja) | 画像処理装置、画像処理方法、画像生成方法及びプログラム | |
JP6142604B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2014048767A (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP2009055168A (ja) | 撮像装置及び画像処理方法 | |
JP2014186404A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20151105 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20161006 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161018 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161219 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170206 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6098133 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |