JP2005141318A - 輪郭判断装置及び輪郭表示装置 - Google Patents
輪郭判断装置及び輪郭表示装置 Download PDFInfo
- Publication number
- JP2005141318A JP2005141318A JP2003374652A JP2003374652A JP2005141318A JP 2005141318 A JP2005141318 A JP 2005141318A JP 2003374652 A JP2003374652 A JP 2003374652A JP 2003374652 A JP2003374652 A JP 2003374652A JP 2005141318 A JP2005141318 A JP 2005141318A
- Authority
- JP
- Japan
- Prior art keywords
- contour
- face
- image
- face image
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】 第一の顔画像と第二の顔画像とそれぞれについて顔の輪郭の抽出を行う。抽出された顔の輪郭に応じて、いずれの顔画像における顔の輪郭がより小さな輪郭を有した顔であるか、数値や画像によって客観的に指摘する。
【選択図】 図1
Description
顔の輪郭を小さくすることにより自身の顔が痩せて見えるようになることを望む者は多い。
がどれだけ近づいているかなどについて客観的な判断を得ることができる。
上記問題は、第二の態様によっても解決できる。第二の態様である輪郭表示装置は、複数の顔画像において顔の輪郭を抽出し、抽出された輪郭をそれぞれ区別可能に表示する。具体的には、輪郭表示装置は、抽出手段及び表示手段を含む。
第一の態様及び第二の態様は、プログラムが情報処理装置によって実行されることによ
って実現されても良い。即ち、本発明は、上記した第一の態様及び第二の態様における各手段が実行する処理を、情報処理装置に対して実行させるためのプログラム、或いは当該プログラムを記録した記録媒体として特定することができる。また、第一の態様及び第二の態様における各手段が実行する処理を、情報処理装置が実行する方法として特定することができる。
〔〔システム構成〕〕
まず、輪郭判断装置の第一実施形態である輪郭判断装置1aについて説明する。
),マスクROM等を含む),FRAM(Ferroelectric RAM),ハードディスク等を指
す。
画像記憶部2は、いわゆるRAMやROMを用いて構成される。画像記憶部2は、輪郭判断装置1aに入力された顔画像を記憶する。輪郭判断装置1aに入力される顔画像は、人の正面の顔が撮像されていることが望ましい。画像記憶部2は、インタフェースを介して外部の記憶装置から入力される顔画像を記憶する。また、画像記憶部2は、不図示の撮像装置によって撮像された顔画像を記憶する。
抽出部3は、画像記憶部2に記憶される顔画像を読み出し、読み出された顔画像に撮像されている顔の輪郭を抽出する。抽出部3は、所定の二つの画像(以下、「片方」「他方
」等と呼ぶ)を画像記憶部2から読み出し、それぞれの画像に対して処理を行う。抽出部3が読み出す二つの画像はどのように指定されても良い。即ち、抽出部3が読み出す二つの画像は、予め定められた画像であっても、ユーザによって指定された画像であっても、他の装置から新たに入力された画像であっても、他の装置によって指定された画像であっても良い。
検出部6は、入力された顔画像から人の顔を検出し、さらに検出された顔から顔要素として左右の目を検出する。具体的には、検出部6は、入力された画像から、被写体の両目の中心座標を取得する。
正規化部7は、検出部6によって正面顔であると判断された画像に対して正規化を行う。例えば、正規化部7は、入力された二つの顔画像を所定の基準に従って正規化することにより、顔の大きさや位置や向き等の条件を一致させる。または、正規化部7は、一方の顔画像における条件に一致させるように、他方の顔画像を画像変換するように構成されても良い。
離や左右の目の中央点の距離など、どのような部位に基づいた距離が求められても良い。正規化部7は、例えばこの距離に基づいて顔画像の拡大・縮小を行う。正規化部7は、双方の画像を画像変換することにより正規化しても良いし、片方の画像を他方の画像に合わせるように画像変換しても良い。
輪郭抽出部8は、正規化部7によって正規化された顔画像から人の顔の輪郭を抽出する。輪郭抽出部8は、特に人の顔の左右の頬及び顎の輪郭を抽出する。輪郭抽出部8は、どのような輪郭抽出技術が適用されることにより実現されても良い。例えば、輪郭抽出部8に適用可能な輪郭抽出技術として以下の文献に記載された技術がある。
図4は、輪郭抽出部8の処理結果の例を示す図である。輪郭抽出部8は、例えば人の顔の輪郭を複数の点の集合として抽出する。このように複数の点の集合として抽出する方法に限らず、例えば人の顔の輪郭を線として抽出するような技術が適用されても良い。
判断部4aには、抽出部3によって抽出された、二つの顔画像における顔の輪郭の情報が入力される。このとき、入力される二つの顔画像における顔の輪郭の情報は、正規化部7によって左右の目の中間点及び目軸とが一致するように処理されている。判断部4aは、入力された顔画像の輪郭のうち、いずれの輪郭がより小さい輪郭であるか判断する。言い換えれば、判断部4aは、いずれの輪郭がより顔の内側に位置する輪郭であるか判断する。また、判断部4aは、この二つの輪郭の大きさの差(言い換えれば、顔の内側に位置する度合いの差)を取得する。
について抽出された輪郭は、An(n=1,2,・・・,13:斜線で示される円)という点(輪郭点)の集合によって示される。同様に、画像Bについて抽出された輪郭はBn(n=1,2,・・・,13:白塗りの円)という点(Anと同様に、輪郭点)の集合によって示される。
表示部5aは、CRT(Cathode Ray Tube)や液晶ディスプレイ等の表示装置を用いて構成される。表示部5aは、判断部4aによって判断されたポイントを表示する。図6は、表示部6aによる表示例を示す図である。図6では、表示部5aによる表示画面の左上にポイントが表示される。ユーザは、表示されたポイントを見ることにより、画像Aと画像Bとのいずれの顔の輪郭がどれだけ小さいかを知ることができる。
次に、輪郭判断装置1aの動作例について説明する。図7は、輪郭判断装置1aの動作例を示すフローチャートである。以下、画像Aと画像Bとについて輪郭の大きさの判断が実施される場合について説明する。
ユーザは、輪郭判断装置1aを用いることにより、画像Aと画像Bとに撮像されている人の顔の輪郭について、客観的な評価(判断部4aによる判断結果)を得ることができる。
どれだけより顔の内側に位置する輪郭であるかについて、客観的な判断を得ることができる。
判断部4aは、全ての輪郭点についてDnの値を求め、その平均値を取得するように構成されても良い。平均値の値が正の値である場合、判断部4aは画像Aにおける顔の輪郭が画像Bにおける顔の輪郭に比べて大きいと判断する。一方、Dnの値が負の値である場合、判断部4aは画像Aにおける顔の輪郭が画像Bにおける顔の輪郭に比べて小さいと判断する。このとき、判断部4aは、平均値に−1を乗算した値をポイントとして取得する。
トを音声によってユーザに伝える音声出力装置(例:スピーカ,ヘッドホン)や、プリンタ等の印刷装置などがある。
〔〔システム構成〕〕
次に、輪郭判断装置の第二実施形態である輪郭判断装置1bについて説明する。
抽出結果記憶部9は、いわゆるRAMやROMを用いて構成される。抽出結果記憶部9は、抽出部3における処理結果を、その画像又はその画像のIDと対応付けて記憶する。具体的には、抽出結果記憶部9は、各画像について、左右の目の中間点(P)と各輪郭点とを記憶する。このとき、抽出結果記憶部9は、正規化された画像をさらに記憶できる。
指定部10は、マイク,ポインティングデバイス(マウス,トラックボール,タッチパネル等),キーボード等の入力装置を用いて構成される。指定部10は、ユーザによって、抽出結果記憶部9に抽出結果が既に記憶されている顔画像を指定するために使用される。
判断部4bは、指定部10によって指定された顔画像に関する抽出結果を抽出結果記憶部9から読み出し、読み出された抽出結果を用いて顔輪郭比較処理を実行する点で判断部4aと異なる。
図11は、輪郭判断装置1bの動作例を示すフローチャートである。以下、図11を用いて輪郭判断装置1bの動作例について説明する。以下の説明では、判断部4bが、一方の抽出結果については指定部10によって指定された顔画像に関するものを使用し、他方の抽出結果については最新の抽出結果を使用するように構成された場合について説明する
。さらに、以下の説明では、判断部4bが、指定記憶画像に関する抽出結果のIDを記憶するように構成された場合について説明する。さらに、以下の説明では、判断部4bが、抽出部3によって新たな抽出結果が得られた時点で輪郭比較処理を実行するように構成された場合について説明する。以下の説明を参照することにより、当業者であれば、上記システム構成において説明した判断部4bの他の動作パターンについても容易に実施することが可能である。
輪郭判断装置1bでは、ユーザによって顔輪郭抽出処理や顔輪郭比較処理の実行が指示されなくとも、新たな画像が画像記憶部2に記憶された時点で、この画像に関する顔輪郭比較処理が実行され、抽出結果が抽出結果記憶部9に記憶される。このため、ユーザが顔輪郭比較処理の実行を望む際に、既に画像記憶部2に記憶されている画像については顔輪郭抽出処理を実行する必要が無い。従って、処理時間の短縮を図ることが可能となる。例えば、ユーザが指定部10によって二つの画像を指定するような構成の場合、ユーザが指定部10によって比較すべき画像の片方を指定するような構成の場合に有効である。
抽出部3の正規化部7によって正規化された画像は、画像記憶部2に記憶されるように構成されても良い。この場合、抽出結果記憶部9は、画像記憶部2に記憶された正規化された画像の識別子(IDやアドレスなど)を、抽出結果と対応付けて記憶する。
〔〔システム構成〕〕
次に、輪郭判断装置の第三実施形態である輪郭判断装置1cについて説明する。
アドバイス部11は、情報処理装置を輪郭判断装置1cとして動作させるためのプログラムがCPUによって実行されることにより実現される。アドバイス部11は、専用のチップとして構成されても良い。
表示部5bは、表示部5aが表示する表示内容に加えて、アドバイス部11によって検索されたアドバイス内容をさらに表示する点で表示部5aと異なる。
輪郭判断装置1cは、輪郭判断装置1aの判断部4による顔輪郭比較処理(S03)と、表示部5aによる判断結果の表示(S04)との間に、アドバイス部11がアドバイス内容検索処理を実行する点で、輪郭判断装置1aの動作例と異なる。
ユーザは、輪郭判断装置1cを用いることにより、画像Aと画像Bとにおける顔輪郭抽出処理や顔輪郭比較処理の実行結果に基づいたアドバイスを受けることができる。例えば
、ユーザの現在と過去の顔画像を画像A,Bとして入力・選択することにより、過去から現在までの顔の輪郭の変化に応じたアドバイス、特にダイエットに関するアドバイスや健康に関するアドバイスを受けることができる。
輪郭判断装置1cは、輪郭判断装置1bにおける抽出結果記憶部9をさらに含むように構成されても良い。
〔〔システム構成〕〕
図13は、輪郭表示装置12の機能ブロックを示す図である。輪郭表示装置12は、画像記憶部2,抽出部3,及び表示部5cを備える。なお、輪郭表示装置12が備える画像記憶部2及び抽出部3は、輪郭判断装置1aが備える画像記憶部2及び抽出部3と同じ構成となる。このため、画像記憶部2及び抽出部3についての説明は省略する。
表示部5cは、抽出部3によって抽出された輪郭点のみを表示する点で、表示部5aと異なる。即ち、輪郭表示装置12は判断部4やアドバイス部11を備えないため、その表示部5cは判断部4による判断結果やユーザに対するアドバイス等を表示しない。ただし、表示部5cは、表示部5aの説明にもあるように、画像Aにおいて抽出された輪郭点Anと、画像Bにおいて抽出された輪郭点Bnとをユーザにとって区別可能に表示する。
図14は、輪郭表示装置12の動作例を示すフローチャートである。図14を用いて、輪郭表示装置12の動作例について説明する。
輪郭表示装置12では、画像Aと画像Bとについて、抽出部3による顔輪郭抽出処理の結果が表示部5cによって表示される。このとき、表示部5cは、画像Aにおける人の顔の輪郭と画像Bにおける人の顔の輪郭とを、ユーザにとって比較可能に、異なる表示形態で表示する。このため、ユーザは画像Aと画像Bとにおける顔の輪郭を客観的に確認することができ、どちらがどれだけ小さいか等を判断することができる。
輪郭表示装置12は、不図示のユーザインタフェースによって、ユーザが所望の輪郭点を入力可能に構成されても良い。この場合、抽出部3によって輪郭点の抽出が実施される画像は一つのみになる。このように構成された場合、ユーザは、例えば自身が希望する輪郭点(ダイエットの後にこうありたいとユーザが希望する顔の理想の輪郭)を入力できる。そして、ユーザは、自身が希望する輪郭点と、抽出部3によって実際の画像から抽出された輪郭点とを、表示画面上で比較することができる。例えば、抽出部3によって輪郭点の抽出が実施される画像として現在の自分の顔画像を選択・入力することにより、現在の自分の顔の輪郭が理想の輪郭に対してどれだけ近いかなどを客観的に判断することができる。
2 画像記憶部
3 抽出部
4 判断部
5a,5b,5c 表示部
6 検出部
7 正規化部
8 輪郭抽出部
9 抽出結果記憶部
10 指定部
11 アドバイス部
12 輪郭表示装置
Claims (10)
- 人の顔が撮像された顔画像から、前記人の顔の輪郭を抽出する抽出手段と、
第一の顔画像について抽出された第一の輪郭と第二の顔画像について抽出された第二の輪郭とを比較し、第一の顔画像と第二の顔画像との輪郭の大きさについて判断する判断手段と
を含む輪郭判断装置。 - 前記抽出手段は、人の顔の輪郭として、人の顔の輪郭上に位置する所定数の点を抽出し、
前記判断手段は、前記第一の輪郭上の点と、この点に対応する前記第二の輪郭上の点とのいずれが顔の内側に位置するかを比較する
請求項1に記載の輪郭判断装置。 - 前記判断手段による判断結果に基づいて、ユーザに対するアドバイスを行うアドバイス手段をさらに含む請求項1又は2に記載の輪郭判断装置。
- ユーザが希望する顔の輪郭を入力することを可能とする入力手段をさらに備え、
前記判断手段は、前記入力された顔画像について抽出された輪郭と、前記入力手段によって入力された輪郭とについて判断を行う
請求項1〜3のいずれかに記載の輪郭判定装置。 - 前記抽出手段は、
第一の顔画像及び第二の顔画像のそれぞれについて、第一の顔要素と第二の顔要素とを検出する検出手段と、
前記第一の顔画像及び第二の顔画像それぞれにおける前記第一の顔要素と前記第二の顔要素の画像中の位置に基づいて、画像変換を行うことにより両画像における顔画像の条件を一致させる正規化手段と、
前記正規化手段による画像変換後の第一の顔画像及び第二の顔画像から、人の顔の輪郭を抽出する輪郭抽出手段と
を含む、請求項1〜4のいずれかに記載の輪郭判断装置。 - 人の顔が撮像された顔画像から、前記人の顔の輪郭を抽出する抽出手段と、
第一の顔画像について抽出された第一の輪郭と、第二の顔画像について抽出された第二の輪郭とを、比較可能に表示する表示手段と
を含む輪郭表示装置。 - 人の顔が撮像された顔画像から、前記人の顔の輪郭を抽出するステップと、
第一の顔画像について抽出された第一の輪郭と第二の顔画像について抽出された第二の輪郭とを比較し、第一の顔画像と第二の顔画像との輪郭の大きさについて判断するステップと
を情報処理装置に実行させるためのプログラム。 - 人の顔が撮像された顔画像から、前記人の顔の輪郭を抽出するステップと、
第一の顔画像について抽出された第一の輪郭と、第二の顔画像について抽出された第二の輪郭とを、比較可能に表示するステップと
を情報処理装置に実行させるためのプログラム。 - 情報処理装置が、人の顔が撮像された顔画像から、前記人の顔の輪郭を抽出するステップと、
情報処理装置が、第一の顔画像について抽出された第一の輪郭と第二の顔画像について
抽出された第二の輪郭とを比較し、第一の顔画像と第二の顔画像との輪郭の大きさについて判断するステップと
を含む輪郭判断方法。 - 情報処理装置が、人の顔が撮像された顔画像から、前記人の顔の輪郭を抽出するステップと、
情報処理装置が、第一の顔画像について抽出された第一の輪郭と、第二の顔画像について抽出された第二の輪郭とを、比較可能に表示するステップと
を含む輪郭表示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003374652A JP4345440B2 (ja) | 2003-11-04 | 2003-11-04 | 輪郭判断装置及び輪郭判断方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003374652A JP4345440B2 (ja) | 2003-11-04 | 2003-11-04 | 輪郭判断装置及び輪郭判断方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005141318A true JP2005141318A (ja) | 2005-06-02 |
JP4345440B2 JP4345440B2 (ja) | 2009-10-14 |
Family
ID=34686304
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003374652A Expired - Fee Related JP4345440B2 (ja) | 2003-11-04 | 2003-11-04 | 輪郭判断装置及び輪郭判断方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4345440B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008191816A (ja) * | 2007-02-02 | 2008-08-21 | Sony Corp | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
JP2009123101A (ja) * | 2007-11-16 | 2009-06-04 | Seiko Epson Corp | 顔の画像の向きの推定 |
KR101331667B1 (ko) | 2011-12-13 | 2013-11-20 | 한국 한의학 연구원 | 얼굴 정보를 이용한 bmi 측정 장치 및 방법 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60122107U (ja) * | 1984-01-26 | 1985-08-17 | 竹内 久知 | 人体各部比較基準用紙 |
JPH0962865A (ja) * | 1995-06-16 | 1997-03-07 | Seiko Epson Corp | 顔画像処理方法および顔画像処理装置 |
JPH11164965A (ja) * | 1997-12-04 | 1999-06-22 | Naoki Harigai | 容貌評価装置及びその評価からの運勢デ−タ出力装置 |
JP2000011143A (ja) * | 1998-06-18 | 2000-01-14 | Shiseido Co Ltd | 顔立ち認識システム |
JP2001209817A (ja) * | 2000-01-27 | 2001-08-03 | Fujimikku:Kk | 顔面画像の修正方法およびそのための装置 |
JP3279913B2 (ja) * | 1996-03-18 | 2002-04-30 | 株式会社東芝 | 人物認証装置、特徴点抽出装置及び特徴点抽出方法 |
JP2004120377A (ja) * | 2002-09-26 | 2004-04-15 | Nikon Corp | 画像表示装置および画像表示システムの利用方法 |
-
2003
- 2003-11-04 JP JP2003374652A patent/JP4345440B2/ja not_active Expired - Fee Related
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60122107U (ja) * | 1984-01-26 | 1985-08-17 | 竹内 久知 | 人体各部比較基準用紙 |
JPH0962865A (ja) * | 1995-06-16 | 1997-03-07 | Seiko Epson Corp | 顔画像処理方法および顔画像処理装置 |
JP3279913B2 (ja) * | 1996-03-18 | 2002-04-30 | 株式会社東芝 | 人物認証装置、特徴点抽出装置及び特徴点抽出方法 |
JPH11164965A (ja) * | 1997-12-04 | 1999-06-22 | Naoki Harigai | 容貌評価装置及びその評価からの運勢デ−タ出力装置 |
JP2000011143A (ja) * | 1998-06-18 | 2000-01-14 | Shiseido Co Ltd | 顔立ち認識システム |
JP2001209817A (ja) * | 2000-01-27 | 2001-08-03 | Fujimikku:Kk | 顔面画像の修正方法およびそのための装置 |
JP2004120377A (ja) * | 2002-09-26 | 2004-04-15 | Nikon Corp | 画像表示装置および画像表示システムの利用方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008191816A (ja) * | 2007-02-02 | 2008-08-21 | Sony Corp | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
US8155398B2 (en) | 2007-02-02 | 2012-04-10 | Sony Corporation | Image processing apparatus, image processing method and computer program |
JP2009123101A (ja) * | 2007-11-16 | 2009-06-04 | Seiko Epson Corp | 顔の画像の向きの推定 |
KR101331667B1 (ko) | 2011-12-13 | 2013-11-20 | 한국 한의학 연구원 | 얼굴 정보를 이용한 bmi 측정 장치 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
JP4345440B2 (ja) | 2009-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106056064B (zh) | 一种人脸识别方法及人脸识别装置 | |
US20200380594A1 (en) | Virtual try-on system, virtual try-on method, computer program product, and information processing device | |
US8116517B2 (en) | Action analysis apparatus | |
JP6685827B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4406547B2 (ja) | Idカード作成装置、idカード、顔認証端末装置、顔認証装置およびシステム | |
US20150262403A1 (en) | Makeup support apparatus and method for supporting makeup | |
JP4683200B2 (ja) | 髪領域の自動抽出方法 | |
JP2009020761A (ja) | 画像処理装置及びその方法 | |
JP2007213378A (ja) | 特定表情顔検出方法、撮像制御方法および装置並びにプログラム | |
JP3454726B2 (ja) | 顔向き検出方法及びその装置 | |
CN114175113A (zh) | 提供头像的电子装置及其操作方法 | |
JP6410450B2 (ja) | オブジェクト識別装置、オブジェクト識別方法及びプログラム | |
JP6969878B2 (ja) | 識別器学習装置および識別器学習方法 | |
JP2005275935A (ja) | 端末装置 | |
JP7075237B2 (ja) | 操作判定装置及び操作判定方法 | |
KR102364929B1 (ko) | 피부 변화를 추적하는 전자 장치, 서버, 및 시스템 | |
CN114723860B (zh) | 虚拟形象的生成方法、装置、设备及存储介质 | |
JP3970573B2 (ja) | 顔画像認識装置および方法 | |
JP6741270B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP6098133B2 (ja) | 顔構成部抽出装置、顔構成部抽出方法及びプログラム | |
JP2019046239A (ja) | 画像処理装置、画像処理方法、プログラム及び合成用画像データ | |
JP4345440B2 (ja) | 輪郭判断装置及び輪郭判断方法 | |
CN114550201A (zh) | 服装规范化检测方法及装置 | |
JP2005242535A (ja) | 画像補正装置 | |
JP2020107038A (ja) | 情報処理装置、情報処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060221 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090312 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090331 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090528 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090623 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090706 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4345440 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120724 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130724 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |