JP4568223B2 - 推定装置 - Google Patents
推定装置 Download PDFInfo
- Publication number
- JP4568223B2 JP4568223B2 JP2005368124A JP2005368124A JP4568223B2 JP 4568223 B2 JP4568223 B2 JP 4568223B2 JP 2005368124 A JP2005368124 A JP 2005368124A JP 2005368124 A JP2005368124 A JP 2005368124A JP 4568223 B2 JP4568223 B2 JP 4568223B2
- Authority
- JP
- Japan
- Prior art keywords
- hidden state
- estimation
- time
- state
- hidden
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/165—Detection; Localisation; Normalisation using facial parts and geometric relationships
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Geometry (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
このような観測データ(画像)から直接検出することができない推定対象の状態(例えば頭部姿勢)のことを隠れ状態と呼び、この推定対象の隠れ状態の事後確率分布を観測データから算出する手法として、時系列ベイズ推定が知られている。
このパーティクルフィルタは、有限のパーティクルによって各時刻での隠れ状態の事前確率分布及び事後確率分布を離散的に表現し、それを用いて時系列推定や予測を行うものである。
A. Blake, R. Curwen and A. Ziseerman : "A frame work for spatio-temporal control in the tracking of visual contours", International Journal of Computer Vision, 11, 2, pp.127-145 (1993). G. Casella and C. Robert : "Rao-blackwellisation of sampling schmes", Biometrika, 83, 1, pp.81-94 (1996). A. Doucet, S. Godsil and C. Andrieu : "On sequential monte carlo sampling methods for bayesian filtering", Statistics and Computiong, 10, 3, pp.197-208 (2000).
上記目的を達成するためになされた本発明の推定装置では、推定対象の隠れ状態予測手段が、当該手段での時刻t−1の推定情報と、推定対象の隠れ状態の時間変化に伴う動きのモデルを表す推定対象の隠れ状態の状態遷移構造とに基づいて、時刻tの推定対象の隠れ状態の状態予測情報を生成する。
図1は、本発明を適用した画像処理装置1の全体構成を示すブロック図である。なお、画像処理装置1は、車両に搭載され、ドライバの頭部を撮影した画像から、ドライバのわき見や居眠り等を検出するための情報である頭部姿勢を時系列的に求める処理を実行する装置である。
ここで、図4は、推定部8が扱う状態空間モデルを表すグラフである。
図4に示すように、推定部8は、時刻tにおける顔モデルの姿勢を表すアフィンパラメータat を隠れ状態として求める上位層と、時刻tにおける顔特徴点群の位置x(t)(=(x_{1}(t), x_{2}(t), …,x_{N}(t))T)を隠れ状態として求める顔特徴点x_{n}毎に設けられたN個の下位層(図では一つだけ示す)とを備えており、時刻tまでに入力された入力画像系列z1:t から、これら隠れ状態at ,x(t) を、時系列ベイズ推定により推定するものである。
なお、あるパラメータfの確率分布がガウス分布(正規分布)に従う場合、その確率分布は、平均をμ,分散をΣ(標準偏差σ)とすると、(13)式で表すことができる。つまりこの場合、パラメータの確率分布の計算は、実際には、その平均μと分散Σを求めれば十分である。
図6に示すように、推定部8は、顔特徴点x_{n}毎に設けられたN個の追跡器BKn からなり、それぞれが一つの顔特徴点x_{n}を追跡して、時刻tにおけるその顔特徴点x_{n}の位置x_{n}(t)を推定した確率分布をガウス近似した確率分布を規定する特徴点推定分布パラメータ(平均、標準偏差)を生成する顔特徴点追跡部10と、各追跡器BKn にて算出された特徴点推定分布パラメータに基づき、カルマンフィルタを用いてアフィンパラメータat 及びアフィンパラメータの予測値at+1,その分散Vt+1 (以下、予測値等という)を算出するアフィンパラメータ算出部30と、アフィンパラメータ算出部30にて算出されるアフィンパラメータの予測値等を保持する予測値保持部40と、予測値保持部40にて保持された時刻t−1において算出されたアフィンパラメータの予測値等に基づいて、時刻tの顔特徴点群の位置x(t) (=(x_{1}(t), x_{2}(t), …,x_{N}(t))T)を予測した確率分布p(x(t)|at )を規定する上位予測分布パラメータ(平均値,分散)を算出して、追跡器BKn のそれぞれに供給する予測分布パラメータ算出部41とを備えている。
なお、アフィンパラメータ算出部30で使用するカルマンフィルタでは、アフィンパラメータat の状態遷移過程として、アフィンパラメータat の動きモデルが等速直線運動であること、システムノイズが標準正規分布(ガウス分布でμ=0,Σ=1)の分散を線形変換したガウス分布に従うことを表す(14)式に示す関係式を仮定し、また、下位層にて推定される顔特徴点群の位置x(t) の期待値ベクトルft の観測過程として、(15)式に示す線形の関係式を仮定している。ここで、このような観測モデルを仮定するのは、カルマンフィルタの適用が可能となるためには、システムが線形で表現されることと、状態及び尤度の確率分布がガウス分布で表されることとが必要なためである。そして、このガウス分布で近似された顔特徴点群の位置の期待値ベクトルft はアフィンパラメータat を推定する際の観測情報に相当する。
図7に示すように、アフィンパラメータ算出部30は、顔特徴点追跡部10から、顔特徴点x_{1}〜x_{N}毎に供給される特徴点推定分布パラメータ(平均、標準偏差)に基づいて、時刻tにおける各顔特徴点の位置x_{1}(t)〜x_{N}(t)の確率分布の,期待値(平均)を配列してなる顔特徴点群の位置の期待値ベクトルft 、標準偏差を配列してなる雑音行列Da,t を生成する算出器31と、予測値保持部40を介して供給される時刻t−1におけるアフィンパラメータの推定値に基づく予測値等(以下単にアフィンパラメータ予測値等という)、及び算出器31にて生成された雑音行列Da,t 、観測行列生成・記憶部6に記憶された観測行列Ca に基づいてカルマンゲインKt を算出するカルマンゲイン算出部32と、カルマンゲインKt ,アフィンパラメータ予測値等,顔特徴点群の位置の期待値ベクトルft ,観測行列Ca に基づいて、事後確率分布を表現するアフィンパラメータ及びその分散の推定値(以下単にアフィンパラメータ推定値等という)at ,Vt を推定するアフィンパラメータ推定部33と、アフィンパラメータ推定部33にて推定されたアフィンパラメータ推定値等at ,Vt に基づいて、事前確率分布を表現する次時刻t+1におけるアフィンパラメータ予測値等を算出するアフィンパラメータ予測部34とからなる。
なお、追跡器BKn は、パーティクルフィルタによって一つの顔特徴点xn を追跡するものである。ここで、パーティクルフィルタの動作概要を、図8に示す説明図を参照して説明する。
図9に示すように、追跡器BKn は、パーティクルのリサンプル値(後述する)に基づいて顔特徴点を予測した確率分布(以下、下位予測分布という)に従ったパーティクルを生成する下位予測分布生成部11と、上位予測分布パラメータ算出部41にて生成された顔特徴点についての上位予測分布パラメータ(顔特徴点座標の平均,分散)、及び下位予測分布生成部11にて生成されたパーティクルに基づいて、上位予測分布と下位予測分布とを予め設定された混合比αa,t ,αz,t (0≦αa,t ≦1,0≦αz,t ≦1,αa,t +αz,t =1)にて混合してなる混合分布π(x(t)|αt )に従ったパーティクルを生成する混合分布生成部14とを備えている。
つまり、真の観測過程((12)式におけるp(zt |x(t)))は未知であるため,パーティクルの重みwt の計算には何らかのモデルが必要となり、ここでは、テンプレートtpn と切出画像St との正規化相関を用いてパーティクルの重みwt を決定している。このため、重み算出部24におけるパーティクルの重みwt の計算が、陰に観測過程を規定していることになる。
画像処理装置1によれば、上位層でのアフィンパラメータの推定、ひいてはアフィンパラメータに基づくドライバの頭部姿勢の算出を高い信頼性,頑健性をもって行うことができる。
ここで、画像処理装置1の動作をシミュレーションによって確認した結果を示す。
また、シミュレーション画像は、図3に示すように、各顔部品(両眼,鼻)は、単一平面上にあるものとし、この平面がY軸を中心とした回転角(ヨー角)がθyだけ回転するものとして、次のように作成した。
但し、ここでは、混合比αa,t の最大値を0.8、最小値を0.2とした。図16(b)中のグレー領域は、顔特徴点が図14の大ノイズ領域に隠れていることを示す。
[他の実施形態]
以上、本発明の一実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において、様々な態様にて実施することが可能である。
Claims (6)
- 観測可能な状態から推定対象の隠れ状態を時系列に推定する推定装置であって、
前記推定対象の隠れ状態から観測可能な状態が観測される過程が階層構造を有し、
前記階層構造は、前記推定対象の隠れ状態と前記観測可能な状態の間に、前記推定対象の隠れ状態と前記観測可能な状態の両者と因果関係を持つ中間の隠れ状態を持ち,前記推定対象の隠れ状態が時間変化に伴って状態遷移する構造を持つ階層構造であって、
前時刻(以下、時刻t−1とする)の推定対象の隠れ状態推定情報と推定対象の隠れ状態の状態遷移構造とに基づいて、現時刻t(以下、時刻tとする)の推定対象の隠れ状態予測情報を生成する推定対象の隠れ状態予測手段と、
前記時刻tの推定対象の隠れ状態予測情報と、前記推定対象の隠れ状態と前記中間の隠れ状態との間の因果関係とに基づいて、時刻tの推定対象の隠れ状態の状態遷移構造による中間の隠れ状態予測情報を生成する推定対象の隠れ状態の状態遷移構造による中間の隠れ状態予測手段と、
時刻tの観測可能な状態の観測データと、後述する混合手段によって生成された時刻tの中間の隠れ状態予測情報とに基づいて、時刻tの中間の隠れ状態の尤度を生成する中間の隠れ状態の尤度観測手段と、
前記時刻tの中間の隠れ状態予測情報と、前記時刻tの中間の隠れ状態の尤度と、に基づいて時刻tの中間の隠れ状態推定情報を生成する中間の隠れ状態推定手段と、
前記時刻tの中間の隠れ状態推定情報と、前記時刻tの推定対象の隠れ状態予測情報とに基づいて、時刻tの推定対象の隠れ状態の尤度を生成する推定対象の隠れ状態の尤度観測手段と、
前記時刻tの推定対象の隠れ状態予測情報と、前記時刻tの推定対象の隠れ状態の尤度と、に基づいて時刻tの推定対象の隠れ状態推定情報を生成する推定対象の隠れ状態推定手段と、
を備え、
前記階層構造に、前記中間の隠れ状態にも時間変化に伴って状態遷移する構造と、
時刻t−1の中間の隠れ状態推定情報と中間の隠れ状態の状態遷移構造とに基づいて、時刻tの中間の隠れ状態の状態遷移構造による中間の隠れ状態予測情報を生成するところの、中間の隠れ状態の状態遷移構造による中間の隠れ状態予測手段と、
前記時刻tの推定対象の隠れ状態の状態遷移構造による中間の隠れ状態予測情報と、前記時刻tの中間の隠れ状態の状態遷移構造による中間の隠れ状態予測情報を予め設定された混合比に従って混合することで前述の時刻tの中間の隠れ状態予測情報を生成する混合手段と、
を設けたことを特徴とする推定装置。 - 前記中間の隠れ状態推定手段は、
前記時刻tの中間の隠れ状態推定情報と、該時刻tの中間の隠れ状態推定情報の生成に使用した前記時刻tの推定対象の隠れ状態の状態遷移構造による中間の隠れ状態予測情報及び前記時刻tの中間の隠れ状態の状態遷移構造による中間の隠れ状態予測情報とに基づき、前記時刻tの中間の隠れ状態推定情報を最もよく近似する前記時刻tの推定対象の隠れ状態の状態遷移構造による中間の隠れ状態予測情報と前記時刻tの中間の隠れ状態の状態遷移構造による中間の隠れ状態予測情報との混合比を求める混合比算出手段を備え、該混合比算出手段にて算出された混合比を、次時刻(以下、時刻t+1とする)の中間の隠れ状態予測情報を生成する際に使用することを特徴とする請求項1に記載の推定装置。 - 前記混合比算出手段は、前記混合比の算出に、オンライン化したEMアルゴリズムを用いることを特徴とする請求項2に記載の推定装置。
- 前記中間の隠れ状態推定手段は、前記時刻tの中間の隠れ状態推定情報の生成に、パーティクルフィルタを用いることを特徴とする請求項1〜3のいずれかに記載の推定装置。
- 前記推定対象の隠れ状態推定手段は、前記時刻tの推定対象の隠れ状態推定情報の生成に、カルマンフィルタを用いることを特徴とする請求項1〜4のいずれかに記載の推定装置。
- 前記観測可能な状態は、顔面を撮影した画像であり、前記推定対象の隠れ状態は、頭部姿勢を表すアフィンパラメータであり、前記中間の隠れ状態は、顔面の特徴的な部位の画像面上での位置を表す複数の特徴点の画像面上での座標であることを特徴とする請求項1〜5のいずれかに記載の推定装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005368124A JP4568223B2 (ja) | 2005-12-21 | 2005-12-21 | 推定装置 |
DE102006059172A DE102006059172B4 (de) | 2005-12-21 | 2006-12-14 | Bildprozessor |
US11/642,763 US7813544B2 (en) | 2005-12-21 | 2006-12-20 | Estimation device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005368124A JP4568223B2 (ja) | 2005-12-21 | 2005-12-21 | 推定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007172237A JP2007172237A (ja) | 2007-07-05 |
JP4568223B2 true JP4568223B2 (ja) | 2010-10-27 |
Family
ID=38193786
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005368124A Active JP4568223B2 (ja) | 2005-12-21 | 2005-12-21 | 推定装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7813544B2 (ja) |
JP (1) | JP4568223B2 (ja) |
DE (1) | DE102006059172B4 (ja) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8213677B2 (en) * | 2005-03-04 | 2012-07-03 | National University Corporation NARA Institute of Science and Technology | Motion measuring device, motion measuring system, in-vehicle device, motion measuring method, motion measurement program, and computer-readable storage medium |
JP4865517B2 (ja) * | 2006-12-05 | 2012-02-01 | スズキ株式会社 | 頭部の位置・姿勢検出装置 |
KR20080073933A (ko) * | 2007-02-07 | 2008-08-12 | 삼성전자주식회사 | 객체 트래킹 방법 및 장치, 그리고 객체 포즈 정보 산출방법 및 장치 |
US7856120B2 (en) * | 2007-03-30 | 2010-12-21 | Mitsubishi Electric Research Laboratories, Inc. | Jointly registering images while tracking moving objects with moving cameras |
US8107735B2 (en) * | 2007-04-10 | 2012-01-31 | Denso Corporation | Three dimensional shape reconstitution device and estimation device |
JP2009015671A (ja) * | 2007-07-06 | 2009-01-22 | Sony Corp | 情報処理装置および方法、並びにプログラム |
US8108800B2 (en) * | 2007-07-16 | 2012-01-31 | Yahoo! Inc. | Calculating cognitive efficiency score for navigational interfaces based on eye tracking data |
JP4942197B2 (ja) * | 2007-10-31 | 2012-05-30 | 日本電信電話株式会社 | テンプレート作成装置及び表情認識装置並びにその方法、プログラム及び記録媒体 |
JP5133783B2 (ja) | 2008-05-30 | 2013-01-30 | アルパイン株式会社 | 車載装置 |
WO2010010926A1 (ja) * | 2008-07-24 | 2010-01-28 | 国立大学法人静岡大学 | 特徴点追跡方法及び特徴点追跡装置 |
TWI363614B (en) * | 2008-09-17 | 2012-05-11 | Ind Tech Res Inst | Method and system for contour fitting and posture identification, and method for contour model adaptation |
KR101640458B1 (ko) * | 2009-06-25 | 2016-07-18 | 삼성전자주식회사 | 영상 장치 및 컴퓨터 판독 기록매체 |
JP5326920B2 (ja) * | 2009-08-07 | 2013-10-30 | 株式会社リコー | 画像処理装置、画像処理方法、及び、コンピュータプログラム |
JP2011040993A (ja) | 2009-08-11 | 2011-02-24 | Nikon Corp | 被写体追尾プログラム、およびカメラ |
JP5370122B2 (ja) * | 2009-12-17 | 2013-12-18 | 富士通株式会社 | 移動体位置推定装置及び移動体位置推定方法 |
JP2011243088A (ja) * | 2010-05-20 | 2011-12-01 | Sony Corp | データ処理装置、データ処理方法、及び、プログラム |
JP5767078B2 (ja) * | 2011-10-25 | 2015-08-19 | 日本電信電話株式会社 | 姿勢推定装置、姿勢推定方法及び姿勢推定プログラム |
US9373088B2 (en) * | 2012-09-17 | 2016-06-21 | The Board Of Trustees Of The Leland Stanford Junior University | Brain machine interface utilizing a discrete action state decoder in parallel with a continuous decoder for a neural prosthetic device |
WO2015026960A1 (en) * | 2013-08-21 | 2015-02-26 | Sanger Terence D | Systems, methods, and uses of b a yes -optimal nonlinear filtering algorithm |
KR101514242B1 (ko) | 2013-09-30 | 2015-05-04 | 한양대학교 산학협력단 | 얼굴 특징을 추적하는 방법 및 장치 |
JP6304999B2 (ja) * | 2013-10-09 | 2018-04-04 | アイシン精機株式会社 | 顔検出装置、方法およびプログラム |
JP6340769B2 (ja) * | 2013-10-11 | 2018-06-13 | カシオ計算機株式会社 | 物体位置推定装置、物体位置推定方法及びプログラム |
US9609074B2 (en) * | 2014-06-18 | 2017-03-28 | Adobe Systems Incorporated | Performing predictive analysis on usage analytics |
US10310068B2 (en) | 2014-12-08 | 2019-06-04 | Northrop Grumman Systems Corporation | Variational track management |
JP6482844B2 (ja) * | 2014-12-11 | 2019-03-13 | 株式会社メガチップス | 状態推定装置、プログラムおよび集積回路 |
US10089525B1 (en) | 2014-12-31 | 2018-10-02 | Morphotrust Usa, Llc | Differentiating left and right eye images |
US9846807B1 (en) * | 2014-12-31 | 2017-12-19 | Morphotrust Usa, Llc | Detecting eye corners |
WO2016126994A1 (en) * | 2015-02-06 | 2016-08-11 | Quorum.Ai Inc. | System and method for using artificial intelligence in making decisions |
WO2017023541A1 (en) * | 2015-07-31 | 2017-02-09 | Schlumberger Technology Corporation | A method and apparatus of determining a state of a system |
TWI676536B (zh) * | 2016-01-22 | 2019-11-11 | 大陸商鴻富錦精密工業(武漢)有限公司 | 基於腦電訊號控制之智慧型機器人系統和方法 |
JP6809262B2 (ja) | 2017-02-08 | 2021-01-06 | トヨタ自動車株式会社 | ドライバ状態検出装置 |
JP7281733B2 (ja) * | 2019-04-15 | 2023-05-26 | パナソニックIpマネジメント株式会社 | 監視システム、移動体、監視方法及びプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1404259A4 (en) * | 2001-07-10 | 2008-12-03 | California Inst Of Techn | AUTOMATE COGNITIVE FINISH FOR PROTHETIC SYSTEMS |
US7280696B2 (en) * | 2002-05-20 | 2007-10-09 | Simmonds Precision Products, Inc. | Video detection/verification system |
AU2003280516A1 (en) * | 2002-07-01 | 2004-01-19 | The Regents Of The University Of California | Digital processing of video images |
-
2005
- 2005-12-21 JP JP2005368124A patent/JP4568223B2/ja active Active
-
2006
- 2006-12-14 DE DE102006059172A patent/DE102006059172B4/de not_active Expired - Fee Related
- 2006-12-20 US US11/642,763 patent/US7813544B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20070147661A1 (en) | 2007-06-28 |
US7813544B2 (en) | 2010-10-12 |
JP2007172237A (ja) | 2007-07-05 |
DE102006059172B4 (de) | 2009-12-17 |
DE102006059172A1 (de) | 2007-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4568223B2 (ja) | 推定装置 | |
JP4728432B2 (ja) | 顔姿勢推定装置、顔姿勢推定方法、及び、顔姿勢推定プログラム | |
US8165347B2 (en) | Visual tracking eye glasses in visual head and eye tracking systems | |
US10860752B2 (en) | Method and system for vision measure for digital human models | |
JP7289013B2 (ja) | オクルージョン認識室内シーン分析 | |
Bandouch et al. | Accurate human motion capture using an ergonomics-based anthropometric human model | |
CN102142085A (zh) | 一种林区监控视频中运动火焰目标的鲁棒跟踪方法 | |
JP2013156680A (ja) | フェーストラッキング方法、フェーストラッカおよび車両 | |
Bandouch et al. | Evaluation of Hierarchical Sampling Strategies in 3D Human Pose Estimation. | |
AU2020436768B2 (en) | Joint rotation inferences based on inverse kinematics | |
US20070171228A1 (en) | Methods and Apparatus for Accelerated Animation Using Point Multiplication and Soft Caching | |
JP5048381B2 (ja) | 三次元形状復元装置 | |
KR100951793B1 (ko) | 타원체 모델을 이용한 파티클 필터에서의 머리 추적 방법 | |
JP4879257B2 (ja) | 移動対象追跡装置、移動対象追跡方法及び移動対象追跡プログラム | |
JP4971015B2 (ja) | 推定装置 | |
Jindai et al. | A nodding detection system based on the active appearance model | |
Dong et al. | A robust and efficient face tracking kernel for driver inattention monitoring system | |
Ude et al. | Online tracking and mimicking of human movements by a humanoid robot | |
JP5231183B2 (ja) | 三次元形状復元装置 | |
Takahashi et al. | Head pose tracking system using a mobile device | |
Hero-Ek | Improving AR visualizationwith Kalman filtering andhorizon-based orientation:–To prevent boats to run aground at sea | |
Carapencea et al. | Real-time gaze tracking with a single camera | |
Dornaika et al. | 3D head tracking by particle filters | |
CN116453095A (zh) | 头部姿态估计方法及装置、计算机可读存储介质、终端 | |
Zhu et al. | Hand detection and tracking in an active vision system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080229 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20080229 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100722 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100727 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100806 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130813 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |