JP2003009179A - 動きベクトル及び視差ベクトル検出装置 - Google Patents
動きベクトル及び視差ベクトル検出装置Info
- Publication number
- JP2003009179A JP2003009179A JP2001189035A JP2001189035A JP2003009179A JP 2003009179 A JP2003009179 A JP 2003009179A JP 2001189035 A JP2001189035 A JP 2001189035A JP 2001189035 A JP2001189035 A JP 2001189035A JP 2003009179 A JP2003009179 A JP 2003009179A
- Authority
- JP
- Japan
- Prior art keywords
- mode
- power consumption
- motion vector
- low power
- vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
力を抑えることができるようにした動きベクトル又は視
差ベクトル検出装置を提供する。 【解決手段】 入力映像信号の基準画像のデータを格納
する基準画像格納メモリ1と、参照画像のデータを格納
する参照画像格納メモリ2と、各画像格納メモリを制御
するメモリコントローラ3と、各画像格納メモリから読
み出された基準ブロックデータと参照ブロックデータと
を用いて相関演算を行って動きベクトルを検出するブロ
ックマッチング演算器4と、通常モードと低消費電力モ
ードとを設定し、各モードに応じたパラメータを出力す
る動作モード設定器6と、通常モード時の測定結果と低
消費電力モード時の測定結果の差分が閾値以内か否かを
判定するモード結果比較器5とを備え、前記差分が閾値
以内の場合には、モード決定用フレームより後に入力さ
れるフレームに対して低消費電力モードを設定するよう
に構成する。
Description
て、動画像における動きベクトル又はステレオ画像にお
ける左右画像の視差ベクトルを検出する装置に関するも
のである。
のための動きベクトルの検出には、ブロックマッチング
法が一般的によく採用されている。また、ステレオ画像
における左右画像の視差ベクトルの検出に関しても、同
様の手法が用いられている。以下、動きベクトル検出に
代表して説明を行うが、視差ベクトル検出に関しても同
じことがいえる。
きベクトル検出は、演算量が多く、消費電力も大きくな
りやすい。ブロックマッチング法を用いた動きベクトル
検出において、演算量を削減して消費電力を低減させる
ためには、探索範囲を狭くする方法、間引きする方法、
ブロックサイズを小さくする方法等が考えられている。
は、一般的に検出精度も下がるという問題点がある。次
に、この問題点について説明する。例えば、単純に探索
範囲を狭くして演算量を削減しようとした場合は、真の
動きベクトルが探索範囲外に存在するときに、誤った動
きベクトルを検出してしまう。また間引きする場合は、
原画像の細部の特徴が残らない可能性がある。同様にブ
ロックサイズを小さくする場合も、ノイズ等の影響をう
けやすくなってしまう恐れがある。
力映像の特性に応じて処理を変えればよい。例えば、探
索範囲に関しては、動きが大きい映像の場合は探索範囲
を広く、動きが小さい映像の場合は探索範囲を狭くすれ
ばよい。また、間引きに関しても、周波数成分の高い映
像の場合は間引きを小さく、周波数成分の低い映像の場
合は間引きを大きくすればよい。また、ブロックサイズ
の場合も、ノイズの多い映像の場合はブロックサイズを
大きく、ノイズの少ない映像の場合はブロックサイズを
小さくすればよい。
囲に関する先行技術としては、特開2000−7858
0号公報「動きベクトル検出装置および方法、並びに提
供媒体」においては、探索範囲内で最小となったときの
相関演算値の大きさに応じて探索範囲の大きさを決定す
る手法について開示がなされている。
特開平11−136682号公報「動きベクトル検出装
置および動きベクトル検出方法、並びに画像符号化装
置」においては、符号化対象ブロックの周波数成分等に
応じて、間引きの設定を制御する手法について開示がな
されている。
しては、特開平5−130588号公報「画像の動きベ
クトル検出装置」においては、輪郭部の割合が多いほど
ブロックサイズを大きくする手法について開示がなされ
ている。
場合、低消費電力のための手法は、映像信号の特性や装
置の用途に応じて適切な手法の組み合わせを選択するこ
とが望ましい。上述した先行技術を組み合わせて用いれ
ば、例えば、動きの少ない映像の場合は探索範囲を狭
く、周波数成分の低い映像の場合は間引き量を大きくす
ることができ、それぞれの技術を単独で用いる場合より
も、消費電力削減効果の向上が期待できる。
開2000−78580号公報開示の手法を用いるため
には、最小相関演算値の大きさを調べる必要があり、ま
た特開平11−136682号公報開示の手法を用いる
ためには周波数成分を調べる必要があり、また特開平5
−130588号公報開示の手法を用いるためには輪郭
部の割合を調べる必要があるというように、個々の消費
電力削減手段によって映像の特性を調べる手法は異な
る。すなわち、複数の消費電力削減手段を組み合わせて
用いれば高い消費電力削減効果が期待できるものの、上
述した先行技術を組み合わせて用いる場合は、個々の消
費電力削減手段によって映像の特性を調べる手法が異な
るために、装置は複雑になってしまうという問題点があ
る。
で、装置を複雑化することなく、精度よく消費電力を抑
えることができるようにした動きベクトル又は視差ベク
トル検出装置を提供することを目的とする。
め、請求項1に係る発明は、入力映像信号の動きベクト
ル又は視差ベクトルの検出装置において、入力映像信号
のうち基準画像のデータを格納する基準画像格納メモリ
と、前記入力映像信号のうち参照画像のデータを格納す
る参照画像格納メモリと、前記基準画像格納メモリと前
記参照画像格納メモリとを制御するメモリコントローラ
と、前記基準画像格納メモリから読み出される基準ブロ
ックデータと前記参照画像格納メモリから読み出される
参照ブロックデータとを用いて相関演算を行い、動きベ
クトル又は視差ベクトルを検出するブロックマッチング
演算器と、通常モードと低消費電力モードとを設定し、
前記各モードに応じたパラメータを出力する動作モード
設定器と、通常モード時の測定結果と低消費電力モード
時の測定結果とを比較するモード結果比較器とを有し、
前記動作モード設定器は、前記モード結果比較器による
通常モード時の測定結果と低消費電力モード時の測定結
果の比較結果に基づいて、動作モードを設定するように
構成されていることを特徴とするものである。
2,第3,第4,第5の実施の形態が対応する。このよ
うに構成した動きベクトル又は視差ベクトルの検出装置
においては、モード結果比較器が通常モード時の測定結
果と低消費電力モード時の測定結果とを比較し、動作モ
ード設定器は、通常モード時の測定結果と低消費電力モ
ード時の測定結果との比較結果に基づいて動作モードを
設定し、通常モード時の測定結果と低消費電力モード時
の測定結果を比較した後に動作モードを決定するように
なっているため、検出精度を低下させずに且つ装置を複
雑化することなく、消費電力削減効果を得ることができ
る。
きベクトル又は視差ベクトルの検出装置において、前記
モード結果比較器は、モード決定用フレームにおける通
常モード時の動きベクトル又は視差ベクトルの統計値と
低消費電力モード時の動きベクトル又は視差ベクトルの
統計値との差分が閾値以内であるか否かを判定し、前記
動作モード設定器は、前記モード結果比較器による前記
差分が閾値以内であった場合は、前記モード決定用フレ
ームより後に入力されるフレームに対して、低消費電力
モードを設定するように構成されていることを特徴とす
るものである。
5の実施の形態が対応する。このように構成した動きベ
クトル又は視差ベクトルの検出装置においては、モード
結果比較器は、モード決定用フレームにおける通常モー
ド時の動きベクトル又は視差ベクトルの統計値と低消費
電力モード時の動きベクトル又は視差ベクトルの統計値
との差分が閾値以内であるか否かを判定し、動作モード
設定器は、前記差分が閾値以内であった場合は、モード
決定用フレームより後に入力されるフレームに対して、
低消費電力モードを設定し、通常モード時の測定結果と
低消費電力モード時の測定結果を比較した後に動作モー
ドを決定するようになっているため、検出精度を低下さ
せずに且つ装置を複雑化することなく、消費電力削減効
果を得ることができる。特に、フレーム間の相関が高い
映像に関して有効である。
きベクトル又は視差ベクトルの検出装置において、入力
映像信号のシーン変化を検出するシーン変化検出器を有
し、前記モード決定用フレームは、前記シーン変化検出
器でシーン変化が検出された場合に指定されることを特
徴とするものである。
5の実施の形態が対応する。このように構成した動きベ
クトル又は視差ベクトルの検出装置においては、更にシ
ーン変化検出器を備え、シーン変化を検出し、モード決
定用フレームは、検出されたシーン変化に対応して指定
されるようにしているので、シーン変化が多い映像に関
して検出精度を向上させることができる。
きベクトル又は視差ベクトルの検出装置において、前記
モード結果比較器は、モード決定用基準ブロックの通常
モード時の動きベクトル又は視差ベクトルの統計値と低
消費電力モード時の動きベクトル又は視差ベクトルの統
計値との差分が閾値以内であるか否かを判定し、前記動
作モード設定器は、前記モード結果比較器による前記差
分が閾値以内であった場合は、前記モード決定用基準ブ
ロックが存在する基準画像内の全ての基準ブロックに対
して、低消費電力モードを設定することを特徴とするも
のである。
5の実施の形態が対応する。このように構成した動きベ
クトル又は視差ベクトルの検出装置においては、モード
結果比較器は、モード決定用基準ブロックの通常モード
時の動きベクトル又は視差ベクトルの統計値と低消費電
力モード時の動きベクトル又は視差ベクトルの統計値と
の差分が閾値以内であるか否かを判定し、動作モード設
定器は、前記差分が閾値以内であった場合は、モード決
定用基準ブロックが存在する基準画像内の全ての基準ブ
ロックに対して、低消費電力モードを設定し、通常モー
ド時の測定結果と低消費電力モード時の測定結果を比較
した後に動作モードを決定するようになっているため、
特にフレーム間の相関が低い場合に、検出精度を低下さ
せずに消費電力削減効果を得ることができる。
きベクトル又は視差ベクトルの検出装置において、前記
モード結果比較器は、モード決定用基準ブロックの通常
モード時の動きベクトル又は視差ベクトルの統計値と低
消費電力モード時の動きベクトル又は視差ベクトルの統
計値との差分が閾値以内であるか否かを判定し、前記動
作モード設定器は、前記モード結果比較器による前記差
分が閾値以内であった場合は、前記モード決定用基準ブ
ロックの周辺の基準ブロックに対して、低消費電力モー
ドを設定することを特徴とするものである。
5の実施の形態が対応する。このように構成した動きベ
クトル又は視差ベクトルの検出装置においては、モード
結果比較器は、モード決定用基準ブロックの通常モード
時の動きベクトル又は視差ベクトルの統計値と低消費電
力モード時の動きベクトル又は視差ベクトルの統計値と
の差分が閾値以内であるかを判定し、動作モード設定器
は、前記差分が閾値以内であった場合は、モード決定用
基準ブロックの周辺の基準ブロックに対して、低消費電
力モードを設定し、通常モード時の測定結果と低消費電
力モード時の測定結果を比較した後に動作モードを決定
するようにしているので、特に1枚の画像中に特性の異
なる物体が混在する場合に、検出精度を低下させずに消
費電力削減効果を得ることができる。
きベクトル又は視差ベクトルの検出装置において、前記
動作モード設定器は、前記通常モードを設定した後、消
費電力削減効果の大きい順に複数の低消費電力モードを
順次設定することを特徴とするものである。
施の形態が対応する。このように構成した動きベクトル
又は視差ベクトルの検出装置においては、低消費電力モ
ードを複数存在させているため、消費電力を細かく制御
することができ、また複数の低消費電力モードのうち、
消費電力削減効果の大きいものから優先的に選択させる
ことにより、可能な限り高い消費電力削減効果を得るこ
とができる。
する前に、従来の動きベクトル検出装置について説明を
行う。まず、図17を用いて従来の動きベクトル検出装置
の構成について説明する。図17において、101 は入力さ
れる映像信号のうち基準画像データを格納する基準画像
格納メモリ、102 は入力される映像信号のうち参照画像
データを格納する参照画像格納メモリ、103 は前記基準
画像格納メモリ101 と前記参照画像格納メモリ102 とを
制御するメモリコントローラ、104 は前記基準画像格納
メモリ101 から基準ブロック単位で出力される基準ブロ
ックデータと、前記参照画像格納メモリ102 から参照ブ
ロック単位で出力される参照ブロックデータとを用いて
差分絶対値和演算もしくは差分二乗和演算を行い、前記
基準ブロックの位置から、演算結果が最小となるときの
前記参照ブロックの位置までを、動きベクトルとして出
力するブロックマッチング演算器を示している。
きベクトル検出装置の動作について説明する。入力映像
信号のうち基準画像データは基準画像格納メモリ101
に、参照画像データは参照画像格納メモリ102 にそれぞ
れ格納される。ブロックマッチング演算器104 は、基準
画像格納メモリ101 からブロック単位で読み出される基
準ブロックデータと、参照画像格納メモリ102 からブロ
ック単位で読み出される参照ブロックデータとを用い
て、参照画像内の探索範囲内で参照ブロックをサーチし
ながら相関演算を行う。このとき、基準ブロックと最も
相関が高いと判定された参照ブロックの位置と基準ブロ
ックの位置との差分が、動きベクトルとして出力される
ようになっている。
の実施の形態について説明する。図1は、第1の実施の
形態の全体構成を示すブロック構成図である。図1にお
いて、1は入力される映像信号のうち基準画像のデータ
を格納する基準画像格納メモリ、2は入力される映像信
号のうち参照画像のデータを格納する参照画像格納メモ
リ、3は前記基準画像格納メモリ1と前記参照画像格納
メモリ2とを制御するメモリコントローラ、4は前記基
準画像格納メモリ1から基準ブロック単位で出力される
基準ブロックデータと、前記参照画像格納メモリ2から
参照ブロック単位で出力される参照ブロックデータとを
用いて、差分絶対値和演算もしくは差分二乗和演算を行
い、前記基準ブロックの位置から、演算結果が最小とな
るときの前記参照ブロックの位置までを、動きベクトル
として出力するブロックマッチング演算器、5はブロッ
クマッチング演算器4から出力される、複数のモードに
おける動きベクトルを比較するモード結果比較器、6は
モード結果比較器5から出力される比較結果に基づい
て、パラメータを設定する動作モード設定器を示してい
る。
通常モードと低消費電力モードに関して説明する。図2
において、フレーム1からフレーム10は、それぞれブロ
ックマッチング演算を行う2枚の画像の組を示し、例え
ば立体映像における視差測定では、右画像1と左画像1
の組をフレーム1,右画像2と左画像2の組をフレーム
2とする。また、フレーム1とフレーム8は、モード決
定用フレームであり、例えば図2の例では7フレームお
きに周期的に発生するものとする。
態における動作について説明する。まず、モード決定用
フレームであるフレーム1において、動作モード設定器
6は通常モードを設定し、通常モードに応じたパラメー
タを出力する。メモリコントローラ3は、動作モード設
定器6にて設定された通常モード時のパラメータを受け
取り、通常モード時のパラメータに従った制御方法で、
基準画像格納メモリ1と参照画像格納メモリ2を制御す
る。ブロックマッチング演算器4は、基準画像格納メモ
リ1から読み出された基準ブロックデータと、参照画像
格納メモリ2から読み出された参照ブロックデータとを
用いて、参照画像内の探索範囲内で参照ブロックをサー
チしながら相関演算を行う。このとき、基準ブロックの
位置と、基準ブロックと最も相関が高いと判定された参
照ブロックの位置との差分が、動きベクトルとして出力
される。なお、ブロックマッチング演算器4は、動作モ
ード設定器6にて設定された通常モード時のパラメータ
を受け取り、パラメータ従った検出方法で動きベクトル
を検出する。
の動きベクトルが検出された後、動作モード設定器6
は、低消費電力モードを設定する。このとき、低消費電
力モードにおける動きベクトルの検出も、通常モードの
場合と同様にして行われる。なお、低消費電力モード時
に動作モード設定器6で設定されるパラメータは、通常
モード時に設定されるパラメータよりも消費電力が少な
くなるように設定される。
された動きベクトルの統計値と低消費電力モードで検出
された動きベクトルの統計値との差分が、閾値以内であ
るか否かを判定する。ここで、統計値とは、例えば平均
値、最大値、最小値、最頻値等を指す。また、前記複数
の統計値を併用してもよい。また、動きベクトルの分布
に関するヒストグラムを作成し、それぞれの範囲に関す
る頻度であってもよい。
と低消費電力時の全ての動きベクトルとを用いて、各々
一致するか判定し、フレーム全体における一致率が閾値
以内であるかを判定してもよい。
比較器5にて判定された結果を受け取り、フレーム2か
らフレーム7までの動作モードを設定する。ここで、例
えばフレーム1における通常モードの統計値と低消費電
力モードの統計値との差分が閾値以内だった場合は、図
2に示すようにフレーム2からフレーム7までは、低消
費電力モードを設定する。
フレーム8に関しても、動作モード設定器6が通常モー
ドと低消費電力モードとを設定し、モード結果比較器5
が通常モード時の統計値と低消費電力モード時の統計値
とを比較する。ここで、例えばフレーム8における通常
モードの統計値と低消費電力モードの統計値との差分
が、閾値を超えていた場合は、図2に示すようにフレー
ム9からフレーム14までは、通常モードが設定される。
の測定結果と低消費電力モード時の測定結果とを比較し
た後に、動作モードを決定するため、検出精度を低下さ
せずに消費電力削減効果を得ることができる。
に応じて設定されるパラメータは、例えば、探索範囲、
相関演算時におけるビット長、基準ブロック数、ブロッ
クサイズ、間引き等に対応するものが考えられる。以下
にこれらのパラメータが設定されたときの動作について
説明する。
範囲に関して示す説明図である。図3において、10はブ
ロックサイズがM画素×N画素の基準ブロック、11は基
準ブロック位置を中心に水平方向に±A画素、垂直方向
に±B画素の範囲を持つ探索範囲、12は基準ブロック10
の左上位置、13は探索範囲11内の探索開始位置、14は探
索範囲11内の探索終了位置を示す。ここで、基準ブロッ
クの左上位置12の座標を(X0 ,Y0 )、探索開始位置
13の座標を(X1 ,Y1 )、探索終了位置14の座標を
(X2 ,Y2 )とすれば、式1(X1 =X0 −A,Y1
=Y0 −B,X2=X0 +M+A−1,Y2 =Y0 +N
+B−1)によって、探索開始位置13と探索終了位置14
を求めることができる。
ブロックサイズに関するパラメータが与えられたとき
の、メモリコントローラ3の動作に関して説明を行う。
メモリコントローラ3は、探索範囲とブロックサイズに
関するパラメータが与えられると、上記式1の演算式に
より探索開始位置13と探索終了位置14を演算する。メモ
リコントローラ3は、参照画像格納メモリ2を制御し
て、探索開始位置13から探索終了位置14までの参照画像
データを読み出す。
は、動作モード設定器6から設定されたパラメータに応
じて、探索範囲を任意に設定することができる。例え
ば、低消費電力モード時に、通常モード時よりも狭い探
索範囲を設定すれば、短時間で演算を終了することがで
きる。演算終了後、回路を停止等することにより、通常
モードよりも消費電力を削減することができる。
説明図である。図4において、基準ブロック10は、水平
方向にDX,垂直方向にDYの間隔で配置されている。
隣合った3つの基準ブロックの左上位置を示す20,21及
び22の座標を、それぞれ(XA,YA),(XB,Y
B),(XC,YC)とすれば、式2(XB=XA+D
X,YB=YA,XC=XA,YC=YA+DY)が成
り立つ。つまり、水平方向のブロック間隔DX及び垂直
方向のブロック間隔DYが与えられていれば、隣の基準
ブロックの座標を求めることができる。
ク数と水平方向及び垂直方向のブロック間隔に関するパ
ラメータが与えられたときの、メモリコントローラ3の
動作に関して説明を行う。メモリコントローラ3は、ブ
ロック間隔に関するパラメータが与えられると、上記式
2の演算式により個々の基準ブロックの座標を演算し、
基準ブロックに対する基準画像データと参照画像データ
とを読み出す。その後、設定された基準ブロック数のデ
ータを読み出し終えたら、動作を終了する。
は、動作モード設定器6から設定されたパラメータに応
じて、基準ブロック数とその配置方法を任意に設定する
ことができ、例えば、図5の(A),(B)に示すよう
に、低消費電力モード時は、通常モード時と比較して基
準ブロック数が少なくなるように配置することが可能で
ある。このように、低消費電力モード時に、通常モード
時よりも基準ブロック数を少なく設定すれば、短時間で
演算を終了することができ、通常モードよりも消費電力
を削減することができる。
ックサイズが4画素×4画素時のブロックマッチング演
算器4の回路構成を示す図である。説明を簡単にするた
めに、4画素×4画素にて説明するが、8画素×8画
素、16画素×16画素やその他のブロックサイズの場合も
同様な構成である。基準画像メモリ1から読み出された
基準ブロックデータと参照画像メモリ2から読み出され
た参照ブロックデータは、直並列変換器30で直並列変換
され、差分絶対値演算器群31に入力される。差分絶対値
演算器群31は、基準ブロックデータと参照ブロックデー
タとの差分絶対値演算を行う。なお、差分絶対値演算器
群31における個々の差分絶対値演算器の括弧内の数字
は、図7に示す基準ブロック内の画素位置及び参照ブロ
ック内の画素位置に対応し、例えば差分絶対値演算器
(1.1) は、基準ブロックデータのうち画素位置(1.1) の
データと、参照ブロックデータのうち画素位置(1.1) の
データとの差分絶対値演算を行う。
絶対値演算結果は、加算器群32で加算される。加算器群
32から出力される加算結果、すなわち基準ブロックと参
照ブロックとの間の差分絶対値和は、最小値検出器33に
入力され、最小値検出器33は、探索範囲内で差分絶対値
和が最小となるときの値を検出し、動きベクトルを出力
する。以上の方法により、ブロックマッチング演算器4
は、4画素×4画素の差分絶対値和演算を行い、動きベ
クトルを検出することができる。
ロックサイズが3画素×3画素と設定されたときのブロ
ックマッチング演算器4の動作に関して、図6を用いて
説明する。動作モード設定器6にてブロックサイズが3
画素×3画素と設定されると、差分絶対値演算器群31
は、差分絶対値演算器(1.4) 及び(2.4) 及び(3.4) 及び
(4.1) 及び(4.2) 及び(4.3) 及び(4.4) を停止させる。
また、直並列変換器30及び加算器群32も、差分絶対値演
算器(1.4) ,(2.4) ,(3.4) ,(4.1) ,(4.2) ,(4.3)
及び(4.4) に対応する部分を、停止させることができ
る。以上により、ブロックマッチング演算器4は、設定
されたブロックサイズに応じて回路の一部を停止させる
ことができる。例えば、低消費電力モード時に、通常モ
ード時よりも小さいブロックサイズを設定することによ
り、消費電力削減効果が得られる。
8において、間引きによって計算されない画素をハッチ
ングを付した画素で示すように、垂直方向の間引きが設
定された場合も同様に、直並列変換器30及び差分絶対値
演算器群31及び加算器群32は、差分絶対値演算器(2.1)
及び(2.2) 及び(2.3) 及び(2.4) 及び(4.1) 及び(4.2)
及び(4.3) 及び(4.4) に該当する部分をを停止させるこ
とができる。また、垂直方向の間引きだけでなく、水平
方向の間引き、又は垂直方向と水平方向の間引きの併用
が設定された場合も同様である。例えば、低消費電力モ
ード時に、通常モード時よりも大きい間引き量を設定す
ることにより、消費電力削減効果が得られる。
時におけるビット長が短く設定された場合は、直並列変
換器30及び差分絶対値演算器群31及び加算器群32及び最
小値検出器33の下位数ビットの動作を停止させることが
できる。例えば、低消費電力モード時に、通常モード時
よりも短いビット長を設定することにより、消費電力削
減効果が得られる。
定結果と低消費電力モード時の測定結果を比較した後
に、動作モードを決定するため、検出精度を低下させず
に消費電力削減効果を得ることができる。また、通常モ
ードと低消費電力モードとで探索範囲、相関演算時にお
けるビット長、基準ブロック数、ブロックサイズ、間引
き等のパラメータ設定を変えることができ、且つ複数の
パラメータを併用することにより、高い消費電力削減効
果を得ることができる。
設定と間引きの設定等、個々の消費電力削減手段によっ
て映像の特性を調べる手法が異なっていたが、本発明で
は、前記探索範囲や間引き等の複数のパラメータを併用
しても、通常モード時の結果と低消費電力モード時の結
果とを比べる手法は一定であるので、装置を複雑化する
ことなく、様々な消費電力削減手段を併用することがで
きる。
の実施の形態について説明する。図9は、本実施の形態
の全体構成を示すブロック構成図であり、符号1〜6で
示す構成要素は、図1で示した第1の実施の形態と同様
であるので、その説明を省略する。この実施の形態の特
徴は、ブロックマッチング演算器4から出力される動き
ベクトルを用いて、シーン変化を検出するシーン変化検
出器7を備えている点である。
ックマッチング演算器4から出力された現フレームにお
ける動きベクトルの統計値と、前フレームにおける動き
ベクトルの統計値とを比較する。比較した結果、現フレ
ームの統計値と前フレームの統計値とで大きな変化が見
られた場合は、シーン変化と判断する。シーン変化検出
器7でシーン変化と判断された場合、動作モード設定器
6は現在のフレームをモード決定用フレームとする。
ームおきに周期的に動作モードが決定されていたが、本
実施の形態では、シーン変化に対応して動作モードが決
定される。したがって、本実施の形態では、低消費電力
モードで動作中にシーン変化が起こった場合は、再度動
作モードが決定されるため、信頼性の高い動きベクトル
検出を行うことができる。このように、本実施の形態に
おいても、第1の実施の形態と同様に消費電力削減効果
を得ることができ、特にシーン変化が発生する映像に有
効である。
の実施の形態について説明する。本実施の形態における
装置全体の構成は、第1の実施の形態と同様であるの
で、その図示説明は省略する。図10は、基準画像におけ
るモード決定用基準ブロックの配置例に関して示す説明
図である。本実施の形態においては、動作モード設定器
6は、モード決定用基準ブロックに対して通常モードと
低消費電力モードとを設定する。図10に示す配置例で
は、モード決定用基準ブロック35は基準画像36中に複数
個存在し、モード結果比較器5は、モード決定用基準ブ
ロックの通常モード時の動きベクトルの統計値と、低消
費電力モード時の動きベクトルの統計値との差分が閾値
以内であるかを判定する。動作モード設定器6は、通常
モード時の動きベクトルの統計値と低消費電力モード時
の動きベクトルの統計値との差分が、閾値以内であった
場合には、基準画像36内の全ての基準ブロック37に対し
て低消費電力モードを設定する。
動作モードを決定していたが、本実施の形態では毎フレ
ームで動作モードを決定する。本実施の形態において
も、第1の実施の形態と同様に消費電力削減効果を得る
ことができ、特にフレーム間の相関が低い場合に有効で
ある。
の実施の形態について説明する。本実施の形態における
装置全体の構成は、第1の実施の形態と同様であるの
で、その図示説明は省略する。図11は、本実施の形態の
モード決定用基準ブロックと、同一モードで動作する基
準ブロックの集合に関して示す説明図である。基準画像
40は、太線で示す複数の基準ブロックの集合42に分割さ
れ、該基準ブロックの集合42内にモード決定用基準ブロ
ック43は一つ配置される。なお、基準ブロックの集合42
は、図示例では5×5の基準ブロック41で示している。
6は、モード決定用基準ブロック43に対して、通常モー
ドと低消費電力モードとを設定する。モード結果比較器
5は、モード決定用基準ブロック43の通常モード時の動
きベクトルと、低消費電力モード時の動きベクトルとの
差分が、閾値以内であるかを判定する。動作モード設定
器6は、通常モード時の動きベクトルと低消費電力モー
ド時の動きベクトルとの差分が閾値以内であった場合に
は、モード決定用基準ブロック43の周辺の基準ブロック
41に対して、低消費電力モードを設定する。
の基準ブロックに対して同じ動作モードを設定していた
が、本実施の形態では、基準画像内を分割した領域毎に
異なる動作モードを設定することが可能である。本実施
の形態においても、第1の実施の形態と同様に消費電力
削減効果を得ることができ、特に1枚の画像中に特性の
異なる物体が混在している場合に有効である。
の実施の形態について説明する。本実施の形態における
装置全体の構成は、第1の実施の形態と同様であるの
で、その図示説明は省略する。図12は、本実施の形態に
おける動作モードの設定の一例について示す図である。
本実施の形態において、動作モードには1つの通常モー
ドと3つの低消費電力モードがあり、3つの低消費電力
モードには、低消費電力モード1及び2及び3がある。
なお、3つの低消費電力モードは、低消費電力モード1
→低消費電力モード2→低消費電力モード3の順に設定
されることが予め決められているものとする。また、図
12の図示例では、3つの低消費電力モードのうち、低消
費電力モード1が最も消費電力削減効果が大きく、低消
費電力モード3が最も消費電力削減効果が小さくなるよ
うに、探索範囲及びブロックサイズ及び間引きが設定さ
れている。
作モード決定フローを示す図である。次に、図13のフロ
ーチャートを用いて、本実施の形態における動作につい
て説明を行う。動作モード設定器6は、モード決定用フ
レームに対して、通常モードにて動きベクトル検出を行
った後(ステップS1)、低消費電力モード1で動きベ
クトル検出を行う(ステップS2)。その後、通常モー
ド時の動きベクトルの統計値と低消費電力モード1時の
動きベクトルの統計値との差分が閾値以内であるか否か
の判定を行い(ステップS3)、閾値以内であった場合
は、動作モード設定器6は、その後のフレームに対して
低消費電力モード1を設定する(ステップS4)。前記
差分の判定ステップS3において差分が閾値を超えてい
た場合は、低消費電力モード2で動きベクトル検出を行
い(ステップS5)、通常モード時と低消費電力モード
2時の結果の差分を演算する。そして、前記差分が閾値
以内であるか否かの判定を行い(ステップS6)、前記
差分が閾値以内であれば、その後のフレームに対して低
消費電力モード2を設定する(ステップS7)。前記差
分の判定ステップS5において差分が閾値を超えていた
場合は、低消費電力モード3で動きベクトル検出を行い
(ステップS8)、通常モード時と低消費電力モード3
時の結果の差分を演算する。そして、前記差分が閾値以
内であるか否かの判定を行い(ステップS9)、前記差
分が閾値以内であれば、その後のフレームに対して低消
費電力モード3を設定し(ステップS10)、前記差分の
判定ステップS9において差分が閾値を超えていた場合
は、その後のフレームに対して通常モードを設定する
(ステップS11)。
た場合における動作モードの決定態様を時間軸上で示し
た図である。通常モードと低消費電力モード1の結果が
異なる場合、図14に示した例の場合は、同一のフレーム
で再度低消費電力モード2の測定を行い、図15に示した
例の場合は、次のフレームで通常モードと低消費電力モ
ード2の測定及び比較を行う。本実施の形態は、図14及
び図15に示す手法の両方に適用可能であり、図14に示し
た例の場合には、全体として通常モードでの動作回数が
少なくなるという利点があり、図15に示した例の場合に
は、1フレーム内での最大演算時間が短くなるという利
点がある。
数ある場合、消費電力削減効果の大きいものから優先的
に選択されるという利点がある。また、第1から第4の
実施の形態においては、低消費電力モードの数に関して
は特に考慮していないが、本実施の形態のように複数の
低消費電力モードを設定しておくと、消費電力を細かく
制御することができるという利点も得られる。
示す態様で行うこともできる。この場合、動きの少ない
画像の場合は低消費電力モード1が、動きは大きいが周
波数成分の低い映像の場合は低消費電力モード2が選択
されることが期待できる。
第2の実施の形態のように、モード決定用フレームに対
して結果を比較する場合に関して説明を行ったが、第3
及び第4の実施の形態のように、モード決定用基準ブロ
ックに対して結果を比較する場合に関しても、同様に適
用可能である。
いては、動きベクトルを検出する場合に関して説明を行
ったが、これらの実施の形態は、ステレオ画像における
左右画像の視差ベクトルを検出する場合に関しても、同
様に適用可能である。
に、請求項1及び請求項2に係る発明によれば、通常モ
ード時の測定結果と低消費電力モード時の測定結果を比
較した後に動作モードを決定するように構成しているの
で、検出精度を低下させず且つ装置を複雑化することな
く、消費電力削減効果を得ることができる。特に請求項
2に係る発明は、フレーム間の相関が高い映像に関して
有効である。また請求項3に係る発明によれば、モード
決定用フレームを検出されたシーン変化に対応して指定
するように構成されているので、シーン変化が多い映像
に関して検出精度を向上させることができる。また請求
項4に係る発明によれば、通常モード時と低消費電力モ
ード時の測定結果の差分が閾値以内の場合には、モード
決定用基準ブロックが存在する基準画像内の全ての基準
ブロックに対して低消費電力モードを設定するように構
成しているので、特にフレーム間の相関が低い場合に、
検出精度を低下させずに消費電力削減効果を得ることが
できる。また請求項5に係る発明によれば、通常モード
時と低消費電力モード時の測定結果の差分が閾値以内の
場合には、モード決定用基準ブロックの周辺の基準ブロ
ックに対して、低消費電力モードを設定するように構成
しているので、特に1枚の画像中に特性の異なる物体が
混在する場合に、検出精度を低下させずに消費電力削減
効果が得られる。また請求項6に係る発明によれば、複
数の低消費電力モードを設けているので、消費電力を細
かく制御することができ、また複数の低消費電力モード
のうち、消費電力削減効果の大きいものから優先的に選
択させることにより、可能な限り高い消費電力削減効果
を得ることができる。
図である。
ードと低消費電力モードの切替え態様を示す説明図であ
る。
囲を示す説明図である。
関する説明図である。
ら設定されたパラメータに応じた基準ブロックの配置態
様を示す図である。
演算器の構成例を示す図である。
示す図である。
ク内の画素位置を示す図である。
図である。
モード決定用基準ブロックの配置例を示す図である。
モード決定用基準ブロックと、同一モードで動作する基
準ブロックの集合の配置態様を示す図である。
例を示す図である。
ームにおける動作モード決定動作を説明するためのフロ
ーチャートである。
様の一例を時間軸上で示す図である。
様の他の例を時間軸上で示す図である。
設定例を示す図である。
ロック図である。
Claims (6)
- 【請求項1】 入力映像信号の動きベクトル又は視差ベ
クトルの検出装置において、入力映像信号のうち基準画
像のデータを格納する基準画像格納メモリと、前記入力
映像信号のうち参照画像のデータを格納する参照画像格
納メモリと、前記基準画像格納メモリと前記参照画像格
納メモリとを制御するメモリコントローラと、前記基準
画像格納メモリから読み出される基準ブロックデータと
前記参照画像格納メモリから読み出される参照ブロック
データとを用いて相関演算を行い、動きベクトル又は視
差ベクトルを検出するブロックマッチング演算器と、通
常モードと低消費電力モードとを設定し、前記各モード
に応じたパラメータを出力する動作モード設定器と、通
常モード時の測定結果と低消費電力モード時の測定結果
とを比較するモード結果比較器とを有し、前記動作モー
ド設定器は、前記モード結果比較器による通常モード時
の測定結果と低消費電力モード時の測定結果の比較結果
に基づいて、低消費電力モード又は通常モードを設定す
るように構成されていることを特徴とする動きベクトル
又は視差ベクトル検出装置。 - 【請求項2】 前記モード結果比較器は、モード決定用
フレームにおける通常モード時の動きベクトル又は視差
ベクトルの統計値と低消費電力モード時の動きベクトル
又は視差ベクトルの統計値との差分が閾値以内であるか
否かを判定し、前記動作モード設定器は、前記モード結
果比較器による前記差分が閾値以内であった場合は、前
記モード決定用フレームより後に入力されるフレームに
対して、低消費電力モードを設定するように構成されて
いることを特徴とする請求項1に係る動きベクトル又は
視差ベクトル検出装置。 - 【請求項3】 入力映像信号のシーン変化を検出するシ
ーン変化検出器を有し、前記モード決定用フレームは、
前記シーン変化検出器でシーン変化が検出された場合に
指定されることを特徴とする請求項2に係る動きベクト
ル又は視差ベクトル検出装置。 - 【請求項4】 前記モード結果比較器は、モード決定用
基準ブロックの通常モード時の動きベクトル又は視差ベ
クトルの統計値と低消費電力モード時の動きベクトル又
は視差ベクトルの統計値との差分が閾値以内であるか否
かを判定し、前記動作モード設定器は、前記モード結果
比較器による前記差分が閾値以内であった場合は、前記
モード決定用基準ブロックが存在する基準画像内の全て
の基準ブロックに対して、低消費電力モードを設定する
ことを特徴とする請求項1に係る動きベクトル又は視差
ベクトル検出装置。 - 【請求項5】 前記モード結果比較器は、モード決定用
基準ブロックの通常モード時の動きベクトル又は視差ベ
クトルの統計値と低消費電力モード時の動きベクトル又
は視差ベクトルの統計値との差分が閾値以内であるか否
かを判定し、前記動作モード設定器は、前記モード結果
比較器による前記差分が閾値以内であった場合は、前記
モード決定用基準ブロックの周辺の基準ブロックに対し
て、低消費電力モードを設定することを特徴とする請求
項1に係る動きベクトル又は視差ベクトル検出装置。 - 【請求項6】 前記動作モード設定器は、前記通常モー
ドを設定した後、消費電力削減効果の大きい順に複数の
低消費電力モードを順次設定することを特徴とする請求
項1に係る動きベクトル又は視差ベクトル検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001189035A JP4608136B2 (ja) | 2001-06-22 | 2001-06-22 | 動きベクトル及び視差ベクトル検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001189035A JP4608136B2 (ja) | 2001-06-22 | 2001-06-22 | 動きベクトル及び視差ベクトル検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003009179A true JP2003009179A (ja) | 2003-01-10 |
JP4608136B2 JP4608136B2 (ja) | 2011-01-05 |
Family
ID=19028021
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001189035A Expired - Fee Related JP4608136B2 (ja) | 2001-06-22 | 2001-06-22 | 動きベクトル及び視差ベクトル検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4608136B2 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008158682A (ja) * | 2006-12-21 | 2008-07-10 | Mitsubishi Electric Corp | 画像処理装置 |
RU2446618C2 (ru) * | 2006-12-28 | 2012-03-27 | Ниппон Телеграф Энд Телефон Корпорейшн | Способ кодирования и способ декодирования видео, устройства для их осуществления и носители памяти, хранящие программы |
US8290289B2 (en) | 2006-09-20 | 2012-10-16 | Nippon Telegraph And Telephone Corporation | Image encoding and decoding for multi-viewpoint images |
US8355438B2 (en) | 2006-10-30 | 2013-01-15 | Nippon Telegraph And Telephone Corporation | Predicted reference information generating method, video encoding and decoding methods, apparatuses therefor, programs therefor, and storage media which store the programs |
US8385628B2 (en) | 2006-09-20 | 2013-02-26 | Nippon Telegraph And Telephone Corporation | Image encoding and decoding method, apparatuses therefor, programs therefor, and storage media for storing the programs |
RU2494569C2 (ru) * | 2006-01-09 | 2013-09-27 | Томсон Лайсенсинг | Способы и устройство для кодирования видео с несколькими представлениями |
US8548064B2 (en) | 2006-01-05 | 2013-10-01 | Nippon Telegraph And Telephone Corporation | Video encoding method and decoding method by using selected parallax for parallax compensation, apparatuses therefor, programs therefor, and storage media for storing the programs |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05130588A (ja) * | 1991-10-31 | 1993-05-25 | Toshiba Corp | 画像の動きベクトル検出装置 |
JPH05236452A (ja) * | 1991-04-08 | 1993-09-10 | Olympus Optical Co Ltd | 動ベクトル検出方法及び検出装置 |
JPH0851629A (ja) * | 1994-08-05 | 1996-02-20 | Sony Corp | 動きベクトル検出装置及び方法 |
JPH08102951A (ja) * | 1994-09-30 | 1996-04-16 | Sony Corp | 画像符号化装置 |
JPH09224249A (ja) * | 1996-02-15 | 1997-08-26 | Nippon Hoso Kyokai <Nhk> | 動きベクトル検出装置 |
JPH11136682A (ja) * | 1997-08-26 | 1999-05-21 | Matsushita Electric Ind Co Ltd | 動きベクトル検出装置および動きベクトル検出方法、並びに画像符号化装置 |
JPH11239354A (ja) * | 1998-02-23 | 1999-08-31 | Mitsubishi Electric Corp | 動きベクトル検出器 |
JPH11308617A (ja) * | 1998-04-23 | 1999-11-05 | Hitachi Ltd | ディジタル画像符号化装置とこれに用いる動きベクトル検出装置 |
JP2000078580A (ja) * | 1998-08-28 | 2000-03-14 | Sony Corp | 動きベクトル検出装置および方法、並びに提供媒体 |
JP2000308064A (ja) * | 1999-04-22 | 2000-11-02 | Mitsubishi Electric Corp | 動きベクトル検出装置 |
JP2000333184A (ja) * | 1999-03-17 | 2000-11-30 | Matsushita Electric Ind Co Ltd | 動きベクトル検出方法,動きベクトル検出装置,及びデータ記録媒体 |
-
2001
- 2001-06-22 JP JP2001189035A patent/JP4608136B2/ja not_active Expired - Fee Related
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05236452A (ja) * | 1991-04-08 | 1993-09-10 | Olympus Optical Co Ltd | 動ベクトル検出方法及び検出装置 |
JPH05130588A (ja) * | 1991-10-31 | 1993-05-25 | Toshiba Corp | 画像の動きベクトル検出装置 |
JPH0851629A (ja) * | 1994-08-05 | 1996-02-20 | Sony Corp | 動きベクトル検出装置及び方法 |
JPH08102951A (ja) * | 1994-09-30 | 1996-04-16 | Sony Corp | 画像符号化装置 |
JPH09224249A (ja) * | 1996-02-15 | 1997-08-26 | Nippon Hoso Kyokai <Nhk> | 動きベクトル検出装置 |
JPH11136682A (ja) * | 1997-08-26 | 1999-05-21 | Matsushita Electric Ind Co Ltd | 動きベクトル検出装置および動きベクトル検出方法、並びに画像符号化装置 |
JPH11239354A (ja) * | 1998-02-23 | 1999-08-31 | Mitsubishi Electric Corp | 動きベクトル検出器 |
JPH11308617A (ja) * | 1998-04-23 | 1999-11-05 | Hitachi Ltd | ディジタル画像符号化装置とこれに用いる動きベクトル検出装置 |
JP2000078580A (ja) * | 1998-08-28 | 2000-03-14 | Sony Corp | 動きベクトル検出装置および方法、並びに提供媒体 |
JP2000333184A (ja) * | 1999-03-17 | 2000-11-30 | Matsushita Electric Ind Co Ltd | 動きベクトル検出方法,動きベクトル検出装置,及びデータ記録媒体 |
JP2000308064A (ja) * | 1999-04-22 | 2000-11-02 | Mitsubishi Electric Corp | 動きベクトル検出装置 |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8548064B2 (en) | 2006-01-05 | 2013-10-01 | Nippon Telegraph And Telephone Corporation | Video encoding method and decoding method by using selected parallax for parallax compensation, apparatuses therefor, programs therefor, and storage media for storing the programs |
US9143782B2 (en) | 2006-01-09 | 2015-09-22 | Thomson Licensing | Methods and apparatus for multi-view video coding |
US10194171B2 (en) | 2006-01-09 | 2019-01-29 | Thomson Licensing | Methods and apparatuses for multi-view video coding |
US9525888B2 (en) | 2006-01-09 | 2016-12-20 | Thomson Licensing | Methods and apparatus for multi-view video coding |
RU2494569C2 (ru) * | 2006-01-09 | 2013-09-27 | Томсон Лайсенсинг | Способы и устройство для кодирования видео с несколькими представлениями |
US9521429B2 (en) | 2006-01-09 | 2016-12-13 | Thomson Licensing | Methods and apparatus for multi-view video coding |
US8842729B2 (en) | 2006-01-09 | 2014-09-23 | Thomson Licensing | Methods and apparatuses for multi-view video coding |
US8290289B2 (en) | 2006-09-20 | 2012-10-16 | Nippon Telegraph And Telephone Corporation | Image encoding and decoding for multi-viewpoint images |
US8385628B2 (en) | 2006-09-20 | 2013-02-26 | Nippon Telegraph And Telephone Corporation | Image encoding and decoding method, apparatuses therefor, programs therefor, and storage media for storing the programs |
US8355438B2 (en) | 2006-10-30 | 2013-01-15 | Nippon Telegraph And Telephone Corporation | Predicted reference information generating method, video encoding and decoding methods, apparatuses therefor, programs therefor, and storage media which store the programs |
US8675735B2 (en) | 2006-10-30 | 2014-03-18 | Nippon Telegraph And Telephone Corporation | Predicted reference information generating method, video encoding and decoding methods, apparatuses therefor, programs therefor, and storage media which store the programs |
JP2008158682A (ja) * | 2006-12-21 | 2008-07-10 | Mitsubishi Electric Corp | 画像処理装置 |
US9066096B2 (en) | 2006-12-28 | 2015-06-23 | Nippon Telegraph And Telephone Corporation | Video encoding method and decoding method, apparatuses therefor, programs therefor, and storage media which store the programs |
RU2446618C2 (ru) * | 2006-12-28 | 2012-03-27 | Ниппон Телеграф Энд Телефон Корпорейшн | Способ кодирования и способ декодирования видео, устройства для их осуществления и носители памяти, хранящие программы |
Also Published As
Publication number | Publication date |
---|---|
JP4608136B2 (ja) | 2011-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7912298B2 (en) | Video evaluation device, frame rate determination device, video process device, video evaluation method, and video evaluation program | |
EP1587032B1 (en) | Image processing apparatus and method, recording medium, and program | |
US7187803B2 (en) | Motion detecting device and search region variable-shaped motion detector | |
US8503531B2 (en) | Image processing apparatus and method, recording medium, and program | |
US20120162450A1 (en) | Digital image stabilization device and method | |
US20080246885A1 (en) | Image-processing method and device | |
US8401318B2 (en) | Motion vector detecting apparatus, motion vector detecting method, and program | |
US20080002774A1 (en) | Motion vector search method and motion vector search apparatus | |
US11202045B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and program | |
JPH09171560A (ja) | 顔の傾き検出装置 | |
JP4608136B2 (ja) | 動きベクトル及び視差ベクトル検出装置 | |
CA2720698A1 (en) | Video encoding method, video encoding apparatus, video encoding program and storage medium of the same | |
JP2003169338A (ja) | 動きベクトル検出方法及び装置並びに方法プログラムを記録した媒体 | |
CN113642442B (zh) | 人脸检测方法及装置、计算机可读存储介质、终端 | |
JP3473528B2 (ja) | 動き検出装置及び動き検出方法 | |
JPH05236452A (ja) | 動ベクトル検出方法及び検出装置 | |
JP2009290277A (ja) | 信号処理装置 | |
JPH08242454A (ja) | グローバル動きパラメタ検出方法 | |
JP4078733B2 (ja) | 動きベクトル検出方法及び装置 | |
JP2007097028A (ja) | 動きベクトル検出方法および動きベクトル検出回路 | |
JPH07288817A (ja) | 動きベクトル検出装置 | |
JPS62105587A (ja) | 動きベクトル検出装置 | |
JP2010028234A (ja) | 映像処理装置及び映像処理方法 | |
JP2005354478A (ja) | 動き検出装置および動き検出方法、画像処理装置 | |
JP2005236712A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080611 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100825 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100914 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101008 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131015 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |