JP2003189305A - 画像処理装置 - Google Patents
画像処理装置Info
- Publication number
- JP2003189305A JP2003189305A JP2001386510A JP2001386510A JP2003189305A JP 2003189305 A JP2003189305 A JP 2003189305A JP 2001386510 A JP2001386510 A JP 2001386510A JP 2001386510 A JP2001386510 A JP 2001386510A JP 2003189305 A JP2003189305 A JP 2003189305A
- Authority
- JP
- Japan
- Prior art keywords
- image
- data
- processing
- size
- order
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
き、JPEG処理部の構成に変更を伴わない画像処理装
置を提供する。 【解決手段】 高速処理を行うために、画像圧縮処理手
段(6)で圧縮処理するときの基本データサイズである
MCUのサイズに対して垂直方向のデータサイズを整数
倍したものに周辺データ付加した垂直データサイズとし
た画像データを水平方向に連続的に順次画像処理手段へ
供給するデータ供給手段(2)と、画像処理手段により
得られた画像形成に係るデータを、高速処理を行い得る
順序で基本単位の画像形成に係るデータに分割して順次
画像圧縮処理手段へ供給する順序変更手段(8)と、デ
ータ供給手段により供給されるデータサイズに対応した
高速処理を行ない得るように画像処理手段及び順序変更
手段の処理動作を設定する設定手段(7)とを備えた画
像処理装置である。
Description
等の電子的撮像装置に用いられる画像処理装置に関す
る。
使用されている撮像素子の画素数は飛躍的に増大し、取
り扱われる画像データ量も非常に大きなものとなってき
ている。このため、画像データを取り扱う際の処理時間
が問題となってきており、処理時間の短縮化を図ること
のできる高速な画像処理装置が必要とされている。
る技術としては、特開2000−312327号公報に
記載されたものが知られている。
ロック図である。
続されたCPU2の制御により、CCD撮像素子からの
撮像信号をプリプロセス回路部3で処理した信号は、バ
ス1を介してイメージプロセス処理部5に入力される。
イメージプロセス処理部5は初段イメージプロセス回路
部5ー1からn段目のイメージプロセス回路部5ーnま
で直列に接続したパイプライン方式で画像処理を行な
い、その結果をJPEG処理部6に送り出す。JPEG
処理部6ではJPEG方式による圧縮処理を行った後、
その圧縮された画像形成に係るデータをバス1を介して
フレームメモリ4や図示していないメモリカードに記録
するように構成されている。
を介したデータ転送は、フレームメモリ4から初段のイ
メージプロセス回路部5ー1への転送と、JPEG処理
部6からフレームメモリ4への転送のみで処理すること
ができ、フレームメモリ4と各イメージプロセス回路と
の間でデータの転送を繰り返していた従来方式と比較し
てデータ転送量はかなり低減されることになる。
処理装置を用いて画像データ処理の高速化を図り、処理
時間を更に短縮しようとする要請は未だ強いものがあ
る。そして、この課題の解決を図る際には、考慮すべき
条件が存在する。
CU(Minimum Coded Unit)と呼ばれるブロック単位で
圧縮などの処理が行われ、このMCUの大きさは通常8
×8のブロック、あるいは8の整数倍のブロックが用い
られる。
画像データをJPEG処理部6に渡す際には、その画像
データを所定サイズのMCUブロックに分割してJPE
G処理部6に受け渡す必要がある。この条件に加えて更
に、JPEG処理部6で圧縮されたデータを元の画像デ
ータとして復元できるようにするためには、イメージプ
ロセス処理部5は分割された画像データを所定の順序で
JPEG処理部6に受け渡さなければならない。
タ処理時間の短縮を図ろうとする場合には、前述の制約
を充足しJPEG処理部6の動作が保障できるような形
態での方策でなければならず、望ましくはJPEG処理
部6の動作に変更が生じないような形態での方策が求め
られる。
のであって、画像データの処理時間を短縮することがで
き、JPEG処理部6の構成に変更を伴わない画像処理
装置を提供することにある。
の本発明は、高速処理を行うために、画像圧縮処理手段
で圧縮処理するときの基本データサイズであるMCUの
サイズに対して垂直方向のデータサイズを整数倍したも
のに周辺データ付加した垂直データサイズとした画像デ
ータを水平方向に連続的に順次画像処理手段へ供給する
データ供給手段と、画像処理手段により得られた画像形
成に係るデータを高速処理を行い得る順序で基本単位の
画像形成に係るデータに分割して順次画像圧縮処理手段
へ供給する順序変更手段と、データ供給手段により供給
されるデータサイズに対応した高速処理を行ない得るよ
うに画像処理手段及び順序変更手段の処理動作を設定す
る設定手段とを備えた画像処理装置である。
処理装置において、データ供給手段は、更に画像の再生
を可能となす前記高速処理よりも遅い通常処理を行うた
めに画像圧縮処理手段が圧縮処理するときの基本データ
サイズであるMCUのサイズに周辺データを付加した垂
直データサイズとした画像データを水平方向に連続的に
順次画像処理手段へ供給可能になされるとともにこの通
常処理を行うための画像データと高速処理を行うための
画像データとを択一的に選択して供給するようになさ
れ、設定手段は、データ供給手段により選択されて供給
された画像データに対応して画像処理手段及び順序変更
手段の処理動作を設定するようになされた画像処理装置
である。
処理装置において、画像圧縮処理手段は、画像形成に係
るデータに対して複数回の圧縮処理を実行し、順序変更
手段は、初回の圧縮処理では画像形成に係るデータを高
速処理を行い得る順序で前記基本単位の画像形成に係る
データに分割し、以降の圧縮処理では画像形成に係るデ
ータを該画像の再生を可能となす通常処理を行ない得る
順序で基本単位の画像形成に係るデータに分割するよう
になされた画像処理装置である。
処理装置において、画像データは、撮像により得られ、
画像圧縮処理手段は、JPEG方式によって画像形成に
係るデータを圧縮する画像処理装置である。
ためにイメージプロセス処理部5における処理時間の遅
延要因について調査を重ねるとともに粘り強く検討を続
け、JPEG処理部6に影響を及ぼさない対応策である
本発明に想到したものである。
処理時間を遅延させる一要因について説明する。
て処理されるデータの容量を示す図である。
出した画像データの容量を示している。この画像データ
は後述する理由によりJPEG処理部6に入力するデー
タ量14よりも大きなデータ容量である。そして、イメ
ージプロセス処理部5の初段イメージプロセス回路部5
ー1から最終段イメージプロセス回路部5ーn迄、順次
データ処理される間に画像データの容量はデータ量1
2、・・・、13と減少する。
ージ処理を行うために余分なデータが必要とされるため
である。例えば、イメージプロセス処理部5において空
間フィルタ処理をする場合には、処理すべきデータの周
囲の何点かのデータを用いて計算する必要があり、その
余分なデータはフィルタ処理後は不要なものとして除去
されるからである。
画像データの入出力状態を説明する図である。
の入力データは、JPEG処理部6に渡すMCUブロッ
クで構成されるデータ部分15である8×8nの容量
に、データ処理にのみ必要とされる余分なデータ部分1
6であるα×8n容量が付加されている。そして、この
データに続いてイメージプロセス処理部5に入力される
データも同様に、JPEG処理部6に渡すMCUブロッ
クで構成されるデータ部分17に余分なデータ部分18
が付加されたものである。
されるデータは常に重複した余分なデータを伴ってお
り、フレームメモリ4から画像データが読み出される回
数が多くなればそれだけ多くの余分なデータ転送が発生
していることになる。
転送順序を示す図である。
ブロックに分割した状態を示しており、縦方向に(Y+
α)ピクセルの大きさを単位として、図中に示した矢印
の順序、即ちMCU1、2、・・・、5、6、・・・、
9、10、・・・の順序で読み出される。ここで、Yは
1つのMCUブロックの縦方向のピクセルサイズを表し
ている。
5を流れる画像データのブロックの順序を示している。
JPEG処理部6はこの矢印で示される順序、即ちMC
U1、2、3、・・・の順序で入力されるブロックを順
次受入れて圧縮処理した後に、フレームメモリ4に転送
する。
らに高速な処理を実現する方法として、発明者は余分な
データ部分に着目した。
義する。
データを処理するために費やされる時間の割合を表して
いる指標である。
ることができれば、無駄なデータ処理時間を減少して、
必要なデータのみの処理時間に近づかせることができる
ため処理の高速化を実現することができる。
るαは、イメージプロセス処理部5において用いられる
処理方法が決まれば固定的に決まってしまう値である。
例えば、フィルタフィルタタップ数が6のLPF(ロー
パスフィルタ)処理が施される場合はαには5が加算さ
れることになり、フィルタタップ数が4のLPF(ロー
パスフィルタ)処理が施される場合はαには3が加算さ
れることになる。このため、フィルタタップ数の小さい
イメージプロセス回路を使用することで相対的にオーバ
ラップ量Lを小さくすることは可能であるが、それでは
本来必要とされる精度での処理機能が充足されない場合
も考えられ、対策として採用することはできない。
現状のように1つのMCUブロックのサイズでなく複数
のMCUサイズ即ち、MCUサイズの整数倍に設定して
Yを大きくすることで相対的にオーバラップ量Lを小さ
くする方式を採用する。
0の転送順序を示す図である。
MCUブロックにまとめて分割した状態を示しており、
従来の分割方法と比べて、縦方向には複数のMCUのピ
クセル数に対応したサイズにYを設定した点が異なって
いる。そして、このデータは縦方向に(Y+α)ピクセ
ルの大きさを単位として、図中に示した矢印の順序、即
ち(MCU1、6、11)、(MCU2、7、12)、
(MCU3、8、13)・・・の順序で読み出される。
5に入力される画像データのブロックの順序、即ち上記
と同じ(MCU1、6、11)、(MCU2、7、1
2)、(MCU3、8、13)・・・の順序を示してい
る。図4の(3)は、イメージプロセス処理部5から出
力される画像データのMCUブロックの順序、即ちMC
U1、6、11、2、7、12、3、8、13・・・の
順序を示している。JPEG処理部6はこの順序で入力
されるMCUブロックを圧縮処理して、フレームメモリ
4に転送する。
限定されず、MCU1、6、11、12、7、2、3、
8、13・・・の順序でプロセス処理部5から出力する
ように構成しても良い。
とすれば、オーバラップ量Lを小さくすることができ、
処理の高速化が実現できる。しかしながら、この方式を
採用するためには、次の2つの点を検討しなければなら
ない。
転送されるデータの容量が従来よりも増加することであ
る。この点に関しては、従来のイメージプロセス処理部
5の構成では、本程度のデータ容量の増加に対応できる
だけの十分な容量の内部バッファが備わっているため、
本方式を採用したとしてもハードウエアを大幅に改造す
ることなく小修正で処理することができる。
順序が変更になることである。転送順序が変更されるこ
とによって画像を組立てる順序が入れ替わることになる
ため、例えば従来のままの順序に従って組み立てた画像
をモニタに表示すると丁度ジグゾーパズルの破片が適当
な状態に納まっていないような画像が表示されてしまう
ことになる。
転送順序をイメージプロセス処理の途中で変更させるこ
とが考えられるが、本発明では従来のハードウエアの構
成を変更することなく対応させることを目的とするた
め、JPEG処理部6において転送されるデータブロッ
クの順序が変更された場合にあっても圧縮処理が可能か
どうかを検討する。以下に、通常時におけるJPEG処
理部6の所謂反復アプローチ法による圧縮動作について
説明する。
示すフロー図である。
置の操作者が設定した圧縮率を読出し、それを圧縮率の
目標値とする(S1)。続いて、所定の初期値に設定さ
れた圧縮処理用のパラメータ(例えば、スケールファク
タ等)の下で、第1パス目のデータ圧縮を行う(S
2)。そして、圧縮した画像のデータ容量と原画像のデ
ータ容量との比を求め、この圧縮実績値に基づいて目標
とする圧縮率を達成するための2パス目のパラメータの
値を算出する(S3)。
図である。
ータ値を表している。同じパラメータ値であっても画像
の複雑さによって圧縮される容量は異なり、図に示すよ
うに、その画像の複雑さによって特性曲線22、23、
24はそれぞれ異なった特性の曲線となる。
線を基準線として、1パスでの圧縮実績値とパラメータ
の初期値とからその画像に適合する特性曲線23を特定
する。そして、その特性曲線23に従って目標の圧縮率
を与えるパラメータの修正値を求める。
正値を用いて、2パス目のデータ圧縮を行う(S4)。
2パス目の圧縮で目標とする圧縮率が達成できなかった
場合(S5)は、所定のアルゴリズムによるパラメータ
の微調整を行って、次パスのためのパラメータ値を決定
し(S6)、そのパラメータに基づいて次パスのデータ
圧縮を行う(S7)。このように、JPEG処理におい
て所望の圧縮率を得るためには少なくとも2回の圧縮処
理が必要とされている。
て、1パス目に処理される画像データは初期パラメータ
値の下での圧縮率算出用にのみ使用され、表示などの他
の用途に使用されていないことに着目した。そうとすれ
ば、前述の転送順序が変更されたデータであっても1パ
ス目のデータとして使用することが可能であることが結
論される。
されたものであり、前記課題を達成するため次のように
構成されている。
置の構成を示すブロック図である。本図において、図9
と同一の構成部分には同一の符号を付してその詳細な説
明は省略する。
て、画像データをフレームメモリ4からイメージプロセ
ス処理部5に転送する方式を選択する手段である選択部
7と、イメージプロセス処理部5からJPEG処理部6
に受け渡す画像データの順序を変更する順序変更部8と
を更に設けた点が異なっている。
メージプロセス処理を行う方法について説明する。
フロー図である。
部7はCPU2からの指令に基づいてイメージプロセス
処理部5と順序変更部8に対して、前述の複数MCUブ
ロックを転送する方式(以下、「高速処理モード」とい
う)を行う旨の指示と、その高速処理モードを実行する
場合に必要となる各パラメータ値を設定する(S1
0)。
る複数MCUブロックの数、送信するピクセル数、イメ
ージプロセス回路のフィルタタップ数などがある。
複数MCUブロックを単位とする画像データを読み出
し、イメージデータ処理にのみ必要とされる余分なデー
タと共にイメージプロセス処理部5に転送する(S1
1)。
・・、5−nでは転送された複数MCUブロックの画像
データを予めCPU2から指示されたパラメータ値に従
って処理する(S12)。そして順序変更部8は、最終
段のイメージプロセス回路部5ーnがイメージ処理した
画像データ中の複数MCUブロックを分割して単数のM
CUブロックとし、MCU単位に順次JPEG処理部6
に送り出す(S13)。
い1パス目の圧縮処理を行い(S14)、その結果得ら
れる圧縮実績値に基づいて2パス目の圧縮のためのパラ
メータ値を算出する(S15)。
いてイメージプロセス処理部5と順序変更部8に対し
て、単一のMCUブロックを順次転送する方式(以下、
「通常処理モード」という)を行う旨の指示と、その通
常処理モードを実行する場合に必要となる各パラメータ
値を設定する(S16)。
単一のMCUブロックを含んだ画像データを読み出し、
イメージデータ処理のみに必要とされる余分なデータと
共にイメージプロセス処理部5に転送する(S17)。
・・、5−nでは転送された画像データを予め指示され
た通常処理モードのパラメータ値に従って処理し、順序
変更部8は最終段のイメージプロセス回路部5ーnがイ
メージ処理した画像データの順序を変更せずにJPEG
処理部6に送り出す(S18)。
パス目以降の圧縮処理を行い(S19)、その圧縮デー
タをフレームメモリ4に転送する(S20)。
処理されているイメージプロセス処理を、複数のMCU
をまとめて処理するように構成することにより、高速な
パイプライン方式によるイメージ処理を更に高速化する
ことができる。
うに構成した処理方式を適用させることにより、従来の
ハードウエアを大幅に改造することなく処理の高速化を
図ることができる。
て記載しているが、この例に限定されるものではなく空
間フィルタリング処理などのように余分なデータを用い
て処理を行う機能を備えた画像処理装置に広く適用する
ことが可能である。また、圧縮処理の例としてJPEG
処理方式について記載したが、この例に限定されるもの
ではなく反復アプローチ方式を採用している圧縮方式に
広く適用することが可能である。
像データの処理時間をJPEG処理部の構成に変更を伴
わずに短縮することができる。
ータの容量を示す図。
入出力状態を説明する図。
図。
す図。
示すブロック図。
Claims (4)
- 【請求項1】 供給された画像データを処理するための
直列に接続された画像処理手段と該画像処理手段により
得られた画像形成に係るデータを圧縮処理する画像圧縮
処理手段を有する画像処理装置であって、 高速処理を行うために、前記画像圧縮処理手段で圧縮処
理するときの基本データサイズであるMCUのサイズに
対して垂直方向のデータサイズを整数倍したものに周辺
データ付加した垂直データサイズとした画像データを水
平方向に連続的に順次前記画像処理手段へ供給するデー
タ供給手段と、 前記画像処理手段により得られた画像形成に係るデータ
を、高速処理を行い得る順序で前記基本単位の画像形成
に係るデータに分割して順次前記画像圧縮処理手段へ供
給する順序変更手段と、 前記データ供給手段により供給されるデータサイズに対
応した高速処理を行ない得るように前記画像処理手段及
び前記順序変更手段の処理動作を設定する設定手段とを
備えたことを特徴とする画像処理装置。 - 【請求項2】 前記データ供給手段は、更に画像の再生
を可能となす前記高速処理よりも遅い通常処理を行うた
めに、前記画像圧縮処理手段が圧縮処理するときの基本
データサイズであるMCUのサイズに周辺データを付加
した垂直データサイズとした画像データを水平方向に連
続的に順次前記画像処理手段へ供給可能になされるとと
もに、この通常処理を行うための画像データと前記高速
処理を行うための画像データとを択一的に選択して供給
するようになされ、 前記設定手段は、前記データ供給手段により選択されて
供給された画像データに対応して前記画像処理手段及び
前記順序変更手段の処理動作を設定するようになされた
ことを特徴とする請求項1に記載の画像処理装置。 - 【請求項3】 前記画像圧縮処理手段は、前記画像形成
に係るデータに対して複数回の圧縮処理を実行し、 前記順序変更手段は、初回の圧縮処理では、前記画像形
成に係るデータを高速処理を行い得る順序で前記基本単
位の画像形成に係るデータに分割し、以降の圧縮処理で
は、前記画像形成に係るデータを該画像の再生を可能と
なす通常処理を行ない得る順序で前記基本単位の画像形
成に係るデータに分割するようになされたことを特徴と
する請求項2に記載の画像処理装置。 - 【請求項4】 前記画像データは、撮像により得られ、 前記画像圧縮処理手段は、JPEG方式によって画像形
成に係るデータを圧縮することを特徴とする請求項1乃
至請求項3のうち何れか1の請求項に記載の画像処理装
置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001386510A JP4179777B2 (ja) | 2001-12-19 | 2001-12-19 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001386510A JP4179777B2 (ja) | 2001-12-19 | 2001-12-19 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003189305A true JP2003189305A (ja) | 2003-07-04 |
JP4179777B2 JP4179777B2 (ja) | 2008-11-12 |
Family
ID=27595646
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001386510A Expired - Lifetime JP4179777B2 (ja) | 2001-12-19 | 2001-12-19 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4179777B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007020032A (ja) * | 2005-07-11 | 2007-01-25 | Nikon Corp | 撮像装置 |
JP2007142683A (ja) * | 2005-11-16 | 2007-06-07 | Nikon Corp | デジタルスチルカメラ |
US8320685B2 (en) | 2005-01-26 | 2012-11-27 | Sony Corporation | Picture processing apparatus and method, and imaging apparatus |
CN104539955A (zh) * | 2010-04-09 | 2015-04-22 | 索尼公司 | 图像处理装置和方法 |
-
2001
- 2001-12-19 JP JP2001386510A patent/JP4179777B2/ja not_active Expired - Lifetime
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8320685B2 (en) | 2005-01-26 | 2012-11-27 | Sony Corporation | Picture processing apparatus and method, and imaging apparatus |
JP2007020032A (ja) * | 2005-07-11 | 2007-01-25 | Nikon Corp | 撮像装置 |
JP4725217B2 (ja) * | 2005-07-11 | 2011-07-13 | 株式会社ニコン | 撮像装置 |
JP2007142683A (ja) * | 2005-11-16 | 2007-06-07 | Nikon Corp | デジタルスチルカメラ |
CN104539955A (zh) * | 2010-04-09 | 2015-04-22 | 索尼公司 | 图像处理装置和方法 |
CN105847802A (zh) * | 2010-04-09 | 2016-08-10 | 索尼公司 | 图像处理装置和方法 |
CN105847802B (zh) * | 2010-04-09 | 2019-05-03 | 索尼公司 | 图像处理装置和方法 |
Also Published As
Publication number | Publication date |
---|---|
JP4179777B2 (ja) | 2008-11-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7598985B2 (en) | Image processing circuit of image input device | |
US7847832B2 (en) | Electronic camera that reduces processing time by performing different processes in parallel | |
CN100586144C (zh) | 图像处理设备及方法 | |
EP0917362A1 (en) | Macroblock variance estimator for MPEG-2 video encoder | |
WO2004077357A1 (en) | Apparatus and method for producing thumbnail images and for improving image quality of re-sized images | |
JP4024649B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4179777B2 (ja) | 画像処理装置 | |
JPH08181984A (ja) | 画像圧縮装置および画像圧縮方法 | |
JP4406241B2 (ja) | 画像処理装置 | |
CN106161987A (zh) | 一种多图像同屏显示方法及多图像同屏显示系统 | |
TWI377521B (en) | Image processing apparatus and method | |
KR20050006063A (ko) | 화상 신장표시방법, 화상 신장표시장치, 및화상신장표시용 프로그램 | |
US7319463B2 (en) | Electronic camera apparatus and image processing method thereof | |
JP4244218B2 (ja) | 撮像信号処理回路およびカメラシステム | |
JP2984516B2 (ja) | 画像の鮮鋭度調整方法 | |
US20030016389A1 (en) | Image processing device | |
JP4882954B2 (ja) | 撮像装置、情報合成装置及びプログラム | |
JPH0879761A (ja) | 動き予測装置および動きベクトルを計算する装置 | |
JP3036071B2 (ja) | 画像圧縮装置 | |
JP3625136B2 (ja) | フィルタ処理装置、画像符号化装置、画像復号化装置、およびフィルタ処理プログラムを記録した記録媒体 | |
US20100211623A1 (en) | Filter processing module and semiconductor device | |
JP4439746B2 (ja) | 情報処理装置 | |
JP2009055131A (ja) | 画像記録装置 | |
JP2002330293A (ja) | 画像処理装置及び画像処理方法 | |
JP2005012494A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041125 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070820 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A132 Effective date: 20070828 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071019 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080819 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080826 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4179777 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110905 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120905 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130905 Year of fee payment: 5 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |