JP4350638B2 - 映像記録装置 - Google Patents

映像記録装置 Download PDF

Info

Publication number
JP4350638B2
JP4350638B2 JP2004350176A JP2004350176A JP4350638B2 JP 4350638 B2 JP4350638 B2 JP 4350638B2 JP 2004350176 A JP2004350176 A JP 2004350176A JP 2004350176 A JP2004350176 A JP 2004350176A JP 4350638 B2 JP4350638 B2 JP 4350638B2
Authority
JP
Japan
Prior art keywords
unit
stream
recording
video stream
event
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004350176A
Other languages
English (en)
Other versions
JP2006165683A (ja
Inventor
中島  隆
毅 安部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2004350176A priority Critical patent/JP4350638B2/ja
Publication of JP2006165683A publication Critical patent/JP2006165683A/ja
Application granted granted Critical
Publication of JP4350638B2 publication Critical patent/JP4350638B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)

Description

この発明は、映像蓄積配信システムに適用される映像記録装置に関しており、特に、連続する映像データを間欠的に蓄積して長時間記録を行い、端末からの要求によって蓄積している映像ストリームを端末に配信する映像記録装置に関するものである。
従来、監視等の用途で使用される映像蓄積配信システムにおいては、MPEG−2等で圧縮された映像ストリーム(以下、間欠記録されたストリームと区別するために連続映像ストリームと称する)を長時間記録するために、入力された連続映像ストリームを時間間隔で間引いて、例えばフレーム内符号化ピクチャ(以下、Iピクチャ)のみを蓄積し、端末からの映像の要求に応じて蓄積された映像を再送信するのが一般的であった。
しかしながらこの方法では、連続映像ストリームからIピクチャのみを抽出するので、本来のMPEG−2の構造から逸脱した映像ストリームになる場合がある。そのためIピクチャのみから構成される間欠記録ストリームの再生を可能にするために、再生側のデコーダに何らかの仕組みを用意しなければならないという問題があった。また、Iピクチャのみを間欠的に配信することから、例えば多重装置や分離装置のバッファがアンダーフローを発生する問題を有していた。
また特に監視用途等では、侵入検知等のイベント発生した場合には、イベント発生前の一定期間の入力映像の重要性が高まるため、この期間では通常の連続記録を行う方が望ましい。これについては、イベントの重要性により、Iピクチャのみ記録する間欠記録モードから、全ピクチャを記録する連続記録モードまで4段階の記録モードを切り替えることで、イベント発生後の重要な映像を連続記録する映像記録方法及び装置が提供されている(例えば、特許文献1参照)。しかしながら、この映像記録方法及び装置では、イベントが発生した後の連続映像は記録できるが、従来と同様に、イベント発生前の重要な映像は間欠記録分しか得られないという問題があった。
更に、ディスク型記録媒体を2つの領域に分け、1つの領域では長時間記録のため間欠記録を行い、もう1つの比較的小容量の領域ではエンドレスで連続記録を行うディスク型記録媒体の記録装置が提供されている(例えば、特許文献2参照)。イベント発生時に連続記録領域を参照することにより、イベント発生前の連続映像を参照できるようにしている。しかし、この記録装置では2つの領域を管理する必要があるため、イベント発生前後で連続して映像を参照できないという問題を有していた。
特開2000−165815号公報 特開2000−333114号公報
従来の映像記録装置は、以上のように構成されていたので、記録した間欠記録ストリームを配信する際に、Iピクチャをそのまま出力しているため、MPEG−2から逸脱した映像ストリームとなり、復号装置によっては正しく再生できないという課題があった。また監視時等での侵入イベント発生時に、発生前の連続映像が取得できないという課題があった。
この発明は上記のような課題を解消するためになされたもので、間欠記録された映像信号ストリームをネットワーク伝送して端末で復号する際に、一般的な復号装置を利用でき、またイベント発生前の連続映像を確実に記録できる映像記録装置を提供することを目的とする。
この発明に係る映像記録装置は、外部からのイベント信号を受信するイベント受信部と、連続映像ストリームからフレーム内符号化ピクチャ及び符号化パラメータを抽出して間欠記録ストリームを生成するフレーム抽出部と、通常時に間欠記録ストリームを選択し、イベント受信部がイベント信号を受信した場合に連続映像ストリームを選択する蓄積制御部と、イベント受信部がイベント信号を受信した場合に連続映像ストリームを選択し、その他の場合に間欠記録ストリームを選択する蓄積制御部と、蓄積制御部で選択されたストリームを蓄積する第一の蓄積部と、連続映像ストリームを記録する第二の蓄積部と、イベント受信部がイベント信号を受信した場合に第二の蓄積部から第一の蓄積部へ連続映像ストリームを転送する転送部とを備えている。
この発明によれば、通常時は間欠記録により蓄積領域を有効に使用する一方、イベント信号受信前の連続映像ストリームとイベント信号受信後の連続映像ストリームを同一の蓄積領域に記録することで、イベント信号受信前後で途切れることなく、信頼性の高い連続映像ストリームを再生できるという効果が得られる。また、イベント信号受信前後の連続映像ストリームと、更にその前後の間欠記録ストリームとを一連の映像ストリームとして再生できるため、前後関係の把握をし易い明確な映像ストリームが得られるという効果がある。
実施の形態1.
以下、この発明の実施の形態1について説明する。図1は、実施の形態1に係る映像記録装置を用いた映像蓄積配信システムを示す構成図である。図1では、入力される映像から一定時間間隔でピクチャを間引いて記録する間欠記録を行うことで、蓄積部に対して長時間の映像を記録することができる。本実施の形態で使用する映像ストリームは、ISO/IEC13818−1、いわゆるMPEG−2のプログラムストリームで記録されているものとする。
図1の映像蓄積配信システムは、受信映像ストリームを記録及び配信するサーバ1と、ネットワーク2と、端末3、19、20を備えている。端末の数は特に限定されない。サーバ1が実質的に本発明の映像記録装置に該当する。サーバ1は、内部に複数の間欠記録ストリームを保存するための蓄積部4を有する。先ず、サーバ1に間欠記録ストリームを保存する場合について説明する。Iピクチャ抽出部6は、ネットワーク受信部5を介して受信した連続映像ストリームからIピクチャデータのみ抽出すると共に、符号化パラメータを読み取る。書き込み部7は、Iピクチャデータと符号化パラメータを蓄積部4に書き込む。また、Iピクチャ抽出部6は、蓄積部4に書き込まれたIピクチャデータのアドレス情報と再生タイムスタンプをアドレスマップ8に記録する。
続いて、間欠記録ストリームを再生する場合について説明する。再生処理した間欠記録ストリームを以下、間欠再生ストリームと称する。端末3から再生要求コマンドがネットワーク2を通じてサーバ1の再生制御部9に入力されると、再生制御部9は読み出し部10に読み出し指示を出す。読み出し部10はアドレスマップ8に記録されているアドレス情報と再生タイムスタンプをもとに、蓄積部4から該当アドレスに記録された間欠記録ストリームのIピクチャデータを読み出す。再生制御部9は読み出されたIピクチャデータを間欠再生処理部11へ入力する。
間欠再生処理部11は、Iピクチャデータをもとに間欠再生ストリームの生成を行う。間欠再生処理部11は、入力されたIピクチャの解析を行う解析部12、生成する間欠再生ストリームのデコーダバッファの計算を行うデコーダバッファ計算部13、入力されたIピクチャの符号化パラメータを変更するIピクチャデータ変換処理部14、Iピクチャと同じ映像表示を行うリピートピクチャを生成して付加するリピートピクチャ付加部15、生成する間欠再生ストリームの発生符号量を制御する符号量制御部16、記録前の映像ストリームと同じ形式のプログラムストリームに多重化を行うPS化部17を備える。
解析部12は、入力されたIピクチャのVBV Delay、Temporal Reference、Picture Coding Type、符号量等の解析を行い、間欠再生処理部11内で必要な符号化パラメータを取得する。デコーダバッファ計算部13は、前記解析部12から取得した符号化パラメータをもとに、生成する間欠再生ストリームのVBV Delayの計算を行う。Iピクチャデータ変換処理部14は、入力したIピクチャが生成する間欠再生ストリームに適するように、例えばTemporal ReferenceやVBV Delay及びシーケンスヘッダ以降のIピクチャまでのBit Rate ValueやVBV Buffer Size Valueを変更する。リピートピクチャ付加部15は、先行するIピクチャと表示内容が同じになるように、動きベクトルを0かつ予測誤差を0に符号化し、かつスキップドマクロブロックを使用することによって符号量を大幅に削減したデータを生成する。
符号量制御部16は、生成する間欠再生ストリームの目標転送レートに対して、発生する符号量を予測し、予測符号量が目標転送レートに比べて小さいならスタッフィングによって目標転送レートに近づけ、予測符号量が目標転送レートを上回りそうであれば一時的に目標符号量を上げると共に関連する例えばBit Rate ValueやSCRの再調整を行う。このように、MPEGの規格に対して矛盾が生じない処理を行うことによって、発生符号量を制御する。PS化部17は、ビデオエレメンタリーストリームの形式で生成された間欠再生ストリームをパック単位に分割し、プログラムストリームの形式に変換する。
配信部18は、このように生成された間欠再生ストリームを、例えば映像をストリーミング再生するための伝送プロトコルであるRTP(Real Time Transport Protocol)に従って、ネットワーク2を介して配信要求を発行した端末3に対して配信する。
次に、端末の構成について説明する。端末3、19、20は全て同じ構成をとるため、ここでは端末3についてのみ説明を行う。端末3は、蓄積入力部21、蓄積指示部22、再生入力部23、再生指示部24、受信部25、デコーダ部26、表示部27を備えている。蓄積指示部22と再生指示部24は、ネットワーク2を介してサーバ1に論理的に接続されている。端末3は、ネットワーク2を介して接続されたサーバ1に対して、映像ストリームの蓄積または配信を要求し、蓄積の際には希望する映像ストリームのネットワークアドレス、記録種別、蓄積時刻等を指定する。
蓄積入力部21は、ユーザが蓄積を希望する間欠記録ストリームの種類の受け付けを行なう。蓄積指示部22は、蓄積入力部21で受け付けたユーザ要求をサーバ1の制御コマンドに変換してサーバ1に送信する。再生入力部23は、ユーザが再生を希望する間欠再生ストリームの種類の受け付けを行う。再生指示部24は、再生入力部23で受け付けたユーザ要求をサーバ1の制御コマンドに変換してサーバ1に送信する。受信部25は、ネットワーク2を介してストリームの受信を行い、受信したRTPパケットから必要な映像ストリームを抜き出す。デコーダ部26は、MPEG−2圧縮された間欠再生ストリームをデコードして表示部27で表示を行う。
生成する間欠再生ストリームは、通常の連続映像ストリームから抽出したIピクチャに符号量の少ないリピートピクチャを付加することで、端末3で通常の速度で再生することによって、あたかも間欠再生されたかのような映像を呈するように作成されている。従って、端末3で間欠再生ストリームを再生するにあたり特別な仕組みを設ける必要がない。更に、連続映像ストリームから抽出したIピクチャの符号化パラメータの値を、間欠再生ストリーム及びMPEG−2ストリームの規約に従うように再設定するので、符号化パラメータが不正な値をとることによる再生映像の乱れや多重装置における多重化の失敗がなくなる。また、デコーダバッファを制御するVBV Delayについても値を設定し直すので、デコーダバッファの破綻を防ぐことができる。
以上のように、この実施の形態1によれば、蓄積したIピクチャからMPEG−2ストリームの規約に従って再構築した間欠再生ストリームを配信できるので、再生側では特別な機能を有すること無く、従来の連続映像用のデコーダをそのまま使用することができるという効果がある。
実施の形態2.
以下、この発明の実施の形態2について説明する。図2は、実施の形態2に係る映像記録装置を用いた映像監視システムを示す構成図である。実施の形態2では、長時間記録のために通常は間欠記録を行っているが、部外者侵入等のアラームにより連続記録に切り替えて映像蓄積を行うことができる。図2の映像記録システムは図1の構成に加えて、サーバ1の外部にカメラ29と侵入センサ30を備える一方、サーバ1内部には、イベント受信部31、蓄積制御部32、書き込み部35、第2の蓄積部28、転送部34、スイッチ33、36、37を備えている。なお、ストリーム受信部5a、第1の蓄積部4aはそれぞれ図1の受信部5、蓄積部4に相当する。その他の構成については実施の形態1と同様であるので、説明を省略する。
第二の蓄積部28は、比較的低容量なリングバッファで構成され、カメラ29から入力される連続映像ストリームを、書き込み部35によって常時記録している。イベント受信部31は、カメラ29が監視している領域に設置された侵入センサ30から供給されるイベント信号を受信する。蓄積制御部32は、イベント受信部31がイベント信号を受信すると、スイッチ33によって、第一の蓄積部4aへの間欠記録と第2の蓄積部28への連続記録の切り換えを実行する。転送部34は、第二の蓄積部に記録された連続映像ストリームの一部または全部を第一の蓄積部4aへ転送する。
次に、蓄積動作について説明する。システム起動時からサーバ1は接続されたカメラ29の映像をストリーム受信部5aから受信し始める。初期状態ではスイッチ33はaの側に設定されており、ストリーム受信部5aで受信した連続映像ストリームはIピクチャ抽出部6でIピクチャが抽出され、書き込み部7によって第一の蓄積部4aに間欠記録として蓄積される。この時に、書き込み部7によって、記録種別情報(間欠記録)が間欠記録ストリームと同時に第一の蓄積部4aに記録される。またストリーム受信部5aに入力された連続映像ストリームはスイッチ33の状態にかかわらず、常時、書き込み部35によって第二の蓄積部28に蓄積されている。第二の蓄積部28は、第一の蓄積部4aと比べて小容量ではあるが、リングバッファで構成されている。書き込み部35は、例えば、5分間の映像を記録し続けるように第二の蓄積部を制御する。
侵入センサ30が、部外者の侵入を検知してアラームを発報した場合について説明する。発報されたイベント信号はイベント受信部31に入力され、蓄積制御部32に伝達される。蓄積制御部32は、直ちに転送部34を用いて、第二の蓄積部28に記録されたアラーム発報前5分間の連続映像ストリームを、第一の蓄積部4aへ通常の映像記録速度よりも高速に転送する。この時に、連続記録であることを示す記録種別情報(連続記録)が連続映像ストリームと同時に第一の蓄積部4aに記録される。それと同時に、蓄積制御部32はスイッチ33をbへ切り替え、ストリーム受信部5aで受信した連続映像ストリームが、書き込み部7が第一の蓄積部4aへ直接書き込まれるように設定する。蓄積制御部32は、イベント受信部31で受信していたイベント信号がなくなってから一定時間後に、スイッチ33をaへ切り替えて間欠記録モードに復帰する。以降は、記録種別情報(間欠記録)が第一の蓄積部4aに記録される。
次に、再生動作について説明する。まず端末3の再生入力部23において任意の映像を選択すると、再生指示部24でサーバ1の制御用コマンドに変換され、ネットワーク2を経由してサーバ1の再生制御部9へ送信される。再生制御部9は読み出し部10に読み出し開始指示を発行し、読み出し部10は第一の蓄積部4aから該当の映像ストリームを読み出し始める。同時に読み出し部10は記録種別情報を読み出し、読み出した映像ストリームが間欠記録か連続記録かを判定する。
読み出し部10が判定を行った結果、記録種別情報が間欠記録だった場合は、再生制御部9はスイッチ36及び37をa側に設定し、間欠再生処理部11を使って間欠再生ストリームを生成し、配信部18によってネットワーク2を介して端末3の受信部25へ送信する。これは実施の形態1と同様である。また、記録種別情報が連続記録だった場合は、再生制御部9はスイッチ36及び37をb側に設定する。この場合は間欠再生処理部11は使われず、読み出した連続映像ストリームは配信部18によって受信部25へ送信される。なお、その他の動作については実施の形態1と同様であるので説明を省略する。
以上のように、この実施の形態2によれば、通常時は間欠記録により蓄積領域を有効に使用する一方、アラーム発報前の連続映像ストリームとアラーム発報後の連続映像ストリームを同一の蓄積領域に記録することで、アラーム発報前後で途切れることなく、信頼性の高い連続映像ストリームを再生できるという効果が得られる。また、アラーム発報前後の連続映像ストリームと、更にその前後の間欠記録ストリームとを一連の映像ストリームとして再生できるため、前後関係の把握をし易い明確な映像ストリームが得られるという効果がある。
実施の形態1、2ではIピクチャ抽出部6でIピクチャの抽出のみ行なっているが、Iピクチャ抽出部をフレーム抽出部として、一定の時間間隔でフレームを抽出する形式としてもよい。
この発明の実施の形態1に係る映像記録装置を用いた映像蓄積配信システムを示す構成図である。 この発明の実施の形態2に係る映像記録装置を用いた映像監視システムを示す構成図である。
符号の説明
1 サーバ、2 ネットワーク、3 端末、4 蓄積部、4a 第1の蓄積部、5 ネットワーク受信部、5a ストリーム受信部、6 Iピクチャ抽出部、7 書き込み部、8 アドレスマップ、9 再生制御部、10 読み出し部、11 間欠再生処理部、12 解析部、13 デコーダバッファ計算部、14 Iピクチャデータ変換処理部、15 リピートピクチャ付加部、16 符号量制御部、17 PS化部、18 配信部、19 端末、20 端末、21 蓄積入力部、22 蓄積指示部、23 再生入力部、24 再生指示部、25 受信部、26 デコーダ、27 表示部、28 第二の蓄積部、29 カメラ、30 侵入センサ、31 イベント受信部、32 蓄積制御部、33 スイッチ、34 転送部、35 書き込み部、36 スイッチ、37 スイッチ。

Claims (2)

  1. 外部からのイベント信号を受信するイベント受信部と、
    連続映像ストリームからフレームを抽出して間欠記録ストリームを生成するフレーム抽出部と、
    通常時に前記間欠記録ストリームを選択し、前記イベント受信部が前記イベント信号を受信した場合に前記連続映像ストリームを選択する蓄積制御部と、
    前記蓄積制御部で選択されたストリームを蓄積する第一の蓄積部と、
    前記連続映像ストリームを記録する第二の蓄積部と、
    前記イベント受信部が前記イベント信号を受信した場合に前記第二の蓄積部から第一の蓄積部へ前記連続映像ストリームを転送する転送部とを備え映像記録装置。
  2. 外部からのイベント信号を受信するイベント受信部と、
    連続映像ストリームからフレーム内符号化ピクチャ及び符号化パラメータを抽出して間欠記録ストリームを生成するフレーム抽出部と、
    通常時に前記間欠記録ストリームを選択し、前記イベント受信部が前記イベント信号を受信した場合に前記連続映像ストリームを選択する蓄積制御部と、
    前記蓄積制御部で選択されたストリームを蓄積する第一の蓄積部と、
    前記連続映像ストリームを記録する第二の蓄積部と、
    前記イベント受信部が前記イベント信号を受信した場合に前記第二の蓄積部から第一の蓄積部へ前記連続映像ストリームを転送する転送部と、
    前記第一の蓄積部から前記フレーム内符号化ピクチャを読み出す読み出し部と、
    前記読み出し部で読み出したフレーム内符号化ピクチャの符号化パラメータを変更するIピクチャデータ変換処理部と、
    前記読み出したフレーム内符号化ピクチャにリピートピクチャを生成して付加するリピートピクチャ付加部とを備え映像記録装置。
JP2004350176A 2004-12-02 2004-12-02 映像記録装置 Expired - Fee Related JP4350638B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004350176A JP4350638B2 (ja) 2004-12-02 2004-12-02 映像記録装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004350176A JP4350638B2 (ja) 2004-12-02 2004-12-02 映像記録装置

Publications (2)

Publication Number Publication Date
JP2006165683A JP2006165683A (ja) 2006-06-22
JP4350638B2 true JP4350638B2 (ja) 2009-10-21

Family

ID=36667235

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004350176A Expired - Fee Related JP4350638B2 (ja) 2004-12-02 2004-12-02 映像記録装置

Country Status (1)

Country Link
JP (1) JP4350638B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ATE431676T1 (de) * 2006-07-13 2009-05-15 Axis Ab Videopuffer mit verbessertem voralarm
JP4981585B2 (ja) * 2007-08-27 2012-07-25 パナソニック株式会社 映像伝送システムの中継装置

Also Published As

Publication number Publication date
JP2006165683A (ja) 2006-06-22

Similar Documents

Publication Publication Date Title
JP4118232B2 (ja) 映像データ処理方法および映像データ処理装置
JP4538908B2 (ja) データ変換装置及び方法
JP3330797B2 (ja) 動画像データ格納方式および動画像データ復号方式
US7577303B2 (en) Method and device for condensed image recording and reproduction
US6240137B1 (en) Encoding apparatus and method, decoding apparatus and method, and editing method
JP2004349993A (ja) 画像記録装置
JP4474063B2 (ja) ディジタル監視カメラシステムおよび制御装置
JP4295079B2 (ja) 特殊映像データ処理方法及び特殊映像データ処理装置及び特殊映像データ処理システム
JP4350638B2 (ja) 映像記録装置
JP3279186B2 (ja) 動画像データの再生制御方式
JP4736918B2 (ja) デジタル再生装置または再生プログラム
JP7304096B2 (ja) 動画配信装置
JP2004349743A (ja) 映像ストリーム切替システム、方法、映像ストリーム切替システムを含む映像監視、映像配信システム
JP3652994B2 (ja) データ入出力装置
JPH10199141A (ja) 符号記録装置、及び符号多重方法
JP2000092450A (ja) ビデオサーバ装置
JPH1083632A (ja) ディジタル信号符号化方法および装置、ディジタル信号伝送方法、並びに信号記録媒体
JP2007068214A (ja) ディジタル監視カメラシステムおよび制御装置
JP4753493B2 (ja) 記録再生装置
JP2005341248A (ja) ネットワーク型映像送信装置、ネットワーク型映像受信装置
JP2003101944A (ja) 記録装置、出力装置およびデジタル監視カメラシステム
JP2009049855A (ja) コンテンツ再生装置
JP2001045477A (ja) 映像・音声圧縮データ切り替え器および映像・音声圧縮データ切り替え方法
JP2005110052A (ja) データ伝送装置及びデータ伝送方法
JP2003299022A (ja) 映像データ蓄積、再生システム及び映像データ蓄積、再生方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070723

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071012

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080718

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090714

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090722

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4350638

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130731

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees