JP2011124699A - ユニキャスト再配信装置およびパケット処理プログラム - Google Patents

ユニキャスト再配信装置およびパケット処理プログラム Download PDF

Info

Publication number
JP2011124699A
JP2011124699A JP2009279420A JP2009279420A JP2011124699A JP 2011124699 A JP2011124699 A JP 2011124699A JP 2009279420 A JP2009279420 A JP 2009279420A JP 2009279420 A JP2009279420 A JP 2009279420A JP 2011124699 A JP2011124699 A JP 2011124699A
Authority
JP
Japan
Prior art keywords
packet
unicast
packets
buffer
sequence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009279420A
Other languages
English (en)
Other versions
JP5094826B2 (ja
Inventor
Daisuke Suwa
大介 諏訪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2009279420A priority Critical patent/JP5094826B2/ja
Publication of JP2011124699A publication Critical patent/JP2011124699A/ja
Application granted granted Critical
Publication of JP5094826B2 publication Critical patent/JP5094826B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

【課題】受信端末ごとかかる処理負荷を軽減し、受信端末で確保するバッファサイズの増加を抑えることを可能にする。
【解決手段】ユニキャスト再配信装置3は、ユニキャスト配信された画像データを受信して次のネットワークを介してマルチキャストまたはユニキャスト配信するためにパケットのヘッダを書き換えた後、受信したパケットのパケットシーケンスをチェックし、想定外のパケットシーケンスのパケットを受信した場合には該当パケットをバッファに一時的に格納し、当該格納したパケットのパケットシーケンスがそれ以降に受信したパケットのパケットシーケンスと関連がある場合にはこれらのパケットをパケットシーケンス順に並べ替えてから再配信する。
【選択図】図1

Description

この発明は、マルチキャスト通信をサポートしていない公衆網にユニキャスト通信で送信された画像データを他のネットワークにマルチキャストまたはユニキャストで再配信するユニキャスト再配信装置およびパケット処理プログラムに関するものである。
道路や河川などにカメラ装置を設置して監視領域を撮像し、撮像した画像データを遠隔地にある再生装置や蓄積装置などにネットワークを介して送信する監視システムがある。このような監視システムの場合、監視カメラは複数使用され、監視センタに置かれる再生装置や蓄積装置も複数あり、さらに複数の異なる場所に置かれて使用される形態が考えられる。また、この種の監視システムではカメラ装置が広範囲に設置される場合が多く、画像データの伝送路としては敷設コスト、管理コストを考慮して公衆網を使用するのが一般的である。また、画像配信システムとしてはマルチキャスト通信を用いるのが望ましいが、使用する公衆網がマルチキャスト通信をサポートしていないので、ユニキャスト通信を用い、監視センタ側に設置したユニキャスト再配信装置で画像データを受信し、再生装置や蓄積装置に対しては監視センタ側のネットワークを介してユニキャストあるいはマルチキャストで再配信するようにしている。ここで使用されるユニキャスト再配信装置は、ユニキャスト通信で受信したデータをマルチキャスト通信で送信する場合、受信したデータパケットのヘッダの配信先IPを書き換えてマルチキャストデータまたはユニキャストデータにしてネットワークへ出力するもの(例えば特許文献1および特許文献2参照)で、受信した画像データがパケットシーケンス順に到着する、しないにかかわらず、その画像データをユニキャストあるいはマルチキャストで再配信する機能のみのものであった。
特開2001−230774号公報 特開2007−60197号公報
従来のユニキャスト再配信装置の機能は、以上のように受信した画像データがパケットシーケンス順に到着する、しないにかかわらず、画像データをユニキャストあるいはマルチキャストで再配信するもののみであるため、次のような問題がある。
公衆網などマルチキャスト配信に未対応のネットワークを使用してユニキャスト配信されたデータをユニキャスト再配信装置で受信しているが、その際、公衆網から配信されてくる画像データのパケットは必ずしもパケットシーケンス順で受信されるとは限らない。しかし、従来のユニキャスト再配信装置では、パケットシーケンス順でない画像データもそのままマルチキャストもしくはユニキャストで再配信を行うため、監視システムにおいて再配信された画像データを受信する再生装置や蓄積装置のそれぞれで、受信画像データのパケットをバッファに格納してパケットシーケンス順に並び替えてからその後のデータ処理を行うという方法をとらなければならなかった。例えば、1枚の画像データがカメラ装置から3つのパケット(パケット1、パケット2、パケット3)に分割されて送信され、再生装置や蓄積装置でパケット1、パケット3、パケット2と受信された場合には、それぞれの装置内で、パケット1、パケット2、パケット3とデータをパケットシーケンス順に並べ変える再構築を行った後、データ処理を行うことになる。
また、カメラ装置とユニキャスト再配信装置間の伝送でパケットロスが発生する場合があるが、従来のユニキャスト再配信装置はパケットロスにより影響を受ける関連する画像データのパケットもそのまま再生装置や蓄積装置側に配信してしまうため、再生装置や蓄積装置側で受信した後に対応する画像データの廃棄処理を行わなければならなかった。
以上監視システムにみられる再生装置や蓄積装置などのようにネットワーク上の受信端末では、パケット整列やパケットロスのために画像データより大きい領域のバッファを確保せねばならず、さらに画像データ再構築が可か不可かの判断のための処理負荷が高くなるという問題があった。
この発明は、上記のような問題点を解決するためになされたもので、受信端末ごとかかる処理負荷を軽減し、受信端末で確保するバッファサイズの増加を抑えることを可能にするユニキャスト再配信装置およびパケット処理プログラムを得ることを目的とする。
この発明に係るユニキャスト再配信装置は、マルチキャスト配信不可のネットワークを介してユニキャスト配信された画像データを受信してパケットのヘッダを書き換えて次のネットワークを介してマルチキャストまたはユニキャスト配信するユニキャスト再配信装置において、パケットヘッダの書き換え後、受信したパケットのパケットシーケンスをチェックし、想定外のパケットシーケンスのパケットを受信した場合には該当パケットをバッファに一時的に格納し、当該格納したパケットのパケットシーケンスがそれ以降に受信したパケットのパケットシーケンスと関連がある場合にはこれらのパケットをパケットシーケンス順に並べ替えてから再配信するものである。
この発明によれば、再配信する画像データのパケットをユニキャスト再配信装置においてパケットシーケンス順に整列させるようにしたので、監視システムの再生装置や蓄積装置のような受信端末では、それぞれでパケット整列の処理を行う必要がなくなるため、受信端末で確保するバッファサイズはその分少なくすることができる。
この発明の各実施の形態によるユニキャスト再配信装置を含む画像配信システムの構成を示すブロック図である この発明の実施の形態1に係るデータ処理部の処理を示すフローチャートである。 この発明の各実施の形態に係る画像配信システムの各部における画像データの状況を示す説明図である。 この発明の実施の形態2に係るデータ処理部の処理を示すフローチャートである。
実施の形態1.
図1は、この発明の各実施の形態によるユニキャスト再配信装置を含む画像配信システムの構成を示すブロック図である。
図1において、カメラ装置1a〜1cは、回転台に搭載されたカメラなどからなり、例えば監視対象とする道路や河川などに設置して撮像を行い、取得した映像を符号化した画像データのパケットにしてネットワークを介して配信を行う手段である。ネットワーク2は、カメラ装置1a〜1cから配信される画像データのパケットを通すのに十分な環境であるが、マルチキャスト配信に対応していない、公衆網である。ユニキャスト再配信装置3は、カメラ装置1a〜1cからユニキャスト配信される画像データのパケットを受信し、カメラ装置1a〜1cと接続しているネットワーク2とは別のネットワーク4へ再配信を行う手段である。ネットワーク4は、ユニキャスト再配信装置3からの配信される画像データのパケットを通すのに十分な環境であればインターネット回線でもLAN(Local Area Network)回線でもよいものとする。また、ネットワーク2とは別のネットワークセグメントとする。
再生装置5は、ユニキャスト再配信装置3を経由して配信された画像データのパケットを受信して表示する受信端末であり、映像表示用のソフトウェアを内部記憶媒体もしくは外部記憶媒体から読み込んで保持している。なお、再生装置5は複数存在しても構わない。一方、蓄積装置6は、ユニキャスト再配信装置3を経由して配信された画像データのパケットを受信して蓄積する受信端末であり、蓄積手法としては画像データを保存する方法や受信したパケットデータをそのまま保存する方法などがある。また、蓄積装置6も複数存在しても構わない。
次に、画像配信システムの動作の概要を説明する。
カメラ装置1a〜1cは、例えば道路状況や河川状況の監視のためにリアルタイムの撮像を行う。当該撮像で取得された映像は、リアルタイムでJPEGなどにより符号化され、パケットにしてネットワーク2へ配信される。ユニキャスト再配信装置3において、データ受信部31により、ネットワーク2を介して送信されてきたカメラ装置1a〜1cからの画像データのパケットを受信する。データ処理部32では、データ受信部31で受信したパケットの配信先IPの書き換えやバッファへの格納によるパケットの整列を行う。データ配信部33では、データ処理部32でパケットの配信先IPの書き換えが行われたパケットをネットワーク4に対して再配信する。ネットワーク4に再配信された画像データのパケットは再生装置5および蓄積装置6で受信される。再生装置5では映像表示を行い、一方、蓄積装置6では画像データもしくは画像データのパケットの蓄積を行う。
ここで、実施の形態1に係るデータ処理部32による特有の処理について図2のフローに従って説明する。
データ処理部32は、受信するパケットについて、最後に送信したパケットシーケンスより1大きい値のパケットを受信したかを調べる(ステップST1)。1大きい値のパケットを受信した場合にはそのまま再配信を行う(ステップST2)。逆に1以上大きい値のパケットを受信した場合にはバッファに格納する(ステップST3)。ステップST2でパケットを再配信した際にバッファにパケットが格納されているかを調べる(ステップST4)。バッファにパケットが格納されている場合にはそのパケットの中に、最後に配信したパケットシーケンスより1大きい値のパケットが存在するかを調べ(ステップST5)、該当するパケットが存在した場合にはそのパケットの再配信を行う(ステップST6)。
図3は、画像配信システムの各部における画像データの状況を示すもので、101はカメラ装置1a〜1cで撮像した映像をJPEGに符号化して生成したJPEG画像データを表している。103は、カメラ装置1a〜1cからJPEG画像A〜Dをそれぞれ4分割にパケット化してネットワーク2に配信されるパケット列を表している。102は、ネットワーク2に配信されたパケットのシーケンス番号を表す。このシーケンス番号102は、パケットを配信する際に配信する側、本例においては、カメラ装置において昇順に付与される。104は、ユニキャスト再配信装置3で受信した画像データのパケット例を表す。105は、ユニキャスト再配信装置3で処理されてネットワーク4に再配信され、再生装置5や蓄積装置6で受信される画像データのパケット例を示す。
図3において、JPEG画像AのパケットA1〜A4はシーケンス順にユニキャスト再配信装置3で受信されている。そのため、再配信の際も受信した順番で再配信されている。一方、JPEG画像Bの場合、パケットB1〜B4はシーケンス順に配信されるが、ユニキャスト再配信装置3での受信順はパケットB3とパケットB4が入れ替わっている。ユニキャスト再配信装置3では、図2で説明したデータ処理部32による処理に基づいて、パケットB4を受信した際には、このパケットB4をバッファに格納し、その後、パケットB3を受信すると、パケットB3の再配信を行い、その後にパケットB4をバッファから取り出して再配信するようにしている。
以上のようにユニキャスト再配信装置3においてパケット順の入れ替え処理を行うことにより、受信端末である再生装置5や蓄積装置6では、パケットシーケンス通りにパケットB1〜B4を受信することが可能となり、再生装置5や蓄積装置6はパケット順の入れ替え処理を行わずに済むため、それぞれが持つバッファ領域をその分少なくすることが可能となる。
以上のように、この実施の形態1によれば、ユニキャスト再配信装置は、パケットヘッダの書き換え後、受信したパケットのパケットシーケンスをチェックし、想定外のパケットシーケンスのパケットを受信した場合には該当パケットをバッファに一時的に格納し、当該格納したパケットのパケットシーケンスがそれ以降に受信したパケットのパケットシーケンスと関連がある場合にはこれらのパケットをパケットシーケンス順に並べ替えてから再配信するものである。したがって、監視システムにおける再生装置5や蓄積装置6などの受信端末では、端末ごとに画像データのパケット整列を行う処理の必要が無くなるため、受信端末で確保するバッファサイズはその分少なくすることができる。
なお、図2で説明した処理はコンピュータで実行できるプログラムとすることもできる。
実施の形態2.
上記実施の形態1では、図1の画像配信システムのユニキャスト再配信装置3において、データ受信部31により、カメラ装置1a〜1cから送信される画像データのパケットの受信を行った後、データ処理部32で、受信したパケットのヘッダの配信先IPの書き換えやバッファへの格納によるパケットの整列を行っている。この実施の形態2では、その際、データ処理部32で後述する図4に示す処理に従ってパケットデータ内部のチェックを行って、処理されたパケットを再配信する。
次に、実施の形態2に係るデータ処理部32による特有の処理について図4のフローに従って説明する。
データ処理部32は、パケットのデータ部分に画像データの先頭情報が存在するかを調べる(ステップST21)。先頭情報が存在する場合にはバッファに格納する(ステップST22)。一方、先頭情報以外の場合には、画像データを再構築できないと判断して、パケットを再配信せずに破棄する(ステップST23)。ステップST22でパケットバッファに格納した後、次に受信したパケットについて、同様にパケットのデータ部分をチェックする。その際チェックするのは画像データの最終情報とし(ステップST24)、最終情報が存在しない場合にはバッファに格納して(ステップST25)、ステップST21からの処理を繰り返す。一方、ステップST24の判定で、パケットのデータ部分に画像データの最終情報が存在すると判定した場合で、かつ画像データの先頭情報のパケットから全て受信した場合、それまでバッファに格納されたパケットと共に再配信を行う(ステップST26)。画像データのパケットが一部でも抜けていた場合には、画像再構築が行えないと判断し、バッファのデータを全て破棄する。
また、画像データの最終情報が格納されたパケットを受信する前に、画像データの先頭情報が存在するパケットを受信した場合はバッファのデータを全て破棄する。
例えば、図3の101に示すJPEG画像Dの場合、各パケットD1〜D4はシーケンス順に配信されるが、受信パケット列104に示されるように、パケットD3は受信できずパケットロスとなっている。その際、ユニキャスト再配信装置3では、図4の処理に基づいてバッファのデータを破棄し、105に示すように再配信していない。
また、図3において、JPEG画像Cの場合、各パケットC1〜C4は最初シーケンス順に配信されるが、104に示されるように、パケットC4はユニキャスト再配信装置3で受信できずパケットロスとなっている。その後、ユニキャスト再配信装置3は、パケットD1を受信した際に、図4の処理に基づき、バッファのデータを破棄し、105に示すように再配信していない。
前述のパケット破棄により、再配信を行わないため、ネットワークを効率的に利用することが可能となる。
以上のように、この実施の形態2によれば、ユニキャスト再配信装置3は、画像を構成するパケットに関し、データ部分に画像データの先頭情報から最終情報が存在するパケットが存在するか順次調べてバッファに格納し、画像を構成する全パケットが存在した場合には対応するパケットを再配信し、一方、一つでもパケットロスが存在した場合には、バッファに格納した画像のパケットをすべて破棄して再配信しないようにしている。したがって、受信端末側でデータ処理することができないパケットについては再配信を行わないことによりネットワークの効率的利用ができる。また、パケット配信数を軽減することによりユニキャスト再配信装置3の負荷軽減を図る。また、監視システムにおける再生装置5や蓄積装置6などの受信端末それぞれで画像データを構成するパケットをチェックしないで済むため、それぞれが備えるバッファサイズを少なくすることができ、スペックダウンが図れる監視システムを構築することが可能となる。
なお、図4で説明した処理はコンピュータで実行できるプログラムとすることもできる。
1a〜1c カメラ装置、2 ネットワーク(公衆網)、3 ユニキャスト再配信装置、4 ネットワーク、5 再生装置(受信端末)、6 蓄積装置(受信端末)、31 データ受信部、32 データ処理部、33 データ配信部。

Claims (5)

  1. マルチキャスト配信不可のネットワークを介してユニキャスト配信された画像データを受信してパケットのヘッダを書き換えて次のネットワークを介してマルチキャストまたはユニキャスト配信するユニキャスト再配信装置において、
    前記パケットヘッダの書き換え後、受信したパケットのパケットシーケンスをチェックし、想定外のパケットシーケンスのパケットを受信した場合には該当パケットをバッファに一時的に格納し、当該格納したパケットのパケットシーケンスがそれ以降に受信したパケットのパケットシーケンスと関連がある場合にはこれらのパケットをパケットシーケンス順に並べ替えてから再配信することを特徴とするユニキャスト再配信装置。
  2. パケットシーケンス順にパケットを並べ替え処理後、画像を構成するパケットに関し、データ部分に画像データの先頭情報から最終情報が存在するパケットが存在するか順次調べてバッファに格納し、画像を構成する全パケットが存在した場合には対応するパケットを再配信し、一方、一つでもパケットロスが存在した場合には、バッファに格納したパケットをすべて破棄して再配信しないようにすることを特徴とする請求項1記載のユニキャスト再配信装置。
  3. マルチキャスト配信不可のネットワークを介してユニキャスト配信された画像データを受信してパケットのヘッダを書き換えて次のネットワークを介してマルチキャストまたはユニキャスト配信するユニキャスト再配信装置において、
    前記パケットヘッダの書き換え後、画像を構成するパケットに関し、データ部分に画像データの先頭情報から最終情報が存在するパケットが存在するか順次調べてバッファに格納し、画像を構成する全パケットが存在した場合には対応するパケットを再配信し、一方、一つでもパケットロスが存在した場合には、バッファに格納したパケットをすべて破棄して再配信しないようにすることを特徴とするユニキャスト再配信装置。
  4. 受信したパケットのパケットシーケンスをチェックし、想定外のパケットシーケンスのパケットを受信した場合には該当パケットをバッファに一時的に格納し、当該格納したパケットのパケットシーケンスがそれ以降に受信したパケットのパケットシーケンスと関連がある場合にはこれらのパケットをパケットシーケンス順に並べ替えてから再配信することを特徴とするコンピュータで実行させるプログラム。
  5. 画像を構成するパケットに関し、データ部分に画像データの先頭情報から最終情報が存在するパケットが存在するか順次調べてバッファに格納し、画像を構成する全パケットが存在した場合には対応するパケットを再配信し、一方、一つでもパケットロスが存在した場合には、バッファに格納したパケットをすべて破棄して再配信しないようにすることを特徴とするコンピュータで実行させるプログラム。
JP2009279420A 2009-12-09 2009-12-09 ユニキャスト再配信装置およびパケット処理プログラム Expired - Fee Related JP5094826B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009279420A JP5094826B2 (ja) 2009-12-09 2009-12-09 ユニキャスト再配信装置およびパケット処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009279420A JP5094826B2 (ja) 2009-12-09 2009-12-09 ユニキャスト再配信装置およびパケット処理プログラム

Publications (2)

Publication Number Publication Date
JP2011124699A true JP2011124699A (ja) 2011-06-23
JP5094826B2 JP5094826B2 (ja) 2012-12-12

Family

ID=44288183

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009279420A Expired - Fee Related JP5094826B2 (ja) 2009-12-09 2009-12-09 ユニキャスト再配信装置およびパケット処理プログラム

Country Status (1)

Country Link
JP (1) JP5094826B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002247578A (ja) * 2001-02-21 2002-08-30 Nec Corp ビデオパケットの受信復号システムおよび送信システム
JP2003189278A (ja) * 2001-12-14 2003-07-04 Matsushita Electric Ind Co Ltd 監視映像蓄積装置および映像監視方法
JP2003218935A (ja) * 2002-01-17 2003-07-31 Matsushita Electric Ind Co Ltd ユニキャスト−マルチキャスト変換装置および映像監視システム
JP2005333568A (ja) * 2004-05-21 2005-12-02 Nippon Hoso Kyokai <Nhk> データ送信装置、データ送信プログラムおよびデータ送信方法、ならびに、データ受信装置、データ受信プログラムおよびデータ受信方法
JP2007060197A (ja) * 2005-08-24 2007-03-08 Matsushita Electric Ind Co Ltd ユニキャストマルチキャスト変換装置およびマルチキャストユニキャスト変換装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002247578A (ja) * 2001-02-21 2002-08-30 Nec Corp ビデオパケットの受信復号システムおよび送信システム
JP2003189278A (ja) * 2001-12-14 2003-07-04 Matsushita Electric Ind Co Ltd 監視映像蓄積装置および映像監視方法
JP2003218935A (ja) * 2002-01-17 2003-07-31 Matsushita Electric Ind Co Ltd ユニキャスト−マルチキャスト変換装置および映像監視システム
JP2005333568A (ja) * 2004-05-21 2005-12-02 Nippon Hoso Kyokai <Nhk> データ送信装置、データ送信プログラムおよびデータ送信方法、ならびに、データ受信装置、データ受信プログラムおよびデータ受信方法
JP2007060197A (ja) * 2005-08-24 2007-03-08 Matsushita Electric Ind Co Ltd ユニキャストマルチキャスト変換装置およびマルチキャストユニキャスト変換装置

Also Published As

Publication number Publication date
JP5094826B2 (ja) 2012-12-12

Similar Documents

Publication Publication Date Title
KR101426097B1 (ko) 정보 처리 장치 및 방법과, 프로그램
US8442115B2 (en) Redundant data dispersal in transmission of video data based on frame type
KR101458852B1 (ko) 멀티-홉 rtp 스트림에서의 중요 패킷 손실 처리 시스템 및 방법
US9184884B2 (en) System and method for cloud-based live media ingestion and transcoding
US9153127B2 (en) Video transmitting apparatus, video receiving apparatus, and video transmission system
CN102333209B (zh) 应用于视频监控系统的数据传输方法及设备
US20140092997A1 (en) Error resilient transmission of random access frames and global coding parameters
JP2018182447A (ja) 映像配信装置、映像配信方法及びプログラム
US20190089966A1 (en) Efficient frame loss recovery and reconstruction in dyadic hierarchy based coding
JP2011521575A (ja) データストリームのデータパケットを処理する装置および方法ならびに当該装置の使用方法
JP5094826B2 (ja) ユニキャスト再配信装置およびパケット処理プログラム
US9049350B2 (en) Imaging apparatus that transmits media data to reception apparatus, method of processing information, and storage medium
JP5682292B2 (ja) 映像配信装置及び映像配信方法
CN111836020B (zh) 监控系统中的码流传输方法、装置及存储介质
JP2008131599A (ja) キャスト伝送装置及びキャスト伝送方法
US20120072942A1 (en) Broadcast-contents management apparatus and control method for use in a broadcast-contents management apparatus
US8046656B2 (en) Rendering and correcting data
JP2012151622A (ja) 受信端末、パケットデータ受信方法、送信端末、送受信システム、中継端末およびパケットデータの中継方法
CN112203050A (zh) 一种视频续传的方法及装置
JP2006303980A (ja) 多地点配信システムおよび方法
KR102101507B1 (ko) 무손실 네트워크 영상 전송 방법 및 장치
US20230144726A1 (en) Multi-channel image receiving device and method
CN115086285B (zh) 一种数据处理方法、装置、存储介质及电子设备
CN114070827B (zh) 一种转推流数据的传输方法、设备及介质
JP2004328353A (ja) 逆転ストリームパケットの補正方法及び装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110308

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120619

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120821

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120918

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150928

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees