JP2011151503A - 画像伝送システム及び画像伝送方法 - Google Patents

画像伝送システム及び画像伝送方法 Download PDF

Info

Publication number
JP2011151503A
JP2011151503A JP2010009583A JP2010009583A JP2011151503A JP 2011151503 A JP2011151503 A JP 2011151503A JP 2010009583 A JP2010009583 A JP 2010009583A JP 2010009583 A JP2010009583 A JP 2010009583A JP 2011151503 A JP2011151503 A JP 2011151503A
Authority
JP
Japan
Prior art keywords
image
transmission
transmission path
line
sight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010009583A
Other languages
English (en)
Other versions
JP5616069B2 (ja
Inventor
Takuma Mizutani
拓磨 水谷
Mitsuki Yamashika
光記 山鹿
Toshiya Nagato
俊哉 長門
Toshihiro Yokoyama
俊裕 横山
Keita Otoi
啓太 音居
Hiroshi Yoshioka
洋 吉岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Heavy Industries Ltd filed Critical Fuji Heavy Industries Ltd
Priority to JP2010009583A priority Critical patent/JP5616069B2/ja
Publication of JP2011151503A publication Critical patent/JP2011151503A/ja
Application granted granted Critical
Publication of JP5616069B2 publication Critical patent/JP5616069B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Communication Control (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

【課題】伝送速度がより高速であればより詳細な画像を伝送し、伝送速度がより低速であれば、撮像から受信までの時間差の長時間化を抑えつつ、観測、監視等の目的に応じた重要な情報を迅速に伝送する。
【解決手段】本画像伝送システムは、移動体a及び地上装置bを備え、伝送速度1(低),2(中),3(高)の複数の伝送路から使用する伝送路を設定する伝送路設定手段を備える。移動体aに、目標物画像を抽出するなどして画像センサa1が取得した画像のデータ量を小規模化する画像処理手段を備え、伝送速度2の伝送路が設定された場合に画像処理手段の処理した画像を地上装置に無線伝送し、伝送速度3の伝送路が設定された場合に、画像取得装置が取得した画像全体を移動体から地上装置に無線伝送する。移動体aは伝送速度1の場合は、種別などの目標物特定情報を地上装置に伝送する。
【選択図】図2

Description

本発明は、移動体が取得した画像を地上の基地局等へ無線伝送する画像伝送システム及び画像伝送方法に関する。
特許文献1にも記載されるように、従来、画像を効率的に伝送表示する方法には、表示画像を中心部分から周辺に順次送る方法や全体画像を低解像度の画像から高解像度の画像へ次第に解像度を上げて伝送表示する方法があった。
特許文献1に係る発明にあっては、受信者の指示で画像における重要な部分についての効率的な伝送を可能とするために、受信側における視点を中心とする部分の画像を走査し優先的に符号化して伝送することを行う。
特開平7−284095号公報
しかし、移動体が取得した画像を地上の基地局等へ無線伝送する画像伝送システムにおいては、以下のような問題がある。
航空機等の移動体から地上、海上等の基地局へ画像を伝送する場合、移動体の位置及び基地局の位置により、移動体から基地局、基地局から移動体の見通しが利く場合(見通し内)と、見通しが利かない(見通し外)とで、使用できる伝送路が異なる場合がある。
見通し内では、移動体と基地局との間で各種電波による一対一の無線通信が可能であり、通信衛星を介した通信も、電離層で反射させる短波通信も使用できる。
見通し外では、通信衛星を介した通信や、電離層で反射させる短波通信などを使用することとなる。
また、電波取得上の制約から、限定された通信回線しか使用できないという事情もある。
したがって、移動体と基地局との位置関係等の状況に応じて使用できる伝送路が異なり、その伝送路の伝送速度がそれぞれ異なるから、送信データの伝送速度が異なることとなる。
このように使用できる伝送路の伝送速度が変化する条件下で、観測や監視のために移動体において取得した画像を基地局等に伝送するにあたっては、伝送速度が十分に高速であれば、視点周辺部や中央部等の一部に限定された画像や低解像度化した画像でなく、全体の高解像度画像を伝送することが可能かつ有効である一方、伝送速度が低速になれば、一画像のデータ量を落してでも、基地局での画像の受信ができるだけ遅れないように、すなわち、撮像から受信までの時間差の長時間化を抑えて、画像から得られえる情報を迅速に伝える必要がある。
本発明は以上の従来技術における問題に鑑みてなされたものであって、伝送速度の異なる複数の伝送路が選択的に使用可能となる条件下において、使用できる伝送路により移動体から画像を移動体外の通信装置へ無線伝送するにあたり、伝送速度がより高速であればより詳細な画像を伝送することができ、伝送速度がより低速であれば、撮像から受信までの時間差の長時間化を抑えつつ、観測、監視等の目的に応じた重要な情報を迅速に伝送することができる画像伝送システム及び画像伝送方法を提供することを課題とする。
以上の課題を解決するための請求項1記載の発明は、移動体上の画像取得装置が取得した画像を同移動体から同移動体外の通信装置に無線伝送する画像伝送システムにおいて、
伝送速度が異なる複数の伝送路から使用する伝送路を設定する伝送路設定手段を備え、
前記移動体に、
前記画像取得装置が取得した画像のデータ量を小規模化する画像処理手段を備え、
前記画像処理手段は、前記伝送路設定手段により設定された伝送路の伝送速度が所定値よりも低い場合に、当該伝送速度が前記所定値よりも高い場合に比較して、伝送する画像のデータ量が少なくなるようにデータ量を小規模化することを特徴とする画像伝送システムである。
請求項2記載の発明は、前記画像処理手段は、前記画像取得装置が取得した画像中の目標物を含み画像全体より狭い範囲の画像を抽出することによりデータ量を小規模化処理する機能を有し、
前記複数の伝送路は、第1の伝送速度を有する第1の伝送路と、第1の伝送速度より遅い第2の伝送路とを含み、
前記伝送路設定手段により第1の伝送路が設定された場合、前記画像取得装置が取得した画像全体を第1の伝送路で無線伝送し、
前記伝送路設定手段により第2の伝送路が設定された場合、前記画像処理手段が抽出した画像を第2の伝送路で無線伝送することを特徴とする請求項1に記載の画像伝送システムである。
請求項3記載の発明は、前記画像取得装置が取得した画像中の目標物を特定する目標物特定情報を生成する目標物特定手段を前記移動体に備え、
前記複数の伝送路は、第2の伝送速度より遅い第3の伝送路を含み、
前記伝送路設定手段により第3の伝送路が設定された場合、前記目標物特定手段が生成した目標物特定情報を第3の伝送路で無線伝送することを特徴とする請求項2に記載の画像伝送システムである。
請求項4記載の発明は、前記移動体から前記通信装置を、又は前記通信装置から前記移動体を見通せるか否か判別する見通し内外判別手段を備え、
前記複数の伝送路は、見通し内通信に対応する伝送路と、見通し外通信に対応する伝送路とを含み、
前記伝送路設定手段は、
前記見通し内外判別手段により見通し内と判別された場合、見通し内通信に対応する伝送路を設定し、
前記見通し内外判別手段により見通し外と判別された場合、見通し外通信に対応する伝送路を設定することを特徴とする請求項1から請求項3のうちいずれか一に記載の画像伝送システムである。
請求項5記載の発明は、移動体上の画像取得装置が取得した画像を同移動体から同移動体外の通信装置に無線伝送する画像伝送方法において、
伝送速度が異なる複数の伝送路から使用する伝送路を設定する伝送路設定を行うとともに、
前記伝送路設定により設定された伝送路の伝送速度が所定値よりも低い場合に、当該伝送速度が前記所定値よりも高い場合に比較して、伝送する画像のデータ量が少なくなるようにデータ量を小規模化することを特徴とする画像伝送方法である。
本発明によれば、伝送速度が異なる複数の伝送路から使用する伝送路を設定する伝送路設定手段を備え、さらに移動体に、画像取得装置と、画像取得装置が取得した画像のデータ量を小規模化する画像処理手段とを備え、画像処理手段は、伝送路設定手段により設定された伝送路の伝送速度が所定値よりも低い場合に、伝送速度が所定値よりも高い場合に比較して、伝送する画像のデータ量が少なくなるようにデータ量を小規模化するので、伝送速度の異なる複数の伝送路が選択的に使用可能となる条件下において、使用する伝送路により移動体から画像を地上等に設置される移動体外の通信装置へ無線伝送するにあたり、伝送速度がより高速であればより詳細な画像を伝送することができ、伝送速度がより低速であれば、データ量が小規模化された画像を伝送することで、撮像から受信までの時間差の長時間化を抑えつつ、観測、監視等の目的に応じた重要な情報を迅速に伝送することができるという効果がある。
画像のデータ量の小規模化処理は、画像取得装置が取得した画像中の目標物を含み画像全体より狭い範囲の画像を抽出する処理が好ましい。目標物であるための要件は予め設定して画像から目標物を探索する処理手段を上記移動体上に構成する。これにより、観測、監視等の目的に応じた重要な情報を伝送することができる。小規模化処理を、中央部や視点中心などの他の基準による部分抽出処理としたり、部分抽出処理とせずに解像度を落す処理としたり、フレームレートを落す処理、画質の劣化を伴う圧縮率の高い圧縮処理としてもよい。
また、伝送路設定手段により設定された伝送路の伝送速度が、さらに低い場合には、目標物特定手段が生成した目標物特定情報を無線伝送することが有効となる。目標物特定情報は、厳密に個体まで特定する情報でなくとも、認識した物体の分類、種別等でよく、大まかに特定する情報であるほど迅速に情報を伝えることができる。
本発明の一実施形態に係る画像伝送システムの構成図である。 本発明の一実施形態に係る移動体上の処理を示すフローチャートである。
以下に本発明の一実施形態につき図面を参照して説明する。以下は本発明の一実施形態であって本発明を限定するものではない。
図1に示すように、本実施形態の画像伝送システムは、移動体としての航空機aと、地上の基地局に設置された地上装置bとを備える。
航空機aは、画像取得装置としての画像センサとa1と、情報記憶部a2と、データ処理部a3と、画像処理部a4と、画像圧縮部a5と、符号化部a6と、無線受信/復調機a7と、データ/指令復号化部a8と、無線送信機a9と、デジタル変調部a10と、機体データバスa11とを備える。
地上装置bは、無線受信機b1と、デジタル復調部b2と、復号化部b3と、画像/機体情報分割部b4と、画像伸張/画像解析/加工部b5と、表示部b6、地上データバスb7と、機体オペレーションシステム部b8と、機体指令符号化/変調部b9と、無線送信機b10とを備える。
航空機aと地上装置bとは無線通信を行う。地上装置bの機体オペレーションシステム部b8の航空機aに対する指令等が機体指令符号化/変調部b9で符号化され、変調されて無線送信機b10により無線伝送される。
無線送信機b10から伝送された無線信号を航空機aの無線受信/復調機a7が受信し、復調してデータ/指令復号化部a8が複合化して、機体オペレーションシステム部b8からの指令等を読み出し、機体データバスa11を介してデータ処理部a3に提供する。データ処理部a3は、機体オペレーションシステム部b8からの指令その他の提供されたデータを必要により情報記憶部a2に保存したり、以下に述べるような必要な処理を行ったりする。
本実施形態において見通し内外判別手段はデータ処理部a3に構成され、データ処理部a3がGPS等による航空機a及び地上装置bの位置情報及び地形情報に基づき、航空機aから地上装置bを見通せるか否か判別する。
本実施形態においては画像伝送システムが最大限利用可能な伝送路として、通信衛星cを介した衛星通信伝送路を含む伝送速度が1(低),2(中),3(高)の伝送路が存在する状況にある。また、伝送速度1,2,3のそれぞれに、航空機a・地上装置b間の見通し内でのみ伝送可能な見通し内通信と、航空機a・地上装置b間の見通し外で伝送可能な見通し外通信とが含まれる状況にある。
本実施形態において伝送路設定手段はデータ処理部a3に構成され、データ処理部a3は、初期的には伝送速度3(高)の伝送路を使用する伝送路として設定するとともに、直前の一定情報量の伝送時間を監視して、その伝送時間が所定の基準より短くなれば順次伝送速度を落す、すなわち、伝送速度を3(高)→伝送速度2(中)→伝送速度1(低)と変更設定する。反対に、データ処理部a3は、直前の一定情報量の伝送時間を監視して、その伝送時間が所定の基準より長くなれば伝送速度を上げる。
それとともにデータ処理部a3は、見通し内外判別に基づき、見通し内通信又は見通し外通信を選択設定する。
本実施形態において目標物特定手段はデータ処理部a3に構成される。情報記憶部a2には、あらゆる物体の外観を立体的に表す3Dデータ、特徴、種別、名称その他属性を表すデータが蓄積されている。機体オペレーションシステム部b8は、目標物設定を航空機aに送信し、航空機aの情報記憶部a2に目標物設定が保持される。目標物設定としては、例えば、航空機、船舶等の分類や、機種、船種等の種別である。
次に、処理の流れに沿って説明する。
まず、機体オペレーションシステム部b8が、撮影画像の伝送処理を、航空機aによるオート処理に任せるか、機体オペレーションシステム部b8から撮影画像の伝送に関する選択(伝送路、圧縮方法、伝送対象画像部位の選択など)を指令するマニュアル処理とするかの指令を航空機aに送信する。
オート処理が選択されると(図2 ステップS1で「オート」)、データ処理部a3は、画像センサa1の撮像した画像から、移動物等の物体を認識し、情報記憶部a2に記憶されている目標物設定に当てはまる物体のデータと照合して目標物に該当するか否か判別する(ステップS2)。
データ処理部a3は、ステップS2の処理の結果、目標物が画像中にあるか否か判断する(ステップS3)。
データ処理部a3は、ステップS3でNOの場合、「目標物未発見」を示す信号を地上装置bに発信し(ステップS4)、次に撮影される画像に対するステップS2に移行する。
データ処理部a3は、ステップS3でYESの場合、使用する伝送路について伝送速度1,2,3の別、見通し内通信・見通し外通信の別を判断する(ステップS5)。
データ処理部a3は、伝送速度が3で見通し内通信又は見通し外通信の場合、画像処理部a4により画像センサa1が撮像した画像の全体を取り出させて時分割伝送するための画像分割を行わせ(ステップS6)、目標物を中心に優先度を高めて伝送する分割画像部位の優先順位を決め(ステップS7)、その順位に従って順次分割画像を画像圧縮部a5によりJPEGやJPEG2000等の方式で圧縮させ(ステップS8)、画像圧縮部a5で圧縮された画像を符号化部a6により符号化させる。
符号化部a6が符号化した画像データを、デジタル変調部a10が変調し、無線送信機a9が無線伝送する(ステップS9)。
データ処理部a3は、伝送速度が2で見通し内通信又は見通し外通信の場合、画像処理部a4により画像センサa1が撮像した画像全体から目標物のみの画像又は目標物を含み画像全体より狭い範囲の画像を抽出させ、さらに時分割伝送するための画像分割を行わせ(ステップS10)、目標物を中心に優先度を高めて伝送する分割画像部位の優先順位を決め(ステップS7)、その順位に従って順次分割画像を画像圧縮部a5によりJPEGやJPEG2000等の方式で圧縮させる(ステップS8)、画像圧縮部a5で圧縮された画像を符号化部a6により符号化させる。
符号化部a6が符号化した画像データは、デジタル変調部a10が変調し、無線送信機a9が無線伝送する(ステップS9)。
データ処理部a3は、伝送速度が1で見通し内通信又は見通し外通信の場合、情報記憶部a2に記憶されている物体のデータに基づき、ステップS2で認識した目標物の目標物特定情報(例えば種別)を判定し(ステップS11)、この目標物特定情報を符号化部a6により符号化させる。
符号化部a6が符号化した目標物特定情報は、デジタル変調部a10が変調し、無線送信機a9が無線伝送する(ステップS9)。
一方、地上装置bにおいては、画像及び目標物特定情報を無線受信機b1、デジタル復調部b2、複合化部b3によって受信、復調、複合化し、画像/機体情報分割部b4によって画像と目標物特定情報とに分割する。画像伸張/画像解析/加工部b5は、必要に応じて圧縮画像に対する伸張処理、目標物の距離、移動方向等を特定するための画像解析、画像を見易くするための画質調整等の加工処理を行う。表示部b6は画像や目標物特定情報を表示する。
a 航空機(移動体)
b 地上装置(移動体外の通信装置)
c 通信衛星

Claims (5)

  1. 移動体上の画像取得装置が取得した画像を同移動体から同移動体外の通信装置に無線伝送する画像伝送システムにおいて、
    伝送速度が異なる複数の伝送路から使用する伝送路を設定する伝送路設定手段を備え、
    前記移動体に、
    前記画像取得装置が取得した画像のデータ量を小規模化する画像処理手段を備え、
    前記画像処理手段は、前記伝送路設定手段により設定された伝送路の伝送速度が所定値よりも低い場合に、当該伝送速度が前記所定値よりも高い場合に比較して、伝送する画像のデータ量が少なくなるようにデータ量を小規模化することを特徴とする画像伝送システム。
  2. 前記画像処理手段は、前記画像取得装置が取得した画像中の目標物を含み画像全体より狭い範囲の画像を抽出することによりデータ量を小規模化処理する機能を有し、
    前記複数の伝送路は、第1の伝送速度を有する第1の伝送路と、第1の伝送速度より遅い第2の伝送路とを含み、
    前記伝送路設定手段により第1の伝送路が設定された場合、前記画像取得装置が取得した画像全体を第1の伝送路で無線伝送し、
    前記伝送路設定手段により第2の伝送路が設定された場合、前記画像処理手段が抽出した画像を第2の伝送路で無線伝送することを特徴とする請求項1に記載の画像伝送システム。
  3. 前記画像取得装置が取得した画像中の目標物を特定する目標物特定情報を生成する目標物特定手段を前記移動体に備え、
    前記複数の伝送路は、第2の伝送速度より遅い第3の伝送路を含み、
    前記伝送路設定手段により第3の伝送路が設定された場合、前記目標物特定手段が生成した目標物特定情報を第3の伝送路で無線伝送することを特徴とする請求項2に記載の画像伝送システム。
  4. 前記移動体から前記通信装置を、又は前記通信装置から前記移動体を見通せるか否か判別する見通し内外判別手段を備え、
    前記複数の伝送路は、見通し内通信に対応する伝送路と、見通し外通信に対応する伝送路とを含み、
    前記伝送路設定手段は、
    前記見通し内外判別手段により見通し内と判別された場合、見通し内通信に対応する伝送路を設定し、
    前記見通し内外判別手段により見通し外と判別された場合、見通し外通信に対応する伝送路を設定することを特徴とする請求項1から請求項3のうちいずれか一に記載の画像伝送システム。
  5. 移動体上の画像取得装置が取得した画像を同移動体から同移動体外の通信装置に無線伝送する画像伝送方法において、
    伝送速度が異なる複数の伝送路から使用する伝送路を設定する伝送路設定を行うとともに、
    前記伝送路設定により設定された伝送路の伝送速度が所定値よりも低い場合に、当該伝送速度が前記所定値よりも高い場合に比較して、伝送する画像のデータ量が少なくなるようにデータ量を小規模化することを特徴とする画像伝送方法。
JP2010009583A 2010-01-20 2010-01-20 航空機からの画像伝送システム Active JP5616069B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010009583A JP5616069B2 (ja) 2010-01-20 2010-01-20 航空機からの画像伝送システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010009583A JP5616069B2 (ja) 2010-01-20 2010-01-20 航空機からの画像伝送システム

Publications (2)

Publication Number Publication Date
JP2011151503A true JP2011151503A (ja) 2011-08-04
JP5616069B2 JP5616069B2 (ja) 2014-10-29

Family

ID=44538118

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010009583A Active JP5616069B2 (ja) 2010-01-20 2010-01-20 航空機からの画像伝送システム

Country Status (1)

Country Link
JP (1) JP5616069B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001127990A (ja) * 1999-11-01 2001-05-11 Mega Chips Corp 情報通信システム
JP2002262288A (ja) * 2001-02-26 2002-09-13 Sanyo Electric Co Ltd 画像データ送信装置および画像データ受信装置
JP2004364088A (ja) * 2003-06-06 2004-12-24 Matsushita Electric Ind Co Ltd 画像通信装置
WO2007066577A1 (ja) * 2005-12-08 2007-06-14 Sharp Kabushiki Kaisha 無線通信システム及び無線通信方法
JP2007165980A (ja) * 2005-12-09 2007-06-28 Toshiba Corp 無線通信装置及び無線通信装置の中継要否判断方法
JP2008042338A (ja) * 2006-08-02 2008-02-21 Oki Electric Ind Co Ltd 車々間通信における誤り訂正方法、及び、車々間通信システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001127990A (ja) * 1999-11-01 2001-05-11 Mega Chips Corp 情報通信システム
JP2002262288A (ja) * 2001-02-26 2002-09-13 Sanyo Electric Co Ltd 画像データ送信装置および画像データ受信装置
JP2004364088A (ja) * 2003-06-06 2004-12-24 Matsushita Electric Ind Co Ltd 画像通信装置
WO2007066577A1 (ja) * 2005-12-08 2007-06-14 Sharp Kabushiki Kaisha 無線通信システム及び無線通信方法
JP2007165980A (ja) * 2005-12-09 2007-06-28 Toshiba Corp 無線通信装置及び無線通信装置の中継要否判断方法
JP2008042338A (ja) * 2006-08-02 2008-02-21 Oki Electric Ind Co Ltd 車々間通信における誤り訂正方法、及び、車々間通信システム

Also Published As

Publication number Publication date
JP5616069B2 (ja) 2014-10-29

Similar Documents

Publication Publication Date Title
US10616480B2 (en) Method, system, device for video data transmission and photographing apparatus
US10077109B2 (en) First-person viewer for unmanned vehicles
EP3133819A1 (en) Image delivery method, image reception method, server, terminal apparatus, and image delivery system
US9019396B2 (en) Wireless communication device, memory device, wireless communication system, wireless communication method, and program recordable medium
JP6460105B2 (ja) 撮影方法、撮影システムおよび端末装置
US10277832B2 (en) Image processing method and image processing system
US20110140883A1 (en) Communication apparatus and positional information communicating method
US8478308B2 (en) Positioning system for adding location information to the metadata of an image and positioning method thereof
WO2015159487A1 (ja) 映像配信方法、映像受信方法、サーバ、端末装置及び映像配信システム
US10917604B2 (en) Captured image display device, captured image display method, and captured image display program
WO2019091191A1 (en) Data processing method and apparatus
WO2019054070A1 (ja) 画像処理装置
JP5616069B2 (ja) 航空機からの画像伝送システム
US20110007226A1 (en) Active suppression by tv of white space device interference
US20120026299A1 (en) Video image processing apparatus and video image processing method
KR20130128221A (ko) 선박 감시시스템 및 그의 방법
JP2010016493A (ja) 無線装置
CN103957382A (zh) 在高速相对运动的物体上实现无线视频传输的方法及系统
JP2010011414A (ja) 無線装置
US9423669B2 (en) Method and apparatus for camera autofocus based on Wi-Fi ranging technique
KR101341578B1 (ko) 무선 인터넷 접속 중계기
RU2016135427A (ru) Вспомогательная система парковки и способ парковки
JP2007208414A (ja) 捜索システム
US10412360B2 (en) Wireless transmission system, method and device for stereoscopic video
JP2007248422A (ja) 位置情報提供システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120927

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130611

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140909

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140911

R150 Certificate of patent or registration of utility model

Ref document number: 5616069

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250