JP2011504267A - 車線の推移を識別する方法及び装置 - Google Patents

車線の推移を識別する方法及び装置 Download PDF

Info

Publication number
JP2011504267A
JP2011504267A JP2010534356A JP2010534356A JP2011504267A JP 2011504267 A JP2011504267 A JP 2011504267A JP 2010534356 A JP2010534356 A JP 2010534356A JP 2010534356 A JP2010534356 A JP 2010534356A JP 2011504267 A JP2011504267 A JP 2011504267A
Authority
JP
Japan
Prior art keywords
lane
measurement
measurements
homogeneity
bounding box
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010534356A
Other languages
English (en)
Inventor
ミヒヤエル ヴアルテル,
ウラジミール ヘルマン,
Original Assignee
アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング filed Critical アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング
Publication of JP2011504267A publication Critical patent/JP2011504267A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

本発明は、次の段階即ち車線の構造を測定する(S10)、測定の均質性を評価する(S12〜S18)、及び評価された均質性に基いて車線推移を求める(S20)を含む、車線の推移を識別する方法に関する。

Description

本発明は、請求項1及び11に記載の車線の推移を識別する方法及び装置に関する。
自動車において、車両の車線維持の際運転者を援助する(いわゆる車線維持援助)運転者援助システムがますます使用されるようになっている。このシステムの構成は、英国では車線離脱警告システム(LDWS)と称され、意図せずに車線を離れる際運転者に警告する。しかも多くのシステムはかじ取りに直接介入でき、英国では車線維持システム(LKS)と称される。ドイツ連邦共和国では、これらのシステムは車線維持援助装置と称される。LDWSもLKSも車線に対する車両位置を測定する。
これらのシステムは、カメラ例えばCMOSカメラにより検出された画像の評価に基いている。評価のため特別な画像処理アルゴリズムが使用されて、検出された画像において、車線及びその推移に特有な構造例えば車道標識又はガードレール等のような車道の縁を評価する。評価は追跡と称される。なぜならば、この評価は画像分析により、連続する画像中の特有な構造を追跡するからである。
このようなシステムの機能を保証できるようにするため、特有な構造の確実で信頼できる評価が重要である。特に正確な追跡のために重要な構造を重要でない構造から区別することが問題である。重要でない構造は、例えば車道標識の構造と同じ構造を持つことがある芝土又は雪で覆われた車道縁である。このような重要でない構造を、誤って重要な構造として分類すると、誤追跡従ってLDWSにおける誤警告又はLKSにおける誤ったかじ取り介入を生じることがある。
従って本発明の課題は、車線の推移を識別するための改善された方法及び改善された装置を提案することである。
この課題は請求項1に記載の特徴を持つ車線の推移を識別する方法、及び請求項11に記載の特徴を持つ装置によって解決される。本発明のそれ以外の構成は従属請求項からわかる。
本発明の重要な考えは、構造の均質性の評価により、正しい追跡のために重要な構造を重要でない構造から区別することである。この考えは、芝土又は雪の縁内の稜対が車道標識から大抵の場合その均質性で区別される、という知識に基いている。芝土又は雪の構造は、しばしば不規則で偶然に分布した構造を持っているが、これに反し車道標識は所定の幾何学的形状を持っている。本発明によれば、構造の均質性は、正しい追跡のために重要な構造を重要でない構造から区別して評価するのに適している。それにより重要でない構造による誤追跡を回避し、それにより車線推移の識別を改善することができる。
さて本発明は、1つの実施形態によれば、
次の段階即ち
車線の構造を測定する、
測定の均質性を評価する、及び
評価された均質性に基いて車線推移を求める
を含んでいる。
典型的にこの方法は、車線識別システムにより実行されるアルゴリズムの形で実施可能である。アルゴリズムは、運転者援助システムにおいて又は一般に車両用安全システムにおいても実施可能である。測定はカメラ又は他の画像を与えるセンサにより行うことができる。従って測定は車両の前の道路推移の連続する画像において検出される構造を示し、これらの構造は車線推移の自動的な確認のために重要であり、例えば車道標識、ガードレール又は車道界標である。
本発明の実施形態によれば、複数回の測定により包囲される面積の密度及び測定の回数を求めることによって、求められた構造の均質性が評価される。均質性の評価のために使用されるパラメータが、測定により利用可能であるか又は測定から誘導できるデータにより比較的よく求められることがわかった。
本発明の実施形態によれば、密度として、複数回の測定を包囲するバウンディングボックスの面積と測定の回数との比が求められる。この実施形態の利点は、比較的少ない計算費用で比が求められることである。一般にバウンディングボックスは箱状形成物特に適当な物体を書き換える四角形である。ここでバウンディングボックスは、複数回の測定特に例えば車道標識において典型的に生じるようにほぼ1つの線上で順次に続く複数回の測定の特定の集積を包囲する四角形である。バウンディングボックスは、検出された道路推移の画像を評価するための画像処理アルゴリズムによって自動的に形成することができる。
更に本発明の実施形態によれば、測定された構造が対角線状に延びている場合、測定のために使用される座標系が回転される。これにより対角線構造の場合、著しく小さいバウンディングボックスが求められ、それにより一層正確な評価を行うことができる。特にカーブの多い車線推移の場合、画像処理の座標系の回転が誤追跡の識別に有利な影響を及ぼすことができる。なぜならば、識別精度を改善できるからである。
本発明の実施形態によれば、座標系の回転が反復法又は主軸変換(主成分分析:PCA)により行われる。
主軸変換により求められた固有値から、複数の測定を包囲するバウンディングボックスの面積基準が形成され、こうして形成された面積基準が、密度を得るため、測定の回数により割り算される。主軸変換の結果として、測定値分布の固有ベクトル及び固有値が得られる。固有ベクトルは主軸の方向を記述し、固有値は主軸の方向のばらつきを記述する。ばらつきの根元は標準偏差に相当し、その場合結果は例えば面積計算の基準として使用することができる。測定の回数で割り算することにより、誤追跡の識別に適した密度基準を得ることができる。
本発明の別の実施形態によれば、測定と測定の予測との差からバウンディングボックスが求められる。特に定常状態にあるシステムでは、この方法を適用することができる。この実施形態は、計算技術的に速く実施できるという利点を持っている。
本発明の実施形態によれば、測定と測定の予測との差からのみバウンディングボックスが求められ、それによりまっすぐな車線においてのみ、誤追跡及び場合によってはカーブにおいて問題のある追跡を回避することができる。
本発明の実施形態によれば、破線で書かれた車線の場合、標識の始端及び終端が、測定による移行部の検出によって求められる。これにより車道標識が中断している場合、誤追跡も回避することができる。更に車道標識が中断している場合、測定がコンパクトに分布可能であっても、バウンディングボックスにより包囲される面積が非常に大きくなるのを回避することができる。
既に上述したように、本発明の実施形態によれば、車線の構造の測定がカメラ画像の画像分析によって行われる。
別の実施形態によれば、本発明は車線の推移を識別する装置に関し、車線の構造を測定する測定装置、及び測定の均質性を評価しかつ評価された均質性に基いて車線推移を求める評価装置を含んでいる。
更に本発明の実施形態によれば、本発明による方法を上述したように実施するために装置が構成されている。
更に本発明は、本発明による装置を上述したように持つ自動的車線変更警告システム又は車線維持システムに関する。
最後に本発明は、上述したように本発明による自動的車線変更警告システム又は車線維持システムを持つ車両に関する。
本発明のそれ以外の利点及び適用可能性は、図面に示されている実施例に関連して以下の説明から明らかになる。
特許請求の範囲、明細書、要約及び図面において、後述する符号のリストにおいて使用される概念及び付属する符号が使用される。
1つ又は複数のカメラ画像から抽出されるような、異なる均質性の規則的又は不規則な構造を持つグラフを示す。 車線の推移を識別するための本発明による方法の実施例の流れ図を示す。 簡単なバウンディングボックス、PCA変換された分布、及び測定と予測との差から成るバウンディングボックスの間の包囲された面積の比較を示す。 本発明による車線の推移を識別する装置の実施例のブロック線図を示す。
以下に同じかつ/又は機能的に同じ素子は同じ符号を付けられている。以下に示される絶対値及び寸法表示は、例としての値に過ぎず、このような次元に本発明を限定するものではない。
図1は異なる均質性の規則的及び不規則な構造を持つグラフを示す。構造は、測定により、特に自動車において後写鏡の範囲で特に前窓ガラスの範囲に取付けられて車両の前の車道又は車線の推移を連続的に検出するCMOSカメラにより検出されるカメラ画像により求められたものである。
検出されたカメラ画像は画像処理アルゴリズムにより評価されて、構造が抽出され、図1に示されるグラフの座標系のような座標系に示される。暗い構造は規則的な構造で車道標識を示し、明るい構造は雪の縁に由来しかつ不規則である。
暗い構造の集合又は集積の周りに、四角形の形のバウンディングボックスがあって、原理的に車道標識の推移を示している。さて本発明によれば、密度基準に基いて、構造のうちどれが重要であるか、即ち車線推移にとって特有な構造であるか、どの構造が重要でないか、即ち車線推移の正確な識別のために重要であるかを確かめることができる。
密度基準は、本発明によれば、測定又は暗い構造を包囲するバウンディングボックス(例えばすべての測定の絶対最小値及び最大値)の面積と測定の数との比から求められる。密度基準が小さいほど、これは、重要な構造が適当なバウンディングボックスにより検出されたことの徴候である。その場合適当な分類を、車線推移を検出するアルゴリズムで行うことができる。
図2は、車線の推移を識別するアルゴリズムの主要な段階を流れ図により示す。
段階S10でまず車線の構造の測定が行われる。これは、電子カメラによる画像の連続検出と、上述したように検出された画像から重要な構造の抽出とにより行うことができる。
続く段階S12において、測定された構造用座標系の主軸変換が行われる。
次の段階S14において、既に上述したように固有値が求められる。
固有値に基いて、同様に既に上述したように、測定された構造の各バウンディングボックス用面積基準が形成される(段階S16)。これについて注釈すべきことは、測定された構造の集積の周りにそれぞれバウンディングボックスを設けることである。即ち複数のバウンディングボックスを形成することができる。その場合各バウンディングボックスに対して面積基準が形成される。
次の段階S18において、密度を得るために、1つのバウンディングボックス内の測定された構造の数により面積基準が割り算され、この密度が、複数の測定された構造により形成される全構造を車線推移の追跡にとって重要なもの又は重要でないものとして分類するための基準として用いられる。
最後の段階S20において、こうして求められた密度が、車線推移を求めるために評価される。このため例えば特定の密度から、測定された構造の集積が車線推移にとって重要なものとして特徴づけられる。
既に上述したように、特にカメラ座標系内の標識が最も多く対角線状に延びている時、簡単なバウンディングボックスの使用が必ずしも適当でないことがある。対角線構造の場合、座標系の回転により、図3に関連して以下詳細に説明するように、著しく小さい四角形が求められる。回転は、反復過程例えば図2の段階S12における主軸変換により行われる。図3は、PCAにより変換された測定の分布の回転されない座標系における簡単なバウンディングボックスと、車線推移の測定と予測との差から形成されるバウンディングボックスとの、包囲される面積の比較を示して、包囲される面積がどの程度減少可能であるかを明らかにしている。
最後に図4は、車線の推移を識別する装置10のブロック線図を示す。装置10は車両の前の範囲の画像を検出するカメラ16に接続され、この車両に装置10とカメラ16が設置されている。
カメラ16により検出される画像は装置10において評価されて、車線の推移を識別し、特に画像に基く誤追跡を回避する。このため装置は、車線の構造を測定する測定装置12を持っている。
このため測定装置12は特に画像評価アルゴリズムを含み、このアルゴリズムが、カメラにより検出された画像から、車線推移にとって重要な構造を抽出する。このように抽出され即ち測定された構造の例が図1に示されている。
測定装置12により求められた構造は、測定の均質性を評価してこれから車線推移を求めるため特別に構成されている評価装置14へ送られる。このため評価装置14は、特に図2に示す方法過程の段階S12〜S20を実行するアルゴリズムを実行する。
装置10も装置12及び14も、メモリに記憶されて適当な能力を持つプロセッサにより実施されるコンピュータプログラムの形で実行可能である。
要約すれば、本発明により、車線推移にとって重要な構造を重要でない構造から確実に分離できることによって、車線の追跡を改善することができる。このため本発明によれば、1つの構造が車線推移の識別にとって重要であるか重要でないかを評価するための基準が導入される。
10 誤追跡を識別する装置
12 車線の構造を測定する測定装置
14 測定の均質性を評価しかつ評価された均質性に基いて車線推移を求める評価装置
16 カメラ
S10〜S20 方法段階

Claims (14)

  1. 次の段階即ち
    車線の構造を測定する(S10)、
    測定の均質性を評価する(S12〜S18)、及び
    評価された均質性に基いて車線推移を求める(S20)を含む、車線の推移を識別する方法。
  2. 複数回の測定により包囲される面積の密度及び測定の回数を求める(S18)ことによって、求められた構造の均質性が評価されることを特徴とする、請求項1に記載の方法。
  3. 密度として、複数回の測定を包囲するバウンディングボックスの面積と測定の回数との比が求められる(S16,S18)ことを特徴とする、請求項2に記載の方法。
  4. 測定された構造が対角線状に延びている場合、測定のために使用される座標系が回転される(S12)ことを特徴とする、請求項3に記載の方法。
  5. 座標系の回転が反復法又は主軸変換(S12)により行われることを特徴とする、請求項4に記載の方法。
  6. 主軸変換により求められた固有値から、複数の測定を包囲するバウンディングボックスの面積基準が形成され(S16)、こうして形成された面積基準が、密度を得るため、測定の回数により割り算されることを特徴とする、請求項5に記載の方法。
  7. 測定と測定の予測との差からバウンディングボックスが求められることを特徴とする、請求項3に記載の方法。
  8. 測定と測定の予測との差からのみバウンディングボックスが求められることを特徴とする、請求項3〜7の1つに記載の方法。
  9. 破線で書かれた車線の場合、標識の始端及び終端が、測定による移行部の検出によって求められることを特徴とする、先行する請求項の1つに記載の方法。
  10. 車線の構造の測定がカメラ画像の画像分析によって行われることを特徴とする、先行する請求項の1つに記載の方法。
  11. 車線の構造を測定する測定装置(12)、及び
    測定の均質性を評価しかつ評価された均質性に基いて車線推移を求める評価装置(14)を含む、車線の推移を識別する装置(10)。
  12. 請求項1〜10の1つに記載の方法を実施するために構成されていることを特徴とする、請求項11に記載の装置。
  13. 請求項11又は12に記載の装置を持つ自動的車線変更警告システム又は車線維持システム。
  14. 請求項13に記載の自動的車線警告システム又は車線維持システムを持つ車両。
JP2010534356A 2007-10-31 2008-10-18 車線の推移を識別する方法及び装置 Pending JP2011504267A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102007051966A DE102007051966A1 (de) 2007-10-31 2007-10-31 Verfahren und Vorrichtung zur Erkennung des Verlaufs einer Fahrspur
PCT/DE2008/001706 WO2009056096A2 (de) 2007-10-31 2008-10-18 Verfahren und vorrichtung zur erkennung des verlaufs einer fahrspur

Publications (1)

Publication Number Publication Date
JP2011504267A true JP2011504267A (ja) 2011-02-03

Family

ID=40514222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010534356A Pending JP2011504267A (ja) 2007-10-31 2008-10-18 車線の推移を識別する方法及び装置

Country Status (5)

Country Link
US (1) US8442273B2 (ja)
EP (1) EP2208168B1 (ja)
JP (1) JP2011504267A (ja)
DE (2) DE102007051966A1 (ja)
WO (1) WO2009056096A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016073274A (ja) * 2009-03-20 2016-05-12 メゾブラスト,インコーポレーテッド 再プログラム化多能性細胞の作製

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8532391B2 (en) * 2010-09-30 2013-09-10 Intuit Inc. Recognizing a feature of an image independently of the orientation or scale of the image
EP2608153A1 (en) * 2011-12-21 2013-06-26 Harman Becker Automotive Systems GmbH Method and system for playing an augmented reality game in a motor vehicle
CN104276082A (zh) * 2013-07-05 2015-01-14 鸿富锦精密工业(深圳)有限公司 车载辅助装置
DE102014110663A1 (de) * 2014-07-29 2016-02-04 Connaught Electronics Ltd. Verfahren zum Betreiben eines Kamerasystems eines Kraftfahrzeugs, Fahrerassistenzsystem und Kraftfahrzeug
US9884623B2 (en) * 2015-07-13 2018-02-06 GM Global Technology Operations LLC Method for image-based vehicle localization
US10853671B2 (en) * 2019-03-06 2020-12-01 Dura Operating, Llc Convolutional neural network system for object detection and lane detection in a motor vehicle

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003223700A (ja) * 2002-01-29 2003-08-08 Nissan Motor Co Ltd 先行車判定方法
JP2003346286A (ja) * 1994-12-28 2003-12-05 Omron Corp 交通情報システム
JP2005077217A (ja) * 2003-08-29 2005-03-24 Its Sogo Kenkyusho:Kk 路面状況検出システム
JP2005267384A (ja) * 2004-03-19 2005-09-29 Mitsubishi Fuso Truck & Bus Corp 車両走行状態判定装置
JP2007052730A (ja) * 2005-08-19 2007-03-01 Toyota Motor Corp 走行路認識装置
JP2007204043A (ja) * 2007-02-16 2007-08-16 Nissan Motor Co Ltd 車両用運転操作補助装置およびその装置を備える車両

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NZ299442A (en) * 1992-03-20 1998-04-27 Commw Scient Ind Res Org Object monitoring system for vehicles using a camera to monitor a moving vehicle and acquire images
US6819779B1 (en) * 2000-11-22 2004-11-16 Cognex Corporation Lane detection system and apparatus
JP3736346B2 (ja) * 2000-12-26 2006-01-18 日産自動車株式会社 車線検出装置
JP3780848B2 (ja) * 2000-12-27 2006-05-31 日産自動車株式会社 車両の走行路認識装置
JP3759429B2 (ja) * 2001-05-23 2006-03-22 株式会社東芝 障害物検出装置及びその方法
JP4327389B2 (ja) * 2001-10-17 2009-09-09 株式会社日立製作所 走行レーン認識装置
JP4093208B2 (ja) * 2004-05-28 2008-06-04 トヨタ自動車株式会社 車両用走路判定装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003346286A (ja) * 1994-12-28 2003-12-05 Omron Corp 交通情報システム
JP2003223700A (ja) * 2002-01-29 2003-08-08 Nissan Motor Co Ltd 先行車判定方法
JP2005077217A (ja) * 2003-08-29 2005-03-24 Its Sogo Kenkyusho:Kk 路面状況検出システム
JP2005267384A (ja) * 2004-03-19 2005-09-29 Mitsubishi Fuso Truck & Bus Corp 車両走行状態判定装置
JP2007052730A (ja) * 2005-08-19 2007-03-01 Toyota Motor Corp 走行路認識装置
JP2007204043A (ja) * 2007-02-16 2007-08-16 Nissan Motor Co Ltd 車両用運転操作補助装置およびその装置を備える車両

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016073274A (ja) * 2009-03-20 2016-05-12 メゾブラスト,インコーポレーテッド 再プログラム化多能性細胞の作製

Also Published As

Publication number Publication date
US20100296700A1 (en) 2010-11-25
WO2009056096A2 (de) 2009-05-07
EP2208168A2 (de) 2010-07-21
DE112008002900A5 (de) 2010-07-29
EP2208168B1 (de) 2017-05-24
WO2009056096A3 (de) 2009-09-17
DE102007051966A1 (de) 2009-05-07
US8442273B2 (en) 2013-05-14

Similar Documents

Publication Publication Date Title
JP2011504267A (ja) 車線の推移を識別する方法及び装置
US9047518B2 (en) Method for the detection and tracking of lane markings
US8687063B2 (en) Method for predicting lane line and lane departure warning system using the same
US20120212612A1 (en) Lane Departure Warning Apparatus and Lane Departure Warning System
US8842884B2 (en) Method and device for lane detection
WO2013141226A1 (ja) 走行区画線を認識する装置および方法
CN109871787B (zh) 一种障碍物检测方法及装置
EP2759959A2 (en) Method and system for detecting multi-lanes
CN110211185B (zh) 在一组候选点内识别校准图案的特征点的方法
WO2016143750A1 (ja) 車両諸元計測装置、車種判別装置、車両諸元計測方法及びプログラム
CN113240756B (zh) 车载bsd摄像头的位姿变动检测方法、设备和存储介质
KR20150112656A (ko) 카메라 캘리브레이션 방법 및 그 장치
JP2017220076A (ja) 車種判別装置および車種判別方法
CN112257692A (zh) 一种行人目标的检测方法、电子设备及存储介质
JP2010132056A (ja) 検知装置、検知方法および車両制御装置
CN110413942B (zh) 车道线方程筛选方法及其筛选模块
CN116386000A (zh) 基于高精地图和单目摄像头测量障碍物距离的方法、系统
CN105702027A (zh) 信息检索设备
JP2007066003A (ja) 停止線検出装置
JP2006201817A (ja) 車体色判別方法及び装置。
JP7196015B2 (ja) 車両監視装置、車両監視方法及びプログラム
JP2008299787A (ja) 車両検知装置
CN114509224B (zh) 一种桥梁挠度测试方法、系统、可读存储介质及设备
KR101977493B1 (ko) 차량간 거리 측정 장치 및 방법
JP3738719B2 (ja) 車両用障害物地図作成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121113

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130207

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130215

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130307

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130723

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131022

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20140410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140411

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20141008