JP2015501249A - 車両を運転する際にドライバーをサポートする、或いは、車両を自律的に運転する装置 - Google Patents

車両を運転する際にドライバーをサポートする、或いは、車両を自律的に運転する装置 Download PDF

Info

Publication number
JP2015501249A
JP2015501249A JP2014534940A JP2014534940A JP2015501249A JP 2015501249 A JP2015501249 A JP 2015501249A JP 2014534940 A JP2014534940 A JP 2014534940A JP 2014534940 A JP2014534940 A JP 2014534940A JP 2015501249 A JP2015501249 A JP 2015501249A
Authority
JP
Japan
Prior art keywords
vehicle
sensor
camera
data
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014534940A
Other languages
English (en)
Other versions
JP6383661B2 (ja
JP2015501249A5 (ja
Inventor
シュトラウス・マティーアス
リューケ・シュテファン
Original Assignee
コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト filed Critical コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト
Publication of JP2015501249A publication Critical patent/JP2015501249A/ja
Publication of JP2015501249A5 publication Critical patent/JP2015501249A5/ja
Application granted granted Critical
Publication of JP6383661B2 publication Critical patent/JP6383661B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/06Automatic manoeuvring for parking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • B60W30/0956Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0285Parking performed automatically
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

本発明は、車両を運転する際にドライバーをサポートする、或いは、車両を自律的に運転する装置に関する。該装置は、複数の間隔センサー(2,4,5)、カメラセンサー(1,3)、評価ユニット、並びに、制御ユニットを包含している。該間隔センサーは、車両の直接前後にあるオブジェクトを検出する。該カメラセンサーは、車両の周りの領域一周を捕捉する。該評価ユニットは、該間隔センサーとカメラセンサーのデータから、捕捉領域の三次元状況再現(ステータス)を割出す。該制御ユニットは、該三次元状況再現を考慮しつつ、ドライバーにアドバイスを提供する、或いは、車両制御に介入する。

Description

本発明は、車両を運転する際にドライバーをサポートする装置、並びに、車両を自律的に運転する装置に関する。
受動的安全に対する要求に基づき、今日の車両では、煩雑さが増している。これが、例えば、狭い屋内駐車場内での駐車マヌーバなど、運転マヌーバを困難にしたり、むしろ、危険にさらしている。
このような傾向に歯止めをかけるため、状況の概要をよりわかりやすくドライバーに伝えるために採用されるセンサー類が増え続けている。初期のころは、障害物があると音声信号によって間隔をドライバーに伝える単純な超音波センサーであった。
ナビゲーション・システムが採用されるようになり、車両内にはモニターが装備されるようになった。これは、例えば、ドライバーに、車両を上から見た映像を示し、オブジェクトと車両の間隔を見せるために用いることもできる。
該ディスプレーは、バック走行用カメラの画像を映し出すために用いることもできる。ここで採用されるものは、車両後方全体を捕捉できるフィッシュアイ・カメラである。
付加的に、カメラ画像上に、実際の車幅や走行軌道に関する情報をオーバーレイすることも可能である。また、超音波センサーによって認識された駐車可能な空きスペースを表示することも可能である。なかには、認識された空きスペースに車を止めるために、ドライバーが運転すべき軌道を示すシステムすらある。
車両周辺部全体用に複数のカメラを備えたシステムも少なくとも計画されている。画像データを転換することにより、ドライバーに、車両周辺全体のフォトリアル(写実的)描画を示すことが可能である。
特許文献1には、車両の主四方向を捉える四台のカメラと複数の間隔センサーを包含した、車両用の駐車アシスタントシステムが開示されている。
欠点としては、このシステムでは、カメラデータが、ディスプレーへの表示のためのみに用いられ、オブジェクト情報が、間隔センサーのデータのみから割出されているため、オブジェクトを常に確実に認識できないことが挙げられる。レーダーや超音波センサーを間隔センサーとして用いる場合、オブジェクトの高さを測定できない、或いは、非常に不正確にしか測定できないことも問題点である。
欧州特許公開第2181892号明細書
よって、本発明の課題は、従来の技術において既知の装置の上記欠点を解消することにある。
本課題は、車両を運転する際にドライバーをサポートする、或いは、車両を自律的に運転する装置によって解決される。該装置は、複数の間隔センサーとカメラセンサー、評価ユニット、並びに、制御ユニットを包含している。
該間隔センサーは、車両の直接前後、例えば、車両のバンパーのセンチメートルから数メートルの領域内にあるオブジェクトを検出する。尚、車両の多少横の斜め前や後ろにあるオブジェクトも、該間隔センサーによって検出される。該間隔センサーは、車両が直接走行可能な全ての方向をカバーする捕捉領域を有していることが好ましい。
該カメラセンサーは、車両の周りの領域一周を捕捉する、よって、その捕捉領域が隣接するカメラの領域と一部オーバーラップするような広角カメラとして構成されていることが好ましい。
該評価ユニットは、該間隔センサーとカメラセンサーのデータから、捕捉領域、即ち、少なくとも車両の前後を取り巻く領域の、好ましくは、車両を360°取り巻く領域の三次元状況再現を割出す。
該制御ユニットは、該三次元状況再現を考慮しつつ、ドライバーにアドバイスを提供する、或いは、車両制御に介入する。
よって、既存のセンサーシステムを、特に好ましくは、車両を運転するタスクの一部を担うために、或いは、完全に自立的に走行するために用いることが可能になる。
該発明は、オブジェクトを信頼性高く、確実に認識すると言う長所を持っている。車両の直接的周辺部の三次元状況再現は、カメラのデータと間隔センサーのデータを考慮しているため、非常に堅牢である。
よって、運転マヌーバは、非常に緻密に計画される、或いは、実行されることができる。
好ましい実施形態では、該評価ユニットは、少なくとも一台のカメラセンサーのデータから、光学的流れを用いて、三次元状況再現を作成する。即ち、2Dカメラ画像のシーケンス内のオブジェクトの動きから、カメラ自体の移動を考慮した上で、該オブジェクトの3D情報が再現されるのである。
再現により得られた車両周辺部に関する3D情報は、間隔センサーのデータと共に、定置格子(英語:STATIONARY GRID)に融合することができる。
好ましい実施形態では、該評価ユニットは、車両が動いている間、少なくとも一つの間隔センサーのデータから、捕捉されている領域内のオブジェクトが、静止している車両周辺部に対して動いたか、否かも認識する。動いているオブジェクトは、例えば、超音波センサーやレーダー・センサーによって容易に認識できる。
好ましくは、この情報は、カメラデータの3次元状況再現にも用いることができる。動いているオブジェクトは、自車両が動いている場合、状況再現を歪曲する。動いているオブジェクトに対応するカメラデータは、好ましくは、3次元状況再現の作成においては考慮されない。
しかし、動いているオブジェクトは、間隔センサーから直接認識される。
一方、定置のオブジェクトは、好ましくは、カメラデータから認識された上、少なくとも一つの間隔センサーのデータによって、再確認される。
好ましくは、車両が停止中は、動いているオブジェクトは、少なくとも一台のカメラセンサーのデータから検出される。
ある好ましい実施形態では、カメラは、車両の前後の領域を捕捉するカメラが、車両の長手方向に対してずらされた視線方向を有するように車両に、或いは、車両内に配置されている。
好ましくは、間隔センサーとしては、超音波センサーのみが、或いは、少なくとも超音波センサーが、設けられている。
代案的、或いは、補足的には、レーダー・センサー、及び/或いは、ライダー・センサーが、間隔センサーとして設けられている。
好ましくは、車両の左右の領域用としては、それぞれ少なくとも一つの間隔センサーが設けられている。
本発明のある好ましい実施形態によれば、制御ユニットが、車両に自律的な走行を指示する最高速度は、車両のために制御ユニットが割出した軌道の方向を向いているカメラセンサーと間隔センサーの作動範囲に依存する。
以下、本発明を、実施例と図面に基づいて詳しく説明する。
様々な捕捉領域(1−5)を有する様々な周辺センサー類のシステム構成の模式図
図は、様々な捕捉領域(1−5)を有する様々な周辺センサー類のシステム構成(コンフィグレーション)を模式的に示している。考え得るセンサー・コンフィグレーションは、非常に多種であり、これらは、主にセンサーの開口角や作動範囲、車両の形状に依存しているが、運転タスクの自動化のためには、車両がそこへ進入し得る領域の十分な監視が実施されなければならないことは、常に、注意されなければならない。
ここに示されているコンフィグレーションでは、個々の捕捉領域(1、実線の境界線)によって、中距離、例えば、約100メートルまでの車両の周囲360°の周辺部をカバーする複数のカメラが、車両に、或いは、車両内に配置されている。このようなカメラ配置は、パノラマ・ビュー・システム、別名、トップ・ヴュー・システムにおいて採用されている。トップ・ヴュー・システムでは、典型的に、鳥瞰的に車両とその周辺を表すことができる。
車両が動いている時は、各々のカメラの画像データから、光学的流れの方法に基づいて、車両の撮影された周辺3次元状況再現を実施できる。カメラ自体の動きは、定置オブジェクトに起因する画像内の光学的流れの全容を知ることで割出すことが可能である。車両内での、或いは、車両への取付状態の、車両の動きの、特に、車両センサー類(例えば、速度センサー、操舵角センサー、ハンドルセンサー、ヨーイング角/レート、ピッチング角/レート、ローリング角/レート・センサーなど)のデータを自らの動きを割出すために用いることにより、計算を容易にすることができる。光学的流れでは、連続する画像内の独特な特徴的点を追跡(トラッキング)する。カメラは、車両と共に動くため、該特徴的点が、車両周辺部の定置オブジェクトに相当する場合、三角測量を用いて、該特徴的点の三次元情報を得ることができる。
このような帰属は、間隔センサーが、該オブジェクトとその車両に対する相対的な動きを捉えれば簡単かつ信頼性高く実施できる。車両固有運動を考慮すれば、間隔センサーによって、あるオブジェクトが、静止している車両周辺部に対して動いているか、否か、或いは、定置オブジェクトであるか、否かを割出すことができる。動いているオブジェクトは、例えば、超音波センサーやレーダー・センサーによって容易に認識できる。この情報は、カメラデータの3次元状況再現を実施するために用いられる。動いているオブジェクトは、通常、自車両が動いている場合、状況再現を歪曲する。よって、動いているオブジェクトは、間隔センサーから直接認識される。
定置オブジェクトは、先ず、カメラによる3次元状況再現の情報によって、捕捉され、続いて、少なくとも一つの間隔センサーによって、「乗り越えることができない」と再確認される。
走行方向(即ち、車両の長手方向)に設けられているカメラのデータの3次元状況再現の難しさは、画像の中心では、所謂「centre of expansion」では、画像情報の変化が少ない、或いは、全く無く、よって、オブジェクトに関する情報が、全く得られないため、3次元状況再現をするのに必要な情報が無いことにある。尚、オブジェクトが、画像から下方へと出ていくような近距離領域においては、例外的に3D情報を得ることも可能である。
よって、確実な認識を実現するためには、カメラは、真っ直ぐに走行方向に向けられるのではなく、しかし他のセンサーと共同で車両周辺部を完全に捕捉できるように取付けられていなければならない。示されているセンサー・コンフィグレーションでは、捕捉領域(1)が前方に向けられている双方のカメラは、それぞれ車両の長手方向/走行方向に対して左右に約30度ずらして取付けられている。車両後方の領域は、長手方向に配置されているテールカメラによって監視されているが、更には、それぞれ捕捉領域が広いため双方を合わせると車両後方の領域を略完全に捉えることのできる斜め後方に向けて取り付けられたカメラも、二台設けられている。尚、これら斜め後方に向けられたカメラの視線方向は、車両の長手方向/後進方向に対して、それぞれ約60度左・右にずらされている。
ずらしたカメラ配置の代案としては、他のセンサー類を走行方向に設けることも可能である。例えば、ライダー・センサーやステレオ・カメラを、更なる信頼性の向上と、オブジェクト認識の作動範囲を延ばす目的で、採用することができる。
一台のカメラでも、車両が停止している間、動いている障害物を容易に認識できる。これも、光学的流れ、或いは、画像内容の変化を割出す方法(画像差異法)によって、実施可能である。このような状況では、ドライバーに、仮に発車すれば、衝突の可能性がある歩行者、自転車、或いは、他の車両に関しての情報を提供することができる。
遠距離領域用レーダー、典型的には、周波数79GHzのものは、車両の前方のかなりの距離(例えば、数百メートル)の捕捉領域(2、点線の境界線)を有している。このようなレーダー・センサーは、ACCシステム(車間調整クルーズコントロール)の構成部品として頻繁に用いられている。
ステレオ・カメラは、車両前方の中距離に至る領域(3、点棒線の境界線)を監視し、この領域内のオブジェクトの空間的情報を提供する。
二つの近距離領域用レーダー・センサーは、車両横の捕捉領域(4、短棒線の境界線)を監視し、典型的には、24GHzである。これらは、頻繁に死角監視(Blind Spot Detection)も担っている。
超音波センサーは、車両のバンパー近傍の捕捉領域(5、斜線領域)を監視している。このような、超音波センサーは、駐車サポートとして頻繁に採用されている。尚、この捕捉領域(5)は、車両が直接的に移動可能な全ての方向をカバーしていると言う長所を持っている。一方、この捕捉領域は、縦方向には、あまり伸びていないため、低い車両速度範囲においてのみ十分である。しかし、近距離領域用レーダー・センサー(4)、ステレオ・カメラ(3)、ライダー・センサー(図示されていない)、及び/或いは、遠距離領域用レーダー・センサー(2)のデータを考慮することにより、より遠く離れたオブジェクトも割出し、自律的な車両制御においてこれらを考慮することができるため、安全的制限を受けることなくより高い速度も実現可能である。
このように、センサー類から車両周辺部に関する信頼おける情報がそろえば、発展した車載機能を示すことができる。例えば、自律的に制動や操舵に介入することも可能になる。これにより、自動的な駐車スペース探索、及び、自動駐車も可能になる。即ち、操舵へのサポートだけでなく、縦方向制御への介入も可能になる。
このようなセンサー・コンフィグレーションによる車両周辺部の信頼性の高い、高度な空間的認識と評価方法は、更なる、サポートの可能性を生み出す。
例えば、車両は、自律的に駐車スペースを探しに行くことが可能になる。即ち、ドライバーは、駐車している自動車の横に平行に、車両を止める。その後、システムが、低速で、空きスペースを発見して停車するまで、駐車している自動車の横を通過していく。停車したら、ドライバーは、従来のオートマチック・トランスミッションでは、バックギヤに入れるだけで、その空きスペースに駐車させることができる。
更には、仮に名づけるとすれば「屋内駐車場モード」と呼べるであろうモードがあれば、屋内駐車場内では、車両に、自動的に駐車スペースを探させることも可能であろう。
フロア上のラインマークは、駐車カメラによって認識可能である。走行レーン認識の対応するアルゴリズムをこの目的にも用いることができる、或いは、この目的に合わせて変更できる。優先通行権や進入/出口ルールを示す標識、或いは、一方通行路などの標識も、前方遠方部に向けられた、図では、例えば、該ステレオ・カメラと言ったカメラによって認識できる。これは、交通標識認識に加えて付加的なアルゴリズムが実行できるタイプの、並びに、前方を走行中の車両、或いは、対向車両の車両ランプを認識することによって自動前照灯制御を実施するタイプの一般的な単眼のドライバー・アシスタント・カメラでも実施可能である。
オブジェクト認識は、原理的には、既に高い信頼性に達しているので、例えば、屋内駐車場の入り口で車を降りて車両だけを駐車スペースを探すために送り込むことも可能である。所謂、「Car−to−X」コミュニケーション(C2X、車両とインフラストラクチャー間のコミュニケーション)を介せば、最寄りの空いている駐車スペースを車両に直接伝えることも可能である。
ドライバーが戻ってきた時には、LTEなど携帯電話の通信方式やWLANが内蔵された特別な無線キーによって、屋内駐車場から出させるために、作動させることも可能であろう。また、屋内駐車場の料金も、例えば、携帯電話会社から請求されるモバイル・サービス精算として支払うことができる。
更には、屋内駐車場のC2Xユニットが、システムによる走行を容易にするために、屋内駐車場のマップ・データを、伝達することも可能であろう。このマップには、全ての、即ち、駐車している車両も含む、オブジェクトの位置情報を包含させることができる。そうすれば、オブジェクトを分類する必要は無くなる。
センサーの詳細精度と信頼性が十分であれば、車両を(ドライバーが乗っていない状態で)自律的に市内の駐車場を探させることも考え得る。
この際、車両は、好ましくは、駐車している車両に沿って走行し、空いている駐車スペースを探す。ある道路区画内において空いている駐車スペースが見つからなかった場合、システムは、ナビゲーション・データのサポートにより、他の道路区画内において駐車スペースを探すことも可能である。これを実現する前提としては、信号や優先通行権を表す標識の信頼性高い認識、並びに、駐車禁止標識の認識が必要となる。
このモードにおいて、該車両は、アクティブに交通に参加しない。即ち、この際車両はゆっくりと道路脇を走行するため、他の車両によって、追い越されることが可能である。

Claims (10)

  1. 複数の間隔センサー、カメラセンサー、評価ユニット、並びに、制御ユニットを包含している装置であって、該間隔センサーが、車両の直接前後、例えば、車両のバンパーのセンチメートルから数メートルの領域内にあるオブジェクトを検出し、該カメラセンサーが、車両の周りの領域一周を捕捉し、該評価ユニットが、該間隔センサーとカメラセンサーのデータから、捕捉領域の三次元状況再現を割出し、そして、該制御ユニットが、該三次元状況再現を考慮しつつ、ドライバーにアドバイスを提供する、或いは、車両制御に介入することを特徴とする車両を運転する際にドライバーをサポートする、或いは、車両を自律的に運転する装置。
  2. 該評価ユニットが、少なくとも一台のカメラセンサーのデータから、光学的流れを用いて、三次元状況再現を作成することを特徴とする請求項1に記載の装置。
  3. 該評価ユニットが、車両が動いている間は、少なくとも一つの間隔センサーのデータから、捕捉されている領域内のオブジェクトが、静止している車両周辺部に対して動いたか、否かを認識することを特徴とする請求項2に記載の装置。
  4. 動いているオブジェクトに対応するカメラデータは、3次元状況再現の作成においては無視されることを特徴とする請求項3に記載の装置。
  5. 車両が停止中は、動いているオブジェクトは、少なくとも一台のカメラセンサーのデータから検出されることを特徴とする請求項1或いは2の何れか一項に記載の装置。
  6. 該カメラが、車両の前後の領域を捕捉するカメラが、車両の長手方向に対してずらされた視線方向を有するように配置されていることを特徴とする先行請求項のうち何れか一項に記載の装置。
  7. 該超音波センサーが、間隔センサーとして設けられていることを特徴とする先行請求項のうち何れか一項に記載の装置。
  8. 該レーダー・センサー、及び/或いは、ライダー・センサーが、間隔センサーとして設けられていることを特徴とする先行請求項のうち何れか一項に記載の装置。
  9. 車両の横の領域にそれぞれ少なくとも一つの間隔センサーが設けられていることを特徴とする先行請求項のうち何れか一項に記載の装置。
  10. 該制御ユニットが、車両に自律的な走行を指示する最高速度が、車両のために制御ユニットが割出した軌道の方向を向いているカメラセンサーと間隔センサーの作動範囲に依存していることを特徴とする先行請求項のうち何れか一項に記載の装置。
JP2014534940A 2011-10-14 2012-10-01 自動車の運転時にドライバーをサポートする又は自動車を自律的に運転するための装置 Active JP6383661B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102011116169.8 2011-10-14
DE102011116169A DE102011116169A1 (de) 2011-10-14 2011-10-14 Vorrichtung zur Unterstützung eines Fahrers beim Fahren eines Fahrzeugs oder zum autonomen Fahren eines Fahrzeugs
PCT/DE2012/100306 WO2013071921A1 (de) 2011-10-14 2012-10-01 Vorrichtung zur unterstützung eines fahrers beim fahren eines fahrzeugs oder zum autonomen fahren eines fahrzeugs

Publications (3)

Publication Number Publication Date
JP2015501249A true JP2015501249A (ja) 2015-01-15
JP2015501249A5 JP2015501249A5 (ja) 2018-01-18
JP6383661B2 JP6383661B2 (ja) 2018-08-29

Family

ID=47146130

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014534940A Active JP6383661B2 (ja) 2011-10-14 2012-10-01 自動車の運転時にドライバーをサポートする又は自動車を自律的に運転するための装置

Country Status (6)

Country Link
US (1) US20140240502A1 (ja)
EP (1) EP2766237B1 (ja)
JP (1) JP6383661B2 (ja)
KR (1) KR102052313B1 (ja)
DE (2) DE102011116169A1 (ja)
WO (1) WO2013071921A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018039294A (ja) * 2016-09-05 2018-03-15 日産自動車株式会社 駐車支援方法及び駐車支援装置
CN110962843A (zh) * 2018-09-30 2020-04-07 上海汽车集团股份有限公司 一种自动泊车控制决策方法及系统

Families Citing this family (80)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014204361A (ja) * 2013-04-08 2014-10-27 株式会社ビートソニック 車載モニタリングシステムにおける車載カメラ用アダプター
DE102013206435A1 (de) * 2013-04-11 2014-10-16 Bayerische Motoren Werke Aktiengesellschaft Visualisierungssystem und Vorrichtung zur Generierung und Anzeige eines virtuellen Abbilds einer Fahrzeugumgebung
KR101498973B1 (ko) * 2013-11-21 2015-03-05 현대모비스(주) 차량용 주차 지원 시스템 및 방법
DE102014000530B4 (de) 2014-01-15 2020-07-09 Aissa Zouhri Vorrichtung und Verfahren zur Hinderniserkennung
DE102014203752A1 (de) 2014-02-28 2015-09-17 Continental Teves Ag & Co. Ohg Verfahren zur Regelung der Querdynamik eines Kraftfahrzeugs
US10328932B2 (en) * 2014-06-02 2019-06-25 Magna Electronics Inc. Parking assist system with annotated map generation
CN104149692B (zh) * 2014-07-11 2016-04-20 广州广汽长和汽车科技有限公司 一种带雷达辅助的汽车全景监视系统
KR101696870B1 (ko) * 2015-07-10 2017-01-23 (주)레코디아 어라운드 뷰의 표시 방법 및 레이더 탐지 영상 제공을 위한 어라운드 뷰 디스플레이 장치
CN105015421B (zh) * 2015-08-19 2016-05-04 福建省汽车工业集团云度新能源汽车股份有限公司 一种行车安全监控仪及控制方法
CN105072413B (zh) * 2015-08-19 2016-05-04 福建省汽车工业集团云度新能源汽车股份有限公司 一种基于dvr的智能行车监控系统及其控制方法
KR102147361B1 (ko) 2015-09-18 2020-08-24 삼성전자주식회사 객체 인식 장치 및 방법, 객체 인식 모델 학습 장치 및 방법
US10745050B2 (en) 2015-11-24 2020-08-18 Wellen Sham Automated vehicle parking
US9827983B2 (en) 2015-11-24 2017-11-28 Wellen Sham Automated vehicle parking
CN105857177A (zh) * 2015-12-14 2016-08-17 乐视云计算有限公司 全息行车记录装置及方法
US9637117B1 (en) * 2016-01-12 2017-05-02 Ford Global Technologies, Llc System and method for automatic activation of autonomous parking
US20210354691A1 (en) 2016-04-27 2021-11-18 State Farm Mutual Automobile Insurance Company Systems and methods for reconstruction of a vehicular crash
US10351133B1 (en) 2016-04-27 2019-07-16 State Farm Mutual Automobile Insurance Company Systems and methods for reconstruction of a vehicular crash
DE102016116859A1 (de) 2016-09-08 2018-03-08 Knorr-Bremse Systeme für Nutzfahrzeuge GmbH Sensoranordnung für ein autonom betriebenes Nutzfahrzeug und ein Verfahren zur Rundumbilderfassung
JP2018050119A (ja) * 2016-09-20 2018-03-29 国立大学法人 東京大学 作業車両の表示システム
DE102016220075A1 (de) 2016-10-14 2018-04-19 Audi Ag Kraftfahrzeug und Verfahren zur 360°-Umfelderfassung
DE102016119729A1 (de) * 2016-10-17 2018-04-19 Connaught Electronics Ltd. Steuern eines Personenbeförderungsfahrzeugs mit Rundumsichtkamerasystem
CN106600748A (zh) * 2016-10-24 2017-04-26 深圳市元征科技股份有限公司 非法行驶记录方法及装置
DE102016123391A1 (de) 2016-12-02 2018-06-07 Continental Engineering Services Gmbh Verfahren zur Unterstützung eines Einparkvorganges sowie Parkassistenzvorrichtung
DE102016124062A1 (de) * 2016-12-12 2018-06-14 Valeo Schalter Und Sensoren Gmbh Verfahren zum autonomen Manövrieren eines Kraftfahrzeugs auf einer Parkfläche unter Verwendung von Markierungselementen, Fahrerassistenzsystem, Kraftfahrzeug, Infrastruktureinrichtung sowie Kommunikationssystem
WO2018132608A2 (en) * 2017-01-12 2018-07-19 Mobileye Vision Technologies Ltd. Navigation based on occlusion zones
US10369988B2 (en) 2017-01-13 2019-08-06 Ford Global Technologies, Llc Autonomous parking of vehicles inperpendicular parking spots
KR102327344B1 (ko) * 2017-05-23 2021-11-17 주식회사 만도모빌리티솔루션즈 스마트 주차 보조 시스템 및 그 제어 방법
DE102017209427B3 (de) 2017-06-02 2018-06-28 Volkswagen Aktiengesellschaft Vorrichtung zur Fahrschlauchabsicherung
US10683034B2 (en) 2017-06-06 2020-06-16 Ford Global Technologies, Llc Vehicle remote parking systems and methods
US10585430B2 (en) 2017-06-16 2020-03-10 Ford Global Technologies, Llc Remote park-assist authentication for vehicles
US10775781B2 (en) 2017-06-16 2020-09-15 Ford Global Technologies, Llc Interface verification for vehicle remote park-assist
US10234868B2 (en) 2017-06-16 2019-03-19 Ford Global Technologies, Llc Mobile device initiation of vehicle remote-parking
US10386856B2 (en) 2017-06-29 2019-08-20 Uber Technologies, Inc. Autonomous vehicle collision mitigation systems and methods
US10065638B1 (en) 2017-08-03 2018-09-04 Uber Technologies, Inc. Multi-model switching on a collision mitigation system
DE102017215345B3 (de) 2017-09-01 2018-12-27 Conti Temic Microelectronic Gmbh System zum Erfassen einer seitlichen bzw. hinteren Fahrzeugumgebung eines Fahrzeuges, Fahrzeug mit einem solchen System und Verfahren zum Betrieb eines solchen Systems
US10281921B2 (en) 2017-10-02 2019-05-07 Ford Global Technologies, Llc Autonomous parking of vehicles in perpendicular parking spots
US10580304B2 (en) 2017-10-02 2020-03-03 Ford Global Technologies, Llc Accelerometer-based external sound monitoring for voice controlled autonomous parking
US10627811B2 (en) 2017-11-07 2020-04-21 Ford Global Technologies, Llc Audio alerts for remote park-assist tethering
US10336320B2 (en) 2017-11-22 2019-07-02 Ford Global Technologies, Llc Monitoring of communication for vehicle remote park-assist
US10578676B2 (en) 2017-11-28 2020-03-03 Ford Global Technologies, Llc Vehicle monitoring of mobile device state-of-charge
US10814864B2 (en) 2018-01-02 2020-10-27 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10737690B2 (en) 2018-01-02 2020-08-11 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US11148661B2 (en) 2018-01-02 2021-10-19 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10585431B2 (en) 2018-01-02 2020-03-10 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10583830B2 (en) 2018-01-02 2020-03-10 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10688918B2 (en) 2018-01-02 2020-06-23 Ford Global Technologies, Llc Mobile device tethering for a remote parking assist system of a vehicle
US10974717B2 (en) 2018-01-02 2021-04-13 Ford Global Technologies, I.LC Mobile device tethering for a remote parking assist system of a vehicle
US10684773B2 (en) 2018-01-03 2020-06-16 Ford Global Technologies, Llc Mobile device interface for trailer backup-assist
US10657391B2 (en) * 2018-01-05 2020-05-19 Uatc, Llc Systems and methods for image-based free space detection
US10747218B2 (en) 2018-01-12 2020-08-18 Ford Global Technologies, Llc Mobile device tethering for remote parking assist
US10917748B2 (en) 2018-01-25 2021-02-09 Ford Global Technologies, Llc Mobile device tethering for vehicle systems based on variable time-of-flight and dead reckoning
US10684627B2 (en) 2018-02-06 2020-06-16 Ford Global Technologies, Llc Accelerometer-based external sound monitoring for position aware autonomous parking
US11188070B2 (en) 2018-02-19 2021-11-30 Ford Global Technologies, Llc Mitigating key fob unavailability for remote parking assist systems
US10507868B2 (en) 2018-02-22 2019-12-17 Ford Global Technologies, Llc Tire pressure monitoring for vehicle park-assist
US10732622B2 (en) 2018-04-05 2020-08-04 Ford Global Technologies, Llc Advanced user interaction features for remote park assist
US10793144B2 (en) 2018-04-09 2020-10-06 Ford Global Technologies, Llc Vehicle remote park-assist communication counters
US10759417B2 (en) 2018-04-09 2020-09-01 Ford Global Technologies, Llc Input signal management for vehicle park-assist
US10683004B2 (en) 2018-04-09 2020-06-16 Ford Global Technologies, Llc Input signal management for vehicle park-assist
US10493981B2 (en) 2018-04-09 2019-12-03 Ford Global Technologies, Llc Input signal management for vehicle park-assist
CN108860140A (zh) * 2018-05-02 2018-11-23 奇瑞汽车股份有限公司 一种自动泊车融合系统
DE102018005009A1 (de) * 2018-06-20 2019-12-24 Willi Schönfeldt Sicherheits-Abstand-Warner
FR3085335A1 (fr) * 2018-08-29 2020-03-06 Psa Automobiles Sa Procede d’assistance de l’utilisation d’un vehicule automobile a hayon arriere lors d’un stationnement
US10384605B1 (en) 2018-09-04 2019-08-20 Ford Global Technologies, Llc Methods and apparatus to facilitate pedestrian detection during remote-controlled maneuvers
US10821972B2 (en) 2018-09-13 2020-11-03 Ford Global Technologies, Llc Vehicle remote parking assist systems and methods
US10717432B2 (en) 2018-09-13 2020-07-21 Ford Global Technologies, Llc Park-assist based on vehicle door open positions
EP3627183B1 (en) * 2018-09-18 2022-05-11 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH Control system for autonomous driving of a vehicle
US10529233B1 (en) 2018-09-24 2020-01-07 Ford Global Technologies Llc Vehicle and method for detecting a parking space via a drone
US10967851B2 (en) 2018-09-24 2021-04-06 Ford Global Technologies, Llc Vehicle system and method for setting variable virtual boundary
US10908603B2 (en) 2018-10-08 2021-02-02 Ford Global Technologies, Llc Methods and apparatus to facilitate remote-controlled maneuvers
US10628687B1 (en) 2018-10-12 2020-04-21 Ford Global Technologies, Llc Parking spot identification for vehicle park-assist
US11097723B2 (en) 2018-10-17 2021-08-24 Ford Global Technologies, Llc User interfaces for vehicle remote park assist
US11137754B2 (en) 2018-10-24 2021-10-05 Ford Global Technologies, Llc Intermittent delay mitigation for remote vehicle operation
US11789442B2 (en) 2019-02-07 2023-10-17 Ford Global Technologies, Llc Anomalous input detection
US11195344B2 (en) 2019-03-15 2021-12-07 Ford Global Technologies, Llc High phone BLE or CPU burden detection and notification
US11169517B2 (en) 2019-04-01 2021-11-09 Ford Global Technologies, Llc Initiation of vehicle remote park-assist with key fob
US11275368B2 (en) 2019-04-01 2022-03-15 Ford Global Technologies, Llc Key fobs for vehicle remote park-assist
DE102019205481A1 (de) * 2019-04-16 2020-10-22 Zf Friedrichshafen Ag Umfelderfassung mittels eines Sensors mit variierbarem Erfassungsbereich
US20210278840A1 (en) * 2019-06-04 2021-09-09 Lg Electronics Inc. Autonomous vehicle and control method thereof
DE102020208308A1 (de) * 2020-07-02 2022-01-05 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Absicherung einer Anfahrt eines teil- oder vollautomatisierten Fahrzeugs
DE102021204926A1 (de) 2021-05-17 2022-11-17 Volkswagen Aktiengesellschaft Verfahren zum Übermitteln einer Staumeldung und Fahrzeug

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007104373A (ja) * 2005-10-05 2007-04-19 Alpine Electronics Inc 車両用画像表示装置
JP2007181129A (ja) * 2005-12-28 2007-07-12 Hitachi Ltd 車載用移動体検出装置
JP2008284969A (ja) * 2007-05-16 2008-11-27 Aisin Seiki Co Ltd 駐車支援装置
JP2010208583A (ja) * 2009-03-12 2010-09-24 Toyota Motor Corp 走行支援装置
JP2010251939A (ja) * 2009-04-14 2010-11-04 Hyundai Motor Co Ltd 車両周囲画像表示システム
JP2011048520A (ja) * 2009-08-26 2011-03-10 Alpine Electronics Inc 車両周辺監視装置および車両周辺監視方法
JP2011070411A (ja) * 2009-09-25 2011-04-07 Clarion Co Ltd センサコントローラ、ナビゲーション装置、センサ制御方法

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7202776B2 (en) * 1997-10-22 2007-04-10 Intelligent Technologies International, Inc. Method and system for detecting objects external to a vehicle
DE19845568A1 (de) * 1998-04-23 1999-10-28 Volkswagen Ag Vorrichtung zur Objekterfassung für Kraftfahrzeuge
DE19922963A1 (de) * 1999-05-19 2000-11-23 Daimler Chrysler Ag Meß- und Steuerungssystem für Fahrzeuge
KR20040009278A (ko) * 2002-07-23 2004-01-31 현대모비스 주식회사 본넷 장착형 전방 모니터 장치 및 그 제어방법
DE10244148A1 (de) * 2002-09-23 2004-04-08 Daimlerchrysler Ag Verfahren und Vorrichtung zur videobasierten Beobachtung und Vermessung der seitlichen Umgebung eines Fahrzeugs
DE10359965A1 (de) * 2002-12-19 2004-07-08 Daimlerchrysler Ag Verfahren zur Betätigung eines Lenk- und Bremssystems in einem Kraftfahrzeug sowie Lenk- und Bremssystem
JP4487534B2 (ja) * 2003-10-23 2010-06-23 日産自動車株式会社 車両用運転操作補助装置および車両用運転操作補助装置を備えた車両
US7298247B2 (en) * 2004-04-02 2007-11-20 Denso Corporation Vehicle periphery monitoring system
DE102006023543A1 (de) * 2006-05-19 2007-11-29 GM Global Technology Operations, Inc., Detroit Verfahren zur Bestimmung der Position eines Fahrzeugs
US7633383B2 (en) * 2006-08-16 2009-12-15 International Business Machines Corporation Systems and arrangements for providing situational awareness to an operator of a vehicle
DE102007048809A1 (de) * 2006-10-13 2008-07-10 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung zur Erkennung von verdeckten Objekten im Straßenverkehr
US7792328B2 (en) * 2007-01-12 2010-09-07 International Business Machines Corporation Warning a vehicle operator of unsafe operation behavior based on a 3D captured image stream
DE102007041121B4 (de) * 2007-08-30 2022-05-19 Volkswagen Ag Verfahren und Vorrichtung zum Verarbeiten von Sensordaten für ein Fahrerassistenzsystem eines Fahrzeugs
GB0717969D0 (en) * 2007-09-14 2007-10-24 Renishaw Plc Module changing for modular probe
DE102008061749A1 (de) * 2007-12-17 2009-06-25 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung zum optischen Erfassen einer Fahrzeugumgebung
US7693357B2 (en) * 2008-07-14 2010-04-06 Ciena Corporation Methods and systems for eliminating deleterious polarization effects in an optical fiber dispersion compensation module
ATE537032T1 (de) 2008-10-28 2011-12-15 Volkswagen Ag Parkassistenzsystem und verfahren zum betreiben eines parkassistenzsystems für ein kraftfahrzeug
WO2010060720A2 (de) * 2008-11-03 2010-06-03 Andreas Stopp Verfahren zum automatischen laden von vollständig oder teilweise elektrisch betriebenen fahrzeugen und anordnung zur herstellung eines ladekontaktes
US8044781B2 (en) * 2008-11-10 2011-10-25 Volkswagen Ag System and method for displaying a 3D vehicle surrounding with adjustable point of view including a distance sensor
US8384531B2 (en) * 2009-04-02 2013-02-26 GM Global Technology Operations LLC Recommended following distance on full-windshield head-up display
JP2010258691A (ja) * 2009-04-23 2010-11-11 Sanyo Electric Co Ltd 操縦支援装置
US8164543B2 (en) * 2009-05-18 2012-04-24 GM Global Technology Operations LLC Night vision on full windshield head-up display
DE102009041587A1 (de) * 2009-09-15 2011-03-17 Valeo Schalter Und Sensoren Gmbh Fahrerassistenzeinrichtung für ein Kraftfahrzeug und Verfahren zum Unterstützen eines Fahrers beim Überwachen eines autonomen Parkvorgangs eines Kraftfahrzeugs
US9052207B2 (en) * 2009-10-22 2015-06-09 Tomtom Polska Sp. Z O.O. System and method for vehicle navigation using lateral offsets
DE102009046731A1 (de) * 2009-11-16 2011-05-19 Robert Bosch Gmbh Verfahren zur Unterstützung eines Fahrers eines Fahrzeugs
US20110169957A1 (en) * 2010-01-14 2011-07-14 Ford Global Technologies, Llc Vehicle Image Processing Method
DE102010006828B4 (de) * 2010-02-03 2021-07-08 Volkswagen Ag Verfahren zur automatischen Erstellung eines Modells der Umgebung eines Fahrzeugs sowie Fahrerassistenzsystem und Fahrzeug
KR101248868B1 (ko) * 2010-02-18 2013-04-02 자동차부품연구원 주행이력정보 기반의 차량 자율주행 시스템
JP5189157B2 (ja) * 2010-11-30 2013-04-24 株式会社豊田中央研究所 可動物の目標状態決定装置及びプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007104373A (ja) * 2005-10-05 2007-04-19 Alpine Electronics Inc 車両用画像表示装置
JP2007181129A (ja) * 2005-12-28 2007-07-12 Hitachi Ltd 車載用移動体検出装置
JP2008284969A (ja) * 2007-05-16 2008-11-27 Aisin Seiki Co Ltd 駐車支援装置
JP2010208583A (ja) * 2009-03-12 2010-09-24 Toyota Motor Corp 走行支援装置
JP2010251939A (ja) * 2009-04-14 2010-11-04 Hyundai Motor Co Ltd 車両周囲画像表示システム
JP2011048520A (ja) * 2009-08-26 2011-03-10 Alpine Electronics Inc 車両周辺監視装置および車両周辺監視方法
JP2011070411A (ja) * 2009-09-25 2011-04-07 Clarion Co Ltd センサコントローラ、ナビゲーション装置、センサ制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018039294A (ja) * 2016-09-05 2018-03-15 日産自動車株式会社 駐車支援方法及び駐車支援装置
CN110962843A (zh) * 2018-09-30 2020-04-07 上海汽车集团股份有限公司 一种自动泊车控制决策方法及系统

Also Published As

Publication number Publication date
US20140240502A1 (en) 2014-08-28
EP2766237B1 (de) 2018-03-21
JP6383661B2 (ja) 2018-08-29
KR20140075787A (ko) 2014-06-19
KR102052313B1 (ko) 2019-12-05
WO2013071921A1 (de) 2013-05-23
EP2766237A1 (de) 2014-08-20
DE102011116169A1 (de) 2013-04-18
DE112012004315A5 (de) 2014-07-03

Similar Documents

Publication Publication Date Title
JP6383661B2 (ja) 自動車の運転時にドライバーをサポートする又は自動車を自律的に運転するための装置
JP2015501249A5 (ja)
US11673546B2 (en) Vehicular control system with image processing and wireless communication
JP6156333B2 (ja) 自動運転車両システム
CN113423627B (zh) 在遮挡的情况下根据道路使用者反应建模来操作自动车辆
CN108885826B (zh) 车辆控制系统、车辆控制方法及存储介质
CN109074730B (zh) 车辆控制系统、车辆控制方法及存储介质
JP4933962B2 (ja) 分岐路進入判定装置
CN108885828B (zh) 车辆控制系统、车辆控制方法及存储介质
US9507345B2 (en) Vehicle control system and method
JP6269552B2 (ja) 車両走行制御装置
JP6257989B2 (ja) 運転支援装置
KR20190080885A (ko) 차로 병합 및 차로 분리의 항법을 위한 시스템 및 방법
US11472433B2 (en) Advanced driver assistance system, vehicle having the same and method for controlling the vehicle
US20170349183A1 (en) Vehicle control system, vehicle control method and vehicle control program
JPWO2019181284A1 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
JP5202741B2 (ja) 分岐路進入判定装置
CN112406903A (zh) 自动驾驶系统
JP2021064118A (ja) 遠隔自動運転車両、及び車両遠隔指示システム
JP2017207964A (ja) 車両制御システム、車両制御方法、および車両制御プログラム
US11610488B2 (en) Notification device and vehicle control device
JP7440237B2 (ja) 表示装置
JP7291015B2 (ja) 周囲物体認識方法及び周囲物体認識装置
US20220262131A1 (en) Information recording device, information recording method, and storage medium
JP2019048513A (ja) 車両制御装置、車両制御方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150901

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160427

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160719

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170303

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20171130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180806

R150 Certificate of patent or registration of utility model

Ref document number: 6383661

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250