JP6138130B2 - 自律的、乃至、部分自律的運転マヌーバを実施するための車載アシスタント・システム用の方法、並びに、装置 - Google Patents

自律的、乃至、部分自律的運転マヌーバを実施するための車載アシスタント・システム用の方法、並びに、装置 Download PDF

Info

Publication number
JP6138130B2
JP6138130B2 JP2014528853A JP2014528853A JP6138130B2 JP 6138130 B2 JP6138130 B2 JP 6138130B2 JP 2014528853 A JP2014528853 A JP 2014528853A JP 2014528853 A JP2014528853 A JP 2014528853A JP 6138130 B2 JP6138130 B2 JP 6138130B2
Authority
JP
Japan
Prior art keywords
vehicle
assistant system
autonomous driving
assistant
open
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014528853A
Other languages
English (en)
Other versions
JP2014527931A (ja
Inventor
エッケルト・アルフレート
バイエル・ローナルト
リューケ・シュテファン
ピラー・ベルント
ハラジー−ヴィマー・ゲオルク
Original Assignee
コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=46888857&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP6138130(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト filed Critical コンティネンタル・テーベス・アクチエンゲゼルシヤフト・ウント・コンパニー・オッフェネ・ハンデルスゲゼルシヤフト
Publication of JP2014527931A publication Critical patent/JP2014527931A/ja
Application granted granted Critical
Publication of JP6138130B2 publication Critical patent/JP6138130B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60TVEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
    • B60T7/00Brake-action initiating means
    • B60T7/12Brake-action initiating means for automatic initiation; for initiation not subject to will of driver or passenger
    • B60T7/22Brake-action initiating means for automatic initiation; for initiation not subject to will of driver or passenger initiated by contact of vehicle, e.g. bumper, with an external object, e.g. another vehicle, or by means of contactless obstacle detectors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/06Automatic manoeuvring for parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/18Propelling the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/0098Details of control systems ensuring comfort, safety or stability not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0285Parking performed automatically
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/586Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of parking space
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60TVEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
    • B60T2201/00Particular use of vehicle brake systems; Special systems using also the brakes; Special software modules within the brake system controller
    • B60T2201/10Automatic or semi-automatic parking aid systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Automation & Control Theory (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、車両の自律的、乃至、部分自律的運転マヌーバを実施する役割を担うアシスタント・システム、例えば、車載されている駐車アシスタント・システムなど用の方法、並びに、装置に関する。
ここ数年、車両に光学的センサー・システム、特に車両周辺を捕捉するためのカメラが採用されることが増えている。特別な電子的装置やソフトウェアを用いることにより、これらのシステムは、様々なドライビングをサポートする機能を担うことができるため、これらの装置は、アシスタント・システム、或いは、ドライバー・アシスタント・システムとしても知られている。これらのアシスタント・システムは、既に、例えば、駐車マヌーバ、及び/或いは、駐車スペースから出るマヌーバ(以下、発車マヌーバと略する)など、自律的、乃至、部分自律的運転マヌーバを実施できるようになっている。
駐車サポート用のシステムは、例えば、特許文献1より既知である。ここでは、このシステムは、車両用ガレージの駐車スペースへの駐車の際にドライバーをサポートする役割を担っている。即ち、カメラ・システムが、車両の周辺を捕捉する。そして、周辺の複数の写真を、車両用ガレージのガレージ入口を認識するために、画像認識方法によって評価する。ガレージ入口が認識されたら、その周辺画像を、キャラクター認識方法によって、ガレージ後壁上に配置されている少なくとも一つのマークに関して評価する。続いて、ガレージ入口と該マークに対する車両の位置を割出し、割出された車両の位置に応じて、駐車スペースへ車両を操縦するために必要な舵角を示すための制御シグナルが発生される。
該制御シグナルは、ドライバーに操舵アドバイスとして示される、或いは、半自動的に、或いは、全自動的に駐車スペースへ車両を動かすことを実施するために、少なくとも一つの制御システムに送られる。
自律的、乃至、部分自律的運転マヌーバを実施するためのアシスタント・システム用としては、現今、車両周辺全域、即ち、360°の視野で、言い換えれば、車両の周りをパノラマ・ビューで捕捉して、該車両周辺で検知されたオブジェクトをアウトプット・シグナルとして用いることで、ドライバー・アシスタント機能を実施できるセンサー・システムが既に実用されている。これに関して、特許文献2には、少なくとも二枚の重なり合う個別画像から全体像を作成する方法が開示されているが、ここでは、該個別画像は、車両に搭載されたカメラによって捕捉され、画像処理手段によって全容画像に合成される。
特許文献2に開示されているようなシステムは、トップヴュー・システム(TopView−System)、或いは、全方向性(オムニレンジ)カメラシステムと呼ばれるものである。典型的なトップヴュー・システムは、車両に、或いは、車内に配置された、これらによって車両周辺部の様々な領域の画像データが得られる(リアルな)撮影用カメラを包含している。該画像データは、電子的画像データ処理手段において、様々な変換処理に具され、車両周辺部全体の合成画像が作成される。これにより、例えば、車両の屋根から見た(鳥瞰図的な)視点の車両の周辺の画像、即ち、車両より上(車両上空)にある(バーチャルな)カメラからの画像を得ることができる。該全容画像は、操車マヌーバ、或いは、駐車マヌーバを容易にするために、表示手段上で車両のドライバーに連続的に示すことができる、或いは、該全容画像は、自律的、乃至、部分自律的運転マヌーバを実施するためのアシスタント・システムによって、例えば、オブジェクトを認識するため、或いは、それから、例えば、車両のハンドル、アクセル、ブレーキを操作するための制御命令を割出すために、処理、或いは、評価される。
自律的、乃至、部分自律的運転マヌーバを実施するための、例えば、駐車マヌーバ、乃至、発車マヌーバなどのアシスタント・システムにおいては特に、該システムのプロセス責任は、非常に大きい。特に、自律的、乃至、部分自律的運転マヌーバの実施中は、確実に、他の交通参加者(例えば、歩行者)に危険が及ばないように、或いは、自車両、乃至、他の車両に損傷がおこらないようにされなければならない。
ドイツ特許公報第102009057837号明細書 ドイツ特許公開第102006036933号明細書
よって本発明の課題は、自律的、及び、部分自律的運転マヌーバを実施するためのアシスタント・システム用の、アシスタント・システムのプロセス責任に関する高い要求を満足し、特に、人、物、環境への危害を、可能な限り排除できる方法、及び、装置を提供することである。
この課題は、請求項1の特徴を持つ方法、並びに、請求項9の特徴を持つ装置によって解決される。本発明の更なる実施形態、並びに、発展形態は、従属請求項から得られるが、各特徴を組み合わせること、更には各特徴の更なる発展形態も考え得る。
本発明の重要なアイデアは、アシスタント・システム、特に、自律的、乃至、部分自律的運転マヌーバを実施するために、複数の個別画像から合成された車両周辺部の全容画像を用いるトップヴュー・システムを採用しているアシスタント・システムにおいて、運転マヌーバ用の制御命令を割出すための処理にだけではなく、少なくとも一つの制限を割出し、少なくとも一つの制限が存在する場合には、該アシスタント・システムを、安全な状態に移行させることにも用いると言うことである。ここで言う「制限」とは、基本的には、全容画像の画像データから割り出される、自律的、乃至、部分自律的運転マヌーバの実施を難しくする、或いは、危うくする条件、或いは、シチュエーションであると解釈することができる。代案的には、車載センサーからの更なる情報も少なくとも一つの制限を割出すために用いることができる。本発明の主な長所は、特に、本発明に係る方法を実施する、或いは、トップヴュー・システムを備えた本発明に係る装置のある実施形態を使用する場合、車両周辺部の全容画像から、制限がベター且つより迅速に認識されることができることである。トップヴュー・システムの画像データを用いることにより、ダイナミック且つフレキシブルに環境条件や重大なシチュエーションに反応できるようになる。
本発明に係る方法は、車両の自律的、乃至、部分自律的運転マヌーバを実施するためのアシスタント・システムにおいて採用されることが好ましい。
ここで言う「自律的、乃至、部分自律的運転マヌーバ」とは、基本的に、それを実施する際に、複数の、或いは、全ての制御任務、及び、帰還制御任務を、即ち、それぞれの運転マヌーバをマニュアルに実施する場合は、ドライバーが実施しなければならないはずの任務も、アシスタント・システムが担当する車両の運転マヌーバのことであり、特に、車両内にドライバーが座っていない状態であっても、完全に自動的に行われる運転マヌーバも含まれる。尚、本発明に係る方法は、車両の自律的、乃至、部分自律的な駐車マヌーバ、乃至、発車マヌーバを実施するためのアシスタント・システムにおいて採用されることが特に好ましい。またここで言う「部分自律的運転マヌーバ」とは、アシスタント・システムが、例えば、車両ブレーキ、及び、操舵の制御、及び、帰還制御など、一つの、或いは、複数の帰還制御任務、及び、制御任務を請け負って行われる、駐車マヌーバ、乃至、発車マヌーバであると解釈することができる。更にここで言う「自律的運転マヌーバ」とは、現在位置(IST−Position)から目的位置(SOLL−Position、例えば、駐車位置)に車両を動かすのに必要な、好ましくは車両の加速(アクセル)の帰還制御/制御も含む、全ての制御任務、及び、帰還制御任務をアシスタント・システムが請け負って行われる運転マヌーバであると解釈することが好ましい。
本発明に係る方法が採用されるアシスタント・システムは、好ましくは、車両周辺部の画像データを作成し、これを運転マヌーバの実施のために処理するカメラ・システムを包含している。画像データの作成は、この際、車両周辺部の異なる領域へ向けられている複数のカメラによって実施されることが好ましい。続いて、該画像データには、運転マヌーバを実施するために、各・画像処理ユニットによって適宜、即ち、例えば、該画像データから他の車両などのオブジェクトや障害物を認識する、認識されたオブジェクトまでの距離を求める、駐車スペースの長さや奥行きを計算する、そして、これらの情報から、必要な操舵角などを含む必要な運転マヌーバを割出すなどの処理が施される。尚、オブジェクトや障害物を認識するため、並びに、駐車スペースの長さや奥行きを計算するためには、カメラ・システムに加え、他のセンサー類、例えば、超音波センサー、レーダー・センサー、ライダー・センサー、並びに、レーザー・センサーなども使用することができる。
本発明では、自律的、乃至、部分自律的運転マヌーバの実施中、該アシスタント・システムは、カメラ・システムによって得られ、画像処理ユニットによって処理された画像データに、少なくとも一つの制限の存在が認識された時に、安全な状態に移行されることが好ましい。ここで言う「制限」とは、アシスタント・システムによる各々の自律的、乃至、部分自律的運転マヌーバの安全かつ正しい実施が阻害される、特に、カメラ・システムに対する視覚的制限、及び/或いは、アシスタント・システム、乃至、運転マヌーバに対する制限などのあらゆる制限であると解釈できる。ここで言う「安全な実施」とは、特に、車両の損傷や、人と環境への、特に、人への危害を、可能な限り排除した運転マヌーバの実施を意味している。また、ここで言う「正しい実施」とは、計算された制御任務、及び、帰還制御任務を厳守した運転マヌーバの実施を意味している。ここで言う「カメラ・システムの視覚的制限」とは、特に、カメラ・システムが制限を受け、オブジェクト(車両、障害物、人など)の信頼性の高い認識が確実に実施できない状況にあることと解釈できる。尚、該少なくとも一つの制限は、カメラ・システムによって得られた画像データの画像処理によって認識される以外に、代案的、或いは、付加的に、車載センサー類の情報からも認識されることができる。
このアシスタント・システムにおける該カメラ・システムは、複数のカメラによって、車両周辺部の異なる領域の個別画像を捉え、画像処理ユニットによって、車両周辺部の全容画像を合成するために適切な変換を実施するシステムであることが好ましい。即ち、該カメラ・システムは、トップヴュー・システムであることが好ましい。
本発明の方法の好ましい実施形態では、自律的、乃至、部分自律的運転マヌーバの実施のために、即ち、運転マヌーバ用に制御値、及び、帰還制御値を割出すためにだけではなく、少なくとも一つの制限を認識するためにも、トップヴュー・システムによって合成された車両周辺部の全容画像が処理される。方法の該実施形態の長所は、車両周辺部の全容画像から、車両の周り全域を、存在する制限に関して調べることができ、合成されたパノラマ・ビューから、運転マヌーバの実施前、或いは、実施中に起こりる様々なシチュエーションに対してベター且つ迅速、ダイナミック且つフレキシブルに、反応できることである。
本発明に係る方法においては、特に、カメラ・システムによって捕捉さえた車両周辺部の少なくとも一つの領域において、照明がなされていない、或いは、特定の輝度閾値以下の照明しかなされていない場合に、制限があるとされる。車両周辺部の領域の照明が無い、或いは、不十分となるケースは、例えば、夕方や夜、及び/或いは、ガレージ内において運転マヌーバを実施する際に起こり得る。本発明に係る方法においては、先ず、車両の照明手段によって、例えば、車両照明を制御すること、或いは、車体に設けられている付加的な照明を点灯することにより、狙いを定めて対象の領域を照明することが試みられる。しかし該制限が、狙いを定めた照明をもってしても存在する場合、本発明では、該アシスタント・システムは、安全な状態に移行される。
本発明の方法における制限には更に、アシスタント・システムのカメラ・システムの少なくとも一台のカメラの向けられている方向が、定義されている方向(カメラが向いているべき方向)からずれていることも含まれる。定義された方向とは、好ましくは、カメラの工場出荷時のデフォルト、或いは、カメラ・システムが、正確にアジャストされている場合の通常の向きであると解釈できる。
特に、車両周辺部のそれぞれ異なる領域に向けられた複数の個別カメラを備えたトップヴュー・システムでは、カメラの向きが正しく調整されていないと、合成される車両周辺部の全容画像に見えない角(かど)/場所、或いは、死角が出来てしまう場合がある。死角内では、オブジェクトを信頼性高く認識できなくなり、各々の自律的、乃至、部分自律的運転マヌーバの安全かつ正しい実施を、十分に保障できなくなる。アシスタント・システムのカメラ・システムの少なくとも一台のカメラの向きが、定義された向きからずれた場合、アシスタント・システムは、安全な状態に移行される。そのずれは、合成された車両周辺部の全容画像から直接認識されることができる。
本発明の方法における制限には更に、特に、カメラ・システムの画像データから、以下のうち少なくとも一つの作動条件の成立が認識されることも含まれる:
− 車両のドアが開いている
− トランクルームが開いている
− ボンネットが開いている
− 車両ミラーが開いている
− 車両ミラーが閉じている
− 車内に搭乗者がいる
− 車両の間近に人がいる
一枚の、或いは、複数枚の開かれた車両ドア、開いたトランクルーム、及び/或いは、開いたボンネットによりカメラ・システムの一つの、或いは、複数のカメラの視野が妨げられることがある。一枚の、或いは、複数枚の開かれた車両ドア、開いたトランクルーム、及び/或いは、開かれた車両ミラーは、自律的、乃至、部分自律的運転マヌーバ中、該車両部品が、車両周辺部のオブジェクトにぶつかり、特に、自車両に損害を及ぼす原因となり得る。一方、カメラ・システムの一つ、或いは、複数のカメラが、車両の車両ミラーに内蔵されている、或いは、カメラ・システムのカメラが、車両の(両)サイドミラー近傍に配置されている場合は、サイドミラーが閉じられていると、カメラ・システムのカメラの向きが、正しい向きではない、或いは、カメラの視野が、ミラーによって邪魔される、或いは、覆われる可能性もある。車両の間近にいる人、即ち、例えば、車両の移動空間内、或いは、予定されている走行軌道内に人がいること、或いは、自律的、乃至、部分自律的運転マヌーバの実施中に、車内にいる人も、運転マヌーバの安全な実施を邪魔する可能性を有している。よって、上記全ての作動条件が、自律的、乃至、部分自律的運転マヌーバが、安全に実施できない要因となり得る。本発明に係る方法のある好ましい実施形態によれば、アシスタント・システムは、上記の作動条件のうち少なくとも一つ、特に、これが、車両周辺部の合成された全容画像から直接認識された場合、安全な状態に移行される。これに対しては、車両周辺部の全容画像が、対応した画像処理ユニットによって適宜、例えば、画像認識法、パターン比較/パターン認識法などの方法で処理される。オプション的実施形態では、車載センサー情報からも少なくとも一つの制限の成立を認識できる。本発明において制限が存在し得る上述の作動条件用としては、例えば、車載センサー、特に、いずれにせよ車載されているセンサーのシグナル、例えば、車両ドア、トランクルームの開閉状態や、エンジンルームのボンネットのロックの状態を示すシグナル、及び/或いは、シート着席状況センサーやシートベルト・ロックからのシグナルと言った情報を活用することができる。
アシスタント・システムを安全な状態に移行させることは、アシスタント・システムが、好ましくは、車両ブレーキを制御することにより、車両を停止させる事につながる。
アシスタント・システムの安全な状態への移行は、特に、アシスタント・システムを、及び/或いは、車両を、ある定義されたイニシャル状態へ移行させることも包含している。この際、車両は、例えば、出発ポジジョン、特に、自律的、乃至、部分自律的運転マヌーバの開始前のイニシャル・ポジションに戻されることもできる。該アシスタント・システムの安全な状態への移行は、例えば、カメラ・システムの一つの、或いは、複数のカメラが、定義された向き(通常の向き)にセットされる、或いは、カメラ・システムのカメラを自動的に(再)アジャストすることであってもよい。更に、車両、及び/或いは、アシスタント・システムを定義されたイニシャル状態へ移行させる場合には、車両のミラーを該運転マヌーバが必要としているポジションへセットする、或いは、車両ドア、及び/或いは、車両のトランクルームを自動的に閉じることも可能である。
本発明に係る方法のある好ましい実施形態においては、車両のドライバーに、制限の存在、及び/或いは、アシスタント・システムの安全な状態への移行が通達される。該通達は、例えば、聴覚的、視覚的、或いは、触覚的シグナルで実施できるが、これらには、車両に既存のシグナル手段、例えば、クラクション、(ハザード)ウインカー・ランプ、或いは、付加的に車体/車内に配置されるシグナル手段を用いることができる。
本発明に係るアシスタント・システムは、好ましくは、車両に搭載され、自律的、乃至、部分自律的運転マヌーバ、特に、駐車マヌーバ、及び/或いは、発車マヌーバを実施する役割を担う。該アシスタント・システムは、複数のカメラによって車両周辺部の様々な領域の個別画像を捉え、画像処理ユニットによってこれらを適切に変換し、車両周辺部の全容画像を合成するカメラ・システムを包含していることが特に好ましい。尚、該カメラ・システムは、トップヴュー・システムであることが好ましい。本発明では、運転マヌーバの実施、並びに、制限の割出しの際に、車両周辺部の全容画像が処理される。更に、本発明では、該アシスタント・システムは、自律的、乃至、部分自律的運転マヌーバ(即ち、運転マヌーバの前、及び/或いは、実施中)の際、制限が存在すると、該アシスタント・システムが、安全な状態に移行できるように、構成されている。

Claims (8)

  1. アシスタント・システムが、ブレーキ制御、操舵制御及び加速制御を含む、現在位置から目的位置に車両を動かすのに必要な全ての制御任務を請け負って、駐車操縦又は発車操縦を含む、車両の自律的運転操縦を実施する役割を果たし、カメラ・システムによって、車両周辺部から画像データが作成され、運転操縦を実施するために処理されるアシスタント・システム用の方法であって、
    画像データよって、アシスタント・システムによる自律的運転操縦の安全かつ正しい実施を阻害する制限が存在すると認識された場合に、該アシスタント・システムを安全な状態に移行させる措置が実施され、
    車両のドアが開いている、
    トランクルームが開いている、
    ボンネットが開いている、
    一つ又は複数のカメラが車両ミラーに内蔵されている場合に車両ミラーが閉じている
    との作動条件の中の少なくとも一つが成立する場合に、該制限が存在するとされることと、
    アシスタント・システムのカメラ・システムが、複数のカメラによって、車両周辺部の異なる領域の個別画像を捉え、画像処理ユニットによって、車両周辺部の全容画像を合成するために適切な変換を実施するシステムであり、
    全容画像が、運転操縦の実施のため、並びに、制限を割出すために処理されることと、
    を特徴とする方法。
  2. 車両周辺部の少なくとも一つの領域が、照明されていない、或いは、特定の輝度閾値以下の照明しかなされていない場合に、該制限が存在するとされることを特徴とする請求項に記載の方法。
  3. カメラ・システムの少なくとも一台のカメラの向きが、定義されている向きからずれている場合に、該制限が存在するとされることを特徴とする請求項1又は2に記載の方法。
  4. 少なくとも一つの作動条件の成立がカメラ・システムによって得られた画像データの処理によって認識されることを特徴とする請求項に記載の方法。
  5. アシスタント・システムを安全な状態に移行させるために、車両が停止状態に移行されることを特徴とする請求項1〜のうち何れか一項に記載の方法。
  6. アシスタント・システムを安全な状態に移行させるために、車両とアシスタント・システムの中の一つ以上がイニシャル状態に移行されることを特徴とする請求項1〜のうち何れか一項に記載の方法。
  7. 車両のドライバーに、該制限の存在とアシスタント・システムの安全な状態への移行の中の一つ以上が通達されることを特徴とする請求項1〜のうち何れか一項に記載の方法。
  8. アシスタント・システムが、ブレーキ制御、操舵制御及び加速制御を含む、現在位置から目的位置に車両を動かすのに必要な全ての制御任務を請け負って、駐車操縦又は発車操縦を含む、車両の自律的運転操縦を実施し、複数のカメラにより車両周辺部の様々な領域の個別画像を捕捉して、画像処理ユニットにより、車両周辺部の全容画像を合成するために適宜変換するカメラシステムを備えた、車両用のアシスタント・システムにおいて、
    運転操縦を実施するため、並びに、自律的運転操縦の安全かつ正しい実施を阻害する制限を認識するために車両周辺部の全容画像が処理され、
    該自律的運転操縦の実施中に制限が存在する場合、該アシスタント・システムを安全な状態に移行させる措置が実施され、
    車両のドアが開いている、
    トランクルームが開いている、
    ボンネットが開いている
    一つ又は複数のカメラが車両ミラーに内蔵されている場合に車両ミラーが閉じている
    との作動条件の中の少なくとも一つが成立する場合に、該制限が存在するとされる、
    ことを特徴とするアシスタント・システム。
JP2014528853A 2011-09-08 2012-08-21 自律的、乃至、部分自律的運転マヌーバを実施するための車載アシスタント・システム用の方法、並びに、装置 Active JP6138130B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102011112578A DE102011112578A1 (de) 2011-09-08 2011-09-08 Verfahren und Vorrichtung für ein Assistenzsystem in einem Fahrzeug zur Durchführung eines autonomen oder teilautonomen Fahrmanövers
DE102011112578.0 2011-09-08
PCT/DE2012/100244 WO2013034140A1 (de) 2011-09-08 2012-08-21 Verfahren und vorrichtung für ein assistenzsystem in einem fahrzeug zur durchführung eines autonomen oder teilautonomen fahrmanövers

Publications (2)

Publication Number Publication Date
JP2014527931A JP2014527931A (ja) 2014-10-23
JP6138130B2 true JP6138130B2 (ja) 2017-05-31

Family

ID=46888857

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2014528853A Active JP6138130B2 (ja) 2011-09-08 2012-08-21 自律的、乃至、部分自律的運転マヌーバを実施するための車載アシスタント・システム用の方法、並びに、装置
JP2014528854A Active JP6022575B2 (ja) 2011-09-08 2012-08-21 車両の取付部品の検知

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2014528854A Active JP6022575B2 (ja) 2011-09-08 2012-08-21 車両の取付部品の検知

Country Status (5)

Country Link
US (2) US9511723B2 (ja)
EP (2) EP2753533B1 (ja)
JP (2) JP6138130B2 (ja)
DE (3) DE102011112578A1 (ja)
WO (2) WO2013034140A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11656616B2 (en) 2018-04-03 2023-05-23 Toyota Jidosha Kabushiki Kaisha Parking assist apparatus

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011112149A1 (de) * 2011-09-01 2013-03-07 Valeo Schalter Und Sensoren Gmbh Verfahren zum Durchführen eines Parkvorgangs eines Fahrzeugs sowie Fahrerassistenzeinrichtung
DE102011112578A1 (de) * 2011-09-08 2013-03-14 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung für ein Assistenzsystem in einem Fahrzeug zur Durchführung eines autonomen oder teilautonomen Fahrmanövers
DE102012015922A1 (de) * 2012-08-10 2014-02-13 Daimler Ag Verfahren zum Durchführen eines Parkvorgangs eines Fahrzeugs mittels eines Fahrerassistenzsystems
WO2014083827A1 (ja) * 2012-11-27 2014-06-05 日産自動車株式会社 車両用加速抑制装置
DE102013102952A1 (de) * 2013-03-22 2014-09-25 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zur Durchführung eines automatischen Ausparkmanövers eines Fahrzeugs
DE102013217648A1 (de) * 2013-09-04 2015-03-05 Conti Temic Microelectronic Gmbh Kamera-basierte erkennung eines an einem fahrzeug montierbaren trägersystems
WO2015096838A1 (de) * 2013-12-23 2015-07-02 Adc Automotive Distance Control Systems Gmbh Park-assistenzsystem und verfahren zum einparken eines fahrzeuges in eine parkgarage
RU2690726C2 (ru) * 2014-03-12 2019-06-05 Ниссан Мотор Ко., Лтд. Устройство управления транспортного средства
DE102014209227B4 (de) 2014-05-15 2022-03-17 Ford Global Technologies, Llc Parkassistenzsystem
DE102015205013A1 (de) 2014-05-15 2015-11-19 Ford Global Technologies, Llc Parkassistenzsystem
DE102014014120A1 (de) * 2014-09-24 2015-04-02 Daimler Ag Funktionsfreigabe einer hochautomatisierten Fahrfunktion
JP6445849B2 (ja) * 2014-11-17 2018-12-26 株式会社Subaru フラップ監視装置
DE102015202486A1 (de) * 2015-02-12 2016-08-18 Robert Bosch Gmbh Verfahren und Vorrichtung zum Überwachen eines auf einem Parkplatz fahrenden Fahrzeugs
DE102015202488A1 (de) * 2015-02-12 2016-08-18 Robert Bosch Gmbh Verfahren und Vorrichtung zum Überwachen eines sich in einem autonomen Betriebsmodus und auf einem Parkplatz befindenden Fahrzeugs
JP6558735B2 (ja) * 2015-04-21 2019-08-14 パナソニックIpマネジメント株式会社 運転支援方法およびそれを利用した運転支援装置、運転制御装置、車両、運転支援プログラム
DE102015217275A1 (de) * 2015-09-10 2017-03-16 Robert Bosch Gmbh Verfahren und Vorrichtung zum Bestimmen, ob ein Kraftfahrzeug momentan manuell oder automatisch geführt wird
DE102015217278A1 (de) * 2015-09-10 2017-03-16 Robert Bosch Gmbh Verfahren und Vorrichtung zum führerlosen Führung eines an einer Startposition eines Parkplatzes abgestellten Kraftfahrzeugs
US20170161902A1 (en) * 2015-12-02 2017-06-08 Dura Operating, Llc System for detecting vehicle fuel door status
US10220704B2 (en) * 2016-10-24 2019-03-05 GM Global Technology Operations LLC Method and apparatus for door status detection
KR20180047212A (ko) * 2016-10-31 2018-05-10 현대자동차주식회사 차량의 출차 제어 장치 및 방법
CN110914641B (zh) * 2017-06-14 2024-01-30 御眼视觉技术有限公司 自主导航的导航信息的融合构架和分批对齐
US20190152387A1 (en) * 2017-11-21 2019-05-23 GM Global Technology Operations LLC Ajar tailgate detection system
DE102017223160B4 (de) * 2017-12-19 2019-10-24 Volkswagen Aktiengesellschaft Verfahren zum Erkennen von zumindest einem an einem Kraftfahrzeug anliegenden Objekt sowie Steuervorrichtung und Kraftfahrzeug
US10839522B2 (en) * 2018-05-11 2020-11-17 Toyota Research Institute, Inc. Adaptive data collecting and processing system and methods
KR102639078B1 (ko) * 2018-08-07 2024-02-22 현대자동차주식회사 노면상으로 정보를 표시하는 자동차 및 그 제어 방법
CN110126830B (zh) * 2019-04-17 2020-11-03 浙江吉利控股集团有限公司 一种车辆启动控制方法、装置、设备及存储介质
US11414097B2 (en) * 2019-07-04 2022-08-16 Lg Electronics Inc. Apparatus for generating position data, autonomous vehicle and method for generating position data
US11410545B2 (en) 2019-07-19 2022-08-09 Ford Global Technologies, Llc Dynamic vehicle perimeter definition and reporting
CN113758728A (zh) * 2021-11-01 2021-12-07 智己汽车科技有限公司 一种车辆泊入避障测试方法及设备
FR3139512A1 (fr) * 2022-09-14 2024-03-15 Psa Automobiles Sa Procédé et dispositif de détection fiabilisée d’ouverture d’un capot d’un véhicule

Family Cites Families (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3004368B2 (ja) * 1991-01-11 2000-01-31 株式会社東芝 車載監視カメラ装置
US7511833B2 (en) * 1992-05-05 2009-03-31 Automotive Technologies International, Inc. System for obtaining information about vehicular components
DE69730570T2 (de) * 1996-10-09 2005-02-03 Honda Giken Kogyo K.K. Automatisches Lenksystem für ein Fahrzeug
JP2888216B2 (ja) 1996-12-06 1999-05-10 株式会社日立製作所 自動操舵システム
JP2000136738A (ja) * 1998-10-30 2000-05-16 Toyota Motor Corp 車両の駐車操作支援装置
JP2000159019A (ja) 1998-11-30 2000-06-13 Komu Denshi Kaihatsu Kk 車両用ミラー装置
DE19947766A1 (de) * 1999-10-02 2001-05-10 Bosch Gmbh Robert Einrichtung zur Überwachung der Umgebung eines einparkenden Fahrzeugs
JP3599639B2 (ja) 2000-05-26 2004-12-08 松下電器産業株式会社 画像処理装置
DE10117650A1 (de) * 2001-04-09 2002-10-10 Daimler Chrysler Ag Verfahren und Vorrichtung zum Verbringen eines Kraftfahrzeuges in eine Zielposition
DE10133511A1 (de) * 2001-07-10 2003-01-30 Siemens Ag Verfahren und Vorrichtung zur optischen Erkennung des Öffnungszustands einer Fahrzeugtür
JP4045862B2 (ja) * 2002-06-03 2008-02-13 日産自動車株式会社 車載カメラの光軸ずれ検出装置
JP3800172B2 (ja) 2002-12-24 2006-07-26 トヨタ自動車株式会社 車両用周辺監視装置
JP3670647B2 (ja) * 2003-01-14 2005-07-13 松下電器産業株式会社 画像処理装置
US7344205B2 (en) * 2004-06-01 2008-03-18 Advics Co., Ltd Parking assist control apparatus and storage medium for parking assist control program
JP4470592B2 (ja) * 2004-06-02 2010-06-02 株式会社アドヴィックス 駐車補助制御装置
DE102004047481A1 (de) * 2004-09-30 2006-04-13 Robert Bosch Gmbh Verfahren zur Anzeige eines Fahrzeugfahrraums
JP4724522B2 (ja) * 2004-10-28 2011-07-13 株式会社デンソー 車両周囲視界支援システム
JP2006213071A (ja) * 2005-02-01 2006-08-17 Nippon Seiki Co Ltd 車両用監視装置
JP4679260B2 (ja) * 2005-06-24 2011-04-27 アルパイン株式会社 車両運転支援装置
JP2007124483A (ja) * 2005-10-31 2007-05-17 Aisin Seiki Co Ltd 移動体通信装置
CN101535087B (zh) * 2005-11-01 2013-05-15 唐纳利公司 具有显示装置的内部后视镜
JP4780385B2 (ja) * 2005-11-17 2011-09-28 アイシン精機株式会社 周辺監視システム
JP4863741B2 (ja) * 2006-03-22 2012-01-25 タカタ株式会社 対象物検出システム、駆動装置、車両
JP4321543B2 (ja) * 2006-04-12 2009-08-26 トヨタ自動車株式会社 車両周辺監視装置
DE102006036933B4 (de) 2006-08-08 2024-01-11 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Erzeugung eines Gesamtbilds aus überlappenden Einzelbildern
DE102006050550A1 (de) * 2006-10-26 2008-04-30 Bayerische Motoren Werke Ag Verfahren zur Steuerung eines Fahrmanövers
JP2008152628A (ja) * 2006-12-19 2008-07-03 Matsushita Electric Ind Co Ltd 合成映像表示装置
JP4635017B2 (ja) * 2007-02-22 2011-02-16 アイシン精機株式会社 駐車支援装置
GB2447672B (en) * 2007-03-21 2011-12-14 Ford Global Tech Llc Vehicle manoeuvring aids
DE102007022524A1 (de) * 2007-05-14 2008-11-20 Bayerische Motoren Werke Aktiengesellschaft Kraftfahrzeug
JP2008302711A (ja) * 2007-06-05 2008-12-18 Denso Corp 発進支援装置
DE102007049709A1 (de) * 2007-10-17 2009-04-30 Robert Bosch Gmbh Steuereinrichtung und Verfahren zur Einparkunterstützung
JP2009114783A (ja) * 2007-11-08 2009-05-28 Clarion Co Ltd 車両ドア開閉角度制御装置
DE102008004633A1 (de) * 2008-01-16 2009-07-23 Robert Bosch Gmbh Verfahren und Vorrichtung zur Erkennung und/oder Vermessung einer Parklücke
DE102008019346A1 (de) * 2008-03-18 2009-09-24 Volkswagen Ag Verfahren und Vorrichtung zum automatischen Ein- und Ausparken eines Fahrzeugs
JP5172489B2 (ja) * 2008-06-16 2013-03-27 本田技研工業株式会社 開閉体制御装置
JP4937199B2 (ja) * 2008-06-25 2012-05-23 日立オートモティブシステムズ株式会社 オートライト装置
DE102008046214A1 (de) * 2008-09-08 2009-04-30 Daimler Ag Verfahren und Vorrichtung zur Überwachung einer Umgebung eines Fahrzeuges
JP5505764B2 (ja) * 2009-02-23 2014-05-28 株式会社リコー 車載カメラ装置のキャリブレーション支援方法及びキャリブレーション支援装置、並びに車載カメラ装置
JP4690476B2 (ja) * 2009-03-31 2011-06-01 アイシン精機株式会社 車載カメラの校正装置
US8269652B2 (en) * 2009-04-02 2012-09-18 GM Global Technology Operations LLC Vehicle-to-vehicle communicator on full-windshield head-up display
JP5226621B2 (ja) 2009-07-06 2013-07-03 東芝アルパイン・オートモティブテクノロジー株式会社 車両用画像表示装置
DE102009032542B4 (de) * 2009-07-10 2021-12-16 Audi Ag Verfahren zum Betreiben eines Fahrerassistenzsystems eines Fahrzeugs und Fahrerassistenzsystem
JP4970516B2 (ja) * 2009-09-30 2012-07-11 日立オートモティブシステムズ株式会社 周囲確認支援装置
JP5421999B2 (ja) 2009-10-09 2014-02-19 パナソニック株式会社 車両用周囲監視装置
DE102009057837A1 (de) 2009-12-10 2011-06-16 Continental Teves Ag & Co. Ohg Verfahren zur Einparkunterstützung in eine Parkfläche einer Fahrzeuggarage
JP5471462B2 (ja) * 2010-01-11 2014-04-16 株式会社デンソーアイティーラボラトリ 自動駐車装置
US9150155B2 (en) * 2010-01-13 2015-10-06 Magna Electronics Inc. Vehicular camera and method for periodic calibration of vehicular camera
JP5302227B2 (ja) * 2010-01-19 2013-10-02 富士通テン株式会社 画像処理装置、画像処理システム、および、画像処理方法
DE102011112578A1 (de) * 2011-09-08 2013-03-14 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung für ein Assistenzsystem in einem Fahrzeug zur Durchführung eines autonomen oder teilautonomen Fahrmanövers

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11656616B2 (en) 2018-04-03 2023-05-23 Toyota Jidosha Kabushiki Kaisha Parking assist apparatus
US12045049B2 (en) 2018-04-03 2024-07-23 Toyota Jidosha Kabushiki Kaisha Parking assist apparatus

Also Published As

Publication number Publication date
JP2014533348A (ja) 2014-12-11
US20150360625A1 (en) 2015-12-17
WO2013034140A1 (de) 2013-03-14
EP2753533A1 (de) 2014-07-16
DE112012003762A5 (de) 2014-08-28
DE112012003746A5 (de) 2014-06-18
DE102011112578A1 (de) 2013-03-14
US20140379197A1 (en) 2014-12-25
EP2753533B1 (de) 2015-11-25
EP2753532B1 (de) 2015-10-21
US9511723B2 (en) 2016-12-06
JP2014527931A (ja) 2014-10-23
WO2013034141A1 (de) 2013-03-14
JP6022575B2 (ja) 2016-11-09
EP2753532A1 (de) 2014-07-16

Similar Documents

Publication Publication Date Title
JP6138130B2 (ja) 自律的、乃至、部分自律的運転マヌーバを実施するための車載アシスタント・システム用の方法、並びに、装置
JP6120859B2 (ja) 自律的、乃至、部分自律的運転マヌーバを実施するための車載アシスタント・システム用の方法、並びに、装置
JP6870270B2 (ja) 無人運転システムの遠隔操作方法と遠隔操作装置
CN108602466B (zh) 用于跟踪运动对象以避免干扰车门操作的系统及方法
US11377099B2 (en) Parking assist system
JP6045796B2 (ja) 映像処理装置、映像処理方法、および映像表示システム
US20200398827A1 (en) Parking assist system
JP2018536955A5 (ja)
JP6014433B2 (ja) 画像処理装置、画像処理方法、及び、画像処理システム
JP2010183170A (ja) 車両用表示装置
EP1912157A1 (en) Digital image processing system for automatically representing surrounding scenes to the driver of a vehicle for driving assistance, and corresponding operating method
US11338826B2 (en) Parking assist system
US11458959B2 (en) Parking assist system
JP2005165422A (ja) 衝突可能性判定装置
US11427186B2 (en) Parking assist system
CN109313859B (zh) 用于自动激活机动车的障碍物识别装置的方法和障碍物辅助装置
US11548501B2 (en) Parking assist system
JP2012086684A (ja) 駐車支援装置
US20200398824A1 (en) Parking assist system
JP2006311216A (ja) 車両周辺監視システム
JP4677820B2 (ja) 予測進路表示装置および予測進路表示方法
JP7272338B2 (ja) 自動運転システム
JP6998359B2 (ja) 駐車支援システム
CN112977418B (zh) 驻车辅助系统
KR101652414B1 (ko) 차량 승하차 안전제어 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160829

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20161214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170210

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170425

R150 Certificate of patent or registration of utility model

Ref document number: 6138130

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250