JP7167716B2 - 車外から車両を操作するためのプログラム - Google Patents

車外から車両を操作するためのプログラム Download PDF

Info

Publication number
JP7167716B2
JP7167716B2 JP2019000781A JP2019000781A JP7167716B2 JP 7167716 B2 JP7167716 B2 JP 7167716B2 JP 2019000781 A JP2019000781 A JP 2019000781A JP 2019000781 A JP2019000781 A JP 2019000781A JP 7167716 B2 JP7167716 B2 JP 7167716B2
Authority
JP
Japan
Prior art keywords
vehicle
image
mobile terminal
operation target
target vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019000781A
Other languages
English (en)
Other versions
JP2020109593A (ja
Inventor
純平 冨宅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2019000781A priority Critical patent/JP7167716B2/ja
Priority to US16/693,600 priority patent/US11327478B2/en
Priority to DE102019133320.2A priority patent/DE102019133320B4/de
Publication of JP2020109593A publication Critical patent/JP2020109593A/ja
Priority to US17/657,060 priority patent/US11767058B2/en
Application granted granted Critical
Publication of JP7167716B2 publication Critical patent/JP7167716B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0016Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement characterised by the operator's input device
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0033Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by having the operator tracking the vehicle either by direct line of sight or via one or more cameras located remotely from the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/586Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of parking space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D1/00Steering controls, i.e. means for initiating a change of direction of the vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Data Mining & Analysis (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Selective Calling Equipment (AREA)
  • Telephone Function (AREA)

Description

本発明は、車外から車両を操作するためのプログラムに関する。
特許文献1には、車外から携帯端末を用いて駐車動作を行うことができる車両用装置が記載されている。また、特許文献2には、車載装置と携帯端末との間で超音波の送受信を行うことにより、車両と携帯端末との距離を測定し、測定した距離が所定範囲内である場合に、車両を移動させる駐車支援システムが記載されている。
特開2016-007959号公報 特開2015-089733号公報
車外から携帯端末を用いて遠隔で駐車操作(以下、「リモート駐車」という)を行う場合、携帯端末から操作可能なエリアを法規で定められた範囲内に制限する必要がある。特許文献2では、超音波の送受信により車両と携帯端末との距離を測定する構成が記載されているが、スマートフォン等の汎用の携帯端末に超音波通信機能を搭載することは現実的ではない。
それ故に、本発明は、スマートフォン等の汎用の携帯端末を用いて車外から車両の操作可能範囲を制限できるプログラムを提供することを目的とする。
本発明は、コンピュータと、カメラと、ディスプレイと、通信機とを有する携帯端末に記憶され、当該携帯端末を用いて、予め登録された操作対象車両を外部から操作するためのプログラムに関する。当該プログラムは、カメラの撮影画像に含まれる、操作対象車両の画像のサイズに基づいて、携帯端末から操作対象車両までの推定距離を推定するステップと、推定距離が所定の閾値未満であるか否かを判定するステップと、推定距離が閾値未満である場合に、操作対象車両に対する操作指示を受け付けるステップと、受け付けた操作指示に応じた動作を指示する信号を通信機に出力させるステップとをコンピュータに実行させる。
本発明によれば、スマートフォン等の汎用の携帯端末を用いて車外から車両の操作可能範囲を制限できるプログラムを提供できる。
実施形態に係るリモート駐車システムの概略構成を示す機能ブロック図 実施形態に係る車両操作プログラムが実行する制御処理を示すフローチャート 図2Aに続く制御処理を示すフローチャート 操作対象車両を特定する方法の一例を説明するための図 操作対象車両を特定する方法の一例を説明するための図 操作対象車両を特定する方法の一例を説明するための図 操作対象車両を特定する方法の一例を説明するための図 撮影位置と車両の高さとの関係を説明するための図 車両の操作可能範囲と携帯端末の位置との関係を示す図 図5に示した位置P1から撮影した車両の画像を示す図 図5に示した位置P2から撮影した車両の画像を示す図 図5に示した位置P3から撮影した車両の画像を示す図
本発明の一実施態様に係る車両操作プログラムは、携帯端末のカメラで撮影した画像に含まれる車両画像のサイズに基づいて、携帯端末から車両までの距離を推定し、推定距離に応じてリモート駐車の操作可否を判定する。したがって、カメラ付きの汎用の携帯端末を用いて、車両の遠隔操作可能な範囲を制限することが可能となる。
(実施形態)
図1は、実施形態に係るリモート駐車システムの概略構成を示す機能ブロック図である。
<構成>
本実施形態に係るリモート駐車システムは、車外からリモート駐車を実行するためのプログラムがインストールされた携帯端末10と、携帯端末10からの指示に応じて車両20を動作させる車載機21とから構成される。
携帯端末10は、スマートフォンやタブレット等のプログラム(アプリケーション)をインストール及び実行可能な汎用のコンピュータであり、カメラ1と、プロセッサ2と、メモリ3と、ディスプレイ4と、タッチパネル5と、通信機6とを備える。メモリ3には、車両20のリモート駐車を実行するための、コンピュータが実行可能な車両操作プログラムがインストールされている。プロセッサ2がメモリ3に格納された車両操作プログラムを読みだして実行することにより、携帯端末10は、リモート駐車を実行するための車両操作装置として機能する。車両操作プログラムは、カメラ1の撮影画像に含まれる車両20の画像サイズに基づいて携帯端末10から車両20までの距離を推定し、推定した距離が車両20の遠隔操作が可能な距離の場合にリモート駐車を許可し、車載機21に対してリモート駐車を指示する信号を通信機6に出力させる。尚、リモート駐車を実行するプログラムの詳細については後述する。
車載機21は、携帯端末10の通信機6と通信を行い、携帯端末10からの指示に応じて、車両20の駐車動作を制御する。車載機21は、例えば、プロセッサ及びメモリを備えたECUとして実現され、プロセッサがメモリに予め記憶されたリモート駐車プログラムを読み出して実行し、実行結果に基づいて、パワートレインECU、ステアリングECU、ブレーキECU等に動作指示を行うことにより車両20を制御する。車載機21と携帯端末10との通信方式は、汎用の携帯端末に実装された広く利用されている通信方式であれば特に限定されず、例えば、Bluetooth(登録商標)やWi-Fi(登録商標)を利用することができる。
<制御処理>
以下、図1と図2A~図6Bとを併せて参照しながら、車両操作プログラムの制御処理を説明する。
図2A及び図2Bは、実施形態に係る車両操作プログラムが実行する制御処理を示すフローチャートである。また、図3A~図3Dは、操作対象車両を特定する方法の例を説明するための図であり、図4は、撮影位置と車両の高さとの関係を説明するための図である。尚、図2A及び図2Bに示す制御処理は、携帯端末10にインストールされた車両操作プログラム(アプリケーション)の起動指示に応じて開始される。
ステップS1:プロセッサ2は、操作対象車両の情報が(以下、「車両情報」という)登録済みであるか否かを判定する。この車両情報は、リモート駐車を実行させる車両を特定するための情報であり、例えば、車種、車体色、ナンバー等を単独でまたは適宜組み合わせて用いることができる。ステップS1の判定がYESの場合、処理はステップS3に進み、それ以外の場合、処理はステップS2に進む。
ステップS2:プロセッサ2は、車両情報の登録処理を実行する。例えば、プロセッサ2は、車両情報の入力フォームをディスプレイ4に表示させ、必要な車両情報を登録するようユーザに促す。ユーザは、タッチパネル5を操作するなどして、車両情報を入力することができる。プロセッサ2は、入力された情報をメモリ3に格納しても良いし、通信機6を介して外部のサーバに保存しても良い。その後、処理はステップS1に進む。
ステップS3:プロセッサ2は、カメラ1を起動し、カメラ1による画像の撮影を開始する。プロセッサ2は、撮影を開始すると、図3Aに示すように、カメラ1の撮影画像と操作対象車両の画像を撮影するように促すメッセージとを重ねてディスプレイ4に表示させる。ステップS3で撮影を開始した後、後述するステップS10が実行されるまでの間にカメラ1によって撮影された画像は、操作対象車両を特定するために用いる画像である。したがって、撮影画像には、図3Aに示すように、操作対象車両が含まれていれば良い。図3Aには、操作対象の車両20の全体を正面から撮影した画像の例を示しているが、操作対象車両の一部のみが撮影画像に含まれていても良いし、操作対象の車両20と共に他の車両が撮影画像に含まれていても良い。その後、処理はステップS4に進む。
ステップS4:プロセッサ2は、カメラ1の撮影画像と予め登録された車両情報とに基づき、撮影画像内に含まれる操作対象車両の特定を行う。具体的に、プロセッサ2は、撮影画像に車両の画像が含まれている場合、撮影画像に含まれる車両の特徴を抽出する。プロセッサ2は、抽出した車両の特徴を予め登録された車両情報と照合し、両者の一致度に基づいて撮影画像に含まれる車両を操作対象車両であると特定する。例えば、撮影画像が図3Aに示す画像である場合、車両の特徴として、ナンバーの情報を抽出することができる。車両のナンバーはユニークな情報であるので、抽出されたナンバーが登録されたナンバーと一致すれば即座に、撮影画像に含まれる車両が操作対象車両であると特定することができる。ただし、撮影条件や障害物等により、撮影画像からナンバーのすべての文字が認識できない場合が考えられる。この場合、プロセッサ2は、ナンバーの認識結果と併せて、画像から特定される車種や車体の色を判定材料として操作対象車両の特定を試みる。例えば、撮影画像が図3Bに示す画像であって、撮影画像内に2台の車両が含まれており、ナンバーの一部が認識できない等の理由でナンバーが登録情報と完全に一致しない場合を想定する。この場合、ナンバーが登録情報と部分一致し、かつ、車体色(例えば、白)が登録された車体色と一致する車両があれば、撮影画像内で操作対象車両を特定することができる。その後、処理はステップS5に進む。
ステップS5:プロセッサ2は、ステップS4において、撮影画像内で操作対象車両を特定できたか否かを判定する。ステップS5の判定がYESの場合、処理はステップS10に進み、それ以外の場合、処理はステップS6に進む。
ステップS6:プロセッサ2は、車両のランプの点灯状態に基づき、撮影画像内に含まれる操作対象車両の特定を行う。プロセッサ2は、ステップS5でNOと判定された場合、車両のランプ(ヘッドランプ、スモールランプ、方向指示器の1種類以上)を点灯するよう通信機6を介して車載機21に指示する。車両のランプの点灯方法は特に限定されず、一定時間連続点灯させても良いし、所定の周期やパターンで点滅させても良い。また、複数種類のランプを組み合わせて点灯させても良い。例えば、撮影画像が図3Cに示す画像であって、撮影画像内に車種及び車体色が同一である2台の車両が含まれており、ナンバーの情報だけで操作対象車両を特定することができない場合を想定する。この場合、プロセッサ2が通信機6を介して車載機21にランプの連続点灯を指示し、撮影画像内にランプを連続点灯させる車両があれば、撮影画像内で操作対象車両を特定することができる。その後、処理はステップS7に進む。
ステップS7:プロセッサ2は、ステップS6において、撮影画像内で操作対象車両を特定できたか否かを判定する。ステップS7の判定がYESの場合、処理はステップS10に進み、それ以外の場合、処理はステップS8に進む。
ステップS8:プロセッサ2は、ユーザに操作対象車両の選択を指示する。例えば、撮影画像が図3Dに示す画像であって、撮影画像内に車種及び車体色が同一である2台の車両が含まれており、ナンバーの情報だけで操作対象車両を特定することができず、更に、夜間であることからランプの点灯有無による識別も困難である場合を想定する。この場合、プロセッサ2は、図3Dに示すように、ディスプレイ4に操作対象車両をタップ操作で選択するように促すメッセージを表示する。ユーザは、タッチパネル5のタップ操作によって、操作対象車両を選択する。その後、処理はステップS10に進む。
ステップS9:プロセッサ2は、ステップS8で選択された車両を操作対象車両と特定する。その後、処理はステップS10に進む。
尚、ステップS8及びS9で説明したように、ユーザ入力による操作対象車両の特定処理を実行する場合、ステップS4~S7で説明した車両情報またはランプの点灯状態に基づく操作対象車両の特定処理を省略しても良い。ただし、車両情報またはランプの点灯状態に基づく操作対象車両の特定処理を実行する場合、ユーザが入力操作を行うことなく、カメラ1で車両を撮影するだけで操作対象車両を特定することができるので、より利便性に優れる。
ステップS10:プロセッサ2は、カメラ1の撮影画像からステップS4~S9の処理で特定された操作対象車両の画像を取得する。このステップで取得した操作対象車両の画像は、後続のステップにおいて、携帯端末10から車両20までの距離の推定に用いる。その後、処理はステップS11に進む。
ここで、本実施形態における距離推定の原理について説明する。カメラ1で撮影した画像に含まれる車両の画像のサイズは、携帯端末10から車両20までの距離とカメラ1の焦点距離(画角)に応じて定まる。つまり、車両20から一定距離(例えば、リモート駐車の操作可能範囲の閾値である6m)離れた位置から撮影した車両20の画像のサイズを基準画像とし、基準画像のサイズとして予め記憶しておけば、撮影した画像に含まれる車両の画像のサイズと基準画像のサイズとの比較によって、携帯端末10と車両20との距離が一定距離より近いか離れているかを判定することができる。また、車高方向の画像高さは、図4に示すように、車両20に対する撮影方向毎の差が小さい。したがって、携帯端末10と車両20との距離を推定する際、基準画像との比較に用いる画像のサイズとして、車高方向の画像高さを用いることが好ましい。ただし、車両20の撮影方向を一定方向(例えば、正面からのみ)に制限する場合は、車幅方向の画像幅等、車高方向の画像高さ以外のサイズに基づいて、携帯端末10と車両20との距離を推定しても良い。尚、距離推定の具体的な処理については後述する。
ステップS11:プロセッサ2は、携帯端末10と車両20との距離の目安を示唆する示唆画像を生成し、生成した示唆画像を撮影画像と重ねてディスプレイ4に表示させる。リモート駐車を実行する場合、携帯端末10を保持するユーザは、法規で定められた操作可能距離(例えば6m)の範囲内にいる必要がある。そこで、本実施形態に係る車両操作プログラムは、携帯端末10を保持するユーザの位置が操作可能範囲内であるか否かを、示唆画像と操作対象車両の画像との大小関係または位置関係によりユーザに示唆する。その後、処理はステップS12に進む。
ここで、図5~図6Cを参照しながら、本実施形態に係る示唆画像の表示態様について説明する。
図5は、車両の操作可能範囲と携帯端末の位置との関係を示す図であり、図6A~図6Cは、それぞれ、図5に示した位置P1~P3から撮影した車両の画像を示す図である。
本実施形態に係る示唆画像は、図6Aに示すように、車両20の接地位置を示す線Laと、線Laと平行で、かつ、線Laから車高方向に所定の画像高さhだけ離れた位置を特定する線Lbとからなる画像である。線La及びLbの車高方向の画像高さh(以下、「示唆画像の高さ」という)は、カメラの画角(ズーム比)が固定されていることを前提として一定値であり、携帯端末10から車両20までの距離が操作可能距離と等しい時に、車両の画像内の車高と一致する。示唆画像の画像高さhは、登録された車種の車高とカメラの焦点距離(画角)に応じて設定すれば良い。また、示唆画像の画像高さhの算出において、後述するステップS12で用いる距離推定用の情報を使用しても良い。プロセッサ2は、ステップS11で示唆画像を撮影画像と重ねて表示する際、撮影画像中の車両20の接地位置を画像処理により認識し、車両20の接地位置に示唆画像の線Laが略一致するように、示唆画像の表示位置を調節する。
携帯端末10を保持したユーザが図5に示す位置P1にいる場合、携帯端末10から車両20までの距離は操作可能距離より長い。したがって、図6Aに示すように、ディスプレイ4上に表示される車両20の画像高さは、示唆画像の画像高さhよりも小さくなる。車両20の画像高さと示唆画像の画像高さhとの対比により、ユーザは、リモート駐車の操作可能範囲外にいることを認識することができる。また、携帯端末10が操作可能範囲外にある場合、図6Aに示すように、ユーザに車両へ近付くよう促すメッセージをディスプレイ4に表示することが好ましい。
次に、携帯端末10を保持したユーザが図5に示す位置P2へ移動すると、携帯端末10から車両20までの距離は操作可能距離と略等しくなる。したがって、図6Bに示すように、ディスプレイ4上に表示される車両20の画像高さが、示唆画像の画像高さhと略一致する。車両20の画像高さと示唆画像の画像高さhとの対比により、ユーザは、リモート駐車の操作可能範囲の境界近傍にいることを認識することができる。
次に、携帯端末10を保持したユーザが図5に示す位置P3へ移動すると、携帯端末10から車両20までの距離は操作可能距離より短くなる。したがって、図6Cに示すように、ディスプレイ4上に表示される車両20の画像高さが、示唆画像の画像高さhより大きくなる。車両20の画像高さと示唆画像の画像高さhとの対比により、ユーザは、リモート駐車の操作可能範囲内にいることを認識することができる。
撮影画像に含まれる車両20の画像高さは、撮影距離に応じて変化する。車両20の撮影距離がリモート駐車の操作可能距離と等しいときに、車両20の画像高さと等しくなるように示唆画像の画像高さhを設定しておけば、携帯端末10を保持したユーザが操作可能範囲の内側にいるのか外側にいるのかを視覚的に把握することができる。また、示唆画像の一部である線Laを車両の接地位置に略一致するよう追従させながら示唆画像を表示することにより、示唆画像の画像高さhと車両20の画像高さの比較を容易とすることができる。
ステップS12:プロセッサ2は、カメラ1の撮影画像に基づいて、携帯端末10から車両20までの距離を推定する。具体的には、プロセッサ2は、所定の被写体の高さと、携帯端末10のカメラ1から当該被写体までの撮影距離と、当該撮影距離で所定の被写体を撮影した画像に含まれる所定の被写体の画像高さとを関連付けた、距離推定用の情報を予めメモリ3に記憶しており、この予め記憶する情報と撮影画像の情報とに基づいて距離推定を行う。
ここで、距離の推定方法の具体例として、第1~第3の推定方法を説明する。ただし、携帯端末10から車両20までの距離を推定することができる限り、距離の推定方法は、以下の例に限定されない。
第1の推定方法では、6m離れた位置から1m高さのポールを撮影した画像から、ポールの画像高さX(具体的には、撮像素子上の画素数、または、得られた画像のピクセル数)を、携帯端末10のカメラ1の種類ごとに用意しておく。また、車種ごとの車高データを予めメモリ3に記憶させておく。リモート駐車の対象として登録された操作対象車両の車高が例えば1.5mである場合、6m離れた位置から操作対象車両を撮影した画像に含まれる車両の画像高さは1.5Xとなる。プロセッサ2は、ステップS10で取得した撮影画像に含まれる車両の画像高さを算出し、算出した画像高さと基準の画像高さ1.5Xとの比に基づいて携帯端末10から車両20までの距離を推定することができる。
また、第2の推定方法では、ユーザが任意の距離L2から操作対象車両を撮影し、このときの撮影距離L2と撮影画像に含まれる車両の画像高さh2とをメモリ3に記憶させる。プロセッサ2は、ユーザにより登録された撮影距離L2と操作可能距離L1との比L2/L1と、車両の画像高さh2に基づき、車両から距離L1離れた位置から撮影した場合における車両の画像高さh1を、h1=h2×(L2/L1)により算出する。プロセッサ2は、ステップS10で取得した撮影画像に含まれる車両の画像高さを算出し、算出した画像高さと基準の画像h1との比に基づいて携帯端末10から車両20までの距離を推定することができる。
また、第3の推定方法では、カメラ1の焦点距離(画角)と撮像素子の水平方向及び垂直方向のサイズ(寸法または画素数)とに基づいて、リモート駐車の操作可能距離でカメラ1が撮影可能な高さを算出し、算出した撮影可能高さと操作対象車両の車高との比に基づいて、操作可能距離から撮影した撮影画像に含まれる車両の画像高さを算出する。第3の推定方法においても、プロセッサ2は、ステップS10で取得した撮影画像に含まれる車両の画像高さを算出し、算出した画像高さと、カメラ及び撮像素子の画角から求めた基準の画像高さとの比に基づいて携帯端末10から車両20までの距離を推定することができる。
携帯端末10から車両20までの推定距離の算出が完了すると、処理はステップS13に進む。
ステップS13:プロセッサ2は、ステップS12で算出した推定距離が閾値(リモート駐車の操作可能距離)未満であるか否かを判定する。携帯端末10から車両20までの推定距離がリモート駐車の操作可能距離と一致する場合、法規上は、リモート駐車を許可することが可能である。ただし、距離推定には誤差が含まれる可能性があるため、ステップS13の判定としては、推定距離が閾値となるケースを除外することが、安全上より好ましい。ステップS13の判定がYESの場合、処理はステップS15に進み、それ以外の場合、処理はステップS14に進む。
ステップS14:プロセッサ2は、ユーザの現在位置がリモート駐車の操作可能範囲外であることをディスプレイ4への表示、音声、振動等で通知する。その後、処理はステップS10に進む。
ステップS15:プロセッサ2は、リモート駐車の実行を許可し、ディスプレイ4にリモート駐車の実行を指示するための操作画面(ボタン等)を表示して、操作対象車両に対する操作指示を受け付ける。例えば、図6Cに示す例のように、プロセッサ2は、リモート駐車が可能である旨を示すメッセージ(「OK」)と、車載機21に対してリモート駐車の実行を指示するための「駐車実行」ボタンとをディスプレイ4に表示する。プロセッサ2は、タッチパネル5の操作によりユーザからのリモート駐車実行の指示を受け付けると、通信機6を介して車両20の車載機21にリモート駐車の実行を指示する。その後、処理はステップS16に進む。
ステップS16:プロセッサ2は、リモート駐車の終了操作を受け付けたか否かを判定する。リモート駐車の終了操作とは、例えば、車載機21が車両を駐車位置に移動させて駐車動作が完了した後に、ユーザが携帯端末10においてリモート駐車が完了したことを確認する操作をしたこと、ユーザが携帯端末10においてリモート駐車の終了を指示したこと、ユーザが携帯端末10において車両操作プログラム自体を終了したこと等が該当する。ステップS16の判定がYESの場合、処理はステップS18に進み、それ以外の場合、処理はステップS17に進む。
ステップS17:プロセッサ2は、ステップS15でリモート駐車を許可してから所定時間が経過したか否かを判定する。ステップS17の判定は、リモート駐車を実行可能な時間を一定時間内に制限するためのものである。ステップS17の判定がYESの場合、処理はステップS18に進み、それ以外の場合、処理はステップS15に進む。
ステップS18:プロセッサ2は、通信機6介して車両20の車載機21にリモート駐車の終了を指示する。その後、処理を終了する。
<効果等>
以上説明したように、本実施形態に係る車両操作プログラムでは、カメラ1で撮影した車両20の画像のサイズに基づいて、携帯端末10から車両20までの推定距離がリモート駐車の操作可能距離未満であるか否かを判定し、推定距離が操作可能距離未満である場合に、車両の外部からのリモート駐車の実行を許可する。したがって、本実施形態に係る車両操作プログラムによれば、カメラ1を備えた汎用のスマートフォンやタブレット等の携帯端末を利用しつつ、車外から車両を操作できる範囲を制限することができ、車両の遠隔操作に関する法規に適合させることが可能となる。携帯端末から車両に対して遠隔操作が可能な範囲を制限する方法としては、スマートキーシステムで利用されているLF通信を利用する方法や、UWB(Ultra Wide Band)通信を利用する方法も考えられる。しかしながら、LF通信やUWB通信は、スマートフォン等の汎用の携帯端末に通常搭載される通信方式ではないため、これらの通信方式は現実的ではない。また、LF/RF通信を利用したスマートキーに代えて、スマートフォン等の汎用の携帯端末を車両のキーとして利用することも検討されており、この場合、LF通信自体が車載機21に実装されなくなり、携帯端末10で利用できる通信方式は、Bluetooth(登録商標)やWi-Fi(登録商標)等の既存の通信方式に限られるなる可能性も考えられる。しかしながら、本実施形態に係る車両操作プログラムは、カメラ1の撮影画像に基づいて距離推定を行い、車載機21に対する動作指示は既存の通信方式を使用できるので、特定の通信方式を利用することなく、汎用の携帯端末を車両を操作するための装置として機能させることが可能となる。
また、本実施形態に係る車両操作プログラムでは、携帯端末10から車両20までの距離を示唆する示唆画像をカメラ1の撮影画像に重ねて表示することにより、ユーザがリモート駐車の操作可能範囲内にいるか否かを、ユーザに視覚的に提示することができる。本実施形態に係る車両操作プログラムでは、携帯端末10から車両20までの距離を推定するために、ユーザは、カメラ1の撮影範囲内に車両20を捉える必要がある。したがって、ユーザはカメラ1をかざしながら、ディスプレイ4の表示画像に車両20が含まれていることを確認しているため、撮影画像に重ねた示唆画像で車両20までの距離を示唆すれば、撮影画像の確認と距離の確認とを同時に行うことができ、利便性に優れる。ただし、ユーザがリモート駐車の操作可能範囲内にいるかをユーザに提示する方法しては、示唆画像の表示に限られず、示唆画像の表示に代えて音声または振動も利用しても良い。また、示唆画像の表示に加えて音声または振動を利用しても良い。
また、図6A~図6Cに示したように、本実施形態に係る車両操作プログラムでは、ディスプレイ4に表示される車両20の画像の表示位置の変化に追従させて示唆画像を表示し、示唆画像の下端(線La)を継続的に車両20の画像の下端(接地位置)に略一致させる。このように示唆画像を表示すれば、ユーザによる車両20の撮影中にカメラ1の位置変化に起因してディスプレイ4上で車両20の画像の表示位置が変化する場合でも、容易に示唆画像の画像高さhと車両20の画像高さとを比較することができる。尚、本実施形態では、示唆画像の下端(線La)を車両20の画像の下端(接地位置)に略一致させる例を説明したが、示唆画像の上端(線Lb)を車両の画像の上端(天井位置)に略一致させても良い。また、車高方向の画像サイズに代えて、車幅方向あるいは前後方向の画像サイズを距離推定に用いる場合には、示唆画像と車両20の画像の左端同士または右端同士が略一致するように、示唆画像を表示しても良い。
また、本実施形態に係る車両操作プログラムでは、予め登録した車両情報に基づいて、カメラ1の撮影画像内に含まれる車両から操作対象車両(予め登録した車両)を認識することができるので、ユーザは、操作対象車両の特定のためにカメラ1を車両20にかざすだけで良く、利便性に優れる。
また、車両情報により車両を認識できない場合には、車載機21に対してランプの点灯指示を行い、カメラ1の撮影画像に含まれる車両の画像のランプの状態変化に基づいて、撮影画像内に含まれる操作対象車両を認識できる。したがって、障害物等で車両情報が特定できない場合や、撮影画像内に操作対象車両と車種及び車体色が同じ車両の画像が含まれている場合など、車両情報だけで操作対象車両の認識が困難な場合にもユーザ操作を求めることなく、操作対象車両の特定が可能となり、利便性を向上させることができる。
更に、本実施形態に係る車両操作プログラムでは、カメラ1の撮影画像からユーザ操作によって操作対象車両の選択を受け付けることもできる。したがって、操作対象車両の自動認識が困難な場合でも確実に操作対象車両を特定することが可能となり、リモート駐車の可用性を向上させることができる。
また、本実施形態に係る車両操作プログラムでは、携帯端末10から車両20までの推定距離が操作可能距離以上である場合、車両20に近付くよう促す通知を行うことができる。このような通知を行えば、ユーザが遠隔操作可能な範囲内にいるか否かを、示唆画像による距離の示唆と併せて、ユーザに対してわかりやすく知らせることができる。
(その他の変形例)
上記の実施形態において、車両操作プログラムは、カメラ1のズーミングを禁止する処理を実行しても良い。撮影画像の大きさは、カメラ1の焦点距離(画角)によっても変化するため、カメラのズーミングが行われると、携帯端末10から車両20までの距離推定処理に影響し得る。そこで、車両操作プログラムが起動されてから終了するまでの間、カメラのズーミングを禁止しておけば、予期せぬズーミングが行われて、携帯端末10から車両20までの距離が不正確な値として推定されることを防止し、ユーザが操作可能範囲外にいる場合にリモート駐車が実行されてしまうことを回避できる。また、カメラ1のズーミングを禁止する場合、カメラ1の焦点距離を初期値(例えば、広角端における焦点距離)に固定しても良いし、所定の焦点距離(例えば、35mm)に固定しても良い。
また、上記の実施形態において、車両操作プログラムは、距離推定に用いる基準の画像サイズ及び示唆画像のサイズを、撮影画像取得時のカメラの焦点距離(画角)に応じて補正しても良い。補正は、例えば、上述した第3の推定方法に基づいて行うことができる。
カメラ1のズーミングを禁止しない場合には、ズーミングによるカメラ1の焦点距離(画角)変化に応じて、示唆画像のサイズを変化させれば、ユーザに対して違和感を与えることを防止できる。尚、カメラ1の焦点距離(画角)の変化に基づいて示唆画像の画像高さの補正を行う場合、示唆画像の画像高さが、選択されている焦点距離(画角)を有するカメラ1を用いて、操作対象車両から操作可能距離離れた位置で撮影した操作対象車両の画像高さと等しくなるように補正を行えば良い。
また、上記の実施形態では、示唆画像として、水平方向に延びる2本の直線を例示したが、示唆画像はこれに限定されない。例えば、車両の接地位置を基準とした画像高さを示す1本の線(つまり、図6A~図6Cに示した線Lbのみ)でも良いし、矩形の枠(つまり、図6A~図6Cに示した線La及びLbを含む長方形)でも良い。また、示唆画像は、操作対象車両の画像の基準の画像サイズとの差を視覚的に示すことができるものであれば、直線や枠以外の図形や文字でも良い。
以上、本発明の実施形態を説明したが、本発明は、上述した車両操作プログラムを記憶した記憶したコンピュータ読み取り可能な非一時的な有形の記録媒体、上述した車両操作プログラムを記憶し、当該車両操作プログラムを読み出して実行可能なコンピュータを備えた携帯端末として捉えることもできる。
本発明は、リモート駐車等の車外から行う車両操作を制御するために、携帯端末にインストールするプログラムとして利用できる。
1 カメラ
2 プロセッサ
3 メモリ
4 ディスプレイ
5 タッチパネル
6 通信機
10 携帯端末
20 車両
21 車載機

Claims (9)

  1. コンピュータと、カメラと、ディスプレイと、通信機とを有する携帯端末に記憶され、当該携帯端末を用いて、予め登録された操作対象車両を外部から操作するためのプログラムであって、
    前記カメラの撮影画像に含まれる、前記操作対象車両の画像のサイズに基づいて、前記携帯端末から前記操作対象車両までの推定距離を推定するステップと、
    前記推定距離が所定の閾値未満であるか否かを判定するステップと、
    前記推定距離が前記閾値未満である場合に、前記操作対象車両に対する操作指示を受け付けるステップと、
    受け付けた操作指示に応じた動作を指示する信号を前記通信機に出力させるステップと
    前記携帯端末から前記操作対象車両までの距離が前記閾値と等しいときに前記操作対象車両の画像高さと一致する画像高さを有し、前記携帯端末から前記操作対象車両までの距離が前記閾値未満であるか否かを示唆する示唆画像を、前記カメラの撮影画像に重ねて、前記ディスプレイに表示させるステップとを前記コンピュータに実行させ
    前記示唆画像を前記ディスプレイに表示させるステップにおいて、前記カメラの撮影画像に含まれる、前記操作対象車両の画像の下端位置と前記示唆画像の下端位置とが略一致するように前記示唆画像を表示させる、プログラム。
  2. コンピュータと、カメラと、ディスプレイと、通信機とを有する携帯端末に記憶され、当該携帯端末を用いて、予め登録された操作対象車両を外部から操作するためのプログラムであって、
    前記カメラの撮影画像に含まれる、前記操作対象車両の画像のサイズに基づいて、前記携帯端末から前記操作対象車両までの推定距離を推定するステップと、
    前記推定距離が所定の閾値未満であるか否かを判定するステップと、
    前記推定距離が前記閾値未満である場合に、前記操作対象車両に対する操作指示を受け付けるステップと、
    受け付けた操作指示に応じた動作を指示する信号を前記通信機に出力させるステップと、
    前記携帯端末から前記操作対象車両までの距離が前記閾値と等しいときに前記操作対象車両の画像高さと一致する画像高さを有し、前記携帯端末から前記操作対象車両までの距離が前記閾値未満であるか否かを示唆する示唆画像を、前記カメラの撮影画像に重ねて、前記ディスプレイに表示させるステップと、
    前記カメラのズーミングを禁止するステップとを前記コンピュータに実行させる、プログラム。
  3. 前記カメラのズーミングを禁止するステップを更に前記コンピュータに実行させる、請求項に記載のプログラム。
  4. 前記携帯端末から前記操作対象車両までの距離が前記閾値と等しいときに前記操作対象車両の画像の高さと一致するように、ズーミング時における前記カメラの焦点距離変化に応じて前記示唆画像の画像高さを変化させるステップを更に前記コンピュータに実行させる、請求項1または2に記載のプログラム。
  5. 前記操作対象車両を特定するための車両情報を予め記憶するステップと、
    前記推定距離を推定するステップの前に、前記車両情報に基づいて、前記カメラの撮影画像内の前記操作対象車両の画像を特定するステップとを更に前記コンピュータに実行させる、請求項1~のいずれかに記載のプログラム。
  6. 前記車両情報が、車種、ナンバー、車体色の少なくとも1つである、請求項に記載のプログラム。
  7. 前記推定距離を推定するステップの前に、前記携帯端末に関連付けられた車両に対してランプを点灯させる指示を出力し、前記カメラの撮影画像に含まれる車両の画像であって、前記指示に応答してランプを点灯させた車両の画像を、前記操作対象車両の画像として特定するステップを更に前記コンピュータに実行させる、請求項1~のいずれかに記載のプログラム。
  8. 前記推定距離を推定するステップの前に、ユーザ操作による、前記カメラの撮影画像に含まれる車両の画像の選択を受け付け、ユーザ操作によって選択された車両の画像を前記操作対象車両の画像として特定するステップを更に前記コンピュータに実行させる、請求項1~のいずれかに記載のプログラム。
  9. 前記推定距離が前記閾値以上である場合に、前記操作対象車両に近付くように促す通知を行うステップを更に前記コンピュータに実行させる、請求項1~のいずれかに記載のプログラム。
JP2019000781A 2019-01-07 2019-01-07 車外から車両を操作するためのプログラム Active JP7167716B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019000781A JP7167716B2 (ja) 2019-01-07 2019-01-07 車外から車両を操作するためのプログラム
US16/693,600 US11327478B2 (en) 2019-01-07 2019-11-25 Program for operating vehicle from outside vehicle
DE102019133320.2A DE102019133320B4 (de) 2019-01-07 2019-12-06 Programm zur Bedienung eines Fahrzeugs von außerhalb des Fahrzeugs
US17/657,060 US11767058B2 (en) 2019-01-07 2022-03-29 Program for operating vehicle from outside vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019000781A JP7167716B2 (ja) 2019-01-07 2019-01-07 車外から車両を操作するためのプログラム

Publications (2)

Publication Number Publication Date
JP2020109593A JP2020109593A (ja) 2020-07-16
JP7167716B2 true JP7167716B2 (ja) 2022-11-09

Family

ID=71104608

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019000781A Active JP7167716B2 (ja) 2019-01-07 2019-01-07 車外から車両を操作するためのプログラム

Country Status (3)

Country Link
US (2) US11327478B2 (ja)
JP (1) JP7167716B2 (ja)
DE (1) DE102019133320B4 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7200125B2 (ja) 2017-03-31 2023-01-06 フラウンホーファー-ゲゼルシャフト ツル フェルデルング デル アンゲヴァンテン フォルシュング エー ファウ 低温での温度変化を監視するための低温指標混合物、装置および方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114423656B (zh) * 2019-09-09 2023-11-28 日产自动车株式会社 车辆远程控制方法及车辆远程控制装置
CN112937556B (zh) * 2021-03-08 2022-08-09 重庆长安汽车股份有限公司 一种远程挪车系统及远程挪车方法
US20230188930A1 (en) * 2021-12-14 2023-06-15 Bayerische Motoren Werke Aktiengesellschaft Method and system for accessing a functionality of a vehicle via a mobile device
KR20240008186A (ko) * 2022-07-11 2024-01-18 삼성전자주식회사 Uwb 통신을 이용한 전자 장치의 주차 방법 및 장치

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005189087A (ja) 2003-12-25 2005-07-14 Casio Comput Co Ltd 距離測定装置およびプログラム
JP2007295033A (ja) 2006-04-20 2007-11-08 Toyota Motor Corp 遠隔操作制御装置およびその操作端末
JP2014033320A (ja) 2012-08-02 2014-02-20 Honda Motor Co Ltd 出庫方向・呼び寄せ位置認識装置
JP2016529767A (ja) 2013-06-28 2016-09-23 ダイムラー・アクチェンゲゼルシャフトDaimler AG 車両の機能を遠隔制御するための方法および装置
JP2016225930A (ja) 2015-06-03 2016-12-28 日本電気株式会社 棚割情報生成装置、棚割情報生成システム、棚割情報生成方法、撮像装置、およびプログラム
JP2018176823A (ja) 2017-04-04 2018-11-15 株式会社デンソー 車両用携帯機
JP2019057767A (ja) 2017-09-20 2019-04-11 株式会社デンソー 携帯端末、遠隔操作方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS529767B2 (ja) 1973-10-15 1977-03-18
JPH06255389A (ja) * 1991-02-26 1994-09-13 Mitsubishi Electric Corp 車両の走行制御装置
JP3354447B2 (ja) * 1997-08-05 2002-12-09 本田技研工業株式会社 車両用距離測定装置
JP2015089733A (ja) 2013-11-06 2015-05-11 トヨタ自動車株式会社 駐車支援システム
US9731714B2 (en) 2014-06-25 2017-08-15 Fujitsu Ten Limited Vehicle apparatus
JP6325370B2 (ja) 2014-06-25 2018-05-16 株式会社デンソーテン 車両用装置、車両制御システム、車両制御方法
DE102015223471A1 (de) 2015-11-26 2017-06-01 Bayerische Motoren Werke Aktiengesellschaft System zum Einparken eines Fahrzeugs
US10325519B2 (en) * 2016-11-30 2019-06-18 Nissan North America, Inc. Vehicle tutorial system and method for sending vehicle tutorial to tutorial manager device
US10223849B2 (en) * 2017-03-16 2019-03-05 Robert Bosch Gmbh Intelligent wireless access system and method for a vehicle
US10683034B2 (en) 2017-06-06 2020-06-16 Ford Global Technologies, Llc Vehicle remote parking systems and methods
US10747218B2 (en) * 2018-01-12 2020-08-18 Ford Global Technologies, Llc Mobile device tethering for remote parking assist
US10821972B2 (en) * 2018-09-13 2020-11-03 Ford Global Technologies, Llc Vehicle remote parking assist systems and methods

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005189087A (ja) 2003-12-25 2005-07-14 Casio Comput Co Ltd 距離測定装置およびプログラム
JP2007295033A (ja) 2006-04-20 2007-11-08 Toyota Motor Corp 遠隔操作制御装置およびその操作端末
JP2014033320A (ja) 2012-08-02 2014-02-20 Honda Motor Co Ltd 出庫方向・呼び寄せ位置認識装置
JP2016529767A (ja) 2013-06-28 2016-09-23 ダイムラー・アクチェンゲゼルシャフトDaimler AG 車両の機能を遠隔制御するための方法および装置
JP2016225930A (ja) 2015-06-03 2016-12-28 日本電気株式会社 棚割情報生成装置、棚割情報生成システム、棚割情報生成方法、撮像装置、およびプログラム
JP2018176823A (ja) 2017-04-04 2018-11-15 株式会社デンソー 車両用携帯機
JP2019057767A (ja) 2017-09-20 2019-04-11 株式会社デンソー 携帯端末、遠隔操作方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7200125B2 (ja) 2017-03-31 2023-01-06 フラウンホーファー-ゲゼルシャフト ツル フェルデルング デル アンゲヴァンテン フォルシュング エー ファウ 低温での温度変化を監視するための低温指標混合物、装置および方法

Also Published As

Publication number Publication date
DE102019133320A1 (de) 2020-07-09
US20200218250A1 (en) 2020-07-09
DE102019133320B4 (de) 2023-06-01
US11327478B2 (en) 2022-05-10
US20220214683A1 (en) 2022-07-07
US11767058B2 (en) 2023-09-26
JP2020109593A (ja) 2020-07-16

Similar Documents

Publication Publication Date Title
JP7167716B2 (ja) 車外から車両を操作するためのプログラム
US7659835B2 (en) Method and apparatus for recognizing parking slot by using bird's eye view and parking assist system using the same
KR20200125667A (ko) 차재 카메라 자기 교정 방법과 장치 및 차량 운전 방법과 장치
KR20220095184A (ko) 지능형 주차 방법 및 장치
US10618528B2 (en) Driving assistance apparatus
JP2015055999A (ja) 情報処理装置、ジェスチャー検出方法、およびジェスチャー検出プログラム
CN110612562A (zh) 车载用监视摄像头装置
US20190019414A1 (en) Apparatus and method for reminding vehicle lane change and vehicle
JPWO2017072955A1 (ja) 駐車支援装置及び駐車支援方法
US11538350B2 (en) Service robot and method for operating thereof
JP2005136561A (ja) 車両周辺画像表示装置
US11208147B2 (en) Parking assistance device, parking assistance method, and non-transitory computer readable medium
CN111783595B (zh) 一种车辆泊车方法、装置、车载设备及存储介质
JP2019109602A (ja) 信号機認識装置
JP2013018406A (ja) 駐車枠の認識装置、駐車枠の認識方法、及び、プログラム
KR101481648B1 (ko) 신뢰성 있게 차량 주변 영상을 제공하는 장치
CN112799391B (zh) 用于狭窄车位的泊车方法、装置、车辆及存储介质
JP6407596B2 (ja) 画像処理装置、及び、運転支援システム
US20210280157A1 (en) Vehicle operation system and computer readable non-transitory storage medium
KR20130053605A (ko) 차량의 주변영상 표시 장치 및 그 방법
CN109661688B (zh) 影像输出系统
JP6664411B2 (ja) セキュリティ装置、セキュリティ制御方法、プログラム及び記憶媒体
CN111788088A (zh) 车辆用显示控制装置和显示控制方法
JP2009280046A (ja) 車両移動判定装置および車両移動判定装置用のプログラム
KR20200102010A (ko) 차량 및 그 제어 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210426

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221010

R151 Written notification of patent or utility model registration

Ref document number: 7167716

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151