JP2018081539A - Controller, control method, and program - Google Patents

Controller, control method, and program Download PDF

Info

Publication number
JP2018081539A
JP2018081539A JP2016224003A JP2016224003A JP2018081539A JP 2018081539 A JP2018081539 A JP 2018081539A JP 2016224003 A JP2016224003 A JP 2016224003A JP 2016224003 A JP2016224003 A JP 2016224003A JP 2018081539 A JP2018081539 A JP 2018081539A
Authority
JP
Japan
Prior art keywords
processing
control device
control
output
speaker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016224003A
Other languages
Japanese (ja)
Inventor
真武 下平
Masatake Shimodaira
真武 下平
淳 大杉
Atsushi Osugi
淳 大杉
卓也 根上
Takuya Negami
卓也 根上
町田 哲也
Tetsuya Machida
哲也 町田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Electronic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Electronic Corp filed Critical Pioneer Electronic Corp
Priority to JP2016224003A priority Critical patent/JP2018081539A/en
Publication of JP2018081539A publication Critical patent/JP2018081539A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a method for notifying a driver of information with higher reliability.SOLUTION: The present invention provides a controller 10 including a processing unit 11 for processing detection data of an on-vehicle sensor, and a controller 12. The controller selects one or more output device(s) from among a plurality of output devices, based on processing results by the processing unit 11, and makes the selected output device(s) perform output operation in accordance with the processing results.SELECTED DRAWING: Figure 1

Description

本発明は、制御装置、制御方法及びプログラムに関する。   The present invention relates to a control device, a control method, and a program.

特許文献1には、車両に搭載されるヘッドアップディスプレイ装置が開示されている。当該ヘッドアップディスプレイ装置は、スクリーンに警告の映像を投射する。   Patent Document 1 discloses a head-up display device mounted on a vehicle. The head-up display device projects a warning image on the screen.

特開2015−74391号公報JP2015-74391A

ディスプレイ、スピーカ、ランプ等の出力装置を介して情報を提示したり、警告したりすることで、ドライバーに所定の情報を通知できる。複数の出力装置を組み合わせることで、より確実にドライバーに所定の情報を通知できる。しかし、ドライバーの中には、多くの情報を提供されることを煩わしく感じるものがいる。このようなドライバーは、出力装置から出力された情報に鈍感になり得る。結果、通知すべき情報にドライバーが気付かない等の不都合が発生し得る。   It is possible to notify the driver of predetermined information by presenting information or giving a warning via an output device such as a display, a speaker, or a lamp. By combining a plurality of output devices, predetermined information can be notified to the driver more reliably. However, some drivers find it annoying to be provided with a lot of information. Such a driver may be insensitive to information output from the output device. As a result, inconveniences such as the driver not being aware of the information to be notified may occur.

本発明の課題の一例は、ドライバーにより確実に情報を伝える方法を提供することである。   An example of the subject of this invention is providing the method of conveying information reliably by a driver.

請求項1に記載の本発明は、
車載センサの検出データを処理する処理部と、
前記処理部による処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択し、選択した出力装置に前記処理結果に応じた出力動作を行わせる制御部と、
を有する制御装置である。
The present invention described in claim 1
A processing unit for processing detection data of the in-vehicle sensor;
A control unit that selects one or a plurality of output devices from a plurality of output devices based on the processing results by the processing unit, and causes the selected output devices to perform an output operation according to the processing results;
Is a control device.

請求項11に記載の発明は、
コンピュータが、
車載センサの検出データを処理する処理工程と、
前記処理工程での処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択し、選択した出力装置に前記処理結果に応じた出力動作を行わせる制御工程と、
を実行する制御方法である。
The invention according to claim 11
Computer
A process for processing the detection data of the in-vehicle sensor;
A control step of selecting one or a plurality of output devices from a plurality of output devices based on the processing results in the processing step, and causing the selected output devices to perform an output operation according to the processing results;
Is a control method for executing

請求項12に記載の発明は、
コンピュータを、
車載センサの検出データを処理する処理手段、
前記処理手段による処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択し、選択した出力装置に前記処理結果に応じた出力動作を行わせる制御手段、
として機能させるプログラムである。
The invention according to claim 12
Computer
Processing means for processing the detection data of the in-vehicle sensor;
Control means for selecting one or a plurality of output devices from a plurality of output devices based on the processing results by the processing means, and causing the selected output devices to perform an output operation according to the processing results;
It is a program that functions as

本実施形態の制御装置の機能ブロック図の一例を示す図である。It is a figure which shows an example of the functional block diagram of the control apparatus of this embodiment. 本実施形態の制御装置のハードウエア構成の一例を示すブロック図である。It is a block diagram which shows an example of the hardware constitutions of the control apparatus of this embodiment. 本実施形態の制御装置の処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of a process of the control apparatus of this embodiment.

以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. In all the drawings, the same reference numerals are given to the same components, and the description will be omitted as appropriate.

まず、本実施形態の概要を説明する。本実施形態の制御装置は、車両に搭載される車載装置である。車両は、自動運転機能を備えることができる。制御装置は、自車両(制御装置を搭載した車両。以下同様。)を制御したり、自車両に搭載された出力装置を制御したりする。出力装置は、ディスプレイ装置(例:据置型のディスプレイ装置、ヘッドアップディスプレイ装置、ヘッドマウントディスプレイ装置等。)、スピーカ、ランプ、振動発生装置等が例示される。   First, an outline of the present embodiment will be described. The control device of the present embodiment is an on-vehicle device mounted on a vehicle. The vehicle can have an automatic driving function. The control device controls the host vehicle (a vehicle on which the control device is mounted; the same applies hereinafter) and controls an output device mounted on the host vehicle. Examples of the output device include a display device (eg, a stationary display device, a head-up display device, a head-mounted display device, etc.), a speaker, a lamp, a vibration generating device, and the like.

制御装置は、処理部と、制御部とを有する。処理部は、車載センサの検出データを処理する。制御部は、処理部の処理結果に基づき、自車両を制御する。また、制御部は、処理部の処理結果に基づき出力装置を制御し、自車両の制御内容等を通知させる。   The control device includes a processing unit and a control unit. The processing unit processes detection data of the in-vehicle sensor. The control unit controls the host vehicle based on the processing result of the processing unit. Moreover, a control part controls an output device based on the process result of a process part, and notifies the control content etc. of the own vehicle.

なお、制御部は、処理部による処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択する。そして、制御部は、選択した出力装置に処理結果に応じた出力動作を行わせる。   The control unit selects one or a plurality of output devices from a plurality of output devices based on the processing result by the processing unit. Then, the control unit causes the selected output device to perform an output operation according to the processing result.

このような本実施形態の制御装置によれば、検出データの処理結果に関わらず一律に同じ出力装置に出力動作を行わせるのでなく、検出データの処理結果に応じて出力動作を行わせる出力装置を変えることができる。   According to such a control apparatus of the present embodiment, an output device that does not cause the same output device to perform an output operation uniformly regardless of the detection data processing result, but performs an output operation according to the detection data processing result. Can be changed.

例えば、重要度が低い情報に関しては、ディスプレイ装置のみに出力動作を行わせ、重要度が高い情報に関しては、ディスプレイ装置と他の出力装置とを含む複数の出力装置に出力動作を行わせることができる。通常時の出力動作(ディスプレイ装置のみの出力動作)と異なる出力動作(ディスプレイ装置と他の出力装置とによる出力動作)により、ドライバーに、重要度が高い情報が通知されていることを認識させることができる。結果、重要度が高い情報をより確実にドライバーに通知することができる。   For example, for low-importance information, only the display device performs an output operation, and for high-importance information, a plurality of output devices including the display device and other output devices can perform the output operation. it can. Make the driver recognize that high-priority information has been notified by an output operation (output operation by the display device and another output device) that is different from the normal output operation (output operation only by the display device). Can do. As a result, highly important information can be notified to the driver more reliably.

次に、本実施形態の制御装置の構成を詳細に説明する。制御装置は、車両に搭載される車載装置である。制御装置は、例えばECU(Electronic Control Unit)である。   Next, the configuration of the control device of the present embodiment will be described in detail. The control device is an in-vehicle device mounted on the vehicle. The control device is, for example, an ECU (Electronic Control Unit).

図1に、本実施形態の制御装置10の機能ブロック図の一例を示す。図示するように、制御装置10は、処理部11と、制御部12とを有する。   In FIG. 1, an example of the functional block diagram of the control apparatus 10 of this embodiment is shown. As illustrated, the control device 10 includes a processing unit 11 and a control unit 12.

まず、これら機能部を実現する制御装置10のハードウエア構成の一例を説明する。各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)、SD等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。   First, an example of a hardware configuration of the control device 10 that realizes these functional units will be described. Each functional unit includes an arbitrary computer CPU (Central Processing Unit), a memory, a program loaded into the memory, a storage unit such as a hard disk for storing the program (in addition to a program stored in advance from the stage of shipping the device) It is also possible to store a program downloaded from a storage medium such as a CD (Compact Disc) and SD, a server on the Internet, etc.), and an arbitrary combination of hardware and software centering on a network connection interface. It will be understood by those skilled in the art that there are various modifications to the implementation method and apparatus.

図2は、本実施形態の制御装置10のハードウエア構成を例示するブロック図である。図2に示すように、制御装置10は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。なお、周辺回路4Aを有さなくてもよい。   FIG. 2 is a block diagram illustrating a hardware configuration of the control device 10 according to this embodiment. As shown in FIG. 2, the control device 10 includes a processor 1A, a memory 2A, an input / output interface 3A, a peripheral circuit 4A, and a bus 5A. The peripheral circuit 4A includes various modules. The peripheral circuit 4A may not be provided.

バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPUやGPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置(例:キーボード、マウス、マイク、タッチパネルディスプレイ装置、タッチセンサー、ジェスチャーインターフェース等)、外部装置、外部サーバ、外部センサ等から情報を取得するためのインターフェイスや、出力装置(例:ディスプレイ装置、スピーカ、ランプ、振動発生装置等。)、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。   The bus 5A is a data transmission path through which the processor 1A, the memory 2A, the peripheral circuit 4A, and the input / output interface 3A transmit / receive data to / from each other. The processor 1A is an arithmetic processing device such as a CPU or a GPU (Graphics Processing Unit). The memory 2A is a memory such as a RAM (Random Access Memory) or a ROM (Read Only Memory). The input / output interface 3A is an interface for acquiring information from an input device (eg, keyboard, mouse, microphone, touch panel display device, touch sensor, gesture interface, etc.), external device, external server, external sensor, etc., or an output device (Example: display device, speaker, lamp, vibration generating device, etc.), an external device, an interface for outputting information to an external server, and the like. The processor 1A can issue a command to each module and perform a calculation based on the calculation result.

次に、図1に示す各機能部の機能を詳細に説明する。   Next, the function of each functional unit shown in FIG. 1 will be described in detail.

処理部11は、車載センサの検出データを処理する。車載センサの種類は制限されない。例えば、車載センサは、自車両の外部を撮影するカメラ、自車両の内部を撮影するカメラ、自車両の外部をセンシングするライダー(LIDAR:Laser Illuminated Detection And Ranging、Laser Imaging Detection And RangingまたはLiDAR:Light Detection And Ranging)やレーダ、自車両の位置を特定するセンサ(例:GPS(Global Positioning System)センサ。)等が例示されるが、これらに限定されない。   The processing unit 11 processes the detection data of the in-vehicle sensor. The type of in-vehicle sensor is not limited. For example, in-vehicle sensors include a camera that captures the exterior of the vehicle, a camera that captures the interior of the vehicle, and a rider that senses the exterior of the vehicle (LIDAR: Laser Illuminated Detection And Ranging, Laser Imaging Detection And Ranging or LiDAR: Light. Examples include, but are not limited to, sensors such as Detection And Ranging), radar, and a sensor that identifies the position of the vehicle (eg, a GPS (Global Positioning System) sensor).

処理部11は、上述のような各種車載センサによる検出データを処理し、処理結果を制御部12に入力する。例えば、処理部11は、ライダーやレーダの検出データを処理し、自車両の周囲(例:前方。)に位置する物体を特定したり、物体までの距離を特定したり、道路状況(例:凹凸の有無、凹凸のレベル等。)を特定したりできる。また、処理部11は、自車両の外部を撮影するカメラによる撮影画像を処理し、自車両の周囲に位置する物体の属性(例:人、車両、自転車、看板等。)を特定したり、特定した物体の移動方向を予測したりできる。また、処理部11は、自車両の内部を撮影するカメラによる撮影画像を処理し、ドライバーの状況(例:視線方向。)を特定することができる。また、処理部11は、自車両の現在位置と地図データとに基づき、自動運転から手動運転への切り替え位置の近接を検出したり、所定レベル以上の曲率のカーブ位置の近接を検出したりできる。この場合、予め、地図データに自動運転から手動運転への切り替え位置や所定レベル以上の曲率のカーブ位置が登録されている。   The processing unit 11 processes detection data from various on-vehicle sensors as described above, and inputs the processing result to the control unit 12. For example, the processing unit 11 processes the detection data of the rider and the radar, specifies an object located around the host vehicle (eg, forward), specifies the distance to the object, and road conditions (eg: The presence or absence of unevenness, the level of unevenness, etc.). In addition, the processing unit 11 processes an image captured by a camera that captures the outside of the host vehicle, and specifies attributes (eg, a person, a vehicle, a bicycle, a signboard, etc.) of an object located around the host vehicle, It is possible to predict the moving direction of the identified object. In addition, the processing unit 11 can process a captured image by a camera that captures the inside of the host vehicle, and can specify a driver's situation (eg, line-of-sight direction). Further, the processing unit 11 can detect the proximity of the switching position from the automatic driving to the manual driving based on the current position of the host vehicle and the map data, or can detect the proximity of the curve position having a curvature higher than a predetermined level. . In this case, a switching position from automatic operation to manual operation and a curve position with a curvature higher than a predetermined level are registered in advance in the map data.

処理部11は、あらゆる技術を採用して、上述のような処理結果を算出することができる。なお、ここで例示した処理部11による処理内容はあくまで一例であり、これらに限定されない。   The processing unit 11 can employ any technique and calculate the processing result as described above. In addition, the processing content by the process part 11 illustrated here is an example to the last, and is not limited to these.

制御部12は、処理部11の処理結果に基づき、自車両の制御内容を決定することができる。また、制御部12は、処理部11の処理結果に基づき、決定した制御内容の実行タイミングを決定することができる。そして、制御部12は、決定した実行タイミングで決定した制御内容を自車両に実行させることができる。   The control unit 12 can determine the control content of the host vehicle based on the processing result of the processing unit 11. Further, the control unit 12 can determine the execution timing of the determined control content based on the processing result of the processing unit 11. And the control part 12 can make the own vehicle perform the control content determined at the determined execution timing.

自車両の制御内容は、右左折、減速、所定位置での停止、車線変更、加速、左右方向のズレ動作、バック等が例示されるが、これらに限定されない。実行タイミングは、例えば、現時点からt秒後等のように決定される。通常時には、車内の人間に負担とならないように、制御内容の通知(予告)から実行までの間にある程度の余裕を持って実行される。すなわち、上記tの値は比較的大きな値となる。一方、緊急時には事故回避を優先してできるだけ早く実行される。すなわち、上記tの値は比較的小さな値(例えば、0。すなわち、直ちに実行。)となる。   Examples of the control content of the host vehicle include right / left turn, deceleration, stop at a predetermined position, lane change, acceleration, left / right shift operation, and back, but are not limited thereto. The execution timing is determined, for example, t seconds after the current time. In normal times, it is executed with a certain margin between the notification (preliminary notice) of the control contents and the execution so as not to be a burden on the person in the vehicle. That is, the value of t is a relatively large value. On the other hand, in an emergency, it is executed as soon as possible with priority on avoiding accidents. In other words, the value of t is a relatively small value (for example, 0, that is, immediately executed).

処理部11による上述のような処理結果から、上述のような制御内容や実行タイミングを決定するアルゴリズムは設計的事項であり、あらゆる技術を採用できる。また、自車両の制御手段も設計的事項であり、あらゆる技術を採用できる。   The algorithm for determining the control content and execution timing as described above from the processing result as described above by the processing unit 11 is a design matter, and any technique can be adopted. Further, the control means of the own vehicle is also a design matter, and any technique can be adopted.

また、制御部12は、処理部11による処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択する。そして、制御部12は、選択した出力装置に処理結果に応じた出力動作を行わせる。   Further, the control unit 12 selects one or a plurality of output devices from a plurality of output devices based on the processing result by the processing unit 11. Then, the control unit 12 causes the selected output device to perform an output operation according to the processing result.

出力装置は、自車両に設置される。出力装置は、例えば、ディスプレイ装置と、スピーカ、ランプ及び振動発生装置の中の少なくとも1つを含む。ディスプレイ装置は、据置型のディスプレイ装置、ヘッドアップディスプレイ装置、ヘッドマウントディスプレイ装置等が例示される。振動発生装置は、ドライバーに振動を伝えることができる任意の位置に設置される。例えば、振動発生装置は、ドライバーが座るシートに設置されてもよいし、ハンドルに設置されてもよい。振動発生装置の構成は設計的事項である。   The output device is installed in the host vehicle. The output device includes, for example, at least one of a display device, a speaker, a lamp, and a vibration generating device. Examples of the display device include a stationary display device, a head-up display device, and a head-mounted display device. The vibration generator is installed at an arbitrary position where vibration can be transmitted to the driver. For example, the vibration generator may be installed on a seat on which a driver sits, or may be installed on a handle. The configuration of the vibration generator is a design matter.

制御部12は、処理部11による処理結果が予め定められた警告を要する状況を示している場合、スピーカ、ランプ及び振動発生装置の中の少なくとも1つを選択して、警告動作を行わせる。警告動作は、スピーカからの警告音(例:ピー音、サイレン音等。)の出力や警告情報の出力、ランプの点灯や点滅、振動発生装置による振動の発生等である。   When the result of processing by the processing unit 11 indicates a situation requiring a predetermined warning, the control unit 12 selects at least one of a speaker, a lamp, and a vibration generating device to perform a warning operation. The warning operation includes output of a warning sound (eg, beep sound, siren sound, etc.) from a speaker, output of warning information, lighting or blinking of a lamp, generation of vibration by a vibration generating device, and the like.

なお、処理部11による処理結果が予め定められた警告を要する状況を示している場合、制御部12は、スピーカ、ランプ及び振動発生装置の中の少なくとも1つに加えて、ディスプレイ装置を選択し、ディスプレイ装置に警告情報を表示させてもよい。   When the processing result by the processing unit 11 indicates a situation requiring a predetermined warning, the control unit 12 selects a display device in addition to at least one of a speaker, a lamp, and a vibration generating device. The warning information may be displayed on the display device.

すなわち、処理部11による処理結果が予め定められた警告を要する状況を示している場合、制御部12は、ディスプレイ装置と、スピーカ、ランプ及び振動発生装置の中の少なくとも1つとを含む複数の出力装置に出力動作を行わせてもよい。かかる場合、警告内容をより確実に、ドライバーに通知することができる。   That is, when the processing result by the processing unit 11 indicates a situation requiring a predetermined warning, the control unit 12 includes a plurality of outputs including a display device and at least one of a speaker, a lamp, and a vibration generating device. The apparatus may perform an output operation. In such a case, the warning content can be notified to the driver more reliably.

処理部11による処理結果が予め定められた警告を要する状況は、例えば、車両の緊急動作を要する状況、車両の挙動の変化を要する状況、自動運転から手動運転への切り替えを要する状況、所定レベル以上の曲率のカーブ進入、及び、所定の道路状況の中の少なくとも1つを含んでもよい。   The situation where the processing result by the processing unit 11 requires a predetermined warning is, for example, a situation requiring an emergency operation of the vehicle, a situation requiring a change in the behavior of the vehicle, a situation requiring switching from automatic driving to manual driving, a predetermined level It may include at least one of the above-described curvature approach and a predetermined road condition.

車両の緊急動作を要する状況は、例えば、処理部11の処理結果に基づき、現時点からT秒以内に自車両に所定の動作(例:減速、停止、車線変更等。)を実行させることが決定された場合である。Tの具体的な値は設計的事項である。かかる場合、ディスプレイ装置は、警告情報として、緊急動作する旨の通知、その動作内容、緊急動作を行うタイミング等を出力することができる。例えば、ディスプレイ装置は、「緊急停止します。」等の情報を警告情報として出力してもよい。また、これに加えて、スピーカ、ランプ及び振動発生装置の中の少なくとも1つは、警告動作を行うことができる。   The situation requiring the emergency operation of the vehicle is determined, for example, based on the processing result of the processing unit 11 to cause the host vehicle to execute a predetermined operation (eg, deceleration, stop, lane change, etc.) within T seconds from the present time. This is the case. The specific value of T is a design matter. In such a case, the display device can output, as warning information, a notification that an emergency operation is to be performed, the details of the operation, the timing for performing the emergency operation, and the like. For example, the display device may output information such as “emergency stop” as warning information. In addition to this, at least one of the speaker, the lamp, and the vibration generator can perform a warning operation.

車両の挙動の変化を要する状況は、例えば、処理部11の処理結果に基づき、自車両の制御内容として右左折、車線変更、減速、加速、停止、左右方向のズレ動作、バック等、予め定められた所定の動作を決定された場合である。かかる場合、ディスプレイ装置は、警告情報として、これから車両の挙動の変化がある旨の通知、その動作内容、当該動作を行うタイミング等を出力することができる。例えば、ディスプレイ装置は、「○○秒後に減速します。」等の情報を警告情報として出力してもよい。また、これに加えて、スピーカ、ランプ及び振動発生装置の中の少なくとも1つは、警告動作を行うことができる。   The situation requiring the change in the behavior of the vehicle is determined in advance based on the processing result of the processing unit 11 such as right / left turn, lane change, deceleration, acceleration, stop, left / right shift operation, back, etc. This is a case where a predetermined operation is determined. In such a case, the display device can output, as warning information, a notification that there is a change in the behavior of the vehicle, the details of the operation, the timing for performing the operation, and the like. For example, the display device may output information such as “decelerate after XX seconds” as warning information. In addition to this, at least one of the speaker, the lamp, and the vibration generator can perform a warning operation.

所定の道路状況は、例えば、処理部11の処理結果に基づき、自車両の前方の道路表面の凹凸が所定レベル以上と判断された場合である。かかる場合、ディスプレイ装置は、警告情報として、検出された道路状況等を出力することができる。例えば、ディスプレイ装置は、「前方の道はでこぼこしています。」等の情報を警告情報として出力してもよい。また、これに加えて、スピーカ、ランプ及び振動発生装置の中の少なくとも1つは、警告動作を行うことができる。   The predetermined road condition is, for example, a case where the unevenness on the road surface ahead of the host vehicle is determined to be equal to or higher than a predetermined level based on the processing result of the processing unit 11. In such a case, the display device can output the detected road condition or the like as warning information. For example, the display device may output information such as “the road ahead is bumpy” as warning information. In addition to this, at least one of the speaker, the lamp, and the vibration generator can perform a warning operation.

自動運転から手動運転への切り替えを要する状況は、例えば、処理部11の処理結果に基づき、自動運転から手動運転への切り替えが必要と判断された場合である。かかる場合、ディスプレイ装置は、警告情報として、当該旨を出力することができる。例えば、ディスプレイ装置は、「自動運転から手動運転への切り替えが必要です。」等の情報を警告情報として出力してもよい。また、これに加えて、スピーカ、ランプ及び振動発生装置の中の少なくとも1つは、警告動作を行うことができる。   The situation that requires switching from automatic operation to manual operation is, for example, a case where it is determined that switching from automatic operation to manual operation is necessary based on the processing result of the processing unit 11. In such a case, the display device can output the fact as warning information. For example, the display device may output information such as “switching from automatic operation to manual operation is necessary” as warning information. In addition to this, at least one of the speaker, the lamp, and the vibration generator can perform a warning operation.

所定レベル以上の曲率のカーブ進入は、例えば、処理部11の処理結果に基づき特定される。処理部11は、自車両の現在位置と、決定された目的地までの経路と、地図データとに基づき、上記カーブ進入を事前に特定する。かかる場合、ディスプレイ装置は、警告情報として、当該旨を出力することができる。例えば、ディスプレイ装置は、「大きなカーブに進入します。」等の情報を警告情報として出力してもよい。また、これに加えて、スピーカ、ランプ及び振動発生装置の中の少なくとも1つは、警告動作を行うことができる。   A curve approach having a curvature of a predetermined level or higher is specified based on the processing result of the processing unit 11, for example. The processing unit 11 specifies the curve approach in advance based on the current position of the host vehicle, the determined route to the destination, and the map data. In such a case, the display device can output the fact as warning information. For example, the display device may output information such as “entering a large curve” as warning information. In addition to this, at least one of the speaker, the lamp, and the vibration generator can perform a warning operation.

なお、処理部11による処理結果が上述のような予め定められた警告を要する状況を示している場合、制御部12は、ドライバーの状況及び自車両の車内状況の少なくとも一方を特定し、特定結果に基づき、スピーカ、ランプ及び振動発生装置の中の少なくとも1つを選択してもよい。   When the processing result by the processing unit 11 indicates a situation requiring a predetermined warning as described above, the control unit 12 identifies at least one of the driver's situation and the in-vehicle situation of the host vehicle, and the identification result Based on the above, at least one of a speaker, a lamp, and a vibration generator may be selected.

例えば、制御部12は、任意の手段で、車内の騒音レベルを特定してもよい。そして、制御部12は、車内の騒音レベルが所定レベル以上である場合、ランプ及び振動発生装置の中の少なくとも1つを選択してもよい。   For example, the control unit 12 may specify the noise level in the vehicle by any means. And the control part 12 may select at least 1 among a lamp | ramp and a vibration generator, when the noise level in a vehicle is more than predetermined level.

他の例として、制御部12は、任意の手段で、ドライバーが向く方向(ドライバーの視線方向)を特定してもよい。そして、制御部12は、ドライバーがランプの方向を見ていない場合、スピーカ及び振動発生装置の中の少なくとも1つを選択してもよい。   As another example, the control unit 12 may specify the direction in which the driver faces (direction of the driver's line of sight) by any means. The control unit 12 may select at least one of the speaker and the vibration generating device when the driver does not look at the lamp direction.

このように、制御部12は、ドライバーの状況及び自車両の車内状況に基づき、より確実にドライバーに警告を通知できる出力装置を選択してもよい。   In this way, the control unit 12 may select an output device that can more reliably notify the driver of a warning based on the driver's situation and the in-vehicle situation of the host vehicle.

なお、制御部12は、処理部11による処理結果が予め定められた警告を要する状況を示していない場合、スピーカ、ランプ及び振動発生装置を選択せず、ディスプレイ装置を選択し、ディスプレイ装置に処理結果に関する情報を表示させることができる。処理結果に関する情報は、例えば、処理結果そのもの(例:自車両の周辺で検出された対象物、その属性、その位置等。)や、処理結果に基づき決定された自車両の制御内容や実行タイミングなどである。   In addition, when the processing result by the processing unit 11 does not indicate a situation requiring a predetermined warning, the control unit 12 selects a display device without selecting a speaker, a lamp, and a vibration generation device, and performs processing on the display device. Information about the result can be displayed. The information related to the processing result includes, for example, the processing result itself (eg, an object detected in the vicinity of the host vehicle, its attribute, its position, etc.), the control content and execution timing of the host vehicle determined based on the processing result. Etc.

また、制御部12は、スピーカに処理結果に応じた出力動作を行わせる時に、スピーカが他の音を出力している場合、他の音の出力を停止させ、処理結果に応じた出力動作を優先して行わせることができる。   In addition, when the control unit 12 causes the speaker to perform an output operation according to the processing result, if the speaker outputs another sound, the control unit 12 stops the output of the other sound and performs the output operation according to the processing result. Priority can be given.

次に、図3のフローチャートを用いて、本実施形態の制御装置10の処理の流れの一例を説明する。   Next, an example of the flow of processing of the control device 10 of this embodiment will be described using the flowchart of FIG.

S10では、処理部11は、自車両の車載センサによる検出データを連続的に取得し、処理する。そして、処理部11は、処理結果を、リアルタイムに制御部12に入力する。制御部12は、処理部11による処理結果に基づき、自車両の制御内容や実行タイミングを決定する。その後、制御部12は、決定した実行タイミングで決定した内容を自車両に実行させる。   In S <b> 10, the processing unit 11 continuously acquires and processes detection data from the vehicle-mounted sensor of the host vehicle. Then, the processing unit 11 inputs the processing result to the control unit 12 in real time. The control unit 12 determines the control content and execution timing of the host vehicle based on the processing result of the processing unit 11. Then, the control part 12 makes the own vehicle perform the content determined at the determined execution timing.

S11では、制御部12は、処理部11による処理結果に基づき、処理結果に応じた出力動作を行わせる出力装置を選択する。S12では、制御部12は、S11で選択した出力装置に、処理部11による処理結果に応じた出力動作を行わせる。   In S <b> 11, the control unit 12 selects an output device that performs an output operation according to the processing result based on the processing result by the processing unit 11. In S <b> 12, the control unit 12 causes the output device selected in S <b> 11 to perform an output operation according to the processing result by the processing unit 11.

例えば、処理結果が予め定められた警告を要する状況を示している場合、スピーカ、ランプ及び振動発生装置の中の少なくとも1つと、ディスプレイ装置とが選択される。スピーカ、ランプ及び振動発生装置の中の少なくとも1つは、警告動作を行う。例えば、スピーカは警告音(例:ピー音、サイレン音等。)の出力や警告情報の出力等を行う。ランプは、点灯や点滅等を行う。振動発生装置は、振動を発生する。そして、ディスプレイ装置は、警告情報を表示する。   For example, when the processing result indicates a situation that requires a predetermined warning, at least one of a speaker, a lamp, and a vibration generator and a display device are selected. At least one of the speaker, the lamp, and the vibration generator performs a warning operation. For example, the speaker outputs a warning sound (e.g., beep sound, siren sound, etc.), outputs warning information, and the like. The lamp is lit or flashing. The vibration generator generates vibration. Then, the display device displays warning information.

一方、処理結果が予め定められた警告を要する状況を示していない場合、スピーカ、ランプ及び振動発生装置は選択されず、ディスプレイ装置が選択される。ディスプレイ装置は、処理結果に関する情報、例えば、処理部11による処理結果そのもの(例:自車両の周辺で検出された対象物、その属性、その位置等。)や、処理結果に基づき決定された自車両の制御内容や実行タイミング等を表示する。   On the other hand, when the processing result does not indicate a situation requiring a predetermined warning, the speaker, the lamp, and the vibration generating device are not selected, and the display device is selected. The display device is information related to the processing result, for example, the processing result itself by the processing unit 11 (for example, an object detected in the vicinity of the host vehicle, its attribute, its position, etc.) and the self-determined based on the processing result. The control contents and execution timing of the vehicle are displayed.

以上、説明した本実施形態の制御装置10によれば、車載センサの検出データの処理結果に基づき、処理結果に応じた出力動作を行わせる出力装置を選択し、選択した出力装置に当該出力動作を行わせることができる。   As described above, according to the control device 10 of the present embodiment described above, based on the processing result of the detection data of the in-vehicle sensor, the output device that performs the output operation according to the processing result is selected, and the selected output device performs the output operation. Can be performed.

このような本実施形態の制御装置10によれば、検出データの処理結果に関わらず一律に同じ出力装置に出力動作を行わせるのでなく、検出データの処理結果に応じて出力動作を行わせる出力装置を変えることができる。   According to the control device 10 of the present embodiment as described above, an output that causes an output operation to be performed according to a detection data processing result, instead of causing the same output device to perform an output operation uniformly regardless of the detection data processing result. You can change the device.

例えば、検出データの処理結果が警告を要する状況を示している場合、ディスプレイ装置による警告情報の表示と、スピーカ、ランプ及び振動発生装置の中の少なくとも1つによる警告動作とを行わせることができる。そして、検出データの処理結果が警告を要する状況を示していない場合は、スピーカ、ランプ及び振動発生装置による出力動作を行わせず、ディスプレイ装置による処理結果に関する情報の表示のみを行せることができる。   For example, when the detection data processing result indicates a situation that requires a warning, warning information can be displayed by the display device and a warning operation can be performed by at least one of a speaker, a lamp, and a vibration generator. . If the processing result of the detection data does not indicate a situation that requires a warning, the output operation by the speaker, the lamp, and the vibration generator is not performed, and only the information on the processing result by the display device can be displayed. .

このように、通常時の出力を最小限に抑え(ディスプレイ装置のみの出力動作)、警告を要する際の出力通常時よりも増やすことで(ディスプレイ装置と他の出力装置とによる出力動作)、警告を要する際の出力動作に対してドライバーを敏感にさせることができる。結果、ドライバーに通知すべき情報をより確実にドライバーに通知することができる。   In this way, the normal output is minimized (output operation only for the display device), and the output when the warning is required is increased from the normal time (output operation by the display device and other output devices). It is possible to make the driver sensitive to the output operation when required. As a result, the information to be notified to the driver can be more reliably notified to the driver.

また、通常時の出力を最小限に抑えることで、提供する情報過多によりドライバーに煩わしく思われる不都合を軽減できる。結果、出力装置から出力される情報に対してドライバーを敏感にすることができ、ドライバーに通知すべき情報をより確実にドライバーに通知することができる。   In addition, by minimizing the normal output, it is possible to reduce the inconvenience that seems to be annoying to the driver due to excessive information to be provided. As a result, the driver can be made sensitive to information output from the output device, and information to be notified to the driver can be more reliably notified to the driver.

自動運転中には、ドライバーも他の事に気を取られる場合がある。上述のような手段で出力装置から出力される情報に対してドライバーを敏感にさせることができる本実施形態の制御装置10によれば、自動運転中においても、ドライバーに通知すべき情報をより確実にドライバーに通知することができる。   During automatic driving, the driver may be distracted by other things. According to the control device 10 of the present embodiment that can make the driver sensitive to the information output from the output device by the means as described above, the information to be notified to the driver is more reliable even during automatic driving. The driver can be notified.

また、本実施形態の制御装置10によれば、ドライバーの状況及び車内状況等に基づき、スピーカ、ランプ及び振動発生装置の中の少なくとも1つを選択し、出力動作を行わせることができる。すなわち、その状況下でより確実にドライバーに警告を伝えることができる出力装置を選択し、出力動作を行わせることができる。結果、ドライバーに通知すべき情報をより確実にドライバーに通知することができる。   Further, according to the control device 10 of the present embodiment, it is possible to select at least one of a speaker, a lamp, and a vibration generating device based on the driver's situation and the in-vehicle situation, and perform an output operation. That is, it is possible to select an output device that can transmit a warning to the driver more reliably under the circumstances, and to perform an output operation. As a result, the information to be notified to the driver can be more reliably notified to the driver.

また、本実施形態の制御装置10によれば、スピーカに処理結果に応じた出力動作を行わせる時に、スピーカが他の音を出力している場合、他の音の出力を停止させ、処理結果に応じた出力動作を優先して行わせることができる。結果、ドライバーに通知すべき情報をより確実にドライバーに通知することができる。   Further, according to the control device 10 of the present embodiment, when the speaker outputs another sound according to the processing result, if the speaker outputs another sound, the output of the other sound is stopped, and the processing result It is possible to give priority to the output operation according to the above. As a result, the information to be notified to the driver can be more reliably notified to the driver.

以上、図面を参照して実施形態及び実施例について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。   As mentioned above, although embodiment and the Example were described with reference to drawings, these are illustrations of this invention and can also employ | adopt various structures other than the above.

1A プロセッサ
2A メモリ
3A 入出力I/F
4A 周辺回路
5A バス
10 制御装置
11 処理部
12 制御部
1A processor 2A memory 3A I / O I / F
4A peripheral circuit 5A bus 10 control device 11 processing unit 12 control unit

Claims (12)

車載センサの検出データを処理する処理部と、
前記処理部による処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択し、選択した出力装置に前記処理結果に応じた出力動作を行わせる制御部と、
を有する制御装置。
A processing unit for processing detection data of the in-vehicle sensor;
A control unit that selects one or a plurality of output devices from a plurality of output devices based on the processing results by the processing unit, and causes the selected output devices to perform an output operation according to the processing results;
Control device.
請求項1に記載の制御装置において、
複数の出力装置は、ディスプレイ装置と、スピーカ、ランプ及び振動発生装置の中の少なくとも1つとを含む制御装置。
The control device according to claim 1,
The plurality of output devices are a control device including a display device and at least one of a speaker, a lamp, and a vibration generator.
請求項2に記載の制御装置において、
前記制御部は、前記処理結果が予め定められた警告を要する状況を示している場合、スピーカ、ランプ及び振動発生装置の中の少なくとも1つを選択して、警告動作を行わせる制御装置。
The control device according to claim 2,
When the processing result indicates a situation requiring a predetermined warning, the control unit selects at least one of a speaker, a lamp, and a vibration generation device and performs a warning operation.
請求項3に記載の制御装置において、
前記制御部は、前記処理結果が前記警告を要する状況を示している場合、スピーカ、ランプ及び振動発生装置の中の少なくとも1つに加えて、ディスプレイ装置を選択し、ディスプレイ装置に警告情報を表示させる制御装置。
The control device according to claim 3,
The control unit selects a display device and displays warning information on the display device in addition to at least one of a speaker, a lamp, and a vibration generator when the processing result indicates a situation requiring the warning. Control device to let you.
請求項3又は4に記載の制御装置において、
前記警告を要する状況は、車両の緊急動作を要する状況、車両の挙動の変化を要する状況、自動運転から手動運転への切り替えを要する状況、所定レベル以上の曲率のカーブ進入、及び、所定の道路状況の中の少なくとも1つを含む制御装置。
The control device according to claim 3 or 4,
The situation requiring the warning includes a situation requiring an emergency operation of the vehicle, a situation requiring a change in the behavior of the vehicle, a situation requiring switching from automatic driving to manual driving, entering a curve with a curvature exceeding a predetermined level, and a predetermined road A control device including at least one of the situations.
請求項3から5のいずれか1項に記載の制御装置において、
前記制御部は、ドライバーの状況及び車内状況の少なくとも一方を特定し、特定結果に基づき、スピーカ、ランプ及び振動発生装置の中の少なくとも1つを選択する制御装置。
The control device according to any one of claims 3 to 5,
The control unit is a control device that specifies at least one of a driver's situation and an in-vehicle situation, and selects at least one of a speaker, a lamp, and a vibration generation device based on the identification result.
請求項6に記載の制御装置において、
前記制御部は、車内の騒音レベルが所定レベル以上である場合、ランプ及び振動発生装置の中の少なくとも1つを選択する制御装置。
The control device according to claim 6,
The said control part is a control apparatus which selects at least 1 among a lamp | ramp and a vibration generator, when the noise level in a vehicle is more than predetermined level.
請求項6又は7に記載の制御装置において、
前記制御部は、ドライバーがランプの方向を見ていない場合、スピーカ及び振動発生装置の中の少なくとも1つを選択する制御装置。
The control device according to claim 6 or 7,
The control unit is a control device that selects at least one of a speaker and a vibration generator when the driver does not look at the lamp direction.
請求項2から8のいずれか1項に記載の制御装置において、
前記制御部は、前記処理結果が前記警告を要する状況を示していない場合、スピーカ、ランプ及び振動発生装置を選択せず、ディスプレイ装置を選択し、ディスプレイ装置に前記処理結果に関する情報を表示させる制御装置。
The control device according to any one of claims 2 to 8,
When the processing result does not indicate a situation requiring the warning, the control unit selects a display device without selecting a speaker, a lamp, and a vibration generation device, and causes the display device to display information about the processing result. apparatus.
請求項2から9のいずれか1項に記載の制御装置において、
前記制御部は、スピーカに前記処理結果に応じた出力動作を行わせる時に、スピーカが他の音を出力している場合、他の音の出力を停止させ、前記処理結果に応じた出力動作を優先して行わせる制御装置。
The control device according to any one of claims 2 to 9,
When the speaker outputs another sound according to the processing result when the speaker outputs another sound, the control unit stops the output of the other sound and performs the output operation according to the processing result. A control device that is given priority.
コンピュータが、
車載センサの検出データを処理する処理工程と、
前記処理工程での処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択し、選択した出力装置に前記処理結果に応じた出力動作を行わせる制御工程と、
を実行する制御方法。
Computer
A process for processing the detection data of the in-vehicle sensor;
A control step of selecting one or a plurality of output devices from a plurality of output devices based on the processing results in the processing step, and causing the selected output devices to perform an output operation according to the processing results;
Control method to execute.
コンピュータを、
車載センサの検出データを処理する処理手段、
前記処理手段による処理結果に基づき、複数の出力装置の中から1つ又は複数の出力装置を選択し、選択した出力装置に前記処理結果に応じた出力動作を行わせる制御手段、
として機能させるプログラム。
Computer
Processing means for processing the detection data of the in-vehicle sensor;
Control means for selecting one or a plurality of output devices from a plurality of output devices based on the processing results by the processing means, and causing the selected output devices to perform an output operation according to the processing results;
Program to function as.
JP2016224003A 2016-11-17 2016-11-17 Controller, control method, and program Pending JP2018081539A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016224003A JP2018081539A (en) 2016-11-17 2016-11-17 Controller, control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016224003A JP2018081539A (en) 2016-11-17 2016-11-17 Controller, control method, and program

Publications (1)

Publication Number Publication Date
JP2018081539A true JP2018081539A (en) 2018-05-24

Family

ID=62198956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016224003A Pending JP2018081539A (en) 2016-11-17 2016-11-17 Controller, control method, and program

Country Status (1)

Country Link
JP (1) JP2018081539A (en)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08192655A (en) * 1995-01-17 1996-07-30 Toyota Motor Corp Careless drive preventing device
JP2005062911A (en) * 2003-06-16 2005-03-10 Fujitsu Ten Ltd Vehicle controller
JP2009134525A (en) * 2007-11-30 2009-06-18 Equos Research Co Ltd Vehicle environmental information notification system and vehicle environmental information notification method
JP2009540459A (en) * 2006-06-11 2009-11-19 ボルボ テクノロジー コーポレイション Method and apparatus for determination and analysis of places of visual interest
JP2009294791A (en) * 2008-06-03 2009-12-17 Denso Corp Information service system for vehicle
JP2010083205A (en) * 2008-09-29 2010-04-15 Denso Corp Device for supporting recognition of collision warning vehicle
JP2012118951A (en) * 2010-12-03 2012-06-21 Fujitsu Ten Ltd On-vehicle device and driving support system
JP2016090274A (en) * 2014-10-30 2016-05-23 トヨタ自動車株式会社 Alarm apparatus, alarm system, and portable terminal
JP2016137819A (en) * 2015-01-28 2016-08-04 日立オートモティブシステムズ株式会社 Autonomous driving control unit

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08192655A (en) * 1995-01-17 1996-07-30 Toyota Motor Corp Careless drive preventing device
JP2005062911A (en) * 2003-06-16 2005-03-10 Fujitsu Ten Ltd Vehicle controller
JP2009540459A (en) * 2006-06-11 2009-11-19 ボルボ テクノロジー コーポレイション Method and apparatus for determination and analysis of places of visual interest
JP2009134525A (en) * 2007-11-30 2009-06-18 Equos Research Co Ltd Vehicle environmental information notification system and vehicle environmental information notification method
JP2009294791A (en) * 2008-06-03 2009-12-17 Denso Corp Information service system for vehicle
JP2010083205A (en) * 2008-09-29 2010-04-15 Denso Corp Device for supporting recognition of collision warning vehicle
JP2012118951A (en) * 2010-12-03 2012-06-21 Fujitsu Ten Ltd On-vehicle device and driving support system
JP2016090274A (en) * 2014-10-30 2016-05-23 トヨタ自動車株式会社 Alarm apparatus, alarm system, and portable terminal
JP2016137819A (en) * 2015-01-28 2016-08-04 日立オートモティブシステムズ株式会社 Autonomous driving control unit

Similar Documents

Publication Publication Date Title
CN107298021B (en) Information prompt control device, automatic driving vehicle and driving assistance system thereof
JP2023058521A (en) Vehicle-mounted device
US10817751B2 (en) Learning data creation method, learning method, risk prediction method, learning data creation device, learning device, risk prediction device, and recording medium
US10462281B2 (en) Technologies for user notification suppression
JP2017178267A (en) Drive support method, drive support device using the same, automatic drive control device, vehicle, and program
JP7079069B2 (en) Information presentation control device, self-driving car, and self-driving car driving support system
CN109789879B (en) Secure visualization of navigation interface
KR102506871B1 (en) Autonomous driving control apparatus and method for notifying departure of forward vehicle thereof
US10173590B2 (en) Overlaying on an in-vehicle display road objects associated with potential hazards
US11535260B2 (en) Attention-based notifications
KR20200069708A (en) Apparatus for controlling driving of vehicle, system having the same and method thereof
JP2023155282A (en) Presentation control device and presentation control program
JP2022010322A (en) Control device, control method, and program
JP2022041244A (en) On-vehicle display device, method, and program
JP2019003262A (en) Processing unit and processing method for collision warning system, collision warning system, and motor cycle
JP7104036B2 (en) Processing units and processing methods for inter-vehicle distance warning systems, inter-vehicle distance warning systems, and motorcycles
JP2008310690A (en) Recognition support device for vehicle
JP2010100093A (en) Device and method for integrating sound output
JP2018081539A (en) Controller, control method, and program
JP2017167915A (en) Driving support device and driving support method
KR20200133838A (en) Apparatus for displaying autonomous driving state of vehicle and control method thereof
CN113682112A (en) Method and device for controlling gas in vehicle
JP2021166038A (en) Presentation control device and presentation control program
US20240101135A1 (en) Vehicle-mounted apparatus, processing method, and program
KR102063874B1 (en) Vehicle controller and input/output method of pattern message accordng to real-time vehicle status signal

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191003

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210518

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211116