JP6740916B2 - Driving support system, driving support method - Google Patents

Driving support system, driving support method Download PDF

Info

Publication number
JP6740916B2
JP6740916B2 JP2017009658A JP2017009658A JP6740916B2 JP 6740916 B2 JP6740916 B2 JP 6740916B2 JP 2017009658 A JP2017009658 A JP 2017009658A JP 2017009658 A JP2017009658 A JP 2017009658A JP 6740916 B2 JP6740916 B2 JP 6740916B2
Authority
JP
Japan
Prior art keywords
image
driving support
unit
state
lamp
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017009658A
Other languages
Japanese (ja)
Other versions
JP2018121122A (en
Inventor
俊亮 臼井
俊亮 臼井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2017009658A priority Critical patent/JP6740916B2/en
Priority to DE112018000481.3T priority patent/DE112018000481T5/en
Priority to PCT/JP2018/000705 priority patent/WO2018135413A1/en
Priority to CN201880007729.8A priority patent/CN110199518B/en
Publication of JP2018121122A publication Critical patent/JP2018121122A/en
Application granted granted Critical
Publication of JP6740916B2 publication Critical patent/JP6740916B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Studio Devices (AREA)

Description

本開示は、運転支援システムおよび運転支援方法に関する。 The present disclosure relates to a driving support system and a driving support method.

特許文献1には、自車両の周囲を撮像した画像を車室内に設けられた表示装置に表示することで、運転者の運転操作を支援する電子ミラーなどの運転支援システムが記載されている。 Patent Literature 1 describes a driving support system such as an electronic mirror that assists a driver in driving operation by displaying an image of the surroundings of the vehicle on a display device provided in the vehicle compartment.

特開2015−198302号公報JP, 2005-198302, A

運転支援システムの一例である電子ミラーに関しては、画像に写る、前部左右の二箇所に前照灯を備える自動四輪車と前部中央の一箇所に前照灯を備える自動二輪車とを区別するため、画像を暗くすることにより前部左右の二箇所の前照灯を表示部に識別可能に表示するモードを備えることが法規で定められている。これは、前部左右の二箇所の前照灯のそれぞれから照射される光が繋がって見えると、一つの前照灯から照射される光と誤認されるおそれがあるからである。また、このモードで動作していない場合にはその旨を運転者に通知することも法規で定められている。 Regarding the electronic mirror, which is an example of a driving support system, it is possible to distinguish between a motorcycle equipped with headlights at two locations on the front left and right and a motorcycle equipped with a headlight at one location in the center of the front, as shown in the image. Therefore, it is stipulated by law that a mode is provided in which the headlamps at the left and right front parts are displayed on the display section in a distinguishable manner by darkening the image. This is because, when the light emitted from each of the two headlights on the left and right of the front part appears to be connected, it may be mistaken for the light emitted from one headlight. Further, when not operating in this mode, it is also stipulated by law to notify the driver to that effect.

なお、上述の二灯分離可能モードはあくまで法規で定められた試験環境下で二灯の識別が出来ることが保証されているだけであり、実使用環境下で画像に映る前照灯が二灯に識別可能であることを保証するものではない。このため実使用環境下で前照灯が二灯に識別できないのに二灯分離可能モードで動作している状態が起こりうる。この場合、運転手が自動二輪車と自動四輪車を誤判断するおそれがある。 Note that the above-mentioned two-lamp separable mode is only guaranteed to be able to identify the two lamps in the test environment specified by law, and the two headlights shown in the image in the actual use environment are only guaranteed. It does not guarantee that they can be identified. For this reason, in the actual use environment, there may be a state in which the headlight cannot be identified as two lights but is operating in the two-light separable mode. In this case, the driver may misidentify the motorcycle as the motorcycle.

このためには、電子ミラーにおいて、前部左右の二箇所の前照灯のそれぞれを表示部に識別可能に表示することの可否を判断することが求められる。このことは、前部左右の二箇所の前照灯に対する場合に限らず、自車両の周囲を撮像した画像に写る複数の灯火器のそれぞれに対する場合も同様である。また、電子ミラーに限らず、運転支援システム全般においても同様である。 To this end, in the electronic mirror, it is required to judge whether or not each of the two headlights on the left and right of the front part can be displayed on the display section in a distinguishable manner. This is not limited to the case of two headlamps on the left and right of the front part, and is the same for each of a plurality of lighting devices shown in an image of the surroundings of the vehicle. The same applies to not only electronic mirrors but also driving assistance systems in general.

本開示は、自車両の周囲を撮像した画像に写る複数の灯火器のそれぞれを表示部に識別可能に表示することの可否を判断する技術を提供する。 The present disclosure provides a technique for determining whether or not each of a plurality of lighting devices shown in an image of the surroundings of a vehicle is identifiable and displayed on a display unit.

本開示の運転支援システムは、取得制御部(S105、S205、S315)と、表示制御部(S155、S255、S365)と、検出部(S110、S210、S320)と、判断部(S125、S140、S225、S240、S335、S350)と、報知部(S135、S150、S235、S250、S345、S360)と、を備える。 The driving support system of the present disclosure has an acquisition control unit (S105, S205, S315), a display control unit (S155, S255, S365), a detection unit (S110, S210, S320), and a determination unit (S125, S140, S225, S240, S335, S350) and a notification unit (S135, S150, S235, S250, S345, S360).

取得制御部が、自車両の周囲の画像を取得部(11、13、15)から取得する。
表示制御部が、取得制御部によって取得された画像を表示部(21、23、25)に表示させる
検出部が、画像全体の明度に影響を及ぼす要因である明度影響要因を検出する。
The acquisition control unit acquires an image of the surroundings of the vehicle from the acquisition unit (11, 13, 15) .
The display control unit causes display of images acquired by the acquisition control unit on the display unit (21, 23, 25).
The detection unit detects a lightness affecting factor which is a factor affecting the lightness of the entire image.

判断部が、明度影響要因が予め設定された識別判断条件を不充足である場合に、識別不能状態であると判断する。識別不能状態は、画像に写る後続車両の前照灯のそれぞれを表示部上において識別不能な状態を云う。 When the brightness influencing factor does not satisfy the predetermined identification determination condition, the determination unit determines that the identification cannot be performed. The indistinguishable state is a state in which each of the headlights of the following vehicle shown in the image cannot be identified on the display unit.

本開示の運転支援システムによれば、画像全体の明度に影響を及ぼす要因を用いることにより、自車両の周囲を撮像した画像に写る後続車両の前照灯のそれぞれを表示部に識別可能に表示することの可否を判断することができる。 According to the driving support system of the present disclosure, by using a factor that affects the brightness of the entire image, each of the headlights of the following vehicle that is captured in an image of the surroundings of the vehicle is displayed on the display unit in a distinguishable manner. It is possible to judge whether or not to do.

そして、報知部が、判断部によって識別不能状態と判断された場合に、自車両の運転者に対して、その旨を音声出力デバイス(37)に報知させるので、運転者が画像に写る後続車両の前照灯を表示部に識別可能に表示することができない旨を認識することができ、したがって、運転者による運転状況の判断に寄与することができる。 Then, the following vehicle notification unit, when it is determined that the unidentified state by the determination unit, the driver of the vehicle, so make notification if the audio output device (37), the driver appear on the image It is possible to recognize that the headlight of No. 1 cannot be displayed in a distinguishable manner on the display unit, and therefore, it is possible to contribute to the determination of the driving situation by the driver.

なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。 In addition, the reference numerals in parentheses described in this column and the claims indicate the correspondence with the specific means described in the embodiments described below as one aspect, and the technical scope of the present disclosure. It is not limited.

画像処理装置1及び運転支援システム2の構成を表すブロック図である。3 is a block diagram showing the configurations of the image processing device 1 and the driving support system 2. FIG. 運転支援処理_1のフローチャートである。It is a flow chart of driving support processing_1. 運転支援処理_1の説明図である。It is explanatory drawing of driving support process_1. 運転支援処理_1の説明図である。It is explanatory drawing of driving support process_1. 運転支援処理_1の説明図である。It is explanatory drawing of driving support process_1. 運転支援処理_2のフローチャートである。It is a flow chart of driving support processing_2. 運転支援処理_3のフローチャートである。It is a flow chart of driving support processing_3. 運転支援処理_3の説明図である。It is explanatory drawing of driving support process_3.

以下、図面を参照しながら、本開示の実施形態を説明する。
[1.第1実施形態]
[1−1.構成]
図1に示すように、画像処理装置1は、車両に搭載されるECUである。ECUは、Electronic Control Unitの略である。画像処理装置1は、CPUと、RAM、ROM、フラッシュメモリ等の半導体メモリと、を有する周知のマイクロコンピュータを中心に構成される。画像処理装置1の各種機能は、CPUが非遷移的実体的記録媒体に格納されたプログラムを実行することにより実現される。この例では、半導体メモリが、プログラムを格納した非遷移的実体的記録媒体に該当する。また、このプログラムの実行により、プログラムに対応する方法が実行される。なお、画像処理装置1を構成するマイクロコンピュータの数は1つでも複数でもよい。また、画像処理装置1は、多数の論理回路を含むデジタル回路によって構成されてもよいし、デジタル回路とアナログ回路の組合せによって実現されても良い。
Hereinafter, embodiments of the present disclosure will be described with reference to the drawings.
[1. First Embodiment]
[1-1. Constitution]
As shown in FIG. 1, the image processing device 1 is an ECU mounted on a vehicle. ECU is an abbreviation for Electronic Control Unit. The image processing apparatus 1 is mainly composed of a well-known microcomputer having a CPU and a semiconductor memory such as a RAM, a ROM and a flash memory. Various functions of the image processing apparatus 1 are realized by the CPU executing the programs stored in the non-transitional substantive recording medium. In this example, the semiconductor memory corresponds to a non-transitional substantive recording medium storing a program. Further, by executing this program, the method corresponding to the program is executed. Note that the number of microcomputers forming the image processing apparatus 1 may be one or more. Further, the image processing apparatus 1 may be configured by a digital circuit including a large number of logic circuits, or may be realized by a combination of digital circuits and analog circuits.

自車両は、画像処理装置1に加えて、右後側方カメラ11、左後側方カメラ13、後方カメラ15、右後側方モニタ21、左後側方モニタ23および後方モニタ25を備える。
右後側方カメラ11、左後側方カメラ13および後方カメラ15は、カメラおよび取得部に該当する。右後側方モニタ21、左後側方モニタ23および後方モニタ25は、表示部に該当する。
In addition to the image processing device 1, the host vehicle includes a right rear side camera 11, a left rear side camera 13, a rear camera 15, a right rear side monitor 21, a left rear side monitor 23, and a rear monitor 25.
The right rear side camera 11, the left rear side camera 13, and the rear camera 15 correspond to a camera and an acquisition unit. The right rear side monitor 21, the left rear side monitor 23, and the rear monitor 25 correspond to the display unit.

右後側方カメラ11は、車両の右ドアミラーに設けられ、自車両の右後方および右側方の風景を撮影する。右後側方カメラ11は、撮影により得た画像を画像処理装置1に出力する。左後側方カメラ13は、車両の左ドアミラーに設けられ、自車両の左後方および左側方の風景を撮影する。左後側方カメラ13は、撮影により得た画像を画像処理装置1に出力する。後方カメラ15は、自車両の後端に設けられ、自車両の後方の風景を撮影する。後方カメラ15は、撮影により得た画像を画像処理装置1に出力する。なお、自車両にドアミラーが装着されていない場合は、右後側方カメラ11および左後側方カメラ13をステーで自車両に取り付けたり、自車両の車体に埋め込んだりすることができる。 The right rear side camera 11 is provided in the right door mirror of the vehicle and captures the right rear and right side scenery of the vehicle. The right rear side camera 11 outputs the image obtained by shooting to the image processing apparatus 1. The left rear side camera 13 is provided in the left door mirror of the vehicle and captures the left rear and left side scenery of the vehicle. The left rear side camera 13 outputs the image obtained by shooting to the image processing apparatus 1. The rear camera 15 is provided at the rear end of the host vehicle and captures a landscape behind the host vehicle. The rear camera 15 outputs the captured image to the image processing device 1. When the door mirror is not attached to the host vehicle, the right rear side camera 11 and the left rear side camera 13 can be attached to the host vehicle by stays or embedded in the vehicle body of the host vehicle.

右後側方モニタ21は、車両の室内において右フロントピラーの付近に設けられた液晶ディスプレイ等により構成されている。右後側方モニタ21は、右後側方カメラ11で撮影して得られた画像を表示する。よって、右後側方カメラ11および右後側方モニタ21は、電子ミラーとして機能する。なお、右後側方モニタ21をインパネ内に配置することもできる。 The right rear side monitor 21 is composed of a liquid crystal display or the like provided in the vicinity of the right front pillar inside the vehicle. The right rear side monitor 21 displays an image captured by the right rear side camera 11. Therefore, the right rear side camera 11 and the right rear side monitor 21 function as an electronic mirror. The right rear side monitor 21 may be arranged in the instrument panel.

左後側方モニタ23は、車両の室内において左フロントピラーの付近に設けられた液晶ディスプレイ等により構成されている。左後側方モニタ23は、左後側方カメラ13で撮影して得られた画像を表示する。よって、左後側方カメラ13および左後側方モニタ23は、電子ミラーとして機能する。なお、左後側方モニタ23をインパネ内に配置することもできる。 The left rear side monitor 23 is composed of a liquid crystal display or the like provided near the left front pillar inside the vehicle. The left rear side monitor 23 displays an image obtained by shooting with the left rear side camera 13. Therefore, the left rear side camera 13 and the left rear side monitor 23 function as an electronic mirror. In addition, the left rear side monitor 23 may be arranged in the instrument panel.

後方モニタ25は、ルームミラーの位置に設けられた液晶ディスプレイ等により構成されている。後方モニタ25は、後方カメラ15で撮影して得られた画像を表示する。よって、後方カメラ15および後方モニタ25は、電子ミラーとして機能する。なお、後方モニタ25をインパネ内に配置することもできる。 The rear monitor 25 is composed of a liquid crystal display or the like provided at the position of the room mirror. The rear monitor 25 displays an image captured by the rear camera 15. Therefore, the rear camera 15 and the rear monitor 25 function as an electronic mirror. The rear monitor 25 may be arranged in the instrument panel.

また、画像処理装置1は、通信バス31を介して、照度センサ33、他表示デバイス35および音声出力デバイス37と接続されている。
照度センサ33は、車両の周囲の照度を検出する。照度センサ33は、通信バス31を介して、他の構成と各種情報の送受信を行う。照度センサ33は、車両の周囲の照度を示す情報を、通信バス31を介して、画像処理装置1に出力する。画像処理装置1は、照度センサ33から入力された情報を用いて、各種処理を実行する。
Further, the image processing apparatus 1 is connected to the illuminance sensor 33, the other display device 35, and the audio output device 37 via the communication bus 31.
The illuminance sensor 33 detects the illuminance around the vehicle. The illuminance sensor 33 transmits/receives various information to/from other components via the communication bus 31. The illuminance sensor 33 outputs information indicating the illuminance around the vehicle to the image processing apparatus 1 via the communication bus 31. The image processing apparatus 1 uses the information input from the illuminance sensor 33 to execute various processes.

他表示デバイス35は、各種情報を表示するメータ等により構成されている。他表示デバイス35は、通信バス31を介して、他の構成と各種情報の送受信を行う。画像処理装置1は、通信バス31を介して、表示画面等の情報を他表示デバイス35に出力する。他表示デバイス35は、画像処理装置1から入力された情報を表示する。 The other display device 35 includes a meter or the like that displays various information. The other display device 35 transmits/receives various information to/from other components via the communication bus 31. The image processing apparatus 1 outputs information such as a display screen to the other display device 35 via the communication bus 31. The other display device 35 displays the information input from the image processing apparatus 1.

音声出力デバイス37は、各種音声を出力するスピーカ等により構成されている。音声出力デバイス37は、通信バス31を介して、他の構成と各種情報の送受信を行う。画像処理装置1は、通信バス31を介して、音声等の情報を音声出力デバイス37に出力する。音声出力デバイス37は、画像処理装置1から入力された情報を音声出力する。 The audio output device 37 includes a speaker or the like that outputs various sounds. The audio output device 37 transmits/receives various information to/from other components via the communication bus 31. The image processing apparatus 1 outputs information such as voice to the voice output device 37 via the communication bus 31. The voice output device 37 outputs the information input from the image processing apparatus 1 by voice.

図3に、右後側方モニタ21が、右後側方カメラ11で撮影して得られた画像を表示する例を示す。この例では、画像中の所定領域に後続車両の前照灯などの灯火器が写っている。この後続車両が、図4に例示するような、前部左右の二箇所に前照灯を備える自動四輪車である場合、所定領域には、二つの灯火器が写ることになる。一方、この後続車両が、図5に例示するような、前部中央の一箇所に前照灯を備える自動二輪車である場合、所定領域には、一つの灯火器が写ることになる。 FIG. 3 shows an example in which the right rear side monitor 21 displays an image obtained by shooting with the right rear side camera 11. In this example, a lighting device such as a headlight of a following vehicle is shown in a predetermined area in the image. If this succeeding vehicle is a four-wheeled vehicle having headlights at two positions on the left and right sides of the front part, as illustrated in FIG. 4, two lighting devices are shown in the predetermined area. On the other hand, when this succeeding vehicle is a motorcycle including a headlight at one location in the center of the front part, as illustrated in FIG. 5, one lighting device appears in the predetermined area.

画像処理装置1には、二灯分離可能モードと二灯分離不可モードとの二つの動作モードが設けられている。
このうちの二灯分離可能モードでは、画像を暗くする処理が行われる。その結果、画像中の所定領域に写る複数の灯火器のそれぞれが分離して見えて識別し易くなる。また、二灯分離不可モードでは、画像を明るくする処理が行われる。その結果、画像中の所定領域に写る複数の灯火器のそれぞれが識別しにくくなる一方、周囲の状況が識別し易くなる。
The image processing apparatus 1 is provided with two operation modes, a two-light separable mode and a two-light separable mode.
In the two-lamp separable mode, a process of darkening the image is performed. As a result, each of the plurality of lighting devices appearing in the predetermined area in the image can be viewed separately and easily identified. Further, in the two-lamp separation impossible mode, the process of brightening the image is performed. As a result, it becomes difficult to identify each of the plurality of lighting devices appearing in the predetermined area in the image, while it becomes easy to identify the surrounding situation.

[1−2.処理]
(1)次に、画像処理装置1のCPUが実行する運転支援処理_1について、図2のフローチャートを用いて説明する。
[1-2. processing]
(1) Next, the driving support process_1 executed by the CPU of the image processing apparatus 1 will be described with reference to the flowchart of FIG.

本処理は、画像処理装置1の電源がオンである場合に繰り返し実行される。
ここでは、右後側方カメラ11および右後側方モニタ21からなる電子ミラーとしての処理のみを説明し、左後側方カメラ13および左後側方モニタ23からなる電子ミラーとしての処理と、後方カメラ15および後方モニタ25からなる電子ミラーとしての処理については、同様の処理であるため、その説明を省略する。
This process is repeatedly executed when the power of the image processing apparatus 1 is on.
Here, only the processing as the electronic mirror composed of the right rear side camera 11 and the right rear side monitor 21 will be described, and the processing as the electronic mirror composed of the left rear side camera 13 and the left rear side monitor 23, The process performed by the rear camera 15 and the rear monitor 25 as an electronic mirror is the same process, and therefore its description is omitted.

最初のステップS105では、CPUが、右後側方カメラ11が撮影した自車両の右後方および右側方の風景の画像を取得する。その後、S110に移行する。
S110では、CPUが、右後側方カメラ11が画像を取得した際の露光時間を取得する。露光時間は、右後側方カメラ11の明るさに関するパラメータの一例である。露光時間の代わりに、レンズの絞りやガンマ補正値を取得して用いても良い。その後、S115に移行する。
In the first step S105, the CPU acquires images of the scenery on the right rear side and the right side of the vehicle, which are captured by the right rear side camera 11. Then, it transfers to S110.
In S110, the CPU acquires the exposure time when the right rear camera 11 acquires an image. The exposure time is an example of a parameter relating to the brightness of the right rear side camera 11. Instead of the exposure time, a lens diaphragm or a gamma correction value may be acquired and used. Then, it transfers to S115.

S115では、CPUが、二灯分離可否状態を取得する。なお、二灯分離可否状態は、画像に写る複数の灯火器のそれぞれを表示部上において識別可能な状態か識別不可能な状態かを示し、識別可能状態と識別不能状態とがある。識別可能状態は、画像に写る複数の灯火器のそれぞれを表示部上において識別可能な状態である。識別不能状態は、画像に写る複数の灯火器のそれぞれを表示部上において識別不能な状態である。ここでは、初期設定として、識別可能状態または識別不能状態の何れかを用いる。なお、本処理の実行が二回目以降である場合には、前回本処理を実行した際の二灯分離可否状態を用いてもよい。その後、S120に移行する。 In S115, the CPU obtains the two-lamp separable state. The two-lamp separable state indicates whether each of the plurality of lighting devices shown in the image can be discriminated or indistinguishable from each other on the display unit, and has a discriminable state and a non-discernable state. The identifiable state is a state in which each of the plurality of lighting devices shown in the image can be identified on the display unit. The unidentifiable state is an unidentifiable state on the display unit for each of the plurality of lighting devices shown in the image. Here, either the identifiable state or the unidentifiable state is used as the initial setting. If this process is executed for the second time or later, the two-lamp separable/non-separable state at the time of previously executing this process may be used. Then, it transfers to S120.

S120では、CPUが、二灯分離可否状態に基づき二灯分離が可能であるか否かを判断する。識別可能状態であり、二灯分離が可能であると判断された場合には、S125に移行する。識別不能状態であり、二灯分離が不可であると判断された場合には、S140に移行する。 In S120, the CPU determines whether or not two lights can be separated based on the two-light separation availability state. If it is in the identifiable state and it is determined that the two lights can be separated, the process proceeds to S125. When it is determined that the two lights cannot be separated from each other, the process proceeds to S140.

S125では、CPUが、露光時間が基準値+α以上であるか否かを判断する。基準値は予め設定される値である。露光時間は、明度影響要因に該当する。基準値は時間判定値および識別判断条件に該当する。αは正の補正値である。このように補正値αを設定するとともに、後述するS140でも補正値βを設定するのは、露光時間が基準値付近で上下するためにモードが頻繁に切り替わる事態を防ぐためである。露光時間が基準値+α以上であると判断された場合には、識別不能状態と判断する。識別不能状態は、画像に写る複数の灯火器のそれぞれを表示部上において識別不能な状態である。そして、二灯分離可能モードから二灯分離不可モードに変更することとし、S130に移行する。露光時間が基準値+α未満であると判断された場合には、識別可能状態と判断する。識別可能状態は、画像に写る複数の灯火器のそれぞれを表示部上において識別可能な状態である。そして、二灯分離可能モードを継続することとし、S155に移行する。 In S125, the CPU determines whether the exposure time is the reference value +α or more. The reference value is a preset value. The exposure time corresponds to a brightness affecting factor. The reference value corresponds to the time judgment value and the discrimination judgment condition. α is a positive correction value. The correction value α is set in this way, and the correction value β is also set in S140, which will be described later, in order to prevent a situation in which the mode is frequently switched because the exposure time fluctuates around the reference value. When it is determined that the exposure time is equal to or greater than the reference value+α, it is determined that the identification is impossible. The unidentifiable state is an unidentifiable state on the display unit for each of the plurality of lighting devices shown in the image. Then, the two-lamp separable mode is changed to the two-lamp separable mode, and the process proceeds to S130. When it is determined that the exposure time is less than the reference value +α, it is determined that the state is identifiable. The identifiable state is a state in which each of the plurality of lighting devices shown in the image can be identified on the display unit. Then, the two-lamp separable mode is continued, and the process proceeds to S155.

S130では、CPUが、二灯分離不可状態に切り替える。このとき、二灯分離可能モードである場合には、二灯分離不可モードに切り替えるようにしてもよい。その後、S135に移行する。 In S130, the CPU switches to the two-lamp separation impossible state. At this time, when the two-light separable mode is set, the two-light separable mode may be switched to. Then, it transfers to S135.

S135では、CPUが、識別不能状態である旨をドライバに通知する。具体的には、CPUが、通信バス31を介して、識別不能状態である旨を示す情報を音声出力デバイス37に出力する。音声出力デバイス37は、画像処理装置1から入力された情報を音声出力する。その後、S155に移行する。 In S135, the CPU notifies the driver of the unidentifiable state. Specifically, the CPU outputs the information indicating the unidentifiable state to the audio output device 37 via the communication bus 31. The voice output device 37 outputs the information input from the image processing apparatus 1 by voice. Then, it transfers to S155.

S140では、CPUが、露光時間が基準値−β以下であるか否かを判断する。βは正の補正値である。露光時間が基準値−β以下であると判断された場合には、識別可能状態であると判断し、二灯分離不可モードから二灯分離可能モードに変更することとし、S145に移行する。露光時間が基準値−βよりも大きいと判断された場合には、識別不能状態であると判断し、二灯分離不可モードを継続することとし、S150に移行する。 In S140, the CPU determines whether the exposure time is less than or equal to the reference value −β. β is a positive correction value. If it is determined that the exposure time is equal to or less than the reference value −β, it is determined that the state is in the distinguishable state, the two-lamp separable mode is changed to the two-lamp separable mode, and the process proceeds to S145. If it is determined that the exposure time is longer than the reference value −β, it is determined that the state is unidentifiable, the two-lamp separation impossible mode is continued, and the process proceeds to S150.

S145では、CPUが、二灯分離可能状態に切り替える。このとき、二灯分離不可モードである場合には、二灯分離可能モードに切り替えるようにしてよい。その後、S155に移行する。 In S145, the CPU switches to the two-lamp separable state. At this time, in the case of the two-lamp separable mode, the two-lamp separable mode may be switched to. Then, it transfers to S155.

S150では、CPUが、二灯分離不可状態が継続中である場合には、その旨をドライバに再度通知する。具体的には、CPUが、通信バス31を介して、識別不能状態である旨を示す情報を音声出力デバイス37に出力する。音声出力デバイス37は、画像処理装置1から入力された情報を音声出力する。その後、S155に移行する。 In S150, when the two-lamp separation impossible state is continuing, the CPU again notifies the driver to that effect. Specifically, the CPU outputs the information indicating the unidentifiable state to the audio output device 37 via the communication bus 31. The voice output device 37 outputs the information input from the image processing apparatus 1 by voice. Then, it transfers to S155.

S155では、CPUが、右後側方カメラ11が撮影した画像を、右後側方モニタ21に出力する。このとき、二灯分離可能モードである場合には、CPUが、カメラの露光時間を通常の設定時に比べて短くすることにより画像を暗くする処理を行う。また、二灯分離不可モードである場合には、CPUが、カメラの露光時間を通常の設定時に比べて長くすることにより画像を明るくする処理を行う。右後側方モニタ21は、画像処理装置1から入力された画像を表示する。その後、リターンする。 In S155, the CPU outputs the image captured by the right rear side camera 11 to the right rear side monitor 21. At this time, in the case of the two-lamp separable mode, the CPU performs a process of darkening the image by shortening the exposure time of the camera as compared with the normal setting. Further, in the case of the two-lamp separation impossible mode, the CPU performs a process of making the image brighter by making the exposure time of the camera longer than in the normal setting. The right rear side monitor 21 displays the image input from the image processing apparatus 1. Then return.

[1−3.効果]
以上詳述した第1実施形態によれば、カメラが画像を取得した際の露光時間を明度影響要因として用いることにより、自車両の周囲を撮像した画像に写る複数の灯火器のそれぞれを表示部に識別可能に表示することの可否を判断することができる。
[1-3. effect]
According to the first embodiment described in detail above, by using the exposure time when the camera acquires an image as the brightness affecting factor, each of the plurality of lighting devices shown in the image of the surroundings of the vehicle is displayed on the display unit. It is possible to judge whether or not the information can be displayed in a distinguishable manner.

そして、識別不能状態であると判断された場合にその旨を報知するので、運転者が画像に写る複数の灯火器を表示部に識別可能に表示することができない旨を認識することができ、したがって、運転者による運転状況の判断に寄与することができる。
[2.第2実施形態]
[2−1.第1実施形態との相違点]
第2実施形態は、基本的な構成は第1実施形態と同様であるため、相違点について以下に説明する。
Then, since it is notified when it is determined that it is in an unidentifiable state, it is possible for the driver to recognize that it is not possible to distinguishably display a plurality of lighting devices shown in the image on the display unit, Therefore, it can contribute to the judgment of the driving situation by the driver.
[2. Second Embodiment]
[2-1. Differences from the first embodiment]
The second embodiment has the same basic configuration as that of the first embodiment, and therefore the differences will be described below.

前述した第1実施形態では、カメラが画像を取得した際の露光時間を明度影響要因として用いて、画像に写る複数の灯火器のそれぞれを表示部に識別可能に表示することの可否を判断する。これに対し、第2実施形態では、車両の周囲の照度を明度影響要因として用いて、画像に写る複数の灯火器のそれぞれを表示部に識別可能に表示することの可否を判断する点で、第1実施形態と相違する。 In the above-described first embodiment, the exposure time when the camera acquires the image is used as a brightness affecting factor to determine whether or not each of the plurality of lighting devices shown in the image can be displayed in a distinguishable manner. .. On the other hand, in the second embodiment, the illuminance around the vehicle is used as the brightness influencing factor to determine whether or not each of the plurality of lighting devices shown in the image can be displayed on the display unit in a distinguishable manner. This is different from the first embodiment.

[2−2.処理]
次に、第2実施形態の画像処理装置1のCPUが、図2に示す第1実施形態の運転支援処理_1に代えて実行する運転支援処理_2について、図6のフローチャートを用いて説明する。
[2-2. processing]
Next, the driving support process_2 executed by the CPU of the image processing apparatus 1 of the second embodiment in place of the driving support process_1 of the first embodiment shown in FIG. 2 will be described with reference to the flowchart of FIG.

本処理は、画像処理装置1の電源がオンである場合に繰り返し実行される。
以下の説明では、運転支援処理_1の場合と同様に、右後側方カメラ11および右後側方モニタ21からなる電子ミラーとしての処理のみを説明し、その他の処理の説明は省略する。
This process is repeatedly executed when the power of the image processing apparatus 1 is on.
In the following description, similar to the case of the driving support process_1, only the process as the electronic mirror including the right rear side camera 11 and the right rear side monitor 21 will be described, and the description of the other processes will be omitted.

最初のステップS205では、CPUが、右後側方カメラ11が撮影した自車両の右後方および右側方の風景の画像を取得する。その後、S210に移行する。
S210では、CPUが、照度センサ33が検出した車両の周囲の照度を取得する。その後、S215に移行する。
In the first step S205, the CPU acquires images of the scenery on the right rear side and the right side of the vehicle, which are captured by the right rear side camera 11. Then, it transfers to S210.
In S210, the CPU acquires the illuminance around the vehicle detected by the illuminance sensor 33. Then, it transfers to S215.

S215では、CPUが、二灯分離可否状態を取得する。ここでは、初期設定として、識別可能状態または識別不能状態の何れかを用いる。なお、本処理の実行が二回目以降である場合には、前回本処理を実行した際の二灯分離可否状態を用いてもよい。その後、S220に移行する。 In S215, the CPU acquires the two-lamp separable state. Here, either the identifiable state or the unidentifiable state is used as the initial setting. If this process is executed for the second time or later, the two-lamp separable/non-separable state at the time of executing this process last time may be used. Then, it transfers to S220.

S220では、CPUが、二灯分離可否状態に基づき二灯分離が可能であるか否かを判断する。識別可能状態であり、二灯分離が可能であると判断された場合には、S225に移行する。識別不能状態であり、二灯分離が不可であると判断された場合には、S240に移行する。 In S220, the CPU determines whether or not the two lights can be separated based on the two-light separation availability state. If it is in the identifiable state and it is determined that the two lights can be separated, the process proceeds to S225. When it is determined that the two lights cannot be separated because they are in the indistinguishable state, the process proceeds to S240.

S225では、CPUが、周辺照度が基準値−α以上であるか否かを判断する。基準値は予め設定される値である。周辺照度は、明度影響要因に該当する。基準値は照度判定値および識別判断条件に該当する。αは正の補正値である。このように補正値αを設定するとともに、後述するS240でも補正値βを設定するのは、周辺照度が基準値付近で上下するためにモードが頻繁に切り替わる事態を防ぐためである。周辺照度が基準値−α以上であると判断された場合には、識別不能状態であると判断し、二灯分離可能モードから二灯分離不可モードに変更することとし、S230に移行する。周辺照度が基準値−α未満であると判断された場合には、識別可能状態であると判断し、二灯分離可能モードを継続することとし、S255に移行する。 In S225, the CPU determines whether the ambient illuminance is greater than or equal to the reference value −α. The reference value is a preset value. The ambient illuminance corresponds to the brightness affecting factor. The reference value corresponds to the illuminance determination value and the identification determination condition. α is a positive correction value. The correction value α is set in this way, and the correction value β is also set in S240, which will be described later, in order to prevent a situation in which the mode is frequently switched because the ambient illuminance rises and falls near the reference value. When it is determined that the ambient illuminance is equal to or greater than the reference value −α, it is determined that the state is indistinguishable, the two-lamp separable mode is changed to the two-lamp separable mode, and the process proceeds to S230. If it is determined that the ambient illuminance is less than the reference value −α, it is determined that the illuminance is in the distinguishable state, the two-lamp separable mode is continued, and the process proceeds to S255.

S230では、CPUが、二灯分離不可状態に切り替える。このとき、二灯分離可能モードである場合には、二灯分離不可モードに切り替えるようにしてもよい。その後、S235に移行する。 In S230, the CPU switches to the two-lamp separation impossible state. At this time, when the two-light separable mode is set, the two-light separable mode may be switched to. Then, it transfers to S235.

S235では、CPUが、識別不能状態である旨をドライバに通知する。具体的には、CPUが、通信バス31を介して、識別不能状態である旨を示す情報を音声出力デバイス37に出力する。音声出力デバイス37は、画像処理装置1から入力された情報を音声出力する。その後、S255に移行する。 In S235, the CPU notifies the driver of the unidentifiable state. Specifically, the CPU outputs the information indicating the unidentifiable state to the audio output device 37 via the communication bus 31. The voice output device 37 outputs the information input from the image processing apparatus 1 by voice. Then, it transfers to S255.

S240では、CPUが、周辺照度が基準値+β以上であるか否かを判断する。βは正の補正値である。周辺照度が基準値+β以上であると判断された場合には、識別可能状態であると判断し、二灯分離不可モードから二灯分離可能モードに変更することとし、S245に移行する。周辺照度が基準値+β未満であると判断された場合には、識別不能状態であると判断し、二灯分離不可モードを継続することとし、S250に移行する。 In S240, the CPU determines whether the ambient illuminance is equal to or greater than the reference value +β. β is a positive correction value. When it is determined that the ambient illuminance is equal to or greater than the reference value +β, it is determined that the illuminance is in the distinguishable state, the two-lamp separable mode is changed to the two-lamp separable mode, and the process proceeds to S245. When it is determined that the surrounding illuminance is less than the reference value +β, it is determined that the illuminance is indistinguishable, the two-lamp separation impossible mode is continued, and the process proceeds to S250.

S245では、CPUが、二灯分離可能状態に切り替える。このとき、二灯分離不可モードである場合には、二灯分離可能モードに切り替えるようにしてもよい。その後、S255に移行する。 In S245, the CPU switches to the two-lamp separable state. At this time, if the two-lamp separable mode is set, the two-lamp separable mode may be switched to. Then, it transfers to S255.

S250では、CPUが、二灯分離不可状態が継続中である場合には、その旨をドライバに再度通知する。具体的には、CPUが、通信バス31を介して、識別不能状態である旨を示す情報を音声出力デバイス37に出力する。音声出力デバイス37は、画像処理装置1から入力された情報を音声出力する。その後、S255に移行する。 In S250, when the two-lamp separation impossible state is continuing, the CPU notifies the driver again of that fact. Specifically, the CPU outputs the information indicating the unidentifiable state to the audio output device 37 via the communication bus 31. The voice output device 37 outputs the information input from the image processing apparatus 1 by voice. Then, it transfers to S255.

S255では、CPUが、画像を右後側方モニタ21に出力する。具体的には、CPUが、右後側方カメラ11が撮影した画像を、右後側方モニタ21に出力する。このとき、二灯分離可能モードである場合には、CPUが、カメラの露光時間を通常の設定時に比べて短くすることにより画像を暗くする処理を行う。また、二灯分離不可モードである場合には、CPUが、カメラの露光時間を通常の設定時に比べて長くすることにより画像を明るくする処理を行う。右後側方モニタ21は、画像処理装置1から入力された画像を表示する。その後、リターンする。 In S255, the CPU outputs the image to the right rear side monitor 21. Specifically, the CPU outputs the image captured by the right rear side camera 11 to the right rear side monitor 21. At this time, in the case of the two-lamp separable mode, the CPU performs a process of darkening the image by shortening the exposure time of the camera as compared with the normal setting. Further, in the case of the two-lamp separation impossible mode, the CPU performs a process of making the image brighter by making the exposure time of the camera longer than in the normal setting. The right rear side monitor 21 displays the image input from the image processing apparatus 1. Then return.

[2−3.効果]
以上詳述した第2実施形態によれば、車両の周囲の照度を明度影響要因として用いることにより、自車両の周囲を撮像した画像に写る複数の灯火器を表示部に識別可能に表示することの可否を判断することができる。
[2-3. effect]
According to the second embodiment described in detail above, by using the illuminance around the vehicle as the brightness influencing factor, it is possible to distinguishably display on the display unit a plurality of lighting devices shown in an image of the surroundings of the vehicle. Whether or not can be determined.

そして、識別不能状態であると判断された場合にその旨を報知するので、運転者が画像に写る複数の灯火器を表示部に識別可能に表示することができない旨を認識することができ、したがって、運転者による運転状況の判断に寄与することができる。
[3.第3実施形態]
[3−1.第1実施形態との相違点]
第3実施形態は、基本的な構成は第1実施形態と同様であるため、相違点について以下に説明する。
Then, since it is notified when it is determined that it is in an unidentifiable state, it is possible for the driver to recognize that it is not possible to distinguishably display a plurality of lighting devices shown in the image on the display unit, Therefore, it can contribute to the judgment of the driving situation by the driver.
[3. Third Embodiment]
[3-1. Differences from the first embodiment]
The basic configuration of the third embodiment is similar to that of the first embodiment, and therefore the differences will be described below.

前述した第1実施形態では、カメラが画像を取得した際の露光時間を明度影響要因として用いて、画像に写る複数の灯火器のそれぞれを表示部に識別可能に表示することの可否を判断する。これに対し、第3実施形態では、画像中の輝度分布を明度影響要因として用いて、画像に写る複数の灯火器のそれぞれを表示部に識別可能に表示することの可否を判断する点で、第1実施形態と相違する。 In the above-described first embodiment, the exposure time when the camera acquires the image is used as a brightness affecting factor to determine whether or not each of the plurality of lighting devices shown in the image can be displayed in a distinguishable manner. .. On the other hand, in the third embodiment, the brightness distribution in the image is used as a brightness influencing factor to determine whether or not each of the plurality of lighting devices shown in the image can be displayed on the display unit in a distinguishable manner. This is different from the first embodiment.

[3−2.処理]
次に、第3実施形態の画像処理装置1のCPUが、図2に示す第1実施形態の運転支援処理_1に代えて実行する運転支援処理_3について、図7のフローチャートを用いて説明する。
[3-2. processing]
Next, the driving support process_3 executed by the CPU of the image processing apparatus 1 of the third embodiment in place of the driving support process_1 of the first embodiment shown in FIG. 2 will be described with reference to the flowchart of FIG.

本処理は、画像処理装置1の電源がオンである場合に繰り返し実行される。
以下の説明では、運転支援処理_1の場合と同様に、右後側方カメラ11および右後側方モニタ21からなる電子ミラーとしての処理のみを説明し、その他の処理の説明は省略する。
This process is repeatedly executed when the power of the image processing apparatus 1 is on.
In the following description, similar to the case of the driving support process_1, only the process as the electronic mirror including the right rear side camera 11 and the right rear side monitor 21 will be described, and the description of the other processes will be omitted.

最初のステップS305では、CPUが、右後側方カメラ11が撮影した自車両の右後方および右側方の風景の画像を取得する。ここでは、露光時間が設定可能な範囲のうち最も短くなるよう設定する。その後、S310に移行する。 In the first step S305, the CPU acquires images of the scenery on the right rear side and the right side of the vehicle, which are captured by the right rear side camera 11. Here, the exposure time is set to be the shortest in the settable range. Then, it transfers to S310.

S310では、CPUが、画像に写る光源の位置を特定する。例えば、図8に例示するように、CPUが、画像中に横方向のX軸および縦方向のY軸を設定し、光源のXY座標上の位置を検出する。画像に写る光源の位置は、明度影響要因に該当する。その後、S315に移行する。 In S310, the CPU identifies the position of the light source shown in the image. For example, as illustrated in FIG. 8, the CPU sets the horizontal X axis and the vertical Y axis in the image, and detects the position of the light source on the XY coordinates. The position of the light source shown in the image corresponds to the brightness affecting factor. Then, it transfers to S315.

S315では、CPUが、右後側方カメラ11が撮影した自車両の右後方および右側方の風景の画像を取得する。ここでは、露光時間に関して特に制限も設けない。その後、S320に移行する。 In step S315, the CPU acquires images of the right rear and right sides of the vehicle captured by the right rear side camera 11. Here, the exposure time is not particularly limited. Then, it transfers to S320.

S320では、CPUが、S310で特定した光源の位置に対応する、S315で取得した画像上の位置での輝度値を取得する。その後、S325に移行する。
S325では、CPUが、二灯分離可否状態を取得する。ここでは、初期設定として、識別可能状態または識別不能状態の何れかを用いる。なお、本処理の実行が二回目以降である場合には、前回本処理を実行した際の二灯分離可否状態を用いてもよい。その後、S330に移行する。
In S320, the CPU acquires the brightness value at the position on the image acquired in S315, which corresponds to the position of the light source specified in S310. Then, it transfers to S325.
In S325, the CPU acquires the two-lamp separable state. Here, either the identifiable state or the unidentifiable state is used as the initial setting. If this process is executed for the second time or later, the two-lamp separable/non-separable state at the time of executing this process last time may be used. Then, it transfers to S330.

S330では、CPUが、二灯分離可否状態に基づき二灯分離が可能であるか否かを判断する。識別可能状態であり、二灯分離が可能であると判断された場合には、S335に移行する。識別不能状態であり、二灯分離が不可であると判断された場合には、S350に移行する。 In S330, the CPU determines whether or not the two lights can be separated based on the two-light separation availability state. If it is determined that the two lights can be separated, the process proceeds to S335. When it is determined that the two lights cannot be separated from each other, the process proceeds to S350.

S335では、光源の輝度分布が、PLSDF−α>第一基準値、または、PLSCF−β>第二基準値、の何れか一方を満たしているか否かをCPUが判断する。PLSDFは、Point Light Source Detection Factorの略である。PLSCFは、Point Light Source Contrast Factorの略である。第一基準値および第二基準値は予め設定される値である。本実施形態では、第一基準値が2.7に設定されるとともに、第二基準値が1.2に設定されている。第一基準値および第二基準値は、分布判定条件および識別判断条件に該当する。αは正の補正値である。βは正の補正値である。このように補正値αを設定するとともに、後述するS350でも補正値γを設定するのは、PLSDFが基準値付近で上下するためにモードが頻繁に切り替わる事態を防ぐためである。同様に、補正値βを設定するとともに、後述するS350でも補正値δを設定するのは、PLSCFが基準値付近で上下するためにモードが頻繁に切り替わる事態を防ぐためである。 In S335, the CPU determines whether or not the luminance distribution of the light source satisfies one of PLSDF-α>first reference value or PLSCF-β>second reference value. PLSDF is an abbreviation for Point Light Source Detection Factor. PLSCF is an abbreviation for Point Light Source Contrast Factor. The first reference value and the second reference value are preset values. In this embodiment, the first reference value is set to 2.7 and the second reference value is set to 1.2. The first reference value and the second reference value correspond to the distribution determination condition and the identification determination condition. α is a positive correction value. β is a positive correction value. The correction value α is set in this manner, and the correction value γ is also set in S350, which will be described later, in order to prevent the mode from being frequently switched because the PLSDF moves up and down in the vicinity of the reference value. Similarly, the reason why the correction value β is set and the correction value δ is also set in S350, which will be described later, is to prevent the mode from being frequently switched because the PLSCF moves up and down in the vicinity of the reference value.

PLSDFは、次の式(1)で算出される。 PLSDF is calculated by the following equation (1).

PLSCFは、次の式(2)で算出される。 PLSCF is calculated by the following equation (2).

は、画像上の光源のX軸方向の幅寸法を示し、光源の輝度値が予め設定された第一所定値以上である領域である。
は、画像上の光源のY軸方向の幅寸法を示し、光源の輝度値が予め設定された第二所定値以上である領域である。第二所定値は、第一所定値よりも小さい値に設定される。
S H represents the width of the X-axis direction of the light source on the image, the brightness value of the light source is a region at a first predetermined value or more set in advance.
S V indicates the width dimension of the light source on the image in the Y-axis direction, and is an area in which the brightness value of the light source is equal to or greater than a second predetermined value set in advance. The second predetermined value is set to a value smaller than the first predetermined value.

H,maxは、画像上の光源のX軸方向での輝度値の最大値である。
V,maxは、画像上の光源のY軸方向での輝度値の最大値である。
H,minは、画像上の光源のX軸方向での輝度値の最小値である。
L H,max is the maximum value of the luminance value of the light source on the image in the X-axis direction.
L V,max is the maximum value of the luminance value of the light source on the image in the Y-axis direction.
L H,min is the minimum luminance value in the X-axis direction of the light source on the image.

光源位置の輝度分布が、PLSDF−α>第一基準値、または、PLSCF−β>第二基準値、の何れか一方を満たしていると判断された場合には、識別不能状態であると判断し、二灯分離可能モードから二灯分離不可モードに変更することとし、S340に移行する。光源位置の輝度分布が、PLSDF−α>第一基準値、または、PLSCF−β>第二基準値、の何れも満たしていないと判断された場合には、識別可能状態であると判断し、二灯分離可能モードを継続することとし、S365に移行する。 When it is determined that the brightness distribution at the light source position satisfies either PLSDF-α>first reference value or PLSCF-β>second reference value, it is determined that the state is unidentifiable. Then, the two-lamp separable mode is changed to the two-lamp separable mode, and the process proceeds to S340. When it is determined that the brightness distribution of the light source position does not satisfy PLSDF-α>first reference value or PLSCF-β>second reference value, it is determined that the state is identifiable, The two-lamp separable mode is continued, and the process proceeds to S365.

S340では、CPUが、二灯分離不可状態に切り替える。このとき、二灯分離可能モードである場合には、二灯分離不可モードに切り替えるようにしてもよい。その後、S345に移行する。 In S340, the CPU switches to the two-lamp separation impossible state. At this time, when the two-light separable mode is set, the two-light separable mode may be switched to. Then, it transfers to S345.

S345では、CPUが、識別不能状態である旨をドライバに通知する。具体的には、CPUが、通信バス31を介して、識別不能状態である旨を示す情報を音声出力デバイス37に出力する。音声出力デバイス37は、画像処理装置1から入力された情報を音声出力する。その後、S365に移行する。 In S345, the CPU notifies the driver of the unidentifiable state. Specifically, the CPU outputs information indicating that the state is unidentifiable to the audio output device 37 via the communication bus 31. The voice output device 37 outputs the information input from the image processing apparatus 1 by voice. Then, it transfers to S365.

S350では、CPUが、光源位置の輝度分布は、PLSDF+γ>第一基準値、または、PLSCF+δ>第二基準値、の何れか一方を満たしているか否かを判断する。γは正の補正値である。δは正の補正値である。 In S350, the CPU determines whether or not the luminance distribution at the light source position satisfies one of PLSDF+γ>first reference value or PLSCF+δ>second reference value. γ is a positive correction value. δ is a positive correction value.

光源位置の輝度分布が、PLSDF+γ>第一基準値、または、PLSCF+δ>第二基準値、の何れか一方を満たしていると判断された場合には、識別可能状態であると判断し、二灯分離不可モードから二灯分離可能モードに変更することとし、S355に移行する。光源位置の輝度分布が、PLSDF+γ>第一基準値、または、PLSCF+δ>第二基準値、の何れも満たしていないと判断された場合には、識別不能状態であると判断し、二灯分離不可モードを継続することとし、S360に移行する。 When it is determined that the brightness distribution at the light source position satisfies either PLSDF+γ>first reference value or PLSCF+δ>second reference value, it is determined that the light is in an identifiable state, and two lights are detected. The non-separable mode is changed to the two-lamp separable mode, and the process proceeds to S355. When it is determined that the brightness distribution at the light source position does not satisfy PLSDF+γ>first reference value or PLSCF+δ>second reference value, it is determined that the state is indistinguishable and two lights cannot be separated. The mode is continued, and the process proceeds to S360.

S355では、CPUが、二灯分離可能状態に切り替える。このとき、二灯分離不可モードである場合には、二灯分離可能モード切り替えるようにしてもよい。その後、S365に移行する。 In S355, the CPU switches to the two-lamp separable state. At this time, if the two-lamp separable mode is set, the two-lamp separable mode may be switched. Then, it transfers to S365.

S360では、CPUが、二灯分離不可状態が継続中である場合には、その旨をドライバに再度通知する。CPUが、通信バス31を介して、二灯分離不可モードである旨を示す情報を音声出力デバイス37に出力する。音声出力デバイス37は、画像処理装置1から入力された情報を音声出力する。その後、S365に移行する。 In S360, if the two-lamp separation impossible state continues, the CPU notifies the driver again of that fact. The CPU outputs to the audio output device 37, via the communication bus 31, information indicating that the two-lamp separation mode is in effect. The voice output device 37 outputs the information input from the image processing apparatus 1 by voice. Then, it transfers to S365.

S365では、CPUが、画像を右後側方モニタ21に出力する。具体的には、CPUが、右後側方カメラ11が撮影した画像を、右後側方モニタ21に出力する。このとき、二灯分離可能モードである場合には、CPUが、カメラの露光時間を通常の設定時に比べて短くすることにより画像を暗くする処理を行う。また、二灯分離不可モードである場合には、CPUが、カメラの露光時間を通常の設定時に比べて長くすることにより画像を明るくする処理を行う。右後側方モニタ21は、画像処理装置1から入力された画像を表示する。その後、リターンする。 In S365, the CPU outputs the image to the right rear side monitor 21. Specifically, the CPU outputs the image captured by the right rear side camera 11 to the right rear side monitor 21. At this time, in the case of the two-lamp separable mode, the CPU performs a process of darkening the image by shortening the exposure time of the camera as compared with the normal setting. Further, in the case of the two-lamp separation impossible mode, the CPU performs a process of making the image brighter by making the exposure time of the camera longer than in the normal setting. The right rear side monitor 21 displays the image input from the image processing apparatus 1. Then return.

[3−3.効果]
以上詳述した第3実施形態によれば、画像中の輝度分布を明度影響要因として用いることにより、自車両の周囲を撮像した画像に写る複数の灯火器のそれぞれを表示部に識別可能に表示することの可否を判断することができる。
[3-3. effect]
According to the third embodiment described in detail above, by using the brightness distribution in the image as the brightness affecting factor, each of the plurality of lighting devices shown in the image of the surroundings of the own vehicle is displayed in a distinguishable manner. It is possible to judge whether or not to do.

そして、識別不能状態であると判断された場合にその旨を報知するので、運転者が画像に写る複数の灯火器を表示部に識別可能に表示することができない旨を認識することができ、したがって、運転者による運転状況の判断に寄与することができる。
[4.他の実施形態]
以上、本開示の実施形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
Then, since it is notified when it is determined that it is in an unidentifiable state, it is possible for the driver to recognize that it is not possible to distinguishably display a plurality of lighting devices shown in the image on the display unit, Therefore, it can contribute to the judgment of the driving situation by the driver.
[4. Other Embodiments]
Although the embodiments of the present disclosure have been described above, the present disclosure is not limited to the above-described embodiments, and various modifications can be implemented.

(1)上記実施形態では、CPUが、状況に応じて、二灯分離可能モードと二灯分離不可モードの切り替えを行うが、これには限られない。ドライバのスイッチ操作によって二つの動作モードを切り替えるようにしてもよい。 (1) In the above embodiment, the CPU switches between the two-lamp separable mode and the two-lamp separable mode depending on the situation, but the present invention is not limited to this. The two operation modes may be switched by the switch operation of the driver.

(2)上記実施形態では、二灯分離可能モードにおいて、画像を暗くするために、カメラの露光時間を通常の設定時に比べて短くしているが、これには限られない。カメラのレンズ絞りを通常の設定時に比べて絞ることにより、画像を暗くしてもよい。また、γ<1にガンマ補正をかけることにより、画像を暗くしてもよい。また、マイナスに明るさ補正をかけることにより、画像を暗くしてもよい。 (2) In the above embodiment, in the two-lamp separable mode, the exposure time of the camera is set shorter than the normal setting in order to darken the image, but the present invention is not limited to this. The image may be darkened by narrowing the lens aperture of the camera as compared with the normal setting. Further, the image may be darkened by applying gamma correction to γ<1. Further, the image may be darkened by negatively correcting the brightness.

(3)上記実施形態では、二灯分離不可モードにおいて、画像を明るくするために、カメラ11の露光時間を通常の設定時に比べて長くしているが、これには限られない。カメラのレンズ絞りを通常の設定時に比べて開けることにより、画像を明るくしてもよい。また、γ>1にガンマ補正をかけることにより、画像を明るくしてもよい。また、プラスに明るさ補正をかけることにより、画像を明るくしてもよい。 (3) In the above embodiment, the exposure time of the camera 11 is set to be longer than that in the normal setting in order to make the image brighter in the two-lamp separation impossible mode, but the present invention is not limited to this. The image may be brightened by opening the lens aperture of the camera as compared with the normal setting. Further, the image may be brightened by applying gamma correction to γ>1. The image may be brightened by positively correcting the brightness.

(4)上記実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言から特定される技術思想に含まれるあらゆる態様が本開示の実施形態である。 (4) A plurality of functions of one constituent element in the above embodiment may be realized by a plurality of constituent elements, or one function of one constituent element may be realized by a plurality of constituent elements. .. Further, a plurality of functions of a plurality of constituent elements may be realized by one constituent element, or one function realized by a plurality of constituent elements may be realized by one constituent element. Moreover, you may omit a part of structure of the said embodiment. Further, at least a part of the configuration of the above-described embodiment may be added or replaced with respect to the configuration of the other above-described embodiment. Note that all aspects included in the technical idea specified by the wording recited in the claims are embodiments of the present disclosure.

(5)上述した運転支援システムの他、当該運転支援システムを構成する画像処理装置、当該運転支援システムとしてコンピュータを機能させるためのプログラム、当該画像処理装置としてコンピュータを機能させるためのプログラム、これらのプログラムを記録した半導体メモリ等の非遷移的実態的記録媒体、運転支援方法、画像処理方法など、種々の形態で本開示を実現することもできる。 (5) In addition to the above-described driving support system, an image processing apparatus that constitutes the driving support system, a program that causes a computer to function as the driving support system, and a program that causes a computer to function as the image processing apparatus. The present disclosure can also be realized in various forms such as a non-transitional physical recording medium such as a semiconductor memory in which a program is recorded, a driving support method, and an image processing method.

1…画像処理装置、11…右後側方カメラ、13…左後側方カメラ、15…後方カメラ、21…右後側方モニタ、23…左後側方モニタ、25…後方モニタ、31…通信バス、33…照度センサ、35…他表示デバイス、37…音声出力デバイス。 DESCRIPTION OF SYMBOLS 1... Image processing device, 11... Right rear side camera, 13... Left rear side camera, 15... Rear camera, 21... Right rear side monitor, 23... Left rear side monitor, 25... Rear monitor, 31... Communication bus, 33... Illuminance sensor, 35... Other display device, 37... Audio output device.

Claims (7)

自車両の周囲の画像を取得部(11、13、15)から取得する取得制御部(S105、S205、S315)と、
前記取得制御部によって取得された前記画像を表示部(21、23、25)に表示させる表示制御部(S155、S255、S365)と、
前記画像全体の明度に影響を及ぼす要因である明度影響要因を検出する検出部(S110、S210、S320)と、
前記検出部によって検出された前記明度影響要因が予め設定された識別判断条件を不充足である場合に、前記画像に写る後続車両の前照灯のそれぞれを前記表示部上において識別不能な状態である識別不能状態と判断する判断部(S125、S140、S225、S240、S335、S350)と、
前記判断部によって前記識別不能状態と判断された場合に、前記自車両の運転者に対して、その旨を音声出力デバイス(37)に報知させる報知部(S135、S150、S235、S250、S345、S360)と、を備える
運転支援システム。
An acquisition control unit (S105, S205, S315) that acquires an image of the surroundings of the vehicle from the acquisition unit (11, 13, 15);
A display control unit (S155, S255, S365) for displaying the image acquired by the acquisition control unit on a display unit (21, 23, 25) ;
A detection unit (S110, S210, S320) for detecting a lightness affecting factor which is a factor affecting the lightness of the entire image;
When the brightness influencing factor detected by the detection unit does not satisfy the preset identification determination condition, each of the headlights of the following vehicles shown in the image cannot be identified on the display unit. A determination unit (S125, S140, S225, S240, S335, S350) for determining an unidentifiable state;
If it is determined that the unidentifiable state by said determining unit, wherein the driver of the vehicle, the notification unit to make the notification to that effect to the audio output device (37) (S135, S150, S235, S250, S345, S360), and a driving support system.
請求項1に記載の運転支援システムであって、
前記取得部は、前記画像を撮像するカメラであり、
前記検出部は、前記カメラが前記画像を撮像する際の前記カメラの明るさに関するパラメータを前記明度影響要因として検出し(S110)、
前記判断部は、前記パラメータが予め設定されたパラメータ判定値以上である場合に、前記明度影響要因が前記識別判断条件を不充足であり、前記識別不能状態であると判断する(S125、S140)
運転支援システム。
The driving support system according to claim 1, wherein
The acquisition unit is a camera that captures the image,
The detection unit detects a parameter relating to the brightness of the camera when the camera captures the image as the brightness influencing factor (S110),
When the parameter is equal to or greater than a preset parameter determination value, the determination unit determines that the lightness influencing factor does not satisfy the identification determination condition and is in the unidentifiable state (S125, S140).
Driving support system.
請求項1に記載の運転支援システムであって、
前記検出部は、前記自車両の周囲の照度を前記明度影響要因として検出し(S210)、
前記判断部は、前記照度が予め設定された照度判定値以下である場合に、前記明度影響要因が前記識別判断条件を不充足であり、前記識別不能状態であると判断する(S225、S240)
運転支援システム。
The driving support system according to claim 1, wherein
The detection unit detects the illuminance around the vehicle as the brightness affecting factor (S210),
When the illuminance is equal to or less than a preset illuminance determination value, the determination unit determines that the brightness influencing factor does not satisfy the identification determination condition and is in the unidentifiable state (S225, S240).
Driving support system.
請求項1に記載の運転支援システムであって、
前記検出部は、前記画像中の輝度分布を前記明度影響要因として検出し(S320)、
前記判断部は、前記輝度分布が予め設定された分布判定条件を不充足である場合に、前記明度影響要因が前記識別判断条件を不充足であり、前記識別不能状態であると判断する(S335、S350)
運転支援システム。
The driving support system according to claim 1, wherein
The detection unit detects the brightness distribution in the image as the brightness affecting factor (S320),
When the luminance distribution does not satisfy the preset distribution determination condition, the determination unit determines that the brightness influence factor does not satisfy the identification determination condition and is in the unidentifiable state (S335). , S350)
Driving support system.
請求項1〜請求項4の何れか1項に記載の運転支援システムであって、
動作モードとして、前記画像を暗くして前記画像中の所定領域に写る前記後続車両の前照灯のそれぞれが分離して見えて識別し易くするための二灯分離可能モードと、前記画像を明るくして前記画像中の所定領域に写る前記後続車両の前照灯のそれぞれが識別しにくくするための二灯分離不可モードの二つのモードがあり、
前記二灯分離可能モードが選択されている場合において、前記判断部によって前記識別不能状態と判断された場合には、前記二灯分離可能モードから前記二灯分離不可モードに変更する変更部(S130、S230、S330)を更に備える
運転支援システム。
The driving support system according to any one of claims 1 to 4,
As operation modes, the image is brightened by a dual-lamp separable mode in which each of the headlights of the following vehicle that appears in a predetermined area in the image is darkened and is easily seen and distinguished as an operation mode. Then, there are two modes of the two-lamp separation impossible mode for making it difficult to identify each of the headlights of the following vehicle that appears in a predetermined area in the image,
In the case where the two-light separable mode is selected, the change unit (S130) that changes from the two-light separable mode to the two-light separable mode when the determination unit determines that the indistinguishable state is present. , S230, S330).
請求項5に記載の運転支援システムであって、
前記判断部は、前記検出部によって検出された前記明度影響要因が前記識別判断条件を充足する場合に、前記画像に写る前記後続車両の前照灯のそれぞれを前記表示部上において識別可能な状態である識別可能状態と判断し、
前記変更部は、前記二灯分離不可モードが選択されている場合において、前記判断部によって前記識別可能状態と判断された場合には、前記二灯分離不可モードから前記二灯分離可能モードに変更する(S145、S245、S340)
運転支援システム。
The driving support system according to claim 5, wherein
When the lightness influencing factor detected by the detection unit satisfies the identification determination condition, the determination unit can identify, on the display unit, each of the headlights of the following vehicle captured in the image. It is determined that the identifiable state is
The changing unit changes from the two-lamp separable mode to the two-lamp separable mode when the determining unit determines that the discriminable state is the two-lamp separable mode. Yes (S145, S245, S340)
Driving support system.
自車両の周囲の画像を取得部(11、13、15)から取得し(S105、S205、S315)、
取得された前記画像を表示部(21、23、25)に表示させ(S155、S255、S365)、
前記画像全体の明度に影響を及ぼす要因である明度影響要因を検出し(S110、S210、S320)、
前記明度影響要因が予め設定された識別判断条件を不充足である場合に、前記画像に写る後続車両の前照灯のそれぞれを前記表示部上において識別不能な状態である識別不能状態であると判断し(S125、S140、S225、S240、S335、S350)、
前記識別不能状態であると判断された場合に、前記自車両の運転者に対して、その旨を音声出力デバイス(37)に報知させる(S135、S150、S235、S250、S345、S360)
運転支援方法。
An image of the surroundings of the vehicle is acquired from the acquisition unit (11, 13, 15) (S105, S205, S315),
To display the acquired image on the display unit (21,23,25) (S155, S255, S365),
Detecting a lightness affecting factor which is a factor affecting the lightness of the entire image (S110, S210, S320),
When the lightness influencing factor does not satisfy the preset identification determination condition, each of the headlights of the following vehicles shown in the image is in an unidentifiable state in which it is unidentifiable on the display unit. Judgment (S125, S140, S225, S240, S335, S350),
If it is determined that the an unidentifiable state, said the driver of the vehicle, makes notification to that effect to the audio output device (37) (S135, S150, S235, S250, S345, S360)
Driving support method.
JP2017009658A 2017-01-23 2017-01-23 Driving support system, driving support method Active JP6740916B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017009658A JP6740916B2 (en) 2017-01-23 2017-01-23 Driving support system, driving support method
DE112018000481.3T DE112018000481T5 (en) 2017-01-23 2018-01-12 TRAVEL SUPPORT SYSTEM AND TRAVEL SUPPORT PROCEDURE
PCT/JP2018/000705 WO2018135413A1 (en) 2017-01-23 2018-01-12 Driving support system and driving support method
CN201880007729.8A CN110199518B (en) 2017-01-23 2018-01-12 Driving support system and driving support method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017009658A JP6740916B2 (en) 2017-01-23 2017-01-23 Driving support system, driving support method

Publications (2)

Publication Number Publication Date
JP2018121122A JP2018121122A (en) 2018-08-02
JP6740916B2 true JP6740916B2 (en) 2020-08-19

Family

ID=62909097

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017009658A Active JP6740916B2 (en) 2017-01-23 2017-01-23 Driving support system, driving support method

Country Status (4)

Country Link
JP (1) JP6740916B2 (en)
CN (1) CN110199518B (en)
DE (1) DE112018000481T5 (en)
WO (1) WO2018135413A1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110723070B (en) * 2019-09-06 2020-12-15 成都长迪传感技术有限公司 Automobile blind area sensing system
WO2022059139A1 (en) * 2020-09-17 2022-03-24 三菱電機株式会社 Image display device and image display method

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10208189A (en) * 1997-01-24 1998-08-07 Mitsubishi Electric Corp Automatic regulating device for speed violation
JP2000207563A (en) * 1999-01-20 2000-07-28 Fujitsu Ten Ltd Image recognizing device
JP2003030665A (en) * 2001-07-10 2003-01-31 Mitsubishi Electric Corp Mobile object detector, mobile object detection method and program making computer execute the method
JP2008193504A (en) * 2007-02-06 2008-08-21 Toyota Motor Corp Night vision device
JP2009206747A (en) * 2008-02-27 2009-09-10 Nissan Motor Co Ltd Ambient condition monitoring system for vehicle, and video display method
CN102834309B (en) * 2010-02-26 2016-12-21 金泰克斯公司 Automotive vehicle monitoring of tools, warning and control system
JP5466587B2 (en) * 2010-06-29 2014-04-09 本田技研工業株式会社 Vehicle face image pickup device
JP5682304B2 (en) * 2010-12-27 2015-03-11 トヨタ自動車株式会社 Image providing device
DE102013020946A1 (en) * 2013-12-12 2015-06-18 Valeo Schalter Und Sensoren Gmbh Method for operating a rear view camera system of a motor vehicle after detection of a flasher, rear view camera system and motor vehicle
JP6424449B2 (en) * 2014-03-31 2018-11-21 株式会社デンソー Rear status display device, rear status display method
JP6657925B2 (en) * 2015-06-04 2020-03-04 ソニー株式会社 In-vehicle camera system and image processing device
JP6446335B2 (en) 2015-06-17 2018-12-26 コニカミノルタ株式会社 Imaging optical element and manufacturing method thereof

Also Published As

Publication number Publication date
WO2018135413A1 (en) 2018-07-26
CN110199518A (en) 2019-09-03
DE112018000481T5 (en) 2019-10-24
JP2018121122A (en) 2018-08-02
CN110199518B (en) 2021-01-05

Similar Documents

Publication Publication Date Title
JP4853160B2 (en) Vehicle detection device and headlamp control device
EP3351418B1 (en) Vehicular display device and vehicular display method
JP2008252327A (en) Vehicle periphery monitoring device
JP2016170663A (en) Vehicle monitoring device, vehicle monitoring method, and vehicle monitoring program
JP6740916B2 (en) Driving support system, driving support method
JP2007251258A (en) Image recognizing device
JP2008258778A (en) Imaging system
US20170050569A1 (en) In-vehicle display apparatus, control method for controlling same, and non-transitory computer readable medium recording program
JP2013235444A (en) Vehicle view support apparatus
US20170004809A1 (en) Method for operating a display device for a vehicle
JP2014164426A (en) Object detector
JP7176447B2 (en) light monitor
JP2017098785A (en) Display controller and display control program
JP2011121490A (en) Vehicular headlamp control device
JP2015198302A (en) Back situation display device and back situation display method
JP2008128867A (en) Device for identifying tire direction
JP2010208372A (en) Brightness adjusting device
JP2006082653A (en) Lamp lighting integrity detection device
JP2008193504A (en) Night vision device
JP2013172378A (en) Image processing device and vehicle
JP2018074440A (en) Vehicle rear image display device
JP2016212692A (en) Vehicle regulatory speed display device
JP6866212B2 (en) Display control device, display control method and camera monitoring system
JP2009096384A (en) Driving assistance system and method
JP6206334B2 (en) Detection device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200706

R151 Written notification of patent or utility model registration

Ref document number: 6740916

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250