JP5361409B2 - Vehicle monitoring device, vehicle monitoring system, vehicle monitoring program, semiconductor device - Google Patents

Vehicle monitoring device, vehicle monitoring system, vehicle monitoring program, semiconductor device Download PDF

Info

Publication number
JP5361409B2
JP5361409B2 JP2009011994A JP2009011994A JP5361409B2 JP 5361409 B2 JP5361409 B2 JP 5361409B2 JP 2009011994 A JP2009011994 A JP 2009011994A JP 2009011994 A JP2009011994 A JP 2009011994A JP 5361409 B2 JP5361409 B2 JP 5361409B2
Authority
JP
Japan
Prior art keywords
information
vehicle monitoring
vehicle
unit
specific information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009011994A
Other languages
Japanese (ja)
Other versions
JP2010170317A (en
Inventor
敦 高杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lapis Semiconductor Co Ltd
Original Assignee
Lapis Semiconductor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lapis Semiconductor Co Ltd filed Critical Lapis Semiconductor Co Ltd
Priority to JP2009011994A priority Critical patent/JP5361409B2/en
Publication of JP2010170317A publication Critical patent/JP2010170317A/en
Application granted granted Critical
Publication of JP5361409B2 publication Critical patent/JP5361409B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To notify a driver of the need for information at a processing speed which is sufficient to circumvent dangers during driving, when monitoring a vehicle and the periphery of the vehicle, at all times, regardless of whether a vehicle is being driven, parked or stopped. <P>SOLUTION: An information acquisition section 34 acquires (an image pickup device images) information, and a result determined by a determination section 36 is converted into specific information, such as absolute minimum and simple general-purpose text information by a specific information generating section 38, and transmitted via a communication line 28 to a main control section 30 with the minimum data amounts. There are advantages, such that when the general-purpose text information is defined as the specific information, it can be easily treated although it is received even by a manufacturer's device, and it can be worked, as necessary. Specific information is transferred with the minimum data amounts to a main control section 30 so that it is possible to very much reduce the data processing load of the main control section 30, and that it is necessary for the main control section 30 to have only the function for controlling a warning generating part 32. <P>COPYRIGHT: (C)2010,JPO&amp;INPIT

Description

本発明は、車両及び車両周辺に発生する事象を監視する車両監視装置、車両監視システム、車両監視プログラム、半導体装置に関するものである。   The present invention relates to a vehicle monitoring device, a vehicle monitoring system, a vehicle monitoring program, and a semiconductor device that monitor a vehicle and an event occurring around the vehicle.

従来、車両及び車両の周辺に発生する事象を監視する手段として、車載カメラシステムが知られている。 2. Description of the Related Art Conventionally, an in-vehicle camera system has been known as means for monitoring a vehicle and an event occurring around the vehicle.

車載カメラシステムは、車両の適宜箇所(例えば、車両の四隅等の周縁)に設けられた複数のカメラから画像情報がメイン制御部に入力され、このメイン制御部に入力された画像情報を解析し、この解析によってテキスト情報化して運転者に、解析結果を報知するのが一般的である。   The in-vehicle camera system receives image information from a plurality of cameras provided at appropriate locations on the vehicle (for example, peripheral edges such as four corners of the vehicle), and analyzes the image information input to the main control unit. In general, the information is converted into text information by this analysis and the analysis result is notified to the driver.

ここで、監視のための情報収集量を多くするにはカメラを増設することになる。ところが、カメラが増設されると、メイン制御部に入力される情報(画像情報)が増えることになり、メイン制御部の負担が増え、迅速な解析に支障をきたす場合がある。   Here, in order to increase the amount of information collected for monitoring, an additional camera is required. However, when the number of cameras is increased, information (image information) input to the main control unit increases, and the burden on the main control unit increases, which may hinder rapid analysis.

このため、特許文献1では、運転者へ報知する内容か否かを決定するための判断機能、すなわち、カメラで撮像した画像情報に基づく解析をカメラ側に搭載することが提案されている。 For this reason, Patent Document 1 proposes that a determination function for determining whether or not the content is to be notified to the driver , that is, an analysis based on image information captured by the camera is mounted on the camera side.

この特許文献1によれば、カメラ側で運転者へ報知する内容と判断した場合のみ、その画像情報をメイン制御部へ送出する。この結果、メイン制御部へ入力される画像情報量を軽減することができる。 According to this patent document 1, the image information is sent to the main control unit only when it is determined that the camera side informs the driver . As a result, the amount of image information input to the main control unit can be reduced.

特開2008−207627公報JP 2008-207627 A

しかしながら、特許文献1では、カメラ側で画像情報をメイン制御部へ送出するか否かの判断をすることで、全ての画像情報に対してメイン制御部で負担するよりも軽減することは確かであるものの、画像情報をメイン制御部で一括管理(解析)している特許文献1では、処理速度が不十分となる場合がある。   However, in Patent Document 1, it is certain that all image information can be reduced rather than being burdened by the main control unit by determining whether the image information is sent to the main control unit on the camera side. However, in Patent Document 1 in which image information is collectively managed (analyzed) by the main control unit, the processing speed may be insufficient.

特に、車両においては、瞬時の判断が要求されることが多く、また、当該判断精度の向上のためには、解析要素(画像情報等の入力情報)は多ければ多いほどよいが、このような車両特有の条件の下では、メイン制御部が画像情報を入力源としている特許文献1の技術では、処理能力に限界がある。 In particular, in a vehicle, an instantaneous determination is often required, and more analysis elements (input information such as image information) are better for improving the determination accuracy. Under the conditions peculiar to the vehicle, the technique of Patent Document 1 in which the main control unit uses image information as an input source has a limit in processing capability.

本発明は上記事実を考慮し、車両において、走行中、駐停車中を問わず、常に車両及び車両周辺を監視するにあたり、特に、走行中の危険回避に充分な処理速度で、必要な情報を運転者へ報知することができる車両監視装置、車両監視システム、車両監視プログラム、半導体装置を得ることが目的である。 In consideration of the above facts, the present invention constantly monitors the vehicle and its surroundings regardless of whether the vehicle is traveling or parked, and in particular, provides necessary information at a processing speed sufficient to avoid danger during traveling. It is an object to obtain a vehicle monitoring device, a vehicle monitoring system, a vehicle monitoring program, and a semiconductor device that can notify a driver.

第1の発明である車両監視装置は、車両の所定位置から特定の視野領域の画像情報を取得する情報取得手段と、前記情報取得手段で取得した画像情報を解析すると共に、当該解析結果を、前記車両の運転者に対して報知する必要があるか否かを判断する判断手段と、前記判断部において報知する必要があると判断した場合に、前記解析結果に基づき、かつ、前記画像情報よりも情報量が少ない特定情報を生成する特定情報生成手段と、を有している。   The vehicle monitoring device according to the first aspect of the invention is an information acquisition unit that acquires image information of a specific visual field from a predetermined position of the vehicle, and analyzes the image information acquired by the information acquisition unit, and the analysis result is A determination means for determining whether or not it is necessary to notify the driver of the vehicle; and when it is determined that notification is required in the determination section, based on the analysis result and from the image information And specific information generating means for generating specific information with a small amount of information.

第1の発明によれば、画像情報を取得し、この画像情報を解析し、車両の運転者に対して報知する必要があるか否かを判断し、必要有りの場合に、前記画像情報よりも情報量が少ない特定情報を生成するため、例えば、外部で前記特定情報を一括管理する場合でも、画像情報よりも当該管理する情報量が少なくて済む。言い換えれば、例えば、車両走行中における危険回避等、迅速な対応が可能となる。 According to the first invention, the image information is acquired, the image information is analyzed, it is determined whether or not it is necessary to notify the driver of the vehicle. Since the specific information with a small amount of information is generated, for example, even when the specific information is collectively managed externally, the amount of information to be managed is smaller than the image information. In other words, for example, a quick response such as danger avoidance while the vehicle is running becomes possible.

なお、画像情報は、静止画像、動画像の何れであってもよい。   Note that the image information may be either a still image or a moving image.

上記第1の発明において、前記特定情報が、情報認識に特別な認識機能が不要な、汎用性を持つテキスト情報であることを特徴とする。   In the first invention, the specific information is text information having versatility that does not require a special recognition function for information recognition.

特定情報として、テキスト情報を適用することで、情報量軽減に加え、汎用性のある情報とすることができる。   By applying text information as specific information, in addition to reducing the amount of information, the information can be versatile.

また、第1の発明において、前記特定情報が、前記判断手段における報知要否の判定結果を含むことを特徴とする。   In the first invention, the specific information includes a determination result of necessity of notification in the determination unit.

特定情報が、報知要否の判定結果を含んでいることで、例えば、外部で一括管理する制御において、解析が簡便化され、迅速な報知が可能となる。   Since the specific information includes the determination result of the necessity of notification, for example, in the control collectively managed outside, the analysis is simplified, and prompt notification is possible.

さらに、第1の発明において、前記情報取得手段が、色信号、輝度信号、濃度信号の少なくとも1つで構成された画像信号を出力する撮像装置、前記特定の視野領域の温度に基づく信号を出力する赤外線センサ、前記特定の視野領域に存在する物体までの立体的な距離間に基づく画像信号を出力する超音波センサの何れかで構成されていることを特徴とする。   Furthermore, in the first invention, the information acquisition means outputs an image signal that outputs an image signal composed of at least one of a color signal, a luminance signal, and a density signal, and outputs a signal based on the temperature of the specific visual field region And an ultrasonic sensor that outputs an image signal based on a three-dimensional distance to an object existing in the specific visual field region.

情報取得手段は、撮像装置、赤外線センサ、超音波センサの何れかで構成することで、監視する目的や対象に基づいて選択することができる。   The information acquisition means can be selected based on the purpose or object to be monitored by being configured by any one of an imaging device, an infrared sensor, and an ultrasonic sensor.

また、第1の発明において、前記判断手段には、複数の画像情報が入力されることを特徴とする。   In the first invention, a plurality of pieces of image information are input to the determination means.

判断手段では、複数の画像情報を解析して判断する。複数の画像情報には、例えば、情報取得手段が撮像装置である場合、同一撮像領域で撮像時期が異なる画像情報(静止画に限定されるものではない)であれば、情報取得手段は単一でよい。また、異なる撮像領域で同一撮像時期の画像情報であれば、複数の情報取得手段を設置すればよい。   The judging means analyzes and analyzes a plurality of pieces of image information. For example, when the information acquisition means is an imaging device, the information acquisition means is a single piece of information if the image acquisition time is different in the same imaging region (not limited to still images). It's okay. In addition, a plurality of information acquisition means may be installed if the image information is the same imaging time in different imaging areas.

また、第1の発明において、前記判断手段の判断結果に基づいて、前記情報取得手段に対して情報取得実行時の機能状態を調整する調整手段をさらに有することを特徴とする。 In the first invention, the information acquisition unit further includes an adjustment unit that adjusts a function state at the time of information acquisition based on a determination result of the determination unit.

例えば、判断手段において運転者に報知するか否かの判断基準を設定した場合、当該判断基準に従って、情報取得手段による機能状態(情報取得実行時の調整を含む機能状態)を調整することで、判断手段での解析、判断に要する時間を短縮することができる。 For example, if you set the criterion for determining whether to notify the driver in the determination means, in accordance with the criteria (functional states including adjustment during information acquisition execution) functional status by the information acquiring unit by adjusting the The time required for analysis and determination by the determination means can be shortened.

第2の発明である車両監視システムは、車両の所定位置から特定の視野領域の画像情報を取得する情報取得手段と、前記情報取得手段で取得した画像情報を解析すると共に、当該解析結果を、前記車両の運転者に対して報知する必要があるか否かを判断する判断手段と、前記判断部において報知する必要があると判断した場合に、前記解析結果に基づき、かつ、前記画像情報よりも情報量が少ない特定情報を生成する特定情報生成手段と、を備えた複数の車両監視モジュールと、車両の運転者に対して、警報を発する警報発生手段と、複数の前記監視モジュールから前記特定情報が入力されると共に、当該特定情報に基づいて、前記警報発生手段の発生形態を選択して、実行させる制御手段と、を有している。   The vehicle monitoring system according to the second aspect of the invention is an information acquisition unit that acquires image information of a specific visual field from a predetermined position of the vehicle, and analyzes the image information acquired by the information acquisition unit, and the analysis result is A determination means for determining whether or not it is necessary to notify the driver of the vehicle; and when it is determined that notification is required in the determination section, based on the analysis result and from the image information Specific information generating means for generating specific information with a small amount of information, alarm generating means for issuing an alarm to a driver of the vehicle, and the identification from a plurality of the monitoring modules And a control means for selecting and executing a generation form of the alarm generation means based on the specific information.

第2の発明によれば、車両に複数の車両監視モジュールを搭載する。それぞれの車両監視モジュールでは、画像情報を取得し、この画像情報を解析し、車両の運転者に対して報知する必要か否かを判断し、必要有りの場合に、前記画像情報よりも情報量が少ない特定情報を生成する。   According to the second invention, a plurality of vehicle monitoring modules are mounted on the vehicle. Each vehicle monitoring module acquires image information, analyzes this image information, determines whether or not it is necessary to notify the vehicle driver, and if necessary, the amount of information is larger than that of the image information. It generates specific information with few.

ここで、制御手段では、複数の前記監視モジュールから入力される特定情報に基づいて、警報発生手段の発生形態を選択して実行させる。これにより、制御手段は、画像情報よりも当該管理する情報量が少なくて済む。言い換えれば、例えば、車両走行中における危険回避等、迅速な対応(運転者への報知等)が可能となる。 Here, the control means selects and executes the generation form of the alarm generation means based on the specific information input from the plurality of monitoring modules. As a result, the control unit can manage less information than the image information. In other words, for example, quick response (notification to the driver, etc.) such as danger avoidance while the vehicle is running becomes possible.

なお、画像情報は、静止画像、動画像の何れであってもよい。   Note that the image information may be either a still image or a moving image.

上記第2の発明において、前記特定情報が、情報認識に特別な認識機能が不要な、汎用性を持つテキスト情報であることを特徴とする。   In the second invention, the specific information is text information having versatility that does not require a special recognition function for information recognition.

特定情報として、テキスト情報を適用することで、情報量軽減に加え、汎用性のある情報とすることができる。   By applying text information as specific information, in addition to reducing the amount of information, the information can be versatile.

また、第2の発明において、前記特定情報が、前記車両監視モジュールを識別する識別情報と、前記判断手段における報知要否の判定結果を含むことを特徴とする。   Further, in the second invention, the specific information includes identification information for identifying the vehicle monitoring module and a determination result of necessity of notification in the determination unit.

特定情報が、車両監視モジュールを識別する識別情報と、判断手段における報知要否の判定結果を含んでいることで、制御手段における解析が簡便化され、迅速な報知が可能となる。   Since the specific information includes the identification information for identifying the vehicle monitoring module and the determination result on the necessity of notification in the determination unit, the analysis in the control unit is simplified and prompt notification is possible.

さらに、第2の発明において、前記情報取得手段が、色信号、輝度信号、濃度信号の少なくとも1つで構成された画像信号を出力する撮像装置、前記特定の視野領域の温度に基づく信号を出力する赤外線センサ、前記特定の視野領域に存在する物体までの立体的な距離間に基づく画像信号を出力する超音波センサの何れかで構成されていることを特徴とする。   Furthermore, in the second invention, the information acquisition means outputs an image signal that outputs an image signal composed of at least one of a color signal, a luminance signal, and a density signal, and outputs a signal based on the temperature of the specific visual field region And an ultrasonic sensor that outputs an image signal based on a three-dimensional distance to an object existing in the specific visual field region.

情報取得手段は、撮像装置、赤外線センサ、超音波センサの何れかで構成することで、監視する目的や対象に基づいて選択することができる。   The information acquisition means can be selected based on the purpose or object to be monitored by being configured by any one of an imaging device, an infrared sensor, and an ultrasonic sensor.

また、第2の発明において、前記警報発生手段が、運転者に視覚を通じて報知する表示手段を含むことを特徴とする。 In the second invention, the alarm generation means includes display means for visually informing a driver .

警報発生手段としては、運転に直接影響を与える直接的な手段(例えば、シートベルトの緊張力を変化させたり、ブレーキのアシストをしたり等)が主体となるが、この他に、乗員(運転者)に報知することが好ましい。この場合、視覚を通じて報知する表示手段を付加する。例えば、視覚を通じた報知の比較対象として聴覚を通じた報知があるが、聴覚を通じた報知は、車室内の環境(大音量での音楽の視聴等)によっては、報知内容が聞こえない場合がある。これに対して、視覚を通じた報知は、車室内の環境に関わらず、運転者に迅速に報知することができる。 As alarm generating means, direct means that directly affect driving (for example, changing the tension of the seat belt, assisting the brake, etc.) are mainly used. It is preferable to notify the person). In this case, display means for making a notification through vision is added. For example, there is a notification through hearing as a comparison target of notification through vision, but the notification content through hearing may not be heard depending on the environment (such as listening to music at a high volume) in the passenger compartment. In contrast, visual notification can be promptly notified to the driver regardless of the environment in the passenger compartment.

さらに、第2の発明において、前記判断手段には、複数の画像情報が入力されることを特徴とする。   Furthermore, in the second invention, a plurality of pieces of image information are input to the determination means.

判断手段では、複数の画像情報を解析して判断する。複数の画像情報には、例えば、情報取得手段が撮像装置である場合、同一撮像領域で撮像時期が異なる画像情報(静止画に限定されるものではない)であれば、情報取得手段は単一でよい。また、異なる撮像領域で同一撮像時期の画像情報であれば、複数の情報取得手段を設置すればよい。   The judging means analyzes and analyzes a plurality of pieces of image information. For example, when the information acquisition means is an imaging device, the information acquisition means is a single piece of information if the image acquisition time is different in the same imaging region (not limited to still images). It's okay. In addition, a plurality of information acquisition means may be installed if the image information is the same imaging time in different imaging areas.

また、第2の発明において、前記判断手段の判断結果に基づいて、前記情報取得手段に対して情報取得実行時の機能状態を調整する調整手段をさらに有することを特徴とする。 In addition, in the second invention, the apparatus further includes an adjusting unit that adjusts a function state at the time of information acquisition with respect to the information acquisition unit based on a determination result of the determination unit.

例えば、判断手段において運転者に報知するか否かの判断基準を設定した場合、当該判断基準に従って、情報取得手段による機能状態(情報取得実行時の調整を含む機能状態)を調整することで、判断手段での解析、判断に要する時間を短縮することができる。 For example, if you set the criterion for determining whether to notify the driver in the determination means, in accordance with the criteria (functional states including adjustment during information acquisition execution) functional status by the information acquiring unit by adjusting the The time required for analysis and determination by the determination means can be shortened.

さらに、第2の発明において、前記制御手段が、複数の前記車両監視モジュールの各手段に対して指示情報の送信が可能であり、前記車両監視モジュールの各手段の機能行時実行機能状態を指示することを特徴とする。 Further, in the second invention, the control means is capable of transmitting the instruction information to each unit of the plurality of the vehicle monitoring module, execution functional status during function execution of each unit of the vehicle monitoring module It is characterized by instructing.

制御手段とそれぞれの車両監視モジュールとは当然通信回線で互いに送受信可能に接続されるが、これとは別に、車両監視モジュールを構成する各機能に対して、車両がおかれている現在の状況に応じて、制御手段から直接指示情報を送信することができる。   Of course, the control means and each vehicle monitoring module are connected to each other via a communication line so that they can transmit and receive each other, but apart from this, for each function constituting the vehicle monitoring module, the current situation where the vehicle is placed In response, the instruction information can be transmitted directly from the control means.

また、第2の発明において、前記制御手段が、複数の前記車両監視モジュールの各手段と、相互に情報の送受信が可能であり、前記制御手段から前記車両監視モジュールの各手段に対して、機能行時実行機能状態の調整を指示すると共に、前記車両監視モジュールの各手段から前記制御手段に対して、必要に応じて前記特定情報以外の情報を直接送信しても良いFurther, in the second invention, the control means can transmit / receive information to / from each means of the plurality of vehicle monitoring modules, and functions from the control means to each means of the vehicle monitoring module. the adjustment of the execution functional state of runtime with fingers Shimesuru, to the control unit from the means of the vehicle monitoring module, the information other than the specific information may be sent directly as required.

制御手段とそれぞれの車両監視モジュールとは当然通信回線で互いに送受信可能に接続されるが、これとは別に、車両監視モジュールを構成する各機能と制御手段とが相互に直接情報を送受信可能とする。   The control means and each vehicle monitoring module are naturally connected to each other via a communication line so as to be able to transmit and receive each other, but apart from this, each function constituting the vehicle monitoring module and the control means can directly transmit and receive information to and from each other. .

これにより、制御手段は、車両監視モジュールの各機能に対して、車両がおかれている現在の状況に応じて、直接指示情報を送信することができる。一方、車両監視モジュールの各機能は、制御手段に対して、必要に応じて前記特定情報以外の情報を直接送信することができる。 Thus, the control hand stage, for each function of the vehicle monitoring module, depending on the current situation in which the vehicle is placed, can transmit directly instruction information. On the other hand, the functions of the vehicle monitoring module, the control unit can be transmitted as required information directly other than the specific information.

さらに、第2の発明において、前記車両監視モジュールと前記制御手段との間の情報伝達が、無線通信で実行されることを特徴とする。   Furthermore, in the second invention, information transmission between the vehicle monitoring module and the control means is performed by wireless communication.

車両監視モジュールは、車両の各部に設けることが好ましく、これらからの特定情報を制御手段で一括管理する場合において、配線が複雑になる可能性がある。この場合、特定情報の情報量が軽減されることから、無線通信を適用することが可能となる。この場合、前述した制御手段と車両監視モジュールの各機能との直接接続は、伝送速度維持等、必要に応じて有線配線とするようにしてもよい。   The vehicle monitoring module is preferably provided in each part of the vehicle, and when specific information from these is collectively managed by the control means, wiring may be complicated. In this case, since the amount of specific information is reduced, wireless communication can be applied. In this case, the direct connection between the above-described control means and each function of the vehicle monitoring module may be wired as necessary for maintaining the transmission speed.

第3の発明は、コンピュータに、車両の所定位置から特定の視野領域の画像情報を取得し、取得した画像情報を解析して、車両の運転者に対して報知する必要があるか否かを判断し、前記判断の結果、運転者に報知する必要があると判断した場合に、前記解析結果に基づく特定情報として、前記画像情報よりも情報量が少ない特定情報を生成し、前記特定情報に基づいて、警報の発生形態を選択して、実行させる、車両監視プログラムである。   According to a third aspect of the present invention, the computer acquires image information of a specific visual field from a predetermined position of the vehicle, analyzes the acquired image information, and determines whether or not it is necessary to notify the driver of the vehicle. When it is determined that it is necessary to notify the driver as a result of the determination, as the specific information based on the analysis result, specific information having a smaller information amount than the image information is generated, and the specific information is This is a vehicle monitoring program for selecting and executing an alarm generation form based on the above.

第4の発明は、車両の所定位置から特定の視野領域の画像情報を取得し、取得した画像情報を解析して、車両の運転者に対して報知する必要があるか否かを判断し、前記判断の結果、運転者に報知する必要があると判断した場合に、前記解析結果に基づく特定情報として、前記画像情報よりも情報量が少ない特定情報を生成し、前記特定情報に基づいて、警報の発生形態を選択して、実行させる、車両監視プログラムが記憶された記憶素子を備えた半導体装置である。   4th invention acquires the image information of a specific visual field from the predetermined position of a vehicle, analyzes the acquired image information, judges whether it is necessary to notify a driver of a vehicle, As a result of the determination, when it is determined that it is necessary to notify the driver, as the specific information based on the analysis result, specific information having a smaller information amount than the image information is generated, and based on the specific information, The semiconductor device includes a storage element in which a vehicle monitoring program is stored, which is selected and executed according to an alarm generation mode.

以上説明した如く本発明では、車両において、走行中、駐停車中を問わず、常に車両及び車両周辺を監視するにあたり、特に、走行中の危険回避に充分な処理速度で、必要な情報を運転者へ報知することができるという優れた効果を有する。 As described above, according to the present invention, in monitoring a vehicle and its surroundings regardless of whether the vehicle is traveling or parked, the necessary information is driven at a processing speed sufficient to avoid danger during traveling. It has the outstanding effect that it can alert | report to a person.

第1の実施の形態に係る車両監視システムが搭載された車両の斜視図である。1 is a perspective view of a vehicle equipped with a vehicle monitoring system according to a first embodiment. 第1の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 1st Embodiment. 車両前方を監視する車両監視モジュールによる白線認識状態を示す正面図である。It is a front view which shows the white line recognition state by the vehicle monitoring module which monitors the vehicle front. 第1の実施の形態に係るバックモニタの撮像画像であり、(A)は人物認識状態、(B)は軽車両認識状態である。A captured image of the engaging Luba Kkumonita to the first embodiment, (A) a person recognition state, (B) is a light vehicle detection mode. 第1の実施の形態に係る車両監視モジュール24の監視制御の流れを示すフローチャートである。It is a flowchart which shows the flow of monitoring control of the vehicle monitoring module 24 which concerns on 1st Embodiment. 第1の実施の形態に係るメイン制御部30における特定情報の入力から警報実行指示までの流れを示す警報実行制御ルーチンを示すフローチャートである。It is a flowchart which shows the warning execution control routine which shows the flow from the input of specific information in the main control part 30 which concerns on 1st Embodiment to warning execution instruction. 第2の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 2nd Embodiment. 第3の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 3rd Embodiment. 第4の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 4th Embodiment. 第5の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 5th Embodiment. 第6の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 6th Embodiment. 第7の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 7th Embodiment. 第8の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 8th Embodiment. 第9の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 9th Embodiment. 第10の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 10th Embodiment. 第11の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 11th Embodiment. 第12の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 12th Embodiment. 第13の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 13th Embodiment. 第14の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 14th Embodiment. 第15の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 15th Embodiment. 第16の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 16th Embodiment. 第17の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 17th Embodiment. 第18の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 18th Embodiment. 第19の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 19th Embodiment. 第20の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 20th Embodiment. 第21の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 21st Embodiment. 第22の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 22nd Embodiment. 第23の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 23rd Embodiment. 第24の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 24th Embodiment. 第25の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 25th Embodiment. 第26の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 26th Embodiment. 第27の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 27th Embodiment. 第28の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 28th Embodiment. 第29の実施の形態に係る車両監視システムを構成する制御ブロック図である。It is a control block diagram which comprises the vehicle monitoring system which concerns on 29th Embodiment.

(第1の実施の形態)
図1には、第1の実施の形態に係る車両監視システムが搭載された車両10が示されている。
(First embodiment)
FIG. 1 shows a vehicle 10 on which the vehicle monitoring system according to the first embodiment is mounted.

図1に示される如く、第1の実施の形態では、天井部12を中心とするモノコックボディに、フロントガラス14を介してエンジンフード16、一対のフロントドア18及びリヤドア20(左側は図示省略)、並びにバックドア22が設けられた、通常「ミニバン」と称される外観形状をもつ車両10を対象としているが、特にこのような外観形状(ミニバン)の車両10に限定されるものではない。 As shown in FIG. 1, in the first embodiment, an engine hood 16, a pair of front doors 18, and a rear door 20 (not shown on the left side) are disposed on a monocoque body centered on a ceiling portion 12 via a windshield 14. In addition, the vehicle 10 having the external shape generally called “minivan” provided with the back door 22 is targeted. However, the vehicle 10 is not particularly limited to the external shape 10 (minivan).

車両10には、車両監視システムの一部を構成する複数の車両監視モジュール(総称する場合、「車両監視モジュール24」とする)が当該車両10の適宜箇所に設置されている。   In the vehicle 10, a plurality of vehicle monitoring modules (collectively referred to as “vehicle monitoring module 24”) constituting a part of the vehicle monitoring system are installed at appropriate positions of the vehicle 10.

第1の実施の形態では、車両10に10個の車両監視モジュール24が設けられている(モジュールNo.01〜No.10)。各モジュールNo.に対応する名称と設置場所は以下(表1)のとおりである。   In the first embodiment, the vehicle 10 is provided with ten vehicle monitoring modules 24 (module No. 01 to No. 10). Each module No. The names and installation locations corresponding to are as follows (Table 1).

Figure 0005361409
Figure 0005361409

車両10の適宜箇所に設けられた10個の車両監視モジュール24は、専用の通信回線28(図1では図示省略、図2参照)により、車両10に搭載されたメイン制御部30にそれぞれ接続されている。従って、各車両監視モジュール24からの信号が、メイン制御部30に集約されることになる。   Ten vehicle monitoring modules 24 provided at appropriate positions of the vehicle 10 are respectively connected to a main control unit 30 mounted on the vehicle 10 by a dedicated communication line 28 (not shown in FIG. 1, refer to FIG. 2). ing. Therefore, signals from the vehicle monitoring modules 24 are collected in the main control unit 30.

メイン制御部30では、集約された各車両監視モジュール24からの情報(特定情報)に基づいて、警報発生部32を制御する。   The main control unit 30 controls the alarm generation unit 32 based on the information (specific information) from each of the collected vehicle monitoring modules 24.

図2には、車両監視モジュール24及びメイン制御部30を含む車両監視システムの詳細が示されている。車両監視モジュール24A〜24Jは基本的構成全て同一であるため、その1つの構成を説明して、その他は同一符号を付して、構成の説明を省略する。 FIG. 2 shows details of the vehicle monitoring system including the vehicle monitoring module 24 and the main control unit 30. Since the vehicle monitoring modules 24A to 24J have the same basic configuration, one configuration will be described, and the other components will be denoted by the same reference numerals, and description of the configuration will be omitted.

車両監視モジュール24は、情報取得部34、判断部36、特定情報生成部38を備えている。   The vehicle monitoring module 24 includes an information acquisition unit 34, a determination unit 36, and a specific information generation unit 38.

情報取得部34は、具体的には、CCDカメラ等の撮像装置や、圧力、温度、距離等の物理的な変化に応じて信号が変化するセンサ(圧力センサ、温度センサ、赤外線センサ、光電変換センサ等)が代表的である。また、音を検出するマイク等も情報取得部34の範疇となる。   Specifically, the information acquisition unit 34 is an imaging device such as a CCD camera, or a sensor (pressure sensor, temperature sensor, infrared sensor, photoelectric conversion) in which a signal changes according to a physical change such as pressure, temperature, and distance. Sensors etc.) are typical. Further, a microphone or the like that detects sound also falls under the category of the information acquisition unit 34.

なお、車両監視モジュール24における監視項目は、表2に示される如く、盗難監視、車上荒らし監視、居眠り防止、不穏動作監視、前方危険防止(車、人)、標識認識、ヘッドライト(上下)、白線認識、前方危険防止(車、人)、前方危険認識、前方車発進認識、発進前危険防止、バック時危険防止、停止時ドア後方監視、追い越し危険防止である。   As shown in Table 2, the monitoring items in the vehicle monitoring module 24 are theft monitoring, vandalism monitoring, dozing prevention, disturbing motion monitoring, forward danger prevention (car, person), sign recognition, headlight (up and down). White line recognition, forward danger prevention (car, person), forward danger recognition, forward car start recognition, pre-start danger prevention, back-time danger prevention, stop door rear monitoring, overtaking danger prevention.

情報取得部34が例えば撮像装置である場合は、当該撮像装置で車内外の動画像を撮像する。   When the information acquisition unit 34 is an imaging device, for example, a moving image inside and outside the vehicle is captured by the imaging device.

情報取得部34は、取得した特定情報(上記例では、撮像した画像データ)を判断部36へ送出するようになっている。判断部36は、入力する特定情報の解析を行い、予め定めた基準の状態との差異に基づいて、運転者等の乗員に対して報知をする必要があるか否かの判断を行う。   The information acquisition unit 34 sends the acquired specific information (captured image data in the above example) to the determination unit 36. The determination unit 36 analyzes the specific information to be input, and determines whether or not it is necessary to notify an occupant such as a driver based on a difference from a predetermined reference state.

以下、情報取得部34が撮像装置であり、特定情報が画像データであるとして、説明する。   In the following description, it is assumed that the information acquisition unit 34 is an imaging device and the specific information is image data.

画像データは、ピクセル解析されることで、エッジ検出、動き検出等を行い、動画像内の特異な画像を抽出する。特異な画像とは、例えば、コントラストが周囲と極端に異なる路上に付された白線や、他の画像とは明らかに移動速度が異なる人物等である。   The image data is subjected to pixel analysis to perform edge detection, motion detection, and the like to extract a unique image in the moving image. The unique image is, for example, a white line on a road whose contrast is extremely different from the surroundings, or a person whose moving speed is clearly different from other images.

図3は、モジュールNo.01〜No.03で撮像しときに、路上40に設けられた白線の内、路上の走行方向を仕切るセンターライン42と、路肩寄りのサイドライン44とを検出した例である。図3では、鎖線46により、前記センターライン42及びサイドライン44を検出していることを示している。なお、図3の表示領域と、モジュールNo.01〜No.03の撮像領域とは異なる。   FIG. 01-No. This is an example of detecting a center line 42 that divides the running direction on the road and a side line 44 near the road shoulder among white lines provided on the road 40 when the image is taken at 03. In FIG. 3, the center line 42 and the side line 44 are detected by a chain line 46. Note that the display area of FIG. 01-No. This is different from the 03 imaging area.

図3では、前述したように、モジュールNo.01(前方下モジュール24A)、モジュールNo.02(前方左モジュール24B)、モジュールNo.03(前方右モジュール24C)を用いた例である。   In FIG. 3, as described above, the module No. 01 (front lower module 24A), module no. 02 (front left module 24B), module no. This is an example using 03 (front right module 24C).

前記判断部36(図2参照)は、センターライン42とサイドライン44との間に車両10の進行方向ポイント48が存在するか否かを監視し、進行方向ポイント48が、センターライン42とサイドライン44との間から逸脱した場合に、乗員(運転者)へ報知する必要有りと判断するようになっている。   The determination unit 36 (see FIG. 2) monitors whether or not the traveling direction point 48 of the vehicle 10 exists between the center line 42 and the side line 44, and the traveling direction point 48 is connected to the center line 42 and the side line 44. When it deviates from the line 44, it is determined that it is necessary to notify the passenger (driver).

また、図4(A)及び(B)は、モジュールNo.07(後方上モジュール24G)を用いた例である。   4A and 4B show module numbers. This is an example using 07 (upper rear module 24G).

前記判断部36(図2参照)は、車両後進時に起動するようになっており、エッジ検出に基づいて、曲線の多い輪郭を抽出し、人物50(図4(A)参照)や軽車両52(図4(B)参照)等の障害物を検出した場合に、乗員(運転者)に報知する必要有りと判断するようになっている。   The determination unit 36 (see FIG. 2) is activated when the vehicle moves backward, extracts contours with many curves based on edge detection, and detects the person 50 (see FIG. 4A) or the light vehicle 52. When an obstacle such as (see FIG. 4B) is detected, it is determined that it is necessary to notify the occupant (driver).

図2に示される如く、判断部36は、判断結果(報知が必要と判断された場合のみでもよい)特定情報生成部38に送出する。 As shown in FIG. 2, the determination unit 36 sends a determination result (only when it is determined that notification is necessary) to the specific information generation unit 38.

特定情報生成部38は、判断部36からの判断結果に関する情報に基づいて、特定情報としてテキスト情報を生成する。生成された特定情報は、通信回線28を介してメイン制御部30へ送出されるようになっている。   The specific information generation unit 38 generates text information as specific information based on the information related to the determination result from the determination unit 36. The generated specific information is sent to the main control unit 30 via the communication line 28.

ここで、特定情報をテキスト情報としたのは、汎用性があり、かつ情報量が少ない形態の1つとして採用したものである。   Here, the fact that the specific information is text information is one that is versatile and has a small amount of information.

メイン制御部30には、前述したように、10個の車両監視モジュール24から必要に応じて、特定情報が逐次入力されるようになっており、これらを分析して、予め定めた重要度や優先度に応じて対応する。   As described above, specific information is sequentially input from the ten vehicle monitoring modules 24 to the main control unit 30 as necessary. Respond according to the priority.

重要度や優先度は、車両10の走行における危険度合いに基づいて設定されるものであり、居眠り検知方が標識認識よりも重要度、優先度は高いし、前方危険認識方がヘッドライト向きよりも重要度、優先度は高い等、表2に掲げる監視項目に対して、予め重要度や優先度を設定すればよい。   The importance level and the priority level are set based on the danger level in the travel of the vehicle 10, and the drowsiness detection method has higher importance and priority than the sign recognition, and the forward danger recognition method has a higher priority than the headlight direction. In addition, importance and priority may be set in advance for the monitoring items listed in Table 2 such as high importance and priority.

Figure 0005361409
Figure 0005361409

メイン制御部30には、警報発生部32が接続されている。なお、図2では、メイン制御部30に対して、1個の警報発生部32のみを記載しているが、実際には、表2に記載された報知形態に対応できる複数の警報発生部32が接続されている。   An alarm generation unit 32 is connected to the main control unit 30. In FIG. 2, only one alarm generation unit 32 is described with respect to the main control unit 30, but actually, a plurality of alarm generation units 32 that can correspond to the notification forms described in Table 2 are shown. Is connected.

表2における各報知形態に対する警報(報知形態)は、以下のとおりである。なお、以下に示す報知形態は一例であり、これに限定されるものではない。また、基本的には、全ての報知形態に対して、聴覚を通じたアラームが併用されることが好ましい。   Alarms (notification forms) for each notification form in Table 2 are as follows. In addition, the alerting | reporting form shown below is an example and is not limited to this. Basically, it is preferable that an alarm through hearing is used in combination for all notification modes.

(報知形態1) 携帯電話等への通信
(報知形態2) 携帯電話等への通信
(報知形態3) シートベルトの巻き締め
(報知形態4) 撮像した画像データの記憶
(報知形態5) ブレーキアシスト
(報知形態6) モニタに標識の内容を表示
(報知形態7) ヘッドライトの上向き、下向きを自動制御
(報知形態8) ステアリングアシスト
(報知形態9) ブレーキアシスト
(報知形態10) 速度制御
(報知形態11) シートベルト巻き締め
(報知形態12) 発進禁止
(報知形態13) 発進禁止
(報知形態14) ブレーキアシスト
(報知形態15) ブレーキアシスト
このように、メイン制御部30では、複数(第1の実施の形態では10個)の車両監視モジュール24から特定情報を受け取って、警報発生部32の動作を制御するという技術が、先行技術の技術(「撮像→解析→報知」という概念)に基づいて、容易に発明し得るように見えるが、先行技術では、人間が報知内容を目視して認識し、車両に対して何か行動をおこすことが前提となっている。
(Notification Form 1) Communication to mobile phone etc. (Notification Form 2) Communication to mobile phone etc. (Notification Form 3) Seat belt tightening (Notification Form 4) Storage of imaged image data (Notification Form 5) Brake Assist (Notification Form 6) Display of the contents of the sign on the monitor (Notification Form 7) Automatic control of headlight upward and downward (Notification Form 8) Steering Assist (Notification Form 9) Brake Assist (Notification Form 10) Speed Control (Notification Form) 11) Seat belt winding (notification form 12) Start prohibition (notification form 13) Start prohibition (notification form 14) Brake assist (notification form 15) Brake assist As described above, the main control unit 30 includes a plurality of (first implementations). (In the form of 10) the specific information is received from the vehicle monitoring module 24 and the operation of the alarm generating unit 32 is controlled. Although it seems that the technology can be easily invented based on the technology of the prior art (concept of “imaging → analysis → notification”), in the prior art, humans visually recognize the content of the notification and It is assumed that some action will be taken.

これに対して、第1の実施の形態に係る車両監視システムは、先行技術のような悠長な対応ではなく、車両10の走行中における、様々な事象の全てに対して、迅速な対応が要求される場合を対象としている。当然、事象が増えれば、メイン制御部30での処理負担が増大し、対応が遅れることになる。第1の実施の形態では、各車両監視モジュール24で、報知の要否を判断すると共に、さらに、報知が必要と判断した場合には特定情報をテキスト情報としてメイン制御部30へ送出する構成としたので、少なくとも画像データが入力された場合の制御負担に比べて、対応の遅れを軽減することができる。 On the other hand, the vehicle monitoring system according to the first embodiment requires a quick response to all of various events while the vehicle 10 is running, rather than a long response like the prior art. It is intended for cases. Naturally, if the number of events increases, the processing load on the main control unit 30 increases and the response is delayed. In the first embodiment, each vehicle monitoring module 24 determines whether or not notification is necessary, and further transmits specific information as text information to the main control unit 30 when it is determined that notification is necessary. Therefore, it is possible to reduce the response delay compared to the control burden when at least image data is input.

以下に本実施の形態の作用を説明する。   The operation of this embodiment will be described below.

まず、図5のフローチャートに従い、車両監視モジュール24の監視制御の流れを説明する。   First, the flow of monitoring control of the vehicle monitoring module 24 will be described according to the flowchart of FIG.

ステップ100では、撮像開始時期か否かが判断される。すなわち、車両監視モジュール24によって、撮像する時期が異なっており、例えば、常時監視するもの、イグニッションキーがオンのときのみ監視するもの、イグニッションキーがオフのときのみ監視するもの、前進走行時のみ監視するもの、後進走行時のみ監視するもの、停止時のみ監視するもの等があり、それぞれ設定された監視時期に応じて判断される。 In step 100, it is determined whether or not it is an imaging start time. That is, the imaging time differs depending on the vehicle monitoring module 24. For example, what is constantly monitored, what is monitored only when the ignition key is on, what is monitored only when the ignition key is off, and only when traveling forward There are those that monitor only when traveling backward, those that monitor only when stopped, etc., each of which is determined according to the set monitoring time.

ステップ100で否定判定された場合はこのルーチンは終了する。なお、車両監視モジュール24において、他に制御が存在しない場合は、即時このルーチンはリスタートする。   If a negative determination is made in step 100, this routine ends. In the vehicle monitoring module 24, if there is no other control, this routine is immediately restarted.

また、ステップ100で肯定判定されると、ステップ102へ移行して、情報取得部34(ここでは、撮像装置)による撮像を開始して、ステップ104へ移行する。   If an affirmative determination is made in step 100, the process proceeds to step 102 where imaging by the information acquisition unit 34 (here, an imaging device) is started, and the process proceeds to step 104.

ステップ104では、判断部36において、前記撮像した画像データに基づいて画像分析を実行する。すなわち、ピクセル分析を実行し、エッジ検出、曲線検出等を行う。   In step 104, the determination unit 36 performs image analysis based on the captured image data. That is, pixel analysis is performed to perform edge detection, curve detection, and the like.

次のステップ106では、ステップ104での画像分析の結果に基づいて、特定画像、すなわち、例えば、図3に示す路上40の白線(センターライン42やサイドライン44等)、図4(A)に示す人50や、図4(B)に示す軽車両52を画像データから抽出し、ステップ108へ移行する。 In the next step 106, based on the result of the image analysis in step 104, a specific image, for example, a white line on the road 40 (center line 42, side line 44, etc.) shown in FIG. The person 50 shown and the light vehicle 52 shown in FIG. 4B are extracted from the image data, and the process proceeds to step 108.

ステップ108では、前記抽出した画像データの位置や移動速度等を、予め設定した判断基準と比較し、次いでステップ110において、当該比較結果に基づいて、報知の要否を判定する。   In step 108, the position, moving speed, and the like of the extracted image data are compared with a predetermined criterion, and then in step 110, the necessity of notification is determined based on the comparison result.

例えば、車両前方走行中に、進行方向ポイント48がセンターライン42を逸脱して反対車線に入ったときは、報知が必要と判断する。また、車両後退中にその移動先に障害物があったときは、報知が必要と判断する。   For example, when the traveling direction point 48 deviates from the center line 42 and enters the opposite lane while traveling in front of the vehicle, it is determined that notification is necessary. Further, when there is an obstacle at the destination while the vehicle is moving backward, it is determined that notification is necessary.

ステップ110において、報知が必要と判断(肯定判定)された場合は、ステップ112へ移行して特定情報生成部38において、報知に必要な特定情報として、テキスト情報を生成し、次いで、ステップ114へ移行して、このテキスト情報化された特定情報をメイン制御部30へ送出し、ステップ116へ移行する。また、ステップ110で報知が不要と判断(否定判定)された場合は、ステップ116へ移行する。   If it is determined in step 110 that notification is necessary (affirmative determination), the process proceeds to step 112 where the specific information generating unit 38 generates text information as specific information necessary for notification, and then proceeds to step 114. Then, the specific information converted into text information is sent to the main control unit 30, and the process proceeds to Step 116. If it is determined in step 110 that notification is not required (determination is negative), the process proceeds to step 116.

ステップ116では、撮像終了時期か否かが判断され、否定判定された場合は、ステップ104へ戻り、上記工程を繰り返す。   In step 116, it is determined whether or not it is an imaging end time. If a negative determination is made, the process returns to step 104 and the above steps are repeated.

また、ステップ116で肯定判定された場合は、ステップ118へ移行して撮像を終了して、このルーチンは終了する。   On the other hand, if the determination in step 116 is affirmative, the process proceeds to step 118 to end imaging, and this routine ends.

次に、図6は、メイン制御部30における特定情報の入力から警報実行指示までの流れを示す警報実行制御ルーチンを示すフローチャートである。   Next, FIG. 6 is a flowchart showing an alarm execution control routine showing a flow from input of specific information to an alarm execution instruction in the main control unit 30.

ステップ150では、車両監視モジュール24の何れかから特定情報が入力されたか否かが判断され、肯定判定されると、ステップ152へ移行して、この入力された特定情報の解析処理を実行し、次いでステップ154へ移行し、当該特定情報に基づいて警報発生部32を選択し、ステップ156へ移行する。   In step 150, it is determined whether or not the specific information is input from any of the vehicle monitoring modules 24. If an affirmative determination is made, the process proceeds to step 152, and analysis processing of the input specific information is executed. Next, the process proceeds to step 154, the alarm generation unit 32 is selected based on the specific information, and the process proceeds to step 156.

ここで、特定情報は、テキスト情報であるため、解析が容易であり、警報発生部32の選択を迅速に行うことができる。   Here, since the specific information is text information, the analysis is easy, and the alarm generation unit 32 can be selected quickly.

また、ステップ150で否定判定された場合は、ステップ156へ移行する。   On the other hand, if a negative determination is made in step 150, the process proceeds to step 156.

ステップ156では、未処理警報が有るか否かが判断され、肯定判定された場合は、ステップ158へ移行して、今回選択された警報発生部32があればこれを加え、未処理の警報発生部32の重要度、優先度を判断し、最も高い重要度、優先度の警報発生部32を選択し、ステップ160へ移行する。なお、非選択の警報発生部32は保留とする。   In step 156, it is determined whether or not there is an unprocessed alarm. If an affirmative determination is made, the process proceeds to step 158, where there is an alarm generation unit 32 selected this time, and an unprocessed alarm is generated. The importance and priority of the unit 32 are determined, the alarm generation unit 32 having the highest importance and priority is selected, and the process proceeds to step 160. The non-selected alarm generation unit 32 is put on hold.

また、ステップ156で否定判定された場合は、ステップ160へ移行する。   On the other hand, if a negative determination is made in step 156, the process proceeds to step 160.

ステップ160では、選択された警報発生部32(選択対象には、今回の警報発生部32を含む)の実行指示を行い、このルーチンは終了する。   In step 160, an instruction to execute the selected alarm generation unit 32 (the selection target includes the current alarm generation unit 32) is issued, and this routine ends.

(特定情報について)
特定情報として、最も簡単なのは、「危険が発生した」という情報である。実際は、車両監視モジュール24は、複数個(ここでは、10個)あるから、何れが検知した危険かも報知する必要があるので、最少の情報量は「モジュールNo.」と「危険が発生した」の2つである。
(About specific information)
As the specific information, the simplest is information that “a danger has occurred”. Actually, since there are a plurality of vehicle monitoring modules 24 (here, 10), it is necessary to notify which of the detected dangers, so the minimum amount of information is “module No.” and “danger has occurred”. These are two.

ここで、あえて特定情報の代表的なものとして、テキスト情報を挙げてあげているのは、テキスト情報なら汎用性が高く、どのような装置で受信しても加工できるからである。   Here, text information is given as a representative example of specific information because text information is highly versatile and can be processed by any device.

例えば、認識したものの「位置」「大きさ」「速度」「色」「個数」、及び「危険度」などをテキスト化して送信すれば、テキスト情報が(動画像を送るのではないから、データ量が少ない事はもちろんだが)汎用情報であるため、どこのメーカで開発するメイン制御部30(安全運転補助装置の制御部)でも、これら情報を受信しアプリケーションソフトで応用できる。従い、特定情報がテキスト情報である事のメリットは大きい。 For example, if the recognized “position” , “size” , “speed” , “color” , “number” , “risk”, etc. are sent as texts, the text information (if you send a video) Since it is general-purpose information (not to mention that the amount of data is small), this information can be received and applied by application software at any main control unit 30 (control unit of the safe driving assistance device) developed by any manufacturer. Therefore, the merit that the specific information is text information is great.

なお、警報発生部32に加え、モニタ等の表示部54(図17〜図20に示す、第12の実施形態〜第15の実施形態参照)を設けてもよい。   In addition to the alarm generation unit 32, a display unit 54 such as a monitor (see the twelfth embodiment to the fifteenth embodiment shown in FIGS. 17 to 20) may be provided.

安全運転補助の目的の中でも、危険が発生した場合、車両10の速度が遅い場合なら乗員(運転者)が確認のため画像を見たい場合もあるだろうし、乗員(運転者)が見る必要が無いか、見る余裕が無い、あるいは、緊急であるため、画像を見ていては事故を起こす危険があり、画像など見ていられない場合もある。   Among the objectives of safe driving assistance, if a danger occurs, if the speed of the vehicle 10 is slow, the occupant (driver) may want to see the image for confirmation, and the occupant (driver) needs to see it. Since there is no room, there is no room for viewing, or there is an emergency, there is a risk of causing an accident when viewing the image, and the image may not be viewed.

例えば、昨今、車両後退時の駐車アシストなどの用途では、危険が無くても、運転補助だけの目的でバックカメラが標準装備されている車も販売されており、一般的に画像を見ながら駐車行為が行われるようになってきている。この場合は、車両の速度が遅いため、危険が発生しようとしているとき、運転者がバックモニタによる画像の確認をしても十分間に合う場合である。 For example, in recent years, for example, parking assistance when the vehicle is moving backwards, there are cars that are equipped with a back camera as standard equipment for the purpose of driving assistance even if there is no danger. Actions are coming to be performed. In this case, since the speed of the vehicle is low, when a danger is about to occur, the driver can make sufficient time even if the driver checks the image on the back monitor.

しかし、警報発生部32の目的は、運転者が、うっかり気がつかなかったり、注意が散漫になっていたりしたときに発生する、緊急に発生する事故数をできる限り低減することにある。 However, the purpose of the alarm generation unit 32 is to reduce the number of accidents that occur urgently when the driver is inadvertently aware or distracted.

つまり、危険が発生したから、乗員(運転者)が車載モニタで起こっている事を確認し車両10を制動しようとして危険を避けられる案件より、はるかに多いと考えられる突発的に発生し、間髪無く車両10を制動して危険を避けなければならないような事故の件数をできる限り低減する事にある。 In other words, because a danger has occurred, the occupant (driver) confirms that it is happening on the in-vehicle monitor, and it occurs suddenly, which is considered to be far more than the case where the danger can be avoided by trying to brake the vehicle 10, The purpose is to reduce as much as possible the number of accidents in which the vehicle 10 must be braked without any danger to avoid danger.

多くのダメージの大きい自動車事故では、危険が発生し、認知したら起こっている事を(動画)表示装置54で見て、危険を認識するような時間的なゆとりは殆ど無い。もちろん時間的なゆとりがあり表示画面を見たいという場合もある。   In many car accidents with large damage, there is a danger, and when it is recognized, there is little time to recognize the danger by looking at the (moving image) display device 54 to see what is happening. Of course, there are times when you want to see the display screen.

しかし、それより、車両監視モジュール24の判断部30が危険を察知し、シートベルトが急にきつく締まる(巻き締め)などの乗員(運転者)に感覚的に解りやすく短時間で危険回避ができる、あるいは乗員(運転者)がパニックを起こす可能性がより少ない、より誤解を与えないシンプルな警報を発するようにするほうが、より効果的であると考えられる。   However, the determination unit 30 of the vehicle monitoring module 24 senses the danger, and it is easy for the occupant (driver) to understand that the seat belt is tightly tightened (tightening), and the danger can be avoided in a short time. Or, it would be more effective to issue a simple alarm that is less misleading and less likely to cause the occupant (driver) to panic.

また、表示装置54が一般的に普及しているなら良いが、一般的に普及していない場合は表示装置54を必要とする発明は一般市場で普及しにくい。   In addition, the display device 54 is generally spread, but if it is not spread widely, an invention that requires the display device 54 is difficult to spread in the general market.

例えば、日本では車メーカにて標準装備されることが多いため、据付タイプのカーナビゲーションシステムが広く普及しているが、欧米では据付タイプのカーナビゲーションシステムは一般的ではない。   For example, in Japan, installation type car navigation systems are widespread because they are often installed as standard equipment by car manufacturers, but installation type car navigation systems are not common in Europe and the United States.

一方、欧州では、国によってはポケットタイプの持ち運びタイプのカーナビゲーション装置が普及してはいるが、危険防止用の表示装置になるほどの大きく見やすいものではなく、携帯電話やPDAで使われている程度のサイズのLCDモニタ程度である。到底、警報発生部32として表示装置54は使えない。すなわち、欧米において、表示画像を運転者が見るような環境は少ない。 On the other hand, in Europe, pocket-type portable car navigation devices are popular in some countries, but they are not so large and easy to see that they can be used as risk-proof display devices, and are used in mobile phones and PDAs. This is about the size of an LCD monitor. The display device 54 as the alarm generation unit 32 cannot be used at all. That is, in Europe, environmental as viewed by the driver of the display image is small.

(第1の実施の形態の効果)
前述したように、実際には、情報取得部34は、ソナー、レーダ、マイク、赤外線カメラなど、どのような形態で情報を入力するセンサ装置でもかまわないが、以下においても、撮像装置に言及する。
(Effects of the first embodiment)
As described above, in practice, the information acquisition unit 34 may be a sensor device that inputs information in any form, such as sonar, radar, microphone, infrared camera, and the like. .

一般的な動画認識の例で言えば、例えば、撮像装置で認知している範囲内に、車両10の運転するにあたっての障害物あるいは危険物となりうるような、進入物体が画面に入ってきたとき、一般的には、以下のような認識をする。   In the case of general moving image recognition, for example, when an approaching object enters the screen that can become an obstacle or dangerous object when driving the vehicle 10 within the range recognized by the imaging device. In general, it recognizes as follows.

(認識1)入ってきたのはどのくらいの大きさのものか
(認識2)どちらの方向から入ってきたのか
(認識3)どのように入ってきたか
(認識4)どちらの方向に動いているのか(或いは止まっているのか)
(認識5)どのような動き方をしているのか
(認識6)そのような速度なのか
(認識7)どのような形をしているのか(丸い物か、四角か、三角か、直線に近い物か)
(認識8)どのくらいの個数が入ってきたのか
これらの認識情報を使って、例えば、以下のような判断をする。
(Recognition 1) How big is it in? (Recognition 2) From which direction (Recognition 3) How it came in (Recognition 4) Which direction it is moving (Or is it stopped?)
(Recognition 5) How is it moving? (Recognition 6) Is it such a speed? (Recognition 7) What is the shape (round, square, triangular, straight? Is it close?)
(Recognition 8) How many pieces have been entered Using these pieces of recognition information, for example, the following determination is made.

(判断1)あらかじめ注意すべき物体であると設定した大きさ、動きの物体であるのか
(判断2)あらかじめ設定した範囲内に入ってきているのか
(判断3)それらが事故を起こすと予測できる割合は、どれくらいか
(判断4)その割合が運転者に危険であると伝えるに値するか
(判断5)伝える場合の重要度はどれくらいか
(判断6)危険であるという情報以外に何を伝えるべきか
(判断7)例えば、障害物あるいは危険物の大きさ、位置、速度、数、動き方、今後の動き方の予測などの情報
上記撮像装置で撮像し、判断部36で判断した結果は、特定情報生成部38により、必要最小限の簡単な汎用テキスト情報(或いは解りやすい簡単な信号、或いはコード化した信号)などの特定情報に変換しデータ量を最小にして、通信回線28を介してメイン制御部30へ送出される。
(Judgment 1) Is it an object of size and movement set to be careful in advance? (Judgment 2) Is it within the preset range? (Judgment 3) It can be predicted that they will cause an accident. (Judgment 4) How much is it worth telling the driver that it is dangerous? (Judgment 5) How important is it to communicate? (Judgment 6) What should be communicated in addition to the danger information? (Judgment 7) For example, information such as the size, position, speed, number, movement, and prediction of future movement of obstacles or dangerous objects. The specific information generation unit 38 converts the information into specific information such as simple general-purpose text information (or a simple signal that is easy to understand or a coded signal) to minimize the amount of data. 8 to the main control unit 30.

このため、例えば、車両監視モジュール24の数が増えても、通信回線28には、大容量の画像データを高速で転送する時に要求されるようなバンド幅が大で高価なケーブルを使う必要はなく、安価な通常ケーブル使用で十分であるため、非常にローコストなシステムが構築できる。   For this reason, for example, even if the number of vehicle monitoring modules 24 increases, it is necessary to use an expensive cable having a large bandwidth as required when transferring a large amount of image data at a high speed. In addition, the use of an inexpensive ordinary cable is sufficient, and a very low cost system can be constructed.

第1の実施形態で考えられる最小データ量の特定情報は「モジュールNo.」と「危険が発生した」の2つだけである。   The specific information of the minimum data amount considered in the first embodiment is only “module No.” and “danger has occurred”.

汎用テキスト情報を特定情報とした場合、どのような製造者の装置で受信しても容易に取り扱うことができ、必要に応じて加工できるメリットがある。   When general-purpose text information is specified information, it can be easily handled regardless of the manufacturer's device and can be processed as necessary.

例えば、認識したものの「位置」「大きさ」「速度」「色」「個数」、及び「危険度」などをテキスト化して送信すれば、テキスト情報が(動画像を送るのではないから、データ量が少ない事はもちろんであるが)汎用情報であるため、どこのメーカで開発製造する装置の制御部でも、これら情報を受信しアプリケーションソフトで応用しやすくなる。従い、特定情報がテキスト情報である事のメリットは大きい。 For example, if the recognized “position” , “size” , “speed” , “color” , “number” , “risk”, etc. are sent as texts, the text information (if you send a video) Since it is general-purpose information (not to mention that the amount of data is small), any control unit of an apparatus developed and manufactured by any manufacturer can easily receive this information and apply it with application software. Therefore, the merit that the specific information is text information is great.

また、上記のように特定情報として、最小限のデータ量をメイン制御部30へ転送するため、メイン制御部30のデータ処理負荷は非常に少なくなり、メイン制御部30は、警報発生部32をコントロールするだけの機能ですむ。   Further, since the minimum amount of data is transferred to the main control unit 30 as the specific information as described above, the data processing load on the main control unit 30 is extremely reduced. All you need to do is control.

欧米のように日本のような作り付けのナビゲーションシステムが普及していない場合は、安全運転補助装置として新たに高価な表示装置をつける必要があるため、表示が必要な普及は安全運転補助装置の普及は難しい。   If a built-in navigation system like Japan is not popular like Europe and America, it is necessary to attach a new expensive display device as a safe driving assistance device. Is difficult.

つまり、本発明によれば、必ずしも表示装置を必要としないで高機能な安全運転補助装置システムを小型で安価に提供できるので、欧米のように立派な表示装置が装着された作り付けのナビゲーションシステムが普及していない場合でも、安全運転補助装置を普及させ交通事故の発生を減少させることができる。   In other words, according to the present invention, a high-function safe driving assistance device system can be provided in a small size and at a low cost without necessarily requiring a display device. Therefore, a built-in navigation system equipped with a fine display device as in Europe and the United States can be provided. Even when it is not widely used, it is possible to reduce the occurrence of traffic accidents by spreading safe driving assistance devices.

(実施態様)
・車両監視モジュール24の利用形態について
情報取得部34は、一般的には、撮像装置である事が多いが、車両外・内部で発生している音を検知できるマイク、あるいはマイクアレイなどでも良いし、車両に接触する圧力を検知する圧力センサでもよい。また、車両の各部分の温度をあるいは温度分布を検知する温度計、あるいは温度計アレイのようなものであってもよい。
・通信回線28の実施態様について
図1では、通信回線28は、車両監視モジュール24が接続する共通経路として示されている。この場合、メイン制御部30が車両監視モジュール24から転送される特定情報を受け取った場合、どの車両監視モジュール24から特定情報を受け取ったか判別できないので、この場合は必ず特定情報には、最低限、(危険を知らせる情報と)、モジュールNo.を示す情報が入っている必要がある。
(Embodiment)
-About the usage form of the vehicle monitoring module 24 The information acquisition unit 34 is generally an imaging device, but may be a microphone or a microphone array that can detect sound generated outside or inside the vehicle. Alternatively, a pressure sensor that detects a pressure that contacts the vehicle may be used. Further, it may be a thermometer for detecting the temperature of each part of the vehicle or a temperature distribution, or a thermometer array.
-About embodiment of the communication line 28 In FIG. 1, the communication line 28 is shown as a common path | route which the vehicle monitoring module 24 connects. In this case, when the main control unit 30 receives the specific information transferred from the vehicle monitoring module 24, it cannot be determined from which vehicle monitoring module 24 the specific information is received. (With information to inform danger), module No. Must be included.

なお、図1では、通信回線28は、車両監視モジュール24が接続する共通経路として示されてはいるが、必ずしも、通信回線28は、共通経路でなくてもよく、車両監視モジュール24毎にそれぞれ独立した通信回線でメイン制御部30へ接続していても良い。
・メイン制御部30の実施態様について
車両監視モジュール24が出力する特定情報が、いちど期にメイン制御部30に転送されてきた場合、メイン制御部30には重要度、優先度に基づいて順位をつけて調停ができるようにする。
In FIG. 1, the communication line 28 is shown as a common path to which the vehicle monitoring module 24 is connected. However, the communication line 28 does not necessarily have to be a common path. You may connect to the main control part 30 with the independent communication line.
-About embodiment of the main control part 30 When the specific information which the vehicle monitoring module 24 outputs is transferred to the main control part 30 at every period, the ranking is given to the main control part 30 based on the importance and the priority. To be able to mediate.

しかし、ある短い時間内にメイン制御部30に複数の特定情報が転送されてきた場合、特定情報の内容をメイン制御部30で判断して、その短い時間内にあらかじめ決められていた車両監視モジュール24に対して決められていた優先順位とは異なる優先順位をつけることもできる。   However, when a plurality of specific information is transferred to the main control unit 30 within a short time, the content of the specific information is judged by the main control unit 30, and the vehicle monitoring module determined in advance within the short time A priority order different from the priority order determined for 24 can be assigned.

例えば、あらかじめ決められていた優先順位では、一の車両監視モジュール24が他の一の車両監視モジュール24より高かったとして、ある短い時間内に両者から特定情報がメイン制御部30に入力された場合、明らかに他の一の車両監視モジュール24から送られてきた特定情報の方が危険度が高いものの場合、メイン制御部30が判断する事により他の一の車両監視モジュール24から送られてきた特定情報の優先順位を高いとし、警報発生部32をコントロールして特定情報の内容に添った処理を実行させる
以下に本発明の他の実施の形態(第2の実施の形態〜第29の実施の形態)を説明するが、上記第1の実施の形態と同一構成部分については、同一の符号を付してその構成の説明をそれぞれ省略する。
For example, when one vehicle monitoring module 24 is higher than another vehicle monitoring module 24 in a predetermined priority order, specific information is input to the main control unit 30 from both within a short time. Obviously, when the specific information sent from the other vehicle monitoring module 24 has a higher risk level, it is sent from the other vehicle monitoring module 24 as determined by the main control unit 30. The priority of the specific information is set high, and the alarm generation unit 32 is controlled to execute processing according to the content of the specific information .
Other embodiments of the present invention (second embodiment to 29th embodiment) will be described below. The same components as those in the first embodiment are denoted by the same reference numerals. The description of the configuration is omitted.

(第2の実施の形態)
図7に示される如く、第2の実施の形態では、メイン制御部30に直接送信部30Aが設けられ、かつ判断部36に直接受信部36Aが設けられており、それぞれが制御信号転送ライン56を介して接続されている。
(Second Embodiment)
As shown in FIG. 7, in the second embodiment, the main control unit 30 is provided with a direct transmission unit 30A, and the determination unit 36 is provided with a direct reception unit 36A. Connected through.

この制御信号転送ライン56からは、メイン制御部30から判断部36へ、コントロール信号、或いは判断部36の機能を決定するソフトウェア情報を直接転送する。これにより、判断部36の機能の変更がそれぞれ個々に可能となる
例えば、判断部36の判断、認識機能の判定基準を、所定の設定値から、異なる設定値に変更したい場合、メイン制御部30から、設定変更信号を制御信号転送ライン56を介して判断部36へ直接転送する事で設定値変更が実現できる。
From the control signal transfer line 56, the control signal or software information for determining the function of the determination unit 36 is directly transferred from the main control unit 30 to the determination unit 36. Thus, the function of the determination unit 36 can be changed individually. For example, when the determination of the determination unit 36 and the determination criterion of the recognition function are to be changed from a predetermined set value to a different set value, the main control unit 30 Then, the setting value change can be realized by directly transferring the setting change signal to the determination unit 36 via the control signal transfer line 56.

同様に判断部36の機能を全く別の物にしたい場合、メイン制御部30から、新たなファームウェアを制御信号転送ライン56を介して判断部36へ直接転送する事で実現できる。例えば、一の車両監視モジュール24の判断部36が白線認識機能で、他の一の車両監視モジュール24の判断部36が危険物進入検知だとした場合、後からメイン制御部30から一の車両監視モジュール24の判断部36に危険物進入検知用のファームウェアを、他の一の車両監視モジュール24の判断部36に白線認識用のファームウェアを転送することで両者の機能を交換する事ができる。 Similarly, when the function of the determination unit 36 is desired to be completely different, it can be realized by directly transferring new firmware from the main control unit 30 to the determination unit 36 via the control signal transfer line 56. For example, if the determination unit 36 of one vehicle monitoring module 24 has a white line recognition function and the determination unit 36 of the other vehicle monitoring module 24 detects dangerous object entry, the main control unit 30 will later the firmware of hazardous material enters the sensing to the determination unit 36 of the monitoring module 24, it is possible to exchange both functions by transferring firmware for white line recognition determination portion 36 of the other one of the vehicle monitoring module 24.

このように、第2の実施の形態では、メイン制御部30の直接送信部30Aを制御信号転送ライン56を介して各車両監視モジュール24の判断部36の一部を構成する直接受信部36Aに接続するようにし、メイン制御部30から、個々の判断部36の一部機能、あるいは全ての機能を独立して別の機能に変更できるようにしたため、運転者ごとに自分の自動車を自分がその時その時に必要と考える安全運転支援システムにいつでも改良できる。   As described above, in the second embodiment, the direct transmission unit 30A of the main control unit 30 is changed to the direct reception unit 36A constituting a part of the determination unit 36 of each vehicle monitoring module 24 via the control signal transfer line 56. Since the connection is made so that a part or all of the functions of each judgment unit 36 can be changed independently from the main control unit 30 to another function, each driver can change his / her car at that time. At any time, it can be improved to a safe driving support system that is considered necessary at that time.

なお、第2の実施の形態では、各車両監視モジュール24の判断部36は、メイン制御部30により制御信号転送ライン56を介して情報を転送する事で、機能の一部あるいは全部を変更することができるとしている。   In the second embodiment, the determination unit 36 of each vehicle monitoring module 24 changes part or all of the functions by transferring information via the control signal transfer line 56 by the main control unit 30. You can do that.

しかし、各判断部36の機能は、必ずしもメイン制御部30により制御信号転送ライン56を介して情報を転送する事で実現されるのはなく、メイン制御部30により転送される情報で変更されなくても良い。例えば、個々の車両監視モジュール24の判断部36に外部から情報を入力する端子が存在し、その端子から入力する情報により機能の一部あるいは全部を変更することができる様にしても良い。   However, the function of each determination unit 36 is not necessarily realized by the information transferred by the main control unit 30 via the control signal transfer line 56, and is not changed by the information transferred by the main control unit 30. May be. For example, a terminal for inputting information from the outside exists in the determination unit 36 of each vehicle monitoring module 24, and a part or all of the functions may be changed by the information input from the terminal.

(第3の実施の形態)
図8に示される如く、第3の実施の形態では、メイン制御部30に直接送受信部30Bが設けられ、各車両監視モジュール24の判断部36に直接送受信部36Bが設けられて、これらが制御信号転送ライン56を介して接続されている。このため、第2の実施の形態では、単方向だった制御信号転送ラインでの信号を双方向にする。
(Third embodiment)
As shown in FIG. 8, in the third embodiment, a direct transmission / reception unit 30B is provided in the main control unit 30, and a direct transmission / reception unit 36B is provided in the determination unit 36 of each vehicle monitoring module 24. The signal transfer line 56 is connected. For this reason, in the second embodiment, the signal on the control signal transfer line which is unidirectional is bidirectional.

前記第2の実施の形態では、メイン制御部30から、制御信号転送ライン56を介して判断部36の機能の変更がそれぞれ個々に可能となるようにしているが、第3の実施の形態では、これに加え、判断部36で認識したデータそのものを直接取り出し、制御信号転送ライン56を介してメイン制御部30がその情報を受け取ることができる。   In the second embodiment, the function of the determination unit 36 can be individually changed from the main control unit 30 via the control signal transfer line 56, but in the third embodiment, In addition, the data itself recognized by the determination unit 36 can be directly taken out, and the main control unit 30 can receive the information via the control signal transfer line 56.

例えば、メイン制御部30では、特定情報生成部38から送られてくる特定情報(例えば、「No.xの車両監視モジュール24で危険を察知した」という情報)以外に、判断部36で判断された情報であり、特定情報生成部38で報知するための材料として使われる、その危険に関わる進入物体の大きさとか位置、速度、明るさ、色など、詳しい警告をするための情報を、メイン制御部30から制御信号転送ライン56を介して、判断部36に指示する事で、判断部36から直接制御信号転送ライン56を介して、メイン制御部30へ転送させることができるFor example, in the main control unit 30, determination is made by the determination unit 36 in addition to the specific information sent from the specific information generation unit 38 (for example, information that “the vehicle monitoring module 24 of No. x has detected danger”). This is information that is used as a material for notification by the specific information generation unit 38, and is used to provide detailed warning information such as the size, position, speed, brightness, and color of the approaching object related to the danger. via the control signal transmission line 56 from the control unit 30, by instructing the determination unit 36, via a direct control signal transfer line 56 from the determination unit 36 can be transferred to the main control unit 30.

これにより、必要な場合においては、判断部36で認識、判断に使用した情報をメイン制御部30に転送する事により、より詳しい高度な警報を警報発生部32を用いて発生することができ、より高度な安全運転支援システムを提供できる。   Thereby, when necessary, a more advanced advanced alarm can be generated using the alarm generation unit 32 by transferring the information recognized and used by the determination unit 36 to the main control unit 30. A more advanced safe driving support system can be provided.

なお、第3の実施の形態では、必ずしも別個の制御信号転送ライン56でななくても良く、共通の通信回線28を利用してもよい。   In the third embodiment, it is not always necessary to use the separate control signal transfer line 56, and the common communication line 28 may be used.

(第4の実施の形態)
前記第3の実施の形態では、制御信号転送ライン56を介して、車両監視モジュール24に含まれる判断部36の直接送受信部36Bと、メイン制御部30に含まれる直接送受信部30Bとが相互に通信をしたのみだった。
(Fourth embodiment)
In the third embodiment, the direct transmission / reception unit 36B of the determination unit 36 included in the vehicle monitoring module 24 and the direct transmission / reception unit 30B included in the main control unit 30 are mutually connected via the control signal transfer line 56. I just communicated.

これに対して、図9に示される如く、第4の実施の形態では、情報取得部34にも直接送受信部34Aを設け、制御信号転送ライン56を介してメイン制御部30に含まれる直接送受信部30Bに接続することにより情報取得部34から得られた生の信号、例えば、カメラから得られた加工していない画像情報をメイン制御部30で確認しながら、判断部36特性を制御信号転送ライン56を介して微調整をしたり、同様に制御信号転送ライン56を介して、情報取得部34の機能を調整したりできる。 In contrast, as shown in FIG. 9, in the fourth embodiment, the information acquisition unit 34 is also provided with a direct transmission / reception unit 34 </ b> A, and the direct transmission / reception included in the main control unit 30 via the control signal transfer line 56. The main control unit 30 checks the raw signal obtained from the information acquisition unit 34 by connecting to the unit 30B, for example, the unprocessed image information obtained from the camera, while controlling the characteristics of the determination unit 36. Fine adjustment can be performed via the transfer line 56, and the function of the information acquisition unit 34 can be adjusted similarly via the control signal transfer line 56.

例えば、判断部36の出力の精度が低い場合、情報取得部34を微調整して、判断部36の出力の精度を上げることができる。   For example, when the output accuracy of the determination unit 36 is low, the information acquisition unit 34 can be finely adjusted to increase the output accuracy of the determination unit 36.

第4の実施の形態によれば、必要な場合において、情報取得部34の出力情報をメイン制御部30が利用し、判断部36を制御したり、判断部36の性能を有効に使うため、情報取得部34を調整することができるため、より詳しい高度な警報を警報発生部32によって発生させることができる。   According to the fourth embodiment, when necessary, the main control unit 30 uses the output information of the information acquisition unit 34 to control the determination unit 36 or to effectively use the performance of the determination unit 36. Since the information acquisition unit 34 can be adjusted, a more detailed advanced alarm can be generated by the alarm generation unit 32.

なお、第4の実施の形態では、情報転送ライン56と通信回線28を別個として説明したが、必ずしも別個の転送手段では無くても良く、共通の転送手段であっても良い。   In the fourth embodiment, the information transfer line 56 and the communication line 28 have been described separately. However, the information transfer line 56 and the communication line 28 are not necessarily separate transfer means, and may be a common transfer means.

(第5の実施の形態)
前記第3の実施の形態では、制御信号転送ライン56を介して、車両監視モジュール24に含まれる判断部36の直接送受信部36Bと、メイン制御部30に含まれる直接送受信部30Bとが相互に通信をしたのみだった。
(Fifth embodiment)
In the third embodiment, the direct transmission / reception unit 36B of the determination unit 36 included in the vehicle monitoring module 24 and the direct transmission / reception unit 30B included in the main control unit 30 are mutually connected via the control signal transfer line 56. I just communicated.

これに対して、図10に示される如く、第5の実施の形態では、特定情報生成部38にも直接送受信部38Aを設け、制御信号転送ライン56を介してメイン制御部30に含まれる直接送受信部30Bに接続することにより、制御信号、情報などを転送でき、特定情報の出力形式、情報の種類等のうち、一部、或いは全ての変更がそれぞれ個々に可能となるようにする。   On the other hand, as shown in FIG. 10, in the fifth embodiment, the specific information generation unit 38 is also provided with a direct transmission / reception unit 38 </ b> A and is directly included in the main control unit 30 via the control signal transfer line 56. By connecting to the transmission / reception unit 30B, control signals, information, and the like can be transferred, and part or all of the output format of the specific information, the type of information, and the like can be individually changed.

例えば、ある車両監視モジュール24の判断部36機能が「前方に写る画面の中に右から高速或いは中速に入ってくるある程度の大きさ以上のものを認識し、そのようなものを認識した時は危険と判断して特定情報を出力する判断をする」ように設定されているとし、現在、特定情報生成部38から出力される特定情報としては、「撮像装置3」、「危険物A、大きさは大」、及び「危険物B、大きさは中」と出力されるように設定されている場合、次に、危険物の情報に危険物の速度も特定情報として、メイン制御部30に情報転送をしたい場合、メイン制御部30から制御信号転送ライン56を介して、当該車両監視モジュール24の特定情報生成部38に、危険物の速度も特定情報として、「危険物A、大きさは大、速度は高速」、及び「危険物B、大きさは中、速度は高速」という様に転送するよう、コントロール信号を転送することができる。 For example, the function of the judgment unit 36 of a certain vehicle monitoring module 24 recognizes a thing larger than a certain size that enters a high speed or a medium speed from the right in the screen displayed in the front and recognizes such a thing. The specific information output from the specific information generation unit 38 currently includes “imaging device 3”, “dangerous object A”. , “Size is large” and “hazardous material B, size is medium”, then the main control unit 30 to transfer information to the specific information generation unit 38 of the vehicle monitoring module 24 from the main control unit 30 via the control signal transfer line 56, the speed of the dangerous material is also specified as the specific information. is large, the speed is fast. " And "in dangerous goods B, the size, speed fast" to transfer as that can transfer the control signal.

このように、第5の実施の形態によれば、運転者ごとに自分が必要と考える警報情報出力形式をカスタマイズできるので、より使いやすい安全運転支援システムを提供できる。 As described above, according to the fifth embodiment, since it is possible to customize the alarm information output format considered necessary for each driver, it is possible to provide a safer driving support system that is easier to use.

なお、第5の実施の形態では、各車両監視モジュール24中の特定情報生成部38は、メイン制御部30により制御信号転送ライン56を介してコントロール信号を転送する事で、機能の一部あるいは全部を変更することができる。   In the fifth embodiment, the specific information generation unit 38 in each vehicle monitoring module 24 transfers a control signal via the control signal transfer line 56 by the main control unit 30, so that a part of the function or Everything can be changed.

しかし、各特定情報生成部38の機能は、必ずしもメイン制御部30により制御信号転送ライン56を介して情報を転送する事で実現されるのはなく、また、メイン制御部30により転送される情報で変更されなくても良い。例えば、個々の車両監視モジュール24の特定情報生成部38に外部から情報を入力する端子が存在し、その端子から入力する情報により出力される特定情報の出力形式、情報の種類等のうち、一部あるいは全部を変更することができる様にしても良い。 However, the function of each particular information generating unit 38 is not necessarily being achieved by transferring the information via the control signal transmission line 56 by the main control unit 30, also, it is transferred by the main control unit 30 It does not have to be changed by information. For example, there is a terminal for inputting information from the outside in the specific information generating unit 38 of each vehicle monitoring module 24, and one of the output format of the specific information output by the information input from the terminal, the type of information, etc. You may make it change a part or all.

また、第5の実施の形態では、制御信号転送ライン56は、個々の車両監視モジュール24の特定情報生成部38をメイン制御部30から転送されるコントロール信号で制御すると説明した。つまり、メイン制御部30→個々の車両監視モジュール24の特定情報生成部38の単方向の情報転送である。 Further, in the fifth embodiment, it has been described that the control signal transfer line 56 controls the specific information generation unit 38 of each vehicle monitoring module 24 with a control signal transferred from the main control unit 30. That is, it is the unidirectional information transfer of the main control unit 30 → the specific information generation unit 38 of each vehicle monitoring module 24.

しかし、実際に特定情報生成部38から出力する特定情報の出力形式、情報の種類等を設定するときは、最適な設定を行うため、判断部36の設定に必要な各設定パラメータをメイン制御部30からコントロールしながら認識具合を調整し、そのときの判断部36の動作や出力データをメイン制御部30にフィードバックしながら調整・設定する必要がある。   However, when setting the output format, the type of information, and the like of the specific information that is actually output from the specific information generation unit 38, each setting parameter necessary for the setting of the determination unit 36 is set to the main control unit in order to perform optimal settings. It is necessary to adjust the setting while adjusting the recognition level while controlling from 30 and feeding back the operation and output data of the determination unit 36 to the main control unit 30.

従って、メイン制御部30→個々の車両監視モジュール24の特定情報生成部38間では双方向の情報転送が必要となることもあるため、制御信号転送ライン56は双方向とした。   Therefore, since bidirectional information transfer may be required between the main control unit 30 and the specific information generation unit 38 of each vehicle monitoring module 24, the control signal transfer line 56 is bidirectional.

(第6の実施の形態)
図11に示される如く、第6の実施の形態は、前述した第4の実施の形態と、第5の実施の形態とを組み合わせたものである。すなわち、情報取得部34に直接送受信部34B、判断部36に直接送受信部36A、特定情報生成部38に直接送受信部38Aをそれぞれ設け、かつそれぞれをメイン制御部30の直接送受信部30Bに制御信号転送ライン56を介して接続した構成となっている。
(Sixth embodiment)
As shown in FIG. 11, the sixth embodiment is a combination of the fourth embodiment described above and the fifth embodiment. That is, the direct transmission / reception unit 34B is provided in the information acquisition unit 34, the direct transmission / reception unit 36A is provided in the determination unit 36, and the direct transmission / reception unit 38A is provided in the specific information generation unit 38. The connection is made via the transfer line 56.

第6の実施の形態によれば、メイン制御部30から、個々の車両監視モジュール24の特定情報生成部38が出力する特定情報の出力形式、情報の種類等のうち、一部、或いは全ての変更がそれぞれ個々に可能となる様にしたため、運転者ごとに自分が必要と考える警報情報出力形式をカスタマイズできるので、より使いやすい安全運転支援システムを提供できる。従って、精度の高い高度な安全運転支援システムを提供できる。 According to the sixth embodiment, some or all of the output format, the type of information, and the like of the specific information output from the main control unit 30 by the specific information generation unit 38 of each vehicle monitoring module 24. Since each change can be made individually, it is possible to customize the warning information output format considered necessary for each driver, thereby providing a safer driving support system that is easier to use. Accordingly, it is possible to provide an advanced safe driving support system with high accuracy.

なお、第6の実施の形態では、必ずしも通信回線28と異なる制御信号転送ライン56では無くても良く、共通利用してもよい。   In the sixth embodiment, the control signal transfer line 56 is not necessarily different from the communication line 28 and may be shared.

(第7の実施の形態)
第7の実施の形態は、前記第1の実施の形態と同様であるが、10個の車両監視モジュール24のうちのいくつかが、図12に示される如く、1つの判断部36に複数(ここでは、2個)の情報取得部34を接続した例を示している。
(Seventh embodiment)
The seventh embodiment is the same as the first embodiment, but some of the ten vehicle monitoring modules 24 are assigned to one determination unit 36 as shown in FIG. Here, an example in which two information acquisition units 34 are connected is shown.

第7の実施の形態によれば、第1の実施の形態に対して、一つの判断部36に、情報取得部34が複数(第7の実施の形態では2つ)存在するものが混ざっているため、判断部36は、2つの状況判断材料を使って、より正確な認識が可能となる。 According to the seventh embodiment, in contrast to the first embodiment, one judgment unit 36 includes a plurality of information acquisition units 34 (two in the seventh embodiment). Therefore , the determination unit 36 can perform more accurate recognition using two situation determination materials.

例えば、情報取得部34として、撮像装置と、音声マイクを併用することで、危険物の進入と、そのときの進入音を検知し、それぞれの情報を判断部36に送出する事で正確に危険物進入を把握が可能となる。   For example, as the information acquisition unit 34, an imaging device and an audio microphone are used together to detect the entry of a dangerous object and the approach sound at that time, and accurately send out each information to the determination unit 36. It is possible to grasp the object entry.

また、情報取得部34の変形例として、可視光のイメージセンサと遠赤外光のイメージセンサとの組み合わせ等が考えられる。このような構成により、可視光のイメージセンサで人物らしいものが進入してきたことが解り、遠赤外光のイメージセンサで明らかに体温を持っているものが進入して来た事が解るので、その両方の出力を判断部36に入力する事で正確に人物の進入を把握できる。 As a modification of the information acquisition unit 34, a combination of a visible light image sensor and a far-infrared light image sensor can be considered. With such a configuration, it can be seen that a person-like thing has entered with a visible light image sensor, and that a person with a clear body temperature has entered with a far-infrared light image sensor, By inputting both outputs to the determination unit 36 , it is possible to accurately grasp the person's approach.

このような複数の情報取得部34が存在する車両監視モジュール24があることにより、状況に即した、より正確な認識・判断が可能となり、精度の高い高度な安全運転支援システムを提供できる。   The presence of such a vehicle monitoring module 24 having a plurality of information acquisition units 34 enables more accurate recognition / judgment according to the situation, and provides a highly accurate and advanced safe driving support system.

なお、第7の実施の形態では、例えば、全ての車両監視モジュール24が複数の情報取得部34から構成されていてもよい。   In the seventh embodiment, for example, all the vehicle monitoring modules 24 may be configured by a plurality of information acquisition units 34.

(第8の実施の形態)
図13に示される如く、第8の実施の形態は、前記第1の実施の形態で示す車両監視モジュール24の構成において、判断部36から情報を受ける認識度合検出部37が追加されている。認識度合検出部37は、前記情報取得部34に接続され、当該情報取得部34から判断部36へ至る情報に基づいて得られる情報取得の際の微調整情報をフィードバック補正する。
(Eighth embodiment)
As shown in FIG. 13, in the eighth embodiment, a recognition degree detection unit 37 that receives information from the determination unit 36 is added to the configuration of the vehicle monitoring module 24 shown in the first embodiment. The degree-of-recognition detection unit 37 is connected to the information acquisition unit 34, and feedback-corrects fine adjustment information at the time of information acquisition obtained based on information from the information acquisition unit 34 to the determination unit 36.

判断部36の特性は情報取得部34の微調整により大きく変わる場合があり、認識度合検出部37を設けることにより情報取得部34にフィードバックをかけて判断部36の特性を向上する。 The characteristics of the determination unit 36 may vary greatly depending on the fine adjustment of the information acquisition unit 34. By providing the recognition degree detection unit 37 , the information acquisition unit 34 is fed back to improve the characteristics of the determination unit 36.

第8の実施の形態によれば、認識度合検出手部37を設けることにより、情報取得部34にフィードバックをかけて、情報取得部34の情報取得特性に微調整することにより、より判断部36の判断精度を向上する。   According to the eighth embodiment, by providing the recognition degree detection unit 37, the information acquisition unit 34 is fed back and finely adjusted to the information acquisition characteristics of the information acquisition unit 34, thereby further determining the unit 36. Improve judgment accuracy.

また、光学カメラの自動調整を認識度合検出部37により抑えることにより、判断部36の働きを健全に保つ事もできる。   Moreover, by suppressing the automatic adjustment of the optical camera by the recognition degree detection unit 37, the function of the determination unit 36 can be kept sound.

例えば、情報取得部34が光学カメラである様な場合である。第1の実施の形態の場合には、光学カメラは一般的に光学的な調整(絞り、フォーカスコントロールなど)を自動的に行うが、判断部36により光学カメラで自動調整が勝手に行われた場合、不都合な場合が生じる。具体的な例として、ある箇所の認識をその箇所にフォーカス、輝度を合わせ、集中的に行っているような場合に、あるものが急に横切ったような場合にオートフォーカス動作が自動的にかかって集中して観察していた位置のフォーカスが悪くなったり、観察している画面内に急に輝度の高い物侵入したため、光学カメラの自動輝度調整が働いて、集中して観察していた領域の輝度がそれに連れ低下して、判断部36の認識度が低下したりすることがある。このような場合、第8の実施の形態の構成は非常に有効である。 For example, the information acquisition unit 34 is an optical camera. In the case of the first embodiment, the optical camera generally performs optical adjustments (aperture, focus control, etc.) automatically, but automatic adjustment is automatically performed by the determination unit 36 using the optical camera. In some cases, an inconvenient case occurs. As a specific example, when focusing on a certain location and adjusting the brightness and focusing on that location, the autofocus operation is automatically activated when something suddenly crosses. Because the focus at the position where the observation was concentrated and the focus deteriorated, or an object with high brightness suddenly entered the observation screen, the automatic brightness adjustment of the optical camera worked, and the observation was concentrated The brightness of the area may decrease accordingly, and the recognition level of the determination unit 36 may decrease. In such a case, the configuration of the eighth embodiment is very effective.

(第9の実施の形態)
図14に示される如く、第9の実施の形態は、前記第8の実施の形態に対して、特定情報生成部38に直接送受信部38Aを設け、メイン制御部30に直接送受信部30Bを設け、これらを制御信号転送ライン56を介して双方向に通信可能に接続した構成となっており、メイン制御部30により高性能な安全運転補助装置を提供する。
(Ninth embodiment)
As shown in FIG. 14, in the ninth embodiment, a direct transmission / reception unit 38 < / b> A is provided in the specific information generation unit 38 and a direct transmission / reception unit 30 < / b> B is provided in the main control unit 30 with respect to the eighth embodiment. These are configured so that they can be communicated bidirectionally via the control signal transfer line 56, and a high-performance safe driving assistance device is provided by the main control unit 30.

すなわち、第9の実施の形態によれば、制御信号転送ライン56を介して各車両監視モジュール24の特定情報生成部38の直接送受信部38Bに制御信号、情報などを転送する事によって、車両監視モジュール24から出力される特定情報の出力形式、情報の種類等のうち、一部、或いは全ての変更がそれぞれ個々に可能となりより汎用性の高い安全運転補助装置が提供できる。   That is, according to the ninth embodiment, vehicle control is performed by transferring control signals, information, and the like to the direct transmission / reception unit 38B of the specific information generation unit 38 of each vehicle monitoring module 24 via the control signal transfer line 56. Of the output format of the specific information output from the module 24, the type of information, etc., some or all of the changes can be made individually, thereby providing a more versatile safe driving assistance device.

なお、第9の実施の形態では、必ずしも通信回線28と異なる制御信号転送ライン56では無くても良く、共通利用してもよい。   In the ninth embodiment, the control signal transfer line 56 is not necessarily different from the communication line 28 and may be shared.

(第10の実施の形態)
図15に示される如く、第10の実施の形態では、前記第9の実施の形態の構成に、判断部36をコントロールする手段を設けた点にある。
(Tenth embodiment)
As shown in FIG. 15, in the tenth embodiment, means for controlling the determination unit 36 is provided in the configuration of the ninth embodiment.

図15に示す様に、判断部36に直接送受信部36Bを付加し、制御信号転送ライン56に接続する。   As shown in FIG. 15, the transmitter / receiver 36 </ b> B is added directly to the determination unit 36 and connected to the control signal transfer line 56.

これにより、特定情報生成部38に含まれる直接送受信部38Aとメイン制御部30に含まれる直接送受信手段30Bとの間でやりとりされる情報に基づいて、制御信号転送ライン56を介して判断部36の特性を微調整、或いは設定することができる。   As a result, based on information exchanged between the direct transmission / reception unit 38 </ b> A included in the specific information generation unit 38 and the direct transmission / reception means 30 </ b> B included in the main control unit 30, the determination unit 36 via the control signal transfer line 56. These characteristics can be finely adjusted or set.

例えば、初め、危険侵入物検知機能だった判断部36を白線認知機能に変えてしまうような、認識機能そのものを全く違う物にすることができるので、汎用性の高い安全運転補助装置が提供できる。   For example, since the recognition function itself that changes the judgment unit 36 that was a dangerous intruder detection function to a white line recognition function can be made completely different, a highly versatile safe driving assistance device can be provided. .

なお、第10の実施の形態では、必ずしも通信回線28と異なる制御信号転送ライン56では無くても良く、共通利用してもよい。   In the tenth embodiment, the control signal transfer line 56 is not necessarily different from the communication line 28 and may be shared.

(第11の実施の形態)
図16に示される如く、第11の実施の形態では、前記第10の実施の形態の構成に、情報取得部34をコントロールする手段を設けた点にある。
(Eleventh embodiment)
As shown in FIG. 16, in the eleventh embodiment, means for controlling the information acquisition unit 34 is provided in the configuration of the tenth embodiment.

図16に示す様に、情報取得部34に直接送受信部34Aを付加し、制御信号転送ライン56に接続する。   As shown in FIG. 16, the transmission / reception unit 34 </ b> A is added directly to the information acquisition unit 34 and connected to the control signal transfer line 56.

これにより、情報取得部34は、認識度合検出部37を使って自動的にコントロールするのに加え、メイン制御部30からコントロールできる。   Thus, the information acquisition unit 34 can be controlled from the main control unit 30 in addition to being automatically controlled using the recognition degree detection unit 37.

第11の実施の形態によれば、情報取得部34に直接送受信部34Aを設け、制御信号転送ライン56と接続しているので、メイン制御部30から、例えば、認識度合検出部37を使って情報取得部34を自動的にコントロールできるだけでなく、強制的に、情報取得部34をコントロールできるので、より汎用性の高い安全運転補助装置が提供できる。 According to the eleventh embodiment, since the information acquisition unit 34 is directly provided with the transmission / reception unit 34A and is connected to the control signal transfer line 56, the main control unit 30 uses, for example, the recognition degree detection unit 37. Not only can the information acquisition unit 34 be automatically controlled but also the information acquisition unit 34 can be forcibly controlled, so that a safe driving assistance device with higher versatility can be provided.

なお、第11の実施の形態では、必ずしも通信回線28と異なる制御信号転送ライン56では無くても良く、共通利用してもよい。   In the eleventh embodiment, the control signal transfer line 56 is not necessarily different from the communication line 28, and may be shared.

(第12の実施の形態)
図17に示される如く、第12の実施の形態は、第1の実施の形態の構成に、表示部54を設けた点にある。この表示部54は、警報発生部32の一部の機能と重なるが、ここでの目的は所謂「モニタリング」としての役目を持つ。
(Twelfth embodiment)
As shown in FIG. 17, the twelfth embodiment is that a display unit 54 is provided in the configuration of the first embodiment. The display unit 54 overlaps with a part of the function of the alarm generation unit 32, but the purpose here is to serve as a so-called “monitoring”.

表示部54を設けることで、警報発生部32だけでは不足する画像情報、文字情報を表示し、発生している事象を画面上で運転者に知覚させる。 By providing the display unit 54, image information and character information that are insufficient only by the alarm generation unit 32 are displayed, and the driver is made to perceive the occurring event on the screen.

表示部54を設けたことにより、画像情報の他、運転者により多くの情報を供給できるので、より高度で多機能な安全運転補助装置を供給できる。 By providing the display unit 54, more information can be supplied to the driver in addition to the image information, so that a more advanced and multifunctional safe driving assistance device can be supplied.

表示部54は、例えば、動画を表示するための中型、小型LCDモニタであっも良いし、簡単な記号、文字を表示するだけのLED表示装置であっても良い。 The display unit 54, for example, mid-size for displaying a moving image may be a small LCD monitor, simple symbols, may be a LED display only displays the characters.

(第13の実施の形態)
図18に示される如く、第13の実施の形態は、前述した第6の実施の形態(図11参照)に表示部54を付加した構成となっている。なお、図18は、図11の構成に表示部54を付加したが、その変形例としては、第2の実施の形態〜第5の実施の形態(図7〜図10)に表示部54を付加するようにしてもよい。
(Thirteenth embodiment)
As shown in FIG. 18, the thirteenth embodiment has a configuration in which a display unit 54 is added to the above-described sixth embodiment (see FIG. 11). In FIG. 18, the display unit 54 is added to the configuration of FIG. 11, but as a modification thereof, the display unit 54 is added to the second to fifth embodiments (FIGS. 7 to 10). You may make it add.

(第14の実施の形態)
図19に示される如く、第14の実施の形態は、前述した第8の実施の形態(図13参照)に表示部54を付加した構成である。
(Fourteenth embodiment)
As shown in FIG. 19, the fourteenth embodiment has a configuration in which a display unit 54 is added to the above-described eighth embodiment (see FIG. 13).

(第15の実施の形態)
図20に示される如く、第15の実施の形態は、前述した第9の実施の形態(図14参照)に表示部54を付加した構成である。
(Fifteenth embodiment)
As shown in FIG. 20, the fifteenth embodiment has a configuration in which a display unit 54 is added to the ninth embodiment (see FIG. 14) described above.

(第16の実施の形態)
図21に示される如く、第16の実施の形態は、前記第1の実施の形態が基本となっており、車両監視モジュール24とメイン制御部30との間の情報送受信が無線通信としたことが特徴となっている。
(Sixteenth embodiment)
As shown in FIG. 21, the sixteenth embodiment is based on the first embodiment, and information transmission / reception between the vehicle monitoring module 24 and the main control unit 30 is wireless communication. Is a feature.

図21に示される如く、各車両監視モジュール24の特定情報生成部38には、無線送信部58が接続されている。   As shown in FIG. 21, a wireless transmission unit 58 is connected to the specific information generation unit 38 of each vehicle monitoring module 24.

一方、メイン制御部30には、無線受信部60が接続されている。   On the other hand, a wireless receiver 60 is connected to the main controller 30.

無線送信部58と無線受信部60との間は、無線によって情報がやりとりされることになる。   Information is exchanged between the wireless transmission unit 58 and the wireless reception unit 60 wirelessly.

基本動作は、第1の実施の形態とほぼ同様であるが、特定情報が無線送信部58、無線受信部60を介して、やりとりされるので、転送のためのケーブル接続の必要が無く、設置のための物理的な制約から解放され、より使いやすい安全運転補助装置を提供することが可能となる。 The basic operation is almost the same as in the first embodiment, but the specific information is exchanged via the wireless transmission unit 58 and the wireless reception unit 60, so there is no need to connect a cable for transfer, and installation is performed. Therefore, it is possible to provide a safe driving assistance device that is easier to use and is freed from physical constraints.

第16の実施の形態によれば、特定情報が認識判断をした後の(画像情報に比べ)非常に小さいデータ量であることが特徴であり、その少ない情報をよりコストの低い無線通信でやりとりする事に優位性がある。   According to the sixteenth embodiment, the specific information has a very small data amount (compared to image information) after the recognition determination is made, and the small amount of information is exchanged by wireless communication at a lower cost. There is an advantage in doing.

情報無線通信には、情報転送性能が低いZigbeeあるいは、それ程の情報転送スピードを持たないBluetoothを使っても充分性能を発揮できる。   For information wireless communication, Zigbee with low information transfer performance or Bluetooth with no information transfer speed can perform well.

(第17の実施の形態)
図22に示される如く、第17の実施の形態は、前記第1の実施の形態が基本となっており、車両監視モジュール24とメイン制御部30との間の情報送受信が無線通信としたことが特徴となっている。
(Seventeenth embodiment)
As shown in FIG. 22, the seventeenth embodiment is based on the first embodiment, and information transmission / reception between the vehicle monitoring module 24 and the main control unit 30 is wireless communication. Is a feature.

図22に示される如く、各車両監視モジュール24の特定情報生成部38には、無線送受信部62が接続されている。   As shown in FIG. 22, a wireless transmission / reception unit 62 is connected to the specific information generation unit 38 of each vehicle monitoring module 24.

一方、メイン制御部30には、無線送受信部64が接続されている。   On the other hand, a radio transmission / reception unit 64 is connected to the main control unit 30.

無線送受信部62と無線送受信部64との間は、無線によって情報がやりとりされることになる。   Information is exchanged wirelessly between the wireless transmission / reception unit 62 and the wireless transmission / reception unit 64.

基本動作は、第1の実施の形態とほぼ同様であるが、特定情報が無線送受信部送信部62、無線送受信部64を介して、やりとりされるので、転送のためのケーブル接続の必要が無く、設置のための物理的な制約から解放され、より使いやすい安全運転補助装置を提供することが可能となる。 The basic operation is almost the same as in the first embodiment, but the specific information is exchanged via the wireless transmission / reception unit transmission unit 62 and the wireless transmission / reception unit 64, so there is no need to connect a cable for transfer. Thus, it is possible to provide a safe driving assistance device that is free from physical restrictions for installation and that is easier to use.

第17の実施の形態によれば、特定情報が認識判断をした後の(画像情報に比べ)非常に小さいデータ量であることが特徴であり、その少ない情報をよりコストの低い無線通信でやりとりする事に優位性がある。   According to the seventeenth embodiment, the specific information has a very small data amount (compared to image information) after the recognition determination is made, and the small amount of information is exchanged by wireless communication at a lower cost. There is an advantage in doing.

情報無線通信には、情報転送性能が低いZigbeeあるいは、それ程の情報転送スピードを持たないBluetoothを使っても充分性能を発揮できる。   For information wireless communication, Zigbee with low information transfer performance or Bluetooth with no information transfer speed can perform well.

(第18の実施の形態)
図23に示される如く、第18の実施の形態は、前記第17の実施の形態において、無線送受信機能に、車両監視モジュール24の判断部36のコントロールを可能にしたものである。
(Eighteenth embodiment)
As shown in FIG. 23, in the eighteenth embodiment, in the seventeenth embodiment, the wireless transmission / reception function enables the determination unit 36 of the vehicle monitoring module 24 to be controlled.

(第19の実施の形態)
図24に示される如く、第19の実施の形態は、前記第18の実施の形態において、情報取得部34のコントロール可能にしたものである。
(Nineteenth embodiment)
As shown in FIG. 24, in the nineteenth embodiment, the information acquisition unit 34 can be controlled in the eighteenth embodiment.

(第20の実施の形態)
図25に示される如く、第20の実施の形態は、第8の実施の形態の構成において、単方向(特定情報を車両監視モジュール24からメイン制御部30へ送信する単方向)の無線通信としたものである。
(20th embodiment)
As shown in FIG. 25, the twentieth embodiment is unidirectional (unidirectional transmission of specific information from the vehicle monitoring module 24 to the main control unit 30) and wireless communication in the configuration of the eighth embodiment. It is a thing.

(第21の実施の形態)
図26に示される如く、第21の実施の形態は、第8の実施の形態の構成において、双方向(特定情報を車両監視モジュール24からメイン制御部30へ送信する場合と、制御情報をメイン制御部30から車両監視モジュール24へ送信する場合)の無線通信としたものである。
(Twenty-first embodiment)
As shown in FIG. 26, in the twenty-first embodiment, in the configuration of the eighth embodiment, two-way (specific information is transmitted from the vehicle monitoring module 24 to the main control unit 30 and Wireless communication in the case of transmission from the control unit 30 to the vehicle monitoring module 24).

(第22の実施の形態)
図27に示される如く、第22の実施の形態は、前記第21の実施の形態において、車両監視モジュール24の判断部36のコントロールを可能にしたものである。
(Twenty-second embodiment)
As shown in FIG. 27, the twenty-second embodiment enables control of the determination unit 36 of the vehicle monitoring module 24 in the twenty-first embodiment.

(第23の実施の形態)
図28に示される如く、第23の実施の形態は、前記第22の実施の形態において、車両監視モジュール24の情報取得部34のコントロールを可能にしたものである。
(Twenty-third embodiment)
As shown in FIG. 28, the twenty-third embodiment enables control of the information acquisition unit 34 of the vehicle monitoring module 24 in the twenty-second embodiment.

(第24の実施の形態)
図29に示される如く、第24の実施の形態は、前記第16の実施の形態(図21参照)に表示部56を付加したものである。
(24th Embodiment)
As shown in FIG. 29, the twenty-fourth embodiment is obtained by adding a display unit 56 to the sixteenth embodiment (see FIG. 21).

(第25の実施の形態)
図30に示される如く、第25の実施の形態は、前記第17の実施の形態(図22参照)に表示部56を付加したものである。
(25th embodiment)
As shown in FIG. 30, the twenty-fifth embodiment is obtained by adding a display unit 56 to the seventeenth embodiment (see FIG. 22).

(第26の実施の形態)
図31に示される如く、第26の実施の形態は、前記第19の実施の形態(図24参照)に表示部56を付加したものである。
(Twenty-sixth embodiment)
As shown in FIG. 31, the twenty-sixth embodiment is obtained by adding a display unit 56 to the nineteenth embodiment (see FIG. 24).

なお、変形例として、第18の実施の形態(図23参照)に表示部56を付加してもよい。   As a modification, the display unit 56 may be added to the eighteenth embodiment (see FIG. 23).

(第27の実施の形態)
図32に示される如く、第27の実施の形態は、前記第20の実施の形態(図25参照)に表示部56を付加したものである。
(Twenty-seventh embodiment)
As shown in FIG. 32, in the twenty-seventh embodiment, a display unit 56 is added to the twentieth embodiment (see FIG. 25).

(第28の実施の形態)
図33に示される如く、第28の実施の形態は、前記第21の実施の形態(図26参照)に表示部56を付加したものである。
(Twenty-eighth embodiment)
As shown in FIG. 33, the twenty-eighth embodiment is obtained by adding a display unit 56 to the twenty-first embodiment (see FIG. 26).

(第29の実施の形態)
図34に示される如く、第29の実施の形態は、前記第23の実施の形態(図28参照)に表示部56を付加したものである。
(Twenty-ninth embodiment)
As shown in FIG. 34, the twenty-ninth embodiment is obtained by adding a display unit 56 to the twenty-third embodiment (see FIG. 28).

なお、変形例として、第22の実施の形態(図27参照)に表示部56を付加してもよい。   As a modification, the display unit 56 may be added to the twenty-second embodiment (see FIG. 27).

10 車両
12 天井部
14 フロントガラス
16 エンジンフード
18 フロントドア
20 リヤドア
22 バックドア
24A〜J 車両監視モジュール
26 バンパー
28 通信回線
30 メイン制御部
34 情報取得部
36 判断部
38 特定情報生成部
40 路上
42 センターライン
44 サイドライン
46 鎖線
48 進行方向ポイント
50 人物
52 軽車両
DESCRIPTION OF SYMBOLS 10 Vehicle 12 Ceiling part 14 Windshield 16 Engine hood 18 Front door 20 Rear door 22 Back door 24A-J Vehicle monitoring module 26 Bumper 28 Communication line 30 Main control part 34 Information acquisition part 36 Judgment part 38 Specific information generation part 40 On-road 42 center Line 44 Side line 46 Chain line 48 Traveling direction point 50 People 52 Light vehicle

Claims (17)

車両の所定位置から特定の視野領域の画像情報を取得する情報取得手段と、
前記情報取得手段で取得した画像情報を解析すると共に、当該解析結果を、前記車両の運転者に対して報知する必要があるか否かを判断する判断手段と、
前記判断部において報知する必要があると判断した場合に、前記解析結果に基づき、かつ、前記画像情報よりも情報量が少ない特定情報を生成する特定情報生成手段と、
を有する車両監視装置。
Information acquisition means for acquiring image information of a specific visual field from a predetermined position of the vehicle;
A determination unit that analyzes the image information acquired by the information acquisition unit and determines whether or not the analysis result needs to be notified to a driver of the vehicle;
Specific information generating means for generating specific information based on the analysis result and having a smaller amount of information than the image information when it is determined that the determination unit needs to be notified;
A vehicle monitoring device.
前記特定情報が、情報認識に特別な認識機能が不要な、汎用性を持つテキスト情報である請求項1記載の車両監視装置。   The vehicle monitoring apparatus according to claim 1, wherein the specific information is text information having versatility that does not require a special recognition function for information recognition. 前記特定情報が、前記判断手段における報知要否の判定結果を含む請求項1又は請求項2記載の車両監視装置。   The vehicle monitoring apparatus according to claim 1, wherein the specific information includes a determination result of necessity of notification in the determination unit. 前記情報取得手段が、色信号、輝度信号、濃度信号の少なくとも1つで構成された画像信号を出力する撮像装置、前記特定の視野領域の温度に基づく信号を出力する赤外線センサ、前記特定の視野領域に存在する物体までの立体的な距離間に基づく画像信号を出力する超音波センサの何れかで構成されている請求項1〜請求項3の何れか1項記載の車両監視装置。   The information acquisition unit outputs an image signal composed of at least one of a color signal, a luminance signal, and a density signal, an infrared sensor that outputs a signal based on the temperature of the specific visual field region, and the specific visual field The vehicle monitoring device according to any one of claims 1 to 3, wherein the vehicle monitoring device is configured by any one of ultrasonic sensors that output an image signal based on a three-dimensional distance to an object existing in a region. 前記判断手段には、複数の画像情報が入力される請求項1〜請求項4の何れか1項記載の車両監視装置。   The vehicle monitoring apparatus according to claim 1, wherein a plurality of pieces of image information are input to the determination unit. 前記判断手段の判断結果に基づいて、前記情報取得手段に対して情報取得実行時の機能状態を調整する調整手段をさらに有する請求項1〜請求項5の何れか1項記載の車両監視装置。 Based on the determination result of said determination means, the vehicle monitoring apparatus according to any one of claims 1 to 5, further comprising an adjustment means for adjusting the function state when information acquisition performed on the information acquisition means . 車両の所定位置から特定の視野領域の画像情報を取得する情報取得手段と、前記情報取得手段で取得した画像情報を解析すると共に、当該解析結果を、前記車両の運転者に対して報知する必要があるか否かを判断する判断手段と、前記判断部において報知する必要があると判断した場合に、前記解析結果に基づき、かつ、前記画像情報よりも情報量が少ない特定情報を生成する特定情報生成手段と、を備えた複数の車両監視モジュールと、
車両の運転者に対して、警報を発する警報発生手段と、
複数の前記監視モジュールから前記特定情報が入力されると共に、当該特定情報に基づいて、前記警報発生手段の発生形態を選択して、実行させる制御手段と、
を有する車両監視システム。
Information acquisition means for acquiring image information of a specific visual field from a predetermined position of the vehicle, and analysis of the image information acquired by the information acquisition means, and notification of the analysis result to the driver of the vehicle A determination unit that determines whether or not there is a specific information that generates specific information based on the analysis result and having a smaller amount of information than the image information when it is determined that the determination unit needs to notify A plurality of vehicle monitoring modules comprising: information generating means;
An alarm generating means for issuing an alarm to a vehicle driver;
The specific information is input from a plurality of the monitoring modules, and based on the specific information, a generation unit of the alarm generation unit is selected and executed.
A vehicle monitoring system.
前記特定情報が、情報認識に特別な認識機能が不要な、汎用性を持つテキスト情報である請求項7記載の車両監視システム。   The vehicle monitoring system according to claim 7, wherein the specific information is general-purpose text information that does not require a special recognition function for information recognition. 前記特定情報が、前記車両監視モジュールを識別する識別情報と、前記判断手段における報知要否の判定結果を含む請求項7又は請求項8記載の車両監視システム。   The vehicle monitoring system according to claim 7 or 8, wherein the specific information includes identification information for identifying the vehicle monitoring module and a determination result of necessity of notification in the determination unit. 前記情報取得手段が、色信号、輝度信号、濃度信号の少なくとも1つで構成された画像信号を出力する撮像装置、前記特定の視野領域の温度に基づく信号を出力する赤外線センサ、前記特定の視野領域に存在する物体までの立体的な距離間に基づく画像信号を出力する超音波センサの何れかで構成されている請求項7〜請求項9の何れか1項記載の車両監視システム。   The information acquisition unit outputs an image signal composed of at least one of a color signal, a luminance signal, and a density signal, an infrared sensor that outputs a signal based on the temperature of the specific visual field region, and the specific visual field The vehicle monitoring system according to any one of claims 7 to 9, comprising an ultrasonic sensor that outputs an image signal based on a three-dimensional distance to an object existing in a region. 前記警報発生手段が、運転者に視覚を通じて報知する表示手段を含む請求項7〜請求項10の何れか1項記載の車両監視システム。 The vehicle monitoring system according to any one of claims 7 to 10, wherein the alarm generation means includes display means for visually informing a driver . 前記判断手段には、複数の画像情報が入力される請求項7〜請求項11の何れか1項記載の車両監視システム。   The vehicle monitoring system according to claim 7, wherein a plurality of pieces of image information are input to the determination unit. 前記判断手段の判断結果に基づいて、前記情報取得手段に対して情報取得実行時の機能状態を調整する調整手段をさらに有する請求項7〜請求項12の何れか1項記載の車両監視システム。 Based on the determination result of said determination means, a vehicle monitoring system according to any one of claims 7 to claim 12, further comprising adjusting means for adjusting the function state when information acquisition performed on the information acquisition means . 前記制御手段が、複数の前記車両監視モジュールの各手段に対して指示情報の送信が可能であり、前記車両監視モジュールの各手段の機能実行時の実行機能状態を指示する請求項7〜請求項12の何れか1項記載の車両監視システム。 It said control means is capable of transmitting the instruction information to each unit of the plurality of the vehicle monitoring module, according to claim 7 claim for instructing the execution functional status during function execution of each unit of the vehicle monitoring module 13. The vehicle monitoring system according to any one of items 12 . 前記車両監視モジュールと前記制御手段との間の情報伝達が、無線通信で実行される請求項7〜請求項14の何れか1項記載の車両監視システム。 The vehicle monitoring module and communication between the control means, a vehicle monitoring system according to any one of claims 7 to claim 14 which is executed by the wireless communication. コンピュータに、
車両の所定位置から特定の視野領域の画像情報を取得し、
取得した画像情報を解析して、車両の運転者に対して報知する必要があるか否かを判断し、
前記判断の結果、運転者に報知する必要があると判断した場合に、前記解析結果に基づく特定情報として、前記画像情報よりも情報量が少ない特定情報を生成し、
前記特定情報に基づいて、警報の発生形態を選択して、実行させる、
ことを含む処理を実行させるための車両監視プログラム
On the computer,
Obtain image information of a specific visual field from a predetermined position of the vehicle,
Analyzing the acquired image information to determine whether it is necessary to notify the vehicle driver,
As a result of the determination, when it is determined that it is necessary to notify the driver, as the specific information based on the analysis result, specific information having a smaller information amount than the image information is generated,
Based on the specific information, an alarm generation mode is selected and executed.
The vehicle monitoring program for performing the process including this .
両の所定位置から特定の視野領域の画像情報を取得し、
取得した画像情報を解析して、車両の運転者に対して報知する必要があるか否かを判断し、
前記判断の結果、運転者に報知する必要があると判断した場合に、前記解析結果に基づく特定情報として、前記画像情報よりも情報量が少ない特定情報を生成し、
前記特定情報に基づいて、警報の発生形態を選択して、実行させる、
ことを含む処理をコンピュータに実行させる車両監視プログラムが記憶された記憶素子を備えた半導体装置
It acquires image information for a specific viewing area from a predetermined position of the vehicles,
Analyzing the acquired image information to determine whether it is necessary to notify the vehicle driver,
As a result of the determination, when it is determined that it is necessary to notify the driver, as the specific information based on the analysis result, specific information having a smaller information amount than the image information is generated,
Based on the specific information, an alarm generation mode is selected and executed.
A semiconductor device comprising a storage element storing a vehicle monitoring program for causing a computer to execute processing including the above .
JP2009011994A 2009-01-22 2009-01-22 Vehicle monitoring device, vehicle monitoring system, vehicle monitoring program, semiconductor device Active JP5361409B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009011994A JP5361409B2 (en) 2009-01-22 2009-01-22 Vehicle monitoring device, vehicle monitoring system, vehicle monitoring program, semiconductor device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009011994A JP5361409B2 (en) 2009-01-22 2009-01-22 Vehicle monitoring device, vehicle monitoring system, vehicle monitoring program, semiconductor device

Publications (2)

Publication Number Publication Date
JP2010170317A JP2010170317A (en) 2010-08-05
JP5361409B2 true JP5361409B2 (en) 2013-12-04

Family

ID=42702416

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009011994A Active JP5361409B2 (en) 2009-01-22 2009-01-22 Vehicle monitoring device, vehicle monitoring system, vehicle monitoring program, semiconductor device

Country Status (1)

Country Link
JP (1) JP5361409B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6332384B2 (en) * 2016-09-29 2018-05-30 マツダ株式会社 Vehicle target detection system
JP6900942B2 (en) * 2018-09-26 2021-07-14 株式会社デンソー Drive recorder and image storage system
EP3978954A4 (en) * 2019-05-29 2023-05-10 Kyocera Corporation Electronic device, electronic device control method, and program
JP2020042846A (en) * 2019-11-26 2020-03-19 日立オートモティブシステムズ株式会社 Information processing system

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001211450A (en) * 2000-01-27 2001-08-03 Mega Chips Corp Image pickup system
JP2004280376A (en) * 2003-03-14 2004-10-07 Japan Science & Technology Agency Method and system for recognition of subject's behavior
WO2008050395A1 (en) * 2006-10-24 2008-05-02 Pioneer Corporation Data delivery device, data delivery method, data delivery program and computer readable recording medium
JP2008207627A (en) * 2007-02-23 2008-09-11 Auto Network Gijutsu Kenkyusho:Kk In-vehicle imaging system, imaging device, and display control device

Also Published As

Publication number Publication date
JP2010170317A (en) 2010-08-05

Similar Documents

Publication Publication Date Title
KR101778624B1 (en) Surround camera system for autonomous driving
CN108140314B (en) Parking assistance method and parking assistance device
JP7047763B2 (en) Driving assistance devices and methods, mobiles, and programs
CN108140312B (en) Parking assistance method and parking assistance device
JP5744352B2 (en) Vehicle periphery display device
JP4517393B2 (en) Driving assistance device
JP6690666B2 (en) Alarm device, alarm system and mobile terminal
WO2016067544A1 (en) Vehicle-mounted attention-attracting system and notification control device
JP6652090B2 (en) Operation mode switching control device, system, method, and program
JP2016090274A (en) Alarm apparatus, alarm system, and portable terminal
JP5880740B1 (en) Collision avoidance system and collision avoidance method
WO2017199529A1 (en) Driving assistance device and driving assistance program
US10354525B2 (en) Alerting system and method thereof
US20190039628A1 (en) Vehicle-surrounding monitoring device and non-transitory computer readable storage medium
WO2017145549A1 (en) Looking aside and oversight warning system and computer program
JP2013191050A (en) Vehicle periphery monitoring device
JP5361409B2 (en) Vehicle monitoring device, vehicle monitoring system, vehicle monitoring program, semiconductor device
JP4255880B2 (en) Inter-vehicle collision prevention support system and inter-vehicle collision prevention support device
JP2013161440A (en) Vehicle surroundings monitoring device
JP2008257582A (en) Driving support device
KR20180112336A (en) Electronic device and method for recognizing object by using a plurality of senses
JP4453579B2 (en) Car phone system
KR20170069645A (en) System of preventing pedestrian accident and method performing thereof
US20160167581A1 (en) Driver interface for capturing images using automotive image sensors
KR100788619B1 (en) Side-view monitoring device for vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130319

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130903

R150 Certificate of patent or registration of utility model

Ref document number: 5361409

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150