JP2007334763A - Vehicular periphery monitoring system, vehicle, vehicular periphery monitoring program, constitution method for vehicular periphery monitoring system, and server - Google Patents

Vehicular periphery monitoring system, vehicle, vehicular periphery monitoring program, constitution method for vehicular periphery monitoring system, and server Download PDF

Info

Publication number
JP2007334763A
JP2007334763A JP2006167888A JP2006167888A JP2007334763A JP 2007334763 A JP2007334763 A JP 2007334763A JP 2006167888 A JP2006167888 A JP 2006167888A JP 2006167888 A JP2006167888 A JP 2006167888A JP 2007334763 A JP2007334763 A JP 2007334763A
Authority
JP
Japan
Prior art keywords
vehicle
periphery monitoring
monitoring system
target object
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006167888A
Other languages
Japanese (ja)
Other versions
JP4975379B2 (en
JP2007334763A5 (en
Inventor
Takayuki Tsuji
孝之 辻
Yuichi Nakanishi
裕一 中西
Izumi Kondo
いずみ 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2006167888A priority Critical patent/JP4975379B2/en
Publication of JP2007334763A publication Critical patent/JP2007334763A/en
Publication of JP2007334763A5 publication Critical patent/JP2007334763A5/ja
Application granted granted Critical
Publication of JP4975379B2 publication Critical patent/JP4975379B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a vehicular periphery monitoring system or the like, for recognizing an object such as the human being or the like around a vehicle, based on an infrared image obtained through an on-vehicle infrared imaging device as required, while avoiding wasteful use of an image processing capacity. <P>SOLUTION: This vehicular periphery monitoring system 10 determines whether it is difficult for a driver to visually confirm an object P around the vehicle 1 depending on whether a brightness variable X<SB>L</SB>expressing brightness around the vehicle 1 is a reference value x<SB>0</SB>or more. The object P is recognized based on the infrared image obtained through an infrared camera 102, only when the periphery of the vehicle is bright to an extent that it is difficult for the driver to confirm visually the object P around the vehicle 1. The object P is not recognized based on the infrared image, when the driver can confirm visually the object P in the periphery of the vehicle 1. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、車両周辺監視システム、当該車両周辺監視システムが搭載された車両、当該車両周辺監視機能を車載コンピュータに付与するプログラム、当該車両周辺監視システムを構成する方法、および当該方法を実行するサーバに関する。   The present invention relates to a vehicle periphery monitoring system, a vehicle equipped with the vehicle periphery monitoring system, a program for providing the vehicle periphery monitoring function to an in-vehicle computer, a method for configuring the vehicle periphery monitoring system, and a server for executing the method About.

車載のCCDカメラを通じて得られた可視光画像と、車載の赤外線カメラを通じて得られた赤外光画像とを相互に補完する形で用いて車両の周辺にある人間等の対象物体の有無を判定するシステムが提案されている(たとえば、特許文献1、2参照)。
特開2000−030197号公報 特開2004−257924号公報
Using a visible light image obtained through a vehicle-mounted CCD camera and an infrared light image obtained through a vehicle-mounted infrared camera in a mutually complementary manner, the presence or absence of a target object such as a person around the vehicle is determined. A system has been proposed (see, for example, Patent Documents 1 and 2).
JP 2000-030197 A JP 2004-257924 A

しかし、太陽光等によって車両の周囲が明るく照らされており、運転者が当該車両の前方における対象物体の有無を視認できるような場合にまで前記システムを作動させておくことは画像処理能力の無駄である。また、運転者が車両の前方に対象物体があることを認識した場合にまで前記システムの判定結果に応じてこの対象物体の存在を運転手に知らせることも無駄である。この場合、対象物体の存在を知らせることがむしろ運転者の気に障るおそれもある。   However, it is wasteful in image processing capability to operate the system until the surroundings of the vehicle are brightly illuminated by sunlight or the like and the driver can visually recognize the presence or absence of the target object in front of the vehicle. It is. It is also useless to inform the driver of the presence of the target object according to the determination result of the system until the driver recognizes that the target object is in front of the vehicle. In this case, notifying the presence of the target object may rather disturb the driver.

その一方、車両の周囲が明るく照らされていたとしても、逆光等のために図7に示されているように視界全体が白っぽくなってしまい、運転者にとって車両の前方における対象物体P(図において枠fにより囲まれている。)の有無等の視認が困難である状況も生じうる。   On the other hand, even if the surroundings of the vehicle are brightly illuminated, the entire field of view becomes whitish as shown in FIG. 7 due to backlight or the like, and the target object P (in the figure in the figure) in front of the vehicle for the driver. It may be difficult to visually recognize the presence or absence of the frame f.

そこで、本発明は、画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在を認識しうる車両周辺監視システム、当該車両周辺監視システムが搭載された車両、当該車両周辺監視機能を車載コンピュータに付与するプログラム、当該車両周辺監視システムを構成する方法、および当該方法を実行するサーバを提供することを解決課題とする。   Therefore, the present invention detects the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device as necessary while avoiding waste of image processing capability. A vehicle periphery monitoring system that can be recognized, a vehicle equipped with the vehicle periphery monitoring system, a program for providing the vehicle periphery monitoring function to an in-vehicle computer, a method of configuring the vehicle periphery monitoring system, and a server that executes the method Providing is a solution issue.

前記課題を解決するための本発明の車両周辺監視システムは、車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺を監視するシステムであって、前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理部と、該第1処理部により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理部とを備えていることを特徴とする。   A vehicle periphery monitoring system according to the present invention for solving the above problems is a system for monitoring the periphery of a vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, and is an environmental factor of the vehicle The first processing unit for determining whether or not the surrounding brightness of the vehicle satisfies the environmental requirements set in view of the influence on the driver's field of view, and the environmental factor is determined by the first processing unit And a second processing unit for recognizing presence or absence of a target object around the vehicle based on the infrared light image when it is determined that the environmental requirement is satisfied.

本発明の車両周辺監視システムによれば、車両の周辺における対象物体の有無を視認することが運転者にとって困難になるか否かが、当該車両の「環境因子」が「環境要件」を満たすか否かに応じて判定される。「環境要件」は当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定されている。そして、環境因子が環境要件を満たす場合、すなわち、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。一方、環境因子が環境要件を満たしていない場合、運転者が車両の周辺における対象物体の有無を視認できるような場合には、赤外光画像に基づく対象物体の有無は認識されない。   According to the vehicle periphery monitoring system of the present invention, whether or not the “environmental factor” of the vehicle satisfies the “environment requirement” is whether or not it is difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. It is determined according to whether or not. The “environmental requirement” is set in view of the influence of the brightness around the vehicle on the driver's field of view. Based on the infrared light image only when the environmental factor satisfies the environmental requirements, that is, when the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. The presence or absence of the target object is recognized. On the other hand, when the environmental factor does not satisfy the environmental requirements, the presence or absence of the target object based on the infrared light image is not recognized when the driver can visually recognize the presence or absence of the target object around the vehicle.

これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。特に、車両が太陽に向かって走行している等、車両が太陽に向かって走行しているような状況や、車両が走行している路面を覆う水や氷によって太陽光が反射されているような状況でその真価が発揮されうる。   This makes it possible to recognize the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, if necessary, while avoiding waste of the image processing capacity of the system. Can be done. In particular, the situation is such that the vehicle is traveling toward the sun, such as when the vehicle is traveling toward the sun, and the sunlight is reflected by water or ice that covers the road surface on which the vehicle is traveling. The true value can be demonstrated in any situation.

また、本発明の車両周辺監視システムは、前記第1処理部が車載の可視光感知装置からの出力信号に基づいて車両の周辺の明るさを表す輝度変数を前記環境因子として測定し、当該輝度変数が基準値以上であることを前記環境要件として当該環境因子が当該環境要件を満たしているか否かを判定することを特徴とする。   Further, in the vehicle periphery monitoring system according to the present invention, the first processing unit measures a luminance variable representing the brightness of the periphery of the vehicle based on an output signal from a vehicle-mounted visible light sensing device as the environmental factor, and the luminance Whether the environmental factor satisfies the environmental requirement is determined based on the fact that the variable is a reference value or more as the environmental requirement.

本発明の車両周辺監視システムによれば、輝度変数が基準値以上である場合、すなわち、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。   According to the vehicle periphery monitoring system of the present invention, when the brightness variable is equal to or higher than the reference value, that is, the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object. Only in the case, the presence or absence of the target object is recognized based on the infrared light image. This makes it possible to recognize the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, if necessary, while avoiding waste of the image processing capacity of the system. Can be done.

さらに、本発明の車両周辺監視システムは、前記第1処理部が前記可視光感知装置としての可視光撮像装置を通じて得られた可視光画像を構成する複数の画素の輝度に基づいて前記輝度変数を測定し、前記第2処理部が当該可視光画像に一部または全部が重なる前記赤外光画像に基づいて前記車両の周辺における対象物体の有無を認識することを特徴とする。   Furthermore, in the vehicle periphery monitoring system of the present invention, the first processing unit sets the luminance variable based on the luminances of a plurality of pixels constituting a visible light image obtained through a visible light imaging device as the visible light sensing device. The measurement is performed, and the second processing unit recognizes the presence or absence of a target object around the vehicle based on the infrared light image partially or entirely overlapped with the visible light image.

本発明の車両周辺監視システムによれば、車両周辺の可視光画像を構成する複数の画素の輝度に基づき、車両の周辺における対象物体の視認が運転者にとって困難であるか否かが判定される。また、可視光画像の一部または全部に重なっている赤外光画像に基づき、運転者が視認困難である程度に明るく照らされている実空間領域における対象物体の有無が認識されうる。   According to the vehicle periphery monitoring system of the present invention, it is determined whether or not it is difficult for the driver to visually recognize the target object in the vicinity of the vehicle, based on the luminances of a plurality of pixels constituting the visible light image around the vehicle. . Further, based on the infrared light image that overlaps a part or all of the visible light image, the presence or absence of the target object in the real space region that is difficult to visually recognize and is brightly illuminated to some extent can be recognized.

また、本発明の車両周辺監視システムは、前記第1処理部が前記可視光画像を構成する複数の画素について輝度ヒストグラムを作成し当該ヒストグラムにおける輝度が閾値以上の部分の面積を前記輝度変数として測定することを特徴とする。   In the vehicle periphery monitoring system of the present invention, the first processing unit creates a luminance histogram for a plurality of pixels constituting the visible light image, and measures an area of a portion where the luminance in the histogram is equal to or greater than a threshold as the luminance variable. It is characterized by doing.

本発明の車両周辺監視システムによれば、可視光画像における輝度ヒストグラムに基づき、車両の周辺における対象物体の視認が運転者にとって困難であるか否かが判定される。   According to the vehicle periphery monitoring system of the present invention, based on the luminance histogram in the visible light image, it is determined whether it is difficult for the driver to visually recognize the target object around the vehicle.

さらに、本発明の車両周辺監視システムは、前記第1処理部が少なくとも車載の走行状態測定装置からの出力信号に基づいて前記車両の走行状態を前記環境因子として測定することを特徴とする。   Furthermore, the vehicle periphery monitoring system of the present invention is characterized in that the first processing unit measures the traveling state of the vehicle as the environmental factor based on at least an output signal from an on-vehicle traveling state measuring device.

本発明の車両周辺監視システムによれば、車両の走行状態が環境要件を満たしている場合、すなわち、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。   According to the vehicle periphery monitoring system of the present invention, when the traveling state of the vehicle satisfies the environmental requirements, that is, to the extent that it is difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. Only when the periphery is bright, the presence or absence of the target object is recognized based on the infrared light image. This makes it possible to recognize the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, if necessary, while avoiding waste of the image processing capacity of the system. Can be done.

また、本発明の車両周辺監視システムは、前記第1処理部が前記走行状態測定装置としてのジャイロセンサからの出力信号に基づいて前記車両の走行方向を測定し、当該走行状態測定装置としての位置測定装置からの出力信号に基づいて当該車両の位置からみた太陽の方向を測定した上で、当該車両の走行方向と当該車両の位置からみた太陽の方向との合致度を前記環境因子として測定し、当該合致度が基準値以上であることを前記環境要件として当該環境因子が当該環境要件を満たしているか否かを判定することを特徴とする。   In the vehicle periphery monitoring system of the present invention, the first processing unit measures the traveling direction of the vehicle based on an output signal from a gyro sensor serving as the traveling state measuring device, and the position as the traveling state measuring device. Based on the output signal from the measuring device, the sun direction as seen from the position of the vehicle is measured, and the degree of coincidence between the traveling direction of the vehicle and the sun direction as seen from the position of the vehicle is measured as the environmental factor. It is characterized in that whether the environmental factor satisfies the environmental requirement is determined as the environmental requirement that the degree of match is equal to or higher than a reference value.

本発明の車両周辺監視システムによれば、車両の向きが当該車両から見た太陽の向きに合致している程度が基準値以上である場合、すなわち、太陽の光によって当該車両の特に前方における対象物体の有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体の有無が認識される。   According to the vehicle periphery monitoring system of the present invention, when the degree of vehicle orientation that matches the direction of the sun seen from the vehicle is equal to or greater than a reference value, that is, an object in front of the vehicle, particularly in front of the vehicle. Only when there is a possibility that it is difficult for the driver to visually recognize the presence or absence of an object, the presence or absence of the target object is recognized based on the infrared light image.

さらに、本発明の車両周辺監視システムは、前記第1処理部が前記走行状態測定装置としての位置測定装置からの出力信号に基づいて前記車両の位置を前記環境因子として測定し、当該位置が地図情報源から得られる暗い領域から明るい領域への切り替え領域にあることを前記環境要件として当該環境因子が当該環境要件を満たすか否かを判定することを特徴とする。   Furthermore, in the vehicle periphery monitoring system of the present invention, the first processing unit measures the position of the vehicle as the environmental factor based on an output signal from a position measuring device as the traveling state measuring device, and the position is a map. It is characterized by determining whether or not the environmental factor satisfies the environmental requirement as the environmental requirement that the region is in a switching region from a dark region to a bright region obtained from an information source.

本発明の車両周辺監視システムによれば、車両の位置が暗い領域から明るい領域への切り替え領域にある場合、すなわち、当該車両の周辺が暗い状態から明るい状態に切り替わることによって当該車両の周辺における対象物体の有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体の有無が認識される。   According to the vehicle periphery monitoring system of the present invention, when the position of the vehicle is in the switching region from the dark region to the bright region, that is, the object in the periphery of the vehicle by switching the periphery of the vehicle from the dark state to the bright state. Only when there is a possibility that it is difficult for the driver to visually recognize the presence or absence of an object, the presence or absence of the target object is recognized based on the infrared light image.

また、本発明の車両周辺監視システムは、前記第2処理部により存在が認識された前記対象物体の時系列的な測定位置に基づき前記車両と当該対象物体との接触可能性を評価する第3処理部をさらに備えていることを特徴とする。   In addition, the vehicle periphery monitoring system of the present invention evaluates the possibility of contact between the vehicle and the target object based on the time-series measurement position of the target object whose existence is recognized by the second processing unit. A processing unit is further provided.

本発明の車両周辺監視システムによれば、前記のように車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が高い精度で認識されうるので、車両とこの対象物体とが接触する可能性も高い精度で評価されうる。   According to the vehicle periphery monitoring system of the present invention, the infrared light image is displayed only when the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object around the vehicle as described above. Since the presence / absence of the target object can be recognized with high accuracy based on this, the possibility that the vehicle and the target object come into contact can be evaluated with high accuracy.

さらに、本発明の車両周辺監視システムは、前記第3処理部が、前記車両と前記対象物体との接触可能性の評価に基づき、当該対象物体の存在を知らせるまたは強調する情報を車載の情報出力装置に出力させる、あるいは前記車両の挙動を制御するもしくは車載機器に制御させることを特徴とする。   Furthermore, in the vehicle periphery monitoring system according to the present invention, the third processing unit outputs information for informing or emphasizing the presence of the target object based on the evaluation of the possibility of contact between the vehicle and the target object. It is made to output to an apparatus, or the behavior of the said vehicle is controlled, or it is made to control by vehicle equipment.

本発明の車両周辺監視システムによれば、前記のように車両と対象物体との接触可能性が高い精度で評価されうるので、車両と対象物体との接触回避等の観点から、当該対象物体またはその複数の対象部分を強調等する情報が適当に出力されうる。ここで、情報の出力とは、視覚、聴覚、触覚等、五感を通じて当該情報を車両の運転者等に認識させうるあらゆる形態で情報が出力されることを意味する。これにより、車両の運転者に対象物体の存在を認識させ、車両と対象物体との接触を回避するために車両の減速や操舵等、車両の挙動を適当に制御させることができる。   According to the vehicle periphery monitoring system of the present invention, since the possibility of contact between the vehicle and the target object can be evaluated with high accuracy as described above, from the viewpoint of avoiding contact between the vehicle and the target object, the target object or Information emphasizing the plurality of target portions can be appropriately output. Here, the output of information means that the information is output in any form that allows the driver of the vehicle to recognize the information through the five senses, such as vision, hearing, and touch. This allows the driver of the vehicle to recognize the presence of the target object and appropriately control the behavior of the vehicle such as vehicle deceleration and steering in order to avoid contact between the vehicle and the target object.

また、前記のように高精度で評価された車両と対象物体との接触可能性に基づいて車載機器が制御される。これにより、車両と対象物体との接触を回避する観点から、車両の減速や操舵等、車両の挙動が適当に制御されうる。   Further, the in-vehicle device is controlled based on the possibility of contact between the vehicle and the target object evaluated with high accuracy as described above. Thereby, from the viewpoint of avoiding contact between the vehicle and the target object, the behavior of the vehicle such as deceleration or steering of the vehicle can be appropriately controlled.

前記課題を解決するための本発明の車両は、前記赤外光撮像装置と、前記可視光感知装置と、前記車両周辺監視システムとが搭載されていることを特徴とする。   The vehicle of the present invention for solving the above-mentioned problems is characterized in that the infrared light imaging device, the visible light sensing device, and the vehicle periphery monitoring system are mounted.

本発明の車両によれば、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。   According to the vehicle of the present invention, the presence or absence of the target object is determined based on the infrared light image only when the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. Be recognized. As a result, the presence of a target object such as a person around the vehicle can be recognized based on the infrared light image as necessary while avoiding waste of the image processing capability of the system.

前記課題を解決するための車両周辺監視プログラムは、車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺を監視する機能を車載コンピュータに付与するプログラムであって、前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理機能と、該第1処理機能により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理機能とを車載コンピュータに付与することを特徴とする。   The vehicle periphery monitoring program for solving the above-mentioned problem is a program for giving an in-vehicle computer a function of monitoring the periphery of a vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, A first processing function for determining whether an environmental factor of the vehicle satisfies an environmental requirement set in view of the influence of brightness around the vehicle on the driver's field of view, and the first processing function When it is determined that the environmental factor satisfies the environmental requirement, a second processing function for recognizing the presence or absence of a target object around the vehicle based on the infrared light image is provided to the in-vehicle computer. .

本発明の車両周辺監視プログラムによれば、システム(車載コンピュータ)の画像処理能力の無駄を回避する観点から、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無を認識しうるように車両の周辺を監視する機能が車載コンピュータに付与される。   According to the vehicle periphery monitoring program of the present invention, from the viewpoint of avoiding waste of the image processing capability of the system (on-vehicle computer), it is difficult to visually recognize the presence or absence of a target object around the vehicle. Only when the periphery of the vehicle is bright, a function for monitoring the periphery of the vehicle is given to the in-vehicle computer so that the presence or absence of the target object can be recognized based on the infrared light image.

前記課題を解決するための本発明の車両周辺監視システムの構築方法は、前記車両周辺監視システムを構成するため、前記車両周辺監視プログラムのうち一部または全部を車載コンピュータにダウンロードすることを特徴とする。   The construction method of the vehicle periphery monitoring system of the present invention for solving the above-described problem is characterized in that a part or all of the vehicle periphery monitoring program is downloaded to an in-vehicle computer in order to constitute the vehicle periphery monitoring system. To do.

本発明の方法によれば、システム(車載コンピュータ)の画像処理能力の無駄を回避する観点から、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無を認識しうるように車両の周辺を監視するシステムが、車載コンピュータへの任意のタイミングでのプログラムの一部または全部のダウンロードによって構成されうる。   According to the method of the present invention, from the viewpoint of avoiding waste of image processing capability of the system (vehicle-mounted computer), it is difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. A system that monitors the periphery of a vehicle so that the presence or absence of a target object can be recognized based on an infrared light image only when the image is bright is configured by downloading a part or all of the program to an in-vehicle computer at an arbitrary timing Can be done.

前記課題を解決するための本発明のサーバは、前記方法を実行することを特徴とする。   A server according to the present invention for solving the above-described problems is characterized by executing the method.

本発明のサーバ(サーバ・コンピュータ)によれば、システム(車載コンピュータ)の画像処理能力の無駄を回避する観点から、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無を認識しうるように車両の周辺を監視するシステムを、サーバから車載コンピュータへの任意のタイミングでのプログラムの一部または全部のダウンロードによって構成しうる。   According to the server (server computer) of the present invention, it is difficult for the driver to visually recognize the presence or absence of the target object in the vicinity of the vehicle from the viewpoint of avoiding waste of image processing capability of the system (vehicle computer). A system for monitoring the periphery of a vehicle so that the presence or absence of a target object can be recognized based on an infrared light image only when the periphery of the vehicle is bright. It can be configured by downloading part or all.

本発明の車両周辺監視システム、車両、車両周辺監視プログラム、車両周辺監視システムの構成方法、およびサーバの実施形態について図面を用いて説明する。図1は本発明の車両、車両周辺監視システムおよびサーバの構成説明図であり、図2は本発明の車両周辺監視システムの構成説明図であり、図3〜図7は本発明の車両周辺監視システムの機能に関する説明図である。   Embodiments of a vehicle periphery monitoring system, a vehicle, a vehicle periphery monitoring program, a vehicle periphery monitoring system configuration method, and a server according to the present invention will be described with reference to the drawings. FIG. 1 is a configuration explanatory diagram of a vehicle, a vehicle periphery monitoring system and a server according to the present invention, FIG. 2 is a configuration explanatory diagram of a vehicle periphery monitoring system according to the present invention, and FIGS. 3 to 7 are vehicle periphery monitoring according to the present invention. It is explanatory drawing regarding the function of a system.

本発明の車両、車両周辺監視システムおよびサーバの構成について図1を用いて説明する。   The configuration of the vehicle, the vehicle periphery monitoring system, and the server according to the present invention will be described with reference to FIG.

図1に示されているように車両1には、車両周辺監視システム10と、車両1の前方部において車幅方向中央部にほぼ対称に配置された一対の赤外線カメラ(赤外光撮像装置)102と、フロントウィンドウ越しに車両1の前方に向けられたCCDカメラ(可視光撮像装置)103と、フロントウィンドウにおいて運転者の視界を妨げないように配置されたHUD104と、スピーカ105とが搭載されている。また、図2に示されているように車両1には、ヨーレートセンサ122や速度センサ124等の種々のセンサが搭載されている。   As shown in FIG. 1, a vehicle 1 includes a vehicle periphery monitoring system 10 and a pair of infrared cameras (infrared light imaging devices) disposed substantially symmetrically at the center in the vehicle width direction at the front portion of the vehicle 1. 102, a CCD camera (visible light imaging device) 103 directed to the front of the vehicle 1 through the front window, a HUD 104 arranged so as not to obstruct the driver's view in the front window, and a speaker 105 are mounted. ing. As shown in FIG. 2, various sensors such as a yaw rate sensor 122 and a speed sensor 124 are mounted on the vehicle 1.

車両周辺監視システム10は車載の一対の撮像装置を通じて得られた画像に基づいて車両の周辺を監視するシステムである。車両周辺監視システム10は、車両1に搭載されたハードウェアとしてのECUまたはコンピュータ(CPU,ROM,RAM,I/O等により構成されている。)と、メモリに格納され、当該コンピュータに諸機能を付与するソフトウェアとしての本発明の車両周辺監視プログラムとにより構成されている。なお、車両周辺監視プログラムは最初から車載コンピュータのメモリ(ROM等)に格納されていてもよいが、車載コンピュータからのリクエストがあったとき等の任意のタイミングでこのプラグラムの一部または全部がサーバ20からネットワークを介して当該車載コンピュータにダウンロードされ、そのメモリ(EEPROM、RAM等)に格納されてもよい。   The vehicle periphery monitoring system 10 is a system that monitors the periphery of a vehicle based on images obtained through a pair of in-vehicle imaging devices. The vehicle periphery monitoring system 10 is stored in a memory and an ECU or a computer (configured by a CPU, ROM, RAM, I / O, etc.) as hardware mounted on the vehicle 1, and has various functions in the computer. And a vehicle periphery monitoring program of the present invention as software for providing The vehicle periphery monitoring program may be stored in the memory (ROM, etc.) of the in-vehicle computer from the beginning, but a part or all of this program is stored in the server at any timing such as when there is a request from the in-vehicle computer. 20 may be downloaded to the in-vehicle computer via a network and stored in its memory (EEPROM, RAM, etc.).

車両周辺監視システム10は図2に示されているように、第1処理部11と、第2処理部12と、第3処理部13とを備えている。   As shown in FIG. 2, the vehicle periphery monitoring system 10 includes a first processing unit 11, a second processing unit 12, and a third processing unit 13.

第1処理部11はCCDカメラ103からの出力信号、ひいてはCCDカメラ103を通じて得られた可視光画像に基づいて車両1の周辺の明るさを表す輝度変数(「環境因子」に相当する。)を測定する。また、第1処理部11は測定した輝度変数がメモリに格納されている基準値以上であるか否かを判定する(「環境要件を満たすか否かを判定する」に相当する。)。当該環境要件、すなわち、基準値は車両1の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定されたものである。   The first processing unit 11 represents a luminance variable (corresponding to an “environment factor”) representing the brightness of the surroundings of the vehicle 1 based on an output signal from the CCD camera 103 and thus a visible light image obtained through the CCD camera 103. taking measurement. Further, the first processing unit 11 determines whether or not the measured luminance variable is equal to or greater than a reference value stored in the memory (corresponding to “determine whether or not environmental requirements are satisfied”). The environmental requirement, that is, the reference value is set in consideration of the influence of the brightness around the vehicle 1 on the driver's field of view.

第2処理部12は第1処理部11により当該輝度変数が基準値以上であると判定された場合、赤外線カメラ102を通じて得られた赤外光画像に基づいて車両1の前方における人間等の対象物体Pの有無を認識する
第3処理部13は第2処理部12により存在すると認識された対象物体Pと車両1との接触可能性を評価する。また、第3処理部13は車両1と人間Pとの接触可能性の評価に応じて、当該人間Pの存在を知らせるまたは強調する画像をHUD(情報出力装置)104に表示させる等、車載機器の動作を制御する。
When the first processing unit 11 determines that the brightness variable is greater than or equal to the reference value, the second processing unit 12 is a target such as a person in front of the vehicle 1 based on an infrared light image obtained through the infrared camera 102. The third processing unit 13 that recognizes the presence or absence of the object P evaluates the possibility of contact between the target object P recognized by the second processing unit 12 and the vehicle 1. In addition, the third processing unit 13 displays an image for informing or emphasizing the presence of the person P on the HUD (information output device) 104 according to the evaluation of the possibility of contact between the vehicle 1 and the person P. To control the operation.

前記構成の車両1および車両周辺監視システム10の機能について図3〜図7を用いて説明する。   Functions of the vehicle 1 and the vehicle periphery monitoring system 10 configured as described above will be described with reference to FIGS.

まず、第1処理部11が「第1処理」を実行する(図3/S11)。   First, the first processing unit 11 executes “first processing” (S11 in FIG. 3).

第1処理部11はCCDカメラ103を通じて得られた車両1の前方の可視光画像に基づいて輝度ヒストグラムを作成する(図3/S111)。これにより、図4に示されているように輝度iを縦軸とし、当該可視光画像において輝度iの画素の総数(度数)H[i]を横軸とするヒストグラムが作成される。また、第1処理部11はヒストグラムに基づいて車両1の周辺(特に前方)の明るさを表す輝度変数xLを測定する(図3/S112)。たとえば、図4に示されているヒストグラムにおいて輝度基準値i0以上の部分(斜線部分)の面積が輝度変数xLとして測定される。車両1の周辺が明るくなるほどヒストグラムが全体的に右にずれる傾向があるので、輝度変数xLが大きくなる。たとえば、車両1の周辺が適度に明るい状況では図4に破線で示されているようなヒストグラムが作成される一方、車両1の周辺が過度に明るい状況では図4に実線で示されているように、破線で示されているヒストグラムよりも右側(高輝度側)に寄ったヒストグラムが作成される。さらに、第1処理部11は測定した輝度変数xLがメモリに格納されている基準値x0以上であるか否かを判定する(図3/S113)。 The first processing unit 11 creates a luminance histogram based on the visible light image ahead of the vehicle 1 obtained through the CCD camera 103 (FIG. 3 / S111). As a result, as shown in FIG. 4, a histogram is created with the luminance i on the vertical axis and the total number (frequency) H [i] of pixels with the luminance i in the visible light image on the horizontal axis. Further, the first processing unit 11 measures a luminance variable x L that represents the brightness of the surroundings of the vehicle 1 (particularly forward) based on the histogram (FIG. 3 / S112). For example, in the histogram shown in FIG. 4, the area of the portion (shaded portion) having the luminance reference value i 0 or more is measured as the luminance variable x L. Since the histogram tends to shift to the right as the periphery of the vehicle 1 becomes brighter, the luminance variable x L increases. For example, in a situation where the periphery of the vehicle 1 is reasonably bright, a histogram as shown by a broken line in FIG. 4 is created, whereas in a situation where the periphery of the vehicle 1 is excessively bright, it is indicated by a solid line in FIG. In addition, a histogram closer to the right side (high luminance side) than the histogram indicated by the broken line is created. Further, the first processing unit 11 determines whether or not the measured luminance variable x L is equal to or greater than the reference value x 0 stored in the memory (S113 in FIG. 3).

第1処理部11により輝度変数xLが基準値x0以上であると判定された場合(図3/S113‥YES)、第2処理部12が「第2処理」を実行する(図3/S12)。 When the first processing unit 11 determines that the luminance variable x L is greater than or equal to the reference value x 0 (FIG. 3 / S113... YES), the second processing unit 12 executes “second processing” (FIG. 3 / S12).

第2処理部12は赤外線カメラ102を通じて得られた赤外光画像に基づいて車両1の前方における対象物体Pの有無を判定する(図3/S122)。具体的には、赤外光画像がA/D変換されて得られたグレースケール画像が2値化処理され、当該2値化画像において横に連続する高輝度の画素により構成されるラインが抽出され(ランレングスデータ化処理が実行され)、高さの異なるラインのたての重なり度合が高いものが対象物体Pとして認識される。このような対象物体Pの認識方法はたとえば特開2001−6096号公報において説明されているので本願明細書ではこれ以上の詳細な説明を省略する。   The second processing unit 12 determines the presence or absence of the target object P in front of the vehicle 1 based on the infrared light image obtained through the infrared camera 102 (S122 in FIG. 3). Specifically, a grayscale image obtained by A / D conversion of an infrared light image is binarized, and a line composed of horizontally continuous high-brightness pixels is extracted from the binarized image. (Run-length data conversion processing is executed), and a line with a high degree of overlap of lines having different heights is recognized as the target object P. Such a method for recognizing the target object P is described in, for example, Japanese Patent Application Laid-Open No. 2001-6096, and thus detailed description thereof is omitted in this specification.

第2処理部12によって対象物体が存在すると判定された場合(図3/S122‥YES)、第3処理部13が「第3処理」を実行する。   When it is determined by the second processing unit 12 that the target object exists (FIG. 3 / S122... YES), the third processing unit 13 executes “third processing”.

第3処理部13は一対の赤外線カメラ102の視差を利用して、第2処理部12により存在が認識された対象物体Pの重心の実空間における位置を測定する(図3/S131)。この際、第3処理部13はヨーレートセンサ122および速度センサ124のそれぞれの出力に基づき、車両1の回頭による、画像における位置ずれを補正する。回頭角補正された対象物体Pの測定位置は時系列的にメモリに保存される。ここで実空間位置とは、図1に示されているように一対の赤外線カメラ102の取り付け位置の中点を原点Oとし、水平方向、鉛直方向および前後方向をそれぞれX、YおよびZ軸とする座標系における位置を意味する。実空間位置の測定方法および回頭角補正方法はたとえば特開2001−6096号公報において説明されているので本願明細書では詳細な説明を省略する。   The third processing unit 13 uses the parallax of the pair of infrared cameras 102 to measure the position of the center of gravity of the target object P recognized by the second processing unit 12 in the real space (FIG. 3 / S131). At this time, the third processing unit 13 corrects the positional deviation in the image due to the turning of the vehicle 1 based on the outputs of the yaw rate sensor 122 and the speed sensor 124. The measurement position of the target object P corrected for the turning angle is stored in the memory in time series. As shown in FIG. 1, the real space position is the origin O at the midpoint of the mounting position of the pair of infrared cameras 102, and the horizontal, vertical and front-rear directions are the X, Y and Z axes, respectively. Means a position in the coordinate system. Since the method for measuring the real space position and the method for correcting the turning angle are described in, for example, Japanese Patent Application Laid-Open No. 2001-6096, detailed description thereof is omitted in this specification.

さらに、第3処理部13は、対象物体Pの時系列的な測定位置をメモリから読み取り、読み取った時系列的な測定位置に基づき車両1を基準とした対象物体Pの相対速度(大きさおよび向きを含む。)Vsを算出する(図3/S132)。 Further, the third processing unit 13 reads the time-series measurement position of the target object P from the memory, and based on the read time-series measurement position, the relative speed (magnitude and size) of the target object P with respect to the vehicle 1 as a reference. Including direction.) V s is calculated (FIG. 3 / S132).

また、第3処理部13は車両1と当該対象物体Pとの接触可能性を評価する(図3/S133)。たとえば、図6に示されているように赤外線カメラ102により監視可能な三角形領域A0よりも、車両1に対する対象物体Pの相対速度vsと余裕時間Tとの積(vs×T)だけ低い三角形領域(警報判定領域)が定義される。また、当該三角形領域のうち、Z軸を中心とするX方向の幅がα+2β(α:車幅、β:余裕幅)の第1領域(接近判定領域)A1と、第1領域A1の左右の第2領域(侵入判定領域)A2LおよびA2Rとが定義される。そして、対象物体Pが第1領域A1にある場合や、人間Pが左右の第2領域A2にあって、その相対速度ベクトルvsに鑑みて第1領域A1に侵入してくることが予測される場合、この対象物体Pと車両1とが接触する可能性が高く評価される。 Further, the third processing unit 13 evaluates the possibility of contact between the vehicle 1 and the target object P (FIG. 3 / S133). For example, as shown in FIG. 6, the product of the relative speed v s of the target object P with respect to the vehicle 1 and the margin time T (v s × T) rather than the triangular area A 0 that can be monitored by the infrared camera 102. A low triangular area (alarm determination area) is defined. Among the triangular regions, a first region (approaching determination region) A 1 having a width in the X direction centered on the Z axis of α + 2β (α: vehicle width, β: margin width) and the first region A 1 The left and right second areas (intrusion determination areas) A 2L and A 2R are defined. When the target object P is in the first area A 1 or when the human P is in the left and right second areas A 2 and enters the first area A 1 in view of the relative velocity vector v s. Is predicted, the possibility that the target object P and the vehicle 1 will contact each other is highly evaluated.

そして、第3処理部13は車両1と対象物体Pとの接触可能性を高く評価した場合(図3/S134‥YES)、「第1制御処理」を実行する(図3/S135)。これにより、たとえば人間Pの存在を強調するため、「ピッピッピッ」等の音声が第1情報としてスピーカ105から出力される。なお、第1情報として図7に示されているように対象舞台Pを囲む矩形状の橙色のフレームfがHUD104に表示されてもよい。また、フレームfの形状やサイズは任意に変更されてもよい。   Then, when the third processing unit 13 highly evaluates the possibility of contact between the vehicle 1 and the target object P (FIG. 3 / S134... YES), the third processing unit 13 executes “first control processing” (FIG. 3 / S135). Thereby, for example, in order to emphasize the presence of the person P, a sound such as “beep” is output from the speaker 105 as the first information. Note that a rectangular orange frame f surrounding the target stage P may be displayed on the HUD 104 as shown in FIG. 7 as the first information. Further, the shape and size of the frame f may be arbitrarily changed.

一方、第3処理部13は車両1と人間Pとが接触する可能性が低いと判定した場合(図3/S134‥NO)、「第2制御処理」を実行する(図3/S136)。これにより、たとえば人間Pの存在を控えめに強調するため、「ピッ」等、第1情報よりも短い(または音量が小さい)音声が第2情報としてスピーカ105から出力される。なお、第2情報として図7に示されているように対象物体Pを囲む矩形状の黄色のフレームfが「第2情報」としてHUD104に表示されてもよい。   On the other hand, if the third processing unit 13 determines that the possibility that the vehicle 1 and the human P are in contact with each other is low (FIG. 3 / S134... NO), the third processing unit 13 executes a “second control process” (FIG. 3 / S136). Thus, for example, in order to conspicuously emphasize the presence of the human P, a voice shorter than the first information (or having a lower volume) such as “beep” is output from the speaker 105 as the second information. As shown in FIG. 7 as the second information, a rectangular yellow frame f surrounding the target object P may be displayed on the HUD 104 as “second information”.

前記機能を発揮する本発明の車両周辺監視システム10によれば、車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になるか否かが、車両1の周辺の明るさを表す輝度変数xLが基準値x0以上であるか否かに応じて判定される(図3/S113)。そして、車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になる程度に当該車両1の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される(図3/S113‥YES,S12)。一方、運転者が車両1の周辺における対象物体Pの有無を視認できるような場合には、赤外光画像に基づく対象物体Pの有無は認識されない(図3/S113‥NO)。 According to the vehicle periphery monitoring system 10 of the present invention that exhibits the above function, whether or not it is difficult for the driver to visually recognize the presence or absence of the target object P around the vehicle 1 depends on the brightness of the periphery of the vehicle 1. Is determined in accordance with whether or not the luminance variable x L representing is equal to or greater than the reference value x 0 (S113 in FIG. 3). The presence or absence of the target object is recognized based on the infrared light image only when the periphery of the vehicle 1 is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object P around the vehicle 1. (FIG. 3 / S113... YES, S12). On the other hand, when the driver can visually recognize the presence or absence of the target object P around the vehicle 1, the presence or absence of the target object P based on the infrared light image is not recognized (FIG. 3 / S113... NO).

これにより、車両周辺監視システム10の画像処理能力の無駄を回避しながら、必要に応じて赤外線カメラ102を通じて得られた赤外光画像に基づいて車両1の周辺における人間等の対象物体Pの存在が認識されうる。特に、車両1が早朝に東に走行している等、車両1がその正面を太陽に対向させて走行しているような状況や、車両1が走行している路面を覆う水や氷によって太陽光が反射されているような状況でその真価が発揮されうる。   Thus, the presence of the target object P such as a human in the vicinity of the vehicle 1 based on the infrared light image obtained through the infrared camera 102 as necessary, while avoiding waste of the image processing capability of the vehicle periphery monitoring system 10. Can be recognized. In particular, the vehicle 1 is traveling east in the early morning, such as when the vehicle 1 is traveling with its front facing the sun, or water or ice covering the road surface on which the vehicle 1 is traveling. The true value can be exhibited in the situation where light is reflected.

また、前記のように車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になる程度に当該車両1の周辺が明るい場合、赤外光画像に基づいて対象物体Pの有無が高い精度で認識されうるので、車両1とこの対象物体Pとが接触する可能性も高い精度で評価されうる。   Further, if the periphery of the vehicle 1 is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object P around the vehicle 1 as described above, the presence or absence of the target object P based on the infrared light image Can be recognized with high accuracy, the possibility that the vehicle 1 and the target object P are in contact with each other can be evaluated with high accuracy.

さらに、前記のように車両1と対象物体Pとの接触可能性が高い精度で評価されうるので、車両1と対象物体Pとの接触回避等の観点から、当該対象物体Pまたはその部分を強調する第1または第2情報が適当にHUD104に表示(出力)されうる(図3/S135,S136、図7)。これにより、車両1の運転者に対象物体Pの存在を認識させ、車両1と対象物体Pとの接触を回避するために車両1の減速や操舵等、車両1の挙動を適当に制御させることができる。   Furthermore, since the possibility of contact between the vehicle 1 and the target object P can be evaluated with high accuracy as described above, the target object P or a portion thereof is emphasized from the viewpoint of avoiding contact between the vehicle 1 and the target object P. The first or second information to be displayed can be appropriately displayed (output) on the HUD 104 (FIG. 3 / S135, S136, FIG. 7). This allows the driver of the vehicle 1 to recognize the presence of the target object P and appropriately control the behavior of the vehicle 1 such as deceleration or steering of the vehicle 1 in order to avoid contact between the vehicle 1 and the target object P. Can do.

なお、前記実施形態ではCCDカメラ103を通じて得られた可視光画像に基づいて車両1の周辺の明るさが評価されたが(図3/S11)、他の実施形態として車両1に搭載された輝度計によって測定された輝度に基づいて車両1の周辺の明るさが評価されてもよい。   In the above embodiment, the brightness around the vehicle 1 is evaluated based on the visible light image obtained through the CCD camera 103 (FIG. 3 / S11). However, the luminance mounted on the vehicle 1 as another embodiment is described. The brightness around the vehicle 1 may be evaluated based on the luminance measured by the meter.

また、前記実施形態では第3処理部13が、第1または第2制御処理としてこの対象物体の存在を強調する第1または第2情報をHUD104に表示させたが(図7)、他の実施形態として第3処理部13が、第1または第2制御処理として車両1の挙動を制御するためにステアリングシステムやブレーキシステム等の車載機器を制御する、または当該車載機器に車両1の挙動を制御させてもよい。当該構成の車両周辺監視システム10によれば、前記のように高精度で評価された車両1と人間Pとの接触可能性に基づいて車載機器が制御され、これにより、車両1と人間Pとの接触を回避する観点から、車両1の減速や操舵等、その挙動が適当に制御されうる。   In the embodiment, the third processing unit 13 displays the first or second information that emphasizes the presence of the target object on the HUD 104 as the first or second control processing (FIG. 7). As a form, the third processing unit 13 controls in-vehicle devices such as a steering system and a brake system in order to control the behavior of the vehicle 1 as the first or second control processing, or controls the behavior of the vehicle 1 in the in-vehicle devices. You may let them. According to the vehicle periphery monitoring system 10 having the above configuration, the in-vehicle device is controlled based on the possibility of contact between the vehicle 1 and the human P evaluated with high accuracy as described above. From the viewpoint of avoiding this contact, the behavior of the vehicle 1 such as deceleration and steering can be appropriately controlled.

前記実施形態では輝度変数が基準値以上であるか否かに応じて車両1の環境因子が環境要件を満たしているか否かが判定されたが(図3/S111〜S113参照)、他の実施形態として車両1の走行状態(環境因子)が環境要件を満たしているか否かが判定されてもよい。   In the above embodiment, it is determined whether or not the environmental factor of the vehicle 1 satisfies the environmental requirements depending on whether or not the luminance variable is greater than or equal to the reference value (see FIG. 3 / S111 to S113). As a form, it may be determined whether or not the traveling state (environmental factor) of the vehicle 1 satisfies the environmental requirements.

たとえば、第1処理部11が車載のジャイロセンサ(走行状態測定装置)からの出力信号に基づいて車両1の走行方向を測定し、GPS機能等を用いた位置測定装置(ナビ装置など)からの出力信号に基づいて車両1の位置からみた太陽の方向を測定した上で、両方向の合致度を環境因子として測定し、この合致度が基準値以上であるか否かに応じて当該環境因子が環境要件を満たしているか否かを判定してもよい。たとえば車両1の走行方向を表す単位ベクトルと、車両1からみた太陽の方向を現す単位ベクトルとの内積が、当該2つの方向の合致度として測定される。これにより、太陽の光によって車両1の特に前方における対象物体Pの有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体Pの有無が認識される(図3/S12参照)。   For example, the first processing unit 11 measures the traveling direction of the vehicle 1 based on an output signal from an in-vehicle gyro sensor (traveling state measuring device), and from a position measuring device (such as a navigation device) using a GPS function or the like. After measuring the direction of the sun as seen from the position of the vehicle 1 based on the output signal, the degree of coincidence in both directions is measured as an environmental factor, and the environmental factor is determined depending on whether the degree of coincidence is equal to or greater than a reference value. It may be determined whether environmental requirements are satisfied. For example, an inner product of a unit vector representing the traveling direction of the vehicle 1 and a unit vector representing the sun direction viewed from the vehicle 1 is measured as the degree of coincidence between the two directions. Accordingly, the presence or absence of the target object P is recognized based on the infrared light image only when it is difficult for the driver to visually recognize the presence or absence of the target object P particularly in front of the vehicle 1 by the sunlight. (See FIG. 3 / S12).

また、第1処理部11が位置測定装置からの出力信号に基づいて車両1の位置を環境因子として測定し、当該位置が地図情報源(メモリや外部の地図情報サーバなど)から得られる暗い領域(たとえばトンネルや森林道の内部)から明るい領域(たとえばトンネルや森林道の外部)への切り替え領域(トンネル等の出口付近)にあるか否かに応じて当該環境因子が環境要件を満たすか否かを判定してもよい。これにより、車両1の周辺が暗い状態から明るい状態に切り替わることによって当該車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体Pの有無が認識される(図3/S12参照)。   In addition, the first processing unit 11 measures the position of the vehicle 1 as an environmental factor based on an output signal from the position measuring device, and the position is obtained from a map information source (such as a memory or an external map information server). Whether the environmental factor meets environmental requirements depending on whether it is in a switching area (near the exit of a tunnel or the like) from a bright area (eg outside a tunnel or forest road) (eg inside a tunnel or forest road) It may be determined. As a result, the infrared light image is displayed only when it is difficult for the driver to visually recognize the presence or absence of the target object P in the vicinity of the vehicle 1 by switching the periphery of the vehicle 1 from a dark state to a bright state. The presence or absence of the target object P is recognized based on (see FIG. 3 / S12).

本発明の車両、車両周辺監視システムおよびサーバの構成説明図Configuration diagram of vehicle, vehicle periphery monitoring system and server of the present invention 本発明の車両周辺監視システムの構成説明図Configuration explanatory diagram of the vehicle periphery monitoring system of the present invention 本発明の車両周辺監視システムの機能に関する説明図Explanatory drawing about the function of the vehicle periphery monitoring system of the present invention 本発明の車両周辺監視システムの機能に関する説明図Explanatory drawing about the function of the vehicle periphery monitoring system of the present invention 本発明の車両周辺監視システムの機能に関する説明図Explanatory drawing about the function of the vehicle periphery monitoring system of the present invention 本発明の車両周辺監視システムの機能に関する説明図Explanatory drawing about the function of the vehicle periphery monitoring system of the present invention 本発明の車両周辺監視システムの機能に関する説明図Explanatory drawing about the function of the vehicle periphery monitoring system of the present invention

符号の説明Explanation of symbols

1‥車両、10‥車両周辺監視システム、11‥第1処理部、12‥第2処理部、13‥第3処理部、20‥サーバ、102‥赤外線カメラ(赤外光撮像装置)、103‥CCDカメラ(可視光撮像装置(可視光感知装置))、104‥HUD(情報出力装置(車載機器))、105‥スピーカ(情報出力装置(車載機器))、122‥ヨーレートセンサ、124‥速度センサ DESCRIPTION OF SYMBOLS 1 ... Vehicle, 10 ... Vehicle periphery monitoring system, 11 ... 1st process part, 12 ... 2nd process part, 13 ... 3rd process part, 20 ... Server, 102 ... Infrared camera (infrared light imaging device), 103 ... CCD camera (visible light imaging device (visible light sensing device)), 104... HUD (information output device (in-vehicle device)), 105. Speaker (information output device (in-vehicle device)), 122... Yaw rate sensor, 124.

Claims (13)

車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺を監視するシステムであって、
前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理部と、
該第1処理部により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理部とを備えていることを特徴とする車両周辺監視システム。
A system for monitoring the periphery of a vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device,
A first processing unit that determines whether the environmental factor of the vehicle satisfies an environmental requirement set in view of an influence of brightness around the vehicle on a driver's field of view;
A second processing unit for recognizing presence or absence of a target object around the vehicle based on the infrared light image when the first processing unit determines that the environmental factor satisfies the environmental requirement. A vehicle periphery monitoring system characterized by that.
前記第1処理部が車載の可視光感知装置からの出力信号に基づいて車両の周辺の明るさを表す輝度変数を前記環境因子として測定し、当該輝度変数が基準値以上であることを前記環境要件として当該環境因子が当該環境要件を満たしているか否かを判定することを特徴とする請求項1記載の車両周辺監視システム。   The first processing unit measures a luminance variable representing brightness around the vehicle based on an output signal from a vehicle-mounted visible light sensing device as the environmental factor, and the environment variable is determined to be greater than or equal to a reference value. 2. The vehicle periphery monitoring system according to claim 1, wherein it is determined whether the environmental factor satisfies the environmental requirement as a requirement. 前記第1処理部が前記可視光感知装置としての可視光撮像装置を通じて得られた可視光画像を構成する複数の画素の輝度に基づいて前記輝度変数を測定し、前記第2処理部が当該可視光画像に一部または全部が重なる前記赤外光画像に基づいて前記車両の周辺における対象物体の有無を認識することを特徴とする請求項2記載の車両周辺監視システム。   The first processing unit measures the luminance variable based on the luminance of a plurality of pixels constituting a visible light image obtained through a visible light imaging device as the visible light sensing device, and the second processing unit The vehicle periphery monitoring system according to claim 2, wherein presence / absence of a target object around the vehicle is recognized based on the infrared light image partially or entirely overlapped with the light image. 前記第1処理部が前記可視光画像を構成する複数の画素について輝度ヒストグラムを作成し当該ヒストグラムにおける輝度が閾値以上の部分の面積を前記輝度変数として測定することを特徴とする請求項3記載の車両周辺監視システム。   The said 1st process part produces a brightness | luminance histogram about the some pixel which comprises the said visible light image, and measures the area of the part in which the brightness | luminance in the said histogram is more than a threshold value as said brightness | luminance variable. Vehicle perimeter monitoring system. 前記第1処理部が少なくとも車載の走行状態測定装置からの出力信号に基づいて前記車両の走行状態を前記環境因子として測定することを特徴とする請求項1記載の車両周辺監視システム。   2. The vehicle periphery monitoring system according to claim 1, wherein the first processing unit measures the traveling state of the vehicle as the environmental factor based on at least an output signal from an in-vehicle traveling state measuring device. 前記第1処理部が前記走行状態測定装置としてのジャイロセンサからの出力信号に基づいて前記車両の走行方向を測定し、当該走行状態測定装置としての位置測定装置からの出力信号に基づいて当該車両の位置からみた太陽の方向を測定した上で、当該車両の走行方向と当該車両の位置からみた太陽の方向との合致度を前記環境因子として測定し、当該合致度が基準値以上であることを前記環境要件として当該環境因子が当該環境要件を満たしているか否かを判定することを特徴とする請求項5記載の車両周辺監視システム。   The first processing unit measures a traveling direction of the vehicle based on an output signal from a gyro sensor as the traveling state measuring device, and the vehicle based on an output signal from a position measuring device as the traveling state measuring device. Measure the degree of coincidence between the traveling direction of the vehicle and the direction of the sun as seen from the position of the vehicle as the environmental factor after measuring the direction of the sun from the position of the vehicle, and the degree of coincidence is equal to or greater than a reference value. 6. The vehicle periphery monitoring system according to claim 5, wherein it is determined whether the environmental factor satisfies the environmental requirement. 前記第1処理部が前記走行状態測定装置としての位置測定装置からの出力信号に基づいて前記車両の位置を前記環境因子として測定し、当該位置が地図情報源から得られる暗い領域から明るい領域への切り替え領域にあることを前記環境要件として当該環境因子が当該環境要件を満たすか否かを判定することを特徴とする請求項5記載の車両周辺監視システム。   The first processing unit measures the position of the vehicle as the environmental factor based on an output signal from a position measuring device as the traveling state measuring device, and the position is changed from a dark region obtained from a map information source to a bright region. The vehicle periphery monitoring system according to claim 5, wherein the environmental factor is determined as whether the environmental requirement is in the switching area of the vehicle, and the environmental factor satisfies the environmental requirement. 前記第2処理部により存在が認識された前記対象物体の時系列的な測定位置に基づき前記車両と当該対象物体との接触可能性を評価する第3処理部をさらに備えていることを特徴とする請求項1〜7のうちいずれか1つに記載の車両周辺監視システム。   A third processing unit that evaluates the possibility of contact between the vehicle and the target object based on a time-series measurement position of the target object whose presence has been recognized by the second processing unit; The vehicle periphery monitoring system according to any one of claims 1 to 7. 前記第3処理部が、前記車両と前記対象物体との接触可能性の評価に基づき、当該対象物体の存在を知らせるまたは強調する情報を車載の情報出力装置に出力させる、あるいは前記車両の挙動を制御するもしくは車載機器に制御させることを特徴とする請求項8記載の車両周辺監視システム。   Based on the evaluation of the possibility of contact between the vehicle and the target object, the third processing unit causes the in-vehicle information output device to output information that informs or emphasizes the presence of the target object, or the behavior of the vehicle The vehicle periphery monitoring system according to claim 8, wherein the vehicle periphery monitoring system is controlled or controlled by an in-vehicle device. 前記赤外光撮像装置と、前記可視光感知装置と、請求項1〜9のうちいずれか1つに記載の車両周辺監視システムとが搭載されていることを特徴とする車両。   A vehicle comprising the infrared light imaging device, the visible light sensing device, and the vehicle periphery monitoring system according to any one of claims 1 to 9. 車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺を監視する機能を車載コンピュータに付与するプログラムであって、
前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理機能と、該第1処理機能により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理機能とを車載コンピュータに付与することを特徴とする車両周辺監視プログラム。
A program for giving a vehicle-mounted computer a function of monitoring the periphery of a vehicle based on an infrared light image obtained through the vehicle-mounted infrared light imaging device,
A first processing function for determining whether or not the environmental factor of the vehicle satisfies an environmental requirement set in view of an influence of brightness around the vehicle on a driver's field of view, and the first processing function When it is determined that the environmental factor satisfies the environmental requirement, a second processing function for recognizing the presence or absence of a target object around the vehicle based on the infrared light image is provided to the in-vehicle computer. Vehicle periphery monitoring program.
請求項1記載の車両周辺監視システムを構成するため請求項11記載の車両周辺監視プログラムのうち一部または全部を車載コンピュータにダウンロードすることを特徴とする方法。   A method for downloading part or all of the vehicle periphery monitoring program according to claim 11 to an in-vehicle computer in order to constitute the vehicle periphery monitoring system according to claim 1. 請求項12記載の方法を実行することを特徴とするサーバ。   A server for executing the method according to claim 12.
JP2006167888A 2006-06-16 2006-06-16 Vehicle perimeter monitoring system Expired - Fee Related JP4975379B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006167888A JP4975379B2 (en) 2006-06-16 2006-06-16 Vehicle perimeter monitoring system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006167888A JP4975379B2 (en) 2006-06-16 2006-06-16 Vehicle perimeter monitoring system

Publications (3)

Publication Number Publication Date
JP2007334763A true JP2007334763A (en) 2007-12-27
JP2007334763A5 JP2007334763A5 (en) 2008-10-23
JP4975379B2 JP4975379B2 (en) 2012-07-11

Family

ID=38934165

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006167888A Expired - Fee Related JP4975379B2 (en) 2006-06-16 2006-06-16 Vehicle perimeter monitoring system

Country Status (1)

Country Link
JP (1) JP4975379B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190041721A (en) * 2017-10-13 2019-04-23 현대자동차주식회사 Nearby vehicles evaluation method and apparatus
CN112954861A (en) * 2019-12-11 2021-06-11 英研智能移动股份有限公司 Lighting device, lighting device and operation method of lighting system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06270751A (en) * 1993-03-16 1994-09-27 Nissan Motor Co Ltd Obstruction detecting device for vehicle
JPH11308609A (en) * 1998-04-24 1999-11-05 Nissan Motor Co Ltd Display processing unit
JP2000030197A (en) * 1998-07-09 2000-01-28 Nissan Motor Co Ltd Device for detecting warm body
JP2001169310A (en) * 1999-12-06 2001-06-22 Honda Motor Co Ltd Distance detector
JP2002181554A (en) * 2000-12-11 2002-06-26 Kenwood Corp Navigation system
JP2004243788A (en) * 2003-02-10 2004-09-02 Nissan Motor Co Ltd Running controlling device

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06270751A (en) * 1993-03-16 1994-09-27 Nissan Motor Co Ltd Obstruction detecting device for vehicle
JPH11308609A (en) * 1998-04-24 1999-11-05 Nissan Motor Co Ltd Display processing unit
JP2000030197A (en) * 1998-07-09 2000-01-28 Nissan Motor Co Ltd Device for detecting warm body
JP2001169310A (en) * 1999-12-06 2001-06-22 Honda Motor Co Ltd Distance detector
JP2002181554A (en) * 2000-12-11 2002-06-26 Kenwood Corp Navigation system
JP2004243788A (en) * 2003-02-10 2004-09-02 Nissan Motor Co Ltd Running controlling device

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190041721A (en) * 2017-10-13 2019-04-23 현대자동차주식회사 Nearby vehicles evaluation method and apparatus
KR102524289B1 (en) * 2017-10-13 2023-04-21 현대자동차주식회사 Nearby vehicles evaluation method and apparatus
CN112954861A (en) * 2019-12-11 2021-06-11 英研智能移动股份有限公司 Lighting device, lighting device and operation method of lighting system
CN112954861B (en) * 2019-12-11 2023-06-23 英研智能移动股份有限公司 Lighting device, lighting device and operation method of lighting system

Also Published As

Publication number Publication date
JP4975379B2 (en) 2012-07-11

Similar Documents

Publication Publication Date Title
JP5198346B2 (en) Vehicle periphery monitoring device
US9073484B2 (en) Surrounding area monitoring apparatus for vehicle
EP2352136B1 (en) System for monitoring the area around a vehicle
WO2011108217A1 (en) Vehicle perimeter monitoring device
US20140226015A1 (en) Apparatus for monitoring surroundings of vehicle
US10102438B2 (en) Information display device
JP4719590B2 (en) In-vehicle peripheral status presentation device
JP4173902B2 (en) Vehicle periphery monitoring device
JP2003123196A (en) Device and program for monitoring circumference of vehicle
JP2008027309A (en) Collision determination system and collision determination method
JP4528283B2 (en) Vehicle periphery monitoring device
US10866416B2 (en) Display control device and display control method
JP2015052902A (en) Merging information providing device
JP5192007B2 (en) Vehicle periphery monitoring device
JP2019188855A (en) Visual confirmation device for vehicle
JP4975379B2 (en) Vehicle perimeter monitoring system
JP4823753B2 (en) Vehicle periphery monitoring device
JP4176558B2 (en) Vehicle periphery display device
JP2007334763A5 (en)
JP4884806B2 (en) Vehicle perimeter monitoring system
JP6424775B2 (en) Information display device
JP2022100852A (en) Attention evocation device and attention evocation method
JP4694441B2 (en) Vehicle perimeter monitoring system
JP2007249324A5 (en)
JP2008052467A (en) Vehicle circumference monitoring system, vehicle, vehicle circumference monitoring system, construction system for vehicle circumference monitoring system

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120410

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120411

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150420

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees