JP2007334763A - Vehicular periphery monitoring system, vehicle, vehicular periphery monitoring program, constitution method for vehicular periphery monitoring system, and server - Google Patents
Vehicular periphery monitoring system, vehicle, vehicular periphery monitoring program, constitution method for vehicular periphery monitoring system, and server Download PDFInfo
- Publication number
- JP2007334763A JP2007334763A JP2006167888A JP2006167888A JP2007334763A JP 2007334763 A JP2007334763 A JP 2007334763A JP 2006167888 A JP2006167888 A JP 2006167888A JP 2006167888 A JP2006167888 A JP 2006167888A JP 2007334763 A JP2007334763 A JP 2007334763A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- periphery monitoring
- monitoring system
- target object
- processing unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、車両周辺監視システム、当該車両周辺監視システムが搭載された車両、当該車両周辺監視機能を車載コンピュータに付与するプログラム、当該車両周辺監視システムを構成する方法、および当該方法を実行するサーバに関する。 The present invention relates to a vehicle periphery monitoring system, a vehicle equipped with the vehicle periphery monitoring system, a program for providing the vehicle periphery monitoring function to an in-vehicle computer, a method for configuring the vehicle periphery monitoring system, and a server for executing the method About.
車載のCCDカメラを通じて得られた可視光画像と、車載の赤外線カメラを通じて得られた赤外光画像とを相互に補完する形で用いて車両の周辺にある人間等の対象物体の有無を判定するシステムが提案されている(たとえば、特許文献1、2参照)。
しかし、太陽光等によって車両の周囲が明るく照らされており、運転者が当該車両の前方における対象物体の有無を視認できるような場合にまで前記システムを作動させておくことは画像処理能力の無駄である。また、運転者が車両の前方に対象物体があることを認識した場合にまで前記システムの判定結果に応じてこの対象物体の存在を運転手に知らせることも無駄である。この場合、対象物体の存在を知らせることがむしろ運転者の気に障るおそれもある。 However, it is wasteful in image processing capability to operate the system until the surroundings of the vehicle are brightly illuminated by sunlight or the like and the driver can visually recognize the presence or absence of the target object in front of the vehicle. It is. It is also useless to inform the driver of the presence of the target object according to the determination result of the system until the driver recognizes that the target object is in front of the vehicle. In this case, notifying the presence of the target object may rather disturb the driver.
その一方、車両の周囲が明るく照らされていたとしても、逆光等のために図7に示されているように視界全体が白っぽくなってしまい、運転者にとって車両の前方における対象物体P(図において枠fにより囲まれている。)の有無等の視認が困難である状況も生じうる。 On the other hand, even if the surroundings of the vehicle are brightly illuminated, the entire field of view becomes whitish as shown in FIG. 7 due to backlight or the like, and the target object P (in the figure in the figure) in front of the vehicle for the driver. It may be difficult to visually recognize the presence or absence of the frame f.
そこで、本発明は、画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在を認識しうる車両周辺監視システム、当該車両周辺監視システムが搭載された車両、当該車両周辺監視機能を車載コンピュータに付与するプログラム、当該車両周辺監視システムを構成する方法、および当該方法を実行するサーバを提供することを解決課題とする。 Therefore, the present invention detects the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device as necessary while avoiding waste of image processing capability. A vehicle periphery monitoring system that can be recognized, a vehicle equipped with the vehicle periphery monitoring system, a program for providing the vehicle periphery monitoring function to an in-vehicle computer, a method of configuring the vehicle periphery monitoring system, and a server that executes the method Providing is a solution issue.
前記課題を解決するための本発明の車両周辺監視システムは、車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺を監視するシステムであって、前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理部と、該第1処理部により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理部とを備えていることを特徴とする。 A vehicle periphery monitoring system according to the present invention for solving the above problems is a system for monitoring the periphery of a vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, and is an environmental factor of the vehicle The first processing unit for determining whether or not the surrounding brightness of the vehicle satisfies the environmental requirements set in view of the influence on the driver's field of view, and the environmental factor is determined by the first processing unit And a second processing unit for recognizing presence or absence of a target object around the vehicle based on the infrared light image when it is determined that the environmental requirement is satisfied.
本発明の車両周辺監視システムによれば、車両の周辺における対象物体の有無を視認することが運転者にとって困難になるか否かが、当該車両の「環境因子」が「環境要件」を満たすか否かに応じて判定される。「環境要件」は当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定されている。そして、環境因子が環境要件を満たす場合、すなわち、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。一方、環境因子が環境要件を満たしていない場合、運転者が車両の周辺における対象物体の有無を視認できるような場合には、赤外光画像に基づく対象物体の有無は認識されない。 According to the vehicle periphery monitoring system of the present invention, whether or not the “environmental factor” of the vehicle satisfies the “environment requirement” is whether or not it is difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. It is determined according to whether or not. The “environmental requirement” is set in view of the influence of the brightness around the vehicle on the driver's field of view. Based on the infrared light image only when the environmental factor satisfies the environmental requirements, that is, when the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. The presence or absence of the target object is recognized. On the other hand, when the environmental factor does not satisfy the environmental requirements, the presence or absence of the target object based on the infrared light image is not recognized when the driver can visually recognize the presence or absence of the target object around the vehicle.
これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。特に、車両が太陽に向かって走行している等、車両が太陽に向かって走行しているような状況や、車両が走行している路面を覆う水や氷によって太陽光が反射されているような状況でその真価が発揮されうる。 This makes it possible to recognize the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, if necessary, while avoiding waste of the image processing capacity of the system. Can be done. In particular, the situation is such that the vehicle is traveling toward the sun, such as when the vehicle is traveling toward the sun, and the sunlight is reflected by water or ice that covers the road surface on which the vehicle is traveling. The true value can be demonstrated in any situation.
また、本発明の車両周辺監視システムは、前記第1処理部が車載の可視光感知装置からの出力信号に基づいて車両の周辺の明るさを表す輝度変数を前記環境因子として測定し、当該輝度変数が基準値以上であることを前記環境要件として当該環境因子が当該環境要件を満たしているか否かを判定することを特徴とする。 Further, in the vehicle periphery monitoring system according to the present invention, the first processing unit measures a luminance variable representing the brightness of the periphery of the vehicle based on an output signal from a vehicle-mounted visible light sensing device as the environmental factor, and the luminance Whether the environmental factor satisfies the environmental requirement is determined based on the fact that the variable is a reference value or more as the environmental requirement.
本発明の車両周辺監視システムによれば、輝度変数が基準値以上である場合、すなわち、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。 According to the vehicle periphery monitoring system of the present invention, when the brightness variable is equal to or higher than the reference value, that is, the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object. Only in the case, the presence or absence of the target object is recognized based on the infrared light image. This makes it possible to recognize the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, if necessary, while avoiding waste of the image processing capacity of the system. Can be done.
さらに、本発明の車両周辺監視システムは、前記第1処理部が前記可視光感知装置としての可視光撮像装置を通じて得られた可視光画像を構成する複数の画素の輝度に基づいて前記輝度変数を測定し、前記第2処理部が当該可視光画像に一部または全部が重なる前記赤外光画像に基づいて前記車両の周辺における対象物体の有無を認識することを特徴とする。 Furthermore, in the vehicle periphery monitoring system of the present invention, the first processing unit sets the luminance variable based on the luminances of a plurality of pixels constituting a visible light image obtained through a visible light imaging device as the visible light sensing device. The measurement is performed, and the second processing unit recognizes the presence or absence of a target object around the vehicle based on the infrared light image partially or entirely overlapped with the visible light image.
本発明の車両周辺監視システムによれば、車両周辺の可視光画像を構成する複数の画素の輝度に基づき、車両の周辺における対象物体の視認が運転者にとって困難であるか否かが判定される。また、可視光画像の一部または全部に重なっている赤外光画像に基づき、運転者が視認困難である程度に明るく照らされている実空間領域における対象物体の有無が認識されうる。 According to the vehicle periphery monitoring system of the present invention, it is determined whether or not it is difficult for the driver to visually recognize the target object in the vicinity of the vehicle, based on the luminances of a plurality of pixels constituting the visible light image around the vehicle. . Further, based on the infrared light image that overlaps a part or all of the visible light image, the presence or absence of the target object in the real space region that is difficult to visually recognize and is brightly illuminated to some extent can be recognized.
また、本発明の車両周辺監視システムは、前記第1処理部が前記可視光画像を構成する複数の画素について輝度ヒストグラムを作成し当該ヒストグラムにおける輝度が閾値以上の部分の面積を前記輝度変数として測定することを特徴とする。 In the vehicle periphery monitoring system of the present invention, the first processing unit creates a luminance histogram for a plurality of pixels constituting the visible light image, and measures an area of a portion where the luminance in the histogram is equal to or greater than a threshold as the luminance variable. It is characterized by doing.
本発明の車両周辺監視システムによれば、可視光画像における輝度ヒストグラムに基づき、車両の周辺における対象物体の視認が運転者にとって困難であるか否かが判定される。 According to the vehicle periphery monitoring system of the present invention, based on the luminance histogram in the visible light image, it is determined whether it is difficult for the driver to visually recognize the target object around the vehicle.
さらに、本発明の車両周辺監視システムは、前記第1処理部が少なくとも車載の走行状態測定装置からの出力信号に基づいて前記車両の走行状態を前記環境因子として測定することを特徴とする。 Furthermore, the vehicle periphery monitoring system of the present invention is characterized in that the first processing unit measures the traveling state of the vehicle as the environmental factor based on at least an output signal from an on-vehicle traveling state measuring device.
本発明の車両周辺監視システムによれば、車両の走行状態が環境要件を満たしている場合、すなわち、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。 According to the vehicle periphery monitoring system of the present invention, when the traveling state of the vehicle satisfies the environmental requirements, that is, to the extent that it is difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. Only when the periphery is bright, the presence or absence of the target object is recognized based on the infrared light image. This makes it possible to recognize the presence of a target object such as a person around the vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, if necessary, while avoiding waste of the image processing capacity of the system. Can be done.
また、本発明の車両周辺監視システムは、前記第1処理部が前記走行状態測定装置としてのジャイロセンサからの出力信号に基づいて前記車両の走行方向を測定し、当該走行状態測定装置としての位置測定装置からの出力信号に基づいて当該車両の位置からみた太陽の方向を測定した上で、当該車両の走行方向と当該車両の位置からみた太陽の方向との合致度を前記環境因子として測定し、当該合致度が基準値以上であることを前記環境要件として当該環境因子が当該環境要件を満たしているか否かを判定することを特徴とする。 In the vehicle periphery monitoring system of the present invention, the first processing unit measures the traveling direction of the vehicle based on an output signal from a gyro sensor serving as the traveling state measuring device, and the position as the traveling state measuring device. Based on the output signal from the measuring device, the sun direction as seen from the position of the vehicle is measured, and the degree of coincidence between the traveling direction of the vehicle and the sun direction as seen from the position of the vehicle is measured as the environmental factor. It is characterized in that whether the environmental factor satisfies the environmental requirement is determined as the environmental requirement that the degree of match is equal to or higher than a reference value.
本発明の車両周辺監視システムによれば、車両の向きが当該車両から見た太陽の向きに合致している程度が基準値以上である場合、すなわち、太陽の光によって当該車両の特に前方における対象物体の有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体の有無が認識される。 According to the vehicle periphery monitoring system of the present invention, when the degree of vehicle orientation that matches the direction of the sun seen from the vehicle is equal to or greater than a reference value, that is, an object in front of the vehicle, particularly in front of the vehicle. Only when there is a possibility that it is difficult for the driver to visually recognize the presence or absence of an object, the presence or absence of the target object is recognized based on the infrared light image.
さらに、本発明の車両周辺監視システムは、前記第1処理部が前記走行状態測定装置としての位置測定装置からの出力信号に基づいて前記車両の位置を前記環境因子として測定し、当該位置が地図情報源から得られる暗い領域から明るい領域への切り替え領域にあることを前記環境要件として当該環境因子が当該環境要件を満たすか否かを判定することを特徴とする。 Furthermore, in the vehicle periphery monitoring system of the present invention, the first processing unit measures the position of the vehicle as the environmental factor based on an output signal from a position measuring device as the traveling state measuring device, and the position is a map. It is characterized by determining whether or not the environmental factor satisfies the environmental requirement as the environmental requirement that the region is in a switching region from a dark region to a bright region obtained from an information source.
本発明の車両周辺監視システムによれば、車両の位置が暗い領域から明るい領域への切り替え領域にある場合、すなわち、当該車両の周辺が暗い状態から明るい状態に切り替わることによって当該車両の周辺における対象物体の有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体の有無が認識される。 According to the vehicle periphery monitoring system of the present invention, when the position of the vehicle is in the switching region from the dark region to the bright region, that is, the object in the periphery of the vehicle by switching the periphery of the vehicle from the dark state to the bright state. Only when there is a possibility that it is difficult for the driver to visually recognize the presence or absence of an object, the presence or absence of the target object is recognized based on the infrared light image.
また、本発明の車両周辺監視システムは、前記第2処理部により存在が認識された前記対象物体の時系列的な測定位置に基づき前記車両と当該対象物体との接触可能性を評価する第3処理部をさらに備えていることを特徴とする。 In addition, the vehicle periphery monitoring system of the present invention evaluates the possibility of contact between the vehicle and the target object based on the time-series measurement position of the target object whose existence is recognized by the second processing unit. A processing unit is further provided.
本発明の車両周辺監視システムによれば、前記のように車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が高い精度で認識されうるので、車両とこの対象物体とが接触する可能性も高い精度で評価されうる。 According to the vehicle periphery monitoring system of the present invention, the infrared light image is displayed only when the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object around the vehicle as described above. Since the presence / absence of the target object can be recognized with high accuracy based on this, the possibility that the vehicle and the target object come into contact can be evaluated with high accuracy.
さらに、本発明の車両周辺監視システムは、前記第3処理部が、前記車両と前記対象物体との接触可能性の評価に基づき、当該対象物体の存在を知らせるまたは強調する情報を車載の情報出力装置に出力させる、あるいは前記車両の挙動を制御するもしくは車載機器に制御させることを特徴とする。 Furthermore, in the vehicle periphery monitoring system according to the present invention, the third processing unit outputs information for informing or emphasizing the presence of the target object based on the evaluation of the possibility of contact between the vehicle and the target object. It is made to output to an apparatus, or the behavior of the said vehicle is controlled, or it is made to control by vehicle equipment.
本発明の車両周辺監視システムによれば、前記のように車両と対象物体との接触可能性が高い精度で評価されうるので、車両と対象物体との接触回避等の観点から、当該対象物体またはその複数の対象部分を強調等する情報が適当に出力されうる。ここで、情報の出力とは、視覚、聴覚、触覚等、五感を通じて当該情報を車両の運転者等に認識させうるあらゆる形態で情報が出力されることを意味する。これにより、車両の運転者に対象物体の存在を認識させ、車両と対象物体との接触を回避するために車両の減速や操舵等、車両の挙動を適当に制御させることができる。 According to the vehicle periphery monitoring system of the present invention, since the possibility of contact between the vehicle and the target object can be evaluated with high accuracy as described above, from the viewpoint of avoiding contact between the vehicle and the target object, the target object or Information emphasizing the plurality of target portions can be appropriately output. Here, the output of information means that the information is output in any form that allows the driver of the vehicle to recognize the information through the five senses, such as vision, hearing, and touch. This allows the driver of the vehicle to recognize the presence of the target object and appropriately control the behavior of the vehicle such as vehicle deceleration and steering in order to avoid contact between the vehicle and the target object.
また、前記のように高精度で評価された車両と対象物体との接触可能性に基づいて車載機器が制御される。これにより、車両と対象物体との接触を回避する観点から、車両の減速や操舵等、車両の挙動が適当に制御されうる。 Further, the in-vehicle device is controlled based on the possibility of contact between the vehicle and the target object evaluated with high accuracy as described above. Thereby, from the viewpoint of avoiding contact between the vehicle and the target object, the behavior of the vehicle such as deceleration or steering of the vehicle can be appropriately controlled.
前記課題を解決するための本発明の車両は、前記赤外光撮像装置と、前記可視光感知装置と、前記車両周辺監視システムとが搭載されていることを特徴とする。 The vehicle of the present invention for solving the above-mentioned problems is characterized in that the infrared light imaging device, the visible light sensing device, and the vehicle periphery monitoring system are mounted.
本発明の車両によれば、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される。これにより、システムの画像処理能力の無駄を回避しながら、必要に応じて赤外光画像に基づいて車両の周辺における人間等の対象物体の存在が認識されうる。 According to the vehicle of the present invention, the presence or absence of the target object is determined based on the infrared light image only when the periphery of the vehicle is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. Be recognized. As a result, the presence of a target object such as a person around the vehicle can be recognized based on the infrared light image as necessary while avoiding waste of the image processing capability of the system.
前記課題を解決するための車両周辺監視プログラムは、車載の赤外光撮像装置を通じて得られた赤外光画像に基づいて車両の周辺を監視する機能を車載コンピュータに付与するプログラムであって、前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理機能と、該第1処理機能により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理機能とを車載コンピュータに付与することを特徴とする。 The vehicle periphery monitoring program for solving the above-mentioned problem is a program for giving an in-vehicle computer a function of monitoring the periphery of a vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device, A first processing function for determining whether an environmental factor of the vehicle satisfies an environmental requirement set in view of the influence of brightness around the vehicle on the driver's field of view, and the first processing function When it is determined that the environmental factor satisfies the environmental requirement, a second processing function for recognizing the presence or absence of a target object around the vehicle based on the infrared light image is provided to the in-vehicle computer. .
本発明の車両周辺監視プログラムによれば、システム(車載コンピュータ)の画像処理能力の無駄を回避する観点から、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無を認識しうるように車両の周辺を監視する機能が車載コンピュータに付与される。 According to the vehicle periphery monitoring program of the present invention, from the viewpoint of avoiding waste of the image processing capability of the system (on-vehicle computer), it is difficult to visually recognize the presence or absence of a target object around the vehicle. Only when the periphery of the vehicle is bright, a function for monitoring the periphery of the vehicle is given to the in-vehicle computer so that the presence or absence of the target object can be recognized based on the infrared light image.
前記課題を解決するための本発明の車両周辺監視システムの構築方法は、前記車両周辺監視システムを構成するため、前記車両周辺監視プログラムのうち一部または全部を車載コンピュータにダウンロードすることを特徴とする。 The construction method of the vehicle periphery monitoring system of the present invention for solving the above-described problem is characterized in that a part or all of the vehicle periphery monitoring program is downloaded to an in-vehicle computer in order to constitute the vehicle periphery monitoring system. To do.
本発明の方法によれば、システム(車載コンピュータ)の画像処理能力の無駄を回避する観点から、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無を認識しうるように車両の周辺を監視するシステムが、車載コンピュータへの任意のタイミングでのプログラムの一部または全部のダウンロードによって構成されうる。 According to the method of the present invention, from the viewpoint of avoiding waste of image processing capability of the system (vehicle-mounted computer), it is difficult for the driver to visually recognize the presence or absence of the target object around the vehicle. A system that monitors the periphery of a vehicle so that the presence or absence of a target object can be recognized based on an infrared light image only when the image is bright is configured by downloading a part or all of the program to an in-vehicle computer at an arbitrary timing Can be done.
前記課題を解決するための本発明のサーバは、前記方法を実行することを特徴とする。 A server according to the present invention for solving the above-described problems is characterized by executing the method.
本発明のサーバ(サーバ・コンピュータ)によれば、システム(車載コンピュータ)の画像処理能力の無駄を回避する観点から、車両の周辺における対象物体の有無を視認することが運転者にとって困難になる程度に当該車両の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無を認識しうるように車両の周辺を監視するシステムを、サーバから車載コンピュータへの任意のタイミングでのプログラムの一部または全部のダウンロードによって構成しうる。 According to the server (server computer) of the present invention, it is difficult for the driver to visually recognize the presence or absence of the target object in the vicinity of the vehicle from the viewpoint of avoiding waste of image processing capability of the system (vehicle computer). A system for monitoring the periphery of a vehicle so that the presence or absence of a target object can be recognized based on an infrared light image only when the periphery of the vehicle is bright. It can be configured by downloading part or all.
本発明の車両周辺監視システム、車両、車両周辺監視プログラム、車両周辺監視システムの構成方法、およびサーバの実施形態について図面を用いて説明する。図1は本発明の車両、車両周辺監視システムおよびサーバの構成説明図であり、図2は本発明の車両周辺監視システムの構成説明図であり、図3〜図7は本発明の車両周辺監視システムの機能に関する説明図である。 Embodiments of a vehicle periphery monitoring system, a vehicle, a vehicle periphery monitoring program, a vehicle periphery monitoring system configuration method, and a server according to the present invention will be described with reference to the drawings. FIG. 1 is a configuration explanatory diagram of a vehicle, a vehicle periphery monitoring system and a server according to the present invention, FIG. 2 is a configuration explanatory diagram of a vehicle periphery monitoring system according to the present invention, and FIGS. 3 to 7 are vehicle periphery monitoring according to the present invention. It is explanatory drawing regarding the function of a system.
本発明の車両、車両周辺監視システムおよびサーバの構成について図1を用いて説明する。 The configuration of the vehicle, the vehicle periphery monitoring system, and the server according to the present invention will be described with reference to FIG.
図1に示されているように車両1には、車両周辺監視システム10と、車両1の前方部において車幅方向中央部にほぼ対称に配置された一対の赤外線カメラ(赤外光撮像装置)102と、フロントウィンドウ越しに車両1の前方に向けられたCCDカメラ(可視光撮像装置)103と、フロントウィンドウにおいて運転者の視界を妨げないように配置されたHUD104と、スピーカ105とが搭載されている。また、図2に示されているように車両1には、ヨーレートセンサ122や速度センサ124等の種々のセンサが搭載されている。
As shown in FIG. 1, a vehicle 1 includes a vehicle
車両周辺監視システム10は車載の一対の撮像装置を通じて得られた画像に基づいて車両の周辺を監視するシステムである。車両周辺監視システム10は、車両1に搭載されたハードウェアとしてのECUまたはコンピュータ(CPU,ROM,RAM,I/O等により構成されている。)と、メモリに格納され、当該コンピュータに諸機能を付与するソフトウェアとしての本発明の車両周辺監視プログラムとにより構成されている。なお、車両周辺監視プログラムは最初から車載コンピュータのメモリ(ROM等)に格納されていてもよいが、車載コンピュータからのリクエストがあったとき等の任意のタイミングでこのプラグラムの一部または全部がサーバ20からネットワークを介して当該車載コンピュータにダウンロードされ、そのメモリ(EEPROM、RAM等)に格納されてもよい。
The vehicle
車両周辺監視システム10は図2に示されているように、第1処理部11と、第2処理部12と、第3処理部13とを備えている。
As shown in FIG. 2, the vehicle
第1処理部11はCCDカメラ103からの出力信号、ひいてはCCDカメラ103を通じて得られた可視光画像に基づいて車両1の周辺の明るさを表す輝度変数(「環境因子」に相当する。)を測定する。また、第1処理部11は測定した輝度変数がメモリに格納されている基準値以上であるか否かを判定する(「環境要件を満たすか否かを判定する」に相当する。)。当該環境要件、すなわち、基準値は車両1の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定されたものである。
The
第2処理部12は第1処理部11により当該輝度変数が基準値以上であると判定された場合、赤外線カメラ102を通じて得られた赤外光画像に基づいて車両1の前方における人間等の対象物体Pの有無を認識する
第3処理部13は第2処理部12により存在すると認識された対象物体Pと車両1との接触可能性を評価する。また、第3処理部13は車両1と人間Pとの接触可能性の評価に応じて、当該人間Pの存在を知らせるまたは強調する画像をHUD(情報出力装置)104に表示させる等、車載機器の動作を制御する。
When the
前記構成の車両1および車両周辺監視システム10の機能について図3〜図7を用いて説明する。
Functions of the vehicle 1 and the vehicle
まず、第1処理部11が「第1処理」を実行する(図3/S11)。
First, the
第1処理部11はCCDカメラ103を通じて得られた車両1の前方の可視光画像に基づいて輝度ヒストグラムを作成する(図3/S111)。これにより、図4に示されているように輝度iを縦軸とし、当該可視光画像において輝度iの画素の総数(度数)H[i]を横軸とするヒストグラムが作成される。また、第1処理部11はヒストグラムに基づいて車両1の周辺(特に前方)の明るさを表す輝度変数xLを測定する(図3/S112)。たとえば、図4に示されているヒストグラムにおいて輝度基準値i0以上の部分(斜線部分)の面積が輝度変数xLとして測定される。車両1の周辺が明るくなるほどヒストグラムが全体的に右にずれる傾向があるので、輝度変数xLが大きくなる。たとえば、車両1の周辺が適度に明るい状況では図4に破線で示されているようなヒストグラムが作成される一方、車両1の周辺が過度に明るい状況では図4に実線で示されているように、破線で示されているヒストグラムよりも右側(高輝度側)に寄ったヒストグラムが作成される。さらに、第1処理部11は測定した輝度変数xLがメモリに格納されている基準値x0以上であるか否かを判定する(図3/S113)。
The
第1処理部11により輝度変数xLが基準値x0以上であると判定された場合(図3/S113‥YES)、第2処理部12が「第2処理」を実行する(図3/S12)。
When the
第2処理部12は赤外線カメラ102を通じて得られた赤外光画像に基づいて車両1の前方における対象物体Pの有無を判定する(図3/S122)。具体的には、赤外光画像がA/D変換されて得られたグレースケール画像が2値化処理され、当該2値化画像において横に連続する高輝度の画素により構成されるラインが抽出され(ランレングスデータ化処理が実行され)、高さの異なるラインのたての重なり度合が高いものが対象物体Pとして認識される。このような対象物体Pの認識方法はたとえば特開2001−6096号公報において説明されているので本願明細書ではこれ以上の詳細な説明を省略する。
The
第2処理部12によって対象物体が存在すると判定された場合(図3/S122‥YES)、第3処理部13が「第3処理」を実行する。
When it is determined by the
第3処理部13は一対の赤外線カメラ102の視差を利用して、第2処理部12により存在が認識された対象物体Pの重心の実空間における位置を測定する(図3/S131)。この際、第3処理部13はヨーレートセンサ122および速度センサ124のそれぞれの出力に基づき、車両1の回頭による、画像における位置ずれを補正する。回頭角補正された対象物体Pの測定位置は時系列的にメモリに保存される。ここで実空間位置とは、図1に示されているように一対の赤外線カメラ102の取り付け位置の中点を原点Oとし、水平方向、鉛直方向および前後方向をそれぞれX、YおよびZ軸とする座標系における位置を意味する。実空間位置の測定方法および回頭角補正方法はたとえば特開2001−6096号公報において説明されているので本願明細書では詳細な説明を省略する。
The
さらに、第3処理部13は、対象物体Pの時系列的な測定位置をメモリから読み取り、読み取った時系列的な測定位置に基づき車両1を基準とした対象物体Pの相対速度(大きさおよび向きを含む。)Vsを算出する(図3/S132)。
Further, the
また、第3処理部13は車両1と当該対象物体Pとの接触可能性を評価する(図3/S133)。たとえば、図6に示されているように赤外線カメラ102により監視可能な三角形領域A0よりも、車両1に対する対象物体Pの相対速度vsと余裕時間Tとの積(vs×T)だけ低い三角形領域(警報判定領域)が定義される。また、当該三角形領域のうち、Z軸を中心とするX方向の幅がα+2β(α:車幅、β:余裕幅)の第1領域(接近判定領域)A1と、第1領域A1の左右の第2領域(侵入判定領域)A2LおよびA2Rとが定義される。そして、対象物体Pが第1領域A1にある場合や、人間Pが左右の第2領域A2にあって、その相対速度ベクトルvsに鑑みて第1領域A1に侵入してくることが予測される場合、この対象物体Pと車両1とが接触する可能性が高く評価される。
Further, the
そして、第3処理部13は車両1と対象物体Pとの接触可能性を高く評価した場合(図3/S134‥YES)、「第1制御処理」を実行する(図3/S135)。これにより、たとえば人間Pの存在を強調するため、「ピッピッピッ」等の音声が第1情報としてスピーカ105から出力される。なお、第1情報として図7に示されているように対象舞台Pを囲む矩形状の橙色のフレームfがHUD104に表示されてもよい。また、フレームfの形状やサイズは任意に変更されてもよい。
Then, when the
一方、第3処理部13は車両1と人間Pとが接触する可能性が低いと判定した場合(図3/S134‥NO)、「第2制御処理」を実行する(図3/S136)。これにより、たとえば人間Pの存在を控えめに強調するため、「ピッ」等、第1情報よりも短い(または音量が小さい)音声が第2情報としてスピーカ105から出力される。なお、第2情報として図7に示されているように対象物体Pを囲む矩形状の黄色のフレームfが「第2情報」としてHUD104に表示されてもよい。
On the other hand, if the
前記機能を発揮する本発明の車両周辺監視システム10によれば、車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になるか否かが、車両1の周辺の明るさを表す輝度変数xLが基準値x0以上であるか否かに応じて判定される(図3/S113)。そして、車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になる程度に当該車両1の周辺が明るい場合のみ、赤外光画像に基づいて対象物体の有無が認識される(図3/S113‥YES,S12)。一方、運転者が車両1の周辺における対象物体Pの有無を視認できるような場合には、赤外光画像に基づく対象物体Pの有無は認識されない(図3/S113‥NO)。
According to the vehicle
これにより、車両周辺監視システム10の画像処理能力の無駄を回避しながら、必要に応じて赤外線カメラ102を通じて得られた赤外光画像に基づいて車両1の周辺における人間等の対象物体Pの存在が認識されうる。特に、車両1が早朝に東に走行している等、車両1がその正面を太陽に対向させて走行しているような状況や、車両1が走行している路面を覆う水や氷によって太陽光が反射されているような状況でその真価が発揮されうる。
Thus, the presence of the target object P such as a human in the vicinity of the vehicle 1 based on the infrared light image obtained through the
また、前記のように車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になる程度に当該車両1の周辺が明るい場合、赤外光画像に基づいて対象物体Pの有無が高い精度で認識されうるので、車両1とこの対象物体Pとが接触する可能性も高い精度で評価されうる。 Further, if the periphery of the vehicle 1 is bright enough to make it difficult for the driver to visually recognize the presence or absence of the target object P around the vehicle 1 as described above, the presence or absence of the target object P based on the infrared light image Can be recognized with high accuracy, the possibility that the vehicle 1 and the target object P are in contact with each other can be evaluated with high accuracy.
さらに、前記のように車両1と対象物体Pとの接触可能性が高い精度で評価されうるので、車両1と対象物体Pとの接触回避等の観点から、当該対象物体Pまたはその部分を強調する第1または第2情報が適当にHUD104に表示(出力)されうる(図3/S135,S136、図7)。これにより、車両1の運転者に対象物体Pの存在を認識させ、車両1と対象物体Pとの接触を回避するために車両1の減速や操舵等、車両1の挙動を適当に制御させることができる。 Furthermore, since the possibility of contact between the vehicle 1 and the target object P can be evaluated with high accuracy as described above, the target object P or a portion thereof is emphasized from the viewpoint of avoiding contact between the vehicle 1 and the target object P. The first or second information to be displayed can be appropriately displayed (output) on the HUD 104 (FIG. 3 / S135, S136, FIG. 7). This allows the driver of the vehicle 1 to recognize the presence of the target object P and appropriately control the behavior of the vehicle 1 such as deceleration or steering of the vehicle 1 in order to avoid contact between the vehicle 1 and the target object P. Can do.
なお、前記実施形態ではCCDカメラ103を通じて得られた可視光画像に基づいて車両1の周辺の明るさが評価されたが(図3/S11)、他の実施形態として車両1に搭載された輝度計によって測定された輝度に基づいて車両1の周辺の明るさが評価されてもよい。 In the above embodiment, the brightness around the vehicle 1 is evaluated based on the visible light image obtained through the CCD camera 103 (FIG. 3 / S11). However, the luminance mounted on the vehicle 1 as another embodiment is described. The brightness around the vehicle 1 may be evaluated based on the luminance measured by the meter.
また、前記実施形態では第3処理部13が、第1または第2制御処理としてこの対象物体の存在を強調する第1または第2情報をHUD104に表示させたが(図7)、他の実施形態として第3処理部13が、第1または第2制御処理として車両1の挙動を制御するためにステアリングシステムやブレーキシステム等の車載機器を制御する、または当該車載機器に車両1の挙動を制御させてもよい。当該構成の車両周辺監視システム10によれば、前記のように高精度で評価された車両1と人間Pとの接触可能性に基づいて車載機器が制御され、これにより、車両1と人間Pとの接触を回避する観点から、車両1の減速や操舵等、その挙動が適当に制御されうる。
In the embodiment, the
前記実施形態では輝度変数が基準値以上であるか否かに応じて車両1の環境因子が環境要件を満たしているか否かが判定されたが(図3/S111〜S113参照)、他の実施形態として車両1の走行状態(環境因子)が環境要件を満たしているか否かが判定されてもよい。 In the above embodiment, it is determined whether or not the environmental factor of the vehicle 1 satisfies the environmental requirements depending on whether or not the luminance variable is greater than or equal to the reference value (see FIG. 3 / S111 to S113). As a form, it may be determined whether or not the traveling state (environmental factor) of the vehicle 1 satisfies the environmental requirements.
たとえば、第1処理部11が車載のジャイロセンサ(走行状態測定装置)からの出力信号に基づいて車両1の走行方向を測定し、GPS機能等を用いた位置測定装置(ナビ装置など)からの出力信号に基づいて車両1の位置からみた太陽の方向を測定した上で、両方向の合致度を環境因子として測定し、この合致度が基準値以上であるか否かに応じて当該環境因子が環境要件を満たしているか否かを判定してもよい。たとえば車両1の走行方向を表す単位ベクトルと、車両1からみた太陽の方向を現す単位ベクトルとの内積が、当該2つの方向の合致度として測定される。これにより、太陽の光によって車両1の特に前方における対象物体Pの有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体Pの有無が認識される(図3/S12参照)。
For example, the
また、第1処理部11が位置測定装置からの出力信号に基づいて車両1の位置を環境因子として測定し、当該位置が地図情報源(メモリや外部の地図情報サーバなど)から得られる暗い領域(たとえばトンネルや森林道の内部)から明るい領域(たとえばトンネルや森林道の外部)への切り替え領域(トンネル等の出口付近)にあるか否かに応じて当該環境因子が環境要件を満たすか否かを判定してもよい。これにより、車両1の周辺が暗い状態から明るい状態に切り替わることによって当該車両1の周辺における対象物体Pの有無を視認することが運転者にとって困難になる可能性がある場合のみ、赤外光画像に基づいて対象物体Pの有無が認識される(図3/S12参照)。
In addition, the
1‥車両、10‥車両周辺監視システム、11‥第1処理部、12‥第2処理部、13‥第3処理部、20‥サーバ、102‥赤外線カメラ(赤外光撮像装置)、103‥CCDカメラ(可視光撮像装置(可視光感知装置))、104‥HUD(情報出力装置(車載機器))、105‥スピーカ(情報出力装置(車載機器))、122‥ヨーレートセンサ、124‥速度センサ DESCRIPTION OF SYMBOLS 1 ... Vehicle, 10 ... Vehicle periphery monitoring system, 11 ... 1st process part, 12 ... 2nd process part, 13 ... 3rd process part, 20 ... Server, 102 ... Infrared camera (infrared light imaging device), 103 ... CCD camera (visible light imaging device (visible light sensing device)), 104... HUD (information output device (in-vehicle device)), 105. Speaker (information output device (in-vehicle device)), 122... Yaw rate sensor, 124.
Claims (13)
前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理部と、
該第1処理部により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理部とを備えていることを特徴とする車両周辺監視システム。 A system for monitoring the periphery of a vehicle based on an infrared light image obtained through an in-vehicle infrared light imaging device,
A first processing unit that determines whether the environmental factor of the vehicle satisfies an environmental requirement set in view of an influence of brightness around the vehicle on a driver's field of view;
A second processing unit for recognizing presence or absence of a target object around the vehicle based on the infrared light image when the first processing unit determines that the environmental factor satisfies the environmental requirement. A vehicle periphery monitoring system characterized by that.
前記車両の環境因子が当該車両の周辺の明るさが運転者の視界に及ぼす影響に鑑みて設定された環境要件を満たしているか否かを判定する第1処理機能と、該第1処理機能により当該環境因子が当該環境要件を満たしていると判定された場合、前記赤外光画像に基づいて車両周辺における対象物体の有無を認識する第2処理機能とを車載コンピュータに付与することを特徴とする車両周辺監視プログラム。 A program for giving a vehicle-mounted computer a function of monitoring the periphery of a vehicle based on an infrared light image obtained through the vehicle-mounted infrared light imaging device,
A first processing function for determining whether or not the environmental factor of the vehicle satisfies an environmental requirement set in view of an influence of brightness around the vehicle on a driver's field of view, and the first processing function When it is determined that the environmental factor satisfies the environmental requirement, a second processing function for recognizing the presence or absence of a target object around the vehicle based on the infrared light image is provided to the in-vehicle computer. Vehicle periphery monitoring program.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006167888A JP4975379B2 (en) | 2006-06-16 | 2006-06-16 | Vehicle perimeter monitoring system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006167888A JP4975379B2 (en) | 2006-06-16 | 2006-06-16 | Vehicle perimeter monitoring system |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2007334763A true JP2007334763A (en) | 2007-12-27 |
JP2007334763A5 JP2007334763A5 (en) | 2008-10-23 |
JP4975379B2 JP4975379B2 (en) | 2012-07-11 |
Family
ID=38934165
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006167888A Expired - Fee Related JP4975379B2 (en) | 2006-06-16 | 2006-06-16 | Vehicle perimeter monitoring system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4975379B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190041721A (en) * | 2017-10-13 | 2019-04-23 | 현대자동차주식회사 | Nearby vehicles evaluation method and apparatus |
CN112954861A (en) * | 2019-12-11 | 2021-06-11 | 英研智能移动股份有限公司 | Lighting device, lighting device and operation method of lighting system |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06270751A (en) * | 1993-03-16 | 1994-09-27 | Nissan Motor Co Ltd | Obstruction detecting device for vehicle |
JPH11308609A (en) * | 1998-04-24 | 1999-11-05 | Nissan Motor Co Ltd | Display processing unit |
JP2000030197A (en) * | 1998-07-09 | 2000-01-28 | Nissan Motor Co Ltd | Device for detecting warm body |
JP2001169310A (en) * | 1999-12-06 | 2001-06-22 | Honda Motor Co Ltd | Distance detector |
JP2002181554A (en) * | 2000-12-11 | 2002-06-26 | Kenwood Corp | Navigation system |
JP2004243788A (en) * | 2003-02-10 | 2004-09-02 | Nissan Motor Co Ltd | Running controlling device |
-
2006
- 2006-06-16 JP JP2006167888A patent/JP4975379B2/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06270751A (en) * | 1993-03-16 | 1994-09-27 | Nissan Motor Co Ltd | Obstruction detecting device for vehicle |
JPH11308609A (en) * | 1998-04-24 | 1999-11-05 | Nissan Motor Co Ltd | Display processing unit |
JP2000030197A (en) * | 1998-07-09 | 2000-01-28 | Nissan Motor Co Ltd | Device for detecting warm body |
JP2001169310A (en) * | 1999-12-06 | 2001-06-22 | Honda Motor Co Ltd | Distance detector |
JP2002181554A (en) * | 2000-12-11 | 2002-06-26 | Kenwood Corp | Navigation system |
JP2004243788A (en) * | 2003-02-10 | 2004-09-02 | Nissan Motor Co Ltd | Running controlling device |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190041721A (en) * | 2017-10-13 | 2019-04-23 | 현대자동차주식회사 | Nearby vehicles evaluation method and apparatus |
KR102524289B1 (en) * | 2017-10-13 | 2023-04-21 | 현대자동차주식회사 | Nearby vehicles evaluation method and apparatus |
CN112954861A (en) * | 2019-12-11 | 2021-06-11 | 英研智能移动股份有限公司 | Lighting device, lighting device and operation method of lighting system |
CN112954861B (en) * | 2019-12-11 | 2023-06-23 | 英研智能移动股份有限公司 | Lighting device, lighting device and operation method of lighting system |
Also Published As
Publication number | Publication date |
---|---|
JP4975379B2 (en) | 2012-07-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5198346B2 (en) | Vehicle periphery monitoring device | |
US9073484B2 (en) | Surrounding area monitoring apparatus for vehicle | |
EP2352136B1 (en) | System for monitoring the area around a vehicle | |
WO2011108217A1 (en) | Vehicle perimeter monitoring device | |
US20140226015A1 (en) | Apparatus for monitoring surroundings of vehicle | |
US10102438B2 (en) | Information display device | |
JP4719590B2 (en) | In-vehicle peripheral status presentation device | |
JP4173902B2 (en) | Vehicle periphery monitoring device | |
JP2003123196A (en) | Device and program for monitoring circumference of vehicle | |
JP2008027309A (en) | Collision determination system and collision determination method | |
JP4528283B2 (en) | Vehicle periphery monitoring device | |
US10866416B2 (en) | Display control device and display control method | |
JP2015052902A (en) | Merging information providing device | |
JP5192007B2 (en) | Vehicle periphery monitoring device | |
JP2019188855A (en) | Visual confirmation device for vehicle | |
JP4975379B2 (en) | Vehicle perimeter monitoring system | |
JP4823753B2 (en) | Vehicle periphery monitoring device | |
JP4176558B2 (en) | Vehicle periphery display device | |
JP2007334763A5 (en) | ||
JP4884806B2 (en) | Vehicle perimeter monitoring system | |
JP6424775B2 (en) | Information display device | |
JP2022100852A (en) | Attention evocation device and attention evocation method | |
JP4694441B2 (en) | Vehicle perimeter monitoring system | |
JP2007249324A5 (en) | ||
JP2008052467A (en) | Vehicle circumference monitoring system, vehicle, vehicle circumference monitoring system, construction system for vehicle circumference monitoring system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080903 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080904 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20101108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101116 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110114 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111129 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120127 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120410 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120411 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150420 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |