JP5770661B2 - Visibility information acquisition method and visibility information acquisition device - Google Patents

Visibility information acquisition method and visibility information acquisition device Download PDF

Info

Publication number
JP5770661B2
JP5770661B2 JP2012062318A JP2012062318A JP5770661B2 JP 5770661 B2 JP5770661 B2 JP 5770661B2 JP 2012062318 A JP2012062318 A JP 2012062318A JP 2012062318 A JP2012062318 A JP 2012062318A JP 5770661 B2 JP5770661 B2 JP 5770661B2
Authority
JP
Japan
Prior art keywords
information
contrast
value
fourier transform
pass
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012062318A
Other languages
Japanese (ja)
Other versions
JP2013195218A (en
Inventor
裕太 土井
裕太 土井
宗男 山田
宗男 山田
倫明 中野
倫明 中野
新 山本
新 山本
隆 北山
隆 北山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asmo Co Ltd
Original Assignee
Asmo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asmo Co Ltd filed Critical Asmo Co Ltd
Priority to JP2012062318A priority Critical patent/JP5770661B2/en
Publication of JP2013195218A publication Critical patent/JP2013195218A/en
Application granted granted Critical
Publication of JP5770661B2 publication Critical patent/JP5770661B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、例えば、車両に備えられるウォッシャ装置やワイパ装置等の性能を解析して評価すべく視界の状態を判別するための視界情報取得方法、及び視界情報取得装置に関するものである。   The present invention relates to a visibility information acquisition method and a visibility information acquisition device for determining a visibility state so as to analyze and evaluate the performance of, for example, a washer device and a wiper device provided in a vehicle.

従来、例えば、車両に備えられるワイパ装置の性能は、払拭範囲の性能の他に、フロントガラスへの降雨(水滴)に対して運転者等の視界がどれほど良好なものになるかといった性能が上げられる。即ち、ワイパにてフロントガラスの水滴(雨滴)をどれだけ綺麗に払拭して視界を向上できるかといった性能、具体的には、例えば車線や標識を容易に認識できる視界を維持できるかといった性能がある。   Conventionally, for example, the performance of a wiper device provided in a vehicle improves not only the performance of the wiping range, but also how good the visibility of the driver etc. is for rain (water droplets) on the windshield. It is done. That is, how well the wiper wipes water droplets (raindrops) on the windshield to improve visibility, specifically, for example, the ability to maintain visibility to easily recognize lanes and signs. is there.

しかし、これらの性能の評価は、一般的に目視により官能評価見本(基準の見本)と比較するといった程度しか行われていない。
又、ガラス越しの視界を評価(検出)する方法としては、フロントガラスを撮像した画像を2次元フーリエ変換し、そのフーリエ変換結果に基づいて評価する方法がある(例えば、特許文献1参照)。
However, these performances are generally evaluated only to the extent that they are visually compared with a sensory evaluation sample (standard sample).
Further, as a method for evaluating (detecting) the field of view through the glass, there is a method in which an image obtained by imaging the windshield is subjected to two-dimensional Fourier transform and evaluated based on the Fourier transform result (see, for example, Patent Document 1).

特許第4226775号公報Japanese Patent No. 4226775

しかしながら、上記のような公報に開示された方法は、そのときの気候に応じたガラス越しの視界を評価(ガラスに曇りがあるか否かを検出)するためのものであって、視界の状態を高精度に評価するものではなく、例えば、ウォッシャ装置やワイパ装置の性能を高精度に評価することはできなかった。具体的には、例えば、車両試作段階等におけるワイパの駆動速度の最適設定やワイパの形状の最適設計等に用いるための評価はできなかった。   However, the method disclosed in the above publication is for evaluating the visibility through the glass according to the climate at that time (detecting whether the glass is cloudy), However, the performance of a washer device or a wiper device could not be evaluated with high accuracy. Specifically, for example, evaluation for use in the optimum setting of the driving speed of the wiper and the optimum design of the shape of the wiper at the vehicle prototype stage or the like could not be performed.

又、勿論、官能評価においても、主観的となり、評価者によって評価が異なってしまう等、視界の状態を高精度に評価できず、ウォッシャ装置やワイパ装置の性能を高精度に評価することはできない。   Also, of course, even in sensory evaluation, the state of view cannot be evaluated with high accuracy, for example, the evaluation becomes different depending on the evaluator, and the performance of the washer device or wiper device cannot be evaluated with high accuracy. .

本発明は、上記問題点を解決するためになされたものであって、その目的は、視界の状態を高精度で客観的に評価することを可能とする視界情報取得方法、及び視界情報取得装置を提供することにある。   The present invention has been made to solve the above-mentioned problems, and its object is to provide a visual field information acquisition method and visual field information acquisition apparatus that can objectively evaluate the state of the visual field with high accuracy. Is to provide.

上記問題点を解決するために、請求項1に記載の発明では、被評価ガラスの背景として異なる明度を含む一定間隔の模様を有した背景部材を配置し、前記被評価ガラスを前記一定間隔の模様に向かって撮像し撮像画像を得る撮像工程と、前記撮像画像を2次元フーリエ変換し、そのフーリエ変換結果に基づいて定量的な空間周波数情報を得る第1定量化工程と、前記フーリエ変換結果を周波数毎に逆フーリエ変換し、その逆フーリエ変換結果に基づいて周波数毎のコントラスト値を演算し、その周波数毎のコントラスト値を定量的なコントラスト情報として得る第2定量化工程とを備え、前記空間周波数情報と前記コントラスト情報とに基づいて視界状態を評価することを要旨とする。   In order to solve the above-mentioned problems, in the invention according to claim 1, a background member having a pattern with a constant interval including different brightness as a background of the glass to be evaluated is disposed, and the glass to be evaluated has the constant interval. An imaging step of capturing an image toward a pattern to obtain a captured image, a first quantification step of performing two-dimensional Fourier transform on the captured image and obtaining quantitative spatial frequency information based on the Fourier transform result, and the Fourier transform result And a second quantification step of calculating a contrast value for each frequency based on the inverse Fourier transform result and obtaining the contrast value for each frequency as quantitative contrast information, The gist is to evaluate the visibility state based on the spatial frequency information and the contrast information.

同発明によれば、撮像工程にて、被評価ガラスの背景として異なる明度を含む一定間隔の模様を有した背景部材が配置され、前記被評価ガラスが前記一定間隔の模様に向かって撮像され撮像画像が得られる。そして、第1定量化工程においては、前記撮像画像が2次元フーリエ変換され、そのフーリエ変換結果に基づいて定量的な空間周波数情報が得られる。このとき、被評価ガラスの背景として一定間隔の模様が撮像されているため、水滴等が被評価ガラスに付着していない状態ではフーリエ変換結果(パワースペクトル分散図であって空間周波数領域)における特定の周波数の強さ(パワー)が強くなる(集中する)。又、水滴等が被評価ガラスに付着した状態ではフーリエ変換結果における強さ(パワー)が前記特定の周波数以外の周波数の領域に分散することになり、水滴による影響が強く表れることになる。   According to the invention, in the imaging step, a background member having a pattern with a constant interval including different brightness as a background of the glass to be evaluated is arranged, and the glass to be evaluated is imaged toward the pattern with the constant interval. An image is obtained. In the first quantification step, the captured image is subjected to two-dimensional Fourier transform, and quantitative spatial frequency information is obtained based on the Fourier transform result. At this time, since a pattern with a constant interval is captured as the background of the glass to be evaluated, the identification in the Fourier transform result (power spectrum dispersion diagram in the spatial frequency domain) in a state where water droplets or the like are not attached to the glass to be evaluated The strength (power) of the frequency increases (concentrates). Further, in the state where water droplets or the like are attached to the glass to be evaluated, the strength (power) in the Fourier transform result is dispersed in a frequency region other than the specific frequency, and the influence of the water droplets appears strongly.

又、第2定量化工程では、前記フーリエ変換結果が周波数毎に逆フーリエ変換され、その逆フーリエ変換結果に基づいて周波数毎のコントラスト値が演算され、その周波数毎のコントラスト値が定量的なコントラスト情報として得られる。このようにして得られたコントラスト情報は、周波数毎のコントラスト値を有するため、例えば、撮像画像の特定の一部分をサンプリングして単一のコントラスト値を演算するものに比べて、より細やかな情報となる。   In the second quantification step, the Fourier transform result is inverse Fourier transformed for each frequency, a contrast value for each frequency is calculated based on the inverse Fourier transform result, and the contrast value for each frequency is quantitative contrast. Obtained as information. Since the contrast information obtained in this way has a contrast value for each frequency, for example, more detailed information than that obtained by sampling a specific part of a captured image and calculating a single contrast value. Become.

そして、共に定量的な前記空間周波数情報と前記コントラスト情報とに基づいて視界状態を評価するため、高精度で客観的な評価が可能となる。又、特に、空間周波数情報とコントラスト情報が組み合わされた情報は、物や文字、具体的には車線や標識等を認識できるか否かに大きく関与する情報であることが分かっており、本発明では視界状態の意義の大きな評価を高精度で客観的に行うことが可能となる。よって、例えば、ワイパ装置やウォッシャ装置の性能等を高精度且つ客観的に評価することが可能となる。   Since the visual field state is evaluated based on both the quantitative spatial frequency information and the contrast information, objective evaluation can be performed with high accuracy. In particular, information combining spatial frequency information and contrast information has been found to be greatly related to whether or not objects and characters, specifically lanes, signs, etc. can be recognized. Therefore, it is possible to objectively evaluate the significance of the visibility state with high accuracy and objectively. Therefore, for example, it is possible to objectively evaluate the performance of the wiper device and the washer device with high accuracy.

請求項2に記載の発明では、請求項1に記載の視界情報取得方法において、前記第2定量化工程は、逆フーリエ変換結果である波形の最小値と最大値から輝度の最小値と最大値を算出して、その輝度の最小値と最大値から周波数毎のコントラスト値を演算し、その周波数毎のコントラスト値を定量的なコントラスト情報として得ることを要旨とする。   According to a second aspect of the present invention, in the visual field information acquisition method according to the first aspect, the second quantifying step includes a minimum value and a maximum value of luminance from a minimum value and a maximum value of a waveform which are inverse Fourier transform results. And calculating the contrast value for each frequency from the minimum value and the maximum value of the luminance, and obtaining the contrast value for each frequency as quantitative contrast information.

同発明によれば、第2定量化工程は、逆フーリエ変換結果である波形の最小値と最大値から輝度の最小値と最大値が算出されて、その輝度の最小値と最大値から周波数毎のコントラスト値が演算され、その周波数毎のコントラスト値が定量的なコントラスト情報として得られる。よって、具体的に請求項1に記載の発明の効果を得ることができる。   According to the invention, in the second quantification step, the minimum value and the maximum value of the luminance are calculated from the minimum value and the maximum value of the waveform as the inverse Fourier transform result, and each frequency is calculated from the minimum value and the maximum value of the luminance. And the contrast value for each frequency is obtained as quantitative contrast information. Therefore, the effect of the invention of claim 1 can be specifically obtained.

請求項3に記載の発明では、請求項1又は2に記載の視界情報取得方法において、前記空間周波数情報と前記コントラスト情報とに基づいた合否判定用のしきい値を予め設定しておき、前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報が前記しきい値を越えるか否かで視界状態を合否判定して評価する合否評価工程を備えたことを要旨とする。   According to a third aspect of the present invention, in the visibility information acquisition method according to the first or second aspect, a threshold value for pass / fail judgment based on the spatial frequency information and the contrast information is set in advance, The gist of the invention is that it includes a pass / fail evaluation step for determining pass / fail status and evaluating whether or not the total information obtained by combining the spatial frequency information and the contrast information exceeds the threshold value.

同発明によれば、合否評価工程では、前記空間周波数情報と前記コントラスト情報とに基づいた合否判定用のしきい値が予め設定されており、前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報が前記しきい値を越えるか否かで視界状態が合否判定されて評価されるため、高精度で客観的な合否の評価が可能となる。例えば、しきい値をワイパ装置の合否に対応したものとすることで、車両試作段階等におけるワイパの駆動速度の最適設定やワイパの形状の最適設計等に容易に役立てることができる。   According to the invention, in the pass / fail evaluation step, a threshold value for pass / fail determination based on the spatial frequency information and the contrast information is set in advance, and the spatial frequency information and the contrast information are combined. Since the visibility state is determined as pass / fail depending on whether the information exceeds the threshold value, it is possible to evaluate pass / fail with high accuracy and objective evaluation. For example, by setting the threshold value to correspond to the pass / fail of the wiper device, it can be easily used for optimal setting of the wiper drive speed, optimal design of the wiper shape, etc. at the vehicle prototype stage.

請求項4に記載の発明では、請求項1又は2に記載の視界情報取得方法における前記背景部材と、前記撮像工程を行うための撮像手段と、前記第1定量化工程を行うための第1定量化手段と、前記第2定量化工程を行うための第2定量化手段とを備えたことを要旨とする。   According to a fourth aspect of the present invention, the background member, the imaging means for performing the imaging step, and the first quantification step for performing the first quantification step in the visibility information acquisition method according to the first or second aspect. The gist is provided with a quantification means and a second quantification means for performing the second quantification step.

同構成によれば、請求項1又は2に記載の視界情報取得方法を容易に実行することができ、請求項1又は2に記載の発明の効果を得ることができる視界情報取得装置を提供することができる。   According to the configuration, the visibility information acquisition method according to claim 1 or 2 can be easily executed, and the visibility information acquisition device capable of obtaining the effect of the invention according to claim 1 or 2 is provided. be able to.

請求項5に記載の発明では、請求項4に記載の視界情報取得装置において、前記空間周波数情報と前記コントラスト情報とに基づいた合否判定用のしきい値を記憶するための記憶手段と、前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報が前記しきい値を越えるか否かで視界状態を合否判定して評価するための合否判定手段とを備えたことを要旨とする。   According to a fifth aspect of the present invention, in the field-of-view information acquisition device according to the fourth aspect, storage means for storing a threshold value for pass / fail judgment based on the spatial frequency information and the contrast information; The gist of the present invention is to provide a pass / fail judgment means for judging pass / fail status by evaluating whether or not the total information obtained by combining the spatial frequency information and the contrast information exceeds the threshold value.

同構成によれば、請求項3に記載の視界情報取得方法を容易に実行することができ、請求項3に記載の発明の効果を得ることができる視界情報取得装置を提供することができる。   According to this configuration, it is possible to easily execute the visual field information acquisition method according to the third aspect, and it is possible to provide a visual field information acquisition apparatus that can obtain the effects of the invention according to the third aspect.

本発明によれば、視界の状態を高精度で客観的に評価することを可能とする視界情報取得方法、及び視界情報取得装置を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the visual field information acquisition method and visual field information acquisition apparatus which enable objective evaluation of the visual field state with high precision can be provided.

本実施の形態における視界情報取得装置の模式図。The schematic diagram of the visual field information acquisition apparatus in this Embodiment. 本実施の形態における背景部材の部分正面図。The partial front view of the background member in this Embodiment. 撮像画像。Captured image. (a)水滴の付着が少ない場合のパワースペクトル分散図。(b)水滴の付着が多い場合のパワースペクトル分散図。(A) The power spectrum dispersion | distribution figure in case there are few adhesions of a water droplet. (B) Power spectrum dispersion diagram when water droplets are frequently attached. (a)しきい値を説明するための特性図。(b)(a)の空間周波数とコントラスト値(コントラスト感度)の関係を視覚的にイメージするためのイメージ画像。(A) The characteristic view for demonstrating a threshold value. (B) An image for visualizing the relationship between the spatial frequency and the contrast value (contrast sensitivity) in (a).

以下、本発明を具体化した一実施形態を図1〜図5に従って説明する。
図1に示すように、本実施の形態の視界情報取得装置は、背景部材11と、撮像手段としてのビデオカメラ12と、第1及び第2定量化手段、記憶手段及び合否判定手段としてのパソコン等の演算装置13とを備える。
Hereinafter, an embodiment embodying the present invention will be described with reference to FIGS.
As shown in FIG. 1, the visual field information acquisition apparatus of this embodiment includes a background member 11, a video camera 12 as an imaging means, a first and second quantifying means, a storage means, and a personal computer as a pass / fail judgment means. And the like.

背景部材11は、状態が変化しない固定した背景であり、異なる明度を含む一定間隔の模様11a(図2参照)を有し、被評価ガラスとしてのフロントガラス21の背景とすべく、車両22の前方に配置される。尚、一定間隔の模様11a(図2参照)とは、撮像した画像の輝度が前記一定間隔内で大きく変化するとともに一定間隔毎に同じパターンを繰り返す模様であって、本実施の形態では一定間隔(本実施の形態では4cm)の半分の幅(本実施の形態では2cm)で明度が明るい部分(白色)と暗い部分(黒色)が並設される縦縞模様とされている。又、この一定間隔の模様11a(図2参照)は、言い換えると、2次元フーリエ変換した際に特定の周波数の強さ(パワー)が強くなる(集中する)模様であって、本実施の形態では水平方向の特定の周波数の強さ(パワー)が強くなる縦縞模様(白黒交互の縦縞模様)とされている。   The background member 11 is a fixed background in which the state does not change, has a pattern 11a (see FIG. 2) with a constant interval including different brightness, and is used as a background of the windshield 21 as the glass to be evaluated. Arranged forward. The pattern 11a (see FIG. 2) with a constant interval is a pattern in which the luminance of the captured image changes greatly within the predetermined interval and repeats the same pattern at every predetermined interval. It is a vertical stripe pattern in which a bright portion (white) and a dark portion (black) are arranged in parallel with a half width (4 cm in the present embodiment) of a half width (4 cm in the present embodiment). In addition, the pattern 11a (see FIG. 2) at regular intervals is a pattern in which the strength (power) of a specific frequency is increased (concentrated) when two-dimensional Fourier transform is performed. Is a vertical stripe pattern (black and white alternate vertical stripe pattern) in which the strength (power) of a specific frequency in the horizontal direction is increased.

ビデオカメラ12は、前記フロントガラス21を介して前記一定間隔の模様11aを向くように車両運転席24内に(ドライバーのアイポイントEP(図3参照)を想定して)配置される。このビデオカメラ12は、フロントガラス21を一定間隔の模様11aに向かって動画撮像した動画データを得ることが可能とされている。尚、本実施の形態のビデオカメラ12は、1秒間毎に30フレーム(30個)の静止画像である撮像画像(図3参照)からなる動画データを得ることが可能とされている。又、本実施の形態のビデオカメラ12は、有効画素数が数十万〜数百万画素であって、本実施の形態では約200万画素の前記撮像画像を得ることが可能とされている。   The video camera 12 is arranged in the vehicle driver's seat 24 (assuming the driver's eye point EP (see FIG. 3)) so as to face the pattern 11a at a predetermined interval through the windshield 21. The video camera 12 is capable of obtaining moving image data obtained by capturing moving images of the windshield 21 toward the pattern 11a at a predetermined interval. Note that the video camera 12 according to the present embodiment can obtain moving image data including captured images (see FIG. 3) that are 30 frames (30) still images per second. The video camera 12 of the present embodiment has hundreds of thousands to millions of effective pixels, and in the present embodiment, it is possible to obtain the captured image of about 2 million pixels. .

演算装置13は、後述する種々の処理を行う。
又、演算装置13には、演算装置13の演算結果等の種々の情報を表示可能なディスプレー14が接続されている。
The arithmetic device 13 performs various processes described later.
Further, a display 14 capable of displaying various information such as the calculation result of the calculation device 13 is connected to the calculation device 13.

ここで、視界情報取得方法について説明しながら、演算装置13が行う種々の処理について詳しく説明する。
視界情報取得方法は、「撮像工程」と「第1定量化工程」と「第2定量化工程」と「合否評価工程」とを備える。
Here, various processes performed by the arithmetic device 13 will be described in detail while explaining the visibility information acquisition method.
The visibility information acquisition method includes an “imaging process”, a “first quantification process”, a “second quantification process”, and a “pass / fail evaluation process”.

まず「撮像工程」では、図1に示すようにフロントガラス21の背景として一定間隔の模様11a(図2参照)を有した背景部材11を配置し、水滴が掛けられるとともに駆動されたワイパ23にて払拭されるフロントガラス21を一定間隔の模様11aに向かって動画撮像し動画データ(多数の静止画像である撮像画像)を得る。   First, in the “imaging process”, as shown in FIG. 1, a background member 11 having a pattern 11a (see FIG. 2) with a constant interval is arranged as a background of the windshield 21, and a wiper 23 that is driven while water droplets are applied thereto is applied. The windshield 21 to be wiped away is taken as a moving image toward the pattern 11a at a constant interval to obtain moving image data (captured images that are a large number of still images).

次に、「第1定量化工程」では、演算装置13によって、動画データの静止画像である撮像画像を2次元フーリエ変換し、そのフーリエ変換結果に基づいて定量的な空間周波数情報を得る。尚、本実施の形態で使用(処理)する撮像画像は、図3に示すように、運転席正面に位置する予め設定した設定範囲(所謂アイポイントEP)の画像である。   Next, in the “first quantification step”, the arithmetic device 13 performs two-dimensional Fourier transform on the captured image, which is a still image of the moving image data, and obtains quantitative spatial frequency information based on the Fourier transform result. The captured image used (processed) in the present embodiment is an image of a preset setting range (so-called eye point EP) located in front of the driver's seat, as shown in FIG.

詳しくは、本実施の形態の「第1定量化工程」では、まず動画データにおける一定時間毎(例えば0.05秒毎)の静止画像である撮像画像をそれぞれ2次元フーリエ変換して、そのフーリエ変換結果としてそれぞれのパワースペクトル分散図(空間周波数領域のことであり、例えば、図4(a),(b)参照)を得る。尚、図4(a)は、水滴の付着が少ない(払拭直後の)場合のパワースペクトル分散図P1であって、図4(b)は、水滴の付着が多い(払拭直前の)場合のパワースペクトル分散図P2である。   Specifically, in the “first quantification step” of the present embodiment, first, captured images that are still images at fixed time intervals (for example, every 0.05 seconds) in the moving image data are each two-dimensionally Fourier transformed, and the Fourier is obtained. As a result of conversion, each power spectrum dispersion diagram (which is a spatial frequency region, for example, see FIGS. 4A and 4B) is obtained. FIG. 4A is a power spectrum dispersion diagram P1 when there is little water droplet adhesion (immediately after wiping), and FIG. 4B is a power spectrum when there is much water droplet adhesion (immediately before wiping). It is a spectral dispersion diagram P2.

そして、「第1定量化工程」では、フーリエ変換結果における強さ(パワー)が、どこからどこまでの周波数の領域に分散しているかを算出して空間周波数情報を得ている。具体的には、本実施の形態では、フーリエ変換結果における強さ(パワー)が予め設定された基準値を越えているか否かを判定し、越えている周波数の範囲(分散範囲)を空間周波数情報としている。   In the “first quantification step”, the spatial frequency information is obtained by calculating where the frequency (power) in the Fourier transform result is distributed in the frequency range from where to where. Specifically, in this embodiment, it is determined whether or not the strength (power) in the Fourier transform result exceeds a preset reference value, and the frequency range (dispersion range) exceeding the spatial frequency is determined. Information.

次に「第2定量化工程」では、演算装置13は、前記フーリエ変換結果を周波数毎(予め設定した周波数範囲毎)に逆フーリエ変換し、その逆フーリエ変換結果に基づいて周波数毎のコントラスト値を演算し、その周波数毎のコントラスト値を定量的なコントラスト情報として得る。具体的には、演算装置13は、前記逆フーリエ変換結果である波形の最小値と最大値から輝度の最小値と最大値を算出して、その輝度の最小値と最大値から周波数毎のコントラスト値を演算し、その周波数毎のコントラスト値を定量的なコントラスト情報として得る。尚、本実施の形態では、逆フーリエ変換結果である波形自体を特にディスプレー14に表示させずに波形の最小値と最大値から輝度の最小値と最大値を算出してコントラスト値を演算する。又、本実施の形態のコントラスト値は、Michelsonコントラストを用い、詳しくは最大の輝度値をLmax、最小の輝度値をLminとして、「(Lmax−Lmin)/(Lmax+Lmin)」の式にてコントラスト値を演算する。   Next, in the “second quantification step”, the arithmetic unit 13 performs inverse Fourier transform on the Fourier transform result for each frequency (for each preset frequency range), and based on the inverse Fourier transform result, the contrast value for each frequency. And the contrast value for each frequency is obtained as quantitative contrast information. Specifically, the arithmetic unit 13 calculates the minimum value and the maximum value of the luminance from the minimum value and the maximum value of the waveform as the inverse Fourier transform result, and the contrast for each frequency from the minimum value and the maximum value of the luminance. The value is calculated, and the contrast value for each frequency is obtained as quantitative contrast information. In the present embodiment, the contrast value is calculated by calculating the minimum value and the maximum value of the brightness from the minimum value and the maximum value of the waveform without displaying the waveform itself as the inverse Fourier transform result on the display 14 in particular. The contrast value of the present embodiment uses Michelson contrast. Specifically, the maximum luminance value is Lmax, and the minimum luminance value is Lmin. Is calculated.

そして、「合否評価工程」では、空間周波数情報とコントラスト情報とに基づいた合否判定用のしきい値Z(図5(a)参照)を演算装置13(記憶手段)に予め設定(記憶)しておき、第1及び第2定量化工程で得た空間周波数情報とコントラスト情報が組み合わされた総合情報S1〜S4がしきい値Zを越えるか否かで視界状態(ひいてはワイパ装置)を合否判定して評価する。   In the “pass / fail evaluation step”, a threshold value Z for pass / fail judgment based on the spatial frequency information and the contrast information (see FIG. 5A) is set (stored) in advance in the arithmetic unit 13 (storage means). The pass / fail state is determined based on whether or not the total information S1 to S4 obtained by combining the spatial frequency information and the contrast information obtained in the first and second quantification steps exceeds the threshold value Z. And evaluate.

詳しくは、図5(a)に示すように、しきい値Zは、コントラスト感度と空間周波数とを組み合わせた情報について設定された値であって、コントラスト感度と空間周波数とを変化させつつ物や文字が判別できるか否かのアンケートを多数の人に行わせ、そのアンケート結果から事前に設定した値である。   Specifically, as shown in FIG. 5 (a), the threshold value Z is a value set for information combining the contrast sensitivity and the spatial frequency. This is a value set in advance based on the questionnaire result, which allows a large number of people to conduct a questionnaire on whether or not characters can be identified.

そして、「合否評価工程」では、前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報S1〜S4の少なくとも一部が前記しきい値Zを越えるか否かで視界情報を合否判定して評価する。尚、本実施の形態では、雨量数十ミリの雨を想定して「撮像工程」で対応した水滴を掛けつつ、ワイパ23を高速で駆動させ、常に(払拭直前でも)最低限度の視界が保てているかの合否判定を行うことにしている。ここで総合情報S1は払拭直後のものであって図4(a)と対応した状態のものである。又、総合情報S2は払拭直前のものであって図4(b)と対応した状態のものである。これら総合情報S1,S2は、一部も前記しきい値Zを越えていないため、演算装置13(合否判定手段)は合格判定とする。尚、総合情報S3は、別の(例えばワイパ23の形状や駆動装置(駆動速度)が異なる)ワイパ装置における払拭直前のものであって、コントラスト値(情報)は前記総合情報S2よりも高いが空間周波数(情報)が前記総合情報S2よりも広範囲に渡り一部がしきい値Zを越えているため、この場合、演算装置13(合否判定手段)は不合格判定とする。又、総合情報S4は、別の(例えばワイパ23の形状や駆動装置(駆動速度)が異なる)ワイパ装置における払拭直前のものであって、全体が前記しきい値Zを越えているため、この場合、演算装置13(合否判定手段)は不合格判定とする。又、図5(b)は、図5(a)の空間周波数とコントラスト値(コントラスト感度)の関係を視覚的にイメージするためのイメージ画像である。   In the “pass / fail evaluation step”, the visibility information is determined as pass / fail according to whether or not at least a part of the total information S1 to S4 in which the spatial frequency information and the contrast information are combined exceeds the threshold value Z. To do. In the present embodiment, assuming the rain of several tens of millimeters, the wiper 23 is driven at high speed while applying the corresponding water droplets in the “imaging process”, so that the minimum visibility is always maintained (even immediately before wiping). It is decided to make a pass / fail judgment. Here, the general information S1 is information immediately after wiping and is in a state corresponding to FIG. The general information S2 is information immediately before wiping and is in a state corresponding to FIG. Since some of the total information S1 and S2 does not exceed the threshold value Z, the arithmetic unit 13 (pass / fail judgment means) makes a pass judgment. The comprehensive information S3 is information immediately before wiping in another wiper device (for example, the shape of the wiper 23 and the driving device (driving speed) are different), and the contrast value (information) is higher than the comprehensive information S2. Since the spatial frequency (information) is wider than the general information S2 and partly exceeds the threshold value Z, in this case, the arithmetic device 13 (pass / fail judgment means) makes a failure judgment. Further, the general information S4 is information immediately before wiping in another wiper device (for example, the shape of the wiper 23 or the driving device (driving speed) is different), and the entire information exceeds the threshold value Z. In this case, the arithmetic device 13 (pass / fail judgment means) makes a failure judgment. FIG. 5B is an image for visually visualizing the relationship between the spatial frequency and the contrast value (contrast sensitivity) in FIG.

次に、上記実施の形態(方法及び装置)の特徴的な作用効果を以下に記載する。
(1)「撮像工程」にて、フロントガラス21の背景として異なる明度を含む一定間隔の模様11aを有した背景部材11が配置され、フロントガラス21が一定間隔の模様11aに向かって撮像され撮像画像が得られる。そして、「第1定量化工程」においては、前記撮像画像が2次元フーリエ変換され、そのフーリエ変換結果に基づいて定量的な空間周波数情報が得られる。このとき、フロントガラス21の背景として一定間隔の模様11aが撮像されているため、水滴等がフロントガラス21に付着していない状態ではフーリエ変換結果(パワースペクトル分散図であって空間周波数領域)における特定の周波数の強さ(パワー)が強くなる(集中する)。又、水滴等がフロントガラス21に付着した状態ではフーリエ変換結果における強さ(パワー)が前記特定の周波数以外の周波数の領域に分散することになり、水滴による影響が強く表れることになる。
Next, characteristic effects of the above-described embodiment (method and apparatus) will be described below.
(1) In the “imaging process”, the background member 11 having the pattern 11a with a constant interval including different brightness as the background of the windshield 21 is arranged, and the windshield 21 is imaged and imaged toward the pattern 11a with a constant interval. An image is obtained. In the “first quantification step”, the captured image is subjected to two-dimensional Fourier transform, and quantitative spatial frequency information is obtained based on the Fourier transform result. At this time, since the pattern 11a with a constant interval is captured as the background of the windshield 21, in a state where water droplets or the like are not attached to the windshield 21, in the Fourier transform result (power spectrum dispersion diagram, spatial frequency region) The intensity (power) of a specific frequency becomes stronger (concentrated). Further, in the state where water droplets or the like are attached to the windshield 21, the strength (power) in the Fourier transform result is dispersed in a frequency region other than the specific frequency, and the influence of the water droplets appears strongly.

又、「第2定量化工程」では、前記フーリエ変換結果が周波数毎に逆フーリエ変換され、その逆フーリエ変換結果に基づいて周波数毎のコントラスト値が演算され、その周波数毎のコントラスト値が定量的なコントラスト情報として得られる。具体的には、本実施の形態では、前記逆フーリエ変換結果である波形の最小値と最大値から輝度の最小値と最大値が算出されて、その輝度の最小値と最大値から周波数毎のコントラスト値が演算され、その周波数毎のコントラスト値が定量的なコントラスト情報として得られる。このようにして得られたコントラスト情報は、周波数毎のコントラスト値を有するため、例えば、撮像画像の特定の一部分をサンプリングして単一のコントラスト値を演算するものに比べて、より細やかな情報となる。   In the “second quantification step”, the Fourier transform result is inverse Fourier transformed for each frequency, a contrast value for each frequency is calculated based on the inverse Fourier transform result, and the contrast value for each frequency is quantitative. Can be obtained as accurate contrast information. Specifically, in the present embodiment, the minimum value and the maximum value of the luminance are calculated from the minimum value and the maximum value of the waveform that is the result of the inverse Fourier transform, and each frequency is calculated from the minimum value and the maximum value of the luminance. The contrast value is calculated, and the contrast value for each frequency is obtained as quantitative contrast information. Since the contrast information obtained in this way has a contrast value for each frequency, for example, more detailed information than that obtained by sampling a specific part of a captured image and calculating a single contrast value. Become.

そして、共に定量的な前記空間周波数情報と前記コントラスト情報とに基づいて視界状態を評価するため、高精度で客観的な評価が可能となる。又、特に、空間周波数情報とコントラスト情報が組み合わされた情報(総合情報S1〜S4)は、物や文字、具体的には車線や標識等を認識できるか否かに大きく関与する情報であることが分かっており、本発明では視界状態の意義の大きな評価を高精度で客観的に行うことが可能となる。よって、例えば、ワイパ装置やウォッシャ装置の性能等を高精度且つ客観的に評価することが可能となる。   Since the visual field state is evaluated based on both the quantitative spatial frequency information and the contrast information, objective evaluation can be performed with high accuracy. In particular, the information (general information S1 to S4) in which the spatial frequency information and the contrast information are combined is information that is greatly related to whether or not an object or a character, specifically, a lane or a sign can be recognized. In the present invention, it is possible to objectively evaluate the significance of the visibility state with high accuracy. Therefore, for example, it is possible to objectively evaluate the performance of the wiper device and the washer device with high accuracy.

(2)「合否評価工程」では、前記空間周波数情報と前記コントラスト情報とに基づいた合否判定用のしきい値Zが予め設定されており、前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報S1〜S4が前記しきい値Zを越えるか否かで視界状態が合否判定されて評価されるため、高精度で客観的な合否の評価が可能となる。例えば、本実施の形態のように、しきい値Zをワイパ装置の合否に対応したものとすることで、車両試作段階等におけるワイパの駆動速度の設定やワイパの形状の設計等に容易に役立てることができる。   (2) In the “pass / fail evaluation step”, a threshold value Z for pass / fail determination based on the spatial frequency information and the contrast information is set in advance, and the spatial frequency information and the contrast information are combined. Since the visibility state is determined as pass / fail depending on whether or not the information S1 to S4 exceeds the threshold value Z, it is possible to evaluate the pass / fail objective with high accuracy. For example, as in this embodiment, by setting the threshold value Z to correspond to the pass / fail of the wiper device, it is easy to use for setting the wiper drive speed, designing the wiper shape, etc. be able to.

上記実施の形態は、以下のように変更してもよい。
・上記実施の形態では、演算装置13による「合否評価工程」で前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報S1〜S4が前記しきい値Zを越えるか否かで視界状態(ひいてはワイパ装置)を合否判定して評価するとしたが、演算装置13による合否判定に限らず、異なる観点で視界状態を評価するようにしてもよい。即ち、前記空間周波数情報と前記コントラスト情報とに基づいて視界状態を評価すれば、特に演算装置13による合否判定を行わせなくてもよく、各タイミングにおいてどの程度の視界状態となるか等の評価を行うようにしてもよい。尚、上記実施の形態のように動画データにおける一定時間毎(例えば0.05秒毎)の静止画像である撮像画像について各情報を得ておけば、各タイミングにおける視界状態をそれぞれ評価することができ、例えば、ウォッシャ装置自体(例えば、ウォッシャ液の着水による視界状態)やウォッシャ装置とワイパ装置を組み合わせたものの性能(例えば、ウォッシャ液噴射後のワイパによる拭き取り状態)を評価することができる。又、このように異なる評価を行う場合等、前記しきい値Zを異なる基準で設定してもよいし、段階的なしきい値を複数設定して合否判定のみでなくレベル判定を行うようにしてもよい。
The above embodiment may be modified as follows.
In the above-described embodiment, the visibility state (and consequently, whether or not the total information S1 to S4 in which the spatial frequency information and the contrast information are combined in the “pass / fail evaluation step” by the arithmetic unit 13 exceeds the threshold value Z) The wiper device) is evaluated based on the pass / fail determination, but the visibility state is not limited to the pass / fail determination by the arithmetic device 13, and the visibility state may be evaluated from a different viewpoint. That is, if the visual field state is evaluated based on the spatial frequency information and the contrast information, it is not particularly necessary to perform the pass / fail determination by the arithmetic unit 13, and evaluation of how much the visual field state is achieved at each timing. May be performed. In addition, if each information is acquired about the captured image which is a still image for every fixed time (for example, every 0.05 second) in moving image data like the said embodiment, the visual field state in each timing can be evaluated, respectively. For example, it is possible to evaluate the performance of the washer device itself (for example, the visibility state due to the landing of the washer liquid) or the combination of the washer device and the wiper device (for example, the wiped state with the wiper after the washer liquid is jetted). Further, when performing different evaluations in this way, the threshold value Z may be set based on different criteria, or a plurality of stepwise threshold values may be set to perform not only pass / fail determination but also level determination. Also good.

・上記実施の形態では、一定間隔の模様11a(図2参照)を、一定間隔(本実施の形態では4cm)の半分の幅(本実施の形態では2cm)で明度が明るい部分(白色)と暗い部分(黒色)が並設される縦縞模様としたが、これに限定されず、例えば、横縞模様としてもよい。   In the above embodiment, the pattern 11a (see FIG. 2) with a constant interval is replaced with a portion (white) with a lightness at a half width (2 cm in this embodiment) of the fixed interval (4 cm in this embodiment). Although a vertical stripe pattern in which dark portions (black) are arranged side by side is not limited to this, for example, a horizontal stripe pattern may be used.

・上記実施の形態の「第2定量化工程」では、逆フーリエ変換結果である波形の最小値と最大値から輝度の最小値と最大値を算出して、その輝度の最小値と最大値から周波数毎のコントラスト値を演算するとしたが、逆フーリエ変換結果に基づいて周波数毎のコントラスト値を演算できれば他の方法に変更してもよい。例えば、逆フーリエ変換結果である波形の最小値と最大値の差、即ち逆フーリエ変換結果である波形の振幅から直接コントラスト値を演算するようにしてもよい。   In the “second quantification step” of the above embodiment, the minimum value and the maximum value of the luminance are calculated from the minimum value and the maximum value of the waveform as the inverse Fourier transform result, and the minimum value and the maximum value of the luminance are calculated. Although the contrast value for each frequency is calculated, it may be changed to another method as long as the contrast value for each frequency can be calculated based on the inverse Fourier transform result. For example, the contrast value may be directly calculated from the difference between the minimum value and the maximum value of the waveform that is the inverse Fourier transform result, that is, the amplitude of the waveform that is the inverse Fourier transform result.

・上記実施の形態では、Michelsonコントラスト「(Lmax−Lmin)/(Lmax+Lmin)」を用いるとしたが、他の式で計算されるコントラスト値を用いてもよい。例えば、コントラスト値は、「Lmax−Lmin」にて計算されるものとしてもよいし、「Lmax−T(Tは予め設定した値)」にて計算されるものとしてもよい。   In the above embodiment, the Michelson contrast “(Lmax−Lmin) / (Lmax + Lmin)” is used. However, a contrast value calculated by another formula may be used. For example, the contrast value may be calculated by “Lmax−Lmin” or may be calculated by “Lmax−T (T is a preset value)”.

・上記実施の形態では、撮像手段をビデオカメラ12としたが、これに限定されず、静止画像のみを撮像可能なカメラに変更してもよい。   In the above embodiment, the video camera 12 is used as the imaging unit, but the present invention is not limited to this, and the video camera 12 may be changed to a camera that can capture only still images.

11…背景部材、11a…一定間隔の模様、12…ビデオカメラ(撮像手段)、13…演算装置(第1及び第2定量化手段、記憶手段、及び合否判定手段)、21…フロントガラス(被評価ガラス)、S1〜S4…総合情報、Z…しきい値。   DESCRIPTION OF SYMBOLS 11 ... Background member, 11a ... Pattern of fixed interval, 12 ... Video camera (imaging means), 13 ... Arithmetic unit (first and second quantification means, storage means, and pass / fail judgment means), 21 ... Windshield (covered) Evaluation glass), S1 to S4 ... general information, Z ... threshold value.

Claims (5)

被評価ガラスの背景として異なる明度を含む一定間隔の模様を有した背景部材を配置し、前記被評価ガラスを前記一定間隔の模様に向かって撮像し撮像画像を得る撮像工程と、
前記撮像画像を2次元フーリエ変換し、そのフーリエ変換結果に基づいて定量的な空間周波数情報を得る第1定量化工程と、
前記フーリエ変換結果を周波数毎に逆フーリエ変換し、その逆フーリエ変換結果に基づいて周波数毎のコントラスト値を演算し、その周波数毎のコントラスト値を定量的なコントラスト情報として得る第2定量化工程と
を備え、前記空間周波数情報と前記コントラスト情報とに基づいて視界状態を評価することを特徴とする視界情報取得方法。
An imaging step of arranging a background member having a pattern with a constant interval including different brightness as the background of the glass to be evaluated, imaging the glass to be evaluated toward the pattern with the constant interval, and obtaining a captured image;
A first quantification step of performing two-dimensional Fourier transform on the captured image and obtaining quantitative spatial frequency information based on the Fourier transform result;
A second quantification step of performing inverse Fourier transform on the Fourier transform result for each frequency, calculating a contrast value for each frequency based on the inverse Fourier transform result, and obtaining the contrast value for each frequency as quantitative contrast information; And a visual field state evaluation method based on the spatial frequency information and the contrast information.
請求項1に記載の視界情報取得方法において、
前記第2定量化工程は、逆フーリエ変換結果である波形の最小値と最大値から輝度の最小値と最大値を算出して、その輝度の最小値と最大値から周波数毎のコントラスト値を演算し、その周波数毎のコントラスト値を定量的なコントラスト情報として得ることを特徴とする視界情報取得方法。
The visibility information acquisition method according to claim 1,
The second quantification step calculates the minimum value and maximum value of the luminance from the minimum value and maximum value of the waveform as the inverse Fourier transform result, and calculates the contrast value for each frequency from the minimum value and maximum value of the luminance. And obtaining a contrast value for each frequency as quantitative contrast information.
請求項1又は2に記載の視界情報取得方法において、
前記空間周波数情報と前記コントラスト情報とに基づいた合否判定用のしきい値を予め設定しておき、前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報が前記しきい値を越えるか否かで視界状態を合否判定して評価する合否評価工程を備えたことを特徴とする視界情報取得方法。
In the visibility information acquisition method according to claim 1 or 2,
A threshold value for pass / fail judgment based on the spatial frequency information and the contrast information is set in advance, and whether or not the total information obtained by combining the spatial frequency information and the contrast information exceeds the threshold value. A visibility information acquisition method comprising: a pass / fail evaluation step for determining pass / fail status and evaluating it.
請求項1又は2に記載の視界情報取得方法における前記背景部材と、
前記撮像工程を行うための撮像手段と、
前記第1定量化工程を行うための第1定量化手段と、
前記第2定量化工程を行うための第2定量化手段と
を備えたことを特徴とする視界情報取得装置。
The background member in the visibility information acquisition method according to claim 1 or 2,
Imaging means for performing the imaging step;
First quantification means for performing the first quantification step;
A field-of-view information acquisition apparatus comprising: second quantification means for performing the second quantification step.
請求項4に記載の視界情報取得装置において、
前記空間周波数情報と前記コントラスト情報とに基づいた合否判定用のしきい値を記憶するための記憶手段と、
前記空間周波数情報と前記コントラスト情報が組み合わされた総合情報が前記しきい値を越えるか否かで視界状態を合否判定して評価するための合否判定手段と
を備えたことを特徴とする視界情報取得装置。
In the visibility information acquisition apparatus according to claim 4,
Storage means for storing a threshold value for pass / fail judgment based on the spatial frequency information and the contrast information;
Visibility information comprising: pass / fail judgment means for judging pass / fail status by evaluating whether or not total information obtained by combining the spatial frequency information and the contrast information exceeds the threshold value Acquisition device.
JP2012062318A 2012-03-19 2012-03-19 Visibility information acquisition method and visibility information acquisition device Expired - Fee Related JP5770661B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012062318A JP5770661B2 (en) 2012-03-19 2012-03-19 Visibility information acquisition method and visibility information acquisition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012062318A JP5770661B2 (en) 2012-03-19 2012-03-19 Visibility information acquisition method and visibility information acquisition device

Publications (2)

Publication Number Publication Date
JP2013195218A JP2013195218A (en) 2013-09-30
JP5770661B2 true JP5770661B2 (en) 2015-08-26

Family

ID=49394350

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012062318A Expired - Fee Related JP5770661B2 (en) 2012-03-19 2012-03-19 Visibility information acquisition method and visibility information acquisition device

Country Status (1)

Country Link
JP (1) JP5770661B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113205555B (en) * 2021-05-28 2023-09-19 上海扩博智能技术有限公司 Method, system, apparatus and storage medium for maintaining a blade centered in a camera field of view

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10139514A1 (en) * 2001-08-10 2003-02-20 Bosch Gmbh Robert Transmission detector for window body, especially vehicle windscreen, has optics forming images of sections of body surface on detector whose maximum separation is comparable with free body aperture
JP4701383B2 (en) * 2005-02-10 2011-06-15 国立大学法人北海道大学 Visual field defect evaluation method and visual field defect evaluation apparatus
JP2009180583A (en) * 2008-01-30 2009-08-13 Fujifilm Corp Method and device for evaluating luminance nonuniformity of display
JP5363191B2 (en) * 2009-05-20 2013-12-11 アスモ株式会社 Wiper performance evaluation method and wiper performance evaluation apparatus
JP5406070B2 (en) * 2010-02-17 2014-02-05 アスモ株式会社 Visual field information acquisition method, visual field information expression method, visual field information acquisition apparatus, and visual field information expression apparatus

Also Published As

Publication number Publication date
JP2013195218A (en) 2013-09-30

Similar Documents

Publication Publication Date Title
US9390343B2 (en) Estimating degree of deterioration of road surface
CN103843325B (en) Image display device and image display method
JP4725821B2 (en) Target location device
JP5482737B2 (en) Visual load amount estimation device, driving support device, and visual load amount estimation program
JP4263737B2 (en) Pedestrian detection device
EP1970839A3 (en) Apparatus, method, and program for face feature point detection
DE102005013920A1 (en) Front view monitoring apparatus
KR102301437B1 (en) Vision inspection apparatus and method of detecting mura thereof
JP2017531865A5 (en)
US20160347251A1 (en) Image analysis apparatus and image analysis method
JP2002257679A (en) Method of obtaining luminance information, image quality evaluating method, device of obtaining luminance information of display apparatus and image quality evaluating method of the display apparatus
US20170004614A1 (en) Image processing apparatus and image processing method
RU2015106690A (en) WATER DROP DETECTION DEVICE AND THREE-DIMENSION OBJECT DETECTION DEVICE USING A WATER DROP DETECTION DEVICE
JP2009180583A (en) Method and device for evaluating luminance nonuniformity of display
JP2010044561A (en) Monitoring device to be mounted on vehicle
JP4701383B2 (en) Visual field defect evaluation method and visual field defect evaluation apparatus
JP2013240469A (en) Device for estimating position of attention
JP5363191B2 (en) Wiper performance evaluation method and wiper performance evaluation apparatus
JP5770661B2 (en) Visibility information acquisition method and visibility information acquisition device
JP2014127032A (en) Outside view recognition device for vehicles
JP5406070B2 (en) Visual field information acquisition method, visual field information expression method, visual field information acquisition apparatus, and visual field information expression apparatus
Bi et al. Using image-based metrics to model pedestrian detection performance with night-vision systems
JP2007011490A (en) Device and method for detecting road parameter
JP2020052639A (en) Vehicle monitoring device and vehicle monitoring system
JP2012037418A (en) Visual field information acquisition method, and visual field information acquisition apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150623

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150625

R150 Certificate of patent or registration of utility model

Ref document number: 5770661

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees