JP5082620B2 - Judgment judgment device - Google Patents
Judgment judgment device Download PDFInfo
- Publication number
- JP5082620B2 JP5082620B2 JP2007168124A JP2007168124A JP5082620B2 JP 5082620 B2 JP5082620 B2 JP 5082620B2 JP 2007168124 A JP2007168124 A JP 2007168124A JP 2007168124 A JP2007168124 A JP 2007168124A JP 5082620 B2 JP5082620 B2 JP 5082620B2
- Authority
- JP
- Japan
- Prior art keywords
- face
- angle
- driver
- determination
- predetermined device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Rear-View Mirror Devices That Are Mounted On The Exterior Of The Vehicle (AREA)
Description
本発明は、車両の運転者の余所見を判定するための余所見判定装置に関する。 The present invention relates to an aftersight determination apparatus for determining an oversight of a driver of a vehicle.
従来より、運転者の脇見状態を判定するために運転者の顔向きを検出し、顔向角度が所定の閾値以上である状態が所定時間継続すると、運転者が脇見をしていると判定する脇見判定装置があった(例えば、特許文献1参照)。
このような従来の脇見判定装置では、画一的に決められた閾値を用いて運転者の顔向角度の判定を行っていた。すなわち、この判定に用いられる閾値は、不特定多数の運転者を対象として画一的に導出された値であった。 In such a conventional look-ahead determination device, the driver's face angle is determined using a uniformly determined threshold value. That is, the threshold value used for this determination is a value that is uniformly derived for an unspecified number of drivers.
車両を運転すると想定される運転者の体格やシート位置等には個人差があるため、上述のように画一的に導出された閾値を用いる判定では、脇見状態の判定精度の向上を図ることが困難であった。 Since there are individual differences in the physique, seat position, etc. of the driver who is assumed to drive the vehicle, in the determination using the uniformly derived threshold as described above, the determination accuracy of the looking-aside state should be improved. It was difficult.
人間の顔は左右で特徴の個人差(輪郭や目又は鼻の位置等の差)があるため、上述のような閾値を用いて顔の左右の対称性に基づいて顔向きを検出する手法では、検出精度の確保が困難であった。 Since human faces have individual differences in characteristics between left and right (differences in contours, eye or nose positions, etc.), the method of detecting the face orientation based on the left-right symmetry of the face using the threshold values as described above It was difficult to ensure detection accuracy.
また、このような閾値を用いる判定手法を視線方向の検出に適用する場合においても、目の形状に個人差があるため、検出精度の確保が困難であった。 Further, even when such a determination method using a threshold value is applied to the detection of the line-of-sight direction, it is difficult to ensure detection accuracy because there are individual differences in eye shapes.
そこで、本発明は、車両の運転者の体格等の個人差を考慮した判定を行うことにより、判定精度を向上させた余所見判定装置を提供することを目的とする。 SUMMARY OF THE INVENTION An object of the present invention is to provide an after-effect determination apparatus that improves determination accuracy by performing determination in consideration of individual differences such as the physique of a vehicle driver.
本発明の一局面の余所見判定装置は、運転者が正面前方に対して角度を有する方向を向いて操作する所定装置を備える車両に搭載される余所見判定装置であって、運転者の顔向角度を検知する顔向検知手段と、運転者による前記所定装置の操作を検出する操作検出手段と、前記操作検出手段によって前記所定装置の操作が検出されると、前記顔向検知手段により検知される当該所定装置の操作時における顔向角度を余所見判定の閾値として保持する顔向角度保持手段と車両の運転中に前記顔向検知手段により検知される運転者の顔向角度と、前記顔向角度保持手段に保持される顔向角度とに基づいて、運転者の余所見を判定する余所見判定手段とを含み、前記所定装置は電動調節式のアウターミラーであるとともに、前記操作検出手段は当該電動調節式のアウターミラーの調節装置であり、前記顔向角度保持手段は、右側アウターミラーの操作時の顔向角度と、左側アウターミラーの操作時の顔向角度とを前記余所見判定の閾値として保持しており、余所見判定手段は、車両の運転中の顔向角度が前記余所見判定の閾値で表される顔向角度以上になると、運転者の右方向又は左方向における余所見と判定する。 An aspect finding determination apparatus according to an aspect of the present invention is an aspect finding determination apparatus mounted on a vehicle including a predetermined device that is operated by a driver facing a direction having an angle with respect to the front front, and the driver's face angle. When the operation of the predetermined device is detected by the operation detection unit, the face direction detection unit detects the operation of the predetermined device. The face angle holding means for holding the face angle at the time of operation of the predetermined device as a threshold for judging the look, the driver's face angle detected by the face detecting means during driving of the vehicle, and the face angle And a residual appearance determination means for determining a driver's residual appearance based on the face orientation angle held by the holding means, the predetermined device is an electrically adjustable outer mirror, and the operation detection means The adjustment device for a dynamic adjustment type outer mirror, wherein the face angle holding means uses the face angle during operation of the right outer mirror and the face angle during operation of the left outer mirror as thresholds for determining the look-out. holding and, looking away determination means determines the face direction angle during operation of the vehicle is greater than or equal to the face direction angle is represented by a threshold of the looking away determination, and looking away in the right direction or left direction of the driver.
本発明の他の局面の余所見判定装置は、運転者が正面前方に対して角度を有する方向を向いて操作する所定装置を備える車両に搭載される余所見判定装置であって、運転者の顔向角度を検知する顔向検知手段と、運転者による前記所定装置の操作を検出する操作検出手段と、前記操作検出手段によって前記所定装置の操作が検出されると、前記顔向検知手段により検知される当該所定装置の操作時における顔向角度を余所見判定の閾値として保持する顔向角度保持手段と車両の運転中に前記顔向検知手段により検知される運転者の顔向角度と、前記顔向角度保持手段に保持される顔向角度とに基づいて、運転者の余所見を判定する余所見判定手段とを含み、前記所定装置は電動調節式のルームミラーであるとともに、前記操作検出手段は当該電動調節式のルームミラーの調節装置であり、前記顔向角度保持手段は、電動調節式のルームミラーの操作時の顔向角度を前記余所見判定の閾値として保持しており、余所見判定手段は、車両の運転中の顔向角度が前記余所見判定の閾値で表される顔向角度以上になると、運転者の上方向における余所見を判定する。 Another aspect determination apparatus according to another aspect of the present invention is an additional aspect determination apparatus that is mounted on a vehicle including a predetermined device that is operated by a driver facing a direction having an angle with respect to the front front direction. A face direction detecting means for detecting an angle, an operation detecting means for detecting an operation of the predetermined device by a driver, and an operation of the predetermined device detected by the operation detecting means are detected by the face direction detecting means. A face angle holding means for holding the face angle during the operation of the predetermined device as a threshold for determining a look, a driver's face angle detected by the face detection means during driving of the vehicle, and the face direction. And a residual appearance determination means for determining the residual appearance of the driver based on the face orientation angle held by the angle holding means, the predetermined device is an electrically adjustable room mirror, and the operation detection means It is an adjustment device for a dynamic adjustment type rearview mirror, wherein the face direction angle holding means holds a face direction angle at the time of operation of the electric adjustment type rearview mirror as a threshold value of the extraordinary finding determination, If the face angle during driving of the vehicle is equal to or greater than the face angle represented by the threshold value for determining the finding , the driver's upward finding is determined.
本発明の他の局面の余所見判定装置は、運転者が正面前方に対して角度を有する方向を向いて操作する所定装置を備える車両に搭載される余所見判定装置であって、運転者の顔向角度を検知する顔向検知手段と、運転者による前記所定装置の操作を検出する操作検出手段と、前記操作検出手段によって前記所定装置の操作が検出されると、前記顔向検知手段により検知される当該所定装置の操作時における顔向角度を余所見判定の閾値として保持する顔向角度保持手段と車両の運転中に前記顔向検知手段により検知される運転者の顔向角度と、前記顔向角度保持手段に保持される顔向角度とに基づいて、運転者の余所見を判定する余所見判定手段とを含み、前記所定装置はメータパネル内に表示部を有するとともに、前記操作検出手段は運転者が当該表示部の表示内容を視認しながら当該表示部を有する所定装置を操作するための操作装置であり、前記顔向角度保持手段は、前記表示部を有する所定装置の操作時の顔向角度を前記余所見判定の閾値として保持しており、余所見判定手段は、車両の運転中の顔向角度が前記余所見判定の閾値で表される顔向角度以上になると、運転者の下方向における余所見を判定する。 Another aspect determination apparatus according to another aspect of the present invention is an additional aspect determination apparatus that is mounted on a vehicle including a predetermined device that is operated by a driver facing a direction having an angle with respect to the front front direction. A face direction detecting means for detecting an angle, an operation detecting means for detecting an operation of the predetermined device by a driver, and an operation of the predetermined device detected by the operation detecting means are detected by the face direction detecting means. A face angle holding means for holding the face angle during the operation of the predetermined device as a threshold for determining a look, a driver's face angle detected by the face detection means during driving of the vehicle, and the face direction. And a presence determination means for determining a driver's observation based on the face orientation angle held by the angle holding means, the predetermined device has a display unit in the meter panel, and the operation detection means is the driving Is an operating device for operating the predetermined device having the display unit while visually confirming the display content of the display unit, and the face angle holding means is a face angle when operating the predetermined device having the display unit Is stored as a threshold value for determining the look-off, and the face-finding determination means displays the look-down in the driver's downward direction when the face angle during driving of the vehicle is equal to or greater than the face-direction angle represented by the threshold value for determining the look-and- find. judge.
また、運転席の位置を検知する位置検知手段と、前記位置検知手段によって運転席の位置の変更が検知されると、前記所定装置の設定を出荷時における初期状態にリセットする、リセット手段とをさらに備え、前記顔向角度保持手段は、前記リセット手段によって前記初期状態にリセットされた後に所定装置の操作が検出されると、当該操作時に前記顔向検知手段により検知される顔向角度を前記余所見判定の閾値として保持してもよい。 A position detecting unit configured to detect a position of the driver's seat; and a reset unit configured to reset the setting of the predetermined device to an initial state at the time of shipment when the position detecting unit detects a change in the position of the driver's seat. The face angle holding unit may further include a face angle detected by the face direction detecting unit during the operation when an operation of a predetermined device is detected after the reset unit is reset to the initial state. You may hold | maintain as a threshold value of a finding determination .
また、前記運転者の視線方向を検知する視線方向検知手段をさらに備え、前記余所見判定手段は、前記顔向角度保持手段に保持される顔向角度と、前記顔向検知手段によって検知される運転者の顔向角度と、視線方向とに基づいて運転者の余所見を判定してもよい。 Further, the camera further includes a gaze direction detecting unit that detects a gaze direction of the driver, and the extraneous eye determination unit is configured to detect the face angle held by the face angle holding unit and the driving detected by the face direction detecting unit. The driver's look may be determined based on the face angle of the driver and the line-of-sight direction.
本発明によれば、個人差を考慮した閾値を用いることにより余所見判定の判定精度を向上させた余所見判定装置を提供できるという特有の効果が得られる。 According to the present invention, it is possible to provide a peculiar effect that it is possible to provide a look determination device that improves the determination accuracy of a look determination by using a threshold value that takes into account individual differences.
以下、本発明の余所見判定装置を適用した実施の形態について説明する。 Hereinafter, an embodiment to which the device for determining a look-out of the present invention is applied will be described.
[実施の形態1]
図1は、実施の形態1の余所見判定装置の構成を示す図である。本実施の形態の余所見判定装置は、運転支援ECU(Electronic Control Unit)10に含まれており、余所見の判定処理は、運転支援ECU10によって実現される。
[Embodiment 1]
FIG. 1 is a diagram illustrating a configuration of the look-ahead determination apparatus according to the first embodiment. The remainder finding determination device of the present embodiment is included in a driving support ECU (Electronic Control Unit) 10, and the decision processing for the finding is realized by the
この運転支援ECU10には、運転者の余所見に対する警報(警報音の発報又は警報灯の点灯等)を発報する警報装置11が接続されており、本実施の形態の余所見判定装置によって運転者の余所見が判定されると、この警報装置11から運転者に警報が発報されるように構成されている。この警報装置11は、例えば、周知のブザーや警報灯等で構成される。
The
運転支援ECU10には、警報装置11に加えて、ドライバモニタカメラ12、アウターミラースイッチ13、アウターミラーECU14、及びシート位置検出部15が接続されている。
In addition to the
運転支援ECU10、及びアウターミラーECU14は、図示しないバスを介してCPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)等からなるマイクロコンピュータを中心として構成される。
The
この運転支援ECU10は、本実施の形態のドライバー支援装置専用のECUであってもよいし、例えば、ドライバーの居眠り状態を検知して警報を発報するための運転支援を行うECU、あるいはプリクラッシュセーフティシステム用のECUであってもよく、少なくとも本実施の形態では、図2及び図3に示す処理を実行できるように構成されていればよい。なお、運転支援ECU10は、後述する余所見判定処理で用いる閾値を保持するための内部メモリを有する。この内部メモリは、例えば、上述のRAMによって構成される。
This driving assistance ECU 10 may be an ECU dedicated to the driver assistance device of the present embodiment, for example, an ECU that provides driving assistance for detecting a driver's drowsiness and issuing an alarm, or a pre-crash It may be an ECU for a safety system, and at least in the present embodiment, it may be configured so that the processes shown in FIGS. 2 and 3 can be executed. Note that the
ドライバモニタカメラ12は、例えば、車室内のステアリングコラム上に配設され、運転者の顔画像を撮影するCCD(Charge Coupled Device)カメラで構成される。運転支援ECU10は、ドライバモニタカメラ12によって撮影された顔画像を画像分析することにより、運転者の顔向きを検出できるように構成される。この顔向きの検出は、例えば、顔画像を表す画像データに対してパターン認識を行うことにより、運転者の鼻、目、顔の輪郭全体から顔向きを表す角度(以下、顔向角度という)を求めることによって実現される。なお、ここでは、顔向角度は、運転者が正面前方の水平方向を向いているときに零、右方向を向いているときに正の値、左方向を向いているときに負の値で表されるものとする。
The
アウターミラースイッチ13は、電動調節式のアウターミラー16を調節するためのスイッチで構成される。本実施の形態では、アウターミラースイッチ13は、左右のどちらかのアウターミラーを選択するための選択スイッチと、選択したアウターミラーを上下左右に調節するための調節スイッチとを含む。
The
アウターミラーECU14は、アウターミラースイッチ13から送られる制御指令に基づき、アウターミラー16を調節するためのECUによって構成される。
The
シート位置検出部15は、図示しない電動調節式のドライバーズシートの位置を検出できるように構成されていればよく、例えば、電動調節式のドライバーズシート用のECUで用いられるシート位置調節用の制御指令を検出するように構成される。
The seat
次に、図2を用いて本実施の形態の余所見判定装置による閾値の設定処理について説明する。この処理は、運転支援ECU10によって実行される。 Next, a threshold value setting process performed by the redundant look determination apparatus according to the present embodiment will be described with reference to FIG. This process is executed by the driving assistance ECU 10.
運転支援ECU10は、アウターミラースイッチ13の操作があったか否かを判定する(ステップS1)。この処理は、アウターミラースイッチ13の操作があるまで繰り返し実行される。
The driving assistance ECU 10 determines whether or not the
運転支援ECU10は、アウターミラースイッチ13の操作があったと判定したときは、ドライバモニタカメラ12によって得られる画像データを画像分析し、顔向角度を導出する(ステップS2)。この判定は、例えば、左右いずれかのアウターミラーが上下左右に調節されていることを運転支援ECU10が検知したときに、アウターミラースイッチ13の操作があったと判定する処理で実現されればよい。
When it is determined that the
次いで、運転支援ECU10は、顔向角度が右向きを表すか、左向きを表すかを判定する(ステップS3)。ここでは、顔向きが右向きの場合に正の値で顔向角度を表し、顔向きが左側の場合に負の値で顔向角度を表し、顔向きが正面の場合に顔向角度を0度とすることにしているので、顔向角度が正の値であるか負の値であるかによって判定を行うようにすればよい。
Next, the
運転支援ECU10は、顔向角度が正の値である場合は、その顔向角度を右方向における余所見判定の閾値として内部メモリに格納する(ステップS4)。これは、運転者がアウターミラースイッチ13を操作することによって右側のアウターミラー16を調節しているときは、右側のアウターミラー16を見ていると考えられるため、そのときの顔向角度を右方向の余所見を判定するための閾値として保持することにより、余所見判定の判定精度を向上させるためである。
When the face direction angle is a positive value, the
一方、運転支援ECU10は、顔向角度が負の値である場合は、その顔向角度を左方向における余所見判定の閾値として内部メモリに格納する(ステップS5)。ステップS4と同様に、左側のアウターミラー16を見ているときの運転者の顔向角度を左方向の余所見を判定するための閾値として保持することにより、余所見判定の判定精度を向上させるためである。
On the other hand, when the face angle is a negative value, the driving
このように、本実施の形態の余所見判定装置では、車両の運転者が実際に左右のアウターミラーを調節している際の顔向角度の値を左右方向の余所見判定に用いる閾値として設定するため、左右方向の余所見判定における判定精度を向上させることができる。 As described above, in the remainder determination apparatus according to the present embodiment, the value of the face angle when the driver of the vehicle actually adjusts the left and right outer mirrors is set as the threshold used for the determination of the left and right findings. In addition, it is possible to improve the determination accuracy in the left-right direction look determination.
運転者の体格やシート位置には個人差があり、また、運転者が右側のアウターミラー16を見るときと、左側のアウターミラー16を見るときとでは顔向角度の絶対値が異なるため、実際に車両を運転する人がアウターミラーを調節する際の顔向きを判定処理における閾値として用いることは、不特定多数の運転者を対象として画一的に導出される閾値を用いる場合に比べて、左右方向の余所見判定における判定精度を大幅に向上させることができる。
There are individual differences in the physique and seat position of the driver, and since the absolute value of the face angle differs between when the driver looks at the right
なお、ここでは、運転者が左右のアウターミラー16を見ている際の顔向角度(実測値)を余所見判定の閾値としてそのまま用いる形態について説明したが、このように実測値をそのまま閾値として用いるのではなく、実測値に所定のマージン(例えば、2〜3度)を付加して得る値を閾値として用いるように構成してもよい。 Here, the face angle (measured value) when the driver is looking at the left and right outer mirrors 16 has been described as it is as a threshold for determining the look-off, but the measured value is used as it is as the threshold. Instead of this, a value obtained by adding a predetermined margin (for example, 2 to 3 degrees) to the actual measurement value may be used as the threshold value.
次に、図3を用いて本実施の形態の変形例の余所見判定装置による閾値の設定処理について説明する。この処理は、運転支援ECU10によって実行される。なお、ステップS12、及びS14乃至S17は、図2に示すステップS1乃至S5と同一の処理である。
Next, a threshold value setting process performed by the remainder determination apparatus according to the modification of the present embodiment will be described with reference to FIG. This process is executed by the driving
運転支援ECU10は、シート位置検出部15によって検出されるシート位置が所定の割合以上変更されたか否かを判定する(ステップS10)。これは、シート位置を最も前にした位置を前後方向の零点とし、この零点から(後ろ方向)の距離の変化割合に基づいて行う判定処理であり、例えば、所定の割合は2割に設定される。上下方向のシート位置及びシートバックの傾斜角度についても同様に判定が行われる。このステップS10の処理は、シート位置が所定の割合以上変更されることが検出されるまで繰り返し実行される。
The driving
運転支援ECU10は、シート位置が所定の割合以上変更されたと判定した場合は、アウターミラー16の位置をデフォルトの位置に調節するための制御指令をアウターミラーECU14に送る(ステップS11)。この結果、アウターミラーECU14により、アウターミラー16は、デフォルトの位置に調節される。
When it is determined that the seat position has been changed by a predetermined ratio or more, the driving
ここで、デフォルトの位置とは、例えば、工場出荷時における初期状態の位置であればよい。このようにデフォルトの位置に調節するのは、その運転者によって調節される位置からずらすことにより、運転者に調節を促すためである。 Here, the default position may be, for example, a position in an initial state at the time of factory shipment. The reason for adjusting to the default position in this way is to urge the driver to adjust by shifting from the position adjusted by the driver.
次いで、運転支援ECU10は、アウターミラー16の操作があったか否かを判定する(ステップS12)。これは、図2に示すステップS1と同一の処理であり、アウターミラースイッチ13の操作の有無に基づいて判定する処理である。この変形例では、運転者の操作を所定時間(例えば、30秒程度)待つように構成してもよい。
Next, the driving
運転支援ECU10は、アウターミラースイッチ13の操作がないと判定した場合は、アウターミラー16の位置を標準位置に調節するための制御指令をアウターミラーECU14に送る(ステップS13)。これは、アウターミラー16の位置が運転者によって調節されずにデフォルトの位置のままであるため、不特定多数の運転者を対象とした位置(標準位置)に調節することにより、車両の運行が始まった場合に後方視界を確保するためである。
When it is determined that the
なお、この場合において、それまでに一度もアウターミラー16の操作時における顔向角度が検出されずに、運転支援ECU10の内部メモリに余所見判定用の閾値が格納されていない場合は、従来同様に不特定多数の運転者を対象として導出される閾値を用いて余所見判定が行われるように構成されてもよい。
In this case, if the face angle during the operation of the
運転支援ECU10は、ステップS3による処理を終えると、すべての処理を終了する。 Driving assistance ECU10 will complete | finish all the processes, after finishing the process by step S3.
なお、運転支援ECU10は、ステップS12において、アウターミラースイッチ13の操作があったと判定した場合は、図2に示すステップS2乃至S5と同一のステップS14乃至S17による処理を実行する。これにより、処理は終了する。
Note that if the driving
このように、本実施の形態の変形例の余所見判定装置によれば、シート位置が所定の割合以上変更された場合でも、車両の運転者が実際に左右のアウターミラーを調節している際の顔向角度を左右方向の余所見判定に用いる閾値とするため、左右方向の余所見判定における判定精度を向上させることができる。 As described above, according to the remainder determination apparatus of the modification of the present embodiment, even when the seat position is changed by a predetermined ratio or more, the driver of the vehicle is actually adjusting the left and right outer mirrors. Since the face direction angle is used as a threshold value used for the left-right direction finding determination, the determination accuracy in the left-right direction finding determination can be improved.
また、シート位置が所定の割合以上変更されたのにアウターミラー16が調節されない場合は、アウターミラー16の位置をデフォルトの位置に調節するので、運転者に調節を催促することにより、新たなシート位置での運転者に対応した余所見判定処理用の閾値を得ることができる。
Further, when the
なお、以上では、シート位置検出部15によって検出されるシート位置が所定の割合以上変更された場合に、運転者に再調節を促すためにアウターミラー16の位置をデフォルトの位置に調節する形態について説明したが、シート位置の変更に限らず、ドライバーズシートに重量センサを設け、運転者の体重が所定の割合以上変化した場合や、シートベルトの引出量を検出するセンサを設け、シートベルトの引出量が所定の割合以上変化した場合に、アウターミラー16の位置をデフォルトの位置に調節するように構成してもよい。
In the above description, the position of the
また、以上では、ドライバモニタカメラ12より得られる画像データを分析して得る運転者の顔向角度に基づいて余所見判定を行う形態について説明したが、顔向角度に代えて、あるいは、顔向角度に加えて、この画像データを分析して得る運転者の視線の角度(以下、視線角度と称す)を用いて余所見判定を行うように構成されてもよい。例えば、運転者の目の画像データを画像認識することによって視線角度を求め、得られた視線角度と顔向角度とに基づいて運転者が視認している方向(以下、視認方向)を特定し、この視認方向と余所見判定用の閾値とを比較することによって余所見判定を行うように構成してもよい。
Further, in the above description, the mode of performing the finding determination based on the driver's face angle obtained by analyzing the image data obtained from the
また、以上では、顔向きが右向きの場合に正の値で顔向角度を表し、顔向きが左側の場合に負の値で顔向角度を表し、顔向きが正面の場合に顔向角度を0度とする形態について説明したが、運転者が右側又は左側のアウターミラー16を調整している際の顔向角度を0度とし、この0度を基準として余所見判定を行うように構成してもよい。この場合、右側と左側とにそれぞれ0度の基準点を作ることができる。正面方向の顔向きを0度とする場合は、右側又は左側のアウターミラー16を調整しているときの顔向角度に基づいて正面方向における0度(基準点)を導出するため、アウターミラー16の方向を向いている際の誤差(実際のアウターミラー16の角度と、検出される顔向角度との誤差)が正面方向における0度を導出する際に含まれるが、右側又は左側のアウターミラー16を調整している際の顔向角度を0度とすれば、このような誤差を排除することができ、判定精度をさらに向上させることができる。また、右側又は左側のいずれかのアウターミラー16しか調整されなかった場合には、少なくとも調整が行われた側における良好な判定精度を維持することができる。
In the above, when the face direction is the right direction, the face direction angle is represented by a positive value, when the face direction is the left side, the face direction angle is represented by a negative value, and when the face direction is the front, the face direction angle is represented. Although the configuration in which the angle is set to 0 degrees has been described, the face angle when the driver is adjusting the right or left
[実施の形態2]
図4は、実施の形態2の余所見判定装置の構成を示す図である。実施の形態2の余所見判定装置は、運転者の上下方向の顔向角度における閾値を実測値に基づいて設定する点が、左右方向の顔向角度における閾値を設定する実施の形態1の余所見判定装置と異なる。
[Embodiment 2]
FIG. 4 is a diagram illustrating a configuration of the look-ahead determination apparatus according to the second embodiment. In the second aspect determination apparatus according to the second embodiment, the point at which the threshold value for the driver's vertical face angle is set based on the actual measurement value sets the threshold value for the left and right face angle. Different from the device.
本実施の形態の余所見判定装置は、運転支援ECU20に含まれており、余所見の判定処理は、運転支援ECU20によって実現される。また、この運転支援ECU20には、警報装置21が接続されている。この警報装置21は、実施の形態1の警報装置11と同一のもので構成されてよい。
The remaining appearance determination device of the present embodiment is included in the
運転支援ECU20には、警報装置21に加えて、ドライバモニタカメラ22、インナーミラースイッチ23、インナーミラーECU24、及びクルーズコントロールスイッチ25が接続されている。
In addition to the
運転支援ECU20、及びインナーミラーECU24は、図示しないバスを介してCPU、ROM、及びRAM等からなるマイクロコンピュータを中心として構成される。
The driving
この運転支援ECU20は、実施の形態1の運転支援ECU10と同様に、本実施の形態のドライバー支援装置専用のECUであってもよいし、例えば、ドライバーの居眠り状態を検知して警報を発報するための運転支援を行うECU、あるいはプリクラッシュセーフティシステム用のECUであってもよく、少なくとも本実施の形態では、図5に示す処理を実行できるように構成されていればよい。なお、運転支援ECU20は、後述する余所見判定処理で用いる閾値を保持するための内部メモリを有する。この内部メモリは、例えば、上述のRAMによって構成される。
Similar to the driving
ドライバモニタカメラ22は、実施の形態1のドライバモニタカメラ12と同様に、例えば、車室内のステアリングコラム上に配設され、運転者の顔画像を撮影するCCDカメラで構成される。運転支援ECU20は、ドライバモニタカメラ22によって撮影された顔画像を画像分析することにより、運転者の上下方向の顔向きを検出できるように構成される。なお、本実施の形態では、上下方向の余所見判定を行うための閾値を設定するため、顔向きを表す角度は、運転者が正面を向いているときに零とされ、上方を向いているときに正の値、下方を向いているときに負の値で表されるものとする。
As with the
インナーミラースイッチ23は、電動調節式のインナーミラー26を調節するためのスイッチで構成される。この電動調節式のインナーミラー26は、例えば、インナーミラーECU24を介して、上下左右への角度調節を電動式に行えるものであればよい。このような電動調節式のインナーミラー26を調節するためのインナーミラースイッチ23は、上下左右に調節するための調節スイッチを含んでいればよく、実施の形態1におけるアウターミラースイッチ13と兼用で構成されてもよい。
The
インナーミラーECU24は、インナーミラースイッチ23から送られる制御指令に基づき、インナーミラー26を調節するためのECUによって構成される。
The
クルーズコントロールスイッチ25は、車両のステアリングコラムの上方(すなわち、運転者の視界における正面下方)に配設されるメータパネル内に配設され、同じくメータパネル内に配設される表示部に表示されるクルーズコントロール用の設定車速を調節するためのスイッチであればよい。ここでは、少なくとも、運転者がクルーズコントロールスイッチ25を操作するときに、メータパネルを見る状態が生じればよい。
The
次に、図5を用いて本実施の形態の余所見判定装置による閾値の設定処理について説明する。この処理は、運転支援ECU20によって実行される。
Next, threshold value setting processing by the redundant look determination apparatus according to the present embodiment will be described with reference to FIG. This process is executed by the driving
運転支援ECU20は、インナーミラースイッチ23の操作があったか否かを判定する(ステップS21)。
The driving
運転支援ECU20は、インナーミラースイッチ23の操作があったと判定したときは、ドライバモニタカメラ22によって得られる画像データを画像分析し、顔向角度を導出する(ステップS22)。
When it is determined that the
次いで、運転支援ECU20は、その顔向角度を上方向における余所見判定の閾値として内部メモリに格納する(ステップS23)。これは、運転者がインナーミラースイッチ23を操作することによってインナーミラー26を調節しているときは、インナーミラー26を見ていると考えられるため、そのときの顔向角度を上方向の余所見を判定するための閾値として保持することにより、余所見判定の判定精度を向上させるためである。
Next, the driving
一方、運転支援ECU20は、インナーミラースイッチ23の操作がないと判定した場合は、手順をステップS24に進行させ、クルーズコントロールスイッチ25の操作があったか否かを判定する(ステップS24)。
On the other hand, if it is determined that the
運転支援ECU20は、クルーズコントロールスイッチ25の操作があったと判定したときは、ドライバモニタカメラ22によって得られる画像データを画像分析し、顔向角度を導出する(ステップS25)。
When it is determined that the
次いで、運転支援ECU20は、その顔向角度を下方向における余所見判定の閾値として内部メモリに格納する(ステップS26)。これは、運転者がクルーズコントロールスイッチ25を操作することによってクルーズコントロールを設定しているときは、メータパネル内の表示部を見ていると考えられるため、そのときの顔向角度を下方向の余所見を判定するための閾値として保持することにより、余所見判定の判定精度を向上させるためである。
Next, the driving
このように、本実施の形態の余所見判定装置では、車両の運転者が実際にインナーミラーを調節している際、又は、クルーズコントロールを設定している際の顔向角度を上下方向の余所見判定に用いる閾値とするため、上下方向の余所見判定における判定精度を向上させることができる。 As described above, in the remainder determination device according to the present embodiment, when the driver of the vehicle actually adjusts the inner mirror or when setting the cruise control, the facial angle is determined in the vertical direction. Since it is set as the threshold value used for the above, it is possible to improve the determination accuracy in the determination of the residual findings in the vertical direction.
運転者の体格やシート位置には個人差があるため、実際に車両を運転する人がインナーミラー又はクルーズコントロールを調節する際の顔向きを判定処理における閾値として用いることは、不特定多数の運転者を対象として画一的に導出される閾値を用いる場合に比べて上下方向の余所見判定における判定精度を大幅に向上させることができる。 Because there are individual differences in the physique and seat position of the driver, using the face orientation when the driver actually adjusts the inner mirror or cruise control as the threshold value in the judgment process is not suitable for many unspecified drivers. As compared with the case of using a uniformly derived threshold value for a person, it is possible to greatly improve the determination accuracy in the determination of the observation in the vertical direction.
なお、ここでは、運転者がインナーミラーを見ている際、又はクルーズコントロールを設定している際の顔向角度を余所見判定の閾値として用いる形態について説明したが、このように実測値をそのまま閾値として用いるのではなく、実測値に所定の値を付加して得る値を閾値として用いるように構成されてもよい。 Here, a mode has been described in which the face orientation angle when the driver is looking at the inner mirror or when cruise control is set is used as a threshold for judging the look, but the measured values are used as they are as the threshold. Instead of using as a threshold value, a value obtained by adding a predetermined value to an actual measurement value may be used as a threshold value.
この実施の形態2では、上下方向の余所見判定の閾値を設定する余所見判定装置について説明したが、左右方向の余所見判定の閾値を設定する実施の形態1の余所見判定装置と組み合わせれば、上下左右方向の余所見判定の閾値を運転者の実測値に基づいて設定することのできる余所見判定装置を提供することができる。この場合において、運転者が正面前方の水平方向を向いているときの顔向角度に対する上下方向の角度と、左右方向の角度とを組み合わせて余所見判定を行うように構成してもよい。例えば、インストルメントパネル中央部に配設されるナビゲーション装置又はエアコン操作パネルの操作を運転支援ECU20が検出し、ドライバモニタカメラ22によって得られる画像データを画像分析し、そのときの顔向角度を用いて左斜下方向の余所見判定を行うように構成してもよい。
The second embodiment has been described with respect to the residual determination device that sets the threshold for determination of the upward and downward direction, but when combined with the residual determination device of
以上、本発明の例示的な実施の形態の余所見判定装置について説明したが、本発明は、具体的に開示された実施の形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。 As mentioned above, although the remainder determination apparatus of exemplary embodiment of this invention was demonstrated, this invention is not limited to embodiment disclosed specifically, and does not deviate from a claim. Various modifications and changes are possible.
本発明の余所見判定装置は、車両の運転支援装置に利用可能である。 The redundant finding determination apparatus of the present invention can be used for a driving support apparatus for a vehicle.
10、20 運転支援ECU
12、22 ドライバモニタカメラ
13 アウターミラースイッチ
14 アウターミラーECU
15 シート位置検出部
16 アウターミラー
23 インナーミラースイッチ
24 インナーミラーECU
25 クルーズコントロールスイッチ
10, 20 Driving assistance ECU
12, 22
15 Seat
25 Cruise control switch
Claims (7)
運転者の顔向角度を検知する顔向検知手段と、
運転者による前記所定装置の操作を検出する操作検出手段と、
前記操作検出手段によって前記所定装置の操作が検出されると、前記顔向検知手段により検知される当該所定装置の操作時における顔向角度を余所見判定の閾値として保持する顔向角度保持手段と
車両の運転中に前記顔向検知手段により検知される運転者の顔向角度と、前記顔向角度保持手段に保持される顔向角度とに基づいて、運転者の余所見を判定する余所見判定手段と
を含み、
前記所定装置は電動調節式のアウターミラーであるとともに、前記操作検出手段は当該電動調節式のアウターミラーの調節装置であり、
前記顔向角度保持手段は、右側アウターミラーの操作時の顔向角度と、左側アウターミラーの操作時の顔向角度とを前記余所見判定の閾値として保持しており、
余所見判定手段は、車両の運転中の顔向角度が前記余所見判定の閾値で表される顔向角度以上になると、運転者の右方向又は左方向における余所見と判定する、余所見判定装置。 A look determination device mounted on a vehicle provided with a predetermined device for a driver to operate in a direction having an angle with respect to the front front,
Face detection means for detecting the driver's face angle;
Operation detecting means for detecting an operation of the predetermined device by a driver;
When the operation of the predetermined device is detected by the operation detection unit, a face angle holding unit that holds a face angle at the time of operation of the predetermined device detected by the face detection unit as a threshold for determining a look-off, and a vehicle An extraordinary finding determination unit that determines an extraordinary finding of the driver based on a facial angle of the driver detected by the facial orientation detection unit during driving and a facial direction angle held by the facial angle holding unit; Including
The predetermined device is an electrically adjustable outer mirror, and the operation detecting means is an electrically adjustable outer mirror adjusting device,
The face angle holding means holds the face angle during operation of the right outer mirror and the face angle during operation of the left outer mirror as threshold values for the above-mentioned finding determination.
Looking away determination means determines the face direction angle during operation of the vehicle is greater than or equal to the face direction angle is represented by a threshold of the looking away determination, and looking away in the right direction or left direction of the driver, looking away determination device.
運転者の顔向角度を検知する顔向検知手段と、
運転者による前記所定装置の操作を検出する操作検出手段と、
前記操作検出手段によって前記所定装置の操作が検出されると、前記顔向検知手段により検知される当該所定装置の操作時における顔向角度を余所見判定の閾値として保持する顔向角度保持手段と
車両の運転中に前記顔向検知手段により検知される運転者の顔向角度と、前記顔向角度保持手段に保持される顔向角度とに基づいて、運転者の余所見を判定する余所見判定手段と
を含み、
前記所定装置は電動調節式のルームミラーであるとともに、前記操作検出手段は当該電動調節式のルームミラーの調節装置であり、
前記顔向角度保持手段は、電動調節式のルームミラーの操作時の顔向角度を前記余所見判定の閾値として保持しており、
余所見判定手段は、車両の運転中の顔向角度が前記余所見判定の閾値で表される顔向角度以上になると、運転者の上方向における余所見を判定する、余所見判定装置。 A look determination device mounted on a vehicle provided with a predetermined device for a driver to operate in a direction having an angle with respect to the front front,
Face detection means for detecting the driver's face angle;
Operation detecting means for detecting an operation of the predetermined device by a driver;
When the operation of the predetermined device is detected by the operation detection unit, a face angle holding unit that holds a face angle at the time of operation of the predetermined device detected by the face detection unit as a threshold for determining a look-off, and a vehicle An extraordinary finding determination unit that determines an extraordinary finding of the driver based on a facial angle of the driver detected by the facial orientation detection unit during driving and a facial direction angle held by the facial angle holding unit; Including
The predetermined device is an electrically adjustable room mirror, and the operation detecting means is an electrically adjusted room mirror adjusting device,
The face angle holding means holds a face angle at the time of operation of the electrically adjustable room mirror as a threshold for determining the look-off.
The surplus finding determination means is a surplus finding determination device that determines a surplus finding in the driver's upward direction when the face orientation angle during driving of the vehicle is equal to or greater than the face orientation angle represented by the threshold value of the surrogate determination.
運転者の顔向角度を検知する顔向検知手段と、
運転者による前記所定装置の操作を検出する操作検出手段と、
前記操作検出手段によって前記所定装置の操作が検出されると、前記顔向検知手段により検知される当該所定装置の操作時における顔向角度を余所見判定の閾値として保持する顔向角度保持手段と
車両の運転中に前記顔向検知手段により検知される運転者の顔向角度と、前記顔向角度保持手段に保持される顔向角度とに基づいて、運転者の余所見を判定する余所見判定手段と
を含み、
前記所定装置はメータパネル内に表示部を有するとともに、前記操作検出手段は運転者が当該表示部の表示内容を視認しながら当該表示部を有する所定装置を操作するための操作装置であり、
前記顔向角度保持手段は、前記表示部を有する所定装置の操作時の顔向角度を前記余所見判定の閾値として保持しており、
余所見判定手段は、車両の運転中の顔向角度が前記余所見判定の閾値で表される顔向角度以上になると、運転者の下方向における余所見を判定する、余所見判定装置。 A look determination device mounted on a vehicle provided with a predetermined device for a driver to operate in a direction having an angle with respect to the front front,
Face detection means for detecting the driver's face angle;
Operation detecting means for detecting an operation of the predetermined device by a driver;
When the operation of the predetermined device is detected by the operation detection unit, a face angle holding unit that holds a face angle at the time of operation of the predetermined device detected by the face detection unit as a threshold for determining a look-off, and a vehicle An extraordinary finding determination unit that determines an extraordinary finding of the driver based on a facial angle of the driver detected by the facial orientation detection unit during driving and a facial direction angle held by the facial angle holding unit; Including
The predetermined device has a display unit in a meter panel, and the operation detection means is an operation device for a driver to operate the predetermined device having the display unit while visually recognizing the display content of the display unit.
The face angle holding means holds a face angle at the time of operation of a predetermined device having the display unit as a threshold for determining the look-off.
The surplus finding determination means is a surplus finding determination device that determines a surplus finding in the downward direction of the driver when the face orientation angle during driving of the vehicle is equal to or greater than the face orientation angle represented by the threshold value of the surrogate determination.
運転者の顔向角度を検知する顔向検知手段と、 Face detection means for detecting the driver's face angle;
運転者による前記所定装置の操作を検出する操作検出手段と、 Operation detecting means for detecting an operation of the predetermined device by a driver;
前記操作検出手段によって前記所定装置の操作が検出されると、前記顔向検知手段により検知される当該所定装置の操作時における顔向角度を余所見判定の閾値として保持する顔向角度保持手段と A face angle holding unit that holds, when the operation detection unit detects an operation of the predetermined device, a face angle detected by the face direction detection unit during operation of the predetermined device as a threshold for determining a look-off.
車両の運転中に前記顔向検知手段により検知される運転者の顔向角度と、前記顔向角度保持手段に保持される顔向角度とに基づいて、運転者の余所見を判定する余所見判定手段と A surplus determination unit that determines a driver's remark based on the driver's face angle detected by the face direction detector during driving of the vehicle and the face angle held by the face angle holding unit. When
を含み、 Including
前記所定装置はナビゲーション装置又はエアコンの操作装置であるとともに、前記操作検出手段は当該ナビゲーション装置又は当該エアコンの操作装置であり、 The predetermined device is a navigation device or an air conditioner operating device, and the operation detecting means is the navigation device or the air conditioner operating device,
前記顔向角度保持手段は、前記ナビゲーション装置又は前記エアコンの操作装置の操作時の顔向角度を前記余所見判定の閾値として保持しており、 The face angle holding means holds a face angle at the time of operation of the navigation device or the operation device of the air conditioner as a threshold for determining the look-off.
余所見判定手段は、車両の運転中の顔向角度が前記余所見判定の閾値で表される顔向角度以上になると、運転者の左斜下方向における余所見を判定する、余所見判定装置。 The surplus finding determination means is a surplus finding determination device that determines a surplus finding in the lower left oblique direction of the driver when the face angle during driving of the vehicle is equal to or larger than the face orientation angle represented by the threshold value of the surrogate determination.
前記位置検知手段によって運転席の位置の変更が検知されると、前記所定装置の設定を出荷時における初期状態にリセットする、リセット手段と A reset unit that resets the setting of the predetermined device to an initial state at the time of shipment when a change in the position of the driver's seat is detected by the position detection unit;
をさらに備え、 Further comprising
前記顔向角度保持手段は、前記リセット手段によって前記初期状態にリセットされた後に所定装置の操作が検出されると、当該操作時に前記顔向検知手段により検知される顔向角度を前記余所見判定の閾値として保持する、請求項1乃至3のいずれか一項記載の余所見判定装置。 When the operation of a predetermined device is detected after the resetting means is reset to the initial state by the resetting means, the face orientation angle holding means is configured to determine the face orientation angle detected by the face orientation detecting means during the operation. The remainder determination apparatus according to any one of claims 1 to 3, which is held as a threshold value.
前記余所見判定手段は、前記顔向角度保持手段に保持される顔向角度と、前記顔向検知手段によって検知される運転者の顔向角度と、視線方向とに基づいて運転者の余所見を判定する、請求項1乃至5のいずれかの項に記載の余所見判定装置。 Further comprising gaze direction detection means for detecting the gaze direction of the driver,
The extra appearance determination means determines the extra appearance of the driver based on the face direction angle held by the face direction angle holding means, the face direction angle of the driver detected by the face direction detection means, and the line-of-sight direction. The remainder determination apparatus according to any one of claims 1 to 5 .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007168124A JP5082620B2 (en) | 2007-06-26 | 2007-06-26 | Judgment judgment device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007168124A JP5082620B2 (en) | 2007-06-26 | 2007-06-26 | Judgment judgment device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009009244A JP2009009244A (en) | 2009-01-15 |
JP5082620B2 true JP5082620B2 (en) | 2012-11-28 |
Family
ID=40324283
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007168124A Expired - Fee Related JP5082620B2 (en) | 2007-06-26 | 2007-06-26 | Judgment judgment device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5082620B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5640481B2 (en) * | 2010-06-11 | 2014-12-17 | 日産自動車株式会社 | Information providing apparatus and information providing method |
JP5549721B2 (en) * | 2011-12-26 | 2014-07-16 | 株式会社デンソー | Driver monitor device |
JP5505434B2 (en) * | 2012-02-09 | 2014-05-28 | 株式会社デンソー | Armpit judging device |
JP2016224615A (en) * | 2015-05-28 | 2016-12-28 | 株式会社デンソー | Alarm control device |
WO2024079841A1 (en) * | 2022-10-13 | 2024-04-18 | 日本電気株式会社 | State recognition device, state recognition method, computer readable medium, task execution system, and task execution method |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4319535B2 (en) * | 2003-12-19 | 2009-08-26 | 株式会社東海理化電機製作所 | Face orientation detection device |
JP2005284975A (en) * | 2004-03-30 | 2005-10-13 | Honda Motor Co Ltd | Traveling safety device |
JP2006192966A (en) * | 2005-01-11 | 2006-07-27 | Toyota Motor Corp | Controller for vehicle |
JP2007045169A (en) * | 2005-08-05 | 2007-02-22 | Aisin Aw Co Ltd | Information processor for vehicle |
JP4725254B2 (en) * | 2005-09-05 | 2011-07-13 | トヨタ自動車株式会社 | Armpit judging device |
-
2007
- 2007-06-26 JP JP2007168124A patent/JP5082620B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009009244A (en) | 2009-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5992130B2 (en) | Automatic adjustment device, automatic adjustment system, and automatic adjustment method | |
US9619722B2 (en) | Gaze direction detection device, and gaze direction detection method | |
JP5092776B2 (en) | Gaze direction detection device and gaze direction detection method | |
WO2018150485A1 (en) | Driving state determination device and driving state determination method | |
JP6288653B2 (en) | Driver attention detection method and apparatus | |
US20180354440A1 (en) | Method and system for automatic adjustment of at least one piece of equipment of a motor vehicle | |
WO2015125243A1 (en) | Display control device, display control method for display control device, gaze direction detecting system, and callibration control method for gaze direction detecting system | |
JP5082620B2 (en) | Judgment judgment device | |
CN101713644A (en) | Eye detection system using a single camera | |
WO2010061272A1 (en) | Vehicle display device and display method | |
JP3903387B2 (en) | Method and apparatus for measuring driver's head position | |
JP2006293909A (en) | Driver sight line direction detecting device | |
JP2010018201A (en) | Driver assistant device, driver assistant method, and driver assistant processing program | |
JP4779484B2 (en) | Display angle control device | |
JP6187155B2 (en) | Gaze target estimation device | |
JP2008062805A (en) | Vehicular rear-view mirror device | |
JP6814977B2 (en) | Image processing device, detection device, learning device, image processing method, and image processing program | |
JP5161685B2 (en) | Gaze measurement apparatus and program | |
KR20090052413A (en) | Driver gaze confrontation front screen display unit and method | |
KR20150058728A (en) | Mirrorless System for Vehicle | |
JP2009248812A (en) | Driving assistance device | |
JP4706917B2 (en) | Driver monitoring system | |
JP2016207174A (en) | Vehicle safe driving promotion method and vehicle safe driving promotion device | |
CN115050089A (en) | Correction device, correction method, drive recorder, vehicle, and storage medium | |
JP2007038859A (en) | Control device for display apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090922 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110531 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110601 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110725 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111213 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120807 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120820 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5082620 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150914 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |