JP2004161087A - Seat belt alarm device - Google Patents

Seat belt alarm device Download PDF

Info

Publication number
JP2004161087A
JP2004161087A JP2002327907A JP2002327907A JP2004161087A JP 2004161087 A JP2004161087 A JP 2004161087A JP 2002327907 A JP2002327907 A JP 2002327907A JP 2002327907 A JP2002327907 A JP 2002327907A JP 2004161087 A JP2004161087 A JP 2004161087A
Authority
JP
Japan
Prior art keywords
seat belt
seat
occupant
wearing
notification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002327907A
Other languages
Japanese (ja)
Other versions
JP3821088B2 (en
Inventor
Masabumi Tsuji
正文 辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2002327907A priority Critical patent/JP3821088B2/en
Publication of JP2004161087A publication Critical patent/JP2004161087A/en
Application granted granted Critical
Publication of JP3821088B2 publication Critical patent/JP3821088B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a seat belt alarm device to inform an occupant of a wearing state of a seat belt by detecting it. <P>SOLUTION: This seat belt alarm device has an infrared ray camera 1 to photograph an indoor seat and make it a heat image, a seat belt sensor 3 to detect whether the seat belt of each of the seats is worn or not and a wheel speed sensor 4 to detect travelling speed which are connected to a microcomputer 2. The microcomputer 2 determines the seat on which the occupant is seated by processing a heat image data and detects the wearing state of the seat belt by using discontinuity of surface temperature distribution of an upper half body of the occupant's especially of a face and a scruff. Displays 5a, 5b and a speaker 6 are connected to the microcomputer 2 and inform mainly a driver of the wearing state of the seat belt by the display 5b in the case when the vehicle is in a stopping state and mainly a fellow occupant of it by the display 5a in the case when the vehicle is in the middle of travelling. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、シートベルト着用の警報装置に関する。
【0002】
【従来の技術】
【特許文献1】特開平10−226314号公報
シートベルト着用促進装置として、シートベルト着用検出機構により、運転者がシートベルト未着用であると検知された場合には、音声発生機構にて運転者にシートベルトの着用を促す報知をすることにより、シートベルトの着用を促すものが知られている(特開平10−226314号広報参照)。
【0003】
【発明が解決しようとする課題】
しかしながら、単にシートベルトを着用しているか否かだけの判断によるものでは不十分であった。
本発明は、上記の問題点を解決するために、シートベルトの着用状態を判断できるシートベルト警報装置を提供することを目的とする。
【0004】
【課題を解決するための手段】
このため、本発明は、車室内の座席を撮影し熱画像を取得する撮像手段と、前記熱画像から各座席に乗員が居るかどうかを判定する乗員検出手段と、少なくとも乗員の居る座席のシートベルトが着用状態であるか否かを判断するシートベルト着用判断手段と、前記熱画像を用い、前記座席に着座してシートベルトを着用している乗員毎にシートベルトの着用状態を判断する着用状態判断手段と、該着用状態判断手段の判断結果に基づいて、警報を報知するか否かを判断する報知判断手段と、警報を報知する報知手段を備え、前記着用状態判断手段は、顔または首筋とシートベルトの表面温度の分布からシートベルトが顔または首筋にかかっていることを検出するものとした。
【0005】
【発明の効果】
本発明により、顔、首筋を熱画像から抽出して、顔、首筋などとシートベルトの表面温度の差からシートベルトが顔または首筋にかかっていることを検出して警報することができる。
【0006】
【発明の実施の形態】
以下本発明の実施の形態を説明する。
図1はシートベルト警報装置のブロック構成図である。
シートベルト警報装置は、車内の座席に着座している乗員の上半身を撮影し熱画像とする赤外線カメラ1、各座席のシートベルトタングがシートベルトバックルに接続されているか否かを検出するシートベルトセンサ3、走行速度を検出する車輪速センサ4がマイクロコンピュータ2に接続している。
【0007】
マイクロコンピュータ2は、赤外線カメラ1により取得された熱画像のデータを処理して、乗員の居る座席を判断するとともに、乗員の上半身の特に顔および首筋の表面温度分布の不連続性を利用して、シートベルトの着用状態を検出する。
また、マイクロコンピュータ2は、シートベルトセンサ3からの信号により、各座席のシートベルトを着用しているかどうかの判断と、車輪速センサ4からの速度信号により車両が停車中か走行中かを検出する。
【0008】
マイクロコンピュータ2には、さらにディスプレイ5とスピーカー6が接続しており、マイクロコンピュータ2が上記赤外線カメラ1、シートベルトセンサ3および車輪速センサ4の情報または信号から、シートベルトの着用に対する乗員への報知が必要と判定した場合、ディスプレイ5にその警報内容を表示して、またスピーカー6にて音または音声による報知をする。
ディスプレイ5は、運転者以外の乗員がその表示を確認できる車両前部のセンターコンソールに設けられたディスプレイ5aと、運転者が確認できる位置に設けられたディスプレイ5bとから構成される。
【0009】
以下にさらに詳細に各構成の説明をする。
赤外線カメラ1は、車両の前部席前方の上方、左右方向のほぼ中央に、やや斜め下方に車両後方に向いて設置し、前部席および後部席に着座している乗員全員の上半身を撮影可能に設定する。
赤外線カメラ1の赤外線センサは例えば非冷却型のアモルファスシリコンで構成され、その検知波長を太陽光線で加熱された座席シートや衣服などから放射される赤外線波長からの影響を避けるため、例えば10μm帯の遠赤外線とする。
【0010】
マイクロコンピュータ2は画像一時記憶部21、乗員検出部22、シートベルト着用状態判断部23、シートベルト着用判断部24、走行状態検出部25、報知判断部26から構成されている。
画像一時記憶部21は、赤外線カメラ1の撮像した車室内の熱画像のデータを一時記憶する。
乗員検出部22は、画像一時記憶部21から画像のデータを読み出し、前もって赤外線カメラ1の位置および撮影方向と車両の座席配置から決まる、各座席に着席したとき乗員が写ると予想される画像の区画に熱画像を区切り、各区画において画像濃度が所定値より高い領域が所定の面積以上存在しているかどうかを判定する。この結果、座席毎に乗員が居るかどうか判定される。
【0011】
シートベルト着用状態判定部23は、乗員検出部22で乗員が居ると判定した座席に対応する熱画像の区画に対して、露出している顔、首筋部分から放射される遠赤外線の強度が他の衣服で覆われている部分より強いことを利用して楕円に近い頭部の抽出とそれに下方に続く括れ部を熱画像から抽出する。
顔または首筋にシートベルトがかかっている場合、顔または首筋の画像濃度分布に不連続性が生じるのを利用して、所定の数値以上の濃度のジャンプ部を顔または首筋に検出した場合を判定する。
【0012】
シートベルト着用判断部24は、各座席に設置された図4に示すようなシートベルト33のシートベルトタングがシートベルトバックルに接続されているかどうかの信号を検知して、座席ごとにシートベルトの着用の有無を判断する。
【0013】
走行状態検出部25は、車輪速センサ4からの信号を取得して、車両が走行状態か否かを検出する。
報知判断部26は、報知が必要かどうか、ディスプレイ5a、5bとスピーカー6のいずれを使って報知するかを判断して、シートベルトの無着用、シートベルトの着用状態に対する警報を出力させる。
【0014】
本実施の形態の作用を以下に説明する。
図2はシートベルト警報を出力する流れを示すフローチャートである。このフローチャートでは特にシートベルトの着用状態に対する報知に注目して説明する。
ステップ101では、運転者は、マイクロコンピュータ2に画像処理による判断のための設定値などの初期設定を行う。
【0015】
つまり、赤外線カメラ1で撮影される車室内の熱画像の各座席に対応する画像処理上の画像区画の区切り設定、乗員が該当する座席に存在するか否かを判断するための熱画像の濃度閾値、濃度閾値以上を示す領域の面積閾値、乗員の顔部分を抽出するための座席位置ごとの乗員の顔の大きさ、シートベルトの着用状態検出のための表面温度分布のジャンプ量、車輪速の走行状態判定値など、乗員検出部22、シートベルト着用状態判断部23、走行状態検出部25のための設定を行う。
ステップ101の後、ステップ102に進む。
【0016】
ステップ102では、赤外線カメラ1は車室内の熱画像を取得し、それをマイクロコンピュータ2が画像一時記憶部21に記憶する。
図3に1名の乗員の胸部から上の上半身の熱画像の例を模式的に示す。顔の部分および首筋の露出している部分の表面温度が高い部位の画像濃度が高く、衣服や左肩から斜めにかけられたシートベルトの部分は濃度が低い。
【0017】
ステップ103では、乗員検出部22は画像一時記憶部21の熱画像のデータから座席ごとに乗員の有無を検出する。予め熱画像の全領域から座席ごとに対応して区画された画像区画に分割し、所定の画素濃度以上を示す人の温度分布を示す領域面積が所定値以上含まれている場合に、対応する画像区画つまり対応する座席に乗員が居ると判断する。
【0018】
ステップ104では、シートベルト着用判断部24は、各座席のシートベルトセンサ3からの信号を読み込み、各座席のシートベルトが着用されているか否かを判断して記憶する。
ステップ105では、シートベルト着用状態判断部23は、ステップ103、104の結果を用いて、座席に乗員が居ると判断されかつシートベルト着用信号を検出した座席に対して画像一時記憶部21に記憶された熱画像のデータから、対応する座席の区画部分の熱画像のデータを読み出し、画像処理でシートベルト33のたすき部が顔または首筋にかかっているかどうか、つまりシートベルト着用状態を判断する。
【0019】
図4にシートベルトの着用状態の例を示す。
図4の(a)は、前部席シート31、ここでは助手席に大人が着座してシートベルト33を着用している模式図であり、シートベルト33のたすき部が肩から胸、腰にかけて斜め下にかかっているシートベルトの着用状態を示す。
これに対し、図4の(b)は、助手席に子供が着座している場合の例であり、シートベルト33のたすき部が顔の一部および首筋から胸にかけて斜め下にかかっている着用状態を示す。
【0020】
同様に図4の(c)は後部席シート32の場合の例を示す。図の左側は子供が着座しており、シートベルト33のたすき部が顔の一部および首筋から胸にかけて斜め下にかかっているシートベルトの着用状態である。右側は大人が顔、首筋にかからずにシートベルトを着用している状態を示す。
【0021】
ステップ106では、ステップ105での判断結果をチェックして、顔または首筋にかからないシートベルトの着用状態の場合(NO)はこの処理を終わり、ステップ102に戻る。顔または首筋にかかるシートベルトの着用状態の場合(YES)は、ステップ107に進む。
ステップ107では、走行状態検出部25は、車輪速センサ4から車速信号つまり車両の走行状態を示す信号を受け、走行中か停車中かの判断をしてその結果を報知判断部26に出力する。
ステップ108では、報知判断部26は、走行状態か停車状態かステップ107の判断をチェックする。走行状態の場合はステップ109に、停車中の場合はステップ110に進む。
【0022】
ステップ109では、報知判断部26は、スピーカー6を報知手段として選択して、音声によるシートベルトの着用状態に対する警報を発する。また、ディスプレイ5aに表示して同乗者に該当座席位置を示す。
この報知方法は主に同乗者に対しての注意喚起を行うものである。
ステップ109で一連の動作は終了しステップ102に戻る。
【0023】
ステップ110では、報知判断部26は、ディスプレイ5bを報知手段として選択して、運転者にシートベルトの着用状態に対する警報表示と該当座席位置を示す。
この報知方法は主に運転者に対してシートベルトの着用状態を報知するものである。
ステップ110で一連の動作は終了しステップ102に戻る。
【0024】
本実施の形態の赤外線カメラ1は本発明の撮像手段を、ステップ103は乗員検出手段を、ステップ104はシートベルト着用判断手段を、ステップ105は着用状態判断手段を、ステップ107と108は報知判断手段を、ディスプレイ5とスピーカー6は報知手段を構成し、特にステップ107は走行状態検出手段を、ステップ108は報知選択手段を構成する。
【0025】
以上のように本実施の形態によれば、熱画像から抽出した顔や首筋の人体の表面温度を示す領域の一部が、シートベルによって覆われている場合、シートベルトの部分の画像濃度は薄いことから、その部分の画像の濃度分布の変化の大きさから、シートベルトが顔または首筋にかかっているシートベルトの着用状態を容易に検出でき判断できる。
【0026】
さらに、車両の走行状態によって自動的に警報の報知方法を変えるので、停車中または走行中に対して適切な報知方法となる。
特に停車状態では、音声によるシートベルト警報が出続けて煩わしいということがなく、主に運転者への表示警報だけとなる。また、走行状態では同乗者に対する注意喚起を音声で促す構成なので、運転者は運転に注意を集中できる。
【0027】
なお、赤外線カメラの検知赤外線が10μm波長帯の人体放射の赤外線であるので、目的とする人体が他の車内外の映像部分より強調された映像となり、座席に乗員がいるかどうかを判別する2値化処理をしやすい赤外線画像が昼間、夜間に関わらず得られる。
ガラスは10μm波長帯の赤外線を透過しにくいので、赤外線カメラに窓の景色が映りこんでも、熱画像には反映されず、画像処理がしやすい。
特に太陽光線によって座席シートが加熱されている場合でも、また露出した顔や首筋のような部位を、他の衣服で覆われた体の領域から、画像の濃度によって容易に抽出できる。
【0028】
次に本実施の形態の変形例を説明する。
本変形例では、図1のシートベルトセンサ3を不要とするものであり、画像一時記憶部に記憶した熱画像を用いて、シートベルト着用判断部において、画像処理によって乗員がシートベルトを着用しているかどうかを判断する。
本変形例の場合、図2のフローチャートのステップ104では、シートベルトセンサ3からの信号を取得する代わりに、各座席着座者のシートベルト着用の有無を熱画像から判断する。
【0029】
シートベルトは厚い丈夫な繊維で構成されており、衣服の上から装着されたシートベルトのたすき部は人体からの遠赤外線をさらに遮断する効果がある。したがって熱画像において上半身部の熱画像の濃度分布から、シートベルトのたすき部に対応する画素の低濃度の帯状パターンを画像認識することによって、シートベルトを着用しているか否かを判別できる。
本変形例によれば、シートベルトセンサ3が省略できる。
【0030】
なお、熱画像の画像処理においてシートベルトを識別しやすいように、図5に示すように、太陽光の熱または体温の伝導による熱を遠赤外線に変換して効果的に放出するジルコニア、チタニア、アルミナなどのセラミック素材を含む繊維を縫いこむか、そのような素材を含むフィルムを貼り付けて、マーカーとしてもよい。そのようなマーカー付のシートベルト33’を着用した例を図5に示す。
【0031】
このような遠赤外線を放射しやすい素材をシートベルト33’に付することにより、シートベルトを着用すると遠赤外線の弱いバンド領域の中に遠赤外線を強く放出する領域を含むので、シートベルトの着用の有無を画像認識によって容易に判断できる。
【0032】
また、逆にシートベルトに比較的遠赤外線を吸収または遮断する素材、例えば木綿、ガラス繊維をマーカーとして使用して、衣服をつけている部分よりもシートベルト部分の熱画像の濃度がより低くなるようにしてもよい。
本変形例によれば、シートベルト着用の有無が熱画像から容易に判断できる。
【0033】
以上の実施の形態では、赤外線カメラ1は前部席前方上部に1台設置する構成としたが、適切に各座席の乗員の上半身が撮影できるように複数設けてもよい。また、ディスプレイ5は、同乗者に見えやすいセンターコンソールにディスプレイ5aを、運転者に見やすい位置にディスプレイ5bを別個に設置する構成としたが、両者から見やすいセンターコンソールの運転者よりの位置に一つとしてもよい。
【図面の簡単な説明】
【図1】本発明の実施の形態の構成を示す図である。
【図2】本発明の作用を説明するフローチャートである。
【図3】赤外線カメラで撮影した熱画像の例を示す図である。
【図4】シートベルト着用状態を説明する図である。
【図5】実施の形態の変形例を示す図である。
【符号の説明】
1 赤外線カメラ
2 マイクロコンピュータ
3 シートベルトセンサ
4 車輪速センサ
5、5a、5b ディスプレイ
6 スピーカー
21 画像一時記憶部
22 乗員検出部
23 シートベルト着用状態判断部
24 シートベルト着用判断部
25 走行状態検出部
26 報知判断部
31 前部席シート
32 後部席シート
33 シートベルト
33’ シートベルト
34 乗員
35 乗員
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an alarm device for wearing a seat belt.
[0002]
[Prior art]
[Patent Document 1] Japanese Patent Application Laid-Open No. 10-226314 As a seat belt wearing promotion device, when a driver detects that a driver is not wearing a seat belt by a seat belt wearing detecting mechanism, the driver generates a sound by a voice generating mechanism. There is known a device that informs the user to wear a seatbelt to encourage the user to wear a seatbelt (see Japanese Patent Application Laid-Open No. 10-226314).
[0003]
[Problems to be solved by the invention]
However, it was not sufficient to simply judge whether or not a seat belt was worn.
SUMMARY OF THE INVENTION It is an object of the present invention to provide a seat belt alarm device that can determine a wearing state of a seat belt in order to solve the above problems.
[0004]
[Means for Solving the Problems]
For this reason, the present invention provides imaging means for photographing a seat in a passenger compartment to obtain a thermal image, occupant detecting means for determining whether or not an occupant is present in each seat from the thermal image, and at least a seat for the occupant seat. Seat belt wearing determining means for determining whether the belt is in a worn state, and wearing using the thermal image to determine the wearing state of the seat belt for each occupant sitting on the seat and wearing the seat belt. State determining means, based on a determination result of the wearing state determining means, a notification determining means for determining whether or not to notify an alarm, and a notifying means for notifying an alarm, the wearing state determining means, face or It is determined that the seat belt is applied to the face or the neck from the distribution of the surface temperature of the neck and the seat belt.
[0005]
【The invention's effect】
According to the present invention, it is possible to extract a face or a neck from a thermal image and detect and warn that the seat belt is applied to the face or the neck from a difference between the surface temperature of the face or the neck and the seat belt.
[0006]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described.
FIG. 1 is a block diagram of the seat belt alarm device.
The seatbelt alarm device is an infrared camera 1 for taking a thermal image of an upper body of an occupant sitting in a seat in a vehicle and detecting whether or not a seatbelt tongue of each seat is connected to a seatbelt buckle. A sensor 3 and a wheel speed sensor 4 for detecting a traveling speed are connected to the microcomputer 2.
[0007]
The microcomputer 2 processes the thermal image data acquired by the infrared camera 1 to determine the seat where the occupant is, and utilizes the discontinuity of the surface temperature distribution of the upper body of the occupant, particularly the face and neck. Detects the wearing state of the seat belt.
The microcomputer 2 determines whether the seat belt of each seat is worn based on a signal from the seat belt sensor 3 and detects whether the vehicle is stopped or running based on a speed signal from the wheel speed sensor 4. I do.
[0008]
A display 5 and a speaker 6 are further connected to the microcomputer 2. The microcomputer 2 uses information or signals of the infrared camera 1, the seat belt sensor 3 and the wheel speed sensor 4 to give an occupant to wear a seat belt. When it is determined that the notification is necessary, the content of the warning is displayed on the display 5 and the speaker 6 gives a sound or voice notification.
The display 5 includes a display 5a provided on a center console at the front of the vehicle, in which an occupant other than the driver can check the display, and a display 5b provided in a position where the driver can check.
[0009]
Hereinafter, each configuration will be described in more detail.
The infrared camera 1 is installed in front of the front seat of the vehicle, substantially in the center in the left-right direction, slightly obliquely downward, facing the rear of the vehicle, and photographs the upper body of all the occupants sitting in the front seat and the rear seat. Set as possible.
The infrared sensor of the infrared camera 1 is made of, for example, uncooled amorphous silicon, and its detection wavelength is, for example, 10 μm band in order to avoid the influence of the infrared wavelength radiated from a seat or clothes heated by sunlight. Far infrared rays.
[0010]
The microcomputer 2 includes an image temporary storage unit 21, an occupant detection unit 22, a seat belt wearing state determining unit 23, a seat belt wearing determining unit 24, a running state detecting unit 25, and a notification determining unit 26.
The image temporary storage unit 21 temporarily stores data of a thermal image of the vehicle interior taken by the infrared camera 1.
The occupant detection unit 22 reads the image data from the image temporary storage unit 21 and determines in advance the position and the photographing direction of the infrared camera 1 and the seat arrangement of the vehicle. The thermal image is divided into sections, and it is determined whether or not a region having an image density higher than a predetermined value in each section has a predetermined area or more. As a result, it is determined whether an occupant is present for each seat.
[0011]
The seatbelt wearing state determination unit 23 determines whether the intensity of the far infrared rays radiated from the exposed face and neck is different for the section of the thermal image corresponding to the seat determined to be occupied by the occupant detection unit 22. Using the fact that it is stronger than the part covered by the clothing, the extraction of the head close to the ellipse and the constriction below it are extracted from the thermal image.
When a seatbelt is applied to the face or neck, it is determined whether a jump portion with a density equal to or higher than a predetermined value is detected in the face or neck using discontinuity in the image density distribution of the face or neck. I do.
[0012]
The seatbelt wearing determination unit 24 detects a signal indicating whether or not the seatbelt tongue of the seatbelt 33 installed in each seat as shown in FIG. 4 is connected to the seatbelt buckle. Judge whether or not to wear.
[0013]
The traveling state detection unit 25 acquires a signal from the wheel speed sensor 4 and detects whether the vehicle is in a traveling state.
The notification determination unit 26 determines whether the notification is required and which of the displays 5a and 5b and the speaker 6 is used for the notification, and outputs an alarm for the non-wearing of the seat belt and the wearing state of the seat belt.
[0014]
The operation of the present embodiment will be described below.
FIG. 2 is a flowchart showing a flow of outputting a seat belt alarm. In this flowchart, description will be given focusing on the notification regarding the wearing state of the seat belt.
In step 101, the driver makes an initial setting of the microcomputer 2 such as set values for determination by image processing.
[0015]
In other words, the image processing section corresponding to each seat in the thermal image of the passenger compartment taken by the infrared camera 1 is set in image processing, and the density of the thermal image for determining whether or not the occupant is present in the corresponding seat. The threshold, the area threshold of the area showing the density threshold or more, the size of the occupant's face for each seat position for extracting the occupant's face, the jump amount of the surface temperature distribution for detecting the wearing state of the seat belt, the wheel speed The settings for the occupant detection unit 22, the seat belt wearing state determination unit 23, and the traveling state detection unit 25, such as the traveling state determination value, are performed.
After step 101, the process proceeds to step 102.
[0016]
In step 102, the infrared camera 1 acquires a thermal image of the vehicle interior, and the microcomputer 2 stores the thermal image in the image temporary storage unit 21.
FIG. 3 schematically shows an example of a thermal image of the upper body from the chest of one occupant. The image density is high in the part where the surface temperature is high in the face part and the exposed part of the neck muscle, and the density is low in the clothes and the part of the seat belt obliquely worn from the left shoulder.
[0017]
In step 103, the occupant detection unit 22 detects the presence or absence of an occupant for each seat from the thermal image data in the temporary image storage unit 21. The entire area of the thermal image is divided in advance into image sections divided corresponding to each seat, and the area corresponding to the case where the area area indicating the temperature distribution of a person exhibiting a predetermined pixel density or higher is included in a predetermined value or more is included. It is determined that the occupant is in the image section, that is, the corresponding seat.
[0018]
In step 104, the seat belt wearing determination unit 24 reads a signal from the seat belt sensor 3 of each seat, determines whether or not the seat belt of each seat is worn, and stores it.
In step 105, the seat belt wearing state determination unit 23 stores the seat in which the occupant is determined to be present in the seat and detects the seat belt wearing signal in the image temporary storage unit 21 using the results of steps 103 and 104. The data of the thermal image of the corresponding section of the seat is read out from the data of the thermal image thus obtained, and it is determined by image processing whether or not the cross section of the seat belt 33 is on the face or the neck, that is, the state of wearing the seat belt.
[0019]
FIG. 4 shows an example of a wearing state of the seat belt.
FIG. 4A is a schematic diagram in which an adult sits on a front seat 31, here, a passenger seat and wears a seat belt 33, and a cross section of the seat belt 33 extends from shoulder to chest and waist. The wearing state of the seatbelt hanging diagonally below is shown.
On the other hand, FIG. 4B shows an example in which a child is seated in the passenger seat, and the seat belt 33 is worn diagonally downward from a part of the face and the neck to the chest. Indicates the status.
[0020]
Similarly, FIG. 4C shows an example of the case of the rear seat 32. The left side of the figure is a state in which the child is seated, and the seatbelt of the seatbelt 33 is worn obliquely downward from a part of the face and the neck to the chest. The right side shows a state in which an adult wears a seat belt without leaning on the face and neck.
[0021]
In step 106, the result of the determination in step 105 is checked. If the seat belt is not worn on the face or neck (NO), this process ends, and the process returns to step 102. If the seat belt is worn on the face or neck (YES), the process proceeds to step 107.
In step 107, the traveling state detection unit 25 receives the vehicle speed signal, that is, a signal indicating the traveling state of the vehicle, from the wheel speed sensor 4, determines whether the vehicle is traveling or stopped, and outputs the result to the notification determination unit 26. .
In step 108, the notification determination unit 26 checks the determination in step 107 whether the vehicle is in the traveling state or the stopped state. If the vehicle is running, the process proceeds to step 109;
[0022]
In step 109, the notification determination unit 26 selects the speaker 6 as a notification unit, and issues an alarm for the wearing state of the seat belt by voice. In addition, the corresponding seat position is displayed on the display 5a for the fellow passenger.
This notification method mainly alerts passengers.
In step 109, a series of operations ends, and the process returns to step 102.
[0023]
In step 110, the notification determination unit 26 selects the display 5b as the notification means, and indicates to the driver an alarm display for the wearing state of the seat belt and the corresponding seat position.
This notification method is mainly for notifying the driver of the wearing state of the seat belt.
In step 110, a series of operations ends, and the process returns to step 102.
[0024]
The infrared camera 1 of the present embodiment is the imaging means of the present invention, step 103 is an occupant detection means, step 104 is a seat belt wearing determination means, step 105 is a wearing state determination means, and steps 107 and 108 are information determination. The means, the display 5 and the speaker 6 constitute a notifying means. In particular, step 107 constitutes a traveling state detecting means, and step 108 constitutes a notifying selecting means.
[0025]
As described above, according to the present embodiment, when a part of the area indicating the surface temperature of the human body such as the face and neck extracted from the thermal image is covered by the seatbell, the image density of the seatbelt portion is Since it is thin, the wearing state of the seat belt with the seat belt resting on the face or neck can be easily detected and determined from the magnitude of the change in the density distribution of the image in that portion.
[0026]
Further, the method of notifying an alarm is automatically changed according to the running state of the vehicle, so that the method is appropriate for stopping or running.
In particular, when the vehicle is stopped, the seat belt warning by voice does not continue to be issued, so that it is not bothersome, and only the display warning is mainly given to the driver. Further, in the running state, the driver is alerted by voice so that the driver can concentrate his attention on driving.
[0027]
Since the infrared rays detected by the infrared camera are infrared rays emitted from the human body in a wavelength band of 10 μm, the image of the target human body is emphasized from other image areas inside and outside the vehicle, and a binary value for determining whether or not there is an occupant in the seat. An infrared image that can be easily converted is obtained regardless of daytime or nighttime.
Since the glass hardly transmits infrared rays in the 10 μm wavelength band, even if the scene of the window is reflected on the infrared camera, it is not reflected on the thermal image, and image processing is easy.
In particular, even when the seat is heated by the sun rays, an area such as the exposed face or neck can be easily extracted from the body area covered with other clothes by the density of the image.
[0028]
Next, a modified example of the present embodiment will be described.
In the present modified example, the seat belt sensor 3 of FIG. 1 is unnecessary, and the occupant wears the seat belt by image processing in the seat belt wearing determination unit using the thermal image stored in the image temporary storage unit. To determine if it is.
In the case of this modification, in step 104 of the flowchart of FIG. 2, instead of acquiring the signal from the seat belt sensor 3, it is determined from the thermal image whether or not each seat occupant wears the seat belt.
[0029]
The seat belt is made of thick and durable fiber, and the cross section of the seat belt worn over clothes has an effect of further blocking far-infrared rays from the human body. Therefore, it is possible to determine whether or not the user wears the seat belt by recognizing the low-density band-like pattern of the pixel corresponding to the cross section of the seat belt from the density distribution of the thermal image of the upper body in the thermal image.
According to this modification, the seat belt sensor 3 can be omitted.
[0030]
In addition, as shown in FIG. 5, zirconia, titania, which converts heat of sunlight or heat due to conduction of body temperature into far-infrared rays and effectively emits the infrared rays so as to easily identify the seat belt in image processing of the thermal image. The marker may be sewn with a fiber containing a ceramic material such as alumina or pasted with a film containing such a material. FIG. 5 shows an example in which such a seatbelt 33 'with a marker is worn.
[0031]
By attaching such a material that easily emits far-infrared rays to the seatbelt 33 ', when the seatbelt is worn, an area that strongly emits far-infrared rays is included in a band area where far-infrared rays are weak. Can easily be determined by image recognition.
[0032]
Conversely, using a material that absorbs or blocks relatively far infrared rays in the seat belt, for example, cotton or glass fiber as a marker, the thermal image density of the seat belt part is lower than that of the part wearing clothes. You may do so.
According to this modification, the presence / absence of wearing of the seat belt can be easily determined from the thermal image.
[0033]
In the above embodiment, one infrared camera 1 is installed at the upper front part of the front seat. However, a plurality of infrared cameras 1 may be provided so that the upper body of the occupant of each seat can be appropriately photographed. In addition, the display 5 has a configuration in which the display 5a is separately installed on the center console which is easy for the passenger to see, and the display 5b is separately installed at a position easy for the driver to see. It may be.
[Brief description of the drawings]
FIG. 1 is a diagram showing a configuration of an embodiment of the present invention.
FIG. 2 is a flowchart illustrating the operation of the present invention.
FIG. 3 is a diagram illustrating an example of a thermal image captured by an infrared camera.
FIG. 4 is a diagram illustrating a state in which a seat belt is worn.
FIG. 5 is a diagram showing a modification of the embodiment.
[Explanation of symbols]
Reference Signs List 1 infrared camera 2 microcomputer 3 seat belt sensor 4 wheel speed sensor 5, 5a, 5b display 6 speaker 21 image temporary storage unit 22 occupant detection unit 23 seat belt wearing state determining unit 24 seat belt wearing determining unit 25 running state detecting unit 26 Information determination unit 31 Front seat 32 Rear seat 33 Seat belt 33 'Seat belt 34 Passenger 35 Passenger 35

Claims (5)

車室内の座席を撮影し熱画像を取得する撮像手段と、
前記熱画像から各座席に乗員が居るかどうかを判定する乗員検出手段と、
少なくとも乗員の居る座席のシートベルトが着用状態であるか否かを判断するシートベルト着用判断手段と、
前記熱画像を用い、前記座席に着座してシートベルトを着用している乗員毎にシートベルトの着用状態を判断する着用状態判断手段と、
該着用状態判断手段の判断結果に基づいて、警報を報知するか否かを判断する報知判断手段と、
警報を報知する報知手段を備え、
前記着用状態判断手段は、顔または首筋とシートベルトの表面温度の分布からシートベルトが顔または首筋にかかっていることを検出することを特徴とするシートベルト警報装置。
Imaging means for photographing a seat in the passenger compartment and acquiring a thermal image,
Occupant detection means for determining whether an occupant is present in each seat from the thermal image,
Seat belt wearing determining means for determining whether at least the seat belt of the seat where the occupant is in the wearing state,
Using the thermal image, wearing state determination means for determining the wearing state of the seat belt for each occupant sitting on the seat and wearing a seat belt,
Based on the determination result of the wearing state determination means, notification determination means to determine whether to notify an alarm,
Equipped with a notification means for notifying an alarm,
The seat belt alarm device according to claim 1, wherein the wearing state determining means detects that the seat belt is applied to the face or the neck from the distribution of the surface temperature of the face or the neck and the seat belt.
前記乗員検出手段は、前記熱画像から所定のレベル以上の発熱を示す発熱領域を各座席の位置に対応して抽出して、前記発熱領域の面積を所定値と比較することによって、前記座席に乗員が居るかどうかを判定することを特徴とする請求項1に記載のシートベルト警報装置。The occupant detection unit extracts a heat generation region indicating heat generation of a predetermined level or more from the thermal image corresponding to the position of each seat, and compares the area of the heat generation region with a predetermined value, thereby providing the seat with the heat generation region. 2. The seat belt alarm device according to claim 1, wherein it is determined whether an occupant is present. 前記報知判断手段は、
車両の走行状態を検出する走行状態検出手段と、
該走行状態検出手段の検出した車両の走行状態に基づいて乗員に警報を報知する方法を選択する報知選択手段とを有することを特徴とする請求項1または2に記載のシートベルト警報装置。
The notification determining means,
Traveling state detection means for detecting the traveling state of the vehicle,
3. The seat belt warning device according to claim 1, further comprising: a notification selecting unit that selects a method of notifying an occupant of a warning based on the running state of the vehicle detected by the running state detecting unit.
前記報知選択手段は、
車両が停車中の場合は表示報知を選択し、走行中の場合は音声報知を選択することを特徴とする請求項3に記載のシートベルト警報装置。
The notification selection means,
The seat belt alarm device according to claim 3, wherein the display notification is selected when the vehicle is stopped, and the voice notification is selected when the vehicle is running.
前記シートベルト着用判断手段は、
前記熱画像から前記シートベルトを検出することでシートベルトの着用判断を行うことを特徴とする請求項1から4のいずれか1に記載のシートベルト警報装置。
The seat belt wearing determination means,
The seatbelt alarm device according to any one of claims 1 to 4, wherein the seatbelt wearing determination is performed by detecting the seatbelt from the thermal image.
JP2002327907A 2002-11-12 2002-11-12 Seat belt alarm device Expired - Fee Related JP3821088B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002327907A JP3821088B2 (en) 2002-11-12 2002-11-12 Seat belt alarm device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002327907A JP3821088B2 (en) 2002-11-12 2002-11-12 Seat belt alarm device

Publications (2)

Publication Number Publication Date
JP2004161087A true JP2004161087A (en) 2004-06-10
JP3821088B2 JP3821088B2 (en) 2006-09-13

Family

ID=32806358

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002327907A Expired - Fee Related JP3821088B2 (en) 2002-11-12 2002-11-12 Seat belt alarm device

Country Status (1)

Country Link
JP (1) JP3821088B2 (en)

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008254506A (en) * 2007-04-02 2008-10-23 Toyota Motor Corp Seat belt wearing system and seat belt wear promoting method
US8036795B2 (en) * 2008-10-08 2011-10-11 Honda Motor Company, Ltd. Image based occupant classification systems for determining occupant classification and seat belt status and vehicles having same
US8116528B2 (en) 2008-10-08 2012-02-14 Honda Motor Company, Ltd. Illumination source for an image based occupant classification system and vehicle using same
US8195356B2 (en) 2008-10-08 2012-06-05 Honda Motor Co., Ltd. Methods for testing an image based occupant classification system
CN102717773A (en) * 2012-06-01 2012-10-10 浙江吉利汽车研究院有限公司杭州分公司 Detection control method and device of automobile safety belt
CN102874210A (en) * 2012-06-18 2013-01-16 浙江吉利汽车研究院有限公司杭州分公司 Device for preventing seat belt from being tied spuriously
KR101461911B1 (en) 2013-07-25 2014-11-13 현대자동차주식회사 System and method of guiding to fasten safety belt correctly
JP2015029548A (en) * 2013-07-31 2015-02-16 京セラドキュメントソリューションズ株式会社 Body height detection device and image forming apparatus
US20150105976A1 (en) * 2013-10-11 2015-04-16 Panasonic Intellectual Property Corporation Of America Processing method, program, processing apparatus, and detection system
CN104554136A (en) * 2014-11-28 2015-04-29 广东好帮手电子科技股份有限公司 Safety prompt system based on vehicle-mounted navigator and camera and safety prompt method based on vehicle-mounted navigator and camera
KR20150112491A (en) * 2014-03-28 2015-10-07 동서대학교산학협력단 System for monitoring vehicle seat belt
JP2016041575A (en) * 2014-08-17 2016-03-31 トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド Advanced seatbelt interlock using video recognition
KR101696258B1 (en) * 2015-09-16 2017-01-13 (주)보부하이테크 System for preventing non-wearing of the seat belt for an automobile
CN106740662A (en) * 2017-02-09 2017-05-31 浙江吉利汽车研究院有限公司 A kind of vehicle intellectualized assistant driver seat safety belt reminding device and method
CN107176136A (en) * 2016-06-14 2017-09-19 徐建俭 A kind of safety alarm electronic equipment of motor vehicle
CN109204140A (en) * 2018-09-12 2019-01-15 广州星凯跃实业有限公司 A kind of vehicle-mounted rear-seat air monitoring system and monitoring method
JP2019042871A (en) * 2017-09-01 2019-03-22 川崎重工業株式会社 Robot system
WO2019196625A1 (en) * 2018-04-12 2019-10-17 京东方科技集团股份有限公司 Monitoring device, vehicle, monitoring method, and information processing device
CN112172736A (en) * 2020-10-20 2021-01-05 广州小鹏汽车科技有限公司 Vehicle-mounted safety system early warning method, vehicle-mounted safety system, vehicle and storage medium
CN112550213A (en) * 2020-12-23 2021-03-26 深圳中科讯联科技股份有限公司 Safety monitoring system based on radio frequency identification and vehicle
CN115123141A (en) * 2022-07-14 2022-09-30 东风汽车集团股份有限公司 Vision-based passenger safety belt reminding device and method

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103522980B (en) * 2013-10-14 2015-10-07 江苏理工学院 Vehicle safety driving control system and control method thereof

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60152904A (en) * 1984-01-20 1985-08-12 Nippon Denso Co Ltd Vehicle-driver-position recognizing apparatus
JPH0648267A (en) * 1992-08-04 1994-02-22 Nissan Motor Co Ltd Seat belt device
JPH0727968U (en) * 1993-10-28 1995-05-23 いすゞ自動車株式会社 Seat belt alarm device
JPH09210773A (en) * 1996-02-01 1997-08-15 Matsushita Electric Ind Co Ltd Presence detector
JPH1035415A (en) * 1996-07-26 1998-02-10 Masaru Kitagawa Seat belt unworn alarm for automatic transmission car
JPH10226314A (en) * 1997-02-14 1998-08-25 Enzou Sakata Seat belt fastening promoting device
JPH10315906A (en) * 1997-05-21 1998-12-02 Zexel Corp Occupant recognition method, occupant recognition device, air bag control method and air bag device
JPH1111256A (en) * 1997-06-23 1999-01-19 Nec Home Electron Ltd Occupant detection system
JPH11342831A (en) * 1998-06-02 1999-12-14 Nippon Seiko Kk Occupant restrictive and protective device for vehicle
JP2000219102A (en) * 1999-01-28 2000-08-08 Nsk Ltd Seat-belt device
JP2002079910A (en) * 2000-09-08 2002-03-19 Suzuki Motor Corp Warning device and method for seat belt
JP2002145018A (en) * 2000-11-13 2002-05-22 Nissan Motor Co Ltd Seat belt wearing device
JP2002211357A (en) * 2001-01-15 2002-07-31 Denso Corp Seat belt wearing promotion device
JP2002260119A (en) * 2001-03-06 2002-09-13 Toyota Motor Corp Alarm device and alarm method

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60152904A (en) * 1984-01-20 1985-08-12 Nippon Denso Co Ltd Vehicle-driver-position recognizing apparatus
JPH0648267A (en) * 1992-08-04 1994-02-22 Nissan Motor Co Ltd Seat belt device
JPH0727968U (en) * 1993-10-28 1995-05-23 いすゞ自動車株式会社 Seat belt alarm device
JPH09210773A (en) * 1996-02-01 1997-08-15 Matsushita Electric Ind Co Ltd Presence detector
JPH1035415A (en) * 1996-07-26 1998-02-10 Masaru Kitagawa Seat belt unworn alarm for automatic transmission car
JPH10226314A (en) * 1997-02-14 1998-08-25 Enzou Sakata Seat belt fastening promoting device
JPH10315906A (en) * 1997-05-21 1998-12-02 Zexel Corp Occupant recognition method, occupant recognition device, air bag control method and air bag device
JPH1111256A (en) * 1997-06-23 1999-01-19 Nec Home Electron Ltd Occupant detection system
JPH11342831A (en) * 1998-06-02 1999-12-14 Nippon Seiko Kk Occupant restrictive and protective device for vehicle
JP2000219102A (en) * 1999-01-28 2000-08-08 Nsk Ltd Seat-belt device
JP2002079910A (en) * 2000-09-08 2002-03-19 Suzuki Motor Corp Warning device and method for seat belt
JP2002145018A (en) * 2000-11-13 2002-05-22 Nissan Motor Co Ltd Seat belt wearing device
JP2002211357A (en) * 2001-01-15 2002-07-31 Denso Corp Seat belt wearing promotion device
JP2002260119A (en) * 2001-03-06 2002-09-13 Toyota Motor Corp Alarm device and alarm method

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008254506A (en) * 2007-04-02 2008-10-23 Toyota Motor Corp Seat belt wearing system and seat belt wear promoting method
US8036795B2 (en) * 2008-10-08 2011-10-11 Honda Motor Company, Ltd. Image based occupant classification systems for determining occupant classification and seat belt status and vehicles having same
US8116528B2 (en) 2008-10-08 2012-02-14 Honda Motor Company, Ltd. Illumination source for an image based occupant classification system and vehicle using same
US8195356B2 (en) 2008-10-08 2012-06-05 Honda Motor Co., Ltd. Methods for testing an image based occupant classification system
CN102717773A (en) * 2012-06-01 2012-10-10 浙江吉利汽车研究院有限公司杭州分公司 Detection control method and device of automobile safety belt
CN102874210A (en) * 2012-06-18 2013-01-16 浙江吉利汽车研究院有限公司杭州分公司 Device for preventing seat belt from being tied spuriously
KR101461911B1 (en) 2013-07-25 2014-11-13 현대자동차주식회사 System and method of guiding to fasten safety belt correctly
JP2015029548A (en) * 2013-07-31 2015-02-16 京セラドキュメントソリューションズ株式会社 Body height detection device and image forming apparatus
US20150105976A1 (en) * 2013-10-11 2015-04-16 Panasonic Intellectual Property Corporation Of America Processing method, program, processing apparatus, and detection system
JP2015096413A (en) * 2013-10-11 2015-05-21 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America Processing method, program, processing device, and detection system
US10272920B2 (en) * 2013-10-11 2019-04-30 Panasonic Intellectual Property Corporation Of America Processing method, program, processing apparatus, and detection system
US10829125B2 (en) * 2013-10-11 2020-11-10 Panasonic Intellectual Property Corporation Of America Processing method, program, processing apparatus, and detection system
US20190210608A1 (en) * 2013-10-11 2019-07-11 Panasonic Intellectual Property Corporation Of America Processing method, program, processing apparatus, and detection system
KR20150112491A (en) * 2014-03-28 2015-10-07 동서대학교산학협력단 System for monitoring vehicle seat belt
KR101579570B1 (en) * 2014-03-28 2015-12-22 동서대학교산학협력단 System for monitoring vehicle seat belt
JP2016041575A (en) * 2014-08-17 2016-03-31 トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド Advanced seatbelt interlock using video recognition
CN104554136A (en) * 2014-11-28 2015-04-29 广东好帮手电子科技股份有限公司 Safety prompt system based on vehicle-mounted navigator and camera and safety prompt method based on vehicle-mounted navigator and camera
KR101696258B1 (en) * 2015-09-16 2017-01-13 (주)보부하이테크 System for preventing non-wearing of the seat belt for an automobile
CN107176136A (en) * 2016-06-14 2017-09-19 徐建俭 A kind of safety alarm electronic equipment of motor vehicle
CN106740662A (en) * 2017-02-09 2017-05-31 浙江吉利汽车研究院有限公司 A kind of vehicle intellectualized assistant driver seat safety belt reminding device and method
JP2019042871A (en) * 2017-09-01 2019-03-22 川崎重工業株式会社 Robot system
JP7011910B2 (en) 2017-09-01 2022-01-27 川崎重工業株式会社 Robot system
WO2019196625A1 (en) * 2018-04-12 2019-10-17 京东方科技集团股份有限公司 Monitoring device, vehicle, monitoring method, and information processing device
US11443605B2 (en) 2018-04-12 2022-09-13 Beijing Boe Technology Development Co., Ltd. Monitoring apparatus, vehicle, monitoring method and information processing apparatus
CN109204140A (en) * 2018-09-12 2019-01-15 广州星凯跃实业有限公司 A kind of vehicle-mounted rear-seat air monitoring system and monitoring method
CN112172736A (en) * 2020-10-20 2021-01-05 广州小鹏汽车科技有限公司 Vehicle-mounted safety system early warning method, vehicle-mounted safety system, vehicle and storage medium
CN112550213A (en) * 2020-12-23 2021-03-26 深圳中科讯联科技股份有限公司 Safety monitoring system based on radio frequency identification and vehicle
CN115123141A (en) * 2022-07-14 2022-09-30 东风汽车集团股份有限公司 Vision-based passenger safety belt reminding device and method

Also Published As

Publication number Publication date
JP3821088B2 (en) 2006-09-13

Similar Documents

Publication Publication Date Title
JP2004161087A (en) Seat belt alarm device
JP4788620B2 (en) Drunk driving prevention support system
JP5239952B2 (en) Safe driving monitoring device
KR20100063394A (en) System and method of controlling for saving infant and children riding car
JP4375420B2 (en) Sleepiness alarm device and program
US20080080741A1 (en) Occupant detection system
JP7081315B2 (en) Seatbelt wearing condition determination device
JP2007276576A (en) Object detection system, operation device control system, vehicle, and object detection method
CN105144199A (en) Imaging device based occupant monitoring system supporting multiple functions
JP2007276577A (en) Object detection system, operation device control system, vehicle, and object detection method
JP2006248363A (en) Driver lighting system, driver photographing device and driver monitoring device
US7308349B2 (en) Method of operation for a vision-based occupant classification system
KR20200064449A (en) Apparatus and method for detecting passenger and wearing seat belt based on image
JP2005108033A (en) Driver condition determination device and method
JP2005262927A (en) Seat belt device
JP2010111367A (en) Occupant monitoring device
JP2017206173A (en) Driver state detection device
US20050151053A1 (en) Infrared proximity sensor for air bag safety
JP2013252863A (en) Occupant restriction control device and occupant restriction control method
JP2010195139A (en) Occupant restraint control device and occupant restraint control method
JPH08290726A (en) Doze alarm device
JP2005098886A (en) Face detector for occupant
US11772563B2 (en) In-vehicle multi-monitoring device for vehicle
US20220272302A1 (en) In-vehicle monitoring device for vehicle
JP2010203837A (en) Vehicle interior state recognition device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060530

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060612

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090630

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130630

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees