JP2008073335A - 覚醒低下検出装置及び覚醒低下検出プログラム - Google Patents

覚醒低下検出装置及び覚醒低下検出プログラム Download PDF

Info

Publication number
JP2008073335A
JP2008073335A JP2006257664A JP2006257664A JP2008073335A JP 2008073335 A JP2008073335 A JP 2008073335A JP 2006257664 A JP2006257664 A JP 2006257664A JP 2006257664 A JP2006257664 A JP 2006257664A JP 2008073335 A JP2008073335 A JP 2008073335A
Authority
JP
Japan
Prior art keywords
blink
blinks
awakening
time
arousal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006257664A
Other languages
English (en)
Inventor
Sunao Hatakeyama
直 畠山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2006257664A priority Critical patent/JP2008073335A/ja
Publication of JP2008073335A publication Critical patent/JP2008073335A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】覚醒度の指標を設定することによって覚醒度を推定し、覚醒低下をより精度よく、段階的に検出する覚醒低下検出装置及び覚醒低下検出プログラムを提供する。
【解決手段】覚醒低下検出装置10は、画像撮像部12、瞬目検出部14、瞬目判定部16、履歴情報記憶部17、及び覚醒低下判定部18を含んで構成される。画像撮像部12は被検出者の顔を撮像し、瞬目検出部14は画像撮像部12が撮像した画像から瞬目を検出する。履歴情報記憶部17は、瞬目に関する情報を記憶する。瞬目判定部16は瞬目検出部14が検出した瞬目から瞬目群発と長時間閉眼を判定し、覚醒低下判定部18は、瞬目判定部16が判定した瞬目群発の生起時間から長時間閉眼の生起時間までの時間間隔を指標として、覚醒の低下を判定する。
【選択図】図1

Description

本発明は、覚醒の低下を検出する覚醒低下検出装置及び覚醒低下検出プログラムに関する。
従来、瞬きを検出することにより覚醒の低下を判定する技術として、単位時間あたりの瞬き回数を計測し、計測した瞬き回数と予め設定した瞬き回数とを比較することで居眠りを検出する居眠り運転防止装置(例えば、特許文献1参照。)、瞬き時間が所定時間以上の瞬き回数が単位時間あたりに所定回数以上の場合に居眠りと判定する居眠り検出器(例えば、特許文献2又は特許文献3参照。)が知られている。
また、所定時間以上の瞬きの時間を一定時間ごとに積算して得られた積算瞬き時間が閾値を超えたときに居眠りと判定する居眠り検出器(例えば、特許文献4参照。)、瞬き回数、瞬き時間が所定時間以上の瞬き回数及び瞬き時間が所定時間以下の瞬き回数のそれぞれに応じた評点を付けてその合計点で覚醒レベルを算出する居眠り運転警報装置(例えば、特許文献5参照。)なども知られている。
特開昭61−175129号公報 特開昭63−216193号公報 特開昭63−258226号公報 特開平6−219181号公報 実開昭62−203731号公報
しかしながら、従来の瞬目頻度や積算瞬目時間などによって覚醒低下を検出する手法では、個々の瞬目特徴量を用いて覚醒低下を検出しているが、瞬目の時間分布までは考慮されていない。
例えば、図2に示すように単位時間に同じ回数の瞬目が生起したとしても、同図(B)のように短い瞬目が平均的な間隔で散発した場合と、同図(A)のように瞬目が短い間隔で群発した後に長い閉眼時間を伴う瞬目が生起した場合では、瞬目頻度が同じであってもその覚醒レベルは異なると考えられる。従って、特許文献1の居眠り運転防止装置は、瞬目頻度と閾値とを単に比較しているので、単位時間内の瞬目頻度の偏りに現れるような覚醒レベルの低下を判別することができないという問題点がある。
また、特許文献2及び特許文献3の居眠り検出器は、長時間閉眼を伴う瞬きの頻度を用いて、覚醒が低下した後の状態は判別することが可能だが、覚醒低下を段階的に捉えることはできないという問題点がある。このことは特許文献4の居眠り検出器も同様である。
更に、特許文献5の居眠り運転警報装置は、瞬き回数から瞬目頻度を、瞬目持続時間から長時間閉眼を、瞬目間時間間隔から瞬目群発を検出し、それらの重み付け加算値によって覚醒レベルを推定している。しかし、瞬目頻度、長時間閉眼、瞬目間時間間隔などの瞬目特徴量は、覚醒レベルに対して単調な関数では表されない。従って、居眠り運転警報装置は、これらの出現頻度を重み付け加算しても、覚醒レベルを精度よく推定できないという問題点がある。
本発明は、上記問題点を解決するために成されたものであり、覚醒低下をより精度よく検出する覚醒低下検出装置及び覚醒低下検出プログラムを提供することを目的とする。
上記目的を達成するために、請求項1記載の覚醒低下検出装置は、被検出者の瞬目を検出する瞬目検出手段と、前記瞬目検出手段により検出された瞬目から、該瞬目とその直前の瞬目との瞬目間間隔が所定時間以内で起こった瞬目群発の瞬目、及び所定時間以上の長時間閉眼を伴う瞬目とを判定する瞬目判定手段と、前記瞬目群発の瞬目と前記長時間閉眼を伴う瞬目の履歴情報から前記被検出者の覚醒低下を判定する覚醒低下判定手段と、を備えている。
請求項1記載の発明によれば、瞬目群発と長時間閉眼に注目することにより、瞬目群発の瞬目と長時間閉眼を伴う瞬目の履歴情報から覚醒低下を検出することができる。
請求項2記載の覚醒低下検出装置は、請求項1記載の覚醒低下検出装置において、前記覚醒低下判定手段は、前記瞬目群発の瞬目から前記長時間閉眼を伴う瞬目までの時間に基づいて覚醒低下度を判定することを特徴とする。
請求項2記載の発明によれば、瞬目群発と長時間閉眼までの時間間隔を指標とすることによって、より詳細な覚醒低下度を検出することができる。
請求項3記載の覚醒低下検出装置は、請求項1記載の覚醒低下検出装置において、前記覚醒低下判定手段は、前記瞬目群発の瞬目から前記長時間閉眼を伴う瞬目までの時間が予め定めた閾値未満のときに覚醒が低下したと判定することを特徴とする。
請求項3記載の発明によれば、瞬目群発の瞬目から長時間閉眼を伴う瞬目までの時間と閾値を比較することにより、覚醒が低下したことを検出することができる。なお、閾値を複数定めれば、覚醒の低下を段階的に検出できる。
請求項4記載の覚醒低下検出プログラムは、コンピュータを、被検出者の瞬目を検出する瞬目検出手段、前記瞬目検出手段により検出された瞬目から、該瞬目とその直前の瞬目との瞬目間間隔が所定時間以内で起こった瞬目群発の瞬目、及び所定時間以上の長時間閉眼を伴う瞬目とを判定する瞬目判定手段、及び前記瞬目群発の瞬目と前記長時間閉眼を伴う瞬目の履歴情報から前記被検出者の覚醒低下を判定する覚醒低下判定手段、として機能させる。
請求項4記載の発明によれば、瞬目群発と長時間閉眼に注目することにより、瞬目の時間分布の違いを考慮した覚醒低下を検出するようにコンピュータを機能させることができる。
以上説明したように、本発明によれば、より精度よく覚醒低下を検出することができるという効果が得られる。
以下、図面を参照して本発明の実施の形態を説明する。図1には、本実施の形態に係る覚醒低下検出装置10のブロック図が示されている。
図1に示すように、覚醒低下検出装置10は、被検出者の顔を撮影するCCDカメラ等からなる画像撮像部12と、画像撮像部12により生成される画像を処理して瞬目の検出等を行うパーソナル・コンピュータ20と、を備えている。
上記パーソナル・コンピュータ20は、CPU、後述する図4のフローチャートで示す覚醒低下検出装置10の制御ルーチンのプログラムを記憶したROM、データ等を記憶するRAM及びこれらを接続するバスを含んで構成される。
このパーソナル・コンピュータ20は、機能的には図1に示すように、画像撮像部12が撮像した画像を処理して瞬目を検出する瞬目検出部14と、瞬目検出部14が検出した瞬目から瞬目群発の瞬目と長時間閉眼を伴う瞬目を判定する瞬目判定部16、瞬目に関する履歴情報記憶する履歴情報記憶部17、瞬目判定部16の判定結果から覚醒低下を判定する覚醒低下判定部18を備えている。
瞬目検出部14は、被検出者の瞬目を検出するが、その検出方法は特定の方法に限定するものではなく、公知のいかなる方法でもよい。本実施の形態では瞬目検出部14は、被検出者の眼画像を処理して眼の開度を計測し、この開度に基づいて眼の開閉を判断して瞬目を検出する。
瞬目判定部16は、瞬目検出部14により検出された瞬目の中から、瞬目群発の瞬目と長時間閉眼を伴う瞬目とを判定する。ここで、瞬目群発の瞬目とは、瞬目とその直前に起こった瞬目との時間間隔(瞬目間間隔)が所定時間以下で起こった瞬目をいう。また、長時間閉眼とは、一回の瞬きの開始から終了までの時間長が所定時間以上のものをいう。
瞬目判定部16は、瞬目群発の判定については、前回の瞬目情報を記憶しておき、前回の瞬目生起時刻と今回の瞬目生起時刻の差が閾値以下であれば、瞬目群発であると判定する。また、瞬目判定部16は、長時間閉眼の判定については、瞬目持続時間を計測し、その持続時間が閾値以上であれば長時間閉眼が生起したと判定する。瞬目判定部14で判定した瞬目に関する履歴情報は、履歴情報記憶部17に保存される。
履歴情報記憶部17には、瞬目群発を判定するための前回の瞬目終了時刻、長時間閉眼を判定するための瞬目開始時刻、覚醒低下を判定するための瞬目群発の生起時刻等が蓄積される。
覚醒低下判定部18は、瞬目群発の瞬目の生起時間と長時間閉眼を伴う瞬目の生起時間を管理し、ある判定基準に基づいて覚醒の低下を判定する。例えば、長時間閉眼が生起したとき、長時間閉眼を伴う瞬目の直前に生起した瞬目群発について以下の計算を行う。
ΔT = T(長時間閉眼)−T(直前の瞬目群発) ・・・ 式(1)
ただし、T(A)は事象Aの生起した時刻を表す。ここで、式(1)で算出したΔT、即ち、直前の瞬目群発の生起時刻から長時間閉眼の生起時刻までの時間間隔を覚醒度の指標とし、ΔTの長さに基づいて覚醒の低下を判定する。
この判定基準は、瞬目に関する以下の考え方に基づく。瞬目とは覚醒中のまぶたの一時的閉開のことをいい、視界に対する認識能力の低下をリセットし、視覚に関する認識能力を維持する機能がある。よって、瞬目の群発は、このような認識能力の低下を何度も瞬きすることによって防止する機能がある。一方、長時間閉眼は、認識能力の低下を防止しようとする機能が失われ、覚醒の低下してしまった状態を示す。
そこで、瞬目群発が発生してから長時間閉眼が発生するまでの時間間隔を監視することによって、直接的に覚醒維持機能の低下を判定することができる。この手法を使うことにより、従来の手法では判別できないような場合でも、覚醒度を判別することが可能である。
例えば、図3に示すような場合、同図(A)及び(B)においては、単位時間内の瞬目頻度、長時間瞬目の頻度及び瞬目持続時間の積算値は全て同じである。従って、このような従来の指標を用いて(A)と(B)の両状態の覚醒度を判別することはできない。これに対して、本実施の形態では、瞬目の群発が生起してから長時間閉眼が生起するまでの時間間隔ΔTを指標としているため、両状態の覚醒度の判別が可能である。
即ち、図3(A)ではΔTが比較的長いため、覚醒度はやや低下したと判定し、図3(B)ではΔTが短いため、覚醒度は低下したと判定する。このように、ΔTを指標として覚醒度の低下を判定する。
次に、本実施の形態における覚醒低下検出装置10の制御ルーチンを、図4に示したフローチャートに沿って説明する。この制御ルーチンは、上述のようにパーソナル・コンピュータ20のROMに記憶され、CPUによって実行される。そして、図1に示すパーソナル・コンピュータ20の各構成部が以下のステップに従って処理を実行する。
先ず、ステップ100において初期設定を行う。具体的には、瞬目検出部14が個々の瞬目を識別するための番号であるiを0に設定する。
ステップ110では、瞬目検出部14が閉眼が開始したか否かを判定する。この判定は次のように行う。図5は瞬目検出部14が検出した瞬目を時系列で表したグラフである。このグラフにおいて、瞬目が検出された時に閉眼が開始したと判断され、この時刻が瞬目開始時刻Tsとなる。閉眼が開始された場合にはステップ120に進み、開始されていない場合にはステップ140に進む。
ステップ120では、瞬目検出部14が今回の瞬目を識別する番号iに1を加算する。ステップ130では、瞬目検出部14が今回の瞬目開始時刻Ts(i)を履歴情報記憶部17に記憶した後、ステップ140に進む。
ステップ140では、瞬目検出部14が閉眼が終了したか否かを判定する。この判定はステップ110の閉眼の開始の判定と逆であり、図5のグラフにおいて、瞬目が検出されなくなった時に閉眼が終了したと判断され、この時刻が瞬目終了時刻Teとなる。閉眼が終了した場合にはステップ150に進む。閉眼が終了しない場合、即ち、閉眼の開始時でも終了時でもない場合には、ステップ110に戻って以上の処理を繰り返す。
ステップ150では、閉眼が終了したので、瞬目検出部14が今回の瞬目終了時刻Te(i)を履歴情報記憶部17に記憶し、ステップ160に進む。
ステップ160では、瞬目判定部16が今回の瞬目が瞬目群発の瞬目であったか否かを判定する。この判定では、履歴情報記憶部17に記憶された今回の瞬目終了時刻Te(i)から前回の瞬目終了時刻Te(i-1)を減算した減算値と、閾値βとが比較される。
そして、瞬目判定部16は、上記減算値がβより小さい場合は、瞬目群発の瞬目と判定してステップ170に進み、上記減算値がβより小さくない場合は、瞬目群発の瞬目ではないと判定してステップ180に進む。
ステップ170では、瞬目判定部16が今回の瞬目終了時刻Te(i)を瞬目群発終了時刻Tgとして、これを履歴情報記憶部17に記憶する。
ステップ180では、瞬目判定部16は、今回の瞬目が長時間閉眼か否かを判定するために閉眼持続時間を算出する。図5に示すように、この閉眼持続時間Tdurは、履歴情報記憶部17に記憶された瞬目終了時刻Te(i)から瞬目開始時刻Ts(i)を減算することによって算出される。
ステップ190では、瞬目判定部16が今回の瞬目が長時間閉眼を伴う瞬目であったか否かを判定する。この判定では、今回の瞬目の閉眼持続時間Tdurと閾値αとが比較される。
瞬目判定部16は、Tdurがαより大きくない場合は、長時間閉眼ではないと判定し、ステップ110に戻る。そして、次のステップ110からは、次の瞬目を判定するための処理が繰り返される。
また、瞬目判定部16は、Tdurがαより大きい場合は、長時間閉眼と判定してステップ200に進む。
ステップ200では、覚醒低下判定部18が覚醒低下の判定処理を行うため、上述の式(1)に従って、覚醒度の指標となるΔTを算出する。このΔTは、履歴情報記憶部17に記憶された今回の長時間閉眼を伴う瞬目の終了時刻Te(i)(ステップ150で記憶)から直前の瞬目群発終了時刻Tg(ステップ170で記憶)を減算することによって算出される。
ステップ210では、覚醒低下判定部18が覚醒が低下しているか否かを判定する。この判定では、上述のΔTと閾値γとが比較される。
覚醒低下判定部18は、ΔTがγより小さくない場合には、覚醒は低下していないと判定し、ステップ110に戻って次の瞬目を判定するために以上の処理を繰り返す。
また、覚醒低下判定部18は、ΔTがγより小さい場合には、覚醒が低下していると判定して一連の覚醒低下検出処理を終了する。
なお、本実施の形態の覚醒低下検出装置10は、覚醒低下を判定するための1つの閾値を設定し、覚醒が低下しているか否かの2値を判定しているが、複数の閾値を設定することによって覚醒度の低下を複数段階で判定してもよい。
また、覚醒低下検出装置10は、ΔTが小さくなるに従って、覚醒度が低下すると判定してもよい。
以上のように、本実施の形態では、瞬目群発と長時間閉眼に着目し、その時間間隔を指標とすることによって、瞬目の時間分布を考慮した覚醒度の違いをより詳細に精度よく検出することができる。また、本実施の形態では、瞬目の頻度や閉眼時間の積算値を使用しないため、単位時間瞬目を計測することによって生じる時間遅れがなく、より敏感に覚醒低下を検出することができる。
本発明に係る覚醒低下検出を示すブロック図である。 瞬目頻度が同じでも覚醒度が異なる例を示す図である。 瞬目群発から長時間閉眼までの経過時間を覚醒度の指標とする例を示す図である。 本発明に係る覚醒低下検出装置の制御の流れを示すフローチャートである。 瞬目の時系列データを示すグラフである。
符号の説明
10 覚醒低下検出装置
12 画像撮像部
14 瞬目検出部
16 瞬目判定部
17 履歴情報記憶部
18 覚醒低下判定部
20 パーソナル・コンピュータ

Claims (4)

  1. 被検出者の瞬目を検出する瞬目検出手段と、
    前記瞬目検出手段により検出された瞬目から、該瞬目とその直前の瞬目との瞬目間間隔が所定時間以内で起こった瞬目群発の瞬目、及び所定時間以上の長時間閉眼を伴う瞬目とを判定する瞬目判定手段と、
    前記瞬目群発の瞬目と前記長時間閉眼を伴う瞬目の履歴情報から前記被検出者の覚醒低下を判定する覚醒低下判定手段と、
    を備えた覚醒低下検出装置。
  2. 前記覚醒低下判定手段は、前記瞬目群発の瞬目から前記長時間閉眼を伴う瞬目までの時間に基づいて覚醒低下度を判定する請求項1記載の覚醒低下検出装置。
  3. 前記覚醒低下判定手段は、前記瞬目群発の瞬目から前記長時間閉眼を伴う瞬目までの時間が予め定めた閾値未満のときに覚醒が低下したと判定する請求項1記載の覚醒低下検出装置。
  4. コンピュータを、
    被検出者の瞬目を検出する瞬目検出手段、
    前記瞬目検出手段により検出された瞬目から、該瞬目とその直前の瞬目との瞬目間間隔が所定時間以内で起こった瞬目群発の瞬目、及び所定時間以上の長時間閉眼を伴う瞬目とを判定する瞬目判定手段、及び
    前記瞬目群発の瞬目と前記長時間閉眼を伴う瞬目の履歴情報から前記被検出者の覚醒低下を判定する覚醒低下判定手段、
    として機能させるための覚醒低下検出プログラム。
JP2006257664A 2006-09-22 2006-09-22 覚醒低下検出装置及び覚醒低下検出プログラム Pending JP2008073335A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006257664A JP2008073335A (ja) 2006-09-22 2006-09-22 覚醒低下検出装置及び覚醒低下検出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006257664A JP2008073335A (ja) 2006-09-22 2006-09-22 覚醒低下検出装置及び覚醒低下検出プログラム

Publications (1)

Publication Number Publication Date
JP2008073335A true JP2008073335A (ja) 2008-04-03

Family

ID=39346010

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006257664A Pending JP2008073335A (ja) 2006-09-22 2006-09-22 覚醒低下検出装置及び覚醒低下検出プログラム

Country Status (1)

Country Link
JP (1) JP2008073335A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010107066A1 (ja) * 2009-03-19 2010-09-23 アイシン精機株式会社 眠気判定装置及びプログラム
WO2013035704A1 (ja) 2011-09-05 2013-03-14 富山県 居眠り検出方法と装置
JP2015213634A (ja) * 2014-05-12 2015-12-03 学校法人慶應義塾 瞬き検出システムおよび方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07241283A (ja) * 1994-03-04 1995-09-19 Omron Corp 覚醒度判定方法及び覚醒度判定装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07241283A (ja) * 1994-03-04 1995-09-19 Omron Corp 覚醒度判定方法及び覚醒度判定装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010107066A1 (ja) * 2009-03-19 2010-09-23 アイシン精機株式会社 眠気判定装置及びプログラム
JP2010224637A (ja) * 2009-03-19 2010-10-07 Toyota Central R&D Labs Inc 眠気判定装置及びプログラム
CN102356416A (zh) * 2009-03-19 2012-02-15 爱信精机株式会社 困倦判定装置及程序
US8306271B2 (en) 2009-03-19 2012-11-06 Aisin Seiki Kabushiki Kaisha Drowsiness assessment device and program
WO2013035704A1 (ja) 2011-09-05 2013-03-14 富山県 居眠り検出方法と装置
CN103974656A (zh) * 2011-09-05 2014-08-06 富山县 瞌睡检测方法和设备
JP5679066B2 (ja) * 2011-09-05 2015-03-04 富山県 居眠り検出方法と装置
JPWO2013035704A1 (ja) * 2011-09-05 2015-03-23 富山県 居眠り検出方法と装置
US9286515B2 (en) 2011-09-05 2016-03-15 Toyama Prefecture Doze detection method and apparatus thereof
JP2015213634A (ja) * 2014-05-12 2015-12-03 学校法人慶應義塾 瞬き検出システムおよび方法

Similar Documents

Publication Publication Date Title
JP5447657B2 (ja) 生体状態判定装置
JP5679066B2 (ja) 居眠り検出方法と装置
KR101293411B1 (ko) 졸음 판정 장치 및 프로그램
JP5210773B2 (ja) 眠気判定装置及びプログラム
JP6707969B2 (ja) 覚醒度判定装置
JP4743137B2 (ja) 眠気判定装置及びプログラム
JP2008099884A (ja) 状態推定装置
FR2747346A1 (fr) Appareil et procede d'estimation du niveau de somnolence du conducteur d'un vehicule
JP2010067137A (ja) 開閉眼判定装置および開眼度推定装置
JP6399311B2 (ja) 居眠り検知装置
JP6780616B2 (ja) 瞬き検出装置
JP5333284B2 (ja) 生体状態判定装置
JP3681657B2 (ja) 覚醒度推定装置および覚醒度推定方法
JP2008073335A (ja) 覚醒低下検出装置及び覚醒低下検出プログラム
JP2007236488A (ja) 覚醒度推定装置及びシステム並びに方法
JP5050794B2 (ja) 眠気検知装置、眠気検知方法
JP2008250859A (ja) 覚醒度判定装置
JP5262819B2 (ja) 覚醒度推定装置
US20220370009A1 (en) Stress estimation device, stress estimation method, and recording media
JP2018130342A (ja) 覚醒度推定装置、覚醒度推定方法及び覚醒度推定システム
JP7416112B2 (ja) 覚醒度判定装置
JPH08153288A (ja) 居眠り判定装置
JP2008158619A (ja) 覚醒度判定装置および方法
JP2007018249A (ja) 顔向き検出装置及び顔向き検出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120508