JP2009245083A - 脇見運転検出警報システム - Google Patents

脇見運転検出警報システム Download PDF

Info

Publication number
JP2009245083A
JP2009245083A JP2008089765A JP2008089765A JP2009245083A JP 2009245083 A JP2009245083 A JP 2009245083A JP 2008089765 A JP2008089765 A JP 2008089765A JP 2008089765 A JP2008089765 A JP 2008089765A JP 2009245083 A JP2009245083 A JP 2009245083A
Authority
JP
Japan
Prior art keywords
obstacle
alarm
driver
driving
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008089765A
Other languages
English (en)
Other versions
JP5354514B2 (ja
Inventor
Shingo Kiuchi
内 真 吾 木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hyundai Motor Japan R&D Center Inc
Hyundai Motor Co
Kia Corp
Original Assignee
Hyundai Motor Japan R&D Center Inc
Hyundai Motor Co
Kia Motors Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hyundai Motor Japan R&D Center Inc, Hyundai Motor Co, Kia Motors Corp filed Critical Hyundai Motor Japan R&D Center Inc
Priority to JP2008089765A priority Critical patent/JP5354514B2/ja
Priority to US12/288,757 priority patent/US8144002B2/en
Priority to DE102008043200A priority patent/DE102008043200A1/de
Priority to CN200810191111.XA priority patent/CN101549648B/zh
Publication of JP2009245083A publication Critical patent/JP2009245083A/ja
Application granted granted Critical
Publication of JP5354514B2 publication Critical patent/JP5354514B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】
脇見運転によって危険が予測され、警報発令が必要な時にのみ脇見運転の警報を発令する脇見運転検出警報システムを提供する。
【解決手段】
車両に搭載したカメラと、前記カメラによって運転者を撮影し、撮影された画像データを処理して前記運転者が注視している視野を判定する視線検出部と、車両に搭載したレーダーと、前記視線検出部とのデータに基づき、前記運転者が注視していない方向にレーダー探索方向を設定して前記運転者が注視していない方向の障害物を探索する障害物探索部と、前記障害物探索部が障害物を検出した場合に、脇見運転警報を発するかどうかを判定し警報を発令する警報設定部と、を含んで構成されることを特徴とする脇見運転検出警報システム。

【選択図】 図1

Description

本発明は脇見運転検出警報システムに係り、より詳しくは、脇見運転によって危険が予測される場合に脇見運転警報を発する脇見運転検出警報システムに関する。
従来より、カメラを用いて運転者の視線を検出し、検出結果から運転者が脇見運転をしていると判断した場合、運転者に対して警報を発するシステムがある。
運転者の視線を検出する装置としては、運転者の眼球に不可視光を入射し、眼球からの反射光から運転者の視線方向を検出する装置が開示されている(例えば、特許文献1参照)。又、ステレオカメラ法を用いて、眼球の白目部分の中心と黒目部分の中心とを求めて視線方向を検出する方法が開示されている(例えば特許文献2参照)。
脇見運転を検出する装置としては、視線方向検出手段によって運転者の視線を検出し、視線方向頻度分布を算出し、前記視線方向頻度分布をかくれマルコフモデルを用いて算出したパラメータに基づく運転行動パターンを解析し、運転者の運転行動意図を判定して脇見運転を検出する装置が報告されている(例えば特許文献3参照)。又、一定時間以上瞬きをしなかったり、眼球が正面を向いた画像が検出されなかった場合に脇見運転と推定する運転支援システムが開示されている(例えば特許文献4参照)。更に、運転者の正面から顔面を撮影して両眼の距離を測定して、両眼の距離から脇見運転を判定する装置が報告されている(例えば特許文献5参照)。
特許3232873号公報 特許4032994号公報 特開2002−331850号公報 特開平11−304428号公報 特開平7−69139号公報
特許文献3〜5に示されているような従来の脇見運転検出方法は、カメラによって運転者の行動を観察し、脇見運転であるかどうかを判断し、運転中に運転者の視線が一定時間脇見運転行動をとった場合に脇見運転と判定し、ドライバーに対して脇見運転警報を発していた。
しかし、運転者の行動は多様で、従来の方法では脇見運転行動を正確に判断するのは困難であり、この為に誤報が多くなる傾向があった。
また、状況によっては、一定時間脇見運転行動をとったときでも、必ずしも危険ではないため、脇見運転を検出する度に警報を発生すると、ドライバーに煩わしさや、警報に対する慢性感を与えてしまい、警報の効果が薄れてしまうという問題があった。
本発明の課題は、脇見運転によって危険が予測され、警報発令が必要な時にのみ脇見運転の警報を発令する脇見運転検出警報システムを提供することにある。
かかる課題を解決するための本発明の脇見運転検出警報システムは、
車両1に搭載したカメラ2を有し、カメラ2によって運転者6の顔面を撮影し、撮影された画像データ7を処理して運転者6が注視している視野9を判定する視線検出部110と、
車両1に搭載したレーダー3を有し、視線検出部110のデータに基づき運転者6が注視していない方向にレーダー探索方向11を設定して運転者6が注視していない方向の障害物12を探索する障害物探索部120と、
障害物探索部120が障害物12を検出した場合に脇見運転警報5を発するか否かを判定し警報を発令する警報設定部130と、を含んで構成されることを特徴とする。
又、本発明の視線検出部110は、カメラ2と、
運転者6の画像データ7から運転者6の視線方向13を検出する視線検出手段111と、
運転者6の視線方向13を複数回取り込んで運転者6の注視方向16を検出する注視方向検出手段112と、
注視方向16の注視方向時間履歴14を作成する注視方向履歴作成手段114と、
注視方向16から運転者6の有効視野15を判定する有効視野判定手段113と、を含む。
更に、本発明の障害物探索部120は、レーダー3と、
有効視野15から運転者6が注視していない方向を判定してその方向にレーダー探索方向11を設定する探索方向設定手段121と、
障害物12を検出した場合に、障害物12の方向と距離、及び障害物12と車両1双方の速度と移動方向とから、車両1と障害物12との相対速度を算出し、車両1と障害物12との距離及び相対速度から、障害物12が車両1に到達する推定到達時間17を算出して出力する障害物検出手段122と、を含む。
更に、本発明の警報設定部130は、
障害物探索部120が障害物12を検出した場合に、視線検出部110に設けられた注視方向履歴作成手段114に於いて作成された注視方向時間履歴14を参照し、運転者6が障害物12を注視した履歴がない場合は障害物12を検出した時間から、履歴がある場合は前回障害物12を注視した時間からの経過時間を算出して脇見運転時間19とし、脇見運転時間19と、推定到達時間17と、障害物12の方向と距離、及び障害物12と車両1双方の速度及び移動方向と、から成るデータの内の2以上を、あらかじめ入力されている脇見運転判定プログラムに入力し演算し、脇見運転警報5を発するか否かを決定する警報判定手段131と、
脇見運転警報5の発令形式を設定して出力する警報設定手段132と、
警報設定手段132の設定した警告方法に従って警報を発令する警報装置4と、を含む。
更に、本発明の警報設定手段132は、脇見運転警報5を発すると決定した場合に、脇見運転時間19と、推定到達時間17と、障害物12の方向と距離、及び障害物12と車両1双方の速度及び移動方向と、から成るデータの内の2以上を用いて、脇見運転判定プログラム20を用いて障害物12の危険度21を算出し、危険度21に対応して脇見運転警報5の発令形式を設定して出力する。
本発明は、運転者6の視線8を検出して運転者6の注視方向16を判定し、運転者6が注視していない方向をレーダー3で探索し、障害物12を検出した場合に、運転者6が障害物12を認識しているか否かを判定し、運転者6が障害物12を認識していないと判定した時にのみ脇見運転警報5を発令し、認識していると判定した時には脇見運転警報5を発令しないので、不要な警報発令がなくなるため、運転者6が脇見運転警報5を煩わしく感じたり、慣れによって警報を無視したりすることがなくなる。
運転者6が注視していない方向をレーダー3で探索し、障害物12を検出した場合に脇見運転警報5を発するので、通常運転中に於いても、運転者6の視野の死角を補い、運転の安全性を高めることができる。
以下に、図面を参照して本発明の実施の形態を詳細に記載する。この記載は本発明を説明するためのものであって、この記載によって本発明の技術範囲を限定するものではない。本発明は、本発明の技術的範囲から逸脱しない範囲内で、多様に変更して実施することが可能である。
図1に、本発明の1実施例による脇見運転検出警報システムの構成を示すシステムブロック図を示す。図1によれば、本発明の脇見運転検出警報システムは、視線検出部110と、障害物探索部120と、警報設定部130と、から構成される。以下に各部について詳細に説明する。
(視線検出部)
視線検出部110は、カメラ2と、視線検出手段111と、注視方向検出手段112と、有効視野判定手段113と、注視方向履歴作成手段114と、を含む。
車両1に搭載したカメラ2によって運転者6の顔面を撮影し、視線検出手段111によって撮影された画像データ7を処理して運転者6の視線8を検出する。カメラ2と視線検出手段111とを組み合わせた装置は所謂視線検出装置であって公知である。カメラ2と視線検出手段111とは、車両1に搭載可能であって、データの取り出しが可能なものであれば、一般的なものでよい。
注視方向検出手段112は、視線検出手段111から出力された運転者6の視線方向13のデータを複数回積算し、平均化して、運転者6の注視方向16を検出し、出力する。積算時間は0.01〜1秒間が好ましく、0.02〜0.5秒間がより好ましく、最も好ましい中心値として0.1秒を例示できる。
有効視野判定手段113は、運転者6の注視方向16と視角から視野9を決定する。運転時の運転者6の視角は一般的な値が公知であって、これを用いて視野を計算することができる。ここで得られる視野9は車両運転時の動態視野である。好ましくは、有効視野判定手段113は、視野9に安全率を含むファクターを加算して有効視野15を決定し出力する。
有効視野15の決定は、注視方向16に対応する有効視野15をあらかじめ計算して脇見運転判定プログラム20に入力し、脇見運転判定プログラム20を用いて算出することもできる。
注視方向履歴作成手段114は、注視方向時間履歴を作成し、警報判定手段131へ出力する。
(障害物探索部)
障害物探索部120は、レーダー3と、探索方向設定手段121と障害物検出手段122とを含む。探索方向設定手段121と障害物検出手段122とは一体化して、レーダー3を制御し、検出した障害物12のデータを計算処理して障害物12の情報を出力する。
レーダー3は、例として、(ミリ波)レーダー、赤外線レーダー、超音波探知器、ステレオカメラを挙げることができるが、本発明に於いては、車両に搭載可能であって障害物12の方向と距離とが測定できるものであれば何れでもよく、レーダー3は前記の例示に限られるものではない。
探索方向設定手段121は、有効視野15から運転者6が注視していない方向を判定し、その方向にレーダー探索方向11を設定し、レーダー3によって障害物12を探索する。
図2に、本発明の1実施例によるレーダー探索方向11の設定方法を例示する。図2(A)は、運転者の注視方向10が前方正面である場合を示しこの場合は、レーダー探索方向11は右方と左方とになる。図2(B)は、運転者の注視方向10が左方である場合を示し、この場合は、レーダー探索方向11は前方正面と右方とになる。図2(C)は、運転者の注視方向10が後方である(前方を注視していない)場合を示し、この場合レーダー探索方向11は前方正面と右方と左方とになる。
レーダー探索方向11は前方正面と右方と左方とに限られるものではなく、任意の探索方向と探索方向の数を設定できる。
障害物検出手段122は、障害物12を検出した場合に、障害物12の方向と距離、及び障害物12と車両1双方の速度と移動方向とから、車両1と障害物12との相対速度を算出し、更に、車両1と障害物12との距離及び相対速度から、障害物12が車両1に到達する推定到達時間17を算出する。より好ましくは、推定到達時間17は、障害物12が車両1の危険距離18に到達する時間である。
ここで、危険距離18は、障害物12と車両1との間に許容される最少距離であって、それ以上接近することは実質的に衝突するとみなす事ができる距離である。危険距離18は運転状況に対応する可変の値であって、障害物12の方向と距離、及び障害物12と車両1双方の速度と移動方向と、車両1の制動力と、をファクターとして設定される。例えば、車両1が高速走行している場合や、障害物12が車両1の進行方向にある場合の危険距離18は大きくなり、後を追従する障害物12や横を並走する障害物12に対する危険距離18は小さく設定できる。危険距離18の条件設定は、後述する脇見運転判定プログラム20を作成する際に入力することができる。
推定到達時間17の算出は、脇見運転判定プログラム20を用いて行うこともできる。
(警報設定部)
警報設定部130は、警報判定手段131と警報設定手段132と警報装置4とを含む。
警報判定手段131は、障害物検出手段122が障害物12を検出した場合に、視線検出部110に設けられた注視方向履歴作成手段114に於いて作成された注視方向時間履歴14を参照し、運転者6が障害物12を注視した履歴がない場合は障害物12を検出した時間から、履歴がある場合は前回障害物12を注視した時間からの経過時間を算出して脇見運転時間19とする。
警報判定手段131は、更に、脇見運転時間19を参照して警報を発令するか否かを決定する。警報を発令するか否かの判定基準は、例えば車両1の正面方向の脇見運転時間が所定時間以上であれば警報を発令するように決定することができる。又、前記判定基準は、脇見運転時間19を推定到達時間17で割った数値が所定の数値以上であれば警報を発令するように決定することができる。より好ましくは、警報判定手段131は、脇見運転時間19と、推定到達時間17と、障害物12の方向と距離、及び障害物12と車両1双方の速度及び移動方向と、のデータの内の2以上を、脇見運転判定プログラムに入力し演算し、警報を発令するように決定するか否かを判断する。
ここで、脇見運転判定プログラム20は、車両1の種々の運転状況を想定して、障害物12の方向と距離、及び障害物12と車両1双方の速度及び移動方向と、の実測データに、運転状況に対応した条件や係数を加算して最適化した計算方法或いは事前にそれら予想される値に対する計算結果を、あらかじめコンピュータに入力したものであって、各段階で測定したデータを脇見運転判定プログラム20に入力して演算すれば、最適化された計算結果が得られるようにしたものである。脇見運転判定プログラム20は、有効視野15と推定到達時間17と危険距離18と脇見運転時間19と後述する危険度21との算出にも用いることができる。
警報判定手段131は、脇見運転22と判断した場合は、脇見運転警報5を発すると決定し、出力する。
警報設定手段132は、警報判定手段131が脇見運転警報5を発すると決定した場合に、障害物12の危険度21を算出し、危険度21に対応して脇見運転警報5の発令形式を設定して出力する。
危険度21の算出は、例えば、障害物12が車両1に向かって所定以上の相対速度で接近してくる場合を危険度3とし、相対速度が所定値以下であるか又は障害物12が静止している場合は危険度2とし、障害物12の走行経路が車両1の走行経路から遠い場合又は車両1から離れていく場合、若しくは障害物12は検出されないが運転者12の車両1の進行方向に対する脇見運転時間が所定値以上の場合は危険度1とするように設定することができる。
好ましくは、警報設定手段132は、脇見運転時間19と、推定到達時間17と、障害物12の方向と距離、及び障害物12と車両1双方の速度及び移動方向と、のデータの内の2以上を、脇見運転判定プログラム20に入力し演算して障害物12の危険度21を算出する。
警報設定手段132は危険度21に対応して脇見運転警報5の発令形式を設定して出力する。
脇見運転警報5の発令形式は、例えば、以下のように設定できる。
危険度21の数値に対応して危険度21の大きい方から、警報レベル3と警報レベル2と警報レベル1とを設定し、警報レベル3の場合は脇見運転警告灯を点灯するとともに、音圧レベル60〜100dBSPLの警報音、より好ましくは音圧レベル65〜90dBSPLの警報音、さらに好ましくは音圧レベル75〜85dBSPLの警報音を発する警告方法を設定し、警報レベル2の場合は脇見運転警告灯を点灯するとともに音圧レベル30〜70dBSPLの警報音、より好ましくは音圧レベル40〜65dBSPLの警報音、さらに好ましくは音圧レベル55〜65dBSPLの警報音を発する警告方法を設定し、警報レベル1の場合は脇見運転警告灯を点灯するか又は音圧レベ30〜70dBSPLの警報音、より好ましくは音圧レベル40〜65dBSPLの警報音、さらに好ましくは音圧レベル55〜65dBSPLの警報音を発する警告方法を設定し、出力する。
警報装置4は、警報設定手段132の出力した警告方法に従って脇見運転警報を発令する。
(脇見運転検出警報システムの動作)
図3に本発明の1実施例による脇見運転検出警報システムの動作フローチャートを示す。
視線検出手段111は、カメラ2と、運転者6の画像データ7とから運転者6の視線8の方向を検出し(ステップS201)、次いで、注視方向検出手段は、運転者6の視線方向13のデータを複数回取り込んで運転者6の注視方向16を検出する(ステップS202)。
有効視野判定手段113は運転者6の注視方向16から有効視野を判定する(ステップS203)。
探索方向設定手段121は、有効視野15から運転者6が注視していない方向を判定してその方向にレーダー探索方向11を設定する(ステップS204)。
障害物検出手段122は障害物を探索し(ステップS205)、障害物12を検出した場合に(ステップS206、Yes)車両1と障害物12との距離及び相対速度から、障害物12が車両1に到達する推定到達時間17を算出する(ステップS207)。
警報判定手段131は、注視方向履歴作成手段114において作成された注視方向時間履歴14を参照して脇見運転時間を算出(ステップS208)する。警報判定手段131は、更に脇見運転時間19と、推定到達時間17と、障害物12の方向と距離、及び障害物12と車両1双方の速度及び移動方向と、のデータ内の2以上を、脇見運転判定プログラム20に入力し演算し、脇見運転22か否かを判定する。
警報判定手段131は、脇見運転22と判定した場合は、脇見運転警報5を発すると決定し、出力する(ステップS209、Yes)。
警報設定手段132は、警報判定手段131が脇見運転警報5を発すると決定した場合に、障害物検出手段122のデータから障害物12の危険度21を算出し(ステップS210)、危険度21に対応した脇見運転警報5の発令形式を設定して出力し(ステップS211)、警報装置4は警報設定手段132の設定した発令形式によって脇見運転警報5を発令する(ステップS212)。
以下に、実施例を示す。
本発明の特許請求の範囲によれば、本発明は脇見運転の判定と危険度の算出に脇見運転判定プログラムを用いるが、本実施例では、本発明の思想を明確にするために、脇見運転判定プログラムを用いない脇見運転の判定方法と危険度の算出方法とを例示する。この実施例の記載は、本発明を説明するためのものであって、この記載によって本発明の技術範囲を限定するものではない。
車両1に搭載したカメラ2によって運転者6の顔面を撮影し、撮影した画像データを処理して運転者6が注視している視野を検出し、運転者6が注視していない方向をレーダーによって探索した。レーダー3に検出された障害物12が、車両1からx[m]の距離からy[m/sec]の速度で接近していて、運転者6がその障害物12をz[sec]注視していない場合、
x/y≦zであれば警報レベル3とし、x/y>zであれば警報レベル2とし、レーダー3が検出した障害物12が車両1から遠ざかっている場合と、レーダー3は何も検出していないが運転者6の有効視野15が所定時間以上にわたって車両1の走行方向からそれた場合と、は警報レベル1とする。
警報レベル3の場合は脇見運転警告灯を点灯するとともに音圧レベル80dBSPLの警報音を発し、警報レベル2の場合は脇見運転警告灯を点灯するとともに音圧レベル60dBSPLの警報音を発し、警報レベル1の場合は脇見運転警告灯を点灯するか。又は音圧レベル60dBSPLの警報音を発する。
本発明の1実施例によるのシステムの構成を示すシステムブロック図である。 本発明の1実施例によるレーダー探索方向11を設定方法を示す。 本発明の1実施例による脇見運転検出警報システムの動作フローチャートを示す。
符号の説明
1 車両
2 カメラ
3 レーダー
4 警報装置
5 脇見運転警報
6 運転者
7 画像データ
8 視線
9 視野
10 運転者の注視方向
11 レーダー探索方向
12 障害物
13 視線方向
14 注視方向時間履歴
15 有効視野
16 注視方向
17 推定到達時間
18 危険距離
19 脇見運転時間
20 脇見運転判定プログラム
21 危険度
22 脇見運転
110 視線検出部
111 視線検出手段
112 注視方向検出手段
113 有効視野判定手段
114 注視方向履歴作成手段
115 有効注視範囲
120 障害物探索部
121 探索方向設定手段
122 障害物検出手段
130 警報設定部
131 警報判定手段
132 警報設定手段

Claims (5)

  1. 車両に搭載したカメラを有し、前記カメラによって運転者の顔面を撮影し、撮影された画像データを処理して前記運転者が注視している視野を判定する視線検出部と、
    車両に搭載したレーダーを有し、前記視線検出部のデータに基づき、前記運転者が注視していない方向にレーダー探索方向を設定して前記運転者が注視していない方向の障害物を探索する障害物探索部と、
    前記障害物探索部が障害物を検出した場合に、脇見運転警報を発するか否かを判定し警報を発令する警報設定部と、
    を含んで構成されることを特徴とする脇見運転検出警報システム。
  2. 前記視線検出部は、
    前記カメラと、
    前記運転者の画像データから前記運転者の視線方向を検出する視線検出手段と、
    前記運転者の視線方向を複数回取り込んで前記運転者の注視方向を検出する注視方向検出手段と、
    前記注視方向から前記運転者の有効視野を判定する有効視野判定手段と、
    を含むことを特徴とする請求項1に記載の脇見運転検出警報システム。
  3. 前記障害物探索部は、
    前記レーダーと、
    前記有効視野から前記運転者が注視していない方向を判定し、その方向に前記レーダー探索方向を設定する探索方向設定手段と、
    障害物を検出した場合に、前記障害物の方向と距離、及び前記障害物と車両双方の速度と移動方向とから、前記車両と前記障害物との相対速度を算出し、前記車両と前記障害物との距離及び前記相対速度から前記障害物が前記車両に到達する推定到達時間を算出して出力する障害物検出手段と、
    を含むことを特徴とする請求項1に記載の脇見運転検出警報システム。
  4. 前記警報設定部は、
    前記障害物探索部が障害物を検出した場合に、前記視線検出部に設けられた注視方向履歴作成手段に於いて作成された注視方向時間履歴を参照して、前記運転者が前記障害物を注視した履歴がない場合は前記障害物を検出した時間から、前記履歴がある場合は前回障害物を注視した時間からの経過時間を脇見運転時間とし、前記脇見運転時間と、前記推定到達時間と、前記障害物の方向と距離、及び前記障害物と車両双方の速度及び移動方向と、から成るデータの内の2以上を、あらかじめ入力されている脇見運転判定プログラムに入力して演算し、前記脇見運転警報を発するか否かを決定する警報判定手段と、
    脇見運転警報の発令形式を設定して出力する警報設定手段と、
    前記警報設定手段の設定した警告方法に従って警報を発令する警報装置と、
    を含むことを特徴とする請求項1に記載の脇見運転検出警報システム。
  5. 前記警報設定手段は、前記警報判定手段が前記脇見運転警報を発すると決定した場合に、前記脇見運転時間と、前記推定到達時間と、前記障害物の方向と距離、及び前記障害物と車両双方の速度及び移動方向と、から成るデータの内の2以上を用いて、前記脇見運転判定プログラムによって前記障害物の危険度を算出し、前記危険度に対応して前記脇見運転警報の発令形式を設定して出力することを特徴とする請求項4に記載の脇見運転検出警報システム。
JP2008089765A 2008-03-31 2008-03-31 脇見運転検出警報システム Expired - Fee Related JP5354514B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008089765A JP5354514B2 (ja) 2008-03-31 2008-03-31 脇見運転検出警報システム
US12/288,757 US8144002B2 (en) 2008-03-31 2008-10-23 Alarm system for alerting driver to presence of objects
DE102008043200A DE102008043200A1 (de) 2008-03-31 2008-10-27 Warnmeldungsanlage zum Warnen eines Fahrers vor dem Vorhandensein von Gegenständen
CN200810191111.XA CN101549648B (zh) 2008-03-31 2008-11-07 用于警告驾驶员存在目标物体的警报系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008089765A JP5354514B2 (ja) 2008-03-31 2008-03-31 脇見運転検出警報システム

Publications (2)

Publication Number Publication Date
JP2009245083A true JP2009245083A (ja) 2009-10-22
JP5354514B2 JP5354514B2 (ja) 2013-11-27

Family

ID=41060710

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008089765A Expired - Fee Related JP5354514B2 (ja) 2008-03-31 2008-03-31 脇見運転検出警報システム

Country Status (4)

Country Link
US (1) US8144002B2 (ja)
JP (1) JP5354514B2 (ja)
CN (1) CN101549648B (ja)
DE (1) DE102008043200A1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101680833B1 (ko) 2014-11-11 2016-11-29 경희대학교 산학협력단 보행자 검출 경보 장치 및 방법
JP2016207174A (ja) * 2015-04-28 2016-12-08 いすゞ自動車株式会社 車両の安全運転促進方法及び車両の安全運転促進装置
JP2017097759A (ja) * 2015-11-27 2017-06-01 株式会社デンソー 視線方向検出装置、及び視線方向検出システム
WO2017145549A1 (ja) * 2016-02-23 2017-08-31 株式会社デンソー 脇見見落とし注意システム及びコンピュータプログラム
JP2018198842A (ja) * 2017-05-29 2018-12-20 マツダ株式会社 運転者状態推定装置
JP2019102077A (ja) * 2017-12-01 2019-06-24 株式会社ストラドビジョン 運転補助装置及び運転補助方法
JP2021047675A (ja) * 2019-09-19 2021-03-25 パナソニックIpマネジメント株式会社 情報処理装置、情報処理方法、及び、コンピュータプログラム

Families Citing this family (89)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9491420B2 (en) 2009-09-20 2016-11-08 Tibet MIMAR Vehicle security with accident notification and embedded driver analytics
US9460601B2 (en) 2009-09-20 2016-10-04 Tibet MIMAR Driver distraction and drowsiness warning and sleepiness reduction for accident avoidance
JP5407764B2 (ja) * 2009-10-30 2014-02-05 トヨタ自動車株式会社 運転支援装置
JP2011118482A (ja) * 2009-11-30 2011-06-16 Fujitsu Ten Ltd 車載装置および認知支援システム
US8384534B2 (en) * 2010-01-14 2013-02-26 Toyota Motor Engineering & Manufacturing North America, Inc. Combining driver and environment sensing for vehicular safety systems
DE102010041961B4 (de) * 2010-10-05 2022-08-04 Bayerische Motoren Werke Aktiengesellschaft Kraftfahrzeug mit einer Vorrichtung zur Beeinflussung der Blickrichtung des Fahrers
KR101231510B1 (ko) 2010-10-11 2013-02-07 현대자동차주식회사 운전자 주시방향 연동 전방충돌 위험경보 시스템, 그 방법 및 그를 이용한 차량
US8599027B2 (en) * 2010-10-19 2013-12-03 Deere & Company Apparatus and method for alerting machine operator responsive to the gaze zone
CN102556073B (zh) * 2010-11-08 2014-08-06 株式会社电装 驾驶评价装置
DE102011018157A1 (de) * 2011-04-19 2012-10-25 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Erkennung einer Bushaltestelle
US9043042B2 (en) * 2011-07-19 2015-05-26 GM Global Technology Operations LLC Method to map gaze position to information display in vehicle
EP2736028B1 (en) * 2011-07-21 2019-05-22 Toyota Jidosha Kabushiki Kaisha Vehicle information transmitting apparatus
EP2564766B1 (en) * 2011-09-02 2018-03-21 Volvo Car Corporation Visual input of vehicle operator
US8848978B2 (en) * 2011-09-16 2014-09-30 Harman International (China) Holdings Co., Ltd. Fast obstacle detection
US9248796B2 (en) * 2011-10-06 2016-02-02 Honda Motor Co., Ltd. Visually-distracted-driving detection device
CN102564719A (zh) * 2011-11-18 2012-07-11 浙江吉利汽车研究院有限公司 一种防正碰系统侧向来车标定试验方法及装置
US9409518B2 (en) 2011-12-16 2016-08-09 GM Global Technology Operations LLC System and method for enabling a driver of a vehicle to visibly observe objects located in a blind spot
US20130169785A1 (en) * 2011-12-30 2013-07-04 Agco Corporation Method of detecting and improving operator situational awareness on agricultural machines
JP5592441B2 (ja) * 2012-06-26 2014-09-17 本田技研工業株式会社 配光制御装置
US9296334B2 (en) * 2012-06-29 2016-03-29 Harman International Industries, Incorporated Systems and methods for disabling a vehicle horn
DE102012214852B4 (de) * 2012-08-21 2024-01-18 Robert Bosch Gmbh Verfahren und Vorrichtung zum Selektieren von Objekten in einem Umfeld eines Fahrzeugs
DE102012022819A1 (de) * 2012-11-17 2014-05-22 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Verfahren und Vorrichtungen zur Ausgabe von Informationen in einem Kraftfahrzeug
JP5849040B2 (ja) * 2012-11-28 2016-01-27 富士重工業株式会社 車両の運転支援制御装置
KR101382772B1 (ko) * 2012-12-11 2014-04-08 현대자동차주식회사 디스플레이 시스템 및 방법
US8930269B2 (en) 2012-12-17 2015-01-06 State Farm Mutual Automobile Insurance Company System and method to adjust insurance rate based on real-time data about potential vehicle operator impairment
US8981942B2 (en) 2012-12-17 2015-03-17 State Farm Mutual Automobile Insurance Company System and method to monitor and reduce vehicle operator impairment
CN103010025B (zh) * 2012-12-21 2016-04-13 浙江吉利汽车研究院有限公司杭州分公司 一种车辆安全起步控制方法及实现该方法的装置
US8937552B1 (en) * 2013-01-02 2015-01-20 The Boeing Company Heads down warning system
US9975483B1 (en) * 2013-02-08 2018-05-22 Amazon Technologies, Inc. Driver assist using smart mobile devices
JP2014191485A (ja) * 2013-03-26 2014-10-06 Sharp Corp 障害物検出装置、及びそれを備えた電動車両
WO2014176474A1 (en) * 2013-04-25 2014-10-30 GM Global Technology Operations LLC Ambient display
US9260095B2 (en) * 2013-06-19 2016-02-16 Magna Electronics Inc. Vehicle vision system with collision mitigation
DE102013216994A1 (de) * 2013-08-27 2015-03-05 Robert Bosch Gmbh Geschwindigkeitsassistent für ein Kraftfahrzeug
US9881221B2 (en) 2013-10-24 2018-01-30 Conduent Business Services, Llc Method and system for estimating gaze direction of vehicle drivers
KR101470243B1 (ko) * 2013-11-15 2014-12-05 현대자동차주식회사 시선 검출 장치 및 그 시선 검출 방법
EP3316231B1 (en) * 2014-01-06 2021-11-10 iOnRoad Technologies, Limited Alert generation correlating between head mounted imaging data and external device
CN103770733B (zh) * 2014-01-15 2017-01-11 中国人民解放军国防科学技术大学 一种驾驶员安全驾驶状态检测方法及装置
US10179588B2 (en) * 2014-04-11 2019-01-15 Nissan North America, Inc. Autonomous vehicle control system
DE102014213422A1 (de) * 2014-07-10 2016-01-14 Robert Bosch Gmbh Verfahren und Vorrichtung zur Vermeidung eines Tunnelblicks
DE102014214088A1 (de) * 2014-07-21 2016-01-21 Robert Bosch Gmbh Fahrerinformationssystem in einem Fahrzeug
US9947215B2 (en) * 2014-09-26 2018-04-17 Harman International Industries, Incorporated Pedestrian information system
US9904362B2 (en) * 2014-10-24 2018-02-27 GM Global Technology Operations LLC Systems and methods for use at a vehicle including an eye tracking device
GB2532457B (en) * 2014-11-19 2018-04-18 Jaguar Land Rover Ltd Dynamic control apparatus and related method
GB2532959B (en) 2014-12-02 2019-05-08 Here Global Bv An apparatus, method and computer program for monitoring positions of objects
CN105774809B (zh) * 2014-12-26 2019-01-08 中国移动通信集团公司 一种行车盲区提示的方法和装置
US9505413B2 (en) * 2015-03-20 2016-11-29 Harman International Industries, Incorporated Systems and methods for prioritized driver alerts
CN104786973A (zh) * 2015-03-25 2015-07-22 张彬彬 前车防碰撞系统
JP6319349B2 (ja) * 2015-04-03 2018-05-09 株式会社デンソー 情報提示装置
DE102015206200A1 (de) * 2015-04-08 2016-10-13 Robert Bosch Gmbh Verfahren und Vorrichtung zur Aufmerksamkeitserkennung eines Fahrzeugführers
GB2538572B (en) * 2015-05-18 2018-12-19 Mobileye Vision Technologies Ltd Safety system for a vehicle to detect and warn of a potential collision
JP6425622B2 (ja) * 2015-06-12 2018-11-21 日立建機株式会社 車載装置、車両衝突防止方法
US9637120B2 (en) * 2015-06-24 2017-05-02 Delphi Technologies, Inc. Cognitive driver assist with variable assistance for automated vehicles
CN105383491B (zh) * 2015-10-30 2018-10-12 上海斐讯数据通信技术有限公司 针对行驶中交通工具的预警监测方法、系统及移动终端
US9849883B2 (en) * 2016-05-04 2017-12-26 Ford Global Technologies, Llc Off-road autonomous driving
US10140690B2 (en) * 2017-02-03 2018-11-27 Harman International Industries, Incorporated System and method for image presentation by a vehicle driver assist module
US10445559B2 (en) 2017-02-28 2019-10-15 Wipro Limited Methods and systems for warning driver of vehicle using mobile device
KR102185480B1 (ko) * 2017-07-28 2020-12-02 현대모비스 주식회사 차량의 긴급 제동 준비 장치
DE102017124583A1 (de) * 2017-10-20 2019-04-25 Airbus Operations Gmbh System zum Überwachen des Zutritts zu einem Fahrzeug
JP6702292B2 (ja) * 2017-11-15 2020-06-03 オムロン株式会社 警報制御装置、方法、およびプログラム
JP6787299B2 (ja) * 2017-11-15 2020-11-18 オムロン株式会社 警報制御装置、警報制御方法、および警報制御のためのプログラム
CN109941278B (zh) * 2017-12-20 2021-06-01 广州汽车集团股份有限公司 一种基于监控驾驶员状态的车辆控制方法、装置和系统
EP3517385B1 (en) * 2018-01-26 2022-08-31 Honda Research Institute Europe GmbH Method and driver assistance system for assisting a driver in driving a vehicle
KR102506871B1 (ko) * 2018-02-19 2023-03-08 현대자동차주식회사 자율 주행 제어 장치 및 그의 전방차량 출발 알림 방법
KR102494865B1 (ko) * 2018-02-20 2023-02-02 현대자동차주식회사 차량 및 그 제어 방법
CN108399394A (zh) * 2018-03-12 2018-08-14 海信集团有限公司 障碍物预警方法、装置及终端
DE112018007625T5 (de) * 2018-05-17 2021-02-25 Mitsubishi Electric Corporation Fahrzeuggenutzte rückseitige warnvorrichtung und fahrzeuggenutztes rückseitiges warnverfahren
US10899358B2 (en) * 2018-05-31 2021-01-26 Accenture Global Solutions Limited Vehicle driver monitoring system and method for capturing driver performance parameters
US10632995B2 (en) * 2018-06-15 2020-04-28 Ford Global Technologies, Llc Vehicle launch mode control
US11590985B2 (en) * 2018-08-09 2023-02-28 Sony Semiconductor Solutions Corporation Information processing device, moving body, information processing method, and program
CN108928346A (zh) * 2018-08-13 2018-12-04 吉利汽车研究院(宁波)有限公司 一种用于驾驶车辆的辅助驾驶系统及方法
DE102018127471A1 (de) 2018-11-05 2020-05-07 Valeo Schalter Und Sensoren Gmbh Verfahren und System zum Warnen eines Fahrers eines Fahrzeugs
CN113039509B (zh) * 2018-11-21 2024-08-23 谷歌有限责任公司 使用位置传感器和虚拟声学建模提供情境感知的装置和方法
JP7180421B2 (ja) * 2019-02-04 2022-11-30 トヨタ自動車株式会社 車両制御装置
JP7245683B2 (ja) * 2019-03-15 2023-03-24 株式会社Subaru 乗員保護機能を有する車両
CN110401937A (zh) * 2019-04-19 2019-11-01 王君 即时大数据收发平台
US10953895B2 (en) * 2019-04-25 2021-03-23 GM Global Technology Operations LLC Dynamic forward collision alert system
DE112020002576T5 (de) * 2019-05-31 2022-05-12 Murakami Corporation Fahrassistenzsystem, Fahrassistenzverfahren und Programm
CN110525337B (zh) * 2019-09-11 2021-09-21 北京经纬恒润科技股份有限公司 车辆安全控制装置及方法
CN110984020B (zh) * 2019-11-22 2021-11-02 万翼科技有限公司 智能危险源警示雪糕筒及相关产品
JP7267222B2 (ja) * 2020-02-26 2023-05-01 三菱ロジスネクスト株式会社 処理装置、処理方法、報知システム及びプログラム
JP7448394B2 (ja) * 2020-03-26 2024-03-12 本田技研工業株式会社 駐車支援システム
JP7272338B2 (ja) * 2020-09-24 2023-05-12 トヨタ自動車株式会社 自動運転システム
EP3989202A1 (en) * 2020-10-20 2022-04-27 Aptiv Technologies Limited Method for notifying hazards to a driver of a motor vehicle and device for implementing the same
KR20220055214A (ko) * 2020-10-26 2022-05-03 현대자동차주식회사 운전자 보조 시스템 및 그를 가지는 차량
US11269420B1 (en) * 2020-11-05 2022-03-08 Harman International Industries, Incorporated Techniques for detecting acknowledgment from a driver of a vehicle
EP4005889A1 (en) * 2020-11-30 2022-06-01 Aptiv Technologies Limited Attention assist method for dynamic blind zone with driver state in the loop, assist system, vehicle and computer program
US12054170B2 (en) * 2021-02-16 2024-08-06 Toyota Research Institute, Inc. Directional stimuli to enhance vehicle operator situational awareness
CN114387821B (zh) * 2022-01-27 2023-08-22 中国第一汽车股份有限公司 车辆碰撞预警方法、装置、电子设备和存储介质
US20230294706A1 (en) * 2022-03-18 2023-09-21 Gentex Corporation Systems and methods for eye gaze based alertness measurement

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001199296A (ja) * 2000-01-17 2001-07-24 Matsushita Electric Ind Co Ltd 警報装置、振動体を有する運転座席、警報装置を車両に搭載した移動体
JP2005231450A (ja) * 2004-02-18 2005-09-02 Honda Motor Co Ltd 車両用障害物検出装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6261830A (ja) 1985-09-10 1987-03-18 Nippon Denso Co Ltd 車両運転者監視装置
JP2822508B2 (ja) 1989-11-28 1998-11-11 日産自動車株式会社 運転者の運転状態検出装置
JPH03232873A (ja) 1990-02-09 1991-10-16 Mitsubishi Kasei Corp 光学活性シス―4―ヒドロキシ―3―置換テトラヒドロフラン誘導体およびその製造方法
JPH0432994A (ja) 1990-05-22 1992-02-04 Fujitsu Ltd 金銭登録機における取引情報処理方式
JPH06262959A (ja) 1993-03-15 1994-09-20 Aisin Seiki Co Ltd 脇見運転警報装置
JP3019677B2 (ja) 1993-09-06 2000-03-13 三菱自動車工業株式会社 わき見運転防止装置
JP3815842B2 (ja) 1997-03-31 2006-08-30 日産ディーゼル工業株式会社 居眠り警報装置
JPH1148820A (ja) 1997-08-07 1999-02-23 Nissan Diesel Motor Co Ltd 居眠り警報装置
JPH11304428A (ja) 1998-04-22 1999-11-05 Matsushita Electric Ind Co Ltd 運転者監視装置及び自動車運転支援システム
JP4196458B2 (ja) 1998-12-11 2008-12-17 日産自動車株式会社 車両用警報装置
JP2002331850A (ja) 2001-05-07 2002-11-19 Nissan Motor Co Ltd 運転行動意図検出装置
JP3790680B2 (ja) * 2001-05-25 2006-06-28 株式会社東芝 画像処理システム及びこれを用いた運転支援システム
JP4578795B2 (ja) * 2003-03-26 2010-11-10 富士通テン株式会社 車両制御装置、車両制御方法および車両制御プログラム
US6989754B2 (en) * 2003-06-02 2006-01-24 Delphi Technologies, Inc. Target awareness determination system and method
DE602006014684D1 (de) * 2006-09-08 2010-07-15 Ford Global Tech Llc Aktives Sicherheitssystem für Kraftfahrzeug sowie Verfahren zum Betrieb eines solchen
EP1897773B1 (en) * 2006-09-08 2009-11-11 Ford Global Technologies, LLC An object awareness determination system and a method for determining awareness of an object.
JP2008219063A (ja) * 2007-02-28 2008-09-18 Sanyo Electric Co Ltd 車両周辺監視装置及び方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001199296A (ja) * 2000-01-17 2001-07-24 Matsushita Electric Ind Co Ltd 警報装置、振動体を有する運転座席、警報装置を車両に搭載した移動体
JP2005231450A (ja) * 2004-02-18 2005-09-02 Honda Motor Co Ltd 車両用障害物検出装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101680833B1 (ko) 2014-11-11 2016-11-29 경희대학교 산학협력단 보행자 검출 경보 장치 및 방법
JP2016207174A (ja) * 2015-04-28 2016-12-08 いすゞ自動車株式会社 車両の安全運転促進方法及び車両の安全運転促進装置
JP2017097759A (ja) * 2015-11-27 2017-06-01 株式会社デンソー 視線方向検出装置、及び視線方向検出システム
WO2017145549A1 (ja) * 2016-02-23 2017-08-31 株式会社デンソー 脇見見落とし注意システム及びコンピュータプログラム
JP2018198842A (ja) * 2017-05-29 2018-12-20 マツダ株式会社 運転者状態推定装置
JP2019102077A (ja) * 2017-12-01 2019-06-24 株式会社ストラドビジョン 運転補助装置及び運転補助方法
JP2021047675A (ja) * 2019-09-19 2021-03-25 パナソニックIpマネジメント株式会社 情報処理装置、情報処理方法、及び、コンピュータプログラム

Also Published As

Publication number Publication date
CN101549648B (zh) 2016-04-13
US8144002B2 (en) 2012-03-27
JP5354514B2 (ja) 2013-11-27
DE102008043200A1 (de) 2009-10-15
US20090243880A1 (en) 2009-10-01
CN101549648A (zh) 2009-10-07

Similar Documents

Publication Publication Date Title
JP5354514B2 (ja) 脇見運転検出警報システム
KR102338554B1 (ko) 자동 긴급 제동장치 및 그 제어방법
JP4926437B2 (ja) 車両の運転支援装置
KR101867915B1 (ko) 차량에서 웨어러블 기기를 이용한 기능 실행 방법 및 이를 수행하는 차량
JP4722777B2 (ja) 障害物認識判定装置
JP2019087143A (ja) ドライバ状態検出装置
JP6235425B2 (ja) 安全確認判定装置、及び運転支援装置
CN107111955B (zh) 操作控制装置
JP2005202876A (ja) 衝突可能性判定装置
US11618469B2 (en) Vehicle-use rear side warning device and vehicle-use rear side warning method
JP4647387B2 (ja) 車両の運転支援装置
JP2014052883A (ja) 歩行者警告装置
JP2009301123A (ja) 車両の運転支援装置
KR100941236B1 (ko) 전방 미주시 운전 검출 경보 시스템
JP2007249757A (ja) 警報装置
JP2007102639A (ja) 衝突判定装置
JP6213435B2 (ja) 注意過多状態判定装置及び注意過多状態判定プログラム
JP2008137467A (ja) 車両の運転支援装置
JP6811743B2 (ja) 安全運転支援装置
JP2007133644A (ja) 歩行者認識装置
JP4534788B2 (ja) 車両用運転支援装置
JP2012053746A (ja) 車両の制御装置
KR20120062215A (ko) 운전자를 위한 차량의 후측방 경보장치
JP2009211498A (ja) 車両用警報装置
JP2010026807A (ja) 車両用警報表示制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121030

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130319

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130813

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130820

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees