JP2015049814A - 歩行者検出装置及び交通制御システム - Google Patents

歩行者検出装置及び交通制御システム Download PDF

Info

Publication number
JP2015049814A
JP2015049814A JP2013182522A JP2013182522A JP2015049814A JP 2015049814 A JP2015049814 A JP 2015049814A JP 2013182522 A JP2013182522 A JP 2013182522A JP 2013182522 A JP2013182522 A JP 2013182522A JP 2015049814 A JP2015049814 A JP 2015049814A
Authority
JP
Japan
Prior art keywords
pedestrian
image
straight lines
straight line
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013182522A
Other languages
English (en)
Other versions
JP6218514B2 (ja
Inventor
大樹 山本
Hiroki Yamamoto
大樹 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koito Electric IndustriesLtd
Original Assignee
Koito Electric IndustriesLtd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koito Electric IndustriesLtd filed Critical Koito Electric IndustriesLtd
Priority to JP2013182522A priority Critical patent/JP6218514B2/ja
Publication of JP2015049814A publication Critical patent/JP2015049814A/ja
Application granted granted Critical
Publication of JP6218514B2 publication Critical patent/JP6218514B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】従来とは全く異なる原理に従って、横断歩道上の歩行者を精度良く検出する。【解決手段】歩行者検出装置11は、白線が描かれた横断歩道上の歩行者を検出する。歩行者検出装置11は、前記横断歩道の前記白線の領域を含む領域を撮像する撮像手段21と、撮像手段21から時間経過に従って順次得られる複数の画像の各々について、当該画像中の所定領域内において複数の直線を検出する直線検出手段と、前記直線検出手段により検出された前記複数の画像毎の前記複数の直線の、前記複数の画像間での変化に基づいて、前記歩行者の有無を判定する判定手段と、を備える。【選択図】図1

Description

本発明は、横断歩道上の歩行者を検出する歩行者検出装置、及び、これを用いた交通制御システムに関するものである。
下記特許文献1には、横断歩道上の歩行者を検出する検出方法として、横断歩道の白線部分を第1の識別領域に設定し、前記白線以外の部分を第2の識別領域に設定し、計測対象物が存在しない状態で、第1の識別領域及び第2の識別領域にて、基準となる第1基準時空間画像及び第2基準時空間画像を予め生成しておき、前記第1の識別領域から得られる画像データに基づき生成した第1時空間画像及び前記第2の識別領域から得られる画像データに基づき生成した第2時空間画像と、前記第1基準時空間画像及び前記第2基準時空間画像とを用いて差分時空間画像を生成し、生成した差分時空間画像に基づき計測対象物の有無または種別を識別する識別方法が開示されている。この識別は、差分時空間画像のヒストグラム解析、エッジ検出、フーリエ解析等を行うことにより行われる。
また、下記特許文献1には、このような方法を利用し、前記識別の結果に基づいて信号機の切り換え時間を制御する手段を備えた交通制御システムも、開示されている。
特許第3779229号公報
しかしながら、前記従来の歩行者検出装置では、前記識別が差分時空間画像のヒストグラム解析、エッジ検出、フーリエ解析等を行うことにより行われているので、横断歩道上の歩行者の検出精度をさほど高くすることはできなかった。
本発明は、このような事情に鑑みてなされたもので、従来とは全く異なる原理に従って、横断歩道上の歩行者を精度良く検出することができる歩行者検出装置、及び、これを用いた交通制御システムを提供することを目的とする。
前記課題を解決するための手段として、以下の各態様を提示する。第1の態様による歩行者検出装置は、白線が描かれた横断歩道上の歩行者を検出する歩行者検出装置であって、前記横断歩道の前記白線の領域を含む領域を撮像する撮像手段と、前記撮像手段から時間経過に従って順次得られる複数の画像の各々について、当該画像中の所定領域内において複数の直線を検出する直線検出手段と、前記直線検出手段により検出された前記複数の画像毎の前記複数の直線の、前記複数の画像間での変化に基づいて、前記歩行者の有無を判定する判定手段と、を備えたものである。
横断歩道の白線の外形線は、複数の直線からなる。そして、横断歩道上に歩行者が存在すれば、横断歩道の白線の領域を含む領域を撮像した画像において、当該歩行者によって前記直線の一部が遮られ、その遮られる具合が変化する。したがって、前記画像中の直線の長さ等の変化に基づいて、横断歩道上の歩行者を検出することができる。
前記第1の態様によれば、前記撮像手段、前記直線検出手段及び前記判定手段を備えているので、前述したような直線の変化に着目した全く新しい歩行者検出原理に従って、横断歩道上の歩行者を精度良く検出することができる。
第2の態様による歩行者検出装置は、前記第1の態様において、前記直線検出手段は、前記複数の画像の各々について、当該画像中の前記所定領域内において前記複数の直線をハフ変換処理により検出するものである。
画像中の直線の検出をハフ変換処理により行うと、線の一部が遮られていても精度良く検出でき、しかも、ハフ変換処理自体は周知の処理であって比較的簡単な処理である。したがって、前記第2の態様によれば、画像中の直線がハフ変換処理により検出されるので、横断歩道上の歩行者を比較的簡単な処理でより精度良く検出することができる。もっとも、前記第1の態様では、ハフ変換処理以外の処理によって直線を検出してもよい。
第3の態様による歩行者検出装置は、前記第2の態様において、前記直線検出手段は、前記複数の画像の各々について、前記ハフ変換処理の前に当該画像中の前記所定領域の画像に対してエッジ検出処理を行うエッジ検出処理手段を含み、前記直線検出手段は、前記複数の画像の各々について、前記エッジ検出処理手段によりエッジ検出処理された画像に対して前記ハフ変換処理を行うものである。
この第3の態様によれば、ハフ変換処理の前にエッジ検出処理を行うので、より精度良く直線を検出することができ、ひいては、より精度良く横断歩道上の歩行者を検出することができる。
第4の態様による歩行者検出装置は、前記第2又は第3の態様において、前記複数の直線は、前記白線が延びる方向を含む所定角度範囲内の方向の直線であるものである。
横断歩道の白線の領域を含む領域の画像における直線としては、前記白線が延びる方向の直線の成分が多い。また、歩行者は、横断歩道上において白線が延びる方向と交差する方向へ移動する。したがって、検出した直線の変化として歩行者をより精度良く捉えるためには、検出する直線の方向を、前記白線が延びる方向にすることが好ましい。一方、検出する直線の方向を、前記白線が延びる方向のみとすれば、横断歩道の白線を描く際の誤差や撮像手段の視野の傾きの設定誤差等によって、本来検出すべき直線が検出し得なくなってしまい、却って、横断歩道上の歩行者を検出する精度が低下してしまう。
これらの理由で、前記第4の態様によれば、検出する前記複数の直線が、前記白線が延びる方向を含む所定角度範囲内の方向の直線であることから、横断歩道の白線を描く際の誤差や撮像手段の視野の傾きの設定誤差等に拘わらず、横断歩道上の歩行者をより精度良く検出することができる。
第5の態様による歩行者検出装置は、前記第2又は第3の態様において、前記複数の直線は、投票値の大きい順に選択された所定数の直線であるものである。
投票値(投票数)の大きい直線ほど、当該直線に(ある誤差範囲内で)載る画素数が多いことを意味する。前記第5の態様によれば、検出する複数の直線が、投票値の大きい順に選択された所定数の直線であるので、直線部分の総量がより大きい直線の変化が横断歩道上の歩行者の検出に用いられ、横断歩道上の歩行者をより精度良く検出することができる。
第6の態様による歩行者検出装置は、前記第2又は第3の態様において、前記複数の直線は、前記白線が延びる方向を含む所定角度範囲内の方向の直線のうち、投票値の大きい順に選択された所定数の直線であるものである。
この第6の態様によれば、前記第5の態様と同様の理由及び前記第6の態様と同様の理由の両方によって、横断歩道上の歩行者をより一層精度良く検出することができる。
第7の態様による歩行者検出装置は、前記第5又は第6の態様において、前記複数の画像は、第1の画像及び第2の画像であり、前記判定手段は、前記直線検出手段により検出された前記第1の画像の前記複数の直線の投票値と、前記直線検出手段により検出された前記第2の画像の前記複数の直線の投票値との間の、各画像における投票値の大きさの順序が同じもの同士の間の差分を、それぞれ取得し、前記判定手段は、前記取得された複数の差分が、第1及び第2の条件を満たす場合に、横断歩道上の歩行者が存在する旨の判定を行い、前記第1の条件は、前記取得された複数の差分のうちの2つ以上の差分の絶対値の平均値、あるいは、前記取得された複数の差分のうちの1つ以上の差分の絶対値が、ゼロよりも大きくかつ第1の所定値よりも小さいという条件であり、前記第2の条件は、前記取得された複数の差分の分散値又は標準偏差が、ゼロよりも大きい第2の所定値以上であるという条件であるものである。
この第7の態様は、前記判定手段による判定の具体例を挙げたものであるが、前記第1乃至第6の態様では、この例に限定されるものではない。前記第7の態様によれば、前記第1の条件を満たすことを必要条件として横断歩道上の歩行者を検出しているので、横断歩道上の車両を歩行者として誤って検出する可能性が低減され、横断歩道上の歩行者をより一層精度良く検出することができる。これは、一人又は複数人の歩行者よりも車両の方が面積が大きいことから、横断歩道上の車両は、横断歩道上の歩行者に比べて、直線を遮る量が大きくなることが多いことに基づいている。また、前記第7の態様によれば、前記第2の条件を満たすことを必要条件として横断歩道上の歩行者を検出しているので、背景の影響を十分に抑えることができ、横断歩道上の歩行者をより一層精度良く検出することができる。これは、横断歩道上に移動体が存在しなければ、前記分散値又は標準偏差がゼロ又はゼロに近くなるのに対し、横断歩道上に歩行者が存在すれば、歩行者は移動体であるので、前記分散値又は標準偏差がゼロでなくなり所定値以上の値となることに基づいている。
第8の態様による交通制御システムは、前記第1乃至第7のいずれかの態様による歩行者検出装置と、前記歩行者検出装置による前記歩行者の検出結果に基づいて、交通信号機を制御する信号制御装置と、を備えたものである。
この第8の態様によれば、横断歩道上の歩行者を精度良く検出することができる前記第1乃至第7のいずれかの態様による歩行者検出装置が用いられ、その歩行者の検出結果に基づいて、交通信号機が制御されるので、より適切な交通信号機の制御を実現することができる。
本発明によれば、従来とは全く異なる原理に従って、横断歩道上の歩行者を精度良く検出することができる歩行者検出装置、及び、これを用いた交通制御システムを提供することができる。
本発明の一実施の形態による交通制御システムを示す概略ブロック図である。 図1中の歩行者検出装置の動作を示す概略フローチャートである。 図1中のカメラにより撮像された画像の一例を模式的に示す図である。 図1中のカメラにより撮像された画像の他の例を模式的に示す図である。 図1中のカメラにより撮像された画像の更に他の例を模式的に示す図である。 処理対象領域の一例を示す図である。 ハフ変換処理の原理を説明するためのx−y平面図である。 ハフ変換処理の原理を説明するためのθ−ρ平面図である。 ハフ変換処理により検出された3本の直線の例を示す図である。 横断歩道上に歩行者も車両を存在しない場合の各差分値の例を示す図である。 横断歩道上に歩行者も車両を存在しない状態から横断歩道上に車両が存在する状態へ変化した場合と、横断歩道上に車両が存在する状態から横断歩道上に歩行者も車両を存在しない状態へ変化した場合の、各差分値の例を示す図である。 横断歩道上に歩行者も車両を存在しない状態から横断歩道上に歩行者が現れて手前側から奥側へ横断歩道上を歩行していく場合の、各差分値の例を示す図である。
以下、本発明による歩行者検出装置及び交通制御システムについて、図面を参照して説明する。
図1は、本発明の一実施の形態による交通制御システム1を示す概略ブロック図である。
本発明による交通制御システム1は、白線W1〜W4(後述する図3等参照)が描かれた横断歩道上の歩行者101(後述する図5参照)を検出する歩行者検出装置11と、歩行者検出装置11からの歩行者検出結果としての歩行者検出信号に基づいて、歩行者用交通信号機13及び車両用交通信号機14を制御する信号制御装置12と、を備えている。
信号制御装置12は、例えば、歩行者用交通信号機13が青信号の場合において、当該歩行者用交通信号機13に対応する横断歩道上の歩行者が検出された旨を示す歩行者検出信号を受けなければ、当該歩行者用交通信号機13の青時間が所定時間となるように、歩行者用交通信号機13を制御する一方で、歩行者用交通信号機13が青信号の場合において、当該歩行者用交通信号機13に対応する横断歩道上の歩行者が検出された旨の歩行者検出信号を受けると、当該歩行者用交通信号機13の青時間が前記所定時間よりも長い時間となるように、歩行者用交通信号機13を制御する。このとき、信号制御装置12は、車両用交通信号機14が歩行者用交通信号機13の動作に適合する動作を行うように、車両用交通信号機14を制御する。もっとも、信号制御装置12は、このようないわゆる青時間延長制御に限らず、歩行者検出信号に基づいて他の制御を行ってもよい。また、歩行者検出装置11からの歩行者検出信号の用途は、信号制御装置12による交通信号機13,14の制御に限らず、他の用途に用いてもよいし、他の装置(例えば、交通管理センターの装置など)へ出力するようにしてもよい。
本実施の形態では、歩行者検出装置11は、前記横断歩道の白線W1〜W4の領域を含む領域を撮像する撮像手段としてのCCDカメラ等のカメラ21と、カメラ21からの画像アナログ信号を画素ごとに所定階調のデジタル信号に変換するA/D変換器22と、デジタル信号に変換された画像(画像信号)を記憶する画像メモリ23と、画像メモリ23からの画像に対して後述する処理を行う処理部24とを備えている。図面には示していないが、処理部24は、後述する動作を実現するように、マイクロコンピュータ及び他の電子回路等で構成されている。
カメラ21は、図面には示していないが、例えば、歩行者用交通信号機13を支持する支柱上に設置される。カメラ21が撮像する画像の各例を図3乃至図5に示している。これらの例では、カメラ21は、横断歩道を真正面の斜め上方から俯瞰して横断歩道の領域を撮像しており、横断歩道の4本の白線W1〜W4の領域を含む領域を撮像し、白線W1〜W4の外形線のうちの白線W1〜W4の長辺をなす外形線がカメラ21の視野(撮像画像)における水平線(すなわち、横方向)と一致している。なお、白線W1〜W4の長辺が延びる方向が、白線W1〜W4が延びる方向であり、歩行者が横断する(移動する)方向と交差している。
カメラ21は、必ずしも横断歩道の全体を撮像する必要はなく、横断歩道の一部の領域のみ撮像するようにしてもよく、例えば、横断歩道の3本の白線W1〜W3の領域を撮像する一方で、白線W4の領域は撮像しないように、カメラ21の視野を設定してもよい。また、カメラ21は、横断歩道を必ずしも真正面から撮像する必要はなく、例えば、横断歩道を斜め側方かつ斜め上方から撮像し、白線W1〜W4の長辺をなす白線W1〜W4の外形線が、カメラ21の視野(撮像画像)における水平線(すなわち、横方向)に対して傾くようになっていてもよい。
図3は、横断歩道上に歩行者101も車両100も存在しない場合において、カメラ21により撮像された画像の例を、模式的に示す図である。図4は、横断歩道上に車両100が存在する場合において、カメラ21により撮像された画像の例を、模式的に示す図である。図5は、横断歩道上に歩行者101が存在する場合において、カメラ21により撮像された画像の例を、模式的に示す図である。
次に、本実施の形態における歩行者検出装置11の動作について、図2を参照して説明する。
まず、初期設定として、カメラ21が撮像する画像中における処理対象領域Rを設定する(ステップS1)。この設定は、歩行者検出装置11を設置する際に行われる。この設定は、例えば、処理部24にパーソナルコンピュータを接続し、そのパーソナルコンピュータにカメラ21からの撮像画像を表示させ、設定者がその画像を見ながらマウス等により処理対象領域を指示することで、その処理対象領域Rを示す情報が処理部24の内部メモリ(図示せず)に格納されるようにすることによって、行うことができる。なお、処理対象領域Rの設定後にパーソナルコンピュータは取り外される。処理対象領域Rは、例えば、横断歩道の領域を含みそれよりも若干大きい領域に設定される。図6は、処理対象領域Rの一例を示す図であり、台形の領域となっている。図6では、図1と同じ画像中に、処理対象領域Rが破線で記載されている。
次に、処理部24は、カメラ21からの画像を1枚サンプリングし(ステップS2)、サンプリングした画像を画像メモリ23に格納させる。
次いで、処理部24は、ステップS1でサンプリングした画像中の処理対象領域Rに対して、Sobelフィルタなどを用いてエッジ検出処理を行う(ステップS3)。このとき、処理対象領域Rに対してのみエッジ検出処理が行われるので、他の領域のエッジは抽出されない。
引き続いて、処理部24は、ステップS3で得られたエッジ画像を2値化する(ステップS4)。この2値化は、予め設定していた固定閾値を用いて行ってもよいし、各種の可変閾値決定手法を用いて行ってもよい。
その後、処理部24は、ステップS4で得られた画像に対してハフ(Hough)変換処理を行い、処理対象領域R内の複数本の直線を検出し、検出された各直線を示すパラメータρ,θと、当該各直線の投票値とを得る(ステップS5)。本実施の形態では、3本の直線を検出するが、2本の直線を検出してもよいし、4本以上の直線を検出してもよい。ただし、本実施の形態では、処理対象領域R内の白線W1〜W4の外形のうちの長辺をなす直線(画像中の横線)は8本であるので、ステップS5で検出する直線の本数は、8本以下に設定される。
ここで、図7及び図8を参照して、このハフ変換処理について簡単に説明する。図7及び図8は、ハフ変換処理の原理を一般的に説明するためのものであり、カメラ21が撮像する画像内容と直接一致するものではない。図7は、x−y平面での直線を示す図である。x−y平面は撮像された画像の座標系であり、各画素に(x,y)の座標が与えられる。x軸方向は、カメラ21の視野の水平方向(横方向)と一致している。ある座標(x,y)を通る直線群は、ρ=xicosθ+yisinθの式で表される。
ここで、ρ,θは原点から直線への距離と角度である。前記式をρ,θに関する方程式と考え、その軌跡をθ−ρ空間に描くと図8のようになる。こうした軌跡をハフ曲線という。ステップS4で得られた画像の各画素に対し、この写像を行い、θ−ρ空間に描いていく。図7の(a,b)はθ−ρ空間では、ρ=acosθ+bsinθの式で表される曲線となる。
多くのハフ曲線が交差する点は同一直線上に多数の特徴点が載っていることを示している。θ−ρ空間内のハフ曲線上の1点で、交差本数の多い点を(ρ,θ)としたとき、(ρ,θ)を用いた式、すなわち、ρ=xcosθ+ysinθによって定義される直線が画像中に存在するとみなすことができる。
理解を容易にするため、図8では、ハフ曲線の交差本数が多い点が1点であるものとし、ステップS4で得られた画像中には、1本の直線しか存在しないものとしている。実際には、ステップS4で得られた画像中には複数の直線が存在するため、ハフ曲線の交差本数が多い点は複数点となる。ハフ曲線の交差本数は、その交差点(すなわち、θ−ρ空間におけるその点が示す直線)の投票値(投票数)に相当している。投票値の大きい直線ほど、ステップS4で得られた画像中の画素のうち当該直線に(ある誤差範囲内で)載る画素数の数が多いことを意味する。
本実施の形態では、ステップS5において、処理部24は、ステップS4で得られた画像中の、白線W1〜W4が延びる方向(長辺の方向)を含む所定角度範囲内の方向の直線のうち、投票値の大きい順に選択された所定数(本実施の形態では、3本)の直線を、検出する。すなわち、処理部24は、白線W1〜W4の長辺の方向(角度)の設定目標値(本実施の形態では、90゜)をθrとし、Δθ1,Δθ2をそれぞれ所定値とするとき、θr−Δθ1≦θ≦θr+Δθ2を満たすθ−ρ空間内の点のうち、投票値の大きい順に所定数の点(すなわち、所定数の直線)を選択する。Δθ1=Δθ2でもよいし、Δθ1≠Δθ2でもよい。Δθ1,Δθ2は、例えば、1゜〜10゜程度に設定することができる。これにより、白線W1〜W4の図中の左側の短辺のなす斜めの直線や白線W1〜W4の図中の右側の短辺のなす斜めの直線は、ステップS5での検出対象から除外される。一方、白線W1〜W4が延びる方向(長辺の方向)を含む所定角度範囲内の方向の直線が検出対象とされるので、横断歩道の白線W1〜W4を描く際の誤差やカメラ21の視野の傾きの設定誤差等があっても、白線W1〜W4の長辺をなす直線は検出対象とされる。
例えば、ステップS2でサンプリングされた画像が図3に示す画像である場合には、ステップS5において、図9に示すように、前記所定範囲内の方向の直線のうち投票値が1番目に大きい直線L1として、前記所定範囲内の方向の直線のうち1番目に直線成分の多い白線W1の手前側の長辺に相当する直線が検出され、前記所定範囲内の方向の直線のうち投票値が2番目に大きい直線L2として、前記所定範囲内の方向の直線のうち2番目に直線成分の多い白線W1の奥側の長辺に相当する直線が検出され、前記所定範囲内の方向の直線のうち投票値が3番目に大きい直線L3として、前記所定範囲内の方向の直線のうち3番目に直線成分の多い白線W2の手前側の長辺に相当する直線が検出される。
なお、本発明では、ステップS5において、ステップS4で得られた画像に対してハフ変換処理を行い、処理対象領域R内の複数本の直線を検出し、検出された各直線を示すパラメータρ,θと、当該各直線の投票値とを得るための具体的な処理内容は、必ずしも前述した処理内容に限らない。例えば、ステップS5において、処理部24は、白線W1〜W4が延びる方向(長辺の方向)を含む所定角度範囲内の方向の直線であるという制約を課すことなく、投票値の大きい順に選択された所定数の直線を、検出してもよい。また、例えば、ステップS5において、処理部24は、白線W1〜W4が延びる方向(長辺の方向)を含む所定角度範囲内の方向の直線のうち、図9中の直線L1のρに対して一定範囲内のρを持つ直線のうちで最も大きい投票値の直線と、図9中の直線L2のρに対して一定範囲内のρを持つ直線のうちで最も大きい投票値の直線と、図9中の直線L3のρに対して一定範囲内のρを持つ直線のうちで最も大きい投票値の直線とを、前記複数本の直線として検出してもよい。また、例えば、ステップS5において、処理部24は、白線W1〜W4が延びる方向(長辺の方向)を含む所定角度範囲内の方向の直線であるという制約を課すことなく、図9中の直線L1のρに対して一定範囲内のρを持つ直線のうちで最も大きい投票値の直線と、図9中の直線L2のρに対して一定範囲内のρを持つ直線のうちで最も大きい投票値の直線と、図9中の直線L3のρに対して一定範囲内のρを持つ直線のうちで最も大きい投票値の直線とを、前記複数本の直線として検出してもよい。これらの点は、後述するステップS9についても同様である。
ステップS5の後、処理部24は、カメラ21からの画像を新たに1枚サンプリングし(ステップS6)、今回サンプリングした画像を画像メモリ23に格納させる。カメラ21からの画像のサンプリング間隔(前回サンプリングした画像の撮像時点と今回サンプリングした画像の撮像時点との間の時間間隔)は、必ずしもカメラ21のフレームレートの逆数に限らず、例えば、カメラ21のフレームレートの逆数の複数倍にし、カメラ21が撮像する画像を間引いてサンプリングしてもよい。
次に、処理部24は、ステップS3と同様に、ステップS6で今回サンプリングした画像中の処理対象領域Rに対して、Sobelフィルタなどを用いてエッジ検出処理を行う(ステップS7)。
引き続いて、処理部24は、ステップS4と同様に、ステップS7で得られたエッジ画像を2値化する(ステップS8)。
その後、処理部24は、ステップS5と同様に、ステップS8で得られた画像に対してハフ(Hough)変換処理を行い、処理対象領域R内の複数本の直線を検出し、検出された各直線を示すパラメータρ,θと、当該各直線の投票値とを得る(ステップS9)。すなわち、本実施の形態では、ステップS9において、ステップS5と同様に、処理部24は、ステップS4で得られた画像中の、白線W1〜W4が延びる方向(長辺の方向)を含む所定角度範囲内の方向の直線のうち、投票値の大きい順に選択された所定数(本実施の形態では、3本)の直線を、検出する。例えば、ステップS6でサンプリングされた画像が図3に示す画像である場合には、ステップS9において、図9に示すように、前記所定範囲内の方向の直線のうち投票値が1番目に大きい直線L1として、前記所定範囲内の方向の直線のうち1番目に直線成分の多い白線W1の手前側の長辺に相当する直線が検出され、前記所定範囲内の方向の直線のうち投票値が2番目に大きい直線L2として、前記所定範囲内の方向の直線のうち2番目に直線成分の多い白線W1の奥側の長辺に相当する直線が検出され、前記所定範囲内の方向の直線のうち投票値が3番目に大きい直線L3として、前記所定範囲内の方向の直線のうち3番目に直線成分の多い白線W2の手前側の長辺に相当する直線が検出される。
次に、処理部24は、ステップS6で今回サンプリングされた画像(今回の画像(第1の画像))とステップS1又は前回のステップS6で前回サンプリングされた画像(前回の画像(第2の画像))との間における対応する3本の直線L1,L2,L3の投票値同士の各差分ΔP1,ΔP2,ΔP3を算出する(ステップS10)。すなわち、処理部24は、前回の画像についてステップS5又は前回のステップS9で検出された直線L1(本実施の形態では、前記所定範囲内の方向の直線のうち投票値が1番目に大きい直線)の投票値から、今回の画像について今回のステップS9で検出された対応する直線L1(本実施の形態では、前記所定範囲内の方向の直線のうち投票値が1番目に大きい直線)の投票値を減算した値を、差分ΔP1として算出する。また、処理部24は、前回の画像についてステップS5又は前回のステップS9で検出された直線L2(本実施の形態では、前記所定範囲内の方向の直線のうち投票値が2番目に大きい直線)の投票値から、今回の画像について今回のステップS9で検出された対応する直線L2(本実施の形態では、前記所定範囲内の方向の直線のうち投票値が2番目に大きい直線)の投票値を減算した値を、差分ΔP2として算出する。さらに、処理部24は、前回の画像についてステップS5又は前回のステップS9で検出された直線L3(本実施の形態では、前記所定範囲内の方向の直線のうち投票値が3番目に大きい直線)の投票値から、今回の画像について今回のステップS9で検出された対応する直線L3(本実施の形態では、前記所定範囲内の方向の直線のうち投票値が3番目に大きい直線)の投票値を減算した値を、差分ΔP3として算出する。
ここで、ステップS10で算出された差分ΔP1,ΔP2,ΔP3が、どのような値を示すかについて、場合分けして説明する。
横断歩道上に歩行者101も車両100も存在しない場合に撮像された画像(図3及び図9参照)では、白線W1,W2等は遮られないので、この画像から検出された直線L1,L2,L3の各投票値は大きくなる。
今回の画像も前回の画像も、横断歩道上に歩行者101も車両100も存在しない場合に撮像された画像(図3及び図9参照)であれば、今回の画像で検出された直線L1,L2,L3の各投票値と前回の画像で検出された直線L1,L2,L3の各投票値とは、それぞれ実質的に同じであるため、図10に示すように、差分ΔP1,ΔP2,ΔP3はいずれも、ゼロ又はゼロに近い値となる。図10は、今回の画像も前回の画像も、横断歩道上に歩行者101も車両100も存在しない場合に撮像された画像である場合の、各差分ΔP1,ΔP2,ΔP3の値を示す図である。
横断歩道上に車両100が存在する場合に撮像された画像(図4参照)では、車両100の面積は一人又は複数人の歩行者101よりも面積が大きいことから、横断歩道上の車両100は、白線W1,W2等を一度に大きく遮ることが多いので、この画像から検出された直線L1,L2,L3の各投票値は大幅に小さくなることが多い。勿論、車両100が横断歩道上に差し掛かり始めた場合や、車両100が横断歩道を抜けきる直前である場合には、車両100は白線W1,W2等を小さくしか遮らず、その画像から検出された直線L1,L2,L3の各投票値は少し小さくなるだけであるが、そのような状況が生ずる確率は低い。
今、横断歩道上に歩行者101も車両100も存在しない状態(第1の状態)から、車両100が横断歩道上に進入して車両100が白線W1,W2等を比較的大きく遮っている状態(第2の状態)を経て、その後に、車両が100が横断歩道を抜けきって、横断歩道上に歩行者101も車両100も存在しない状態(第3の状態)に戻る状況を考える。このとき、前々回の画像が前記第1の状態で撮像され、前回の画像が前記第2の状態で撮像され、今回の画像が前記第3の状態で撮像されると、前々回の画像から検出された直線L1,L2,L3の各投票値はいずれも大きくなり、前回の画像から検出された直線L1,L2,L3の各投票値はいずれも一度に大幅に小さくなり、今回の画像から検出された直線L1,L2,L3の各投票値はいずれも一度に大きくなる。したがって、前々回の画像から検出された直線L1,L2,L3の各投票値と前回の画像から検出された直線L1,L2,L3の各投票値同士との間の各差分ΔP1,ΔP2,ΔP3は、図11(a)に示すように、いずれも絶対値の大きな正の値となり、前回の画像から検出された直線L1,L2,L3の各投票値と今回の画像から検出された直線L1,L2,L3の各投票値同士との間の各差分ΔP1,ΔP2,ΔP3は、図11(b)に示すように、いずれも絶対値の大きな負の値となる。
図11(a)は、前々回の画像が前記第1の状態で撮像された画像であるとともに前回の画像が前記第2の状態で撮像された画像である場合の、各差分ΔP1,ΔP2,ΔP3の値を示す図である。なお、ここでの前々回の画像は、前述したステップS10の説明における前回の画像に相当し、ここでの前回の画像は、前述したステップS10の説明における今回の画像に相当している。図11(b)は、前回の画像が前記第2の状態で撮像された画像であるとともに今回の画像が前記第3の状態で撮像された画像である場合の、各差分ΔP1,ΔP2,ΔP3の値を示す図である。
横断歩道上に歩行者101が存在する場合に撮像された画像(図4参照)では、歩行者101の面積は歩行者101が一人であっても複数人であっても車両100の面積よりも小さいことから、横断歩道上の歩行者101は、白線W1,W2等を小さく遮る。しかも、横断歩道上の歩行者101の速度は低いので、一人一人の歩行者101は、白線W1〜W4の長辺の線を一度にではなく逐次的に遮っていくことになる。したがって、横断歩道上に歩行者101がいれば、その人数が一人でも複数人でも、時間経過に従って、白線W1〜W4の長辺をなす線のうち歩行者101によって遮られていく長辺をなす線が変化していき、しかも、歩行者101により各線が遮られる量は小さい。
今、一人の歩行者101が横断歩道を図5中の手前側から奥側へ横断していく場合において、横断歩道上に歩行者101も車両100も存在しない状態(第11の状態)から、歩行者101が白線W1の手前側の長辺のみを遮っている状態(第12の状態)を経て、その後に、歩行者101が白線W1の手前側及び奥側の両側の長辺を遮っている状態(第13の状態)となる状況を考える。このとき、前々回の画像が前記第11の状態で撮像され、前回の画像が前記第12の状態で撮像され、今回の画像が前記第13の状態で撮像されると、前々回の画像から検出された直線L1,L2,L3の各投票値はいずれも大きくなり、前回の画像から検出された直線L1,L2,L3の投票値のうちの直線L1の投票値は少しだけ小さくなる一方で直線L2,L3の各投票値は大きいまま変わらず、今回の画像から検出された直線L1,L2,L3の投票値のうちの直線L1の投票値は少しだけ小さくなったまま変わらず、直線L2の投票値は少しだけ小さくなる一方で直線L3の投票値は大きいまま変わらない。したがって、前々回の画像から検出された直線L1,L2,L3の各投票値と前回の画像から検出された直線L1,L2,L3の各投票値同士との間の各差分ΔP1,ΔP2,ΔP3は、図12(a)に示すように、差分ΔP1が比較的小さな正の値となる一方で、差分ΔP2,ΔP3はほぼゼロとなり、前回の画像から検出された直線L1,L2,L3の各投票値と今回の画像から検出された直線L1,L2,L3の各投票値同士との間の各差分ΔP1,ΔP2,ΔP3は、図12(b)に示すように、差分ΔP2が比較的小さな正の値となる一方で、差分ΔP1,ΔP3はほぼゼロとなる。
以上の通りであるので、ステップS10で算出された差分ΔP1,ΔP2,ΔP3のうちの2つ以上の差分の絶対値の平均値、あるいは、ステップS10で算出された差分ΔP1,ΔP2,ΔP3のうちの1つ以上の差分の絶対値が、ゼロよりも大きくかつ第1の所定値A(図12(a)や図12(b)の状況などの横断歩道上に歩行者101がいる場合と、図11(a)や図11(b)の状況などの横断歩道上に車両100がいる場合とを、判別するための閾値)よりも小さいという第1の条件を満たすか否かによって、横断歩道上に歩行者101がいる場合(前記第1の条件を満たす場合)と横断歩道上に車両100がいる場合(前記第1の条件を満たさない場合)とを、判別することができる。
また、ステップS10で算出された差分ΔP1,ΔP2,ΔP3の分散値Pv又は標準偏差がゼロよりも大きい第2の所定値B(図12(a)や図12(b)の状況などの横断歩道上に歩行者101がいる場合と、図10の状況などの横断歩道上に歩行者101も車両100もいない場合とを、判別するための閾値)以上であるという第2の条件を満たすか否かによって、横断歩道上に歩行者101がいる場合(前記第2の条件を満たす場合)と横断歩道上に歩行者101も車両100もいない場合(前記第2の条件を満たさない場合)とを、判別することができる。
したがって、前記第1の条件及び前記第2の条件を満たす場合に、横断歩道上の歩行者101が存在する旨の判定を行うことによって、横断歩道上の歩行者101を精度良く検出することができる。
本実施の形態では、ステップS10の後に、処理部24は、ステップS10で算出された差分ΔP1,ΔP2,ΔP3の絶対値の平均値Paveを算出する(ステップS11)。
引き続いて、本実施の形態では、処理部24は、ステップS10で算出された差分ΔP1,ΔP2,ΔP3の分散値Pvを算出する(ステップS12)。
次に、処理部24は、ステップS11で算出された平均値Paveがゼロより大きくかつ第1の所定値Aより小さいという条件(第1の条件に相当)を満たすか否かを判定し(ステップS13)、その条件を満たしていなければステップS16へ移行する一方で、その条件を満たしていればステップS14へ移行する。
なお、処理部24は、ステップS11において、ステップS10で算出された差分ΔP1,ΔP2,ΔP3のいずれか2つの差分の絶対値の平均値を算出し、ステップS13において、その平均値がゼロより大きくかつ第1の所定値Aより小さいという条件(第1の条件に相当)を満たすか否かを判定してもよい。あるいは、処理部24は、ステップS11を行うことなく、ステップS13において、ステップS10で算出された差分ΔP1,ΔP2,ΔP3のうちの1つ以上差分の絶対値が、ゼロよりも大きくかつ第1の所定値A小さいという条件(第1の条件に相当)を満たすか否かを判定してもよい。
ステップS14において、処理部24は、ステップS12で算出された分散値Pvがゼロより大きい第2の所定値B以上であるという条件(第2の条件に相当)を満たすか否かを判定し、その条件を満たしていなければステップS16へ移行する一方で、その条件を満たしていればステップS15へ移行する。
なお、処理部24は、ステップS12において、ステップS10で算出された差分ΔP1,ΔP2,ΔP3の標準偏差を算出し、ステップS14において、その標準偏差がゼロより大きい第2の所定値B以上であるという条件(第2の条件に相当)を満たすか否かを判定してもよい。
ステップS15において、処理部24は、横断歩道上の歩行者101が検出された旨を示す歩行者検出信号の出力を開始する。この歩行者検出信号は、図1中の信号制御装置12に供給される。なお、既に歩行者検出信号が出力されている状態であれば、その出力を継続する。
ステップS16において、処理部24は、横断歩道上の歩行者101が検出された旨を示す歩行者検出信号の出力を停止する。なお、既に歩行者検出信号の
出力が停止されている状態であれば、その停止状態を継続する。
本実施の形態では、前述したステップS2〜S5及びステップS6〜S9が、カメラ21から順次得られる複数の画像の各々について、当該画像中の所定領域R内において複数の直線L1,L2,L3を検出する直線検出手段としての機能に相当している。また、本実施の形態では、前述したステップS10〜S14が、前記直線検出手段により検出された前記複数の画像毎の前記複数の直線L1,L2,L3の、前記複数の画像間での変化に基づいて、横断歩道上の歩行者101の有無を判定する判定手段としての機能に相当している。もっとも、本発明では、前記直線検出手段や前記判定手段は、それらに限定されるものではない。本実施の形態では、前述したように、順次得られる2つの画像(今回の画像と前回の画像)間での変化に基づいて横断歩道上の歩行者101の有無を判定しているが、本発明では、順次得られる3つ以上の画像間での変化に基づいて横断歩道上の歩行者101の有無を判定してもよい。
横断歩道の白線W1〜W4の外形線は、複数の直線からなる。そして、前述したように、横断歩道上に歩行者101が存在すれば、横断歩道の白線W1〜W4の領域を含む領域を撮像した画像において、当該歩行者101によって前記直線の一部が遮られ、その遮られる具合が変化する。したがって、前記画像中の直線の長さ等の変化に基づいて、横断歩道上の歩行者を検出することができる。
本実施の形態によれば、前記撮像手段、前記直線検出手段及び前記判定手段を備えているので、前述したような直線の変化に着目した全く新しい歩行者検出原理に従って、横断歩道上の歩行者101を精度良く検出することができる。
画像中の直線の検出をハフ変換処理により行うと、線の一部が遮られていても精度良く検出でき、しかも、ハフ変換処理自体は周知の処理であって比較的簡単な処理である。したがって、本実施の形態によれば、画像中の直線がハフ変換処理により検出されるので、横断歩道上の歩行者101を比較的簡単な処理でより精度良く検出することができる。もっとも、本発明では、ハフ変換処理以外の処理によって直線を検出してもよい。
また、本実施の形態によれば、ハフ変換処理(ステップS5,S9)の前にエッジ検出処理(ステップS3,S7)を行うので、より精度良く直線を検出することができ、ひいては、より精度良く横断歩道上の歩行者101を検出することができる。
横断歩道の白線W1〜W4の領域を含む領域の画像における直線としては、前記白線W1〜W4が延びる方向(長辺の方向)の直線の成分が多い。また、歩行者101は、横断歩道上において白線W1〜W2が延びる方向と交差する方向へ移動する。したがって、検出した直線の変化として歩行者101をより精度良く捉えるためには、検出する直線の方向を、白線W1〜W4が延びる方向にすることが好ましい。一方、検出する直線の方向を、白線W1〜W4が延びる方向のみとすれば、横断歩道の白線W1〜W4を描く際の誤差やカメラ21の視野の傾きの設定誤差等によって、本来検出すべき直線が検出し得なくなってしまい、却って、横断歩道上の歩行者を検出する精度が低下してしまう。
これらの理由で、本実施の形態によれば、検出する前記複数の直線が、白線W1〜W4が延びる方向を含む所定角度範囲内の方向の直線であることから、横断歩道の白線W1〜W4を描く際の誤差やカメラ21の視野の傾きの設定誤差等に拘わらず、横断歩道上の歩行者101をより精度良く検出することができる。
また、本実施の形態によれば、前記第1の条件を満たすことを必要条件として横断歩道上の歩行者101を検出しているので、横断歩道上の車両100を歩行者101として誤って検出する可能性が低減され、横断歩道上の歩行者101をより一層精度良く検出することができる。これは、前述したように、一人又は複数人の歩行者101よりも車両100の方が面積が大きいことから、横断歩道上の車両100は、横断歩道上の歩行者101に比べて、直線を遮る量が大きくなることが多いことに基づいている。
また、本実施の形態によれば、前記第2の条件を満たすことを必要条件として横断歩道上の歩行者を検出しているので、背景の影響を十分に抑えることができ、横断歩道上の歩行者101をより一層精度良く検出することができる。これは、前述したように、横断歩道上に移動体が存在しなければ、前記分散値Pv又は標準偏差がゼロ又はゼロに近くなるのに対し、横断歩道上に歩行者101が存在すれば、歩行者101は移動体であるので、前記分散値Pv又は標準偏差がゼロでなくなり所定値以上の値となることに基づいている。
本実施の形態による交通制御システム1では、横断歩道上の歩行者101を精度良く検出することができる歩行者検出装置11が用いられ、その歩行者101の検出結果(歩行者検出信号)に基づいて、交通信号機13,14が制御されるので、より適切な交通信号機13,14の制御を実現することができる。
以上、本発明の実施の形態とその変形例について説明したが、本発明はこれらに限定されるものではない。
1 交通制御システム
11 歩行者検出装置
12 信号制御装置
13 歩行者用交通信号機
14 車両用交通信号機
21 カメラ
24 処理部

Claims (8)

  1. 白線が描かれた横断歩道上の歩行者を検出する歩行者検出装置であって、
    前記横断歩道の前記白線の領域を含む領域を撮像する撮像手段と、
    前記撮像手段から時間経過に従って順次得られる複数の画像の各々について、当該画像中の所定領域内において複数の直線を検出する直線検出手段と、
    前記直線検出手段により検出された前記複数の画像毎の前記複数の直線の、前記複数の画像間での変化に基づいて、前記歩行者の有無を判定する判定手段と、
    を備えたことを特徴とする歩行者検出装置。
  2. 前記直線検出手段は、前記複数の画像の各々について、当該画像中の前記所定領域内において前記複数の直線をハフ変換処理により検出することを特徴とする請求項1記載の歩行者検出装置。
  3. 前記直線検出手段は、前記複数の画像の各々について、前記ハフ変換処理の前に当該画像中の前記所定領域の画像に対してエッジ検出処理を行うエッジ検出処理手段を含み、
    前記直線検出手段は、前記複数の画像の各々について、前記エッジ検出処理手段によりエッジ検出処理された画像に対して前記ハフ変換処理を行う、
    ことを特徴とする請求項2記載の歩行者検出装置。
  4. 前記複数の直線は、前記白線が延びる方向を含む所定角度範囲内の方向の直線であることを特徴とする請求項2又は3記載の歩行者検出装置。
  5. 前記複数の直線は、投票値の大きい順に選択された所定数の直線であることを特徴とする請求項2又は3記載の歩行者検出装置。
  6. 前記複数の直線は、前記白線が延びる方向を含む所定角度範囲内の方向の直線のうち、投票値の大きい順に選択された所定数の直線であることを特徴とする請求項2又は3記載の歩行者検出装置。
  7. 前記複数の画像は、第1の画像及び第2の画像であり、
    前記判定手段は、前記直線検出手段により検出された前記第1の画像の前記複数の直線の投票値と、前記直線検出手段により検出された前記第2の画像の前記複数の直線の投票値との間の、各画像における投票値の大きさの順序が同じもの同士の間の差分を、それぞれ取得し、
    前記判定手段は、前記取得された複数の差分が、第1及び第2の条件を満たす場合に、横断歩道上の歩行者が存在する旨の判定を行い、
    前記第1の条件は、前記取得された複数の差分のうちの2つ以上の差分の絶対値の平均値、あるいは、前記取得された複数の差分のうちの1つ以上の差分の絶対値が、ゼロよりも大きくかつ第1の所定値よりも小さいという条件であり、
    前記第2の条件は、前記取得された複数の差分の分散値又は標準偏差が、ゼロよりも大きい第2の所定値以上であるという条件である、
    ことを特徴とする請求項5又は6記載の歩行者検出装置。
  8. 請求項1乃至7のいずれかに記載の歩行者検出装置と、
    前記歩行者検出装置による前記歩行者の検出結果に基づいて、交通信号機を制御する信号制御装置と、
    を備えたことを特徴とする交通制御システム。
JP2013182522A 2013-09-03 2013-09-03 歩行者検出装置及び交通制御システム Active JP6218514B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013182522A JP6218514B2 (ja) 2013-09-03 2013-09-03 歩行者検出装置及び交通制御システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013182522A JP6218514B2 (ja) 2013-09-03 2013-09-03 歩行者検出装置及び交通制御システム

Publications (2)

Publication Number Publication Date
JP2015049814A true JP2015049814A (ja) 2015-03-16
JP6218514B2 JP6218514B2 (ja) 2017-10-25

Family

ID=52699745

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013182522A Active JP6218514B2 (ja) 2013-09-03 2013-09-03 歩行者検出装置及び交通制御システム

Country Status (1)

Country Link
JP (1) JP6218514B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE202019103219U1 (de) 2019-06-07 2019-08-28 Swarco Futurit Verkehrssignalsysteme Ges.M.B.H. Verkehrsampel
AT16614U1 (de) * 2018-06-26 2020-02-15 Swarco Futurit Verkehrssignalsysteme Ges M B H Verkehrsampel

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10247297A (ja) * 1997-03-04 1998-09-14 Nippon Signal Co Ltd:The 歩行者検出装置
JP2001195698A (ja) * 2000-01-07 2001-07-19 Nissan Motor Co Ltd 歩行者検知装置
JP2009276910A (ja) * 2008-05-13 2009-11-26 Toyota Central R&D Labs Inc 画像処理装置、方法及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10247297A (ja) * 1997-03-04 1998-09-14 Nippon Signal Co Ltd:The 歩行者検出装置
JP2001195698A (ja) * 2000-01-07 2001-07-19 Nissan Motor Co Ltd 歩行者検知装置
JP2009276910A (ja) * 2008-05-13 2009-11-26 Toyota Central R&D Labs Inc 画像処理装置、方法及びプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AT16614U1 (de) * 2018-06-26 2020-02-15 Swarco Futurit Verkehrssignalsysteme Ges M B H Verkehrsampel
DE202019103219U1 (de) 2019-06-07 2019-08-28 Swarco Futurit Verkehrssignalsysteme Ges.M.B.H. Verkehrsampel

Also Published As

Publication number Publication date
JP6218514B2 (ja) 2017-10-25

Similar Documents

Publication Publication Date Title
US10970566B2 (en) Lane line detection method and apparatus
US8184859B2 (en) Road marking recognition apparatus and method
CN109284674B (zh) 一种确定车道线的方法及装置
TWI438729B (zh) 車道偏移警示方法及系統
KR101605514B1 (ko) 차선 인식 장치 및 방법
US7437243B2 (en) Detecting device and method to detect an object based on a road boundary
JP4587038B2 (ja) 車両位置検出方法、並びに車両速度検出方法及び装置
US20110274353A1 (en) Screen area detection method and screen area detection system
US11263769B2 (en) Image processing device, image processing method, and image processing system
KR20120089528A (ko) 차선이탈 경보 시스템 및 방법
US10789495B2 (en) System and method for 1D root association providing sparsity guarantee in image data
US20140104313A1 (en) Object detection frame display device and object detection frame display method
CN103021179B (zh) 基于实时监控视频中的安全带检测方法
Ghilardi et al. A new approach for automatic detection of tactile paving surfaces in sidewalks
KR101236223B1 (ko) 차선 검출 방법
JP3812384B2 (ja) 先行車両認識装置
JP6218514B2 (ja) 歩行者検出装置及び交通制御システム
Zong et al. Traffic light detection based on multi-feature segmentation and online selecting scheme
CN111583341B (zh) 云台像机移位检测方法
Le et al. Pedestrian lane detection in unstructured environments for assistive navigation
KR102161212B1 (ko) 움직임 검출 시스템 및 방법
JP2006012013A (ja) 移動物体追跡装置
JP2017045261A (ja) 情報取得装置及び情報取得方法並びに情報取得用プログラム
TWI498831B (zh) 產生可變形狀之適應性動態區域之系統與其控制方法
KR20120124953A (ko) 자동 교통정보추출 시스템 및 그의 추출방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170704

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170926

R150 Certificate of patent or registration of utility model

Ref document number: 6218514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150