JP5853345B2 - ピント指標算出装置、画像処理装置、コンピュータプログラム及びピント指標算出方法 - Google Patents

ピント指標算出装置、画像処理装置、コンピュータプログラム及びピント指標算出方法 Download PDF

Info

Publication number
JP5853345B2
JP5853345B2 JP2013098714A JP2013098714A JP5853345B2 JP 5853345 B2 JP5853345 B2 JP 5853345B2 JP 2013098714 A JP2013098714 A JP 2013098714A JP 2013098714 A JP2013098714 A JP 2013098714A JP 5853345 B2 JP5853345 B2 JP 5853345B2
Authority
JP
Japan
Prior art keywords
pixel
pixels
evaluation
value
focus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013098714A
Other languages
English (en)
Other versions
JP2014219843A (ja
Inventor
佳代 田中
佳代 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric System Solutions Co Ltd
Original Assignee
Sumitomo Electric System Solutions Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric System Solutions Co Ltd filed Critical Sumitomo Electric System Solutions Co Ltd
Priority to JP2013098714A priority Critical patent/JP5853345B2/ja
Publication of JP2014219843A publication Critical patent/JP2014219843A/ja
Application granted granted Critical
Publication of JP5853345B2 publication Critical patent/JP5853345B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)

Description

本発明は、撮像部のピントを調節するためのピント指標を算出するピント指標算出装置、該ピント指標算出装置を備える画像処理装置、前記ピント指標算出装置を実現するためのコンピュータプログラム及びピント指標算出方法に関する。
近年、交通監視などの分野において、特定の車両を抽出する技術の1つとして車両のナンバープレートを読み取る技術が開発されている。このようなナンバープレートを読み取る技術は、高速道路における料金収受システム、交通流の計測システム、駐車場等の入出車両管理システムなどに利用することができる。
また、このようなナンバープレートの読み取り技術として、例えば、撮像カメラにより得られたナンバープレートのグレースケール画像を二値化した二値画像からナンバープレート中の記号の重心位置を特定し、記号の重心位置を中心としてグレースケール画像上で水平方向左右に所定の画素数オフセットした勾配値計測範囲及び基準値計測範囲を設定し、その勾配値計測範囲内でのグレースケール濃度の勾配値を計測値として算出するとともに、基準値計測範囲内でのコントラスト値を基準値として算出し、その基準値に対する計測値の割合をフォーカス評価値として算出して、撮像カメラのフォーカス調整を行う車両ナンバー読取装置が開示されている(特許文献1参照)。
特開2009−140160号公報 特開2006−235921号公報 特開2012−73679号公報 特開2012−3342号公報 特開2010−176378号公報
しかしながら、特許文献1の技術は、ナンバープレート中の一連番号に含まれる記号の重心位置を検出した上で、勾配値計測範囲及び基準値計測範囲を設定する必要がある。このため、ナンバープレート中の記号を正しく検出しないとフォーカス評価値を算出することができず、結果として撮像カメラのフォーカス調整を精度良く行うことができない。
本発明は、斯かる事情に鑑みてなされたものであり、撮像部のピントを調節するためのピント指標を精度良く算出することができるピント指標算出装置、該ピント指標算出装置を備える画像処理装置、前記ピント指標算出装置を実現するためのコンピュータプログラム及びピント指標算出方法を提供することを目的とする。
第1発明に係るピント指標算出装置は、撮像部のピントを調節するためのピント指標を算出するピント指標算出装置であって、複数の画素で構成されるナンバープレート画像を取得する取得部と、該取得部で取得したナンバープレート画像の画素のうち、複数の基準画素を決定する基準画素決定部と、前記ナンバープレート画像の画素のうち、前記基準画素と異なる複数の評価画素を決定する評価画素決定部と、前記基準画素決定部で決定した基準画素及び前記評価画素決定部で決定した評価画素を用いてピント指標を算出する指標算出部とを備え、前記評価画素決定部は、画素値が、前記ナンバープレート画像の画素を二値化するための所定の閾値を含む所定範囲にある画素を評価画素として決定するようにしてあり、前記基準画素決定部は、画素値が前記所定範囲にない画素を基準画素として決定するようにしてある。
発明に係るピント指標算出装置は、第発明において、前記複数の評価画素のうち、画素値が前記閾値より大きい複数の第1評価画素及び該閾値より小さい複数の第2評価画素それぞれの画素値の代表値である第1評価値及び第2評価値を算出する評価値算出部と、前記複数の基準画素のうち、画素値が前記閾値より大きい複数の第1基準画素及び該閾値より小さい複数の第2基準画素それぞれの画素値の代表値である第1基準値及び第2基準値を算出する基準値算出部とを備え、前記指標算出部は、前記評価値算出部で算出した第1評価値及び第2評価値並びに基準値算出部で算出した第1基準値及び第2基準値に基づいてピント指標を算出するようにしてある。
発明に係るピント指標算出装置は、第発明又は第発明において、前記ナンバープレート画像の各画素を所定方向に走査する走査部を備え、前記評価画素決定部は、任意の注目画素に対して前記所定方向の前後の画素の一方の画素値が前記閾値より大きく、他方の画素値が前記閾値より小さい場合、前記注目画素を評価画素として決定するようにしてある。
発明に係るピント指標算出装置は、第発明又は第発明において、前記ナンバープレート画像の各画素を所定方向に走査する走査部を備え、前記評価画素決定部は、前記所定方向に連続する複数の画素であって、該複数の画素の画素値に前記閾値より大きい画素値及び該閾値より小さい画素値の両方が含まれる場合、前記複数の画素を評価画素として決定するようにしてある。
発明に係るピント指標算出装置は、第1発明から発明のいずれか1つにおいて、前記ナンバープレート画像に基づいて文字領域を特定する特定部を備え、前記評価画素決定部は、前記ナンバープレート画像の陸運支局・分類番号部分の少なくとも1文字を含む領域にある画素を評価画素として決定するようにしてあり、前記基準画素決定部は、前記ナンバープレート画像の一連番号部分の少なくとも1文字を含む領域にある画素を基準画素として決定するようにしてある。
発明に係るピント指標算出装置は、第発明において、前記評価画素決定部は、前記ナンバープレート画像の陸運支局の全部分を含む領域にある画素を評価画素として決定するようにしてある。
発明に係るピント指標算出装置は、第発明又は第発明において、前記評価画素決定部は、前記ナンバープレート画像の分類番号の全部分を含む領域にある画素を評価画素として決定するようにしてある。
発明に係るピント指標算出装置は、第発明から発明のいずれか1つにおいて、前記基準画素決定部は、前記ナンバープレート画像の一連番号の全部分を含む領域にある画素を基準画素として決定するようにしてある。
発明に係る画像処理装置は、第1発明に係るピント指標算出装置と、画像を撮像する撮像部と、前記ピント指標算出装置で算出したピント指標に基づいて前記撮像部のピントを調整する調整部とを備える。
10発明に係るコンピュータプログラムは、コンピュータ、複数の画素で構成されるナンバープレート画像の画素のうち、複数の基準画素を決定する基準画素決定部と、前記ナンバープレート画像の画素のうち、前記基準画素と異なる複数の評価画素を決定する評価画素決定部と、決定した基準画素及び評価画素を用いてピント指標を算出する指標算出部して機能させ、前記評価画素決定部は、画素値が、前記ナンバープレート画像の画素を二値化するための所定の閾値を含む所定範囲にある画素を評価画素として決定するようにしてあり、前記基準画素決定部は、画素値が前記所定範囲にない画素を基準画素として決定するようにしてある。
11発明に係るピント指標算出方法は、撮像部のピントを調節するためのピント指標を算出するピント指標算出方法であって、複数の画素で構成されるナンバープレート画像を取得部が取得するステップと、取得されたナンバープレート画像の画素のうち、複数の基準画素を基準画素決定部が決定するステップと、前記ナンバープレート画像の画素のうち、前記基準画素と異なる複数の評価画素を評価画素決定部が決定するステップと、決定された基準画素及び評価画素を用いてピント指標を指標算出部が算出するステップと、画素値が、前記ナンバープレート画像の画素を二値化するための所定の閾値を含む所定範囲にある画素を評価画素として前記評価画素決定部が決定するステップと、画素値が前記所定範囲にない画素を基準画素として前記基準画素決定部が決定するステップとを含む。
第1発明、第発明、第10発明及び第11発明にあっては、複数の画素で構成されるナンバープレート画像を取得し、取得したナンバープレート画像の画素のうち、複数の基準画素を決定するとともに、基準画素と異なる複数の評価画素を決定する。複数の基準画素は、例えば、ナンバープレート画像のピントが合っているか否かに関わらず輝度値などの画素値にあまり変化がない画素とすることができる。一方、複数の評価画素は、例えば、ナンバープレート画像のピントが合っているか否かに応じて、輝度値などの画素値の変化の度合いが異なる画素とすることができる。なお、基準画素と評価画素とは一部が重複してもよい。
そして、ピント指標を、基準画素及び評価画素を用いて算出する。例えば、基準画素を用いて特定される基準値と評価画素を用いて特定される評価値とによりピント指標を算出することができる。すなわち、ナンバープレート画像のピントが合っているか否かに関わらず基準値の変化が少ない基準画素と、ナンバープレート画像のピントが合っているか否かに応じて評価値の変化が大きい評価画素を用いることにより、算出したピント指標の大小に応じてピントが合っているか否かを判定することができる。これにより、ナンバープレート画像から記号などの重心位置を正確に抽出することなく、精度良くピント指標を算出することができる。
また、画素値が、ナンバープレート画像の画素を二値化するための所定の閾値を含む所定範囲にある画素を評価画素として決定する。また、画素値が当該所定範囲にない画素を基準画素として決定する。所定の閾値は、例えば、ナンバープレート画像の画素を白画素及び黒画素の二値化画素に区分する場合の閾値とすることができる。そして、所定範囲は、例えば、ナンバープレート画像の画素の最大輝度値と最小輝度値との差分の一定割合(例えば、10%程度など)とすることができる。すなわち、評価画素は、画素値(例えば、輝度値)が閾値の近傍(所定範囲)にある画素であり、基準画素は、画素値が閾値の近傍にない画素である。
ピントが合っている画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的大きい。また、ピントが合っていない画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的小さい。また、基準画素は、閾値の近傍にない画素であるので、ピントが合っているか否かに関わらず、白画素か黒画素のどちらかであり、輝度値の変化は少ない。そこで、評価画素として、閾値の近傍(所定範囲)にある画素を決定するとともに、輝度値の変化を評価値とすることにより、ピントが合っているか否かに応じて、評価値の大小が変化するので、ピントが合っているか否かを評価することができ、ピント指標の算出に利用することができる。
発明にあっては、複数の評価画素のうち、画素値が閾値より大きい複数の第1評価画素及び閾値より小さい複数の第2評価画素それぞれの画素値の代表値である第1評価値及び第2評価値を算出する。第1評価画素は、例えば、閾値により二値化した場合の白画素とすることができ、第2評価画素は、黒画素とすることができる。代表値は、例えば、平均値、最頻値、中央値などとすることができる。また、複数の基準画素のうち、画素値が閾値より大きい複数の第1基準画素及び閾値より小さい複数の第2基準画素それぞれの画素値の代表値である第1基準値及び第2基準値を算出する。第1基準画素は、例えば、閾値により二値化した場合の白画素とすることができ、第2基準画素は、黒画素とすることができる。
そして、ピント指標を、第1評価値、第2評価値、第1基準値及び第2基準値に基づいて算出する。例えば、ピント指標=(第1評価値−第2評価値)/(第1基準値−第2基準値)で算出することができる。この場合、ピント指標が1に近いほど、ピントが合っているとすることができる。したがって、算出したピント指標が、所定の閾値指標(例えば、0.7、0.8など)以上となるように、撮像部のピントを調整することができる。なお、ピント指標が閾値指標以上となるように、手動又は自動で撮像部のピントを調整することができる。
発明にあっては、ナンバープレート画像の各画素を所定方向に走査する。所定方向は、例えば、横方向(水平方向)とすることができる。任意の注目画素に対して所定方向の前後の画素の一方の画素値が閾値より大きく、他方の画素値が閾値より小さい場合、当該注目画素を評価画素として決定する。例えば、所定方向(例えば、横方向)に画素Gk、Gl、Gm、Gnが並んでいるとする。注目画素をGlとした場合、所定方向の前後の画素は、Gk、Gmとなる。そして、例えば、前の画素Gkの画素値(例えば、輝度値)が閾値より小さく、後の画素Gmの画素値(例えば、輝度値)が閾値より大きい場合、注目画素Glを評価画素と決定する。同様に、注目画素をGmとした場合、所定方向の前後の画素は、Gl、Gnとなる。そして、例えば、前の画素Glの画素値(例えば、輝度値)が閾値より小さく、後の画素Gnの画素値(例えば、輝度値)が閾値より大きい場合、注目画素Gmを評価画素と決定する。これにより、閾値の近傍の画素を評価画素とすることができる。
ピントが合っている画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的大きい。また、ピントが合っていない画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的小さい。閾値の近傍の画素を評価画素とすることにより、ピントが合っているか否かを評価することができ、ピント指標の算出に利用することができる。
発明にあっては、ナンバープレート画像の各画素を所定方向に走査する。所定方向は、例えば、横方向(水平方向)とすることができる。所定方向に連続する複数の画素であって、当該複数の画素の画素値に閾値より大きい画素値及び閾値より小さい画素値の両方が含まれる場合、当該複数の画素を評価画素として決定する。例えば、画素値(例えば、輝度値)が閾値より大きい1つの画素と小さい1つの画素とが連続する場合、画素値が閾値より大きい2つの画素と小さい1つの画素とが連続する場合、画素値が閾値より大きい1つの画素と小さい2つの画素とが連続する場合、画素値が閾値より大きい2つの画素と小さい2つの画素とが連続する場合、画素値が閾値より大きい2つの画素と小さい3つの画素とが連続する場合、画素値が閾値より大きい3つの画素と小さい2つの画素とが連続する場合などである。
ピントが合っている画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的大きい。また、ピントが合っていない画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的小さい。閾値の近傍の画素を評価画素とすることにより、ピントが合っているか否かを評価することができ、ピント指標の算出に利用することができる。
発明にあっては、ナンバープレート画像に基づいて文字領域を特定する。文字領域の特定は、例えば、少なくとも1つの文字の全部又は一部を含む領域であり、正確に文字を判別又は認識する必要はない。なお、文字を認識するようにしてもよい。ナンバープレートの線幅の太い一連番号部分の画素は、画像のピントが合っているか否かに関わらず、画素値(輝度値)の変化が少ない。一方、線幅の細い陸運支局・分類番号部分の画素は、ナンバープレート画像のピントが合っているか否かに応じて、画素値(輝度値)の変化が大きい。すなわち、ナンバープレート画像のピントがずれると、線幅の細い陸運支局・分類番号部分の白画素と黒画素との輝度値の差が少なくなり、鮮鋭度合が低下する。
そこで、ナンバープレート画像の陸運支局・分類番号部分の少なくとも1文字を含む領域にある画素を評価画素として決定し、ナンバープレート画像の一連番号部分の少なくとも1文字を含む領域にある画素を基準画素として決定する。すなわち、ナンバープレート画像のピントが合っているか否かに関わらず画素値の変化が少ない基準画素と、ナンバープレート画像のピントが合っているか否かに応じて画素値の変化が大きい評価画素を用いることにより、算出したピント指標の大小に応じてピントが合っているか否かを判定することができる。これにより、ナンバープレート画像から記号などの重心位置を正確に抽出することなく、精度良くピント指標を算出することができる。
発明にあっては、ナンバープレート画像の陸運支局の全部分を含む領域にある画素を評価画素として決定する。ピント指標の算出に用いる画素数を増やすことにより、精度良くピント指標を算出することができる。
発明にあっては、ナンバープレート画像の分類番号の全部分を含む領域にある画素を評価画素として決定する。ピント指標の算出に用いる画素数を増やすことにより、精度良くピント指標を算出することができる。
発明にあっては、ナンバープレート画像の一連番号の全部分を含む領域にある画素を基準画素として決定する。ピント指標の算出に用いる画素数を増やすことにより、精度良くピント指標を算出することができる。
本発明によれば、撮像部のピントを調節するためのピント指標を精度良く算出することができる。
実施の形態1のピント指標算出装置の構成の一例を示すブロック図である。 撮像装置の設置例を示す模式図である。 車両画像の一例を示す模式図である。 ナンバープレート画像の一例を示す説明図である。 図4の陸運支局・分類番号部分の輝度値の変化を示す説明図である。 図4の一連番号部分の輝度値の変化を示す説明図である。 実施の形態1の評価画素の決定方法の第1例を示す模式図である。 実施の形態1の評価画素の決定方法の第2例を示す模式図である。 画素値が閾値近傍にある評価画素の輝度変化の様子の一例を示す説明図である。 実施の形態2の評価エリア及び基準エリアの一例を示す説明図である。 ピント指標算出装置の処理手順の一例を示すフローチャートである。
(実施の形態1)
以下、本発明を実施の形態を示す図面に基づいて説明する。図1は実施の形態1のピント指標算出装置100の構成の一例を示すブロック図であり、図2は撮像装置200の設置例を示す模式図である。ピント指標算出装置100には、撮像装置200を接続してある。なお、ピント指標算出装置100と撮像装置200とを統合して画像処理装置として構成することもできる。
図2に示すように、撮像装置200は、道路を走行する車両を撮像すべく、所定の位置に設置される。撮像装置200は、装置全体を制御する制御部201、レンズ部202、撮像部203、インタフェース部204、ピント調整部205などを備える。なお、撮像装置200に、複数のLEDで構成される照明部を具備し、車両を撮像するタイミング(例えば、33msの都度)に併せて近赤外光を、道路を走行する車両に対して照射することもできる。
レンズ部202は、複数のレンズ等で構成され、車両などの撮像対象の像を撮像部203の撮像面に結像するとともに、撮像部203の撮像面に集光する機能を有する。
撮像部203は、複数の撮像素子で構成され、撮像して得られた画像データを、インタフェース部204を介してピント指標算出装置100へ出力する。
ピント調整部205は、インタフェース部204を介してピント指標算出装置100から出力されるピント指標に基づいて、例えば、レンズ部202のレンズを光軸に沿って移動させることにより、撮像する画像のピント調整を行う。
ピント指標算出装置100は、装置全体を制御する制御部10、インタフェース部11、ナンバープレート検出部12、文字領域特定部13、記憶部14、画像処理部15、基準値算出部16、評価値算出部17、ピント指標算出部18などを備える。
インタフェース部11は、撮像装置200で撮像して得られた画像データを取得し、取得した画像データをフレーム単位に撮像時刻に対応付けて記憶部14に記憶する。
ナンバープレート検出部12は、ナンバープレート画像を取得する取得部としての機能を有し、撮像された車両画像に基づいて、ナンバープレート部の切り出し処理を行うことによりナンバープレート画像を生成する。ナンバープレート検出部12は、生成したナンバープレート画像を、文字領域特定部13、画像処理部15へ出力する。
図3は車両画像の一例を示す模式図である。車両画像は、例えば、近づいてくる車両を撮像する場合、車両の車頭部分を含む領域が撮像されたものである。なお、離れていく車両を撮像する場合には、車両の車尾を含む領域を撮像すればよい。図3に示すように、車両画像の中で、フロントバンパに取り付けられた矩形状の領域が、ナンバープレートである。
画像処理部15は、基準画素決定部及び評価画素決定部としての機能を有する。画像処理部15は、ナンバープレート画像の画素のうち、複数の基準画素を決定するとともに、基準画素と異なる複数の評価画素を決定する。複数の基準画素は、例えば、ナンバープレート画像のピントが合っているか否かに関わらず輝度値などの画素値にあまり変化がない画素とすることができる。一方、複数の評価画素は、例えば、ナンバープレート画像のピントが合っているか否かに応じて、輝度値などの画素値の変化の度合いが異なる画素とすることができる。なお、基準画素と評価画素とは一部が重複してもよい。すなわち、複数の基準画素のうち、ある基準画素が評価画素であってもよい。
次に、基準画素及び評価画素の決定方法について説明する。図4はナンバープレート画像の一例を示す説明図である。図4では、陸運支局として「なにわ」、分類番号として「500」、一連番号として「4281」が記載されているが、図4の例に限定されるものではない。なお、ナンバープレートには、比較的線幅の細い陸運支局・分類番号、比較的線幅の太い一連番号が記載されている。陸運支局は、例えば、「なにわ」の如く地名であり、分類番号は、陸運支局(地名)の右側に記載され、自動車の大きさ(例えば、小型、普通又は大型など)及び用途(例えば、乗用、貨物、特種用途又は大型特殊など)を分類する1〜3桁の数字である。また、一連番号は、陸運支局・分類番号の下方に記載される車番であり、1〜4桁の数字である。
また、図4の左側のナンバープレート画像は、ピントが合っている場合の画像であり、図4の右側のナンバープレート画像は、ピントが合っていない(ピントがずれている)場合の画像である。図4中、「ライン」で示す横方向(水平方向)の線は、ナンバープレート画像の画素を走査する際の所定方向を表す。
図5は図4の陸運支局・分類番号部分の輝度値の変化を示す説明図であり、図6は図4の一連番号部分の輝度値の変化を示す説明図である。図5及び図6に例示したグラフは、図4に例示したピントの合っている(ピント良)ナンバープレート画像とピントの合っていない(ピント不良)ナンバープレート画像それぞれのライン上の画素を左端から右端へ走査したときの輝度値の変化の様子を示す。
ナンバープレート画像の各画素の輝度値は、例えば、0(黒)〜255(白)の範囲にある。図5及び図6に示すように、ナンバープレート画像を横方向に走査して各画素の輝度値の変化を見た場合、文字部分の画素の輝度値は小さくなり、文字以外の部分の画素の輝度値は大きくなる。
また、ナンバープレート画像の各画素の輝度値を、適宜の閾値により二値化、すなわち白画素と黒画素とに分ける。この場合、閾値は、例えば、各画素の輝度値の平均値、中央値などとして求めることができ、あるいは、P−タイル法、モード法、判別分析法、最小誤差法などを用いて求めることもできる。そうすると、例えば、図5の文字「な」付近を見ると解るように、ピント良の画像の場合、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分、すなわち閾値の近傍部分では輝度値の変化が急であるのに対し、ピント不良の画像の場合、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分、すなわち閾値の近傍部分では輝度値の変化が緩やかである。また、黒画素の部分、あるいは白画素の部分、すなわち閾値の近傍以外の部分では、ピントの良・不良に関わらず、輝度値の変化度合にあまり変わりがない。
ピント指標を、ピントの良・不良に関わらず輝度値の変化が変わらない基準画素と、ピントの良・不良によって輝度値の変化が異なる評価画素とを用いて算出する場合、評価画素として、輝度値が閾値の近傍にある画素を利用し、基準画素として、閾値の近傍以外の部分の画素を用いることができる。すなわち、評価画素の輝度値の変化が急であるか緩やかであるかによってピントの良・不良を判定することが可能となる。なお、この場合、ナンバープレート画像の文字を認識又は判別する必要がない。
別言すれば、ナンバープレート画像のピントが合っているか否かに関わらず基準値の変化が少ない基準画素と、ナンバープレート画像のピントが合っているか否かに応じて評価値の変化が大きい評価画素を用いることにより、算出したピント指標の大小に応じてピントが合っているか否かを判定することができる。これにより、ナンバープレート画像から記号などの重心位置を正確に抽出することなく、精度良くピント指標を算出することができる。なお、基準値及び評価値の詳細は後述する。
前述のように、ピントが合っている画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的大きい。また、ピントが合っていない画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的小さい。また、基準画素は、閾値の近傍にない画素であるので、ピントが合っているか否かに関わらず、白画素か黒画素のどちらかであり、輝度値の変化は少ない。そこで、評価画素として、閾値の近傍(所定範囲)にある画素を決定するとともに、輝度値の変化を評価値とすることにより、ピントが合っているか否かに応じて、評価値の大小が変化するので、ピントが合っているか否かを評価することができ、ピント指標の算出に利用することができる。
次に、ピント指標を算出する場合の基準画素の基準値、評価画素の評価値について説明する。
基準値算出部16は、複数の基準画素のうち、画素値(例えば、輝度値)が閾値より大きい複数の第1基準画素及び閾値より小さい複数の第2基準画素それぞれの画素値の代表値である第1基準値及び第2基準値を算出する。代表値は、例えば、平均値、最頻値、中央値などとすることができる。また、第1基準画素は、例えば、閾値により二値化した場合の白画素とすることができ、第2基準画素は、黒画素とすることができる。
評価値算出部17は、複数の評価画素のうち、画素値が閾値より大きい複数の第1評価画素及び閾値より小さい複数の第2評価画素それぞれの画素値の代表値である第1評価値及び第2評価値を算出する。第1評価画素は、例えば、閾値により二値化した場合の白画素とすることができ、第2評価画素は、黒画素とすることができる。
ピント指標算出部18は、第1評価値、第2評価値、第1基準値及び第2基準値に基づいて算出する。例えば、ピント指標=(第1評価値−第2評価値)/(第1基準値−第2基準値)で算出することができる。例えば、第1評価値は評価エリアの各白画素の輝度値の平均値とし、第2評価値は評価エリアの各黒画素の輝度値の平均値とし、第1基準値は基準エリアの各白画素の輝度値の平均値とし、第2基準値は基準エリアの各黒画素の輝度値の平均値とすることができる。ここで、評価エリアは、ナンバープレート画像の評価画素で構成される領域であり、閾値の近傍部分に相当する。また、基準エリアは、ナンバープレート画像の評価エリア以外の領域とすることができる。
ピント指標が1に近いほど、ピントが合っているとすることができる。したがって、算出したピント指標が、所定の閾値指標(例えば、0.7、0.8など)以上となるように、撮像装置200のピントを調整することができる。なお、ピント指標が閾値指標以上となるように、手動又は自動で撮像装置200のピントを調整することができる。
次に、評価画素及び評価エリアの決定方法の詳細について説明する。図7は実施の形態1の評価画素の決定方法の第1例を示す模式図である。図7は、ナンバープレート画像の横方向の1つライン上の画素(G1、G2、…)を模式的に並べたものであり、それぞれの画素(G1、G2、…)の輝度値をプロットしたものである。また、図7において、閾値は、ナンバープレート画像を白画素と黒画素とに二値化する際の閾値であるとする。
画像処理部15は、ナンバープレート画像の各画素を所定方向に走査する(図7の例では、画素G1、G2、…の順に走査する)。画像処理部15は、任意の注目画素に対して所定方向の前後の画素の一方の画素値が閾値より大きく、他方の画素値が閾値より小さい場合、当該注目画素を評価画素として決定する。例えば、所定方向(例えば、横方向)に画素Gk、Gl、Gm、Gnが並んでいるとする。注目画素をGlとした場合、所定方向の前後の画素は、Gk、Gmとなる。そして、例えば、前の画素Gkの画素値(例えば、輝度値)が閾値より小さく、後の画素Gmの画素値(例えば、輝度値)が閾値より大きい場合、注目画素Glを評価画素と決定する。同様に、注目画素をGmとした場合、所定方向の前後の画素は、Gl、Gnとなる。そして、例えば、前の画素Glの画素値(例えば、輝度値)が閾値より小さく、後の画素Gnの画素値(例えば、輝度値)が閾値より大きい場合、注目画素Gmを評価画素と決定する。これにより、閾値の近傍の画素を評価画素とすることができる。
図7の例では、例えば、画素G4を注目画素とした場合、前の画素G3は黒であり(閾値より小さい)、後の画素G5は白である(閾値より大きい)ので、注目画素G4は評価画素であると決定することができる。
同様に、画素G5を注目画素とした場合、前の画素G4は黒であり(閾値より小さい)、後の画素G6は白である(閾値より大きい)ので、注目画素G5は評価画素であると決定することができる。
しかし、画素G6を注目画素とした場合、前の画素G5は白であり(閾値より大きい)、後の画素G7は白である(閾値より大きい)ので、注目画素G6は評価画素の対象ではない。
また、画素G10を注目画素とした場合、前の画素G9は黒であり(閾値より小さい)、後の画素G11は黒である(閾値より小さい)ので、画素G10が、前後の画素に対して、閾値を間にして反対側の画素(白画素)であっても、注目画素G10は評価画素の対象ではない。
同様にして評価画素を決定することにより、図7の例では、矩形で囲んだ画素が評価画素となり、他の画素は基準画素とすることができる。
ピントが合っている画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的大きい。また、ピントが合っていない画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的小さい。閾値の近傍の画素を評価画素とすることにより、ピントが合っているか否かを評価することができ、ピント指標の算出に利用することができる。
図8は実施の形態1の評価画素の決定方法の第2例を示す模式図である。図8の例では、閾値の近傍として、閾値を含む所定範囲を図示している。所定範囲は、例えば、ナンバープレート画像の画素の最大輝度値と最小輝度値との差分の一定割合(例えば、10%程度など)とすることができる。すなわち、評価画素は、画素値(例えば、輝度値)が閾値の近傍(所定範囲)にある画素であり、基準画素は、画素値が閾値の近傍にない画素である。
図8の例では、矩形で囲んだ画素G5、G6、G7、G8、G13、G14、G15、G16の輝度値が所定範囲内にあるので、これらの画素が評価画素となる。画素G5、G6、G7、G8、G13、G14、G15、G16以外の画素は基準画素とすることができる。
また、評価画素の決定方法の第3例として以下のようにすることができる。すなわち、画像処理部15は、ナンバープレート画像の各画素を所定方向に走査する。画像処理部15は、所定方向に連続する複数の画素であって、当該複数の画素の画素値に閾値より大きい画素値及び閾値より小さい画素値の両方が含まれる場合、当該複数の画素を評価画素として決定する。例えば、画素値(例えば、輝度値)が閾値より大きい1つの画素と小さい1つの画素とが連続する場合、画素値が閾値より大きい2つの画素と小さい1つの画素とが連続する場合、画素値が閾値より大きい1つの画素と小さい2つの画素とが連続する場合、画素値が閾値より大きい2つの画素と小さい2つの画素とが連続する場合、画素値が閾値より大きい2つの画素と小さい3つの画素とが連続する場合、画素値が閾値より大きい3つの画素と小さい2つの画素とが連続する場合などである。
前述の第2例、第3例においても、ピントが合っている画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的大きい。また、ピントが合っていない画像の場合、閾値の近傍では、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分の輝度値の変化は比較的小さい。閾値の近傍の画素を評価画素とすることにより、ピントが合っているか否かを評価することができ、ピント指標の算出に利用することができる。
次に、ナンバープレート画像のピントの良・不良と、ピント指標との関係について説明する。図9は画素値が閾値近傍にある評価画素の輝度変化の様子の一例を示す説明図である。簡便のため、輝度値が閾値を間にして閾値より大小の2つの評価画素について考える。図9において実線は、ピントが合っている場合の輝度値の変化を示し、評価画素の輝度値を、E1(閾値より大)、E2(閾値より小)とする。また、図9において破線は、ピントが合っていない場合の輝度値の変化を示し、評価画素の輝度値を、E1′(閾値より大)、E2′(閾値より小)とする。
前述のように、ピント不良の画像の場合、白画素から黒画素へ変化する部分、あるいは黒画素から白画素へ変化する部分、すなわち閾値の近傍部分では輝度値の変化が緩やかである。したがって、ピント良の場合の輝度値の差(E1−E2)と、ピント不良の場合の輝度値の差(E1′−E2′)とは、(E1−E2)>(E1′−E2′)の関係がある。
また、前述のように、ピント指標=(第1評価値−第2評価値)/(第1基準値−第2基準値)で算出する場合、基準エリアの輝度値が、ピントの良・不良であまり変化がないとすると、ピント指標は、(第1評価値−第2評価値)の大小に依存する。すなわち、ピント指標は、ピント良の場合の方がピント不良の場合よりも大きな値となる。
図9の例では、2つの評価画素だけに注目しているが、評価画素が多数ある場合も同様に考えることができる。
(実施の形態2)
上述の実施の形態1では、ナンバープレート画像の輝度値が閾値の近傍にある画素を評価画素とし、閾値の近傍領域を評価エリアとしてピント指標を算出する構成であったが、これに限定されるものではない。以下では、ナンバープレート画像の所定のエリアを評価エリア及び基準エリアとしてピント指標を算出する方法について説明する。なお、実施の形態2においても、ピント指標算出装置100の構成は実施の形態1と同様である。
文字領域特定部13は、ナンバープレート検出部12が出力したナンバープレート画像に基づいて文字領域を特定する。
文字領域の特定は、例えば、陸運支局・分類番部分、一連番号部分のうち、少なくとも1つの文字(数字を含む)の全部又は1つの文字の一部を含む領域であり、正確に文字を判別又は認識する必要はない。なお、文字を認識するようにしてもよい。
文字領域特定部13は、特定した文字領域の情報(例えば、ナンバープレート画像上での座標など)を画像処理部15へ出力する。
図10は実施の形態2の評価エリア及び基準エリアの一例を示す説明図である。図5及び図6に示すように、線幅の太い一連番号の部分に比べて、線幅の細い陸運支局・分類番号の部分の方が、ピントの良・不良に対する輝度値の変化が大きい。すなわち、ピントがずれるに応じて陸運支局・分類番号の部分の白部分と黒部分との輝度差が少なくなり、鮮鋭度合が低下している。
そこで、図10に示すように、陸運支局・分類番号の部分を評価エリア(評価画素で構成される領域)とし、一連番号の部分を基準エリア(基準画素で構成される領域)とすることができる。実施の形態2においても、ピント指標は、ピント指標=(第1評価値−第2評価値)/(第1基準値−第2基準値)で算出することができる。例えば、第1評価値は評価エリアの各白画素の輝度値の平均値とし、第2評価値は評価エリアの各黒画素の輝度値の平均値とし、第1基準値は基準エリアの各白画素の輝度値の平均値とし、第2基準値は基準エリアの各黒画素の輝度値の平均値とすることができる。ピント指標の算出に用いる画素数を増やすことにより、精度良くピント指標を算出することができる。
なお、ナンバープレート画像の陸運支局・分類番号部分の少なくとも1文字を含む領域を評価エリアとし、評価エリア内の画素を評価画素として決定し、ナンバープレート画像の一連番号部分の少なくとも1文字を含む領域を基準エリアとし、基準エリア内の画素を基準画素として決定することもできる。
ナンバープレート画像のピントが合っているか否かに関わらず画素値の変化が少ない基準画素と、ナンバープレート画像のピントが合っているか否かに応じて画素値の変化が大きい評価画素を用いることにより、算出したピント指標の大小に応じてピントが合っているか否かを判定することができる。これにより、ナンバープレート画像から記号などの重心位置を正確に抽出することなく、精度良くピント指標を算出することができる。
また、ナンバープレート画像の陸運支局の全部分を含む領域を評価エリアとし、評価エリア内の画素を評価画素として決定することもできる。ピント指標の算出に用いる画素数を増やすことにより、精度良くピント指標を算出することができる。
また、ナンバープレート画像の分類番号の全部分を含む領域を評価エリアとし、評価エリア内の画素を評価画素として決定する。ピント指標の算出に用いる画素数を増やすことにより、精度良くピント指標を算出することができる。
次に、実施の形態1、2のピント指標算出装置100の動作について説明する。図11はピント指標算出装置100の処理手順の一例を示すフローチャートである。なお、以下では、便宜上処理の主体を制御部10として説明する。制御部10はナンバープレート画像を取得し(S11)、基準エリアを決定し(S12)、評価エリアを決定する(S13)。
制御部10は、基準エリアの代表値を算出する(S14)。基準エリアの代表値は、例えば、基準エリアの各白画素の輝度値の平均値、基準エリアの各黒画素の輝度値の平均値とすることができる。制御部10は、評価エリアの代表値を算出する(S15)。評価エリアの代表値は、例えば、評価エリアの各白画素の輝度値の平均値、評価エリアの各黒画素の輝度値の平均値とすることができる。
制御部10は、ピント指標を算出し(S16)、処理を終了する。ピント指標は、例えば、(評価エリアの各白画素の輝度値の平均値−評価エリアの各黒画素の輝度値の平均値)/(基準エリアの各白画素の輝度値の平均値−基準エリアの各黒画素の輝度値の平均値)で算出することができる。
本実施の形態のピント指標算出装置100は、CPU、RAMなどを備えた汎用コンピュータを用いて実現することもできる。すなわち、図11に示すような、各処理手順を定めたコンピュータプログラムを記録媒体に記録しておき、当該記録媒体をコンピュータに備えられたRAMにロードし、コンピュータプログラムをCPUで実行することにより、コンピュータ上でピント指標算出装置100を実現することができる。なお、図11に示すような、各処理手順を定めたコンピュータプログラムは、記録媒体に代えて、インターネットなどのネットワークを介してダウンロードすることもできる。
上述の実施の形態では、撮像装置200とピント指標算出装置100とは、別個の装置であったが、撮像装置200とピント指標算出装置100とを1つの装置、例えば、画像処理装置として纏めることもできる。この場合、画像処理装置は、ピント指標算出装置と、画像を撮像する撮像部と、ピント指標算出装置で算出したピント指標に基づいて撮像部のピントを自動で調整する調整部とを備えることになる。
開示された実施の形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
10 制御部
11 インタフェース部
12 ナンバープレート検出部
13 文字領域特定部
14 記憶部
15 画像処理部
16 基準値算出部
17 評価値算出部
18 ピント指標算出部
201 制御部
202 レンズ部
203 撮像部
204 インタフェース部
205 ピント調整部

Claims (11)

  1. 撮像部のピントを調節するためのピント指標を算出するピント指標算出装置であって、
    複数の画素で構成されるナンバープレート画像を取得する取得部と、
    該取得部で取得したナンバープレート画像の画素のうち、複数の基準画素を決定する基準画素決定部と、
    前記ナンバープレート画像の画素のうち、前記基準画素と異なる複数の評価画素を決定する評価画素決定部と、
    前記基準画素決定部で決定した基準画素及び前記評価画素決定部で決定した評価画素を用いてピント指標を算出する指標算出部と
    を備え
    前記評価画素決定部は、
    画素値が、前記ナンバープレート画像の画素を二値化するための所定の閾値を含む所定範囲にある画素を評価画素として決定するようにしてあり、
    前記基準画素決定部は、
    画素値が前記所定範囲にない画素を基準画素として決定するようにしてあるピント指標算出装置。
  2. 前記複数の評価画素のうち、画素値が前記閾値より大きい複数の第1評価画素及び該閾値より小さい複数の第2評価画素それぞれの画素値の代表値である第1評価値及び第2評価値を算出する評価値算出部と、
    前記複数の基準画素のうち、画素値が前記閾値より大きい複数の第1基準画素及び該閾値より小さい複数の第2基準画素それぞれの画素値の代表値である第1基準値及び第2基準値を算出する基準値算出部と
    を備え、
    前記指標算出部は、
    前記評価値算出部で算出した第1評価値及び第2評価値並びに基準値算出部で算出した第1基準値及び第2基準値に基づいてピント指標を算出するようにしてある請求項に記載のピント指標算出装置。
  3. 前記ナンバープレート画像の各画素を所定方向に走査する走査部を備え、
    前記評価画素決定部は、
    任意の注目画素に対して前記所定方向の前後の画素の一方の画素値が前記閾値より大きく、他方の画素値が前記閾値より小さい場合、前記注目画素を評価画素として決定するようにしてある請求項又は請求項に記載のピント指標算出装置。
  4. 前記ナンバープレート画像の各画素を所定方向に走査する走査部を備え、
    前記評価画素決定部は、
    前記所定方向に連続する複数の画素であって、該複数の画素の画素値に前記閾値より大きい画素値及び該閾値より小さい画素値の両方が含まれる場合、前記複数の画素を評価画素として決定するようにしてある請求項又は請求項に記載のピント指標算出装置。
  5. 前記ナンバープレート画像に基づいて文字領域を特定する特定部を備え、
    前記評価画素決定部は、
    前記ナンバープレート画像の陸運支局・分類番号部分の少なくとも1文字を含む領域にある画素を評価画素として決定するようにしてあり、
    前記基準画素決定部は、
    前記ナンバープレート画像の一連番号部分の少なくとも1文字を含む領域にある画素を基準画素として決定するようにしてある請求項1から請求項4までのいずれか1項に記載のピント指標算出装置。
  6. 前記評価画素決定部は、
    前記ナンバープレート画像の陸運支局の全部分を含む領域にある画素を評価画素として決定するようにしてある請求項に記載のピント指標算出装置。
  7. 前記評価画素決定部は、
    前記ナンバープレート画像の分類番号の全部分を含む領域にある画素を評価画素として決定するようにしてある請求項又は請求項に記載のピント指標算出装置。
  8. 前記基準画素決定部は、
    前記ナンバープレート画像の一連番号の全部分を含む領域にある画素を基準画素として決定するようにしてある請求項5から請求項7までのいずれか1項に記載のピント指標算出装置。
  9. 請求項1に記載のピント指標算出装置と、
    画像を撮像する撮像部と、
    前記ピント指標算出装置で算出したピント指標に基づいて前記撮像部のピントを調整する調整部と
    を備える画像処理装置。
  10. コンピュータ
    複数の画素で構成されるナンバープレート画像の画素のうち、複数の基準画素を決定する基準画素決定部と、
    前記ナンバープレート画像の画素のうち、前記基準画素と異なる複数の評価画素を決定する評価画素決定部と、
    決定した基準画素及び評価画素を用いてピント指標を算出する指標算出部
    して機能させ
    前記評価画素決定部は、
    画素値が、前記ナンバープレート画像の画素を二値化するための所定の閾値を含む所定範囲にある画素を評価画素として決定するようにしてあり、
    前記基準画素決定部は、
    画素値が前記所定範囲にない画素を基準画素として決定するようにしてあるコンピュータプログラム。
  11. 撮像部のピントを調節するためのピント指標を算出するピント指標算出方法であって、
    複数の画素で構成されるナンバープレート画像を取得部が取得するステップと、
    取得されたナンバープレート画像の画素のうち、複数の基準画素を基準画素決定部が決定するステップと、
    前記ナンバープレート画像の画素のうち、前記基準画素と異なる複数の評価画素を評価画素決定部が決定するステップと、
    決定された基準画素及び評価画素を用いてピント指標を指標算出部が算出するステップと
    画素値が、前記ナンバープレート画像の画素を二値化するための所定の閾値を含む所定範囲にある画素を評価画素として前記評価画素決定部が決定するステップと、
    画素値が前記所定範囲にない画素を基準画素として前記基準画素決定部が決定するステップと
    を含むピント指標算出方法。
JP2013098714A 2013-05-08 2013-05-08 ピント指標算出装置、画像処理装置、コンピュータプログラム及びピント指標算出方法 Expired - Fee Related JP5853345B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013098714A JP5853345B2 (ja) 2013-05-08 2013-05-08 ピント指標算出装置、画像処理装置、コンピュータプログラム及びピント指標算出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013098714A JP5853345B2 (ja) 2013-05-08 2013-05-08 ピント指標算出装置、画像処理装置、コンピュータプログラム及びピント指標算出方法

Publications (2)

Publication Number Publication Date
JP2014219843A JP2014219843A (ja) 2014-11-20
JP5853345B2 true JP5853345B2 (ja) 2016-02-09

Family

ID=51938225

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013098714A Expired - Fee Related JP5853345B2 (ja) 2013-05-08 2013-05-08 ピント指標算出装置、画像処理装置、コンピュータプログラム及びピント指標算出方法

Country Status (1)

Country Link
JP (1) JP5853345B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6881955B2 (ja) 2016-11-18 2021-06-02 キヤノン株式会社 画像形成装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007133312A (ja) * 2005-11-14 2007-05-31 Auto Network Gijutsu Kenkyusho:Kk カメラのピント調整装置及びピント調整方法
JP4788926B2 (ja) * 2007-12-05 2011-10-05 日新電機株式会社 車両ナンバー読取装置

Also Published As

Publication number Publication date
JP2014219843A (ja) 2014-11-20

Similar Documents

Publication Publication Date Title
US9846823B2 (en) Traffic lane boundary line extraction apparatus and method of extracting traffic lane boundary line
KR101848019B1 (ko) 차량 영역 검출을 통한 차량 번호판 검출 방법 및 장치
JP5867807B2 (ja) 車両識別装置
WO2016171050A1 (ja) 画像処理装置
JP5071198B2 (ja) 信号機認識装置,信号機認識方法および信号機認識プログラム
US9286512B2 (en) Method for detecting pedestrians based on far infrared ray camera at night
JP5937832B2 (ja) 車載カメラ用露出制御装置
JP6531542B2 (ja) 画像処理システム、画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
US10455163B2 (en) Image processing apparatus that generates a combined image, control method, and storage medium
JP2006318060A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
CN111598065A (zh) 深度图像获取方法及活体识别方法、设备、电路和介质
JP2006318059A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
WO2019085929A1 (zh) 图像处理方法及其装置、安全驾驶方法
JP2013258596A (ja) 撮像装置
KR102338912B1 (ko) 수퍼 레졸루션 기법을 이용한 차량 번호판 인식 방법
KR101818842B1 (ko) 운전지원장치, 거리감지방법 및 차로의 너비감지방법
JP2006309650A (ja) ナンバー認識装置及方法
JP5664078B2 (ja) 撮像装置、画像評価方法、及び焦点調整制御プログラム
JP5853345B2 (ja) ピント指標算出装置、画像処理装置、コンピュータプログラム及びピント指標算出方法
JP6221283B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2010286995A (ja) 車両用画像処理システム
JP4765113B2 (ja) 車両周辺監視装置、車両、車両周辺監視用プログラム、車両周辺監視方法
KR20230099590A (ko) 코드인식장치 및 이를 이용한 문자코드 추출 방법
CN109509345A (zh) 车辆检测装置和方法
KR101982091B1 (ko) 서라운드 뷰 모니터링 시스템

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150422

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20150422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151120

R150 Certificate of patent or registration of utility model

Ref document number: 5853345

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees