JP6758152B2 - 監視用画像処理装置および監視装置 - Google Patents

監視用画像処理装置および監視装置 Download PDF

Info

Publication number
JP6758152B2
JP6758152B2 JP2016204981A JP2016204981A JP6758152B2 JP 6758152 B2 JP6758152 B2 JP 6758152B2 JP 2016204981 A JP2016204981 A JP 2016204981A JP 2016204981 A JP2016204981 A JP 2016204981A JP 6758152 B2 JP6758152 B2 JP 6758152B2
Authority
JP
Japan
Prior art keywords
pixels
labeling
pixel
unit
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016204981A
Other languages
English (en)
Other versions
JP2018067127A (ja
Inventor
健一 新房
健一 新房
哲朗 和田
哲朗 和田
恭佑 磯野
恭佑 磯野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2016204981A priority Critical patent/JP6758152B2/ja
Publication of JP2018067127A publication Critical patent/JP2018067127A/ja
Application granted granted Critical
Publication of JP6758152B2 publication Critical patent/JP6758152B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、監視用画像処理装置および監視装置に関し、特に、ラベリングを行う監視用画像処理装置および監視装置に関するものである。
従来より、カメラ画像を用いて対象物を検知および認識する技術が存在する。従来技術の多くは、対象物を認識するために、輝度背景差分方式を用いて観測領域内の変化領域を抽出する。たとえば特許文献1に開示された監視用画像処理装置によれば、現画像データと比較用画像データとを比較演算することで差分データが抽出される。差分データが所定の条件に合致した場合は、報知対象として認識される。
通常のカメラ画像から得られる情報は、2次元座標における色および輝度などについての情報、すなわち2次元データ、に限定される。一方、観測領域から3次元データを得る技術も広く存在する。たとえば特許文献2に開示された構造物変位計測装置は、3次元レーザスキャナにより得られた計測データに画像処理を施す。構造物の任意の範囲に対して、時期が異なる計測データの差分により、変位量が求められる。変位量の大きさに応じて、色分けまたは濃淡により構造物の変位が表示される。
3次元データを監視装置のために用いることも検討されている。たとえば特許文献3に開示された画像生成装置においては、対象物にて反射したレーザ光を受け、たとえば飛行時間法により、対象物までの距離が測定される。処理対象の距離画像と基準距離画像とが比較されることで、差分距離画像が生成される。そして、対象物のラベリングなど、必要な画像処理が行われる。なおラベリングとは、注目されている画素の各々を、それが属する対象物に応じて区別する処理のことである。
特開平9−214939号公報 特開2004−325209号公報 特開2005−216160号公報
上述した特許文献1に記載された技術では、通常のカメラ画像が用いられることから、対象物と背景との間の輝度差が小さい場合、対象物の存在を認識することが難しい。また、対象物の存在を認識することができたとしても、対象物までの距離情報は得られない。よって、2つの対象物が2次元的な画像内で部分的な重なりを有していると、これらが距離方向において互いに離れていたとしても、これらが1つの対象物として認識されてしまうことがある。以上から、対象物を高い精度で認識することが難しい。
上述した特許文献3に記載された技術では、3次元データに基づいて対象物のラベリングが行われる。しかしながら、3次元データに直接基づくラベリングは、2次元データに基づくラベリングに比して、必要な演算量が格段に多くなってしまう。その結果、処理時間が長くなったり、高性能な演算装置が必要となったりしてしまう。
本発明は以上のような課題を解決するためになされたものであり、その目的は、高い精度で対象物を認識することができ、かつ、必要な演算量を抑えることができる、監視用画像処理装置および監視装置を提供することである。
本発明の監視用画像処理装置は、現データ蓄積部と、比較データ蓄積部と、差分演算部と、変化領域抽出部と、段差隣接画素抽出部と、ラベリング対象画素抽出部と、ラベリング部とを有している。現データ蓄積部は、観測視野を構成する構成画素の各々に観測領域までの距離情報を有する現データを蓄積する。比較データ蓄積部は、現データ蓄積部に蓄積された現データに対しての比較基準となる比較データを蓄積する。差分演算部は、現データ蓄積部に蓄積された現データと、比較データ蓄積部に蓄積された比較データとの間での、構成画素の各々における距離の差である距離差を、差分データとして算出する。変化領域抽出部は、差分演算部によって算出された距離差の大きさに基づいて、構成画素から変化領域画素を抽出する。段差隣接画素抽出部は、変化領域画素のうち互いに隣接するものの間での距離差の差である段差量の大きさに基づいて、変化領域画素から段差隣接画素を抽出する。ラベリング対象画素抽出部は、変化領域画素から段差隣接画素を除外することによってラベリング対象画素を抽出する。ラベリング部は、観測視野におけるラベリング対象画素の分布に基づいて、ラベリング対象画素の各々に、観測領域中における異なる対象物を区別するためのラベルを付与する。
本発明の監視装置は、距離センサと、現データ蓄積部と、比較データ蓄積部と、差分演算部と、変化領域抽出部と、段差隣接画素抽出部と、ラベリング対象画素抽出部と、ラベリング部とを有している。距離センサは、観測視野内において観測領域までの距離を観測する。現データ蓄積部は、距離センサによって観測された距離に基づいて、観測視野を構成する構成画素の各々に観測領域までの距離情報を有する現データを蓄積する。比較データ蓄積部は、現データ蓄積部に蓄積された現データに対しての比較基準となる比較データを蓄積する。差分演算部は、現データ蓄積部に蓄積された現データと、比較データ蓄積部に蓄積された比較データとの間での、構成画素の各々における距離の差である距離差を、差分データとして算出する。変化領域抽出部は、差分演算部によって算出された距離差の大きさに基づいて、構成画素から変化領域画素を抽出する。段差隣接画素抽出部は、変化領域画素のうち互いに隣接するものの間での距離差の差である段差量の大きさに基づいて、変化領域画素から段差隣接画素を抽出する。ラベリング対象画素抽出部は、変化領域画素から段差隣接画素を除外することによってラベリング対象画素を抽出する。ラベリング部は、観測視野におけるラベリング対象画素の分布に基づいて、ラベリング対象画素の各々に、観測領域中における異なる対象物を区別するためのラベルを付与する。
本発明によれば、第1に、対象物までの距離がラベリングに反映される。これにより、高い精度で対象物を認識することができる。第2に、ラベリングのための演算が、観測視野における画素分布、すなわち2次元的な画素分布、に基づいて行われる。これにより、3次元座標系における画素分布に直接基づいて演算が行われる場合に比して、必要な演算量を抑えることができる。以上から、高い精度で対象物を認識することができ、かつ、必要な演算量を抑えることができる。
本発明の実施の形態1における監視装置の構成を概略的に示す図である。 図1の監視装置が有する監視用画像処理装置の構成を概略的に示すブロック図である。 図1の監視装置が有する3次元レーザスキャナの構成の例を示す模式図である。 図3の3次元レーザスキャナが有する分散機構の構成の例を示す斜視図である。 3次元レーザスキャナおよびその観測領域の例を示す斜視図である。 3次元レーザスキャナの観測領域を仮想的な3次元空間で表した立体モデルの構成を示す斜視図である。 図5の観測領域を図6の立体モデルに対応させた立体モデルを示す斜視図である。 図7のY方向における分解斜視図である。 図5の観測領域が3次元レーザスキャナの観測視野内でどのように見えるかを示す仮想図である。 図2の現データ演算部によって生成される現データを構成画素の配列に対応して示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の比較データ演算部によって生成される比較データを構成画素の配列に対応して示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の差分演算部によって算出される差分データを構成画素の配列に対応して示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の変化領域抽出部によって変化領域画素が抽出される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の予備的ラベリング部によって行われるラベリングの様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の段差隣接画素抽出部によって段差隣接画素が抽出される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2のラベリング対象画素抽出部によって段差隣接画素が削除される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の高精度ラベリング部によって行われるラベリングの様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の高精度ラベリング部によってラベリングが補充される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図2の高精度ラベリング部およびフェレ径算出部によってフェレ径が算出される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図1の監視装置の動作を示すフロー図である。 図20のステップST10の例を示すフロー図である。 2次元ラベリングの技術の例の第1ステップを示す図である。 2次元ラベリングの技術の例の第2ステップを示す図である。 2次元ラベリングの技術の例の第3ステップを示す図である。 2次元ラベリングの技術の例の第4ステップを示す図である。 2次元ラベリングの技術の例の第5ステップを示す図である。 2次元ラベリングの技術の例の第6ステップを示す図である。 2次元ラベリングの技術の例の第7ステップを示す図である。 2次元ラベリングの技術の例の第8ステップを示す図である。 2次元ラベリングの技術の例の第9ステップを示す図である。 2次元ラベリングの技術の例の第10ステップを示す図である。 2次元ラベリングの技術の例の第11ステップを示す図である。 2次元ラベリングの技術の例の第12ステップを示す図である。 図2の予備的ラベリング部およびフェレ径算出部によってフェレ径が算出される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図13の変形例を示す図である。 図15の変形例を示す図である。 図16の変形例を示す図である。 図17の変形例を示す図である。 図18の変形例を示す図である。 3次元ラベリングにおける変化領域画素およびその隣接画素を単純な立体モデルで表した斜視図である。 図40のY方向における分解斜視図である。 比較例としての3次元ラベリングの対象である画素変化領域の立体モデルを示す斜視図としての下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図42の下段の、Y方向における分解斜視図である。 変化領域画素の差分データの値が乱された場合における、図13に対応する図である。 変化領域画素の差分データの値が乱された場合における、図15に対応する図である。 変化領域画素の差分データの値が乱された場合における、図16に対応する図である。 変化領域画素の差分データの値が乱された場合における、図17に対応する図である。 変化領域画素の差分データの値が乱された場合における、図18に対応する図である。 変化領域画素の差分データの値が乱された場合における、図19に対応する図である。 実施の形態2における監視用画像処理装置の構成を概略的に示すブロック図である。 図50のラベル限界設定部によってラベル限界画素が設定される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図50のラベリング対象画素抽出部によって段差隣接画素が削除される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図50の高精度ラベリング部によって行われるラベリングの様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図50の高精度ラベリング部によってラベリングが補充される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 図50の高精度ラベリング部およびフェレ径算出部によってフェレ径が算出される様子を示す下段と、下段に対応する状態を仮想的に示す上段とを含む図である。 監視用画像処理装置のハードウェア構成の例を示すブロック図である。
以下、図面に基づいて本発明の実施の形態について説明する。なお、以下の図面において同一または相当する部分には同一の参照番号を付しその説明は繰返さない。
<実施の形態1>
(監視装置の構成)
図1を参照して、本実施の形態における監視装置100は、3次元レーザスキャナ10(距離センサ)と、監視用画像処理装置101とを有している。図中、監視装置100以外に、3次元レーザスキャナ10のスキャン範囲、すなわち観測領域、に対応する背景200と、背景200の前に立つ対象物201とが示されている。対象物201は、監視装置100による監視の対象の例である。
3次元レーザスキャナ10は、観測領域を撮像することによって、観測視野内において観測領域までの距離を観測する。具体的には、3次元レーザスキャナ10は、観測視野を構成する構成画素の各々について、観測領域までの距離を測定する。1回の撮像において、観測視野に対応する1組の撮像データが取得される。撮像は所定の時間間隔で繰り返され得る。各撮像において、特定の時点での観測視野に渡る撮像結果、すなわちフレーム、が得られる。この撮像結果、すなわち測定結果、は3次元レーザスキャナ10から、たとえば点群データの形式で出力され得る。この点群データに加えて、信号強度などの他の情報が出力されてもよい。また測定結果は点群データ以外の形式で出力されてもよい。3次元レーザスキャナ10の詳細については後述する。
(監視装置が有する監視用画像処理装置の構成)
図2を参照して、監視用画像処理装置101は、現データ蓄積部21を有する現データ演算部20と、比較データ蓄積部31を有する比較データ演算部30と、差分演算部41と、変化領域抽出部42と、段差隣接画素抽出部43と、ラベリング対象画素抽出部44と、予備的ラベリング部50と、高精度ラベリング部51(ラベリング部)と、フェレ径算出部60と、認識処理部70と、報知処理部80とを有している。
現データ演算部20は、3次元レーザスキャナ10から、測定結果、典型的には点群データ、を取得する。この測定結果に基づいて、現データ演算部20は、観測視野を構成する構成画素の各々について、観測領域までの距離(距離情報)を有する現データを生成する。すなわち、現データは、3次元レーザスキャナ10によって観測された距離に基づいて、観測視野を構成する構成画素の各々について観測領域までの距離を有する。現データは現データ蓄積部21に蓄積される。現データ演算部20は、入力された距離データそのものを現データ蓄積部21に蓄積してもよい。すなわち、3次元レーザスキャナ10からのデータが、実質的な演算をともなわずに、現データ蓄積部21に蓄積されてもよい。
比較データ演算部30は、3次元レーザスキャナ10から、測定結果、典型的には点群データ、を取得する。この測定結果に基づいて、比較データ演算部30は、現データ蓄積部21に蓄積された現データに対しての比較基準となる比較データを生成する。比較データ蓄積部31は比較データを蓄積する。比較データは、現データの内容が検討される際に、現データの値のうち無視されるべき成分を表すデータである。具体例としては、変化領域画素が抽出されなかった現時点より過去のフレームを用いるとよい。比較データは、現時点から遡っての十分な数のフレーム、たとえば50個程度のフレーム、の距離データを平均することによって生成されてもよい。あるいは、単純に現時点の直前のフレームの距離データが用いられてもよい。
差分演算部41は、現データ蓄積部21に蓄積された現データと、比較データ蓄積部31に蓄積された比較データとの間での、構成画素の各々における距離の差である距離差を、差分データとして算出する。
変化領域抽出部42は、差分演算部41によって算出された距離差の大きさに基づいて、構成画素から変化領域画素を抽出する。具体的には、変化領域抽出部42は、構成画素のうち、あらかじめ定められた距離差しきい値以上の距離差を有するものを、変化領域画素として抽出する。たとえば、構成画素の各々と、それが変化領域画素なのか否かを表す2値情報とを対応付ける2値化データが作成される。
予備的ラベリング部50は、観測視野における変化領域画素の分布に基づいて、変化領域画素の各々に、観測領域中における異なる対象物を区別するためのラベルを付与する。具体的には、あらかじめ定められた態様で隣接している画素に対して同一のラベルが付与される。観測視野における変化領域画素の分布は2次元的である。この意味で、予備的ラベリング部50によるラベリングは2次元ラベリングである。予備的ラベリング部50は、必須のものではなく、省略され得るものである。
段差隣接画素抽出部43は、変化領域画素のうち互いに隣接するものの間での距離差の差である段差量の大きさに基づいて、変化領域画素から段差隣接画素を抽出する。具体的には、段差隣接画素抽出部43は、変化領域画素のうち互いに隣接するものの間での距離差の差である段差量と、あらかじめ定められた段差しきい値とを比較することによって、変化領域画素から段差隣接画素を抽出する。たとえば、段差隣接画素抽出部43は、変化領域画素のうち段差しきい値以上の段差量を有するものを、段差隣接画素として抽出する。
ラベリング対象画素抽出部44は、変化領域抽出部42によって抽出された変化領域画素から、段差隣接画素抽出部43によって抽出された段差隣接画素を除外することによって、ラベリング対象画素を抽出する。
高精度ラベリング部51は、観測視野におけるラベリング対象画素の分布に基づいて、ラベリング対象画素の各々に、観測領域中における異なる対象物を区別するためのラベルを付与する。具体的には、あらかじめ定められた態様で隣接している画素に対して同一のラベルが付与され、そのような関係にない画素には、異なるラベルが付与される。観測視野におけるラベリング対象画素の分布自体は2次元的である。この意味で、高精度ラベリング部51によるラベリングは、一種の2次元ラベリングであり、典型的な3次元ラベリングに比して、より少ない演算量で実効可能なものである。
フェレ径算出部60は、高精度ラベリング部51によって付与されたラベルに基づいてフェレ径を算出する。ここで、「フェレ径」とは、ある1つのラベルが付された変化領域画素の全体に外接する矩形の大きさを表す値である。具体的には、「フェレ径」は、X方向およびY方向(水平方向および垂直方向)のそれぞれにおけるこの矩形の辺の長さ、あるいは矩形の辺の長さと矩形位置座標とを表す値の組である。
認識処理部70は、得られた情報に基づいて、報知されるべき対象物、すなわち報知対象、が監視範囲内に存在するか否かを判断する。ここで用いられる情報は、フェレ径算出部60によって算出されたフェレ径の情報と、高精度ラベリング部51で付与されたラベルの情報との少なくともいずれかを含み、好ましくは前者を含み、より好ましくは両方を含む。なお、フェレ径の情報が用いられない場合は、フェレ径算出部60は省略され得る。また、一時的に、高精度ラベリング部51で付与されたラベルの情報に代わって、予備的ラベリング部50で付与されたラベルの情報が用いられてもよい。
報知処理部80は、報知対象が存在すると認識処理部70が判断した場合に、あらかじめ定められた報知処理を行う。典型的には、報知対象についての情報を表す信号を生成し、この信号を上位システムなどの外部機器(図示せず)に送信する。この処理に代わり、またはこの処理とともに、報知処理部80は、ブザーを鳴らすことなどによってユーザに対して警報を発してもよい。
(距離センサとしての3次元レーザスキャナの構成の例)
図3を参照して、3次元レーザスキャナ10の一例について説明する。3次元レーザスキャナ10は、レーザ発光ユニット11と、分散機構13と、レーザ受光ユニット16とを内蔵している。3次元レーザスキャナ10は、背景200で示した観測領域をスキャンすることで、距離データおよび強度データを取得する。レーザ発光ユニット11はレーザ光パルス12を生成する。分散機構13は、レーザ光パルス12を広角範囲に分散させることによって、分散レーザ光パルス14を生成する。なお、図示されている例では、回転ミラーを用いた分散機構13が示されている。分散レーザ光パルス14が、背景200あるいは対象物(図3においては図示せず)によって反射されることによって、レーザ反射光15が発生する。図中、分散レーザ光パルス14によるスポット(図中、背景200上の破線部)が背景200上をスキャンする様子が、矢印によって示されている。この例では、背景200が、X方向において6分割され、Y方向において2分割されており、よって合計12ポイントで分散レーザ光パルス14によるスポットが照射されている。レーザ受光ユニット16は、レーザ反射光15を検出する。そして、この受光と、それに先立つ発光との間の時間差に基づいて、3次元レーザスキャナ10の位置からレーザ反射光15が発生した位置までの距離が算出される。図中の例では、12ポイントに分散された照射位置の各々について距離が算出される。さらに、分散された照射位置の各々について、照射された光量に対しての反射された光量の比率である反射率が、強度として算出される。このように算出された距離データおよび強度データは、図1で示した現データ演算部20および比較データ演算部30へ出力される。
図4を参照して、回転ミラーを用いた分散機構13の詳細について説明する。分散機構13は、第1の回転ミラー13a、第1のモータ13b、第2の回転ミラー13cおよび第2のモータ13dで構成されている。第1の回転ミラー13aは、入射されたレーザ光パルス12のパルス周波数と同期して動作し、レーザ光パルス12を第1の回転ミラー13aの面に対して水平方向に分散する。水平方向に分散された水平分散レーザ光パルス13eは、常に同一の角度で分散される。第1のモータ13bは、第1の回転ミラー13aを駆動させる駆動源である。第2の回転ミラー13cは、入射されたレーザ光パルス12のパルス周波数と同期して動作し、水平分散レーザ光パルス13eをさらに垂直方向に分散する。垂直方向に分散された垂直分散レーザ光パルス13fは、常に同一の角度で分散される。第2のモータ13dは、第2の回転ミラー13cを駆動させる駆動源である。
以上の動作により、3次元レーザスキャナ10は、以下に示すX,Y,Zの3次元情報
X:水平方向座標(図3の例では、6ポイント)
Y:垂直方向座標(図3の例では、2ポイント)
Z:距離データ(Z軸方向の奥行き情報(以下、「Z軸情報」と称する))
を得る。3次元情報に上記Z軸情報が含まれているため、対象物が3次元座標系におけるZ軸方向に沿った移動(3次元レーザスキャナ10に対しての接近または後退)を行った場合は、それがZ軸情報の差分として反映される。
なお、図3および図4では、回転ミラーを用いた分散機構13が示されているが、回転ミラー以外の分散機構が適用されてもよい。たとえば、モータレスでミラーをスキャンするスキャンレス光学系が用いられてもよい。
(監視装置が有する各構成の動作)
次に、監視装置100(図1)の動作について、以下に説明する。
図5は、3次元レーザスキャナ10およびその観測領域ROの例を示す斜視図である。この観測領域ROには、床面FLと対象物OAと対象物OBとが含まれている。対象物OAおよび対象物OBは、床面FLにおいて互いに離れて立つ人間である。
図6は、3次元レーザスキャナ10の観測領域を仮想的な3次元空間で表した立体モデルである。立体モデルの各キューブ(以下、「グリッド」とも称する。)が、レーザ反射光15(図3)の発生点となり得る位置を示している。ここでは例として、8×4×4個のキューブからなる空間が示されている。
図7は、観測領域RO(図5)を上記立体モデルで表したものである。図8は、図7の立体モデルの内部を見やすくするために、それをY方向(垂直方向)において分解したものである。
図9は、観測領域RO(図5)が3次元レーザスキャナ10の観測視野内ではどのように見えるかを示す仮想図である。なお、床面FLの周りの白抜きの部分は、3次元レーザスキャナ10で距離データが得られない部分に対応している。対象物OAおよび対象物OBは、図5に示すように観測領域RO中で互いに離れているが、図9に示されている3次元レーザスキャナ10の2次元的な観測視野内では、互いに重なっているように見える。
図10の下段は、観測視野における構成画素の配列に対応して、現データの値を示すものである。現データは、現データ演算部20(図2)によって生成され、現データ蓄積部21(図2)に蓄積される。図10の上段は、下段の現データに対応する状態を示す仮想図であり、図9と同様のものである。なお、上段の内容と下段の内容との対応がわかりやすくなるよう、それら各々に、対象物OAと対象物OBと床面FLとを区別するためのハッチングが共通して付されている。また、他の類似の図においても、同様の方法でハッチングが付されている。
現データは、前述したように、3次元レーザスキャナ10からの距離を表すデータ、すなわち距離データ、である。ここでは、0以上15以下(単位:メートル(m))の距離が扱われるものとし、図中では、その値が16進数で示されている。よって、図中の「A」〜「F」のそれぞれは、十進数における値10〜15に対応している。対象物OAは、図中の現データが生成された時点では3次元レーザスキャナ10から距離3m程度に位置している。それに対応して、対象物OAに対応して生成された現データは、3±1(m)の値を有している。対象物OBは、図中の現データが生成された時点では3次元レーザスキャナ10から距離9m程度に位置している。それに対応して、対象物OBに対応して生成された現データは、9±1(m)の値を有している。対象物OAおよび対象物OBが移動すれば、それに応じて現データの値は変動する。床面FLは固定物であることから、それに対応して生成される現データは変動しない。床面FLは、観測視野内における観測可能な部分において、3次元レーザスキャナ10から距離2m〜15mの範囲で均等に緩やかに拡がっている。床面FLに対応して生成された現データは、値2〜Fを有している。図中、上段において床面FLの周りで白抜きとなっている部分は、距離データが得られなかった画素(以下、「ブランク画素」とも称する。)である。ブランク画素に対応する現データの値は、図中の下段には示されていないが、ブランク画素以外の画素に対応する現データの最大値である値Fが適用され得る。
なお、上述したブランク画素を含めると、図10の下段には、24×19の構成画素が示されている。すなわち本例においては、3次元レーザスキャナ10の解像度が24×19である。
図11の下段は、観測視野における構成画素の配列に対応して比較データの値を示すものである。比較データは、比較データ演算部30(図2)によって生成され比較データ蓄積部31(図2)に蓄積される。図11の上段は、下段の現データに対応する状態を示す仮想図である。図11の上段においては、図10の上段とは異なり、対象物OAおよび対象物OBが示されておらず、床面FLのみが示されている。対象物OAおよび対象物OBが移動し得るものである一方、床面FLは時間に依存せず安定的に存在するものである。比較データは、時間に依存せず安定的なデータの方がよい。このため、対象物OAおよび対象物OBに対応するデータを実質的に含むことなく床面FLに対応するデータのみからなる比較データを作成することは、過去のフレームを参照することによって、容易に行い得る。
図12の下段は、現データと比較データとの間の差分データ、すなわち距離差、を、観測視野における構成画素の配列に対応して示すものである。差分データは差分演算部41(図2)によって算出される。差分データの値としては距離差の絶対値が用いられ得る。差分データの算出により、常時安定的に存在する床面FL(図11)の影響を除外することができる。図12の上段は、下段の差分データに対応する状態を示す仮想図である。図12の上段においては、図10の上段と異なり、床面FLが示されておらず、対象物OAおよび対象物OBのみが示されている。
図13の下段を参照して、変化領域抽出部42(図2)は、差分データ(図12の下段)のうち、あらかじめ定められた距離差しきい値以上の距離差を有するものを、図中斜線のハッチングによって示されているように、変化領域画素PCとして抽出する。ここでは、距離差しきい値は2に設定されている。
図14の下段を参照して、予備的ラベリング部50(図2)は、変化領域画素PCの分布に基づいて、変化領域画素PCの各々に、観測領域中における異なる対象物を区別するためのラベルを付与する。具体的には、水平方向または垂直方向において隣接している画素に対して同一のラベルを付与し、そうでない画素には異なるラベルを付与する、典型的な2次元ラベリング(詳しくは後述する)が行われる。本例において、変化領域画素PCの各々は、垂直方向または水平方向において、他の変化領域画素PCと隣接している。このため、変化領域画素PCのすべてに対して、同じラベル(ここではラベル番号「1」)が付与される。このことは、このラベリングが、2つの対象物OAおよびOBを互いに区別することに失敗していることを意味している。なお、変化領域画素PC以外の画素には、ダミーとして、ラベル番号「0」が付与されている。なお、予備的ラベリング部50の動作は省略されてもよい。
図15の下段を参照して、段差隣接画素抽出部43(図2)は、変化領域画素PC(図13)から段差隣接画素PSを抽出する。この抽出は、変化領域画素PCのうち互いに隣接するものの間での距離差の差である段差量の大きさに基づいて行われる。段差隣接画素PSは、変化領域画素PCのうち、隣接する他の画素との間で大きな段差量を有するもののことである。なお、大きな段差量は、異なる対象物が互いに離れていることによって生じている可能性が高い。よって、大きな段差量が存在する位置は、異なる対象物間の境界である可能性が高いと考えられる。
ここで、段差隣接画素抽出部43による処理において、「隣接する」ということがどの方向においてどちらの側に隣接することを意味するのかは、あらかじめ定めておくことができる。また「段差量」の大きさがそのまま考慮されるかまたは絶対値として考慮されるかについても、あらかじめ定めておくことができる。以下、これらの設定条件についての例1〜3を説明する。なおここでは、水平方向(X方向)について記載しているが、垂直方向(Y方向)についても同様であってよい。
例1:
注目された変化領域画素からX座標±1(画素単位)以内の画素が隣接画素と定義される。そして、
「注目される変化領域画素の距離差」−「隣接画素の距離差」 ≧ 「段差しきい値」
が満たされた場合に、注目された変化領域画素が段差隣接画素と判断される。
例2:
注目された変化領域画素からX座標+1(画素単位)以内の画素が隣接画素と定義される。そして、
|「注目された変化領域画素の距離差」−「隣接画素の距離差」| ≧ 「段差しきい値」
が満たされた場合に、注目された変化領域画素が段差隣接画素と判断される。なお左辺の1組の縦線は、それにより挟まれた部分が絶対値として考慮されることを示している。図15は、この例2が用いられ、かつ、段差しきい値が2とされた場合を示している。
例3:
注目された変化領域画素からX座標−1(画素単位)以内の画素が隣接画素と定義される。そして、
|「注目された変化領域画素の距離差」−「隣接画素の距離差」| ≧ 「段差しきい値」
が満たされた場合に、注目された変化領域画素が段差隣接画素と判断される。なお左辺の1組の縦線は、それにより挟まれた部分が絶対値として考慮されることを示している。
図16の下段を参照して、ラベリング対象画素抽出部44(図2)は、変化領域画素PC(図13)から段差隣接画素PS(図15)を除外する。これによって、図中、斜線ハッチングで示されているように、ラベリング対象画素PLが抽出される。
図17の下段を参照して、高精度ラベリング部51(図2)は、観測視野におけるラベリング対象画素PLの分布に基づいて、ラベリング対象画素の各々に、観測領域中における異なる対象物を区別するためのラベルを付与する。具体的には、水平方向または垂直方向において隣接している画素に対して同一のラベルが付与され、そうでない画素には異なるラベルが付与される。よって、ラベリングの方法自体は、予備的ラベリング部50による場合(図14)と同様である。しかしながら、高精度ラベリング部51によるラベリングの対象からは、上述したように、段差隣接画素PS(図15)が除外されている。その結果、ラベリングの対象である画素が、垂直方向および水平方向において、2つの領域に分離されている。よって、2つのラベル番号「1」および「2」が付与される。具体的には、段差隣接画素PSが存在していた領域の左側および右側のそれぞれに、ラベル番号「1」および「2」が付与される。このことは、このラベリングが、2つの対象物OAおよびOBを互いに区別することに成功していることを意味している。
図18の下段を参照して、高精度ラベリング部51(図2)はさらに、段差隣接画素PSに対してラベル番号を付与することにより、ラベリングを補充する。ラベル番号としては、隣接している画素のラベル番号を用いることができる。ここで、図示されているように、ある1つの段差隣接画素PSは複数の画素と隣接し得ることから、当該段差隣接画素PSに付与されるラベル番号が一義的に定まるように、あらかじめ定められた方向に隣接している画素のラベル番号が用いられるように設定されてもよい。本例では、段差隣接画素に対して、−X方向(図中、左方向)に隣接している画素のラベル番号「1」が、段差隣接画素PSに付与される。他方法としては、段差隣接画素PSの領域の左側および右側でラベル番号が別となるような方法であればよい。
図19を参照して、フェレ径算出部(図2)は、各ラベルに対応するフェレ径を算出する。具体的には、ラベル番号「1」が付された画素に対してフェレ径(図中、破線部を参照)が算出され、また、ラベル番号「2」が付された画素に対してフェレ径(図中、一点鎖線部を参照)が算出される。変化領域画素に対して対象物OAおよび対象物OBのそれぞれに対応するラベル番号「1」および「2」が付与されていることから、観測視野中で対象物OAおよび対象物OBが2次元的には部分的に重なっているものの、それらに対して別個のフェレ径が付与される。
(監視装置の動作のフローのまとめ)
次に、監視装置100(図1)の上述した動作について、フローチャート(図20)を参照しつつ、以下に補足する。
まず、3次元レーザスキャナ10(図1)は、背景200に対応する観測領域をスキャンする(図20:ステップST1)。具体的には、背景200の範囲が、3次元レーザスキャナ10の解像度である24×19に分割され、これらの部分がスキャンされる。これにより距離データおよび強度データが取得される(図20:ステップST2)。現データ演算部20(図2)は、これらデータを用いて現データ(図10)を現データ蓄積部(21)に蓄積する(図20:ステップST3)。比較データ演算部30は、3次元レーザスキャナ10から得られる、構成画素ごとの距離データを、構成画素ごとの比較データ(図11)へ変換し、比較データ蓄積部31に蓄積する(ステップST4)。
差分演算部41(図2)は、現データ蓄積部21に蓄積された現データと、比較データ蓄積部31に蓄積された比較データとを用いて、画素ごとの差分値からなる差分データ(図12)を算出する(図20:ステップST5)。ステップST5の処理では、現データと比較データとが距離データとして比較されることから、得られる差分値は距離の差である。たとえば、現データが背景200および対象物201(図1)に対応し、比較データが背景200のみに対応している場合、得られる差分値は、遠近補正後の背景と、対象物との間の距離を示している。
変化領域抽出部42(図2)は、構成画素ごとに、上記差分値が距離差しきい値以上であるか否かを判定する(図20:ステップST6)。差分値が閾値以上である場合(ステップST6が「YES」の場合)、当該構成画素は変化領域画素(図13)として抽出され(図20:ステップST7)、さらに作業がステップST9(図20)へと進む。一方、差分値がしきい値未満である場合(ステップST6が「NO」の場合)、当該構成画素は変化領域でないと判断され(図20:ステップST8)、さらに作業がステップST9(図20)へと進む。そして変化領域抽出部42は、構成画素すべてを処理したか否かを判定する(図20:ステップST9)。すべてが処理されていない場合(ステップST9が「NO」の場合)、作業がステップST5へ戻り、上述した処理が繰り返される。一方、すべてが処理されていた場合(ステップST9が「YES」の場合)、作業はステップST30(図20)へと進む。
2次元ラベリングのアルゴリズムに従い、図14に示すように、予備的ラベリング(図14)が行われる(図20:ステップST30)。なお、この工程は省略され得る。
段差隣接画素抽出部43(図2)は、変化領域画素PC(図14)から段差隣接画素PS(図15)を抽出する(図20:ステップST31)。変化領域画素ごとに、上記差分値が段差しきい値以上であるか否かが判定される。差分値がしきい値以上である場合、当該構成画素は段差隣接画素として抽出される。一方、差分値がしきい値未満である場合、当該構成画素は段差隣接画素でないと判断される。そして変化領域画素すべてを処理したか否かが判定される。すべてが処理されていない場合、ステップST31処理のはじめへ戻り、上述した処理が繰り返される。一方、すべてが処理されていた場合、作業はステップST32(図20)へと進む。
次に、ラベリング対象画素抽出部44(図2)は、変化領域画素から段差隣接画素を除外する。これによって、ラベリング対象画素PL(図16)が抽出される。(図20:ステップST32)。
高精度ラベリング部51(図2)は、観測視野におけるラベリング対象画素の分布に基づいて、ラベリング対象画素の各々に、観測領域中における異なる対象物を区別するためのラベルを付与する高精度ラベリング(図17)を行う(図20:ステップST33)。高精度ラベリング部51はさらに、段差隣接画素に対してラベル番号を付与することにより、ラベリングを補充する(図18)。
フェレ径算出部(図2)は、上記ラベリングの結果を利用して、フェレ径を算出する(図20:ステップST34)。
認識処理部70(図2)は、ステップST34で算出されたフェレ径と、ステップST7で抽出された変化領域画素とに基づいて、各フェレ径の内部の変化領域画素が、あらかじめ定められた照合条件を満たすか否か判定する(図20:ステップST10)。照合条件が満たされる場合(ステップST10が「YES」の場合)、当該フェレ径に属する画素変化領域が報知対象として認識される(図20:ステップST11)。一方、照合条件が満たされない場合(ステップST10が「NO」の場合)、当該フェレ径に属する画素変化領域は報知対象でないと判断され(図20:ステップST12)、作業がステップST1の処理に戻る。報知処理部80は、ステップST11で認識された報知対象について報知処理を行い(ステップST13)、作業はその後、ステップST1の処理に戻る。
さらに図21を参照して、上述したステップST10の具体的な例について説明する。認識処理部70は、各フェレ径に属する変化領域画素が監視範囲内に存在するか否か判定する(ステップST21)。なお監視範囲は、構成画素のうちの一部またはすべての画素として、あらかじめ設定され得る。変化領域画素が監視範囲内に存在する場合(ステップST21が「YES」の場合)、各フェレ径に属する変化領域画素が所定の面積(言い換えれば所定の画素数)を有しているか否か判定される(ステップST22)。変化領域画素が所定の面積を有している場合(ステップST22が「YES」の場合)、さらに、各フェレ径に属する変化領域画素が所定の縦横寸法を有しているか否か判定される(ステップST23)。変化領域画素が所定の縦横寸法を有している場合(ステップST23が「YES」の場合)、さらに、各フェレ径に属する変化領域画素が所定の移動速度を有しているか否か判定される(ステップST24)。変化領域画素が所定の移動速度を有している場合(ステップST24が「YES」の場合)、作業がステップST11に進み、当該フェレ径に属する変化領域画素が報知対象であると認識される。一方、ステップST21〜ST24の少なくともいずれかの判断が「NO」の場合、作業がステップST12へと進み、当該フェレ径に属する変化領域画素は報知対象でないと判断される。なお図21に示した処理は、照合条件の一例であり、照合条件は、各ステップのみでもよいし、各ステップをそれぞれ組合わせた処理であってもよい。
(2次元ラベリングの技術について)
上述したように本実施の形態は、2次元ラベリングの技術を利用している。2次元ラベリングの技術の典型例について、以下に説明する。なお、説明の都合上、以下における変化領域画素の分布は、前述したものと異なっている。
図22を参照して、構成画素からなる視野(図中の枠の内部)において、変化領域画素PCが分布している。この分布に基づいて2次元ラベリングを行う処理が開始される。具体的には、変化領域画素PCを探索するために、左上に位置する探索部SCが右方へと移動するラスタスキャンが開始される。
図23を参照して、探索部SCが最初の変化領域画素PCに遭遇する。この変化領域画素PCにラベル番号「1」が付与される。
図24を参照して、引き続きラスタスキャンが継続される。図中、新たに発見された変化領域画素PCは、既にラベル番号「1」が付与された画素に隣接している。そのような場合は、新たに発見された変化領域画素PCにも、同じラベル番号「1」が付与される。なお、「隣接する」ということがどの方向においてどちらの側に隣接することを意味するのかは、あらかじめ定めておくことができる。ここでは、X座標(水平方向座標)およびY座標(垂直方向座標)の各々の相違が±1以内である周辺8画素が、「隣接する」画素であるものとする。
図25を参照して、引き続きラスタスキャンが継続される。図中、新たに発見された変化領域画素PCは、既にラベル番号「1」が付与された画素に隣接していない。そのような場合は、新たな異なるラベル番号が付与される。ここでは新たなラベル番号「2」が付与される。
図26を参照して、引き続きラスタスキャンが継続される。図中、新たに発見された変化領域画素PCは、既にラベル番号「1」または「2」が付与された画素に隣接していない。よって、新たな異なるラベル番号「3」が付与される。
図27を参照して、1ライン目のラスタスキャンが完了している。次に、2ライン目のラスタスキャンが開始されることになる。
図28を参照して、2ライン目のラスタスキャンにおいては、既にラベル番号「1」が付与された画素に隣接する変化領域画素PCに、同じラベル番号「1」が付与されている。また既にラベル番号「2」が付与された画素に隣接する変化領域画素PCに、同じラベル番号「2」が付与されている。また既にラベル番号「3」が付与された画素に隣接する変化領域画素PCに、同じラベル番号「3」が付与されている。次に、3ライン目のラスタスキャンが開始されることになる。
図29を参照して、探索部SCが、既にラベル番号「1」が付与された画素と、既にラベル番号「2」が付与された画素との両方に隣接する変化領域画素PCに遭遇する。この遭遇は、ラベル番号「1」に対応する対象物と、ラベル番号「2」に対応する対象物とが共通である可能性が高いことを意味する。そこで、図30に示されるように、ラベル番号「2」がラベル番号「1」に変更される。
図31および図32を参照して、6ライン目のラスタスキャンにおいて発見された変化領域画素PCは、既にラベル番号「3」が付与された画素とは隣接していない。よってラベル番号「3」はそのまま維持されている。
図33を参照して、探索部SCが構成画素全体の探索を完了している。最終的に、ラベル番号「1」およびラベル番号「3」が付与されている。ラベル番号「2」は欠番とされている。
(予備的ラベリング部によるラベリング結果を用いたフェレ径の算出)
図34を参照して、予備的ラベリング部50(図2)のラベリング結果(図14)を用いてフェレ径が算出される場合は、高精度ラベリング部51(図2)のラベリング結果を用いてフェレ径が算出される場合(図19)と異なり、1つのフェレ径しか算出されない。このことは、監視装置100が、2つの対象物OAおよびOBを、1つの対象物として取り扱っていることを意味している。このため、仮に監視装置が予備的ラベリング部50を有しておりかつ高精度ラベリング部51を有していないとすると、対象物OAおよび対象物OBを区別することができない。すなわち、高い精度で対象物を認識することができない。ただし、予備的ラベリング部50は、高精度ラベリング部51に比して、より少ない演算量で動作可能である。よって、フェレ径が算出される際に、予備的ラベリング部50による処理と、高精度ラベリング部51による処理とが、必要に応じて切り変えられてもよい。
(対象物の数が3つの場合の例)
図10〜図19においては、2つの対象物OAおよびOBが存在する場合について詳しく説明した。以下においては、対象物の数が3つの場合の例について説明する。
図35を参照して、本例においては、対象物OAおよびOBに加えて、対象物OCが存在する。この状況下において、上述した図13までの工程と同様の工程により、変化領域画素PCが抽出される。
図36を参照して、次に、段差隣接画素PSが抽出される。なお本例においては、段差隣接画素PSの抽出のための設定条件として、前述した「例1」〜「例3」のうち「例2」が適用されるものとする。
図37を参照して、図16の工程と同様に、ラベリング対象画素PL(図中、斜線ハッチング)が抽出される。図38を参照して、図17の工程と同様に、ラベルが付与される。本例においては、3つの対象物OA〜OCのそれぞれに対応してラベル番号「1」〜「3」が付与される。
図39を参照して、図18の工程とほぼ同様に、段差隣接画素PSに対してラベル番号を付与することにより、ラベリングが補充される。本例においては、段差隣接画素PSの一部は、複数のラベリング対象画素PLに隣接している。そのような段差隣接画素PSに対して付与されるラベル番号を一義的に決定するために、あらかじめ方法が決められている。具体例としては、第1優先として−X方向(図中、左方向)のラベル番号が参照され、第2優先として+Y方向(図中、上方向)のラベル番号が参照され、第3優先として+X方向(図中、右方向)のラベル番号が参照される。このような優先条件は、あらかじめ高精度ラベリング部51に設定し得る。
(比較例としての3次元ラベリング)
本実施の形態においては、上述したように、変化領域画素の各々に対して、一種の2次元ラベリングが行われる。これに対する比較例として、典型的な3次元ラベリングのアルゴリズムについて、以下に説明する。
図40は、3次元ラベリングにおける、ある1つの変化領域画素PCと、その隣接画素PPとを、単純な立体モデルで表した斜視図である。図41は、図40の立体モデルの内部を見やすくするために、それをY方向(垂直方向)において分解したものである。最下層に床面FLが存在し、その上方に変化領域画素PCが1つ存在している。3次元ラベリングにおいては、ある1つの変化領域画素PCに隣接する画素が3次元的に考慮される。図中においては、当該変化領域画素PCに対して、X座標、Y座標およびZ座標がいずれも±1(画素単位)の範囲内の画素が、26個の隣接画素PPと定義されている。これら隣接画素PPに対して既にラベル番号が付与されている場合、それを参照して変化領域画素PCにラベル番号が付与される必要がある。
図42および図43を参照して、図7および図8の場合と同様に、対象物OAと対象物OBと床面FLとが存在する状況が仮定されている。この場合、対象物OAおよび対象物OBは、X方向およびY方向(水平方向および垂直方向)のみを考慮する2次元空間では、図42の上段に示されているように、部分的に重なってみえる。しかしながら、Z方向(図中、奥行方向)においては対象物OAおよび対象物OBは互いに離れている。3次元ラベリングにおいては、Z方向も考慮されることから、対象物OAと対象物OBとに対して同一のラベル番号が付与されることを避けることができる。よって最終的に本実施の形態(図19参照)とほぼ同様にフェレ径(図42および図43における破線部および一点鎖線部を参照)を算出することができる。すなわち、ほぼ同様の認識結果が得られる。
この3次元ラベリングにおいては、図40に示したように、変化領域画素PC(図40)の各々にラベル番号が付与される際に、26個の隣接画素PPのラベル番号を参照する演算が必要である。これに対して2次元ラベリング(図22〜図23)においては、8個の隣接画素が参照されればよい。よって、3次元ラベリングと2次元ラベリングとの間では、作業量に3倍超の差がある。隣接画素の定義が、座標差が±1の範囲ではなく±2の範囲とされると、作業量の差異はさらに拡大する。具体的には、2次元ラベリングにおいて参照される隣接画素の数が24個であるのに対して、3次元ラベリングにおいて参照される隣接画素の数は124個である。よって、3次元ラベリングと2次元ラベリングとの間では、作業量に5倍超の差がある。以上のように、2次元ラベリングに比して、3次元ラベリングは、より多くの演算量を必要とする。
(効果)
本実施の形態によれば、変化領域画素PC(図13)のうち互いに隣接するものの間での距離差の差である段差量の大きさに基づいて、変化領域画素PCから段差隣接画素PS(図15)が抽出される。次に、変化領域画素PCから段差隣接画素PSを削除することによって、ラベリング対象画素PL(図17)が抽出される。次に、観測視野におけるラベリング対象画素PLの分布、すなわち2次元的な画素分布、に基づいて、ラベリングが行われる。
第1に、上述したように段差隣接画素PSの削除後にラベリングが行われることによって、ラベリングが2次元的でありながら、対象物までの距離がラベリングに反映される。これにより、高い精度で対象物を認識することができる。
第2に、ラベリングのための演算が2次元的な画素分布に基づいて行われる。これにより、3次元ラベリングに比して、必要な演算量を抑えることができる。
以上から、高い精度で対象物を認識することができ、かつ、必要な演算量を抑えることができる。
<実施の形態2>
(変化領域画素の値の乱れによる影響)
本実施の形態についての説明に先立って、変化領域画素の値の乱れが監視用画像処理装置101(図2:実施の形態1)の動作に与える影響について、以下に説明する。
まず図10〜図13と同様の工程が行われる。これにより変化領域画素PC(図44)が抽出される。ただし本例においては、3次元レーザスキャナ10(図1)の画像のノイズなどの影響に起因して、変化領域画素PCの値の一部が乱されているものと仮定する。具体的には、図44における太字斜体で示された値「8」および「7」が、乱れを受けた値である。これらの値「8」および「7」のそれぞれは、もし観測が正確であったとすれば、図13に示されているように、値「9」および「3」であったものである。
図45の下段を参照して、図15と同様の工程によって段差隣接画素PSが抽出される。ただし図15の場合と異なり、上述した不正確な値「8」を有する画素は、段差隣接画素PSとして抽出されない。
図46の下段を参照して、図16と同様の工程によって、変化領域画素PC(図45)から段差隣接画素PSが削除される。これによって、ラベリング対象画素PLが抽出される。ただし図16の場合と異なり、上述した不正確な値「8」を有する画素は、削除されずにラベリング対象画素PLに含まれる。
図47の下段を参照して、図17と同様の工程によって、観測視野におけるラベリング対象画素PLの分布に基づいて、ラベリング対象画素の各々にラベルが付与される。ただし本例においては、上述した不正確な値「8」を有する変化領域画素PCがラベリング対象画素PLに含まれているために、ラベリング対象画素PLのいずれもが、水平方向または垂直方向において、他のラベリング対象画素PLに隣接している。すなわち、ラベリング対象画素PLは、図17とは異なり、水平方向または垂直方向において2つの群に分離されていない。その結果、図17のラベリング結果とは異なり、すべてのラベリング対象画素PLにラベル番号「1」が付与される。このことは、このラベリングが、2つの対象物OAおよびOBを互いに区別することに失敗していることを意味している。
図48の下段を参照して、図18と同様の工程により、段差隣接画素PSに対してラベル番号を付与することにより、ラベリングが補充される。
図49の下段を参照して、図19と同様の工程により、フェレ径が算出される。2つのフェレ径が算出される図19の場合と異なり、本例においては1つのフェレ径しか算出されない。このことは、監視装置100が、2つの対象物OAおよびOBを、1つの対象物として取り扱っていることを意味している。
以上のように、ノイズなどの影響に起因して変化領域画素PCの値の一部が乱されると、対象物OAおよびOBを互いに区別することができないことがある。以下に述べる本実施の形態によれば、上述したように何らかの要因によって変化領域画素PCの値に乱れた生じた場合であっても、高い精度で対象物を認識することができる。
(構成)
図50を参照して、本実施の形態における監視用画像処理装置102は、監視用画像処理装置101(図2)の構成に加えて、ラベル限界設定部45を有している。また監視用画像処理装置102は、高精度ラベリング部51(図2)に代わり高精度ラベリング部52(ラベリング部)を有している。
詳しくは後述の動作の説明において述べるが、ラベル限界設定部45は、変化領域抽出部によって抽出された変化領域画素から、構成画素における段差隣接画素の分布に基づいて、段差隣接画素に隣接するラベル限界画素を設定する。高精度ラベリング部52は、ラベリング対象画素のうちラベル限界画素によって隔てられた複数の画素群に対して、異なるラベルを付与する。
なお、上記以外の構成については、上述した実施の形態1の構成とほぼ同じであるため、同一または対応する要素について同一の符号を付し、その説明を繰り返さない。
(動作)
まず、上述した図45までと同様の工程によって、段差隣接画素PSが抽出される。
図51の下段を参照して、ラベル限界設定部45(図50)は、変化領域画素PC(図44)から、構成画素における段差隣接画素PSの分布に基づいて、段差隣接画素PSに隣接するラベル限界画素PB(図中、格子模様のハッチング)を設定する。具体的には、変化領域画素PCのうち、段差隣接画素PSに対してX座標およびY座標のいずれも±1(画素単位)の範囲内の構成画素が、ラベル限界画素PBに設定される。
図52の下段を参照して、次に、図46と同様の工程によって、変化領域画素PC(図45)から段差隣接画素PSが削除される。これによって、ラベリング対象画素PLが抽出される。ただし図16の場合と異なり、上述した不正確な値「8」を有する変化領域画素PCは、削除されずにラベリング対象画素PLに含まれる。なお、ラベル限界画素PBは、ラベリング対象画素PLに含まれるものとして扱われてよい。
図53の下段を参照して、次に、高精度ラベリング部52によってラベリングが行われる。高精度ラベリング部52は、高精度ラベリング部51(図2:実施の形態1)とほぼ同様の機能を有することに加えて、ラベリングの際にラベル限界画素PBの存在を考慮する機能を有している。具体的には、ラベリング対象画素PLのうちラベル限界画素PBによって隔てられた複数の画素群に対して、異なるラベルを付与する。「ラベル限界画素PBによって隔てられた」ということがどの方向において隔てられていることを意味するのかは、あらかじめ定めておくことができる。本例においては、水平方向(X方向)または垂直方向(Y方向)において隔てられていることを意味するものとされている。このため、図47の場合と異なり、ラベル限界画素PBの左下側にラベル番号「1」が付与される一方で、ラベル限界画素PBの右上側に別個のラベル番号「2」が付与される。このことは、このラベリングが、2つの対象物OAおよびOBを互いに区別することに成功していることを意味している。
図54の下段を参照して、次に、図18と同様の工程によって、段差隣接画素PSに対してラベル番号を付与することにより、ラベリングが補充される。
図55の下段を参照して、次に、図19と同様の工程により、フェレ径が算出される。前述したように、変化領域画素には対象物OAおよびOBのそれぞれに対応するラベル番号「1」および「2」が付与されている。よって、図の上段に示されているように観測視野中で対象物OAおよび対象物OBが2次元的には部分的に重なっているものの、それらに対して別個のフェレ径が付与される。
本実施の形態によれば、図53に示されているように、ラベリング対象画素PLのうちラベル限界画素PBによって隔てられた複数の画素群に対して、異なるラベルが付与される。これにより、ノイズなどの影響によって段差隣接画素PS(図51)の抽出が理想的に行われなかった場合であっても、異なる対象物に対して誤って同じラベルが付されてしまう確率が抑制される。よって、対象物を認識する精度をより高めることができる。
<監視用画像処理装置のハードウェア構成の例>
図56は、上述した監視用画像処理装置101(図2)または監視用画像処理装置102(図44)として用い得る監視用画像処理装置800のハードウェア構成を概略的に示すブロック図である。監視用画像処理装置800は、プロセッサ(処理回路)801と、メモリ802と、ストレージ803と、入出力装置804と、可搬記憶媒体駆動装置805と、通信インターフェース806と、内部バス807とを有している。監視用画像処理装置101(図2)または監視用画像処理装置102(図44)が有する各構成の機能は、プロセッサ801がストレージ803に記憶されたプログラムを読み出して実行することにより実現され得る。
プロセッサ801は、プログラムの命令に従い、算術・論理演算を実行する。プロセッサ801は、CPUコアが複数設けられている構成を有していてもよい。メモリ802は、たとえばRAM(Random Access Memory)などによって構成されるメインメモリである。メインメモリには、プロセッサ801で実行されるプログラムがロードされるとともに、プロセッサ801の処理に用いるデータが格納される。ストレージ803は、たとえばハードディスクドライブまたはフラッシュメモリなどの記憶装置であり、プログラムおよび各種データが格納される。可搬記憶媒体駆動装置805は、可搬記憶媒体900に記憶されたプログラムまたはデータを読み出す装置である。可搬記憶媒体900は、たとえば磁気ディスク、光ディスク、光磁気ディスクまたはフラッシュメモリなどである。プロセッサ801は、メモリ802およびストレージ803と協働しつつ、ストレージ803または可搬記憶媒体900に格納されたプログラムを実行する。入出力装置804は、たとえば、キーボード、タッチパネル、およびディスプレイなどである。入出力装置804は、ユーザ操作などによる動作命令を受け付ける一方、監視用画像処理装置800による処理結果を出力する。
なお、本発明は、その発明の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略したりすることが可能である。
FL 床面、OA〜OC,201 対象物、PB ラベル限界画素、PC 変化領域画素、PL ラベリング対象画素、PP 隣接画素、PS 段差隣接画素、RO 観測領域、SC 探索部、10 3次元レーザスキャナ(距離センサ)、20 現データ演算部、21 現データ蓄積部、30 比較データ演算部、31 比較データ蓄積部、41 差分演算部、42 変化領域抽出部、43 段差隣接画素抽出部、44 ラベリング対象画素抽出部、45 ラベル限界設定部、50 予備的ラベリング部、51,52 高精度ラベリング部(ラベリング部)、60 フェレ径算出部、70 認識処理部、80 報知処理部、100 監視装置、101,102,800 監視用画像処理装置、200 背景。

Claims (4)

  1. 観測視野を構成する構成画素の各々に観測領域までの距離情報を有する現データを蓄積する現データ蓄積部と、
    前記現データ蓄積部に蓄積された前記現データに対しての比較基準となる比較データを蓄積する比較データ蓄積部と、
    前記現データ蓄積部に蓄積された前記現データと、前記比較データ蓄積部に蓄積された前記比較データとの間での、前記構成画素の各々における前記距離情報の差である距離差を、差分データとして算出する差分演算部と、
    前記差分演算部によって算出された前記距離差の大きさに基づいて、前記構成画素から変化領域画素を抽出する変化領域抽出部と、
    前記変化領域画素のうち互いに隣接するものの間での前記距離差の差である段差量の大きさに基づいて、前記変化領域画素から段差隣接画素を抽出する段差隣接画素抽出部と、
    前記変化領域画素から前記段差隣接画素を除外することによってラベリング対象画素を抽出するラベリング対象画素抽出部と、
    前記観測視野における前記ラベリング対象画素の分布に基づいて、前記ラベリング対象画素の各々に、前記観測領域中における異なる対象物を区別するためのラベルを付与する、ラベリング部と、
    を備える、監視用画像処理装置。
  2. 前記変化領域抽出部によって抽出された前記変化領域画素から、前記構成画素における前記段差隣接画素の分布に基づいて、前記段差隣接画素に隣接するラベル限界画素を設定するラベル限界設定部をさらに備え、
    前記ラベリング部は、前記ラベリング対象画素のうち前記ラベル限界画素によって隔てられた複数の画素群に対して、異なるラベルを付与する、
    請求項1に記載の監視用画像処理装置。
  3. 前記ラベリング部によって付与された前記ラベルに基づいてフェレ径を算出するフェレ径算出部をさらに備える、請求項1または請求項2に記載の監視用画像処理装置。
  4. 観測視野内において観測領域までの距離を観測する距離センサと、
    前記距離センサによって観測された距離に基づいて、前記観測視野を構成する構成画素の各々に前記観測領域までの距離情報を有する現データを蓄積する現データ蓄積部と、
    前記現データ蓄積部に蓄積された前記現データに対しての比較基準となる比較データを蓄積する比較データ蓄積部と、
    前記現データ蓄積部に蓄積された前記現データと、前記比較データ蓄積部に蓄積された前記比較データとの間での、前記構成画素の各々における前記距離の差である距離差を、差分データとして算出する差分演算部と、
    前記差分演算部によって算出された前記距離差の大きさに基づいて、前記構成画素から変化領域画素を抽出する変化領域抽出部と、
    前記変化領域画素のうち互いに隣接するものの間での前記距離差の差である段差量の大きさに基づいて、前記変化領域画素から段差隣接画素を抽出する段差隣接画素抽出部と、
    前記変化領域画素から前記段差隣接画素を除外することによってラベリング対象画素を抽出するラベリング対象画素抽出部と、
    前記観測視野における前記ラベリング対象画素の分布に基づいて、前記ラベリング対象画素の各々に、前記観測領域中における異なる対象物を区別するためのラベルを付与する、ラベリング部と、
    を備える、監視装置。
JP2016204981A 2016-10-19 2016-10-19 監視用画像処理装置および監視装置 Active JP6758152B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016204981A JP6758152B2 (ja) 2016-10-19 2016-10-19 監視用画像処理装置および監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016204981A JP6758152B2 (ja) 2016-10-19 2016-10-19 監視用画像処理装置および監視装置

Publications (2)

Publication Number Publication Date
JP2018067127A JP2018067127A (ja) 2018-04-26
JP6758152B2 true JP6758152B2 (ja) 2020-09-23

Family

ID=62086187

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016204981A Active JP6758152B2 (ja) 2016-10-19 2016-10-19 監視用画像処理装置および監視装置

Country Status (1)

Country Link
JP (1) JP6758152B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021189599A (ja) * 2020-05-27 2021-12-13 三菱電機株式会社 監視用画像処理装置、3次元レーザスキャナシステムおよびプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4413343B2 (ja) * 1999-11-12 2010-02-10 Hoya株式会社 3次元画像検出装置
JP6309099B2 (ja) * 2014-07-03 2018-04-11 三菱電機株式会社 監視装置

Also Published As

Publication number Publication date
JP2018067127A (ja) 2018-04-26

Similar Documents

Publication Publication Date Title
US9117281B2 (en) Surface segmentation from RGB and depth images
US11715265B2 (en) Floorplan generation based on room scanning
US8971612B2 (en) Learning image processing tasks from scene reconstructions
CN110807350B (zh) 用于面向扫描匹配的视觉slam的系统和方法
US9412040B2 (en) Method for extracting planes from 3D point cloud sensor data
US9811714B2 (en) Building datum extraction from laser scanning data
JP5465128B2 (ja) 点群位置データ処理装置、点群位置データ処理システム、点群位置データ処理方法、および点群位置データ処理プログラム
JP5343042B2 (ja) 点群データ処理装置および点群データ処理プログラム
EP2671384B1 (en) Mobile camera localization using depth maps
US20140241612A1 (en) Real time stereo matching
Alidoost et al. An image-based technique for 3D building reconstruction using multi-view UAV images
JP6054831B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
Biswas et al. Planar polygon extraction and merging from depth images
US20170109932A1 (en) Content projection apparatus, content projection method, and computer readable storage medium
GB2562037A (en) Three-dimensional scene reconstruction
US11763478B1 (en) Scan-based measurements
JP6758152B2 (ja) 監視用画像処理装置および監視装置
CN113140032A (zh) 基于房间扫描的平面图生成
US11816854B2 (en) Image processing apparatus and image processing method
CN112509126A (zh) 三维物体检测的方法、装置、设备及存储介质
US10410331B2 (en) Computed tomography object inspection system
CN110291557B (zh) 监视装置
JP2015049192A (ja) 水中移動体の位置検知装置
JP6230923B2 (ja) 水中移動体の位置検知装置及び位置検知方法
CN112819805B (zh) 一种基于一字激光的物体位置识别方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190606

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200804

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200901

R150 Certificate of patent or registration of utility model

Ref document number: 6758152

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250