JP2020101373A - 測距装置を有する物体監視システム - Google Patents

測距装置を有する物体監視システム Download PDF

Info

Publication number
JP2020101373A
JP2020101373A JP2018237734A JP2018237734A JP2020101373A JP 2020101373 A JP2020101373 A JP 2020101373A JP 2018237734 A JP2018237734 A JP 2018237734A JP 2018237734 A JP2018237734 A JP 2018237734A JP 2020101373 A JP2020101373 A JP 2020101373A
Authority
JP
Japan
Prior art keywords
image
determination
distance
distance measurement
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018237734A
Other languages
English (en)
Other versions
JP6912449B2 (ja
Inventor
中村 稔
Minoru Nakamura
稔 中村
祐輝 高橋
Yuki Takahashi
祐輝 高橋
渡邉 淳
Atsushi Watanabe
淳 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Priority to JP2018237734A priority Critical patent/JP6912449B2/ja
Priority to US16/665,166 priority patent/US11567205B2/en
Priority to DE102019008627.9A priority patent/DE102019008627A1/de
Priority to CN201911299576.1A priority patent/CN111343418B/zh
Publication of JP2020101373A publication Critical patent/JP2020101373A/ja
Application granted granted Critical
Publication of JP6912449B2 publication Critical patent/JP6912449B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4817Constructional features, e.g. arrangements of optical elements relating to scanning
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】多重撮像時の種々の問題を解決する物体監視システムを提供する。【解決手段】物体監視システム1は、異なる撮像モードを含む撮像周期を繰返しながら対象空間の距離画像を撮像モード毎に生成する測距装置10と、距離画像が撮像モード毎に生成される度に、対象空間の中に定めた監視領域50内の物体有無を判断するコンピュータ装置20と、を備える。【選択図】図1

Description

本発明は、測距装置を有する物体監視システムに関し、特に多重撮像時の種々の問題を解決する物体監視システムに関する。
物体までの距離を測定する測距装置として、光の飛行時間に基づき距離を出力するTOF(time of flight)カメラが公知である。TOFカメラは、所定周期で強度変調した参照光を対象空間に照射し、参照光と対象空間からの反射光との間の位相差に基づき対象空間の測距値を出力する位相差方式を採用するものが多い。
現状のTOFカメラでは、イメージセンサのダイナミックレンジ不足に起因して特定反射率の物体(例えば白色材、黒色材、再帰反射材等)を所望の測距レンジで1度に撮像できない場合がある。斯かる問題に対処するため、参照光の発光量、露光時間、絞り値、又はこれらの組み合せ等(以下、撮像モードと称する。)を変化させて複数回撮像する手法がある。例えば図10に示すように、露光小の撮像モード♯1、露光中小の撮像モード♯2、露光中大の撮像モード♯3、及び露光大の撮像モード♯4の4種類の撮像モードを設定して複数回撮像することにより、必要なダイナミックレンジを満たすことができる。
異なる撮像モードで複数回撮像した場合、TOFカメラは複数枚の距離画像を出力する。例えば図11に示すように白色円柱、黒色三角柱、及び再帰反射板を背景板の前方に配置して4種類の撮像モードで撮像した場合、図12に示すような4種類の距離画像♯1−♯4が生成される。これら距離画像において、黒は遠すぎるか又は露光不足のため測距不能となった画素であり、白はサチュレーションのため測距不能となった画素であり、グレーは測距可能であった画素である。なお、図中の白並びに黒の破線は、各物体の位置を示すために加えた仮想線である。薄いグレーは測距値が小さく、近い物体を示す画素であり、濃いグレーは測距値が大きく、遠い物体を示す画素である。露光小の距離画像♯1では、再帰反射板のみが測距できており、露光大の距離画像♯4では黒色三角柱の暗い部分のみが測距できていることが分かる。これら4種類の距離画像を合成することにより、所望の距離画像を得ることができる。斯かる多重撮像技術としては、特許文献1が公知であり、TOFカメラを利用した物体検知技術としては、特許文献2が公知である。
特許文献1には、異なる撮像条件で取得した複数の距離画像間において、距離画像内の各画素に対応付けられた受光強度に基づいて、より大きい受光強度を示す画素を抽出し、抽出した画素を複数の距離画像の合成距離画像に用いることが記載されている。
特許文献2には、TOFカメラの露光時間を適宜設定して距離画像を取得すること、及び、検知用距離画像に基づいて検知エリア内のオブジェクトを検出することが記載されている。
特開2017−181488号公報 特表2015−513825号公報
TOFカメラ等の測距装置を利用して監視領域内の物体を距離画像に基づき検知する物体監視システムでは、複数種類の撮像モードで取得した複数枚の距離画像を受光強度に基づき合成すると、後述の問題が発生する。
例えば図13Aに示すように背景に対して低反射率の物体60が左から右へ高速で移動したときにTOFカメラ61が2倍の露光差で2回撮像した場合を考える。このとき、図13Bに示すように露光大の撮像モード♯1では、背景の受光強度が1000、低反射率の物体の受光強度が400、露光小の撮像モード♯2では、背景の受光強度が500であったとする。撮像モード♯1における物体の受光強度400と、撮像モード♯2における同一位置の受光強度500とを比較すると、より大きい受光強度である撮像モード♯2の画素の測距値が採用されて2つの距離画像が合成される。このため、合成距離画像には物体が存在していないことになる。即ち、n倍の露光差があり且つ背景に対して1/n未満の反射率の物体が高速で移動した場合には、合成距離画像において物体が消えてしまうという問題が発生し得る。
他方、安全装置として利用される物体監視システムでは、可能な限り早期に物体を検知することが望ましいが、斯かる距離画像の合成手法では複数種類の撮像が一巡しないと物体有無を判定できないため、物体検知が遅れてしまうという問題もある。同様に、異なる撮像モードで取得した複数枚の距離画像において画素毎に受光強度を参照し、受光強度を比較して合成距離画像を生成する手法は、処理が重く、物体検知が遅れてしまう一因になる。
そこで、多重撮像時の種々の問題を解決する技術が求められている。
本開示の一態様は、異なる撮像モードを含む撮像周期を繰返しながら対象空間の距離画像を撮像モード毎に生成する測距装置と、対象空間の中に定めた監視領域内の物体有無を距離画像に基づき判断するコンピュータ装置と、を備える物体監視システムであって、コンピュータ装置は、距離画像が撮像モード毎に生成される度に、距離画像内の各画素の測距値が有効であるか否か、且つ、測距値が監視領域内であるか否かの判定結果に基づいて監視領域内の物体有無を判断する、物体監視システムを提供する。
本開示の一態様によれば、距離画像が撮像モード毎に生成される度に監視領域内の物体有無を判断するため、物体の見逃しが防止されると共に応答速度が高速化する。ひいては、より安全性の高い物体監視システムを提供できる。
3種類の物体判定手法を実装した物体監視システムのブロック図である。 特定反射率の物体を示す斜視図である。 監視領域に侵入した物体を示す斜視図である。 方式1による物体判定を示す概念図である。 方式1による物体検知信号の一例を示すタイミングチャートである。 方式1の効果を示すタイミングチャートである。 比較例のタイミングチャートである。 方式2による物体判定を示す概念図である。 方式2の効果及び比較例を示す概念図である。 方式3による物体判定を示す概念図である。 4種類の撮像モードを示す概念図である。 特定反射率の物体を示す斜視図である。 異なる撮像モードで取得した被写体の複数の距離画像と、これら距離画像を合成した合成距離画像とを示す概念図である。 背景に対して低い反射率の物体が左から右へ高速で移動する様子を撮像するTOFカメラを示す斜視図である。 露光時間が2倍異なる撮像モードで取得した受光強度画像及び距離画像を示す概念図である。
以下、添付図面を参照して本開示の実施形態を詳細に説明する。各図面において、同一又は類似の構成要素には同一又は類似の符号が付与されている。また、以下に記載する実施形態は、特許請求の範囲に記載される発明の技術的範囲及び用語の意義を限定するものではない。
図1を参照して、多重撮像時の種々の問題を解決する3種類の物体判定手法について説明する。図1は、3種類の物体判定手法(方式1−3)を実装した物体監視システムのブロック図である。以下では、方式1−3における物体監視システムの構成を順次説明する。
<方式1>
物体監視システム1は、測距装置10及びコンピュータ装置20を備えている。測距装置10及びコンピュータ装置20は、有線又は無線のネットワークを介して相互に通信可能に接続されるか、又は、バス接続等により一体化して構成することができる。
測距装置10は、TOFカメラ、レーザスキャナ等で構成される測距装置であり、異なる撮像モードを含む撮像周期を繰返しながら距離画像を撮像モード毎に順次生成する。測距装置10は、入出力部11と、発光撮像制御部12と、照射部13と、受光部14と、A/D変換部15と、距離画像生成部16と、を備えている。
入出力部11は、コンピュータ装置20から測距装置10へ撮像モードや撮像周期等の設定値を入力すると共に、撮像モード毎に生成した距離画像を測距装置10からコンピュータ装置20へ順次出力する。代替実施形態として、撮像モードや撮像周期等の設定値は測距装置10側で入力され、コンピュータ装置20側に出力されてもよい。
撮像モードは、参照光の発光量、露光時間、絞り値、又はこれらの組み合わせ等で構成される。例えば被写体の反射率や外光等の外的因子に応じて、撮像モード♯1:発光量大且つ露光小、撮像モード♯2:発光量大且つ露光中、撮像モード♯3:発光量大且つ露光大というように設定される。
撮像周期は、複数種類の撮像モードを含む1つの周期であり、♯1→♯2→♯3というように異なる撮像モードのみで設定してもよいし、又は、♯1→♯1→♯2→♯4というように同一の撮像モードを含んで設定してもよい。前者では、♯1→♯2→♯3→♯1→♯2→♯3・・・というように撮像周期が繰返され、後者では、♯1→♯1→♯2→♯4→♯1→♯1→♯2→♯4というように撮像周期が繰返される。
発光撮像制御部12は、撮像モード及び撮像周期に基づいて照射部13の発光及び受光部14の撮像を制御する。照射部13は、強度変調した参照光を発光する光源、参照光を対象空間に照射する拡散板又はMEMSミラー等のスキャナ機構を備えている。受光部14は、対象空間からの反射光を集光する集光レンズ、特定波長の参照光のみを透過する光学フィルタ、反射光を受光する受光素子等を備えている。受光部14は、参照光の発光タイミングに対して例えば0°、90°、180°、270°だけ位相をずらした4種類の露光タイミングで受光を繰返し、位相毎に電荷量Q1−Q4を蓄積していく。
A/D変換部15は、受光部14に蓄積された電荷量Q1−Q4を増幅してA/D変換する。この際、サチュレーション又は露光不足の場合には、A/D変換値の代わりに測距不能を示す特異値(例えばサチュレーション:9999、露光不足:9998)を出力する。距離画像生成部16は、参照光と反射光との位相差を電荷量Q1−Q4のA/D変換値に基づき求め、位相差から測距値を算出して距離画像を生成する。位相差Td及び測距値Lの算出式の一例を下記に示す。下記式において、cは光速であり、fは参照光の変調周波数である。なお、測距不能の場合には、測距値の代わりに特異値を含む距離画像が生成される。
本例の測距装置10は精度算出部17をさらに備えていてもよい。精度算出部17は、距離画像内の各画素について電荷量Q1−Q4の関係に基づき測距値の精度を算出し、距離画像に対応した精度画像を順次生成する。精度Pの算出式の一例を下記に示す。下記式において、Dは電荷量Q1、Q3の和と電荷量Q2、Q4の和との差分であり、Iは受光強度であり、hは百分率化等に使用される補正係数であり、eは測距装置10の構造誤差、部品特性、温度特性、経年劣化、環境条件等から見込まれる他の誤差である。誤差の無い理想的な環境では、4種類の露光タイミングの位相関係から差分Dが0となる。従って、受光強度Iに応じて差分Dをスケール調整し、補正係数hにより百分率化すると共に、他の誤差eを加味することにより、測距値の精度Pを算出できる。なお、他の誤差eは実機を用いて実験的に求めることができる。
入出力部11は、撮像モード毎に生成した距離画像に加え、距離画像に対応する精度画像を測距装置10からコンピュータ装置20へ順次出力してもよい。
コンピュータ装置20は、CPU(central processing unit)、RAM(random access memory)、ASIC(application specific integrated circuit)、FPGA(field-programmable gate array)等で構成されるコンピュータ装置であり、対象空間の中に定めた監視領域内の物体有無を距離画像に基づき判断する。コンピュータ装置20は、設定メモリ21と、入出力部22と、有効判定部23と、侵入判定部24と、信号出力部25と、を備えている。
設定メモリ21は、予め設定した撮像モード、撮像周期、測距値の精度閾値、ユーザが予め設定した監視領域等の設定値を記憶している。精度閾値は、距離画像内の各画素の測距値について一律に設定されてもよいし(例えば±2.2%のみ)、又は、距離画像内の特定領域の画素について複数設定されてもよい(例えば領域A:±2.1%、領域B:±3.3%等)。監視領域は、測距装置10の対象空間において測距装置10に対する三次元位置として設定され、距離画像内の各画素が眺望する監視領域の距離範囲テーブル(画素A:1.2m−2.3m、画素B:1.4m−2.4m等)に変換され記憶される。
入出力部22は、撮像モードや撮像周期等の設定値をコンピュータ装置20から測距装置10へ出力すると共に、撮像モード毎に生成された距離画像及び必要に応じて距離画像に対応する精度画像を測距装置10からコンピュータ装置20へ順次入力する。
有効判定部23は、距離画像内の各画素の測距値が有効であるか否かを判定する。測距値の有効とは、測距装置10が測距可能であること(即ち特異値でないこと)、又は、測距値が精度閾値内であること(且つ特異値でもないこと)を意味する。後者の場合には、精度画像内の各画素の精度を精度閾値と比較することにより、測距値が有効か否かを判定する。代替実施形態として、測距装置10が電荷量Q−Qの情報をコンピュータ装置20に出力し、有効判定部23が前述の精度算出部17と同様に各画素の測距値の精度を算出してもよい。
侵入判定部24は、距離画像内の各画素の有効な測距値が監視領域内であるか否かを判定する。具体的には、監視領域の距離範囲テーブルを参照して各画素の有効な測距値が監視領域内か否かが判定される。ここで方式1では、判定結果が1画素でも真である場合に、侵入判定部24が信号出力部25に直接作用して物体検知信号を出力する。物体検知信号は、例えば監視領域に侵入した作業者の安全を考慮して作業者から隔離するロボットや工作機械等の危険源の動力を停止する信号として使用される。
方式1の実施例について説明する。本例では、図2に示すように測距装置の対象空間の中に監視領域50を定め、図3に示すように特定の反射特性を有する物体(背景板43の前方に配置した白色円柱40、黒色三角柱41、及び再帰反射板42)のうち白色円柱40の一部及び黒色三角柱41の一部が監視領域50の中に侵入し続けている場合を想定している。なお、白色材、黒色材、及び再帰反射材は、一般的に作業者の髪や身体、作業着等の素材で想定される種々の反射特性の代表例であり、測距装置として必要なダイナミックレンジの確認用として用いられているものである。
図4に示すように、測距装置が4種類の撮像モード♯1−♯4を含む撮像周期を繰返しながら距離画像♯1−♯4を生成したとする。露光小の距離画像♯1では、再帰反射板42の測距値のみが有効であるが、再帰反射板42の測距値は監視領域50内でないため、距離画像♯1が生成された時点では監視領域50内の物体有無が不明である。露光中小の距離画像♯2では、白色円柱40及び背景板43の測距値が有効であり且つ白色円柱40の測距値が監視領域50内であるため、距離画像♯2が生成された時点で物体検知信号を出力する。
露光中大の距離画像♯3では、白色円柱40の一部、黒色三角柱41の一部、及び背景板43の測距値が有効であり且つ白色円柱40の測距値及び黒色三角柱41の測距値が監視領域50内であるため、距離画像♯3が生成された時点で物体検知信号を出力する。露光大の距離画像♯4では、黒色三角柱41の一部の測距値のみが有効であるが、黒色三角柱41の測距値が監視領域50内でないため、距離画像♯4が生成された時点では監視領域内の物体有無が不明である。
このように方式1では、距離画像♯2又は距離画像♯3が生成された時点で物体検知信号を出力する。従って、方式1は、従来のように受光強度に基づき生成した合成距離画像から物体を検出する場合と比べ、物体の見逃しを防止できる。但し、距離画像♯1、♯4が生成された時点では監視領域内の物体有無が不明であるため、図5に示すように物体検知信号を1周期以上保持する機能か、又は、物体検知信号をユーザがリセットするまでラッチする機能が付加されるのが一般的である。
図6Aは方式1の効果を示すタイミングチャートであり、図6Bは合成処理画像を生成した後に判定処理を行う比較例のタイミングチャートである。ここでは、最悪の応答時間のケースとして撮像モード♯1でしか有効に測距されない物体が撮像モード♯1の直後に監視領域内に侵入した場合を想定している。
方式1においては、撮像モード毎に判定処理を行うため、4×T+α(Tは撮像モード間の時間間隔)の応答速度で物体検知信号を出力する。対照的に、比較例では、合成距離画像を生成した後に判定処理を行うため、2周期後の合成距離画像で初めて物体を検知する。即ち、比較例では、7×T+βの応答速度で物体検知信号を出力することになる。従って、方式1は、比較例と比べて、約3×T分早く物体を検知できる。即ち、方式1の物体判定によれば、最悪の応答速度が高速化する。ロボットや工作機械等の危険源の周囲に設定する監視領域は作業者の移動速度を見込んで決定されるため、応答速度が遅い場合には監視領域をより広く設定する必要があるが、方式1においては応答速度が速いため、監視領域を小さく設定でき、ひいては機器や監視領域のレイアウト設計を容易に行うことができる。この最悪の応答時間は、物体監視システムとして重要な仕様の1つであり、応答速度が高速化することにより安全性且つ利便性の高い物体監視システムを提供できる。
<方式2>
図1を再び参照して、方式2における物体監視システム1の構成を説明する。方式2では、コンピュータ装置20がさらに、第1メモリ26と、侵入判定合成部27と、物体サイズ検出部28と、を備えている。第1メモリ26は、距離画像が撮像モード毎に生成される度に、距離画像内の各画素の有効な測距値が監視領域内であるか否かの判定結果(例えば黒:1:監視領域内に物体有り、白:0:それ以外)を侵入判定画像として記憶する。
侵入判定合成部27は、規定数の侵入判定画像を論理和して侵入判定合成画像を生成する。規定数とは、一般的には必要なダイナミックレンジを満たす複数種類の撮像モード数であるが、これに限定されるものではなく、例えば3種類の撮像モード♯1、♯2、♯4を含む撮像周期が♯1→♯1→♯2→♯4の場合には、4個でもよいし、又は、2周期分、3周期分等の撮像モード数(例えば8個、12個等)でもよい。また、侵入判定合成画像は、一般に侵入判定画像が生成される度に、最新の侵入判定画像を起点に規定数分の侵入判定画像を用いて生成(又は更新)されるが、生成(又は更新)のタイミングや、起点とする侵入判定画像について限定するものではないことに留意されたい。
画素群サイズ検出部28は、距離画像が撮像モード毎に生成される度に、侵入判定合成画像から監視領域内に物体有りを示す画素群の画像上のサイズが規定画素群サイズ以上か否かを判定する。この判定手法によれば、測距装置の距離画像の測距値のバラツキや、埃又は霧といった不必要な小物体による誤検知を低減し、安定した物体判定が可能になる。一般的に用いられる規定画素群サイズとしては、n×n(nは整数)の画素領域があり、侵入判定合成画像内の任意の規定画素群サイズの領域に、画素が全て物体有りを示すものがあるか否かが確認される。侵入判定合成画像から物体有りを示す規定画素群サイズの画素領域があると判定された場合には、画素群サイズ検出部28が信号出力部25に作用して物体検知信号を出力する。例示したn×nの規定画素群サイズは正方形となるが、n×m(mはnと異なる整数)といった長方形でもよく、正方形や長方形の角部の画素を排除した円形に近い形状であっても良く、隣接する画素の集合体であれば、規定画素群サイズとしてあらゆる形状が想定される。一般的に規定画素群サイズの大きさ、形状等は物体監視システムとして検知可能な物体の大きさ、形状等に密接に関連するため、これらを検討の上決定される。
方式2の実施例について説明する。本例では、方式1と同じく、図3に示すように特定反射率の物体のうち白色円柱40の一部及び黒色三角柱41の一部が監視領域50の中に侵入し続けている場合を想定する。このとき、図7に示すように測距装置が4種類の撮像モード♯1−♯4を含む撮像周期を繰返しながら距離画像♯1−♯4及び対応する侵入判定画像♯1−♯4を生成したとする。露光小の侵入判定画像♯1では、再帰反射板42の測距値のみが有効であるが、再帰反射板42の測距値は監視領域50内に無いため、侵入画素(黒:1)が無い。露光中小の侵入判定画像♯2では、白色円柱40及び背景板43の測距値が有効であり且つ白色円柱40の測距値が監視領域50内に有るため、侵入画素(黒:1)が有る。
露光中大の侵入判定画像♯3では、白色円柱40の一部、黒色三角柱41の一部、及び背景板43の測距値が有効であり且つ白色円柱40の測距値及び黒色三角柱41の測距値が監視領域50内であるため、侵入画素(黒:1)が有る。露光大の侵入判定画像♯4では、黒色三角柱41の一部の測距値のみが有効であるが、黒色三角柱41の測距値が監視領域50内でないため、侵入画素(黒:1)が無い。これら侵入判定画像♯1−♯4を論理和して侵入判定合成画像を生成すると、監視領域内に侵入した物体のサイズが確定する。
図8は方式2の効果及び比較例を示す概念図である。ここでは、黒色三角柱41の一部が監視領域内に侵入しており、黒色三角柱41の侵入領域51、52が2種類の侵入判定画像♯3、♯4に分割されている場合を想定している。このとき、侵入領域51、52が2×7の画素領域54、55で構成され、規定画素群サイズが3×3の画素領域53であったとする。距離画像♯3、♯4が生成された時点では、規定画素群サイズを侵入判定画像♯3、♯4から検出できないが、方式2の物体判定によれば、侵入判定画像♯3、♯4を論理和した侵入判定合成画像を生成しているため、監視領域内に侵入した物体のサイズが確定する。即ち、侵入判定合成画像から規定画素群サイズ(3×3の画素領域53)を検出できるため、侵入物体が複数種類の撮像モードの侵入判定画像に分割して検出されるようなケースが発生した場合であっても、侵入物体の見逃しを防止できる。
<方式3>
図1を再び参照して、方式3における物体監視システム1の構成を説明する。方式3では、コンピュータ装置20がさらに、第2メモリ29と、無効判定合成部30と、統合判定合成部31と、を備えている。第2メモリ29は、距離画像が撮像モード毎に生成される度に、距離画像内の各画素の測距値が無効であるか否かの判定結果(例えば黒:1:測距無効画素、白:0:測距有効画素)を無効判定画像として記憶する。
無効判定合成部30は、規定数の無効判定画像を論理積して無効判定合成画像を生成する。規定数や合成対象の無効判定画像については、方式2で説明したものと同一であるため、説明を省略する。
統合判定合成部31は、侵入判定合成画像及び無効判定合成画像を論理和して統合判定合成画像を生成する。物体サイズ検出部28は、距離画像が撮像モード毎に生成される度に、統合判定合成画像から規定画素群サイズを検出する。規定画素群サイズは、方式2で説明したものと同一であるため、説明を省略する。統合判定合成画像から規定画素群サイズを検出した場合には、物体サイズ検出部28が信号出力部25に作用して物体検知信号を出力する。
方式3の実施例について説明する。本例では、方式1と同じく、図3に示すように特定反射率の物体のうち白色円柱40の一部及び黒色三角柱41の一部が監視領域50の中に侵入し続けている場合を想定する。このとき、図9に示すように測距装置が4種類の撮像モード♯1−♯4を含む撮像周期を繰返しながら距離画像♯1−♯4、対応する侵入判定画像♯1−♯4、及び対応する無効判定画像♯1−♯4を生成したとする。露光小の無効判定画像♯1では、再帰反射板42以外の領域が測距無効画素(黒:1)である。露光中小の無効判定画像♯2では、白色円柱40及び背景板43以外の領域が測距無効画素(黒:1)である。
露光中大の無効判定画像♯3では、白色円柱40の一部、黒色三角柱41の一部、及び背景板43以外の領域が測距無効画素(黒:1)である。露光大の無効判定画像♯4では、黒色三角柱41の一部以外の領域が測距無効画素(黒:1)である。これら無効判定画像♯1−♯4を論理積して無効判定合成画像を生成すると、本来の測距無効画素が確定する。
方式3の効果について説明する。一般的に物体監視システム1は、監視領域を眺望する画素が測距無効となった場合、安全装置として物体有りとみなして物体検知信号を出力する(即ちフェイルセーフを行う)。しかし、所望のダイナミックレンジを確保するために多重撮像を行うことから、撮像モード毎に取得した個々の距離画像には当然ながら測距無効である画素が多く含まれている場合がある。従って、監視領域を眺望する画素が測距無効だからといって物体検知信号を出力してしまうと、誤検知になる可能性が高く、フェイルセールの本来の効果が実現できない。方式3の物体判定によれば、所望のダイナミックレンジを満たす撮像モード数分の無効判定画像を論理積して無効判定合成画像を生成しているため、無効判定合成画像上の測距無効画素は、撮像周期が一巡しても一度も測距値が有効にならなかった画素を示すことになり、これにより監視領域内の本来の測距無効画素を特定することが可能になる。さらに、侵入判定合成画像と無効判定合成画像とを論理和した統合判定合成画像を生成しているため、例えば、作業者の作業着等において、物体監視システムの仕様として定めた範囲内の反射特性を有する部分と、範囲外の反射特性を有する部分とがあって、侵入判定合成画像と無効判定合成画像とに夫々分割して出現する場合であっても、1つの物体(作業着)として規定画素群サイズの検出が可能になる。即ち、監視領域内への物体侵入状況と測距無効状況とを正しく検出し、測距無効が発生した場合であっても、物体有りとみなして1つの物体検知信号でロボットや工作機械等の危険源を安全サイドに制御することが可能になる。
<方式3’>
図1を再び参照して、方式3の変形例である方式3’について説明する。方式3’では、コンピュータ装置20がさらに無効画素群サイズ判定部32を備えている。無効画素群サイズ判定部32は、無効判定合成画像から測距無効を示す画素群の画像上のサイズが規定無効画素群サイズ(例えば1画素や2×2の画素領域)以上か否かを判定する。規定無効画素群サイズの画素領域があると判定された場合には、無効画素群サイズ判定部32が信号出力部25に作用して無効検出信号を出力する。規定無効画素群サイズは、前述の規定画素群サイズと同様に、あらゆる形状が想定されるが、規定画素群サイズより小さいサイズとすることにより、監視領域に対する物体検知には至らないまでも測距無効が検出されていることを通知できる。これにより物体監視システムの使用者は、測距無効となる原因の除去等の方策を実施することができる。
前述したコンピュータ装置20の構成要素は、CPU等で実行されるプログラムとして構成されてもよい。斯かるプログラムは、コンピュータ読取り可能な非一時的記録媒体、例えばCD−ROM等に記録して提供できる。
本明細書において種々の実施形態について説明したが、本発明は、前述した実施形態に限定されるものではなく、以下の特許請求の範囲に記載された範囲内において種々の変更を行えることを認識されたい。
1 物体監視システム
10 測距装置
11 入出力部
12 発光撮像制御部
13 照射部
14 受光部
15 A/D変換部
16 距離画像生成部
17 精度算出部
20 コンピュータ装置
21 設定メモリ
22 入出力部
23 有効判定部
24 侵入判定部
25 信号出力部
26 第1メモリ
27 侵入判定合成部
28 物体サイズ検出部
29 第2メモリ
30 無効判定合成部
31 統合判定合成部
32 無効画素群サイズ判定部
40 白色円柱
41 黒色三角柱
42 再帰反射板
43 背景板
50 監視領域
51、52 黒色三角柱の侵入領域
53 3×3の画素領域
54、55 2×7の画素領域
60 低反射率の物体
61 TOFカメラ

Claims (9)

  1. 異なる撮像モードを含む撮像周期を繰返しながら対象空間の距離画像を前記撮像モード毎に生成する測距装置と、前記対象空間の中に定めた監視領域内の物体有無を前記距離画像に基づき判断するコンピュータ装置と、を備える物体監視システムであって、
    前記コンピュータ装置は、前記距離画像が前記撮像モード毎に生成される度に、前記距離画像内の各画素の測距値が有効であるか否か、且つ、前記測距値が前記監視領域内であるか否かの判定結果に基づいて前記監視領域内の物体有無を判断することを特徴とする物体監視システム。
  2. 前記コンピュータ装置は、前記判定結果が1画素でも真である場合に、前記監視領域内に物体が有ると判断する、請求項1に記載の物体監視システム。
  3. 前記コンピュータ装置は、前記判定結果を侵入判定画像として記憶し、規定数の前記侵入判定画像を合成した侵入判定合成画像に基づいて前記監視領域内の物体有無を判断する、請求項1に記載の物体監視システム。
  4. 前記コンピュータ装置はさらに、前記距離画像内の各画素の測距値が無効であるか否かの判定結果を無効判定画像として記憶し、規定数の前記無効判定画像を合成した無効判定合成画像に基づいて前記監視領域内の測距無効を判断する、請求項3に記載の物体監視システム。
  5. 前記コンピュータ装置は、前記判定結果を侵入判定画像として記憶して規定数の前記侵入判定画像を合成した侵入判定合成画像を生成し、前記距離画像内の各画素の測距値が無効であるか否かの判定結果を無効判定画像として記憶して規定数の前記無効判定画像を合成した無効判定合成画像を生成すると共に、前記侵入判定合成画像及び前記無効判定合成画像を合成した統合判定合成画像に基づいて前記監視領域内の物体有無を判断する、請求項1に記載の物体監視システム。
  6. 前記規定数は前記撮像モード数である、請求項3から5のいずれか一項に記載の物体監視システム。
  7. 前記コンピュータ装置は、規定画素群サイズを前記侵入判定合成画像又は前記統合判定合成画像から検出した場合に、前記監視領域内に物体が有ると判断する、請求項5に記載の物体監視システム。
  8. 前記コンピュータ装置は、前記無効判定合成画像から規定無効画素群サイズを検出した場合に、無効検出信号を出力する、請求項4、5、又は7に記載の物体監視システム。
  9. 前記測距値の有効とは、前記測距装置が測距可能であること、又は、前記測距値が精度閾値内であることを意味する、請求項1から8のいずれか一項に記載の物体監視システム。
JP2018237734A 2018-12-19 2018-12-19 測距装置を有する物体監視システム Active JP6912449B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018237734A JP6912449B2 (ja) 2018-12-19 2018-12-19 測距装置を有する物体監視システム
US16/665,166 US11567205B2 (en) 2018-12-19 2019-10-28 Object monitoring system including distance measuring device
DE102019008627.9A DE102019008627A1 (de) 2018-12-19 2019-12-12 Objektüberwachungssystem mit Entfernungsmessgerät
CN201911299576.1A CN111343418B (zh) 2018-12-19 2019-12-17 具有测距装置的物体监视系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018237734A JP6912449B2 (ja) 2018-12-19 2018-12-19 測距装置を有する物体監視システム

Publications (2)

Publication Number Publication Date
JP2020101373A true JP2020101373A (ja) 2020-07-02
JP6912449B2 JP6912449B2 (ja) 2021-08-04

Family

ID=70969846

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018237734A Active JP6912449B2 (ja) 2018-12-19 2018-12-19 測距装置を有する物体監視システム

Country Status (4)

Country Link
US (1) US11567205B2 (ja)
JP (1) JP6912449B2 (ja)
CN (1) CN111343418B (ja)
DE (1) DE102019008627A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102020112430B4 (de) * 2020-05-07 2021-12-23 Sick Ag Kamera und Verfahren zur Erfassung von Objekten

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122507A (ja) * 2005-10-28 2007-05-17 Secom Co Ltd 侵入検知装置
WO2016075885A1 (ja) * 2014-11-11 2016-05-19 パナソニックIpマネジメント株式会社 距離検出装置及び距離検出方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200186751A1 (en) * 2010-02-26 2020-06-11 Optimization Strategies, Llc System and method(s) for processor utilization-based encoding
JP2012085093A (ja) * 2010-10-12 2012-04-26 Panasonic Corp 撮像装置および取得方法
JP5606979B2 (ja) * 2011-03-30 2014-10-15 セコム株式会社 画像監視装置
EP2815251B1 (en) 2012-02-15 2017-03-22 Heptagon Micro Optics Pte. Ltd. Time of flight camera with stripe illumination
WO2014174585A1 (ja) * 2013-04-23 2014-10-30 トヨタ自動車株式会社 車速制御装置
US10063844B2 (en) * 2013-10-17 2018-08-28 Microsoft Technology Licensing, Llc. Determining distances by probabilistic time of flight imaging
WO2015190015A1 (ja) * 2014-06-09 2015-12-17 パナソニックIpマネジメント株式会社 測距装置
JP2017181488A (ja) 2016-03-23 2017-10-05 パナソニックIpマネジメント株式会社 距離画像生成装置、距離画像生成方法及びプログラム
DE102018107801A1 (de) * 2017-04-04 2018-10-04 pmdtechnologies ag Lichtlaufzeitkamera
US11619723B2 (en) * 2019-09-23 2023-04-04 Microsoft Technology Licensing, Llc Multiple-mode frequency sharing for time-of-flight camera

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007122507A (ja) * 2005-10-28 2007-05-17 Secom Co Ltd 侵入検知装置
WO2016075885A1 (ja) * 2014-11-11 2016-05-19 パナソニックIpマネジメント株式会社 距離検出装置及び距離検出方法

Also Published As

Publication number Publication date
US20200200908A1 (en) 2020-06-25
JP6912449B2 (ja) 2021-08-04
CN111343418A (zh) 2020-06-26
US11567205B2 (en) 2023-01-31
CN111343418B (zh) 2024-05-07
DE102019008627A1 (de) 2020-06-25

Similar Documents

Publication Publication Date Title
US8735792B2 (en) Optoelectronic sensor
JP6863342B2 (ja) 光測距装置
JP6241793B2 (ja) 3次元測定装置および3次元測定方法
JP6937735B2 (ja) レーザ測距及び照明
US10928518B2 (en) Range image generation apparatus and range image generation method
WO2019163673A1 (ja) 光測距装置
EP2927710B1 (en) Ranging system, information processing method and program thereof
CA3010997C (en) Passenger counting device, system, method and program, and vehicle movement amount calculation device, method and program
JP2018066609A (ja) 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法
JP2006322853A (ja) 距離計測装置、距離計測方法および距離計測プログラム
JP2015206798A (ja) 距離算出装置
CN110779681A (zh) 检测光学系统异常的测距装置
JP6772639B2 (ja) 視差演算システム、移動体及びプログラム
JP7401211B2 (ja) 外光照度測定機能を備えた測距装置及び外光照度測定方法
JP6912449B2 (ja) 測距装置を有する物体監視システム
JP6920159B2 (ja) 車両の周辺監視装置と周辺監視方法
US20020005956A1 (en) Method and device for measuring three-dimensional position
EP3663801B1 (en) Time of flight sensor module, method, apparatus and computer program for determining distance information based on time of flight sensor data
US20210396876A1 (en) Optical distance measurement apparatus
JP7262064B2 (ja) 測距撮像システム、測距撮像方法、及びプログラム
JP6985872B2 (ja) 車両の周辺監視装置と周辺監視方法
JP2007240276A (ja) 距離計測装置・撮像装置、距離計測方法・撮像方法、距離計測プログラム・撮像プログラムおよび記憶媒体
JP2013164823A (ja) 空間監視方法及び装置。
JP7306840B2 (ja) 測距装置を有する物体監視システム
WO2021059638A1 (ja) 距離測定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200513

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210708

R150 Certificate of patent or registration of utility model

Ref document number: 6912449

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150