JP7201002B2 - 画像処理装置、制御プログラム、および画像処理方法 - Google Patents

画像処理装置、制御プログラム、および画像処理方法 Download PDF

Info

Publication number
JP7201002B2
JP7201002B2 JP2020552957A JP2020552957A JP7201002B2 JP 7201002 B2 JP7201002 B2 JP 7201002B2 JP 2020552957 A JP2020552957 A JP 2020552957A JP 2020552957 A JP2020552957 A JP 2020552957A JP 7201002 B2 JP7201002 B2 JP 7201002B2
Authority
JP
Japan
Prior art keywords
pixel
distance value
point cloud
cloud data
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020552957A
Other languages
English (en)
Other versions
JPWO2020084943A1 (ja
Inventor
将則 吉澤
秀樹 森田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Publication of JPWO2020084943A1 publication Critical patent/JPWO2020084943A1/ja
Application granted granted Critical
Publication of JP7201002B2 publication Critical patent/JP7201002B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/164Centralised systems, e.g. external to vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/04Systems determining the presence of a target
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/50Systems of measurement based on relative movement of target
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4817Constructional features, e.g. arrangements of optical elements relating to scanning
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0116Measuring and analyzing of parameters relative to traffic conditions based on the source of data from roadside infrastructure, e.g. beacons
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • G08G1/0133Traffic data processing for classifying traffic situation
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0137Measuring and analyzing of parameters relative to traffic conditions for specific applications
    • G08G1/0141Measuring and analyzing of parameters relative to traffic conditions for specific applications for traffic information dissemination
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/015Detecting movement of traffic to be counted or controlled with provision for distinguishing between two or more types of vehicles, e.g. between motor-cars and cycles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/04Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、画像処理装置、制御プログラム、および画像処理方法に関する。
近年、測定空間内の侵入者や車両を検出する目的で、レーザーレーダーなどのToF(Time of Flight)方式を用いた測定器で検出した測距点群データ(距離画像)の中から物体を検出する物体検出システムが使用されている。ここで、測距点群データとは、2次元座標に物体までの距離値をマッピングしたものである。測距点群データから移動体を含む画素を抽出する方法としては、特許文献1にも記載されるように、計測結果である測距点群データと予め取得しておいた背景画像(つまり、移動体が存在しない状態の測距点群データ)とを比較して距離に差がある画素を抽出する方法が知られている。
ところで、レーザーレーダーは、照射したレーザー光が対象物で反射され受光部に戻ってくるまでの時間を計測することにより対象物までの距離値を取得している。そのため、対象物が鏡面であることで全反射する場合や、物体表面が黒色であること等により吸収成分が多かったりする場合は、受光部にレーザー光が十分に戻ってこず、対象物までの距離値を取得することができない。例えば、雨が降ることにより道路表面にできた水たまりや、光沢のある黒色の車両では、十分な反射光量が得られずに距離値を取得できない。
特許文献2では、照射したレーザー光の反射光量が得られない照射角度を抽出し、その照射角度には、黒い車両等の移動物体が存在すると判断する物体検出ユニットが開示されている。また、この特許文献2では、さらに、踏切を跨ぐ横断路の四隅に、複数の物体検出ユニットを互いの検知領域が重複するように配置する構成も開示されており、この構成では、それぞれの物体検出ユニットから得られた検出結果を突き合わせることで、移動物体の形状を推定している。
特開2005-300259号公報 特開2007-126025号公報
しかしながら、特許文献2では、黒い車両等が存在する方向(照射角度)を得ることはできるが、その物体までの距離値や形状を得ることはできない。距離値や形状を得るためには、横断道路の4隅に配置した複数の物体検出ユニットからの検出結果を突き合わせる必要があり、特定の場所にしか適用できず、また、装置が大がかりになる。
本発明は、上記事情に鑑みてなされたものであり、黒い車両などの反射波が得られない物体であっても、精度よくその物体までの距離値を検知できる画像処理装置を提供することを目的とする。
本発明の上記目的は、下記の手段によって達成される。
(1)測定器から複数の方位に向けた送信波を、測定空間に向けて照射してから、該送信波の対象物からの反射波を受信するまでの時間間隔に基づいて算出した距離値の分布を示す複数の画素で構成された測距点群データを取得する取得部と、
前記測距点群データに基づいて生成した基準背景データを記憶する記憶部と、
画素判定部と、
を備え、
前記測距点群データの画素は、前記送信波を送信した方向からの前記反射波に基づいて距離値を取得できない場合に、識別可能な共通の識別子が埋め込まれており、
前記画素判定部は、前記取得部から取得した前記測距点群データの各画素に対して、
条件(i):画素の距離値が、前記距離値が得られないことを示す前記識別子であり、
条件(ii):判定処理の対象となる画素に対応する前記基準背景データの距離値が前記識別子ではない、および、
条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する前記基準背景データの距離値よりも小さい、
を判定する判定処理を行い、前記条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換する、画像処理装置。
(2)前記基準背景データと、前記画素判定部が前記置換の処理を行った測距点群データを用いて、物体検知を行う物体判定部を、備える上記(1)に記載の画像処理装置。
(3)前記条件(iii)の判定に用いる隣接画素の距離値は、前記隣接画素に対する前記判定処理によって置換処理を行った後の距離値を用いる、上記(1)、または上記(2)に記載の画像処理装置。
(4)前記取得部は、時系列に並んだ、複数の前記測距点群データを取得し、
前記画素判定部は、さらに、
条件(iv):時間的に前の前記測距点群データにおいて、判定の対象となる前記画素に対応する画素が前記識別子ではない、を判定し、
前記条件(i)から(iv)を全て満たす場合に、判定対象となる前記画素を前記所定の距離値に置換する、上記(1)から上記(3)のいずれかに記載の画像処理装置。
(5)前記画素判定部は、前記条件(iv)の時間的に前の前記測距点群データとして、判定を行う前記測距点群データから所定時間以内の前記測距点群データを用いる、上記(4)に記載の画像処理装置。
(6)前記画素判定部は、置換する前記所定の距離値として、判定の対象となる前記画素に隣接する画素の距離値、または、判定の対象となる前記画素から所定範囲内にある周辺の画素の距離値を用いる、上記(1)から上記(5)のいずれかに記載の画像処理装置。
(7)前記記憶部には、前記測距点群データの各画素の処理の履歴情報が記憶されており、
前記履歴情報には、少なくとも、前記置換の処理を行った置換画素であることを示す情報が含まれる、上記(1)から上記(6)のいずれかに記載の画像処理装置。
(8)さらに、前記画素判定部が前記置換の処理を行った置換後の前記測距点群データを表示させる出力部、を有し、
前記出力部の表示においては、前記履歴情報を参照することで前記置換画素を、他の画素と識別できる態様で表示されている、上記(7)に記載の画像処理装置。
(9)前記物体判定部は、前記測定空間内に設定した所定エリアへの物体の進入判定、前記所定エリアを通過する前記物体のカウント、および物体の移動軌跡の判定、の少なくとも1つを行う、上記(2)に記載の画像処理装置。
(10)前記測定器は、前記送信波としてレーザー光を照射するライダーである、上記(1)から上記(9)のいずれかに記載の画像処理装置。
(11)対象物までの距離値の分布を示す測距点群データを用いた画像処理を行い、前記測距点群データに基づいて生成した基準背景データを記憶する記憶部を備える画像処理装置を制御するコンピューターで実行される制御プログラムであって、
測定器から複数の方位に向けた送信波を、測定空間に向けて照射してから、該送信波の対象物からの反射波を受信するまでの時間間隔に基づいて算出した距離値の分布を示す複数の画素で構成された測距点群データを取得するステップ(a)と、
前記ステップ(a)で取得した前記測距点群データの画素は、前記送信波を送信した方向からの前記反射波に基づいて距離値を取得できない場合に、識別可能な共通の識別子が埋め込まれており、前記測距点群データの各画素に対して、
条件(i):画素の距離値が、前記距離値が得られないことを示す前記識別子であり、
条件(ii):判定の対象となる画素に対応する前記基準背景データの距離値が前記識別子ではない、
条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する前記基準背景データの距離値よりも小さい、
を判定する判定処理を行うステップ(b)と、
前記ステップ(b)で、前記条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換するステップ(c)と、
を含む処理を前記コンピューターに実行させるための制御プログラム。
(12)前記処理は、さらに、
前記基準背景データと、前記ステップ(c)で、前記置換の処理を行った測距点群データを用いて、物体検知を行うステップ(d)を含む、上記(11)に記載の制御プログラム。
(13)前記ステップ(b)の前記条件(iii)の判定に用いる隣接画素の距離値は、前記隣接画素に対する前記判定処理によって置換処理を行った後の距離値を用いる、上記(11)、または上記(12)に記載の制御プログラム。
(14)前記ステップ(a)では、時系列に並んだ、複数の前記測距点群データを取得し、
前記ステップ(b)では、さらに、
条件(iv):時間的に前の前記測距点群データにおいて、判定の対象となる前記画素に対応する画素が前記識別子ではない、を判定し、
前記ステップ(c)では、前記条件(i)から(iv)を全て満たす場合に、判定対象となる前記画素を前記所定の距離値に置換する、上記(11)から上記(13)のいずれかに記載の制御プログラム。
(15)前記ステップ(b)の前記条件(iv)の時間的に前の前記測距点群データとして、判定を行う前記測距点群データから所定時間以内の前記測距点群データを用いる、上記(14)に記載の制御プログラム。
(16)前記ステップ(c)では、置換する前記所定の距離値として、判定の対象となる前記画素に隣接する画素の距離値、または、判定の対象となる前記画素から所定範囲内にある周辺の画素の距離値を用いる、上記(11)から上記(15)のいずれかに記載の制御プログラム。
(17)前記処理は、さらに、少なくとも、前記ステップ(c)で前記置換の処理を行った置換画素であることを示す情報を含む履歴情報を、前記記憶部に記憶するステップ(e)を含む、上記(11)から上記(16)のいずれかに記載の制御プログラム。
(18)前記処理は、さらに、前記ステップ(c)で前記置換の処理を行った置換後の前記測距点群データを表示させるステップ(f)、を含み、
前記ステップ(f)の表示においては、前記履歴情報を参照することで前記置換画素を、他の画素と識別できる態様で表示されている、上記(17)に記載の制御プログラム。
(19)前記処理は、前記ステップ(d)で検知した物体に対して、さらに、前記測定空間内に設定した所定エリアへの物体の進入の判定、前記所定エリアを通過する前記物体のカウント、および物体の移動軌跡の判定、の少なくとも1つを行う、ステップ(g)を含む、上記(12)に記載の制御プログラム。
(20)対象物までの距離値の分布を示す測距点群データを用いた画像処理を行い、前記測距点群データに基づいて生成した基準背景データを記憶する記憶部を備える画像処理装置で実行される画像処理方法であって、
測定器から複数の方位に向けた送信波を、測定空間に向けて照射してから、該送信波の対象物からの反射波を受信するまでの時間間隔に基づいて算出した距離値の分布を示す複数の画素で構成された測距点群データを取得するステップ(a)と、
前記ステップ(a)で取得した前記測距点群データの画素は、前記送信波を送信した方向からの前記反射波に基づいて距離値を取得できない場合に、識別可能な共通の識別子が埋め込まれており、前記測距点群データの各画素に対して、
条件(i):画素の距離値が、前記距離値が得られないことを示す前記識別子であり、
条件(ii):判定の対象となる画素に対応する前記基準背景データの距離値が前記識別子ではない、
条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する前記基準背景データの距離値よりも小さい、
を判定する判定処理を行うステップ(b)と、
前記ステップ(b)で、前記条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換するステップ(c)と、
を含む画像処理方法。
本発明によれば、送信波を、測定空間に向けて照射してから、該送信波の対象物からの反射波を受信するまでの時間間隔に基づいて算出した距離値の分布を示す複数の画素で構成された測距点群データの各画素に対して、条件(i):画素の距離値が、距離値が得られないことを示す識別子であり、条件(ii):判定処理の対象となる画素に対応する基準背景データの距離値が識別子ではない、および、条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する基準背景データの距離値よりも小さい、を判定する判定処理を行い、条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換する。このようにすることで、距離値が得られない画素を、所定の距離値に置換することで、識別子の距離値を示す画素が、物体の一部であることを識別できる。これにより、物体検知の精度を向上できる。
本実施形態に係る画像処理装置を備えた物体検出システムの構成を示すブロック図である。 ライダーの概略構成を示す断面図である。 車両が通行する道路上が測定空間となるようにライダーを配置した状態を示す模式図である。 ライダーによって測定空間内を走査する状態を示す模式図である。 画素の判定条件と判定結果を示すテーブルである。 第1の実施形態における画像処理を示すフローチャートである。 図6のステップS11の画素置換処理を示すサブルーチンフローチャートである。 図7Aに続く処理を示すサブルーチンフローチャートである。 測距点群データの構造、および画素の処理順序を示す模式図である。 置換画素を区別して表示したディスプレイへの表示例である。 第2の実施形態における画像処理でのサブルーチンフローチャートである。 第2の実施形態における画素の判定条件と判定結果を示すテーブルである。
以下、添付した図面を参照して、本発明の実施形態を説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。また、図面の寸法比率は、説明の都合上誇張されており、実際の比率とは異なる場合がある。
図1は、物体検出システム10の主要構成を示すブロック図である。物体検出システム10は、測定器100、画像処理装置200、およびディスプレイ300を備える。測定器100は、ToF方式により、物体までの距離を測定する。より具体的には、複数の方位に向けた送信波を、測定空間に向けて照射してから、この送信波の対象物からの反射波を受信するまでの時間間隔により各方位における物体までの距離を測定する。測定器100は、例えば、赤外線(800~1000nm程度)のレーザー光を用いたライダー110(LiDAR:Light Detection and Ranging)を有する。ライダー110を用いることで、高い分解能で物体までの距離を測定できる。なお、ライダー110に換えてミリ波の送信波を用いたミリ波レーダーを適用してもよい。ディスプレイ300は、液晶ディスプレイであり、測距点群データに基づく画像を表示する(後述する)。なお、ディスプレイ300とともにスピーカーを備え、アラートが発生した場合に警告音等の音声を出力するようにしてもよい。
以下の説明では、最初に、ライダー110を適用した測定器100について説明し、画像処理装置200についての説明は後述する。
(測定器100)
以下、図2から図4を参照し、測定器100のライダー110の構成について説明する。図2は、ライダー110の概略構成を示す断面図である。図3は、道路上が測定空間となるようにライダーを配置した状態を示す模式図である。図4は、ライダー110によって測定空間内を走査する状態を示す模式図である。
図2に示すようにライダー110は、投受光ユニット111を有する。投受光ユニット111は、半導体レーザー51、コリメートレンズ52、ミラーユニット53、レンズ54、フォトダイオード55、およびモーター56、ならびにこれらの各構成部材を収容する筐体57を有する。筐体57内には、画像処理装置200の測距点群データ取得部221が配置されている。投受光ユニット111は、レーザースポット光によりライダー110の測定空間内を走査することで得られた各画素の受光信号を出力する。測距点群データ取得部221は、この受光信号に基づいて、測距点群データを生成する。この測距点群データは距離画像、または距離マップとも称される。
半導体レーザー51は、パルス状のレーザー光束を出射する。コリメートレンズ52は、半導体レーザー51からの発散光を平行光に変換する。ミラーユニット53は、コリメートレンズ52で平行とされたレーザー光を、回転するミラー面により測定領域に向かって走査投光するとともに、対象物からの反射光を反射させる。レンズ54は、ミラーユニット53で反射された対象物からの反射光を集光する。フォトダイオード55は、レンズ54により集光された光を受光し、Y方向に並んだ複数の画素を有する。モーター56はミラーユニット53を回転駆動する。
測距点群データ取得部221は、測定器100の動作を制御し、所定周期(例えば、数~20Hz)で連続したフレーム(測距点群データ)を生成させる。測距点群データ取得部221は、測定器100の半導体レーザー51の出射タイミングと、フォトダイオード55の受光タイミングとの時間間隔(時間差)に基づいて距離情報(距離値)を求める。測距点群データ取得部221は、CPU(Central Processing Unit)とメモリで構成され、メモリに記憶しているプログラムを実行することにより各種の処理を実行することによって測距点群データを求めるが、測距点群データ生成用の専用ハードウェア回路を備えてもよい。また、測距点群データ取得部221は、後述する画像処理装置200の筐体内部に組み込まれ、ハードウェア的に統合されてもよい。なお、他の実施形態として、測距点群データ取得部221は、単に入出力機能のみを担い、ライダー110が生成した測距点群データを取得するようにしてもよい。
本実施形態において、半導体レーザー51とコリメートレンズ52とで出射部501を構成し、レンズ54とフォトダイオード55とで受光部502を構成する。出射部501、受光部502の光軸は、ミラーユニット53の回転軸530に対して直交していることが好ましい。
剛体である柱62等に固定して設置されたボックス状の筐体57は、上壁57aと、これに対向する下壁57bと、上壁57aと下壁57bとを連結する側壁57cとを有する。側壁57cの一部に開口57dが形成され、開口57dには透明板58が取り付けられている。
ミラーユニット53は、2つの四角錐を逆向きに接合して一体化した形状を有し、すなわち対になって向き合う方向に傾いたミラー面531a、531bを4対(但し4対に限られない)有している。ミラー面531a、531bは、ミラーユニットの形状をした樹脂素材(例えばPC(ポリカーボネート))の表面に、反射膜を蒸着することにより形成されていることが好ましい。
ミラーユニット53は、筐体57に固定されたモーター56の軸56aに連結され、回転駆動されるようになっている。本実施形態では、例えば、柱62に設置された状態で、軸56aの軸線(回転軸線)が鉛直方向であるY方向に延在しており、Y方向に直交するX方向およびZ方向によりなすXZ平面が水平面となっているが、軸56aの軸線を鉛直方向に対して傾けてもよい。
次に、ライダー110の対象物検出原理について説明する。図2において、半導体レーザー51からパルス状に間欠的に出射された発散光は、コリメートレンズ52で平行光束に変換され、回転するミラーユニット53の第1ミラー面531aに入射する。その後、第1ミラー面531aで反射され、さらに第2ミラー面531bで反射した後、透明板58を透過して外部の測定空間に向けて、例えば複数のレーザー光の束で全体として縦長の矩形断面を持つレーザースポット光(図4)として走査投光される。なお、レーザースポット光が出射される方向と、出射されたレーザースポット光が対象物で反射し、反射光として戻ってくる方向は重複し、この重複する2方向を投受光方向という。同一の投受光方向に進行するレーザースポット光は、同一の画素で検出される。
図3は、車両が通行する道路61上が測定空間60となるようにライダー110を配置した状態を示す模式図である。ライダー110は柱62の上部に、道路61に向けて配置されている。測定空間60内の道路61上には、物体(動体)81、82が存在する。同図の例では、物体81は車両(普通乗用車)であり、物体82は歩行者である。
図4は、ミラーユニット53の回転に応じて、出射するレーザースポット光500(ハッチングで示す)で、図3に示したような測定空間60内を走査する状態を示す図である。投受光ユニット111は、天地逆に配置されており、右下の原点Oを走査開始点として、左上に向けて順次走査を行う。ここで、ミラーユニット53の対のミラー(第1ミラー面531aと第2ミラー面531b)の組み合わせにおいて、4対はそれぞれ交差角が異なっている。レーザー光は、回転する第1ミラー面531aと第2ミラー面531bにて、順次反射される。まず1番対の第1ミラー面531aと第2ミラー面531bにて反射したレーザー光は、ミラーユニット53の回転に応じて、測定空間の一番下の領域Ln1を水平方向(「主走査方向」ともいう)に右から左へと走査される。次に、2番対の第1ミラー面531aと第2ミラー面531bで反射したレーザー光は、ミラーユニット53の回転に応じて、測定空間の下から2番目の領域Ln2を水平方向に右から左へと走査される。次に、3番対の第1ミラー面531aと第2ミラー面531bで反射したレーザー光は、ミラーユニット53の回転に応じて、測定空間の下から3番目の領域Ln3を水平方向に右から左へと走査される。次に、4番対の第1ミラー面531aと第2ミラー面で反射したレーザー光は、ミラーユニット53の回転に応じて、測定空間の最も上の領域Ln4を水平方向に右から左へと走査される。これによりライダー110が測定可能な測定空間全体の1回の走査が完了する。この領域Ln1~Ln4の走査により得られた画像を組み合わせて、1つのフレーム900が得られる。そして、ミラーユニット53が1回転した後、再び1番対の第1ミラー面531aと第2ミラー面531bに戻り、以降は測定空間の一番下の領域Ln1から最も上の領域Ln4までの走査(この上下方向を「副走査方向」ともいう)を繰り返し次のフレーム900が得られる。
図2において、走査投光された光束のうち対象物に当たって反射したレーザー光の一部は、再び透明板58を透過して筐体57内のミラーユニット53の第2ミラー面531bに入射し、ここで反射される。その後、このレーザー光はさらに第1ミラー面531aで反射されて、レンズ54により集光され、それぞれフォトダイオード55の受光面で画素毎に検知される。さらに、測距点群データ取得部221が、半導体レーザー51の出射タイミングとフォトダイオード55の受光タイミングとの時間差に応じて距離情報を求める。これにより測定空間60内の全領域で対象物の検出を行って、画素毎に距離情報を持つ測距点群データとしてのフレームを得ることができる。また、ユーザーの指示により、予め測定し、得られた測距点群データは、基準背景データとして、画像処理装置200のメモリ(後述の記憶部210)に記憶される。
(物体検出システム10の画像処理装置200)
再び、図1を参照し、画像処理装置200の各構成について説明する。画像処理装置200は、例えば、コンピューターであり、CPU(Central Processing Unit)、メモリ(半導体メモリ、磁気記録媒体(ハードディスク等))、入出力部(ディスプレイ、キーボード、等)、通信I/F(interface)等を備える。通信I/Fは、外部機器と通信するためのインターフェースである。通信には、イーサネット(登録商標)、SATA、PCI Express、USB、IEEE1394などの規格によるネットワークインターフェースが用いてもよい。また、通信には、Bluetooth(登録商標)、IEEE802.11、4Gなどの無線通信インターフェースを用いてもよい。
画像処理装置200は、図1に示すように、記憶部210、および処理部220を有する。この処理部220は、測距点群データ取得部221、画素判定部222、物体判定部223、および出力部224を有する。
(記憶部210)
記憶部210は、半導体メモリ、および磁気記録媒体(ハードディスク等)で構成され、1フレーム分の基準背景データ、および複数フレーム分の前の時間の履歴情報データ、または測距点群データを記憶する。
基準背景データの生成方法について説明する。測定の前準備(前処理)として、ユーザーの指示により、車両や動物等の移動物体が存在しない状態で、ライダー110からレーザースポット光を走査する。これにより背景対象物(静止物)から得られた反射光に基づいて、基準背景データを生成できる。また、所定期間中に得られた複数のフレームによって得られた各画素の距離値のうち最も小さい値を当該画素の最大距離値とする。そして、この最大距離値が、基準背景データの画素の距離値よりも大きい場合には、この最大距離値で基準背景データを更新するようにしてもよい。
履歴情報データは、後述する、画素判定部222により1フレーム(測距点群データ)の各画素を判定(分類)し、判定結果を履歴情報データとして、フレーム単位で記憶部210に記憶する。履歴情報データは、少なくとも直前の1フレーム分あればよく、過去1フレーム分の測距点群データが取得され、この画素の判定をする度に、最新のデータに更新されてゆく。
(処理部220)
(測距点群データ取得部221)
測距点群データ取得部221の機能については、上述したとおりである。測距点群データ取得部221は、測定時に、制御信号を出力し、ライダー110の投受光ユニット111により、複数の照射方向に向けた送信波を、測定空間60に渡って照射させ、測定空間60内の物体(対象物)からの送信波の反射波に応じた受信信号を取得する。そして、この受信信号の受信タイミング(送受信の時間間隔)に応じて複数の照射方向における、それぞれの距離情報を得る。そしてこれにより、測距点群データを生成する。
また、この測距点群データは、測定できない画素には、そのことを示す識別子が埋め込まれている。具体的には、物体までの距離が非常に遠い(「無限遠」ともいう)場合や、表面が鏡面、もしくは光沢な黒色等であることにより十分な量(光量)の(十分なエネルギーの)反射波を検知できず、距離値が得られなかった画素については、距離値として距離値が得られなかったことを示す共通の識別子(「タグ値」ともいう)が埋め込まれている。以下、このような識別子が埋め込まれている画素を、単に「無限遠」または「無限遠画素」ともいう。各画素の距離値を2バイトで表現するような場合、この距離値が得られないことを示す識別子としては最大値「FFFF」を用いる。
(画素判定部222)
画素判定部222は、測距点群データ取得部221が取得した測距点群データの各画素について、その種類を判定し、判定結果に応じて、隣接または周辺の画素の距離値に置換する。具体的には、画素判定部222は、測距点群データの各画素について、背景画像データ、または、背景画像データとともに時間的に前のフレームの測距点群データを参照する。そして、測距点群データを構成する画素それぞれを判定対象の画素とし、下記の(1)背景画素、(2)前景画素、(3)無限遠背景画素、(4)置換画素、(5)置換無し画素のいずれかと判定する。また判定結果は、履歴情報データとして、フレーム単位で記憶部210に記憶する。(1)~(5)の判定条件は下記のとおりである。
(1)「背景画素」は、画素の距離値が、対応する背景画像データの画素の距離値(以下、単に「背景距離値」ともいう)と同等である場合である。また、画素の距離値が、背景距離よりも遠い状態が、所定回数以上(所定時間以上)継続したような場合には、背景画像データの画素を、遠い側の距離値に置き換えることで、逐次、背景画像データの更新をするようにしてもよい。
(2)「前景画素」は、画素の距離値が有限値(無限遠の識別子ではない)で、背景距離値よりも小さい場合である。
(3)「無限遠背景画素」は、背景画素値と、画素の距離値がともに無限遠の識別子の場合である。
(4)「置換画素」は、下記の条件(i)から(iii)を判定し、全てを満たす場合に、置換画素として判定する。
条件(i):画素の距離値が、距離値が得られないことを示す無限遠の識別子であり、
条件(ii):判定処理の対象となる画素に対応する基準背景データの距離値が無限遠の識別子ではない、および、
条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が隣接画素に対応する基準背景データの距離値よりも小さい(すなわち、前景画素である)。また、さらに
条件(iv):時間的に前のフレームの測距点群データにおいて、判定の対象となる画素に対応する画素(の距離値)が識別子(無限遠)ではない、を判定し、条件(i)から(iv)の全てを満たす場合に、置換画素として判定するようにしてもよい(後述の第2の実施形態)。
なお、この時間的に前のフレームとは、1つ前のフレームを用いてもよく、判定の対象となるフレーム(現時点)よりも所定時間以内の範囲内であればいずれか、または複数のフレームを用いてもよい。所定時間以内とすることで、路面が変化した場合に速やかに適用できる。
(5)「置換無し画素」は、条件(iii)を満たさず、それ以外の条件(i)、(ii)を満たす場合である。
図5は、画素の判定条件と判定結果を示すテーブルである。同図において丸数字の1~5は、上記(1)~(5)に対応する。
また、画素判定部222は、(4)「置換画素」に相当すると判定した画素については、隣接する画素のうち前景画素であるいずれかの距離値、またはこれらの距離値の平均値を用い、当該距離値を、置換画素に分類した画素に埋め込む(置換する)処理を行う。例えば、判定の対象となる画素に対して四方に隣接する画素のうち、前景画素である画素の距離値(またはこの平均値)、または、前景画素である四方に隣接する画素のうち原点Oに近い方の画素の距離値(またはこの平均値)を用いて置換する。なお、(4)置換画素の判定条件において、隣接画素における条件(iii)は、この隣接画素の実際の測定値で前景画素となった場合だけでではなく、当該隣接画素における判定結果により(4)「置換画素」と判定され、前景に対応する距離値に置換された場合も含む(再帰的な置換処理)。これらの置換処理の具体例については後述する。なお、隣接画素に限られず、判定画素の周辺画素の距離値を用いてもよい。具体的には、画素判定の対象となる画素から所定の距離(画素数距離)以内の周辺の画素のうち、前景画素の距離値の平均値を用いて置換する。
(物体判定部223)
物体判定部223は、画素判定部222により置換処理を行った測距点群データを用いて測定空間60内の物体を認識する。本実施形態では、例えば背景差分法を採用する。この背景差分法では、予め生成し、記憶部210に保存しておいた背景画像データ(基準背景データともいう)を用いる。
物体判定部223は、動体を認識する機能を有する。物体判定部223は記憶部210に保持している背景画像データと現時点での測距点群データとを比較して、差が生じた場合、車両等の何らかの動体(前景の物体)が測定空間60内に現れたことを認識できる。例えば、背景差分法を用いて、背景画像データと、現時点での測距点群データ(距離画像データ)とを比較することで、前景データを抽出する。そして抽出した前景データの画素(画素群)を、例えば画素の距離値に応じてクラスタに分ける。そして、各クラスタのサイズを算定する。例えば、垂直方向寸法、水平方向寸法、総面積等を算出する。なお、ここでいう「サイズ」は、実寸法であり、見た目上の大きさ(画角、すなわち画素の広がり)とは異なり、対象物までの距離に応じて画素群の塊が判断される。例えば、物体判定部223は算定したサイズが抽出対象の解析対象の動体を特定するための所定のサイズ閾値以下か否か判定する。サイズ閾値は、測定場所や行動解析対象等により任意に設定できる。車両、人を追跡して行動を解析するのであれば、車両、または人の大きさそれぞれの最小値を、クラスタリングする場合のサイズ閾値とすればよい。これにより、落ち葉やビニール袋等のゴミ、または小動物を検知対象から除外できる。特に、本実施形態においては、黒い車両等の検知が難しい車両が測定空間60を通過した場合に、車両のボディの距離を測定できず、無限遠の距離値(識別子)の場合であっても、画素判定部222による置換処理を行える。これにより、隣接の前景画素の距離値で置換されるので、置換後の距離値でクラスタリングすることにより、本来の車両本体の大きさと同等の塊と認識できるので、これらの車両が、ゴミや小動物の検知対象外となることを防げ、正しく認識できる。
また物体判定部223は、測定空間内の所定エリア(例えば道路61上に設定した検知エリア)へ物体の進入判定、この所定エリアを通過する物体のカウント、および物体の移動軌跡の判定の少なくとも1つを行う。また、この各種の判定は、物体の種類を判別し、その判別した種類毎に行うようにしてもよい。例えば、この種別は、人、普通車車両、大型車両(トラック等)、および二輪車がある。この種別判定は、例えば種類毎の特徴(サイズ、形状)が予め画像処理装置200のメモリに記憶されており、この特徴とマッチングすることにより行う。また、この種別判定アルゴリズは公知のアルゴリズムにより事前に機械学習するようにしてもよい。この機械学習は、膨大なデータを用いて、事前に他の高性能なコンピューターで実施し、パラメータを決定する。物体判定部223は、決定したパラメータを用いて、種別を判定する。
(出力部224)
出力部224は、測距点群データによって表示用の画像データを作成し、ディスプレイ300に出力する。また,出力部224は、物体判定部223が行った、物体のカウント値、移動軌跡、進入判定を出力するようにしてもよい。また、進入判定により、アラートを出力するようにしてもよい。アラートの出力には、出力する画像データに警告文を付与したり、スピーカーからの警告音を出力したりすることが含まれる。また、出力部224で、物体判定部223が判定した物体に対して、検知枠を付与するようにしてもよい。さらに、出力部224が出力する画像データにおいては、履歴情報データを参照することで置換画素を、他の画素と識別できる態様で表示するようにしてもよい。
(第1の実施形態における画像処理)
図6~図9を参照し、第1の実施形態に係る画像処理装置200で実行する画像処理について説明する。図6、図7A、図7Bは、画像処理装置200の処理部220で実行する画像処理を示すフローチャートである。なお各フローチャートにおける丸数字1~5(例えばステップS105の丸数字3)は、図5のテーブルの丸数字1~5に対応する(図10、図11の丸数字1~6でも同様)。
(ステップS10)
図6に示すように、最初に、測距点群データ取得部221は、ライダー110により、測定空間60内の測定(走査)を行わせる。測距点群データ取得部221は、ライダー110により得られた受信信号のタイミングから、複数の各照射方向における、それぞれの距離値を得る。そしてこれらにより、各画素(方向)における距離値の分布を表す測距点群データを生成し、出力する。これを所定周期(数十msec)で繰り返すことにより連続したフレームを得る。また、この測距点群データにおいては、黒い車両の車体等で、十分な量の反射光を得られず距離値が得られなかった画素については、距離値として無限遠を表す共通の識別子(例えば「FFFF」)が埋め込まれている。
(ステップS11)
処理部220の画素判定部222は、ステップS10で取得した測距点群データの各画素の置換処理を行う。図7A、図7Bは、ステップS11のサブルーチンフローチャートである。
(ステップS101、S102)
図8に示すように、画素判定部222は、ステップS101、S102で各画素を順次判定対象に設定してループ処理を行う。
図8は、1つのフレームにおける測距点群データの配列の構造、および画素の処理順序を示す模式図である。同図の原点Oは、図4の原点Oに対応し、図8においては、天地方向が逆になっていた図4を元に戻した状態で表している。なお、以下の説明においては、上下左右方向は、図8に示す方向を基準にして説明する。例えば、原点Oは最も上で、最も左の画素という表現になる。
図8に示すように、1フレームの測距点群データは、主走査方向(以下、左右方向ともいう)に0からm-1までm個の画素が並んでおり、副走査方向(以下、上下方向ともいう)に0からn-1までn個の画素が並んでいる。全画素数は、n×m個、例えば数千画素である。なお、記憶部210に記憶されている基準背景データ、および履歴情報データも、図8と同じサイズの配列により構成される。
ステップS101は、ステップS121との間でループ1の処理を行う。ループ1の変数はjで、初期値は0であり、最終値n-1になるまで副走査方向に1つずつインクリメントして、n回処理を繰り返す。
同様に、ステップS102は、ステップS120との間でループ2の処理を行う。ループ2の変数はiで、初期値は0であり、最終値m-1になるまで主走査方向に1つずつインクリメントして、m回処理を繰り返す。なお、以下においては、ループ処理の対象の画素(i,j)を「判定画素」(「判定の対象となる画素」ともいう)という。
(ステップS103)
画素判定部222は、判定画素(i、j)の距離値が無限遠、すなわち識別子であるか否かを判定する。無限遠であれば(YES)処理をステップS104に進め、無限遠でなければ(NO)処理を図7BのステップS111に進める(符号A1)。
(ステップS111)
画素判定部222は、判定画素(i、j)に対応する位置の基準背景データの画素(以下、「基準背景画素(i、j)」という)を比較する。
基準背景画素(i、j)-判定画素(i、j)≦閾値 (1)
具体的には、式(1)を満たすか否かを判定し、満たせば(YES)、処理をステップS112に進め、満たさなければ(NO)、処理をステップS113に進める。この閾値は、測定の誤差レベルを考慮したゼロに近い正の数値である。
(ステップS112)
画素判定部222は、判定画素(i、j)を(1)「背景画素」と判定し、距離値を基準背景画素(i、j)の距離値に置換する。この場合、判定画素(i、j)は、置換前の判定画素(i、j)の距離値は、基準背景画素(i、j)に近い値、または、誤差によりこれよりも少し遠い距離値が検出された場合である。
(ステップS113)
画素判定部222は、判定画素(i、j)を(2)「前景画素」と判定する。この場合、距離値の置換は行わず、測定された距離値をそのまま用いる。
(ステップS104)
図7AのステップS104では、画素判定部222は、判定画素(i,j)に対応する基準背景画素(i、j)の距離値が無限遠でないか否かを判定する。無限遠でなければ(YES)、処理をステップS106に進め、無限遠であれば(NO)、処理をステップS105に進める。
(ステップS105)
この場合、判定画素(i,j)、および対応する基準背景画素(i、j)の距離値がともに無限遠(識別子)であるから、画素判定部222は判定画素(i,j)を(3)「無限遠背景画素」と判定し、置換処理は、行わず距離値は、無限遠のままである。
(ステップS106)
画素判定部222は、判定画素(i、j)に隣接する画素(i、j-1)、画素(i-1、j)の距離値それぞれについて、基準背景画素(i、j-1)、基準背景画素(i-1、j)の距離値よりも小さいか否か、すなわち前景画素であるか否かを判定する。小さければ(YES)処理をステップS108に進め、小さくなければ(NO)、処理をステップS107に進める。なお、判定画素(i、j)に隣接する画素は、図7のような配列においては、上下左右1つずつで計4個ある。本実施形態では、4個のうちステップS103~S108、およびS111~S112の処理を行った処理順が上流側の隣接画素、すなわち図7で上側と左側に隣接する画素(i、j-1)、画素(i-1、j)を、ステップS106の判定対象としている。このようにすることで、処理順が上流側の隣接画素における判定結果により(4)「置換画素」と判定され、前景に対応する距離値に置換された場合に、置換後の隣接画素の距離値で判定を行うことで、再帰的な置換処理(ステップS108)が可能となり、連続して画素の置換処理が可能となる。
(ステップS107)
画素判定部222は判定画素(i,j)を(5)「置換無し画素」と判定し、置換処理は、行わず距離値は、無限遠(識別子)のままである。
(ステップS108)
画素判定部222は判定画素(i,j)を(4)「置換画素」と判定し、置換処理を行う。このときの距離値は、ステップS106で判定した上側と左側の隣接画素の距離値(平均値)である。
(ステップS120、S121)
ループ2、ループ1の処理により、判定画素(i、j)を移動させながら、ステップS103~S108、およびS111~S113の処理を繰り返す。、これらの所定回数の処理を行い、1フレームの全ての画素の判定が終了することで、サブルーチンフローチャートの処理を終了し、図6のメインの処理に戻る(エンド(リターン))。
(ステップS12)
ここでは、物体判定部223は、ステップS11で画素判定部222が置換の処理をした後の測距点群データを用いて、物体の認識を行う。このとき上述のように物体の種類(車両、歩行者)の判定も行うようにしてもよい。
(ステップS13)
物体判定部223は、ステップS12で認識した物体に対して制御処理を行う。この制御処理としては、例えば、上述したように、認識した物体の所定エリアへの侵入判定、軌跡判定、通過した物体のカウントである。
(ステップS14)
出力部224は、物体判定部223の判定結果を参照し、測距点群データから表示用の画像データを生成し、生成した画像データをディスプレイ300に表示させる。また、出力部224は、記憶部210に記憶されている判定結果の履歴情報データを参照して置換画素を、他の画素と識別できる態様で画像データを生成し、表示させる。
図9は、置換画素を区別して表示したディスプレイへの表示例である。図9(a)は、実際の表示画像301の例である。認識した物体32の周囲に検知枠31を付与している。また物体32は、物体を構成する画素のうち、置換画素321を置換画素以外の画素322と区別して表示している。例えば表示画像301において、置換画素321と画素322で、色、または濃度を異ならせることで区別して表示できる。図9(b)は、図9(a)と同じ測距点群データを用いた別の表示画像302の例である。図9(b)においては、表示態様として、置換画素321と画素322では、模様(ハッチング)を異ならせている。この図9(a)、または図9(b)のように置換画素を区別して表示させることで、これを見たユーザーは、その部分は、黒い色等で測定値が得られていないことが理解でき、黒い物体をディスプレイ上で確認するときに見やすくなる。
このように本実施形態では、測距点群データの各画素に対して、
条件(i):画素の距離値が、距離値が得られないことを示す識別子であり、
条件(ii):判定処理の対象となる画素に対応する基準背景データの距離値が識別子ではない、および、
条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する基準背景データの距離値よりも小さい、
を判定する判定処理を行い、条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換する。このようにすることで、特許文献1のように複数のToF方式の複数の測定器を配置したような大がかりな構成ではなく、単一の測定器を用いた構成において距離値が得られない画素を、所定の距離値に置換することで、識別子の距離値を示す画素が、物体の一部であることを識別できる。これにより、物体検知の精度を向上できる。
例えば、黒い車両の場合において、車体の距離の検知は困難で、距離値が得られない(無限遠)場合であっても、その他のパーツであるバンパーや、ナンバープレート、またはヘッドライトでは、距離値の計測が可能である。このような場合、これらのパーツから得られた距離値により、車両の黒い車体の距離値を置換できる。このときに、上述のように再帰的な置換処理が可能となることにより、バンパー等のパーツに連続する黒い車体のほとんどを、パーツまでの距離値で置換処理できる。特に、本実施形態においては、図4に示すように、天地逆となるように、原点Oを重力方向で下方に配置し、上方に向けて順に各画素の置換処理を行う。これにより、一般に車体の下方側に位置するバンパーやナンバープレート等のパーツを、起点として、これよりも上方にある無限遠の画素を、下方にあるパーツの距離値で連続的に置換できる。これにより、従来の処理では、パーツだけの小さいサイズでは、クラスタリングが適切に処理できず、黒い車両を、ゴミや小動物の検知対象外となることにより、正しく車両と認定出来なかった。このような状況であっても、本実施形態のような置換後の距離値により、所定サイズ以上の塊としてクラスタリングできる。これにより適切に本来の車両本体の大きさと同等で行えるので、これらの車両が、ゴミや小動物の検知対象外となることを防げ、正しく認識できるようになる。
(第2の実施形態)
以下、図10、図11を参照し、第2の実施形態に係る画像処理装置200で実行する画像処理について説明する。図10は、第2の実施形態におけるステップS11のサブルーチンフローチャートである。図11は、画素の判定条件と判定結果を示すテーブルである。図10は、第1の実施形態における図7Aのサブルーチンフローチャートに対応する図であり、その他の構成は、第1の実施形態と同一であり、その他の説明は省略する。また、図10においても、ステップS201以外、すなわち、ステップS101~ステップS108、およびステップS120、S121は、図7Aと同一であり、説明を省略する。
また、図11は、図5に対応するテーブルであり丸数字4、6以外、すなわち、丸数字1~3、および5は、図5の丸数字1~3、5と同一であり、そのまま対応する。
第2の実施形態においては、条件(iv):時間的に前のフレームの測距点群データにおいて、判定の対象となる画素に対応する画素が識別子(無限遠)ではない、を判定し、上述の条件(i)から(iii)に加えて、この条件(iv)を満たす場合に、置換画素として判定する(図11の丸数字4の「置換画素」)。
(ステップS201)
具体的には、画素判定部222は、図10のステップS201において、記憶部210に記憶されている1つ判定画素(i、j)と同じ位置(同じ照射方向)にある、前のフレームにおける画素(i、j)を参照し、この距離値が識別子(無限遠)であるか否かを判定する。距離値が識別子であれば(YES)、処理をステップS107に進め、このステップS107で「置換無し画素」と判定し、置換処理は行わない。
一方で、距離値が識別子でなければ(NO)、処理をステップS108に進め、このステップS108で「置換画素」と判定し、隣接画素の距離値で判定画素(i、j)を置換する。
なお、ステップS201の処理では、条件(iv)として、前のフレームの測距点群データを記憶部210に記憶し、この前の測距点群データの距離値が「識別子ではない」、を判定したが、これに換えて、他の条件により判定してもよい。例えば、(ア)判定結果の履歴情報データにおいて、前のフレームでの判定結果がステップS107の(5)「置換無し画素」でない。または(イ)前のフレームの画素が「前景画素」または「置換画素」である。この(ア)、(イ)の判定によって前のフレームの画素が「識別子ではない」を判定できる。
このように第2の実施系形態では、さらに条件(iv)として時間的に前のフレームの測距点群データにおいて、判定画素に対応する画素が識別子ではない、を判定し、これを満たす場合に、判定画素に対する隣接画素の距離値に対応する所定の距離への置換処理を行う。このようにすることで、第1の実施形態と同様の効果が得られるとともに、さらに、以下の効果が得られる。
例えば、雨が降り始めて、路面が濡れて水たまりが生じた場合には、以降は、その方向からの反射光は戻ってこなくなり、距離値が無限遠となる。このような状況下において、水たまりの領域の一部に黒い物体が進入してきた場合に、黒い物体だけでなく、水たまり全体が、黒い物体の(パーツの)距離(前景)に置換されてしまうという誤検知を防止できる。特に、強い雨が降って、測定空間60内の道路61の全面が水たまりになったような場合に、全面が、一度に黒い物体の距離に置換されてしまうという誤検知を防止できる。
以上に説明した物体検出システム10における画像処理装置200の構成は、上述の実施形態の特徴を説明するにあたって主要構成を説明したのであって、上述の構成に限られず、特許請求の範囲内において、種々改変することができる。また、一般的な物体検出システム10、または画像処理装置200が備える構成を排除するものではない。
また、各フローチャートにおいて、各処理の順序はこれに限られず、前後を入れ替えてもよい。例えば図10においてステップS201の判定を、同図のステップS104の直前に行うようにしてもよい。
さらに、上述の実施形態において、図7A(図10)、図8においては、各画素をループ1、2の処理により左上の原点Oの画素から右下の画素まで順方向に1回だけ処理する例を示した。処理を容易にするためにこのような処理を採用したがこれに限られない。例えば、さらに逆方向で処理することにより2回分(1往復分)処理するようにしてもよい。このようにすることで、画素の位置の依存性を排除できる。例えば、左下に距離値が得られる画素(前景画素)がある場合に、この画素の右上方向に隣接する画素(判定対象の画素)を置換画素として再帰的に順次、置換処理できる。
上述した実施形態に係る画像処理装置200における各種処理を行う手段および方法は、専用のハードウェア回路、またはプログラムされたコンピューターのいずれによっても実現することが可能である。上記プログラムは、例えば、USBメモリやDVD(Digital Versatile Disc)-ROM等の非一時的なコンピューター読み取り可能な記録媒体によって提供されてもよいし、インターネット等のネットワークを介してオンラインで提供されてもよい。この場合、コンピューター読み取り可能な記録媒体に記録されたプログラムは、通常、ハードディスク等の記憶部に転送され記憶される。また、上記プログラムは、単独のアプリケーションソフトとして提供されてもよいし、装置の一機能としてその装置のソフトウエアに組み込まれてもよい。
本出願は2018年10月24日に出願された日本特許出願(特願2018-200132号)に基づいており、その開示内容は、参照され、全体として組み入れられている。
10 物体検出システム
100 測定器
110 ライダー
200 画像処理装置
210 記憶部
220 処理部
221 測距点群データ取得部
222 画素判定部
223 物体判定部
224 出力部
300 ディスプレイ
60 測定空間

Claims (20)

  1. 測定器から複数の方位に向けた送信波を、測定空間に向けて照射してから、該送信波の対象物からの反射波を受信するまでの時間間隔に基づいて算出した距離値の分布を示す複数の画素で構成された測距点群データを取得する取得部と、
    前記測距点群データに基づいて生成した基準背景データを記憶する記憶部と、
    画素判定部と、
    を備え、
    前記測距点群データの画素は、前記送信波を送信した方向からの前記反射波に基づいて距離値を取得できない場合に、識別可能な共通の識別子が埋め込まれており、
    前記画素判定部は、前記取得部から取得した前記測距点群データの各画素に対して、
    条件(i):画素の距離値が、前記距離値が得られないことを示す前記識別子であり、
    条件(ii):判定処理の対象となる画素に対応する前記基準背景データの距離値が前記識別子ではない、および、
    条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する前記基準背景データの距離値よりも小さい、
    を判定する判定処理を行い、前記条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換する、画像処理装置。
  2. 前記基準背景データと、前記画素判定部が前記置換の処理を行った測距点群データを用いて、物体検知を行う物体判定部を、備える請求項1に記載の画像処理装置。
  3. 前記条件(iii)の判定に用いる隣接画素の距離値は、前記隣接画素に対する前記判定処理によって置換処理を行った後の距離値を用いる、請求項1、または請求項2に記載の画像処理装置。
  4. 前記取得部は、時系列に並んだ、複数の前記測距点群データを取得し、
    前記画素判定部は、さらに、
    条件(iv):時間的に前の前記測距点群データにおいて、判定の対象となる前記画素に対応する画素が前記識別子ではない、を判定し、
    前記条件(i)から(iv)を全て満たす場合に、判定対象となる前記画素を前記所定の距離値に置換する、請求項1から請求項3のいずれかに記載の画像処理装置。
  5. 前記画素判定部は、前記条件(iv)の時間的に前の前記測距点群データとして、判定を行う前記測距点群データから所定時間以内の前記測距点群データを用いる、請求項4に記載の画像処理装置。
  6. 前記画素判定部は、置換する前記所定の距離値として、判定の対象となる前記画素に隣接する画素の距離値、または、判定の対象となる前記画素から所定範囲内にある周辺の画素の距離値を用いる、請求項1から請求項5のいずれかに記載の画像処理装置。
  7. 前記記憶部には、前記測距点群データの各画素の処理の履歴情報が記憶されており、
    前記履歴情報には、少なくとも、前記置換の処理を行った置換画素であることを示す情報が含まれる、請求項1から請求項6のいずれかに記載の画像処理装置。
  8. さらに、前記画素判定部が前記置換の処理を行った置換後の前記測距点群データを表示させる出力部、を有し、
    前記出力部の表示においては、前記履歴情報を参照することで前記置換画素を、他の画素と識別できる態様で表示されている、請求項7に記載の画像処理装置。
  9. 前記物体判定部は、前記測定空間内に設定した所定エリアへの物体の進入判定、前記所定エリアを通過する前記物体のカウント、および物体の移動軌跡の判定、の少なくとも1つを行う、請求項2に記載の画像処理装置。
  10. 前記測定器は、前記送信波としてレーザー光を照射するライダーである、請求項1から請求項9のいずれかに記載の画像処理装置。
  11. 対象物までの距離値の分布を示す測距点群データを用いた画像処理を行い、前記測距点群データに基づいて生成した基準背景データを記憶する記憶部を備える画像処理装置を制御するコンピューターで実行される制御プログラムであって、
    測定器から複数の方位に向けた送信波を、測定空間に向けて照射してから、該送信波の対象物からの反射波を受信するまでの時間間隔に基づいて算出した距離値の分布を示す複数の画素で構成された測距点群データを取得するステップ(a)と、
    前記ステップ(a)で取得した前記測距点群データの画素は、前記送信波を送信した方向からの前記反射波に基づいて距離値を取得できない場合に、識別可能な共通の識別子が埋め込まれており、前記測距点群データの各画素に対して、
    条件(i):画素の距離値が、前記距離値が得られないことを示す前記識別子であり、
    条件(ii):判定の対象となる画素に対応する前記基準背景データの距離値が前記識別子ではない、
    条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する前記基準背景データの距離値よりも小さい、
    を判定する判定処理を行うステップ(b)と、
    前記ステップ(b)で、前記条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換するステップ(c)と、
    を含む処理を前記コンピューターに実行させるための制御プログラム。
  12. 前記処理は、さらに、
    前記基準背景データと、前記ステップ(c)で、前記置換の処理を行った測距点群データを用いて、物体検知を行うステップ(d)を含む、請求項11に記載の制御プログラム。
  13. 前記ステップ(b)の前記条件(iii)の判定に用いる隣接画素の距離値は、前記隣接画素に対する前記判定処理によって置換処理を行った後の距離値を用いる、請求項11、または請求項12に記載の制御プログラム。
  14. 前記ステップ(a)では、時系列に並んだ、複数の前記測距点群データを取得し、
    前記ステップ(b)では、さらに、
    条件(iv):時間的に前の前記測距点群データにおいて、判定の対象となる前記画素に対応する画素が前記識別子ではない、を判定し、
    前記ステップ(c)では、前記条件(i)から(iv)を全て満たす場合に、判定対象となる前記画素を前記所定の距離値に置換する、請求項11から請求項13のいずれかに記載の制御プログラム。
  15. 前記ステップ(b)の前記条件(iv)の時間的に前の前記測距点群データとして、判定を行う前記測距点群データから所定時間以内の前記測距点群データを用いる、請求項14に記載の制御プログラム。
  16. 前記ステップ(c)では、置換する前記所定の距離値として、判定の対象となる前記画素に隣接する画素の距離値、または、判定の対象となる前記画素から所定範囲内にある周辺の画素の距離値を用いる、請求項11から請求項15のいずれかに記載の制御プログラム。
  17. 前記処理は、さらに、少なくとも、前記ステップ(c)で前記置換の処理を行った置換画素であることを示す情報を含む履歴情報を、前記記憶部に記憶するステップ(e)を含む、請求項11から請求項16のいずれかに記載の制御プログラム。
  18. 前記処理は、さらに、前記ステップ(c)で前記置換の処理を行った置換後の前記測距点群データを表示させるステップ(f)、を含み、
    前記ステップ(f)の表示においては、前記履歴情報を参照することで前記置換画素を、他の画素と識別できる態様で表示されている、請求項17に記載の制御プログラム。
  19. 前記処理は、前記ステップ(d)で検知した物体に対して、さらに、前記測定空間内に設定した所定エリアへの物体の進入の判定、前記所定エリアを通過する前記物体のカウント、および物体の移動軌跡の判定、の少なくとも1つを行う、ステップ(g)を含む、請求項12に記載の制御プログラム。
  20. 対象物までの距離値の分布を示す測距点群データを用いた画像処理を行い、前記測距点群データに基づいて生成した基準背景データを記憶する記憶部を備える画像処理装置で実行される画像処理方法であって、
    測定器から複数の方位に向けた送信波を、測定空間に向けて照射してから、該送信波の対象物からの反射波を受信するまでの時間間隔に基づいて算出した距離値の分布を示す複数の画素で構成された測距点群データを取得するステップ(a)と、
    前記ステップ(a)で取得した前記測距点群データの画素は、前記送信波を送信した方向からの前記反射波に基づいて距離値を取得できない場合に、識別可能な共通の識別子が埋め込まれており、前記測距点群データの各画素に対して、
    条件(i):画素の距離値が、前記距離値が得られないことを示す前記識別子であり、
    条件(ii):判定の対象となる画素に対応する前記基準背景データの距離値が前記識別子ではない、
    条件(iii):判定の対象となる画素に隣接する隣接画素の距離値が該隣接画素に対応する前記基準背景データの距離値よりも小さい、
    を判定する判定処理を行うステップ(b)と、
    前記ステップ(b)で、前記条件(i)から(iii)を全て満たす場合に、判定対象となる画素を所定の距離値に置換するステップ(c)と、
    を含む画像処理方法。
JP2020552957A 2018-10-24 2019-09-11 画像処理装置、制御プログラム、および画像処理方法 Active JP7201002B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018200132 2018-10-24
JP2018200132 2018-10-24
PCT/JP2019/035760 WO2020084943A1 (ja) 2018-10-24 2019-09-11 画像処理装置、制御プログラム、および画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2020084943A1 JPWO2020084943A1 (ja) 2021-09-24
JP7201002B2 true JP7201002B2 (ja) 2023-01-10

Family

ID=70331025

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020552957A Active JP7201002B2 (ja) 2018-10-24 2019-09-11 画像処理装置、制御プログラム、および画像処理方法

Country Status (4)

Country Link
US (1) US20210389460A1 (ja)
EP (1) EP3872527A4 (ja)
JP (1) JP7201002B2 (ja)
WO (1) WO2020084943A1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002506977A (ja) 1998-03-10 2002-03-05 リーグル・レーザー・メジャーメント・システムズ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング 被写体又は被写体空間を監視する方法
JP2007126025A (ja) 2005-11-04 2007-05-24 Central Japan Railway Co 物体検出ユニット、物体検出装置、横断路の移動物体検知装置及びプログラム
JP2009085927A (ja) 2007-10-03 2009-04-23 Hitachi Information & Communication Engineering Ltd 物体検知システム及びその方法
US20100208994A1 (en) 2009-02-11 2010-08-19 Ning Yao Filling holes in depth maps
CN103198486A (zh) 2013-04-10 2013-07-10 浙江大学 一种基于各向异性扩散的深度图像增强方法
JP2018087703A (ja) 2016-11-28 2018-06-07 パイオニア株式会社 制御装置、測定装置、およびコンピュータプログラム
WO2018110183A1 (ja) 2016-12-14 2018-06-21 パナソニックIpマネジメント株式会社 撮像制御装置、撮像制御方法、プログラムおよび記録媒体

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11328444A (ja) * 1998-05-20 1999-11-30 Minolta Co Ltd モデリングシステム
JP3941790B2 (ja) 2004-04-08 2007-07-04 石川島播磨重工業株式会社 移動物体検出装置及び方法
KR20120079646A (ko) * 2011-01-05 2012-07-13 삼성전자주식회사 깊이 센서, 상기 깊이 센서의 결점 수정 방법, 및 상기 깊이 센서를 포함하는 신호 처리 시스템
JP2018200132A (ja) 2017-05-26 2018-12-20 株式会社ケーヒン・サーマル・テクノロジー コンデンサ

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002506977A (ja) 1998-03-10 2002-03-05 リーグル・レーザー・メジャーメント・システムズ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング 被写体又は被写体空間を監視する方法
JP2007126025A (ja) 2005-11-04 2007-05-24 Central Japan Railway Co 物体検出ユニット、物体検出装置、横断路の移動物体検知装置及びプログラム
JP2009085927A (ja) 2007-10-03 2009-04-23 Hitachi Information & Communication Engineering Ltd 物体検知システム及びその方法
US20100208994A1 (en) 2009-02-11 2010-08-19 Ning Yao Filling holes in depth maps
CN103198486A (zh) 2013-04-10 2013-07-10 浙江大学 一种基于各向异性扩散的深度图像增强方法
JP2018087703A (ja) 2016-11-28 2018-06-07 パイオニア株式会社 制御装置、測定装置、およびコンピュータプログラム
WO2018110183A1 (ja) 2016-12-14 2018-06-21 パナソニックIpマネジメント株式会社 撮像制御装置、撮像制御方法、プログラムおよび記録媒体

Also Published As

Publication number Publication date
JPWO2020084943A1 (ja) 2021-09-24
WO2020084943A1 (ja) 2020-04-30
EP3872527A4 (en) 2022-04-20
US20210389460A1 (en) 2021-12-16
EP3872527A1 (en) 2021-09-01

Similar Documents

Publication Publication Date Title
CA3012691C (en) Lidar based 3-d imaging with far-field illumination overlap
US9891432B2 (en) Object detection device and sensing apparatus
KR20190127624A (ko) 라이다 센서를 이용한 밀집도 기반의 객체 검출 장치 및 방법
JP4691701B2 (ja) 人数検出装置及び方法
JP2022511257A (ja) 格子光パターンを使用する奥行き検知
JP6804949B2 (ja) 制御装置、測定装置、およびコンピュータプログラム
CN112444822A (zh) 合成激光雷达信号的产生
WO2020105527A1 (ja) 画像解析装置、画像解析システム、および制御プログラム
JP2011106829A (ja) 移動体検出方法及びレーザ距離測定装置
JP2021043838A (ja) 情報処理装置、制御方法、プログラム及び記憶媒体
RU2679923C1 (ru) Способ получения пространственной модели окружающей обстановки в режиме реального времени на основе данных лазерной локации и устройство для его осуществления
JP7201002B2 (ja) 画像処理装置、制御プログラム、および画像処理方法
JP2016139306A (ja) 車軸検知装置および車軸検知方法
JP7073949B2 (ja) 避難誘導装置、避難誘導システム、および制御プログラム
JP7184087B2 (ja) 物体検出システム、および物体検出方法
JP7114207B2 (ja) 距離測定データの取得
JP3498532B2 (ja) 車形判別装置
CN108885262A (zh) 用于捕捉至少一个对象的方法、传感器设备的装置、传感器设备和具有至少一个传感器设备的驾驶员辅助系统
JP6990782B2 (ja) シミュレータ装置
WO2020105225A1 (ja) 機械学習方法、学習済みモデル、制御プログラム、および物体検知システム
CN111213069B (zh) 基于相干光的避障装置及方法
JP7020096B2 (ja) 物体検出装置、物体検出装置の制御方法、および物体検出装置の制御プログラム
JP2020118587A (ja) 距離情報補間装置、物体検出システム、および距離情報補間プログラム
JP7227227B2 (ja) オブジェクト識別システム、自動車、車両用灯具
JP7474759B2 (ja) 車両用灯具

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221205

R150 Certificate of patent or registration of utility model

Ref document number: 7201002

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150