JP7111497B2 - 画像処理装置、画像処理方法、距離計測装置、及び距離計測システム - Google Patents

画像処理装置、画像処理方法、距離計測装置、及び距離計測システム Download PDF

Info

Publication number
JP7111497B2
JP7111497B2 JP2018079090A JP2018079090A JP7111497B2 JP 7111497 B2 JP7111497 B2 JP 7111497B2 JP 2018079090 A JP2018079090 A JP 2018079090A JP 2018079090 A JP2018079090 A JP 2018079090A JP 7111497 B2 JP7111497 B2 JP 7111497B2
Authority
JP
Japan
Prior art keywords
value
distance
signal
reliability
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018079090A
Other languages
English (en)
Other versions
JP2019184545A (ja
Inventor
寛 久保田
展 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Electronic Devices and Storage Corp
Original Assignee
Toshiba Corp
Toshiba Electronic Devices and Storage Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Electronic Devices and Storage Corp filed Critical Toshiba Corp
Priority to JP2018079090A priority Critical patent/JP7111497B2/ja
Priority to CN201910147861.5A priority patent/CN110389334B/zh
Priority to EP19162160.6A priority patent/EP3557281A1/en
Priority to US16/351,983 priority patent/US11513221B2/en
Publication of JP2019184545A publication Critical patent/JP2019184545A/ja
Application granted granted Critical
Publication of JP7111497B2 publication Critical patent/JP7111497B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/487Extracting wanted echo signals, e.g. pulse detection
    • G01S7/4876Extracting wanted echo signals, e.g. pulse detection by removing unwanted signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4804Auxiliary means for detecting or identifying lidar signals or the like, e.g. laser illuminators
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/487Extracting wanted echo signals, e.g. pulse detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/491Details of non-pulse systems
    • G01S7/4912Receivers
    • G01S7/4913Circuits for detection, sampling, integration or read-out
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration by the use of local operators
    • G06T5/70
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4811Constructional features, e.g. arrangements of optical elements common to transmitter and receiver
    • G01S7/4812Constructional features, e.g. arrangements of optical elements common to transmitter and receiver transmitted and received beams following a coaxial path
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of Optical Distance (AREA)

Description

本発明の実施形態は、画像処理装置、画像処理方法、距離計測装置、及び距離計測システムに関する。
LIDAR(Light Detection and Ranging Laser Imaging Detection and Ranging)と称される距離計測システムが知られている。この距離計測装置では、レーザ光を計測対象物に照射し、計測対象物により反射された反射光の強度をセンサ出力に基づき時系列なデジタル信号に変換する。これにより、レーザ光の発光の時点と、デジタル信号の信号値のピークに対応する時点との時間差に基づき、計測対象物までの距離が計測される。センサには、物体により散乱された太陽光などの環境光も入射され、ランダムに発生するノイズとなる。
距離計測システムでは、隣接した方向に照射したレーザ光に基づく複数のデジタル信号を累積して、S/N比を向上させる処理が行われる。ところが、複数のデジタル信号を累積すると、ノイズのクラスタ化が生じてしまう恐れがある。
特開2011-215005号公報
本発明が解決しようとする課題は、クラスタ化したノイズを含む距離画像の画素毎の信頼度を生成可能な画像処理装置、画像処理方法、距離計測装置、及び距離計測システムを提供することである。
本実施形態に係る画像処理装置は、情報取得部と、信頼度生成部と、を備える。情報取得部は、定距離を画素値とする2次元の距離画像と、2次元の距離画像における画素毎の測定距離に対応する信号値に関する信号情報と、を取得する。信頼度生成部は、2次元の距離画像の画素毎に、各画素を中心画素とし、中心画素から所定範囲内の画素のうちで中心画素の距離値と所定範囲内の距離値を有する画素の情報と、中心画素に対応する信号値とに基づく信頼度を生成する。
本実施形態に係る距離計測装置の概略的な全体構成を示す図。 本実施形態に係る距離計測装置の構成例を示す図。 光源の出射パターンを模式的に示している図。 レーザ光それぞれの計測対象物上の照射位置を拡大して示す模式図。 AD変換部による電気信号のサンプリング値の一例を示す図。 計測処理部の詳細な構成を示すブロック図。 基準となるレーザ光と、隣接する第2照射方向に照射されたレーザ光を模式的に示す図。 (A)と(B)は図7で示した反射光に基づき得られたデジタル信号を模式的に示す図。 (A)、(B)、(C)、(D)は図8で示したデジタル信号の所定時間内の累積値の例を示す図。 図8で示したデジタル信号に基づき得られたデジタル信号のピーク値を示す模式図。 累積処理部の詳細な構成を示すブロック図。 (A)、(B)、(C)は類似性の高い第2デジタル信号を重み付き累積した場合を模式的に示す図。 (A)、(B)、(C)は類似性の低い第2デジタル信号を重み付き累積した場合を模式的に示す図。 画像処理装置の詳細な構成を示す図。 2次元の距離画像の例を示す図。 領域1400の拡大図。 信頼度を計算する画素範囲を説明する図 クラスタサイズ及び輝度値と距離測定の成功率との関係を示す図。 係数C(i,j)は配置パターン例を示す図。 第2信頼度R2に用いるC(i,j)の値の配置パターン例を示す図。 各信頼度と失敗率1%ラインとの関係を示す図。 信頼度に基づき、99%のデノイズを行った結果の測距成功率を示す図。 ノイズ低減処理を行って、ノイズを除去した後の測距成功率を示す図。 ノイズ低減処理を行った図。 距離計測システムの処理動作を説明するフローチャート。 第1変形例に係る画像処理装置の構成を示す図
以下、本発明の実施形態に係る画像処理装置、画像処理方法、距離計測装置、及び距離計測システムについて、図面を参照しながら詳細に説明する。なお、以下に示す実施形態は、本発明の実施形態の一例であって、本発明はこれらの実施形態に限定して解釈されるものではない。また、本実施形態で参照する図面において、同一部分又は同様な機能を有する部分には同一の符号又は類似の符号を付し、その繰り返しの説明は省略する場合がある。また、図面の寸法比率は説明の都合上実際の比率とは異なる場合や、構成の一部が図面から省略される場合がある。
(一実施形態)
図1は、本実施形態に係る運転支援システム1の概略的な全体構成を示す図である。この図1に示すように運転支援システム1は、距離画像に基づく運転支援を行う。運転支援システム1は、距離計測システム2と、運転支援装置500と、音声装置502と、制動装置504と、表示装置506とを、を備えて構成されている。距離計測システム2は、計測対象物10の距離画像を生成し、距離計測装置5と、画像処理装置400とを備える。
距離計測装置5は、走査方式及びTOF(Time Of Flight)方式を用いて、計測対象物10までの距離を計測する。より具体的には、この距離計測装置5は、出射部100と、光学機構系200と、計測部300画像処理装置400を備えて構成されている。
出射部100は、レーザ光L1を間欠的に出射する。光学機構系200は、出射部100が出射するレーザ光L1を計測対象物10に照射するとともに、計測対象物10上で反射されたレーザ光L1の反射光L2を計測部300に入射させる。ここで、レーザ光とは、位相および周波数が揃った光を意味する。
計測部300は、光学機構系200を介して受光した反射光L2に基づき、計測対象物10までの距離を計測する。すなわち、この計測部300は、出射部100がレーザ光L1を計測対象物10に照射した時点と、反射光L2が計測された時点との時間差に基づき、計測対象物10までの距離を計測する。
画像処理装置400は、ノイズの低減処理を行い、計測対象物10上の複数の測定点までの距離に基づき距離画像データを出力する。画像処理装置400の一部または全ては、距離計測装置5の筐体内に組み込んでもよい。画像処理装置400の詳細な構成は後述する。
運転支援装置500は、画像処理装置400の出力信号に応じて車両の運転を支援する。運転支援装置500には、音声装置502、制動装置504、表示装置506などが接続されている。
音声装置502は、例えばスピーカであり、車両内の運転席から聴講可能な位置に配置されている。運転支援装置500は、画像処理装置400の出力信号に基づき、例えば音声装置502に「対象物まで5メートルです」などの音声を発生させる。これにより、例えば運転士の注意力が低下している場合にも、音声を聴講することで、運転士の注意を喚起させることが可能となる。
制動装置504は、例えば補助ブレーキである。運転支援装置500は、画像処理装置400の出力信号に基づき、例えば対象物が所定の距離、例えば3メートルまで近接した場合に、制動装置504に車両を制動させる。
表示装置506は、例えば液晶モニタである。運転支援装置500は、画像処理装置400の出力信号に基づき、表示装置506に画像を表示する。これにより、例えば逆光時などでも、表示装置506に表示される画像を参照することで、外部情報をより正確に把握可能となる。
次に、図2に基づき、本実施形態に係る距離計測装置5の出射部100、光学機構系200、および計測部300のより詳細な構成例を説明する。図2は、第1の実施形態に係る距離計測装置5の構成例を示す図である。図2に示すように、距離計測装置5は、出射部100と、光学機構系200と、計測部300と、画像処理装置400と、を備えて構成されている。ここでは、散乱光L3の内、所定の方向の散乱光を反射光L2と呼ぶこととする。
出射部100は、光源11と、発振器11aと、第1駆動回路11bと、制御部16と、第2駆動回路16aとを、有する。
光学機構系200は、照射光学系202と、受光光学系204とを有する。照射光学系202は、レンズ12と、第1光学素子13と、レンズ13a、ミラー(反射デバイス)15とを有する。
受光光学系204は、第2光学素子14と、ミラー15とを有する。すなわち、これら照射光学系202、及び受光光学系204は、ミラー15を共有している。
計測部300は、光検出器17と、センサ18と、レンズ18aと、第1増幅器19と、AD変換部20と、記憶部21と、計測処理部22と、を有する。なお、光を走査する既存方法としては、距離計測装置5を回転させる方法(以下、回転方法と呼ぶ)がある。また、別の走査する既存方法として、OPA方法(Optical Phased array)がある。本実施形態は、光を走査する方法に依存しないため、回転方法やOPA方法により光を走査してもよい。
出射部100の発振器11aは、制御部16の制御に基づき、パルス信号を生成する。第1駆動回路11bは、発振器11aの生成したパルス信号に基づいて光源11を駆動する。光源11は、例えばレーザダイオードなどのレーザ光源であり、第1駆動回路11bによる駆動に応じてレーザ光L1を間欠的に発光する。
図3は、光源11の出射パターンを模式的に示している図である。図3において、横軸は時刻を示し、縦線は光源11の出射タイミングを示している。下側の図は、上側の図における部分拡大図である。この図3に示すように光源11は、例えばT=数マイクロ秒~数十マイクロ秒の間隔で、レーザ光L1(n)(0≦n<N)を間欠的に繰り返し発光する。ここで、n番目に発光されるレーザ光L1をL1(n)と表記する。Nは、計測対象物10を測定するために照射するレーザ光L1(n)の照射回数を示している。
図2に示すように、照射光学系202の光軸O1上には、光源11、レンズ12、第1光学素子13、第2光学素子14、及びミラー15がこの順番に配置されている。これにより、レンズ12は、間欠的に出射されるレーザ光L1をコリメートして、第1光学素子13に導光する。
第1光学素子13は、レーザ光L1を透過させると共に、レーザ光L1の一部を光軸O3に沿って光検出器17に入射させる。第1光学素子13は、例えばビームスプリッタである。
第2光学素子14は、第1光学素子13を透過したレーザ光L1を更に透過して、レーザ光L1をミラー15に入射させる。第2光学素子14は、例えばハーフミラーである。
ミラー15は、光源11から間欠的に出射されるレーザ光L1を反射する反射面15aを有する。反射面15aは、例えば、互いに交差する2つの回動軸線RA1、RA2を中心として回動可能となっている。これにより、ミラー15は、レーザ光L1の照射方向を周期的に変更する。
制御部16は、例えばCPU(Central Processing Unit)を有し、反射面15aの傾斜角度を連続的に変更させる制御を第2駆動回路16aに対して行う。第2駆動回路16aは、制御部16から供給された駆動信号に従って、ミラー15を駆動する。すなわち、制御部16は、第2駆動回路16aを制御して、レーザ光L1の照射方向を変更させる。
図4は、レーザ光L1の計測対象物10上の照射位置を拡大して示す模式図である。この図4に示すように、反射面15aは、レーザ光L1毎に照射方向を変更して計測対象物10上のほぼ平行な複数の直線経路P1~Pm(mは2以上の自然数)に沿って、離散的に照射させる。このように、本実施形態に係る距離計測装置5は、レーザ光L1(n)(0≦n<N)の照射方向O(n)(0≦n<N)を変更しつつ、計測対象物10に向けて1回ずつ照射する。ここで、レーザ光L1(n)の照射方向をO(n)で表記する。すなわち、本実施形態に係る距離計測装置5では、レーザ光L1(n)は、照射方向O(n)に一回照射される。なお、本実施形態に係るレーザ光L1(n)は一点ずつ順次照射されるが、これに限定されず、複数点を同時に照射してもよい。例えば一次元状のレーザ光源を用いて縦一列を同時に照射してもよい。
レーザ光L1(n)とL1(n+1)との計測対象物10上の照射位置の間隔は、レーザ光L1間の照射間隔T=数マイクロ秒~数十マイクロ秒(図3)に対応している。このように、各直線経路P1~Pm上に照射方向の異なるレーザ光L1が離散的に照射される。なお、直線経路の数や走査方向は特に限定されない。
図2に示すように、受光光学系204の光軸O2上には、反射光L2が入射する順に、ミラー15の反射面15a、第2光学素子14、レンズ18a、センサ18が配置されている。ここで、光軸O1とは、レンズ12の中心位置を通過するレンズ12の焦点軸である。光軸O2とは、レンズ18aの中心位置を通過するレンズ18aの焦点軸である。
反射面15aは、計測対象物10上で散乱された散乱光L3のうち光軸O2に沿って進む反射光L2を第2光学素子14に入射させる。第2光学素子14は、反射面15aで反射された反射光L2の進行方向を変えて、光軸O2に沿って計測部300のレンズ18aに入射させる。レンズ18aは、光軸O2に沿って入射した反射光L2をセンサ18にコリメートさせる。
一方で、散乱光L3のうちレーザ光L1と異なる方向に反射された光の進行方向は、受光光学系204の光軸O2からずれている。このため、散乱光L3のうち光軸O2と異なる方向に反射された光は、仮に受光光学系204内に入射しても、受光光学系204が配置されている筐体内の黒体などに吸収されるか、センサ18の入射面からずれた位置に入射される。これに対して、何らかの物体により散乱された太陽光などの環境光の中には、光軸O2に沿って進行する光があり、これらの光は、ランダムにセンサ18の入射面に入射して、ランダムなノイズとなる。
なお、図2においては、明確化のためにレーザ光L1と反射光L2の光路を分けて図示しているが、実際にはこれらは重なっている。また、レーザ光L1の光束の中心の光路を光軸O1として図示している。同様に、反射光L2の、光束の中心の光路を光軸O2として図示している。
センサ18は、レンズ18aから入射する反射光L2を検出する。このセンサ18は、受光光学系204を介して受光した反射光L2を電気信号に変換する。
AD変換部20は、センサ18が出力する電気信号を所定のサンプリング間隔でデジタル信号に変換する。AD変換部20は、例えば反射光L2に基づく電気信号を増幅する増幅器とAD変換器(ADC: Analog to Digital Convertor)で構成され、増幅器がセンサ18の電気信号を増幅し、AD変換器が増幅した電気信号を複数のサンプリングタイミングにおいてサンプリングして、レーザ光L1の照射方向に対応するデジタル信号に変換する。
図5は、AD変換部20による電気信号のサンプリング値の一例を示す図である。図5の横軸はサンプリングタイミングを示し、縦軸はサンプリング値(輝度)、すなわちデジタル信号の値を示す。サンプリングタイミングは、距離に対応する。例えば、サンプリングタイミングt0~t32にブランキング時間を加えたものは、レーザ光L1が照射されてから次のレーザ光L1が照射されるまでの経過時間T(図3)に対応する。図中のピークが反射光L2に基づくサンプリング値であり、このピークを示すサンプリングタイミングTL2が計測対象物10までの距離の2倍に対応する。
より具体的には、距離=光速×(サンプリングタイミングTL2-光検出器17がレーザ光L1を検出したタイミング)/2なる式で距離が求められる。ここで、サンプリングタイミングは、レーザ光L1の発光開始時刻からの経過時間であり、光検出器17がレーザ光L1を検出したタイミングは、レーザ光L1の発光開始時刻である。
なお、図示したサンプリングタイミングの数やサンプリングを行う時間範囲は一例であり、サンプリングタイミングの数やサンプリングを行う時間範囲を変更してもよい。
図2に示すように、記憶部21は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。制御部16は、レーザ光L1が照射されたタイミングにおけるミラー15の照射方向の情報と、レーザ光L1のデジタル信号を対応させて時系列に記憶部21に記憶させる。すなわち、記憶部21は、AD変換部20が変換した第1デジタル信号をレーザ光L1の照射方向毎にそれぞれ対応させて時系列に記憶している。
計測処理部22は、例えば、MPU(Micro Processing Unit)であり、光検出器17がレーザ光L1を検出するタイミングと、センサ18が反射光L2を検出するタイミングとの時間差に基づき、距離を計測する。
図6は、計測処理部22の詳細な構成を示すブロック図であり、図6に基づき、計測処理部22の詳細な構成を説明する。図6に示すように、この計測処理部22は、積算処理部220と、距離計測部222とを有する。
積算処理部220は、記憶部21に記憶されたレーザ光L1毎のデジタル信号のS/N比を改善した計測用のデジタル信号を得る処理を行う。積算処理部220は、取得部220Aと、積算部220Bとを有する。
取得部220Aは、記憶部21に記憶された、第1照射方向に照射されたレーザ光L1の反射光L2をデジタル化した第1デジタル信号と、第1照射方向とは異なる第2照射方向に照射されたレーザ光L1の反射光L2をデジタル化した第2デジタル信号と、の類似性に基づいて、第2デジタル信号の重み値を生成、或いは取得する。
積算部220Bは、第1デジタル信号に、取得部220Aにより生成された重み値で第2デジタル信号を重み付けした信号を累積させて計測用のデジタル信号(第3デジタル信号)を生成する。取得部220A及び積算部220Bの詳細な処理は後述する。
距離計測部222は、S/N比の改善された時系列な第3デジタル信号に基づき、計測対象物10までの距離を計測する。より具体的には。レーザ光L1の照射に基づく時点と、第3デジタル信号の信号値のピーク位置に基づく時点との時間差に基づき、計測対象物10までの距離を計測する。距離計測部222は、レーザ光L1毎、つまり照射方向毎の距離情報と第3デジタル信号のピーク位置に対応する信号値の情報を含む信号D1(図2)を画像処理装置400に供給する。すなわち、距離計測部222は、照射方向毎に、測定距離の情報と、距離測定に用いた複数の時系列なデジタル信号(第1デジタル信号と第2デジタル信号)に基づく時系列な第3デジタル信号の測定距離に対応する信号値(ピーク位置の輝度値)の情報とを画像処理装置400に供給する。
ここで、図7に基づき、基準となるレーザ光L1(n)の第1照射方向と第1照射方向とは異なる第2照射方向の関係について説明する。
図7は、基準となるレーザ光L1(n)と、第2照射方向に照射されたレーザ光L1(n+ma)、L1(n+mb)、L1(n+mc)、L1(n+md)、L1(n+mf)、L1(n+mg)、L1(n+mh)、L1(n+mi)を模式的に示している。ここでは、基準となるレーザ光L1(n)の照射方向を第1照射方向とよび、第1照射方向と異なる照射方向を第2照射方向とよぶこととする。図7に示すように、基準となるL1(n)がL1Eに対応している。同様に、L1(i+ma)がL1Aに対応し、L1(i+mb)がL1Bに対応し、L1(i+mc)がL1Cに対応し、L1(i+md)がL1Dに対応し、L1(i+mf)がL1Fに対応し、L1(i+mg)がL1Gに対応し、L1(i+mf)がL1Fに対応する。
第2照射方向に照射されたレーザ光L1の照射順を示すn+ma、n+mb、n+mcは(0≦n≦N)の中の連続する自然数である。Nは、上述したように、計測対象物10を測定するために照射するレーザ光L1(n)の照射回数を示している。同様に、n+md、n、n+mfも連続する自然数であり、n+mg、n+mh、n+miも連続する自然数である。図4に示すように、複数の直線経路P1~Pm(mは2以上の自然数)の一つの直線経路上の測定点の数をL=N/mとすると、n+md=n+ma+L、n+mg=n+md+Lなる関係がある。
第2照射方向に照射されたレーザ光L1(n+ma)、L1(n+mb)、L1(n+mc)、L1(n+mf)、L1(n+mi)の進行先には、同一の計測対象物10があり、第2照射方向に照射されたレーザ光L1(n+md)、L1(n+mg)、L1(n+mh)の進行先には、計測対象物10よりも手前に計測対象物10と異なる物体がある例を説明する。すなわち、基準となるレーザ光L1(n)が照射された計測対象物10上の測定点がEであり、レーザ光L1(n)に隣接する第2照射方向に照射されたレーザ光L1(n+ma)、L1(n+mb)、L1(n+mc)、L1(n+mf)、L1(n+mi)が照射された計測対象物10上の測定点がA、B、C、F、Iである。一方で、レーザ光L1(n+md)、L1(n+mg)、L1(n+mh)が照射された計測対象物10と異なる物体上の測定点がD、G、Hである。これらの測定点は同一平面上にはないが、図7中では、測定点を模式的に同一平面上に投影させて表示している。
このように、ma~miは、直線経路上の測定点の数Lにより変更されるので、説明を簡単にするため、本実施形態においては、レーザ光L1(n)に隣接する照射方向に照射されたレーザ光L1(n+ma)~L1(n+mi)をL1(n+m(Z))(0≦Z≦(M-1))により表記することとする。すなわち、nを中心とした第2照射方向の照射順をn+m(Z)で表記する。Zは自然数であり、Mは、第1照射方向に隣接する第2照射方向の数を示している。例えば、図7では、隣接する照射方向の数がM=8であるので、隣接する第2照射方向をL1(n+m(Z))(0≦Z≦7))で表記する。これにより、ma=m(0)、mb=m(1)、mc=m(2)、md=m(3)、mf=m(4)、mg=m(5)、mh=m(6)、mi=m(7)で表すことができる。なお、Mは任意の数である。
以下の説明では、第1照射方向のレーザ光L1(n)の反射光L2(n)に基づく第1デジタル信号をD(n)で表記する。また、レーザ光L1(n)に隣接する第2照射方向のレーザ光L1(n+m(Z))(0≦Z≦(M-1))の反射光をL2(n+m(Z))(0≦Z≦(M-1))で表記し、第2照射方向のレーザ光L1(n+m(Z))(0≦Z≦(M-1))の照射方向をO(n+m(Z))(0≦Z≦(M-1))で表記し、反射光L2(n+m(Z))(0≦Z≦(M-1))に基づく第2デジタル信号をD(n+m(Z))(0≦Z≦(M-1))で表記する。また、第1デジタル信号D(n)における所定期間TAの累積値を第1累積値At(n)(t)で表記し、第2デジタル信号D(n+m(Z))(0≦Z≦(M-1))における所定期間TAの累積値を第2累積値At(n+m(Z))(t)(0≦Z≦(M-1))で表記する。tは、サンプリングタイミングを示している。
次に図7を参照にしつつ、図8に基づき第1デジタル信号と第2デジタル信号の特性を説明する。図8は、図7で示したレーザ光L1(n+ma)、L1(n+mb)、L1(n+mc)、L1(n+md)、L1(n)、L1(n+mf)、L1(n+mg)、L1(n+mh)、L1(n+mi)の反射光に基づき得られたデジタル信号DA、DB、DC、DD、DE、DF、DG、DH、DIを模式的に示す図である。すなわち、第1デジタル信号D(n)を第1デジタル信号DEで示し、第2デジタル信号D(n+m(Z))、(0≦Z≦7)のそれぞれを第2デジタル信号DA、DB、DC、DD、DF、DG、DH、DIで示している。
図8(A)は、同一の計測対象物10上から反射した反射光に基づき得られたデジタル信号DA、DB、DC、DE、DF、DIを模式的に示し、図8(B)は、計測対象物10と異なる物体から反射した反射光に基づき得られたデジタル信号DD、DG、DHを模式的に示している。縦軸は信号値(輝度値)であり、横軸は、サンプリングタイミングである。
図8(A)に示すように、計測対象物10上から反射された反射光L2に基づき得られた第2デジタル信号DA、DB、DC、DF、DIは、第1デジタル信号DEと類似する傾向が見られる。一方で、図8(B)に示すように、計測対象物10と異なる物体から反射した反射光に基づき得られた第2デジタル信号DD、DG、DHは、第1デジタル信号DEとの類似性が低くなる傾向が見られる。
次に図7及び図8を参照にしつつ図9に基づき、デジタル信号DA、DB、DC、DD、DE、DF、DG、DH、DIの所定時間TA内の累積値について説明する。図9は、図8で示したデジタル信号DA、DB、DC、DD、DE、DF、DG、DH、DIの所定時間TA内の累積値の例を示す図である。図9は、例えば日中の測定結果であり、太陽光などの環境光の影響を受けている例である。縦軸は信号値(輝度値)であり、横軸は、サンプリングタイミングである。
図9(A)は、第1デジタル信号DEに基づく第1累積値At(n)(t)を示している図である。矢印の時間範囲TAが累積を行う時間範囲を示している。図9(A)中の第1累積値At(n)(t)は、この時間範囲TAを順に0からサンプリングの終了時まで移動させながら第1デジタル信号DEの累積を行った結果を示している。
図9(B)は、第2デジタル信号DA、DB、DC、DF、DIに基づく第2累積値At(n+m(Z))(t)(Z=0、1、2、4、7)を示し、図9(C)は、第2デジタル信号DD、DG、DHに基づく第2累積値At(n+m(Z))(t)(Z=3、5、6)を示している。第1累積値At(n)(t)、及び第2累積値At(n+m(Z))(t)の詳細は後述する。
図9(D)は、重み値に基づき、第2デジタル信号DA、DB、DC、DD、DF、DG、DH、DIを第1デジタル信号DEに累積することにより得られた第3デジタル信号の例を示している。
図9(A)、(B)に示すように、この所定時間TA内の第1デジタル信号DEを累積した第1累積値At(n)(t)は、第2デジタル信号DA、DB、DC、DF、DIをそれぞれ時間範囲TA内で累積した第2累積値第2累積値At(n+m(Z))(t)(Z=0、1、2、4、7)とほぼ同じ値を示す傾向が見られる。一方で、図9(C)に示すように、第1累積値At(n)(t)は、第2デジタル信号DD、DG、DHをそれぞれ所定時間TA内で累積した第2累積値At(n+m(Z))(t)(Z=3、5、6)とは、異なる値を示す傾向が見られる。これは、異なる反射対象物により反射される環境光などの強度が、対象物毎に異なることが影響しているためと考えられている。例えば、測定点D、G、Hの方が測定点A、B、C、E、F、Iよりも近距離であったり、反射係数の高い物体であったりすると所定時間TA内のデジタル信号の累積値は高くなる傾向がある。
次に図7及び図8を参照にしつつ図10に基づき、デジタル信号DA、DB、DC、DD、DE、DF、DG、DH、DIのピーク値について説明する。図10は、図8で示したデジタル信号DA、DB、DC、DD、DE、DF、DG、DH、DIに基づき得られたデジタル信号のピーク値を示す模式図である。横軸はサンプリングタイミングを示し、縦軸は信号値を示す。図10は、例えば夜間の測定結果であり、太陽光などの環境光の影響が低減されている例である。
図10(A)は、第1デジタル信号DEに基づく第1ピーク値を示し、図10(B)は、第2デジタル信号DA、DB、DC、DF、DIに基づく第2ピーク値を示し、図10(C)は、第2デジタル信号DD、DG、DHに基づくピーク値を示し、図10(D)は、重み値に基づき累積した第3デジタル信号を示している。ここで、第1デジタル信号D(n)に基づくピーク値を第1ピーク値とよび、第2デジタル信号D(n+m(Z))、(0≦Z≦(M-1))に基づくピーク値を第2ピーク値とよぶこととする。
図10(A)、(B)に示すように、第1デジタル信号DEの第1ピーク値は、同一の計測対象物10から反射された反射光に基づく第2デジタル信号DA、DB、DC、DF、DIの第2ピーク値とは、同じ値を示す傾向が見られる。一方で、図10(B)に示すように、第1デジタル信号DEの第1ピーク値と、異なる計測対象物10から反射された反射光に基づく第2デジタル信号DD、DG、DHの第2ピーク値とは、異なる値を示す傾向が見られる。
図10(D)に示すように、類似性の高い第2デジタル信号DA、DB、DC、DF、DIの重み値を大きくし、類似性の低い第2デジタル信号DD、DG、DHの重み値を小さくして、第1デジタル信号DEに累積すれば、第3デジタル信号AdのS/N比を改善させることが可能となる。特に、夜間の測定においてより測定精度を上げることが可能となる。
次に図7、図9及び10を参照にしつつ、図11に基づき、取得部220Aの詳細な構成を説明する。図11は、取得部220Aの詳細な構成を示すブロック図である。図11に示すように、取得部220Aは、第1累積値演算部2200と、第2累積値演算部2202と、第1比率演算部2204と、第1ピーク値検出部2206と、第2ピーク値検出部2208と、第2比率演算部2210と、を有している。
第1累積値演算部2200は、図9(A)に示すように、第1照射方向に間欠的に照射されたレーザ光L1(n)の反射光L2(n)をそれぞれデジタル化した複数の第1デジタル信号D(n)(t)を所定期間TA内で累積した第1累積値At(n)(t)を求める。例えば、第1累積値演算部2200は、(1)式にしたがい第1累積値At(n)を求める。ここでは、D(n)をサンプリングタイミングtの関数D(n)(t)で表記する。
Figure 0007111497000001
K1は、任意の定数であり、nは、0≦n<Nの間の自然数である。
第2累積値演算部2202は、図9(B)、(C)に示すように、第2照射方向に間欠的に照射されたレーザ光L1(n+m(Z))(0≦Z≦(M-1))の反射光をそれぞれデジタル化した複数の第2デジタル信号D(n+m(Z))(0≦Z≦(M-1))を所定期間TA内に累積した第2累積値At(n+m(Z))(t)(0≦Z≦(M-1))を求める。第2累積値演算部2202は、(2)式にしたがい第2累積値At(n+m(Z))(t)を求める。ここでは、第2デジタル信号D(n+m(Z))をサンプリングタイミングtの関数D(n+m(Z))(t)で表記する。上述のようにZは0≦Z≦(M-1)の範囲の自然数であり、Mは、第1照射方向に隣接する第2照射方向の数を示している。
Figure 0007111497000002
第1比率演算部2204は、第1累積値演算部2200が累積した第1累積値At(n)(t)と第2累積値演算部2202が累積した第2累積値At(n+m(Z))(t)(0≦Z≦(M-1))との第1比率ERa1(n、n+m(Z))を求める。第1比率演算部2204は、(1)、(2)式のtに任意の固定時間Tを代入し、(3)式にしたがい、第1比率ERa1(n、n+m(Z))を演算する。すなわち、本実施形態に係る第1比率演算部2204では、第1比率ERa1(n、n+m(Z))の演算に任意の固定時間Tの間に測定されたデジタル信号の累積値を用いている。ここで、単なる比率でなく、オフセット・最小値処理を入れることも可能で、その場合(3-2)式となる。
Figure 0007111497000003
Figure 0007111497000004
第1ピーク値検出部2206は、例えば図10(A)に示すように第1デジタル信号D(n)(0≦n<N)の信号振幅が最大または最小となる第1ピーク値Peak(n)(0≦n<N)を検出する。ここでは、第1デジタル信号D(n)の第1ピーク値をPeak(n)で表記する。
同様に、第2ピーク値検出部2208は、例えば図10(B)、(C)に示すように第2デジタル信号D(n+m(Z))の信号振幅が最大または最小となる第2ピーク値Peak(n+m(Z))(0≦n<N)を検出する。ここで、Zは隣接する第2照射方向の数を示している。また、第2デジタル信号D(n+m(Z))の第2ピーク値をPeak(n+m(Z))により表記する。
第2比率演算部2210は、第1ピーク値検出部2206が検出した第1ピーク値Peak(n)と、第2ピーク値検出部2208が検出した第2ピーク値Peak(n+m(Z))との第2比率ERa2(n、n+m(Z))を求める。より具体的には第2比率演算部2210は(4)式にしたがい第2比率ERa2(n、n+m(Z))を求める。ここで、単なる比率でなく、オフセット、最小値処理を入れることも可能で、その場合(4-2)式となる。
Figure 0007111497000005
Figure 0007111497000006
図6に示すように、取得部220Aは、これらの第1比率ERa1(n、n+m(Z))、第2比率R2(n、n+m(Z))のいずれかに基づき、第1評価値Ev(n、n+m(Z))を取得する。
取得部220Aは、例えば(5)式に示すように、第1比率ERa1(n、n+m(Z))と第一累積値Aに基づき、第1デジタル信号D(n)と第2デジタル信号(n+m(Z))との間の類似性を示す第1評価値Ev(n、n+m(Z))を取得する。
Figure 0007111497000007
ここで、関数F1(x)は、例えばxが1のとき、最大値を示し、xの値が1から乖離するにしたがい値が小さくなる非線形な関数である。これにより、第1評価値Ev(n、n+m(Z))は、第1累積値と第2累積値との比率が1のとき、最も高い値を示し、1から乖離するにしたがい値が小さくなる。また、(5)式で示すように、累積値を用いた第1評価値Ev(n、n+m(Z))は、累積値を用いるため、ランダムなノイズの影響を受けにくいので、太陽光などの環境光の影響を受けやすい日中の計測処理に適している。
また、取得部220Aは、例えば(6)式に示すように、第2比率ERa2(n、n+m(Z))と第1ピーク値Peak(n)に基づき、第1評価値Ev(n、n+m(Z))を取得してもよい。
Figure 0007111497000008
すなわち、第1評価値Ev(n、n+m(Z))は、第1ピーク値Peak(n)と第2ピーク値Peak(n+m(Z))との比率が1のとき、最も高い値を示し、1から乖離するにしたがい値が小さくなる。また、(6)式で示すように、ピーク値を用いた第1評価値Ev(n、n+m(Z))は、ピーク値の測定精度がより上がる、環境光のない夜間の計測処理に適している。
なお、第1評価値Ev(n、n+m(Z))は、第1ピーク値Peak(n)と第2ピーク値Peak(n+m(Z))との類似性を示す値であれば、第1ピーク値Peak(n)と第2ピーク値Peak(n+m(Z))との第2比率ERa2(n、(n+m(Z))に限定されない。例えば、第1ピーク値Peak(n)と第2ピーク値Peak(n+m(Z))との差分値の絶対値と第1ピーク値Peak(n)との比率を第1評価値Ev(n、n+m(Z))としてもよい。この場合、第1評価値Ev(n、n+m(Z))は、第1ピーク値Peak(n)と第2ピーク値Peak(n+m(Z))との差分値の絶対値と第1ピーク値Peak(n)との比率が0のとき、最も高い値を示し、0より大きくなるにしたがい値が小さくなる。
また、取得部220Aは、第1比率ERa1(n、n+m(Z))と、第2比率ERa2(n、n+m(Z))とに基づき、第1評価値Ev(n、n+m(Z))を取得してもよい。この場合、第1評価値Ev(n、n+m(Z))は、第1比率ERa1(n、n+m(Z))および第2比率ERa2(n、n+m(Z))の双方が共に1に近ければ、最も高い値を示し、いずれか一方の比率が1よりも大きくなる、又は1よりも小さくなるにしたがい、値がより低下する。このように、積算値及びピーク値を用いた第1評価値Ev(n、n+m(Z))は、昼夜間のいずれの時間帯の計測処理にも適している。
取得部220Aは、例えば(7)乃至(9)式で示すように、第1評価値Ev(n、n+m(Z))に基づき、第1デジタル信号D(n)と第2デジタル信号D(n+m(Z))との間の重み値W(n、n+m(Z))を生成する。すなわち、(7)式は、第1比率ERa1(n、(n+m(Z))を用いて重み値W(n、n+m(Z))を生成する場合を示し、(8)式は、第2比率ERa2(n、n+m(Z))を用いて重み値W(n、n+m(Z))を生成する場合を示し、(9)式は、第1比率ERa1(n、n+m(Z))と第2比率ERa2(n、n+m(Z))とを用いて重み値W(n、n+m(Z))を生成する場合を示している。
Figure 0007111497000009
Figure 0007111497000010
Figure 0007111497000011
なお、(3)式又は(3-2)式により第1比率ERa1(n、n+m(Z))を演算する際に、累積値の代わりにデジタル信号のS/Nを表す信号である標準偏差、分散、振幅値、平均値からの差の絶対値の積算などを用いてもよい。すなわち、取得部220Aは、第1デジタル信号所定期間内におけるS/Nを表す信号である標準偏差、分散、振幅値、及び、平均値からの差の絶対値の積算値の内のいずれか一つを第1演算値として演算し、第2デジタル信号所定期間内におけるS/Nを表す信号である標準偏差、分散、振幅値、及び、平均値からの差の絶対値の積算値の内のいずれか一つを第2演算値として演算し、第1演算値と第2演算値の比率に基づいて、第2デジタル信号の重み値を生成してもよい。
ここで、関数F2(x)は、例えばXの単調増加関数であり、最大値が例えば1.0であり、最小値が0である。F3(x1、x2)は、第1比率ERa1(n、(n+m(Z))と、第2比率R2(n、n+m(Z))との2値関数であり、第1比率ERa1(n、(n+m(Z))と、第2比率ERa2(n、n+m(Z))との双方が共に1に近ければ、その値がより大きくなり、いずれか一方の比率が1よりも大きくなる、又は1よりも小さくなるにしたがい、その値がより小さくなる関数である。このように、取得部220Aは、第1デジタル信号D(n)と類似性の高い第2デジタル信号D(n+m(Z))の重み値W(n、n+m(Z))をより大きな値として生成する。
また、取得部220Aは、第1評価値Ev(n、n+m(Z))の取得に用いた第1比率ERa1(n、n+m(Z))又は、第2比率ERa2(n、n+m(Z))が所定の範囲を超える場合に、重み値を0にする。すなわち、重み値が0となった第2デジタル信号は累積されない。これにより、特性の相違が大きなデジタル信号の影響を抑制できる。なお、本実施形態に係る第1評価値Ev(n、n+m(Z))は、所定の時間範囲の累積値の比率、ピーク値の比率などに基づき取得されるが、これらに限定されず、デジタル信号間の類似性を示す数値であればよい。なお、第1、第2のデジタル信号の類似性を示す第1評価値Ev(n、n+m(Z))などを別の計算部やCPUで処理をしてもよい。
積算部220Bは、以下の式(6)に示すように、第1デジタル信号D(n)に、重み値W(n、n+m(Z))で第2デジタル信号D(n+m(Z))を重み付けした信号を累積させて第3デジタル信号Ad(n)を生成する。上述のように、Mは、第1照射方向に隣接する第2照射方向の数を示している。
Figure 0007111497000012
Figure 0007111497000013
また、取得部220Aは、(11)式に示す重み値の情報を画像処理装置400に出力する。この重み値の情報は、後述する信頼度の生成に用いることが可能である。
まず、図12に基づき、第1デジタル信号との類似性の高い第2デジタル信号を累積した第3デジタル信号について説明する。図12は、第1デジタル信号DEと第2デジタル信号DA(図8)とを重み付き累積をした場合を模式的に示す図である。
図12(A)は、計測対象物10の反射光L2に基づき得られた第1デジタル信号DEを模式的に示し、図12(B)は、計測対象物10の反射光L2に基づき得られた第2デジタル信号DAを模式的に示す。図12(C)は、第1デジタル信号DEと第2デジタル信号DAとを重み付き累積した第3デジタル信号を模式的に示す。ここでの第1デジタル信号DEと第2デジタル信号DAの類似性が高いので、重み値は例えば最大値1.0に近い値が付与されている。
図12(C)に示すように、計測対象物10からの反射光L2は、ほぼ同じサンプリングタイミングでサンプリングされるので、累積することで信号の強度が増加する。一方で、太陽光や、乱反射された光などのランダムなノイズは再現性がないため、累積により計測対象物10からの反射光L2と比較して相対的に低減される。信号値S12は、累積された時系列なデジタル信号の測定距離に対応する時点の値を示している。
次に、図13に基づき第1デジタル信号に類似性の低い第2デジタル信号を累積した第3デジタル信号について説明する。図13は、第1デジタル信号DEに第2デジタル信号DD(図8)を重み付き累積した場合を模式的に示す図である。図13(A)は、計測対象物10の反射光に基づき得られた第1デジタル信号DEを模式的に示し、図13(B)は、計測対象物10と異なる物体から反射した反射光に基づき得られた第2デジタル信号DDを模式的に示す。第1デジタル信号DEと第2デジタル信号DDとの類似性は低いので、重み値は例えば最小値0に近い値が付与されている。
このように、第1照射方向に照射されたレーザ光の反射光をデジタル化した第1デジタル信号と、第1照射方向とは異なる第2照射方向に照射されたレーザ光の反射光をデジタル化した第2デジタル信号と、の類似性に基づいて、第2デジタル信号の重み値を生成する。取得部220Aは、これにより、類似性が高い場合には、第2デジタル信号の重みを増すことができる。重み付けされた第2デジタル信号を第1デジタル信号に累積させて第3デジタル信号を生成することで、第3デジタル信号中のピーク位置のタイミングとレーザ光の照射タイミングとの時間差に基づいて、対象物までの距離をノイズに影響されることなく精度よく、かつ安定的に計測できる。
次に、図14に基づき画像処理装置400の詳細な構成を説明する。図14は、画像処理装置400の詳細な構成を示す図である。図14に示すように、画像処理装置400は、ノイズ低減処理を行うことが可能な装置であり、記憶部402と、画像処理部404とを備えて構成されている。
上述のように、第3デジタル信号Ad(n)(0≦n<N)のnは、レーザ光L1(n)の照射の順番を示している。ここでは、第3デジタル信号Ad(n)(0≦n<N)に基づき得られた測定距離Dis(n)(0≦n<N)をD(0≦i<N)と表記し、D(0≦i<N)は、2次元の距離画像を構成する画素値を示すこととする。すなわち、本実施形態に係る測定の順番nは、距離画像を構成する画素の順番iに対応する。
同様に、測定距離を示す画素値Di(0≦i<N)に対応する第3デジタル信号Ad(n)(0≦n<N)のピーク時の信号値をLi(0≦i<N)と表記することとする。同様に、(11)式で示した重み値W(n+m(Z))、(0≦n<N、0≦Z≦(M-1))を距離画像に対応する重み値W(i,j)、(0≦i<N、j∈A)により表記することとする。Aは後述する図16の中心画素MPから所定範囲A内を意味する。例えばW(i,j)、j∈Aと表記すると、画素iと画素jとの間の重み値を示し、jは中心画素iから所定範囲A内の画素を意味する。
記憶部402は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。記憶部402は、計測部300から供給された情報を記憶する。
記憶部402は、測定距離を示す画素値Di(0≦i<N)、測定距離Diに対応する信号値Li(0≦i<N)、第3デジタル信号Ad(i)(0≦i<N)を累積するために用いた重み値W(i,j)、(0≦i<N、j∈A)を計測部300から取得し、記憶している。
画像処理部404は、画像生成部406と、画像取得部408と、信頼度生成部410と、ノイズ低減処理部412と、画像評価部414とを有する。
画像生成部406は、記憶部402に記憶された情報に基づき、測定距離Di(0≦i<N)を画素値とする2次元の距離画像と、2次元の距離画像の画素毎に関連づけられた信号値Li(0≦i<N)の情報を生成し、記憶部402に出力する。
情報取得部408は、記憶部402から測定距離離Di(0≦i<N)を画素値とする2次元の距離画像と、2次元の距離画像の画素毎に関連づけられた信号値Li(0≦i<N)の情報とを、取得する。また、情報取得部408は、記憶部402から重み値W(i,j)、(0≦i<N、j∈A)を取得する。なお、情報取得部408は、ネットワークを介して、他の装置から2次元の距離画像と、2次元の距離画像の画素毎に関連づけられた信号値、重み値の情報を取得してもよい。
信頼度生成部410は、2次元の距離画像の画素毎に信頼度を生成する。この信頼度は、例えば値が小さくなるにしたがいその画素がノイズである可能性が高くなる。換言すると、信頼度は値が大きくなるにしたがいその画素がノイズでない可能性が高くなる。
図15Aは、2次元の距離画像の例を示す図である、領域1400は、空などのノイズ領域を示している。ここでは、濃淡で距離情報を示している。
図15Bは、領域1400の拡大図であり、領域1402は、ノイズがクラスタ化した領域である。すなわち、信頼度生成部410は、例えばこのようなノイズがクラスタ化した領域の信頼度が、概ね、ノイズではない他の領域よりも低くなるように信頼度を生成することが可能である。
上述の(10)式で示したように、第1デジタル信号D(n)に、重み値W(n、n+m(Z))で第2デジタル信号D(n+m(Z))(0≦Z≦(M-1))を重み付けした信号を累積させて第3デジタル信号Ad(n)を生成する。Mは、第1照射方向に隣接する第2照射方向の数を示している。このため、Mで示す重み値W(n、n+m(Z))(0≦Z≦(M-1))の範囲に強い輝度値を有するノイズNHが存在すると、ノイズNHを加算範囲とする複数の第3デジタル信号Adに強い輝度値を有するノイズNHが加算される。これにより、ノイズNHに起因するピーク値が複数の第3デジタル信号Adに生じてしまい、このピーク値が複数の第3デジタル信号Adそれぞれの測定距離として測定され、ノイズのクラスタ化が生じると考えられている
図16は、信頼度を計算する画素範囲を説明する図である。図16に示すように、画素範囲A内の画素が画素中心Mpの信頼度の生成に用いられる。この画素範囲Aは、例えば画素中心Mpの8隣接、24隣接などの範囲である。
図17は、クラスタサイズ及び輝度値と距離測定の成功率との関係を示すシミュレーション結果の図である。縦軸は、クラスタサイズを示し、横軸は輝度値を示す。より詳細には、2次元の距離画像の全画素i(0≦i≦N、Nは全画素数)に対して後述する(12)式、(13)式により算出したクラスタサイズNiと信号値Liとの組み合わせを求め、その組み合わせに対応する各画素i(0≦i≦N、Nは全画素数)が真の距離値である割合を測距成功率として示した図である。
例えばG5は測距成功率が90%のラインであり、G4は測距成功率が80%のラインであり、G3は測距成功率が70%のラインであり、G2は測距成功率が0%のラインである。ラインG1は信号値Lの2乗×N=定数としたラインであり、ラインG2~G5の傾向と一致している。なお、0%は測距可能な物体が存在しない場合(例えば空)に該当する。
ラインG5上のクラスタサイズと輝度の組み合わせの場合、ノイズでない可能性が90%であることを示し、ラインG4上のクラスタサイズと輝度の組み合わせの場合、ノイズでない可能性が80%であることを示し、ラインG3上のクラスタサイズと輝度の組み合わせの場合、ノイズでない可能性が70%であることを示し、ラインG2上のクラスタサイズと輝度の組み合わせの場合、ノイズでない可能性が0%であることを示している。この図17の矢印1700に示すように、右上に向かうほど、測距成功率が高くなる。信頼度は、輝度とクラスタサイズの大きさが大きくなるにしたがい、大きくなるべきことがわかる。
Figure 0007111497000014
P(i,j)は、画素jの距離Dと画素iの距離Dとの距離がk以内であれば1を示し、kより大きければ0を示す。例えばkは2メートルである。
Figure 0007111497000015
(13)式に示すよう、Nは、中心画素iから所定範囲A内(図16)の画素のうちで中心画素iの距離値Dと所定範囲K内の距離値Dを有する画素数を示す。Nは、クラスタサイズと呼ばれる。
信頼度生成部410は、画素iの第1信頼度R1(0≦i<N)を生成する。より詳細には、(14)式に示すように、画素iの第1信頼度R1(0≦i<N)は、中心画素iの信号値L(0≦i<N)に、(13)式で示す画素数Nの平方根を乗算した値である。すなわち、画素iの第1信頼度R1は、中心画素iから所定範囲A内、例えば8隣接、の画素のうちで中心画素iの距離値Dと所定範囲k((12)式)内の距離値Dを有する画素数Nと、中心画素iに対応する信号値Lとに基づく値である。
は、上述の測定距離の測定に用いた第3デジタル信号Ad(i)(0≦i<N)が複数のデジタルデータを累積していない場合、画素iに関連付けられた信号値Lそれ自体の値となる。
一方で、第3デジタル信号Ad(i)(0≦i<N)が複数のデジタルデータを累積している場合、信号値Lは、(15)式、又は(16)式で計算される。(15)式は、画素範囲A内の各画素に関連付けられた信号値Lを(12)式で示すP(i,j)で乗算した値をそれぞれ加算し、(13)式で示すNで除算した値である。この場合、(13)式で示す中心画素iから所定の範囲であるAは、例えば第3デジタル信号Ad(i)(0≦i<N)を累積したデジタル信号の範囲、すなわち重み値W(i,j)、(0≦i<N、j∈A)の範囲Aと一致する。
これにより、(15)式を(14)式に代入した信頼度R1(0≦i<N)は、中心画素iから所定範囲A内の画素のうちで中心画素iの距離値Dと所定範囲k((12)式)内の距離値Dを有する画素jに対応する信号値Lをそれぞれ加算した加算値を画素数Nで除算し、更に画素数Nの平方根を乗算した値となる。
(16)式に示すように更に係数C(i,j)を乗算してもよい。これにより、(16)式を(14)式に代入した信頼度R1は、中心画素iから所定範囲A内の画素のうちで中心画素iの距離値Dと所定範囲k((12)式)内の距離値Dを有する画素jに対応する信号値Lに所定の係数C(i,j)を乗算した乗算値をそれぞれ加算した加算値を、信号値Lに乗算した所定の係数C(i,j)をそれぞれ加算した加算値により除算し、更に画素数Nの平方根を乗算した値となる。
図18は、係数C(i,j)の配置パターン例を示す図である。中心画素iの係数を11bで示し、加算範囲A内の周辺画素の係数を01bで示している。例えば、係数11bは1であり、係数01bは、1、1/2、1/4などの中から選択される。
Figure 0007111497000016
Figure 0007111497000017
Figure 0007111497000018
Figure 0007111497000019
また、信頼度生成部410は、第2信頼度R2を生成する。(17)式に示すように、第2信頼度R2(0≦i<N)は、中心画素iから所定範囲A内の画素のうちで中心画素iの距離値Dと所定範囲k((12)式)内の距離値Dを有する画素jに対応する信号値Lのべき乗をそれぞれ加算した加算値に基づく値である。より具体的には、第2信頼度R2は、中心画素iから所定範囲A内の画素のうちで中心画素iの距離値Dと所定範囲k((12)式)内の距離値Dを有する画素jに対応する信号値Lのべき乗に所定の係数C(i,j)を乗算した値をそれぞれ加算した加算値に基づく値である。
図19は、第2信頼度R2に用いるC(i,j)の値の配置パターン例を示す図である。中心画素iの係数を11bで示し、加算範囲A内の周辺画素の係数を01bで示している。例えば、係数11bは1であり、係数を01bは、1、1/2、1/4などの中から選択される。00bは0であり、重み値W(i,j)、(0≦i<N、j∈A)を参照し、加算しなかったデジタル信号に対応する画素の係数を0としている。また、例えば図18で示した係数のパターンに重み値W(i,j)、(0≦i<N、j∈A)を乗算して係数のパターンとしてもよい。
Figure 0007111497000020
(18)式に示すよう、画素iの第3信頼度R0は、中心画素iの信号値Lである。
図14に示すように、ノイズ低減処理部412は、第1信頼度R1(0≦i<N)、第2信頼度R2(0≦i<N)を用いて距離画像のノイズ低減処理を行う。ノイズ低減処理部412は、例えば、ノイズ低減の失敗率が1%になる閾値を第1信頼度R1(0≦i<N)又は第2信頼度R2(0≦i<N)に設定し、閾値以下の信頼度の画素をノイズとして除去する。本実施形態にかかるノイズ低減処理部412の処理は、データの選択と棄却のみを行うため、実際に存在しないデータを生成する恐れが無く、より安全性の高いノイズ低減処理が可能である。
画像評価部414は、画像の画質を評価する。画像評価部414は、距離画像を構成する各画素i(0≦i≦N、Nは全画素数)の評価位置第1信頼度R1(0≦i<N)、第2信頼度R2(0≦i<N)の平均値を距離画像の画像評価値として生成する。この画像評価値により、距離画像の画質を客観的に評価可能となる。
図20は、各信頼度と失敗率1%ラインとの関係を示す図である。(a)は、第3信頼度R0((18)式)と失敗率1%ラインとの関係を示し、(b)は、第1信頼度R1((14)式)と失敗率1%ラインとの関係を示し、(c)は、第2信頼度R2((17)式)と失敗率1%ラインとの関係を示している。横軸は信頼度の値を示し、縦軸は失敗率を示している。失敗率1%ラインは、ノイズとして除去した画素の99%がノイズであることを示すラインである。すなわち、99%デノイズを行う場合の閾値に相当する。GL1は4画素平均の失敗率1%ラインであり、GL2は9画素平均の失敗率1%ラインであり、GL3は16画素平均の失敗率1%ラインであり、GL4は25画素平均の失敗率1%ラインである。
(a)に示すように、第3信頼度R0を用いた場合には、平均化した画素数に依存して失敗率1%ラインの値が変動する。換言すると第3信頼度R0は、クラスタリングの影響を受けてしまう。なお、第3信頼度R0は、所謂信頼性を示している。
一方で、第1信頼度R1、第2信頼度R2はクラスタリングの原因である測定用のデジタル信号の積算範囲の広狭、すなわち平均化の強弱に依存しないことがわかる。なお、積算範囲を1とした場合、例えば第3デジタル信号Ad(n)の累積範囲が1、つまり累積していない場合、第1信頼度R1、第2信頼度R2は、第3信頼度R0と一致する。
図21は、信頼度に基づき、99%のデノイズを行った結果の測距成功率を示す図である。縦軸は測距成功率を示し、横軸は測定距離を示す。実線の丸印が第3信頼度R0を用いた場合の測距成功率を示し、点線の三角印が第1信頼度R1を用いた場合の測距成功率を示し、実線の四角印が第2信頼度R2を用いた場合の測距成功率を示し、実線の一回り大きな四角印がセカンドリターンによる第2信頼度R2を用いた場合の測距成功率を示し、点線の丸印がデノイズを行わない場合の測距成功率を示している。成功率90%を測距可能条件とした場合、測距可能距離は、第1信頼度R1、第2信頼度R2を用いると、信頼度R0を用いる場合の2倍程度になることが分かる。セカンドリターンは、第3デジタル信号Ad(i)((10)式)の2番目に大きなピーク信号を意味する。セカンドリターンによる距離値D2(0≦i<N)と信号値L2(0≦i<N)を用いて、第1信頼度R1、第2信頼度R2を演算することも可能である。
図22は、ノイズ除去前が成功率90%の距離画像を対象とし、ノイズ低減処理部412がノイズ低減処理を行って、ノイズを除去した後の測距成功率を示す図である。縦軸は測距成功率を示し、横軸は、第1信頼度R1、第2信頼度R2を演算するために用いた画素範囲A内の画素数を示す。実線の丸印が第3信頼度R0を用いた場合の測距成功率を示し、点線の三角印が第1信頼度R1を用いた場合の測距成功率を示し、実線の四角印が第2信頼度R2を用いた場合の測距成功率を示し、実線の一回り大きな四角印がセカンドリターンによる第2信頼度R2を用いた場合の測距成功率を示し、点線の丸印がデノイズを行わない場合の測距成功率を示している。デノイズを行わない場合は、元の距離画像を示すので、成功率は90%となる。すなわち距離画像の全画素中のノイズでない画素が90%であることを示している。
図22に示すように、比較対象とする第3信頼度R3を用いたノイズ低減処理と比較すると、第1信頼度R1、第2信頼度R2を用いたノイズ低減処理では成功率が飛躍的に向上する。セカンドリターンによる第1信頼度R1、第2信頼度R2を併用することにより、成功率をさらに向上させることが可能となる。
図23は、ノイズ低減処理部412がノイズ低減処理を行った図である。上側の図(a)、(c)は第3信頼度R0を用いて99%デノイズを行った例であり、下側の図(b)、(d)は第1信頼度R1を用いて99%デノイズを行った例である。第1信頼度R1を用い場合には、第3信頼度R0を用いた場合と比較して、遠くの物体(車など)が明瞭に検出されることがわかる。
本実施形態においては、画像処理部404は、例えば、プロセッサにより構成される。ここで、プロセッサという文言は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、或いは、特定用途向け集積回路(Application Specific Integrated Circuit: ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device: SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device: CPLD)、及び、フィールドプログラマブルゲートアレイ(Field Programmable Gate Array: FPGA)等の回路を意味する。プロセッサは、記憶部402に保存されたプログラムを読み出して実行することにより画像生成部406と、情報取得部408と、信頼度生成部410と、ノイズ低減処理部412と、画像評価部414とを実現する。なお、記憶部402にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成して構わない。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。なお、プロセッサは、プロセッサ単一の回路として構成されている場合に限らず、複数の独立した回路を組み合わせて、1つのプロセッサとして構成し、その機能を実現するようにしてもよい。さらに、図14における複数の構成要素を1つのプロセッサへ統合して、その機能を実現するようにしてもよい。また、画像生成部406と、情報取得部408と、信頼度生成部410と、ノイズ低減処理部412と、画像評価部414とを独立した回路で構成してもよい。また、本実施形態に係る画像処理部404の処理は、高速なHWとして実装可能なため、障害物検知の様な、緊急性の高い応用にも使用可能となる。図14における複数の構成要素を1つのプロセッサへ統合した場合、例えば回路規模は113Kgatesであり、消費電力は15.8mW(20ch)で構成可能である。28nmの場合、1.2mm/1484Kgates(16ch)を113Kgatesとすると、0.098mm、例えば実質サイズ3.1×2.9mmとなる。
以上が本実施形態に係る構成の説明であるが、以下に本実施形態に係る距離計測システム2の動作例を詳細に説明する。
図24は、本実施形態による距離計測システム2の処理動作を説明するフローチャートであり、図24に基づき、距離計測システム2の距離計測装置5及び画像処理装置400における全体の処理動作を説明する。
まず、出射部100内の制御部16は、nに0を設定し、第2駆動回路16aを制御してミラー15の位置を照射方向O(n)に向けて変更する(ステップS100、S102)。
次に、制御部16は、発振器11a及び第1駆動回路11bを制御してレーザ光L1(n)を発光させる(ステップS104)。
次に、受光光学系の光軸O2に沿って進行する反射光L2(n)は、ミラー15、第2光学素子14、及びレンズ18aを介してセンサ18に受光され、電気信号に変換される(ステップS106)。
次に、AD変換部20は、反射光L2(n)に対応する電気信号のサンプリングを行い、制御部16は、照射方向O(n)に対応させたデジタル信号D(n)を時系列に記憶部21に記憶させる(ステップS108)。
次に、制御部16は、nがN以下であるか否かを判定し(ステップS110)、nがN以下である場合(ステップS110のYES)、nに1を追加し(ステップS108)、ステップS102からの処理を繰り返す。
一方で、nがNより大きくなった場合(ステップS110のNO)、計測処理部22は、
nに0を設定し、記憶部21に記憶されるデジタル信号D(n)の第3デジタル信号Ad(n)を取得する(ステップS114、S116)。続けて、計測処理部22は、重み値W(n+m(Z))、(0≦Z≦(M-1))を画像処理装置400に供給する。
次に、計測処理部22は、第3デジタル信号Ad(n)に基づく照射方向O(n)における計測対象物10までの距離Dis(n)を計測し、画像処理装置400に距離Dis(n)とピーク値の輝度信号L(n)を供給する(ステップS118)。
次に、計測処理部22は、nがN以下であるか否かを判定し(ステップS120)、nがN以下の場合(ステップS120のYES)、nに1を追加し(ステップS122)、(ステップS116)からの処理を繰り返す。
一方で、nがNより大きくなった場合(ステップS120のNO)、画像処理装置400の画像生成部406は、記憶部402から取得した距離Dis(n)、輝度信号L(n)(0≦n≦N)に基づき、2次元の距離画像と、2次元の距離画像の各画素nに対応する信号として輝度信号L(n)の情報を関連付けた信号情報とを生成記憶部402に供給する(ステップS124)。
次に、情報取得部408は、記憶部402から2次元の距離画像、2次元の距離画像の各画素nに対応する輝度信号L(n)(0≦n≦N)と、重み値W(n+m(Z))、(0≦n<N、0≦Z≦(M-1))を取得し、信頼度生成部410に供給する。信頼度生成部410は、2次元の距離画像距離の画素値であるDis(n)(0≦n≦N)、輝度信号L(n)(0≦n≦N)と、重み値W(n+m(Z))、(0≦n<N、0≦Z≦(M-1))に基づき、第1信頼度R1(n)、第2信頼度R2(n)を生成する(ステップS126)。ここでは、R1(0≦i<N)をR1(n)(0≦n<N)、R2(0≦i<N)をR2(n)(0≦n<N)と表記することとする。
次に、ノイズ低減処理部412は、第1信頼度R1(n)および第2信頼度R2(n)の内の一方を用いて距離画像からノイズを低減、すなわち除く処理を行い(ステップS128)、全体処理を終了する。
このように、まず、距離計測装置5は、レーザ光L1(n)(0≦n≦N)のデジタル信号D(n)(0≦n≦N)のサンプリングを行う。その後に、デジタル信号D(n)(0≦n≦N)の重み付き累積値である第3デジタル信号Ad(n)(0≦n≦N)を取得しつつ、Ad(n)(0≦n≦N)に基づく距離Dis(n)(0≦n≦N)を計測する。そして、画像処理装置400の信頼度生成部410は、距離Dis(n)(0≦n≦N)、輝度信号L(n)(0≦n≦N)と、重み値W(n+m(Z))、(0≦n<N、0≦Z≦(M-1))に基づき、第1信頼度R1(n)、第2信頼度R2(n)を生成する。そして、ノイズ低減処理部412は、第1信頼度R1(n)および第2信頼度R2(n)の内の一方を用いて距離画像からノイズを低減する。
以上のように本実施形態に係る画像処理装置400によれば、信頼度生成部410が、2次元の距離画像の画素i毎に、各画素iを中心画素とし、中心画素iから所定範囲A内の画素jのうちで中心画素iの距離値Dと所定範囲k内の距離値を有する画素jの画素数Niと、中心画素iに対応する信号値Liとに基づく信頼度R1、R2を生成することとした。これにより、クラスタ化したノイズを含む2次元の距離画像中の画素毎の信頼度をより高精度に生成することができる。
(一実施形態の第1変形例)
一実施形態の第1変形例は、ノイズ低減処理にニューラルネットを用いることで、一実施形態と相違する。図25は、第1変形例に係る画像処理装置400Bの構成を示す図である。ノイズ低減処理部412の代わりにニューラルネット処理部416を備える点で一実施形態と相違する。
ニューラルネット処理部416は、所謂ディープラーニングにより学習されたニューラルネットワーク(DNN)である。このDNNは、入力データとして、ノイズの位置が分かっている距離画像と、その第1信頼度R1および第2信頼度R2の内の一方のデータを与え、正解としてノイズ位置を与えて学習したものである。
ニューラルネット処理部416は、画像生成部で生成された距離画像と、信頼度生成部で生成された第1信頼度R1および第2信頼度R2の内の一方が入力されるとノイズの位置と、ノイズ低減処理を施した距離画像とを出力する。
以上のように一実施形態の第1変形例は、入力データとして、ノイズの位置が分かっている距離画像と、その信頼度のデータを与え、正解としてノイズ位置を与えて学習したDNNによりノイズ低減処理を行うこととした。これにより、信頼度の閾値を設定せずともノイズ低減処理を行うことが可能となる。
以上、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施することが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形例は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1:運転支援システム、2:距離計測システム、5:距離計測装置、10:計測対象物、11:光源、15:ミラー、18:センサ、20:AD変換部、21:記憶部、202:照射光学系、204:受光光学系、220:積算処理部、220A:取得部、220B:積算部、222:距離計測部、400、400B:画像処理装置、408:情報取得部、410:信頼度生成部、412:ノイズ低減処理部、416:ニューラルネット処理部

Claims (15)

  1. 測定距離を画素値とする2次元の距離画像と、前記2次元の距離画像における画素毎の前記測定距離に対応する信号値に関する信号情報と、を取得する情報取得部と、
    前記2次元の距離画像内の対象画素を中心画素とし、前記中心画素から所定範囲内の画素のうちで前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数と、前記中心画素に対応する前記信号値とに基づく信頼度を生成する信頼度生成部と、
    を備え、
    前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数が同じ場合に、第1の大きさの前記信号値に基づいて生成される前記信頼度は、前記第1の大きさよりも小さい第2の大きさの前記信号値に基づいて生成される前記信頼度以上の大きさとなることを特徴とする、画像処理装置。
  2. 前記信頼度は、前記中心画素の前記信号値に、前記中心画素の距離値と所定範囲内の距離値を有する画素の画素数の平方根を乗算した値である、請求項1に記載の画像処理装置。
  3. 前記信頼度は、前記所定範囲内の距離値を有する画素に対応する前記信号値をそれぞれ加算した加算値を前記中心画素の距離値と前記所定範囲内の距離値を有する画素の画素数で除算し、更に前記画素数の平方根を乗算した値である、請求項1に記載の画像処理装置。
  4. 前記信頼度は、前記所定範囲内の距離値を有する画素に対応する前記信号値に所定の係数を乗算した乗算値をそれぞれ加算した加算値を、前記信号値に乗算した前記所定の係数をそれぞれ加算した加算値により除算し、更に前記所定範囲内の距離値を有する画素の画素数の平方根を乗算した値である、請求項1に記載の画像処理装置。
  5. 前記信頼度は、前記所定範囲内の距離値を有する画素に対応する前記信号値のべき乗をそれぞれ加算した加算値に基づく、請求項1に記載の画像処理装置。
  6. 前記信頼度は、前記所定範囲内の距離値を有する画素に対応する前記信号値のべき乗に所定の係数を乗算した値をそれぞれ加算した加算値に基づく、請求項1に記載の画像処理装置。
  7. 前記信号値は、複数の時系列なデジタル信号を重み値に基づき累積した時系列なデジタル信号の前記測定距離に対応する時点の値であり、
    前記係数は前記重み値に基づく値である、請求項6に記載の画像処理装置。
  8. 前記信頼度は、前記加算値の平方根に基づく、請求項5に記載の画像処理装置。
  9. 前記信頼度に基づき、ノイズ低減処理を行うノイズ低減処理部を更に備える、請求項1乃至8のいずれか一項に記載の画像処理装置。
  10. 前記信頼度に基づき、前記距離画像の評価を行う画像評価部を更に備える、請求項1乃至9のいずれか一項に記載の画像処理装置。
  11. 前記信頼度に基づき、所定の結果を出力するニューラルネット型のニューラルネット処理部を更に備える、請求項1乃至8のいずれか一項に記載の画像処理装置。
  12. 測定距離を画素値とする2次元の距離画像と、前記2次元の距離画像における画素毎の前記測定距離に対応する信号値に関する信号情報と、を取得する情報取得工程と、
    前記2次元の距離画像内の対象画素を中心画素とし、前記中心画素から所定範囲内の画素のうちで前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数と、前記中心画素に対応する前記信号値とに基づく信頼度を生成する信頼度生成工程と、
    を備え、
    前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数が同じ場合に、第1の大きさの前記信号値に基づいて生成される前記信頼度は、前記第1の大きさよりも小さい第2の大きさの前記信号値に基づいて生成される前記信頼度以上の大きさとなることを特徴とする、画像処理方法。
  13. 第1照射方向に照射されたレーザ光の反射光をデジタル化した第1デジタル信号と、前記第1照射方向とは異なる第2照射方向に照射されたレーザ光の反射光をデジタル化した第2デジタル信号との類似性に基づいて、前記第2デジタル信号の重み値を取得する取得部と、
    前記第1デジタル信号に、前記重み値で前記第2デジタル信号を重み付けした信号を累積させて第3デジタル信号を生成する積算部と、
    前記レーザ光の照射タイミングと、前記第3デジタル信号中のピーク位置のタイミングとの時間差に基づいて、対象物までの距離値を得るとともに、前記第3デジタル信号中のピーク位置に対応する信号値とを得る距離計測部と、
    前記第1照射方向を変更する制御部と、
    前記距離値を画素値とする2次元の距離画像と、前記2次元の距離画像における画素毎の前記距離値に対応する前記信号値に関する信号情報と、を取得する情報取得部と、
    前記2次元の距離画像内の対象画素を中心画素とし、前記中心画素から所定範囲内の画素のうちで前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数と、前記中心画素に対応する前記信号値とに基づく信頼度を生成する信頼度生成部と、
    を備え、
    前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数が同じ場合に、第1の大きさの前記信号値に基づいて生成される前記信頼度は、前記第1の大きさよりも小さい第2の大きさの前記信号値に基づいて生成される前記信頼度以上の大きさとなることを特徴とする、距離計測装置。
  14. 距離計測装置と画像処理装置とを備える距離計測システムであって、
    前記距離計測装置は、
    第1照射方向に照射されたレーザ光の反射光をデジタル化した第1デジタル信号と、前記第1照射方向とは異なる第2照射方向に照射されたレーザ光の反射光をデジタル化した第2デジタル信号との類似性に基づいて、前記第2デジタル信号の重み値を取得する取得部と、
    前記第1デジタル信号に、前記重み値で前記第2デジタル信号を重み付けした信号を累積させて第3デジタル信号を生成する積算部と、
    前記レーザ光の照射タイミングと、前記第3デジタル信号中のピーク位置のタイミングとの時間差に基づいて、対象物までの距離値を得るとともに、前記第3デジタル信号中のピーク位置に対応する信号値とを得る距離計測部と、
    前記第1照射方向を変更する制御部と、
    を有し、
    前記画像処理装置は、
    前記距離値を画素値とする2次元の距離画像と、前記2次元の距離画像における画素毎の前記距離値に対応する前記信号値に関する信号情報と、を取得する情報取得部と、
    前記2次元の距離画像内の対象画素を中心画素とし、前記中心画素から所定範囲内の画素のうちで前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数と、前記中心画素に対応する前記信号値とに基づく信頼度を生成する信頼度生成部と、
    有し、
    前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数が同じ場合に、第1の大きさの前記信号値に基づいて生成される前記信頼度は、前記第1の大きさよりも小さい第2の大きさの前記信号値に基づいて生成される前記信頼度以上の大きさとなることを特徴とする、距離計測システム。
  15. 測定距離を画素値とする2次元の距離画像と、前記2次元の距離画像における画素毎の前記測定距離に対応する信号値に関する信号情報と、を取得する情報取得部と、
    前記2次元の距離画像内の対象画素を中心画素とし、前記中心画素から所定範囲内の画素のうちで前記中心画素の距離値に対して所定範囲内の距離値を有する画素の画素数と、前記中心画素に対応する前記信号値とに基づく信頼度を生成する信頼度生成部と、
    を備え、
    前記信頼度の値は、前記中心画素の前記信号値が同じなら、前記画素数が増加するに従い高くする、画像処理装置。
JP2018079090A 2018-04-17 2018-04-17 画像処理装置、画像処理方法、距離計測装置、及び距離計測システム Active JP7111497B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018079090A JP7111497B2 (ja) 2018-04-17 2018-04-17 画像処理装置、画像処理方法、距離計測装置、及び距離計測システム
CN201910147861.5A CN110389334B (zh) 2018-04-17 2019-02-28 图像处理装置、图像处理方法以及距离测量系统
EP19162160.6A EP3557281A1 (en) 2018-04-17 2019-03-12 Distance measurement processing device, image processing method, and distance measuring system
US16/351,983 US11513221B2 (en) 2018-04-17 2019-03-13 Distance measurement processing device, image processing method, and distance measuring system comprising a reliability-degree generation circuit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018079090A JP7111497B2 (ja) 2018-04-17 2018-04-17 画像処理装置、画像処理方法、距離計測装置、及び距離計測システム

Publications (2)

Publication Number Publication Date
JP2019184545A JP2019184545A (ja) 2019-10-24
JP7111497B2 true JP7111497B2 (ja) 2022-08-02

Family

ID=65766909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018079090A Active JP7111497B2 (ja) 2018-04-17 2018-04-17 画像処理装置、画像処理方法、距離計測装置、及び距離計測システム

Country Status (4)

Country Link
US (1) US11513221B2 (ja)
EP (1) EP3557281A1 (ja)
JP (1) JP7111497B2 (ja)
CN (1) CN110389334B (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7317530B2 (ja) 2019-03-14 2023-07-31 株式会社東芝 距離計測装置、距離計測方法、及び信号処理方法
US11448503B2 (en) * 2019-06-12 2022-09-20 Microsoft Technology Licensing, Llc Correction for pixel-to-pixel signal diffusion
JP7425702B2 (ja) * 2020-09-17 2024-01-31 株式会社東芝 距離計測装置、及び距離計測方法
JP7434128B2 (ja) * 2020-09-18 2024-02-20 株式会社東芝 距離計測装置
JP7423485B2 (ja) 2020-09-18 2024-01-29 株式会社東芝 距離計測装置
CN112365741B (zh) * 2020-10-23 2021-09-28 淮阴工学院 一种基于多车道车距检测的安全预警方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010164463A (ja) 2009-01-16 2010-07-29 Mitsubishi Electric Corp レーザ3次元画像計測装置
US20140313527A1 (en) 2012-06-25 2014-10-23 Yoldas Askan Method of generating a smooth image from point cloud data
JP2018136896A (ja) 2017-02-24 2018-08-30 キヤノン株式会社 情報処理装置、システム、情報処理方法、および物品の製造方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4727388B2 (ja) * 2005-10-28 2011-07-20 セコム株式会社 侵入検知装置
JP5323320B2 (ja) * 2006-07-19 2013-10-23 有限会社シマテック 表面検査装置
EP2240798B1 (en) * 2008-01-30 2016-08-17 Heptagon Micro Optics Pte. Ltd. Adaptive neighborhood filtering (anf) system and method for 3d time of flight cameras
JP5624998B2 (ja) 2009-12-25 2014-11-12 本田技研工業株式会社 画像処理装置、画像処理方法、コンピュータプログラム及び移動体
JP5804467B2 (ja) 2010-03-31 2015-11-04 北陽電機株式会社 信号処理装置、及び走査式測距装置
JP5138119B2 (ja) * 2011-04-25 2013-02-06 三洋電機株式会社 物体検出装置および情報取得装置
JP2014035302A (ja) * 2012-08-09 2014-02-24 Panasonic Corp 対象物検出装置、対象物検出方法、プログラム
KR20150037366A (ko) * 2013-09-30 2015-04-08 삼성전자주식회사 깊이 영상의 노이즈를 저감하는 방법, 이를 이용한 영상 처리 장치 및 영상 생성 장치
KR20160130234A (ko) * 2014-03-06 2016-11-10 퀄컴 인코포레이티드 다중-스펙트럼 초음파 이미징
JP6328966B2 (ja) 2014-03-17 2018-05-23 スタンレー電気株式会社 距離画像生成装置、物体検出装置および物体検出方法
JP6700818B2 (ja) * 2016-02-03 2020-05-27 キヤノン株式会社 画像処理装置、撮像装置、および画像処理方法
US10739456B2 (en) * 2016-06-17 2020-08-11 Kabushiki Kaisha Toshiba Distance measuring device
JP6845774B2 (ja) 2017-09-15 2021-03-24 株式会社東芝 距離計測装置
US11747452B2 (en) * 2017-11-22 2023-09-05 Sony Semiconductor Solutions Corporation Distance measuring device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010164463A (ja) 2009-01-16 2010-07-29 Mitsubishi Electric Corp レーザ3次元画像計測装置
US20140313527A1 (en) 2012-06-25 2014-10-23 Yoldas Askan Method of generating a smooth image from point cloud data
JP2018136896A (ja) 2017-02-24 2018-08-30 キヤノン株式会社 情報処理装置、システム、情報処理方法、および物品の製造方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
大石 修士 ほか3名,レーザ反射強度を用いた距離画像の平滑化,情報処理学会 画像の認識・理解シンポジウム(MIRU2011)論文集,2011年07月20日,第1292-1297頁

Also Published As

Publication number Publication date
CN110389334B (zh) 2023-05-16
US11513221B2 (en) 2022-11-29
EP3557281A1 (en) 2019-10-23
CN110389334A (zh) 2019-10-29
US20190317213A1 (en) 2019-10-17
JP2019184545A (ja) 2019-10-24

Similar Documents

Publication Publication Date Title
JP7111497B2 (ja) 画像処理装置、画像処理方法、距離計測装置、及び距離計測システム
US10473785B2 (en) Distance measuring device
US20150204977A1 (en) Object detection device and sensing apparatus
KR20180073571A (ko) 물체까지의 거리를 결정하기 위한 시스템 및 방법
JP2020003446A (ja) 光測距装置
JP2007279017A (ja) レーダ装置
US10757336B2 (en) Image capturing apparatus, image capturing method, and storage medium
US20130235364A1 (en) Time of flight sensor, camera using time of flight sensor, and related method of operation
US11961306B2 (en) Object detection device
CN111812661A (zh) 一种距离测量方法及系统
US20210063575A1 (en) Distance measuring device, distance measuring method, and speed measuring device
US20220221584A1 (en) Laser radar and method for generating laser point could data
US20210026012A1 (en) Distance measuring device, and distance measuring method
US11619720B2 (en) Distance measuring device, distance measuring method, and signal processing method
US20210088660A1 (en) Distance measuring device and distance measuring method
JP2020067388A (ja) 異常検出装置と異常検出方法およびプログラムと測距装置
CN108120990B (zh) 一种提高距离选通夜视仪测距精度的方法
CN114829968A (zh) 具有多范围通道的lidar
US20230120836A1 (en) Semiconductor device
JP2016047102A (ja) 光音響画像化装置
CN112887627B (zh) 增加LiDAR设备动态范围的方法、光检测测距LiDAR设备及机器可读介质
JP7425702B2 (ja) 距離計測装置、及び距離計測方法
CN112887628B (zh) 光探测和测距设备及增加其动态范围的方法
EP4343681A1 (en) Optical image processing method, machine learning method, trained model, machine learning pre-processing method, optical image processing module, optical image processing program, and optical image processing system
US20230384432A1 (en) Distance image generation device and distance image generation method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220721

R150 Certificate of patent or registration of utility model

Ref document number: 7111497

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150