JPWO2017169782A1 - 距離画像処理装置、距離画像取得装置、及び距離画像処理方法 - Google Patents

距離画像処理装置、距離画像取得装置、及び距離画像処理方法 Download PDF

Info

Publication number
JPWO2017169782A1
JPWO2017169782A1 JP2018508994A JP2018508994A JPWO2017169782A1 JP WO2017169782 A1 JPWO2017169782 A1 JP WO2017169782A1 JP 2018508994 A JP2018508994 A JP 2018508994A JP 2018508994 A JP2018508994 A JP 2018508994A JP WO2017169782 A1 JPWO2017169782 A1 JP WO2017169782A1
Authority
JP
Japan
Prior art keywords
distance
pixel
value
unit
distance image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018508994A
Other languages
English (en)
Other versions
JP6630432B2 (ja
Inventor
善工 古田
善工 古田
智行 河合
智行 河合
智紀 増田
智紀 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2017169782A1 publication Critical patent/JPWO2017169782A1/ja
Application granted granted Critical
Publication of JP6630432B2 publication Critical patent/JP6630432B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/487Extracting wanted echo signals, e.g. pulse detection
    • G01S7/4876Extracting wanted echo signals, e.g. pulse detection by removing unwanted signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/491Details of non-pulse systems
    • G01S7/493Extracting wanted echo signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/30Noise filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • G06T2207/20032Median filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/12Acquisition of 3D measurements of objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

近距離測定の場合に高精度且つ高視認性の距離画像を取得することができる距離画像処理装置、距離画像取得装置、及び距離画像処理方法を提供する。距離画像の複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別する第1の判別部(52)と、第1の判別部(52)により判別された異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別する第2の判別部(54)と、第1の異常画素の距離値を一定値に変更するクリップ処理部(56)を備える。

Description

本発明は、光の飛行時間に対応した複数の距離値を含む距離画像に対する処理を行う距離画像処理装置、距離画像取得装置、及び距離画像処理方法に関し、特に近距離測定の場合に高精度且つ高視認性の距離画像を取得することを可能にする技術に関する。
発光部から発光して測距領域で反射された光をレンズにより撮像部の受光面に導き、その撮像部の撮像結果に基づいて、発光から受光までの光の飛行時間(TOF: time of flight)に対応した複数ポイントの距離値を算出し、視認可能な距離画像を取得するTOF方式の測距技術が知られている。
特許文献1には、TOF方式の測距において、近距離範囲を超えた距離値を排除することが記載されている。
特許文献2には、TOF方式の測距において、対象物の大きさに応じて平滑化フィルタのパラメータを決定し、距離画像の画素値を平滑化することが記載されている。
特許文献3には、TOF方式の測距において、多重反射の問題に対し、距離画像及び表面形状情報(表面の法線の方位角である)を同時に取得し、距離画像のうち距離値が空間的に不連続であり且つ表面形状が連続した領域を外乱領域と判定して除去し、その周囲の画素の距離値の中央値で補完することが記載されている。
特開平7−71957号公報 特開2015−175752号公報 特開2010−256138号公報
TOF方式の測距では、多重反射に起因して正しい距離値を得られない場合がある。特に距離の測定範囲が近距離に限定されている場合、多重反射に起因した距離値の異常が顕著になる。例えば、TOF方式の測距を内視鏡装置に適用して距離画像を取得した場合、数十cm程度の測定距離範囲に対して、距離画像内に遠距離を示す外れ値が多数発生してしまうことがある。また、距離値の異常の発生原因は多重反射だけではなく、例えば高感度撮像の場合、距離画像内に電気的要因の微小ノイズの発生が顕著になる。
特許文献1には、近距離範囲を超えた距離値を排除することが記載されているにすぎない。
特許文献2には、距離画像の画素値を平滑化するノイズ除去技術が記載されているにすぎない。従って、近距離測定の場合には、多重反射に起因した距離値の異常が顕在化するため、高精度且つ高視認性の距離画像を出力できない可能性がある。なぜなら、多重反射に因り周辺の画素の半数以上が異常値を持つような場合には、異常値を周辺の画素の距離値に基づいて平滑化しても適切な値に補正できないからである。
特許文献3の技術では、距離画像を取得するための第1の撮像手段だけでなく、表面形状情報を取得するための第2の撮像手段が必要であるため、装置サイズ及び装置コストが増大する。また、多重反射が顕著である場合、高視認性の距離画像を出力できない可能性がある。なぜなら、多重反射に因り周辺の画素の半数以上が異常値を持つような場合には、外乱領域と判定された領域を周辺の画素の中央値で補完しても適切な距離値で補完できないからである。
上述の特許文献1〜3には、距離画像のみに基づいて多重反射に起因した異常画素と電気的要因の微小ノイズ画素とを判別する技術が開示されておらず、また、多重反射に起因した異常画素と微小ノイズ画素とで画像処理を異ならせて高視認性の距離画像を提示するための技術についても開示されていない。従って、仮に上述の複数の従来技術を組み合わせることができたとしても、高精度且つ高視認性の距離画像を取得することは困難であるといえる。
本発明はこのような事情に鑑みてなされたもので、近距離測定の場合に高精度且つ高視認性の距離画像を取得することを可能にする距離画像処理装置、距離画像取得装置、及び距離画像処理方法を提供することを目的とする。
上述した目的を達成するため、本発明の第1の態様に係る距離画像処理装置は、発光から受光までの光飛行時間に対応した距離値を持つ複数の画素によって構成された距離画像を入力する距離画像入力部と、複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別する第1の判別部と、第1の判別部により判別された異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別する第2の判別部と、第1の異常画素の距離値を一定値に変更するクリップ処理部と、を備える。
本態様によれば、複数の画素のうち一定の距離範囲を超えた距離値を持つ画素が異常画素と判別され、更に連続している第1の異常画素であると判別された場合に第1の異常画素の距離値が一定値に変更されるので、近距離測定で多重反射が顕在化した場合に従来よりも高精度且つ高視認性の距離画像を取得することが可能になる。
本発明の第2の態様に係る距離画像処理装置では、一定値は、一定の距離範囲の上限値であり、クリップ処理部は、第1の異常画素の距離値を距離範囲の上限値に変更する。本態様によれば、近距離測定で多重反射が顕在化した場合に、多重反射に因る外れ値が測定範囲である一定の距離範囲の上限値にクリップされるので、見易い距離画像を取得することが可能になる。
本発明の第3の態様に係る距離画像処理装置は、第2の異常画素の距離値を第2の異常画素の周辺にある画素の距離値に基づいて変更するノイズ処理部を備える。本態様によれば、多重反射に因る異常値の発生と共に、例えば高感度撮像に因る微小ノイズの発生が顕在化した場合に、微小ノイズの画素は周辺の画素の距離値に基づいて変更されるので、更に高精度且つ高視認性の距離画像を取得することができる。
本発明の第4の態様に係る距離画像処理装置では、第2の判別部は、第1の判別部により判別された各異常画素を基準とした一定サイズの領域内の異常画素の画素数に基づいて、第1の異常画素であるか否かの判別を行う。本態様によれば、多重反射に因る異常画素を適切に判別することが可能になる。
本発明の第5の態様に係る距離画像処理装置では、第2の判別部は、距離範囲の上限値に応じて、第1の異常画素であるか否かの判別に用いる閾値を切り換える。
本発明の第6の態様に係る距離画像処理装置では、第2の判別部は、距離画像を取得した際の撮像感度に応じて、第1の異常画素であるか否かの判別に用いる閾値を切り換える。
本発明の第7の態様に係る距離画像処理装置は、一定値の設定入力を受け付ける設定入力部を備える。
本発明の第8の態様に係る距離画像処理装置では、ノイズ処理部は、平滑化フィルタ、又はメディアンフィルタを用いてノイズ処理を行う。
本発明の第9の態様に係る距離画像取得装置は、距離画像の複数の画素をそれぞれの距離値に応じた色で表示デバイスに表示させる表示制御部を備える。
本発明の第10の態様に係る距離画像取得装置は、光を発光する発光部と、複数の受光素子が配列された受光面を有する撮像部と、発光部から発光されて測距領域で反射された光を撮像部の受光面に導く光学系と、撮像部の撮像結果に基づいて、発光部の発光から撮像部の受光面までの光飛行時間に対応した距離値を持つ複数の画素によって構成された距離画像を生成する距離画像生成部と、複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別する第1の判別部と、第1の判別部により判別された異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別する第2の判別部と、第1の異常画素の距離値を一定値に変更するクリップ処理部と、を備える。
本発明の第11の態様に係る距離画像取得装置では、一定値は、一定の距離範囲の上限値である。
本発明の第12の態様に係る距離画像取得装置は、第2の異常画素の距離値を第2の異常画素の周辺にある画素の距離値に基づいて変更するノイズ処理部を備える。
本発明の第13の態様に係る距離画像処理方法は、発光から受光までの光飛行時間に対応した距離値を持つ複数の画素によって構成された距離画像を入力するステップと、複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別するステップと、判別された異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別するステップと、第1の異常画素の距離値を一定値に変更するステップと、を含む。
本発明の第14の態様に係る距離画像処理方法では、一定値は、一定の距離範囲の上限値である。
本発明の第15の態様に係る距離画像処理方法は、第2の異常画素の距離値を第2の異常画素の周辺にある画素の距離値に基づいて変更するステップを含む。
本発明よれば、近距離測定の場合に高精度且つ高視認性の距離画像を取得することが可能になる。
図1は、第1の実施形態における距離画像取得装置及び距離画像処理装置を含むシステムの構成例を示すブロック図である。 図2は、第1の実施形態における距離画像処理例の流れを示すフローチャートである。 図3は、多重反射画素及びノイズ画素を含む距離画像の一例を示す。 図4は、クリップ処理例の説明に用いる説明図である。 図5は、ノイズ処理例の説明に用いる説明図である。 図6は、第2の実施形態における距離画像取得装置の構成例を示すブロック図である。 図7は、第2の実施形態における距離画像処理例の流れを示すフローチャートである。
以下、添付図面に従って、本発明に係る距離画像処理装置、距離画像取得装置、及び距離画像処理方法を実施するための形態について説明する。
[第1の実施形態]
図1は、第1の実施形態における距離画像取得装置及び距離画像処理装置を含むシステムの構成例を示すブロック図である。
距離画像取得装置10は、光を発光する発光部12と、レンズ14及び絞り15を含む光学系16と、複数の受光素子が二次元配列された受光面を有する撮像素子18を含む撮像部20と、外部の装置(本例では距離画像処理装置100)と情報の出力及び入力を行うクライアント通信部22と、各種の情報を記憶するクライアント記憶部24と、クライアント記憶部24に記憶されたプログラムに従って距離画像取得装置10の各部を制御するクライアント制御部40とを備える。
発光部12は、例えば赤外光を発光するLED(light emitting diode)によって構成される。他の発光デバイスを用いてもよい。
光学系16のレンズ14は、発光部12から発光されてレンズ14の画角に対応する測距領域で反射された光を、撮像部20の撮像素子18の受光面に導く。レンズ14は、複数枚のレンズで構成されていてもよい。
撮像部20の撮像素子18として、例えばCMOS(complementary metal oxide semiconductor)撮像センサ、又はCCD(charge coupled device)撮像センサを用いる。他の撮像デバイスを用いてもよい。撮像素子18は、複数の受光素子が配列された受光面を有する。本例の撮像素子18は、その受光面に、赤外光を通過させるフィルタを持つ光電変換素子が、受光素子として二次元配列されている。
クライアント通信部22は、有線又は無線の通信デバイスによって構成される。
クライアント記憶部24は、例えばROM(read only memory)、RAM(random access memory)及びEEPROM(electrically erasable programmable read only memory)を含んで構成される。他の記憶デバイスを用いてもよい。
クライアント制御部40は、例えばCPU(central processing unit)によって構成される。
本例のクライアント制御部40は、撮像部20の撮像結果に基づいて、距離画像を生成する距離画像生成部42を含んで構成される。距離画像は、発光部12の発光から撮像部20の受光までの光飛行時間に対応した距離値を持つ複数の画素によって構成された画像である。
距離画像処理装置100は、ユーザに対する表示を行う表示部32と、ユーザからの指示入力を受け付ける指示入力部34と、メモリカードなどの記録媒体とのインターフェースである媒体インターフェース36と、外部の装置(本例では距離画像取得装置10及びデータベース300)と情報の出力及び入力を行うサーバ通信部122と、各種の情報を記憶するサーバ記憶部124と、サーバ記憶部124に記憶されたプログラムに従って距離画像処理装置100の各部を制御するサーバ制御部140とを備える。
表示部32は、表示デバイスであり、例えばLCD(liquid crystal display)によって構成される。OLED(Organic Light Emitting Diode)ディスプレイを用いてもよい。
指示入力部34は、例えば表示部32の画面を覆うように配置されたタッチパネルによって構成される。キーボード及びポインティングデバイス(例えばマウス)によって構成してもよい。音声入力デバイス、ジェスチャー入力デバイス等、他の入力デバイスを用いてもよい。
媒体インターフェース36は、記録媒体からの情報の読込み及び記録媒体に対する情報の書込みを行う。
サーバ通信部122は、有線又は無線の通信デバイスによって構成される。本例のサーバ通信部122は、本発明における「距離画像入力部」の一形態であり、距離画像取得装置10から距離画像を入力する。
サーバ記憶部124は、例えばROM、RAM及びEEPROMを含んで構成される。他の記憶デバイスを用いてもよい。
本例のサーバ制御部140は、距離画像の複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別する第1の判別部52と、第1の判別部52により判別された異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別する第2の判別部54と、第1の異常画素の距離値を一定値に変更するクリップ処理部56と、第2の異常画素の距離値を第2の異常画素の周辺にある画素の距離値に基づいて変更するノイズ処理部58と、距離画像を表示部32に表示させる表示制御部60とを含んで構成される。
本例の第1の判別部52は、距離画像の各画素の距離値が近距離の測定範囲の上限値(例えば1.0m)を超えたか否かを判定し、上限値を超えた距離値を持つ画素を異常画素であると判別する。
本例の第2の判別部54は、第1の判別部52により判別された異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別する。つまり、多重反射に起因した異常画素(第1の異常画素)であるか否かを判別する。
「第1の異常画素」であるか否かの判別には、各種の態様がある。
例えば、距離画像における各異常画素を基準とした一定サイズの領域内の異常画素の画素数をカウントすることにより、「第1の異常画素」であるか否かを判別する態様がある。例えば、注目した異常画素の周辺にも異常画素が多数(例えば半数以上)存在するか否かを判別する。つまり、注目した異常画素を基準とした一定サイズの領域内における異常画素のカウント数が過半数であるならば、注目した異常画素を「第1の異常画素」であると判別する。ここで、「一定サイズの領域」とは、例えば、注目する異常画素(第1の判別部52により判別された異常画素である)を中心とした所定の画素サイズの領域である。「所定の画素サイズ」は、好ましくはN×N画素(Nは3から7)であり、より好ましくは3×3画素であればよい。
尚、「第1の異常画素」の判別態様は、前述の態様には限定されない。「第1の異常画素」の判別として、複数画素に亘り異常画素が連続していることを検出すればよい。
本例のクリップ処理部56は、第1の異常画素の距離値を、近距離測定の距離範囲の上限値に変更する。
本例のノイズ処理部58は、平滑化フィルタ、メディアンフィルタなどのフィルタを用いて、ノイズ除去処理を行う。平滑化フィルタとして、周辺画素の平均値を異常画素に対して与える平均化フィルタや、注目画素に近い周辺画素ほど重み付けを大きくするガウシアンフィルタなどが挙げられる。メディアンフィルタは、周辺画素の中央値を異常画素に対して与える。尚、ノイズ除去フィルタは、前述の例には特に限定されない。
ここで、「周辺画素」とは、注目する異常画素(第1の判別部52により判別された異常画素である)から所定の画素数以内に位置する画素である。「所定の画素数」は、好ましくは1画素から3画素であり、より好ましくは1画素であればよい。
本例の表示制御部60は、距離画像の複数の画素をそれぞれの距離値に応じた色で表示部32に表示させる。本例の表示制御部60は、距離値をR(赤),G(緑),B(青)を三原色とした色を表す画素値で示す。
本例のデータベース300は、距離画像、及び距離画像を補正するための補正情報を記憶することができる。
次に、本発明に係る距離画像処理方法を適用した距離画像処理例を説明する。
図2は、第1の実施形態における距離画像処理例の流れを示すフローチャートである。本例の距離画像処理は、サーバ制御部140により、サーバ記憶部124に記憶されたプログラムに従って実行される。
まず、サーバ通信部122により、距離画像取得装置10から、距離画像を入力する(ステップS2)。データベース300に記憶された距離画像を、サーバ通信部122によりデータベース300から入力してもよい。距離画像は、発光部12の発光から撮像部20の受光面での受光までの光飛行時間に対応した距離値を持つ複数の画素によって構成されている。図3に示す距離画像の一例は、多重反射画素及びノイズ画素を含む。尚、図3では、図示の便宜上グレイスケールで表されているが、本例の距離画像は、表示部32にカラーで表示可能であり、距離画像の各画素値は距離値の大きさに対応付けられた色を示す値である。図中、白色の連続した領域が第1の異常画素(多重反射に起因した異常画素である)の領域である。また、図中、白色の微小な点が第2の異常画素(ノイズ画素)である。
次に、第1の判別部52により、距離画像を構成する画素ごとに、距離値が近距離の測定範囲を超えているか否かを判別する(ステップS4)。つまり、第1の判別部52により、一定の距離範囲を超えた距離値を持つ画素を異常画素であると判別する。例えば、近距離の測定範囲が1.0m以下である場合、その1.0mを超える距離値を持つ画素を異常画素と判別する。
異常画素と判別された場合(ステップS4でYESの場合)、第2の判別部54により、異常画素が、連続している第1の異常画素であるか、連続していない第2の異常画素であるかを判別する(ステップS6)。第1の異常画素であると判別された場合、つまり第1の判別部52により判別された異常画素が連続していると判別された場合(ステップS6でYESの場合)、クリップ処理部56により、第1の異常画素の距離値を距離範囲の一定値(本例では測定距離範囲の上限値)に変更するクリップ処理を行う(ステップS8)。
例えば、図4に示すように、注目画素Piの距離値(本例では「200」)が測距範囲の上限値(例えば「190」)を超えており、且つ、一定のサイズ(本例では3×3画素)である注目ウィンドウW内の画素(注目画素Pi及び周辺画素Ps1、Ps2、Ps3、Ps4、Ps5、Ps6、Ps7、Ps8)のうち、注目画素Pi(異常画素である)と同様に上限値である「190」を超えた距離値を持つ画素が過半数(本例では5個以上)である場合、注目画素Piの距離値を測定距離範囲の上限値(例えば「190」)に変更する。
第2の異常画素であると判別された場合、つまり第1の判別部52により判別された異常画素が連続してないと判別された場合(ステップS6でNOの場合)、ノイズ処理部58により、異常画素の距離値を周辺画素の距離値に基づいて変更する(ステップS10)。
本例のノイズ処理部58は、第2の異常画素に対して、平滑化を行う。例えば、図5に示すように、注目画素Piの距離値(例えば「200」)が測距範囲の上限値(例えば「190」)を超えており、且つ、注目ウィンドウW内の画素(注目画素Pi及び周辺画素Ps1〜Ps8)のうち、注目画素Pi(異常画素である)と同様に上限値である「190」を超えた距離値を持つ画素が半数以下(本例では4個以下)である場合、注目画素Piの画素値(例えば「200」)を周辺画素Ps1〜Ps8の距離値の平均値(例えば「64」)に変更する。周辺画素Ps1〜Ps8の距離値の中央値に変更してもよい。
距離画像の全画素を判別したか否かを判定し(ステップS12)、まだ判別していない画素が有る場合(ステップS12でNOの場合)、ステップS4に戻り、全画素を判別した場合(ステップS12でYESの場合)、表示制御部60により、距離画像を表示部32に対し出力する(ステップS14)。距離画像の複数の画素は、それぞれの距離値に応じた色で表示部32に表示される。サーバ通信部122により、距離画像をデータベース300に対して出力してもよい。媒体インターフェース36により、距離画像を記録媒体に対して出力してもよい。
[第2の実施形態]
図6は、第2の実施形態における距離画像取得装置の構成例を示すブロック図である。尚、図1に示した第1の実施形態の構成例と同じ構成要素には、同じ符号を付してあり、詳細な説明を省略する。
本実施形態の距離画像取得装置200は、発光部12、光学系16、撮像部20、表示部32、指示入力部34、媒体インターフェース36、通信部222、記憶部224、及び制御部240を含んで構成されている。
通信部222は、有線又は無線の通信デバイスによって構成されており、外部の装置(本例ではデータベース300)と情報の出力及び入力を行う。記憶部224は、例えばROM、RAM及びEEPROMを含んで構成されており、各種の情報を記憶する。制御部240は、例えばCPUによって構成される。制御部240は、距離画像生成部42、第1の判別部52、第2の判別部54、クリップ処理部56、ノイズ処理部58、及び表示制御部60を含んで構成されており、距離画像生成処理、判別処理、クリップ処理、ノイズ処理及び表示制御処理を実行する。
図7は、第2の実施形態における距離画像処理例の流れを示すフローチャートである。本例の距離画像処理は、距離画像取得装置200の制御部240により、距離画像取得装置200の記憶部224に記憶されたプログラムに従って実行される。尚、図2に示した第1の実施形態の距離画像処理例と同じステップには、同じ符号を付してあり、詳細な説明を省略する。
本実施形態では、距離画像取得装置200の距離画像生成部42により、距離画像を生成する(ステップS22)。その後の処理は図2に示した第1の実施形態におけるステップS4〜S14と同様である。距離画像に対して、判別処理(ステップS4及びステップS6)、クリップ処理(ステップS8)、ノイズ処理(ステップS10)が実行される。距離画像の全画素を判別したか否かを判定し(ステップS12)、まだ判別していない画素が有る場合(ステップS12でNOの場合)、ステップS4に戻り、全画素を判別した場合(ステップS12でYESの場合)、異常画素の画素値が変更された距離画像を出力する(ステップS14)。
[判別の変形例]
第1の判別部52及び第2の判別部54による判別の変形例について、説明する。
上述の第1の実施形態及び第2の実施形態では、本発明の理解を容易にするため、第1の判別部52及び第2の判別部54の判別用閾値が固定である場合を例に説明したが、判別用閾値を可変としてもよい。
<第1の判別部用の閾値>
第1の判別部52の判別用閾値を可変としてよい。つまり、距離画像の注目画素が異常画素であるか否かを判別するための閾値(以下「異常画素判別用閾値」という)を可変とする。
例えば、指示入力部34により、測定距離範囲の上限値の設定入力を受け付ける。本例の指示入力部34は、本発明における「設定入力部」の一形態である。第1の判別部52は、指示入力部34により受け付けた上限値を異常画素判別用閾値として用い、注目画素の画素値が、指示入力された上限値を超えた場合、注目画素が異常画素であると判別する。
<第2の判別部用の閾値>
第2の判別部54の判別用閾値を可変としてよい。つまり、異常画素に対してクリップ処理を行うか否かを判別するための閾値(以下「処理判別用閾値」という)を可変とする。言い換えると、第2の判別部54は、第1の異常画素であるか否かの判別に用いる閾値を切り換える。
第1に、第2の判別部54は、測定距離範囲の上限値に応じて、処理判別用閾値を切り換えることが、好ましい。
第2に、第2の判別部54は、距離画像を取得した際の撮像感度に応じて、処理判別用閾値を切り換えることが、好ましい。
以上、本発明を実施するための形態に関して説明してきたが、本発明は上述した実施形態及び変形例に限定されず、本発明の主旨を逸脱しない範囲で種々の変形が可能である。
10、200 距離画像取得装置
12 発光部
14 レンズ
15 絞り
16 光学系
18 撮像素子
20 撮像部
22 クライアント通信部
24 クライアント記憶部
32 表示部
34 指示入力部
36 媒体インターフェース
40 クライアント制御部
42 距離画像生成部
52 第1の判別部
54 第2の判別部
56 クリップ処理部
58 ノイズ処理部
60 表示制御部
100 距離画像処理装置
122 サーバ通信部
124 サーバ記憶部
140 サーバ制御部
222 通信部
224 記憶部
240 制御部
300 データベース
Pi 注目画素
Ps1、Ps2、Ps3、Ps4、Ps5、Ps6、Ps7、Ps8 周辺画素
W 注目ウィンドウ

Claims (15)

  1. 発光から受光までの光飛行時間に対応した距離値を持つ複数の画素によって構成された距離画像を入力する距離画像入力部と、
    前記複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別する第1の判別部と、
    前記第1の判別部により判別された前記異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別する第2の判別部と、
    前記第1の異常画素の距離値を一定値に変更するクリップ処理部と、
    を備える距離画像処理装置。
  2. 前記一定値は、前記一定の距離範囲の上限値であり、
    前記クリップ処理部は、前記第1の異常画素の距離値を前記距離範囲の上限値に変更する、
    請求項1に記載の距離画像処理装置。
  3. 前記第2の異常画素の距離値を前記第2の異常画素の周辺にある画素の距離値に基づいて変更するノイズ処理部を備える、
    請求項1または2に記載の距離画像処理装置。
  4. 前記第2の判別部は、前記第1の判別部により判別された各前記異常画素を基準とした一定サイズの領域内の前記異常画素の画素数に基づいて、前記第1の異常画素であるか否かの判別を行う、
    請求項1から3のうちいずれか一項に記載の距離画像処理装置。
  5. 前記第2の判別部は、前記距離範囲の上限値に応じて、前記第1の異常画素であるか否かの判別に用いる閾値を切り換える、
    請求項1から4のうちいずれか一項に記載の距離画像処理装置。
  6. 前記第2の判別部は、前記距離画像を取得した際の撮像感度に応じて、前記第1の異常画素であるか否かの判別に用いる閾値を切り換える、
    請求項1から4のうちいずれか一項に記載の距離画像処理装置。
  7. 前記一定値の設定入力を受け付ける設定入力部を備える、
    請求項1から6のうちいずれか一項に記載の距離画像処理装置。
  8. 前記ノイズ処理部は、平滑化フィルタ、又はメディアンフィルタを用いてノイズ処理を行う、
    請求項3に記載の距離画像処理装置。
  9. 前記距離画像の前記複数の画素をそれぞれの前記距離値に応じた色で表示デバイスに表示させる表示制御部を備える、
    請求項1から8のうちいずれか一項に記載の距離画像処理装置。
  10. 光を発光する発光部と、
    複数の受光素子が配列された受光面を有する撮像部と、
    前記発光部から発光されて測距領域で反射された光を前記撮像部の前記受光面に導く光学系と、
    前記撮像部の撮像結果に基づいて、前記発光部の発光から前記撮像部の前記受光面までの光飛行時間に対応した距離値を持つ複数の画素によって構成された距離画像を生成する
    距離画像生成部と、
    前記複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別する第1の判別部と、
    前記第1の判別部により判別された前記異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別する第2の判別部と、
    前記第1の異常画素の距離値を一定値に変更するクリップ処理部と、
    を備える距離画像取得装置。
  11. 前記一定値は、前記一定の距離範囲の上限値である、
    請求項10に記載の距離画像取得装置。
  12. 前記第2の異常画素の距離値を前記第2の異常画素の周辺にある画素の距離値に基づいて変更するノイズ処理部を備える、
    請求項10または11に記載の距離画像取得装置。
  13. 発光から受光までの光飛行時間に対応した距離値を持つ複数の画素によって構成された距離画像を入力するステップと、
    前記複数の画素のうち一定の距離範囲を超えた距離値を持つ画素を異常画素と判別するステップと、
    前記判別された前記異常画素を、更に連続している第1の異常画素と連続していない第2の異常画素とに判別するステップと、
    前記第1の異常画素の距離値を一定値に変更するステップと、
    を含む距離画像処理方法。
  14. 前記一定値は、前記一定の距離範囲の上限値である、
    請求項13に記載の距離画像処理方法。
  15. 前記第2の異常画素の距離値を前記第2の異常画素の周辺にある画素の距離値に基づいて変更するステップを含む、
    請求項13または14に記載の距離画像処理方法。
JP2018508994A 2016-03-31 2017-03-15 距離画像処理装置、距離画像取得装置、及び距離画像処理方法 Active JP6630432B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016071923 2016-03-31
JP2016071923 2016-03-31
PCT/JP2017/010386 WO2017169782A1 (ja) 2016-03-31 2017-03-15 距離画像処理装置、距離画像取得装置、及び距離画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2017169782A1 true JPWO2017169782A1 (ja) 2019-02-14
JP6630432B2 JP6630432B2 (ja) 2020-01-15

Family

ID=59965433

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018508994A Active JP6630432B2 (ja) 2016-03-31 2017-03-15 距離画像処理装置、距離画像取得装置、及び距離画像処理方法

Country Status (4)

Country Link
US (1) US20190026911A1 (ja)
JP (1) JP6630432B2 (ja)
CN (1) CN108885265A (ja)
WO (1) WO2017169782A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020193957A (ja) * 2019-05-30 2020-12-03 ファナック株式会社 測距異常を補正する距離画像生成装置
CN113994235A (zh) 2019-06-20 2022-01-28 新唐科技日本株式会社 测距摄像装置
WO2021056348A1 (zh) * 2019-09-26 2021-04-01 深圳市大疆创新科技有限公司 点云探测系统的信号处理方法和点云探测系统
CN112824933A (zh) * 2019-11-19 2021-05-21 北京小米移动软件有限公司 测距方法、测距装置及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002277239A (ja) * 2001-03-19 2002-09-25 Matsushita Electric Works Ltd 距離測定装置
JP2007240275A (ja) * 2006-03-07 2007-09-20 Olympus Corp 距離計測装置・撮像装置、距離計測方法・撮像方法、距離計測プログラム・撮像プログラムおよび記憶媒体
JP2011016421A (ja) * 2009-07-08 2011-01-27 Higashi Nippon Transportec Kk 支障物検知装置及びこれを備えたプラットホームドアシステム並びに支障物検知方法
US20120134598A1 (en) * 2010-11-26 2012-05-31 Samsung Electronics Co., Ltd. Depth Sensor, Method Of Reducing Noise In The Same, And Signal Processing System Including The Same

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04291127A (ja) * 1991-03-20 1992-10-15 Hitachi Ltd 画像処理型状態監視装置の異常判定面積表示方法
JPH05135181A (ja) * 1991-11-08 1993-06-01 Mitsubishi Electric Corp 異常検出装置
JP2010193178A (ja) * 2009-02-18 2010-09-02 Olympus Corp 画像処理装置及び方法並びにプログラム
KR101722641B1 (ko) * 2010-12-23 2017-04-04 삼성전자주식회사 3차원 영상 획득 장치 및 상기 3차원 영상 획득 장치에서 깊이 정보를 추출하는 방법
WO2012175731A1 (en) * 2011-06-24 2012-12-27 Softkinetic Software Depth measurement quality enhancement
EP2793457B1 (en) * 2011-12-13 2019-05-08 Sony Corporation Image processing device, image processing method, and recording medium
JP5791155B2 (ja) * 2012-04-23 2015-10-07 富士フイルム株式会社 画像処理方法、画像処理装置、画像形成装置及びインクジェット記録装置
JP2014053783A (ja) * 2012-09-07 2014-03-20 Nikon Corp 画像処理装置および撮像装置
JP5540217B2 (ja) * 2012-09-19 2014-07-02 オプテックス株式会社 レーザースキャンセンサ
KR101977711B1 (ko) * 2012-10-12 2019-05-13 삼성전자주식회사 깊이 센서, 이의 이미지 캡쳐 방법, 및 상기 깊이 센서를 포함하는 이미지 처리 시스템
JP6367827B2 (ja) * 2012-12-28 2018-08-01 ノキア テクノロジーズ オサケユイチア 距離センサ・カメラからのデータをノイズ除去する方法および装置
WO2014136570A1 (ja) * 2013-03-05 2014-09-12 富士フイルム株式会社 撮像装置、画像処理装置、画像処理方法及びプログラム
KR102136850B1 (ko) * 2013-11-12 2020-07-22 삼성전자 주식회사 깊이 센서, 및 이의 동작 방법
KR102198852B1 (ko) * 2014-03-24 2021-01-05 삼성전자 주식회사 홍채 인식 장치 및 이를 포함하는 모바일 장치
JP6342360B2 (ja) * 2014-04-17 2018-06-13 株式会社モルフォ 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
JP6507529B2 (ja) * 2014-08-29 2019-05-08 株式会社デンソー 光飛行型測距装置
JP2020022135A (ja) * 2018-08-03 2020-02-06 オリンパス株式会社 欠陥画素補正装置、撮像装置、欠陥画素補正方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002277239A (ja) * 2001-03-19 2002-09-25 Matsushita Electric Works Ltd 距離測定装置
JP2007240275A (ja) * 2006-03-07 2007-09-20 Olympus Corp 距離計測装置・撮像装置、距離計測方法・撮像方法、距離計測プログラム・撮像プログラムおよび記憶媒体
JP2011016421A (ja) * 2009-07-08 2011-01-27 Higashi Nippon Transportec Kk 支障物検知装置及びこれを備えたプラットホームドアシステム並びに支障物検知方法
US20120134598A1 (en) * 2010-11-26 2012-05-31 Samsung Electronics Co., Ltd. Depth Sensor, Method Of Reducing Noise In The Same, And Signal Processing System Including The Same

Also Published As

Publication number Publication date
CN108885265A (zh) 2018-11-23
US20190026911A1 (en) 2019-01-24
WO2017169782A1 (ja) 2017-10-05
JP6630432B2 (ja) 2020-01-15

Similar Documents

Publication Publication Date Title
US10085002B2 (en) RGB-IR sensor, and method and apparatus for obtaining 3D image by using same
JP6630432B2 (ja) 距離画像処理装置、距離画像取得装置、及び距離画像処理方法
JP6555811B2 (ja) 顕微鏡システム、特定方法、及び、プログラム
US11151733B2 (en) Detection device, information processing device, detection method, storage medium, and detection system
US20180184071A1 (en) Photographing device and method for obtaining depth information
KR20160073866A (ko) 홍채 인식 장치, 이를 포함하는 홍채 인식 시스템 및 상기 홍채 인식 시스템의 동작 방법
US10931933B2 (en) Calibration guidance system and operation method of a calibration guidance system
EP3343899A1 (en) Auto focus method and electronic device for performing the same
US20220256092A1 (en) Information processing apparatus, information processing method, and program
JP2015173891A (ja) 測定装置、画像表示装置、及びその制御方法
US9521397B2 (en) System and method for selecting a two-dimensional region of interest using a range sensor
EP2993645B1 (en) Image processing program, information processing system, information processing apparatus, and image processing method
US8655024B2 (en) Displacement detection device and displacement detection method thereof
US20180203116A1 (en) Distance measurement device, distance measurement method, and distance measurement program
US20220294990A1 (en) Information processing device, imaging device, information processing method, and program
JP5251841B2 (ja) 画像処理装置および画像処理プログラム
JP6368593B2 (ja) 画像処理プログラム、情報処理システム、画像処理方法
JP6482589B2 (ja) カメラ校正装置
US20130162601A1 (en) Optical touch system
CN110892449A (zh) 图像处理方法及装置、移动设备
JP6423261B2 (ja) 顕微鏡システム、関数算出方法、及び、プログラム
KR102526113B1 (ko) 혼잡도 시각화 장치 및 방법
JP6386837B2 (ja) 画像処理プログラム、情報処理システム、情報処理装置、画像処理方法
CN113701891B (zh) 温漂抑制模型的构建方法、图像处理方法、装置及设备
WO2021117444A1 (ja) 情報処理装置、範囲決定方法、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191127

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191206

R150 Certificate of patent or registration of utility model

Ref document number: 6630432

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250