JP6577565B2 - 深度画像処理用の方法及び装置 - Google Patents

深度画像処理用の方法及び装置 Download PDF

Info

Publication number
JP6577565B2
JP6577565B2 JP2017500972A JP2017500972A JP6577565B2 JP 6577565 B2 JP6577565 B2 JP 6577565B2 JP 2017500972 A JP2017500972 A JP 2017500972A JP 2017500972 A JP2017500972 A JP 2017500972A JP 6577565 B2 JP6577565 B2 JP 6577565B2
Authority
JP
Japan
Prior art keywords
depth
image
division
value
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017500972A
Other languages
English (en)
Other versions
JP2018515743A (ja
Inventor
▲ジ▼伯 ▲趙▼
▲ジ▼伯 ▲趙▼
星星 ▲趙▼
星星 ▲趙▼
小利 ▲ジン▼
小利 ▲ジン▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
BOE Technology Group Co Ltd
Original Assignee
BOE Technology Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by BOE Technology Group Co Ltd filed Critical BOE Technology Group Co Ltd
Publication of JP2018515743A publication Critical patent/JP2018515743A/ja
Application granted granted Critical
Publication of JP6577565B2 publication Critical patent/JP6577565B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/564Depth or shape recovery from multiple images from contours
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/149Segmentation; Edge detection involving deformable models, e.g. active contour models
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/257Colour aspects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20152Watershed segmentation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本出願は、2015年5月11日に提出された中国特許出願201510236717.0号の優先権を要求する。ここで、本願の一部として上記中国特許出願に開示された内容を全文引用する。
本発明は、深度画像処理用の方法及び装置に関する。
現在では、市場で取得可能な主導の運動感知設備、例えばkinect、PrimeSence は、通常、TOF(Time of Flight、飛行時間法3D画像形成)原理を採用する深度カメラにより画像を形成し、そして、取得した深度画像をミドルウェア、例えばNITE(NITEはジェスチャ認識及び運動キャプチャ等の機能を実現できる)に伝送し、ソフトウェアの計算により人体の骨格及び関節の情報を取得するのであり、これにより、運動感知制御が実現される。この従来技術は赤外線装置を用いるので、コストが高い。
TOF原理以外に、深度画像を取得するその他の技術が存在する。例えば双眼カメラにより深度画像を取得することは、低価の解決案である。然し、双眼カメラは、その画像形成原理の制約により、深度画像を取得するときに一定の情報が欠落して、画像ノイズが大きい問題が存在するので、深度画像の品質が悪い。したがって、深度画像処理の解決案を改進する要求がある。
本発明の第一の側面は、深度画像処理用の方法を提供する。前記方法は、深度画像及び前記深度画像に対応する撮像画像を取得することと、前記深度画像を分割し、複数の分割ユニットを得ることと、各分割ユニットに対して対応する深度参照値を計算することと、前記対応する深度参照値により各分割ユニットの深度値基準範囲を確定することと、前記深度画像の各画素の深度値を前記各画素が位置する分割ユニットに対応する深度値基準範囲内に調整することと、を備える。
本発明実施例に係る方法では、深度画像を分割し、複数の分割ユニットを得て、各分割ユニットに対して対応する深度参照値及び深度値基準範囲を計算し、そして、深度画像の画素をトラバースし、画素の深度値を分割ユニットに対応する深度値基準範囲内に調整する。この方法によれば、深度画像に対してノイズ除去処理を行うことができ、処理後の深度画像の輪郭がはっきりしており、認識しやすくなるので、深度画像の品質を向上できる。
1つの実施例によれば、上述した前記深度画像を分割して複数の分割ユニットを得ることは、前記撮像画像に対して輪郭分割を行い、輪郭分割情報を得ることと、前記輪郭分割情報により前記深度画像を分割し、複数の分割ユニットを得ることと、を備える。
1つの実施例によれば、上述した前記撮像画像に対して輪郭分割を行い、輪郭分割情報を得ることは、前記撮像画像に対して階調処理を行い、階調画像を得ることと、前記階調画像に対してエッジ抽出を行い、輪郭画像を得ることと、前記輪郭画像に対して輪郭膨張処理を行い、輪郭膨張画像を得ることと、前記輪郭膨張画像を反転し、反転画像を得ることと、ウォーターシェッドアルゴリズムにより前記反転画像の輪郭分割情報を計算することと、を備える。
上記実施例により、短時間内にリアタイム撮像画像の輪郭分割情報を算出することができ、深度画像に対してノイズ除去処理を行う速度の向上に有利である。
1つの実施例によれば、前記各分割ユニットに対して対応する深度参照値を算出することは、前記分割ユニットにおける黒点画素及び輝点画素を除去することと、黒点画素及び輝点画素を除去した分割ユニットに対して、深度値によって画素数を統計することと、画素数の最も多い深度値を前記分割ユニットの深度参照値として確定することと、を備える。
上述実施例により、分割ユニットにおける黒点画素及び輝点画素、即ち、ノイズポイント画素を除去することができ、計算結果の正確度を高めることができる。
1つの実施例によれば、各分割ユニットに対して、前記深度値基準範囲は0.5~1.3倍の深度参照値である。
1つの実施例によれば、前記深度画像の各画素に対して、前記各画素の深度値を前記各画素が位置する分割ユニットに対応する深度値基準範囲に調整することは、設定方向に沿って前記深度画像の画素をトラバースし、トラバース中に、現在画素の深度値はそれが位置する分割ユニットに対応する深度値基準範囲を越えると、設定方向に沿って深度画像のうち現在画素を中心とする周辺画素の深度値を順次に読み取ってループを外部に設定回数広げることと、現在の読取画素は前記分割ユニット内にあり、且つ深度値はそれが位置する分割ユニットに対応する深度値基準範囲内にあると、ループから脱して前記現在画素の深度値を現在読取画素の深度値に調整することと、前記ループ設定回数が終了して前記現在画素の深度値が調整されないなら、前記現在画素の深度値をそれが位置する分割ユニットに対応する深度参照値に調整することと、を備える。
上記実施例により、調整される画素と周辺の画素との深度値の遷移をよりスムーズにすることができ、処理後の深度画像の品質向上に有利である。
1つの実施例によれば、前記周辺画素は前記現在画素の十字方向にある。
上記実施例により、計算処理の速度が向上され、深度画像に対してノイズ除去処理を行う速度が向上される。
1つの実施例によれば、前記ループ設定回数は5回であり、前記設定方向は、行方向において左から右へ、又は右から左へであり、或いは列方向において上から下へ、又は下から上へである。
上記実施例により、より少ない計算量により、より短い時間内に画素を効果的に充填することができ、深度画像に対してノイズ除去処理を行う速度の向上に有利である。
本発明の第二の側面は、深度画像処理用の装置を提供する。前記装置は、深度画像及び前記深度画像に対応する撮像画像を取得するように構成される取得モジュールと、前記深度画像を分割して複数の分割ユニットを得るように構成される分割モジュールと、各分割ユニットに対して対応する深度参照値を計算するように構成される計算モジュールと、前記対応する深度参照値に従って各分割ユニットの深度値基準範囲を確定するように構成される確定モジュールと、前記深度画像の各画素の深度値を前記各画素が位置する分割ユニットに対応する深度値基準範囲内に調整するように構成される調整モジュールと、を備える。
1つの実施例によれば、前記分割モジュールは、さらに、前記撮像画像に対して輪郭分割を行い、輪郭分割情報を得て、前記輪郭分割情報により前記深度画像を分割し、複数の分割ユニットを得るように構成される。
1つの実施例によれば、前記分割モジュールは、さらに、前記撮像画像に対して階調処理を行い、階調画像を得て、前記階調画像に対してエッジ抽出を行い、輪郭画像を得て、前記輪郭画像に対して輪郭膨張処理を行い、輪郭膨張画像を得て、前記輪郭膨張画像を反転して、反転画像を得て、ウォーターシェッドアルゴリズムを用いて前記反転画像の輪郭分割情報を計算するように構成される。
1つの実施例によれば、前記計算モジュールは、さらに、前記分割ユニットの中の黒点画素及び輝点画素を除去し、黒点画素及び輝点画素を除去した分割ユニットに対して、深度値によって画素数を統計し、画素数の最も多い深度値を前記分割ユニットの深度参照値として確定するように構成される。
1つの実施例によれば、各分割ユニットに対して、前記深度値基準範囲は、0.5~ 1.3倍の深度参照値である。
1つの実施例によれば、前記調整モジュールは、さらに、設定方向に沿って前記深度画像の画素をトラバースし、トラバース中に、現在画素の深度値はそれが位置する分割ユニットに対応する深度値基準範囲を越えると、設定方向に沿って深度画像において現在画素を中心とする周辺画素の深度値を順次に読み取ってループを外部に設定回数広げ、現在の読取画素は前記分割ユニット内にあり、且つ深度値はそれが位置する分割ユニットに対応する深度値基準範囲にあると、ループから脱して前記現在画素の深度値を現在の読取画素の深度値に調整し、前記ループ設定回数が終了して、且つ前記現在画素の深度値が調整されないと、前記現在画素の深度値をそれが位置する分割ユニットに対応する深度参照値に調整するように構成される。
1つの実施例によれば、前記周辺画素は前記現在画素の十字方向に位置する。
1つの実施例によれば、前記ループ設定回数は5回であり、前記設定方向は、行方向では、左から右へ、又は右から左へであり、或いは、列方向では、上から下へ、又は下から上へである。
本発明の実施例に提供される処理装置によれば、深度画像に対してノイズ除去処理を行うことができ、処理後の深度画像の輪郭がよりはっきりしており、認識し易くなるので、深度画像の品質を向上することができる。
以下は、本発明の実施例の技術案をより明確に説明するために、実施例の図面を簡単に説明する。明らかなように、下記の説明における図面は本発明の若干の実施例だけに関し、本発明を限定するものではない。
本発明実施例に係る深度画像処理用の方法を示すフローチャートである。 本発明実施例に係る撮像画像に対して輪郭分割を行う概略図である。 本発明実施例に係る分割ユニットの深度値及び画素数のヒストグラムである。 本発明実施例に係る画素充填原理の概略図である。 本発明実施例に係る深度画像のノイズ除去処理前後の比較図である。 本発明実施例に係る深度画像処理用の装置を示すブロック図である。
以下、本開示の実施例の目的、技術案及びメリットを当業者によりよく理解させるために、本開示の実施例の図面を組み合わせて本開示の実施例の技術案を明確で完全に説明する。明らかなように、説明される実施例は、本開示の実施例の一部に過ぎず、全ての実施例ではない。説明される本開示の実施例に基づき、当業者は、創造性付けの労働を必要としない前提で得られる全てのその他の実施例は、何れも本開示の保護範囲に該当する。
下記の実施例は主に双眼カメラの深度画像の処理を例として説明するが、当業者が理解できるように、本開示はこれに限らない。実際に、本開示の各種の実施例は、任意の適当な深度画像の処理にも用いられる。例えば、深度画像はその他の任意の適当な画像形成装置から得られるものであってもよく、或いはその他の方法から生成される深度画像等であってもよい。
本発明実施例は深度画像の処理方法及び装置を提供する。以下、本発明の目的、技術案及びメリットをより明確にさせるために、本発明についてさらに具体的に説明する。
図1に示すように、本発明実施例に提供される深度画像処理用の方法は、以下のステップを備える。
ステップS101、深度画像、及び深度画像に対応する撮像画像を取得し、
ステップS102、深度画像を分割し、複数の分割ユニットを得て、
ステップS103、各分割ユニットに対して対応する深度参照値を計算し、
ステップS104、対応する深度参照値により各分割ユニットの深度値基準範囲を確定し、
ステップS105、深度画像の各画素の深度値を各画素が位置する分割ユニットに対応する深度値基準範囲内に調整する。
ステップS101では、深度画像及び撮像画像は双眼カメラから取得されてもよいし、その他の方式により取得されてもよく、例えば、その他の任意の適当な解決案により取得した深度画像及び撮像画像であってもよい。双眼カメラは主カメラ及び副カメラを有し、副カメラの座標系と主カメラの座標系との間に一定の位置偏差があり、双眼カメラの制御チップは目標体の空間での深度情報画像、即ち深度画像を計算により取得する。通常、双眼カメラに用いられる深度画像は、主カメラの撮像画像と一致する座標系を採用する。双眼カメラの2つのカメラに撮像される画像は、通常、RGBカラー画像であるが、その他の任意の適当なカラー画像であってもよい。
深度画像を分割することは、複数種の方式により実現できる。1つの実施例では、ステップS102は、
撮像画像に対して輪郭分割を行い、輪郭分割情報を得ることと、
輪郭分割情報に応じて深度画像を分割して、複数の分割ユニットを得ることと、を備えてもよい。
主カメラの撮像画像に対して、小輪郭範囲毎は現実で同じ物体又はある物体の同じ部位に対応するなら、この輪郭範囲内における深度値は近いはずである。従って、主カメラの撮像画像に対して輪郭分割を行い、得た輪郭分割情報に応じて、深度画像を分割し、複数の分割ユニットを得てもよい。ステップS105では、「調整」は、深度画像の画素に対して深度値を改めて充填することを含んでもよい。
主カメラの撮像画像に対して輪郭分割を行うことに用いられる具体的なアルゴリズムは、限定されず、例えば、ピラミッド分割アルゴリズム、平均値シフト分割アルゴリズム、ウォーターシェッド分割アルゴリズム等を用いられる。1つの実施例では、運動感知設備は、短時間内にリアタイム深度画像を処理する必要がある(輪郭分割及び画素充填は30mS内に完成される必要がある)ので、ウォーターシェッドアルゴリズムを用いてもよい。
図2に示すように、本発明の1つの実施例では、ステップS102は、下記のサブステップを備えてもよい。
撮像画像を階調処理し、階調画像を得て(即ち図2の中の第2図)、
階調画像をエッジ抽出し、輪郭画像を得て(即ち、図2の中の第3図)、
輪郭画像に対して輪郭膨張処理を行い、輪郭膨張画像を得て(即ち図2の第4図)、
輪郭膨張画像を反転し、反転画像を得て(即ち、図2の中の第5図)、
ウォーターシェッドアルゴリズムを用いて反転画像の輪郭分割情報を計算する(即ち、図2の中の第6図)。
上記方法によれば、短時間内に主カメラのリアタイム撮像画像の輪郭分割情報を算出でき、深度画像に対してノイズ除去処理を行う速度の向上に有利である。ここで、輪郭分割情報は、分割ユニットの輪郭位置情報及び符号化情報を有してもよい。階調画像をエッジ抽出することは、cannyエッジ抽出アルゴリズムを用いてもよい。cannyエッジ抽出アルゴリズムは、画像のエッジ検出を快速に実現するアルゴリズムであり、cannyエッジ抽出アルゴリズムによる結果は、白色輪郭線と黒色背景の二値画像である。
本発明の1つの実施例では、ステップS103は、以下のサブステップを有してもよい。
分割ユニットの中の黒点画素及び輝点画素を除去し、
黒点画素及び輝点画素を除去した分割ユニットに対して、異なる深度値に対して画素数を統計し、画素数の最も多い深度値を該分割ユニットの深度参照値とする。
分割ユニットの中の黒点画素(例えば、深度値が0である)及び輝点画素(例えば、深度値が255である)を除去することは、ノイズポイント画素を除去することであり、これらの画素は信頼度が低くて、除去された後、計算結果の正確度が向上される。
図3に示すように、本発明の1つの実施例では、深度参照値は下記のように確定されてもよい。黒点画素及び輝点画素を除去した分割ユニットに対して、深度値を横座標として、深度値の画素数を縦座標として、ヒストグラムを作成し、画素数の最も多い深度値(即ち、ヒストグラムのピーク値)を該分割ユニットに対応する深度参照値depth(i)とする。
ステップS104では、分割ユニットに対応する深度参照値depth(i)を算出した後、対応する深度参照値depth(i)に従って各分割ユニットの深度値基準範囲を確定してもよい。具体的に、各分割ユニットに対して、深度値基準範囲は0.5~1.3倍のdepth(i)である。本出願の発明者は大量な統計分析を経て、同一の分割ユニットの有効深度値は一般的に上記範囲に集中することを得た。よって、この範囲を深度値基準範囲として分割ユニットの画素を充填することにより、深度画像の処理結果がより正確になる。
本発明の1つの実施例では、ステップS105は、以下のことを備えてもよい。
設定方向に沿ってトラバース深度画像の画素をトラバースし、トラバース中に、
現在画素の深度値はそれが位置する分割ユニットに対応する深度値基準範囲を越えると、設定方向に沿って深度画像において現在画素を中心とする周辺画素の深度値を順次に読取り、ループを外部に設定回数広げ、
現在の読取画素は分割ユニット内にあり、且つ深度値はそれが位置する分割ユニットに対応する深度値基準範囲にあると、ループから脱して現在画素の深度値を現在の読取画素の深度値に調整し、
ループ設定回数が終了して現在画素の深度値が調整されないと、現在画素の深度値をそれが位置する分割ユニットに対応する深度参照値に調整する。
深度画像に対して処理を行い、処理後の深度画像を得ることは、下記の3つの方式により実現されてもよい。
一、1つの空白画像を作り、深度画像に応じてステップS105により空白画像の画素を一点一点に対応して充填し、最終に処理後の深度画像を得る。
二、深度画像のコピー画像を作り、深度画像に応じてステップS105によりコピー画像の画素を一点一点に対応してリフレッシュし、最終に処理後の深度画像を得る。
三、深度画像の画素深度値の情報に応じてステップS105により処理後の深度画像情報を一点一点に改めて確定し、記憶素子、例えば、メモリーに記憶し、深度画像全体の画素をトラバースした後、メモリーに記憶される改めて確定された情報を深度画像に覆い、最終に処理後の深度画像を得る。
深度画像において、周辺画素は現在画素の斜め方向、例えば30°、45°等の斜め方向にあってもよい。1つの実施例では、周辺画素は、現在画素の十字方向にあり、これにより、計算処理速度が向上され、深度画像に対してノイズ除去処理を行う速度が向上される。
1つの実施例では、設備の計算処理速度を考慮すると、ループ設定回数は5回である。トラバースが従う設定方向は、行方向に左から右へ、又は右から左へ、或いは列方向に上から下へ、又は下から上へ等であってもよい。また、十字方向に画素の読取順次について特に限定せず、時計回りまたは逆時計回りに沿って読取ってもよい。本発明の1つの実施例では、設定方向は行方向に左から右へであり、現在画素を中心とする十字方向上の画素の深度値を右、下、左、上の順次で読み取る。
具体的に、図4に示すように、行方向に沿って左から右へ順次に双眼カメラに収集される深度画像の各画素にアクセスし、現在アクセスする画素の深度値はそれが位置する分割ユニットに対応する深度値基準範囲内にあるとき、次の画素にアクセスする。現在画素の深度値がその位置する分割ユニットに対応する深度値基準範囲を越えるとき(例えば、図におけるA1画素)、右、下、左、上の順次によって深度画像の中の現在画素を中心とする十字方向上の画素の深度値を読取り、ループを外部に5回広げ、即ち、第一回にB1、B2、B3、B4を読み取り、第二回にC1、C2、C3、C4を読取り、これによって類推する。このループ読取過程に、現在の読取画素は分割ユニット内にあり、且つ深度値がそれが位置する分割ユニットに対応する深度値基準範囲内にあるとき、ループから脱して現在画素の深度値を現在の読取画素の深度値に調整する。図4に示すように、ループ読取過程に、C2は分割ユニット外にあるので、条件を満足せず、C3は分割ユニット内にあり、且つ深度値がその位置する分割ユニットに対応する深度値基準範囲内にあるので、C3を読み取った後、ループから脱し、A1の深度値をC3の深度値に調整する。仮に5回のループが終了した後に上記条件を満足する画素をまだ読み取っていないなら、現在画素の深度値をそれが位置する分割ユニットに対応する深度参照値depth(i)に調整する。
上記技術案により、分割ユニット全体内において、深度値の遷移がよりスムーズになり、ホールが減少され、深度画像の品質の向上に有利である。
本発明実施例の技術案では、深度画像を分割し、複数の分割ユニットを得て、各分割ユニットに対して対応する深度参照値及び深度値基準範囲を算出し、そして、深度画像の画素をトラバースし、画素の深度値を分割ユニットに対応する深度値基準範囲内に調整する。この技術案により、深度画像に対してノイズ除去処理を行え、処理後の深度画像の輪郭がよりはっきりしており(例えば、図5に示す)、認識し易くなるので、例えば、双眼カメラにより取得した深度画像の品質を向上することができる。
本発明実施例は、同じ発明構想に基づき、さらに、深度画像処理用の装置を提供する。以下、図6を参照して該装置を説明し、上記実施例に説明されたもの同じ部分又は機能について、簡潔のために省略する。図6を参照して、該装置は、
深度画像、及び深度画像に対応する撮像画像を取得するように構成される取得モジュール21と、
深度画像を分割し、複数の分割ユニットを得るように構成される分割モジュール22と、
各分割ユニットに対して対応する深度参照値を計算するように構成される計算モジュール23と、
対応する深度参照値により各分割ユニットの深度値基準範囲を確定するように構成される確定モジュール24と、
深度画像の各画素の深度値を各画素が位置する分割ユニットに対応する深度値基準範囲内に調整するように構成される調整モジュール25と、を備える。
1つの実施例では、分割モジュール22は、さらに、撮像画像に対して輪郭分割を行い、輪郭分割情報を得て、輪郭分割情報により深度画像を分割し、複数の分割ユニットを得るように構成される。
本発明の1つの実施例では、分割モジュール22は、さらに、撮像画像を階調処理し、階調画像を得て、階調画像をエッジ抽出し、輪郭画像を得て、輪郭画像に対して輪郭膨張処理を行い、輪郭膨張画像を得て、輪郭膨張画像を反転し、反転画像を得て、ウォーターシェッドアルゴリズムを用いて反転画像の輪郭分割情報を計算するように構成される。
本発明の1つの実施例では、計算モジュール23は、さらに、分割ユニットの中の黒点画素及び輝点画素を除去し、黒点画素及び輝点画素を除去した分割ユニットに対して、深度値によって画素数を統計し、画素数の最も多い深度値を該分割ユニットの深度参照値として確定する。
本発明の1つの実施例では、各分割ユニットに対して、深度値基準範囲は、0.5~ 1.3倍の深度参照値である。
本発明の1つの実施例では、調整モジュール25は、さらに、設定方向に沿って深度画像の画素をトラバースし、トラバース中に、現在画素の深度値はそれが位置する分割ユニットに対応する深度値基準範囲を越えると、設定方向に沿って深度画像の中の現在画素を中心とする周辺画素の深度値を順次に読取り、ループを外部に設定回数広げ、現在の読取画素が分割ユニット内にあり、且つ深度値はそれが位置する分割ユニットに対応する深度値基準範囲にあると、ループから脱して現在画素の深度値を現在の読取画素の深度値に調整し、ループ設定回数が終了して現在画素の深度値が調整されないと、現在画素の深度値をその分割ユニットに対応する深度参照値に調整する。
本発明の1つの実施例では、周辺画素は現在画素の十字方向上にある。
本発明の1つの実施例では、ループ設定回数は5回であり、設定方向は行方向に左から右へ、または右から左へ、或いは列方向に上から下へ、又は下から上へである。
上記実施例における深度画像処理用の装置によれば、深度画像に対してノイズ除去処理を行え、処理後の深度画像の輪郭がよりはっきりしており、認識し易くなるので、例えば、双眼カメラによる深度画像の品質を向上することができる。
当然ながら、当業者は、本発明の趣旨及び範囲から逸脱しない前提で本発明に対して各種の変更及び変形することができる。上述は本発明の例示的な実施形態に過ぎず、本発明の保護範囲を限定するものではない。本発明の保護範囲は添付の特許請求の範囲に確定される。
21 取得モジュール
22 分割モジュール
23 計算モジュール
24 画定モジュール
25 調整モジュール

Claims (14)

  1. 深度画像処理用の方法であって、
    深度画像、及び前記深度画像に対応する撮像画像を取得することと、
    前記深度画像を分割し、複数の分割ユニットを得ることと、
    各分割ユニットに対して対応する深度参照値を計算することと、
    前記対応する深度参照値に応じて各分割ユニットの深度値基準範囲を確定することと、
    前記深度画像の各画素の深度値を前記各画素が位置する分割ユニットに対する深度値基準範囲内に調整することと、を備え
    前記深度画像の各画素に対して、前記各画素の深度値を前記各画素が位置する分割ユニットに対応する深度値基準範囲に調整することは、
    設定方向に沿って前記深度画像の画素をトラバースし、トラバース中に、
    現在画素の深度値はそれが位置する分割ユニットに対応する深度値基準範囲を越えると、設定方向に従って深度画像において現在画素を中心とする周辺画素の深度値を順次に読み取り、ループを外部に設定回数広げることと、
    現在の読取画素は前記分割ユニット内にあり、且つ深度値はそれが位置する分割ユニットに対応する深度値基準範囲にあると、ループから脱して前記現在画素の深度値を現在の読取画素の深度値に調整ことと、
    前記ループ設定回数が終了して前記現在画素の深度値が調整されないと、前記現在画素の深度値をそれが位置する分割ユニットに対応する深度参照値に調整することとを備える、方法。
  2. 前記深度画像を分割し、複数の分割ユニットを得ることは、
    前記撮像画像に対して輪郭分割を行い、輪郭分割情報を得ることと、
    前記輪郭分割情報に応じて前記深度画像を分割し、複数の分割ユニットを得ることと、を備える、請求項1に記載の方法。
  3. 上述した前記撮像画像に対して輪郭分割を行い、輪郭分割の情報を得ることは、
    前記撮像画像に対して階調処理を行い、階調画像を得ることと、
    前記階調画像に対してエッジ抽出を行い、輪郭画像を得ることと、
    前記輪郭画像に対して輪郭膨張処理を行い、輪郭膨張画像を得ることと、
    前記輪郭膨張画像を反転し、反転画像を得ることと、
    ウォーターシェッドアルゴリズムを用いて前記反転画像の輪郭分割情報を計算することと、を備える、請求項2に記載の方法。
  4. 前記各分割ユニットに対して対応する深度参照値を算出することは、
    前記分割ユニットの中の黒点画素及び輝点画素を除去することと、
    黒点画素及び輝点画素を除去した分割ユニットに対して、深度値によって画素数を統計することと、
    画素数の最も多い深度値を前記分割ユニットの深度参照値として確定することと、を備える、請求項1〜3の何れか1項に記載の方法。
  5. 各分割ユニットに対して、前記深度値基準範囲は0.5〜1.3倍の深度参照値である、請求項1〜4の何れか1項に記載の方法。
  6. 前記周辺画素は前記現在画素の十字方向に位置する、請求項に記載の方法。
  7. 前記ループ設定回数は5回であり、前記設定方向は行方向に左から右へ、又は右から左へ、或いは列方向に上から下へ、又は下から上へである、請求項又はに記載の方法。
  8. 深度画像処理用の装置であって、
    深度画像、及び前記深度画像に対応する撮像画像を取得するように構成される取得モジュールと、
    前記深度画像を分割し、複数の分割ユニットを得るように構成される分割モジュールと、
    各分割ユニットに対して対応する深度参照値を計算する計算モジュールと、
    前記対応する深度参照値に応じて各分割ユニットの深度値基準範囲を確定するように構成される確定モジュールと、
    前記深度画像の各画素の深度値を前記各画素が位置する分割ユニットに対応する深度値基準範囲内に調整するように構成される調整モジュールと、を備え
    前記調整モジュールは、さらに、設定方向に沿って前記深度画像の画素をトラバースし、トラバース中に、
    現在画素の深度値はそれが位置する分割ユニットに対応する深度値基準範囲を越えると、設定方向に沿って深度画像において現在画素を中心とする周辺画素の深度値を順次に読み取ってループを外部に設定回数広げ、
    現在の読取画素は前記分割ユニット内にあり、且つ深度値はそれが位置する分割ユニットに対応する深度値基準範囲内にあると、ループから脱して前記現在画素の深度値を現在の読取画素の深度値に調整し、
    前記ループ設定回数が終了して前記現在画素の深度値が調整されないと、前記現在画素の深度値をそれが位置する分割ユニットに対応する深度参照値に調整するように構成される、装置。
  9. 前記分割モジュールは、さらに、前記撮像画像に対して輪郭分割を行い、輪郭分割情報を得て、前記輪郭分割情報に応じて前記深度画像を分割して、複数の分割ユニットを得るように構成される、請求項に記載の装置。
  10. 前記分割モジュールは、さらに、前記撮像画像に対して階調処理を行い、階調画像を得て、前記階調画像に対してエッジ抽出を行い、輪郭画像を得て、前記輪郭画像に対して輪郭膨張処理を行い、輪郭膨張画像を得て、前記輪郭膨張画像を反転し、反転画像を得て、ウォーターシェッドアルゴリズムを用いて前記反転画像の輪郭分割情報計算するように構成される、請求項に記載の装置。
  11. 前記計算モジュールは、さらに、前記分割ユニットの中の黒点画素及び輝点画素を除去し、黒点画素及び輝点画素を除去した分割ユニットに対して、深度値によって画素数を統計し、画素数の最も多い深度値を前記分割ユニットの深度参照値として確定するように構成される、請求項10の何れか1項に記載の装置。
  12. 各分割ユニットに対して、前記深度値基準範囲は0.5〜1.3倍の深度参照値である、請求項11の何れか1項に記載の装置。
  13. 前記周辺画素は、前記現在画素の十字方向に位置する、請求項に記載の装置。
  14. 前記ループ設定回数は5回であり、前記設定方向は、行方向に左から右へ、又は右から左へ、或いは列方向に上から下へ、又は下から上へである、請求項又は13に記載の装置。
JP2017500972A 2015-05-11 2015-11-05 深度画像処理用の方法及び装置 Active JP6577565B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201510236717.0A CN104835164B (zh) 2015-05-11 2015-05-11 一种双目摄像头深度图像的处理方法及装置
CN201510236717.0 2015-05-11
PCT/CN2015/093867 WO2016179979A1 (zh) 2015-05-11 2015-11-05 一种用于处理深度图像的方法及装置

Publications (2)

Publication Number Publication Date
JP2018515743A JP2018515743A (ja) 2018-06-14
JP6577565B2 true JP6577565B2 (ja) 2019-09-18

Family

ID=53813029

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017500972A Active JP6577565B2 (ja) 2015-05-11 2015-11-05 深度画像処理用の方法及び装置

Country Status (6)

Country Link
US (1) US9811921B2 (ja)
EP (1) EP3296953B1 (ja)
JP (1) JP6577565B2 (ja)
KR (1) KR101881243B1 (ja)
CN (1) CN104835164B (ja)
WO (1) WO2016179979A1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104835164B (zh) * 2015-05-11 2017-07-28 京东方科技集团股份有限公司 一种双目摄像头深度图像的处理方法及装置
CN105825494B (zh) * 2015-08-31 2019-01-29 维沃移动通信有限公司 一种图像处理方法及移动终端
US10558855B2 (en) * 2016-08-17 2020-02-11 Technologies Holdings Corp. Vision system with teat detection
CN106506969B (zh) 2016-11-29 2019-07-19 Oppo广东移动通信有限公司 摄像模组、通过其进行人像追踪的方法以及电子设备
CN106713890A (zh) * 2016-12-09 2017-05-24 宇龙计算机通信科技(深圳)有限公司 一种图像处理方法及其装置
CN106919928A (zh) * 2017-03-08 2017-07-04 京东方科技集团股份有限公司 手势识别系统、方法及显示设备
CN107891813B (zh) * 2017-10-31 2020-04-24 北京新能源汽车股份有限公司 一种车辆的控制方法、装置、汽车及计算机可读存储介质
CN108195305B (zh) * 2018-02-09 2020-03-31 京东方科技集团股份有限公司 一种双目检测系统及其深度检测方法
KR102158034B1 (ko) * 2018-05-24 2020-09-22 주식회사 탑 엔지니어링 기판 절단 장치 및 기판 절단 방법
CN108765482B (zh) * 2018-05-31 2021-07-13 长春博立电子科技有限公司 一种基于硬件加速的低功耗实时双目摄像头及使用方法
TWI670467B (zh) * 2018-10-15 2019-09-01 立普思股份有限公司 使用深度影像偵測的加工方法
CN110390681B (zh) * 2019-07-17 2023-04-11 海伯森技术(深圳)有限公司 一种基于深度相机的深度图物体轮廓快速提取方法及装置
CN111242137B (zh) * 2020-01-13 2023-05-26 江西理工大学 一种基于形态成分分析的椒盐噪声滤波方法、装置
CN112085675B (zh) * 2020-08-31 2023-07-04 四川大学 深度图像去噪方法、前景分割方法及人体运动监测方法
KR102599855B1 (ko) * 2020-12-22 2023-11-07 주식회사 포스코디엑스 철강제품용 태그 부착 시스템 및 방법
CN112819878B (zh) * 2021-01-28 2023-01-31 北京市商汤科技开发有限公司 一种深度检测方法、装置、计算机设备和存储介质
CN114155262A (zh) * 2021-11-29 2022-03-08 合肥安达创展科技股份有限公司 一种基于opencv相关算法的体感深度图获取系统
CN114956287B (zh) * 2022-06-14 2023-08-29 西安清源盈科环保科技有限公司 一种污水除磷方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3850541B2 (ja) * 1998-02-18 2006-11-29 富士重工業株式会社 高度計測装置
JP2007048006A (ja) * 2005-08-09 2007-02-22 Olympus Corp 画像処理装置および画像処理プログラム
KR101367282B1 (ko) * 2007-12-21 2014-03-12 삼성전자주식회사 깊이 정보에 대한 적응적 정보 표현 방법 및 그 장치
US8379101B2 (en) * 2009-05-29 2013-02-19 Microsoft Corporation Environment and/or target segmentation
KR101175196B1 (ko) * 2010-12-28 2012-08-20 강원대학교산학협력단 모바일 환경의 입체영상 생성방법 및 장치
KR101978172B1 (ko) 2011-11-29 2019-05-15 삼성전자주식회사 깊이 영상을 고해상도로 변환하는 방법 및 장치
US8873835B2 (en) * 2011-11-30 2014-10-28 Adobe Systems Incorporated Methods and apparatus for correcting disparity maps using statistical analysis on local neighborhoods
JP5951367B2 (ja) * 2012-01-17 2016-07-13 シャープ株式会社 撮像装置、撮像画像処理システム、プログラムおよび記録媒体
CN102750694B (zh) * 2012-06-04 2014-09-10 清华大学 基于局部最优置信传播算法的双目视频深度图求取方法
CN103546736B (zh) * 2012-07-12 2016-12-28 三星电子株式会社 图像处理设备和方法
CN103136775A (zh) * 2013-03-19 2013-06-05 武汉大学 基于局部约束重建的kinect深度图空洞填充方法
CN103455984B (zh) * 2013-09-02 2016-08-31 清华大学深圳研究生院 一种Kinect深度图像获取方法与装置
CN104574342B (zh) * 2013-10-14 2017-06-23 株式会社理光 视差深度图像的噪声识别方法和噪声识别装置
US9630318B2 (en) * 2014-10-02 2017-04-25 Brain Corporation Feature detection apparatus and methods for training of robotic navigation
TWI558167B (zh) 2014-12-30 2016-11-11 友達光電股份有限公司 立體影像顯示系統與顯示方法
CN104835164B (zh) 2015-05-11 2017-07-28 京东方科技集团股份有限公司 一种双目摄像头深度图像的处理方法及装置

Also Published As

Publication number Publication date
US20170132803A1 (en) 2017-05-11
EP3296953A1 (en) 2018-03-21
US9811921B2 (en) 2017-11-07
WO2016179979A1 (zh) 2016-11-17
KR20160148577A (ko) 2016-12-26
EP3296953A4 (en) 2018-11-21
CN104835164A (zh) 2015-08-12
CN104835164B (zh) 2017-07-28
JP2018515743A (ja) 2018-06-14
KR101881243B1 (ko) 2018-07-23
EP3296953B1 (en) 2021-09-15

Similar Documents

Publication Publication Date Title
JP6577565B2 (ja) 深度画像処理用の方法及び装置
JP7134012B2 (ja) 視差推定装置及び方法
CN106296578B (zh) 一种图像处理方法及装置
US9990534B2 (en) Image processing device and image processing method
US9378583B2 (en) Apparatus and method for bidirectionally inpainting occlusion area based on predicted volume
KR102399017B1 (ko) 이미지 생성 방법 및 장치
TWI489418B (zh) Parallax Estimation Depth Generation
US20110044502A1 (en) Motion detection method, apparatus and system
US9406140B2 (en) Method and apparatus for generating depth information
CN110232418B (zh) 一种语义识别方法、终端及计算机可读存储介质
US20190197704A1 (en) Vehicle exterior environment recognition apparatus
US20160286092A1 (en) Image processing apparatus and image processing method
CN109559353A (zh) 摄像模组标定方法、装置、电子设备及计算机可读存储介质
CN113610865B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
EP3224805B1 (en) Method and apparatus for estimating depth of unfocused plenoptic data
WO2014054124A1 (ja) 路面標示検出装置及び路面標示検出方法
US10789489B2 (en) Vehicle exterior environment recognition apparatus
US20220129660A1 (en) System and method of acquiring coordinates of pupil center point
JP6780983B2 (ja) 画像処理システム
JP6668740B2 (ja) 道路面推定装置
CN111630569B (zh) 双目匹配的方法、视觉成像装置及具有存储功能的装置
Yokota et al. High-speed sensing system for depth estimation based on depth-from-focus by using smart imager
JP6060612B2 (ja) 移動面状況認識装置、移動体、及びプログラム
RU2541855C1 (ru) Устройство для определения контуров объектов в изображении
TWI823721B (zh) 車道線識別方法及相關設備

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180615

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190320

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190729

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190822

R150 Certificate of patent or registration of utility model

Ref document number: 6577565

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250