JP2020139877A - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP2020139877A
JP2020139877A JP2019036704A JP2019036704A JP2020139877A JP 2020139877 A JP2020139877 A JP 2020139877A JP 2019036704 A JP2019036704 A JP 2019036704A JP 2019036704 A JP2019036704 A JP 2019036704A JP 2020139877 A JP2020139877 A JP 2020139877A
Authority
JP
Japan
Prior art keywords
histogram
distance
image
value
distance value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019036704A
Other languages
English (en)
Other versions
JP7362265B2 (ja
JP2020139877A5 (ja
Inventor
智昭 肥後
Tomoaki Higo
智昭 肥後
小林 一彦
Kazuhiko Kobayashi
一彦 小林
智一 土本
Tomokazu Tsuchimoto
智一 土本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019036704A priority Critical patent/JP7362265B2/ja
Priority to US16/795,304 priority patent/US11373326B2/en
Priority to CN202010106584.6A priority patent/CN111624620B/zh
Publication of JP2020139877A publication Critical patent/JP2020139877A/ja
Publication of JP2020139877A5 publication Critical patent/JP2020139877A5/ja
Application granted granted Critical
Publication of JP7362265B2 publication Critical patent/JP7362265B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0077Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Generation (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Processing (AREA)

Abstract

【課題】 ユーザにとって見やすいヒストグラムを提示できる。
【解決手段】 上記課題を解決するために、本発明にかかる情報処理装置は、計測装置からの対象物体までの距離値の分布を示すヒストグラムを出力する情報処理装置であって、前記計測装置によって該計測装置からの対象物体までの距離値を計測した結果から得られる距離画像を取得する第1取得手段と、有効でない距離値として、前記計測装置が正しい距離値を計測できない距離値を示す入力情報を取得する第2取得手段と、前記距離画像および前記入力情報に基づいて、有効でない距離値と見なされる距離値の度数を低減させた前記ヒストグラムを出力する出力手段とを有することを特徴とする。
【選択図】 図2

Description

距離画像をユーザに提示する技術に関する。
距離画像は、撮影したシーンの各画素に対応する距離値で構成される画像であり、シーンにおける形状の計測や物体の検出など様々な分野で用いられている。距離画像の距離値の分布を知る方法として、各画素における距離値をヒストグラムで表現する方法が知られている。特許文献1では、距離データを信頼度に基づいてフィルタリングすることで、信頼度の高い有効距離データと信頼度の低い無効距離データを抽出する。さらに、有効距離データについてヒストグラムを生成する技術が開示されている。
特開2008−65634号公報
特許文献1の手法では、信頼度が高いにも関わらず正確でない距離データが得られている場合がある。その場合、有効距離データによるヒストグラムはユーザにとって見にくい可能性がある。
本発明は上記問題に鑑みてなされたものであり、ユーザにとって見やすいヒストグラムを提示することを目的とする。
上記課題を解決するために、本発明にかかる情報処理装置は、計測装置からの対象物体までの距離値の分布を示すヒストグラムを出力する情報処理装置であって、前記計測装置によって該計測装置からの対象物体までの距離値を計測した結果から得られる距離画像を取得する第1取得手段と、有効でない距離値として、前記計測装置が正しい距離値を計測できない距離値を示す入力情報を取得する第2取得手段と、前記距離画像および前記入力情報に基づいて、有効でない距離値と見なされる距離値の度数を低減させた前記ヒストグラムを出力する出力手段とを有することを特徴とする。
本発明によれば、ユーザにとって見やすいヒストグラムを提示できる。
情報処理システムのハードウェア構成例を示す図 情報処理装置の機能構成例を示す図 情報処理装置のハードウェア構成例を示す図 情報処理装置が実行する処理手順を示すフローチャート ヒストグラムの一例を説明する例の図 ヒストグラムの一例を説明する図 GUIの一例を示す図 情報処理装置が実行する処理手順を示すフローチャート ドロップダウンリストの一例を示す図 ヒストグラムの一例を示す図 情報処理装置が実行する処理手順を示すフローチャート 領域分割の一例を示す図 代表値の求め方の一例を示す図 座標変換を設定するGUIの一例を示す図 情報処理装置の機能構成例を示す図 情報処理装置が実行する処理手順を示すフローチャート ヒストグラムの一例を示す図 GUIの一例を示す図 情報処理装置の機能構成例を示す図 情報処理装置が実行する処理手順を示すフローチャート カラー画像と対応するヒストグラムの一例を示す図 カラー画像と対応するヒストグラムの一例を示す図
本発明にかかる実施形態を説明するのに先立ち、用語の定義について説明する。
距離画像とは、距離センサ等を用いて撮像されたシーンにおける各画素を、距離値として表現した2次元の画像のことである。この距離値は距離センサの光学系の中心からシーンに含まれる対象物体までの距離として得られる。つまり、距離画像の各画素には計測装置から対象物体までの距離データが保持される。距離値を求める方法として、Time−of−Flightセンサの場合は、照射した光がシーンの物体に反射して受光素子に戻ってくるまでの時間を計測する。距離画像の各画素には、距離値に変換された結果が保持される。また、ステレオカメラ等の場合は、左右に並べた2つの輝度画像における画素間の対応関係を求めることで距離を求める。このように、正しい距離値を求めるには、受光素子に入る光の量を求めるだけでなく、その後の処理が含まれるため、一般的には輝度画像と比べてノイズが多く、また、距離値を計測できない画素も生じる。距離値を計測できなかった画素には、正しい距離値が計測できないことを示す距離値が格納される。例えば0の値、無限大や負の値が格納されている。
ヒストグラムとは、縦軸に度数、横軸に階級をとった統計グラフの一種で、データの分布状況を視覚的に認識するために用いられるグラフである。本実施形態では、距離画像の距離値の分布を表現したヒストグラムを対象とする。そのため、横軸の階級として、連続する距離の範囲を用いる。例えば、0〜100までの整数値からなる距離値が存在する距離画像の場合、0〜9、10〜19、20〜29、30〜39、40〜49、50〜59、60〜69、70〜79、80〜89、90〜100の10個の階級に分ける。これらそれぞれの階級のことをビンと呼ぶ。また、階級の数をビンの数と定義し、この例ではビンの数は10である。さらに、各ビンにおいて、この範囲の距離値を持つ距離画像内の画素数を度数として縦軸に表現する。
(第1の実施形態)
距離画像を使った分析には様々なユースケースがあるが、距離値そのものや距離画像を見ただけでは全体の傾向がわかりづらい場合は、距離値の分布の傾向を知るためにヒストグラムを生成する。すなわち、計測装置によって該計測装置からの対象物体までの距離値を計測した結果から得られる距離画像を取得する。距離画像に基づいて、所定の距離値を含む階級の度数を低減させた、所定の範囲に含まれる距離値の分布を示すヒストグラムを出力する。距離画像だけではなく、距離画像を補正した補正画像からヒストグラムを出力してもよい。計測装置によって計測されなかった画素についての情報をヒストグラムから省く、または欠損した画素を補完してヒストグラムに反映できるため、より見やすいヒストグラムを出力できる。
ヒストグラムは、計測装置からシーンに含まれる対象物体までの距離値の分布を示し、物体検出、ノイズ分析の解析、対象物体の形状分析等に用いられる。ヒストグラムは、距離画像から実測値の概況を把握することに役立つ。しかしながら、ヒストグラムの基となる距離画像にノイズ(計測が上手くいかなかった画素)が多く含まれる場合、ユーザにとって有効な情報(信頼度の高い情報)をうまく提示することができない。例えば、LiDARなどのレーザレンジセンサの場合では、レーザ光の反射率が高いほど信頼度が高く設定される。このとき、鏡面に二回当たって二次反射を受光した場合でも、光の減衰は少なく反射率が高くなり、二次反射から距離を求めても正しい距離値にはならない。一方で、二眼のステレオの場合であれば、局所領域同士の類似度が高いほど信頼度を高く設定する。しかしながら、テクスチャに繰り返しパターンが含まれているような場合、類似度が高い領域が複数見つかることがある。その場合、類似度も高いため信頼度は高く算出されるが、実は類似度の高い他の領域の方が正しいマッチング対応領域である場合などがある。こうした場合、正しい距離値ではないにもかかわらず信頼度が高い状態が生じる。このような背景から、ユーザにとって必要な情報を含んだヒストグラムを生成する場合、信頼度の大きさに依存して距離データを抽出することが必ずしも好ましいとは言えない。
図5を用いて具体例を説明する。例えば、撮像装置を正対設置のために距離画像とヒストグラムを用いる。図5(a)のA1は撮像装置5が物体42に対して正対している状況である。図5(a)のA2は撮像装置5に対して物体43が傾いて設置されている状況である。この2つの状況をヒストグラムで分析する場合、それぞれ撮像した距離画像からヒストグラムを生成する。しかしながら、距離画像で距離を計測できなかった画素(距離値0が入力されている)をそのままヒストグラムのデータとして採用すると、図5(b)G10のように距離値0の度数が大きく、他の距離値のピークG101が見づらくなってしまう。すると、A1の画像から作られたヒストグラムとA2の画像から作られたヒストグラムとの差がわかりづらい。そのため、本実施形態ではG100のデータを低減するように、撮像装置やユーザによるフィードバックの情報を利用する。A1から生成されるヒストグラムはG11のように、ピークG1023が急になるため、撮像装置と対象物体が平行に設置されている可能性が高い。一方、A2から生成されるヒストグラムは、G12のようになり、ヒストグラムの山G102がなだらかになる。この場合は、撮像装置と対象物体が平行になっていない可能性が高い。また、ヒストグラムを用いることで距離の実測値の分布が見やすくなる。つまり、第1の実施形態の情報処理装置は、距離センサ(撮像装置)の情報に基づいてヒストグラムの表示範囲を決定し、さらにヒストグラムを描画する際に入力情報に基づいて補正したヒストグラムを表示する。入力情報とは、ユーザによるフィードバック情報や、撮像装置に由来する情報等を指す。これによってユーザの利便性を向上させたヒストグラムを生成、描画する例について述べる。さらに、様々なグラフィックユーザインターフェース(GUI)を用いてユーザの入力に応じてヒストグラムの生成、描画方法を変更することができる。
図1は本実施形態における情報処理システムのハードウェア構成図である。同図において、1は情報処理装置、10は距離画像を撮像するための距離センサなどの撮像装置(計測装置)、11は撮像した距離画像やヒストグラムを表示するためのディスプレイなどの表示装置である。撮像装置10で撮像した距離画像を情報処理装置1で処理しヒストグラムを生成し、表示装置11に出力する。また、情報処理装置1はGUIなどによりユーザからの入力を受け付け、ユーザ入力に基づいてヒストグラムを生成、描画し、表示装置11に表示する。
図2は、本実施形態における情報処理装置1の機能構成例を示す図である。情報処理装置1は、画像取得部100、情報取得部101、補正部102、生成部103、決定部104、変換部105、出力部106、分割部107を備えている。撮像装置10は画像取得部100および情報取得部101と接続され、出力部106は表示装置11と接続されている。ただし、図2は、機能構成の一例であり、本発明の適用範囲を限定するものではない。
撮像装置(計測装置)10では、2次元画像の各画素に距離値を保持した距離画像を撮像し、画像取得部100に出力する。撮像装置10には、例えばステレオカメラ、距離センサ、RGB−Dカメラ等を用いる。
画像取得部100(第1取得部)は、計測装置によって、計測装置からの対象物体までの距離値を計測した結果から得られる距離画像を取得する。ここでは、撮像装置10から対象物体までの距離データを示す距離画像を取得し、情報取得部101に出力する。
情報取得部101(第2取得部)は、有効でない距離値として、前記計測装置が正しい距離値を計測できない距離値を示す入力情報を取得する。本実施形態では、入力情報は、例えば以下の情報である。すなわち、撮像装置10が計測可能な奥行距離の範囲の情報。撮像装置10が計測できなかった画素に格納する距離値の値(例えば距離値0)。距離計測を行った際の各画素における距離の信頼度マップ(距離値の確からしさ)。情報取得部101が取得した入力情報は補正部102、生成部103、決定部104に出力される。なお、信頼度マップとは、距離画像における距離値を求める際の距離の信頼度の大きさを各画素で保持した画像のことである。信頼度は例えば0〜1.0の間の値で保持される。信頼度が高いほどその距離値は正確である可能性が高い。信頼度マップは距離画像と同じ解像度であり、同じ画素位置にはシーンにおける同じ領域の距離値またはその信頼度が保持されている。
補正部102は、計測装置による計測結果が所定の範囲外の距離値になる画素を補正する。例えば、計測装置によって計測できる距離値の範囲を所定の範囲とする。画像取得部100から距離画像および情報取得部101が取得した情報を受け取って、距離画像を補正する。補正処理を行ったものをここでは補正画像と呼ぶ。補正処理部102は補正画像を生成部103に出力する。距離画像を補正することによってより精細なヒストグラムを生成できる。補正処理についての詳細は後述する。
生成部103は、距離画像または補正画像に基づいて、所定の距離値を含む階級の度数を低減させたヒストグラムを生成する。例えば、距離値が計測されなかった画素(欠損画素と呼ぶ)に入力された値(ここでは距離値0)を含む階級が強調されないようにヒストグラムを生成する。その際、情報取得部101から撮像装置10の計測可能な奥行距離の範囲の情報や、撮像装置10が計測できなかった画素に格納する距離値の値を受け取って、それらに基づいてヒストグラムを生成する。生成したヒストグラムは決定部104に出力する。
決定部104は、生成部103からヒストグラムを、情報取得部101から信頼度マップを受け取って、ヒストグラムのデータに対して信頼度に基づいた色データを決定する。そして、色付きヒストグラムのデータを変換部105に出力する。ヒストグラムの表示色を変えることによって、ユーザにとって見やすいヒストグラムを出力できる。
変換部105は、決定部104から色付きヒストグラムのデータを受け取って、色付きヒストグラムを表示装置11に表示するための画像データに変換する。生成したヒストグラム画像データは出力部106に出力する。出力部106は、変換部105からヒストグラム画像データを受け取って、表示装置11に出力する。また、距離画像やGUIも必要に応じて出力する。分割部107は、距離画像またはそれに対応するカラー画像を所定のルールに従って分割する。例えば、所定の大きさ(例えば1辺10ピクセルの正方形)のグリッドで距離画像を分割する。または、カラー画像から得られる画像特徴に基づいて、類似した画像特徴同士が同じ領域に含まれるように領域分割をする。
表示装置11は、ディスプレイであり、出力部106から出力されたヒストグラム画像データを所定の領域に描画して表示する。また距離画像やGUIの表示も行う。
図3は、情報処理装置1のハードウェア構成を示す図である。H11はCPUであり、システムバスH20に接続された各種デバイスの制御を行う。H12はROMであり、BIOS(Basic Input/Output System)のプログラムやブートプログラムを記憶する。H13はRAMであり、CPUであるH11の主記憶装置として使用される。H14は外部メモリであり、情報処理装置1が処理するプログラムを格納する。入力部H15はタッチパネルやキーボード、マウス、ロボットコントローラーであり、情報等の入力に係る処理を行う。表示部H16は、H11からの指示に従って情報処理装置1の演算結果を表示装置に出力する。なお、表示装置は液晶表示装置やプロジェクタ、LEDインジケータなど、種類は問わない。H17は通信インターフェイスであり、ネットワークを介して情報通信を行うものであり、通信インターフェイスはイーサネット(登録商標)でもよく、USBやシリアル通信、無線通信等種類は問わない。H18は入出力部(I/O)であり、カメラH19と接続されている。なお、カメラH19は撮像装置10に相当し、表示部H16は表示装置11に相当する。
次に、本実施形態における処理手順について説明する。以下の説明では、各工程(ステップ)について先頭にSを付けて表記する。図4は、情報処理装置1が実行する処理手順を示すフローチャートである。ただし、情報処理装置1は必ずしもこのフローチャートで説明するすべてのステップを行わなくても良い。以下、フローチャートは、コンピュータである図3のCPU(H11)が外部メモリ(H14)で格納されているコンピュータプログラムを実行することにより実現されるものとする。
S1000では、情報処理装置1が、システムの初期化を行う。すなわち、外部メモリH14からプログラムを読み込み、情報処理装置1を動作可能な状態にする。
S1001では、画像取得部100が、計測装置(撮像装置10)によって、計測装置からの対象物体までの距離値を計測した結果から得られる距離画像を取得する。ただし、これに限るものではなく、例えば、予め撮像装置10によって撮像した距離画像をファイルとして保存した距離画像ファイルを読み込むことで距離画像を取得してもよい。情報処理装置の内部に距離画像を保持する保持部を有している場合は、保持部から距離画像を取得する。または、情報処理装置の外部に距離画像を保持する保持装置がある場合は、通信部によって距離画像を取得する。
S1002では、情報取得部101が、有効でない距離値として前記計測装置が計測できない距離値の範囲を示す入力情報を取得する。すなわち、ヒストグラムとして表示させる距離値の範囲を指定する入力情報を取得する。情報取得部101は、距離画像を入力とし、ヒストグラムの表示範囲を指定する入力情報を出力する学習済みモデルによって入力情報を取得してもよい。ユーザが見たいと思う表示範囲を学習させた学習済みモデルを使うことによって、ユーザにとって見やすいヒストグラムを簡単に提示できる。また、入力情報は上記の内容に限らない。例えば、撮像装置10が計測可能な奥行距離の範囲の情報や、撮像装置10が計測できなかった画素に格納する距離値の値や、距離計測を行った際の各画素における距離値の確からしさを示す信頼度マップを取得する。信頼度マップは2次元画像の各画素において信頼度を格納した画像のことである。ここでは、撮像装置10から入力情報を取得する。なお、入力情報はこれ以外にも、ヒストグラムの各階級に割り当てる距離値の範囲を設定する情報でもよい。具体例としては、距離値0から1999までを100ずつ区切りで20階級だったのを、距離値100から1999までを100ずつ区切りで19階級にしてもよい。0のみを除いて距離値1から2000までを100ずつ区切りで20階級にしてもよい。このように各階級の距離値の範囲を設定することで、ユーザにとって見やすいヒストグラムを生成できる。
S1003では、補正部102が、距離画像を構成する画素のうち、前記計測装置による計測結果が所定の範囲外の距離値になる画素を補正する。すなわち、計測装置による計測結果が所定の範囲外の距離値になる画素について、その画素の周辺の画素に含まれる距離値を用いて補正する。距離画像に対して所定の処理を行い、距離値が正確に計測できていない領域(ノイズ)を低減させた補正画像を得る。所定の処理の内容について説明する。距離画像は計算によって距離値を求めて得られているため、カラー画像や輝度画像と比べてノイズが多く、距離が計測できていない画素が存在する。また、信頼度が低い(予め設定された値より信頼度が小さい)画素には距離が計測できていないことを示す値を画素に格納しておく。信頼度が低い画素もノイズとみなす。そうしたノイズを低減するために、オープニング処理やクロージング処理によるノイズ除去を行う。また、バイラテラルフィルタやガイデッドフィルタによって平滑化を行う。こうして距離画像のノイズを低減したものをここでは補正画像と呼ぶ。補正画像は距離画像の一種であり、補正処理部102によってノイズが低減された距離画像である。具体的には、基本的には孤立点のように距離値が周囲の画素と比べて著しく異なる画素(距離値が欠損した画素)があれば、周囲の画素と同じような値に変更される。例えば、3x3の画素領域と、中心の画素の距離値が4で、その周辺の画素における距離値が104であった場合に、距離値が4の画素は周囲とは著しく距離値が異なる孤立点となるため、距離値4の画素をノイズと見なす。そして、補正画像では距離値4だった画素に104くらいの距離値が保持される。
S1004では、生成部103が、距離画像に基づいて、所定の距離値を含む階級の度数を低減させたヒストグラムを生成する。ヒストグラムを生成する距離の範囲は、情報取得部101が取得した入力情報に基づいて撮像装置10が計測可能な奥行距離の範囲を用いる。すなわち、計測可能な奥行範囲が200から1000であった場合、ヒストグラムの横軸の範囲を200から1000に設定する。このように撮像装置10から得られた計測可能な奥行範囲を用いてヒストグラムを生成することで、計測誤差による誤った値を排除してヒストグラムを生成および描画することができる。もし、計測可能な奥行範囲が不明または設定されていない撮像装置10の場合は、距離計測できなかった画素が保持する値の情報を取得し、その値を除いた距離値の最大値と最小値の範囲でヒストグラムを生成する。図5は計測できなかった画素を保持する値を考慮したヒストグラムを説明する例の図である。図5のヒストグラムを生成する距離画像は0〜1250の値を保持しており、計測できなかった画素が保持する値は0であるとする。図5(b)のG10は距離画像の値全てを用いてヒストグラムを生成した場合であり、G100は計測できなかった画素が大きな度数として表現されている。G101は計測できなかった画素以外のヒストグラム領域を表しているが、ヒストグラムを描画する範囲の制約により、度数の最大値で正規化してヒストグラムを描画している。そのため、G101はG100に比べて相対的に度数が小さく、距離値の分布を確認しづらい。一方、図5(c)のG11は0を除いた最小値120から最大値1250までの範囲でヒストグラムを生成したものである。G100に対応する距離の範囲をヒストグラム生成の範囲外とすることで、G101はG102のように描画することができるため、距離値の分布を確認しやすくなっていることがわかる。ヒストグラムのビンの数については、最終的に表示装置11で描画されるヒストグラムの描画領域の画素数と同じ値、もしくはそれを超えない値に設定すればよい。ただし、これに限るものではなく、図示しないビンの数設定用のGUIによって、ユーザがビンの数を任意に設定し、それに基づいてヒストグラムを生成してもよい。
S1005では、出力部106が、S1004で生成されたヒストグラムに対して、入力情報、または補正された距離画像の少なくとも一方に基づいて、補正したヒストグラムを出力する。例えば、入力情報が信頼度に基づいた表示に関する情報であった場合は、S1004で生成したヒストグラムとS1002で取得した信頼度マップに基づいて、ヒストグラムに信頼度の大小に応じた色データを決定する。すなわち、各ビンにおいて、度数の数値だけでなく、度数の値の個数からなる色ベクトル情報を決定したデータとする。図6は信頼度によって色付けしたヒストグラムの例を説明する図である。図6のG12のようにヒストグラムを信頼度に基づいて色データを決定する方法について説明する。まず、ヒストグラムの各ビンに対応した画素位置群を取得する。そして、信頼度マップにおいてそれらの画素位置群における信頼度を取得し、それを降順に並べる。そしてその並び順に対応する輝度でヒストグラムのそのビンの色を決定する。例えば、あるビンにおいて度数は5であり、それらに対応した信頼度が(0.9、0.3、0.6、1.0、0.5)からなっていたとする。これを降順に並べ(1.0、0.9、0.6、0.5、0.3)としたものがG103である。さらにG103を信頼度に応じて輝度に変換したものがG104であり、これがあるビンにおけるヒストグラムの色となる。これらを全てのビンに対して行った結果がG12の信頼度の色付きヒストグラムとなる。こうした信頼度の色付きヒストグラムとすることで、ユーザは信頼度を考慮した距離値の分布を直感的に知ることができ、ヒストグラムによる分析や値の設定などを効率よく行うことができるようになる。
次に、ヒストグラムを表示した上で、さらにインタラクティブにユーザがヒストグラムに様々な変更を加える処理方法について説明する。図7は距離画像やヒストグラムを表示および編集するGUIの例を示す図である。図7において、U100は距離画像やヒストグラムを表示したり編集したりするGUIのウィンドウである。U101は距離画像を表示する領域である。U102はヒストグラムを表示する領域である。U103は表示されたヒストグラムである。U104はヒストグラムに表示される距離値の最小値を示す領域である。U105はヒストグラムに表示される距離値の最大値を示す領域である。U106はヒストグラムの表示範囲の最小値を編集できる領域である。U107はヒストグラムの表示範囲の最大値を編集できる領域である。U108はヒストグラムの表示色を選択するドロップダウンリストである。U109は処理前後の可視化を行うか否かを選択するチェックボックスである。U110は代表値を利用するか否かを選択するチェックボックスである。U111は座標変換を行うためのボタンである。U112はヒストグラムを描画した色を距離画像にも反映するか否かを選択するチェックボックスである。U113はU101に表示する画像およびU103のヒストグラムを生成する元の画像を距離画像か補正画像かどちらかを選択するラジオボタンである。ユーザはこのようなGUIを用いてヒストグラムに様々な変更を加えることができる。また、以下の説明では、U113において距離画像が選択されているものとして説明を行う。
このようなユーザによる入力情報を情報取得部101が取得し、図示しない判断部に情報を出力する。判断部はヒストグラムを生成し直すか否かを判断する。これらをS1006に含めた処理の流れについて説明する。図8はユーザ入力によってヒストグラムに変更を加える処理の流れを示すフローチャートである。表示色を変更する場合、表示範囲の最小値と最大値を変更する場合、処理前後の可視化を行う場合、代表値を利用する場合、座標変換を行う場合の5つの場合それぞれについて、図8のフローチャートを用いて処理の流れを説明する。
<表示色を変更する場合>
本処理では、ヒストグラムを表示する色および距離画像の色をユーザが指定した色に変更する。その処理の流れについて説明する。
S1101では、情報取得部101が、U108で設定されたヒストグラムの色の情報およびU112のチェック状態を示す入力情報を取得する。すなわち表示色をC101として、表示色を距離画像にも反映するという情報を取得する。ユーザはU108を画面上でクリックまたはタッチすると、表示色選択のドロップダウンリストの中からヒストグラムと距離画像を描画する色を選択することができる。図9は表示色選択のドロップダウンリストの例を示す図である。図9のC100に示す信頼度またはC101に示すような複数のカラーバーの中から一つを選択する。また、表示色を距離画像にも反映するか否かを示すチェックボックスU112に入力する。本処理では、最初にC100の信頼度が選択されていた状態から、S1100によってC101のカラーバーが選択され、U112のチェックボックスにチェックを入れた場合について説明する。
S1102では、補正部102が、生成したヒストグラムに対して補正が必要か判断する。表示色が変更されない場合、S1105に進む。表示色が変更される場合、S1103に進む。
S1103では、決定部104が、ユーザによって指定された色に基づいてヒストグラムの表示方法を決定する。表示色の変更に関する情報(設定されたヒストグラムの色の情報)に基づいて表示色(表示方法)を決定する。変換部105が決定された色データから色付きヒストグラムデータを生成する。また、決定部104は距離画像に対してC101のカラーバーの適用を行う。C101などのカラーバーは左の色ほど距離が近いことを、右の色ほど距離が遠いことを表している。よってU104に示されているヒストグラムの距離値の最小値がC101の左端の色と一致し、U105に示されているヒストグラムの距離値の最大値がC101の右端の色と一致するように距離値とカラーバーの色とを対応付ける。そしてヒストグラムの各ビンの距離値に対応したカラーバーの色をヒストグラムの色情報として決定する。さらに、U101に描画する距離画像についても、各画素における距離値に対応したカラーバーの色とする情報を決定する。
S1104では、変換部105が色付きヒストグラムの画像データと距離画像の色変換した画像データを生成する。具体的には、S1006と同様に色付きヒストグラムデータから画像データに変換する。また、距離画像を描画する画像データに対して各画素の距離値に対応したカラーバーの色で更新する。
S1105では、出力部106が、決定部104によって決定された色を用いて、表示方法を変更したヒストグラムを出力する。S1105で生成したヒストグラムの画像データと距離画像の画像データを表示装置11に出力する。ここでは表示装置11は、ヒストグラムの画像データに対してはU102に、距離画像の画像データに対してはU101が対応する。
以上の処理により、ユーザが指定した表示色に基づいて、ヒストグラムを表示する色および距離画像の色を変更することで、ユーザにとって見やすいヒストグラムを生成する。ユーザは所望の色でヒストグラムや距離画像を分析できる。
<表示範囲の最小値と最大値を変更する場合>
本処理では、ヒストグラムの表示範囲をユーザが指定した範囲に変更し、それに伴って距離画像を描画する色も変更する。その処理の流れについて説明する。
S1101では、情報取得部101が、ヒストグラムの表示範囲をユーザが指定した範囲に指定する入力情報を取得する。具体的には、U106およびU107から距離値の情報およびC112のチェック状態を示す入力情報を取得する。すなわち、ヒストグラムの表示範囲の最大値および最小値が変更され、距離画像にも反映するという情報を取得する。ユーザはU106およびU107に対して距離値を入力することでヒストグラムの表示範囲を設定する。設定方法としては、キーボードから数字を入力してもよいし、画面上に数字キーを出現させて、マウス操作やタッチパネルのタッチ操作によって数字を入力してもよいし、数値のスライドバーにより数字を入力してもよい。また図示しない最大値ボタンまたは最小値ボタンを押すことで、距離画像の最大値または最小値を自動で入力してもよい。また、距離画像にも反映するか否かを示すチェックボックスU112に入力する。本処理では、表示色としてC101が選択されている状態で、U106およびU107で距離値の変更が行われ、U112のチェックボックスにチェックを入れた場合について説明する。
S1102では、補正部102が、生成したヒストグラムに対して補正が必要か判断する。補正部102が、表示範囲の変更に関する情報を受け取る。表示範囲が変更されると、ヒストグラムを生成し直す必要があると判断し、S1103に進む。表示範囲が変更されない場合はS1105に進む。
S1103では、決定部104が、ヒストグラムの表示範囲を決定する。また、表示色を変更する場合におけるS1104と同様にヒストグラムに色データを決定し、色付きヒストグラムデータおよび距離画像のデータを生成する。もし、U106が距離画像の距離値の最小値よりも大きい場合には、U106より小さい距離値を持つ画素の色はカラーバー内には存在しない別の色を対応付ける。同様に、U107が距離画像の距離値の最大値よりも小さい場合には、U107より大きい距離値を持つ画素の色はカラーバー内には存在しない別の色を対応付ける。このように色付けすることで、ヒストグラムの表示範囲外に対応する距離画像の領域を可視化することができる。
S1104では、変換部105が、色付きヒストグラムの画像データと距離画像の色変換した画像データを生成する。具体的には、S1006と同様に色付きヒストグラムデータから画像データに変換する。また、距離画像を描画する画像データに対して各画素の距離値に対応したカラーバーの色および表示範囲外を表すS1104で設定した色で更新する。
S1105では、出力部106が、入力情報によって指定された表示範囲におけるヒストグラムを出力する。S1105で生成したヒストグラムの画像データと距離画像の画像データを表示装置11に出力する。ここでは表示装置11は、ヒストグラムの画像データに対してはU102に、距離画像の画像データに対してはU101が対応する。また、U106の値をU104に表示し、U107の値をU105に表示する。
以上の処理により、ユーザが指定したヒストグラムの表示範囲に基づいて、ヒストグラムを生成し、ヒストグラムの色や距離画像を描画する色を変更することで、ユーザは注目したい距離値の範囲で分析することができる。
<処理前後の可視化を行う場合>
本処理では、処理前後の可視化を行うか否かのチェックボックスU109にチェックを入れることで、補正処理部102に入力する距離画像と、補正処理部102が出力する補正画像の差異を可視化する。その処理の流れについて説明する。
S1101では、情報取得部101がU109のチェック状態を示す入力情報を取得する。すなわち処理前後の可視化を行うという情報を取得する。ユーザは処理前後の可視化を行うか否かのチェックボックスU109にチェックを入れる。本処理では、表示色としてC101が選択されている状態で、U109のチェックボックスにチェックを入れた場合について説明する。
S1102では、補正部102が、生成したヒストグラムに対して補正が必要か判断する。補正部102が、処理前後の可視化を行うという情報を受け取る。U109にチェックが入っている場合は、ヒストグラムの表示色を変更するためにS1103にすすむ。U109にチェックが入っていない場合、すなわち可視化処理を行わない場合はS1105に進む。
S1103では、決定部104が、ヒストグラムに距離画像から得たデータと補正画像から得たデータの差異を表す色データを決定する。図10の距離画像と補正画像の差異を表すヒストグラムを示す例の図を用いて、距離画像と補正画像の差異の色付け方法について説明する。G105は距離画像であり、距離計測できなかった画素をG111で表現している。G13はG105の距離画像に対応するヒストグラムである。G13の各ビンにおけるグラフの色の違いはG101のカラーバーによって表示した色を表している。ヒストグラムG13の中でG107は距離計測できなかったG111の画素に対応したビンの度数を表している。G106は距離画像を補正処理部102が処理して得られた補正画像を表している。G14は補正画像に対応するヒストグラムである。ヒストグラムG14の中でG109およびG110はG111に対応する距離計測できていなかった画素が、補正画像G106で補正された結果、G107のビンからG109およびG110に補正されたことを示している。さらに、ヒストグラムG14におけるG109とG110における色はG107と同じ色を用いる。またヒストグラムG13におけるG108に対応する一部の画素は、補正画像G106においてG111のビンに補正され、G108と同じ色を用いて表現する。このように、補正処理を行う前の距離画像G105をヒストグラム表示する場合の各ビンの色で、補正処理を行った後の補正画像G106のヒストグラムの色を表現する。補正画像のヒストグラムG14を見れば、距離画像と補正画像の差異を表した色付きヒストグラムデータを生成することができる。このようにヒストグラムを表示することによって、距離画像の欠損領域がどのように補完されたのかをユーザが視認できるため、ユーザにとって見やすいヒストグラムを提示できる。
S1104では、変換部105が、色付きヒストグラムデータから、色付きヒストグラムの画像データと距離画像の色変換した画像データを生成する。
S1105では、出力部106が、補正部102によって補正された画像に基づいて得られた距離値と、距離画像に含まれていた距離値とを異なる色で表示したヒストグラムを出力する。すなわち、補正済みの距離画像(補正画像)から生成したヒストグラムと、距離画像から生成したヒストグラムとの差異を可視化したヒストグラムデータを出力する。
以上の処理により、補正処理を行う前の距離画像と、補正処理を行った後の補正画像との差異を、一つの色付きヒストグラムで表現することができるため、ユーザにとって見やすいヒストグラムが提示できる。
<代表値を利用する場合>
本処理では、代表値の利用を行うか否かのチェックボックスU110にチェックを入れることで、計測できなかった画素を含む距離画像に対して、距離値を補正した補正画像を作成しなくても、計測できなかった領域の影響を抑制したヒストグラムを生成する。こうすることによって、距離画像において欠損した情報を補いつつ、ヒストグラムで距離画像の概要を表現することができる。また、距離画像の領域毎にヒストグラム化を行うため、画素毎に処理をするよりも処理負荷が軽い。その処理の流れについて図11を用いて説明する。図11の代表値を利用したヒストグラムの生成の処理を表すフローチャートによってヒストグラムが生成される。
S1101では、情報取得部101がU110のチェック状態を取得する。ユーザは代表値の利用を行うか否かのチェックボックスU110にチェックを入れる。本処理では、表示色としてC101が選択されている状態で、U110のチェックボックスにチェックを入れた場合について説明する。
S1102では、補正部102が、生成したヒストグラムに対して補正が必要か判断する。代表値の利用を行う場合、S1200に進む。代表値を利用しない場合はS1202に進む。
S1200では、分割部107が、領域毎に所定の値(その領域の距離値の平均値や中央値等)を対応付けて距離画像を分割する。領域分割は画素位置が近いものが同じグループに属するような空間分割を行う。図12は領域分割の例を示す図である。図12を用いて領域分割方法の例を説明する。G112は距離画像である。G113は距離画像において計測できなかった画素(欠損画素)を表す。G114はG112の距離画像を、所定の大きさの格子状の線(グリッド)で領域分割したものである。G115は領域を分割した格子状の線を表す。この例のように、格子状の線によって領域分割を行えばよい。ただし、領域分割の方法は格子状に分割する例に限るものではない。別の空間分割を用いてもよい。例えば、距離画像に対応した輝度画像またはカラー画像G116が存在した場合には、輝度画像またはカラー画像G116に対してSuperpixel処理を行う。すなわち、距離画像に対応したカラー画像の画像特徴に基づいて、距離画像を部分領域に分割する。SLIC(Simple Linear Iterative Clustering)に代表されるような処理である。そのようにしてG117のような領域分割を行ってもよい。G118はSuperpixelで分割した線を表す。すなわち、カラー画像におけるエッジ検出の結果(画像特徴)に基づいて対応する距離画像の領域を分割する。こうすることによって、距離値が近い画素同士が同じ領域に含まれる可能性が上がる。
S1201では、生成部103が、S1200で分割した部分領域毎(例えば、グリッド毎)に代表値を取得することによって、ヒストグラムを生成する。具体的には、領域毎に画素群の距離値の中央値を代表値とすればよい。ただし、代表値は中央値に限るものではなく、最頻値を用いてもよいし、計測できなかった画素を計算から除いた平均値を用いてもよい。また、図13はガウシアンフィッティングによる代表値の求め方の例を示す図である。G15はある領域における画素群の距離値のヒストグラムである。G119はG15のヒストグラムに対してガウシアンフィッティングを行った結果である。G120はフィッティングしたガウシアンの中心の位置であり、G120が表す距離値を代表値として用いてもよい。このように、代表値を用いることで領域内全ての画素が計測できなかった場合を除けば、領域ごとに計測に基づく距離の代表値を求めることができる。また、各領域における画素の数を数えておく。画素の数は、計測できなかった画素も含めて数える。
S1202では、出力部106が、領域毎に代表値とその画素数に基づいてヒストグラムを出力する。S1004で説明したヒストグラムの生成では、1画素ごとに距離値に応じたビンに度数を1ずつ追加するようにしてヒストグラムを生成していたが、ここでは、領域ごとに代表値に応じたビンに度数を画素数だけ追加するようにしてヒストグラムを生成する。
以上の処理により、計測できなかった画素を含む距離画像であっても、計測できなかった領域の影響を抑制した距離値の分布によるヒストグラムを生成することができる。そのため、ユーザにとって見やすいヒストグラムを提示できる。
<座標変換を行う場合>
本処理では、撮像装置10の座標系における距離値の分布を表すヒストグラムを、ユーザが指定した任意の座標系における距離値の分布を表すヒストグラムに変換して表示する。その処理の流れについて説明する。ただし、処理の流れのうちS1104、S1105、S1106は既に説明した表示色を変更する場合と同様であるため、説明を省略する。
S1101では、情報取得部101が、U114で設定された変換行列およびU118で設定された撮像装置10の内部パラメータの情報を取得する。ユーザがU111の座標変換を行うためのボタンをクリックまたはタッチすると、座標変換を設定するGUIがポップアップする。図14は座標変換を設定するGUIの例を示す図である。U114は座標変換を設定するGUIである。U115は撮像装置10の座標系から新しい座標系に変換するための変換行列である。U116は変換行列をファイルから読み込むボタンである。U117は変換行列をファイルへ保存するボタンである。U118は距離画像を3次元点群に変換するためのパラメータを設定するためのボタンである。U119は平面フィッティングを行って変換行列を求めるボタンである。U120は座標系を直接操作して変換行列を求めるボタンである。U121は変換行列のうち座標系の回転行列成分を表す。U122は変換行列のうち座標系の並進移動成分を表す。各ボタンや操作方法について説明する。変換行列U115は、ユーザが直接数値を入力することで編集することができる。ただし、回転行列U121は行列式=1の直交行列を満たしている、また、変換行列の4行目の成分は(0 0 0 1)である等の変換行列の制約を満たさない場合は、変換行列が適切ではないことを知らせる表示が行われる。例えば、変換行列U115の中で、不適切な値の文字色が黒から赤に変化する。変換行列の例として、例えば、並進移動成分U122の第3成分に数値を入力すれば、距離画像の距離値がその数値の分だけオフセットした座標変換を行うことができる。読み込みボタンU116を押すと、ファイルダイアログがポップアップし、変換行列を表すcsvファイルを読み込むことで変換行列U115を更新することができる。保存ボタンU117を押すと、現在の変換行列U115がcsvファイル形式で保存される。パラメータ設定ボタンU118を押すと、撮像装置10の焦点距離fx、fyや中心位置cx、cyなどの内部パラメータを設定することができる。設定方法としては、内部パラメータをcsvファイル形式で書かれたファイルを読み込む方法でもよいし、fx、fy、cx、cyの値を直接ユーザが書き込む方法でもよい。ここで設定した内部パラメータに基づいて、距離画像は撮像装置10の座標系における3次元点群に変換することができる。距離画像の画素位置(px,py)における距離値がpdであるとき、撮像装置10の座標系における3次元位置(X,Y,Z)は次式で求めることができる。
X = pd(px−cx)/fx
Y = pd(py−cy)/fy (式1)
Z = pd
平面フィッティングボタンU119を押すと、距離画像を撮像装置10の座標系における3次元位置を表す点群に変換した3次元点群を表示したGUIがさらにポップアップする。この3次元点群表示GUI上で複数の点群を選択すると、その点群に対して平面でフィッティングした結果を得ることが出来る。フィッティングした平面の方程式は次式で表される。
AX+BY+CZ+D=0 (式2)
ただし、ベクトル(A,B,C)は大きさ1で、平面の法線方向を表す。変換行列のうち回転行列を示すU121の部分が新しい座標系におけるZ方向が(A,B,C)と一致するような回転行列として設定される。座標系操作ボタンU120を押すと、3次元点群表示GUIがさらにポップアップする。ユーザはその3次元点群表示GUI上で、新しい座標系を示す原点とXYZの軸からなる座標系オブジェクトをマウス操作やタッチ操作によって、自由に3次元表示GUI上で回転および並進移動させることができる。座標系オブジェクトを移動させると、撮像装置10の座標系からその座標系に変換するための変換行列がU115に表示される。このような座標変換を設定するGUIU114を用いて、ユーザは変換行列を設定する。
S1102では、補正部102が、座標変換を行うための情報から補正が必要か判断する。座標変換を行う場合、S1103に進む。座標変換を行わない場合は、S1105に進む。S1103では、決定部104が座標の変換方法を決定する。S1104では、変換部105がまず式1に基づいて距離画像を撮像装置10の座標系における3次元点群に変換する。次に、変換行列Pを用いて、3次元点群(X,Y,Z)を新しい座標系(Xn,Yn,Zn)に変換する。変換式は次式で表される。
Figure 2020139877
そして、新しい座標系におけるZnの分布をヒストグラムとして生成する。その方法はS1004における距離値がZnになった以外は同様であるため、説明を省略する。以上の処理により、ユーザが指定した任意の座標系における距離値の分布によるヒストグラムを生成することができる。
上記述べた構成で、距離センサの情報に基づいてヒストグラムの表示範囲を決定し、さらにヒストグラムを描画する際の色を信頼度に基づいて色付けすることによってユーザの利便性を向上させたヒストグラムを生成、描画することができる。さらにGUIを用いてユーザの入力に応じて様々なヒストグラムの生成、描画方法を変更することができる。
(変形例)
第1の実施形態における変換部105および出力部106は、ヒストグラムを表示するための画像変換および画像表示を行う例として説明したが、これに限るものではない。例えば、ヒストグラムの分布の形状を用いてマッチングや物体検出を行う場合には、変換部105はヒストグラムを多次元ベクトルに変換し、出力部106は多次元ベクトルを出力するようにしてもよい。このようにすることで、ヒストグラムを用いた物体の類似度計算や物体検出に用いることができる。
出力部106において、学習済みモデルを用いることによって、補正されたヒストグラムを出力してもよい。ここでいう学習済みモデルとは、入力画像から入力画像に対応する結果を出力するニューラルネットワークに基づくネットワーク構造とそのパラメータとする。具体的にはCNN(畳込みニューラルネットワーク)等である。例えば、距離画像または補正画像を入力することによって、適切な距離値の範囲を推定する学習済みモデルを用いる。このとき、学習済みモデルは、距離画像に対して、どのような外れ値が多いのかを学習し、有効な距離値が多い範囲を距離値の範囲として推定する。また、計測装置によって計測可能な距離値が異なることから、計測装置が計測できない領域とその正解値を予め学習済みモデルに学習させてもよい。その場合、計測が困難な領域の距離値を推定するように学習させる。ここで学習(パラメータの更新)とは、学習モデルの入力側の層に画像を設定し、出力画像の層に画像に対する正解値を設定する。ニューラルネットワークを経由して算出される出力が設定した正解値に近づくようにニューラルネットワークのパラメータを調整する処理を指す。なお、学習済みモデルは、情報処理装置1が保持してもよいし、外部装置で保持してもよい。学習済みモデルを活用することによって、ユーザにとって使いやすいヒストグラムを効率的に出力できるようになる。
第1の実施形態における<代表値を利用する場合>の例では、S1200において領域分割を行う方法として、格子状の線で領域分割する場合や、SLICを用いる場合について述べたが、これに限るものではない。例えば、輝度画像または距離画像を入力として領域分割結果を制御するパラメータ群を出力するようなネットワークモデルを学習によって獲得してもよい。代表値を利用したヒストグラムの結果は、ノイズを含まない距離画像から生成したヒストグラムと似ているほど良い結果であると言える。そこで、なるべく良い結果を出力できる領域分割パラメータを出力するネットワークモデルを学習する。例えば、計算処理負荷が少ない時、またはユーザが指定した学習期間などの学習フェーズにおいて、領域分割ネットワークモデル(学習済みモデル)の学習を行う。学習の方法は特に規定しないが、例えば強化学習を用いればよい。強化学習ではエージェントが行動によって状態を変化させて報酬を得るというモデルにおいて、報酬がなるべく高くなるように行動を決定するための学習を行う方法である。そこで、行動として領域分割パラメータを変化させて、代表値を求めるための領域分割結果の状態を変化させる。報酬としては、代表値を利用したヒストグラムが、ノイズを含まない距離画像から生成したヒストグラムと似ているほど報酬が高くなるように設定する。ただし、ノイズを含まない距離画像を得ることは困難なため、第1の実施形態で述べた補正処理によって補正画像を生成して、ノイズを含まない距離画像として用いてもよい。本システムを利用する際に、距離画像と輝度画像が入力されるたびに、そのデータを保存しておき、学習に利用する。本システムを利用中に補正画像を生成した場合はそれを保存して利用すればよい。補正画像を生成する処理を行わなかった場合には、学習フェーズにおいて補正画像を生成すればよい。このようにして強化学習を行うことによって、ユーザが入力する距離画像および輝度画像の特性に対して最適な領域分割を行うパラメータを得ることができる。また、教師あり学習で、上記の領域分割を学習させてもよい。教師データとして、距離画像とカラー画像を用意し、ノイズを含まない距離画像を正解とする。または、距離画像に対して所定の範囲の距離値を持つ画素をグルーピングしたデータを正解としてもよい。この教師データによって、近い距離値をもつ画素同士の画像特徴をニューラルネットワークに学習させることによって、学習済みモデルを生成する。情報処理装置における保持部、または外部装置にこの学習済みモデルを保持する。領域分割を行う際に、取得された距離画像とカラー画像とを学習済みモデルに入力することによって、距離画像が部分領域に分割される。この部分領域毎に、距離値の代表値(平均値や中央値)を対応付けておくことで、ヒストグラムを生成する。学習済みモデルで領域分割を行うことによって、ヒストグラムの概況が正確に表現でき、ユーザにとって見やすいヒストグラムを表示できる。
上記の表示方法を組み合わせてもよい。例えば、<代表値を利用する場合>と<処理前後の可視化を行う場合>とを組み合わせてもよい。具体的には、図11のフローチャートに従って、距離画像の補完を行った後、図8のフローチャートを適用して、補完前後の距離データの差を表示させる。上記の表示方法を組み合わせることによって、ユーザにとってより見やすいヒストグラムを提示できる。
(第2の実施形態)
第1の実施形態では、距離画像を入力として、距離センサの情報に基づいてヒストグラムの表示範囲を決定し、ヒストグラムを描画する際の色付けを工夫する例について述べた。およびGUIを用いてユーザの入力に応じて利便性の高いヒストグラムを生成、描画する例について述べた。これに対して、第2の実施形態では、距離画像と画素対応の取れた輝度画像またはカラー画像を入力として、輝度画像またはカラー画像上で領域を設定して、その領域に対応する距離画像のヒストグラム上の領域を強調表示する例について述べる。
図21を用いて具体例を説明する。例えば、工場において、ベルトコンベア上を流れる部品W210を距離画像とカラー画像で検査する場合を考える。部品W210〜W213は、中央部分に凹みを有する物体であるとする。カラー画像I210、I211、I212はベルトコンベア等を流れる部品を時系列に撮像した画像であって、それぞれ距離画像から対応するヒストグラムG211、G212、G213が生成される。例えば、画像I210において、部品W210の中央の凹み部分をユーザがGUIで選択する。すると、画像I210に対応するヒストグラムG211から部品W210の凹み部分の計測結果が含まれるビンが強調表示される。同様に、画像I211の部品W211の網掛け領域が選択された場合は、ヒストグラムG212のビンG2101を強調する。本実施形態では、ユーザが実際に観測するシーンと同じ輝度画像またはカラー画像上で領域を設定できるため、距離画像上で指定する場合よりも直感的に領域を指定しやすい。また、カラー画像の該当領域の実測値がヒストグラムで確認できるため、ユーザにとって見やすいヒストグラムになる。
図15は第2の実施形態における情報処理装置の機能構成例を示す図である。図15の情報処理装置2は、画像取得部200、情報取得部201、補正部202、生成部203、決定部204、変換部205、出力部206、領域設定部(第1設定部)207から構成される。また、図15の情報処理装置2は撮像装置20、表示装置21と接続されている。本実施形態における情報処理装置2は第1の実施形態に示した図2と略同様である。同様の機能については説明を省略し、違いのある撮像装置20、画像取得部200、情報取得部201、領域設定部(第1設定部)207について説明を行う。
撮像装置20は距離画像と輝度画像またはカラー画像を撮像し、画像取得部200に出力する。以下では、カラー画像であるとして説明を行う。カラー画像は距離画像と位置合わせが行われており、シーン内の任意の点は同じ画素位置で観測される。撮像装置20には、例えばステレオカメラ、RGB−Dカメラ等を用いる。
画像取得部200は撮像装置20から距離画像およびカラー画像を取得し、情報取得部201に出力する。情報取得部201は第1の実施形態における情報取得部101の機能に加え、カラー画像を取得し、カラー画像に対するユーザ入力の情報も取得する。それらの情報を補正処理部202、ヒストグラム生成部203、決定部204、領域設定部207に出力する。決定部204は、第1の実施形態における決定部104の機能に加え、カラー画像に対しても画素領域を指定する情報を決定する。そして、ヒストグラム、距離画像、カラー画像の決定情報とともに変換部205に出力する。変換部205は、決定部204からヒストグラム、距離画像、カラー画像とそれらの決定情報を受け取って、表示装置21に表示するための画像データに変換する。出力部206は、変換部205からヒストグラム画像データ、距離画像データ、カラー画像データを受け取って、表示装置21に出力する。また、GUIも必要に応じて出力する。表示装置21は、具体的にはディスプレイであり、出力部206から出力されたヒストグラム画像データ、距離画像データ、カラー画像データ、GUIを所定の領域に描画して表示する。領域設定部207(第1設定部)は、ユーザによって入力された情報からカラー画像上で領域を設定する。ユーザはGUIをもちいて、距離値を確認したい領域をカラー画像上で指定する。
次に、本実施形態における処理手順について説明する。まず、距離画像のヒストグラムを生成して表示するまでの処理については、第1の実施形態における図4のフローチャートと同様であるため、説明を省略する。本実施形態では、図4のフローチャート実行後に、ユーザ入力によってカラー画像上で領域を設定し、その領域に対応するヒストグラム領域を強調表示する。図16はユーザ入力から領域設定を行って強調表示したヒストグラムを表示する処理の流れを示すフローチャートである。その処理の流れについて説明する。
S2100では、情報処理装置が初期化を行う。S2101では、情報取得部201が領域を設定するための入力を取得し、領域設定部207に出力する。ユーザはカラー画像に対して領域を設定するための入力を行う。領域を設定するための入力の例としては以下のような方法がある。カラー画像または距離画像上である画素を指定する。カラー画像または距離画像上で複数の画素領域を指定する。カラー画像において、色の範囲を指定する(例えば180<R<250かつG<50、B<50として赤い領域を指定する)。物体検出などの画像処理アルゴリズムを適用して、物体領域を指定する(例えば、円検出により円領域を指定する)。テンプレートマッチングによって所定の物体領域を指定する。ただし、これらの方法に限るものではない。
S2102では、領域設定部207が、領域を設定するための情報を受け取って、まず、指定された領域をカラー画像と同じ解像度のマスク画像として生成する。ある画素や複数の画素領域が指定されていれば、その領域をマスクとして生成する。カラー画像で色の範囲が指定されていれば、その範囲を満たす画素領域をマスクとして生成する。物体検出などの画像処理アルゴリズムを適用した場合は、得られた画素領域をマスクとして生成する。このマスク画像は、例えば、指定された領域の画素では1の値を格納しており、それ以外の画素領域では0の値を格納した二値の画像である。
S2103では、決定部204が、マスク画像を用いて表示する画像とヒストグラムにおける対応領域を特定し、その領域を強調するための表示方法を決定する。表示する画像とは、距離画像であってもカラー画像であってもよい。図示しないGUIによって表示する画像をユーザが切り替えられるものとする。まず、表示する画像については、マスク画像によって画素同士の対応が取れているため、表示する画像上において、マスクされている画素領域と同じ画素領域を抽出して、その領域を強調するように色データを編集する。強調する方法としては、領域を赤や青などの特定の色に変換する方法や、表示時に点滅するように一定時間ごとに色が切り替わるようにする方法、マスクされていない画素領域の色を暗くする方法等がある。ただし、これらの方法に限るものではない。
次に、ヒストグラムについては、ヒストグラムに対応する距離画像上で、マスクされている画素領域を特定し、その領域における距離値群を抽出する。そして、それらの距離値群に対応するヒストグラムの領域を強調するように色データを編集する。図17はヒストグラムを強調する方法の例を示す図である。図17において、G120は距離画像(または距離画像に対応するカラー画像)を表しており、その距離画像に対応するヒストグラムがG16である。G121はG120と同様の距離画像(または距離画像に対応するカラー画像)であり、そのうちの一部の領域が、G122としてマスクされている画素領域を表している。G17は距離画像G121に対応するヒストグラムであり、G123はG122の領域に対応する距離値群のヒストグラムの度数領域を表している。G123のように、マスクされている画素領域G122に対応する距離値の度数の色データを編集する。強調する方法としては、対応するヒストグラム領域を赤や青などの特定の色に変換する方法や、表示時に点滅するように一定時間ごとに色が切り替わるようにする方法、マスクされていない画素領域に対応するヒストグラム領域の色を暗くする方法等がある。ただし、これらの方法に限るものではない。例えば、G122の距離値群に対応するヒストグラムの度数の色を全て変更してもよい。このようにして、表示画像とヒストグラムに対して決定情報として色情報を決定して、色付き表示画像のデータおよび色付きヒストグラムデータを生成する。距離画像または距離画像に対応するカラー画像から確認したい領域を選択して、その領域の実測値の概況を把握できるため、ユーザにとって見やすいヒストグラムが生成できる。
S2104では、変換部205が、色付き表示画像の画像データと色付きヒストグラムの画像データを生成する。具体的な方法としてはS1006と同様であり、それぞれを画像データに変換する。S2105では、出力部206が、表示画像とヒストグラムをGUI上に表示させるよう出力する。
以上の処理により、カラー画像上で設定した領域に対応する距離画像のヒストグラム領域およびカラー画像上での対応領域を強調表示することができる。
また、輝度画像またはカラー画像で用いることができる物体検出などの既存のアルゴリズムを用いて領域設定を行って、その領域に対応する距離画像のヒストグラムを分析することができる。上記述べた構成で、ユーザはカラー画像上で、所望の条件に基づいて領域を設定し、その領域に対応するヒストグラム領域を強調して可視化することによって、直感的に距離値とシーンとの対応を分析することができる。
(変形例)
第2の実施形態では、輝度画像またはカラー画像上で領域を設定する例について述べたが、これに限るものではない。例えば、距離画像上でS2100と同様にして領域を設定してもよい。
第2の実施形態における決定部204および変換部205は、ヒストグラムや表示画像の色データを編集して、画像に変換する例について述べたが、これに限るものではない。例えば、ユーザ入力において、ある画素が指定された場合に、距離画像において対応する画素を特定する。そのカラー画像における画素位置(px,py)とその画素における距離値がpdを取得する。式1を用いて撮像装置20の座標系における3次元位置(X,Y,Z)を求めることができる。決定部204はこの3次元位置を情報として決定してもよい。さらに変換部205は3次元位置の情報をGUIの形に変換して出力できるようにする。
図18は距離画像の画素における3次元位置を示すGUIの例を示す図である。U123は距離画像の画素と3次元位置を示すGUIであり、ウィンドウとしてポップアップするものとする。そして、ユーザはマウスなどで距離画像またはカラー画像上である画素位置(px,py)を指定すると、U124とU125にそれぞれその画素位置が表示される。さらに、その画素位置における距離値pdがU126に表示される。また、式1を用いて計算された撮像装置20の座標系における3次元位置(X,Y,Z)の値それぞれがU127、U128、U129に表示される。このようにして、ユーザが指定した画素位置における3次元位置を確認することができる。
(第3の実施形態)
第2の実施形態では、輝度画像またはカラー画像上で領域を設定すると、その領域に対応したヒストグラムの領域が強調表示される例について述べた。これに対して、第3の実施形態では、ヒストグラム上で領域を選択すると、その領域に対応した画素領域を輝度画像またはカラー画像上で強調表示する例について述べる。図22を用いて具体例を説明する。カラー画像I2200とI2201には、容器の中にばら積みされたワークが写っている。複数のワークのうちW220は一番手前に積まれたワークであるとする。カラー画像I2200に対応する距離画像から生成されたヒストグラムをG22とする。カラー画像I2201に対応する距離画像から生成されたヒストグラムをG23とする。このとき、ユーザがGUIでヒストグラムG22の最も小さい距離値を含むビンを選択したとする。すると、画像I2200に含まれるW220が色つきで強調表示される。一方で、ヒストグラムG23のうち比較的距離値が大きいビンG221が選択されると、箱の底に近いワークW221が強調される。本実施形態によって、ヒストグラムによる距離値の分布表示に対して、ユーザが直感的に距離値の分布と観測シーンとの対応を取ることができるようになる。
図19は、第3の実施形態における情報処理装置の機能構成例を示す図である。図19の情報処理装置3の機能構成例は図15と略同様である。同様の機能については説明を省略し、違いのある情報取得部301、ヒストグラム設定部307(第2設定部)、出力部306について説明を行う。
情報取得部301は、第1の実施形態における情報取得部101の機能に加え、カラー画像を取得し、生成されたヒストグラムに対するユーザ入力の情報も取得する。それらの情報を補正部302、生成部303、決定部304、ヒストグラム設定部307(第2設定部)に出力する。ヒストグラム設定部307(第2設定部)は、生成されたヒストグラムにおいて、ユーザによって指定された階級を設定する。出力部306は、カラー画像において、ヒストグラム設定部で設定された階級に対応した画素を強調して表示ように出力する。次に、本実施形態における処理手順について説明する。まず、距離画像のヒストグラムを生成して表示するまでの処理については、第1の実施形態における図4のフローチャートと同様であるため、説明を省略する。本実施形態では、図4のフローチャート実行後に、ユーザ入力によってヒストグラム上で領域を設定し、その領域に対応するカラー画像領域を強調表示する。図20はユーザ入力からヒストグラムの領域設定を行って強調表示したカラー画像を表示する処理の流れを示すフローチャートである。その処理の流れについて説明する。ただし、S3104とS3105は図16におけるS2104とS2105と同様であるため、説明を省略する。
S3100では、情報処理装置が初期化する。S3101では、情報取得部301が、計測装置によって計測装置からの対象物体までの距離値を計測した結果から得られる距離画像と距離画像と対応したカラー画像とを取得する。S3102では、生成部303が、距離画像に基づいて、距離値の分布を示す前記ヒストグラムを出力する。
S3103では、領域設定部307(第2設定部)が、生成されたヒストグラムにおいて、ユーザによって指定された階級を設定する。ユーザはヒストグラムに対して領域を設定するための入力を行う。ヒストグラム上で領域を設定するための入力の例としては以下のような方法がある。ヒストグラム上である距離値を指定する。ヒストグラム上で複数の距離値範囲を領域として指定する。ヒストグラム上で特定の度数条件に合う距離範囲を領域として指定する(例えば度数が100未満である距離値として距離範囲を指定する)。ヒストグラムの形状(波形)の特徴に基づいて距離範囲を領域として指定する(例えばヒストグラムの傾きの絶対値が閾値以上の距離範囲を指定する)。ただし、これらの方法に限るものではない。S3104では、変換部305が、設定されたヒストグラムの階級に対応する距離値を含む画素を距離画像から抽出し、その画素の表示方法を変更するための変換を行う。ヒストグラムの領域を設定するための情報を受け取って、まず、指定された距離値群を抽出する。例えば、距離値が410から440の範囲と、510から550までの範囲を距離値群として抽出する。そして、距離画像においてその距離値群の範囲を満たす画素領域をマスクとして生成する。このマスク画像は、例えば、距離画像と同じ解像度であり、距離値群の範囲を満たす画素領域では1の値を格納しており、それ以外の画素領域では0の値を格納した二値の画像である。なお、決定部304が、距離値群とマスク画像を用いてヒストグラムと表示する画像において、対応する領域を強調するための表示方法を決定する。ヒストグラムについては、ユーザが指定した領域における距離値群に対応するビンのデータに対して、強調表示を行う。ヒストグラムの領域を強調する例としては、対応するビン領域の色を特定の色に変換する。対応するビンのビンごとに異なる色に変換する方法、表示時に点滅するように一定時間ごとに色が切り替わるようにする。対応するビン以外のビン領域の色を暗くする方法等がある。ただし、これらの方法に限るものではない。次に、表示する画像については、マスク画像によって画素同士の対応が取れているため、表示する画像上において、マスクされている画素領域と同じ画素領域を抽出して、その領域を強調するように色データを編集する。強調する方法としては、ヒストグラムにおける強調方法と同様にすればよい。ヒストグラムにおける強調方法と同じ方法で表示画像を強調することで、両者の対応関係を取りやすい。ただし、これに限るものではなく、ヒストグラムにおける強調方法と、表示する画像における強調方法を異なるものにしてもよい。S3105では、出力部306が、カラー画像において、ヒストグラム設定部307で設定された階級に対応した画素を強調して表示するよう表示装置31にヒストグラムを出力する。
以上の処理により、ヒストグラム上で設定した領域に対応するカラー画像上での画素領域を強調表示することができる。
本実施形態の適用例としては、例えば、図21における物体検出に適用できる。例えば、G213のように、点線で表示される基準値より突出したビンG2102に対応する距離値をもつ領域を、I2112のように強調表示してもよい。基準値は、それまでに撮像された距離画像から各ビンもしくは特徴的なビン(例えば最頻値であるビン)の度数の平均値を用いる。画像I212では、逆さの部品W213がW212と同時に撮像されている。そのため、ヒストグラムG213のビンG2102は通常よりも大きい度数を示す。基準値を実測値で設定できるため、ユーザにとって使いやすいヒストグラムが生成できる。
また、教師あり学習の学習データ生成に用いることが出来る。図22においてW220やW221のようなワークが箱の中にばら積みされている場合に、ワークを撮像した距離画像I2200からワークの位置を認識し、ワークをピッキングするロボット装置を考える。ロボットが箱の中のワークのうち一番上にあるワーク(撮像装置からの距離が最も小さいワーク)をピッキングするように学習させるには、例えば距離画像からピッキング可能なワークに対して正解値(GT)を付与した学習データを用いる。ユーザはヒストグラムでワークの距離値を確認しながらGTを付与できる。そのため、効率的に学習データを生成できる。
上記述べた構成で、ユーザはヒストグラム上で、所望の条件に基づいて距離値の範囲領域を設定し、その領域に対応するカラー画像の画素領域を強調して可視化することによって、直感的に距離値とシーンとの対応関係を分析することができる。
(その他の実施形態)
第1の実施形態では、1枚の距離画像に対して1つのヒストグラムを生成して、その表示を行う例について説明したが、それに限るものではない。例えば、距離画像を複数フレーム取得して、各距離画像に対するヒストグラムをそれぞれ生成し、複数枚のヒストグラムを用いて分析を行ってもよい。そして、複数のヒストグラムにおける各ビンの度数の最大値、最小値、平均値、中央値、偏差、合計値などの統計情報を出力できるようにする。このようにして、例えば、一定時間間隔で距離画像を取得して、そのシーンにおける時間的な変化をヒストグラム上で解析することができる。また、統計情報だけでなく、各ビンにおける度数の変化量を出力できるようにすれば、時系列の変化を分析することができる。
本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、データ通信用のネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、そのプログラムをコンピュータが読み取り可能な記録媒体に記録して提供してもよい。
1 情報処理装置
10 撮像装置
11 表示装置
100 画像取得部
101 情報取得部
102 補正部
103 生成部
104 決定部
105 変換部
106 出力部
107 分割部

Claims (18)

  1. 計測装置からの対象物体までの距離値の分布を示すヒストグラムを出力する情報処理装置であって、
    前記計測装置によって該計測装置からの対象物体までの距離値を計測した結果から得られる距離画像を取得する第1取得手段と、
    有効でない距離値として、前記計測装置が正しい距離値を計測できない距離値を示す入力情報を取得する第2取得手段と、
    前記距離画像および前記入力情報に基づいて、有効でない距離値と見なされる距離値の度数を低減させた前記ヒストグラムを出力する出力手段とを有することを特徴とする情報処理装置。
  2. 前記入力情報は、前記計測装置が正しい距離値を計測できない距離値として前記距離画像を構成する画素に0の値、無限大や負の値を格納することを示すことを特徴とする請求項1に記載の情報処理装置。
  3. 前記出力手段は、前記計測装置によって計測可能な距離値の範囲に基づいて、前記計測装置が計測可能な距離値の範囲における前記ヒストグラムを出力することを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記第2取得手段は、前記ヒストグラムの表示範囲をユーザが指定した範囲に指定する前記入力情報を取得し、
    前記出力手段は、前記表示範囲における前記ヒストグラムを出力することを特徴とする請求項3に記載の情報処理装置。
  5. 前記第2取得手段は、前記距離画像を入力とし、前記ヒストグラムの表示範囲を指定する前記入力情報を出力する学習済みモデルによって前記入力情報を取得し、
    前記出力手段は、前記入力情報に基づいて、前記ヒストグラムを出力することを特徴とする請求項4に記載の情報処理装置。
  6. 前記距離画像を構成する画素のうち、前記計測装置による計測結果が所定の範囲外の距離値になる画素を補正する補正手段をさらに有し、
    前記出力手段は、前記補正手段によって補正された距離画像に基づいて、前記所定の範囲外の距離値を含む階級の度数を低減させた前記ヒストグラムを出力することを特徴とする請求項1乃至5のいずれか1項に記載の情報処理装置。
  7. 前記補正手段は、前記計測装置による計測結果が所定の範囲外の距離値になる画素について、該画素の周辺の画素に含まれる距離値を用いて補正し、
    前記出力手段は、前記補正手段によって補正された距離画像に基づいて、前記所定の範囲の距離値を含む階級の度数を補完した前記ヒストグラムを出力することを特徴とする請求項6に記載の情報処理装置。
  8. 前記出力手段は、前記補正手段によって補正された画像に基づいて得られた距離値と、前記距離画像に含まれていた距離値とを異なる色で表示した前記ヒストグラムを出力することを特徴とする請求項6または7に記載の情報処理装置。
  9. 領域毎に所定の値を対応付けて前記距離画像を分割する分割手段を更に有し、
    前記出力手段は、前記分割手段によって分割された前記領域に対応付けられた値からヒストグラムを出力することを特徴とする請求項1乃至8のいずれか1項に記載の情報処理装置。
  10. 前記分割手段は、前記距離画像を、所定の大きさのグリッドに分割し、
    前記出力手段は、該グリッド毎に対応付けられた距離値からヒストグラムを出力することを特徴とする請求項9に記載の情報処理装置。
  11. 前記分割手段は、前記距離画像に対応したカラー画像の画像特徴に基づいて前記距離画像を部分領域に分割し、
    前記出力手段は、該部分領域毎に対応付けられた距離値から前記ヒストグラムを出力することを特徴とする請求項9または10に記載の情報処理装置。
  12. 前記分割手段は、前記カラー画像と前記距離画像とを入力とし、前記距離画像を分割した部分領域を出力する学習済みモデルによって分割された該部分領域を分割し、
    前記出力手段は、該部分領域毎に対応付けられた距離値から前記ヒストグラムを出力することを特徴とする請求項9乃至11のいずれか1項に記載の情報処理装置。
  13. 前記第2取得手段は、前記距離画像における前記距離値の確からしさである信頼度をさらに取得し、
    前記出力手段は、前記信頼度に基づいて所定の値より前記信頼度が大きい領域の値を強調した前記ヒストグラムを出力することを特徴とする請求項1乃至12のいずれか1項に記載の情報処理装置。
  14. ユーザによって指定された色に基づいて前記ヒストグラムの表示方法を決定する決定手段をさらに有し、
    前記出力手段は、前記決定手段によって決定された色を用いて前記ヒストグラムを出力することを特徴とする請求項1乃至13のいずれか1項に記載の情報処理装置。
  15. 前記距離画像と対応したカラー画像において、ユーザによって指定された領域を設定する第1設定手段を更に有し、
    前記出力手段は、前記第1設定手段で設定された前記領域に含まれる距離値の階級を強調した前記ヒストグラムを出力することを特徴とする請求項1乃至14のいずれか1項に記載の情報処理装置。
  16. 計測装置からの対象物体までの距離値の分布を示すヒストグラムを出力する情報処理装置であって、
    計測装置によって該計測装置からの対象物体までの距離値を計測した結果から得られる距離画像と該距離画像と対応したカラー画像とを取得する取得手段と、
    前記距離画像に基づいて、距離値の分布を示す前記ヒストグラムを出力する出力手段と、
    前記ヒストグラムにおいて、ユーザによって指定された階級を設定する第2設定手段と、
    前記カラー画像において、前記第2設定手段で設定された前記階級に対応した画素を強調して表示する表示手段とを有することを特徴とする情報処理装置。
  17. コンピュータを、請求項1乃至16のいずれか1項に記載の情報処理装置が有する各手段として機能させるためのプログラム。
  18. 計測装置からの対象物体までの距離値の分布を示すヒストグラムを出力する情報処理方法であって、
    前記計測装置によって該計測装置からの対象物体までの距離値を計測した結果から得られる距離画像を取得する第1取得工程と、
    有効でない距離値として、前記計測装置が正しい距離値を計測できない距離値を示す入力情報を取得する第2取得工程と、
    前記距離画像および前記入力情報に基づいて、有効でない距離値と見なされる距離値の度数を低減させた前記ヒストグラムを出力する出力工程とを有することを特徴とする情報処理方法。
JP2019036704A 2019-02-28 2019-02-28 情報処理装置、情報処理方法及びプログラム Active JP7362265B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019036704A JP7362265B2 (ja) 2019-02-28 2019-02-28 情報処理装置、情報処理方法及びプログラム
US16/795,304 US11373326B2 (en) 2019-02-28 2020-02-19 Information processing apparatus, information processing method and storage medium
CN202010106584.6A CN111624620B (zh) 2019-02-28 2020-02-21 信息处理装置、信息处理方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019036704A JP7362265B2 (ja) 2019-02-28 2019-02-28 情報処理装置、情報処理方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2020139877A true JP2020139877A (ja) 2020-09-03
JP2020139877A5 JP2020139877A5 (ja) 2022-03-08
JP7362265B2 JP7362265B2 (ja) 2023-10-17

Family

ID=72237096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019036704A Active JP7362265B2 (ja) 2019-02-28 2019-02-28 情報処理装置、情報処理方法及びプログラム

Country Status (3)

Country Link
US (1) US11373326B2 (ja)
JP (1) JP7362265B2 (ja)
CN (1) CN111624620B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7362265B2 (ja) * 2019-02-28 2023-10-17 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
TWI813096B (zh) * 2021-12-15 2023-08-21 科智企業股份有限公司 工件加工部位之指示方法與系統
CN114881894B (zh) * 2022-07-07 2022-09-30 武汉市聚芯微电子有限责任公司 一种像素修复方法、装置、设备以及计算机存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007524950A (ja) * 2004-02-17 2007-08-30 本田技研工業株式会社 オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出プログラム
JP2012095186A (ja) * 2010-10-28 2012-05-17 Sanyo Electric Co Ltd 電子機器
JP2016001853A (ja) * 2014-06-12 2016-01-07 キヤノン株式会社 画像処理装置、撮像装置、制御方法及びプログラム
JP2016054506A (ja) * 2015-11-05 2016-04-14 キヤノン株式会社 撮像装置、ヒストグラムの表示方法、プログラム、画像処理装置
JP2018185695A (ja) * 2017-04-26 2018-11-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4832227B2 (ja) 2006-09-07 2011-12-07 富士重工業株式会社 物体検出装置および物体検出方法
JP5150698B2 (ja) * 2010-09-30 2013-02-20 株式会社東芝 デプス補正装置及び方法
KR101970562B1 (ko) * 2012-11-19 2019-04-19 엘지디스플레이 주식회사 3차원 입체 영상의 깊이지도 보정장치 및 보정방법
KR102103984B1 (ko) * 2013-07-15 2020-04-23 삼성전자주식회사 깊이 영상 처리 방법 및 장치
CN104424649B (zh) * 2013-08-21 2017-09-26 株式会社理光 检测运动物体的方法和系统
KR102130123B1 (ko) * 2013-10-31 2020-07-03 삼성전자주식회사 다시점 영상 디스플레이 장치 및 그 제어 방법
WO2016006728A1 (ko) * 2014-07-08 2016-01-14 삼성전자 주식회사 화상을 이용해 3차원 정보를 처리하는 전자 장치 및 방법
JP5980294B2 (ja) * 2014-10-27 2016-08-31 キヤノン株式会社 データ処理装置、撮像装置、およびデータ処理方法
US11054664B2 (en) * 2015-06-18 2021-07-06 Apple Inc. Monitoring DOE performance using software scene evaluation
US10620300B2 (en) * 2015-08-20 2020-04-14 Apple Inc. SPAD array with gated histogram construction
EP3182162B1 (en) * 2015-12-18 2022-02-16 STMicroelectronics (Grenoble 2) SAS Multi-zone ranging and intensity mapping using spad based tof system
US10531063B2 (en) * 2015-12-25 2020-01-07 Samsung Electronics Co., Ltd. Method and apparatus for processing stereoscopic video
FR3061975B1 (fr) * 2017-01-17 2019-10-18 Ingenico Group Procede de traitement d’une transaction de paiement, borne de paiement et programme correspondant.
DE102017113674B4 (de) * 2017-06-21 2019-03-28 Sick Ag Optoelektronischer Sensor und Verfahren zur Messung der Entfernung zu einem Objekt
WO2019064825A1 (ja) * 2017-09-27 2019-04-04 ソニー株式会社 情報処理装置と情報処理方法および制御装置と画像処理装置
KR102673817B1 (ko) * 2018-07-30 2024-06-10 삼성전자주식회사 3차원 영상 표시 장치 및 영상 처리 방법
WO2020055619A1 (en) * 2018-09-16 2020-03-19 Nephelai Research Llc Calibration of a depth sensing array using color image data
JP7362265B2 (ja) * 2019-02-28 2023-10-17 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007524950A (ja) * 2004-02-17 2007-08-30 本田技研工業株式会社 オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出プログラム
JP2012095186A (ja) * 2010-10-28 2012-05-17 Sanyo Electric Co Ltd 電子機器
JP2016001853A (ja) * 2014-06-12 2016-01-07 キヤノン株式会社 画像処理装置、撮像装置、制御方法及びプログラム
JP2016054506A (ja) * 2015-11-05 2016-04-14 キヤノン株式会社 撮像装置、ヒストグラムの表示方法、プログラム、画像処理装置
JP2018185695A (ja) * 2017-04-26 2018-11-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
CN111624620A (zh) 2020-09-04
US20200279388A1 (en) 2020-09-03
CN111624620B (zh) 2023-09-15
JP7362265B2 (ja) 2023-10-17
US11373326B2 (en) 2022-06-28

Similar Documents

Publication Publication Date Title
CN110264416B (zh) 稀疏点云分割方法及装置
JP7362265B2 (ja) 情報処理装置、情報処理方法及びプログラム
US5936628A (en) Three-dimensional model processing method, and apparatus therefor
EP3644277A1 (en) Image processing system, image processing method, and program
WO2020179065A1 (ja) 画像処理装置、画像処理方法及び記録媒体
EP3213292A1 (en) Three dimensional object recognition
US11100650B2 (en) Method for foreground and background determination in an image
JP6102122B2 (ja) 画像処理装置および方法、並びにプログラム
JP2020042503A (ja) 三次元表象生成システム
WO2008152208A1 (en) Image sampling in stochastic model-based computer vision
CN115335872A (zh) 目标检测网络的训练方法、目标检测方法及装置
CN110007764B (zh) 一种手势骨架识别方法、装置、系统及存储介质
CN114029952A (zh) 机器人操作控制方法、装置和系统
KR102366396B1 (ko) Rgb-d 데이터와 딥러닝을 이용한 3d객체영역분할 방법과 그 시스템
JP2014007611A (ja) 画像処理装置及びその制御方法
CN111723688A (zh) 人体动作识别结果的评价方法、装置和电子设备
CN112802175B (zh) 大规模场景遮挡剔除方法、装置、设备及存储介质
CN110728222B (zh) 一种用于机械臂抓取系统中目标物体的位姿估计方法
CN112364693A (zh) 基于双目视觉的障碍识别方法、装置、设备及存储介质
US11893313B2 (en) Interactive object selection
CN116883998B (zh) 基于毫米波图像的物品标注方法、装置、电子设备
WO2023031991A1 (ja) 判定装置、制御装置、特定方法、制御方法、および記録媒体
CN113822253B (zh) 一种人机协作方法及系统
CN115689975A (zh) 软线定位检测方法、装置及存储介质
CN117953059A (zh) 一种基于rgb-d图像的方形吊装物姿态估计方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220228

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231004

R151 Written notification of patent or utility model registration

Ref document number: 7362265

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151