JP2019066451A - 画像計測装置、画像計測方法、撮像装置、プログラム - Google Patents

画像計測装置、画像計測方法、撮像装置、プログラム Download PDF

Info

Publication number
JP2019066451A
JP2019066451A JP2017253584A JP2017253584A JP2019066451A JP 2019066451 A JP2019066451 A JP 2019066451A JP 2017253584 A JP2017253584 A JP 2017253584A JP 2017253584 A JP2017253584 A JP 2017253584A JP 2019066451 A JP2019066451 A JP 2019066451A
Authority
JP
Japan
Prior art keywords
image
distance
distance measurement
range
ranging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017253584A
Other languages
English (en)
Other versions
JP7163025B2 (ja
Inventor
拓也 石橋
Takuya Ishibashi
拓也 石橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US16/138,136 priority Critical patent/US11004229B2/en
Publication of JP2019066451A publication Critical patent/JP2019066451A/ja
Application granted granted Critical
Publication of JP7163025B2 publication Critical patent/JP7163025B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】画像データを取得して計測処理を行う画像計測装置において、より精度の高い測距値を算出する。【解決手段】画像計測装置100の画像入力部102は、撮像部のピント位置を変えて撮影された各ピント位置での異なる視点の画像データを取得する。撮影情報取得部104は撮影時の撮影情報を取得する。測距点選択部105は、画像中の測距点として、ユーザ操作の指示または特徴点検出によって2点を選択して制御部101に出力する。評価値決定部108は、複数の画像における測距点での信頼度の評価値を決定する。制御部101は評価値を用いて複数の画像から選択した画像に関連する距離情報を取得するとともに、測距点間距離算出部109に対して2点間の長さ(測距点間距離)の算出を指令する。画像計測結果表示部110は、選択された測距点の位置および算出された2点間の長さを画面に表示する。【選択図】図1

Description

本発明は、画像計測装置における被写体の長さの算出処理技術に関する。
立体視用画像を撮像するステレオカメラは、2つの撮像部によって同一の被写体を同時に撮像し、視差を有する2種類の画像を取得可能である。また、ステレオカメラ等によって撮像された2種類の画像のデータに基づき、画像の奥行き方向の長さを算出する方法がある。特許文献1には、立体視用の撮像装置を用いて、ユーザが指定した被写体画像上の2点間距離(3次元空間での長さ)を測定する技術が開示されている。
一方、1つの撮像部において、撮像光学系の異なる瞳部分領域をそれぞれ通過する、被写体からの光束を分割して、視差を有する複数の画像データを生成する瞳分割撮像方法が知られている。
特開2011−232330号公報
瞳分割撮像方法で撮像された画像について奥行き方向の長さを算出する場合、デフォーカス量が所定値以上に大きい領域では奥行き方向の長さを算出するときの精度が低下する可能性がある。その理由は、デフォーカス量が大きくなることで対象となる画像が暈けてしまい、視差を有する複数の画像間で像信号の対称性が損なわれるからである。したがって、被写体画像上で指定された2点間の3次元空間での長さを、より高精度に測定するためには、測距対象である被写体に対し、同じ画角にてピント位置を変えて撮影した複数枚の画像が必要である。例えば、撮影された複数枚の画像を測距用画像として用いる場合、指定された2点に対してそれぞれ、どの測距用画像の奥行き方向の長さを利用すれば、より高精度な測距値が得られるかを判断する必要がある。
本発明は、画像データを取得して計測処理を行う画像計測装置において、より精度の高い測距値を算出することを目的とする。
本発明の一実施形態の装置は、複数のピント位置で、かつ異なる視点でそれぞれ撮像された複数の画像データを取得する第1の取得手段と、各ピント位置での異なる視点の画像データ対を用いて被写体の距離情報を取得する第2の取得手段と、前記画像データにおける複数の測距点を指定する指定手段と、前記画像データ対の像ずれ量またはデフォーカス量から各測距点に対応する距離情報を算出し、該距離情報を用いて、画像の奥行き方向を含む3次元空間における指定された前記測距点間の長さを算出する算出手段と、を備える。
本発明によれば、画像データを取得して計測処理を行う画像計測装置において、より精度の高い測距値を算出することができる。
本実施形態に係る画像計測装置の全体構成を示すブロック図である。 本実施形態における複数の画像を説明する図である。 画像ごとの有効測距範囲の説明図である。 画像計測全体の処理を説明するフローチャートである。 測距点の選択処理を説明するフローチャートである。 測距点の選択例を示す説明図である。 評価値の決定方法を説明するフローチャートである。 対応点の探索方法を説明するフローチャートである。 対応点の探索方法を説明する模式図である。 デフォーカス量の算出方法を説明するフローチャートである。 撮像部の画素構造を例示する図である。 画像の分割処理および像ずれ量の算出処理を説明する模式図である。 デフォーカス量、F値、像ずれ量の関係を示す模式図である。 評価値の決定処理を説明するフローチャートである。 各種評価値をグラフで説明する図である。 画像ごとの有効測距範囲と複数の測距点の例を示す模式図である。 測距値の表示処理を説明する図である。 第2実施形態に係る装置の構成を示すブロック図である。 第2実施形態における動作を説明するフローチャートである。 第2実施形態における仮測距を説明するフローチャートである。 第2実施形態の撮影方法について説明するフローチャートである。 第2実施形態に係る撮影範囲を説明する図である。 第2実施形態に係る信頼度の評価値を説明する図である。 第2実施形態に係る有効測距範囲を説明する図である。 第2実施形態に係る撮影方法を説明する図である。 有効測距範囲の分割数を増やした場合の撮影方法の説明図である。
以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。各実施形態の画像計測装置は、画像データを取得して計測処理を行う撮像装置や情報処理装置等に幅広く適用可能である。
[第1実施形態]
図1は、本実施形態の画像計測装置100の構成例を示すブロック図である。画像計測装置100は、制御部101と各モジュール(符号102〜110)を備え、画像情報や画像に関連する各種情報を取得して処理を実行する。
制御部101はCPU(中央演算処理装置)等を備え、画像計測装置100を構成するモジュール間での情報の送受を制御する。画像入力部102は画像計測装置100に入力された複数枚の画像のデータを、制御部101からの制御指令にしたがってメモリ103へ記憶する処理を行う。メモリ103は制御部101によって制御され、各モジュールでの処理に必要な情報を読み出し、また各モジュールによる処理結果を保存する。
撮影情報取得部104は撮影情報を取得し、制御部101からの制御指令によりメモリ103へ出力する。メモリ103への情報記憶は制御部101を介して行われる。撮影情報は、画像計測装置100へ入力された複数枚の画像に関連付けられた、撮影時に生成される情報である。
測距点選択部105は、画像計測装置100へ入力された測距点情報を取得するとともに、メモリ103に保存された複数枚の画像のデータに対し、測距点を2点選択する。測距点選択部105は制御部101からの制御指令にしたがい、選択された2点の各座標情報をメモリ103へ出力する。各座標情報は制御部101を介してメモリ103に記憶される。
対応点探索部106は、メモリ103に記憶された複数枚の画像のデータを読み出す。読み出された複数枚の画像データに対して、測距点選択部105によって選択された測距点(2点)に対応する各測距点を探索する処理が行われる。対応点探索部106は、複数枚の画像における、各測距点に対応する座標情報を算出する。算出された座標情報は制御部101を介してメモリ103に記憶される。
デフォーカス量算出部107は、メモリ103に記憶された複数枚の画像のデータと撮影情報とを読み出す。複数枚の画像のデータに対して、測距点(2点)にそれぞれ対応する座標でのデフォーカス量が算出される。算出されたデフォーカス量は制御部101を介してメモリ103に記憶される。
評価値決定部108は、メモリ103に記憶された、複数枚の画像のデータとデフォーカス量と複数枚の画像における測距点(2点)にそれぞれ対応する座標情報を読み出す。複数枚の画像における各測距点に対応する座標の評価値が決定される。決定された評価値は制御部101を介してメモリ103に記憶される。
測距点間距離算出部109は、メモリ103に記憶されている評価値およびデフォーカス量を読み出す。読み出された評価値に基づいて、使用する画像が複数枚の画像の中から決定される。決定された画像における測距点(2点)でのデフォーカス量に基づき、各測距点の3次元空間での座標を算出する処理が行われる。測距点間距離算出部(以下、単に距離算出部という)109は、各測距点の3次元空間での座標から測距点間の長さを算出する。算出された長さ情報は、制御部101を介してメモリ103に記憶される。
画像計測結果表示部(以下、単に表示部という)110は、メモリ103から読み出した、複数枚の画像のデータ、測距点の座標情報、および測距点間の長さ情報に基づいて、画像計測結果を画面上に表示し、ユーザへ提示する。複数枚の画像から選択された代表画像に対して、測距点である2点の座標と2点間の長さが表示部110に表示される。
図2を参照して、画像計測装置100に入力される複数枚の画像について詳細に説明する。図2(A)は撮像装置と被写体との位置関係を例示する模式図である。撮像装置201は、瞳分割型の撮像部を備える。例えば、撮像光学系の瞳部分領域をそれぞれ通過する、被写体から光束を2分割して受光し、視差を有する複数の画像(視差画像)として、第1および第2の視点画像を生成することができる。撮像装置201は、合焦位置に相当するピント位置や被写界深度を変更しながら被写体202を撮像し、複数枚の画像のデータを取得できるものとする。つまり、複数の視差画像の画像データ対が、複数のピント位置にてそれぞれ取得される。図2(A)にて撮像装置201に関して、水平方向をx軸方向とし、垂直方向をy軸方向とし、奥行き方向をz軸方向として定義する。奥行き方向は、撮像装置201の光軸方向に沿う方向である。
図2(B)は撮像装置201によって撮影された複数枚の画像の説明図である。図2(A)に示したように、撮像装置201と被写体202の位置関係で撮影が行われ、撮影された複数枚の画像には、測距点選択用画像と測距用画像が含まれる。測距点選択用画像は測距点を選択するために被写界深度の深い撮影によって取得される画像である。また、測距用画像は同一の被写体に対してピント位置を変えて撮影された画像である。測距点選択用画像は測距用画像に対して合焦領域が広い画像である。尚、測距点選択用画像については測距用画像の中から特定の1枚を選択することによって、測距用画像と兼用することも可能である。さらには、測距用画像に対して合焦領域が広い画像が存在しない場合、測距用画像の中から任意に1枚の測距点選択用画像を選択することも可能である。
図3は、測距用画像ごとの有効測距範囲を説明する図である。図2(A)に示す撮像装置201と被写体202の位置関係において、被写体202をy軸方向から俯瞰することによって、ピント位置を変えて複数枚撮影した測距用画像ごとの有効測距範囲を示す。図3の紙面に垂直な軸をy軸とし、紙面内で直交する2軸をx軸、z軸とする。ピント位置はy軸方向から俯瞰することによって、z軸に対するピント面として表現することが可能である。ピント位置を変えて複数枚撮影した測距用画像については、各測距用画像におけるピント面を、カメラ位置に近い方から順にピント面203p、ピント面204p、ピント面205p、ピント面206pとする。この場合、各ピント面において、それよりも手前側の有効測距範囲と奥側の有効測距範囲をそれぞれ示している。例えば、ピント面203pにおいて、ピント面203pより手前側の有効測距範囲は、ピント面203pから有効測距範囲を示す位置203bまでの範囲である。また、ピント面203pより奥側の有効測距範囲は、ピント面203pから有効測距範囲を示す位置203iまでの範囲である。手前側の有効測距範囲を示す位置203bから奥側の有効測距範囲を示す位置203iまでの範囲が、ピント面203pにおける有効測距範囲203aとなる。同様にして、ピント面204p、205p、206pの有効測距範囲はそれぞれ、範囲204a、205a、206aとなる。有効測距範囲はピント位置を中心とした奥行き方向における測距精度の有効性が高い範囲であり、後述するデフォーカス量に基づいて決定することが可能である。つまり、有効測距範囲外では測距精度が有効測距範囲内の測距精度に比べて大きく低下する。
図4に示すフローチャートを参照して、画像計測装置100が行う処理について詳細に説明する。S301にて、複数枚の画像の情報、撮影情報、測距点情報が取得され、画像計測装置100へ入力される。複数枚の画像には、測距点選択用画像と測距用画像が含まれており、画像入力部102が取得する。撮影情報としては、複数枚の画像ごとに少なくとも下記(a)〜(h)の情報が撮影情報取得部104によって取得される。
(a)撮像装置からピント位置までの距離
(b)撮像素子の画素ピッチ
(c)一対の測距瞳領域を通過する光束の重心の開き角の大きさによって決まる変換係数
(d)F値
(e)瞳距離
(f)撮像装置のレンズにおける像主点から撮像センサ面までの距離
(g)撮像装置のレンズにおける物主点から被写体までの距離
(h)撮像装置のレンズステート情報(焦点距離および横倍率比)
撮影情報はデフォーカス量を算出する場合や、3次元空間上での座標を算出する場合に必要である。
測距点情報は、測距点の選択方法を自動で行うか、またはユーザが任意に選択するかを決定する情報であり、測距点選択部105によって取得される。また、測距点情報については、測距点の選択方法を自動で決定する場合、その決定方法に関する情報を含む。
次のS302において、測距点(2点)を選択する処理が実行される。処理の詳細については図5を用いて後述する。S303において、各測距点の評価値を決定する処理が実行される。処理の詳細については図7を用いて後述する。S304において、S303で決定された評価値に基づいて、各測距点の三次元座標と2点間の長さを算出する処理が実行され、算出結果がユーザへ提示される。評価方法については、図16を用いて後述する。S304の後、処理を終了する。
図5を参照して、測距点選択部105による測距点の選択処理について説明する。図5は測距点の選択処理を説明するフローチャートである。S401にて、測距点選択用画像のデータを読み出す処理が行われる。次のS402では、測距点情報を参照し、ユーザから測距点の指定があるかどうかの判断処理が実行される。ユーザの操作による測距点の指定が行われない場合、S403へ処理を進める。またユーザの操作による測距点の指定が行われた場合、S404に処理を進める。
S403では、あらかじめ測距点情報によって設定された条件に基づいて測距点が自動的に決定される。図6(A)を参照して具体例を説明する。図6(A)は特徴点検出および評価値算出を説明するための模式図である。まず、測距点選択用画像401について特徴点検出が行われ、例えば直方体形状をした被写体の特徴点4011〜4017が得られる。このとき、特徴点として検出された点での評価値が算出されて、特徴点の特徴量が評価される。図6(A)では、特徴点の特徴量が大きいほど、特徴点(黒点)が大きく表示されている。つまり特徴量が大きいほど、測距点選択用画像401にて表示する特徴点を表す黒点印の半径が大きいものとする。例えば、特徴点4011〜4017のうち、特徴点4011と4012は、他の特徴点4013〜4017と比較して高い特徴量を有する。この場合、特徴点4011と4012が2点の測距点として決定される。尚、特徴点の検出方法としてコーナー検出方法、コントラスト検出方法、エッジ検出方法等がある。これらの方法を単独に使用する方法や、複数の方法を組み合わせて特徴点を算出する方法がある。
図5のS404では、あらかじめ測距点情報によって設定された条件に基づいてユーザにより指定された2点が測距点として選択される。図6(B)を参照して具体例を説明する。図6(B)は、ユーザによる選択操作を説明する模式図である。測距点選択用画像401について、ユーザが測距点4021および4022を指示する例を示す。ユーザはタッチパネル上で所望の測距点を、その手指により選択する操作またはポインティングデバイスおよびカーソル図形4023による指示操作を行える。これにより2点の測距点が選択される。尚、図6(B)に示す例以外にも、画像上でユーザが座標を選択し、選択した座標に対応する点を測距点とすることが可能である。
以上により、ユーザは測距点を自由に選択することができ、また、測距点の自動選択の場合にはユーザの手間を軽減できる。
次に図7のフローチャートを参照して、各測距点の評価値を決定する処理(図4:S303)について説明する。S501にて、測距点選択用画像で選択された測距点に対して、測距用画像における対応する点を探索するために対応点探索が行われる。S502にて、探索された対応点でのデフォーカス量を算出する処理が行われる。S503にて、算出されたデフォーカス量と信頼度に基づいて、測距点における評価値が決定される。図7の各ステップに示す処理の詳細を以下に説明する。
まず、S501では、測距点選択用画像で選択された測距点(2点)の座標を、複数の測距用画像において特定する必要があるので、対応点の探索処理が行われる。図8のフローチャートを参照して、対応点探索部106が行う処理を詳細に説明する。
S601では、測距点選択用画像における各測距点の周辺の画素を選択する処理が行われる。S602では、選択された周辺画素を使用して、各測距用画像でブロックマッチング処理が実行される。図9(A)を参照して具体例を説明する。
図9(A)は対応点探索を説明する模式図であり、測距点選択用画像601および測距用画像602を例示する。測距点選択用画像601において、まず測距点6011の周辺の画素を相関窓6012として選択する処理が行われる。相関窓6012を拡大図で示す。さらに、測距用画像602に対して窓範囲6021で選択された相関窓6022を選択する処理が行われる。選択された相関窓6022を拡大図で示す。これらの相関窓6012と相関窓6022とでブロックマッチング処理が行われる。つまり、相関窓同士の誤差量を算出する処理が実行され、この処理は、窓範囲6021の位置を変更しながら画像全体に亘って繰り返し行われる。そして、算出された誤差量が最小である範囲の座標から、測距点選択用画像601で選択された測距点に対応する、測距用画像602における測距点を算出することができる。測距点6013についても、測距点6011と同様に、各測距用画像における、測距点選択用画像で選択された測距点に対応する測距点が算出される。
図9(B)はブロックマッチング処理の改善法の説明図である。図9(A)で説明したブロックマッチング処理に工夫を凝らした方法として、画像内の探索範囲を絞り込んで演算量を低減する方法がある。つまり、図9(A)では測距用画像602の画像全体を探索範囲としたが、図9(B)では測距用画像603が測距点選択用画像に対してピント位置を変更して撮影された画像であることを利用する。測距点選択用画像における測距点の座標が測距用画像603における測距点の座標から大きく乖離する可能性は低い。この特性を利用し、測距用画像603における窓範囲6031の開始位置を測距点選択用画像における測距点の座標とし、相関窓6032を選択する処理が行われる。さらに、窓範囲6031の位置を変更する範囲が窓移動範囲6033内に制限される。このことにより、相関の低い領域を探索することによる処理の無駄を省き、演算量を著しく削減することができる。
図10を参照して、図7のS502に示すデフォーカス量の算出処理について詳細に説明する。図10はデフォーカス量算出部107が行う処理を説明するフローチャートである。S701において、1枚の測距用画像から一対の画像データを生成する処理が行われる。その詳細について、図11を用いて具体的に説明する。
図11(A)は、視差画像の撮影を行う際に使用される撮像素子の画素配列を説明する模式図である。紙面に垂直な軸をZ軸とし、紙面内にて直交する2軸をそれぞれX軸、Y軸とする。撮像部を構成する撮像素子は、多数の画素部712を2次元アレイ状に規則的に配列した構造を有する。図11(B)は画素部712のひとつを拡大して示す図である。画素部712は、マイクロレンズ711と一対の光電変換部713A、714B(以下、瞳分割画素713A、714Bという)から構成される。各マイクロレンズに対応する複数の光電変換部は、撮像光学系の異なる瞳部分領域をそれぞれ通過する、被写体からの光束を受光して光電変換を行い、電気信号を出力する。本実施形態では、瞳分割画素713Aにより取得される画像をA像と呼び、瞳分割画素714Bにより取得される画像をB像と呼ぶ。A像とB像を合成した画像をAB像と呼ぶ。AB像は瞳分割型でない撮像素子によって撮像される画像に相当する。
図11に例示する構成では、画像計測処理を行うために必要な情報として、A像およびB像のデータを取得可能である。尚、この例では光電変換部の分割数が2であるが、分割数については3以上でもよく、視点の異なる複数の視点画像を取得することができる。
図10のS702では、S701で生成された一対の画像データを微小ブロックに分割する処理が行われる。図12(A)を参照して具体例を説明する。図12(A)は、瞳分割画素713A、714Bによってそれぞれ取得される信号から生成される、A像721とB像722のデータを示す模式図である。A像721とB像722については、微小ブロック723で示すように複数のブロックに分割される。例えば、入力画像の画素ごとに、微小ブロックの中心位置に着目画素が設定されるものとする。図12(A)の微小ブロック723は、その中心にある測距点724での着目画素と、その周囲にある8つの画素を含むように分割される。
図12(B)は、微小ブロックの形状について説明するために、A像721を示す模式図である。左側の図に示す微小ブロック725は、図12(A)の微小ブロック723よりもサイズが大きい例である。また右側の図に示す微小ブロック726はL字形状の例である。このように、分割される微小ブロックのサイズと形状に制限は無いものとする。また、近接する微小ブロック同士の領域が重なっていてもよい。
図10のS703では、S702で分割された微小ブロックにおいて相関演算処理が行われ、各測距点での像ずれ量が算出される。具体的には、微小ブロックにおける一対の画素データをそれぞれ、E(1)〜E(m)およびF(1)〜F(m)と表記する。mはデータ数を表す。この場合、第1のデータ系列E(1)〜E(m)に対して、第2のデータ系列F(1)〜F(m)を相対的にずらしながら、下記数式(1)により2つのデータ列間のずらし量(kと記す)における相関量C(k)が算出される。
C(k)=Σ|E(n)−F(n+k)| ・・・(1)
数式(1)において||は絶対値記号であり、Σ演算(積算)はnについて計算される。このΣ演算において、n、n+kの取る範囲は1〜mの範囲に限定される。ずらし量kの値は整数であり、一対の画像データの検出ピッチを単位とした相対的なシフト量である。
図12(C)に示すグラフを参照して、数式(1)の演算結果の例を説明する。図12(C)の横軸は像ずれ量を表し、縦軸は相関量C(k)を表す。一対のデータ系列の間で相関が高い像ずれ量において、相関量C(k)が最小になる。そして、下記数式(2)〜(5)による3点内挿法を用いて、連続的な相関量に対する最小値C(x)を与える像ずれ量(xと記す)が算出される。像ずれ量xの値は実数である。
x=kj+D/SLOP ・・・(2)
C(x)= C(kj)−|D| ・・・(3)
D={C(kj−1)−C(kj+1)}/2 ・・・(4)
SLOP=MAX{C(kj+1)−C(kj),C(kj−1)−C(kj)}・・・(5)
ここで、kjは離散的な相関量C(k)が最小となるときのkである。
数式(2)から求まる量xを、一対の瞳分割画像における像ずれ量とする。尚、像ずれ量xの単位はpixelとする。
図10のS704では、数式(2)で求めた測距点での像ずれ量xから、被写体像面の予定結像面に対するデフォーカス量(DEFと記す)が、下記数式(6)によって算出される。
DEF= KX ・PY ・x ・・・(6)
数式(6)において、PYは撮像素子の画素ピッチ(撮像素子を構成する画素の画素間距離)である。KXは一対の測距瞳部分領域をそれぞれ通過する光束の重心の開き角の大きさによって決まる変換係数であり、単位はmm/pixelである。尚、この重心の開き角の大きさは、レンズの絞り開口の大きさ(F値)に応じて変化し、レンズ情報に応じて決定される。図13を用いて具体的に説明する。
図13は予定結像面に対するデフォーカス量、F値、像ずれ量の関係を示す模式図である。図13の左側から順に、撮像対象の物面741、レンズ742、撮像素子の予定結像面743、像面744をそれぞれ示す。像面744は、予定結像面743からのデフォーカス量745に相当する位置にある面である。F値に応じた像ずれ量746、747をそれぞれ示している。像ずれ量746はF値が小さい場合(開放側)の像ずれ量であり、像ずれ量747はF値が大きい場合(絞り側)の像ずれ量である。デフォーカス状態での像面に対する像ずれ量は開放側で大きくなり、絞り側で小さくなることがわかる。言い換えれば、デフォーカス量が同じでも像ずれ量はF値によって異なる。そのため、像ずれ量からデフォーカス量を算出する際には、数式(6)で示すように、F値に応じたゲインである変換係数KXを乗算する必要がある。
以上のように、着目画素の位置を1画素ずつずらしながら繰り返し計算を行うことで、デフォーカス量を算出することができる。この算出処理方法を、各測距用画像の測距点(2点)に対して適用することによって、各測距用画像のデフォーカス量を算出できる。
図14を参照して、図7のS503に示す評価値の決定処理について説明する。図14は評価値決定部108が行う処理を説明するフローチャートである。S801は第1の条件に関する判断処理である。第1の条件とは、測距点である2点が1枚の画像の有効測距範囲内にある測距用画像(以下、条件適合画像という)が存在することである。第1の条件を満たす場合、S802の処理へ進み、第1の条件を満たさない場合にはS809へ移行する。ここで、有効測距範囲について詳しく説明する。条件適合画像の存否については、数式(6)で算出されるデフォーカス量DEFを評価することで判断できる。つまりデフォーカス量DEFが大きくなるにつれて、DEFの測距精度が低下する。測距精度がある一定以上に保証されるデフォーカス量DEFの範囲を、|DEF|<Crと定義する。Crはデフォーカス量の閾値である。|DEF|<Crという不等式を満たすデフォーカス量DEFが測距点で算出された場合、この測距点が有効測距範囲内にあると判断される。つまり、測距点でのデフォーカス量DEFの大きさが所定の閾値Crより小さいか否かによって、条件適合画像の存否を判断することができる。複数枚の測距用画像の各測距点に対して算出されるデフォーカス量に基づいて、条件適合画像が存在するかどうかを評価することができる。
前記したように、デフォーカス量は絞り開口の大きさ(F値)に応じて変化する。図13を参照すると、具体的にはF値を大きく設定した第1の測距用画像は、F値を小さく設定した第2の測距用画像に対して、有効測距範囲を広くとることができる。ただし、第1の測距用画像では測距精度が低下する。この特性を利用し、F値を大きくした測距用画像が存在する場合には、この測距用画像1枚で測距点(2点)の仮測距を行い、2つの測距点が1枚の画像の有効測距範囲内にあるかどうかを判断することができる。このようにすることで、測距用画像のそれぞれで2つの測距点が有効測距範囲内であるかどうかを評価する処理に比べて、計算量および時間を低減可能である。
図14のS802では、真度の信頼度を評価値として優先するか否かが判断される。真度とは、真の値からの測定誤差に対応する度合いを表し、測定値が真の値に近いほど信頼度が高いものとする。真度の信頼度は、ピントの移動量を評価することによって決定される。ピントの移動量とは、測距点である2点での奥行き情報を算出する各測距用画像が選択される場合において、各測距用画像間のピントの移動量を示す。ピントの移動量が大きい場合、複数枚の画像の撮影時におけるピント位置までの距離の測定誤差が大きくなる。仮に、真度の信頼度を評価値として優先するかどうかを判断せずに、真度の信頼度を評価値として常に優先する実施方法では、画質の良し悪しに関わらず、ピントの移動量のみで評価値が算出されてしまう。この場合に発生する問題は測距精度の低下である。例えば、測距点でのコントラストが低い画像や、測距点での輝度値が飽和している画像の場合、ピントの移動量が小さいために測距用画像として選択されてしまい、測距精度が低下する可能性がある。他方、真度の信頼度を評価値として優先しない実施方法では、その他の評価値をすべて算出し、または決定しなければならず、計算処理上の負担が大きくなる可能性がある。以上の理由により、S802では、真度の信頼度を評価値として優先するかどうかが判断され、真度の信頼度を評価値として優先しない場合、S803へ進み、真度の信頼度を評価値として優先する場合にはS806へ進む。判断方法としては、例えば、以下のようにユーザ主体の方法と装置主体の方法がある。
・ユーザが操作を行って任意に設定する方法
装置は、ユーザが操作部を使用して行った設定の指示にしたがって優先判定を行う。
・装置が自動で判断する方法
例えば、複数枚の画像撮影にて撮影間隔(時間間隔)の長さに基づき、撮影間隔がある一定時間(閾値時間)以上である場合、装置は真度の信頼度を評価値として優先しないことを自動で判断する。
尚、各方法を単独で実施するか、または条件に応じて複数の方法を使い分けてもよい。
S803にて、測距点(2点)の各測距用画像での真度の信頼度が、ピントの移動量を評価することによって決定される。ピントの移動量が大きい場合、複数枚の画像の撮影時におけるピント位置までの距離の測定誤差が大きくなる。そのため、評価値決定部108はピントの移動量の評価値を小さくする。また、測距点(2点)での奥行き情報を算出するための測距用画像が同一の測距用画像である場合にはピントの移動量はゼロである。このような場合に評価値決定部108はピントの移動の評価値を大きくする。図15(A)を参照して具体例を説明する。
図15(A)は、ピントの移動量と対応する評価値との関係をグラフで説明する図である。横軸はピントの移動量(pmと記す)を表し、縦軸は評価値(PINと記す)を表す。ピントの移動量pmが大きくなるにつれて評価値PINが小さくなる。例えば、評価値PINは数式(7)により算出される。
PIN = b1 − b2 × pm ・・・(7)
ただし、切片b1、係数b2はいずれも正値(b1,b2>0)であり、任意に設定可能である。ピントの移動量pmを評価しない場合には、数式(8)のように
PIN = b3 ・・・(8)
とする。b3は一定値(正値)であり、任意に設定可能である。
各測距用画像での真度の信頼度をRsと表記し、
Rs = PIN ・・・(9)
とする。ピントの移動量pmを評価する際、pmの値が大きくなるにつれて、信頼度Rsが小さくなるように決定することができる。これにより、ピントの移動による測定誤差を低減することができるので、より高精度な測距値を算出可能となる。尚、評価値PINを数式(7)および(8)のように算出する他に、パラメータによる参照テーブルを設けることで決定することも可能である。さらには、真度の信頼度Rsについても、数式(9)で算出せずにパラメータによる参照テーブルを設けることにより、ピントの移動量pmと評価値PINとの関係から決定することも可能である。
図14のS804において、測距点2点の各測距用画像での再現性の信頼度が決定される。再現性の信頼度は、2つの測距点それぞれにおける、デフォーカス量または像ずれ量、輝度値、分散値を評価することによって決定される信頼度である。図15(B)から(D)を参照して、具体的に説明する。
図15(B)は、デフォーカス量の評価値に基づく再現性の信頼度をグラフで説明する図である。横軸に示すデフォーカス量DEFに対して、その評価値をDFRと表記して縦軸に示す。デフォーカス量の絶対値|DEF|が大きくなるにしたがって、画像のボケが大きくなることから、有効測距範囲内であっても測距精度が低下する。測距点2点の各測距用画像でのデフォーカス量は数式(1)から数式(6)を用いて算出される。デフォーカス量DEFがゼロである位置1501bを基準として、デフォーカス量DEFの絶対値が大きくなるにしたがって評価値DFRは小さくなる。評価値DFRは数式(10)のように表現できる。
DFR = c1 ― c2 × |DEF| ・・・(10)
数式(10)にて、c1は位置1501bにおけるDFRの値である。c1>0とし、これはDFRの最大値となる。また、c2は任意の係数であり、c2>0とする。ただし、DEFがどのような値であっても、DFR>0となるようにc1、c2の値が設定されるものとする。
以上のように、デフォーカス量の絶対値|DEF|が大きくなるにしたがって評価値DFRを小さくすることが可能である。これにより、デフォーカス量に起因する測定誤差を低減することができるので、より高精度な測距値を算出可能である。
図15(C)は、輝度平均値の評価値に基づく再現性の信頼度を説明する図である。横軸に示す輝度平均値LUMに対して、その評価値をLMRと表記して縦軸に示す。測距点2点の各測距用画像での輝度値については、各測距用画像における測距点2点それぞれの座標の近傍の画素の輝度値の平均値が算出される。近傍の範囲については任意に設定可能である。輝度平均値が輝度を表現する範囲の中間値に対して相対的に大きい(または小さい)ことは、その輝度平均値が輝度の中間値と比較して明るい(または暗い)ことを示す。輝度の中間値と比較して輝度平均値が明るすぎる場合、または暗すぎる場合には、各測距用画像の測距点を探索する場合に誤差が発生する可能性があり、またデフォーカス量の算出誤差が発生する可能性がある。これらの誤差の増加によって測距精度が低下する。図15(C)に示す例では、横軸に示す輝度平均値LUMが0から255の範囲で表現される。その中間値127に対応する位置1501cを基準として輝度平均値LUMが大きく(または小さく)なるにしたがって評価値LMRは小さくなる。評価値LMRは数式(11)のように表現できる。
LMR = d1 ― d2 × |((LM/2)−LUM)| ・・・(11)
数式(11)に示すd1は、中間値127に対応する位置1501cにおける値であり、d1>0とし、これはLMRの最大値となる。係数d2の値は任意に設定可能であり、d2>0とする。LMは表現可能な輝度値の最大値であり、図15(C)は255の例を示す。
以上のように、輝度平均値LUMが表現可能な輝度値の中間値から乖離するにしたがって評価値LMRを小さくすることが可能である。これにより、輝度平均値に起因する測定誤差を低減することができるので、より高精度な測距値を算出可能である。
図15(D)は、分散値の評価値に基づく再現性の信頼度について説明する図である。横軸に示す画像の分散値CONに対して、その評価値をCNRと表記して縦軸に示す。測距点2点の各測距用画像での分散値については、各測距用画像における2つの測距点それぞれの座標の近傍における画素の分散値から算出することができる。算出時に近傍の範囲を任意に設定可能である。分散値が小さい場合、すなわちコントラストが低い場合には、各測距用画像の測距点を探索する際に誤差が発生し、またデフォーカス量の算出誤差が発生することにより、測距精度が低下する。図15(D)に示すように、分散値CONが大きくなるにしたがって評価値CNRは大きくなる。CNRは数式(12)により表現できる。
CNR = e1×CON ・・・(12)
数式(12)において、e1はCNRの値を制御するための比例係数である。分散値CONがCON≧0であることから、CNRはゼロ以上の値で表現される。
以上のように、分散値が大きくなるにしたがって評価値を大きくすることが可能である。これにより、分散値に起因する測定誤差を低減することができるので、より高精度な測距値を算出可能である。
再現性の信頼度をRrと表記すると、これは、数式(10)、数式(11)、数式(12)にしたがって、数式(13)のように3つの評価値の積として算出される。
Rr = DFR × LMR × CNR ・・・(13)
すなわち、信頼度決定処理において再現性の信頼度Rrについては、デフォーカス量DEF、輝度平均値LUM、分散値CONをそれぞれ評価することによって決定できる。本実施形態では、デフォーカス量の評価値DFR、輝度平均値の評価値LMR、分散値の評価値CNRを、数式(10)、数式(11)、数式(12)で算出する方法を説明した。これに限らず、パラメータによる参照テーブルを予め設けることにより各評価値を決定する方法を採用してもよい。さらには、再現性の信頼度Rrについても、数式(13)で算出する方法に限らず、パラメータによる参照テーブルを用いて決定してもよい。この場合、各評価値DFR、LMR、CNRの関係に基づいて信頼度Rrを決定可能である。
S805において、真度の信頼度Rsと再現性の信頼度Rrから測距点2点の各測距用画像における評価値が決定される。この評価値(Rと記す)は数式(14)により算出される。
R = (s×Rs)×(r×Rr) ・・・(14)
数式(14)において、sとrはそれぞれ信頼度RsとRrに対する重み付けのパラメータである。s≧0、r≧0の任意の値が設定される。
以上により、条件適合画像が存在し、かつ真度の信頼度Rsを評価値として優先しない場合には、真度および再現性の各信頼度から測距点2点での各測距用画像における評価値を決定することができる。
次に真度の信頼度Rsを評価値として優先する場合を説明する。この場合、S802からS806へ進む。S806において第2の条件について判定処理が行われる。第2の条件は、条件適合画像が複数存在することである。第2の条件を満たさない場合、つまり条件適合画像が複数存在しないと判定された場合、S807へ進む。また第2の条件を満たす場合にはS808へ進む。S807において、条件適合画像の評価値が最大となるように評価値が決定される。すなわち、複数枚の測距用画像において、測距点である2点が1枚の画像の有効測距範囲内に存在しない測距用画像での測距点(2点)の評価値Rをゼロとすることと同義である。条件適合画像でない測距用画像における測距点での評価値Rは数式(14)において、s=0として設定される。
以上により、1枚の条件適合画像が存在し、かつ真度の信頼度を評価値として優先する場合に、条件適合画像の評価値が最大となるように評価値を決定することができる。
一方、S808では、条件適合画像以外の測距用画像を、取得済みの測距用画像から除外する処理が行われる。これにより、各測距用画像における信頼度の算出に要する計算負担を低減できる。
S809において、測距点2点の各測距用画像での再現性の信頼度を決定する処理が行われる。再現性の信頼度については数式(10)から(13)によって求められる、再現性の信頼度Rrと同様に算出することができる。ただし、S801において、条件適合画像が存在しないことが判定された場合には、すべての測距用画像に対して再現性の信頼度Rrが算出される。これに対して、S806にて条件適合画像が複数存在することが判定された場合には、条件適合画像のみに対して再現性の信頼度Rrが算出される。
S809の次にS810へ進み、再現性の信頼度Rrから各測距点の各測距用画像における評価値Rが算出される。評価値Rは数式(15)を用いて算出される。
R = r × Rr ・・・(15)
rは信頼度Rrに対する係数パラメータであり、r≧0の任意の値が設定される。
以上により、条件適合画像が存在しない場合(S801からS809へ進む場合)について各測距点の各測距用画像における評価値を決定することができる。また、条件適合画像が複数存在し、かつ真度の信頼度を評価値として優先する場合についても各測距点の各測距用画像における評価値を決定することができる。
図16を参照して、図4のS303で決定された評価値による評価方法について説明する。図16は、図3で説明した有効測距範囲について具体的な測距点A、測距点B、測距点Cを例示した説明図である。測距点AとBとの間、測距点AとCとの間、測距点BとCとの間について、各評価値を決定する場合を例示する。
Figure 2019066451
表1は、測距点AとBとの位置関係について測距点AおよびBのそれぞれの評価値を決定した具体例を示す。自然数の変数n(=1,2,・・・)は各測距用画像を区別するために付与した識別番号を表す。nの値は図16に示す有効測距範囲(1)から(4)おける括弧内の数字に対応する。「ピント移動なしR」は、ピント移動量がゼロである場合の評価値であり、「ピント移動ありR」は、ピント移動量がゼロでない場合の評価値である。測距点Aは有効測距範囲(4)内にあり、測距点Bは有効測距範囲(1)内にあり、測距点Cは有効測距範囲(1)および(2)内にあるものとする。
図16の例では、測距点AおよびBが1枚の画像の有効測距範囲内にある測距用画像は存在しない。そのため、ピント移動なしの評価値Rは決定できず、ピント移動ありの評価値Rのみを決定する処理が行われる。例えば、測距点Aにおける最大の評価値R(=80)は、n=4での有効測距範囲で撮影された測距用画像において決定される。また、測距点Bにおける最大の評価値R(=80)は、n=1での有効測距範囲で撮影された測距用画像において決定される。つまり、測距点AとBとの間の長さを算出するために用いる測距用画像に関し、測距点Aについてはn=4の測距用画像から評価値が算出され、測距点Bについてはn=1の測距用画像から評価値が算出される。
測距点AとCとの位置関係について測距点AおよびCの各評価値を決定した具体例を表2に示す。
Figure 2019066451
図16の例では、測距点AおよびCが1枚の画像の有効測距範囲内にある測距用画像は存在しない。そのため、ピント移動なしの評価値Rは決定されず、ピント移動ありの評価値Rのみを決定する処理が行われる。測距点Aにおける最大の評価値R(=80)は、n=4での有効測距範囲で撮影された測距用画像にて決定される。測距点Cはn=1に対応する有効測距範囲(1)、およびn=2に対応する有効測距範囲(2)に含まれるが、評価値を比較することで、R=80であるn=2の測距用画像に決定することができる。つまり、測距点AとCとの間の長さを算出するために用いる測距用画像に関し、測距点Aについてはn=4の測距用画像から評価値が算出され、測距点Cについてはn=2の測距用画像から評価値が算出される。
測距点BとCとの位置関係について測距点BおよびCの各評価値を決定した具体例を表3に示す。
Figure 2019066451
図16の例では、測距点BおよびCが1枚の画像の有効測距範囲内にある測距用画像が存在する。ピント移動なしの評価値Rとピント移動ありの評価値Rの両方を決定することができる。測距点Bについては、ピント移動ありRについてもピント移動なしRについてもn=1での評価値Rが最大である。よって、測距点Bに使用する測距用画像としては、n=1の測距用画像に決定することができる。また測距点Cについては、ピント移動なしRの場合にはn=1で評価値が最大となり、ピント移動ありRの場合にはn=2で評価値が最大となる。このような場合、ピント移動ありRの場合の評価値の積と、ピント移動なしRの場合の評価値の積とを比較する処理が行われる。具体的には、ピント移動ありRの場合の評価値積をPAと表記すると、数式(16)のように算出される。
PA = 80 × 80 = 6400 ・・・(16)
一方、ピント移動なしRの場合の評価値積をPBと表記すると、数式(17)のように算出される。
PB = 90 × 80 = 7200 ・・・(17)
したがって、PB>PAとなることから、ピント移動なしRの評価値に基づいて、測距点Bと測距点Cに用いる測距用画像としては、n=1の測距用画像を使用することを決定できる。
次に、評価値に基づいて決定された測距用画像から、各測距点の三次元座標と2点間の長さを算出する処理について説明する。撮影情報取得部104により取得された撮影情報と、測距点選択部105によって選択された測距点と、測距用画像から求めたデフォーカス量DEFに基づいて、3次元空間での測距点の座標が算出される。この座標を(x,y,z)と表記し、数式(18)〜(22)により算出できる。ただし、3次元座標系としては、射出瞳中心を光軸中心とし、デフォーカス量DEFがゼロである軸をz軸とする。
(h,v) = (hb,hv) × PY ・・・(18)
(H,V) = (h,v)× (1−DEF/L) ・・・(19)
(x,y) = (H,V)× |dist/(dist_d + DEF)|・・・(20)
dist = 1/(1/(dist_d+DEF) −1/f) ・・・(21)
z = length − dist ・・・(22)
各記号の意味は以下のとおりである。
(h,v):測距点の撮像センサ面上の座標
(hb,hv):測距点の画像上の座標
PY:画素ピッチ
L:瞳距離
(H,V):撮像センサ面上の座標(h,v)からデフォーカスされたxy平面における座標
dist:撮像装置のレンズにおける物主点から被写体までの距離
dist_d:撮像装置のレンズにおける像主点から撮像センサ面までの距離
f:撮像光学系の焦点距離
length:撮像装置の撮像センサ面から被写体までの距離(被写体距離)
距離算出部109は、数式(18)から(22)を用いて、測距点(2点)の3次元座標(x,y,z)を算出する。ただし、測距点の座標を算出するための測距用画像が2点でそれぞれ異なる場合には、一方の測距用画像におけるz軸に対し、3次元座標(x,y,z)を平行移動する必要がある。平行移動後のz座標をznと表記し、平行移動前のz座標をzbと表記する、数式(23)からznが算出される。
zn= zb − (lengthA − lengthB)・・・(23)
数式(23)において、lengthAは平行移動させない方の測距用画像における被写体距離であり、lengthBは平行移動させる方の測距用画像における被写体距離である。被写体距離は、例えばレーザ測距部により、ピント位置までの距離情報を測定することが可能である。例えば、被写体距離を、複数枚の撮影画像のすべてについて画像ごとに取得する方法がある。また、距離情報(被写体距離)を任意の枚数の画像で取得する方法や、撮影時の焦点距離と、横倍率の比によって被写体距離を算出する方法がある。複数枚の画像すべてに対して被写体距離を測定する場合に比べて手間を省くことができる。具体的には、横倍率の比をD1:D2とし、焦点距離fの位置から被写体までの距離をDと表記する。距離Dを数式(24)によって算出できる。
D = ( D1 / D2 ) × f ・・・(24)
焦点距離fは、撮影時のレンズステート情報を撮像装置が読み出すことで取得可能である。被写体距離lengthAは、距離Dと焦点距離fとの和となるので、数式(25)によって算出できる。
lengthA = D + f ・・・(25)
測距点Aの3次元座標を(xa,ya,za)とし、測距点Bの3次元座標を(xb,yb,zb)とし、測距点Aから測距点Bまでの線分の長さをLENと表記する。LENは数式(26)によって算出される。
LEN
=√((xa−xb)^2+(ya−yb)^2+(za−zb)^2)・・・(26)
「^」はべき乗を表す。
以上により、評価値に基づいて決定された測距用画像から各測距点の三次元座標と2点間の長さを算出することができ、表示部110は計測結果である2点間の長さを表示する。
図17は、計測結果をユーザへ提示する場合の画面例を示す模式図である。図17(A)に示す表示画面1001には、被写体の奥行き方向において最も手前側に位置する2点間の測定距離が表示され、図17(B)に示す表示画面1002には、被写体の奥行き方向において側面部の2点間の測定距離が表示されている。これらの例では、指定された2点の位置、および2点間の長さが画面上に表示される。ユーザは、算出された測距点間の距離を容易に把握することができる。
本実施形態では、測距用画像ごとの各測距点での評価値に基づいて、3次元空間での2点間の長さの算出に使用する画像を自動的に選択し、より高精度な測距値を算出して提示することができる。
[第2実施形態]
次に、本発明の第2実施形態を説明する。瞳分割撮像方法を用いた奥行き方向の長さの計測においては、デフォーカス量や、撮像画像の輝度、コントラスト、SNR(信号対ノイズ比)、撮像装置から被写体までの距離によって、測距精度が影響を受ける。さらに、F値を小絞りにして基線長を短くすることにより被写界深度が深くなるので、ピント位置からの距離におけるデフォーカス量を小さくできる。このため、測距可能範囲を長くすることができる反面で、測距分解能が低くなってしまい、測距精度が低下する。このような理由から、被写体に対して指定した2点間の3次元空間での長さを、より高精度に計測するためには、同一の被写体に対して同じ画角でピント位置を変えて複数枚の画像を撮影するフォーカスブラケット撮影を行う必要がある。
フォーカスブラケット撮影(以下、単にブラケット撮影ともいう)を行う場合、ブラケット数(撮影数)はフォーカス位置のとりうる範囲でいくらでも設定可能であるが、そのような方法は時間的な制約上、現実的ではない。そこで、あるピント位置での1回の撮影で取得可能な奥行き方向の距離範囲(以降、有効測距範囲という)に基づいて、追加の撮影方法を決定する必要がある。本実施形態では、有効測距範囲に基づいて、ブラケット撮影の撮影方法を決定する処理を説明する。なお、第1実施形態との相違点を主に説明し、第1実施形態と同様の事項については既に使用した符号を用いることによって、それらの詳細な説明を省略する。
図18は、本実施形態の画像計測装置100の構成例を示すブロック図である。図1との相違点は以下のとおりである。
・画像入力部102に代えて、撮像部1102が設けられていること。
・パラメータ設定部1104、有効測距範囲算出部1107、追加撮影方法決定部1108、撮影制御部1109が設けられていること。
それ以外の構成要素(図1の符号108から110参照)については第1実施形態と同じであるため、図示を省略する。
撮像部1102は瞳分割型撮像素子を備え、被写体を撮像して、制御部101からの制御指令にしたがって撮像画像データをメモリ103へ出力する。パラメータ設定部1104は、ユーザによって画像計測装置100へ入力された各パラメータ情報の設定処理を行い、制御部101からの制御指令にしたがって、設定データをメモリ103へ出力する。
撮影された画像に関連付けられた撮影時の撮影情報は、撮影情報取得部104が取得し、制御部101からの制御指令にしたがってメモリ103へ出力する。デフォーカス量算出部107はメモリ103に記憶された画像情報および撮影情報を読み出し、画像の座標ごとに対応するデフォーカス量を算出する。算出されたデフォーカス量は制御部101からの制御指令にしたがってメモリ103に保存される。
有効測距範囲算出部1107は、メモリ103に保存された画像情報とパラメータ情報、撮影情報、デフォーカス量のデータを読み出し、画像の有効測距範囲を算出する。有効測距範囲算出部1107は、有効測距範囲決定処理を行って有効測距範囲のデータをメモリ103に保存する。追加撮影方法決定部1108は、メモリ103に保存されたデフォーカス量と有効測距範囲のデータを読み出し、追加撮影方法を決定する。決定された追加撮影方法のデータは、制御部101からの制御指令にしたがってメモリ103に保存される。撮影制御部1109は、メモリ103に保存された追加撮影方法のデータを読み出し、制御部101を介して撮像部1102の制御を行う。
図19のフローチャートを参照して、画像計測装置100の動作について詳細に説明する。まず、S1901において、パラメータ設定部1104は、画像計測装置100のパラメータの設定処理を行う。設定されるパラメータは、少なくとも下記の情報を含む。
(A)仮測距時の撮影条件(F値、ISO感度、シャッタ速度等)。
(B)必要な測距精度。
(C)ブラケット撮影枚数の上限値。
設定されたパラメータに基づいて、仮測距時の撮影条件を決定し、その結果と必要な測距精度、ブラケット撮影枚数の上限値に基づいて追加撮影方法を決定することが可能となる。
S1902にて仮測距処理が実行される。仮測距の方法については、図20を用いて後述する。S1903では、S1902で算出された仮測距の結果に基づいて、ブラケット撮影方法が決定される。ブラケット撮影方法については図21を用いて後述する。S1904において、S1903で決定された方法でブラケット撮影が行われる。そして一連の処理を終了する。以下では、各処理について具体的に説明する。
図20は、図19のS1902における仮測距の方法を説明するフローチャートである。S2001で撮像部1102は、図19のS1901で設定されたパラメータに基づいて、被写体を撮像する。S2002で撮影情報取得部104は、S2001で行った撮影時の撮影情報を取得する。撮像情報は、例えば、第1実施形態で示した(a)〜(h)の情報である。撮像装置の焦点位置情報として撮像光学系の焦点距離および横倍率比が取得される。
S2003にてデフォーカス量算出部107は、S2002で取得した撮影情報に基づいて、S2001で撮像された画像に係るデフォーカス量を算出する。デフォーカス量の算出処理の詳細については、第1実施形態にて説明したとおりである。着目画素位置を1画素ずつずらしながら繰り返し計算することで、仮測距用として撮像された画像のデフォーカス量が算出される。
S2004にて制御部101は、S2003で算出されたデフォーカス量から実距離情報を算出する。画像内の各点における実距離をzと表記すると、これは数式(27)および(28)から算出できる。
dist = 1/(1/(dist_d+DEF) − 1/f) ・・・(27)
z = length − dist ・・・(28)
各記号の意味は以下に示すとおりである。
・dist:撮像部1102のレンズにおける物主点から被写体までの距離
・dist_d:撮像部1102のレンズにおける像主点から撮像センサ面までの距離
・f:撮像光学系の焦点距離
・length:画像計測装置100の撮像センサ面から被写体までの距離。
距離lengthについては、例えばレーザ測距部により、ピント位置までの距離を測定する方法や、撮影時の焦点距離fと横倍率の比によって算出する方法がある。横倍率の比D1:D2と焦点距離fから、焦点距離fの位置から被写体までの距離Dを前記の数式(24)によって求めることができる。焦点距離fは、撮影時の焦点位置情報から取得可能である。距離lengthは、距離Dと焦点距離fとの和となるので、数式(29)によって求めることができる。
length = D + f ・・・(29)
S2004の後、リターン処理へ移行する。
次に、本実施形態のフォーカスブラケット撮影について説明する。図21はブラケット撮影方法を説明するためのフローチャートである。S2101にて有効測距範囲算出部1107は、取得したい距離の範囲を決定する。図22を用いて、ブラケット範囲を決定する方法について説明する。
図22は、図19のS1902で取得された仮測距の結果を、画像における距離の分布としてヒストグラム化した図である。横軸は距離を表わし、縦軸は距離の分布量を表わす。距離分布2201は、背景と判断された画像部の距離分布量を示している。距離分布2201よりも手前(撮像部1102側)に位置する距離分布の範囲が、ブラケット範囲(フォーカスブラケット撮影範囲)として決定される。また、この方法以外に、顔領域等を認識する被写体認識部を備える装置では、さらに被写体認識結果を組み合わせてブラケット範囲を決定できる。例えば、被写体認識部により認識された被写体距離のヒストグラムに基づいて、認識された被写体の距離範囲がブラケット範囲として決定される。あるいは、所定の閾値以上の距離分布量を有する範囲をブラケット範囲として決定することもできる。ブラケット範囲については1つとは限らず、複数の範囲であってもよい。
図21のS2102において、仮測距時に取得した画像データに係る信頼度が算出される。信頼度は、画像の輝度値、コントラスト、ノイズ推定量、ピント位置までの距離を評価することによって算出することができる。画像の輝度値については、仮測距時に撮影された画像のそれぞれの座標での近傍の画素の輝度値から平均値を算出することで輝度平均値が算出される。輝度平均値の評価値LMRに基づく再現性の信頼度については、図15(C)を用いて説明済みである。また、コントラストにかかわる分散値については、仮測距時に撮影した画像のそれぞれの座標での近傍の画素の分散値が算出される。分散値の評価値CNRに基づく再現性の信頼度については、図15(D)を用いて説明済みである。
図23(A)は、画像のノイズ推定量に関する評価値を説明する図である。横軸はノイズ推定量を表わし、縦軸はノイズ推定量の評価値(NISと記す)を表わす。ノイズ推定量は撮影時のISO値に基づいて算出される。ISO値が大きくなるにつれてノイズ推定量が大きくなる。ノイズ推定量が大きい場合、コントラストが高くなってしまうため、分散値の評価値に影響を与えてしまう。また、ノイズの影響により、デフォーカス量の算出時においてA像とB像の対称性に影響を与える場合、測距精度が低下する可能性がある。
図23(A)に示すように、評価値NISはノイズ推定量が大きくなるにつれて小さくなるように決定される。ノイズ推定量をnzと表記すると、評価値NISは下記式により算出される。
NIS = g1 − g2 × nz ・・・(30)
定数g1、g2はいずれも正値であり、任意に設定可能である。ノイズ推定量nzを評価しない場合は、
NIS = g3 ・・・(31)
とする。g3>0であり、g3の値は任意に設定可能である。
以上のように、ノイズ推定量nzが大きくなるにつれて、ノイズ推定量の評価値NISが小さくなる。これにより、ノイズに起因する測定誤差を低減できるので、より高精度な測距値を算出することが可能である。
図23(B)はピント位置までの距離に関する評価値を説明する図である。横軸はピント位置までの距離pnを表わし、縦軸は評価値DISを表わす。距離pnについては、当該距離が大きくなるにつれて測距精度が低下する。測距精度は距離pnの二乗に反比例して低下する。図23(B)に示すように、評価値DISは距離pnが大きくなるにつれて小さくなるように決定される。評価値DISは、距離pnにより、下記式から算出される。
DIS = h1 − h2 × pn ・・・(32)
定数h1、h2はいずれも正値であり、任意に設定可能である。距離pnを評価しない場合には、
DIS = h3 ・・・(33)
とする。h3>0であり、h3の値は任意に設定可能である。
以上のように、距離pnが大きくなるにつれて評価値DISが小さくなる。これにより、ピント位置までの距離に起因する測定誤差を低減できるため、より高精度な測距値を算出することが可能である。
信頼度決定処理において信頼度Rpは、第1実施形態と同様に、各評価値の積から算出される。
Rp = LMR × CNR × NIS × DIS・・・(34)
LMR、CNR、NIS、DISの各評価値の値域が0〜1となるようにパラメータを設定することで、信頼度Rpが正規化されて、0〜1の範囲で表現される。各評価値、信頼度については、数式による算出方法の他に、パラメータテーブルを用いた算出方法がある。
画素ごとに算出された信頼度は、最終的に距離別の信頼度に変換される。距離別の信頼度は、画素ごとに算出された距離情報が同じか、または距離情報の近い値を持つ画素群の信頼度を加算平均して算出される。これにより、特定の距離情報を持つ画素の信頼度を算出することができる。
図21のS2103にて、有効測距範囲算出部1107は有効測距範囲を算出する。図24を参照して具体例を説明する。本実施形態では、特定のピント位置にて1回の撮影で取得可能な奥行き方向の距離範囲が、有効測距範囲として算出される。
図24(A)は、横軸にピント位置からの距離をとり、縦軸に測距精度をとって、両者の関係を例示する模式図である。有効測距範囲算出部1107は、必要な測距精度に基づいて有効測距範囲決定処理を行う。関数曲線801は数式(35)のように決定される。
y = A × x^2 + C ・・・(35)
yは測距精度値を示し、Aは一対の測距瞳領域を通過する光束の重心の開き角の大きさに応じた変換係数から決定される係数を示す。xはピント位置からの距離を示し、CはS2102で算出した信頼度から算出される切片を示す。係数Aの値は撮像光学系のF値が小さくなるにつれて値が大きくなるように設定される。切片Cについては、信頼度が最も高い場合の切片(C1と記す)と、信頼度が最も低い場合の切片(C2と記す)と、信頼度(Rと記す)の関係から、数式(36)のように算出される。
C = C2 − (C2 − C1) × R ・・・(36)
このように定義された関数曲線801に対して、ユーザが指定した必要な測距精度に基づいて有効測距範囲を算出可能である。つまり、有効測距範囲は、測距精度(y値)が指定された測距精度値以下である場合の距離範囲である。
図24(B)は、図24(A)で例示した関数曲線801に対して、別の関数曲線802を示す。関数曲線802は、F値が大きく、信頼度が低い場合の関数曲線の例である。図24(A)における必要な測距精度は、図24(B)でも同じ測距精度であるとする。この場合、関数曲線802における有効測距範囲は、図24(A)に示した有効測距範囲よりも狭くなることがわかる。このように、F値と信頼度に基づいて、必要な測距精度を満たす有効測距範囲を算出することができる。
図21のS2104において、ブラケット範囲を、S2103で算出された有効測距範囲で分割する処理が実行される。図25を参照して具体的に説明する。図25(A)において横軸は距離を表わし、縦軸は信頼度Rを示す。ブラケット範囲について、信頼度Rを最大値とした時の有効測距範囲で均等に分割した例である。
図25(A)に示す有効測距範囲901aは、ピント位置902aで撮影が行われた場合の有効測距範囲を示している。均等な分割を行った場合、信頼度Rを評価することによって低測距精度となってしまう領域が発生し得る。低測距精度の領域を、実線の矩形枠で示す。低測距精度の領域が発生する場合について、図25(B)を用いて説明する。
図25(B)は、横軸に示すピント位置からの距離と、縦軸に示す測距精度との関係を例示する。関数曲線901bは、信頼度Rを最高値とした場合の関数曲線である。関数曲線902bは、信頼度を考慮した場合の関数曲線であり、関数曲線901bよりも上側に位置している。関数曲線901bから算出される第1の有効測距範囲と、関数曲線902bから算出される第2の有効測距範囲とを比較すると、第1の有効測距範囲は、第2の有効測距範囲と、低測距精度となる領域とを含んでいることがわかる。つまり、第2の有効測距範囲の方が狭い。信頼度を評価することにより、ピント位置が同じでも有効測距範囲が狭くなっている。
図25(A)で示される例において、均等な分割のままでは十分な測距精度が得られない場合、さらに分割処理が実行される。例えば、測距精度が十分に得られない、信頼度Rを最高値とした時の有効測距範囲を、範囲903a,904a,905aに示す。これらの範囲についてはさらに分割される。
図26(A)は、図25(A)にて低測距精度となる領域を含む有効測距範囲を、等分に2分割した結果を示す。この例では、分割された領域について信頼度Rをさらに評価すると、低測距精度となる領域が存在する。よって領域をさらに等分に2分割し、低測距精度となる領域が存在しなくなるまで分割処理が繰り返される。最終的には、図26(B)に示すようなブラケット範囲の分割結果となり、低測距精度の領域は無くなる。
図26(C)は、図26(B)に示すようにブラケット範囲を有効測距範囲で分割したときのピント位置901e〜911eと、距離ごとの信頼度を示す。分割後の各ピント位置で撮影を行うことにより、必要な測距精度を得ることができる。以上の処理は追加撮影方法決定部1108によって行われる。ブラケット範囲を有効測距範囲で分割して、測距精度を向上させることが可能であるが、低測距精度となる領域が存在しなくなるまで分割を繰り返す方法以外に、分割数を制限する方法がある。この場合、パラメータ設定部1104により設定されたブラケット数に基づいて分割数が制限される。ブラケット範囲のすべてについて必要な測距精度で取得することはできなくなるが、制限されたブラケット数以内で効率的なブラケット撮影方法の設定が可能である。
さらには、ブラケット範囲が非常に広くなってしまうときにブラケット数を優先したい場合がある。制限されたブラケット数でブラケット範囲をなるべく広く取得できるように数式(35),(36)を設定することにより、被写界深度を深くしてブラケット撮影が行われる。一方で、ブラケット範囲が非常に狭いときに測距精度を優先したい場合には、被写界深度を浅くしてブラケット撮影が行われる。
本実施形態では、ブラケット範囲の均等分割では必要な測距精度を満たすことができず、低測距精度の領域が発生するという課題に対して、さらに分割処理が行われる。この場合、信頼度を評価せずに、徒に細かくピント位置を刻んで間隔を過剰に小さくすると、有効測距範囲同士の重複が発生して非効率である。またブラケット撮影の枚数が膨大になってしまう。そこで撮影制御部1109は、信頼度の評価結果に基づいて、図26(C)に示したピント位置でブラケット撮影を行うように制御する。必要な測距精度を満たし、かつ効率的なブラケット撮影が可能である。本実施形態によれば、信頼度を評価した有効測距範囲に基づいてブラケット撮影の撮影方法を決定することにより、任意の測距精度の条件を満たす距離情報を効率的に取得できる。
前記実施形態では、複数の画像データに対応する距離情報として、異なる視点の画像データ対の像ずれ量またはデフォーカス量から各測距点に対応する距離情報を算出し、該距離情報を用いて、指定された測距点間の長さを算出する例を説明した。これに限らず、画像の領域ごとに各ピント位置での画像データ対、つまり視差画像データ対の像ずれ量に基づいて、どの視差画像データ対を使って得られる距離情報を使用するのかを予め決めておく実施形態に適用できる。この場合、画像の各領域について距離情報の算出が1回で済むので、処理の簡単化および高速化に好適である。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 画像計測装置
101 制御部
102 画像入力部
104 撮影情報取得部
105 測距点選択部
106 対応点探索部
107 デフォーカス量算出部
108 評価値決定部
109 測距点間距離算出部

Claims (22)

  1. 複数のピント位置で、かつ異なる視点でそれぞれ撮像された複数の画像データを取得する第1の取得手段と、
    各ピント位置での異なる視点の画像データ対を用いて被写体の距離情報を取得する第2の取得手段と、
    前記画像データにおける複数の測距点を指定する指定手段と、
    前記画像データ対の像ずれ量またはデフォーカス量から各測距点に対応する距離情報を算出し、該距離情報を用いて、画像の奥行き方向を含む3次元空間における指定された前記測距点間の長さを算出する算出手段と、を備える
    ことを特徴とする画像計測装置。
  2. 前記指定手段は、操作手段により前記測距点を指定し、または前記画像の特徴点を検出して前記測距点を指定する
    ことを特徴とする請求項1に記載の画像計測装置。
  3. 前記複数の画像データにおける前記測距点に対応する信頼度を決定する信頼度決定手段を備え、
    前記算出手段は、前記信頼度決定手段により決定された信頼度を用いて選択された画像データにおける前記測距点の距離情報から前記測距点間の長さを算出する
    ことを特徴とする請求項1または請求項2に記載の画像計測装置。
  4. 前記信頼度決定手段は、前記複数の画像データにおける前記測距点について算出される画像間のピントの移動量、像ずれ量もしくはデフォーカス量、輝度値、または画素の分散値のうちの1つ以上により前記信頼度を決定する
    ことを特徴とする請求項3に記載の画像計測装置。
  5. 前記第2の取得手段は、レーザ測距によって被写体の距離情報を取得する
    ことを特徴とする請求項1から4のいずれか1項に記載の画像計測装置。
  6. 前記第2の取得手段は、撮像光学系の焦点距離と横倍率の比を用いて算出される被写体の距離情報を取得する
    ことを特徴とする請求項1から4のいずれか1項に記載の画像計測装置。
  7. 前記複数の画像データのうちの1つ以上の画像データを用いて有効測距範囲を決定する範囲決定手段と、
    前記距離情報および前記有効測距範囲から、撮像手段により追加で撮影する際の撮影方法を決定する撮影方法決定手段と、
    決定された前記撮影方法にしたがって前記撮像手段による撮像を制御する制御手段と、をさらに備える
    ことを特徴とする請求項3または請求項4に記載の画像計測装置。
  8. 前記範囲決定手段は、前記信頼度と測距精度により前記有効測距範囲を決定する
    ことを特徴とする請求項7に記載の画像計測装置。
  9. 前記範囲決定手段は、前記信頼度決定手段が画像の輝度値、コントラスト、ノイズ推定量、または前記撮像手段からピント位置までの距離のうちの1つ以上により決定した信頼度を用いて、前記有効測距範囲を決定する
    ことを特徴とする請求項8に記載の画像計測装置。
  10. 前記撮影方法決定手段は、前記距離情報の分布を表すヒストグラムを用いて前記撮影方法を決定する
    ことを特徴とする請求項7から9のいずれか1項に記載の画像計測装置。
  11. 前記撮影方法決定手段は、前記ヒストグラムにて背景に対応する距離分布よりも前記撮像手段の側に位置する距離分布の範囲を撮影範囲に決定する
    ことを特徴とする請求項10に記載の画像計測装置。
  12. 前記画像データにおける被写体を認識する認識手段をさらに備え、
    前記撮影方法決定手段は、前記ヒストグラムにて前記認識手段により認識された被写体の距離分布の範囲を撮影範囲に決定する
    ことを特徴とする請求項10に記載の画像計測装置。
  13. 前記撮影方法決定手段は、前記ヒストグラムにて距離分布量が閾値以上である範囲を撮影範囲に決定する
    ことを特徴とする請求項10に記載の画像計測装置。
  14. 前記撮影方法決定手段は、撮影範囲を前記有効測距範囲により分割して複数の撮影を行う撮影方法を決定する
    ことを特徴とする請求項7から13のいずれか1項に記載の画像計測装置。
  15. 前記撮影方法決定手段は、被写界深度を変更して撮影方法を決定する
    ことを特徴とする請求項14に記載の画像計測装置。
  16. 前記撮影方法決定手段は、撮影数を優先する場合に測距精度を優先する場合に比べて被写界深度を深くする撮影方法に決定する
    ことを特徴とする請求項15に記載の画像計測装置。
  17. 前記算出手段によって算出された前記測距点間の長さを表示する表示手段を備える
    ことを特徴とする請求項1から16のいずれか1項に記載の画像計測装置。
  18. 請求項1から17のいずれか1項に記載の画像計測装置と、
    撮像手段と、を備える撮像装置。
  19. 前記撮像手段は、複数のマイクロレンズと、各マイクロレンズに対応する複数の光電変換部を備え、
    前記第1の取得手段は、撮像光学系の異なる瞳部分領域をそれぞれ通過する光束を前記複数の光電変換部が受光して光電変換した信号により、前記複数の画像データを取得する
    ことを特徴とする請求項18に記載の撮像装置。
  20. 前記算出手段は算出した前記測距点間の長さのデータを表示部に出力する
    ことを特徴とする請求項18または請求項19に記載の撮像装置。
  21. 画像データを取得して計測処理を行う画像計測装置にて実行される画像計測方法であって、
    複数のピント位置で、かつ異なる視点でそれぞれ撮像された、複数の画像データを取得するとともに、各ピント位置での異なる視点の画像データ対を用いて被写体の距離情報を取得する工程と、
    前記画像データにおける複数の測距点を指定する工程と、
    前記画像データ対の像ずれ量またはデフォーカス量から各測距点に対応する距離情報を算出し、該距離情報を用いて、画像の奥行き方向を含む3次元空間における指定された前記測距点間の長さを算出する工程と、を有する
    ことを特徴とする画像計測方法。
  22. 請求項21に記載の各工程を画像計測装置のコンピュータに実行させるためのプログラム。


JP2017253584A 2017-09-28 2017-12-28 画像計測装置、画像計測方法、撮像装置、プログラム Active JP7163025B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/138,136 US11004229B2 (en) 2017-09-28 2018-09-21 Image measurement device, image measurement method, imaging device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017188390 2017-09-28
JP2017188390 2017-09-28

Publications (2)

Publication Number Publication Date
JP2019066451A true JP2019066451A (ja) 2019-04-25
JP7163025B2 JP7163025B2 (ja) 2022-10-31

Family

ID=66337843

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017253584A Active JP7163025B2 (ja) 2017-09-28 2017-12-28 画像計測装置、画像計測方法、撮像装置、プログラム

Country Status (1)

Country Link
JP (1) JP7163025B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111473767A (zh) * 2020-04-16 2020-07-31 福建汇川物联网技术科技股份有限公司 一种远程测距方法及装置
WO2021054140A1 (ja) * 2019-09-20 2021-03-25 キヤノン株式会社 画像処理装置および画像処理方法、撮像装置、プログラム
CN112902836A (zh) * 2019-12-03 2021-06-04 阿丹电子企业股份有限公司 箱体的体积测量装置及体积测量方法
CN113470103A (zh) * 2021-06-29 2021-10-01 阿波罗智联(北京)科技有限公司 车路协同中相机作用距离确定方法、装置和路侧设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011232330A (ja) * 2010-04-08 2011-11-17 Casio Comput Co Ltd 撮像装置、長さ測定方法、及びプログラム
JP2016156934A (ja) * 2015-02-24 2016-09-01 キヤノン株式会社 距離情報生成装置、撮像装置、距離情報生成方法および距離情報生成プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011232330A (ja) * 2010-04-08 2011-11-17 Casio Comput Co Ltd 撮像装置、長さ測定方法、及びプログラム
JP2016156934A (ja) * 2015-02-24 2016-09-01 キヤノン株式会社 距離情報生成装置、撮像装置、距離情報生成方法および距離情報生成プログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021054140A1 (ja) * 2019-09-20 2021-03-25 キヤノン株式会社 画像処理装置および画像処理方法、撮像装置、プログラム
JP7451120B2 (ja) 2019-09-20 2024-03-18 キヤノン株式会社 画像処理装置および画像処理方法、撮像装置、プログラム
CN112902836A (zh) * 2019-12-03 2021-06-04 阿丹电子企业股份有限公司 箱体的体积测量装置及体积测量方法
CN112902836B (zh) * 2019-12-03 2022-08-02 阿丹电子企业股份有限公司 箱体的体积测量装置及体积测量方法
CN111473767A (zh) * 2020-04-16 2020-07-31 福建汇川物联网技术科技股份有限公司 一种远程测距方法及装置
CN113470103A (zh) * 2021-06-29 2021-10-01 阿波罗智联(北京)科技有限公司 车路协同中相机作用距离确定方法、装置和路侧设备
CN113470103B (zh) * 2021-06-29 2023-11-24 阿波罗智联(北京)科技有限公司 车路协同中相机作用距离确定方法、装置和路侧设备

Also Published As

Publication number Publication date
JP7163025B2 (ja) 2022-10-31

Similar Documents

Publication Publication Date Title
US9208396B2 (en) Image processing method and device, and program
JP7163025B2 (ja) 画像計測装置、画像計測方法、撮像装置、プログラム
JP6456156B2 (ja) 法線情報生成装置、撮像装置、法線情報生成方法および法線情報生成プログラム
US20070189750A1 (en) Method of and apparatus for simultaneously capturing and generating multiple blurred images
CN109255810B (zh) 图像处理装置及图像处理方法
JP2015032144A (ja) 撮像装置およびその制御方法
CN109883391B (zh) 基于微透镜阵列数字成像的单目测距方法
CN107395924B (zh) 图像处理装置、图像捕获装置和图像处理方法
US11347133B2 (en) Image capturing apparatus, image processing apparatus, control method, and storage medium
CN105306922A (zh) 一种深度相机参考图的获取方法和装置
JP6071257B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
CN101539422A (zh) 一种单目视觉实时测距方法
JP2013044844A (ja) 画像処理装置および画像処理方法
JP2010117593A (ja) 距離情報取得装置、撮像装置、及びプログラム
JPWO2011125937A1 (ja) キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
JPH07199052A (ja) 焦点検出方法および距離測定方法
JP2013037166A (ja) 焦点検出装置及びそれを有するレンズ装置及び撮像装置
KR101715553B1 (ko) 합초 위치 검출 장치, 합초 위치 검출 방법 및 합초 위치 검출용 컴퓨터 프로그램
KR20170026149A (ko) 합초 위치 검출 장치, 합초 위치 검출 방법 및 합초 위치 검출용 컴퓨터 프로그램
US10999491B2 (en) Control apparatus, image capturing apparatus, control method, and storage medium
US11004229B2 (en) Image measurement device, image measurement method, imaging device
JP2016099318A (ja) ステレオマッチング装置とステレオマッチングプログラムとステレオマッチング方法
JP2020021126A (ja) 画像処理装置およびその制御方法、距離検出装置、撮像装置、プログラム
US11468586B2 (en) Three-dimensional measurement apparatus, image capturing apparatus, control method, and recording medium
JPH0252204A (ja) 3次元座標計測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211214

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220425

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220425

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220511

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220905

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221019

R151 Written notification of patent or utility model registration

Ref document number: 7163025

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151