JP6717759B2 - 計測装置および計測装置の作動方法 - Google Patents

計測装置および計測装置の作動方法 Download PDF

Info

Publication number
JP6717759B2
JP6717759B2 JP2017002461A JP2017002461A JP6717759B2 JP 6717759 B2 JP6717759 B2 JP 6717759B2 JP 2017002461 A JP2017002461 A JP 2017002461A JP 2017002461 A JP2017002461 A JP 2017002461A JP 6717759 B2 JP6717759 B2 JP 6717759B2
Authority
JP
Japan
Prior art keywords
image
unit
subject
imaging
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017002461A
Other languages
English (en)
Other versions
JP2018112447A (ja
Inventor
福西 宗憲
宗憲 福西
秀彰 高橋
秀彰 高橋
潤一 森
潤一 森
尚之 宮下
尚之 宮下
小川 清富
清富 小川
陽平 坂本
陽平 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2017002461A priority Critical patent/JP6717759B2/ja
Priority to US15/860,721 priority patent/US10573015B2/en
Publication of JP2018112447A publication Critical patent/JP2018112447A/ja
Application granted granted Critical
Publication of JP6717759B2 publication Critical patent/JP6717759B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2415Stereoscopic endoscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/211Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/225Image signal generators using stereoscopic image cameras using a single 2D image sensor using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Endoscopes (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、計測装置および計測装置の作動方法に関する。
エンジン、タービン、および化学プラントなどの内部の傷および腐食の外観検査を非破壊で行うために工業用内視鏡が広く用いられている。傷および腐食のような不具合が発見された際、その程度に応じて対策方法を切り替える必要がある。そのため、傷および腐食の大きさを測定する計測機能を備えている工業用内視鏡がある。
例えば、特許文献1に示すように、計測内視鏡装置は、視差のある2個の光学系を備える。計測内視鏡装置は、それぞれの光学系により得られる光学像を同時に撮像する。計測内視鏡装置は、生成された2つの画像を用いて、ステレオ計測の原理に基づいて被写体の3次元座標および被写体の大きさを算出する。
特許文献2で示されるステレオ計測装置は、2つの異なる光路(第1の光路および第2の光路とよぶ)を通った光が形成する被写体の2つの像を撮像素子の共通の領域に結像させる光学系を備える。また、ステレオ計測装置は、2つの光路のうちのいずれか一方を通った光のみが形成する被写体像を撮像するように光路を切り替える光路切り替え手段を備える。
特許文献2のステレオ計測装置を用いて被写体の計測を行う場合、第1の光路を通った光が形成する第1の被写体像に基づく撮像により画像(第1の画像とよぶ)が生成される。続いて、光路が切り替えられ、かつ第2の光路を通った光が形成する第2の被写体像に基づく撮像により画像(第2の画像とよぶ)が生成される。第1の画像および第2の画像が有する視差に基づき、ステレオ計測の原理を用いて被写体の形状が計測される。
特許文献1の計測内視鏡装置では、2つの光路を通った光が形成する2つの被写体像は撮像素子の異なる領域に結像される。これに対して、特許文献2のステレオ計測装置では、2つの光路を通った光が形成する2つの被写体像は撮像素子の共通の領域に結像される。このため、特許文献2のステレオ計測装置では、撮像面積を大きくすることができ、かつ撮像画質を向上させることができる。
一方、特許文献2の手法では、第1の画像と第2の画像とを撮像する間に内視鏡が動くことにより、ステレオ計測のパラメータ(基線長など)に誤差が生じる。そのため、被写体の形状を正確に計測できない。これを解決する手法が特許文献3に開示されている。
特許文献3の内視鏡装置は、第1の画像と第2の画像とを交互に撮影する。2つの第1の画像間または2つの第2の画像間の位置ずれ量が所定のしきい値を下回るとき、内視鏡装置は装置のぶれがないと判断し、かつ計測処理を行う。
特開2004−49638号公報 特開2010−128354号公報 特開2016−14896号公報
特許文献3の内視鏡装置が計測を行う環境において、内視鏡のぶれが十分に小さく、かつ所望の計測精度を得るために必要なしきい値を下回ることが一定頻度で発生する場合には、内視鏡装置は所望の精度で計測を行うことができる。しかしながら実際には、ぶれ量がしきい値を下回りにくいため、内視鏡装置が計測を行うことができない場合が発生しやすい。
本発明は、所望の精度で計測を行うことができる計測装置および計測装置の作動方法を提供することを目的とする。
本発明は、第1の対物光学系と、前記第1の対物光学系に対して視差を有するように配置された第2の対物光学系と、前記第1の対物光学系を介して第1の被写体像を第1の撮像タイミングで撮像し、前記第2の対物光学系を介して第2の被写体像を前記第1の撮像タイミングと異なる第2の撮像タイミングで撮像し、前記第1の被写体像に基づく第1の画像を生成し、かつ前記第2の被写体像に基づく第2の画像を生成する撮像部と、前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像したと仮定した場合に得られる、前記第1の被写体像に基づく仮想画像を生成する仮想画像生成部と、前記第2の画像および前記仮想画像に基づいて被写体の形状を計測する計測処理部と、を有することを特徴とする計測装置である。
本発明の計測装置において、前記撮像部は、互いに異なる複数の前記第1の撮像タイミングで前記第1の被写体像を撮像し、かつ複数の前記第1の画像を生成し、前記仮想画像生成部は、前記複数の前記第1の画像間の位置ずれ量を算出する画像位置ずれ算出部を有し、かつ算出された前記位置ずれ量に基づいて前記仮想画像を生成することを特徴とする。
本発明の計測装置において、前記仮想画像生成部はさらに、算出された前記位置ずれ量に基づいて、前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像するときの撮像位置を推定する位置推定部と、推定された前記撮像位置に基づいて、補正対象である前記第1の画像に対する補正パラメータを算出する補正パラメータ算出部と、算出された前記補正パラメータを用いて前記補正対象である前記第1の画像を補正することにより前記仮想画像を生成する画像補正部と、を有することを特徴とする。
本発明の計測装置において、前記位置ずれ量の算出対象である前記第1の画像は、前記複数の前記第1の画像の全部または一部であることを特徴とする。
本発明の計測装置において、前記位置ずれ量の算出対象である前記第1の画像は、前記第2の撮像タイミングの直前の前記第1の撮像タイミングで撮像された前記第1の被写体像に基づく前記第1の画像と、前記第2の撮像タイミングの直後の前記第1の撮像タイミングで撮像された前記第1の被写体像に基づく前記第1の画像との少なくとも一方を含むことを特徴とする。
本発明の計測装置は、前記第1の画像を記憶するメモリをさらに有し、前記仮想画像生成部はさらに、算出された前記位置ずれ量に基づいて、前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像するときの撮像位置を推定する位置推定部と、推定された前記撮像位置に基づいて、読み出し対象である前記第1の画像を前記メモリから読み出すときの読み出し位置を算出する読み出し位置算出部と、算出された前記読み出し位置に基づいて、前記読み出し対象である前記第1の画像を前記メモリから読み出す制御を行う読み出し制御部と、を有することを特徴とする。
本発明の計測装置は、前記仮想画像が生成される前に、前記位置ずれ量に基づいて、計測が可能であるか否かを判定する計測可否判定部をさらに有し、前記計測可否判定部によって前記計測が可能であると判定された場合に、前記仮想画像生成部は前記仮想画像を生成することを特徴とする。
本発明の計測装置において、前記計測可否判定部は、前記位置ずれ量に基づく前記撮像部の並進移動量と、前記位置ずれ量に基づく前記撮像部の移動の直進性を示す値と、前記位置ずれ量の変化量との少なくとも1つに基づいて、前記計測が可能であるか否かを判定することを特徴とする。
本発明は、第1の対物光学系と、前記第1の対物光学系に対して視差を有するように配置された第2の対物光学系と、撮像部と、を有する計測装置の作動方法であって、前記撮像部によって、前記第1の対物光学系を介して第1の被写体像を第1の撮像タイミングで撮像し、かつ前記第1の被写体像に基づく第1の画像を生成する第1のステップと、前記撮像部によって、前記第2の対物光学系を介して第2の被写体像を前記第1の撮像タイミングと異なる第2の撮像タイミングで撮像し、かつ前記第2の被写体像に基づく第2の画像を生成する第2のステップと、前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像したと仮定した場合に得られる、前記第1の被写体像に基づく仮想画像を生成する第3のステップと、前記第2の画像および前記仮想画像に基づいて被写体の形状を計測する第4のステップと、を有することを特徴とする計測装置の作動方法である。
本発明によれば、仮想画像生成部は、撮像部が第1の被写体像を第2の撮像タイミングで撮像したと仮定した場合に得られる、第1の被写体像に基づく仮想画像を生成する。計測処理部は、第2の画像および仮想画像に基づいて被写体の形状を計測する。これにより、計測装置は所望の精度で計測を行うことができる。
本発明の第1の実施形態の計測装置の構成を示すブロック図である。 本発明の第1の実施形態の計測装置が有する仮想画像生成部の構成を示すブロック図である。 本発明の第1の実施形態における被写体形状計測処理の手順を示すフローチャートである。 本発明の第1の実施形態における位置ずれ算出処理の手順を示すフローチャートである。 本発明の第1の実施形態における位置ずれ算出処理に用いる画像を示す参考図である。 本発明の第1の実施形態における座標系を示す参考図である。 本発明の第1の実施形態におけるスコープの軌跡を示す参考図である。 本発明の第1の実施形態における仮想画像の生成処理を説明するための参考図である。 本発明の第1の実施形態における計測処理を説明するための参考図である。 本発明の第1の実施形態における撮像シーケンスを示すタイミングチャートである。 本発明の第1の実施形態の第1の変形例の計測装置が有する仮想画像生成部の構成を示すブロック図である。 本発明の第2の実施形態の計測装置の構成を示すブロック図である。 本発明の第2の実施形態における被写体形状計測処理の手順を示すフローチャートである。 本発明の第2の実施形態における計測可否判定処理の手順を示すフローチャートである。 本発明の第2の実施形態におけるスコープの挙動の例を示すグラフである。 本発明の第2の実施形態におけるスコープの挙動の例を示すグラフである。 本発明の第2の実施形態における撮像シーケンスを示すタイミングチャートである。 本発明の第2の実施形態の第1の変形例における撮像シーケンスを示すタイミングチャートである。 本発明の第2の実施形態の第2の変形例における撮像シーケンスを示すタイミングチャートである。
以下、図面を参照し、本発明の実施形態を説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態の計測装置10の構成を示す。例えば、計測装置10は、計測対象の物体の内部に挿入される挿入部を含む内視鏡装置である。図1に示すように、計測装置10は、第1の対物光学系100、第2の対物光学系101、光路切替部102、結像光学系103、撮像素子104(撮像部)、コントローラ105、制御部106、フレームメモリ107(メモリ)、仮想画像生成部108、および計測処理部109を有する。
例えば、第1の対物光学系100および第2の対物光学系101は、凹レンズと凸レンズとを組み合わせた対物レンズを有する。第2の対物光学系101は、第1の対物光学系100に対して視差を有するように配置されている。つまり、第1の対物光学系100および第2の対物光学系101は、視差方向に離間している。視差方向は、第1の対物光学系100の光学中心(主点)と第2の対物光学系101の光学中心(主点)とを通る直線の方向である。第1の対物光学系100に入射した光は第1の光路を通る。第2の対物光学系101に入射した光は第1の光路と異なる第2の光路を通る。第1の対物光学系100は第1の被写体像を形成し、かつ第2の対物光学系101は第2の被写体像を形成する。
光路切替部102は、第1の被写体像および第2の被写体像のうちのいずれか1つのみが撮像素子104に結像されるように、第1の光路と第2の光路との間で光路を切り替える。光路切替部102が第1の光路の光を透過させるとき、第2の光路の光は遮蔽される。光路切替部102が第2の光路の光を透過させるとき、第1の光路の光は遮蔽される。光路切替部102による光路の切替動作は、制御部106からの制御信号によって制御される。結像光学系103は、第1の光路を通った光と第2の光路を通った光とのいずれか1つに基づく被写体像を撮像素子104の表面に結像させる。
撮像素子104は、第1の対物光学系100を介して第1の被写体像を第1の撮像タイミングで撮像する。撮像素子104は、第2の対物光学系101を介して第2の被写体像を第1の撮像タイミングと異なる第2の撮像タイミングで撮像する。撮像素子104は、第1の被写体像に基づく第1の画像を生成する。撮像素子104は、第2の被写体像に基づく第2の画像を生成する。撮像素子104は、互いに異なる複数の第1の撮像タイミングで第1の被写体像を撮像し、かつ複数の第1の画像を生成する。第1の対物光学系100、第2の対物光学系101、光路切替部102、結像光学系103、および撮像素子104は、スコープ110を構成する。例えば、内視鏡装置においてスコープ110は挿入部に配置される。
コントローラ105は、ユーザによって操作される操作部である。コントローラ105は、「撮影開始」、「計測開始」、「撮影停止」、および「計測結果の取得」などの指示をユーザから受け付ける。コントローラ105は、ユーザから受け付けた指示に応じたコマンドを制御部106に出力する。
コントローラ105からのコマンドは制御部106に入力される。制御部106は、後述する各部の状態に応じて、コマンドに対応する制御信号を各部に送り、かつ被写体形状の計測のための一連の処理シーケンスを制御する。フレームメモリ107は、撮像素子104によって生成された第1の画像および第2の画像を記憶する。
仮想画像生成部108および計測処理部109は、演算装置である。仮想画像生成部108は、撮像素子104が第1の被写体像を第2の撮像タイミングで撮像したと仮定した場合に得られる、第1の被写体像に基づく仮想画像を生成する。計測処理部109は、第2の画像および仮想画像に基づいて被写体の形状を計測する。
図2は、仮想画像生成部108の構成を示す。図2に示すように、仮想画像生成部108は、画像位置ずれ算出部1080、位置推定部1081、補正パラメータ算出部1082、および画像補正部1083を有する。
画像位置ずれ算出部1080は、複数の第1の画像間の位置ずれ量を算出する。これにより、仮想画像生成部108は、算出された位置ずれ量に基づいて仮想画像を生成することができる。位置推定部1081は、算出された位置ずれ量に基づいて、撮像素子104が第1の被写体像を第2の撮像タイミングで撮像するときの撮像位置(撮像素子104の位置)を推定する。補正パラメータ算出部1082は、推定された撮像位置に基づいて、補正対象である第1の画像に対する補正パラメータを算出する。画像補正部1083は、算出された補正パラメータを用いて補正対象である第1の画像を補正することにより仮想画像を生成する。
本発明の各実施形態において、第1の画像を取得するための撮像位置を第1の画像の撮像位置とよぶ。また、第2の画像を取得するための撮像位置を第2の画像の撮像位置とよぶ。
図3は、第1の実施形態における被写体形状計測処理の手順を示す。図3を用いて被写体形状計測処理の詳細を説明する。
被写体形状計測処理が開始された後、光路切替部102は、光路を第1の光路に設定する。これにより、第1の対物光学系100を通った光に基づく第1の被写体像が撮像素子104の表面に結像される。撮像素子104は、第1の被写体像を撮像し、かつ第1の被写体像に基づく第1の画像を生成する。第1の被写体像が撮像されたタイミングが第1のタイミングである。撮像素子104によって生成された第1の画像はフレームメモリ107に記憶される(ステップS101)。
ステップS101の後、制御部106は、ステップS101における第1の画像の取得回数が所定回数に達したか否かを判定する(ステップS102)。所定回数は、1以上の整数である。ステップS102において、第1の画像の取得回数が所定回数よりも少ない場合、ステップS101における処理が再度行われる。つまり、第1の画像の取得回数が所定回数に達するまで、第1の画像の取得が行われる。
ステップS102において、第1の画像の取得回数が所定回数に達した場合、光路切替部102は、光路を第2の光路に設定する。これにより、第2の対物光学系101を通った光に基づく第2の被写体像が撮像素子104の表面に結像される。撮像素子104は、第2の被写体像を撮像し、かつ第2の被写体像に基づく第2の画像を生成する。第2の被写体像が撮像されたタイミングが第2のタイミングである。撮像素子104によって生成された第2の画像はフレームメモリ107に記憶される(ステップS103)。
ステップS103の後、ステップS101における処理と同様の処理が行われる。つまり、第1の画像の取得が行われる(ステップS104)。
ステップS104の後、制御部106は、ステップS104における第1の画像の取得回数が所定回数に達したか否かを判定する(ステップS105)。所定回数は、1以上の整数である。ステップS105において、第1の画像の取得回数が所定回数よりも少ない場合、ステップS104における処理が再度行われる。つまり、第1の画像の取得回数が所定回数に達するまで、第1の画像の取得が行われる。
ステップS105において、第1の画像の取得回数が所定回数に達した場合、画像位置ずれ算出部1080は、複数の第1の画像間の位置ずれ量を算出する(ステップS106)。位置ずれ量の算出対象である第1の画像は、ステップS101およびステップS104における処理により生成された複数の第1の画像の全部または一部である。例えば、ステップS101およびステップS104の各々における処理が1回ずつ行われた場合、位置ずれ量の算出対象である第1の画像は、ステップS101およびステップS104における処理により生成された2枚の第1の画像である。
例えば、位置ずれ量の算出対象である第1の画像は、第2の撮像タイミングの直前の第1の撮像タイミングで撮像された第1の被写体像に基づく第1の画像と、第2の撮像タイミングの直後の第1の撮像タイミングで撮像された第1の被写体像に基づく第1の画像との少なくとも一方を含む。第2の撮像タイミングの直前の第1の撮像タイミングは、第2の撮像タイミングよりも前の第1の撮像タイミングのうち第2の撮像タイミングに最も近い第1の撮像タイミングである。第2の撮像タイミングの直後の第1の撮像タイミングは、第2の撮像タイミングよりも後の第1の撮像タイミングのうち第2の撮像タイミングに最も近い第1の撮像タイミングである。例えば、位置ずれ量の算出対象である第1の画像は、ステップS101における処理により生成された少なくとも1枚の第1の画像と、ステップS104における処理により生成された少なくとも1枚の第1の画像とを含む。
被写体形状計測処理は、ステップS101およびステップS102における処理を含まなくてもよい。その場合、位置ずれ量の算出対象である第1の画像は、ステップS104における処理により生成された少なくとも2枚の第1の画像を含む。
被写体形状計測処理は、ステップS104およびステップS105における処理を含まなくてもよい。その場合、位置ずれ量の算出対象である第1の画像は、ステップS101における処理により生成された少なくとも2枚の第1の画像を含む。
ステップS106の後、位置推定部1081は、ステップS106において算出された位置ずれ量に基づいて、撮像素子104が第1の被写体像を第2の撮像タイミングで撮像するときの撮像位置を推定する(ステップS107)。第1の画像と第2の画像とは、互いに異なる撮像タイミングにおける撮像により生成されるため、第2の撮像タイミングでは第1の画像は生成されていない。ステップS107において、位置推定部1081は、撮像素子104が第1の被写体像を第2の撮像タイミングで撮像すると仮定した場合の撮像位置を推定する。
ステップS107の後、補正パラメータ算出部1082は、ステップS107において推定された撮像位置に基づいて、補正対象である第1の画像に対する補正パラメータを算出する(ステップS108)。
ステップS108の後、画像補正部1083は、ステップS108において算出された補正パラメータを用いて補正対象である第1の画像を補正することにより仮想画像を生成する。生成された仮想画像は、必要に応じてフレームメモリ107に記憶され、かつ計測処理部109に出力される(ステップS109)。
ステップS109の後、計測処理部109は、第2の画像および仮想画像に基づいて被写体の形状を計測し、かつ計測結果を制御部106に出力する(ステップS110)。計測処理部109は、第2の画像が取得された第2の撮像タイミングと同一の撮像タイミングで得られると想定される仮想画像を用いることにより、所望の精度で被写体の形状を計測することができる。ステップS110における処理が行われることにより、被写体形状計測処理が終了する。
図4は、ステップS106における位置ずれ算出処理の手順を示す。図4を用いて位置ずれ算出処理の詳細を説明する。
位置ずれ量の算出対象である2枚の第1の画像が画像位置ずれ算出部1080に入力される。画像位置ずれ算出部1080は、入力された2枚の第1の画像を用いて、領域毎のテンプレートマッチングを行う(ステップS201)。
図5を用いて、ステップS201における処理の詳細を説明する。時間的により先に生成された第1の画像が基準画像500(図5(a))であり、かつ時間的により後に生成された第1の画像が位置合わせ画像501である(図5(b))。時間的により後に生成された第1の画像が基準画像500であり、かつ時間的により先に生成された第1の画像が位置合わせ画像501であってもよい。
基準画像500には一定間隔でテンプレート領域502が配置される。画像位置ずれ算出部1080は、位置合わせ画像501において、テンプレート領域502内の画像と一致する領域を探索する。位置合わせ画像501において基準画像500のテンプレート領域502の位置を中心とする一定範囲のマッチング探索範囲503が設定される。画像位置ずれ算出部1080は、このマッチング探索範囲503の位置ずれ画像501とテンプレート領域502の基準画像500との一致度が最も高くなるマッチング探索範囲503内のマッチング位置504を算出する。この一致度を示す指標として、SSD(Sum of Squared Difference)、SAD(Sum of Absolute Difference), NCC(Normalized Cross Correlation)、およびZNCC(Zero means Normalized Cross Correlation)などの公知の指標を用いることができる。
ステップS201において画像位置ずれ算出部1080は、位置ずれ画像501におけるマッチング位置504と基準画像500の各テンプレート領域502の位置との位置ずれを各テンプレート領域502の移動ベクトルとして算出する。テンプレートマッチング処理では、対応点が一意に求められる手がかりがある場合、信頼度の高い移動ベクトルを算出することができる。しかし、位置合わせの手がかりがない低コントラスト領域および繰り返しパターン領域などにおいて、移動ベクトルの信頼性は低い。ステップS201の後、画像位置ずれ算出部1080は、各テンプレート領域502の移動ベクトルの信頼性を判定する(ステップS202)。
移動ベクトルの信頼度の判定方法として、例えば特許第5744614号公報に開示されている手法のような既知の手法を用いることができる。例えば、図5(b)における移動ベクトル505の信頼度は高く、かつ移動ベクトル506の信頼度は低い。ステップS202の後、画像位置ずれ算出部1080は、ステップS201において算出された移動ベクトルのうちステップS202において算出された信頼度が高い移動ベクトルの平均を計算することによりグローバルベクトルを算出する(ステップS203)。このとき、画像位置ずれ算出部1080は、画像中央部の領域の移動ベクトルのみからグローバルベクトルを算出してもよい。あるいは、画像位置ずれ算出部1080は、信頼度の値を重みとして、重み付き平均を算出することによってグローバルベクトルを算出してもよい。グローバルベクトルの大きさは2枚の第1の画像間の位置ずれ量を示し、かつグローバルベクトルの方向は2枚の第1の画像間の位置ずれの方向を示す。ステップS203における処理が行われることにより、位置ずれ算出処理が終了する。
ステップS107における位置推定処理およびステップS108における補正パラメータの算出処理の詳細を、図6および図7を用いて説明する。
スコープ110を基準とするX,Y,Z座標系は、図6に示すように定義される。つまり、Z方向はスコープ110の正面方向すなわち撮像素子104の撮像方向である。X方向およびY方向はZ方向に垂直である。図7は、スコープ110のXY平面内の軌跡を示す。第1の画像の撮像位置を(x,y)(i=0,1,・・・,n)と定義したとき、位置推定部1081は、第2の画像が生成される第2の撮像タイミングにおける第1の画像の仮想的な撮像位置を自由曲線補間によって算出する。以下では、3次スプライン補間を用いる場合について説明する。媒介変数t(0≦t≦n)を用いることにより、自由曲線は式(1)で与えられる。式(1)におけるa、b、c、およびdは係数である。
(t)=[x(t) y(t)]
=a+b(t−t)+c(t−t+d(t−t ・・・(1)
通過する点は連続することを条件として、式(2)および式(3)が得られる。
(t=j)=P=[x] ・・・(2)
(t=j+1)=Sj+1(j+1)=Pj+1=[xj+1j+1] ・・・(3)
区間の傾き(1次微分)とその変化の割合(2次微分)とが連続することを条件として、式(4)および式(5)が得られる。
’(t=j+1)=Sj+1’(j+1) ・・・(4)
’’(t=j+1)=Sj+1’’(j+1) ・・・(5)
端点の2次微分は0であることを条件として、式(6)が得られる。
’’(0)=Sj+1’’(n)=0 ・・・(6)
これらを係数a、b、およびdで解くことにより、式(7)、式(8)、および式(9)が得られる。
Figure 0006717759
係数cは、式(10)に示す連立方程式を解くことにより得られる。
Figure 0006717759
以上の計算により、位置推定部1081は、係数a、b、c、およびdを算出することができ、かつ自由曲線S(t)を得ることができる。
位置推定部1081は、S(t=j)を算出することにより、第1の撮像タイミングにおける第1の画像の撮像位置を算出する。また、位置推定部1081は、S(t=j+0.5)を算出することにより、第2の撮像タイミングにおける第1の画像の撮像位置を算出する。算出された撮像位置(S(t=j+0.5))は、第2の撮像タイミングにおける第1の画像の仮想的な撮像位置である。位置推定部1081は、ステップS107において上記の処理を行う。
補正パラメータ算出部1082は、ステップS108において、第1の撮像タイミングにおける第1の画像の撮像位置と、第2の撮像タイミングにおける第1の画像の撮像位置との差を算出する。これにより、補正パラメータ算出部1082は、式(11)に示すように補正パラメータVを算出する。
=S(t=j+0.5)−S(t=j)
=[x(j+0.5) y(j+0.5)]−[x(t) y(t)] ・・・(11)
実際の現象を厳密に表現するためには、スコープ110のZ軸方向の動き、X軸、Y軸、およびZ軸回りの回転なども考慮する必要がある。微小時間におけるスコープ110の動きは、X軸およびY軸方向の動きが支配的である。スコープ110のX軸およびY軸方向の動きと画像上の縦および横方向の動きとは相似の関係にあると考えることができる。Pの値として、ステップS201からS203における処理により算出されたグローバルベクトルを用いることにより、補正パラメータ算出部1082は、画像上の補正量として補正パラメータをVを算出することができる。
ここでは3次スプライン曲線を例に説明したが、Bスプライン、N次スプライン、およびベジエ曲線などの任意の自由曲線を用いた場合も同様の効果を得ることができる。
ステップS109における仮想画像の生成処理の詳細を、図8を用いて説明する。画像補正部1083は、第1の撮像タイミングにおける撮像により得られた第1の画像800の各画素の座標を補正パラメータVに基づいてずらすことにより、第1の画像800を補正する。これにより、画像補正部1083は、仮想画像801を生成する。仮想画像801において、第1の画像800と重ならない領域802のデータは、黒データのような所定のデータであってもよい。あるいは、領域802のデータは、第1の画像800および仮想画像801の共通の領域803のデータから補間されてもよい。
ステップS110における計測処理の詳細を、図9を用いて説明する。計測対象である被写体の位置は(X,Y,Z)である。図9において、第2の撮像タイミングにおける第2の対物光学系101の光学中心を原点とするXYZ座標系と、その第2の撮像タイミングにおける第1の対物光学系100の光学中心を原点とするX’Y’Z’座標系とが示されている。被写体の位置は、XYZ座標系の座標として示されている。第2の画像900の中心を原点とするUV座標系における被写体の位置902は(u,v)であり、かつ仮想画像901の中心を原点とするU’V’座標系における被写体の位置903は(u’,v’)である。計測処理部109は、第2の画像900および仮想画像901を用いてステレオ計測を行う。
視差dは式(12)により与えられる。
d=u−u’ ・・・(12)
計測処理部109は、通常のステレオ計測と同様に式(13)、式(14)、および式(15)を用いて、任意の計測点の被写体座標を求めることができる。各式において、bは基線長、すなわち第1の対物光学系100の光学中心と第2の対物光学系101の光学中心との距離である。δは、撮像素子104の画素ピッチである。
Figure 0006717759
図10は、第1の実施形態における撮像シーケンスを示す。図10において、撮像素子104が第1の画像を取得するための第1の撮像タイミングと、撮像素子104が第2の画像を取得するための第2の撮像タイミングとが示されている。図10における横方向は時間を示す。第2の画像が取得される前後に、時間T1の間隔で第1の画像が取得される。第1の撮像タイミングと第2の撮像タイミングとの差はT2である。第2の撮像タイミングの直前の第1の撮像タイミングと、第2の撮像タイミングの直後の第1の撮像タイミングとの差はT3である。
画像位置ずれ算出部1080は、第2の撮像タイミングの直前に取得された第1の画像1000と、第2の撮像タイミングの直後に取得された第1の画像1001とに基づいて、位置ずれ量を算出する。位置推定部1081は、第1の画像1000が取得された第1の撮像タイミングにおける第1の画像の撮像位置と、第2の画像1002が取得された第2の撮像タイミングにおける第1の画像の撮像位置とを算出する。補正パラメータ算出部1082は、これらの撮像位置の差を算出することにより、補正パラメータを算出する。画像補正部1083は、補正パラメータに基づいて第1の画像1000を補正することにより、仮想画像1003を生成する。画像補正部1083は、補正パラメータに基づいて第1の画像1001を補正することにより、仮想画像1003を生成してもよい。
第1の実施形態において、仮想画像生成部108は、撮像素子104が第1の被写体像を第2の撮像タイミングで撮像したと仮定した場合に得られる、第1の被写体像に基づく仮想画像を生成する。計測処理部109は、第2の画像および仮想画像に基づいて被写体の形状を計測する。これにより、計測装置10は所望の精度で計測を行うことができる。
画像を取得するシーケンスにおいてスコープ110のぶれが発生した場合、計測装置10は、スコープ110の動きを推定し、かつその動きに基づいて第1の画像を補正する。これにより、計測装置10は、計測精度を確保することができる。スコープ110のぶれが発生した場合であっても、第1の撮像タイミングで取得された第1の画像と第2の撮像タイミングで取得された第2の画像とを用いて計測を行う場合と比較して、計測精度が向上しやすい。
(第1の実施形態の第1の変形例)
図11は、第1の実施形態の第1の変形例の計測装置10における仮想画像生成部108aの構成を示す。図11に示す構成について、図2に示す構成と異なる点を説明する。
仮想画像生成部108aは、画像位置ずれ算出部1080、位置推定部1081、読み出し位置算出部1084、および読み出し制御部1085を有する。画像位置ずれ算出部1080は、図2に示す画像位置ずれ算出部1080と同一である。位置推定部1081は、図2に示す位置推定部1081と同一である。読み出し位置算出部1084は、位置推定部1081によって推定された撮像位置に基づいて、読み出し対象である第1の画像をフレームメモリ107から読み出すときの読み出し位置を算出する。読み出し制御部1085は、算出された読み出し位置に基づいて、読み出し対象である第1の画像を仮想画像としてフレームメモリ107から読み出す制御を行う。
上記以外の点について、図11に示す構成は、図2に示す構成と同様である。
第1の実施形態の第1の変形例における被写体形状計測処理は、以下の点を除いて、図3に示す被写体形状計測処理と同様である。ステップS109において、読み出し位置算出部1084は、補正パラメータ算出部1082が行う処理と同様の処理により、第1の画像の読み出し位置を補正するための補正パラメータを算出する。読み出し位置算出部1084は、補正パラメータに基づいて、第1の画像の読み出し位置をシフトさせた新たな読み出し位置を算出する。これにより、フレームメモリ107における第1の画像の読み出し位置が、補正パラメータに相当する量だけ基準位置に対してシフトする。基準位置は、位置ずれ量の算出のために第1の画像がフレームメモリ107から読み出されるときの読み出し位置である。読み出し位置算出部1084は、算出された読み出し位置を出力する。ステップS109において、読み出し制御部1085は、フレームメモリ107において基準位置に対してシフトした位置から第1の画像を読み出す制御を行う。フレームメモリ107から読み出された第1の画像は仮想画像を構成する。
第1の実施形態の第1の変形例においても、計測装置10は所望の精度で計測を行うことができる。
(第2の実施形態)
第1の実施形態においては、スコープ110の動きに起因する画像の位置ずれを補償することにより、スコープ110の動きがある場合においても計測が可能となる。第2の実施形態では、スコープ110の動きを推定した結果に応じて計測処理の実行制御が行われる。
図12は、本発明の第2の実施形態の計測装置11の構成を示す。図12に示す構成について、図1に示す構成と異なる点を説明する。
計測装置11は、図1に示す計測装置10の構成に加えて計測可否判定部111を有する。計測可否判定部111は、仮想画像が生成される前に、位置ずれ量に基づいて、計測が可能であるか否かを判定する。計測可否判定部111は、位置ずれ量に基づく撮像素子104の並進移動量と、位置ずれ量に基づく撮像素子104の移動の直進性を示す値と、位置ずれ量の変化量との少なくとも1つに基づいて、計測が可能であるか否かを判定する。計測可否判定部111によって計測が可能であると判定された場合に、仮想画像生成部108は仮想画像を生成する。
上記以外の点について、図12に示す構成は、図1に示す構成と同様である。
図13は、第2の実施形態における被写体形状計測処理の手順を示す。図13を用いて被写体形状計測処理の詳細を説明する。
被写体形状計測処理が開始された後、光路切替部102は、光路を第1の光路に設定する。これにより、第1の対物光学系100を通った光に基づく第1の被写体像が撮像素子104の表面に結像される。撮像素子104は、第1の被写体像を撮像し、かつ第1の被写体像に基づく第1の画像を生成する。第1の被写体像が撮像されたタイミングが第1のタイミングである。撮像素子104によって生成された第1の画像はフレームメモリ107に記憶される(ステップS301)。
ステップS301の後、撮像素子104は、第1の被写体像を再度撮像し、かつ第1の被写体像に基づく第1の画像を生成する。撮像素子104によって生成された第1の画像はフレームメモリ107に記憶される(ステップS302)。つまり、ステップS301およびステップS302において撮像素子104は、第1の被写体像を連続的に撮像し、かつ2枚の第1の画像を生成する。
ステップS302の後、画像位置ずれ算出部1080は、ステップS301およびステップS302において生成された2枚の第1の画像間の位置ずれ量を算出する(ステップS303)。ステップS303における処理の詳細は、図4に示す処理と同様である。
ステップS303の後、撮像素子104は、第1の被写体像を再度撮像し、かつ第1の被写体像に基づく第1の画像を生成する。撮像素子104によって生成された第1の画像はフレームメモリ107に記憶される(ステップS304)。
ステップS304の後、画像位置ずれ算出部1080は、2枚の第1の画像間の位置ずれ量を算出する(ステップS305)。ステップS305における1回目の処理が行われるとき、ステップS305において使用される第1の画像は、ステップS302およびステップS304において生成された2枚の第1の画像である。ステップS305における1回目よりも後の処理が行われるとき、ステップS305において使用される第1の画像は、ステップS304における処理が繰り返されることにより生成された2枚の第1の画像である。ステップS305における処理の詳細は、図4に示す処理と同様である。
ステップS305の後、計測可否判定部111は、位置ずれ量に基づいて、計測が可能であるか否かを判定する(ステップS306)。ステップS306における1回目の処理が行われるとき、ステップS306において使用される位置ずれ量は、ステップS303およびステップS305において算出された2つの位置ずれ量である。ステップS306における1回目よりも後の処理が行われるとき、ステップS306において使用される位置ずれ量は、ステップS305における処理が繰り返されることにより算出された2つの位置ずれ量である。
ステップS306において計測が不可能であると判定される場合、ステップS304における処理が行われる。計測が不可能である場合、第1の画像の取得(ステップS304)、位置ずれ算出処理(ステップS305)、および計測可否判定処理(ステップS306)が繰り返される。
ステップS306において計測が可能であると判定される場合、光路切替部102は、光路を第2の光路に設定する。これにより、第2の対物光学系101を通った光に基づく第2の被写体像が撮像素子104の表面に結像される。撮像素子104は、第2の被写体像を撮像し、かつ第2の被写体像に基づく第2の画像を生成する。撮像素子104によって生成された第2の画像はフレームメモリ107に記憶される(ステップS307)。
ステップS307の後、ステップS301における処理と同様の処理が行われる。つまり、第1の画像の取得が行われる(ステップS308)。
ステップS308の後、ステップS309、ステップS310、ステップS311、ステップS312、およびステップS313における処理が順次行われる。ステップS309からステップS313における処理は、図3のステップS106からステップS110における処理と同様である。ステップS309において使用される第1の画像は、ステップS304およびステップS308において生成された2枚の第1の画像である。ステップS310において使用される位置ずれ量は、ステップS309において算出された位置ずれ量である。ステップS313における処理が行われることにより、被写体形状計測処理が終了する。
図14は、ステップS306における計測可否判定処理の手順を示す。図14を用いて計測可否判定処理の詳細を説明する。
計測可否判定処理が開始された後、計測可否判定部111は、スコープ110の直進性の指標値を算出する(ステップS401)。この指標値は、撮像素子104の移動の直進性を示す。具体的には、計測可否判定部111は、複数の位置ずれ量を比較し、かつそのベクトル方向の変化の度合いを定量化する。これにより、計測可否判定部111は、式(16)で与えられるスコープ110の直進性の指標値fを算出する。
Figure 0006717759
式(16)において、Vは、画像位置ずれ算出部1080によって算出された位置ずれ量である。位置ずれ量Vは、ステップS303において算出される。位置ずれ量V,V,・・・,Vは、ステップS305において算出される。計測可否判定処理が行われるタイミングの直近に算出された2つの位置ずれ量がステップS401において使用される。
ステップS401の後、計測可否判定部111は、位置ずれ量の変化の指標値(位置ずれ量の変化量)を算出する(ステップS402)。具体的には、計測可否判定部111は、位置ずれ量の大きさの変化の度合いを定量化することにより、式(17)で与えられる、位置ずれ量の変化の指標値fを算出する。
=|V|−|Vt−1|,t=1,2,3,・・・,T ・・・(17)
上記の指標値fおよび指標値fを用いることにより、図6に示すスコープ110の座標系におけるスコープ110の挙動を表現することができる。図15は、スコープ110の各種挙動の例を示す。図15(a)、図15(b)、および図15(c)において、スコープ110の軌道がグラフで示されている。各グラフの横軸はX座標を示し、かつ各グラフの縦軸はY座標を示す。各グラフにおいて、第1の画像および第2の画像の撮像位置が示されている。
スコープ110が直線的かつ等速的に移動する場合、スコープ110の挙動は、図15(a)に示す軌道1500で示される。この場合、連続する2回の撮像における各撮像位置1501の間隔は、ほぼ等しい。スコープ110が直線的に移動しない場合、スコープ110の挙動は、図15(b)に示す軌道1502で示される。この場合、連続する2回の撮像における各撮像位置1503の間隔は、必ずしも等しくない。スコープ110が直線的かつ非等速的に移動する場合、スコープ110の挙動は、図15(c)に示す軌道1504で示される。この場合、連続する2回の撮像における各撮像位置1505の間隔は、必ずしも等しくない。
ステップS402の後、計測可否判定部111は、スコープ110の並進移動量を所定のしきい値と比較することにより、スコープ110の並進移動量が所定のしきい値よりも小さいか否かを判定する(ステップS403)。スコープ110の並進移動量は、計測可否判定処理が行われるタイミングの直近に算出された位置ずれ量Vである。つまり、ステップS305において画像位置ずれ算出部1080は、スコープ110の並進移動量を算出する。ステップS403における判定は、スコープ110のぶれが少なくなるタイミングを抽出することを目的に行われる。
ステップS403においてスコープ110の並進移動量が所定のしきい値以上である場合、計測可否判定部111は、計測が不可能であることを示す判定結果を出力する(ステップS407)。ステップS407における処理が行われることにより、計測可否判定処理が終了する。ステップS407の後、ステップS304における処理が行われる。
ステップS403においてスコープ110の並進移動量が所定のしきい値よりも小さい場合、計測可否判定部111は、スコープ110の直進性の指標値fを所定のしきい値と比較することにより、スコープ110の直進性の指標値fが所定のしきい値よりも大きいか否かを判定する(ステップS404)。ステップS404における判定は、スコープ110が直線的に動く場合を許容し、かつスコープ110の移動方向が急激に変わる場合を排除することを目的に行われる。
ステップS404においてスコープ110の直進性の指標値fが所定のしきい値以下である場合、ステップS407における処理が行われる。ステップS404においてスコープ110の直進性の指標値fが所定のしきい値よりも大きい場合、計測可否判定部111は、位置ずれ量の変化の指標値fを所定のしきい値と比較することにより、位置ずれ量の変化の指標値fが所定のしきい値よりも小さいか否かを判定する(ステップS405)。ステップS405における判定は、スコープ110が等速的に移動する場合を許容し、かつスコープ110が加速度的に加速または減速する場合を排除することを目的に行われる。
ステップS405において位置ずれ量の変化の指標値fが所定のしきい値以上である場合、ステップS407における処理が行われる。ステップS405において位置ずれ量の変化の指標値fが所定のしきい値よりも小さい場合、計測可否判定部111は、計測が可能であることを示す判定結果を出力する(ステップS406)。ステップS406における処理が行われることにより、計測可否判定処理が終了する。ステップS406の後、ステップS307における処理が行われる。
ステップS403、ステップS404、およびステップS405の各々における処理に用いるしきい値は同一である必要はない。ステップS401およびステップS402の少なくとも1つは、計測可否判定部111とは異なる算出部により行われてもよい。ステップS403、ステップS404、およびステップS405における処理の順番は、図14に示す順番に限らない。
図16は、スコープ110の各種挙動の例を示す。図16(a)、図16(b)、図16(c)、および図16(d)において、スコープ110の軌道がグラフで示されている。各グラフの横軸はX座標を示し、かつ各グラフの縦軸はY座標を示す。各グラフにおいて、第1の画像および第2の画像の各々の撮像位置が示されている。
図16(a)に示す軌道1600において、スコープ110は直線的かつ等速的に移動する。撮像位置1601および撮像位置1603における撮像により第1の画像が生成される。撮像位置1602における撮像により第2の画像が生成される。第1の画像の撮像位置1601と第1の画像の撮像位置1603との間隔は大きい。つまり、スコープ110のぶれは大きい。
図16(b)に示す軌道1604において、スコープ110は直線的に移動しない。撮像位置1605および撮像位置1607における撮像により第1の画像が生成される。撮像位置1606における撮像により第2の画像が生成される。撮像位置1605および撮像位置1607に基づいて、第2の画像の撮像位置1606に対応する第1の画像の撮像位置1608が算出される。第1の画像の撮像位置1608は、第2の画像の撮像位置1606と大きく異なる。
図16(c)に示す軌道1609において、スコープ110は直線的かつ非等速的に移動する。撮像位置1610、撮像位置1611、および撮像位置1613における撮像により第1の画像が生成される。撮像位置1612における撮像により第2の画像が生成される。第1の画像の撮像位置1611と第1の画像の撮像位置1613との間隔は小さい。つまり、スコープ110のぶれは小さい。スコープ110の速度が急激に変化するため、第1の画像の撮像位置1611と第2の画像の撮像位置1612との間隔と、第2の画像の撮像位置1612と第1の画像の撮像位置1613との間隔は異なる。
図16(d)に示す軌道1614において、スコープ110は直線的かつ等速的に移動する。撮像位置1615および撮像位置1617における撮像により第1の画像が生成される。撮像位置1616における撮像により第2の画像が生成される。第1の画像の撮像位置1615と第1の画像の撮像位置1617との間隔は小さい。つまり、スコープ110のぶれは小さい。
計測可否判定部111が並進移動量の判定(ステップS403)を行うことにより、スコープ110のぶれが大きい場合(図16(a))が排除される。計測可否判定部111がスコープ110の直進性の判定(ステップS404)を行うことにより、スコープ110の移動方向が変わる場合(図16(b))が排除される。計測可否判定部111が位置ずれ量の変化量の判定(ステップS405)を行うことにより、スコープ110の速度が急激に変化する場合(図16(c))が排除される。図14に示す処理では、スコープ110のぶれが少なく、スコープ110の移動が直進的であり、かつスコープ110の動きが小さくかつ一定である場合(図16(d))に計測処理が実行される。これにより、スコープ110の動きに起因する画像の位置ずれの補償精度が向上する。
図17は、第2の実施形態における撮像シーケンスを示す。図17において、撮像素子104が第1の画像を取得するための第1の撮像タイミングと、撮像素子104が第2の画像を取得するための第2の撮像タイミングとが示されている。図17における横方向は時間を示す。第2の画像が取得される前後に、時間T4の間隔で第1の画像が取得される。第1の撮像タイミングと第2の撮像タイミングとの差はT5である。第2の撮像タイミングの直前の第1の撮像タイミングと、第2の撮像タイミングの直後の第1の撮像タイミングとの差はT6である。
画像位置ずれ算出部1080は、第2の撮像タイミングの直前に取得された第1の画像1700と、第2の撮像タイミングの直後に取得された第1の画像1701とに基づいて、位置ずれ量を算出する。位置推定部1081は、第1の画像1700が取得された第1の撮像タイミングにおける第1の画像の撮像位置と、第2の画像1702が取得された第2の撮像タイミングにおける第1の画像の撮像位置とを算出する。補正パラメータ算出部1082は、これらの撮像位置の差を算出することにより、補正パラメータを算出する。画像補正部1083は、補正パラメータに基づいて第1の画像1700を補正することにより、仮想画像1703を生成する。画像補正部1083は、補正パラメータに基づいて第1の画像1701を補正することにより、仮想画像1703を生成してもよい。
第2の実施形態において、計測可否判定部111によって計測が可能であると判定された場合に仮想画像の生成および計測処理が行われる。このため、計測精度が向上する。また、スコープ110が完全に静止していない状態であっても計測装置11は計測処理を実行することができる。このため、計測装置11は、計測精度を保つことができ、かつ計測処理の実行頻度を高めることができる。
(第2の実施形態の第1の変形例)
図18は、第2の実施形態の第1の変形例における撮像シーケンスを示す。図18において、撮像素子104が第1の画像を取得するための第1の撮像タイミングと、撮像素子104が第2の画像を取得するための第2の撮像タイミングとが示されている。図18における横方向は時間を示す。図17に示す撮像シーケンスでは、第2の画像の取得の前後に第1の画像が連続的に取得される。これに対して、図18に示す撮像シーケンスでは、第1の画像および第2の画像が交互に取得される。時間T7の間隔で第1の画像が取得され、かつ時間T7の間隔で第2の画像が取得される。第1の撮像タイミングと第2の撮像タイミングとの差はT8である。
画像位置ずれ算出部1080は、第2の撮像タイミングの直前に取得された第1の画像1800と、第2の撮像タイミングの直後に取得された第1の画像1801とに基づいて、位置ずれ量を算出する。位置推定部1081は、第1の画像1800が取得された第1の撮像タイミングにおける第1の画像の撮像位置と、第2の画像1802が取得された第2の撮像タイミングにおける第1の画像の撮像位置とを算出する。補正パラメータ算出部1082は、これらの撮像位置の差を算出することにより、補正パラメータを算出する。画像補正部1083は、補正パラメータに基づいて第1の画像1800を補正することにより、仮想画像1803を生成する。画像補正部1083は、補正パラメータに基づいて第1の画像1801を補正することにより、仮想画像1803を生成してもよい。
第2の実施形態の第1の変形例においても、計測装置11は所望の精度で計測を行うことができる。
(第2の実施形態の第2の変形例)
図19は、第2の実施形態の第2の変形例における撮像シーケンスを示す。図19において、撮像素子104が第1の画像を取得するための第1の撮像タイミングと、撮像素子104が第2の画像を取得するための第2の撮像タイミングとが示されている。図19における横方向は時間を示す。図17に示す撮像シーケンスでは、第2の画像の取得の前後に第1の画像が連続的に取得される。これに対して、図19に示す撮像シーケンスでは、第1の画像が連続的に取得された後、1枚の第2の画像が取得される。第2の画像が取得された後、第1の画像は取得されない。時間T9の間隔で第1の画像が取得される。第1の撮像タイミングと第2の撮像タイミングとの差はT10である。
画像位置ずれ算出部1080は、第2の撮像タイミングの直前に取得された第1の画像1900と、その直前に取得された第1の画像1901とに基づいて、位置ずれ量を算出する。位置推定部1081は、第1の画像1900が取得された第1の撮像タイミングにおける第1の画像の撮像位置と、第2の画像1902が取得された第2の撮像タイミングにおける第1の画像の撮像位置とを算出する。補正パラメータ算出部1082は、これらの撮像位置の差を算出することにより、補正パラメータを算出する。画像補正部1083は、補正パラメータに基づいて第1の画像1900を補正することにより、仮想画像1903を生成する。画像補正部1083は、補正パラメータに基づいて第1の画像1901を補正することにより、仮想画像1903を生成してもよい。
図17に示す撮像シーケンスでは、第2の撮像タイミングの前後の第1の撮像タイミングで取得された2枚の第1の画像から位置ずれ量が算出され、かつその位置ずれ量に基づいて、第2の撮像タイミングにおける第1の画像の仮想的な撮像位置が算出される。第1の画像の仮想的な撮像位置は、第2の撮像タイミングの前後の第1の撮像タイミングにおける撮像位置の内挿により算出される。図19に示す撮像シーケンスでは、第2の撮像タイミングの前の第1の撮像タイミングで取得された2枚の第1の画像から位置ずれ量が算出され、かつその位置ずれ量に基づいて、第2の撮像タイミングにおける第1の画像の仮想的な撮像位置が算出される。第1の画像の仮想的な撮像位置は、第2の撮像タイミングの前の第1の撮像タイミングにおける撮像位置の外挿により算出される。
第2の実施形態の第2の変形例においても、計測装置11は所望の精度で計測を行うことができる。
以上、本発明の好ましい実施形態を説明したが、本発明はこれら実施形態およびその変形例に限定されることはない。本発明の趣旨を逸脱しない範囲で、構成の付加、省略、置換、およびその他の変更が可能である。また、本発明は前述した説明によって限定されることはなく、添付のクレームの範囲によってのみ限定される。
10,11 計測装置
100 第1の対物光学系
101 第2の対物光学系
102 光路切替部
103 結像光学系
104 撮像素子
105 コントローラ
106 制御部
107 フレームメモリ
108,108a 仮想画像生成部
109 計測処理部
110 スコープ
111 計測可否判定部
1080 画像位置ずれ算出部
1081 位置推定部
1082 補正パラメータ算出部
1083 画像補正部
1084 読み出し位置算出部
1085 読み出し制御部

Claims (9)

  1. 第1の対物光学系と、
    前記第1の対物光学系に対して視差を有するように配置された第2の対物光学系と、
    前記第1の対物光学系を介して第1の被写体像を第1の撮像タイミングで撮像し、前記第2の対物光学系を介して第2の被写体像を前記第1の撮像タイミングと異なる第2の撮像タイミングで撮像し、前記第1の被写体像に基づく第1の画像を生成し、かつ前記第2の被写体像に基づく第2の画像を生成する撮像部と、
    前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像したと仮定した場合に得られる、前記第1の被写体像に基づく仮想画像を生成する仮想画像生成部と、
    前記第2の画像および前記仮想画像に基づいて被写体の形状を計測する計測処理部と、
    を有することを特徴とする計測装置。
  2. 前記撮像部は、互いに異なる複数の前記第1の撮像タイミングで前記第1の被写体像を撮像し、かつ複数の前記第1の画像を生成し、
    前記仮想画像生成部は、前記複数の前記第1の画像間の位置ずれ量を算出する画像位置ずれ算出部を有し、かつ算出された前記位置ずれ量に基づいて前記仮想画像を生成する
    ことを特徴とする請求項1に記載の計測装置。
  3. 前記仮想画像生成部はさらに、
    算出された前記位置ずれ量に基づいて、前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像するときの撮像位置を推定する位置推定部と、
    推定された前記撮像位置に基づいて、補正対象である前記第1の画像に対する補正パラメータを算出する補正パラメータ算出部と、
    算出された前記補正パラメータを用いて前記補正対象である前記第1の画像を補正することにより前記仮想画像を生成する画像補正部と、
    を有することを特徴とする請求項2に記載の計測装置。
  4. 前記位置ずれ量の算出対象である前記第1の画像は、前記複数の前記第1の画像の全部または一部である
    ことを特徴とする請求項2に記載の計測装置。
  5. 前記位置ずれ量の算出対象である前記第1の画像は、前記第2の撮像タイミングの直前の前記第1の撮像タイミングで撮像された前記第1の被写体像に基づく前記第1の画像と、前記第2の撮像タイミングの直後の前記第1の撮像タイミングで撮像された前記第1の被写体像に基づく前記第1の画像との少なくとも一方を含む
    ことを特徴とする請求項4に記載の計測装置。
  6. 前記第1の画像を記憶するメモリをさらに有し、
    前記仮想画像生成部はさらに、
    算出された前記位置ずれ量に基づいて、前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像するときの撮像位置を推定する位置推定部と、
    推定された前記撮像位置に基づいて、読み出し対象である前記第1の画像を前記メモリから読み出すときの読み出し位置を算出する読み出し位置算出部と、
    算出された前記読み出し位置に基づいて、前記読み出し対象である前記第1の画像を前記仮想画像として前記メモリから読み出す制御を行う読み出し制御部と、
    を有することを特徴とする請求項2に記載の計測装置。
  7. 前記仮想画像が生成される前に、前記位置ずれ量に基づいて、計測が可能であるか否かを判定する計測可否判定部をさらに有し、
    前記計測可否判定部によって前記計測が可能であると判定された場合に、前記仮想画像生成部は前記仮想画像を生成する
    ことを特徴とする請求項2に記載の計測装置。
  8. 前記計測可否判定部は、前記位置ずれ量に基づく前記撮像部の並進移動量と、前記位置ずれ量に基づく前記撮像部の移動の直進性を示す値と、前記位置ずれ量の変化量との少なくとも1つに基づいて、前記計測が可能であるか否かを判定する
    ことを特徴とする請求項7に記載の計測装置。
  9. 第1の対物光学系と、
    前記第1の対物光学系に対して視差を有するように配置された第2の対物光学系と、
    撮像部と、
    を有する計測装置の作動方法であって、
    前記撮像部によって、前記第1の対物光学系を介して第1の被写体像を第1の撮像タイミングで撮像し、かつ前記第1の被写体像に基づく第1の画像を生成する第1のステップと、
    前記撮像部によって、前記第2の対物光学系を介して第2の被写体像を前記第1の撮像タイミングと異なる第2の撮像タイミングで撮像し、かつ前記第2の被写体像に基づく第2の画像を生成する第2のステップと、
    前記撮像部が前記第1の被写体像を前記第2の撮像タイミングで撮像したと仮定した場合に得られる、前記第1の被写体像に基づく仮想画像を生成する第3のステップと、
    前記第2の画像および前記仮想画像に基づいて被写体の形状を計測する第4のステップと、
    を有することを特徴とする計測装置の作動方法。
JP2017002461A 2017-01-11 2017-01-11 計測装置および計測装置の作動方法 Active JP6717759B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017002461A JP6717759B2 (ja) 2017-01-11 2017-01-11 計測装置および計測装置の作動方法
US15/860,721 US10573015B2 (en) 2017-01-11 2018-01-03 Measuring device and operating method of measuring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017002461A JP6717759B2 (ja) 2017-01-11 2017-01-11 計測装置および計測装置の作動方法

Publications (2)

Publication Number Publication Date
JP2018112447A JP2018112447A (ja) 2018-07-19
JP6717759B2 true JP6717759B2 (ja) 2020-07-01

Family

ID=62783238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017002461A Active JP6717759B2 (ja) 2017-01-11 2017-01-11 計測装置および計測装置の作動方法

Country Status (2)

Country Link
US (1) US10573015B2 (ja)
JP (1) JP6717759B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6806633B2 (ja) * 2017-06-14 2021-01-06 オリンパス株式会社 計測装置および計測装置の作動方法
JP7176855B2 (ja) * 2018-04-23 2022-11-22 株式会社エビデント 内視鏡装置、内視鏡装置の作動方法、プログラム、および記録媒体

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004049638A (ja) 2002-07-22 2004-02-19 Olympus Corp 内視鏡装置
JP4750175B2 (ja) 2008-11-28 2011-08-17 オリンパスメディカルシステムズ株式会社 ステレオ光学系、並びにそれを用いたステレオ計測用光学装置、ステレオ計測装置及びステレオ観察装置
CN102760234B (zh) * 2011-04-14 2014-08-20 财团法人工业技术研究院 深度图像采集装置、系统及其方法
JP5744614B2 (ja) 2011-04-28 2015-07-08 オリンパス株式会社 画像処理装置、画像処理方法、および、画像処理プログラム
JP6023865B2 (ja) 2015-10-13 2016-11-09 オリンパス株式会社 内視鏡装置、内視鏡装置の制御方法、およびプログラム

Also Published As

Publication number Publication date
US10573015B2 (en) 2020-02-25
JP2018112447A (ja) 2018-07-19
US20180197306A1 (en) 2018-07-12

Similar Documents

Publication Publication Date Title
CN102782721B (zh) 用于相机校准误差的运行时测定的系统和方法
KR102345886B1 (ko) 알려진 이동 중에 이동하는 물체의 3차원 측정을 위한 방법
JP4809291B2 (ja) 計測装置及びプログラム
JP6363863B2 (ja) 情報処理装置および情報処理方法
JP5911934B2 (ja) 輪郭線計測装置およびロボットシステム
JP5029618B2 (ja) パターン投影法による3次元形状計測装置、方法およびプログラム
US9074879B2 (en) Information processing apparatus and information processing method
US20130010070A1 (en) Information processing apparatus and information processing method
JP6170281B2 (ja) 三次元計測装置、三次元計測装置の制御方法、およびプログラム
JP4055998B2 (ja) 距離検出装置、距離検出方法、及び距離検出プログラム
US9945661B2 (en) Method for measuring height, non-transitory computer readable medium storing a program for measuring height, and height measuring apparatus
WO2017199696A1 (ja) 画像処理装置及び画像処理方法
US20190392607A1 (en) Image processing apparatus, system, image processing method, article manufacturing method, and non-transitory computer-readable storage medium
US11295478B2 (en) Stereo camera calibration method and image processing device for stereo camera
JP6717759B2 (ja) 計測装置および計測装置の作動方法
US20190068956A1 (en) Measurement apparatus and operation method of measurement apparatus
US20130342659A1 (en) Three-dimensional position/attitude recognition apparatus, three-dimensional position/attitude recognition method, and three-dimensional position/attitude recognition program
JP2012147281A (ja) 画像処理装置
JP6634842B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP2022152480A (ja) 3次元計測装置、3次元計測方法、プログラム、システム、及び物品の製造方法
JP2008298589A (ja) 位置検出装置及び位置検出方法
JP6806633B2 (ja) 計測装置および計測装置の作動方法
JP7191632B2 (ja) 偏心量測定方法
JP5098714B2 (ja) 測距装置および撮像装置
JP6570321B2 (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170112

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200611

R151 Written notification of patent or utility model registration

Ref document number: 6717759

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250