JP2017038933A - ステレオ計測用画像取得装置及びステレオ計測用画像取得装置の作動方法 - Google Patents

ステレオ計測用画像取得装置及びステレオ計測用画像取得装置の作動方法 Download PDF

Info

Publication number
JP2017038933A
JP2017038933A JP2016163327A JP2016163327A JP2017038933A JP 2017038933 A JP2017038933 A JP 2017038933A JP 2016163327 A JP2016163327 A JP 2016163327A JP 2016163327 A JP2016163327 A JP 2016163327A JP 2017038933 A JP2017038933 A JP 2017038933A
Authority
JP
Japan
Prior art keywords
image
optical
imaging signal
image acquisition
stereo
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016163327A
Other languages
English (en)
Inventor
山本 直樹
Naoki Yamamoto
直樹 山本
小川 清富
Kiyotomi Ogawa
清富 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2016163327A priority Critical patent/JP2017038933A/ja
Publication of JP2017038933A publication Critical patent/JP2017038933A/ja
Pending legal-status Critical Current

Links

Abstract

【課題】挿入部の径をより細径化することができる。【解決手段】対物光学系71と像伝送光学系211とは、第1の視点である主視点からの光学像と、第2の視点である副視点からの光学像とを共通の焦点面に結像する。メカニカルシャッター72は、副視点の光路を開閉する。撮像素子2aは、焦点面に結像された光学像を撮像して撮像信号を出力する。CPUは、メカニカルシャッター72を閉じた上で、その際に撮像素子2aが出力した撮像信号から主視点画像を生成し、メカニカルシャッター72の一つを開いた上で、その際に撮像素子2aが出力した撮像信号からステレオ重畳画像を生成する。【選択図】図4

Description

本発明は、ステレオ計測用画像取得装置及びその作動方法に関する。
従来より、2つの視点の像を2つの撮像素子で撮影するステレオカメラと、2つの視点の像を1つの撮像素子で撮影するステレオカメラが知られている。また、後者のステレオカメラとして、2つの像を並べて撮影する同時式と、2つの像を時分割で切り替えて撮影する光路切り替え式のものが知られている。また、光路の切り替え機構としてメカニカルシャッターを用いるものと、液晶シャッターやPLZT(チタン酸ジルコン酸ランタン鉛)電気光学シャッターなどの電気光学素子を用いるものとが知られている。
ステレオカメラの計測精度を確保するためには、1つの視点の画像を構成する画素数がなるべく多いことが望ましい。しかし、画素数の多い撮像素子は高価である。そのため、コストの制限と計測精度とが求められる場合には、2つの撮像素子よりも1つの撮像素子が望ましく、また1つの視点の画像を構成する画素が少ない同時式よりも光路切り替え式のステレオカメラの方が望ましい。
光路切り替え機構としてメカニカルシャッターを用いる場合、ステレオカメラは、光路を開閉するために動作するシャッターとそれを動かすアクチュエーターとを備える(例えば、特許文献1参照)。
また、光路切り替え機構として液晶や偏光性セラミックPLZTなどの電気光学素子を用いる場合、偏光板と電気光学素子の組み合わせとなる(例えば、特許文献1および特許文献2参照)。この構成では偏光板をシャッターとして用いるため可動部品がなく、先端部の衝撃耐性はメカニカルシャッター方式に比べて高くなる。
特開2011−227132号公報 特開2003−310549号公報
しかしながら、従来知られている電気光学素子を用いた光路切り替え機構では、2つの視点両方の光路中に偏光板が存在するため、シャッターが開いた状態でも多くの入射光量ロスが発生する。特に、内視鏡は、細径化が求められるため照明光量をあまり増やせない上に、被写界深度確保のために光学系のF値を小さくできない。そのため撮影のための明るさを確保するためには、シャッタースピードを伸ばすか、撮像系でのゲインを上げる必要がある。しかし、この2つの手段はどちらも画質を低下させてしまう可能性があるという問題がある。そのため、画質の低下が計測精度の低下につながりやすい画像計測であるステレオ計測を行うシステムには積極的には採用しにくい。
また、光路切り替え機構としてメカニカルシャッターを用いる場合、ステレオカメラは、光路を開閉する遮光部とそれを動かすアクチュエーターとを備える(例えば、特許文献1参照)。この構成では光路中に偏光版は存在しないため、入射光量ロスの問題は発生しない。しかしながら、その光路の間隔分だけ遮光部を移動させるためのアクチュエーターの動作スペースが必要となり、内視鏡の細径化において課題があった。
本発明は上記課題を解決するためになされたものであり、挿入部の径をより細径化することができるステレオ計測用画像取得装置を提供することを目的とする。
本発明は、第1の視点である主視点からの光学像と、主視点とは別の視点である一つまたは複数の副視点からの光学像とを共通の焦点面に結像する光学系と、一つまたは複数の前記副視点それぞれの光路を開閉する一つまたは複数の光学シャッターと、前記焦点面に結像された前記光学像を撮像して撮像信号を出力する撮像素子と、一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像素子が出力した前記撮像信号から画像を生成し主視点画像とする主視点画像取得処理部と、一つまたは複数の前記光学シャッターの一つを開いた上で、その際に前記撮像素子が出力した前記撮像信号から一つまたは複数の画像を生成しステレオ重畳画像とする重畳画像取得処理部と、を備えることを特徴とするステレオ計測用画像取得装置である。
また、本発明は、複数の視点からの前記光学像が前記焦点面に結像している場合と、一つの視点からの前記光学像のみが前記焦点面に結像している場合とで、前記撮像信号取得のための露光条件設定を切り替える設定部を備えることを特徴とするステレオ計測用画像取得装置である。
また、本発明のステレオ計測用画像取得装置において、前記撮像素子は、表示用に用いる前記撮像信号と、計測用に用いる前記撮像信号とをそれぞれ出力し、前記表示用に用いる前記撮像信号を出力する場合と、前記計測用に用いる前記撮像信号を出力する場合とで、前記撮像信号取得のための露光条件設定を切り替える設定部を備えることを特徴とする。
また、本発明は、前記主視点画像取得処理部が生成した前記主視点画像を表示する映像表示部を備えることを特徴とするステレオ計測用画像取得装置である。
また、本発明のステレオ計測用画像取得装置において、前記映像表示部は、前記光学シャッターが開閉を切り替えている際には当該切り替え中に前記撮像素子が出力した前記撮像信号に基づいた画像を表示しないことを特徴とする。
また、本発明は、光学系を取り替えることが出来るアダプタ式光学系を有することを特徴とするステレオ計測用画像取得装置である。
また、本発明のステレオ計測用画像取得装置において、前記光学系は、第1の視点からの第1の光学像を前記焦点面に結像する第1の光路と、第2の視点からの第2の光学像を前記焦点面に結像する第2の光路とを備え、前記光学シャッターは、前記第1の光路と前記第2の光路とに対応して配置された2つの開口部を有する絞り部材と、2つの前記開口部のうち一方の前記開口部を遮蔽可能な遮蔽部材とを備え、前記遮蔽部材は、前記開口部を塞がない位置に退避可能であることを特徴とする。
また、本発明のステレオ計測用画像取得装置において、前記光学シャッターはMEMSからなることを特徴とする。
また、本発明のステレオ計測用画像取得装置において、前記光学シャッターは電気光学シャッターであることを特徴とする。
また、本発明のステレオ計測用画像取得装置において、前記電気光学シャッターは液晶シャッターであることを特徴とする。
また、本発明は、前記主視点画像もしくは前記ステレオ重畳画像のいずれかに基づいてぶれを検出するぶれ検出部を有することを特徴とするステレオ計測用画像取得装置である。
また、本発明のステレオ計測用画像取得装置において、前記主視点画像取得処理部は、前記重畳画像取得処理部が前記ステレオ重畳画像を取得する前に、一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像素子が出力した前記撮像信号から第1の主視点画像を生成し、前記重畳画像取得処理部が前記ステレオ重畳画像を取得した後に、一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像素子が出力した前記撮像信号から第2の主視点画像を生成するものであって、前記ぶれ検出部は、前記第1の主視点画像及び前記第2の主視点画像に基づいてぶれを検出することを特徴とする。
また、本発明は、前記主視点画像と、一つまたは複数の前記ステレオ重畳画像とを用いて三角測量の原理で被写体の3次元座標を算出するステレオ計測処理部を有することを特徴とする請求項1に記載のステレオ計測用画像取得装置である。
また、本発明は、第1の視点である主視点からの光学像と、主視点とは別の視点である一つまたは複数の副視点からの光学像とを共通の焦点面に結像する光学系を有するステレオ計測用画像取得装置の作動方法であって、一つまたは複数の前記副視点それぞれの光路を開閉する一つまたは複数の光学シャッターを駆動する駆動ステップと、前記焦点面に結像された前記光学像を撮像して撮像信号を出力する撮像ステップと、一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像ステップで出力した前記撮像信号から画像を生成し主視点画像とする主視点画像取得処理ステップと、一つまたは複数の前記光学シャッターの一つを開いた上で、その際に前記撮像ステップで出力した前記撮像信号から一つまたは複数の画像を生成しステレオ重畳画像とする重畳画像取得処理ステップと、を含むことを特徴とするステレオ計測用画像取得装置の作動方法である。
本発明によれば、光学系は、複数の視点からの光学像を共通の焦点面に結像する。また、光学シャッターは、複数の視点からの光学像のうち少なくとも一つの光学像を焦点面に結像する光路を開閉する。また、撮像素子は、焦点面に結像された光学像に基づいた撮像信号を出力する。この構成により、すべての光路に光学シャッターを備える必要がなくなるため、挿入部の外径をより細経化することができる。
本発明の第1の実施形態における内視鏡装置の全体構成を示した概略図である。 本発明の第1の実施形態における内視鏡装置の全体構成を示したブロック図である。 本発明の第1の実施形態における内視鏡装置が取得する三次元空間座標系上の左右の2画像の位置関係を示した概略図である。 本発明の第1の実施形態における先端部と光学アダプタとの構成を示した概略図である。 本発明の第1の実施形態におけるメカニカルシャッターが備える遮蔽部材の動作位置を示した概略図である。 従来知られているメカニカルシャッターが備える遮蔽部材の動作位置を示した概略図である。 本発明の第1の実施形態における内視鏡装置が各撮像信号を取得する処理手順を示したフローチャートである。 本発明の第1実施形態において、画素値の飽和が起きている場合における重畳撮像信号と、基準撮像信号と、分離撮像信号との関係を示したグラフである。 本発明の第1の実施形態における第1基準撮像信号に基づいた画像を示した概略図である。 本発明の第1の実施形態における第2基準撮像信号に基づいた画像を示した概略図である。 本発明の第1の実施形態における重畳撮像信号に基づいた画像を示した概略図である。 本発明の第1の実施形態における分離撮像信号に基づいた画像を示した概略図である。 本発明の第2の実施形態における先端部と光学アダプタとの構成を示した概略図である。 本発明の第3の実施形態における先端部と光学アダプタとの構成を示した概略図である。 本発明の第3の実施形態における内視鏡装置が各撮像信号を取得する処理手順を示したフローチャートである。 本発明の第4の実施形態における先端部と光学アダプタとの構成を示した概略図である。
(第1の実施形態)
以下、本発明の第1の実施形態について図面を参照して説明する。図1は、本発明の一実施形態による内視鏡装置(ステレオ計測用画像取得装置)の全体構成を示している。図1に示すように、内視鏡装置1は、細長な挿入部20を有する内視鏡2と、この内視鏡2の挿入部20を収納する収納部を備えた制御装置であるコントロールユニット3と、装置全体の各種動作制御を実行する際に必要な操作を行うためのリモートコントローラ4と、内視鏡画像や操作制御内容(例えば処理メニュー)等の表示を行う表示装置であるLCD5(液晶モニタ、映像表示部)等で主に構成されている。
挿入部20は硬質な先端部21と、柔軟性を有する可撓管部と(例えば上下左右に湾曲可能な湾曲部22(図2))を連設して構成されている。先端部21には光学アダプタ7(アダプタ式光学系)等、各種光学アダプタが着脱自在になっている。
図2に示すように、コントロールユニット3内には、内視鏡ユニット8、CCU9(カメラコントロールユニット)、および制御ユニット10が設けられており、挿入部20の基端部は内視鏡ユニット8に接続されている。内視鏡ユニット8は、観察時に必要な照明光を供給する光源装置(不図示)と、挿入部20を構成する湾曲部22を湾曲させる湾曲装置(不図示)とを備えて構成されている。
挿入部20の先端部21には撮像素子2aが内蔵されている。撮像素子2aは、光学アダプタ7を介して結像された被写体像を光電変換し、撮像信号を生成する。CCU9には、撮像素子2aから出力された撮像信号が入力される。この撮像信号は、CCU9内で例えばNTSC信号等の映像信号(画像データ)に変換されて、制御ユニット10へ供給される。
制御ユニット10内には、映像信号が入力される映像信号処理回路12(画像生成部)、ROM13、RAM14(記憶部)、PCカードI/F15(PCカードインターフェイス)、USB I/F16(USBインターフェイス)、およびRS−232C I/F17(RS−232Cインターフェイス)等と、これら各種機能を主要プログラムに基づいて実行し動作制御を行うCPU18(主視点画像取得処理部、重畳画像取得処理部、副視点画像分離処理部、ステレオ計測処理部、設定部、波長検出部、撮像制御部)とが設けられている。
RS−232C I/F17には、CCU9および内視鏡ユニット8が接続されると共に、これらCCU9や内視鏡ユニット8等の制御および動作指示を行うリモートコントローラ4が接続されている。ユーザがリモートコントローラ4を操作すると、その操作内容に基づいて、CCU9および内視鏡ユニット8を動作制御する際に必要な通信が行われる。
USB I/F16は、コントロールユニット3とパーソナルコンピュータ31とを電気的に接続するためのインターフェイスである。このUSB I/F16を介してコントロールユニット3とパーソナルコンピュータ31とを接続することによって、パーソナルコンピュータ31側で内視鏡画像の表示指示や、計測時における画像処理等の各種の指示制御を行うことが可能になると共に、コントロールユニット3とパーソナルコンピュータ31との間での各種の処理に必要な制御情報やデータ等の入出力を行うことが可能になる。
また、PCカードI/F15には、PCMCIAメモリカード32やフラッシュメモリカード33等の記録媒体である、いわゆるメモリカードが自由に着脱されるようになっている。メモリカードをPCカードI/F15に装着することにより、CPU18による制御によって、このメモリカードに記憶されている制御処理情報や画像情報等のデータのコントロールユニット3への取り込み、あるいは制御処理情報や画像情報等のデータのメモリカードへの記録を行うことが可能になる。
映像信号処理回路12は、CCU9から供給された内視鏡画像と、グラフィックによる操作メニューとを合成した合成画像を表示するため、CPU18の制御により生成される、操作メニューに基づく表示信号とCCU9からの映像信号を合成する処理や、LCD5の画面上に表示するのに必要な処理等を行い、映像信号をLCD5に供給する。また、この映像信号処理回路12は、単に内視鏡画像、あるいは操作メニュー等の画像を単独で表示するための処理を行うことも可能である。したがって、LCD5の画面上には、内視鏡画像、操作メニュー画像、内視鏡画像と操作メニュー画像との合成画像等が表示される。
CPU18は、ROM13に格納されているプログラムを実行することによって、目的に応じた処理を行うように各種回路部等を制御して、システム全体の動作制御を行う。RAM14は、CPU18によって、データの一時格納用の作業領域として使用される。
本実施形態の内視鏡装置1では、次の(a1)〜(d)に示すように、各内視鏡2に特有の撮像光学系の光学データが測定され、その光学データが、記録媒体である例えばメモリカード(PCMCIAメモリカード32やフラッシュメモリカード33等)に記録される。この光学データは以下の通りである。
(a1)2つの対物光学系の幾何学的歪み補正テーブル
(a2)像伝送光学系の幾何学歪み補正テーブル
(b)左右の結像光学系それぞれの焦点距離
(c)左右の結像光学系の主点間の距離
(d)左右の結像光学系それぞれの画像上での光軸位置座標
上記の光学データの収集を行った後、内視鏡装置1が備えるCPU18はステレオ計測処理部として動作し、次に示す(A)〜(E)の処理を行って各種寸法計測(計測処理)を行うことができる。なお、内視鏡装置1にパーソナルコンピュータ31を接続して、次に示す(A)〜(E)の処理を行って各種寸法計測(計測処理)を行うことも可能である。
(A)上記(a1)〜(d)の光学データを読み込む。
(B)本内視鏡2にて被写体である被計測物を撮像し、画像を取り込む。
(C)上記の取り込んだ画像を、上記(a1)〜(d)の光学データを基に座標変換する。
(D)座標変換された画像を基に、撮像データのマッチングにより任意の点の三次元座標を求める。
(E)上記三次元座標を基に各種三次元計測を行う。
次に、本実施形態の内視鏡装置1による被写体計測の原理を説明する。図3は、x,y,z軸をもつ三次元空間座標系上の左右の2画像の位置関係を示している。この図3には、被写体までの距離(被写体距離)の計測対象となる測距点Pが撮像素子の右結像面101Rおよび左結像面101L上に結像した状態が示されている。図3において、点OR,OLを光学系の主点とし、距離fを焦点距離とし、点QR,QLを点Pの結像位置とし、距離Lを点OR−点OL間の距離とする。
図3において、直線QR−ORから次式が成立する。
x/xR={y−(L/2)}/{yR−(L/2)}=z/(−f)・・・(1)
また、直線QL−OLから次式が成立する。
x/xL={y+(L/2)}/{yL+(L/2)}=z/(−f)・・・(2)
この式をx,y,zについて解けば、点Pの三次元座標が得られる。これにより、内視鏡2の撮像面から被写体までの距離(被写体距離)が求まる。
ここで、光学系の主点である点ORと点OL間の距離、および結像光学系の焦点距離は、光学データとして予め記録されている。点QLの座標は測距点の座標そのものである。点QRは、測距点に対応する点を右画像の中から探索することで得ることができる。このことから、例えば、左画像を基準とした場合には、左画像での測距点(QL)に対応する右画像の対応点(QR)をマッチング処理により探索し、右画像の対応点が探索されたら、上式により空間座標を計算することで、測距点までの距離を求めることができる。
次に、先端部21と光学アダプタ7との構成について説明する。図4は、本実施形態における先端部21と光学アダプタ7との構成を示した概略図である。図示する例では、先端部21には撮像素子2aと像伝送光学系211とが内蔵されている。また、先端部21には光学アダプタ7が取り付けられている。光学アダプタ7には対物光学系71と、メカニカルシャッター72(光学シャッター)と、絞り部材700とが内蔵されている。
絞り部材700は2つの開口部711,712を有する。対物光学系71は、第1の視点からの光学像と、第2の視点からの光学像とを像伝送光学系211に入射する。なお、第1の視点からの光学像は開口部711を通り、第2の視点からの光学像は開口部712を通る。像伝送光学系211は、入射された第1の視点からの光学像と第2の視点からの光学像とを撮像素子2aの焦点面(撮像面)に結像する。なお、対物光学系71と像伝送光学系211とを合わせて光学系とする。また、第1の視点からの光学像を撮像素子2aの焦点面に結像する光路を第1の光路とする。また、第2の視点からの光学像を撮像素子2aの焦点面に結像する光路を第2の光路とする。
メカニカルシャッター72は、光を遮断する遮蔽部材を備える。メカニカルシャッター72が備える遮蔽部材は、第1の光路を遮蔽する位置7211と、第1の光路を遮蔽しない位置7212とに移動可能である。
図5は、本実施形態におけるメカニカルシャッター72が備える遮蔽部材の動作位置を示した概略図である。図示する例では、光学アダプタ7は、開口部711,712を有する絞り部材700を備えている。また、光学アダプタ7は、軸713とレバー714とを備え、遮蔽部材721を位置7211と位置7212とに移動させることが可能な構成となっている。
図6は、従来知られているメカニカルシャッターが備える遮蔽部材の動作位置を示した概略図である。図示する例では、光学アダプタ1107は、開口部1711,1712を有する絞り部材7000を備えている。また、光学アダプタ1107は、軸1713とレバー1714とを備え、遮蔽部材1721を開口部1711と開口部1712とに移動させることが可能な構成となっている。
本実施形態では、遮蔽部材721は、第1の光路を遮蔽する位置7211と、第1の光路を遮蔽しない位置7212とに移動可能であれば良い。一方、従来知られている方法では、遮蔽部材1721は、第1の光路を遮蔽する位置(開口部1711)と、第2の光路を遮蔽する位置(開口部1712)とに移動可能でなければならない。そのため、本実施形態では、従来よりも遮蔽部材721の移動距離が短いため、レバー714の長さを短くすることができる、従って、光学アダプタ7の外径を細くすることができる。
なお、メカニカルシャッター72の構成は上述した例に限らず、第1の光路の遮蔽/非遮蔽を切り替えることができればどのような構成でもよい。例えば、絞り部材700有する2つの開口部711,712のうち、1つの開口部を遮蔽可能なように構成されたMEMS(Micro Electro Mechanical Systems;機械要素部品と、センサと、アクチュエーターと、電子回路とを1つのシリコン基板やガラス基板や有機材料などの上に集積化したデバイス)で構成してもよい。
次に、内視鏡装置1が、第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号とを取得する方法について説明する。図7は、本実施形態における内視鏡装置1が第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号とを取得する処理手順を示したフローチャートである。なお、通常観察時には、メカニカルシャッター72を閉じて第1の光路を遮蔽し、1つの視点からの像(第2の視点からの光学像)だけが撮像素子2aの焦点面に結像した状態とする。これにより、撮像素子2aは、第2の視点からの光学像に基づいた撮像信号を出力することができる。このときの撮像信号を基準撮像信号とする。また、映像信号処理回路12は、基準撮像信号に基づいて、LCD5にライブビュー画像を表示させる。
(ステップS101)ユーザの操作などに基づいて、計測用画像取得処理のフローに入ると、CPU18(設定部)は、撮像素子2aが出力する撮像信号の画像の明るさに基づいて、露光条件Aと露光条件Bとを決定する。その後、ステップS102の処理に進む。なお、露光条件Aは、基準撮像信号の取得に適正な露光条件である。また、露光条件Bは、重畳撮像信号の取得に適正な露光条件とする。このように露光条件を2種類設定する理由としては、露光条件Aで重畳撮像信号を取得した場合、明るいシーンでは露出オーバー的な画像になり、高輝度領域で輝度値が飽和して濃淡が失われることを避けるためのものである。ここで、露光条件とは、例えばシャッタースピード、ゲイン、絞りの開口サイズ(絞り値)、または照明の明るさの設定を含む。
(ステップS102)CPU18は、露光条件を露光条件Aに設定する。その後、ステップS103の処理に進む。
(ステップS103)映像信号処理回路12は、撮像素子2aが出力する映像信号に基づいて、LCD5に静止画像を表示させる(表示を固定させる)。その後、ステップS104の処理に進む。なお、LCD5に静止画像を表示させるのは、光路切り替え中の画像をユーザに見せないためである。また、ここで、LCD5に表示させる画像は、計測用画像取得をユーザに表すメッセージ表示画像などでも良い。
(ステップS104)撮像素子2aは、基準撮像信号を出力する。その後、ステップS105の処理に進む。なお、この基準撮像信号を第1基準撮像信号とする。
(ステップS105)CPU18は、露光条件を露光条件Bに設定する。その後、ステップS106の処理に進む。
(ステップS106)メカニカルシャッター72は、第1の光路を遮蔽している遮蔽部材721を、第1の光路を遮蔽しない位置7212に移動させる。その後、ステップS107の処理に進む。
(ステップS107)撮像素子2aは、重畳撮像信号を出力する。その後、ステップS108の処理に進む。なお、重畳撮像信号は、第1の視点からの光学像と第2の視点からの光学像とが重畳されている撮像信号である。
(ステップS108)メカニカルシャッター72は、遮蔽部材721を、第1の光路を遮蔽する位置7211に移動させる。その後、ステップS109の処理に進む。
(ステップS109)撮像素子2aは、基準撮像信号を出力する。その後、ステップS110の処理に進む。なお、この基準撮像信号を第2基準撮像信号とする。
(ステップS110)CPU18(ぶれ検出部)は、第1基準撮像信号に基づいた画像と第2基準撮像信号に基づいた画像を比較し、異なっている場合にはカメラぶれ、あるいは被写体ぶれが有ると判定する。また、CPU18は、第1基準撮像信号に基づいた画像と第2基準撮像信号に基づいた画像を比較し、同一の場合にはカメラぶれ、あるいは被写体ぶれが無いと判定する。ぶれが有るとCPU18が判定した場合にはステップS112の処理に進み、ぶれが無いとCPU18が判定した場合にはステップS111の処理に進む。なお、カメラぶれ、あるいは被写体ぶれの検出方法はどのような方法でもよい。例えば、1フレームの画像の奇数フィールドと偶数フィールドの比較でぶれを検出してもよい。また、光学アダプタ7に加速度センサなどを組み込み、撮影中に光学アダプタ7が動いたことを加速度センサが検出した場合、ぶれが有ると判定するようにしてもよい。
(ステップS111)CPU18(主視点画像取得処理部、重畳画像取得処理部)は、第1基準撮像信号に基づいた画像と、第2基準撮像信号に基づいた画像と、重畳撮像信号に基づいた画像とをRAM14に記憶する。その後、映像信号処理回路12は、ユーザに取得した第1基準撮像信号に基づいた画像と第2基準撮像信号に基づいた画像とを確認させるために、第1基準撮像信号に基づいた画像をLCD5に表示させ、処理を終了する。
(ステップS112)CPU18は、第1基準撮像信号に基づいた画像と、第2基準撮像信号に基づいた画像と、重畳撮像信号に基づいた画像とを破棄する。その後、映像信号処理回路12は、測定に用いる画像信号を取得出来ていないことを示す画像(エラー画像)をLCD5に表示させ、処理を終了する。
なお、ステップS111の処理でLCD5に表示する画像は、第2基準撮像信号に基づいた画像であってもよい。また、重畳撮像信号に基づいた画像から第1基準撮像信号に基づいた画像を減算し、メカニカルシャッター72が構成されている光路(第1の光路)からの像を分離した画像であってもよい。また、重畳撮像信号に基づいた画像から第2基準撮像信号に基づいた画像を減算し、メカニカルシャッター72が構成されている光路(第1の光路)からの像を分離した画像であってもよい。また、ここでは、必ずしも計測に用いる基準撮像信号に基づいた画像を表示する必要はなく、ユーザがどのような被写体を撮影したかを確認するのに適した画像であればよい。また、単純に差分をとって分離した画像は輝度が暗い画像になりやすいため、画像の輝度を持ち上げるような画像処理を施したものを表示してもよい。
なお、重畳撮像信号に基づいた画像から第1基準撮像信号に基づいた画像を減算して画像を生成する場合には、露光条件が異なるので露光条件の違いを補正して撮像信号を生成する必要がある。露光条件の補正は、照明の明るさ、ゲイン、シャッタースピード、及び絞り値から算出されるEV値を用いて、第1基準撮像信号と重畳撮像信号との実効的な被写体の明るさが等しくなるように補正を行う。例えば、照明の明るさ、ゲイン、及び絞り値は露光条件Aと露光条件Bとで等しく、シャッタースピードは露光条件Aが露光条件Bの2倍の長さであった場合、露光条件の補正をするために露光条件Bで取得した重畳撮像信号の輝度値を2倍にする補正を行う。
次に、重畳撮像信号に基づいた画像と、第1基準撮像信号に基づいた画像と、第2基準撮像信号に基づいた画像とから、計測に用いる分離画像を生成する方法について説明する。本実施形態では、CPU18(副視点画像分離処理部)は、(3)式を用いて、メカニカルシャッター72が構成されている光路(第1の光路)からの像のみを分離した分離画像を生成する。
(分離画像)=(重畳撮像信号に基づいた画像)−(第2基準撮像信号に基づいた画像)・・・(3)
これにより、CPU18は、第1の光路からの像のみを含んだ分離画像を生成することができる。また、第1基準撮像信号または第2基準撮像信号は、第2の光路からの像のみを含んだ計測用撮像信号である。従って、(3)式を用いて生成した分離画像と、第1基準撮像信号に基づいた画像または第2基準撮像信号に基づいた画像とを用いて、CPU18(ステレオ計測処理部)は各種寸法計測(計測処理)を行うことができる。なお、分離画像と第2基準撮像信号に基づいた画像と第1基準撮像信号に基づいた画像または第2基準撮像信号に基づいた画像とを合わせて計測用画像とする。
なお、(3)式を用いて分離画像を生成する場合に、重畳撮像信号に基づいた画像に画素値の飽和が起きている画素があると分離画像の輝度値を正しく計算することができない。図8は、本実施形態において、画素値の飽和が起きている場合における重畳撮像信号に基づいた画像と、基準撮像信号に基づいた画像と、分離画像との関係を示したグラフである。
図示する例では、線601は、画素値の飽和が起きている場合における重畳撮像信号に基づいた画像の輝度値を示している。なお、飽和していない場合には、波線604の状態となる。線602は、基準撮像信号に基づいた画像の輝度値を示している。線603は、分離画像の輝度値を示している。重畳撮像信号に基づいた画像は輝度値が飽和しているため、飽和している部分は一定値となっている。そのため、分離画像は、線603に示すように、重畳撮像信号に基づいた画像で飽和している部分に関しては、実際の輝度よりも小さい値となる。なお、実際の輝度は波線605の状態となる。
このように、重畳撮像信号に基づいた画像が飽和している場合には分離画像を正しく生成することが出来ない。このときの分離画像を用いて計測を行うと、計測結果に悪影響を及ぼす可能性がある。従って、本実施形態では、重畳画像の画素のうち、輝度値が飽和している画素に対しては、別の処理を行う。例えば、重畳画像の画素のうち、輝度値の飽和が起きている画素は、分離画像の画素および基準撮像信号に基づいた画像の画素共に画素値をR=G=B=255とする。また、例えば、重畳撮像信号に基づいた画像の画素のうち、輝度値が飽和している画素やその周辺の画素を用いては、計測を行うことが出来ないようにする。例えば、ユーザが計測点として指定した点とその近傍の点、または対応点やその近傍の点の座標が、重畳撮像信号に基づいた画像において、同じ座標の輝度値が飽和している場合には、ユーザにエラーメッセージを提示し、指定点の再指定や分離画像の再取得を促すようにする。その他、対応点探索時に、重畳画像信号に基づいた画像において輝度値の飽和が起きている画素を類似度計算に使用しないようにしても良い。
次に、同一被写体を撮影した際の第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号と、分離撮像信号とに基づいた画像の例について説明する。図9は、本実施形態における第1基準撮像信号に基づいた画像を示した概略図である。図示する例では、第1基準撮像信号に基づいた画像には、第2の視点からの光学像に基づいた立方体901が含まれている。図10は、本実施形態における第2基準撮像信号に基づいた画像を示した概略図である。図示する例では、第2基準撮像信号に基づいた画像には、第2の視点からの光学像に基づいた立方体902が含まれている。なお、図示する例は、ぶれが生じているため、立方体902と図9に示した立方体901とでは向きが異なっている。
図11は、本実施形態における重畳撮像信号に基づいた画像を示した概略図である。図示する例では、第1の視点からの光学像に基づいた立方体903と、第2の視点からの光学像に基づいた立方体904とが含まれている。図12は、本実施形態における分離撮像信号に基づいた画像を示した概略図である。図示する例では、第1の視点からの光学像に基づいた立方体905が含まれている。すなわち、図11に示した画像から図9に示した画像を減算すると、図12に示した画像を得ることができる。
次に、ステレオ計測処理の処理手順について説明する。CPU18(ステレオ計測処理部)は、計測用撮像信号として、計測用基準撮像信号と分離撮像信号とを用い、各種寸法計測(計測処理)を行う。本実施形態では、計測用基準撮像信号は、第1基準撮像信号または第2基準撮像信号である。具体的には、CPU18(ステレオ計測処理部)は、計測用基準撮像信号に基づいた画像と分離画像との光学歪補正を行う。続いて、CPU18(ステレオ計測処理部)は、ユーザによる指示に基づいて、計測用基準撮像信号に基づいた画像上における基準点を指定する。続いて、CPU18(ステレオ計測処理部)は、分離画像上での対応点を探索する。続いて、CPU18(ステレオ計測処理部)は、基準点の座標と対応点の座標からの三角測量の原理により3次元座標を算出する。なお、ステレオ計測処理は、パーソナルコンピュータ31で行うように構成してもよい。
このとき、ユーザは、計測用基準撮像信号に基づいた画像上で3次元位置を知りたい場所を指定するが、計測用基準撮像信号は、メカニカルシャッター72が閉じた状態で取得しているため、暗くなりやすい。そこで、計測用基準撮像信号に基づいた画像の輝度を明るくする画像処理をかけた指定点指定用表示画像を画面に表示させ、その画像上でユーザに指定点を指定させるようにするようにしてもよい。ここで、実際に計測に用いる撮像信号に基づいて指定点指定用表示画像を作成することで、基準点指定の誤差を減らすことができ、計測精度をより向上させることができる。
上述したとおり、本実施形態によれば、第1基準撮像信号または第2基準撮像信号と、重畳撮像信号とに基づいて、分離画像を生成する。そして、計測用基準撮像信号(第1基準撮像信号または第2基準撮像信号)に基づいた画像と分離画像とを用いて計測処理を行う。そのため、すべての光路にメカニカルシャッター72を備える必要がない。例えば、遮蔽部材721は、第1の光路を遮蔽する位置7211と、第1の光路を遮蔽しない位置7212とに移動可能であれば良い。これにより、従来よりも遮蔽部材721の移動距離が短いため、レバー714の長さを短くすることができる、従って、光学アダプタ7(挿入部20)の外径をより細経化することができる。
(第2の実施形態)
次に、本発明の第2の実施形態について図面を参照して説明する。本実施形態と第1の実施形態とで異なる点は、光学アダプタが備える光学シャッターの構成のみである。その他の内視鏡装置1の構成は、第1の実施形態における内視鏡装置1の構成と同様である。
図13は、本実施形態における先端部21と光学アダプタ27(アダプタ式光学系)との構成を示した概略図である。図示する例では、先端部21には撮像素子2aと像伝送光学系211とが内蔵されている。また、先端部21には光学アダプタ27が取り付けられている。光学アダプタ27には対物光学系71と、液晶シャッター272(光学シャッター、電気光学シャッター)と、温度センサ273と、絞り部材700とが内蔵されている。また、液晶シャッター272には電源線2721が接続されている。CPU18は、電源線2721を介して液晶シャッター272の開閉を制御する。
絞り部材700は2つの開口部711,712を有する。対物光学系71は、第1の視点からの光学像と、第2の視点からの光学像とを像伝送光学系211に入射する。なお、第1の視点からの光学像は開口部711を通り、第2の視点からの光学像は開口部712を通る。像伝送光学系211は、入射された第1の視点からの光学像と第2の視点からの光学像とを撮像素子2aの焦点面(撮像面)に結像する。なお、対物光学系71と像伝送光学系211とを合わせて光学系とする。また、第1の視点からの光学像を撮像素子2aの焦点面に結像する光路を第1の光路とする。また、第2の視点からの光学像を撮像素子2aの焦点面に結像する光路を第2の光路とする。
液晶シャッター272は、液晶で構成されており、光を透過する状態と光を遮断する状態とに変化することができる。また、液晶シャッター272は、第1の光路上に配置されている。この構成により、液晶シャッター272は、光を遮断する状態(シャッターが閉じている状態)では、第1の光路上の光を遮る。なお、液晶シャッター272は、光を透過する状態(シャッターが開いている状態)では、第1の光路上の光を遮らない。また、液晶シャッター272は、低温環境下では応答速度が遅くなってしまう。そのため、CPU18(撮像制御部)は、温度センサ273が検出した温度に応じて計測用撮像信号の取得処理の実行タイミングを変更する。例えば、CPU18は、温度センサ273が検出した温度に基づいて低温環境下であると判定した場合、シャッターの開閉に必要な時間を十分確保した後に、撮像素子2aに撮像信号を出力させる。
次に、内視鏡装置1が、第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号とを取得する方法について説明する。本実施形態における内視鏡装置1が、第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号とを取得する方法は、第1の実施形態における方法と同様である、
次に、重畳撮像信号に基づいた画像と、第1基準撮像信号に基づいた画像と、第2基準撮像信号に基づいた画像とから、計測に用いる分離画像を生成する方法について説明する。本実施形態では、CPU18(副視点画像分離処理部)は、(4)式を用いて、シャッター272が構成されている光路(第1の光路)からの像のみを分離した分離画像を生成する。
(分離画像)=α×{(重畳撮像信号に基づいた画像)−(第2基準撮像信号に基づいた画像)}・・・(4)
ここで、αは、液晶シャッター272を開けた状態での液晶シャッター272の透過率をTOとし、光学シャッターを閉じた状態での液晶シャッター272の透過率をTCとしたときに、以下の(5)式で表す定数であり、分離画像との輝度レベルの差を補正する定数である。
α≡1/(TO−TC)・・・(5)
なお、簡略化のためα=1としても良い。
また、液晶シャッター272を閉じている時に液晶シャッター272を透過するわずかな光の影響を除くために、計測用基準撮像信号に基づいた画像を以下の式(6)で生成する。
(計測用基準撮像画像)=(第2基準撮像信号に基づいた画像)−β×{(重畳撮像信号に基づいた画像)−(第2基準撮像信号に基づいた画像)}・・・(6)
ここで、βは、以下の式(7)で表す定数である。
β≡TC/(TO−TC)・・・(7)
ここで、液晶シャッター272の透過率TO,TCは、機材の個体差を補正するために、製造時などに測定された個体特有の透過率を使用する。また、透過率が波長によって異なるような液晶シャッター272であれば波長に応じた透過率を使用しても良い。具体的には、RGBの各色において、液晶シャッター272を開けた状態と閉じた状態とにおける透過率をデータとして保持しておき、RGBの各色の透過率データを用いて分離撮像信号や計測用基準撮像信号を生成する。なお、液晶シャッター272に入射される光の波長については、撮像素子2aが出力する撮像信号に基づいてCPU18が検出する。
また、透過率が温度に依存する場合には、先端部21に温度センサ273を配置するような構成にし、その温度情報を用いて透過率を変化させても良い。なお、温度センサ273を有している構成の場合は、温度がある閾値を超えた場合には、ユーザに計測用画像が正しく生成できないことを警告したり、計測のエラーとしたりするような処理をしてもよい。なお、上述した透過率や、透過率と温度との関係や、透過率と波長との関係は、例えばRAM14が予め記憶している。
また、本実施形態においても、第1の実施形態と同様に、重畳撮像信号に基づいた画像に画素値の飽和が起きている画素があると分離画像の輝度値が正しく計算できず、計測結果に悪影響を及ぼす可能性がある。そのため、重畳撮像信号に基づいた画像の輝度値が飽和している画素に対しては、第1の実施形態と同様に、別の処理を行う。
次に、ステレオ計測処理の処理手順について説明する。本実施形態におけるステレオ計測処理の処理手順は、第1の実施形態におけるステレオ計測処理の処理手順と同様である。
上述したとおり、本実施形態によれば、第1基準撮像信号または第2基準撮像信号と、重畳撮像信号とに基づいて、分離画像を生成する。そして、計測用基準撮像信号(第1基準撮像信号または第2基準撮像信号)に基づいた画像と分離画像とを用いて計測処理を行う。そのため、すべての光路に液晶シャッター272を備える必要がない。例えば、第2の光路上に液晶シャッター272を設ける必要が無く、第1の光路上のみに液晶シャッター272を設ければよい。また、光学シャッターに可動部がないため、外部からの衝撃に対する耐性を高めやすく、小型化しやすい。従って、光学アダプタ7(挿入部20)の外径をより細経化することができる。また、第2の光路上に液晶シャッター272を設ける必要がないため、第2の光路を通る光量が減少しない。そのため、内視鏡装置1は、明るい撮像信号を取得することができる。
なお、上述した実施形態では、光学シャッターとして液晶シャッター272を用いているがこれに限らない。例えば、光学シャッターとして、PLZT電気光学シャッターなど、可動部を持たない電気的な光学シャッターを用いてもよい。
(第3の実施形態)
次に、本発明の第3の実施形態について図面を参照して説明する。本実施形態と第2の実施形態とで異なる点は、光学アダプタが3つの開口部を有する絞り部材と、2つの液晶シャッターとを備える点である。その他の内視鏡装置1の構成は、第2の実施形態における内視鏡装置1の構成と同様である。
次に、先端部21と光学アダプタ37との構成について説明する。図14は、本実施形態における先端部21と光学アダプタ37(アダプタ式光学系)との構成を示した概略図である。図示する例では、先端部21には撮像素子2aと像伝送光学系211とが内蔵されている。また、先端部21には光学アダプタ37が取り付けられている。光学アダプタ37には対物光学系371と、第1液晶シャッター372(光学シャッター)と、第2液晶シャッター373(光学シャッター)と、温度センサ273と、絞り部材701とが内蔵されている。また、第1液晶シャッター372と第2液晶シャッター373には電源線2721が接続されている。CPU18は、電源線2721を介して第1液晶シャッター372と第2液晶シャッター373との開閉を制御する。
絞り部材701は3つの開口部716,717,718を有する。対物光学系371は、第1の視点からの光学像と、第2の視点からの光学像と、第3の視点からの光学像とを像伝送光学系211に入射する。なお、第1の視点からの光学像は開口部716を通り、第2の視点からの光学像は開口部717を通り、第3の視点からの光学像は開口部718を通る。像伝送光学系211は、入射された第1の視点からの光学像と、第2の視点からの光学像と、第3の視点からの光学像とを撮像素子2aの焦点面(撮像面)に結像する。なお、対物光学系371と像伝送光学系211とを合わせて光学系とする。また、第1の視点からの光学像を撮像素子2aの焦点面に結像する光路を第1の光路とする。また、第2の視点からの光学像を撮像素子2aの焦点面に結像する光路を第2の光路とする。また、第3の視点からの光学像を撮像素子2aの焦点面に結像する光路を第2の光路とする。
第1液晶シャッター372と第2液晶シャッター373とは、液晶で構成されており、光を透過する状態と光を遮断する状態とに変化することができる。第1液晶シャッター372は、第1の光路上に配置されている。第2液晶シャッター373は、第2の光路上に配置されている。この構成により、第1液晶シャッター372は、光を遮断する状態(シャッターが閉じている状態)では、第1の光路上の光を遮る。なお、第1液晶シャッター372は、光を透過する状態(シャッターが開いている状態)では、第1の光路上の光を遮らない。また、第2液晶シャッター373は、光を遮断する状態(シャッターが閉じている状態)では、第2の光路上の光を遮る。なお、第2液晶シャッター373は、光を透過する状態(シャッターが開いている状態)では、第2の光路上の光を遮らない。また、第1液晶シャッター372と第2液晶シャッター373とは、低温環境下では応答速度が遅くなってしまうため、温度に応じて計測用撮像信号の取得処理の実行タイミングを変更する。
次に、内視鏡装置1が、第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号とを取得する方法について説明する。図15は、本実施形態における内視鏡装置1が第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号とを取得する処理手順を示したフローチャートである。なお、通常観察時には、第1液晶シャッター372と第2液晶シャッター373とを閉じて第1の光路と第2の光路とを遮蔽し、1つの視点からの像(第3の視点からの光学像)だけが撮像素子2aの焦点面に結像した状態とする。これにより、撮像素子2aは、第3の視点からの光学像に基づいた撮像信号を出力することができる。このときの撮像信号を基準撮像信号とする。また、映像信号処理回路12は、基準撮像信号に基づいて、LCD5にライブビュー画像を表示させる。
(ステップS201)ユーザの操作などに基づいて、計測用画像取得処理のフローに入ると、CPU18(設定部)は、撮像素子2aが出力する撮像信号に基づいた画像の明るさに基づいて、露光条件Aと露光条件Bとを決定する。その後、ステップS202の処理に進む。なお、露光条件Aは、基準像撮影時に適正な露光条件である。また、露光条件Bは、重畳画像撮影時に適正な露光条件とする。このように、露光条件を2種類設定する理由としては、重畳画像を露光条件Aで撮像した場合、明るいシーンでは露出オーバー的な画像になり、高輝度領域で輝度値が飽和して濃淡が失われることを避けるためのものである。
(ステップS202)CPU18は、露光条件を露光条件Aに設定する。その後、ステップS203の処理に進む。
(ステップS203)映像信号処理回路12は、撮像素子2aが出力する映像信号に基づいて、LCD5に静止画像を表示させる。その後、ステップS204の処理に進む。なお、LCD5に静止画像を表示させるのは、光路切り替え中の画像をユーザに見せないためである。また、ここで、LCD5に表示させる画像は、計測用画像取得をユーザに表すメッセージ表示画像などでも良い。
(ステップS204)撮像素子2aは、基準撮像信号を出力する。その後、ステップS205の処理に進む。なお、この基準撮像信号を第1基準撮像信号とする。
(ステップS205)CPU18は、露光条件を露光条件Bに設定する。その後、ステップS206の処理に進む。
(ステップS206)第1液晶シャッター372は、光を遮断する状態から光を透過する状態に変更する。すなわち、第1液晶シャッター372を開ける。その後、ステップS207の処理に進む。
(ステップS207)撮像素子2aは、第1の重畳撮像信号を出力する。その後、ステップS208の処理に進む。なお、第1の重畳撮像信号は、第1の視点からの光学像と第3の視点からの光学像とが重畳されている撮像信号である。
(ステップS208)第1液晶シャッター372は、光を透過する状態から光を遮断する状態に変更する。すなわち、第1液晶シャッター372を閉じる。その後、ステップS209の処理に進む。
(ステップS209)第2液晶シャッター373は、光を遮断する状態から光を透過する状態に変更する。すなわち、第2液晶シャッター373を開ける。その後、ステップS210の処理に進む。
(ステップS210)撮像素子2aは、第2の重畳撮像信号を出力する。その後、ステップS211の処理に進む。なお、第2の重畳撮像信号は、第2の視点からの光学像と第3の視点からの光学像とが重畳されている撮像信号である。
(ステップS211)第2液晶シャッター373は、光を透過する状態から光を遮断する状態に変更する。すなわち、第2液晶シャッター373を閉じる。その後、ステップS212の処理に進む。
(ステップS212)撮像素子2aは、基準撮像信号を出力する。その後、ステップS213の処理に進む。なお、この基準撮像信号を第2基準撮像信号とする。
(ステップS213)CPU18(ぶれ検出部)は、第1基準撮像信号に基づいた画像と第2基準撮像信号に基づいた画像とを比較し、異なっている場合にはカメラぶれ、あるいは被写体ぶれが有ると判定する。また、CPU18は、第1基準撮像信号に基づいた画像と第2基準撮像信号に基づいた画像とを比較し、同一の場合にはカメラぶれ、あるいは被写体ぶれが無いと判定する。ぶれが有るとCPU18が判定した場合にはステップS215の処理に進み、ぶれが無いとCPU18が判定した場合にはステップS214の処理に進む。なお、カメラぶれ、あるいは被写体ぶれの検出方法はどのような方法でもよい。例えば、1フレームの画像の奇数フィールドと偶数フィールドの比較でぶれを検出してもよい。また、光学アダプタ7に加速度センサなどを組み込み、撮影中に光学アダプタ7が動いたことを加速度センサが検出した場合、ぶれが有ると判定するようにしてもよい。
(ステップS214)CPU18は、第1基準撮像信号に基づいた画像と、第2基準撮像信号に基づいた画像と、第1の重畳撮像信号に基づいた画像と、第2の重畳撮像信号に基づいた画像とをRAM14に記憶する。その後、映像信号処理回路12は、ユーザに取得した第1基準撮像信号に基づいた画像と第2基準撮像信号に基づいた画像とを確認させるために、第1基準撮像信号に基づいた画像をLCD5に表示させ、処理を終了する。
(ステップS215)CPU18は、第1基準撮像に基づいた画像と、第2基準撮像信号に基づいた画像と、第1の重畳撮像信号に基づいた画像と、第2の重畳撮像信号に基づいた画像とを破棄する。その後、映像信号処理回路12は、測定に用いる画像信号を取得出来ていないことを示す画像をLCD5に表示させ、処理を終了する。
なお、ステップS214の処理でLCD5に表示する画像は、第2基準撮像信号に基づいた画像であってもよい。また、第1の重畳撮像信号に基づいた画像から、第1基準撮像信号に基づいた画像または第2基準撮像信号に基づいた画像を減算し、第1液晶シャッター372が構成されている光路(第1の光路)からの像を分離した画像であってもよい。また、第2の重畳撮像信号に基づいた画像から、第1基準撮像信号に基づいた画像または第2基準撮像信号に基づいた画像を減算し、第2液晶シャッター373が構成されている光路(第2の光路)からの像を分離した画像であってもよい。また、ここでは、必ずしも計測に用いる基準撮像信号に基づいた画像を表示する必要はなく、ユーザがどのような被写体を撮影したかを確認するのに適した画像であればよい。また、単純に差分をとって分離した画像は輝度が暗い画像になりやすいため、画像の輝度を持ち上げるような画像処理を施したものを表示してもよい。
次に、第1の重畳撮像信号に基づいた画像と、第2の重畳撮像信号に基づいた画像と、第1基準撮像信号に基づいた画像と、第2基準撮像信号に基づいた画像とから、計測に用いる第1の分離画像と、第2の分離画像とを生成する方法について説明する。本実施形態では、CPU18(副視点画像分離処理部)は、(8)式を用いて、第1液晶シャッター372が構成されている光路(第1の光路)からの像のみを分離した第1の分離画像を生成する。
(第1の分離画像)=α1×{(第1の重畳撮像信号に基づいた画像)−(第2基準撮像信号に基づいた画像)}・・・(8)
ここで、α1は、第1液晶シャッター372を開けた状態での第1液晶シャッター372の透過率をTO1とし、第1液晶シャッター372を閉じた状態での第1液晶シャッター372の透過率をTC1としたときに、以下の(9)式で表す定数であり、第1の分離画像との輝度レベルの差を補正する定数である。
α1≡1/(TO1−TC1)・・・(9)
なお、簡略化のためα1=1としても良い。
また、同様に、CPU18(副視点画像分離処理部)は、(10)式を用いて、第2液晶シャッター373が構成されている光路(第2の光路)からの像のみを分離した第2の分離画像を生成する。
(第2の分離画像)=α2×{(第2の重畳撮像信号に基づいた画像)−(第2基準撮像信号に基づいた画像)}・・・(10)
ここで、α2は、第2液晶シャッター373を開けた状態での第2液晶シャッター373の透過率をTO2とし、第2液晶シャッター373を閉じた状態での第2液晶シャッター373の透過率をTC2としたときに、以下の(11)式で表す定数であり、第2の分離画像との輝度レベルの差を補正する定数である。
α2≡1/(TO2−TC2)・・・(11)
なお、簡略化のためα2=1としても良い。
また、第1液晶シャッター372と第2液晶シャッター373とを閉じている時に、第1液晶シャッター372と第2液晶シャッター373とを透過するわずかな光の影響を除くために、計測用基準撮像信号に基づいた画像を以下の式(12)で生成する。
(計測用基準撮像信号に基づいた画像)=(第2基準撮像信号に基づいた画像)−β1×{(第1の重畳撮像信号に基づいた画像)−(第1基準撮像信号に基づいた画像)}−β2×{(第2の重畳撮像信号に基づいた画像)−(第2基準撮像信号に基づいた画像)}・・・(12)
ここで、β1は、以下の式(13)で表す定数である。
β1≡TC1/(TO1−TC1)・・・(13)
また、β2は、以下の式(14)で表す定数である。
β2≡TC2/(TO2−TC2)・・・(14)
ここで、第1液晶シャッター372の透過率TO1,TC1および第2液晶シャッター373の透過率TO2,TC2は、機材の個体差を補正するために、製造時などに測定された個体特有の透過率を使用する。また、透過率が波長によって異なるような第1液晶シャッター372または第2液晶シャッター373であれば波長に応じた透過率を使用しても良い。具体的には、RGBの各色において、第1液晶シャッター372または第2液晶シャッター373を開けた状態と閉じた状態とにおける透過率をデータとして保持しておき、RGBの各色の透過率データを用いて第1の分離画像や、第2の分離画像や、計測用基準撮像信号に基づいた画像を生成する。また、透過率が温度に依存する場合には、先端部21などに温度センサ273を配置するような構成にし、その温度情報を用いて透過率を変化させても良い。なお、温度センサ273を有している構成の場合は、温度がある閾値を超えた場合には、ユーザに計測用画像が正しく生成できないことを警告したり、計測のエラーとしたりするような処理をしてもよい。上述した透過率や、透過率と温度との関係や、透過率と波長との関係は、例えばRAM14が予め記憶している。
また、本実施形態においても、第1の実施形態と同様に、重畳撮像信号に基づいた画像に画素値の飽和が起きている画素があると分離画像の輝度値が正しく計算できず、計測結果に悪影響を及ぼす可能性がある。そのため、重畳撮像信号に基づいた画像の輝度値が飽和している画素に対しては、第1の実施形態と同様に、別の処理を行う。
次に、ステレオ計測処理の処理手順について説明する。本実施形態におけるステレオ計測処理の処理手順は、第1の実施形態におけるステレオ計測処理の処理手順と同様である。なお、本実施形態では、内視鏡装置1は、ステレオ計測処理に用いることができる撮像信号として、第1の分離画像と、第2の分離画像と、計測用基準撮像信号に基づいた画像とを取得することができるため、より正確にステレオ計測処理を行うことができる。
上述したとおり、本実施形態によれば、第1基準撮像信号または第2基準撮像信号に基づいた画像と、第1の重畳撮像信号に基づいた画像と、第2の重畳撮像信号に基づいた画像とに基づいて、第1の分離画像と第2の分離画像を生成する。そして、計測用基準撮像信号(第1基準撮像信号または第2基準撮像信号)に基づいた画像と、第1の分離画像と、第2の分離画像とを用いて計測処理を行う。そのため、すべての光路に第1液晶シャッター372または第2液晶シャッター373を備える必要がない。例えば、第3の光路上に液晶シャッターを設ける必要が無く、第1の光路上と第2の光路上のみにあれば良い。また、光学シャッターに可動部がないため、外部からの衝撃に対する耐性を高めやすく、小型化しやすい。従って、光学アダプタ37(挿入部20)の外径をより細経化することができる。また、第3の光路上に液晶シャッターを設ける必要がないため、第3の光路を通る光量が減少しない。そのため、内視鏡装置1は、明るい撮像信号を取得することができる。
なお、上述した実施形態では、光学シャッターとして第1液晶シャッター372と第2液晶シャッター373とを用いているがこれに限らない。例えば、光学シャッターとして、PLZT電気光学シャッターなど、可動部を持たない電気的な光学シャッターを用いてもよい。
また、本実施形態では、光学アダプタ37は3つの開口部716〜717を有する絞り部材を備えているが、これに限らず、4つ以上の開口部を有する絞り部材を備えていてもよい。
また、本実施形態では、第1の重畳撮像信号と第2の重畳撮像信号とは、2重像の重畳撮像信号であるが、これに限らない。例えば、3重以上のN重像の重畳撮像信号であってもよい。この場合には、N重像の重畳撮像信号から(N−1)重像の重畳撮像信号の差分を取って分離画像を生成する。
(第4の実施形態)
次に、本発明の第4の実施形態について図面を参照して説明する。本実施形態と第2の実施形態とで異なる点は、光学アダプタが備える対物光学系の構成のみである。その他の内視鏡装置1の構成は、第2の実施形態における内視鏡装置1の構成と同様である。
図16は、本実施形態における先端部21と光学アダプタ47との構成を示した概略図である。図示する例では、先端部21には撮像素子2aと像伝送光学系211とが内蔵されている。また、先端部21には光学アダプタ47(アダプタ式光学系)が取り付けられている。光学アダプタ47には対物光学系471と、液晶シャッター272(光学シャッター)と、絞り部材700とが内蔵されている。
対物光学系471は、瞳分割方式を用いて、第1の視点からの光学像と第2の視点からの光学像とを像伝送光学系211に入射する。その他の構成は、第2の実施形態における構成と同様である。
また、本実施形態における第1基準撮像信号と、第2基準撮像信号と、重畳撮像信号とを取得する方法についても第2の実施形態における方法と同様である。また、本実施形態における重畳撮像信号に基づいた画像と、第1基準撮像信号に基づいた画像と、第2基準撮像信号に基づいた画像とから、計測に用いる分離画像を生成する方法についても第2の実施形態における方法と同様である。また、本実施形態におけるステレオ計測処理の処理手順についても第2の実施形態における手順と同様である。
従って、本実施形態においても、すべての光路に液晶シャッター272を備える必要がない。そのため、光学アダプタ47(挿入部20)の外径をより細経化することができる。また、第2の光路上に液晶シャッター272を設ける必要がないため、第2の光路を通る光量が減少しない。そのため、内視鏡装置1は、明るい撮像信号を取得することができる。
以上、この発明の第1の実施形態から第4の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1・・・内視鏡装置、2・・・内視鏡、2a・・・撮像素子、3・・・コントロールユニット、4・・・リモートコントローラ、7,27,37,47,1107・・・光学アダプタ、8・・・内視鏡ユニット、10・・・制御ユニット、12・・・映像信号処理回路、20・・・挿入部、21・・・先端部、22・・・湾曲部、31・・・パーソナルコンピュータ、32・・・PCMCIAメモリカード、33・・・フラッシュメモリカード、71,371,471・・・対物光学系、72・・・メカニカルシャッター、211・
・・像伝送光学系、272・・・液晶シャッター、273・・・温度センサ、372・・・第1液晶シャッター、373・・・第2液晶シャッター、700,701,7000・・・絞り部材、711,712,716〜718,1711,1712・・・開口部、713,1713・・・軸、714,1714・・・レバー、721,1721・・・遮蔽部材、2721・・・電源線

Claims (14)

  1. 第1の視点である主視点からの光学像と、主視点とは別の視点である一つまたは複数の副視点からの光学像とを共通の焦点面に結像する光学系と、
    一つまたは複数の前記副視点それぞれの光路を開閉する一つまたは複数の光学シャッターと、
    前記焦点面に結像された前記光学像を撮像して撮像信号を出力する撮像素子と、
    一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像素子が出力した前記撮像信号から画像を生成し主視点画像とする主視点画像取得処理部と、
    一つまたは複数の前記光学シャッターの一つを開いた上で、その際に前記撮像素子が出力した前記撮像信号から一つまたは複数の画像を生成しステレオ重畳画像とする重畳画像取得処理部と、
    を備えることを特徴とするステレオ計測用画像取得装置。
  2. 複数の視点からの前記光学像が前記焦点面に結像している場合と、一つの視点からの前記光学像のみが前記焦点面に結像している場合とで、前記撮像信号取得のための露光条件設定を切り替える設定部
    を備えることを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  3. 前記撮像素子は、表示用に用いる前記撮像信号と、計測用に用いる前記撮像信号とをそれぞれ出力し、
    前記表示用に用いる前記撮像信号を出力する場合と、前記計測用に用いる前記撮像信号を出力する場合とで、前記撮像信号取得のための露光条件設定を切り替える設定部
    を備えることを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  4. 前記主視点画像取得処理部が生成した前記主視点画像を表示する映像表示部
    を備えることを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  5. 前記映像表示部は、前記光学シャッターが開閉を切り替えている際には当該切り替え中に前記撮像素子が出力した前記撮像信号に基づいた画像を表示しないことを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  6. 光学系を取り替えることが出来るアダプタ式光学系を有する
    ことを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  7. 前記光学系は、第1の視点からの第1の光学像を前記焦点面に結像する第1の光路と、第2の視点からの第2の光学像を前記焦点面に結像する第2の光路とを備え、前記光学シャッターは、前記第1の光路と前記第2の光路とに対応して配置された2つの開口部を有する絞り部材と、2つの前記開口部のうち一方の前記開口部を遮蔽可能な遮蔽部材とを備え、
    前記遮蔽部材は、前記開口部を塞がない位置に退避可能である
    ことを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  8. 前記光学シャッターはMEMSからなる
    ことを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  9. 前記光学シャッターは電気光学シャッターである
    ことを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  10. 前記電気光学シャッターは液晶シャッターである
    ことを特徴とする請求項9に記載のステレオ計測用画像取得装置。
  11. 前記主視点画像もしくは前記ステレオ重畳画像のいずれかに基づいてぶれを検出するぶれ検出部を有する
    ことを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  12. 前記主視点画像取得処理部は、前記重畳画像取得処理部が前記ステレオ重畳画像を取得する前に、一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像素子が出力した前記撮像信号から第1の主視点画像を生成し、前記重畳画像取得処理部が前記ステレオ重畳画像を取得した後に、一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像素子が出力した前記撮像信号から第2の主視点画像を生成するものであって、
    前記ぶれ検出部は、前記第1の主視点画像及び前記第2の主視点画像に基づいてぶれを検出する
    ことを特徴とする請求項11に記載のステレオ計測用画像取得装置。
  13. 前記主視点画像と、一つまたは複数の前記ステレオ重畳画像とを用いて三角測量の原理で被写体の3次元座標を算出するステレオ計測処理部を有する
    ことを特徴とする請求項1に記載のステレオ計測用画像取得装置。
  14. 第1の視点である主視点からの光学像と、主視点とは別の視点である一つまたは複数の副視点からの光学像とを共通の焦点面に結像する光学系を有するステレオ計測用画像取得装置の作動方法であって、
    一つまたは複数の前記副視点それぞれの光路を開閉する一つまたは複数の光学シャッターを駆動する駆動ステップと、
    前記焦点面に結像された前記光学像を撮像して撮像信号を出力する撮像ステップと、
    一つまたは複数の前記光学シャッターのすべてを閉じた上で、その際に前記撮像ステップで出力した前記撮像信号から画像を生成し主視点画像とする主視点画像取得処理ステップと、
    一つまたは複数の前記光学シャッターの一つを開いた上で、その際に前記撮像ステップで出力した前記撮像信号から一つまたは複数の画像を生成しステレオ重畳画像とする重畳画像取得処理ステップと、
    を含むことを特徴とするステレオ計測用画像取得装置の作動方法。
JP2016163327A 2016-08-24 2016-08-24 ステレオ計測用画像取得装置及びステレオ計測用画像取得装置の作動方法 Pending JP2017038933A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016163327A JP2017038933A (ja) 2016-08-24 2016-08-24 ステレオ計測用画像取得装置及びステレオ計測用画像取得装置の作動方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016163327A JP2017038933A (ja) 2016-08-24 2016-08-24 ステレオ計測用画像取得装置及びステレオ計測用画像取得装置の作動方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012169668A Division JP5996319B2 (ja) 2012-07-31 2012-07-31 ステレオ計測装置およびステレオ計測装置の作動方法

Publications (1)

Publication Number Publication Date
JP2017038933A true JP2017038933A (ja) 2017-02-23

Family

ID=58203587

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016163327A Pending JP2017038933A (ja) 2016-08-24 2016-08-24 ステレオ計測用画像取得装置及びステレオ計測用画像取得装置の作動方法

Country Status (1)

Country Link
JP (1) JP2017038933A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11317014B2 (en) 2018-07-10 2022-04-26 Olympus Corporation Image pickup apparatus, image correction method, and medium storing program

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62281919A (ja) * 1986-05-30 1987-12-07 株式会社東芝 電子式内視鏡装置
JPH07333524A (ja) * 1994-06-02 1995-12-22 Olympus Optical Co Ltd 立体視内視鏡装置
JPH1096867A (ja) * 1996-09-20 1998-04-14 Olympus Optical Co Ltd 立体観察硬性内視鏡装置
JPH10248807A (ja) * 1997-03-13 1998-09-22 Olympus Optical Co Ltd 内視鏡装置
JPH11168717A (ja) * 1997-12-04 1999-06-22 Matsushita Electric Ind Co Ltd ビデオスコープ
JP2001012944A (ja) * 1999-06-29 2001-01-19 Fuji Photo Film Co Ltd 視差画像入力装置及び撮像装置
JP2003047588A (ja) * 2001-08-03 2003-02-18 Olympus Optical Co Ltd 内視鏡装置
JP2010128354A (ja) * 2008-11-28 2010-06-10 Olympus Medical Systems Corp ステレオ光学系、並びにそれを用いたステレオ計測用光学装置、ステレオ計測装置及びステレオ観察装置
JP2011027911A (ja) * 2009-07-23 2011-02-10 Olympus Corp 内視鏡装置、計測方法、およびプログラム
JP2011176671A (ja) * 2010-02-25 2011-09-08 Hoya Corp 撮像システム
JP2012128096A (ja) * 2010-12-14 2012-07-05 Konica Minolta Advanced Layers Inc ステレオ撮影装置
JP2014028008A (ja) * 2012-07-31 2014-02-13 Olympus Corp ステレオ計測装置およびステレオ計測方法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62281919A (ja) * 1986-05-30 1987-12-07 株式会社東芝 電子式内視鏡装置
JPH07333524A (ja) * 1994-06-02 1995-12-22 Olympus Optical Co Ltd 立体視内視鏡装置
JPH1096867A (ja) * 1996-09-20 1998-04-14 Olympus Optical Co Ltd 立体観察硬性内視鏡装置
JPH10248807A (ja) * 1997-03-13 1998-09-22 Olympus Optical Co Ltd 内視鏡装置
JPH11168717A (ja) * 1997-12-04 1999-06-22 Matsushita Electric Ind Co Ltd ビデオスコープ
JP2001012944A (ja) * 1999-06-29 2001-01-19 Fuji Photo Film Co Ltd 視差画像入力装置及び撮像装置
JP2003047588A (ja) * 2001-08-03 2003-02-18 Olympus Optical Co Ltd 内視鏡装置
JP2010128354A (ja) * 2008-11-28 2010-06-10 Olympus Medical Systems Corp ステレオ光学系、並びにそれを用いたステレオ計測用光学装置、ステレオ計測装置及びステレオ観察装置
JP2011027911A (ja) * 2009-07-23 2011-02-10 Olympus Corp 内視鏡装置、計測方法、およびプログラム
JP2011176671A (ja) * 2010-02-25 2011-09-08 Hoya Corp 撮像システム
JP2012128096A (ja) * 2010-12-14 2012-07-05 Konica Minolta Advanced Layers Inc ステレオ撮影装置
JP2014028008A (ja) * 2012-07-31 2014-02-13 Olympus Corp ステレオ計測装置およびステレオ計測方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11317014B2 (en) 2018-07-10 2022-04-26 Olympus Corporation Image pickup apparatus, image correction method, and medium storing program

Similar Documents

Publication Publication Date Title
JP5996319B2 (ja) ステレオ計測装置およびステレオ計測装置の作動方法
JP5657343B2 (ja) 電子機器
JP5716130B2 (ja) 撮像装置及び撮影支援方法
JP2012145840A (ja) 撮像装置
JP2019033917A (ja) 内視鏡システム
JP2009296561A (ja) 撮像装置及び撮像方法
JP2010226362A (ja) 撮像装置及びその制御方法
JP2019138982A (ja) 内視鏡装置、内視鏡装置の制御方法、内視鏡装置の制御プログラム、および記録媒体
JP2020156814A (ja) 内視鏡システム、内視鏡制御方法、及び、撮像制御装置
US20200228726A1 (en) Imaging apparatus, and control method and control program therefor
JPWO2016194179A1 (ja) 撮像装置、内視鏡装置及び撮像方法
JP2007190060A (ja) 内視鏡装置
JPWO2016194178A1 (ja) 撮像装置、内視鏡装置及び撮像方法
JP2010114577A (ja) 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理方法
JP2017038933A (ja) ステレオ計測用画像取得装置及びステレオ計測用画像取得装置の作動方法
JP2011040990A (ja) 撮像装置
JP5279522B2 (ja) 画像処理装置および方法
JP6789899B2 (ja) 計測装置および計測装置の作動方法
JP5928016B2 (ja) 撮像装置及び撮像方法
JP6104066B2 (ja) 画像処理装置および画像処理方法
JP7109729B2 (ja) 内視鏡装置、内視鏡装置の制御方法、内視鏡装置の制御プログラム、および記録媒体
JP2014110607A (ja) 撮像装置
JP6400767B2 (ja) 計測内視鏡装置
JP4764233B2 (ja) 眼科撮影装置
JPWO2016080351A1 (ja) 撮像装置、画像処理装置、撮像装置の作動方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170516

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20180116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180220

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180608

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180724