以下、図面を参照し、本発明の実施形態を説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態の内視鏡装置1の全体構成を示す。図2は、内視鏡装置1の内部構成を示す。図1に示す内視鏡装置1は、内視鏡2、本体部3、操作部4、および表示部5を有する。内視鏡2は、細長い挿入部20を有する。
挿入部20は、観察対象の物体の内部に挿入される。挿入部20の先端には、光学アダプター21を装着できる。光学アダプター21は、被写体からの光を挿入部20の先端に取り込むための光学系を有する。例えば、ステレオ光学アダプターを挿入部20の先端に装着することにより、内視鏡装置1は、異なる複数の視点に対応する2つの光学像を取得することができる。内視鏡装置1は、2つの光学像を使用することにより、三角測量の原理で被写体の寸法を計測することができる。本体部3は、内視鏡装置1を制御するための構成を有する。操作部4は、ユーザーが行う操作を受け付ける。表示部5(ディスプレイ)は、内視鏡装置1によって取得された画像および処理メニュー等を表示する。
図2は、内視鏡装置1の詳細な構成を示す。図2に示す挿入部20の先端に光学アダプター21が装着されている。第1の実施形態の光学アダプター21は、複数の視点に対応する複数の光学像を形成するステレオ光学アダプターである。光学アダプター21は、観察光学系60を有する。光学アダプター21は、照明光学系80の一部を有する。観察光学系60は、凹レンズ23a、凹レンズ23b、凸レンズ24a、凸レンズ24b、切り替え部25、および結像光学系26を有する。照明光学系80は、集光レンズ81、ライトガイド82、ロッドレンズ83、および拡散レンズ84を有する。集光レンズ81は、本体部3に配置されている。ライトガイド82は、本体部3および挿入部20に配置されている。ロッドレンズ83および拡散レンズ84は、光学アダプター21に配置されている。
挿入部20は、撮像素子22(イメージセンサー)を有する。撮像素子22は、挿入部20の先端に配置されている。本体部3は、撮像制御部30、映像処理部31、光源部32、照明制御部33、CPU(Central Processing Unit)34、メモリー35、および切り替え制御部36を有する。光源部32は、白色光源37を有する。
図2に示す構成の概要を説明する。白色光源37は、照明光を生成する。照明光学系80は、照明光を被写体に照射する。観察光学系60は、被写体の光学像を形成する。撮像素子22は、行列状に配置された複数のセル54を有し、かつ被写体を撮像する。撮像素子22の画素であるセル54の構成は図4に示される。セル54の構成については後述する。切り替え部25(切り替え器)は、撮像素子22が被写体を撮像するための複数の撮像条件を切り替える。撮像制御部30、照明制御部33、および切り替え制御部36は、制御部(コントローラ)である。
撮像素子22は、第1の期間において画素信号を複数のセル54の少なくとも一部から1行毎に順次読み出す。画素信号は、被写体の光学像に基づいて生成される。撮像素子22は、複数のセル54の少なくとも一部から読み出された画素信号の少なくとも一部(有効画素の画素信号)に基づいて、複数のフレーム期間の各々において被写体の画像を生成する。照明制御部33は、白色光源37に、第2の期間において照明光を生成させる。第2の期間は、第1の期間を除く期間の少なくとも一部である。照明制御部33は、白色光源37に、第3の期間において照明光の生成を停止させる。第3の期間は、第2の期間を除く期間の全てであり、かつ第1の期間を含む。第2の期間および第3の期間は交互に繰り返される。切り替え制御部36は、切り替え部25に、第3の期間において撮像条件の切り替えを開始させ、かつ第3の期間において撮像条件の切り替えを完了させる。
フレームは、1枚の画像に含まれる複数の画素信号の組である。1枚の画像(1フレーム)は、1フレーム期間において生成される。撮像素子22は、1フレームの画素信号に基づいて1枚の画像を生成する。
図2に示す構成の詳細を説明する。白色光源37は、照明制御部33から供給された電力を白色光に変換する。これにより、白色光源37は、被写体を照明するための照明光を生成する。例えば、白色光源は、半導体発光素子および蛍光体の組み合わせである。半導体発光素子は、発光ダイオード(LED)またはレーザーダイオード(LD)等であり、かつ青色に発光する。蛍光体は、励起光である青色光を白色光に変換する。半導体発光素子は光のオンおよび光のオフを高速に切り替えることができる。照明制御部33は、半導体発光素子の点灯期間を調整することにより、被写体の撮像における露光時間を調節することができる。ハロゲンランプなどの他の光源と比較して半導体発光素子の発光効率は高い。そのため、同じ明るさの他の光源よりも消費電力が少なく、かつ内視鏡装置1を小型化できる。
照明制御部33は、光源部32に電力を供給する。照明制御部33は、映像処理部31から出力された光源制御パラメーターに基づいて、白色光源37の点灯のタイミング、白色光源37の消灯のタイミング、および白色光源37の出射光量を制御する。白色光源37の制御モードは、連続点灯モードおよびパルス点灯モードを含む。連続点灯モードでは光源部32に供給される直流電流の大きさによって光量が制御される。パルス点灯モードでは光源部32に供給される電流パルスの幅および高さによって光量が制御される。白色光源37は、光学アダプター21に配置されてもよい。
白色光源37から出た白色光は、集光レンズ81によって集光される。集光レンズ81によって集光された白色光は、配置されたライトガイド82を経由して、挿入部20の先端に伝送される。ライトガイド82は、光ファイバーの素線を束ねることにより形成された光ファイバーバンドルである。ライトガイド82から出た白色光は、ロッドレンズ83によって光学アダプター21の中を伝送される。ロッドレンズ83から出た白色光は、拡散レンズ84によって被写体に照射される。
観察光学系60は、白色光によって照明された被写体の表面で反射した光を取り込む。観察光学系60によって取り込まれた光は撮像素子22に入射する。観察光学系60は、照明光で照明された被写体の光学像を撮像素子22に形成する。
観察光学系60は、第1の光学系および第2の光学系を含む。第1の光学系および第2の光学系は、撮像素子22の光学的な前方(被写体側)に配置されている。第1の光学系は、第1の視点に対応する被写体の第1の光学像を撮像素子22に形成する。第2の光学系は、第1の視点と異なる第2の視点に対応する被写体の第2の光学像を撮像素子22に形成する。
凹レンズ23a、凸レンズ24a、および結像光学系26は、第1の光学系である。第1の光学系は、被写体からの光に基づく第1の光学像を撮像素子22の撮像領域S1に形成する。第1の光学系を通る光路は、第1の光路L1である。凹レンズ23b、凸レンズ24b、および結像光学系26は、第2の光学系である。第2の光学系は、被写体からの光に基づく第2の光学像を撮像素子22の撮像領域S1に形成する。第2の光学系を通る光路は、第2の光路L2である。
第1の撮像条件において切り替え部25は、第1の光学系を通る光を撮像素子22に入射させ、かつ第2の光学系を通る光を遮蔽する。第2の撮像条件において切り替え部25は、第2の光学系を通る光を撮像素子22に入射させ、かつ第1の光学系を通る光を遮蔽する。切り替え制御部36は、切り替え部25を制御することにより、撮像素子22に形成される光学像を第1の光学像および第2の光学像の間で切り替える。
切り替え部25は、第1の光路L1および第2の光路L2のうちいずれか一方を撮像光路として設定することにより、被写体の第1の光学像および被写体の第2の光学像のうちのいずれか一方のみを撮像素子22の撮像領域S1に形成する。第1の光路L1および第2の光路L2は互いに異なる。被写体の第1の光学像は、第1の光路L1を通った光により形成される。被写体の第2の光学像は、第2の光路L2を通った光により形成される。
第2の光学系の被写体側の光軸は第1の光学系の被写体側の光軸と略平行である。第2の光学系は、第1の光学系に対して視差を有する。つまり、第1の光学系および第2の光学系は、視差方向に離間している。視差方向は、第1の光学系の光学中心(主点)と第2の光学系の光学中心(主点)とを通る直線の方向である。視差方向は、各光学系の光軸と略直交する。第1の光学系に入射した光は第1の光路L1を通る。第2の光学系に入射した光は、第1の光路L1と異なる第2の光路L2を通る。第1の光学系は被写体の第1の光学像を形成し、かつ第2の光学系は被写体の第2の光学像を形成する。
切り替え部25は、第1の光路L1と第2の光路L2との間で撮像光路を切り替える。切り替え部25は、第1の光路L1および第2の光路L2のうちいずれか一方を通る光のみを透過させ、かつ他方を通る光を遮蔽する。例えば、切り替え部25は、第1の光路L1および第2の光路L2のうちいずれか一方のみに挿入されるシャッター(遮蔽板)を含む。切り替え部25が第1の光路L1の光を透過させるとき、シャッターが第2の光路L2に挿入され、かつ第2の光路L2の光は遮蔽される。切り替え部25が第2の光路L2の光を透過させるとき、シャッターが第1の光路L1に挿入され、かつ第1の光路L1の光は遮蔽される。切り替え部25の動作は、切り替え制御部36からの制御信号によって制御される。切り替え部25は、偏光板および液晶セルを含む液晶シャッターであってもよい。切り替え部25は、上記の構成に限らない。
結像光学系26は、第1の光路L1を通った光と第2の光路L2を通った光とのいずれか一方に基づく被写体像を撮像素子22の撮像領域S1に形成する。撮像素子22の撮像領域S1に形成される被写体像は、第1の光路L1および第2の光路L2のうち撮像光路のみを通った光に基づく。撮像光路は、第1の光路L1および第2の光路L2のいずれか1つである。
光学アダプター21および挿入部20が一体化されてもよい。つまり、光学アダプター21内の構成は、挿入部20の先端に配置されてもよい。
被写体の第1の光学像は、第1の光路L1を通った光に基づいて形成される。被写体の第2の光学像は、第2の光路L2を通った光に基づいて形成される。第1の光学像および第2の光学像は、撮像素子22の撮像領域S1に入射する。撮像素子22は、第1の光学像および第2の光学像を撮像する。撮像素子22は、第1の光学系によって形成された第1の光学像を第1の撮像タイミングで撮像する。撮像素子22は、第2の光学系によって形成された第2の光学像を第2の撮像タイミングで撮像する。第1の撮像タイミングおよび第2の撮像タイミングは、互いに異なる。
撮像素子22は、複数のフレーム期間の各々において複数のセル54の配列における複数の行を1行毎に連続的に走査する。撮像素子22は、複数の行を1行毎に連続的に走査することにより、複数の行におけるセル54から画素信号を読み出す。撮像素子22は、第1の画像および第2の画像を生成する。第1の画像は、撮像領域S1に形成された第1の光学像に基づく。第2の画像は、撮像領域S1に形成された第2の光学像に基づく。第1の画像および第2の画像は、複数の行のセル54から読み出された画素信号に基づく画素値を含む画像データである。撮像素子22は、第1の画像および第2の画像を映像処理部31に出力する。撮像素子22の動作は、撮像制御部30からの制御信号によって制御される。
複数の撮像条件は、第1の撮像条件および第2の撮像条件を含む。第1の撮像条件および第2の撮像条件は互いに異なる。第1の撮像条件において、第1の光路L1が撮像光路として設定される。撮像素子22は、第1の撮像条件で被写体を撮像することにより被写体の第1の画像を生成する。第2の撮像条件において、第2の光路L2が撮像光路として設定される。撮像素子22は、第2の撮像条件で被写体を撮像することにより被写体の第2の画像を生成する。
例えば、ライン露光方式のCMOSイメージャーが撮像素子22に使用される。CMOSイメージャーを採用することにより、内視鏡装置1の構成をシンプルにし、かつ内視鏡装置1の消費電力を低減することができる。
信号線90が挿入部20の内部および本体部3の内部に配置されている。信号線90は、複数の同軸ケーブルを束ねることにより形成された複合同軸線である。信号線90の先端側は撮像素子22に接続され、かつ信号線90の基端側の一部の同軸ケーブルは撮像制御部30に接続される。撮像制御部30は、信号線90を経由して、駆動のための電力を撮像素子22に供給する。また、撮像制御部30は、映像処理部31から受け取った撮像パラメーターを撮像素子22に出力する。これにより、撮像制御部30は、撮像素子22を制御する。
信号線90の基端側の残りの同軸ケーブルは映像処理部31に接続される。撮像素子22によって生成された画像は、映像処理部31に伝送される。映像処理部31は、撮像素子22から出力される画像に対して、各種の映像処理を実行する。例えば、映像処理部31が実行する映像処理は、デモザイキング、デジタルゲイン調整、ノイズリダクション、ホワイトバランス調整、輪郭補正、およびガンマ補正の少なくとも1つである。映像処理部31は、映像処理が行われた画像と、CPU34によって生成されたグラフィックデータとを合成する。これにより、映像処理部31は、表示のための映像信号を生成する。映像処理部31は、生成された映像信号を表示部5に出力する。
さらに、映像処理部31は、適切な明るさで撮像を行うための制御パラメーターを生成する。映像処理部31は、入力された画像あるいは映像処理が行われた画像に基づいて、撮像制御パラメーターおよび照明制御パラメーターを生成する。撮像制御パラメーターは、撮像素子22のライン読み出し周期、フレームレート、およびアナログゲインなどのパラメーターである。照明制御パラメーターは、照明光のオンのタイミング、照明光のオフのタイミング、および点灯強度などのパラメーターである。映像処理部31は、撮像制御パラメーターを撮像制御部30に出力する。撮像制御部30は、撮像制御パラメーターに基づいて撮像素子22を制御する。映像処理部31は、照明制御パラメーターを照明制御部33に出力する。照明制御部33は、照明制御パラメーターに基づいて白色光源37を制御する。
撮像制御部30、照明制御部33、および切り替え制御部36の少なくとも2つは、一体化されてもよい。撮像制御部30、照明制御部33、および切り替え制御部36は、プロセッサおよび論理回路の少なくとも1つで構成されてもよい。例えば、プロセッサは、CPU、DSP(Digital Signal Processor)、およびGPU(Graphics Processing Unit)の少なくとも1つである。例えば、論理回路は、ASIC(Application Specific Integrated Circuit)およびFPGA(Field−Programmable Gate Array)の少なくとも1つである。撮像制御部30、照明制御部33、および切り替え制御部36は、1つまたは複数のプロセッサを含むことができる。撮像制御部30、照明制御部33、および切り替え制御部36は、1つまたは複数の論理回路を含むことができる。
内視鏡装置1のコンピュータが、プログラムを読み込み、かつ読み込まれたプログラムを実行してもよい。プログラムは、撮像制御部30、照明制御部33、および切り替え制御部36の動作を規定する命令を含む。つまり、撮像制御部30、照明制御部33、および切り替え制御部36の機能はソフトウエアにより実現されてもよい。そのプログラムは、例えばフラッシュメモリのような「コンピュータ読み取り可能な記録媒体」により提供されてもよい。そのプログラムは、そのプログラムを保持するコンピュータから、伝送媒体を経由して、あるいは伝送媒体中の伝送波により内視鏡装置1に伝送されてもよい。プログラムを伝送する「伝送媒体」は、情報を伝送する機能を有する媒体である。情報を伝送する機能を有する媒体は、インターネット等のネットワーク(通信網)および電話回線等の通信回線(通信線)を含む。上述したプログラムは、前述した機能の一部を実現してもよい。さらに、上述したプログラムは、差分ファイル(差分プログラム)であってもよい。コンピュータに既に記録されているプログラムと差分プログラムとの組合せが、前述した機能を実現してもよい。
CPU34は、内視鏡装置1内の各部を制御する。また、CPU34は、操作部4の状態を監視する。これによって、CPU34は、計測に関する操作等を検出する。CPU34は、DSPまたはGPUであってもよい。CPU34は、ASICまたはFPGAであってもよい。
メモリー35は、映像処理部31によって処理された画像を記憶する。メモリー35は、撮像素子22から出力された画像を記憶してもよい。メモリー35は、内視鏡装置1から取り外すことが可能であってもよい。メモリー35は、揮発性または不揮発性のメモリーとして構成される。例えば、メモリー35は、RAM(Random Access Memory)、DRAM(DynamicRandom Access Memory)、SRAM(Static Random Access Memory)、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、およびフラッシュメモリのいずれか1つである。あるいは、メモリー35は、上記のメモリーの少なくとも2つの組み合わせであってもよい。内視鏡装置1は、画像を記憶するためのハードディスクドライブを有してもよい。
操作部4は、ユーザーから指示を受け付けるユーザーインターフェースである。ユーザーは、操作部4を操作することにより、内視鏡装置1全体の各種動作制御に必要な指示を入力する。操作部4は、ユーザーから受け付けた指示を示す信号をCPU34に出力する。例えば、操作部4は、ボタン、スイッチ、キー、マウス、ジョイスティック、タッチパッド、トラックボール、およびタッチパネルの少なくとも1つである。
表示部5は、映像処理部31から出力された映像信号に基づいて被写体の画像を表示する。また、表示部5は、操作制御内容および計測結果等を表示する。例えば、操作制御内容はメニューとして表示される。例えば、表示部5は、液晶ディスプレイおよび有機EL(Electro Luminescence)ディスプレイの少なくとも1つである。表示部5は、タッチパネルディスプレイであってもよい。その場合、操作部4および表示部5は一体化される。
図3は、CPU34の機能構成を示す。CPU34の機能は、制御部340、表示処理部341、画像処理部342、可視化処理部343、および記録部344を含む。図3に示すブロックの少なくとも1つがCPU34とは異なる回路で構成されてもよい。
制御部340は、各部が実行する処理を制御する。ユーザーが操作部4を操作した場合、制御部340は、ユーザーが行った操作を受け付ける。表示処理部341は、メニュー等を表示するためのグラフィックデータを生成する。表示処理部341によって生成されたグラフィックデータは映像処理部31に出力される。また、表示処理部341は、映像処理部31を制御することにより、表示部5に表示される画像の状態を制御する。
画像処理部342(画像処理器)は、被写体の画像に基づいて画像処理を実行する。画像処理部342は、適性判断部345、ノイズ低減部346、および計測処理部347を有する。
画像処理部342は、複数のフレーム期間において生成された複数枚の画像に画像処理を実行する。画像処理部342は、複数枚の画像を処理する。
切り替え制御部36は、切り替え部25に、複数の第1のフレーム期間において第1の撮像条件を設定させる。切り替え制御部36は、切り替え部25に、複数の第2のフレーム期間において第2の撮像条件を設定させる。複数の第2のフレーム期間の各々は、複数の第1のフレーム期間の各々と異なる。
撮像素子22は、被写体の複数枚の第1の画像と被写体の複数枚の第2の画像との少なくとも一方を生成する。適性判断部345は、複数枚の第1の画像が画像処理に適しているか否かを示す値と、複数枚の第2の画像が画像処理に適しているか否かを示す値との少なくとも一方を算出する。
撮像素子22は、第1の撮像条件で被写体を撮像することにより複数枚の第1の画像を生成する。撮像素子22は、第2の撮像条件で被写体を撮像することにより複数枚の第2の画像を生成する。ノイズ低減部346は、複数枚の第1の画像の入力に基づいてノイズ低減処理を行うことにより、第3の画像を生成する。ノイズ低減部346は、複数枚の第2の画像の入力に基づいてノイズ低減処理を行うことにより、第4の画像を生成する。
画像処理部342は、第3の画像および第4の画像に、ノイズ低減処理と異なる処理を行う。具体的には、計測処理部347は、第3の画像および第4の画像に基づいて、パッシブステレオ法を使用することにより被写体の表面の複数点の3次元座標を算出する。
計測処理部347は、被写体の形状、被写体の寸法、および被写体までの距離(被写体距離)の少なくとも1つを計測する。例えば、被写体の形状は、3次元点群あるいはメッシュポリゴンとして計測される。3次元点群は、被写体の表面の複数点の3次元座標の集合である。メッシュポリゴンは、3次元点群に含まれる各点を頂点にもつ三角形の集合である。被写体の寸法は、被写体上の任意の2点間の距離および被写体上の3点以上で構成される領域の面積等である。被写体距離は、撮像素子22が配置された挿入部20の先端から被写体までの距離である。具体的には、被写体距離は、撮像素子22から被写体までの距離である。被写体距離は第1の光学系の主点あるいは第2の光学系の主点から被写体までの距離であってもよい。被写体距離はレンズの被写体側の面から被写体までの距離であってもよい。計測処理部347は、2つの画像が有する視差を利用した三角測量によりステレオ計測を行う。具体的には、計測処理部347は、第1の画像あるいは第3の画像に設定された計測点に対応する点を第2の画像あるいは第4の画像において検出する。この処理は、テンプレートマッチング処理と呼ばれる。計測処理部347は、検出された点の座標(対応点座標)と計測点の座標(計測点座標)とに基づいて、計測点座標に対応する被写体上の点の3次元座標を算出する。計測点は、撮像素子22の撮像領域S1におけるセル54のアドレスに関連付けられる。計測処理部347は、被写体の表面の1点のみの3次元座標を算出してもよい。
画像処理部342によって実行された画像処理の結果は、可視化処理部343に出力される。可視化処理部343は、データ生成部(データ生成器)である。可視化処理部343は、画像処理結果を可視化したグラフィックデータを生成する。これにより、可視化処理部343は、被写体の3次元形状を再構成した結果を画像として表現したグラフィックデータを生成する。
第1の実施形態において、照明光は白色光である。撮像素子22は、赤のカラーフィルター、緑のカラーフィルター、および青のカラーフィルターを有する。各カラーフィルターは図6に示される。各カラーフィルターについては後述する。撮像素子22は、カラー画像を被写体の画像として生成する。カラー画像は、複数の画素を含む。各画素は、赤の明るさ、緑の明るさ、および青の明るさの各々を示す情報を画素値として持つ。画像処理部342は、被写体の表面の複数点の3次元座標(3D点群)と、その複数点の各々に対応する画素値とが関連付けられた3次元形状データ(カラー3D点群あるいはカラーテクスチャー付きメッシュポリゴン)を生成する。可視化処理部343は、3次元形状データを可視化したグラフィックデータを生成する。グラフィックデータは、3次元形状データを仮想空間内に配置し、かつその仮想空間内に配置した仮想的なカメラでその3次元形状データを撮影した画像に相当する。画像処理部342が生成する3D形状データにおいて、被写体の表面の複数点に含まれる各点の3次元座標と、その複数点に含まれる各点の画素値とが関連付けられている。可視化処理部343が仮想空間内に配置する3D形状データと、カメラの位置と、カメラの姿勢と、カメラの画角との少なくともひとつはユーザーが操作部4を操作することによって変更される。
可視化処理部343によって生成されたグラフィックデータは映像処理部31に出力される。記録部344は、被写体の画像をメモリー35に記録する。
操作部4および表示部5は必須ではない。
図4は、撮像素子22の構成を示す。図4に示す撮像素子22は、画素部50、垂直走査部51、信号処理部52、および水平走査部53を有する。
画素部50は、行列状に配置された複数のセル54を有する。複数のセル54は、撮像素子22の撮像領域S1に配置されている。複数のセル54の配列における行数と列数との各々は、2以上である。行数と列数とが同一でなくてもよい。複数のセル54の各々は、セル54に入射した光の量に応じた画素信号を生成する。複数のセル54の各々は、垂直信号線56に接続されている。複数の垂直信号線56が配置されている。複数の垂直信号線56の各々は、複数のセル54の配列における列毎に配置されている。複数のセル54の各々は、生成された画素信号を垂直信号線56に出力する。
複数のセル54の各々は、制御信号線57に接続されている。複数の制御信号線57が配置されている。複数の制御信号線57の各々は、複数のセル54の配列における1行毎に配置されている。複数の制御信号線57の各々は、垂直走査部51に接続されている。複数のセル54の動作を制御するための制御信号が垂直走査部51から制御信号線57に出力される。1個の行のセル54に対して複数の制御信号線57が配置されている。図4では1個の行のセル54に対して1つの制御信号線57が示され、他の制御信号線57は省略されている。制御信号の詳細については、後述する。
複数のセル54の動作は、制御信号線57に出力された制御信号に基づいて制御される。1個の行のセル54に対応する制御信号は、その行における全てのセル54に共通に供給される。このため、同一の行に配置された2つ以上のセル54に対して同一の動作タイミングが設定される。つまり、同一の行に配置された2つ以上のセル54は、同時に動作する。セル54の構成の詳細については、後述する。
撮像制御部30によって生成された制御信号が撮像素子22に送信される。垂直走査部51は、撮像制御部30からの制御信号に基づいて、複数のセル54の動作を制御するための制御信号を生成する。垂直走査部51は、複数のセル54の配列における複数の行の各々に対応する制御信号を生成する。垂直走査部51は、生成された制御信号を制御信号線57に出力する。
信号処理部52は、複数の信号処理回路55を有する。信号処理回路55は、複数のセル54の配列における列毎に配置されている。信号処理回路55は、垂直信号線56に接続されている。信号処理回路55は、セル54から垂直信号線56に出力された画素信号に対して、信号処理を行う。信号処理回路55が行う信号処理は、CDS(Correlated Double Sampling)およびAGC(Analog Gain Control)等を含む。
信号処理回路55によって処理された画素信号は、水平走査部53に入力される。水平走査部53は、複数のセル54の配列における列を順次選択する。水平走査部53によって選択された列に対応する画素信号は、出力端子58から出力される。
撮像素子22は、行列状に配置された複数のセル54を備える。撮像素子22は、複数のフレーム期間の各々において、被写体の光学像に基づく各セル54の画素信号を生成する。撮像素子22は、複数のフレーム期間の各々において、その画素信号を使用して被写体の画像を生成する。
図5は、セル54の構成を示す。図5に示すセル54は、光電変換部70、電荷転送部71、電荷保持部72、容量リセット部73、増幅部74、および出力部75を有する。光電変換部70は、フォトダイオードである。電荷保持部72は、容量である。電荷転送部71、容量リセット部73、増幅部74、および出力部75は、トランジスタである。
光電変換部70は、セル54に入射した光の量に応じた電荷を生成し、蓄積する。電荷転送部71は、光電変換部70によって生成され、蓄積された電荷を電荷保持部72に転送する。電荷保持部72は、光電変換部70から転送された電荷を保持する。容量リセット部73は、電源電圧VDDに基づいて、電荷保持部72の電荷をリセットする。容量リセット部73がオンになることにより、容量リセット部73は電荷保持部72の電荷をリセットする。増幅部74は、電荷保持部72に保持された電荷に基づく信号を増幅する。出力部75は、増幅部74によって増幅された信号を画素信号として垂直信号線56に出力する。
電荷転送部71の動作は、制御信号φTXによって制御される。容量リセット部73の動作は、制御信号φRSTによって制御される。出力部75の動作は、制御信号φSELによって制御される。制御信号φTX、制御信号φRST、および制御信号φSELは、制御信号線57を経由して垂直走査部51から供給される。
セル54の動作は、容量リセット、電荷転送、および信号読み出しを含む。容量リセットは、容量リセット部73の動作に対応する。電荷転送は、電荷転送部71の動作に対応する。信号読み出しは、出力部75の動作に対応する。蓄積開始タイミングから転送タイミングまでの期間が、セル54において露光を行える期間(露光期間)である。蓄積開始タイミングは、光電変換部70が、セル54に入射した光に基づく電荷の生成とその電荷の蓄積とを開始するタイミングである。転送タイミングは、電荷転送部71が、光電変換部70に蓄積された電荷を電荷保持部72に転送するタイミングである。セル54の露光期間においてセル54に入射した光の量に応じて、セル54は電荷を蓄積する。以下の記載において、セル54がリセットされた状態とは、露光期間が終了し、電荷転送部71が、光電変換部70に蓄積された電荷を電荷保持部72に転送したタイミングにおけるセル54の状態を表している。
撮像素子110は、画素信号を出力部75から出力することにより、画素信号をセル54から読み出す。撮像素子110は、画素信号をセル54から読み出すことにより、画像を取得する。画素信号の読み出しと画像の取得とは、等価である。
図6に示すように、撮像素子22は、各セル54に配置されたカラーフィルターCFを有する。図6は、カラーフィルターCFの配列を示す。カラーフィルターCFは、RフィルタCFr、GフィルタCFgr、GフィルタCFgb、およびBフィルタCFbを含む。
RフィルタCFrは、赤のカラーフィルターである。RフィルタCFrは、赤色光を透過させ、かつそれ以外の光を遮断する。GフィルタCFgrおよびGフィルタCFgbは、緑のカラーフィルターである。GフィルタCFgrおよびGフィルタCFgbは、緑色光を透過させ、かつそれ以外の光を遮断する。BフィルタCFbは、青のカラーフィルターである。BフィルタCFbは、青色光を透過させ、かつそれ以外の光を遮断する。
図6に示すカラーフィルターCFの配列は、ベイヤー配列である。ベイヤー配列において、基本配列が行方向かつ列方向に規則的かつ周期的に配置される。基本配列は、1個のRフィルタCFr、2個のGフィルタCFgr,CFgb、および1個のBフィルタCFbを含む。
撮像素子22は、赤色光に基づくR信号と、緑色光に基づくG信号と、青色光に基づくB信号とを生成する。撮像素子22は、R信号、G信号、およびB信号に基づく画素値を含むカラー画像を出力する。
図7は、計測モードにおける撮像素子22の動作と、照明の状態と、撮像条件の状態との関係を示す。図7を参照し、撮像素子22の動作を説明する。図7に示す例では、撮像素子22の撮像領域S1は、8個の行を有する。撮像領域S1の行数は8に限らない。
タイミングチャートTC10は、撮像素子22の動作を示す。タイミングチャートTC10において、横方向は時間を示し、かつ縦方向はセル54の行位置を示す。最も上の行が第1行であり、かつ最も下の行が第8行である。
タイミングチャートTC10において、照明の状態すなわち白色光源37の状態が示されている。白色光源37の状態は、オン(ON)およびオフ(OFF)のいずれか1つである。タイミングチャートTC10において、撮像条件すなわち撮像光路が示されている。撮像光路は、第1の光路L1および第2の光路L2のいずれか1つである。タイミングチャートTC10において、切り替え部25の動作が示されている。切り替え部25の動作は、第1の光路L1から第2の光路L2への切り替えと、第2の光路L2から第1の光路L1への切り替えとのいずれか1つである。
タイミングチャートTC10において、フレームレートは60fpsである。各フレーム期間の長さは1/60秒である。各フレーム期間は、1行分のセル54の露光期間および1行分のセル54の読み出し期間を含む。ある行の読み出し期間において、その行に含まれるセル54の画素信号が読み出される。画素信号の読み出しは、電荷転送および信号読み出しを含む。タイミングチャートTC10において、第1行のセル54における露光期間の開始タイミングを基準にしたフレーム期間が示されている。第2行から第8行のフレーム期間は、各行の1つ前の行のフレーム期間よりも所定時間だけ遅れて開始される。フレーム期間nの露光期間においてセル54に蓄積された画素信号は、フレーム期間nの読み出し期間においてセル54から読み出される。フレーム期間nの露光期間は、フレーム期間nの第1行から第8行の各露光期間である。フレーム期間nの読み出し期間は、フレーム期間nの第1行の読み出し期間の開始からフレーム期間nの第8行の読み出し期間の終了までの期間である。
図7における破線L10は、各行のフレーム期間の開始タイミングを示す。タイミングチャートTC10以外のタイミングチャートにおいて破線L10は省略されるが、破線L10の意味は、本明細書において共通である。図7における記号M10は、読み出し期間を示す。図7における記号M11は、露光期間を示す。タイミングチャートTC10以外のタイミングチャートにおいて記号M10および記号M11は省略されるが、記号M10および記号M11の各々の意味は、本明細書において共通である。
フレーム期間iの露光期間の開始タイミングにおいて、第1行のセル54がリセットされる。これにより、第1行のセル54の露光期間が開始される。露光期間において、セル54に入射した光に基づく信号がセル54に蓄積される。第1行のセル54の露光期間が開始された後、第2行のセル54の露光期間が開始される。同様に、第3行から第8行のセル54の露光期間が順次開始される。
垂直走査部51は、各行の制御信号を順次生成し、かつ生成された制御信号を各行のセル54に順次出力する。撮像素子22は、垂直走査部51から順次出力された制御信号に基づいて、複数の行のセル54を1行毎に連続的に順次リセットする。撮像素子22は、このリセットにより、複数の行のセル54の露光期間を順次開始する。
フレーム期間iの1つ前のフレーム期間(i−1)において、取得される画像の撮像光路は第2の光路L2である。フレーム期間iにおける第1行のセル54の露光期間が開始されたとき、撮像光路の切り替えが開始される。切り替え制御部36は、撮像光路の切り替えのための制御信号を切り替え部25に出力する。これにより、切り替え制御部36は、切り替え部25に撮像光路を切り替えさせる。切り替え部25は、撮像制御部30からの制御信号に基づいて、第2の光路L2から第1の光路L1への切り替えを開始する。第2の光路L2から第1の光路L1への切り替えの開始は、フレーム期間(i−1)における第1行のセル54の画素信号の読み出しの開始(フレーム期間(i−1)の読み出し期間の開始)と同時か、それよりも後でありさえすればよい。また、撮像制御部30からの制御信号の出力のタイミングは、制御信号の出力のタイミングから光路の切り替えの開始のタイミングまでの時間差と同じかそれよりも短い時間だけ、第1行のセル54の画素信号の読み出しの開始よりも早くてもよい。これにより、光路の切り替えの開始が第1行のセル54の画素信号の読み出しの開始と同時かそれよりも後になる。
フレーム期間iにおける第3行のセル54の露光期間が開始されたとき、切り替え部25は、第2の光路L2から第1の光路L1への切り替えを完了する。フレーム期間iにおいて取得される画像の撮像光路は第1の光路L1である。第2の光路L2から第1の光路L1への切り替えの完了は、フレーム期間iにおける第8行のセル54の露光期間の開始(フレーム期間(i−1)の読み出し期間の終了)と同時か、それよりも前でありさえすればよい。
フレーム期間iにおける第1行のセル54の露光期間が開始されたとき、白色光源37は消灯している。フレーム期間iにおける第8行のセル54の露光期間が開始されたとき、白色光源37の点灯が開始される。照明制御部33は、点灯のための制御信号を白色光源37に出力することにより、白色光源37を点灯させる。白色光源37は、照明制御部33からの制御信号に基づいて、点灯を開始する。白色光源37の点灯の開始は、フレーム期間iにおける第8行のセル54の露光期間の開始(フレーム期間(i−1)の読み出し期間の終了)よりも後であってもよい。
フレーム期間iにおける第1行のセル54の露光期間が終了したとき、フレーム期間iにおける第1行のセル54の読み出し期間が開始される。第1行のセル54は、画素信号を垂直信号線56に出力する。第1行のセル54の読み出し期間が開始された時刻から所定時間が経過したとき、第1行のセル54の読み出し期間が終了する。このとき、第1行のセル54がリセットされ、かつフレーム期間(i+1)における第1行のセル54の露光期間が開始される。
フレーム期間iにおける第1行のセル54の読み出し期間が開始されたとき、白色光源37の点灯が終了する。照明制御部33は、消灯のための制御信号を白色光源37に出力することにより、白色光源37を消灯させる。白色光源37は、照明制御部33からの制御信号に基づいて、消灯する。白色光源37の点灯の終了は、フレーム期間iにおける第1行のセル54の読み出し期間の開始(フレーム期間iの読み出し期間の開始)よりも前であってもよい。
図7に示すタイミングチャートTC10では、照明制御部33は、白色光源37を間欠的に点灯させる。白色光源37は間欠的に点灯する。白色光源37が点灯し続ける期間は、複数の行のセル54の露光期間と重なる。白色光源37が点灯し続ける期間において、全ての行のセル54は同時に露光される。白色光源37の点灯によりセル54に被写体からの光が入射する期間(撮像期間)は、全ての行のセル54において共通である。すなわち、白色光源37の点灯のタイミングおよび白色光源37の消灯のタイミングの制御に基づいて、複数の行のセル54のグローバル露光(同時露光)が行われる。白色光源37が点灯し続ける期間は、セル54の読み出し期間を含まない。
フレーム期間iにおける第1行のセル54の読み出し期間が終了したとき、フレーム期間iにおける第2行のセル54の読み出し期間が開始される。第2行のセル54は、画素信号を垂直信号線56に出力する。第2行のセル54の読み出し期間が開始された時刻から所定時間が経過したとき、第2行のセル54の読み出し期間が終了する。このとき、第2行のセル54がリセットされ、かつフレーム期間(i+1)における第2行のセル54の露光期間が開始される。同様に、第3行から第8行のセル54の読み出し期間が順次開始され、かつ第3行から第8行のセル54の画素信号が順次読み出される。第3行から第8行のセル54が順次リセットされ、かつフレーム期間(i+1)における第3行から第8行のセル54の露光期間が順次開始される。
垂直走査部51は、各行の制御信号を順次生成し、かつ生成された制御信号を各行のセル54に順次出力する。撮像素子22は、垂直走査部51から順次出力された制御信号に基づいて、複数の行のセル54を1行毎に連続的に走査する。撮像素子22は、この走査により、複数の行のセル54から画素信号を順次読み出す。
撮像素子22の駆動方式は、ローリングシャッター方式である。ローリングシャッター方式では、1フレーム期間の読み出しの中で読み出し対象の行が1行ずつ変更され、かつ各行のセル54から連続的に画素信号が読み出される。ローリングシャッター方式では、1行毎に露光期間が順次開始され、かつ1行毎に画素信号が順次読み出される。画素信号の読み出しが完了した行のセル54はリセットされ、かつ次の1フレーム期間の露光期間が開始される。
フレーム期間iにおける第1行のセル54の読み出し期間が終了したとき、撮像光路の切り替えが開始される。切り替え制御部36は、撮像光路の切り替えのための制御信号を切り替え部25に出力する。これにより、切り替え制御部36は、切り替え部25に撮像光路を切り替えさせる。切り替え部25は、撮像制御部30からの制御信号に基づいて、第1の光路L1から第2の光路L2への切り替えを開始する。第1の光路L1から第2の光路L2への切り替えの開始は、フレーム期間iにおける第1行のセル54の読み出しの開始(フレーム期間iの読み出し期間の開始)と同時か、それよりも後でありさえすればよい。
フレーム期間iにおける第3行のセル54の読み出し期間が終了したとき、切り替え部25は、第1の光路L1から第2の光路L2への切り替えを完了する。フレーム期間(i+1)において取得される画像の撮像光路は第2の光路L2である。第1の光路L1から第2の光路L2への切り替えの完了は、フレーム期間(i+1)における第8行のセル54の露光期間の開始(フレーム期間iの読み出し期間の終了)と同時か、それよりも前でありさえすればよい。
フレーム期間iにおける第8行のセル54の読み出し期間が終了したとき、白色光源37の点灯が開始される。照明制御部33は、点灯のための制御信号を白色光源37に出力することにより、白色光源37を点灯させる。白色光源37は、照明制御部33からの制御信号に基づいて、点灯を開始する。白色光源37の点灯の開始は、フレーム期間iにおける第8行のセル54の読み出し期間の終了(フレーム期間iの読み出し期間の終了)よりも後であってもよい。
フレーム期間iよりも前の各フレーム期間において、撮像素子22は、フレーム期間iにおける動作と同じ動作を実行する。フレーム期間iよりも前の各フレーム期間において、白色光源37は間欠的に点灯する。フレーム期間iよりも前の各フレーム期間において、切り替え部25は撮像光路を第1の光路L1または第2の光路L2に切り替える。
フレーム期間(i+1)における第1行のセル54の露光期間が終了したとき、フレーム期間(i+1)における第1行のセル54の読み出し期間が開始される。フレーム期間iにおける動作と同様に、第1行から第8行のセル54の読み出し期間が順次開始され、かつ第1行から第8行のセル54の画素信号が順次読み出される。第1行から第8行のセル54が順次リセットされ、かつフレーム期間(i+2)における第1行から第8行のセル54の露光期間が順次開始される。
フレーム期間(i+1)における第1行のセル54の読み出し期間が開始されたとき、白色光源37の点灯が終了する。照明制御部33は、消灯のための制御信号を白色光源37に出力することにより、白色光源37を消灯させる。白色光源37は、照明制御部33からの制御信号に基づいて、消灯する。白色光源37の点灯の終了は、フレーム期間(i+1)における第1行のセル54の読み出し期間の開始(フレーム期間(i+1)の読み出し期間の開始)よりも前であってもよい。
フレーム期間(i+1)における第1行のセル54の読み出し期間が終了したとき、撮像光路の切り替えが開始される。切り替え制御部36は、撮像光路の切り替えのための制御信号を切り替え部25に出力する。これにより、切り替え制御部36は、切り替え部25に撮像光路を切り替えさせる。切り替え部25は、撮像制御部30からの制御信号に基づいて、第2の光路L2から第1の光路L1への切り替えを開始する。第2の光路L2から第1の光路L1への切り替えの開始は、フレーム期間(i+1)における第1行のセル54の読み出しの開始(フレーム期間(i+1)の読み出し期間の開始)と同時か、それよりも後でありさえすればよい。
フレーム期間(i+1)における第3行のセル54の読み出し期間が終了したとき、切り替え部25は、第2の光路L2から第1の光路L1への切り替えを完了する。フレーム期間(i+2)において取得される画像の撮像光路は第1の光路L1である。第2の光路L2から第1の光路L1への切り替えの完了は、フレーム期間(i+2)における第8行のセル54の露光期間の開始(フレーム期間(i+1)の読み出し期間の終了)と同時か、それよりも前でありさえすればよい。
撮像素子22は、フレーム期間(i+2)およびフレーム期間(i+3)において、フレーム期間iにおける動作と同じ動作を実行する。
白色光源37は、フレーム期間(i+2)およびフレーム期間(i+3)の各々における露光期間に点灯する。白色光源37は、点灯と消灯とを繰り返す。白色光源37は、フレーム期間毎に点灯し、かつフレーム期間毎に消灯する。
切り替え部25は、フレーム期間(i+2)およびフレーム期間(i+3)の各々における読み出し期間に撮像光路を切り替える。切り替え部25は、第1の光路L1から第2の光路L2への切り替えと、第2の光路L2から第1の光路L1への切り替えとを繰り返す。切り替え部25は、撮像光路の切り替えをフレーム期間毎に実行する。
内視鏡装置1が計測モードで動作している間、内視鏡装置1はフレーム期間iからフレーム期間(i+3)における動作を連続的にあるいは間欠的に繰り返す。
図7に示すタイミングチャートTC10では、画素信号が第1行から第8行のセル54から読み出される。つまり、画素信号が複数のセル54の全てから読み出される。画素信号が一部の行のみのセル54から読み出されてもよい。例えば、オプティカルブラック画素のみから構成される行を除く行、あるいは有効画素が含まれる行である有効行のみのセル54から画素信号が読み出されてもよい。画素信号が一部の行のみのセル54から読み出される場合、白色光源37が点灯し続ける期間は、その一部の行のみのセル54が同時に露光される期間と重なってもよい。第1行から第8行の数字は読み出しの順序を示す。この数字は、撮像面上での物理的な順序と異なっていてもよい。例えば、セル54は、物理的には第8行から降順に配置されていてもよい。あるいは、セル54は、所定方向に第1行、第5行、第2行、第6行、第3行、第7行、第4行、第8行の順に配置されていてもよい。
撮像素子22は、第1の期間T1において画素信号を複数のセル54の少なくとも一部から1行毎に順次読み出す。撮像素子22は、第1の期間T1において画素信号を同時露光行のセル54から1行毎に順次読み出す。同時露光行は、複数のセル54の配列における複数の行の少なくとも一部である。同時露光行は、白色光源37の点灯により同時露光されるセル54を含む。図7に示すタイミングチャートTC10では、全ての行が同時露光行であり、フレーム期間nの第1の期間T1は、フレーム期間nの第1行のセル54における画素信号の読み出しの開始から第8行のセル54における画素信号の読み出しの完了までの期間(フレーム期間nの読み出し期間)である。
図7に示すタイミングチャートTC10では、白色光源37は、1フレーム期間における画素信号の読み出しの完了と同時に点灯する。つまり、白色光源37は、第1の期間T1の完了と同時に点灯する。白色光源37は、1フレーム期間における画素信号の読み出しの開始と同時に消灯する。つまり、白色光源37は、第1の期間T1の開始と同時に消灯する。
照明制御部33は、白色光源37に、第2の期間T2において照明光を生成させる。白色光源37は、第2の期間T2において点灯し続ける。第2の期間T2は、第1の期間T1を除く期間の少なくとも一部である。図7に示すタイミングチャートTC10では、第2の期間T2は第1の期間T1を除く期間の全てである。
照明制御部33は、白色光源37に、第3の期間T3において照明光の生成を停止させる。白色光源37は、第3の期間T3において消灯し続ける。第3の期間T3は、第2の期間T2を除く期間の全てである。第3の期間T3は、第1の期間T1の全てを含む期間である。図7に示すタイミングチャートTC10では、第3の期間T3は第1の期間T1と同じである。
第2の期間T2は、複数のセル54の配列における複数の行の露光期間と重なる。1フレーム期間において撮像素子22が最後に走査する行の読み出し期間が完了したとき、第2の期間T2が開始される。1フレーム期間において撮像素子22が最初に走査する行の読み出し期間が開始されたとき、第2の期間T2が完了する。
切り替え制御部36は、切り替え部25に、第3の期間T3において撮像光路の切り替えを開始させ、かつ第3の期間T3において撮像光路の切り替えを完了させる。すなわち、次の第2の期間T2が開始される前に、切り替え制御部36は、切り替え部25に、撮像光路の切り替えを完了させる。図7に示すタイミングチャートTC10では、第3の期間T3は第1の期間T1と同じであるため、切り替え部25は、第1の期間T1において撮像光路の切り替えを開始し、かつ第1の期間T1において撮像光路の切り替えを完了する。
撮像素子22は、第1の期間T1において、複数のフレーム期間の各々の行のセル54の露光期間と読み出し期間との合計の長さの2分の1以下の時間で1フレームの画素信号を読み出す。つまり、撮像素子22は、フレーム期間の長さの2分の1以下の時間で1フレームの画素信号を読み出す。撮像素子22は、セル54の画素信号の読み出しに必要な時間を短くすることにより、複数のセル54の少なくとも一部で同時に露光できる期間(同時露光期間)を長くすることができる。そのため、撮像の感度が向上する。図7に示すタイミングチャートTC10では、フレーム期間が約1/60秒であり、全てのセル54に対応する同時露光期間は約1/120秒である。
撮像素子22が画素信号を1行のセル54から読み出す時間は、時間Tr以下である。時間Trは、以下の式(1)で示される。数字mは2以上の整数であり、撮像素子22の同時露光行の行数である。m個の行のセル54の同時露光期間は、白色光源37が点灯し続ける第2の期間T2の全てを含む。式(1)において時間Tfはフレーム期間の長さである。
Tr=Tf/(m×2) (1)
第2の期間T2は、撮像光路の切り替えが実行される第3の期間と重ならない。白色光源37が点灯している間、撮像光路は固定される。つまり、複数のセル54が露光されている間、撮像光路は固定される。撮像素子22から出力される画像は、第1の光学像および第2の光学像の一方のみに基づいて生成される。
計測処理部347は、第1の画像および第2の画像に基づいて計測処理を実行する。第1の画像は第1のフレーム期間において取得され、かつ第2の画像は第2のフレーム期間において取得される。第1のフレーム期間および第2のフレーム期間は、連続する2フレーム期間である。第1の取得タイミングと第2の取得タイミングとの間隔は、1フレーム期間と同じである。第1の取得タイミングは、撮像素子22が第1の画像を取得するタイミングである。第2の取得タイミングは、撮像素子22が第2の画像を取得するタイミングである。
図8は、計測モードにおける撮像素子22の動作と、照明の状態と、撮像条件の状態との関係の他の例を示す。図8を参照し、撮像素子22の動作を説明する。図7に示す部分と同じ部分についての説明を省略する。
タイミングチャートTC11は、撮像素子22の動作を示す。タイミングチャートTC10とタイミングチャートTC11とでは、第2の期間T2の長さが異なる。
白色光源37は、1フレーム期間における画素信号の読み出しの完了よりも後に点灯する。つまり、白色光源37は、第1の期間T1の完了よりも後に点灯する。白色光源37は、1フレーム期間における画素信号の読み出しの開始よりも前に消灯する。つまり、白色光源37は、第1の期間T1の開始よりも前に消灯する。
白色光源37が点灯し続ける第2の期間T2は、第1の期間T1を除く期間の一部である。図8に示すタイミングチャートTC11では、第1の期間T1の長さと第2の期間T2の長さとの合計は、フレーム期間の長さよりも短い。
白色光源37が消灯し続ける第3の期間T3は、第2の期間T2を除く期間の全てである。図8に示すタイミングチャートTC11では、第3の期間T3は第1の期間T1と異なる。
1フレーム期間において撮像素子22が最後に走査する行の読み出し期間が完了した後、第2の期間T2が開始される。1フレーム期間において撮像素子22が最初に走査する行の読み出し期間が開始される前に、第2の期間T2が完了する。図7に示すタイミングチャートTC10と図8に示すタイミングチャートTC11との間での、第2の期間T2の開始のタイミングおよび第2の期間T2の終了のタイミングの違い(第2の期間T2の長さ)は、映像処理部31で実行される自動露光(AE)制御の結果である。
図9は、内視鏡装置1の動作の手順を示す。図9を参照し、内視鏡装置1の動作を説明する。
内視鏡装置1が起動したとき、内視鏡装置1は観察モードで動作する。内視鏡装置1が起動したとき、初期設定が実行される。撮像制御部30は、初期設定において、同時露光行を撮像素子22に設定する。同時露光行は、白色光源37の点灯により同時に露光されるセル54を含む。図7に示すタイミングチャートTC10および図8に示すタイミングチャートTC11では、複数のセル54の配列における全ての行が同時に露光される。撮像制御部30は、初期設定において、フレーム期間の長さを撮像素子22に設定する。撮像制御部30は、初期設定において、撮像素子22が画素信号を読み出す第1の期間T1の長さを撮像素子22に設定する。照明制御部33は、白色光源37を点灯させる(ステップS100)。
ステップS100の後、切り替え制御部36は、撮像光路の切り替えのための制御信号を切り替え部25に出力する。これにより、切り替え制御部36は、切り替え部25に、撮像光路の切り替えを開始させる。切り替え部25は、切り替え制御部36からの制御信号に基づいて、第2の光路L2から第1の光路L1への切り替えを開始する。その後、切り替え制御部36は、切り替え部25に、撮像光路の切り替えを完了させる(ステップS105)。ステップS105において撮像光路が既に第1の光路L1である場合、ステップS105における処理は不要である。
ステップS105の後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像素子22は、各フレーム期間において複数の行のセル54を1行毎に連続的に走査し、かつ各フレーム期間において複数の行のセル54から画素信号を順次読み出す。撮像素子22は、各フレーム期間において、複数の行のセル54の画素信号に基づく画像を出力する。撮像光路が第1の光路L1であるため、撮像素子22は第1の画像を出力する。映像処理部31は、撮像素子22から出力された第1の画像を処理する。映像処理部31によって処理された第1の画像は、表示処理部341およびCPU34に出力される(ステップS110)。
ステップS110の後、表示処理部341は、ステップS110において生成された第1の画像を表示部5に表示させる。表示部5は、第1の画像を表示する(ステップS115)。
ステップS115の後、制御部340は、計測を実行するか否かを判断する(ステップS120)。例えば、ユーザーが操作部4を操作することにより計測指示を入力した場合、制御部340は、ステップS120において計測を実行すると判断する。計測が所定周期で実行されてもよい。例えば、内視鏡装置1の起動から所定時間が経過したとき、制御部340は、計測を実行すると判断する。あるいは、前回の計測の実行から所定時間が経過したとき、制御部340は、計測を実行すると判断する。
ステップS120において、計測を実行しないと制御部340が判断した場合、ステップS105における処理が実行される。計測指示が入力されるまで、撮像光路は第1の光路L1に保たれる。計測指示が入力されるまで、撮像素子22は第1の画像を順次出力し、かつ表示部5は第1の画像を順次更新して表示する。
ステップS120において、計測を実行すると制御部340が判断した場合、内視鏡装置1は計測モードで動作する。撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像光路が第1の光路L1であるため、撮像素子22は第1の画像を出力する。照明制御部33は、第2の期間において、白色光源37を点灯させる。照明制御部33は、第3の期間において、白色光源37を消灯させる(ステップS130)。
ステップS130の後、切り替え制御部36は、撮像光路の切り替えのための制御信号を切り替え部25に出力する。これにより、切り替え制御部36は、切り替え部25に、撮像光路の切り替えを開始させる。切り替え部25は、切り替え制御部36からの制御信号に基づいて、第1の光路L1から第2の光路L2への切り替えを開始する。その後、切り替え制御部36は、切り替え部25に、撮像光路の切り替えを完了させる。(ステップS132)。実際はステップS130において撮像素子22が画素信号を読み出している間に、ステップS132における処理は実行される。
ステップS132の後、表示処理部341は、ステップS130において生成された第1の画像を表示部5に表示させる。表示部5は、第1の画像を表示する(ステップS135)。
ステップS135の後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像光路が第2の光路L2であるため、撮像素子22は第2の画像を出力する。照明制御部33は、第2の期間において、白色光源37を点灯させる。照明制御部33は、第3の期間において、白色光源37を消灯させる(ステップS145)。
ステップS145の後、切り替え制御部36は、撮像光路の切り替えのための制御信号を切り替え部25に出力する。これにより、切り替え制御部36は、切り替え部25に、撮像光路の切り替えを開始させる。切り替え部25は、切り替え制御部36からの制御信号に基づいて、第2の光路L2から第1の光路L1への切り替えを開始する。その後、切り替え制御部36は、切り替え部25に、撮像光路の切り替えを完了させる。(ステップS147)。実際はステップS145において撮像素子22が画素信号を読み出している間に、ステップS147における処理は実行される。
ステップS147の後、制御部340は、所定数の画像セットの取得が完了したか否かを判断する。1つの画像セットは、1枚の第1の画像および1枚の第2の画像の組み合わせである。画像セットに含まれる第1の画像と、画像セットに含まれる第2の画像とは、連続するフレーム期間で取得される。例えば、所定数は2である(ステップS150)。
ステップS150において、所定数の画像セットの取得が完了していないと制御部340が判断した場合、ステップS125における処理が実行される。ステップS125において、ステップS105における処理と同じ処理が実行される。ステップS125の後、ステップS130における処理が実行される。所定数の画像セットが取得されるまで、撮像光路は第1の光路L1と第2の光路L2との間で繰り返し切り替わる。撮像素子22は第1の画像および第2の画像を繰り返し出力する。互いに視差を有する第1の画像および第2の画像が交互に表示されると視認性が悪化する。そのため、表示部5は第2の画像を表示せずに第1の画像を順次更新して表示し続ける。
ステップS150において、所定数の画像セットの取得が完了したと制御部340が判断した場合、画像処理部342は画像処理を実行する(ステップS155)。
ステップS155の後、制御部340は、ステップS155において生成される処理結果に基づいて、画像処理が成功したか否かを判断する(ステップS160)。ステップS160において、画像処理が成功したと制御部340が判断した場合、ステップS105における処理が実行される。ステップS160において、画像処理が失敗したと制御部340が判断した場合、ステップS130における処理が実行される。
撮像素子22から出力された画像が処理されなくてもよい。したがって、ステップS155は必須ではない。表示部5は画像を表示しなくてもよい。したがって、ステップS115およびステップS135は必須ではない。
1つの画像セットが取得されてもよい。したがって、ステップS145の後、ステップS155における処理が実行されてもよい。この場合、ステップS150における処理は実行されない。
ステップS105の後、ステップS130における処理が実行されてもよい。この場合、ステップS110からステップS120における処理は実行されない。
図10は、ステップS155における画像処理の詳細を示す。図10を参照し、内視鏡装置1の動作を説明する。
画像セットAおよび画像セットBがCPU34に入力される。画像セットAおよび画像セットBの各々は、1枚の第1の画像および1枚の第2の画像を含む。
適性判断部345は、画像セットが後段の画像処理に適しているか否かを判断するための判断パラメーターを算出する。具体的には、適性判断部345は動き検出処理を実行する。適性判断部345は、動き検出処理において、セットAの第1の画像およびセットBの第1の画像に基づいて、2フレーム間の第1の動きを示す第1の値を算出する。適性判断部345は、動き検出処理において、セットAの第2の画像およびセットBの第2の画像に基づいて、2フレーム間の第2の動きを示す第2の値を算出する。例えば、適性判断部345は、画像の画素毎に2枚の画像間の画素値の差の絶対値を算出する。適性判断部345は、画像の全ての画素における画素値の差の絶対値の合計を算出する。適性判断部345は判断パラメーターとして第1の値と第2の値とを算出する。第1の値は、2枚の第1の画像から算出された画素値の差の絶対値の合計である。第2の値は、2枚の第2の画像から算出された画素値の差の絶対値の合計である。動きの検出方法は、動きベクトル算出などの他の方法であってもよい。適性判断処理における判断パラメーターの算出処理は、動き検出処理以外に、コントラスト検出処理または明るさ判断処理などの他の方法であってもよい。あるいは適性判断処理における判断パラメーターの算出処理は、それらの組み合わせであってもよい(ステップS200)。
ステップS200の後、適性判断部345は、算出したパラメーターに基づいて、画像セットが後段の画像処理に適しているか否かを判断する。適性判断部345は、各判断パラメーターが所定値未満であるか否かを判断する。判断パラメーターの全てが所定値未満であると適性判断部345が判断した場合、適性判断部345は、画像セットが後段の画像処理に適している(適性あり)と判断する。判断パラメーターの少なくとも1つが所定値以上であると適性判断部345が判断した場合、適性判断部345は、画像セットが後段の画像処理に適していない(適性なし)と判断する(ステップS205)。
ステップS205において、適性なしと適性判断部345が判断した場合、制御部340は、処理結果として失敗を記憶する(ステップS210)。適性なしと適性判断部345が判断した場合、画像処理部342は画像処理を中止する。具体的には、ノイズ低減部346はノイズ低減処理を中止し、かつ計測処理部347は計測処理を中止し、かつ可視化処理部343は、可視化処理を中止する。ステップS210の後、ステップS160における処理が実行される。
ステップS205において、適性ありと適性判断部345が判断した場合、ノイズ低減部346は、ノイズ低減処理を実行する。ノイズ低減部346は、ノイズ低減処理において、セットAの第1の画像およびセットBの第1の画像に基づいて、第1のNR画像(第3の画像)を生成する。第1のNR画像の画素値は、2枚の第1の画像間の画素値の加算平均である。ノイズ低減部346は、ノイズ低減処理において、セットAの第2の画像およびセットBの第2の画像に基づいて、第2のNR画像(第4の画像)を生成する。第2のNR画像の画素値は、2枚の第2の画像間の画素値の加算平均である(ステップS215)。
ステップS215の後、計測処理部347は、計測処理を実行する。計測処理部347は、計測処理において、第1のNR画像の光学的な歪みを補正することにより、第1の補正画像を生成する。計測処理部347は、計測処理において、第2のNR画像の光学的な歪みを補正することにより、第2の補正画像を生成する。計測処理部347は、計測処理において、第1のNR画像および第2のNR画像を用いたテンプレートマッチング処理により、視差の分布を取得する。視差の分布は、画像を構成する複数の画素の各々における視差情報を含む。計測処理部347は、計測処理において、視差の分布に基づいて、三角測量の原理で被写体の表面の各点の3次元座標を算出する。複数の画素の各々において3次元座標が算出される。計測処理部347は、カラー3Dデータを生成する。カラー3Dデータは、第1のNR画像の各画素の色情報と、各画素に対応する3次元座標とを含む。色情報は、赤の画素値、緑の画素値、および青の画素値を含む。カラー3Dデータにおいて、色情報および3次元座標が画素毎に関連付けられている。カラー3Dデータは、第2のNR画像の各画素の色情報と、各画素に対応する3次元座標とを含んでもよい。(ステップS220)。
ステップS220の後、可視化処理部343は、可視化処理を実行する。可視化処理部343は、可視化処理において、カラー3Dデータを仮想空間内に配置することにより、透視投影画像を生成する。透視投影画像は、仮想空間内に配置された仮想的なカメラが仮想空間内の被写体を撮像したときに生成される画像と等価である。CPU34は、生成された透視投影画像を映像処理部31に出力する。映像処理部31は、透視投影画像を表示部5に出力する(ステップS225)。
ステップS225の後、表示処理部341は、ステップS225において生成された透視投影画像を表示部5に表示させる。表示部5は、透視投影画像を表示する。表示処理部341は、透視投影画像を第1の画像の代わりに表示部5に表示させてもよいし、第1の画像および透視投影画像を表示部5に同時に表示させてもよい(ステップS230)。
ステップS230の後、制御部340は、処理結果として成功を記憶する(ステップS235)。ステップS235の後、ステップS160における処理が実行される。
画像処理部342は、ステップS205において、第1の値および第2の値の少なくとも一方に基づいて、動きが検出されたか否かを判断する。第1の値は、複数枚の第1の画像の間の動きを示す。第2の値は、複数枚の第2の画像の間の動きを示す。動きが検出されなかった場合、画像処理部342は、ステップS215においてノイズ低減処理を実行する。動きが検出されなかった場合、計測処理部347は、ステップS220において計測処理を実行する。動きが検出されなかった場合、可視化処理部343は、ステップS225において可視化処理を実行する。
適性判断部345は、動き検出処理において、第1の値および第2の値のいずれか一方のみを算出してもよい。適性判断部345は、第1の値および第2の値のいずれか一方のみに基づいて、動きが検出されたか否かを判断してもよい。
撮像素子22は、複数枚の第1の画像と1枚の第2の画像とを生成してもよい。この場合、適性判断部345は、複数枚の第1の画像に基づいて第1の値を算出する。撮像素子22は、1枚の第1の画像と複数枚の第2の画像とを生成してもよい。この場合、適性判断部345は、複数枚の第2の画像に基づいて第2の値を算出する。
画像処理部342は、3つ以上の画像セットを処理し、もっとも画像処理に適したセットを選ぶようにしてもよい。連続する2セットの2枚の画像間で動きが検出されても、連続する他の2セットの2枚の画像間で動きが検出されない可能性がある。そのため、3つ以上の画像セットから処理の対象を選ぶことにより撮像のやり直しの確率が下がる。ノイズ低減部346は、3枚以上の画像に基づいてノイズ低減処理を実行することにより、ノイズをより減らすことができる。
適性判断部345は必須ではない。したがって、ステップS200における動き検出処理が実行されなくてもよい。ステップS205における判断が実行されなくてもよい。
ノイズ低減部346は必須ではない。したがって、ステップS215におけるノイズ低減処理が実行されなくてもよい。この場合、計測処理部347は、1つの画像セットを使用して計測処理を実行する。計測処理部347は、第1の光学像に対応する第1の画像と、第2の光学像に対応する第2の画像とに基づいて、パッシブステレオ法を使用することにより被写体の表面の複数点の3次元座標を算出する。複数の画像セットから1つの画像セットが選択され、かつ計測処理部347は、選択された画像セットを使用して計測処理を実行してもよい。例えば、選択された画像セットは、動きを示す値がより小さい2枚の画像を含む。選択された画像セットは、コントラストがより高い2枚の画像を含んでもよい。
可視化処理部343は必須ではない。したがって、ステップS225における可視化処理が実行されなくてもよい。
表示部5は、画像が画像処理に適しているか否かを示す値、すなわち動きを示す値の算出結果を表示してもよい。画像が画像処理に適していない場合、すなわち動きが検出された場合のみ、表示部5は、動きを示す値の算出結果を表示してもよい。例えば、算出結果は、動きを示す値に対応するメッセージである。例えば、メッセージは、動きが検出されたことを示す。動きが検出された場合、内視鏡装置1は、警告をユーザーに通知することができる。
計測モードにおける画像の表示は必須ではない。したがって、ステップS110およびステップS135において第1の画像が表示されなくてもよい。ステップS230において透視投影画像が表示されなくてもよい。
画像処理部342、可視化処理部343、および表示処理部341によって実行される処理は、内視鏡装置1以外で実行されてもよい。すなわち、内視鏡装置1に無線または有線で接続されたPCまたはネットワークサーバーなどの外部のコンピューターシステムで上記の処理が実行されてもよい。
図26を参照し、本発明の第1の実施形態と本発明の参考形態とを比較する。内視鏡装置1は、参考形態における動作を実行する必要はない。以下では、第1の実施形態と参考形態との比較のために、参考形態における内視鏡装置1の動作を説明する。
図26に示すタイミングチャートTC100は、撮像素子22の動作を示す。図7に示す部分と同じ部分についての説明を省略する。白色光源37は、点灯し続ける。
フレーム期間(i−1)における第1行のセル54の読み出し期間が開始される前、撮像光路は第2の光路L2である。フレーム期間(i−1)における第1行のセル54の露光期間が終了したとき、フレーム期間(i−1)における第1行のセル54の読み出し期間が開始される。このとき、撮像光路の切り替えが開始される。切り替え部25は、第2の光路L2から第1の光路L1への切り替えを開始する。
フレーム期間(i−1)における第1行のセル54の読み出し期間が終了したとき、切り替え部25は、第2の光路L2から第1の光路L1への切り替えを完了する。撮像光路は第1の光路L1である。
フレーム期間(i+1)における第1行のセル54の露光期間が終了したとき、フレーム期間(i+1)における第1行のセル54の読み出し期間が開始される。このとき、撮像光路の切り替えが開始される。切り替え部25は、第1の光路L1から第2の光路L2への切り替えを開始する。
フレーム期間(i+1)における第1行のセル54の読み出し期間が終了したとき、切り替え部25は、第1の光路L1から第2の光路L2への切り替えを完了する。撮像光路は第2の光路L2である。
フレーム期間(i+3)における第1行のセル54の露光期間が終了したとき、フレーム期間(i+3)における第1行のセル54の読み出し期間が開始される。このとき、撮像光路の切り替えが開始される。切り替え部25は、第2の光路L2から第1の光路L1への切り替えを開始する。
フレーム期間(i+3)における第1行のセル54の読み出し期間が終了したとき、切り替え部25は、第2の光路L2から第1の光路L1への切り替えを完了する。撮像光路は第1の光路L1である。
図26において、撮像素子22から出力される画像(出力画像)が模式的に示されている。画像IMG100は、フレーム期間(i−1)における読み出し期間に8個の行のセル54から読み出された画素信号を含む。フレーム期間(i−1)における露光期間に第2の光路L2から第1の光路L1への切り替えが実行される。画像IMG100は、第1の光学像に基づく画素信号と、第2の光学像に基づく画素信号とを含む。そのため、画像IMG100は、計測に適していない。
画像IMG101は、フレーム期間iにおける読み出し期間に8個の行のセル54から読み出された画素信号を含む。フレーム期間iにおける露光期間に撮像光路の切り替えは実行されない。画像IMG101は、第1の光学像に基づく画素信号を含む。
画像IMG102は、フレーム期間(i+1)における読み出し期間に8個の行のセル54から読み出された画素信号を含む。フレーム期間(i+1)における露光期間に第1の光路L1から第2の光路L2への切り替えが実行される。画像IMG102は、第1の光学像に基づく画素信号と、第2の光学像に基づく画素信号とを含む。そのため、画像IMG102は、計測に適していない。
画像IMG103は、フレーム期間(i+2)における読み出し期間に8個の行のセル54から読み出された画素信号を含む。フレーム期間(i+2)における露光期間に撮像光路の切り替えは実行されない。画像IMG103は、第2の光学像に基づく画素信号を含む。
計測処理部347は、画像IMG101および画像IMG103に基づいて計測処理を実行する。第1の取得タイミングと第2の取得タイミングとの間隔は、2フレーム期間と同じである。第1の取得タイミングは、撮像素子22が画像IMG101を取得するタイミングである。第2の取得タイミングは、撮像素子22が画像IMG103を取得するタイミングである。
図26に示すタイミングチャートTC100において、計測のための2枚の画像が取得される間隔は、2フレーム期間と同じである。一方、図7に示すタイミングチャートTC10において、計測のための2枚の画像が取得される間隔は、1フレーム期間と同じである。図7に示すタイミングチャートTC10では、図26に示すタイミングチャートTC100と比較して、計測のための2枚の画像が取得される間隔が短い。
本発明の各態様の内視鏡装置の作動方法は、第1のステップ、第2のステップ、および第3のステップを含む。照明制御部33は、第1のステップ(S130、S145)において、白色光源37に、第2の期間において照明光を生成させる。照明制御部33は、第2のステップ(S130、S145)において、白色光源37に、第3の期間において照明光の生成を停止させる。切り替え制御部36は、第3のステップ(S125、S140)において、切り替え部25に、第3の期間において撮像条件の切り替えを開始させ、かつ第3の期間において撮像条件の切り替えを完了させる。切り替え制御部36は、次の第2の期間が開始される前に切り替え部25に、撮像条件の切り替えを完了させる。つまり、切り替え制御部36は、切り替え部25に、撮像条件の切り替えが開始された第3の期間と同一の第3の期間において撮像条件の切り替えを完了させる。
内視鏡装置1は、複数の撮像条件における撮像の時間間隔を短縮することができる。そのため、画像処理のための複数枚の画像が取得される時間間隔が短くなる。画像処理に使用される複数枚の画像間の動きが低減され、かつ動きの影響による画像処理結果の品質の悪化が低減される。さらに、内視鏡装置1はグローバル露光を行うため、ローリング歪の影響による画像処理結果の品質の悪化が低減される。つまり、画像処理結果の品質が向上する。そのため、計測処理において、計測精度が向上する。
動きがある画像が計測処理に使用された場合、計測精度が悪化する。動きが検出されなかった場合のみ、計測処理部347は、計測処理を実行する。そのため、計測精度が向上する。
動きがある画像が可視化処理に使用された場合、被写体の3次元形状の再構成により得られた結果の品質が悪化する。動きが検出されなかった場合のみ、可視化処理部343は、可視化処理を実行する。そのため、被写体の3次元形状の再構成により得られた結果の品質が向上する。
ノイズ低減部346は、複数の画像セットを使用してノイズ低減処理を実行する。これにより、テンプレートマッチング処理の精度が向上する。そのため、計測精度が向上し、かつ被写体の3次元形状の再構成により得られた結果の品質が向上する。
(第2の実施形態)
図2に示す内視鏡装置1を使用して、本発明の第2の実施形態を説明する。撮像素子22は、被写体を高速に(より短いフレーム期間で)撮像する。撮像が高速に実行されると、一部のセル54が適切に露光されない。画像において、適切に露光されないセル54に対応する領域の品質は悪化する。第2の実施形態において、表示部5に表示する画像の範囲の限定によって表示される画像の品質が保たれる。
図11は、計測モードにおける撮像素子22の動作と、照明の状態と、撮像条件の状態との関係を示す。図11を参照し、撮像素子22の動作を説明する。図7に示す部分と同じ部分についての説明を省略する。
タイミングチャートTC12は、撮像素子22の動作を示す。タイミングチャートTC12において、フレームレートは120fpsである。各フレーム期間の長さは1/120秒である。撮像素子22が画素信号を1行のセル54から読み出す時間は、時間Trである。時間Trは、以下の式(2)で示される。数字mは2以上の整数である。m個の行のセル54の露光期間は、白色光源37が点灯し続ける第2の期間と重なる。
Tr=1/(120×m) (2)
フレーム期間(i−1)における第1行から第8行のセル54の読み出し期間が順次開始され、かつ第1行から第8行のセル54の画素信号が順次読み出される。第1行から第8行のセル54が順次リセットされ、かつフレーム期間iにおける第1行から第8行のセル54の露光期間が順次開始される。
フレーム期間(i−1)における第1行のセル54の読み出し期間が終了したとき、白色光源37は点灯している。フレーム期間(i−1)における第1行のセル54の読み出し期間が終了したとき、撮像光路は第2の光路L2である。
フレーム期間(i−1)における第2行のセル54の読み出し期間が終了したとき、白色光源37は、消灯する。
フレーム期間(i−1)における第4行のセル54の読み出し期間が開始されたとき、撮像光路の切り替えが開始される。切り替え部25は、第2の光路L2から第1の光路L1への切り替えを開始する。
フレーム期間(i−1)における第4行のセル54の読み出し期間が終了したとき、切り替え部25は、第2の光路L2から第1の光路L1への切り替えを完了する。撮像光路は第1の光路L1である。
フレーム期間(i−1)における第6行のセル54の読み出し期間が終了したとき、白色光源37は、点灯する。
フレーム期間(i−1)における第8行のセル54の読み出し期間が終了したとき、フレーム期間iにおける第1行のセル54の読み出し期間が開始される。フレーム期間iにおける第1行から第8行のセル54の読み出し期間が順次開始され、かつ第1行から第8行のセル54の画素信号が順次読み出される。第1行から第8行のセル54が順次リセットされ、かつフレーム期間(i+1)における第1行から第8行のセル54の露光期間が順次開始される。
フレーム期間iにおける第2行のセル54の読み出し期間が終了したとき、白色光源37は、消灯する。
フレーム期間iにおける第4行のセル54の読み出し期間が開始されたとき、撮像光路の切り替えが開始される。切り替え部25は、第1の光路L1から第2の光路L2への切り替えを開始する。
フレーム期間iにおける第4行のセル54の読み出し期間が終了したとき、切り替え部25は、第1の光路L1から第2の光路L2への切り替えを完了する。撮像光路は第2の光路L2である。
その後、白色光源37は、周期的に点灯する。切り替え部25は、撮像光路を周期的に切り替える。
タイミングチャートTC12では、第2の期間T2において、複数のセル54の配列における複数の行のうち連続に配置された一部の行である同時露光行のセル54が同時に露光される。白色光源37の点灯によりセル54が露光される期間は、同時露光行のセル54において共通である。同時露光行である第3行から第6行のセル54は同時に露光される。第2の期間T2は、第3行から第6行のセル54において共通である。第2の期間T2は、第3行から第6行のセル54の読み出し期間を含まない。
第2の期間T2は、あるフレーム期間の第1行、第2行、その前のフレーム期間の第7行、および第8行のセル54の読み出し期間を含む。これらの行のセル54が白色光源37の点灯により露光される期間は、第3行から第6行のセル54において露光される時間よりも短い。あるいは、第1の光学像と第2の光学像の両方が露光される。従って、第1行、第2行、第7行、および第8行のセル54は適切に露光されない。
同時露光行は、複数のセル54の配列における複数の行の半分に連続して配置されている。同時露光行は、白色光源37の点灯により同時に露光されるセル54を含む。複数の行の上側の4分の1の領域と複数の行の下側の4分の1の領域とにおいて、セル54は適切に露光されない。
画像IMG10は、フレーム期間(i−1)における読み出し期間に読み出された画素信号を含む。画像IMG11は、フレーム期間iにおける読み出し期間に読み出された画素信号を含む。画像IMG12は、フレーム期間(i+1)における読み出し期間に読み出された画素信号を含む。画像IMG13は、フレーム期間(i+2)における読み出し期間に読み出された画素信号を含む。
画像IMG10および画像IMG12は、第2の光学像に基づいて生成される。画像IMG11および画像IMG13は、第1の光学像に基づいて生成される。画像IMG10、画像IMG11、画像IMG12、および画像IMG13の中央領域は、同時に露光されたセル54から読み出された画素信号を含む。画像IMG10、画像IMG11、画像IMG12、および画像IMG13の上側の4分の1の領域は、十分に露光されていないセル54から読み出された画素信号を含む。画像IMG10、画像IMG11、画像IMG12、および画像IMG13の下側の4分の1の領域は、十分に露光されていないセル54から読み出された画素信号を含む。あるいは、画像IMG10、画像IMG11、画像IMG12、および画像IMG13の上側4分の1および下側の4分の1の領域は、第1の光学像と第2の光学像との両方に基づいて露光されたセル54から読み出された画素信号を含む。
映像処理部31は、電子マスク処理を実行する。映像処理部31は、電子マスク処理において、同時露光行を除く行に対応する領域の画像を表示しないための処理を実行する。例えば、映像処理部31は、画像において同時露光行を除く行に対応する領域に黒のグラフィックを重ねる。表示部5によって表示された画像において、同時露光行を除く行に対応する領域は黒い。
映像処理部31は、画像において同時露光行を除く行に対応する領域の画素値を黒の値に置き換えてもよい。この場合も、表示部5によって表示された画像において、同時露光行を除く行に対応する領域は黒い。
映像処理部31は、複数の行に対応する画像から、同時露光行を除く行に対応する領域の画像のみを切り出してもよい。この場合、表示部5によって表示された画像は、同時露光行に対応する領域の画像のみを含む。
同時露光行は、ユーザーからの指示により変更されてもよい。例えば、ユーザーは、操作部4を操作することにより、同時露光行の位置を示す指示を入力する。撮像制御部30は、ユーザーにより指示された位置に基づいて、同時露光行を撮像素子22に設定する。
同時露光行が変更される場合、第1の期間T1が変更される。第1の期間T1の変更により、第2の期間T2および第3の期間T3が変更される。撮像光路は、第3の期間T3内で切り替わる。第3の期間T3が変更される場合、撮像光路が切り替わるタイミングが変更される場合がある。
画像において、十分に露光されないセル54に対応する領域は表示されない。そのため、表示部5によって表示された画像の品質が保たれる。
画像において、被写体の光学像に基づく画素信号が含まれる範囲は狭まる。フレーム期間は短くなるため、内視鏡装置1は、複数の撮像条件における撮像の時間間隔を第1の実施形態よりも短縮することができる。その結果、カメラの動きがあるシーンにおいての画像処理結果の品質が第1の実施形態よりも向上する。
(第3の実施形態)
図12は、本発明の第3の実施形態の内視鏡装置1aの構成を示す。図2に示す部分と同じ部分についての説明を省略する。
図2に示す本体部3は本体部3aに変更される。本体部3aは切り替え制御部36を有していない。本体部3aにおいて、図2に示す光源部32は光源部32aに変更される。光源部32aは、白色光源37およびレーザーダイオード(LD)38を有する。本体部3aにおいて、図2に示す照明制御部33は照明制御部33aに変更される。
図2に示す光学アダプター21は光学アダプター21aに変更される。光学アダプター21aにおいて、図2に示す観察光学系60は観察光学系60aに変更される。観察光学系60aは、凹レンズ23および凸レンズ24を有する。
図2に示す照明光学系80は照明光学系80aに変更される。光学アダプター21aは、照明光学系80aの一部を有する。照明光学系80aは、集光レンズ81、ライトガイド82、ロッドレンズ83、拡散レンズ84、ファイバー85、コリメーターレンズ86、ロッドレンズ87、および回折光学素子88を有する。集光レンズ81は、本体部3に配置されている。ライトガイド82およびファイバー85は、本体部3aおよび挿入部20に配置されている。ロッドレンズ83、拡散レンズ84、コリメーターレンズ86、ロッドレンズ87、および回折光学素子88は、光学アダプター21aに配置されている。
図2と異なる部分の概略について説明する。内視鏡装置1aは、光源として白色光源37(第1の光源)およびLD38(第2の光源)を有する。照明光は、第1の照明光および第2の照明光を含む。白色光源37は、白色光を第1の照明光として生成する。LD38は、第2の照明光を生成する。照明光学系80aは、回折光学素子88(パターン生成部)を有する。回折光学素子88(パターン生成器)は、明部および暗部を含む空間的なパターンを第2の照明光に与える。照明光学系80aは、パターンが与えられた第2の照明光を被写体に照射する。
複数の撮像条件は、第1の撮像条件および第2の撮像条件を含む。第1の撮像条件において、第1の照明光が被写体に照射され、かつ被写体への第2の照明光の照射が停止される。第2の撮像条件において、第2の照明光が被写体に照射され、かつ被写体への第1の照明光の照射が停止される。撮像素子22は、第1の撮像条件で被写体を撮像することにより被写体の第1の画像を生成する。撮像素子22は、第2の撮像条件で被写体を撮像することにより被写体の第2の画像を生成する。
計測処理部347は、第2の画像に基づいて、アクティブステレオ法を使用することにより被写体の表面の複数点の3次元座標を算出する。撮像素子22は、赤のカラーフィルター、緑のカラーフィルター、および青のカラーフィルターを有する。撮像素子22は、カラー画像を第1の画像として生成する。カラー画像は、複数の画素を含む。各画素は、赤の明るさ、緑の明るさ、および青の明るさの各々を示す情報を画素値として持つ。画像処理部342は、複数点の3次元座標と、複数点の画素値とが関連付けられた3次元形状データを生成する。可視化処理部343は、3次元形状データを可視化したグラフィックデータを生成する。
撮像素子22は、被写体の複数枚の第1の画像と被写体の複数枚の第2の画像との少なくとも一方を生成する。CPU34の適性判断部345は、複数枚の第1の画像が画像処理に適しているか否かを示す値と、複数枚の第2の画像が画像処理に適しているか否かを示す値との少なくとも一方を算出する。
撮像素子22は、第2の撮像条件で被写体を撮像することにより複数枚の第2の画像を生成する。CPU34のノイズ低減部346は、複数枚の第2の画像にノイズ低減処理を実行することにより、第3の画像を生成する。ノイズ低減部346は、第3の画像に基づいて、被写体の表面の複数点の3次元座標を算出する。
図2と異なる部分の詳細について説明する。LD38は、青色のレーザー光を第2の照明光として生成する。LD38は、光学アダプター21aに配置されてもよい。ファイバー85は、シングルモードファイバーである。ファイバー85は、LD38に接続されている。LD38から出たレーザー光は、ファイバー85を経由して、挿入部20の先端に伝送される。ファイバー85から出たレーザー光は、コリメーターレンズ86を経由して平行光としてロッドレンズ87に入射する。レーザー光は、ロッドレンズ87で伝送される。ロッドレンズ87から出たレーザー光は、回折光学素子88に入射する。ロッドレンズ87から出たレーザー光は、均一な位相を持つ平行光である。回折光学素子88は、干渉の作用により、平行光を、ランダムな空間パターンを持つパターン光(第2の照明光)に変換する。パターン光において、明部および暗部が空間的にランダムに配置されている。回折光学素子88から出たパターン光は、被写体に照射される。
観察光学系60aは、単眼の光学系である。観察光学系60aは、白色光またはパターン光によって照明された被写体の表面で反射した光を取り込む。凹レンズ23および凸レンズ24は、被写体からの光に基づく光学像を撮像素子22の撮像領域S1に形成する。
照明制御部33aは、白色光源37およびLD38を制御する。照明制御部33aは、白色光源37およびLD38に、第2の期間において照明光を生成させる。照明制御部33aは、白色光源37およびLD38に、第3の期間において照明光の生成を停止させる。照明制御部33aは、切り替え部および切り替え制御部として機能する。照明制御部33aは、第3の期間において撮像条件の切り替えを開始し、かつ第3の期間において撮像条件の切り替えを完了する。
照明制御部33aは、複数の第1のフレーム期間において第1の撮像条件を設定する。照明制御部33aは、複数の第2のフレーム期間において第2の撮像条件を設定する。複数の第2のフレーム期間の各々は、複数の第1のフレーム期間の各々と異なる。
照明制御部33aは、第1の撮像条件において、白色光源37を点灯させ、かつLD38を消灯させる。したがって、照明光学系80aは、第1の撮像条件において、白色光を被写体に照射する。照明光学系80aは、第1の撮像条件において、パターン光を被写体に照射しない。観察光学系60aは、第1の撮像条件において、白色光によって照明された被写体の表面で反射した光を取り込む。
照明制御部33aは、第2の撮像条件において、LD38を点灯させ、かつ白色光源37を消灯させる。したがって、照明光学系80aは、第2の撮像条件において、パターン光を被写体に照射する。照明光学系80aは、第2の撮像条件において、白色光を被写体に照射しない。観察光学系60aは、第2の撮像条件において、パターン光によって照明された被写体の表面で反射した光を取り込む。
図13は、計測モードにおける撮像素子22の動作と、照明の状態と、撮像条件の状態との関係を示す。図13を参照し、撮像素子22の動作を説明する。図7に示す部分と同じ部分についての説明を省略する。
タイミングチャートTC13は、撮像素子22の動作を示す。第1行から第8行のセル54が順次リセットされ、かつフレーム期間iにおける第1行から第8行のセル54の露光期間が順次開始される。
フレーム期間iにおける第1行のセル54の露光期間が開始されたとき、白色光源37およびLD38は消灯している。フレーム期間iにおける第1行のセル54の露光期間が開始されたとき、撮像条件は設定されていない。
フレーム期間iにおける第8行のセル54の露光期間が開始されたとき、白色光源37の点灯が開始される。照明制御部33aは、点灯のための制御信号を白色光源37に出力することにより、白色光源37を点灯させる。これにより、照明制御部33aは、撮像条件を第1の撮像条件に設定する。白色光源37は、照明制御部33aからの制御信号に基づいて、点灯を開始する。
フレーム期間iにおける第1行のセル54の読み出し期間が開始されたとき、白色光源37の点灯が終了する。照明制御部33aは、消灯のための制御信号を白色光源37に出力することにより、白色光源37を消灯させる。白色光源37は、照明制御部33aからの制御信号に基づいて、消灯する。これにより、照明制御部33aは、第1の撮像条件から第2の撮像条件への切り替えを開始する。
フレーム期間iにおける第8行のセル54の読み出し期間が終了したとき、LD38の点灯が開始される。照明制御部33aは、点灯のための制御信号をLD38に出力することにより、LD38を点灯させる。これにより、照明制御部33aは、第1の撮像条件から第2の撮像条件への切り替えを完了する。LD38は、照明制御部33aからの制御信号に基づいて、点灯を開始する。
フレーム期間(i+1)における第1行のセル54の読み出し期間が開始されたとき、LD38の点灯が終了する。照明制御部33aは、消灯のための制御信号をLD38に出力することにより、LD38を消灯させる。LD38は、照明制御部33aからの制御信号に基づいて、消灯する。これにより、照明制御部33aは、第2の撮像条件から第1の撮像条件への切り替えを開始する。
フレーム期間(i+1)における第8行のセル54の読み出し期間が終了したとき、白色光源37の点灯が開始される。照明制御部33aは、点灯のための制御信号を白色光源37に出力することにより、白色光源37を点灯させる。これにより、照明制御部33aは、第2の撮像条件から第1の撮像条件への切り替えを完了する。白色光源37は、照明制御部33aからの制御信号に基づいて、点灯を開始する。
白色光源37は、フレーム期間iおよびフレーム期間(i+2)の各々における同時露光期間に点灯する。LD38は、フレーム期間(i+1)およびフレーム期間(i+3)の各々における同時露光期間に点灯する。白色光源37およびLD38は、点灯と消灯とを繰り返す。白色光源37およびLD38は、交互に点灯する。
照明制御部33aは、第1の撮像条件から第2の撮像条件への切り替えと、第2の撮像条件から第1の撮像条件への切り替えとを繰り返す。照明制御部33aは、撮像条件の切り替えをフレーム期間毎に実行する。あるいは、照明制御部33aは、nフレーム期間毎に撮像条件が第2の撮像条件に切り替えてもよい。
撮像素子22は、第1の期間T1において画素信号を複数のセル54の少なくとも一部から1行毎に順次読み出す。図13に示すタイミングチャートTC13では、第1の期間T1は、第1行のセル54における画素信号の読み出しの開始から第8行のセル54における画素信号の読み出しの完了までの期間である。
白色光源37またはLD38は、1フレーム期間における画素信号の読み出しの完了と同時に点灯する。つまり、白色光源37またはLD38は、第1の期間T1の完了と同時に点灯する。白色光源37またはLD38は、1フレーム期間における画素信号の読み出しの開始と同時に消灯する。つまり、白色光源37またはLD38は、第1の期間T1の開始と同時に消灯する。
照明制御部33aは、白色光源37またはLD38に、第2の期間T2において照明光を生成させる。白色光源37またはLD38は、第2の期間T2において点灯し続ける。図13に示すタイミングチャートTC13では、第2の期間T2は、第1の期間T1を除く期間の少なくとも一部である。図13に示すタイミングチャートTC13では、第2の期間T2は第1の期間T1を除く期間の全てである。白色光源37の点灯期間とLD38の点灯期間とが異なっていても良い。
照明制御部33aは、白色光源37またはLD38に、第3の期間T3において照明光の生成を停止させる。白色光源37またはLD38は、第3の期間T3において消灯し続ける。第3の期間T3は、第2の期間T2を除く期間の全てである。図13に示すタイミングチャートTC13では、第3の期間T3は第1の期間T1と同じである。第3の期間T3の長さと第2の期間T2の長さとの合計は、フレーム期間の長さと同じである。
照明制御部33aは、第3の期間T3において撮像条件の切り替えを開始し、かつ第3の期間T3において撮像条件の切り替えを完了する。第3の期間T3が開始されたとき、照明制御部33aは、白色光源37またはLD38を消灯させることにより、撮像条件の切り替えを開始する。第3の期間T3が終了するとき、照明制御部33aは、白色光源37またはLD38を点灯させることにより、撮像条件の切り替えを完了する。図13に示すタイミングチャートTC13では、第3の期間T3は第1の期間T1と同じであるため、照明制御部33aは、第1の期間T1において撮像条件の切り替えを開始し、かつ第1の期間T1において撮像条件の切り替えを完了する。
図14は、内視鏡装置1aの動作の手順を示す。図14を参照し、内視鏡装置1aの動作を説明する。図9に示す処理と同じ処理についての説明を省略する。
ステップS100の後、照明制御部33aは、白色光源37を点灯させることにより、撮像条件を観察照明(第1の撮像条件)に設定する(ステップS105a)。
ステップS105aの後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像条件が観察照明であるため、撮像素子22は第1の画像を出力する。第3の期間が開始されるとき、照明制御部33aは白色光源37を消灯させる(ステップS110a)。
ステップS120において、計測を実行すると制御部340が判断した場合、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像条件が観察照明であるため、撮像素子22は第1の画像を出力する。第3の期間が開始されるとき、照明制御部33aは白色光源37を消灯させる(ステップS130a)。
ステップS130aの後、照明制御部33aは、LD38を点灯させることにより、撮像条件をパターン照明(第2の撮像条件)に設定する(ステップS132a)。ステップS132aの後、ステップS135における処理が実行される。
ステップS135の後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像条件がパターン照明であるため、撮像素子22は第2の画像を出力する。第3の期間が開始するとき、照明制御部33aはLD38を消灯させる(ステップS145a)。
ステップS145aの後、照明制御部33aは、白色光源37を点灯させることにより、撮像条件を観察照明(第1の撮像条件)に設定する(ステップS147a)。ステップS147aの後、ステップS150における処理が実行される。
ステップS150において、所定数の画像セットの取得が完了していないと制御部340が判断した場合、ステップS125aにおける処理が実行される。所定数の画像セットが取得されるまで、撮像条件は観察照明とパターン照明との間で交互に繰り返し切り替わる。撮像素子22は第1の画像および第2の画像を繰り返し出力する。パターン光に基づく第2の画像が表示されると視認性が悪化する。そのため、表示部5は第2の画像を表示せずに第1の画像を順次更新して表示し続ける。撮像条件の切り替えのパターンは、上記のパターンに限らない。撮像素子22が第1の画像を所定フレーム数取得した後、撮像素子22が第2の画像を取得してもよい。
ステップS160において、画像処理が失敗したと制御部340が判断した場合、ステップS125aにおける処理が実行される。
図10に示す処理は、以下の処理に変更される。画像セットAおよび画像セットBがCPU34に入力される。画像セットAおよび画像セットBの各々は、連続する2フレーム期間から生成された1枚の第1の画像および1枚の第2の画像を含む。
ノイズ低減部346は、ノイズ低減処理(ステップS215)において、セットAの第2の画像およびセットBの第2の画像に基づいて、第2のNR画像(第3の画像)を生成する。第2のNR画像の画素値は、2枚の第2の画像間の画素値の加算平均である。
計測処理部347は、計測処理(ステップS220)において、第2のNR画像の光学的な歪みを補正することにより、第2の補正画像を生成する。計測処理部347は、基準パターン画像を記憶する。基準パターン画像は、回折光学素子88によって生成されたパターン光が照射された平面の画像である。計測処理部347は、計測処理において、基準パターン画像および第2のNR画像を用いたテンプレートマッチング処理により、位相差の分布を取得する。位相差は、基準パターン画像および第2のNR画像におけるパターンのずれ量である。位相差の分布は、複数のセル54の各々における位相差情報を含む。計測処理部347は、計測処理において、位相差の分布に基づいて、三角測量の原理で被写体の表面の各点の3次元座標を算出する。計測処理部347は、カラー3Dデータを生成する。カラー3Dデータは、第1の画像の各画素の色情報と、各画素に対応する3次元座標とを含む。
可視化処理部343は、可視化処理(ステップS225)において、透視投影画像を生成する。CPU34は、生成された透視投影画像を映像処理部31に出力する。映像処理部31は、透視投影画像を表示部5に出力する。
内視鏡装置1aは、白色光が照射された被写体の撮像と、パターン光が照射された被写体の撮像との時間間隔を短縮することができる。そのため、画像処理結果の品質が向上する。計測処理において、計測精度が向上する。再構成された被写体の3次元形状に対するカラーテクスチャーのずれが小さくなる。さらに、内視鏡装置1aはグローバル露光を行うため、ローリング歪の影響による画像処理結果の品質の悪化を低減できる。
LD38が生成する第2の照明光は青色以外の波長のレーザー光であってもよい。例えば、第2の照明光の波長は、赤、緑、または赤外の波長であってもよい。また、第2の撮像条件において、第1の照明光の照射は停止されなくてもよい。
(第4の実施形態)
図15は、本発明の第4の実施形態の内視鏡装置1bの構成を示す。図12に示す部分と同じ部分についての説明を省略する。
図12に示す本体部3aは本体部3bに変更される。本体部3bは、図12に示す構成に加えて、切り替え制御部36bを有する。
図12に示す光学アダプター21aは光学アダプター21bに変更される。図12に示す照明光学系80aは照明光学系80bに変更される。光学アダプター21bは、照明光学系80bの一部を有する。照明光学系80bは、集光レンズ81、ライトガイド82、ロッドレンズ83、拡散レンズ84、ファイバー85、および縞生成部89(パターン生成部)を有する。集光レンズ81は、本体部3bに配置されている。ライトガイド82およびファイバー85は、本体部3bおよび挿入部20に配置されている。ロッドレンズ83、拡散レンズ84、および縞生成部89は、光学アダプター21bに配置されている。
図16は、縞生成部89(パターン生成器)の構成を示す。図16に示す縞生成部89は、第1の光路890、第2の光路891、第3の光路892、および位相シフト部893(位相シフター)を有する。
図12と異なる部分の概略について説明する。縞生成部89は、明部および暗部を含む空間的なパターンを照明光に与える。複数の撮像条件は、第3の撮像条件をさらに含む。撮像素子22は、第3の撮像条件で被写体を撮像することにより被写体の第3の画像を生成する。位相シフト部893は、切り替え部として機能する。位相シフト部893は、照明光のパターンの位相をシフトさせることにより、第1の撮像条件、第2の撮像条件、および第3の撮像条件を切り替える。第1の撮像条件におけるパターンの位相と、第2の撮像条件におけるパターンの位相と、第3の撮像条件におけるパターンの位相とは互いに異なる。CPU34の計測処理部347は、少なくとも第1の画像、第2の画像、および第3の画像に基づいて、位相シフト法を使用することにより被写体の表面の複数点の3次元座標を算出する。
内視鏡装置1は、光源として白色光源37(第1の光源)およびLD38(第2の光源)を有する。照明光は、第1の照明光および第2の照明光を含む。白色光源37は、白色光を第1の照明光として生成する。LD38は、第2の照明光を生成する。縞生成部89は、パターンを第2の照明光に与える。複数の撮像条件は、第4の撮像条件をさらに含む。第1の撮像条件、第2の撮像条件、および第3の撮像条件において、第2の照明光が被写体に照射され、かつ被写体への第1の照明光の照射が停止される。第4の撮像条件において、第1の照明光が被写体に照射され、かつ被写体への第2の照明光の照射が停止される。撮像素子は、第4の撮像条件で被写体を撮像することにより被写体の第4の画像を生成する。撮像素子22は、赤のカラーフィルター、緑のカラーフィルター、および青のカラーフィルターを有する。撮像素子22は、カラー画像を第4の画像として生成する。カラー画像は、複数の画素を含む。各画素は、赤の明るさ、緑の明るさ、および青の明るさの各々の情報を画素値として持つ。計測処理部347は、複数点の3次元座標と、複数点の画素値とが関連付けられた3次元形状データを生成する。可視化処理部343は、3次元形状データを可視化したグラフィックデータを生成する。
撮像素子22は、複数枚の第1の画像と複数枚の第2の画像と複数枚の第3の画像と複数枚の第4の画像との少なくとも1つを生成する。適性判断部345は、複数枚の第1の画像が画像処理に適しているか否かを示す値と、複数枚の第2の画像が画像処理に適しているか否かを示す値と、複数枚の第3の画像が画像処理に適しているか否かを示す値と、複数枚の第4の画像が画像処理に適しているか否かを示す値との少なくとも1つを算出する。
切り替え制御部36bは、位相シフト部893に、複数の第1のフレーム期間において第1の撮像条件を設定させる。切り替え制御部36bは、位相シフト部893に、複数の第2のフレーム期間において第2の撮像条件を設定させる。複数の第2のフレーム期間の各々は、複数の第1のフレーム期間の各々と異なる。切り替え制御部36bは、位相シフト部893に、複数の第3のフレーム期間において第3の撮像条件を設定させる。複数の第3のフレーム期間の各々は、複数の第1のフレーム期間の各々と異なり、かつ複数の第2のフレーム期間の各々と異なる。
ノイズ低減部346は、複数枚の第1の画像にノイズ低減処理を実行することにより、第5の画像を生成する。ノイズ低減部346は、複数枚の第2の画像にノイズ低減処理を実行することにより、第6の画像を生成する。ノイズ低減部346は、複数枚の第3の画像にノイズ低減処理を実行することにより、第7の画像を生成する。計測処理部347は、第5の画像、第6の画像、および第7の画像に基づいて、被写体の表面の複数点の3次元座標を算出する。
図12と異なる部分の詳細について説明する。LD38から出たレーザー光は、ファイバー85を経由して、挿入部20の先端に伝送される。ファイバー85は、縞生成部89に接続されている。ファイバー85から出たレーザー光(第2の照明光)は、縞生成部89に入射する。
レーザー光は、縞生成部89の第1端Inに入射する。第1の光路890は、第1端Inに接続されている。第1端Inに入射したレーザー光は、第1の光路890で伝送される。第1の光路890は、第2の光路891および第3の光路892に分岐する。第2の光路891および第3の光路892は、第1の光路890に接続されている。第1の光路890で伝送されたレーザー光は、第1のレーザー光および第2のレーザー光に分割される。第1のレーザー光は、第2の光路891に入射する。第2のレーザー光は、第3の光路892に入射する。第2の光路891に入射した第1のレーザー光は、第2の光路891で伝送される。第3の光路892に入射した第2のレーザー光は、第3の光路892を伝送する。
第2の光路891は、第2端Out1に接続されている。第3の光路892は、第3端Out2に接続されている。第2の光路891の長さと第3の光路892の長さとは等しい。第2の光路891で伝送された第1のレーザー光は、第2端Out1から出射され、かつ被写体に照射される。第3の光路892で伝送された第2のレーザー光は、第3端Out2から出射され、かつ被写体に照射される。
第2端Out1および第3端Out2は、所定の幅dだけ互いに離れている。第2端Out1から出射された第1のレーザー光と、第3端Out2から出射された第2のレーザー光とは、互いに干渉する。レーザー光の干渉によって1つの縞状のパターンが形成される。そのパターンは、近似的に、1つの光源から出射された縞パターンであると見なすことができる。縞パターンにおいて、細長い明部と、細長い暗部とが交互に並ぶ。
縞パターンの周期は、ヤングの干渉縞の原理に基づく周期である。その周期は、第1端Inに導かれたレーザー光の波長と、幅dとに基づく周期である。例えば、幅dが固定された状態で、第1端Inに導かれたレーザー光の波長が短くなると、縞パターンの周期は短くなる。幅dが固定された状態で、第1端Inに導かれたレーザー光の波長が長くなると、縞パターンの周期は長くなる。第1端Inに導かれたレーザー光の波長帯域が固定された状態で、幅dが広くなる、すなわち第2端Out1および第3端Out2が互いに離れると、縞パターンの周期は短くなる。第1端Inに導かれたレーザー光の波長帯域が固定された状態で、幅dが狭くなる、すなわち第2端Out1および第3端Out2が互いに近づくと、縞パターンの周期は長くなる。
第3の光路892の一部は、位相シフト部893の内部に配置されている。本体部3bに配置された切り替え制御部36bは、位相シフト部893に電流を供給する。位相シフト部893は、切り替え制御部36bから供給された電流に基づいて熱を発する。発生した熱により第3の光路892の屈折率が変化し、かつ第3の光路892の光路長が変化する。位相シフト部893は、第3の光路892に導かれた第2のレーザー光の位相を、温度の変化に基づいてシフトさせる。第1のレーザー光の位相と第2のレーザー光の位相とは、互いに異なる。第1のレーザー光は、第2の光路891を経由して第2端Out1から出射される。第2のレーザー光は、第2の光路891と温度が異なる第3の光路892を経由して第3端Out2から出射される。第1のレーザー光の位相と第2のレーザー光の位相とがずれた状態での干渉により、縞パターンの縞の位相は変更される。つまり、縞の位相はシフトされる。位相シフト部893がレーザー光の位相をシフトする方法は、温度の変化を用いた方法に限らない。
照明制御部33aは、白色光源37およびLD38を制御する。照明制御部33aは、白色光源37およびLD38に、第2の期間において照明光を生成させる。照明制御部33aは、白色光源37およびLD38に、第3の期間において照明光の生成を停止させる。照明制御部33aは、切り替え部および切り替え制御部として機能する。照明制御部33aは、第3の期間において撮像条件の切り替えを開始し、かつ第3の期間において撮像条件の切り替えを完了する。切り替え制御部36bは、位相シフト部893に、第3の期間において撮像条件の切り替えを開始させ、かつ第3の期間において撮像条件の切り替えを完了させる。
照明制御部33aは、第1の撮像条件において、LD38を点灯させ、かつ白色光源37を消灯させる。したがって、照明光学系80aは、第1の撮像条件において、パターン光を被写体に照射する。照明光学系80aは、第1の撮像条件において、白色光を被写体に照射しない。切り替え制御部36bは、位相シフト部893に、パターン光の位相を第1の位相に設定させる。観察光学系60aは、第1の撮像条件において、パターン光によって照明された被写体の表面で反射した光を取り込む。
照明制御部33aは、第2の撮像条件において、LD38を点灯させ、かつ白色光源37を消灯させる。したがって、照明光学系80aは、第2の撮像条件において、パターン光を被写体に照射する。照明光学系80aは、第2の撮像条件において、白色光を被写体に照射しない。切り替え制御部36bは、位相シフト部893に、パターン光の位相を第2の位相に設定させる。第2の位相は、第1の位相と異なる。観察光学系60aは、第2の撮像条件において、パターン光によって照明された被写体の表面で反射した光を取り込む。
照明制御部33aは、第3の撮像条件において、LD38を点灯させ、かつ白色光源37を消灯させる。したがって、照明光学系80aは、第3の撮像条件において、パターン光を被写体に照射する。照明光学系80aは、第3の撮像条件において、白色光を被写体に照射しない。切り替え制御部36bは、位相シフト部893に、パターン光の位相を第3の位相に設定させる。第3の位相は、第1の位相と異なり、かつ第2の位相と異なる。観察光学系60aは、第3の撮像条件において、パターン光によって照明された被写体の表面で反射した光を取り込む。
照明制御部33aは、第4の撮像条件において、白色光源37を点灯させ、かつLD38を消灯させる。したがって、照明光学系80aは、第4の撮像条件において、白色光を被写体に照射する。照明光学系80aは、第4の撮像条件において、パターン光を被写体に照射しない。観察光学系60aは、第4の撮像条件において、白色光によって照明された被写体の表面で反射した光を取り込む。
図17は、計測モードにおける撮像素子22の動作と、照明の状態と、撮像条件の状態との関係を示す。図17を参照し、撮像素子22の動作を説明する。図7に示す部分と同じ部分についての説明を省略する。
タイミングチャートTC14は、撮像素子22の動作を示す。第1行から第8行のセル54が順次リセットされ、かつフレーム期間iにおける第1行から第8行のセル54の露光期間が順次開始される。
フレーム期間iにおける第1行のセル54の露光期間が開始されたとき、白色光源37およびLD38は消灯している。フレーム期間iにおける第1行のセル54の露光期間が開始されたとき、撮像条件は設定されていない。
フレーム期間iにおける第8行のセル54の露光期間が開始されたとき、白色光源37の点灯が開始される。照明制御部33aは、点灯のための制御信号を白色光源37に出力することにより、白色光源37を点灯させる。これにより、照明制御部33aは、撮像条件を第4の撮像条件に設定する。白色光源37は、照明制御部33aからの制御信号に基づいて、点灯を開始する。
フレーム期間iにおける第1行のセル54の読み出し期間が開始されたとき、白色光源37の点灯が終了する。照明制御部33aは、消灯のための制御信号を白色光源37に出力することにより、白色光源37を消灯させる。白色光源37は、照明制御部33aからの制御信号に基づいて、消灯する。これにより、照明制御部33aは、第4の撮像条件から第1の撮像条件への切り替えを開始する。
フレーム期間iにおける第8行のセル54の読み出し期間が終了したとき、LD38の点灯が開始される。照明制御部33aは、点灯のための制御信号をLD38に出力することにより、LD38を点灯させる。LD38は、照明制御部33aからの制御信号に基づいて、点灯を開始する。切り替え制御部36bは、電流を位相シフト部893に出力することにより、パターン光の位相を第1の位相に設定させる。位相シフト部893は、切り替え制御部36bからの電流に基づいて、パターン光の位相を第1の位相に設定する。これにより、照明制御部33aおよび切り替え制御部36bは、第4の撮像条件から第1の撮像条件への切り替えを完了する。
フレーム期間(i+1)における第1行のセル54の読み出し期間が開始されたとき、LD38の点灯が終了する。照明制御部33aは、消灯のための制御信号をLD38に出力することにより、LD38を消灯させる。LD38は、照明制御部33aからの制御信号に基づいて、消灯する。これにより、照明制御部33aは、第1の撮像条件から第2の撮像条件への切り替えを開始する。
フレーム期間(i+1)における第8行のセル54の読み出し期間が終了したとき、LD38の点灯が開始される。照明制御部33aは、点灯のための制御信号をLD38に出力することにより、LD38を点灯させる。LD38は、照明制御部33aからの制御信号に基づいて、点灯を開始する。切り替え制御部36bは、電流を位相シフト部893に出力することにより、パターン光の位相を第2の位相に設定させる。位相シフト部893は、切り替え制御部36bからの電流に基づいて、パターン光の位相を第2の位相に設定する。これにより、照明制御部33aおよび切り替え制御部36bは、第1の撮像条件から第2の撮像条件への切り替えを完了する。
フレーム期間(i+2)における第1行のセル54の読み出し期間が開始されたとき、LD38の点灯が終了する。照明制御部33aは、消灯のための制御信号をLD38に出力することにより、LD38を消灯させる。LD38は、照明制御部33aからの制御信号に基づいて、消灯する。これにより、照明制御部33aは、第2の撮像条件から第3の撮像条件への切り替えを開始する。
フレーム期間(i+2)における第8行のセル54の読み出し期間が終了したとき、LD38の点灯が開始される。照明制御部33aは、点灯のための制御信号をLD38に出力することにより、LD38を点灯させる。LD38は、照明制御部33aからの制御信号に基づいて、点灯を開始する。切り替え制御部36bは、電流を位相シフト部893に出力することにより、パターン光の位相を第3の位相に設定させる。位相シフト部893は、切り替え制御部36bからの電流に基づいて、パターン光の位相を第3の位相に設定する。これにより、照明制御部33aおよび切り替え制御部36bは、第2の撮像条件から第3の撮像条件への切り替えを完了する。
フレーム期間(i+3)における第1行のセル54の読み出し期間が開始されたとき、LD38の点灯が終了する。照明制御部33aは、消灯のための制御信号をLD38に出力することにより、LD38を消灯させる。LD38は、照明制御部33aからの制御信号に基づいて、消灯する。これにより、照明制御部33aは、第3の撮像条件から第4の撮像条件への切り替えを開始する。
フレーム期間(i+3)における第8行のセル54の読み出し期間が終了したとき、白色光源37の点灯が開始される。照明制御部33aは、点灯のための制御信号を白色光源37に出力することにより、白色光源37を点灯させる。白色光源37は、照明制御部33aからの制御信号に基づいて、点灯を開始する。これにより、照明制御部33aは、第3の撮像条件から第4の撮像条件への切り替えを完了する。
白色光源37は、フレーム期間iにおける同時露光期間に点灯する。LD38は、フレーム期間(i+1)、フレーム期間(i+2)、およびフレーム期間(i+3)の各々における同時露光期間に点灯する。白色光源37およびLD38は、点灯と消灯とを繰り返す。
照明制御部33aおよび切り替え制御部36bは、第4の撮像条件から第1の撮像条件への切り替えと、第1の撮像条件から第2の撮像条件への切り替えと、第2の撮像条件から第3の撮像条件への切り替えと、第3の撮像条件から第4の撮像条件への切り替えとを繰り返す。照明制御部33aおよび切り替え制御部36bは、撮像条件の切り替えをフレーム期間毎に実行する。
撮像素子22は、第1の期間T1において画素信号を複数のセル54の少なくとも一部から1行毎に順次読み出す。図17に示すタイミングチャートTC14では、第1の期間T1は、第1行のセル54における画素信号の読み出しの開始から第8行のセル54における画素信号の読み出しの完了までの期間である。
白色光源37またはLD38は、1フレーム期間における画素信号の読み出しの完了と同時に点灯する。つまり、白色光源37またはLD38は、第1の期間T1の完了と同時に点灯する。白色光源37またはLD38は、1フレーム期間における画素信号の読み出しの開始と同時に消灯する。つまり、白色光源37またはLD38は、第1の期間T1の開始と同時に消灯する。
照明制御部33aは、白色光源37またはLD38に、第2の期間T2において照明光を生成させる。白色光源37またはLD38は、第2の期間T2において点灯し続ける。第2の期間T2は、第1の期間T1を除く期間の全てである。図17に示すタイミングチャートTC14では、第1の期間T1の長さと第2の期間T2の長さとの合計は、フレーム期間の長さと同じである。
照明制御部33aは、白色光源37またはLD38に、第3の期間T3において照明光の生成を停止させる。白色光源37またはLD38は、第3の期間T3において消灯し続ける。第3の期間T3は、第2の期間T2を除く期間の全てである。図17に示すタイミングチャートTC14では、第3の期間T3は第1の期間T1と同じである。
照明制御部33aおよび位相シフト部893は、第3の期間T3において撮像条件の切り替えを開始し、かつ第3の期間T3において撮像条件の切り替えを完了する。照明制御部33aおよび位相シフト部893は、次の第2の期間が開始される前に、撮像条件の切り替えを完了する。つまり、照明制御部33aおよび位相シフト部893は、撮像条件の切り替えが開始された第3の期間と同一の第3の期間において撮像条件の切り替えを完了する。第3の期間T3が開始されたとき、照明制御部33aは、白色光源37またはLD38を消灯させることにより、撮像条件の切り替えを開始する。第3の期間T3が終了するとき、照明制御部33aは、白色光源37またはLD38を点灯させることにより、撮像条件の切り替えを完了する。第3の期間T3が終了するとき、位相シフト部893は、パターン光の位相を変更することにより、撮像条件の切り替えを完了する。図17に示すタイミングチャートTC14では、第3の期間T3は第1の期間T1と同じであるため、照明制御部33aおよび位相シフト部893は、第1の期間T1において撮像条件の切り替えを開始し、かつ第1の期間T1において撮像条件の切り替えを完了する。
各フレーム期間における第1行のセル54の読み出し期間が開始された後、かつ各フレーム期間における第8行のセル54の読み出し期間が完了する前に、位相シフト部893は、パターン光の位相を切り替えてもよい。
図18は、内視鏡装置1bの動作の手順を示す。図18を参照し、内視鏡装置1bの動作を説明する。図14に示す処理と同じ処理についての説明を省略する。
ステップS120において、計測を実行すると制御部340が判断した場合、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像条件が観察照明であるため、撮像素子22は第4の画像を出力する。第3の期間が開始されるとき、照明制御部33aは白色光源37を消灯させる(ステップS130a)。
ステップS130aの後、照明制御部33aはLD38を点灯させ、かつ位相シフト部893は第1の位相を設定する。これにより、照明制御部33aおよび位相シフト部893は、撮像条件を、第1の位相を持つ縞(第1の撮像条件)に設定する(ステップS132b)。
ステップS132bの後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像条件が、第1の位相を持つ縞であるため、撮像素子22は第2の画像を出力する。第3の期間が開始するとき、照明制御部33aはLD38を消灯させる(ステップS145b)。
ステップS145bの後、照明制御部33aはLD38を点灯させ、かつ位相シフト部893は第2の位相を設定する。第2の位相は、第1の位相を2π/3だけずらした位相である。これにより、照明制御部33aおよび位相シフト部893は、撮像条件を、第2の位相を持つ縞(第2の撮像条件)に設定する(ステップS170)。
ステップS170の後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像条件が、第2の位相を持つ縞であるため、撮像素子22は第2の画像を出力する。第3の期間が開始するとき、照明制御部33aはLD38を消灯させる(ステップS175)。
ステップS175の後、照明制御部33aはLD38を点灯させ、かつ位相シフト部893は第3の位相を設定する。第3の位相は、第2の位相を2π/3だけずらした位相である。これにより、照明制御部33aおよび位相シフト部893は、撮像条件を、第3の位相を持つ縞(第3の撮像条件)に設定する(ステップS180)。
ステップS180の後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する。撮像条件が、第3の位相を持つ縞であるため、撮像素子22は第2の画像を出力する。第3の期間が開始するとき、照明制御部33aはLD38を消灯させる(ステップS185)。
ステップS185の後、照明制御部33aは、白色光源37を点灯させることにより、撮像条件を観察照明(第4の撮像条件)に設定する(ステップS190)。ステップS190の後、ステップS150における処理が実行される。
図10に示す処理は、以下の処理に変更される。画像セットAおよび画像セットBがCPU34に入力される。画像セットAおよび画像セットBの各々は、1枚の第1の画像、1枚の第2の画像、1枚の第3の画像、および1枚の第4の画像を含む。
適性判断部345は、適性判断処理としての動き検出処理(ステップS200)において、セットAの第1の画像およびセットBの第1の画像に基づいて、2フレーム間の第1の動きを示す第1の値を算出する。適性判断部345は、動き検出処理において、セットAの第2の画像およびセットBの第2の画像に基づいて、2フレーム間の第2の動きを示す第2の値を算出する。適性判断部345は、動き検出処理において、セットAの第3の画像およびセットBの第3の画像に基づいて、2フレーム間の第2の動きを示す第3の値を算出する。適性判断部345は、動き検出処理において、セットAの第4の画像およびセットBの第4の画像に基づいて、2フレーム間の第2の動きを示す第4の値を算出する。例えば、適性判断部345は、セル54毎に2枚の画像間の画素値の差の絶対値を算出する。適性判断部345は、画像の全ての画素における画素値の差の絶対値の合計を算出する。適性判断部345は判断パラメーターとして第1の値、第2の値、第3の値、および第4の値を算出する。第1の値は、2枚の第1の画像から算出された画素値の差の絶対値の合計である。第2の値は、2枚の第2の画像から算出された画素値の差の絶対値の合計である。第3の値は、2枚の第3の画像から算出された画素値の差の絶対値の合計である。第4の値は、2枚の第4の画像から算出された画素値の差の絶対値の合計である。動きの検出方法は、他の方法であってもよい。適性判断の方法は動き検出以外の他の方法であってもよい。
適性判断部345は、ステップS205において、画像セットが後段の画像処理に適しているか否かを判断する。適性判断部345は、各判断パラメーターが所定値未満であるか否かを判断する。判断パラメーターの全てが所定値未満であると適性判断部345が判断した場合、適性判断部345は、画像セットが後段の画像処理に適している(適性あり)と判断する。判断パラメーターの少なくとも1つが所定値以上であると適性判断部345が判断した場合、適性判断部345は、画像セットが後段の画像処理に適していない(適性なし)と判断する。
ノイズ低減部346は、ノイズ低減処理(ステップS215)において、セットAの第1の画像およびセットBの第1の画像に基づいて、第1のNR画像(第5の画像)を生成する。第1のNR画像の画素値は、2枚の第1の画像間の画素値の加算平均である。ノイズ低減部346は、ノイズ低減処理において、セットAの第2の画像およびセットBの第2の画像に基づいて、第2のNR画像(第6の画像)を生成する。第2のNR画像の画素値は、2枚の第2の画像間の画素値の加算平均である。ノイズ低減部346は、ノイズ低減処理において、セットAの第3の画像およびセットBの第3の画像に基づいて、第3のNR画像(第7の画像)を生成する。第3のNR画像の画素値は、2枚の第3の画像間の画素値の加算平均である。
計測処理部347は、計測処理(ステップS220)において、第1のNR画像の光学的な歪みを補正することにより、第1の補正画像を生成する。計測処理部347は、計測処理において、第2のNR画像の光学的な歪みを補正することにより、第2の補正画像を生成する。計測処理部347は、計測処理において、第3のNR画像の光学的な歪みを補正することにより、第3の補正画像を生成する。計測処理部347は、計測処理において、第1のNR画像、第2のNR画像、および第3のNR画像を用いた位相シフト法により、被写体の表面の各点の3次元座標を算出する。計測処理部347は、カラー3Dデータを生成する。カラー3Dデータは、第4の画像の各画素の色情報と、各画素に対応する3次元座標とを含む。
可視化処理部343は、可視化処理(ステップS225)において、透視投影画像を生成する。CPU34は、生成された透視投影画像を映像処理部31に出力する。映像処理部31は、透視投影画像を表示部5に出力する。
上記の例では、位相シフト部893は、3つの位相を設定する。撮像条件の切り替えにおける位相の変化量は、2π/3である。位相シフト部893は、4つ以上の位相を設定してもよい。4つ以上の位相が設定される場合、撮像条件の切り替えにおける位相の変化量は、π/2以下である。4つ以上の位相が設定される場合、3つの位相に対応する3枚の画像(第1の画像、第2の画像、および第3の画像)に加えて、1枚以上の画像が取得される。
適性判断部345は、動き検出処理において、第1の値、第2の値、第3の値、および第4の値のいずれか1つのみを算出してもよい。適性判断部345は、第1の値、第2の値、第3の値、および第4の値のいずれか1つのみに基づいて、動きが検出されたか否かを判断してもよい。適性判断部345は、動き検出処理において、第1の値、第2の値、第3の値、および第4の値のいずれか2つのみを算出してもよい。適性判断部345は、第1の値、第2の値、第3の値、および第4の値のいずれか2つのみに基づいて、動きが検出されたか否かを判断してもよい。適性判断部345は、動き検出処理において、第1の値、第2の値、第3の値、および第4の値のいずれか3つのみを算出してもよい。適性判断部345は、第1の値、第2の値、第3の値、および第4の値のいずれか3つのみに基づいて、動きが検出されたか否かを判断してもよい。
撮像素子22は、4つの撮像条件のいずれか1つで複数枚の画像を生成し、かつ残りの3つの撮像条件で1枚の画像を生成してもよい。この場合、適性判断部345は、1つの撮像条件で生成された複数枚の画像に基づいて、第1の値、第2の値、第3の値、および第4の値のいずれか1つを算出する。撮像素子22は、4つの撮像条件のいずれか2つで複数枚の画像を生成し、かつ残りの2つの撮像条件で1枚の画像を生成してもよい。この場合、適性判断部345は、2つの撮像条件で生成された複数枚の画像に基づいて、第1の値、第2の値、第3の値、および第4の値のいずれか2つを算出する。撮像素子22は、4つの撮像条件のいずれか3つで複数枚の画像を生成し、かつ残りの1つの撮像条件で1枚の画像を生成してもよい。この場合、適性判断部345は、3つの撮像条件で生成された複数枚の画像に基づいて、第1の値、第2の値、第3の値、および第4の値のいずれか3つを算出する。
画像処理部342は、3つ以上の画像セットを処理し、最も画像処理に適したセットを選んでもよい。連続する2セットの2枚の画像間で動きが検出されても、連続する他の2セットの2枚の画像間で動きが検出されない可能性がある。そのため、3つ以上の画像セットから処理の対象を選ぶことにより撮像のやり直しの確率が下がる。ノイズ低減部346は、3枚以上の画像に基づいてノイズ低減処理を実行することにより、ノイズをより減らすことができる。
白色光源37、集光レンズ81、ライトガイド82、ロッドレンズ83、および拡散レンズ84は必須ではない。照明制御部33aおよび位相シフト部893は、第1の撮像条件、第2の撮像条件、および第3の撮像条件のみの間で撮像条件を切り替えてもよい。
第2の照明光に基づいて縞パターンを生成する手段と、縞パターンの位相をシフトさせる手段とは、レーザー光の干渉以外の他の方法に基づいてもよい。例えば、LEDアレイが発する光を投影させ、かつLEDアレイの点灯パターンを切り替えることにより縞パターンの位相をシフトさせる方法が第4の実施形態に適用されてもよい。
内視鏡装置1bは、3種類の位相を持つパターン光が照射された被写体の3回の撮像の時間間隔を短縮することができる。また、内視鏡装置1bは、白色光が照射された被写体の撮像と、パターン光が照射された被写体の撮像との時間間隔を短縮することができる。そのため、第1の実施形態と同様に、画像処理結果の品質が向上する。計測処理において、計測精度が向上する。再構成された被写体の3次元形状に対するカラーテクスチャーのずれが小さくなる。さらに、内視鏡装置1bはグローバル露光を行うため、ローリング歪の影響による画像処理結果の品質の悪化を低減できる。
LD38が生成する第2の照明光は青色以外の波長のレーザー光であってもよい。例えば、第2の照明光の波長は、赤、緑、または赤外の波長であってもよい。また、第1の撮像条件、第2の撮像条件、および第3の撮像条件の少なくとも1つにおいて、第1の照明光の照射は停止されなくてもよい。
(第5の実施形態)
図19は、本発明の第5の実施形態の内視鏡装置1cの構成を示す。図2に示す部分と同じ部分についての説明を省略する。
図2に示す本体部3は本体部3cに変更される。本体部3cにおいて、図2に示す切り替え制御部36は切り替え制御部36cに変更される。本体部3cにおいて、図2に示すCPU34はCPU34cに変更される。
図2に示す光学アダプター21は光学アダプター21cに変更される。光学アダプター21cにおいて、図2に示す観察光学系60は観察光学系60cに変更される。観察光学系60cは、凹レンズ23、凸レンズ24、および切り替え部25cを有する。凹レンズ23は、図12に示す凹レンズ23と同じである。凸レンズ24は、図12に示す凸レンズ24と同じである。
図20は、CPU34cの機能構成を示す。図3に示す部分と同じ部分についての説明を省略する。CPU34cは、図3に示す可視化処理部343を有していない。図3に示す画像処理部342は画像処理部342cに変更される。画像処理部342cは、適性判断部345、ノイズ低減部346、および合成処理部348を有する。
図2と異なる部分の概略について説明する。第1の撮像条件における観察光学系60cのピントと、第2の撮像条件における観察光学系60cのピントとは互いに異なる。合成処理部348は、第1の画像および第2の画像を合成することにより第3の画像を生成する。
切り替え制御部36cは、切り替え部25cに、第3の期間において撮像条件の切り替えを開始させ、かつ第3の期間において撮像条件の切り替えを完了させる。
切り替え制御部36cは、切り替え部25cに、複数の第1のフレーム期間において第1の撮像条件を設定させる。切り替え制御部36cは、切り替え部25cに、複数の第2のフレーム期間において第2の撮像条件を設定させる。複数の第2のフレーム期間の各々は、複数の第1のフレーム期間の各々と異なる。ノイズ低減部346は、複数枚の第1の画像にノイズ低減処理を実行することにより、第4の画像を生成する。ノイズ低減部346は、複数枚の第2の画像にノイズ低減処理を実行することにより、第5の画像を生成する。合成処理部348は、第4の画像および第5の画像を合成することにより第3の画像を生成する。
図2と異なる部分の詳細について説明する。切り替え部25cは、直動のソレノイドを有する。ソレノイドの可動子は凸レンズ24に接続されている。切り替え制御部36cは、切り替え部25cに電力を供給する。切り替え制御部36cは、切り替え部25cに、ソレノイドの位置を切り替えさせる。切り替え部25cは、ソレノイドの位置を切り替えることにより、観察光学系60cのピント(フォーカス)を切り替える。例えば、第1の撮像条件における第1のピントは遠点であり、かつ第2の撮像条件における第2のピントは近点である。第1の撮像条件における第1のピントが近点であり、かつ第2の撮像条件における第2のピントが遠点であってもよい。合成処理部348は、互いにピントが異なる複数枚の画像を合成することにより、深度合成を実行する。深度合成により、画像の被写界深度が広がる。
図21は、内視鏡装置1cの動作の手順を示す。図21を参照し、内視鏡装置1cの動作を説明する。図9に示す処理と同じ処理についての説明を省略する。
ステップS100の後、切り替え制御部36cは、ピントの切り替えのための制御信号を切り替え部25cに出力する。例えば、ユーザーは、操作部4を操作することにより、ピントの指示を入力する。例えば、ユーザーにより指示されたピントは、第1のピントおよび第2のピントのいずれか一方である。切り替え制御部36cは、ユーザーにより指示されたピントを示す制御信号を切り替え部25cに出力する。これにより、切り替え制御部36cは、切り替え部25cに、撮像条件の切り替えを開始させる。切り替え部25cは、切り替え制御部36cからの制御信号に基づいて、ピントの切り替えを開始する。その後、切り替え制御部36cは、切り替え部25cに、ピントの切り替えを完了させる(ステップS105c)。ステップS105cにおいて撮像条件が既にユーザーにより指示されたピントである場合、ステップS105cにおける処理は不要である。ステップS105cの後、ステップS110における処理が実行される。
ステップS115の後、制御部340は、合成を実行するか否かを判断する(ステップS120c)。例えば、ユーザーが操作部4を操作することにより合成指示を入力した場合、制御部340は、合成を実行すると判断する。
ステップS120cにおいて、合成を実行しないと制御部340が判断した場合、ステップS105cにおける処理が実行される。合成指示が入力されるまで、観察光学系60cのピントはユーザーによって指示されたピントに保たれる。合成指示が入力されるまで、撮像素子22は画像を順次出力し、かつ表示部5は画像を順次更新して表示する。
ステップS120cにおいて、合成を実行すると制御部340が判断した場合、切り替え制御部36cは、ピントの切り替えのための制御信号を切り替え部25cに出力する。これにより、切り替え制御部36cは、切り替え部25cに、ピントの切り替えを開始させる。切り替え部25cは、切り替え制御部36cからの制御信号に基づいて、ユーザーによって指示されたピントから第1のピントへの切り替え、または第2のピントから第1のピントへの切り替えを開始する。その後、切り替え制御部36cは、切り替え部25cに、ピントの切り替えを完了させる。これにより、切り替え制御部36cは、撮像条件を第1のピント(第1の撮像条件)に設定する(ステップS125c)。ステップS125cの後、ステップS130における処理が実行される。
ステップS135の後、切り替え制御部36cは、ピントの切り替えのための制御信号を切り替え部25cに出力する。これにより、切り替え制御部36cは、切り替え部25cに、ピントの切り替えを開始させる。切り替え部25cは、切り替え制御部36cからの制御信号に基づいて、第1のピントから第2のピントへの切り替えを開始する。その後、切り替え制御部36cは、切り替え部25cに、ピントの切り替えを完了させる。これにより、切り替え制御部36cは、撮像条件を第2のピント(第2の撮像条件)に設定する(ステップS140c)。ステップS140cの後、ステップS145における処理が実行される。
ステップS150において、所定数の画像セットの取得が完了したと制御部340が判断した場合、画像処理部342cは画像処理を実行する(ステップS155c)。ステップS155cの後、ステップS160における処理が実行される。
図22は、ステップS155cにおける画像処理の詳細を示す。図22を参照し、内視鏡装置1cの動作を説明する。図10に示す処理と同じ処理についての説明を省略する。
ステップS205において、適性ありと適性判断部345が判断した場合、ノイズ低減部346は、ノイズ低減処理を実行する。ノイズ低減部346は、ノイズ低減処理において、セットAの第1の画像およびセットBの第1の画像に基づいて、第1のNR画像(第4の画像)を生成する。第1のNR画像の画素値は、2枚の第1の画像間の画素値の加算平均である。ノイズ低減部346は、ノイズ低減処理において、セットAの第2の画像およびセットBの第2の画像に基づいて、第2のNR画像(第5の画像)を生成する。第2のNR画像の画素値は、2枚の第2の画像間の画素値の加算平均である(ステップS215)。
ステップS215の後、合成処理部348は、合成処理を実行する。合成処理部348は、合成処理において、第1のコントラストマップおよび第2のコントラストマップを生成する。第1のコントラストマップは、第1のNR画像の各画素におけるコントラストの第1の値を含む。第2のコントラストマップは、第2のNR画像の各画素におけるコントラストの第2の値を含む。合成処理部348は、合成処理において、第1の値と第2の値とを画素毎に比較する。合成処理部348は、第1の値が第2の値よりも大きい画素では、第1のNR画像の画素値を選択する。合成処理部348は、第2の値が第1の値よりも大きい画素では、第2のNR画像の画素値を選択する。合成処理部348は、合成処理において、選択された画素値を含む第3の画像を合成画像として生成する(ステップS240)。
ステップS240の後、表示処理部341は、ステップS240において生成された合成画像を表示部5に表示させる。表示部5は、合成画像を表示する(ステップS230c)。ステップS230cの後、ステップS235における処理が実行される。
ステップS215におけるノイズ低減処理が実行されない場合、合成処理部348は、1つの画像セットを使用して合成処理を実行する。合成処理部348は、第1のピントに対応する第1の画像と、第2のピントに対応する第2の画像とを合成することにより第3の画像を生成する。複数の画像セットから1つの画像セットが選択され、かつ合成処理部348は、選択された画像セットを使用して合成処理を実行してもよい。
合成処理部348は、3枚以上の画像を合成してもよい。3枚以上の画像の各々が生成されたときの観察光学系60cのピントは、互いに異なる。
内視鏡装置1cは、第1のピントにおける撮像と、第2のピントにおける撮像との時間間隔を短縮することができる。そのため、第1の実施形態と同様に、画像処理結果の品質が向上する。画像において、ピントが変更される間の被写体の移動または挿入部20の先端の移動による不自然なエッジの発生が抑制される。さらに、内視鏡装置1cはグローバル露光を行うため、ローリング歪の影響による画像処理結果の品質の悪化を低減できる。そのため、深度合成の結果の品質が向上する。
(第6の実施形態)
図23は、本発明の第6の実施形態の内視鏡装置1dの構成を示す。図2に示す部分と同じ部分についての説明を省略する。
図2に示す本体部3は本体部3dに変更される。本体部3dは切り替え制御部36を有していない。本体部3dにおいて、図2に示す照明制御部33は照明制御部33dに変更される。本体部3dにおいて、図2に示すCPU34はCPU34cに変更される。CPU34cは、図19に示すCPU34cと同じである。
図2に示す光学アダプター21は光学アダプター21dに変更される。光学アダプター21dにおいて、図2に示す観察光学系60は観察光学系60aに変更される。観察光学系60aは、図12に示す観察光学系60aと同じである。
図2と異なる部分の概略について説明する。第1の撮像条件における白色光源37の光量と、第2の撮像条件における白色光源37の光量とは互いに異なる。画像処理部342cの合成処理部348は、第1の画像および第2の画像を合成することにより第3の画像を生成する。
照明制御部33dは、切り替え部および切り替え制御部として機能する。照明制御部33dは、第3の期間において撮像条件の切り替えを開始し、かつ第3の期間において撮像条件の切り替えを完了する。照明制御部33dは、次の第2の期間が開始される前に、撮像条件の切り替えを完了する。つまり、照明制御部33dは、撮像条件の切り替えが開始された第3の期間と同一の第3の期間において撮像条件の切り替えを完了する。
照明制御部33dは、複数の第1のフレーム期間において第1の撮像条件を設定する。照明制御部33dは、複数の第2のフレーム期間において第2の撮像条件を設定する。複数の第2のフレーム期間の各々は、複数の第1のフレーム期間の各々と異なる。ノイズ低減部346は、複数枚の第1の画像にノイズ低減処理を実行することにより、第4の画像を生成する。ノイズ低減部346は、複数枚の第2の画像にノイズ低減処理を実行することにより、第5の画像を生成する。合成処理部348は、第4の画像および第5の画像を合成することにより第3の画像を生成する。
図2と異なる部分の詳細について説明する。照明制御部33dは、白色光源37の光量を切り替えることにより、撮像条件を切り替える。第1の撮像条件における照明光の明るさと、第2の撮像条件における照明光の明るさとは互いに異なる。そのため、第1の撮像条件におけるセル54の露光量と、第2の撮像条件におけるセル54の露光量とは互いに異なる。合成処理部348は、互いに露光量が異なる複数枚の画像を合成することにより、HDR(High Dynamic Range)合成を実行する。HDR合成により、画像のダイナミックレンジが広がる。
図24は、内視鏡装置1dの動作の手順を示す。図24を参照し、内視鏡装置1dの動作を説明する。図21に示す処理と同じ処理についての説明を省略する。
ステップS100の後、照明制御部33dは、白色光源37の光量を所定の適性光量に設定する。これにより、照明制御部33dは、撮像条件を第1の露光量に設定する(ステップS105d)。ステップS105dの後、ステップS110における処理が実行される。
ステップS120cにおいて、合成を実行すると制御部340が判断した場合、照明制御部33dは、白色光源37の光量を所定の適性光量に設定する。これにより、照明制御部33dは、撮像条件を第1の露光量(第1の撮像条件)に設定する(ステップS125d)。ステップS125dの後、ステップS130における処理が実行される。
ステップS135の後、照明制御部33dは、白色光源37の光量を適性光量の1/4に設定する。これにより、照明制御部33dは、撮像条件を第2の露光量(第2の撮像条件)に設定する(ステップS140d)。ステップS140dの後、ステップS145における処理が実行される。
ステップS145の後、照明制御部33dは、白色光源37の光量を適性光量の4倍に設定する。これにより、照明制御部33dは、撮像条件を第3の露光量(第3の撮像条件)に設定する(ステップS170d)。
ステップS170dの後、撮像素子22は、1フレームの画像を生成し、かつ生成された画像を出力する(ステップS175d)。ステップS175dの後、ステップS150における処理が実行される。
ステップS155cにおける画像処理は、図22に示す処理を含む。第5の実施形態における画像処理と異なる部分を説明する。
画像セットAおよび画像セットBがCPU34cに入力される。画像セットAおよび画像セットBの各々は、1枚の第1の露光画像、1枚の第2の露光画像、および1枚の第3の露光画像を含む。第1の露光画像は、撮像条件が第1の露光量であるときに生成された画像である。第2の露光画像は、撮像条件が第2の露光量であるときに生成された画像である。第3の露光画像は、撮像条件が第3の露光量であるときに生成された画像である。
適性判断部345は、動き検出処理(ステップS200)において、セットAの第1の露光画像およびセットBの第1の露光画像に基づいて、2フレーム間の第1の動きを示す第1の値を算出する。適性判断部345は、動き検出処理において、セットAの第2の露光画像およびセットBの第2の露光画像に基づいて、2フレーム間の第2の動きを示す第2の値を算出する。適性判断部345は、動き検出処理において、セットAの第3の露光画像およびセットBの第3の露光画像に基づいて、2フレーム間の第3の動きを示す第3の値を算出する。例えば、適性判断部345は、画像の画素毎に2枚の画像間の各画素における画素値の差の絶対値を算出する。適性判断部345は、全てのセル54における画素値の差の絶対値の合計を算出する。第1の値は、2枚の第1の露光画像から算出された画素値の差の絶対値の合計である。第2の値は、2枚の第2の露光画像から算出された画素値の差の絶対値の合計である。第3の値は、2枚の第3の露光画像から算出された絶対値の合計である。動きの検出方法は、他の方法であってもよい。
適性判断部345は、ステップS205において、動きが検出されたか否かを判断する。適性判断部345は、第1の値、第2の値、および第3の値の各々が所定値未満であるか否かを判断する。第1の値、第2の値、および第3の値の全てが所定値未満であると適性判断部345が判断した場合、適性判断部345は、動きが検出されなかった(動きが発生していない、または動きがない)と判断する。第1の値、第2の値、および第3の値の少なくとも1つが所定値以上であると適性判断部345が判断した場合、適性判断部345は、動きが検出された(動きが発生した、または動きがある)と判断する。
ノイズ低減部346は、ノイズ低減処理(ステップS215)において、セットAの第1の露光画像およびセットBの第1の露光画像に基づいて、第1のNR画像(第4の画像)を生成する。第1のNR画像の画素値は、2枚の第1の露光画像間の画素値の加算平均である。ノイズ低減部346は、ノイズ低減処理において、セットAの第2の露光画像およびセットBの第2の露光画像に基づいて、第2のNR画像(第5の画像)を生成する。第2のNR画像の画素値は、2枚の第2の露光画像間の画素値の加算平均である。ノイズ低減部346は、ノイズ低減処理において、セットAの第3の露光画像およびセットBの第3の露光画像に基づいて、第3のNR画像(第6の画像)を生成する。第3のNR画像の画素値は、2枚の第3の露光画像間の画素値の加算平均である。
ステップS215の後、合成処理部348は、合成処理を実行する。合成処理部348は、合成処理において、第1のNR画像、第2のNR画像、および第3のNR画像を合成することにより、第3の画像を合成画像として生成する(ステップS240)。
合成画像において、白飛びおよび黒つぶれが抑えられている。ステップS230cにおいて合成画像が表示されたとき、視野内の暗い場所と視野内の明るい場所とが適切な明るさで表示される。
ステップS215におけるノイズ低減処理が実行されない場合、合成処理部348は、1つの画像セットを使用して合成処理を実行する。合成処理部348は、第1の露光量に対応する第1の露光画像と、第2の露光量に対応する第2の露光画像と、第3の露光量に対応する第3の露光画像とを合成することにより第3の画像を生成する。複数の画像セットから1つの画像セットが選択され、かつ合成処理部348は、選択された画像セットを使用して合成処理を実行してもよい。
適性判断部345は、動き検出処理において、第1の値、第2の値、および第3の値のいずれか1つのみを算出してもよい。適性判断部345は、第1の値、第2の値、および第3の値のいずれか1つのみに基づいて、動きが検出されたか否かを判断してもよい。適性判断部345は、動き検出処理において、第1の値、第2の値、および第3の値のいずれか2つのみを算出してもよい。適性判断部345は、第1の値、第2の値、および第3の値のいずれか2つのみに基づいて、動きが検出されたか否かを判断してもよい。
撮像素子22は、3つの撮像条件のいずれか1つで複数枚の画像を生成し、かつ残りの2つの撮像条件で1枚の画像を生成してもよい。この場合、適性判断部345は、1つの撮像条件で生成された複数枚の画像に基づいて、第1の値、第2の値、および第3の値のいずれか1つを算出する。撮像素子22は、3つの撮像条件のいずれか2つで複数枚の画像を生成し、かつ残りの1つの撮像条件で1枚の画像を生成してもよい。この場合、適性判断部345は、2つの撮像条件で生成された複数枚の画像に基づいて、第1の値、第2の値、および第3の値のいずれか2つを算出する。
合成処理部348は、2枚の画像を合成してもよい。2枚の画像の各々が生成されたときの白色光源37の光量は、互いに異なる。合成処理部348は、4枚以上の画像を合成してもよい。4枚以上の画像の各々が生成されたときの白色光源37の光量は、互いに異なる。
内視鏡装置1dは、第1の露光量における撮像と、第2の露光量における撮像と、第3の露光量における撮像との時間間隔を短縮することができる。そのため、第1の実施形態と同様に、画像処理結果の品質が向上する。画像において、露光量が変更される間の被写体の移動または挿入部20の先端の移動による不自然なエッジの発生が抑制される。さらに、内視鏡装置1dはグローバル露光を行うため、ローリング歪の影響による画像処理結果の品質の悪化を低減できる。そのため、HDR合成の結果の品質が向上する。
(第7の実施形態)
図25は、本発明の第7の実施形態の内視鏡装置1eの構成を示す。図2に示す部分と同じ部分についての説明を省略する。
図2に示す本体部3は本体部3eに変更される。本体部3eにおいて、図2に示すCPU34はCPU34cに変更される。CPU34cは、図19に示すCPU34cと同じである。
図2と異なる部分の概略について説明する。観察光学系60は、第1の光学系、第2の光学系、および切り替え部25を有する。凹レンズ23a、凸レンズ24a、および結像光学系26は、第1の光学系である。第1の光学系は、撮像素子22の光学的な前方(被写体側)に配置され、かつ被写体からの光に基づく第1の光学像を撮像素子22に形成する。凹レンズ23b、凸レンズ24b、および結像光学系26は、第2の光学系である。第2の光学系は、撮像素子22の光学的な前方(被写体側)に配置され、かつ被写体からの光に基づく第2の光学像を撮像素子22に形成する。切り替え部25は、第1の光学系および第2の光学系のいずれか1つを選択し、かつ第1の光学像および第2の光学像のいずれか1つのみを撮像素子22上に形成させる。
第1の光学系の視野および第2の光学系の視野は、共通の領域を持つ。切り替え制御部36は、切り替え部25を制御することにより、撮像素子22に形成される光学像を切り替える。第1の撮像条件において第1の光学像が撮像素子22に形成される。第2の撮像条件において第2の光学像が撮像素子22に形成される。合成処理部348は、共通の領域に対応する第1の画像の領域と、共通の領域に対応する第2の画像の領域との位置合わせを行い、かつ第1の画像および第2の画像を合成することにより、第3の画像を生成する。
切り替え制御部36は、切り替え部25に、複数の第1のフレーム期間において第1の撮像条件を設定させる。切り替え制御部36は、切り替え部25に、複数の第2のフレーム期間において第2の撮像条件を設定させる。複数の第2のフレーム期間の各々は、複数の第1のフレーム期間の各々と異なる。ノイズ低減部346は、複数枚の第1の画像にノイズ低減処理を実行することにより、第4の画像を生成する。ノイズ低減部346は、複数枚の第2の画像にノイズ低減処理を実行することにより、第5の画像を生成する。合成処理部348は、第4の画像および第5の画像を合成することにより第3の画像を生成する。
図2と異なる部分の詳細について説明する。第1の光学系および第2の光学系は、互いに視差を有する。そのため、第1の光学系の視野および第2の光学系の視野は互いに異なる。第1の光学系の光軸および第2の光学系の光軸は、互いにほぼ平行である。第1の光学系の視野の一部と第2の光学系の視野の一部とは、同じである。第1の光学系の視野は、第1の領域および共通領域を含む。第2の光学系の視野は、第2の領域および共通領域を含む。第2の領域は、第1の領域と異なる。
合成処理部348は、互いに視野が異なる複数枚の画像を合成することにより、パノラマ合成を実行する。合成処理部348は、パノラマ合成において、各画像の共通領域が含まれるように共通領域の位置合わせを行った後、複数枚の画像を合成する。パノラマ合成により、画像における視野が広がる。
内視鏡装置1は、図9に示す処理を実行する。図9に示すステップS155における画像処理は、図22に示す処理を含む。第1の実施形態における画像処理と異なる部分を説明する。
合成処理部348は、合成処理(ステップS240)において、第1のNR画像および第2のNR画像を合成することにより、第3の画像を合成画像として生成する。この処理において、各画像の共通領域の位置合わせが行われ、第1のNR画像の共通領域と第2のNR画像の共通領域とが重なる。
ステップS215におけるノイズ低減処理が実行されない場合、合成処理部348は、1つの画像セットを使用して合成処理を実行する。合成処理部348は、第1の光学系に対応する第1の画像と、第2の光学系に対応する第2の画像とを合成することにより第3の画像を生成する。複数の画像セットから1つの画像セットが選択され、かつ合成処理部348は、選択された画像セットを使用して合成処理を実行してもよい。
第1の光学系の光軸と第2の光学系の光軸とが互いに平行でなくてもよい。例えば、第1の光学系の光軸は撮像素子22の光学的な前方に伸び、かつ第1の光学系は左右における120度の視野を持ってもよい。第2の光学系の光軸は第1の光学系の光軸に直交し、かつ第2の光学系は左右における120度の視野を持ってもよい。この場合、第1の光学系の視野における右側の15度の領域と、第2の光学系の視野における左側の15度の領域とが共通領域である。
内視鏡装置1は、第1の視野における撮像と、第2の視野における撮像との時間間隔を短縮することができる。そのため、第1の実施形態と同様に、画像処理結果の品質が向上する。画像において、視野が変更される間の被写体の移動または挿入部20の先端の移動による不自然なエッジの発生が抑制される。さらに、内視鏡装置1はグローバル露光を行うため、ローリング歪の影響による画像処理結果の品質の悪化を低減できる。そのため、パノラマ合成の結果の品質が向上する。
以上、本発明の好ましい実施形態を説明したが、本発明はこれら実施形態およびその変形例に限定されることはない。本発明の趣旨を逸脱しない範囲で、構成の付加、省略、置換、およびその他の変更が可能である。また、本発明は前述した説明によって限定されることはなく、添付のクレームの範囲によってのみ限定される。