以下、本発明を実施するための形態(以下、「実施の形態」という)として、患者等の被検体の体腔内の画像を撮像して表示する医療用の内視鏡システムを撮像システムとして説明する。また、この実施の形態により、この発明が限定されるものではない。さらに、図面の記載において、同一部分には同一の符号を付して説明する。
(実施の形態1)
図1は、本発明の実施の形態1にかかる内視鏡システムの概略構成を示す図である。図2は、本発明の実施の形態1にかかる内視鏡システムの要部の機能構成を示すブロック図である。
図1および図2に示す内視鏡システム1は、被検体の体腔内に先端部を挿入することによって被検体の体内画像を撮像する内視鏡2(電子スコープ)と、内視鏡2の先端から出射する照明光を発生する光源装置3と、内視鏡2が撮像した体内画像に所定の画像処理を施すとともに、内視鏡システム1全体の動作を統括的に制御する処理装置4(外部プロセッサ)と、処理装置4が画像処理を施した体内画像を表示する表示装置5と、を備える。
内視鏡2は、可撓性を有する細長形状をなす挿入部21と、挿入部21の基端側に接続され、各種の操作信号の入力を受け付ける操作部22と、操作部22から挿入部21が延びる方向と異なる方向に延び、光源装置3および処理装置4に接続する各種ケーブルを内蔵するユニバーサルコード23と、を備える。
挿入部21は、光を受光して光電変換を行うことにより信号を生成する画素が2次元状に配列された撮像素子244を内蔵した先端部24と、複数の湾曲駒によって構成された湾曲自在な湾曲部25と、湾曲部25の基端側に接続され、可撓性を有する長尺状の可撓管部26と、を有する。
先端部24は、グラスファイバ等を用いて構成されて光源装置3が発光した光の導光路をなすライトガイド241と、ライトガイド241の先端に設けられた照明レンズ242と、集光用の光学系243と、光学系243の結像位置に設けられ、光学系243が集光した光を受光して電気信号に光電変換して所定の信号処理を施す撮像素子244と、を有する。
光学系243は、一または複数のレンズを用いて構成され、画角を変化させる光学ズーム機能および焦点を変化させるフォーカス機能を有する。
撮像素子244は、光学系243からの光を光電変換して電気信号(撮像信号)を生成するセンサ部244aと、センサ部244aが出力した電気信号に対してノイズ除去やA/D変換を行うアナログフロントエンド部244b(以下、「AFE部244b」という)と、AFE部244bが出力したデジタル信号(画像信号)をパラレル/シリアル変換して外部に送信するP/S変換部244cと、センサ部244aの駆動タイミング、AFE部244bおよびP/S変換部244cにおける各種信号処理のパルスを発生するタイミングジェネレータ244dと、撮像素子244の動作を制御する撮像制御部244eと、を有する。撮像素子244は、CMOSセンサである。
センサ部244aは、光量に応じた電荷を蓄積するフォトダイオードおよびフォトダイオードが蓄積した電荷を増幅する増幅器をそれぞれ有する複数の画素が2次元状に配列され、光学系243からの光を光電変換して電気信号(撮像信号)を生成する受光部244fと、受光部244fの複数の画素のうち読み出し対象として任意に設定された画素が生成した電気信号を画像情報として順次読み出す読み出し部244gと、を有する。また、読み出し部244gは、受光部244fから水平ライン毎に電気信号(撮像信号)を順次読み出してAFE部244bへ出力する。
AFE部244bは、電気信号(アナログ)に含まれるノイズ成分を低減するノイズ低減部244hと、電気信号の増幅率(ゲイン)を調整して一定の出力レベルを維持するAGC(Automatic Gain Control)部244iと、AGC部244iを介して出力された画像情報(画像信号)としての電気信号をA/D変換するA/D変換部244jと、を有する。ノイズ低減部244hは、たとえば相関二重サンプリング(Correlated Double Sampling)法を用いてノイズの低減を行う。
撮像制御部244eは、処理装置4から受信した設定データに従って先端部24の各種動作を制御する。撮像制御部244eは、CPU(Central Processing Unit)や各種プログラムを記録するレジスタ等を用いて構成される。
操作部22は、湾曲部25を上下方向および左右方向に湾曲させる湾曲ノブ221と、被検体の体腔内に生体鉗子、電気メスおよび検査プローブ等の処置具を挿入する処置具挿入部222と、処理装置4、光源装置3に加えて、送気手段、送水手段、画面表示制御等の周辺機器の操作指示信号を入力する操作入力部である複数のスイッチ223と、を有する。処置具挿入部222から挿入される処置具は、先端部24の処置具チャンネル(図示せず)を経由して開口部(図示せず)から表出する。
ユニバーサルコード23は、ライトガイド241と、一または複数の信号線をまとめた集合ケーブル245と、を少なくとも内蔵している。
つぎに、光源装置3の構成について説明する。光源装置3は、照明部31と、照明制御部32と、を備える。
照明部31は、照明制御部32の制御のもと、被写体に対して、波長帯域が互いに異なる複数の照明光を順次切り替えて出射する。照明部31は、光源部31aと、光源ドライバ31bと、回転フィルタ31cと、駆動部31dと、駆動ドライバ31eと、を有する。
光源部31aは、白色LEDおよび一または複数のレンズ等を用いて構成され、光源ドライバ31bの制御のもと、白色光を回転フィルタ31cへ出射する。光源部31aが発生させた白色光は、回転フィルタ31cおよびライトガイド241を経由して先端部24の先端から被写体に向けて出射される。
光源ドライバ31bは、照明制御部32の制御のもと、光源部31aに対して電流を供給することにより、光源部31aに白色光を出射させる。
回転フィルタ31cは、光源部31aが出射する白色光の光路上に配置され、回転することにより、光源部31aが出射した白色光のうち所定の波長帯域の光のみを透過させる。具体的には、回転フィルタ31cは、赤色光(R)、緑色光(G)および青色光(B)それぞれの波長帯域を有する光を透過させる赤色フィルタ311、緑色フィルタ312および青色フィルタ313を有する。回転フィルタ31cは、回転することにより、赤、緑および青の波長帯域(例えば、赤:600nm〜700nm、緑:500nm〜600nm、青:400nm〜500nm)の光を順次透過させる。これにより、光源部31aが出射する白色光(W照明)は、狭帯域化した赤色光(R照明)、緑色光(G照明)および青色光(B照明)いずれかの光を内視鏡2に順次出射(面順次方式)することができる。
駆動部31dは、ステッピングモータやDCモータ等を用いて構成され、回転フィルタ31cを回転動作させる。
駆動ドライバ31eは、照明制御部32の制御のもと、駆動部31dに所定の電流を供給する。
照明制御部32は、読み出し部244gが受光部244fの最初のラインの読み出し開始から次の最初の水平ラインの読み出し開始までの第1の期間、照明部31に第1の照明光を出射させ、第1の期間の終了後、次の受光部244fの最初のラインの読み出し開始までの第2の期間、第1の照明光と波長帯域が異なる第2の照明光を照明部31に出射させ、第2の期間の終了後、次の受光部244fの最初のラインの読み出し開始までの第3の期間、第1の照明光を照明部31に出射させる一連の処理を照明部31に繰り返し実行させる。具体的には、照明制御部32は、第1の期間にG照明を照明部31に出射させ、第2の期間にR照明を照明部31に出射させ、第3の期間にG照明を照明部31に出射させる。
次に、処理装置4の構成について説明する。処理装置4は、S/P変換部401と、画像処理部402と、明るさ検出部403と、調光部404と、読出アドレス設定部405と、駆動信号生成部406と、入力部407と、記録部408と、制御部409と、基準クロック生成部410と、を備える。
S/P変換部401は、撮像素子244から入力された画像情報(電気信号)をシリアル/パラレル変換して画像処理部402に出力する。なお、画像情報には、撮像信号および撮像素子244を補正する補正パラメータ等が含まれる。
画像処理部402は、S/P変換部401から入力された画像情報をもとに、表示装置5が表示する体内画像を生成する。画像処理部402は、画像情報に対して、所定の画像処理を実行して体内画像を生成する。ここで、画像処理としては、同時化処理、オプティカルブラック低減処理、ホワイトバランス調整処理、カラーマトリクス演算処理、ガンマ補正処理、色再現処理、エッジ強調処理、複数の画像データを合成する合成処理およびフォーマット変換処理等である。さらに、画像処理部402は、読み出し部244gが受光部244fから読み出した第1の期間における第1の撮像信号と第2の期間における第2の撮像信号とを加算した加算信号から第3の期間における第3の撮像信号を減算することによって、波長帯域が異なる第2の照明光(第2の期間の照明光)に対応する単色の色信号を生成する。さらにまた、画像処理部402は、第3の撮像信号から第1の照明光に対応する第1の色信号を生成する。また、画像処理部402は、S/P変換部401から入力された画像情報を制御部409または明るさ検出部403へ出力する。
明るさ検出部403は、画像処理部402から入力されるRGB画像情報から、各画素に対応する明るさレベルを検出し、検出した明るさレベルを内部に設けられたメモリに記録するとともに制御部409へ出力する。また、明るさ検出部403は、検出した明るさレベルをもとにゲイン調整値を算出し、ゲイン調整値を画像処理部402へ出力する。
調光部404は、制御部409の制御のもと、明るさ検出部403が算出した光照射量をもとに光源装置3が発生する光量や発光タイミング等を設定し、この設定した条件を含む調光信号を光源装置3へ出力する。
読出アドレス設定部405は、センサ部244aの受光面における読み出し対象の画素および読み出し順序を設定する機能を有する。すなわち、読出アドレス設定部405は、AFE部244bがセンサ部244aから読み出す画素のアドレスを設定する機能を有する。また、読出アドレス設定部405は、設定した読み出し対象の画素のアドレス情報を画像処理部402へ出力する。
駆動信号生成部406は、撮像素子244を駆動するための駆動用のタイミング信号を生成し、集合ケーブル245に含まれる所定の信号線を介してタイミングジェネレータ244dへ送信する。このタイミング信号は、読み出し対象の画素のアドレス情報を含む。
入力部407は、内視鏡システム1の動作を指示する動作指示信号等の各種信号の入力を受け付ける。
記録部408は、フラッシュメモリやDRAM(Dynamic Random Access Memory)等の半導体メモリを用いて実現される。記録部408は、内視鏡システム1を動作させるための各種プログラム、および内視鏡システム1の動作に必要な各種パラメータ等を含むデータを記録する。また、記録部408は、処理装置4の識別情報を記録する。ここで、識別情報には、処理装置4の固有情報(ID)、年式、スペック情報、伝送方式および伝送レート等が含まれる。
制御部409は、CPU等を用いて構成され、撮像素子244および光源装置3を含む各構成部の駆動制御、および各構成部に対する情報の入出力制御などを行う。制御部409は、撮像制御のための設定データを、集合ケーブル245に含まれる所定の信号線を介して撮像制御部244eへ送信する。制御部409は、撮像素子244の各ラインの露光タイミングと読み出しタイミングを含む同期信号を光源装置3に出力する。
基準クロック生成部410は、内視鏡システム1の各構成部の動作の基準となる基準クロック信号を生成し、内視鏡システム1の各構成部に対して生成した基準クロック信号を供給する。
次に、表示装置5について説明する。表示装置5は、映像ケーブルを介して処理装置4が生成した体内画像情報に対応する体内画像を受信して表示する。表示装置5は、液晶または有機EL(Electro Luminescence)を用いて構成される。
以上の構成を有する内視鏡システム1の撮影時における光源装置3が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402による処理について説明する。
図3は、内視鏡システム1の撮影時における光源装置3が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402による処理を模式的に示す図である。図3(a)は、時間を示す。図3(b)は、光源装置3が出射する照明光の出射タイミングを示す。図3(c)は、撮像素子244の露光と読み出しタイミングを示す。図3(d)は、画像処理部402による画像生成処理の内容を示す。
図3に示すように、照明制御部32は、照明部31を制御し、撮像素子244のフレームレートに同期して回転フィルタ31cを回転することによって、面順次方式で異なる波長帯域のG照明(緑色光)、R照明(赤色光)およびB照明(青色光)を照明部31に出射させる。
具体的には、照明制御部32は、読み出し部244gが受光部244fのフレームF1の最初の水平ラインから次のフレームF2の最初の水平ラインを読み出すまでの第1の期間T1において照明部31にG照明を出射させる。
続いて、照明制御部32は、読み出し部244gが受光部244fのフレームF2の最初の水平ラインから次のフレームF3の最初の水平ラインを読み出すまでの第2の期間T2において照明部31にR照明を出射させる。この際、読み出し部244gは、G照明による露光期間とR照明による露光期間とが混在したフレームF1のGR画像データD1を受光部244fから読み出して画像処理部402へ出力する。
その後、照明制御部32は、読み出し部244gが受光部244fのフレームF3の最初の水平ラインから次のフレームF4の最初の水平ラインを読み出しまでの第3の期間T3において照明部31にG照明を出射させる。この際、読み出し部244gは、R照明による露光期間とG照明による露光期間とが混在したフレームF2のRG画像データD2を受光部244fから読み出して画像処理部402へ出力する。さらに、画像処理部402は、GR画像データD1とRG画像データD2とを加算したGRRG画像データM1を生成する。具体的には、画像処理部402は、GR画像データD1とRG画像データD2とを画素毎に輝度値を加算することによって、GRRG画像データM1を生成する。
続いて、照明制御部32は、読み出し部244gが受光部244fのフレームF4の最初の水平ラインから次のフレームF5の最初の水平ラインを読み出すまでの第4の期間T4において照明部31にG照明を出射させる。この際、読み出し部244gは、G照明のみの露光期間のフレームF3のG画像データD3を受光部244fから読み出して画像処理部402へ出力する。さらに、画像処理部402は、GRRG画像データM1から画像データD3を減算することによって、単色のR画像データS1を生成する。具体的には、画像処理部402は、GRRG画像データM1から画像データD3を画素毎に輝度値を減算することによって、単色のR画像データS1を生成する。これにより、画像処理部402は、3フレームを一組として単色の画像データを生成することができる。
その後、照明制御部32は、読み出し部244gが受光部244fのフレームF5の最初の水平ラインから次のフレームF6の最初の水平ラインを読み出すまでの第5の期間T5において照明部31にB照明を出射させる。この際、読み出し部244gは、G照明による露光期間とB照明による露光期間とが混在したフレームF4のGB画像データD4を受光部244fから読み出して画像処理部402へ出力する。
続いて、照明制御部32は、読み出し部244gが受光部244fのフレームF6の最初の水平ラインから次のフレームF7の水平ラインを読み出すまでの第6の期間T6において照明部31にG照明を出射させる。この際、読み出し部244gは、B照明による露光期間とG照明による露光期間とが混在したフレームF5のBG画像データD5を受光部244fから読み出して画像処理部402へ出力する。さらに、画像処理部402は、GB画像データD4とBG画像データD5とを画素毎に輝度値を加算してGBBG画像データM2を生成する。
その後、照明制御部32は、読み出し部244gが受光部244fのフレームF7の最初の水平ラインから次のフレームF8の水平ラインを読み出すまでの第7の期間T7において照明部31にG照明を出射させる。この際、読み出し部244gは、G照明のみの露光期間のフレームF6のG画像データD6を受光部244fから読み出して画像処理部402へ出力する。さらに、画像処理部402は、GBBG画像データM2からG画像データD6を画素毎に輝度値を減算することによって、単色のB画像データS3を生成する。さらにまた、画像処理部402は、R画像データS1、G画像データS2およびB画像データS3を画素毎に輝度値を加算(合成)して白色のW画像データW1を生成し、W画像データW1を表示装置5へ出力する。これにより、画像処理部402は、6フレーム単位でRGBの各色の画像データを生成することができる。この結果、表示装置5は、カラーの体内画像を表示することができる。
このように、照明制御部32は、照明部31にR照明またはB照明を1フレーム期間毎に出射させるとともに、R照明またはB照明の前後にG照明を1フレーム期間出射させる一連の処理を照明部31に繰り返し実行させる。また、画像処理部402は、R照明による露光期間またはB照明による露光期間の前後の画像データを加算して次のフレームのG照明のみによる露光時間のG画像データで減算することによって、R照明のR画像データまたはB照明のB画像データを生成する。これにより、各色の画像を順次生成することができる。
以上説明した本発明の実施の形態1によれば、照明制御部32が第1の期間、照明部31に第1の照明光を出射させ、第1の期間の終了後、第2の期間、第1の照明光と波長帯域が異なる第2の照明光を照明部31に出射させ、第2の期間の終了後、第3の期間、第1の照明光を照明部31に出射させる一連の処理を照明部31に実行させ、画像処理部402が第1の期間における第1の撮像信号と第2の期間における第2の撮像信号とを加算した加算信号から第3の期間における第3の撮像信号を減算することによって、異なる波長帯域に対応する第2の照明光(赤色または青色)に対応する単色の色信号を生成する。この結果、撮像素子244で露光してから電荷を読み出すまでの一連の処理をライン毎に異なるタイミングで行ったとしても、画質が低下することを防止することができる。
また、本発明の実施の形態1によれば、6フレームで1画像を生成することができるので、R照明またはB照明の照明効率を100%で行うことができるとともに、G照明の照明効率を50%まで向上させることができる。
なお、本発明の実施の形態1では、第1の期間および第3の期間においてG照明で露光していたが、たとえばR照明であってもよい。この場合、第2の期間においてG照明またはB照明で露光すればよい。さらに、第1の期間および第3の期間においてB照明で露光してもよい。
(実施の形態2)
次に、本発明の実施の形態2について説明する。本実施の形態2にかかる内視鏡システムは、5フレーム単位で1枚のカラー画像を生成する。また、本実施の形態2にかかる内視鏡システムは、上述した実施の形態1にかかる内視鏡システムと同一の構成を有する。このため、以下においては、内視鏡システムの撮影時における光源装置が出射する照明光の出射タイミング、撮像素子の露光と読み出しタイミングおよび画像処理部による処理について説明する。なお、上述した実施の形態1と同一の構成には同一の符号を付して説明する。
図4は、本実施の形態2にかかる内視鏡システム1の撮影時における光源装置3が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402による処理を模式的に示す図である。図4(a)は、時間を示す。図4(b)は、光源装置3が出射する照明光の出射タイミングを示す。図4(c)は、撮像素子244の露光と読み出しタイミングを示す。図4(d)は、画像処理部402による画像生成処理の内容を示す。図4(e)は、表示装置5が表示する画像の内容を示す。
図4に示すように、照明制御部32は、第2の照明光を1フレーム期間出射させるとともに、第2の照明光の前後を挟み込むように第1の照明光を1フレーム期間出射させる処理を照明部31に繰り返し実行させる。
具体的には、照明制御部32は、R照明を1フレーム期間出射させるとともに、R照明の前後を挟み込むようにG照明を1フレーム期間出射させる第1の照明パターンと、B照明を1フレーム期間出射させるとともに、B照明の前後を挟み込むようにG照明を1フレーム期間出射させる第2の照明パターンとを交互に入れ替えながら繰り返す一連の処理を照明部31に実行させる。より具体的には、図4に示すように、照明制御部32は、照明部31にG照明を1フレーム期間出射させた後、R照明を1フレーム期間出射させ、その後、G照明を1フレーム期間出射させる(第1の照明パターン)。続いて、照明制御部32は、再度、照明部31にG照明を1フレーム期間出射させた後、B照明を1フレーム期間出射させ、その後、G照明を1フレーム期間出射させる(第2の照明パターン)。
また、図4に示す状況下では、5フレームに1回、単色のフレーム(G照明)ができる。このため、画像処理部402は、単色のフレームを中央とする5フレームを一組とし、第1の組の最後の2フレーム(最新の2フレーム)を次の第2の組の最初の2フレームとして重複させて順次入れ替えることで、RGBの各画像データをそれぞれ生成することによって、3フレームに1枚の割合で白色の画像データを生成する。図4に示すように、たとえば、画像処理部402は、フレームF1のGR画像データD11と、フレームF2のRG画像データD12と、フレームF3のG画像データD13と、フレームF4のGB画像データD14と、フレームF5のBG画像データD15とを一組(第1の組)とし、フレームF4のGB画像データD14と、フレームF5のBG画像データD15と、フレームF6のG画像データD16と、フレームF7のGR画像データD17と、フレームF8のRG画像データD18とを別の一組(第2の組)とする。
画像処理部402は、第1の組を用いて白色の画像データを生成する場合、GR画像データD11とRG画像データD12とを画素毎に輝度値を加算してGRRG画像データM11を生成し、GRRG画像データM11とG画像データD13とを画素毎に輝度値を減算することによって、単色のR2画像データS14を生成する。さらに、画像処理部402は、GB画像データD14とBG画像データD15とを画素毎に輝度値を加算してGBBG画像データM12を生成し、GBBG画像データM12とG画像データD13とを画素毎に輝度値を減算することによって、単色のB2画像データS16を生成する。そして、画像処理部402は、R2画像データS14、G2画像データS15およびB2画像データS16を画素毎に輝度値を加算して白色のW画像データW12を生成し、このW画像データW12を表示装置5に出力する。これにより、表示装置5は、カラーの体内画像を表示することができる。
また、画像処理部402は、第2の組を用いて白色の画像データを生成する場合、GBBG画像データM12とG画像データD16とを画素毎に輝度値を減算することによって単色のB3画像データS17を生成する。さらに、画像処理部402は、GR画像データD17とRG画像データD18とを画素毎に輝度値を加算してGRRG画像データM13を生成し、GRRG画像データM13とG画像データD16とを画素毎に輝度値を減算することによって、単色のR3画像データS19を生成する。そして、画像処理部402は、B3画像データS17、G3画像データS18およびR3画像データS19を画素毎に輝度値を加算して白色のW画像W13を生成し、このW画像データW13を表示装置5に出力する。
このように、内視鏡システム1が動画撮影を行う場合、画像処理部402は、第3の期間の読み出し開始に応じて読み出し部244gによって読み出しが開始される単色の画像データGのフレームを基準にして、前2フレーム分の加算した画像データ(加算信号)および後フレーム分の2フレーム分の画像データ(加算信号)と画像データGとを用いてRGBそれぞれの各画像データを生成し、RGBの各画像データを加算(合成)することによって白色の画像データを生成する。これにより、2連続照明色(たとえばG照明)以外の露光時間が1フレーム期間になるため、被写体のブレが少ない画像データを生成することができる。また、R照明およびB照明は、実質的に同時露光またはグローバルシャッタと同等の露光を行うことができる。
以上説明した本発明の実施の形態2によれば、画像処理部402が第3の期間の読み出し開始に応じて読み出し部244gによって読み出しが開始されるフレームを基準にして、前2フレーム分の加算信号と後2フレーム分の加算信号からそれぞれ第3の画像信号を減算することによって、互いに異なる前記単色の色信号を生成し、この単色の色信号と第1の色信号とを合成することによって表示用の画像信号を生成する。これにより、2連続照明色以外の露光時間が1フレーム期間になるため、被写体のブレが少ない画像データを生成することができる。
(実施の形態2の変形例1)
次に、本発明の実施の形態2の変形例1について説明する。本実施の形態2の変形例1は、静止画撮影時において5フレームを一組として白色の画像データを生成する。また、本実施の形態2の変形例1にかかる内視鏡システムは、上述した実施の形態1の内視鏡システムと同様の構成を有する。このため、以下においては、本実施の形態2の変形例1にかかる内視鏡システムの静止画撮影時における光源装置が出射する照明光の出射タイミング、撮像素子の露光と読み出しタイミングおよび画像処理部による処理について説明する。なお、上述した実施の形態1と同一の構成には同一の符号を付して説明する。
図5は、本実施の形態2の変形例1にかかる内視鏡システム1の静止画撮影時における光源装置3が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402による処理を模式的に示す図である。図5(a)は、時間を示す。図5(b)は、光源装置3が出射する照明光の出射タイミングを示す。図5(c)は、撮像素子244の露光と読み出しタイミングを示す。図5(d)は、画像処理部402による画像生成処理の内容を示す。
図5に示すように、照明制御部32は、制御部409を介して入力部407から静止画撮影を指示する指示信号が入力された場合、第2の照明光を1フレーム期間出射させるとともに、第2の照明光の前後を挟み込むように第1の照明光を1フレーム期間出射させる処理を照明部31に繰り返し実行させる。
具体的には、照明制御部32は、R照明を1フレーム期間出射させるとともに、R照明の前後を挟み込むようにG照明を1フレーム期間出射させる第1の照明パターンと、B照明を1フレーム期間出射させるとともに、B照明の前後を挟み込むようにG照明を1フレーム期間出射させる第2の照明パターンとを交互に入れ替えながら繰り返す一連の処理を照明部31に実行させる(期間T1〜期間T15)。より具体的には、照明制御部32は、照明部31にG照明を1フレーム期間出射させた後(期間T1)、R照明を1フレーム期間出射させ(期間T2)、その後、G照明を1フレーム期間出射させる(期間T3)(第1の照明パターン)。続いて、照明制御部32は、再度、照明部31にG照明を1フレーム期間出射させた後(期間T4)、B照明を1フレーム期間出射させ(期間T5)、その後、G照明を1フレーム期間出射させる(期間T6)(第2の照明パターン)。続いて、照明制御部32は、R照明を1フレーム期間出射させた後(期間T7)、G照明を1フレーム期間出射させる(期間T8)(第3の照明パターン)。即ち、照明制御部32は、第3の照明パターンの最後のG照明を次の第1の照明パターンの最初のG照明として重複させることで、第1の照明パターンと第2の照明パターンとを交互に切り替える一連の処理を照明部31に繰り返し実行させる。
また、図5に示す状況下で、画像処理部402は、5フレームを一組として白色の画像データを生成する。具体的には、画像処理部402は、第3の期間の読み出し開始に応じて読み出し部244gによって読み出しが開始されるフレームを基準にして、前2フレーム分の加算信号および後2フレーム分の加算信号それぞれに対して第3の撮像信号を減算することによって、互いに異なる単色の色信号を生成し、この単色の色信号と第1の色信号とを加算することによって、表示用の画像信号を生成する。
図5に示すように、たとえば、画像処理部402は、フレームF1のGR画像データD31と、フレームF2のRG画像データD32と、フレームF3のG画像データD33と、フレームF4のGB画像データD34と、フレームF5のBG画像データD35とを一組として、GR画像データD31とRG画像データD32とを画素毎に輝度値を加算してGRRG画像データM21を生成し、GRRG画像データM21とG画像データD33とを画素毎に輝度値を減算することによって、単色のR画像データS31を生成する。さらに、画像処理部402は、GB画像データD34とBG画像データD35とを画素毎に輝度値を加算してGBBG画像データM22を生成し、GBBG画像データM22とG画像データD33とを画素毎に輝度値を減算することによって、単色のB画像データS33を生成する。そして、画像処理部402は、R画像データS31、G画像データS32およびB画像データS33を表示装置5に順次出力する。
続いて、画像処理部402は、表示装置5に被検体の体内画像を表示させる場合、順次生成したRGBの各画像データそれぞれを加算してW画像データW21を生成し、W画像データW21表示装置5に出力する。
図6は、画像処理部402が実行する動画表示処理の概要を示す模式図である。図6に示すように、画像処理部402は、順次生成したRGBの各画像データを一組とし、この一組の各画像データを画素毎に輝度値を加算することによって、1つの白色の画像データを生成して表示装置5へ出力する。
具体的には、画像処理部402は、最新のRGBの各画像データを時系列に沿って重複させながら画素毎に輝度値を加算することによって、白色の画像データを生成する。たとえば、画像処理部402は、R画像データS31と、G画像データS32と、B画像データS33とを画素毎に輝度値を加算して白色のW画像データW21を生成して表示装置5に出力した後、G画像データS32と、B画像データS33と、R画像データS34とを画素毎に輝度値を加算して白色のW画像データW22を生成して表示装置5に出力する。
このように、画像処理部402は、単色の画像データGを基準にした際に前後に隣接する2フレーム分の画像データと画像データGとを用いてRGBそれぞれの画像データを生成し、各RGB画像データを加算することによって1つの白色の画像データを生成する。さらに、画像処理部402は、RGBの各画像データにおいて、最新の画像データを次の組に重複させながら白色の画像データを生成して表示装置5に出力する。
以上説明した本発明の実施の形態2の変形例1によれば、2連続照明色(たとえばG照明)以外の露光時間が1フレーム期間になるため、被写体のブレが少ない画像データを生成することができる。
また、本発明の実施の形態2の変形例1によれば、R照明およびB照明は、実質的に同時露光またはグローバルシャッタと同等の露光を行うことができる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。本実施の形態3にかかる内視鏡システムは、赤色光、緑色光、青色光および赤外光をそれぞれ照射する。このため、以下においては、本実施の形態3にかかる内視鏡システムの構成を説明後、内視鏡システムの撮影時における光源装置が出射する照明光の出射タイミング、撮像素子の露光と読み出しタイミングおよび画像処理部による処理について説明する。なお、上述した実施の形態1にかかる内視鏡システム1と同一の構成には同一の符号を付して説明する。
図7は、本実施の形態3にかかる内視鏡システムの要部の機能構成を示すブロック図である。
図7に示す内視鏡システム10は、内視鏡2と、処理装置4と、内視鏡2の先端から出射する照明光を発生する光源装置6と、を備える。
光源装置6は、所定の波長帯域の光を順次出射する照明部61と、制御部409の制御のもと、照明部61の駆動を制御する照明制御部62と、を備える。
照明部61は、光源部31aと、光源ドライバ31bと、駆動部31dと、駆動ドライバ31eと、回転フィルタ61aと、を有する。
回転フィルタ61aは、光源部31aが出射する白色光の光路上に配置され、回転することにより、光源部31aが出射する白色光のうち所定の波長帯域の光のみ透過させる。具体的には、回転フィルタ61aは、赤色光、緑色光、青色光および赤外光それぞれの波長帯域を有する光を透過させる赤色フィルタ311、緑色フィルタ312、青色フィルタ313および赤外フィルタ611を有する。回転フィルタ61aは、回転することにより、赤、緑、青および赤外の波長帯域(たとえば、赤外:790nm〜820nm)の光を順次透過させる。これにより、光源部31aが出射する白色光は、狭帯域化した赤色光、緑色光、青色光および赤外光(Ir照明)のいずれかの光を内視鏡2に順次出射することができる。
照明制御部62は、読み出し部244gが受光部244fの最初のラインの読み出し開始から次の最初の水平ラインの読み出し開始までの第1の期間、照明部61に第1の照明光を出射させ、第1の期間の終了後、次の受光部244fの最初のラインの読み出し開始までの第2の期間、第1の照明光と波長帯域が異なる照明光を照明部61に出射させ、第2の期間の終了後、つぎの受光部244fの最初のラインの読み出し開始までの第3の期間、第1の照明光を照明部61に出射させる一連の処理を照明部61に実行させる。たとえば、照明制御部62は、第1の期間にG照明を照明部61に出射させ、第2の期間にR照明を照明部61に出射させ、第3の期間にG照明を照明部61に出射させる。
以上の構成を有する内視鏡システム10の撮影時における光源装置6が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402による処理について説明する。
図8は、内視鏡システム10の撮影時における光源装置6が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402の画像生成処理を模式的に示す図である。図8(a)は、時間を示す。図8(b)は、光源装置6が出射する各波長帯域の照明光の出射タイミングを示す。図8(c)は、撮像素子244の露光と読み出しタイミングを示す。図8(d)は、画像処理部402による画像生成処理の内容を示す。
図8に示すように、照明制御部62は、照明部61を制御し、撮像素子244のフレームレートに同期して回転フィルタ61cを回転することによって、面順次方式で異なる波長帯域のG照明、R照明、B照明およびIr照明(赤外光)を照明部61に出射させる。この場合、照明制御部62は、照明部61にR照明、B照明およびIr照明を2フレームおきに順次出射させるとともに、この出射の1フレーム期間の前後のフレーム期間に対してG照明を出射させる処理を照明部61に繰り返し実行させる。
具体的には、照明制御部62は、読み出し部244gが受光部244fのフレームF1の最初の水平ラインから次のフレームF2の最初の水平ラインの読み出し開始までの第1の期間T1において照明部61にG照明を出射させる。
続いて、照明制御部62は、第1の期間T1終了後、読み出し部244gが受光部244fのフレームF2の最初の水平ラインの読み出し開始から次のフレームF3の最初の水平ラインの読み出し開始までの第2の期間T2において照明部61にR照明を出射させる。この際、読み出し部244gは、G照明による露光期間とR照明による露光期間とが混在したフレームF1のGR画像データD51を受光部244fから読み出して画像処理部402へ出力する。
その後、照明制御部62は、第2の期間T2終了後、読み出し部244gが受光部244fの次のフレームF3の最初の水平ラインを読み出し開始から次のフレームF4の最初の水平ラインの読み出し開始までの第3の期間T3においてG照明を出射させる。この際、読み出し部244gは、R照明による露光期間とG照明による露光期間とが混在したフレームF2のRG画像データD52を受光部244fから読み出して画像処理部402へ出力する。また、画像処理部402は、GR画像データD51とRG画像データD52と画素毎に輝度値を加算してGRRG画像データM31を生成する。
続いて、第3の期間T3終了後、読み出し部244gはG照明のみの露光期間のフレームF3のG画像データD53を受光部244fから読み出して画像処理部402へ出力する。また、画像処理部402は、GRRG画像データM31とG画像データD53とを画素毎に輝度値を減算することにより、R画像データS41を生成する。
このように、照明制御部62は、照明部61にR照明、B照明およびIr照明のいずれかを順次1フレーム期間出射させるとともに、この1フレーム期間の前後のフレーム期間においてG照明を出射させる処理を照明部61に繰り返し実行させる(期間T1〜T9)。さらに、画像処理部402は、連続する3フレームの画像データを用いて1色の画像データを生成し、R照明、G照明、B照明およびIr照明それぞれの画像データを生成して加算することによってIr画像が重畳された白色のW画像データW31を生成する(期間T1〜期間T9)。
以上説明した本発明の実施の形態3によれば、照明部61が4種類の照明光を出射する場合であっても、各画像データの時間のずれを少なくすることができるので、被写体のブレを抑えた画像データを生成することができる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。本実施の形態4にかかる内視鏡システムは、赤色光、緑色光、青色光および黄色光をそれぞれ照明する。このため、以下においては、本実施の形態4にかかる内視鏡システムの構成を説明後、内視鏡システムの撮影時における光源装置が出射する照明光の出射タイミング、撮像素子の露光と読み出しタイミングおよび画像処理部による処理について説明する。なお、上述した実施の形態1にかかる内視鏡システム1と同一の構成には同一の符号を付して説明する。
図9は、本実施の形態4にかかる内視鏡システムの要部の機能構成を示すブロック図である。
図9に示す内視鏡システム100は、内視鏡2と、処理装置4と、内視鏡2の先端から照射する照明光を発生する光源装置7と、を備える。
光源装置7は、所定の波長帯域の光を順次出射する照明部71と、制御部409の制御のもと、照明部71の駆動を制御する照明制御部72と、を備える。
照明部71は、光源部31aと、光源ドライバ31bと、駆動部31dと、駆動ドライバ31eと、回転フィルタ71aと、を有する。
回転フィルタ71aは、光源部31aが出射する白色光の光路上に配置され、回転することにより、光源部31aが出射する白色光のうち所定の波長帯域の光のみ透過させる。具体的には、回転フィルタ71aは、赤色光、緑色光、青色光および黄色光それぞれの波長帯域を有する光を透過させる赤色フィルタ311、緑色フィルタ312、青色フィルタ313および黄色フィルタ711を有する。回転フィルタ71aは、回転することにより、赤、緑、青および黄の波長帯域(たとえば、黄:570nm〜590nm)の光を順次透過させる。これにより、光源部31aが出射する白色光は、狭帯域化した赤色光、緑色光、青色光および黄色光(Y照明)のいずれかの光を内視鏡2に順次出射することができる。
照明制御部72は、読み出し部244gが受光部244fの最初のラインの読み出し開始から次の最初の水平ラインの読み出し開始までの第1の期間、照明部71に第1の照明光を出射させ、第1の期間の終了後、次の受光部244fの最初のラインの読み出し開始までの第2の期間、第1の照明光と波長帯域が異なる照明光を照明部71に出射させ、第2の期間の終了後、次の受光部244fの最初のラインの読み出し開始までの第3の期間、第1の照明光を照明部71に出射させる一連の処理を照明部71に繰り返し実行させる。たとえば、照明制御部72は、第1の期間にG照明を照明部71に出射させ、第2の期間にR照明を照明部71に出射させ、第3の期間にG照明を照明部71に出射させる。
以上の構成を有する内視鏡システム100の撮影時における光源装置7が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402による処理について説明する。
図10は、内視鏡システム100の撮影時における光源装置7が出射する照明光の出射タイミング、撮像素子244の露光と読み出しタイミングおよび画像処理部402の画像生成タイミングの関係を示す模式図
である。図10(a)は、時間を示す。図10(b)は、光源装置7が出射する各波長帯域の照明光の出射タイミングを示す。図10(c)は、撮像素子244の露光と読み出しタイミングを示す。図10(d)は、画像処理部402による画像生成処理の内容を示す。
図10に示すように、照明制御部72は、照明部71を制御し、撮像素子244のフレームレートに同期して回転フィルタを回転することによって、異なる波長帯域のG照明、R照明、B照明およびY照明(黄色光)を照明部71に出射させる。この場合、照明制御部72は、R照明、B照明およびY照明を1フレームおきに順次出射させるとともに、この1フレーム期間の前後のフレーム期間においてG照明を出射させる処理を照明部71に繰り返し実行させる。具体的には、照明制御部72は、フレームレートに同期してG照明、R照明、G照明、B照明、G照明、Y照明およびG照明の順に照明部71に出射させる処理を繰り返し実行させる。
また、画像処理部402は、連続する3フレームの画像データを用いて1色の画像データを生成し、R照明、G照明、B照明およびY照明それぞれの画像データを生成して加算することによって白色のW画像データW41を生成する(期間T1〜期間T7)。
以上説明した本発明の実施の形態4によれば、少ないフレーム数で4色の画像データそれぞれを生成することができ、精細な体内画像を表示することができる。
(実施の形態5)
次に、本発明の実施の形態5について説明する。本実施の形態5にかかる内視鏡システムは、光源装置が同時式で互いに異なる波長帯域の照明光を出射する。このため、以下において、本実施の形態5にかかる内視鏡システムの構成を説明後、内視鏡システムの撮影時における光源装置が出射する照明光の出射タイミング、撮像素子の露光と読み出しタイミングおよび画像処理の画像生成タイミングの関係について説明する。なお、上述した実施の形態1にかかる内視鏡システム1と同一の構成には同一の符号を付して説明する。
図11は、本実施の形態5にかかる内視鏡システムの要部の機能構成を示すブロック図である。
図11に示す内視鏡システム110は、処理装置4と、表示装置5と、被検体の体腔内に先端部を挿入することによって被検体の体内画像を撮像する内視鏡8と、内視鏡8の先端から出射する照明光を発生する光源装置9と、を備える。
まず、内視鏡8について説明する。内視鏡8は、光を受光して光電変換を行うことにより信号を生成する画素が2次元状に配列された撮像素子82を内蔵した先端部81を有する。
先端部81は、ライトガイド241と、照明レンズ242と、光学系243と、光学系243の結像位置に設けられ、光学系243が集光した光を受光して電気信号に光電変換して所定の信号処理を施す撮像素子82と、を有する。
撮像素子82は、光学系243から光を光電変換して電気信号を出力するセンサ部821と、AFE部244bと、P/S変換部244cと、タイミングジェネレータ244dと、撮像制御部244eと、を有する。撮像素子82は、CMOSセンサである。
センサ部821は、光量に応じた電荷を蓄積するフォトダイオードおよびフォトダイオードが蓄積した電荷を増幅する増幅器をそれぞれ有する複数の画素が2次元状に配列された受光部821aと、読み出し部244gと、を有する。また、受光部821aの受光面には、各画素にカラーフィルタが設けられている。
次に、光源装置9について説明する。光源装置9は、白色光を出射する照明部91と、第1特殊光を出射する第1特殊照明部92と、第2特殊光を出射する第2特殊照明部93と、照明部91、第1特殊照明部92および第2特殊照明部93の駆動を制御する照明制御部94と、を備える。
照明部91は、光源部91aと、光源ドライバ91bと、を有する。光源部91aは、白色LEDおよび一または複数のレンズ等を用いて構成され、光源ドライバ91bの制御のもと、白色光を内視鏡8へ向けて出射する。光源ドライバ91bは、照明制御部94の制御のもと、光源部91aに対して電流を供給することにより、光源部91aに白色光を出射させる。
第1特殊照明部92は、光源部92aと、光源ドライバ92bと、を有する。光源部92aは、白色LED、複数のレンズおよび所定の波長帯域を透過させるフィルタ等を用いて構成され、光源ドライバ92bの制御のもと、第1特殊光を内視鏡8へ向けて出射する。光源部92aが出射する第1特殊光としては、たとえば血液中のヘモグロビンに吸収されやすくなるように狭帯域化された青色光(たとえば青色光:400nm〜500nm)および緑色光(たとえば緑色光:500nm〜600nm)の2種類の帯域のNBI(Narrow Band Imaging)照明光等を挙げることができる。光源ドライバ92bは、照明制御部94の制御のもと、光源部92aに対して電流を供給することにより、光源部92aに特殊光を出射させる。
第2照明部93は、光源部93aと、光源ドライバ93bと、を有する。光源部93aは、白色LED、複数のレンズおよび所定の波長帯域のみを透過させるフィルタ等を用いて構成され、光源ドライバ93bの制御のもと、第2特殊光(P照明を内視鏡8へ向けて出射する。光源部93aが出射する第2特殊光としては、生体組織等の蛍光物質からの自家蛍光を観察するための励起光(たとえば390nm〜700nm)および血液中のヘモグロビンに吸収される波長の光(たとえば540nm〜560nm)の2種類の帯域のAFI(Automatic Fluorescence Imaging)照明光を挙げることができる。光源ドライバ93bは、照明制御部94の制御のもと、光源部93aに対して電流を供給することにより、光源部91aに赤外光を出射させる。
照明制御部94は、読み出し部244gが受光部821aの最初のラインの読み出し開始から次の最初の水平ラインの読み出し開始までの第1の期間、照明部91に第1の照明光を出射させ、第1の期間の終了後、次の受光部821aの最初のラインの読み出し開始までの第2の期間、第1の照明光と波長帯域が異なる照明光を照明部91に出射させ、第2の期間の終了後、次の受光部821aの最初のラインの読み出し開始までの第3の期間、第1の照明光を照明部91に出射させる一連の処理を照明部91に繰り返し実行させる。たとえば、照明制御部94は、第1の期間にW照明を照明部91に出射させ、第2の期間にS照明を照明部91に出射させ、第3の期間にW照明を照明部91に出射させる。
以上の構成を有する内視鏡システム110の撮影時における光源装置9が出射する照明光の出射タイミング、撮像素子82の露光と読み出しタイミングおよび画像処理部402による処理について説明する。
図12は、内視鏡システム110の撮影時における光源装置9が出射する照明光の出射タイミング、撮像素子82の露光と読み出しタイミングおよび画像処理部402の画像生成タイミングの関係を示す模式図である。図12(a)は、時間を示す。図12(b)は、光源装置9が出射する照明光の種類と出射タイミングとを示す。図12(c)は、撮像素子82の露光と読み出しタイミングを示す。図12(d)は、画像処理部402による画像生成の内容を示す。図12(e)は、表示装置5がモードに応じて表示する画像の種類を示す。
図12に示すように、照明制御部94は、撮像素子82のフレームレートに同期して異なる波長帯域のW照明、S照明(第1特殊光)およびP照明(第2特殊光)を照明部91、第1特殊照明部92および第2特殊照明部93を順次切り替えながら同時方式で出射させる。この場合、照明制御部94は、S照明の前後をW照明で挟み込む第1の照明パターンとP照明の前後をW照明で挟み込む第2の照明パターンとを切り替えながら繰り返す一連の処理を実行させる。
具体的には、照明制御部94は、照明部91にW照明を1フレーム期間出射させた後、第1特殊照明部92にS照明を1フレーム期間出射させ、その後、照明部91にW照明を1フレーム期間させる。続いて、照明制御部94は、再度、照明部91にW照明を1フレーム期間出射させた後、第2特殊照明部93にP照明を1フレーム期間出射させ、その後、照明部91にW照明を1フレーム期間出射させる。
また、図12に示すように、たとえば、画像処理部402は、W照明による露光期間とS照明による露光期間とが混在するフレームF2のWS画像データW92と、S照明による露光期間とW照明による露光期間とが混在するフレームF3のSW画像データW93とを画素毎に輝度値を加算してW画像にS画像が重畳されたS重畳画像データS62を生成し、S重畳画像データS62を表示装置5に出力する。これにより、表示装置5は、白色画像にS照明による画像を重畳した体内画像を表示することができる。
また、画像処理部402は、制御部409を介して入力部407から内視鏡システム110の観察モードの切り替えを指示する指示信号が入力された場合、S重畳画像データS62からW画像データS63を減算することにより、S画像データP1を生成し、S画像データP1を表示装置5に出力する。これにより、表示装置5は、S照明による単独の画像を表示することができる。
以上説明した本発明の実施の形態5によれば、画像処理部402が観察モードに応じて、表示装置5に出力する画像データを切り替えることにより、白色の画像と特殊画像との切り替えを容易に切り替えることができる。
また、本発明の実施の形態5によれば、特殊光観察を同時に重畳して行う場合であっても、光の照明効率を損失することなく撮像することができる。
また、本発明の実施の形態5によれば、表示装置5が表示する表示フレームを入力部407によって簡易に切り替えることができるので、特殊光のみの画像の選択も容易に行うことができる。
また、本発明の実施の形態5によれば、静止画等を必要な場合であっても、光源装置9による照明パターンを変えずに、画像処理部402の画像処理のみで各照明の画像を取得することができる。
なお、本発明の実施の形態5では、照明制御部94が第2特殊照明部93にP照明を2フレーム期間または3フレーム期間出射させ後、照明部91にW照明を1フレーム期間出射させてもよい。これにより、特殊照明光による露光期間を長くすることで、白色光をレファレンス照明として行うことができる。
なお、本発明の実施の形態5では、NBI照明光およびAFI照明光のみであったが、数や種類は限定されることなく、さらに赤外光等を含めて行う場合であっても適用することができる。
(その他の実施の形態)
本発明では、撮像素子に対して同時露光期間がある場合であっても適用することができる。
また、本発明では、撮像素子の構成、読み出し方式が異なっても適用することができる。