[第1実施形態]
図1に示すように、内視鏡システム10は、観察対象を撮像する内視鏡12と、照明光を発生する光源装置14と、観察対象を撮像して得た画像(以下、撮像画像という)を用いて観察用の画像(以下、観察画像という)を生成するプロセッサ装置16と、観察画像を表示する表示部であるモニタ18と、ユーザーインターフェースの1つであるコンソール19と、を有する。内視鏡12は、ユニバーサルコード11を用いて、光源装置14と光学的に接続し、かつ、プロセッサ装置16と電気的に接続する。また、内視鏡12は、ユニバーサルコード11を用いて洗浄液(例えば水)等を貯蓄するタンク17に接続する。タンク17の洗浄液等を送るためのポンプ等の機構は、例えば、光源装置14内に設けられている。
内視鏡12は、被検体内に挿入する挿入部12aと、挿入部12aの基端部分にある操作部12bと、挿入部12aの先端側にある湾曲部12cと、先端部12dと、を有している。操作部12bにあるアングルノブ12eを操作すると、湾曲部12cが湾曲する。湾曲部12cが湾曲した結果、先端部12dが所望の方向に向く。
また、操作部12bには、アングルノブ12eの他、例えば、先端部12dにあるノズルから洗浄液を噴出する洗浄スイッチ13を有する。観察対象との接触等により先端部12dに汚れが付着した場合に洗浄スイッチ13を押圧すると、先端部12dにあるノズルから先端部12dの少なくとも一部に向けて洗浄液が噴出し、その結果、先端部12dのうち洗浄液が当たる部分を洗浄することができる。内視鏡システム10においては、洗浄液は水または薬液等の液体である。また、本明細書においては便宜上洗浄「液」というが、洗浄用であれば、ノズルから噴出する空気等の気体、固体、もしくは、相(phase)が異なる物質の混合物等も「洗浄液」に含むものとする。
図2及び図3に示すように、観察対象に挿入する挿入部12aの先端部12dは、先端部12dの先端面21から、挿入部12aの先端方向であるZ方向に向かってさらに突出した第1突出部31及び第2突出部32の2つの突出部を有する。第2突出部32は、第1突出部31に隣接して先端面21から挿入部12aの先端方向(Z方向)に突出する。以下、第2突出部32に対して第1突出部31がある方向をY方向といい、かつ、Z方向及びY方向に垂直な方向をX方向という。また、挿入部12a、先端部12d、第1突出部31、または第2突出部32のX方向正側を「左」といい、X方向負側を「右」といい、Y方向正側を「上」といい、かつ、Y方向負側を「下」という。挿入部12a、先端部12d、第1突出部31、または第2突出部32のZ方向正側は「正面」または「先端(先端方向)」であり、かつ、Z方向負側は「基端(基端方向)」である。
第1突出部31は、全体としては概ね円筒形状であり、その先端に直視観察部41の観察窓である直視観察窓41Aを備え、かつ、側面に側視観察部42の観察窓である側視観察窓42Aを備える。直視観察部41は、挿入部12aの先端方向に視野を有し、挿入部12aの先端方向にある観察対象を撮像する。直視観察部41は、例えば、撮像レンズ及びイメージセンサ等を含む。直視観察部41を構成する撮像レンズ等の光学部材または撮像レンズ等の光学部材を保護する透明な保護部材は、第1突出部31の先端(Z方向に向いた面)に露呈する。この第1突出部31の先端において露呈した部分が、挿入部12aに対して先端方向にある観察対象から入射する光を取り込む直視観察窓41Aである。
側視観察部42は、挿入部12aの側面方向に視野を有し、挿入部12aの側面方向にある観察対象を撮像する。側視観察部42は、直視観察部41と同様に、例えば、撮像レンズ及びイメージセンサ等を含む。但し、側視観察部42を構成する撮像レンズ等の光学部材または撮像レンズ等の光学部材を保護する透明な保護部材は、第1突出部31の側面(第1突出部31の外周を形成する面)に露呈する。この第1突出部31の側面において露呈した部分が、挿入部12aに対して側面方向にある観察対象から入射する光を取り込む側視観察窓42Aである。本実施形態の内視鏡12においては、側視観察部42は第1突出部31と第2突出部32の接合部分を除く、第1突出部31の周方向に1周にわたって露呈しており、帯状の1つの側視観察窓42Aを形成している。
また、第1突出部31は、直視観察窓41A及び側視観察窓42Aに加えて、側視照明部43の照明窓である第1側視照明窓43Aを有する。側視照明部43は、第1側視照明窓43Aから側視観察部42の視野に向けて照明光を出射する。側視照明部43は、例えば、光源装置14が発光した照明光を導光するライトガイドと、ライトガイドを用いて先端部12dに導光した照明光を側視観察部42の視野に向けて拡散して出射するレンズまたはミラー等の光学部材を含む。側視照明部43を構成するミラー等の光学部材またはミラー等の光学部材を保護する透明な保護部材は、第1突出部31の側面に露呈する。この第1突出部31の側面に露呈する部分が、挿入部12aの側面方向に照明光を出射する第1側視照明窓43Aである。本実施形態の内視鏡12においては、第1突出部31と第2突出部32の接合部分を除いた接合部分を除いた第1突出部31の外周のうちの一部が側視照明窓になっている。また、図2においては、第1突出部31の右側面に第1側視照明窓43Aがあるが、第1突出部31の左側面にも側視観察部42の視野に照明光を出射する第2側視照明窓43Bがある(図3参照)。第1側視照明窓43A及び第2側視照明窓43Bの位置及び大きさは左右対称である。
本実施形態においては、図4に示すように、直視観察部41及び側視観察部42は、共通の撮像レンズ61及びイメージセンサ66を含む。撮像レンズ61は、前群レンズ62、2つのレンズを接合して形成したミラーレンズ63、及び後群レンズ64からなる。前群レンズ62の前面は、第1突出部31の先端に露呈している。すなわち、前群レンズ62の前面が、直視観察部41の直視観察窓41Aを構成する。また、ミラーレンズ63の側面は、第1突出部31の側面に露呈している。このため、ミラーレンズ63の側面が、側視観察部42の側視観察窓42Aを構成する。
挿入部12aの先端方向にある観察対象から前群レンズ62を介して入射する光は、ミラーレンズ63が後群レンズ64に導光する。そして、カバーガラス67を介してイメージセンサ66の撮像面に結像する。これにより、直視観察部41としての撮像レンズ61及びイメージセンサ66は、挿入部12aの先端方向にある観察対象を撮像する。
一方、挿入部12aの側面方向にある観察対象からミラーレンズ63の側面を介して入射する光は、ミラーレンズ63が、ミラーレンズ63を形成する2つのレンズの接合面と、ミラーレンズ63の前面とにおいて順次反射して後群レンズ64に導光する。そして、カバーガラス67を介してイメージセンサ66の撮像面に結像する。これにより、側視観察部42としての撮像レンズ61及びイメージセンサ66は、挿入部12aの側面方向にある観察対象を撮像する。
また、側視照明部43は、ライトガイド71、反射部材72、及び、充填部材73とを含む。ライトガイド71は光源装置14と光学的に接続しており、光源装置14が発光した照明光を導光する。そして、ライトガイド71の端面から充填部材73を介して反射部材72に出射する。反射部材72は、ライトガイド71から入射する照明光を挿入部12aの側面方向に拡散し、少なくとも側視観察部42の視野を含む範囲に照明光を出射する。充填部材73は、ライトガイド71の出射端面及び反射部材72を保護する保護部材であって、透明である。また、充填部材73は、ライトガイド71と反射部材72の間に形成される溝部分を第1突出部31の側面に沿って滑らかに埋める。このため、充填部材73が第1側視照明窓43Aを構成する。第2側視照明窓43Bも同様である。
なお、本実施形態の内視鏡12は、側視観察窓42Aを第1突出部31の側面における先端側に設け、かつ、第1側視照明窓43A及び第2側視照明窓43Bを第1突出部31の側面における基端側に設けているが、これらの位置及び順序等は任意である。但し、先端面21等によるケラレ等を防ぎ、側視照明部43の視野を確保しやすくなるので、側視観察窓42Aは第1突出部31の側面においてできるだけ先端側に設けた方が良い。
第2突出部32は、洗浄液を噴出して先端部12dを洗浄するためのノズルを有する。より具体的には、第2突出部32は、側視観察窓42Aに向けて洗浄液を噴出するノズル51及びノズル52(図3参照)を有する。ノズル51は第2突出部32の右側面にあり、かつ、ノズル52は第2突出部32の左側面に設けられている。ノズル51及びノズル52は、第2突出部32に設けられ、かつ、側視観察窓42Aに向けて洗浄液を噴出することで側視観察窓42Aを洗浄するという点において同様の性質を有する。
また、第2突出部32は、第2突出部32の先端にノズル53を有する。ノズル53は、直視観察部41の露呈部分である直視観察窓41Aに向けて洗浄液を噴出することで直視観察窓41Aを洗浄する。
図5に示すように、ノズル53は、送気送液チャネル76の出口である。このため、タンク17に貯蓄した洗浄液等を送気送液チャネル76を介して送り出すと、ノズル53から噴出する。送気送液チャネル76は、第2突出部32、先端部12d、挿入部12a、及びユニバーサルコード11等に連通している。本実施形態においては、送気送液チャネル76は、第2突出部32、先端部12d、挿入部12a、またはユニバーサルコード11において分岐し、ノズル51及びノズル52等、他のノズルにも共通に通じている。このため、例えば、洗浄スイッチ13を押圧して送気送液チャネル76に洗浄液を送り込めば、ノズル53からだけでなく、ノズル51及びノズル52からも同時に洗浄液が噴出する。このため、内視鏡12は、簡単な操作で直視観察窓41A及び側視観察窓42Aを同時に洗浄することができる。
第2突出部32は、上記ノズル51、ノズル52、及びノズル53の他に、直視観察部41の視野に向けて照明光を出射する直視照明部54の照明窓である直視照明窓54Aを有する。直視照明部54は、例えば、光源装置14が発光した照明光を導光するライトガイド77と、ライトガイド77を用いて先端部12dに導光した照明光を直視観察部41の視野に向けて拡散して出射する照明レンズ78等を含む(図4参照)。直視照明部54を構成する照明レンズまたは照明レンズを保護する透明な保護部材は、第2突出部32の先端に露呈する。この第2突出部32の先端に露呈する部分が直視照明窓54Aである。本実施形態においては、照明レンズ78の前面が第2突出部32の先端に露呈する。このため、照明レンズ78の前面が直視照明窓54Aを形成する。
先端部12dの先端面21は、上記第1突出部31及び第2突出部32を有する他に、直視照明部81の照明窓である直視照明窓81A、及び、鉗子口82を有する。
直視照明部81は、第2突出部32にある直視照明部54と同様に、直視観察部41の視野に向けて照明光を出射する。また、直視照明部81は、例えば、光源装置14が発光した照明光を導光するライトガイド84(図6参照)と、ライトガイド84を用いて先端部12dに導光した照明光を直視観察部41の視野に向けて拡散して出射する照明レンズ等(図示しない)を含む。本実施形態においては、直視照明部81を構成するライトガイドは、直視照明部54を構成するライトガイド77と接続されている。このため、直視照明部81を構成するライトガイドは、直視照明部54を構成するライトガイド77と実質的に共通である。したがって、直視照明部54と直視照明部81は、各々の照明窓から同じ照明光を同時に出射する。但し、直視照明部54を構成するライトガイド77と、直視照明部81を構成するライトガイドとは、太さの違い等のために、出射光量は相互に異なる場合がある。直視照明部81を構成する照明レンズまたは照明レンズを保護する透明な保護部材は、先端面21に露呈する。この先端面21に露呈する部分が直視照明窓81Aである。
鉗子口82は、鉗子等の処置具の出口である。内視鏡12の基端部分の入り口(図示しない)から鉗子等の処置具を挿入すると、処置具は鉗子チャネルを介して鉗子口82に到達し、その先端を鉗子口82から突出することができる。鉗子チャネルは、先端部12d、挿入部12a、及び操作部12bに連通している。
なお、側視観察窓42Aは第1突出部31の側面に設けられており、かつ、第2突出部32は、第1突出部31に隣接して先端面21から挿入部12aの先端方向(Z方向)に突出しているので、第2突出部32は、側視観察部42の視野の死角を形成する突出部である。すなわち、各部の配置の都合上、側視観察部42は、その視野の一部に第2突出部32が入り込んで、一部の角度範囲においては観察対象を撮像できない。
図6に示すように、光源装置14は、照明光を発生する光源91と、光源91を制御する光源制御部92と、を備える。光源91は、例えば、各々独立に制御可能であり、かつ、発光する光の波長または波長範囲が各々異なる複数のLED(Light Emitting Diode)である。光源91には、LEDの代わりに、LD(Laser Diode)等の他の半導体光源を用いても良い。半導体光源と、半導体光源が発光する光を励起光として他の色の光を発光する蛍光体等を組み合わせて用いても良い。キセノンランプ等のランプ光源も光源91に使用しても良い。また、半導体光源、半導体光源と蛍光体、及び、ランプ光源とともに波長帯域または分光スペクトルを調節する光学フィルタを組み合わせて光源91を構成しても良い。例えば、白色LEDに光学フィルタを組み合わせて使用することで、複数種類の照明光を発光することができる。
光源制御部92は、光源91を構成するLED等の点灯、消灯、及び光量を、イメージセンサ66の駆動タイミングに合わせて各々に制御する。特に、複数の撮像画像を用いて1枚の観察画像を生成する場合(すなわちマルチフレーム観察モード)においては、光源制御部92は、LED等の制御の結果、観察画像の生成に使用する複数の撮像画像を得る各々の撮像フレームごとに照明光の波長帯域または分光スペクトルを変更することができる。なお、点灯とは、イメージセンサ66において観察対象を撮像できる程度(すなわち観察画像において観察対象の像を視認できる程度)の光量で発光することを言う。消灯とは、完全に発光を停止することの他、イメージセンサ66において観察対象を撮像し得ない程度の光量に減光することを含む。また、光源91が備える各光源が半導体光源である場合、光源制御部92は、パルス変調制御によって、各光源の点灯、消灯、及び光量を制御する。
光源91が発生した照明光は、ライトガイド93に入射する。ライトガイド93は、光源装置14から内視鏡12及びユニバーサルコード内に挿通しており、照明光を内視鏡12の先端部12dまで伝搬する。ライトガイド93は、少なくとも、直視照明部54を構成するライトガイド77、直視照明部81を構成するライトガイド84、及び側視照明部43を構成するライトガイド71に分岐し、これら各照明部に照明光を伝搬する。なお、ライトガイド93及びライトガイド71等の分岐後の各ライトガイドとしては、マルチモードファイバを使用できる。一例として、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3〜0.5mmの細径なファイバケーブルを使用できる。
プロセッサ装置16は、制御部96と、画像取得部97と、表示制御部98と、を備える。制御部96は、内視鏡システム10を統括的に制御するCPU(Central Processing Unit)等である。制御部96は、例えば、イメージセンサ66における撮像タイミングと光源91を構成する各LED等の発光タイミングを合わせる同期制御を行う。光源91を構成する各LED等の発光タイミングの制御は、光源制御部92を介して行う。また、制御部96は、自動的に露出を制御する自動露出制御(AE(Auto Exposure)制御)を行う。本実施形態においては、制御部96は、イメージセンサ66は一定のタイミングで駆動し、かつ、光源91を構成する各LED等の発光量(すなわち照明光の光量)を調節することにより、AE制御をする。AE制御の際、制御部96は、画像取得部97から直視観察画像111(図8参照)及び側視観察画像112(図8参照)、または、直視観察画像111もしくは側視観察画像112のうちいずれか一方を取得し、取得した画像を用いて光源91を構成する各LED等の発光量を決定する。
画像取得部97は、直視観察部41を用いて直視観察画像111を取得し、かつ、側視観察部42を用いて側視観察画像112を取得する。本実施形態においては、直視観察部41及び側視観察部42は、撮像レンズ61及びイメージセンサ66を共有しているので、画像取得部97はイメージセンサ66で撮像した画像(以下、撮像画像という)を取得し、取得した撮像画像に各種画像処理等を施すことにより、直視観察画像111及び側視観察画像112を含む撮像画像を得る。すなわち、イメージセンサ66から得る撮像画像の一部が直視観察画像111であり、かつ、イメージセンサ66から得る撮像画像の他の一部が側視観察画像112である。
画像取得部97は、例えば、DSP(Digital Signal Processor)、及び、ノイズ低減部として機能する。
画像取得部97は、取得した撮像画像に対し、必要に応じて欠陥補正処理、オフセット処理、ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、デモザイク処理、及びYC変換処理等の各種処理を施す。これは、画像取得部97のDSPとしての機能である。欠陥補正処理は、イメージセンサ66の欠陥画素に対応する画素の画素値を補正する処理である。オフセット処理は、欠陥補正処理を施した撮像画像から暗電流成分を低減し、正確な零レベルを設定する処理である。ゲイン補正処理は、オフセット処理をした撮像画像にゲインを乗じることにより各撮像画像の信号レベルを整える処理である。リニアマトリクス処理は、オフセット処理をした撮像画像の色再現性を高める処理であり、ガンマ変換処理は、リニアマトリクス処理後の撮像画像の明るさや彩度を整える処理である。デモザイク処理(等方化処理または同時化処理とも言う)は、欠落した画素の画素値を補間する処理であり、ガンマ変換処理後の撮像画像に対して施す。欠落した画素とは、カラーフィルタの配列のため、イメージセンサ66において他の色の画素を配置しているために、画素値がない画素である。例えば、B画像はB画素において観察対象を撮像して得る撮像画像なので、イメージセンサ66のG画素やR画素に対応する位置の画素には画素値がない。デモザイク処理は、B画像を補間して、イメージセンサ66のG画素及びR画素の位置にある画素の画素値を生成する。YC変換処理は、デモザイク処理後の画像を、輝度チャンネルYと色差チャンネルCb及び色差チャンネルCrに変換する処理である。
画像取得部97は、輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrに対して、例えば、移動平均法またはメディアンフィルタ法等を用いてノイズ低減処理を施す。変換部59は、ノイズ低減処理後の輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrを再びBGRの各色の撮像画像に再変換する。これは、画像取得部97のノイズ低減部としての機能である。
表示制御部98は、画像取得部97から直視観察画像111及び側視観察画像112を取得する。そして、表示制御部98は、直視観察画像111及び側視観察画像112、または、直視観察画像111もしくは側視観察画像112のうちいずれか一方を用いて、表示用の画像(以下、表示用画像という)(図8等参照)を生成する。表示制御部98は、生成した表示用画像をモニタ18に表示する。本実施形態においては、表示制御部98は、特に言及しないかぎり、直視観察画像111及び側視観察画像112を両方とも使用して表示用画像を生成及び表示する。
また、表示制御部98は、側視観察画像112のうち死角に対応する部分をマスクし、かつ、表示部であるモニタ18における直視観察画像111と側視観察画像112の相対的な表示割合を調節する。このため、図7に示すように、表示制御部98は、表示割合設定部101と表示用画像生成部102を備える。表示割合設定部101は、表示部であるモニタ18における直視観察画像111と側視観察画像112の相対的な表示割合を調節する。
表示割合設定部101は、相対的な表示割合の設定を表示モードとして予め複数有している。具体的には、標準モード、直視拡大モード、及び、側視観拡大モードの3種類の表示モードを有する。
標準モードは、直視観察画像111及び側視観察画像112のどちらもほぼ拡大または縮小せずに、直視観察画像111と側視観察画像112の相対的な表示割合を、撮像したままの表示割合に設定する表示モードである。すなわち、標準モードにおいては、直視観察画像111と側視観察画像112の相対的な表示割合は、ほぼ撮像画像における表示割合になる。「ほぼ拡大または縮小せず」とは、直視観察画像111と側視観察画像112を繋ぎ合わせるためのやむを得ない直視観察画像111または側視観察画像112の拡大または縮小を除く意味である。したがって、標準モードの場合においても、直視観察画像111と側視観察画像112のいずれか一方または両方が、繋ぎ合わせのために拡大または縮小している場合がある。なお、以下、簡単のため、標準モードにおいては、表示部であるモニタ18における直視観察画像111の表示面積と側視観察画像112の表示面積はほぼ等しいものとする。
直視拡大モードは、表示部であるモニタ18における直視観察画像111の表示面積を、標準モードの場合と比較して拡大する表示モードである。すなわち、直視拡大モードの場合、表示割合設定部101は、側視観察画像112に対して直視観察画像111の表示割合を相対的に大きくする。また、直視拡大モードは、直視観察画像111及び側視観察画像112のうち、実質的に直視観察画像111のみを表示する場合を含む。
側視拡大モードは、表示部であるモニタ18における側視観察画像112の表示面積を、標準モードの場合と比較して拡大する表示モードである。すなわち、側視拡大モードの場合、表示割合設定部101は、直視観察画像111に対して側視観察画像112の表示割合を相対的に大きくする。また、側視拡大モードは、直視観察画像111及び側視観察画像112のうち、実質的に側視観察画像112のみを表示する場合を含む。
上記直視拡大モード及び側視拡大モードにおける直視観察画像111と側視観察画像112の具体的な表示割合は、例えばコンソール19、操作部12bに設けたスイッチ、または、フットスイッチ等の入力デバイス(以下、コンソール19等という)を用いて内視鏡システム10の使用者である医師等が任意に設定できる。直視観察画像111と側視観察画像112の具体的な表示割合は、観察の途中であっても任意に変更可能である。医師等が直視拡大モードにおいて直視観察画像111の表示面積を標準モードの場合よりも縮小する数値等を設定した場合には自動的に側視拡大モードとなる。逆も同じである。また、標準モード、直視拡大モード、及び側視拡大モードの切り替えも同様にコンソール19等を用いて任意に切り替えることができる。
表示用画像生成部102は、表示割合設定部101が定めた表示割合にしたがって、直視観察画像111及び側視観察画像112、または、直視観察画像111もしくは側視観察画像112のうちいずれか一方を必要に応じて拡大または縮小して繋ぎ合わせ、さらに、側視観察画像112のうち死角に対応する部分をマスクして、表示用画像を生成する。
「マスクする」とは、他の画像等により、側視観察画像112が持つデータを変調または置き換えることを言う。側視観察画像112のうち死角に対応する部分とは、第2突出部32があることに起因して観察対象を撮像し得ない部分である。以下、表示用画像において、側視観察画像112のうち、第2突出部32があることに起因した死角に対応する部分を、第1死角部分という。表示用画像生成部102は、少なくともこの第1死角部分を表示用画像においてマスクする。さらに、本実施形態においては、側視観察画像112のうち、側視観察部42の視野の外側であって、そもそも観察対象を撮像し得ない部分(以下、第2死角部分という)も、表示用画像においてマスクする。表示制御部98は、表示用画像生成部102が生成した表示用画像をモニタ18に表示する。
上記内視鏡システム10においては、直視観察画像111と側視観察画像112の相対的な表示割合を調節した表示用画像をモニタ18に表示する。例えば、表示モードを標準モードに設定すると、表示制御部98は図8に示す表示用画像113を生成し、モニタ18に表示する。標準モードにおける表示用画像113は、表示制御部98が表示用画像生成部102を用いて、ほぼ撮像したままのサイズで直視観察画像111の外周と側視観察画像112の内周が繋ぎ合わせて生成する。標準モードの表示用画像113によれば、直視観察画像111のみまたは側視観察画像112のみを表示すると比較して、より広範囲の観察対象を観察することができる。
なお、実際には、直視観察画像111と側視観察画像112には明確な境界線はないが、説明のため、図8においては二点鎖線でこれらの境界を示している(以下同様)。また、側視観察画像112のうち、観察対象が写っている部分は概ね円環状であるが、中心C0から一定の角度範囲に第2突出部32に起因する第1死角部分114ができる。このため、表示制御部98は、表示用画像生成部102を用いて表示用画像113を生成する際に、第1死角部分114をマスクする。また、側視観察画像112の外側の部分は、もともと観察対象を撮像し得ない第2死角部分115である。このため、表示制御部98は、表示用画像生成部102を用いて表示用画像113を生成する際に、第2死角部分115をマスクする。これにより、観察対象が写っていない第1死角部分114及び第2死角部分115と、観察対象が写っている側視観察画像112の他の部分との区別を明確になっている。
表示モードを直視拡大モードにすると、表示制御部98は図9に示す表示用画像123を生成してモニタ18に表示する。具体的には、表示制御部98は、直視拡大モードの表示用画像123を生成する際、表示用画像生成部102において直視観察画像111を拡大し、かつ、外周のサイズを保ったまま側視観察画像112を径方向に圧縮する。そして、直視観察画像111の外周と側視観察画像112の内周を繋ぎ合わせ、かつ、第1死角部分114及び第2死角部分115をマスクすることにより表示用画像123を生成する。
したがって、直視拡大モードの表示用画像123は、観察対象の表示範囲(全観察対象に対してモニタ18に表示し得る観察対象の範囲)及び表示面積(モニタ18において観察対象を表示する面積)自体は標準モードの表示用画像113と同じであるが、観察対象の表示範囲及び表示面積の中で側視観察画像112に対して直視観察画像111の表示割合が相対的に大きくなっている。このため、表示モードを直視拡大モードにすれば、医師等は、直視観察画像111及び側視観察画像112によって広範囲の観察対象を観察できるうえに、特に直視観察画像111に写った観察対象が観察しやすくなる。例えば、挿入部12aの先端方向において、病変の疑いがある等の注目すべき箇所を発見した場合に、表示モードを直視拡大モードにすれば、その注目すべき箇所をより詳細に観察することができる。
また、表示モードを側視拡大モードにすると、表示制御部98は図10に示す表示用画像126を生成してモニタ18に表示する。具体的には、表示制御部98は、側視拡大モードの表示用画像126を生成する際、表示用画像生成部102において側視観察画像112を径方向に拡大する。具体的には、外周のサイズを保ったまま内側(中心C0の側)に向けて延伸し、一方で、直視観察画像111は、拡大後の側視観察画像112の内周に合うサイズに縮小する。そして、拡大後の側視観察画像112の内周と縮小後の直視観察画像111の外周を繋ぎ合わせ、かつ、第1死角部分114及び第2死角部分115をマスクすることにより表示用画像126を生成する。
したがって、側視拡大モードの表示用画像126は、観察対象の表示範囲及び表示面積自体は標準モードの表示用画像113と同じであるが、観察対象の表示範囲及び表示面積の中で直視観察画像111に対して側視観察画像112の表示割合が大きくなっている。このため、表示モードを側視拡大モードにすれば、医師等は、直視観察画像111及び側視観察画像112によって広範囲の観察対象を観察できるうえに、特に側視観察画像112に写った観察対象が観察しやすくなる。例えば、挿入部12aの側面方向において、病変の疑いがある等の注目すべき箇所を発見した場合に、表示モードを側視拡大モードにすれば、その注目すべき箇所をより詳細に観察できる。
上記のように、内視鏡システム10は、直視観察画像111と側視観察画像112のモニタ18における相対的な表示割合を調節する直視拡大モード及び側視拡大モードを有している。そして、表示モードを直視拡大モードまたは側視拡大モードに切り替えることによって、観察対象の表示範囲及び表示面積を保ったまま、直視観察画像111または側視観察画像112に写った観察対象を拡大できる。このため、内視鏡システム10は従来よりも観察または診断等において使用しやすい。
なお、直視拡大モードにおいては、例えば、直視観察画像111の表示割合を100%にし、側視観察画像112の表示割合を0%に設定することができる。この場合、図11に示すように、実質的に直視観察画像111のみを表示する表示用画像128を生成してモニタ18に表示することができる。したがって、内視鏡システム10は、直視観察画像111及び側視観察画像112を表示する標準モードの表示用画像123と、実質的に直視観察画像111のみを表示する表示用画像128と、を必要に応じて任意に切り替えてモニタ18に表示できる。表示用画像128は、直視観察画像111を表示範囲(中心C0から標準モードの表示用画像113における側視観察画像112の外周までの範囲)一杯まで拡大し、かつ、第2死角部分115をマスクすることによって生成する。
また、側視拡大モードにおいては、例えば、側視観察画像112の表示割合を100%にし、直視観察画像111の表示割合を0%に設定することができる。この場合、図12に示すように、実質的に側視観察画像112のみを表示する表示用画像129を生成してモニタ18に表示することができる。したがって、内視鏡システム10は、直視観察画像111及び側視観察画像112を表示する標準モードの表示用画像123と、実質的に側視観察画像112のみを表示する表示用画像129と、を必要に応じて任意に切り替えてモニタ18に表示できる。表示用画像129は、側視観察画像112の外周のサイズを保ったまま、内周を径方向に(中心C0の方向に)延伸し、かつ、第1死角部分114及び第2死角部分115をマスクすることによって生成する。
[第2実施形態]
上記第1実施形態においては、直視拡大モード及び側視拡大モードにおける直視観察画像111と側視観察画像112の相対的な表示割合を、内視鏡システム10の使用者である医師等が設定してるが、直視拡大モード及び側視拡大モードにおける直視観察画像111と側視観察画像112の相対的な表示割合を自動的に設定できる。この場合、図13に示す内視鏡システム200のように、プロセッサ装置16には、動き検出部201を設ける。また、必要に応じて内視鏡12には動きセンサ202を設ける。
動き検出部201は、挿入部12aの先端部12dの動きを検出する。先端部12dの動きとは、観察対象に沿った先端部12dの移動方向、観察対象に沿った先端部12dの移動方向に沿った位置変化(速さ、速度もしくは加速度)、湾曲部12cの湾曲に起因した先端部12dの向き、湾曲部12cの湾曲に起因して先端部12dが偏向した角度、または、湾曲部12cの湾曲に起因した先端部12dの向きの変化(角速度もしくは角加速度)等である。動きセンサ202は、先端部12dの動きを検出するためのセンサであり、例えば、速度センサ、加速度センサ、角速度センサ、角加速度センサ、挿入部12aを観察対象に挿入した長さを計測するためのセンサもしくは機構、または、湾曲部12cの湾曲程度を計測するためのセンサもしくは機構等である。
動き検出部201は、例えば、画像取得部97から直視観察画像111及び側視観察画像112、または、直視観察画像111もしくは側視観察画像112のいずれか一方を経時的に複数取得し、取得した直視観察画像111または側視観察画像112を用いて先端部12dの動きを検出する。また、内視鏡12に動きセンサ202を設けている場合には、直視観察画像111もしくは側視観察画像112の代わりに、または、直視観察画像111もしくは側視観察画像112に加えて、動きセンサ202の出力信号を用いて、観察対象の動きを検出する。
そして、プロセッサ装置16が動き検出部201を有する場合、表示制御部98は、動き検出部201が検出した先端部12dの動きを参照して、直視観察画像111と側視観察画像112の相対的な表示割合を調節する。すなわち、表示制御部98は、表示割合設定部101において動き検出部201が検出した先端部12dの動きに起因して表示モードを自動的に選択する。また、自動選択した表示モードが直視拡大モードまたは側視拡大モードである場合には、直視観察画像111と側視観察画像の相対的な表示割合も動き検出部201が検出した先端部12dの動きに起因して自動的に決定する。
上記内視鏡システム200においては、例えば、表示制御部98は、挿入部12aの挿抜に合わせて直視観察画像111及び側視観察画像112の相対的な表示割合を調節することができる。この場合、図14に示すように、動き検出部201は、挿入部12aの挿抜、すなわち先端部12dの移動方向が挿入方向であるか抜去方向であるか、を検出する(S210)。挿入方向とは、図15に示すように、挿入部12aを観察対象205に挿入する際の挿入部12a等の移動方向であり、先端部12dが観察対象205の奥に移動する方向である。抜去方向は、挿入方向の逆方向であり、挿入部12aを観察対象205に沿って観察対象205から抜去する際の挿入部12a等の移動方向であり、先端部12dが手前に移動する方向である。
先端部12dの移動方向が挿入方向である場合(S211;YES)、表示制御部98は表示割合設定部101において表示モードを自動的に直視拡大モードに設定し(S212)、モニタ18には直視拡大モードの表示用画像123を表示する。一方、先端部12dの移動方向が抜去方向である場合(S211;NO)、表示制御部98は表示割合設定部101において表示モードを自動的に側視拡大モードにに設定し(S213)、モニタ18には側視拡大モードの表示用画像126を表示する。
内視鏡システム200は、上記のように挿入部12aを挿入する際には直視拡大モードにし、かつ、挿入部12aを抜去する際には側視拡大モードにすることで、直視観察画像111または側視観察画像112のうち、挿入部12aを挿抜する際に医師等が注目する可能性が高い方の画像のモニタ18における表示割合を自動的に増やす。このため、内視鏡システム200は、直視観察画像111と側視観察画像112を表示する従来の内視鏡システムよりも挿入部12aを挿抜しやすい。
上記第2実施形態においては、挿入部12aの挿抜に合わせて直視拡大モードと側視拡大モードを選択しているが、動き検出部201が挿入部12a(先端部12d)の移動速度または挿入部12a(先端部12d)の移動の加速度を検出する場合には、さらに挿入部12a(先端部12d)の移動速度または加速度を加味して、直視拡大モードまたは側視拡大モードにおける直視観察画像111と側視観察画像112の相対的な表示割合を自動的に設定することができる。例えば、図16において、直視観察画像111の表示割合を示すグラフ111A(実線)及び側視観察画像112の表示割合を示すグラフ112A(一点鎖線)を用いて示すように、挿入部12aの移動速度が正であり、挿入部12aが挿入方向に移動する場合、その移動速度に応じて、直視観察画像111の表示割合を増加し、かつ、側視観察画像112の表示割合を低減する。すなわち、挿入部12aの移動速度が正の場合、表示モードは直視拡大モードであり、表示制御部98は、移動速度に応じた表示割合になるように直視観察画像111を拡大した表示用画像123を生成し、モニタ18に表示する。直視観察画像111の表示割合が100%に到達する移動速度V1(V1>0)以降においては、表示制御部98は、実質的に直視観察画像111のみを表示する表示用画像128を生成し、モニタ18に表示する。
一方、挿入部12aの移動速度が負であり、挿入部12aが抜去方向に移動する場合、その移動速度に応じて、直視観察画像111の表示割合を低減し、かつ、側視観察画像112の表示割合を増加する。すなわち、挿入部12aの移動速度が負の場合、表示モードは側視拡大モードであり、表示制御部98は、移動速度に応じた表示割合になるように側視観察画像を拡大した表示用画像126を生成し、モニタ18に表示する。側視観察画像112の表示割合が100%に到達する移動速度V2(V2<0)以降においては、表示制御部98は、実質的に側視観察画像112のみを表示する表示用画像129を生成し、モニタ18に表示する。
なお、挿入部12aに挿抜の動きがなく、移動速度が「0」である場合、表示モードは自動的に標準表示モードになる。このため、移動速度が「0」の場合、表示制御部98は、標準モードの表示用画像113を生成し、モニタ18に表示する。
上記のように、挿入部12aの挿抜だけでなく、挿入部12aを挿抜する際の移動速度(または加速度)を考慮すると、挿入部12aのより細かな動きに合わせて、適切に直視観察画像111または側視観察画像112を拡大して表示することができる。このため、挿入部12aを挿入または抜去するという診断等の前後の動作の他に、診断等のための観察の最中に、注目する部分をより観察しやすくするために挿入部12aを動かして先端部12dを移動する際にも、その動きに合わせて適切に直視観察画像111または側視観察画像112を拡大して表示することができる。
先端部12dを挿入方向に移動するのは、先端方向に注目すべき部分があるからであり、先端部12dを抜去方向に移動するのは、側面方向に注目すべき部分があるからである。したがって、上記のように直視拡大モードまたは側視拡大モードを自動設定すれば、直視観察画像111または側視観察画像112のうち、注目すべき部分を含む方の画像を自動的に拡大して表示することができる。また、先端部12dの現在位置から遠い位置に注目すべき部分があり、挿入部12aを速く移動しているときには、直視観察画像111または側視観察画像112をより大きく拡大するので、挿入部12aを速く移動しても注目すべき部分を見失い難い等の利点もある。
なお、上記変形例においては、挿入部12aの挿抜に起因して表示モードが直視拡大モードと側視拡大モードとで切り替わるようになっており、その上で、移動速度を加味しているが、挿入部12aの移動方向に関わらず、移動速度に起因して表示モードを切り替えても良い。例えば、図17において、直視観察画像111の表示割合を示すグラフ111A及び側視観察画像112の表示割合を示すグラフ112Aを用いて示すように、移動速度がある移動速度V3(V3>0)を境に、直視拡大モードと側視拡大モードを切り替えても良い。もちろん、同様にして、負の移動速度を境に、直視拡大モードと側視拡大モードを切り替えても良い。
上記第2実施形態においては、挿入部12aの挿抜に合わせて直視拡大モードと側視拡大モードを選択しているが、動き検出部201が湾曲部12cの湾曲に起因した先端部12dの向きを検出する場合には、表示制御部98は、湾曲部12cの湾曲に起因した先端部12dの向きに合わせて、直視拡大モードと側視拡大モードを自動的に選択することができる。具体的には、例えば、図18に示すように、動き検出部201が湾曲部12cの湾曲の有無を検出することにより、その結果、先端部12dの向きを検出する(S250)。湾曲部12cの湾曲を検出した場合(S251;YES)、表示制御部98は、表示モードを自動的に直視拡大モードに設定し、直視観察画像111を拡大表示する(S252)。図19に示すように、湾曲部12cを湾曲して先端部12dの向きを変える場合、通常は、先端部12dの先端方向に注目すべき部分があるからである。一方、湾曲部12cが湾曲しておらず、先端部12dが挿入方向に向いている場合には、表示制御部98は、表示モードを自動的に側視拡大モードに設定し、側視観察画像112を拡大表示する(S253)。図20に示すように、湾曲部12cを湾曲せず、先端部12dを挿入方向に向けている場合は、医師等は、側視観察画像112を用いて注目すべき部分の有無を確認(スクリーニング)しているケースが多いからである。
なお、上記においては、湾曲部12cが湾曲しておらず、先端部12dが挿入方向に向いている場合に、表示モードを自動的に側視拡大モードに設定しているが、湾曲部12cが湾曲しておらず、先端部12dが挿入方向に向いている場合には、表示モードを自動的に標準モードに設定しても良い。
また、先端部12dの向きに合わせて、直視拡大モードと、標準モードまたは側視拡大モードと、を切り替える場合であって、さらに、動き検出部201が湾曲部12cの湾曲角度、湾曲速度または加速度を検出する場合には、湾曲部12cの湾曲角度、湾曲速度または加速度を用いて、直視拡大モードと側視拡大モードにおける直視観察画像111と側視観察画像112の相対的な表示割合を自動的に設定することができる。例えば、図21において、直視観察画像111の表示割合を示すグラフ111A及び側視観察画像112の表示割合を示すグラフ112Aを用いて示すように、湾曲角度が0度の場合には表示モードを自動的に標準モードに設定し、湾曲角度が0度より大きい場合に、表示モードを自動的に直視拡大モードに設定する。そして、湾曲角度が0度より大きく90度以下の場合、表示制御部98は、湾曲角度に合わせて直視観察画像111と側視観察画像112の相対的な表示割合を設定する。こうすると、先端部12dの向きのより細かな変化に応じて、適切なサイズに直視観察画像111を拡大して表示することができる。
なお、湾曲角度が90度より大きいの場合、先端部12dは後方に向く。この場合、先端部12dを向けた部分に診断等において注目すべき部分がある可能性が高いので、表示制御部98は実質的に直視観察画像111のみを表示する表示用画像128を生成しモニタ18に表示すると良い(図21参照)。但し、図22に示すように、湾曲角度が90度よりも大きい場合に、湾曲角度に応じて直視観察画像111の表示割合を低減し、かつ、側視観察画像112の表示割合を増加しても良い。
また、図21及び図22は、側視観察画像112の表示割合が直視観察画像111の表示割合を上回ることがなく、直視拡大モードと標準モードとを切り替える例になっているが、グラフ111Aとグラフ112Aを交差して、側視観察画像112の表示割合が直視観察画像111の表示割合を上回る部分を設ければ、直視拡大モードと側視拡大モードとで表示モードを切り替えることができる。
[第3実施形態]
上記第1実施形態及び第2実施形態においては、第1死角部分114をマスクしており、かつ、直視拡大モードまたは側視拡大モードにおいて側視観察画像112を縮小または拡大した際には、この第1死角部分114も同様に縮小または拡大している。このため、上記第1実施形態及び第2実施形態においては、側視観察画像112のうち、観察対象を写した部分(第1死角部分114及び第2死角部分115を除いた部分)と、第1死角部分114は、縮小または拡大の前後で、相対的に一定の大小関係を維持している。しかし、第1死角部分114と、側視観察画像112のうち観察対象が写した部分に対して一定の大小関係を維持しなくても良い。
例えば、必要に応じて第1死角部分114を縮小し、その結果、第1死角部分114の表示面積を低減することができる。この場合、図23に示すように、表示制御部98には、表示割合設定部101及び表示用画像生成部102に加えて、マスク表示割合設定部301を設ける。マスク表示割合設定部301は、表示割合設定部101が設定した直視観察画像111と側視観察画像112の相対的な表示割合に合わせて、側視観察画像112と、第1死角部分114を覆うマスクの相対的な表示割合を変更する。
具体的には、例えば、図24に示すように、標準モードの表示用画像113における第1死角部分114は、中心C0を中心として角度θ1の範囲であるとする。また、表示割合設定部101は、側視拡大モードの表示割合を設定したとする。したがって、表示用画像生成部102は、まず、直視観察画像111及び側視観察画像112を中心C0を中心とした径方向に縮小または拡大して直視観察画像111と側視観察画像112の相対的な表示割合を表示割合設定部101が定めた表示割合にする。これは第1実施形態等と同様である。
一方、本実施形態においては、マスク表示割合設定部301は、側視拡大モードにおいて、中心C0を中心とした第1死角部分114の範囲を、少なくとも角度θ1よりも小さい角度θ2に設定する。こうしてマスク表示割合設定部301が第1死角部分114の範囲を角度θ2に定めた場合、表示用画像生成部102は、上記のように直視観察画像111及び側視観察画像112を径方向に縮小または拡大した上で、さらに、直視観察画像111及び側視観察画像112を周方向に延伸または圧縮する。具体的には、直視観察画像111及び側視観察画像112のうち、第1死角部分114がある角度θ1内を周方向に圧縮し、かつ、他の部分を周方向に延伸する。これにより、第1死角部分114を角度θ2に収める。その結果、側視観察画像112に対して、第1死角部分114を覆うマスクの相対的な表示割合を低減した表示用画像302を生成し、モニタ18に表示する。
表示用画像302は、例えば第1実施形態の側視拡大モードにおける表示用画像126(図10参照)と比較して、第1死角部分114及び第1死角部分114を覆うマスクの表示面積が小さく、かつ、その他の観察対象が写った部分の表示面積が大きい。したがって、表示用画像302によれば、観察対象をより観察しやすく表示できる。
なお、表示用画像302を生成する際に、側視観察画像112だけでなく、直視観察画像111も、角度θ1内の部分を周方向に圧縮し、かつ、角度θ1以外の部分を周方向に延伸しているのは、直視観察画像111と側視観察画像112の境界において観察対象の像にずれがでないようにするためである。また、側視拡大モードにおいて、第1死角部分114を圧縮により表示面積を縮小し、かつ、その他の観察対象が写った部分を拡大により表示面積を拡大しているのは、側視拡大モードにおいては、モニタ18上において第1死角部分114の表示面積が大きくなりやすく、マスクしてあるとは言え、診断等に寄与しない第1死角部分114が目立ちやすくなるので観察対象を観察し難くなりやすいからである。
なお、上記第3実施形態においては、一例として、側視拡大モードにおいて、第1死角部分114を縮小し、かつ、その他の観察対象が写った部分を拡大しているが、直視拡大モードまたは標準モードにおいて、第1死角部分114を縮小し、かつ、その他の観察対象が写った部分を拡大しても良い。この他、側視拡大モード、直視拡大モード、または、標準モードにおいて、第1死角部分114を拡大し、かつ、その他の観察対象が写った部分を縮小することもできる。
なお、上記第3実施形態においては、第1死角部分114を縮小しているが、第2死角部分115を縮小することができる。この場合、マスク表示割合設定部301は、側視観察画像112の外周を径方向に拡張するか否かの設定をする。例えば、図25において側視観察画像112の外周から伸びる矢印を用いて示すように、マスク表示割合設定部301が側視観察画像112の外周を径方向に拡張する設定をしたとする。この場合、表示用画像生成部102は、表示割合設定部101が設定した表示割合にしたがって直視観察画像111及び側視観察画像112を拡大または縮小する。その上で、側視観察画像112を径方向に延伸することにより、側視観察画像112の表示面積を拡大する。その結果、表示用画像生成部102は、例えば、図26に示すように、第2死角部分115がない表示用画像304を生成して、モニタ18に表示する。このように、第2死角部分115がない表示用画像304を生成及び表示すれば、観察対象をモニタ18上の表示範囲の全体に表示することができるので、観察対象をより観察しやすくなる。
上記変形例における第2死角部分115の非表示化は、直視拡大モード、側視拡大モード、または、標準モードのいずれの場合においても行うことができる。したがって、上記変形例における第2死角部分115の非表示化は、直視拡大モード、側視拡大モード、または、標準モードのうち1または2以上の選択した表示モードにおいて実施することができる。また、上記変形例における第2死角部分115の非表示化は、第3実施形態における第1死角部分114の縮小もしくは拡大の代わりに、または、第3実施形態における第1死角部分114の縮小もしくは拡大に加えて行うことができる。
その他、上記変形例においては、第2死角部分115を完全に非表示化しているが、マスク表示割合設定部301は第2死角部分115の表示割合を設定することにより、第2死角部分115の表示面積を縮小しつつも、表示用画像304内に第2死角部分115の表示を一部残すことができる。この場合、第3実施形態の第1死角部分114の縮小と同様に、直視観察画像111及び側視観察画像112の相対的な表示割合に合わせて、第2死角部分115の表示面積の縮小率を設定すると良い。例えば、側視拡大モードにおいて、側視観察画像112の表示割合に反比例して、第2死角部分115の表示面積を縮小することができる。
なお、第1死角部分114がある角度θ1は、表示制御部98が予め記憶しているが、角度θ1のデータを更新可能であることが好ましい。キャリブレーション等において、例えば側視観察部42からのノズル51及びノズル52の見え具合等に基づき、角度θ1の値を調節し、結果として、第1死角部分114としてマスクする領域の大きさを調節できることが好ましい。第1実施形態等においても同じである。
[第4実施形態]
上記第1実施形態、第2実施形態、及び第3実施形態においては、直視観察画像111及び側視観察画像112を表示用画像(表示用画像113等)の中心に表示しているが、各表示用画像内における直視観察画像111及び側視観察画像の表示位置は調節することができる。直視観察画像111及び側視観察画像の表示位置を調節する場合、図27に示すように、表示制御部98には、表示位置設定部401を設ける。表示位置設定部401は、表示用画像における直視観察画像111または側視観察画像112の表示位置を設定する。表示用画像生成部102は、表示位置設定部401が設定した位置に調節して表示用画像を生成する。
特に、プロセッサ装置16に第2実施形態の動き検出部201を設ける場合、表示位置設定部401は、動き検出部201が検出した動きに合わせて、直視観察画像111または側視観察画像112の表示位置を調節することができる。具体的には、図28(A)に示すように、標準モードにおいて先端部12dが挿入方向を向いている場合、表示位置設定部401は直視観察画像111及び側視観察画像112の表示位置を、生成及び表示する表示用画像の中心に設定する。このため、表示用画像生成部102は表示用画像113を生成し、モニタ18に表示する。
一方、図28(B)に示すように、標準モードにおいて先端部12dを右方向に向けた際には、表示位置設定部401は、先端部12dの向き(角度)、または、先端部12dを右方向に移動する速さ、速度もしくは加速度に合わせて、直視観察画像111の表示位置を左方向にずらす。その結果、表示用画像生成部102は、直視観察画像111の表示位置に合わせて側視観察画像112の内周を延伸または圧縮して、設定した位置に表示する直視観察画像111と側視観察画像112を繋ぎ合わせる。その結果、表示用画像生成部102は、直視観察画像111の表示位置が左方向に偏った表示用画像410を生成し、モニタ18に表示する。先端部12dを右方向に向ける場合、通常は、先端部12dの右方向に診断等において注目すべき部分があるので、上記のように直視観察画像111の表示位置を左方向にずらし、側視観察画像112の右側部分を拡大すると、注目すべき部分が観察しやすくなる。
また、図28(C)に示すように、標準モードにおいて先端部12dを左方向に向けた際には、表示位置設定部401は、先端部12dの向き(角度)、または、先端部12dを左方向に移動する速さ、速度もしくは加速度に合わせて、直視観察画像111の表示位置を右方向にずらす。これにより、上記と同様に、表示用画像生成部102は、直視観察画像111の表示位置が右方向に偏った表示用画像411を生成し、モニタ18に表示する。先端部12dを左方向に向ける場合、通常は、先端部12dの左方向に診断等において注目すべき部分があるので、上記のように直視観察画像111を右方向にずらし、側視観察画像112の左側部分を拡大すると、注目すべき部分が観察しやすくなる。先端部を上方向または下方向等、その他の方向に向ける場合も同様である。
上記第4実施形態においては、動き検出部201を用いて検出する先端部12dの動きに合わせて直視観察画像111の表示位置を調節しているが、図29に示すように、モニタ18がヘッドマウントディスプレイ421である場合、ヘッドマウントディスプレイ421を装着する医師等の頭の動きに合わせて、直視観察画像111等の表示位置を調節することができる。この場合、動き検出部201は、ヘッドマウントディスプレイ421の動きを検出する。
そして、標準モードにおいて、ヘッドマウントディスプレイ421を装着する医師等が正面(ヘッドマウントディスプレイ421のキャリブレーションにより定める医師等の装着者の正面)を向いている場合、直視観察画像111を中心に表示する表示用画像113をヘッドマウントディスプレイ421に表示する(図29(A)参照)。一方、ヘッドマウントディスプレイ421を装着する医師等が右(ヘッドマウントディスプレイ421のキャリブレーションにより定める医師等の装着者の右)を向いた場合には、上記第4実施形態において先端部12dを右方向に向けた場合と同様に、直視観察画像111の表示位置が左方向に偏った表示用画像410を生成し、ヘッドマウントディスプレイ421に表示する(図29(B)参照)。また、ヘッドマウントディスプレイ421を装着する医師等が左(ヘッドマウントディスプレイ421のキャリブレーションにより定める医師等の装着者の左)を向いた場合には、上記第4実施形態において先端部12dを左方向に向けた場合と同様に、直視観察画像111の表示位置が右方向に偏った表示用画像411を生成し、ヘッドマウントディスプレイ421に表示する(図29(C)参照)。
なお、上記第4実施形態においては、簡単のため、表示モードが標準モードの場合を例に説明しているが、直視拡大モードまたは側視拡大モードにおいても直視観察画像111または側視観察画像112の表示位置を調節することができる。すなわち、上記第4実施形態は、第1実施形態、第2実施形態、または第3実施形態のうち、いずれか1以上と任意に組み合わせて実施することができる。
[第5実施形態]
上記第1実施形態等の各実施形態及び変形例(以下、第1実施形態等という)における内視鏡12は、第2突出部32があることに起因した死角、側視観察部42の視野の外側にあたる死角の他にも死角が存在する場合がある。具体的には、図30に示すように、撮像レンズ61の性能に起因して、直視観察部41の視野501と側視観察部42の視野502とが重複しない場合がある。この場合、直視観察部41の視野501と側視観察部42の視野502の間に、直視観察部41の視野501と側視観察部42の視野502のどちらにも捉えられない死角503が存在する場合がある。しかし、上記第1実施形態等においては、直視観察画像111と側視観察画像112を繋ぎ合わせて表示するので、直視観察部41の視野501と側視観察部42の視野502の間の死角503に注目すべき部分があると、医師等はモニタ18においてその存在を視認できないので、見落としてしまう可能性がある。このため、表示制御部98は、死角503の存在をモニタ18に表示し、使用者である医師等に知らせることが好ましい。
例えば、図31に示すように、表示制御部98は、表示用画像113等の上記第1実施形態等の表示用画像に加えて、死角503の存在を示す模式図505を表示する。模式図505は、少なくとも、直視観察部41の視野501、側視観察部42の視野502、及び、直視観察部41の視野501と側視観察部42の視野502の間の死角503を表示する。このように、表示制御部98が、表示用画像113等の表示画像に並べて(あるいは重畳して)模式図505をモニタ18上に示せば、直視観察画像111と側視観察画像112を繋ぎ合わせた表示用画像113等の表示用画像をモニタ18に表示する場合でも、医師等はモニタ18において死角503の存在に注意しながら診断等をすることができる。
なお、表示制御部98は、模式図505の代わりに、死角503の有無を示すメッセージをモニタ18に表示しても良い。また、直視観察部41の視野501と側視観察部42の視野502の間に死角503がある場合、図32に示すように、表示制御部98は、直視観察画像111と側視観察画像112を繋ぎ合わせず、死角503に対応する部分(以下、第3死角部分という)513をマスクした表示用画像523を生成し、モニタ18に表示しても良い。第3死角部分513をマスクした表示用画像523と、第3死角部分513をマスクしない表示用画像113等の表示用画像とは、相互に任意のタイミングで切替可能であることが好ましい。上記第5実施形態の表示は、第1実施形態等と任意に組み合わせることができる。
[第6実施形態]
上記第5実施形態とは逆に、第1実施形態等における内視鏡12は、撮像レンズ61の性能に起因して、図33に示すように、直視観察部41の視野501と側視観察部42の視野502とが重複する場合がある。以下、直視観察部41と側視観察部42の重複する視野を重複視野601という。このように、直視観察部41と側視観察部42に重複視野601がある場合、図34に示すように、直視観察画像111及び側視観察画像112には、重複視野601に対応する領域(以下、重複領域という)602において同じ観察対象205の同じ部分が写ることになるので、第1実施形態等のように直視観察画像111と側視観察画像112を繋ぎ合わせると、生成した表示用画像113等においては、直視観察画像111と側視観察画像112の境界付近において観察対象の同一部分が2箇所に表れる(以下、二重表示という)。したがって、表示制御部98は、直視観察部41と側視観察部42に重複視野601がある場合でも、二重表示がない表示用画像を生成することが好ましい。
このため、図35に示すように、表示制御部98には、例えば、重複領域検出部611と重複領域除去部612を設けることが好ましい。重複領域検出部611は、直視観察画像111に写った観察対象と側視観察画像112に写った観察対象とを比較することにより、直視観察画像111において側視観察画像112と同一の観察対象が写った重複領域602、または、側視観察画像112において直視観察画像111と同一の観察対象が写った重複領域602を検出する。そして、図36及び図37に示すように、重複領域除去部612は、直視観察画像111または側視観察画像112から、重複領域602を除去する。そして、表示用画像生成部102は、いずれか一方から重複領域602を除去した直視観察画像111及び側視観察画像112を繋ぎ合わせて表示用画像113等を生成する。こうすれば、直視観察部41と側視観察部42に重複視野601がある場合でも、表示用画像113等の二重表示がなくなるので、観察対象を観察しやすく表示することができる。
上記第6実施形態のように、表示制御部98に重複領域検出部611を設ける場合、図38に示すように、表示制御部98には、さらに信号レベル補正部613を設けると良い。信号レベル補正部613は、重複領域検出部611が検出した重複領域602を用いて、直視観察画像111及び側視観察画像112のうち少なくともいずれか一方の信号レベルを補正する。その結果、直視観察部41の視野501における観察対象の明るさと、側視観察部42の視野502における観察対象の明るさに違いがあっても、直視観察画像111及び側視観察画像112は同じ明るさにすることができるので、明るさが均一な表示用画像113等を生成及び表示することができる。
上記第6実施形態及びその変形例は、直視観察部41と側視観察部42に重複視野601がある場合であれば、第1実施形態等の直視拡大モード、側視拡大モード、または標準モードと任意に組み合わせて実施することができる。
[第7実施形態]
上記第1実施形態等においては、表示制御部98が、表示用画像生成部102において表示用画像113等を生成する際に、直視観察画像111または側視観察画像112を拡大または縮小等することにより、直視観察画像111と側視観察画像112を繋ぎ合わせているが、撮像レンズ61の性能に起因して直視観察画像111と側視観察画像112に表れる収差の具合が異なる場合がある。直視観察画像111と側視観察画像112に表れる収差の具合が異なる場合に、単に、直視観察画像111または側視観察画像112を単に拡大または縮小等して繋ぎ合わせると、直視観察画像111と側視観察画像112に表れる収差の相違に起因して表示用画像113等において観察対象が歪んで見える場合がある。
例えば、図39に示すように、直視観察画像111のディストーション701と、側視観察画像112のディストーション702に違いがある。具体的には、直視観察画像111のディストーション701はいわゆる樽型または糸巻き型(図39においては樽型)である。一方、側視観察画像112のディストーション702は概ね放射状である。このため、直視観察画像111または側視観察画像112を単に拡大または縮小等しただけは直視観察画像111のディストーション701と側視観察画像112のディストーション702が良好に接続できない場合がある。この場合、表示用画像113等は、特に、直視観察画像111と側視観察画像112の境界付近において観察対象の歪みを認識しやすくなる。したがって、直視観察画像111と側視観察画像112を繋ぎ合わせて表示用画像113等を生成してモニタ18に表示する場合、表示制御部98は、撮像レンズ61の性能に起因して直視観察画像111と側視観察画像112に表れる収差を考慮して、直視観察画像111と側視観察画像112を繋ぎ合わせて表示用画像113等を生成するとが好ましい。
表示制御部98が、撮像レンズ61の性能に起因して直視観察画像111と側視観察画像112に表れる収差を考慮して直視観察画像111と側視観察画像112を繋ぎ合わせるためには、図40に示すように、表示制御部98に収差接続部705を設ける。収差接続部705は、直視観察画像111または側視観察画像112の少なくともいずれか一方にアフィン変換等の変換処理を施して、直視観察画像111と側視観察画像112の収差を良好に接続し得る画像に変換する。例えば、図41に示すように、収差接続部705は、側視観察画像112のディストーション702に合わせて直視観察画像111をアフィン変換する。その結果、直視観察画像111のディストーション701を側視観察画像112のディストーション702に良好に接続し得る状態にする。表示用画像生成部102は、上記のように収差接続部705の変換処理によって収差を良好に接続し得る状態となった直視観察画像111及び側視観察画像112を用いて表示用画像113等を生成し、モニタ18に表示する。このように、直視観察画像111及び側視観察画像112に表れる収差を考慮して、直視観察画像111と側視観察画像112を繋ぎ合わせると、直視観察画像111と側視観察画像112をより良好に接続することができる。その結果、表示用画像113等においては、観察対象の歪みを認識し難くなり、観察対象を観察しやすくなる。
なお、撮像レンズ61の性能は内視鏡12を製造する際に既知であるから、上記第7実施形態においては、直視観察画像111または側視観察画像112に対してどのような変換処理を施すかは予め定められている。このため、収差接続部705は、直視観察画像111または側視観察画像112に施す変換処理のパラメータを予め保有している。しかし、より厳密には、内視鏡12の先端部12dと観察対象の距離が観察中に変化すると、先端部12dと観察対象の距離に応じて直視観察画像111及び側視観察画像112に表れるディストーション701及びディストーション702等の収差の具合は変化する。したがって、表示制御部98に収差接続部705を設ける場合、図42に示すように、内視鏡12またはプロセッサ装置16には測距部706を設けることが好ましい。図43に示すように、測距部706は、直視観察部41の視野501と側視観察部42の視野502の境界近傍における先端部12dと観察対象の距離D1を測定する。そして、収差接続部705は、測距部706が測定した先端部12dと観察対象の距離D1を用いて、予め保有する変換処理用のパラメータを調節または変更する。その結果、直視観察画像111と側視観察画像112の収差をより良好に接続し得る状態にする。先端部12dと観察対象の距離D1は位置によって異なるので(図43参照)、収差接続部705は、距離D1の平均値等に合わせて、または、直視観察画像111と側視観察画像112を接続する位置ごとに、変換処理用のパラメータを調節または変更する。また、内視鏡12の先端部12dと観察対象の相対的な角度が観察中に変化すると、先端部12dと観察対象の相対的な角度に応じて直視観察画像111及び側視観察画像112に表れるディストーション701及びディストーション702等の収差の具合は変化する。このため、収差接続部705は、先端部12dと観察対象の相対的な角度を用いて、予め保有する変換処理用のパラメータを調節または変更することができる。先端部12dと観察対象の相対的な角度は、例えば、距離D1の分布を用いて求めることができる。先端部12dと観察対象の相対的な角度は位置によって異なるので、収差接続部705は、先端部12dと観察対象の相対的な角度の平均値等に合わせて、または、直視観察画像111と側視観察画像112を接続する位置ごとに、変換処理用のパラメータを調節または変更するのは上記と同様である。
なお、直視観察部41の視野501と側視観察部42の視野502の境界近傍とは、直視観察部41の視野501と側視観察部42の視野502との間に死角503がある場合には、直視観察部41の視野501と死角503の境界近傍、側視観察部42の視野502と死角503の境界近傍、または、死角503の範囲内の任意箇所である。直視観察部41の視野501と側視観察部42の視野502に重複視野601がある場合、直視観察部41の視野501と側視観察部42の視野502の境界近傍とは、直視観察部41の視野501と重複視野601の境界近傍、側視観察部42の視野502と重複視野601の境界近傍、または、重複視野601の範囲内の任意箇所である。直視観察部41の視野501と側視観察部42の視野502との間に死角503がなく、かつ、重複視野601もない場合、直視観察部41の視野501と側視観察部42の視野502の境界近傍とは、直視観察部41の視野501と側視観察部42の視野502の境界またはその近傍である。
[第8実施形態]
上記第1実施形態等においては、制御部96がAE制御を行うが、先端部12dと観察対象の距離、または、直視照明部54及び直視照明部81と側視照明部43の性能によっては、直視観察画像111と側視観察画像112の明るさが異なる場合がある。直視観察画像111と側視観察画像112の明るさが異なる場合、制御部96が、直視観察画像111と側視観察画像112の両方を常時共通の一定の明るさになるAE制御を行うことは難しい。このため、図44に示すように、制御部96は、AE制御のために直視観察画像111と側視観察画像112を取得すると(S801)、直視観察画像111を用いて適正な露出量を算出する(S802)。また、側視観察画像112を用いて適正な露出量を算出する(S803)。そして、制御部96は、直視観察画像111を用いて算出した露出量、または、側視観察画像112を用いて算出した露出量のうち、いずれか一方の露出量をAE制御で使用する露出量に決定し(S804)、決定した露出量にしたがって実際のAE制御をする。こうすれば、直視観察画像111と側視観察画像112の明るさが異なる場合でも、直視観察画像111または側視観察画像112のうち少なくともいずれか一方を常に適正な明るさで撮像することができる。例えば、常に直視観察画像111を用いて算出する露出量にしたがってAE制御をすれば、少なくとも直視観察画像111は常に適正な明るさになる。その結果、直視観察画像111の観察しやすさを保障することができる。
上記第8実施形態においては、制御部96は、直視観察画像111を用いて算出した露出量、または、側視観察画像112を用いて算出した露出量のうち、いずれか一方の露出量するが、代わりに、直視観察画像111を用いて算出した露出量と、側視観察画像112を用いて算出した露出量の平均値を、実際に実施するAE制御の露出量にすることができる。また、設定により、直視観察画像111を用いて算出した露出量と、側視観察画像112を用いて算出した露出量と、を用いて、実際に実施するAE制御の露出量を算出しても良い。例えば、直視観察画像111を用いて算出した露出量と、側視観察画像112を用いて算出した露出量とに重み付けをして平均し、その結果を実際に実施するAE制御の露出量に採用することができる。
なお、直視観察画像111と側視観察画像112とを各々別のタイミングに得る場合には、直視観察画像111を得るための露出量を直視観察画像111を用いて算出し、かつ、側視観察画像112を得るための露出量を側視観察画像112を用いて算出することができる。
例えば、制御部96がAE制御を照明光の光量を調節することによって実行する場合、図45に示すように、制御部96は、直視観察画像111を取得して、次の直視観察画像111の撮像する際に使用する照明光の光量(以下、直視用照明光量という)を決定する(S811)。また、制御部96は、側視観察画像112を取得して、次の側視観察画像112の撮像する際に使用する照明光の光量(以下、側視用照明光量という)を決定する(S812)。そして、制御部96は、直視用照明光量で照明光を点灯して、直視観察部41において観察対象を撮像する。これにより、画像取得部97は、直視観察画像111を取得する(S813)。また、制御部96は、側視用照明光量で照明光を点灯して、側視観察部42において観察対象を撮像する。これにより、画像取得部97は、側視観察画像112を取得する(S814)。
上記のように、直視観察画像111と側視観察画像112とを各々別のタイミングに得る場合には、直視観察画像111を得るための露出量を直視観察画像111を用いて算出し、かつ、側視観察画像112を得るための露出量を側視観察画像112を用いて算出することによって、直視観察画像111及び側視観察画像112の両方を適切な露出で取得することができる。
上記第8実施形態及び変形例のAE制御は、第1実施形態等と任意に組み合わせて実施することができる。
[第9実施形態]
直視観察画像111と側視観察画像112とを各々別のタイミングに得る場合等において、互いに性質が異なる直視観察画像111と側視観察画像112を得ることができる。例えば、直視観察画像111または側視観察画像112のうち一方を、照明光に白色光を使用して観察対象を撮像し、観察対象を自然な色合いで表す通常の画像(以下、通常画像という)にし、かつ、直視観察画像111または側視観察画像112のうち他方を、通常画像とは異なる態様で処理等した画像(以下、特殊画像という)にすることができる。特殊画像とは、例えば、血管等の特定の組織や構造等を、周波数強調処理、輪郭強調処理、マーキング処理(病変等に枠等を付与してその位置を表示する処理等)等によって強調した画像、極狭い波長帯域の照明光を用いる等、照明光の波長、波長帯域、もしくは照明光の組み合わせの選択により、血管等の特定の組織もしくは構造等を通常画像よりも写りやすくした画像(例えば、いわゆる狭帯域光観察画像)、色調変換処理(例えば、トーンカーブによる色調変換または特定の色空間上における再マッピングによる色調変換等)等を用いて特定の病変等を周囲の組織等と色の違いで識別できるようにした画像、または、観察対象の生体情報を算出し、算出した生体情報を用いて通常画像に色付けをした画像(例えば、酸素飽和度の値を色で表す酸素飽和度画像)等である。
上記のように、直視観察画像111または側視観察画像112のうち一方を、通常画像にし、かつ、直視観察画像111または側視観察画像112のうち他方を、特殊画像にする場合、図46に示すように、プロセッサ装置16には、画像処理部830を設ける。画像処理部830は、画像取得部97から取得する直視観察画像111または側視観察画像112に対して、必要に応じて、周波数強調処理、輪郭強調処理、マーキング処理、色調変換処理、または、酸素飽和度算出処理及び算出した酸素飽和度を用いた通常画像の色付け処理等の各種処理を施す。そして、表示制御部98は、画像処理部830において必要な処理を施した直視観察画像111及び側視観察画像112を用いて表示用画像113等を生成し、モニタ18に表示する。
直視観察画像111と側視観察画像112のうち少なくとも一方を特殊画像にすれば、直視観察画像111と側視観察画像112を両方とも通常画像とする場合と比較して、病変等の発見の支援できる。また、生体情報を表す画像を生成する場合には、生体情報という情報を提示できる利点もある。
直視観察画像111または側視観察画像112のうちいずれか一方だけを特殊画像にする場合、直視観察画像111を通常画像にし、かつ、側視観察画像112を特殊画像にすることが好ましい。側視観察画像112は病変等を見つけ出すスクリーニングのために使用することが多く、かつ、直視観察画像111と比較すると病変等を識別し難い画像になりやすいので、側視観察画像112を特殊画像にすれば、スクリーニングを支援し、その精度を向上することできるからである。
このように、直視観察画像111を通常画像にし、かつ、側視観察画像112を特殊画像にする場合、側視観察画像112は、いわゆるIHb(Index of Hemoglobin)画像にすることが好ましい。IHbは、粘膜ヘモグロビン濃度指標である。そして、IHb画像は、粘膜のヘモグロビン指数の平均値を算出し、その値より高い部分をより赤く、低い部分をより白く強調して表示する画像である。IHb画像は、通常画像と同様に、照明光に白色光を用いて習得した画像を用いて、画像処理により生成することができる。側視観察画像112をIHb画像にすれば、側視観察画像112において例えば粘膜等の炎症が観察しやすくなる。この他、直視観察画像111を得る際と側視観察画像112を得る際とで、両方とも照明光に白色光を使用し、画像処理の内容を変えることで、直視観察画像111を通常画像にし、かつ、側視観察画像112を特殊画像にすることができる。
また、直視観察画像111を通常画像にし、かつ、側視観察画像112を特殊画像にする場合、側視観察画像112は、いわゆる狭帯域光画像にすることが好ましい。狭帯域光画像は、例えば、波長帯域が狭い(例えば波長帯域が±10nm程度)青色光で観察対象を撮像して得る青色画像と、波長帯域が狭い緑色光で観察対象を撮像して得る緑色画像と、を用いて、血管またはピットパターン等の構造を強調した疑似カラー画像である。この他、直視観察画像111を得る際と側視観察画像112を得る際とで、照明光を変え、かつ、画像処理の内容を変えることで、直視観察画像111を通常画像にし、かつ、側視観察画像112を特殊画像にすることができる。
なお、上記においては、直視観察画像111と側視観察画像112のうち一方を特殊画像にしているが、当然に、直視観察画像111と側視観察画像112を両方とも特殊画像にすることができる。この場合、直視観察画像111と側視観察画像112とを種類が異なる特殊画像(照明光または画像処理の内容が異なる特殊画像)にすることができる。例えば、直視観察画像111をIHb画像にし、かつ、側視観察画像112を狭帯域光画像にすることができる。
上記第9実施形態においては、直視観察画像111と側視観察画像112を別々のタイミングで取得(撮像)しているが、直視観察画像111と側視観察画像112を同時に取得して、直視観察画像111または側視観察画像112のうち少なくとも一方を特殊画像にできる。例えば、照明光に白色光を使用して観察対象を撮像して、直視観察画像111と側視観察画像112を同時に取得する。そして、直視観察画像111には、通常画像処理(通常画像にするための画像処理)を施して直視観察画像111を通常画像にする。一方、直視観察画像111と同時に得た側視観察画像112には病変を強調する色変換処理をして、側視観察画像112を特殊画像にする。このように、照明光の切り替えを必要とせず、画像処理によって特殊画像を生成する場合には、直視観察画像111と側視観察画像112を同時に取得しても、これらのうち少なくとも一方を特殊画像にできる。
また、直視照明部54及び直視照明部81と、側視照明部43とが互いに独立した構成にすれば、直視観察部41の視野501と、側視観察部42の視野502にそれぞれ異なる照明光を同時に照射できる。この場合、特殊画像の生成に照明光の切り替えを必要であっても、直視観察画像111と側視観察画像112を同時に取得し、かつ、これらのうち少なくとも一方を特殊画像にできる。
上記第9実施形態においては、直視観察画像111または側視観察画像112のうち少なくとも一方を特殊画像にしているが、その代わりに、もしくは直視観察画像111または側視観察画像112のうち少なくとも一方を特殊画像にした上で、直視観察画像111または側視観察画像112のうち一方の明るさを、他方の明るさに対して、明るくまたは暗くしても良い。例えば、直視観察画像111に対して側視観察画像112を相対的に明るくすることができる。直視観察画像111に対して側視観察画像112を相対的に明るくする方法には、側視観察画像112を直視観察画像111よりも明るくする方法と、直視観察画像111を側視観察画像112よりも相対的に暗くする方法を取り得る。これらは第8実施形態の変形例(図45参照)において、直視用照明光量と側視用照明光量の相対的なバランスを制御部96が調節することによって実現できる。上記第9実施形態は、第1実施形態等と任意に組み合わせて実施できる。
また、直視観察画像111を取得する際と、側視観察画像112を取得する際とで、照明光が含む成分ごとの光量の比率(以下、光量比という)を変えることができる。例えば、光源91が、紫色光を発光する紫色LEDと、青色光を発光する青色LEDと、緑色光を発光する緑色LEDと、赤色光を発光する赤色LEDとで構成し、紫色光、青色光、緑色光、及び赤色光の光量をそれぞれに調節することで、光源91は、光量比が異なる複数種類の照明光を発光することができる。このため、直視観察画像111を得る際には白色光を発光する一方で、側視観察画像112を得る際には、紫色光、青色光、緑色光、及び赤色光の光量比を調節して、例えば、白色光と比較して、紫色光の成分が相対的に大きい特殊画像用の照明光(紫色成分が多い白色光、紫色光の光量によっては全体としてほぼ紫色光になる場合もある)を発光することができる。
[第10実施形態]
上記第1実施形態等においては、表示用画像113等における直視観察画像111及び側視観察画像112の表示領域及び表示位置を予め定めている。特に、第4実施形態及びその変形例においては、直視観察画像111または側視観察画像112の表示位置を、先端部12dの向き等に合わせて調節するが、表示用画像113等における直視観察画像111及び側視観察画像112の表示領域については予め定めている。しかし、直視観察画像111及び側視観察画像112の表示領域は、任意に定めることができる。
直視観察画像111及び側視観察画像112の表示領域とは、表示用画像113等によってモニタ18に表示する直視観察画像111及び側視観察画像112の範囲である。例えば、表示用画像113は、表示用画像113の中心に直視観察画像111及び側視観察画像112の中心C0を配置しているため、もともと円環状である側視観察画像112の一部は表示用画像113の外にはみ出し、表示用画像113には表示しない。これに対し、側視観察画像112の表示用画像113に使用した範囲が、側視観察画像112の表示領域である。
表示用画像113等に対して、直視観察画像111及び側視観察画像112の表示範囲を調節する場合、図47に示すように、表示制御部98には、表示領域設定部1001を設ける。図48に示すように、表示領域設定部1001は、モニタ18における表示領域1002と、直視観察画像111及び側視観察画像112との相対的な位置及び大きさを調節する。その結果、直視観察画像111及び側視観察画像112を表示用画像113等に収め、結果として、モニタ18に表示する領域(すなわち表示領域)を設定する。表示領域1002の大きさ及び形状は、表示用画像113等の大きさ及び形状であり、本実施形態においては設定等により、予め定められているとする。
例えば、表示領域設定部1001が、図48に示す通りに直視観察画像111及び側視観察画像112と表示領域1002の相互関係を設定したのであれば、表示用画像生成部102は、表示領域設定部1001が設定した直視観察画像111及び側視観察画像112と表示領域1002との相互関係にしたがって、図49に示す表示用画像1013を生成し、モニタ18に表示する。
上記第10実施形態においては、表示制御部98は、表示部であるモニタ18における表示領域1002に対して直視観察画像111及び側視観察画像112の表示位置をオフセットすることにより、第2突出部32が写る死角に対応する第1死角部分114の全部を非表示化している。このため、モニタ18における表示から、第1死角部分114を除くことができるので、モニタ18の表示において第1死角部分114の存在を全く気にかけること無く、観察対象の観察に集中し得る表示をすることができる。
なお、上記第10実施形態においては、第1死角部分114の全部を非表示化しているが、表示制御部98に表示領域設定部1001を設ける場合、表示制御部98は、表示部であるモニタ18における表示領域1002に対して直視観察画像111及び側視観察画像112の表示位置をオフセットすることにより、死角の少なくとも一部を非表示化することが好ましい。上記のように表示領域1002に対して直視観察画像111及び側視観察画像112の表示位置をオフセットする代わりに、または、表示領域1002に対して直視観察画像111及び側視観察画像112の表示位置をオフセットした上で、表示部であるモニタ18における表示領域1002に対して直視観察画像111及び側視観察画像112を拡大することにより第2突出部32が写る死角に対応する第1死角部分114の少なくとも一部を非表示化できる。第1死角部分114の一部でも非表示化すれば、表示用画像113等の第1死角部分114の全部が表示領域1002に収まる場合よりも、観察対象の観察に集中し得るようになるからである。例えば、図50に示すように、表示制御部98は、表示領域1002に対して直視観察画像111及び側視観察画像112を拡大すれば、第1死角部分114の一部を非表示化できる。
また、図51に示すように、表示制御部98が、表示領域1002に対して直視観察画像111及び側視観察画像112を拡大すれば、第2死角部分115の少なくとも一部を非表示化できる。このため、表示用画像113等よりも観察対象の観察に集中し得るようになる。
なお、上記オフセットまたは拡大による第1死角部分114及び第2死角部分115の非表示化は、表示モードとして選択できることが好ましい。すなわち、表示制御部98は、第1実施形態等における標準モード、直視拡大モード、もしくは、側視拡大モードに加えて、または、第1実施形態等における標準モード、直視拡大モード、もしくは、側視拡大モードの代わりに、死角非表示モードを有することが好ましい。表示モードが死角非表示モードに設定されている場合には、第2突出部32が写る死角に対応する第1死角部分114及び第2死角部分115の少なくとも一部を非表示化して、直視観察画像111及び側視観察画像を表示部であるモニタ18に表示する。
表示制御部98は、第2突出部32が写る死角に対応する第1死角部分114のうち、非表示化する部分の割合を変更することができる。例えば、図52に示すように、プロセッサ装置16に動き検出部201を設ける場合、表示領域設定部1001は、先端部12dの動き(すなわち挿入部12aの動き)に合わせて、第1死角部分114または第2死角部分115のうち非表示化する部分の割合を変更すると良い。
より具体的には、動き検出部201が挿入部12aの挿抜を検出する場合、表示領域設定部1001は、図53に示すように、挿入部12aの挿抜の速度(または加速度)に合わせて第1死角部分114または第2死角部分115のうち非表示化する部分の割合を設定することができる。すなわち、挿入部12aを挿抜が速いほど、第1死角部分114または第2死角部分115を非表示化する割合を大きくする。こうすると、挿入部12aを挿抜が速く、第1死角部分114または第2死角部分115が、観察の邪魔になりやすいケースほど、第1死角部分114または第2死角部分115の表示面積が小さくなるので、挿入部12aの挿抜を支援することができる。
上記図53においては、挿入部12aの挿抜の方向には関係なく、挿抜の速さに起因して第1死角部分114または第2死角部分のうち非表示化する部分の割合を変更しているが、表示制御部98は、例えば、図54に示すように、挿入部12aを観察対象に挿入する場合と、挿入部12aを観察対象から抜去する場合とで、第1死角部分114または第2死角部分のうち非表示化する部分の割合を変更することができる。上記の他、表示制御部98は、先端部12dの向き、または、先端部12dの向きを変更する速さ、速度もしくは加速度に合わせて、第1死角部分114または第2死角部分のうち非表示化する部分の割合を変更することができる。
上記第10実施形態は、上記第1実施形態等と任意に組み合わせて実施することができる。例えば、表示制御部98は、上記第1実施形態等と同様にして側視観察画像112及び直視観察画像111の表示割合を調節し、かつ、側視観察画像112及び直視観察画像111の表示割合に合わせて、第1死角部分114または第2死角部分115のうち非表示化する部分の割合を変更することができる。第3実施形態のにおいて、側視観察画像112及び直視観察画像111の表示割合に合わせて第1死角部分114を縮小する場合と同様である。
なお、上記第10実施形態のように、第1死角部分114または第2死角部分115を非表示化する場合(特に、死角非表示モードを有する場合)、表示制御部98が側視観察画像112を表示部であるモニタ18に表示する際に非表示化する非表示領域(表示領域1002の外側の領域)内に、側視観察部42に洗浄液を噴出して側視観察部42を洗浄するノズル51及びノズル52を有することが好ましい。この場合、ノズル51及びノズル52は、必ずしも第2突出部32に設けなくても良いので、ノズル51及びノズル52の配置によっては、側視観察部42の洗浄性が向上する場合がある。
上記第1実施形態等の内視鏡12は、先端部12dの先端面21からさらに第1突出部31及び第2突出部32が突出した複雑な形状を露呈したまま、観察対象に挿入するが、直視観察及び側視観察が可能な内視鏡12は、例えば、図55に示すように、先端部12d(特に第1突出部31及び第2突出部32の部分)に先端キャップ1101を被せて使用することができる。先端キャップ1101を用いれば、第1突出部31及び第2突出部32等がある先端部12dに比べれば露呈する部分の形状がシンプルなので、汚れが残りにくく、かつ、汚れが付着しても落ちやすい。また、先端キャップ1101は、鉗子口82の位置に貫通孔1102を設けているので、処置具等は貫通孔1102から先端キャップ1101の外に突出することができる。
先端キャップ1101は、透明であるため、基本的には、直視照明部54、直視照明部81、及び直視観察部41を用いた直視観察、並びに、側視照明部43及び側視観察部42を用いた側視観察を妨げない。しかし、先端キャップ1101は透明であるとは言え、例えば、先端キャップ1101の輪郭1101Aまたは輪郭1101Aの近傍においては、観察対象の像が歪む場合がある。このため、図56に示すように、表示制御部98は、先端キャップ1101の輪郭1101Aまたは輪郭1101Aの近傍において観察対象の像に歪みが表れる可能性がある箇所に、先端キャップ1101の輪郭1101Aがあること示す線1111(例えば色付きの線または帯体)等の表示をした表示用画像1120を生成し、モニタ18に表示することが好ましい。表示用画像1120において、先端キャップ1101の輪郭1101Aの存在を示せば、医師等は線1111等の近傍の像に歪みがあることを認識できるので、誤認等を防ぐことができる。
上記のように先端キャップ1101の輪郭1101Aの存在を示す線1111等の表示をする代わりに、図57に示すように、表示制御部98は、観察対象の像に歪みが表れる可能性がある先端キャップ1101の輪郭1101Aまたは輪郭1101Aの近傍の部分1122をマスクした表示用画像1121を生成し、モニタ18に表示しても良い。貫通孔1102の部分1123も、先端キャップ1101の輪郭1101Aまたは輪郭1101Aの近傍の部分1122と同様に、観察対象の像が歪む可能性がある。このため、表示制御部98は、貫通孔1102の部分1123もマスクしても良い(図57参照)。また、図56と同様に、貫通孔1102の部分1123には、貫通孔1102の存在を知らせる線等を表示しても良い。なお、先端キャップ1101は円柱形状であるが、先端側が徐々に小さくなる砲弾型(先細り形状)の先端キャップも使用可能である。砲弾型の先端キャップも外形を除けば、構成は上記先端キャップ1101と同様である。
上記先端キャップ1101の他にも、図58に示すように、内視鏡12は、先端部12dに、観察対象である管腔(大腸等)のヒダを押し広げるための補助部材1201を装着して使用する場合がある。補助部材1201は、先端部12dに取り付けるために概ね円筒状の形状をしており、挿入部12aを抜去方向に移動することによって、管腔のヒダを押し広げるための羽部材1202を複数有する。そして、観察中に補助部材1201の挿入部12aに対する位置ずれを防止するために、または、観察中に補助部材1201が挿入部12aから外れてしまうことを防ぐために、補助部材1201は、そのの先端側に、補助部材1201を先端部12dに係止するための係止部材1206を有する。この係止部材1206は、補助部材1201を先端部12dに係止する都合上、本来の先端部12dから突出する。このため、係止部材1206の突出量によっては、係止部材1206が側視観察部42の視野502に入ってしまうことがある。このため、補助部材1201のうち、少なくとも係止部材1206は、透明な材料からなることが好ましい。係止部材1206が透明であれば、側視観察部42の視野502に入ってしまったとしても、その存在が目立ちにくいからである。
また、図59に示すように、補助部材1201は、上記係止部材1206の代わりに、補助部材1201を先端部12dに係止する爪形状の部材(以下、爪部材という)1207を有する場合がある。この場合、爪部材1207は、上記と同様に透明な材料からなることが好ましい。また、係止部材1206とは異なり、爪部材1207は部分的に設ける。このため、爪部材1207は、側視観察部42の死角(第1死角部分114に入る位置)に設けることが好ましい。爪部材1207が、側視観察部42の死角にのみ設けられていれば、側視観察部42の視野502に爪部材1207が写り込むことがなくなるからである。この場合、爪部材1207は透明な材料で形成されていなくても良い。
上記第1実施形態等においては、第2突出部32は、側視観察部42に死角を形成するが、図60に示すように、第2突出部32の下面には、側視観察部42の死角を補う観察部(以下、下面観察部という)1301を設けても良い。下面観察部1301は、側視観察部42と同様に構成する。下面観察部1301の第2突出部32の下面に露呈した部分が下面観察窓1301Aである。
上記第1実施形態等においては、表示用画像113等に対してほぼ一杯に観察対象を表示しているが、近年のモニタ18の表示画面は横長または縦長である場合も多い。このような横長(縦長も同様。以下同じ)のモニタ18を使用する場合、図61に示す表示用画像1401のように、横長の表示領域に、直視観察画像111及び側視観察画像112を適切に表示をしても、第2死角部分115しかなく、有用な情報を何も表示しない余りの領域領域(以下、余白領域という)1402ができてしまうことがある。なお、適切な表示とは、例えば、表示領域から外れる部分ができる限り少なく、かつ、第2死角部分115をできる限り小さくする表示である。
上記のように、モニタ18の表示画面の縦横比等に起因して、表示画面に余白領域1402ができてしまう場合、図62に示す表示用画像1403のように、表示制御部98は、余白領域1402に情報表示領域1404を設けることが好ましい。そして、情報表示領域1404には、例えば合焦画角の範囲等の情報を表示する。合焦画角の範囲を表示するためには、図63に示すように、プロセッサ装置16に、合焦画角検出部1405を設ける。合焦画角検出部1405は、例えば、画像取得部97から、直視観察画像111及び側視観察画像112を取得し、取得した直視観察画像111及び側視観察画像112を用いて、直視観察画像111または側視観察画像112において合焦している(ピントがあっている)領域を検出し、その結果を画角に換算する。表示制御部98は、合焦画角検出部1405が算出した合焦画角を情報表示領域1404に表示する。直視観察画像111及び側視観察画像112を用いた合焦している領域の検出は、デジタルカメラ等におけるオートフォーカス機能においてピントを検出する原理と同様に、コントラスト法または位相差法等によって実施できる。
上記においては、一例として、情報表示領域1404に合焦画角を表示しているが、その他の情報を表示しても良い。すなわち、余白領域1402に情報表示領域1404を設け、情報表示領域1404に何らかの情報を表示して、余白領域1402の少なくとも一部を有効活用することができれば、表示する情報の内容は任意である。例えば、図64に示す表示用画像1411のように、余白領域1402の情報表示領域1404には、側視観察画像112のうち観察対象が写った部分を長方形に変形した変形側視観察画像1412を表示しても良い。なお、側視観察画像112及び変形側視観察画像1412中に示す符号Lα及び符号Lβは、側視観察画像112と変形側視観察画像1412の対応関係を示す。このように、情報表示領域1404に変形側視観察画像1412を表示する場合、図65に示す表示用画像1413のように、観察対象を表示するための主領域1416には、直視観察画像111のみを表示しても良い。
その他、余白領域1402がない場合でも、第1死角部分114がある場合には、図66に示す表示用画像1501のように、第1死角部分114内に情報表示領域1502を設け、情報表示領域1502に内視鏡12の機種名等の情報を表示すれば、第1死角部分114を有効活用できる。
上記第1実施形態等においては、直視観察画像111及び側視観察画像112を用いて表示用画像113等を生成し、モニタ18に表示しているが、直視観察画像111または側視観察画像112を用いて3Dモデル(three-dimensional model)1605を生成することができる。この場合、図67に示すように、例えばプロセッサ装置16には、3Dモデル作成部1601及び記憶部1602を設けても良い。図68に示すように、3Dモデル作成部1601は、直視観察画像111及び側視観察画像112を用いて、観察対象の3Dモデル1605を生成する。3Dモデル作成部1601が作成した3Dモデル1605を生成する。そして、記憶部1602は、3Dモデル作成部1601が作成した3Dモデル1605を記憶する。こうして記憶部1602が記憶した3Dモデル1605は、次回の診断等の支援、または、シミュレーションによる再検査等に利用可能である。上記においては、3Dモデル作成部1601及び記憶部1602をプロセッサ装置16に設けているが、3Dモデル作成部1601及び記憶部1602は、内視鏡システム10に接続するコンピュータ等に設けても良い。
上記第1実施形態等は、被検体内に挿入部12aを挿入して使用する内視鏡システム10を例に説明しているが、上記第1実施形態等は、被検者が嚥下して使用するカプセル内視鏡にも利用可能である。
上記第1実施形態等においては、直視観察部41と側視観察部42は、撮像レンズ61とイメージセンサ66を共用しているが、直視観察部41を構成する撮像レンズ61及びイメージセンサ66と、側視観察部42を構成する撮像レンズ61及びイメージセンサ66は互いに別個のものであっても良い。
上記第1実施形態等においては、直視観察部41及び側視観察部42は共通のイメージセンサ66を含むので、図69に示すように、イメージセンサ66の撮像面1701においては、直視観察画像111を撮像する直視撮像エリア1711と、直視観察画像112を撮像する側視撮像エリア1712と、それ以外のエリア(観察対象を撮像しないエリア)1715を区別することができる。したがって、上記第1実施形態等においては、少なくとも直視撮像エリア1711と側視撮像エリア1712とで、イメージセンサ66の感度またはイメージセンサ66から信号の読み出しをする際に実施するゲイン処理等の信号処理(以下、単に信号処理という)を変えることができる。
例えば、直視撮像エリア1711は1画素ずつ信号を読み出し、かつ、側視観察エリア1712は、複数の画素を複合して読み出すこと(いわゆるビニング)ができる。こうすれば、直視撮像エリア1711において撮像して得る直視観察画像111に対して、側視撮像エリア1712において撮像して得る側視観察画像112が高感度になる。その結果、側視撮像エリア1712においてビニング読み出しをしない場合よりも、側視観察画像112において病変を発見しやすくなる場合がある。
また、直視撮像エリア1711の画素から信号を読み出す際にかけるゲインよりも、側視撮像エリア1712の画素から信号を読み出す際にかけるゲインを大きくすることができる。こうすれば、直視撮像エリア1711において撮像して得る直視観察画像111に対して、側視撮像エリア1712において撮像して得る側視観察画像112が高感度になる。その結果、直視撮像エリア1711と側視撮像エリア1712とで同じ値のゲインを用いたゲイン処理をする場合よりも、側視観察画像112において病変を発見しやすくなる。
なお、イメージセンサ66においては有効な画素は全て同サイズであるが、イメージセンサ66の代わりに、直視撮像エリア1711と側視撮像エリア1712とで画素サイズが異なるイメージセンサを用いることができる。例えば、直視撮像エリア1711の画素よりも、側視撮像エリア1712の画素が大きい(例えば、辺が2倍で面積が4倍のサイズ)イメージセンサを使用すれば、ビニングまたはゲイン処理等に依らずに、側視観察画像112の感度を向上することができる。逆に、直視撮像エリア1711の画素よりも、側視撮像エリア1712の画素が小さいイメージセンサを使用すれば、側視観察画像112の分解能が向上する。
また、直視撮像エリア1711と側視撮像エリア1712とでカラーフィルタの色、色の個数比、または、配列が異なるイメージセンサを使用することができる。例えば、直視撮像エリア1711においては、縦横に隣接する4画素のカラーフィルタがBG×GRの配列(いわゆるベイヤー配列)であり、かつ、側視撮像エリア1712においてはBG×RBの配列であるイメージセンサを使用できる。このイメージセンサは、直視撮像エリア1711と比較して、側視撮像エリア1712のB画素が多くなっているので、これを用いれば、側視観察画像112において、B画素で撮像しやすい像が観察しやすくなる。
上記のように、直視撮像エリア1711と側視撮像エリア1712とで画素サイズを変える、または、カラーフィルタの色等を変えるのは、直視観察部41と側視観察部42とのそれぞれに別のイメージセンサを搭載する場合に特に好適である。
この他、上記第1実施形態等においては、直視観察部41及び側視観察部42に共通の撮像レンズ61は、直視観察部41における焦点距離よりも、側視観察部42における焦点距離を短くしておくことが好ましい。管腔を観察する場合、直視観察部41よりも側視観察部42の方が被写体である管腔に近くなるケースが多いからである。