JP2016106932A - 内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システム - Google Patents
内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システム Download PDFInfo
- Publication number
- JP2016106932A JP2016106932A JP2014248833A JP2014248833A JP2016106932A JP 2016106932 A JP2016106932 A JP 2016106932A JP 2014248833 A JP2014248833 A JP 2014248833A JP 2014248833 A JP2014248833 A JP 2014248833A JP 2016106932 A JP2016106932 A JP 2016106932A
- Authority
- JP
- Japan
- Prior art keywords
- likelihood
- whiteout
- saturation
- brightness
- contribution rate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
Abstract
【課題】内視鏡画像の白飛びを、適切に推定する。【解決手段】内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度が取得され、その内視鏡画像の明るさ情報、及び、彩度に基づいて、白飛びが生じている尤度を表す白飛び尤度が推定される。白飛び尤度は、明るさ寄与率と彩度寄与率とで定義される。明るさ寄与率は、内視鏡画像の明るさが白飛びに寄与する程度を表し、明るさの増加に対して増加する。彩度寄与率は、内視鏡画像の彩度が白飛びに寄与する程度を表し、彩度の増加に対して減少する。本技術は、例えば、医療用の内視鏡システム等に適用することができる。【選択図】図3
Description
本技術は、内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システムに関し、特に、例えば、内視鏡で撮影された内視鏡画像の白飛びを適切に推定することができるようにする内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システムに関する。
例えば、手術や診断において、内視鏡で被写体を観察する場合には、鏡面反射(正反射)が生じやすく、かかる鏡面反射は、被写体の観察の妨げとなる。
そこで、画像処理によって、二色性反射モデルに基づき、内視鏡で撮影された内視鏡画像の鏡面反射成分を推定して除去する技術や、内視鏡画像の輝度を調整する技術が提案されている(例えば、特許文献1や2を参照)。
内視鏡で被写体を観察する場合に生じる鏡面反射に対して、適切に対処するには、内視鏡で撮影された内視鏡画像の白飛びを適切に推定することが重要である。
本技術は、このような状況に鑑みてなされたものであり、内視鏡画像の白飛びを適切に推定することができるようにするものである。
本技術の内視鏡画像処理装置、内視鏡システム、又は、プログラムは、内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部とを備える内視鏡画像処理装置、内視鏡システム、又は、そのような内視鏡画像処理装置としてコンピュータを機能させるためのプログラムである。
本技術の内視鏡画像処理方法は、内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得し、前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定するステップを含む内視鏡画像処理方法である。
本技術の内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システムにおいては、内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度が取得され、前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度が推定される。
なお、内視鏡画像処理装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
また、プログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
本技術によれば、内視鏡画像の白飛びを適切に推定することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
<本技術を適用した内視鏡システムの一実施の形態>
図1は、本技術を適用した内視鏡システムの一実施の形態の構成例を示すブロック図である。
図1において、内視鏡システムは、内視鏡11、信号処理装置12、及び、表示装置13を有する。
内視鏡11は、被写体を撮影し、その撮影により得られる内視鏡画像を、信号処理装置12に供給する。
すなわち、内視鏡11は、光源装置21及び撮影部22を有する。
光源装置21は、例えば、ハロゲンランプ、キセノンランプ、LED (Light Emitting Diode)等で構成され、被写体を照明する光を発する。
撮影部22は、例えば、フォーカスレンズや絞り等の光学系、及び、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)センサ等のイメージセンサ等で構成され、被写体を撮影し、その撮影により得られる内視鏡画像を、信号処理装置12に供給する。
なお、撮影部22では、内視鏡画像として、2D(Dimension)画像を撮影することもできるし、3D画像を撮影することもできる。
信号処理装置12は、撮影部22からの内視鏡画像に必要な信号処理を施し、その信号処理後の内視鏡画像を、表示装置13に供給する。また、信号処理装置12は、光源装置21を必要に応じて制御する。
表示装置13は、信号処理装置12から供給される内視鏡画像を表示する。表示装置13としては、例えば、信号処理装置12と一体となったディスプレイや、信号処理装置12とは別個の据え置き型のディスプレイ、ヘッドマウントディスプレイ等を採用することができる。
図2は、図1の内視鏡システムの使用例を示す図である。
図1の内視鏡システムは、例えば、手術対象となる体内の部位(術部)を被写体として撮影して、その被写体が映った内視鏡画像を、表示装置13に表示し、医師が、内視鏡画像を見ながら、術部に処置を施す内視鏡下手術等で用いられる。
すなわち、内視鏡11は、例えば、外観上、医師が手で持つ把手部31と、患者の体内に挿入される挿入部32とを有する。
内視鏡下手術では、図2に示すように、内視鏡11の挿入部32と、手術器具である鉗子41が、患者の体内に挿入される。
内視鏡11では、挿入部32の先端から、光源装置21による光が照射され、その光によって、患者の体内の被写体としての術部42が照明される。さらに、内視鏡11では、術部42を照明する光の反射光が、挿入部32の先端から入射し、撮影部22で受光されることにより、被写体としての術部42が撮影される。
ここで、内視鏡11は、例えば、特開平11-104075号公報や、特開2011-120646号公報等に記載されているように、その構造上、光源装置21が発する光をガイドするライトガイドと、撮影部22の光軸とがほぼ一致する。また、医師が手術や診断を行うために、内視鏡11の挿入部32の先端を、被写体としての術部42に近づけて、至近距離から、術部42が照明される。
そのため、被写体としての術部42では、照明による光を鏡面反射した鏡面反射光が生じやすい。
さらに、内視鏡11では、例えば、暗い腹腔や管腔が被写体となるため、そのような暗い腹腔や管腔等の被写体が、強い光で照明され、その強い光が反射されることによって、強い鏡面反射光が生じる。この強い鏡面反射光は、被写体の表面に本来存在する凹凸や模様を隠蔽するため、手術や診断の妨害になる。さらに、強い鏡面反射光は、グレアやヴェーリングと呼ばれる生理現象の原因となり、医師への負担になることがあり得る。
ここで、本明細書におけるグレアとは、何らかの理由によって眼内に入ってくる光量が調整できない状態において、眩しさを伴う光が眼内に入った際に生じる眼の不快感や物が見え辛くなる状態や、光量コントロール機能不全による眩しさを意味する。かかるグレアは、Lempert, P.(1990): Standards for Contrast Acuity/Sensitivity and Glare Testing, in Nadler, M.P., Miller, D., Nadler, D.J.(eds), Clare and Contrast Sensitivity for Clinicians., Springer-Verlag, pp.113-119(以下、文献1ともいう)に記載の、Lempertが分類する暗点的グレアに等しい。
また、本明細書におけるヴェーリング(光膜)とは、眼の光量コントロール機能とは別に、見たいものと背景とのコントラストが低下することで眩しさを感じる眼の仕組みや、コントラスト感度が低下した際に生じる眩しさを意味する。かかるヴェーリングは、文献1に記載の、Lempertが分類するヴェーリンググレアに等しい。
鏡面反射光による眩しさを抑制する方法としては、例えば、特許文献1に記載のような内視鏡を特殊な構成にする方法や、特開2013-215582号公報や特開昭60-076714号公報に記載のような偏光フィルタを使用する方法がある。
しかしながら、内視鏡を特殊な構成にする方法や、偏光フィルタを使用する方法では、特殊な部品や偏光フィルタが必要になり、製品の製造単価が上昇するおそれがある。
また、偏光フィルタ(や減光フィルタ)を使用して、眩しさを抑制する場合には、照明としての光が減衰されるので、術野を確保するために必要な光量が不足するおそれや、内視鏡を使用することができる状況が制限されるおそれがある。
特殊な部品や偏光フィルタ等を用いずに眩しさを抑制する方法としては、例えば、特許文献1や2に記載のような、画像処理によって、二色性反射モデルに基づき、鏡面反射成分を推定して除去する方法や、輝度信号を調整する方法がある。
しかしながら、特許文献1に記載の方法では、鏡面反射成分の推定は、有彩色の物体を対象として行われ、有彩色でない物体を対象としては、行うことができない。さらに、有彩色の物体を対象とする鏡面反射成分の推定において、撮影に用いるセンサが飽和すると、彩度の情報が欠け、鏡面反射成分の推定を正しく行うことができないので、センサの感度を超えないように、撮影を行うことが必要となる。
また、特許文献2に記載の方法では、高輝度の階調を圧縮するので、画像のコントラストが減少し、その結果、被写体の観察を妨げるおそれや、臓器本来の質感が損なわれ、診察に悪影響を与えるおそれがある。
内視鏡11で撮影される、例えば、生体の臓器や粘膜組織は、筋膜や漿膜等の、滑らかな薄い膜状組織に包まれているため、内視鏡11で受光される光には、鏡面反射光が多く含まれる。
鏡面反射光は、内視鏡画像において、輝点や、ぎらつき、白飛びとして現れ、眩しさの原因になるが、その一方で、臓器の質感を構成する重要な一因になっている。
したがって、内視鏡画像を用いて、生体組織を評価する上で、内視鏡画像の、鏡面反射光に対応する鏡面反射光成分をすべて除去することは、その内視鏡画像を見ながら行われる医療行為の上で不利に働くことがある。そのため、眩しさの抑制は、臓器の質感を損なうことなく、輝点や、ぎらつき、白飛びの原因になる鏡面反射光成分のみを選択的に除去する必要がある。
白飛び等の原因になる鏡面反射光成分のみを選択的に除去するには、内視鏡画像の白飛び等を適切に推定する必要がある。
図1の信号処理装置12では、内視鏡11から供給される内視鏡画像の、例えば、各画素について、白飛び(ここでは、輝点やぎらつきを含む)が生じている尤度を表す白飛び尤度を適切に推定する推定処理や、白飛び尤度に基づいて、白飛びに対処する対処処理が、信号処理の一部として行われる。
<信号処理装置12の第1の構成例>
図3は、信号処理装置12の第1の構成例を示すブロック図である。
図3において、信号処理装置12は、色空間変換部51、尤度LUT取得部52、白飛び尤度推定部53、及び、白飛び処理部54を有する。
色空間変換部51には、撮影部22で被写体を撮影することにより得られる内視鏡画像(被写体の画像)が供給される。
内視鏡画像は、例えば、R(Red),G(Green),B(Blue)の色成分で構成される画像(以下、RGB画像ともいう)である。色空間変換部51は、撮影部22から供給されるRGB画像である内視鏡画像の明るさを表す明るさ情報としての輝度Yと、彩度Sとを取得する取得部として機能する。
すなわち、色空間変換部51は、撮影部22から供給される内視鏡画像のR,G,B成分から、内視鏡画像の輝度Y及び彩度Sを、例えば、式(1)ないし式(3)に従って求める。
ここで、内視鏡画像の明るさを表す明るさ情報としては、輝度Yの他、例えば、明度(lightness)等があるが、本実施の形態では、輝度Yを用いることとする。
色空間変換部51は、撮影部22から供給される内視鏡画像の各画素について、その画素のR,G,B成分から、輝度Y及び彩度Sを求め、白飛び尤度推定部53に供給する。
尤度LUT取得部52は、画素の輝度Y及び彩度Sを入力として、その画素に白飛びが生じている尤度を表す白飛び尤度を出力する2次元の尤度LUTを取得し、白飛び尤度推定部53に供給する。
ここで、画素の白飛び尤度は、例えば、画素の明るさが白飛びに寄与する程度を表す明るさ寄与率と、画素の彩度が白飛びに寄与する程度を表す彩度寄与率とで定義される。
画素の明るさ寄与率は、画素の明るさの増加に対して増加する傾向の特性を有し、画素の彩度寄与率は、画素の彩度の増加に対して減少する傾向の特性を有する。
なお、本実施の形態では、画素の明るさとしての、例えば、輝度が白飛びに寄与する程度を表す輝度寄与率を、明るさ寄与率として採用することとする。
本実施の形態では、画素の白飛び尤度を、画素の輝度寄与率と彩度寄与率との積で定義することとし画素の輝度Yと彩度Sとを引数とする配列を、LUT[Y][S]と表すこととする。
尤度LUTは、輝度Yに対する輝度寄与率と、彩度Sに対する彩度寄与率との積である白飛び尤度を、配列LUT[Y][S]として記憶しており、輝度Y及び彩度Sの入力に対して、白飛び尤度としての配列LUT[Y][S]を出力する。
尤度LUT取得部52は、1以上の尤度LUTを記憶しており、その1以上の尤度LUTから、1又は複数の尤度LUTを選択することにより取得して、白飛び尤度推定部53に供給する。
白飛び尤度推定部53は、色空間変換部51から供給される内視鏡画像の輝度Y及び彩度S、並びに、尤度LUT取得部52から供給される尤度LUTを用いて、内視鏡画像の各画素の白飛び尤度を推定する推定処理を行う。
すなわち、白飛び尤度推定部53は、色空間変換部51からの内視鏡画像の各画素の輝度Y及び彩度Sを、尤度LUT取得部52からの尤度LUTに入力することで、その尤度LUTが出力する、内視鏡画像の各画素の白飛び尤度を取得する。
白飛び尤度推定部53は、内視鏡画像の各画素の白飛び尤度を、白飛び処理部54に供給する。
なお、本実施の形態では、白飛び尤度推定部53において、尤度LUTを用いて、白飛び尤度を求める(推定する)こととしたが、白飛び尤度は、尤度LUTを用いずに求めることができる。
すなわち、例えば、白飛び尤度推定部53において、内視鏡画像の各画素について、輝度Yに対する輝度寄与率と、彩度Sに対する彩度寄与率とを求め、その輝度寄与率と彩度寄与率との積を演算することにより、白飛び尤度を求めることができる。
白飛び処理部54は、白飛び尤度推定部53から供給される内視鏡画像の各画素の白飛び尤度に基づき、白飛びしている画素の白飛びに対処する対処処理を行う。
対処処理としては、例えば、白飛びしている画素の補正(例えば、輝度の調整)や、光源装置21による被写体への照明の調整等を行うことができる。
また、対処処理としては、例えば、表示装置13において、内視鏡画像に白飛びが生じている旨のメッセージを表示することや、白飛びしている画素がユーザとしての医師に分かるように、内視鏡画像を表示すること等ができる。
さらに、対処処理としては、以上のような処理の2以上の処理を行うことができる。
<輝度寄与率と彩度寄与率>
図4ないし図8を参照して、輝度寄与率と彩度寄与率について、さらに説明する。
図4は、生体における光の反射成分を模式的に示す図である。
図4において、横軸は、彩度Sを表し、縦軸は、輝度Yを表す。
生体内の白い組織の反射成分は、彩度Sが高くなく、輝度Yも、それほど高くない。
生体内の臓器の反射成分は、彩度Sが高く、輝度Yも高めになっている。
臓器の質感を損なうことなく、眩しさを抑制するにあたって抑えるべき反射成分は、彩度Sが低く、輝度Yが極端に高い傾向がある光である。推定処理において、そのような光に対応する画素の白飛び尤度が高い尤度と推定されるように、輝度寄与率及び彩度寄与率が設定される。
図5は、輝度寄与率の設定の方法の例を説明する図である。
図5のAは、光源によって照明された生体組織の例を示している。
図5のAでは、生体組織の中心付近に、白飛びした棒状の領域が左右に延びている。
図5のBは、図5のAの生体組織の1ライン(水平ライン)の一部である線分P11上の各位置の実際の輝度(実輝度)の例を示している。
なお、図5のBにおいて、横軸は、線分P11上の位置を表し、縦軸は、実際の輝度を表す。
線分P11は、白飛びが生じている部分と生じていない部分とを含んでおり、輝度の差(階調差)が、数百倍ないし数万倍程度になっている。
図5のCは、図5のAの生体組織の他の1ラインの一部である線分P12上の各位置の実際の輝度の例を示している。
なお、図5のCにおいて、横軸は、線分P12上の位置を表し、縦軸は、実際の輝度を表す。
線分P12は、白飛びが生じていない部分のみを含んでおり、輝度の差が、数十倍程度になっている。
図5のBに示したような、輝度の差が数百倍ないし数万倍程度の広大なレンジの画像を撮影することは困難であるため、撮影部22で生体組織を撮影するにあたっては、被写体としての生体組織の中の、観察対象(主要被写体)に合わせた露出設定で、撮影が行われる。
図5のDは、以上のような撮影によって得られる内視鏡画像の輝度Yのヒストグラムの例を示している。
なお、図5のDにおいて、横軸は、輝度Yを表し、縦軸は、頻度を表す。また、図5のDにおいて、横軸Yの輝度は、0ないし1の範囲の値に正規化されている。
観察対象の輝度Yは、輝度Yとして取り得る値の中央値程度の値以下の値に集中し、白飛びしている部分の輝度Yは、輝度Yとして取り得る値の最大値付近に集中する。
そこで、輝度が白飛びに寄与する程度を表す輝度寄与率は、例えば、所定の輝度を輝度閾値として、輝度閾値未満(又は以下)の輝度の画素については、白飛び尤度が0になり、輝度閾値以上(又は、輝度閾値より大)の輝度の画素については、白飛び尤度が、輝度に応じて徐々に高くなるように設定される。
図6は、以上のように設定された輝度寄与率の例を示す図である。
なお、図6において、横軸は、輝度Yを表し、縦軸は、輝度寄与率を表す。また、図6において、横軸Yの輝度は、0ないし1の範囲の値に正規化されている。
図6では、0.5以下の輝度に対する輝度寄与率は、最小値0になっており、0.5以上の輝度に対する輝度寄与率は、輝度に比例して、最大値1に向かって上昇する。
図7は、彩度寄与率の設定の方法の例を説明する図である。
図7のAは、太陽光によって照明された建物を含む風景の画像の例を示している。
図7のAでは、画像の中心からやや左下の位置付近に、白飛びした円状の領域が存在する。
図7のBは、図7のAの画像の1ラインの一部である線分P21上の各位置の彩度の例を示している。
なお、図7のBにおいて、横軸は、線分P21上の位置を表し、縦軸は、彩度を表す。
線分P21は、白飛びが生じている部分と生じていない部分とを含んでおり、線分P21上の画素のうちの、飽和に近い画素ほど、すなわち、白飛びしている可能性が高い画素ほど、彩度が減少する傾向にある。したがって、有彩色の画素は、輝度が高くても、白飛びしている可能性は低い。
そこで、彩度が白飛びに寄与する程度を表す彩度寄与率は、彩度が高い画素については、白飛び尤度が小になり、彩度が低い画素については、白飛び尤度が大になるように設定される。
図8は、以上のように設定された彩度寄与率の例を示す図である。
なお、図8において、横軸は、彩度Sを表し、縦軸は、彩度寄与率を表す。
図8では、彩度が高いほど、彩度寄与率は小さくなっている。また、図8では、最小値付近や最大値付近の彩度に対する彩度寄与率は、比較的緩やかに変化し、中間値付近の彩度に対する彩度寄与率は、比較的急峻に変化する。
ここで、図6に示したような特性の輝度寄与率を、そのまま、白飛び尤度として採用した場合には、輝度が高い画素については、すべて、白飛び尤度が高くなる。
しかしながら、輝度寄与率を、そのまま、白飛び尤度として採用した場合には、例えば、白飛びしている部分の境界付近や、鏡面反射していないが、輝度が高い部分については、白飛びが生じていなくても、白飛び尤度が、不適切に高くなる。
輝度寄与率の他に、図8に示したような特性の彩度寄与率をも、白飛び尤度の算出に考慮することで、輝度が高い部分について、適切な白飛び尤度を求めることが可能になる。
<信号処理装置12の処理>
図9は、図3の信号処理装置12が行う処理の例を説明するフローチャートである。
ステップS11において、色空間変換部51は、撮影部22からのRGB画像である内視鏡画像(被写体の画像)を取得する。
さらに、色空間変換部51は、撮影部22からの内視鏡画像の各画素について、R,G,B成分から、輝度Y及び彩度Sを求め、白飛び尤度推定部53に供給して、処理は、ステップS11からステップS12に進む。
ステップS12では、尤度LUT取得部52が、白飛び尤度の推定に用いる尤度LUTを取得し、白飛び尤度推定部53に供給する。
さらに、ステップS12では、白飛び尤度推定部53が、色空間変換部51からの内視鏡画像の各画素の輝度Y及び彩度Sを、尤度LUT取得部52からの尤度LUTに入力することで、その尤度LUTが出力する内視鏡画像の各画素の白飛び尤度を取得する、白飛び尤度の推定処理を行う。
白飛び尤度推定部53は、内視鏡画像の各画素の白飛び尤度を、白飛び処理部54に供給し、処理は、ステップS12からステップS13に進む。
ステップS13では、白飛び処理部54は、白飛び尤度推定部53から供給される内視鏡画像の各画素の白飛び尤度に基づき、内視鏡画像について、白飛びが生じている白飛び画素を、必要に応じて検出する。
すなわち、白飛び処理部54は、例えば、白飛び尤度が、0より大の所定の閾値以上の画素を、白飛び画素として検出する。
そして、白飛び処理部54は、白飛び画素に対処する対処処理を行う。
なお、ステップS13では、白飛び処理部54において、白飛び画素を検出せずに、内視鏡画像の各画素について、その画素の白飛び尤度に基づき、対処処理を行うことができる。
この場合、白飛び尤度が0の画素に対しては、実質的に、何らの処理も施さないようにすることで、白飛びが生じている画素に対してだけ、対処処理が施されることになる。
<信号処理装置12の第2の構成例>
図10は、信号処理装置12の第2の構成例を示すブロック図である。
なお、図中、図3の場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
図10において、信号処理部12は、白飛び処理部54、施術部位判定部71、尤度LUT取得部72、色空間変換部73、及び、白飛び尤度推定部74を有する。
したがって、図10において、信号処理装置12は、白飛び処理部54を有する点で、図3の場合と共通する。
但し、図10では、白飛び処理部54が、輝度調整部75、及び、色空間変換部76で構成される点で、図3の場合と相違する。
また、図10では、施術部位判定部71が新たに設けられている点で、図3の場合と相違する。
さらに、図10では、色空間変換部51、尤度LUT取得部52、及び、白飛び尤度推定部53に代えて、色空間変換部73、尤度LUT取得部72、及び、白飛び尤度推定部74が、それぞれ設けられている点で、図3の場合と相違する。
施術部位判定部71は、例えば、手術を行う術者としての医師による操作等に応じて、撮影部22で撮影する被写体としての施術部位(術部)を判定し、その施術部位を表す術部情報を、尤度LUT取得部72に供給する。
尤度LUT取得部72は、被写体としての施術部位ごとに異なる特性の輝度寄与率と彩度寄与率とで定義される白飛び尤度が登録された、施術部位ごとの尤度LUTを記憶している。
尤度LUT取得部72は、施術部位ごとの尤度LUTの中から、施術部位判定部71から供給される術部情報が表す施術部位に対する尤度LUTを選択することにより取得し、白飛び尤度推定部74に供給する。
ここで、医療の分野においては、各診療科において、観察対象が異なるため、輝度寄与率や彩度寄与率を、一意に設定すると、適切な白飛び尤度を推定することが困難になることがあり得る。
例えば、骨や靭帯等の白色系組織の多い箇所と、血液や肝臓等の赤系組織の多い箇所とでは、反射率が異なり、適切な輝度寄与率や彩度寄与率が異なる。
しかしながら、診療科ごとに、施術部位は限定され、その施術部位の色相は狭く制限されるので、施術部位ごとに、その施術部位が有する色相に応じた輝度寄与率及び彩度寄与率で定義される白飛び尤度が登録された尤度LUTを、事前に用意し、実際の施術部位に対する尤度LUTを用いることで、適切な白飛び尤度を推定することができる。
さらに、各施術部位に対する尤度LUTは、その施術部位が有する色相ごとの尤度LUTの集合で構成することができる。
例えば、体腔の消化管の手術手技を行う場合、内視鏡画像の大部分は、漿膜や脂肪組織等の黄系統色と、臓器や血液等の赤系統色とで占められる傾向がある。
体腔の消化管の手術手技では、粘膜や、神経、血管といった組織が、医者が注目する観察対象となるが、かかる組織については、なるべく質感を落とさずに、鏡面反射の影響を抑えることが望ましい。
したがって、施術部位としての消化管に対する尤度LUTには、観察対象となる血管等の赤色系の色相に対して、急峻に変化する輝度寄与率及び彩度寄与率で定義される白飛び尤度が登録された第1の尤度LUTを含めることができる。
さらに、施術部位としての消化管に対する尤度LUTには、非観察対象となる(観察対象とならない)脂肪組織等の黄色系の色相に対して、なだらかに変化する輝度寄与率及び彩度寄与率で定義される白飛び尤度が登録された第2の尤度LUTを含めることができる。
施術部位としての消化管に対する尤度LUTは、以上のような第1及び第2の尤度LUTで構成し、各画素の白飛び尤度の推定にあたり、その画素の色相に応じて、第1又は第2の尤度LUTを選択して用いることができる。
第1の尤度LUTによれば、観察対象の色相の画素については、比較的、輝度Yが低く、彩度Sが高いと、白飛び尤度は、0になりやすくなる(白飛びの検出感度が低下する)。その結果、白飛び尤度に基づいて行われる対処処理において、観察対象が映る画素の補正等が行われることにより、観察対象の質感が損なわれることを抑制することができる。
一方、第2の尤度LUTによれば、非観察対象の色素の画素については、比較的、輝度Yが低く、彩度Sが高くても、白飛び尤度は、0より大のある程度の値になりやすくなる(白飛びの検出感度が高くなる)。その結果、白飛び尤度に基づいて行われる対処処理において、非観察対象が映る画素の補正等が行われることにより、非観察対象で生じている鏡面反射による眩しさを抑制することができる。
以上のように、各施術部位に対する尤度LUTを、色相ごとの尤度LUTの集合で構成し、各画素の白飛び尤度の推定にあたって、画素の色相に応じて、第1又は第2の尤度LUTを選択して用いることにより、観察対象の質感を損なわずに、非観察対象で生じている鏡面反射による眩しさを抑制して、非観察対象のぎらつきにより、観察対象の観察が妨げられることを防止することができる。
なお、ここでは、施術部位としての消化管に対する尤度LUTを、観察対象の色相に対する第1の尤度LUTと、非観察対象の色相に対する第2の尤度LUTとの、2つの色相それぞれに対する尤度LUTで構成することとしたが、各施術部位に対する尤度LUTは、3つ以上の色相それぞれに対する尤度LUTで構成することができる。
また、各施術部位に対する尤度LUTを、2つ以上の色相それぞれに対する尤度LUTで構成する場合には、各施術部位に対する尤度LUTは、輝度Y、彩度S、及び、色相Hの入力に対して、白飛び尤度を出力する3次元のLUTとして構成することができる。
色空間変換部73には、撮影部22で被写体を撮影することにより得られるRGB画像である内視鏡画像(被写体の画像)が供給される。
色空間変換部73は、図3の色空間変換部51と同様に、撮影部22からのRGB画像である内視鏡画像の各画素について、その画素のR,G,B成分から、輝度Y及び彩度Sを求める。
さらに、色空間変換部73は、撮影部22からのRGB画像である内視鏡画像の各画素について、色相Hと、色差Cb及びCrを求める。
そして、色空間変換部73は、内視鏡画像の各画素の輝度Yを、白飛び処理部54の輝度調整部75、及び、白飛び尤度推定部74に供給し、内視鏡画像の各画素の彩度S及び色相Hを、白飛び尤度推定部74に供給する。
さらに、色空間変換部73は、色差Cb及びCrを、白飛び処理部54の色空間再変換部76に供給する。
白飛び尤度推定部74は、色空間変換部73から供給される内視鏡画像の輝度Y、彩度S、及び、色相H、並びに、尤度LUT取得部72から供給される尤度LUTを用いて、内視鏡画像の各画素の白飛び尤度を推定する推定処理を行う。
すなわち、白飛び尤度推定部74は、内視鏡画像の各画素について、尤度LUT取得部72からの、施術部位に対する尤度LUTを構成する各色相に対する尤度LUTの中から、画素の色相Hに対する尤度LUTを選択する。
さらに、白飛び尤度推定部74は、画素の色相Hに対する尤度LUTに、画素の輝度Y及び彩度Sを入力することで、尤度LUTが出力する白飛び尤度を取得する。
白飛び尤度推定部74は、内視鏡画像の各画素の白飛び尤度を、白飛び処理部54の輝度調整部75に供給する。
輝度調整部75は、白飛び尤度推定部74からの白飛び尤度に基づいて、内視鏡画像の各画素の補正としての、色空間変換部73からの輝度Yの調整を行う。
すなわち、ある画素の調整後の輝度をY'と表すとともに、白飛び尤度をLと表すこととすると、輝度調整部75は、例えば、式(4)に従って、色空間変換部73からの輝度Yを、調整後の輝度Y'に調整する。
Y'=Y-Y*C*L
・・・(4)
・・・(4)
ここで、式(4)において、Cは、輝度Yを調整する調整量を制御するための係数であり、0.0ないし1.0の範囲の値に設定される。調整後の輝度Y'が、元の輝度Yから極端に低下すると、内視鏡画像の印象が変化するため、係数Cとしては、例えば、0.1ないし0.3程度の範囲の小さな値を採用することができる。
式(4)によれば、輝度Yは、その輝度Yから、白飛び尤度Lに対応する値Y*C*Lだけ小さな値Y'に調整される。
輝度調整部75は、調整後の輝度Y'を、色空間再変換部76に供給する。
色空間再変換部76は、内視鏡画像の各画素について、色空間変換部73から供給される色差Cb及びCrと、輝度調整部75から供給される調整後の輝度Y'とを有する画素値の色空間を、RGBの色空間に変換し、その結果得られるRGB画像である内視鏡画像を、表示装置13に供給する。
表示装置13では、色空間再変換部76から供給される内視鏡画像が表示されるが、その内視鏡画像は、白飛び尤度に基づいて、輝度が調整された画像であり、したがって、白飛びの影響を適切に抑制した画像、すなわち、観察対象の質感を損なうことなく、非観察対象で生じている鏡面反射による眩しさを抑制した画像になっている。
図11は、急峻に変化する輝度寄与率及び彩度寄与率と、なだらかに変化する輝度寄与率及び彩度寄与率との例を説明する図である。
例えば、図10で説明したように、消化管に対する尤度LUTは、第1及び第2の尤度LUTから構成し、各画素の白飛び尤度の推定にあたり、その画素の色相に応じて、第1又は第2の尤度LUTを選択して用いることができる。
第1の尤度LUTには、例えば、観察対象となる血管等の赤色系の色相に対して、急峻に変化する輝度寄与率及び彩度寄与率で定義される白飛び尤度を登録することができる。
第2の尤度LUTには、例えば、非観察対象となる脂肪組織等の黄色系の色相に対して、なだらかに変化する輝度寄与率及び彩度寄与率で定義される白飛び尤度を登録することができる。
いま、図6及び図8に示した輝度寄与率及び彩度寄与率を、それぞれ、デフォルトの輝度寄与率及び彩度寄与率ということとすると、急峻に変化する輝度寄与率とは、例えば、図11の矢印A11で示すように、傾きをデフォルトの寄与率よりも大にし、立ち上がり位置を、デフォルトの寄与率よりも高輝度側に移動した曲線で表される。
急峻に変化する輝度寄与率によれば、輝度Yがある程度高くても、白飛び尤度は大きくならず、輝度Yが、ある程度を超えて高くなると、白飛び尤度は、急激に大になる。
なだらかに変化する輝度寄与率とは、例えば、図11の矢印A12に示すように、傾きをデフォルトの寄与率よりも小にし、立ち上がり位置を、デフォルトの寄与率よりも低輝度側に移動した曲線で表される。
なだらかに変化する輝度寄与率によれば、輝度Yがある程度高くなると、白飛び尤度は0でなくなり、輝度Yの増加に応じて、白飛び尤度も増加する。
急激に変化する彩度寄与率とは、例えば、図11の矢印A21に示すように、彩度Sの最小値や最大値付近では、デフォルトの彩度寄与率よりも変化しないが、彩度Sの中央値付近で、デフォルトの彩度寄与率よりも急峻に変化する曲線で表される。
急激に変化する彩度寄与率によれば、彩度Sがある程度高くないと、白飛び尤度は1に近い値になり、彩度Sがある程度高ければ、白飛び尤度は0に近い値になる。
なだらかに変化する彩度寄与率とは、例えば、図11の矢印A22に示すように、彩度Sの変化に比例するかのように変化する曲線で表される。
なだらかに変化する彩度寄与率によれば、白飛び尤度は、彩度Sの増加に比例して減少するような値になる。
なお、急峻に変化する輝度寄与率は、デフォルトの寄与率よりも急峻に変化し、なだらかに変化する輝度寄与率は、デフォルトの寄与率よりもなだからに変化する。したがって、急峻に変化する輝度寄与率は、なだらかに変化する輝度寄与率よりも急峻に変化し、逆に、なだらかに変化する輝度寄与率は、急峻に変化する輝度寄与率よりもなだらかに変化する。
同様に、急峻に変化する彩度寄与率は、なだらかに変化する彩度寄与率よりも急峻に変化し、逆に、なだらかに変化する彩度寄与率は、急峻に変化する彩度寄与率よりもなだらかに変化する。
<信号処理装置12の処理>
図12は、図10の信号処理装置12が行う処理の例を説明するフローチャートである。
ステップS21では、例えば、手術を行う術者としての医師が、施術部位を入力する操作を行うのを待って、施術部位判定部71は、医師の操作に応じて、撮影部22で撮影する被写体としての施術部位を判定する。そして、施術部位判定部71は、撮影部22で撮影する被写体としての施術部位を表す術部情報を、尤度LUT取得部72に供給し、処理は、ステップS21からステップS22に進む。
ステップS22では、尤度LUT取得部72は、その尤度LUT取得部72が記憶している施術部位ごとの尤度LUTの中から、施術部位判定部71から供給される術部情報が表す施術部位に対する尤度LUTを選択することにより取得する。そして、尤度LUT取得部72は、施術部位に対する尤度LUTを、白飛び尤度推定部74に供給して、処理は、ステップS22からステップS23に進む。
ここで、施術部位に対する尤度LUTは、上述したように、色相ごとの尤度LUT(1以上の色相それぞれに対する尤度LUT)で構成される。
また、尤度LUT取得部72が記憶する施術部位ごとの尤度LUTは、例えば、インターネット等からダウンロードすることや、記録媒体から読み出すことにより、更新(追加及び削除を含む)することができる。
ステップS23では、色空間変換部73は、撮影部22からのRGB画像である内視鏡画像を取得する。
さらに、色空間変換部73は、撮影部22からの内視鏡画像の各画素について、R,G,B成分から、輝度Y、彩度S、色相H、並びに、色差Cb及びCrを求める。
内視鏡画像の各画素の輝度Yは、色空間変換部73から、白飛び尤度推定部74、及び、輝度調整部75に供給され、内視鏡画像の各画素の彩度S及び色相Hは、色空間変換部73から、白飛び尤度推定部74に供給される。また、内視鏡画像の各画素の色差Cb及びCrは、色空間変換部73から、色空間再変換部76に供給される。
その後、処理は、ステップS23からS24に進み、白飛び尤度推定部74は、色空間変換部73から供給される内視鏡画像の輝度Y、彩度S、及び、色相H、並びに、尤度LUT取得部72から供給される施術部位に対する尤度LUTを用いて、内視鏡画像の各画素の白飛び尤度を推定する推定処理を行う。
すなわち、白飛び尤度推定部74は、内視鏡画像の各画素について、施術部位に対する尤度LUTを構成する各色相に対する尤度LUTの中から、画素の色相Hに対する尤度LUTを選択する。
さらに、白飛び尤度推定部74は、画素の色相Hに対する尤度LUTに、その画素の輝度Y及び彩度Sを入力することで、尤度LUTが出力する白飛び尤度を取得する。
白飛び尤度推定部74は、内視鏡画像の各画素の白飛び尤度を、輝度調整部75に供給して、処理は、ステップS24からステップS25に進む。
ステップS25では、輝度調整部75は、白飛び尤度推定部74から供給される内視鏡画像の各画素の白飛び尤度に基づき、内視鏡画像について、白飛びが生じている白飛び画素を、必要に応じて検出する。
すなわち、輝度調整部75は、例えば、白飛び尤度が、0より大の所定の閾値以上の画素を、白飛び画素として検出する。
そして、輝度調整部75は、白飛び画素に対処する対処処理として、白飛び尤度推定部74からの白飛び尤度に基づき、式(4)に従って、色空間変換部73からの輝度Yを、調整後の輝度Y'に調整する処理を行う。
調整後の輝度Y'は、輝度調整部75から、色空間再変換部76に供給される。
色空間再変換部76は、内視鏡画像の各画素について、色空間変換部73から供給される色差Cb及びCrと、輝度調整部75から供給される調整後の輝度Y'とを有する画素値の色空間を、RGBの色空間に変換し、その結果得られるRGB画像である内視鏡画像を、表示装置13に供給する。
なお、ステップS25では、白飛び画素を検出せずに、内視鏡画像の各画素について、式(4)に従って、輝度Yを調整することができる。
式(4)に従った輝度Yの調整では、白飛び尤度が0の画素の輝度Yに対しては、実質的に、何らの調整も施されないので、結局、白飛びが生じている画素の輝度Yだけが調整されることになる。
<信号処理装置12の第3の構成例>
図13は、信号処理装置12の第3の構成例を示すブロック図である。
なお、図中、図3の場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
図13の信号処理装置12は、色空間変換部51、尤度LUT取得部52、白飛び尤度推定部53、及び、白飛び処理部54を有する点で、図3の場合と共通する。
但し、図13の信号処理装置12は、白飛び処理部54が、照明調整部81、及び、強調処理調整部82で構成される点で、図3の場合と相違する。
なお、図13の信号処理装置12では、説明を簡単にするため、デフォルトの輝度寄与率及び彩度寄与率で定義される白飛び尤度が登録された尤度LUTを用いることとする。但し、図13の信号処理装置12でも、図10の場合と同様に、施術部位に対する色相ごとの尤度LUTを用いることが可能である。
照明調整部81には、白飛び尤度推定部53から、内視鏡画像の各画素についての白飛び尤度が供給される。
照明調整部81は、白飛び尤度推定部53からの白飛び尤度に基づいて、照明調整パラメータを光源装置21に供給することにより、被写体としての施術部位に対する、光源装置21による照明を調整する。
光源装置21による照明の調整としては、例えば、光源装置21による照明の照度の調整(絞り調整等による調光)や、配光の調整がある。照度の調整と配光の調整とについては、両方を行うこともできるし、いずれか一方だけを行うこともできる。
照明調整部81では、例えば、白飛び尤度が閾値以上の画素が、所定数以上の数だけ存在する場合には、光源装置21による照明の照度が低下するように、照度が調整される。また、例えば、白飛び尤度が閾値以上の画素の領域への照明の照度が低下するように、配光が調整される。
強調処理調整部82には、白飛び尤度推定部53から、内視鏡画像の各画素についての白飛び尤度が供給されるとともに、撮影部22からRGB画像である内視鏡画像が供給される。
強調処理調整部82は、撮影部22からの内視鏡画像の画素を補正する処理として、例えば、コントラストの強調や、画像の先鋭化のための強調処理を行い、強調処理後の内視鏡画像を、表示装置13に供給する。
また、強調処理調整部82は、内視鏡画像に対する強調処理(での画像の強調の程度)を、白飛び尤度推定部53からの白飛び尤度に基づいて調整する。
すなわち、強調処理調整部82では、内視鏡画像の各画素に対する強調処理における強調の強弱や、強調の有無が、画素の白飛び尤度に基づいて調整される。
例えば、強調処理調整部82では、白飛び尤度が0の画素に対してだけ、強調処理が施される。あるいは、白飛び尤度が大きい画素ほど、強調の程度が弱くされる。
<信号処理装置12の処理>
図14は、図13の信号処理装置12が行う処理の例を説明するフローチャートである。
ステップS31及びS32において、図9のステップS11及びS12とそれぞれ同様の処理が行われ、これにより、白飛び尤度推定部53において、内視鏡画像の各画素の白飛び尤度が求められる。
白飛び尤度推定部53で求められた内視鏡画像の各画素の白飛び尤度は、照明調整部81、及び、強調処理調整部82に供給される。
なお、強調処理調整部82には、白飛び尤度推定部53から白飛び尤度が供給される他、撮影部22から内視鏡画像が供給される。
ステップS33では、照明調整部81、及び、強調処理調整部82が、白飛び尤度推定部53から供給される内視鏡画像の各画素の白飛び尤度に基づき、内視鏡画像について、白飛びが生じている白飛び画素を、必要に応じて検出する。
すなわち、照明調整部81、及び、強調処理調整部82は、例えば、白飛び尤度が、0より大の所定の閾値以上の画素を、白飛び画素として検出する。
そして、照明調整部81は、白飛び画素を減少させるように、光源装置21による照明の調整を行う。
また、強調処理調整部82は、例えば、撮影部22からの内視鏡画像のうちの、白飛び画素以外の画素に強調処理を施し、強調処理後の内視鏡画像を、表示装置13に供給する。
なお、ステップS33では、白飛び画素を検出せずに、内視鏡画像の各画素について、その画素の白飛び尤度に基づき、光源装置21による照明の調整や、強調処理の強弱の調整を行うことができる。
以上のように、内視鏡画像の輝度Y、及び、彩度Sを取得し、その内視鏡画像の輝度Y、及び、彩度Sに基づいて、内視鏡画像の輝度Yが白飛びに寄与する程度を表す輝度寄与率と、内視鏡画像の彩度Sが白飛びに寄与する程度を表す彩度寄与率とで定義される白飛び尤度を推定するので、内視鏡画像の白飛びを適切に推定することができる。
そして、白飛び尤度を利用することにより、内視鏡画像中の眩しさやぎらつきを抑え、コントラストの低下によるヴェーリングを発生させずに、グレアを低減することが可能になる。
ここで、防眩機能を目的とした画像処理が行われることで、内視鏡画像の色味を変化させることは、生体の観察や手術を実施する上で望ましくない。但し、白飛び尤度を利用する場合には、撮影部22で撮影された内視鏡画像において、鏡面反射の影響で、被写体の情報が失われた領域にのみ対して、輝度を調整することができ、観察対象の質感等の、内視鏡画像から得られる情報を損なうことなく、防眩効果を提供することができる。
また、白飛び尤度を、光源装置21による照明の照度の調整に用いることで、白飛びが生じることを少なくし、常に、適切な明るさの術野を確保することが可能になる。
さらに、白飛び尤度を用いることで、例えば、画素ごと、又は、同様の白飛び尤度の画素の領域ごとに、内視鏡画像に対する強調処理の強弱を適切に設定することができる。
<本技術を適用したコンピュータの説明>
次に、信号処理装置12の一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
そこで、図15は、信号処理装置12の一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク105やROM103に予め記録しておくことができる。
あるいはまた、プログラムは、リムーバブル記録媒体111に格納(記録)しておくことができる。このようなリムーバブル記録媒体111は、いわゆるパッケージソフトウエアとして提供することができる。ここで、リムーバブル記録媒体111としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
なお、プログラムは、上述したようなリムーバブル記録媒体111からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク105にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
コンピュータは、CPU(Central Processing Unit)102を内蔵しており、CPU102には、バス101を介して、入出力インタフェース110が接続されている。
CPU102は、入出力インタフェース110を介して、ユーザによって、入力部107が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)103に格納されているプログラムを実行する。あるいは、CPU102は、ハードディスク105に格納されたプログラムを、RAM(Random Access Memory)104にロードして実行する。
これにより、CPU102は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU102は、その処理結果を、必要に応じて、例えば、入出力インタフェース110を介して、出力部106から出力、あるいは、通信部108から送信、さらには、ハードディスク105に記録等させる。
なお、入力部107は、キーボードや、マウス、マイク等で構成される。また、出力部106は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
さらに、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。例えば、本技術は、医療用の内視鏡で撮影された内視鏡画像の他、工業用の内視鏡(ファイバスコープ)で撮影された内視鏡画像に適用することができる。さらに、本技術は、内視鏡で体内の組織を撮影した生体組織の内視鏡画像の他、例えば、顕微鏡を用いて、任意の生体組織を撮影した生体画像に適用することができる。その他、本技術は、一般のディジタルカメラで撮影された画像や、スキャナで取り込まれた画像等の任意の画像に適用することができる。
さらに、例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
なお、本技術は、以下の構成をとることができる。
<1>
内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
を備える内視鏡画像処理装置。
<2>
前記白飛び尤度は、被写体ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<1>に記載の内視鏡画像処理装置。
<3>
前記白飛び尤度は、各被写体について、色相ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する、色相ごとに異なる前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<2>に記載の内視鏡画像処理装置。
<4>
前記被写体の観察対象の色彩に対する前記白飛び尤度は、前記被写体の非観察対象の色彩に対する前記白飛び尤度よりも、急峻に変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<3>に記載の内視鏡画像処理装置。
<5>
前記被写体の非観察対象の色彩に対する前記白飛び尤度は、前記被写体の観察対象の色彩に対する前記白飛び尤度よりも、なだらかに変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<3>に記載の内視鏡画像処理装置。
<6>
前記白飛び尤度に基づいて、前記白飛びに対処する対処処理を行う処理部をさらに備える
<1>に記載の内視鏡画像処理装置。
<7>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡画像の輝度を調整する
<6>に記載の内視鏡画像処理装置。
<8>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡で撮影される被写体に対する照明を調整する
<6>又は<7>に記載の内視鏡画像処理装置。
<9>
前記処理部は、前記白飛び尤度に基づいて、前記照明の照度及び配光の一方、又は、両方を調整する
<8>に記載の内視鏡画像処理装置。
<10>
内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得し、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する
ステップを含む内視鏡画像処理方法。
<11>
内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
して、コンピュータを機能させるためのプログラム。
<12>
内視鏡と、
前記内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
を備える内視鏡システム。
<13>
前記白飛び尤度は、被写体ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<12>に記載の内視鏡システム。
<14>
前記白飛び尤度は、各被写体について、色相ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する、色相ごとに異なる前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<13>に記載の内視鏡システム。
<15>
前記被写体の観察対象の色彩に対する前記白飛び尤度は、前記被写体の非観察対象の色彩に対する前記白飛び尤度よりも、急峻に変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<14>に記載の内視鏡システム。
<16>
前記被写体の非観察対象の色彩に対する前記白飛び尤度は、前記被写体の観察対象の色彩に対する前記白飛び尤度よりも、なだらかに変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<14>に記載の内視鏡システム。
<17>
前記白飛び尤度に基づいて、前記白飛びに対処する対処処理を行う処理部をさらに備える
<12>に記載の内視鏡システム。
<18>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡画像の輝度を調整する
<17>に記載の内視鏡システム。
<19>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡で撮影される被写体に対する照明を調整する
<17>又は<18>に記載の内視鏡システム。
<20>
前記処理部は、前記白飛び尤度に基づいて、前記照明の照度及び配光の一方、又は、両方を調整する
<19>に記載の内視鏡システム。
内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
を備える内視鏡画像処理装置。
<2>
前記白飛び尤度は、被写体ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<1>に記載の内視鏡画像処理装置。
<3>
前記白飛び尤度は、各被写体について、色相ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する、色相ごとに異なる前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<2>に記載の内視鏡画像処理装置。
<4>
前記被写体の観察対象の色彩に対する前記白飛び尤度は、前記被写体の非観察対象の色彩に対する前記白飛び尤度よりも、急峻に変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<3>に記載の内視鏡画像処理装置。
<5>
前記被写体の非観察対象の色彩に対する前記白飛び尤度は、前記被写体の観察対象の色彩に対する前記白飛び尤度よりも、なだらかに変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<3>に記載の内視鏡画像処理装置。
<6>
前記白飛び尤度に基づいて、前記白飛びに対処する対処処理を行う処理部をさらに備える
<1>に記載の内視鏡画像処理装置。
<7>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡画像の輝度を調整する
<6>に記載の内視鏡画像処理装置。
<8>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡で撮影される被写体に対する照明を調整する
<6>又は<7>に記載の内視鏡画像処理装置。
<9>
前記処理部は、前記白飛び尤度に基づいて、前記照明の照度及び配光の一方、又は、両方を調整する
<8>に記載の内視鏡画像処理装置。
<10>
内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得し、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する
ステップを含む内視鏡画像処理方法。
<11>
内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
して、コンピュータを機能させるためのプログラム。
<12>
内視鏡と、
前記内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
を備える内視鏡システム。
<13>
前記白飛び尤度は、被写体ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<12>に記載の内視鏡システム。
<14>
前記白飛び尤度は、各被写体について、色相ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する、色相ごとに異なる前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
<13>に記載の内視鏡システム。
<15>
前記被写体の観察対象の色彩に対する前記白飛び尤度は、前記被写体の非観察対象の色彩に対する前記白飛び尤度よりも、急峻に変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<14>に記載の内視鏡システム。
<16>
前記被写体の非観察対象の色彩に対する前記白飛び尤度は、前記被写体の観察対象の色彩に対する前記白飛び尤度よりも、なだらかに変化する前記明るさ寄与率と前記彩度寄与率とで定義される
<14>に記載の内視鏡システム。
<17>
前記白飛び尤度に基づいて、前記白飛びに対処する対処処理を行う処理部をさらに備える
<12>に記載の内視鏡システム。
<18>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡画像の輝度を調整する
<17>に記載の内視鏡システム。
<19>
前記処理部は、前記白飛び尤度に基づいて、前記内視鏡で撮影される被写体に対する照明を調整する
<17>又は<18>に記載の内視鏡システム。
<20>
前記処理部は、前記白飛び尤度に基づいて、前記照明の照度及び配光の一方、又は、両方を調整する
<19>に記載の内視鏡システム。
11 内視鏡, 12 信号処理装置, 13 表示装置, 21 光源装置, 22 撮影部, 31 把手部, 32 挿入部, 41 鉗子, 42 術部, 51 色空間変換部, 52 尤度LUT選択部, 53 白飛び尤度推定部, 54 白飛び処理部, 71 施術部位判定部, 72 尤度LUT取得部, 73 色空間変換部, 74 白飛び推定部, 75 輝度調整部, 76 色空間再変換部, 81 照明調整部, 82 強調処理調整部, 101 バス, 102 CPU, 103 ROM, 104 RAM, 105 ハードディスク, 106 出力部, 107 入力部, 108 通信部, 109 ドライブ, 110 入出力インタフェース, 111 リムーバブル記録媒体
Claims (20)
- 内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
を備える内視鏡画像処理装置。 - 前記白飛び尤度は、被写体ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
請求項1に記載の内視鏡画像処理装置。 - 前記白飛び尤度は、各被写体について、色相ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する、色相ごとに異なる前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
請求項2に記載の内視鏡画像処理装置。 - 前記被写体の観察対象の色彩に対する前記白飛び尤度は、前記被写体の非観察対象の色彩に対する前記白飛び尤度よりも、急峻に変化する前記明るさ寄与率と前記彩度寄与率とで定義される
請求項3に記載の内視鏡画像処理装置。 - 前記被写体の非観察対象の色彩に対する前記白飛び尤度は、前記被写体の観察対象の色彩に対する前記白飛び尤度よりも、なだらかに変化する前記明るさ寄与率と前記彩度寄与率とで定義される
請求項3に記載の内視鏡画像処理装置。 - 前記白飛び尤度に基づいて、前記白飛びに対処する対処処理を行う処理部をさらに備える
請求項1に記載の内視鏡画像処理装置。 - 前記処理部は、前記白飛び尤度に基づいて、前記内視鏡画像の輝度を調整する
請求項6に記載の内視鏡画像処理装置。 - 前記処理部は、前記白飛び尤度に基づいて、前記内視鏡で撮影される被写体に対する照明を調整する
請求項6に記載の内視鏡画像処理装置。 - 前記処理部は、前記白飛び尤度に基づいて、前記照明の照度及び配光の一方、又は、両方を調整する
請求項8に記載の内視鏡画像処理装置。 - 内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得し、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する
ステップを含む内視鏡画像処理方法。 - 内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
して、コンピュータを機能させるためのプログラム。 - 内視鏡と、
前記内視鏡で撮影された内視鏡画像の明るさを表す明るさ情報、及び、彩度を取得する取得部と、
前記内視鏡画像の明るさ情報、及び、彩度に基づいて、前記内視鏡画像の明るさが白飛びに寄与する程度を表す、前記明るさの増加に対して増加する明るさ寄与率と、前記内視鏡画像の彩度が白飛びに寄与する程度を表す、前記彩度の増加に対して減少する彩度寄与率とで定義される、白飛びが生じている尤度を表す白飛び尤度を推定する白飛び尤度推定部と
を備える内視鏡システム。 - 前記白飛び尤度は、被写体ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
請求項12に記載の内視鏡システム。 - 前記白飛び尤度は、各被写体について、色相ごとに異なる特性の前記明るさ寄与率と前記彩度寄与率とで定義され、
前記白飛び尤度推定部は、前記内視鏡で撮影する被写体に対する、色相ごとに異なる前記明るさ寄与率と前記彩度寄与率とで定義される前記白飛び尤度を推定する
請求項13に記載の内視鏡システム。 - 前記被写体の観察対象の色彩に対する前記白飛び尤度は、前記被写体の非観察対象の色彩に対する前記白飛び尤度よりも、急峻に変化する前記明るさ寄与率と前記彩度寄与率とで定義される
請求項14に記載の内視鏡システム。 - 前記被写体の非観察対象の色彩に対する前記白飛び尤度は、前記被写体の観察対象の色彩に対する前記白飛び尤度よりも、なだらかに変化する前記明るさ寄与率と前記彩度寄与率とで定義される
請求項14に記載の内視鏡システム。 - 前記白飛び尤度に基づいて、前記白飛びに対処する対処処理を行う処理部をさらに備える
請求項12に記載の内視鏡システム。 - 前記処理部は、前記白飛び尤度に基づいて、前記内視鏡画像の輝度を調整する
請求項17に記載の内視鏡システム。 - 前記処理部は、前記白飛び尤度に基づいて、前記内視鏡で撮影される被写体に対する照明を調整する
請求項17に記載の内視鏡システム。 - 前記処理部は、前記白飛び尤度に基づいて、前記照明の照度及び配光の一方、又は、両方を調整する
請求項19に記載の内視鏡システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014248833A JP2016106932A (ja) | 2014-12-09 | 2014-12-09 | 内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014248833A JP2016106932A (ja) | 2014-12-09 | 2014-12-09 | 内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016106932A true JP2016106932A (ja) | 2016-06-20 |
Family
ID=56122605
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014248833A Pending JP2016106932A (ja) | 2014-12-09 | 2014-12-09 | 内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016106932A (ja) |
-
2014
- 2014-12-09 JP JP2014248833A patent/JP2016106932A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10335014B2 (en) | Endoscope system, processor device, and method for operating endoscope system | |
JP5814698B2 (ja) | 自動露光制御装置、制御装置、内視鏡装置及び内視鏡装置の作動方法 | |
JP6168879B2 (ja) | 内視鏡装置、内視鏡装置の作動方法及びプログラム | |
US9498153B2 (en) | Endoscope apparatus and shake correction processing method | |
JP6448509B2 (ja) | 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 | |
JP2010136748A (ja) | 内視鏡装置およびその制御方法 | |
JPWO2019220848A1 (ja) | 内視鏡装置、内視鏡操作方法、及びプログラム | |
WO2017022324A1 (ja) | 画像信号処理方法、画像信号処理装置および画像信号処理プログラム | |
WO2017077772A1 (ja) | プロセッサ装置、内視鏡システム、及び画像処理方法 | |
JP5747362B2 (ja) | 内視鏡装置 | |
JP4933766B2 (ja) | 電子内視鏡装置 | |
JP5422180B2 (ja) | 内視鏡装置およびその作動方法 | |
JP4796557B2 (ja) | 撮影装置 | |
JPWO2020178962A1 (ja) | 内視鏡システム、画像処理装置、総処理時間検出方法および処理装置 | |
JP6591688B2 (ja) | 電子内視鏡用プロセッサ及び電子内視鏡システム | |
JPWO2016088628A1 (ja) | 画像評価装置、内視鏡システム、画像評価装置の作動方法および画像評価装置の作動プログラム | |
US20230255443A1 (en) | Apparatuses, systems, and methods for discounting an object while managing auto-exposure of image frames depicting the object | |
WO2021140923A1 (ja) | 医療画像生成装置、医療画像生成方法および医療画像生成プログラム | |
JP2016106932A (ja) | 内視鏡画像処理装置、内視鏡画像処理方法、プログラム、及び、内視鏡システム | |
JP2006142004A (ja) | シャープネス調整方法およびプログラム並びに電子内視鏡装置 | |
JP6344608B2 (ja) | 画像処理装置、画像処理方法、プログラム、及び、手術システム | |
US20210251467A1 (en) | Image signal processing device, image signal processing method, and program | |
JP2009081694A (ja) | 画像処理装置および内視鏡システム | |
JP2006142003A (ja) | 明るさ調整方法、画像処理装置および画像処理プログラム | |
CN115770006A (zh) | 一种光源装置的控制方法及相关组件 |