JP6655756B2 - 3d内視鏡装置、及び、3d映像処理装置 - Google Patents

3d内視鏡装置、及び、3d映像処理装置 Download PDF

Info

Publication number
JP6655756B2
JP6655756B2 JP2019510460A JP2019510460A JP6655756B2 JP 6655756 B2 JP6655756 B2 JP 6655756B2 JP 2019510460 A JP2019510460 A JP 2019510460A JP 2019510460 A JP2019510460 A JP 2019510460A JP 6655756 B2 JP6655756 B2 JP 6655756B2
Authority
JP
Japan
Prior art keywords
image
video signal
unit
cloudy
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019510460A
Other languages
English (en)
Other versions
JPWO2018211854A1 (ja
Inventor
孝之 井田
孝之 井田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2018211854A1 publication Critical patent/JPWO2018211854A1/ja
Application granted granted Critical
Publication of JP6655756B2 publication Critical patent/JP6655756B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/12Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with cooling or rinsing arrangements
    • A61B1/127Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with cooling or rinsing arrangements with means for preventing fogging
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2415Stereoscopic endoscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • G06T5/77
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • A61B1/051Details of CCD assembly
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Remote Sensing (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Quality & Reliability (AREA)
  • Astronomy & Astrophysics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明の実施形態は、3D内視鏡装置、及び、3D映像処理装置に関し、特に、2D映像と3D映像とを切り替えて出力する、3D内視鏡装置、及び、3D映像処理装置に関する。
従来、医療分野において、体腔内の臓器の観察や、処置具を用いての治療処置、内視鏡観察下における手術などに、内視鏡装置が広く用いられている。一般的に、内視鏡装置は、挿入部の先端に電荷結合素子(CCD)などの撮像素子を搭載した電子内視鏡によって得られた被写体の撮像信号を、プロセッサに伝送して画像処理を施す。画像処理により得られた内視鏡画像は、プロセッサから内視鏡モニタに出力され、表示される。
通常の内視鏡装置は、1つの撮像素子で観察部位を撮像し、2Dの内視鏡画像を得る。一方、手術を行うような場合には、2つの撮像素子を備えた3Dの電子内視鏡を用いる場合がある。すなわち、2つの撮像素子の位置の違いにより発生する画像のずれ、すなわち視差を得ることで、3Dの内視鏡画像を取り込み、これらの画像を人間の両眼に独立して提示することにより、立体感覚を与える3D内視鏡装置が開発されている。3D内視鏡装置を用いると、奥行き感のある3Dの内視鏡画像が得られるため、術者は、手術などを行いやすくなる場合がある(例えば、日本国特開2015−226216号公報参照)。
レーザー切除手術など体腔内の臓器の処置を行う場合、処置中に水蒸気や煙などが発生する。これにより、電子内視鏡の挿入部先端に設けられた対物レンズに、曇りが生じたり、汚れが付着したりすると、内視鏡画像に不鮮明な部分が生じてしまい、術野が確保できなくなってしまう。このような状況下において、従来の3D内視鏡装置では、電子内視鏡を体腔内から一旦取り出して、洗浄や加温処理により曇りや汚れを除去し、再び体腔内に戻して手術を行っていた。すなわち、対物レンズの浄化処理に時間を要するため、手技の進行が遅延してしまうという問題があった。
そこで、本発明は、対物レンズに曇りが生じたり汚れが付着したりした場合にも、手技を中断することなく鮮明な内視鏡画像を出力することができる、3D内視鏡装置、及び、3D映像処理装置を提供することを目的とする。
本発明の一態様の3D内視鏡装置は、第1の撮像系により得られる第1の映像信号と、第2の撮像系により得られる第2の映像信号とが入力される映像信号入力部と、前記映像信号入力部より得られる2D用映像信号と3D用映像信号とを識別する2D/3D識別部と、前記2D/3D識別部が、2D用映像信号を検知したとき、2D画像が表示される表示領域を解析し、曇り領域を検出する画像状態検出部と、を有する。また、前記画像状態検出部の検出結果が、前記第1の撮像系、または、前記第2の撮像系のいずれか片方の撮像系から得られる映像信号のみ曇り領域が検出された場合、他方の映像信号に切り替えるch切替指示部と、前記画像状態検出部の検出結果が、前記第1の撮像系、及び、前記第2の撮像系の両方の映像に曇り領域が検出された場合、前記第1の映像信号により得られる画像の曇り領域が発生していない領域と前記第2の映像信号により得られる画像の曇り領域が発生していない領域とを補完して曇り領域を低減させた合成画像を生成する画像合成部と、前記2D用映像信号、及び、前記3D用映像信号を表示する表示部も有する。
本発明の一態様の3D内視鏡装置は、第1の撮像系により得られる第1の映像信号と、第2の撮像系により得られる第2の映像信号とが入力される映像信号入力部と、前記第1の映像信号における第1の画像の表示領域、及び/または、前記第2の映像信号における第2の画像の表示領域を解析し、曇り領域を検出する画像状態検出部を有する。また、前記画像状態検出部の検出結果が、前記第1の撮像系、及び、前記第2の撮像系の両方の映像に曇り領域が検出された場合、前記第1の映像信号により得られる画像の曇り領域が発生していない領域と前記第2の映像信号により得られる画像の曇り領域が発生していない領域とを補完して曇り領域を低減させた合成画像を生成する画像合成部も有する。更に、前記第1の撮像系、又は、前記第2の撮像系のいずれか片方の撮像系から得られる曇り領域のない映像信号、または、前記画像合成部により生成された合成画像を、擬似的に3D用映像信号に変換する擬似3D変換部と、前記第1の映像信号、または、前記第2の映像信号、または、前記合成画像のいずれかからなる2D用映像信号、及び、前記3D用映像信号を表示する表示部も有する。
本発明の一態様の3D映像処理装置は、第1の撮像系により得られる第1の映像信号と、第2の撮像系により得られる第2の映像信号とが入力される映像信号入力部と、前記第1の映像信号における第1の画像の表示領域、及び/または、前記第2の映像信号における第2の画像の表示領域を解析し、曇り領域を検出する画像状態検出部とを有する。また、前記画像状態検出部の検出結果が、前記第1の撮像系、及び、前記第2の撮像系の両方の映像に曇り領域が検出された場合、前記第1の映像信号により得られる画像の曇り領域が発生していない領域と前記第2の映像信号により得られる画像の曇り領域が発生していない領域とを補完して曇り領域を低減させた合成画像を生成する画像合成部と、前記第1の映像信号、または、前記第2の映像信号、または、前記合成画像のいずれかからなる2D用映像信号を出力する出力部も有する。
本発明の実施形態に係わる3D内視鏡装置を含む、内視鏡システムの全体構成の一例を示す斜視図。 第1の実施形態に係わるプロセッサ、及び、表示装置の構成の一例を説明するブロック図。 曇りが発生した画像の一例を説明する図。 曇りが発生した画像の一例を説明する図。 曇りが発生した画像の一例を説明する図。 画像内の曇りを検出する手順の一例を説明するフローチャート。 曇りが発生した両眼画像から生成された曇りが除去された画像の一例を説明する図。 第1の実施形態に係わる2D画像を生成する手順の一例を説明するフローチャート。 3D画像を生成する手順の一例を説明するフローチャート。 第2の実施形態に係わるプロセッサ、及び、表示装置の構成の一例を説明するブロック図。 第2の実施形態に係わる2D画像を生成する手順の一例を説明するフローチャート。 第3の実施形態に係わるプロセッサの構成の一例を説明するブロック図。
以下、図面を参照して実施形態を説明する。
(第1の実施形態)
図1は、本発明の実施形態に係わる3D内視鏡装置を含む、内視鏡システムの全体構成の一例を示す斜視図である。図1に示すように、内視鏡システム1は、内視鏡スコープとしての3D電子内視鏡(以下、単に内視鏡という)2と、光源装置3と、3D映像処理装置としてのプロセッサ4と、表示装置としてのモニタ5と、から主に構成されている。
内視鏡2は、長尺で細長な挿入部9と、操作部10と、電気ケーブルであるユニバーサルケーブル19と、を有して構成されている。内視鏡2の挿入部9は、先端から順に、先端部6と、湾曲部7と、可撓管部8と、を有して構成されている。
先端部6に設けられた2つの観察窓には、それぞれ一対の対物レンズ23R、23Lが設けられている。各対物レンズ23R、23Lの結像位置には、第1の撮像系、及び第2の撮像系として、光電変換機能を備えた撮像素子である、CCD、CMOSなどの固体撮像素子(図示せず)が配置されている。上記一対の対物レンズ23R、23Lは、前方の被写体に対して視差のある左右の被写体像を、それぞれの結像位置に配置された固体撮像素子に結像する。
操作部10には、挿入部9の湾曲部7を湾曲操作するための湾曲操作部14が回転自在に配設されると共に、各種内視鏡機能のスイッチ類などが設けられている。このスイッチ類のひとつとして、操作部10には、モニタ5に表示する画像を、2D内視鏡画像/3D内視鏡画像で切り替える、2D/3D切替スイッチ15が設けられている。なお、湾曲操作部14は、湾曲部7を上下方向に湾曲操作するためのUD湾曲操作ノブ12と、湾曲部7を左右方向に湾曲操作するためのRL湾曲操作ノブ13とが重畳するように配設されている。
また、挿入部9と操作部10の連結部は、ユーザによる把持部を兼ねる把持部11と、この把持部11及び挿入部9の可撓管部8の一端の間に設けられた折れ止め部に配設されて、挿入部9に配設された各種処置部を挿通する処置具チャネルの開口部となる処置具チャネル挿通部18とを有して構成されている。
操作部10から延設されたユニバーサルケーブル19は、延出端に光源装置3と着脱自在なスコープコネクタ19aを有している。また、スコープコネクタ19aは、コイル状のコイルケーブル20が延設しており、このコイルケーブル20の延出端にプロセッサ4と着脱自在なコネクタとしてのスコープコネクタ20aが設けられている。なお、本実施形態の内視鏡2は、ユニバーサルケーブル19、操作部10及び挿入部9に配設された照明手段のライトガイドケーブルによって、光源装置3から先端部6まで照明光を伝送するものである。
3D映像処理装置としてのプロセッサ4は、内視鏡画像を表示するモニタ5と電気的に接続され、内視鏡2に搭載されているCCDなどの撮像手段によって光電変換された撮像信号を処理して、画像信号としてモニタ5に出力する。
図2は、第1の実施形態に係わるプロセッサ、及び、表示装置の構成の一例を説明するブロック図である。プロセッサ4は、映像信号入力部41と、R画像処理部42Rと、L画像処理部42Lとを有する。また、プロセッサ4は、2D/3D切替部43と、2D処理部44と、3D処理部45と、出力部46と、通信部47とも有する。
映像信号入力部41は、R信号入力部41Rと、L信号入力部41Lとから構成される。映像信号入力部41には、内視鏡2から出力された被写体の像が入力される。具体的には、R信号入力部41Rには、対物レンズ23Rでとらえた被写体の像を固体撮像素子で光電変換した第1の映像信号として、右目に対応する画像信号(以下、R画像信号と示す)が入力される。L信号入力部41Lには、対物レンズ23Lでとらえた被写体の像を固体撮像素子で光電変換した第2の映像信号として、左目に対応する画像信号(以下、L画像信号と示す)が入力される。
R画像処理部42Rは、R信号入力部41Rから入力されるR画像信号に各種処理を施し、モニタ5に表示可能な信号に変換する。L画像処理部42Lは、L信号入力部41Lから入力されるL画像信号に各種処理を施し、モニタ5に表示可能な信号に変換する。R画像処理部42R、及び、L画像処理部42L、例えば、CDS回路、低域通過フィルタ、クランプ回路、A/D変換器、ホワイトバランス補正回路、色調調整回路、γ補正回路、輪郭強調回路、などから構成される。
2D/3D切替部43は、2D/3D切替スイッチ15によって術者などから入力される指示内容に従い、R画像処理部42Rから入力されるR画像信号と、L画像処理部42Lから入力されるL画像信号の出力先を切り替える。すなわち、2D内視鏡画像をモニタ5に表示させるように指示されている場合、2D/3D切替部43は、R画像信号とL画像信号とを2D処理部44に出力する。一方、3D内視鏡画像をモニタ5に表示させるように指示されている場合、2D/3D切替部43は、R画像信号とL画像信号とを3D処理部45に出力する。また、2D/3D切替部43は、通信部47を介してモニタ5から入力される指示内容を、2D処理部44に入力する。
2D処理部44は、2D/3D切替部43からL画像信号とR画像信号とが入力された場合に、モニタ5に表示する2D内視鏡画像用の画像信号を生成する。2D処理部44は、ch切替部441を有する。ch切替部441は、2D/3D切替部43から入力されるR画像信号または画像信号のいずれかを選択し、出力部46に出力する。通常、ch切替部441は、L画像信号を選択し、出力する。2D/3D切替部43から画像信号の切替指示が入力された場合、ch切替部441は、現在出力中の画像信号の出力を停止し、もう一方の画像信号を出力する。例えば、L画像信号を出力中に、画像信号の切替指示が入力された場合、L画像信号の出力を停止し、R画像信号を出力する。
3D処理部45は、2D/3D切替部43からL画像信号とR画像信号とが入力された場合に、モニタ5に表示する3D内視鏡画像用の画像信号を生成する。3D処理部45は、画像合成部451を有する。画像合成部451は、入力されたR画像信号とL画像信号とから、モニタ5の3D表示方式に対応した画像信号を生成し、出力部46に出力する。例えば、モニタ5が偏光式に対応した3Dディスプレイであり、専用の偏光メガネを用いて画像を観察する場合、ライン・バイ・ライン方式(インターレース方式ともいう)で画像信号を伝送する必要がある。従って、画像合成部451は、各フレームの偶数行のR画像信号と、奇数行のL画像信号とを抽出し、交互に出力する。すなわち、1行目、3行目、5行目、…、2n−1行目の画像信号はL画像信号を用い、2行目、4行目、6行目、…、2n行目の画像信号は、R画像信号を用いて、各フレームの画像信号を生成し、出力する。
なお、モニタ5の3D表示方式が別の方式である場合、画像合成部451は、その方式に対応する画像信号を生成し、出力する。例えば、モニタ5がフレームシーケンシャル方式に対応した3Dディスプレイであり、専用のアクティブシャッターメガネを用いて画像を観察する場合、フレームパッキング方式で画像信号を伝送する必要がある。従って、画像合成部451は、L画像信号のフレームとR画像信号のフレームとを交互に出力する。
出力部46は、2D処理部44、または、3D処理部45から入力された画像信号を、モニタ5の入力部51へ出力する。
通信部47は、モニタ5からの指示内容を受信し、2D/3D切替部43へ出力する。
表示装置としてのモニタ5は、入力部51と、2D/3D検知部52と、2D処理部54と、3D処理部55と、映像表示部56とを有する。入力部51は、プロセッサ4から出力された画像信号を受信し、2D/3D切替部43へ出力する。
2D/3D識別部としての2D/3D検知部52は、入力された画像信号を解析し、2D内視鏡画像用の画像信号であるか、3D内視鏡画像用の画像信号であるかを識別する。すなわち、入力された画像信号が、L画像信号またはR画像信号のどちらか一方のみから生成されている場合、2D内視鏡画像用の画像信号であると判断する。一方、入力された画像信号が、L画像信号とR画像信号の両方を用いて生成されている場合、3D内視鏡画像用の画像信号であると判断する。
2D/3D検知部52は、入力された画像信号が2D内視鏡画像用であると判断した場合、同画像信号を2D処理部54に出力する。入力された画像信号が3D内視鏡画像用の画像信号であると判断した場合、同画像信号を3D処理部55に出力する。
2D処理部54は、入力された2D内視鏡画像用の画像信号に、レンズの曇りや汚れの領域(以下、曇り領域と示す)の有無を検出し、曇り領域が検出された場合には、曇り領域を補完し曇りや汚れのない画像を生成する。2D処理部54は、画像検出部541と、ch切替指示部543と、通信部544と、画像生成部545と、記録部546とから構成されている。
画像検出部541は、画像状態検出部としての判断部542を有している。判断部542は、入力された画像信号を表示した内視鏡画像において、曇り領域の有無を判定する。図3A、図3B、図3Cは、曇りが発生した画像の一例を説明する図である。図3A、図3B、図3Cは、所定間隔でこの順に撮影された2Dの内視鏡画像である。すなわち、まず、図3Aの内視鏡画像が撮影され、その後、所定間隔(例えば1秒)をおいて撮影された内視鏡画像が図3Bに示す画像である。また、図3Bの内視鏡画像が撮影されてから、さらに所定間隔をおいて撮影された内視鏡画像が図3Cに示す画像である。なお、画像検出部541に入力された画像信号は、内視鏡画像として、所定間隔で記録部546に記録される。図4は、画像内の曇りを検出する手順の一例を説明するフローチャートである。図3A、図3B、図3C、及び図4を用いて、内視鏡画像における曇り領域の有無の判定について、説明する。
まず、図3A、図3B、図3Cに示すような時系列に入力された複数の内視鏡画像を、複数の領域に分割し、各分割領域の画像情報(RGB画素値、輝度情報、色相情報など)を解析する(S11)。次に、解析処理の結果得られた各分割領域の画像情報を、図示しないメモリに記憶させる(S12)。同メモリには、各分割領域につき例えば所定フレーム分の画像情報が記憶され、一定時間経過後に順次廃棄される。
判断部542は、所定フレーム数(または所定時間)分の画像情報がメモリに記憶された段階で、フレーム間(画像間)の画像情報の比較を分割領域ごとに行う(S13)。比較には、通常、RGB画素値を用いるが、撮影場所や撮影条件などに影響を受けがたい色相情報を用いてもよい。比較の結果、画像情報が所定フレーム数(または所定時間分の画像数)継続して変化していない、つまり、フレーム間や画像間の画像情報の差分値が実質的にゼロである分割領域を曇り発生領域として検出し、検出された曇り発生領域の数をカウントする(S14)。例えば、図3A、図3B、図3Cにおいて、画像上部の網掛け部21に曇りが発生している場合、網掛け部21を含む6個の分割領域が、曇り発生領域としてカウントされる。
S14でカウントした曇り発生領域が、予め設定された所定の閾値以上である場合(S15、Yes)、内視鏡画像中に曇り領域ありと判定する(S16)。一方、S14でカウントして曇り発生領域が、予め設定された所定の閾値未満である場合、(S15、No)、内視鏡画像中に曇り領域なしと判定する(S17)。なお、判定に用いられる閾値は、分割領域の大きさや数に応じて、適宜設定される。例えば図3A、図3B、図3Cの場合、閾値として3が設定されているとすると、曇り発生領域が6であるので、曇り領域ありと判定される。
画像検出部541は、判断部542が曇り領域なしと判定した場合、入力されている画像信号を映像表示部56に出力する。一方、判断部542が曇り領域ありと判定した場合、入力されている画像信号を、記憶部546に格納する。
ch切替指示部543は、画像検出部541において、入力画像中に曇り領域があると判定された場合、現在入力されている画像信号とは別のチャネルの画像信号を出力する旨の指示信号を生成し、通信部544に出力する。例えば、L画像信号がプロセッサ4からモニタ5に入力されており、L画像信号による内視鏡画像に曇り領域が発生していると判定された場合、L画像信号の出力を中止し、これに替えてR画像信号を出力するよう、指示信号を生成し、通信部544に出力する。通信部544は、ch切替指示部534から指示信号が入力されると、プロセッサ4の通信部47に同指示信号を出力する。
画像合成部としての画像生成部545は、入力されている画像信号と、記録部546に格納されている画像とを用いて、曇り領域を補完した画像を生成する。図5は、曇りが発生した両眼画像から生成された曇りが除去された画像の一例を説明する図である。図5の(A)は、L画像信号による左目の内視鏡画像、図5の(B)は、R画像信号による右目の内視鏡画像、図5の(C)は、図5の(A)、(B)の両画像を用いて生成した、曇り領域を補完した合成画像を示している。
図5の(A)に示すように、L画像信号による左目の内視鏡画像に曇り領域21aが存在する場合、プロセッサ4に指示し、L画像信号に替えてR画像信号を取得する。取得したR画像信号による右目の内視鏡画像(図5の(B))にも曇り領域21b、21cが存在する場合、画像生成部545は、記録部546に格納されている左目の内視鏡画像(図5の(A))と、現在取得中の右目の内視鏡画像(図5の(B))とを比較し、曇り領域の少ない画像をベース画像として選択する。図5に示す一例の場合、左目の内視鏡画像(図5の(A))には曇り領域が1つ、右目の内視鏡画像(図5の(B))には曇り領域が2つ存在するので、ベース画像は図5の(A)に示す左目の内視鏡画像となる。
画像生成部545は、ベース画像の曇り領域に対応する領域を、他方の内視鏡画像から抽出する。図5に示す一例の場合、他方の内視鏡画像である右目の内視鏡画像(図5の(B))から、図5の(A)の曇り領域21aに対応する領域21a´を抽出する。抽出した領域が曇り領域でない場合、抽出した領域21´の画像でベース画像の曇り領域を補完し、合成画像(曇り領域のない画像)を生成する。一方、抽出した領域も曇り領域である場合、ベース画像の曇り領域の補完ができないため、エラーメッセージ(例えば、レンズの洗浄を促すメッセージ)を生成する。画像生成部545は、生成した合成画像、または、エラーメッセージを、映像表示部56に出力する。
3D処理部55は、入力された3D内視鏡画像用の画像信号における曇り領域の有無を検出し、曇り領域が検出された場合には、曇り領域を補完し曇りや汚れのない画像を生成する。3D処理部55は、画像検出部551と、画像生成部553と、擬似3D変換部554とから構成されている。
画像検出部551は、入力された画像信号を、L画像信号と、R画像信号とに分離する。画像検出部551は、判断部552を有している。判断部552は、L画像信号と、R画像信号のそれぞれを用いて生成される内視鏡画像(左目内視鏡画像、及び、右目内視鏡画像)において、曇り領域の有無を判定する。判断部552における曇り領域の有無の判定方法は、判断部542における曇り領域の判定方法と同様である。
判断部552において、左目内視鏡画像、右目内視鏡画像ともに曇り領域がないと判定した場合、画像検出部551は、入力された画像信号(L画像信号とR画像信号とを分離する前の画像信号)を、そのまま映像表示部56に出力する。
一方、判断部552において、左目内視鏡画像、または右目内視鏡画像のいずれか片方にのみ曇り領域があると判定した場合、画像検出部551は、曇り領域がないと判定された画像用の画像信号を、擬似3D変換部554に出力する。例えば、左目内視鏡画像は曇り領域がなく、右目内視鏡画像は曇り領域があると判定された場合、左目内視鏡画像用のL画像信号を、擬似3D変換部554に出力する。
更に、判断部552において、左目内視鏡画像、右目内視鏡画像の両方に曇り領域があると判定した場合、画像検出部551は、L画像信号とR画像信号とを、画像生成部553に出力する。
画像生成部553は、L画像信号とR画像信号とを用いて、曇り領域を補完した画像を生成する。具体的には、図5を用いて説明した、画像生成部545における補完画像の生成手順と同様の手順で、曇り領域を補完した合成画像を生成する。このとき、ベース画像として左目内視鏡画像を用いる場合、画像生成部553で生成される合成画像は、左目内視鏡画像となる。一方、ベース画像として右目内視鏡画像を用いる場合、画像生成部553で生成される合成画像は、右目内視鏡画像となる。ベース画像の曇り領域の補完ができない場合、エラーメッセージ(例えば、レンズの洗浄を促すメッセージ)を生成する。
画像生成部553は、合成画像を生成した場合、同合成画像の画像信号を擬似3D変換部554に出力する。合成画像として左目内視鏡画像を生成した場合、合成画像の画像信号をL画像信号として出力する。合成画像として右目内視鏡画像を生成した場合、合成画像の画像信号をR画像信号として出力する。また、画像生成部553は、エラーメッセージ生成した場合、同メッセージを、映像表示部56に出力する。
擬似3D変換部554は、入力された画像信号から、もう一方の画像信号を擬似的に生成する。すなわち、L画像信号が入力された場合、L画像信号を用いてR画像信号を生成する。R画像信号が入力された場合、R画像信号を用いてL画像信号を生成する。2D画像信号から擬似3D画像信号を生成する方法は、一般的に用いられている公知の方法を用いることができる。例えば、L画像信号からR画像信号を生成する場合、L画像信号から生成される左目内視鏡画像の各画素の画素位置を、視差分だけ水平右方向に移動させる。例えば、左目内視鏡画像を右目内視鏡画像との視差が10画素分である場合、左目内視鏡画像においてn列目に配置されている画素は、同じ行のn+10列目に移動させる。なお、画像全体について、視差分水平方向に画素位置を移動させるだけでなく、画像中に存在する壁面のヒダや血管、腫瘍など、部分的な画素領域について前後関係を強調した補正を施し、擬似的に画像信号を生成すると、更に立体感のある擬似3D内視鏡画像信号を得ることができる。
このようにして、曇り領域のないL画像信号を用いて擬似的にR画像信号を生成する(または、曇り領域のないR画像信号を用いて擬似的にL画像信号を生成する)ことで、曇り領域のない3D内視鏡画像を構成するために必要なL画像信号とR画像信号とを得る。そして、入力された画像信号と、擬似的に生成した画像信号とから、画像合成部451と同様に、モニタ5の3D表示方式に対応した画像信号を生成し、映像表示部56に出力する。
表示部としての映像表示部56は、入力された画像信号を画面上に画像として表示させる。
次に、本実施形態の3D内視鏡装置のモニタ5において、2D/3D内視鏡画像を生成する手順について説明する。図6は、第1の実施形態に係わる2D画像を生成する手順の一例を説明するフローチャートである。まず、図6を用いて、2D内視鏡画像を生成する手順を説明する。まず、画像検出部541は、プロセッサ4から入力される画像信号(例えば、L画像信号)を、予め設定された所定時間間隔で記録する(S1)。
続いて、画像検出部541は、記録された画像中における曇り領域を検出する(S2)。S2における曇り検出処理は、図3A、図3B、図3Cに示すS11からS17の一連の手順を実行することにより行われる。
S2において、画像中に曇り領域が検出されなかった場合(S3、No)、現在入力されている画像信号を映像表示部56に出力し(S9)、処理を終了する。一方、S2において、画像中に曇り領域が検出された場合(S3、Yes)、現在入力されている画像信号の出力を停止し、他方の画像信号を出力するよう、プロセッサ4に指示する(S4)。例えば、L画像信号が入力されており、当該画像中に曇り領域が検出された場合、ch切替指示部543は、L画像信号に替えてR画像信号を出力するよう、通信部544を介してプロセッサ4に指示を入力する。
プロセッサ4から別眼の画像信号(例えば、R画像信号)が入力されると、画像検出部541は、当該画像信号における曇り領域を検出する(S5)。S5における曇り検出処理は、S2における曇り検出処理と同様である。S5において、画像中に曇り領域が検出されなかった場合(S6、No)、現在入力されている画像信号を映像表示部56に出力し(S9)、処理を終了する。一方、S5において、画像中に曇り領域が検出された場合(S6、Yes)、画像生成部545は、現在入力されている画像信号と、記録部546に格納されている別眼の画像信号とを重畳して、曇り領域を補完した合成画像の生成が可能か否かを判定する(S7)。
両眼の画像信号を重畳して、合成画像の生成が可であると判定された場合(S7、Yes)、画像生成部545は、L画像信号とR画像信号とを用いて、ベース画像上の曇り領域を、他方の画像を重畳することで補完し、曇り領域のない合成画像を生成し、映像表示部56に出力して(S8)、一連の処理を終了する。一方、合成画像の生成が不可であると判定された場合(S7、No)、画像生成部545は、レンズの洗浄を促す旨のエラーメッセージを映像表示部56に出力し(S10)、処理を終了する。
図7は、3D画像を生成する手順の一例を説明するフローチャートである。次に、図7を用いて、3D内視鏡画像を生成する手順を説明する。まず、画像検出部551は、プロセッサ4から入力される画像信号を、予め設定された所定時間間隔で記録する(S21)。
続いて、画像検出部551は、記録された画像信号を、L画像信号とR画像信号とに分離し、両眼の画像における曇り領域を検出する(S22)。S22における曇り検出処理は、図3A、図3B、図3Cに示すS11からS17の一連の手順を実行することにより行われる。
S22において、両眼の画像ともに曇り領域が検出されなかった場合(S23、No)、現在入力されている画像信号を映像表示部56に出力し(S27)、処理を終了する。一方、S22において、画像中に曇り領域が検出された場合(S23、Yes)、曇り領域が検出された画像が片眼の画像信号であるか、両眼の画像信号であるかを判定する(S24)。
曇り領域が片眼の画像信号のみから検出された場合(S24、Yes)、画像検出部551は、曇り領域のないほうの画像信号を擬似3D変換部554に出力する。擬似3D変換部554は、入力された画像信号から、逆の眼の画像信号を擬似的に生成する。そして、入力された画像信号と、擬似的に生成した画像信号とから、モニタ5の3D表示方式に対応した画像信号を生成し、映像表示部56に出力する(S28)。
一方、曇り領域が両眼の画像信号から検出された場合(S24、No)、画像検出部551は、両眼の画像信号を、画像生成部553に出力する。画像生成部553は、両眼の画像信号を重畳して、曇り領域を補完した合成画像の生成が可能か否かを判定する(S25)。
両眼の画像信号を重畳して、合成画像の生成が可であると判定された場合(S25、Yes)、画像生成部553は、両眼の画像信号を用いて、ベース画像上の曇り領域を他方の画像を重畳することで補完し、曇り領域のない合成画像を生成し、擬似3D変換部554に出力する(S26)。
このとき、合成画像として出力した画像信号は、ベース画像側の画像信号として出力する。例えば、ベース画像として左目内視鏡画像が選択された場合、合成画像はL画像信号として出力される。擬似3D変換部554に入力された画像信号は、入力された画像信号から、逆の眼の画像信号を擬似的に生成する。そして、入力された画像信号と、擬似的に生成した画像信号とから、モニタ5の3D表示方式に対応した画像信号を生成し、映像表示部56に出力する(S28)。
一方、合成画像の生成が不可であると判定された場合(S25、No)、画像生成部553は、レンズの洗浄を促す旨のエラーメッセージを映像表示部56に出力し(S29)、処理を終了する。
このように、本実施形態の3D内視鏡装置は、入力される画像信号から曇り領域の有無を検出する判断部542、552を設けている。2D内視鏡画像の表示中においては、判断部542によって表示画像中に曇り領域を検出すると、他眼の画像信号を用いて2D内視鏡画像を生成する。また、両レンズとも曇りが発生している場合、画像生成部545は、左目内視鏡画像と右目内視鏡画像の曇りの発生していない領域同士を補完して、1つの2D内視鏡画像を生成する。従って、対物レンズに曇りが生じたり汚れが付着したりした場合にも、手技を中断することなく鮮明な内視鏡画像を出力することができる。
また、3D内視鏡画像の表示中においては、判断部552によって表示画像中に曇り領域を検出すると、疑似3D変換部554は、曇りが発生していない他眼の画像信号を変換して、曇りが発生しているレンズ側の画像信号を生成する。生成した画像信号と他眼の画像信号とを用い、3D内視鏡画像を生成する。
また、両レンズとも曇りが発生している場合、画像生成部553は、左目内視鏡画像と右目内視鏡画像の曇りの発生してない領域同士を補完して、曇り領域が少ないほうのレンズ側の画像信号を生成する。そして、画像生成部553で生成した画像信号を用い、疑似3D変換部554において、他眼の画像信号を生成する。画像生成部553で生成した画像信号と、疑似3D変換部554で生成した画像信号とを用い、3D内視鏡画像を生成する。従って、対物レンズに曇りが生じたり汚れが付着したりした場合にも、手技を中断することなく鮮明な内視鏡画像を出力することができる。
なお、画像生成部545、553では、曇り領域の少ないほうのレンズで撮像した内視鏡画像における曇り領域を、他眼の内視鏡画像を用いて補完するため、生成した内視鏡画像の画質が低下する可能性がある。従って、本発明の3D内視鏡装置は、精査ではなく、術野を俯瞰するシーンや、スクリーニングのシーンなど、比較的精緻さを要さない場面に用いることが望ましい。
(第2の実施形態)
上述した第1の実施形態の3D内視鏡装置では、術者などによって2D/3D切替スイッチ15を用いて入力される、2D内視鏡画像と3D内視鏡画像のどちらをモニタ5に表示させるかの指示が、プロセッサ4に入力されており、プロセッサ4は同指示に従って2D用の画像信号と3D用の画像信号を生成してモニタ5に出力していた。これに対し、本実施形態においては、プロセッサ4からは常に3D用の画像信号がモニタ5に出力されている点と、2D内視鏡画像と3D内視鏡画像のどちらをモニタ5に表示させるかの指示は、モニタ5に入力されており、同指示に従った画像をモニタ5内で生成する点が異なっている。
図8は、第2の実施形態に係わるプロセッサ、及び、表示装置の構成の一例を説明するブロック図である。本実施形態の3D内視鏡装置は、プロセッサ4´の構成要素から、2D/3D切替部43、2D処理部44、及び、通信部47が削除されている点と、モニタ5´の2D処理部54´の構成要素から、ch切替指示部543と、通信部544が削除されている点、及び、2D/3D検知部52の替わりに2D/3D切替部53が設けられている点を除き、図2を用いて説明した第1の実施形態の3D内視鏡装置と同様である。同じ構成には同一の符号を付し、説明を省略する。
プロセッサ4´は、内視鏡2から入力されたL画像信号とR画像信号に対し、各種画像処理を施した後、3D処理部45において、3D内視鏡画像用の画像信号(例えば、インターレース方式の画像信号)を生成する。3D内視鏡画像用の画像信号は、出力部46を介してモニタ5´の入力部51に入力される。
モニタ5´の2D/3D切替部53は、2D/3D切替スイッチ15によって術者などから入力される指示内容に従い、入力部51に入力された3D内視鏡画像用の画像信号の出力先を切り替える。すなわち、2D内視鏡画像を表示させるように指示されている場合、2D/3D切替部53は、3D内視鏡画像用の画像信号を2D処理部54´に出力する。一方、3D内視鏡画像を表示させるように指示されている場合、2D/3D切替部53は、3D内視鏡画像用の画像信号を3D処理部55に出力する。
2D処理部54´は、入力された3D内視鏡画像用の画像信号からL画像信号とR画像信号とを分離する。両画像信号において、レンズの曇りや汚れの領域(以下、曇り領域と示す)の有無を検出し、曇り領域が検出された場合には、曇り領域を補完し曇りや汚れのない画像を生成する。2D処理部54´は、画像検出部541´と、画像生成部545とから構成されている。
画像検出部541´は、予め指定されたほうの画像信号(通常は、左目内視鏡画像を2D内視鏡画像として表示するので、L画像信号が指定されている)について、曇り領域の有無を判定する。判断部542が曇り領域なしと判定した場合、同画像信号(L画像信号)を映像表示部56に出力する。一方、判断部542が曇り領域ありと判定した場合、もう片方の画像信号(上述の場合、R画像信号)について、曇り領域の有無を判定する。判断部542が曇り領域なしと判定した場合、同画像信号(R画像信号)を映像表示部56に出力する。
一方、もう片方の画像信号も曇り領域ありと判定した場合、画像検出部541´は、両眼の画像信号を画像生成部545に出力する。画像生成部545は、入力されたL画像信号とR画像信号とを用いて、曇り領域を補完した画像を生成する。画像生成部545は、生成した合成画像、または、エラーメッセージを、映像表示部56に出力する。
3D処理部55の構成、及び、機能は、図2を用いて説明した第1の実施の形態と同様である。
次に、本実施形態の3D内視鏡装置のモニタ5において、2D内視鏡画像を生成する手順について説明する。(3D内視鏡画像を生成する手順は、図7のフローチャートを用いて説明した手順と同様である。)図9は、第2の実施形態に係わる2D画像を生成する手順の一例を説明するフローチャートである。まず、画像検出部541´は、プロセッサ4から入力される3D画像信号をL画像信号とR画像信号とに分離し、両画像信号を予め設定された所定時間間隔で記録する(S1)。
続いて、画像検出部541は、予め指定された片方の画像信号(例えば、L画像信号)における曇り領域を検出する(S2)。S2において、画像中に曇り領域が検出されなかった場合(S3、No)、現在入力されている画像信号を映像表示部56に出力し(S9)、処理を終了する。一方、S2において、画像中に曇り領域が検出された場合(S3、Yes)、他眼の画像信号(例えば、R画像信号)における曇り領域を検出する(S5)。S5における曇り検出処理は、S2における曇り検出処理と同様である。S5において、画像中に曇り領域が検出されなかった場合(S6、No)、現在入力されている画像信号を映像表示部56に出力し(S9)、処理を終了する。一方、S5において、画像中に曇り領域が検出された場合(S6、Yes)、画像生成部545は、現在入力されている画像信号と、記録部546に格納されている別眼の画像信号とを重畳して、曇り領域を補完した合成画像の生成が可能か否かを判定する(S7)。
両眼の画像信号を重畳して、合成画像の生成が可であると判定された場合(S7、Yes)、画像生成部545は、入力された3D画像信号を分離して得られたL画像信号とR画像信号とを用い、ベース画像上の曇り領域を他方の画像を重畳することで補完する。曇り領域のない合成画像を生成し、映像表示部56に出力して(S38)、一連の処理を終了する。一方、合成画像の生成が不可であると判定された場合(S7、No)、画像生成部545は、レンズの洗浄を促す旨のエラーメッセージを映像表示部56に出力し(S10)、処理を終了する。
このように、本実施形態によれば対物レンズに曇りが生じたり汚れが付着したりした場合にも、2D処理部54´、及び、3D処理部55において、曇りのないほうの内視鏡画像を選択的に出力したり、左目内視鏡画像と右目内視鏡画像の曇りの発生していない領域同士を補完して、曇りのない合成画像を生成したり、合成画像や曇りのないほうの内視鏡画像を用いて疑似3D画像を生成したりするので、手技を中断することなく鮮明な内視鏡画像を出力することができる。
また、本実施形態によれば、プロセッサ4´からモニタ5´に対し、常に3D内視鏡画像用の画像信号、すなわち、L画像信号とR画像信号が両方とも入力される。従って、2D処理部54´において、曇りのない画像信号を生成する際に、片眼の画像信号において曇り領域が検出された場合に、他眼の画像信号をプロセッサ4´に要求する必要がなくなるので、プロセッサ4´とモニタ5´間の通信が減り、処理手順が簡略化され、処理時間の短縮化を図ることができる。また、プロセッサ4´、モニタ5´、共に、構成要素を削減することができ、装置の小型化を図ることができる。
(第3の実施形態)
上述した第2の実施形態の3D内視鏡装置では、プロセッサ4´から入力された画像信号を用いて、モニタ5´の2D処理部54´と3D処理部55とにおいて曇りのない画像信号を生成していた。これに対し、本実施形態においては、プロセッサ4”の2D処理部44´と3D処理部45´とにおいて、曇りのない画像信号を生成する点が異なっている。
図10は、第3の実施形態に係わるプロセッサの構成の一例を説明するブロック図である。本実施形態における、3D映像処理装置としてのプロセッサ4“は、2D/3D切替部43を有する点と、2D処理部44´の構成が、図8に示すモニタ5´の2D処理部54´の構成と同一である点と、3D処理部45´の構成が、図8に示すモニタ5´の3D処理部55´の構成と同一である点を除き、図8を用いて説明した第2の実施形態のプロセッサ4´と同様である。同じ構成には同一の符号を付し、説明を省略する。
2D/3D切替スイッチ15によって、2D内視鏡画像をモニタ5に表示させるように指示されている場合、内視鏡2から出力され、各種画像処理を施されたR画像信号とL画像信号が、2D/3D切替部43から2D処理部44´に入力される。
2D処理部54´は、入力されたL画像信号とR画像信号において、レンズの曇りや汚れの領域(以下、曇り領域と示す)の有無を検出し、曇り領域が検出された場合には、曇り領域を補完し曇りや汚れのない画像を生成する。2D処理部44´は、画像検出部541´と、画像生成部545とから構成されている。
画像検出部541´は、予め指定されたほうの画像信号(通常は、左目内視鏡画像を2D内視鏡画像として表示するので、L画像信号が指定されている)について、曇り領域の有無を判定する。判断部542が曇り領域なしと判定した場合、同画像信号(L画像信号)を出力部46に出力する。一方、判断部542が曇り領域ありと判定した場合、もう片方の画像信号(上述の場合、R画像信号)について、曇り領域の有無を判定する。判断部542が曇り領域なしと判定した場合、同画像信号(R画像信号)を出力部46に出力する。
一方、もう片方の画像信号も曇り領域ありと判定した場合、画像検出部541´は、両眼の画像信号を画像生成部545に出力する。画像生成部545は、入力されたL画像信号とR画像信号とを用いて、曇り領域を補完した画像を生成する。画像生成部545は、生成した合成画像、または、エラーメッセージを、出力部46に出力する。
2D/3D切替スイッチ15によって、3D内視鏡画像をモニタ5に表示させるように指示されている場合、内視鏡2から出力され、各種画像処理を施されたR画像信号とL画像信号が、2D/3D切替部43から3D処理部45´に入力される。
3D処理部45´の構成、及び、機能は、画像信号(またはエラーメッセージ)の出力先が出力部46である点を除き、図8を用いて説明した第2の実施の形態におけるモニタ5´の3D処理部55´と同様である。
出力部46は、2D処理部54´、または、3D処理部45´から入力された画像信号を、モニタ5”の入力部51へ出力する。
モニタ5”では、入力部51に入力された画像信号が映像表示部56に出力され、2Dまたは3Dの内視鏡画像が表示される。
このように、本実施形態によれば対物レンズに曇りが生じたり汚れが付着したりした場合にも、2D処理部44´、及び、3D処理部45´において、曇りのないほうの内視鏡画像を選択的に出力したり、左目内視鏡画像と右目内視鏡画像の曇りの発生していない領域同士を補完して、曇りのない合成画像を生成したり、合成画像や曇りのないほうの内視鏡画像を用いて疑似3D画像を生成したりするので、手技を中断することなく鮮明な内視鏡画像を出力することができる。
また、本実施形態によれば、プロセッサ4”において、内視鏡2から入力されたL画像信号とR画像信号における曇り領域の検出から、曇り領域を補完した合成画像の生成まで行う。従って、モニタ5”はプロセッサ4”から入力された画像信号をそのまま表示すればよいので、従来の構成の3D内視鏡画像表示用のモニタを用いることができる。
本発明の3D内視鏡装置、及び、3D映像処理装置によれば、対物レンズに曇りが生じたり汚れが付着したりした場合にも、手技を中断することなく鮮明な内視鏡画像を出力することができる。
本明細書における各「部」は、実施の形態の各機能に対応する概念的なもので、必ずしも特定のハードウェアやソフトウエア・ルーチンに1対1には対応しない。従って、本明細書では、実施の形態の各機能を有する仮想的回路ブロック(部)を想定して実施の形態を説明した。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として例示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
本出願は、2017年5月19日に日本国に出願された特願2017−99552号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲に引用されるものとする。

Claims (12)

  1. 第1の撮像系により得られる第1の映像信号と、第2の撮像系により得られる第2の映像信号とが入力される映像信号入力部と、
    前記映像信号入力部より得られる2D用映像信号と3D用映像信号とを識別する2D/3D識別部と、
    前記2D/3D識別部が、2D用映像信号を検知したとき、2D画像が表示される表示領域を解析し、曇り領域を検出する画像状態検出部と、
    前記画像状態検出部の検出結果が、前記第1の撮像系、または、前記第2の撮像系のいずれか片方の撮像系から得られる映像信号のみ曇り領域が検出された場合、他方の映像信号に切り替えるch切替指示部と、
    前記画像状態検出部の検出結果が、前記第1の撮像系、及び、前記第2の撮像系の両方の映像に曇り領域が検出された場合、前記第1の映像信号により得られる画像の曇り領域が発生していない領域と前記第2の映像信号により得られる画像の曇り領域が発生していない領域とを補完して曇り領域を低減させた合成画像を生成する画像合成部と、
    前記2D用映像信号、及び、前記3D用映像信号を表示する表示部と、
    を備えたことを特徴とする、3D内視鏡装置。
  2. 前記画像状態検出部は、所定の間隔で撮影される複数の前記2D画像のそれぞれを、複数の領域に分割し、前記分割された各領域の画像情報を、複数の前記2D画像間で相互に比較して差分を算出し、前記差分のない前記分割された領域の数をカウントし、前記カウントされた領域の数が、第一の閾値以上である場合に、前記2D画像に曇り領域を検出したと判定することを特徴とする、請求項1に記載の3D内視鏡装置。
  3. 前記画像状態検出部は、前記識別部が前記3D用映像信号を検知したとき、3D画像が表示される表示領域を解析して曇り領域を検出し、
    更に、前記第1の撮像系、又は、前記第2の撮像系のいずれか片方の撮像系から得られる曇り領域のない映像信号、または、前記画像合成部により生成された合成画像を、擬似的に前記3D用映像信号に変換する擬似3D変換部を有することを特徴とする、請求項1に記載の3D内視鏡装置。
  4. 前記画像状態検出部は、所定の間隔で撮影される複数の前記3D画像のそれぞれを、複数の領域に分割し、前記分割された各領域の画像情報を、複数の前記3D画像間で相互に比較して差分を算出し、前記差分のない前記分割された領域の数をカウントし、前記カウントされた領域の数が、第一の閾値以上である場合に、前記3D画像に曇り領域を検出したと判定することを特徴とする、請求項3に記載の3D内視鏡装置。
  5. 前記画像情報は、RGB画素値であることを特徴とする、請求項2に記載の3D内視鏡装置。
  6. 第1の撮像系により得られる第1の映像信号と、第2の撮像系により得られる第2の映像信号とが入力される映像信号入力部と、
    前記第1の映像信号における第1の画像の表示領域、及び/または、前記第2の映像信号における第2の画像の表示領域を解析し、曇り領域を検出する画像状態検出部と、
    前記画像状態検出部の検出結果が、前記第1の撮像系、及び、前記第2の撮像系の両方の映像に曇り領域が検出された場合、前記第1の映像信号により得られる画像の曇り領域が発生していない領域と前記第2の映像信号により得られる画像の曇り領域が発生していない領域とを補完して曇り領域を低減させた合成画像を生成する画像合成部と、
    前記第1の撮像系、又は、前記第2の撮像系のいずれか片方の撮像系から得られる曇り領域のない映像信号、または、前記画像合成部により生成された合成画像を、擬似的に3D用映像信号に変換する擬似3D変換部と、
    前記第1の映像信号、または、前記第2の映像信号、または、前記合成画像のいずれかからなる2D用映像信号、及び、前記3D用映像信号を表示する表示部と、
    を備えたことを特徴とする、3D内視鏡装置。
  7. 前記画像状態検出部は、所定の間隔で撮影される複数の前記第1の画像、または、所定の間隔で撮影される複数の前記第2の画像のそれぞれを、複数の領域に分割し、前記分割された各領域の画像情報を、複数の前記第1の画像間、または、複数の前記第2の画像間で相互に比較して差分を算出し、前記差分のない前記分割された領域の数をカウントし、前記カウントされた領域の数が、第一の閾値以上である場合に、前記第1の画像、または、前記第2の画像に曇り領域を検出したと判定することを特徴とする、請求項6に記載の3D内視鏡装置。
  8. 前記画像情報は、RGB画素値であることを特徴とする、請求項7に記載の3D内視鏡装置。
  9. 第1の撮像系により得られる第1の映像信号と、第2の撮像系により得られる第2の映像信号とが入力される映像信号入力部と、
    前記第1の映像信号における第1の画像の表示領域、及び/または、前記第2の映像信号における第2の画像の表示領域を解析し、曇り領域を検出する画像状態検出部と、
    前記画像状態検出部の検出結果が、前記第1の撮像系、及び、前記第2の撮像系の両方の映像に曇り領域が検出された場合、前記第1の映像信号により得られる画像の曇り領域が発生していない領域と前記第2の映像信号により得られる画像の曇り領域が発生していない領域とを補完して曇り領域を低減させた合成画像を生成する画像合成部と、
    前記第1の映像信号、または、前記第2の映像信号、または、前記合成画像のいずれかからなる2D用映像信号を出力する出力部と、
    を備えたことを特徴とする、3D映像処理装置。
  10. 前記第1の撮像系、又は、前記第2の撮像系のいずれか片方の撮像系から得られる曇り領域のない映像信号、または、前記画像合成部により生成された合成画像を、擬似的に3D用映像信号に変換する擬似3D変換部を更に備えており、
    前記出力部は、前記2D用映像信号、または、前記3D用映像信号を出力することを特徴とする、請求項9に記載の3D映像処理装置。
  11. 前記画像状態検出部は、所定の間隔で撮影される複数の前記第1の画像、または、所定の間隔で撮影される複数の前記第2の画像のそれぞれを、複数の領域に分割し、前記分割された各領域の画像情報を、複数の前記第1の画像間、または、複数の前記第2の画像間で相互に比較して差分を算出し、前記差分のない前記分割された領域の数をカウントし、前記カウントされた領域の数が、第一の閾値以上である場合に、前記第1の画像、または、前記第2の画像に曇り領域を検出したと判定することを特徴とする、請求項10に記載の3D映像処理装置。
  12. 前記画像情報は、RGB画素値であることを特徴とする、請求項11に記載の3D映像処理装置。
JP2019510460A 2017-05-19 2018-04-06 3d内視鏡装置、及び、3d映像処理装置 Active JP6655756B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017099552 2017-05-19
JP2017099552 2017-05-19
PCT/JP2018/014811 WO2018211854A1 (ja) 2017-05-19 2018-04-06 3d内視鏡装置、及び、3d映像処理装置

Publications (2)

Publication Number Publication Date
JPWO2018211854A1 JPWO2018211854A1 (ja) 2019-07-11
JP6655756B2 true JP6655756B2 (ja) 2020-02-26

Family

ID=64273961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019510460A Active JP6655756B2 (ja) 2017-05-19 2018-04-06 3d内視鏡装置、及び、3d映像処理装置

Country Status (4)

Country Link
US (1) US10966592B2 (ja)
JP (1) JP6655756B2 (ja)
CN (1) CN110944566B (ja)
WO (1) WO2018211854A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110325098A (zh) 2016-11-28 2019-10-11 适内有限责任公司 具有可分离一次性轴的内窥镜
US11510561B2 (en) * 2018-08-21 2022-11-29 Verily Life Sciences Llc Endoscope defogging
WO2020044523A1 (ja) * 2018-08-30 2020-03-05 オリンパス株式会社 記録装置、画像観察装置、観察システム、観察システムの制御方法、及び観察システムの作動プログラム
JP7255288B2 (ja) * 2019-03-29 2023-04-11 ソニーグループ株式会社 画像処理システム、画像処理装置、及び画像処理方法
CN110995997A (zh) * 2019-12-11 2020-04-10 苏州新光维医疗科技有限公司 一种单镜头内窥镜图像处理转换方法
USD1018844S1 (en) 2020-01-09 2024-03-19 Adaptivendo Llc Endoscope handle
CN115397304A (zh) 2020-04-08 2022-11-25 富士胶片株式会社 医疗图像处理系统、识别处理用处理器装置及医疗图像处理系统的工作方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0829701A (ja) * 1994-07-18 1996-02-02 Olympus Optical Co Ltd 立体視内視鏡システム
JPH08160322A (ja) * 1994-12-05 1996-06-21 Terumo Corp 立体内視鏡システム
JPH11318909A (ja) 1998-05-14 1999-11-24 Olympus Optical Co Ltd 煙除去システム
US20060173358A1 (en) * 2005-01-11 2006-08-03 Olympus Corporation Fluorescence observation endoscope apparatus and fluorescence observation method
KR100813961B1 (ko) * 2005-06-14 2008-03-14 삼성전자주식회사 영상 수신장치
US20090192523A1 (en) * 2006-06-29 2009-07-30 Intuitive Surgical, Inc. Synthetic representation of a surgical instrument
JP2011036582A (ja) 2009-08-18 2011-02-24 Hoya Corp 汚れ検知方法、及び医療用観察システム
CN101862205A (zh) * 2010-05-25 2010-10-20 中国人民解放军第四军医大学 一种结合术前影像的术中组织跟踪方法
US10092164B2 (en) * 2011-08-21 2018-10-09 M.S.T. Medical Surgery Technologies Ltd Device and method for assisting laparoscopic surgery—rule based approach
JP5816524B2 (ja) * 2011-11-04 2015-11-18 オリンパス株式会社 ワイヤレス内視鏡システム
JP5919533B2 (ja) * 2011-12-15 2016-05-18 パナソニックIpマネジメント株式会社 内視鏡およびこれを備えた内視鏡システム
US9642606B2 (en) * 2012-06-27 2017-05-09 Camplex, Inc. Surgical visualization system
WO2014136140A1 (ja) * 2013-03-05 2014-09-12 パナソニック株式会社 映像処理装置および映像処理方法
JP5914765B2 (ja) * 2013-12-04 2016-05-11 オリンパス株式会社 ワイヤレス伝送システム
JP5893808B2 (ja) * 2014-01-24 2016-03-23 オリンパス株式会社 立体内視鏡画像処理装置
JP2015226216A (ja) 2014-05-28 2015-12-14 オリンパス株式会社 医療用画像記録装置
CN205181290U (zh) * 2015-01-14 2016-04-27 白欣立 具有拍照后聚焦功能的光场式胶囊内窥镜相机
JP2016158886A (ja) 2015-03-02 2016-09-05 パナソニックIpマネジメント株式会社 内視鏡及び内視鏡システム
JP7094742B2 (ja) * 2018-03-20 2022-07-04 ソニー・オリンパスメディカルソリューションズ株式会社 三次元内視鏡システム
US20200054243A1 (en) * 2018-08-17 2020-02-20 Acclarent, Inc. Endoscope with anatomy elevation assembly
US11510561B2 (en) * 2018-08-21 2022-11-29 Verily Life Sciences Llc Endoscope defogging

Also Published As

Publication number Publication date
US10966592B2 (en) 2021-04-06
CN110944566A (zh) 2020-03-31
JPWO2018211854A1 (ja) 2019-07-11
CN110944566B (zh) 2021-12-21
US20200077869A1 (en) 2020-03-12
WO2018211854A1 (ja) 2018-11-22

Similar Documents

Publication Publication Date Title
JP6655756B2 (ja) 3d内視鏡装置、及び、3d映像処理装置
JP5893808B2 (ja) 立体内視鏡画像処理装置
JP6296365B2 (ja) 手術内視鏡用カメラコントロールユニット
JP6912313B2 (ja) 画像処理装置、カメラ装置及び画像処理方法
JP2005334462A (ja) 立体視内視鏡システム
JP2019029876A (ja) 画像処理装置、カメラ装置及び出力制御方法
JP5851656B2 (ja) 画像信号出力装置及び画像信号送受信システム
EP3247113B1 (en) Image processing device, image processing method, program, and endoscope system
JPH0735989A (ja) 立体視内視鏡
JP2016046780A (ja) 画像記録装置
JP3273074B2 (ja) 映像表示装置
WO2013161485A1 (ja) 電子内視鏡、画像処理装置、電子内視鏡システム及び立体視用画像生成方法
JP2000278710A (ja) 両眼立体視画像評価装置
JPS63244011A (ja) 電子内視鏡
JP6368886B1 (ja) 内視鏡システム
JP5818265B2 (ja) 立体内視鏡装置
JP2019029875A (ja) 画像処理装置、カメラ装置及び画像処理方法
JP5936508B2 (ja) 立体内視鏡装置及びその画像取込方法
JP7055624B2 (ja) 医療用撮像装置
JPH11168717A (ja) ビデオスコープ
JPH10146330A (ja) X線ステレオ画像表示装置
JPH10117362A (ja) 立体視映像表示装置
JP7211835B2 (ja) 撮像システムおよび同期制御方法
JP2004233480A (ja) 立体内視鏡システム
JPH08304718A (ja) 内視鏡装置、内視鏡用画像処理装置、および内視鏡の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190220

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190220

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190402

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200203

R151 Written notification of patent or utility model registration

Ref document number: 6655756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250