JPWO2019244248A1 - 内視鏡装置、内視鏡装置の作動方法及びプログラム - Google Patents

内視鏡装置、内視鏡装置の作動方法及びプログラム Download PDF

Info

Publication number
JPWO2019244248A1
JPWO2019244248A1 JP2020525123A JP2020525123A JPWO2019244248A1 JP WO2019244248 A1 JPWO2019244248 A1 JP WO2019244248A1 JP 2020525123 A JP2020525123 A JP 2020525123A JP 2020525123 A JP2020525123 A JP 2020525123A JP WO2019244248 A1 JPWO2019244248 A1 JP WO2019244248A1
Authority
JP
Japan
Prior art keywords
image
light
wavelength
layer
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020525123A
Other languages
English (en)
Other versions
JP7163386B2 (ja
Inventor
恵仁 森田
恵仁 森田
順平 高橋
順平 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2019244248A1 publication Critical patent/JPWO2019244248A1/ja
Application granted granted Critical
Publication of JP7163386B2 publication Critical patent/JP7163386B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2461Illumination
    • G02B23/2469Illumination using optical fibres
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/044Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for absorption imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2423Optical details of the distal end
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2461Illumination

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)

Abstract

内視鏡装置1は、第1の光及び第2の光を照射する照明部3と、照明部3の照射に基づく被検体からの戻り光を撮像する撮像部10と、撮像された画像を用いて画像処理を行う画像処理部17を含む。第1の光は、生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である。第2の光は、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、筋層の吸光度に比べて脂肪の吸光度が低い光である。

Description

本発明は、内視鏡装置、内視鏡装置の作動方法及びプログラム等に関する。
内視鏡装置を用いた生体内の観察及び処置においては、画像処理によって特定の被写体を強調する手法が広く知られている。例えば特許文献1は、特定の波長帯域の光の照射によって撮像される画像信号に基づいて、特定の深さにある血管の情報を強調する手法を開示している。また特許文献2は、βカロテンの吸光特性を考慮した複数の波長帯域の照明光を照射することによって、脂肪層を強調する手法を開示している。
また内視鏡装置を用いて、経尿道的に膀胱腫瘍を切除する手技(経尿道的膀胱腫瘍切除術:TUR−Bt)が広く知られている。
特開2016−67775号公報 国際公開第2013/115323号
TUR−Btでは、膀胱内に灌流液を満たした状態で腫瘍の切除が行われる。灌流液の影響によって、膀胱壁は薄く引き伸ばされた状態となる。この状態で手技が行われるため、TUR−Btでは穿孔のリスクが伴う。膀胱壁は、内側から粘膜層、筋層、脂肪層の3層で構成されている。そのため、各層の識別が容易となる形態を用いて表示を行うことによって、穿孔を抑制することが可能と考えられる。
しかし特許文献1及び特許文献2は、血管の強調又は脂肪層単体の強調を行う手法を開示するのみであり、粘膜層、筋層及び脂肪層から構成される被写体の撮像において、各層の視認性を向上させる手法を開示していない。なお、ここではTUR−Btを例示したが、粘膜層、筋層及び脂肪層の3層が、識別容易な態様を用いて表示されないという課題は、膀胱を対象とした他の手技においても同様であるし、生体の他の部位に対する観察や手技においても同様である。
本発明の幾つかの態様によれば、粘膜層、筋層及び脂肪層の識別に好適な画像を提示する内視鏡装置、内視鏡装置の作動方法及びプログラム等を提供できる。
本発明の一態様は、第1の光及び第2の光を含む複数の照明光を照射する照明部と、前記照明部の照射に基づく被検体からの戻り光を撮像する撮像部と、前記撮像部によって撮像された前記第1の光及び前記第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行う画像処理部と、を含み、前記照明部は、生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である前記第1の光を照射し、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、前記筋層の吸光度に比べて脂肪の吸光度が低い光である前記第2の光を照射する内視鏡装置に関係する。
本発明の他の態様は、生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である第1の光、及び、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、前記筋層の吸光度に比べて脂肪の吸光度が低い光である第2の光を含む複数の照明光を照射し、前記複数の照明光の照射に基づく被検体からの戻り光を撮像し、撮像された前記第1の光及び前記第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行う内視鏡装置の作動方法に関係する。
本発明のさらに他の態様は、生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である第1の光、及び、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、前記筋層の吸光度に比べて脂肪の吸光度が低い光である第2の光を含む複数の照明光を照明部に照射させ、前記照明部の照射に基づく被検体からの戻り光を撮像し、撮像された前記第1の光及び前記第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行う、ステップをコンピュータに実行させるプログラムに関係する。
図1(A)、図1(B)はTUR−Btの説明図。 内視鏡装置の構成例。 図3(A)本実施形態の照明光の分光特性の例、図3(B)は粘膜層、筋層及び脂肪層の吸光度の説明図、図3(C)は白色光観察時の照明光の分光特性の例。 画像処理を説明するフローチャート。 構造強調処理の具体的な流れを説明する模式図。 構造強調処理を説明するフローチャート。 色強調処理を説明するフローチャート。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.本実施形態の手法
まず本実施形態の手法について説明する。なお、以下ではTUR−Btを例にとって説明を行うが、本実施形態の手法は、粘膜層、筋層及び脂肪層を識別する必要がある他の場面にも適用可能である。即ち、本実施形態の手法は、TUR−BO(経尿道的膀胱腫瘍一塊切除術)等の膀胱を対象とした他の手技に適用してもよいし、膀胱とは異なる部位を対象とした観察や手技に適用してもよい。
図1(A)、図1(B)はTUR−Btの説明図である。図1(A)は腫瘍が発生している状態の膀胱壁の一部を例示する模式図である。膀胱壁は内側から粘膜層、筋層、脂肪層の3層で構成される。腫瘍は、比較的初期の段階では粘膜層に留まるが、進行するにつれて筋層や脂肪層等の深い層に浸潤していく。図1(A)では、筋層に浸潤していない腫瘍を例示している。
図1(B)は、TUR−Btによって腫瘍が切除された後の膀胱壁の一部を例示する模式図である。TUR−Btでは、少なくとも腫瘍周辺の粘膜層が切除される。例えば、粘膜層、及び筋層のうちの粘膜層に近い一部が切除対象となる。切除された組織は、病理診断の対象となり、腫瘍の性質、及びどの深さまで腫瘍が達しているかが調べられる。また、図1(A)に例示したように腫瘍が筋層非浸潤性がんの場合、病態によってはTUR−Btを用いて腫瘍を完全に切除可能である。即ち、TUR−Btは診断と治療を兼ねた手技である。
TUR−Btにおいては、筋層に浸潤していない比較的早期の腫瘍を完全に切除することを考慮すれば、膀胱壁をある程度深い層まで切除することが重要である。例えば、腫瘍周辺の粘膜層を残さないために、筋層の途中まで切除対象とすることが望ましい。一方で、TUR−Btにおいては、灌流液の影響によって膀胱壁が薄く引き伸ばされた状態となっている。そのため、過剰に深い層まで切除することによって、穿孔のリスクが増大してしまう。例えば、脂肪層は切除対象としないことが望ましい。
TUR−Btにおいて、適切な切除を実現するためには、粘膜層と筋層と脂肪層の識別が重要となる。特許文献1は、血管の視認性を向上させる手法であり、粘膜層、筋層、脂肪層の各層に対応する領域を強調する手法ではない。また特許文献2は、脂肪層を強調表示する手法を開示するものの、粘膜層及び筋層を含む3層を互いに識別するものではない。
本実施形態に係る内視鏡装置1は、図2に例示するように、照明部3と、撮像部10と、画像処理部17を含む。照明部3は、第1の光及び第2の光を含む複数の照明光を照射する。撮像部10は、照明部3の照射に基づく被検体からの戻り光を撮像する。画像処理部17は、撮像部10によって撮像された第1の光及び第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行う。
ここで、第1の光及び第2の光は、以下の特性を満たす光である。第1の光は、生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である。第2の光は、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、筋層の吸光度に比べて脂肪の吸光度が低い光である。ここで第1の光のピーク波長とは、第1の光の強度が最大となる波長を表す。他の光のピーク波長についても同様であり、当該光の強度が最大となる波長がピーク波長である。
粘膜層(生体粘膜)及び筋層は、いずれもミオグロビンを多く含む被写体である。ただし、含まれるミオグロビンの濃度は、粘膜層が相対的に高く筋層が相対的に低い。この濃度の差に起因して、粘膜層と筋層の吸光特性に差異が生じる。そして、吸光度の差は生体粘膜の吸光度が最大値となる波長の近傍において最大となる。即ち、第1の光とは、他の波長帯域にピーク波長を有する光に比べて、粘膜層と筋層の差が大きく現れる光となる。具体的には、第1の光の照射によって撮像される第1の画像は、他の光の照射によって撮像される画像に比べて、粘膜層が撮像される領域の画素値と、筋層が撮像される領域の画素値の差が大きくなる。
また第2の光は、筋層の吸光度に比べて脂肪の吸光度が低いため、第2の光の照射によって撮像される第2の画像において、筋層が撮像される領域の画素値が、脂肪層が撮像される領域の画素値に比べて小さくなる。特に、第2の光は筋層の吸光度が極大値となる波長に対応する光であるため、筋層と脂肪層の差異、即ち第2の画像における筋層領域の画素値と脂肪層領域の画素値の差が、識別可能な程度に大きくなる。
以上のように、本実施形態の手法によれば、第1の光を用いることによって粘膜層と筋層を識別でき、且つ、第2の光を用いることによって筋層と脂肪層を識別できる。このようにすれば、粘膜層、筋層及び脂肪層の3層を含む構造の被写体を撮像する際に、各層の識別が容易な態様を用いた表示が可能になる。本実施形態の手法をTUR−Btに適用する場合、穿孔のリスクを低減しつつ、適切な深さまで切除を行うことが可能になる。なお膀胱壁では、内側から粘膜層、筋層、脂肪層の順に3層が重なって構成される。そのため、中間に位置する筋層を基準として、筋層と粘膜層の識別、及び筋層と脂肪層の識別を行うことで3層の識別が可能である。
2.システム構成例
図2は、内視鏡装置1のシステム構成例を示す図である。内視鏡装置1は、挿入部2と、本体部5と、表示部6を含む。本体部5は、挿入部2に接続される照明部3と、処理部4を含む。
挿入部2は、生体内へ挿入される部分である。挿入部2は、照明部3から入力された光を被写体に向けて照射する照明光学系7と、被写体からの反射光を撮像する撮像部10を含む。撮像部10とは、具体的には撮像光学系である。
照明光学系7は、照明部3から入射された光を挿入部2の先端まで導光するライトガイドケーブル8と、光を拡散させて被写体に照射する照明レンズ9を含む。撮像部10は、照明光学系7によって照射された光のうち、被写体の反射光を集光する対物レンズ11と、対物レンズ11によって集光された光を撮像する撮像素子12を含む。撮像素子12は、CCD(Charge Coupled Device)センサやCMOS(Complementary MOS)センサ等の種々のセンサによって実現できる。撮像素子12から順次出力されるアナログ信号は、不図示のA/D変換部によってデジタルの画像に変換される。なおA/D変換部は、撮像素子12に含まれてもよいし、処理部4に含まれてもよい。
照明部3は、異なる波長帯域の光を射出する複数の発光ダイオード(LED:light emitting diode)13a〜13dと、ミラー14と、ダイクロイックミラー15を含む。複数の発光ダイオード13a〜13dのそれぞれから照射される光は、ミラー14及びダイクロイックミラー15によって同一のライトガイドケーブル8に入射する。なお、図2では発光ダイオードが4個の例を示したが、発光ダイオードの数はこれに限定されない。例えば、照明部3は第1の光と第2の光のみを照射する構成であってもよく、その場合の発光ダイオードは2個である。また発光ダイオードは3個であってもよいし、5個以上であってもよい。照明光の詳細については後述する。
また照明光の光源として、発光ダイオードに変えてレーザーダイオードを用いることも可能である。特に、後述するB2及びG2等の狭帯域光を照射する光源を、レーザーダイオードに置き換えてもよい。また、照明部3は、キセノンランプ等の白色光を照射する白色光源と、各照明光に対応する波長帯域を透過する色フィルタを有するフィルタターレットとを用いて、異なる波長帯域の光を順次照射してもよい。この場合、キセノンランプは、蛍光体と、当該蛍光体を励起するレーザーダイオードとの組み合わせに置き換えてもよい。
処理部4は、メモリ16と、画像処理部17と、制御部18を含む。メモリ16は、撮像素子12によって取得された画像信号を、照明光の波長ごとに記憶する。メモリ16は、例えばSRAM又はDRAM等の半導体メモリであるが、磁気記憶装置や光学記憶装置を用いてもよい。
画像処理部17は、メモリ16に記憶された画像信号に対する画像処理を行う。ここでの画像処理は、メモリ16に記憶された複数の画像信号に基づく強調処理と、複数の出力チャンネルの各チャンネルに画像信号を割り当てることによって表示画像を合成する処理と、を含む。複数の出力チャンネルとは、Rチャンネル、Gチャンネル、Bチャンネルの3チャンネルであるが、Yチャンネル、Crチャンネル、Cbチャンネルの3チャンネルを用いてもよいし、他の構成のチャンネルを用いてもよい。
画像処理部17は、構造強調処理部17aと、色強調処理部17bを含む。構造強調処理部17aは、画像中の構造情報(構造成分)を強調する処理を行う。色強調処理部17bは、色情報の強調処理を行う。また画像処理部17は、複数の出力チャンネルの各チャンネルに画像データを割り当てることによって、表示画像を生成する。表示画像とは、処理部4の出力画像であり、表示部6において表示される画像である。また画像処理部17は、撮像素子12から取得した画像に対して、他の画像処理を行ってもよい。例えば、ホワイトバランス処理や、ノイズ低減処理等の公知の処理を、強調処理の前処理或いは後処理として実行してもよい。
制御部18は、撮像素子12による撮像タイミングと、発光ダイオード13a〜13dの点灯タイミングと、画像処理部17の画像処理タイミングと、を同期させる制御を行う。制御部18は、例えば制御回路又はコントローラである。
表示部6は、画像処理部17から出力される表示画像を順次表示する。即ち、表示画像をフレーム画像とする動画を表示する。表示部6は、例えば液晶ディスプレイやEL(Electro-Luminescence)ディスプレイ等である。
外部I/F部19は、ユーザが内視鏡装置1に対して入力等を行うためのインターフェースである。即ち、内視鏡装置1を操作するためのインターフェース、或いは内視鏡装置1の動作設定を行うためのインターフェース等である。例えば、外部I/F部19は、観察モードを切り替えるためのモード切り替えボタン、画像処理のパラメータを調整するための調整ボタン等を含む。
なお、本実施形態の内視鏡装置1は以下のように構成されてもよい。即ち、内視鏡装置1(狭義には処理部4)は、情報を記憶するメモリと、メモリに記憶された情報に基づいて動作するプロセッサと、を含む。情報は、例えばプログラムや各種のデータである。プロセッサは、強調処理を含む画像処理、及び照明部3の照射制御を行う。
プロセッサは、例えば各部の機能が個別のハードウェアを用いて実現されてもよいし、或いは各部の機能が一体のハードウェアを用いて実現されてもよい。例えば、プロセッサはハードウェアを含み、そのハードウェアは、デジタル信号を処理する回路及びアナログ信号を処理する回路の少なくとも一方を含むことができる。例えば、プロセッサは、回路基板に実装された1又は複数の回路装置や、1又は複数の回路素子を用いて構成することができる。回路装置は例えばIC等である。回路素子は例えば抵抗、キャパシター等である。プロセッサは、例えばCPU(Central Processing Unit)であってもよい。ただし、プロセッサはCPUに限定されるものではなく、GPU(Graphics Processing Unit)、或いはDSP(Digital Signal Processor)等、各種のプロセッサを用いることが可能である。またプロセッサはASICによるハードウェア回路でもよい。またプロセッサは、アナログ信号を処理するアンプ回路やフィルタ回路等を含んでもよい。メモリは、SRAM、DRAMなどの半導体メモリであってもよいし、レジスターであってもよいし、ハードディスク装置等の磁気記憶装置であってもよいし、光学ディスク装置等の光学式記憶装置であってもよい。例えば、メモリはコンピュータによって読み取り可能な命令を格納しており、当該命令をプロセッサが実行することによって、処理部4の各部の機能が処理として実現される。ここでの命令は、プログラムを構成する命令セットの命令でもよいし、プロセッサのハードウェア回路に対して動作を指示する命令であってもよい。
また、本実施形態の処理部4の各部は、プロセッサ上で動作するプログラムのモジュールとして実現されてもよい。例えば、画像処理部17は画像処理モジュールとして実現される。制御部18は、照明光の発光タイミングと撮像素子12の撮像タイミングの同期制御等を行う制御モジュールとして実現される。
また、本実施形態の処理部4の各部が行う処理を実現するプログラムは、例えばコンピュータによって読み取り可能な媒体である情報記憶装置に格納できる。情報記憶装置は、例えば光ディスク、メモリーカード、HDD、或いは半導体メモリなどを用いて実現できる。半導体メモリは例えばROMである。ここでの情報記憶装置は、図2のメモリ16であってもよいし、メモリ16と異なる情報記憶装置であってもよい。処理部4は、情報記憶装置に格納されるプログラムに基づいて本実施形態の種々の処理を行う。即ち情報記憶装置は、処理部4の各部としてコンピュータを機能させるためのプログラムを記憶する。コンピュータは、入力装置、処理部、記憶部、出力部を備える装置である。プログラムは、処理部4の各部の処理をコンピュータに実行させるためのプログラムである。
換言すれば、本実施形態の手法は、第1の光及び第2の光を含む複数の照明光を照明部3に照射させ、照明部3の照射に基づく被検体からの戻り光を撮像し、撮像された第1の光及び第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行う、ステップをコンピュータに実行させるプログラムに適用できる。プログラムが実行するステップとは、図4、図6、図7のフローチャートに示す各ステップである。第1の光及び第2の光は、上述した通り、以下の特性を有する。即ち、第1の光は、生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光であり、第2の光は、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、筋層の吸光度に比べて脂肪の吸光度が低い光である。
3.照明部の詳細
図3(A)は、複数の発光ダイオード13a〜13dから照射される複数の照明光の特性を表す図である。図3(A)の横軸は波長を表し、縦軸が照射光の強度を表す。本実施形態の照明部3は、青色の波長帯域の光B2、B3、緑色の波長帯域の光G2、及び赤色の波長帯域の光R1を射出する4つの発光ダイオードを含む。
例えば、B2は415nm±20nmにピーク波長を有する光である。B2は、狭義には400〜430nm程度の波長帯域において所定閾値以上の強度を有する光である。B3はB2に比べてピーク波長が長い光であり、例えば430nm〜500nm程度の波長帯域において所定閾値以上の強度を有する光である。G2は、540nm±10nmにピーク波長を有する光である。G2は、狭義には520〜560nm程度の波長帯域において所定閾値以上の強度を有する光である。R1は600nm〜700nm程度の波長帯域において所定閾値以上の強度を有する光である。
図3(B)は、粘膜層、筋層及び脂肪層の吸光特性を示す図である。図3(B)の横軸は波長を表し、縦軸は吸光度の対数を表す。粘膜層(生体粘膜)及び筋層は、いずれもミオグロビンを多く含む被写体である。ただし、含まれるミオグロビンの濃度は、粘膜層が相対的に高く筋層が相対的に低い。この濃度の差に起因して、粘膜層と筋層の吸光特性に差異が生じる。そして、図3(B)に示すように、吸光度の差は生体粘膜の吸光度が最大となる415nmの近傍において最大となる。また、筋層の吸光度は複数の極大値を有する。極大値に対応する波長は、415nm、540nm、580の近傍の波長である。
また、脂肪層はβカロテンを多く含む被写体である。βカロテンは、500nm〜530nmの波長帯域で吸光度が大きく低下し、530nmよりも波長が長い帯域において平坦な吸光特性を有している。図3(B)に示すように、脂肪層はβカロテンに起因する吸光特性を有する。
図3(A)、図3(B)からわかるとおり、B2は、生体粘膜の吸光度が最大値となる波長に対応するピーク波長を有する光であり、G2は、筋層の吸光度が極大値となり、且つ、筋層の吸光度に比べて脂肪の吸光度が低い光である。つまり本実施形態における第1の光はB2に対応し、第2の光はG2に対応する。第1の光のピーク波長を含む第1の波長範囲は、415nm±20nmの範囲である。第2の光のピーク波長を含む第2の波長範囲は、540nm±10nmの範囲である。
B2及びG2を図3(A)に示した波長に設定した場合、B2の波長帯域での粘膜層の吸光度と筋層の吸光度の差が、2つの被写体を識別可能な程度に大きくなる。具体的には、B2の照射により取得されるB2画像のうち、粘膜層を撮像した領域は、筋層を撮像した領域に比べて画素値が小さく、暗くなる。即ち、B2画像を表示画像の生成に用いることによって、当該表示画像の表示態様を、粘膜層と筋層を識別が容易な態様とすることが可能になる。例えばB2画像を出力のBチャンネルに割り当てた場合、粘膜層は青色の寄与度が低い色味で表示され、筋層は青色の寄与度が高い色味で表示される。
また、G2の波長帯域での筋層の吸光度と脂肪層の吸光度の差が、2つの被写体を識別可能な程度に大きくなる。具体的には、G2の照射により取得されるG2画像のうち、筋層を撮像した領域は、脂肪層を撮像した領域に比べて画素値が小さく、暗くなる。即ち、G2画像を表示画像の生成に用いることによって、当該表示画像の表示態様を、筋層と脂肪層を識別が容易な態様とすることが可能になる。例えばG2画像を出力のGチャンネルに割り当てた場合、筋層は緑色の寄与度が低い色味で表示され、脂肪層は緑色の寄与度が高い色味で表示される。
なお図3(C)は、広く用いられている白色光画像を表示する場合に用いられる3つの照明光B1、G1、R1の特性を表す図である。図3(C)の横軸は波長を表し、縦軸が照射光の強度を表す。B1は青色の波長帯域に対応する光であり、例えば400nm〜500nmの波長帯域の光である。G1は緑色の波長帯域に対応する光であり、例えば500nm〜600nmの波長帯域の光である。R1は赤色の波長帯域に対応する光であり、例えば図3(A)と同様に600nm〜700nmの波長帯域の光である。
図3(B)、図3(C)からわかるとおり、脂肪層はB1の吸収が大きく、G1及びR1の光の吸収が小さいため、黄色調で表示される。粘膜層はB1及びG1の吸収が大きく、R1の吸収が小さいため、赤色調で表示される。筋層は、粘膜層に比べて吸光特性がフラットに近く白色調で表示される。吸光特性がフラットとは、波長変化に対する吸光度の変化が小さいことを表す。このように白色光観察モードにおいても、粘膜層、筋層及び脂肪層はある程度異なる色味で表示される。
本実施形態に係る第1の光及び第2の光は、白色光観察モードに比べて、粘膜層、筋層及び脂肪層の色分離を向上させるものである。そのためB2は、青色に対応する波長帯域のうち、粘膜層と筋層の吸光特性の差異が大きい波長帯域の寄与度が高く、粘膜層と筋層の吸光特性の差異が小さい波長帯域の寄与度が低い光であることが望ましい。具体的には、B2の波長帯域は、粘膜層と筋層の吸光特性の差異が大きい415nm近傍の波長帯域を含み、且つ、粘膜層と筋層の吸光特性の差異が低い450〜500nmの波長帯域を含まない。換言すれば、B2は白色光観察モードで用いられる光(B1)に比べて、波長帯域が狭い狭帯域光である。例えばB2の半値幅は数nm〜数10nmである。このようにすれば、画像処理部17は、図3(C)に示した照明光を用いる白色光観察モードに比べて、粘膜層と筋層の色味の差が強調された表示画像を生成することが可能になる。
同様にG2は、緑色に対応する波長帯域のうち、筋層と脂肪層の吸光特性の差異が大きい一部の波長帯域の光である。換言すれば、G2は白色光観察モードで用いられる光(G1)に比べて、波長帯域が狭い狭帯域光である。例えばG2の半値幅は数nm〜数10nmである。このようにすれば、画像処理部17は、図3(C)に示した照明光を用いる白色光観察モードに比べて、筋層と脂肪層の色味の差が強調された表示画像を生成することが可能になる。
粘膜層、筋層及び脂肪層の3層を識別が容易な態様を用いて表示するという観点からすれば、照明部3は第1の光B2と第2の光G2を照射すれば足りる。即ち、本実施形態の照明部3は、例えば第1の光B2と第2の光G2を照射し、且つ、他の光を照射しない構成によって実現できる。
ただし照明部3の構成はこれに限定されず、第1の光と第2の光のいずれとも異なる光を照射してもよい。例えば照明部3は、生体粘膜の吸光度が第1の光に比べて低く、且つ、筋層の吸光度が第2の光に比べて低い波長帯域である第3の光を照射する。図3(A)、図3(B)からわかるとおり、第3の光は例えばR1に対応する。
上述したとおり、B2画像においては、粘膜層を撮像した領域は、筋層を撮像した領域に比べて画素値が小さくなると考えられる。ただし、挿入部2と被写体の位置関係に応じて、画像上での被写体の明るさは異なる。例えば、挿入部2との距離が相対的に近い被写体は、相対的に遠い被写体に比べて明るく撮像される。また、被写体に凹凸がある場合、照明光や被写体からの反射光が凸部に遮られることによって、当該凸部の周辺領域が他の領域に比べて暗く撮像される場合もある。TUR−Btにおいては、凸部とは例えば腫瘍である。
このように照明光の届きやすさや反射光の受光のしやすさに応じて画像上での被写体の明るさ、即ち画素値が変化してしまう。粘膜層を撮像しているのに画素値が大きくなる領域、又は、筋層を撮像しているのに画素値が小さくなる領域が生じることによって、B2画像を用いた粘膜層と筋層の色分離性が低下するおそれがある。その点、R1は粘膜層の吸光度が低い。R1によって撮像されるR1画像は、B2画像に比べて、粘膜層と筋層の吸光特性の違いに起因する画素値の差が生じにくい。よって第1の光と第3の光の両方を用いることによって、粘膜層と筋層の色分離性を向上させることが可能になる。具体的な画像処理の例については後述する。
同様に、第3の光R1は、筋層の吸光度が第2の光に比べて低い。そのため、R1画像は、G2画像に比べて、筋層と脂肪層の吸光特性の違いに起因する画素値の差が生じにくい。よって第2の光と第3の光の両方を用いることによって、筋層と脂肪層の色分離性を向上させることが可能になる。この場合の具体的な画像処理の例についても後述する。
なお、第3の光としてR1を用いることによって、表示画像の演色性を向上させることも可能である。第1の光と第2の光のみを用いて表示画像を生成する場合、当該表示画像は疑似カラー画像となる。その点、第3の光としてR1を追加した場合、青色の波長帯域の光(B2)と緑色の波長帯域の光(G2)と赤色の波長帯域の光(R1)を照射することが可能になる。B2画像を出力のBチャンネルに割り当て、G2画像を出力のGチャンネルに割り当て、R1画像を出力のRチャンネルに割り当てることによって、表示画像の色味を白色光画像の自然な色味に近づけることが可能になる。
また照明部3は、第1〜第3の光のいずれとも異なる第4の光を照射することも妨げられない。第4の光は、例えば図3(A)に示したB3である。第1の光B2は、狭義には狭帯域光であるため、B2画像は白色光観察モードで撮像されるB1画像に比べて暗い画像になりやすい。そのため、B2画像を表示画像の生成に用いることによって、被写体の視認性が低くなるおそれがある。また、B2画像の画素値を増加させる補正処理を行った場合、当該補正処理によってノイズが増大するおそれもある。
その点、照明部3が第4の光としてB3を照射することによって、青色の波長帯域に対応する画像の明るさを適切に向上させることが可能になる。例えば、照明部3はB2とB3を同時に照射し、撮像部10は2つの光の照射による反射光を受光する。或いは、照明部3はB2とB3を異なるタイミングで照射し、画像処理部17は、B3の照射によって撮像されるB3画像と、B2画像を合成した後に、合成後の画像を出力のBチャンネルに割り当てる。このようにすれば、画像処理部17は、明るく被写体の視認性が高い表示画像を生成することが可能になる。
ただし、照明部3がB3を照射する場合、B2の強度とB3の強度の関係は慎重に設定される必要がある。なぜなら、B3は青色の波長帯域の光の強度を強くするという観点から照射される光であり、粘膜層と筋層の識別を考慮していないためである。即ち、B3の強度が過剰に強い場合、B2単体を照射する場合に比べて粘膜層と筋層の識別が困難になってしまう。例えば、B2とB3の強度が同程度の場合、B1を用いた通常の白色光観察モードと同程度の色分離性となってしまい、B2の光を用いる利点が損なわれるおそれがある。
よって、B2の強度は、B3の強度に比べて高く設定される。望ましくは、青色の波長帯域においてB2の寄与度が支配的となる程度に、B2の強度がB3の強度に比べて高く設定される。照明光の強度は、例えば発光ダイオードに供給される電流量を用いて制御される。このように強度を設定することによって、粘膜層と筋層を識別が容易な態様を用いて表示すること、及び、明るい表示画像を生成することが可能になる。
なお、以上ではB2を第1の光とし、B3を第1の光と異なる第4の光であるものとして説明した。ただし照明部3は、B2とB3を合わせた特性を有する1つの光を、本実施形態に係る第1の光として照射してもよい。例えば照明部3は、B2に対応する発光ダイオードとB3を照射する発光ダイオードを同時に点灯させることによって、B2とB3を合わせた特性の第1の光を照射する。或いは照明部3は、白色光源等の少なくとも青色の波長帯域を含む光を照射する光源と、フィルタの組み合わせにより、B2とB3を合わせた特性を有する第1の光を照射する。
この場合の第1の光は、415nm±20nmに透過率のピークとなる波長を有し、415nmの近傍の波長での透過率が、430nmよりも長い波長帯域での透過率に比べて区別可能な程度に高い特性を有する。このようにすれば、B1と同程度に波長帯域の広い青色の照明光を照射すること、及び、当該照明光において415nm近傍の波長帯域の影響を支配的にすることが可能になる。即ち、明るさと色分離性を両立した光を、第1の光として照射することが可能になる。
以上で説明したとおり、本実施形態に係る第1の光は、白色光観察モードで用いられる光に比べて波長帯域の狭い狭帯域光(B2)であってもよいし、ブロードな照明光であってもよい。
また、ここでは青色の波長帯域の光について説明したが、緑色の波長帯域ついても同様である。即ち照明部3は、第2の光であるG2に加えて、G2に比べて強度が低く、且つ緑色の波長帯域に対応する光であるG3(不図示)を照射してもよい。このようにすれば、筋層と脂肪層を識別が容易な態様を用いて表示すること、及び、明るい表示画像を生成することが可能になる。
また第2の光も狭帯域光に限定されず、照明部3は、G2とG3を合わせた特性を有する1つの光を、本実施形態に係る第2の光として照射してもよい。
また図3(B)を用いて上述した通り、筋層の吸光度は580nmにも極大値を有し、580nmでの筋層の吸光度に比べて脂肪層の吸光度が十分小さい。即ち、本実施形態に係る第2の光は、540nm±10nmにピーク波長を有する光に限定されず、580nm±10nmにピーク波長を有する光であってもよい。
また、図3(A)ではB2,B3,G2,R1の4つの照明光を例示したが、照明部3は、他の照明光を照射してもよい。例えば上記のG3を追加してもよいし、不図示の赤色の狭帯域光を追加してもよい。
また、本実施形態に係る内視鏡装置1は、白色光観察モードと特殊光観察モードとを切り替え可能であってもよい。白色光観察モードにおいて、照明部3は図3(C)に示したB1,G1,R1を照射する。特殊光観察モードにおいて、照明部3は第1の光と第2の光を含む照明光を照射する。例えば、特殊光観察モードにおいて、照明部3は図3(A)に示したB2,B3,G2,R1を照射する。なお観察モードの切り替えは、例えば外部I/F部19を用いて行われる。
4.画像処理の詳細
次に画像処理部17で行われる画像処理について説明する。
4.1 全体処理
図4は本実施形態の画像処理部17の処理を説明するフローチャートである。この処理が開始されると、画像処理部17は、撮像素子12により撮像された画像を取得する処理を行う(S101)。S101の処理は、撮像素子12に含まれるA/D変換部によってA/D変換が行われたデジタルデータを取得する処理であってもよいし、撮像素子12から出力されるアナログ信号を画像処理部17がデジタルデータに変換する処理であってもよい。
画像処理部17は、取得した画像に基づいて構造強調処理(S102)と、色強調処理(S103)を行う。さらに画像処理部17は、強調処理後の画像を含むデータが、複数の出力チャンネルの各チャンネルに割り当てられた表示画像を出力する(S104)。図2の例においては、表示画像は表示部6に出力され、表示部6において表示される。
なお、図4では構造強調の後に色強調を行っているが、これに限定されない。即ち、色強調の後に構造強調を行ってもよいし、或いは色強調と構造強調を並列に行ってもよい。また画像処理部17は、S102及びS103に示した強調処理の一部又は全部を省略してもよい。
照明部3が第1の光(B2)と第2の光(G2)を照射する場合、画像処理部17は、S101においてB2画像とG2画像を取得する処理を行い、B2画像及びG2画像をRGBの各チャンネルに割り当てる処理を行う。例えば、画像処理部17は、出力のBチャンネル及びGチャンネルにB2画像を割り当て、出力のRチャンネルにG2画像を割り当てることによって表示画像を生成する。この場合、表示画像は疑似カラー画像となり、強調処理を行わない場合、粘膜層は褐色調に表示され、筋層は白色調で表示され、脂肪層は赤色調で表示される。ただし、B2画像及びG2画像と、3つの出力チャンネルとの対応関係は上記に限定されず、種々の変形実施が可能である。
照明部3が第1の光(B2)、第2の光(G2)及び第3の光(R1)を照射する場合、画像処理部17は、B2画像、G2画像及びR1画像を取得する処理を行い、出力のBチャンネルにB2画像を割り当て、出力のGチャンネルにG2画像を割り当て、出力のRチャンネルにR1画像を割り当てることによって表示画像を生成する。この場合、表示画像は白色光画像に近い画像となり、強調処理を行わない場合、粘膜層は赤色調に表示され、筋層は白色調で表示され、脂肪層は黄色調で表示される。
なお、撮像素子12がカラーフィルタを備える素子である場合、照明部3は複数の光を同時に照射し、撮像素子12は複数の画像を同時に撮像する。ここでのカラーフィルタとは、広く知られたベイヤ配列のフィルタであってもよいし、RGBの各フィルタが他の配列に従って配置されたフィルタであってもよいし、補色型のフィルタであってもよい。照明部3がB2,G2,R1の3つの光を照射する場合、撮像素子12は、Bフィルタに対応する画素に基づいてB2画像を撮像し、Gフィルタに対応する画素に基づいてG2画像を撮像し、Rフィルタに対応する画素に基づいてR1画像を撮像する。
画像処理部17は、撮像素子12の出力に対して補間処理を行うことによって、全画素について信号値を有するB2画像、G2画像、R1画像を取得する。この場合、1タイミングで全画像が揃う。そのため、画像処理部17は、B2画像、G2画像、R1画像のうちの任意の画像を強調処理の対象として選択可能である。また3つの出力チャンネルの信号値の全てが同じフレームにおいて更新される。
撮像素子12が多板のモノクロ素子である場合にも、1フレームにおいて複数の画像を取得すること、複数の画像に対する強調処理を行うこと、及び、複数の出力チャンネルの信号値を更新することが可能である。
一方、撮像素子12が単板のモノクロ素子である場合、1フレーム当たり1つの照明光が照射され、当該照明光に対応する1つの画像が取得されることが想定される。照明部3がB2,G2,R1の3つの光を照射する場合、1周期が3フレームであり、当該1周期において、B2画像、G2画像、R1画像が順次取得される。なお照明光の照射順序は種々の変形実施が可能である。
画像処理部17は、S101において、3フレームかけてB2画像、G2画像、R1画像を全て取得した後に、S102以降の処理に移行してもよい。この場合、表示画像の出力レートは撮像レートの1/3となる。或いは画像処理部17は、B2画像、G2画像、R1画像のいずれか1つの画像を取得した場合に、S102以降の処理に移行してもよい。例えば画像処理部17は、取得した画像を対象として、構造強調処理及び色強調処理のうちの必要な処理を行い、処理後の画像を出力のいずれかのチャンネルに割り当てることによって表示画像を更新する。この場合、表示画像の出力レートと撮像レートは等しい。
4.2 構造強調処理
次にS102において行われる構造強調処理について説明する。画像処理部17(構造強調処理部17a)は、第1の画像の構造成分を強調する処理、及び、第2の画像の構造成分を強調する処理の少なくとも一方の処理を行う。第1の画像の構造成分とは、第1の画像に撮像された被写体の構造を表す情報である。構造成分は、例えば特定の空間周波数成分である。
構造強調処理部17aは、第1の画像に対してフィルタ処理を行うことによって、第1の画像の構造成分を抽出する。ここで適用されるフィルタは、抽出対象の構造に対応する空間周波数を通過域とするバンドパスフィルタであってもよいし、他のエッジ抽出フィルタであってもよい。また、構造成分を抽出する処理はフィルタ処理に限定されず、他の画像処理であってもよい。そして構造強調処理部17aは、抽出した第1の画像の構造成分を、元の第1の画像に対して合成することによって、第1の画像の構造成分を強調する処理を行う。ここでの合成は、構造成分の単純な加算処理であってもよいし、構造成分に基づいて強調パラメータを決定し、当該強調パラメータを加算する処理であってもよい。また、構造強調処理部17aは、互いに通過帯域の異なる複数のバンドパスフィルタを用いて、複数の周波数帯域成分を抽出してもよい。その場合、構造強調処理部17aは、各周波数帯域成分の重み付け加算処理を行うことによって、第1の画像の構造成分を強調する。第2の画像の構造成分を強調する処理についても同様である。
このように構造成分を強調することによって、構造に対応する部分の画素値が変動するため、粘膜層と筋層の色味の違い、又は、筋層と脂肪層の色味の違いが顕著になる。
また照明部3は、生体粘膜の吸光度が第1の光に比べて低く、且つ、筋層の吸光度が第2の光に比べて低い第3の光を照射してもよい。上述した通り、第3の光は例えばR1である。この場合、構造強調処理部17aは、第3の光の照射によって撮像された第3の画像に基づいて第1の画像を補正し、補正後の第1の画像の構造成分を強調する処理を行う。或いは構造強調処理部17aは、第3の画像に基づいて第2の画像を補正し、補正後の第2の画像の構造成分を強調する処理を行う。或いは構造強調処理部17aは、この2つの処理の両方の処理を行う。
このようにすれば、被写体と挿入部2の位置関係等に起因する明るさムラの影響を抑制し、粘膜層と筋層の色分離性の向上、及び筋層と脂肪層の色分離性の向上が可能になる。ここで、第3の画像に基づく第1の画像の補正とは、第3の画像を用いた第1の画像の正規化処理であり、第3の画像に基づく第2の画像の補正とは、第3の画像を用いた第2の画像の正規化処理である。例えば構造強調処理部17aは、下式(1)、(2)を用いて第3の画像に基づく補正処理を行う。
B2’(x,y)=k1×B2(x,y)/R1(x,y) …(1)
G2’(x,y)=k2×G2(x,y)/R1(x,y) …(2)
ここで(x,y)は画像中の位置を表す。B2(x,y)とは正規化処理前のB2画像の(x,y)における画素値である。同様に、G2(x,y)とは正規化処理前のG2画像の(x,y)における画素値である。R1(x,y)とはR1画像の(x,y)における画素値である。また、B2’(x,y),G2’(x,y)は、それぞれ正規化処理後のB2画像及びG2画像の(x,y)における画素値を表す。k1及びk2は、所与の定数である。また、R1(x,y)=0である場合、B2’(x,y)及びG2’(x,y)は0とする。
なお、R1画像を正規化処理に用いる場合、R1画像の画素値(輝度値)は撮像距離の変化に伴う適正な輝度分布を有することが望ましい。よって、上式(1)及び(2)による正規化処理は、R1画像そのものではなく、補正処理後のR1画像を用いて行われてもよい。例えば過去に取得された撮像画像を用いて動き成分を検出することによって、正反射光を受光することによる影響を抑制する手法が知られており、本実施形態の構造強調処理部17aは、当該手法を用いてR1画像を補正してもよい。或いは構造強調処理部17aは、R1画像に対してローパスフィルタ処理等のノイズ低減処理を行い、当該ノイズ低減処理後のR1画像を用いて正規化処理が行われてもよい。
なお、上式(1)、(2)においては画素単位で正規化処理を行う例を示したが、複数の画素から構成される領域を単位として正規化処理が行われてもよい。
図5は、以上で説明した構造強調処理の流れを図示した模式図である。図5に示したとおり、B2画像とR1画像に基づいて正規化処理後のB2画像が取得され、G2画像とR1画像に基づいて正規化処理後のG2画像が取得される。正規化処理後のB2画像に対してフィルタ処理を行うことによって、B2画像の構造成分が抽出される。正規化処理後のG2画像に対してフィルタ処理を行うことによって、G2画像の構造成分が抽出される。そして、B2画像の構造成分を元画像である正規化処理後のB2画像と合成する処理によって、構造成分が強調されたB2画像が取得される。同様に、G2画像の構造成分を元画像である正規化処理後のG2画像と合成する処理によって、構造成分が強調されたG2画像が取得される。
そして構造成分が強調されたB2画像が出力のBチャンネルに割り当てられ、構造成分が強調されたG2画像が出力のGチャンネルに割り当てられ、R1画像が出力のRチャンネルに割り当てられることによって、表示画像が生成される。このようにすれば、構造成分が強調された画像が、出力のいずれかのチャンネルに割り当てられるため、表示画像において粘膜層、筋層、脂肪層の色分離性を向上させることが可能になる。
ただし、内視鏡装置1において、被写体の構造や動きを人が認識しやすいのは輝度成分である。輝度成分とは、表示画像を構成する複数の出力チャンネルのうち、表示画像の輝度への影響が、他のチャンネルに比べて大きいチャンネルを表す。輝度への影響が大きいチャンネルとは、具体的にはGチャンネルである。R信号値、G信号値、B信号値をそれぞれR、G、Bとした場合、輝度値Yは例えばY=r×R+g×G+b×Bという式を用いて求められる。RGBとYCrCbとの変換方式は種々知られており、方式に応じて係数r、g、bの値は異なる。ただし、いずれの形式においてもgはrよりも大きく、且つ、gはbよりも大きい。即ち、輝度値Yに対する寄与度は、R信号及びB信号に比べてG信号が相対的に高いと言える。
上記の例であれば、構造強調処理後のG2画像は、輝度成分に対応する出力のGチャンネルに割り当てられる。そのため、筋層と脂肪層はユーザにとって識別が容易な態様を用いた表示が可能になる。一方、構造強調処理後のB2画像は、輝度に対する寄与が低いBチャンネルに割り当てられる。そのため、B2画像に起因する情報はユーザにとって認識が容易でなく、粘膜層と筋層の色分離性が十分高くならないおそれがある。
よって画像処理部17(構造強調処理部17a)は、構造成分に対応する信号を、出力の輝度成分に対して合成する処理を行う。上述した例であれば、構造強調処理部17aは、G2画像から抽出されたG2画像の構造成分を、元のG2画像に合成する処理に加えて、B2画像から抽出されたB2画像の構造成分を、元のG2画像に合成する処理を行う。このようにすれば、B2画像の構造成分も、ユーザにとって認識しやすいチャンネルに付加されるため、粘膜層と筋層をユーザにとって識別が容易な態様を用いて表示することが可能になる。
広義には、画像処理部17(構造強調処理部17a)は、構造成分に対応する信号を、出力のR信号、G信号及びB信号の少なくとも1つの信号に対して合成する処理を行う。ここで、出力のR信号とは、出力のRチャンネルに割り当てられる画像信号を表す。同様に、出力のG信号とは、出力のGチャンネルに割り当てられる画像信号を表し、出力のB信号とは、出力のBチャンネルに割り当てられる画像信号を表す。
上述した通り、構造成分を輝度成分に対応するG信号に合成することによって、ユーザによる認識が容易になる。上記例において、G信号とはG2画像に対応する。B2画像の構造成分をG信号に合成した場合、粘膜層と筋層をユーザにとって識別が容易な態様を用いて表示することが可能になる。G2画像の構造成分をG信号に合成した場合、筋層と脂肪層をユーザにとって識別が容易な態様を用いて表示することが可能になる。
ただし、Gチャンネルに比べて輝度に対する寄与が低いが、出力のBチャンネル及びRチャンネルも表示画像を構成する成分である。よって、構造成分報をB成分、或いはR成分に合成することも、粘膜層、筋層、脂肪層の識別に有用と考えられる。例えば構造強調処理部17aは、B2画像から抽出した構造成分をR1画像と合成した後、合成後の画像を出力のRチャンネルに割り当ててもよい。
図6は、構造強調処理を説明するフローチャートである。この処理が開始されると、構造強調処理部17aは正規化処理を行う(S201)。具体的には構造強調処理部17aは、上式(1)及び上式(2)の演算を行う。次に構造強調処理部17aは、正規化処理後のB2画像及びG2画像から構造成分を抽出する処理を行う(S202)。S202の処理は、例えばバンドパスフィルタを適用する処理である。さらに構造強調処理部17aは、S202において抽出した構造成分を、複数の出力チャンネルのうちの少なくとも1つのチャンネルの信号に合成する処理を行う(S203)。構造成分の合成対象は、例えば輝度成分に対応するGチャンネルの信号であるが、上述した通り、他のチャンネルの信号が合成対象となってもよい。
4.3 色強調処理
また画像処理部17(色強調処理部17b)は、撮像された画像に基づいて、色情報を強調する処理を行ってもよい。撮像された画像とは、第1の画像、第2の画像及び第3の画像である。ここでの色情報とは、狭義には彩度であるが、色相や明度を色情報とすることは妨げられない。
具体的には、画像処理部17(色強調処理部17b)は、撮像された画像に基づいて、黄色領域と判定された領域に対して彩度強調を行う第1の色強調処理、及び、赤色領域と判定された領域に対して彩度強調を行う第2の色強調処理の少なくとも一方の処理を行う。なおここでは、照明部3が第1の光(B2)及び第2の光(G2)に加えて第3の光(R1)を照射する実施形態を想定している。即ち、黄色領域とは脂肪層に対応する領域であり、赤色領域とは粘膜層に対応する領域である。
例えば色強調処理部17bは、RGBの各出力チャンネルの信号値を、輝度Yと色差Cr及びCbに変換する処理を行う。そして色強調処理部17bは、色差Cr,Cbに基づいて、黄色領域の検出及び赤色領域の検出を行う。具体的には色強調処理部17bは、Cr及びCbの値が黄色に対応する所定範囲の領域を黄色領域と判定し、Cr及びCbの値が赤色に対応する所定範囲の領域を赤色領域と判定する。そして色強調処理部17bは、黄色領域と判定された領域及び赤色領域と判定された領域の少なくとも一方に対して、彩度の値を大きくする彩度強調処理を行う。
筋層は、粘膜層や脂肪層に比べて彩度が低く、白色調で表示される。そのため、脂肪層の彩度を向上させる第1の色強調処理を行うことで、筋層と脂肪層の識別を容易にできる。同様に、粘膜層の彩度を向上させる第2の色強調処理を行うことで、粘膜層と筋層の識別を容易にできる。3層の色分離性向上を考慮すれば、第1の色強調処理と第2の色強調処理の両方を行うことが望ましい。ただし、一方の色強調処理だけでも2層の色分離性が向上するため、他方の色強調処理を省略することは妨げられない。例えば穿孔リスクの抑制のために脂肪を識別する優先度が高い場合、第1の色強調処理を行い、第2の色強調処理を省略してもよい。
なお、ここではRGBの信号をYCrCbに変換する処理を説明したが、色強調処理部17bは、RGBを色相H、彩度S、及び明度Vに変換する処理を行ってもよい。この場合、色強調処理部17bは、色相Hに基づいて黄色領域及び赤色領域を検出し、彩度Sの値を変化させることによって第1の色強調処理及び第2の色強調処理を行う。
また、画像処理部17(色強調処理部17b)は、第1の画像、第2の画像及び第3の画像に基づいて、彩度が所定閾値よりも低いと判定された領域に対して彩度を下げる第3の色強調処理を行ってもよい。彩度が所定閾値よりも低い領域とは筋層に対応する領域である。
第1の色強調処理と第3の色強調処理を行うことによって、脂肪層の彩度が増加し筋層の彩度が減少するため、2層の彩度の差が大きくなり、筋層と脂肪層の識別がさらに容易になる。同様に第2の色強調処理と第3の色強調処理を行うことによって、粘膜層の彩度が増加し筋層の彩度が減少するため、2層の彩度の差が大きくなり、粘膜層と筋層の識別がさらに容易になる。また画像処理部17は、第1の色強調処理及び第2の色強調処理を省略し、第3の色強調処理を行ってもよい。
図7は、色強調処理を説明するフローチャートである。この処理が開始されると色強調処理部17bは、表示画像の領域判定を行う(S301)。具体的には、出力のRGB信号をYCrCbやHSVに変換することによって、脂肪層に対応する黄色領域、粘膜層に対応する赤色領域、及び筋層に対応する彩度の低い領域を検出する。図5を用いて説明した構造強調処理の後に色強調処理が行われる例であれば、出力のR信号とはR1画像に対応し、G信号とは構造成分が強調されたG2画像に対応し、B信号とは構造成分が強調されたB2画像に対応する。
そして色強調処理部17bは、黄色領域の彩度を強調する処理(S302)、赤色領域の彩度を強調する処理(S303)、彩度の低い領域の彩度を強調する処理(S304)を行う。S302及びS303の彩度強調とは、彩度を増加させる処理であり、S304の彩度強調とは、彩度を減少させる処理である。上述した通り、S304の処理は省略可能であるし、S302とS303の一方も省略可能である。
4.4 強調処理の変形例
以上のように構造強調処理及び色強調処理を行うことによって、粘膜層、筋層及び脂肪層を、強調前よりも識別容易な態様を用いて表示することが可能になる。ただし不適切な強調処理が行われた場合、色味が不自然になったり、ノイズが増大するおそれがある。
例えば、第2の画像はG2の照射により取得されたG2画像であり、G2は筋層と脂肪層の識別を想定した波長帯域にピーク波長を有する。即ち、第2の画像の構造成分を強調する処理とは、筋層と脂肪層の差を強調することを目的とした処理である。そのため、粘膜層が撮像された領域では、筋層と脂肪層を識別するための画像処理の必要性が低く、処理を行うことでかえって色味の変化やノイズの増大等を招くおそれがある。
よって画像処理部17は、第1の画像に基づいて、生体粘膜に対応する粘膜領域を検出する処理を行い、粘膜領域であると判定された領域に対して、第2の画像の構造成分を強調する処理を行わなくてもよい。例えば、構造強調処理部17aは第2の画像から抽出した構造成分を加算する際に、粘膜領域以外の領域を対象とする。或いは構造強調処理部17aは、第2の画像から構造成分を抽出する際に、粘膜領域以外の領域を抽出対象とする。このようにすれば、必要性の低い強調処理が実行されることを抑制できる。
なお、粘膜領域の検出に第1の画像を用いるのは、第1の画像が、粘膜層の吸光特性に基づいて波長帯域が設定された第1の光(B2)によって撮像されるためである。即ち第1の画像は粘膜層に関する情報を含む画像であるため、第1の画像を用いることで粘膜領域を精度よく検出できる。例えば、画像処理部17は、第1の画像の画素値を判定し、画素値が所与の閾値以下の領域を粘膜領域として検出する。ただし、粘膜領域の検出処理はこれに限定されない。例えば、上述した色判定処理と同様に、画像処理部17は出力のR信号、G信号、B信号をYCrCbに変換し、変換後の情報に基づいて粘膜領域を検出してもよい。この場合も、R信号、G信号、B信号の少なくとも1つにB2画像が含まれるため、粘膜領域を適切に検出可能である。
また、黄色領域に対して彩度強調を行う第1の色強調処理は、筋層と脂肪層の彩度差を大きくし、識別を容易にするための画像処理である。そのため、粘膜層が撮像された領域では、黄色領域の彩度強調はデメリットが大きく、実行する必要性が低い。
よって画像処理部17は、第1の画像に基づいて、生体粘膜に対応する粘膜領域を検出する処理を行い、粘膜領域であると判定された領域に対して、第1の色強調処理を行わなくてもよい。この場合も、必要性の低い強調処理が実行されることを抑制できる。
以上、本発明を適用した実施形態およびその変形例について説明したが、本発明は、各実施形態やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施形態や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。
1…内視鏡装置、2…挿入部、3…照明部、4…処理部、5…本体部、6…表示部、7…照明光学系、8…ライトガイドケーブル、9…照明レンズ、10…撮像部、11…対物レンズ、12…撮像素子、13a〜13d…発光ダイオード、14…ミラー、15…ダイクロイックミラー、16…メモリ、17…画像処理部、17a…構造強調処理部、17b…色強調処理部、18…制御部、19…外部I/F部
図3(B)は、粘膜層、筋層及び脂肪層の吸光特性を示す図である。図3(B)の横軸は波長を表し、縦軸は吸光度の対数を表す。粘膜層(生体粘膜)及び筋層は、いずれもミオグロビンを多く含む被写体である。ただし、含まれるミオグロビンの濃度は、粘膜層が相対的に高く筋層が相対的に低い。この濃度の差に起因して、粘膜層と筋層の吸光特性に差異が生じる。そして、図3(B)に示すように、吸光度の差は生体粘膜の吸光度が最大となる415nmの近傍において最大となる。また、筋層の吸光度は複数の極大値を有する。極大値に対応する波長は、415nm、540nm、580nmの近傍の波長である。
ただし、Gチャンネルに比べて輝度に対する寄与が低いが、出力のBチャンネル及びRチャンネルも表示画像を構成する成分である。よって、構造成分をB成分、或いはR成分に合成することも、粘膜層、筋層、脂肪層の識別に有用と考えられる。例えば構造強調処理部17aは、B2画像から抽出した構造成分をR1画像と合成した後、合成後の画像を出力のRチャンネルに割り当ててもよい。

Claims (17)

  1. 第1の光及び第2の光を含む複数の照明光を照射する照明部と、
    前記照明部の照射に基づく被検体からの戻り光を撮像する撮像部と、
    前記撮像部によって撮像された前記第1の光及び前記第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行う画像処理部と、
    を含み、
    前記照明部は、
    生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である前記第1の光を照射し、
    筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、前記筋層の吸光度に比べて脂肪の吸光度が低い光である前記第2の光を照射することを特徴とする内視鏡装置。
  2. 請求項1において、
    前記第1の光の前記ピーク波長を含む前記第1の波長範囲は、415nm±20nmであることを特徴とする内視鏡装置。
  3. 請求項2において、
    前記第1の光は、白色光画像の生成に用いられる光に比べて波長帯域の狭い狭帯域光であることを特徴とする内視鏡装置。
  4. 請求項1において、
    前記第2の光の前記ピーク波長を含む前記第2の波長範囲は、540nm±10nmであることを特徴とする内視鏡装置。
  5. 請求項4において、
    前記第2の光は、白色光画像の生成に用いられる光に比べて波長帯域の狭い狭帯域光であることを特徴とする内視鏡装置。
  6. 請求項1において、
    前記照明部は、
    前記生体粘膜の吸光度が前記第1の光に比べて低く、且つ、前記筋層の吸光度が前記第2の光に比べて低い波長帯域である第3の光を照射することを特徴とする内視鏡装置。
  7. 請求項1において、
    前記画像処理部は、
    前記第1の画像の構造成分を強調する処理、及び、前記第2の画像の構造成分を強調する処理の少なくとも一方の処理を行うことを特徴とする内視鏡装置。
  8. 請求項6において、
    前記画像処理部は、
    前記撮像部によって撮像された前記第3の光に対応する第3の画像に基づいて前記第1の画像を補正し、補正後の前記第1の画像の構造成分を強調する処理、及び、前記第3の画像に基づいて前記第2の画像を補正し、補正後の前記第2の画像の構造成分を強調する処理の少なくとも一方の処理を行うことを特徴とする内視鏡装置。
  9. 請求項7又は8において、
    前記画像処理部は、
    前記構造成分に対応する信号を、出力の輝度成分に対して合成する処理を行うことを特徴とする内視鏡装置。
  10. 請求項7又は8において、
    前記画像処理部は、
    前記構造成分に対応する信号を、出力のR信号、G信号及びB信号の少なくとも1つの信号に対して合成する処理を行うことを特徴とする内視鏡装置。
  11. 請求項6において、
    前記画像処理部は、
    前記第1の画像、前記第2の画像、及び前記撮像部によって撮像された前記第3の光に対応する第3の画像に基づいて、色情報を強調する処理を行うことを特徴とする内視鏡装置。
  12. 請求項11において、
    前記画像処理部は、
    前記第1の画像、前記第2の画像及び前記第3の画像に基づいて、黄色領域と判定された領域に対して彩度強調を行う第1の色強調処理、及び、赤色領域と判定された領域に対して彩度強調を行う第2の色強調処理の少なくとも一方の処理を行うことを特徴とする内視鏡装置。
  13. 請求項11において、
    前記画像処理部は、
    前記第1の画像、前記第2の画像及び前記第3の画像に基づいて、彩度が所定閾値よりも低いと判定された領域に対して彩度を下げる第3の色強調処理を行うことを特徴とする内視鏡装置。
  14. 請求項7において、
    前記画像処理部は、
    前記第1の画像に基づいて、前記生体粘膜に対応する粘膜領域を検出する処理を行い、
    前記粘膜領域であると判定された領域に対して、前記第2の画像の前記構造成分を強調する処理を行わないことを特徴とする内視鏡装置。
  15. 請求項12において、
    前記画像処理部は、
    前記第1の画像に基づいて、前記生体粘膜に対応する粘膜領域を検出する処理を行い、
    前記粘膜領域であると判定された領域に対して、前記第1の色強調処理を行わないことを特徴とする内視鏡装置。
  16. 生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である第1の光、及び、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、前記筋層の吸光度に比べて脂肪の吸光度が低い光である第2の光を含む複数の照明光を照射し、
    前記複数の照明光の照射に基づく被検体からの戻り光を撮像し、
    撮像された前記第1の光及び前記第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行うことを特徴とする内視鏡装置の作動方法。
  17. 生体粘膜の吸光度が最大値となる波長を含む第1の波長範囲にピーク波長を有する光である第1の光、及び、筋層の吸光度が極大値となる波長を含む第2の波長範囲にピーク波長を有し、且つ、前記筋層の吸光度に比べて脂肪の吸光度が低い光である第2の光を含む複数の照明光を照明部に照射させ、
    前記照明部の照射に基づく被検体からの戻り光を撮像し、
    撮像された前記第1の光及び前記第2の光に対応する第1の画像及び第2の画像を用いて画像処理を行う、
    ステップをコンピュータに実行させることを特徴とするプログラム。
JP2020525123A 2018-06-19 2018-06-19 内視鏡装置、内視鏡装置の作動方法及び内視鏡装置の作動プログラム Active JP7163386B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/023317 WO2019244248A1 (ja) 2018-06-19 2018-06-19 内視鏡装置、内視鏡装置の作動方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2019244248A1 true JPWO2019244248A1 (ja) 2021-05-13
JP7163386B2 JP7163386B2 (ja) 2022-10-31

Family

ID=68983859

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020525123A Active JP7163386B2 (ja) 2018-06-19 2018-06-19 内視鏡装置、内視鏡装置の作動方法及び内視鏡装置の作動プログラム

Country Status (3)

Country Link
US (1) US20210088772A1 (ja)
JP (1) JP7163386B2 (ja)
WO (1) WO2019244248A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022180177A (ja) * 2021-05-24 2022-12-06 富士フイルム株式会社 内視鏡システム、医療画像処理装置及びその作動方法
CN115731205B (zh) * 2022-11-28 2024-04-26 北京大学 内窥镜的图像处理装置、方法、电子设备及存储介质
WO2024166328A1 (ja) * 2023-02-09 2024-08-15 オリンパスメディカルシステムズ株式会社 医療用装置、医療用システム、学習装置、医療用装置の作動方法およびプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005013279A (ja) * 2003-06-23 2005-01-20 Olympus Corp 内視鏡装置
JP2009066090A (ja) * 2007-09-12 2009-04-02 Npo Comfortable Urology Network 下部尿路障害を診断する方法
JP2012125395A (ja) * 2010-12-15 2012-07-05 Fujifilm Corp 内視鏡装置
WO2014084134A1 (ja) * 2012-11-30 2014-06-05 オリンパス株式会社 観察装置
WO2017221353A1 (ja) * 2016-06-22 2017-12-28 オリンパス株式会社 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5616304B2 (ja) * 2010-08-24 2014-10-29 富士フイルム株式会社 電子内視鏡システム及び電子内視鏡システムの作動方法
CN104066367B (zh) * 2012-01-31 2016-03-30 奥林巴斯株式会社 活体观察装置
JP2014000301A (ja) * 2012-06-20 2014-01-09 Fujifilm Corp 光源装置及び内視鏡システム
JP5997676B2 (ja) * 2013-10-03 2016-09-28 富士フイルム株式会社 内視鏡用光源装置、およびこれを用いた内視鏡システム
WO2015156153A1 (ja) * 2014-04-08 2015-10-15 オリンパス株式会社 蛍光観察内視鏡システム
JP6214503B2 (ja) * 2014-09-12 2017-10-18 富士フイルム株式会社 内視鏡用光源装置及び内視鏡システム
JP6234350B2 (ja) * 2014-09-30 2017-11-22 富士フイルム株式会社 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
US10445880B2 (en) * 2017-03-29 2019-10-15 The Board Of Trustees Of The University Of Illinois Molecular imaging biomarkers

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005013279A (ja) * 2003-06-23 2005-01-20 Olympus Corp 内視鏡装置
JP2009066090A (ja) * 2007-09-12 2009-04-02 Npo Comfortable Urology Network 下部尿路障害を診断する方法
JP2012125395A (ja) * 2010-12-15 2012-07-05 Fujifilm Corp 内視鏡装置
WO2014084134A1 (ja) * 2012-11-30 2014-06-05 オリンパス株式会社 観察装置
WO2017221353A1 (ja) * 2016-06-22 2017-12-28 オリンパス株式会社 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム

Also Published As

Publication number Publication date
WO2019244248A1 (ja) 2019-12-26
JP7163386B2 (ja) 2022-10-31
US20210088772A1 (en) 2021-03-25

Similar Documents

Publication Publication Date Title
JP6367683B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP6234350B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
CN102201114B (zh) 图像处理装置和图像处理方法
JP5968944B2 (ja) 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
US10039439B2 (en) Endoscope system and method for operating the same
JP6522539B2 (ja) 内視鏡システム及びその作動方法
US20210088772A1 (en) Endoscope apparatus, operation method of endoscope apparatus, and information storage media
JP6196598B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP6562554B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの信号処理方法
JPWO2019239854A1 (ja) 内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラム
CN110769738B (zh) 图像处理装置、内窥镜装置、图像处理装置的工作方法及计算机可读存储介质
WO2014156604A1 (ja) 内視鏡システム及びその作動方法並びにプロセッサ装置
US20210100440A1 (en) Endoscope apparatus, operation method of endoscope apparatus, and information storage medium
JP7090706B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
JP6153913B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP2015006398A (ja) 画像処理装置、画像処理方法及びプログラム
JP7123135B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
CN113543689B (zh) 内窥镜装置、内窥镜装置的工作方法以及信息存储介质
JP6153912B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
US11759098B2 (en) Endoscope apparatus and operating method of endoscope apparatus
JP6615950B2 (ja) 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
WO2022059233A1 (ja) 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム
CN118697263A (zh) 内窥镜装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201110

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221019

R151 Written notification of patent or utility model registration

Ref document number: 7163386

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151