JP2023044308A - コンピュータプログラム、情報処理方法及び内視鏡 - Google Patents

コンピュータプログラム、情報処理方法及び内視鏡 Download PDF

Info

Publication number
JP2023044308A
JP2023044308A JP2021152269A JP2021152269A JP2023044308A JP 2023044308 A JP2023044308 A JP 2023044308A JP 2021152269 A JP2021152269 A JP 2021152269A JP 2021152269 A JP2021152269 A JP 2021152269A JP 2023044308 A JP2023044308 A JP 2023044308A
Authority
JP
Japan
Prior art keywords
image
region
interest
endoscope
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021152269A
Other languages
English (en)
Inventor
京助 松村
Kyosuke MATSUMURA
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2021152269A priority Critical patent/JP2023044308A/ja
Priority to PCT/JP2022/028468 priority patent/WO2023042546A1/ja
Priority to CN202280040693.XA priority patent/CN117460445A/zh
Publication of JP2023044308A publication Critical patent/JP2023044308A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

【課題】内視鏡が撮像した画像に含まれる、学習モデルが特定した病変の疑いがある関心領域に照射する光量を自動で調節するコンピュータプログラム等を提供する。【解決手段】コンピュータプログラムは、内視鏡により撮像した画像を取得し、前記内視鏡により撮像した画像が入力された場合、前記画像に含まれる関心領域の認識結果を出力するように学習された学習モデルに前記画像を入力して、認識結果を出力し、前記認識結果に基づき、前記内視鏡の先端に設けられたLEDが関心領域に照射する光量を調節する処理をコンピュータに実行させる。【選択図】図3

Description

本技術は、コンピュータプログラム、情報処理方法及び内視鏡に関する。
従来、内視鏡などによって病変調査中に、自動調光を行う装置が提案されている。例えば、特許文献1に記載の装置は、観察対象が撮像された医療用撮像画像における所定の領域の輝度を、自動調光によって変更する。
特開2019―42412号公報
しかし、特許文献1に記載の装置は、学習モデルによって病変の疑いがある関心領域を特定した際に、該関心領域に照射する光量を調節して判定精度を上げることが出来ないという問題がある。
本開示は斯かる事情に鑑みてなされたものであり、学習モデルが特定した病変の疑いがある関心領域に照射する光量を自動で調節するコンピュータプログラム等を提供することを目的とする。
本開示の一実施形態に係るコンピュータプログラムは、内視鏡により撮像した画像を取得し、前記内視鏡により撮像した画像が入力された場合、前記画像に含まれる関心領域の認識結果を出力するように学習された学習モデルに前記画像を入力して、認識結果を出力し、前記認識結果に基づき、前記内視鏡の先端に設けられたLEDが関心領域に照射する光量を調節する処理をコンピュータに実行させる。
本開示の一実施形態に係るコンピュータプログラムは、前記学習モデルは前記画像に含まれる前記関心領域が病変である確度を出力し、前記確度が所定値未満の場合に前記光量を調節する。
本開示の一実施形態に係るコンピュータプログラムは、前記関心領域が病変である確度が所定値未満の場合、前記画像が表示される画面とは別個の画面に前記関心領域を含む画像を出力する。
本開示の一実施形態に係るコンピュータプログラムは、前記関心領域が病変である確度が所定値以上の場合、前記取得した画像が表示される画面にて、該画像から前記関心領域を拡大した拡大画像に切り替える、又は前記画像が表示される画面とは別個の画面に前記関心領域を含む画像を出力する。
本開示の一実施形態に係るコンピュータプログラムは、前記内視鏡は複数のLEDを備え、前記関心領域の位置に対応するLEDが照射する光量を調節する。
本開示の一実施形態に係るコンピュータプログラムは、前記LEDが前記関心領域に照射する光量の下限値または上限値の変更を受け付ける。
本開示の一実施形態に係るコンピュータプログラムは、前記画像の白色度を取得し、前記白色度が基準値以上の場合、前記光量を減少させ、前記白色度が前記基準値未満の場合、前記光量を増加させる。
本開示の一実施形態に係るコンピュータプログラムは、前記光量を調節した以降に取得した画像に前記関心領域が含まれなくなった場合、前記光量を、調節前の光量に変更する。
本開示の一実施形態に係る情報処理方法は、内視鏡により撮像した画像を取得し、内視鏡により撮像された画像が入力された場合、前記画像に含まれる関心領域の認識結果を出力するように学習された学習モデルに前記画像を入力して、認識結果を出力し、学習モデルから前記画像に含まれる関心領域の認識結果を取得し、前記認識結果に基づき、前記内視鏡の先端に設けられたLEDが前記関心領域に照射する光量を調節する。
本開示の一実施形態に係る内視鏡は、先端に設けられたLEDと、内視鏡により撮像した画像を取得する取得部と、内視鏡により撮像された画像が入力された場合、前記画像に含まれる関心領域の認識結果を出力するように学習された学習モデルに取得した前記画像を入力して、認識結果を出力する出力部と、前記認識結果に基づき、前記LEDが前記関心領域に照射する光量を調節する光量調節部とを備える。
本開示の一実施形態に係るにあっては、病変確度が低い関心領域に照射する光量を自動で調節するので、病変を判定する精度を向上することが可能である。
実施形態1に係る内視鏡の外観図である。 挿入管の先端部の平面図である。 内視鏡装置のブロック図である。 学習モデル(関心領域学習モデル)に関する説明図である。 制御部が学習モデルから取得する画像(制御部取得画像)の一例を示す説明図である。 画面領域と白色LEDの対応を示すLED対応テーブルの一例を示す説明図である。 モニタに表示される画像(モニタ画像)の一例を示す説明図である。 光量増加後にモニタに表示される画像(光量調節後モニタ画像)の一例を示す説明図である。 プロセッサ装置の制御部による処理手順の一例を示すフローチャートである。
(実施形態1)
以下、本発明をその実施の形態を示す図面に基づいて詳述する。図1は、実施形態1に係る内視鏡1の外観図である。内視鏡1は、挿入管2、操作部3、ユニバーサルチューブ4及びコネクタ部5を備えている。挿入管2は、体腔内に挿入される部分であり、長尺の軟性部20と、該軟性部20の一端に湾曲部21を介して連結された先端部22とを備える。軟性部20の他端は、円筒形の連結部23を介して操作部3に連結されている。ユニバーサルチューブ4は、操作部3に一端を連結され挿入管2と異なる向きに延びており、コネクタ部5は、ユニバーサルチューブ4の他端に連設されている。
操作部3は、医師等の内視鏡1の使用者(操作者)により把持されて各種の操作を行うために設けてあり、湾曲操作ノブ30、複数の操作ボタン31等を備えている。湾曲操作ノブ30は、連結部23及び軟性部20の内部に通したワイヤ(図示せず)により湾曲部21に連結されている。湾曲部21は、湾曲操作ノブ30の操作により軸断面内で互いに直交する2方向に湾曲し、体腔内に挿入された先端部22の向きが変化する。
図2は挿入管の先端部の平面図である。先端部22は、撮像部6と、対物レンズ25と、照明部7を備える。撮像部6は、先端部22の内部に、対物レンズ25の内側に面して組み込まれている。すなわち、撮像部6は、対物レンズ25を介して体腔等の体内部位である観察物(被写体)を撮像する。対物レンズ25は、挿入管2の先端部22に設けられた孔部の内枠に嵌め込まれており、観察窓として機能する。図2中には、撮像部6及び対物レンズ25の位置が2点鎖線により示してある。また、照明部7は配光レンズ(図示略)の内側に面して組み込まれている。
撮像部6は、CMOS(Complementary Metal Oxide Semiconductor )等の撮像素子と、該撮像素子の撮像面上に結像させるための光学系とを備え、対物レンズ25を通して体腔内を撮像する。対物レンズ25は例えば広角レンズであり、撮像部6は、対物レンズ25を含む光学系の設定により、180°以上の視野角での撮像が可能となるように構成されている。撮像部6は、撮像した観察物(被写体)の撮像データ(画像信号)を、受信回路61(図3参照)に出力する。撮像部6が出力した撮像データ(画像信号)は、受信回路61及びゲイン回路62(図3参照)にてAD変換又はホワイトバランス補正等の前処理が行われ、プロセッサ装置10の信号処理回路12(図3参照)に出力される。
照明部7は、撮像部6の周囲を囲う環状の基板70と、配光レンズ26に対向する基板70の一面上に実装された複数の白色LED71~78を備える。白色LED71~78は、環状をなす基板70の一面上に略等間隔で配置されている。白色LED71~78は、例えば、青色光を発光する青色LEDチップの発光面を黄色蛍光体により覆って構成される。なお、白色LED71はLDや光ファイバーなどの他の発光素子であってもよい。また、内視鏡が備える白色LEDの数は8個に限定されない。
図3は内視鏡装置のブロック図である。内視鏡1は、コネクタ部5を介してプロセッサ装置10に接続される。プロセッサ装置10は、制御部11、信号処理回路12、入出力I/F13及び記憶部16等を備えている。これら制御部11、信号処理回路12、入出力I/F13及び記憶部16は、内部バスにより通信可能に接続されている。制御部11は、一又は複数のCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等の計時機能を備えた演算処理装置を有し、記憶部16に記憶されたプログラムを読み出して実行することにより、プロセッサ装置10に係る種々の情報処理、制御処理等を行う。
内視鏡1は、撮像部6を駆動する撮像駆動部60及び照明部7を駆動する照明駆動部79を備えている。撮像駆動部60は、プロセッサ装置10の制御部11から与えられる制御指令に従ってローリングシャッタ方式で撮像部6を駆動する。撮像駆動部60は、受信回路61を介して1フレーム単位でゲイン回路62に画像信号を出力する。ゲイン回路62は該画像信号にホワイトバランス処理等の所定の前処理を行い、プロセッサ装置10の信号処理回路12に、前処理した該画像信号を撮像データとして出力する。
照明駆動部79は、制御部11から与えられる制御指令に従って照明部7を駆動させ、白色LED71~78を発光させる。撮像部6の撮像動作は、照明部7の駆動に同期して実行され、信号処理回路12には、白色LED71~78による照射下で得られる画像出力が連続的に入力される。照明部7は、操作部3に設けられた操作ボタン31の操作により駆動状態と非駆動状態に切り替えられる。
信号処理回路12は、入力された撮像データ(画像信号)に対し、ガンマ補正、補間処理等の画像処理を行い、画像処理後の撮像データを制御部11に出力する。
入出力I/F13は、例えば、USB又はDSUB等の通信規格に準拠したものであり、入出力I/F13に接続された外部機器とシリアル通信するための通信インターフェイスである。入出力I/F13には、モニタ14及びマウスやキーボードなどの入力部15が接続されている。制御部11は、入力部15から入力された実行コマンド又はイベントに基づき情報処理を行う。また制御部11は、後述する学習モデル161が出力した画像をさらに画像処理し、外部のモニタ14に出力する。モニタ14は、液晶ディスプレイ、有機ELディスプレイ等の表示機器であり、プロセッサ装置10から出力される画像信号に基づいて撮像部6による撮像画像を表示する。内視鏡1の使用者は、モニタ14の表示により体腔内の所望箇所を観察することができる。
内視鏡1は、更に、光量調節部8を備える。光量調節部8は、白色LED71~78と同様に基板70に実装されるものであってもよい。
光量調節部8は、プロセッサ装置10の制御部11と内部バスにより通信可能に接続されている。光量調節部8は、プロセッサ装置10の制御部11から送信される情報に基づき、白色LED71~78のうち、光量を調節する白色LEDを決定し、該白色LEDが照射する光量を増加又は減少させる。白色LED71~78は、例えばPWM(Pulse Width Modulation)制御によって照射する光量が調節され、光量を減少させるときはデューティ比を低くし、光量を増加させるときはデューティ比を高くする。白色LED71~78が照射する光量は、デューティ比の許容幅が設定されることによって下限値及び上限値が決定される。デューティ比の許容幅は例えば0.2~0.8であるが、入力部17において入力を受け付けることによって変更が可能である。また、光量調節されていないときの白色LEDの光量は通常時光量であり、このときのデューティ比は例えば0.5である。
記憶部16は、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、フラッシュメモリ等の揮発性記憶領域及び、EEPROM又はハードディスク等の不揮発性記憶領域を含む。記憶部16には、プログラム及び処理時に参照するデータが予め記憶してある。記憶部16に記憶されたプログラムは、制御部11が読み取り可能な記録媒体16aから読み出されたプログラムを記憶したものであってもよい。また、図示しない通信網に接続されている図示しない外部コンピュータからプログラムをダウンロードし、記憶部16に記憶させたものであってもよい。
記憶部16には、後述する学習モデル161(関心領域学習モデル)等を構成する実体ファイル(ニューラルネットワーク(NN)のインスタンスファイル)が保存されている。これら実体ファイルは、プログラムの一部位として構成されるものであってもよい。なお、プロセッサ装置10に接続する情報処理装置を別途設け、学習モデル161を該情報処理装置に格納し、学習モデル161による演算を該情報処理装置によって行ってもよい。また、内視鏡1を使用する病院内に設けられたサーバあるいは病院外に設けられたクラウドサーバに学習モデル161を格納し、学習モデル161による演算を該サーバあるいは該クラウドサーバによって行ってもよい。
記憶部16には、更に、画像を生成及び出力(表示)するにあたって、予め定められた各種の設定値(プリセットデータ)が記憶されている。該プリセットデータは、例えば、通常時光量、白色LED71~78が照射する光量の上限値または下限値、関心領域が病変である確度(確率)を示す病変確度を区分するための一定値及び所定値または画面の白色度の基準値を含むものであってもよい。プリセットデータの詳細は、後述する。各種プリセットデータは、入力部17において入力を受け付けることによって変更が可能である。
また、記憶部16はLED対応テーブル162を格納している。
図4は、学習モデル161(関心領域学習モデル)に関する説明図である。学習モデル161は、例えば、RCNN(Regions with Convolutional Neural Network)、Fast RCNN、Faster RCNN又はSSD(Single Shot Multibook Detector)、YOLO(You Only Look Once)、又はセグメンテーションネットワークの機能を有するニューラルネットワーク(NN)等、物体検出を行うモデルである。学習モデル161が、例えばRCNN等、画像の特徴量を抽出するCNN(Convolutional Neural Network)を含むニューラルネットワークで構成される場合、学習モデル161に含まれる入力層は、内視鏡画像の画素値の入力を受け付ける複数のニューロンを有し、入力された画素値を中間層に受け渡す。中間層は、内視鏡画像の画像特徴量を抽出する複数のニューロンを有し、抽出した画像特徴量を出力層に受け渡す。出力層は、関心領域の位置等を含む関心領域に関する情報を出力する一又は複数のニューロンを有し、中間層から出力された画像特徴量に基づいて、関心領域の位置及び病変確度を出力する。又は、学習モデル161は、中間層から出力された画像特徴量をSVM(support vector machine) に入力して病変認識を行うものであってもよい。なお、関心領域の位置は、画像座標値で定義される。訓練データを用いて学習されたニューラルネットワーク(学習モデル161)は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用が想定される。学習モデル161は、上述のごとく制御部11(CPU等)にて用いられるものであり、このように演算処理能力を有する制御部11にて実行されることにより、ニューラルネットワークシステムが構成される。すなわち、制御部11が、記憶部16に記憶された学習モデル161からの指令に従って入力層に入力された内視鏡画像の特徴量を抽出する演算を行い、出力層から関心領域の位置及び病変確度を画像に含めて出力する。
図4の病変検出結果の画像に示すように、制御部11は学習モデル161の出力に基づき、関心領域を破線のバウンディングボックスで囲み、関心領域の病変確度をバウンディングボックスの上部に表示する。図4において、病変確度は0.6である。
学習モデル161は、関心領域の位置及び病変確度を、関心領域に関する情報として画像に含ませて制御部11に出力する。なお、関心領域の病変確度が一定値、例えば0.2未満の場合、学習モデル161は関心領域に関する情報を制御部11に出力しない。該一定値は、入力部17において入力を受け付けることによって変更が可能である。
図5は制御部が学習モデルから取得する画像(制御部取得画像)の一例を示す説明図である。制御部11が学習モデル161から取得した画像は、関心領域が破線のバウンディングボックスで囲まれ、関心領域の病変確度がバウンディングボックスの上部に表示される。制御部11は、該病変確度が所定値未満の場合、関心領域の位置に対応する白色LEDの光量を調節する。該所定値は例えば0.7であるが、入力部17において入力を受け付けることによって変更が可能である。光量を調節する白色LEDを特定する方法は後述する。
図6は、画面領域と白色LEDの対応を示すLED対応テーブルの一例を示す説明図である。制御部11が取得した画像は、図5に示すように、画面の中心から放射状に、45度ずつ、8分割(1~8)に区分化される。図6に示すように、LED対応テーブル162では、画面領域1~8と白色LED71~78がそれぞれ対応しており、制御部11は、学習モデル631が出力した関心領域が含まれる画面領域に対応する白色LEDが照射する光量を調節する。画面領域を特定するための領域情報は、例えば、記憶部16に含まれるRAM等のメモリに記憶されおり、学習モデル161が出力した画像における画像座標系の範囲により定義される。
例えば、図5に示すように関心領域が画面領域4に含まれている場合、制御部11は、白色LED74が照射する光量を調節する。また、例えば、制御部11が図5に示す画像を取得後に、内視鏡1が体腔内で挿入管2が延びる方向を軸として180度回転し、関心領域が画面領域8に含まれるようになった場合、制御部11は白色LED74が照射する光量の調節を終了し、白色LED78が照射する光量を調節する。なお、一の関心領域が複数の画面領域に跨って含まれている場合、該複数の画面領域に対応する全てのLEDが照射する光量を調節してもよく、関心領域の最多部分を含む画面領域に対応する白色LEDが照射する光量を調節してもよい。
図7はモニタに表示される画像(モニタ画像)の一例を示す説明図である。制御部11は、学習モデル161から取得した画像に関心領域に関する情報(関心領域の位置及び病変確度)が含まれている場合、図7に示すようにモニタ14に、子画面で病変確度と共に関心領域を含む画像を別途表示する。このとき、関心領域を拡大した画像を子画面において表示してもよく、その場合は図7に示すように、子画面中に拡大倍率を表示してもよい。図7に示すモニタ画像の子画面おいて、拡大倍率は1.4倍である。また、モニタ14とは別個のモニタを備え、該モニタに関心領域を含む画像を表示してもよい。
制御部11が学習モデル161から取得した画像に複数の関心領域が含まれている場合、例えば、複数の子画面において各関心領域を含む画像を表示し、関心領域を囲む破線の色と、子画面の枠線の色を夫々同色にして対応させる。
図8は光量増加後にモニタに表示される画像(光量調節後モニタ画像)の一例を示す説明図である。制御部11は、学習モデル161から取得した画像に含まれる関心領域の病変確度が所定値未満である場合、画像の白色度を取得し、該白色度に基づいて、関心領域の位置に対応する白色LEDの光量を減少させるか、または増加させるかを決定する。該白色度は、例えば、内視鏡画面の白色部分の割合を百分率で表した値であり、白色LEDが照射する光量が多い場合にハレーションなどが起こることによって高くなる。
例えば、図7に示すように画像全体が暗く、画像の白色度が基準値より低い場合、制御部11は関心領域の位置に対応する白色LEDの光量を増加させ、図8に示すような白色度の高い光量調節後モニタ画像をモニタ14に表示する。該基準値は例えば50であるが、入力部17において入力を受け付けることによって変更が可能である。なお、光量調節後モニタ画像については、図8に示すように光量調節後マーク14aを表示してもよい。
制御部11は、関心領域の病変確度が所定値よりも高い場合も、モニタ14に、子画面で病変確度と共に該関心領域を別途表示する。図8に示す光量調節後モニタ画像において関心領域の病変確度は0.95である。
制御部11が学習モデル161から取得した画像の白色度が基準値以上であった場合、制御部11は関心領域の位置に対応する白色LEDの光量を減少させる。白色LEDの光量を減少させる場合も、モニタ14における画像の表示方法は、白色LEDの光量を増加させる場合と同様である。
内視鏡1が体腔内を移動し、内視鏡1が撮像する画像の中に関心領域が含まれなくなった場合、制御部11は、光量調節を行った白色LEDの光量を徐々に通常時光量に変更する。
図9はプロセッサ装置の制御部による処理手順の一例を示すフローチャートである。
プロセッサ装置10の制御部11は、例えば、自装置に接続されている入力部17からの入力内容に基づき、該フローチャートの処理を開始する。該処理の開始時に白色LED71~78が照射する光量は、通常時光量である。
プロセッサ装置10の制御部11は、内視鏡1から出力された内視鏡画像を取得する(S1)。内視鏡1による体腔内の撮像の開始と同期して、制御部11は、内視鏡1から該内視鏡画像を取得するものであってもよい。また、該内視鏡画像は静止画又は動画であってもよい。
プロセッサ装置10の制御部11は、内視鏡画像を学習モデル161に入力する(S2)。内視鏡画像が入力された学習モデル161は、入力された内視鏡画像に関心領域が含まれており、該関心領域の病変確度が一定値以上の場合、関心領域に関する情報として関心領域の位置及び病変確度を出力する。入力された内視鏡画像に関心領域が含まれていない場合または関心領域の病変確度が一定値未満の場合、学習モデル161は関心領域に関する情報を制御部11に出力しない。
プロセッサ装置10の制御部11は、学習モデル161から関心領域に関する情報を取得したか否かを判定する(S3)。学習モデル161から関心領域に関する情報を取得しなかった場合(S3:NO)、制御部11は白色LEDの光量を通常時光量に変更する(S31)。なお、S31の処理を実行する以前から通常時光量であった場合は、通常時光量を維持する。制御部11は、再度S1の処理を実行すべく、ループ処理を行う。
学習モデル161から関心領域に関する情報を取得した場合(S3:YES)、プロセッサ装置10の制御部11は、関心領域に関する情報に含まれる病変確度が所定値以上であるか判定する(S4)。病変確度が所定値以上であった場合(S4:YES)、プロセッサ装置10の制御部11は関心領域を子画面で表示し(S5)、処理を終了する。
病変確度が所定値未満であった場合(S4:NO)、プロセッサ装置10の制御部11は関心領域を子画面で表示する(S41)。制御部11は、関心領域に関する情報に含まれる関心領域の位置と、LED対応テーブルをもとに、関心領域の位置に対応する白色LEDを特定する(S42)。このとき特定した白色LEDは、光量調節を行う白色LEDである。
プロセッサ装置10の制御部11は、取得した内視鏡画面の白色度が基準値以上か否かを判定する(S43)。プロセッサ装置10の制御部11は、内視鏡画面の白色度が基準値以上の場合(S43:YES)、S42において特定した白色LEDが照射する光量を減少させ(S431)、基準値未満の場合(S43:NO)、S42において特定した白色LEDが照射する光量を増加させる(S432)。制御部11は、例えば、白色LEDが照射する光量を減少させる場合は該白色LEDに出力するデューティ比を0.5から0.2まで徐々に下げ、増加させる場合は該白色LEDに出力するデューティ比を0.5から0.8まで徐々に上げる。
プロセッサ装置10の制御部11は、白色LEDに出力するデューティ比を基に、白色LEDが照射する光量が上限値あるいは下限値であるか否かを判定する(S44)。光量が上限値あるいは下限値である場合(S44:YES)、制御部11は、白色LEDが照射する光量を通常光量に変更し(S45)、処理を終了する。光量が上限値あるいは下限値でない場合(S44:NO)、制御部11は、再度S1の処理を実行すべく、ループ処理を行う。
本実施形態によれば、病変確度が低い関心領域に照射する光量を自動で調節するので、病変を判定する精度を向上することが可能である。
(変形例)
前述の実施形態では、関心領域の位置を画像座標値によって定義していたが、ピクセル番号によって関心領域の位置を定義してもよい。この場合、画面領域はピクセル番号の範囲によって定義される。
また、学習モデル161が出力した画像配列形式のデータである場合、関心領域の位置を配列番号で定義してもよく、この場合、画面領域は配列番号の範囲によって定義される。
前述の実施形態では、取得した内視鏡画像に含まれる関心領域の病変確度が所定値以上であった場合に子画面でするが、子画面で表示するする代替として、病変確度が所定値以上の関心領域を拡大して表示してもよい。また、該関心領域を子画面で拡大表示してもよい。
前述の実施形態では、画面の白色度が基準値以上か否か判定し、白色LEDが照射する光量を減少させるかまたは増加させるかを決定していたが、内視鏡内に測光回路を設け、測光回路が測定した体腔内の反射光量に基づいて、白色LEDが照射する光量を減少させるかまたは増加させるかを決定してもよい。
今回開示した実施の形態は、全ての点で例示であって、制限的なものではないと考えられるべきである。各実施例にて記載されている技術的特徴は互いに組み合わせることができ、本発明の範囲は、特許請求の範囲内での全ての変更及び特許請求の範囲と均等の範囲が含まれることが意図される。
1 内視鏡
2 挿入管
20 軟性部
21 湾曲部
22 先端部
23 連結部
25 対物レンズ
26 配光レンズ
3 操作部
31 操作ボタン
4 ユニバーサルチューブ
5 コネクタ部
6 撮像部
60 撮像駆動部
61 受信回路
62 ゲイン回路
7 照明部
70 基板
71~78 白色LED
79 照明駆動部
8 光量調節部
10 プロセッサ装置
11 制御部
12 信号処理回路
13 入出力I/F
14 モニタ
15 入力部
16 記憶部
161 学習モデル
16a 記録媒体

Claims (10)

  1. 内視鏡により撮像した画像を取得し、
    前記内視鏡により撮像した画像が入力された場合、前記画像に含まれる関心領域の認識結果を出力するように学習された学習モデルに前記画像を入力して、認識結果を出力し、
    前記認識結果に基づき、前記内視鏡の先端に設けられたLEDが関心領域に照射する光量を調節する
    処理をコンピュータに実行させるコンピュータプログラム。
  2. 前記学習モデルは前記画像に含まれる前記関心領域が病変である確度を出力し、
    前記確度が所定値未満の場合に前記光量を調節する
    請求項1に記載のコンピュータプログラム。
  3. 前記関心領域が病変である確度が所定値未満の場合、前記画像が表示される画面とは別個の画面に前記関心領域を含む画像を出力する
    請求項1または2に記載のコンピュータプログラム。
  4. 前記関心領域が病変である確度が所定値以上の場合、前記取得した画像が表示される画面にて、該画像から前記関心領域を拡大した拡大画像に切り替える、又は前記画像が表示される画面とは別個の画面に前記関心領域を含む画像を出力する
    請求項1から3のいずれか一つに記載のコンピュータプログラム。
  5. 前記内視鏡は複数のLEDを備え、
    前記関心領域の位置に対応するLEDが照射する光量を調節する
    請求項1から4のいずれか一つ記載のコンピュータプログラム。
  6. 前記LEDが前記関心領域に照射する光量の下限値または上限値の変更を受け付ける
    請求項1から5のいずれか一つに記載のコンピュータプログラム。
  7. 前記画像の白色度を取得し、
    前記白色度が基準値以上の場合、前記光量を減少させ、
    前記白色度が前記基準値未満の場合、前記光量を増加させる
    請求項1から6のいずれか一つに記載のコンピュータプログラム。
  8. 前記光量を調節した以降に取得した画像に前記関心領域が含まれなくなった場合、前記光量を、調節前の光量に変更する
    請求項1から7のいずれか一つに記載のコンピュータプログラム。
  9. 内視鏡により撮像した画像を取得し、
    内視鏡により撮像された画像が入力された場合、前記画像に含まれる関心領域の認識結果を出力するように学習された学習モデルに前記画像を入力して、認識結果を出力し、
    学習モデルから前記画像に含まれる関心領域の認識結果を取得し、
    前記認識結果に基づき、前記内視鏡の先端に設けられたLEDが前記関心領域に照射する光量を調節する
    情報処理方法。
  10. 先端に設けられたLEDと、
    内視鏡により撮像した画像を取得する取得部と、
    内視鏡により撮像された画像が入力された場合、前記画像に含まれる関心領域の認識結果を出力するように学習された学習モデルに取得した前記画像を入力して、認識結果を出力する出力部と、
    前記認識結果に基づき、前記LEDが前記関心領域に照射する光量を調節する光量調節部と
    を備える内視鏡。
JP2021152269A 2021-09-17 2021-09-17 コンピュータプログラム、情報処理方法及び内視鏡 Pending JP2023044308A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021152269A JP2023044308A (ja) 2021-09-17 2021-09-17 コンピュータプログラム、情報処理方法及び内視鏡
PCT/JP2022/028468 WO2023042546A1 (ja) 2021-09-17 2022-07-22 コンピュータプログラム、情報処理方法及び内視鏡
CN202280040693.XA CN117460445A (zh) 2021-09-17 2022-07-22 计算机程序、信息处理方法以及内窥镜

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021152269A JP2023044308A (ja) 2021-09-17 2021-09-17 コンピュータプログラム、情報処理方法及び内視鏡

Publications (1)

Publication Number Publication Date
JP2023044308A true JP2023044308A (ja) 2023-03-30

Family

ID=85602687

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021152269A Pending JP2023044308A (ja) 2021-09-17 2021-09-17 コンピュータプログラム、情報処理方法及び内視鏡

Country Status (3)

Country Link
JP (1) JP2023044308A (ja)
CN (1) CN117460445A (ja)
WO (1) WO2023042546A1 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11225952A (ja) * 1998-02-12 1999-08-24 Olympus Optical Co Ltd 内視鏡装置
CN111655116A (zh) * 2017-10-30 2020-09-11 公益财团法人癌研究会 图像诊断辅助装置、资料收集方法、图像诊断辅助方法及图像诊断辅助程序
JP7304951B2 (ja) * 2019-07-18 2023-07-07 Hoya株式会社 コンピュータプログラム、内視鏡用プロセッサの作動方法及び内視鏡用プロセッサ

Also Published As

Publication number Publication date
WO2023042546A1 (ja) 2023-03-23
CN117460445A (zh) 2024-01-26

Similar Documents

Publication Publication Date Title
EP3968272A1 (en) Medical endoscope image identification method and system, and endoscope image system
US20170366773A1 (en) Projection in endoscopic medical imaging
US20200126223A1 (en) Endoscope diagnosis support system, storage medium, and endoscope diagnosis support method
US11937767B2 (en) Endoscope
KR102579730B1 (ko) 정반사 검출 및 저감을 위한 시스템 및 방법
US11457876B2 (en) Diagnosis assisting apparatus, storage medium, and diagnosis assisting method for displaying diagnosis assisting information in a region and an endoscopic image in another region
US6322497B1 (en) Electronic endoscope
WO2021171465A1 (ja) 内視鏡システム及び内視鏡システムによる管腔走査方法
CN106659371A (zh) 医用观察设备以及医用观察方法
WO2023042546A1 (ja) コンピュータプログラム、情報処理方法及び内視鏡
CN113840125A (zh) 投影仪的控制方法、装置、投影仪、存储介质
JP7162744B2 (ja) 内視鏡用プロセッサ、内視鏡システム、情報処理装置、プログラム及び情報処理方法
WO2022270149A1 (ja) プログラム、情報処理方法及び内視鏡システム
JP7122328B2 (ja) 画像処理装置、プロセッサ装置、画像処理方法、及びプログラム
US20220287550A1 (en) Endoscopy support apparatus, endoscopy support method, and computer readable recording medium
US20220330850A1 (en) Endoscope apparatus, method of operating the same, and non-transitory computer readable medium
WO2023126999A1 (ja) 画像処理装置、画像処理方法、及び、記憶媒体
US20240087723A1 (en) Program, information processing method, and information processing device
US20240180395A1 (en) Endoscopic examination support apparatus, endoscopic examination support method, and recording medium
US20230089085A1 (en) Endoscope, program, and information processing method
US12004721B2 (en) Endoscope, program, and information processing method
WO2021149120A1 (ja) 学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラム
WO2024024022A1 (ja) 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体
WO2023144936A1 (ja) 画像判定装置、画像判定方法、及び、記録媒体
WO2021161369A1 (ja) 内視鏡装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231113