JP7641920B2 - 内視鏡用プロセッサ、情報処理方法及びコンピュータプログラム - Google Patents
内視鏡用プロセッサ、情報処理方法及びコンピュータプログラム Download PDFInfo
- Publication number
- JP7641920B2 JP7641920B2 JP2021573986A JP2021573986A JP7641920B2 JP 7641920 B2 JP7641920 B2 JP 7641920B2 JP 2021573986 A JP2021573986 A JP 2021573986A JP 2021573986 A JP2021573986 A JP 2021573986A JP 7641920 B2 JP7641920 B2 JP 7641920B2
- Authority
- JP
- Japan
- Prior art keywords
- endoscope
- start condition
- unit
- satisfied
- moving image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
- G06N3/065—Analogue means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
- H04N23/6845—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Surgery (AREA)
- Neurology (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Endoscopes (AREA)
Description
図1は、第1実施形態における内視鏡システムの全体構成を説明する模式図である。第1実施形態における内視鏡システムは、内視鏡1、内視鏡用プロセッサ2及び表示装置3を含む。内視鏡1は、被検体の内部に挿入され、被検体の内部を撮影した画像の画像データを内視鏡用プロセッサ2に出力する。内視鏡用プロセッサ2は、内視鏡1から入力された画像データに画像処理を施し、画像処理を施した画像データを表示装置3に出力する。表示装置3は、内視鏡用プロセッサ2から入力された画像データの画像を表示する。各装置はコネクタを介して電気信号、映像信号等の送受信を行う。
なお、内視鏡用プロセッサ2は不図示のマイクロフォン等の音声入力部を備え、受付部212は、該音声入力部を介して音声により開始操作を受け付けてもよい。受付部212は、入力部23を介して、例えばタッチパネル、キーボード等の操作により開始操作を受け付けてもよい。
高画質動画データを記憶するタイミングは、所定の開始条件が満たされた直後のタイミングである。開始条件とは、高画質動画の撮影を開始する条件であり、当該条件を満たすタイミングにて撮影される画像をもとに診断が行われる可能性が高い場合が含まれる。判定部215は、開始条件を満たすと判定した場合、撮像画像データを高画質動画取得部219へ出力開始する制御信号を画像処理部211へ付与する。
さらに、静止画取得部217は、判定部215の指示に応じたタイミングにて画像処理部211から出力される撮像画像データを取得する。静止画取得部217は、識別情報取得部216から出力される被検体識別情報を取得する。静止画取得部217は、取得した撮像画像データに所定の画像処理を施した静止画を生成し、静止画データとして取得する。なお静止画データは、同時点において取得した内視鏡画像データであってもよい。静止画データは、例えば1980×1080(フルHD)等の、高い解像度を有する画像データである。静止画取得部217は、取得した静止画データを、例えばJPEG、TIFF等の所定のファイル形式による静止画ファイルとして記憶部22に記憶させる。この場合において、静止画取得部217は、静止画データに被検体識別情報を関連付けて記憶部22に記憶する。
開始操作の受け付けを示す情報が取得されておらず、開始操作を受け付けていないと判定した場合(ステップS13:NO)、制御部21は、第1開始条件を満たさないと判定し、ステップS14及びステップS15における他の開始条件の判定へ処理を進める。
(ステップS14)。制御部21は、病変検出部213によって病変検出結果を示す情報を出力する処理を実行する。具体的には、制御部21は、撮像画像データを学習モデル2Mに入力して、出力される病変検出結果を特定する。学習モデル2Mに入力される画像データは、撮像画像データに各種の処理を施した画像データであってもよく、あるいは内視鏡画像データであってもよい。病変有りを示す病変検出結果を取得し、病変が検出されたと判定した場合(ステップS14:YES)、制御部21は、第2開始条件を満たすと判定し、ステップS16の高画質動画データの取得開始へ処理を進める。
一方、病変無しを示す病変検出結果を取得し、病変が検出されないと判定した場合(ステップS14:NO)、制御部21は、第2開始条件を満たさないと判定し、処理をステップS13へ戻し開始条件を満たすまで待機する。
一方、移動量が所定値以下でないと判定した場合(ステップS15:NO)、制御部21は、第3開始条件を満たさないと判定し、処理をステップS13へ戻し開始条件を満たすまで待機する。
操作者は、検査実施時又は後日の診断内容に応じて、取得する情報量を選択することが可能である。
第2実施形態では、複数の高画質動画を連結された1個の動画として提供する構成について説明する。以下では、第2実施形態について、第1実施形態と異なる点を説明する。後述する構成を除く他の構成については第2実施形態の内視鏡システムと同様であるので、共通する構成については同一の符号を付してその詳細な説明を省略する。
2 内視鏡用プロセッサ
21 制御部
22 記憶部
2P プログラム
2A 記録媒体
2M 学習モデル
222 画像DB
211 画像処理部
212 受付部
213 病変検出部
214 移動量検出部
215 判定部
216 識別情報取得部
217 静止画取得部
218 低画質動画取得部
219 高画質動画取得部
220 連結部
Claims (14)
- 内視鏡により撮影される静止画像と同等以上の解像度を有する所定の時間長に限られた動画像の取得を開始する開始条件を満たすか否かを判定する判定部と、
前記判定部が前記開始条件を満たすと判定した場合、前記動画像の取得を開始する動画像取得部と、
前記動画像の取得開始を指示する開始操作を受け付ける受付部とを備え、
前記判定部は、前記受付部によって開始操作が受け付けられたことにより前記開始条件を満たすと判定し、
前記開始条件は、前記受付部によって開始操作が受け付けられたこと以外の他の開始条件を含み、
前記判定部は、前記受付部によって開始操作が受け付けられていない場合、前記他の開始条件を満たすか否かを判定する
内視鏡用プロセッサ。 - 前記静止画像における病変を検出する病変検出部を備え、
前記判定部は、前記病変検出部によって病変が検出されることにより前記開始条件を満たすと判定する
請求項1に記載の内視鏡用プロセッサ。 - 前記静止画像に基づき前記内視鏡の移動量を検出する移動量検出部を備え、
前記判定部は、前記移動量検出部が検出した前記移動量が所定値以下であることにより前記開始条件を満たすと判定する
請求項1又は請求項2に記載の内視鏡用プロセッサ。 - 内視鏡により撮影される静止画像と同等以上の解像度を有する所定の時間長に限られた動画像の取得を開始する開始条件を満たすか否かを判定する判定部と、
前記判定部が前記開始条件を満たすと判定した場合、前記動画像の取得を開始する動画像取得部と、
前記静止画像に基づき前記内視鏡の移動量を検出する移動量検出部とを備え、
前記判定部は、前記移動量検出部が検出した前記移動量が所定値以下であることにより前記開始条件を満たすと判定する
内視鏡用プロセッサ。 - 前記動画像と前記内視鏡により撮影される被検体の被検体識別情報とを関連付けて記憶する記憶部を備える
請求項1から請求項4のいずれか1項に記載の内視鏡用プロセッサ。 - 前記記憶部は、前記動画像に前記開始条件を関連付けて記憶する
請求項5に記載の内視鏡用プロセッサ。 - 前記記憶部に記憶されている同一の被検体識別情報が関連付けられた複数の動画像を、時系列に連結する連結部を備える
請求項5又は請求項6に記載の内視鏡用プロセッサ。 - 同一の開始条件に基づき連続して取得された複数の動画像を連結する場合、前記連結部は複数の動画像間のフレームを補間して連結する
請求項7に記載の内視鏡用プロセッサ。 - 前記内視鏡により撮影される第2動画像を前記内視鏡による検査の開始から終了に亘って取得する第2動画像取得部を備え、
前記動画像は、前記第2動画像よりも高い解像度を有する
請求項1から請求項8のいずれか1項に記載の内視鏡用プロセッサ。 - 前記動画像の解像度はハイビジョン以上である
請求項1から請求項9のいずれか1項に記載の内視鏡用プロセッサ。 - 内視鏡用プロセッサが、
内視鏡により撮影される静止画像と同等以上の解像度を有する所定の時間長に限られた動画像の取得を開始する開始条件を満たすか否かを判定し、
前記開始条件を満たすと判定した場合、前記動画像の取得を開始し、
前記動画像の取得開始を指示する開始操作が受け付けられたことにより前記開始条件を満たすと判定し、
前記開始条件は、前記開始操作が受け付けられたこと以外の他の開始条件を含み、
前記開始操作が受け付けられていない場合、前記他の開始条件を満たすか否かを判定する
処理を実行する情報処理方法。 - 内視鏡用プロセッサが、
内視鏡により撮影される静止画像と同等以上の解像度を有する所定の時間長に限られた動画像の取得を開始する開始条件を満たすか否かを判定し、
前記開始条件を満たすと判定した場合、前記動画像の取得を開始し、
前記静止画像に基づき検出した前記内視鏡の移動量が所定値以下であることにより前記開始条件を満たすと判定する
処理を実行する情報処理方法。 - 内視鏡により撮影される静止画像と同等以上の解像度を有する所定の時間長に限られた動画像の取得を開始する開始条件を満たすか否かを判定し、
前記開始条件を満たすと判定した場合、前記動画像の取得を開始し、
前記動画像の取得開始を指示する開始操作が受け付けられたことにより前記開始条件を満たすと判定し、
前記開始条件は、前記開始操作が受け付けられたこと以外の他の開始条件を含み、
前記開始操作が受け付けられていない場合、前記他の開始条件を満たすか否かを判定する
処理をコンピュータに実行させるコンピュータプログラム。 - 内視鏡により撮影される静止画像と同等以上の解像度を有する所定の時間長に限られた動画像の取得を開始する開始条件を満たすか否かを判定し、
前記開始条件を満たすと判定した場合、前記動画像の取得を開始し、
前記静止画像に基づき検出した前記内視鏡の移動量が所定値以下であることにより前記開始条件を満たすと判定する
処理をコンピュータに実行させるコンピュータプログラム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020010935 | 2020-01-27 | ||
| JP2020010935 | 2020-01-27 | ||
| PCT/JP2021/002180 WO2021153437A1 (ja) | 2020-01-27 | 2021-01-22 | 内視鏡用プロセッサ、情報処理方法及びコンピュータプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2021153437A1 JPWO2021153437A1 (ja) | 2021-08-05 |
| JP7641920B2 true JP7641920B2 (ja) | 2025-03-07 |
Family
ID=77079760
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021573986A Active JP7641920B2 (ja) | 2020-01-27 | 2021-01-22 | 内視鏡用プロセッサ、情報処理方法及びコンピュータプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US12035045B2 (ja) |
| JP (1) | JP7641920B2 (ja) |
| WO (1) | WO2021153437A1 (ja) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2014103879A1 (ja) | 2012-12-26 | 2014-07-03 | オリンパスメディカルシステムズ株式会社 | 画像記録装置及び画像記録方法 |
| US20180110398A1 (en) | 2016-10-26 | 2018-04-26 | Virgo Surgical Video Solutions, Inc . | Automated system for medical video recording and storage |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4937136B2 (ja) * | 2004-12-28 | 2012-05-23 | パトリック・シー・メルダー | 内視鏡画像システム |
| US8310529B2 (en) * | 2006-05-15 | 2012-11-13 | Olympus Medical Systems Corp. | System and method for automatic processing of endoscopic images |
| JP5078538B2 (ja) * | 2007-10-15 | 2012-11-21 | キヤノン株式会社 | 画像再生装置,およびその処理方法およびそのプログラム |
| JP5843525B2 (ja) * | 2010-11-10 | 2016-01-13 | キヤノン株式会社 | 撮像装置及びその制御方法 |
| JP2018007928A (ja) | 2016-07-15 | 2018-01-18 | Hoya株式会社 | 電子内視鏡システム及びプロセッサ |
| US10630901B2 (en) * | 2017-05-23 | 2020-04-21 | Google Llc | Systems and methods for selectively activating high dynamic range in a video capture system |
-
2021
- 2021-01-22 US US17/775,363 patent/US12035045B2/en active Active
- 2021-01-22 JP JP2021573986A patent/JP7641920B2/ja active Active
- 2021-01-22 WO PCT/JP2021/002180 patent/WO2021153437A1/ja not_active Ceased
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2014103879A1 (ja) | 2012-12-26 | 2014-07-03 | オリンパスメディカルシステムズ株式会社 | 画像記録装置及び画像記録方法 |
| US20180110398A1 (en) | 2016-10-26 | 2018-04-26 | Virgo Surgical Video Solutions, Inc . | Automated system for medical video recording and storage |
Also Published As
| Publication number | Publication date |
|---|---|
| US20220385818A1 (en) | 2022-12-01 |
| US12035045B2 (en) | 2024-07-09 |
| WO2021153437A1 (ja) | 2021-08-05 |
| JPWO2021153437A1 (ja) | 2021-08-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5242866B1 (ja) | 画像管理装置、方法、及び読影用プログラム | |
| CN101686799B (zh) | 图像处理装置以及图像处理装置的动作方法 | |
| CN1798334B (zh) | 用于编辑从体内所获取的图像流的系统和方法 | |
| US20090131746A1 (en) | Capsule endoscope system and method of processing image data thereof | |
| JP5044066B2 (ja) | 画像表示装置及びカプセル型内視鏡システム | |
| JP2010158308A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
| CN110770842B (zh) | 医疗信息处理系统和医疗信息处理方法 | |
| US20090023993A1 (en) | System and method for combined display of medical devices | |
| JP2009039449A (ja) | 画像処理装置 | |
| KR100751160B1 (ko) | 의료용 화상 기록 시스템 | |
| WO2018043585A1 (ja) | 内視鏡装置、情報処理装置およびプログラム | |
| WO2014061554A1 (ja) | 画像処理装置及び画像処理方法 | |
| JP7641920B2 (ja) | 内視鏡用プロセッサ、情報処理方法及びコンピュータプログラム | |
| JP7527634B2 (ja) | 検査支援装置、検査支援装置の作動方法および検査支援プログラム | |
| JP4445742B2 (ja) | 画像表示装置、画像表示方法、及び画像表示プログラム | |
| JP2008264313A (ja) | 内視鏡システム | |
| JP3923601B2 (ja) | 内視鏡システム | |
| WO2023175916A1 (ja) | 医療支援システムおよび画像表示方法 | |
| CN115279249A (zh) | 图像选择辅助装置、图像选择辅助方法及图像选择辅助程序 | |
| JP7607803B2 (ja) | 医療支援システム、レポート作成支援方法および情報処理装置 | |
| JP2018007960A (ja) | 内視鏡装置 | |
| JP7695406B2 (ja) | 医療支援システム、レポート作成支援方法および情報処理装置 | |
| US12342097B2 (en) | Endoscopic procedure documentation system and method | |
| JP4827414B2 (ja) | 電子内視鏡システムとファイリングシステム | |
| WO2023166647A1 (ja) | 医療支援システムおよび画像表示方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231113 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241022 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241126 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250218 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250225 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7641920 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |