JPWO2018216618A1 - 情報処理装置、制御方法、及びプログラム - Google Patents
情報処理装置、制御方法、及びプログラム Download PDFInfo
- Publication number
- JPWO2018216618A1 JPWO2018216618A1 JP2019520218A JP2019520218A JPWO2018216618A1 JP WO2018216618 A1 JPWO2018216618 A1 JP WO2018216618A1 JP 2019520218 A JP2019520218 A JP 2019520218A JP 2019520218 A JP2019520218 A JP 2019520218A JP WO2018216618 A1 JPWO2018216618 A1 JP WO2018216618A1
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- image frame
- notification
- abnormal region
- predetermined range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00055—Operational features of endoscopes provided with output arrangements for alerting the user
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Radiology & Medical Imaging (AREA)
- Physics & Mathematics (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Pathology (AREA)
- Optics & Photonics (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Multimedia (AREA)
- Closed-Circuit Television Systems (AREA)
- Endoscopes (AREA)
- Image Analysis (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
Description
当該制御方法は、1)体内が撮影された動画から前記体内の異常領域を検出する検出ステップと、2)前記動画の第1動画フレームの所定範囲内から前記異常領域が検出され、なおかつ前記第1動画フレームよりも後に生成された前記動画の第2動画フレームの前記所定範囲内からはその異常領域が検出されない場合に、所定条件が満たされているか否かを判定する判定ステップと、3)前記所定条件が満たされていないと判定された場合に第1通知を行う通知ステップと、を有する。
図1は、実施形態1の情報処理装置2000を概念的に例示する図である。図1(a)は、情報処理装置2000の利用環境を概念的に示している。図1(b)は、情報処理装置2000の動作を概念的に示している。なお、図1は、情報処理装置2000の理解を容易にするためにその動作の一例を示しているにすぎず、情報処理装置2000の機能を何ら限定するものではない。
図2は、情報処理装置2000の機能構成を例示するブロック図である。情報処理装置2000は、検出部2020、判定部2040、及び通知部2060を有する。検出部2020は、動画データ12から異常領域30を検出する。判定部2040は、動画データ12の或る動画フレーム14(第1動画フレームと呼ぶ)の所定範囲16から異常領域30が検出され、その動画フレーム14よりも後に生成された動画フレーム14(第2動画フレームと呼ぶ)の所定範囲16からはその異常領域30が検出されない場合に、前述した所定条件が満たされているか否かを判定する。通知部2060は、この所定条件が満たされていないと判定された場合に前述した第1通知を行う。
情報処理装置2000の各機能構成部は、各機能構成部を実現するハードウエア(例:ハードワイヤードされた電子回路など)で実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ(例:電子回路とそれを制御するプログラムの組み合わせなど)で実現されてもよい。以下、情報処理装置2000の各機能構成部がハードウエアとソフトウエアとの組み合わせで実現される場合について、さらに説明する。
図4は、情報処理装置2000の利用環境の具体例を示す図である。例えば情報処理装置2000は、スコープ40及び内視鏡システム50と共に利用される。スコープ40は内視鏡システム50と接続されている。また、スコープ40にはカメラ10が設けられている。このケースでは、動画データ12は、スコープ40に設けられたカメラ10によって生成される複数の動画フレーム14で構成される。内視鏡システム50は、動画データ12を情報処理装置2000へ出力する。例えば動画データ12は、内視鏡システム50に設けられている映像出力用のインタフェース(例えば HDMI(High-Definition Multimedia Interface)(登録商標)インタフェース)から、情報処理装置2000が有する映像入力用のインタフェースへ出力される。そして情報処理装置2000は、内視鏡システム50から取得した動画データ12を処理して、第1通知を行う。
図5は、実施形態1の情報処理装置2000によって実行される処理の流れを例示するフローチャートである。S102からS114は、カメラ10から取得する各動画フレーム14について実行されるループ処理である。S102において、情報処理装置2000は、まだループ処理Aの対象としていない動画フレーム14のうち、最も生成時点が早い動画フレーム14を選択する。ここで選択される動画フレーム14を、動画フレームiと表記する。なお、既に全ての動画フレーム14についてループ処理Aが実行されている場合、例えば情報処理装置2000は、新たな動画フレーム14が生成されるまで待機する。その他にもこの場合、図5の処理は終了してもよい。
検出部2020が動画データ12を取得する方法は任意である。例えば検出部2020は、動画データ12が記憶されている記憶装置にアクセスすることで、動画データ12を取得する。動画データ12が記憶されている記憶装置は、カメラ10の内部に設けられていてもよいし、カメラ10の外部に設けられていてもよい。また例えば、検出部2020は、カメラ10から送信される動画データ12を受信することで、動画データ12を取得してもよい。さらに検出部2020は、カメラ10に接続されている他の装置(例えば前述した内視鏡システム50)から動画データ12を取得してもよい。
検出部2020は、動画データ12を構成する各動画フレーム14から異常領域30を検出する。ここで、体内が撮像されている画像を解析して異常な部位を検出する技術には、既存の技術を利用することができる。例えば、特徴量マッチングやテンプレートマッチングなどの手法が利用できる。例えば特徴量マッチングで腫瘍を検出する場合、腫瘍の外観(色、模様、又は形状など)の特徴を表す値(特徴量)を予め1つ以上定義しておく。検出部2020は、動画フレーム14の画像領域の中から、予め定めておいた腫瘍の特徴量との類似度が高い画像領域を、動画フレーム14から検出する。そして、検出部2020は、検出された画像領域を、異常領域30を表す画像領域として扱う。傷や異物を検出するケースについても同様の方法を採用できる。
判定部2040は、第1動画フレームの所定範囲16から検出された異常領域30が、その後に生成された動画フレーム14の所定範囲16から検出されないことを特定する(S106)。言い換えれば、判定部2040は、第1動画フレームよりも後に生成された動画フレーム14のうち、その所定範囲16から、第1動画フレームの所定範囲16から検出された異常領域30が検出されないものを、第2動画フレームとして特定する。
判定部2040は、或る動画フレーム14の所定範囲16から異常領域30が検出された後(S106:YES)、その動画フレーム14よりも後に生成された動画フレーム14の所定範囲16からはその異常領域30が検出されない場合に(S108:NO)、前述した所定条件が満たされているか否かを判定する(S110)。この所定条件としては、様々なものを採用できる。以下、この所定条件について例示する。なお、特に言及しない限り、所定範囲16は、動画フレーム14の画像領域に含まれる任意の範囲とすることができ、動画フレーム14の画面領域全体とすることもできる。所定範囲16が動画フレーム14の中のどの範囲を表すかは、情報処理装置2000に予め設定されていてもよいし、情報処理装置2000からアクセス可能な記憶装置に記憶させておいてもよい。
動画データ12に含まれる異常領域30がユーザによって認識された場合、ユーザは、カメラ10の移動をやめたり、カメラ10の移動速度を遅くしたりすることにより、異常領域30を詳しく観察しようとする蓋然性が高い。よって、異常領域30がユーザによって認識された場合、動画データ12における異常領域30の移動速度が比較的遅いと考えられる。言い換えれば、異常領域30がユーザによって認識されていない場合、動画データ12における異常領域30の移動速度が比較的速いと考えられる。
動画データ12に含まれる異常領域30がユーザによって認識された場合、ユーザが何らかの行為をする蓋然性が高い。そこで例えば、上記所定条件を、「第1動画フレームの所定範囲16から異常領域30が検出された後、第2動画フレームの所定範囲16から異常領域30が検出されないと判定されるまでの間に、異常領域30に対するユーザによる所定の行為が検出される」という条件とする。第1動画フレームの所定範囲16から異常領域30が検出された後、第2動画フレームの所定範囲16から異常領域30が検出されないと判定されるまでの間に、ユーザによる所定の行為が検出された場合、判定部2040は、上記所定条件が満たされていると判定する。よって、通知部2060による第1通知が行われない。一方、上記の期間にユーザによる所定の行為が検出されない場合、判定部2040は、上記所定条件が満たされていないと判定する。よって、通知部2060による第1通知が行われる。
ここでは、所定範囲16が動画フレーム14の画像領域全体であるとする。さらに、動画フレーム14の中に、所定範囲16よりも小さい第2所定範囲18が設定されているとする。図6は、第2所定範囲18が設定されている動画フレーム14を例示する図である。例えば第2所定範囲18は、その中心位置が動画フレーム14の中心位置にあり、動画フレーム14と同じ形状であり、なおかつその面積が動画フレーム14の80%であるという範囲である。
判定部2040は、上述した所定条件のいずれか1つのみを利用してもよいし、いずれか2つ以上を利用してもよい。後者の場合、例えば判定部2040は、複数の所定条件の少なくとも1つが満たされている場合に「所定条件が満たされている」と判定し、複数の所定条件のいずれもが満たされていない場合に「所定条件が満たされていない」と判定する。このケースでは、複数の所定条件のいずれもが満たされていない場合に第1通知が行われる。
上述した所定条件が満たされていない場合(S110:NO)、通知部2060による第1通知が行われる(S112)。通知部2060による第1通知には、様々なものを採用できる。以下、その具体例について説明する。
通知部2060は、第1通知として、ビープ音や音声メッセージなどの所定の音声をスピーカから出力させる。この場合、情報処理装置2000にはスピーカが接続されている。この所定の音声は、通知部2060に予め設定されていてもよいし、通知部2060からアクセス可能な記憶装置に記憶されていてもよい。
通知部2060は、第1通知として、動画データ12を強調させる表示をディスプレイ装置20に行わせる。例えば動画データ12の強調表示は、動画データ12を囲う枠線を表示させたり、既に表示されている動画データ12の枠線を太くしたりする表示である。その他にも例えば、動画データ12の強調表示は、動画データ12やその枠線を点滅させる表示である。
通知部2060は、第1通知として、ディスプレイ装置20に、第1動画フレーム以降の動画データ12の所定範囲16内において異常領域30が最後に検出された位置を示す表示を行わせてもよい。図9は、異常領域30が最後に検出された所定範囲16内の位置を示す表示を例示する図である。図9において、所定範囲16は動画フレーム14の画像領域全体である。図9(a)は、動画データ12における異常領域30の移動の軌跡を表している。図9(b)は、図9(a)に示す軌跡で異常領域30が移動した場合において行われる第1通知を例示している。
通知部2060は、第1通知として、所定範囲16から出た異常領域30を再び所定範囲16の中に入れるためのガイドとなる表示をディスプレイ装置20に表示させてもよい。図10は、上述のガイドを例示する図である。図10(a)は、動画データ12における異常領域30の移動の軌跡を表している。図10(b)は、図10(a)に示す軌跡で異常領域30が移動した場合において行われる第1通知を例示している。
通知部2060は、第1通知として、第1動画フレームと第2動画フレームの間の動画フレーム14であって異常領域30が所定範囲16の中に含まれるものをディスプレイ装置20に表示させてもよい。図11は、異常領域30が所定範囲16の中に含まれる動画フレーム14が第1通知として表示される様子を例示する図である。図11(a)は、動画データ12における異常領域30の軌跡を表している。異常領域30は、時点 t1 と時点 t2 の間において所定範囲16の中に含まれている。そこで通知部2060は、時点 t1 と時点 t2 の間に生成された動画フレーム14の内の一つを、ディスプレイ装置20に表示させる。図11(b)は、時点 t1 と時点 t2 の間に生成された動画フレーム14がディスプレイ装置20に表示されている様子を示している。図11(b)において、情報処理装置2000は、第1通知として表示される動画フレーム14を、ディスプレイ装置20の第1領域22に表示させている。また、情報処理装置2000は、動画データ12を、ディスプレイ装置20の第2領域24に表示させている。
通知部2060は、第1動画フレームと第2動画フレームとの間に生成された動画フレーム14のうち、異常領域30が含まれる最後の(最も新しい)動画フレーム14を、第1領域22に表示させる動画フレーム14として決定する。この方法によれば、ユーザは、異常領域30がカメラ10によって撮像されていた最後の位置を把握することができる。
通知部2060は、第1動画フレームと第2動画フレームとの間に生成された各動画フレーム14について、異常領域30を表す画像領域が体内の異常を表す確度を特定する。例えば特徴量マッチングやテンプレートマッチングで動画フレーム14から異常領域30を検出する場合、異常領域30を表す画像領域が体内の異常を表す確度は、その画像領域と、予め定義しておいた特徴量やテンプレートとの類似度の高さで表される。通知部2060は、この確度が最も高い動画フレーム14を、第1領域22に表示させる動画フレーム14として決定する。
通知部2060は、第1動画フレームと第2動画フレームとの間に生成された各動画フレーム14の中から、異常領域30の位置が動画フレーム14の中心位置に最も近いものを特定し、特定された動画フレーム14を、第1領域22に表示させる動画フレーム14とする。具体的には、通知部2060は、各動画フレーム14について、動画フレーム14に含まれる異常領域30と動画フレーム14の中心座標との距離を算出する。そして、通知部2060は、その距離が最も小さい動画フレーム14を、第1領域22に表示させる動画フレーム14として決定する。
通知部2060は、第1動画フレームと第2動画フレームとの間に生成された各動画フレーム14のうち、動画フレーム14全体のコントラストが最も大きいものを、第1領域22に表示させる動画フレーム14として決定する。具体的には、通知部2060は、各動画フレーム14について、動画フレーム14全体のコントラストを表す指標値を算出する。そして通知部2060は、算出した指標値を比較することにより、コントラストが最も大きい動画フレーム14を特定し、特定された動画フレーム14を、第1領域22に表示させる動画フレーム14とする。なお、コントラストを表す指標値には、例えば Michelson コントラストなどを利用することができる。
通知部2060は、動画フレーム14全体のコントラストではなく、異常領域30を表す画像領域のコントラストを利用してもよい。つまり、通知部2060は、第1動画フレームから第2動画フレームの間に生成された各動画フレーム14について、異常領域30を表す画像領域のコントラストの指標値を算出する。そして、通知部2060は、算出された指標値を比較することにより、異常領域30を表す画像領域のコントラストが最も大きい動画フレーム14を特定し、この特定した動画フレーム14を第1領域22に表示させる。
通知部2060は、前述した第1領域22に表示させる動画フレーム14を、第1領域22に表示させると共に、又は第1領域22に表示させることに代えて、記憶装置に記憶させてもよい。以下、動画フレーム14を記憶させる記憶装置を画像記憶部120と呼ぶ。図12は、画像記憶部120と接続されている情報処理装置2000を例示する図である。なお、画像記憶部120は、情報処理装置2000の内部に設けられていてもよい。
情報処理装置2000は、ディスプレイ装置20に表示される動画フレーム14について、その動画フレーム14に含まれる異常領域30を表す表示を行う機能を有していてもよい。こうすることで、ユーザが動画フレーム14に含まれる異常領域30を容易に把握することができるようになる。以下、この表示を第1表示と呼ぶ。
図16は、実施形態2の情報処理装置2000を例示するブロック図である。以下で説明する事項を除き、実施形態2の情報処理装置2000は、実施形態1の情報処理装置2000と同様である。
図17は、実施形態2の情報処理装置2000によって実行される処理の流れを例示する図である。図17に示される一連の処理は、検出部2020によって動画フレーム14から異常領域30が検出された後(S106:YES)に実行される。
第2通知としては、様々なものを採用できる。以下、その具体例を説明する。
第2通知部2080は、第2通知として、所定の音声をスピーカから出力させる。通知として所定の音声を利用する方法については、「第1通知の例1」として実施形態1で説明した通りである。なお、第1通知も音声とする場合、第1通知と第2通知には、互いに異なる音声を利用することが好適である。
第2通知部2080は、第2通知として、動画データ12を強調させる表示をディスプレイ装置20に行わせる。動画データ12を強調させる方法については、「第1通知の例2」として実施形態1で説明した通りである。なお、第1通知も動画データ12を強調させる表示とする場合、第1通知と第2通知とで、動画データ12を強調させる態様に差異をつけることが好適である。例えば、第1通知は、動画データ12の枠線を太くする表示とし、第2通知は、動画データ12を点滅させる表示とする。
前提として、「第1通知の例5」として説明したように、第1通知として「第1動画フレームと第2動画フレームの間の動画フレーム14であって異常領域30が所定範囲16の中に含まれるもの」がディスプレイ装置20の第1領域22に表示されるとする。つまり、ユーザが認識していない蓋然性が高い異常領域30が所定範囲16に含まれる動画フレーム14が、第1領域22に表示されるケースである。
通知部2060は、第1通知の対象となった異常領域30を特定できる情報を履歴情報に記憶させておく。例えばこの情報は、異常領域30を表す画像領域の特徴量(例えばその画像領域の色、形状、又は模様を表すパラメタ)である。以下、履歴情報の構成の具体例を示す。
実施形態2の情報処理装置2000を実現する計算機のハードウエア構成は、実施形態1と同様に、例えば図3によって表される。ただし、本実施形態の情報処理装置2000を実現する計算機1000のストレージデバイス1080には、本実施形態の情報処理装置2000の機能を実現するプログラムモジュールがさらに記憶される。
1. 体内が撮影された動画から前記体内の異常領域を検出する検出手段と、
前記動画の第1動画フレームの所定範囲内から前記異常領域が検出され、なおかつ前記第1動画フレームよりも後に生成された前記動画の第2動画フレームの前記所定範囲内からはその異常領域が検出されない場合に、所定条件が満たされているか否かを判定する判定手段と、
前記所定条件が満たされていないと判定された場合に第1通知を行う通知手段と、を有する情報処理装置。
2. 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体である、1.に記載の情報処理装置。
3. 前記所定条件は、前記第1動画フレームと前記第2動画フレームの間に生成されたいずれか1つ以上の動画フレームにおいて、前記所定範囲に含まれなおかつ前記所定範囲よりも小さい第2所定範囲から前記異常領域が検出されることである、2.に記載の情報処理装置。
4. 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体よりも小さい領域である、1.に記載の情報処理装置。
5. 前記所定条件は、前記第1動画フレームから前記第2動画フレームまでの動画において、前記所定範囲に含まれる前記異常領域の移動速度が所定値以下であることである、2.又は4.に記載の情報処理装置。
6. 前記所定条件は、前記第1動画フレームの所定範囲から前記異常領域が検出された後、前記第2動画フレームの所定範囲から前記異常領域が検出されないと判定されるまでの間に、前記異常領域に対するユーザによる所定の行為が検出されることである、2.又は4.に記載の情報処理装置。
7. 前記動画はディスプレイ装置に表示されており、
前記通知手段は、前記所定条件が満たされていないと判定された前記異常領域を含む動画フレームを前記ディスプレイ装置に表示させる、1.乃至6に記載の情報処理装置。
8. 前記第1通知の対象となった前記異常領域が検出された前記第2動画フレームよりも後に生成された動画フレームからその異常領域が検出された場合に、第2通知を行う第2通知手段を有する、1.乃至7.いずれか一つに記載の情報処理装置。
9. 前記第2通知は、ディスプレイ装置に表示されておりなおかつ前記第2通知の対象となる前記異常領域が含まれる動画フレームに対する強調表示である、8.に記載の情報処理装置。
体内が撮影された動画から前記体内の異常領域を検出する検出ステップと、
前記動画の第1動画フレームの所定範囲内から前記異常領域が検出され、なおかつ前記第1動画フレームよりも後に生成された前記動画の第2動画フレームの前記所定範囲内からはその異常領域が検出されない場合に、所定条件が満たされているか否かを判定する判定ステップと、
前記所定条件が満たされていないと判定された場合に第1通知を行う通知ステップと、を有する制御方法。
11. 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体である、10.に記載の制御方法。
12. 前記所定条件は、前記第1動画フレームと前記第2動画フレームの間に生成されたいずれか1つ以上の動画フレームにおいて、前記所定範囲に含まれなおかつ前記所定範囲よりも小さい第2所定範囲から前記異常領域が検出されることである、11.に記載の制御方法。
13. 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体よりも小さい領域である、10.に記載の制御方法。
14. 前記所定条件は、前記第1動画フレームから前記第2動画フレームまでの前記動画において、前記所定範囲に含まれる前記異常領域の移動速度が所定値以下であることである、11.又は13.に記載の制御方法。
15. 前記所定条件は、前記第1動画フレームの所定範囲から前記異常領域が検出された後、前記第2動画フレームの所定範囲から前記異常領域が検出されないと判定されるまでの間に、前記異常領域に対するユーザによる所定の行為が検出されることである、11.又は13.に記載の制御方法。
16. 前記動画はディスプレイ装置に表示されており、
前記通知ステップは、前記所定条件が満たされていないと判定された前記異常領域を含む動画フレームを前記ディスプレイ装置に表示させる、10.乃至15に記載の制御方法。
17. 前記第1通知の対象となった前記異常領域が検出された前記第2動画フレームよりも後に生成された前記動画の動画フレームからその異常領域が検出された場合に、第2通知を行う第2通知ステップを有する、10.乃至16.いずれか一つに記載の制御方法。
18. 前記第2通知は、ディスプレイ装置に表示されておりなおかつ前記第2通知の対象となる前記異常領域が含まれる動画フレームに対する強調表示である、17.に記載の制御方法。
Claims (19)
- 体内が撮影された動画から前記体内の異常領域を検出する検出手段と、
前記動画の第1動画フレームの所定範囲内から前記異常領域が検出され、なおかつ前記第1動画フレームよりも後に生成された前記動画の第2動画フレームの前記所定範囲内からはその異常領域が検出されない場合に、所定条件が満たされているか否かを判定する判定手段と、
前記所定条件が満たされていないと判定された場合に第1通知を行う通知手段と、を有する情報処理装置。 - 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体である、請求項1に記載の情報処理装置。
- 前記所定条件は、前記第1動画フレームと前記第2動画フレームの間に生成されたいずれか1つ以上の動画フレームにおいて、前記所定範囲に含まれなおかつ前記所定範囲よりも小さい第2所定範囲から前記異常領域が検出されることである、請求項2に記載の情報処理装置。
- 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体よりも小さい領域である、請求項1に記載の情報処理装置。
- 前記所定条件は、前記第1動画フレームから前記第2動画フレームまでの動画において、前記所定範囲に含まれる前記異常領域の移動速度が所定値以下であることである、請求項2又は4に記載の情報処理装置。
- 前記所定条件は、前記第1動画フレームの所定範囲から前記異常領域が検出された後、前記第2動画フレームの所定範囲から前記異常領域が検出されないと判定されるまでの間に、前記異常領域に対するユーザによる所定の行為が検出されることである、請求項2又は4に記載の情報処理装置。
- 前記動画はディスプレイ装置に表示されており、
前記通知手段は、前記所定条件が満たされていないと判定された前記異常領域を含む動画フレームを前記ディスプレイ装置に表示させる、請求項1乃至6に記載の情報処理装置。 - 前記第1通知の対象となった前記異常領域が検出された前記第2動画フレームよりも後に生成された動画フレームからその異常領域が検出された場合に、第2通知を行う第2通知手段を有する、請求項1乃至7いずれか一項に記載の情報処理装置。
- 前記第2通知は、ディスプレイ装置に表示されておりなおかつ前記第2通知の対象となる前記異常領域が含まれる動画フレームに対する強調表示である、請求項8に記載の情報処理装置。
- コンピュータによって実行される制御方法であって、
体内が撮影された動画から前記体内の異常領域を検出する検出ステップと、
前記動画の第1動画フレームの所定範囲内から前記異常領域が検出され、なおかつ前記第1動画フレームよりも後に生成された前記動画の第2動画フレームの前記所定範囲内からはその異常領域が検出されない場合に、所定条件が満たされているか否かを判定する判定ステップと、
前記所定条件が満たされていないと判定された場合に第1通知を行う通知ステップと、を有する制御方法。 - 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体である、請求項10に記載の制御方法。
- 前記所定条件は、前記第1動画フレームと前記第2動画フレームの間に生成されたいずれか1つ以上の動画フレームにおいて、前記所定範囲に含まれなおかつ前記所定範囲よりも小さい第2所定範囲から前記異常領域が検出されることである、請求項11に記載の制御方法。
- 前記動画の各動画フレームの前記所定範囲はその動画フレーム全体よりも小さい領域である、請求項10に記載の制御方法。
- 前記所定条件は、前記第1動画フレームから前記第2動画フレームまでの前記動画において、前記所定範囲に含まれる前記異常領域の移動速度が所定値以下であることである、請求項11又は13に記載の制御方法。
- 前記所定条件は、前記第1動画フレームの所定範囲から前記異常領域が検出された後、前記第2動画フレームの所定範囲から前記異常領域が検出されないと判定されるまでの間に、前記異常領域に対するユーザによる所定の行為が検出されることである、請求項11又は13に記載の制御方法。
- 前記動画はディスプレイ装置に表示されており、
前記通知ステップは、前記所定条件が満たされていないと判定された前記異常領域を含む動画フレームを前記ディスプレイ装置に表示させる、請求項10乃至15に記載の制御方法。 - 前記第1通知の対象となった前記異常領域が検出された前記第2動画フレームよりも後に生成された前記動画の動画フレームからその異常領域が検出された場合に、第2通知を行う第2通知ステップを有する、請求項10乃至16いずれか一項に記載の制御方法。
- 前記第2通知は、ディスプレイ装置に表示されておりなおかつ前記第2通知の対象となる前記異常領域が含まれる動画フレームに対する強調表示である、請求項17に記載の制御方法。
- 請求項10乃至18いずれか一項に記載の制御方法の各ステップをコンピュータに実行させるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017103349 | 2017-05-25 | ||
JP2017103349 | 2017-05-25 | ||
PCT/JP2018/019310 WO2018216618A1 (ja) | 2017-05-25 | 2018-05-18 | 情報処理装置、制御方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018216618A1 true JPWO2018216618A1 (ja) | 2020-04-02 |
JP6716853B2 JP6716853B2 (ja) | 2020-07-01 |
Family
ID=64396429
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019520218A Active JP6716853B2 (ja) | 2017-05-25 | 2018-05-18 | 情報処理装置、制御方法、及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11553829B2 (ja) |
EP (1) | EP3632295A4 (ja) |
JP (1) | JP6716853B2 (ja) |
CN (1) | CN110662476B (ja) |
WO (1) | WO2018216618A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7093833B2 (ja) * | 2018-04-26 | 2022-06-30 | オリンパス株式会社 | 移動支援システム及び移動支援方法 |
EP3861921A4 (en) * | 2018-10-04 | 2021-12-01 | NEC Corporation | INFORMATION PROCESSING DEVICE, CONTROL METHOD AND PROGRAM |
WO2020166528A1 (ja) * | 2019-02-13 | 2020-08-20 | 日本電気株式会社 | 施術支援装置、施術支援方法、及びコンピュータ読み取り可能な記録媒体 |
CN110536177B (zh) * | 2019-09-23 | 2020-10-09 | 北京达佳互联信息技术有限公司 | 视频生成方法、装置、电子设备及存储介质 |
WO2021149169A1 (ja) | 2020-01-21 | 2021-07-29 | 日本電気株式会社 | 施術支援装置、施術支援方法、及びコンピュータ読み取り可能な記録媒体 |
JP7427766B2 (ja) | 2020-03-03 | 2024-02-05 | 富士フイルム株式会社 | 画像選択支援装置、画像選択支援方法、及び画像選択支援プログラム |
JPWO2021220822A1 (ja) * | 2020-04-27 | 2021-11-04 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010512173A (ja) * | 2006-08-21 | 2010-04-22 | エスティーアイ・メディカル・システムズ・エルエルシー | 内視鏡からの映像を用いるコンピュータ支援解析 |
JP2010172673A (ja) * | 2009-02-02 | 2010-08-12 | Fujifilm Corp | 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法 |
JP2011036371A (ja) * | 2009-08-10 | 2011-02-24 | Tohoku Otas Kk | 医療画像記録装置 |
WO2011132468A1 (ja) * | 2010-04-21 | 2011-10-27 | コニカミノルタエムジー株式会社 | 医用画像表示装置及びプログラム |
Family Cites Families (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1166342C (zh) | 2000-01-20 | 2004-09-15 | 深圳市辉大高科技发展有限公司 | 导纳式血液循环自动检测方法 |
JP4434698B2 (ja) | 2003-11-13 | 2010-03-17 | 株式会社東芝 | X線ct装置 |
US7480528B2 (en) | 2004-07-23 | 2009-01-20 | Cardiac Pacemakers, Inc. | Method and apparatus for monitoring heart failure patients with cardiopulmonary comorbidities |
US20070268280A1 (en) * | 2004-08-23 | 2007-11-22 | Manabu Fujita | Image Display Apparatus, Image Display Method, and Image Display Program |
JP2006198106A (ja) * | 2005-01-19 | 2006-08-03 | Olympus Corp | 電子内視鏡装置 |
US8005279B2 (en) | 2005-03-22 | 2011-08-23 | Osaka University | Capsule endoscope image display controller |
CN1333552C (zh) | 2005-03-23 | 2007-08-22 | 北京首信科技有限公司 | 基于机器学习的用户行为异常的检测方法 |
JP2007159934A (ja) | 2005-12-15 | 2007-06-28 | Hitachi Medical Corp | 比較読影支援装置 |
JP5165872B2 (ja) | 2006-10-11 | 2013-03-21 | 住友電気工業株式会社 | フェルール及び該フェルールを用いた光導波路用コネクタの製造方法及び光導波路用コネクタ |
JP5281826B2 (ja) | 2008-06-05 | 2013-09-04 | オリンパス株式会社 | 画像処理装置、画像処理プログラムおよび画像処理方法 |
EP2423323A4 (en) * | 2009-04-21 | 2012-11-28 | Nec Corp | METHOD OF TUMOR ASSESSMENT |
JP5056798B2 (ja) * | 2009-06-08 | 2012-10-24 | 日本電気株式会社 | 判定装置、指紋入力装置、判定方法および判定プログラム |
JP5385713B2 (ja) | 2009-07-16 | 2014-01-08 | 学校法人東京女子医科大学 | 臨床検査データ解析表示装置 |
JP5597021B2 (ja) * | 2010-04-15 | 2014-10-01 | オリンパス株式会社 | 画像処理装置及びプログラム |
JP5211269B2 (ja) | 2010-12-14 | 2013-06-12 | オリンパスメディカルシステムズ株式会社 | 撮像装置 |
JP2012170774A (ja) | 2011-02-24 | 2012-09-10 | Fujifilm Corp | 内視鏡システム |
CN103442628B (zh) | 2011-03-16 | 2016-06-15 | 皇家飞利浦有限公司 | 用于检查宫颈的医疗器械 |
JP6045417B2 (ja) | 2012-12-20 | 2016-12-14 | オリンパス株式会社 | 画像処理装置、電子機器、内視鏡装置、プログラム及び画像処理装置の作動方法 |
WO2014181782A1 (ja) | 2013-05-07 | 2014-11-13 | 独立行政法人国立がん研究センター | 胃がんの再発を予測する方法 |
WO2015098235A1 (ja) * | 2013-12-25 | 2015-07-02 | オリンパス株式会社 | 内視鏡システムおよび画素補正方法 |
JP6425125B2 (ja) | 2014-01-31 | 2018-11-21 | パナソニックIpマネジメント株式会社 | 歯茎マッサージ装置 |
JP6334288B2 (ja) | 2014-06-23 | 2018-05-30 | オリンパス株式会社 | 撮像装置およびカプセル内視鏡 |
JP6503167B2 (ja) | 2014-08-27 | 2019-04-17 | 株式会社Nobori | 読影レポートシステム |
CN105249549A (zh) | 2014-11-14 | 2016-01-20 | 北京至感传感器技术研究院有限公司 | 用于检测乳房生理变化的装置 |
KR102381140B1 (ko) | 2015-02-25 | 2022-03-31 | 엘지전자 주식회사 | 디지털 디바이스 및 그의 운전자 모니터링 방법 |
JP6536153B2 (ja) | 2015-04-27 | 2019-07-03 | コニカミノルタ株式会社 | 医用画像表示装置及びプログラム |
JP6549711B2 (ja) | 2015-06-11 | 2019-07-24 | オリンパス株式会社 | 内視鏡装置及び内視鏡装置の作動方法 |
EP3360461A4 (en) * | 2015-11-10 | 2019-05-08 | Olympus Corporation | ENDOSCOPE DEVICE |
JP6591880B2 (ja) | 2015-12-02 | 2019-10-16 | APRESIA Systems株式会社 | 通信装置およびその制御方法 |
JP6602969B2 (ja) * | 2016-05-23 | 2019-11-06 | オリンパス株式会社 | 内視鏡画像処理装置 |
WO2018180250A1 (ja) * | 2017-03-28 | 2018-10-04 | 富士フイルム株式会社 | 計測支援装置、内視鏡システム、及びプロセッサ |
WO2018216617A1 (ja) * | 2017-05-25 | 2018-11-29 | 日本電気株式会社 | 情報処理装置、制御方法、及びプログラム |
-
2018
- 2018-05-18 JP JP2019520218A patent/JP6716853B2/ja active Active
- 2018-05-18 WO PCT/JP2018/019310 patent/WO2018216618A1/ja active Application Filing
- 2018-05-18 US US16/615,160 patent/US11553829B2/en active Active
- 2018-05-18 CN CN201880034276.8A patent/CN110662476B/zh active Active
- 2018-05-18 EP EP18806136.0A patent/EP3632295A4/en active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010512173A (ja) * | 2006-08-21 | 2010-04-22 | エスティーアイ・メディカル・システムズ・エルエルシー | 内視鏡からの映像を用いるコンピュータ支援解析 |
JP2010172673A (ja) * | 2009-02-02 | 2010-08-12 | Fujifilm Corp | 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法 |
JP2011036371A (ja) * | 2009-08-10 | 2011-02-24 | Tohoku Otas Kk | 医療画像記録装置 |
WO2011132468A1 (ja) * | 2010-04-21 | 2011-10-27 | コニカミノルタエムジー株式会社 | 医用画像表示装置及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20200170485A1 (en) | 2020-06-04 |
EP3632295A1 (en) | 2020-04-08 |
CN110662476B (zh) | 2022-02-11 |
JP6716853B2 (ja) | 2020-07-01 |
EP3632295A4 (en) | 2021-03-10 |
US11553829B2 (en) | 2023-01-17 |
WO2018216618A1 (ja) | 2018-11-29 |
CN110662476A (zh) | 2020-01-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6716853B2 (ja) | 情報処理装置、制御方法、及びプログラム | |
JP6799301B2 (ja) | 情報処理装置、制御方法、及びプログラム | |
EP3968272A1 (en) | Medical endoscope image identification method and system, and endoscope image system | |
US9805469B2 (en) | Marking and tracking an area of interest during endoscopy | |
KR102203565B1 (ko) | 해부학적 영역들의 비디오 영상들의 콘텐츠 관리를 위한 방법 및 시스템 | |
JP6967602B2 (ja) | 検査支援装置、内視鏡装置、内視鏡装置の作動方法、及び検査支援プログラム | |
US11074732B2 (en) | Computer-aided diagnostic apparatus and method based on diagnostic intention of user | |
JP6217632B2 (ja) | 撮像制御装置、記憶システムおよび記憶媒体 | |
JP2022106849A5 (ja) | 画像処理装置、撮像装置、制御方法、プログラム、及び記憶媒体 | |
US11957300B2 (en) | Information processing apparatus, control method, and program | |
US9569838B2 (en) | Image processing apparatus, method of controlling image processing apparatus and storage medium | |
EP3945459A1 (en) | Devices, systems, and methods for labeling objects of interest during a medical procedure | |
JP7253152B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2023546698A (ja) | 医療用画像及び映像の撮像、表示、操作のためのシステムおよび方法 | |
CN108968892B (zh) | 一种肠镜下盲区监测的系统及方法 | |
CN115019940A (zh) | 基于眼部图像的消化道疾病的预测方法、装置及电子设备 | |
US20220343644A1 (en) | Information processing device, display method, and nontransitory computer-readable medium for storing program | |
JP7448923B2 (ja) | 情報処理装置、情報処理装置の作動方法、及びプログラム | |
EP4024405A1 (en) | An apparatus and method for moderating a skin lesion detection model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191120 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191128 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200428 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200521 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6716853 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |