JP2015528716A - 画像ストリームを表示するシステムおよび方法 - Google Patents

画像ストリームを表示するシステムおよび方法 Download PDF

Info

Publication number
JP2015528716A
JP2015528716A JP2015519488A JP2015519488A JP2015528716A JP 2015528716 A JP2015528716 A JP 2015528716A JP 2015519488 A JP2015519488 A JP 2015519488A JP 2015519488 A JP2015519488 A JP 2015519488A JP 2015528716 A JP2015528716 A JP 2015528716A
Authority
JP
Japan
Prior art keywords
image
frame
pixels
image stream
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015519488A
Other languages
English (en)
Other versions
JP6342390B2 (ja
JP2015528716A5 (ja
Inventor
クルプニク,ハガイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Given Imaging Ltd
Original Assignee
Given Imaging Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Given Imaging Ltd filed Critical Given Imaging Ltd
Publication of JP2015528716A publication Critical patent/JP2015528716A/ja
Publication of JP2015528716A5 publication Critical patent/JP2015528716A5/ja
Application granted granted Critical
Publication of JP6342390B2 publication Critical patent/JP6342390B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00016Operational features of endoscopes characterised by signal transmission using wireless means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Endoscopes (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

In−vivo撮像デバイスにより取り込まれた画像ストリームを表示するシステムおよび方法を提示する。この方法では、in−vivoデバイスにより取り込まれた画像ストリームフレームが受信され、各フレームは複数のピクセルで構成される。要約データ要素を構成する要約データ表示が生成されてもよく、各要約データ要素は画像ストリームの少なくとも1つのフレームに対応する。要約データ要素は、第1のソートパラメータに従って1つまたは複数の画像フレームのピクセルを順序付けすることにより、所定のサンプリングスキームに従って順序付けされたピクセルをサンプリングして順序付けされたピクセルのサブセットを取得し、かつサンプリングされたピクセルを組み合わせてまたは付け加えて要約データ要素を形成することにより、生成される。要約データ要素は、要約画像表示を形成するために組み合わせる。【選択図】図7

Description

本発明は、例えば、生体内(in−vivo)で取り込まれた画像ストリームの画像処理を行う方法およびシステムに関する。より具体的には、本発明は、例えば、胃腸管などの、画像ストリーム内の画像および/または事象の要約表示を生成するシステムおよび方法、および画像ストリームの動的なプレビュー表示を表示するシステムおよび方法に関する。
ヒトの胃腸(GI)管とは、口腔から肛門に至るまでの器官を指す。小腸とは、胃と大腸を結ぶGI管の一部である。成人の小腸の長さには個人差があるが、平均7メートルである。小腸の主な機能は、食物中に認められる栄養素とミネラルの消化および吸収である。それを行うために、小腸は、腸内運動と呼ばれる生理機能によって食物を送り出す。
結腸は、多くの脊椎動物において消化器系の後続部分にあたる。結腸では、水分、ナトリウム、脂溶性ビタミンの一部が吸収される。この工程は、大腸内の内容物を前後で混合させる結腸の収縮により行われるが、内容物をさらに先へと運ぶことはない。大腸内で生じる第2の運動は、大腸の内容物を先へと運ぶとても強い収縮である、高振幅収縮がある。
腸の運動は、蠕動と収縮の2つに分類され得る。蠕動は、例えば、腸壁の同期的な動きであり、一方向への食物の移動を行い、独立した収縮は、例えば、腸壁の非同期的な動きであり、筋肉が互いに実質的に独立して捻じれ、内容物を混合させる力を有することはあるが内容物を前後に移動させることはない。
嚥下可能カプセルを含むin−vivo撮像システムにより実行するなどのin−vivo撮像方法は、患者の体管腔を画像化することに使用されてもよい。撮像システムでは、例えば、カプセルがGI管の管腔内を通過する間に、GI管の画像を外部記録装置に取り込み、送信してもよい。カプセルでは、例えば、1〜40枚/秒の可変フレームレートで画像が取り込まれてもよい。例えば、100,000〜300,000枚になる大量の画像は、1〜8時間かけて実行され得る撮像工程の間に観察用に収集されてもよく、リアルタイムで観察および/または処理されてもよい。画像は、順にまとめてもよく、画像ストリームまたは動画でユーザに表示されてもよい。
Horn et al.による米国特許第7,215,338号では、in−vivoで取り込まれたデータストリームの固定要約グラフ表示を作成するシステムおよび方法が開示されており、そのすべてが参照によって本明細書に取り込まれる。グラフ表示は、1つまたは複数の画像フレームの平均的な画像ピクセル値に基づいて算出し得るカラーバーの形態でもよい。しかしながら、隣接する画像間の差異は、Horn et al.によって開示された固定要約表示では検出されないことがあり、ユーザが固定要約表示を精査する際、1枚の画像にある異なる特徴、部位または断片(例えば、管腔のくぼみ、組織、腸内内容物)を、認識することができないことがある。さらに、開示された固定要約グラフ表示は、詳細に欠け、収縮活動や運動事象の情報が提供されない。そのため、画像の特徴の要約情報を認識可能な形で表示する方法およびシステムを提供することが有用とされ得る。
多様な画像特性、腸内事象、収縮活性または運動は、in−vivo画像シーケンスを使用して測定されてもよいと、例えば、Glukhovsky et al.による米国特許第6,944,316号および/または同第7,200,253号およびGlukhovsky et al.による米国特許第7,724,928号で開示されており、それぞれすべてが参照によって本明細書に組み込まれる。折れ線グラフで運動データを表示する形態は、例えば、図3において米国特許第6,944,316号で開示されている。ストリーム内の大量数の画像により、その表示(例えば、完全な画像ストリームとして)は、モニター上に1つのバーもしくはグラフで表示することは難しいことがある。利用可能な運動データのすべてを表示するために画面内に必要とされる領域は、大きすぎるまたは長すぎるために、画面表示には入りきらないことがあり、これらのデータには、例えば、1つまたは複数の画像ストリームウィンドウおよびユーザに提供される追加の医療情報も含まれることがある。そのため、利用可能な量の画面スペースがあり、グラフィカルユーザインターフェース(GUI)表示が取り入れられた新たな表示方法の提供が必要とされる。
米国特許第7,215,338号明細書 米国特許第6,944,316号明細書 米国特許第7,200,253号明細書 米国特許第7,724,928号明細書
例えば、in−vivo撮像デバイスにより取り込まれた腸内画像などの、画像シーケンスの要約画像表示するために、コンピュータ実行方法が本発明の実施形態により提供される。この方法には、例えば、in−vivoデバイス、ビデオカメラ、安全または監視カメラによって取り込まれた画像ストリームを受信することを含んでもよい。画像ストリームには、デジタル画像フレームが含まれてもよく、各フレームには、ピクセルアレイに配列された複数の画像ピクセルが含まれてもよい。少なくとも画像フレームのサブセットには、ピクセルストリップなどの要約データ要素で構成される要約画像表示が生成されてもよい。各要約データ要素は、画像ストリームの少なくとも1つのフレームに対応するまたは関連してもよい。ある実施形態では、要約データ要素の生成には、第1のソートパラメータに従って1つまたは複数の画像フレームのピクセルの順序付け、および順序付けされたピクセルのサブセットを獲得するために所定のサンプリングスキームに従って順序付けされたピクセルのサンプリングが含まれてもよい。順序付けされたピクセルの各サブセットは、要約データ要素を形成するために、例えば、ピクセルストリップ、ラインまたはその他の空間配列に、隣接させて整列、位置付けまたは配列された、グラフ形式にまとめられてもよい。一実施形態では、要約データ要素は、ライン、またはピクセルなど、一連のもしくはストリップのサブ要素であるが、他の形態または形状で要約データ要素が使用されてもよい。いくつかの実施形態では、要約画像表示は、グラフ、折れ線、または図表の形態で表示されてもよい。
いくつかの実施形態では、要約表示は、(例えば、画像ストリームのビデオ表示付近または連動する)視覚ディスプレイ装置で表示されてもよい。しかしながら、ビデオ表示および要約表示では、連続的である、または「連動」に近い形にする必要はなく、いくつかの実施形態では、互いが連動していないまたは付近ではない。ビデオ表示には、各タイムスロットに表示される少なくとも1つのフレームが含まれてもよく、フレームは、例えば、フレームの取り込み時間または取り込み順序に従って連続して表示されてもよい。ビデオ表示では、例えば、固定または可変フレーム表示レートで、取り込み順序に従って、動画として取り込まれた画像を再生することが含まれてもよい。
ある実施形態において、ソートパラメータは、ピクセル値に基づいてもよい。例えば、赤(R)緑(G)青(B)のRGB色空間で表現されるピクセルの赤/緑値、または色相(H)彩度(S)明度(V)のHSV色空間で表されるピクセルのH値などの、彩度関連(例えば、色純度)ピクセル値がある。いくつかの実施形態では、第2のソートパラメータに従って1つまたは複数の画像フレームのピクセルの順序付け(または再順序付け)が含まれてもよく、これらは、例えば、輝度または強度に関連したピクセル値などのピクセル値に基づいてもよい。第2のソートパラメータの例としては、RGB色空間のR、またはHSV色空間のVが挙げられる。他の色空間および/または他のソートパラメータが使用されてもよい。
他の例では、ソートパラメータは、フレームの画像化に利用されてもよい1つまたは複数の特徴検出器のスコアに基づいてもよい。ある例では、混濁内容物検出器でピクセルごとに内容物スコアを作製してもよく、このスコアをソートパラメータとして使用してもよい。いくつかの実施形態では、画像フレーム内で管腔のくぼみが検出されることがあり、ピクセルごとの管腔検出スコアをソートパラメータとして使用してもよい。他の検出器および/または他のスコアが使用されてもよい。いくつかの実施形態では、ソートパラメータは、検出器のスコアおよびピクセル値の組み合わせに基づいてもよい。1つまたは2つより多いソートパラメータが使用されてもよい。いくつかの実施形態では、特定の画像特徴、特性、および/または腸内事象は、例えば、要約画像表示またはその部分に基づき、処理装置によって自動的に判定されてもよい。
画像ストリームの少なくとも一部の詳細なプレビューを動的に表示するためのシステムおよび方法も、記載される。例えば、動的プレビューバーなどの動的プレビュー表示は、連続してまたは逐次可変する方法で、算出され、ユーザに表示されてもよい。画像ストリームは、例えば、要約画像プレビュー表示と同時にまたは平行して、および相関して、ビデオストリームまたは動画で表示されてもよい。画像ストリームの現時点での動的プレビューが生成されてもよく、画像ストリームが続くにつれて、またはユーザがプレビューするストリーム部分を指示するときに(例えば、ユーザが入力デバイスで指し示す、または要約グラフ表示上で停止させることにより)、更新されるまたは調整されてもよい。動的プレビュー表示は、画像ストリームのビデオ表示において、実質的に平行してまたは同時に表示され得る1つまたは複数の画像フレームに相関させてもよい。動的プレビュー表示には、ビデオ表示ウィンドウまたはディスプレイ画面の部分に同時に表示される少なくとも1つのフレームに関連する詳細なデータセグメント、および表示される少なくとも1つのフレームに隣接するフレームが含まれてもよい。動的プレビュー表示には、縮小データセグメントも含まれてもよい。いくつかの実施形態では、動的プレビュー表示は、例えば、画像ストリームのビデオ表示と連動して視覚ディスプレイ装置で表示されてもよい。
本発明によるシステムおよび方法の原理および操作は、図面および下記の説明を参照することでより理解を深めることができるが、これらの図面は、例示的な目的のみに提示されるものであり、限定することを意図するものではないことが理解されるであろう。
本発明の実施形態による要約画像表示を生成するin−vivo撮像システムの概略図である。 本発明の実施形態による動的プレビュー表示を生成するin−vivo撮像システムの概略図である。 本発明の実施形態による要約画像データの2つの例示的要素を示した図である。 本発明の実施形態による要約画像表示の部分を示した図である。 本発明の実施形態による画像のソートされたピクセルのグラフを示した図である。 本発明の実施形態による要約画像要素を生成する方法を例示したフローチャートである。 本発明の実施形態による画像ストリームの異なる動的プレビューバーを示した図である。 本発明の実施形態による画像ストリームの異なる動的プレビューバーを示した図である。 本発明の実施形態による画像ストリームの異なる動的プレビューバーを示した図である。 本発明の実施形態による画像ストリームの異なる動的プレビューバーを示した図である。 本発明の実施形態による動的プレビュー表示で表示された画像ストリームフレームの時間偏差を例示したグラフである。 本発明の実施形態による動的プレビュー表示で表示された画像ストリームフレームの時間偏差を例示したグラフである。 本発明の実施形態による動的プレビューバーを表示する方法を示したフローチャートである。
簡素かつ明瞭にするため、図内に示された各要素は、必ずしも実際の大きさに描かれていないことが認識されるであろう。例えば、各要素の寸法および/またはアスペクト比は、明瞭にするために、他の各要素に対して誇張されることがある。さらに、適切と判断されるところでは、参照番号は、連続した表示において対応するまたは相似した要素を表すために、図内で繰り返されることがある。
以下の記述では、本発明の様々な様態が記載される。説明を目的として、特定の構成および詳細が、本発明の理解を深めるために明記される。しかしながら、当業者であれば、本明細書に記載された特定の詳細がなくても実行可能であることは明らかであろう。さらに、公知の特徴は、本発明を不明瞭にしないために省略または簡素化されることがある。
他に特別に明記されない限り、以下の説明から明らかなように、本明細書の説明を通して、コンピューティングシステムのメモリ、レジスタまたは他の情報記憶装置、伝送または表示装置内の物理量として表される他の同様のデータ内に、コンピューティングシステムのレジスタおよび/またはメモリ内で、物理量的(電子的になど)として表されるデータを操作および/または変換するコンピュータもしくはコンピューティングシステム、または同様の電子コンピューティングデバイスの行為および/または処理に関連して、「処理する」、「コンピューティング」、「ソートする」、「測定する」等の用語を使用することが認識される。本発明の実施形態としては、例えば、プロセッサまたはコントローラによって実行するときにおいて、本明細書で開示された方法をプロセッサまたはコントローラに実行させるコンピュータ実行可能命令などの、命令をエンコードする、含むまたはソートする、例えば、メモリ、ディスクドライブ、またはUSBフラッシュメモリなどのコンピュータまたはプロセッサの非一過性の記憶媒体などが挙げられる。
本発明の実施形態によるデバイスとしては、本発明の実施形態での使用に適した画像化装置、受信装置、処理装置、記憶装置および/またはディスプレイ装置が挙げられ、Davidson et al.による米国特許第7,986,337号「System and Method for Editing an Image Stream Caputured In−Vivo」、Iddan et al.による米国特許第7,009,634号「Device for In−Vivo Imaging」、および/または米国特許出願公開第2007/0118012号「Method of Assembling an In−Vivo Imaging Device」に記載された実施形態と類似していてもよく、それらは本発明の出願に共通した譲受人に帰属したものであり、そのすべてを参照によって本明細書に組み込まれる。
当然のことながら、本明細書で記載されたデバイスおよびシステムは、他の構成および他の構成要素のセットを備えてもよい。本発明のいくつかの実施形態によるデバイス、システムおよび方法は、Given Imaging,Ltd.によって提供された市販のPillCam(登録商標)SB2またはColonカプセルおよび関連するデータレコーダおよびRAPID(登録商標)ワークステーションに類似していてもよい。
患者によって飲み込まれることになるin−vivo撮像カプセルは、腸内組織壁を動かす蠕動収縮によって、操作させてもよく、GI管に沿って受動的に進ませてもよい。操作中、カプセルは、食道、胃、小腸および結腸などの様々なGI器官を通過する。小腸の組織壁は比較的狭いトンネル構造であるため、カプセルが小腸を通過する間、トンネルの方向に平行して姿勢が保持されることがある。撮像カプセルの長手方向の軸(例えば、図1AのL軸のようなカプセルの長さ方向軸)は、一般に、カプセルが小腸内で進む方向に平行して保持されることがある。カプセルの撮像システムでは、撮像が一般に小腸のトンネルの向き前進および/または後進方向を向いて行われるように、管腔壁の開口部および閉口部の撮像が極めて定期的に取り込まれるように、カプセルの長手方向の少なくとも一方の端で姿勢が保持されることがある。管腔壁の開口部および閉口部を取り込む画像データは、各画像の取り込み時刻の記録と共に、小腸の運動事象、または蠕動活動のタイプまたは頻度を分析、表示および/または算出に使用されてもよい。本発明の実施形態は、効率的で分析しやすい方法で医療専門家に対して運動に関連した情報を表示することができる。
腸内運動の特定事象の検出および特徴化は、Vu,H.,Echigo,T.,Et al.による「Contraction detection in small bowel from an image sequence of wireless capsule endoscopy」(MICCAI’07;vol.1.2007,p.775−783の議事録において)、Vu,H.,Echigo,T.,Sagawa,R.,Yagi,K.,Shiba,M.,Higuchi,K.,et al.による「Detection of contractions in adaptive transit time of the small bowel from wireless capsule endoscopy videos」(Comput Biol Med 2009;39:16−26)、およびVilarino,F.,Spyridonos,P.,Deiorio,F.,Vitria,J.,Azpiroz,F.,Radeva,P.による「Intestinal motility assesment with video capsule endoscopy:automatic annotation of phasic intestinal contractions」(IEEE Trans Med Imaging 2010;29(2):246−59)において腸内収縮の検出として、腸内運動の領域で知られている。
医師のような専門の読影者がGI管の撮像工程を観察する場合には、観察対象となる、すぐにまたは次のフレームについての詳細な情報データが提供されることは有用であり得る。例えば、10万枚の大量の画像が、撮像工程の間に取り込まれることがある。従来の寸法および解像度を備えるモニター上で画像ストリームウィンドウに連動する固定の運動性表示内のこれらすべての画像の要約データは、画面のサイズと解像度のパラメータの点から考慮して、固定の運動性表示を構成するピクセルの各ストリップでは、例えば、100フレームなどのより大規模のサブセットのデータを集約することがあるため、例えば、現時点で表示される画像の前後20フレームには、比較的小規模の関連する画像ストリームのサブセットのフレーム特徴に関する詳細な情報は提供されないことがある。患者のGI管または多くの腸内内容物を含むGI管における小規模領域の運動事象など、診断に重要となり得るいくつかの事象は、固定表示の解像度に制限があるため、固定表示では明瞭に可視化できないことがある。そのような事象は、比較的少ない画素数で、例えば、20未満の画像数で、取り込まれることがある。例えば、収縮が、例えば、10フレームなど一連のフレームを超えて取り込まれることがあり、画像内に表示される管腔のくぼみは、フレームシーケンスの第1の画像では大きく、フレームシーケンスの半ばに向かうにつれて小さくなり、フレームシーケンスの後半に向かって大きくなることがあるため、そのようなフレームシーケンス間の状況の変化は大変重要である。そのため、画像ストリームを観察する間、(例えば、次のフレームに遷移するまで)少ない画像数に対応するデータの詳細なプレビューの表示に、撮像工程を通じて腸内の関心領域または関心ポイントを強調した可視化表示が行われてもよい。
本発明の実施形態では、GI管内で取り込まれた画像フレームから抽出されたデータの分析および処理に基づいて、画像データの要約表示を表示するシステムおよび方法を記載する。各画像フレームは、例えば、特定の高さおよび特定の幅(例えば、320×320ピクセル)の長方形または正方形のピクセルアレイのような、2次元のピクセルアレイで表現されてもよい。各ピクセルは、RGBトリプレットとしてエンコードされてもよい色情報を含むポイントおよび可能性のある画像の明るさを表現する1つまたは複数のビット情報で構成されてもよい。
画像データの分析および処理は、ユーザの介入なしに、処理デバイスによって自動的に行われてもよい。画像データの要約表示は、例えば、要約ピクセルストリップまたは要約画像データの他の配列を含む、例えば、要約バー、ウィンドウまたはディスプレイを使用して、例えば、1つまたは複数のプロセッサ、ワークステーション、回路構成、検出器またはその他のコンピュータデバイスにより実行されてもよい。本発明のいくつかの実施形態によると、1つまたは複数の要約表示ウィンドウまたはバーは、動的または固定ディスプレイを使用して、診断を行う医療従事者に対して表示されてもよい。
画像データを要約してもよく、画像に描かれた様々な構造や内容物に対応する画像ピクセル度数が、ユーザに表示されてもよい。本発明の実施形態によると、腸内組織の画像は、様々なカテゴリーに分類されてもよい。カテゴリーには、画像フレームまたは特定のピクセル特徴に描かれた可視的構造の様々なタイプが含まれてもよい。以下のカテゴリーは、腸内画像で検出されることがあるセグメントタイプの分類例である。
1)管腔のくぼみ(ルーメンホール)とは、画像の残余部分より実質的に暗く組織壁の開口部が描かれていることがある画像の部分
2)組織壁とは、組織壁が描かれた画像の部分、および
3)混濁内容物とは、腸内内容物によって閉塞された管腔のくぼみおよび/または組織壁
他のカテゴリーが追加または置換して使用されてもよい。
相当量の画像データを取得するためには、生理学上の構造または事象の詳細な分析が行われてもよい。しかしながら、大量のデータには、長時間にわたるビデオの映像化が必要となることがあり、医師が患者の撮像工程を診断するために比較的長時間を要することがある。医療従事者が読影した画像ストリーム内で次の画像を表す情報データを表示する動的プレビューバーまたはディスプレイが提供されることは有用となり得る。
腸内事象は、画像ストリームからの一連の連続した画像に描かれることがある特定のパターンまたは特定の運動性に関連した特性を含み得る画像シーケンスに関連付けられることがある。例えば、腸内事象には、開口部−閉口部の管腔のくぼみのパターンを描く一連の連続として検出されることがある腸内収縮が含まれてもよい。他の例では、腸内事象は、管腔壁の静止期間(例えば、開口トンネルシーケンスとして参照されることがある開口した管腔のくぼみの反復画像)や閉口した管腔のくぼみが含まれてもよい。他の腸内事象のタイプは、画像において腸内内容物の存在を示す、混濁したまたは閉塞した管腔の開口部である。事象の他のタイプまたはカテゴリーは、画像ストリームの画像に基づいて検出されてもよい。
図1Aは、本発明の実施形態による要約画像表示を生成するin−vivo撮像システムの概略図を示す。例示的な実施形態では、システムには、画像を取り込む1つまたは複数のイメージャ46を備えたカプセル40、体管腔を照らす1つまたは複数の照明源42、受信デバイスに画像および可能性のある他の情報を送信する送信機41が含まれる。典型的には、画像取り込みデバイスは、そのすべてを参照して本明細書に取り込まれる、Iddan et al.による米国特許第7,009,634号および/またはGiladによる米国特許出願公開第2007/0118012号で記載された実施形態に対応してもよいが、別の実施形態では、画像取り込みデバイスの他の種類が含まれてもよい。イメージャシステムによって取り込まれた画像は、例えば、円形、正方形、長方形、八角形、または六角形などを含む、適切な形状にしてもよい。典型的には、患者の体外の1つまたは複数の位置には、画像受信機12があり、典型的には、カプセル40により記録された画像を特に表示するために、アンテナもしくはアンテナアレイ、画像受信機記憶装置16、データプロセッサ14、データプロセッサ記憶装置19、および画像モニターまたは視覚ディスプレイ装置18が含まれる。典型的には、データプロセッサ記憶装置19には、画像データベース21が含まれる。
典型的には、データプロセッサ14、データプロセッサ記憶装置19およびモニター18は、プロセッサ14、メモリ、ディスクドライブ、およびマウスおよびキーボードのような入出力デバイスなどの基本的な構成要素を含むパーソナルコンピュータまたはワークステーション11の一部であるが、別の構成も可能である。データプロセッサ14には、マイクロプロセッサ、マルチプロセッサ、アクセラレータボード、または他の直列または並列高性能データプロセッサのような、すべての基本的なデータプロセッサが含まれてもよい。データプロセッサ14は、その機能の一部として、(例えば、画像、様々なウィンドウ間の画像の位置、画像表示のタイミングまたは期間など)画像の表示を制御するコントローラとして機能してもよい。画像モニター18は、典型的には、従来のビデオ表示であるが、加えて、画像または他のデータを提供可能などの他のいかなるデバイスであってもよい。画像モニター18は、典型的には、静止画または動画の形態で運動データの画像データを表示するが、加えて、他の情報が表示されてもよい。例示的な実施形態では、様々なカテゴリーの情報が、ウィンドウ内に表示される。ウィンドウは、例えば、ディスプレイまたはモニター上で(おそらく輪郭または境界が描かれた)部分または領域であってもよく、他のウィンドウが使用されてもよい。複数のモニターが、画像フレーム、要約画像表示、運動特性、運動事象および他のデータを表示するために使用されてもよい。ある実施形態では、画像モニターは、画像受信機12に含まれてもよい。
画像取り込み工程の間、イメージャ46が画像を取り込み、画像が含まれたデータが、例えば、電磁波を使って、画像受信機12に画像を送信する送信機41に送信されてもよい。画像受信機12は、画像受信機記憶装置16に画像データを送信する。特定の時間のデータ収集の後、記憶装置16に記憶された画像データは、データプロセッサ14またはデータプロセッサ記憶装置19に送信されてもよい。例えば、画像受信機12または画像受信機記憶装置16は、患者の体から離されて、例えば、既知の構造である直列、並列、USB、または無線インターフェースなどの標準的なデータリンクを介してデータプロセッサ14およびデータプロセッサ記憶装置19を含むパーソナルコンピュータまたはワークステーションに接続されてもよい。画像データは、次いで、画像受信機記憶装置16からデータプロセッサ19内の画像データベース21に送信される。典型的には、画像ストリームは、画像データベース21に一連の画像として保存されるが、既知の様々な方法で実行されてもよい。データベース14がデータを分析し、分析されたデータはユーザが画像データを観察する画像モニター18に提供されてもよい。例えば、データプロセッサ14、または別のデータプロセッサ(例えば、受信機12)は、本発明の実施形態による画像を処理し、腸内事象バーを作成してもよい。データプロセッサ14は、オペレーティングシステムおよびデバイスドライバのような基本オペレーティングソフトウェアに連動させてソフトウェアを操作し、データプロセッサ14の操作を制御する。典型的には、ソフトウェアを制御するデータプロセッサ14には、C++言語で記述されたコードが含まれており、マイクロソフト社のNETプラットフォームなどの様々な開発プラットフォームを使用して実行されてもよいが、既知の様々な方法で実行されてもよい。
カプセル40により保存され送信された画像データは、デジタルカラー画像データであってもよく、例えば、RGB(赤、緑、青)色空間で取り込まれてもよいが、別の実施形態では、他の画像形式が用いられてもよい。例示的な実施形態では、画像データの各フレームには、それぞれ320ピクセルの320行(例えば、320行と320列)が含まれており、既知の方法によると、色と明るさについて各ピクセルはバイトで表現される。例えば、各イメージャのピクセルには、赤、緑、または青の主要な単色に対応してもよい色センサーが含まれてもよい。ピクセル全体の明るさは、1バイト(例えば、0−255)の値として保存されてもよい。画像は、例えば、データプロセッサ記憶装置19に、連続して保存されてもよい。保存されたデータは、色および明るさを含む、1つまたは複数のピクセル特性で構成される。画像表現に他の形式が使用されてもよい。あるいは、各ピクセルでは、データは、色相、彩度および明度(HSLまたはHLS)、色相、彩度および値または明るさ(HSVまたはHSB)、または色相、彩度および強度(HIS)のような円筒座標表現形式で表現されてもよい。RGB色空間の円筒座標表現は、垂直中心軸周囲の角度によって色と色相の情報が表現されることに特徴があるが、軸からの距離および軸に沿った距離が彩度と明るさのような他の情報に対応する。例えば、HSV表現を使用して、色相(H)値は垂直中心軸周囲の角度、彩度(S)値は軸からの距離、および値(V)は軸に沿った距離を示してもよい。あるいは、他の表現では、YCbCr(Yは光度または輝度の構成要素、Cbは青の色差成分の構成要素およびCrは赤の色差成分の構成要素)のような、Lab色空間などが使用されてもよい。一実施形態によると、画像は、例えば、データプロセッサ記憶装置19内に連続して保存されてもよい。保存されたデータには、H、SおよびVを含む、1つまたは複数のピクセル特性が含まれてもよい。
データプロセッサ記憶装置19には、カプセル40により保存された一連の画像が保存されてもよい。カプセル40によって取り込まれた画像は、例えば、患者のGI管を通過して動くまたは操作する際に、連続して組み合わせ、画像ストリームとして表示可能な一連の画像を形成してもよい。画像ストリームを観察するとき、ユーザには、典型的には、モニター18上で1つまたは複数のウィンドウが表示されるが、別の実施形態では、複数のウィンドウは必要とされず、1つの画像ストリームのみが表示されてもよい。複数のウィンドウを備えるある実施形態では、例えば、画像ウィンドウでは画像ストリーム、またはその画像の静止部分が提供される。別のウィンドウでは、画像のディスプレイを変えることのできるボタンまたは他のコントロール、例えば、停止、再生、一時停止、画像取り込み、ステップ、早送り、巻き戻し、またはその他のコントロールなど、が含まれてもよい。そのようなコントロールは、例えば、マウスやトラックボールなどのポインティングデバイスで作動させてもよい。典型的には、画像ストリームは、1つのフレームを観察するために停止または一時停止、増速、逆転させてもよく、部分的に飛ばされてもよく、または画像を観察する他の方法が画像ストリームに取り入れられてもよい。
画像特性および/または腸内(例えば、運動)事象は、画像ストリームからの1つまたは複数の連続した画像に基づいて検出されてもよい。本発明の実施形態によると、画像ストリームの画像特性および/または明確化されたシーケンスの視覚的検出は、要約表現の特定の特性またはシーケンスに対応してまたは関連してもよい。要約表現は、画像内の腸内内容物の分量、撮像工程中に生じた運動事象、および/または画像化された管腔の運動特性の測定(例えば、異常な運動性を示してもよい)などの画像特性の視覚化に使用されてもよい。1つまたは複数の下記の画像特性および/または腸内事象シーケンスの視覚的検出は、(読影者による、または自動的にプロセッサによる)実行されてもよい:混濁フレーム(腸内内容物の実質的割合)、弛緩した管腔シーケンス、または収縮。他の画像特性および/またはシーケンスカテゴリーが使用されてもよい。ここでの検出では、例えば、腸内内容物に塞がれるフレームを示し、各種のシーケンスの始まりと終わりを印し、画像ストリームから各種のシーケンスへの開始画像および終始画像に相関することが含まれてもよい。別の例では、画像ストリームの画像が、1つまたは複数のカテゴリー(例えば、特定の画像特性および/または事象シーケンスのタイプに関連して)に帰するものとして分類されるまたは属性を関連付けられてもよい。
要約表示またはディスプレイには、複数の要約画像要素が含まれてもよい。要約表示は、一実施形態では、「バー」として形成され、バー以外での視覚データのディスプレイまたは編成およびバー以外の形状で、要約表示として使用されてもよい。データプロセッサ14としては、要約画像表示生成機30が挙げられるか、または操作できるように接続されてもよい。要約画像表示生成機30では、取り込まれた画像セットから画像が加工されてもよく、グラフィカルユーザインターフェース(GUI)のプレビュー部分内で表示するために、画像の視覚特性または画像部分が取得されてもよい。要約画像表示生成機30では、複数の要約データ要素(例えば、ストリップ)を生成することができ、各要素は1つまたは複数の取り込まれた画像のデータを要約したものである。要約データは、例えば、画像ストリームの画像のピクセル特徴に基づいてコンピュータ処理されてもよい。要約データ要素は、例えば、要約バーを形成するために隣接して整列するまたは配置するおよび組み合わせる、付加する、またはまとめるなどして組み合わされてもよい。要約表示を生成するグラフィックソフトウェアまたはハードウェアを実行するために、データプロセッサ14および/またはディスプレイ18が含まれるかまたは構成されてもよい。
要約表示を生成するために、画像ストリームの画像セットが、要約画像表示生成機30に提供されてもよい。画像セットには、例えば、撮像デバイスにより取り込まれたすべての画像が含まれてもよい。いくつかの実施形態では、画像のサブセットは、要約バーを生成するために使用されてもよい。画像のサブセットは、例えば、所定の選択基準に従って選択されてもよい。
いくつかの実施形態では、要約表現または表示は、GI管の選択部分について生成されてもよい。例えば、要約表示は、選択された器官(食道、小腸、結腸、胃など)、または撮像工程の完了から選択された時間帯(例えば、最初の2時間)について生成されてもよい。本発明の実施形態によると、運動事象または運動特性は、例えば、画像フレームまたは画像シーケンス(例えば、画像ストリームから選択された一続きの連続したフレームが含まれてもよい、例えば、画像ストリームの一連の画像シーケンスのフレーム)を選択して、画像ストリームの画像に基づいて検出されてもよい。
一実施形態では、要約表示を生成するために使用される画像のサブセットは、画像ストリームで同定されることがある特定の関心ポイント間で取り込まれた画像が含まれてもよい。いくつかの実施形態では、解剖学的指標または病理学が、例えば、十二指腸、回盲弁、(胃への入口を示す)Z線などのような、解剖学的指標が関心ポイントとして選択されてもよい。取り込まれた画像ストリーム内の2つの関心ポイントが、選択されてもよい(例えば、システム内で所定の、または観察する画面ストリームがユーザにより選択されてもよい)し、カプセルが第1の選択ポイントから第2の選択ポイントを通過するまでの時間に取り込まれたすべての画像が要約表示の生成に含まれてもよい。いくつかの実施形態では、要約表示では、例えば、第1の十二指腸と第1の結腸との間に取り込まれた撮像工程の部分として、小腸の画像が生成されてもよい。
要約表示を生成する画像は、所定の基準に従って取り込まれた画像の完全なセットから選択されてもよい。いくつかの実施形態では、特定の画像は、例えば、暗すぎるまたは明るすぎる画像などは短縮された画像ストリームから除外されてもよい。短縮された動画を創るためのin−vivo画像ストリームの編集方法の実施形態が開示されている、Davidson et al.による米国特許第7,986,337号に記載された方法に類似する方法は、要約表示を生成するための画像選択に使用されてもよい。短縮された画像ストリーム用に選択された画像は、要約表示を生成するために使用されてもよい。さらに別の例では、画像が、例えば、隣接した画像間で類似したものを基にして、まとめられるまたは結合されてもよく、例えば、要約バーの形態で、要約表現が、結合されたまたはまとめられた画像のサブセットに基づいて生成されてもよい。他の画像選択方法が、画像のサブセットを測定するために使用されてもよい。いくつかの実施形態では、要約表示の生成に使用されてもよい画像のサブセットを生成するために、異なる画像選択方法を組み合わせてもよい。
要約画像表示生成機30では、選択された画像セットの画像または画像群(例えば、完全な画像ストリームまたは短縮された画像ストリーム)が表示される要約データが生成されてもよい。要約データは、例えば、ピクセルのストリップの形態で作成されてもよい。本明細書で使用される、ピクセルの「ストリップ」には、表示された要約表示のストライプ要素が含まれてもよい。ストリップには、ピクセルパラメータを使用してストリップに集約される1つまたは複数のフレームからコンピュータ処理されてもよいピクセル値として、ラインに配列された複数の隣接ピクセルが含まれてもよい。ストリップは、様々な方法で生成されてもよい。ストリップは、典型的には、長方形であり、特定のピクセルの長さおよび1つまたは複数のピクセルの幅であってもよい。例示的なストリップを図2Aに示す。ストリップまたはストライプ以外で要約表示または表示をなす要素には、ストリップまたはストライプ以外の形態が使用されてもよい。各ピクセル要素またはストリップは、1つまたは複数のフレームに対応する、由来するデータを示す、または関連してもよい。
いくつかの実施形態では、1つの画像または複数の画像のピクセルのサブセットが、要約データ要素を生成するために選択されてもよい。例えば、固定テンプレートまたはマスクが、各画像から選択される関心領域を特定するまたは選択するために、画像ストリーム用に定義されてもよい。関心領域は、カプセル40の撮像システムの既知の光学特性および/または照度特性に基づいて定義されてもよい。例えば、ピクセルストリップなどの、要約データ要素の生成は、関心領域に含まれるピクセルのサブセットに基づいて行われてもよい。ある実施形態では、取り込まれた画像は、例えば、直径320ピクセルの円形に形成されてもよく、画像の関心領域は、取り込まれた画像の中央に位置するより小さな円(例えば、直径200ピクセル)として定義されてもよい。画像の関心領域は、ほぼ中央のピクセルが画像から選択され、(画像の縁領域にある)より暗いピクセルは選択されない、などと選択されてもよい。そのようなピクセル選択は、画像に描かれた実際の管腔のくぼみではなくin−vivo場面における不必要な照明により引き起こされることがある画像内での管腔のくぼみの表示ミスを防ぐ助けとなることがある。
画像内での管腔くぼみの検出は、1つまたは複数の画像(群)の要約プレビューデータを生成するために使用されてもよい。要約形式での1つの画像または複数の画像のプレビュー情報を提供するためには、管腔くぼみが描かれそうなピクセルと、組織と腸内内容物が描かれそうなピクセルとの間を識別することが有用であり得る。これらのピクセルタイプの識別(例えば、分類)は、例えば、要約画像表示生成機30によって行われてもよく、管腔くぼみおよび表示画像内の管腔のくぼみの相対的な大きさおよび/または位置を示す要約データストリップを生成するために使用されてもよい。ある実施形態では、画像ピクセルのRGB値が、1つまたは複数の画像内の管腔のくぼみの検出に使用されてもよい。別の実施形態では、管腔検出は、端部検出方法または(例えば、本発明の出願に共通した譲受人に帰属する、Spyridonos et al.による米国特許出願公開第20110044515号で開示された)しわ検出に基づいて行われてもよい。一連の画像で検出された管腔のくぼみの大きさおよび推定される大きさから、収縮、トンネルシーケンス、または運動性に関する腸内事象が示されることがある。異なるパラメータが、画像内の管腔のくぼみの検出に組み合わされてもよく、例えば、検出は、RGBピクセル特性と端部検出の両方に基づいて行われてもよい。
運動情報は、画像内で視覚化される管腔のくぼみの大きさに基づいていてもよい。例えば、収縮は、通常、(画像シーケンス内で)最大収縮期に向かうにつれて小さくなり、収縮終期に再び大きくなる、第1の画像内に大きな管腔のくぼみを描く一連の画像から検出可能であり得る。収縮シーケンスの例は、本発明の出願に共通した譲受人に帰属する、Radeva et al.による米国特許出願公開第20090284589号で開示された図2に示す。
ある実施形態では、要約画像表示生成機30では、少なくとも1つのピクセルパラメータ値に従って1つの画像フレーム(または複数のフレーム)の選択されたピクセルがソートされてもよい。異なるピクセルパラメータ値では、例えば、(RGB色空間で表現される)ピクセルのR、GまたはB値、またはそれらを線形または非線形での組み合わせ、または異なる色空間(例えば、HSV、HSBなどの、色度−輝度の色空間)に変換されたピクセルにも続いてコンピュータ処理されてもよい輝度または色度値が使用されてもよい。ソートされたピクセルは、所定のサンプリングスキームに従ってサンプリングされてもよい。サンプリングされたピクセル値は、例えば、画像ストリームの要約表示に表示されるピクセルストリップの形態で、要約表示要素の生成に使用されてもよい。
他の方法は、要約表示または表示の要約データ要素を生成するために使用されてもよい。いくつかの実施形態では、管腔のくぼみが、各画像内で検出されることがあり、その領域が測定されることがある。測定された領域は、例えば、管腔のくぼみが画像内に占める比率やピクセル数の割合などの相対的な大きさであってもよく、画像内に描かれた管腔のくぼみ領域の絶対的な(例えば、実際の)予想であってもよい。ある実施形態では、管腔のくぼみの部分のみが描かれる場合、くぼみが画像内に完全に描写されていた場合に管腔のくぼみが占有するであろう画像の部分の予想が提示されてもよく、管腔領域の予想値が、画像の要約データ要素の生成に使用されてもよい。
例えば、in−vivo画像などの画像の要約表示の生成は、固定または動的であってもよい。ここで図1Bには、本発明の実施形態による動的プレビュー表示を生成するin−vivo撮像システムが模式的に例示する。図1Bの要素は、図1Aの要素と類似しており、参照番号は、対応するまたは同一の要素を示す数字が繰り返されている。
動的プレビューバーにより、ユーザが1つまたは複数のフレームに対応する情報の詳細なプレビューの精査が可能となる。画像内に描かれたピクセルデータ、ピクセル特性、構造、画像内で検出された画像の特徴または他の特性等の情報が、詳細なプレビューに示されてもよい。画像ストリームの要約表示の動的表示に対する本明細書で記載された方法およびシステムは、例えば、本明細書で開示された要約表示、米国特許第7,215,338号で開始された要約グラフ表示、米国特許出願公開第2007/0060798号で開示された要約グラフ表示、または大量のin−vivo画像に対応する要約データが含まれてもよい他の要約データバーなど、様々な要約表示またはバーに適用されてもよい。
動的プレビュー生成機31では、動的にプレビューバーが作成および/または表示されてもよい。画像ストリームの要約表示を生成および/または表示する工程は、例えば、ユーザに画像ストリームを表示する間に、動的プレビュー生成機31により、(実質的に)連続してまたは繰り返し実行される動的な継続タスクであってもよく、動的プレビューバーは、連続してまたは繰り返し更新されてもよい。このような連続的な更新は、例えば、N秒ごとまたはNマイクロ秒ごと、または他の固定または可変間隔で繰り返して行われることを意味してもよい。画像ストリーム表示ウィンドウに現時点で表示されてもよい各フレーム(またはフレーム群)に対し、画像ストリーム内で隣接するまたは次のフレームの詳細な、クローズアップされた、ズームインされたプレビューを提供するために、動的プレビューバーを調整、更新または再算出させてユーザに表示されてもよい。撮像工程の前半または後半期間に取り込まれた画像フレームの詳細に欠けるプレビューについても、同じプレビューバーで提供されてもよい。
再算出された動的プレビューバーで、フレームごとまたはフレーム群ごとに、例えば、画像ストリームおよび隣接フレームの現時点で表示されたフレームなどの、画像ストリームの部分に対応するまたは関連するプレビューバーの詳細なセグメントの精査により検出可能であり得る、腸内内容物の分量、収縮、他の運動事象の兆候が画像内に描かれることがある、様々な構造のプレビューまたは表示などの、情報データが工程読影者に提供されてもよい。動的プレビューバーは、例えば、表示された画像フレームごとに、頻繁にまたは連続して更新または再算出させてもよく、それによりユーザは、相対的に少量のフレーム(例えば、10フレーム以上)で生じることがある腸内事象を検出できる詳細な形式で、次のフレーム(例えば、次の100フレーム)のプレビューを見ることができる。他の実施形態では、動的プレビューバーでは、例えば、5フレームが表示されるごとに、または所定の間隔(例えば、30秒経過ごと)で所定数のフレーム群を更新または再算出させてもよい。
例えば、動的プレビューバーなどの動的要約表示は、2つ以上のセグメントに区分けされてもよい。第1のセグメントには、画像ストリームのある部分に対応する詳細なデータセグメントが含まれてもよく、第2のセグメントには、画像ストリームの他の部分に対応する縮小データセグメントが含まれてもよい。動的プレビューバーでは、例えば、画像ストリームの関連部分に関連する、または画像ストリームウィンドウに現時点で、同時または実質的に同時に表示される画像ストリームの画像に関連した、詳細なデータセグメントに拡張されたプレビュー情報が提供されてもよい。いくつかの実施形態では、詳細なデータセグメントは、例えば、マウス、ジョイスティック、タッチスクリーンなどの入力デバイスを使用して画像ストリームから画像フレームまたはセグメントを選択するように、画像ストリームの部分をユーザの選択に従って算出または表示されてもよい。画像ストリームの他の部分に関連する短縮されたプレビューデータ(例えば、現時点で表示されていない部分、または画像フレームが連続して表示される前後の特定の時間帯に取り込まれた部分)も、例えば、詳細なセグメントに連動してまたは1つの動的要約表示に詳細なセグメント付近に位置して、表示されてもよい。
2つより多いセグメントが、動的プレビューバーに提供されてもよく、画像ストリームの各部分に対する動的プレビューバー内に表示された詳細レベルはセグメントごとに変更し得る。例えば、第1のセグメントは、第1レベルの詳細なデータを有してもよく、第2のセグメントは第2レベルの詳細なデータを有してもよく、その後も同様である。データの各レベルは、前の詳細レベルと比較して、ユーザに提供された詳細の度合いが少し欠けているまたは短縮されていてもよい。そのように、第1レベルの詳細では、画像ストリームの第1部分に対応する最も詳細なデータが提供されてもよく、第2レベルの詳細では、画像ストリームの第2部分に対応する少し詳細に欠けたデータが提供されてもよく、最終レベルの詳細では、関連する画像ストリームの部分に対応する最低限の詳細が提供されてもよい。ある実施形態では、第1レベルの詳細は、画像ストリームウィンドウに併行してまたは同時に表示させてもよい画像ストリームの部分に関連しており、他のレベルのデータは、撮像工程の前半または後半に取り入れられた画像ストリームの部分に対応してもよい。
いくつかの実施形態では、プレビューバーのデータの詳細レベルは、画像フレームの取り込み時間に従って、次第に上昇または下降させてもよい。例えば、画像ストリームウィンドウに現時点で表示されたフレームに隣接して取り込まれたフレームは、高レベルの詳細で表示させてもよく、少し早くまたは遅く取り込まれたフレームは、動的プレビューバーで次第に下降レベルの詳細に表示されてもよい。ユーザによって表示されたまたは選択された現時点のフレームからのフレームの距離(例えば、測定された時間)が増えるにつれ、動的プレビューバーの関連するセグメントで表示された対応する詳細レベルは下降する。いくつかの実施形態において、フレームID番号またはフレーム取り込み時間には、例えば、本明細書の図6Aおよび図6Bに例示するように、所定の機能に従って、動的プレビューバーの対応するセグメントに特定の詳細レベルが割り当てられてもよい。
動的プレビューバー31では、画像ストリームに対する初期プレビューバーがコンピュータ処理されてもよい。初期プレビューバーは、例えば、要約データ要素310および320などのプレビューバー要素で構成されてもよく、各要素では、1つまたは複数のフレームについて算出してもよい。他の方法では、初期プレビューバーのプレビューバー要素が算出してもよい。動的プレビュー生成機31では、例えば、各プレビューバー要素には画像ストリームから同量のフレームが表示されることがあり、表示された画像フレーム間の時間偏差を生じることなく初期プレビューバーが生成されてもよい。初期プレビューバーは、固定または静的であってもよい。
ユーザが画像ストリームの再生を始めるとき、またはユーザによる画像フレームまたは画像ストリームセグメントの選択が行われると、動的プレビュー生成機31では、例えば、画像ストリームが画像ストリームウィンドウ(例えば、図5Aのウィンドウ250)に流れているまたは表示されている間に連続して、更新された動的プレビューバーがコンピュータ処理されてもよい。いくつかの実施形態では、ユーザは、例えば、初期プレビューバーまたは動的プレビューバーを使用して、画面ストリームの部分を選択する、または画面ストリームの部分に合わせるために、マウス、タッチスクリーン、またはジョイスティックなどの入力デバイスなどを使用してもよい。動的プレビュー生成機31では、ユーザの選択またはプレビューバーに連動して表示された画像ストリームの部分に応じた、新たに(再算出された)動的プレビューバーが動的に生成されてもよい。画像ストリーム表示ウィンドウでは、自動的に、関連した画像フレームが表示されてもよく、画像ストリームの対応する部分に進められるまたは飛ばされてもよい。ユーザが、時系列または動的プレビューバーに連動させて入力デバイスを動かし続けると、または、画像ストリームが表示され続けてフレームが変わると、動的プレビュー生成機31では、同時に選択されたまたは表示された画像に相関するプレビューを提供するために、連続して動的プレビューバーが再生成される。もはや表示されていないまたは併行して表示された画像ストリームの部分に隣接していない画像は、短縮された形で要約を生成されてもよく、それらの詳細なプレビューは、提供されなくてもよい。ここでの動的プレビューバーの連続的または動的生成には、動的プレビューバーの一定の更新、定期的更新、頻繁な間隔での更新または反復した更新が含まれてもよい。
本発明の実施形態による撮像工程のいくつかのユーザインターフェースでは、自動的にユーザにGI指標(例えば、胃の入口、小腸の入口、結腸の入口など)が提示されてもよい。ユーザは提示を受け入れてもよく、指標として別の画像フレームを選択してもよい。ユーザが提示された指標をクリックすると、動的プレビューバーは、自動的に、ストリーム内の提示ポイントの近くで画像ストリームの部分のプレビューを提供するために調整または修正されてもよい。これにより、提示された指標として特定時間帯の近くまたは内に取り込まれたフレームの詳細なプレビューが、ユーザに提供されるが、自動的に提示された指標はユーザによって都合の良いように微調整されることも可能である。他の実施形態では、指標が自動的に提示されない場合、ユーザは、例えば、要約バー、初期プレビューバー、または動的プレビューバーをクリックすることによって、画像ストリームのポイントを選択してもよく、動的プレビュー生成機31では、画像ストリームに選択されたポイントに対応する詳細なデータ部分が表示されてもよい。ユーザは、次のおよび/または選択したポイントのすぐ前の画像に対する、動的プレビューバーに提供された詳細なデータに基づいて素早く効率的に指標選択を微調整することができる。
いくつかの実施形態では、動的プレビューバーの特定のセグメントは、固定のまま保持されてもよいが、他の部分は、現時点で表示された画像フレームに従って調整、修正または再算出してもよい。例えば、現時点で表示されたフレームが、撮像工程の(例えば、全8時時間の工程から)3時間目に対応する場合、画像ストリーム表示と共に、近辺に、または近くに表示された動的プレビューバーの部分は固定であってもよいが、動画が再生されるにつれて、3時間目に対応する部分は変化する。動的プレビューおよびディスプレイでは、連続または「連動に」近い形にする必要はなく、いくつかの実施形態では、互いが連動していないまたは近づいていない。一例では、撮像工程の最初の2時間に対応する動画の部分が固定のまま保持されてもよく、最後の4時間に対応する動画の部分についても同様である。動的プレビューバーの変化する部分は、現時点で表示された画像フレーム(例えば、この例では3時間目)に視覚的に結合されて相関されるか、または関連付けられてもよい。
いくつかの実施形態では、要約画像表示生成機30と動的プレビュー生成機31の両方は、例えば、1つの処理装置にまたは複数の処理装置を使用して1つのシステムで実行されてもよい。本明細書に記載された要約画像表示生成機30、動的プレビュー生成機31および他のモジュールまたは工程は、プロセッサ14または別のソフトウェア実行プロセッサによって実行されてもよく、いくつかの実施形態では、プロセッサ14には、本明細書に記載された要約画像生成機30、動的プレビュー生成機31および/または他の構成要素またはモジュールが含まれてもよい。他の方法が用いられてもよく、例えば、要約画像表示生成機30および/または動的プレビュー生成機31は、専用ハードウェアまたは回路構成であってもよい。
いくつかの実施形態によると、要約表示には、(例えば、プロセッサによる)フレーム特性、および画像ストリーム特徴の自動分析が使用されてもよい。例えば、腸内構造または画像セグメントは、要約表示に基づいた画像フレームで検出または測定されてもよく、撮像工程を通じて同定された画像セグメント、構造、特徴またはその他の事象の兆候または標識が(例えば、要約画像表示生成機30、動的プレビュー生成機31、および/またはプロセッサ14により)ユーザに表示されてもよい。ビデオセグメンテーションは、検出された運動事象に基づいて実行されてもよい。ビデオセグメンテーションには、例えば、複数の腸内事象カテゴリーへの画像シーケンスの分類が含まれてもよい。
要約表示は、画像ストリームの運動特性の分析に使用されてもよい。異なる運動関連特性について、GI管の特定領域などで、パターン化、タイプ、リズム、頻度および/または収縮時間、平均的収縮時間、収縮頻度などが算出されるまたは要約が作成されてもよい。他の運動事象が検出されてもよく、関連特性が算出または表示されてもよい。通常値および異常値の範囲が、例えば、算出された特性について、特性の通常範囲と検査値との間を比較できるようにユーザに提示されることがあるが、いくつかの実施形態では、例えば、これまで検出されてきたと考えられる異常な動きに関連する兆候が提供されることがある。
図2Aに、例えば、本発明の実施形態による要約表示のストリップ要素などの例示的な要約データ要素を示す。要約データ要素310および320には、それぞれ、画像ストリームの1つまたは複数のフレームからの要約色データが含まれてもよい。ストリップ310および320は、それらの構造を説明するために拡大される。ストリップの典型的なサイズは、例えば、幅1ピクセルおよび長さ数ピクセル(例えば、2.5)であってもよい。ピクセルの他のサイズが使用されてもよい。
要約データ要素310および320は、例えば、色部分311〜315および321〜325などの、それぞれ異なるいくつかの色のピクセル部分で構成されていてもよい。いくつかの実施形態では、色は、例えば、ストリップの上部(例えば、上部330)に配列されてもよい特定の条件(例えば、所定の条件)を満たす色値を有するピクセル、およびストリップの底部(例えば、下部332)に配列されてもよい異なる条件(例えば、所定の条件)を満たす色値のピクセルのストリップにソートまたは配列されてもよい。
例えば、in−vivo画像内では、典型的にはin−vivo組織では赤みがかった色、および/または典型的には腸内内容物は緑がかった色を有することがある。In−vivo画像内の1つまたは複数の腸内を表す要約データ要素を生成する際、組織壁を描く赤みがかったピクセルは、例えば、要約データ要素の底部332に配列されてもよい。腸内内容物により緑がかったまたは黄色がかったピクセルは、要約データ要素の上部330に配列されてもよい。そのような配列から、大量の腸内内容物を描く画像では、ストリップの上部に緑がかった色で、ストリップの底部に赤みがかった色になることがある。組織のみを描く画像は上部および下部に赤みがかった色に、腸内内容物のみを描く画像は上部および下部に緑がかった色になる。他の配列も、ソートパラメータに従ってソートされたピクセル値に基づいて可能である。
ソートパラメータには、例えば、(RGB色空間が表現されたフレームには)赤、緑、および青の値、(HSV色空間で表現されたまたは変換されたフレームには)色相、彩度、明るさが含まれてもよい。ピクセルパラメータの線形または非線形のいかなる組み合わせも、ストリップのピクセルを配列するソートパラメータとして定められてもよい。要約データ要素のピクセルのソート法および順序付け法は、さらに図4に詳述される。
いくつかの実施形態では、例えば、部分313および323で示される、ストリップの中央部331には、1つまたは複数の画像フレームで見られる最も暗い色が含まれてもよい。最も暗い色は、フレームに描かれることがある典型的な管腔のくぼみであり得る。管腔のくぼみがフレーム内で相対的に大きい場合には、対応するストリップ(例えば、ストリップ310)では長い中央部331に暗い色が含まれる。管腔のくぼみがフレーム内で相対的に小さい場合(例えば、収縮が起こるとき、またはカメラが組織壁を示すとき)には、対応するストリップ(例えば、ストリップ320)では短い中央部331に暗い色が含まれるか、または実質的に暗い色の部分が含まれないことがある。
いくつかの実施形態では、要約データ要素は、複数の画像フレームで表現されてもよい。要約データ要素の部分では、例えば、複数の画像フレームの中間または平均的な色が表現されてもよい。例えば、要約データ要素で示された管腔のくぼみの(例えば、ピクセルで計測された)大きさは、画像フレームごと、またはフレームごとに算出された要約データ要素の最大または最小、またはその他の線形の組み合わせで算出された管腔のくぼみの大きさの平均値でもよい。他の実施形態では、複数の画像フレームに対して生成された要約データ要素は、複数の画像フレームから結合されたピクセルをソートまたはサンプリングすることで算出してもよい。
例えば、図2Bのバー370のような要約表示には、1つの長方形のバーを形作って、隣接して位置されたまたは整列された多くのストリップが含まれてもよい。バーの長さは、例えば、視覚ディスプレイ装置で可能な画像ピクセル数および/または画面空間に従って、固定または所定の長さであってもよい。いくつかの実施形態では、表示された要約表示の長さが、視覚ディスプレイ装置の1つの縦または列よりも長いことがあり、コンピュータモニターまたは画面が複数の列に占領されることがある。他の実施形態では、要約表示の長さは固定であってもよく、1つの要約データ要素で表現された画像フレーム数は、例えば、表示されたバーで利用可能なピクセル数を、バーを生成するために使用されたフレーム数で分けることにより、算出してもよい。他の例では、要約表示は、固定サイズであってもよく、1つの要約データ要素に対応する画像フレーム数が、例えば、画像ストリームのビデオ表示に同時表示されるフレーム(群)に従って、動的に変更してもよい(本明細書の図7にさらに記載される)。ビデオ表示には、例えば、動画を生成するために表示される一連の静止画像が含まれてもよい。
各ストリップには、画像ストリームの1つまたは複数のフレームの要約色データが含まれてもよい。ストリップは、画像ストリームが、例えば、ビデオストリームとしてユーザに再生されている間に、例えば、定期的にまたは連続して、更新されてもよい。
例示的な要約表示バー370は、図2Bに示す。要約表示バー370には、互いに隣接して位置されたまたは整列された複数の要約データ要素350〜361を示す。この例では、各要約データ要素が、1つの画像フレームに関連する。この例の各要約データ要素350〜361は、3つのセグメント:各要約データ要素の上部に現れる内容物セグメント340、各要約データ要素の中央部に現れる管腔のくぼみセグメント341、および下部に現れる組織セグメント342で構成される。各要約データ要素の部分には、図2Aで示されたように、いくつかの色値が含まれてもよい。
要約表示バー370では、要約データ要素に対応する画像フレームに関連した情報の要約が、ユーザに提供されてもよい。例えば、ユーザは、画像に描かれた内容物(および/または組織)の量を書き留めてもよい。ユーザは、簡素なおよび簡易な方法で管腔のくぼみにおける変化も検出することができる。例えば、要約データ要素354、356および358は、要約データ要素350〜361の他の管腔のくぼみよりも小さい。これらの要素に対応する画像フレームは、管腔のくぼみが最大収縮期には最小となることがあるため、例えば、GI管の最大収縮期に相関させてもよい。要約データ要素353、355、357および359〜361は、要約データ要素350〜360の他の管腔のくぼみセグメントよりも大きくなる。これらの要素に対応する画像フレームは、例えば、開口したまたは弛緩した管腔のくぼみに相関することがある。
腸内事象などの、事象パターンは、要約表示バー370に同定されることがあり、3つの収縮が検出されることがある。第1の収縮は、要素353に対応する画像フレームで始まり画像フレーム355に対応する画像フレームで終わる。第2の収縮は、要素355に対応する画像フレームで始まり画像フレーム357に対応する画像フレームで終わり、第3の収縮は、要素357に対応する画像フレームで始まり画像フレーム359に対応する画像フレームで終わる。
例えば、GI管に関連した事象など、他のタイプの事象では、例えば、ユーザによっておよび/または自動的にプロセッサ装置によって要約表示バー370に基づいて同定されてもよい。例えば、ユーザは、(例えば、画像シーケンス間の大きな類似点、または画像内の大量の内容物などの)実質的に静的で、情報性のない、画像ストリームのセグメント間を容易に差別化することができる。画像ストリームの場面が変わるとき、またはフレームシーケンス間の差異がプレビューバーをざっと見てさらに検出可能であるとき、ユーザは、前もってその変化に対応してもよく、例えば、ストリームを見る速度を緩める、(例えば、ブックマークまたは画像サムネイルを生成して)画像ストリームが変わる位置または時間に印をつける、検出された変化に関連するメモまたはコメントを加えるなどの行為を行ってもよい。別の例では、要約表示バー370を分析し、次の画像が有用ではないまたは情報性がないと気づいた場合には、画像を見る速度を速めてもよい。
図3は、本発明の実施形態による要約データ要素の生成に使用されてもよい1つまたは複数の画像フレームのソートされたピクセルの例を示す。この例では、ピクセルの照度値は、RGB色空間で表示され、ピクセルは、赤のピクセル値に従って配列される。いくつかの実施形態では、すべての画像ピクセルがソートされるわけではなく、例えば、1つまたは複数の画像から選択されたピクセルのサブセットのみが、画像のトリミング部分として使用されてもよい。トリミングされた部分は、十分に照度がある画像の領域に従って選択されてもよい。これは、デバイスの照度分布に基づいて、ある撮像デバイスから別の撮像デバイスへと変えられてもよい。グラフ400の本発明の例では、画像内の10×10ピクセルから3.5×10ピクセルのサブセットがソートされる。ピクセル数は、グラフ400のX軸に示され、0〜255の範囲内のピクセル照度値がY軸に示される。
グラフ400のライン410は赤のピクセル値、ライン420は緑のピクセル値、およびライン430は青のピクセル値を表す。色度関連のソートパラメータに従ってピクセルがソートされた後、ピクセルのサブセットは、例えば、色度関連のピクセルソートパラメータの中央値が見出されることにより、2セットに分けられてもよい。グラフ400のポイント444は、この例では、
Figure 2015528716
である、色度関連のピクセルのソートパラメータの中央値にあるピクセルを表す。他の方法では、例えば、ピクセルの平均値、または固定(例えば、所定の)閾値が、ピクセルを2セットに分けることに使用されてもよい。
ピクセルのサブセットは、ピクセルの選択値に基づいて、2セットに分けられてもよい。ある例では、選択値は、第1のソートパラメータの中央値であってもよく、第1のセットには、中央値の下の
Figure 2015528716
値であるすべてのピクセル(例えば、ポイント(0、0)〜ポイント444までのすべての値)が含まれてもよい。この例の第2のセットでは、中央値より上の
Figure 2015528716
値であるすべてのピクセル(例えば、グラフのポイント444より大きいX軸のすべての値)が含まれてもよい。他の値がピクセルを分ける2セットに選択されてもよい。
ピクセルが2セットに分けられた後、第1のセットは、第2のソートパラメータに従って降順に配列されてもよく、第2のセットは、第2のソートパラメータに従って昇順に配列されてもよい。セットは、例えば、順序付けのできる2つのリスト、アレイまたは他のデータ構造に配列されてもよい。第2のソートパラメータは、例えば、ピクセルの明るさに基づいた、輝度関連にしてもよい。例えば、輝度関連のソートパラメータは、RGB色空間でピクセルの赤の値であってもよい。In−vivo画像での赤の値は、ピクセルの明るさにかなり相関していてもよい。別の実施形態では、ピクセルは、HSV色空間に変換されてもよく、H(色相、主波長)は、第1のソートパラメータとして使用されてもよく、V値(例えば、明るさの値)は、第2のソートパラメータとして使用されてもよい。他の数のソートパラメータが使用されてもよい。
2つの順序付けされたリストが、グラフ400に示すように、1つのリストに組み合わされるまたは付け加えられてもよい。他の方法および他のピクセルソートパラメータが、ピクセルのソートに使用され、2つ(またはそれ以上)のセットに分けるのに使用されてもよい。1つのセットに組み合された配列リストは、要約データ要素の生成に使用されてもよい。
図4に、本発明の実施形態による要約データ要素を生成する方法のフローチャートを示す。1つまたは複数のフレームが、例えば、要約画像表示生成機30のようなプロセッサまたはコンピュータデバイスにより受信されてもよい。画像フレーム(群)は、RGB色空間で表現されてもよく、ピクセルごとにR値、G値およびB値が含まれてもよい。操作500では、ピクセルのサブセットが、各フレーム(群)から選択されてもよい。ピクセルのサブセットには、例えば、各画像の特定の所定領域内のピクセル(例えば、画像フレームの所定サイズおよび位置の中央の円または四角い領域内のピクセル)が含まれてもよい。いくつかの実施形態では、ピクセルのサブセットは、ピクセルが特定の数学的条件を満たすように選択されてもよい。いくつかの実施形態では、画像フレームのすべてのピクセルが使用されてもよい。
操作502では、ピクセルが第1のソートパラメータに従ってソートされてもよい。ある実施形態では、第1のソートパラメータは、色度関連であってもよく、ピクセル色の知覚強度に応じてもよい。第1のソートパラメータの例には、ピクセルのR、G、B値、または例えば(RGB色空間における)
Figure 2015528716
など、これらの値の線形または非線形の組み合わせが含まれる。ピクセルは、HSVなどの異なる色空間に変換されてもよく、初期色空間または新たな色空間でピクセル値をいかなる線形または非線形の組み合わせで、ソートパラメータとして使用されてもよい。色度関連ソートパラメータの別の例では、HSV色空間のピクセルのH(色相)値がある。
他のソートパラメータが使用されてもよい。例えば、異なる画像処理検出器が作動されてもよく、検出器のスコアが画像(または複数の画像)内でピクセルごとに取得されてもよい。ある実施形態では、第1のソートパラメータは、ピクセルの内容物の検出スコアであってもよい。ピクセルごとに内容物の検出スコアを取得するために使用される例示的な内容物の検出器は、その双方が、本発明に共通した譲受人に帰属したものであり、そのすべてを参照して本明細書に組み込まれる、Buzaglo et al.による米国特許第7,767,692号およびPelegによる米国特許申請第13/729,263号で開示されている。他の方法が、ピクセルごとの内容物検出スコアの取得に使用されてもよい。
操作504では、ソートされたピクセルが2セットに分けられてもよい。2セットに分けることは、例えば、ピクセルの第1のソートパラメータ値の中央値または平均値を算出することによって実行されてもよい。例えば、第1のピクセルセットには、中央値よりも低いソートパラメータ値のピクセルが含まれてもよく、第2のピクセルセットには、中央値よりも高いソートパラメータ値が含まれもよい。他の方法が、ソートされたピクセルを2セットに分けることに使用されてもよい。例えば、第1のソートパラメータの所定または固定値は、閾値として使用されてもよく、閾値を超えるすべてのピクセル値は第1のセットに、残りのピクセル値は第2のセットに割り当ててもよい。
操作506および操作508では、各ピクセルセットが、第2のソートパラメータに従ってソートされてもよい。第2のソートパラメータには、例えば、(RGB色空間での)R、GおよびBのようなピクセル値のいかなる線形または非線形の組み合わせが含まれてもよい。グラフ400に示された例示的なソートパラメータは、R(赤の値)である。ピクセルは、HSVのような異なる色空間に変換されてもよく、新たな色空間でピクセル値のいかなる線形または非線形の組み合わせも、第2のソートパラメータとして使用されてもよい。例えば、RGB色空間からHSV色空間へなどのある色空間から別の色空間への画像ピクセルは、HSV色空間で表現される各ピクセルのV値が各ピクセルセットのソートに使用されてもよい。第1のセットは、例えば、より低いセットでは、第2のソートパラメータに従ってソートされてもよく、ピクセルは、降順のリストに配列されてもよい。第2のセットは、第2のソートパラメータに従ってソートされてもよく、ピクセルは、昇順のリストにされてもよい。あるセットが降順にソートされて他のセットが昇順にソートされるとき、結果として生じる配列では、要約データ要素でより暗くなる中間部分が作成され、表れた画像フレームに管腔のくぼみを現すおよび/または大きさが示されてもよい。
いくつかの実施形態では、第2のソートパラメータは、管腔検出器のスコアに基づいてもよい。管腔検出器には、例えば、画像フレームのピクセルごとに管腔のスコアが提供される機械的な画像処理が含まれてもよい。管腔のスコアは、画像内で管腔のくぼみを描くピクセルの可能性が示されてもよい。管腔検出は、例えば、ピクセル照度パラメータ、および/または画像の形認識方法の端部検出に基づいて実行されてもよい。使用されることがある管腔のくぼみ(例えば、管腔の小塊)の検出方法の例は、Spyridonos et al.による米国特許申請公開第20110044515号で開示されている。この例では、第1のソートパラメータが、ピクセルの内容物スコアに従っていてもよい。内容物スコアが割り当てられた後(例えば、操作502で)、ピクセルは、中央または平均の内容物スコアに基づいて2セットに分けられてもよく、ピクセルは、管腔スコアに従ってソートされてもよい。
操作510では、順序付けされたリストがサンプリングされてもよい。例えば、順序付けされたリストのピクセル数は、35,000枚であってもよいが、要約データ要素に選択されるピクセル数は、例えば、20〜50ピクセルの範囲であってもよい。そのため、サンプリングスキームでは、かなりピクセル数を減らす必要があることがある。サンプリングスキームの例では、固定間隔でソートされたリストからピクセルの選択が行われることが含まれてもよく、例えば、ソートされたリストの200ピクセルごとに1ピクセルが選択されてもよい。選択されたピクセルでは、例えば、間隔内で(ソートパラメータ、または別の選択値)の最高値のピクセルなどの、特定の条件が満たされてもよい。別の例では、N番ごとのピクセルが(例えば、任意に)選択されてもよい。
さらに別の例では、サンプリングスキームは、要約データ要素に、各部分がフレームの特定の特徴を表す、いくつかの異なる部分が含まれるように定められてもよい。ソートされたピクセルでは、例えば、図2Aに示されるように、腸内内容物ピクセル(図2Aの上部)、管腔のくぼみ(図2Aの中央部)、および組織ピクセル(図2Aの下部)を表すことがある要約データ要素の上部、中央部、下部の、3つの検出可能な部分が作成される。部間の差異を強調し、有用な要約表示を作成するため、サンプリングスキームは非線形であってもよく、1部分から選択されるピクセル数が、他の複数の部分から選択するピクセル数よりも多くなってもよい。ある実施形態では、複数のピクセルが、例えば、管腔のくぼみを表すより暗いピクセルが含まれる中央部などの、一部のより暗い中央部から選択(サンプリング)されてもよい。例えば、図3のグラフ4を参照すると、複数のピクセルが、管腔のくぼみを表す画像内のより暗いピクセルに対応するポイント444の周辺領域からサンプリングされてもよい。そのようなサンプリングスキームでは、画像内の管腔のくぼみの大きさに基づいて検出されることがある画像フレーム特性および/または腸内収縮または他の事象が強調またはハイライト表示されてもよい。グラフの他の領域からのピクセルは、サンプリングの密集度がより低くてもよい。管腔検出が(例えば、ピクセルごとの管腔スコアを測定するために)画像フレームにおいて実行されたとき、管腔のくぼみの領域が(例えば、管腔のくぼみ内のピクセル数を測定することにより)算出されてもよい。同様に、内容物検出が実行されたとき、画像内で内容物が含まれる領域(または、明らかな組織)が算出されてもよい。画像フレームの各領域(内容物、管腔および組織)がサンプリングされてもよく、各領域を表すピクセルが要約データ要素の生成に選択されてもよい。
ピクセルセットがサンプリングされた後、サンプリングされたピクセルは、例えば、画像フレームに表れるストリップなどの、要約データ要素を生成するために組み合わせるまたは添付されてもよい(操作512)。いくつかの実施形態では、要約データ要素が複数の画像フレームに対して算出される場合、要約データ要素は、複数の画像の画像ごとに生成されてもよく、次いで要約データ要素の平均が算出されてもよい(例えば、要約データ要素の部分ごとの平均)。他の実施形態では、複数の画像に対する要約データ要素を、複数の画像からピクセルがソートされること、および上記のようにピクセルが順序付けおよびサンプリングされることによって算出してもよい。複数のフレームから要約データ要素が作成される他の方法が使用されてもよい。
複数の生成された要約データ要素(例えば、ピクセルストリップ)は、例えば、要約表示を生成するための長方形またはバーの形態で隣接して要約データ要素が位置されるまたは整列されることにより組み合わされてもよい。生成された要約表示は、図2Bの要約表示バー370、または、例えば、図5A〜図5Dの動的プレビューバーの形態などの、固定(または静的)バーの形態であってもよい。
動的プレビューバーは、例えば、図5A〜図5Dの例で示された長手方向のプレビューバーまたはウィンドウ内などに、例えば、互いに隣接した要約データ要素が配置されることにより、要約データ要素に基づいて生成されてもよい。いくつかの実施形態では、動的プレビューバーは、画像ストリーム表示ウィンドウに同時に表示されてもよい、画像ストリームの部分に関連するプレビューバーにズームインされたまたは拡大された、固定または恒常的なプレビューバーの部分にズームインされることによって生成されてもよい。
カプセルにより取り込まれた画像ストリームの観察工程は、専門の読影者(例えば、医師または看護師)にとって相対的に長時間を有することがある。画像ストリーム内で次の部分の詳細なプレビューを表示することは、観察時間を減らす手助けとなることがある。ある実施形態では、画像の詳細なプレビューが、例えば、画像ストリーム表示ウィンドウに連動して提供されてもよい。読影者である医師は、次の画像がほぼ静止画像であり、変化がなく、情報性もない場合に、画像ストリームを見る速度を加速させてもよい。例えば、繰り返されたまたはよく似た画像を描く画像ストリームの部分、またはほぼ混濁内容物を描くストリームの部分については、読影者は動的プレビューバーをざっと見てもよく、次の画像が関心のあるまたは情報性のあるものか否かを分析してもよい。同様に、動的プレビューバーと次のフレームとがかなり異なるものであり、高速で変化があることが示されるとき、または動的プレビューバーから関心のある腸内事象が判定されることがある場合には、読影者は、より注意を払い、見る速度を緩めてもよい。そのような見る速度の加速または減速は、見る時間を減らし、および/または、例えば、観察する効率、質または感度などの観察工程を改善することがある。
動的プレビューバーは、他の目的に使用されてもよい。ある実施形態では、動画ストリームを観察する医師が、GI指標または器官(例えば、小腸、結腸の入口など)の読影を所望することがある。読影者は、例えば、動的プレビューバー上でマウスのような入力デバイスを動かしてもよく、詳細なプレビューには、入力デバイスで示されるプレビューバーのセグメントに対応する画像ストリームの部分が表示されることがある。これにより医師は、素早く効率的に所望の指標を読影することができる。
ここで図5A〜図5Dには、本発明の実施形態による画像ストリームおよび動的プレビューバーの例示的なディスプレイが示される。図5A〜図5Dでは、それぞれ、ウィンドウ250に表示され、現時点のフレームについて算出された動的プレビューバー240の近辺または近くに同時に表示された、画像ストリームの現時点のフレームが含まれる。画像ストリームのフレームおよびプレビューバー240は、互いに隣接して表示される必要はないが、互いに近接してもよく、互いに離れていてもよく、互い近接している必要はない。図5A〜図5Dでの参照番号は、連続した表示での要素に対応する番号同士が繰り返されている。カーソル200(点線で示された)は、取り込み時間に従って時系列に並べられた、画像ストリームに取り込まれた完全なフレームセット内で、現時点で表示された画像フレームの位置を表す。フレームの取り込み時間は、例えば、工程の始まりから現時点のフレームが取り込まれるまでの経過時間などで定められてもよく、取り込み時間の他の測定方法が使用されてもよい。時間表示241では、動的プレビューバー240に連動して、例えば、ライン201〜207に対応する時間(例えば、時間で)表示される。時間表示241は、ウィンドウ250に現時点で表示されたフレームに従って、動的プレビューバー240に連動して異なる位置または間隔で示されてもよい。
動的プレビューバーのポイントSおよびEは、それぞれ、撮像工程の開始と終了を示す。これらのポイントは、例えば、ウィンドウ250内で表示されたすべての画像フレームについて同じ位置に示されるなど、動的バー表示に固定されてもよい。例えば、動的プレビューバー240は、固定の、所定サイズのバーとして、画像ストリームのディスプレイに連動して同時に表示されてもよい。動的プレビューバー240の固定サイズは、例えば、読影者が見るモニター18および/または使用可能なウィンドウでの使用可能なサイズまたは解像度に従って、あるコンピュータディスプレイから別のコンピュータディスプレイに変更してもよい。例えば、動的プレビューバー240は、長さ200ピクセルおよび高さ20ピクセルであってもよい。
カーソル200では、現時点で表示された画像に対応する要約ピクセルデータストリップが示される。カーソル200は、現時点で表示されたフレーム(または複数のフレーム)の取り込み時間または他の測定順序に従って、ポイントSとポイントEとの間の相対的な位置で、動的プレビューバー240に連動して位置付けされてもよい。1つの時間スロット内での複数のフレームの表示方法の例は、そのすべてを参照して本明細書に組み込まれる、Davidson et al.による米国特許第7,505,062号に開示されている。例えば、カーソル200は、工程の開始から現時点で表示された画像の取り込み時間までに経過した時間の割合に対応するポイントSとポイントEとの間に位置付けされてもよい。例えば、カーソルがポイントSとポイントEとの間の丁度中間点に位置するとき、現時点で表示された画像は撮像工程期間の半分までが取り込まれたことを示す。
いくつかの実施形態では、現時点で表示された画像付近に近接して取り込まれた画像に対応するさらなる詳細なデータが提供されるため、画像の取り込み時間に応じる時間ライン表示241(例えば、撮像工程の開始からの経過時間)が、動的プレビューバー240に印しがつけられた間隔(例えば、1時間)と同じ時間偏差とされてもよく、固定距離に均等に分布されなくてもよく、カーソル200の位置または現時点で表示されたフレームに従って動的に変更してもよい。カーソル200は、時間ラインのどの位置にあってもよく、撮像工程の開始から現時点で表示された画像までの経過時間の割合または比率、および工程の終了までの総経過時間が示されてもよい。時間スケールに偏差があっても、プレビューバー240に連動するカーソル200の位置は、正確にこの割合に応じてもよい点に留意されたい。取り込み時間に従って同時に表示されたフレームに対応するフレームの分布は、本明細書の図6Aおよび図6Bに詳述される。
ライン201〜207は、フレームの取り込み時間の固定間隔が示されてもよい。フレームの取り込み時間は、例えば、絶対時間(フレームが取り込まれた日時)、画像取り込み開始に関連する時間、または他の時間測定であってもよい。例えば、図5A〜図5Dに表示された工程では全部で8時間続き、各ラインが1時間を示してもよい。他の時間間隔が使用されてもよい。一連の図5A〜図5Dの各数字で見られるように、ライン201〜207は、ウィンドウ250内に現時点で表示された画像の取り込み時間に従って、動的プレビューバー240に連動して異なる位置にあってもよい。図5A〜図5Dには、1つの撮像工程を通じて昇順の時間で取り込まれた4つの画像が示す。図5Aおよび図5Bは、工程の(ライン210で示された)1時間目と(ライン202で示された)2時間目との間に取り込まれた画像であり、図5Cおよび図5Dは、工程の2時間目と(ライン203で示された)3時間目との間に取り込まれた画像である。
動的プレビューバー240には、例えば、ポイントSからライン201までの間、およびライン203からラインEの間に位置する動的プレビューバー240の部分など、図5A〜図5Dの4つすべてに非常に類似した部分が含まれることが認められ得る。最も変化のある部位は、ウィンドウ250に現時点で表示された画像に関連して、この例では、ライン201〜203の間に位置する。これらの部分は、現時点および/または最近表示された画像フレーム(群)のピクセル特徴に応じて修正され、画像ストリーム内で次のフレームの詳細なプレビューに提供されてもよい。プレビューバー240に連動して印をつけても、つけなくてもよい、または視覚的に強調されても、強調されなくてもよい、プレビューウィンドウ242には、最も詳細なまたはズームインされたプレビューバー240の部分が示されてもよい。いくつかの実施形態では、動的プレビューバー240の最も詳細なプレビュー部分が、次の画像および最近見た画像の両方に対して提供されてもよい。カーソル200の直前、またはカーソル200の直後にある動的プレビューバー240の部分では、読影者に最も詳細な情報が提供されてもよく、動的プレビューバー240の残余の部分では、詳細度および解像度のより低い情報が提供されてもよい。そのような動的プレビューバー240の連続した更新処理により、画像ストリーム内の異なるフレーム特徴および/または運動性関連の事象が検出でき、例えば、画像ストリームの実質的に静的または情報性のない部分を観察するときに、読影している医師は、画像ストリーム内で次の変化に対応することができる。
図6は、本発明の実施形態による動的プレビューバーに位置する(画像フレームを表す)プレビューバーの要素の時間偏差の例を示す。例では、画像ストリームを表示するウィンドウに表示される1つまたは複数の特定の画像フレームを表す動的プレビューバー要素のプレビューバー上(または、例えば、入力デバイスによって選択されたプレビューバー要素)の位置に応じたまたは対応する時間偏差機能を表す。この例での動的プレビューバーは、グラフ440のX軸で示された、長さがおよそ510のピクセルが含まれる。他の長さが使用されてもよい。画像ストリーム内の画像数は、グラフ440のY軸にフレームIDとして示されたように、およそ56,000枚である。曲線450は、(例えば、撮像工程の開始から取り入れられた一連のフレームの)フレームIDを、生成された動的プレビューバーの位置に相関させている。グラフ内のポイント452は、この例ではフレームID150,000に対応する画像ストリーム表示ウィンドウに表示される現時点のフレームに対応する。
グラフ440に示された機能は、区分的線形または非線形であってもよい。この例では、機能は非線形であり、3つの区間に分けられてもよい:グラフ内のポイント(0,0)からポイント451までの第1の区間、ポイント451から453までの第2の区間、およびポイント453から455までの第3の区間。曲線の坂は、これらの区間の間で実施的に変化してもよい。つまり、第1の区間はかなり急でありポイント451に近づくにつれ坂が次第になだらかになり、曲線450の第2の区間ではほぼ平ら(ほぼ水平)で実質的に線形であり、および第3の区間では坂が水平に近い状態からポイント455に向けて次第に急になる。第1の区間に対応する画像フレーム数は、(動的プレビューバー内で)ピクセルのおよそ100ストリップで表される、およそ16,000枚である。第2の区画では、各フレームは、動的プレビューバーの1つのピクセルストリップに対応し、換言すると、長さ100ピクセルのバーは100枚の画像を示す。第2の区間は、曲線の第2の区間に関連した画像フレームに相関する最も詳細な情報を提供する、動的プレビューバーの詳細な部分に対応する。第3の区間(ポイント453〜455)に対応する画像フレーム数は、およそ40,000枚であり、これらのフレームは、残余のピクセルストリップ(例えば、この例では、310)が含まれる動的プレビューバーの後ろの部分に関連する。他のストリップ数およびフレーム数が使用されてもよい。この例では、曲線の第1の区間および第3の区間が、動的プレビューバーで短縮されたデータ部分に関連する。最も短縮されたデータは、画像ストリームの端部または端(例えば、ストリームの最初と最後)に関連しており、フレームIDは、表示されている現時点のフレームにより近いものに与えられるのに応じて、データがより詳細になるように、これらの区間での時間偏差は、線形ではなく、区間ごとに変わることに留意されたい。
他の実施形態では、機能は、区分的線形であってもよく、同様に、画像ストリームで先に見た画像に対応する所定の急な坂である第1の区間、ほぼ水平の坂(例えば、プレビューバーのウィンドウ242などの、プレビューウィンドウに対応する)第2の区間、および画像ストリームにまだ表示されてなく、現時点で表示された画像フレームとは距離がある画像に対応する所定の急な坂である第3の区間、の3つの区間に分けられてもよい。
これらの例では、現時点で表示されたフレームに隣接した画像フレームに対しては詳細なデータ、および距離のあるフレームに対してはより少ないデータを提供するために、動的プレビューバーに位置されたプレビューバー要素の時間偏差が説明される。時間偏差機能は、例えば、表示されたフレームごと、または所定の時間ごとに、調整されてもよい。表示された画像ストリームが観察されると、現時点のフレームIDが進み、時間偏差機能が、現時点で表示されたフレームおよび、それに隣接する限られたフレーム数(例えば、1ピクセルストリップは、一連の100フレームに対して1フレームを表す)、および現時点で表示されたフレームから離れたフレーム(1ピクセルストリップが、例えば、50または100フレームを表す)に対するより少ない詳細性の情報に対応する、より詳細なピクセルおよびフレーム情報を提供するため、定期的に再算出または更新されてもよい。いくつかの実施形態では、曲線450には、3つより多い区間が含まれてもよく、異なる時間偏差機能が区間に適用されてもよい。
図6Bは、異なる時間に取り込まれた画像フレームごとの様々な時間偏差機能を示す。図6Aおよび図6Bでは、対応する要素を示すために、参照番号が繰り返されている。3つの動的プレビューバーは、曲線450、460および470で表された時間偏差機能に従って生成されてもよい。すべての動的プレビューバーは、同じ画像ストリームに対して生成され、変数は表示される現時点の画像フレームに起因する。動的プレビューバーでは、この例では、グラフ441の「動的プレビューバーの位置」のX軸に示された長さがおよそ510のピクセルが生成されており(他の長さが使用されてもよい)、および動的プレビューバーで表される画像ストリームの画像数は、グラフ441のY軸にフレームIDで示されたおよそ56,000である。曲線450、460および470は、それぞれ、生成された動的プレビューバー内のプレビューバー要素に対応する位置のフレームIDに相関する。曲線450上のポイント452は、この例では、フレームID150,000に対応する、画像ストリーム表示ウィンドウ内に表示されるフレームにおいて、画像ストリームの観察中における時点に対応する。曲線460上のポイント462は、同じ画像ストリームの観察中における異なる時点であり、フレームID230,000に対応する画像ストリーム表示ウィンドウに表示される画像に対応する。曲線470上のポイント472は、さらに同じ画像ストリームの観察中における異なる時点であり、フレームID380,000に対応する画像ストリーム表示ウィンドウに表示されるフレームに対応する。いくつかの実施形態では、動的プレビューウィンドウのフレーム位置の相関は、フレームIDではなくフレームの取り込み時間に基づいて算出してもよい。
様々な時点で表示される現時点のフレームを表すすべてのポイント(例えば、ポイント452、462、472)は、直線480に位置することに留意されたい。これは、動的プレビューバー上の画像を表す他のプレビューバーの位置を測定する時間偏差機能に関わりなく、表示される画像の取り込み時間に対応するポイントの動的プレビューバー上の位置にあるカーソル(例えば、カーソル200)の線形進行を反映する。
ポイント451およびポイント453の間に位置する曲線450のセグメントは、表示された動的プレビューバーの最も詳細なデータセグメントに相関しており、フレームID150,000が表示されている。同様に、ポイント461および463の間に位置する曲線460のセグメントは、表示された動的プレビューバーの最も詳細なデータセグメントに相関しており、フレームID230,000が表示されており、およびポイント471およびポイント473の間に位置する曲線470のセグメントは、表示された動的プレビューバーの最も詳細なデータセグメントに相関しており、フレームID380,000が表示されている。
図7には、本発明の実施形態による動的プレビューバーを表示する方法のフローチャートを示す。操作600では、画像ストリームが、例えば、受信機12のような画像受信機により受信されてもよく、記憶されてもよい。ストリームには、例えば、ビデオカメラやin−vivo撮像デバイスなどにより、連続して取り込まれた複数の画像が含まれてもよく、各画像には、連番が付けられていてもよく、取り込み時間に関連していてもよい。
操作602では、初期プレビューバーが、画像ストリームについてコンピュータ処理されてもよい。初期プレビューバーには、例えば、要約データ要素310および320などのプレビューバー要素で構成されていてもよく、各要素では、1つまたは複数の画像フレームについて算出されてもよい。いくつかの実施形態では、初期プレブーバーのプレビューバー要素は、他の方法、例えば、画像フレームの平均的な色を算出することにより、算出されてもよい。初期状態では、プレビューバーは、表された画像フレーム間に時間偏差がないまま生成されてもよい、例えば、各プレビューバー要素は画像ストリームから同じ量数のフレームが表されてもよい。初期プレビューバーは、固定または静的であってもよい。他の実施形態では、初期プレビューバーは、詳細なプレビューデータが画像ストリームの第1のフレーム群(例えば、第1のフレームおよび隣接するフレームの特定数)を生成するように生成されてもよく、短縮されたプレビューデータは残余のフレームに対して生成される。この実施形態では、プレビューバーの第1の部分は、詳細なプレビュー情報を使用して、輝度パラメータ、色または色度パラメータ、管腔のくぼみの大きさ、外観、位置およびが画像特性の変数、または詳細なプレビュー部分に連動する場面変化などの、画像特性を検出することがあるユーザにこの情報が表示されてもよい。ユーザは、動的プレビューバーの詳細部分に関連したフレームの混濁内容物のレベルを検出してもよい。いくつかの実施形態では、これらの特性の検出は、(例えば、プロセッサ14のような処理装置により)自動的に実行されてもよく、画像ストリーム内で検出された特性または変化がユーザに表示されてもよい。ある実施例では、場面の変化は、動的プレビューバーの詳細な部分を分析することにより画像ストリーム内で検出されることがあるし、変化の兆候は、例えば、動的プレビューバー上で、または画像ストリームに連動して、印または指標として、ユーザに表示されてもよい。
操作604では、ストリームからの第1の画像(または複数の画像)が、例えば、初期プレビューバーの近辺で、ユーザに表示されてもよい。例えば、ユーザが、画像をストリーミングに関連したUI上の「再生」ボタンを押すなどして、画像ストリームの再生が開始されるとき、初期プレビューバーが、本明細書に記載されるように、動的プレビューバーと置換されてもよい。
操作606では、動的プレビューバーでは、画像ストリームから同時に、実質的に同時にまたは併行して表示されてもよい画像(または複数の画像)についてコンピュータ処理されてもよい。別のオプションでは、ユーザは、例えば、マウスなどの入力デバイスを使用して、動的プレビューバー上の、または初期プレビューバー上の、ポイントまたはセグメントを選択してもよく、新たな動的プレビューバーで、画像ストリームの選択された部分についてコンピュータ処理または表示されてもよい。動的プレビューバーは、詳細なプレビューデータが併行して表示された画像に隣接する画像に対応して算出されるように、および短縮されたプレビューデータが離れた画像に対応するように算出されるように生成されてもよい。プレビューバー要素の生成には、例えば、本明細書の図4に掲示された操作などが含まれてもよい。いくつかの実施形態では、画像のプレビューバーまたは要約グラフ表示を生成する他の方法、例えば、Horn et al.による米国特許第7,215,338号および/またはHorn et al.による米国特許申請公開第20070060798号に開示された方法が使用されてもよい。詳細なプレビューデータの生成には、例えば、ピクセルストリップの形態でのプレビューバー要素である、1つのフレームに対応する要約ピクセルデータの生成が含まれてもよい。詳細なプレビューデータは、撮像工程の読影者が見る現時点で表示された画像フレーム(群)、および現時点のフレームに隣接した位置にある画像フレームについて生成されてもよい。ある実施形態では、詳細なプレビューデータでは、表示された現時点の画像(群)について、および画像内ストリーム内で先におよび/または次に遷移される所定数の画像数(例えば、50)について、または現時点で表示された画像の前および/または後の所定時間帯に取り込まれた画像について、コンピュータ処理されてもよい。
短縮されたプレビューデータは、現時点で表示された画像から離れた位置にある画像、例えば、画像ストリームのシーケンス内の現時点のフレームから所定の画像数を超えて位置された画像(または現時点で表示された画像の前または後の所定またはコンピュータで処理された時間帯を超えた取り込まれた画像)について生成されよい。ある実施形態では、短縮されたプレビューデータには、複数のプレビューバー要素(例えば、ピクセルストリップ)、画像ストリームからの複数の画像シーケンスに対応するピクセルデータの要約を作成する各プレビューバー要素が含まれてもよい。いくつかの実施形態では、異なる程度に短縮されたプレビューデータがあってもよく、例えば、現時点のフレームからのフレームの距離に従って、現時点で表示されたフレームから離れたフレームについてプレビューバー内に表示される詳細レベルの段階的な短縮があってもよい。他の実施形態では、プレビューウィンドウ(例えば、プレビューウィンドウ242)では、画像ストリームの部分についての詳細なプレビューデータが表示されてもよいが、プレビューバーの残余の部分では、動的プレビューバーのプレビューウィンドウの部分に関連しない画像についての短縮されたプレビューデータが表示されてもよい。
操作608では、画像ストリームの1つまたは複数のフレームが、例えば、現時点で表示されたフレーム(群)について生成された動的プレビューウィンドウに連動して、表示されてもよい。動的プレビューバーは、ディスプレイ上の様々な位置に位置付けされてもよい。いくつかの実施形態では、画像ストリームおよび動的プレビューバーが、別々のモニターまたはディスプレイで、同時に表示されてもよい。ユーザによる入力が行われてもよい、例えば、ユーザは、動的プレビューバーの特定のポイントを選択またはクリックして、クリックして選択された時点に関連するセグメントまたは画像の部分を表示させてもよい。
操作606〜操作608は、例えば、断続的に、例えば、固定または可変の時間間隔で、または表示されるフレームの所定数後ごとに、繰り返され、ループされまたは反復されてもよい。操作606〜操作608は、動的プレビューバーがビデオストリームウィンドウ内に現時点で表示されたフレームを繰り返し再算出して調整されるように、例えば、画像ストリームの観察中を通じて連続的にまたは実質的に連続的に繰り返されてもよい。
画像ストリームは、必ずしもin−vivo画像ストリームである必要はないことに留意されたい。短縮されたおよび動的プレビューデータは、例えば、保安または監視カメラなど、により取り込まれた動画、画像ストリームなどの他の画像のタイプについて生成されてもよい。
他の操作または一連の操作が使用されてもよい。
異なる実施形態が、本明細書で開示される。特定の実施形態の特性は、他の実施形態の特性と組み合わせてもよい、つまり、特定の実施形態は、複数の実施形態の特性の組み合わせであってもよい。
本発明の実施形態の前述の説明は、例示および説明を目的として示す。開示された詳細な形態により本発明を誇張するまたは限定することは意図していない。当然のことながら、当業者であれば、多くの修正、変形、代用、変更および等価物が上述の教示に照らして可能である。そのため、添付の請求項は、本発明の真の趣旨の範囲内であるものとして、そのような修正および変更をすべて包含することを意図していることは、理解されるであろう。

Claims (21)

  1. In−vivo撮像デバイスにより取り込まれた画像ストリームを表示するコンピュータ実行方法であって、
    複数の画像フレームを備え、各フレームが複数のピクセルを備えた画像ストリームであって、in−vivoデバイスにより取り込まれた画像ストリームを受信することと、
    少なくとも1つのフレームが各タイムスロットに表示され、かつ前記フレームはそれらのフレーム取り込み時間に従って連続して表示される、前記画像ストリームのビデオ表示を表示することと、
    動的プレビューバーは前記ビデオ表示内に同時に表示される少なくとも1つの画像フレームに相関し、前記動的プレビューバーは詳細なデータセグメントおよび縮小データセグメントを備え、かつ前記詳細なデータセグメントは前記ビデオ表示内に同時に表示される前記少なくとも1つのフレームが生成される、前記動的プレビューバーを生成することと、
    前記画像ストリームの前記ビデオ表示に連動して前記動的プレビューバーを視覚ディスプレイ装置上で表示することと、
    を含む、コンピュータ実行方法。
  2. 前記詳細なデータセグメントは、前記ビデオ表示内に同時に表示される前記少なくとも1つのフレームに隣接するフレームが生成される、請求項1の方法。
  3. 前記詳細なデータセグメントは、ユーザにより選択される前記画像ストリームのセグメントが生成される、請求項1の方法。
  4. 前記縮小データセグメントは、前記ビデオ表示内に現時点で表示された前記フレームに隣接していないフレームが生成される、請求項1の方法。
  5. 前記動的プレビューバーは、前記画像ストリームから表示される現時点の画像に従って連続して更新される、請求項1の方法。
  6. 前記詳細なデータセグメントは、前記視覚ディスプレイ装置上で視覚的に拡大される、請求項1の方法。
  7. In−vivo撮像デバイスにより取り込まれた画像ストリームを表示するためのシステムであって、
    複数の画像フレームを備え、各フレームが複数のピクセルを備えた画像ストリームであって、in−vivoデバイスにより取り込まれた画像ストリームを受信し、かつ
    動的プレビューバーを生成し、前記動的プレビューバーは前記ビデオ表示内に現時点で表示された前記画像フレームに相関し、前記動的プレビューバーは、詳細なデータセグメントおよび短縮されたデータ部分を備え、かつ前記詳細なデータセグメントを前記ビデオ表示内に現時点で表示されたフレームおよび隣接するフレームを生成する、プロセッサと、
    前記画像ストリームのビデオ表示を表示し、少なくとも1つのフレームが各タイムスロット内に表示され、かつ前記フレームはそれらのフレーム取り込み時間に従って連続的に表示され、さらに前記画像ストリームの前記ビデオ表示に連動して前記動的プレビューバーを表示する、視覚ディスプレイ装置と、
    を備えるシステム。
  8. 前記プロセッサは、前記ビデオ表示内に同時に表示される前記少なくとも1つのフレームに隣接するフレームの前記詳細なデータセグメントを生成する、請求項7のシステム。
  9. 前記プロセッサは、前記画像ストリームから表示される現時点の画像に従って前記動的プレビューバーを連続的に更新する、請求項7のシステム。
  10. In−vivo撮像デバイスにより取り込まれた画像ストリームを表示するためのコンピュータ実行方法であって、前記方法は、
    複数の画像フレームを備え、各フレームが複数のピクセルを備えた画像ストリームであって、前記in−vivoデバイスにより取り込まれた画像ストリームを受信することと、
    前記要約データ要素を組み合わせて要約画像表示を形成すること、かつ
    前記要約画像表示を視覚ディスプレイ装置上に表示することとを、含み、
    前記フレームの少なくとも1つのサブセットでは、要約データ要素を生成し、各要約データ要素は、前記画像ストリームの少なくとも1つのフレームに対応し、
    前記要約データ要素を生成することは、
    第1のソートパラメータに従って1つまたは複数の画像フレームのピクセルを順序付けすること、
    前記順序付けされたピクセルは、所定のサンプリングスキームに従ってサンプリングされ、順序付けされたピクセルのサンプリングされたセットを取得すること、かつ
    前記順序付けされたピクセルのサンプリングされたセットのピクセルを組み合わせて要約データ要素を形成することを含む、コンピュータ実行方法。
  11. 要約データ要素の生成には、任意の所定の条件に従って各画像フレームからピクセルのサブセットが選択されることを含み、ピクセルの順序付けには、前記ピクセルのサブセットの順序付けを含む、請求項10の方法。
  12. 前記要約データ要素を組み合わせて要約画像表示の形成することには、前記要約データ要素を隣接して位置付けることを含む、請求項10の方法。
  13. 前記第1のソートパラメータは、前記画像フレームの管腔のくぼみを検出することに基づく、請求項10の方法。
  14. ピクセルは、R、G、B(赤、緑、青)色空間で表現され、かつ前記第1のソートパラメータは、R、Gおよび/またはB値の組み合わせに基づいてコンピュータで処理される、請求項10の方法。
  15. 任意の視覚ディスプレイ装置上で前記画像ストリームのビデオ表示が表示されることを含む方法であって、少なくとも1つのフレームは、各タイムスロット内に表示され、かつ前記フレームはそれらのフレーム取り込み時間に従って連続して表示され、前記要約画像表示は、前記画像ストリームの前記ビデオ表示に連動して表示される、請求項10の方法。
  16. 要約データ要素の生成は、第2のソートパラメータに従って1つまたは複数の画像フレームのピクセルの再順序付けが行われる、請求項10の方法。
  17. 請求項16の方法であって、
    前記ソートされたピクセルは、前記第1のソートパラメータに基づいて2セットに分けること、
    前記第1のセットは、前記第2のソートパラメータの降順に配列すること、かつ
    前記第2のセットは、前記ソートパラメータの昇順に配置すること、を含む方法。
  18. 前記要約データ要素が、ピクセルラインである、請求項10の方法。
  19. 前記フレームのサブセットとして、前記画像ストリームからの連続した画像フレームシーケンスが挙げられる、請求項10の方法。
  20. 画像特性または腸内事象は、前記プレビューバーに基づいて判定することを含む、請求項10の方法。
  21. In−vivo撮像デバイスにより取り込まれた画像ストリームを表示するためのシステムであって、前記システムは、
    複数の画像フレームを備え、各フレームが複数のピクセルを備えた画像ストリームであって、in−vivo装置により取り込まれた画像ストリームを受信し、
    前記要約データ要素を組み合わせて要約画像表示を形成する、プロセッサと、
    前記要約画像表示を表示する、視覚ディスプレイ装置と、
    を備え、
    前記フレームの少なくとも1つのサブセットについて、要約データ要素を構成するプレビューバーが生成され、各要約データ要素は、前記画像ストリームからの少なくとも1つのフレームに対応し、
    前記要約データ要素の生成することには、
    第1のソートパラメータに従って1つまたは複数の画像フレームのピクセルを順序付けすること、
    前記順序付けされたピクセルは、所定のサンプリングスキームに従ってサンプリングされ、順序付けされたピクセルのサンプリングされたサブセットを取得すること、かつ
    前記順序付けされたピクセルのサブセットのピクセルを組み合わせて要約データ要素を形成すること、
    を含む、システム。
JP2015519488A 2012-06-29 2013-06-27 画像ストリームを表示するシステムおよび方法 Active JP6342390B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261666142P 2012-06-29 2012-06-29
US61/666,142 2012-06-29
PCT/IL2013/050550 WO2014002096A2 (en) 2012-06-29 2013-06-27 System and method for displaying an image stream

Publications (3)

Publication Number Publication Date
JP2015528716A true JP2015528716A (ja) 2015-10-01
JP2015528716A5 JP2015528716A5 (ja) 2016-08-12
JP6342390B2 JP6342390B2 (ja) 2018-06-13

Family

ID=49783962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015519488A Active JP6342390B2 (ja) 2012-06-29 2013-06-27 画像ストリームを表示するシステムおよび方法

Country Status (5)

Country Link
US (1) US10405734B2 (ja)
EP (1) EP2868100B1 (ja)
JP (1) JP6342390B2 (ja)
CN (1) CN104350742B (ja)
WO (1) WO2014002096A2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2019235195A1 (ja) * 2018-06-04 2021-06-03 富士フイルム株式会社 画像処理装置、内視鏡システム、及び画像処理方法
JP2021098098A (ja) * 2016-09-23 2021-07-01 アンコン メディカル テクノロジーズ (シャンハイ) カンパニー リミテッドAnkon Medical Technologies (Shanghai) Co.,Ltd 磁気カプセルをナビゲートする方法

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140028820A1 (en) * 2012-07-24 2014-01-30 Capso Vision, Inc. System and Method for Display of Capsule Images and Associated Information
US10204411B2 (en) 2014-05-09 2019-02-12 Given Imaging Ltd. System and method for sequential image analysis of an in vivo image stream
WO2016084779A1 (ja) * 2014-11-27 2016-06-02 オリンパス株式会社 画像再生装置および画像再生プログラム
DE112015005733T5 (de) * 2015-01-23 2017-09-14 Olympus Corporation Bildverarbeitungsvorrichtung, Bildverarbeitungsverfahren und Bildverarbeitungsprogramm
US9942294B1 (en) * 2015-03-30 2018-04-10 Western Digital Technologies, Inc. Symmetric and continuous media stream from multiple sources
US10288410B2 (en) * 2016-11-10 2019-05-14 The Boeing Company Method and system for identifying wire contact insertion holes of a connector
JP6624046B2 (ja) * 2016-12-28 2019-12-25 京セラドキュメントソリューションズ株式会社 画像処理装置
CN107484019A (zh) * 2017-08-03 2017-12-15 乐蜜有限公司 一种视频文件的发布方法及装置
US10506921B1 (en) * 2018-10-11 2019-12-17 Capso Vision Inc Method and apparatus for travelled distance measuring by a capsule camera in the gastrointestinal tract
JP7373335B2 (ja) * 2019-09-18 2023-11-02 富士フイルム株式会社 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法、及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009008125A1 (ja) * 2007-07-12 2009-01-15 Olympus Medical Systems Corp. 画像処理装置、該動作方法及び該プログラム
JP2009508567A (ja) * 2005-09-15 2009-03-05 ギブン イメージング リミテッド データストリームを表示するシステムおよび方法
JP2010094185A (ja) * 2008-10-14 2010-04-30 Olympus Medical Systems Corp 画像表示装置

Family Cites Families (66)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3909792A (en) 1973-02-26 1975-09-30 American Optical Corp Electrocardiographic review system
JPS5519124A (en) 1978-07-27 1980-02-09 Olympus Optical Co Camera system for medical treatment
JPS5745833A (en) 1980-09-01 1982-03-16 Taeko Nakagawa Stomack camera
US5993378A (en) 1980-10-28 1999-11-30 Lemelson; Jerome H. Electro-optical instruments and methods for treating disease
US4936823A (en) 1988-05-04 1990-06-26 Triangle Research And Development Corp. Transendoscopic implant capsule
JPH04109927A (ja) 1990-08-31 1992-04-10 Toshiba Corp 電子内視鏡装置
JP2643596B2 (ja) 1990-11-29 1997-08-20 株式会社日立製作所 スカラ量分布表示方法
EP0526064B1 (en) 1991-08-02 1997-09-10 The Grass Valley Group, Inc. Video editing system operator interface for visualization and interactive control of video material
US5392072A (en) 1992-10-23 1995-02-21 International Business Machines Inc. Hybrid video compression system and method capable of software-only decompression in selected multimedia systems
JP3020376B2 (ja) 1993-03-26 2000-03-15 サージミヤワキ株式会社 動物用体内型個体識別器具
IL108352A (en) 1994-01-17 2000-02-29 Given Imaging Ltd In vivo video camera system
US6026182A (en) 1995-10-05 2000-02-15 Microsoft Corporation Feature segmentation
US6222547B1 (en) 1997-02-07 2001-04-24 California Institute Of Technology Monitoring and analysis of data in cyberspace
US6219837B1 (en) 1997-10-23 2001-04-17 International Business Machines Corporation Summary frames in video
US6240312B1 (en) 1997-10-23 2001-05-29 Robert R. Alfano Remote-controllable, micro-scale device for use in in vivo medical diagnosis and/or treatment
US6188403B1 (en) 1997-11-21 2001-02-13 Portola Dimensional Systems, Inc. User-friendly graphics generator using direct manipulation
IL122602A0 (en) 1997-12-15 1998-08-16 Tally Eitan Zeev Pearl And Co Energy management of a video capsule
US6097399A (en) 1998-01-16 2000-08-01 Honeywell Inc. Display of visual data utilizing data aggregation
US8636648B2 (en) 1999-03-01 2014-01-28 West View Research, Llc Endoscopic smart probe
EP1968067A1 (en) 1999-03-30 2008-09-10 Tivo, Inc. Multimedia program bookmarking system
IL134017A (en) 2000-01-13 2008-04-13 Capsule View Inc Camera for photography inside the intestines
US7039453B2 (en) 2000-02-08 2006-05-02 Tarun Mullick Miniature ingestible capsule
JP4619608B2 (ja) 2000-03-08 2011-01-26 ギブン イメージング リミテッド インビボ撮像のための装置およびシステム
US6709387B1 (en) 2000-05-15 2004-03-23 Given Imaging Ltd. System and method for controlling in vivo camera capture and display rate
IL143418A (en) 2000-05-31 2004-09-27 Given Imaging Ltd Measurement of electrical properties of tissue
FR2812293B1 (fr) 2000-07-28 2002-12-27 Rhodia Chimie Sa Procede de synthese de polymeres a blocs par polymerisation radicalaire controlee
WO2002021530A1 (en) 2000-09-08 2002-03-14 Koninklijke Philips Electronics N.V. Reproducing apparatus providing a colored slider bar
US20020042562A1 (en) 2000-09-27 2002-04-11 Gavriel Meron Immobilizable in vivo sensing device
US7119814B2 (en) 2001-05-18 2006-10-10 Given Imaging Ltd. System and method for annotation on a moving image
US7724928B2 (en) 2001-06-20 2010-05-25 Given Imaging, Ltd. Device, system and method for motility measurement and analysis
AU2002304266A1 (en) 2001-06-20 2003-01-02 Given Imaging Ltd. Motility analysis within a gastrointestinal tract
US7219034B2 (en) 2001-09-13 2007-05-15 Opnet Technologies, Inc. System and methods for display of time-series data distribution
US7505062B2 (en) 2002-02-12 2009-03-17 Given Imaging Ltd. System and method for displaying an image stream
US20040066398A1 (en) 2002-10-03 2004-04-08 Koninklijke Philips Electronics N.V System and method for removing, trimming and bookmarking images of an ultrasound image sequence
US20040184639A1 (en) 2003-02-19 2004-09-23 Linetech Industries, Inc. Method and apparatus for the automated inspection and grading of fabrics and fabric samples
US7557805B2 (en) 2003-04-01 2009-07-07 Battelle Memorial Institute Dynamic visualization of data streams
CN101288582A (zh) 2003-04-25 2008-10-22 奥林巴斯株式会社 图像显示装置和图像显示方法
JP4493386B2 (ja) 2003-04-25 2010-06-30 オリンパス株式会社 画像表示装置、画像表示方法および画像表示プログラム
JP3810381B2 (ja) 2003-04-25 2006-08-16 オリンパス株式会社 画像表示装置、画像表示方法および画像表示プログラム
US7215338B2 (en) * 2003-10-02 2007-05-08 Given Imaging Ltd. System and method for presentation of data streams
EP1790277B1 (en) * 2004-08-23 2018-11-21 Olympus Corporation Image display device and image display program
US7986337B2 (en) 2004-09-27 2011-07-26 Given Imaging Ltd. System and method for editing an image stream captured in vivo
JP2006288612A (ja) * 2005-04-08 2006-10-26 Olympus Corp 画像表示装置
EP1918870A4 (en) 2005-08-22 2012-05-02 Olympus Corp IMAGE DISPLAY DEVICE
JP2007058334A (ja) * 2005-08-22 2007-03-08 Olympus Corp ファイリング装置およびファイリングシステム
EP1938274A2 (en) * 2005-09-12 2008-07-02 D.V.P. Technologies Ltd. Medical image processing
US7567692B2 (en) 2005-09-30 2009-07-28 Given Imaging Ltd. System and method for detecting content in-vivo
US7896805B2 (en) 2005-11-23 2011-03-01 Given Imaging Ltd. In-vivo imaging device and optical system thereof
JP4823659B2 (ja) 2005-11-24 2011-11-24 オリンパスメディカルシステムズ株式会社 生体内画像表示装置
ES2405879T3 (es) 2006-03-13 2013-06-04 Given Imaging Ltd. Dispositivo, sistema y método para la detección automática de actividad contráctil en una trama de imagen
WO2007105214A2 (en) 2006-03-13 2007-09-20 Given Imaging Ltd. Cascade analysis for intestinal contraction detection
US8043209B2 (en) * 2006-06-13 2011-10-25 Given Imaging Ltd. System and method for transmitting the content of memory storage in an in-vivo sensing device
JP2008148835A (ja) 2006-12-15 2008-07-03 Hoya Corp 画像信号伝送システム、電子内視鏡、内視鏡プロセッサ
JP5403880B2 (ja) 2007-06-27 2014-01-29 オリンパスメディカルシステムズ株式会社 画像情報の表示処理装置
JP5226987B2 (ja) 2007-08-23 2013-07-03 コマツ産機株式会社 プレス機械
KR100868339B1 (ko) * 2007-11-15 2008-11-12 주식회사 인트로메딕 의료용 영상 데이터의 디스플레이 방법과 의료용 영상데이터를 이용한 캡쳐 영상 제공 시스템 및 그 방법
US20120162401A1 (en) * 2009-04-20 2012-06-28 Envisionier Medical Technologies, Inc. Imaging system
JP4741033B2 (ja) 2009-05-12 2011-08-03 オリンパスメディカルシステムズ株式会社 被検体内撮像システムおよび被検体内導入装置
US9341835B2 (en) * 2009-07-16 2016-05-17 The Research Foundation Of State University Of New York Virtual telemicroscope
EP2347695A4 (en) * 2009-07-29 2012-03-28 Olympus Medical Systems Corp PICTURE DISPLAY DEVICE, SYSTEM FOR SUPPORTING RADIOGRAPHIC INTERPRETATIONS AND PROGRAM FOR SUPPORTING RADIOGRAPHIC INTERPRETATIONS
US8446465B2 (en) * 2010-01-05 2013-05-21 Given Imaging Ltd. System and method for displaying an image stream captured in-vivo
JP5669416B2 (ja) 2010-03-23 2015-02-12 オリンパス株式会社 蛍光観察装置
KR101136009B1 (ko) * 2010-10-27 2012-04-17 아이쓰리시스템 주식회사 캡슐내시경용 이미지센서의 영상데이터 제어시스템
US20120113239A1 (en) * 2010-11-08 2012-05-10 Hagai Krupnik System and method for displaying an image stream
US8763914B2 (en) 2012-01-17 2014-07-01 On Track Innovations Ltd. Decoupled contactless bi-directional systems and methods
JP6215236B2 (ja) * 2012-01-31 2017-10-18 ギブン イメージング リミテッドGiven Imaging Ltd. 生体内画像ストリーム中の運動性事象を表示するためのシステムおよび方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009508567A (ja) * 2005-09-15 2009-03-05 ギブン イメージング リミテッド データストリームを表示するシステムおよび方法
WO2009008125A1 (ja) * 2007-07-12 2009-01-15 Olympus Medical Systems Corp. 画像処理装置、該動作方法及び該プログラム
JP2010094185A (ja) * 2008-10-14 2010-04-30 Olympus Medical Systems Corp 画像表示装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021098098A (ja) * 2016-09-23 2021-07-01 アンコン メディカル テクノロジーズ (シャンハイ) カンパニー リミテッドAnkon Medical Technologies (Shanghai) Co.,Ltd 磁気カプセルをナビゲートする方法
JP7437338B2 (ja) 2016-09-23 2024-02-22 アンコン メディカル テクノロジーズ (シャンハイ) カンパニー リミテッド 磁気カプセルをナビゲートする外部磁気制御システムの作動方法
JPWO2019235195A1 (ja) * 2018-06-04 2021-06-03 富士フイルム株式会社 画像処理装置、内視鏡システム、及び画像処理方法

Also Published As

Publication number Publication date
US10405734B2 (en) 2019-09-10
WO2014002096A3 (en) 2014-03-13
EP2868100B1 (en) 2019-01-30
JP6342390B2 (ja) 2018-06-13
WO2014002096A2 (en) 2014-01-03
EP2868100A4 (en) 2015-09-16
CN104350742A (zh) 2015-02-11
US20150320299A1 (en) 2015-11-12
EP2868100A2 (en) 2015-05-06
CN104350742B (zh) 2018-07-06

Similar Documents

Publication Publication Date Title
JP6342390B2 (ja) 画像ストリームを表示するシステムおよび方法
JP6215236B2 (ja) 生体内画像ストリーム中の運動性事象を表示するためのシステムおよび方法
JP4027409B2 (ja) データストリームを表示するためのシステム及び方法
US9060673B2 (en) System and method for displaying portions of in-vivo images
JP5087544B2 (ja) データストリームを表示するシステムおよび方法
JP2015509026A5 (ja)
US10204411B2 (en) System and method for sequential image analysis of an in vivo image stream
US20120113239A1 (en) System and method for displaying an image stream
JP5676063B1 (ja) 医療装置及び医療装置の作動方法
WO2015170321A1 (en) System and method for motility analysis of an in vivo image stream

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160624

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171024

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180516

R150 Certificate of patent or registration of utility model

Ref document number: 6342390

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250