JP2015509026A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2015509026A5 JP2015509026A5 JP2014555386A JP2014555386A JP2015509026A5 JP 2015509026 A5 JP2015509026 A5 JP 2015509026A5 JP 2014555386 A JP2014555386 A JP 2014555386A JP 2014555386 A JP2014555386 A JP 2014555386A JP 2015509026 A5 JP2015509026 A5 JP 2015509026A5
- Authority
- JP
- Japan
- Prior art keywords
- image
- motility
- bar
- display
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000004899 motility Effects 0.000 description 178
- 239000002775 capsule Substances 0.000 description 56
- 238000003384 imaging method Methods 0.000 description 48
- 230000000968 intestinal Effects 0.000 description 28
- 238000001727 in vivo Methods 0.000 description 27
- 210000001035 Gastrointestinal Tract Anatomy 0.000 description 24
- 230000003044 adaptive Effects 0.000 description 23
- 210000000813 small intestine Anatomy 0.000 description 22
- 210000001519 tissues Anatomy 0.000 description 18
- 210000000936 Intestines Anatomy 0.000 description 16
- 238000004458 analytical method Methods 0.000 description 16
- 238000000034 method Methods 0.000 description 15
- 230000003068 static Effects 0.000 description 12
- 230000000875 corresponding Effects 0.000 description 11
- 238000005429 turbidity Methods 0.000 description 9
- 238000001514 detection method Methods 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 6
- 210000002784 Stomach Anatomy 0.000 description 5
- 239000002131 composite material Substances 0.000 description 5
- 238000001839 endoscopy Methods 0.000 description 5
- 239000000203 mixture Substances 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 206010018987 Haemorrhage Diseases 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 4
- 230000000740 bleeding Effects 0.000 description 4
- 231100000319 bleeding Toxicity 0.000 description 4
- 230000037028 contraction frequency Effects 0.000 description 4
- 238000003745 diagnosis Methods 0.000 description 4
- 201000010099 disease Diseases 0.000 description 4
- 210000000056 organs Anatomy 0.000 description 4
- 230000005641 tunneling Effects 0.000 description 4
- 210000001072 Colon Anatomy 0.000 description 3
- 210000003736 Gastrointestinal Contents Anatomy 0.000 description 3
- 206010033799 Paralysis Diseases 0.000 description 3
- 238000005056 compaction Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000002572 peristaltic Effects 0.000 description 3
- 210000001198 Duodenum Anatomy 0.000 description 2
- 208000001187 Dyskinesias Diseases 0.000 description 2
- 210000003238 Esophagus Anatomy 0.000 description 2
- 210000003205 Muscles Anatomy 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000037020 contractile activity Effects 0.000 description 2
- 230000029087 digestion Effects 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000001788 irregular Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000006011 modification reaction Methods 0.000 description 2
- 230000001575 pathological Effects 0.000 description 2
- 230000033764 rhythmic process Effects 0.000 description 2
- 238000010187 selection method Methods 0.000 description 2
- 230000001702 transmitter Effects 0.000 description 2
- 210000004534 Cecum Anatomy 0.000 description 1
- 206010010904 Convulsion Diseases 0.000 description 1
- 241000565118 Cordylophora caspia Species 0.000 description 1
- 206010061173 Gastrointestinal motility disease Diseases 0.000 description 1
- 210000003767 Ileocecal Valve Anatomy 0.000 description 1
- 206010061529 Polyp Diseases 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000001058 adult Effects 0.000 description 1
- 210000003484 anatomy Anatomy 0.000 description 1
- 230000000386 athletic Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000003592 biomimetic Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000036461 convulsion Effects 0.000 description 1
- 230000002596 correlated Effects 0.000 description 1
- 238000010192 crystallographic characterization Methods 0.000 description 1
- 101700083764 cut-2 Proteins 0.000 description 1
- 230000001809 detectable Effects 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000001079 digestive Effects 0.000 description 1
- 230000004064 dysfunction Effects 0.000 description 1
- 230000002708 enhancing Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 239000006260 foam Substances 0.000 description 1
- 239000010794 food waste Substances 0.000 description 1
- 230000002496 gastric Effects 0.000 description 1
- 229910052500 inorganic mineral Inorganic materials 0.000 description 1
- 230000003871 intestinal function Effects 0.000 description 1
- 238000009114 investigational therapy Methods 0.000 description 1
- 210000002429 large intestine Anatomy 0.000 description 1
- 230000003902 lesions Effects 0.000 description 1
- 230000004301 light adaptation Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000011707 mineral Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 235000015097 nutrients Nutrition 0.000 description 1
- 230000003287 optical Effects 0.000 description 1
- 230000002085 persistent Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000004805 robotic Methods 0.000 description 1
- 230000028327 secretion Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
- 238000007794 visualization technique Methods 0.000 description 1
Images
Description
本発明は、生体内でキャプチャされた画像ストリームの画像処理のための方法およびシステムに関する。より詳細には、本発明は、消化管の画像ストリーム中の運動性事象を分析および表示するためのシステムおよび方法に関する。
小腸(small bowel、small intestineとも呼ばれる)は、消化(GI:gastrointestinal)管の一部であり、胃と大腸とを繋ぐ。成人の小腸の長さは変動し、状態により3メートルから8メートルであり得る。小腸の主な機能は、食物中に見られる栄養およびミネラルの消化および吸収である。そうするために、小腸は運動という生理学的メカニズムによって食物を押圧する。
腸運動は2つのカテゴリーに分けることができ、例えば、一方向に食物を移動させる責任を担う小腸壁の同期運動である蠕動運動、そして例えば、筋肉が実質的に互いに独立して収縮する小腸壁の非同期運動である独立した収縮であり、これは内容物を混合させる効果があり得るが、上下には動かない。
小腸が筋肉活動を調整する機能を失うと、腸運動の機能障害が現れ、異常な収縮活動を示す(例えば、痙攣または小腸の麻痺)。広義では、小腸の管への食物および分泌物の運搬における任意の代替案は運動性障害とみなされ得る。
現在、小腸の運動性障害を診断するための情報を収集するために、マノメトリーが使用されている。マノメトリー診断は、小腸の固定部分における腸壁圧の変化に基づく。しかしこの技術は、いくつかの欠点があり、例えば、侵入的であり、患者の不快感を引き起こす可能性があり、小腸の表示化を含まず、小腸の一部が評価されるに過ぎず、マノメトリー検査は、比較的複雑な過程であり得るので、その結果の解釈が困難となり得ることがある。
患者の身体内腔を撮像するために、嚥下可能なカプセルを含む生体内撮像システムによって行われるような生体内撮像法を使用することができる。撮像システムは、例えば、カプセルが消化(GI)内腔を通過する間、消化管の画像をキャプチャし、外部記録装置に転送することができる。カプセルは、例えば、毎秒1〜40フレームの可変フレームレートで画像をキャプチャすることができる。多数の画像、例えば、100,000〜300,000の画像を観るために撮像過程で収集することができ、これは1時間から8時間の間で行うことができ、リアルタイムで表示されおよび/または処理され得る。画像は、順番にまとめることができ、例えば、30〜120分の長さの画像ストリームまたは動画がユーザーに提示され得る。
患者のGI管の運動性事象または運動特性を表示するためのシステムおよび方法が、腸運動分析の向上および腸運動性障害を診断するのに役立つ可能性がある。
本発明の実施形態に係る、生体内撮像装置によってキャプチャされた画像ストリームにおける腸運動性事象を表示するための、コンピュータによって実施される方法が提供される。本方法は、生体内撮像装置によってキャプチャされた画像ストリームを受信するステップを含むことができる。画像ストリームは、それぞれのフレームが、アレイに配置された複数の画像ピクセルを含む画像フレームを有することができる。ピクセルのストリップが、例えば、画像ストリームの少なくとも1つのサブセットの画像の各画像から選択され得る。運動性事象バーを生成するために、選択されたストリップが、空間的配置で、例えば、隣接して整列されるかまたは配置されてもよい。いくつかの実施形態において、画像のサブセットは、画像ストリームから1つ以上の連続的な画像フレームのシーケンスを有することができる。
運動性事象バーは、コンピュータモニターまたはディスプレイまたは他の表示ディスプレイユニットに表示されてもよい。いくつかの実施形態において、ピクセルのストリップは、画像フレームから選択された、ピクセルの1つ以上のライン(例えば、直線ライン)を含むことができる。画像ストリームのビデオディスプレイは、例えば運動性事象バーと並べて表示されてもよい。
運動性バーを形成するために画像からピクセルのストリップを選択するための異なる方法が実施され得る。一実施形態において、各画像フレームの固定点が決定されてもよく、選択されたピクセルのストリップがその固定点を通過するように選択されてもよい。固定点は、例えば、画像フレームの中心であってもよい。いくつかの実施形態において、ピクセルストリップの選択は適応的であってもよく、選択のための一定の基準に依存してもよい。基準は、例えば、各画像の検出されたエリアもしくは特徴を含んでいてもよく、または画像の画像特性もしくはピクセル特性に基づいて一定の条件を含んでいてもよい。
ある例では、各画像フレーム(または画像ストリームからのサブセットの画像)において内腔孔が検出されてもよく、各画像フレームの検出された内腔孔を通過するピクセルのストリップが選択され得る。選択されたストリップが、例えば、生成された運動性事象バーにおける内腔孔の視界を最大化するために選択されてもよい。
他の例では、画像フレームの赤い(出血している)領域が検出されてもよく、ストリップは、例えば、検出された領域の中心を通過するため、または検出された領域を通過するピクセル量が、選択されたピクセルのストリップで最大となるように選択され得る。画像からのピクセルストリップの選択のための他の基準は、例えば、混濁した内容物、病状等を示す画像の領域の検出を含むことができる。1つ以上の基準が運動性事象バーの生成のためのピクセルストリップの選択を決定するために使用され得る。
いくつかの実施形態によれば、腸事象は、運動性事象バーに基づいて決定され得る。その事象は、例えば、プロセッサまたはプロセッサに含まれ得るまたは操作可能に接続され得る腸事象検出器によって自動的に決定されてもよい。検出された腸事象は、GI内腔の一定の状態、例えば、収縮、静的閉塞内腔シーケンス、トンネルシーケンスおよび混濁した内腔シーケンスを示す画像シーケンスを含むことができる。
本発明に係るシステムおよび方法の原理および作用は、図面、および以下の説明を参照し、さらに理解され得るが、これらの図面は、例示的な目的のために与えられるに過ぎず、限定を意味しているわけではない。
図示の簡素化および明確化のために、図において示す要素は必ずしも縮尺通りではないということが認識されるであろう。例えば、要素のいくつかの寸法および/または縦横比は、明確化のために他の要素に対して誇張され得る。さらに、適切であると考慮される場合、一連の図面を通して対応するまたは類似要素を示すために、参照符号が複数の図面で繰り返され得る。
以下の説明に、本発明の種々の態様が記載される。説明目的で、本発明の深い理解を与えるために、特定の構造および詳細が記載される。しかし、本発明は、本明細書において提示されるその特定の詳細無しで実施することができるということもまた当業者にとって明らかであろう。さらに、よく知られた特徴は、本発明を不明確にしないために省略され得るかまたは簡素化され得る。
特段の断りのない限り、以下の説明から明らかであるように、明細書全体を通して「処理する(processing)」、「演算する(computing)」、「記憶する(storing)」、「決定する(determining)」などの、またはそのような用語を用いる説明は、コンピュータまたはコンピューティングシステムの動作および/または処理、またはコンピューティングシステムのレジスタおよび/またはメモリ内の電子量などの物理量として示されるデータを、コンピューティングシステムのメモリ、レジスタ、またはその他のそのような情報記憶、転送または表示装置内の物理量として同様に表示されるその他のデータに操作および/変換する類似の電子コンピューティング装置を示すということが認識されよう。
本発明の実施形態と使用するのに最適である記憶および/または表示ユニットを撮像するステップ、受信するステップ、処理するステップを含む本発明の実施形態に係る装置は、それぞれが本出願の共通の譲受人に譲渡されている「System and Method for Editing an Image Stream Captured In−Vivo(生体内のキャプチャされた画像ストリームを編集するためのシステムおよび方法)」と題された、米国特許出願公開番号2006/0074275、Iddanらに付与された、「Device for In−vivo Imaging(生体内撮像のための装置)」と題された、米国特許第7,009,634号、および/または「Method of Assembling an In−Vivo Imaging Device(生体内撮像装置を組み立てる方法)」と題された、米国特許出願公開番号2007/0118012、に記載されている実施形態と同様であってもよい。生体内撮像カプセルによってキャプチャされる画像比較に基づいてGI管内の運動を分析する方法は、例えば、例えば、Glukhovskyらに付与された、米国特許第6,944,316号に開示されている。Hornらに付与された、米国特許第7,215,338号は、生体内でキャプチャされたデータストリームの要約化されたグラフィック表示を作成するためのシステムおよび方法を開示している。グラフィック表示は、カラーバーの形式でもよい。言うまでもなく、本明細書に記載の装置および方法は、他の構造および他のコンポーネントセットを有してもよい。本発明のいくつかの実施形態に係る装置、システムおよび方法は、市販のPillCam(登録商標)SB2またはPillCam(登録商標)ColonカプセルおよびGiven Imaging,Ltd.によって提供された関連するデータレコーダーおよびRAPID(登録商標)ワークステーションと同様であってもよい。
患者によって嚥下され得る生体内撮像カプセルは、GI管に沿って受動的に進み得るが、これは腸組織壁を動かす蠕動収縮に起因する。その移動中で、カプセルは、食道、胃、小腸および結腸などの異なるGI器官を通過する。小腸組織壁の比較的狭いトンネル構造により、カプセルが小腸を移動する間、カプセルはトンネルの方向に平行な位置を維持し得る。撮像カプセル長さ方向の軸(例えば、図3Aの軸Xのような、カプセルの長さ寸法を通る軸)は、一般に、小腸でカプセルが進行する方向に対して平行に留まり得る。カプセルの撮像システムは、概して前および/または後ろ向きの位置で撮像を実行するように、内腔の開閉の撮像が、確りと定期的にキャプチャされるように、カプセルの縦方向両端の少なくとも1つに配置され得る。各画像をキャプチャする時間の記録と組み合わせて、内腔孔の開閉をキャプチャする画像データは、小腸の運動性事象、または蠕動運動の種類および頻度の分析、表示および/または計算を可能にし得る。本発明の実施形態は、運動関連情報を効率的に分析し易い方法で医療専門家へ表示することを可能にし得る。
図3Aを参照し、この図は身体内腔内で可能なカメラの動きを示している。生体内画像ストリームを利用して腸運動を分析するために、腸事象の複雑な様子、腸事象の複雑な解釈および多数の画像などの異なる特徴が考察され得る。
腸事象の複雑な様子は、生体内のカメラの動きに起因し得る。カメラは腸内で前に(口から肛門への方向において、例えば、「シンク(sink)」として示される方向301)、後に(肛門から口への方向において、例えば、「ソース(source)」として示される方向302)、およびX、Y、Zで示される3つ全ての回転軸に対して自由に動くことができる。小腸の運動活動および重力によって、(小腸の始まりすなわちソースから、小腸の終わり、すなわちシンクまで)カプセルが小腸を移動する。これらのことは、2つの因子のみがカプセルの動き、速度および方向をコントロールするものであってもよい。一般に、カプセルはシンクに前に移動するが、ある期間にわたって、カプセルは後ろに移動することも可能である。したがって、カプセルの正確な位置または向きを特定することは非常に困難であり得る。
図3Bを参照し、この図は撮像カプセルによってキャプチャされ得る複数種類の生体内画像を含む。画像は、内腔孔(画像330、331、333、334で示されるような完全な内腔孔)または内腔孔の一部のみ(例えば、画像332、335に示されるような)を示すことができる。いくつかの画像において、腸壁が示され得るが、例えば、336、337である。さらに、カプセルの視野はしばしば、腸の内容物(腸液、泡および消化中の食物、例えば、例示的な画像338〜341に示されるような)によって、部分的にまたは完全に閉塞され得る。
本発明の実施形態によれば、腸組織壁の動きの画像は、腸事象の異なるカテゴリーを示すものに区分され得る。いくつかの実施形態において、腸事象は、いくつかの連続的な画像フレームのシーケンスを通して検出され得る。以下のカテゴリーは、腸事象の例である。
(1)「収縮」−腸壁および/または内腔の動き
(2)「静的閉内腔」−麻痺したまたは実質的に動きのない閉じた内腔孔を有する腸
(3)「トンネル」−麻痺したまたは実質的に動きのない開いた内腔を有する腸、および
(4)「混濁内腔」−腸の内容物によって閉塞している内腔孔および/または壁
(1)「収縮」−腸壁および/または内腔の動き
(2)「静的閉内腔」−麻痺したまたは実質的に動きのない閉じた内腔孔を有する腸
(3)「トンネル」−麻痺したまたは実質的に動きのない開いた内腔を有する腸、および
(4)「混濁内腔」−腸の内容物によって閉塞している内腔孔および/または壁
その他のカテゴリーが付加的または代替として適用され得る。
多大な量の画像データを得ることは、生理学的事象の詳細な分析を可能とし得る。しかし、多大な量のデータは、長時間のビデオ表示化を必要とし得るので、医師による検査の診断結果に比較的長い時間がかかり得る。腸運動の特定事象の検出および特徴化は、Vu,H.,Echigo,T.らの「Contraction detection in small bowel from an image sequence of wireless capsule endoscopy」(MICCAI’07会報;vol.1 2007,p.775−783)、Vu,H.,Echigo,T.,Sagawa,R.,Yagi,K.,Shiba,M.,Higuchi,K.らの「Detection of contractions in adaptive transit time of the small bowel from wireless capsule endoscopy videos」(Comput Biol Med 2009;39:16−26)、およびVilarino,F.,Spyridonos,P.,Deiorio,F.,Vitria,J.,Azpiroz,F.,Radeva,P.の「Intestinal motility assessment with video capsule endoscopy:automatic annotation of phasic intestinal contractions」(IEEE Trans Med Imaging 2010;29(2):246−59)の腸収縮検出などの腸運動の領域において知られている。
Malagelada,C.,De Iorio,F.,Azpiroz,F.,Accarino,A.,Segui,S.,Radeva,P.らの「New insight into intestinal motor function via noninvasive endoluminal image analysis」(Gastroenterology 2008;135(4):1155−62)およびMalagelada,C.,Lorio,F.D.,Segui,S.,Mendez,S.,Drozdzal,M.,Vitria,J.らの「Functional gut disorders or disordered gut function? small bowel dysmotility evidenced by an original technique」(Neurogastroenterology & Motility 2011)において、筆者らは、ワイヤレスカプセル内視鏡画像から運動の評価にアプローチしている。どちらの方法も、初めに、撮像カプセルビデオからいくつかの運動記述子(各記述子は、特定の腸事象を表す)を抽出し、次に、抽出された特徴を組み合わせて小腸運動の結論を下す。しかし、どちらの方法も、多次元および非直線分類子を利用するので、医師による結果の解釈が複雑であり得る。さらに、小腸内で何が起こっているかということの明確な表示または知覚を得るのが困難であり得る。
生体内画像ストリーム表示化の技術に関し、例えば、同様のフレームの消去またはコンパクト化をもたらすビデオコンパクションへの取り組みに重点が置かれている。例えば、Vu,H.,Sagawa,R.,Yagi,Y.,Echigo,T.,Shiba,M.,Higuchi,K.らの「Evaluating the control of the adaptive display rate for video capsule endoscopy diagnosis」(2008 IEEE International Conference on Robotics and Biomimetics IEEE Computer Society会報.ISBN 978−1−4244−2678−2;2009,p.74−79)、Hai,V.,Echigo,T.,その他、の「Adaptive control of video display for diagnostic assistance by analysis of capsule endoscopic images」(ICPR’06会報;vol.III.2006,p.980−983)およびYagi,Y.,Vu,H.らの「A diagnosis support system for capsule endoscopy」(Inflammopharmacology 2007;5(2):78−83)において。
例えば、Szczypinski,P.M.,Sriram,R.D.,Sriram,P.V.,Reddy,D.N.の「A model of deformable rings for interpretation of wireless capsule endoscopic videos」(Medical Image Analysis 2009;13(2):312−324)に開示されるように、その他の方法は、捕捉ステップで可変サンプリングレートを適用する。この開示において、提案されるビデオ表示化は、フレームの中央部(内腔孔)を取り除き、壁表示化に重点を置く。結果として、内腔情報の存在は、ビデオ表示化で考慮されない。ビデオコンパクションは、カプセルが動かないシーケンスを示すビデオのフレームの消去によって、医療専門家のレビュー過程を低減することを可能にする。
本発明の実施形態は、GI内腔でキャプチャされた画像フレームから抽出されたデータの分析および処理に基づき、運動データを表示するためのシステムおよび方法を記載する。各画像フレームは、二次元アレイのピクセルとして表示することができ、例えば、一定の高さおよび一定の幅(例えば、320×320ピクセル)の矩形または四角のピクセルアレイである。各ピクセルは、1以上のビットの情報から構成することができ、画像の輝度をポイントで表し、RGBトリプルとしてエンコードされ得る色情報を含む可能性がある。
画像データの分析および処理は、処理装置によって、ユーザーの介入なしで自動的に実行され得る。例えば、運動性事象バー、ウィンドウまたは例えば画像ストリップ、カットもしくはスライスを含む表示を利用する運動データの表示が、例えば、1つ以上のプロセッサ、ワークステーション、電気回路、検出器または任意のその他のコンピューティング装置によって実行されてもよい。本発明のいくつかの実施形態によれば、1つ以上の運動表示ウィンドウまたはバーは診断のために医療専門家に表示されてもよい。
図1Aを参照し、この図は本発明の一実施形態に係る生体内撮像システムの概略図を示す。例示的な一実施形態において、システムは、画像をキャプチャするための1つ以上の撮像器46を有する画像カプセル40と、身体内腔を照射するための1つ以上の照明光源42と、画像および場合により他の情報を受信装置に転送する送信器41と、を含む。一般に、画像キャプチャ装置は、Iddanらに付与された米国特許第7,009,634および/またはGiladの米国特許出願公開第US−2007−0118012号に記載の実施形態に対応していてもよいが、代替実施形態においては他の種類の画像キャプチャ装置であってもよい。撮像器システムによってキャプチャされた画像は、例えば、円形、四角形、矩形、八角形、六角形などを含む任意の適切な形状であってよい。一般に、患者の体の外に1つ以上の位置に位置するのは、受像器12であり、一般にアンテナまたはアンテナアレイと、受像器記憶装置16と、データプロセッサ14と、データプロセッサ記憶装置19と、特に、カプセル40によって記録された画像を表示するための画像モニターまたはディスプレイもしくは表示化ディスプレイユニット18とを含む。一般に、データプロセッサ記憶装置19は、画像データベース21を含む。
一般に、データプロセッサ14、データプロセッサ記憶装置19、およびモニター18は、パーソナルコンピュータまたはワークステーション11の一部であり、プロセッサ14、メモリ、ディスクドライブ、およびマウスおよびキーボードなどの入出力装置などの標準的な構成要素を含むが、代替構成が可能である。データプロセッサ14は、マイクロプロセッサ、マルチプロセッサ、アクセラレータボード、または任意のその他のシリアルまたは並列高性能データプロセッサなどの任意の標準データプロセッサを含むことができる。その機能の一部であるデータプロセッサ14は、画像の表示(例えば、どの画像、様々なウィンドウ間の画像の位置、画像の表示のタイミングまたは長さなど)をコントロールするコントローラとして機能することができる。画像モニター18は、一般に従来のビデオディスプレイであるが、さらに、画像またはその他のデータを提供することができる任意のその他の装置であってもよい。画像モニター18は、一般に、静止および動的写真、運動データの形式で画像データを表示し、さらにその他の情報を表示することもできる。例示的な実施形態において、種々のカテゴリーの情報がウィンドウに表示される。ウィンドウは、例えば、ディスプレイまたはモニター上のセクションまたは領域(場合により、線引きまたは囲まれた)であってもよく、その他のウィンドウが使用されてもよい。複数のモニターは、画像、運動特性、運動性事象および、その他のデータを表示するために使用することができ、例えば、画像モニターは受像器12に含むこともできる。
動作時に、撮像器46は画像をキャプチャし、その画像を表すデータを、例えば電磁波を使用する受像器12へ画像を転送する送信器41に送信することができる。受像器12は、画像データを受像器記憶装置16へ転送する。一定期間のデータ収集の後、記憶装置16に収容された画像データは、データプロセッサ14またはデータプロセッサ記憶装置19へ送信され得る。例えば、受像器12または受像器記憶装置16は、患者の体から外すことができ、データプロセッサ14およびデータプロセッサ記憶装置19を含むパーソナルコンピュータまたはワークステーションに、標準データリンク、例えばシリアル、並列、USBまたは知られた構成のワイヤレスインターフェースを介して接続することができる。続いて、画像データは、受像器記憶装置16からデータプロセッサ記憶装置19内の画像データベース21へ転送される。一般に、画像ストリームは一連の画像として画像データベース21に収容されるが、これは様々な知られた方法で実施することができる。データプロセッサ14は、データを分析し、その分析されたデータを、ユーザーが画像データを観る画像モニター18に提供する。例えば、データプロセッサ14、または他のデータプロセッサ(例えば受像器12)は、画像を処理し、本発明の実施形態に係る運動性バーを作成する。データプロセッサ14は、オペレーティングシステムおよび装置ドライバなどの基本的なオペレーティングソフトウェアと協働し、データプロセッサ14のオペレーションをコントロールするソフトウェアを作動させる。一般に、データプロセッサ14をコントロールするソフトウェアはC++言語で記述されたコードを含み、マイクロソフトのNETプラットフォーム(Microsoft社のNET platform)などの種々の開発プラットフォームを利用して実施され得るが、これは様々な知られた方法で実施され得る。
カプセル40によって記録され、転送された画像データは、デジタルカラー画像データであってよいが、代替実施形態において、その他の画像フォーマットが使用されてもよい。例示的な実施形態において、画像データの各フレームは、それぞれ320ピクセルの320行(例えば、320行×320列)を含み、各ピクセルは、知られた方法による、色および輝度のバイトを有する。例えば、各撮像器ピクセルは、赤、緑、または青などの単一原色に対応し得る色センサーを含むことができる。全体のピクセルの輝度は、1バイト(すなわち0〜255)の輝度値で記録され得る。画像は、例えば連続してデータプロセッサ記憶装置19に収容することができる。収容されたデータは、1つ以上のピクセル特性から構成され、色および輝度を含む。その他の画像フォーマットが使用されてもよい。
データプロセッサ記憶装置19は、カプセル40によって記録された一連の画像を収容することができる。カプセル40が記録する画像は、例えば、それが患者のGI管を通して移動するので、連続して結合され画像ストリームとして表示可能な一連の画像を形成することができる。画像ストリームを観るとき、ユーザーには通常モニター18に1つ以上のウィンドウが提供されるが、代替の実施形態において、複数のウィンドウは使用される必要がなく、画像ストリームのみが表示されてもよい。複数のウィンドウが提供される一実施形態において、例えば画像ウィンドウは、画像ストリームまたはその画像の静止部分を提供することができる。他のウィンドウは、画像の表示、これは例えば、停止、再生、一時停止、画像を捕捉、ステップ、早送り、巻き戻し、またはその他のコントロールなど、を変更することができるボタンまたはその他のコントロールを含むことができる。そのようなコントロールは、例えば、マウスまたはトラックボールなどのポインティング装置によって起動される。一般に、画像ストリームは1つのフレームを観るために停止し、早送りし、または巻き戻すことができるが、セクションは飛ばすことができ、または画像を観るための任意のその他の方法が画像ストリームに適用され得る。
データプロセッサ14は、運動性表示生成装置24を含んでもよいが、運動性表示生成装置24に操作可能に接続されてもよい。例えば、プロセッサ14はソフトウェアまたは命令を実行し本発明の実施形態に係る方法を行うことができるが、これは運動性表示生成装置24の機能を含んでいる。運動性表示生成装置24は、キャプチャされた一連の画像からの画像を処理することができ、GUIの運動セクションで表示するための画像の表示特性または部分を得ることができる。運動性表示生成装置24は、画像ストリームの画像から選択されたカットに基づき運動性事象バーを作成することができる。
運動性事象バーを生成するために、画像ストリームからの一連の画像が運動性表示生成装置24に提供され得る。一連の画像は、例えば、撮像装置によってキャプチャされた全ての画像を含むことができる。いくつかの実施形態において、サブセットの画像は、運動性事象バーの生成のために使用されてもよい。サブセットの画像は、例えば、異なる選択基準により選択することができる。
一例において、運動性事象バーを生成するために使用されるサブセットの画像は、例えば、十二指腸、回盲弁、Z−ライン(胃への入口を示す)などの画像ストリームにおいて特定され得る特定の解剖学的ランドマーク間でキャプチャされた画像を含むことができる。2つの解剖学的ランドマークは選択されてもよく(例えば、システム内で事前に定義されてもよく、またはユーザーによって選択されてもよい)初めにキャプチャされた選択された解剖学的ランドマークから後にキャプチャされた選択された解剖学的ランドマークへカプセルが移動した時間にキャプチャされた全ての画像は運動性事象バーの生成に含まれてもよい。他の例において、画像は、例えば、短縮された動画を作成するための生体内画像ストリームの編集方法を開示するDavidsonらに付与された米国特許第7,986,337号に記載された方法と同様に、事前に決定された基準により選択されてもよい。
運動性事象は、短縮された動画の選択された画像に基づいて生成されてもよい。しかし他の例で、画像は、例えば隣接する画像間の類似性に基づいて、マージされるかまたは結合されてもよく、運動性事象バーは、結合またはマージされた画像のサブセットに基づいて生成されてもよい。その他の画像選択方法が、画像のサブセットを決定するために使用されてもよい。いくつかの実施形態において、運動性事象バーの生成に使用され得る画像のサブセットを作成するために、異なる画像選択方法が組み合わされてもよい。
運動性事象は、短縮された動画の選択された画像に基づいて生成されてもよい。しかし他の例で、画像は、例えば隣接する画像間の類似性に基づいて、マージされるかまたは結合されてもよく、運動性事象バーは、結合またはマージされた画像のサブセットに基づいて生成されてもよい。その他の画像選択方法が、画像のサブセットを決定するために使用されてもよい。いくつかの実施形態において、運動性事象バーの生成に使用され得る画像のサブセットを作成するために、異なる画像選択方法が組み合わされてもよい。
いくつかの実施形態において、運動性バーはGI管の選択された部分のために生成され得る。例えば、運動性事象バーは、選択された臓器(食道、小腸、結腸、胃など)のために、または完全な画像処理からの選択された時間の長さ(例えば初めの2時間)のために生成され得る。本発明の実施形態によれば、運動性事象または運動特性は画像ストリームからの画像に基づいて選択され得るが、例えば、選択する画像フレームまたは画像シーケンス(例えば、画像ストリームからの一連のシーケンス画像フレームであり、これは例えば画像ストリームから選択された複数の連続的なフレームを含み得る)である。
運動性表示生成装置24は、例えば、一連の画像(例えば、完全な画像ストリームまたは短縮された画像ストリームにおける各画像)の各画像から「ストリップ」を選択することができる。本明細書において使用される画像の「ストリップ」は、カット、ピクセルラインまたは画像からのピクセルのスライス、例えば1ラインに配置された1つ以上の隣接するピクセル、または画像から得てもよくまたはコピーされてもよい1つ以上のピクセルのラインを含むことができる。ストリップは、例えば、画像フレームからの1つ以上のピクセルのラインを含むことができる。ストリップは、異なる基準によって選択されてもよい。例えば、ストリップは「固定された」ストリップでもよく、例えば、画像ピクセルの一部分であって、その部分は固定されたサイズであり、画像の事前に定義された固定位置から選択される。予め決定されたピクセルの列または予め決定されたピクセルの行は、固定されたストリップであり得る。例えば、図5のライン530は、固定ラインの一例であり、例えば、画像のシリーズ501からの各画像において常に同じ座標を通っている。いくつかの実施形態において、ストリップは、「適応的な」ストリップであってもよく、例えば、各画像の異なる位置または部分から選択される。画像フレームから選択された各ストリップは、異なる長さおよび/または幅を有することができ、または画像毎に固定されたサイズを有することができる。
一般に、ストリップは選択され、例えば、画像の一方側から他方側へ画像を横切ることができる。例えば、丸い画像では、画像の円周上の2つの点が選択されてもよく、それらの点を繋ぐラインは選択されたストリップであってもよい。他の例では、ラインは画像の事前に定義された点を、事前に決定された(例えば、固定された)角度(これは、例えば画像の選択されたラインと固定された垂直な軸の間で測定され得る)または画像ピクセル特性に基づいて決定され得る変化する角度のいずれかで通ることができる。ストリップの端部は画像の境界または運動性事象バー生成のために使用され得る画像の事前に決定された領域の境界に対応し得る。例えば、対象の領域は、画像ストリームのために、撮像システムの知られた光学特性および/または照明特性に基づき、各画像から選択される固定テンプレートまたはマスクとして定義することができる。
ピクセルストライプの選択のための異なる基準はユーザーによって選択されてもよく(または、例えば、記憶装置またはプロセッサで事前に定義されてもよく)、運動性事象バーを生成するために使用されてもよい。いくつかの実施形態において、内腔サイズ最大化は、画像から特定のピクセルのストリップを選択するための基準であり得る。例えば、内腔孔領域は、画像の異なる位置において現れ得るので、各画像の中心にはないことがある。ストリップを選択するための異なる方法は、各画像の選択されたピクセルのストリップにおいて異なる量の内腔孔が示される結果となり得る。一実施形態によれば、ストリップは、内腔孔の出現を最大化するために選択され得るので、これにより生成された運動性事象バーにおいて内腔孔の出現を最大化する。
同様に、GI画像において検出することができ、および観ている医師の対象であるその他の特徴は、運動性事象バーを生成するための基準として選択され得る。例えば、画像の赤いエリアは出血を示し、混濁したエリアは画像ストリームで混濁した内容物の量の指標を提供することができる。その他の病理学的、解剖学的または医療的に対象となる組織表示が定義され得る。画像の定義された対象領域のそれぞれ(例えば、赤または出血エリアを示す領域、混濁した内容物を含む領域、内腔孔の領域、検出された病状の領域など)に関して、選択基準が事前に定義され得る。
選択基準は、画像からピクセルストリップを選択する過程で、最大化または最適化することができる。異なる選択された基準は、運動性事象バーを生成するために組み合わされてもよく、異なる運動性事象バーが異なる選択されたサブセットの基準に基づいて生成されてもよい(および、例えば、並列または互いと並べて表示される)。運動性事象バーは、特定の(選択されたまたは事前に定義された)1組の基準により、ユーザーリクエスト毎に生成され得る。
ストリップは、事前に定義された点を通るために選択され得る(またはされ得ない)。いくつかの実施形態において、ストリップは、画像の中心点を通り得る。他の実施形態において、事前に定義された特徴は、各画像で検出することができ、ストリップはその検出された特徴を通るために選択され得る。例えば、内腔孔は画像において検出されてもよく、ストリップは検出された内腔孔の中心を通るために選択されてもよく、または選択されたストリップにおいて内腔の長さが最大化され得るように選択されてもよい。他の例では、予め定義された特徴は、画像で示された病状であり得るが、例えばこれは病変またはポリープである。いくつかの実施形態において、ユーザーは、運動性事象バーを作成するためにどのタイプのストリップが画像から選択されるかを選ぶことができる。
異なるタイプのストリップの組み合わせが、例えば画像ストリームの異なる部分から選択され得る。いくつかの実施形態において、複数の運動性事象バーが、異なるストリップ選択基準および/または運動性事象バーを生成するために使用される画像フレームの異なるサブセットに基づいて作成され得る。データプロセッサ14は、運動性事象バーを生成するためにグラフィックソフトウェアまたはハードウェアを有するかまたは実行することができる。運動性事象バーは、例えばカットを互いに隣接して配置することによって、例えば縦方向の運動性事象バーまたはウィンドウ内で、選択されたカットに基づき、生成され得る。
運動性事象バーを作成するカット(またはストリップ)は、画像ストリームの一連の連続的なフレームのそれぞれのフレームから1つ以上のピクセルのラインをカットまたはコピーすることによって生成され得る。運動性表示生成装置24は、例えば、運動性事象バーまたは表示を形成するために選択されたストリップまたはピクセルライン(一般に、ストリップまたはピクセルラインのコピー)を隣接して並べるまたは配置することができる。
ストリップは、1つ以上のピクセルの一定のピクセル長および幅のものであってよい。いくつかの実施形態において、ストリップは固定された長さおよび幅のものであり、他の実施形態では、選択されたストリップの長さおよび/または幅は、変化してもよい(例えば、カットのタイプに基づいて)。選択されたストリップの長さおよび/または幅は、例えば、運動性事象バー(例えば、矩形バー)を形成するために、事前に定義された長さおよび/または幅に調整またはサイズ変更され得る。調整は、事前に定義されたサイズにストリップを引き伸ばすかまたは縮小することによって実行され得る(例えば、当業者に知られた内挿および/または外挿法を適用する)。バーは、運動性事象のより明確な表示を得るため、さらにフィルタリング、例えば平滑化、され得る。
運動性事象バーは、撮像過程の間に発生した運動性事象の表示化のため、および/または撮像された内腔の運動特性(例えば、異常な運動を示し得る)の決定のために使用され得る。いくつかの実施形態によれば、運動性事象バーは、表示される必要がなく、運動性事象の自動分析のために使用されてもよい(例えば、プロセッサによって)。例えば、事象は、生成された運動性事象バーによって決定することができ、撮像過程に沿った事象タイプの指標またはラベリングがユーザーに表示され得る(例えば、運動性表示生成装置24によって)。
運動性表示生成装置24および本明細書において記載の他のモジュールまたは過程は、プロセッサ14またはソフトウェアを実行する他のプロセッサによって実行され得るので、いくつかの実施形態においてプロセッサ14は運動性表示生成装置24または本明細書に記載のその他のコンポーネントまたはモジュールを含むことができる。他の方法が適用されてもよく、例えば運動性表示生成装置24は専用のハードウェアまたは電気回路であってもよい。
任意で、運動性表示生成装置24は、運動性事象を検出することができる。運動性事象は、一定のパターンまたは画像ストリームからの1シーケンスの連続的な画像において示され得る特定の運動関連特性を有し得る画像のシーケンスに関連してよい。例えば、腸事象は、腸収縮に含まれてもよく、これは開−閉−開の内腔孔のパターンを示す1シーケンスの画像として検出され得る。他の例では、腸事象は、静的内腔壁(例えば、開トンネルシーケンスと称され得る開内腔孔の繰り返された撮像)または閉内腔孔の周期を含むことができる。他のタイプの腸事象は、混濁または閉塞内腔の開きである。事象のその他のタイプまたはカテゴリーは、画像ストリームの画像を利用して検出され得る。
腸(例えば、運動)事象は、画像ストリームからの一連の連続的な画像に基づき検出することができ、運動性事象バーまたはウィンドウは、検出された運動性事象により生成することができる。本発明の実施形態によれば、ビデオ表示の定義されたシーケンスの表示検出は、運動性事象バーの運動性事象に相関があり得る。例えば、図10A−10Hで示されるように、異なるタイプの運動性バー表示は、検出された運動性事象に基づき生成され得る。
図1Bを参照し、この図は生体内装置によってキャプチャされた生体内画像ストリームの運動分析および表示のための例示的なグラフィックユーザーインターフェース(GUI:Graphic User Interface)の概略図である。GUIは、本発明の一実施形態に係る図1Aのモニター18のようなモニターに表示され得る一連の編集ツールを含むことができる。1つ以上の画像ウィンドウ2001は、画像ストリームの画像、例えば画像ストリームのビデオ表示、を表示することができるが、これは選択されたサブセットの画像、またはオリジナル(例えば、撮像装置40によってキャプチャされるような)画像ストリームを含む縮小された画像ストリームであり得る。いくつかの実施形態において、画像は一連の縮小サイズ画像、例えばサムネイルまたはより大きな画像、として表示されてもよく、必ずしも画像ストリームとしてではない。
コントロール2014は、1つ以上のウィンドウ2001において画像ストリームの表示を変更することができる。コントロール2014は、例えば、停止、再生、一時停止、画像を捕捉、ステップ、早送り、巻き戻し、またはウィンドウ2001の画像ストリームを停止、早送り、または巻き戻しをするためのその他のコントロールを含むことができる。ユーザーは、入力装置(例えば、キーボードおよび/またはマウスなどの図1Aの入力装置22)を使用してコントロール2014を操作することができる。
一実施形態において、特定の基準に関連し得る画像ストリームからの画像のストリップ、部分、スライスまたはカットは、例えば、運動性事象バーまたはディスプレイ2080に示されるような画像ストリームで検出され得る運動性事象の視覚表示で要約または示すことができ、ユーザーに表示することができる。組み合わされたストリップまたはカットは撮像過程で発生した運動性事象の指標を提供することができ、運動性バーの生成またはその他の表示は、患者のGI管の撮像過程で発生した運動性事象の分析を簡素化または補助することができる。
カーソル2081は、運動性事象バー2080上に配置されてもよく、画像ウィンドウ2001における運動性事象バーと現在表示されている画像の相関性を観覧者に表示することができる。例えば、ウィンドウ2001に表示された画像フレームから得たピクセルのストリップは、カーソル2081によって示され得る。いくつかの実施形態において、画像フレームのキャプチャされた時間は、カーソル2081によって示すことができ、運動性事象バーは、例えば、時間および組織色バー2051と並べて配置され得る。いくつかの実施形態によれば、運動性事象バー2080は、例えば、異なるスクリーンで、画像ストリームウィンドウ2001に平行ではなく別途表示することができるが、そうでなければユーザーリクエストによる。
編集/作成コントロール2009は、例えば、選択のための複数の可能な基準(例えばタブ、チェックボックス、または特定の基準を示すマーカーをクリックすることによって)の1つのリストから運動性事象バー2080の生成のための基準のユーザー選択を可能にするために提供することができる。例えば、ユーザーは、運動性事象バーを作成するために使用されるであろうGI管の区画を選択することができるか、または異なるタイプの運動性事象バー生成基準(例えば、生成されたバーにおける内腔孔の最大化、および/またはその他の予め定義された特徴の最大化)を選択することができる。ピクセルストリップの選択は、ユーザーによって、例えば、生成された運動性事象バーを決定するパラメーターの選択を可能にすることによって、(例えば、図10Aおよび10Bに示され、本明細書に詳細に記載されるように)例えば固定されたカット表示および/または適応的なカット表示を選択することによって影響されることもあり得る。
運動性事象の高さ2082は、サイズ(例えば、ストリップの長さ)を決定することができる。高さ2082は、事前に定義されたサイズに設定することができるか、またはユーザー選択可能なサイズバーを使用して作成することができる。表示ユニット上に表示され得る決定された高さ2082によって、選択されたストリップまたはラインの長さは調整(例えば、サイズ変更)されてよい。例えば、画像から選択されたストリップのオリジナルの長さが、長さ256ピクセルの場合、決定された高さ2082によって、128ピクセル、50ピクセル、またはその他の数のピクセルに縮小することができる。同様に、選択されたストリップのオリジナルの長さが120ピクセルで、運動性事象バーの高さ2082が256ピクセルに設定される場合、ストリップは、例えば、ピクセルを複製することによって、または内挿もしくは外挿法を適用することによって、長さ256ピクセルにサイズ変更(例えば、引き伸ばされる)され得る。
いくつかの実施形態において、例えば、Davidsonらに付与され、本出願の共通の譲受人に譲渡され、その全体が本明細書に援用される米国特許第7,474,327号の図9A、図9Bおよび図10A、10Bに開示されるように、複数の画像ストリームがモニターに同時に表示され得る。例えば、撮像装置が複数の撮像システムを有する場合、1つの撮像システムによって得た複数の画像ストリームは運動表示を生成するために使用され得る。例えば、運動性事象バーにおいて使用されるデータは、単一の撮像過程の1つ以上の画像ストリームから要約され得る。
タイムラインまたは時間バー2053は、例えば、撮像過程の最初から開始する画像の捕捉時間を示すラインを表示することによって、画像ストリームのタイムラインまたはタイムチャートを提供することができる。カーソル2052は、時間バー2053上に配置されてもよく、例えば、ウィンドウ2001において現在表示されている画像の捕捉時間を示すことができる。
組織色バー2051は、例えば、米国特許第8,144,152号に記載の実施形態により生成され得る。組織色バー2051は、時間バー2053に重なることができるか、または別に表示することができる。いくつかの実施形態において、組織色バー2051は、互いに隣接して並ぶ多数のストリップまたは要素で形成されてもよく、または連続バーにおいてアセンブルされてもよい。組織色バー2051の各ストリップまたは要素は、要約された情報を示すことができるが、例えば、事前に定義された時間の長さ(例えば、1分間)の間でキャプチャされた画像フレームの平均または標準の色値または強度である。いくつかの実施形態において、組織色バー2051の各ストリップは、1つの画像フレームに対応することができるが、例えば、表示された画像フレームの標準色、強度、pH値などを要約することができる。
サムネイル画像2054、2056、2058、2060は、時間チャート2051上の適切な相対時間に関連して表示され得る。関連するアノテーションまたはサマリー2055、2057、2059および2061は、各サムネイル画像に対応する画像の画像キャプチャ時間および、それぞれのサムネイル画像に関連したサマリー情報を含んでもよい。時間表示2050は、画像ウィンドウ2001に表示されている現在の画像に対して経過した、またはこれに関連した絶対時間と、編集された画像ストリームおよび/またはオリジナルの未編集の画像ストリームの全長を示すことができる。表示されている現在の画像に対して経過した絶対時間とは、撮像装置(例えば、図1のカプセル40)が最初に作動した、または受像器(例えば、図1の受像器12)が撮像装置からの送信を受信し始めた瞬間から、表示されている現在の画像がキャプチャされた、または受信された、あるいは胃から小腸までの経路等、ある生理学的なランドマークにある生体内装置の経路から、キャプチャされた、または受信された瞬間までの経過時間である。1つ以上のモニターまたは画像ウィンドウ2001は画像ストリームおよび他のデータを表示するために使用されてもよい。
本発明の実施形態によれば、運動性情報をユーザーへ表示するための別のオプションが利用できる。一例を挙げれば、運動性事象バー2080はバーとしてディスプレイスクリーン上の所定の位置に、例えば組織色バー2051と整列させて(または並べて)、および/または時間バー2053と整列させて(または並べて)表示してもよい。表示されている現在画像を示す単一のカーソル(例えば、画像のキャプチャ時間および、運動性事象バーで対応するピクセルストリップを示す)を使用してもよい。
別の例では、運動性事象情報は、例えば画像ストリームウィンドウと並行していない別のウィンドウまたはスクリーンに表示されてもよい。運動性事象バー2080はユーザーの要求に応じて、例えばポップアップウィンドウを表示してその中に表示してもよい。
カプセル位置ウィンドウ2070は患者の胃腸管内にある撮像装置の現在位置および/または方向を含んでもよく、GI管の異なるセグメントを異なる色を使用して表示してもよい。カプセル位置は、GI管内部のカプセルのおよその、または推測された位置である可能性がある。セグメントを強調表示して、現在表示されている画像(または複数の画像)がキャプチャされた時の撮像装置の位置を示してもよい。ウィンドウ2070のバーまたはチャートは、撮像装置が通った全経路長を示してもよく、および現在表示されている画像をキャプチャした時点で通過した経路のパーセンテージを推定または計算してもよい。
観察者は、マニュアル表示モード、例えば、未編集の画像ストリームと、ユーザーが所定の基準によって編集されたストリームからの画像のサブセットだけを観察し得る、自動編集表示モードのいずれかをボタン2040、2042で選択できる。表示ボタン2044により、観察者が単一ウィンドウでの画像ストリームの観察、または2画面、4画面またはモザイク表示モードでの複数の画像ストリームの観察を選択できる。表示ボタン2048を用いて観察者にオリジナルのストリームからの画像、または出血が疑われる徴候がある選択した画像のみを表示し得る。
表示速度バー2012はユーザーにより調整されてもよい。スライダーは例えば、1秒当たりに表示されるフレーム数を示してもよい。ボタン2016、2018、2020、2022、2024および2026を用いて、ユーザーが、ランドマーク画像またはサムネイル画像をキャプチャしたり、画像へのマニュアルスコアまたはコメントを入力したり、観察した画像ストリームに対するレポートを生成したり、および観察者の臨床所見およびマーキングを保存したりできるようにしてもよい。コントロール2028によってユーザーがGI管内の病理学的または解剖学的ランドマーク等のサンプル画像の辞典またはアトラスへアクセスできるようにしてもよい。コントロール2030によりウィンドウ2001のディスプレイ上の画像のサイズ変更が可能になってもよい(例えば、拡大縮小)。
図2Aおよび2Bを参照すると、これらの図は、カプセルがキャプチャした画像ストリームから得られ得る、異なる表示を示す。画像ストリームを調査するため、異なるタイプの表示を、例えば組み合わせて、または別々に使用してもよい。つまり、フレーム表示(図2Aで示すような単一フレーム表示を含んでもよい)、または同一のタイムスロットでいくつかのフレームをユーザーに表示する等のマルチフレーム表示が使用される。フレーム表示は、キャプチャした腸の特定の画像フレームに関する情報(例えば内腔孔220および組織壁230の外観)を提供してもよい。ビデオストリーム表示には、画像フレームのビデオシーケンスのストリーミング、再生または視覚的な複製を含んでもよい。撮像された組織を、フレーム表示またはビデオストリーム表示で調査すれば、より詳細な調査が可能となる場合がある。運動性事象バーのセグメントの図式的な説明を図2Bに示す。運動性事象バーでは、ビデオの所望のセグメントの運動特性(例えば経時的な内腔/壁の変化)が、セグメント241、242、243で示すように視覚化され、分析され得る。
運動性事象バーを生成する方法の1つには、フレームのシーケンスにわたって各画像フレームからピクセルのストリップ(例えば、カットまたはライン)を取得し、取得したラインを例えば連続バンドまたはバーに、キャプチャした時間に沿って隣接させて整列する、並べる、または配置することを含む。ストリップは、各画像内で選択した固定部分、例えば、各画像内で選択したピクセルの所定の固定ストリップ、選択または複製される各画像内の同一部分を含んでもよい。例えば、固定ライン225は、運動性事象バーを得るため使用される選択画像のサブセット内の各画像上で対角線上にあるピクセルを含んでもよい。これは例えば、サブセット内の各画像間で、ある同一の位置にあり、ある同一の長さおよび角度を有する。別の例において、固定ストリップは、各画像上で、例えば下から上へ垂直に走るラインとして選択してもよい。実施形態のいくつかにおいて、固定ストリップは画像の中心ポイント(図2AのO)を通過してもよい。
実施形態のいくつかにおいて、ストリップは各画像において別個に選択、または配置される適応カットでもよい。この文脈において用語、適応とは、各画像ストリーム(例えばビデオ)において、プロセッサまたは計算ユニットが、ストリームの全画像フレーム、または全フレームの中で選択したサブセットのいずれかにある各画像フレームを通して最適なカットを検索し得ることを意味する。各フレームについては、ある生成可能なカットの1セットが考慮されてもよく、また、最適なカットを運動性事象バーの作成に選択してもよい。
適応ストリップを決定または選択するため、固定グリッドまたはラインを画像セットに対して定義してもよい。固定グリッドまたはラインは、例えば各画像フレームの中心を通る垂直線として定義され得る。選択したピクセルストリップと固定グリッドとの間で測定された角度は、ある適応角度(図6Aを参照)であってもよく、各画像フレームにおいて所定の基準によって選択してもよい。
適応カットの一例においては、画像内で検出され得る内腔孔のある領域を通過するストリップを選択していてもよい、または画像内での内腔孔の推測によって選択していてもよい。これは例えば、画像内で検出された内腔孔領域の中心を走るストリップである。内腔孔は、例えば画像検査での撮像装置の回転によって、異なる画像の異なる領域に現われる場合がある。内腔孔の検出に関する方法は、例えば米国特許8,335,362の図2に開示されている。これは、本出願と共通の譲受人に譲受されており、参照によりその全体を本明細書に組み入れる。
画像フレームから選択されるラインまたはストリップの長さは変化させてもよく、ラインの選択方法および/またはストリップもしくはラインの取得に使用される画像のサイズに依存してもよい。例えば、幅320ピクセルおよび高さ320ピクセルの正方形画像の中心を走る垂直線の長さは320ピクセルになるであろう(幅は例えば1ピクセルであってもよい)。同じ画像の中心を通る対角線は、長さ約452ピクセルになるであろう。画像内で動的に検出される領域(またはポイント)を通過するラインもしくはストリップを選択する場合、および/または、画像の中心を通過する垂直および水平線とラインとが成す角度を決定するために動的な角度選択を使用する場合、ラインの長さは個々の異なるラインの選択毎に変化してもよい。さらに、運動性事象バーを得るために使用される画像は正方形とは異なる形状の場合があり、例えば円形または長方形であってもよく、または角が丸くてもよい。したがっていくつかの実施形態において、ラインの長さは、所定の値へ正規化される必要がある場合があり、例えば運動性事象バー2080の選択した高さ2082へ正規化されてもよい。同様に、いくつかの実施形態において、画像フレームから選択したラインの幅は変化させてもよく、所定のサイズまたはユーザーが選択可能なサイズに正規化、またはクロップしてもよい。
図4は、撮像カプセルによりキャプチャされた4つのタイプの腸事象の例を示す。この事象は、カプセル40により連続してキャプチャされた画像のシーケンスを含む。観察されるように、例えば収縮シーケンス401で、開−閉−開の内腔孔パターンが見られる場合、収縮パターンが測定される。静止的閉鎖内腔シーケンス402で見られるように、腸壁(および/または内腔)の運動が見られない場合、腸が実質的に静止しており、腸内のカプセルが「動いていない」。このシーケンスの画像内で描写される内腔孔は実質上閉じており、したがってシーケンスを静止的閉鎖内腔シーケンスとして分類してもよい。一般に腸が静止していて、内腔孔が(実質上)開いている場合、トンネルシーケンス403が決定されてもよい。キャプチャされた画像の大部分に混濁した腸の内容物が含まれ、これが画像内に描写されている組織を閉塞またはブロックしている場合、シーケンスを混濁内腔シーケンス404として決定してもよい。
本発明の実施形態によれば、腸の運動パターンは運動性事象バーに基づいて決定してもよい。腸の運動パターンの変化(例えば、生体内の画像ストリームで検出された運動性事象のシーケンス)は、患者のGI管の運動特性の指標、例えば腸の正常な活動または運動性障害の指標となり得る。
腸内部のカプセルが自由に動くため、内腔孔の画像が常に画像フレームの中心にキャプチャされるとは限らない。直線的なアプローチでは固定カット、例えば、フレーム内の固定座標を通過するピクセルの直線(例えば、フレームの中心を通るライン)を選択することが含まれてもよく、運動性情報を提示するのに最適な選択ではない可能性がある。例えば、固定カットを図5の画像501のシーケンスに示す。固定カット530は、各画像において、運動性事象バーの生成に使用される全画像に対してフレームの中心を垂直に通る。
生体内画像ストリームの視覚化のための方法では、適応させた画像カットに基づいた運動性事象バーを含んでもよい。適応させた画像カット基づいた運動性事象バーは、生体内画像のカットを連続させて生成したバーを含み、腸事象を示す運動性事象バーを生成することができる。異なるカットの位置およびシーケンスを選択して、腸運動の種々の表現を生成してもよいが、カットのシーケンスは、画像ストリームの連続フレームにわたって存在する。適応カット法は、各フレームで選択したラインが内腔孔を示す画像の部分を通過する可能性を最大化する最適化問題に基づいてもよい。画像のシーケンスにわたる適応カットの一例を図5の列502に示す。適応カットは各画像の特定のポイント、例えば画像の中心を通るよう選択され得る直線を含んでいてもよい。適応カットは、(例えば内腔孔が画像内で見える場合)内腔孔の位置に基づいて、各画像において別々に選択してもよい。
運動性事象バーを示すことにより、カプセル40によりキャプチャされた元の画像ストリーム(またはそのサブセット)により提供される情報量が減少する。この理由は二次元バーにおいてはビデオシーケンスを集約して表示するためである。運動性事象バーにより、素早く観察して、(例えば専門家による)腸運動の評価を簡素化できる場合がある。適応カット法を使用することで、提示された運動性情報が、可能な範囲で、患者のGI管の内腔および/または組織壁の情報を保持でき、したがって、運動性事象バーを生成するための画像データの選択が、画像ストリームの運動性事象または運動特性の分析に最適となる可能性が高まり得る。
画像フレームにおける最適なカットの定義または選択は異なる基準および条件によって決定され得る。この基準としては、画像フレーム内に描写された1つ以上の特徴の視認性の最大化、および生成された運動性事象バーの平滑度の維持の1つ以上を含んでもよいが、これらに限定されない。基準を予め決定して、例えば処理装置に操作可能に接続された記憶装置に保存してもよく(この基準は、画像フレームにおいて最適なカットを決定するために使用されてもよい)、またはユーザーにより、例えば利用可能な基準のリストから選択してもよい。
生体内の画像ストリームはn連続画像フレームのシリーズとして観察されてもよい。nフレームは、運動性事象バーの生成のために使用される画像ストリーム(またはそのサブセット)のフレームの総数であってもよい。一実施形態において、適応カットは所定のポイントO(例えば画像の中心)を通過するよう選択されてもよい。フレームiにはそれぞれ可能なm個の適応カットαi Ω={1,…,m}がある。図6Aで示すように、角度αiは、フレームの中心を通る垂直線とカットを表わすラインとが成す角度を意味する。図6Bは画像iにおいて、選択された種々の角度αiによる可能なカットの1セットを示す。角度αiをグラフ601のx軸に示し、選択した角度に対応したピクセルの選択カットを、グラフ601のy軸に示す。
図6Cのグラフ602はnフレーム(n群のノードで表わす)を含む。各フレームiには、選択可能な角度αiを表わすm個のノードがある。フレームiのカットαiからフレーム(i+1)のカットαi+1までを通過するコストをV(αi,αi+1)として表示してもよい。適応させた運動性事象バーの構築は、最適化問題として取り組んでもよく、ある1セットの制約が保持されるべきである。例えば、この制約のセットには内腔孔の視認性および表示の平滑度という2つの制約が含まれていてもよい。他の制約または基準が決定されてもよい。
内腔孔の視認性という制約により、カットが内腔孔を確実に通過するようにできるが、一方で平滑度という制約が、例えば連続する画像フレームにおいて、表示の連続性および読み取りの性能を維持し、カットの種々の角度間の変化の速度を制御する点から重要である。カットの異なる角度間の変化速度が速すぎると、生成された運動性事象バーから読み取れることが少なくなる場合がある。この理由は、バーの隣接したストリップ間の変化が大きすぎて、運動性事象の視認性が悪く、検出性能が低下する可能性があるからである。このタスクは、例えばグラフ602のアーク620、621および622により接続されたノード610、611および612により示すように、最適経路を発見する問題として再公式化されてもよい。その問題に対する可能解(α1,・・・,αn)のコストは例えば、以下のコスト方程式により定義できる。
項D(αi)はi番目の画像のカットが内腔孔を通過することを保証するために使用され、V(αi−1,αi)はカットαi−1およびαiが交換可能であることを保証する(この項は、2つの連続フレームi−1とiとの間の変化のコストをキャプチャする)。最適解は、全ビデオフレームを通るが、コストが最小のものであってもよい。
GI画像ストリームではフレームが大容量であるため(nは例えば、最高60,000フレームまたは異なるフレーム数となる場合がある)、ダイナミックプログラミング(DP)が、式(1)により記述される関数の最小値を見出すため、および画像ストリームに対して生成された適応させた運動性事象バー内のカットの角度を得るために、使用されてもよい。
DPは個別の最適化問題に使用してもよい。DPにより、所与の問題に対して大域最適が見つかる。DPの根本概念はある問題を下位の問題のセットへ分割し、元の解を素早く解き、下位の問題は再帰的な方法で効率的に解くことができる(例えばFelzenszwalb,P.F.,Zabih,R.の「Dynamic programming and graph algorithms in computer vision」、IEEE Transactions on pattern analysis and Machine Intelligence 2011;33:721−740に開示されているように。よって、典型的な再帰的方法との違いはメモ化(既に解いた下位の問題に対する解を記憶する)である。
テーブルB(αi)は1〜iの要素に、最適な角度カットを割り当てたときのコストを示す。このときi番目の要素はαiというラベルを有するという制約がある。テーブルBのサイズはn×mであり、mがセットΩの基数を表示し、nは、フレームの数を表示する。テーブルB(αi)は、例えば以下の再帰的な式の使用によりiを増加させて埋めてもよい(他の式を使用してもよい)。
下位問題は次のように定義してもよい。第1のフレームについては、B(α1)は第1のフレームに角度D(α1)を割り当てる際のコストである。別の全フレームについては、B(αi)は、角度D(αi)にi−1からi番目のフレームへの最小推移コストminαi−1(B(αi−1)+V(αi−1,αi))を加えて割り当てる際のコストである。アルゴリズムの各反復では、サイズ1×mのベクターDおよびサイズm×mのマトリックスVが計算される。
下位問題の解を再計算しないようにするため、マトリックスTはテーブルB(αi)を計算して埋められる。Tマトリックスは、下位問題への最適解を記憶してもよく、したがって計算量を少なくでき、下位問題はそれぞれ一度だけ計算される。マトリックスの行はそれぞれ、サイズmを有しており、(i−1)番目の解からi番目の解に到達する最良の方法を記憶する。新しい値がB(αi)に追加される毎に、マトリックスTはこの規則により更新される。
その結果、マトリックスTは、その問題の最適解を得るために、アルゴリズムが通過するべきノードの指数を記憶する。最終的には、総合的な解は、i=nを始点とするαi−1=T(αi)にトラックバックされる。結果として、例えば、画像ストリームの全フレームにわたる最適カットのシーケンス(αi,…,αn)が得られ得る。この最適カットのシーケンスは画像ストリームのフレームを通してコストを最小限にする経路と見ることができる。いくつかの実施形態において、平滑化項を適用して斑点の検出率を減少させてもよい。
撮像カプセルがキャプチャした画像における内腔は、通常腸壁に囲まれた暗い領域または斑点として観察されることが多い。腸の内腔孔を通過する画像カットは、色の強度の平均および変動の点で特徴を有することができる。2つ以上のカットまたはストリップが内腔孔を通過してもよい。(生成された運動性事象バーにおける)内腔孔の視認性を確保するため、方法は変動が大きく平均値が低いカットを検索することを含んでもよい(平均および変動はストリップまたはカットを構成するピクセルを使用して計算される)。変動σ2が大きい場合、可能な範囲で内腔および/または壁の情報を保持するフレームの最大限の情報をカットが保持していることを確実に示す。平均値μが低い場合、カットが画像の暗い領域を通過することを確実に示す。画像の暗い領域は、内腔孔を表す可能性が高い。
ベクターx(αi)の値が[0,1]の範囲にあると仮定する。
運動性事象バーの平滑度を保証するために、連続フレームの角度間の変化を制御する項が計算されてもよい。平滑度は2つの因子、角度変化V1(αi−1,αi)=180°−|180°−|αi−1,αi||、および2つの連続カットV2(αi−1,αi)=||x(αi−1)−x(αi)||2間の類似性により制限されてもよい。最終平滑度項Vは、例えば以下の式を使用して定義してもよい(他の式または計算が使用されてもよい)。
急な変化にペナルティを課すためにV1およびV2に2次項が導入される場合、γ1およびγ2は正規化項であり、β[0,1]は角度の変化量と連続フレームでのカットの類似性を制御するパラメーターである。
mが可能なカットの数を示し、nはフレームの数を示す。本方法は各反復で次の計算を含み得る。
1)m カットでのピクセルの平均
2)m カットでのピクセルの変動
3)m2 連続フレームにおけるカット間の角度差
4)m2 連続フレームにおけるカット間の類似点
1)m カットでのピクセルの平均
2)m カットでのピクセルの変動
3)m2 連続フレームにおけるカット間の角度差
4)m2 連続フレームにおけるカット間の類似点
アルゴリズムの計算複雑度はO(m2n)である。
本実施形態は合成データ、および撮像カプセルによりキャプチャされた画像データ上でテストされた。画像データはPillCam(登録商標)SB2カプセル内視鏡カメラを使用して得られた。カメラはGiven Imaging,Ltd.、Israel.により開発された。
検証において、運動性事象バーの3つのタイプのカットをテストした。
1.(Acut)−本明細書に記述した適応カット
2.(Acut−)−平滑化項Vの除去により得られた適応カットの実施形態の変形。Acut−実施形態において、式(1)は次式へ変形させる。
これはエネルギー(コスト)関数で平滑度項Vの影響を評価するための式である。
3.(Fcut)−固定カットの縦方向の表示。
1.(Acut)−本明細書に記述した適応カット
2.(Acut−)−平滑化項Vの除去により得られた適応カットの実施形態の変形。Acut−実施形態において、式(1)は次式へ変形させる。
3.(Fcut)−固定カットの縦方向の表示。
合成データの例を示す図7Aから7Dを参照すると、合成データは、本発明の実施形態に係る表示と分析方法をテストするために生成した。合成データを使用した実験では、40,000フレームの合成ビデオが毎秒2フレームのフレームキャプチャレートで作成された。一様な背景に、暗い斑点が配置されている。斑点の位置および斑点の大きさは、連続フレーム上で腸事象により変化した。トンネル、静止、収縮、未定義の運動の腸事象を合成ビデオの作成に使用した。ビデオをより現実的にするため、事象の順序と継続時間を乱数発生器で定義した。混濁した内容物の存在により内腔が閉塞し、フレームの色がピンク−オレンジから緑−茶色まで変化する。実験を単純で、説明できるようにするため、混濁シーケンスを考慮しなかった。トンネル、静止、収縮、未定義の運動の特定の腸事象の定義を画像シーケンスの生成のため使用してもよい。
トンネルシーケンスの一例を図7Aに示す。トンネルシーケンスでは、腸が動いておらず(例えば、静止している、または実質上動いていない)、内腔孔が開口しているシーケンスと定義する。トンネルシーケンスにおいて内腔孔のサイズは、変動が大変小さく(例えば、2つの連続フレーム間の直径の差が±2ピクセル−他のピクセル数を使用してもよい。)実質上開口している(例えば直径70ピクセルより大きい)と定義される。
静的なシーケンスの一例を図7Bに示す。静的なシーケンスでは、腸は動かず、内腔孔が閉じている(例えばフレーム内で内腔孔が観察されない、または小さな内腔孔が観察される)シーケンスと定義する。
収縮シーケンスの一例を図7Cに示す。収縮シーケンスは、腸が収縮しているフレームのシーケンスとして定義できるが、この収縮は内腔の開−閉−開という実質上対称的なパターンとして検出される。パターンの継続時間は例えば9フレーム(フレーム数はこれより多くても少なくてもよい)で、一定の頻度、例えば毎分6収縮(他の収縮数が使用されてもよい)を有する。腸の収縮の中央フレームの内腔サイズは初めの内腔サイズの10%と定義する。
未定義の運動シーケンスの一例を図7Dに示す。未定義の運動シーケンスは、内腔孔サイズ(例えば、連続フレーム間で±30のピクセル変動)および、撮像カプセル(連続フレーム間で±30のピクセル変動)の不規則な動きとして定義する。
図8は、合成データから生成され、異なるカットを使用して得た縦方向の表示バーの例を示す。バー800は、バーの収縮シーケンス820、未定義の運動シーケンス821、静的なシーケンス822、トンネルシーケンス823のセグメントにより定義された代表値を表わす。バー801は生成されたFcutを、バー802は生成されたAcut−を、バー803は生成されたAcutを表示する。
ビデオの分割には例えば、静的、混濁、トンネル、収縮または未定義のシーケンスの1つ以上の視覚的な検出を含んでもよい。他のシーケンスのタイプまたは分類を使用してもよい。この文脈において、検出には、例えば、各タイプのシーケンスの始まりおよび終わりのマーキング、あるいは画像ストリームの開始画像および終了画像を各タイプのシーケンスに関連付けることを含んでもよい。別の例において、画像ストリームの画像は1つ以上のタイプの事象シーケンスに属するとして分類、また起因し得る。
図10Aから10Hはカプセルがキャプチャした画像ストリームにAcutおよびFcutを適用した例を示す。運動性事象バーにおいて確認できる内腔孔は、図10A、10C、10Eおよび10Gに示したAcut法を使用して得られた表示の方が、図10B、10D、10Fおよび10Hに示したFcut法を使用して得られた表示よりも、大きく表示される可能性がある。
Acut運動性事象バーの一例を図11に示す。このバーは、全小腸、例えば十二指腸から盲腸までのデータを表わす。白いストライプ1100はそれぞれ、ビデオの一部分で等しい長さ、例えば、ビデオの継続時間のうちの10分間を示してもよい。Acut運動性事象バーおよび元の画像ストリームは(例えば図1Bで示すようにGUIを使用して)医療従事者に提示され、トンネル、静的、収縮、混濁、および未定義の運動等の運動性関連シーケンスの開始時間と終了時間をマーキングされてもよい。
Acutを使用した運動性事象バーの観察時に強調され得る事象シーケンスの例を図9Aから9Hに示す。図9Aおよび9Bは、撮像されたGI管の静的な事象を示す。図9Aおよび9Bで示した、事象バーの均一な(または同質の)テクスチャー部分は、これらの事象バーにおいて表わされた連続画像間に本質的な変化がなかったことを示す。したがって、これらのバーで示された画像ストリームの表示部分を静的な事象として、例えばカプセルが実質上GI管内の同じ位置にあった時間として同定することが可能である。
図9Cおよび9Dは、トンネル事象の例を示す。図9Cにおける事象バーの暗部94は、表示画像における内腔孔を示す。暗部94および明るい部分93が図9Cに示される事象バーの部分に沿って実質上均一であるので、暗部94により示される内腔孔は、図9Cの事象バーにより表わされるGI管部分に沿って実質上開いていると、(例えば画像ストリームを調査する専門家、またはプロセッサ14等の処理装置、および/もしくは運動性表示生成装置24により画像処理技術を使用して自動的に)推測されてもよい。同様に暗部96は、図9Dの事象バーで内腔孔を示し、より明るい部分95、97が図9Dの事象バーにより表わされるGI管部分にある、撮像された組織壁を示している。内腔孔部分96、組織壁部分95、97は、事象バーに沿ってサイズおよび位置が実質上一均質である。
図9Eおよび9Fは、混濁シーケンスの例を示す。混濁シーケンスは、GI管の対応部分のキャプチャ画像が、腸の内容物、気泡、食物の残り等を少なくともあるレベルで含む場合と定義し得る。画像ストリームで混濁シーケンスとして示される混濁した内容物のレベルを予め定めて、記憶装置、例えば記憶装置19内に保存しておいてもよい。混濁シーケンスは画像ストリームにおいて、事象バーを使用して(例えば医療従事者、または処理装置によって自動的に)同定されてもよい。例えば、事象バーでシーケンスの色が緑がかっている、または褐色を帯びている場合、画像のシーケンスは混濁シーケンスとして定義されてもよい。
様々な収縮リズムを異なる収縮シーケンス、例えば図9Gおよび9Hで示してもよい。図9Gおよび9Hの両方は、急速に状況が変化する画像のシーケンスを示す。状況の変化は、事象バーでは隣接するライン間での検知可能な差により示される。事象バーにおけるピクセルのラインの暗部(キャプチャされた画像の中の内腔孔に対応する)、およびより明るい部分(キャプチャされた画像中の組織壁に対応する)が、隣接したライン間で交互になっている場合、収縮が事象バーにおいて同定され得る。例えば図9Hで、垂直のピクセルのライン98は大部分で暗い部分を含む(ピクセルラインは実質上暗い)。隣接するピクセルライン99の多くは明るい部分である。このような交互に現れるテクスチャーは、ピクセルライン98に対応する画像がキャプチャされた時、身体内腔は広く開いており、ピクセルライン99に対応する画像がキャプチャされた時には実質上閉じていたことを示唆する。テクスチャーが交互に現れるシーケンスが事象バーにおいて検出された場合、このシーケンスは収縮シーケンスとして定義されてもよく、例えば、画像ストリームの対応部分がGI管の収縮的な活動をキャプチャしている。
医者または看護師等の医療従事者はビデオ表示を使用して、いくつかのタイプ(例えば5タイプ)の事象シーケンスにラベルを付けてもよい。さらに、医療従事者は運動性事象バー(例えば、Acut)を使用して、シーケンスにラベルを付けてもよい。医療従事者によるラベル付け時間またはアノテーション付け時間を両表示方法で比較すると、運動性事象バーの方が、例えば(運動性関連の事象の検出のための)調査時間を実質上短くでき、有利となる可能性がある。
いくつかの実施形態によれば、運動性データの分析は、運動性データバーを生成するプロセッサにより実行されてもよい。例えば、以下の運動性関連のデータが運動性事象バーに基づいて、同定されてもよい(例えばプロセッサにより自動的に検出されてもよい)。
腸の収縮の頻度および/または回数
収縮シーケンスの継続時間または平均継続時間
トンネルシーケンスの頻度、回数、継続時間または平均継続時間
混濁シーケンスの頻度、回数、継続時間または平均継続時間
静止的閉鎖内腔の頻度、回数、継続時間または平均継続時間
腸の収縮の頻度および/または回数
収縮シーケンスの継続時間または平均継続時間
トンネルシーケンスの頻度、回数、継続時間または平均継続時間
混濁シーケンスの頻度、回数、継続時間または平均継続時間
静止的閉鎖内腔の頻度、回数、継続時間または平均継続時間
検出された運動性事象は、検出された運動性パラメーターに関して正常な動き、または異常な動きの範囲に照らして表示および/または計算される。この範囲はユーザーへ参考として提示されてもよい。例えば、特定の臓器における、または所定の時間内の正常な収縮の回数が、分析した画像ストリーム中で検出された収縮の回数と並べて表示されてもよい。正常な、または異常な動きは比較に基づいて示されてもよい。
プロセッサは単一の事象を同定し、ユーザーへ事象の表示を提示してもよい。事象および/または運動性に関連したパラメーターの分析をある部位(または複数の部位)、または画像ストリームのセグメントに対して、画像ストリームからの画像のサブセットに対して、または画像ストリーム全体に対して実行してもよい。運動性分析のための運動性バーの構築のための方法が、本発明の実施形態によって提示される。本方法は、コスト関数を最小化することで、内腔の位置に対するフレームのカット角度を適応させてもよい。この問題の公式化により、ダイナミックプログラミングを適用して、提示されたコスト関数に対する全体的な最小値を効率的に発見し得る。合成データと生体内画像ストリーム上の実験結果により、本発明の実施形態では内腔孔および(または)壁の分離が保たれ、専門家によるアノテーションが、ビデオ表示を使用して得られたものとよく一致していてもよいことが示される。さらに、目視での検査に必要な時間ははるかに短くなり、例えば、ビデオストリーム表示と比較して、運動性バーを使用すると4倍速くなる。
本発明の実施形態に係る運動性事象バーを使用すると、運動性事象の違いがより明確となり、運動性分析の単純化を支援し得る。さらに、本方法は異なる収縮リズムおよび/またはパターン(例えば運動性事象シーケンスの種々の頻度、継続時間および反復回数)の分析、例えば自動分析を可能にし得る。興味深い運動性現象を運動性事象バーにおいて強調してもよい。例えば、毎分11回の収縮頻度を有する規則的な腸の収縮、不規則な混合収縮(例えば食物の混合に起因する収縮)および1分サイクル(例えば、腸は毎分、動き無しと収縮性の運動とのパターンを繰り返しながら状態を変化させる)。本発明の実施形態によれば、運動性事象の他のパターンおよび/またはリズムを検出、分析し、および/またはユーザーに提示し得る。
図12を参照すると、この図は、本発明の実施形態に係る、生体内画像ストリームに基づいた運動性事象バーを生成する方法のフローチャートである。動作1410で、生体内撮像装置がキャプチャした画像ストリームの画像は、例えばワークステーション11等のワークステーションまたは受信機12等の受信装置で受信してもよい。画像ストリームは、ある時間にわたって生体内撮像カプセル(例えばカプセル40)により生体内で連続してキャプチャされた画像を含んでもよく、記憶装置19または記憶装置16等の記憶装置に保存されてもよい。画像は例えば処理装置(例えばプロセッサ14)により処理されてもよい。各画像はピクセルの二次元アレイとして、例えば、320×320ピクセルの矩形のまたは正方形のピクセル配列として表示されてもよい。ピクセルはそれぞれ主要な色、例えば、赤、緑、または青に対応する値を含んでいてもよい。
任意の動作1420において、複数の画像をキャプチャした画像ストリームから選択してもよく、選択された画像は運動性事象バーの生成に使用されてもよい。一実施形態では、画像ストリームの全画像を使用してもよい(すなわち、全画像を選択してもよい)が、他の実施形態では撮像装置によってキャプチャされた画像の全セットから画像のサブセットを選択できる。本方法では画像ストリームから、ある基準に従って画像のサブセットを選択することを含んでいてもよい。例えば、運動性事象バーを作成するために画像ストリームのあるセグメントまたは一部分を選択するが、他のセグメントは選択しなくてもよい。例えば、GI管のある臓器でキャプチャされた画像のシーケンスを選択してもよい。一例を挙げれば、小腸でキャプチャされた画像のみを運動性事象バーの生成のために使用してもよい。画像ストリームの他の部分またはセグメントを選択してもよい。ぼやけた、明るすぎる、または暗すぎる画像は選択しなくてもよい。
一般的には、選択した画像には、生成された運動性事象バーの平滑度の維持、および画像ストリームにおいて、腸事象または腸の特徴をより強調するために、複数の連続画像(例えば撮像装置により連続してキャプチャされた連続画像フレーム)を含んでもよい。
動作1430において、ピクセルのストリップまたはラインは、画像ストリーム(例えば画像のサブセット)から選択された複数の画像のそれぞれの画像から選択されてもよい。ストリップを選択するため別の基準が決定されてもよい(例えばユーザーによって、または事前に決定)。ストリップは固定カットまたは適応カットとして選択されてもよい。例えば、隣接したピクセルの線形のアレイが選択されてもよい。ピクセルのストリップやラインをピクセルの行または列と平行に置く必要はなく、行または列に対して別の角度で配置してもよく、例えば、ストリップまたはラインは対角線であってもよい。
選択したピクセルのストリップには、例えば画像から選択されたピクセルのラインが含まれていてもよい。いくつかの実施形態において、ストリップはピクセルの直線であってもよい。ストリップは、固定ストリップまたはカット、例えば画像内の同一座標にあるピクセルであってもよく、ピクセル配列は各画像から選択してもよい。例えば、画像が水平256行のピクセルと垂直256列のピクセルを含む場合、選択したストリップはピクセル配列の中央の列(例えば列128)の全ピクセルを含んでもよい。ピクセルの2つ以上のラインがストリップにおいて選択されてもよく、例えば、隣接した2つ以上の列(256×256ピクセルの例では列127、128および129)を選択してもよい。選択したストリップは画像内の所定のポイントを通過してもよい。一実施形態において、所定のポイントは画像の中心点(例えば、ピクセル配列の中心)であり得る。他の所定のポイントを選択してもよい。
いくつかの実施形態おいて、ストリップは画像から選択したピクセルの適応ラインであってもよい。例えば、このラインは、運動性事象バーの作成のため選択した画像内の同一の位置を通過する必要はなく、代わりにラインの位置、方向または他の特性を、画像のある特徴または特性に従って画像毎に選択してもよい。例えば、ある特徴または特性を画像内で検出してもよい(例えば、暗い内腔孔または斑点、画像の明るい部分等)。ストリップは画像の検出された特徴または一部分を通過するよう選択してもよく、例えば中心点または検出された特徴の重心を通過してもよい。いくつかの実施形態において、適応ストリップは、画像の所定のポイント(例えばピクセル配列において中心点または中心ピクセル)を通ってもよく、各画像でストリップを選択するために異なる角度を決定してもよい。他の実施形態では、各画像の所定の(例えば固定)ポイントを通過しないラインの選択が可能である。運動性事象バーの平滑度を維持するため、連続するフレームから選択したストリップの角度変化を制御する項を決定してもよい。他のカットを画像から選択してもよく、いくつかの実施形態において、異なるタイプのカットの組み合わせを運動性事象バーを生成するのに使用してもよい。
動作1440において、選択されたストリップまたはライン(一般的には選択したストリップのコピー)は、運動性事象の視覚的な表現を形成するため、例えば垂直に整列させるか配置してもよく、互いに接するか隣接して配置してもよい。運動性事象は画像ストリーム、例えば運動性事象バーまたはディスプレイ2080において起こる。ストリップもしくはライン、またはストリップもしくはラインのコピーは、運動性事象バーを形成するために使用されてもよい。選択したストリップの長さ(および/または幅)は異なる長さに変更してもよく、例えば伸ばしても短くしてもよい。
動作1450で、運動性事象バーはディスプレイ、例えばモニター18等の表示装置に(任意で)作成または生成されてもよい。運動性事象バーを画像ストリームのビデオ表示を表示するウィンドウ、例えば図1Bで示したウィンドウ2001と並べて表示してもよい。運動性事象バーを分析し、画像のシーケンスをある運動性事象に関連付けてもよい。例えばトンネルシーケンスは例えば図10Aおよび10Bで示すように検出されてもよい。別の例で、収縮リズム分析、例えば種々の収縮頻度を分析してもよい。いくつかの実施形態において、運動性事象バーは、収縮、混濁シーケンス、トンネル、静的フレーム等の異なる運動特性または事象の視覚的な検証に有益であり得る。
運動性事象バーはまた、画像ストリームの運動特性の分析に使用されてもよい。運動性事象は運動性事象バーにおいて検出され、表示されるか、ラベルが付けられ、ユーザーに示されてもよい。種々の運動性に関連した特性は、GI管などのある部位におけるパターン、タイプ、リズム、頻度および/または収縮の継続時間、収縮の平均継続時間、収縮の頻度等として計算され要約されてもよい。他の運動性事象が検出されてもよく、関連する特性が計算、提示されまたは表示されてもよい。例えば、計算された特性に沿った正常および異常値の範囲がユーザーに提示され、正常な範囲と特性の検出値とを比較できるようにしてもよい。また、いくつかの実施形態において、例えば、検出した異常な動きに関する表示があってもよい。
他の動作または動作のシリーズが使用されてもよい。
異なる実施形態が本明細書に開示される。特定の実施形態の特徴を他の実施形態の特徴と組み合わせてもよく、したがって、特定の実施形態は複数の実施形態の特徴の組み合わせであってもよい。
本発明の実施形態は、コンピュータまたはプロセッサにより読取り可能な持続性記憶装置メディア、例えば、メモリ、ディスクドライブまたはUSBフラッシュメモリ等の品物を含んでいてもよい。これらは、例えば、プロセッサまたはコントローラが実行する場合、プロセッサまたはコントローラに本明細書に開示した方法を実行させる、コンピュータが実行可能な指示を、エンコードする、含む、または保存している。
本発明の実施形態の説明が例および記述の目的で提示されてきた。これは、例外を認めないものではなく、また本発明を開示された形態に厳密に制限することを意図しない。当業者であれば、多くの改変、変種、置換、変更、および均等物が上記の教示を踏まえて為され得ることを理解するであろう。したがって、添付の特許請求の範囲は、本発明の真の趣旨の範囲内に含まれるこうした修正および変更の全てをカバーするように意図されることを理解すべきである。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261592786P | 2012-01-31 | 2012-01-31 | |
US61/592,786 | 2012-01-31 | ||
PCT/IL2013/050081 WO2013114361A2 (en) | 2012-01-31 | 2013-01-30 | System and method for displaying motility events in an in vivo image stream |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2015509026A JP2015509026A (ja) | 2015-03-26 |
JP2015509026A5 true JP2015509026A5 (ja) | 2016-03-03 |
JP6215236B2 JP6215236B2 (ja) | 2017-10-18 |
Family
ID=48905978
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014555386A Active JP6215236B2 (ja) | 2012-01-31 | 2013-01-30 | 生体内画像ストリーム中の運動性事象を表示するためのシステムおよび方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9514556B2 (ja) |
EP (1) | EP2810216B1 (ja) |
JP (1) | JP6215236B2 (ja) |
CN (1) | CN104054092B (ja) |
WO (1) | WO2013114361A2 (ja) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10405734B2 (en) * | 2012-06-29 | 2019-09-10 | Given Imaging Ltd. | System and method for displaying an image stream |
US10025479B2 (en) * | 2013-09-25 | 2018-07-17 | Terarecon, Inc. | Advanced medical image processing wizard |
CN105612554B (zh) | 2013-10-11 | 2019-05-10 | 冒纳凯阿技术公司 | 用于表征通过视频医疗设备获取的图像的方法 |
WO2015170321A1 (en) * | 2014-05-09 | 2015-11-12 | Given Imaging Ltd. | System and method for motility analysis of an in vivo image stream |
EP3140782A4 (en) | 2014-05-09 | 2017-04-26 | Given Imaging Ltd. | System and method for sequential image analysis of an in vivo image stream |
US9824079B1 (en) * | 2014-07-11 | 2017-11-21 | Google Llc | Providing actions for mobile onscreen content |
US9965559B2 (en) | 2014-08-21 | 2018-05-08 | Google Llc | Providing automatic actions for mobile onscreen content |
US10318575B2 (en) | 2014-11-14 | 2019-06-11 | Zorroa Corporation | Systems and methods of building and using an image catalog |
US9703541B2 (en) | 2015-04-28 | 2017-07-11 | Google Inc. | Entity action suggestion on a mobile device |
US10535375B2 (en) * | 2015-08-03 | 2020-01-14 | Sony Corporation | Information processing system, information processing method, and recording medium |
US10970646B2 (en) | 2015-10-01 | 2021-04-06 | Google Llc | Action suggestions for user-selected content |
US10178527B2 (en) | 2015-10-22 | 2019-01-08 | Google Llc | Personalized entity repository |
US10055390B2 (en) | 2015-11-18 | 2018-08-21 | Google Llc | Simulated hyperlinks on a mobile device based on user intent and a centered selection of text |
US10467257B2 (en) | 2016-08-09 | 2019-11-05 | Zorroa Corporation | Hierarchical search folders for a document repository |
US10311112B2 (en) * | 2016-08-09 | 2019-06-04 | Zorroa Corporation | Linearized search of visual media |
US10664514B2 (en) | 2016-09-06 | 2020-05-26 | Zorroa Corporation | Media search processing using partial schemas |
US10535005B1 (en) | 2016-10-26 | 2020-01-14 | Google Llc | Providing contextual actions for mobile onscreen content |
US10853981B2 (en) | 2016-11-10 | 2020-12-01 | Becton, Dickinson And Company | Timeline system for monitoring a culture media protocol |
DE102016121668A1 (de) | 2016-11-11 | 2018-05-17 | Karl Storz Se & Co. Kg | Automatische Identifizierung medizinisch relevanter Videoelemente |
US11237696B2 (en) | 2016-12-19 | 2022-02-01 | Google Llc | Smart assist for repeated actions |
US11217344B2 (en) * | 2017-06-23 | 2022-01-04 | Abiomed, Inc. | Systems and methods for capturing data from a medical device |
JP6369706B1 (ja) | 2017-12-27 | 2018-08-08 | 株式会社Medi Plus | 医療動画処理システム |
US10506921B1 (en) * | 2018-10-11 | 2019-12-17 | Capso Vision Inc | Method and apparatus for travelled distance measuring by a capsule camera in the gastrointestinal tract |
AU2021340295A1 (en) * | 2020-09-08 | 2023-05-11 | Aivf Ltd. | System and method for representing a biological process via non-speech audio |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69222102T2 (de) | 1991-08-02 | 1998-03-26 | Grass Valley Group | Bedienerschnittstelle für Videoschnittsystem zur Anzeige und interaktive Steuerung von Videomaterial |
US8068897B1 (en) | 1999-03-01 | 2011-11-29 | Gazdzinski Robert F | Endoscopic smart probe and method |
IL177381A0 (en) | 2000-03-08 | 2006-12-10 | Given Imaging Ltd | A device for in vivo imaging |
WO2002102223A2 (en) | 2001-06-20 | 2002-12-27 | Given Imaging Ltd. | Motility analysis within a gastrointestinal tract |
US7474327B2 (en) | 2002-02-12 | 2009-01-06 | Given Imaging Ltd. | System and method for displaying an image stream |
ES2360701T3 (es) | 2003-10-02 | 2011-06-08 | Given Imaging Ltd. | Sistema y procedimiento para la presentación de flujos de datos. |
JP4574983B2 (ja) | 2003-11-04 | 2010-11-04 | オリンパス株式会社 | 画像表示装置、画像表示方法、及び画像表示プログラム |
US7986337B2 (en) * | 2004-09-27 | 2011-07-26 | Given Imaging Ltd. | System and method for editing an image stream captured in vivo |
US20070060798A1 (en) | 2005-09-15 | 2007-03-15 | Hagai Krupnik | System and method for presentation of data streams |
US7896805B2 (en) | 2005-11-23 | 2011-03-01 | Given Imaging Ltd. | In-vivo imaging device and optical system thereof |
US8396327B2 (en) * | 2006-03-13 | 2013-03-12 | Given Imaging Ltd. | Device, system and method for automatic detection of contractile activity in an image frame |
US8340745B2 (en) * | 2006-06-05 | 2012-12-25 | Forth Photonics Ltd. | Methods for characterizing cancer and pre-cancer tissues |
JP2009539544A (ja) | 2006-06-12 | 2009-11-19 | ギブン イメージング リミテッド | 収縮活動の測定及び分析のための装置、システム、及び方法 |
US20080068664A1 (en) * | 2006-09-14 | 2008-03-20 | Zvika Gilad | Device and method for displaying images received from an in-vivo imaging device |
US7813538B2 (en) * | 2007-04-17 | 2010-10-12 | University Of Washington | Shadowing pipe mosaicing algorithms with application to esophageal endoscopy |
JP5242479B2 (ja) * | 2009-03-26 | 2013-07-24 | オリンパス株式会社 | 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法 |
CN101716077B (zh) * | 2009-12-03 | 2012-09-12 | 西交利物浦大学 | 基于无线胶囊内视镜或视频内窥镜体内摄像的图像处理方法及其系统 |
US20110169931A1 (en) * | 2010-01-12 | 2011-07-14 | Amit Pascal | In-vivo imaging device with double field of view and method for use |
US8422755B2 (en) * | 2010-06-11 | 2013-04-16 | Given Imaging Ltd. | System and method for synchronizing image sequences captured in-vivo for automatic comparison |
-
2013
- 2013-01-30 EP EP13743096.3A patent/EP2810216B1/en active Active
- 2013-01-30 JP JP2014555386A patent/JP6215236B2/ja active Active
- 2013-01-30 US US14/375,318 patent/US9514556B2/en active Active
- 2013-01-30 WO PCT/IL2013/050081 patent/WO2013114361A2/en active Application Filing
- 2013-01-30 CN CN201380005608.7A patent/CN104054092B/zh active Active
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6215236B2 (ja) | 生体内画像ストリーム中の運動性事象を表示するためのシステムおよび方法 | |
JP2015509026A5 (ja) | ||
JP2023171651A (ja) | 生体内画像ストリームの精査用情報を生成及び表示するためのシステム並びに方法 | |
JP5972865B2 (ja) | 生体内画像の部分を表示するシステム及びその作動方法 | |
AU2019431299B2 (en) | AI systems for detecting and sizing lesions | |
JP4740212B2 (ja) | データストリームを表示するためのシステム及び方法 | |
US20070060798A1 (en) | System and method for presentation of data streams | |
JP7034102B2 (ja) | 対象の消化管における粘膜疾患の評価及び監視のためのシステム及び方法 | |
JP6342390B2 (ja) | 画像ストリームを表示するシステムおよび方法 | |
US10204411B2 (en) | System and method for sequential image analysis of an in vivo image stream | |
Al-Rahayfeh et al. | Detection of bleeding in wireless capsule endoscopy images using range ratio color | |
de Groen | Using artificial intelligence to improve adequacy of inspection in gastrointestinal endoscopy | |
Phillips et al. | Video capsule endoscopy: pushing the boundaries with software technology | |
Kanakatte et al. | Precise Bleeding and Red lesions localization from Capsule Endoscopy using Compact U-Net | |
JP5857367B2 (ja) | 医用画像表示制御装置、方法およびプログラム | |
JP2023549571A (ja) | セリアック病様疾患の指標を含む画像を識別するためのシステム及び方法 | |
Zachariah et al. | The potential of deep learning for gastrointestinal endoscopy—a disruptive new technology | |
KR20220056710A (ko) | 의료 영상 제공 방법 및 이를 이용한 디바이스 |