[26]以下の開示は、特徴符号化プロセスに関する方法、システムおよび装置に向けられたいくつかの実施形態を含み、特徴符号化プロセスは、本願明細書では、3部分の分類パイプラインを利用する局所制約スパース符号化(LSC)と称される。これらの3部分は、オフラインの教師なしコードブック学習と、オフラインの教師あり分類器訓練と、オンラインの画像および映像分類と、を含む。さらに、いくつかの実施形態では、LSC問題に対する高速近似解は、k近傍(K−NN)探索および交互方向乗数法(Alternating Direction Method of Multipliers:ADMM)に基づいて決定される。細胞分類のさまざまなシステム、方法および装置は、2つの細胞画像診断法、すなわち、共焦点レーザー内視鏡検査(CLE)およびデジタルホログラフィック顕微鏡検査(DHM)を参照して記載されている。しかしながら、この開示の各種実施形態がこれらの診断法に限定されず、さまざまな臨床設定において適用されてもよいことを理解されたい。さらに、本願明細書に記載されている技術がさまざまなタイプの医療画像の分類または自然画像の分類にさえ適用されてもよいことを理解されたい。
[27]図1は、いくつかの実施形態に従う、LSCを用いて特徴符号化を実行するのに用いられてもよい内視鏡検査ベースシステム100の一例を提供する。内視鏡検査は、簡潔には、組織学のような画像を人体内部からリアルタイムに「光学的生検」として公知のプロセスにより取得するための技術である。「内視鏡検査」という用語は、一般的に、蛍光共焦点顕微鏡検査を意味するが、多光子顕微鏡検査および光干渉断層撮影もまた内視鏡使用に適用され、同様に各種実施形態において用いられてもよい。市販の臨床内視鏡の非限定的な例は、PentaxのISC−1000/EC3870CIKおよびCellvizio(Mauna Kea Technologies、パリ、フランス)を含む。主要な用途は、従来は、消化管を画像処理する際、特にバレット食道、膵臓胞および結腸直腸の病変の診断および特性評価のためであった。共焦点内視鏡検査の診断スペクトルは、近年、結腸直腸癌のスクリーニングおよび監視から、バレット食道、ヘリコバクターピロリ関連の胃炎および初期の胃癌の方に拡大した。内視鏡検査は、腸粘膜および生体内組織構造の表面下の分析を、進行中の内視鏡検査の間最大分解能で点走査レーザー蛍光分析によって可能にする。細胞、脈管および接続構造は、詳細に見ることができる。共焦点レーザー内視鏡検査を用いて見られる新規な詳細画像は、腸の表面上および表面下にある細胞構造および機能における固有の観察を可能にする。さらに、以下で詳述するように、内視鏡検査は、悪性(膠芽腫)および良性(髄膜腫)の腫瘍を通常の組織から識別することが臨床的に重要である脳外科手術に適用されてもよい。
[28]図1の例において、一群のデバイスは、共焦点レーザー内視鏡検査(CLE)を実行するように構成される。これらのデバイスは、画像処理コンピュータ110に動作可能に結合されるプローブ105および画像処理ディスプレイ115を含む。図1において、プローブ105は、共焦点細径プローブである。しかしながら、さまざまなタイプの細径プローブが用いられてもよく、さまざまな視野、画像深さ、遠位端直径、方位分解能および距離分解能を画像処理するために設計されるプローブを含むことに留意されたい。画像処理コンピュータ110は、画像処理の間プローブ105により用いられる励起光またはレーザー源を提供する。さらに、画像処理コンピュータ110は、タスク、例えば、プローブ105によって収集される画像の記録、再構成、修正および/またはエクスポートを実行するための画像処理ソフトウェアを含んでもよい。画像処理コンピュータ110は、以下、図2を参照して詳述される細胞分類プロセスを実行するように構成されてもよい。
[29]フットペダル(図1に示されない)は、画像処理コンピュータ110に接続され、ユーザが機能を実行できるようにしてもよく、機能とは、例えば、共焦点画像処理透過の深さの調整、画像獲得の開始および終了、および/または、ローカルのハードドライブまたはリモートのデータベース、例えばデータベースサーバ125に画像を保存することである。代替的または追加的に、他の入力デバイス(例えば、コンピュータ、マウス等)が、画像処理コンピュータ110に接続され、これらの機能を実行してもよい。画像処理ディスプレイ115は、プローブ105によってキャプチャされる画像を、画像処理コンピュータ110を介して受信し、これらの画像を臨床設定において視認するために示す。
[30]図1の例を続けると、画像処理コンピュータ110は、ネットワーク120に(直接的または間接的に)接続される。ネットワーク120は、公知技術の任意のコンピュータネットワークを含んでもよく、イントラネットまたはインターネットを含むが、これらに限定されるものではない。ネットワーク120によって、画像処理コンピュータ110は、画像、映像または他の関連データをリモートのデータベースサーバ125に格納することができる。さらに、ユーザコンピュータ130は、画像処理コンピュータ110またはデータベースサーバ125と通信し、データ(例えば、画像、映像または他の関連データ)を検索することができ、このデータは、次に、ユーザコンピュータ130でローカルに処理可能である。例えば、ユーザコンピュータ130は、画像処理コンピュータ110またはデータベースサーバ125からデータを検索してもよく、そのデータを用いて、図2で後述する細胞分類プロセスを実行してもよい。
[31]図1は、CLEベースのシステムを示すが、他の実施形態では、システムは、DHM画像処理デバイスを代替的に用いてもよい。干渉位相顕微鏡検査としても知られるDHMは、透明な標本におけるナノメートル以下の光学的厚さ変化を量的に撮影する能力を提供する画像処理技術である。標本に関する強度(振幅)情報のみがキャプチャされる従来のデジタル顕微鏡検査とは異なり、DHMは、位相および強度の両方をキャプチャする。ホログラムとしてキャプチャされる位相情報は、コンピュータアルゴリズムを用いて、標本に関する拡張した形態学的情報(例えば、深さおよび表層特徴)を再構成するために使用可能である。最新のDHMの実施態様は、いくつかの追加の利点、例えば高速走査/データ獲得速度、低ノイズ、高分解能およびラベルなしのサンプル獲得の可能性を提供する。DHMは、1960年代に最初に記載されたが、計測器サイズ、動作の複雑性およびコストは、この技術を臨床またはポイントオブケア用途に広範囲に採用する際の大きな障害であった。最近の開発は、これらの障害に対処する試みをしながら、鍵となる特徴を強化し、DHMが医療および医療以外における中心的かつ多角的な重要技術として魅力的なオプションになりうる可能性を高めている。
[32]高分解能かつ広視野の画像処理を、拡張した深さおよび形態学的情報で、潜在的にラベルなしの方法で達成するDHMの能力は、いくつかの臨床用途に用いられる技術を位置付けし、臨床用途は、血液学(例えば、赤血球容積測定、白血球差、細胞種類分類)、尿沈渣分析(例えば、層内のマイクロ流体サンプルを走査して沈渣を再構成し、沈渣成分の分類精度を改善する)、組織病理学(例えば、DHMの拡張形態/コントラストを利用し、新しい組織内でラベル付けなく健康な細胞からガンを識別する)、希少細胞検出(例えば、DHMの拡張形態/コントラストを利用し、希少細胞、例えば循環腫瘍/上皮細胞、幹細胞、感染細胞等を区別する)を含む。DHM技術の最新の進歩、特にサイズ、複雑性およびコストの減少を考えると、これらおよび他の用途(図2において後述する細胞分類プロセスを含む)は、臨床環境内で、または、ポイントオブケアの分散的方法において実行可能である。
[33]図2は、本発明のいくつかの実施形態に従う、LSCを適用する細胞分類プロセス200の概要を提供する。このプロセス200は、3部分、すなわち、オフラインの教師なしコードブック学習と、オフラインの教師あり分類器訓練と、オンラインの画像および映像分類と、を備えるパイプラインとして示される。プロセス200の中心的要素は、局所的特徴抽出、特徴符号化、特徴プーリングおよび分類である。簡潔には、局所的特徴点は、入力画像上で検出され、記述は、各特徴点から抽出される。これらの記述は、例えば、ローカルバイナリーパターン(LBP)、スケール不変特徴変換(SIFT)、ガボール特徴および/または勾配方向ヒストグラム(HOG)を含んでもよい。局所的特徴を符号化するために、コードブックは、オフラインで学習される。m個のエントリを有するコードブックが適用され、各記述を量子化し、「符号」層を生成する。いくつかの実施形態では、K平均クラスタリング法が利用される。教師あり分類のために、各記述は、次に、Rm符号に変換される。最後に、分類器は、符号化特徴を用いて訓練される。この分類器は、従来技術において周知の任意の分類器を含んでもよく、例えば、サポートベクターマシン(SVM)および/またはランダムフォレスト分類器を含む。入力画像が映像ストリームベースであるいくつかの実施形態では、プロセス100は、隣接する画像からの視覚的刺激を組み込むことができる。これは、プロセスの性能を大幅に向上させる。入力画像が低コントラストであり、ほとんど分類情報を含まない他の実施態様では、プロセスは、それらの画像をさらなる処理から自動的に廃棄することができる。これは、プロセス100の全体的なロバストネスを増加させる。細胞分類プロセス200を実行するための各種要素は、いくつかの実施形態において適用されてもよいいくつかの追加の任意の特徴とともに、以下、より詳細に記載されている。
[34]細胞分類プロセス200の開始前に、エントロピーベースの画像剪定要素205を任意に用いて、低い画像テクスチャ情報を有する(例えば、低コントラストで、ほとんど分類情報を含まない)画像フレームであって、臨床的に興味がなく、画像分類に適さないかもしれない画像フレームを自動的に除去してもよい。この除去を用いて、例えば、いくつかのCLEデバイスの限定された画像処理能力を対象にしてもよい。画像エントロピーは、画像の「情報性」を記載するのに用いられる量であり、すなわち、画像内に含まれる情報の量である。低エントロピー画像は、ごくわずかなコントラストおよび同一または同様のグレー値を有する大量のピクセルを有する。一方、高エントロピー画像は、あるピクセルから次のピクセルまで多くのコントラストを有する。図3は、膠芽腫および髄膜腫の低エントロピーおよび高エントロピーの画像のセットを提供する。図示のように、低エントロピー画像は、多くの均一な画像領域を含み、一方、高エントロピー画像は、豊富な画像構造によって特徴付けられる。
[35]いくつかの実施形態では、エントロピーベースの画像剪定要素205は、エントロピー閾値を用いて剪定を実行する。この閾値は、データセットの全体にわたって画像エントロピーの分布に基づいて設定されてもよい。図4は、いくつかの実施形態において利用されてもよいような、脳腫瘍データセット画像内の画像エントロピー分布の一例を提供する。図示のように、エントロピーが残りの画像のエントロピーより著しく低い比較的多数の画像が存在する。このように、この例に関して、エントロピー閾値は、画像の10%が本システムの後のステージから廃棄されるように設定可能である(例えば、図4に示されるデータについては4.05)。
[36]局所的特徴220は、1つまたは複数の入力画像210から抽出される。さまざまな技術が、特徴抽出のために適用されてもよい。いくつかの実施形態では、局所的特徴220は、人間設計特徴を用いて抽出され、人間設計特徴は、例えば、スケール不変特徴変換(SIFT)、ローカルバイナリーパターン(LBP)、勾配方向ヒストグラム(HOG)およびガボール特徴であるが、これらに限定されるものではない。各技術は、臨床応用および他のユーザ所望の結果の特徴に基づいて構成されてもよい。例えば、SIFTは、コンピュータービジョンにおける多数の目的のために用いられてきた局所的特徴記述である。SIFTは、画像領域内の転換、回転およびスケーリング変換に不変であり、適度な透視変換および照明変動に強い。実験的に、SIFT記述は、現実世界の条件下で画像マッチングおよび物体認識のための実行に非常に役立つということが証明された。一実施形態では、10ピクセルの間隔を有する格子上で計算される20×20ピクセルのパッチの高密度のSIFT記述が利用される。この種の高密度の画像記述を用いて、細胞構造内の均一領域、例えば髄膜腫の場合には低コントラスト領域をキャプチャしてもよい。
[37]いくつかの実施形態では、人間設計特徴を用いるよりはむしろ、機械学習技術が用いられ、訓練画像から学習されたフィルタに基づいて、局所的特徴220を自動的に抽出する。これらの機械学習技術は、さまざまな検出技術を用いてもよく、検出技術は、エッジ検出、コーナー検出、塊検出、リッジ検出、エッジ方向、強度変化、動き検出および形状検出を含むが、これらに限定されるものではない。
[38]図2を続けて参照し、特徴符号化要素225は、符号化プロセスを適用し、各局所的特徴220をm次元の符号ci=[ci1,・・・,cim]T∈Rmに変換する。この変換は、m個のエントリのコードブックを用いて実行され、B=[bi,・・・,bn]∈Rd×nは、構成コードブック要素215によってオフラインで生成される。さまざまな技術が、コードブックを生成するために用いられてもよい。例えば、いくつかの実施形態では、k平均クラスタリングは、多数(例えば100000)の局所的特徴のランダムなサブセット上で実行され、訓練セットから抽出され、視覚語彙を形成する。各特徴クラスタは、例えば、ユークリッド距離ベースの全数近傍探索または階層的な語彙ツリー構造(バイナリ探索ツリー)を利用することによって取得されてもよい。
[39]さまざまなタイプの符号化プロセスは、特徴符号化要素225によって使用されてもよい。4つの例の符号化プロセス、すなわち、バッグオブワーズ(BoW)、スパース符号化、局所制約線形符号化(LLC)および局所制約スパース符号化(LSC)が本願明細書に記載されている。いくつかの実施形態では、特徴符号化要素225によって使用される符号化プロセスは、構成コードブック要素215によって生成されるコードブックのパラメータのいくつかを決定するのを支援してもよい。例えば、BoW方式のために、8のツリー深さを有する語彙ツリー構造が用いられてもよい。スパース符号化、LLCおよびLSCのために、ユークリッド距離ベースの全数近傍探索のk平均が用いられてもよい。
[40]Xが、画像から抽出されたd次元の局所記述のセットであるとする(すなわち、X=[x
i,・・・,x
n]∈R
d×n)。BoWが符号化プロセスとして使用される場合、局所的特徴x
iのために、1と、ただ1つのゼロ以外の符号化係数と、が存在する。ゼロ以外の符号化係数は、所定の距離に影響される最も近い視覚ワードに対応する。ユークリッドの距離が採用されると、符号c
iは、(1)のように計算されてもよい。
[41]スパース符号化方式において、各局所的特徴x
iは、コードブックの基底ベクトルのスパースセットの一次結合によって表される。係数ベクトルc
iは、l
1ノルム正則化問題を解くことによって(2)のように取得される。
ここで、||・||
1は、ベクトルのl
1ノルムを意味する。制約l
T・c
i=1は、スパース符号要件に従う。
[42]スパース符号化とは異なり、LLCは、スパース性の代わりにコードブックの局所性を強化する。これは、x
iからさらに離れた基底ベクトルのためのより小さい係数に至る。符号c
iは、(3)の正規化最小二乗誤差を解くことによって計算される。
ここで、◎は、要素ごとの乗算を意味し、d
i∈R
mは、局所適応(アダプタ)であり、異なる自由度をその類似性に比例した基礎ベクトルごとに入力記述x
iに与える。具体的には、(4)のとおりである。
ここで、dis(x
i,B)=[dis(x
i,b
1)・・・dis(x
i,b
m)]
Tであり、dis(x
i,b
j)は、x
iとb
jとの間のユークリッド距離である。σの値は、局所適応のための重み低下速度を調整するために用いられる。
[43]LSC機能符号化方法は、より良好な弁別力のための符号スパース性を実施するだけでなく、各記述がその局所座標系内で最良に符号化されるという意味で符号局所性も保存するという点で、従来方法に有利に匹敵する。具体的には、LSC符号は、(5)のように定式化可能である。
さまざまなアルゴリズムが従来のスパース符号化問題を解くために存在するが、それは、局所重みベクトルd
iのために、著しく挑戦的な最適化問題になる。いくつかの実施形態では、交互方向乗数法(ADMM)は、式(5)を解くために用いられる。第一に、ダミー変数y
i∈R
mが導入され、式(5)が(6)のように再公式化されてもよい。
次に、本発明では、上記の対象式の拡大ラグランジュ関数を形成することができ、(7)になる。
ADMMは、(8a)(8b)(8c)のように、3つの繰り返しを含む。
これによって、第1の問題は、一連の下位問題に分解可能である。下位問題8aにおいて、本発明では、y
iに関してのみ、
を最小化し、
は対象式から消え、対象式を非常に効率的かつ単純な最小二乗の回帰問題にする。下位問題8bにおいて、本発明では、c
iに関してのみ、
を最小化し、
は消え、c
iは、各要素にわたって独立して解くことができる。これによって、ここでは、ソフト閾値処理をより効率的に用いることができる。次に、y
iおよびc
iの現在の推定値は、下位問題8cに組み込まれ、ラグランジュ乗数ρおよびγの現在の推定値を更新する。ここで、ρおよびγが特別な役割を果たすことに留意されたい。なぜなら、ρおよびγによって、y
iおよびc
iの両方を解くとき、ρおよびγの不完全な推定値を使用することができるからである。便宜上、(9)のソフト閾値処理(収縮)演算子が使用されてもよい。
[44]図5は、いくつかの実施形態に従う、式(5)を解くためのアルゴリズムの追加の詳細を提供する。コードブックBのサイズは、アルゴリズムの計算時間に直接影響を及ぼす。LSCの高速近似解を見つけるために、本発明は、局所ベースB
iとしてx
iのK近傍(K<n)を単に用いることができ、はるかに小さいスパース再構成システムを解き、(10)の符号を得ることができる。
Kは、通常、非常に小さいので、式(10)を解くのは、非常に高速である。K近傍を探索するために、単純ではあるが、効率的な階層的なK−NN探索ストラテジを適用可能である。このようにして、非常に大きいコードブックを用いて、モデリング能力を改善するとともに、LSCの計算は、高速かつ効率的なままに維持される。
[45]図2に戻ると、特徴プーリング要素230は、1つまたは複数の特徴プーリング動作を適用し、特徴マップをまとめ、最終的な画像表現を生成する。特徴プーリング要素230は、例えば、最大プーリング、平均プーリングまたはこれらの組み合わせを含む従来周知の任意のプーリング技術を適用してもよい。例えば、いくつかの実施形態では、特徴プーリング要素230は、最大プーリング動作および平均プーリング動作の構成を用いる。例えば、各特徴マップは、規則的間隔の正方形パッチに分割されてもよく、最大プーリング動作が適用されてもよい(すなわち、各正方形パッチ上の特徴のための最大応答が決定されてもよい)。最大プーリング動作は、転換に対する局所不変性を可能にする。次に、最大応答の平均は、正方形パッチから計算されてもよい、すなわち、平均プーリングは、最大プーリング後に適用される。最後に、平均プーリング動作から特徴応答を集約することによって、画像表現が形成されてもよい。
[46]分類要素240は、1つまたは複数の所定の基準に基づいて、最終的な画像表現のための1つまたは複数のクラスラベルを識別する。分類要素240は、臨床研究に基づいて訓練および構成されてもよい1つまたは複数の分類器アルゴリズムを利用する。例えば、いくつかの実施形態では、分類器は、脳腫瘍データセットを用いて訓練され、その結果、画像を膠芽腫または髄膜腫にラベル付け(分類)することができる。さまざまなタイプの分類器アルゴリズムは、分類要素240により用いられてもよく、サポートベクターマシン(SVM)、k近傍(k−NN)およびランダムフォレストを含むが、これらに限定されるものではない。さらに、異なるタイプの分類器を組み合わせて用いることもできる。
[47]映像画像シーケンスのために、多数決要素245は、映像ストリームのための認識性能を高める多数決ベースの分類方式を任意に実行してもよい。このように、入力画像が映像ストリームベースである場合、プロセス200は、隣接する画像から視覚的刺激を組み込むことができる。多数決要素245は、因果関係を示す方法(causal fashion)で現行フレームを囲む固定長の時間窓内の画像の多数決結果を用いて、クラスラベルを現在の画像に割り当てる。窓の長さは、ユーザ入力に基づいて構成されてもよい。例えば、ユーザは、この種の値を導出するのに用いてもよい特定の長さの値または臨床設定を提供してもよい。あるいは、長さは、過去の結果の分析に基づいて、時間とともに動的に調整されてもよい。例えば、多数決要素245が不十分または準最適な結果を提供していることをユーザが示す場合、小さい値によって窓サイズを修正することによって窓を調整してもよい。時間とともに、多数決要素245は、細胞分類プロセス200によって処理されているデータタイプごとに、最適な窓の長さを学習することができる。
[48]細胞分類プロセス200の例示的応用として、白血球データセットを考慮し、白血球データセットは、T細胞、好中球、単球、好酸球および好塩基球を含む5つの白血球カテゴリの画像を備える。この種のデータセットの一例は、図6に示される。画像サイズは、120×120である。実験は、それぞれ細胞分類プロセスにより、BoW、LLCおよびLSCの使用の相違を評価するために実行された。図7Aは、訓練および試験のための血球データセットの詳細な統計を有するテーブルを提供する。図7Bは、白血球データセットに適用されるときの種々の方法の認識精度および速度を有するテーブルを提供する。図7Bに示すように、LSCは、ほぼすべての場合において、BoWおよびLLCより優れているとは言わないまでも同様に良好な認識を提供する。
[49]他の例として、脳腫瘍組織を検査するために患者の脳内に挿入されるCLEデバイス(図1参照)を用いて収集される内視鏡の映像を考慮する。この収集の結果は、膠芽腫のための映像セットおよび髄膜腫のための映像セットになってもよい。この種の映像において収集される画像の一例は、図3に示される。本願明細書において述べられる技術の性能を評価するために、分析は、1つの映像を抜き出す検証法(leave−one−video−out)を用いて実行された。より具体的には、第1段階として、10個の膠芽腫および10個の髄膜腫のシーケンスがランダムに選択された。次に、第2段階として、その第1のセットからのシーケンスの1対が試験のために選択され、残りのシーケンスが訓練のために選択された。次に、第3段階として、4000個の膠芽腫フレームおよび4000個の髄膜腫フレームが、訓練セットから選択される。実験は、10回繰り返された。図8Aに示すように、脳腫瘍は、顕微鏡の円領域内のみで視認できるので、円形マスクが各画像に適用され、局所的特徴は、円形マスク内のみから抽出される。図8Bは、本願明細書において記載されている種々の技術が、脳腫瘍データセットに適用されたときの認識精度および速度を詳述するテーブルを示す。
[50]さらに、本願明細書において記載されている多数決のための技術もまた、脳腫瘍データセットを用いて示されてもよい。図9は、時間窓サイズに対して多数決ベースの分類の性能を図示するグラフを示す。この例では、スライドする時間窓は、長さTに設定され、現行フレームのためのクラスラベルは、スライドする時間窓内のフレームの多数決の結果を用いて導出される。図9に示されるチャートには、時間窓の長さTに対する認識性能が与えられる。この例では、最適性能は、T=5で達成される。より高い認識精度がはるかに長い時間窓を用いて達成可能であることは大いにありうる。しかしながら、実際には、認識、速度および精度の間において、相対的重要性のバランスをとらなければならない。
[51]図10は、本発明の実施形態が実施されてもよい例示的なコンピューティング環境1000を示す。例えば、このコンピューティング環境1000を用いて、図1に示されている1つまたは複数のデバイスを実施し、図2に記載されている細胞分類プロセス200を実行してもよい。コンピューティング環境1000は、コンピュータシステム1010を含んでもよく、コンピュータシステム1010は、本発明の実施形態が実施されてもよいコンピューティングシステムの一例である。コンピュータおよびコンピューティング環境、例えばコンピュータシステム1010およびコンピューティング環境1000は、当業者に周知であるので、本願明細書では簡潔に記載されている。
[52]図10に示すように、コンピュータシステム1010は、コンピュータシステム1010内で情報を通信するための通信メカニズム、例えばバス1021または他の通信メカニズムを含んでもよい。コンピュータシステム1010は、バス1021に結合され、情報を処理するための1つまたは複数のプロセッサ1020をさらに含む。プロセッサ1020は、1つまたは複数の中央処理装置(CPU)、グラフィック処理装置(GPU)または他の任意の周知のプロセッサを含んでもよい。
[53]コンピュータシステム1010は、バス1021に結合され、プロセッサ1020によって実行される情報および命令を格納するためのシステムメモリ1030もまた含む。システムメモリ1030は、揮発性および/または不揮発性メモリの形のコンピュータ可読記憶媒体、例えば読み出し専用メモリ(ROM)1031および/またはランダムアクセスメモリ(RAM)1032を含んでもよい。システムメモリRAM1032は、他の動的なストレージデバイス(例えば、ダイナミックRAM、スタティックRAMおよび同期DRAM)を含んでもよい。システムメモリROM1031は、他のスタティックストレージデバイス(例えば、プログラマブルROM、消去可能なPROMおよび電気的消去可能PROM)を含んでもよい。さらに、システムメモリ1030を用いて、一時的な変数または他の中間情報を、プロセッサ1020による命令の実行中に格納してもよい。コンピュータシステム1010内の要素間で情報を転送するのに役立つ基本的なルーチンを含む基本入出力システム1033(BIOS)は、例えばスタートアップの間、ROM1031内に格納されてもよい。RAM1032は、直ちにアクセス可能である、および/または、現在プロセッサ1020によって動作されるデータおよび/またはプログラムモジュールを含んでもよい。システムメモリ1030は、例えば、オペレーティングシステム1034、アプリケーションプログラム1035、他のプログラムモジュール1036およびプログラムデータ1037をさらに含んでもよい。
[54]コンピュータシステム1010は、バス1021に結合され、1つまたは複数のストレージデバイスを制御し、情報および命令を格納するためのディスクコントローラ1040、例えばハードディスク1041および取り外し可能なメディアドライブ1042(例えば、フロッピーディスクドライブ、コンパクトディスクドライブ、テープドライブおよび/またはソリッドステートドライブ)もまた含む。ストレージデバイスは、コンピュータシステム1010に、適切なデバイスインタフェース(例えば、スカジ(SCSI)、インテグレートデバイスエレクトロニクス(IDE)、ユニバーサルシリアルバス(USB)またはファイヤーワイヤー)を用いて追加されてもよい。
[55]コンピュータシステム1010は、バス1021に結合され、ディスプレイ1066を制御するためのディスプレイコントローラ1065もまた含んでもよく、ディスプレイ1066は、例えば、情報をコンピュータユーザに表示するための陰極線管(CRT)または液晶ディスプレイ(LCD)である。コンピュータシステムは、入力インタフェース1060および1つまたは複数の入力デバイス、例えばキーボード1062およびポインティングデバイス1061を含み、コンピュータユーザと相互作用し、情報をプロセッサ1020に提供する。ポインティングデバイス1061は、例えば、マウス、トラックボールまたはポインティングスティックでもよく、指示情報および命令選択をプロセッサ1020に通信し、ディスプレイ上のカーソル移動を制御する。ディスプレイ1066は、タッチスクリーンインタフェースを提供してもよく、タッチスクリーンインタフェースによって、入力は、ポインティングデバイス1061による指示情報および命令選択の通信を補充または置換することができる。
[56]コンピュータシステム1010は、メモリ、例えばシステムメモリ1030内に含まれる1つまたは複数の命令の1つまたは複数のシーケンスを実行しているプロセッサ1020に応答して、本発明の実施形態の処理ステップの一部または全部を実行してもよい。この種の命令は、他のコンピュータ可読媒体、例えばハードディスク1041または取り外し可能メディアドライブ1042からシステムメモリ1030に読み込まれてもよい。ハードディスク1041は、本発明の実施形態により用いられる1つまたは複数のデータストアおよびデータファイルを含んでもよい。データストアコンテンツおよびデータファイルは、暗号化されセキュリティを改善してもよい。プロセッサ1020は、多重プロセス構成で使用され、システムメモリ1030内に含まれる命令の1つまたは複数のシーケンスを実行してもよい。代替実施形態では、配線回路が、ソフトウェア命令の代わりに、または、ソフトウェア命令と組み合わせて用いられてもよい。このように、実施形態は、ハードウェア回路およびソフトウェアのいかなる特定の組み合わせにも限定されない。
[57]上述したように、コンピュータシステム1010は、少なくとも1つのコンピュータ可読媒体またはメモリを含み、本発明の実施形態に従ってプログラムされる命令を保持し、本願明細書に記載されているデータ構造、テーブル、記録または他のデータを含んでもよい。本願明細書で用いられる「コンピュータ可読媒体」という用語は、命令をプロセッサ1020に提供し、実行することに関する任意の媒体を意味する。コンピュータ可読媒体は、不揮発性媒体、揮発性媒体および伝送媒体を含むが、これらに限定されず多くの形をとってもよい。不揮発性媒体の非限定的な例は、光ディスク、ソリッドステートドライブ、磁気ディスクおよび光磁気ディスク、例えばハードディスク1041または取り外し可能メディアドライブ1042を含む。揮発性媒体の非限定的な例は、ダイナミックメモリ、例えばシステムメモリ1030を含む。伝送媒体の非限定的な例は、同軸ケーブル、銅線およびファイバオプティクスを含み、バス1021を形成する線を含む。伝送媒体は、音響波または光波、例えば電波および赤外線通信の間生成される波の形をとってもよい。
[58]コンピューティング環境1000は、ネットワーク環境において、1つまたは複数のリモートコンピュータ、例えばリモートコンピュータ1080に対する論理接続を用いて動作するコンピュータシステム1010をさらに含んでもよい。リモートコンピュータ1080は、パーソナルコンピュータ(ラップトップまたはデスクトップ)、モバイル機器、サーバ、ルータ、ネットワークPC、ピアデバイスまたは他のコモンネットワークノードでもよく、典型的には、コンピュータシステム1010に関して上述した要素の多数または全部を含む。ネットワーク環境において用いられるとき、コンピュータシステム1010は、ネットワーク1071、例えばインターネットを介する通信を確立するためのモデム1072を含んでもよい。モデム1072は、バス1021に、ユーザネットワークインタフェース1070を介して、または、他の適切なメカニズムを介して接続されてもよい。
[59]ネットワーク1071は、従来技術において一般的に公知の任意のネットワークまたはシステムでもよく、インターネット、イントラネット、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、メトロポリタンエリアネットワーク(MAN)、直接接続または直列接続、携帯電話ネットワーク、または、コンピュータシステム1010と他のコンピュータ(例えば、リモートコンピュータ1080)との間の通信を容易にすることができる他の任意のネットワークまたは媒体を含む。ネットワーク1071は、有線、無線またはそれらの組み合わせでもよい。有線接続は、イーサネット、ユニバーサルシリアルバス(USB)、RJ−11または従来技術において一般的に公知の他の任意の有線接続を用いて実施されてもよい。無線接続は、Wi−Fi、WiMAXおよびブルートゥース、赤外線、携帯ネットワーク、衛星または従来技術において一般的に公知の他の任意の無線接続方法を用いて実施されてもよい。さらに、いくつかのネットワークは、単独でまたは互いに通信して機能し、ネットワーク1071内の通信を容易にしてもよい。
[60]本発明の実施形態は、ハードウェアおよびソフトウェアの任意の組み合わせによって実施されてもよい。さらに、本発明の実施形態は、例えばコンピュータ可読非一時的媒体を有する製品(例えば、1つまたは複数のコンピュータプログラム製品)に含まれてもよい。媒体は、本願明細書において、例えば、本発明の実施形態のメカニズムを提供および容易にするためのコンピュータ可読プログラム符号を実現してきた。製品は、コンピュータシステムの一部として含まれることもできるし、別々に売られることもできる。
[61]さまざまな態様および実施形態が本願明細書において開示されてきたが、他の態様および実施形態は、当業者にとって明らかである。本願明細書において開示されるさまざまな態様および実施形態は、説明のためであって、制限することを意図せず、真の範囲および精神は、以下の請求項によって示される。
[62]本願明細書で用いられる実行可能アプリケーションは、例えば、ユーザ命令または入力に応答して、プロセッサに所定の機能を実施するように調整するための符号または機械読み取り可能な命令を備え、所定の機能は、例えば、オペレーティングシステム、文脈データ獲得システムまたは他の情報処理システムの機能である。実行可能手順は、符号または機械可読命令のセグメント、サブルーチン、または、1つまたは複数の特定のプロセスを実行するための実行可能アプリケーションの部分または符号の他の異なるセクションである。これらのプロセスは、入力データおよび/またはパラメータの受信、受信した入力データ上の動作の実行および/または受信した入力パラメータに応答した機能の実行、結果として生じる出力データおよび/またはパラメータの提供を含んでもよい。
[63]本願明細書で用いられるグラフィカルユーザインタフェース(GUI)は、1つまたは複数の表示画像を含み、ディスプレイプロセッサによって生成され、プロセッサまたは他のデバイスとのユーザ相互作用、関連データの獲得および機能の処理を可能にする。GUIは、実行可能手順または実行可能アプリケーションもまた含む。実行可能手順または実行可能アプリケーションは、ディスプレイプロセッサにGUI表示画像を表す信号を生成するように調整する。これらの信号は、ユーザが見るための画像を表示するディスプレイデバイスに供給される。プロセッサは、実行可能手順または実行可能アプリケーションの制御下で、入力デバイスから受信する信号に応答して、GUI表示画像を操作する。このようにして、ユーザは、入力デバイスを用いて、表示画像と相互作用してもよく、プロセッサまたは他のデバイスとのユーザ相互作用を可能にする。
[64]本願明細書における機能およびプロセスステップは、自動的に実行されてもよいし、ユーザ命令に応答して完全にまたは部分的に実行されてもよい。自動的に実行される動作(ステップを含む)は、1つまたは複数の実行可能命令またはデバイス動作に応答して、ユーザが動作を直接開始することなく実行される。
[65]図面のシステムおよびプロセスは、排他的ではない。他のシステム、プロセスおよびメニューは、本発明の原理に従って同一の目的を達成するために導出されてもよい。本発明は、特定の実施形態を参照して記載されてきたが、本願明細書において図示および記載された実施形態およびバリエーションが単に図示目的のためだけであることを理解されたい。現在の設計に対する変更態様は、当業者によって、本発明の範囲を逸脱することなく実施されてもよい。本願明細書において記載されているように、さまざまなシステム、サブシステム、エージェント、マネージャおよびプロセスは、ハードウェア要素、ソフトウェア要素および/またはそれらの組み合わせを用いて実装可能である。本願明細書における請求項の要素は、その要素が「〜のための手段」という用語を用いて明確に記載されていない限り、米国特許法第112条第6段落の規定により解釈されるべきではない。