JP2018517188A - 細胞画像および映像の分類 - Google Patents

細胞画像および映像の分類 Download PDF

Info

Publication number
JP2018517188A
JP2018517188A JP2017546131A JP2017546131A JP2018517188A JP 2018517188 A JP2018517188 A JP 2018517188A JP 2017546131 A JP2017546131 A JP 2017546131A JP 2017546131 A JP2017546131 A JP 2017546131A JP 2018517188 A JP2018517188 A JP 2018517188A
Authority
JP
Japan
Prior art keywords
image
feature
images
encoding process
input images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017546131A
Other languages
English (en)
Inventor
ワン シャオフア
ワン シャオフア
スン シャンフイ
スン シャンフイ
クルックナー シュテファン
クルックナー シュテファン
チェン テレンス
チェン テレンス
カーメン アリ
カーメン アリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens AG
Original Assignee
Siemens AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens AG filed Critical Siemens AG
Publication of JP2018517188A publication Critical patent/JP2018517188A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/232Non-hierarchical techniques
    • G06F18/2321Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • G06F18/23213Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24147Distances to closest patterns, e.g. nearest neighbour classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Evolutionary Biology (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Analysis (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Investigating Or Analysing Biological Materials (AREA)

Abstract

細胞分類を実行する方法は、複数の局所的特徴記述(220)を入力画像のセット(210)から抽出するステップと、符号化プロセスを適用し、複数の局所的特徴記述の各々を多次元符号(225)に変換するステップと、を含む。特徴プーリング動作(230)は、複数の局所的特徴記述の各々に適用され、複数の画像表現を生成し、各画像表現は、複数の細胞タイプ(240)の1つとして分類される。

Description

関連出願についての相互参照
[1]この出願は、2015年3月2日に出願された米国仮出願番号第62/126,823号の優先権を主張し、この仮出願は、本願明細書に参照によってその全体が組み込まれる。
[2]本発明は、概して、細胞画像および映像の分類を実行する方法、システムおよび装置に関するものである。提案された技術は、例えば、内視鏡検査画像およびデジタルホログラフィック顕微鏡検査画像を分類するために適用されてもよい。
[3]生体内細胞画像処理は、画像処理システム、例えば内視鏡から獲得される画像を用いた、生きている細胞の研究である。蛍光タンパク質および合成フルオロフォア技術の最近の進歩のため、生体内細胞画像処理技術に向けられる研究努力の量は増加しており、生体内細胞画像処理技術は、細胞および組織機能の基本的な性質への洞察を提供する。生体内細胞画像処理技術は、現在複数のモダリティにわたり、例えば、多光子、スピニングディスク顕微鏡検査、蛍光、位相コントラストおよび差動干渉コントラストおよびレーザー走査共焦点ベースデバイスを含む。
[4]顕微鏡検査画像処理データが格納され、デジタル的に処理される量はさらに増加しているので、1つの挑戦は、これらの画像を分類し、医療処置の間、確実に画像を理解することである。これらの技術によって取得された結果を用いて、臨床医の手動/主観的な分析を支援してもよく、より信頼性が高く整合した試験結果を導く。従来のシステムでは、結果は、しばしば、時間がかかり、計算集約的な手動の試験手順を用いて獲得されなければならない。このために、手動の試験手順の欠点に対処するために、自動化技術(および関連するシステム)を提供し、生体内細胞画像のパターンを決定することが望ましい。
[5]本発明の実施形態は、本願明細書において、「局所制約スパース符号化」(LSC)と称される特徴符号化プロセスに関する方法、システムおよび装置を提供することによって、上述した欠点の1つまたは複数に対処および解決する。以下で詳述するように、LSCは、従来技術と比較してより良好な弁別力のための符号スパース性を強化するだけではなく、LSCは、各記述がその局所座標系内で最良に符号化されるという点で、符号化局所性を保存する。これらの技術は、さまざまな細胞画像および映像分類問題を含む任意の符号化ベースの画像分類問題に適用されてもよい。
[6]いくつかの実施形態によれば、細胞分類を実行する方法は、局所的特徴記述を入力画像のセットから抽出するステップと、符号化プロセスを適用し、局所的特徴記述の各々を多次元符号に変換するステップと、を含む。特徴プーリング動作は、複数の局所的特徴記述の各々に適用され、画像表現を生成する。次に、各画像表現は、複数の細胞タイプの1つとして分類される。いくつかの実施形態では、入力画像のセットは、映像ストリームを備え、それによって、各画像表現は、多数決を用いて所定の長さを有する時間窓内で分類される。
[7]さまざまな技術が、入力画像のセットを獲得するのに用いられてもよい。例えば、いくつかの実施形態では、複数の入力画像は、医療処置の間、例えば完全血球計算血液検査の間、例えば内視鏡検査デバイスまたはデジタルホログラフィック顕微鏡検査デバイスを介して獲得される。エントロピー値は、複数の入力画像ごとに計算される。各エントロピー値は、それぞれの画像内のテクスチャ情報の量を表す。次に、1つまたは複数の低エントロピー画像は、入力画像のセット内で識別される。これらの低エントロピー画像は、各々、閾値未満のそれぞれのエントロピー値に関連付けられる。次に、入力画像のセットは、複数の入力画像に基づいて生成され、低エントロピー画像を除外する。
[8]いくつかの実施形態では、上述した方法で用いられる符号化プロセスは、生成されたコードブックを用いてもよい。例えば、いくつかの実施形態では、訓練特徴は、画像の訓練セットから抽出される。k平均クラスタリングプロセスは、訓練特徴を用いて実行され、特徴クラスタを生成し、特徴クラスタは、次に、コードブックを生成するのに用いられる。k平均クラスタリングプロセスの正確な実施態様は、種々の実施形態に従って変化してもよい。例えば、一実施形態では、k平均クラスタリングプロセスは、全数近傍探索(exhaustive nearest neighbor search)に基づくユークリッド距離を用いて、特徴クラスタを取得する。他の実施態様では、k平均クラスタリングプロセスは、階層的な語彙ツリー探索に基づくユークリッド距離を用いて、特徴クラスタを取得する。コードブックが生成されると、符号化プロセスは、コードブックを用いて、局所的特徴記述の各々を多次元符号に変換してもよい。
[9]さらに、上述した方法で用いられる符号化プロセス自体の実施態様が種々の実施形態において変化してもよいことに留意されたい。いくつかの実施形態では、スパース符号化プロセスが用いられてもよい。例えば、一実施形態では、符号化プロセスは、局所制約線形符号化(LLC)の符号化プロセスである。他の実施形態では、符号化プロセスは、LSC符号化プロセスである。他の実施形態では、符号化プロセスは、バッグオブワーズ(BoW)符号化プロセスである。
[10]他の実施形態によれば、細胞分類を実行する第2の方法は、医療処置前に、訓練画像に基づいてコードブックを生成するステップを含む。医療処置の間、細胞分類プロセスが実行される。このプロセスは、例えば内視鏡検査デバイスを用いて、入力画像を獲得するステップを含んでもよい。入力画像に関連付けられた特徴記述が決定され、符号化プロセスが適用され、複数の特徴記述を符号化データセットに変換する。特徴プーリング動作は、符号化データセットに適用され、画像表現を生成し、訓練された分類器を用いて、その画像表現に対応するクラスラベルを識別する。識別されたクラスラベルは、例えば、入力画像を獲得した内視鏡検査デバイスに動作可能に結合されたディスプレイに示されてもよい。このクラスラベルは、情報、例えば、入力画像内の生物学的物質が悪性であるか、または、良性であるかの徴候を提供してもよい。上述した第2の方法の符号化プロセスの実施態様は、種々の実施形態に従って変化してもよい。例えば、一実施形態では、符号化プロセスは、特徴記述ごとに最適化問題を反復的に解くステップを含む。この最適化問題は、それぞれの特徴記述に対する符号スパース性および符号局所性を強化するように構成されてもよい。例えば、いくつかの実施形態では、k近傍法は、各特徴記述に適用され、複数の局所ベースを識別する。次に、各最適化問題における符号局所性は、これらの局所ベースを用いて強化されてもよい。各最適化問題は、例えば交互方向乗数のような方法を用いて解かれてもよい。
[11]他の実施形態によれば、細胞分類を実行するシステムは、顕微鏡検査デバイス、画像処理コンピュータおよびディスプレイを含む。顕微鏡検査デバイスは、医療処置の間、入力画像のセットを取得するように構成される。周知のさまざまな形の顕微鏡検査デバイスを用いてもよく、共焦点レーザー内視鏡検査デバイスまたはデジタルホログラフィック顕微鏡検査デバイスを含むが、これらに限定されるものではない。画像処理コンピュータは、医療処置の間、細胞分類プロセスを実行するように構成される。この細胞分類プロセスは、入力画像のセットに関連付けられた特徴記述を決定するステップと、符号化プロセスを適用し、特徴記述を符号化データセットに変換するステップと、特徴プーリング動作を符号化データセットに適用し、画像表現を生成するステップと、訓練された分類器を用いて、画像表現に対応するクラスラベルを識別するステップと、を含む。ディスプレイは、医療処置の間、クラスラベルを示すように構成される。
[12]本発明の追加の特徴および効果は、図示の実施形態の以下の詳細な説明から明らかになり、添付の図面を参照しながら詳細な説明を開始する。
[13]本発明の前述の態様および他の態様は、添付の図面に関連して読まれると、以下の詳細な説明から最も理解される。本発明を例示するために、図面には、現在好適な実施形態が示されるが、本発明が開示される特定の手段に限定されないことを理解されたい。図面には、以下の図が含まれる。
いくつかの実施形態に従う、細胞分類を実行するのに用いてもよい内視鏡検査ベースシステムの一例を提供する。 本発明のいくつかの実施形態において適用されてもよい細胞分類プロセスの概要を提供する。 膠芽腫および髄膜腫の低エントロピーおよび高エントロピーの画像のセットを提供する。 いくつかの実施形態において利用されてもよいような、脳腫瘍データセット画像内の画像エントロピー分布の一例を提供する。 いくつかの実施形態に従う、フィルタ学習の間用いられてもよい交互投影法の一例を提供する。 いくつかの実施形態において用いられてもよい血球データセットからの細胞画像の一例を提供する。 本願明細書に記載されている技術を用いて収集されてもよいような、訓練および試験のための白血球データセットの詳細な統計を有するテーブルを提供する。 いくつかの実施形態に従う、白血球データセットに適用されるときの、種々の方法の認識精度および速度を有するテーブルを提供する。 いくつかの実施形態において収集および利用されてもよいような、膠芽腫および髄膜腫の低エントロピーおよび高エントロピーの画像の図を提供する。 いくつかの実施形態に従う、脳腫瘍データセット上の種々の分類方法の認識精度および速度の図を提供する。 いくつかの実施形態に従う、時間窓サイズに対して多数決ベースの分類の性能を図示するグラフを示す。 本発明の実施形態が実施されてもよい例示的なコンピューティング環境を示す。
[26]以下の開示は、特徴符号化プロセスに関する方法、システムおよび装置に向けられたいくつかの実施形態を含み、特徴符号化プロセスは、本願明細書では、3部分の分類パイプラインを利用する局所制約スパース符号化(LSC)と称される。これらの3部分は、オフラインの教師なしコードブック学習と、オフラインの教師あり分類器訓練と、オンラインの画像および映像分類と、を含む。さらに、いくつかの実施形態では、LSC問題に対する高速近似解は、k近傍(K−NN)探索および交互方向乗数法(Alternating Direction Method of Multipliers:ADMM)に基づいて決定される。細胞分類のさまざまなシステム、方法および装置は、2つの細胞画像診断法、すなわち、共焦点レーザー内視鏡検査(CLE)およびデジタルホログラフィック顕微鏡検査(DHM)を参照して記載されている。しかしながら、この開示の各種実施形態がこれらの診断法に限定されず、さまざまな臨床設定において適用されてもよいことを理解されたい。さらに、本願明細書に記載されている技術がさまざまなタイプの医療画像の分類または自然画像の分類にさえ適用されてもよいことを理解されたい。
[27]図1は、いくつかの実施形態に従う、LSCを用いて特徴符号化を実行するのに用いられてもよい内視鏡検査ベースシステム100の一例を提供する。内視鏡検査は、簡潔には、組織学のような画像を人体内部からリアルタイムに「光学的生検」として公知のプロセスにより取得するための技術である。「内視鏡検査」という用語は、一般的に、蛍光共焦点顕微鏡検査を意味するが、多光子顕微鏡検査および光干渉断層撮影もまた内視鏡使用に適用され、同様に各種実施形態において用いられてもよい。市販の臨床内視鏡の非限定的な例は、PentaxのISC−1000/EC3870CIKおよびCellvizio(Mauna Kea Technologies、パリ、フランス)を含む。主要な用途は、従来は、消化管を画像処理する際、特にバレット食道、膵臓胞および結腸直腸の病変の診断および特性評価のためであった。共焦点内視鏡検査の診断スペクトルは、近年、結腸直腸癌のスクリーニングおよび監視から、バレット食道、ヘリコバクターピロリ関連の胃炎および初期の胃癌の方に拡大した。内視鏡検査は、腸粘膜および生体内組織構造の表面下の分析を、進行中の内視鏡検査の間最大分解能で点走査レーザー蛍光分析によって可能にする。細胞、脈管および接続構造は、詳細に見ることができる。共焦点レーザー内視鏡検査を用いて見られる新規な詳細画像は、腸の表面上および表面下にある細胞構造および機能における固有の観察を可能にする。さらに、以下で詳述するように、内視鏡検査は、悪性(膠芽腫)および良性(髄膜腫)の腫瘍を通常の組織から識別することが臨床的に重要である脳外科手術に適用されてもよい。
[28]図1の例において、一群のデバイスは、共焦点レーザー内視鏡検査(CLE)を実行するように構成される。これらのデバイスは、画像処理コンピュータ110に動作可能に結合されるプローブ105および画像処理ディスプレイ115を含む。図1において、プローブ105は、共焦点細径プローブである。しかしながら、さまざまなタイプの細径プローブが用いられてもよく、さまざまな視野、画像深さ、遠位端直径、方位分解能および距離分解能を画像処理するために設計されるプローブを含むことに留意されたい。画像処理コンピュータ110は、画像処理の間プローブ105により用いられる励起光またはレーザー源を提供する。さらに、画像処理コンピュータ110は、タスク、例えば、プローブ105によって収集される画像の記録、再構成、修正および/またはエクスポートを実行するための画像処理ソフトウェアを含んでもよい。画像処理コンピュータ110は、以下、図2を参照して詳述される細胞分類プロセスを実行するように構成されてもよい。
[29]フットペダル(図1に示されない)は、画像処理コンピュータ110に接続され、ユーザが機能を実行できるようにしてもよく、機能とは、例えば、共焦点画像処理透過の深さの調整、画像獲得の開始および終了、および/または、ローカルのハードドライブまたはリモートのデータベース、例えばデータベースサーバ125に画像を保存することである。代替的または追加的に、他の入力デバイス(例えば、コンピュータ、マウス等)が、画像処理コンピュータ110に接続され、これらの機能を実行してもよい。画像処理ディスプレイ115は、プローブ105によってキャプチャされる画像を、画像処理コンピュータ110を介して受信し、これらの画像を臨床設定において視認するために示す。
[30]図1の例を続けると、画像処理コンピュータ110は、ネットワーク120に(直接的または間接的に)接続される。ネットワーク120は、公知技術の任意のコンピュータネットワークを含んでもよく、イントラネットまたはインターネットを含むが、これらに限定されるものではない。ネットワーク120によって、画像処理コンピュータ110は、画像、映像または他の関連データをリモートのデータベースサーバ125に格納することができる。さらに、ユーザコンピュータ130は、画像処理コンピュータ110またはデータベースサーバ125と通信し、データ(例えば、画像、映像または他の関連データ)を検索することができ、このデータは、次に、ユーザコンピュータ130でローカルに処理可能である。例えば、ユーザコンピュータ130は、画像処理コンピュータ110またはデータベースサーバ125からデータを検索してもよく、そのデータを用いて、図2で後述する細胞分類プロセスを実行してもよい。
[31]図1は、CLEベースのシステムを示すが、他の実施形態では、システムは、DHM画像処理デバイスを代替的に用いてもよい。干渉位相顕微鏡検査としても知られるDHMは、透明な標本におけるナノメートル以下の光学的厚さ変化を量的に撮影する能力を提供する画像処理技術である。標本に関する強度(振幅)情報のみがキャプチャされる従来のデジタル顕微鏡検査とは異なり、DHMは、位相および強度の両方をキャプチャする。ホログラムとしてキャプチャされる位相情報は、コンピュータアルゴリズムを用いて、標本に関する拡張した形態学的情報(例えば、深さおよび表層特徴)を再構成するために使用可能である。最新のDHMの実施態様は、いくつかの追加の利点、例えば高速走査/データ獲得速度、低ノイズ、高分解能およびラベルなしのサンプル獲得の可能性を提供する。DHMは、1960年代に最初に記載されたが、計測器サイズ、動作の複雑性およびコストは、この技術を臨床またはポイントオブケア用途に広範囲に採用する際の大きな障害であった。最近の開発は、これらの障害に対処する試みをしながら、鍵となる特徴を強化し、DHMが医療および医療以外における中心的かつ多角的な重要技術として魅力的なオプションになりうる可能性を高めている。
[32]高分解能かつ広視野の画像処理を、拡張した深さおよび形態学的情報で、潜在的にラベルなしの方法で達成するDHMの能力は、いくつかの臨床用途に用いられる技術を位置付けし、臨床用途は、血液学(例えば、赤血球容積測定、白血球差、細胞種類分類)、尿沈渣分析(例えば、層内のマイクロ流体サンプルを走査して沈渣を再構成し、沈渣成分の分類精度を改善する)、組織病理学(例えば、DHMの拡張形態/コントラストを利用し、新しい組織内でラベル付けなく健康な細胞からガンを識別する)、希少細胞検出(例えば、DHMの拡張形態/コントラストを利用し、希少細胞、例えば循環腫瘍/上皮細胞、幹細胞、感染細胞等を区別する)を含む。DHM技術の最新の進歩、特にサイズ、複雑性およびコストの減少を考えると、これらおよび他の用途(図2において後述する細胞分類プロセスを含む)は、臨床環境内で、または、ポイントオブケアの分散的方法において実行可能である。
[33]図2は、本発明のいくつかの実施形態に従う、LSCを適用する細胞分類プロセス200の概要を提供する。このプロセス200は、3部分、すなわち、オフラインの教師なしコードブック学習と、オフラインの教師あり分類器訓練と、オンラインの画像および映像分類と、を備えるパイプラインとして示される。プロセス200の中心的要素は、局所的特徴抽出、特徴符号化、特徴プーリングおよび分類である。簡潔には、局所的特徴点は、入力画像上で検出され、記述は、各特徴点から抽出される。これらの記述は、例えば、ローカルバイナリーパターン(LBP)、スケール不変特徴変換(SIFT)、ガボール特徴および/または勾配方向ヒストグラム(HOG)を含んでもよい。局所的特徴を符号化するために、コードブックは、オフラインで学習される。m個のエントリを有するコードブックが適用され、各記述を量子化し、「符号」層を生成する。いくつかの実施形態では、K平均クラスタリング法が利用される。教師あり分類のために、各記述は、次に、R符号に変換される。最後に、分類器は、符号化特徴を用いて訓練される。この分類器は、従来技術において周知の任意の分類器を含んでもよく、例えば、サポートベクターマシン(SVM)および/またはランダムフォレスト分類器を含む。入力画像が映像ストリームベースであるいくつかの実施形態では、プロセス100は、隣接する画像からの視覚的刺激を組み込むことができる。これは、プロセスの性能を大幅に向上させる。入力画像が低コントラストであり、ほとんど分類情報を含まない他の実施態様では、プロセスは、それらの画像をさらなる処理から自動的に廃棄することができる。これは、プロセス100の全体的なロバストネスを増加させる。細胞分類プロセス200を実行するための各種要素は、いくつかの実施形態において適用されてもよいいくつかの追加の任意の特徴とともに、以下、より詳細に記載されている。
[34]細胞分類プロセス200の開始前に、エントロピーベースの画像剪定要素205を任意に用いて、低い画像テクスチャ情報を有する(例えば、低コントラストで、ほとんど分類情報を含まない)画像フレームであって、臨床的に興味がなく、画像分類に適さないかもしれない画像フレームを自動的に除去してもよい。この除去を用いて、例えば、いくつかのCLEデバイスの限定された画像処理能力を対象にしてもよい。画像エントロピーは、画像の「情報性」を記載するのに用いられる量であり、すなわち、画像内に含まれる情報の量である。低エントロピー画像は、ごくわずかなコントラストおよび同一または同様のグレー値を有する大量のピクセルを有する。一方、高エントロピー画像は、あるピクセルから次のピクセルまで多くのコントラストを有する。図3は、膠芽腫および髄膜腫の低エントロピーおよび高エントロピーの画像のセットを提供する。図示のように、低エントロピー画像は、多くの均一な画像領域を含み、一方、高エントロピー画像は、豊富な画像構造によって特徴付けられる。
[35]いくつかの実施形態では、エントロピーベースの画像剪定要素205は、エントロピー閾値を用いて剪定を実行する。この閾値は、データセットの全体にわたって画像エントロピーの分布に基づいて設定されてもよい。図4は、いくつかの実施形態において利用されてもよいような、脳腫瘍データセット画像内の画像エントロピー分布の一例を提供する。図示のように、エントロピーが残りの画像のエントロピーより著しく低い比較的多数の画像が存在する。このように、この例に関して、エントロピー閾値は、画像の10%が本システムの後のステージから廃棄されるように設定可能である(例えば、図4に示されるデータについては4.05)。
[36]局所的特徴220は、1つまたは複数の入力画像210から抽出される。さまざまな技術が、特徴抽出のために適用されてもよい。いくつかの実施形態では、局所的特徴220は、人間設計特徴を用いて抽出され、人間設計特徴は、例えば、スケール不変特徴変換(SIFT)、ローカルバイナリーパターン(LBP)、勾配方向ヒストグラム(HOG)およびガボール特徴であるが、これらに限定されるものではない。各技術は、臨床応用および他のユーザ所望の結果の特徴に基づいて構成されてもよい。例えば、SIFTは、コンピュータービジョンにおける多数の目的のために用いられてきた局所的特徴記述である。SIFTは、画像領域内の転換、回転およびスケーリング変換に不変であり、適度な透視変換および照明変動に強い。実験的に、SIFT記述は、現実世界の条件下で画像マッチングおよび物体認識のための実行に非常に役立つということが証明された。一実施形態では、10ピクセルの間隔を有する格子上で計算される20×20ピクセルのパッチの高密度のSIFT記述が利用される。この種の高密度の画像記述を用いて、細胞構造内の均一領域、例えば髄膜腫の場合には低コントラスト領域をキャプチャしてもよい。
[37]いくつかの実施形態では、人間設計特徴を用いるよりはむしろ、機械学習技術が用いられ、訓練画像から学習されたフィルタに基づいて、局所的特徴220を自動的に抽出する。これらの機械学習技術は、さまざまな検出技術を用いてもよく、検出技術は、エッジ検出、コーナー検出、塊検出、リッジ検出、エッジ方向、強度変化、動き検出および形状検出を含むが、これらに限定されるものではない。
[38]図2を続けて参照し、特徴符号化要素225は、符号化プロセスを適用し、各局所的特徴220をm次元の符号c=[ci1,・・・,cim∈Rに変換する。この変換は、m個のエントリのコードブックを用いて実行され、B=[b,・・・,b]∈Rd×nは、構成コードブック要素215によってオフラインで生成される。さまざまな技術が、コードブックを生成するために用いられてもよい。例えば、いくつかの実施形態では、k平均クラスタリングは、多数(例えば100000)の局所的特徴のランダムなサブセット上で実行され、訓練セットから抽出され、視覚語彙を形成する。各特徴クラスタは、例えば、ユークリッド距離ベースの全数近傍探索または階層的な語彙ツリー構造(バイナリ探索ツリー)を利用することによって取得されてもよい。
[39]さまざまなタイプの符号化プロセスは、特徴符号化要素225によって使用されてもよい。4つの例の符号化プロセス、すなわち、バッグオブワーズ(BoW)、スパース符号化、局所制約線形符号化(LLC)および局所制約スパース符号化(LSC)が本願明細書に記載されている。いくつかの実施形態では、特徴符号化要素225によって使用される符号化プロセスは、構成コードブック要素215によって生成されるコードブックのパラメータのいくつかを決定するのを支援してもよい。例えば、BoW方式のために、8のツリー深さを有する語彙ツリー構造が用いられてもよい。スパース符号化、LLCおよびLSCのために、ユークリッド距離ベースの全数近傍探索のk平均が用いられてもよい。
[40]Xが、画像から抽出されたd次元の局所記述のセットであるとする(すなわち、X=[x,・・・,x]∈Rd×n)。BoWが符号化プロセスとして使用される場合、局所的特徴xのために、1と、ただ1つのゼロ以外の符号化係数と、が存在する。ゼロ以外の符号化係数は、所定の距離に影響される最も近い視覚ワードに対応する。ユークリッドの距離が採用されると、符号cは、(1)のように計算されてもよい。
Figure 2018517188
[41]スパース符号化方式において、各局所的特徴xは、コードブックの基底ベクトルのスパースセットの一次結合によって表される。係数ベクトルcは、lノルム正則化問題を解くことによって(2)のように取得される。
Figure 2018517188
ここで、||・||は、ベクトルのlノルムを意味する。制約l・c=1は、スパース符号要件に従う。
[42]スパース符号化とは異なり、LLCは、スパース性の代わりにコードブックの局所性を強化する。これは、xからさらに離れた基底ベクトルのためのより小さい係数に至る。符号cは、(3)の正規化最小二乗誤差を解くことによって計算される。
Figure 2018517188
ここで、◎は、要素ごとの乗算を意味し、d∈Rは、局所適応(アダプタ)であり、異なる自由度をその類似性に比例した基礎ベクトルごとに入力記述xに与える。具体的には、(4)のとおりである。
Figure 2018517188
ここで、dis(x,B)=[dis(x,b)・・・dis(x,b)]であり、dis(x,b)は、xとbとの間のユークリッド距離である。σの値は、局所適応のための重み低下速度を調整するために用いられる。
[43]LSC機能符号化方法は、より良好な弁別力のための符号スパース性を実施するだけでなく、各記述がその局所座標系内で最良に符号化されるという意味で符号局所性も保存するという点で、従来方法に有利に匹敵する。具体的には、LSC符号は、(5)のように定式化可能である。
Figure 2018517188
さまざまなアルゴリズムが従来のスパース符号化問題を解くために存在するが、それは、局所重みベクトルdのために、著しく挑戦的な最適化問題になる。いくつかの実施形態では、交互方向乗数法(ADMM)は、式(5)を解くために用いられる。第一に、ダミー変数y∈Rが導入され、式(5)が(6)のように再公式化されてもよい。
Figure 2018517188
次に、本発明では、上記の対象式の拡大ラグランジュ関数を形成することができ、(7)になる。
Figure 2018517188
ADMMは、(8a)(8b)(8c)のように、3つの繰り返しを含む。
Figure 2018517188
これによって、第1の問題は、一連の下位問題に分解可能である。下位問題8aにおいて、本発明では、yに関してのみ、
Figure 2018517188
を最小化し、
Figure 2018517188
は対象式から消え、対象式を非常に効率的かつ単純な最小二乗の回帰問題にする。下位問題8bにおいて、本発明では、cに関してのみ、
Figure 2018517188
を最小化し、
Figure 2018517188
は消え、cは、各要素にわたって独立して解くことができる。これによって、ここでは、ソフト閾値処理をより効率的に用いることができる。次に、yおよびcの現在の推定値は、下位問題8cに組み込まれ、ラグランジュ乗数ρおよびγの現在の推定値を更新する。ここで、ρおよびγが特別な役割を果たすことに留意されたい。なぜなら、ρおよびγによって、yおよびcの両方を解くとき、ρおよびγの不完全な推定値を使用することができるからである。便宜上、(9)のソフト閾値処理(収縮)演算子が使用されてもよい。
Figure 2018517188
[44]図5は、いくつかの実施形態に従う、式(5)を解くためのアルゴリズムの追加の詳細を提供する。コードブックBのサイズは、アルゴリズムの計算時間に直接影響を及ぼす。LSCの高速近似解を見つけるために、本発明は、局所ベースBとしてxのK近傍(K<n)を単に用いることができ、はるかに小さいスパース再構成システムを解き、(10)の符号を得ることができる。
Figure 2018517188
Kは、通常、非常に小さいので、式(10)を解くのは、非常に高速である。K近傍を探索するために、単純ではあるが、効率的な階層的なK−NN探索ストラテジを適用可能である。このようにして、非常に大きいコードブックを用いて、モデリング能力を改善するとともに、LSCの計算は、高速かつ効率的なままに維持される。
[45]図2に戻ると、特徴プーリング要素230は、1つまたは複数の特徴プーリング動作を適用し、特徴マップをまとめ、最終的な画像表現を生成する。特徴プーリング要素230は、例えば、最大プーリング、平均プーリングまたはこれらの組み合わせを含む従来周知の任意のプーリング技術を適用してもよい。例えば、いくつかの実施形態では、特徴プーリング要素230は、最大プーリング動作および平均プーリング動作の構成を用いる。例えば、各特徴マップは、規則的間隔の正方形パッチに分割されてもよく、最大プーリング動作が適用されてもよい(すなわち、各正方形パッチ上の特徴のための最大応答が決定されてもよい)。最大プーリング動作は、転換に対する局所不変性を可能にする。次に、最大応答の平均は、正方形パッチから計算されてもよい、すなわち、平均プーリングは、最大プーリング後に適用される。最後に、平均プーリング動作から特徴応答を集約することによって、画像表現が形成されてもよい。
[46]分類要素240は、1つまたは複数の所定の基準に基づいて、最終的な画像表現のための1つまたは複数のクラスラベルを識別する。分類要素240は、臨床研究に基づいて訓練および構成されてもよい1つまたは複数の分類器アルゴリズムを利用する。例えば、いくつかの実施形態では、分類器は、脳腫瘍データセットを用いて訓練され、その結果、画像を膠芽腫または髄膜腫にラベル付け(分類)することができる。さまざまなタイプの分類器アルゴリズムは、分類要素240により用いられてもよく、サポートベクターマシン(SVM)、k近傍(k−NN)およびランダムフォレストを含むが、これらに限定されるものではない。さらに、異なるタイプの分類器を組み合わせて用いることもできる。
[47]映像画像シーケンスのために、多数決要素245は、映像ストリームのための認識性能を高める多数決ベースの分類方式を任意に実行してもよい。このように、入力画像が映像ストリームベースである場合、プロセス200は、隣接する画像から視覚的刺激を組み込むことができる。多数決要素245は、因果関係を示す方法(causal fashion)で現行フレームを囲む固定長の時間窓内の画像の多数決結果を用いて、クラスラベルを現在の画像に割り当てる。窓の長さは、ユーザ入力に基づいて構成されてもよい。例えば、ユーザは、この種の値を導出するのに用いてもよい特定の長さの値または臨床設定を提供してもよい。あるいは、長さは、過去の結果の分析に基づいて、時間とともに動的に調整されてもよい。例えば、多数決要素245が不十分または準最適な結果を提供していることをユーザが示す場合、小さい値によって窓サイズを修正することによって窓を調整してもよい。時間とともに、多数決要素245は、細胞分類プロセス200によって処理されているデータタイプごとに、最適な窓の長さを学習することができる。
[48]細胞分類プロセス200の例示的応用として、白血球データセットを考慮し、白血球データセットは、T細胞、好中球、単球、好酸球および好塩基球を含む5つの白血球カテゴリの画像を備える。この種のデータセットの一例は、図6に示される。画像サイズは、120×120である。実験は、それぞれ細胞分類プロセスにより、BoW、LLCおよびLSCの使用の相違を評価するために実行された。図7Aは、訓練および試験のための血球データセットの詳細な統計を有するテーブルを提供する。図7Bは、白血球データセットに適用されるときの種々の方法の認識精度および速度を有するテーブルを提供する。図7Bに示すように、LSCは、ほぼすべての場合において、BoWおよびLLCより優れているとは言わないまでも同様に良好な認識を提供する。
[49]他の例として、脳腫瘍組織を検査するために患者の脳内に挿入されるCLEデバイス(図1参照)を用いて収集される内視鏡の映像を考慮する。この収集の結果は、膠芽腫のための映像セットおよび髄膜腫のための映像セットになってもよい。この種の映像において収集される画像の一例は、図3に示される。本願明細書において述べられる技術の性能を評価するために、分析は、1つの映像を抜き出す検証法(leave−one−video−out)を用いて実行された。より具体的には、第1段階として、10個の膠芽腫および10個の髄膜腫のシーケンスがランダムに選択された。次に、第2段階として、その第1のセットからのシーケンスの1対が試験のために選択され、残りのシーケンスが訓練のために選択された。次に、第3段階として、4000個の膠芽腫フレームおよび4000個の髄膜腫フレームが、訓練セットから選択される。実験は、10回繰り返された。図8Aに示すように、脳腫瘍は、顕微鏡の円領域内のみで視認できるので、円形マスクが各画像に適用され、局所的特徴は、円形マスク内のみから抽出される。図8Bは、本願明細書において記載されている種々の技術が、脳腫瘍データセットに適用されたときの認識精度および速度を詳述するテーブルを示す。
[50]さらに、本願明細書において記載されている多数決のための技術もまた、脳腫瘍データセットを用いて示されてもよい。図9は、時間窓サイズに対して多数決ベースの分類の性能を図示するグラフを示す。この例では、スライドする時間窓は、長さTに設定され、現行フレームのためのクラスラベルは、スライドする時間窓内のフレームの多数決の結果を用いて導出される。図9に示されるチャートには、時間窓の長さTに対する認識性能が与えられる。この例では、最適性能は、T=5で達成される。より高い認識精度がはるかに長い時間窓を用いて達成可能であることは大いにありうる。しかしながら、実際には、認識、速度および精度の間において、相対的重要性のバランスをとらなければならない。
[51]図10は、本発明の実施形態が実施されてもよい例示的なコンピューティング環境1000を示す。例えば、このコンピューティング環境1000を用いて、図1に示されている1つまたは複数のデバイスを実施し、図2に記載されている細胞分類プロセス200を実行してもよい。コンピューティング環境1000は、コンピュータシステム1010を含んでもよく、コンピュータシステム1010は、本発明の実施形態が実施されてもよいコンピューティングシステムの一例である。コンピュータおよびコンピューティング環境、例えばコンピュータシステム1010およびコンピューティング環境1000は、当業者に周知であるので、本願明細書では簡潔に記載されている。
[52]図10に示すように、コンピュータシステム1010は、コンピュータシステム1010内で情報を通信するための通信メカニズム、例えばバス1021または他の通信メカニズムを含んでもよい。コンピュータシステム1010は、バス1021に結合され、情報を処理するための1つまたは複数のプロセッサ1020をさらに含む。プロセッサ1020は、1つまたは複数の中央処理装置(CPU)、グラフィック処理装置(GPU)または他の任意の周知のプロセッサを含んでもよい。
[53]コンピュータシステム1010は、バス1021に結合され、プロセッサ1020によって実行される情報および命令を格納するためのシステムメモリ1030もまた含む。システムメモリ1030は、揮発性および/または不揮発性メモリの形のコンピュータ可読記憶媒体、例えば読み出し専用メモリ(ROM)1031および/またはランダムアクセスメモリ(RAM)1032を含んでもよい。システムメモリRAM1032は、他の動的なストレージデバイス(例えば、ダイナミックRAM、スタティックRAMおよび同期DRAM)を含んでもよい。システムメモリROM1031は、他のスタティックストレージデバイス(例えば、プログラマブルROM、消去可能なPROMおよび電気的消去可能PROM)を含んでもよい。さらに、システムメモリ1030を用いて、一時的な変数または他の中間情報を、プロセッサ1020による命令の実行中に格納してもよい。コンピュータシステム1010内の要素間で情報を転送するのに役立つ基本的なルーチンを含む基本入出力システム1033(BIOS)は、例えばスタートアップの間、ROM1031内に格納されてもよい。RAM1032は、直ちにアクセス可能である、および/または、現在プロセッサ1020によって動作されるデータおよび/またはプログラムモジュールを含んでもよい。システムメモリ1030は、例えば、オペレーティングシステム1034、アプリケーションプログラム1035、他のプログラムモジュール1036およびプログラムデータ1037をさらに含んでもよい。
[54]コンピュータシステム1010は、バス1021に結合され、1つまたは複数のストレージデバイスを制御し、情報および命令を格納するためのディスクコントローラ1040、例えばハードディスク1041および取り外し可能なメディアドライブ1042(例えば、フロッピーディスクドライブ、コンパクトディスクドライブ、テープドライブおよび/またはソリッドステートドライブ)もまた含む。ストレージデバイスは、コンピュータシステム1010に、適切なデバイスインタフェース(例えば、スカジ(SCSI)、インテグレートデバイスエレクトロニクス(IDE)、ユニバーサルシリアルバス(USB)またはファイヤーワイヤー)を用いて追加されてもよい。
[55]コンピュータシステム1010は、バス1021に結合され、ディスプレイ1066を制御するためのディスプレイコントローラ1065もまた含んでもよく、ディスプレイ1066は、例えば、情報をコンピュータユーザに表示するための陰極線管(CRT)または液晶ディスプレイ(LCD)である。コンピュータシステムは、入力インタフェース1060および1つまたは複数の入力デバイス、例えばキーボード1062およびポインティングデバイス1061を含み、コンピュータユーザと相互作用し、情報をプロセッサ1020に提供する。ポインティングデバイス1061は、例えば、マウス、トラックボールまたはポインティングスティックでもよく、指示情報および命令選択をプロセッサ1020に通信し、ディスプレイ上のカーソル移動を制御する。ディスプレイ1066は、タッチスクリーンインタフェースを提供してもよく、タッチスクリーンインタフェースによって、入力は、ポインティングデバイス1061による指示情報および命令選択の通信を補充または置換することができる。
[56]コンピュータシステム1010は、メモリ、例えばシステムメモリ1030内に含まれる1つまたは複数の命令の1つまたは複数のシーケンスを実行しているプロセッサ1020に応答して、本発明の実施形態の処理ステップの一部または全部を実行してもよい。この種の命令は、他のコンピュータ可読媒体、例えばハードディスク1041または取り外し可能メディアドライブ1042からシステムメモリ1030に読み込まれてもよい。ハードディスク1041は、本発明の実施形態により用いられる1つまたは複数のデータストアおよびデータファイルを含んでもよい。データストアコンテンツおよびデータファイルは、暗号化されセキュリティを改善してもよい。プロセッサ1020は、多重プロセス構成で使用され、システムメモリ1030内に含まれる命令の1つまたは複数のシーケンスを実行してもよい。代替実施形態では、配線回路が、ソフトウェア命令の代わりに、または、ソフトウェア命令と組み合わせて用いられてもよい。このように、実施形態は、ハードウェア回路およびソフトウェアのいかなる特定の組み合わせにも限定されない。
[57]上述したように、コンピュータシステム1010は、少なくとも1つのコンピュータ可読媒体またはメモリを含み、本発明の実施形態に従ってプログラムされる命令を保持し、本願明細書に記載されているデータ構造、テーブル、記録または他のデータを含んでもよい。本願明細書で用いられる「コンピュータ可読媒体」という用語は、命令をプロセッサ1020に提供し、実行することに関する任意の媒体を意味する。コンピュータ可読媒体は、不揮発性媒体、揮発性媒体および伝送媒体を含むが、これらに限定されず多くの形をとってもよい。不揮発性媒体の非限定的な例は、光ディスク、ソリッドステートドライブ、磁気ディスクおよび光磁気ディスク、例えばハードディスク1041または取り外し可能メディアドライブ1042を含む。揮発性媒体の非限定的な例は、ダイナミックメモリ、例えばシステムメモリ1030を含む。伝送媒体の非限定的な例は、同軸ケーブル、銅線およびファイバオプティクスを含み、バス1021を形成する線を含む。伝送媒体は、音響波または光波、例えば電波および赤外線通信の間生成される波の形をとってもよい。
[58]コンピューティング環境1000は、ネットワーク環境において、1つまたは複数のリモートコンピュータ、例えばリモートコンピュータ1080に対する論理接続を用いて動作するコンピュータシステム1010をさらに含んでもよい。リモートコンピュータ1080は、パーソナルコンピュータ(ラップトップまたはデスクトップ)、モバイル機器、サーバ、ルータ、ネットワークPC、ピアデバイスまたは他のコモンネットワークノードでもよく、典型的には、コンピュータシステム1010に関して上述した要素の多数または全部を含む。ネットワーク環境において用いられるとき、コンピュータシステム1010は、ネットワーク1071、例えばインターネットを介する通信を確立するためのモデム1072を含んでもよい。モデム1072は、バス1021に、ユーザネットワークインタフェース1070を介して、または、他の適切なメカニズムを介して接続されてもよい。
[59]ネットワーク1071は、従来技術において一般的に公知の任意のネットワークまたはシステムでもよく、インターネット、イントラネット、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、メトロポリタンエリアネットワーク(MAN)、直接接続または直列接続、携帯電話ネットワーク、または、コンピュータシステム1010と他のコンピュータ(例えば、リモートコンピュータ1080)との間の通信を容易にすることができる他の任意のネットワークまたは媒体を含む。ネットワーク1071は、有線、無線またはそれらの組み合わせでもよい。有線接続は、イーサネット、ユニバーサルシリアルバス(USB)、RJ−11または従来技術において一般的に公知の他の任意の有線接続を用いて実施されてもよい。無線接続は、Wi−Fi、WiMAXおよびブルートゥース、赤外線、携帯ネットワーク、衛星または従来技術において一般的に公知の他の任意の無線接続方法を用いて実施されてもよい。さらに、いくつかのネットワークは、単独でまたは互いに通信して機能し、ネットワーク1071内の通信を容易にしてもよい。
[60]本発明の実施形態は、ハードウェアおよびソフトウェアの任意の組み合わせによって実施されてもよい。さらに、本発明の実施形態は、例えばコンピュータ可読非一時的媒体を有する製品(例えば、1つまたは複数のコンピュータプログラム製品)に含まれてもよい。媒体は、本願明細書において、例えば、本発明の実施形態のメカニズムを提供および容易にするためのコンピュータ可読プログラム符号を実現してきた。製品は、コンピュータシステムの一部として含まれることもできるし、別々に売られることもできる。
[61]さまざまな態様および実施形態が本願明細書において開示されてきたが、他の態様および実施形態は、当業者にとって明らかである。本願明細書において開示されるさまざまな態様および実施形態は、説明のためであって、制限することを意図せず、真の範囲および精神は、以下の請求項によって示される。
[62]本願明細書で用いられる実行可能アプリケーションは、例えば、ユーザ命令または入力に応答して、プロセッサに所定の機能を実施するように調整するための符号または機械読み取り可能な命令を備え、所定の機能は、例えば、オペレーティングシステム、文脈データ獲得システムまたは他の情報処理システムの機能である。実行可能手順は、符号または機械可読命令のセグメント、サブルーチン、または、1つまたは複数の特定のプロセスを実行するための実行可能アプリケーションの部分または符号の他の異なるセクションである。これらのプロセスは、入力データおよび/またはパラメータの受信、受信した入力データ上の動作の実行および/または受信した入力パラメータに応答した機能の実行、結果として生じる出力データおよび/またはパラメータの提供を含んでもよい。
[63]本願明細書で用いられるグラフィカルユーザインタフェース(GUI)は、1つまたは複数の表示画像を含み、ディスプレイプロセッサによって生成され、プロセッサまたは他のデバイスとのユーザ相互作用、関連データの獲得および機能の処理を可能にする。GUIは、実行可能手順または実行可能アプリケーションもまた含む。実行可能手順または実行可能アプリケーションは、ディスプレイプロセッサにGUI表示画像を表す信号を生成するように調整する。これらの信号は、ユーザが見るための画像を表示するディスプレイデバイスに供給される。プロセッサは、実行可能手順または実行可能アプリケーションの制御下で、入力デバイスから受信する信号に応答して、GUI表示画像を操作する。このようにして、ユーザは、入力デバイスを用いて、表示画像と相互作用してもよく、プロセッサまたは他のデバイスとのユーザ相互作用を可能にする。
[64]本願明細書における機能およびプロセスステップは、自動的に実行されてもよいし、ユーザ命令に応答して完全にまたは部分的に実行されてもよい。自動的に実行される動作(ステップを含む)は、1つまたは複数の実行可能命令またはデバイス動作に応答して、ユーザが動作を直接開始することなく実行される。
[65]図面のシステムおよびプロセスは、排他的ではない。他のシステム、プロセスおよびメニューは、本発明の原理に従って同一の目的を達成するために導出されてもよい。本発明は、特定の実施形態を参照して記載されてきたが、本願明細書において図示および記載された実施形態およびバリエーションが単に図示目的のためだけであることを理解されたい。現在の設計に対する変更態様は、当業者によって、本発明の範囲を逸脱することなく実施されてもよい。本願明細書において記載されているように、さまざまなシステム、サブシステム、エージェント、マネージャおよびプロセスは、ハードウェア要素、ソフトウェア要素および/またはそれらの組み合わせを用いて実装可能である。本願明細書における請求項の要素は、その要素が「〜のための手段」という用語を用いて明確に記載されていない限り、米国特許法第112条第6段落の規定により解釈されるべきではない。

Claims (20)

  1. 細胞分類を実行する方法であって、前記方法は、
    複数の局所的特徴記述を入力画像のセットから抽出するステップと、
    符号化プロセスを適用し、前記複数の局所的特徴記述の各々を多次元符号に変換するステップと、
    特徴プーリング動作を前記複数の局所的特徴記述の各々に適用し、複数の画像表現を生成するステップと、
    各画像表現を複数の細胞タイプの1つとして分類するステップと、
    を含む方法。
  2. 複数の入力画像を獲得するステップと、
    前記複数の入力画像ごとにエントロピー値を計算するステップであって、各エントロピー値は、それぞれの画像内のテクスチャ情報の量を表すステップと、
    入力画像の前記セット内の1つまたは複数の低エントロピー画像を識別するステップであって、前記1つまたは複数の低エントロピー画像は、各々、閾値未満のそれぞれのエントロピー値に関連付けられるステップと、
    前記複数の入力画像に基づいて、入力画像の前記セットを生成するステップであって、入力画像の前記セットは、前記1つまたは複数の低エントロピー画像を除外するステップと、
    をさらに含む、
    請求項1に記載の方法。
  3. 前記複数の入力画像は、内視鏡検査デバイスを用いて医療処置の間獲得される、
    請求項2に記載の方法。
  4. 前記複数の入力画像は、デジタルホログラフィック顕微鏡検査デバイスを用いて完全血球計算血液検査の間獲得される、
    請求項2に記載の方法。
  5. 複数の訓練特徴を画像の訓練セットから抽出するステップと、
    前記複数の訓練特徴を用いて、k平均クラスタリングプロセスを実行し、複数の特徴クラスタを生成するステップと、
    前記複数の特徴クラスタに基づいてコードブックを生成するステップと、
    をさらに含み、
    前記符号化プロセスは、前記コードブックを用いて、前記複数の局所的特徴記述の各々を前記多次元符号に変換する、
    請求項1に記載の方法。
  6. 前記k平均クラスタリングプロセスは、全数近傍探索に基づくユークリッド距離を用いて、前記複数の特徴クラスタを取得する、
    請求項5に記載の方法。
  7. 前記符号化プロセスは、スパース符号化プロセスである、
    請求項6に記載の方法。
  8. 前記符号化プロセスは、局所制約線形符号化(LLC)の符号化プロセスである、
    請求項6に記載の方法。
  9. 前記符号化プロセスは、局所制約スパース符号化(LSC)の符号化プロセスである、
    請求項6に記載の方法。
  10. 前記k平均クラスタリングプロセスは、階層的な語彙ツリー探索に基づくユークリッド距離を用いて、前記複数の特徴クラスタを取得する、
    請求項5に記載の方法。
  11. 前記符号化プロセスは、バッグオブワーズ(BoW)符号化プロセスである、
    請求項10に記載の方法。
  12. 入力画像の前記セットは、映像ストリームを備え、各画像表現は、多数決を用いて所定の長さを有する時間窓内で分類される、
    請求項1に記載の方法。
  13. 細胞分類を実行する方法であって、前記方法は、
    前記医療処置前に、複数の訓練画像に基づいてコードブックを生成するステップと、
    前記医療処置の間、細胞分類プロセスを実行するステップと、
    を含み、細胞分類プロセスを実行するステップは、
    内視鏡検査デバイスを用いて入力画像を獲得するステップと、
    前記入力画像に関連付けられた複数の特徴記述を決定するステップと、
    符号化プロセスを適用し、前記複数の特徴記述を符号化データセットに変換するステップと、
    特徴プーリング動作を前記符号化データセットに適用し、画像表現を生成するステップと、
    訓練された分類器を用いて、前記画像表現に対応するクラスラベルを識別するステップと、
    前記クラスラベルを、前記内視鏡検査デバイスに動作可能に結合されたディスプレイに示すステップと、
    を含む方法。
  14. 前記符号化プロセスは、
    特徴記述ごとに、それぞれの特徴記述に対する符号スパース性および符号局所性を強化する最適化問題を反復的に解くステップを含む、
    請求項13に記載の方法。
  15. 前記最適化問題は、交互方向乗数法を用いて解かれる、
    請求項14に記載の方法。
  16. k近傍法を前記それぞれの特徴記述に適用し、複数の局所ベースを識別するステップをさらに含み、
    各最適化問題における前記符号局所性は、前記複数の局所ベースを用いて強化される、
    請求項15に記載の方法。
  17. 前記クラスラベルは、前記入力画像内の生物学的物質が悪性であるか、または、良性であるかの徴候を提供する、
    請求項13に記載の方法。
  18. 細胞分類を実行するシステムであって、前記システムは、
    医療処置の間、入力画像のセットを獲得するように構成される顕微鏡検査デバイスと、
    前記医療処置の間、細胞分類プロセスを実行するように構成される画像処理コンピュータと、
    ディスプレイと、
    を備え、
    前記細胞分類プロセスは、
    入力画像の前記セットに関連付けられた複数の特徴記述を決定するステップと、
    符号化プロセスを適用し、前記複数の特徴記述を符号化データセットに変換するステップと、
    特徴プーリング動作を前記符号化データセットに適用し、画像表現を生成するステップと、
    訓練された分類器を用いて、前記画像表現に対応するクラスラベルを識別するステップと、
    を含み、
    前記ディスプレイは、前記医療処置の間、前記クラスラベルを示すように構成される、
    システム。
  19. 前記顕微鏡検査デバイスは、共焦点レーザー内視鏡検査デバイスである、
    請求項18に記載のシステム。
  20. 前記顕微鏡検査デバイスは、デジタルホログラフィック顕微鏡検査デバイスである、
    請求項18に記載のシステム。
JP2017546131A 2015-03-02 2015-03-30 細胞画像および映像の分類 Pending JP2018517188A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562126823P 2015-03-02 2015-03-02
US62/126,823 2015-03-02
PCT/US2015/023231 WO2016140693A1 (en) 2015-03-02 2015-03-30 Classification of cellular images and videos

Publications (1)

Publication Number Publication Date
JP2018517188A true JP2018517188A (ja) 2018-06-28

Family

ID=52875289

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017546131A Pending JP2018517188A (ja) 2015-03-02 2015-03-30 細胞画像および映像の分類

Country Status (5)

Country Link
US (1) US20180082104A1 (ja)
EP (1) EP3265956A1 (ja)
JP (1) JP2018517188A (ja)
CN (1) CN107408198A (ja)
WO (1) WO2016140693A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020188682A1 (ja) * 2019-03-18 2020-09-24 オリンパス株式会社 診断支援装置、診断支援方法及びプログラム
WO2022244258A1 (ja) * 2021-05-21 2022-11-24 日本電信電話株式会社 エリア再生システムとその再生制御装置、方法およびプログラム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6503382B2 (ja) * 2014-06-16 2019-04-17 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 血液学用デジタルホログラフィ顕微鏡検査データ分析
JP6702118B2 (ja) * 2016-09-26 2020-05-27 カシオ計算機株式会社 診断支援装置、及び診断支援装置における画像処理方法、並びにプログラム
JP6858672B2 (ja) * 2017-08-29 2021-04-14 富士フイルム株式会社 医療画像処理システム及び内視鏡システム
CN107688815B (zh) * 2017-08-31 2022-02-22 京东方科技集团股份有限公司 医学图像的分析方法和分析系统以及存储介质
CN108387553B (zh) * 2018-02-09 2021-04-13 重庆东渝中能实业有限公司 针对白细胞与血小板共存全息图的分块重建与分类计数方法
KR20220054340A (ko) * 2019-09-24 2022-05-02 보스톤 싸이엔티픽 싸이메드 인코포레이티드 탁도 분석을 위한 시스템, 장치, 및 방법
CN113792767B (zh) * 2021-08-27 2023-06-27 国网福建省电力有限公司 基于图信号处理的负荷用电特征监测分析方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004110448A (ja) * 2002-09-19 2004-04-08 Nippon Hoso Kyokai <Nhk> 映像オブジェクト識別・追跡装置、その方法及びそのプログラム
JP2005087728A (ja) * 2003-08-08 2005-04-07 Olympus Corp カプセル型光センサー
JP2011525009A (ja) * 2008-05-30 2011-09-08 ジーイー・ヘルスケア・バイオサイエンス・コーポレイション 1以上のデフォーカス画像又は低コントラスト対雑音比画像を検出し除去するシステム及び方法
JP2012515576A (ja) * 2009-01-20 2012-07-12 ザ ジェネラル ホスピタル コーポレイション 内視鏡生検装置、システム、及び方法
JP2015505983A (ja) * 2011-12-02 2015-02-26 シー・エス・アイ・アールCsir 物質解析システム、方法、および装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004110448A (ja) * 2002-09-19 2004-04-08 Nippon Hoso Kyokai <Nhk> 映像オブジェクト識別・追跡装置、その方法及びそのプログラム
JP2005087728A (ja) * 2003-08-08 2005-04-07 Olympus Corp カプセル型光センサー
JP2011525009A (ja) * 2008-05-30 2011-09-08 ジーイー・ヘルスケア・バイオサイエンス・コーポレイション 1以上のデフォーカス画像又は低コントラスト対雑音比画像を検出し除去するシステム及び方法
JP2012515576A (ja) * 2009-01-20 2012-07-12 ザ ジェネラル ホスピタル コーポレイション 内視鏡生検装置、システム、及び方法
JP2015505983A (ja) * 2011-12-02 2015-02-26 シー・エス・アイ・アールCsir 物質解析システム、方法、および装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JINJUN WANG, JIANCHAO YANG, KAI YU, FENGJUN LV, THOMAS HUANG AND YIHONG GONG: "Locality-constrained Linear Coding for Image Classification", 2010 IEEE COMPUTER SOCIETY CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION, JPN6019002491, June 2010 (2010-06-01), US, pages 3360 - 3367, XP031725847, ISSN: 0004115715 *
SIYAMALAN MANIVANNAN, WENQI LI, SHAZIA AKBER, RUIXUAN WANG, JIANGUO ZHANG AND STEPHEN J. MCKENNA: "HEp-2 Cell Classification Using Multi-resolution Local Patterns and Ensemble SVMs", 2014 1ST WORKSHOP ON PATTERN RECOGNITION TECHNIQUES FOR INDIRECT IMMUNOFLUORESCENCE IMAGES, JPN6019002486, 24 August 2014 (2014-08-24), US, pages 37 - 40, XP032696821, ISSN: 0004115714, DOI: 10.1109/I3A.2014.18 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020188682A1 (ja) * 2019-03-18 2020-09-24 オリンパス株式会社 診断支援装置、診断支援方法及びプログラム
CN113613543A (zh) * 2019-03-18 2021-11-05 奥林巴斯株式会社 诊断辅助装置、诊断辅助方法以及程序
JPWO2020188682A1 (ja) * 2019-03-18 2021-11-25 オリンパス株式会社 診断支援装置、診断支援方法及びプログラム
JP7138771B2 (ja) 2019-03-18 2022-09-16 オリンパス株式会社 診断支援装置、診断支援方法及びプログラム
WO2022244258A1 (ja) * 2021-05-21 2022-11-24 日本電信電話株式会社 エリア再生システムとその再生制御装置、方法およびプログラム

Also Published As

Publication number Publication date
EP3265956A1 (en) 2018-01-10
CN107408198A (zh) 2017-11-28
WO2016140693A1 (en) 2016-09-09
US20180082104A1 (en) 2018-03-22

Similar Documents

Publication Publication Date Title
US20180096191A1 (en) Method and system for automated brain tumor diagnosis using image classification
JP2018517188A (ja) 細胞画像および映像の分類
JP2018514844A (ja) 細胞画像および映像の深層畳み込みネットワークベースの分類のためのシステムおよび方法
Li et al. A comprehensive review of computer-aided whole-slide image analysis: from datasets to feature extraction, segmentation, classification and detection approaches
US20230419485A1 (en) Autonomous diagnosis of a disorder in a patient from image analysis
Perperidis et al. Image computing for fibre-bundle endomicroscopy: A review
Moccia et al. Confident texture-based laryngeal tissue classification for early stage diagnosis support
JP3947109B2 (ja) コンピュータ利用画像分析
Cruz-Roa et al. Visual pattern mining in histology image collections using bag of features
Park et al. Colonoscopic polyp detection using convolutional neural networks
US20180204046A1 (en) Visual representation learning for brain tumor classification
US10055839B2 (en) Leveraging on local and global textures of brain tissues for robust automatic brain tumor detection
Rakotomamonjy et al. Scattering features for lung cancer detection in fibered confocal fluorescence microscopy images
Kamen et al. Automatic tissue differentiation based on confocal endomicroscopic images for intraoperative guidance in neurosurgery
Kumar et al. Deep barcodes for fast retrieval of histopathology scans
Laghari et al. How to collect and interpret medical pictures captured in highly challenging environments that range from nanoscale to hyperspectral imaging
CN116963657A (zh) 使用左右耳膜耳镜检查图像进行自动耳镜检查图像分析以诊断耳部病理的系统和方法
Naeem et al. DVFNet: A deep feature fusion-based model for the multiclassification of skin cancer utilizing dermoscopy images
Mahbod Towards Improvement of Automated Segmentation and Classification of Tissues and Nuclei in Microscopic Images Using Deep Learning Approaches
Estrela et al. Scale and Resolution Issues regarding Medical Images: Challenges Ahead
Manivannan Visual feature learning with application to medical image classification.
Banu et al. Skin Cancer Disease Classification Using Tasnet V2 In Image Classification
Krithiga Improved Deep CNN Architecture based Breast Cancer Detection for Accurate Diagnosis
Peyret Automated classification of cancer tissues using multispectral imagery
Qureshi Meningioma classification using an adaptive discriminant wavelet packet transform

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171205

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190204

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190917