JP6014059B2 - 医療データの知的リンキング方法及びシステム - Google Patents

医療データの知的リンキング方法及びシステム Download PDF

Info

Publication number
JP6014059B2
JP6014059B2 JP2013558528A JP2013558528A JP6014059B2 JP 6014059 B2 JP6014059 B2 JP 6014059B2 JP 2013558528 A JP2013558528 A JP 2013558528A JP 2013558528 A JP2013558528 A JP 2013558528A JP 6014059 B2 JP6014059 B2 JP 6014059B2
Authority
JP
Japan
Prior art keywords
image
feature vector
annotation
past
reading
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013558528A
Other languages
English (en)
Other versions
JP2014512897A (ja
Inventor
チエン,ユエチェン
セフェンステール,メルレイン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2014512897A publication Critical patent/JP2014512897A/ja
Application granted granted Critical
Publication of JP6014059B2 publication Critical patent/JP6014059B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30068Mammography; Breast

Description

本発明は、医療データの知的リンキング(リンク付け)方法及びシステムに関する。
例えば放射線医や癌専門医などの医師が診断に使用する情報の量は、患者を最適に治療するために、ますます増大している。例えば、癌を持つ患者は、頻繁に撮像検査を受け、時間とともにたくさんの検査結果を自身の医療記録に有することになる。医師は新たな検査結果を読み取る度に、以前に特定した病変の進行を決定するため、且つ/或いは新たな病変を発見するために、現在の検査結果を過去のものと比較する必要がある。この作業は、画像及びレポートの双方で、所見を読み取り、比較し、解釈し、そして相関付けることを医師に要求する。これらの活動は、ワークフローの観点から時間のかかるものであるとともに、臨床の観点からチャレンジングなものである。
乳癌治療の分野において、マンモグラフィは、低線量のX線(例えば、約0.7mSv)を用い、診断・スクリーニングツールと連携して人間の胸部を検査するプロセスである。マンモグラフィの目的は、典型的には特徴的な塊、病変及び/又は微小石灰化の検出を通じての、乳癌の早期発見である。マンモグラフィは、乳癌による死亡率を低下させるものと信じられている。それ以外の撮像技術でリスクを低下させることを示しているものはないが、それ以外の胸部変化認識及び医師検査も通常の胸部治療の必須部分であると考えられる。
従って、正確且つ一貫性をもって病変に注釈付けすることが、臨床決定を支援する上で非常に重要である。
注釈を含む関心領域の画像からコンテキスト情報を抽出する抽出モジュールと、抽出されたコンテキスト情報と前記注釈とを用いて現在の特徴ベクトルを構築する特徴選択モジュールと、現在の特徴ベクトルと過去画像の過去の特徴ベクトルとの間の類似性スコアを計算する参照エンジンと、を有するシステムが開示される。
さらに、抽出モジュールにより、注釈を含む関心領域の画像からコンテキスト情報を抽出するステップと、特徴選択モジュールにより、抽出されたコンテキスト情報と前記注釈とを用いて現在の特徴ベクトルを構築するステップと、参照エンジンにより、現在の特徴ベクトルと過去画像の過去の特徴ベクトルとの間の類似性スコアを計算するステップと、を有する方法が開示される。
さらに、プロセッサによって実行可能な命令セットを格納した持続的なコンピュータ読み取り可能記憶媒体が開示され、該命令セットは少なくとも、注釈を含む関心領域の画像からコンテキスト情報を抽出し、抽出されたコンテキスト情報と前記注釈とを用いて現在の特徴ベクトルを構築し、且つ現在の特徴ベクトルと過去画像の過去の特徴ベクトルとの間の類似性スコアを計算するよう作用する。
典型的な一実施形態に従った、注釈付けツールを用いてユーザ記述される医用画像の典型的なスクリーン画面を示す図である。 典型的な一実施形態に従った、複数の異なるモダリティから受信した医学的データを知的にリンク付けるデータリンキングツールを示す図である。 典型的な一実施形態に従った、複数の異なるモダリティから受信した注釈をマッチングする典型的なスクリーン画面を示す図である。 典型的な一実施形態に従った、複数の異なるモダリティから受信した医学的データを知的にリンク付ける典型的な方法を示す図である。
以下の典型的な実施形態の説明及び関連する添付図面を参照することで、典型的な実施形態が更に理解され得る。図面において、同様の要素には同一の参照符号を付する。これらの典型的な実施形態は、例えば超音波(“US”)データ、磁気共鳴撮像(“MRI”)データ、及びマンモグラフィ(“MG”)データなど、複数の異なるモダリティから受信される医学的所見を知的に組み合わせるシステム及び方法に関する。更に詳細に後述するように、これらの典型的な実施形態は、医師(例えば、放射線医、癌専門医など)が効率的に、モダリティにまたがる患者の現在の医用画像及び記録の全てを、その患者の過去の医用画像及び記録と比較することを可能にする。故に、医師は、患者の1つ以上の病変からの複数の所見に関して利用可能な全ての情報を提供されて、それらの病変の進行を容易に調べることができる。
医師がこのような比較作業を行うことを助けるソリューションが提案される。例えば、BI−RADS(Breast Imaging-Reporting and Data System)は、乳癌検査結果を標準化された語彙を用いて構造的に文書化するように設計された品質保証ツールである。具体的には、このシステムは、放射線医が画像上の病変に注釈を付け、その注釈をデータベースに保存することを可能にする。BI−RADSは、数多くの健康推進団体の協働努力の賜であり、BI−RADS Atlasという形で米国放射線医学会(“ARC”)によって刊行及び商標登録されている。このAtlasは、具体的にはマンモグラフィデータ、超音波データ、及びMRIデータという、3つの刊行物に分割されている。撮像結果はしばしば、“BI−RADSスコア”と呼ばれることが多いBI−RADS判定カテゴリーの観点で表現される。そのカテゴリーは:0=保留、1=異常なし、2=良性、3=不確定、4=悪性の疑いあり、5=悪性が強く示唆される、6=既知の生検により確定診断された悪性、を含んでいる。
現在の検査結果上で作成される注釈は、医師が容易に注釈の一貫性を検証し且つ何らかの合間の進展を評価するために、過去の検査結果で作成された注釈にリンク付けられる必要がある。上述のように、医師にとっての現在の課題は、複数の異なるモダリティにまたがって、現在の検査結果と過去の検査結果とをリンク付け(リンキング)することにある。例えば、乳癌を持つ患者は超音波検査結果、MRI検査結果及びマンモグラフィ検査結果を有し得るが、これらのモダリティにまたがって医学的所見をリンク付けするのは難しいことである。典型的なシステム及び方法において、それらの所見をリンク付けして結合することは、医師による明確な解釈及びマッチング(合致する)所見の選択という、時間がかかり且つ誤りを生じやすい作業を必要とし得る。故に、典型的なデータリンキングツール及び対応する方法は、医師が容易にそれらの医学的所見を、限られた干渉で、リンク付けすることを可能にし得る。
本開示全体を通じて、例示の実施形態は、乳癌及び例えば病変などの関心領域に関する医学的データの知的リンク付けに関するものである。しかしながら、ここに記載される典型的なシステム及び方法は、乳癌データに限定されるものではなく、如何なる種類の標準化されたデータ収集にも適用され得るものである。例えば、本開示は、様々な種類の癌に関するデータ、様々な種類の医学的データ、様々な形態の撮像・記録データなどを、収集し、比較し、レポート作成することに適用され得る。
図1は、典型的な一実施形態に従った、注釈付けツールを用いてユーザ記述される医用画像の典型的なスクリーン画面100を示している。例えば、スクリーン画面100は、乳癌検査結果を標準化された語彙を用いて構造的に文書化するように設計されたBI−RADS画像の画面(ビュー)とし得る。このスクリーン画面100は、ユーザが、画像内に描写された例えば病変などの関心領域に注釈を付け、その注釈をデータベースに保存することを可能にする。このスクリーン画面に例示されるように、注釈データはまた、病変の解剖学的位置(anatomical position of lesion)、塊の特徴(mass characteristics)(例えば、形状、マージン、エンハンスメントパターンなど)、運動学的記述(kinetic descriptions)(例えば、初期摂取、遅延相など)、安定性(stability)、測定(measurements)、及び数多くのその他の所見を含み得る。これらの典型的な実施形態によれば、現在の検査結果内で医師によって作成される注釈の各々が、過去の検査結果内で作成された過去の注釈にリンク付けされ得る。なお、用語“ユーザ”は、ここに記載されるシステム及び方法の如何なるオペレータを意味してもよく、以下に限られないが、医師、放射線医、癌専門医などを含む。
図2は、典型的な一実施形態に従った、複数の異なるモダリティから受信した医学的データを知的にリンク付けるデータリンキングツール210を示す図である。データリンキングツール(又は単に、ツール)210は、例えば画像ベースのコンテキスト抽出モジュール220、特徴選択モジュール230、参照エンジン240、提示エンジン250、及び統計モデルのデータベース260などの様々なコンポーネントを含んでおり、これらのコンポーネントのうちの一部は、プロセッサによって実行可能なソフトウェア命令として実装され得る。また、典型的なデータリンキングツール210は、プロセッサと、例えばメモリなどの持続的なコンピュータ読み取り可能記憶媒体とを含む。従って、メモリが、プロセッサによって実行可能なソフトウェア命令セットを含み得る。なお、ツール210のコンポーネント220−250の各々が個々のプロセッサとメモリと対応する命令とを含むことで、ツール210のマルチプロセッサアーキテクチャを作り出してもよい。
典型的な実施形態のうちの1つによれば、データリンキングツール210は、画像及びレポートの双方で医師が医学的データを読み取り、作成し、増補し、解釈し、比較し、そして相関付けることを可能にするために通信サービスを利用するネットワークベースのソフトウェアツールである。
典型的に、医師は、モダリティごと、検査ごとを基本にして、病変の画像について注釈を作成する。まさに同じ病変を、超音波、MRI及びマンモグラフィの組合せを通して、何度も精査することができる。再発患者に関しては、現在の撮像検査に加えて、過去の画像検査を参照点として用いて病変を精査する必要がある。故に、データリンキングツール210の時間節減の側面は、医師が様々なモダリティにおける同じ病変の様々な注釈をリンク付けて、その病変によって為された進行の要約を作成することを可能にし得る。
現在の画像検査において、医師は、例えばスクリーン画面100に示した画像などの画像上で病変を輪郭描写する。そして、医師は、例えばBI−RADSツールなどの注釈付けツールを用いて、標準化された用語で病変を記述する。例えば、BI−RADSツールを用いて作成される注釈は、拡張マークアップ言語(“XML”)にて、
(外1)
Figure 0006014059
のようにコード化され得る。
ここに記載の典型的な実施形態によれば、病変は医師によって注釈を付されるものの、画像ベースのコンテキスト抽出モジュール220が、輪郭描写された病変の記述的な医学的所見すなわち“コンテキスト情報”(例えば、ランドマークに対する病変の位置)を抽出する。コンテキスト情報は典型的に、BI−RADSツールの部分にはない病変の定量的側面を記述する。例えば、病変の位置は、BI−RADSにおいては、左右(laterality)、時計的位置(clock-position)及び深さ(depth)によって特徴付けられる。一方、病変のコンテキストは、乳頭、皮膚表面、及び近傍のその他の病変に対する、病変の距離を記述する。このようなコンテキスト情報は、群がった複数の病変を識別するために必要とされ得る。例えば、抽出される病変の画像ベースのコンテキスト記述は、XMLにて、
(外2)
Figure 0006014059
のようにコード化され得る。
特徴選択モジュール230は、注釈の記述と、注釈からの抽出されたコンテキスト情報と、を含むマルチモーダル特徴ベクトルを構築する。特徴の選択は、データベース260に格納された統計モデルに基づく。また、選択された特徴の各々の重要性すなわち重みも、データベース260から取り出され得る。
BI−RADSツールを用いて、医師は同じ病変を異なるBI−RADS用語を用いて注釈付けすることがある。また、個人間の合意は記述子ごとに様々である。データベース260の統計モデルは、記述子ごとの個人間の合意の程度を記述してもよい。その数値が高いほど、その記述子は参照エンジン240に対して大きな重要性を有する。例えば、或るモデルは、“モダリティ(Modality)”、“左右(Laterality)”、“深さ(Depth)”、“タイプ(Type)”、“乳頭までの距離(DistanceToNipple)”、及び“形状(Shape)”を選択して、特徴ベクトルを、
Figure 0006014059
のように構築し得る。
参照エンジン240は、典型的に複数の異なるモダリティ又は同じ検査における複数の撮像プロトコルからの、同じ病変の複数の注釈をリンク付けする。2つの注釈が同一の病変を参照している可能性を決定するため、参照エンジン240は、経験則によるルールを用いて、関連性スコアを定量的に計算し得る。
ここに記載の典型的な実施形態によれば、参照エンジン240は、現在の注釈の特徴ベクトルと過去の注釈若しくは参照注釈の特徴ベクトルとの間の類似度(例えば、関連性スコア又は重要性スコア)を計算する。例えば、これら2つのベクトルの間の類似度は、2つのベクトル間の距離(D)としてモデル化され得る。具体的には、Dは:
Figure 0006014059
のように、要素特徴の距離の加重和として定義され得る。
さらに、各特徴に関して、距離関数dは:
Figure 0006014059
のように計算され得る。ただし、a及びbは注釈特徴であり、a’及びb’は、それぞれ、注釈特徴a及びbに対応する画像ベースコンテキスト特徴である。画像特徴a’が対応する注釈特徴を有しないとき、aの値はエンプティであると仮定することができ、その逆もまた然りである。
また、減算操作により、2つの任意の特徴値の間の差が計算される。例えば、記述子(例えば、モダリティ(Modality))の値に応じて、それは例えば:
Figure 0006014059
などのブール演算とし得る。
数値を有する記述子(乳頭までの距離(DistanceToNipple))の場合には、この減算操作は、値の減算として定義される。時計的な位置に関しては、この減算操作は:
Figure 0006014059
のように定義され得る。
例えば塊(Mass)又は形状(Shape)のコンテキスト注釈などの複合記述子の場合、この減算操作は、要素記述子の減算の和として定義される。なお、これらの式は、複数の特徴ベクトル間の関連性スコア又は重要性スコアを計算するために使用され得るものであるが、これらの式は単に、これらのスコアがどのように計算され得るかの一例を提供するものである。従って、特徴ベクトルの比較及び類似性スコアの計算には、その他の式が使用されてもよい。
最終的に、データリンキングツール210の提示エンジン250が、参照エンジン240によって計算された類似度に基づいて、合致(マッチ)する注釈の表示をユーザに提示する。典型的な一実施形態によれば、提示エンジン250は、ユーザにデータが表示され且つユーザから入力が受信されるグラフィカルユーザインタフェース(“GUI”)とインタラクトする。この表示から、ユーザは、図3に示すように、合致する注釈をリストから選択し得る。
図3は、典型的な一実施形態に従った、複数の異なるモダリティから受信した注釈をマッチングする典型的なスクリーン画面300を示している。上述のように、スクリーン画面300の表示はインタラクティブ(対話的)なGUIとすることができ、ユーザは、例えば画像選択や、より詳細な情報の要求などの入力をデータリンキングツール210に提供する。
スクリーン画面300は“画像”セクションを含んでおり、ユーザは該セクション内で、例えば超音波画像、マンモグラフィ画像及びMRI画像などの異なるモダリティからの画像を選択し得る。スクリーン画面300はまた“レポート”セクションを含んでおり、ユーザは該セクション内で、合致する病変のリストから様々な病変を選択し得る。スクリーン画面300は更に“注釈付け”セクションを含んでおり、ユーザは該セクション内で、選択された画像に関する様々な詳細な注釈を入力し得る。これら詳細な注釈は、新たな塊を追加すること、塊でないものを追加すること、注目領域を追加することなどを含む。更なる詳細な注釈は、以下に限られないが、病変の解剖学的位置、塊の特徴(例えば、形状、マージン、エンハンスメントパターンなど)、運動学的記述(例えば、初期摂取、遅延相など)、安定性、測定などを含み得る。
これらの注釈に加え、スクリーン画面300は“評価”セクションを含んでおり、ユーザは該セクション内で、評価と、この特定の所見に関する医療ノートとを入力し得る。ユーザがスクリーン画面300のGUI内で入力を提供あるいは調整するとき常に、ユーザは検査結果をツール210のデータベース260に保存し得る。他の例では、ユーザはまた、もはや必要でなくなったときに、データベース260から所見を削除したり、検査結果を削除したりすることができる。
図4は、典型的な一実施形態に従った、作業順序の割当て及びプロセスの追跡のワークフローを自動化する典型的な一方法400を示している。なお、以下では、図2のデータリンキングツール210及びシステムコンポーネントを参照して方法400を説明する。先に詳述したように、データリンキングツール210は、進行の要約がユーザによって効果的且つ効率的に取得されるよう、ユーザが同一の病変の様々なモダリティを結合することを可能にする。
ステップ410で始めて、データリンキングツール210がユーザから医学的データを受信する。上述のように、ユーザは、注釈付けツールを用いて、画像について例えば病変などの医学的データを記述し得る。例えば、ユーザは、BI−RADSツールなどの標準化された注釈付けツールを用いて、現在画像に注釈を与え得る。BI−RADS注釈は、XMLでコード化されて、処理のために参照エンジン240に伝送され得る。
ステップ420にて、ツール210の画像ベース抽出モジュール220が、ユーザによって提供された注釈付き画像からコンテキスト情報を抽出する。上述のように、コンテキストデータは、前記注釈付けツールによっては利用可能でない情報を含み得る。このコンテキスト情報は、記述的データ、ランドマーク(例えば、乳頭、皮膚表面など)までの相対距離、病理学的所見(例えば、近傍内の別の病変)などを含み得る。BI−RADS注釈と同様に、コンテキストデータは、XMLでコード化されて、処理のために参照エンジン240に伝送され得る。
ステップ430にて、ツール210の特徴選択モジュール230が、抽出されたコンテキストデータとユーザからの注釈とを用いて、マルチモーダル特徴ベクトルを構築する。上述のように、特徴の選択はデータベース260に格納された統計モデルに基づき、また、選択された特徴の重み因子(例えば、関連性スコア)が取り出されてマルチモーダル特徴ベクトルに組み込まれ得る。
ステップ440にて、参照モジュール240が、現在の注釈の特徴ベクトルと過去の注釈の参照特徴ベクトルとの間の類似度を計算する。具体的には、参照モジュール240は、これら2つのベクトルの全ての要素の各々間の距離の加重和を計算する。換言すれば、現在の特徴ベクトルからの注釈特徴の各々に関して、過去の特徴ベクトル(例えば、参照ベクトル)に対しての関連性スコアが計算される。従って、参照モジュール240は、関連する注釈をソートし、最も関連する注釈スコアのリストを提示モジュール250に提供する。
ステップ450にて、提示モジュール250が、現在の特徴ベクトルと参照特徴ベクトルとの間で合致する注釈を、GUIを介してユーザに表示する。典型的なGUIは、ネットワーク上で一人以上の医師にアクセス可能にされたウェブベースのポータルとし得る。
ステップ460にて、データリンキングツール210が、例えば画像の選択や、より詳細な情報の要求などの、更なる入力をユーザから受信する。従って、提示モジュール250は、受信されたユーザからの更なる入力に基づいて、GUI上の表示を調整する。
データリンキングツール210を介して注釈同士がリンク付けされると、各病変の進行(例えば、体積、形状、マージンなどの変化)の要約が生成され得る。従って、この要約が、例えばClinical Information Solutionの“Cancer Care Companion”及び“Integral Breast”などの乳癌検査報告サービスやオランダのコーニンクレッカフィリップスNV社からの“MammoTrack”製品に適用され得る。
当業者に理解されるように、上述の典型的な実施形態は、別個のソフトウェアモジュールとして、ハードウェアとソフトウェアとの組合せとして、等々を含む数多くの手法で実装され得る。例えば、データリンキングツール210は、持続的なコンピュータ読み取り可能記憶媒体に格納された、コンパイルされてプロセッサ上で実行され得るコードラインを含んだプログラムとし得る。
なお、請求項は、参照符号を含んでいることがあるが、参照符号に対応する実施形態に限定されるものと見なされるべきではない。
当業者に明らかになるように、本発明には、発明の精神又は範囲を逸脱することなく、様々な変更が為され得る。故に、意図されることには、本発明は、添付の請求項の範囲及びその均等範囲に含まれる限り、本発明の変更及び変形にも及ぶものである。

Claims (18)

  1. 注釈を含む関心領域の画像からコンテキスト情報を抽出する抽出モジュール;
    前記抽出されたコンテキスト情報と前記注釈とを用いて現在の特徴ベクトルを構築する特徴選択モジュール;及び
    前記現在の特徴ベクトルと過去画像の過去の特徴ベクトルとの間の類似性スコアを計算する参照エンジンであり、該類似性スコア(D)は、前記現在の特徴ベクトル及び前記過去の特徴ベクトルの各要素(m)間の距離(d)の加重和として:
    Figure 0006014059
    と計算され、注釈(a)と(b)との距離(d)は:
    Figure 0006014059
    として計算される、参照エンジン;
    を有するシステム。
  2. 前記画像と前記過去画像との間の合致する注釈を表示する提示エンジン、
    を更に有する請求項1に記載のシステム。
  3. 前記提示エンジンは、ユーザインタフェースを介してユーザから入力を受信し、且つ該入力に基づいて前記画像を調整する、請求項2に記載のシステム。
  4. 前記ユーザから受信される前記入力は、画像の選択、調整される細部、評価、及び更なる情報の要求、のうちの少なくとも1つを含む、請求項3に記載のシステム。
  5. 前記注釈は、画像モダリティ読み取り、左右読み取り、深さ読み取り、位置読み取り、タイプ読み取り、形状読み取り、及び測定読み取り、のうちの少なくとも1つを含む、請求項1に記載のシステム。
  6. 前記コンテキスト情報は、乳頭までの相対距離、皮膚表面までの相対距離、病変までの相対距離、体積見積もり、タイプ見込み、及び形状見込み、のうちの少なくとも1つを含む、請求項1に記載のシステム。
  7. 前記関心領域は乳癌患者の病変である、請求項1に記載のシステム。
  8. 前記画像及び前記過去画像は、相異なる撮像プロトコルを用いた同じ関心領域のものであり、前記撮像プロトコルは、超音波撮像、磁気共鳴撮像(MRI)、及びマンモグラフィ(MG)撮像、のうちの少なくとも1つを含む、請求項1に記載のシステム。
  9. 医療データのリンク付けシステムの作動方法であって、
    抽出モジュールにより、注釈を含む関心領域の画像からコンテキスト情報を抽出するステップ;
    特徴選択モジュールにより、前記抽出されたコンテキスト情報と前記注釈とを用いて現在の特徴ベクトルを構築するステップ;及び
    参照エンジンにより、前記現在の特徴ベクトルと過去画像の過去の特徴ベクトルとの間の類似性スコアを計算するステップであり、該類似性スコア(D)は、前記現在の特徴ベクトル及び前記過去の特徴ベクトルの各要素(m)間の距離(d)の加重和として:
    Figure 0006014059
    と計算され、注釈(a)と(b)との距離(d)は:
    Figure 0006014059
    として計算される、ステップ;
    を有する作動方法。
  10. 提示エンジンにより、前記画像と前記過去画像との間の合致する注釈を表示するステップ、
    を更に有する請求項9に記載の作動方法。
  11. ユーザインタフェースを介してユーザから入力を受信するステップ;及び
    該入力に基づいて前記画像を調整するステップ;
    を更に有する請求項9に記載の作動方法。
  12. 信される前記ユーザからの入力は、画像の選択、調整される細部、評価、及び更なる情報の要求、のうちの少なくとも1つを含む、請求項11に記載の作動方法。
  13. 前記注釈は、画像モダリティ読み取り、左右読み取り、深さ読み取り、位置読み取り、タイプ読み取り、形状読み取り、及び測定読み取り、のうちの少なくとも1つを含む、請求項9に記載の作動方法。
  14. 前記コンテキスト情報は、乳頭までの相対距離、皮膚表面までの相対距離、病変までの相対距離、体積見積もり、タイプ見込み、及び形状見込み、のうちの少なくとも1つを含む、請求項9に記載の作動方法。
  15. 前記関心領域は乳癌患者の病変である、請求項9に記載の作動方法。
  16. 前記画像及び前記過去画像は、相異なる撮像プロトコルを用いた同じ関心領域のものであり、前記撮像プロトコルは、超音波撮像、磁気共鳴撮像(MRI)、及びマンモグラフィ(MG)撮像、のうちの少なくとも1つを含む、請求項9に記載の作動方法。
  17. プロセッサによって実行可能な命令セットを格納したコンピュータ読み取り可能記憶媒体であって、該命令セットは少なくとも:
    注釈を含む関心領域の画像からコンテキスト情報を抽出し;
    前記抽出されたコンテキスト情報と前記注釈とを用いて現在の特徴ベクトルを構築し;且つ
    前記現在の特徴ベクトルと過去画像の過去の特徴ベクトルとの間の類似性スコアを計算する;
    よう作用し、
    前記類似性スコア(D)は、前記現在の特徴ベクトル及び前記過去の特徴ベクトルの各要素(m)間の距離(d)の加重和として:
    Figure 0006014059
    と計算され、注釈(a)と(b)との距離(d)は:
    Figure 0006014059
    として計算される、
    コンピュータ読み取り可能記憶媒体。
  18. 前記命令セットは更に:
    前記画像と前記過去画像との間の合致する注釈を表示し;
    ユーザインタフェースを介してユーザから入力を受信し;且つ
    該入力に基づいて前記画像を調整する;
    よう作用する、請求項17に記載のコンピュータ読み取り可能記憶媒体。
JP2013558528A 2011-03-16 2012-02-13 医療データの知的リンキング方法及びシステム Expired - Fee Related JP6014059B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161453155P 2011-03-16 2011-03-16
US61/453,155 2011-03-16
PCT/IB2012/050635 WO2012123829A1 (en) 2011-03-16 2012-02-13 Method and system for intelligent linking of medical data.

Publications (2)

Publication Number Publication Date
JP2014512897A JP2014512897A (ja) 2014-05-29
JP6014059B2 true JP6014059B2 (ja) 2016-10-25

Family

ID=45809352

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013558528A Expired - Fee Related JP6014059B2 (ja) 2011-03-16 2012-02-13 医療データの知的リンキング方法及びシステム

Country Status (6)

Country Link
US (1) US9370305B2 (ja)
EP (1) EP2686809B1 (ja)
JP (1) JP6014059B2 (ja)
CN (1) CN103477353A (ja)
RU (1) RU2604698C2 (ja)
WO (1) WO2012123829A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2645330B1 (en) * 2012-03-29 2017-11-29 Siemens Healthcare GmbH Method and system for associating at least two different medical findings with each other
US20130287256A1 (en) * 2012-04-30 2013-10-31 Telibrahma Convergent Communications Private Limited Method and system for real time image recognition on a mobile device
EP2923337B1 (en) * 2012-11-23 2016-03-30 Koninklijke Philips N.V. Generating a key-image from a medical image
EP3028197B1 (en) 2013-07-29 2019-04-17 Koninklijke Philips N.V. Reporting tool with integrated lesion stager
JP6612861B2 (ja) * 2014-07-02 2019-11-27 コーニンクレッカ フィリップス エヌ ヴェ 組織を識別するシステム及び方法
US11213220B2 (en) 2014-08-11 2022-01-04 Cubisme, Inc. Method for determining in vivo tissue biomarker characteristics using multiparameter MRI matrix creation and big data analytics
CN106796621B (zh) * 2014-09-10 2021-08-24 皇家飞利浦有限公司 图像报告注释识别
JP6523686B2 (ja) * 2015-01-05 2019-06-05 キヤノンメディカルシステムズ株式会社 X線診断装置
US9922433B2 (en) 2015-05-29 2018-03-20 Moira F. Schieke Method and system for identifying biomarkers using a probability map
WO2017167704A1 (en) * 2016-03-28 2017-10-05 Koninklijke Philips N.V. Contextual filtering of lab values
EP3458986A1 (en) 2016-05-16 2019-03-27 Koninklijke Philips N.V. Clinical report retrieval and/or comparison
EP3479350A4 (en) 2016-07-01 2020-08-19 Cubisme, Inc. SYSTEM AND METHOD FOR PRODUCING A HIGH RESOLUTION BIOMARKER MAP IMAGE
AU2017204494B2 (en) * 2016-09-01 2019-06-13 Casio Computer Co., Ltd. Diagnosis assisting device, image processing method in diagnosis assisting device, and non-transitory storage medium having stored therein program
US11195313B2 (en) * 2016-10-14 2021-12-07 International Business Machines Corporation Cross-modality neural network transform for semi-automatic medical image annotation
JP6975253B2 (ja) * 2017-04-20 2021-12-01 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. エンティティ間のコンテキスト的類似度の学習及び適用
CN110537178A (zh) 2017-04-20 2019-12-03 皇家飞利浦有限公司 用于针对发现的指示而对图像切片进行计算机辅助搜索的系统和方法
US11232853B2 (en) 2017-04-21 2022-01-25 Cubisme, Inc. System and method for creating, querying, and displaying a MIBA master file
WO2019175404A1 (en) * 2018-03-16 2019-09-19 Koninklijke Philips N.V. Method and system for generating medical image based on textual data in medical report
US20230004797A1 (en) * 2020-03-10 2023-01-05 Sri International Physics-guided deep multimodal embeddings for task-specific data exploitation
US20230215519A1 (en) * 2022-01-05 2023-07-06 Merative Us L.P. Indexing of clinical background information for anatomical relevancy

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6075879A (en) * 1993-09-29 2000-06-13 R2 Technology, Inc. Method and system for computer-aided lesion detection using information from multiple images
JPH10134021A (ja) * 1996-11-05 1998-05-22 Olympus Optical Co Ltd 相互結合型ニューラルネットワークとそれを用いた対応点決定装置
US6320976B1 (en) * 1999-04-01 2001-11-20 Siemens Corporate Research, Inc. Computer-assisted diagnosis method and system for automatically determining diagnostic saliency of digital images
WO2003101303A1 (en) * 2002-05-31 2003-12-11 U-Systems, Inc. Breast cancer screening with adjunctive ultrasound mammography
JP2004031439A (ja) * 2002-06-21 2004-01-29 Renesas Technology Corp 半導体集積回路装置およびその製造方法
US8594410B2 (en) * 2006-08-28 2013-11-26 Definiens Ag Context driven image mining to generate image-based biomarkers
AU2004251359B2 (en) * 2003-06-25 2009-01-22 Siemens Medical Solutions Usa, Inc. Systems and methods for automated diagnosis and decision support for breast imaging
US7616799B2 (en) 2004-06-18 2009-11-10 Siemens Medical Solutions Usa, Inc. System and method for monitoring disease progression or response to therapy using multi-modal visualization
WO2007031954A2 (en) * 2005-09-15 2007-03-22 Philips Intellectual Property & Standards Gmbh Compensating in-plane and off-plane motion in medical images
US8014576B2 (en) 2005-11-23 2011-09-06 The Medipattern Corporation Method and system of computer-aided quantitative and qualitative analysis of medical images
US7814040B1 (en) 2006-01-31 2010-10-12 The Research Foundation Of State University Of New York System and method for image annotation and multi-modal image retrieval using probabilistic semantic models
JP2010000133A (ja) * 2008-06-18 2010-01-07 Konica Minolta Medical & Graphic Inc 画像表示装置、画像表示方法及びプログラム
CN101373479A (zh) * 2008-09-27 2009-02-25 华中科技大学 一种乳腺x线摄片计算机图像检索方法及系统
US20100099974A1 (en) 2008-10-20 2010-04-22 Siemens Medical Solutions Usa, Inc. System for Generating a Multi-Modality Imaging Examination Report
CN101564323B (zh) * 2009-04-20 2010-09-01 华中科技大学 基于乳腺x线摄片的乳腺病灶辅助诊断设备
US8566321B2 (en) * 2011-03-11 2013-10-22 Amco Llc Relativistic concept measuring system for data clustering
WO2012154216A1 (en) * 2011-05-06 2012-11-15 Sti Medical Systems, Llc Diagnosis support system providing guidance to a user by automated retrieval of similar cancer images with user feedback

Also Published As

Publication number Publication date
US9370305B2 (en) 2016-06-21
RU2013146019A (ru) 2015-04-27
WO2012123829A1 (en) 2012-09-20
EP2686809A1 (en) 2014-01-22
US20140003697A1 (en) 2014-01-02
EP2686809B1 (en) 2014-12-24
CN103477353A (zh) 2013-12-25
RU2604698C2 (ru) 2016-12-10
JP2014512897A (ja) 2014-05-29

Similar Documents

Publication Publication Date Title
JP6014059B2 (ja) 医療データの知的リンキング方法及びシステム
US10332251B2 (en) Methods and systems for automatically mapping biopsy locations to pathology results
JP6438395B2 (ja) 効果的な表示及び報告のための画像資料に関連する以前の注釈の自動検出及び取り出し
US8903147B2 (en) Medical report generation apparatus, method and program
US7599534B2 (en) CAD (computer-aided decision) support systems and methods
US7747050B2 (en) System and method for linking current and previous images based on anatomy
US20160321427A1 (en) Patient-Specific Therapy Planning Support Using Patient Matching
JP2019153250A (ja) 医療文書作成支援装置、方法およびプログラム
JP6796060B2 (ja) 画像レポート注釈同定
JP6945474B2 (ja) 学習用データ作成支援装置、学習用データ作成支援方法、および学習用データ作成支援プログラム
EP3424017B1 (en) Automatic detection of an artifact in patient image data
US20180301216A1 (en) Automatic layout apparatus, automatic layout method, and automatic layout program
US20210210206A1 (en) Medical image diagnosis support device, method, and program
CN117912626A (zh) 提供用于创建医学评定报告的文档模型结构的方法和系统
EP3794550A1 (en) Comparison of a region of interest along a time series of images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160923

R150 Certificate of patent or registration of utility model

Ref document number: 6014059

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees