JP2023176256A - 画像からデータを予測する方法、コンピュータシステム、及びコンピュータ可読媒体 - Google Patents

画像からデータを予測する方法、コンピュータシステム、及びコンピュータ可読媒体 Download PDF

Info

Publication number
JP2023176256A
JP2023176256A JP2022088439A JP2022088439A JP2023176256A JP 2023176256 A JP2023176256 A JP 2023176256A JP 2022088439 A JP2022088439 A JP 2022088439A JP 2022088439 A JP2022088439 A JP 2022088439A JP 2023176256 A JP2023176256 A JP 2023176256A
Authority
JP
Japan
Prior art keywords
image
computer
spatial
patch
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022088439A
Other languages
English (en)
Inventor
シュレヤ シャルマ
Sharma Shreya
アビヒシェック バハダン
Vahadane Abhishek
スリカンス ラゴサマン
Ragothaman Srikanth
シャンタヌ マジュムダル
Majumdar Shantanu
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rakuten Group Inc
Original Assignee
Rakuten Group Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rakuten Group Inc filed Critical Rakuten Group Inc
Priority to JP2022088439A priority Critical patent/JP2023176256A/ja
Publication of JP2023176256A publication Critical patent/JP2023176256A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Investigating Or Analysing Biological Materials (AREA)
  • Image Analysis (AREA)

Abstract

Figure 2023176256000001
【課題】スライド画像全体から、生物学的構成要素に関する情報を抽出する画像からデータを予測する方法、コンピュータシステム、コンピュータプログラム及びコンピュータ可読媒体を提供する。
【解決手段】画像からデータを予測するデータ予測システム200において、前処理モジュール202は、入力データ210を処理する。パッチ抽出モジュール204は、前処理された画像データからパッチを抽出する。空間特徴圧縮モジュール206は、H&Eデータセットで訓練された事前訓練VAEを使用して、圧縮された特徴表現を取得する。深層学習回帰モジュール208(又は深層学習回帰部)は、圧縮された特徴画像を入力し、完全な画像の予測された分子データ212を出力する。
【選択図】図2

Description

特許法第30条第2項適用申請有り 令和3年11月1日~11月5日に開催された IEEE EMBC 2021(オンライン)、ウェブサイト(https://embc.embs.org/2021/)
本開示は、一般に、データ処理の分野、より具体的には機械学習に関する。
画像、アニメーション、及び音声等のバイナリファイルは、大量のデータの作成及び符号化を可能にした。例えば、医学の分野では、顕微鏡画像データと分子データが癌研究に広く使用されている。この場合、表形式の分子データは遺伝子タイプの変化に関する情報を提供するが、非表形式の顕微鏡画像データは細胞の構造とパターンの変化に関する情報を提供する。
デジタル病理学は、スライド画像全体から、生物学的構成要素に関する情報を抽出することを可能にした。ヘマトキシリン及びエオシン(H&E)は、世界中の病理学研究室で使用されている一般的な染色技術である。典型的な実施として、ヘマトキシリン色素は核を青で染色し、エオシンは細胞質と細胞外マトリックスをピンクで染色する。細胞と核は組織の基本要素であり、そのような成分の統計値は、新しいバイオマーカーの開発と正確な診断に利用できる。核の大きさ、形状、密度、局所的なテクスチャ、核の近くの空間的特徴、及び局所的な組織構造(腺)は、スライド画像全体の癌活動に関する重要な手がかりを提供する。
実施形態は、バイナリファイル内の特徴を予測するための方法、システム、及びコンピュータ可読媒体に関する。一態様によれば、バイナリファイル内の特徴を予測するための方法が提供される。この方法は、画像を1つ又は複数のパッチ画像に分割することを含み得る。1つ又は複数のパッチ画像に対応する空間的特徴は圧縮される。圧縮された空間的特徴に対応する出力データが予測される。出力データは、圧縮された空間的特徴に対応する1つ又は複数の損失関数を最小化することに基づいて、予測される。
別の態様によれば、バイナリファイルの特徴を予測するためのコンピュータシステムが提供される。コンピュータシステムは、1つ又は複数のプロセッサ、1つ又は複数のコンピュータ可読メモリ、1つ又は複数のコンピュータ可読有形記憶装置、及び1つ又は複数のメモリのうち少なくとも1つを介して、1つ又は複数のプロセッサの少なくとも1つにより実行するための1つ又は複数の記憶装置の少なくとも1つに格納されたプログラム命令を含み得る。それにより、コンピュータシステムは方法を実行できる。この方法は、画像を1つ又は複数のパッチ画像に分割することを含み得る。1つ又は複数のパッチ画像に対応する空間的特徴が圧縮される。圧縮された空間的特徴に対応する出力データが予測される。出力データは、圧縮された空間的特徴に対応する1つ以上の損失関数を最小化することに基づいて、予測される。
さらに別の態様によれば、バイナリファイルの特徴を予測するためのコンピュータ可読媒体が提供される。コンピュータ可読媒体は、1つ又は複数のコンピュータ可読記憶装置、及び1つ又は複数の有形記憶装置のうちの少なくとも1つに記憶され、プロセッサによって実行可能なプログラム命令を含み得る。プログラム命令は、プロセッサにより実行され、画像を1つ又は複数のパッチ画像に分割することを適宜含むことができる方法を実行する。1つ又は複数のパッチ画像に対応する空間的特徴は圧縮される。圧縮された空間的特徴に対応する出力データが予測される。出力データは、圧縮された空間的特徴に対応する1つ以上の損失関数を最小化することに基づいて、予測される。
これら及び他の目的、特徴及び利点は、例示的な実施形態の以下の詳細な説明から明らかになり、添付の図面に関連して読まれることになる。図は、詳細な説明と併せて当業者の理解を容易にすること明確にするため、図面の様々な特徴は、縮尺どおりではない。
少なくとも1つの実施形態におけるネットワーク化されたコンピュータ環境を示す。 少なくとも1つの実施形態におけるデータを予測するシステムのブロック図である。 少なくとも1つの実施形態における空間特徴圧縮モジュールのブロック図である。 少なくとも1つの実施形態における空間特徴圧縮モジュールのブロック図である。 少なくとも1つの実施形態における分子データを予測するための方法の動作フローチャートである。 少なくとも1つの実施形態における図1に示されるコンピュータ及びサーバの内部及び外部構成要素のブロック図である。
請求された構造及び方法の詳細な実施形態は、本明細書に開示される。しかしながら、開示された実施形態は、様々な形態で具体化され得る請求された構造及び方法の単なる例示であることが理解され得る。しかしながら、これらの構造及び方法は、多くの異なる形態で具体化することができ、本明細書に記載の例示的な実施形態に限定されると解釈されるべきではない。むしろ、これらの例示的な実施形態は、この開示が十分かつ完全であり、その範囲を当業者に十分に伝えるように提供される。本説明では、提示された実施形態を不必要に曖昧にすることを回避するために、周知の特徴及び技術の詳細は省略されることがある。
実施形態は、一般に、データ処理の分野に関連し、より具体的には、機械学習に関連する。以下に記載される例示的な実施形態は、とりわけ、H&E画像データに基づいて分子データを予測するためのシステム、方法、及びコンピュータプログラムを提供する。したがって、いくつかの実施形態は、容易に利用可能で、単純で、安価な診断方法を使用して、コンピュータによりRNAデータを予測することを可能にすることによって、コンピューティングの分野を改善する能力を有する。
上記のように、画像、アニメーション、及び音声などのバイナリファイルは、大量のデータの作成及び符号化を可能にした。例えば、医学の分野では、顕微鏡画像データと分子データが癌研究に広く使用されており、デジタル病理学により、スライド画像全体から生物学的成分に関する情報を抽出することが可能になった。ヘマトキシリン及びエオシン(H&E)は、世界中の病理学研究室で使用される一般的な染色技術であり、核の大きさ、形状、密度、局所的なテクスチャ、核及び局所組織構造(腺)の近傍の空間的特徴を評価する。これらの特徴は、スライド画像全体の癌活動に関する重要な手がかりを提供する。癌の診断と治療において、患者の分子プロファイリングは、標的療法又はバイオマーカーベースの治療法を利用するため、需要が高まっている。例えば、EGFR変異を有する肺がんの患者、又はBRAF変異を有する黒色腫の患者は、アメリカ食品医薬局による標的療法の承認を受けている。
しかしながら、分子データの測定は、高価な装置、長い分析時間、及び組織サンプル依存性のために、非常に費用がかかり、時間のかかる臨床手順である。一方、H&E技術は安価であり、比較的簡単な手順を構成する場合がある。研究によると、分子データの遺伝的変化がH&Eデータの細胞構造の変化を引き起こす。したがって、2つのデータタイプは相関してリンクされる。よって、取得された顕微鏡画像データ(H&E画像データなど)から特徴を使用して分子データを予測することが有効な場合がある。
しかしながら、顕微鏡検査及び医療画像データは、サイズが非常に大きくなる可能性があり、計算制約のため、分子データ(例えば、RNAデータ)を予測するように訓練された深層学習モデルなどの分析モデルに、これらの画像をロードすることが困難になる。これらの制約を克服する1つの方法は、パッチベースの抽出である。この抽出では、画像から、パッチ又はタイルのランダムサンプルが取得され、分析結果がそれらのパッチ又はタイルについて集約される。例えば、深層学習モデルを使用して、各パッチからの分子データを予測し(特徴抽出)、その後、パッチアグリゲーターを使用して、すべてのパッチの結果を集約(例えば、平均化)することができる。したがって、モデルへ入力するために画像をパッチに分割して、次に結果を集約するように深層学習モデルを使用して、完全な画像予測をすることができる。
パッチベースのアプローチには、いくつかの制限がある。まず、パッチは、画像からランダムに抽出される。ただし、実際には、分子データは均一ではなく、パッチのランダムサンプルは、画像全体の特徴を正確に反映していない可能性がある。例えば、パッチの1つに過度のノイズがあるか、十分な情報がない場合、集計結果は誤っており、分子データ(RNAデータなど)を正確に反映しない。さらに、パッチは画像からランダムに抽出されるため、その中の特徴は個別に処理され、パッチ間の空間的関係は失われる。しかし、空間的関係は、分子データの予測、特に分子データの観点から画像の重要な領域を識別するために重要である。もう1つの問題は、特徴抽出の深層学習モデルが、医療画像や顕微鏡画像とは関係のない画像により、事前にトレーニングされている可能性があることである。例えば、犬や車の画像でトレーニングされた深層学習モデルを、特徴抽出のために医療画像に適用することがある。データセット間の極端な違い(犬の画像と医療画像)を考えると、特徴抽出は最適ではない。
例示的な実施形態の態様は、抽出されたパッチ間の空間的関係を保持する空間特徴圧縮部と、圧縮された特徴を入力し予測された分子データを出力する深層学習回帰部を、組み込むことによって、これらの問題を解決する。このフレームワークで、各パッチに分子データ情報があるという仮定が回避される。全スライドレベルで分子データを推測するために、局所的な細胞の特徴と全体的な空間的特徴の双方が使用される。さらに、例示的な実施形態の態様は、無関係のデータセットで事前に訓練されたモデルとは対照的に、結合損失を使用する特徴圧縮部及び深層学習回帰部のエンドツーエンドの訓練を提供する。その結果、分子データの特徴抽出と予測の精度が向上する。
様々な実施形態による方法、装置(システム)、及びコンピュータ可読媒体のフローチャート図及び/又はブロック図を参照して、本明細書で態様を説明する。フローチャート図及び/又はブロック図の各ブロック、及びフローチャート図及び/又はブロック図のブロックの組み合わせは、コンピュータ可読プログラム命令によって実行できることが理解される。
以下に記載される例示的な実施形態は、画像(例えば、H&E顕微鏡画像データから)からデータ(例えば、分子データ)を予測するシステム、方法、及びコンピュータプログラムを提供する。人間のH&E顕微鏡データから分子データを予測することを参照して、ここで例示的な実施形態を説明するが、本開示はそれに限定されず、画像から抽出された特徴に基づいて、任意のタイプの画像によって示される任意のタイプのデータを予測するために適用できると理解される。
ここで図1を参照して、H&E画像に基づいて、分子データを予測する分子データ予測システム100(以下、「システム」)を示す、ネットワーク化されたコンピュータ環境の機能ブロック図を提供する。図1は、1つの実施の例示のみを提供し、異なる実施形態が実施され得る環境を制限するものではないと理解すべきである。設計と実施要件に基づいて、表記された環境に多くの変更を加えることができる。
システム100は、コンピュータ102とサーバコンピュータ114を含み得る。コンピュータ102は、通信ネットワーク110(以下、「ネットワーク」)を介してサーバコンピュータ114と通信できる。コンピュータ102は、プロセッサ104と、データ記憶装置106に記憶され、ユーザとインターフェースし、サーバコンピュータ114と通信することが可能であるソフトウェアプログラム108と、を含み得る。以下、図5を参照して説明するように、コンピュータ102は、内部構成要素800Aと外部構成要素900Aをそれぞれ含み得、サーバコンピュータ114は、内部構成要素800Bと外部構成要素900Bをそれぞれ含み得る。コンピュータ102は、例えば、モバイルデバイス、電話、携帯情報端末、ネットブック、ラップトップコンピュータ、タブレットコンピュータ、デスクトップコンピュータ、又はプログラムを実行しネットワーク及びデータベースへアクセスできる任意のタイプのコンピューティングデバイスであり得る。
図1を参照して以下に説明するように、サーバコンピュータ114は、サービスとしてのソフトウェア(SaaS)、サービスとしてのプラットフォーム(PaaS)、又はサービスとしてのインフラストラクチャ(IaaS)などのクラウドコンピューティングサービスモデルにおいても動作し得る。サーバコンピュータ114はまた、プライベートクラウド、コミュニティクラウド、パブリッククラウド、又はハイブリッドクラウドなどのクラウドコンピューティング展開モデルに配置され得る。
バイナリファイル内の特徴を予測するために使用され得るサーバコンピュータ114は、データベース112と相互作用し得る分子データ予測プログラム116(以下、「プログラム」)を実行することが可能である。分子データ予測プログラム方法は、以下で、図3Aと図3Bを参照してより詳細に説明する。一実施形態では、プログラム116は主にサーバコンピュータ114上で実行され得るが、コンピュータ102は、ユーザインターフェースを含む入力デバイスとして動作し得る。別の実施形態では、プログラム116は、1つ又は複数のコンピュータ102上で実行されるが、サーバコンピュータ114は、プログラム116により使用されるデータの処理及び保存のために使用される。別の実施形態では、プログラム116は、1つ又は複数のコンピュータ102上で実行でき、プログラム116によって使用されるデータは、1つ又は複数のコンピュータ102に格納され得る。この場合、サーバコンピュータ114は省略されてもよい。プログラム116は、独立したプログラムであり得るか、又はより大きな分子データ予測プログラムに統合され得ることに留意すべきである。
さらに、プログラム116の処理は、場合によっては、コンピュータ102とサーバコンピュータ114との間で任意の比率で共有され得ることに留意すべきである。別の実施形態では、プログラム116は、1以上のコンピュータ、サーバコンピュータ、又はコンピュータとサーバコンピュータのいくつかの組み合わせ、例えば、ネットワーク110を介して単一のサーバコンピュータ114と通信する複数のコンピュータ102で動作することができる。別の実施形態では、例えば、プログラム116は、ネットワーク110を介して、複数のクライアントコンピュータと通信する複数のサーバコンピュータ114上で動作することができる。あるいは、プログラムは、ネットワークを介してサーバ及び複数のクライアントコンピュータと通信するネットワークサーバー上で動作することができる。
ネットワーク110は、有線接続、無線接続、光ファイバ接続、又はそれらのいくつかの組み合わせを含み得る。一般に、ネットワーク110は、コンピュータ102とサーバコンピュータ114との間の通信をサポートする接続及びプロトコルの任意の組み合わせであり得る。ネットワーク110は、様々なタイプのネットワーク、例えば、ローカルエリアネットワーク(LAN)、インターネットなどの広域ネットワーク(WAN)、公衆交換電話ネットワーク(PSTN)などの電気通信ネットワーク、無線ネットワーク、公共交換ネットワーク、衛星ネットワーク、セルラーネットワーク(例えば、第5世代 (5G)ネットワーク、長期進化(LTE)ネットワーク、第3世代(3G)ネットワーク、符号分割多元接続(CDMA)ネットワークなど)、公衆陸上移動体(PLMN)、メトロポリタンエリアネットワーク(MAN)、プライベートネットワーク、アドホックネットワーク、イントラネット、光ファイバーベースのネットワークなど、及び/又はこれら又は他のタイプのネットワークの組み合わせ、を含み得る。
図1に示すデバイス及びネットワークの数及び配置は、一例として示したものである。実際には、図1に示したもの以外に、追加のデバイス及び/又はネットワーク、より少ないデバイス及び/又はネットワーク、異なるデバイス及び/又はネットワーク、又は異なる配置のデバイス及び/又はネットワークがあり得る。さらに、図1に示す2つ以上のデバイスは、図1に示す単一のデバイスに実装され得る。又は、図1に示す単一のデバイスは、複数の分散デバイスとして実装できる。さらに、又は代わりに、システム100のデバイスのセット(例えば、1つ又は複数のデバイス)は、システム100の別のデバイスのセットによって実行されると説明された1つ又は複数の機能を実行することができる。
ここで図2を参照すると、データ予測システム200のブロック図が示されている。例えば、本開示は、特定のタイプのデータ又は画像に限定されないと理解されるが、データ予測システム200は、顕微鏡画像から分子データを予測する分子データ予測システムであり得る。データ予測システム200は、他の構成要素の中において、前処理モジュール202、パッチ抽出モジュール204、空間特徴圧縮モジュール206、及び深層学習回帰モジュール208を含み得る。
前処理モジュール202(又は前処理装置)は、入力データ210(例えば、H&E画像又は免疫蛍光画像などの顕微鏡画像データ)を処理する。入力データ210は、とりわけ、頭頸部扁平上皮癌(HNSCC)の原発腫瘍サンプルを含み得、これについて、H&E全スライド画像及びRNA配列データの両方が利用可能であり得る。しかしながら、実質的に任意の病理に対応するデータが使用され得ることが理解され得る。HNSCCには、頭頸部領域の複数の部位の癌が含まれる場合がある。前処理モジュール202は、入力データ210をダウンサンプリングすることによって(例えば、4の係数で)、入力データ210に前処理を適用し、閾値(例えば、大津閾値)を適用して、組織領域を背景領域から分離することができる。一実施形態によれば、前処理は、画像サイズを縮小するダウンサンプリング、大津閾値化(例えば、組織領域から背景を除去する)、異なる画像間で染色色を正規化する染色正規化、及び画像の特徴(例えば、組織構造や細胞)を強化するコントラスト強調、のうちの少なくとも1つを含み得る。
パッチ抽出モジュール204は、前処理された画像データからパッチを抽出することができる。限定ではなく例として、パッチは、128ピクセル×128ピクセルのサイズであり得、これは、組織病理学的画像分析で使用される一般的なパッチサイズであり得る。抽出されたパッチはまた、とりわけ、対応する組織領域からの位置データを含み得る。パッチ抽出モジュール204(又はパッチ抽出部)は、入力データ210から1つ又は複数のパッチ画像を抽出することができる。本実施形態では、パッチ抽出モジュール204は、パッチのランダムサンプルとは対照的に、画像全体のパッチを抽出する。
パッチは全画像に対応するので、それらのサイズは、特徴抽出モデルに入力するには大きすぎる可能性がある。したがって、空間特徴圧縮モジュール206(又は空間特徴圧縮部)は、パッチを複数の特徴に圧縮することができる。入力データ210がパッチに変換された後、空間特徴圧縮モジュール206は、各パッチから特徴を抽出して、低次元のピクセル空間を高次元の特徴空間に表すことができる。空間コンテキスト情報を保持しながら特徴を抽出するために、空間特徴圧縮モジュール206は、全てのスライド画像を圧縮するための神経画像圧縮(NIC)技術を採用することができる。NICは、ニューラルネットワークを使用して、パッチを特徴ベクトルにマッピングし、各特徴ベクトルを配列に配置して、配列内の隣接する特徴ベクトルが元のスライド画像全体の隣接するパッチを表すように、元の空間配置を維持する。NICではいくつかのニューラルネットワークアーキテクチャが使用される。例えば、変分オートエンコーダ(VAE)を医療画像の分類に使用できる。空間特徴圧縮モジュール206は、圧縮された特徴表現を取得するために、H&Eデータセットで訓練された事前訓練VAEを使用することができる。例えば、パッチは、異なる特徴に対応する複数のフィルタを使用して圧縮され得る(例えば、64個の画像のスタックを出力するための64個のフィルタ)。言い換えれば、本例示的な実施形態によれば、特徴は拡大され得るが、画像は圧縮され得る。これにより、空間情報及び他の有用な情報を予測モデル用に保存できる。
深層学習回帰モジュール208(又は深層学習回帰部)は、圧縮された特徴画像を入力し、完全な画像の予測された分子データ212を出力する。ランダムパッチベースのアプローチと比較して、より多くの情報が深層学習回帰モジュール208(空間的関係を含む)に供給され、それにより、より正確な分子データ予測結果を提供する。具体的には、深層学習回帰モジュール208は、H&Eの全スライド画像の圧縮された特徴表現を特徴ベクトルとして入力し、予測される分子データ212として、遺伝子発現値などのRNA配列情報を生成することができる。例えば、特徴ベクトルは、128個の入力チャネルで、224×224ピクセルの大きさを変更し、これは、各特徴ベクトルの長さに対応する場合がある。深層学習回帰モジュール208は、ストライド=1及びパディング=1のカーネルサイズ(3,3)の1つ又は複数の畳み込み層を含み得、それぞれ、ストライド=2及びパディング=2のバッチ正規化層及び最大プーリング層が続く。さらに、深層学習回帰モジュール208は、1つ又は複数の隠れた全結合層及び出力全結合層を含み得る。畳み込み層は、階層学習プロセスを通じて、ローカルパッチレベルとグローバル画像レベルの特徴を学習し、全結合層は、学習した特徴に基づいて遺伝子値を回帰する。深層学習回帰モジュール208は、トレーニング中に使用されたスライド画層全体にわたる、真のRNA配列遺伝子発現値と予測されたRNA配列遺伝子発現値との間の二乗差の合計の平均を計算する平均二乗誤差(MSE)損失関数を用いて、提案された深層学習モデルの損失関数を最適化することができる。
さらに、分子データ予測システム200は、結合損失を使用する空間特徴圧縮モジュール206及び深層学習回帰モジュール208のエンドツーエンドトレーニングを含み得る。例えば、回帰損失関数は式1のように定義できる。
Figure 2023176256000002
特徴圧縮損失関数は、式2として定義できる。
Figure 2023176256000003
結合損失関数は、式3として定義できる。
Figure 2023176256000004
ここで、iは、画像のi番目のパッチ、Nは、1つの画像からのパッチの総数、xpredは、再構成されたパッチ、xtrueは、実際のパッチ、ypredは、画像レベルでの分子データの予測値、ytrueは、画像レベルでの分子データの実際の値である。
1つ又は複数の実施形態によれば、第1のモデル及び第2のモデルのパラメータ(例えば、重み)は、第1及び第2の損失関数、すなわち、組み合わされた損失関数に基づいて調整(又は最適化)され得る。その結果、特徴抽出の第1のモデルは、関連するアートモデルを事前にトレーニングするために一般的に使用される無関係のデータセットの代わりに、関連する画像(H&E画像など)を使用してトレーニングされるため、特徴抽出が改善される。さらに、特徴は、関連するタスク(例えば、上記の実施形態における分子データ予測のタスク)のために特別に最適化されている。これにより、予測タスクの精度が向上する。実施形態による結合損失なしでは、特徴は、分類/セグメンテーションなどの無関係なタスクのために最適化され得、意図されたタスク、例えば、分子データ予測のために有用でない可能性がある。さらに、実施形態による結合損失を実施することにより、両方のモデルのタスクは、順次又は一度に単一のモデル又はタスクではなく、エンドツーエンドのフレームワークで一緒にトレーニングされるので、トレーニングはより速くなる。
図3Aを参照すると、図2に示した空間特徴圧縮モジュール206のブロック図が、1つ又は複数の実施形態に従って示される。図3Aに示す空間特徴圧縮モジュール206は、神経画像圧縮を基礎にすることができる。空間特徴圧縮モジュール206は、他の構成要素の中において、特徴抽出モジュール302A-C(又は特徴抽出部)、空間配置モジュール304(又は空間配置部)、及び深層学習モデル出力モジュール306(又は深層学習モデル)を含み得る。特徴抽出モジュール302A-Cは、受信された入力H&Eデータ308から特徴を抽出することができる。空間配置モジュール304は、抽出された特徴の空間位置に基づいて圧縮画像を生成することができる。深層学習モデル出力モジュール306は、圧縮された画像からRNAデータ310を予測及び出力することができる。
ここで図3Bを参照すると、図2に示した空間特徴圧縮モジュール206のブロック図が、1つ又は複数の実施形態に従って示される。図3Bに示す空間特徴圧縮モジュール206は、腫瘍領域検出を基礎にすることができる。空間特徴圧縮モジュール206は、とりわけ、癌検出モジュール312(又は癌検出部)、特徴抽出モジュール314A-B(又は特徴抽出部)、空間配置モジュール316A-B(又は空間配置部)、及び組合せモジュール318(又は組合せ部)を含み得る。癌パッチと正常パッチは、H&E画像で異なる空間パターンと形態を有する可能性があることが理解できる。したがって、癌検出モジュール312は、入力H&Eデータ320の圧縮表現を強化するために、そのようなパターンの別個の学習を可能にし得る。したがって、特徴抽出モジュール314Aは、癌パッチから特徴を抽出し得、特徴抽出モジュール314Bは、正常のパッチから特徴を抽出し得る。空間配置モジュール316A及び316Bは、それぞれ、圧縮された癌パッチ特徴及び圧縮された正常パッチ特徴を生成し得る。組合せモジュール318は、圧縮された癌と正常なパッチの特徴を組み合わせることができ、深層学習モデルに基づいてRNAデータ322を出力することができる。
ここで図4を参照すると、分子データを予測するプログラムによって実行される方法400のステップを示す動作フローチャートが示されている。
402において、方法400は、画像を1つ又は複数のパッチ画像に分割することを含み得る。本実施形態では、パッチ抽出モジュール204は、パッチのランダムサンプルとは対照的に、画像全体のパッチを抽出する。したがって、画像全体をデータ予測に使用することができ、それにより、より完全でより安定した情報(画像内の特徴の空間的関係など)を保存して、より正確な予測をもたらすことができる。
404において、方法400は、1つ又は複数のパッチ画像に対応する空間的特徴を圧縮することを含み得る。ここで、第1のモデル(例えば、空間特徴圧縮部などの機械学習モデル)を使用して、パッチ画像から特徴表現画像を圧縮する(例えば、H&E特徴を圧縮する)ことができる。
406において、方法400は、圧縮された空間的特徴に対応する出力データを予測することを含み得る。特に、第2のモデル(例えば、深層学習回帰部などの機械学習モデル)を使用して、出力データ(画像のタイプに応じた分子データ又は他の特徴データなど)を予測することができる。
1つ又は複数の実施形態によれば、結合損失関数を使用して、システムのエンドツーエンドのトレーニングを行うことができる。すなわち、第1のモデル及び第2のモデルのパラメータは、第1のモデルの第1の損失関数(例えば、上記の式1)及び第2のモデルの第2の損失関数(例えば、上記の式2)、つまり、結合損失関数に基づいて、調整又は最適化され得る。結合損失関数の例は、式3を参照して上記で提供されている。したがって、第1のモデル(機能コンプレッサー)と第2のモデル(深層学習リグレッサなど)のエンドツーエンドトレーニングは、無関係なデータセットで事前トレーニングされたモデルとは対照的に、結合損失を使用して達成される。その結果、データ(分子データやRNAデータなど)の特徴抽出と予測の精度が向上する。
図4は、1つの実施の例示のみを提供し、異なる実施形態がどのように実施され得るかについて、いかなる制限を意図するものではないと理解される。示された環境に対する多くの変更は、設計及び実施の要件に基づいて行うことができる。
図5は、例示的な実施形態における、図1に示されるコンピュータの内部及び外部構成要素のブロック図500である。図5は、1つの実施の例示のみを提供し、異なる実施形態が実施され得る環境について、いかなる制限を意図するものではないと理解されるべきである。示された環境に対する多くの変更は、設計及び実施の要件に基づいて行うことができる。
コンピュータ102(図1)とサーバコンピュータ114(図1)は、図5に示す内部構成要素800A、B及び外部構成要素900A、Bのそれぞれのセットを含み得る。内部構成要素800の各セットは、1つ又は複数のプロセッサ820、1つ又は複数のバス826上の、1つ又は複数のコンピュータ可読RAM822と1つ又は複数のコンピュータ可読ROM824、1つ又は複数のオペレーティングシステム828、及び1つ又は複数のコンピュータ可読有形記憶装置830を含む。
プロセッサ820は、ハードウェア、ファームウェア、又はハードウェアとソフトウェアの組み合わせで実行される。プロセッサ820は、中央処理装置(CPU)、グラフィックス処理装置(GPU)、加速処理装置(APU)、マイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、又は別のタイプの処理構成要件である。いくつかの実装形態では、プロセッサ820は、機能を実行するようにプログラムすることができる1つ又は複数のプロセッサを含む。バス826は、内部構成要素800A、B間の通信を可能にする構成要素を含む。
サーバコンピュータ114(図1)上の1つ又は複数のオペレーティングシステム828、ソフトウェアプログラム108(図1)及び分子データ予測プログラム116(図1)は、それぞれの1つ又は複数のコンピュータ可読な有形記憶装置830に格納され、1つ又は複数のそれぞれのRAM822(典型的にはキャッシュメモリを含む)を介して、1つ又は複数のそれぞれのプロセッサ820によって実行される。図5に示す実施形態では、コンピュータ可読有形記憶装置830のそれぞれは、内蔵ハードドライブの磁気ディスク記憶装置である。あるいは、コンピュータ可読有形記憶装置(ハードドライブ)830のそれぞれは、例えば、ROM824、EPROM、フラッシュメモリ、光ディスク、磁気光学ディスク、ソリッドステートディスク、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、フロッピーディスク、カートリッジ、磁気テープ、及び/又はコンピュータプログラムとデジタル情報を格納できる別のタイプの非一時的なコンピュータ可読有形記憶装置である、半導体記憶装置である。
内部構成要素800A、Bの各セットはまた、CD-ROM、DVD、メモリスティック、磁気テープ、磁気ディスク、光ディスク又は半導体記憶装置などの1つ又は複数の携帯型コンピュータ可読有形記憶装置936に対して、読取り及び書込みを行うためのR/Wドライブ又はインターフェース832を含む。ソフトウェアプログラム108(図1)及び分子データ予測プログラム116(図1)などのソフトウェアプログラムは、それぞれの携帯型コンピュータ可読有形記憶装置936のうちの1つ又は複数に記憶され得、R/Wドライブ又はインターフェース832を介して読み取られ、それぞれのハードドライブ830にロードされる。
内部構成要素800A、Bの各セットはまた、TCP/IPアダプタカード、ワイヤレスWi-Fiインターフェースカード、又は3G、4G、又は5Gワイヤレスインターフェイスカード又はその他の有線又は無線通信リンクなどのネットワークアダプタ又はインターフェース836を含む。サーバコンピュータ114(図1)上のソフトウェアプログラム108(図1)及び分子データ予測プログラム116(図1)は、外部のコンピュータから、ネットワーク(例えば、インターネット、ローカルエリアネットワーク又は他の広域ネットワーク)及びそれぞれのネットワークアダプタ又はインターフェース836を介して、コンピュータ102(図1)及びサーバコンピュータ114にダウンロードすることができる。ネットワークアダプタ又はインターフェース836から、サーバコンピュータ114上のソフトウェアプログラム108及び分子データ予測プログラム116は、それぞれのハードドライブ830にロードされる。ネットワークは、銅線、光ファイバ、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ、及び/又はエッジサーバを含み得る。
外部構成要素900A、Bの各セットは、コンピュータディスプレイモニタ920、キーボード930、及びコンピュータマウス934を含むことができる。外部構成要素900A、Bはまた、タッチスクリーン、仮想キーボード、タッチパッド、ポインティングデバイス、及びその他のヒューマンインターフェイスデバイスを含むことができる。内部構成要素800A、Bの各セットはまた、コンピュータディスプレイモニタ920、キーボード930、及びコンピュータマウス934にインターフェースするためのデバイスドライバ840を含む。デバイスドライバ840、R/Wドライブ又はインターフェース832、及びネットワークアダプタ又はインターフェース836は、ハードウェア及びソフトウェア(ハードドライブ830及び/又はROM824に格納されている)を含む。
本開示はクラウドコンピューティングに関する詳細な説明を含むが、本明細書に列挙される教示の実施はクラウドコンピューティング環境に限定されないことが事前に理解される。むしろ、いくつかの実施形態は、現在知られている、又は後で開発される他のタイプのコンピューティング環境と組み合わせて実行することができる。
いくつかの実施形態は、任意の可能な技術的詳細レベルの統合におけるシステム、方法、及び/又はコンピュータ可読媒体に関連する。コンピュータ可読媒体は、プロセッサに動作を実行させるためのコンピュータ可読プログラム命令をその上に有するコンピュータ可読非一時的記憶媒体(又は複数の媒体)を含み得る。
コンピュータ可読記憶媒体は、命令実行デバイスによって使用する命令を保持及び記憶することができる有形のデバイスであり得る。コンピュータ可読記憶媒体は、例えば、限定はされないが、電子記憶装置、磁気記憶装置、光学記憶装置、電磁記憶装置、半導体記憶装置、又は前述の任意の適切な組み合わせであり得る。コンピュータ可読記憶媒体のより具体的な例の非網羅的なリストには、以下が含まれる。ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能なプログラム読取専用メモリ(EPROM又はフラッシュメモリ)、静的ランダムアクセスメモリ(SRAM)、ポータブルコンパクトディスク読取専用メモリ(CD-ROM)、デジタル多用途ディスク(DVD)、メモリスティック、フロッピーディスク、溝内に命令が記録されたパンチカード又は隆起した構造などの機械的に符号化されたデバイス、及び前述の任意の適切な組み合わせ。本明細書で使用されるコンピュータ可読記憶媒体は、電波又は他の自由に伝播する電磁波、導波管又は他の伝送媒体を通って伝播する電磁波(例えば、光ファイバーケーブル介して通過する光パルス)、又はワイヤーを介して送信される電気信号、などの一時的な信号自体であると解釈されるべきではない。
本明細書に記載のコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体からそれぞれのコンピューティング/処理装置にダウンロード、又はネットワーク、例えば、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク及び/又はワイヤレスネットワーク等のネットワークを介して、外部コンピュータ又は外部記憶装置にダウンロードすることができる。ネットワークは、銅線伝送ケーブル、光伝送ファイバ、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ、及び/又はエッジサーバで構成される。各コンピューティング/処理装置のネットワークアダプタカード又はネットワークインターフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、それぞれのコンピューティング/処理装置内のコンピュータ可読記憶媒体に記憶するために、コンピュータ可読プログラム命令を転送する。
操作を実行するためのコンピュータ可読プログラムコード/命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、機械命令、機械依存命令、マイクロコード、ファームウェア命令、状態設定データ、統合回路の構成データ、又は1つ以上のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードの何れかであり、Smalltalk、C++などのオブジェクト指向プログラミング言語、及び「C」プログラミング言語又は同様のプログラミング言語を含む。コンピュータ可読プログラム命令は、全てがユーザのコンピュータ上で、部分的にユーザのコンピュータ上で、スタンドアロンソフトウェアパッケージとして、部分的にユーザのコンピュータ上で、部分的にリモートコンピュータ上で、又は全てがリモートコンピュータ又はサーバ上で実行され得る。後者の場合には、リモートコンピュータは、ローカルエリアネットワーク(LAN)又はワイドエリアネットワーク(WAN)を含む任意のタイプのネットワークを介してユーザのコンピュータに接続でき、又は、接続は、外部コンピュータにも実行できる(例えば、インターネットサービスプロバイダを使用したインターネット経由)。いくつかの実施形態では、例えば、プログラマブルロジック回路、フィールドプログラマブルゲートアレイ(FPGA)、又はプログラマブルロジックアレイ(PLA)を含む電子回路は、コンピュータ可読プログラム命令の状態情報を利用して電子回路をパーソナライズすることにより、アスペクト又は操作を実行するため、コンピュータ可読プログラム命令を実行することができる。
これらのコンピュータ可読プログラム命令は、汎用コンピュータ、専用コンピュータ、又は機械を製造する他のプログラム可能なデータ処理装置に提供されて、コンピュータのプロセッサ又は他のプログラム可能なデータ処理装置を介して実行される命令が、フローチャート及び/又はブロック図のブロック又は複数のブロックで指定された機能/行為を実施するための手段を作成する。これらのコンピュータ可読プログラム命令はまた、コンピュータ、プログラム可能なデータ処理装置、及び/又は他のデバイスに特定の方法で機能するように指示することができるコンピュータ可読記憶媒体に記憶され得、その結果、その中に記憶された命令を有するコンピュータ可読記憶媒体は、フローチャート及び/又はブロック図のブロックで指定された機能/行為の一部を実行する命令を含む製造品を備える。
コンピュータ可読プログラム命令はまた、コンピュータ、他のプログラム可能なデータ処理装置、又は他のデバイスにロードされて、コンピュータ、他のプログラム可能な装置又は他のデバイス上で一連の操作ステップを実行させて、コンピュータで実行されるプロセスを生成し、コンピュータ、他のプログラム可能な装置、又は他のデバイス上で実行される命令が、フローチャート及び/又はブロック図で指定された機能/行為を実施する。
図中のフローチャート及びブロック図は、様々な実施形態による、システム、方法、及びコンピュータ可読媒体の可能な実装のアーキテクチャ、機能、及び動作を示す。これに関して、フローチャート又はブロック図の各ブロックは、モジュール、セグメント、又は命令の一部を示し、これは、指定された論理機能を実装するための1つ又は複数の実行可能命令を含む。方法、コンピュータシステム、及びコンピュータ可読媒体は、図に示されている以外の追加のブロック、より少ないブロック、異なるブロック、又は異なる配置のブロックを含み得る。いくつかの代替の実行では、ブロックに示されている機能は、図に示されている順序とは異なる場合がある。例えば、連続して表示される2つのブロックは、実際には同時に又は実質的に同時に実行される場合がある。また、関連する機能に応じて、ブロックが逆の順序で実行される場合もある。ブロック図及び/又はフローチャート図の各ブロック、及びブロック図及び/又はフローチャート図のブロックの組み合わせは、指定された機能又は動作を実行する専用ハードウェアベースのシステムによって実行でき、専用ハードウェアとコンピュータ命令の組み合わせを実行することに留意されたい。
本明細書で説明されるシステム及び/又は方法は、異なる形態のハードウェア、ファームウェア、又はハードウェアとソフトウェアの組み合わせで実行され得ることが明らかであろう。これらのシステム及び/又は方法を実行するために使用される実際の特殊な制御ハードウェア又はソフトウェアコードは、実行を制限するものではない。したがって、システム及び/又は方法の動作及び行為は、特定のソフトウェアコードを参照せずに本明細書で説明した。ソフトウェア及びハードウェアは、本明細書の説明に基づくシステム及び/又は方法を実行するように設計され得ることが理解される。
本明細書で使用される要素、行為、又は命令は、そのように明示的に記載されていない限り、重要又は必須であると解釈されるべきではない。また、本明細書で使用される場合、冠詞「a」及び「an」は、1つ又は複数の項目を含むことを意図しており、「one or more」と交換可能に使用できる。さらに、本明細書で使用される場合、「set」という用語は、1つ又は複数のアイテム(例えば、関連アイテム、非関連アイテム、関連アイテムと非関連アイテムの組み合わせなど)を含むことを意図し、「one or more」と交換可能に使用され得る。1つの項目のみを意図する場合、「one」という用語、又は同様の用語が使用される。また、本明細書で使用される場合、「has」「have」「having」などの用語は、オープンエンドの用語を意図している。さらに、「based on」という句は、特に明記しない限り、「少なくとも部分的に基づく」を意味することを意図している。
様々な態様及び実施形態の説明は、例示の目的で提示されてきたが、網羅的であること、又は開示された実施形態に限定されることを意図するものではない。機能の組み合わせが特許請求の範囲に記載され、及び/又は明細書に開示されているとしても、これらの組み合わせは、可能な実施の開示を制限することを意図するものではない。実際、これらの特徴の多くは、特許請求の範囲に具体的に記載されていない、及び/又は明細書に開示されていない方法で組み合わせることができる。以下に列挙されている各従属クレームは、1つのクレームのみに直接従属している可能性があるが、可能な実施の開示には、クレームセット内の他のすべてのクレームと組み合わせた各従属クレームが含まれる。説明された実施形態の範囲から逸脱することなく、多くの修正及び変形が当業者にとって明らかである。本明細書で使用される用語は、実施形態の原理、市場で認識された技術に対する実際の適用又は技術的改善を最もよく説明するため、又は当業者が本明細書に開示される実施形態を理解できるように選択された。

Claims (20)

  1. プロセッサによって実行可能である画像からデータを予測する方法であって、
    画像を1つ又は複数のパッチ画像に分割し、
    第1のモデルを使用して、 前記1つ又は複数のパッチ画像に対応する空間的特徴を圧縮し、
    第2のモデルを使用して、圧縮された前記空間的特徴に対応する出力データを予測する、
    方法。
  2. 前記圧縮された空間的特徴に対応する1つ又は複数の損失関数を最小化することに基づき、前記第1のモデル及び前記第2のモデルのパラメータを調整すること、をさらに含む、
    請求項1に記載の方法。
  3. 前記1つ又は複数の損失関数のうちの第1の損失関数は、前記1つ又は複数のパッチ画像に基づき、前記第1のモデルによって出力される圧縮された特徴表示画像に対応する、
    請求項2に記載の方法。
  4. 前記1つ又は複数の損失関数のうちの第2の損失関数は、前記圧縮された特徴表示画像に基づく前記画像によって示される、前記第2のモデルによって出力される出力データに対応する、
    請求項3に記載の方法。
  5. 前記空間的特徴を圧縮することは、
    前記圧縮された空間的特徴に対応する空間配置を決定し、
    決定された前記空間配置に基づいて深層学習モデルを生成する、ことである、
    請求項1に記載の方法。
  6. 前記空間的特徴を圧縮することは、
    前記画像に関連する病理を検出し、
    検出された前記病理に対応するパッチ画像を特定し、
    前記画像に関連付けられた正常パッチ画像を特定し、
    前記検出された病理に対応する前記正常パッチ画像とパッチ画像に対応する空間配置を決定させ、
    決定された前記空間配置に基づいて深層学習モデルを生成又はトレーニングすることである、
    請求項1に記載の方法。
  7. 前記1つ又は複数のパッチ画像のうちのパッチ画像は、前記画像内の前記空間的特徴の位置に対応する前記画像とデータの少なくとも一部を含む、
    請求項1に記載の方法。
  8. 画像からデータを予測するためのコンピュータシステムであって、
    コンピュータプログラムコードを格納するように構成された1つ又は複数のコンピュータ可読非一時記憶媒体と、
    前記コンピュータプログラムコードにアクセスし、前記コンピュータプログラムコードにより指示された動作をするように構成された1つ又は複数のコンピュータプロセッサと、を備え、
    前記コンピュータプログラムコードは、
    前記1つ又は複数のコンピュータプロセッサに、画像を1つ又は複数のパッチ画像に分割させるように構成された分割コードと、
    前記1つ又は複数のコンピュータプロセッサに、前記1つ又は複数のパッチ画像に対応する空間的特徴を圧縮させるように構成された第1のモデルの圧縮コードと、
    前記1つ又は複数のコンピュータプロセッサに、圧縮された前記空間的特徴に対応する出力データを予測させるように構成された第2のモデルの予測コードを含む、
    コンピュータシステム。
  9. 前記1つ又は複数のコンピュータプロセッサは、前記圧縮された空間的特徴に対応する1つ又は複数の損失関数を最小化することに基づいて、前記第1のモデル及び前記第2のモデルのパラメータを調整するように
    さらに構成された、請求項8に記載のコンピュータシステム。
  10. 前記1つ又は複数の損失関数のうちの第1の損失関数は、前記第1のモデルに対応する、
    請求項9に記載のコンピュータシステム。
  11. 前記1つ又は複数の損失関数のうちの第2の損失関数は、前記第2のモデルに対応する、
    請求項10に記載のコンピュータシステム。
  12. 前記圧縮コードは、
    前記1つ又は複数のコンピュータプロセッサに、前記圧縮された空間的特徴に対応する空間配置を決定させるように構成された決定コードと、
    前記1つ又は複数のコンピュータプロセッサに、決定された前記空間配置に基づいて深層学習モデルを生成するように構成された生成コードと、を含む、
    請求項8に記載のコンピュータシステム。
  13. 前記圧縮コードは、
    前記1つ又は複数のコンピュータプロセッサに、前記画像に関連する病理を検出させるように構成された検出コードと、
    前記1つ又は複数のコンピュータプロセッサに、検出された前記病理に対応するパッチ画像を特定させるように構成された第1の特定コードと、
    前記1つ又は複数のコンピュータプロセッサに、前記画像に関連付けられた正常パッチ画像を特定させるように構成された第2の特定コードと、
    前記1つ又は複数のコンピュータプロセッサに、前記検出された病理に対応する前記正常パッチ画像とパッチ画像に対応する空間配置を決定させるように構成された決定コードと、
    前記1つ又は複数のコンピュータプロセッサに、決定された前記空間配置に基づいて深層学習モデルを生成するように構成された生成コードと、を含む、
    請求項8に記載のコンピュータシステム。
  14. 前記1つ又は複数のパッチ画像のうちの前記パッチ画像のうちのパッチ画像は、前記画像の少なくとも一部と、前記画像内の前記空間的特徴の位置に対応するデータとを含む、
    請求項8に記載のコンピュータシステム。
  15. 画像からデータを予測するためのコンピュータプログラムをその上に格納した非一時的なコンピュータ可読媒体であって、
    前記コンピュータプログラムは、1つ又は複数のコンピュータプロセッサに、
    画像を1つ又は複数のパッチ画像に分割させ、
    第1のモデルを使用して、前記1つ又は複数のパッチ画像に対応する空間的特徴を圧縮させ、
    第2のモデルを使用して、圧縮された前記空間的特徴に対応する出力データを予測させるように構成された
    コンピュータ可読媒体。
  16. 前記コンピュータプログラムは、前記1つ又は複数のコンピュータプロセッサに、前記圧縮された空間的特徴に対応する1つ又は複数の損失関数を最小化することに基づいて、前記第1のモデル及び前記第2のモデルのパラメータを最適化させるように、さらに構成された、
    請求項15に記載のコンピュータ可読媒体。
  17. 前記1つ又は複数の損失関数のうちの第1の損失関数は、前記第1のモデルに対応する、
    請求項16に記載のコンピュータ可読媒体。
  18. 前記1つ又は複数の損失関数のうちの第2の損失関数は、前記第2のモデルに対応する、
    請求項17に記載のコンピュータ可読媒体。
  19. 前記コンピュータプログラムは、前記1つ又は複数のコンピュータプロセッサに、
    前記圧縮された空間的特徴に対応する空間配置を決定させ、
    前記決定された空間配置に基づいて深層学習モデルを生成させるように、さらに構成された、
    請求項15に記載のコンピュータ可読媒体。
  20. 前記コンピュータプログラムは、前記1つ又は複数のコンピュータプロセッサに、
    前記画像に関連する病理を検出させ、
    検出された前記病理に対応するパッチ画像を特定させ、
    前記画像に関連付けられている正常パッチ画像を特定させ、
    前記検出された病理に対応する前記正常パッチ画像とパッチ画像に対応する空間配置を決定させ、
    決定された前記空間配置に基づいて深層学習モデルを生成させるように構成された、
    請求項15に記載のコンピュータ可読媒体。
JP2022088439A 2022-05-31 2022-05-31 画像からデータを予測する方法、コンピュータシステム、及びコンピュータ可読媒体 Pending JP2023176256A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022088439A JP2023176256A (ja) 2022-05-31 2022-05-31 画像からデータを予測する方法、コンピュータシステム、及びコンピュータ可読媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022088439A JP2023176256A (ja) 2022-05-31 2022-05-31 画像からデータを予測する方法、コンピュータシステム、及びコンピュータ可読媒体

Publications (1)

Publication Number Publication Date
JP2023176256A true JP2023176256A (ja) 2023-12-13

Family

ID=89122696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022088439A Pending JP2023176256A (ja) 2022-05-31 2022-05-31 画像からデータを予測する方法、コンピュータシステム、及びコンピュータ可読媒体

Country Status (1)

Country Link
JP (1) JP2023176256A (ja)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019148473A (ja) * 2018-02-27 2019-09-05 シスメックス株式会社 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム
WO2020198380A1 (en) * 2019-03-26 2020-10-01 Tempus Labs, Inc. Determining biomarkers from histopathology slide images
US20200381121A1 (en) * 2019-05-29 2020-12-03 New York University System and method for tumor characterization
US20200410683A1 (en) * 2018-02-26 2020-12-31 Mayo Foundation For Medical Education And Research Systems and Methods for Quantifying Multiscale Competitive Landscapes of Clonal Diversity in Glioblastoma
JP2021003564A (ja) * 2016-09-06 2021-01-14 エレクタ、インク.Elekta, Inc. 合成医療画像を生成するためのニューラルネットワーク
JP2021131872A (ja) * 2018-02-14 2021-09-09 エレクタ、インク.Elekta, Inc. 深層学習を用いたアトラスベースセグメンテーション
WO2021199392A1 (ja) * 2020-04-02 2021-10-07 日本電信電話株式会社 学習装置、学習方法及び学習プログラム、並びに、スコア推定装置、スコア推定方法及びスコア推定プログラム
JP2021166062A (ja) * 2018-05-07 2021-10-14 グーグル エルエルシーGoogle LLC 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
JP2021174471A (ja) * 2020-04-30 2021-11-01 株式会社日立製作所 識別器学習装置及び識別器学習方法
WO2022079847A1 (ja) * 2020-10-14 2022-04-21 Genomedia株式会社 情報処理システム、情報処理方法及びプログラム
JP2022078735A (ja) * 2020-11-13 2022-05-25 富士通株式会社 画像処理装置、画像処理プログラム、画像認識装置、画像認識プログラム及び画像認識システム

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021003564A (ja) * 2016-09-06 2021-01-14 エレクタ、インク.Elekta, Inc. 合成医療画像を生成するためのニューラルネットワーク
JP2021131872A (ja) * 2018-02-14 2021-09-09 エレクタ、インク.Elekta, Inc. 深層学習を用いたアトラスベースセグメンテーション
US20200410683A1 (en) * 2018-02-26 2020-12-31 Mayo Foundation For Medical Education And Research Systems and Methods for Quantifying Multiscale Competitive Landscapes of Clonal Diversity in Glioblastoma
JP2019148473A (ja) * 2018-02-27 2019-09-05 シスメックス株式会社 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム
JP2021166062A (ja) * 2018-05-07 2021-10-14 グーグル エルエルシーGoogle LLC 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
WO2020198380A1 (en) * 2019-03-26 2020-10-01 Tempus Labs, Inc. Determining biomarkers from histopathology slide images
US20200381121A1 (en) * 2019-05-29 2020-12-03 New York University System and method for tumor characterization
WO2021199392A1 (ja) * 2020-04-02 2021-10-07 日本電信電話株式会社 学習装置、学習方法及び学習プログラム、並びに、スコア推定装置、スコア推定方法及びスコア推定プログラム
JP2021174471A (ja) * 2020-04-30 2021-11-01 株式会社日立製作所 識別器学習装置及び識別器学習方法
WO2022079847A1 (ja) * 2020-10-14 2022-04-21 Genomedia株式会社 情報処理システム、情報処理方法及びプログラム
JP2022078735A (ja) * 2020-11-13 2022-05-25 富士通株式会社 画像処理装置、画像処理プログラム、画像認識装置、画像認識プログラム及び画像認識システム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
RICCARDO RIZZO ET AL.: ""Classification Experiments of DNA Sequences by Using a Deep Neural Network and Chaos Game Represent", PROCEEDINGS OF THE 17TH INTERNATIONAL CONFERENCE ON COMPUTER SYSTEMS AND TECHNOLOGIES 2016, JPN7023002258, 23 June 2016 (2016-06-23), US, pages 222 - 228, XP058306425, ISSN: 0005083022, DOI: 10.1145/2983468.2983489 *
RICCARDO ROSATI ET AL.: ""Faster R-CNN approach for detection and quantification of DNA damage in comet assay images"", COMPUTERS IN BIOLOGY AND MEDICINE, vol. 123, JPN7023002259, 31 July 2020 (2020-07-31), NL, pages 1 - 26, ISSN: 0005083023 *

Similar Documents

Publication Publication Date Title
Papanikolaou et al. How to develop a meaningful radiomic signature for clinical use in oncologic patients
Haarburger et al. Radiomics feature reproducibility under inter-rater variability in segmentations of CT images
Cassidy et al. Analysis of the ISIC image datasets: Usage, benchmarks and recommendations
US11756198B1 (en) Systems and methods for training a statistical model to predict tissue characteristics for a pathology image
Gros et al. SoftSeg: Advantages of soft versus binary training for image segmentation
Harder et al. Automatic discovery of image-based signatures for ipilimumab response prediction in malignant melanoma
US20220058839A1 (en) Translation of images of stained biological material
US10971255B2 (en) Multimodal learning framework for analysis of clinical trials
CN111862079B (zh) 基于影像组学的高级别浆液性卵巢癌复发风险预测系统
CN115210772B (zh) 用于处理通用疾病检测的电子图像的系统和方法
KR20230051197A (ko) 연속 바이오마커 예측을 위해 전자 이미지를 처리하는 시스템 및 방법
Uemura et al. Weakly unsupervised conditional generative adversarial network for image-based prognostic prediction for COVID-19 patients based on chest CT
Ahmad et al. Artificial intelligence in inflammatory bowel disease endoscopy: implications for clinical trials
CN114332132A (zh) 图像分割方法、装置和计算机设备
KR20240058838A (ko) 치료 전에 화학 요법에 대한 암 반응을 예측하기 위해 정량적 초음파 파라메트릭 이미지에서 종양 내 영역을 특성화하는 시스템 및 방법
CN115938597A (zh) 癌症预后
Zaridis et al. Region-adaptive magnetic resonance image enhancement for improving CNN-based segmentation of the prostate and prostatic zones
EP4086860A1 (en) Deep learning model to predict data from an image
US20240087122A1 (en) Detecting tertiary lymphoid structures in digital pathology images
Li et al. An Integrated Clinical‐MR Radiomics Model to Estimate Survival Time in Patients With Endometrial Cancer
CN113764101A (zh) 基于cnn的乳腺癌新辅助化疗多模态超声诊断系统
JP2023176256A (ja) 画像からデータを予測する方法、コンピュータシステム、及びコンピュータ可読媒体
Leo et al. Improving colon carcinoma grading by advanced cnn models
CN116547727A (zh) 基于注意力的多示例学习
Pushpa et al. Liver fat analysis using optimized support vector machine with support vector regression

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220704

A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20220628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230814

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231129

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20231207

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20231222