以下の説明及び図面は、当業者がそれらを実施することを可能にするのに十分に特定の実施例を示す。他の実施例は、構成的、論理的、電気的プロセス及び他の変更を含みうる。いくつかの実施例の一部及び特徴は、他の実施例のものに含まれてもよく、あるいは、置換されてもよい。
本開示は、複数の分散された場所において各ワークフローで行われるユーザアクションを通じて機械学習ネットワークのエンハンスされた訓練を可能にする各種技術及び構成を示す。このようなワークフローは、医療情報処理設定内で医療専門家のユーザによって行われる診断ワークフローを含む。ここに開示される技術及び構成は、医療施設の大規模なネットワーク全体に分散化された資料ユーザのための各自のワークフロー内で行われる相違を含む診断ワークフロー内において適用、修正又は拒絶された機械学習モデルから相違を特定するのに利用されうる。モデルの各種ワークフローの利用から特定される結果としての相違は、機械学習モデルの訓練データとして収集及び処理されてもよく(例えば、強化又は正解データ)、従って、機械学習モデルの将来的なインタラクション及び適用可能性を向上させる。
以下の処理は、より大きな処理ワークフロー(医療画像確認ワークフローなど)の一部としての特定のワークフロータスクのために意図された各種機械学習モデル及びモデルタイプについて訓練データを取得するのに利用可能である。さらに、訓練データ収集処理は、サイトの大規模なネットワークから1つ以上の深層学習ネットワークレイヤのフィードバックため関連する訓練情報の収集を可能にする。このフィードバックは、機密性のある患者データを転送することなく、また、医療専門家により検証された既存のワークフローの利用と抵触することなく取得及び利用可能である。
ここで用いられる“ワークフロー”という用語は、一般にある入力(データなど)に対する出力(結果又は効果など)を生成するため、ヒューマンインタラクティブ又は修正されたアクションを含みうるイベント、アクティビティ、処理ステップ又はアクションの系列又は集まりを表す。多くのワークフローは、診断、評価及び検査設定を含む医療専門家のユーザによって医療データに対して毎日実行される。そのようなワークフローにおいて提供されるユーザインタラクションは、自動化又は検証可能な人間によるアクションに関する貴重な機械学習データ及び情報をキャプチャするための機会を提供する。従って、機械学習の意味では、これらの医療処理ワークフローからのユーザフィードバック情報がキャプチャ及び“学習”可能である。このユーザフィードバック情報は、自動化及び処理アクティビティに対して高い精度を実現可能な機械学習モデル及びアルゴリズムを作成及び改良するのに利用可能である。そのような処理アクティビティは、限定することなく、データにおける特定の情報オブジェクトの検出、データの特性の変更、特定タイプのデータ特性の定量化、データ特性に関する正確な予測の実行、又は他のタイプのデータ処理アクションの実行を含んでもよい。
ここに説明される具体例の一部では、訓練処理は、機械学習アルゴリズムの適用後、分散化された計算システム(及び各自の施設)における各エキスパートによって行われる訂正及びユーザインタラクションを収集する分散ネットワークの構成を介して実現される。これらの訂正及びユーザインタラクションは、中央化されたサーバにおいて深層学習ネットワークの訓練手順に入力されうる。例えば、これらの訂正は、その後、機械学習アルゴリズムの改良されたバージョン(及び以降の配布)のために実行ニューラルネットワークの訓練を導くことができる。この改良されたバージョンは更に、機械学習アルゴリズムのリリースされるバージョンに搭載される前に、使用、評価、テスト及び更に改良されてもよい。
ここで説明される分散訓練アプローチは、訓練用の新たなデータの可用性、訓練データを処理するのに必要とされるハードウェアリソース及び正確な訓練データを提供するのに必要とされる量の人間のアクティビティを含む深層学習ネットワークの従来の訓練アプローチによる複数の困難に対処する。本技術の利用によって、機械学習モデル(及びそれの生成されたアルゴリズム)の精度及び効率性は有意に向上しうる。そのような精度及び効果は、従前の人間のアクティビティの改良された自動化、誤り及び不正確なアクティビティの低減、及びソフトウェア処理と関連する処理及びネットワーキングハードウェアリソースの改良された効果をもたらしうる。さらに、当該技術は、低減された時間での改良された計算結果を可能にする機械学習ネットワークのための従来の訓練アプローチに対する改良を提供する。
図1は、医療情報を処理するよう構成される一例となる人工ニューラルネットワークモデルのための深層学習ニューラルネットワークの利用及び配置のためのシステム構成の概略を示す。具体的には、図1は、ソースデータ110(医療イメージングデータなど)を処理するよう適応化された深層学習ニューラルネットワークの利用に関するワークフローを示す。図1のシステム構成は図示のためにハイレベルなコンポーネントに構成され、図示されたコンポーネント及びワークフローアクティビティの個々の特徴は様々な機械、システム及びデバイス間に分離又は統合されてもよいことが理解されるであろう。さらに、以下の具体例において示される処理及び機能の多くは、一体化又は分離されたデバイスサブシステム内の同様の機能によってシミュレート又は複製されてもよい。
図1に示されるように、ソースデータ110は、ワークフロー処理による処理のためにクライアントインタラクションコンピュータシステム112に提供される。一部の具体例では、このソースデータ110は、イメージングモダリティ(X線マシーン、CT(Computer Tomography)スキャナ、MRI(Magnetic Resonance Imaging)マシーンなど)から取得された画像データなど、人間の被検者の2又は3次元画像データを含みうる。ソースデータ110は、PACS(Picture Archiving Communication System)又は他の画像データ抽出、キャッシュ又はストレージシステムなど、特化した医療イメージングシステムから直接的又は間接的に提供されうる。ソースデータ110のフォーマットは、処理ワークフローにおける処理前に医療イメージングシステムによって更に処理又は集約されうるDICOM(Digital Imaging and Communications in Medicine)フォーマットなどの専用又は工業標準フォーマットによるものであってもよい。以下の具体例は医療イメージングデータの処理に言及するが、以下の技術は他のタイプ及び形式のソースデータ110により利用されてもよい。
図示されるように、クライアントインタラクションコンピュータシステム112は、ソースデータ110からの医療画像の特徴を表示及び変更(例えば、拡張、ハイライト、変更、修正、削除、セグメント化など)するのに利用されるデータ可視化114の特徴など、ソースデータ110に対して一連のワークフロー処理を実行するよう動作する。データ可視化114は、グラフィカルユーザインタフェース出力124上への医療画像の表示の出力を提供するのに利用されうる。グラフィカルユーザインタフェース出力124は、クライアントインタラクションコンピュータシステム112に接続されるディスプレイデバイス(例えば、モニタ、スクリーンなど)を介し提供されてもよい。
クライアントインタラクションコンピュータシステム112のコンテクストでは、“ワークフロー”は、一般にタスクを実行するために手動(人間に指定された)及び自動化されたアクティビティのある組み合わせによって実行される一連の処理を表す。医療イメージング分野の利用におけるワークフローの一例は、放射線読み取りワークフローであり、そこでは、一連の診断画像(例えば、イメージングモダリティによって生成される)が、医療画像から診断を直接的に生成するため、検査医療専門家(例えば、放射線科医)によって評価される。医療イメージング分野の利用におけるワークフローの他の例は画像検査ワークフローであり、そこでは、キャプチャされた医療画像が、特定の医療条件の状態を観察し、あるいは、診断を画定するため、医療画像の解剖学的特徴のセグメント化、定量化又は予測を実行するなど、臨床医(例えば、専門医、医師又は他の訓練された専門家)によって操作及び評価されうる。ワークフローの他の例は、ソフトウェアアプリケーション又は付随するコンピュータシステムにおける人間のユーザとのやりとりから生じる他のタイプのアクション、フィードバック及びコントロールに関するものであってもよい。本例は医療画像データ処理に関して説明されるが、他の形式の医療データ及び非診断又は非医療アクションに関する同様のワークフローがまた実行されうることが理解されるであろう。さらに、ここで説明される検出、セグメント化、定量化又は予測のための自動化された又はコンピュータにより支援されたワークフロー処理が、医療診断及び非診断(例えば、情報的、教育的、例示的など)設定の双方において適用可能であってもよい。
図示されるように、クライアントインタラクションコンピュータシステム112は、深層学習ニューラルネットワークモデル108の訓練済みバージョンから生成される処理アルゴリズム116を受信する。この深層学習モデル108は、訓練処理104及び検証処理106の利用を通じて中央化されたサーバ102(例えば、訓練計算システム)によって生成されてもよい。訓練処理104は、初期的な訓練データの大規模セットから生成されるなど、アクション及びパスの検出及び強化に関するものであってもよい。
深層学習モデル108から生成される処理アルゴリズム116は、検出、セグメント化、定量化、予測、自動化又は検証の特徴を含む、ソースデータ110に関する何れかの数の自動化された処理アクティビティを実行してもよい。深層学習モデル108は、所望される各タスク、アクティビティ又はワークフローについて特化したアルゴリズムなど、1つ以上のアルゴリズムを生成するのに利用されてもよい。
データ可視化114により作用するワークフローアクティビティは、クライアントユーザ(例えば、医療スタッフ)によって実行される情報の入力、確認、修正などのアクティビティを含んでもよい。これは、医療イメージングデータの診断的検査及び評価のために実行される医療エキスパートの読影解釈ワークフローの一部を含んでもよい。従って、モデル処理118は、ワークフローがユーザインタラクションから生成されるモデルフィードバック128を生成するとき、読影解釈ワークフローの一部について自動化を提供するのに利用されてもよい。後述されるように、このモデルフィードバック128は、深層学習モデル108について適用される既存及び新規のアルゴリズムの性能を改善するのに利用可能である。
一例では、データ可視化114及びグラフィカルユーザインタフェース出力124において提供される特徴は、特定の自動化又はコンピュータによりガイドされたタスクを実行するよう設計される処理アルゴリズム116の利用を介して直接的に提供される。データ可視化114の特徴に関して処理アルゴリズム116の適用は、グラフィカルユーザインタフェースの入力126(例えば、タッチ、キーボード、マウス、ジェスチャ、音声、ハプティック入力)に応答して、ユーザ入力によって指示される1つ以上のモデル処理118を介し実現されてもよい。グラフィカルユーザインタフェースの出力124において実行されるモデル処理118の異なるタスクは、異なる処理アルゴリズムを利用してもよい。従って、ソースデータ110の単一のセットに関する単一のワークフローは、複数の処理アルゴリズム及びモデル処理118の適用に関するものであってもよい。モデル処理118は、グラフィカルユーザインタフェースの出力124において提供された出力に対する変更を行うため、グラフィカルユーザインタフェースの入力126を介し取得されるヒューマン入力を通じて制御されうる。
ワークフローは、1つ以上のユーザインタラクション処理の変更120及びユーザインタラクション処理の承諾122によって影響される図1に更に示される。ユーザインタラクション処理の変更120及びユーザインタラクション処理の承諾122は、グラフィカルユーザインタフェースの入力126により提供される直接的な制御(例えば、ユーザインタフェースの入力)下で提供されうる。ユーザインタラクション処理の変更120及びユーザインタラクション処理の承諾122は、グラフィカルユーザインタフェースの出力124において提供されるデータ可視化114及びモデル処理118の特性を修正、許可又は拒絶しうる。例えば、ユーザインタラクション処理の変更120は、自動化されたアクションの結果を手動により変更しうる(処理アルゴリズム116により検出された医療画像の解剖学的輪郭の位置の変更など)。ユーザインタラクション処理の承諾122はまた、自動化されたアクションの許可又は拒絶から生じうる。
ユーザインタラクション処理の変更120及びユーザインタラクション処理の承諾122に応答して、モデルフィードバックのセットが生成されうる。このモデルフィードバック128は、処理アルゴリズム116の以降のバージョンを生成するのに利用される深層学習モデル108の改良を提供するのに利用されうる。モデルフィードバック128の各バージョンは、深層学習モデル108の複数の特徴及びレイヤの新たな訓練を生成するため、分散化された利用ケースからの多数の計算システムから提供可能である。モデルフィードバック128は、他のクライアントコンピュータシステムからの他の分散化されたフィードバック及び処理アルゴリズム116の他の実行に関して収集されるとき、以降において訓練処理104及び検証処理106に入力されうる。従って、深層学習モデル108に対するフィードバックの生成は、分散化された繰り返される方法で行われうる。
訓練データの可用性は、新たな訓練データの一般的な不足、患者データを適切に匿名化するのに関するロジスティック、同意及びデータ所有権の問題、及びこのような典型的に大規模なデータセット(例えば、医療画像)を転送するのに必要とされる帯域幅を含む各種理由のため、医療領域においては特に困難である。理想的には、特定の臨床所見について、異なる評価者のグループは、読者間の変動を説明するため、別々の評価及び注釈を実行する。ここに説明される分散化アプローチは、訓練データのサイズを増加し、生成されたアルゴリズムの品質を向上しながら、深層学習モデルの訓練データのニーズに合致させることを目的とする。
本アプローチによると、訓練は、追加的な訓練データが何れかのサイトから利用可能になるとき、1つ以上の深層ネットワークアルゴリズムが継続的に更新されることを可能にするため、オンラインでインタラクティブな方法で行うことができる。従って、訓練処理104は、分散化された方法で行うことが可能であり、すなわち、訓練の一部は分散化されたクライアントインタラクションコンピュータシステム112において実行され(ユーザインタラクションから特定のモデルフィードバック128を生成するため)、訓練の他の部分は複数のクライアントサイトが通信する中央サーバ102において実行される。いくつかの具体例では、結果を提供するサイトと中央サーバ102との間の通信は、双方向であり、完全に自動化できる。また、いくつかの具体例では、モデルフィードバック128により収集される改良は、バックグラウンドで実行され、診断ワークフローに影響を与えないパラレルな比較ワークフローなど、パラレルな比較ワークフロー(図4を参照して更に後述される)の利用を通じて分散化されたサイトで一時的にのみ配置されうる。
図2は、各クライアントサイトと中央訓練サーバとの間で実現される深層学習ニューラルネットワークのための一例となる分散化されたフィードバック及び訓練処理の概略を示す。図示されるように、図2は、カスタマサイト1 202、カスタマサイト2 204及びカスタマサイトN 206を含む各クライアントサイトに配置されるワークフローにおける訓練アクティビティの利用を示す。カスタマサイト202,204,206のそれぞれは、ワークフロー1アクティビティ212、ワークフロー2アクティビティ214及びワークフローNアクティビティ216を含むそれぞれのワークフローアクティビティを実行する。すでに説明されたように、このようなワークフローアクティビティ212、214、216は、ヒューマンインタラクティブな処理を含む、画像データに関するデータ可視化又は処理を含んでもよい。
深層学習シナリオでは、訓練処理の目的は、モデルが訓練データにどのように同意するかに基づき、より適切なパラメータによりモデルを更新することである。図2に示されるように、中央システムは、各自の処理アルゴリズムの実行において利用されるモデルパラメータを維持するパラメータサーバ232を動作させてもよく、中央システムはまた、モデル複製を運営し、訓練を実行し、モデル変更に対する結果としてのパラメータ調整を決定する1つ以上の訓練処理サーバ234と連携するか、あるいは一緒に動作してもよい。各カスタマサイト202、204、206において実行されるワークフローアクティビティ212、214、216のそれぞれは、パラメータサーバ232から各カスタマサイトにおいて通信及び配置される深層学習モデルの特定のパラメータセットに基づき実行される。例えば、カスタマサイト1 202に通信される深層学習モデルのパラメータが、パラメータpt224と共に示される。(アルゴリズム又はアルゴリズムのバージョンに特有の他のパラメータが同様に、他のカスタマサイトに配置される。)
図3及び4に関して後述されるように、ワークフローアクティビティにおいて実際に利用されるパラメータと分散化されたクライアントサイトに提供されるパラメータとの間の差分は、Δpとして表され、各クライアントサイトにおいて計算され、モデルの訓練のために追跡されてもよい。図示されるように、カスタマサイトにおいて実行されるワークフロー1アクティビティ212のΔp 222が計算され、パラメータサーバ232に返される。以降において、パラメータサーバ232がモデルについて提供する以降のパラメータpt+1は、ptとΔpとの組み合わせに基づき生成可能である(すなわち、ユーザインタラクションによって修正又は許可されたワークフロー1アクティビティ212に基づきpt 224パラメータに対する変更を反映する)。図示しないが、他のカスタマサイト(204、206)において他のワークフローアクティビティ(214、216)から提供される他のパラメータの差分(Δ)及びフィードバックがまた、pt+1の以降のパラメータを更新するのに利用されうる。
一例では、パラメータサーバ232は、分散化されたサイトから受信したデルタによって、又はそれに基づき現在のモデルパラメータ(例えば、ウェイト)を更新し、これによって、モデルの新たなバージョンを作成する。デルタは順次適用されてもよく、これにより、全ての時点で1つの動作モデルバージョンしか存在しない。更なる例では、更新値が期限切れした場合(例えば、デルタが十分以前のバージョンのモデルを適用したサイトから到来したものである場合)、あるいは、更新値が誤っていそうな場合(例えば、デルタがモデルにテストデータセットに対して顕著により不良に実行させる場合)、1つ以上のデルタの更新が意図的に無視されてもよい。
分散化されたワークフローサイトからのパラメータの通信は、変更及び強化のイージー・ツー・プロセスな通知をモデルアルゴリズムに提供できる。これは、データが実際に提示、利用、変更及び受理される場所における人間のワークフローアクションからモデルが訓練及び適応化されることを可能にする。この構成は更に、可視的でないが、臨床処理タスク及びアクティビティの不可欠な部分であって、分散化された方法で学習を実現するよう実行されているとき、臨床ワークフローアクティビティを利用する。
パラメータ及びパラメータの差分の利用の1つの重要な利点は、それが分散化されたサイトにおいて処理される機密データのリバースエンジニアリングを防ぐことができるということである。従って、ワークフローの訓練データは、ワークフローから生成される臨床所見又は患者データのコンテンツを特定することができなくても生成できる。これは、個人的に特定可能な情報(例えば、法的に保護される個人健康情報)を含みうるデータを記録する準備に対して有意な利点を提供する。
従って、本技術は、訓練処理を加速するために複数のクライアント間で訓練アクションをスケーリングするための大規模な分散化された訓練の実現を提供する。これはまた、各処理サイトが自らのデータ及びエキスパートを有しているため、自然に分散しているエキスパート及びワークフローアクションからのフィードバックの収集を可能にする。データ収集及び再訓練の従来のアルゴリズムの開発処理と比較して、分散化されたモデルフィードバック及び訓練手順は、多数のワークフローアクティビティ及びワークフロー位置に対してはるかによりスケーラブルである。
本技術はまた、既存の訓練技術に対して有意な効果を提供する。本分散訓練技術には、結果として得られるアルゴリズムのより高い精度に変換可能な有意により多くの訓練データサイズへのアクセスが提供される。さらに、処理の分散化の性質は、計算及びデータ抽出のための複雑なマルチプロセッサプラットフォーム(又は、既存のニューラルネットワーク構成によって必要とされうる先進的なコンピュータアーキテクチャの利用)を必要とすることなく、個々の離散的なアクションが実行されることを可能にする。
図3は、ここに説明される具体例による深層学習ニューラルネットワークの訓練及び配置処理を示すシステム図を示す。上述したような同様の方法で、図3は、機械学習モデルによって生成されるアルゴリズム312A、312B、312Cの利用によるソースデータ(例えば、イメージングデータ)の処理を実行する各カスタマサイト302、304、306を含む。各カスタマサイト302、304、306は、バージョン調整されたアルゴリズムウェイト322のセットを利用するアルゴリズム312A、312B、312Cの共通のバージョン(バージョンN)を含むよう示される。
図3の構成は、カスタマサイト302、304、306の各ユーザが通常のワークフローアクティビティを実行するときでさえ、アルゴリズムが継続的な訓練を実行することを可能にするよう設計される。ユーザが自動生成された結果の訂正又は(アルゴリズムの処理に関連する)結果の手動作成などのタスクを実行する際は常に、訓練機会が出現する。この解析は、ユーザの主要なワークフローに影響を与えることなく、副次的な(パラレルな)評価ワークフローにおいてユーザのシステムに対してバックグラウンドで実行可能である。解析の出力は、ワークフロー処理からの変更又は差分を反映するデルタ(例えば、2つのアルゴリズムパラメータセットの間の差分又は比較結果)及び他の形式のワークフローデータであってもよい。二重のワークフローを利用して各クライアントサイトにおいて行われる処理が、図4を参照して以下でより詳細に説明される。
一例では、分散訓練処理の出力は、各自のデルタ及びワークフローデータ314A、314B、314Cから決定されるような1つ以上のニューラルネットワークウェイト調整を含む。そのような調整(デルタ)は、中央パラメータサーバ(中央サーバ320として図3において示される)に提供され、モデルのためのバックプロパゲーション訓練技術により訓練処理324において処理されるワークフローデータによって実現されうる。デルタ及びワークフローデータが各分散クライアントから中央サーバ320によって受信されると、ニューラルネットワークのウェイト調整が決定され、訓練処理324によって訓練されるモデルに適用されてもよい。新たなバージョンのアルゴリズムウェイト326(ウェイトN+1)を含む訓練処理324から生成される更新されたモデルが、その後、自動的に又は以降の更新配置の結果として分散サイトにブロードキャスト可能である。
一部の具体例では、アルゴリズムの既存のバージョンが新たなウェイトセットによって更新されてもよく、その後、この新たなウェイトセットが更なる利用及びテストのために各クライアントに配布されてもよい。他の例では、全く新しいアルゴリズム(例えば、異なる処理アクションに対する新たなニューラルネットワーク処理ノードによって)が生成され、各クライアントに配布可能である。何れの場合も、更新されたアルゴリズムのウェイト又は更新されたモデルアルゴリズムの利用は、製品リリースサーバ330によって実行される製品リリース評価332において更に更新、テスト及び観察されてもよい。製品リリース評価332の結果は、訓練処理324からの1つ以上のバージョンの改良を含むリリースされた検証済みバージョンのアルゴリズム334であってもよい。さらに、訓練処理324の結果は、ワークフロー評価データ328において特定された条件がアルゴリズム334のリリースされたバージョンによって適切に処理されることを検証するためなど、製品リリースサーバ330によって評価及びテストされるワークフロー評価データ328を生成するのに利用されてもよい。
フィードバックパラメータが訓練処理324のために各クライアントサイトから中央サーバに通信される頻度は、直近の転送からの時間間隔、完了した関連するワークフロー数、システム負荷、日時などの複数の要因に依存して自動化されてもよい。これらの調整が中央サーバ320によって受信されるとき、それらは訓練されるモデルに自動的に適用されてもよい。一例では、モデルに対する変更又は更新されたモデルは、その後、更なる利用、テスト及び精緻化のため自動的にサイトにブロードキャストされる。自動更新されたモデルのブロードキャスト頻度はまた、複数の要因に依存しうる。同様に、モデルの更新されたウェイト又は更新されたアルゴリズムは、自動化された、スケジューリングされた又はオンデマンドベースで分散化されたサイトに通信されてもよい。
図4は更に、深層学習ニューラルネットワークを利用した一例となる処理ワークフロー内のデータ収集及び処理を示すシステム図を示す。図示されるように、図4は、ユーザインタラクションワークフロー420(例えば、臨床画像評価ワークフロー)内で入力データ412及び任意的なユーザ入力414を処理するよう構成される特定の分散クライアントサイト410の特徴を含む。入力データ412は実現すべき特定のワークフロー処理に依存して他のワークフロー及びアルゴリズムによって解析されてもよいことが理解されるであろう。
図示されるように、アルゴリズム422のリリースされたバージョンであるバージョンNは、自動化されたワークフローアクションを実行するため、ユーザインタラクションワークフロー420の入力(データ412及びユーザ入力414)に対して任意的に利用されうる。自動化された処理アクションがアルゴリズム422によって実行される例では、パラレルアルゴリズムワークフロー430はまた、アルゴリズムの代わりのバージョン(例えば、より新しい又は実験的なバージョン)を利用して、アルゴリズムの訓練データを収集及び決定するよう動作可能である。ユーザインタラクションワークフロー420の実行中、パラレルアルゴリズムワークフロー430には、ユーザインタラクションワークフロー420のために利用されたアルゴリズムのリリースされたバージョンと同じ入力(入力データ412及びユーザ入力414)が提示されてもよい。
他の例では、ユーザインタラクションワークフロー420は、手動のワークフローアクションを自動化するためアルゴリズムを訓練するのに観察及び利用される一連の手動の処理アクションに関する手動のワークフローであってもよい。例えば、人間のユーザが結腸ポリープを特定することを可能にする医療イメージング可視化アプリケーションは、人間のユーザが画像において特定される各ポリープを識別(例えば、クリックオン)するシナリオなどにおける手動のユーザ入力に関するものであってもよく、そのような識別情報は医療画像データからポリープの位置を自動的に特定するよう深層学習ネットワークを訓練するのに利用可能である。
ユーザインタラクションワークフロー420の処理(例えば、手動又は自動化された処理)は、任意的なユーザ修正又は評価処理424及び処理426(及び何れかの修正)のユーザ承諾に続く。ユーザ承諾及び何れかのユーザ修正は、その後、ユーザインタラクションワークフロー結果428に生成される。例えば、ユーザが承諾ジェスチャ(例えば、OKをクリックしたり、エビデンスをエクスポートしたり、あるいは、レポートを生成するなどをすると、ユーザインタラクションワークフロー結果428が正解として扱われる。
同時的に、アルゴリズム432の交代のバージョンがパラレルアルゴリズムワークフロー430において動作する。そして、入力データ412に対する交代バージョンのアルゴリズムの処理が、パラレルワークフロー結果434を生成する。このパラレルワークフロー結果434は、その後、ユーザインタラクションワークフロー結果428とパラレルワークフロー結果434との間の比較された差分436に生成される。パラレルアルゴリズムワークフロー430は更に、パラメータサーバ450から受信したモデルデータ452(例えば、アルゴリズムウェイト及び他のパラメータ)と、ユーザインタラクションワークフロー420(例えば、ユーザインタラクションワークフロー結果428)から決定された比較された差分436との間の差分を決定するため、モデルデルタ計算438を生成するよう動作する。モデルデルタ計算438及び関連するワークフローデータ440によって決定されるパラメータ差分(デルタ)が、その後に生成され、パラメータサーバ460に送信される際、モデル変更データ462として通信される。
訓練を導出する損失関数(例えば、モデルデルタ計算438)は、訓練されるアルゴリズムによって取得されるユーザインタラクションワークフロー結果428に依存する。例えば、パラメータサーバ460に送信されるデータは、標準的なバックプロパゲーション最適化器によって取得されるモデルウェイト調整を含んでもよい。そのようなモデルウェイト調整及び他の選択的なワークフローメトリックが、中央パラメータサーバ460に返されるモデル変更データ462において通信されてもよい。データ拡張技術がまた、訓練されるアルゴリズムへのパラメータ化されたランダムな変換を実行した後、入力データを提供し、同じ変換を正解に適用することによって、この段階で利用可能である。
特定の画像処理例では、深層学習ネットワークセグメント化アルゴリズムの結果は、当該ピクセルがセグメント化の一部である確率を示す各ピクセル(又はボクセル)の確率値を提供しうる。ユーザにより編集及び受理された結果(例えば、ユーザインタラクションワークフロー結果428からの正解)は、それがセグメント化の外部又は内部であるか否かを示す各ピクセルの2値割り当て(すなわち、0又は1の確率)を提供してもよい。典型的なバックプロパゲーション技術を利用して、標準的な損失関数(交差エントロピー誤差など)が、同じ入力が与えられると、正解により近いピクセル確率をモデルに生成させるモデルウェイトの必要とされる変化を計算するのに利用可能である。これを実現するため、バックプロパゲーションアルゴリズムは、損失関数、フルモデルアーキテクチャ、モデルウェイト及び学習率などの他のパラメータを利用して、変化を決定及び生成してもよい。
一例では、パラメータサーバは、モデル変更データ462において提供されるデルタ及びワークフローデータに応答して、オンデマンドに更新されたバージョンのアルゴリズム(例えば、アルゴリズム432の新たな交代のバージョン)を生成する。その後、パラメータサーバは、即時に又はある更新スケジュール又は基準に従って、更新されたバージョンのアルゴリズム(又はアルゴリズムパラメータ)を分散クライアントに送信する。しかしながら、ユーザインタラクションワークフロー420における実行用に利用されるアルゴリズムの“リリースバージョン”は、臨床ユーザ(分散フィードバック処理に関係するユーザ及び関係しないユーザを含む)への配布などのため、ソフトウェアリリーススケジュールで配布されることが意図される。他方、訓練サイクルを経たアルゴリズムの“非リリース”バージョンは、パラレルアルゴリズムワークフロー430において単に実行可能であり、臨床的には利用されない。例えば、非リリースバージョンは、1日に数回更新されてもよく、リリースバージョンは、数ヶ月に1回更新されてもよい。
従って、図4に示されるように、訓練アクティビティがリリースされた臨床ワークフロー(例えば、ユーザインタラクションワークフロー420)に可視的でなく、影響を与えないときでさえ、副次的な訓練ワークフロー(例えば、パラレルアルゴリズムワークフロー430)において実行されてもよい。アルゴリズムの訓練の進捗及び結果のモニタリングは、複数の可能な指標によって何れか所望の頻度で行うことができる。そのような1つの指標は、訓練処理中に使用されなかったテストデータに関する性能である。モデルが実際の具体例及び品質正解に対して継続的に訓練されている場合、モデルはテストデータに対して徐々により良好に実行することが予想される。そのようなテストデータはまた、経時的にサイズが増加しうる。他の指標は、分散サイトから収集されうるワークフローメトリックである。ワークフローメトリックの測定は、例えば、タスクを実現するためのクリック数又はユーザがそれを実現するのに費やす時間などの多くの形式をとりうる。そのようなメトリックはまた、アルゴリズムが改良されている場合、改良することが期待される。しかしながら、ユーザワークフロー(例えば、ユーザインタラクションワークフロー420)は訓練されるアルゴリズムによって影響を受けないため、これらのメトリックは、遅延指標であってもよく、アルファテスト中に利用可能である。
実際のワークフローの利用(例えば、ユーザインタラクションワークフロー420又は他の臨床ワークフローにおいて)のためにアルゴリズムをリリースする決定は、リリース処理と共に測定された進捗に依存する。アルゴリズムがリリースされると、それは、ワークフローが実行されるとき、分散ユーザによって利用されるモデルになる。ユーザに影響を与えないパラレルワークフローでは、アルゴリズムは依然として、以降のリリースを対象とする更なる他の改良のため、上述した訓練処理を行うことが可能である。
図5は、分散クライアントに深層学習ニューラルネットワークを配置及び更新するため中央処理サーバによって実行される一例となる方法のフローチャート500を示す。図示されるように、フローチャート500は、分散クライアントワークフローにおいて利用される深層ニューラルネットワークの配置のための訓練を実行するための順次処理のセットを示す(例えば、医療データを処理するため)。図5に示されるアクティビティの概要が説明のために提供され、多数のより詳細なアクティビティ(他の順序又はシーケンスにおいて提供されるアクティビティを含む)がサーバ又は各クライアントにおける処理により行われうることが理解されるであろう。
フローチャート500は、画像データのモデルの生成及びグラフィカルユーザインタフェースにおける可視化処理など、自動化された処理アクション(処理502)を実行するための深層ニューラルネットワークモデルの生成を初期的に示す。深層ニューラルネットワークモデル及び何れか付随するソフトウェアバイナリ、アルゴリズム及びパラメータが、各医療施設における計算システムなどの各分散クライアントに配置される(処理504)。これは、分散クライアントにおける各自のワークフロー内に配置された深層ニューラルネットワークモデルの配置されたバージョンを利用するソースデータの処理に続く(クライアント側アクションとして示される処理506)。分散クライアントでは、処理アクションの1つ以上の修正及び受理が、各ワークフローにおけるユーザインタラクションから行われる(クライアント側アクションとして示される処理508)。この処理は、図3及び4を参照して上述された処理及び図6を参照して後述されるフローチャート600の実現を含むものであってもよい。
フローチャート500は更に、フィードバック及び訓練データを容易にするため中央サーバにおける処理を示す。これらの処理は、各ワークフローにおけるユーザインタラクションの受理(処理510)及び各ワークフローにおけるユーザインタラクションの修正(処理512)を示す、分散クライアントからの処理アクションの1つ以上の通知の受信を含むものであってもよい。図2を参照して上述されたように、当該情報は、各クライアントにおける訓練データにおいて観察されたパラメータ差分の形式で中央サーバに通信されてもよい。
各クライアントから受信される通知及び訓練データは、ニューラルネットワークモデルのアルゴリズムにおける実行又はニューラルネットワークモデルの新たな又は更新されたアルゴリズムの適応化のための更新されたパラメータを含む、更新された深層ニューラルネットワークモデルの特徴を生成するのに利用されてもよい(処理514)。これは、分散クライアントへの深層ニューラルネットワークモデルの更新されたバージョンの配置に続いてもよい(処理516)。更なる例では、追加的なテスト及び検証処理が、深層ニューラルネットワークモデルの更新されたバージョンの設定に対して実行されてもよい(処理518)。例えば、更新された深層ニューラルネットワークモデルから生成されるアルゴリズムのセットを含むソフトウェアリリースは、分散及び非分散ソフトウェアユーザに検証された臨床リリースとして提供されてもよい。
図6は、深層学習ニューラルネットワークのパラメータを更新するため分散クライアントによって実行される一例となる方法のフローチャートを示す。このフローチャート600は、モデルデータを生成するのに利用される処理のハイレベルな表示を提供するが、追加的な処理(図3及び4に示される処理及びフローチャート500からの処理の統合を含む)が図示されたフローに任意的に実現されうることが理解されるであろう。
例えば、フローチャート600において示される処理は、深層ニューラルネットワークのモデルのパラメータの受信(処理602)と、深層ニューラルネットワークによる処理のためのデータの受信(処理604)とを含む。処理のためのデータの受信は、深層ニューラルネットワークの実現のためのパラメータ(例えば、アルゴリズム設定)の受信前、同時又は後に行われてもよい。例えば、医療イメージング可視化ソフトウェアアプリケーションにおけるワークフローのコンテクストにおいて、深層ニューラルネットワークのモデル(及びアルゴリズム)は、深層ニューラルネットワークの事前訓練を反映するアルゴリズムを利用して、医療画像の特性を受信、処理及び解析する分散クライアントの閲覧機械に実行可能コード又はコンパイルされたバイナリとして配置されてもよい。
フローチャート600に更に示されるように、データ(例えば、画像データ)が深層ニューラルネットワークのモデルにより処理される(処理606)。この処理は、深層ニューラルネットワークのモデルによって生成されるアルゴリズムの処理アクションに対する受理、変更又は拒絶に対応するソフトウェア処理から提供されてもよい(処理608)。(このような処理は、アルゴリズムのリリースされたバージョンにより行われる図4に示されるユーザインタラクションワークフロー420及びアルゴリズムの複製の訓練済みバージョンにより行われるパラレルアルゴリズムワークフロー430など、双対ワークフローにおいて行われてもよい。)
一部の具体例では、グラフィカルユーザインタフェースにおいて生成される出力とのユーザインタラクションは、任意的には、医療イメージング可視化特性に適用される自動化された効果に対する手動の変更によって行われるなど、受信されて入力データに適用されるユーザ修正を任意的に含むものであってもよい(処理610)。他の例では、そのような修正は任意的であり、受信又は考慮されない。何れかの潜在的なユーザ変更が、グラフィカルユーザインタフェースの出力における自動化された処理アクションの効果の受理(又は拒絶)、あるいは、自動化された処理アクションのユーザ受理に続く(処理612)。
ユーザ受理(及び任意的には修正)操作に基づき、分散計算システムは、深層ニューラルネットワークの予想される処理アクションとユーザ受理及び修正アクティビティとの比較を実行してもよい。これは、深層ニューラルネットワークモデルの1つ以上のレイヤの間で処理アクションからの出力を変更するのに利用される手動のユーザ変更を特定すること、深層ニューラルネットワークモデルの特性を強化又は強調抑制するのに利用される処理アクションのユーザ受理又は拒絶を特定すること、ワークフローにおけるユーザインタラクションにより実行される新たな又は変更されるアクティビティの自動化を特定すること、及びワークフローアクティビティからユーザインタラクション(加算、変更、減算、検証、確認を含む)ユーザインタラクションの他の測定される特性を特定することを含んでもよい。これらの変更は、分散計算システムによって生成されるモデルの更新されたパラメータセットにおいて反映される(処理614)。最終的に、これら更新されたパラメータは、分散計算システムから、深層ニューラルネットワークの更新されたモデルの訓練のため、中央サーバなどの中央位置に通信される(処理616)。
図7は、ここに説明される具体例による画像処理目的のための深層学習ニューラルネットワークの分散配置及び分散訓練に利用されるシステム700におけるコンポーネントのブロック図を示す。例えば、システムは、ここに説明される技術を利用して、リリースされた(例えば、臨床)ワークフロー及びニューラルネットワークモデル訓練(例えば、パラレルテスト)ワークフローを実現するよう構成されるクライアント計算システム702(分散システム)、ここに説明される技術を利用して、深層学習モデル及び関連する深層学習アルゴリズムを訓練、更新及び配布するよう構成されるサーバ計算システム730(中央システム)、及びここに説明される技術を利用して、モデルがクライアント計算システム702から更新されるとき、深層学習モデルの検証及び訓練アクションを実行するよう構成される検証計算システム740を含んでもよい。以下の具体例は、具体的には、人工ニューラルネットワーク(及び具体的には、深層学習モデル)の利用によるクライアント側ワークフローにおける画像処理機能をサポートするため、クライアント計算システム702及びサーバ計算システム730の構成を網羅し、ここに説明される構成は他のタイプのワークフロー、データ処理及び機械学習モデルに適用可能であることが理解されるであろう。
クライアント計算システム702は、ニューラルネットワークアルゴリズムを実現及び実行するニューラルネットワークモデル処理704、ニューラルネットワークアルゴリズムの各バージョンによってユーザインタラクションワークフロー及びパラレルアルゴリズムワークフローを実行するワークフロー処理706、ニューラルネットワークアルゴリズムの出力に対して実行されるユーザ修正アクションを受信及び特定するユーザ修正処理コンポーネント708、及びニューラルネットワークアルゴリズムの出力に対して実行されるユーザ受理アクションを受信及び特定するユーザ受理処理コンポーネント710を介して画像処理ワークフローを実現するコンポーネント(例えば、プログラム又は具体的に構成された回路)を含んでもよい。
クライアント計算システム702は更に、1つ以上の医療画像における人間の解剖学的特徴に対する可視化及び修正アクションなどのため、グラフィカルユーザインタフェースにおいて1つ以上の画像可視化又は修正アクションを実行する画像処理コンポーネント712を含んでもよい。画像処理コンポーネント712は、具体的には、検出処理714(例えば、医療画像において人間の解剖学的特徴、構造又は特性を検出するため)、セグメント化処理716(例えば、医療画像において人間の解剖学的特徴、構造又は特性をセグメント化するため)、定量化処理718(例えば、医療画像において人間の解剖学的特徴、構造又は特性の測定、アセスメント又は評価を実行するため)、及び予測処理720(例えば、医療画像において人間の解剖学的特徴、構造又は特性の推定又は予測を実行するため)などの機能を実現してもよい。クライアント計算システム702は更に、処理回路728、グラフィカルユーザインタフェース722、出力デバイス(例えば、グラフィカルユーザインタフェースの出力を提供するため)、及び入力デバイス726(例えば、グラフィカルユーザインタフェース722におけるユーザワークフローアクティビティの入力を提供するため)など、ユーザ入力、出力及び処理のための電子コンポーネントを含んでもよい。更なる例では、グラフィカルユーザインタフェース722、出力デバイス724及び入力デバイス726は、ここに説明される技術を利用して、ワークフローの特徴を実現するための処理回路728の利用によって、ニューラルネットワークモデル処理704の画像処理コンポーネント714、716、718、720又は他の特徴に携わるのに利用される。
サーバ計算システム730は、モデル生成処理732及びクライアントパラメータ処理734を含んでもよい。一例では、モデル生成処理732は、ニューラルネットワークモデルのテストバージョンの配布のための更新されたモデル及びアルゴリズムを生成するよう構成され、クライアントパラメータ処理734は、更新されたクライアントパラメータ(例えば、ニューラルネットワークモデルのテストバージョンのためのプログラミング値及びウェイトを示すパラメータ)を受信及び配布するよう構成される。検証計算システム740は、ニューラルネットワークモデルアルゴリズムのリリース、テスト及び検証バージョンのための臨床ワークフローを処理するための更新されたモデル及びアルゴリズムの生成などのため、モデルテスト742及びワークフロー検証744の機能を含んでもよい。他の例では、検証計算システム740のモデルテスト742及びワークフロー検証744の特徴は、サーバ計算システム730の特徴又は他の中央処理コンポーネントと一体化又は組み合わされてもよい。
図8は、ここに説明される方法の何れか1つ以上が実行されうる一例となる計算システム機械を示すブロック図である。コンピュータシステム800は、中央サーバ102、クライアントインタラクションコンピュータシステム112、パラメータサーバ102、訓練処理サーバ234、クライアント計算システム702、サーバ計算システム730、検証計算システム740のコンポーネントを含む、各種図面において示されるコンポーネントの処理を提供する計算デバイスとして、あるいは、フローチャート500、600又はここに説明又は言及された他の何れかの処理、格納又は計算プラットフォーム若しくはコンポーネントにおける処理のための実行プラットフォームとして具現化されてもよい。他の実施例では、機械はスタンドアローンデバイスとして動作するか、あるいは、他の機械に接続(例えば、ネットワーク化)されてもよい。ネットワーク化された配置では、機械は、サーバ・クライアントネットワーク環境におけるサーバ又はクライアントの何れかの機械のキャパシティで動作するか、あるいは、それはピア・ツー・ピア(又は分散)ネットワーク環境におけるピア機械として動作しうる。コンピュータシステム機械は、形態であってもよいし、又はなくてもよいパーソナルコンピュータ(例えば、ノートブック又はネットブック)、タブレット、PDA(Personal Digital Assistant)、携帯電話若しくはスマートフォン、シンクライアント、ウェブ機器、バーチャルマシーンホスト、又は当該機械によって行われるアクションを指定する命令(順次的又はそれ以外)を実行可能な何れかの機械であってもよい。さらに、1つの機械しか示されていないが、“機械”という用語はまた、ここに説明される方法の何れか1つ以上を実行するための(複数の)命令セットを個別又は結合して実行する機械の何れかの集まりを含むととられるであろう。
一例となるコンピュータシステム800は、インターコネクト808(例えば、リンク、バスなど)を介し互いに通信する、プロセッサ802(例えば、中央処理ユニット(CPU)、グラフィクス処理ユニット(GPU)又は双方)、メインメモリ804及びスタティックメモリ806を含む。コンピュータシステム800は更に、ビデオディスプレイユニット810、英数字入力デバイス812(例えば、キーボード)及びユーザインタフェース(UI)ナビゲーションデバイス814(例えば、マウス)を含んでもよい。一例では、ビデオディスプレイユニット810、入力デバイス812及びUIナビゲーションデバイス814は、タッチスクリーンディスプレイである。コンピュータシステム800は更に、ストレージデバイス816(例えば、ドライブユニット)、信号生成デバイス818(例えば、スピーカ)、信号収集デバイス832及びネットワークインタフェースデバイス820(1つ以上のアンテナ830、送受信機又は他の無線通信ハードウェアを含んでもよいし、あるいは、動作通信してもよい)及び1つ以上のセンサ826を含んでもよい。
ストレージデバイス816は、ここに説明される方法又は機能の何れか1つ以上によって具現化又は利用されるデータ構造及び命令824(例えば、ソフトウェア)の1つ以上のセットが格納される機械可読媒体822を含む。命令824はまた、機械可読媒体を構成するメインメモリ804、スタティックメモリ806及びプロセッサ802を備えたコンピュータシステム800による実行中、メインメモリ804、スタティックメモリ806及び/又はプロセッサ802内に完全に又は少なくとも部分的にあってもよい。
機械可読媒体822は一例では単一の媒体であると示されているが、“機械可読媒体”という用語は、1つ以上の命令824を格納する1つ以上の媒体(例えば、中央又は分散データベース及び/又は関連するキャッシュ及びサーバ)を含んでもよい。“機械可読媒体”という用語はまた、機械による実行用の命令を格納、符号化又は担持可能であって、本開示の方法の何れか1つ以上を実行させる、あるいは、当該機械に当該命令によって利用される又は関連するデータ構造を格納、符号化又は担持可能な何れか有形な媒体を含むとされる。“機械可読媒体”という用語は、従って、限定することなく、ソリッドステートメモリ、光学媒体及び磁気媒体を含むとされる。機械可読媒体の具体例は、例えば、半導体メモリデバイス(例えば、EPROM(Electrically Programmable Read−Only Memory、EEPROM(Electrically Erasable Programmable Read−Only Memory))、フラッシュメモリデバイス、内部ハードディスク及び着脱可能なディスクなどの磁気ディスク、光磁気ディスク及びCD−ROM及びDVD−ROMディスクを含む不揮発性メモリを含む。
命令824は更に、複数の周知の伝送プロトコル(例えば、HTTP)の何れか1つを利用するネットワークインタフェースデバイス820を介し伝送媒体を利用して通信ネットワーク828上で送信又は受信されてもよい。通信ネットワークの具体例は、LAN(Local Area Network)、WAN(Wide Area Network)、インターネット、携帯電話ネットワーク、POTS(Plain Old Telephone)ネットワーク及び無線データネットワーク(例えば、Wi−Fi、3G、4G LTE/LTE−A又はWiMAXネットワーク)を含む。そのような通信はまた、有線又は無線伝送媒体の何れかの組み合わせを利用して、何れかの数のパーソナルエリアネットワーク、LAN及びWANを利用して実現されてもよい。“伝送媒体”という用語は、機械による実行用の命令を格納、符号化又は担持可能な何れかの無形の媒体を含むとされ、このようなソフトウェアの通信を実現するためのデジタル若しくはアナログ通信信号又は他の無形媒体を含む。
上述した実施例は、ハードウェア、ファームウェア及びソフトウェアの1つ又は組み合わせで実現されてもよい。ここに説明される一部の実施例は単一の機械又はデバイスしか示していないが、“システム”、“機械”又は“デバイス”という用語はまた、ここに説明される方法の何れか1つ以上を実行するため、命令セット(又は複数の命令セット)を個別に又は一緒に実行する機械又はデバイスの何れかの集まりを含むとされる。
ここに説明される具体例は、ロジック、複数のコンポーネント、モジュール又は機構を含んでもよいし、あるいは動作してもよい。そのようなコンポーネントは、指定された処理を実行可能な有形のエンティティ(例えば、ハードウェア)であってもよく、特定の方式で設定又は構成されてもよい。一例では、回路は、そのようなコンポーネントを実現するため指定された方式で構成されてもよい(例えば、内部的、又は他の回路などの外部エンティティに関して)。一例では、1つ以上のコンピュータシステム(例えば、スタンドアローン、クライアント又はサーバコンピュータシステム)又は1つ以上のハードウェアプロセッサの全て又は一部は、指定された処理を実行するよう動作するファームウェア又はソフトウェア(例えば、命令、アプリケーション部分又はアプリケーション)によって構成されてもよい。一例では、ソフトウェアは機械可読媒体上にあってもよい。一例では、ソフトウェアは、基礎となるハードウェアによって実行されるとき、ハードウェアに指定された処理を実行させる。
従って、そのようなコンポーネントは、ここに説明された何れかの処理の一部又は全てを実行するか、あるいは、指定された方式で動作するよう物理的に構成され、具体的に構成され(例えば、配線化)又は一時的に設定(例えば、プログラム)される有形なエンティティであってもよい。そのようなコンポーネントが一時的に構成される具体例を考慮すると、各コンポーネントは何れかの一時点においてインスタンス化される必要はない。例えば、コンポーネントがソフトウェアを用いて設定される汎用ハードウェアプロセッサから構成される場合、汎用ハードウェアプロセッサは、異なる時点において異なるコンポーネントとして構成されてもよい。従って、ソフトウェアは、例えば、一時点では特定のコンポーネントを構成し、異なる時点では異なるコンポーネントを構成するようハードウェアプロセッサを設定してもよい。
現在説明されている方法、システム及びデバイスの実施例の追加的な具体例が、上述した構成及び技術に従って示唆され、以下の請求項において指定される。
例えば、ここに説明される主題の具体例1は、計算デバイスにおけるワークフローアクティビティから深層ニューラルネットワークを訓練する方法であって、当該方法は計算デバイスによって実行される電子処理によって実行され、計算デバイスは少なくとも1つのプロセッサと少なくとも1つのメモリとを有し、電子処理は、計算デバイスのグラフィカルユーザインタフェースにおいてソースデータのモデル出力を生成する処理であって、ソースデータのモデル出力はソースデータのセット上で深層ニューラルネットワークのアルゴリズムの実行、又は、ヒューマンユーザ入力に基づく深層ニューラルネットワークのアルゴリズムのための一連のワークフローアクションの手動により指定を利用して生成される、生成する処理と、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正又はユーザ承諾をグラフィカルユーザインタフェースにおいて受信する処理と、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータを生成する処理であって、アルゴリズムを更新するための更新されたパラメータはグラフィカルユーザインタフェースにおいて受信されるユーザ修正又はユーザ承諾に基づく、生成する処理と、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータをパラメータサーバに送信する処理と、を有する方法によって実現されてもよい。
具体例2では、具体例1の主題は、任意的には、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、計算デバイスによって受信されたユーザ入力に応答して、アルゴリズムによって利用されるウェイトの強化を提供し、ユーザ入力は、グラフィカルユーザインタフェースにおいて受信されるユーザ承諾を示す、ことを含む。
具体例3では、具体例1〜2の何れか1つ以上の主題は、任意的には、電子処理は、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正をグラフィカルユーザインタフェースにおいて受信する処理を有し、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、計算デバイスによって受信されたユーザ入力に応答して、アルゴリズムによって利用されるウェイトの変更を提供し、ユーザ入力は、グラフィカルユーザインタフェースにおいて受信されるユーザ修正を示す、ことを含む。
具体例4では、具体例3の主題は、任意的には、電子処理は、ソースデータのモデル出力とソースデータの更新された出力との間の差分を計算する処理を含み、ソースデータの更新された出力はモデル出力のユーザ修正から提供される、計算する処理を含み、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、ソースデータのモデル出力とソースデータの更新された出力との間の計算された差分の通知を提供する、ことを含む。
具体例5では、具体例4の主題は、任意的には、ソースデータのモデル出力とソースデータの更新された出力との間の差分を計算する処理は、深層ニューラルネットワークのアルゴリズムによって適用される複数のウェイトに対する変更を計算する処理を含み、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、複数のウェイトに対する変更を示す、ことを含む。
具体例6では、具体例1〜5の何れか1つ以上の主題は、任意的には、電子処理は、ユーザインタラクションワークフローを実行する処理であって、ユーザインタラクションワークフローはソースデータのモデル出力を生成する処理を含み、ユーザインタラクションワークフローは深層ニューラルネットワークのアルゴリズムの第1のバージョンの実行によって実行される、生成する処理と、ユーザインタラクションワークフローと同時にパラレルアルゴリズムワークフローを実行する処理であって、パラレルアルゴリズムワークフローはソースデータの予想されるモデル出力を生成する処理を含み、ソースデータの予想されるモデル出力は深層ニューラルネットワークのアルゴリズムの第2のバージョンの実行を利用して生成され、深層ニューラルネットワークのアルゴリズムの第2のバージョンはパラメータサーバから提供される受信したパラメータによって動作する、実行する処理と、ユーザ承諾の受信前、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正をグラフィカルユーザインタフェースにおいて受信する処理と、深層ニューラルネットワークのアルゴリズムの第1のバージョンにおいて利用されるパラメータと深層ニューラルネットワークのアルゴリズムの第2のバージョンにおいて利用されるパラメータとの差分を決定する処理と、を有し、深層ニューラルネットワークの訓練のための更新されたパラメータの送信は、決定されたパラメータの差分を送信する処理を含む、ことを含む。
具体例7では、具体例1〜6の何れか1つ以上の主題は、任意的には、ソースデータは、1つ以上の医療画像における1つ以上の人間の解剖学的特徴を表す医療イメージングデータであり、深層ニューラルネットワークのアルゴリズムは、検出、セグメント化、定量化又は予測処理の少なくとも1つを含む自動化されたワークフロー処理を実行し、自動化されたワークフロー処理は、1つ以上の医療画像における人間の解剖学的特徴の1つ以上の特定された特性に対して実行される、ことを含む。
具体例8では、具体例7の主題は、任意的には、ソースデータのモデル出力は、1つ以上の医療画像における1つ以上の人間の解剖学的特徴のディスプレイへの可視化の変更を含み、1つ以上の医療画像における1つ以上の人間の解剖学的特徴のディスプレイへの可視化の変更は更に、計算デバイスにより受信されるユーザ修正によって変更され、計算デバイスにより受信されるユーザ修正は、人間の解剖学的特徴の1つ以上のディスプレイへの可視化に対する更なる変更を生じさせ、ユーザ修正は、ヒューマン入力デバイスを介し計算デバイスによって受信される第1のユーザ入力から受信され、計算デバイスによって受信されるユーザ承諾は、人間の解剖学的特徴の1つ以上のディスプレイへの可視化に対する更なる変更の承諾を生じさせ、ユーザ承諾はヒューマン入力デバイスを介し計算デバイスによって受信される第2のユーザ入力から受信される、ことを含む。
具体例9では、具体例1〜8の何れか1つ以上の主題は、任意的には、電子処理は、パラメータサーバから深層ニューラルネットワークのアルゴリズムの以降の処理のための以降に受信されるパラメータを受信する処理と、深層ニューラルネットワークのアルゴリズムによる以降に受信されるパラメータの利用に基づき、ソースデータの以降のセットに対して深層ニューラルネットワークのアルゴリズムを動作させる処理と、を有する。
更なる他の具体例として、具体例10のここに説明される主題は、非一時的な機械可読媒体によって実現されてもよく、機械可読媒体は、ハードウェアプロセッサを有する機械によって実行されると、グラフィカルユーザインタフェースにおいてソースデータのモデル出力を生成する処理であって、ソースデータのモデル出力はソースデータのセット上で深層ニューラルネットワークのアルゴリズムの実行、又は、ヒューマンユーザ入力に基づく深層ニューラルネットワークのアルゴリズムのための一連のワークフローアクションの手動により指定を利用して生成される、生成する処理と、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正又はユーザ承諾をグラフィカルユーザインタフェースにおいて受信する処理と、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータを生成する処理であって、アルゴリズムを更新するための更新されたパラメータはグラフィカルユーザインタフェースにおいて受信されるユーザ修正又はユーザ承諾に基づく、生成する処理と、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータをパラメータサーバに送信する処理とのクライアント又はサーバによって実行される方法の態様を機械に実行させる。
具体例11では、具体例10の主題は、任意的には、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、受信されたユーザ入力に応答して、アルゴリズムによって利用されるウェイトの強化を提供し、受信したユーザ入力は、グラフィカルユーザインタフェースにおいて受信されるユーザ承諾を示す、ことを含む。
具体例12では、具体例10〜11の何れか1つ以上の主題は、任意的には、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正をグラフィカルユーザインタフェースにおいて受信する処理を機械に実行させる命令を含み、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、受信されたユーザ入力に応答して、アルゴリズムによって利用されるウェイトの変更を提供し、受信されたユーザ入力は、グラフィカルユーザインタフェースにおいて受信されるユーザ修正を示す、ことを含む。
具体例13では、具体例12の主題は、任意的には、ソースデータのモデル出力とソースデータの更新された出力との間の差分を計算する処理を機械に実行させる命令を更に含み、ソースデータの更新された出力はモデル出力のユーザ修正から提供される、計算する処理を含み、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、ソースデータのモデル出力とソースデータの更新された出力との間の計算された差分の通知を提供する、ことを含む。
具体例14では、具体例13の主題は、任意的には、ソースデータのモデル出力とソースデータの更新された出力との間の差分を計算する処理は、深層ニューラルネットワークのアルゴリズムによって適用される複数のウェイトに対する変更を計算する処理を含み、深層ニューラルネットワークのアルゴリズムを更新するための更新されたパラメータは、複数のウェイトに対する変更を示す、ことを含む。
具体例15では、具体例10〜14の何れか1つ以上の主題は、任意的には、ユーザインタラクションワークフローを実行する処理を機械に実行させる命令を含み、ユーザインタラクションワークフローはソースデータのモデル出力を生成する処理を含み、ユーザインタラクションワークフローは深層ニューラルネットワークのアルゴリズムの第1のバージョンの実行によって実行される、生成する処理と、ユーザインタラクションワークフローと同時にパラレルアルゴリズムワークフローを実行する処理であって、パラレルアルゴリズムワークフローはソースデータの予想されるモデル出力を生成する処理を含み、ソースデータの予想されるモデル出力は深層ニューラルネットワークのアルゴリズムの第2のバージョンの実行を利用して生成され、深層ニューラルネットワークのアルゴリズムの第2のバージョンはパラメータサーバから提供される受信したパラメータによって動作する、実行する処理と、ユーザ承諾の受信前、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正をグラフィカルユーザインタフェースにおいて受信する処理と、深層ニューラルネットワークのアルゴリズムの第1のバージョンにおいて利用されるパラメータと深層ニューラルネットワークのアルゴリズムの第2のバージョンにおいて利用されるパラメータとの差分を決定する処理と、を有し、深層ニューラルネットワークの訓練のための更新されたパラメータの送信は、決定されたパラメータの差分を送信する処理を含む、ことを含む。
具体例16では、具体例10〜15の何れか1つ以上の主題は、任意的には、ソースデータは、1つ以上の医療画像における1つ以上の人間の解剖学的特徴を表す医療イメージングデータであり、深層ニューラルネットワークのアルゴリズムは、検出、セグメント化、定量化又は予測処理の少なくとも1つを含む自動化されたワークフロー処理を実行し、自動化されたワークフロー処理は、1つ以上の医療画像における人間の解剖学的特徴の1つ以上の特定された特性に対して実行される、ことを含む。
具体例17では、具体例16の主題は、任意的には、ソースデータのモデル出力は、1つ以上の医療画像における1つ以上の人間の解剖学的特徴のディスプレイへの可視化の変更を含み、1つ以上の医療画像における1つ以上の人間の解剖学的特徴のディスプレイへの可視化の変更は更に、計算デバイスにより受信されるユーザ修正によって変更され、計算デバイスにより受信されるユーザ修正は、人間の解剖学的特徴の1つ以上のディスプレイへの可視化に対する更なる変更を生じさせ、ユーザ修正は、ヒューマン入力デバイスを介し計算デバイスによって受信される第1のユーザ入力から受信され、計算デバイスによって受信されるユーザ承諾は、人間の解剖学的特徴の1つ以上のディスプレイへの可視化に対する更なる変更の承諾を生じさせ、ユーザ承諾はヒューマン入力デバイスを介し計算デバイスによって受信される第2のユーザ入力から受信される、ことを含む。
具体例18では、具体例10〜17の何れか1つ以上の主題は、任意的には、パラメータサーバから深層ニューラルネットワークのアルゴリズムの以降の処理のための以降に受信されるパラメータを受信する処理と、深層ニューラルネットワークのアルゴリズムによる以降に受信されるパラメータの利用に基づき、ソースデータの以降のセットに対して深層ニューラルネットワークのアルゴリズムを動作させる処理と、を機械に実行させる命令を含む。
他の具体例として、具体例19のここに説明される主題は、ソフトウェアアプリケーションを実行するデバイス(例えば、コンピュータシステム)によって実行される方法によって実現されてもよく、ソフトウェアアプリケーションは、少なくとも1つのプロセッサと少なくとも1つのメモリとによって実行される電子処理を介し実行され、計算デバイスのグラフィカルユーザインタフェースにおいてソースデータのモデル出力を生成するための命令であって、自動化されたワークフローアクションを実行するためのソースデータのモデル出力はソースデータのセットに対する深層ニューラルネットワークのアルゴリズムの実行、又は、ヒューマンユーザ入力に基づく深層ニューラルネットワークのアルゴリズムの一連のワークフローアクションの手動の指定を利用して生成される、生成するための命令と、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正又はユーザ承諾をグラフィカルユーザインタフェースにおいて受信する命令と、深層ニューラルネットワークのアルゴリズムを更新するための更新されるパラメータを生成する命令であって、アルゴリズムを更新するための更新されるパラメータはグラフィカルユーザインタフェースにおいて受信されるユーザ修正又はユーザ承諾に基づく、生成する命令と、深層ニューラルネットワークのアルゴリズムを更新するための更新されるパラメータをパラメータサーバに送信する命令と、を実行する。
具体例20では、具体例19の主題は、任意的には、具体例1〜19において指定される機械可読媒体によって提供される命令の実行など、電子処理の何れかを実行するデバイスを含む。
他の具体例として、具体例21のここに説明される主題は、少なくとも1つのプロセッサと少なくとも1つのメモリとを有する処理回路を有する医療イメージング閲覧システムを有するシステムであって、処理回路は、少なくとも1つのプロセッサと少なくとも1つのメモリとによって、グラフィカルユーザインタフェースにおいてソースデータのモデル出力を生成するための命令であって、ソースデータのモデル出力はソースデータのセットに対する深層ニューラルネットワークのアルゴリズムの実行を利用して生成される、生成するための命令と、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ承諾をグラフィカルユーザインタフェースにおいて受信する命令と、深層ニューラルネットワークのアルゴリズムを更新するための更新されるパラメータを生成する命令であって、アルゴリズムを更新するための更新されるパラメータはグラフィカルユーザインタフェースにおいて受信されるユーザ承諾に基づく、生成する命令と、深層ニューラルネットワークのアルゴリズムを更新するための更新されるパラメータをパラメータサーバに送信する命令と、を実行するシステムによって実現されうる。
具体理絵22では、具体例21の主題は、任意的には、処理回路は、少なくとも1つのプロセッサと少なくとも1つのメモリとによって、受信したユーザ入力に応答して、アルゴリズムによって利用されるウェイトの強化を提供するため、深層ニューラルネットワークのアルゴリズムを更新するための更新されるパラメータを計算する命令を更に実行し、ユーザ入力は、グラフィカルユーザインタフェースにおいて受信されるユーザ承諾を示し、ソースデータは、1つ以上の医療画像において人間の解剖学的特徴を表す医療イメージングデータであり、深層ニューラルネットワークのアルゴリズムは、検出、セグメント化、定量化又は予測処理の少なくとも1つを含む自動化されたワークフロー処理を実行し、自動化されたワークフロー処理は、1つ以上の医療画像における人間の解剖学的特徴の1つ以上の特定された特性に対して実行される、ことを含む。
具体例23では、具体例21〜22の何れか1つ以上の主題は、任意的には、処理回路は、少なくとも1つのプロセッサと少なくとも1つのメモリとによって、グラフィカルユーザインタフェースにおいて生成されるソースデータのモデル出力のユーザ修正をグラフィカルユーザインタフェースにおいて受信する命令と、ソースデータのモデル出力とソースデータの更新された出力との間の差分を計算する命令であって、ソースデータの更新された出力はモデル出力のユーザ修正から提供される、計算する命令と、を更に実行し、深層ニューラルネットワークのアルゴリズムを更新するための更新されるパラメータは、受信されたユーザ入力に応答して、アルゴリズムによって利用されるウェイトの変更を提供し、深層ニューラルネットワークのアルゴリズムを更新するための更新されるパラメータは、ソースデータのモデル出力とソースデータの更新された出力との間の計算された差分の通知を提供し、ユーザ入力は、グラフィカルユーザインタフェースにおいて受信されるユーザ修正を示す、ことを含む。
具体例24では、具体例21〜23の何れか1つ以上の主題は、任意的には、処理回路は、少なくとも1つのプロセッサと少なくとも1つのメモリとによって、ユーザインタラクションワークフローを実行する命令であって、ユーザインタラクションワークフローはソースデータのモデル出力を生成するための処理を含み、ユーザインタラクションワークフローは深層ニューラルネットワークのアルゴリズムの第1のバージョンの実行によって実行される、実行する命令と、ユーザインタラクションワークフローと同時にパラレルアルゴリズムワークフローを実行する命令であって、パラレルアルゴリズムワークフローはソースデータの予想されるモデル出力を生成する処理を含み、ソースデータの予想されるモデル出力は深層ニューラルネットワークのアルゴリズムの第2のバージョンの実行を利用して生成され、深層ニューラルネットワークのアルゴリズムの第2のバージョンはパラメータサーバから提供される受信されたパラメータによって動作する、実行する命令と、ユーザ承諾の受信前、グラフィカルユーザインタフェースにおいて生成されたソースデータのモデル出力のユーザ修正をグラフィカルユーザインタフェースにおいて受信する命令と、深層ニューラルネットワークのアルゴリズムの第1のバージョンにおいて利用されるパラメータと、深層ニューラルネットワークのアルゴリズムの第2のバージョンにおいて利用されるパラメータとの差分を決定する命令と、を実行し、深層ニューラルネットワークの訓練のための更新されるパラメータの送信は、決定されたパラメータの差分の送信を含む、ことを含む。
具体例25は、具体例1〜24の何れか1つ以上に示される電子処理の何れかを実行する手段を有する装置を含む。
他の非限定的な具体例は、別々に動作するよう構成されてもよいし、あるいは、以下の請求項において、又は本開示を通じて上述された他の具体例の何れか1つ以上の何れかの組み合わせにおいて組み合わせ可能である。