JP2023524870A - マルチベンダ設定における撮像システムからの情報の抽出及び処理のためのシステム及び方法 - Google Patents

マルチベンダ設定における撮像システムからの情報の抽出及び処理のためのシステム及び方法 Download PDF

Info

Publication number
JP2023524870A
JP2023524870A JP2022568527A JP2022568527A JP2023524870A JP 2023524870 A JP2023524870 A JP 2023524870A JP 2022568527 A JP2022568527 A JP 2022568527A JP 2022568527 A JP2022568527 A JP 2022568527A JP 2023524870 A JP2023524870 A JP 2023524870A
Authority
JP
Japan
Prior art keywords
medical imaging
image
representation
exam
local operator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022568527A
Other languages
English (en)
Other versions
JPWO2021228541A5 (ja
Inventor
トーマス エリック アムソー
オルガ スタロビネツ
サンディープ マドゥカル ダラル
ハレーシュ チャマルシ
タンヤ ノルトホフ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2023524870A publication Critical patent/JP2023524870A/ja
Publication of JPWO2021228541A5 publication Critical patent/JPWO2021228541A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/48Matching video sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/18Extraction of features or characteristics of the image
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H80/00ICT specially adapted for facilitating communication between medical practitioners or patients, e.g. for collaborative diagnosis, therapy or health monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/20ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the management or administration of healthcare resources or facilities, e.g. managing hospital staff or surgery rooms

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

医療撮像検査中に医療撮像デバイス2のローカルオペレータLOにリモートエキスパートREからの支援を与える方法100を実行するための少なくとも1つの電子プロセッサ20によって実行可能な命令を記憶する非一時的コンピュータ可読媒体26である。本方法は、医療撮像検査中にローカルオペレータによって動作可能な医療撮像デバイスのコントローラ10のディスプレイデバイス24´上に表示された画像フレームから画像特徴を抽出するステップと、抽出された画像特徴を医療撮像検査の現在のステータスの表現43に変換するステップと、リモートエキスパートによって動作可能なワークステーション12上に医療撮像検査の現在のステータスの表現を表示するユーザインターフェース(UI)28を与えるステップとを有する。

Description

[0001] 以下は、一般に、撮像技術と、リモート撮像支援技術と、リモート撮像検査監視技術と、関連技術とに関する。
[0002] 複雑な医療撮像検査を実行するための高度の資格を有するスタッフを得る問題の高まりにより、リモートサービスセンターにおいて医療専門知識を束ねる概念が推進されている。基本的なアイデアは、医療撮像検査を実行する技術者又はオペレータが、スケジュールされた検査の支援を必要とするか、又は予想外の困難に遭遇した場合に、オンコールエキスパートとしてのシニア技術者の仮想上の利用可能性を与えることである。いずれの場合にも、リモートエキスパートは、スクリーンミラーリングを介した状況のリアルタイムビューと、撮像ベイ(imaging bay)の1つ又は複数のビデオフィードとを受信することによって、オンサイトオペレータをリモートで支援する。リモートエキスパートは、一般に、医療撮像デバイスを直接動作させないが、ローカル技術者を支援するための助言又は他の入力を与える。
[0003] そのようなリモートサービスセンターを商業的に存立可能にするためには、リモートエキスパートが、場合によっては同時の医療撮像検査を実行する何人かの異なるローカル技術者を同時に支援する(又は支援するためにオンコール状態になる)ことを可能にすることが有利である。多くの病院は撮像システムの異種フリートを維持しているので、好ましくは、リモートサービスセンターは、異なるモデルの撮像システム及び/又は異なるベンダーによって製造された撮像システムにエキスパートを接続することが可能である。このことは、撮像ベイのビュー、及び、随意に、撮像デバイスのボア又は他の検査領域の内側のビューを与えるためのビデオカメラとともに、撮像デバイスコントローラディスプレイのリアルタイムコピーをリモートエキスパートに与えるスクリーン共有又はスクリーンミラーリング技術によって達成することができる。
[0004] リモートエキスパートは、そのエキスパートがそれらについての支援を与えるための資格を有する、異なる医療撮像システム及びベンダーの異なるユーザインターフェースの経験及び専門技術を有すると仮定される。複数の撮像ベイに(潜在的に同時の)支援を与えるときに、エキスパートは、各撮像ベイにおける状況を速やかに評価するための必要とされるいくつかの情報を抽出するために、異なる撮像システムのスクリーンビューを迅速に切り替えることが期待される。必要とされるいくつかの情報は、異なって設計されたユーザインターフェース上に異なって位置することがあるので、このことは難しい。
[0005] これらの問題などを克服するためのいくつかの改善点を以下で開示する。
[0006] 一態様では、非一時的コンピュータ可読媒体は、医療撮像検査中に医療撮像デバイスのローカルオペレータにリモートエキスパートからの支援を与える方法を実行するための少なくとも1つの電子プロセッサによって実行可能な命令を記憶する。本方法は、医療撮像検査中にローカルオペレータによって動作可能な医療撮像デバイスのコントローラのディスプレイデバイス上に表示された画像フレームから画像特徴を抽出するステップと、抽出された画像特徴を医療撮像検査の現在のステータスの表現に変換するステップと、リモートエキスパートによって動作可能なワークステーション上に医療撮像検査の現在のステータスの表現を表示するユーザインターフェース(UI)を与えるステップとを有する。
[0007] 別の態様では、医療撮像デバイスを使用して実行される医療撮像検査中にローカルオペレータにリモートエキスパートからの支援を与えるための装置が、リモートエキスパートによって動作可能なワークステーションを備える。少なくとも1つの電子プロセッサが、医療撮像検査中にローカルオペレータによって動作可能な医療撮像デバイスのコントローラのディスプレイデバイス上に表示された画像フレームから画像特徴を抽出することと、医療撮像検査の現在の状態を示す撮像検査ワークフローモデル中に、抽出された画像特徴を入力することによって、抽出された画像特徴を医療撮像検査の現在のステータスの表現に変換することと、リモートエキスパートによって動作可能なワークステーション上に医療撮像検査の現在のステータスの表現と撮像検査ワークフローモデルとのうちの少なくとも1つを表示するUIを与えることとを行うようにプログラムされる。
[0008] 別の態様では、医療撮像検査中にローカルオペレータにリモートエキスパートからの支援を与える方法は、医療撮像検査中にローカルオペレータによって動作可能なコントローラのディスプレイデバイス上に表示された画像フレームから画像特徴を抽出するステップと、医療撮像検査中に走査されるべき患者の個人識別可能な情報として、画像フレームから、抽出された画像特徴のうちの1つ又は複数を識別するステップと、画像フレームから、識別された個人識別可能な情報特徴を削除すること、又は画像フレーム中の個人識別可能な情報をテキスト、シンボル、又は色と置き換えることのうちの1つによって、コントローラのディスプレイデバイス上に表示された画像フレームから、修正された画像フレームを生成するステップとによって、抽出された画像特徴を、医療撮像検査の現在のステータスを示す表現に変換するステップと、医療撮像検査の現在の状態を示す撮像検査ワークフローモデル中に、医療撮像検査の現在のステータスを示す表現を入力するステップと、リモートエキスパートによって動作可能なワークステーション上に、ビデオフィードとしての修正された画像フレーム、アブストラクト表現、及び撮像検査ワークフローモデルを表示するUIを与えるステップとを有する。
[0009] 1つの利点は、医療撮像検査を行う際に技術者を支援するリモートエキスパート又は放射線技師に、異なる施設において1人又は複数のローカルオペレータに効果的な支援を与えることを容易にするローカル撮像検査の状況認識を与えることにある。
[0010] 別の利点は、医療撮像検査を行う際に1人又は複数の技術者を支援するリモートエキスパート又は放射線技師に、リモートエキスパート又は放射線技師によって支援されている技術者によって動作させられる異なる医療撮像システムの共有スクリーンからの、関連がある抽出された情報のリスト又は他の要約を与えることにある。
[0011] 別の利点は、技術者によって動作させられる共有スクリーンの、リモートエキスパート又は放射線技師のための一貫性があるユーザインターフェースを与えることにある。
[0012] 別の利点は、リモートエキスパート又は放射線技師に送信されるデータ中の、技術者によって撮像されている患者に関する情報を削除又はブロックすることにある。
[0013] 所与の実施形態が、上記のいずれの利点も与えないこともあり、上記の利点の1つ、2つ、3つ以上、若しくはすべてを与えることもあり、及び/又は本開示を読み、理解すると、当業者に明らかになるであろう他の利点を与えることもある。
[0014] 本開示は、様々な構成要素及び構成要素の構成において、並びに様々なステップ及びステップの構成において具体化される。図面は、好ましい実施形態を例示するためのものにすぎず、本開示を限定するものとして解釈されるべきでない。
[0015] 本開示による、リモート支援を与えるための例示的な装置を概略的に示す図である。 [0016] 図1の装置によって実装されるモジュールを概略的に示す図である。 [0017] 図1の装置によって生成される出力の一例を示す図である。 [0018] 図1の装置によって好適に実行される動作の例示的なフローチャートを示す図である。
[0019] 以下は、撮像検査を実行するローカル技術者に、より詳細には、複数のベンダーからの撮像デバイスをもつクライアントに支援を与えるセンターに、リモート「スーパーテク」支援を与える、放射線医療オペレーションズコマンドセンター(ROCC)システム及び方法に関する。この場合、所与のスーパーテクに割り当てられた異なる撮像デバイスのステータスは、異なるデバイスコントローラユーザインターフェース(UI)フォーマットを使用して提示され、情報はスクリーン上に異なって構成され、異なるUIタブの中にあり、定量的情報は、時々、異なるベンダーの撮像デバイスによって異なる単位で提示されるので、それらのステータスを追跡することは困難であることがある。さらに、すべての情報が常に表示されるのではなく、例えば、ユーザは、患者と撮像される生体構造とについての情報を入力するためにUIのセットアップタブに進み、走査リストをセットアップするために走査タブに進み、現在の走査をセットアップし、実行するために現在の走査タブに進む。
[0020] 本明細書で開示するいくつかの実施形態では、システムは、スクリーンキャプチャを与え、ベンダー固有テンプレート及びモダリティ固有テンプレートが立ち上げられた際に、UIの表示されたタブからの情報を識別し、抽出するために光学式文字認識(OCR)とともにそれらのテンプレートを使用する。抽出された情報は、単位の共通の(ベンダーアグノスティックな)セットを使用してベンダーアグノスティックな表現中に記憶される。抽出された情報はまた、撮像検査の現在の状態を追跡する撮像プロセスの撮像検査ワークフローモデル(例えば、ステートマシン又はBPMNモデル)に入力される。抽出された情報は、任意の抽出された警告、アラートなどをも含む。スーパーテクに割り当てられた各撮像ベイについてのベンダーアグノスティックな表現と撮像検査ワークフローモデルとの出力は、ベンダーアグノスティックなフォーマットで、任意の所与の時間における各撮像ベイの状態の簡明な評価をそのスーパーテクに与えるリストとして表示される。
[0021] このリストは有用であるが、特定の撮像ベイに支援を与えるためには、スーパーテクは詳細なコントローラディスプレイを参照する必要がある。しかしながら、いくつかの企図される商用設定では、スーパーテクは、コントローラディスプレイ上に示されているすべての情報を参照するべきでない。例えば、患者識別情報(PII)は匿名化されることがあり、非撮像制御関係コンテンツを示す任意のウィンドウ(例えば、そのコントローラ上で動作する別のプログラムのディスプレイを示すウィンドウ)は遮断されることがある。このことを実施するために、ベンダー固有テンプレート及びモダリティ固有テンプレート並びにOCR処理は、修正される必要があるPII又は他の情報を示すスクリーンの領域を識別し、キャプチャされたスクリーンフレームは、スーパーテクに提示する前に適切に修正される。
[0022] 本明細書で開示する様々な実施形態では、画像処理がクライアント側で及び/又はROCC側で実施される。クライアント側の実施は、データストリームがオフサイトで送られる前にPIIの削除を保証する見地から好ましく、一方、ROCC側の実施はソフトウェア更新の見地からより有用である。混合型手法も企図され、例えば、PII削除がクライアント側で実行され、残りの処理がROCC側で実施されることがある。
[0023] ROCCは必ずしも単一の地理的ロケーションに集中化されるとは限らないことに留意されたい。いくつかの実施形態では、例えば、ROCCは、州、国、大陸全体から選び出されたリモートエキスパート、又はさらには世界中から選び出されたリモートエキスパートを備え、ROCCは、様々なエキスパートと、それらのエキスパートによって支援される撮像ベイとの間のデータ転送(例えば、スクリーン共有及びビデオフィード転送)並びに電話及び/又はビデオ通信接続性を与え、所与の商用実装において求められる、与えられた支援の時間、成果、及び/又は請求若しくは監査目的のための他のメトリクスを追跡する、分散型インターネットベースのインフラストラクチャとして実装される。さらに、ROCC適用例に加えて、開示するシステム及び方法は、より大きい医療機関又はネットワークのための中央監視ステーションを与える際に使用することができる。そのような設定では、開示する手法は、放射線医療管理者にすべての撮像ベイの概観を与えるために使用され得る。本出願では、PII削除は不要になることがある(又はならないことがある)。
[0024] 図1を参照すると、ローカル技術者オペレータLOにリモート医療撮像エキスパートRE(又はスーパーテク)からの支援を与えるための装置が示されている。図1に示されているように、(画像収集デバイス、撮像デバイスなどとも呼ばれる)医療撮像デバイス2を動作させるローカルオペレータLOは医療撮像デバイスベイ3に位置し、リモートオペレータREはリモートサービスロケーション又はセンター4に配置されている。「リモートオペレータ」REは、必ずしも医療撮像デバイス2を直接動作させるとは限らず、むしろ、助言、指導、命令などの形態のローカルオペレータLOへの支援を与えることに留意されたい。リモートロケーション4は、リモートサービスセンター、放射線技師のオフィス、放射線科などであり得る。リモートロケーション4は、医療撮像デバイスベイ3と同じ建物の中にある(これは、例えば、検査画像検討周辺の任務を負う放射線技師である「リモートオペレータ」REの場合である)こともあるが、より一般的には、リモートサービスセンター4と医療撮像デバイスベイ3とは異なる建物の中にあり、実際には、異なる都市、異なる国、及び/又は異なる大陸に位置することもある。一般に、リモートオペレータREは撮像デバイスベイ3中の撮像デバイス2を直接視覚的に観測することができないという意味で、リモートロケーション4は撮像デバイスベイ3からリモートにある(したがって、本明細書でさらに説明するように、随意に、ビデオフィード又はスクリーン共有プロセスを与える)。
[0025] 画像収集デバイス2は、磁気共鳴(MR)画像収集デバイス、コンピュータ断層撮影(CT)画像収集デバイス、陽電子放出断層(PET)画像収集デバイス、単一光子放出コンピュータ断層撮影(SPECT)画像収集デバイス、X線画像収集デバイス、超音波(US)画像収集デバイス、又は別のモダリティの医療撮像デバイスであることがある。撮像デバイス2はまた、PET/CT又はSPECT/CT撮像システムなど、ハイブリッド撮像デバイスであり得る。図1には例として単一の画像収集デバイス2が示されているが、より一般的には、医療撮像ラボラトリーは、同じ及び/又は異なる撮像モダリティの画像収集デバイスである複数の画像収集デバイスを有するであろう。例えば、ある病院が、多くのCT撮像検査と、比較的少ないMRI検査と、さらに少ないPET検査とを実行する場合、その病院の(「放射線医療ラボ」又は何らかの他の同様の名称で呼ばれることがある)撮像ラボラトリーは、3つのCTスキャナと、2つのMRIスキャナと、1つだけのPETスキャナとを有し得る。これは一例にすぎない。その上、リモートサービスセンター4は複数の病院にサービスを与え得、単一のリモートエキスパートREは、同時に、複数のローカルオペレータによって動作させられる複数の撮像ベイを監視し、(必要とされるときに)それらの撮像ベイのための支援を与え得、図1には、代表的な例としてそれらのローカルオペレータのうちの1人のみが示されている。ローカルオペレータは撮像デバイスコントローラ10を介して医療撮像デバイス2を制御する。リモートオペレータはリモートワークステーション12(又は、より一般的には、電子コントローラ12)に配置される。
[0026] 本明細書で使用する際、「医療撮像デバイスベイ」という用語(及びそれの変形態)は、医療撮像デバイス2を収容する部屋を指し、医療撮像デバイスを制御するための医療撮像デバイスコントローラ10を収容する隣接する制御室をも指す。例えば、MRIデバイスに関して、医療撮像デバイスベイ3は、MRIデバイス及び手順の技術分野で理解されるように、MRIデバイス2を収容する無線周波数(RF)遮蔽室、並びに、医療撮像デバイスコントローラ10を格納する隣接する制御室を含むことがある。一方、CTなど、他の撮像モダリティの場合、撮像デバイスコントローラ10は、撮像デバイス2と同じ部屋に位置し、したがって、隣接する制御室がなく、医療ベイ3が、医療撮像デバイス2を収容する唯一の部屋であることがある。さらに、図1は単一の医療撮像デバイスベイ3を示しているが、リモートサービスセンター4(より詳細には、リモートワークステーション12)は通信リンク14を介して複数の医療ベイと通信しており、通信リンク14は、一般に、電子データ通信のためにリモートオペレータREエンド及びローカルオペレータLOエンドにおいてローカルエリアネットワークによって拡張されたインターネットを含むことが理解されよう。
[0027] 図1に概略的に示されているように、いくつかの実施形態では、ローカルオペレータLOがそこで患者と対話する、撮像デバイス2の領域を少なくとも含み、随意に、撮像デバイスコントローラ10をさらに含む、医療撮像デバイスベイ3の一部分のビデオストリーム17を収集するために、カメラ16(例えばビデオカメラ)が配置される。ビデオストリーム17は、例えば、安全なインターネットリンクを介して受信されたストリーミングビデオフィードとして、通信リンク14を介してリモートワークステーション12に送られる。
[0028] 他の実施形態では、ライブビデオフィード17は、例示的な実施形態では、ビデオケーブルスプリッタ15(例えば、DVIスプリッタ、HDMI(登録商標)スプリッタなど)によって与えられる。他の実施形態では、ライブビデオフィード17は、撮像デバイスコントローラ10の補助ビデオ出力(例えば、aux vid out)ポートを、リモートエキスパートREによって動作させられるリモートワークステーション12に接続するビデオケーブルによって与えられる。
[0029] 追加又は代替として、スクリーンミラーリングデータストリーム18が、スクリーン共有又はキャプチャデバイス13によって生成され、撮像デバイスコントローラ10からリモートワークステーション12に送られる。通信リンク14は、ローカルオペレータとリモートオペレータとの間の口頭の通信及び/又はテキスト通信のための自然言語通信経路19をも与える。例えば、自然言語通信リンク19は、ボイスオーバーインターネットプロトコル(VOIP)電話接続、オンラインビデオチャットリンク、コンピュータ化インスタントメッセージングサービスなどである。代替的に、自然言語通信経路19は、データ通信17、18を与える通信リンク14とは別個である専用通信リンクによって与えられ、例えば、自然言語通信経路19は固定電話を介して与えられる。
[0030] 図1はまた、カメラ16からの医療撮像デバイスベイ3のビデオ17を受信し、提示し、スクリーンキャプチャデバイス13からのミラーリングされたスクリーンとしてスクリーンミラーリングデータストリーム18を提示するために動作可能に接続された、電子処理デバイス、ワークステーションコンピュータ、又はより一般的にはコンピュータなど、リモートワークステーション12を含むリモートサービスセンター4を示す。追加又は代替として、リモートワークステーション12は、1つのサーバコンピュータとして、又は、例えば、サーバクラスタ、クラウドコンピューティングリソースなどを形成するために相互接続された複数のサーバコンピュータとして実施することができる。ワークステーション12は、電子プロセッサ20(例えばマイクロプロセッサ)、少なくとも1つのユーザ入力デバイス(例えば、マウス、キーボード、トラックボールなど)22、少なくとも1つのディスプレイデバイス24(例えば、LCDディスプレイ、プラズマディスプレイ、陰極線管ディスプレイなど)など、一般的な構成要素を含む。いくつかの実施形態では、ディスプレイデバイス24はワークステーション12とは別個の構成要素であり得る。ディスプレイデバイス24はまた、2つ以上のディスプレイデバイスを備えることがあり、例えば、一方のディスプレイがビデオ17を提示し、他方のディスプレイが、スクリーンミラーリングデータストリーム18から生成された撮像デバイスコントローラ10の共有スクリーンを提示する。代替的に、ビデオ及び共有スクリーンはそれぞれのウィンドウ中の単一のディスプレイ上に提示される。電子プロセッサ20は1つ又は複数の非一時的記憶媒体26と動作可能に接続される。非一時的記憶媒体26は、非限定的な例示的な例として、磁気ディスク、RAID、又は他の磁気記憶媒体、ソリッドステートドライブ、フラッシュドライブ、電子的に消去可能な読取り専用メモリ(EEROM)又は他の電子メモリ、光ディスク又は他の光ストレージ、それらの様々な組合せなどのうちの1つ又は複数を含み、例えば、ネットワークストレージ、ワークステーション12の内蔵ハードドライブ、それらの様々な組合せなどであり得る。本明細書における1つ又は複数の非一時的媒体26への言及は、同じ又は異なるタイプの単一の媒体又は複数の媒体を包含するものとして広義に解釈されるべきであることを理解されたい。同様に、電子プロセッサ20は単一の電子プロセッサとして又は2つ以上の電子プロセッサとして実施され得る。非一時的記憶媒体26は、少なくとも1つの電子プロセッサ20によって実行可能な命令を記憶する。それらの命令は、リモートオペレータディスプレイデバイス24上での表示のためのグラフィカルユーザインターフェース(GUI)28を生成するための命令を含む。
[0031] 医療撮像デバイスベイ3中の医療撮像デバイスコントローラ10も、リモートサービスセンター4中に配設されたリモートワークステーション12と同様の構成要素を含む。本明細書で別段に示されている場合を除いて、リモートサービスセンター4中に配設されたリモートワークステーション12の特徴と同様の、医療撮像デバイスベイ3中に配設されたローカルワークステーション12´を含む医療撮像デバイスコントローラ10の特徴は、共通の参照番号とそれに続く「プライム」シンボルとを有し、医療撮像デバイスコントローラ10の構成要素についての説明は繰り返さない。特に、医療撮像デバイスコントローラ10は、構成設定を調整するための構成表示、医療撮像検査に関するステータス情報が撮像デバイス2のアラート基準を満たすときにリモートロケーションにおいて感知できるアラート30、撮像収集監視情報、収集された医療画像の提示など、医療撮像デバイス2の制御に関する情報を提示するディスプレイデバイス又はコントローラディスプレイ24´上にGUI28´を表示するように構成される。スクリーンミラーリングデータストリーム18は、医療撮像デバイスコントローラ10のディスプレイデバイス24’上に提示されるコンテンツを搬送することが理解されよう。通信リンク14は、リモートサービスセンター4中のディスプレイデバイス24と医療撮像デバイスベイ3中のディスプレイデバイス24´との間のスクリーン共有を可能にする。GUI28´は、例えば、とりわけ、検査/走査選択ダイアログスクリーン、走査設定ダイアログスクリーン、収集監視ダイアログスクリーンを含む、1つ又は複数のダイアログスクリーンを含む。GUI28´は、ビデオフィード17又はミラーリングデータストリーム18中に含め、リモートロケーション4におけるリモートワークステーションディスプレイ24上に表示することができる。
[0032] 図1は、例示的なローカルオペレータLOと、例示的なリモートエキスパートRE(すなわちエキスパート、例えばスーパーテク)とを示す。しかしながら、本明細書で企図される放射線医療オペレーションズコマンドセンター(ROCC)では、ROCCは、異なる病院、放射線医療ラボなどにおけるローカルオペレータLOを支援するために利用可能であるスーパーテクのスタッフを提供する。ROCCは、単一の物理的ロケーション中に格納されるか、又は地理的に分散させられる。例えば、企図される一実装形態では、様々な撮像されるアナトミーをターゲットにする、様々な撮像モダリティと様々な撮像手順との広範囲の専門技術をもつスーパーテクのスタッフを提供するために、米国全土から及び/又は国際的にリモートオペレータROが募集される。言い換えれば、ROCCは、対応する数のリモートエキスパートREによって動作させられる複数のリモートワークステーション12をもつリモートサービスセンター4に位置し得る。さらに、任意の所与のリモートエキスパートREが、場合によっては、異なる型式の(すなわち、異なるベンダーによって製造された)及び/又は異なるモデルの撮像デバイスを収容する、複数の撮像ベイを同時に監視/支援している。この作業環境では、リモートエキスパートREは、そのリモートエキスパートに割り当てられた任意の特定の撮像ベイのステータスを迅速に評価することと、リモートエキスパートREが特定の割り当てられた撮像ベイに与えることが可能である任意の適切な支援を迅速に決定することとが可能であることが重要である。従来、そのようなマルチタスキングは、異なる型式/モデルの撮像デバイスのユーザインターフェースの差異によってより困難になる。例えば、関連情報が異なる型式/モデルの撮像デバイスのユーザインターフェースの異なるスクリーン上に提示されることがある。従来、そのようなマルチタスキングはまた、撮像デバイスコントローラを介して処理される情報量が大きいことにより、すべての情報が同時に表示されないことによって、より困難になる。結果として、リモートエキスパートREによって使用されるワークステーション12における撮像デバイスコントローラディスプレイのミラーは、リモートエキスパートREが撮像検査のステータスを完全に評価するのに十分な情報を与えないことがある。
[0033] そのような問題に対処するために、本明細書で開示するように、医療撮像検査中にローカルオペレータに支援を与える方法又はプロセス100の一部分として、医療撮像デバイス2によって収集された画像を処理するための画像処理モジュール32が与えられる。画像は、通信リンク14を介して(ローカルオペレータLOによって動作可能な)医療撮像デバイスコントローラ10から(リモートエキスパートREによって動作可能な)リモートワークステーション12に転送される。一実施形態では、収集された画像は、リモートワークステーション12への送信の前に、医療撮像デバイスコントローラ10の少なくとも1つの電子プロセッサ20´によって処理される。すなわち、画像処理モジュール32は医療撮像デバイスコントローラ10において実装される。別の実施形態では、収集された画像は、医療撮像デバイスコントローラ10からの送信の後に、リモートワークステーション12の少なくとも1つの電子プロセッサ20によって処理される。すなわち、画像処理モジュール32はリモートワークステーション12において実装される。簡潔のために、本明細書では、図1に示されているように、リモートワークステーション12において実装されている画像処理モジュール32に関して、支援方法100について説明する。
[0034] 次に図2を参照し、引き続き図1を参照すると、画像処理モジュール32の一例が示されている。キャプチャされたスクリーン画像31(例えば、ビデオフィード17又はスクリーンミラーリングデータストリーム18からのビデオフレーム)が画像処理モジュール32に入力される。スクリーン識別モジュール34は、キャプチャされたスクリーン画像31のスクリーン又はビューを識別するように構成される。医療撮像デバイスコントローラ10のGUI28´上の多くのスクリーン画像31が異なるスクリーン若しくはビューを提供するか、又はウィンドウ及びダイアログがGUIの上部に表示され得る。例えば、MRコンソール(すなわち医療撮像デバイス2)上で、ローカル技術者LOは、異なる情報を表示する複数のスクリーン31のうちの1つを選択し得る。1つのスクリーンは患者情報を示し、一方、別のスクリーンは医療撮像検査の詳細を示し得る。スクリーン識別モジュール34は、例えば、キャプチャされたスクリーン画像31の固有識別子として働く、キャプチャされたスクリーン画像31の特定の領域をピックすることによって、キャプチャされたスクリーン画像31中に提示される特定のスクリーンを検出するように構成される。例えば、キャプチャされたスクリーン画像31の特定の領域は、例えば、色、又は画像中の特定の要素であり得る。いくつかの例では、スクリーン識別モジュール34は、スクリーンを識別するように構成された機械学習モジュールを含み得、異なる情報を表示するそれらのスクリーンの複数のインスタンスがトレーニングデータとして使用される。いくつかの実施形態では、医療撮像デバイス2のベンダー、医療撮像デバイスのモダリティ、及び/又はUIのバージョンもスクリーン識別モジュール34によって検出される。しかしながら、これらのいくつかの情報は、(例えば、ローカルオペレータとリモートエキスパートとの間の接続を開始したROCCのワークフロースケジューラによって与えられる)いくつかの事例ではすでに利用可能であり、したがって、これらの事例では、スクリーン識別モジュール34は、(これらの事例ではアプリオリに知られている)撮像デバイス2の型式及びモデルによって与えられる比較的少数の異なるスクリーンを区別するだけでよい。
[0035] 画像要素検出モジュール36は、所望の情報を含んでいる識別されたスクリーンのスクリーン領域を識別するように構成される。そうするために、画像要素検出モジュール36は、パターン及び記述データベース38から、スクリーンからの情報の1つ又は複数のテンプレート39を取り出す。テンプレート39は、スクリーン上の情報の位置とともに、スクリーンのコンテンツに関する情報を含む。画像要素検出モジュール36は、識別されたスクリーンに属する、パターン及び記述データベース38からのテンプレート39を事前選択するために、スクリーン識別モジュール34からの識別されたスクリーンを使用する。パターン及び記述データベース38に記憶されたテンプレート39のタイプは、表示されるユーザインターフェースの各タイプ(例えば、医療撮像デバイス2のベンダー及びソフトウェアバージョン)についての、例えば、キャプチャされたスクリーン31上の情報の可能な位置を含む、多項目の情報、情報のラベル(例えば、残りの検査時間、走査の回数、使用される無線周波数(RF)コイルのタイプなど)、情報のタイプ(例えば、抽出されるべき、削除/修正されるべき、ハイライトされるべきなど)、情報の符号化のタイプ(例えば、テキスト、数、アイコン、プログレスバー、色など)、テキスト又は数についての、この情報のフォーマッティング(例えば、秒又は分を使用して表示される時間、小数を使用して表示される時間など)及びテキストスタイル(フォントタイプ及びサイズ、文字列合わせ及び改行など)、アイコン又はシンボルについての、アイコン/パターンから意味への変換テーブル、プログレスバーについての、プログレスバー及び周囲のボックスの形状及び色、色についての、色から意味への変換テーブルなどを含むことがある。これらは、例にすぎず、限定的なものとして解釈されるべきでない。パターン及び記述データベース38のテンプレート39は、新しいユーザインターフェースが含められるたびに更新することができる。
[0036] 情報抽出モジュール40は、画像データのそれぞれのパッチから画像要素検出モジュール36によって検出された画像要素を抽出するように構成される。そうするために、一例では、情報抽出モジュール40は、テキスト又は数を識別するために使用され得る光学式文字認識(OCR)プロセスを実行することができる。色について、情報抽出モジュール40は、キャプチャされたスクリーン画像31の画像パッチの平均値、赤値、緑値、及び青値を抽出することができる。アイコン又はシンボルについて、情報抽出モジュール40は、パターン及び記述データベース38に記憶された画像とのパターン比較を実行することができる。パターン及び記述データベース38は、例えば、色/アイコンから意味への変換テーブルを与えることによって、抽出された情報をどのように解釈するかについての情報をさらに含む。情報抽出モジュール40は、抽出されたいくつかの情報を正しい形式に変換するように構成され、パターン及び記述データベース38中の情報に従ってラベル付けされる。
[0037] 画像要素検出36の使用と、それに続く画像要素40からの情報の抽出とは1つの手法である。しかしながら、領域識別(すなわち画像要素検出モジュール36)を省略すること、及びキャプチャされたスクリーン画像31全体に適用されるOCR及び/又は画像マッチングを採用することなど、情報を抽出するために他の手法を使用することができる。
[0038] 画像処理モジュール32は、連続的なキャプチャされたスクリーン画像31から(例えば、ビデオフィード17又はスクリーンミラーリングデータストリーム18の連続的なビデオフレームから)情報を(ほぼ)リアルタイムで抽出するために動作する。このことは、ビデオフィードのあらゆるビデオフレーム、又はビデオフレームのサブセットを分析することを伴うことがある。例えば、ビデオが30フレーム/秒(30fps)のフレームレートを有する場合、6番目のフレームごとに処理を行えば十分であり、それにより、処理の総量が大幅に低減されるとともに1/5秒の時間分解能が与えられることがある。連続的な画像フレームのそのような処理によって、画像処理モジュール32は、ローカルオペレータLOがこれらの様々なスクリーンの間をナビゲートする際に、医療撮像デバイスコントローラ10のGUI28´の様々なスクリーンから情報を抽出する。例えば、一般的なワークフローでは、ローカルオペレータLOは、最初に1つ又は複数の撮像検査セットアップスクリーンを立ち上げ、1つ又は複数の撮像検査セットアップスクリーンを介して、撮像されるアナトミーと特定の撮像シーケンス/走査とが選択/入力される。その後、ローカルオペレータは、撮像走査又はシーケンスのパラメータを設定するために走査/シーケンスセットアップスクリーンに移動する。その後、ローカルオペレータは、撮像ボリュームを決定するためのスカウト走査を収集するためにスカウト走査スクリーンに移動する。その後、ローカルオペレータは画像収集スクリーンなどに移動する。ユーザが、これらの様々なスクリーンをナビゲートし、関連データを入力する際に、画像処理モジュール32は、各連続的にナビゲートされたスクリーンから情報を抽出するために動作34、36、40を連続的に適用する。抽出された情報のこの集合から、アブストラクト生成モジュール42は、変換されたいくつかの情報を、すべてのタイプの撮像モダリティ、システム、及びユーザインターフェースについて同一であるジェネリックなデータ構造中に挿入することによって、抽出された特徴の表現43を作成するように構成される。データ構造は、走査の回数、残りの走査時間、患者の体重、検査の開始からの時間、再走査の回数、走査プロトコルの名称、実行中の検査の進捗状況、心拍数、呼吸数などの要素を含んでいる。必要とされる情報がユーザインターフェース上で利用可能でない場合、データ構造の対応する要素は、空のままにされるか、「利用可能でない」とマーキングされるか、又はデフォルト値で満たされる。
[0039] 一実施形態では、アブストラクト表現43は撮像検査の現在の状態の持続的な表現として働く。代替的に、さらなる処理が実行され得る。図2の例示的な例では、このさらなる処理において、医療撮像検査のステータス(すなわち状態)の撮像検査ワークフローモデル45を生成するために、ステータス情報のアブストラクト表現43がステートマシンモジュール44への入力として使用される(より一般的には、ワークフローモデル45は、ビジネスプロセスモデル表記法(BPMN)モデルなど、任意の他の好適なモデルであり得る)。ステートマシンモジュール44は、すべての情報が常にディスプレイデバイス24´上で可視であるとは限らないときでも、医療撮像デバイス2及び医療撮像デバイスコントローラ10の現在のステータスとパラメータとを記憶する。例えば、ステートマシンモジュール44は、医療撮像デバイスコントローラ10上に表示されたユーザインターフェースの1つのスクリーン中に新しい患者症例が作成されたという情報を受信する。それの後に、ローカルオペレータLOは、プロトコル情報を入力するために医療撮像デバイスコントローラ10上のスクリーンを変更する。ステートマシンモジュール44は、患者情報と、医療撮像検査が開始されたときの時点とを記憶する。ステートマシンモジュール44は、後で、データ収集の進捗状況と残りの走査時間とについての情報を受信する。ローカルオペレータLOが、上部の異なるウィンドウを閲覧しているか、又はユーザインターフェーススクリーンを切り替えたときでも、進捗情報及び検査ステータスは依然としてステートマシンモジュール44に記憶されている。ステートマシンモジュール44は、撮像検査ワークフローモデル45を生成するためにこのデータを使用する。
[0040] いくつかの実施形態では、同時に、又は異なる時間において、キャプチャされたスクリーン画像31が画像要素検出モジュール36によって処理された後に、検出された画像要素はまた、キャプチャされたスクリーン画像31から1つ又は複数の修正された画像47を生成するために画像修正モジュール46によって使用される。画像要素は、修正された画像47を作成するために、画像修正モジュール46によって、キャプチャされたスクリーン画像31から削除されるか、キャプチャされたスクリーン画像31中で修正されるか、キャプチャされたスクリーン画像31中でハイライト付けされるか、さもなければ注釈を付けられる。削除は、好ましくはリモートエキスパートREに示されない患者識別情報(PII)又は他の情報を取り除くために使用することができる。ハイライト付け又は他の注釈は、スクリーン中に示された選択されたアイテムに注意を引くために使用することができる。1つの手法では、テンプレート39によって識別されたスクリーン領域が、どのように修正が行われるべきであるかに関してマーキングされる。例えば、画像修正モジュール46は、(i)(「削除されるべき」とマーキングされている場合に)キャプチャされたスクリーン画像31から画像要素を削除すること、(ii)(「修正されるべき」とマーキングされている場合に)画像要素を他の情報と置き換えること、又は(iii)(「ハイライト付けされるべき」とマーキングされている場合に)キャプチャされたスクリーン画像上の情報をハイライト付けすることのいずれかを行うように構成される。修正の例では、この修正がどのように行われるべきであるか、及び要素が何と置き換えられるべきであるかに関する命令が、(テンプレート39に関連付けられ得る)修正命令データベース48から読み取られる。修正命令についてのいくつかの例は、「「患者名」とラベル付けされた要素を「匿名」というテキストと置き換える」を含むことができる。固定されたテキスト又はシンボルに加えて、アブストラクト表現43から置換要素を引き出すこともできる。ハイライト付けの場合、キャプチャされたスクリーン画像31の対応する一部がフレーム又はハイライト色によってマーキングされるか、又はキャプチャされたスクリーン画像の残りが暗くされるか若しくはゆがめられる。ハイライト付けは、トレーニング目的のために、又はオペレータを次のアクション若しくは現在重要な情報に導くために使用することができる。これらの動作は、修正された画像47を生成するために使用される。
[0041] 可視化50は、リモートワークステーション12のディスプレイデバイス24上での表示のために画像処理モジュール32によって生成される。可視化は、アブストラクト表現モジュール42によって生成された表現43、ステートマシンモジュール44によって生成されたステートマシン45の表現、及び画像修正モジュール46によって生成された修正された画像47のうちの1つ又は複数、或いはこれらのオプションのいずれかの任意のオーバーレイを含む。リモートエキスパートREは、可視化50がワークステーション12上でどのように表示されるかを選択することができる。ステートマシンモジュール44の表現は、異なる種類の可視化を作成するために使用することができる。さらに、アブストラクト表現42を生成するために使用されるデータ構造は、ローカル医療撮像デバイス2のすべての異なるユーザインターフェースについて同じであるので、情報は、リモートエキスパートREが医療撮像検査のステータスを迅速に理解することを可能にするジェネリックな形で表示することができる。
[0042] いくつかの例では、医療撮像デバイスコントローラ10からのステータス情報は、例えば、表示要素のテーブルとして又は複数の行若しくは列として、リモートワークステーション12における可視化50において構造化された形式で同時に表示することができる。図3は可視化50の一例を示す。図3に示されているように、可視化50は、医療撮像デバイス2のロケーション、モダリティ、及び識別情報を示すロケーションフィールド52、医療撮像検査を受けている患者の性別及び年齢を示す患者フィールド54、医療撮像検査のタイプを示すプロトコルフィールド56、医療撮像検査の経過時間を示す経過時間フィールド58、及び医療撮像検査の残りの時間を示す残り時間フィールド60の5つのフィールドを表示する。いくつかの例では、残り時間フィールド60のエントリは、残り時間が0に近づいたときに注釈を付ける(例えばハイライト付けする)ことができ、その場合、医療撮像検査は完了している。
[0043] 再び図2を参照すると、他の例では、アブストラクト表現42は、自動アクション及び/又はプロセスをトリガするために使用することができる。例えば、抽出された情報は、取られるべき次のアクションについて、あり得るスケジュールの競合について、次のアクションについての予想される遅延について、アクションの順序の変更について、次のアクションまでの時間についてなど、リモートエキスパートRE(又はプロセスに関与する任意の他の人)に自動的に警告するために使用することができる。別の例では、アブストラクト表現42は、自動予測又は適応スケジューリングエンジン(図示せず)にさらに転送することができる。例えば、いくつかの異なる医療撮像デバイス2から抽出された残りの走査時間は、放射線科のために又はリモートエキスパートREのために、自動的にスケジュールを再構成し、タスク優先度付けを作成するために使用することができる。さらなる一例では、アブストラクト表現42は、標準的な手順からの逸脱を検出し、品質保証の理由での逸脱をドキュメント化するか、又は逸脱についてリモートエキスパートREに警告するために使用することができる。例えば、医療撮像検査のプロトコルからの逸脱は、ローカルオペレータLOが、実行中の検査のための撮像シーケンスを削除若しくは追加するか、又は画像コントラスト設定のいずれかを変更したときに起こる。
[0044] リモートワークステーション12の非一時的コンピュータ可読媒体26は、医療撮像検査中に医療撮像デバイス2のローカルオペレータLOにリモートエキスパートREからの支援を与える方法100を実行するための少なくとも1つの電子プロセッサ20によって実行可能な命令を記憶することができる。言い換えれば、リモートワークステーション12の非一時的コンピュータ可読媒体26は画像処理モジュール32の実装に関係する命令を記憶する。
[0045] 図4を参照し、引き続き図1~図3を参照すると、支援方法100の例示的な一実施形態がフローチャートとして概略的に示されている。支援方法100を開始するために、患者の1つ又は複数の画像が、医療撮像検査中にローカルオペレータLOによって動作させられる医療撮像デバイス2によって収集される。医療撮像検査に関係する画像及び/又は設定は医療撮像デバイスコントローラ10のディスプレイデバイス24´上に示されている。動作102において、医療撮像デバイスコントローラ10上に表示された画像フレームからの画像特徴が抽出される。動作102は、スクリーン識別モジュール34、(パターン及び記述データベース38とともに)画像要素検出モジュール36、及び情報抽出モジュール40によって実行することができる。
[0046] 一例では、医療撮像デバイスコントローラ10の、リモートワークステーション12とのスクリーン共有デバイス13を使用して(すなわち、スクリーン共有ソフトウェアを動作させて)画像特徴を抽出することができる。別の例では、医療撮像デバイスコントローラ10のビデオフィード17がカメラ16によってキャプチャされ、リモートワークステーション12に送信される。画像特徴は、受信されたビデオフィード17からリモートワークステーション12によって抽出される。画像特徴からの抽出された情報は、医療撮像デバイスコントローラ10のディスプレイデバイス24´上の画像特徴の位置、画像特徴のテキストラベル、画像特徴の情報のタイプ、画像特徴の符号化のタイプ、画像特徴のフォーマッティングのタイプ、画像特徴の変換テーブル又はアイコン、及び画像特徴の形状又は色などのうちの1つ又は複数を含む。
[0047] 抽出動作102は様々な様式で実行することができる。一例では、抽出は、テキスト情報を抽出するために画像フレーム上でOCRプロセスを実行することを含む。別の例では、色情報を抽出するために画像フレームの平均色値が抽出される。さらなる一例では、画像特徴を抽出するために、データベース(例えばパターン及び記述データベース38)に記憶された画像を用いて、パターン比較動作が画像に対して実行される。また別の例では、画像フレーム中に示されているダイアログスクリーンに対応する、対応するダイアログスクリーンテンプレート39が識別される。対応するダイアログスクリーンテンプレート39は、1つ又は複数のスクリーン領域を識別し、それらの1つ又は複数のスクリーン領域を医療撮像検査の設定と関連付ける。抽出された画像特徴は、対応するダイアログスクリーンテンプレート39によって与えられた関連付けを使用した医療撮像検査の設定を用いて、1つ又は複数のスクリーン領域中の画像フレームと、関連する抽出された情報とから抽出される。
[0048] 動作104において、抽出された画像特徴が医療撮像検査の現在のステータスの表現43(すなわちアブストラクト表現)に変換される。動作104はアブストラクト表現モジュール42によって実行される。表現43を生成するために、抽出された画像特徴が、医療撮像デバイスコントローラ10のディスプレイデバイス24´上に表示された画像特徴のフォーマットとは無関係であるジェネリックな撮像検査ワークフローモデル中に入力される。表現43は、走査の回数、残りの走査時間、走査されるべき患者の体重値、医療撮像検査の開始から経過した時間、再走査の回数、走査プロトコルの名称、現在の医療撮像検査の進捗状況、走査されるべき患者の心拍数、及び走査されるべき患者の呼吸数のうちの1つ又は複数を含む。
[0049] いくつかの例では、動作104は、画像修正モジュール46によって実行される動作を含むことができる。そうするために、画像フレームからの抽出された特徴のうちの1つ又は複数が、医療撮像検査中に走査されるべき患者の個人識別可能な情報として識別される。医療撮像デバイスコントローラ10のディスプレイデバイス24´上に表示された修正された画像47を含む1つ又は複数の修正された画像フレームは、画像フレームから、識別された個人識別可能な情報特徴を削除すること、又は画像フレーム中の個人識別可能な情報をテキスト、シンボル、又は色と置き換えることのうちの1つによって生成される。修正された画像フレーム47はワークステーション12上のGUI28上にビデオフィードとして表示される。
[0050] 動作106において、表現43が、医療撮像検査の現在の状態を示す撮像検査ワークフローモデル45中に入力される。動作106はステートマシンモジュール44によって実行される。撮像検査ワークフローモデル45が、次いで、リモートワークステーション12上に与えられる。いくつかの例では、抽出された画像特徴は、医療撮像デバイスコントローラ10に入力され、ディスプレイデバイス24´上に表示される、データを含む。撮像検査ワークフローモデル45が、次いで、この入力されたデータを用いて更新される。別の例では、リモートエキスパートRE及び/又はローカルオペレータLOによってアクションがそれにおいて取られる必要がある、撮像検査ワークフローモデル45中のトリガイベントが識別され得る。トリガイベントを示すアラート30が、次いで、リモートワークステーション12のGUI28を介して出力され得る。
[0051] 動作108において、GUI28は、可視化50(例えば、アブストラクト表現モジュール42によって生成された表現43、ステートマシンモジュール44によって生成されたステートマシンの表現45、及び画像修正モジュール46によって生成された修正された画像47のうちの1つ又は複数、又はこれらのオプションのいずれかの任意のオーバーレイ)を表示するように構成される。可視化50は、医療撮像検査中にローカルオペレータLOによって動作させられる医療撮像デバイス2とは無関係である標準表示フォーマットを使用して表示することができる。
[0052] 単一の医療撮像デバイス2を格納する単一の医療撮像デバイスベイ3に関して主に説明したが、方法100は、対応する数のローカルオペレータによって動作させられる医療撮像デバイスを含む複数のサイトにおいて実行することができ、可視化50は複数のサイトのうちのサイトからの情報を含むことができる。可視化50は、図3に示されたものなど、対応するサイトにおける医療撮像検査のステータスを示す、リモートワークステーション12において表示されるリストを含む。このことは、場合によっては異なる型式及び/又はモデルの撮像デバイスを有する、複数の撮像ベイを同時に監視及び/又は支援するリモートエキスパートREにとって特に有益である。表現43は、各撮像ベイにおいて行われている撮像検査の状態についての関連情報のデバイス非依存性の概要をリモートエキスパートREに与え、一方、(画像処理モジュール32が連続的なキャプチャされたスクリーン画像31を処理する際の時系列で示される)修正された画像フレーム47は、撮像デバイスコントローラの(修正された)ミラーリングされたビデオを与える。一般的な実装形態では、表現43は、すべての監視される撮像ベイに関するステータス情報を与えるために常に示され、一方、リモートエキスパートREが現在それに支援を与えている1つの特定の撮像ベイについての、修正された画像フレーム47を含むビデオが示される。このようにして、リモートエキスパートREは、支援されているベイの詳細な現在の状況認識を有するとともに、リモートエキスパートREは、そのリモートエキスパートに割り当てられたすべての撮像ベイのステータスの認識をも維持する。
[0053] 好ましい実施形態を参照しながら本開示について説明した。改変及び変更は、前述の発明を実施するための形態を読み、理解すれば想到し得る。例示的な実施形態は、そのような改変及び変更が添付の特許請求の範囲又はそれの等価物の範囲内に入る限り、すべてのそれらの改変及び変更を含むものとして解釈されるものとする。

Claims (20)

  1. 医療撮像検査中に医療撮像デバイスのローカルオペレータにリモートエキスパートからの支援を与える方法を実行するための少なくとも1つの電子プロセッサによって実行可能な命令を記憶する非一時的コンピュータ可読媒体であって、前記方法が、
    前記医療撮像検査中に前記ローカルオペレータによって動作可能な前記医療撮像デバイスのコントローラのディスプレイデバイス上に表示された画像フレームから画像特徴を抽出するステップと、
    抽出された前記画像特徴を前記医療撮像検査の現在のステータスの表現に変換するステップと、
    前記リモートエキスパートによって動作可能なワークステーション上に前記表現を表示するユーザインターフェースを与えるステップと
    を有する、非一時的コンピュータ可読媒体。
  2. 抽出された前記画像特徴を前記医療撮像検査の前記現在のステータスの前記表現に変換するステップが、
    前記表現を生成するために、前記ローカルオペレータによって動作可能な前記コントローラの前記ディスプレイデバイス上に表示された前記画像特徴のフォーマットとは無関係であるジェネリックな撮像検査ワークフローモデル中に、抽出された前記画像特徴を入力するステップ
    をさらに有する、請求項1に記載の非一時的コンピュータ可読媒体。
  3. 前記表現が、走査の回数、残りの走査時間、走査されるべき患者の体重値、前記医療撮像検査の開始から経過した時間、再走査の回数、走査プロトコルの名称、現在の医療撮像検査の進捗状況、走査されるべき前記患者の心拍数、走査されるべき前記患者の呼吸数のうちの1つ又は複数を含む、請求項1又は2に記載の非一時的コンピュータ可読媒体。
  4. 前記方法が、
    前記医療撮像検査の現在の状態を示す撮像検査ワークフローモデル中に前記表現を入力するステップと、
    前記リモートエキスパートによって動作可能な前記ワークステーション上に前記撮像検査ワークフローモデルを与えるステップと
    をさらに有する、請求項1から3のいずれか一項に記載の非一時的コンピュータ可読媒体。
  5. 抽出された前記画像特徴が、前記ローカルオペレータによって前記コントローラに入力されるデータであって、前記コントローラの前記ディスプレイデバイス上に表示されるデータを含み、前記方法が、
    前記ローカルオペレータによって入力された前記データを用いて、前記リモートエキスパートによって動作可能な前記ワークステーション上に与えられた前記撮像検査ワークフローモデルを更新するステップ
    をさらに有する、請求項4に記載の非一時的コンピュータ可読媒体。
  6. 前記方法が、
    前記リモートエキスパート及び/又は前記ローカルオペレータによってアクションがそれにおいて取られる必要がある、前記撮像検査ワークフローモデル中のトリガイベントを識別するステップと、
    前記リモートエキスパートによって動作可能な前記ユーザインターフェースを介して、前記トリガイベントを示すアラートを出力するステップと
    をさらに有する、請求項4又は5に記載の非一時的コンピュータ可読媒体。
  7. 抽出された前記画像特徴を前記医療撮像検査の現在のステータスの表現に変換する前記ステップが、
    前記医療撮像検査中に走査されるべき患者の個人識別可能な情報として、前記画像フレームから、抽出された前記画像特徴のうちの1つ又は複数を識別するステップと、
    前記画像フレームから、識別された前記個人識別可能な情報特徴を削除すること、又は前記画像フレーム中の前記個人識別可能な情報をテキスト、シンボル、若しくは色と置き換えることのうちの1つによって、前記コントローラの前記ディスプレイデバイス上に表示された前記画像フレームから、修正された画像フレームを生成するステップと、
    前記リモートエキスパートによって動作させられる前記ワークステーション上の前記ユーザインターフェース上で提示されるビデオフィードとして、修正された前記画像フレームを表示するステップと
    をさらに有する、請求項の1から6いずれか一項に記載の非一時的コンピュータ可読媒体。
  8. 前記医療撮像検査中に前記ローカルオペレータによって動作可能な前記コントローラの前記ディスプレイデバイス上に表示された画像フレームから画像特徴を抽出するステップが、
    1つの画像フレーム中に示されているダイアログスクリーンに対応するダイアログスクリーンテンプレートを識別するステップであって、前記対応するダイアログスクリーンテンプレートが、1つ又は複数のスクリーン領域を識別し、前記1つ又は複数のスクリーン領域を前記医療撮像検査の設定と関連付ける、対応するダイアログスクリーンテンプレートを識別するステップと、
    前記1つの画像フレームから情報を抽出し、前記対応するダイアログスクリーンテンプレートによって与えられる関連付けを使用して、前記1つ又は複数のスクリーン領域中の抽出された前記情報を前記医療撮像検査の設定と関連付けるステップと
    をさらに有する、請求項1から7のいずれか一項に記載の非一時的コンピュータ可読媒体。
  9. 抽出された前記情報が、前記ディスプレイデバイス上の画像特徴の位置、前記画像特徴のテキストラベル、前記画像特徴の情報のタイプ、前記画像特徴の符号化のタイプ、前記画像特徴のフォーマッティングのタイプ、前記画像特徴の変換テーブル又はアイコン、及び前記画像特徴の形状又は色のうちの1つ又は複数を含む、請求項1から8のいずれか一項に記載の非一時的コンピュータ可読媒体。
  10. 前記医療撮像検査中に前記ローカルオペレータによって動作可能な前記医療撮像デバイスの前記コントローラの前記ディスプレイデバイス上に表示された画像フレームから画像特徴を抽出するステップが、
    テキスト情報を抽出するために、前記ローカルオペレータによって動作可能な前記コントローラの前記ディスプレイデバイス上に表示された前記画像フレーム上で光学式文字認識を実行するステップと、
    色情報を抽出するために、前記ローカルオペレータによって動作可能な前記コントローラの前記ディスプレイデバイス上に表示された前記画像フレーム上の平均色値を抽出するステップと、
    データベースに記憶された画像を用いて、前記ローカルオペレータによって動作可能な前記コントローラの前記ディスプレイデバイス上に表示された前記画像フレーム上でパターン比較動作を実行するステップと
    のうちの少なくとも1つを有する、請求項1から9のいずれか一項に記載の非一時的コンピュータ可読媒体。
  11. 前記方法が、
    前記コントローラ上で動作するスクリーン共有ソフトウェアを使用して、前記コントローラの前記ディスプレイデバイス上に表示された前記画像フレームから前記画像特徴を抽出するステップをさらに有する、請求項1から10のいずれか一項に記載の非一時的コンピュータ可読媒体。
  12. 前記方法が、
    前記リモートエキスパートによって動作させられる前記ワークステーションにおいて、前記ローカルオペレータによって動作させられる前記コントローラの前記ディスプレイデバイスをキャプチャするビデオフィードを受信するステップと、
    前記リモートエキスパートによって動作させられる前記ワークステーションにおいて前記ビデオフィードを表示するステップと、
    受信された前記ビデオフィードから前記画像特徴を抽出するステップと
    をさらに有する、請求項1から10のいずれか一項に記載の非一時的コンピュータ可読媒体。
  13. 前記方法が、
    前記医療撮像検査中に前記ローカルオペレータによって動作させられる前記医療撮像デバイスとは無関係である標準表示フォーマットを使用して、前記リモートエキスパートによって動作させられる前記ワークステーションにおいて前記医療撮像検査の前記現在のステータスの前記表現を表示するステップ
    をさらに有する、請求項1から12のいずれか一項に記載の非一時的コンピュータ可読媒体。
  14. 前記方法が、対応する数のローカルオペレータによって動作させられる医療撮像デバイスを含む複数のサイトにおいて実行され、前記表現が前記複数のサイトのうちのサイトからの情報を含む、請求項1から13のいずれか一項に記載の非一時的コンピュータ可読媒体。
  15. 前記表現が、対応するサイトにおける前記医療撮像検査のステータスを示すリストを含む、請求項14に記載の非一時的コンピュータ可読媒体。
  16. 医療撮像デバイスを使用して実行される医療撮像検査中にローカルオペレータにリモートエキスパートからの支援を与えるための装置であって、前記装置は、
    前記リモートエキスパートによって動作可能なワークステーションと、
    前記医療撮像検査中に前記ローカルオペレータによって動作可能な前記医療撮像デバイスのコントローラのディスプレイデバイス上に表示された画像フレームから画像特徴を抽出することと、
    前記医療撮像検査の現在の状態を示す撮像検査ワークフローモデル中に、抽出された前記画像特徴を入力することによって、抽出された前記画像特徴を前記医療撮像検査の現在のステータスの表現に変換することと、
    前記リモートエキスパートによって動作可能な前記ワークステーション上に前記表現と前記撮像検査ワークフローモデルとのうちの少なくとも1つを表示するユーザインターフェースを与えることと
    を行うようにプログラムされた少なくとも1つの電子プロセッサと
    を備える、装置。
  17. 前記少なくとも1つの電子プロセッサが、
    前記表現を生成するために、前記ローカルオペレータによって動作可能な前記ディスプレイデバイス上に表示された前記画像特徴のフォーマットとは無関係である標準フォーマットを有する撮像検査ワークフローモデル中に、抽出された前記画像特徴を入力する
    ようにさらにプログラムされた、請求項16に記載の装置。
  18. 前記少なくとも1つの電子プロセッサは、
    前記撮像検査ワークフローモデルが、前記リモートエキスパート又は前記ローカルオペレータのいずれかによってアクションがそこで取られる必要がある、前記医療撮像検査中の手順に到達したときに、アラートを出力する
    ようにさらにプログラムされた、請求項16又は17に記載の装置。
  19. 前記少なくとも1つの電子プロセッサが、
    前記医療撮像検査中に走査されるべき患者の個人識別可能な情報として、前記画像フレームから、抽出された前記画像特徴のうちの1つ又は複数を識別することと、
    前記画像フレームから、識別された前記個人識別可能な情報特徴を削除すること、又は前記画像フレーム中の前記個人識別可能な情報をテキスト、シンボル、又は色と置き換えることのうちの1つによって、前記コントローラの前記ディスプレイデバイス上に表示された前記画像フレームから、修正された画像フレームを生成することと、
    前記リモートエキスパートによって動作させられる前記ワークステーション上の前記ユーザインターフェース上で提示されるビデオフィードとして、前記修正された画像フレームを表示することと
    によって、抽出された前記画像特徴を前記医療撮像検査の現在のステータスの表現に変換するようにさらにプログラムされた、請求項16から18のいずれか一項に記載の装置。
  20. 医療撮像検査中にローカルオペレータにリモートエキスパートからの支援を与える方法であって、前記方法は、
    前記医療撮像検査中に前記ローカルオペレータによって動作可能なコントローラのディスプレイデバイス上に表示された画像フレームから画像特徴を抽出するステップと、
    前記医療撮像検査中に走査されるべき患者の個人識別可能な情報として、前記画像フレームから、抽出された前記画像特徴のうちの1つ又は複数を識別することと、
    前記画像フレームから、識別された前記個人識別可能な情報特徴を削除すること、又は前記画像フレーム中の前記個人識別可能な情報をテキスト、シンボル、又は色と置き換えることのうちの1つによって、前記コントローラの前記ディスプレイデバイス上に表示された前記画像フレームから、修正された画像フレームを生成することとと
    によって、抽出された前記画像特徴を、前記医療撮像検査の現在のステータスを示す表現に変換するステップと、
    前記医療撮像検査の現在の状態を示す撮像検査ワークフローモデル中に、前記医療撮像検査の前記現在のステータスを示す前記表現を入力するステップと、
    前記リモートエキスパートによって動作可能なワークステーション上に、ビデオフィードとしての前記修正された画像フレーム、アブストラクト表現、及び前記撮像検査ワークフローモデルを表示するユーザインターフェース(UI)を与えるステップと
    を有する、方法。
JP2022568527A 2020-05-12 2021-04-27 マルチベンダ設定における撮像システムからの情報の抽出及び処理のためのシステム及び方法 Pending JP2023524870A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063023276P 2020-05-12 2020-05-12
US63/023,276 2020-05-12
PCT/EP2021/060897 WO2021228541A1 (en) 2020-05-12 2021-04-27 Systems and methods for extraction and processing of information from imaging systems in a multi-vendor setting

Publications (2)

Publication Number Publication Date
JP2023524870A true JP2023524870A (ja) 2023-06-13
JPWO2021228541A5 JPWO2021228541A5 (ja) 2024-05-09

Family

ID=75746607

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022568527A Pending JP2023524870A (ja) 2020-05-12 2021-04-27 マルチベンダ設定における撮像システムからの情報の抽出及び処理のためのシステム及び方法

Country Status (5)

Country Link
US (1) US20230343449A1 (ja)
EP (1) EP4150637A1 (ja)
JP (1) JP2023524870A (ja)
CN (1) CN115552544A (ja)
WO (1) WO2021228541A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220044803A1 (en) * 2020-08-06 2022-02-10 Koninklijke Philips N.V. System and method to intelligently adapt the arrangement of content displays according to workflow context
WO2023110507A1 (en) * 2021-12-13 2023-06-22 Koninklijke Philips N.V. Artificial intelligence (ai)-based automatic detection of quality and workflow issues in diagnostic image acquisition
EP4195217A1 (en) * 2021-12-13 2023-06-14 Koninklijke Philips N.V. Support tools for radiologist image review for immediate feedback
EP4319170A1 (en) * 2022-08-04 2024-02-07 Koninklijke Philips N.V. Vendor-agnostic remote-controlled screen overlay for collaboration in a virtualized radiology environment
WO2024028235A1 (en) * 2022-08-04 2024-02-08 Koninklijke Philips N.V. Vendor-agnostic remote-controlled screen overlay for collaboration in a virtualized radiology environment
WO2024046938A1 (en) * 2022-08-31 2024-03-07 Koninklijke Philips N.V. Improving communication between local technologists
EP4332984A1 (en) * 2022-08-31 2024-03-06 Koninklijke Philips N.V. Systems and methods for improving communication between local technologists within a radiology operations command center (rocc) framework
WO2024061908A1 (en) * 2022-09-20 2024-03-28 Koninklijke Philips N.V. Systems and methods for automatic state estimation of a current imaging exam using user actions on a console screen

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8195481B2 (en) * 2005-02-25 2012-06-05 Virtual Radiologic Corporaton Teleradiology image processing system
JP2008029658A (ja) * 2006-07-31 2008-02-14 Toshiba Corp 医用画像診断装置の遠隔操作指導システム、遠隔操作指導制御装置及び遠隔操作指導方法
US9519753B1 (en) * 2015-05-26 2016-12-13 Virtual Radiologic Corporation Radiology workflow coordination techniques

Also Published As

Publication number Publication date
WO2021228541A1 (en) 2021-11-18
CN115552544A (zh) 2022-12-30
US20230343449A1 (en) 2023-10-26
EP4150637A1 (en) 2023-03-22

Similar Documents

Publication Publication Date Title
JP2023524870A (ja) マルチベンダ設定における撮像システムからの情報の抽出及び処理のためのシステム及び方法
US11759110B2 (en) Camera view and screen scraping for information extraction from imaging scanner consoles
US9690902B2 (en) Image observation apparatus to display medical images from a plurality of apparatus types
US20230187087A1 (en) Radiology operations command center (rocc) local technologist - supertechnologist matching
US8418001B2 (en) Context-related troubleshooting
US20230316751A1 (en) Event-controlled view selection
JP2014153920A (ja) 診療情報表示システム及び診療情報表示方法
JP2009060945A (ja) 読影レポートシステム、読影レポート作成装置、読影レポート表示装置、読影レポート表示方法、及び読影レポートプログラム
US20230420118A1 (en) Technologist assessments for professional growth and operational improvement
US20220319721A1 (en) Effective imaging examination handoffs between users within a radiology operations command center (rocc) structure
US20240038364A1 (en) Actionable visualization by overlaying historical data on a real-time image acquisition workflow overview
JP5317558B2 (ja) 医用情報作成装置
JP7232249B2 (ja) リアルタイムワークフロー分析に基づく自動化されたスタッフ支援及び品質保証
CN111580715B (zh) 基于用户偏好在结构水平上的偏好视图生成
CA3083090A1 (en) Medical examination support apparatus, and operation method and operation program thereof
US20220044792A1 (en) System and method to provide tailored educational support based on device usage in a healthcare setting
US20210142895A1 (en) Remote assistance availability communication system
CN117981004A (zh) 用于数据采集参数推荐和技术人员训练的方法与系统
EP4195217A1 (en) Support tools for radiologist image review for immediate feedback
US20220044803A1 (en) System and method to intelligently adapt the arrangement of content displays according to workflow context
EP4195669A1 (en) Image quality management system
JP2013157034A (ja) 医用情報表示装置
JP2019185418A (ja) 医用情報処理装置および医用情報処理プログラム
WO2024002714A1 (en) Systems and methods for predicting an image acquisition complexity of an imaging examination
EP4332984A1 (en) Systems and methods for improving communication between local technologists within a radiology operations command center (rocc) framework

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240424

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240424