JP2018175366A - 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム - Google Patents

自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム Download PDF

Info

Publication number
JP2018175366A
JP2018175366A JP2017078960A JP2017078960A JP2018175366A JP 2018175366 A JP2018175366 A JP 2018175366A JP 2017078960 A JP2017078960 A JP 2017078960A JP 2017078960 A JP2017078960 A JP 2017078960A JP 2018175366 A JP2018175366 A JP 2018175366A
Authority
JP
Japan
Prior art keywords
image
sample
inspection
data
inspection data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017078960A
Other languages
English (en)
Other versions
JP6845071B2 (ja
JP2018175366A5 (ja
Inventor
佳児 中村
Yoshiji Nakamura
佳児 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2017078960A priority Critical patent/JP6845071B2/ja
Priority to US15/950,830 priority patent/US10803986B2/en
Publication of JP2018175366A publication Critical patent/JP2018175366A/ja
Publication of JP2018175366A5 publication Critical patent/JP2018175366A5/ja
Application granted granted Critical
Publication of JP6845071B2 publication Critical patent/JP6845071B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7425Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/56Details of data transmission or power supply, e.g. use of slip rings
    • A61B6/566Details of data transmission or power supply, e.g. use of slip rings involving communication between diagnostic systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/56Details of data transmission or power supply
    • A61B8/565Details of data transmission or power supply involving data transmission via a network
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/46Arrangements for interfacing with the operator or the patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Software Systems (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】本発明は、複数の医療機関が撮影した検査画像を、画面上の所定の位置に自動的に配置して表示する自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラムを提供する。【解決手段】受付手段31で、複数の検査画像qを含む検査データQを受け付け、類似検査データ特定手段32で、検査データQに含まれる各検査画像qと見本検査データPに含まれる各見本画像p間の類似度を用いて、検査データQに類似する見本検査データPを特定して、表示手段34で、検査データQに類似する見本検査データPに対応付けられたレイアウト情報Lに従って、検査データQに含まれる検査画像qを表示する。【選択図】図2

Description

本発明は、画像の読影を補助するための表示プロトコルに関し、特に、画像を自動レイアウトする自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラムに関するものである。
近年、医療情報システムの普及に伴い、地域における病気診断の連携と医療情報の共有を目的として、医療機関の相互間でデータ交換が可能な広域電子カルテの実現がされつつある。広域電子カルテシステムの要素技術には、各医療機関に設けられた医用画像管理システム(PACS: Picture Archiving and Communication System)がある。PACSでは、CR(Computed Radiography:コンピュータX線撮影)、CT(Computed Tomography:コンピュータ断層撮影装置)およびMRI(magnetic resonance imaging:磁気共鳴画像撮影装置)といった画像撮影装置(モダリティ)から受信した画像データの保管、閲覧、および管理を行っている。また、DICOM(Digital Imaging and Communication in Medicine)規格を用いて画像データを管理することにより、様々な種類の画像データの一元管理を可能にしている。
画像検査では一人の患者に対して複数の画像(単純X線画像、CT画像、MRI画像、超音波画像など)が撮影され、撮影された画像は、PACSから読みだされて、読影ビューアなどの画面に表示して確認される。読影者がこれらの医用画像を効率的に観察するため、読影者のニーズに合わせて画像表示ができるように、画面レイアウト(画面分割数、タイル表示、およびスタック表示など)や表示対象画像のモダリティ毎の表示位置が定義された表示プロトコルを予め設定しておき、読影の際には、読影者によって選択された表示プロトコルに基づいて、読影対象の画像を表示するようにした装置が知られている。
具体的な表示プロトコルとして、例えば、撮影順に並べる方法、あるいは、画像に付帯する情報(DICOMタグ情報など)に基づいて定義されたルールに従って並べる方法が知られている。例えば、特許文献1には、複数の医用画像の並び順を医用画像の付帯情報を利用して定義した定義情報と、複数の医用画像を画面に同時表示するときの医用画像の配置位置を、医用画像の付帯情報を利用して、定義情報に従って定義された位置に画像を配置して表示することが開示されている。特許文献2には、読影レポート情報から、所見中の解剖学的構造および病変に関する情報を抽出し、これらの情報に基づいて、最適な表示プロトコルを決定する手法が開示されている。
画像の表示順は可能な限り撮影画像の発生時刻に従うことが原則であるが、ディスプレイを無駄に使う場合には多少の表示順は変わっても効率よく画像を診断できれば、許容される。また、画像をできるだけ少ないページに配置して、効率よく観察できる表示プロトコルが望まれる。このようなプロトコルを決定するために、解像度を元に複数の画面を配置するときのパターンを用意し、検査画像が発生した順序を考慮して、画面上に無駄な何も表示されている領域が少なくなるように、解像度、順序、および、画面の使用率をから、表示プロトコルの最適度を求めることで、表示プロトコルを決定する手法が、非特許文献1に開示されている。
特開2007−260061号公報 特許5670079号 森正人"PACSの画像表示における最適ハンギングプロトコルの研究"、NAIST-IS-DT9961206、p35-50
検査画像を迅速に診断するためには症例または読影医の好みに応じた画像表示が行えることが、読影効率を向上させる上で、重要であるといわれている。広域電子カルテシステムのように複数の医療機関が連携した医療情報システムが構築されている場合には、各医療機関が撮影した画像の読影が、読影専門の読影医がいる医療機関に依頼される。しかしながら、画像の撮影順や画像に付帯するDICOMタグのような付帯情報の記述は標準化されていないため、撮影装置のベンダー(メーカー)または撮影技師が異なる場合には異なった撮影順で撮影されていたり、タグの情報の記述方法が異なっていたりする場合がある。そのため、特許文献1に開示されている手法では適切に機能しないという問題がある。特に、MRI画像のT1強調画像とT2強調画像のように、撮影条件によって異なる画像に関する情報は標準化されていないため適切な表示位置に配置されない可能性が高い。
また、特許文献2のように、過去検査の読影レポートがある場合には、読影レポートに記載されている情報を参考にして最適な表示プロトコルを選択することが可能である。さらに、読影レポートに対して自然言語解析を行うことでキーワードを抽出して最適な表示プロトコルを決定することも可能であるが、過去の読影レポートがない状況では、どのような表示プロトコルを選択することが最適であるかの判断を行うことができない。また、解剖学的構造や同じような病変がある場合であっても検査データが異なる状況では、最適な表示プロトコルを決定することは難しい。
非特許文献1には、効率的に表示するための表示プロトコルの決定方法は記載されているが、正確な診断を行う場合には、診断に適したレイアウトにする必要があり、その点については考慮されていない。
そこで、本発明では、上述のような問題を解決するために、読影に最適な表示プロトコルで検査画像を自動的にレイアウトするための自動レイアウト装置および自動レイアウト方法、並びに、自動レイアウトプログラムを提供することを目的とする。
本発明の自動レイアウト装置は、複数の検査画像を含む検査データを受け付ける受付手段と、複数の見本画像を含む見本検査データに、見本画像を画面上に配置する際の見本画像の大きさと配置位置が定められたレイアウトを表すレイアウト情報をそれぞれ対応付けて記憶する記憶部に接続する接続手段と、検査データに含まれる各検査画像と見本検査データに含まれる各見本画像間の類似度を用いて、検査データに類似する見本検査データを特定する類似検査データ特定手段と、検査データに類似する見本検査データに対応付けられたレイアウト情報に従って、検査データに含まれる検査画像を表示する表示手段とを備えたものである。
本発明の自動レイアウト方法は、受付手段と、接続手段と、類似検査データ特定手段と、表示手段とを備えた自動レイアウト装置において、受付手段が、複数の検査画像を含む検査データを受け付ける受付ステップと、接続手段が、複数の見本画像を含む見本検査データに、見本画像を画面上に配置する配置位置が定められたレイアウトを表すレイアウト情報をそれぞれ対応付けて記憶する記憶部に接続する接続ステップと、類似検査データ特定手段が、検査データに含まれる各検査画像と見本検査データに含まれる各見本画像間の類似度を用いて、検査データに類似する見本検査データを特定する類似検査データ特定ステップと、表示手段が、検査データに類似する見本検査データに対応付けられたレイアウト情報に従って、検査データに含まれる検査画像を表示する表示ステップとを備えたものである。
本発明の自動レイアウトプログラムは、コンピュータを、複数の検査画像を含む対象検査データを受け付ける受付手段と、複数の見本画像を含む見本検査データに、見本画像を画面上に配置する際の見本画像の大きさと配置位置が定められたレイアウトを表すレイアウト情報をそれぞれ記憶する記憶部に接続する接続手段と、検査データに含まれる各検査画像と見本検査データに含まれる各見本画像の類似度を用いて、対象検査データに類似する見本検査データを特定する類似検査データ特定手段と、対象検査データに類似する見本検査データに対応付けられたレイアウト情報に従って、対象検査データの検査画像を表示する表示手段として機能させるものである。
「レイアウト情報」とは、画面に画像を配置する際の画面の分割方法と、画像の配置位置を含む情報をいう。画面の分割方法には、例えば、2分割または4分割などの画面の分け方と、分割した各領域の大きさが含まれる。
「検査データ」とは、疾患を診断するために必要なデータをいい、複数の検査画像が含まれる。検査画像には、様々なモダリティで撮影された静止画および動画が含まれる。さらに、検査画像が検査に関する文書データを画像化したものであってもよい。
また、「見本検査データ」とは、新たな検査データの検査画像を配置するときの見本となる見本画像が含まれている検査データをいう。また、見本画像は、レイアウト上に配置する検査画像の見本となる画像を指す。
また、検査データおよび見本検査データは、異なる種類のモダリティで撮影された画像を含み、類似検査データ特定手段が、同じ種類のモダリティで撮影された検査画像と見本画像を対応付けて類似度を取得するものであってもよい。
また、検査データおよび見本検査データは、磁気共鳴画像撮影装置の異なる種類の撮影プロトコルで撮影された画像を含むものであってもよい。
また、類似検査データ特定手段が、見本検査データに含まれる見本画像の1つと検査データに含まれる検査画像の1つの組合せのそれぞれについて、検査画像と見本画像の類似度を取得する類似度取得手段と、検査データにおいて、検査画像に対応づけられる見本画像が1以下であり、かつ、見本画像に対応付けられる検査画像が1以下であるという条件を満たすように、検査画像と見本画像を対応付けた場合に、対応付けられた検査画像と見本画像の組合せにおける類似度取得手段によって取得された全ての類似度を用いて、所定の規則に従って検査データに類似する見本検査データを特定するものであってもよい。
また、類似検査データ特定手段は、見本検査データに含まれる見本画像のそれぞれのレイアウト上の表示位置に基づいて重み係数を設定し、各検査画像と各見本画像の類似度に該見本画像の重み係数を掛け合わした類似度を用いて、検査データに類似する見本検査データを特定するものが望ましい。
また、類似検査データ特定手段が、2つの組合せにおいて、第1の組合せに含まれる検査画像と第2の組合せに含まれる検査画像の撮影時刻の前後関係と、第1の組合せに含まれる見本画像と第2の組合せに含まれる見本画像の撮影時刻の前後関係とに基づいて類似度の調整値を取得する調整値取得手段をさらに備え、条件を満たすように、検査画像と見本画像を対応付けた場合に、対応付けられた見本画像と検査画像の組合せにおける類似度取得手段によって取得された全ての類似度と、2つの組合せにおける調整値取得手段によって取得された全ての調整値とを用いて、所定の規則に従って検査データに類似する見本検査データを特定するものが望ましい。
また、調整値取得手段が、第1の組合せに含まれる見本画像と第2の組合せに含まれる見本画像の撮影時刻の順番と第1の組合せに含まれる検査画像と第2の組合せに含まれる検査画像の撮影時刻の順番が一致する場合には、調整値は類似度を高くする値を設定するものが望ましい。
また、レイアウトの見本画像には断層画像が含まれ、かつ、検査データの検査画像には断層画像が含まれる場合には、類似検査データ特定手段が、2つの組合せにおいて、第1の組合せに含まれる見本画像と第2の組合せに含まれる見本画像の断層位置の前後関係と、第1の組合せ含まれる検査画像と第2の組合せに含まれる検査画像の断層位置の前後関係とに基づいて類似度の調整値を取得する調整値取得手段とを備え、条件を満たすように、見本画像と検査画像を対応付けた場合に、対応付けられた見本画像と検査画像の組合せにおける類似度取得手段によって取得された全ての類似度と、2つの組合せにおける調整値取得手段によって取得された全ての調整値とを用いて所定の規則に従って検査データに類似する見本検査データを特定するものが望ましい。
また、調整値取得手段が、第1の組合せに含まれる見本画像と第2の組合せに含まれる見本画像の断層位置の順番と第1の組合せに含まれる検査画像と第2の組合せに含まれる検査画像の断層位置の順番が一致する場合には、調整値は類似度を高くする値を設定するものが望ましい。
また、類似度取得手段が、検査画像と見本画像のヒストグラムに基づいて類似度を取得するものであってもよい。
また、検査データが、1以上の電子文書データを含み、類似検査データ特定手段が、検査データの電子文書データと見本画像データの電子文書データに類似するキーワードが含まれるか否かに基づいて、検査データに類似する見本検査データを特定するものであってもよい。
本発明によれば、複数の見本画像を含む見本検査データに見本画像のレイアウトを表すレイアウト情報をそれぞれ対応付けて記憶しておき、検査データに類似する見本検査データを特定して、見本検査データに対応付けられたレイアウト情報に従って、検査データに含まれる検査画像を表示することにより、新しい検査画像を類似した症例と同じレイアウトで自動的に表示することが可能になり、作業効率を向上させることが可能になる。
本発明の実施形態における自動レイアウト装置が導入された医療情報システムの概略構成を示す図 本発明の自動レイアウト装置の機能ブロック図 見本画像を配置したレイアウトの一例を示す図 見本画像と検査画像の対応付けを行う処理のフローチャート 見本画像と検査画像の一例を示す図 ヒストグラムインターセクションから類似度を求める方法を説明するための図 画面の構図を反映させた類似度を求める方法を説明するための図 調整値を求める方法を説明するための図 見本画像の集合Pと、検査画像の集合Qの対応付を説明するための図 自動レイアウト装置の動作を説明するためのフローチャート 見本画像と検査画像が対応付けられた結果の一例を示す図 ディスプレイ画面上に検査画像を表示した一例を示す図 医療情報システムにアーカイブシステムを接続した概略構成を示す図
図1に、本発明の実施形態における自動レイアウト装置が導入された医療情報システム1の概略構成を示す。この医療情報システム1は、公知のオーダリングシステムを用いた診療科の医師からの検査オーダーに基づいて、被検体の検査対象部位の撮影および保管、放射線科の読影医による撮影された画像の読影と読影レポートの作成、および、依頼元の診療科の医師による読影レポートの閲覧と読影対象の画像の詳細観察を行うためのシステムである。医療情報システム1は、図1に示すように、モダリティ2、読影医用ワークステーション3、診療科用ワークステーション4、画像管理サーバ5、画像データベース6、読影レポートサーバ7、および、読影レポートデータベース8を、ネットワーク9を介して互いに通信可能な状態で接続されて構成されている。各機器は、医療情報システム1の構成要素として機能させるためのアプリケーションプログラムがインストールされている。また、アプリケーションプログラムは、CD−ROM等の記録媒体からインストール、または、インターネット等のネットワーク経由で接続されたサーバの記憶装置からダウンロードされた後にインストールされてもよい。
モダリティ2には、被検体の検査対象部位を撮影することにより、その部位を表す検査画像を生成し、その画像にDICOM規格で規定された付帯情報を付加して出力する装置が含まれる。具体例としては、CT装置、MRI装置、PET(Positron Emission Tomography)装置、超音波装置、または、平面X線検出器(FPD:flat panel detector)を用いたCR装置などが挙げられる。
読影医用ワークステーション3は、放射線科の読影医が画像の読影や読影レポートの作成に利用するコンピュータであり、CPU(Central Processing Unit)、主記憶装置、補助記憶装置、入出力インターフェース、通信インターフェース、入力装置、表示装置、および、データバス等の周知のハードウェア構成を備え、周知のオペレーションシステム等がインストールされたものであって、表示装置として1台または複数台の高精細ディスプレイを有している。この読影医用ワークステーション3では、画像管理サーバ5に対する画像の送信要求、画像管理サーバ5から受信した画像の表示、画像中の病変らしき部分の自動検出および強調表示、および、読影レポートの作成と表示等の各処理が、各処理のためのソフトウェアプログラムを実行することにより行われる。また、読影医用ワークステーション3は、生成した読影レポートを、ネットワーク9を介して読影レポートサーバ7に転送し、その読影レポートの読影レポートデータベース8への登録を要求する。
診療科用ワークステーション4は、診療科の医師が画像の詳細観察や読影レポートの閲覧、および、電子カルテの閲覧および入力等に利用するコンピュータであり、CPU、主記憶装置、補助記憶装置、入出力インターフェース、通信インターフェース、入力装置、表示装置、および、データバス等の周知のハードウェア構成を備え、周知のオペレーションシステム等がインストールされたものであって、表示装置として1台または複数台の高精細ディスプレイを有している。この診療科用ワークステーション4では、画像管理サーバ5に対する画像の閲覧要求や、画像管理サーバ5から受信した画像の表示、画像中の病変らしき部分の自動検出または強調表示、読影レポートサーバ7に対する読影レポートの閲覧要求、および、読影レポートサーバ7から受信した読影レポートの表示等の各処理が、各処理のためのソフトウェアプログラムの実行により行われる。また、診療科用ワークステーション4は、各診療科で行われた内視鏡検査などの動画を、ネットワーク9を介して画像管理サーバ5に転送し、画像データベース6への登録を要求する。
画像管理サーバ5は、汎用のコンピュータにデータベース管理システム(Data Base Management System:DBMS)の機能を提供するソフトウェアプログラムを組み込んだものである。画像管理サーバ5は、画像データベース6が構成される大容量ストレージを備えている。このストレージは、画像管理サーバ5とデータバスによって接続された大容量のハードディスク装置であってもよいし、ネットワーク9に接続されているNAS(Network Attached Storage)やSAN(Storage Area Network)に接続されたディスク装置であってもよい。
画像データベース6には、複数の患者をモダリティ2で撮影した検査画像と付帯情報とが登録される。付帯情報には、例えば、個々の画像を識別するための画像ID(identification)、被写体を識別するための患者ID、検査を識別するための検査ID、医用画像ごとに割り振られるユニークなID(UID:unique identification)、その医用画像が生成された検査日、検査時刻、その医用画像を取得するための検査で使用されたモダリティの種類、患者氏名と年齢と性別などの患者情報、検査部位(撮影部位)、撮影条件(造影剤の使用有無または放射線量など)、および、1回の検査で複数の断層画像を取得したときのシリーズ番号などの情報が含まれる。
また、画像管理サーバ5は、読影医用ワークステーション3からの閲覧要求をネットワーク9経由で受信すると、上述の画像データベース6に登録されている検査画像を検索し、抽出された検査画像を要求元の読影医用ワークステーション3に送信する。
読影レポートサーバ7は、汎用のコンピュータにデータベース管理システム(DataBase Management System: DBMS)の機能を提供するソフトウェアプログラムを組み込んだものであり、読影医用ワークステーション3からの読影レポートの登録要求を受け付けると、その読影レポートをデータベース用のフォーマットに整えて読影レポートデータベース8に登録する。
読影レポートデータベース8には、例えば、読影対象画像もしくは代表画像を識別する画像IDや、読影を行った画像診断医を識別するための読影医ID、関心領域の位置情報、所見、所見の確信度といった情報が登録される。この他、画像の読影時に画像情報の付帯情報を参照することで取得された検査番号、患者番号、さらには、読影対象画像または代表画像の検査画像が縮小画像も含めることができる。この場合、この縮小画像の生成のもとになる、画像データベース6に登録されている検査画像へのアクセスを可能にするためのリンク情報(画像データベース6に登録されている画像データのアドレスやフォルダ名、ファイル名等)も読影レポートデータベース8に登録しておくことが好ましい。
ネットワーク9は、病院内の各種装置を接続するローカルエリアネットワークである。読影医用ワークステーション3が他の病院あるいは診療所に設置されている場合には、ネットワーク9は、各病院のローカルエリアネットワーク同士をインターネットまたは専用回線で接続した構成としてもよい。いずれの場合にも、ネットワーク9は光ネットワークなど医用画像の高速転送を実現できるものとすることが好ましい。
さらに、図13に示すように、医療情報システム1にアーカイブシステム10を接続したものであってもよい。アーカイブシステム10は、複数の医療機関の医療情報システム1a〜1dの医用画像や各種動画に加えて、医療機関内の各診療科が扱う検査目的などを記載した検査依頼文書(検査オーダー)や、血液検査結果などの他の検査情報を電子文書化したドキュメントなど広範な診療情報を記憶および管理する大容量記憶装置11を備えている。
上述の読影医用ワークステーション3は、画像診断医等のユーザによって読影および観察対象画像の閲覧を要求する操作が行われると、画像管理サーバ5に対して閲覧要求を送信し、必要な画像を取得する。そして、その画像をディスプレイに表示する。本発明の自動レイアウト装置の機能は、読影医用ワークステーション3に実装されており、この処理は、インストールされたアプリケーションプログラムを実行することによって実現される。
図2は、読影医用ワークステーション3に実装された本発明の実施形態となる自動レイアウト装置の構成とデータの流れを模式的に示したブロック図である。なお、本発明の自動レイアウト装置は、読影医用ワークステーション3の自動レイアウト処理部として以下説明する。図2に示したように、本発明の自動レイアウト処理部30は、受付手段31、接続手段38、類似検査データ特定手段32、および、表示手段34から構成される。表示手段34には、1台または複数台のディスプレイ35が接続される。また、読影医用ワークステーション3にネットワーク9を介して接続された画像管理サーバ5および画像データベース6が本発明の記憶部50として機能する。
受付手段31は、読影医用ワークステーション3で、読影医などのユーザによって検査対象の患者IDが入力されると、画像管理サーバ5に対して診断対象の患者IDと閲覧要求が送信され、画像データベース6から検索された複数の検査画像qを検査データQとして受信する。受信した検査画像qは、読影医用ワークステーション3の補助記憶装置33に一旦記憶される。
また、接続手段38は、記憶部50に接続して、見本検査データPの見本画像pおよびレイアウト情報Lなどのデータの送受信をおこなう機能を有する。記憶部50へのアクセスは、ネットワーク9および接続手段38を介して行われるが、以下では単に記憶部50からデータを読み書きするものとして説明する。
検査画像qには、様々なモダリティ2で撮影した画像が含まれ、単純X線撮影画像、同じ部位を撮影した現在画像および過去画像、造影剤の投与前後の画像、複数枚の断層画像(CT画像またはMRI画像など)、撮影プロトコルを変えて撮影した画像(MRI画像のT1強調およびT2強調など)、および、内視鏡で撮影された動画像などが含まれる。
記憶部50は、複数の見本画像pと、見本画像pを画面上に配置する配置位置を定めたレイアウト情報Lが複数記憶されている。レイアウト情報Lには、画面に画像を配置する際の画面の分割方法の情報と、分割されたそれぞれの領域にどの見本画像pを配置するかの情報が定義されている。画面分割方法の情報には、分割された各表示領域の大きさも含まれ、例えば、画面を左右同じ大きさで縦2分割にする、画面を縦横に同じ大きさの4分割にする、あるいは、メイン画像を大きく画面の左半分に表示し、かつ、残りの画像を右半分に縦に並べるなどの情報が定義されている。なお、見本画像pは、検査画像qを画面上に配置するとき見本となる画像であり、診断対象の患者の検査画像を配置する際の基準となる画像である。
例えば、読影医用ワークステーション3で読影医が読影する際に、ある患者の検査画像をディスプレイ35の画面上に並べて観察した時の画面分割方法と検査画像の配置位置の情報を記録してレイアウト情報Lとする。その時に画面上に並べた検査画像を見本画像pとし、これらの見本画像pを含む見本検査データPとレイアウト情報Lを対応付けたものが、ネットワーク9を介して記憶部50へ記憶される。記憶部50には、過去に読影医が読影を行った見本検査データPとレイアウト情報が対応付けて多数記憶されている。
レイアウトは、1画面のみであっても、複数の画面で構成されたものであってもよい。例えば、レイアウトが複数ページで構成され、見本画像pが配置された複数ページを切り替えながら表示画面に表示するときの画面分割方法と見本画像pの配置位置をレイアウト情報Lとして定義したものであってもよい。あるいは、レイアウト情報Lは、読影医用ワークステーション3に複数のディスプレイを接続したときの、複数のディスプレイの画面のそれぞれの画面分割方法と見本画像pの配置位置が定義されたものであってもよい。例えば、1台のディスプレイで、あるページの画面分割方法と分割された各領域に配置された見本画像pと、その次のページの画面分割方法と分割された各領域に配置された見本画像pの組み合せを1つのレイアウト情報Lとしてもよく、また、ディスプレイが2台以上あって、ディスプレイAは画面4分割とし、分割された各領域に見本画像pのどれを配置し、ディスプレイBは画面2分割とし、分割された各領域に見本画像pのどれを配置するかという情報を、1つのレイアウト情報Lとしてもよい。さらには、複数ディスプレイで複数枚のページの表示画面を切り替えて表示するときの画面分割方法と分割された各領域に配置された見本画像pの情報を1つのレイアウト情報Lとしてもよい。
図3(a)にレイアウト情報Lに従って見本画像pを配置したレイアウトの一例を示す。図3(b)にレイアウトの各領域に配置される見本画像p1〜p7を示す。図3(a)は画面を4分割して、左上に見本画像p1を配置し、左下に見本画像p2を配置し、右上に見本画像p4を配置し、右下に見本画像p5を配置している。図3(a)において、見本画像p3、p6、およびp7は画面上に表示されていないが、次のページに見本画像p3、p6、およびp7を配置してもよい。
類似検査データ特定手段32は、見本検査検索手段36、見本検査選択手段37、および、対応付手段39を備え、検査データQに類似する見本検査データPを特定する。なお、見本検査データPおよびレイアウト情報Lの読み書きは、接続手段38およびネットワーク9を介して行われ、必要に応じて補助記憶装置33に記憶される。
下記の(1)〜(3)の順番に見本検査データPを絞り込む。
(1) まず、見本検査検索手段36は、DICOMタグの情報を用いて検査データQに含まれる検査画像の種類と同じ種類の画像が同じ枚数入っている見本検査データPを記憶部50から検索する。DICOMタグから得られる検査画像の種類には、CT画像、MRI画像、PET画像、超音波画像、または、単純X線画像、内視鏡画像等がある。例えば、検査データQが、CT画像2枚、MRI画像3枚、および単純X線画像1枚で構成されている場合には、見本検査データPも、CT画像2枚、MRI画像3枚、および単純X線画像1枚で構成されているものを検索する。
(2) さらに、見本検査選択手段37は、アーカイブシステム10から血液検査または尿検査などで行われた検査項目、または、バイタルデータ(体温、心拍、心電図など)の検査項目などを検索し、(1)で検索された見本検査データPの中から、診断対象の患者に対して行われた検査項目と、見本検査データPの患者に行われた検査項目が一致する見本検査データPのみを選択する。
(3) さらに、(1)および(2)で絞り込まれた見本検査データPから、検査データQとの類似度が高い見本検査データPを特定する。まず、対応付手段39を用いて、(1)および(2)で絞り込まれた見本検査データPのそれぞれについて、各見本検査データPを構成する見本画像pと検査データQを構成する検査画像qの対応付けを行い、さらに、各見本検査データPと検査データQの類似度を算出する。
対応付手段39は、類似度取得手段40、および、調整値取得手段41を備え、見本画像pと検査画像qの類似度と、類似度を調整する調整値を用いて、見本検査データPの見本画像に類似する検査画像qを検査データQから選んで対応付ける。
見本検査データPに含まれる見本画像pと検査データQに含まれる検査画像qを対応付ける際には、1つの見本画像pに対して2つ以上の検査画像qが対応付けられないようにし、検査データQに含まれる検査画像qの数がレイアウトに配置されている見本画像pの数より少ない場合には、見本画像pに対応付けられる検査画像qが存在しないこともある。また、2つ以上の見本画像pに同じ検査画像qが対応付けられないようにもする。つまり、見本画像pに対応付けられる検査画像qは1つ以下になり、かつ、検査データQに含まれる検査画像qに対応付けられる見本画像pも1つ以下になるように対応付ける。
類似度取得手段40は、見本検査データPに含まれる見本画像pの1つと検査データQに含まれる検査画像qの1つの組合せのそれぞれについて類似度を算出する。類似度は、見本画像pと検査画像qのピクセルデータから求める。具体的には、ピクセルデータの相互相関やヒストグラムインターセクションなどを用いて類似度を取得する。なお、ピクセルデータは、画像を構成する画素(ピクセル)の集まりを指し、DICOMタグ、ファイル名、または撮影日時などの画像の付帯情報と、ピクセルデータは区別して以下説明する。
また、類似度取得手段40は、DICOMタグなどの付帯情報を参照して、同じ種類のモダリティ2で撮影された検査画像pと見本画像qに対してのみ類似度を取得する。しかし、検査画像pおよび見本画像qが断層画像である場合には、同じ種類のモダリティ2で撮影した画像であっても、アキシャル断面とサジタル断面のように異なる断面方向の見本画像pと検査画像q間でも、ピクセルデータ間の類似度が高くなる場合がある。そこで、DICOMタグを参照して断面方向を判定し、レイアウトの見本画像pに含まれる断層画像と、検査データQの検査画像qに含まれる断層画像の断層方向が一致する見本画像pと検査画像qの類似度は高くなり、断面方向が一致しない見本画像pと検査画像qの類似度は低くなるように類似度を算出する。
調整値取得手段41は、類似度を求めた組合せの2つの組み合わせにおいて、第1の組合せaに含まれる見本画像pと第2の組合せbに含まれる見本画像pの関係と、第1の組合せaに含まれる検査画像qと第2の組合せbに含まれる検査画像qの関係とに基づいて類似度の調整値を求める。
同じ部位を撮影した造影剤の投与前と投与後の画像は、見本画像pと検査画像qの間でも投与前の画像同士と投与後の画像同士の類似度が高くなるはずだが、画像造影剤の拡散の仕方によっては投与前の見本画像pと投与後の検査画像qの類似度が高くなる可能性がある。また、心臓の心拍フェーズの異なる複数の画像など、ピクセルデータの類似度だけでは、対応する画像を判定することが難しくなることがある。そこで、組合せaおよびbに含まれる2つの見本画像pの撮影時刻の前後関係と、組合せaおよびbにそれぞれ含まれる2つの検査画像qの撮影時刻の前後関係が一致する場合には、調整値を撮影時刻の前後関係が一致しない場合より類似度が高くなるような値にする。
図4フローチャートに従って、対応付手段39で、類似度と調整値を用いて各見本検査データPの見本画像pと検査データQの検査画像qの対応付けを行う処理について具体的に説明する。図5に見本画像p1〜p7と検査画像q1〜q7の一例を示す。
まず、類似度取得手段40は、見本検査データPの要素である見本画像pと検査データQの要素である検査画像qの類似度をヒストグラムインターセクションを用いて求める。図5に示すように、見本画像p〜pと検査画像q〜qがあった場合、類似度は、見本画像p〜pと検査画像q〜qの全ての組合せに対して求める。つまり、pに対して、q、q、q・・・qとの類似度を求め、pに対してq、q、q・・・qとの類似度を求める。同様にして、p〜pのそれぞれに対してq、q、q・・・qとの類似度を求める。
このとき、モダリティ2の種類が異なる見本画像pと検査画像qの場合には、類似度は0とする。例えば、MRI画像とCT画像の類似度は0とするが、MRI装置でも異なる種類の撮影プロトコルで撮影したMRI画像のT1強調画像およびT2強調画像はどちらもMRI画像であるので、ヒストグラムインターセクションを用いて類似度を算出する。
見本画像pおよび検査画像qの断面方向は、例えば、DICOMタグの「Image Orientation」の記述に基づいて判断することができる。例えば、見本画像pが体軸に垂直なアキシャル断面の場合、「Image Orientation」の「first row」は(1,0,0)、「first column」は(0,1,0)にほぼ一致するので、検査画像qの「Image Orientation」を参照して得られる2つのベクトルと、見本画像pの2つのベクトル(1,0,0)および(0,1,0)との一致度を、内積演算を使って求める。見本画像pと検査画像qの断面方向が一致している場合には(S1−Yes)、ピクセルデータ間の類似度は、図6に示すように、見本画像pのヒストグラムh1と検査画像qのヒストグラムh2の共通部分の割合(ヒストグラムインターセクション)を類似度θとして求める(S2)。このとき、類似度θは0〜1.0までの値となる。画面のおおまかな構図を反映させるために、例えば、見本画像pと検査画像qの画像を縦と横をそれぞれ3つに等分し(図7参照)、3×3区画(=9区画)に区分したそれぞれの区画でヒストグラムインターセクションを求め、その平均値を類似度θとするようにしてもよい。一方、見本画像pと検査画像qの断面方向が異なる場合には(S1−No)、類似度θを−1とする(S3)。これを全てのpとqの組合せについて求める(S4)。
次に、調整値取得手段41で、見本画像pと検査画像qを対応付けた時の類似度の調整値θabを求める。見本画像pと検査画像qを対応付けるときは、見本画像pに対応付けられる検査画像qは1つ以下になり、かつ、検査データQに含まれる検査画像qに対応付けられる見本画像pも1つ以下になるように対応付ける。この対応付けの条件を満足するように対応付けをした時の、全ての対応付けパターンのうちいずれの対応付けが最適であるかを、見本画像pと検査画像qのピクセルデータ間の類似度θaだけでなく撮影時刻の前後関係に基づいて調整する。
見本検査データPと検査データQの間で、見本画像pに検査画像qを対応付け、かつ、見本画像pに検査画像qを対応付けたときに、見本画像pと検査画像qの組合せaと見本画像pと検査画像qの組合せbから調整値θabを算出する。見本画像pの撮影時刻t(p)と見本画像pの撮影時刻t(p)の差分T=t(p)−t(p)の符号と、検査画像qの撮影時刻t(q)と検査画像qの撮影時刻t(q)の差分T=t(q)−t(q)の符号が一致している場合には(S5−Yes)、調整値θabを1とし(S6)、差分Tと差分Tの符号が一致していない場合には(S5−No)、調整値θabを‐1にする(S7)。これを各対応付けパターンにおける全ての2つの組合せaおよびbに対して求める(S8)。
例えば、図8に示すように、pとq、pとq、pとq・・・を対応づけたとき、pとqの組合せ1とpとqの組合せ2において(図8(A))、pとpの撮影時刻の差分と、qとqの撮影時刻の差分が一致しているときには、調整値θa=1,b=2を1とする。pとqの組合せ2とpとqの組合せ3において(図8(B))、pとpの撮影時刻の差分と、qとqの撮影時刻の差分が一致していいない場合には、調整値θa=2,b=3を‐1にする。さらに、pとqの組合せ1とpとqの組合せ3において(図8(C))、pとpの撮影時刻の差分と、qとqの撮影時刻の差分が一致しているときには、調整値θa=1,b=3を1とする。このように、全ての2つの組合せに対して、調整値θabを算出する。
図9に示すように、見本検査データPと検査データQの間で、見本画像pと検査画像qの対応付けを0と1のバイナリデータxを用いてP×Qの要素の対応付行列mで表す。対応付行列mは、行が見本画像pを表し、列が検査画像qを表す。i行j列の要素xijは見本画像pと検査画像qを対応づけるか否かを表す。見本画像pと検査画像qが対応付けられないときは0とし、見本画像pと検査画像qが対応付けられるときは1とする。このとき、見本検査データPと検査データQにおいて、見本画像pに対応づけられる検査画像qは高々1つ、かつ、検査画像qに対応付けられる見本画像pも高々1つという条件を満足するように、見本画像pと検査画像qを応付けた全ての対応付けのパターンを作成する。
なお、対応付行列mで表される対応付けパターンの集合Mは次の式(1)のように表現することができる。
集合Mに含まれる見本画像pと検査画像qを対応付ける全てのパターンにおいて、見本検査データPと検査データQの間で対応付けられた見本画像pと検査画像qの類似度の合計が最も高くなるパターンを、見本画像pと検査画像qの最適な対応付けパターンとする(S9)。これは、類似度取得手段40で求めた類似度θと、調整値取得手段41で求めた調整値θabを重みづけ加算した下式(2)を最大化する問題に置き換えることができる。例えば、文献「L. Torresani, V. Kolmogorov, and C. Rother: “Feature correspondence via graph matching: Models and global optimization”, ECCV2008.」に記載されているグラフマッチングの手法を用いて解くことができる。
なお、下式(2)の第1項は、xij=1となる見本画像pと検査画像qの組合せの類似度θの全てを加算することを意味し、第2項は、図9の対応付行列mにおいて、xij=1となる見本画像pと検査画像qの組合せの2つ(組合せa、および、組合せb)の関係から得られた調整値θabの全てを重みづけ加算することを意味する。また、係数Kは経験的に最適な値を与えればよい。
ここで、
Aは、見本画像pと検査画像qの組み合わせの集合
Nは、見本画像pと検査画像qの組合せa、および、見本画像pと検査画像qの組合せbの集合
kは、類似度と調整値の荷重を決める係数
は、バイナリデータxのうち、組合せa(p、q)に対応する要素xijの値
は、バイナリデータxのうち、組合せb(p、q)に対応する要素xklの値
上述の見本画像と検査画像の撮影時間に基づいた調整値θabを用いることで、対応付けられた見本画像の撮影時刻の順番と検査画像の撮影時刻の順番が反対にならないように対応付けられる。
このように対応付手段39によって、見本検査データPに含まれる見本画像pと検査データQに含まれる検査画像qの最適な対応付けパターンが1つ決められる。また、その対応付けパターンにおける見本画像pと検査画像qの類似度の合計が対応付手段39で算出される(S9)。
類似検査データ特定手段32は、(2)で絞り込まれた全ての見本検査データPのそれぞれに対して、対応付手段39を用いて、見本画像pと検査画像qの最適な対応付けパターンを決定し、その対応付けパターンにおける類似度の合計を算出する。(2)で絞り込まれた見本検査データPのうち類似度の合計が高い見本検査データPを、検査データQに類似する見本検査データとして特定する。
具体的には、類似度の合計が最も高い見本検査データPを検査データQに類似する見本検査データとして1つだけ特定してもよいが、類似度の合計が上位から所定の数の見本検査データPを検査データQに類似する見本検査データとして特定してもよい。あるいは、類似度が所定の閾値以上の見本検査データPを検査データQに類似する見本検査データとして特定してもよい。
さらに、見本検査データPの患者と検査データQの患者の読影レポートを読影レポートデータベース8から読み込んで、公知の自然言語解析を行って、疾患名、病変部の部位、病変部の形状および大きさに関する情報などのキーワードを抽出し、見本検査データPの患者と検査データQの患者の読影レポートに類似するキーワードが含まれているものに、(2)で絞り込んだ見本検査データPをさらに絞り込んでもよい。
あるいは、類似度の合計が上位の複数の見本検査データP、または、類似度の合計が所定の閾値以上の見本検査データPに対して、それらの読影レポートの自然言語解析を行って、検査データQの患者の読影レポートに含まれるキーワードと類似するキーワードが含まれているかどうかに基づいて、見本検査データPをさらに絞り込んでもよい。
表示手段34は、類似検査データ特定手段32で特定した見本検査データPに対応付けられたレイアウト情報Lに従って、ディスプレイ35の画面を分割し、対応付手段39で決定された対応付けパターンに従って、検査画像qを各検査画像qに対応付けられた見本画像pが配置された配置位置に表示する。
上述では、対応付手段39が、類似度取得手段40および調整値取得手段41を備える場合について説明したが、対応付手段39が、類似度取得手段40のみを備え、見本画像pと検査画像qの最適な対応付けパターンを決定する際に、類似度の調整値は用いることなく最適な対応付けパターンを決定するようにしてもよい。
上述の集合Mに含まれる見本画像pと検査画像qを対応付ける対応付けパターンから最適な対応付けパターンを決定する場合に、見本画像pと検査画像qの類似度θaのみを用いて、下式(3)のように、類似度θの全てを加算した値が最大のものを最適な対応付けパターンとして決定する。
ここで、
Aは、見本画像pと検査画像qの組み合わせの集合
は、バイナリデータxのうち、組合せa(p、q)に対応する要素xijの値
この対応付手段39より、1つの見本検査データPと検査データQ間で見本画像pと検査画像qの最適な対応付けパターンが1つ決まり、その対応付けパターンにおける見本画像pと検査画像qの類似度の合計が算出される。この結果を用いて、類似検査データ特定手段32は、見本検査データPのうち類似度の合計が高い見本検査データPを、検査データQに類似する見本検査データとして特定する。
さらに、対応付手段39は、見本検査データPに含まれる見本画像のそれぞれの見本表示レイアウトの配置位置に応じた重み係数waを設定し、検査画像と見本画像の類似度θaに係数waを掛け合わした類似度を用いて、下式(4)のように、見本画像pと検査画像qの組合せaの類似度θに係数waを重みづけ加算した値が最大のものを最適な対応付けパターンとして決定するようにしてもよい。
ここで、
Aは、見本画像pと検査画像qの組み合わせの集合
Nは、見本画像pと検査画像qの組合せa、および、見本画像pと検査画像qの組合せbの集合を
kは、類似度と調整値の荷重を決める係数
は、バイナリデータxのうち、組合せa(p、q)に対応する要素xijの値
は、バイナリデータxのうち、組合せb(p、q)に対応する要素xklの値
この対応付手段39より、1つの見本検査データPと検査データQ間で見本画像pと検査画像qの最適な対応付けパターンが1つ決まり、その対応付けパターンにおける見本画像pと検査画像qの類似度の合計が算出される。この結果を用いて、類似検査データ特定手段32は、見本検査データPのうち類似度の合計が高い見本検査データPを、検査データQに類似する見本検査データとして特定する。
例えば、ディスプレイに表示した際に、上段にある領域に配置する見本画像qと検査画像pの類似度の係数waを大きくして、検査データQと見本検査データPの類似度θaの合計を算出する。係数waが大きい配置位置にある見本画像qと検査画像pの類似度は類似度θaの合計に影響するため、係数waの大きい領域に見本画像pが優先的に配置される。これにより、見本検査データPのレイアウトの構成で画面表示した際に、上段に何も表示されないことを防ぐことができる。
あるいは、画面を分割した時に大きい領域に配置する見本画像pの類似度θaの係数waを大きい値にし、小さい領域の見本画像pの類似度θaの係数waを小さい値にするなど、画像を観察する中心となる位置に配置される見本画像pの類似度θaの係数waを大きくするようにしてもよい。
さらに、レイアウトが複数ページで構成されている場合に、最初のページに配置される見本画像pの類似度θaの係数waを大きい値にし、2枚目、3枚目に配置される見本画像の類似度の係数を徐々に小さい値にする。あるいは、複数のディスプレイ上に表示される場合には、左側に設置されるディスプレイに配置される見本画像pの類似度θaの係数waを大きい値にし、右側に配置されるディスプレイに配置される見本画像pの類似度θaの係数waを小さい値にするようにしてもよい。
次に、図10のフローチャートを用いて、本実施形態の自動レイアウト装置の動作について説明する。
読影医によって読影医用ワークステーション3で読影のための操作が行われると自動レイアウトプログラムが起動される(S10)。また、入力された読影医IDが読影医用ワークステーション3から画像管理サーバ5に送信され、読影医IDの認証を経て検査データの送受信が可能な状態になる(S11)。
続いて、読影医が診断対象の患者IDを入力すると(S12)、読影医用ワークステーション3の受付手段31は、画像管理サーバ5に患者IDと検査画像qの閲覧要求を送信する。画像管理サーバ5では、患者IDが割り振られている検査画像qを画像データベース6から検索して読影医用ワークステーション3に送信する。受付手段31は受信した検査画像qを検査データQとして補助記憶装置33に記憶する(S13)。
見本検査検索手段36は、診断対象の患者以外の他の患者の見本検査データPから、DICOMタグの情報を元に検査データQに含まれる検査画像qの種類と同じ種類の画像が同じ枚数入っている見本検査データPの検索を画像管理サーバ5に要求する。さらに、見本検査選択手段37は、検査データQの検査項目と見本検査データPの患者の検査項目が一致する見本検査データPのみ選択して、記憶部50から取り出し読影医用ワークステーション3の補助記憶装置33に一旦記憶する(S14)。
さらに、類似検査データ特定手段32は、補助記憶装置33に記憶されている見本検査データPの中から検査データQとの類似度が高い見本検査データPを特定する(S15)。また、類似度が高いと特定された見本検査データPに対応するレイアウト情報Lを記憶部50より読み込み補助記憶装置33に記憶する。
表示手段34は、見本検査データPの中から検査データQとの類似度が最も高い見本検査データPのレイアウト情報Lに従って、検査データQの検査画像qをディスプレイ35に表示する。各検査画像qは、対応付手段39で検査画像q対応付けられた見本画像pの位置に配置して表示する。また、表示手段34は、類似検査データ特定手段32で類似度が高い見本検査データPが複数個取取得された場合には、画面上に複数個の見本検査データPのレイアウトをリスト表示して、読影医が選択できるように表示するのが望ましい。あるいは、画面上に複数個のレイアウトの縮小画像を表示して選択できるようにしてもよい。
対応付手段39によって、図11に示すように、図5の見本画像p〜pと検査画像q〜qが対応付けられた場合には、表示手段34によってディスプレイ画面上には図12のように表示される。
以上詳細に説明したように、検査データに類似する見本検査データを自動的に選択して、その見本検査データのレイアウトに従って画面上に検査画像を配置することにより、診断に適したレイアウトで検査画像を表示することが可能になる。
また、従来は画像の付帯情報からは正確に判断できなかったレイアウトが、見本画像を参考にして、見本画像と検査画像の正確な対応付けを行うことが可能になる。例えば、検査データにMR画像のT1強調画像とT2強調画像が含まれている場合、モダリティのベンダーや技師によって異なるタグがつけられることが多いため、見本検査データのT1強調画像とT2強調画像は正確に対応付けられなかったが、見本画像と検査画像の類似度θを用いて対応付をすることにより(数式(1)〜(3)参照)、適切に対応付けられるようになる。
上述では、撮影時刻の順番が見本画像qと検査画像pの間で一致するように対応付けパターンを決定する場合について説明したが、レイアウトの見本画像に断層画像が含まれ、検査データの検査画像にも断層画像が含まれている場合に、断層画像の位置関係の順番が見本画像と検査画像の間で一致するように対応付けパターンを決定することもできる。
この場合、類似度取得手段40は、前述と同様に類似度θを求めるが、調整値取得手段41では、断層位置の順番が一致する場合には、調整値は類似度を高くする値を設定する。具体的には、見本画像pと検査画像qの組合せaと見本画像pと検査画像qの組合せbから調整値θabを算出するときに、見本画像pと見本画像pの断層位置の差分Dの符号と、検査画像qと検査画像qの断層位置の差分Dの符号が一致している場合には、調整値θabを1とし、差分Dと差分Dの符号が一致していない場合には、調整値θabを‐1にして、類似度をθと調整値θabを加算した数式(2)または(3)を最大化することによって、見本画像pに検査画像qの最適な組み合わせを決定することが可能になる。
これにより、見本画像の断層画像の位置関係と検査画像の断層画像の位置関係についても矛盾することがないように並べることができる。
以上詳細に説明したように、従来は画像の付帯情報からは正確に判断できなかったレイアウトが、見本画像を参考にして、正確な対応付けを行うことが可能になる。
上述では、記憶部50に記憶されている診断対象の患者以外の患者を診断した時に用いられた見本検査データPのレイアウト情報Lを、検査データQに含まれる検査画像を画面に配置するときに利用する場合について説明したが、読影するときの表示端末(例えば、上述の読影医用ワークステーション3)の構成に応じて、見本検査データPとそのレイアウト情報Lを予め用意して記憶部50または補助記憶装置33に記憶しておくようにしてもよい。
例えば、3Mega Pixel(2048×1536)程度の高精細なディスプレイ(以下、3Mディスプレイという)が2面構成の場合、3Mディスプレイが1面と汎用ディスプレイが1面の場合などで、異なるレイアウトが定義された見本検査データPをそれぞれ記憶部50に記憶するのが望ましい。あるいは、表示端末がiPad(登録商標)などの携帯型端末の場合には、携帯端末に応じたレイアウトが定義された見本検査データPとそのレイアウト情報を予め用意して記憶部50または補助記憶装置33に記憶しておくようにしてもよい。
あるいは、診療科用ワークステーション4に本発明の自動レイアウト装置の機能を設けるようにしてもよい。この場合、臨床科別(放射線科、呼吸器外科、整形外科など)に応じた標準的な見本検査データPを記憶部50または補助記憶装置33に記憶しておくようにしてもよい。これらの標準的な見本検査データを利用して検査画像を観察するときにレイアウトを変えた場合には、変更後のレイアウトとその時に表示した検査画像を新たに見本検査データPとして記憶部50または補助記憶装置33に記憶しておくようにしてもよい。
上述では、記憶部50がネットワーク9を介して接続される場合について説明したが、記憶部50が、自動レイアウト装置のコンピュータ設けられた記憶装置であってもよい。
1、1a〜1d 医療情報システム
2 モダリティ
3 読影医用ワークステーション
4 診療科用ワークステーション
5 画像管理サーバ
6 画像データベース
7 読影レポートサーバ
8 読影レポートデータベース
9 ネットワーク
10 アーカイブシステム
11 大容量記憶装置
30 自動レイアウト処理部
31 受付手段
32 類似検査データ特定手段
33 補助記憶装置
34 表示手段
35 ディスプレイ
36 見本検査検索手段
37 見本検査選択手段
38 接続手段
39 対応付手段
40 類似度取得手段
41 調整値取得手段
50 記憶手段

Claims (13)

  1. 複数の検査画像を含む検査データを受け付ける受付手段と、
    複数の見本画像を含む見本検査データに、前記見本画像を画面上に配置する際の前記見本画像の大きさと配置位置が定められたレイアウトを表すレイアウト情報をそれぞれ対応付けて記憶する記憶部に接続する接続手段と、
    前記検査データに含まれる各検査画像と前記見本検査データに含まれる各見本画像間の類似度を用いて、前記検査データに類似する前記見本検査データを特定する類似検査データ特定手段と、
    前記検査データに類似する前記見本検査データに対応付けられたレイアウト情報に従って、前記検査データに含まれる前記検査画像を表示する表示手段とを備えた自動レイアウト装置。
  2. 前記検査データおよび前記見本検査データは、異なる種類のモダリティで撮影された画像を含み、
    前記類似検査データ特定手段が、同じ種類のモダリティで撮影された前記検査画像と前記見本画像を対応付けて前記類似度を取得する請求項1記載の自動レイアウト装置。
  3. 前記検査データおよび前記見本検査データは、磁気共鳴画像撮影装置の異なる種類の撮影プロトコルで撮影された複数の画像を含む請求項1または2記載の自動レイアウト装置。
  4. 前記類似検査データ特定手段が、
    前記見本検査データに含まれる見本画像の1つと前記検査データに含まれる検査画像の1つの組合せのそれぞれについて、前記検査画像と前記見本画像の類似度を取得する類似度取得手段と、
    前記検査データにおいて、前記検査画像に対応づけられる前記見本画像が1以下であり、かつ、前記見本画像に対応付けられる前記検査画像が1以下であるという条件を満たすように、前記検査画像と前記見本画像を対応付けた場合に、対応付けられた前記検査画像と前記見本画像の組合せにおける前記類似度取得手段によって取得された全ての前記類似度を用いて、所定の規則に従って前記検査データに類似する見本検査データを特定する請求項1から3のいずれか1項記載の自動レイアウト装置。
  5. 前記類似検査データ特定手段は、前記見本検査データに含まれる見本画像のそれぞれのレイアウト上の表示位置に基づいて重み係数を設定し、各検査画像と各見本画像の類似度に該見本画像の前記重み係数を掛け合わした類似度を用いて、前記検査データに類似する前記見本検査データを特定する請求項4に記載の自動レイアウト装置。
  6. 前記類似検査データ特定手段が、
    2つの前記組合せにおいて、前記第1の組合せに含まれる検査画像と前記第2の組合せに含まれる検査画像の撮影時刻の前後関係と、第1の組合せに含まれる見本画像と第2の組合せに含まれる見本画像の撮影時刻の前後関係とに基づいて前記類似度の調整値を取得する調整値取得手段をさらに備え、
    前記条件を満たすように、前記検査画像と前記見本画像を対応付けた場合に、対応付けられた前記見本画像と前記検査画像の組合せにおける前記類似度取得手段によって取得された全ての前記類似度と、2つの前記組合せにおける前記調整値取得手段によって取得された全ての前記調整値とを用いて、所定の規則に従って前記検査データに類似する見本検査データを特定する請求項4または5記載の自動レイアウト装置。
  7. 前記調整値取得手段が、前記第1の組合せに含まれる見本画像と前記第2の組合せに含まれる見本画像の撮影時刻の順番と前記第1の組合せに含まれる検査画像と前記第2の組合せに含まれる検査画像の撮影時刻の順番が一致する場合には、前記調整値は前記類似度を高くする値を設定する請求項6記載の自動レイアウト装置。
  8. 前記レイアウトの見本画像には断層画像が含まれ、
    前記検査データの検査画像には断層画像が含まれ、
    前記類似検査データ特定手段が、
    2つの前記組合せにおいて、第1の組合せに含まれる見本画像と第2の組合せに含まれる見本画像の断層位置の前後関係と、前記第1の組合せ含まれる検査画像と前記第2の組合せに含まれる検査画像の断層位置の前後関係とに基づいて前記類似度の調整値を取得する調整値取得手段とを備え、
    前記条件を満たすように、前記見本画像と前記検査画像を対応付けた場合に、対応付けられた前記見本画像と前記検査画像の組合せにおける前記類似度取得手段によって取得された全ての前記類似度と、2つの前記組合せにおける前記調整値取得手段によって取得された全ての前記調整値とを用いて所定の規則に従って前記検査データに類似する見本検査データを特定する請求項4または5記載の自動レイアウト装置。
  9. 前記調整値取得手段が、前記第1の組合せに含まれる見本画像と前記第2の組合せに含まれる見本画像の断層位置の順番と前記第1の組合せに含まれる検査画像と前記第2の組合せに含まれる検査画像の断層位置の順番が一致する場合には、前記調整値は前記類似度を高くする値を設定する請求項8記載の自動レイアウト装置。
  10. 前記類似度取得手段が、前記検査画像と前記見本画像のヒストグラムに基づいて類似度を取得する請求項4から9のいずれか1項記載の自動レイアウト装置。
  11. 前記検査データが、1以上の電子文書データを含み、
    前記類似検査データ特定手段が、前記検査データの電子文書データと見本画像データの電子文書データに類似するキーワードが含まれるか否かに基づいて、前記検査データに類似する前記見本検査データを特定する請求項1〜10のいずれか1項記載の自動レイアウト装置。
  12. 受付手段と、接続手段と、類似検査データ特定手段と、表示手段とを備えた自動レイアウト装置において、
    前記受付手段が、複数の検査画像を含む検査データを受け付ける受付ステップと、
    前記接続手段が、複数の見本画像を含む見本検査データに、前記見本画像を画面上に配置する配置位置が定められたレイアウトを表すレイアウト情報をそれぞれ対応付けて記憶する記憶部に接続する接続ステップと、
    前記類似検査データ特定手段が、前記検査データに含まれる各検査画像と前記見本検査データに含まれる各見本画像間の類似度を用いて、前記検査データに類似する前記見本検査データを特定する類似検査データ特定ステップと、
    前記表示手段が、前記検査データに類似する前記見本検査データに対応付けられたレイアウト情報に従って、前記検査データに含まれる前記検査画像を表示する表示ステップとを備えた自動レイアウト方法。
  13. コンピュータを、
    複数の検査画像を含む検査データを受け付ける受付手段と、
    複数の見本画像を含む見本検査データに、前記見本画像を画面上に配置する際の前記見本画像の大きさと配置位置が定められたレイアウトを表すレイアウト情報をそれぞれ記憶する記憶部に接続する接続手段と、
    前記検査データに含まれる各検査画像と前記見本検査データに含まれる各見本画像間の類似度を用いて、前記検査データに類似する前記見本検査データを特定する類似検査データ特定手段と、
    前記検査データに類似する前記見本検査データに対応付けられたレイアウト情報に従って、前記検査データの検査画像を表示する表示手段として機能させる自動レイアウトプログラム。
JP2017078960A 2017-04-12 2017-04-12 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム Active JP6845071B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017078960A JP6845071B2 (ja) 2017-04-12 2017-04-12 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
US15/950,830 US10803986B2 (en) 2017-04-12 2018-04-11 Automatic layout apparatus, automatic layout method, and automatic layout program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017078960A JP6845071B2 (ja) 2017-04-12 2017-04-12 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム

Publications (3)

Publication Number Publication Date
JP2018175366A true JP2018175366A (ja) 2018-11-15
JP2018175366A5 JP2018175366A5 (ja) 2019-10-03
JP6845071B2 JP6845071B2 (ja) 2021-03-17

Family

ID=63790238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017078960A Active JP6845071B2 (ja) 2017-04-12 2017-04-12 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム

Country Status (2)

Country Link
US (1) US10803986B2 (ja)
JP (1) JP6845071B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018175864A (ja) * 2017-04-10 2018-11-15 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7301510B2 (ja) * 2018-09-11 2023-07-03 キヤノン株式会社 放射線撮影装置、放射線撮影方法及びプログラム
JP7259341B2 (ja) * 2019-01-18 2023-04-18 セイコーエプソン株式会社 投射装置、投射システム、及び投射装置の制御方法
CN110175247B (zh) * 2019-03-13 2021-06-08 北京邮电大学 一种优化基于深度学习的异常检测模型的方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004160103A (ja) * 2002-11-11 2004-06-10 Terarikon Inc 医用画像複合観察装置
JP2007275216A (ja) * 2006-04-05 2007-10-25 Fujifilm Corp 類似画像検索装置および方法並びにプログラム
JP2007286945A (ja) * 2006-04-18 2007-11-01 Fujifilm Corp 類似画像検索装置および方法並びにプログラム
JP2011041585A (ja) * 2009-08-19 2011-03-03 Hitachi Medical Corp 医用画像表示装置及び医用画像管理システム
JP2018175864A (ja) * 2017-04-10 2018-11-15 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6901277B2 (en) * 2001-07-17 2005-05-31 Accuimage Diagnostics Corp. Methods for generating a lung report
US8265729B2 (en) * 2005-03-11 2012-09-11 Apteryx, Inc. Third party acquisition of images at the direction of an independent imaging application
JP2007260061A (ja) 2006-03-28 2007-10-11 Fujifilm Corp 医用画像情報処理装置、医用画像保管システムおよび医用画像確認作業支援プログラム
US10387612B2 (en) * 2006-06-14 2019-08-20 Koninklijke Philips N.V. Multi-modality medical image layout editor
US8532384B2 (en) * 2006-11-21 2013-09-10 Cameron Telfer Howie Method of retrieving information from a digital image
JP5670079B2 (ja) 2009-09-30 2015-02-18 富士フイルム株式会社 医用画像表示装置および方法、並びにプログラム
KR101446780B1 (ko) * 2012-06-01 2014-10-01 삼성메디슨 주식회사 초음파 영상과 초음파 영상에 관련된 정보를 디스플레이하기 위한 방법 및 장치
JP5810251B1 (ja) * 2014-04-09 2015-11-11 パナソニック株式会社 情報端末の制御方法及びプログラム
EP3388962A1 (de) * 2017-04-11 2018-10-17 Siemens Healthcare GmbH Steuerverfahren eines bildgebenden medizinischen systems

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004160103A (ja) * 2002-11-11 2004-06-10 Terarikon Inc 医用画像複合観察装置
JP2007275216A (ja) * 2006-04-05 2007-10-25 Fujifilm Corp 類似画像検索装置および方法並びにプログラム
JP2007286945A (ja) * 2006-04-18 2007-11-01 Fujifilm Corp 類似画像検索装置および方法並びにプログラム
JP2011041585A (ja) * 2009-08-19 2011-03-03 Hitachi Medical Corp 医用画像表示装置及び医用画像管理システム
JP2018175864A (ja) * 2017-04-10 2018-11-15 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018175864A (ja) * 2017-04-10 2018-11-15 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム

Also Published As

Publication number Publication date
JP6845071B2 (ja) 2021-03-17
US10803986B2 (en) 2020-10-13
US20180301216A1 (en) 2018-10-18

Similar Documents

Publication Publication Date Title
US20210158531A1 (en) Patient Management Based On Anatomic Measurements
US7747050B2 (en) System and method for linking current and previous images based on anatomy
US8135195B2 (en) Systems and methods for synchronized image viewing with an image atlas
EP2888686B1 (en) Automatic detection and retrieval of prior annotations relevant for an imaging study for efficient viewing and reporting
JP6885896B2 (ja) 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
JP5320335B2 (ja) 診断支援システム、診断支援装置、診断支援方法および診断支援プログラム
JP5487157B2 (ja) 画像処理装置および画像処理装置の作動方法並びに画像処理プログラム
JP6453668B2 (ja) 計測値管理装置とその作動方法および作動プログラム、並びに計測値管理システム
EP1955237A2 (en) System and method for anatomy labeling on a pacs
JP2014512897A (ja) 医療データの知的リンキング方法及びシステム
US11468659B2 (en) Learning support device, learning support method, learning support program, region-of-interest discrimination device, region-of-interest discrimination method, region-of-interest discrimination program, and learned model
JP7000206B2 (ja) 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
US10803986B2 (en) Automatic layout apparatus, automatic layout method, and automatic layout program
JP6738305B2 (ja) 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム
JP2015203920A (ja) 類似症例検索システム、類似症例検索方法及びプログラム
JP2008200373A (ja) 類似症例検索装置、方法、およびプログラム、ならびに、類似症例データベース登録装置、方法、およびプログラム
WO2019193983A1 (ja) 医療文書表示制御装置、医療文書表示制御方法、及び医療文書表示制御プログラム
CA3034814C (en) System and method for using imaging quality metric ranking
JP2017207793A (ja) 画像表示装置および画像表示システム
JP6869086B2 (ja) 位置合せ装置および位置合せ方法並びに位置合せプログラム
WO2020105415A1 (ja) 医療情報表示装置、方法およびプログラム、並びに医療情報を表示するためのグラフィックユーザインターフェース
Inamdar Enterprise image management and medical informatics
JPWO2020105416A1 (ja) 医療情報表示装置、方法およびプログラム、並びに医療情報を表示するためのグラフィックユーザインターフェース

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20170519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170908

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190826

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200818

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200819

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210225

R150 Certificate of patent or registration of utility model

Ref document number: 6845071

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250