JP6960612B2 - 制御方法及びプログラム - Google Patents

制御方法及びプログラム Download PDF

Info

Publication number
JP6960612B2
JP6960612B2 JP2020178069A JP2020178069A JP6960612B2 JP 6960612 B2 JP6960612 B2 JP 6960612B2 JP 2020178069 A JP2020178069 A JP 2020178069A JP 2020178069 A JP2020178069 A JP 2020178069A JP 6960612 B2 JP6960612 B2 JP 6960612B2
Authority
JP
Japan
Prior art keywords
image
information
similar
display
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020178069A
Other languages
English (en)
Other versions
JP2021010777A (ja
Inventor
和豊 高田
堅司 近藤
和紀 小塚
浩彦 木村
豊彦 坂井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JP2021010777A publication Critical patent/JP2021010777A/ja
Application granted granted Critical
Publication of JP6960612B2 publication Critical patent/JP6960612B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/031Recognition of patterns in medical or anatomical images of internal organs

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Biophysics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Physiology (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)

Description

本開示は、読影対象の医用画像と類似する類似医用画像を検索するための情報端末の制御方法及びプログラムに関する。
近年、例えば、CT(Computed Tomography)、MRI(Magnetic Resonance Imaging)等の医用画像装置が発達および普及している。これらCT又はMRIなどは、デジタル化された高精細な医用画像を大容量で取得することを可能にした。また、医師が読影した医用画像は読影レポートと共にPACS(Picture Archiving and Communication Systems)に順次蓄積されつつある。ここで、例えば特許文献1に開示されるように、新たな読影の参考とするため、読影対象の医用画像と類似した過去の医用画像を、PACSに蓄積済の過去症例から検索する技術が開発され始めている。
特開2009−45121号公報
しかしながら、更なる改善が必要とされていた。
本開示の一態様は、医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記情報端末のコンピュータに対して、
読影対象の医用画像である対象医用画像と所定の類似度を有する複数の類似医用画像に対応する複数の画像を含む複数のデータを前記症例検索システムから受信させ、
前記複数の類似医用画像の各々は、断層撮影法により撮影され、かつ第1の方向に沿って並べられた画像群の内の1つの医用画像であり、
前記複数のデータの各々に対応する対応情報には、びまん性病変または限局性病変の識別情報が設定されており、
前記びまん性病変の識別情報が設定されている対応情報には、さらに、前記第1の方向に沿って並べられた画像群の内の他の複数の医用画像が付加されており、
前記限局性病変の識別情報が設定されている類似医用画像の付加情報には、さらに、前記第1の方向に沿って並べられた画像群の内から前記限局性病変を含む複数の医用画像が付加されており、
前記複数の類似医用画像をサムネイル表示する第1表示領域を含む表示画面を前記ディスプレイに表示させ、
前記第1表示領域にサムネイル表示される前記複数の類似医用画像の内から選択された1つの類似医用画像を検知させ、
前記選択された1つの類似医用画像がびまん性病変である場合、前記表示画面に含まれる第2表示領域に、前記他の複数の医用画像を表示させ、
前記選択された1つの類似医用画像が限局性病変である場合、前記第2表示領域に、前記限局性病変を含む複数の医用画像を前記第1の方向に沿って連続的に表示させる。
なお、この包括的または具体的な態様は、装置、システム、集積回路、コンピュータプ
ログラムまたはコンピュータ読み取り可能な記録媒体で実現されてもよく、装置、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。コンピュータ読み取り可能な記録媒体は、例えばCD−ROM(CompactDisc−ReadOnly Memory)などの不揮発性の記録媒体を含む。
本開示によれば、更なる改善が実現できる。本開示の一態様の付加的な恩恵及び有利な点は本明細書及び図面から明らかとなる。この恩恵及び/又は有利な点は、本明細書及び図面に開示した様々な態様及び特徴により個別に提供され得るものであり、その1以上を得るために全てが必要ではない。
本実施の形態における情報端末が適用された病院情報システムの全体構成図。 情報端末、医用情報管理システム、及び症例検索システムの構成を示すブロック図。 2台のディスプレイの外観図。 情報端末の実装形態の構成例を示す図。 情報端末にて類似症例検索アプリケーションを起動した直後にディスプレイに表示される基本画面の一例を示す図。 情報端末にて類似症例検索アプリケーションを起動した直後にディスプレイに表示される基本画面の一例を示す図。 症例表示領域に表示されるある1つの類似症例の表示領域を取り出して示した図。 病名リスト表示領域の拡大図。 「真菌症」で類似症例が絞り込まれたときの基本画面を示す図。 「転移性肺癌」で類似症例が絞り込まれたときの基本画面を示す図。 分布リスト表示領域の拡大図。 チェックマークが入力された分布リスト表示領域を示す図。 気道性の病変分布で絞り込みがかけられた基本画面を示した図。 複数のチェックマークが入力された分布リスト表示領域を示す図。 複数の病変分布で絞り込みがかけられた基本画面を示した図。 患者情報のデータ構成を示す図。 図16に示す患者情報に登録された検査情報のデータ構成を示す図。 医用画像データベースのデータ構成を示す図。 医用画像データベースのデータ構成を示す図。 医用画像データベースのデータ構成を示す図。 診断レポートのデータ構成を示す図。 びまん性の類似症例データのデータ構成の第一例を示す図。 限局性の類似症例データのデータ構成の第一例を示す図。 限局性の類似症例データのデータ構成の第二例を示す図。 スライス画像に設定された関心領域を模式的に示した図。 情報端末が、医用情報管理システムから診断対象症例を取得した後、症例検索システムに対して類似症例検索の要求を行い、症例検索システムが類似症例検索の要求を受け取るまでの処理を示すシーケンス図。 検査リストの画面図。 検査が選択された後の検査リストの画面図。 病変に対して関心領域を設定した後の画面の一例の図。 症例検索システムが類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末に返すまでの処理を示すシーケンス図。 図27のS670に示す初期の基本画面を生成する処理の詳細を示すフローチャート。 図28に示すS1500の処理を示すフローチャート。 図28のS1300で生成される病名リストのデータ構成を示す図。 病名リスト表示領域の第1表示例を示した図。 病名リスト表示領域の第2表示例を示した図。 病名リスト表示領域の第3表示例を示した図。 図32に示す病名リスト表示領域の画面遷移を示す図。 図28のS1400で生成される分布リストのデータ構成を示す図。 レイアウト管理情報の一例を示す図。 表示ボックス管理情報のデータ構成を示す図。 医用画像ビューワの起動処理を示すフローチャート。 症例検索システムが画像特徴を抽出する態様を採用した場合の情報端末、医用情報管理システム、及び症例検索システムのブロック図。 情報端末が、医用情報管理システムから診断対象症例を取得した後、症例検索システムが類似症例検索の要求を受け取るまでの処理を示すシーケンス図。 症例検索システムが類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末に返すまでの処理を示すシーケンス図。 図23及び図27のシーケンス図をアプリケーションのレベルで着目したときのシーケンス図。 分布リスト表示領域に表示された病変分布が選択されたときの処理を示すフローチャート。 第1分布情報が選択されたときの基本画面を示した図。 第2分布情報が選択されたときの基本画面を示した図。 第3分布情報が選択されたときの基本画面を示した図。 胸膜領域を説明する図。 胸膜領域情報が追加された類似症例データのデータ構成を示す図。 ユーザによりシリーズが選択された際にディスプレイに表示されるスライス画像を示した図。 類似症例検索直後の基本画面において、ユーザがサムネイル画像を選択した状態の一例を示す図。 ユーザにより選択されたサムネイル画像が限局性病変である場合の基本画面の一例を示す図。 ユーザにより選択されたサムネイル画像がびまん性病変である場合の基本画面の一例を示す図。 要約画像生成処理のフローチャート。 要約画像生成部による前後所定数のサムネイル画像の取得処理の概念図。 びまん性の類似症例データのデータ構成の第二例を示す図。 限局性の類似症例データのデータ構成の第三例を示す図。 要約画像生成部によるサンプリング処理の概念図。
(本開示に係る一態様を発明するに至った経緯)
まず、本開示に係る一態様の着眼点について説明する。
特許文献1は、読影対象画像と症例画像とを読影者が比較しやすい形で提示する医用画像処理システムを開示する。当該医用画像処理システムは、症例画像の画像特徴量を変化させた変化画像を生成し(段落[0053]から[0054]及び図7)、生成した変化画像を類似症例画像ウィンドウ920に表示させる(段落[0062]及び図9)。そして、当該医用画像処理システムは、類似症例画像ウィンドウ920に表示される動画表示
ボタン970を指定すると、複数の変化画像を連続的に類似症例画像ウィンドウ920に表示させる。
しかし、特許文献1では、類似症例画像ウィンドウ920において、症例画像の病変種によって表示形態を変更させることについての記載は一切ない。よって、特許文献1は、症例画像の病変種によって表示形態を変更させることさえ開示していないので、例えば、限局性病変とびまん性病変とで表示形態を変更させる等の工夫をも開示していない。
未だ病名が特定されていない読影対象の医用画像に表れている病変を検討するにあたって、既に病名が特定されている他の医用画像の中で前記読影対象の医用画像と類似する類似医用画を参照することは有効であると考えられる。しかし、このようなシステムを構築した場合、前記医用画像データベースに膨大な数の医用画像が登録されることになる。このような場合であっても、前記読影対象の医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示することが望まれる。
以上の考察により、本願発明者らは、以下の発明の各態様を想到するに至った。
本開示の第1の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記情報端末のコンピュータに対して、
読影対象の医用画像である対象医用画像と所定の類似度を有する複数の類似医用画像に対応する複数の画像を含む複数のデータを前記症例検索システムから受信させ、
前記複数の類似医用画像の各々は、断層撮影法により撮影され、かつ第1の方向に沿って並べられた画像群の内の1つの医用画像であり、
前記複数のデータの各々に対応する対応情報には、びまん性病変または限局性病変の識別情報が設定されており、
前記びまん性病変の識別情報が設定されている対応情報には、さらに、前記第1の方向に沿って並べられた画像群の内の他の複数の医用画像が付加されており、
前記限局性病変の識別情報が設定されている対応情報には、さらに、前記第1の方向に沿って並べられた画像群の内から前記限局性病変を含む複数の医用画像が付加されており、
前記複数の類似医用画像をサムネイル表示する第1表示領域を含む表示画面を前記ディスプレイに表示させ、
前記第1表示領域にサムネイル表示される前記複数の類似医用画像の内から選択された1つの類似医用画像を検知させ、
前記選択された1つの類似医用画像がびまん性病変である場合、前記表示画面に含まれる第2表示領域に、前記他の複数の医用画像を表示させ、
前記選択された1つの類似医用画像が限局性病変である場合、前記第2表示領域に、前記限局性病変を含む複数の医用画像を前記第1の方向に沿って連続的に表示させる。
本態様によると、対象医用画像と所定の類似度を有する複数の類似医用画像が症例検索システムから受信され、受信された複数の類似医用画像がディスプレイに表示される。これにより、医用画像データベースに登録されている膨大な医用画像の中から、対象医用画像に表れている病変の病名を検討するために参考となる類似医用画像を効率的に抽出して、医師に提示できる。
ここで、病変の分布形態として、びまん性病変と限局性病変との2つがある。びまん性病変は、病変が臓器全体に広範囲に分布している。一方、限局性病変は、病変部が局所的に分布している。
びまん性病変は、その病変部の広がり方が病名を特定する際に非常に重要な情報となる。例えば、肺の医用画像の場合には病変部が肺の上葉、中葉、又は下葉のいずれにまで広がっているかが病名を特定するのに重要である。そのため、類似症例検索システムにおいて、びまん性病変の類似医用画像を表示する際には、その病変部の広がりの大きさが一目で判別できることが望ましい。病変部の広がりの大きさが一目で判別できる表示形態として、断層撮影法により撮影された医用画像群の中の複数の医用画像を表示する表示形態がある。
一方、限局性病変は、病変部が血管の方向に沿って存在しているか否かが病名を特定する際に非常に重要な情報となる。そのため、類似症例検索システムにおいて、限局性病変の類似医用画像を表示する際には、その病変部が血管の方向に沿って存在しているか否かを確認できることが望ましい。また、限局性病変は病変部の3次元的な形状を確認できることが望ましい。病変部が血管の方向に沿って3次元的にどのような形状で存在しているか否かを確認できる表示形態として、断層撮影法により撮影された医用画像群の中の限局性病変を含む複数の医用画像を連続的に表示、即ち動画表示する表示形態がある。
本態様によると、第1表示領域にサムネイル表示される複数の類似医用画像の内から選択された1つの類似医用画像がびまん性病変である場合、第2表示領域に、断層撮影法により撮影され、かつ第1の方向に沿って並べられた画像群の内の他の複数の医用画像を表示させる。また、選択された1つの類似医用画像が限局性病変である場合、第2表示領域に、断層撮影法により撮影され、かつ第1の方向に沿って並べられた画像群の内から限局性病変を含む複数の医用画像を第1の方向に沿って連続的に表示させる。これにより、医師に対して、病名を特定するために必要な情報である類似医用画像を効果的かつ効率的に提示することができる。
また、上記態様において、
前記選択された1つの類似医用画像が限局性病変である場合、前記第2表示領域に、前記第1の方向に沿って並べられた画像群の内の前記限局性病変の一端から他端までを含む複数の医用画像を前記第1の方向に沿って連続的に表示させてもよい。
本態様によると、限局性病変の一端から他端までを含む複数の医用画像を、第1の方向に沿って連続的に表示させる。そのため、医師は、限局性病変の一端から他端までが血管の方向に沿って3次元的にどのような形状で広がっているのかを確認することができ、診断の精度を向上させることができる。
また、上記態様において、
前記選択された1つの類似医用画像が限局性病変である場合、前記第2表示領域に、前記第1の方向に沿って並べられた画像群の内の前記選択された1つの類似医用画像を含む前後所定数の医用画像を前記第1の方向に沿って連続的に表示させてもよい。
本態様によると、第1の方向に沿って並べられた画像群の内の選択された1つの類似医用画像を含む前後所定数の医用画像を、第1の方向に沿って連続的に表示させる。選択された1つの類似医用画像の前後所定数の医用画像を表示すれば、限局性病変が血管の方向に沿って3次元的にどのような形状で広がっているのかを十分に確認することができる。また、予め限局性病変を含む医用画像を設定しておく必要がなく、類似医用画像の付加情報の作成負担が少なくて済む。
また、上記態様において、
前記類似医用画像は、肺の医用画像であり、
前記限局性病変の識別情報が設定されている対応情報には、さらに、前記限局性病変が上葉、中葉、又は下葉の内いずれの肺野に存在するかを示す情報が付加されており、
前記選択された1つの類似医用画像を含む前後所定数は、前記上葉、前記中葉、又は前記下葉毎にそれぞれ設定されていてもよい。
限局性病変が肺野を跨ぐことは稀であるので、医用画像は、限局性病変が存在する各肺野内について連続的に表示されれば十分である。本態様では、選択された1つの類似医用画像を含む肺野内で医用画像が連続表示される。そのため、本態様は、連続的に表示される医用画像の閲覧時間を減少させることができ、ユーザにより効率的に医用画像を提示することができる。
また、上記態様において、
前記類似医用画像は、肺の医用画像であり、
前記びまん性病変の識別情報が設定されている対応情報には、さらに、上葉、中葉、及び下葉のそれぞれの代表的な医用画像を示す情報が付加されており、
前記選択された1つの類似医用画像がびまん性病変である場合、前記第2表示領域に、前記上葉、前記中葉、及び下葉の代表的な医用画像を表示させてもよい。
肺の病変を全体的に把握する場合、上葉、中葉、及び下葉が最小単位となる。びまん性病変は肺全体に広がる病変のため、各肺野の代表的な医用画像を見れば十分である。本態様では、選択された1つの類似医用画像がびまん性病変である場合、第2表示領域には、第1の方向に沿って並べられた画像群の内、前記上葉、前記中葉、及び下葉の代表的な医用画像が表示される。これにより、より効率的に医用画像を提示することができる。
また、上記態様において、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記読影対象の医用画像の中の関心領域を示す指定情報を検知させ、
前記関心領域の特徴量を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させてもよい。
また、上記態様において、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す指定情報を検知させ、
前記対象医用画像及び前記指定情報を前記症例検索システムに送信させ、
前記対象医用画像及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させてもよい。
また、上記態様において、
前記対象医用画像は、肺の医用画像であり、
前記類似医用画像の中の病変部を示す対応関心領域を有し、
前記表示画面は、
前記対応関心領域の大きさが肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前
記選択された一の分布情報に対応する類似医用画像を選択して前記第1表示領域に表示させてもよい。
本態様によると、前記第1表示領域に表示された複数の類似医用画像を、さらに、前記対応関心領域の分布類型に基づいて仕分けできる。これにより、例えば、多数表示された類似医用画像の中から、病変部の分布が対象医用画像に類似した類似医用画像を、効率的に選択できる。
また、上記態様において、
前記第1表示領域は、前記受信した複数の類似医用画像をそれぞれ表示するための複数の個別領域を含み、
前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、前記個別領域に初期表示サイズにてそれぞれ表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、前記個別領域にそれぞれ拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、前記個別領域にそれぞれ拡大表示させてもよい。
本態様によると、前記対応関心領域の分布類型に基づいて類似医用画像を仕分けした際、単に仕分けするのみならず、前記分布類型に応じた表示をする。これにより、医師は、前記対応関心領域の分布類型に基づいて類似医用画像を仕分けし、その後、前記分布類型に応じて類似医用画像を拡大し若しくは前記対応関心領域を中心にする処理等を別途行う必要がない。そのため、前記対応関心領域の分布類型に基づいて仕分けされたとは言え、その次に、前記仕分けされた多数の類似医用画像の一つ一つに対して同様の操作を繰り返し行う煩雑さを大幅に軽減できる。その結果、診療判断に向けられるべき医師の思考若しくは医師の集中力が操作の煩雑さにより中断されるのを大幅に軽減し、医師の思考若しくは医師の集中力を本来の診療判断に向けることができる。このため、診療判断の精度の向上を図ることができる。
また、上記態様において、
前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報であってもよい。
本態様によると、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布の場合は類似医用画像が初期表示サイズで表示され、区域性又は気道性のカテゴリーに属する分布の場合は類似医用画像が拡大表示され、胸膜下のカテゴリーに属する分布の場合は胸膜を含んだ状態で類似医用画像が拡大表示される。
両側性、多発性、びまん性又は血行性のカテゴリーに属する分布の場合は、肺全体に病変部が広がっている可能性又は肺の広範囲に病変部が生じている可能性が高いため、類似医用画像を初期表示サイズ、即ち、拡大させることなく表示させたいという医学的見地に基づくニーズが存在する。一方、区域性又は気道性のカテゴリーに属する分布の場合は、上述のような可能性が低い。そのため、区域性又は気道性のカテゴリーに属する分布を選択することにより類似医用を拡大表示させることで、拡大表示させるという1工程を省略させ、医師の集中力が中断されることを防止できる。また、胸膜下のカテゴリーに属する分布の場合は、胸膜と病変部との位置関係が診断においては重要な指標となるため、胸膜
を含んだ状態で類似医用画像を拡大表示させたいという医学的見地に基づくニーズが存在する。
(実施の形態)
以下本開示の一実施の形態について、図面を参照しながら説明する。なお、各図面において、同じ構成要素については同じ符号が用いられている。
図1は、本実施の形態における情報端末が適用された病院情報システムの全体構成図である。図1に示すように、病院情報システムは、情報端末100、医用情報管理システム200、及び症例検索システム300を備えている。
情報端末100、医用情報管理システム200、及び症例検索システム300はネットワーク400を介して相互に通信可能に接続されている。
なお、医用情報管理システム200及び症例検索システム300は必ずしも病院の中に配置される必要はなく、病院外のデータセンター、プライベートクラウドサーバ、パブリッククラウドサーバ等の上で動作するソフトウェアであってもよい。医用情報管理システム200及び症例検索システム300が病院内に設置されている場合、ネットワーク400としては、ローカルエリアネットワークが採用できる。ローカルネットワークとしては、IEEE802.3シリーズの有線LAN、IEEE802.11シリーズの無線LAN、或いは両者が混在するネットワークが採用できる。医用情報管理システム200及び症例検索システム300が病院外のサーバを用いて実現される場合、ネットワーク400としては、インターネットが採用できる。
情報端末100としては、パーソナルコンピュータやタブレット端末等の情報端末が採用される。医用情報管理システム200としては、PACS(Picture Archiving and Communication Systems)や電子カルテシステム等が採用される。
図2は、情報端末100、医用情報管理システム200、および症例検索システム300の構成を示すブロック図である。図2に示すように、情報端末100は、ディスプレイ101、操作部102、入力制御部103、表示制御部104、ROI管理部105、表示ボックス管理部106、病名リスト管理部108、分布リスト管理部109、通信制御部110、ボックスレイアウト管理部111、及び要約画像生成部112を備える。
ディスプレイ101は、例えば、液晶モニタにより構成され、診断対象となる医用画像及びカルテ画像を表示すると共に、診断結果を記入するためのレポート入力画像等を表示する。なお、ディスプレイ101は最低1台必要だが、通常、画像診断においては2〜3台のディスプレイ101が用いられる。本実施の形態では2台のディスプレイ101が用いられ、一方のディスプレイ101をディスプレイ101aとし、他方のディスプレイ101をディスプレイ101bとする(図3参照)。
また、ディスプレイ101aの表示画面は第2表示画面の一例であり、ディスプレイ101bの表示画面は第1表示画面の一例である。図3は、2台のディスプレイ101a、101bの外観図である。図3では、ディスプレイ101aには、4つの医用画像ビューワが2行2列の配置で表示されており、ディスプレイ101bには症例検索システム300の画面が表示されている。なお、ディスプレイ101を1台とした場合、第1表示画面及び第2表示画面は1台のディスプレイ101の表示画面上に領域を分けて表示される。操作部102は、例えば、キーボード及びマウスを含み、情報端末100に対してユーザにより入力される種々の操作を受け付ける。例えば、操作部102は、ディスプレイ10
1に表示される医用画像及びカルテ画像に対するユーザからの操作、並びにレポート入力画面に対して診断結果を入力する操作等を受け付ける。
入力制御部103は、操作部102へのユーザの操作を検知すると、その操作の内容を解釈し、他の構成要素に操作内容を通知する。例えば、入力制御部103は、操作部102としてのマウスから出力される座標データからディスプレイ101上におけるマウスポインタの位置を検知し、ディスプレイ101上にマウスポインタを表示させる。そして、入力制御部103は、マウスがクリックされたことを検知したときにマウスポインタの表示位置に表示制御部104で生成されたGUI部品(例えば、GUIボタン)が表示されていれば、そのGUIをユーザが選択したと判定し、他の構成要素にそのGUI部品がユーザにより選択されたことを通知する。
表示制御部104は、情報端末100のGUI(Graphical User Interface)を生成し、ディスプレイ101に表示させる。
ROI管理部105は、類似症例検索を行う際に、後述する検索クエリ画像に対して設定される関心領域(Region Of Interest)を示す関心領域情報を生成してメモリに格納し、関心領域情報を管理する。
表示ボックス管理部106は、後述する表示ボックス管理情報4410(図37)をメモリに格納し、表示ボックス管理情報4410を管理する。
病名リスト管理部108は、症例表示領域710(図6)に表示された類似症例の病名リスト(図30)を生成してメモリに格納し、病名リストを管理する。
分布リスト管理部109は、症例表示領域710に表示された類似症例の病変分布を示す分布リスト(図35)を生成してメモリに格納し、分布リストを管理する。
通信制御部110は、例えば、情報端末100をネットワーク400に接続するための通信装置を含み、情報端末100及び医用情報管理システム200間の通信や、情報端末100及び症例検索システム300間の通信を制御する。また、通信制御部110は、他のブロックから種々のデータの送信依頼を受け付けて、医用情報管理システム200又は症例検索システム300に送信すると共に、医用情報管理システム200又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
ボックスレイアウト管理部111は、後述するレイアウト管理情報4200(図36)を生成してメモリに格納し、レイアウト管理情報4200を管理する。
要約画像生成部112は、症例表示領域710に表示されたサムネイル画像の中から1つのサムネイル画像を選択する操作を入力制御部103が検知した場合、選択されたサムネイル画像の類似症例データ4000を参照し、選択されたサムネイル画像が限局性病変であるかびまん性病変であるかを判定する。そして、要約画像生成部112は、限局性病変であると判定した場合、限局性病変の要約画像として、連続フレーム画像717(図51)を生成する。一方、要約画像生成部112は、びまん性病変であると判定した場合、びまん性病変の要約画像として、代表画像718(図52)を生成する。
なお、図51、図52は同一の類似症例を用いて図示しているが、これは表示の違いを分かり易くするためである。
図2に示すように、医用情報管理システム200は、患者情報蓄積部201、患者情報
管理部202、医用画像データ蓄積部203、医用画像データ管理部204、診断レポート管理部205、及び通信制御部206を備える。
患者情報蓄積部201は、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録された患者情報1000(図16)を蓄積する。
患者情報管理部202は、患者情報蓄積部201に蓄積された患者情報1000(図16)に対して、ユーザから入力されたデータを登録して患者情報1000を更新する処理、及び患者情報1000を表示制御部104に出力する処理等を実行し、患者情報1000を管理する。医用画像データ蓄積部203は、患者の検査画像である医用画像データを蓄積する。
医用画像データ管理部204は、医用画像データを医用画像データ蓄積部203に蓄積し、医用画像データを管理する。
診断レポート管理部205は、患者に対して行われた各検査に対する医師による診断結果を示す診断レポート3000(図19)を管理する。
通信制御部206は、例えば、医用情報管理システム200をネットワーク400に接続するための通信装置を含み、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は症例検索システム300に送信すると共に、情報端末100又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
図2に示すように、症例検索システム300は、類似症例データ蓄積部301、画像特徴抽出部302、類似症例検索部303、及び通信制御部304を備える。
類似症例データ蓄積部301は、予め、医用情報管理システム200に管理されている類似症例のうち、類似症例検索の対象データとして選定された多数の類似症例から抽出された画像特徴や、生成されたサムネイル画像等が登録された類似症例データ4000(図20等)を蓄積する。
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報の画像特徴を抽出する。なお、関心領域情報は、関心領域を示す指定情報の一例である。
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された1以上の類似症例の画像特徴とをそれぞれ比較することで類似症例検索結果を生成する。
通信制御部304は、例えば、症例検索システム300をネットワーク400に接続させる通信装置で構成され、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は医用情報管理システム200に送信すると共に、情報端末100又は医用情報管理システム200から送信されたデータを受信し、該当するブロックに渡す。
図4は、情報端末100の実装形態の構成例を示す図である。図4に示すように、情報端末100は、アプリケーション501、OS(Operating System)502、メモリ503、及び図示しないその他のハードウェアを備えている。
アプリケーション501は、パーソナルコンピュータやタブレット端末を情報端末100として機能させるためのアプリケーションソフトウェアであり、情報端末100のプロ
セッサにより実行される。情報端末100は、コンピュータ読み取り可能な記録媒体からアプリケーション501を読み出してアプリケーション501を実装してもよいし、ネットワークからダウンロードすることでアプリケーション501を実装してもよい。
ここで、アプリケーション501は、医用情報管理アプリケーション及び類似症例検索アプリケーションを含む。医用情報管理アプリケーションは、情報端末100を医用情報管理システム200と連携させるためのアプリケーションであり、類似症例検索アプリケーションは、情報端末100を症例検索システム300と連携させるためのアプリケーションである。そして、両アプリケーションは、相互にデータを送受し、情報端末100において、医用情報管理システム200及び症例検索システム300が提供するサービスを統合させる。
OS502は、情報端末100の基本ソフトウェアであり、情報端末100のプロセッサにより実行される。メモリ503は、情報端末100が備えるRAM、ROM等の記憶装置により構成され、アプリケーション501に含まれるデータ群を記憶する。
情報端末100のプロセッサがアプリケーション501を実行することで、図2に示す入力制御部103、表示制御部104、ROI管理部105、表示ボックス管理部106、病名リスト管理部108、分布リスト管理部109、通信制御部110、及びボックスレイアウト管理部111の機能が実現される。
但し、本実施の形態では、情報端末100は、アプリケーション501のみ単独で実装されてもよいし、アプリケーション501及びOS502で実装されてもよいし、アプリケーション501、OS502、及びメモリ503で実装されてもよいし、アプリケーション501、OS502、メモリ503、及びその他の図示しないハードウェアで実装されてもよい。いずれの実装形態においても本実施の形態の情報端末100を実現することは可能である。
図5は、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101aに表示される基本画面K1の一例を示す図である。図5に示す基本画面K1は、4つの医用画像ビューワ610〜640で構成されている。医用画像は、通常、DICOM(Digital Imaging and Communication in
Medicine)フォーマットで記録されており、医用画像ビューワ610〜640はDICOMを扱えるビューワである。本実施の形態で扱う医用画像は、DICOMフォーマットの多数の断層画像(以下、スライス画像と呼ぶ。)で構成される胸部CT画像とする。但し、これは一例に過ぎず、他の部位(例えば、頭部、腹部、脚、或いは腕)のCT画像が採用されてもよい。
医用画像ビューワ610〜640に表示された胸部CT画像は、マウスやキーボードの操作により、スライス画像が切り替えられる。ここで、胸部CT画像を構成するスライス画像は、例えば、首側から腹側に向かう順番に配置されている。
例えば、医用画像ビューワ610上にマウスポインタが位置決めされ、マウスホイールの回転が入力制御部103で検知されると、表示制御部104は、検知された回転量に応じて医用画像ビューワ610に表示されているスライス画像を切り替える。ここで、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの後方側に1クリック分回転されると、表示中のスライス画像を次のスライス位置のスライス画像に切り替える。一方、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの前方側に1クリック分回転されると、表示中のスライス画像をスライス位置が1つ前のスライス画像に切り替える。よって、医師等のユーザはマ
ウスホイールを前方側又は後方側に回転させながら、医用画像ビューワ610に表示されるスライス画像を適宜切り替え、所望のスライス画像を探索する。
なお、医用画像としては、胸部CT画像に代えて、MRI(Magnetic Resonance Imaging)画像や単純X線画像が採用されてもよい。また、図5の例では、医用画像ビューワの個数は4個とされているが、これは一例にすぎず、6個や8個等別の個数が採用されてもよい。医用画像ビューワの個数が多くなると同時に比較できる画像が増えるが、1画像当たりの表示面積が狭くなる。そのため、この個数はディスプレイ101aの表示サイズに応じて適宜変更可能な構成を採用すればよい。ここでは、医用画像ビューワの個数は、ユーザ又は管理者が自由に変更できるものとする。
類似症例検索アプリケーションが起動される前には、ディスプレイ101aの全域には、ある患者の胸部CT画像のスライス画像が表示されている。そして、この状態で、読影者等のユーザにより類似症例検索アプリケーションが起動されると医用画像ビューワ610には、ディスプレイ101aの全域に表示されていたスライス画像が表示される。
つまり、医用画像ビューワ610には、ユーザが類似症例検索アプリケーションを起動させたときに、ディスプレイ101aの全域に表示されていた検索クエリ画像が初期表示される。なお、表示制御部104は、検索クエリ画像上に類似症例検索を行う対象の関心領域(ROI:Region Of Interest)を重畳表示してもよい。検索クエリ画像は読影対象の医用画像である対象医用画像の一例である。
図5では、他の医用画像ビューワ620〜640には何の画像も表示されていないが、診断対象となる患者の検査画像が複数あり、類似症例検索アプリケーションが起動される前に、ディスプレイ101aに複数の検査画像が表示されていた場合、表示制御部104は、医用画像ビューワ620〜640にこれら複数の検査画像をそのまま表示すればよい。
図6は、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101bに表示される基本画面K2の一例を示す図である。図6に示す基本画面K2は、症例表示領域710、レイアウト領域720、病名リスト表示領域730、及び分布リスト表示領域750を備える。
症例表示領域710は、検索クエリ画像に類似した類似症例のサムネイル画像を類似度順に表示する領域である。ここで、類似症例のサムネイル画像は、類似医用画像の一例である。また、症例表示領域710は、第1表示領域の一例である。
症例表示領域710には多数の類似症例が表示されるため、解像度や画素値の変換をその場で行うと処理に時間がかかってしまう。よって、サムネイル画像は、オリジナルのスライス画像から予め作成され、症例検索システム300に保存されている。
以下、解像度や画素値の変換について少し補足する。オリジナルのスライス画像の解像度は512×512画素であるが、サムネイル画像はより低解像であるため、解像度変換を行う必要がある。そこで、サムネイル画像は、元となるスライス画像に対して低解像度処理及び階調変換処理が行われて生成される。
階調変換処理は例えば、下記のように行われる。CTで取得したスライス画像は各画素値(CT値)が−1000〜+1000(単位HU:Hounsfield Unit)の2000階調の値をとり、そのままでは通常の8ビット階調のディスプレイに表示できない。また、表示できたとしても、2000階調の中で、肺気腫領域(CT値:−100
0HU)、肺野の正常組織(CT値:約−900HU)、すりガラス領域(CT値:−800HU)、軟部組織(CT値:−100〜−50HU)、水(CT値:0HU)、及び骨(CT値:1000HU)を人間が肉眼で区別することは難しい。
よって、通常、スライス画像は、各画素値に対してウィンドウレベル及びウィンドウ幅が設定され、8ビットの画素値に再構成されて、ディスプレイに表示される。ここで、ウは、ウィンドウの中心となるCT値を示し、ウィンドウ幅は、ウィンドウ中心の上下の幅を示す。
例えば、肺野条件でDICOM画像が再構成される場合、ウィンドウレベルが−550〜−800に設定され、ウィンドウ幅が1000〜1600に設定される。したがって、サムネイル画像も、元となるスライス画像から上記の処理によって画素値が8ビットに落とされることで生成される。
なお、症例表示領域710に表示されるサムネイル画像は、診断対象症例の特徴ベクトルに対する距離が所定の閾値以下の類似症例を示すサムネイル画像である。ここでは距離としては、例えば、ユークリッド距離が用いられる。なお、距離としては、市街地距離等の別の距離尺度が採用されてもよい。比較対象となる2つの画像は、距離が近いほど類似している。また、特徴ベクトルは、サムネイル画像から得られたものではなく、元画像であるスライス画像から得られたものが採用される。
図7は、症例表示領域710に表示されるある1つの類似症例の表示領域(個別領域の一例)を取り出して示した図である。類似症例の表示領域には、サムネイル画像が表示されており、このサムネイル画像の下部には、確定診断病名表示領域711及び距離表示領域712が配置されている。確定診断病名表示領域711には、対象となる類似症例の確定診断病名が表示される。確定診断病名とは、対象となる類似症例に対して診断が確定された病名を指す。距離表示領域712には、対象となる類似症例のスライス画像の特徴ベクトルと、検索クエリ画像の特徴ベクトルとの距離が表示される。図7の例では、確定診断病名表示領域711には、「非結核性抗酸菌症」と表示されているため、このサムネイル画像は「非結核性抗酸菌症」と確定診断がされた類似症例のサムネイル画像を示す。また、距離表示領域712には、「0.05」と表示されているため、この類似症例のスライス画像と検索クエリ画像との距離が「0.05」であることが示されている。
(症例表示領域710)
症例表示領域710において類似症例のサムネイル画像を指定する操作を入力制御部103が検知すると、表示制御部104は、指定されたサムネイル画像を含むシリーズの中から指定されたサムネイル画像に対応する要約画像を表示する。図50は、類似症例検索直後の基本画面K2において、ユーザがサムネイル画像を選択した状態の一例を示す図である。
図50の例では、1行2列目の原発性肺癌の類似症例のサムネイル画像716にカーソルが位置決めされ、このサムネイル画像716がユーザにより選択されていることが分かる。ここで、入力制御部103は、サムネイル画像716の領域内にマウスが位置決めされ、クリック或いはダブルクリックする操作を検知した場合に、サムネイル画像716が選択されたと判定すればよい。或いは、入力制御部103は、キーボードの方向キーを操作することでカーソルがサムネイル画像716の領域内に位置決めされ、キーボードのエンターキーが押された場合に、サムネイル画像716が選択されたと判定してもよい。
そして、表示制御部104は、ユーザにより選択されたサムネイル画像716が限局性病変であると判定した場合、表示制御部104は、図51に示すように、サムネイル画像
716の表示領域716a内に、連続フレーム画像717を動画表示する。この場合、連続フレーム画像717が要約画像として表示される。
図51は、ユーザにより選択されたサムネイル画像716が限局性病変である場合の基本画面K2の一例を示す図である。ここで、連続フレーム画像717は、サムネイル画像716を含むシリーズにおいて、サムネイル画像716を含む前後に連続する所定数のサムネイル画像F1〜F5で構成される。図51の例では、連続フレーム画像717は、サムネイル画像716(F3)を中心に前2フレームのサムネイル画像F1,F2と、後2フレームのサムネイル画像F4,F5との合計5フレームのサムネイル画像で構成されている。そして、これら5つのサムネイル画像F1〜F5が所定のフレームレートでF1からF5の順番で、サムネイル画像716の表示領域に表示される。なお、図51では、連続フレーム画像717は5つのサムネイル画像F1〜F5で構成されているが、これは一例である。連続フレーム画像717は、5つより大きな個数のサムネイル画像で構成されてもよいし、2つ以上4つ以下のサムネイル画像で構成されてもよい。図51に示すように、選択されたサムネイル画像716が限局性病変の場合、サムネイル画像716の表示領域716aが第2表示領域の一例を構成する。
一方、ユーザにより選択されたサムネイル画像716がびまん性病変であると判定すると、表示制御部104は、図52に示すように、サムネイル画像716が示す器官を構成する複数の領域の代表画像718を、領域毎に1つずつ一覧表示する。図52は、ユーザにより選択されたサムネイル画像716がびまん性病変である場合の基本画面K2の一例を示す図である。図52の例では、サムネイル画像716は、肺の画像である。肺は上葉、中葉、及び下葉の3つの領域で構成される。したがって、表示制御部104は、上葉、中葉、及び下葉の3つの代表画像718を一覧表示する。この場合、代表画像718は要約画像を構成する。
図52の例では、3枚の代表画像718は、要約領域719内に一覧表示されている。ここで、要約領域719は、サムネイル画像716の表示領域716aの下側において、症例表示領域710にオーバラップ表示されている。要約領域719は、器官内の各領域の名称を示す名称表示欄718a(上葉、中葉、下葉)と、名称表示欄718aの下側に配置された代表画像718とを備える。なお、図52の例では、要約領域719は、代表画像718を横一列で配置するが、これは一例であり、縦一例で配置してもよい。図52に示すように、選択されたサムネイル画像716がびまん性病変の場合、要約領域719が第2表示領域の一例を構成する。なお、連続フレーム画像717および代表画像718の生成方法については後述する。
このように、表示制御部104は、選択されたサムネイル画像716が限局性病変かびまん性病変であるかに応じて提示する要約画像を切り替える。その結果、医用画像データベース2000に登録された膨大な症例の中から、読影対象の医用画像を診断する上で参考となる類似症例のサムネイル画像を効果的に医師に提示できる。よって、本開示は、医師の診断精度の向上に寄与できる。
図6に参照を戻す。基本画面K2の例えば左上には、検索結果件数表示領域713が配置されている。検索結果件数表示領域713には、検索処理の結果、症例検索システム300から取得された、診断対象症例に類似する類似症例の数が表示される。
なお、類似症例の数が膨大である場合、症例表示領域710は全ての類似症例を一度に表示することができない。そこで、症例表示領域710の例えば右側には、上下方向に長尺のスクロールバー715が設けられている。表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を上下方向
にスクロール表示させる。これにより、ユーザは、非表示状態にあった類似症例を症例表示領域710に表示させ、その類似症例を観察できる。
なお、スクロールバー715は左右方向に長尺であってもよい。この場合、表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を左右方向にスクロール表示させればよい。或いは、症例表示領域710にマウスポインタが位置決めされた状態で、キーボードの方向キーが押されると、表示制御部104は、キーが押されている間、押されているキーの方向に症例表示領域710内に表示されているサムネイル画像をスクロール表示させてもよい。
なお、情報端末100は、検索クエリ画像との距離が所定の閾値以下のサムネイル画像を症例検索システム300から取得するとしたが、これは一例に過ぎない。例えば、情報端末100は、類似度が高い順に、常に一定数のサムネイル画像を症例検索システム300から取得してもよい。或いは、情報端末100は、常にある確定診断病名のサムネイル画像が一定数含まれるようにサムネイル画像を症例検索システム300から取得してもよい。
なお、症例表示領域710におけるサムネイル画像の表示手法としては、例えば、最上段の行の左端に検索クエリ画像との距離が最短のサムネイル画像を表示し、右側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一行の右端に達すると上から2行目の左端に次に距離が大きいサムネイル画像を表示するという表示手法が採用できる。つまり、症例表示領域710において、左上から右下に向けて蛇行するように距離が小さい順にサムネイル画像を表示するという表示手法が採用できる。
もちろん、本実施の形態は別の表示手法が採用されてもよい。例えば、左から1列目の上端に距離が最短のサムネイル画像を表示し、下側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一列の下端に達すると、左から2列目の上端に次に距離が大きいサムネイル画像を表示するという表示手法が採用されてもよい。また、これら複数の表示手法をユーザが切り替え可能な構成が採用されてもよい。
また、上記の例では、類似度として距離が採用されたが、コサイン類似度のような画像同士の類似性を示す指標であればどのような指標が採用されてもよい。コサイン類似度が採用された場合、値が1に近づくにつれて比較対象となる2つの画像の類似性が高くなる。
なお、詳細は後述するが、症例表示領域710に表示する類似症例は、病名リスト表示領域730に表示された病名や、分布リスト表示領域750に表示された病変分布で絞り込むことができる。現在設定されている類似症例の絞込条件は、表示条件表示領域714に表示される。図6の例では、類似症例検索直後の状態であり、何も絞り込みがなされていないため、表示条件表示領域714には「全疾患」と表示されている。
レイアウト領域720は、例えば、図6に示す基本画面K2の左下に配置されている。そして、レイアウト領域720は、症例表示領域710に表示された類似症例サムネイル画像のうちユーザが詳細に観察したい画像を、ディスプレイ101aの医用画像ビューワに表示させるために用いられる。図5に示す通り、ディスプレイ101aには4つの医用画像ビューワ610〜640が2行2列で表示されている。また、レイアウト領域720には、2行2列で4つの表示ボックス721〜724が存在する。このように、ディスプレイ101aに表示される医用画像ビューワ610〜640の数及び配置と、レイアウト領域720における表示ボックス721〜724の数及び配置とは揃えられている。図5に示す通り、医用画像ビューワ610に、検索クエリ画像が表示されているのに合わせ、
表示ボックス721には、検索クエリ画像のサムネイル画像が初期表示される。
他の表示ボックス722〜724には、医用画像ビューワ620〜640と連動させて類似症例のサムネイル画像が表示される。つまり、入力制御部103が表示ボックス722〜724のいずれか1の表示ボックスに症例表示領域710に表示された1のサムネイル画像のドラッグアンドドロップを検知すると、表示制御部104はその表示ボックスに1のサムネイル画像を表示させると共に、その表示ボックスに対応する医用画像ビューワにそのサムネイル画像に対応するスライス画像を表示する。このように、医用画像ビューワ610〜640は、表示ボックス721〜724と1対1で対応付けられている。
図6の例では、表示ボックス722〜724は空白であるため、図5に示す医用画像ビューワ620〜640も空白になっている。なお、類似症例を表示する表示ボックス722〜724は、第2表示ボックスの一例である。
ユーザは、マウスをドラッグアンドドロップすることで、詳細に観察したいサムネイル画像を、症例表示領域710からレイアウト領域720に移動させる。例えば、ユーザが表示ボックス722にサムネイル画像を移動させたとすると、表示ボックス722に対応する医用画像ビューワ620には、このサムネイル画像に対応するスライス画像が表示される。同様に、ユーザが表示ボックス723にサムネイル画像を移動させたとすると、表示ボックス723に対応する医用画像ビューワ630には、このサムネイル画像に対応するスライス画像が表示される。すなわち、表示ボックス721〜724のうち任意の表示ボックスにサムネイル画像を移動させると、検索クエリ画像のサムネイル画像に隣接して類似症例のサムネイル画像が表示される。そのため、ユーザはサムネイル画像のレベルで診断対象症例と類似症例との対比ができ、両症例の類似性を速やかに判断できる。つまり、サムネイル画像は、スライス画像に比べて情報量が少ないため、ユーザは、レイアウト領域720において隣接配置された診断対象症例と類似症例とがどの程度類しているかのおよその検討をつけることができる。そのため、ユーザは、症例表示領域710に表示された多数の類似症例の中から、対象診断症例との比較をスライス画像のレベルで詳細に行う必要がある類似症例の最終候補の絞り込みを効率良く行うことができる。
同様に、ディスプレイ101aにも、レイアウト領域720と同じ配置関係で検索クエリ画像及び類似症例のスライス画像が表示される。そのため、レイアウト領域720において最終候補となる類似症例を絞り込む作業が終了すると、何らの操作を入力しなくても、ディスプレイ101aには、診断対象症例と最終候補として絞り込んだ類似症例とがスライス画像のレベルで表示されている。そのため、ユーザは対象診断と最終候補の類似症例とを詳細に読影するという次の作業ステップに円滑に移行できる。
図6に示す基本画面K2の左側の上段には、「病名リスト」との見出しが付けられた病名リスト表示領域730が配置されている。病名リスト表示領域730には、類似症例の検索結果として取得された全ての類似症例の確定診断病名が表示される。診断対象症例は、診断が終了して確定診断病名が付与された後、類似症例として、症例検索システム300に蓄積される。したがって、各類似症例には、それぞれ、診断によって付与された確定診断病名が予め付与されている。
図8は、病名リスト表示領域730の拡大図である。図8では、確定診断病名は、大分類病名(731、734、737、741、744)と詳細分類病名(732、733、735、736、738、739、740、742、743、745)とに分けて表示されている。図8の例では、大分類病名として、真菌症731(mycosis)、腫瘍性734(neoplastic)、非腫瘍性737(nonneoplastic)、ミコバクテリア症741(mycobacteriosis)、及びその他744が表示さ
れている。
また、図8の例では、真菌症731の詳細分類病名として、アスペルギルス症732(aspergillosis)、クリプトコッカス症733(cryptococcosis)が表示されている。また、腫瘍性734の詳細分類病名として、原発性肺癌735(lung cancer)、転移性肺癌736(metastatic lung cancer)が表示されている。また、非腫瘍性737の詳細分類病名として、肺膿瘍738(lung abscess)、サルコイドーシス739(sarcoidosis)、敗血性塞栓740(septic emboli)が表示されている。また、ミコバクテリア症741の詳細分類病名として、非結核性抗酸菌症742(NTM:nontuberculous mycobacteria)、肺結核743(tuberculosis)が表示されている。また、その他744の詳細分類病名として気管支拡張症745(bronchiectasis)が表示されている。
また、大分類病名及び詳細分類病名の横には、その病名の症例数が表示されている。ユーザは、この病名リスト表示領域730における大分類病名または詳細分類病名の任意の行を選択することで、症例表示領域710に表示される類似症例を絞り込むことができる。図6に示すように類似症例の検索直後の状態では、多様な疾患を含む62個の類似症例が表示対象になっているが、図8の真菌症731の行がマウスでクリックされた場合、表示制御部104は、図9に示すように真菌症の類似症例のみを症例表示領域710に表示する。また、図8の転移性肺癌736の行がマウスでクリックされた場合は、表示制御部104は、図10に示すように、転移性肺癌の類似症例のみを症例表示領域710に表示する。
この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例がどのような絞り込み条件であるが分かるように、表示条件表示領域714に、絞り込んだ病名を表示する。図9は、「真菌症」で類似症例が絞り込まれたときの基本画面K2を示す図である。図10は、「転移性肺癌」で類似症例が絞り込まれたときの基本画面K2を示す図である。
図9の例では、「真菌症」で絞り込みがかけられたため、表示条件表示領域714には「真菌症」と表示され、図10の例では「転移性肺癌」で絞り込みがかけられたため、表示条件表示領域714には「転移性肺癌」と表示されている。
また、この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例の件数が分かるように、検索結果件数表示領域713にその件数を表示する。図9の例では、「真菌症」に該当する類似症例は14件であったため、検索結果件数表示領域713には14件と表示され、図10の例では、「転移性肺癌」に該当する類似症例は3件であったため、検索結果件数表示領域713には3件と表示されている。
この機能により、画像診断の対象として医師が想定する病名のみの類似症例が症例表示領域710に表示され、医師は、診断対象症例が想定した病名と矛盾しないかどうかを容易に確認できる。
図6に示す基本画面K2の左側の中段には、「病変分布」との見出しが付けられた分布リスト表示領域750が配置されている。分布リスト表示領域750には、類似症例を検索した結果、症例検索システム300から取得された全ての類似症例の病変分布の種類が表示される。
図11は分布リスト表示領域750の拡大図である。図11の例では、7つの病変分布
の名称が表示されており、各病変分布の名称の左側にはチェックボックスが配置されている。図11の例では病変分布として、びまん性751(diffuse)、区域性752(segmental)、気道性753(bronchial)、両側性754(bilateral)、多発性755(multiple)、胸膜下756(subpleural)、及び血行性757(hematogenous)が表示されている。
これらの病変分布は予め定義されており、各類似症例には、予め、びまん性751〜血行性757のいずれに該当するか否かを示す分布フラグ値(該当:1、非該当:0)が付与されている。類似症例によっては、全ての分布フラグ値が非該当(:0)に設定されている場合もあれば、複数の分布フラグ値が該当(:1)に設定されている場合もある。
本実施の形態の症例検索システム300は、ユーザが診断対象症例のスライス画像に設定した関心領域に対し、類似する関心領域を持つ類似症例を検索する。ユーザが関心領域を設定したスライス画像以外にも、病変は存在することもある。そして、ユーザは関心領域を設定したスライス画像で類似症例を検索した後、そのスライス画像以外のスライス画像と、検索された類似症例とを比較したい場合もある。この場合、ユーザは、医用画像ビューワ610において、スライス送りの操作を入力して他のスライス画像を表示させ、検索された類似症例と比較する作業を行う。この場合、検索された全ての類似症例のうち注目する病変に関連する類似症例のみが症例表示領域710に表示されていれば、関心領域が設定されたスライス画像以外のスライス画像の中から所望の病変を持つスライス画像を抽出する作業をスムーズに行うことができる。そこで、本実施の形態では、この作業をよりスムーズに行うために、検索された類似症例を所望の病変分布で絞りこむ機能が設けられている。
本実施の形態では、肺野領域内での病変分布として、図11のびまん性751〜血行性757で示す病変分布が採用されている。また、図11のように、チェックボックス及び病名分布の名称について、表示制御部104は、絞り込みが可能な病変分布をアクティブ状態で表示し、絞り不可能な病変分布を非アクティブ状態で表示する。ここでは、アクティブ状態としては、輝度が非アクティブ状態に比べて高い状態が採用され、非アクティブ状態としては、輝度がアクティブ状態に比べて低い状態が採用されている。
図11の例では、びまん性751、気道性753〜多発性755、及び血行性757がアクティブ状態で表示され、区域性752及び胸膜下756は、非アクティブ状態で表示されている。これは、現在、類似症例検索によって取得された全ての類似症例のうち、少なくともいずれか1つの類似症例において、びまん性751、気道性753〜多発性755、及び血行性757の分布フラグ値が1(該当)に設定され、取得された全ての類似症例のうち、いずれの類似症例においても、区域性752及び胸膜下756の分布フラグ値が0(非該当)に設定されていたからである。
アクティブ状態のチェックボックスのうち、1以上のチェックボックスにチェックマークが入力されたことを入力制御部103が検知すると、表示制御部104は、チェックマークが入力された病変条件に該当する類似症例のみを症例表示領域710に表示させる。
なお、区域性752や胸膜下756については、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)に設定されている。そのため、区域性752や胸膜下756にチェックマークが入力可能な構成を採用すると、これらの病変分布にチェックマークを入力した場合、症例表示領域710には類似症例が何も表示されず、チェックマークを入力する意味が無くなってしまう。そこで、本実施の形態では、このような事態を避けるために、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)である病変分布は非アクティブ状態で表示する。
図12は、チェックマークが入力された分布リスト表示領域750を示す図である。図13は、気道性の病変分布で絞り込みがかけられた基本画面K2を示した図である。図12に示すように、気道性753のチェックボックスにチェックマークが入力された場合、表示制御部104は、図13に示すように、症例表示領域710に、気道性の病変分布を持つ類似症例のみを表示する。この例では、気道性の病変分布を持つ類似症例は17件であった。そのため、表示制御部104は、検索結果件数表示領域713に「17件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「気道性」とを表示する。図13の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
図14は、複数のチェックマークが入力された分布リスト表示領域750を示す図である。図15は、複数の病変分布で絞り込みがかけられた基本画面K2を示した図である。図14の例では、びまん性751と血行性757とにチェックマークが入力されている。そのため、表示制御部104は、図15に示すように、びまん性及び血行性の病変分布を持つ類似症例を症例表示領域710に表示する。この例では、びまん性及び血行性の病変分布を持つ類似症例は11件であった。そのため、表示制御部104は検索結果件数表示領域713に11件と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名(ここでは、病名による絞り込みがかけられていないため「全疾患」)と、病変分布の名称である「びまん性&血行性」とを表示している。
図16は、患者情報1000のデータ構成を示す図である。患者情報1000は、医用情報管理システム200における患者情報管理部202により、患者別に患者情報蓄積部201に蓄積されて管理される。患者情報1000には、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録されている。図16に示すように、患者情報1000は、患者ID1100、氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、主訴1700、検査情報1800、及び確定診断1900を備える。
患者ID1100は、患者に固有の識別子である。氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、及び主訴1700は、それぞれ、患者ID1100の患者の氏名、年齢、性別、既往歴、家族歴、及び主訴である。検査情報1800は、図17に示すように、当該患者が過去に受けた1以上の検査に関する情報を表す。
図17は、図16に示す患者情報1000に登録された検査情報1800のデータ構成を示す図である。検査情報1800は、患者に対して行われた検査に関する情報であり、1つの検査に対応して1つずつ作成される。検査情報1800は、検査ID1810、検査日時1820、検査種1830、及び検査結果1840を備える。検査ID1810は、検査に固有の識別子である。検査日時1820は、検査が行われた日時である。検査種1830は、検査の種類である。検査の種類としては、例えば、血液検査、呼吸機能検査、内視鏡検査、単純X線撮影、CT撮影等がある。
検査結果1840は、血液検査であれば、白血球数、LDH、及びGPT等各種指標の値が該当する。また、検査結果1840は、各種指標を基に医師が下した判断等も該当する。また、単純X線撮影やCT撮影等の画像検査であれば、撮影された画像へのポインタ情報や画像診断結果のレポートへのポインタ情報が含まれる。なお、検査で撮影された画像は、DICOMのフォーマットで医用情報管理システム200の医用画像データ蓄積部203に蓄積される。
また、検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、これらの医用画像データは医用情報管理システム200の医用画像データ蓄積部203が記憶する医用画像データベース2000に蓄積される。
図18Aは、医用画像データベース2000のデータ構成を示す図である。医用画像データベース2000は、検査ID1810及びシリーズID2100を持つ。1回の検査で、複数の種類の撮影(例えば、単純CTと造影CT等)が行われる場合があるので、1つの検査ID1810に対し、複数のシリーズID2100が対応付けられている場合もある。つまり、撮影の種類に応じた個数のシリーズが得られるのである。
また、シリーズは、撮影の種類以外にも、撮影された画像の再構成の条件毎に得られる。例えば、撮影された画像が肺野条件及び縦隔条件で再構成された場合、これらの条件毎に1つのシリーズが得られる。なお、肺野条件で再構成された画像は肺の中の血管、気管支、及び肺胞等が強調表示される。また、縦隔条件で再構成された画像は、血管やリンパ節等の縦隔が強調表示される。肺野条件及び縦隔条件は1度の撮影で得られた画像を再構成することで得られるため、単純CTと造影CTとで2度の撮影が行われ、これら2度の撮影のそれぞれにつき肺野条件及び縦隔条件で画像が再構成された場合、2つの肺野条件のシリーズが得られ、2つの縦隔条件のシリーズが得られる。
CT及びMRIの画像検査の場合、1回の撮影で複数のスライス画像が取得されるので、1つのシリーズID2100には、複数のスライスID2200が対応付けられている。図18Aの検査ID「13227989」には2つのシリーズID「CT149123」、「CT149124」が対応付けられているため、この検査から2つのシリーズのCT画像が得られたことが分かる。また、シリーズID「CT149123」、「CT149124」のそれぞれに対して、スライスID2200が複数対応付けられていることが分かる。
一つのシリーズIDに対応する複数のスライスIDは、スライスIDに含まれる数値が大きくなる従って、各スライスIDで特定されるスライス画像の断層面が患者の身体の一方向に移動するとしてもよい。例えば、一つのシリーズIDにおいてスライスIDの10個であり、スライスIDはそれぞれ、1、2、〜、10とする。この場合、スライスID=1で特定されるスライス画像は、10枚の画像のうち、患者の頭部の先端にもっと近い断層面での画像であり、スライスID=2で特定されるスライス画像は、10枚の画像のうち、患者の頭部の先端に2番目にもっと近い断層面での画像であり、・・・・スライスID=10で特定されるスライス画像は、10枚の画像のうち、患者の頭部の先端に10番目にもっと近い断層面での画像であってもよい。
図18Bに示すように、医用画像データベース2000は、各々のスライスIDに対応付けて、スライスIDで特定される検査で撮影されたDICOMフォーマットのスライス画像(画像値の集合)を記憶してもよい。
図18Cに示すように、医用画像データベース2000は、各々のスライスIDに対応付けて、スライスIDで特定される検査で撮影されたDICOMフォーマットのスライス画像のサムネイル画像(画素値の集合)を記憶してもよい。医用情報管理システム200がDICOMフォーマットのスライス画像のサムネイル画像を生成してもよい。DICOMフォーマットのスライス画像のサムネイル画像についは後述する。
検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、医用情報管理システム200における診断レポート管理部205には、図19に示すような診断レポート3000が蓄積される。診断レポート3000には、各検査に対する医師による診断結
果が登録されている。図19は、診断レポート3000のデータ構成を示す図である。
診断レポート3000は、検査ID1810、所見3100、及び診断3200を備える。検査ID1810は、図17で示した検査ID1810と同じである。これにより、診断レポート3000と検査情報1800とが対応付けられる。所見3100は、検査に対する医師の所見を示す文言が登録されている。診断3200は、検査に対する医師の診断を示す文言が登録されている。
図20は、びまん性の類似症例データ4000のデータ構成の第一例を示す図である。類似症例データ4000は、診断対象症例に対して類似する類似症例を検索する際に参照されるデータであり、1つの類似症例に対応して1つずつ作成されている。なお、類似症例データ4000は、類似症例データの付加情報の一例である。類似症例データ4000は、症例検索システム300の類似症例データ蓄積部301において、類似症例毎に蓄積されている。図20に示すように、類似症例データ4000は、類似症例ID4100、スライスID4200、関心領域情報4300、画像特徴データ4400、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、確定診断(詳細分類病名)4800、及び病変属性4900、及び要約画像4910を備える。
類似症例ID4100は、類似症例データ4000の識別子である。ここでは、類似症例のスライス画像に設定された関心領域毎に1つの類似症例データが生成されるため、類似症例ID4100は、関心領域の識別子とも言える。図20の例では、類似症例ID4100は、「SIM」とそれに続く番号とで構成される記号列で構成されている。
スライスID4200は、関心領域が設定されたスライス画像の識別子であり、図18Aに示すスライスID2200と同一である。関心領域情報4300は、スライス画像に設定された関心領域の位置を示す情報である。図22は、スライス画像に設定された関心領域を模式的に示した図である。図22の例では、関心領域は矩形状に設定されている。したがって、関心領域情報4300は、関心領域の左上の頂点の座標(xl、yt)と、右下の頂点の座標(xr、yb)との4値で構成される。もちろん、関心領域は矩形以外の形状でもよく、その場合は、領域を一意に特定可能なパラメータが関心領域情報4300として採用される。例えば、関心領域が円形であれば、円の中心座標と半径とが関心領域情報4300として採用される。
画像特徴データ4400は、関心領域情報4300で定義される関心領域から抽出された所定次元(ここではN次元)の特徴値である。サムネイル画像データ4500は、スライスIDで特定されるDICOMフォーマットのスライス画像を基に、症例表示領域710に表示するために生成されたサムネイル画像の画像データである。ここで、サムネイル画像データ4500は、例えば、サムネイル画像の左上の頂点から右下の頂点に向かうラスタ走査順にサムネイル画像の画素値が配置されている。先に説明を行ったが、CT検査で得られたDICOM画像は、512×512画素の11ビット(画素値:−1000〜+1000)画像である。そこで、本実施の形態では、サムネイル画像の表示を高速化するために、サムネイル画像の元となるDICOM画像に対して低解像度処理及び階調変換処理が行われて8ビットの画素値を持つサムネイル画像が予め作成され、類似症例データ4000に登録されている。なお、サムネイル画像の作成は、例えば、医用情報管理システム200が作成し、症例検索システム300に送信するようにしてもよいし、症例検索システム300が医用情報管理システム200からDICOM画像を取得して作成してもよい。
病変分布情報4600は、対象となる類似症例が予め定められたびまん性4610〜血行性4670で表される病変分布のいずれに該当するか否かを表す分布フラグ値(1:該
当、0:非該当)である。
確定診断(大分類病名)4700は、対象となる類似症例に対して確定された大分類病名である。確定診断(大分類病名)4700は、類似症例を大分類の病名で絞り込む際に使用される。
確定診断(詳細分類病名)4800は、対象となる類似症例に対して確定された詳細分類の病名である。確定診断(詳細分類病名)4800は、類似症例を小分類病名で絞り込む際に使用される。
予め、確定診断(大分類病名)4700は、確定診断(詳細分類病名)4800に対して一意に対応する大分類病名が定義されており、その対応関係を用いて類似症例データ4000に格納されている。
確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800は、以下のように登録される。医用画像データ蓄積部203において、図18Aに示すスライスID2200からシリーズID2100が特定される。そして、特定されたシリーズID2100から患者情報蓄積部201において、検査ID1810が特定され、検査ID1810から対応する患者情報1000(図16)が特定され、特定された患者情報1000から該当する患者の確定診断1900が特定される。そして、特定された確定診断が確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800に登録される。
病変属性4900は、対象となる類似症例が限局性病変かびまん性病変かを表す情報である。図20は、対象となる類似症例がびまん性病変なので、病変属性4900はびまん性が登録されている。
要約画像4910は、対象となる類似症例の要約画像のスライスIDが格納されている。図20は、対象となる類似症例がびまん性なので、要約画像4910には、上葉の代表画像のスライスID(CT149391007)、中葉の代表画像のスライスID(CT149391025)、及び下葉の代表画像のスライスID(CT149391043)が登録されている。また、図20の例では、対象となる類似症例は、中葉の類似症例であり、要約画像4910には、中葉の代表画像のスライスIDとして、スライスID4200に登録されたスライスIDと同じスライスID(CT149391025)が登録されているが、これは一例である。例えば、要約画像4910において、スライスID4200に登録されたスライスIDとは異なる中葉のスライスID(例えば、CT149391027)が登録されていてもよい。これにより、対象となる類似症例のサムネイル画像とは異なるサムネイル画像が要約画像として症例表示領域710に表示され、より多様な情報をユーザに提示できる。なお、図20の例では、要約画像4910は、上葉、中葉、下葉において1つずつスライスIDが登録されているが、これは一例である。例えば、上葉、中葉、及び下葉において2つ以上の代表画像718が表示されるのであれば、要約画像4910は、上葉、中葉、及び下葉のそれぞれにおいて2つ以上のスライスIDが登録されていればよい。
図21Aは限局性の類似症例データ4000のデータ構成の第一例を示す図である。図21Aは限局性の類似症例データ4000なので、それに応じて、確定診断4700、病変属性4900、及び要約画像4910に登録されている情報が図21と相違している。具体的には、図21Aでは、病変分布情報4600が、図21に対して、びまん性4610に「0」、血行性4670に「1」が登録されている。また、確定診断4700に「腫瘍性」、確定診断4800に「原発性肺癌」が登録されている。また、図21Aでは、病変属性4900に「限局性」が登録されている。また、図21Aでは、要約画像4910
に、スライスID4200に登録されているスライスID(CT149391025)と、このスライスIDを中心に連続する前2つのスライスID(CT149391023、CT149391024)と、後2つのスライスID(CT149391026、CT149391027)とが登録されている。なお、図21Aでは、要約画像4910には5つのスライスIDが登録されているが、これは一例にすぎず、連続フレーム画像717(図51)を構成するサムネイル画像の個数に応じて要約画像4910に登録されるスライス画像の個数は変動する。
図21Bは、限局性の類似症例データ4000のデータ構成の第二例を示す図である。図21Bの類似症例データ4000は、要約画像4910に代えて、領域4940を備えている点が図21Aと相違している。領域4940は、対象となる類似症例が器官のどの領域に属しているかを示す。図21Bの類似症例は、肺の中葉に属しているので、領域4940には、「中葉」が登録されている。図21Bの構成を採用した場合、スライスIDを記憶させる必要がないので、類似症例データ4000の作成が容易となる。
(画像選択−類似症例検索)
次に、情報端末100が医用情報管理システム200と症例検索システム300と連携して読影作業開始から類似症例検索を開始するまでの流れを説明する。
図23は、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300に対して類似症例検索の要求を行い、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。なお、図23において、シーケンス図の左側に示す2列の矩形は、該当するステップの処理によりディスプレイ101a、101bに表示される画面を示す。また、図23において、情報端末の「A」は、医用情報管理アプリケーションを示し、「B」は、類似症例検索アプリケーションを示す。このシーケンスが開始される前に医用情報管理アプリケーションは予め起動されているものとする。
まず、情報端末100は、操作部102を通してユーザ(読影を行う医師)の読影対象となる検査リストの表示要求を受け付け、入力制御部103及び通信制御部110を通して、医用情報管理システム200の通信制御部206へ検査リストの表示要求を送信する(S510)。
医用情報管理システム200の患者情報管理部202は、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成する。そして、患者情報管理部202は、通信制御部206を通して、生成した検査リストを情報端末100の通信制御部110に送信する(S520)。ここで、検査リストには、該当する患者の患者情報1000及び検査情報1800が含まれる。
情報端末100の表示制御部104は、通信制御部110で受信された検査リストをディスプレイ101に表示する(S530)。
この場合、ディスプレイ101aに検査リストが表示され、ディスプレイ101bには何も表示されない。
図24は、検査リストの画面図である。検査リストは、読影が未終了の検査を表示する領域800と、検査に含まれるシリーズに関する情報を表示する領域810とを備える。領域800には、「患者ID」、「患者氏名」、「検査日時」、「検査ID」、及び「検査種」の欄が設けられている。「患者ID」、「患者氏名」の欄には、患者情報1000に登録された患者ID1100及び氏名1200が表示され、「検査日時」、「検査ID
」、及び「検査種」の欄には、検査情報1800に登録された検査日時1820、検査ID1810、及び検査種1830が表示される。領域810は、領域800でユーザにより選択された検査の詳細を表示するための領域であり、「シリーズID」、「定義」、及び「画像」の欄が設けられている。ここでは、領域800においてユーザにより検査(行に対応)が選択されていないために、領域810には何も表示されていない。
ユーザは、領域800に表示された検査の中から、これから読影を行う検査を選択する。この選択が入力制御部103で検知されると、図23に示すように、通信制御部110は、選択された検査の検査IDに含まれる全シリーズの表示要求を、医用情報管理システム200へ送信する(S540)。
医用情報管理システム200の通信制御部206がこの表示要求を受信すると、患者情報管理部202は、図18Aに示す医用画像データベース2000を参照し、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像を取得し、通信制御部206を通して、情報端末100に送信する(S550)。例えば、図18Aの例において、検査ID「13227989」の検査がユーザにより選択されると、シリーズID「CT149123」、「CT149124」のシリーズに含まれる全てのスライス画像がS550で送信される。
情報端末100の通信制御部110が全シリーズの画像を取得すると、表示制御部104は、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを領域810に表示する(S560)。
この場合、ディスプレイ101aに表示された検査リストの領域810には、領域800で選択された検査に対応するシリーズのシリーズリストが表示され、ディスプレイ101bには何も表示されない。
図25は、検査が選択された後の検査リストの画面図である。図25の領域800では選択された行の背後にハイライトが付されている。図25の例では、領域800において、2行目の「パナ太郎」の検査が選択されている。そのため、領域810では、選択された検査についての「シリーズID」、「定義」、及び「画像」が表示されている。ここで、「シリーズID」の欄には、医用画像データベース2000において、選択された検査の検査IDに対応付けられたシリーズIDが表示され、「画像」の欄には、表示されたシリーズIDを代表する1枚のスライス画像のサムネイル画像が表示される。ここで、シリーズIDを代表する1枚のスライス画像としては、所定のスライス位置の画像が採用される。所定のスライス位置としては先頭のスライス位置であってもよいし、中央のスライス位置であってもよい。「定義」は、該当するシリーズに対する撮影条件や再構成の条件を示す。この「定義」は、図示は省略されているが、例えば、図18Aの医用画像データベース2000において、シリーズIDと対応付けて登録されている。
領域810において、ユーザにより読影対象のシリーズが選択され、その選択を入力制御部103が検知すると、表示制御部104は、図49に示すように、選択されたシリーズの先頭のスライス画像をディスプレイ101aに表示する(S570)。図49は、ユーザによりシリーズが選択された際にディスプレイ101aに表示されるスライス画像を示した図である。図49は、胸部CT撮影での先頭のスライス画像を示す図であり、肺尖部よりももう少し頭方向の肩位置でのスライス画像である。ここで、表示制御部104は、選択されたシリーズの全てのスライス画像をシリーズ送りできる状態でディスプレイ101aに表示する。なお、ディスプレイ101bには何も表示されない。例えば、ユーザにより、ディスプレイ101a上にマウスポインタが位置決めされマウスホイールを回転するスライス送りの操作が入力され、その操作を入力制御部103が検知する。すると、
表示制御部104は、マウスホイールの回転量に応じて、ディスプレイ101aに表示されたスライス画像を別のスライス位置のスライス画像に切り替える。ユーザは、スライス送りの操作を入力しながら画像診断を行う。そして、ユーザは画像診断に迷った場合、類似症例検索アプリケーションを起動する。
ここで、類似症例検索アプリケーションは、操作部102のキーボードにおいて、予め定められたショートカットキーが入力されて起動されてもよいし、マウスの右クリックで医用画像ビューワのメニューを表示させ、そのメニューの中から類似症例検索メニューが指定されて起動されてもよい。類似症例検索アプリケーションの起動が指示されると、情報端末100の管理はROI管理部105に渡され、情報端末100は、関心領域(ROI)の受け付け待ち状態になる。
ユーザは、操作部102を通して、ディスプレイ101aに表示されたスライス画像上の病変に関心領域(ROI)を設定する(S580)。ここで、ユーザは、図22に示すように、例えば、マウスを左クリックして、関心領域の左上の頂点の座標を入力する。そして、ユーザは、左クリックした状態でマウスを右斜め下方向にドラッグし、左クリックを解除することで、関心領域の右下の頂点を入力すればよい。図26は、病変に対して関心領域を設定した後の画面の一例である。
関心領域を設定する操作を入力制御部103が検知すると、ROI管理部105は、入力制御部103から関心領域の左上及び右下の頂点の座標データを受け取り、受け取った座標データを関心領域情報として生成する。そして、ROI管理部105は、生成した関心領域情報を通信制御部110に送信する(S590)。
同時に、ROI管理部105は、診断対象症例のスライス画像を通信制御部110に送信する(S600)。この場合、S550において、情報端末100が医用情報管理システム200から受け取った全シリーズのスライス画像のうち、ユーザが選択したシリーズにおいてユーザにより関心領域が設定された1枚のスライス画像(検索クエリ画像)が送信される。
次に、通信制御部110は、ROI管理部105から送信された関心領域情報を受け取り、症例検索システム300の通信制御部304に送信する(S601)。
同時に、通信制御部110は、ROI管理部105から送信されたスライス画像を受け取り、症例検索システム300の通信制御部304に送信する(S602)。
ここで、S600、S601において、スライス画像そのものを送信するとしたが、スライス画像のスライスIDのみが送信されても構わない。この場合は、スライスIDを受信した症例検索システム300は、そのスライスIDを指定して、医用情報管理システム200からスライス画像を取得すればよい。
(類似症例検索−初期表示)
次に、症例検索システム300が類似症例検索を行い、情報端末100が類似症例検索結果を初期表示するまでの処理を説明する。
図27は、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。
症例検索システム300の画像特徴抽出部302は、検索クエリ画像に設定された関心領域から予め定められた複数次元の画像特徴を抽出する(S610)。
「画像特徴」としては、医用画像における臓器若しくは病変部分の形状に関する画像特徴、又は輝度分布に関する画像特徴等が採用できる。例えば、非特許文献:「根本,清水,萩原,小畑,縄野,“多数の特徴量からの特徴選択による乳房X線像上の腫瘤影判別精度の改善と高速な特徴選択法の提案”,電子情報通信学会論文誌D−II,Vol.J88−D−II,No.2,pp.416−426,2005年2月」には、490次元の画像特徴を用いることが記載されている。本実施の形態においては、例えば、この非特許文献に記載された画像特徴が採用される。但し、これは一例にすぎず、他の画像特徴が採用されてもよい。
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された各類似症例の画像特徴とを比較する(S620)。ここで、類似症例検索部303は、検索クエリ画像から抽出された画像特徴データと、類似症例データ蓄積部301に類似症例毎に蓄積された類似症例データ4000(図20)に登録された画像特徴データ4400との距離を算出することで、両画像特徴を比較する。
次に、類似症例検索部303は、距離が所定の閾値以下の類似症例を、距離が小さい順にソートし、送信対象の類似症例として決定する(S630)。次に、通信制御部304は、類似症例データ蓄積部301に蓄積された類似症例データ4000のうち、送信対象の類似症例の類似症例データ4000を送信する(S640)。
以下、類似症例検索結果が表示された初期の基本画面K2(図6)を生成する処理が実行される。まず、初期の基本画面K2において、レイアウト領域720を生成する際に使用される管理情報について説明する。
まず、症例検索システム300の通信制御部304は、レイアウト情報を情報端末100に送信する(S650)。ここで、レイアウト情報は、レイアウト領域720を構成する表示ボックスの行数、列数を指定する情報である。
次に、情報端末100の通信制御部110がレイアウト情報を受信すると、表示ボックス管理部106は、送信されたレイアウト情報が指定する表示ボックスの行数及び列数を表示ボックス管理情報4410(図37)に登録すると共に、検索クエリ画像のスライスIDを表示ボックス管理情報(図37)に登録する(S660)。
図37は、表示ボックス管理情報4410のデータ構成を示す図である。表示ボックス管理情報4410には、行数及び列数が登録されるテーブル4411と、各表示ボックスに表示されるスライス画像のスライスIDが登録されるテーブル4412とが含まれる。したがって、表示ボックス管理部106は、症例検索システム300から送信されたレイアウト情報が指定する行数及び列数をテーブル4411の行数及び列数の欄に登録する。また、本実施の形態では、4つの表示ボックス721〜724のうち、左上の表示ボックス721に検索クエリ画像のサムネイル画像が表示される。そこで、表示ボックス管理部106は、医用情報管理システム200から送信された検索クエリ画像のスライスIDをテーブル4412の1行1列目の項目に登録する。
ここで、レイアウト領域720を構成する表示ボックスの行数及び列数のデフォルト値は症例検索システム300により予め設定されている。ここで、行数及び列数のデフォルト値は例えば2行及び2列である。そのため、図37に示す表示ボックス管理情報4410には、「2行2列」が登録されている。
次に、S640で送信された類似症例データ及びS660で保存した表示ボックス管理
情報4410を用いて、表示制御部104は、類似症例検索結果が表示された初期の基本画面K2を生成する(S670)。
この場合、ディスプレイ101bには図6に示す基本画面K2が表示される。また、ディスプレイ101aには、検索クエリ画像が表示されている。
図28は、図27のS670に示す初期の基本画面K2を生成する処理の詳細を示すフローチャートである。
まず、S1000にて、表示制御部104は、図27のS640で受信された類似症例データの数をカウントし、カウント値を検索結果件数表示領域713に表示する。
次に、S1100にて、表示制御部104は、表示条件表示領域714に、「全疾患」と表示する。ここで、「全疾患」と表示されるのは、初期の基本画面K2では、ユーザにより病名や病変分布での絞り込みがかけられていないからである。
次に、S1200にて、表示制御部104は、図27のS640で受信された類似症例データに対応する類似症例のうち、症例表示領域710にサムネイル画像が表示可能な類似症例の件数分だけ、症例表示領域710に類似症例のサムネイル画像を表示すると共に、各サムネイル画像に対応付けて確定診断及び類似度を表示する。
症例表示領域710に表示可能な類似症例の件数の最大値は、図6の例では20である。この最大値は予め定められている。また、この最大値はユーザが自由に変更できる構成にしてもよい。図27のS640で受信された類似症例データの数が、最大値よりも多い場合、表示制御部104は、症例表示領域710の右端に縦方向に長尺のスクロールバー715を表示する。これにより、ユーザは、スクロールバー715を移動させ、初期の基本画面K2で非表示であった類似症例のサムネイル画像を閲覧できる。
次に、S1300にて、病名リストが生成されて表示される。まず、図27のS640で受信された類似症例データから、病名リストが生成される。病名リストは、S640で受信された類似症例データに対応する類似症例が、確定診断病名毎に分類されたリストである。
ここで、S640で受信された類似症例データの件数をNC件とする。病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を用いて、病名リストを生成する。生成された病名リストは、図30に示すようにテーブル形式のデータとして、病名リスト管理部108で管理される。
図30は、図28のS1300で生成される病名リストのデータ構成を示す図である。病名リストには、「病名ID」、「大分類病名」、「詳細分類病名」、「件数」、及び「類似症例ID」の欄が含まれる。「病名ID」は、確定診断病名毎に付与される識別子である。ここでは、大分類病名と詳細分類病名との1つの組み合わせに対して1つの病名IDが付与されている。
「大分類病名」は、類似症例データ4000に登録された確定診断(大分類病名)4700が示す確定診断病名である。「詳細分類病名」は、類似症例データ4000に登録された確定診断(詳細分類病名)4800が示す確定診断病名である。「件数」は、「病名ID」が示す確定診断病名に該当する類似症例の件数である。「類似症例ID」は、「病名ID」が示す病名に該当する類似症例を示す類似症例IDである。
病名リスト管理部108は、S640で受信した全ての類似症例データ4000について、確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を抽出し、両者が同じ類似症例データ4000を同じ確定診断病名の類似症例として分類する。そして、病名リスト管理部108は、確定診断病名が同じ類似症例の件数をカウントし、該当する確定診断病名のレコードの「件数」の欄に登録する。また、病名リスト管理部108は、同じ確定診断病名に分類した類似症例の類似症例IDを該当する確定診断病名のレコードの「類似症例ID」の欄に登録する。
図30の例では、大分類病名が「腫瘍性」、詳細分類病名が「原発性肺癌」の確定診断病名に対して病名ID「DIS528」が付与されている。そして、この確定診断病名に該当する類似症例の件数が10件であったため、該当するレコードの「件数」の欄に10が登録され、この確定診断病名に該当する類似症例の類似症例ID「SIM258」、「SIM551」、「SIM1209」、及び「SIM2341」等が、該当するレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された病名リストを用いて病名リスト表示領域730を生成し、ディスプレイ101に表示する。
図31、図32、図33は、それぞれ、病名リスト表示領域730の第1表示例、第2表示例、第3表示例を示した図である。図31に示すように第1表示例では、類似症例検索の結果得られた類似症例が、詳細分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図32に示すように第2表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図33に示すように第3表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示され、且つ、大分類病名毎にその中に含まれる詳細分類病名が件数の多い順に件数と対応付けて一覧表示されている。この場合、確定診断病名が、大分類病名と詳細分類病名との階層構造で表現される。
図34は、図32に示す病名リスト表示領域730の画面遷移を示す図である。図34の上段に示すように、一覧表示された大分類病名のうち、1の大分類病名がユーザにより選択される操作を入力制御部103が検知すると、表示制御部104は、図34の下段に示すように、選択された大分類病名に属する詳細分類病名を件数が多い順に件数と対応付けて表示する。ここで、ユーザは、例えば、病名リスト表示領域730において一覧表示された大分類病名のうち、所望する1の大分類病名を例えばダブルクリック或いはシングルクリックすることで1の大分類病名を選択すればよい。図34の例では非腫瘍性がダブルクリックされているため、非腫瘍性に属する詳細分類病名が一覧表示されている。
図34の下段において、詳細分類病名が一覧表示されている領域がユーザによりダブルクリック或いはシングルクリックされると、表示制御部104は、該当する領域に表示されていた詳細分類病名を非表示にすればよい。
なお、表示制御部104は、病名リスト(図30)を参照することで、大分類病名に属する詳細分類病名を判定すればよい。例えば、図30の例では、真菌症に対して、アスペルギルス症及びクリプトコッカス症が対応付けられているため、表示制御部104は、真菌症にはアスペルギルス症及びクリプトコッカス症が属すると判断すればよい。
図28に戻り、S1400にて、分布リストが生成されて表示される。まず、S640で受信された類似症例から、分布リストが生成される。分布リストは、S640で受信された類似症例が、病変分布毎に分類されたリストである。
病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている病変分布情報4600を用いて、分布リストを生成する。生成された分布リストは、図35に示すようにテーブル形式のデータとして、分布リスト管理部109で管理される。
図35は、図28のS1400で生成される分布リストのデータ構成を示す図である。分布リストには、「分布名」、「症例数」、及び「類似症例ID」の欄が含まれる。「分布名」は、びまん性、区域性といった予め定められた複数の病変分布の名称である。「症例数」は、病変分布に該当する類似症例の件数である。「類似症例ID」は、病変分布に該当する類似症例を示す類似症例IDである。
分布リスト管理部109は、S640で受信した全ての類似症例データ4000について、病変分布情報4600を抽出し、抽出した病変分布情報4600において、分布フラグ値に1(該当)が設定されている病変分布の数をカウントし、カウント値を該当する病変分布のレコードの「症例数」の欄に登録する。また、分布リスト管理部109は、分布フラグ値に1が設定されている類似症例の類似症例IDを該当する病変分布のレコードの「類似症例ID」の欄に登録する。
図35の例では、びまん性に該当する類似症例の件数が3件であったため、びまん性のレコードの「症例数」の欄に3が登録されている。また、びまん性に該当する類似症例の類似症例ID「SIM2521」、「SIM4123」、及び「SIM5225」がびまん性のレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された分布リストを用いて分布リスト表示領域750を生成し、ディスプレイ101に表示する。
図35に示す分布リストを用いて生成された分布リスト表示領域750は、図11である。図35において、区域性及び胸膜下の症例数は0であるため、図11では、区域性752及び胸膜下756が非アクティブ状態で表示され、これら以外の病変分布は、症例数が1以上であるため、アクティブ状態で表示されている。
図28に戻り、S1500にて、レイアウト領域720が表示される。この処理は、表示制御部104によって行われる。
図29は、図28に示すS1500の処理を示すフローチャートである。S1510にて、表示制御部104は、レイアウト領域720を構成する表示ボックスの行数及び列数を、S660で設定された表示ボックス管理情報4410から取得する。図37の表示ボックス管理情報4410の例では、行数及び列数として2行2列が設定されているため、「2行2列」という情報が取得される。
次に、S1520にて、表示制御部104は、S1510で取得した表示ボックスの行数及び列数に合わせて、表示ボックスを描画する。
最後に、S1530にて、表示制御部104は、表示ボックス管理情報4410から各表示ボックスのスライスIDを特定し、特定したスライスIDに対応するサムネイル画像を、対応する各表示ボックス内に描画する。
図37の例では、1行1列目の表示ボックスに診断対象症例のスライスIDが格納されている。そのため、表示制御部104は、図23のS600で送信された診断対象症例のスライス画像からサムネイル画像を生成し、生成したサムネイル画像を表示ボックス721に描画する。
この段階では、残りの表示ボックス(1行2列目、2行1列目、2行2列目の表示ボックス722、723、724)にはスライスIDが格納されていないため、表示制御部104は、これらの表示ボックスに何も表示しない。これらの表示ボックスには、後述する処理により、類似症例のサムネイル画像が表示されることになる。
図27に戻り、通信制御部110は、表示ボックス管理部106に格納された表示ボックス管理情報4410を表示制御部104に送信する(S680)。
次に、表示制御部104は、レイアウト領域720の表示状態及びレイアウトと同じ表示状態及びレイアウトで医用画像ビューワを起動させる(S690)。
図38は、医用画像ビューワの起動処理を示すフローチャートである。
S2000にて、表示制御部104は、図23のS570で起動させた医用画像ビューワを閉じる。
S2100にて、表示制御部104は、表示ボックス管理情報4410に登録された表示ボックス分の医用画像ビューワを、表示ボックス管理情報4410に登録された行数及び列数のレイアウトで起動する。図37の表示ボックス管理情報4410では、2行×2列で4つの表示ボックスが登録されている。よって、表示制御部104は、図5に示すように、4個の医用画像ビューワ610〜640を2行×2列で起動する。
S2200にて、表示制御部104は、処理対象となる医用画像ビューワを特定するための変数を初期化する。ここでは、1行1列目の医用画像ビューワが処理対象とされるため、この変数は1行1列にセットされる。
S2300にて、表示制御部104は、全て(ここでは4個)の医用画像ビューワに対する処理が終了したか否かをチェックする。処理済であれば(S2300でYES)、処理が終了され、未処理の医用画像ビューワがあれば(S2300でNO)、処理がS2400に進められる。
S2400にて、表示制御部104は、変数としてセットされた行数及び列数に対応づけられたスライスIDを持つスライス画像を処理対象の医用画像ビューワに表示すると共に、そのスライスIDを含むシリーズを医用画像ビューワに対応付ける。
例えば、図37に示す表示ボックス管理情報4410の例では、1行1列目にはスライスID「CT12353515」が登録されている。よって、スライスID「CT12353515」が医用画像ビューワ610に表示される。また、表示制御部104は、初期表示されるスライス画像に設定された関心領域を表す矩形をこのスライス画像にオーバラップして描画する。なお、1行1列目に登録されたスライスIDを含むシリーズは、図23のS550で取得済みである。また、関心領域は、図23のS580で設定済みである。
図38に戻り、S2500にて、次の医用画像ビューワを処理対象の医用画像ビューワ
に設定する。1行1列目の次は、例えば、1行2列目、その次は、2行1列目、その次に2行2列目というように処理対象が設定される。
2ループ目のS2400では、1行2列目の医用画像ビューワ620が処理対象にされるが、図37の表示ボックス管理情報4410では、1行1列目以外にはスライスIDが対応づけられていない。そのため、表示制御部104は、1行2列目の医用画像ビューワに対して何も処理を実行せず、空の状態にしておく。このことは、2行1列目、2行2列目の医用画像ビューワ630、640に対しても同じである。
このフローチャートが終了した状態で、ディスプレイ101aには、図5に示す初期状態の基本画面K1が表示されている。1行1列目(左上)の医用画像ビューワ610には、検索クエリ画像が表示され、その上に関心領域がオーバラップして描画されている。
ここでは、症例検索システム300が画像特徴を抽出する例を示したが、情報端末100が画像特徴を抽出してもよい。図39は、症例検索システム300が画像特徴を抽出する態様を採用した場合の情報端末100、医用情報管理システム200、及び症例検索システム300のブロック図である。
図2との違いは、情報端末100に画像特徴抽出部113が追加された点、及び症例検索システム300から画像特徴抽出部302が省かれた点にある。
図40は、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。
図23との違いは、ROI管理部105が、診断対象症例のスライス画像を通信制御部110に送信する処理(S600)の後、画像特徴の抽出が情報端末100で行われ(S603)、抽出された画像特徴が症例検索システム300に送信(S604)されている点にある。画像特徴の抽出(S604)の処理内容は、画像特徴の抽出が症例検索システム300で行われる場合と同様である。
図41は、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。図27との違いは、画像特徴の抽出が情報端末100側で行われるため、図41では、図27にはあった画像特徴の抽出(S610)が省かれている点にある。
次に、図23、図27のシーケンス図をアプリケーションのレベルで着目したときの情報端末100、医用情報管理システム200、及び症例検索システム300の処理について説明する。図42は、図23及び図27のシーケンス図をアプリケーションのレベルで着目したときのシーケンス図である。図42において、図23と同じ処理には同じ符号を付している。
図42において、「A」は情報端末100が実行する医用情報管理アプリケーションの処理を示し、「B」は情報端末100が実行する類似症例検索アプリケーションの処理を示す。以下、医用情報管理アプリケーションを「アプリA」と記述し、類似症例検索アプリケーションを「アプリB」と記述する。
まず、アプリAは、ユーザから読影対象となる検査リストの表示要求を受け付け、医用情報管理システム200に送信する(S510)。医用情報管理システム200は検査リストを受信すると、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象とな
る検査リストを生成し、アプリAに送信する。
検査リストを受信したアプリAは、図24に示すように、検査リストをディスプレイ101に表示し、検査リストの中から1の検査がユーザにより選択されると(S530)、選択された検査の表示要求を医用情報管理システム200に送信する(S540)。
検査要求を受信した医用情報管理システム200は、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像をアプリAに送信する(S550)。
次に、アプリAは、図25に示すように、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを表示する(S560)。
次に、アプリAは、シリーズリストの中から読影対象のシリーズがユーザにより選択されると、選択されたシリーズの最初のスライス位置のスライス画像を医用画像ビューワ610に表示する(S570)。このとき、ユーザは、スライス送りする操作を入力し、医用画像ビューワ610に所望のスライス画像を表示させる。
次に、アプリAは、医用画像ビューワ610に表示されたスライス画像において、関心領域を設定する操作をユーザから受け付ける(S580)。
次に、アプリAは、ユーザにより設定された関心領域を示す関心領域情報を生成し、関心領域が設定されたスライス画像(診断対象症例のスライス画像)と共に、アプリBに送信する(S590、S600)。
次に、アプリBは、診断対象症例のスライス画像及び関心領域情報を受信すると、そのスライス画像及び関心領域情報を症例検索システムに送信する(S601、S602)。
スライス画像及び関心領域情報を受信すると、症例検索システム300は、図27と同様、S610〜S640の処理を実行する。
次に、アプリBは、S640で送信された類似症例データ及び表示ボックス管理情報4410を用いて初期の基本画面を生成する(S670)。そして、アプリBは、図28に詳細が示されるS670の処理を実行する。
(初期表示−サムネイル選択)
次に、情報端末100に類似症例検索結果を初期表示した後,ユーザが情報端末100で類似症例検索結果のサムネイル画像を選択し、選択したサムネイル画像に対応する要約画像を表示するまでの処理の流れを説明する。
図53は、情報端末100に類似症例検索結果を初期表示した後、ユーザにより選択されたサムネイル画像に対応する要約画像を表示するまでの処理(要約画像生成処理)の流れを示すフローチャートである。
(S5301)
要約画像生成部112は、症例表示領域710に表示された類似症例のサムネイル画像の中から、ユーザが選択したサムネイル画像の類似症例ID4100を取得する。
(S5302)
要約画像生成部112は、S5301で取得した類似症例ID4100からユーザが選択したサムネイル画像の類似症例データ4000を参照し、病変属性4900を取得する
(S5303)
要約画像生成部112は、S5302で取得した病変属性4900が限局性病変を示せば(S5303でYES)、処理をS5340に進め、S5302で取得した病変属性がびまん性病変を示せば(S5303でNO)、処理をS5306に進める。
(S5304)
要約画像生成部112は、S5301で取得された類似症例ID4100とS5302で取得された病変属性4900とを用いて連続フレーム画像717を生成し、処理をS5305に進める。
具体的な連続フレーム画像717の生成方法を以下に示す。
(連続フレーム画像の生成方法1)
連続フレーム画像の生成方法1は、類似症例データ4000の要約画像4910に登録されたスライスIDを用いて連続フレーム画像717を生成する方法である。この場合、類似症例データ4000として、図21Aに示す類似症例データ4000が採用されればよい。要約画像生成部112は、S5301で取得した類似症例ID4100に対応する類似症例データ4000を参照し、要約画像4910に登録されたスライスIDを取得し、取得したスライスIDに対応するサムネイル画像を医用情報管理システム200から取得する。そして、要約画像生成部112は、取得したサムネイル画像を用いて連続フレーム画像717を生成する。
なお、医用情報管理システム200は、管理対象となる全てのスライスIDのサムネイル画像を事前に作成しておいてもよいし、要約画像生成部112から、スライスIDに対応するサムネイル画像の取得要求を受信したときに、該当するスライスIDに対応するサムネイル画像を生成してもよい。そして、医用情報管理システム200は、取得要求があったスライスIDに対応するサムネイル画像を情報端末100に送信すればよい。このことは、以下に示す連続フレーム画像の生成方法及び代表画像の生成方法においても同じである。
ここで、図21Aに示す類似症例データ4000の要約画像4910には、限局性病変の一端から他端までを連続的に示すスライス画像のスライスIDが登録されている。そのため、連続フレーム画像717には、限局性病変の一端から他端までのスライス画像に対応するサムネイル画像が含まれる。よって、連続フレーム画像717を連続的に表示することで、限局性病変の一端から他端までを示すサムネイル画像が連続的に表示され、異常陰影部分の画像が連続的に表示される。その結果、ユーザは、病変部の3次元的な形状と、病変部が血管及び気管支の方向に沿って存在しているか否かという、限局性病変の診断に必要な情報を確認できる。
一つのシリーズIDに対応する複数のスライスIDに含まれるスライスIDに含まれる数値が大きくなるに従い、各スライスIDで特定されるスライス画像の断層面が患者の身体の一方向に移動することとしてもよい。
サムネイル画像と患者の体の断面面の画像であるスライス画像が対応するが、サムネイル画像が表示される順番は、スライス画像に対応するスライスIDに含まれる数値が大きくするに従い、各スライスIDに対応するスライス画像の断層面が患者の身体の一方向に移動する順番と同じであってもよい。
(連続フレーム画像の生成方法2)
連続フレーム画像の生成方法2は、ユーザが選択したサムネイル画像を含む前後所定数のサムネイル画像を取得することで連続フレーム画像717を生成する方法である。要約画像生成部112は、S5301で取得した類似症例ID4100に対応する類似症例データ4000を参照し、スライスID4200が示すサムネイル画像を含む前後所定数のサムネイル画像を取得する。
図54は、要約画像生成部112による前後所定数のサムネイル画像の取得処理の概念図である。図54の例では、ユーザが選択したサムネイル画像のスライスIDは、同一シリーズを構成する全スライスのp枚目のスライス画像を示している。この場合、予め設定した前後所定数(th)のスライス画像はp−th枚目からp+th枚目のスライス画像となる。この場合、要約画像生成部112は、p−th枚目からp+th枚目のスライス画像に対応するスライスIDを指定して、サムネイル画像の取得要求を医用情報管理システム200に送信すればよい。そして、医用情報管理システム200は、p−th枚目からp+th枚目のサムネイル画像を情報端末100に送信すればよい。
連続フレーム画像の生成方法2を採用する場合、図21Aに示す類似症例データ4000から要約画像4910の欄を省くことができ、類似症例データ4000の作成負担を低下できる。その結果、類似症例データ4000の作成作業の効率を向上させることができ、類似症例データ4000のデータ数を増大させ、読影精度のさらなる向上が期待できる。
(連続フレーム画像の生成方法3)
連続フレーム画像の生成方法3は、病変領域が含まれる器官の領域内の全てのサムネイル画像を用いて連続フレーム画像717を生成する方法である。図56は、限局性の類似症例データ4000のデータ構成の第三例を示す図である。図56において、類似症例データ4000は、図21Aの類似症例データ4000に対して、要約画像4910に代えて、器官内領域4920を備えている。
器官内領域4920は、該当する類似症例データ4000が属するシリーズの領域別のスライスIDの範囲を記憶する。図56の例では、器官内領域4920は、「上葉」、「中葉」、「下葉」の欄を備える。それぞれの欄は、領域(肺野)別のスライスIDの範囲を記憶する。
要約画像生成部112は、図56に示すスライスID4200に登録されたスライスIDと、器官内領域4920に登録されたスライスIDの範囲とから、スライスID4200に登録されたスライスIDが器官内のどの領域に属しているかを判定する。図56の例では、スライスID4200に登録された「CT149391025」は、「CT149391021−CT149391031」の範囲内にある。そのため、要約画像生成部112は、この類似症例は「中葉」と判定する。
そして、要約画像生成部112は、「中葉」に登録されたスライスIDの範囲「CT149391021−CT149391031」を指定して、この範囲に属するサムネイル画像の取得要求を医用情報管理システム200に送信する。医用情報管理システム200は、サムネイル画像の取得要求を受信すると、指定されたスライスIDの範囲に属するサムネイル画像を情報端末100に送信する。そして、要約画像生成部112は、送信されたサムネイル画像を用いて連続フレーム画像717を生成する。
連続フレーム画像の生成方法3は、病変部が属する領域以外の領域のサムネイル画像を表示しないので、効率的に診断精度の向上に寄与できる。
(S5305)
表示制御部104は、S5304で生成された連続フレーム画像717を症例表示領域710に表示し、処理を終了する。表示方法としては、例えば図51に示すように、ユーザが選択したサムネイル画像716の表示領域716aに、ステップS5304で生成された連続フレーム画像717を、動画表示する方法が採用できる。具体的には、表示制御部104は、連続フレーム画像717を構成するサムネイル画像をスライスIDが若い順に一定のフレームレートで表示領域716a内で切り替えて表示することで連続フレーム画像717を動画表示する。
(S5306)
要約画像生成部112は、S5301で取得した類似症例ID4100と、S5302で取得した病変属性4900とを用いて代表画像718を生成し、処理をS5307に進める。
(代表画像の生成方法1)
代表画像の生成方法1は、類似症例データ4000の要約画像4910に登録されたスライスIDを用いて代表画像718を生成する方法である。この場合、類似症例データ4000として、図20に示す類似症例データ4000が採用されればよい。要約画像生成部112は、S5301で取得した類似症例ID4100に対応する類似症例データ4000を参照し、要約画像4910に登録されたスライスIDを取得する。
図20の類似症例データ4000の例では、要約画像4910には、上葉、中葉、下葉のそれぞれの肺野を代表するスライス画像のスライスIDが登録されている。したがって、要約画像生成部112は、要約画像4910に登録された3つのスライスIDを指定して、サムネイル画像の取得要求を医用情報管理システム200に送信することで、これら3つのスライスIDに対応するサムネイル画像を取得し、取得したサムネイル画像を用いて代表画像718を生成する。
これにより、図52に示すように、症例表示領域710には、各肺野を代表する3つの代表画像718が一覧表示される。
代表画像の生成方法1は、器官内の各領域の代表画像718を一覧表示するので、不要な病変領域の表示を除去することができる。その結果、ユーザは、びまん性病変を診断する際に必要な病変の浸潤領域を簡単に把握することができる。
(代表画像の生成方法2)
代表画像の生成方法2は、ユーザが選択したサムネイル画像に対応する類似症例が属するシリーズを所定間隔でサンプリングすることで代表画像718を生成する方法である。図57は、要約画像生成部112によるサンプリング処理の概念図である。この場合、類似症例データ4000としては、例えば、図55に示す類似症例データ4000が採用される。図55は、びまん性の類似症例データ4000の第二例のデータ構成を示す図である。
図57に示すように、要約画像生成部112は、ユーザが選択したサムネイル画像に対応する類似症例が属するシリーズSRを3分割する。ここで、要約画像生成部112は、図55に示す類似症例データ4000の器官内領域4920に登録された先頭のスライスID「CT149391000」から最終のスライスID「CT149391055」までのスライスIDを3分割することでシリーズSRを3分割する。
図57の例では、シリーズSRは領域p1,p2,p3に分割されている。なお、領域p1,p2,p3は、それぞれ、上葉、中葉、下葉に対応する。ここで、要約画像生成部112は、予め定められた割合で、シリーズSRを3分割すればよい。予め定められた割合としては、領域p1:p2:p3=1:1:1であってもよいし、各領域の一般的な大きさを考慮した割合が採用されてもよい。
次に、要約画像生成部112は、領域p1,p2,p3のそれぞれの中心位置m1,m2,m3のスライスIDを決定する。そして、要約画像生成部112は、決定した3つのスライスIDを指定して、これら3つのスライスIDで示されるスライス画像の取得要求を医用情報管理システム200に送信する。これにより、要約画像生成部112は、各肺野の代表画像718を取得する。
代表画像の生成方法2は、器官内の病変部分を示す代表画像を類似症例データ4000に登録する作業が不要になり、類似症例データ4000を作成する際の作業効率を向上させることができる。そのため、類似症例データ4000のデータ数が増大し、読影精度のさらなる向上が期待できる。
なお、代表画像の生成方法2の方法を採用する場合、図55に示す類似症例データ4000において、器官内領域4920が省かれても良い。この場合、要約画像生成部112は、ユーザが選択した類似症例データ4000のスライスIDを指定して、各肺野の代表画像の取得要求を医用情報管理システム200に送信すればよい。医用情報管理システム200は、スライスIDが分かれば、シリーズ図18Aに示す医用画像データベース2000を参照することで、そのスライスIDが属するシリーズを決定できる。よって、医用情報管理システム200は、代表画像の取得要求を受信すると、上述した図57に示す方法を用いて、各肺野の代表画像を決定し、情報端末100に送信すればよい。
(代表画像の生成方法3)
代表画像の生成方法3は、図55に示す類似症例データ4000の器官内領域4920に登録された情報を用いて、ユーザが選択したサムネイル画像の各領域の代表画像を取得する方法である。要約画像生成部112は、ステップS5301で取得した類似症例IDに対応する類似症例データ4000を参照し、器官内領域4920に領域別に登録されたスライスIDの範囲の中から1つのスライスIDを選択することで、各領域の代表画像718のスライスIDを取得する。図55の例では、器官内領域4920は、上葉のスライスIDの範囲として「CT149391000−CT149391020」が登録され、中葉のスライスIDの範囲として「CT149391021−CT149391031」が登録され、下葉のスライスIDの範囲として「CT149391032−CT149391055」が登録されている。そこで、要約画像生成部112は、器官内領域4920を構成する各領域において中央位置のスライスIDを取得し、そのスライスIDのサムネイル画像を医用情報管理システム200から取得すればよい。
代表画像の生成方法3は、各領域の代表画像718が表示されるので、病変の浸潤範囲をより簡単に把握させることができ、効率的に診断精度の向上に寄与できる。なお、代表画像の生成方法3において、要約画像生成部112は、各領域から1つ以上の所定数のサムネイル画像を決定し、代表画像718として表示してもよい。
(S5307)
表示制御部104は、S5306で生成された代表画像718を症例表示領域710に表示し、処理を終了する。表示方法としては、例えば図52に示すように選択されたサムネイル画像の下部に代表画像718を一覧表示する方法が採用されればよい。
S5301からS5307までの処理に示されるように、ユーザが症例表示領域710から1つのサムネイル画像を選択すると、選択したサムネイル画像が限局性病変又はびまん性病変であるかに応じて提示する要約画像が切り替えられる。したがって、医用画像データベース2000に膨大な数の医用画像が登録されている場合であっても、本開示は、読影対象の医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示できる。よって、本開示は、診断精度の向上に寄与できる。
(分布リスト選択)
次に、図11に示す分布リスト表示領域750に表示された病変分布が選択されたときの処理について説明する。図43は、分布リスト表示領域750に表示された病変分布が選択されたときの処理を示すフローチャートである。
S2000では、分布リスト表示領域750に表示された病変分布(分布チェック項目)のうち、いずれか1の分布チェック項目を選択する操作を入力制御部103が検知すると、表示制御部104は、検知された分布チェック項目が第1〜第3分布情報のいずれに該当するかを判定する。第1分布情報の場合、処理がS1301に進められ、第2分布情報の場合、処理がS1302に進められ、第3分布情報の場合、処理がS1303に進められる。
第1分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属するサムネイル画像を選択させるための情報である。ここでは、第1分布情報としては、「両側性」、「多発性」、「びまん性」、及び「血行性」が該当する。よって、第1範囲としては、これらの病変分布を診断する際に設定される関心領域の大きさが属するような値域が採用される。
第2分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域に相当する領域の大きさが、肺の領域の一部であることを示す所定の第2範囲(第1範囲より低い:第2範囲の上限値が第1範囲の下限値以下)に属するサムネイル画像を選択させるための情報である。ここでは、第2分布情報としては、「気道性」及び「区域性」が該当する。よって、第2範囲としては、これらの病変分布を診断する際に設定される関心領域のサイズが属するような値域が採用される。
第3分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域が、胸膜を含むサムネイル画像を選択させるための情報である。ここでは、第3分布情報としては、「胸膜下」が該当する。
S1301では、表示制御部104は、類似症例検索により得られた類似症例であって、ユーザが第1分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数(この実施の形態では20件)以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ1として決定する。そして、表示制御部104は、抽出した類似症例i(iは抽出された類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、表示制御部104は、iがNZ1に到達するまで、S2100、S1501の処理を繰り返す。表示制御部104は、S2100、S1501の処理を実行する度に、iを1ずつインクリメントする。iがNZ1を超えると(S1301でNO)、処理は終了する。
S2100では、表示制御部104は、類似症例iについての第1分布情報に対応する第1拡大率を算出する。ここでは、第1拡大率としては、例えば、1.0が採用される。
但し、これは一例であり第1分布情報が示す病変分布を診断する際に設定される関心領域の全域が表示領域に収まるような値であれば、1.0以外の拡大率が第1拡大率として採用されてもよい。
S1501では、表示制御部104は、類似症例iのサムネイル画像を類似症例iの第1拡大率で拡大する。
図44は、第1分布情報が選択されたときの基本画面K2を示した図である。図44では、両側性が選択されている。この場合、類似症例のうち病変分布が両側性に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、この場合、拡大率は1.0であるため、症例表示領域710において、類似検索結果が得られた直後に表示されたサムネイル画像と同じ表示態様でサムネイル画像が表示されている。すなわち、関心領域ROIの中心が表示領域6801の中心に位置するようにサムネイル画像の表示位置が調整されず、且つ、拡大されずに、サムネイル画像が表示される。
S1302では、表示制御部104は、類似症例検索により得られた類似症例であって、ユーザが第1分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ2として決定する。そして、表示制御部104は、抽出した類似症例iのサムネイル画像を処理対象のサムネイル画像として決定する。そして、表示制御部104は、iがNZ2に到達するまで、S2200、S1502の処理を繰り返す。表示制御部104は、S2200、S1502の処理を実行する度に、iを1ずつインクリメントする。iがNZ2を超えると(S1302でNO)、処理は終了する。
S2200では、表示制御部104は、症例表示領域710において、1つのサムネイル画像に対して予め定められた表示領域のサイズと、類似症例iの関心領域情報とを用いて、類似症例iについての第2分布情報に対応する第2拡大率を算出する。
第2分布情報が選択された場合、類似症例iは、関心領域のサイズが表示領域のサイズの1/2程度になるように拡大される。そのため、表示制御部104は、例えば、下記の数式で類似症例iに対する第2拡大率ki計算する。表示領域の面積をSd、拡大対象の類似症例iのサムネイル画像の関心領域の面積をSiとすると、第2拡大率kiは以下の式で算出できる。
ki=1/2(Sd/Si)
S1502では、表示制御部104は、類似症例iのサムネイル画像を第2拡大率kiで拡大し、サムネイル画像の関心領域の中心が表示領域の中心に位置するように症例表示領域710にサムネイル画像を表示する。
図45は、第2分布情報が選択されたときの基本画面K2を示した図である。図45では、気道性が選択されている。この場合、類似症例のうち病変分布が気道性に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、症例表示領域710において、全てのサムネイル画像は関心領域ROIの中心が表示領域6901の中心に位置するように第2拡大率で拡大されている。
S1303では、表示制御部104は、類似症例検索により得られた類似症例であって、ユーザが第3分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ3として決定する。そして、表示制御部104は
、抽出した類似症例iのサムネイル画像を処理対象のサムネイル画像として決定する。そして、表示制御部104は、iがNZ3に到達するまで、S2300、S1503の処理を繰り返す。表示制御部104は、S2300、S1503の処理を実行する度に、iを1ずつインクリメントする。iがNZ3を超えると(S1303でNO)、処理は終了する。
S2300では、表示制御部104は、症例表示領域710において、1つのサムネイル画像に対して予め定められた表示領域のサイズと、類似症例iの関心領域情報と、胸膜領域情報4930とを用いて、類似症例iについての第3分布情報に対応する第3拡大率を算出する。
図48は、胸膜領域情報4930が追加された類似症例データ4000のデータ構成を示す図である。図48に示す類似症例データ4000は、図20に示す類似症例データ4000に対して、胸膜領域情報4930を追加したものである。この胸膜領域情報4930は、図21A、図21B、図55、図56に示す類似症例データ4000に追加されてもよい。
なお、類似症例データ4000に胸膜領域情報4930が登録されていない場合、胸膜領域情報4930が得られない。この場合、表示制御部104は、第3拡大率を、第1拡大率と同じ値である1.0に設定すればよい。ここで、胸膜領域情報4930は、類似症例において、胸膜領域を示す情報である。
S1503では、表示制御部104は、類似症例iのサムネイル画像でを第3拡大率kiで拡大し、サムネイル画像の関心領域の中心が表示領域の中心に位置するように症例表示領域710にサムネイル画像を表示する。
図47は、胸膜領域7101を説明する図である。図47に示すように、胸膜領域7101は、胸膜を含む領域であって、中心が関心領域ROIの中心に位置し且つ関心領域ROIよりも少しサイズの大きな矩形状の領域である。ここで、胸膜領域情報4930には、胸膜領域7101の左上の頂点の座標(xpl、ypt)と右下の頂点の座標(xrp、ypb)との4値が含まれる。第3分布情報が選択された場合には、胸膜領域を拡大表示するため、表示制御部104は、以下の式で第3拡大率kiを計算する。表示領域7102の面積をSd、胸膜領域7101の面積をSpとすると第3拡大率kiは、以下の式で算出できる。
ki=Sd/Sp
なお、胸膜領域情報4930は、類似症例データ4000の作成時に関心領域情報と共にユーザにより入力されてもよい。或いは、胸膜領域情報4930は、画像処理装置により、スライス画像から肺の領域を自動的に抽出させ、胸膜位置を判定させることで自動的に作成されてもよい。
図46は、第3分布情報が選択されたときの基本画面K2を示した図である。図46では、胸膜下が選択されている。この場合、類似症例のうち病変分布が胸膜下に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、症例表示領域710において、全てのサムネイル画像は関心領域ROIの中心が表示領域7001の中心に位置するように第3拡大率で拡大されている。
以上の処理により、症例表示領域710には、病変分布に関する診断内容が反映された拡大率でサムネイル画像が表示される。そして、症例表示領域710において、関心領域のサイズが揃えてサムネイル画像が表示される。そのため、関心領域が一部の類似医用画
像において小さい状態で拡大されたために見落とされる事態が発生することを防止し、診断精度の向上を図ることができる。さらに、類似症例検索で得られた全ての類似症例ではなく、症例表示領域710で表示される類似症例に対してのみ、拡大処理が行われるため、システムへの負荷が大幅に軽減される。
なお、本実施の形態では、肺の医用画像が主体的に用いられていたが、本開示はこれに限定されず、心臓、胃、膵臓等の他の器官の医用画像にも適用可能である。
また、図51においては、連続フレーム画像717は、表示領域716a内で動画表示されたが、本開示はこれに限定されず、基本画面K2内に別途設けられた表示領域内で動画表示されてもよい。また、図52においては、代表画像718は、症例表示領域710にオーバラップ表示されているが、基本画面K2内の別の表示領域に表示されてもよい。
また、表示制御部104は、連続フレーム画像717の最終のフレームの表示が終了すると最初のフレームに戻り、連続フレーム画像717の動画表示を繰り返し継続してもよい。
また、表示制御部104は、連続フレーム画像717の動画表示中に連続フレーム画像717へのクリックが入力制御部103により検知されると、クリックされた箇所で動画表示を停止させ、クリック時に表示されていたサムネイル画像を停止表示させてもよい。これにより、ユーザは連続フレーム画像717を構成するサムネイル画像のうち、じっくり観察したいサムネイル画像を停止表示させることができる。
本開示によれば、読影対象である医用画像を用いて診断するにあたって参考となる類似症例を提示する類似症例検索装置、および研修読影医のための読影教育装置等に利用可能である。
100 情報端末
101 ディスプレイ
101a ディスプレイ
101b ディスプレイ
102 操作部
103 入力制御部
104 表示制御部
105 ROI管理部
106 表示ボックス管理部
108 病名リスト管理部
109 分布リスト管理部
110 通信制御部
112 要約画像生成部
113 画像特徴抽出部
206 通信制御部
300 症例検索システム
301 類似症例データ蓄積部
302 画像特徴抽出部
303 類似症例検索部
304 通信制御部
400 ネットワーク
K1 基本画面
K2 基本画面
710 症例表示領域
715 スクロールバー
716 サムネイル画像
717 連続フレーム画像
718 代表画像
720 レイアウト領域
730 病名リスト表示領域
2000 医用画像データベース
4000 類似症例データ
4100 類似症例ID
4300 関心領域情報
4400 画像特徴データ
4500 サムネイル画像データ
4600 病変分布情報
4700 確定診断(大分類病名)
4800 確定診断(詳細分類病名)
4900 病変属性
4910 要約画像

Claims (8)

  1. 医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
    前記情報端末のコンピュータに対して、
    読影対象の医用画像である対象医用画像と所定の類似度を有する複数の類似医用画像に対応する複数の画像を含む複数のデータを前記症例検索システムから受信させ、
    前記複数の類似医用画像の各々は、断層撮影法により撮影され、かつ断層方向に並べられた画像群の内の1つの医用画像であり、
    前記複数のデータの各々に対応する対応情報には、びまん性病変の識別情報が設定されており、
    前記びまん性病変の識別情報が設定されている対応情報には、さらに、前記断層方向に並べられた画像群の内の他の複数の医用画像が付加されており、
    前記複数の類似医用画像をサムネイル表示する第1表示領域を含む表示画面を前記ディスプレイに表示させ、
    前記第1表示領域にサムネイル表示される前記複数の類似医用画像の内から選択された1つの類似医用画像を検知させ、
    前記選択された1つの類似医用画像がびまん性病変である場合、前記表示画面に含まれる第2表示領域に、前記他の複数の医用画像を表示させる、
    制御方法。
  2. 前記類似医用画像は、肺の医用画像であり、
    前記びまん性病変の識別情報が設定されている対応情報には、さらに、上葉、中葉、及び下葉のそれぞれの代表的な医用画像を示す情報が付加されており、
    前記第2表示領域に、前記上葉、前記中葉、及び下葉の代表的な医用画像を表示させる、
    請求項1に記載の制御方法。
  3. 前記制御方法は、
    前記情報端末のコンピュータに対して、
    前記読影対象の医用画像の中の関心領域を示す指定情報を検知させ、
    前記関心領域の特徴量を前記症例検索システムに送信させ、
    前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させる、
    請求項1又は2に記載の制御方法。
  4. 前記制御方法は、
    前記情報端末のコンピュータに対して、
    前記対象医用画像の中の関心領域を示す指定情報を検知させ、
    前記対象医用画像及び前記指定情報を前記症例検索システムに送信させ、
    前記対象医用画像及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させる、
    請求項1又は2に記載の制御方法。
  5. 前記対象医用画像は、肺の医用画像であり、
    前記類似医用画像の中の病変部を示す対応関心領域を有し、
    前記表示画面は、
    前記対応関心領域の大きさが肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが肺の領域の一部であることを示す前記第1範囲より狭い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
    前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第1表示領域に表示させる、
    請求項1から4のいずれか1つに記載の制御方法。
  6. 前記第1表示領域は、前記受信した複数の類似医用画像をそれぞれ表示するための複数の個別領域を含み、
    前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、前記個別領域に初期表示サイズにてそれぞれ表示させ、
    前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、前記個別領域にそれぞれ拡大表示させ、
    前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、前記個別領域にそれぞれ拡大表示させる、
    請求項5に記載の制御方法。
  7. 前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布を示す情報であり、
    前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
    前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報である、
    請求項5又は6に記載の制御方法。
  8. 医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末において実行されるプログラムであって、
    前記情報端末のコンピュータに対して、
    読影対象の医用画像である対象医用画像と所定の類似度を有する複数の類似医用画像に対応する複数の画像を含む複数のデータを前記症例検索システムから受信させ、
    前記複数の類似医用画像の各々は、断層撮影法により撮影され、かつ断層方向に並べられた画像群の内の1つの医用画像であり、
    前記複数のデータの各々に対応する対応情報には、びまん性病変の識別情報が設定されており、
    前記びまん性病変の識別情報が設定されている対応情報には、さらに、前記断層方向に並べられた画像群の内の他の複数の医用画像が付加されており、
    前記複数の類似医用画像をサムネイル表示する第1表示領域を含む表示画面を前記ディスプレイに表示させ、
    前記第1表示領域にサムネイル表示される前記複数の類似医用画像の内から選択された1つの類似医用画像を検知させ、
    前記選択された1つの類似医用画像がびまん性病変である場合、前記表示画面に含まれる第2表示領域に、前記他の複数の医用画像を表示させる、
    プログラム。
JP2020178069A 2015-09-30 2020-10-23 制御方法及びプログラム Active JP6960612B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015193682 2015-09-30
JP2015193682 2015-09-30
JP2016170880A JP6793332B2 (ja) 2015-09-30 2016-09-01 制御方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016170880A Division JP6793332B2 (ja) 2015-09-30 2016-09-01 制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2021010777A JP2021010777A (ja) 2021-02-04
JP6960612B2 true JP6960612B2 (ja) 2021-11-05

Family

ID=57348431

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2016170880A Active JP6793332B2 (ja) 2015-09-30 2016-09-01 制御方法及びプログラム
JP2020077547A Active JP7065436B2 (ja) 2015-09-30 2020-04-24 制御方法及びプログラム
JP2020178069A Active JP6960612B2 (ja) 2015-09-30 2020-10-23 制御方法及びプログラム

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2016170880A Active JP6793332B2 (ja) 2015-09-30 2016-09-01 制御方法及びプログラム
JP2020077547A Active JP7065436B2 (ja) 2015-09-30 2020-04-24 制御方法及びプログラム

Country Status (4)

Country Link
US (2) US10726295B2 (ja)
EP (1) EP3151143A1 (ja)
JP (3) JP6793332B2 (ja)
CN (1) CN106557536B (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016046642A (ja) * 2014-08-21 2016-04-04 キヤノン株式会社 情報処理システム、情報処理方法及びプログラム
CN106560827B (zh) * 2015-09-30 2021-11-26 松下知识产权经营株式会社 控制方法
KR20170064297A (ko) * 2015-12-01 2017-06-09 삼성전자주식회사 의료 영상 장치 및 그 제어 방법
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
CN109002336B (zh) * 2017-06-06 2021-10-22 许继电气股份有限公司 一种充电桩远程监控导航视窗的生成方法和装置
JP6956853B2 (ja) * 2018-03-30 2021-11-02 オリンパス株式会社 診断支援装置、診断支援プログラム、及び、診断支援方法
AU2019338927B2 (en) * 2018-09-16 2021-11-18 Integral Systems Pty Ltd System & Method for Communication and Viewing of Medical Imaging
CN113164023B (zh) * 2018-11-28 2024-02-23 奥林巴斯株式会社 内窥镜系统和内窥镜用图像处理方法、以及计算机可读存储介质
JP7233961B2 (ja) * 2019-02-25 2023-03-07 シャープ株式会社 画像処理装置、画像形成装置、画像処理方法及び画像処理プログラム
JP7172796B2 (ja) * 2019-03-28 2022-11-16 コニカミノルタ株式会社 表示システム、表示制御装置及び表示制御方法
US11322243B2 (en) * 2019-10-18 2022-05-03 Neosoft, Llc Method and system for identifying and displaying medical images
US11798523B2 (en) * 2020-01-31 2023-10-24 Soundtrap Ab Systems and methods for generating audio content in a digital audio workstation
JP7092244B1 (ja) 2021-08-30 2022-06-28 コニカミノルタ株式会社 医療情報管理装置及び医療情報管理プログラム
CN114066875A (zh) * 2021-11-25 2022-02-18 数坤(北京)网络科技股份有限公司 切片图像处理方法、装置、存储介质及终端设备
US11775153B2 (en) * 2022-02-17 2023-10-03 Fujifilm Medical Systems U.S.A., Inc. Assessing measurement errors in software calculations

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001155019A (ja) * 1999-11-25 2001-06-08 Olympus Optical Co Ltd 類似画像検索装置
AU2001291175A1 (en) * 2000-09-21 2002-04-02 Md Online Inc. Medical image processing systems
US7597663B2 (en) * 2000-11-24 2009-10-06 U-Systems, Inc. Adjunctive ultrasound processing and display for breast cancer screening
US7155043B2 (en) * 2001-11-21 2006-12-26 Confirma, Incorporated User interface having analysis status indicators
JP4182794B2 (ja) * 2003-04-02 2008-11-19 コニカミノルタエムジー株式会社 医用画像表示方法及び医用画像表示システム
JP4912015B2 (ja) * 2006-04-05 2012-04-04 富士フイルム株式会社 類似画像検索装置および方法並びにプログラム
JP2008253292A (ja) * 2007-03-30 2008-10-23 Fujifilm Corp 症例画像検索装置及びシステム
JP2009045121A (ja) * 2007-08-14 2009-03-05 Fujifilm Corp 医用画像処理システム、医用画像処理方法、及びプログラム
JP2009078050A (ja) * 2007-09-27 2009-04-16 Fujifilm Corp 医用レポート作成システム及び医用レポート作成方法
US8520978B2 (en) * 2007-10-31 2013-08-27 Mckesson Technologies Inc. Methods, computer program products, apparatuses, and systems for facilitating viewing and manipulation of an image on a client device
JP2009232970A (ja) * 2008-03-26 2009-10-15 Konica Minolta Medical & Graphic Inc 医用画像管理装置、印刷画像順設定方法、及びプログラム
EP2280690A2 (en) * 2008-04-18 2011-02-09 Nanobio Corporation Methods for treating herpes virus infections
US20120003225A1 (en) * 2008-05-09 2012-01-05 Duke University Autoantibodies in the detection and treatment of cancer
US20100063842A1 (en) * 2008-09-08 2010-03-11 General Electric Company System and methods for indicating an image location in an image stack
JP2010082001A (ja) * 2008-09-29 2010-04-15 Toshiba Corp 画像表示装置
JP5395393B2 (ja) * 2008-10-03 2014-01-22 株式会社日立メディコ 画像診断装置
JP5374169B2 (ja) * 2009-01-21 2013-12-25 オリンパスメディカルシステムズ株式会社 画像表示装置
JP5383431B2 (ja) * 2009-10-27 2014-01-08 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP4931027B2 (ja) * 2010-03-29 2012-05-16 富士フイルム株式会社 医用画像診断支援装置および方法、並びにプログラム
SG10201503534RA (en) * 2010-05-06 2015-06-29 Sequenta Inc Monitoring health and disease status using clonotype profiles
JP5700964B2 (ja) * 2010-07-08 2015-04-15 富士フイルム株式会社 医用画像処理装置、方法およびプログラム
WO2012132840A1 (ja) * 2011-03-30 2012-10-04 オリンパスメディカルシステムズ株式会社 画像管理装置、方法、及びプログラム、並びにカプセル型内視鏡システム
JP2012230528A (ja) * 2011-04-26 2012-11-22 Canon Inc 画像処理装置および画像処理装置の制御方法
WO2013103424A2 (en) * 2011-10-11 2013-07-11 Tufts University Silk-based multifunctional biomedical platform
EP3466335A1 (en) * 2011-12-21 2019-04-10 Catherine M. Shachaf Fluorescence imaging autofocus method
JP5789211B2 (ja) * 2012-03-23 2015-10-07 富士フイルム株式会社 類似画像検索装置、方法及びプログラム
JP5871104B2 (ja) * 2013-08-01 2016-03-01 パナソニック株式会社 病変判定装置、類似症例検索装置、病変判定装置の駆動方法、類似症例検索装置の駆動方法、およびプログラム

Also Published As

Publication number Publication date
US20200320336A1 (en) 2020-10-08
EP3151143A1 (en) 2017-04-05
JP2021010777A (ja) 2021-02-04
CN106557536B (zh) 2021-12-21
US20170091582A1 (en) 2017-03-30
JP7065436B2 (ja) 2022-05-12
JP2017064389A (ja) 2017-04-06
US10726295B2 (en) 2020-07-28
JP2020116429A (ja) 2020-08-06
CN106557536A (zh) 2017-04-05
JP6793332B2 (ja) 2020-12-02

Similar Documents

Publication Publication Date Title
JP6960612B2 (ja) 制御方法及びプログラム
JP6874193B2 (ja) 情報端末、制御方法及びプログラム
JP6907381B2 (ja) 制御方法及びプログラム
JP6799115B2 (ja) 情報端末の制御方法及びプログラム
US11179036B2 (en) Control method of information terminal and computer-readable recording medium
US11185228B2 (en) Control method of information terminal and computer-readable recording medium
JP6722857B2 (ja) 制御方法及びプログラム
JP6697743B2 (ja) 情報端末の制御方法及びプログラム
JP6675099B2 (ja) 制御方法及びプログラム
JP6664113B2 (ja) 情報端末の制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201023

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210831

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210927

R151 Written notification of patent or utility model registration

Ref document number: 6960612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151