JP6722857B2 - 制御方法及びプログラム - Google Patents

制御方法及びプログラム Download PDF

Info

Publication number
JP6722857B2
JP6722857B2 JP2016168087A JP2016168087A JP6722857B2 JP 6722857 B2 JP6722857 B2 JP 6722857B2 JP 2016168087 A JP2016168087 A JP 2016168087A JP 2016168087 A JP2016168087 A JP 2016168087A JP 6722857 B2 JP6722857 B2 JP 6722857B2
Authority
JP
Japan
Prior art keywords
image
interest
region
similar
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016168087A
Other languages
English (en)
Other versions
JP2017064387A (ja
Inventor
和紀 小塚
和紀 小塚
和豊 高田
和豊 高田
近藤 堅司
堅司 近藤
豊彦 坂井
豊彦 坂井
浩彦 木村
浩彦 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JP2017064387A publication Critical patent/JP2017064387A/ja
Application granted granted Critical
Publication of JP6722857B2 publication Critical patent/JP6722857B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/0044Display of information to the user, e.g. menus for image preview or review, e.g. to help the user position a sheet
    • H04N1/00442Simultaneous viewing of a plurality of images, e.g. using a mosaic display arrangement of thumbnails
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Epidemiology (AREA)
  • Public Health (AREA)
  • Primary Health Care (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Processing Or Creating Images (AREA)

Description

本開示は、読影対象の医用画像と類似する類似医用画像を検索するための情報端末の制御方法及びプログラムに関する。
近年、例えば、CT(Computed Tomography)、MRI(Magnetic Resonance Imaging)等の医用画像装置が発達及び普及している。これらCT又はMRI等は、デジタル化された高精細な医用画像を大容量で取得することを可能にした。また、医師が読影した医用画像は読影レポートと共にPACS(Picture Archiving and Communication Systems)に順次蓄積されつつある。ここで、例えば特許文献1に開示されるように、新たな読影の参考とするため、読影対象の医用画像と類似した過去の医用画像を、PACSに蓄積済の過去症例から検索する技術が開発され始めている。
特開2008−257292号公報
しかしながら、更なる改善が必要とされていた。
本開示の一態様は、情報端末の制御方法であって、前記情報端末のコンピュータに対して、読影対象の医用画像である対象医用画像において関心領域を示す情報が入力されたか否かを検知させ、前記対象医用画像と所定の類似度を有する複数の類似医用画像を症例検索システムから受信させ、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、前記入力された関心領域を示す情報が1個の前記関心領域を示す場合には、前記アキシャル画像をディスプレイに表示させ、前記入力された関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合には、前記コロナル画像を前記ディスプレイに表示させるものである。
なお、この包括的または具体的な態様は、装置、システム、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能な記録媒体で実現されてもよく、装置、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。コンピュータ読み取り可能な記録媒体は、例えばCD−ROM(Compact Disc−Read Only Memory)などの不揮発性の記録媒体を含む。
本開示によれば、更なる改善が実現できる。本開示の一態様の付加的な恩恵及び有利な点は本明細書及び図面から明らかとなる。この恩恵及び/又は有利な点は、本明細書及び図面に開示した様々な態様及び特徴により個別に提供され得るものであり、その1以上を得るために全てが必要ではない。
本実施の形態における情報端末が適用された病院情報システムの全体構成図である。 情報端末、医用情報管理システム、及び症例検索システムの構成を示すブロック図である。 2台のディスプレイの外観図である。 情報端末の実装形態の構成例を示す図である。 情報端末にて類似症例検索アプリケーションを起動した直後にディスプレイに表示される基本画面の一例を示す図である。 検索クエリ画像に1つの関心領域が設定されたときに、情報端末にて類似症例検索アプリケーションを起動した直後にディスプレイに表示される基本画面の一例を示す図である。 検索クエリ画像に2つ以上の関心領域が設定されたとき及び関心領域が設定されなかったときに、情報端末にて類似症例検索アプリケーションを起動した直後にディスプレイに表示される基本画面の一例を示す図である。 症例表示領域に表示されるある1つの類似症例の表示領域を取り出して示した図である。 病名リスト表示領域の拡大図である。 「真菌症」で類似症例が絞り込まれたときの基本画面を示す図である。 「転移性肺癌」で類似症例が絞り込まれたときの基本画面を示す図である。 分布リスト表示領域の拡大図である。 両側性のチェックボックスにチェックマークが入力された分布リスト表示領域を示す図である。 両側性の病変分布で絞り込みがかけられた基本画面を示した図である。 患者情報のデータ構成を示す図である。 図15に示す患者情報に登録された検査情報のデータ構成を示す図である。 医用画像データベースのデータ構成を示す図である。 診断レポートのデータ構成を示す図である。 限局性病変の類似症例データのデータ構成を示す図である。 びまん性病変の類似症例データのデータ構成を示す図である。 検索クエリ画像のスライス画像に設定された2個の関心領域を模式的に示した図である。 ユーザが1個の関心領域を設定した場合に、情報端末が、医用情報管理システムから診断対象症例を取得した後、症例検索システムに対して類似症例検索の要求を行い、症例検索システムが類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。 検査リストの画面図である。 検査が選択された後の検査リストの画面図である。 ユーザによりシリーズが選択された際にディスプレイに表示されるスライス画像を示した図である。 ユーザにより類似症例検索アプリケーションが起動された際にディスプレイに表示されているスライス画像を示す図である。 症例検索システムが類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末に返すまでの処理を示すシーケンス図である。 図27のS610の処理の一例を示すフローチャートである。 図27のS620の処理の一例を示すフローチャートである。 図27のS670に示す初期の基本画面を生成する処理の詳細を示すフローチャートである。 図30のS1300で生成される病名リストのデータ構成を示す図である。 病名リスト表示領域の第1表示例を示した図である。 病名リスト表示領域の第2表示例を示した図である。 病名リスト表示領域の第3表示例を示した図である。 図33に示す病名リスト表示領域の画面遷移を示す図である。 図30のS1400で生成される分布リストのデータ構成を示す図である。 図36に示す分布リストを用いて生成された分布リスト表示領域を示す図である。 大きいサイズの病変部に関心領域が設定された診断対象症例のスライス画像を示す図である。 図27のS610の処理の図28と異なる例を示すフローチャートである。 図27のS620の処理の図29と異なる例を示すフローチャートである。 症例検索システムが画像特徴を抽出する態様を採用した場合の情報端末、医用情報管理システム、及び症例検索システムのブロック図である。 情報端末が、医用情報管理システムから診断対象症例を取得した後、症例検索システムが類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。 症例検索システムが類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末に返すまでの処理を示すシーケンス図である。 ユーザが関心領域を設定しない場合、または2つ以上の関心領域を設定した場合に、情報端末が、医用情報管理システムから診断対象症例を取得した後、症例検索システムに対して類似症例検索の要求を行い、症例検索システムが類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。 図44と異なる例を示すシーケンス図である。
(本開示に係る一態様を発明するに至った経緯)
まず、本開示に係る一態様の着眼点について説明する。
特許文献1は、診断対象画像に基づく画像診断時に疾患の判断に有用な症例画像又はその疾患に関する統計情報等を提示する画像診断支援装置を開示する。当該画像診断支援装置による検索結果の画面は、診断対象画像及び疾患別の代表症例の情報を表示する。具体的には、前記検索結果の画面は、i)上位3つの疾患A、D、Gの代表症例の画像、ii)疾患別に診断対象画像との類似度、登録症例数及び代表症例数、iii)検索件数(検索された疾患の総数)、及び、iv)一画面に表示できない他の疾患の情報を参照するための「ページ送り」のソフトボタン等を表示する(特許文献1の段落[0062]から[0063]及び図6(E))。
しかし、特許文献1では、検索結果の画面において、疾患別に代表症例の画像の表示形態を変更させることについての記載は一切ない。したがって、特許文献1は、疾患別に代表症例の画像の表示形態を変更させることさえ開示をしないので、例えば、疾患別に代表症例の画像をアキシャル画像で表示させたり、コロナル画像で表示させる等の工夫をも開示していない。
以上の考察により、本願発明者らは、以下の発明の各態様を想到するに至った。
本開示の一態様は、情報端末の制御方法であって、前記情報端末のコンピュータに対して、読影対象の医用画像である対象医用画像において関心領域を示す情報が入力されたか否かを検知させ、前記対象医用画像と所定の類似度を有する複数の類似医用画像を症例検索システムから受信させ、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、前記入力された関心領域を示す情報が1個の前記関心領域を示す場合には、前記アキシャル画像をディスプレイに表示させ、前記入力された関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合には、前記コロナル画像を前記ディスプレイに表示させるものである。
本態様によると、対象医用画像と所定の類似度を有する複数の類似医用画像が症例検索システムから受信され、受信された複数の類似医用画像がディスプレイに表示される。これにより、医用画像データベースに登録されている膨大な医用画像の中から、対象医用画像に表れている病変の病名を検討するために参考となる類似医用画像を効率的に抽出して、医師に提示できる。
ここで、病変の分布形態として、びまん性病変と限局性病変との2つがある。びまん性病変では、病変部が臓器全体に広範囲に分布している。一方、限局性病変では、病変部が臓器内の一部に局所的に分布している。
びまん性病変では、その病変部の広がっている領域の大きさが病名を特定する際に非常に重要な情報となる。例えば、肺の医用画像の場合には、病変部が、肺の上葉、中葉、下葉のいずれまで広がっているかが、病名を特定する際に非常に有用な情報となる。そのため、類似症例検索システムにおいて、びまん性病変の類似医用画像をディスプレイに表示する際には、その病変部の全体が一目で判別できるコロナル画像を表示することが望ましい。
一方、限局性病変では、病変部が血管(例えば肺の場合には、血管及び気道)の方向に沿って存在しているか否かと、病変部の3次元的な形状との2つが病名を特定する際に非常に重要な情報となる。そのため、類似症例検索システムにおいて、限局性病変の類似医用画像をディスプレイに表示する際には、その病変部が血管の方向に沿って存在しているか否かと、病変部の3次元的な形状とを確認できるアキシャル画像を表示することが望ましい。
また、対象医用画像が限局性病変であるかびまん性病変であるかの判別は、対象医用画像の中の関心領域を示す指定情報が入力されたか否かと、入力された指定情報が示す関心領域の数とに基づいて判別することができる。なぜならば、医師が指定する関心領域は対象医用画像の中に含まれる病変部であるため、指定情報が1個の関心領域を示す場合は、限局性病変であると判別できる。一方、指定情報が2個以上の関心領域を示す場合は、病変部が広範囲にわたっているので、びまん性病変であると判別できる。また、一つの病変部が広範囲にわたっている場合には、医師は、関心領域を示す指定情報を入力しないこともある。したがって、指定情報が入力されない場合には、びまん性病変であると判別できる。
本態様によると、複数の類似医用画像をディスプレイに表示する際に、指定情報が1個の関心領域を示す場合にはアキシャル画像が用いられ、指定情報が2個以上の関心領域を示す場合又は指定情報が入力されていない場合には、コロナル画像が用いられる。つまり、指定情報が1個の関心領域を示す場合には、医師が検討したい類似医用画像は、限局性病変である可能性が高い。このため、ディスプレイにアキシャル画像が表示される。一方、指定情報が2個以上の関心領域を示す場合又は指定情報が入力されていない場合には、医師が検討したい類似医用画像は、びまん性病変である可能性が高い。このため、ディスプレイにコロナル画像が表示される。これにより、医師に対して、病名を特定するために必要な情報である類似医用画像を効果的かつ効率的に提示することができる。
上記態様において、入力された前記関心領域を示す情報が1個の前記関心領域を示す場合は、前記対象医用画像の関心領域と前記複数の医用画像の各々の関心領域は所定の類似度を有し、入力された前記関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合は、前記対象医用画像を含む画像群と前記複数の医用画像の各々の医用画像を含む画像群は所定の類似度を有してもよい。
上記態様において、前記アキシャル画像は被験者の長手方向に関する軸に関して垂直断面が断層面である画像であり、前記コロナル画像は前記被験者の長手方向に関する軸と平行な面と0度以上から45度以下の角度をなす面が断層面の画像であってもよい。
上記態様において、例えば、
前記複数の類似医用画像の各々は、断層撮影法により撮影され、かつ第1の方向に沿って並べられた画像群の中の1つの医用画像であり、
前記アキシャル画像は、前記画像群の中の前記関心領域に相当する領域の面積値が最大の医用画像であってもよい。
本態様によると、関心領域に相当する領域の面積値が最大となるアキシャル画像がディスプレイに表示される。つまり、ディスプレイに表示される類似医用画像は、症例ごとに、画像群の中で病変部の大きさが最大の医用画像である。ここで、病変部が最大の類似医用画像を表示することは、その病変部の特徴が良く表れている医用画像を提示することとなる。そのため、本態様によると、病変部の特徴が良く表れている類似医用画像が提示されるため、医師の正確な診断に寄与することができる。
上記態様において、例えば、
前記複数の類似医用画像の各々は、断層撮影法により撮影され、かつ第1の方向に沿って並べられた画像群の中の1つの医用画像であり、
前記関心領域を示す情報が入力された場合、前記コロナル画像は、前記画像群の中の複数の前記関心領域に相当する領域の面積値が最大の医用画像であってもよい。
本態様によると、複数の関心領域に相当する領域の面積値が最大となるコロナル画像ディスプレイにが表示される。つまり、ディスプレイに表示される類似医用画像は、症例ごとに、画像群の中で病変部の大きさが最大の医用画像である。ここで、病変部が最大の類似医用画像を表示することは、その病変部の特徴が良く表れている医用画像を提示することとなる。そのため、本態様によると、病変部の特徴が良く表れている類似医用画像が提示されるため、医師の正確な診断に寄与することができる。
本開示の別の態様は、
情報端末の制御方法であって、
前記情報端末のコンピュータに対して、
読影対象の医用画像である対象医用画像において関心領域を示す情報を検知させ、
複数の類似医用画像を症例検索システムから受信させ、前記複数の類似医用画像の各々は前記対象医用画像に基づき選択され、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、
前記関心領域が前記対象医用画像の中に占める割合値が所定の閾値未満である場合には、前記アキシャル画像をディスプレイに表示させ、前記割合値が前記閾値以上である場合には、前記コロナル画像を前記ディスプレイに表示させるものである。
本態様によると、対象医用画像と所定の類似度を有する複数の類似医用画像が症例検索システムから受信され、受信された複数の類似医用画像がディスプレイに表示される。これにより、医用画像データベースに登録されている膨大な医用画像の中から、対象医用画像に表れている病変の病名を検討するために参考となる類似医用画像を効率的に抽出して、医師に提示できる。
ここで、病変の分布形態として、限局性病変とびまん性病変との2つがある。限局性病変では、病変部が臓器内の一部に局所的に分布している。一方、びまん性病変では、病変部が臓器全体に広範囲に分布している。
びまん性病変では、その病変部の広がっている領域の大きさが病名を特定する際に非常に重要な情報となる。例えば、肺の医用画像の場合には、病変部が、肺の上葉、中葉、下葉のいずれまで広がっているかが、病名を特定する際に非常に有用な情報となる。そのため、類似症例検索システムにおいて、びまん性病変の類似医用画像をディスプレイに表示する際には、その病変部の全体が一目で判別できるコロナル画像を表示することが望ましい。
一方、限局性病変では、病変部が血管(例えば肺の場合には、血管及び気道)の方向に沿って存在しているか否かと、病変部の3次元的な形状との2つが病名を特定する際に非常に重要な情報となる。そのため、類似症例検索システムにおいて、限局性病変の類似医用画像をディスプレイに表示する際には、その病変部が血管の方向に沿って存在しているか否かと、病変部の3次元的な形状とを確認できるアキシャル画像を表示することが望ましい。
また、対象医用画像が限局性病変であるかびまん性病変であるかの判別は、対象医用画像の中の関心領域が対象医用画像の中に占める割合値に基づいて判別することができる。なぜならば、医師が指定する関心領域は、対象医用画像の中に含まれる病変部であるため、例えば関心領域の対象医用画像の中に占める大きさの割合が所定の閾値未満である場合には、病変部が臓器の1箇所に存在している限局性病変であると判別することができる。一方、例えば関心領域の対象医用画像の中に占める大きさの割合が所定の閾値以上である場合には、病変部が臓器全体に広がっているびまん性病変であると判別することができる。
関心領域が対象医用画像の中に占める割合値として、対象医用画像に含まれる臓器の面積に対する、関心領域の面積の比率を用いてもよい。なお、関心領域が設定される際には、関心領域を矩形として、臓器以外の領域も含んで関心領域が設定されることが多い。そこで、関心領域が対象医用画像の中に占める割合値として、対象医用画像に含まれる臓器の面積に対する、関心領域と臓器とが重なった領域の面積の比率を用いてもよい。但し、関心領域と臓器とが重なった領域ではなくて、単純に関心領域を用いる方が、計算を簡易にすることができる。
本態様によると、複数の類似医用画像をディスプレイに表示する際に、関心領域が対象医用画像の中に占める割合値が所定の閾値未満である場合には、アキシャル画像が用いられ、上記割合値が上記閾値以上である場合には、コロナル画像が用いられる。つまり、上記割合値が所定の閾値未満である場合、医師が検討したい類似医用画像は限局性病変である可能性が高い。このため、ディスプレイにアキシャル画像を表示させる。一方、上記割合値が所定の閾値以上である場合、医師が検討したい類似医用画像はびまん性病変である可能性が高い。このため、ディスプレイにコロナル画像を表示させる。これにより、医師に対して、病名を特定するために必要な情報である類似医用画像を効果的かつ効率的に提示することができる。
上記態様において、例えば、
前記対象医用画像は、断層撮影法により撮影された肺の医用画像であり、
前記割合値は、前記対象医用画像に含まれる前記肺の面積に対する、前記関心領域と前記肺とが重なった領域の面積の比率であり、
前記閾値は、4分の1であってもよい。
経験的に、対象医用画像に含まれる肺の面積に対する、関心領域と肺とが重なった領域の面積の比率が、4分の1未満である場合に限局性病変と判断され、4分の1以上である場合にびまん性病変と判断されている。本態様によると、対象医用画像に含まれる肺の面積に対する、関心領域と肺とが重なった領域の面積の比率が、4分の1未満である場合にはアキシャル画像が用いられ、4分の1以上である場合には、コロナル画像が用いられる。したがって、医師に対して、病名を特定するために必要な情報である類似医用画像を効果的かつ効率的に提示することができる。
上記態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記入力された関心領域を示す情報により示される前記関心領域と前記対象医用画像とに基づいて前記割合値を算出させてもよい。
上記態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記入力された関心領域を示す情報を前記症例検索システムに送信させ、
前記割合値を前記症例検索システムから受信させてもよい。
上記態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させてもよい。
上記態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す情報を前記症例検索システムに送信させ、
前記対象医用画像及び前記関心領域を示す情報から得られる前記関心領域の特徴量と前記所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させてもよい。
本開示の別の態様は、情報端末のコンピュータに対して、読影対象の医用画像である対象医用画像において関心領域を示す情報が入力されたか否かを検知させ、前記関心領域の各々は1つの連続領域であり、複数の類似医用画像を症例検索システムから受信させ、前記複数の類似医用画像の各々は前記対象医用画像に基づき選択され、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、前記入力された関心領域を示す情報が1個の前記関心領域を示す場合には、前記アキシャル画像をディスプレイに表示させ、前記入力された関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合には、前記コロナル画像である前記受信した複数の類似医用画像を前記ディスプレイに表示させる、制御方法である。
上記態様において、入力された前記関心領域を示す情報が1個の前記関心領域を示す場合は、前記対象医用画像の関心領域と前記複数の医用画像の各々の関心領域は所定の類似度を有し、入力された前記関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合は、前記対象医用画像を含む画像群と前記複数の医用画像の各々の医用画像を含む画像群は所定の類似度を有してもよい。
上記態様において、前記アキシャル画像は被験者の長手方向に関する軸に関して垂直断面が断層面である画像であり、前記コロナル画像は前記被験者の長手方向に関する軸と平行な面と0度以上から45度以下の角度をなす面が断層面の画像であってもよい。
(実施の形態)
以下本開示の一実施の形態について、図面を参照しながら説明する。なお、各図面において、同じ構成要素については同じ符号が用いられている。
(全体構成)
図1は、本実施の形態における情報端末が適用された病院情報システムの全体構成図である。図1に示すように、病院情報システムは、情報端末100、医用情報管理システム200、及び症例検索システム300を備えている。
情報端末100、医用情報管理システム200、及び症例検索システム300はネットワーク400を介して相互に通信可能に接続されている。
なお、医用情報管理システム200及び症例検索システム300は必ずしも病院の中に配置される必要はなく、病院外のデータセンター、プライベートクラウドサーバ、パブリッククラウドサーバ等の上で動作するソフトウェアであってもよい。医用情報管理システム200及び症例検索システム300が病院内に設置されている場合、ネットワーク400としては、ローカルエリアネットワークが採用できる。ローカルネットワークとしては、IEEE802.3シリーズの有線LAN、IEEE802.11シリーズの無線LAN、或いは両者が混在するネットワークが採用できる。医用情報管理システム200及び症例検索システム300が病院外のサーバを用いて実現される場合、ネットワーク400としては、インターネットが採用できる。
情報端末100としては、パーソナルコンピュータやタブレット端末等の情報端末が採用される。医用情報管理システム200としては、PACS(Picture Archiving and Communication Systems)や電子カルテシステム等が採用される。
(情報端末100)
図2は、情報端末100、医用情報管理システム200、及び症例検索システム300の構成を示すブロック図である。図2に示すように、情報端末100は、ディスプレイ101、操作部102、入力制御部103、表示制御部104、ROI管理部105、病名リスト管理部108、分布リスト管理部109、通信制御部110を備える。
ディスプレイ101は、例えば、液晶モニタにより構成され、診断対象となる医用画像及びカルテ画像を表示すると共に、診断結果を記入するためのレポート入力画像等を表示する。なお、ディスプレイ101は最低1台必要だが、通常、画像診断においては2〜3台のディスプレイ101が用いられる。本実施の形態では2台のディスプレイ101が用いられ、一方のディスプレイ101をディスプレイ101aとし、他方のディスプレイ101をディスプレイ101bとする(図3参照)。
図3は、2台のディスプレイ101a、101bの外観図である。図3では、ディスプレイ101aには、4つの医用画像ビューワが2行2列の配置で表示されており、ディスプレイ101bには症例検索システム300の画面が表示されている。なお、ディスプレイ101を1台とした場合、2つの表示画面が1台のディスプレイ101の表示画面上に領域を分けて表示される。
操作部102は、例えば、キーボード及びマウスを含み、情報端末100に対してユーザにより入力される種々の操作を受け付ける。例えば、操作部102は、ディスプレイ101に表示される医用画像及びカルテ画像に対するユーザからの操作、並びにレポート入力画面に対して診断結果を入力する操作等を受け付ける。
入力制御部103は、操作部102へのユーザの操作を検知すると、その操作の内容を解釈し、他の構成要素に操作内容を通知する。例えば、入力制御部103は、操作部102としてのマウスから出力される座標データからディスプレイ101上におけるマウスポインタの位置を検知し、ディスプレイ101上にマウスポインタを表示させる。そして、入力制御部103は、マウスがクリックされたことを検知したときにマウスポインタの表示位置に表示制御部104で生成されたGUI(Graphical User Interface)部品(例えば、GUIボタン)が表示されていれば、そのGUIをユーザが選択したと判定し、他の構成要素にそのGUI部品がユーザにより選択されたことを通知する。
表示制御部104は、情報端末100のGUIを生成し、ディスプレイ101に表示させる。
ROI管理部105は、類似症例検索を行う際に、後述する検索クエリ画像に対して設定される関心領域(Region Of Interest)を示す関心領域情報を生成してメモリに格納し、関心領域情報を管理する。
病名リスト管理部108は、症例表示領域710(図6)に表示された類似症例の病名リスト(図9)を生成してメモリに格納し、病名リストを管理する。
分布リスト管理部109は、症例表示領域710に表示された類似症例の病変分布を示す分布リスト(図12)を生成してメモリに格納し、分布リストを管理する。
通信制御部110は、例えば、情報端末100をネットワーク400に接続するための通信装置を含み、情報端末100及び医用情報管理システム200間の通信や、情報端末100及び症例検索システム300間の通信を制御する。また、通信制御部110は、他のブロックから種々のデータの送信依頼を受け付けて、医用情報管理システム200又は症例検索システム300に送信すると共に、医用情報管理システム200又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
(医用情報管理システム200)
図2に示すように、医用情報管理システム200は、患者情報蓄積部201、患者情報管理部202、医用画像データ蓄積部203、医用画像データ管理部204、診断レポート管理部205、及び通信制御部206を備える。
患者情報蓄積部201は、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録された患者情報1000(図15)を蓄積する。
患者情報管理部202は、患者情報蓄積部201に蓄積された患者情報1000(図15)に対して、ユーザから入力されたデータを登録して患者情報1000を更新する処理、及び患者情報1000を表示制御部104に出力する処理等を実行し、患者情報1000を管理する。医用画像データ蓄積部203は、患者の検査画像である医用画像データを蓄積する。
医用画像データ管理部204は、医用画像データを医用画像データ蓄積部203に蓄積し、医用画像データを管理する。
診断レポート管理部205は、患者に対して行われた各検査に対する医師による診断結果を示す診断レポート3000(図18)を管理する。
通信制御部206は、例えば、医用情報管理システム200をネットワーク400に接続するための通信装置を含み、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は症例検索システム300に送信すると共に、情報端末100又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
(症例検索システム300)
図2に示すように、症例検索システム300は、類似症例データ蓄積部301、画像特徴抽出部302、類似症例検索部303及び通信制御部304を備える。
類似症例データ蓄積部301は、予め、医用情報管理システム200に管理されている類似症例のうち、類似症例検索の対象データとして選定された多数の類似症例から抽出された画像特徴や、生成されたサムネイル画像等が登録された限局性病変の類似症例データ4000(図19)、びまん性病変の類似症例データ5000(図20)を蓄積する。
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報で特定される領域(関心領域)の画像特徴を抽出する(関心領域の個数が1個の場合)。画像特徴抽出部302は、情報端末100の通信制御部110から送信されたシリーズ画像の画像特徴を抽出する(関心領域が設定されない(=関心領域の個数が0個)場合、または、関心領域の個数が2個以上の場合。変形された実施形態では、関心領域の面積割合値が所定値以上の場合)。なお、関心領域情報は、関心領域を示す指定情報の一例である。
本実施形態では、ユーザが入力した関心領域の個数により画像特徴の抽出内容を変更する。すなわち、画像特徴抽出部302は、関心領域情報が1個の関心領域を示す場合には、限局性病変用に予め定められた画像特徴を複数種類(複数次元)抽出する。また、画像特徴抽出部302は、関心領域情報が2個以上の関心領域を示す場合及び関心領域情報に関心領域が含まれていない場合には、びまん性病変用に予め定められた画像特徴を複数種類(複数次元)抽出する。
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された1以上の類似症例の画像特徴とをそれぞれ比較することで類似症例検索結果を生成する。
通信制御部304は、例えば、症例検索システム300をネットワーク400に接続させる通信装置で構成され、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は医用情報管理システム200に送信すると共に、情報端末100又は医用情報管理システム200から送信されたデータを受信し、該当するブロックに渡す。
(実装形態)
図4は、情報端末100の実装形態の構成例を示す図である。図4に示すように、情報端末100は、アプリケーション501、OS(Operating System)502、メモリ503、及び図示しないその他のハードウェアを備えている。
アプリケーション501は、パーソナルコンピュータやタブレット端末を情報端末100として機能させるためのアプリケーションソフトウェアであり、情報端末100のプロセッサにより実行される。情報端末100は、コンピュータ読み取り可能な記録媒体からアプリケーション501を読み出してアプリケーション501を実装してもよいし、ネットワークからダウンロードすることでアプリケーション501を実装してもよい。
ここで、アプリケーション501は、医用情報管理アプリケーション及び類似症例検索アプリケーションを含む。医用情報管理アプリケーションは、情報端末100を医用情報管理システム200と連携させるためのアプリケーションであり、類似症例検索アプリケーションは、情報端末100を症例検索システム300と連携させるためのアプリケーションである。そして、両アプリケーションは、相互にデータを送受し、情報端末100において、医用情報管理システム200及び症例検索システム300が提供するサービスを統合させる。
OS502は、情報端末100の基本ソフトウェアであり、情報端末100のプロセッサにより実行される。メモリ503は、情報端末100が備えるRAM、ROM等の記憶装置により構成され、アプリケーション501に含まれるデータ群を記憶する。
情報端末100のプロセッサがアプリケーション501を実行することで、図2に示す入力制御部103、表示制御部104、ROI管理部105、病名リスト管理部108、分布リスト管理部109、通信制御部110の機能が実現される。
但し、本実施の形態では、情報端末100は、アプリケーション501のみ単独で実装されてもよいし、アプリケーション501及びOS502で実装されてもよいし、アプリケーション501、OS502、及びメモリ503で実装されてもよいし、アプリケーション501、OS502、メモリ503、及びその他の図示しないハードウェアで実装されてもよい。いずれの実装形態においても本実施の形態の情報端末100を実現することは可能である。
(読影フロー〜表示画面)
図5は、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101aに表示される基本画面K1の一例を示す図である。図5に示す基本画面K1は、4つの医用画像ビューワ610〜640で構成されている。医用画像は、通常、DICOM(Digital Imaging and Communication in Medicine)フォーマットで記録されており、医用画像ビューワ610〜640はDICOMを扱えるビューワである。本実施の形態で扱う医用画像は、DICOMフォーマットの多数の断層画像(以下、スライス画像と呼ぶ。)で構成される胸部CT画像とする。但し、これは一例に過ぎず、他の部位(例えば、頭部、腹部、脚、或いは腕)のCT画像が採用されてもよい。
医用画像ビューワ610〜640に表示された胸部CT画像は、マウスやキーボードの操作により、スライス画像が切り替えられる。ここで、胸部CT画像を構成するスライス画像は、例えば、首側から腹側に向かう順番に配置されている。
例えば、医用画像ビューワ610上にマウスポインタが位置決めされ、マウスホイールの回転が入力制御部103で検知されると、表示制御部104は、検知された回転量に応じて医用画像ビューワ610に表示されているスライス画像を切り替える。ここで、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの後方側に1クリック分回転されると、表示中のスライス画像を次のスライス位置のスライス画像に切り替える。一方、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの前方側に1クリック分回転されると、表示中のスライス画像をスライス位置が1つ前のスライス画像に切り替える。よって、医師等のユーザはマウスホイールを前方側又は後方側に回転させながら、医用画像ビューワ610に表示されるスライス画像を適宜切り替え、所望のスライス画像を探索する。
なお、医用画像としては、胸部CT画像に代えて、MRI(Magnetic Resonance Imaging)画像が採用されてもよい。また、図5の例では、医用画像ビューワの個数は4個とされているが、これは一例にすぎず、6個や8個等別の個数が採用されてもよい。医用画像ビューワの個数が多くなると同時に比較できる画像が増えるが、1画像当たりの表示面積が狭くなる。そのため、この個数はディスプレイ101aの表示サイズに応じて適宜変更可能な構成を採用すればよい。ここでは、医用画像ビューワの個数は、ユーザ又は管理者が自由に変更できるものとする。
類似症例検索アプリケーションが起動される前には、ディスプレイ101aの全域には、ある患者の胸部CT画像のスライス画像が表示されている。そして、この状態で、読影者等のユーザにより類似症例検索アプリケーションが起動されると医用画像ビューワ610には、ディスプレイ101aの全域に表示されていたスライス画像が表示される。
つまり、医用画像ビューワ610には、ユーザが類似症例検索アプリケーションを起動させたときに、ディスプレイ101aの全域に表示されていた検索クエリ画像が初期表示される。なお、表示制御部104は、検索クエリ画像上に類似症例検索を行う対象の関心領域(ROI:Region Of Interest)を重畳表示してもよい。検索クエリ画像は読影対象の医用画像である対象医用画像の一例である。ここでの関心領域は、医用画像ビューワ610に表示される医用画像において、四角で囲まれる領域を意味する。言い換えると、関心領域は、四角で囲まれている連続領域である。なお、関心領域は、医用画像中において、円または多角形で囲まれた領域として表示されても良い。関心領域を囲む形に依存せず、関心領域と他の領域とが区別される表示であれば良い。
図5では、他の医用画像ビューワ620〜640には何の画像も表示されていないが、診断対象となる患者の検査画像が複数あり、類似症例検索アプリケーションが起動される前に、ディスプレイ101aに複数の検査画像が表示されていた場合、表示制御部104は、医用画像ビューワ620〜640にこれら複数の検査画像をそのまま表示すればよい。
図6は、検索クエリ画像に1つの関心領域が設定されたときに、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101bに表示される基本画面K2の一例を示す図である。図6に示す基本画面K2は、症例表示領域710、病名リスト表示領域730、及び分布リスト表示領域750を備える。症例表示領域710は、検索クエリ画像に類似した類似症例のサムネイル画像(axial画像)を類似度順に表示する領域である。ここで、類似症例のサムネイル画像は、類似医用画像の一例である。
図7は、検索クエリ画像に2つ以上の関心領域が設定されたとき及び関心領域が設定されなかったときに、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101bに表示される基本画面K2の一例を示す図である。図7に示す基本画面K2は、症例表示領域710、病名リスト表示領域730を備える。症例表示領域710は、検索クエリ画像に類似した類似症例のサムネイル画像(coronal画像)を類似度順に表示する領域である。ここで、類似症例のサムネイル画像は、類似医用画像の一例である。
図6に示す基本画面K2では、類似症例のサムネイル画像として、axial(アキシャル)画像が表示されている。図7に示す基本画面K2では、類似症例のサムネイル画像として、coronal(コロナル)画像が表示されている。ここで、axial画像とは、体軸に対して垂直な断面画像を意味する。言い換えると、axial画像とは、ユーザの長手方向に対して垂直な断面画像である。本明細書における垂直とは、ユーザの体軸(長手方向)に対して90度に加えて、画像撮像時の誤差範囲を含む。coronal画像とは、身体を前側と後側とに分割する断面画像を意味する。なお、本明細書では、coronal画像は、身体を前側と後側とに左右方向に平行な平面で分割する場合だけでなく、斜め(例えば45度程度まで)に分割した画像も含む。言い換えると、coronal画像とは、ユーザの長手方向に関する軸に対して、平行な面と0度以上から45度以下の角度を有する断面の画像である。ここで、ユーザの長手方向に関する軸に対して、平行な面と0度以上から45度以下の角度は、画像撮像時の誤差範囲を含む。つまり、(0度−画像撮像時の誤差範囲)<coronal画像の断面の角度<45度+画像撮像時の誤差範囲を意味する。
なお、以下では、axial画像表示を例に説明を行うが、coronal画像表示についても、サムネイル画像の生成処理、病名リストの表示処理では同様の処理を行う。
症例表示領域710には多数の類似症例が表示されるため、解像度や画素値の変換をその場で行うと処理に時間がかかってしまう。よって、サムネイル画像は、オリジナルのスライス画像から予め作成され、症例検索システム300に保存されている。
以下、解像度や画素値の変換について少し補足する。オリジナルのスライス画像の解像度は512×512画素であるが、サムネイル画像はより低解像であるため、解像度変換を行う必要がある。そこで、サムネイル画像は、元となるスライス画像に対して低解像度処理及び階調変換処理が行われて生成される。
階調変換処理は例えば、下記のように行われる。CTで取得したスライス画像は各画素値(CT値)が−1000〜+1000(単位HU:Hounsfield Unit)の2000階調の値をとり、そのままでは通常の8ビット階調のディスプレイに表示できない。また、表示できたとしても、2000階調の中で、肺気腫領域(CT値:−1000HU)、肺野の正常組織(CT値:約−900HU)、すりガラス領域(CT値:−800HU)、軟部組織(CT値:−100〜−50HU)、水(CT値:0HU)、及び骨(CT値:1000HU)を人間が肉眼で区別することは難しい。
よって、通常、スライス画像は、各画素値に対してウィンドウレベル及びウィンドウ幅が設定され、8ビットの画素値に再構成されて、ディスプレイに表示される。ここで、ウインドウレベルは、ウインドウの中心となるCT値を示し、ウインドウ幅は、ウインドウ中心の上下の幅を示す。
例えば、肺野条件でDICOM画像が再構成される場合、ウインドウレベルが−550〜−800に設定され、ウインドウ幅が1000〜1600に設定される。したがって、サムネイル画像も、元となるスライス画像から上記の処理によって画素値が8ビットに落とされることで生成される。
なお、症例表示領域710に表示されるサムネイル画像は、診断対象症例の特徴ベクトルに対する距離が所定の閾値以下の類似症例を示すサムネイル画像である。ここでは距離としては、例えば、ユークリッド距離が用いられる。なお、距離としては、市街地距離等の別の距離尺度が採用されてもよい。比較対象となる2つの画像は、距離が近いほど類似している。また、特徴ベクトルは、サムネイル画像から得られたものではなく、元画像であるスライス画像から得られたものが採用される。
図8は、症例表示領域710に表示されるある1つの類似症例の表示領域701を取り出して示した図である。類似症例の表示領域701には、サムネイル画像が表示されており、このサムネイル画像の下部には、確定診断病名表示領域711及び距離表示領域712が配置されている。確定診断病名表示領域711には、対象となる類似症例の確定診断病名が表示される。確定診断病名とは、対象となる類似症例に対して診断が確定された病名を指す。距離表示領域712には、対象となる類似症例のスライス画像の特徴ベクトルと、検索クエリ画像の特徴ベクトルとの距離が表示される。図8の例では、確定診断病名表示領域711には、「非結核性抗酸菌症」と表示されているため、このサムネイル画像は「非結核性抗酸菌症」と確定診断がされた類似症例のサムネイル画像を示す。また、距離表示領域712には、「0.05」と表示されているため、この類似症例のスライス画像と検索クエリ画像との距離が「0.05」であることが示されている。
図8に示されるように、類似症例の表示領域701に示されるサムネイル画像は、対応関心領域CROIを含む。対応関心領域CROIは、検索クエリ画像(読影対象の医用画像)に設定された関心領域に相当する領域(つまり関心領域に類似する領域)である。なお、以下では、対応関心領域は、単に「関心領域」とも称される。
図6に戻り、基本画面K2の例えば左上には、検索結果件数表示領域713が配置されている。検索結果件数表示領域713には、検索処理の結果、症例検索システム300から取得された、診断対象症例に類似する類似症例の数が表示される。
なお、類似症例の数が膨大である場合、症例表示領域710は全ての類似症例を一度に表示することができない。そこで、症例表示領域710の例えば右側には、上下方向に長尺のスクロールバー715が設けられている。表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を上下方向にスクロール表示させる。これにより、ユーザは、非表示状態にあった類似症例を症例表示領域710に表示させ、その類似症例を観察できる。
なお、スクロールバー715は左右方向に長尺であってもよい。この場合、表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を左右方向にスクロール表示させればよい。或いは、症例表示領域710にマウスポインタが位置決めされた状態で、キーボードの方向キーが押されると、表示制御部104は、キーが押されている間、押されているキーの方向に症例表示領域710内に表示されているサムネイル画像をスクロール表示させてもよい。
なお、情報端末100は、検索クエリ画像との距離が所定の閾値以下のサムネイル画像を症例検索システム300から取得するとしたが、これは一例に過ぎない。例えば、情報端末100は、類似度が高い順に、常に一定数のサムネイル画像を症例検索システム300から取得してもよい。或いは、情報端末100は、常にある確定診断病名のサムネイル画像が一定数含まれるようにサムネイル画像を症例検索システム300から取得してもよい。
なお、症例表示領域710におけるサムネイル画像の表示手法としては、例えば、最上段の行の左端に検索クエリ画像との距離が最短のサムネイル画像を表示し、右側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一行の右端に達すると上から2行目の左端に次に距離が大きいサムネイル画像を表示するという表示手法が採用できる。つまり、症例表示領域710において、左上から右下に向けて蛇行するように距離が小さい順にサムネイル画像を表示するという表示手法が採用できる。
もちろん、本実施の形態は別の表示手法が採用されてもよい。例えば、左から1列目の上端に距離が最短のサムネイル画像を表示し、下側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一列の下端に達すると、左から2列目の上端に次に距離が大きいサムネイル画像を表示するという表示手法が採用されてもよい。また、これら複数の表示手法をユーザが切り替え可能な構成が採用されてもよい。
また、上記の例では、類似度として距離が採用されたが、コサイン類似度のような画像同士の類似性を示す指標であればどのような指標が採用されてもよい。コサイン類似度が採用された場合、値が1に近づくにつれて比較対象となる2つの画像の類似性が高くなる。
なお、詳細は後述するが、症例表示領域710に表示する類似症例は、病名リスト表示領域730に表示された病名や、分布リスト表示領域750に表示された病変分布で絞り込むことができる。現在設定されている類似症例の絞込条件は、表示条件表示領域714に表示される。図6の例では、類似症例検索直後の状態であり、何も絞り込みがなされていないため、表示条件表示領域714には「全疾患」と表示されている。
(病名リスト)
図6に戻り、基本画面K2の左側の上段には、「病名リスト」との見出しが付けられた病名リスト表示領域730が配置されている。病名リスト表示領域730には、類似症例の検索結果として取得された全ての類似症例の確定診断病名が表示される。診断対象症例は、診断が終了して確定診断病名が付与された後、類似症例として、症例検索システム300に蓄積される。したがって、各類似症例には、それぞれ、診断によって付与された確定診断病名が予め付与されている。
図9は、病名リスト表示領域730の拡大図である。図9では、確定診断病名は、大分類の病名(731、734、737、741、744)と詳細分類の病名(732、733、735、736、738、739、740、742、743、745)とに分けて表示されている。図6の例では、大分類の病名として、真菌症731(mycosis)、腫瘍性734(neoplastic)、非腫瘍性737(nonneoplastic)、ミコバクテリア症741(mycobacteriosis)、及びその他744が表示されている。
また、図9の例では、真菌症731の詳細分類の病名として、アスペルギルス症732(aspergillosis)、クリプトコッカス症733(cryptococcosis)が表示されている。また、腫瘍性734の詳細分類の病名として、原発性肺癌735(lung cancer)、転移性肺癌736(metastatic lung cancer)が表示されている。また、非腫瘍性737の詳細分類の病名として、肺膿瘍738(lung abscess)、サルコイドーシス739(sarcoidosis)、敗血性塞栓740(septic emboli)が表示されている。また、ミコバクテリア症741の詳細分類の病名として、非結核性抗酸菌症742(NTM:nontuberculous mycobacteria)、肺結核743(tuberculosis)が表示されている。また、その他744の詳細分類の病名として気管支拡張症745(bronchiectasis)が表示されている。
また、大分類の病名及び詳細分類の病名の横には、その病名の症例数が表示されている。ユーザは、この病名リスト表示領域730における大分類の病名または詳細分類の病名の任意の行を選択することで、症例表示領域710に表示される類似症例を絞り込むことができる。図6に示すように類似症例の検索直後の状態では、多様な疾患を含む62個の類似症例が表示対象になっているが、図9の真菌症731の行がマウスでクリックされた場合、表示制御部104は、図10に示すように真菌症の類似症例のみを症例表示領域710に表示する。また、図9の転移性肺癌736の行がマウスでクリックされた場合は、表示制御部104は、図11に示すように、転移性肺癌の類似症例のみを症例表示領域710に表示する。
この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例がどのような絞り込み条件であるが分かるように、表示条件表示領域714に、絞り込んだ病名を表示する。
図10は、「真菌症」で類似症例が絞り込まれたときの基本画面K2を示す図である。図11は、「転移性肺癌」で類似症例が絞り込まれたときの基本画面K2を示す図である。
図10の例では、「真菌症」で絞り込みがかけられたため、表示条件表示領域714には「真菌症」と表示され、図11の例では「転移性肺癌」で絞り込みがかけられたため、表示条件表示領域714には「転移性肺癌」と表示されている。
また、この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例の件数が分かるように、検索結果件数表示領域713にその件数を表示する。図10の例では、「真菌症」に該当する類似症例は14件であったため、検索結果件数表示領域713には14件と表示され、図11の例では、「転移性肺癌」に該当する類似症例は3件であったため、検索結果件数表示領域713には3件と表示されている。
この機能により、画像診断の対象として医師が想定する病名のみの類似症例が症例表示領域710に表示され、医師は、診断対象症例が想定した病名と矛盾しないかどうかを容易に確認できる。
図10では、最大表示件数ND(この実施の形態ではND=20)の症例表示領域710に、M個(図10ではM=14)の類似症例のサムネイル画像が表示されている。
(病変分布)
図6に示す基本画面K2の左側の中段には、「病変分布」との見出しが付けられた分布リスト表示領域750が配置されている。分布リスト表示領域750には、類似症例を検索した結果、症例検索システム300から取得された全ての類似症例の病変分布の種類が表示される。
図12は分布リスト表示領域750の拡大図である。図12の例では、7つの病変分布の名称が表示されており、各病変分布の名称の左側にはチェックボックスが配置されている。図12の例では病変分布として、びまん性751(diffuse)、区域性752(segmental)、気道性753(bronchial)、両側性754(bilateral)、多発性755(multiple)、胸膜下756(subpleural)、及び血行性757(hematogenous)が表示されている。
これらの病変分布は予め定義されており、各類似症例には、予め、びまん性751〜血行性757のいずれに該当するか否かを示す分布フラグ値(該当:1、非該当:0)が付与されている。類似症例によっては、全ての分布フラグ値が非該当(:0)に設定されている場合もあれば、複数の分布フラグ値が該当(:1)に設定されている場合もある。
本実施の形態の症例検索システム300は、ユーザが診断対象症例のスライス画像に設定した関心領域に対し、類似する関心領域を持つ類似症例を検索する。ユーザが関心領域を設定したスライス画像以外にも、病変は存在することもある。そして、ユーザは関心領域を設定したスライス画像で類似症例を検索した後、そのスライス画像以外のスライス画像と、検索された類似症例とを比較したい場合もある。この場合、ユーザは、医用画像ビューワ610において、スライス送りの操作を入力して他のスライス画像を表示させ、検索された類似症例と比較する作業を行う。この場合、検索された全ての類似症例のうち注目する病変に関連する類似症例のみが症例表示領域710に表示されていれば、関心領域が設定されたスライス画像以外のスライス画像の中から所望の病変を持つスライス画像を抽出する作業をスムーズに行うことができる。そこで、本実施の形態では、この作業をよりスムーズに行うために、検索された類似症例を所望の病変分布で絞りこむ機能が設けられている。
本実施の形態では、肺野領域内での病変分布として、図12のびまん性751〜血行性757で示す病変分布が採用されている。また、図12のように、チェックボックス及び病名分布の名称について、表示制御部104は、絞り込みが可能な病変分布をアクティブ状態で表示し、絞り不可能な病変分布を非アクティブ状態で表示する。ここでは、アクティブ状態としては、輝度が非アクティブ状態に比べて高い状態が採用され、非アクティブ状態としては、輝度がアクティブ状態に比べて低い状態が採用されている。
図12の例では、びまん性751、気道性753〜血行性757がアクティブ状態で表示され、区域性752は、非アクティブ状態で表示されている。これは、現在、類似症例の検索によって取得された全ての類似症例のうち、少なくともいずれか1つの類似症例において、びまん性751、気道性753〜血行性757の分布フラグ値が1(該当)に設定され、取得された全ての類似症例のうち、いずれの類似症例においても、区域性752の分布フラグ値が0(非該当)に設定されていたからである。
アクティブ状態のチェックボックスのうち、1以上のチェックボックスにチェックマークが入力されたことを入力制御部103が検知すると、表示制御部104は、チェックマークが入力された病変条件に該当する類似症例のみを症例表示領域710に表示させる。
なお、区域性752については、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)に設定されている。そのため、区域性752にチェックマークが入力可能な構成を採用すると、これらの病変分布にチェックマークを入力した場合、症例表示領域710には類似症例が何も表示されず、チェックマークを入力する意味が無くなってしまう。そこで、本実施の形態では、このような事態を避けるために、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)である病変分布は非アクティブ状態で表示する。
図13は、両側性754のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。図14は、両側性の病変分布で絞り込みがかけられた基本画面K2を示した図である。図13に示すように、両側性754のチェックボックスにチェックマークが入力された場合、表示制御部104は、図14に示すように、症例表示領域710に、両側性の病変分布を持つ類似症例のみを表示する。この例では、両側性の病変分布を持つ類似症例は10件であった。そのため、表示制御部104は、検索結果件数表示領域713に「10件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「両側性」とを表示する。図14の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
(患者情報1000)
図15は、患者情報1000のデータ構成を示す図である。患者情報1000は、医用情報管理システム200における患者情報管理部202により、患者別に患者情報蓄積部201に蓄積されて管理される。患者情報1000には、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録されている。図15に示すように、患者情報1000は、患者ID1100、氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、主訴1700、検査情報1800、及び確定診断1900を備える。
患者ID1100は、患者に固有の識別子である。氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、及び主訴1700は、それぞれ、患者ID1100の患者の氏名、年齢、性別、既往歴、家族歴、及び主訴である。検査情報1800は、図16に示すように、当該患者が過去に受けた1以上の検査に関する情報を表す。
図16は、図15に示す患者情報1000に登録された検査情報1800のデータ構成を示す図である。検査情報1800は、患者に対して行われた検査に関する情報であり、1つの検査に対応して1つずつ作成される。検査情報1800は、検査ID1810、検査日時1820、検査種1830、及び検査結果1840を備える。検査ID1810は、検査に固有の識別子である。検査日時1820は、検査が行われた日時である。検査種1830は、検査の種類である。検査の種類としては、例えば、血液検査、呼吸機能検査、内視鏡検査、単純X線撮影、CT撮影等がある。
検査結果1840は、血液検査であれば、白血球数、LDH、及びGPT等各種指標の値が該当する。また、検査結果1840は、各種指標を基に医師が下した判断等も該当する。また、単純X線撮影やCT撮影等の画像検査であれば、撮影された画像へのポインタ情報や画像診断結果のレポートへのポインタ情報が含まれる。なお、検査で撮影された画像は、DICOMのフォーマットで医用情報管理システム200の医用画像データ蓄積部203に蓄積される。
また、検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、これらの医用画像データは医用情報管理システム200の医用画像データ蓄積部203が記憶する医用画像データベース2000に蓄積される。
図17は、医用画像データベース2000のデータ構成を示す図である。医用画像データベース2000は、検査ID1810及びシリーズID2100を持つ。1回の検査で、複数の種類の撮影(例えば、単純CTと造影CT等)が行われる場合があるので、1つの検査ID1810に対し、複数のシリーズID2100が対応付けられている場合もある。つまり、撮影の種類に応じた個数のシリーズが得られるのである。
また、シリーズは、撮影の種類以外にも、撮影された画像の再構成の条件毎に得られる。例えば、撮影された画像が肺野条件及び縦隔条件で再構成された場合、これらの条件毎に1つのシリーズが得られる。なお、肺野条件で再構成された画像は肺の中の血管、気管支、及び肺胞等が強調表示される。また、縦隔条件で再構成された画像は、血管やリンパ節等の縦隔が強調表示される。肺野条件及び縦隔条件は1度の撮影で得られた画像を再構成することで得られるため、単純CTと造影CTとで2度の撮影が行われ、これら2度の撮影のそれぞれにつき肺野条件及び縦隔条件で画像が再構成された場合、2つの肺野条件のシリーズが得られ、2つの縦隔条件のシリーズが得られる。
CT及びMRIの画像検査の場合、1回の撮影で複数のスライス画像が取得されるので、1つのシリーズID2100には、複数のスライスID2200が対応付けられている。図17の検査ID「13227989」には2つのシリーズID「CT149123」、「CT149124」が対応付けられているため、この検査から2つのシリーズのCT画像が得られたことが分かる。また、シリーズID「CT149123」、「CT149124」のそれぞれに対して、スライスID2200が複数対応付けられていることが分かる。
検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、医用情報管理システム200における診断レポート管理部205には、図18に示すような診断レポート3000が蓄積される。診断レポート3000には、各検査に対する医師による診断結果が登録されている。
図18は、診断レポート3000のデータ構成を示す図である。診断レポート3000は、検査ID1810、所見3100、及び診断3200を備える。検査ID1810は、図16で示した検査ID1810と同じである。これにより、診断レポート3000と検査情報1800とが対応付けられる。所見3100は、検査に対する医師の所見を示す文言が登録されている。診断3200は、検査に対する医師の診断を示す文言が登録されている。
図19は、限局性病変の類似症例データ4000のデータ構成を示す図である。限局性病変の類似症例データ4000は、診断対象症例に対して類似する類似症例を検索する際に参照されるデータであり、1つの類似症例に対応して1つずつ作成されている。なお、限局性病変の類似症例データ4000は、類似症例データの付加情報の一例である。類似症例データ4000は、症例検索システム300の類似症例データ蓄積部301において、類似症例毎に蓄積されている。図19に示すように、限局性病変の類似症例データ4000は、類似症例ID4100、スライスID4200、関心領域情報4300、画像特徴データ4400、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、及び確定診断(詳細分類病名)4800を備える。
類似症例ID4100は、限局性病変の類似症例データ4000の識別子である。限局性病変の場合には、類似症例のスライス画像に設定された関心領域毎に1つの類似症例データが生成されるため、類似症例ID4100は、関心領域の識別子とも言える。図19の例では、類似症例ID4100は、「SIM」とそれに続く番号とで構成される記号列で構成されている。
スライスID4200は、関心領域が設定されたスライス画像の識別子であり、図17に示すスライスID2200と同一である。関心領域情報4300は、スライス画像に設定された関心領域の位置を示す情報である。スライス画像には、図8を用いて説明されたように、関心領域が設定されている。図8の例では、関心領域は矩形状に設定されている。したがって、関心領域情報4300は、関心領域の左上の頂点の座標と、右下の頂点の座標との4値で構成される。もちろん、関心領域は矩形以外の形状でもよく、その場合は、領域を一意に特定可能なパラメータが関心領域情報4300として採用される。例えば、関心領域が円形であれば、円の中心座標と半径とが関心領域情報4300として採用される。
画像特徴データ4400は、関心領域情報4300で定義される関心領域から抽出された所定次元(ここではN1次元)の特徴値である。サムネイル画像データ4500は、スライスIDで特定されるDICOMフォーマットのスライス画像を基に、症例表示領域710に表示するために生成されたサムネイル画像の画像データである。ここで、サムネイル画像データ4500は、例えば、サムネイル画像の左上の頂点から右下の頂点に向かうラスタ走査順にサムネイル画像の画素値が配置されている。先に説明を行ったが、CT検査で得られたDICOM画像は、512×512画素の11ビット(画素値:−1000〜+1000)画像である。そこで、本実施の形態では、サムネイル画像の表示を高速化するために、サムネイル画像の元となるDICOM画像に対して低解像度処理及び階調変換処理が行われて8ビットの画素値を持つサムネイル画像が予め作成され、類似症例データ4000に登録されている。限局性病変の類似症例データ4000のサムネイル画像データ4500は、図6に示されるようなaxial画像である。
なお、サムネイル画像の作成は、例えば、医用情報管理システム200が作成し、症例検索システム300に送信するようにしてもよいし、症例検索システム300が医用情報管理システム200からDICOM画像を取得して作成してもよい。
病変分布情報4600は、対象となる類似症例が予め定められたびまん性4610〜血行性4670で表される病変分布のいずれに該当するか否かを表す分布フラグ値(1:該当、0:非該当)である。
確定診断(大分類病名)4700は、対象となる類似症例に対して確定された大分類の病名である。確定診断(大分類名)4700は、類似症例を大分類の病名で絞り込む際に使用される。
確定診断(詳細分類病名)4800は、対象となる類似症例に対して確定された詳細分類の病名である。確定診断(詳細分類病名)4800は、類似症例を小分類の病名で絞り込む際に使用される。
予め、確定診断(大分類病名)4700は、確定診断(詳細分類病名)4800に対して一意に対応する大分類病名が定義されており、その対応関係を用いて類似症例データ4000に格納されている。
確定診断(詳細分類病名)4800は、医用画像データ蓄積部203において、図17に示すスライスID2200からシリーズID2100が特定される。そして、特定されたシリーズIDから患者情報蓄積部201において、検査ID1810が特定され、検査ID1810から対応する患者情報1000(図15)が特定され、特定された患者情報1000から該当する患者の確定診断1900が特定される。
図20は、びまん性病変の類似症例データ5000のデータ構成を示す図である。びまん性病変の類似症例データ5000は、診断対象症例に対して類似する類似症例を検索する際に参照されるデータであり、1つの類似症例に対応して1つずつ作成されている。なお、びまん性病変の類似症例データ5000は、類似症例データの付加情報の一例である。びまん性病変の類似症例データ5000は、症例検索システム300の類似症例データ蓄積部301において、類似症例毎に蓄積されている。図20に示すように、びまん性病変の類似症例データ5000は、類似症例ID5100、シリーズID5200、画像特徴データ5300、サムネイル画像データ5400、確定診断(大分類病名)5500、及び確定診断(詳細分類病名)5600を備える。
類似症例ID5100は、びまん性病変の類似症例データ5000の識別子である。びまん性病変の場合には、シリーズ毎に1つの類似症例データが生成されるため、類似症例ID5100は、シリーズの識別子とも言える。図20の例では、類似症例ID5100は、「SIM」とそれに続く番号とで構成される記号列で構成されている。
シリーズID5200は、病変領域が設定されたシリーズ画像の識別子であり、図17に示すシリーズID2100と同一である。
画像特徴データ5300は、シリーズID5200の画像から抽出された臓器全体の所定次元(ここではN2次元)の特徴値である。なお、画像特徴データ5300の次元数N2は、画像特徴データ4400の次元数N1と同じでも異なっていてもよい。
サムネイル画像データ5400は、シリーズIDで特定されるDICOMフォーマットのスライス画像を基に、症例表示領域710に表示するために生成されたサムネイル画像の画像データである。ここで、サムネイル画像データ5400は、例えば、画像の左上の頂点から右下の頂点に向かうラスタ走査順に画素値が配置されている。サムネイル画像データ4500と同様に、本実施の形態では、サムネイル画像の表示を高速化するために、サムネイル画像の元となるDICOM画像に対して低解像度処理及び階調変換処理が行われて8ビットの画素値を持つサムネイル画像が予め作成され、類似症例データ5000に登録されている。びまん性病変の類似症例データ5000のサムネイル画像データ5400は、図7に示されるようなcoronal画像である。
なお、サムネイル画像の作成は、例えば、医用情報管理システム200が作成し、症例検索システム300に送信するようにしてもよいし、症例検索システム300が医用情報管理システム200からDICOM画像を取得して作成してもよい。
確定診断(大分類病名)5500は、図19の確定診断(大分類病名)4700と同様であり、確定診断(詳細分類病名)5600は、図19の確定診断(詳細分類病名)4800と同様である。
なお、びまん性病変では、臓器全体の病変が問題となるため、画像特徴データ5300は臓器全体の特徴値である。したがって、びまん性病変では、関心領域が設定されていない。このため、図20に示されるように、びまん性病変の類似症例データ5000は、限局性病変の類似症例データ4000と異なり、関心領域情報を含まない。
(処理フロー)
次に、情報端末100が医用情報管理システム200と症例検索システム300と連携して読影作業開始から類似症例検索を開始するまでの流れを説明する。
図22は、ユーザが1個の関心領域を設定した場合に、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300に対して類似症例検索の要求を行い、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。なお、図22において、シーケンス図の左側に示す2列の矩形は、該当するステップの処理によりディスプレイ101a、101bに表示される画面を示す。また、図22において、情報端末の「A」は、医用情報管理アプリケーションを示し、「B」は、類似症例検索アプリケーションを示す。このシーケンスが開始される前に医用情報管理アプリケーションは予め起動されているものとする。
まず、情報端末100は、操作部102を通してユーザ(読影を行う医師)の読影対象となる検査リストの表示要求を受け付け、入力制御部103及び通信制御部110を通して、医用情報管理システム200の通信制御部206へ検査リストの表示要求を送信する(S510)。
医用情報管理システム200の患者情報管理部202は、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成する。そして、患者情報管理部202は、通信制御部206を通して、生成した検査リストを情報端末100の通信制御部110に送信する(S520)。ここで、検査リストには、該当する患者の患者情報1000及び検査情報1800が含まれる。
情報端末100の表示制御部104は、通信制御部110で受信された検査リストをディスプレイ101に表示する(S530)。
この場合、ディスプレイ101aに検査リストが表示され、ディスプレイ101bには何も表示されない。
図23は、検査リストの画面図である。検査リストは、読影が未終了の検査を表示する領域800と、検査に含まれるシリーズに関する情報を表示する領域810とを備える。領域800には、「患者ID」、「患者氏名」、「検査日時」、「検査ID」、及び「検査種」の欄が設けられている。「患者ID」、「患者氏名」の欄には、患者情報1000に登録された患者ID1100及び氏名1200が表示され、「検査日時」、「検査ID」、及び「検査種」の欄には、検査情報1800に登録された検査日時1820、検査ID1810、及び検査種1830が表示される。領域810は、領域800でユーザにより選択された検査の詳細を表示するための領域であり、「シリーズID」、「定義」、及び「画像」の欄が設けられている。ここでは、領域800においてユーザにより検査(行に対応)が選択されていないために、領域810には何も表示されていない。
ユーザは、領域800に表示された検査の中から、これから読影を行う検査を選択する。この選択が入力制御部103で検知されると、図22に示すように、通信制御部110は、選択された検査の検査IDに含まれる全シリーズの表示要求を、医用情報管理システム200へ送信する(S540)。
医用情報管理システム200の通信制御部206がこの表示要求を受信すると、患者情報管理部202は、図17に示す医用画像データベース2000を参照し、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像を取得し、通信制御部206を通して、情報端末100に送信する(S550)。例えば、図17の例において、検査ID「13227989」の検査がユーザにより選択されると、シリーズID「CT149123」、「CT149124」のシリーズに含まれる全てのスライス画像がS550で送信される。
情報端末100の通信制御部110が全シリーズの画像を取得すると、表示制御部104は、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを領域810に表示する(S560)。
この場合、ディスプレイ101aに表示された検査リストの領域810には、領域800で選択された検査に対応するシリーズのシリーズリストが表示され、ディスプレイ101bには何も表示されない。
図24は、検査が選択された後の検査リストの画面図である。図24の領域800では選択された行の背後にハイライトが付されている。図24の例では、領域800において、2行目の「パナ太郎」の検査が選択されている。そのため、領域810では、選択された検査についての「シリーズID」、「定義」、及び「画像」が表示されている。ここで、「シリーズID」の欄には、医用画像データベース2000において、選択された検査の検査IDに対応付けられたシリーズIDが表示され、「画像」の欄には、表示されたシリーズIDを代表する1枚のスライス画像のサムネイル画像が表示される。ここで、シリーズIDを代表する1枚のスライス画像としては、所定のスライス位置の画像が採用される。所定のスライス位置としては先頭のスライス位置であってもよいし、中央のスライス位置であってもよい。「定義」は、該当するシリーズに対する撮影条件や再構成の条件を示す。この「定義」は、図示は省略されているが、例えば、図17の医用画像データベース2000において、シリーズIDと対応付けて登録されている。
領域810において、ユーザにより読影対象のシリーズが選択され、その選択を入力制御部103が検知すると、表示制御部104は、図25に示すように、選択されたシリーズの先頭のスライス画像をディスプレイ101aに表示する(S570)。
図25は、ユーザによりシリーズが選択された際にディスプレイ101aに表示されるスライス画像を示した図である。図25は、胸部CT撮影での先頭スライスを示す図であり、肺尖部よりももう少し頭方向の肩位置でのスライス画像である。ここで、表示制御部104は、選択されたシリーズの全てのスライス画像をシリーズ送りできる状態でディスプレイ101aに表示する。なお、ディスプレイ101bには何も表示されない。例えば、ユーザにより、ディスプレイ101a上にマウスポインタが位置決めされマウスホイールを回転するスライス送りの操作が入力され、その操作を入力制御部103が検知する。すると、表示制御部104は、マウスホイールの回転量に応じて、ディスプレイ101aに表示されたスライス画像を別のスライス位置のスライス画像に切り替える。ユーザは、スライス送りの操作を入力しながら画像診断を行う。そして、ユーザは画像診断に迷った場合、類似症例検索アプリケーションを起動する。
ここで、類似症例検索アプリケーションは、操作部102のキーボードにおいて、予め定められたショートカットキーが入力されて起動されてもよいし、マウスの右クリックで医用画像ビューワのメニューを表示させ、そのメニューの中から類似症例検索メニューが指定されて起動されてもよい。類似症例検索アプリケーションの起動が指示されると、情報端末100の管理はROI管理部105に渡され、情報端末100は、関心領域(ROI)の受け付け待ち状態になる。
図26は、ユーザにより類似症例検索アプリケーションが起動された際にディスプレイ101aに表示されているスライス画像を示す図である。図26は、図25の先頭スライスのスライス画像からスライス送りされたスライス位置でのスライス画像である。ユーザは、操作部102を通して、ディスプレイ101aに表示されたスライス画像上の病変に関心領域(ROI)を1個設定する(S580)。ここで、ユーザは、図26に示すように、例えば、マウスを左クリックして、スライス画像3101における関心領域ROIの左上の頂点の座標を入力する。そして、ユーザは、左クリックした状態でマウスを右斜め下方向にドラッグし、左クリックを解除することで、関心領域ROIの右下の頂点を入力すればよい。
関心領域を設定する操作を入力制御部103が検知すると、ROI管理部105は、入力制御部103から関心領域の左上及び右下の頂点の座標データを受け取り、受け取った座標データを関心領域情報として生成する。そして、ROI管理部105は、生成した関心領域情報を通信制御部110に送信する(S590)。ROI管理部105は関心領域の数の情報(ここの例では、関心領域の個数=1個)を生成して、関心領域の数の情報を関心領域情報に含ませてもよい。
同時に、ROI管理部105は、ユーザが入力した関心領域の個数が1つであるので、診断対象症例のスライス画像を通信制御部110に送信する(S600)。
次に、通信制御部110は、ROI管理部105から送信された関心領域情報を受け取り、症例検索システム300の通信制御部304に送信する(S601)。
同時に、通信制御部110は、ROI管理部105から送信されたスライス画像を受け取り、症例検索システム300の通信制御部304に送信する(S602)。
ここで、S600、S601において、スライス画像そのものを送信するとしたが、スライス画像のスライスIDのみが送信されても構わない。この場合は、スライスIDを受信した症例検索システム300は、そのスライスIDを指定して、医用情報管理システム200から該当する画像を取得すればよい。
S580において、ユーザが1個の関心領域を設定しているので、ユーザは、図26に示されるように病変部が1箇所に集中している限局性病変を検索することを意図していると解釈することができる。
図44は、ユーザが関心領域を設定しない場合、または2つ以上の関心領域を設定した場合に、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300に対して類似症例検索の要求を行い、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。
図44のS510からS570は、図28のS510からS570と同一である。S570において、選択されたシリーズの先頭のスライス画像がディスプレイ101aに表示された後、ユーザは、類似症例検索アプリケーションを起動するか、または、操作部102を通して、ディスプレイ101aに表示されたスライス画像上の病変に関心領域(ROI)を図21に示されるように2個以上設定する(S571)。
図21は、検索クエリ画像のスライス画像3101に設定された2個の関心領域を模式的に示した図である。ユーザは、検索クエリ画像のスライス画像3101に2個以上の病変が存在する場合には、複数の関心領域を設定する。図21の例では、2個の関心領域は、それぞれ矩形状に設定されている。したがって、左側の関心領域は、左上の頂点の座標(xl1、yt1)と、右下の頂点の座標(xr1、yb1)との4値で表され、右側の関心領域は、左上の頂点の座標(xl2、yt2)と、右下の頂点の座標(xr2、yb2)との4値で表される。
図44に戻り、関心領域を設定する操作を入力制御部103が検知すると、ROI管理部105は、入力制御部103から関心領域の頂点の座標データ(図21の例では、2つのROIに関する座標データ、すなわち、4つの座標データ)を受け取り、受け取った座標データを関心領域情報として生成する。そして、ROI管理部105は、生成した関心領域情報を通信制御部110に送信する(S576)。ROI管理部105は関心領域の数の情報(図21の例では、関心領域の個数=2個)を生成して、関心領域の数の情報を関心領域情報に含ませてもよい。
なお、ユーザが関心領域を設定しないことを入力制御部103が検知すると、ROI管理部105は、関心領域が設定されないことを示す関心領域情報を生成する。ROI管理部105は関心領域の数の情報(この例では、関心領域の個数=0個)を生成して、関心領域の数の情報を関心領域情報に含ませてもよい。「関心領域が設定されないことを示す関心領域情報」は「関心領域の個数=0個」を示す情報であってもよい。
「ユーザが関心領域を設定しないこと」の検知は、S570の処理でディスプレイ101aに検索クエリ画像のスライス画像の表示を開始してから所定の時間、例えば、1分、経過するまで、関心領域を設定する操作を入力制御部103が検知しないことであってもよい。
「ユーザが関心領域を設定しないこと」の検知は、ディスプレイ101aに表示制御部104で生成された「関心領域を設定しない」旨を示すGUIボタンを表示し、ユーザがマウスも用いて、「関心領域を設定しない」旨を示すGUIボタンを選択する操作の検知であってもよい。
次に、ROI管理部105は、関心領域を複数設定する操作を入力制御部103が検知すると、診断対象症例のシリーズ画像を通信制御部110に送信する(S572)。
次に、通信制御部110は、ROI管理部105から送信された関心領域情報を受け取り、症例検索システム300の通信制御部304に送信する(S577)。
次に、通信制御部110は、ROI管理部105から送信されたシリーズ画像を受け取り、症例検索システム300の通信制御部304に送信する(S573)。
S571において、ユーザが関心領域を設定していない、又は2個以上の関心領域を設定しているので、ユーザは、図7に示されるように病変部が広範囲に分布しているびまん性病変を検索することを意図していると解釈することができる。
ここで、図22と同様に、S572、S573において、シリーズ画像そのものを送信するとしたが、図45に示されるように、シリーズ画像のシリーズIDのみが送信されても構わない。
図45は、図44と異なる例を示すシーケンス図である。なお、図45のS510〜S570は、図22のS510〜S570と同じである。
S570に続くS574において、ROI管理部105は、診断対象症例のシリーズ画像のシリーズIDを通信制御部110に送信する。S575において、通信制御部110は、ROI管理部105から送信されたシリーズIDを受け取り、症例検索システム300の通信制御部304に送信する。
図45の場合は、シリーズIDを受信した症例検索システム300は、そのシリーズIDを指定して、医用情報管理システム200から該当する画像を取得すればよい。図45では、S530,S540でユーザにより読影対象(診断対象症例)として選択される可能性のあるシリーズ画像、すなわち全ての未読影のシリーズ画像を最初に医用情報管理システム200から症例検索システム300に送信する(S501)。そして、このシリーズ画像から事前にびまん性病変の画像特徴を抽出する(S502)。これによって、図45では、シリーズIDの指定(S575)から検索までの時間を短縮することができる。
(類似症例検索フロー)
次に、症例検索システム300が類似症例検索を行い、情報端末100が類似症例検索結果を初期表示するまでの処理を説明する。
図27は、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。図28は、図27のS610の処理の一例を示すフローチャートである。図29は、図27のS620の処理の一例を示すフローチャートである。
症例検索システム300の画像特徴抽出部302は、検索クエリ画像から予め定められた複数次元の画像特徴を抽出する(S610)。このとき、図28に示すように、画像特徴抽出部302は、関心領域の個数が1個か否かを判定する(S611)。関心領域の個数が1つの場合には(S611でYES)、画像特徴抽出部302は、検索クエリ画像に設定された関心領域から、限局性病変に関する関心領域の画像特徴を抽出する(S613)。一方、関心領域の個数が0又は2つ以上の場合には(S611でNO)、画像特徴抽出部302は、診断対象症例(読影対象)のシリーズ画像から、びまん性病変に関する臓器全体の画像特徴を抽出する(S612)。
「画像特徴」としては、医用画像における臓器若しくは病変部分の形状に関する画像特徴、又は輝度分布に関する画像特徴等が採用できる。例えば、非特許文献:「根本、清水、萩原、小畑、縄野、“多数の特徴量からの特徴選択による乳房X線像上の腫瘤影判別精度の改善と高速な特徴選択法の提案”、電子情報通信学会論文誌D−II、Vol.J88−D−II、No.2、pp.416−426、2005年2月」には、490次元の画像特徴を用いることが記載されている。本実施の形態においては、例えば、この非特許文献に記載された画像特徴が採用される。但し、これは一例にすぎず、他の画像特徴が採用されてもよい。
類似症例検索部303は、画像特徴抽出部302で抽出された診断対象症例(読影対象)の画像特徴と、類似症例データ蓄積部301に蓄積された各類似症例の画像特徴とを比較する(S620)。ここで、図29に示されるように、類似症例検索部303は、関心領域の個数が1個か否かを判定する(S621)。関心領域の個数が1つの場合には(S621でYES)、検索クエリ画像に設定された関心領域から抽出された関心領域の画像特徴データと、類似症例データ蓄積部301に類似症例毎に蓄積された限局性病変の類似症例データ4000(図19)に登録された画像特徴データ4400との距離を算出することで、両画像特徴を比較する(S623)。
一方、関心領域の個数が0又は2つ以上の場合には(S621でNO)、診断対象症例(読影対象)のシリーズ画像から抽出された臓器全体の画像特徴データと、類似症例データ蓄積部301に類似症例毎に蓄積されたびまん性病変の類似症例データ5000(図20)に登録された画像特徴データ5300との距離を算出することで、両画像特徴を比較する(S622)。
次に、類似症例検索部303は、距離が所定の閾値以下の類似症例を、距離が小さい順にソートし、送信対象の類似症例として決定する(S630)。次に、通信制御部304は、送信対象として決定された類似症例の類似症例データを送信する(S640)。
次に、S640で送信された類似症例データを用いて、表示制御部104は、類似症例検索結果が表示された初期の基本画面K2を生成する(S670)。
このとき、ユーザが入力した関心領域の個数が1つであれば、ディスプレイ101bには、図6に示すような、類似症例のaxial画像が基本画面K2として表示される。一方、ユーザが入力した関心領域の個数が2つ以上であれば、ディスプレイ101bには、図7に示すような、類似症例のcoronal画像が基本画面K2として表示される。また、ディスプレイ101aには、検索クエリ画像が表示されている。
なお、図45に示されるように、びまん性病変の画像特徴が事前に抽出されている場合には、図28のS612を省略することができる。
(類似症例検索結果表示フロー)
図30は、図27のS670に示す初期の基本画面K2を生成する処理の詳細を示すフローチャートである。
まず、S1000にて、表示制御部104は、図27のS640で受信された類似症例の数をカウントし、カウント値を検索結果件数表示領域713に表示する。
次に、S1100にて、表示制御部104は、表示条件表示領域714に、「全疾患」と表示する。ここで、「全疾患」と表示されるのは、初期の基本画面K2では、ユーザにより病名や病変分布での絞り込みがかけられていないからである。
次に、S1200にて、表示制御部104は、図27のS640で受信された類似症例のうち、症例表示領域710にサムネイル画像が表示可能な類似症例の件数分だけ、症例表示領域710に類似症例のサムネイル画像を表示すると共に、各サムネイル画像に対応付けて確定診断及び類似度を表示する。
症例表示領域710に表示可能な類似症例の件数の最大値NDは、図6、図7の例では20である。この最大値NDは予め定められている。また、この最大値NDはユーザが自由に変更できる構成にしてもよい。図27のS640で受信された類似症例の数が、最大値NDよりも多い場合、表示制御部104は、症例表示領域710の右端に縦方向に長尺のスクロールバー715を表示する。これにより、ユーザは、スクロールバー715を移動させ、初期の基本画面K2で非表示であった類似症例のサムネイル画像を閲覧できる。
次に、S1300にて、病名リストが生成されて表示される。まず、図27のS640で受信された類似症例から、病名リストが生成される。病名リストは、S640で受信された類似症例が、確定診断病名毎に分類されたリストである。
ここで、S640で受信された類似症例の件数をNC件とする。病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を用いて、病名リストを生成する。生成された病名リストは、図31に示すようにテーブル形式のデータとして、病名リスト管理部108で管理される。
図31は、図30のS1300で生成される病名リストのデータ構成を示す図である。病名リストには、「病名ID」、「大分類病名」、「詳細分類病名」、「件数」、及び「類似症例ID」の欄が含まれる。「病名ID」は、確定診断病名毎に付与される識別子である。ここでは、大分類病名と詳細分類病名との1つの組み合わせに対して1つの病名IDが付与されている。
「大分類病名」は、類似症例データ4000に登録された確定診断(大分類病名)4700が示す確定診断病名である。「詳細分類病名」は、類似症例データ4000に登録された確定診断(詳細分類病名)4800が示す確定診断病名である。「件数」は、「病名ID」が示す確定診断病名に該当する類似症例の件数である。「類似症例ID」は、「病名ID」が示す病名に該当する類似症例を示す類似症例IDである。
病名リスト管理部108は、S640で受信した全ての類似症例データ4000について、確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を抽出し、両者が同じ類似症例データ4000を同じ確定診断病名の類似症例として分類する。そして、病名リスト管理部108は、確定診断病名が同じ類似症例の件数をカウントし、該当する確定診断病名のレコードの「件数」の欄に登録する。また、病名リスト管理部108は、同じ確定診断病名に分類した類似症例の類似症例IDを該当する確定診断病名のレコードの「類似症例ID」の欄に登録する。
図31の例では、大分類病名が「腫瘍性」、詳細分類病名が「原発性肺癌」の確定診断病名に対して病名ID「DIS528」が付与されている。そして、この確定診断病名に該当する類似症例の件数が10件であったため、該当するレコードの「件数」の欄に10が登録され、この確定診断病名に該当する類似症例の類似症例ID「SIM258」、「SIM551」、「SIM1209」、及び「SIM2341」等が、該当するレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された病名リストを用いて病名リスト表示領域730を生成し、ディスプレイ101に表示する。
図32、図33、図34は、それぞれ、病名リスト表示領域730の第1表示例、第2表示例、第3表示例を示した図である。図32に示すように第1表示例では、類似症例検索の結果得られた類似症例が、詳細分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図33に示すように第2表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図34に示すように第3表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示され、且つ、大分類病名毎にその中に含まれる詳細分類病名が件数の多い順に件数と対応付けて一覧表示されている。この場合、患確定診断病名が、大分類病名と詳細分類病名との階層構造で表現される。
図35は、図33に示す病名リスト表示領域730の画面遷移を示す図である。図35の上段に示すように、一覧表示された大分類病名のうち、1の大分類病名がユーザにより選択される操作を入力制御部103が検知すると、表示制御部104は、図35の下段に示すように、選択された大分類病名に属する詳細分類病名を件数が多い順に件数と対応付けて表示する。ここで、ユーザは、例えば、病名リスト表示領域730において一覧表示された大分類病名のうち、所望する1の大分類病名を例えばダブルクリック或いはシングルクリックすることで1の大分類病名を選択すればよい。図35の例では非腫瘍性がダブルクリックされているため、非腫瘍性に属する詳細分類病名が一覧表示されている。
図35の下段において、詳細分類病名が一覧表示されている領域がユーザによりダブルクリック或いはシングルクリックされると、表示制御部104は、該当する領域に表示されていた詳細分類病名を非表示にすればよい。
なお、表示制御部104は、病名リスト(図31)を参照することで、大分類病名に属する詳細分類病名を判定すればよい。例えば、図31の例では、真菌症に対して、アスペルギルス症及びクリプトコッカス症が対応付けられているため、表示制御部104は、真菌症にはアスペルギルス症及びクリプトコッカス症が属すると判断すればよい。
図30に戻り、S1400にて、分布リストが生成されて表示される。まず、S640で受信された類似症例から、分布リストが生成される。分布リストは、S640で受信された類似症例が、病変分布毎に分類されたリストである。
病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている病変分布情報4600を用いて、分布リストを生成する。生成された分布リストは、図36に示すようにテーブル形式のデータとして、分布リスト管理部109で管理される。
図36は、図30のS1400で生成される分布リストのデータ構成を示す図である。分布リストには、「分布名」、「症例数」、及び「類似症例ID」の欄が含まれる。「分布名」は、びまん性、区域性といった予め定められた複数の病変分布の名称である。「症例数」は、病変分布に該当する類似症例の件数である。「類似症例ID」は、病変分布に該当する類似症例を示す類似症例IDである。
分布リスト管理部109は、S640で受信した全ての類似症例データ4000について、病変分布情報4600を抽出し、抽出した病変分布情報4600において、分布フラグ値に1(該当)が設定されている病変分布の数をカウントし、カウント値を該当する病変分布のレコードの「症例数」の欄に登録する。また、分布リスト管理部109は、分布フラグ値に1が設定されている類似症例の類似症例IDを該当する病変分布のレコードの「類似症例ID」の欄に登録する。
図36の例では、びまん性に該当する類似症例の件数が3件であったため、びまん性のレコードの「症例数」の欄に3が登録されている。また、びまん性に該当する類似症例の類似症例ID「SIM2521」、「SIM4123」、及び「SIM5225」がびまん性のレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された分布リストを用いて分布リスト表示領域750を生成し、ディスプレイ101に表示する。
図37は、図36に示す分布リストを用いて生成された分布リスト表示領域750を示す図である。図36において、区域性及び胸膜下の症例数は0であるため、図37では、区域性752及び胸膜下756が非アクティブ状態で表示され、これら以外の病変分布は、症例数が1以上であるため、アクティブ状態で表示されている。
(効果)
以上のように、本実施形態では、症例表示領域710には、ユーザである医師が指定した関心領域の個数に応じて、axial画像とcoronal画像とが切り替えて表示される。
関心領域の個数が1つの場合には、医師は、限局性病変を検索することを意図していると解釈できる。この場合、検索された類似症例でも、病変が一箇所に集中する。このため、表示制御部104は、関心領域の設定時と同様に、病変を含むaxial画像を症例表示領域710に表示する。これによって、病変の様態を細かく観察したいという医師の意図に合った表示を行うことができる。
一方、関心領域の個数が0または2つ以上の場合には、医師は、びまん性病変を検索することを意図していると解釈できる。この場合、検索クエリ画像の病変分布と類似症例の病変分布との比較が重要となる。しかしながら、関心領域の個数が0または2つ以上の場合にaxial画像が表示されると、広範囲に分布する1または複数の病変の1断面のみが表示されることになる。このため、検索クエリ画像の病変分布と類似症例の病変分布との正確な比較が困難となる。そこで、本実施形態では、関心領域の個数が0または2つ以上の場合には、表示制御部104は、coronal画像を症例表示領域710に表示する。これによって、病変分布の概要を一目で見ることができる。このため、病変分布を比較したいという医師の意図に合った表示を行うことができる。
このように、本実施形態では、ユーザが入力した関心領域の個数に応じて、症例表示領域710における類似症例の画像をaxial画像またはcoronal画像に変更している。したがって、本実施形態によれば、coronal画像が症例表示領域710に表示されることにより、びまん性肺疾患の病変分布を診断対象症例である検索クエリ画像と類似症例のサムネイル画像との間で好適に比較することが可能になる。その結果、医師の診断精度の向上を図ることができる。また、びまん性肺疾患を検索した際に、症例表示領域710に表示される類似症例のサムネイル画像により肺の病変分布を一目で見ることができる。このため、類似症例を確認または理解するのに要する時間を短くすることができる。
(変形された実施形態)
(1)上記実施形態では、関心領域の個数によりaxial画像とcoronal画像とを切り替える例を示したが、表示画像を切り替える要因は、関心領域の個数に限られない。例えば、ユーザが入力する関心領域の面積を用いて表示画像を切り替えてもよい。
図38は、大きいサイズの病変部に関心領域ROIが設定された診断対象症例のスライス画像(検索クエリ画像)を示す図である。図38では、右肺3801と左肺3802とを合わせた肺全体の面積に対する、関心領域ROIと肺とが重なった領域の面積の割合値が、4分の1以上になっている。
びまん性肺疾患を持つ検索クエリ画像では、1または複数の病変部が広範囲にわたって分布する。そこで、医師は、広範囲にわたって分布する病変部を囲むように関心領域を設定する場合がある。したがって、医師が単一の小さい面積に対して関心領域を設定したときには、医師は、限局性病変を検索することを意図していると解釈できる。また、図38に示されるように、医師が単一の広い面積に対して関心領域を設定したときには、医師は、びまん性病変を検索することを意図していると解釈できる。
経験的に、肺全体の面積に対する、関心領域ROIと肺とが重なった領域の面積の比率が、4分の1未満である場合に限局性病変と判断され、4分の1以上である場合にびまん性病変と判断されている。そこで、この実施形態でも、4分の1を閾値として、限局性病変又はびまん性病変と判断される。
なお、上記比率として、関心領域ROIと肺とが重なった領域の面積に代えて、単純に関心領域ROIの面積を用いてもよい。すなわち、肺全体の面積に対する関心領域ROIの面積の比率を用いてもよい。以下の説明では、肺全体の面積に対する関心領域ROIの面積の比率が用いられる。
図39は、図27のS610の処理の図28と異なる例を示すフローチャートである。図40は、図27のS620の処理の図29と異なる例を示すフローチャートである。
図39において、画像特徴抽出部302は、まず、右肺3801及び左肺3802を合わせた肺全体の面積に対する関心領域ROIの面積の割合値が4分の1以上か否かを判定する(S614)。肺全体の面積に対する関心領域ROIの面積の割合値が4分の1以上であれば(S614でYES)、処理はS612に進み、上記割合値が4分の1未満であれば(S614でNO)、処理はS613に進む。S612,S613は、それぞれ、図28のS612,S613と同じである。
図40において、類似症例検索部303は、右肺3801及び左肺3802を合わせた肺全体の面積に対する関心領域ROIの面積の割合値が4分の1以上か否かを判定する(S624)。肺全体の面積の面積に対する関心領域ROIの面積の割合値が4分の1以上であれば(S624でYES)、処理はS622に進み、上記割合値が4分の1未満であれば(S624でNO)、処理はS623に進む。S622,S623は、それぞれ、図29のS622,S623と同じである。
図38〜図40の実施形態によれば、肺全体の面積に対する関心領域の面積の割合値が4分の1未満である場合には(図26)、図6に示されるようにaxial画像が症例表示領域710に表示される。一方、肺全体の面積に対する関心領域の面積の割合値が4分の1以上である場合には(図38)、図7に示されるようにcoronal画像が症例表示領域710に表示される。
このように、図38〜図40の実施形態においても、上記実施形態と同様に、医師の意図に合ったサムネイル画像を症例表示領域710に表示することができる。
(2)上記実施形態では、症例検索システム300が画像特徴を抽出する例を示したが、情報端末100が画像特徴を抽出してもよい。
図41は、症例検索システム300が画像特徴を抽出する態様を採用した場合の情報端末100、医用情報管理システム200、及び症例検索システム300のブロック図である。
図2との違いは、情報端末100に画像特徴抽出部113が追加された点、及び症例検索システム300から画像特徴抽出部302が省かれた点にある。
図42は、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。
図22との違いは、ROI管理部105が、診断対象症例のスライス画像を通信制御部110に送信する処理(S600)の後、画像特徴の抽出が情報端末100で行われ(S603)、抽出された画像特徴が症例検索システム300に送信(S604)されている点にある。画像特徴の抽出(S604)の処理内容は、画像特徴の抽出が症例検索システム300で行われる場合と同様である。
図43は、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。図27との違いは、画像特徴の抽出が情報端末100側で行われるため、図43では、図27にはあった画像特徴の抽出(S610)が省かれている点にある。
本開示によれば、読影対象である医用画像を用いて診断するにあたって参考となる類似症例を提示する類似症例検索装置、および研修読影医のための読影教育装置等に利用可能である。
100 情報端末
101,101a,101b ディスプレイ
102 操作部
103 入力制御部
104 表示制御部
200 医用情報管理システム
300 症例検索システム
710 症例表示領域
K2 基本画面
ROI 関心領域

Claims (14)

  1. 情報端末の制御方法であって、
    前記情報端末のコンピュータに対して、
    読影対象の医用画像である対象医用画像において関心領域を示す情報が入力されたか否かを検知させ、
    前記対象医用画像と所定の類似度を有する複数の類似医用画像を症例検索システムから受信させ、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、
    前記入力された関心領域を示す情報が1個の前記関心領域を示す場合には、前記アキシャル画像をディスプレイに表示させ、前記入力された関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合には、前記コロナル画像を前記ディスプレイに表示させる、
    制御方法。
  2. 入力された前記関心領域を示す情報が1個の前記関心領域を示す場合は、前記対象医用画像の関心領域と前記複数の類似医用画像の各々の関心領域は所定の類似度を有し、
    入力された前記関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合は、前記対象医用画像を含む画像群と前記複数の類似医用画像の各々の類似医用画像を含む画像群は所定の類似度を有する、
    請求項1記載の制御方法。
  3. 前記アキシャル画像は被験者の長手方向に関する軸に関して垂直断面が断層面である画像であり、
    前記コロナル画像は前記被験者の長手方向に関する軸と平行な面と0度以上から45度以下の角度をなす面が断層面の画像である、
    請求項2記載の制御方法。
  4. 情報端末の制御方法であって、
    前記情報端末のコンピュータに対して、
    読影対象の医用画像である対象医用画像において関心領域を示す情報を検知させ、
    複数の類似医用画像を症例検索システムから受信させ、前記複数の類似医用画像の各々は前記対象医用画像に基づき選択され、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、
    前記関心領域が前記対象医用画像の中に占める割合値が所定の閾値未満である場合には、前記アキシャル画像をディスプレイに表示させ、前記割合値が前記閾値以上である場合には、前記コロナル画像を前記ディスプレイに表示させる、
    制御方法。
  5. 前記対象医用画像は、断層撮影法により撮影された肺の医用画像であり、
    前記割合値は、前記対象医用画像に含まれる前記肺の面積に対する、前記関心領域と前記肺とが重なった領域の面積の比率であり、
    前記閾値は、4分の1である、
    請求項に記載の制御方法。
  6. 前記制御方法は、
    前記情報端末のコンピュータに対して、
    検知された前記関心領域を示す情報により示される前記関心領域と前記対象医用画像とに基づいて前記割合値を算出させる、
    請求項またはに記載の制御方法。
  7. 前記制御方法は、
    前記情報端末のコンピュータに対して、
    前記対象医用画像及び検知された前記関心領域を示す情報を前記症例検索システムに送信させ、
    前記割合値を前記症例検索システムから受信させる、
    請求項またはに記載の制御方法。
  8. 前記制御方法は、
    前記情報端末のコンピュータに対して、
    前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
    前記関心領域の特徴量と前記所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させる、
    請求項1からのいずれか1つに記載の制御方法。
  9. 前記制御方法は、
    前記情報端末のコンピュータに対して、
    前記対象医用画像及び前記関心領域を示す情報を前記症例検索システムに送信させ、
    前記対象医用画像及び前記関心領域を示す情報から得られる前記関心領域の特徴量と前記所定の類似度を有する複数の類似医用画像を前記症例検索システムから受信させる、
    請求項1からのいずれか1つに記載の制御方法。
  10. 情報端末において実行されるプログラムであって、
    前記情報端末のコンピュータに対して、
    読影対象の医用画像である対象医用画像において関心領域を示す情報が入力されたか否かを検知させ、
    前記対象医用画像と所定の類似度を有する複数の類似医用画像を症例検索システムから受信させ、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、
    前記入力された関心領域を示す情報が1個の前記関心領域を示す場合には、前記アキシャル画像をディスプレイに表示させ、前記入力された関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合には、前記コロナル画像を前記ディスプレイに表示させる、
    プログラム。
  11. 情報端末において実行されるプログラムであって、
    前記情報端末のコンピュータに対して、
    読影対象の医用画像である対象医用画像において関心領域を示す情報を検知させ、
    複数の類似医用画像を症例検索システムから受信させ、前記複数の類似医用画像の各々は前記対象医用画像に基づき選択され、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、
    前記関心領域が前記対象医用画像の中に占める割合値が所定の閾値未満である場合には、前記アキシャル画像をディスプレイに表示させ、前記割合値が前記閾値以上である場合には、前記コロナル画像を前記ディスプレイに表示させる、
    プログラム。
  12. 情報端末のコンピュータに対して、
    読影対象の医用画像である対象医用画像において関心領域を示す情報が入力されたか否かを検知させ、前記関心領域の各々は1つの連続領域であり、
    複数の類似医用画像を症例検索システムから受信させ、前記複数の類似医用画像の各々は前記対象医用画像に基づき選択され、前記受信した複数の類似医用画像は、アキシャル画像及びコロナル画像を含み、
    前記入力された関心領域を示す情報が1個の前記関心領域を示す場合には、前記アキシャル画像をディスプレイに表示させ、
    前記入力された関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合には、前記コロナル画像である前記受信した複数の類似医用画像を前記ディスプレイに表示させる、
    制御方法。
  13. 入力された前記関心領域を示す情報が1個の前記関心領域を示す場合は、前記対象医用画像の関心領域と前記複数の類似医用画像の各々の関心領域は所定の類似度を有し、
    入力された前記関心領域を示す情報が2個以上の前記関心領域を示す場合又は前記関心領域を示す情報が入力されていない場合は、前記対象医用画像を含む画像群と前記複数の類似医用画像の各々の類似医用画像を含む画像群は所定の類似度を有する、
    請求項12記載の制御方法。
  14. 前記アキシャル画像は被験者の長手方向に関する軸に関して垂直断面が断層面である画像であり、
    前記コロナル画像は前記被験者の長手方向に関する軸と平行な面と0度以上から45度以下の角度をなす面が断層面の画像である、
    請求項13記載の制御方法。
JP2016168087A 2015-09-30 2016-08-30 制御方法及びプログラム Active JP6722857B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015193501 2015-09-30
JP2015193501 2015-09-30

Publications (2)

Publication Number Publication Date
JP2017064387A JP2017064387A (ja) 2017-04-06
JP6722857B2 true JP6722857B2 (ja) 2020-07-15

Family

ID=58409724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016168087A Active JP6722857B2 (ja) 2015-09-30 2016-08-30 制御方法及びプログラム

Country Status (3)

Country Link
US (1) US10055543B2 (ja)
JP (1) JP6722857B2 (ja)
CN (1) CN106560827B (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3605406A4 (en) 2017-03-29 2021-01-20 ThinkCyte, Inc. LEARNING RESULTS OUTPUT DEVICE AND LEARNING OUTCOMES OUTPUT PROGRAM
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
JP7121470B2 (ja) * 2017-05-12 2022-08-18 キヤノン株式会社 画像処理システム、制御方法、及び、プログラム
EP3682791B1 (en) * 2017-09-15 2023-12-20 FUJIFILM Corporation Medical image processing device
JP7119327B2 (ja) * 2017-10-03 2022-08-17 富士通株式会社 プログラム、情報処理方法及び情報処理装置
JP7228332B2 (ja) * 2017-11-17 2023-02-24 キヤノンメディカルシステムズ株式会社 医用画像処理装置および医用画像処理方法
US11049250B2 (en) * 2017-11-22 2021-06-29 General Electric Company Systems and methods to deliver point of care alerts for radiological findings
US10783634B2 (en) 2017-11-22 2020-09-22 General Electric Company Systems and methods to deliver point of care alerts for radiological findings
US10799189B2 (en) 2017-11-22 2020-10-13 General Electric Company Systems and methods to deliver point of care alerts for radiological findings
CN112055555A (zh) * 2018-05-14 2020-12-08 富士胶片株式会社 医疗图像处理装置、医疗图像处理方法及内窥镜系统
JP7157232B2 (ja) * 2018-07-11 2022-10-19 グーグル エルエルシー 放射線医学のための類似画像の検索
KR102192164B1 (ko) * 2018-08-08 2020-12-16 주식회사 딥바이오 생체 이미지 진단 시스템, 생체 이미지 진단 방법, 및 이를 수행하기 위한 단말
DE102018214325A1 (de) * 2018-08-24 2020-02-27 Siemens Healthcare Gmbh Verfahren und Bereitstellungseinheit zum Bereitstellen eines virtuellen tomographischen Schlaganfall-Nachfolgeuntersuchungsbildes
DE112019004300T5 (de) 2018-08-31 2021-05-20 Fujifilm Corporation Ähnlichkeitsbestimmungsvorrichtung, ähnlichkeitsbestimmungsverfahren und ähnlichkeitsbestimmungsprogramm
CN112601494A (zh) 2018-08-31 2021-04-02 富士胶片株式会社 相似度确定装置、方法及程序
CN113164142B (zh) * 2018-11-27 2024-04-30 富士胶片株式会社 相似度确定装置、方法及程序
DE112019005888T5 (de) * 2018-11-27 2021-09-30 Fujifilm Corporation Ähnlichkeitsbestimmungsvorrichtung, ähnlichkeitsbestimmungsverfahren und ähnlichkeitsbestimmungsprogramm
US10811135B2 (en) * 2018-12-27 2020-10-20 General Electric Company Systems and methods to determine disease progression from artificial intelligence detection output
JP7074101B2 (ja) * 2019-03-20 2022-05-24 コニカミノルタ株式会社 動態解析装置、動態解析システム、予測率算出方法及びプログラム
US11989216B2 (en) 2019-04-09 2024-05-21 University Of Washington Systems and methods for providing similarity-based retrieval of information stored in DNA
US10957444B2 (en) * 2019-05-06 2021-03-23 Wisconsin Alumni Research Foundation Apparatus for tomography repeat rate/reject rate capture
CN112420167A (zh) * 2019-08-20 2021-02-26 阿里巴巴集团控股有限公司 影像报告的生成方法、装置及设备
US11322243B2 (en) * 2019-10-18 2022-05-03 Neosoft, Llc Method and system for identifying and displaying medical images
US20220327157A1 (en) * 2019-12-25 2022-10-13 Nec Corporation Image retrieval system, image retrieval method, and storage medium
JP7440317B2 (ja) * 2020-03-26 2024-02-28 キヤノンメディカルシステムズ株式会社 医用情報処理システム、医用情報処理装置及び医用情報処理プログラム
WO2024035976A2 (en) * 2022-05-09 2024-02-15 Mofaip, Llc Dynamic areas of interest that travel and interact with maps and void spaces

Family Cites Families (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001157675A (ja) * 1999-12-02 2001-06-12 Fuji Photo Film Co Ltd 画像表示方法および画像表示装置
US6901156B2 (en) * 2000-02-04 2005-05-31 Arch Development Corporation Method, system and computer readable medium for an intelligent search workstation for computer assisted interpretation of medical images
US7130457B2 (en) * 2001-07-17 2006-10-31 Accuimage Diagnostics Corp. Systems and graphical user interface for analyzing body images
US6901277B2 (en) * 2001-07-17 2005-05-31 Accuimage Diagnostics Corp. Methods for generating a lung report
JP2004005364A (ja) 2002-04-03 2004-01-08 Fuji Photo Film Co Ltd 類似画像検索システム
US7346199B2 (en) * 2002-11-30 2008-03-18 Intuitive Software, Inc. Anatomic triangulation
JP4460973B2 (ja) * 2004-08-05 2010-05-12 株式会社東芝 画像処理装置
JP5128154B2 (ja) 2006-04-10 2013-01-23 富士フイルム株式会社 レポート作成支援装置、レポート作成支援方法およびそのプログラム
JP2007287018A (ja) * 2006-04-19 2007-11-01 Fujifilm Corp 診断支援システム
US8295568B2 (en) * 2006-06-30 2012-10-23 Fujifilm Corporation Medical image display processing apparatus and medical image display processing program
JP4818846B2 (ja) * 2006-08-16 2011-11-16 富士フイルム株式会社 医用画像処理装置及び医用画像処理プログラム
JP5098253B2 (ja) * 2006-08-25 2012-12-12 コニカミノルタエムジー株式会社 データベースシステム、プログラム、及びレポート検索方法
JP4979334B2 (ja) * 2006-10-18 2012-07-18 富士フイルム株式会社 医用画像読影支援システム及びプログラム
JP2008253292A (ja) * 2007-03-30 2008-10-23 Fujifilm Corp 症例画像検索装置及びシステム
JP5128161B2 (ja) 2007-03-30 2013-01-23 富士フイルム株式会社 画像診断支援装置及びシステム
JP2009018048A (ja) * 2007-07-12 2009-01-29 Fujifilm Corp 医用画像表示装置、方法及びプログラム
JP4786685B2 (ja) * 2007-11-16 2011-10-05 株式会社モリタ製作所 X線画像表示方法、x線撮影装置、及びx線画像表示装置
JP2010017410A (ja) 2008-07-11 2010-01-28 Fujifilm Corp 類似症例画像検索システム及び類似症例画像検索装置
CN101373479A (zh) * 2008-09-27 2009-02-25 华中科技大学 一种乳腺x线摄片计算机图像检索方法及系统
JP5502346B2 (ja) * 2009-03-09 2014-05-28 富士フイルム株式会社 症例画像登録装置、方法およびプログラムならびに症例画像検索装置、方法、プログラムおよびシステム
JP5599572B2 (ja) * 2009-03-12 2014-10-01 富士フイルム株式会社 症例画像検索装置、方法およびプログラム
US20110054295A1 (en) * 2009-08-25 2011-03-03 Fujifilm Corporation Medical image diagnostic apparatus and method using a liver function angiographic image, and computer readable recording medium on which is recorded a program therefor
JP5670079B2 (ja) 2009-09-30 2015-02-18 富士フイルム株式会社 医用画像表示装置および方法、並びにプログラム
US8799013B2 (en) * 2009-11-24 2014-08-05 Penrad Technologies, Inc. Mammography information system
US9451924B2 (en) * 2009-12-30 2016-09-27 General Electric Company Single screen multi-modality imaging displays
WO2011122402A1 (ja) * 2010-03-31 2011-10-06 株式会社 日立メディコ 検査情報表示装置及び方法
JP5661382B2 (ja) * 2010-08-31 2015-01-28 キヤノン株式会社 画像表示装置
CN102985924A (zh) * 2011-02-14 2013-03-20 松下电器产业株式会社 相似病例检索装置以及相似病例检索方法
WO2013001678A1 (ja) * 2011-06-30 2013-01-03 パナソニック株式会社 類似症例検索装置および関連度データベース作成装置並びに類似症例検索方法および関連度データベース作成方法
JP4979842B1 (ja) * 2011-06-30 2012-07-18 パナソニック株式会社 類似症例検索装置および類似症例検索方法
JP5871104B2 (ja) * 2013-08-01 2016-03-01 パナソニック株式会社 病変判定装置、類似症例検索装置、病変判定装置の駆動方法、類似症例検索装置の駆動方法、およびプログラム
JP5896084B2 (ja) * 2013-08-01 2016-03-30 パナソニック株式会社 類似症例検索装置、類似症例検索装置の制御方法、およびプログラム
JP5927591B2 (ja) * 2013-08-07 2016-06-01 パナソニックIpマネジメント株式会社 症例表示装置、症例表示方法およびプログラム
US10169534B2 (en) * 2013-09-30 2019-01-01 Toshiba Medical Systems Corporation Medical image display system and method
KR102244258B1 (ko) * 2013-10-04 2021-04-27 삼성전자주식회사 디스플레이 장치 및 이를 이용한 영상표시방법
JP6225636B2 (ja) * 2013-10-22 2017-11-08 コニカミノルタ株式会社 医用画像処理装置及びプログラム
US20150186599A1 (en) * 2014-01-02 2015-07-02 Paul Lee McCune Integrated orthopedic examination and image management system
CN104161516B (zh) * 2014-01-09 2015-09-02 上海联影医疗科技有限公司 磁共振成像方位判断方法及其装置
JP5810251B1 (ja) * 2014-04-09 2015-11-11 パナソニック株式会社 情報端末の制御方法及びプログラム
WO2015155808A1 (ja) * 2014-04-09 2015-10-15 パナソニック株式会社 情報端末の制御方法及びプログラム
JP6548393B2 (ja) * 2014-04-10 2019-07-24 キヤノンメディカルシステムズ株式会社 医用画像表示装置および医用画像表示システム
JP2016006635A (ja) * 2014-05-29 2016-01-14 パナソニック株式会社 制御方法及びプログラム
US10216762B2 (en) * 2014-06-04 2019-02-26 Panasonic Corporation Control method and non-transitory computer-readable recording medium for comparing medical images
US10599810B2 (en) * 2014-06-04 2020-03-24 Panasonic Corporation Control method and recording system
US10748661B2 (en) * 2014-10-30 2020-08-18 Panasonic Corporation Method for controlling information terminal, and recording medium
JP6318102B2 (ja) * 2015-02-04 2018-04-25 富士フイルム株式会社 画像表示制御装置,画像表示制御方法,および画像表示制御プログラムならびにそのプログラムを格納した記録媒体
EP3255603B1 (en) * 2015-02-05 2022-09-07 Ricoh Company, Limited Image processing device, image processing system, and image processing method
CN105912831B (zh) * 2015-02-19 2021-08-20 松下知识产权经营株式会社 信息终端的控制方法
JP6638729B2 (ja) * 2015-07-22 2020-01-29 コニカミノルタ株式会社 コンソール及び動態画像撮影診断システム
JP6697743B2 (ja) * 2015-09-29 2020-05-27 パナソニックIpマネジメント株式会社 情報端末の制御方法及びプログラム
JP6675099B2 (ja) * 2015-09-30 2020-04-01 パナソニックIpマネジメント株式会社 制御方法及びプログラム
CN106557536B (zh) * 2015-09-30 2021-12-21 松下知识产权经营株式会社 控制方法
JP6699339B2 (ja) * 2016-05-13 2020-05-27 コニカミノルタ株式会社 動態解析システム

Also Published As

Publication number Publication date
US20170091930A1 (en) 2017-03-30
CN106560827B (zh) 2021-11-26
JP2017064387A (ja) 2017-04-06
CN106560827A (zh) 2017-04-12
US10055543B2 (en) 2018-08-21

Similar Documents

Publication Publication Date Title
JP6722857B2 (ja) 制御方法及びプログラム
JP7065436B2 (ja) 制御方法及びプログラム
US11179036B2 (en) Control method of information terminal and computer-readable recording medium
JP6799115B2 (ja) 情報端末の制御方法及びプログラム
US11185228B2 (en) Control method of information terminal and computer-readable recording medium
JP6874193B2 (ja) 情報端末、制御方法及びプログラム
JP6907381B2 (ja) 制御方法及びプログラム
JP6697743B2 (ja) 情報端末の制御方法及びプログラム
JP6578135B2 (ja) 制御方法及びプログラム
JP6664113B2 (ja) 情報端末の制御方法及びプログラム
JP6675099B2 (ja) 制御方法及びプログラム
JP2018142072A (ja) 情報端末の制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190408

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200603

R151 Written notification of patent or utility model registration

Ref document number: 6722857

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151