JPWO2015155808A1 - 情報端末の制御方法及びプログラム - Google Patents
情報端末の制御方法及びプログラム Download PDFInfo
- Publication number
- JPWO2015155808A1 JPWO2015155808A1 JP2015533776A JP2015533776A JPWO2015155808A1 JP WO2015155808 A1 JPWO2015155808 A1 JP WO2015155808A1 JP 2015533776 A JP2015533776 A JP 2015533776A JP 2015533776 A JP2015533776 A JP 2015533776A JP WO2015155808 A1 JPWO2015155808 A1 JP WO2015155808A1
- Authority
- JP
- Japan
- Prior art keywords
- similar
- image
- interest
- display
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 230
- 238000009826 distribution Methods 0.000 claims description 412
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 369
- 201000010099 disease Diseases 0.000 claims description 367
- 230000008859 change Effects 0.000 claims description 59
- 210000004072 lung Anatomy 0.000 claims description 48
- 230000002146 bilateral effect Effects 0.000 claims description 36
- 210000004224 pleura Anatomy 0.000 claims description 28
- 208000013210 hematogenous Diseases 0.000 claims description 26
- 230000004044 response Effects 0.000 claims description 16
- 238000007726 management method Methods 0.000 description 252
- 230000003902 lesion Effects 0.000 description 219
- 238000003745 diagnosis Methods 0.000 description 206
- 238000010586 diagram Methods 0.000 description 172
- 230000008569 process Effects 0.000 description 168
- 238000012545 processing Methods 0.000 description 102
- 238000004891 communication Methods 0.000 description 88
- 238000002591 computed tomography Methods 0.000 description 54
- 238000007689 inspection Methods 0.000 description 48
- 238000013500 data storage Methods 0.000 description 26
- 206010017533 Fungal infection Diseases 0.000 description 24
- 238000000605 extraction Methods 0.000 description 24
- 208000024386 fungal infectious disease Diseases 0.000 description 24
- 238000003384 imaging method Methods 0.000 description 20
- 206010050017 Lung cancer metastatic Diseases 0.000 description 18
- 239000000284 extract Substances 0.000 description 18
- 238000002595 magnetic resonance imaging Methods 0.000 description 16
- 230000006872 improvement Effects 0.000 description 15
- 230000000052 comparative effect Effects 0.000 description 14
- 230000001613 neoplastic effect Effects 0.000 description 14
- 238000006243 chemical reaction Methods 0.000 description 12
- 210000000038 chest Anatomy 0.000 description 12
- 208000027531 mycobacterial infectious disease Diseases 0.000 description 12
- 230000005540 biological transmission Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 201000002909 Aspergillosis Diseases 0.000 description 8
- 208000036641 Aspergillus infections Diseases 0.000 description 8
- 201000007336 Cryptococcosis Diseases 0.000 description 8
- 241000221204 Cryptococcus neoformans Species 0.000 description 8
- 238000009534 blood test Methods 0.000 description 8
- 210000001370 mediastinum Anatomy 0.000 description 8
- 238000003825 pressing Methods 0.000 description 8
- 238000012360 testing method Methods 0.000 description 8
- 238000009825 accumulation Methods 0.000 description 6
- 238000013170 computed tomography imaging Methods 0.000 description 6
- 239000012141 concentrate Substances 0.000 description 6
- 206010058467 Lung neoplasm malignant Diseases 0.000 description 4
- 230000001174 ascending effect Effects 0.000 description 4
- 230000017531 blood circulation Effects 0.000 description 4
- 210000004204 blood vessel Anatomy 0.000 description 4
- 238000013523 data management Methods 0.000 description 4
- 201000003453 lung abscess Diseases 0.000 description 4
- 201000005202 lung cancer Diseases 0.000 description 4
- 208000020816 lung neoplasm Diseases 0.000 description 4
- 238000012831 peritoneal equilibrium test Methods 0.000 description 4
- 238000012636 positron electron tomography Methods 0.000 description 4
- 238000012877 positron emission topography Methods 0.000 description 4
- 201000000306 sarcoidosis Diseases 0.000 description 4
- 239000013589 supplement Substances 0.000 description 4
- 210000001519 tissue Anatomy 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 208000005189 Embolism Diseases 0.000 description 2
- 206010014561 Emphysema Diseases 0.000 description 2
- 206010027476 Metastases Diseases 0.000 description 2
- 241000186359 Mycobacterium Species 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 2
- 206010040067 Septic embolus Diseases 0.000 description 2
- 210000001015 abdomen Anatomy 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000004397 blinking Effects 0.000 description 2
- 238000004820 blood count Methods 0.000 description 2
- 210000000988 bone and bone Anatomy 0.000 description 2
- 210000000621 bronchi Anatomy 0.000 description 2
- 201000009267 bronchiectasis Diseases 0.000 description 2
- 201000011510 cancer Diseases 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000002059 diagnostic imaging Methods 0.000 description 2
- 229940079593 drug Drugs 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 238000001839 endoscopy Methods 0.000 description 2
- 238000012840 feeding operation Methods 0.000 description 2
- ZGNITFSDLCMLGI-UHFFFAOYSA-N flubendiamide Chemical compound CC1=CC(C(F)(C(F)(F)F)C(F)(F)F)=CC=C1NC(=O)C1=CC=CC(I)=C1C(=O)NC(C)(C)CS(C)(=O)=O ZGNITFSDLCMLGI-UHFFFAOYSA-N 0.000 description 2
- 239000005337 ground glass Substances 0.000 description 2
- 210000000265 leukocyte Anatomy 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 210000001165 lymph node Anatomy 0.000 description 2
- 230000009401 metastasis Effects 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 208000008128 pulmonary tuberculosis Diseases 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000004202 respiratory function Effects 0.000 description 2
- 238000010187 selection method Methods 0.000 description 2
- 208000024891 symptom Diseases 0.000 description 2
- 210000000225 synapse Anatomy 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 201000008827 tuberculosis Diseases 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0002—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
- A61B5/0015—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by features of the telemetry system
- A61B5/0022—Monitoring a patient using a global network, e.g. telephone networks, internet
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/7425—Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/743—Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/0485—Scrolling or panning
- G06F3/04855—Interaction with scrollbars
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H15/00—ICT specially adapted for medical reports, e.g. generation or transmission thereof
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves
- A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/08—Detecting, measuring or recording devices for evaluating the respiratory organs
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/02—Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
- A61B6/03—Computed tomography [CT]
- A61B6/032—Transmission computed tomography [CT]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/461—Displaying means of special interest
- A61B6/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0407—Resolution change, inclusive of the use of different resolutions for different screen areas
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Library & Information Science (AREA)
- Medical Treatment And Welfare Office Work (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
- User Interface Of Digital Computer (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本開示の情報端末の制御方法は、対象医用画像を表示する第1表示領域と、NC個の類似医用画像の中のM個の類似医用画像を対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面をディスプレイに表示させる。第2表示領域は、M個の類似医用画像を表示するためのND個の個別領域を含む。M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、一つの指示を検知した際に第2表示領域に表示されているM個の範囲でM個以下の各類似医用画像について、第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、M個以下の各類似医用画像の中の対応関心領域を、各個別領域の中心に相当する位置に合わせて拡大させる。
Description
本発明は、読影対象の医用画像と類似する類似医用画像を検索するための情報端末の制御方法及びプログラムに関する。
近年、例えば、CT(Computed Tomography)、MRI(Magnetic Resonance Imaging)等の医用画像装置が発達及び普及している。これらCT又はMRI等は、デジタル化された高精細な医用画像を大容量で取得することを可能にした。また、医師が読影した医用画像は読影レポートと共にPACS(Picture Archiving and Communication Systems)に順次蓄積されつつある。ここで、例えば特許文献1に開示されるように、新たな読影の参考とするため、読影対象の医用画像と類似した過去の医用画像を、PACSに蓄積済の過去症例から検索する技術が開発され始めている。
しかしながら、更なる改善が必要とされていた。
大沢 哲、外4名、"画像診断を支援する類似症例検索システム「SYNAPSE Case Match」の開発"、富士フイルム研究報告、富士フイルム株式会社、平成25年3月27日、第58号、p.11−14
上記課題を解決するため、本開示の一態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させるものである。
上記態様により、更なる改善が実現できる。
(本開示に係る一態様を発明するに至った経緯)
まず、本開示に係る一態様の着眼点について説明する。
まず、本開示に係る一態様の着眼点について説明する。
特許文献1は、診断対象画像に基づく画像診断時に疾患の判断に有用な症例画像又はその疾患に関する統計情報等を提示する画像診断支援装置を開示する。当該画像診断支援装置による検索結果の画面は、診断対象画像及び疾患別の代表症例の情報を表示する。具体的には、前記検索結果の画面は、i)上位3つの疾患A、D、Gの代表症例の画像、ii)疾患別に診断対象画像との類似度、登録症例数及び代表症例数、iii)検索件数(検索された疾患の総数)、及び、iv)一画面に表示できない他の疾患の情報を参照するための「ページ送り」のソフトボタン等を表示する(段落[0062]から[0063]及び図6(E))。
特許文献1では、検索結果の画面において、代表症例の画像を拡大させることについての記載は一切ない。したがって、特許文献1は、単純に代表症例の画像を拡大することさえ開示をしないので、画像表示数に制約がある検索結果の画面において、例えば、代表症例の画像に含まれる病変部位を中心に、前記代表症例の画像の各々を拡大させる等の工夫をも開示していない。
特許文献2は、同一患者の医用画像について比較読影の効率向上を実現する医用画像表示装置を開示する。ここで、比較読影とは、i)同一の患者に対し異なる画像診断装置あるいは撮影条件によって得られた画像データを用いた比較読影又はii)同一の患者に対し同一画像診断装置によって得られた過去及び最新の画像データを用いた比較読影をいう。即ち、特許文献2の比較読影は、同一の患者の画像データを用いた比較読影である。
当該医用画像表示装置の表示画面には、サムネイル表示エリアに表示されるサムネイル画像を拡大又は縮小するための「標準」、「拡大率基準」及び「サイズ基準」の3種類のソフトボタンが表示される(段落[0040]及び図6)。「拡大率基準」又は「サイズ基準」が選択されると、サムネイル画像は、病変範囲又は病変位置を含むように拡大して表示される。これにより、一覧表示されたサムネイル画像による病変確認は、「標準」が選択された場合と比較して容易になる。また、「サイズ基準」が選択された場合、サムネイル画像のサムネイルサイズは、表示一覧性を保持するため、「標準」が選択された場合と同一サイズになる(段落[0041]から[0043]及び図7)。尚、特許文献2では、サムネイル画像は時系列順に表示される(例えば、特許文献2の図6参照)。
特許文献2では、「拡大率基準」又は「サイズ基準」が選択されると、病変範囲又は病変位置を含む全てのサムネイル画像が拡大されることになる。即ち、サムネイル表示エリアに表示されているサムネイル画像に加え、サムネイル表示エリアに表示し切れないサムネイル画像も拡大される(例えば、特許文献2の図6及び図7参照)。
これは、同一患者の画像を時間の経過を追って比較すること(比較読影)を前提としているためである。なぜならば、比較読影は、主に経過観察のため、半年又は1年近くの期間をおいて医用画像が撮影されることが通常だからである。そのため、医用画像数が膨大である可能性が低く、全てのサムネイル画像を拡大したとしても、システムの処理負荷はさほど大きくなることはない。
また、サムネイル画像は全て同一患者の画像である。このため、読影対象の画像と他の患者の画像とを比較する場合とは異なり、各サムネイル画像が類似しているか否かを検討する作業は不要となる。即ち、特許文献2のサムネイル画像は、同一患者の病変変化を時系列に沿って検討するために用いられる。そのため、拡大表示する際に、他の患者の画像との類似関係に基づき一部のサムネイル画像は拡大し、他のサムネイル画像は拡大しないといった作業はそもそも発生しない。
非特許文献1は、病変画像を用いて過去の類似症例を検索する機能により、上述のPACSなどに蓄積された臨床知識から、瞬時に的確な情報を抽出し提示し、医師の画像診断をサポートする類似症例検索システムを開示する。具体的には、本システムは、検査画像の病変の特徴が類似した症例画像を検索し、類似順に複数表示する。そして、表示された複数の症例画像より1つの参考症例画像を選択し、検査画像と並列に表示する(p.12「2.2 本システムの特徴」及びFig.3)。
非特許文献1に開示されたシステムは、類似順に複数表示された症例画像を拡大させることについての記載は一切ない。したがって、非特許文献1は、単純に症例画像を拡大することさえ開示をしないので、画像表示数に制約がある検索結果の画面において、例えば、代表症例の画像に含まれる病変部位を中心に、前記代表症例の画像の各々を拡大させる等の工夫をも開示しない。
未だ病名が特定されていない読影対象の医用画像に表れている病変を検討するにあたって、既に病名が特定されている他の医用画像の中で前記読影対象の医用画像と類似する類似医用画像を参照することは有効であると考えられる。しかし、このようなシステムを構築した場合、前記医用画像データベースに膨大な数の医用画像が登録されることになる。このような場合であっても、前記読影対象の医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示することが望まれる。
以上の考察により、本願発明者らは、以下の発明の各態様を想到するに至った。
本開示の第1の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させるものである。
本態様によると、前記読影対象の対象医用画像の中の関心領域と所定の類似度を有する類似医用画像であって既に病名が特定されているNC個の類似医用画像を前記症例検索システムから受信し、前記NC個の類似医用画像の中のM個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する。これにより、前記医用画像データベースに登録されている膨大な医用画像の中から、前記対象医用画像に表れている病変の病名を検討するために参考となる類似医用画像を効率的に抽出して、医師に提示できる。
また、表示されている類似医用画像の中で医師が関心を示した画像を拡大することもできる。その際、本態様では、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる。
これにより、前記表示されている類似医用画像の各々について個々の拡大指示が不要となる。したがって、操作効率を向上できる。また、前記類似医用画像を拡大する際、前記類似医用画像の各個別領域のサイズは同一サイズに維持される。そのため、前記M個以下の類似医用画像を拡大させつつも、画像表示数に制約がある表示画面を有効活用して、前記M個以下の類似医用画像の各々を拡大表示させることができる。また、前記各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる。そのため、前記M個以下の類似医用画像の中で医師が関心を持つ領域を中心に、前記M個以下の類似医用画像の各々が拡大されることになる。
このように、一つの指示によって、画像表示数に制約がある表示画面を有効活用しながら、医師が関心を持つ領域を中心に、前記M個以下の類似医用画像の各々を拡大させる。その結果、例えば、前記医用画像データベースに膨大な数の医用画像が登録されている場合であっても、前記読影対象の対象医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示する。したがって、診断精度の向上に寄与できる。
また、前記M個以下の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示によって、前記M個以下の類似医用画像が拡大されることになる。そのため、医師が前記M個以下の類似医用画像の中で、拡大してより詳細を確認するためにいずれか一の類似医用画像を選択すると、前記M個の類似医用画像の中の他の類似医用画像までも拡大される。即ち、前記M個の類似医用画像の拡大のための特別の操作を医師に要求するものではなく、医師が拡大により詳細を確認するためにいずれか一の類似医用画像を選択するという自然な操作の流れに沿って、前記M個の類似医用画像の中の他の類似医用画像までも拡大される。その結果、前記M個以下の類似医用画像を効率的に拡大する。したがって、医師の操作負担を軽減して、その分、医師を専門的な判断に集中させて、診断精度の向上を図ることができる。
また、本態様では、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像を拡大させる。
即ち、前記医用画像データベースに登録されている膨大な医用画像の中から、前記読影対象の医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記症例検索システムから受信する場合でも、前記受信するNC個の類似医用画像は、例えば、200画像、300画像と画像数は多い。この際、一つの指示により画像を拡大するにしても、前記受信したNC個の類似医用画像の全てを拡大するのは非効率である。従って、前記受信したNC個の類似医用画像の中から一定範囲の画像に限定して、前記一つの拡大指示により画像を拡大する方が望ましい。
ここで、前記読影対象の医用画像である対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記対象医用画像との類似度が高い順序で表示して、前記対象医用画像に表れている病変の病名を検討する趣旨からすると、前記一つの拡大指示を検知した場合、前記一の類似医用画像と一定の類似関係にある画像に限定して拡大することが望ましい。一方で、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知する毎に、前記一の類似医用画像と一定の類似関係にある画像はどれかを算出することは効率が悪い。
そこで、本態様では、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲は、前記一の類似医用画像と一定の類似関係ある画像と近似しているものと擬制している。そして、本態様では、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像を拡大させるようにした。
即ち、本態様では、前記受信したNC個の類似医用画像の全てを拡大するのではなく、前記受信したNC個の類似医用画像の中から一定範囲の画像に限定して、即ち、前記一の類似医用画像と一定の類似関係にあると擬制できる範囲の画像に限定して、拡大する。
このように、本態様では、前記読影対象の医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記読影対象の医用画像との類似度が高い順序で表示する。また、前記表示されている類似医用画像の中で医師が関心を示した画像を拡大する際、前記一の類似医用画像と一定の類似関係にあると擬制できる画像に限定して拡大する。そのため、膨大な数の類似医用画像を受信した場合でも、前記読影対象の医用画像に表れている病変の病名を検討する趣旨に沿った範囲で前記類似医用画像を拡大する。したがって、システムの処理負荷を大幅に軽減させつつ、前記検討に必要な情報を効果的に医師に提供し、診療判断の精度の向上に寄与できる。
また、上記第1の態様において、例えば、
前記表示画面はスクロールバーを有し、
前記スクロールバーの移動を検知すると、前記第2表示領域に表示される類似医用画像をスクロールさせ、
前記類似医用画像がスクロールされるに応じて、前記拡大される類似医用画像を増加させるようにしてもよい。
前記表示画面はスクロールバーを有し、
前記スクロールバーの移動を検知すると、前記第2表示領域に表示される類似医用画像をスクロールさせ、
前記類似医用画像がスクロールされるに応じて、前記拡大される類似医用画像を増加させるようにしてもよい。
本態様によると、前記類似医用画像がスクロールされるに応じて、前記拡大される類似医用画像を増加させる。即ち、前記一つの拡大指示により画像を拡大する範囲について、当初範囲は少なく抑えつつ、前記範囲を事後的に可変させている。
これにより、一度拡大した画像については事後的に縮小する必要はなく、新たに前記第2表示領域に表示された例えば前記ND個の範囲を継続して、前記一の類似医用画像と一定の類似関係ある画像と近似しているものと擬制する。
そのため、前記類似医用画像がスクロールされた場合であっても、前記読影対象の医用画像に表れている病変の病名を検討する趣旨に沿った範囲で前記類似医用画像を継続して拡大する。したがって、システムの処理負荷を大幅に軽減させつつ、前記検討に必要な情報を継続して医師に提供し、診療判断の精度の向上に寄与できる。
また、上記第1の態様において、例えば、
前記受信したNC個の類似医用画像の総数NCを示す情報が前記表示画面に表示されるようにしてもよい。
前記受信したNC個の類似医用画像の総数NCを示す情報が前記表示画面に表示されるようにしてもよい。
また、上記第1の態様において、例えば、
前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるようにしてもよい。
前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるようにしてもよい。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個以下の類似医用画像の各々に含まれる前記対応関心領域を、前記M個以下の類似医用画像に共通する一定の割合で拡大した場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個以下の類似医用画像を拡大しても、拡大された前記対応関心領域の大きさは、ばらばらとなる。
本態様によると、例えば、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させる。
これによると、前記M個以下の類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさのばらつきを、前記M個以下の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個以下の類似医用画像について、前記拡大された対応関心領域を医師はほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、本開示の第2の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるものである。
本態様では、前記M個の類似医用画像に共通の指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させる。これにより、前記表示されているM個の類似医用画像の各々について個々の指示が不要となる。したがって、操作効率を向上できる。また、前記M個の類似医用画像の表示サイズを変化させる際、前記M個の類似医用画像の各個別領域のサイズは同一サイズに維持される。そのため、前記M個の類似医用画像の表示サイズを変化させつつも、画像表示数に制約がある表示画面を有効活用して、前記M個の類似医用画像の各々の表示サイズを変化させることができる。
このように、前記M個の類似医用画像に共通の一つの指示によって、画像表示数に制約がある表示画面を有効活用しながら、医師が関心を持つ領域を中心に、前記M個の類似医用画像の各々の表示サイズを変化できる。その結果、例えば、前記医用画像データベースに膨大な数の医用画像が登録されている場合であっても、前記対象医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示する。したがって、診療判断の精度の向上に寄与できる。
また、前記M個の類似医用画像に共通の一つの指示によって、前記M個の類似医用画像の表示サイズを変化させることになる。そのため、医師が前記M個の類似医用画像の中で、表示サイズを変化させながらより詳細を確認するために指示ボタンに対する一つの操作を行うと、前記M個の類似医用画像の全てが拡大される。即ち、前記M個の類似医用画像の表示サイズを変化させるための個別の操作を医師に要求するものではなく、医師が表示サイズを変化させてより詳細を確認するために、指示ボタンに対する一つの操作を行うという自然な操作の流れに沿って、前記M個の類似医用画像の全ての表示サイズが変化する。その結果、前記M個の類似医用画像の表示サイズを効率的に変化させる。したがって、医師の操作負担を軽減して、その分、医師を専門的な判断に集中させて、診断精度の向上を図ることができる。
また、本態様では、前記M個の類似医用画像に共通の一つの指示ボタンによる指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像の表示サイズを変化させる。即ち、前記医用画像データベースに登録されている膨大な医用画像の中から、前記対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記症例検索システムから受信する場合でも、前記受信するNC個の類似医用画像は、例えば、NCが200画像、300画像と画像数は多い。この際、一つの指示により類似医用画像の表示サイズを変化させるにしても、前記受信したNC個の類似医用画像の全ての表示サイズを変化させるのは非効率である。従って、前記受信したNC個の類似医用画像の中から一定範囲の画像に限定して、前記一つの指示により類似医用画像の表示サイズを変化させる方が望ましい。
ここで、前記読影対象の医用画像である対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記対象医用画像との類似度が高い順序で表示して、前記対象医用画像に表れている病変の病名を検討する趣旨からすると、前記一つの指示を検知した場合、前記対象医用画像と一定の類似関係にある画像に限定して表示サイズを変化させることが望ましい。一方で、前記対象医用画像が変わる毎に、また、前記類似医用画像が変わる毎に、前記対象医用画像と一定の類似関係にある画像を算出することは効率が悪い。
本態様では、前記対象医用画像との類似度が高い順序で前記類似医用画像を表示している。したがって、前記指示ボタンによる一つの指示を検知した場合、前記対象医用画像との関係で、前記一つの指示を検知した際に表示されている前記M個の類似医用画像については、前記対象医用画像と一定の類似関係ある画像と近似しているものと擬制できる。そこで、本態様では、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について表示サイズを変更させるようにした。即ち、本態様では、前記受信したNC個の類似医用画像の全てについて表示サイズを変更するのではなく、前記受信した類似医用画像の中から一定範囲の画像に限定して、即ち、前記読影対象の医用画像と一定の類似関係にあると擬制できる範囲の画像に限定して、表示サイズを変更する。
このように、本態様では、前記対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記対象医用画像との類似度が高い順序で表示し、前記表示されているM個の類似医用画像の中で医師が関心を示した画像の表示サイズを変更する際、前記一の類似医用画像と一定の類似関係にあると擬制できる画像に限定して表示サイズを変更する。そのため、膨大な数の類似医用画像を受信した場合でも、前記対象医用画像に表れている病変の病名を検討する趣旨に沿った範囲で前記類似医用画像の表示サイズを変更する。したがって、システムの処理負荷を大幅に軽減させつつ、前記検討に必要に情報を効果的に医師に提供し、診療判断の精度の向上に寄与できる。
また、上記第2態様において、例えば、
前記表示画面は、前記一以上の指示ボタンとして、少なくとも、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる第1指示ボタン、及び、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる第2指示ボタンを含み、
前記第1指示ボタン又は前記第2指示ボタンによるいずれか一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを一律に変化させるようにしてもよい。
前記表示画面は、前記一以上の指示ボタンとして、少なくとも、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる第1指示ボタン、及び、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる第2指示ボタンを含み、
前記第1指示ボタン又は前記第2指示ボタンによるいずれか一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを一律に変化させるようにしてもよい。
本態様によると、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる際には、医師は前記第1指示ボタンという一つの指示を選択すればよい。また、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる際には、医師は前記第2指示ボタンという一つの指示を選択すればよい。これにより、前記第1指示ボタン又は前記第2指示ボタンのいずれか一の指示によって、前記M個の類似医用画像を表示する各個別領域のサイズは同一サイズを維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズは一律に変化する。
そのため、前記M個の類似医用画像を初期表示サイズにて表示することも、また、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示することも、医師は一つの指示にてすることができるので、操作数を大幅に低減できる。
また、上記第2の態様において、例えば、
前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第3指示ボタンを含み、
前記第3指示ボタンによる一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるようにしてもよい。
前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第3指示ボタンを含み、
前記第3指示ボタンによる一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるようにしてもよい。
本態様によると、前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第3指示ボタンを含んでいる。
これにより、前記M個の類似医用画像を初期表示サイズにて表示させる場合と、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる場合との中間に相当する表示サイズに各対応関心領域の表示サイズを変化させる場合に、医師は一つの指示にて行うことができる。
また、上記第2の態様において、例えば、
前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記所定倍は個々の類似医用画像毎に異なり、
前記第3指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させるようにしてもよい。
前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記所定倍は個々の類似医用画像毎に異なり、
前記第3指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させるようにしてもよい。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個の類似医用画像の各々に含まれる前記対応関心領域の表示サイズを、前記M個の類似医用画像に共通する一定の割合で変化させた場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個の類似医用画像を拡大しても、拡大された前記対応関心領域の表示サイズは、ばらばらとなる。
本態様によると、例えば、前記所定倍は個々の類似医用画像毎に異なり、前記第3指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させる。
これによると、前記各対応関心領域の表示サイズを変化させる場合、前記変化した前記各対応関心領域の表示サイズのばらつきを、前記M個の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個の類似医用画像について、前記変化した表示サイズの前記各対象関心領域を医師はほぼ同様の大きさにて観察できる。その結果、一部の類似医用画像の前記対象関心領域の表示サイズが他の類似医用画像の前記対象関心領域の表示サイズより小さい状態に変化したために、見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1の態様又は上記第2の態様において、例えば、
前記第2指定情報が示す前記対応関心領域の大きさが第1サイズの場合、前記第2指定情報が示す前記対応関心領域の大きさが前記第1サイズより大きい第2サイズの場合に比べて、前記対応関心領域を大きく拡大させるようにしてもよい。
前記第2指定情報が示す前記対応関心領域の大きさが第1サイズの場合、前記第2指定情報が示す前記対応関心領域の大きさが前記第1サイズより大きい第2サイズの場合に比べて、前記対応関心領域を大きく拡大させるようにしてもよい。
本態様によると、前記類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさのばらつきを、前記類似医用画像間で、一定範囲に収束できる。具体的には、前記対応関心領域の大きさが第1サイズの場合、前記対応関心領域の大きさが前記第1サイズより大きい第2サイズの場合に比べて、前記対応関心領域を大きく拡大させる。これにより、前記対応関心領域の大きさに依存することなく、前記拡大された前記対応関心領域の大きさを、同様の大きさにすることができる。
そのため、医師は、前記類似医用画像について、前記拡大された対応関心領域をほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1の態様又は上記第2の態様において、例えば、
前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記各類似医用画像の中の前記対応関心領域を中心として拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるようにしてもよい。
前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記各類似医用画像の中の前記対応関心領域を中心として拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるようにしてもよい。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記類似医用画像の各々に含まれる前記対応関心領域を一定の割合で拡大した場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記類似医用画像を拡大しても、拡大された前記対応関心領域の大きさは、ばらばらとなる。
本態様によると、例えば、前記各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させる。
これによると、前記類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさを、前記各個別領域のサイズとの関係でほぼ同様に揃えることかできる。
そのため、前記類似医用画像について、前記拡大された対応関心領域を医師はほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1又は上記第2の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
また、上記第1又は上記第2の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
また、上記第1又は上記第2の態様において、例えば、
前記対象医用画像は肺の医用画像であり、
前記類似医用画像は肺の医用画像であり、
前記第2表示領域は、
前記対応関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが、肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第2表示領域に表示させるとしてもよい。
前記対象医用画像は肺の医用画像であり、
前記類似医用画像は肺の医用画像であり、
前記第2表示領域は、
前記対応関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが、肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第2表示領域に表示させるとしてもよい。
本態様によると、前記第2表示領域に表示されたND個の類似医用画像を、さらに、前記対応関心領域の分布類型に基づいて仕分けできる。これにより、例えば、多数表示された類似医用画像の中から、前記対象医用画像に含まれる前記関心領域に症状が類似した類似医用画像を、効率的に選択できる。
また、上記第1又は上記第2の態様において、例えば、
前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、対応する個別領域に初期表示サイズにて表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させるとしてもよい。
前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、対応する個別領域に初期表示サイズにて表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させるとしてもよい。
本態様によると、前記対応関心領域の分布類型に基づいて類似医用画像を仕分けした際、単に仕分けするのみならず、前記分布類型に応じた表示をする。これにより、操作者は、前記対応関心領域の分布類型に基づいて類似医用画像を仕分けし、その後、前記分布類型に応じて類似医用画像を拡大し若しくは前記対応関心領域を中心にする処理などを別途行う必要がない。そのため、前記対応関心領域の分布類型に基づいて仕分けされたとは言え、その次に、前記仕分けされた多数の類似医用画像の一つ一つに対して同様の操作を繰り返し行う煩雑さを大幅に軽減できる。その結果、診療判断に向けられるべき医師の思考若しくは医師の集中力が操作の煩雑さにより中断されるのを大幅に軽減し、医師の思考若しくは医師の集中力を本来の診療判断に向けることができるので、診療判断の精度の向上を図ることができる。
また、上記第1又は上記第2の態様において、例えば、
前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報であるとしてもよい。
前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報であるとしてもよい。
本態様によると、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布の場合は類似医用画像が初期表示サイズで表示される。区域性又は気道性のカテゴリーに属する分布の場合は類似医用画像が拡大表示される。胸膜下のカテゴリーに属する分布の場合は胸膜を含んだ状態で類似医用画像が拡大表示される。
両側性、多発性、びまん性又は血行性のカテゴリーに属する分布の場合は、肺全体に病変部が広がっている可能性又は肺の広範囲に病変部が生じている可能性が高い。このため、類似医用画像を初期表示サイズ、即ち、拡大させることなく表示させたいという医学的見地に基づくニーズが存在する。
一方、区域性又は気道性のカテゴリーに属する分布の場合は、上述のような可能性が低い。そのため、区域性又は気道性のカテゴリーに属する分布を選択することにより類似医用を拡大表示させることで、拡大表示させるという1工程を省略させ、医師の集中力が中断されることを防止できる。また、胸膜下のカテゴリーに属する分布の場合は、胸膜と病変部との位置関係が診断においては重要な指標となるため、胸膜を含んだ状態で類似医用画像を拡大表示させたいという医学的見地に基づくニーズが存在する。
(実施の形態1)
以下本開示の一実施の形態について、図面を参照しながら説明する。なお、各図面において、同じ構成要素については同じ符号が用いられている。
以下本開示の一実施の形態について、図面を参照しながら説明する。なお、各図面において、同じ構成要素については同じ符号が用いられている。
図1は、本実施の形態における情報端末が適用された病院情報システムの全体構成図である。図1に示すように、病院情報システムは、情報端末100、医用情報管理システム200、及び症例検索システム300を備えている。
情報端末100、医用情報管理システム200、及び症例検索システム300はネットワーク400を介して相互に通信可能に接続されている。
なお、医用情報管理システム200及び症例検索システム300は必ずしも病院の中に配置される必要はなく、病院外のデータセンター、プライベートクラウドサーバ、パブリッククラウドサーバ等の上で動作するソフトウェアであってもよい。医用情報管理システム200及び症例検索システム300が病院内に設置されている場合、ネットワーク400としては、ローカルエリアネットワークが採用できる。ローカルネットワークとしては、IEEE802.3シリーズの有線LAN、IEEE802.11シリーズの無線LAN、或いは両者が混在するネットワークが採用できる。医用情報管理システム200及び症例検索システム300が病院外のサーバを用いて実現される場合、ネットワーク400としては、インターネットが採用できる。
情報端末100としては、パーソナルコンピュータやタブレット端末等の情報端末が採用される。医用情報管理システム200としては、PACS(Picture Archiving and Communication Systems)や電子カルテシステム等が採用される。
図2は、情報端末100、医用情報管理システム200、及び症例検索システム300の構成を示すブロック図である。図2に示すように、情報端末100は、ディスプレイ101、操作部102、入力制御部103、表示制御部104、ROI管理部105、表示ボックス管理部106、病名リスト管理部108、分布リスト管理部109、通信制御部110、ボックスレイアウト管理部111、及び拡大画像生成部112を備える。
ディスプレイ101は、例えば、液晶モニタにより構成され、診断対象となる医用画像及びカルテ画像を表示すると共に、診断結果を記入するためのレポート入力画像等を表示する。なお、ディスプレイ101は最低1台必要だが、通常、画像診断においては2〜3台のディスプレイ101が用いられる。本実施の形態では2台のディスプレイ101が用いられ、一方のディスプレイ101をディスプレイ101aとし、他方のディスプレイ101をディスプレイ101bとする(図3参照)。
図3は、2台のディスプレイ101a、101bの外観図である。図3では、ディスプレイ101aには、4つの医用画像ビューワが2行2列の配置で表示されており、ディスプレイ101bには症例検索システム300の画面が表示されている。なお、ディスプレイ101を1台とした場合、2つの表示画面が1台のディスプレイ101の表示画面上に領域を分けて表示される。
操作部102は、例えば、キーボード及びマウスを含み、情報端末100に対してユーザにより入力される種々の操作を受け付ける。例えば、操作部102は、ディスプレイ101に表示される医用画像及びカルテ画像に対するユーザからの操作、並びにレポート入力画面に対して診断結果を入力する操作等を受け付ける。
入力制御部103は、操作部102へのユーザの操作を検知すると、その操作の内容を解釈し、他の構成要素に操作内容を通知する。例えば、入力制御部103は、操作部102としてのマウスから出力される座標データからディスプレイ101上におけるマウスポインタの位置を検知し、ディスプレイ101上にマウスポインタを表示させる。そして、入力制御部103は、マウスがクリックされたことを検知したときにマウスポインタの表示位置に表示制御部104で生成されたGUI部品(例えば、GUIボタン)が表示されていれば、そのGUIをユーザが選択したと判定し、他の構成要素にそのGUI部品がユーザにより選択されたことを通知する。
表示制御部104は、情報端末100のGUI(Graphical User Interface)を生成し、ディスプレイ101に表示させる。
ROI管理部105は、類似症例検索を行う際に、後述する検索クエリ画像に対して設定される関心領域(Region Of Interest)を示す関心領域情報を生成してメモリに格納し、関心領域情報を管理する。
表示ボックス管理部106は、後述する表示ボックス管理情報4410(図36B)をメモリに格納し、表示ボックス管理情報4410を管理する。
病名リスト管理部108は、症例表示領域710(図6)に表示された類似症例の病名リスト(図39)を生成してメモリに格納し、病名リストを管理する。
分布リスト管理部109は、症例表示領域710に表示された類似症例の病変分布を示す分布リスト(図44A)を生成してメモリに格納し、分布リストを管理する。
通信制御部110は、例えば、情報端末100をネットワーク400に接続するための通信装置を含み、情報端末100及び医用情報管理システム200間の通信や、情報端末100及び症例検索システム300間の通信を制御する。また、通信制御部110は、他のブロックから種々のデータの送信依頼を受け付けて、医用情報管理システム200又は症例検索システム300に送信すると共に、医用情報管理システム200又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
ボックスレイアウト管理部111は、後述するレイアウト管理情報4200(図36E)を生成してメモリに格納し、レイアウト管理情報4200を管理する。
拡大画像生成部112は、類似症例のサムネイル画像の拡大画像を生成する。拡大画像生成部112は、操作部102に対するユーザの操作量を入力制御部103から取得する。拡大画像生成部112は、症例検索システム300から送信された、類似症例データ(類似度、関心領域情報を含む)を通信制御部110から受け取る。拡大画像生成部112は、類似症例検索により取得した類似症例の件数(例えばNC件)のうち、症例表示領域710に表示される件数分のみに対して、各サムネイル画像毎に別々の拡大率を算出し、表示される件数分の拡大画像を生成する。
図2に示すように、医用情報管理システム200は、患者情報蓄積部201、患者情報管理部202、医用画像データ蓄積部203、医用画像データ管理部204、診断レポート管理部205、及び通信制御部206を備える。
患者情報蓄積部201は、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録された患者情報1000(図26)を蓄積する。
患者情報管理部202は、患者情報蓄積部201に蓄積された患者情報1000(図26)に対して、ユーザから入力されたデータを登録して患者情報1000を更新する処理、及び患者情報1000を表示制御部104に出力する処理等を実行し、患者情報1000を管理する。医用画像データ蓄積部203は、患者の検査画像である医用画像データを蓄積する。
医用画像データ管理部204は、医用画像データを医用画像データ蓄積部203に蓄積し、医用画像データを管理する。
診断レポート管理部205は、患者に対して行われた各検査に対する医師による診断結果を示す診断レポート3000(図29)を管理する。
通信制御部206は、例えば、医用情報管理システム200をネットワーク400に接続するための通信装置を含み、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は症例検索システム300に送信すると共に、情報端末100又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
図2に示すように、症例検索システム300は、類似症例データ蓄積部301、画像特徴抽出部302、及び類似症例検索部303を備える。
類似症例データ蓄積部301は、予め、医用情報管理システム200に管理されている類似症例のうち、類似症例検索の対象データとして選定された多数の類似症例から抽出された画像特徴や、生成されたサムネイル画像等が登録された類似症例データ4000(図30)を蓄積する。
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報の画像特徴を抽出する。
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報の画像特徴を抽出する。なお、関心領域情報は、関心領域を示す第1指定情報の一例である。
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された1以上の類似症例の画像特徴とをそれぞれ比較することで類似症例検索結果を生成する。
通信制御部304は、例えば、症例検索システム300をネットワーク400に接続させる通信装置で構成され、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は医用情報管理システム200に送信すると共に、情報端末100又は医用情報管理システム200から送信されたデータを受信し、該当するブロックに渡す。
図4は、情報端末100の実装形態の構成例を示す図である。図4に示すように、情報端末100は、アプリケーション501、OS(Operating System)502、メモリ503、及び図示しないその他のハードウェアを備えている。
アプリケーション501は、パーソナルコンピュータやタブレット端末を情報端末100として機能させるためのアプリケーションソフトウェアであり、情報端末100のプロセッサにより実行される。情報端末100は、コンピュータ読み取り可能な記録媒体からアプリケーション501を読み出してアプリケーション501を実装してもよいし、ネットワークからダウンロードすることでアプリケーション501を実装してもよい。
ここで、アプリケーション501は、医用情報管理アプリケーション及び類似症例検索アプリケーションを含む。医用情報管理アプリケーションは、情報端末100を医用情報管理システム200と連携させるためのアプリケーションであり、類似症例検索アプリケーションは、情報端末100を症例検索システム300と連携させるためのアプリケーションである。そして、両アプリケーションは、相互にデータを送受し、情報端末100において、医用情報管理システム200及び症例検索システム300が提供するサービスを統合させる。
OS502は、情報端末100の基本ソフトウェアであり、情報端末100のプロセッサにより実行される。メモリ503は、情報端末100が備えるRAM、ROM等の記憶装置により構成され、アプリケーション501に含まれるデータ群を記憶する。
情報端末100のプロセッサがアプリケーション501を実行することで、図2に示す入力制御部103、表示制御部104、ROI管理部105、表示ボックス管理部106、病名リスト管理部108、分布リスト管理部109、通信制御部110、ボックスレイアウト管理部111、及び拡大画像生成部112の機能が実現される。
但し、本実施の形態では、情報端末100は、アプリケーション501のみ単独で実装されてもよいし、アプリケーション501及びOS502で実装されてもよいし、アプリケーション501、OS502、及びメモリ503で実装されてもよいし、アプリケーション501、OS502、メモリ503、及びその他の図示しないハードウェアで実装されてもよい。いずれの実装形態においても本実施の形態の情報端末100を実現することは可能である。
図5は、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101aに表示される基本画面K1の一例を示す図である。図5に示す基本画面K1は、4つの医用画像ビューワ610〜640で構成されている。医用画像は、通常、DICOM(Digital Imaging and Communication in Medicine)フォーマットで記録されており、医用画像ビューワ610〜640はDICOMを扱えるビューワである。本実施の形態で扱う医用画像は、DICOMフォーマットの多数の断層画像(以下、スライス画像と呼ぶ。)で構成される胸部CT画像とする。但し、これは一例に過ぎず、他の部位(例えば、頭部、腹部、脚、或いは腕)のCT画像が採用されてもよい。
医用画像ビューワ610〜640に表示された胸部CT画像は、マウスやキーボードの操作により、スライス画像が切り替えられる。ここで、胸部CT画像を構成するスライス画像は、例えば、首側から腹側に向かう順番に配置されている。
例えば、医用画像ビューワ610上にマウスポインタが位置決めされ、マウスホイールの回転が入力制御部103で検知されると、表示制御部104は、検知された回転量に応じて医用画像ビューワ610に表示されているスライス画像を切り替える。ここで、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの後方側に1クリック分回転されると、表示中のスライス画像を次のスライス位置のスライス画像に切り替える。一方、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの前方側に1クリック分回転されると、表示中のスライス画像をスライス位置が1つ前のスライス画像に切り替える。よって、医師等のユーザはマウスホイールを前方側又は後方側に回転させながら、医用画像ビューワ610に表示されるスライス画像を適宜切り替え、所望のスライス画像を探索する。
なお、医用画像としては、胸部CT画像に代えて、MRI(Magnetic Resonance Imaging)画像や単純X線画像が採用されてもよい。また、図5の例では、医用画像ビューワの個数は4個とされているが、これは一例にすぎず、6個や8個等別の個数が採用されてもよい。医用画像ビューワの個数が多くなると同時に比較できる画像が増えるが、1画像当たりの表示面積が狭くなる。そのため、この個数はディスプレイ101aの表示サイズに応じて適宜変更可能な構成を採用すればよい。ここでは、医用画像ビューワの個数は、ユーザ又は管理者が自由に変更できるものとする。
類似症例検索アプリケーションが起動される前には、ディスプレイ101aの全域には、ある患者の胸部CT画像のスライス画像が表示されている。そして、この状態で、読影者等のユーザにより類似症例検索アプリケーションが起動されると医用画像ビューワ610には、ディスプレイ101aの全域に表示されていたスライス画像が表示される。
つまり、医用画像ビューワ610には、ユーザが類似症例検索アプリケーションを起動させたときに、ディスプレイ101aの全域に表示されていた検索クエリ画像が初期表示される。なお、表示制御部104は、検索クエリ画像上に類似症例検索を行う対象の関心領域(ROI:Region Of Interest)を重畳表示してもよい。検索クエリ画像は読影対象の医用画像である対象医用画像の一例である。
図5では、他の医用画像ビューワ620〜640には何の画像も表示されていないが、診断対象となる患者の検査画像が複数あり、類似症例検索アプリケーションが起動される前に、ディスプレイ101aに複数の検査画像が表示されていた場合、表示制御部104は、医用画像ビューワ620〜640にこれら複数の検査画像をそのまま表示すればよい。
図6は、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101bに表示される基本画面K2の一例を示す図である。図6に示す基本画面K2は、症例表示領域710、レイアウト領域720、病名リスト表示領域730、及び分布リスト表示領域750を備える。なお、レイアウト領域720は第1表示領域の一例であり、症例表示領域710は第2表示領域の一例である。
症例表示領域710は、検索クエリ画像に類似した類似症例のサムネイル画像を類似度順に表示する領域である。ここで、類似症例のサムネイル画像は、類似医用画像の一例である。
症例表示領域710には多数の類似症例が表示されるため、解像度や画素値の変換をその場で行うと処理に時間がかかってしまう。よって、サムネイル画像は、オリジナルのスライス画像から予め作成され、症例検索システム300に保存されている。
以下、解像度や画素値の変換について少し補足する。オリジナルのスライス画像の解像度は512×512画素であるが、サムネイル画像はより低解像であるため、解像度変換を行う必要がある。そこで、サムネイル画像は、元となるスライス画像に対して低解像度処理及び階調変換処理が行われて生成される。
階調変換処理は例えば、下記のように行われる。CTで取得したスライス画像は各画素値(CT値)が−1000〜+1000(単位HU:Hounsfield Unit)の2000階調の値をとり、そのままでは通常の8ビット階調のディスプレイに表示できない。また、表示できたとしても、2000階調の中で、肺気腫領域(CT値:−1000HU)、肺野の正常組織(CT値:約−900HU)、すりガラス領域(CT値:−800HU)、軟部組織(CT値:−100〜−50HU)、水(CT値:0HU)、及び骨(CT値:1000HU)を人間が肉眼で区別することは難しい。
よって、通常、スライス画像は、各画素値に対してウィンドウレベル及びウィンドウ幅が設定され、8ビットの画素値に再構成されて、ディスプレイに表示される。ここで、ウインドウレベルは、ウインドウの中心となるCT値を示し、ウインドウ幅は、ウインドウ中心の上下の幅を示す。
例えば、肺野条件でDICOM画像が再構成される場合、ウインドウレベルが−550〜−800に設定され、ウインドウ幅が1000〜1600に設定される。したがって、サムネイル画像も、元となるスライス画像から上記の処理によって画素値が8ビットに落とされることで生成される。
なお、症例表示領域710に表示されるサムネイル画像は、診断対象症例の特徴ベクトルに対する距離が所定の閾値以下の類似症例を示すサムネイル画像である。ここでは距離としては、例えば、ユークリッド距離が用いられる。なお、距離としては、市街地距離等の別の距離尺度が採用されてもよい。比較対象となる2つの画像は、距離が近いほど類似している。また、特徴ベクトルは、サムネイル画像から得られたものではなく、元画像であるDICOM画像から得られたものが採用される。
図7は、症例表示領域710に表示されるある1つの類似症例の表示領域701(個別領域の一例)を取り出して示した図である。類似症例の表示領域701には、サムネイル画像が表示されており、このサムネイル画像の下部には、確定診断病名表示領域711及び距離表示領域712が配置されている。確定診断病名表示領域711には、対象となる類似症例の確定診断病名が表示される。確定診断病名とは、対象となる類似症例に対して診断が確定された病名を指す。距離表示領域712には、対象となる類似症例のスライス画像の特徴ベクトルと、検索クエリ画像の特徴ベクトルとの距離が表示される。図7の例では、確定診断病名表示領域711には、「非結核性抗酸菌症」と表示されているため、このサムネイル画像は「非結核性抗酸菌症」と確定診断がされた類似症例のサムネイル画像を示す。また、距離表示領域712には、「0.05」と表示されているため、この類似症例のスライス画像と探索クエリ画像との距離が「0.05」であることが示されている。
図7に示されるように、類似症例の表示領域701に示されるサムネイル画像は、対応関心領域CROIを含む。対応関心領域CROIは、検索クエリ画像(読影対象の医用画像)に設定された関心領域に対応する領域(つまり関心領域に類似する領域)である。なお、以下では、対応関心領域は、単に「関心領域」とも称される。
図6に戻り、基本画面K2の例えば左上には、検索結果件数表示領域713が配置されている。検索結果件数表示領域713には、検索処理の結果、症例検索システム300から取得された、診断対象症例に類似する類似症例の数が表示される。
なお、類似症例の数が膨大である場合、症例表示領域710は全ての類似症例を一度に表示することができない。そこで、症例表示領域710の例えば右側には、上下方向に長尺のスクロールバー715が設けられている。表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を上下方向にスクロール表示させる。これにより、ユーザは、非表示状態にあった類似症例を症例表示領域710に表示させ、その類似症例を観察できる。
なお、スクロールバー715は左右方向に長尺であってもよい。この場合、表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を左右方向にスクロール表示させればよい。
なお、情報端末100は、探索クエリ画像との距離が所定の閾値以下のサムネイル画像を症例検索システム300から取得するとしたが、これは一例に過ぎない。例えば、情報端末100は、類似度が高い順に、常に一定数のサムネイル画像を症例検索システム300から取得してもよい。或いは、情報端末100は、常にある確定診断病名のサムネイル画像が一定数含まれるようにサムネイル画像を症例検索システム300から取得してもよい。
なお、症例表示領域710におけるサムネイル画像の表示手法としては、例えば、最上段の行の左端に検索クエリ画像との距離が最短のサムネイル画像を表示し、右側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一行の右端に達すると上から2行目の左端に次に距離が大きいサムネイル画像を表示するという表示手法が採用できる。つまり、症例表示領域710において、左上から右下に向けて蛇行するように距離が小さい順にサムネイル画像を表示するという表示手法が採用できる。
もちろん、本実施の形態は別の表示手法が採用されてもよい。例えば、左から1列目の上端に距離が最短のサムネイル画像を表示し、下側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一列の下端に達すると、左から2列目の上端に次に距離が大きいサムネイル画像を表示するという表示手法が採用されてもよい。また、これら複数の表示手法をユーザが切り替え可能な構成が採用されてもよい。
また、上記の例では、類似度として距離が採用されたが、コサイン類似度のような画像同士の類似性を示す指標であればどのような指標が採用されてもよい。コサイン類似度が採用された場合、値が1に近づくにつれて比較対象となる2つの画像の類似性が高くなる。
なお、詳細は後述するが、症例表示領域710に表示する類似症例は、病名リスト表示領域730に表示された病名や、分布リスト表示領域750に表示された病変分布で絞り込むことができる。現在設定されている類似症例の絞込条件は、表示条件表示領域714に表示される。図6の例では、類似症例検索直後の状態であり、何も絞り込みがなされていないため、表示条件表示領域714には「全疾患」と表示されている。
症例表示領域710に表示されている類似症例のサムネイル画像は、ユーザの操作により拡大することが可能に構成されている。以下、類似症例のサムネイル画像の拡大表示が説明される。
図8は、症例表示領域710に表示されたサムネイル画像のうち1のサムネイル画像が選択されたときの基本画面K2を示す図である。図8に示されるように、類似症例検索直後の基本画面K2が表示された状態では、各表示領域には、サムネイル画像の画像全体が表示されている。症例表示領域710は、サムネイル画像をそれぞれ表示する所定数ND(この実施の形態ではND=20)の表示領域を含む。
情報端末100の入力制御部103は、マウス等の操作部102を通しての入力を常時モニタリングしている。そして、入力制御部103は、マウスをクリックする操作がユーザにより入力され、その操作により、症例表示領域710に表示された類似症例のサムネイル画像の1つが選択されたことを検知する。すると、表示制御部104は、選択されたサムネイル画像の背景の色を変更する。
図8の例では、症例表示領域710において、2行4列目の表示領域801に表示された類似症例のサムネイル画像が選択されている。そのため、表示領域801内のサムネイル画像の背景の色が変更されている。具体的には選択されたサムネイル画像の外周を取り囲む枠状の領域の色が変更されている。これにより、ユーザに対して当該サムネイル画像が選択状態になったことを知らせることができる。
ここで、背景の色としては、例えば、症例表示領域710の背景の色との差が明確に現れる色が採用される。図8の例では例えば黄色が採用されている。なお、図8の例ではサムネイル画像の枠状の領域の色を変更する態様を示したが、枠状の領域を点滅させる態様や枠状の領域の輝度を明るくする態様が採用されてもよい。
図8に示すようにサムネイル画像の1つが選択された状態で、ユーザが、例えばマウスのホイールを回転させることにより拡大操作を行うと、入力制御部103は、マウスのホイールの回転量を検知し、検知した回転量を拡大画像生成部112に通知する。すると、拡大画像生成部112は、例えば検知された回転量を用いて拡大率を決定し、決定した拡大率でサムネイル画像を拡大する。表示制御部104は、拡大画像生成部112によって拡大されたサムネイル画像を症例表示領域710に表示する。
図9は、症例表示領域710に表示されているサムネイル画像の一部が拡大されたときの基本画面K2を示す図である。具体的には、図9では、選択されたサムネイル画像だけではなく、選択されたサムネイル画像の上に隣接するサムネイル画像(1行4列目)から、選択されたサムネイル画像の下に隣接するサムネイル画像(3行4列目)まで、横並びの順に、合計11個のサムネイル画像が拡大されている。これにより、症例検索システム300から受信した類似症例データ62件の全てのサムネイル画像を拡大する場合と比較して、情報端末100における処理負担を大きく軽減することができる。
なお、表示されているサムネイル画像を拡大する際には、拡大画像生成部112は、図9に示すように、対応関心領域CROIの中心位置が表示領域801の中心位置になるように、拡大画像を生成する。また、表示制御部104は、サムネイル画像を拡大する際に、図9に示すように、表示領域801のサイズを拡大せず、同じサイズに維持する。
また、拡大画像生成部112は、拡大率をサムネイル画像毎に異なる値に設定してもよい。これによって、図9に示されるように、拡大後の各サムネイル画像が同じ大きさになるように拡大することができる。
図9では、最大表示件数ND(この実施の形態ではND=20)の症例表示領域710に、M個(図9ではM=20)の類似症例のサムネイル画像が表示されており、M個以下(図9では11個)のサムネイル画像が拡大されている。
図10は、症例表示領域710に表示されているサムネイル画像の一部が拡大されたときの図9と異なる基本画面K2を示す図である。図10では、拡大画像生成部112は、選択されたサムネイル画像の上に隣接するサムネイル画像(1行4列目)から、選択されたサムネイル画像の下に隣接するサムネイル画像(3行4列目)まで、横並びの順に、合計11個のサムネイル画像を拡大している。また、拡大画像生成部112は、対応関心領域CROIのサイズが表示領域801のサイズと同じサイズになるように、11個のサムネイル画像を拡大している。
図11は、症例表示領域710に表示されているサムネイル画像の一部が拡大されたときの図9、図10と異なる基本画面K2を示す図である。図11では、ユーザは、図9と異なるサムネイル画像を選択している。これによって、拡大されるサムネイル画像が変更されている。すなわち、図11では、3行3列目の表示領域1101に表示された類似症例のサムネイル画像が選択されている。その結果、拡大画像生成部112は、選択されたサムネイル画像の上に隣接するサムネイル画像(2行3列目)から、選択されたサムネイル画像の下に隣接するサムネイル画像(4行3列目)まで、横並びの順に、合計11個のサムネイル画像を拡大している。
図12は、図9と同じサムネイル画像(2行4列目)が拡大されたときの異なる表示態様を示す図である。図12に示すように、表示制御部104は、拡大されるサムネイル画像を強調表示している。図12の例では、選択されたサムネイル画像と同様に、拡大されたサムネイル画像の外周を取り囲む枠状の領域の色が変更されている。これによって、ユーザに対して拡大されたサムネイル画像を強調することができる。その結果、図12に示されるように、症例表示領域710において拡大されたサムネイル画像と拡大されないサムネイル画像とが混在する場合でも、ユーザは、両者を容易に区別することができる。
このように、画像診断を行う医師が注目した類似症例のサムネイル画像の一つを拡大操作するだけで、注目した類似症例と類似した類似症例も連動して拡大表示される。このため、医師は一つの指示にて複数の類似症例を詳細に比較することができる。したがって、操作数を大幅に低減できる。
なお、症例表示領域710の一部のサムネイル画像が拡大される場合について説明したが、本開示は、これに限定されない。例えば、ユーザにより任意の一つのサムネイル画像が選択された場合に、症例表示領域710に表示されている20個のサムネイル画像全てを拡大してもよい。
図13は、症例表示領域710に表示されたサムネイル画像のうち図8と異なるサムネイル画像が選択されたときの基本画面K2を示す図である。図13では、1行4列目の表示領域1301に表示されたサムネイル画像がユーザによって選択されている。
図13に示されるように、1行4列目のサムネイル画像が選択された状態で、ユーザが、例えばマウスのホイールを回転させることにより拡大操作を行うと、入力制御部103は、マウスのホイールの回転量を検知し、検知した回転量を拡大画像生成部112に通知する。すると、拡大画像生成部112は、例えば通知された回転量を用いて各サムネイル画像の拡大率をそれぞれ決定し、決定した拡大率で全てのサムネイル画像を拡大する。表示制御部104は、例えば図14または図15に示されるように、拡大画像生成部112によって拡大されたサムネイル画像を症例表示領域710に表示する。
図14は、症例表示領域710に表示されている全てのサムネイル画像が拡大されたときの基本画面K2を示す図である。なお、図14でも、図9と同様に、拡大画像生成部112は、対応関心領域CROIの中心位置が表示領域の中心位置になるように、拡大されたサムネイル画像をそれぞれ生成している。
図15は、症例表示領域710に表示されている全てのサムネイル画像が拡大されたときの図14と異なる基本画面K2を示す図である。図15では、図10と同様に、拡大画像生成部112は、対応関心領域CROIのサイズが表示領域のサイズと同じサイズになるように、拡大されたサムネイル画像をそれぞれ生成している。
図14または図15の場合によれば、症例表示領域710において、拡大されているサムネイル画像と拡大されていないサムネイル画像とが混在しない。このため、見易い利点がある。
なお、上記では、ユーザによる拡大操作は、マウスのホイールの回転としているが、本開示は、これに限られない。例えば、症例表示領域710に表示されている一つのサムネイル画像上にマウスのポインタを配置して、マウスのボタンを押した状態で、キーボードの例えば上方向キーまたは下方向キーを押すことにより、拡大操作を行うようにしてもよい。この場合には、入力制御部103は、上方向キーまたは下方向キーが押されている時間をカウントしてもよい。拡大画像生成部112は、例えば上方向キーまたは下方向キーが押されている時間を用いて拡大率を決定してもよい。
なお、サムネイル画像の具体的な拡大処理手順の詳細は後述する。
図6に戻り、レイアウト領域720は、例えば、図6に示す基本画面の左下に配置されている。そして、レイアウト領域720は、症例表示領域710に表示された類似症例サムネイル画像のうちユーザが詳細に観察したい画像を、ディスプレイ101aの医用画像ビューワに表示させるために用いられる。図5に示す通り、ディスプレイ101aには4つの医用画像ビューワ610〜640が2行2列で表示されている。また、レイアウト領域720には、2行2列で4つの表示ボックス721〜724が存在する。このように、ディスプレイ101aに表示される医用画像ビューワ610〜640の数及び配置と、レイアウト領域720における表示ボックス721〜724の数及び配置とは揃えられている。図5の通り、医用画像ビューワ610に、検索クエリ画像が表示されているのに合わせ、表示ボックス721には、検索クエリ画像のサムネイル画像が初期表示される。
他の表示ボックス722〜724には、医用画像ビューワ620〜640と連動させて類似症例のサムネイル画像が表示される。つまり、入力制御部103が表示ボックス722〜724のいずれか1の表示ボックスに症例表示領域710に表示された1のサムネイル画像のドラッグアンドドロップを検知すると、表示制御部104はその表示ボックスに1のサムネイル画像を表示させると共に、その表示ボックスに対応する医用画像ビューワにそのサムネイル画像に対応するスライス画像を表示する。このように、医用画像ビューワ610〜640は、表示ボックス721〜724と1対1で対応付けられている。
図6の例では、表示ボックス722〜724は空白であるため、図5に示す医用画像ビューワ620〜640も空白になっている。
ユーザは、マウスをドラッグアンドドロップすることで、詳細に観察したいサムネイル画像を、症例表示領域710からレイアウト領域720に移動させる。例えば、ユーザが表示ボックス722にサムネイル画像を移動させたとすると、表示ボックス722に対応する医用画像ビューワ620には、このサムネイル画像に対応するスライス画像が表示される。同様に、ユーザが表示ボックス723にサムネイル画像を移動させたとすると、表示ボックス723に対応する医用画像ビューワ630には、このサムネイル画像に対応するスライス画像が表示される。すなわち、表示ボックス721〜724のうち任意の表示ボックスにサムネイル画像を移動させると、検索クエリ画像のサムネイル画像に隣接して類似症例のサムネイル画像が表示される。そのため、ユーザはサムネイル画像のレベルで診断対象症例と類似症例との対比ができ、両症例の類似性を速やかに判断できる。つまり、サムネイル画像は、スライス画像に比べて情報量が少ないため、ユーザは、レイアウト領域720において隣接配置された診断対象症例と類似症例とがどの程度類しているかのおよその検討をつけることができる。そのため、ユーザは、症例表示領域710に表示された多数の類似症例の中から、対象診断症例との比較をスライス画像のレベルで詳細に行う必要がある類似症例の最終候補の絞り込みを効率良く行うことができる。
同様に、ディスプレイ101aにも、レイアウト領域720と同じ配置関係で検索クエリ画像及び類似症例のスライス画像が表示される。そのため、レイアウト領域720において最終候補となる類似症例を絞り込む作業が終了すると、何らの操作を入力しなくても、ディスプレイ101aには、診断対象症例と最終候補として絞り込んだ類似症例とがスライス画像のレベルで表示されている。そのため、ユーザは対象診断と最終候補の類似症例とを詳細に読影するという次の作業ステップに円滑に移行できる。
図6に示す基本画面の左側の上段には、「病名リスト」との見出しが付けられた病名リスト表示領域730が配置されている。病名リスト表示領域730には、類似症例の検索結果として取得された全ての類似症例の確定診断病名が表示される。診断対象症例は、診断が終了して確定診断病名が付与された後、類似症例として、症例検索システム300に蓄積される。したがって、各類似症例には、それぞれ、診断によって付与された確定診断病名が予め付与されている。
図16は、病名リスト表示領域730の拡大図である。図16では、確定診断病名は、大分類の病名(731、734、737、741、744)と詳細分類の病名(732、733、735、736、738、739、740、742、743、745)とに分けて表示されている。図16の例では、大分類の病名として、真菌症731(mycosis)、腫瘍性734(neoplastic)、非腫瘍性737(nonneoplastic)、ミコバクテリア症741(mycobacteriosis)、及びその他744が表示されている。
また、図16の例では、真菌症731の詳細分類の病名として、アスペルギルス症732(aspergillosis)、クリプトコッカス症733(cryptococcosis)が表示されている。また、腫瘍性734の詳細分類の病名として、原発性肺癌735(lung cancer)、転移性肺癌736(metastatic lung cancer)が表示されている。また、非腫瘍性737の詳細分類の病名として、肺膿瘍738(lung abscess)、サルコイドーシス739(sarcoidosis)、敗血性塞栓740(septic emboli)が表示されている。また、ミコバクテリア症741の詳細分類の病名として、非結核性抗酸菌症742(NTM:nontuberculous mycobacteria)、肺結核743(tuberculosis)が表示されている。また、その他744の詳細分類の病名として気管支拡張症745(bronchiectasis)が表示されている。
また、大分類の病名及び詳細分類の病名の横には、その病名の症例数が表示されている。ユーザは、この病名リスト表示領域730における大分類の病名または詳細分類の病名の任意の行を選択することで、症例表示領域710に表示される類似症例を絞り込むことができる。図6に示すように類似症例の検索直後の状態では、多様な疾患を含む62個の類似症例が表示対象になっているが、図16の真菌症731の行がマウスでクリックされた場合、表示制御部104は、図17に示すように真菌症の類似症例のみを症例表示領域710に表示する。また、図16の転移性肺癌736の行がマウスでクリックされた場合は、表示制御部104は、図18に示すように、転移性肺癌の類似症例のみを症例表示領域710に表示する。
この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例がどのような絞り込み条件であるが分かるように、表示条件表示領域714に、絞り込んだ病名を表示する。図17は、「真菌症」で類似症例が絞り込まれたときの基本画面K2を示す図である。図18は、「転移性肺癌」で類似症例が絞り込まれたときの基本画面K2を示す図である。
図17の例では、「真菌症」で絞り込みがかけられたため、表示条件表示領域714には「真菌症」と表示され、図18の例では「転移性肺癌」で絞り込みがかけられたため、表示条件表示領域714には「転移性肺癌」と表示されている。
また、この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例の件数が分かるように、検索結果件数表示領域713にその件数を表示する。図17の例では、「真菌症」に該当する類似症例は14件であったため、検索結果件数表示領域713には14件と表示され、図18の例では、「転移性肺癌」に該当する類似症例は3件であったため、検索結果件数表示領域713には3件と表示されている。
この機能により、画像診断の対象として医師が想定する病名のみの類似症例が症例表示領域710に表示され、医師は、診断対象症例が想定した病名と矛盾しないかどうかを容易に確認できる。
図17では、最大表示件数ND(この実施の形態ではND=20)の症例表示領域710に、M個(図17ではM=14)の類似症例のサムネイル画像が表示されている。
図6に示す基本画面K2の左側の中段には、「病変分布」との見出しが付けられた分布リスト表示領域750が配置されている。分布リスト表示領域750には、類似症例を検索した結果、症例検索システム300から取得された全ての類似症例の病変分布の種類が表示される。
図19は分布リスト表示領域750の拡大図である。図19の例では、7つの病変分布の名称が表示されており、各病変分布の名称の左側にはチェックボックスが配置されている。図19の例では病変分布として、びまん性751(diffuse)、区域性752(segmental)、気道性753(bronchial)、両側性754(bilateral)、多発性755(multiple)、胸膜下756(subpleural)、及び血行性757(hematogenous)が表示されている。
これらの病変分布は予め定義されており、各類似症例には、予め、びまん性751〜血行性757のいずれに該当するか否かを示す分布フラグ値(該当:1、非該当:0)が付与されている。類似症例によっては、全ての分布フラグ値が非該当(:0)に設定されている場合もあれば、複数の分布フラグ値が該当(:1)に設定されている場合もある。
本実施の形態の症例検索システム300は、ユーザが診断対象症例のスライス画像に設定した関心領域に対し、類似する関心領域を持つ類似症例を検索する。ユーザが関心領域を設定したスライス画像以外にも、病変は存在することもある。そして、ユーザは関心領域を設定したスライス画像で類似症例を検索した後、そのスライス画像以外のスライス画像と、検索された類似症例とを比較したい場合もある。この場合、ユーザは、医用画像ビューワ610において、スライス送りの操作を入力して他のスライス画像を表示させ、検索された類似症例と比較する作業を行う。この場合、検索された全ての類似症例のうち注目する病変に関連する類似症例のみが症例表示領域710に表示されていれば、関心領域が設定されたスライス画像以外のスライス画像の中から所望の病変を持つスライス画像を抽出する作業をスムーズに行うことができる。そこで、本実施の形態では、この作業をよりスムーズに行うために、検索された類似症例を所望の病変分布で絞りこむ機能が設けられている。
本実施の形態では、肺野領域内での病変分布として、図19のびまん性751〜血行性757で示す病変分布が採用されている。また、図19のように、チェックボックス及び病名分布の名称について、表示制御部104は、絞り込みが可能な病変分布をアクティブ状態で表示し、絞り不可能な病変分布を非アクティブ状態で表示する。ここでは、アクティブ状態としては、輝度が非アクティブ状態に比べて高い状態が採用され、非アクティブ状態としては、輝度がアクティブ状態に比べて低い状態が採用されている。
図19の例では、びまん性751、気道性753〜血行性757がアクティブ状態で表示され、区域性752は、非アクティブ状態で表示されている。これは、現在、類似症例の検索によって取得された全ての類似症例のうち、少なくともいずれか1つの類似症例において、びまん性751、気道性753〜血行性757の分布フラグ値が1(該当)に設定され、取得された全ての類似症例のうち、いずれの類似症例においても、区域性752の分布フラグ値が0(非該当)に設定されていたからである。
アクティブ状態のチェックボックスのうち、1以上のチェックボックスにチェックマークが入力されたことを入力制御部103が検知すると、表示制御部104は、チェックマークが入力された病変条件に該当する類似症例のみを症例表示領域710に表示させる。
なお、区域性752については、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)に設定されている。そのため、区域性752にチェックマークが入力可能な構成を採用すると、これらの病変分布にチェックマークを入力した場合、症例表示領域710には類似症例が何も表示されず、チェックマークを入力する意味が無くなってしまう。そこで、本実施の形態では、このような事態を避けるために、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)である病変分布は非アクティブ状態で表示する。
図20は、両側性754のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。図21は、両側性754の病変分布で絞り込みがかけられた基本画面K2を示した図である。図20に示すように、両側性754のチェックボックスにチェックマークが入力された場合、表示制御部104は、図21に示すように、症例表示領域710に、両側性の病変分布を持つ類似症例のみを表示する。この例では、両側性の病変分布を持つ類似症例は10件であった。そのため、表示制御部104は、検索結果件数表示領域713に「10件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「両側性」とを表示する。図21の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
図20に示すように、両側性754のチェックボックスにチェックマークが入力された場合、図21に示すように、表示制御部104は、症例表示領域710において、選択された病変分布に対応する拡大率に拡大画像生成部112によって拡大されたサムネイル画像を表示する。病変分布名「両側性」が選択された場合には、肺の両側が観測できるようにする必要がある。そこで、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
同様に、多発性755のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、多発性の病変分布を持つ類似症例のみを表示する。病変分布名「多発性」が選択された場合には、多発している病変の分布を確認できるようにする必要がある。そこで、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
同様に、びまん性751のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、びまん性の病変分布を持つ類似症例のみを表示する。病変分布名「びまん性」が選択された場合には、広範囲に広がるびまん性病変の分布を確認できるようにする必要がある。そこで、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
同様に、血行性757のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、血行性の病変分布を持つ類似症例のみを表示する。血行性の場合は注目病変以外への病変の転移の可能性がある。したがって、画像全体を確認する必要がある。このため、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
図22は、気道性753のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。図23は、気道性753の病変分布で絞り込みがかけられた基本画面K2を示した図である。図22に示すように、両側性754のチェックボックスにチェックマークが入力された場合、表示制御部104は、図23に示すように、症例表示領域710に、気道性の病変分布を持つ類似症例のみを表示する。この例では、気道性の病変分布を持つ類似症例は12件であった。そのため、表示制御部104は、検索結果件数表示領域713に「12件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「気道性」とを表示する。図23の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
図22に示すように、気道性753のチェックボックスにチェックマークが入力された場合、図23に示すように、表示制御部104は、症例表示領域710において、選択された病変分布に対応する拡大率に拡大画像生成部112によって拡大されたサムネイル画像を表示する。病変分布名「気道性」が選択された場合には、気道性か否かを判定できるようにする必要がある。そこで、拡大画像生成部112は、関心領域の面積が表示領域の2分の1程度になるような拡大率に決定する。表示制御部104は、拡大画像生成部112によって拡大された各サムネイル画像を表示する。
同様に、区域性752のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、区域性の病変分布を持つ類似症例のみを表示する。病変分布名「区域性」が選択された場合には、区域性病変の詳細を確認できるようにする必要がある。そこで、拡大画像生成部112は、関心領域の面積が表示領域の2分の1程度になるような拡大率に決定する。表示制御部104は、拡大画像生成部112によって拡大された各サムネイル画像を表示する。
図24は、胸膜下756のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。図25は、胸膜下756の病変分布で絞り込みがかけられた基本画面K2を示した図である。図24に示すように、胸膜下756のチェックボックスにチェックマークが入力された場合、表示制御部104は、図24に示すように、症例表示領域710に、胸膜下の病変分布を持つ類似症例のみを表示する。この例では、胸膜下の病変分布を持つ類似症例は7件であった。そのため、表示制御部104は、検索結果件数表示領域713に「7件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「胸膜下」とを表示する。図25の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
図24に示すように、胸膜下756のチェックボックスにチェックマークが入力された場合、図25に示すように、表示制御部104は、症例表示領域710において、選択された病変分布に対応する拡大率に拡大画像生成部112によって拡大されたサムネイル画像を表示する。病変分布名「胸膜下」が選択された場合には、胸膜との位置関係を観察できるようにする必要がある。そこで、拡大画像生成部112は、胸膜が含まれるような拡大率に決定する。表示制御部104は、拡大画像生成部112によって拡大された各サムネイル画像を表示する。
なお、図21、図23、図25における病変分布選択時の各サムネイル画像に対する拡大処理の詳細は後述する。
図26は、患者情報1000のデータ構成を示す図である。患者情報1000は、医用情報管理システム200における患者情報管理部202により、患者別に患者情報蓄積部201に蓄積されて管理される。患者情報1000には、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録されている。図26に示すように、患者情報1000は、患者ID1100、氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、主訴1700、検査情報1800、及び確定診断1900を備える。
患者ID1100は、患者に固有の識別子である。氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、及び主訴1700は、それぞれ、患者ID1100の患者の氏名、年齢、性別、既往歴、家族歴、及び主訴である。検査情報1800は、図27に示すように、当該患者が過去に受けた1以上の検査に関する情報を表す。
図27は、図26に示す検査情報1800のデータ構成を示す図である。検査情報1800は、患者に対して行われた検査に関する情報であり、1つの検査に対応して1つずつ作成される。検査情報1800は、検査ID1810、検査日時1820、検査種1830、及び検査結果1840を備える。検査ID1810は、検査に固有の識別子である。検査日時1820は、検査が行われた日時である。検査種1830は、検査の種類である。検査の種類としては、例えば、血液検査、呼吸機能検査、内視鏡検査、単純X線撮影、CT撮影等がある。
検査結果1840は、血液検査であれば、白血球数、LDH、及びGPT等各種指標の値が該当する。また、検査結果1840は、各種指標を基に医師が下した判断等も該当する。また、単純X線撮影やCT撮影等の画像検査であれば、撮影された画像へのポインタ情報や画像診断結果のレポートへのポインタ情報が含まれる。なお、検査で撮影された画像は、DICOMのフォーマットで医用情報管理システム200の医用画像データ蓄積部203に蓄積される。
また、検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、これらの医用画像データは医用情報管理システム200の医用画像データ蓄積部203が記憶する医用画像データベース2000に蓄積される。
図28は、医用画像データベース2000のデータ構成を示す図である。医用画像データベース2000は、検査ID1810及びシリーズID2100を持つ。1回の検査で、複数の種類の撮影(例えば、単純CTと造影CT等)が行われる場合があるので、1つの検査ID1810に対し、複数のシリーズID2100が対応付けられている場合もある。つまり、撮影の種類に応じた個数のシリーズが得られるのである。
また、シリーズは、撮影の種類以外にも、撮影された画像の再構成の条件毎に得られる。例えば、撮影された画像が肺野条件及び縦隔条件で再構成された場合、これらの条件毎に1つのシリーズが得られる。なお、肺野条件で再構成された画像は肺の中の血管、気管支、及び肺胞等が強調表示される。また、縦隔条件で再構成された画像は、血管やリンパ節等の縦隔が強調表示される。肺野条件及び縦隔条件は1度の撮影で得られた画像を再構成することで得られるため、単純CTと造影CTとで2度の撮影が行われ、これら2度の撮影のそれぞれにつき肺野条件及び縦隔条件で画像が再構成された場合、2つの肺野条件のシリーズが得られ、2つの縦隔条件のシリーズが得られる。
CT及びMRIの画像検査の場合、1回の撮影で複数のスライス画像が取得されるので、1つのシリーズID2100には、複数のスライスID2200が対応付けられている。図28の検査ID「13227989」には2つのシリーズID「CT149123」、「CT149124」が対応付けられているため、この検査から2つのシリーズのCT画像が得られたことが分かる。また、シリーズID「CT149123」、「CT149124」のそれぞれに対して、スライスID2200が複数対応付けられていることが分かる。
検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、医用情報管理システム200における診断レポート管理部205には、図29に示すような診断レポート3000が蓄積される。診断レポート3000には、各検査に対する医師による診断結果が登録されている。
図29は、診断レポート3000のデータ構成を示す図である。診断レポート3000は、検査ID1810、所見3100、及び診断3200を備える。検査ID1810は、図27で示した検査ID1810と同じである。これにより、診断レポート3000と検査情報1800とが対応付けられる。所見3100は、検査に対する医師の所見を示す文言が登録されている。診断3200は、検査に対する医師の診断を示す文言が登録されている。
図30は、類似症例データ4000のデータ構成を示す図である。類似症例データ4000は、診断対象症例に対して類似する類似症例を検索する際に参照されるデータであり、1つの類似症例に対応して1つずつ作成されている。なお、類似症例データ4000は、類似症例データの付加情報の一例である。類似症例データ4000は、症例検索システム300の類似症例データ蓄積部301において、類似症例毎に蓄積されている。図30に示すように、類似症例データ4000は、類似症例ID4100、スライスID4200、関心領域情報4300、画像特徴データ4400、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、及び確定診断(詳細分類病名)4800を備える。
類似症例ID4100は、類似症例データ4000の識別子である。ここでは、類似症例のスライス画像に設定された関心領域毎に1つの類似症例データが生成されるため、類似症例ID4100は、関心領域の識別子とも言える。図30の例では、類似症例ID4100は、「SIM」とそれに続く番号とで構成される記号列で構成されている。
スライスID4200は、関心領域が設定されたスライス画像の識別子であり、図28に示すスライスID2200と同一である。関心領域情報4300は、スライス画像に設定された関心領域の位置を示す情報である。図31は、スライス画像3101に設定された関心領域ROIを模式的に示した図である。図31の例では、関心領域ROIは矩形状に設定されている。したがって、関心領域情報4300は、関心領域ROIの左上の頂点の座標(xl、yt)と、右下の頂点の座標(xr、yb)との4値で構成される。もちろん、関心領域は矩形以外の形状でもよく、その場合は、領域を一意に特定可能なパラメータが関心領域情報4300として採用される。例えば、関心領域が円形であれば、円の中心座標と半径とが関心領域情報4300として採用される。
画像特徴データ4400は、関心領域情報4300で定義される関心領域から抽出された所定次元(ここではN次元)の特徴値である。サムネイル画像データ4500は、スライスIDで特定されるDICOMフォーマットのスライス画像を基に、症例表示領域710に表示するために生成されたサムネイル画像の画像データである。ここで、サムネイル画像データ4500は、例えば、サムネイル画像の左上の頂点から右下の頂点に向かうラスタ走査順にサムネイル画像の画素値が配置されている。先に説明を行ったが、CT検査で得られたDICOM画像は、512×512画素の11ビット(画素値:−1000〜+1000)画像である。そこで、本実施の形態では、サムネイル画像の表示を高速化するために、サムネイル画像の元となるDICOM画像に対して低解像度処理及び階調変換処理が行われて8ビットの画素値を持つサムネイル画像が予め作成され、類似症例データ4000に登録されている。なお、サムネイル画像の作成は、例えば、医用情報管理システム200が作成し、症例検索システム300に送信するようにしてもよいし、症例検索システム300が医用情報管理システム200からDICOM画像を取得して作成してもよい。
病変分布情報4600は、対象となる類似症例が予め定められたびまん性4610〜血行性4670で表される病変分布のいずれに該当するか否かを表す分布フラグ値(1:該当、0:非該当)である。
確定診断(大分類病名)4700は、対象となる類似症例に対して確定された大分類の病名である。確定診断(大分類名)4700は、類似症例を大分類の病名で絞り込む際に使用される。
確定診断(詳細分類病名)4800は、対象となる類似症例に対して確定された詳細分類の病名である。確定診断(詳細分類病名)4800は、類似症例を小分類の病名で絞り込む際に使用される。
予め、確定診断(大分類病名)4700は、確定診断(詳細分類病名)4800に対して一意に対応する大分類病名が定義されており、その対応関係を用いて類似症例データ4000に格納されている。
確定診断(詳細分類病名)4800は、医用画像データ蓄積部203において、図28に示すスライスID2200からシリーズID2100が特定される。そして、特定されたシリーズIDから患者情報蓄積部201において、検査ID1810が特定され、検査ID1810から対応する患者情報1000(図26)が特定され、特定された患者情報1000から該当する患者の確定診断1900が特定される。
次に、情報端末100が医用情報管理システム200と症例検索システム300と連携して読影作業開始から類似症例検索を開始するまでの流れを説明する。
図32は、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300に対して類似症例検索の要求を行い、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。なお、図32において、シーケンス図の左側に示す2列の矩形は、該当するステップの処理によりディスプレイ101a、101bに表示される画面を示す。また、図32において、情報端末の「A」は、医用情報管理アプリケーションを示し、「B」は、類似症例検索アプリケーションを示す。このシーケンスが開始される前に医用情報管理アプリケーションは予め起動されているものとする。
まず、情報端末100は、操作部102を通してユーザ(読影を行う医師)の読影対象となる検査リストの表示要求を受け付け、入力制御部103及び通信制御部110を通して、医用情報管理システム200の通信制御部206へ検査リストの表示要求を送信する(S510)。
医用情報管理システム200の患者情報管理部202は、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成する。そして、患者情報管理部202は、通信制御部206を通して、生成した検査リストを情報端末100の通信制御部110に送信する(S520)。ここで、検査リストには、該当する患者の患者情報1000及び検査情報1800が含まれる。
情報端末100の表示制御部104は、通信制御部110で受信された検査リストをディスプレイ101に表示する(S530)。
この場合、ディスプレイ101aに検査リストが表示され、ディスプレイ101bには何も表示されない。
図33は、検査リストの画面図である。検査リストは、読影が未終了の検査を表示する領域800と、検査に含まれるシリーズに関する情報を表示する領域810とを備える。領域800には、「患者ID」、「患者氏名」、「検査日時」、「検査ID」、及び「検査種」の欄が設けられている。「患者ID」、「患者氏名」の欄には、患者情報1000に登録された患者ID1100及び氏名1200が表示され、「検査日時」、「検査ID」、及び「検査種」の欄には、検査情報1800に登録された検査日時1820、検査ID1810、及び検査種1830が表示される。領域810は、領域800でユーザにより選択された検査の詳細を表示するための領域であり、「シリーズID」、「定義」、及び「画像」の欄が設けられている。ここでは、領域800においてユーザにより検査(行に対応)が選択されていないために、領域810には何も表示されていない。
ユーザは、領域800に表示された検査の中から、これから読影を行う検査を選択する。この選択が入力制御部103で検知されると、図32に示すように、通信制御部110は、選択された検査の検査IDに含まれる全シリーズの表示要求を、医用情報管理システム200へ送信する(S540)。
医用情報管理システム200の通信制御部206がこの表示要求を受信すると、患者情報管理部202は、図28に示す医用画像データベース2000を参照し、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像を取得し、通信制御部206を通して、情報端末100に送信する(S550)。例えば、図28の例において、検査ID「13227989」の検査がユーザにより選択されると、シリーズID「CT149123」、「CT149124」のシリーズに含まれる全てのスライス画像がS550で送信される。
情報端末100の通信制御部110が全シリーズの画像を取得すると、表示制御部104は、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを領域810に表示する(S560)。
この場合、ディスプレイ101aに表示された検査リストの領域810には、領域800で選択された検査に対応するシリーズのシリーズリストが表示され、ディスプレイ101bには何も表示されない。
図34は、検査が選択された後の検査リストの画面図である。図34の領域800では選択された行の背後にハイライトが付されている。図34の例では、領域800において、2行目の「パナ太郎」の検査が選択されている。そのため、領域810では、選択された検査についての「シリーズID」、「定義」、及び「画像」が表示されている。ここで、「シリーズID」の欄には、医用画像データベース2000において、選択された検査の検査IDに対応付けられたシリーズIDが表示され、「画像」の欄には、表示されたシリーズIDを代表する1枚のスライス画像のサムネイル画像が表示される。ここで、シリーズIDを代表する1枚のスライス画像としては、所定のスライス位置の画像が採用される。所定のスライス位置としては先頭のスライス位置であってもよいし、中央のスライス位置であってもよい。「定義」は、該当するシリーズに対する撮影条件や再構成の条件を示す。この「定義」は、図示は省略されているが、例えば、図28の医用画像データベース2000において、シリーズIDと対応付けて登録されている。
領域810において、ユーザにより読影対象のシリーズが選択され、その選択を入力制御部103が検知すると、表示制御部104は、図35に示すように、選択されたシリーズの先頭のスライス画像をディスプレイ101aに表示する(S570)。図35は、ユーザによりシリーズが選択された際にディスプレイ101aに表示されるスライス画像を示した図である。図35は、胸部CT撮影での先頭スライスを示す図であり、肺尖部よりももう少し頭方向の肩位置でのスライス画像である。ここで、表示制御部104は、選択されたシリーズの全てのスライス画像をシリーズ送りできる状態でディスプレイ101aに表示する。なお、ディスプレイ101bには何も表示されない。例えば、ユーザにより、ディスプレイ101a上にマウスポインタが位置決めされマウスホイールを回転するスライス送りの操作が入力され、その操作を入力制御部103が検知する。すると、表示制御部104は、マウスホイールの回転量に応じて、ディスプレイ101aに表示されたスライス画像を別のスライス位置のスライス画像に切り替える。ユーザは、スライス送りの操作を入力しながら画像診断を行う。そして、ユーザは画像診断に迷った場合、類似症例検索アプリケーションを起動する。
ここで、類似症例検索アプリケーションは、操作部102のキーボードにおいて、予め定められたショートカットキーが入力されて起動されてもよいし、マウスの右クリックで医用画像ビューワのメニューを表示させ、そのメニューの中から類似症例検索メニューが指定されて起動されてもよい。類似症例検索アプリケーションの起動が指示されると、情報端末100の管理はROI管理部105に渡され、情報端末100は、関心領域(ROI)の受け付け待ち状態になる。
ユーザは、操作部102を通して、ディスプレイ101aに表示されたスライス画像上の病変に関心領域(ROI)を設定する(S580)。ここで、ユーザは、図31に示すように、例えば、マウスを左クリックして、スライス画像3101における関心領域ROIの左上の頂点の座標を入力する。そして、ユーザは、左クリックした状態でマウスを右斜め下方向にドラッグし、左クリックを解除することで、関心領域ROIの右下の頂点を入力すればよい。
関心領域を設定する操作を入力制御部103が検知すると、ROI管理部105は、入力制御部103から関心領域の左上及び右下の頂点の座標データを受け取り、受け取った座標データを関心領域情報として生成する。そして、ROI管理部105は、生成した関心領域情報を通信制御部110に送信する(S590)。
同時に、ROI管理部105は、診断対象症例のスライス画像を通信制御部110に送信する(S600)。この場合、S550において、情報端末100が医用情報管理システム200から受け取った全シリーズのスライス画像のうち、ユーザが選択したシリーズにおいてユーザにより関心領域が設定された1枚のスライス画像(検索クエリ画像)が送信される。
次に、通信制御部110は、ROI管理部105から送信された関心領域情報を受け取り、症例検索システム300の通信制御部304に送信する(S601)。
同時に、通信制御部110は、ROI管理部105から送信されたスライス画像を受け取り、症例検索システム300の通信制御部304に送信する(S602)。
ここで、S600、S601において、スライス画像そのものを送信するとしたが、スライス画像のスライスIDのみが送信されても構わない。この場合は、スライスIDを受信した症例検索システム300は、そのスライスIDを指定して、医用情報管理システム200からスライス画像を取得すればよい。
次に、症例検索システム300が類似症例検索を行い、情報端末100が類似症例検索結果を初期表示するまでの処理を説明する。
図36Aは、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。
症例検索システム300の画像特徴抽出部302は、検索クエリ画像に設定された関心領域から予め定められた複数次元の画像特徴を抽出する(S610)。
「画像特徴」としては、医用画像における臓器若しくは病変部分の形状に関する画像特徴、又は輝度分布に関する画像特徴等が採用できる。例えば、非特許文献:「根本、清水、萩原、小畑、縄野、“多数の特徴量からの特徴選択による乳房X線像上の腫瘤影判別精度の改善と高速な特徴選択法の提案”、電子情報通信学会論文誌D−II、Vol.J88−D−II、No.2、pp.416−426、2005年2月」には、490次元の画像特徴を用いることが記載されている。本実施の形態においては、例えば、この非特許文献に記載された画像特徴が採用される。但し、これは一例にすぎず、他の画像特徴が採用されてもよい。
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された各類似症例の画像特徴とを比較する(S620)。ここで、類似症例検索部303は、検索クエリ画像から抽出された画像特徴データと、類似症例データ蓄積部301に類似症例毎に蓄積された類似症例データ4000(図30)に登録された画像特徴データ4400との距離を算出することで、両画像特徴を比較する。
次に、類似症例検索部303は、距離が所定の閾値以下の類似症例を、距離が小さい順にソートし、送信対象の類似症例として決定する(S630)。次に、通信制御部304は、類似症例データ蓄積部301に蓄積された類似症例データ4000のうち、送信対象として決定された類似症例の類似症例ID4100、スライスID4200、関心領域情報4300、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、確定診断(詳細分類病名)4800、及び類似症例検索部303で算出された距離を情報端末100に送信する(S640)。
以下、類似症例検索結果が表示された初期の基本画面K2(図6)を生成する処理が実行される。まず、初期の基本画面K2において、レイアウト領域720を生成する際に使用される管理情報について説明する。
まず、症例検索システム300の通信制御部304は、レイアウト情報を情報端末100に送信する(S650)。ここで、レイアウト情報は、レイアウト領域720を構成する表示ボックスの行数、列数を指定する情報である。
次に、情報端末100の通信制御部110がレイアウト情報を受信すると、表示ボックス管理部106は、送信されたレイアウト情報が指定する表示ボックスの行数及び列数を表示ボックス管理情報4410(図36B)に登録すると共に、検索クエリ画像のスライスIDを表示ボックス管理情報(図36B)に登録する(S660)。
図36Bは、表示ボックス管理情報4410のデータ構成を示す図である。表示ボックス管理情報4410には、行数及び列数が登録されるテーブル4411と、各表示ボックスに表示されるスライス画像のスライスIDが登録されるテーブル4412とが含まれる。したがって、表示ボックス管理部106は、症例検索システム300から送信されたレイアウト情報が指定する行数及び列数をテーブル4411の行数及び列数の欄に登録する。また、本実施の形態では、4つの表示ボックス721〜724のうち、左上の表示ボックス721に検索クエリ画像のサムネイル画像が表示される。そこで、表示ボックス管理部106は、医用情報管理システム200から送信された検索クエリ画像のスライスIDをテーブル4412の1行1列目の項目に登録する。
ここで、レイアウト領域720を構成する表示ボックスの行数及び列数のデフォルト値は症例検索システム300により予め設定されている。ここで、行数及び列数のデフォルト値は例えば2行及び2列である。そのため、図36Bに示す表示ボックス管理情報4410には、「2行2列」が登録されている。
図6の例では、レイアウト領域720において、表示ボックス721〜724は2行2列で表示されている。このレイアウト領域720における行数及び列数はユーザが自由に設定できる。
図36Cは、表示ボックスが3行2列で設定されたレイアウト領域720を持つ基本画面K2を示す図である。レイアウト領域720を構成する表示ボックスをM行N列で一般化すると、M≠Nの場合、ディスプレイ101が縦型のディスプレイであれば、M>Nであることが望ましく、ディスプレイ101が横型のディスプレであれば、M<Nであることが望ましい。
ここで、レイアウト領域720を構成する表示ボックスのうち、1つの表示ボックスに対象診断症例のサムネイル画像を表示することが、本実施の形態の重要な特徴の一つである。つまり、類似症例と診断対象症例とを隣接して表示すれば、ユーザは、両症例の類似性の判断がし易くなる。よって、レイアウト領域720における表示ボックスの配列は3行3列までにすることが望ましい。
また、表示ボックスの配列が3行2列の場合、2行1列目の表示ボックス或いは2行2列目の表示ボックスに検索クエリ画像のサムネイル画像を表示することが好ましい。また、表示ボックスの配列が2行3列の場合は、1行2列目或いは2行2列目の表示ボックスに検索クエリ画像のサムネイル画像を表示することが好ましい。また、表示ボックスの配列が3行3列の場合は、2行2列目の表示ボックスに検索クエリ画像のサムネイル画像を表示することが好ましい。こうすることで、常に、レイアウト領域720には、対象診断症例に対して類似症例が隣接して表示されることになる。
ユーザが設定したレイアウト領域720のレイアウト情報は、図36D又は図36Eに示すレイアウト管理情報4200に登録される。
なお、レイアウト管理情報4200を保存するボックスレイアウト管理部111は、症例検索システム300が備えてもよい。
同じユーザであっても情報端末100のディスプレイ101のサイズや画面のタイプ(縦型又は横型)に適合するようにレイアウト領域720のレイアウトが変更されることもある。そのため、図36Dに示すように、ユーザが設定したレイアウト情報は、ユーザIDと端末IDと関連付けてレイアウト管理情報4200に登録されてもよい。図36Dは、レイアウト管理情報4200の一例を示す図である。このレイアウト管理情報4200では、「ユーザID」、「端末ID」、「列数」、「行数」、及び「診断対象症例の位置」とが対応付けられている。ここで、「ユーザID」は情報端末100を使用するユーザに対して予め付与されたユーザの識別子である。「端末ID」は、該当するユーザの使用が想定される情報端末100の識別子である。
図36Dの例では、ユーザID「U01」のユーザは、端末ID「T02」及び「T04」の使用が想定されているため、ユーザID「U01」が端末ID「T02」、「T04」と対応付けられている。「行数」及び「列数」は該当するユーザが設定したレイアウト領域720の行数及び列数が登録されている。「診断対象症例の位置」は、診断対象症例を表示する表示ボックスの位置である。例えば、端末ID「T04」の情報端末100では、レイアウト領域720が2行3列に設定されており、診断対象症例を全ての類似症例と隣接表示させるために、「診断対象症例の位置」として2行1列を示す(2、1)が登録されている。
なお、図36Dでは、レイアウト情報をユーザIDと端末IDと対応付けて管理する態様を示したが、レイアウト情報はユーザIDのみと対応付けて管理されてもよい。図36Eは、レイアウト管理情報4200の一例を示す図である。図36Eに示すレイアウト管理情報4200では、図36Dに示すレイアウト管理情報4200において、「端末ID」の欄が省かれている。それ以外、図36Eのレイアウト管理情報4200は図36Dのレイアウト管理情報4200と同じである。なお、図36Eの態様では、1のユーザは1の情報端末100の使用が想定されているため、「端末ID」の欄が省かれている。
なお、レイアウト情報が症例検索システム300で管理される場合、図36AのS650において、該当するユーザのレイアウト情報が情報端末100に送信される。
次に、S640で送信された類似症例データ及びS660で保存した表示ボックス管理情報4410を用いて、表示制御部104は、類似症例検索結果が表示された初期の基本画面K2を生成する(S670)。
この場合、ディスプレイ101bには図6に示す基本画面K2が表示される。また、ディスプレイ101aには、検索クエリ画像が表示されている。
図37は、図36AのS670に示す初期の基本画面K2を生成する処理の詳細を示すフローチャートである。
まず、S1000にて、表示制御部104は、図36AのS640で受信された類似症例の数をカウントし、カウント値を検索結果件数表示領域713に表示する。
次に、S1100にて、表示制御部104は、表示条件表示領域714に、「全疾患」と表示する。ここで、「全疾患」と表示されるのは、初期の基本画面K2では、ユーザにより病名や病変分布での絞り込みがかけられていないからである。
次に、S1200にて、表示制御部104は、図36AのS640で受信された類似症例のうち、症例表示領域710にサムネイル画像が表示可能な類似症例の件数分だけ、症例表示領域710に類似症例のサムネイル画像を表示すると共に、各サムネイル画像に対応付けて確定診断及び類似度を表示する。
症例表示領域710に表示可能な類似症例の件数の最大値は、図6の例では20である。この最大値は予め定められている。また、この最大値はユーザが自由に変更できる構成にしてもよい。図36AのS640で受信された類似症例の数が、最大値よりも多い場合、表示制御部104は、症例表示領域710の右端に縦方向に長尺のスクロールバー715を表示する。これにより、ユーザは、スクロールバー715を移動させ、初期の基本画面K2で非表示であった類似症例のサムネイル画像を閲覧できる。
次に、S1300にて、病名リストが生成されて表示される。まず、図36AのS640で受信された類似症例から、病名リストが生成される。病名リストは、S640で受信された類似症例が、確定診断病名毎に分類されたリストである。
ここで、S640で受信された類似症例の件数をNC件とする。病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を用いて、病名リストを生成する。生成された病名リストは、図38に示すようにテーブル形式のデータとして、病名リスト管理部108で管理される。
図39は、図37のS1300で生成される病名リストのデータ構成を示す図である。病名リストには、「病名ID」、「大分類病名」、「詳細分類病名」、「件数」、及び「類似症例ID」の欄が含まれる。「病名ID」は、確定診断病名毎に付与される識別子である。ここでは、大分類病名と詳細分類病名との1つの組み合わせに対して1つの病名IDが付与されている。
「大分類病名」は、類似症例データ4000に登録された確定診断(大分類病名)4700が示す確定診断病名である。「詳細分類病名」は、類似症例データ4000に登録された確定診断(詳細分類病名)4800が示す確定診断病名である。「件数」は、「病名ID」が示す確定診断病名に該当する類似症例の件数である。「類似症例ID」は、「病名ID」が示す病名に該当する類似症例を示す類似症例IDである。
病名リスト管理部108は、S640で受信した全ての類似症例データ4000について、確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を抽出し、両者が同じ類似症例データ4000を同じ確定診断病名の類似症例として分類する。そして、病名リスト管理部108は、確定診断病名が同じ類似症例の件数をカウントし、該当する確定診断病名のレコードの「件数」の欄に登録する。また、病名リスト管理部108は、同じ確定診断病名に分類した類似症例の類似症例IDを該当する確定診断病名のレコードの「類似症例ID」の欄に登録する。
図39の例では、大分類病名が「腫瘍性」、詳細分類病名が「原発性肺癌」の確定診断病名に対して病名ID「DIS528」が付与されている。そして、この確定診断病名に該当する類似症例の件数が10件であったため、該当するレコードの「件数」の欄に10が登録され、この確定診断病名に該当する類似症例の類似症例ID「SIM258」、「SIM551」、「SIM1209」、及び「SIM2341」等が、該当するレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された病名リストを用いて病名リスト表示領域730を生成し、ディスプレイ101に表示する。
図40、図41、図42は、それぞれ、病名リスト表示領域730の第1表示例、第2表示例、第3表示例を示した図である。図40に示すように第1表示例では、類似症例検索の結果得られた類似症例が、詳細分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図41に示すように第2表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図42に示すように第3表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示され、且つ、大分類病名毎にその中に含まれる詳細分類病名が件数の多い順に件数と対応付けて一覧表示されている。この場合、患確定診断病名が、大分類病名と詳細分類病名との階層構造で表現される。
図43は、図41に示す病名リスト表示領域730の画面遷移を示す図である。図43の上段に示すように、一覧表示された大分類病名のうち、1の大分類病名がユーザにより選択される操作を入力制御部103が検知すると、表示制御部104は、図43の下段に示すように、選択された大分類病名に属する詳細分類病名を件数が多い順に件数と対応付けて表示する。ここで、ユーザは、例えば、病名リスト表示領域730において一覧表示された大分類病名のうち、所望する1の大分類病名を例えばダブルクリック或いはシングルクリックすることで1の大分類病名を選択すればよい。図43の例では非腫瘍性がダブルクリックされているため、非腫瘍性に属する詳細分類病名が一覧表示されている。
図43の下段において、詳細分類病名が一覧表示されている領域がユーザによりダブルクリック或いはシングルクリックされると、表示制御部104は、該当する領域に表示されていた詳細分類病名を非表示にすればよい。
なお、表示制御部104は、病名リスト(図39)を参照することで、大分類病名に属する詳細分類病名を判定すればよい。例えば、図39の例では、真菌症に対して、アスペルギルス症及びクリプトコッカス症が対応付けられているため、表示制御部104は、真菌症にはアスペルギルス症及びクリプトコッカス症が属すると判断すればよい。
図37に戻り、S1400にて、分布リストが生成されて表示される。まず、S640で受信された類似症例から、分布リストが生成される。分布リストは、S640で受信された類似症例が、病変分布毎に分類されたリストである。
病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている病変分布情報4600を用いて、分布リストを生成する。生成された分布リストは、図44Aに示すようにテーブル形式のデータとして、分布リスト管理部109で管理される。
図44Aは、図37のS1400で生成される分布リストのデータ構成を示す図である。分布リストには、「分布名」、「症例数」、及び「類似症例ID」の欄が含まれる。「分布名」は、びまん性、区域性といった予め定められた複数の病変分布の名称である。「症例数」は、病変分布に該当する類似症例の件数である。「類似症例ID」は、病変分布に該当する類似症例を示す類似症例IDである。
分布リスト管理部109は、S640で受信した全ての類似症例データ4000について、病変分布情報4600を抽出し、抽出した病変分布情報4600において、分布フラグ値に1(該当)が設定されている病変分布の数をカウントし、カウント値を該当する病変分布のレコードの「症例数」の欄に登録する。また、分布リスト管理部109は、分布フラグ値に1が設定されている類似症例の類似症例IDを該当する病変分布のレコードの「類似症例ID」の欄に登録する。
図44Aの例では、びまん性に該当する類似症例の件数が3件であったため、びまん性のレコードの「症例数」の欄に3が登録されている。また、びまん性に該当する類似症例の類似症例ID「SIM2521」、「SIM4123」、及び「SIM5225」がびまん性のレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された分布リストを用いて分布リスト表示領域750を生成し、ディスプレイ101に表示する。
図44Bは、図44Aに示す分布リストを用いて生成された分布リスト表示領域750を示す図である。図44Aにおいて、区域性及び胸膜下の症例数は0であるため、図44Bでは、区域性752及び胸膜下756が非アクティブ状態で表示され、これら以外の病変分布は、症例数が1以上であるため、アクティブ状態で表示されている。
図37に戻り、S1500にて、レイアウト領域720が表示される。この処理は、表示制御部104によって行われる。
図38は、図37に示すS1500の処理を示すフローチャートである。S1510にて、表示制御部104は、レイアウト領域720を構成する表示ボックスの行数及び列数を、S660で設定された表示ボックス管理情報4410から取得する。図36Bの表示ボックス管理情報4410の例では、行数及び列数として2行2列が設定されているため、「2行2列」という情報が取得される。なお、ユーザが表示ボックスの行数及び列数を変更した場合、レイアウト領域720を構成する表示ボックスの行数及び列数は、図36D又は図36Eに示すレイアウト管理情報4200から取得される。
次に、S1520にて、表示制御部104は、S1510で取得した表示ボックスの行数及び列数に合わせて、表示ボックスを描画する。
最後に、S1530にて、表示制御部104は、表示ボックス管理情報4410から各表示ボックスのスライスIDを特定し、特定したスライスIDに対応するサムネイル画像を、対応する各表示ボックス内に描画する。
図36Bの例では、1行1列目の表示ボックスに診断対象症例のスライスIDが格納されている。そのため、表示制御部104は、図32のS600で送信された診断対象症例のスライス画像からサムネイル画像を生成し、生成したサムネイル画像を表示ボックス721に描画する。
この段階では、残りの表示ボックス(1行2列目、2行1列目、2行2列目の表示ボックス722、723、724)にはスライスIDが格納されていないため、表示制御部104は、これらの表示ボックスに何も表示しない。これらの表示ボックスには、後述する処理により、類似症例のサムネイル画像が表示されることになる。
図36Aに戻り、通信制御部110は、表示ボックス管理部106に格納された表示ボックス管理情報4410を表示制御部104に送信する(S680)。
次に、表示制御部104は、レイアウト領域720の表示状態及びレイアウトと同じ表示状態及びレイアウトで医用画像ビューワを起動させる(S690)。
ここでは、症例検索システム300が画像特徴を抽出する例を示したが、情報端末100が画像特徴を抽出してもよい。図45は、症例検索システム300が画像特徴を抽出する態様を採用した場合の情報端末100、医用情報管理システム200、及び症例検索システム300のブロック図である。
図2との違いは、情報端末100に画像特徴抽出部113が追加された点、及び症例検索システム300から画像特徴抽出部302が省かれた点にある。
図46は、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。
図32との違いは、ROI管理部105が、診断対象症例のスライス画像を通信制御部110に送信する処理(S600)の後、画像特徴の抽出が情報端末100で行われ(S603)、抽出された画像特徴が症例検索システム300に送信(S604)されている点にある。画像特徴の抽出(S604)の処理内容は、画像特徴の抽出が症例検索システム300で行われる場合と同様である。
図47は、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。図36Aとの違いは、画像特徴の抽出が情報端末100側で行われるため、図47では、図36Aにはあった画像特徴の抽出(S610)が省かれている点にある。
次に、図8〜図15を用いて説明された、症例表示領域710に表示されているサムネイル画像の拡大処理を説明する。
図48は、症例表示領域710に表示されているサムネイル画像の拡大処理を示すフローチャートである。
S4000では、拡大画像生成部112は、ユーザが選択したサムネイル画像(図8では2行4列目)の類似症例ID4100(図30)を取得する。以下では、ユーザが選択したサムネイル画像を基準サムネイル画像と呼ぶ。拡大画像生成部112は、この基準サムネイル画像に対するユーザの拡大操作と連動させて、症例表示領域710に表示されている他のサムネイル画像の拡大率を決定する。
S4100では、拡大画像生成部112は、ユーザが操作部102に入力した基準サムネイル画像に対する拡大操作の操作量を、入力制御部103から取得する。そして、拡大画像生成部112は、取得した操作量に基づき、基準サムネイル画像に対する拡大率を決定する。
具体的には、入力制御部103は、操作部102に拡大操作として入力されるマウスのホイールの回転量を検知する。入力制御部103は、検知した回転量を拡大画像生成部112に通知する。拡大画像生成部112は、回転量に予め定められた係数を掛けることにより、基準サムネイル画像に対する拡大率を算出する。
上述のように、ユーザによる拡大操作は、キーボードの上方向キーまたは下方向キーでもよい。この場合には、入力制御部103は、キーの押下時間を検知してもよい。拡大画像生成部112は、キーの押下時間に予め定められた係数を掛けることにより、基準サムネイル画像に対する拡大率を算出してもよい。
S4200では、拡大画像生成部112は、症例検索システム300から取得した多数の類似症例のうち、拡大処理を行う対象の類似症例を決定する。表示制御部104は、図6に示されるように、症例検索システム300の類似症例検索部303により検索されたNC件(図6ではNC=62)の類似症例データ中の、症例表示領域710で予め定められた最大表示件数ND(この実施の形態ではND=20)の類似症例のサムネイル画像を症例表示領域710に表示している。
本ステップでは、拡大画像生成部112は、ユーザが選択したサムネイル画像を含むようにND以下の範囲で拡大処理を行う対象の類似症例を決定する。この実施の形態では、拡大画像生成部112は、拡大処理を行う対象をNZ個の類似症例に決定する。ここで、NZ≦NDである。本ステップにより、NC件の全ての類似症例のサムネイル画像を拡大する場合と比較して、情報端末100における処理負荷を軽減することができる。
S4300では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZに到達するまで(S4300でYES)、S4400、S4500の処理を繰り返す。拡大画像生成部112は、S4400、S4500の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZを超えると(S4300でNO)、図48の処理は終了する。
S4400では、拡大画像生成部112は、拡大対象の類似症例iのサムネイル画像の拡大率を算出する。S4100で決定した基準サムネイル画像に対する拡大率と、基準サムネイル画像に対応する類似症例の関心領域情報4300(図30)と、拡大対象の類似症例iの関心領域情報4300(図30)とに基づき、拡大画像生成部112は、拡大対象の類似症例iの拡大率を算出する。
図49は、図48のS4400のサブルーチンの処理を示すフローチャートである。
S4410では、拡大画像生成部112は、基準サムネイル画像に対応する類似症例の関心領域情報4300に基づき、基準サムネイル画像の関心領域の面積を算出する。ここで、基準サムネイル画像の関心領域の面積をSrとし、関心領域の左上の座標を(xl、yt)とし、関心領域の右下の座標を(xr、yb)とすると、関心領域の面積Srは以下の式で算出することができる。
Sr=|xl−xr|×|yt−yb|
Sr=|xl−xr|×|yt−yb|
S4420では、拡大画像生成部112は、拡大対象の類似症例iの関心領域情報4300に基づき、拡大対象の類似症例iのサムネイル画像の関心領域の面積を算出する。ここで、拡大対象の類似症例iのサムネイル画像の関心領域の面積をSiとし、関心領域の左上の座標を(xli、yti)とし、関心領域の右下の座標を(xri、ybi)とすると、関心領域の面積Siは以下の式で算出することができる。
Si=|xli−xri|×|yti−ybi|
Si=|xli−xri|×|yti−ybi|
S4430では、拡大画像生成部112は、S4410で算出した基準サムネイル画像の関心領域の面積Srと、S4420で算出した拡大対象の類似症例iのサムネイル画像の関心領域の面積Siと、S4100で決定した基準サムネイル画像に対する拡大率とに基づき、拡大対象の類似症例iの拡大率を算出する。ここで、基準サムネイル画像に対する拡大率をkrとすると、拡大対象の類似症例iの拡大率kiは、以下の式で算出することができる。
ki=kr(Sr/Si)
ki=kr(Sr/Si)
図50は、拡大処理前後の基準サムネイル画像及び拡大対象のサムネイル画像を概略的に示す図である。図50の上左図は、拡大処理前の基準サムネイル画像を示す。図50の上右図は、拡大処理後の基準サムネイル画像を示す。図50の下左図は、拡大処理前の拡大対象のサムネイル画像を示す。図50の下右図は、拡大処理後の拡大対象のサムネイル画像を示す。
図50の上左図に示される基準サムネイル画像を拡大率krで拡大すると、図50の上右図に示されるサムネイル画像が得られる。拡大画像生成部112は、図50の上右図において、関心領域ROIの中心位置が表示領域720dの中心位置に一致するように、表示領域720dを決定する。拡大画像生成部112は、表示領域720dのサイズを拡大処理前の表示領域720cのサイズと同じサイズに維持している。
図50の下左図に示される拡大対象のサムネイル画像を拡大率kiで拡大すると、図50の下右図に示されるサムネイル画像が得られる。拡大画像生成部112は、図50の下右図において、関心領域ROIの中心位置が表示領域720fの中心位置に一致するように、表示領域720fを設定する。拡大画像生成部112は、表示領域720fのサイズを拡大処理前の表示領域720eのサイズと同じサイズに維持している。
図50では、基準サムネイル画像の拡大率krに対して、関心領域の面積比に応じて拡大対象のサムネイル画像iの拡大率kiを決定している。したがって、図50に示すように、拡大後の関心領域ROIのサイズが一致している。
図48に戻って、S4500では、拡大画像生成部112は、S4400で算出した拡大率と、類似症例データ4000(図30)内の、関心領域情報4300及びサムネイル画像データ4500とに基づき、拡大対象の類似症例iの拡大されたサムネイル画像を生成する。表示制御部104は、拡大画像生成部112により生成されたサムネイル画像を表示する。
図51は、図48のS4500のサブルーチンの処理を示すフローチャートである。図52は、拡大率と表示領域との関係を概略的に表す図である。以下、図51及び図52を用いて、関心領域の中心位置が拡大されたサムネイル画像の中心位置に一致するように、拡大画像を生成する処理の詳細について説明する。
S4510では、拡大画像生成部112は、S4400で算出した拡大率と、類似症例データ4000(図30)内のサムネイル画像データ4500とに基づき、拡大画像を生成する。拡大率がki倍の場合は、図52の左図に示されるサムネイル画像から図52の右図に示される拡大されたサムネイル画像が生成される。
S4520では、拡大画像生成部112は、類似症例データ4000(図30)内の関心領域情報4300と、S4400で算出した拡大率とに基づき、拡大後のサムネイル画像における関心領域の中心座標を算出する。ここで、拡大前の関心領域の中心座標を(xc、yc)とすると、図52に示すように、拡大前の関心領域の中心座標に拡大率を掛けて得られる座標(ki×xc、ki×yc)が拡大後の関心領域の中心座標となる。
S4530では、拡大画像生成部112は、S4520で算出した拡大後の関心領域の中心座標(ki×xc、ki×yc)と、予め定められた表示領域のサイズとから、拡大後のサムネイル画像iにおける表示領域を決定する。ここで、図52の左図に示されるように、表示領域720aは、横寸法w、縦寸法hに設定されている。この場合、図52の右図に示される矩形領域720bが表示領域となる。この矩形領域720bの左上座標は(ki×xc−w/2、ki×yc−h/2)であり、右下座標は(ki×xc+w/2、ki×yc+h/2)である。
S4540では、表示制御部104は、拡大画像生成部112によりS4510で生成された拡大画像のうち、S4530で算出された表示領域720bの画像を、症例表示領域710の類似症例iの表示領域に表示する。図51に示される処理により、関心領域の中心位置が表示領域の中心位置となる拡大されたサムネイル画像iを生成することが可能となる。
以上の処理により、症例表示領域710には、ユーザが指定した任意の拡大率で、サムネイル画像が表示される。ユーザによる一つのサムネイル画像に対する拡大操作で症例表示領域710内の全てのサムネイル画像の拡大率を変更できる。このため、ユーザの操作負担が減少する。また、症例表示領域710において、関心領域のサイズが揃えられてサムネイル画像が表示される。このため、関心領域が一部の類似医用画像において小さい状態で拡大されたために見落とされる事態が発生することを防止し、診断精度の向上を図ることができる。さらに、類似症例検索で得られた全ての類似症例ではなく、症例表示領域710で表示される類似症例に対してのみ、拡大処理が行われる。このため、システムへの負荷が大幅に軽減される。
次に、症例表示領域710に拡大されたサムネイル画像が表示された後に、ユーザがスクロールバー715を操作した場合のサムネイル画像の拡大処理の流れを説明する。この場合では、図14または図15に示されるように、症例表示領域710に表示されているサムネイル画像の全てが拡大されるものとする。
図53Aは、拡大されたサムネイル画像が症例表示領域710に表示された後に、ユーザがスクロールバー715を操作した場合のサムネイル画像の拡大処理を示すフローチャートである。図53Bは、拡大されたサムネイル画像が症例表示領域710に表示された状態の基本画面K2を示す図である。
図53Bに示される状態において、ユーザがスクロールバー715を下向きに操作すると、その操作量を入力制御部103が検知し、検知した操作量を拡大画像生成部112に通知する。すると、拡大画像生成部112は、図53Aの処理を開始する。
S4600では、拡大画像生成部112は、ユーザによるスクロールバー715の操作によって、新たに症例表示領域710に表示される症例数Nsを取得する。具体的には、拡大画像生成部112は、症例表示領域710で予め定められた最大表示件数NDを表示制御部104から取得する。この実施形態では、図6に示されるように、最大表示件数NDは、4行5列の20件である。したがって、新たに5個のサムネイル画像が表示対象となるため、拡大画像生成部112は、Ns=5を取得する。
また、S4600では、拡大画像生成部112は、新たに症例表示領域710に表示されるサムネイル画像の類似症例IDを特定する。このとき、拡大画像生成部112は、症例検索システム300の類似症例検索部303から受信した類似症例の類似度を参照する。現在は、表示制御部104は、類似度の最も高い類似症例からND件の類似症例のサムネイル画像を表示している。そこで、拡大画像生成部112は、類似度の最も高い類似症例から数えて(ND+1)番目から(ND+Ns)番目までの類似症例を拡大対象症例とする。拡大画像生成部112は、これらの拡大対象の類似症例IDを特定する。
S4700では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNsに到達するまで、S4800、S4500の処理を繰り返す。拡大画像生成部112は、S4800、S4500の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNsを超えると(S4700でNO)、図53Aの処理は終了する。
S4800では、拡大画像生成部112は、拡大対象の類似症例iの拡大率kiを算出する。すでに症例表示領域710には拡大されたサムネイル画像が表示されている。そこで、拡大画像生成部112は、図48のS4100で決定した基準サムネイル画像に対する拡大率krを用いる。そして、拡大画像生成部112は、図48のS4400と同様にして、拡大対象の類似症例iの拡大率kiを算出する。続くS4500は、図48のS4500と同じであるため、詳細な説明は省略する。図53Aの処理により、図53Cに示される画面が得られる。
図53Cは、拡大されたサムネイル画像が図53Bの状態から移動した基本画面K2を示す図である。図53Cに示されるように、症例表示領域710に表示されている類似症例のサムネイル画像は、スクロールバー715の操作により上方向に移動している。
なお、ユーザがスクロールバー715の操作を続けた場合には、拡大画像生成部112は、さらに、図53Aの処理を実行する。
以上の処理により、類似症例が多数であっても、拡大画像生成部112は、スクロールバー715の操作により新たに症例表示領域710に表示されるサムネイル画像に対してのみ拡大処理を行えばよい。このため、システムへの負荷が大幅に軽減される。
次に、図20、図22、図24に示す分布リスト表示領域750に表示された病変分布が選択されたときの拡大処理について説明する。図54は、分布リスト表示領域750に表示された病変分布が選択されたときの処理を示すフローチャートである。
S2000では、分布リスト表示領域750に表示された病変分布(分布チェック項目)のうち、いずれか1の分布チェック項目を選択する操作を入力制御部103が検知すると、拡大画像生成部112は、検知された分布チェック項目が第1〜第3分布情報のいずれに該当するかを判定する。第1分布情報の場合、処理がS1301に進められ、第2分布情報の場合、処理がS1302に進められ、第3分布情報の場合、処理がS1303に進められる。
第1分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属するサムネイル画像を選択させるための情報である。ここでは、第1分布情報としては、「両側性」、「多発性」、「びまん性」、及び「血行性」が該当する。よって、第1範囲としては、これらの病変分布を診断する際に設定される関心領域のサイズが属するような値域が採用される。
第2分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域の大きさが、肺の領域の一部であることを示す所定の第2範囲(第1範囲より低い:第2範囲の上限値が第1範囲の下限値以下)に属するサムネイル画像を選択させるための情報である。ここでは、第2分布情報としては、「気道性」及び「区域性」が該当する。よって、第2範囲としては、これらの病変分布を診断する際に設定される関心領域のサイズが属するような値域が採用される。
第3分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域の大きさが、胸膜の辺縁に存在するサムネイル画像を選択させるための情報である。ここでは、第3分布情報としては、「胸膜下」が該当する。
S1301では、拡大画像生成部112は、類似症例検索により得られた類似症例であって、ユーザが第1分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数(この実施の形態では20件)以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ1として決定する。そして、拡大画像生成部112は、抽出した類似症例i(iは抽出された類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZ1に到達するまで、S2100、S1501の処理を繰り返す。拡大画像生成部112は、S2100、S1501の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZ1を超えると(S1301でNO)、図54の処理は終了する。
S2100では、拡大画像生成部112は、類似症例iについての第1分布情報に対応する第1拡大率を算出する。ここでは、第1拡大率としては、例えば、1.0が採用される。但し、これは一例であり第1分布情報が示す病変分布を診断する際に設定される関心領域の全域が表示領域に収まるような値であれば、1.0以外の拡大率が第1拡大率として採用されてもよい。
S1501では、図48のS4500と同様に処理が行われる。その結果、表示制御部104は、類似症例iのサムネイル画像を類似症例iの第1拡大率で拡大した画像を症例表示領域710に表示する。
上述の図21では、両側性が選択されている。この場合、類似症例のうち病変分布が両側性に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、この場合、拡大率は1.0であるため、症例表示領域710において、類似検索結果が得られた直後に表示されたサムネイル画像と同じ表示態様でサムネイル画像が表示されている。すなわち、関心領域ROIの中心が表示領域6801の中心に位置するようにサムネイル画像の表示位置が調整されず、且つ、拡大されずに、サムネイル画像が表示される。
S1302では、拡大画像生成部112は、類似症例検索により得られた類似症例であって、ユーザが第2分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ2として決定する。そして、拡大画像生成部112は、抽出した類似症例iのサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZ2に到達するまで、S2200、S1502の処理を繰り返す。拡大画像生成部112は、S2200、S1502の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZ2を超えると(S1302でNO)、図54の処理は終了する。
S2200では、拡大画像生成部112は、症例表示領域710において、1つのサムネイル画像に対して予め定められた表示領域のサイズと、類似症例iの関心領域情報とを用いて、類似症例iについての第2分布情報に対応する第2拡大率を算出する。
第2分布情報が選択された場合、拡大画像生成部112は、類似症例iを、関心領域のサイズが表示領域のサイズの1/2程度になるように、拡大する。そのため、拡大画像生成部112は、例えば、下記の数式で類似症例iに対する第2拡大率kiを計算する。表示領域の面積をSd、拡大対象の類似症例iのサムネイル画像の関心領域の面積をSiとすると、第2拡大率kiは以下の式で算出できる。
ki=1/2(Sd/Si)
ki=1/2(Sd/Si)
S1502では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像を第2拡大率kiで拡大する。表示制御部104は、サムネイル画像の関心領域の中心が表示領域の中心に位置するように症例表示領域710に拡大画像生成部112により拡大されたサムネイル画像を表示する。
上述の図23では、気道性が選択されている。この場合、類似症例のうち病変分布が気道性に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、症例表示領域710において、全てのサムネイル画像は関心領域ROIの中心が表示領域6901の中心に位置するように第2拡大率で拡大されている。
S1303では、拡大画像生成部112は、類似症例検索により得られた類似症例であって、ユーザが第3分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ3として決定する。そして、拡大画像生成部112は、抽出した類似症例iのサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZ3に到達するまで、S2300、S1503の処理を繰り返す。拡大画像生成部112は、S2300、S1503の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZ3を超えると(S1303でNO)、図54の処理は終了する。
S2300では、拡大画像生成部112は、症例表示領域710において、1つのサムネイル画像に対して予め定められた表示領域のサイズと、類似症例iの関心領域情報と、胸膜領域情報4900とを用いて、類似症例iについての第3分布情報に対応する第3拡大率を算出する。
図55は、胸膜領域情報4900が追加された類似症例データ4000のデータ構成を示す図である。なお、類似症例データ4000に胸膜領域情報4900が登録されていない場合、胸膜領域情報4900が得られない。この場合、拡大画像生成部112は、第3拡大率を、第1拡大率と同じ値である1.0に設定すればよい。ここで、胸膜領域情報4900は、類似症例において、胸膜領域を示す情報である。
S1503では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像でを第3拡大率kiで拡大する。表示制御部104は、サムネイル画像の関心領域の中心が表示領域の中心に位置するように症例表示領域710に拡大画像生成部112により拡大されたサムネイル画像を表示する。
図56は、胸膜領域7101を説明する図である。図56に示すように、胸膜領域7101は、胸膜を含む領域であって、中心が関心領域ROIの中心に位置し且つ関心領域ROIよりも少しサイズの大きな矩形状の領域である。ここで、胸膜領域情報4900には、胸膜領域7101の左上の頂点の座標(xpl、ypt)と右下の頂点の座標(xpr、ypb)との4値が含まれる。第3分布情報が選択された場合には、胸膜領域を拡大表示するため、拡大画像生成部112は、以下の式で第3拡大率kiを計算する。表示領域7102の面積をSd、胸膜領域7101の面積をSpとすると第3拡大率kiは、以下の式で算出できる。
ki=Sd/Sp
ki=Sd/Sp
なお、胸膜領域情報4900は、類似症例データ4000の作成時に関心領域情報と共にユーザにより入力されてもよい。或いは、胸膜領域情報4900は、画像処理装置により、スライス画像から肺の領域を自動的に抽出させ、胸膜位置を判定させることで自動的に作成されてもよい。
上述の図25では、胸膜下が選択されている。この場合、類似症例のうち病変分布が胸膜下に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、症例表示領域710において、全てのサムネイル画像は関心領域ROIの中心が表示領域7001の中心に位置するように第3拡大率で拡大されている。
以上の処理により、症例表示領域710には、病変分布に関する診断内容が反映された拡大率でサムネイル画像が表示される。そして、症例表示領域710において、関心領域のサイズが揃えられてサムネイル画像が表示される。そのため、関心領域が一部の類似医用画像において小さい状態で拡大されたために見落とされる事態が発生することを防止し、診断精度の向上を図ることができる。さらに、類似症例検索で得られた全ての類似症例ではなく、症例表示領域710で表示される類似症例に対してのみ、拡大処理が行われるため、システムへの負荷が大幅に軽減される。
(実施の形態2)
上記実施の形態1では、ユーザの操作部102に対する操作量に応じて、類似症例のサムネイル画像の拡大率を制御している。これに対して、実施の形態2では、基本画面に設けられた拡大率変更ボタンに対するユーザの操作によって、拡大率を制御している。
上記実施の形態1では、ユーザの操作部102に対する操作量に応じて、類似症例のサムネイル画像の拡大率を制御している。これに対して、実施の形態2では、基本画面に設けられた拡大率変更ボタンに対するユーザの操作によって、拡大率を制御している。
図57は、実施の形態2において、類似症例検索により検索された類似症例のサムネイル画像が症例表示領域710に表示された状態の基本画面K2を示す図である。以下では、上記実施の形態1と異なる部分を中心に説明する。
実施の形態2では、基本画面K2は、拡大率変更ボタン716(指示ボタンの一例)を備える。図57に示されるように、基本画面K2は、拡大率変更ボタン716として、第1指示ボタン717、第2指示ボタン718、及び第3指示ボタン719を含む。
実施の形態2において、拡大率変更ボタン716に含まれる第1指示ボタン717、第2指示ボタン718、及び第3指示ボタン719のいずれかをユーザが選択すると、その選択を入力制御部103が検知する。すると、入力制御部103は、ユーザが選択したボタンの情報を拡大画像生成部112に通知する。拡大画像生成部112は、通知されたボタンの情報に応じて、症例表示領域710に表示されている全てのサムネイル画像の拡大率を変更する。
拡大画像生成部112は、第1指示ボタン717がユーザにより選択されると、拡大率を1.0と算出する。なお、類似症例検索後の初期の基本画面K2では、第1指示ボタン717が選択された状態になっている。このため、図57の基本画面K2におけるサムネイル画像の拡大率は1.0倍である。また、図57では、表示制御部104は、第1指示ボタン717の色を変更している。
図58は、第2指示ボタン718がユーザにより選択された場合の基本画面K2を示す図である。図59は、第3指示ボタン719がユーザにより選択された場合の基本画面K2を示す図である。
図58では、表示制御部104は、第2指示ボタン718の色を変更している。また、図59では、表示制御部104は、第3指示ボタン719の色を変更している。
拡大画像生成部112は、図57または図59に示される基本画面K2において、第2指示ボタン718がユーザにより選択されると、図58に示されるように、関心領域ROIのサイズが表示領域5801のサイズの1/2程度に拡大されるように、各サムネイル画像の拡大率を算出する。
拡大画像生成部112は、図57または図58に示される基本画面K2において、第3指示ボタン719がユーザにより選択されると、図59に示されるように、関心領域ROIのサイズが表示領域5901のサイズと同程度に拡大されるように、各サムネイル画像の拡大率を算出する。
図58、図59では、最大表示件数ND(この実施の形態ではND=20)の症例表示領域710に、M個(図58、図59ではM=20)の類似症例のサムネイル画像が表示されており、M個(図58、図59では20個)のサムネイル画像が拡大されている。このように、実施の形態2では、症例表示領域710に表示されている全てのサムネイル画像が拡大されている。例えば図17のようにM=14の場合には、14個全てのサムネイル画像が拡大されることになる。
次に、ユーザが拡大率変更ボタン716の選択を行ったときの拡大処理について説明する。
図60は、ユーザが拡大率変更ボタン716の選択を行ったときの拡大処理を示すフローチャートである。
S2800では、拡大画像生成部112は、類似症例検索により取得した多数の類似症例のうち、拡大処理を行う対象を決定する。
実施の形態2では、実施の形態1の図48のS4100のような、基準となる類似症例のサムネイル画像の選択がユーザにより行われず、拡大率変更ボタン716の選択のみがユーザにより行われる。そのため、拡大画像生成部112は、ユーザによる拡大率変更ボタン716の選択時に症例表示領域710に表示されている全ての類似症例を、拡大処理を行う対象とする。そこで、拡大画像生成部112は、症例表示領域710に表示されている全てのサムネイル画像の類似症例IDを、類似症例データ4000(図30)から取得する。
S2400では、拡大画像生成部112は、入力制御部103から通知されたボタンの情報に基づき、ユーザが選択したボタンの種類を判定する。ユーザにより選択されたボタン種が第1指示ボタン717の場合はS2451に進み、選択されたボタン種が第2指示ボタン718の場合はS2452に進み、選択されたボタン種が第3指示ボタン719の場合はS2543に進む。
S2451では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNDに到達するまで、S2500、S4501の処理を繰り返す。拡大画像生成部112は、S2500、S4501の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNDを超えると(S2451でNO)、図60の処理は終了する。
S2500では、第1指示ボタン717がユーザにより選択されている。このため、S2500では、拡大画像生成部112は、拡大率を1.0として算出する。
S4501では、図48のS4500と同様に処理が行われる。その結果、拡大率は1.0であるため、表示制御部104は、図57に示されるように、症例表示領域710において、類似検索結果が得られた直後に表示されたサムネイル画像と同じ表示態様でサムネイル画像を表示する。
S2452では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNDに到達するまで、S2600、S4502の処理を繰り返す。拡大画像生成部112は、S2600、S4502の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNDを超えると(S2452でNO)、図60の処理は終了する。
S2600では、第2指示ボタン718がユーザにより選択されている。このため、S2600では、拡大画像生成部112は、上述のように、関心領域のサイズが表示領域のサイズの1/2程度になるように、拡大対象のサムネイル画像iの拡大率を算出する。拡大画像生成部112は、表示領域のサイズと、拡大対象のサムネイル画像iの類似症例データ4000(図30)内の関心領域情報4300とに基づき、拡大率を算出する。拡大画像生成部112は、以下のような式で拡大率kiを計算する。表示領域5701(図57)の面積をSd、拡大対象のサムネイル画像iの関心領域ROI(図57)の面積をSiとすると、拡大対象の類似症例iのサムネイル画像の拡大率kiは、以下の式で算出できる。
ki=1/2(Sd/Si)
ki=1/2(Sd/Si)
S4502では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像の関心領域の中心が表示領域の中心に位置するように、サムネイル画像を拡大する。表示制御部104は、拡大画像生成部112により生成された、拡大されたサムネイル画像を症例表示領域710に表示する。
なお、この実施の形態2では、拡大画像生成部112は、第2指示ボタン718が選択されたときの拡大率を、表示領域のサイズに対する関心領域のサイズの比率が1/2程度になるように算出している。しかし、本開示では、上記比率は1/2に限られない。例えば、上記比率は1/3、2/3などの他の値でもよい。
S2453では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNDに到達するまで、S2700、S4503の処理を繰り返す。拡大画像生成部112は、S2700、S4503の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNDを超えると(S2453でNO)、図60の処理は終了する。
S2700では、第3指示ボタン719がユーザにより選択されている。このため、S2700では、拡大画像生成部112は、上述のように、関心領域のサイズが表示領域のサイズと同程度になるように、拡大対象のサムネイル画像iの拡大率を算出する。拡大画像生成部112は、表示領域のサイズと、拡大対象の類似症例iの類似症例データ4000(図30)内の関心領域情報4300とに基づき、拡大率を算出する。拡大画像生成部112は、以下のような式で拡大率kiを計算する。表示領域5701(図57)の面積をSd、拡大対象の類似症例iのサムネイル画像の関心領域ROI(図57)の面積をSiとすると、拡大対象の類似症例iのサムネイル画像の拡大率kiは、以下の式で算出できる。
ki=Sd/Si
ki=Sd/Si
S4503では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像の関心領域の中心が表示領域の中心に位置するように、サムネイル画像を拡大する。表示制御部104は、拡大画像生成部112により生成された、拡大されたサムネイル画像を症例表示領域710に表示する。
なお、この実施の形態2では、拡大画像生成部112は、第3指示ボタン719が選択されたときの拡大率を、表示領域のサイズに対する関心領域のサイズの比率が1.0程度になるように算出している。しかし、本開示では、上記比率は1.0に限られない。例えば、上記比率は1.1、0.9などの他の値でもよい。
以上の処理により、症例表示領域710において、個々の表示領域内の関心領域ROIのサイズを揃えることができる。その結果、関心領域が一部の類似医用画像において小さい状態で拡大されたために見落とされる事態が発生することを防止し、診断精度の向上を図ることができる。このとき、類似症例検索で得られた全ての類似症例ではなく、症例表示領域710で表示される類似症例に対してのみ、拡大処理が行われる。このため、システムへの負荷が大幅に軽減される。
以上では、サムネイル画像の拡大率の変更処理を情報端末100において実行する例を示した。実施の形態2における拡大率変更ボタン716を用いた拡大率の変更処理の場合には、拡大率の変更処理を症例検索システム300で実行してもよい。この場合には、症例検索システム300は、拡大率が変更されたサムネイル画像を予め生成しておいてもよい。そして、拡大率変更ボタンが操作された時に、症例検索システム300から情報端末100にサムネイル画像を送信してもよい。
図61は、症例検索システム300が類似症例検索結果を情報端末100に送信した後、情報端末100において拡大率変更ボタン716が選択されてから拡大されたサムネイル画像を情報端末100のディスプレイ101bに表示するまでの処理を示すシーケンス図である。図62は、症例検索システム300において実行される事前処理と、図61に示される処理とを示すフローチャートである。図62では、図61に示される処理と同じ処理については同じ符号が付されている。図61、図62を用いて、処理の詳細を説明する。
まず、症例検索システム300で実行される事前処理が説明される。図62のS3100では、症例検索システム300は、拡大率変更ボタン716の第1指示ボタン717、第2指示ボタン718、第3指示ボタン719の各々に対して各サムネイル画像の拡大率を決定する。なお、拡大率決定の手順は、上述の図60のS2500、S2600、S2700で説明された手順を用いればよい。
S3110では、症例検索システム300は、S3100で決定した拡大率と、類似症例データ4000(図30)のサムネイル画像データ4500とに基づき、第1指示ボタン717、第2指示ボタン718、第3指示ボタン719に対する拡大されたサムネイル画像データをそれぞれ生成する。症例検索システム300は、生成した拡大サムネイル画像データを、図63に示すように、類似症例データ4000(図30)とは別に、拡大サムネイルデータ5000として、類似症例データ蓄積部301に格納する。
図63は、拡大サムネイルデータ5000のデータ構成を示す図である。拡大サムネイルデータ5000は、拡大されたサムネイル画像データを類似症例データ蓄積部301に保存するためのデータである。拡大サムネイルデータ5000は、図63に示されるように、類似症例ID5100に対応付けられて、第1指示ボタン717に対応する拡大サムネイル画像データ5200と、第2指示ボタン718に対応する拡大サムネイル画像データ5300と、第3指示ボタン719に対応する拡大サムネイル画像データ5400とを含む。
次に、図61、図62を用いて、情報端末100において、ユーザにより拡大率変更ボタンが選択された場合の処理について説明する。
S3010では、入力制御部103は、ユーザが拡大率変更ボタン716を選択したときの指示ボタンの種類を検知する。つまり、入力制御部103は、第1指示ボタン717、第2指示ボタン718、第3指示ボタン719のいずれをユーザが選択したかを検知する。
S3020では、表示制御部104は、拡大率変更ボタン716がユーザにより選択された時に症例表示領域710に表示されているND個(この実施の形態ではND=20)の類似症例の類似症例IDを類似症例データ4000(図30)から取得する。また、表示制御部104は、取得した類似症例IDを拡大対象の類似症例として決定する。
S3030では、通信制御部110は、S3010で入力制御部103が検知した拡大率変更ボタン716の種類と、S3020で表示制御部104が取得した拡大対象の類似症例ID(ND個)とを、症例検索システム300に送信する。
S3040では、症例検索システム300の通信制御部304は、S3030で情報端末100から送信された拡大率変更ボタン716の種類と拡大対象の類似症例ID(ND個)とを受信する。
S3050では、症例検索システム300は、受信した類似症例IDと拡大率変更ボタン716の種類とから、拡大サムネイルデータ5000の拡大サムネイル画像データ5200,5300,5400のうち表示に使用する画像データを特定する。症例検索システム300の通信制御部304は、特定した拡大サムネイル画像データを情報端末100に送信する。
S3060では、情報端末100の通信制御部110は、症例検索システム300から送信された拡大サムネイル画像データを受信する。
S3070では、情報端末100の表示制御部104は、S3060で通信制御部110が受信した拡大サムネイル画像データに基づき、類似症例の拡大されたサムネイル画像を情報端末100のディスプレイ101bの症例表示領域710に表示する。
(実施の形態1の補足)
次に、図32、図36Aのシーケンス図をアプリケーションのレベルで着目したときの情報端末100、医用情報管理システム200、及び症例検索システム300の処理について説明する。
次に、図32、図36Aのシーケンス図をアプリケーションのレベルで着目したときの情報端末100、医用情報管理システム200、及び症例検索システム300の処理について説明する。
図64は、図32及び図36Aのシーケンス図をアプリケーションのレベルで着目したときのシーケンス図である。図64において、図32と同じ処理には同じ符号を付している。
図64、図65において、「A」は情報端末100が実行する医用情報管理アプリケーションの処理を示し、「B」は情報端末100が実行する類似症例検索アプリケーションの処理を示す。以下、医用情報管理アプリケーションを「アプリA」と記述し、類似症例検索アプリケーションを「アプリB」と記述する。
まず、アプリAは、ユーザから読影対象となる検査リストの表示要求を受け付け、医用情報管理システム200に送信する(S510)。医用情報管理システム200は検査リストを受信すると、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成し、アプリAに送信する。
検査リストを受信したアプリAは、図33に示すように、検査リストをディスプレイ101に表示し、検査リストの中から1の検査がユーザにより選択されると(S530)、選択された検査の表示要求を医用情報管理システム200に送信する(S540)。
検査要求を受信した医用情報管理システム200は、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像をアプリAに送信する(S550)。
次に、アプリAは、図34に示すように、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを表示する(S560)。
次に、アプリAは、シリーズリストの中から読影対象のシリーズがユーザにより選択されると、選択されたシリーズの最初のスライド位置のスライド画像を医用画像ビューワ610に表示する(S570)。このとき、ユーザは、スライス送りする操作を入力し、医用画像ビューワ610に所望のスライス画像を表示させる。
次に、アプリAは、医用画像ビューワ610に表示されたスライス画像において、関心領域を設定する操作をユーザから受け付ける(S580)。
次に、アプリAは、ユーザにより設定された関心領域を示す関心領域情報を生成し、関心領域が設定されたスライス画像(診断対象症例のスライス画像)と共に、アプリBに送信する(S590、S600)。
次に、アプリBは、診断対象症例のスライス画像及び関心領域情報を受信すると、そのスライス画像及び関心領域情報を症例検索システムに送信する(S601、S602)。
スライス画像及び関心領域情報を受信すると、症例検索システム300は、図36Aと同様、S610〜S640の処理を実行する。
次に、アプリBは、S640で送信された類似症例データ及び表示ボックス管理情報4410を用いて初期の基本画面を生成する(S670)。そして、アプリBは、図37に詳細が示されるS670の処理を実行する。
図65は、情報端末100において類似症例のサムネイル画像がドラッグアンドドロップされる際の処理をアプリケーションのレベルで着目したときのシーケンス図である。
図64との相違点は、S603、S604にある。図65では、画像特徴は情報端末100で抽出されている。よって、アプリBが診断対象症例のスライス画像に設定された関心領域から画像特徴を抽出し(S603)、抽出した画像特徴を症例検索システム300に送信している(S604)。
本開示によれば、読影対象である医用画像を用いて診断するにあたって参考となる類似症例を提示する類似症例検索装置、および研修読影医のための読影教育装置等に利用可能である。
本発明は、読影対象の医用画像と類似する類似医用画像を検索するための情報端末の制御方法及びプログラムに関する。
近年、例えば、CT(Computed Tomography)、MRI(Magnetic Resonance Imaging)等の医用画像装置が発達及び普及している。これらCT又はMRI等は、デジタル化された高精細な医用画像を大容量で取得することを可能にした。また、医師が読影した医用画像は読影レポートと共にPACS(Picture Archiving and Communication Systems)に順次蓄積されつつある。ここで、例えば特許文献1に開示されるように、新たな読影の参考とするため、読影対象の医用画像と類似した過去の医用画像を、PACSに蓄積済の過去症例から検索する技術が開発され始めている。
しかしながら、更なる改善が必要とされていた。
大沢 哲、外4名、"画像診断を支援する類似症例検索システム「SYNAPSE Case Match」の開発"、富士フイルム研究報告、富士フイルム株式会社、平成25年3月27日、第58号、p.11−14
上記課題を解決するため、本開示の一態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
上記態様により、更なる改善が実現できる。
(本開示に係る一態様を発明するに至った経緯)
まず、本開示に係る一態様の着眼点について説明する。
まず、本開示に係る一態様の着眼点について説明する。
特許文献1は、診断対象画像に基づく画像診断時に疾患の判断に有用な症例画像又はその疾患に関する統計情報等を提示する画像診断支援装置を開示する。当該画像診断支援装置による検索結果の画面は、診断対象画像及び疾患別の代表症例の情報を表示する。具体的には、前記検索結果の画面は、i)上位3つの疾患A、D、Gの代表症例の画像、ii)疾患別に診断対象画像との類似度、登録症例数及び代表症例数、iii)検索件数(検索された疾患の総数)、及び、iv)一画面に表示できない他の疾患の情報を参照するための「ページ送り」のソフトボタン等を表示する(段落[0062]から[0063]及び図6(E))。
特許文献1では、検索結果の画面において、代表症例の画像を拡大させることについての記載は一切ない。したがって、特許文献1は、単純に代表症例の画像を拡大することさえ開示をしないので、画像表示数に制約がある検索結果の画面において、例えば、代表症例の画像に含まれる病変部位を中心に、前記代表症例の画像の各々を拡大させる等の工夫をも開示していない。
特許文献2は、同一患者の医用画像について比較読影の効率向上を実現する医用画像表示装置を開示する。ここで、比較読影とは、i)同一の患者に対し異なる画像診断装置あるいは撮影条件によって得られた画像データを用いた比較読影又はii)同一の患者に対し同一画像診断装置によって得られた過去及び最新の画像データを用いた比較読影をいう。即ち、特許文献2の比較読影は、同一の患者の画像データを用いた比較読影である。
当該医用画像表示装置の表示画面には、サムネイル表示エリアに表示されるサムネイル画像を拡大又は縮小するための「標準」、「拡大率基準」及び「サイズ基準」の3種類のソフトボタンが表示される(段落[0040]及び図6)。「拡大率基準」又は「サイズ基準」が選択されると、サムネイル画像は、病変範囲又は病変位置を含むように拡大して表示される。これにより、一覧表示されたサムネイル画像による病変確認は、「標準」が選択された場合と比較して容易になる。また、「サイズ基準」が選択された場合、サムネイル画像のサムネイルサイズは、表示一覧性を保持するため、「標準」が選択された場合と同一サイズになる(段落[0041]から[0043]及び図7)。尚、特許文献2では、サムネイル画像は時系列順に表示される(例えば、特許文献2の図6参照)。
特許文献2では、「拡大率基準」又は「サイズ基準」が選択されると、病変範囲又は病変位置を含む全てのサムネイル画像が拡大されることになる。即ち、サムネイル表示エリアに表示されているサムネイル画像に加え、サムネイル表示エリアに表示し切れないサムネイル画像も拡大される(例えば、特許文献2の図6及び図7参照)。
これは、同一患者の画像を時間の経過を追って比較すること(比較読影)を前提としているためである。なぜならば、比較読影は、主に経過観察のため、半年又は1年近くの期間をおいて医用画像が撮影されることが通常だからである。そのため、医用画像数が膨大である可能性が低く、全てのサムネイル画像を拡大したとしても、システムの処理負荷はさほど大きくなることはない。
また、サムネイル画像は全て同一患者の画像である。このため、読影対象の画像と他の患者の画像とを比較する場合とは異なり、各サムネイル画像が類似しているか否かを検討する作業は不要となる。即ち、特許文献2のサムネイル画像は、同一患者の病変変化を時系列に沿って検討するために用いられる。そのため、拡大表示する際に、他の患者の画像との類似関係に基づき一部のサムネイル画像は拡大し、他のサムネイル画像は拡大しないといった作業はそもそも発生しない。
非特許文献1は、病変画像を用いて過去の類似症例を検索する機能により、上述のPACSなどに蓄積された臨床知識から、瞬時に的確な情報を抽出し提示し、医師の画像診断をサポートする類似症例検索システムを開示する。具体的には、本システムは、検査画像の病変の特徴が類似した症例画像を検索し、類似順に複数表示する。そして、表示された複数の症例画像より1つの参考症例画像を選択し、検査画像と並列に表示する(p.12「2.2 本システムの特徴」及びFig.3)。
非特許文献1に開示されたシステムは、類似順に複数表示された症例画像を拡大させることについての記載は一切ない。したがって、非特許文献1は、単純に症例画像を拡大することさえ開示をしないので、画像表示数に制約がある検索結果の画面において、例えば、代表症例の画像に含まれる病変部位を中心に、前記代表症例の画像の各々を拡大させる等の工夫をも開示しない。
未だ病名が特定されていない読影対象の医用画像に表れている病変を検討するにあたって、既に病名が特定されている他の医用画像の中で前記読影対象の医用画像と類似する類似医用画像を参照することは有効であると考えられる。しかし、このようなシステムを構築した場合、前記医用画像データベースに膨大な数の医用画像が登録されることになる。このような場合であっても、前記読影対象の医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示することが望まれる。
以上の考察により、本願発明者らは、以下の発明の各態様を想到するに至った。
本開示の第1の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
本態様によると、前記読影対象の対象医用画像の中の関心領域と所定の類似度を有する類似医用画像であって既に病名が特定されているNC個の類似医用画像を前記症例検索システムから受信し、前記NC個の類似医用画像の中のM個の類似医用画像を表示する。これにより、前記医用画像データベースに登録されている膨大な医用画像の中から、前記対象医用画像に表れている病変の病名を検討するために参考となる類似医用画像を効率的に抽出して、医師に提示できる。
また、表示されている類似医用画像の中で医師が関心を示した画像を拡大することもできる。その際、本態様では、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる。
これにより、前記表示されている類似医用画像の各々について個々の拡大指示が不要となる。したがって、操作効率を向上できる。また、前記類似医用画像を拡大する際、前記類似医用画像の各個別領域のサイズは同一サイズに維持される。そのため、前記M個以下の類似医用画像を拡大させつつも、画像表示数に制約がある表示画面を有効活用して、前記M個以下の類似医用画像の各々を拡大表示させることができる。また、前記各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる。そのため、前記M個以下の類似医用画像の中で医師が関心を持つ領域を中心に、前記M個以下の類似医用画像の各々が拡大されることになる。
このように、一つの指示によって、画像表示数に制約がある表示画面を有効活用しながら、医師が関心を持つ領域を中心に、前記M個以下の類似医用画像の各々を拡大させる。その結果、例えば、前記医用画像データベースに膨大な数の医用画像が登録されている場合であっても、前記読影対象の対象医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示する。したがって、診断精度の向上に寄与できる。
また、前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるようにしてもよい。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個以下の類似医用画像の各々に含まれる前記対応関心領域を、前記M個以下の類似医用画像に共通する一定の割合で拡大した場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個以下の類似医用画像を拡大しても、拡大された前記対応関心領域の大きさは、ばらばらとなる。
本態様によると、例えば、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させる。
これによると、前記M個以下の類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさのばらつきを、前記M個以下の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個以下の類似医用画像について、前記拡大された対応関心領域を医師はほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1の態様において、例えば、
前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させてもよい。
また、前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるようにしてもよい。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個以下の類似医用画像の各々に含まれる前記対応関心領域を、前記M個以下の類似医用画像に共通する一定の割合で拡大した場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個以下の類似医用画像を拡大しても、拡大された前記対応関心領域の大きさは、ばらばらとなる。
本態様によると、例えば、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させる。
これによると、前記M個以下の類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさのばらつきを、前記M個以下の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個以下の類似医用画像について、前記拡大された対応関心領域を医師はほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1の態様において、例えば、
前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させてもよい。
この場合、前記M個以下の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示によって、前記M個以下の類似医用画像が拡大されることになる。そのため、医師が前記M個以下の類似医用画像の中で、拡大してより詳細を確認するためにいずれか一の類似医用画像を選択すると、前記M個の類似医用画像の中の他の類似医用画像までも拡大される。即ち、前記M個の類似医用画像の拡大のための特別の操作を医師に要求するものではなく、医師が拡大により詳細を確認するためにいずれか一の類似医用画像を選択するという自然な操作の流れに沿って、前記M個の類似医用画像の中の他の類似医用画像までも拡大される。その結果、前記M個以下の類似医用画像を効率的に拡大する。したがって、医師の操作負担を軽減して、その分、医師を専門的な判断に集中させて、診断精度の向上を図ることができる。
また、本態様では、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像を拡大させる。
即ち、前記医用画像データベースに登録されている膨大な医用画像の中から、前記読影対象の医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記症例検索システムから受信する場合でも、前記受信するNC個の類似医用画像は、例えば、200画像、300画像と画像数は多い。この際、一つの指示により画像を拡大するにしても、前記受信したNC個の類似医用画像の全てを拡大するのは非効率である。従って、前記受信したNC個の類似医用画像の中から一定範囲の画像に限定して、前記一つの拡大指示により画像を拡大する方が望ましい。
ここで、前記読影対象の医用画像である対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記対象医用画像との類似度が高い順序で表示して、前記対象医用画像に表れている病変の病名を検討する趣旨からすると、前記一つの拡大指示を検知した場合、前記一の類似医用画像と一定の類似関係にある画像に限定して拡大することが望ましい。一方で、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知する毎に、前記一の類似医用画像と一定の類似関係にある画像はどれかを算出することは効率が悪い。
そこで、本態様では、前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲は、前記一の類似医用画像と一定の類似関係ある画像と近似しているものと擬制している。そして、本態様では、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像を拡大させるようにした。
即ち、本態様では、前記受信したNC個の類似医用画像の全てを拡大するのではなく、前記受信したNC個の類似医用画像の中から一定範囲の画像に限定して、即ち、前記一の類似医用画像と一定の類似関係にあると擬制できる範囲の画像に限定して、拡大する。
このように、本態様では、前記読影対象の医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記読影対象の医用画像との類似度が高い順序で表示する。また、前記表示されている類似医用画像の中で医師が関心を示した画像を拡大する際、前記一の類似医用画像と一定の類似関係にあると擬制できる画像に限定して拡大する。そのため、膨大な数の類似医用画像を受信した場合でも、前記読影対象の医用画像に表れている病変の病名を検討する趣旨に沿った範囲で前記類似医用画像を拡大する。したがって、システムの処理負荷を大幅に軽減させつつ、前記検討に必要な情報を効果的に医師に提供し、診療判断の精度の向上に寄与できる。
また、上記第1の態様において、例えば、
前記表示画面はスクロールバーを有し、
前記スクロールバーの移動を検知すると、前記第2表示領域に表示される類似医用画像をスクロールさせ、
前記類似医用画像がスクロールされるに応じて、前記拡大される類似医用画像を増加させるようにしてもよい。
前記表示画面はスクロールバーを有し、
前記スクロールバーの移動を検知すると、前記第2表示領域に表示される類似医用画像をスクロールさせ、
前記類似医用画像がスクロールされるに応じて、前記拡大される類似医用画像を増加させるようにしてもよい。
本態様によると、前記類似医用画像がスクロールされるに応じて、前記拡大される類似医用画像を増加させる。即ち、前記一つの拡大指示により画像を拡大する範囲について、当初範囲は少なく抑えつつ、前記範囲を事後的に可変させている。
これにより、一度拡大した画像については事後的に縮小する必要はなく、新たに前記第2表示領域に表示された例えば前記ND個の範囲を継続して、前記一の類似医用画像と一定の類似関係ある画像と近似しているものと擬制する。
そのため、前記類似医用画像がスクロールされた場合であっても、前記読影対象の医用画像に表れている病変の病名を検討する趣旨に沿った範囲で前記類似医用画像を継続して拡大する。したがって、システムの処理負荷を大幅に軽減させつつ、前記検討に必要な情報を継続して医師に提供し、診療判断の精度の向上に寄与できる。
また、上記第1の態様において、例えば、
前記受信したNC個の類似医用画像の総数NCを示す情報が前記表示画面に表示されるようにしてもよい。
前記受信したNC個の類似医用画像の総数NCを示す情報が前記表示画面に表示されるようにしてもよい。
また、本開示の第2の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第1指示ボタンを含み、前記所定倍は個々の類似医用画像毎に異なり、
前記第1指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第1指示ボタンを含み、前記所定倍は個々の類似医用画像毎に異なり、
前記第1指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるものである。
本態様では、前記M個の類似医用画像に共通の指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させる。これにより、前記表示されているM個の類似医用画像の各々について個々の指示が不要となる。したがって、操作効率を向上できる。また、前記M個の類似医用画像の表示サイズを変化させる際、前記M個の類似医用画像の各個別領域のサイズは同一サイズに維持される。そのため、前記M個の類似医用画像の表示サイズを変化させつつも、画像表示数に制約がある表示画面を有効活用して、前記M個の類似医用画像の各々の表示サイズを変化させることができる。
このように、前記M個の類似医用画像に共通の一つの指示によって、画像表示数に制約がある表示画面を有効活用しながら、医師が関心を持つ領域を中心に、前記M個の類似医用画像の各々の表示サイズを変化できる。その結果、例えば、前記医用画像データベースに膨大な数の医用画像が登録されている場合であっても、前記対象医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示する。したがって、診療判断の精度の向上に寄与できる。
また、前記M個の類似医用画像に共通の一つの指示によって、前記M個の類似医用画像の表示サイズを変化させることになる。そのため、医師が前記M個の類似医用画像の中で、表示サイズを変化させながらより詳細を確認するために指示ボタンに対する一つの操作を行うと、前記M個の類似医用画像の全てが拡大される。即ち、前記M個の類似医用画像の表示サイズを変化させるための個別の操作を医師に要求するものではなく、医師が表示サイズを変化させてより詳細を確認するために、指示ボタンに対する一つの操作を行うという自然な操作の流れに沿って、前記M個の類似医用画像の全ての表示サイズが変化する。その結果、前記M個の類似医用画像の表示サイズを効率的に変化させる。したがって、医師の操作負担を軽減して、その分、医師を専門的な判断に集中させて、診断精度の向上を図ることができる。
また、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第1指示ボタンを含み、
前記第1指示ボタンによる一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるようにしてもよい。
本態様によると、前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第1指示ボタンを含んでいる。
これにより、前記M個の類似医用画像を初期表示サイズにて表示させる場合と、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる場合との中間に相当する表示サイズに各対応関心領域の表示サイズを変化させる場合に、医師は一つの指示にて行うことができる。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個の類似医用画像の各々に含まれる前記対応関心領域の表示サイズを、前記M個の類似医用画像に共通する一定の割合で変化させた場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個の類似医用画像を拡大しても、拡大された前記対応関心領域の表示サイズは、ばらばらとなる。
本態様によると、例えば、前記所定倍は個々の類似医用画像毎に異なり、前記第1指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させる。
これによると、前記各対応関心領域の表示サイズを変化させる場合、前記変化した前記各対応関心領域の表示サイズのばらつきを、前記M個の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個の類似医用画像について、前記変化した表示サイズの前記各対象関心領域を医師はほぼ同様の大きさにて観察できる。その結果、一部の類似医用画像の前記対象関心領域の表示サイズが他の類似医用画像の前記対象関心領域の表示サイズより小さい状態に変化したために、見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第2の態様において、例えば、
前記NC個の類似医用画像の中のM個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させてもよい。
また、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第1指示ボタンを含み、
前記第1指示ボタンによる一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるようにしてもよい。
本態様によると、前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第1指示ボタンを含んでいる。
これにより、前記M個の類似医用画像を初期表示サイズにて表示させる場合と、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる場合との中間に相当する表示サイズに各対応関心領域の表示サイズを変化させる場合に、医師は一つの指示にて行うことができる。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個の類似医用画像の各々に含まれる前記対応関心領域の表示サイズを、前記M個の類似医用画像に共通する一定の割合で変化させた場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個の類似医用画像を拡大しても、拡大された前記対応関心領域の表示サイズは、ばらばらとなる。
本態様によると、例えば、前記所定倍は個々の類似医用画像毎に異なり、前記第1指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させる。
これによると、前記各対応関心領域の表示サイズを変化させる場合、前記変化した前記各対応関心領域の表示サイズのばらつきを、前記M個の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個の類似医用画像について、前記変化した表示サイズの前記各対象関心領域を医師はほぼ同様の大きさにて観察できる。その結果、一部の類似医用画像の前記対象関心領域の表示サイズが他の類似医用画像の前記対象関心領域の表示サイズより小さい状態に変化したために、見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第2の態様において、例えば、
前記NC個の類似医用画像の中のM個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させてもよい。
この場合、前記M個の類似医用画像に共通の一つの指示ボタンによる指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像の表示サイズを変化させる。即ち、前記医用画像データベースに登録されている膨大な医用画像の中から、前記対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記症例検索システムから受信する場合でも、前記受信するNC個の類似医用画像は、例えば、NCが200画像、300画像と画像数は多い。この際、一つの指示により類似医用画像の表示サイズを変化させるにしても、前記受信したNC個の類似医用画像の全ての表示サイズを変化させるのは非効率である。従って、前記受信したNC個の類似医用画像の中から一定範囲の画像に限定して、前記一つの指示により類似医用画像の表示サイズを変化させる方が望ましい。
ここで、前記読影対象の医用画像である対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記対象医用画像との類似度が高い順序で表示して、前記対象医用画像に表れている病変の病名を検討する趣旨からすると、前記一つの指示を検知した場合、前記対象医用画像と一定の類似関係にある画像に限定して表示サイズを変化させることが望ましい。一方で、前記対象医用画像が変わる毎に、また、前記類似医用画像が変わる毎に、前記対象医用画像と一定の類似関係にある画像を算出することは効率が悪い。
本態様では、前記対象医用画像との類似度が高い順序で前記類似医用画像を表示している。したがって、前記指示ボタンによる一つの指示を検知した場合、前記対象医用画像との関係で、前記一つの指示を検知した際に表示されている前記M個の類似医用画像については、前記対象医用画像と一定の類似関係ある画像と近似しているものと擬制できる。そこで、本態様では、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について表示サイズを変更させるようにした。即ち、本態様では、前記受信したNC個の類似医用画像の全てについて表示サイズを変更するのではなく、前記受信した類似医用画像の中から一定範囲の画像に限定して、即ち、前記読影対象の医用画像と一定の類似関係にあると擬制できる範囲の画像に限定して、表示サイズを変更する。
このように、本態様では、前記対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記対象医用画像との類似度が高い順序で表示し、前記表示されているM個の類似医用画像の中で医師が関心を示した画像の表示サイズを変更する際、前記一の類似医用画像と一定の類似関係にあると擬制できる画像に限定して表示サイズを変更する。そのため、膨大な数の類似医用画像を受信した場合でも、前記対象医用画像に表れている病変の病名を検討する趣旨に沿った範囲で前記類似医用画像の表示サイズを変更する。したがって、システムの処理負荷を大幅に軽減させつつ、前記検討に必要に情報を効果的に医師に提供し、診療判断の精度の向上に寄与できる。
また、上記第2態様において、例えば、
前記表示画面は、前記一以上の指示ボタンとして、少なくとも、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる第2指示ボタン、及び、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる第3指示ボタンを含み、
前記第2指示ボタン又は前記第3指示ボタンによるいずれか一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを一律に変化させるようにしてもよい。
前記表示画面は、前記一以上の指示ボタンとして、少なくとも、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる第2指示ボタン、及び、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる第3指示ボタンを含み、
前記第2指示ボタン又は前記第3指示ボタンによるいずれか一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを一律に変化させるようにしてもよい。
本態様によると、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる際には、医師は前記第2指示ボタンという一つの指示を選択すればよい。また、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる際には、医師は前記第3指示ボタンという一つの指示を選択すればよい。これにより、前記第2指示ボタン又は前記第3指示ボタンのいずれか一の指示によって、前記M個の類似医用画像を表示する各個別領域のサイズは同一サイズを維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズは一律に変化する。
そのため、前記M個の類似医用画像を初期表示サイズにて表示することも、また、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示することも、医師は一つの指示にてすることができるので、操作数を大幅に低減できる。
また、上記第1の態様又は上記第2の態様において、例えば、
前記第2指定情報が示す前記対応関心領域の大きさが第1サイズの場合、前記第2指定情報が示す前記対応関心領域の大きさが前記第1サイズより大きい第2サイズの場合に比べて、前記対応関心領域を大きく拡大させるようにしてもよい。
前記第2指定情報が示す前記対応関心領域の大きさが第1サイズの場合、前記第2指定情報が示す前記対応関心領域の大きさが前記第1サイズより大きい第2サイズの場合に比べて、前記対応関心領域を大きく拡大させるようにしてもよい。
本態様によると、前記類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさのばらつきを、前記類似医用画像間で、一定範囲に収束できる。具体的には、前記対応関心領域の大きさが第1サイズの場合、前記対応関心領域の大きさが前記第1サイズより大きい第2サイズの場合に比べて、前記対応関心領域を大きく拡大させる。これにより、前記対応関心領域の大きさに依存することなく、前記拡大された前記対応関心領域の大きさを、同様の大きさにすることができる。
そのため、医師は、前記類似医用画像について、前記拡大された対応関心領域をほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
本開示の第3の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
本開示の第4の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
本開示の第4の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記類似医用画像の各々に含まれる前記対応関心領域を一定の割合で拡大した場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記類似医用画像を拡大しても、拡大された前記対応関心領域の大きさは、ばらばらとなる。
本態様によると、例えば、前記各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させる。
これによると、前記類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさを、前記各個別領域のサイズとの関係でほぼ同様に揃えることかできる。
そのため、前記類似医用画像について、前記拡大された対応関心領域を医師はほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1の態様から上記第4の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
また、上記第1の態様から上記第4の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
また、上記第1の態様から上記第4の態様において、例えば、
前記対象医用画像は肺の医用画像であり、
前記類似医用画像は肺の医用画像であり、
前記第2表示領域は、
前記対応関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが、肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第2表示領域に表示させるとしてもよい。
前記対象医用画像は肺の医用画像であり、
前記類似医用画像は肺の医用画像であり、
前記第2表示領域は、
前記対応関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが、肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第2表示領域に表示させるとしてもよい。
本態様によると、前記第2表示領域に表示されたND個の類似医用画像を、さらに、前記対応関心領域の分布類型に基づいて仕分けできる。これにより、例えば、多数表示された類似医用画像の中から、前記対象医用画像に含まれる前記関心領域に症状が類似した類似医用画像を、効率的に選択できる。
また、上記第1の態様から上記第4の態様において、例えば、
前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、対応する個別領域に初期表示サイズにて表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させるとしてもよい。
前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、対応する個別領域に初期表示サイズにて表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させるとしてもよい。
本態様によると、前記対応関心領域の分布類型に基づいて類似医用画像を仕分けした際、単に仕分けするのみならず、前記分布類型に応じた表示をする。これにより、操作者は、前記対応関心領域の分布類型に基づいて類似医用画像を仕分けし、その後、前記分布類型に応じて類似医用画像を拡大し若しくは前記対応関心領域を中心にする処理などを別途行う必要がない。そのため、前記対応関心領域の分布類型に基づいて仕分けされたとは言え、その次に、前記仕分けされた多数の類似医用画像の一つ一つに対して同様の操作を繰り返し行う煩雑さを大幅に軽減できる。その結果、診療判断に向けられるべき医師の思考若しくは医師の集中力が操作の煩雑さにより中断されるのを大幅に軽減し、医師の思考若しくは医師の集中力を本来の診療判断に向けることができるので、診療判断の精度の向上を図ることができる。
また、上記第1の態様から上記第4の態様において、例えば、
前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報であるとしてもよい。
前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報であるとしてもよい。
本態様によると、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布の場合は類似医用画像が初期表示サイズで表示される。区域性又は気道性のカテゴリーに属する分布の場合は類似医用画像が拡大表示される。胸膜下のカテゴリーに属する分布の場合は胸膜を含んだ状態で類似医用画像が拡大表示される。
両側性、多発性、びまん性又は血行性のカテゴリーに属する分布の場合は、肺全体に病変部が広がっている可能性又は肺の広範囲に病変部が生じている可能性が高い。このため、類似医用画像を初期表示サイズ、即ち、拡大させることなく表示させたいという医学的見地に基づくニーズが存在する。
一方、区域性又は気道性のカテゴリーに属する分布の場合は、上述のような可能性が低い。そのため、区域性又は気道性のカテゴリーに属する分布を選択することにより類似医用を拡大表示させることで、拡大表示させるという1工程を省略させ、医師の集中力が中断されることを防止できる。また、胸膜下のカテゴリーに属する分布の場合は、胸膜と病変部との位置関係が診断においては重要な指標となるため、胸膜を含んだ状態で類似医用画像を拡大表示させたいという医学的見地に基づくニーズが存在する。
(実施の形態1)
以下本開示の一実施の形態について、図面を参照しながら説明する。なお、各図面において、同じ構成要素については同じ符号が用いられている。
以下本開示の一実施の形態について、図面を参照しながら説明する。なお、各図面において、同じ構成要素については同じ符号が用いられている。
図1は、本実施の形態における情報端末が適用された病院情報システムの全体構成図である。図1に示すように、病院情報システムは、情報端末100、医用情報管理システム200、及び症例検索システム300を備えている。
情報端末100、医用情報管理システム200、及び症例検索システム300はネットワーク400を介して相互に通信可能に接続されている。
なお、医用情報管理システム200及び症例検索システム300は必ずしも病院の中に配置される必要はなく、病院外のデータセンター、プライベートクラウドサーバ、パブリッククラウドサーバ等の上で動作するソフトウェアであってもよい。医用情報管理システム200及び症例検索システム300が病院内に設置されている場合、ネットワーク400としては、ローカルエリアネットワークが採用できる。ローカルネットワークとしては、IEEE802.3シリーズの有線LAN、IEEE802.11シリーズの無線LAN、或いは両者が混在するネットワークが採用できる。医用情報管理システム200及び症例検索システム300が病院外のサーバを用いて実現される場合、ネットワーク400としては、インターネットが採用できる。
情報端末100としては、パーソナルコンピュータやタブレット端末等の情報端末が採用される。医用情報管理システム200としては、PACS(Picture Archiving and Communication Systems)や電子カルテシステム等が採用される。
図2は、情報端末100、医用情報管理システム200、及び症例検索システム300の構成を示すブロック図である。図2に示すように、情報端末100は、ディスプレイ101、操作部102、入力制御部103、表示制御部104、ROI管理部105、表示ボックス管理部106、病名リスト管理部108、分布リスト管理部109、通信制御部110、ボックスレイアウト管理部111、及び拡大画像生成部112を備える。
ディスプレイ101は、例えば、液晶モニタにより構成され、診断対象となる医用画像及びカルテ画像を表示すると共に、診断結果を記入するためのレポート入力画像等を表示する。なお、ディスプレイ101は最低1台必要だが、通常、画像診断においては2〜3台のディスプレイ101が用いられる。本実施の形態では2台のディスプレイ101が用いられ、一方のディスプレイ101をディスプレイ101aとし、他方のディスプレイ101をディスプレイ101bとする(図3参照)。
図3は、2台のディスプレイ101a、101bの外観図である。図3では、ディスプレイ101aには、4つの医用画像ビューワが2行2列の配置で表示されており、ディスプレイ101bには症例検索システム300の画面が表示されている。なお、ディスプレイ101を1台とした場合、2つの表示画面が1台のディスプレイ101の表示画面上に領域を分けて表示される。
操作部102は、例えば、キーボード及びマウスを含み、情報端末100に対してユーザにより入力される種々の操作を受け付ける。例えば、操作部102は、ディスプレイ101に表示される医用画像及びカルテ画像に対するユーザからの操作、並びにレポート入力画面に対して診断結果を入力する操作等を受け付ける。
入力制御部103は、操作部102へのユーザの操作を検知すると、その操作の内容を解釈し、他の構成要素に操作内容を通知する。例えば、入力制御部103は、操作部102としてのマウスから出力される座標データからディスプレイ101上におけるマウスポインタの位置を検知し、ディスプレイ101上にマウスポインタを表示させる。そして、入力制御部103は、マウスがクリックされたことを検知したときにマウスポインタの表示位置に表示制御部104で生成されたGUI部品(例えば、GUIボタン)が表示されていれば、そのGUIをユーザが選択したと判定し、他の構成要素にそのGUI部品がユーザにより選択されたことを通知する。
表示制御部104は、情報端末100のGUI(Graphical User Interface)を生成し、ディスプレイ101に表示させる。
ROI管理部105は、類似症例検索を行う際に、後述する検索クエリ画像に対して設定される関心領域(Region Of Interest)を示す関心領域情報を生成してメモリに格納し、関心領域情報を管理する。
表示ボックス管理部106は、後述する表示ボックス管理情報4410(図36B)をメモリに格納し、表示ボックス管理情報4410を管理する。
病名リスト管理部108は、症例表示領域710(図6)に表示された類似症例の病名リスト(図39)を生成してメモリに格納し、病名リストを管理する。
分布リスト管理部109は、症例表示領域710に表示された類似症例の病変分布を示す分布リスト(図44A)を生成してメモリに格納し、分布リストを管理する。
通信制御部110は、例えば、情報端末100をネットワーク400に接続するための通信装置を含み、情報端末100及び医用情報管理システム200間の通信や、情報端末100及び症例検索システム300間の通信を制御する。また、通信制御部110は、他のブロックから種々のデータの送信依頼を受け付けて、医用情報管理システム200又は症例検索システム300に送信すると共に、医用情報管理システム200又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
ボックスレイアウト管理部111は、後述するレイアウト管理情報4200(図36E)を生成してメモリに格納し、レイアウト管理情報4200を管理する。
拡大画像生成部112は、類似症例のサムネイル画像の拡大画像を生成する。拡大画像生成部112は、操作部102に対するユーザの操作量を入力制御部103から取得する。拡大画像生成部112は、症例検索システム300から送信された、類似症例データ(類似度、関心領域情報を含む)を通信制御部110から受け取る。拡大画像生成部112は、類似症例検索により取得した類似症例の件数(例えばNC件)のうち、症例表示領域710に表示される件数分のみに対して、各サムネイル画像毎に別々の拡大率を算出し、表示される件数分の拡大画像を生成する。
図2に示すように、医用情報管理システム200は、患者情報蓄積部201、患者情報管理部202、医用画像データ蓄積部203、医用画像データ管理部204、診断レポート管理部205、及び通信制御部206を備える。
患者情報蓄積部201は、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録された患者情報1000(図26)を蓄積する。
患者情報管理部202は、患者情報蓄積部201に蓄積された患者情報1000(図26)に対して、ユーザから入力されたデータを登録して患者情報1000を更新する処理、及び患者情報1000を表示制御部104に出力する処理等を実行し、患者情報1000を管理する。医用画像データ蓄積部203は、患者の検査画像である医用画像データを蓄積する。
医用画像データ管理部204は、医用画像データを医用画像データ蓄積部203に蓄積し、医用画像データを管理する。
診断レポート管理部205は、患者に対して行われた各検査に対する医師による診断結果を示す診断レポート3000(図29)を管理する。
通信制御部206は、例えば、医用情報管理システム200をネットワーク400に接続するための通信装置を含み、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は症例検索システム300に送信すると共に、情報端末100又は症例検索システム300から送信されたデータを受信し、該当するブロックに渡す。
図2に示すように、症例検索システム300は、類似症例データ蓄積部301、画像特徴抽出部302、及び類似症例検索部303を備える。
類似症例データ蓄積部301は、予め、医用情報管理システム200に管理されている類似症例のうち、類似症例検索の対象データとして選定された多数の類似症例から抽出された画像特徴や、生成されたサムネイル画像等が登録された類似症例データ4000(図30)を蓄積する。
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報の画像特徴を抽出する。
画像特徴抽出部302は、情報端末100の通信制御部110から送信された検索クエリ画像の関心領域情報の画像特徴を抽出する。なお、関心領域情報は、関心領域を示す第1指定情報の一例である。
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された1以上の類似症例の画像特徴とをそれぞれ比較することで類似症例検索結果を生成する。
通信制御部304は、例えば、症例検索システム300をネットワーク400に接続させる通信装置で構成され、他のブロックから種々のデータの送信依頼を受け付けて、情報端末100又は医用情報管理システム200に送信すると共に、情報端末100又は医用情報管理システム200から送信されたデータを受信し、該当するブロックに渡す。
図4は、情報端末100の実装形態の構成例を示す図である。図4に示すように、情報端末100は、アプリケーション501、OS(Operating System)502、メモリ503、及び図示しないその他のハードウェアを備えている。
アプリケーション501は、パーソナルコンピュータやタブレット端末を情報端末100として機能させるためのアプリケーションソフトウェアであり、情報端末100のプロセッサにより実行される。情報端末100は、コンピュータ読み取り可能な記録媒体からアプリケーション501を読み出してアプリケーション501を実装してもよいし、ネットワークからダウンロードすることでアプリケーション501を実装してもよい。
ここで、アプリケーション501は、医用情報管理アプリケーション及び類似症例検索アプリケーションを含む。医用情報管理アプリケーションは、情報端末100を医用情報管理システム200と連携させるためのアプリケーションであり、類似症例検索アプリケーションは、情報端末100を症例検索システム300と連携させるためのアプリケーションである。そして、両アプリケーションは、相互にデータを送受し、情報端末100において、医用情報管理システム200及び症例検索システム300が提供するサービスを統合させる。
OS502は、情報端末100の基本ソフトウェアであり、情報端末100のプロセッサにより実行される。メモリ503は、情報端末100が備えるRAM、ROM等の記憶装置により構成され、アプリケーション501に含まれるデータ群を記憶する。
情報端末100のプロセッサがアプリケーション501を実行することで、図2に示す入力制御部103、表示制御部104、ROI管理部105、表示ボックス管理部106、病名リスト管理部108、分布リスト管理部109、通信制御部110、ボックスレイアウト管理部111、及び拡大画像生成部112の機能が実現される。
但し、本実施の形態では、情報端末100は、アプリケーション501のみ単独で実装されてもよいし、アプリケーション501及びOS502で実装されてもよいし、アプリケーション501、OS502、及びメモリ503で実装されてもよいし、アプリケーション501、OS502、メモリ503、及びその他の図示しないハードウェアで実装されてもよい。いずれの実装形態においても本実施の形態の情報端末100を実現することは可能である。
図5は、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101aに表示される基本画面K1の一例を示す図である。図5に示す基本画面K1は、4つの医用画像ビューワ610〜640で構成されている。医用画像は、通常、DICOM(Digital Imaging and Communication in Medicine)フォーマットで記録されており、医用画像ビューワ610〜640はDICOMを扱えるビューワである。本実施の形態で扱う医用画像は、DICOMフォーマットの多数の断層画像(以下、スライス画像と呼ぶ。)で構成される胸部CT画像とする。但し、これは一例に過ぎず、他の部位(例えば、頭部、腹部、脚、或いは腕)のCT画像が採用されてもよい。
医用画像ビューワ610〜640に表示された胸部CT画像は、マウスやキーボードの操作により、スライス画像が切り替えられる。ここで、胸部CT画像を構成するスライス画像は、例えば、首側から腹側に向かう順番に配置されている。
例えば、医用画像ビューワ610上にマウスポインタが位置決めされ、マウスホイールの回転が入力制御部103で検知されると、表示制御部104は、検知された回転量に応じて医用画像ビューワ610に表示されているスライス画像を切り替える。ここで、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの後方側に1クリック分回転されると、表示中のスライス画像を次のスライス位置のスライス画像に切り替える。一方、表示制御部104は、例えば、医用画像ビューワ610において、マウスホイールがマウスの前方側に1クリック分回転されると、表示中のスライス画像をスライス位置が1つ前のスライス画像に切り替える。よって、医師等のユーザはマウスホイールを前方側又は後方側に回転させながら、医用画像ビューワ610に表示されるスライス画像を適宜切り替え、所望のスライス画像を探索する。
なお、医用画像としては、胸部CT画像に代えて、MRI(Magnetic Resonance Imaging)画像や単純X線画像が採用されてもよい。また、図5の例では、医用画像ビューワの個数は4個とされているが、これは一例にすぎず、6個や8個等別の個数が採用されてもよい。医用画像ビューワの個数が多くなると同時に比較できる画像が増えるが、1画像当たりの表示面積が狭くなる。そのため、この個数はディスプレイ101aの表示サイズに応じて適宜変更可能な構成を採用すればよい。ここでは、医用画像ビューワの個数は、ユーザ又は管理者が自由に変更できるものとする。
類似症例検索アプリケーションが起動される前には、ディスプレイ101aの全域には、ある患者の胸部CT画像のスライス画像が表示されている。そして、この状態で、読影者等のユーザにより類似症例検索アプリケーションが起動されると医用画像ビューワ610には、ディスプレイ101aの全域に表示されていたスライス画像が表示される。
つまり、医用画像ビューワ610には、ユーザが類似症例検索アプリケーションを起動させたときに、ディスプレイ101aの全域に表示されていた検索クエリ画像が初期表示される。なお、表示制御部104は、検索クエリ画像上に類似症例検索を行う対象の関心領域(ROI:Region Of Interest)を重畳表示してもよい。検索クエリ画像は読影対象の医用画像である対象医用画像の一例である。
図5では、他の医用画像ビューワ620〜640には何の画像も表示されていないが、診断対象となる患者の検査画像が複数あり、類似症例検索アプリケーションが起動される前に、ディスプレイ101aに複数の検査画像が表示されていた場合、表示制御部104は、医用画像ビューワ620〜640にこれら複数の検査画像をそのまま表示すればよい。
図6は、情報端末100にて類似症例検索アプリケーションを起動した直後にディスプレイ101bに表示される基本画面K2の一例を示す図である。図6に示す基本画面K2は、症例表示領域710、レイアウト領域720、病名リスト表示領域730、及び分布リスト表示領域750を備える。なお、レイアウト領域720は第1表示領域の一例であり、症例表示領域710は第2表示領域の一例である。
症例表示領域710は、検索クエリ画像に類似した類似症例のサムネイル画像を類似度順に表示する領域である。ここで、類似症例のサムネイル画像は、類似医用画像の一例である。
症例表示領域710には多数の類似症例が表示されるため、解像度や画素値の変換をその場で行うと処理に時間がかかってしまう。よって、サムネイル画像は、オリジナルのスライス画像から予め作成され、症例検索システム300に保存されている。
以下、解像度や画素値の変換について少し補足する。オリジナルのスライス画像の解像度は512×512画素であるが、サムネイル画像はより低解像であるため、解像度変換を行う必要がある。そこで、サムネイル画像は、元となるスライス画像に対して低解像度処理及び階調変換処理が行われて生成される。
階調変換処理は例えば、下記のように行われる。CTで取得したスライス画像は各画素値(CT値)が−1000〜+1000(単位HU:Hounsfield Unit)の2000階調の値をとり、そのままでは通常の8ビット階調のディスプレイに表示できない。また、表示できたとしても、2000階調の中で、肺気腫領域(CT値:−1000HU)、肺野の正常組織(CT値:約−900HU)、すりガラス領域(CT値:−800HU)、軟部組織(CT値:−100〜−50HU)、水(CT値:0HU)、及び骨(CT値:1000HU)を人間が肉眼で区別することは難しい。
よって、通常、スライス画像は、各画素値に対してウィンドウレベル及びウィンドウ幅が設定され、8ビットの画素値に再構成されて、ディスプレイに表示される。ここで、ウインドウレベルは、ウインドウの中心となるCT値を示し、ウインドウ幅は、ウインドウ中心の上下の幅を示す。
例えば、肺野条件でDICOM画像が再構成される場合、ウインドウレベルが−550〜−800に設定され、ウインドウ幅が1000〜1600に設定される。したがって、サムネイル画像も、元となるスライス画像から上記の処理によって画素値が8ビットに落とされることで生成される。
なお、症例表示領域710に表示されるサムネイル画像は、診断対象症例の特徴ベクトルに対する距離が所定の閾値以下の類似症例を示すサムネイル画像である。ここでは距離としては、例えば、ユークリッド距離が用いられる。なお、距離としては、市街地距離等の別の距離尺度が採用されてもよい。比較対象となる2つの画像は、距離が近いほど類似している。また、特徴ベクトルは、サムネイル画像から得られたものではなく、元画像であるDICOM画像から得られたものが採用される。
図7は、症例表示領域710に表示されるある1つの類似症例の表示領域701(個別領域の一例)を取り出して示した図である。類似症例の表示領域701には、サムネイル画像が表示されており、このサムネイル画像の下部には、確定診断病名表示領域711及び距離表示領域712が配置されている。確定診断病名表示領域711には、対象となる類似症例の確定診断病名が表示される。確定診断病名とは、対象となる類似症例に対して診断が確定された病名を指す。距離表示領域712には、対象となる類似症例のスライス画像の特徴ベクトルと、検索クエリ画像の特徴ベクトルとの距離が表示される。図7の例では、確定診断病名表示領域711には、「非結核性抗酸菌症」と表示されているため、このサムネイル画像は「非結核性抗酸菌症」と確定診断がされた類似症例のサムネイル画像を示す。また、距離表示領域712には、「0.05」と表示されているため、この類似症例のスライス画像と探索クエリ画像との距離が「0.05」であることが示されている。
図7に示されるように、類似症例の表示領域701に示されるサムネイル画像は、対応関心領域CROIを含む。対応関心領域CROIは、検索クエリ画像(読影対象の医用画像)に設定された関心領域に対応する領域(つまり関心領域に類似する領域)である。なお、以下では、対応関心領域は、単に「関心領域」とも称される。
図6に戻り、基本画面K2の例えば左上には、検索結果件数表示領域713が配置されている。検索結果件数表示領域713には、検索処理の結果、症例検索システム300から取得された、診断対象症例に類似する類似症例の数が表示される。
なお、類似症例の数が膨大である場合、症例表示領域710は全ての類似症例を一度に表示することができない。そこで、症例表示領域710の例えば右側には、上下方向に長尺のスクロールバー715が設けられている。表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を上下方向にスクロール表示させる。これにより、ユーザは、非表示状態にあった類似症例を症例表示領域710に表示させ、その類似症例を観察できる。
なお、スクロールバー715は左右方向に長尺であってもよい。この場合、表示制御部104は、スクロールバー715の移動量に応じて、症例表示領域710内に表示されているサムネイル画像を左右方向にスクロール表示させればよい。
なお、情報端末100は、探索クエリ画像との距離が所定の閾値以下のサムネイル画像を症例検索システム300から取得するとしたが、これは一例に過ぎない。例えば、情報端末100は、類似度が高い順に、常に一定数のサムネイル画像を症例検索システム300から取得してもよい。或いは、情報端末100は、常にある確定診断病名のサムネイル画像が一定数含まれるようにサムネイル画像を症例検索システム300から取得してもよい。
なお、症例表示領域710におけるサムネイル画像の表示手法としては、例えば、最上段の行の左端に検索クエリ画像との距離が最短のサムネイル画像を表示し、右側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一行の右端に達すると上から2行目の左端に次に距離が大きいサムネイル画像を表示するという表示手法が採用できる。つまり、症例表示領域710において、左上から右下に向けて蛇行するように距離が小さい順にサムネイル画像を表示するという表示手法が採用できる。
もちろん、本実施の形態は別の表示手法が採用されてもよい。例えば、左から1列目の上端に距離が最短のサムネイル画像を表示し、下側に向かうにつれて距離が順次に大きくなるようにサムネイル画像を表示し、同一列の下端に達すると、左から2列目の上端に次に距離が大きいサムネイル画像を表示するという表示手法が採用されてもよい。また、これら複数の表示手法をユーザが切り替え可能な構成が採用されてもよい。
また、上記の例では、類似度として距離が採用されたが、コサイン類似度のような画像同士の類似性を示す指標であればどのような指標が採用されてもよい。コサイン類似度が採用された場合、値が1に近づくにつれて比較対象となる2つの画像の類似性が高くなる。
なお、詳細は後述するが、症例表示領域710に表示する類似症例は、病名リスト表示領域730に表示された病名や、分布リスト表示領域750に表示された病変分布で絞り込むことができる。現在設定されている類似症例の絞込条件は、表示条件表示領域714に表示される。図6の例では、類似症例検索直後の状態であり、何も絞り込みがなされていないため、表示条件表示領域714には「全疾患」と表示されている。
症例表示領域710に表示されている類似症例のサムネイル画像は、ユーザの操作により拡大することが可能に構成されている。以下、類似症例のサムネイル画像の拡大表示が説明される。
図8は、症例表示領域710に表示されたサムネイル画像のうち1のサムネイル画像が選択されたときの基本画面K2を示す図である。図8に示されるように、類似症例検索直後の基本画面K2が表示された状態では、各表示領域には、サムネイル画像の画像全体が表示されている。症例表示領域710は、サムネイル画像をそれぞれ表示する所定数ND(この実施の形態ではND=20)の表示領域を含む。
情報端末100の入力制御部103は、マウス等の操作部102を通しての入力を常時モニタリングしている。そして、入力制御部103は、マウスをクリックする操作がユーザにより入力され、その操作により、症例表示領域710に表示された類似症例のサムネイル画像の1つが選択されたことを検知する。すると、表示制御部104は、選択されたサムネイル画像の背景の色を変更する。
図8の例では、症例表示領域710において、2行4列目の表示領域801に表示された類似症例のサムネイル画像が選択されている。そのため、表示領域801内のサムネイル画像の背景の色が変更されている。具体的には選択されたサムネイル画像の外周を取り囲む枠状の領域の色が変更されている。これにより、ユーザに対して当該サムネイル画像が選択状態になったことを知らせることができる。
ここで、背景の色としては、例えば、症例表示領域710の背景の色との差が明確に現れる色が採用される。図8の例では例えば黄色が採用されている。なお、図8の例ではサムネイル画像の枠状の領域の色を変更する態様を示したが、枠状の領域を点滅させる態様や枠状の領域の輝度を明るくする態様が採用されてもよい。
図8に示すようにサムネイル画像の1つが選択された状態で、ユーザが、例えばマウスのホイールを回転させることにより拡大操作を行うと、入力制御部103は、マウスのホイールの回転量を検知し、検知した回転量を拡大画像生成部112に通知する。すると、拡大画像生成部112は、例えば検知された回転量を用いて拡大率を決定し、決定した拡大率でサムネイル画像を拡大する。表示制御部104は、拡大画像生成部112によって拡大されたサムネイル画像を症例表示領域710に表示する。
図9は、症例表示領域710に表示されているサムネイル画像の一部が拡大されたときの基本画面K2を示す図である。具体的には、図9では、選択されたサムネイル画像だけではなく、選択されたサムネイル画像の上に隣接するサムネイル画像(1行4列目)から、選択されたサムネイル画像の下に隣接するサムネイル画像(3行4列目)まで、横並びの順に、合計11個のサムネイル画像が拡大されている。これにより、症例検索システム300から受信した類似症例データ62件の全てのサムネイル画像を拡大する場合と比較して、情報端末100における処理負担を大きく軽減することができる。
なお、表示されているサムネイル画像を拡大する際には、拡大画像生成部112は、図9に示すように、対応関心領域CROIの中心位置が表示領域801の中心位置になるように、拡大画像を生成する。また、表示制御部104は、サムネイル画像を拡大する際に、図9に示すように、表示領域801のサイズを拡大せず、同じサイズに維持する。
また、拡大画像生成部112は、拡大率をサムネイル画像毎に異なる値に設定してもよい。これによって、図9に示されるように、拡大後の各サムネイル画像が同じ大きさになるように拡大することができる。
図9では、最大表示件数ND(この実施の形態ではND=20)の症例表示領域710に、M個(図9ではM=20)の類似症例のサムネイル画像が表示されており、M個以下(図9では11個)のサムネイル画像が拡大されている。
図10は、症例表示領域710に表示されているサムネイル画像の一部が拡大されたときの図9と異なる基本画面K2を示す図である。図10では、拡大画像生成部112は、選択されたサムネイル画像の上に隣接するサムネイル画像(1行4列目)から、選択されたサムネイル画像の下に隣接するサムネイル画像(3行4列目)まで、横並びの順に、合計11個のサムネイル画像を拡大している。また、拡大画像生成部112は、対応関心領域CROIのサイズが表示領域801のサイズと同じサイズになるように、11個のサムネイル画像を拡大している。
図11は、症例表示領域710に表示されているサムネイル画像の一部が拡大されたときの図9、図10と異なる基本画面K2を示す図である。図11では、ユーザは、図9と異なるサムネイル画像を選択している。これによって、拡大されるサムネイル画像が変更されている。すなわち、図11では、3行3列目の表示領域1101に表示された類似症例のサムネイル画像が選択されている。その結果、拡大画像生成部112は、選択されたサムネイル画像の上に隣接するサムネイル画像(2行3列目)から、選択されたサムネイル画像の下に隣接するサムネイル画像(4行3列目)まで、横並びの順に、合計11個のサムネイル画像を拡大している。
図12は、図9と同じサムネイル画像(2行4列目)が拡大されたときの異なる表示態様を示す図である。図12に示すように、表示制御部104は、拡大されるサムネイル画像を強調表示している。図12の例では、選択されたサムネイル画像と同様に、拡大されたサムネイル画像の外周を取り囲む枠状の領域の色が変更されている。これによって、ユーザに対して拡大されたサムネイル画像を強調することができる。その結果、図12に示されるように、症例表示領域710において拡大されたサムネイル画像と拡大されないサムネイル画像とが混在する場合でも、ユーザは、両者を容易に区別することができる。
このように、画像診断を行う医師が注目した類似症例のサムネイル画像の一つを拡大操作するだけで、注目した類似症例と類似した類似症例も連動して拡大表示される。このため、医師は一つの指示にて複数の類似症例を詳細に比較することができる。したがって、操作数を大幅に低減できる。
なお、症例表示領域710の一部のサムネイル画像が拡大される場合について説明したが、本開示は、これに限定されない。例えば、ユーザにより任意の一つのサムネイル画像が選択された場合に、症例表示領域710に表示されている20個のサムネイル画像全てを拡大してもよい。
図13は、症例表示領域710に表示されたサムネイル画像のうち図8と異なるサムネイル画像が選択されたときの基本画面K2を示す図である。図13では、1行4列目の表示領域1301に表示されたサムネイル画像がユーザによって選択されている。
図13に示されるように、1行4列目のサムネイル画像が選択された状態で、ユーザが、例えばマウスのホイールを回転させることにより拡大操作を行うと、入力制御部103は、マウスのホイールの回転量を検知し、検知した回転量を拡大画像生成部112に通知する。すると、拡大画像生成部112は、例えば通知された回転量を用いて各サムネイル画像の拡大率をそれぞれ決定し、決定した拡大率で全てのサムネイル画像を拡大する。表示制御部104は、例えば図14または図15に示されるように、拡大画像生成部112によって拡大されたサムネイル画像を症例表示領域710に表示する。
図14は、症例表示領域710に表示されている全てのサムネイル画像が拡大されたときの基本画面K2を示す図である。なお、図14でも、図9と同様に、拡大画像生成部112は、対応関心領域CROIの中心位置が表示領域の中心位置になるように、拡大されたサムネイル画像をそれぞれ生成している。
図15は、症例表示領域710に表示されている全てのサムネイル画像が拡大されたときの図14と異なる基本画面K2を示す図である。図15では、図10と同様に、拡大画像生成部112は、対応関心領域CROIのサイズが表示領域のサイズと同じサイズになるように、拡大されたサムネイル画像をそれぞれ生成している。
図14または図15の場合によれば、症例表示領域710において、拡大されているサムネイル画像と拡大されていないサムネイル画像とが混在しない。このため、見易い利点がある。
なお、上記では、ユーザによる拡大操作は、マウスのホイールの回転としているが、本開示は、これに限られない。例えば、症例表示領域710に表示されている一つのサムネイル画像上にマウスのポインタを配置して、マウスのボタンを押した状態で、キーボードの例えば上方向キーまたは下方向キーを押すことにより、拡大操作を行うようにしてもよい。この場合には、入力制御部103は、上方向キーまたは下方向キーが押されている時間をカウントしてもよい。拡大画像生成部112は、例えば上方向キーまたは下方向キーが押されている時間を用いて拡大率を決定してもよい。
なお、サムネイル画像の具体的な拡大処理手順の詳細は後述する。
図6に戻り、レイアウト領域720は、例えば、図6に示す基本画面の左下に配置されている。そして、レイアウト領域720は、症例表示領域710に表示された類似症例サムネイル画像のうちユーザが詳細に観察したい画像を、ディスプレイ101aの医用画像ビューワに表示させるために用いられる。図5に示す通り、ディスプレイ101aには4つの医用画像ビューワ610〜640が2行2列で表示されている。また、レイアウト領域720には、2行2列で4つの表示ボックス721〜724が存在する。このように、ディスプレイ101aに表示される医用画像ビューワ610〜640の数及び配置と、レイアウト領域720における表示ボックス721〜724の数及び配置とは揃えられている。図5の通り、医用画像ビューワ610に、検索クエリ画像が表示されているのに合わせ、表示ボックス721には、検索クエリ画像のサムネイル画像が初期表示される。
他の表示ボックス722〜724には、医用画像ビューワ620〜640と連動させて類似症例のサムネイル画像が表示される。つまり、入力制御部103が表示ボックス722〜724のいずれか1の表示ボックスに症例表示領域710に表示された1のサムネイル画像のドラッグアンドドロップを検知すると、表示制御部104はその表示ボックスに1のサムネイル画像を表示させると共に、その表示ボックスに対応する医用画像ビューワにそのサムネイル画像に対応するスライス画像を表示する。このように、医用画像ビューワ610〜640は、表示ボックス721〜724と1対1で対応付けられている。
図6の例では、表示ボックス722〜724は空白であるため、図5に示す医用画像ビューワ620〜640も空白になっている。
ユーザは、マウスをドラッグアンドドロップすることで、詳細に観察したいサムネイル画像を、症例表示領域710からレイアウト領域720に移動させる。例えば、ユーザが表示ボックス722にサムネイル画像を移動させたとすると、表示ボックス722に対応する医用画像ビューワ620には、このサムネイル画像に対応するスライス画像が表示される。同様に、ユーザが表示ボックス723にサムネイル画像を移動させたとすると、表示ボックス723に対応する医用画像ビューワ630には、このサムネイル画像に対応するスライス画像が表示される。すなわち、表示ボックス721〜724のうち任意の表示ボックスにサムネイル画像を移動させると、検索クエリ画像のサムネイル画像に隣接して類似症例のサムネイル画像が表示される。そのため、ユーザはサムネイル画像のレベルで診断対象症例と類似症例との対比ができ、両症例の類似性を速やかに判断できる。つまり、サムネイル画像は、スライス画像に比べて情報量が少ないため、ユーザは、レイアウト領域720において隣接配置された診断対象症例と類似症例とがどの程度類しているかのおよその検討をつけることができる。そのため、ユーザは、症例表示領域710に表示された多数の類似症例の中から、対象診断症例との比較をスライス画像のレベルで詳細に行う必要がある類似症例の最終候補の絞り込みを効率良く行うことができる。
同様に、ディスプレイ101aにも、レイアウト領域720と同じ配置関係で検索クエリ画像及び類似症例のスライス画像が表示される。そのため、レイアウト領域720において最終候補となる類似症例を絞り込む作業が終了すると、何らの操作を入力しなくても、ディスプレイ101aには、診断対象症例と最終候補として絞り込んだ類似症例とがスライス画像のレベルで表示されている。そのため、ユーザは対象診断と最終候補の類似症例とを詳細に読影するという次の作業ステップに円滑に移行できる。
図6に示す基本画面の左側の上段には、「病名リスト」との見出しが付けられた病名リスト表示領域730が配置されている。病名リスト表示領域730には、類似症例の検索結果として取得された全ての類似症例の確定診断病名が表示される。診断対象症例は、診断が終了して確定診断病名が付与された後、類似症例として、症例検索システム300に蓄積される。したがって、各類似症例には、それぞれ、診断によって付与された確定診断病名が予め付与されている。
図16は、病名リスト表示領域730の拡大図である。図16では、確定診断病名は、大分類の病名(731、734、737、741、744)と詳細分類の病名(732、733、735、736、738、739、740、742、743、745)とに分けて表示されている。図16の例では、大分類の病名として、真菌症731(mycosis)、腫瘍性734(neoplastic)、非腫瘍性737(nonneoplastic)、ミコバクテリア症741(mycobacteriosis)、及びその他744が表示されている。
また、図16の例では、真菌症731の詳細分類の病名として、アスペルギルス症732(aspergillosis)、クリプトコッカス症733(cryptococcosis)が表示されている。また、腫瘍性734の詳細分類の病名として、原発性肺癌735(lung cancer)、転移性肺癌736(metastatic lung cancer)が表示されている。また、非腫瘍性737の詳細分類の病名として、肺膿瘍738(lung abscess)、サルコイドーシス739(sarcoidosis)、敗血性塞栓740(septic emboli)が表示されている。また、ミコバクテリア症741の詳細分類の病名として、非結核性抗酸菌症742(NTM:nontuberculous mycobacteria)、肺結核743(tuberculosis)が表示されている。また、その他744の詳細分類の病名として気管支拡張症745(bronchiectasis)が表示されている。
また、大分類の病名及び詳細分類の病名の横には、その病名の症例数が表示されている。ユーザは、この病名リスト表示領域730における大分類の病名または詳細分類の病名の任意の行を選択することで、症例表示領域710に表示される類似症例を絞り込むことができる。図6に示すように類似症例の検索直後の状態では、多様な疾患を含む62個の類似症例が表示対象になっているが、図16の真菌症731の行がマウスでクリックされた場合、表示制御部104は、図17に示すように真菌症の類似症例のみを症例表示領域710に表示する。また、図16の転移性肺癌736の行がマウスでクリックされた場合は、表示制御部104は、図18に示すように、転移性肺癌の類似症例のみを症例表示領域710に表示する。
この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例がどのような絞り込み条件であるが分かるように、表示条件表示領域714に、絞り込んだ病名を表示する。図17は、「真菌症」で類似症例が絞り込まれたときの基本画面K2を示す図である。図18は、「転移性肺癌」で類似症例が絞り込まれたときの基本画面K2を示す図である。
図17の例では、「真菌症」で絞り込みがかけられたため、表示条件表示領域714には「真菌症」と表示され、図18の例では「転移性肺癌」で絞り込みがかけられたため、表示条件表示領域714には「転移性肺癌」と表示されている。
また、この時、表示制御部104は、現在、症例表示領域710に表示されている類似症例の件数が分かるように、検索結果件数表示領域713にその件数を表示する。図17の例では、「真菌症」に該当する類似症例は14件であったため、検索結果件数表示領域713には14件と表示され、図18の例では、「転移性肺癌」に該当する類似症例は3件であったため、検索結果件数表示領域713には3件と表示されている。
この機能により、画像診断の対象として医師が想定する病名のみの類似症例が症例表示領域710に表示され、医師は、診断対象症例が想定した病名と矛盾しないかどうかを容易に確認できる。
図17では、最大表示件数ND(この実施の形態ではND=20)の症例表示領域710に、M個(図17ではM=14)の類似症例のサムネイル画像が表示されている。
図6に示す基本画面K2の左側の中段には、「病変分布」との見出しが付けられた分布リスト表示領域750が配置されている。分布リスト表示領域750には、類似症例を検索した結果、症例検索システム300から取得された全ての類似症例の病変分布の種類が表示される。
図19は分布リスト表示領域750の拡大図である。図19の例では、7つの病変分布の名称が表示されており、各病変分布の名称の左側にはチェックボックスが配置されている。図19の例では病変分布として、びまん性751(diffuse)、区域性752(segmental)、気道性753(bronchial)、両側性754(bilateral)、多発性755(multiple)、胸膜下756(subpleural)、及び血行性757(hematogenous)が表示されている。
これらの病変分布は予め定義されており、各類似症例には、予め、びまん性751〜血行性757のいずれに該当するか否かを示す分布フラグ値(該当:1、非該当:0)が付与されている。類似症例によっては、全ての分布フラグ値が非該当(:0)に設定されている場合もあれば、複数の分布フラグ値が該当(:1)に設定されている場合もある。
本実施の形態の症例検索システム300は、ユーザが診断対象症例のスライス画像に設定した関心領域に対し、類似する関心領域を持つ類似症例を検索する。ユーザが関心領域を設定したスライス画像以外にも、病変は存在することもある。そして、ユーザは関心領域を設定したスライス画像で類似症例を検索した後、そのスライス画像以外のスライス画像と、検索された類似症例とを比較したい場合もある。この場合、ユーザは、医用画像ビューワ610において、スライス送りの操作を入力して他のスライス画像を表示させ、検索された類似症例と比較する作業を行う。この場合、検索された全ての類似症例のうち注目する病変に関連する類似症例のみが症例表示領域710に表示されていれば、関心領域が設定されたスライス画像以外のスライス画像の中から所望の病変を持つスライス画像を抽出する作業をスムーズに行うことができる。そこで、本実施の形態では、この作業をよりスムーズに行うために、検索された類似症例を所望の病変分布で絞りこむ機能が設けられている。
本実施の形態では、肺野領域内での病変分布として、図19のびまん性751〜血行性757で示す病変分布が採用されている。また、図19のように、チェックボックス及び病名分布の名称について、表示制御部104は、絞り込みが可能な病変分布をアクティブ状態で表示し、絞り不可能な病変分布を非アクティブ状態で表示する。ここでは、アクティブ状態としては、輝度が非アクティブ状態に比べて高い状態が採用され、非アクティブ状態としては、輝度がアクティブ状態に比べて低い状態が採用されている。
図19の例では、びまん性751、気道性753〜血行性757がアクティブ状態で表示され、区域性752は、非アクティブ状態で表示されている。これは、現在、類似症例の検索によって取得された全ての類似症例のうち、少なくともいずれか1つの類似症例において、びまん性751、気道性753〜血行性757の分布フラグ値が1(該当)に設定され、取得された全ての類似症例のうち、いずれの類似症例においても、区域性752の分布フラグ値が0(非該当)に設定されていたからである。
アクティブ状態のチェックボックスのうち、1以上のチェックボックスにチェックマークが入力されたことを入力制御部103が検知すると、表示制御部104は、チェックマークが入力された病変条件に該当する類似症例のみを症例表示領域710に表示させる。
なお、区域性752については、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)に設定されている。そのため、区域性752にチェックマークが入力可能な構成を採用すると、これらの病変分布にチェックマークを入力した場合、症例表示領域710には類似症例が何も表示されず、チェックマークを入力する意味が無くなってしまう。そこで、本実施の形態では、このような事態を避けるために、検索結果として取得された類似症例のいずれにおいても分布フラグ値が0(非該当)である病変分布は非アクティブ状態で表示する。
図20は、両側性754のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。図21は、両側性754の病変分布で絞り込みがかけられた基本画面K2を示した図である。図20に示すように、両側性754のチェックボックスにチェックマークが入力された場合、表示制御部104は、図21に示すように、症例表示領域710に、両側性の病変分布を持つ類似症例のみを表示する。この例では、両側性の病変分布を持つ類似症例は10件であった。そのため、表示制御部104は、検索結果件数表示領域713に「10件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「両側性」とを表示する。図21の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
図20に示すように、両側性754のチェックボックスにチェックマークが入力された場合、図21に示すように、表示制御部104は、症例表示領域710において、選択された病変分布に対応する拡大率に拡大画像生成部112によって拡大されたサムネイル画像を表示する。病変分布名「両側性」が選択された場合には、肺の両側が観測できるようにする必要がある。そこで、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
同様に、多発性755のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、多発性の病変分布を持つ類似症例のみを表示する。病変分布名「多発性」が選択された場合には、多発している病変の分布を確認できるようにする必要がある。そこで、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
同様に、びまん性751のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、びまん性の病変分布を持つ類似症例のみを表示する。病変分布名「びまん性」が選択された場合には、広範囲に広がるびまん性病変の分布を確認できるようにする必要がある。そこで、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
同様に、血行性757のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、血行性の病変分布を持つ類似症例のみを表示する。血行性の場合は注目病変以外への病変の転移の可能性がある。したがって、画像全体を確認する必要がある。このため、拡大画像生成部112は、拡大率を1.0倍に設定する。表示制御部104は、拡大率が1.0倍のサムネイル画像を表示する。
図22は、気道性753のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。図23は、気道性753の病変分布で絞り込みがかけられた基本画面K2を示した図である。図22に示すように、両側性754のチェックボックスにチェックマークが入力された場合、表示制御部104は、図23に示すように、症例表示領域710に、気道性の病変分布を持つ類似症例のみを表示する。この例では、気道性の病変分布を持つ類似症例は12件であった。そのため、表示制御部104は、検索結果件数表示領域713に「12件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「気道性」とを表示する。図23の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
図22に示すように、気道性753のチェックボックスにチェックマークが入力された場合、図23に示すように、表示制御部104は、症例表示領域710において、選択された病変分布に対応する拡大率に拡大画像生成部112によって拡大されたサムネイル画像を表示する。病変分布名「気道性」が選択された場合には、気道性か否かを判定できるようにする必要がある。そこで、拡大画像生成部112は、関心領域の面積が表示領域の2分の1程度になるような拡大率に決定する。表示制御部104は、拡大画像生成部112によって拡大された各サムネイル画像を表示する。
同様に、区域性752のチェックボックスにチェックマークが入力された場合、表示制御部104は、症例表示領域710に、区域性の病変分布を持つ類似症例のみを表示する。病変分布名「区域性」が選択された場合には、区域性病変の詳細を確認できるようにする必要がある。そこで、拡大画像生成部112は、関心領域の面積が表示領域の2分の1程度になるような拡大率に決定する。表示制御部104は、拡大画像生成部112によって拡大された各サムネイル画像を表示する。
図24は、胸膜下756のチェックボックスにチェックマークが入力された分布リスト表示領域750を示す図である。図25は、胸膜下756の病変分布で絞り込みがかけられた基本画面K2を示した図である。図24に示すように、胸膜下756のチェックボックスにチェックマークが入力された場合、表示制御部104は、図24に示すように、症例表示領域710に、胸膜下の病変分布を持つ類似症例のみを表示する。この例では、胸膜下の病変分布を持つ類似症例は7件であった。そのため、表示制御部104は、検索結果件数表示領域713に「7件」と表示している。また、表示制御部104は、表示条件表示領域714に、表示対象の病名と、病変分布の名称である「胸膜下」とを表示する。図25の例では、病名リスト表示領域730に挙げられた病名による絞り込みがかけられていないため、表示条件表示領域714には「全疾患」と表示されている。
図24に示すように、胸膜下756のチェックボックスにチェックマークが入力された場合、図25に示すように、表示制御部104は、症例表示領域710において、選択された病変分布に対応する拡大率に拡大画像生成部112によって拡大されたサムネイル画像を表示する。病変分布名「胸膜下」が選択された場合には、胸膜との位置関係を観察できるようにする必要がある。そこで、拡大画像生成部112は、胸膜が含まれるような拡大率に決定する。表示制御部104は、拡大画像生成部112によって拡大された各サムネイル画像を表示する。
なお、図21、図23、図25における病変分布選択時の各サムネイル画像に対する拡大処理の詳細は後述する。
図26は、患者情報1000のデータ構成を示す図である。患者情報1000は、医用情報管理システム200における患者情報管理部202により、患者別に患者情報蓄積部201に蓄積されて管理される。患者情報1000には、患者の性別及び年齢等の個人情報、既往歴等の臨床情報、並びに血液検査等の検査情報が登録されている。図26に示すように、患者情報1000は、患者ID1100、氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、主訴1700、検査情報1800、及び確定診断1900を備える。
患者ID1100は、患者に固有の識別子である。氏名1200、年齢1300、性別1400、既往歴1500、家族歴1600、及び主訴1700は、それぞれ、患者ID1100の患者の氏名、年齢、性別、既往歴、家族歴、及び主訴である。検査情報1800は、図27に示すように、当該患者が過去に受けた1以上の検査に関する情報を表す。
図27は、図26に示す検査情報1800のデータ構成を示す図である。検査情報1800は、患者に対して行われた検査に関する情報であり、1つの検査に対応して1つずつ作成される。検査情報1800は、検査ID1810、検査日時1820、検査種1830、及び検査結果1840を備える。検査ID1810は、検査に固有の識別子である。検査日時1820は、検査が行われた日時である。検査種1830は、検査の種類である。検査の種類としては、例えば、血液検査、呼吸機能検査、内視鏡検査、単純X線撮影、CT撮影等がある。
検査結果1840は、血液検査であれば、白血球数、LDH、及びGPT等各種指標の値が該当する。また、検査結果1840は、各種指標を基に医師が下した判断等も該当する。また、単純X線撮影やCT撮影等の画像検査であれば、撮影された画像へのポインタ情報や画像診断結果のレポートへのポインタ情報が含まれる。なお、検査で撮影された画像は、DICOMのフォーマットで医用情報管理システム200の医用画像データ蓄積部203に蓄積される。
また、検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、これらの医用画像データは医用情報管理システム200の医用画像データ蓄積部203が記憶する医用画像データベース2000に蓄積される。
図28は、医用画像データベース2000のデータ構成を示す図である。医用画像データベース2000は、検査ID1810及びシリーズID2100を持つ。1回の検査で、複数の種類の撮影(例えば、単純CTと造影CT等)が行われる場合があるので、1つの検査ID1810に対し、複数のシリーズID2100が対応付けられている場合もある。つまり、撮影の種類に応じた個数のシリーズが得られるのである。
また、シリーズは、撮影の種類以外にも、撮影された画像の再構成の条件毎に得られる。例えば、撮影された画像が肺野条件及び縦隔条件で再構成された場合、これらの条件毎に1つのシリーズが得られる。なお、肺野条件で再構成された画像は肺の中の血管、気管支、及び肺胞等が強調表示される。また、縦隔条件で再構成された画像は、血管やリンパ節等の縦隔が強調表示される。肺野条件及び縦隔条件は1度の撮影で得られた画像を再構成することで得られるため、単純CTと造影CTとで2度の撮影が行われ、これら2度の撮影のそれぞれにつき肺野条件及び縦隔条件で画像が再構成された場合、2つの肺野条件のシリーズが得られ、2つの縦隔条件のシリーズが得られる。
CT及びMRIの画像検査の場合、1回の撮影で複数のスライス画像が取得されるので、1つのシリーズID2100には、複数のスライスID2200が対応付けられている。図28の検査ID「13227989」には2つのシリーズID「CT149123」、「CT149124」が対応付けられているため、この検査から2つのシリーズのCT画像が得られたことが分かる。また、シリーズID「CT149123」、「CT149124」のそれぞれに対して、スライスID2200が複数対応付けられていることが分かる。
検査種1830が単純X線、CT、MRI、PET等の画像検査の場合、医用情報管理システム200における診断レポート管理部205には、図29に示すような診断レポート3000が蓄積される。診断レポート3000には、各検査に対する医師による診断結果が登録されている。
図29は、診断レポート3000のデータ構成を示す図である。診断レポート3000は、検査ID1810、所見3100、及び診断3200を備える。検査ID1810は、図27で示した検査ID1810と同じである。これにより、診断レポート3000と検査情報1800とが対応付けられる。所見3100は、検査に対する医師の所見を示す文言が登録されている。診断3200は、検査に対する医師の診断を示す文言が登録されている。
図30は、類似症例データ4000のデータ構成を示す図である。類似症例データ4000は、診断対象症例に対して類似する類似症例を検索する際に参照されるデータであり、1つの類似症例に対応して1つずつ作成されている。なお、類似症例データ4000は、類似症例データの付加情報の一例である。類似症例データ4000は、症例検索システム300の類似症例データ蓄積部301において、類似症例毎に蓄積されている。図30に示すように、類似症例データ4000は、類似症例ID4100、スライスID4200、関心領域情報4300、画像特徴データ4400、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、及び確定診断(詳細分類病名)4800を備える。
類似症例ID4100は、類似症例データ4000の識別子である。ここでは、類似症例のスライス画像に設定された関心領域毎に1つの類似症例データが生成されるため、類似症例ID4100は、関心領域の識別子とも言える。図30の例では、類似症例ID4100は、「SIM」とそれに続く番号とで構成される記号列で構成されている。
スライスID4200は、関心領域が設定されたスライス画像の識別子であり、図28に示すスライスID2200と同一である。関心領域情報4300は、スライス画像に設定された関心領域の位置を示す情報である。図31は、スライス画像3101に設定された関心領域ROIを模式的に示した図である。図31の例では、関心領域ROIは矩形状に設定されている。したがって、関心領域情報4300は、関心領域ROIの左上の頂点の座標(xl、yt)と、右下の頂点の座標(xr、yb)との4値で構成される。もちろん、関心領域は矩形以外の形状でもよく、その場合は、領域を一意に特定可能なパラメータが関心領域情報4300として採用される。例えば、関心領域が円形であれば、円の中心座標と半径とが関心領域情報4300として採用される。
画像特徴データ4400は、関心領域情報4300で定義される関心領域から抽出された所定次元(ここではN次元)の特徴値である。サムネイル画像データ4500は、スライスIDで特定されるDICOMフォーマットのスライス画像を基に、症例表示領域710に表示するために生成されたサムネイル画像の画像データである。ここで、サムネイル画像データ4500は、例えば、サムネイル画像の左上の頂点から右下の頂点に向かうラスタ走査順にサムネイル画像の画素値が配置されている。先に説明を行ったが、CT検査で得られたDICOM画像は、512×512画素の11ビット(画素値:−1000〜+1000)画像である。そこで、本実施の形態では、サムネイル画像の表示を高速化するために、サムネイル画像の元となるDICOM画像に対して低解像度処理及び階調変換処理が行われて8ビットの画素値を持つサムネイル画像が予め作成され、類似症例データ4000に登録されている。なお、サムネイル画像の作成は、例えば、医用情報管理システム200が作成し、症例検索システム300に送信するようにしてもよいし、症例検索システム300が医用情報管理システム200からDICOM画像を取得して作成してもよい。
病変分布情報4600は、対象となる類似症例が予め定められたびまん性4610〜血行性4670で表される病変分布のいずれに該当するか否かを表す分布フラグ値(1:該当、0:非該当)である。
確定診断(大分類病名)4700は、対象となる類似症例に対して確定された大分類の病名である。確定診断(大分類名)4700は、類似症例を大分類の病名で絞り込む際に使用される。
確定診断(詳細分類病名)4800は、対象となる類似症例に対して確定された詳細分類の病名である。確定診断(詳細分類病名)4800は、類似症例を小分類の病名で絞り込む際に使用される。
予め、確定診断(大分類病名)4700は、確定診断(詳細分類病名)4800に対して一意に対応する大分類病名が定義されており、その対応関係を用いて類似症例データ4000に格納されている。
確定診断(詳細分類病名)4800は、医用画像データ蓄積部203において、図28に示すスライスID2200からシリーズID2100が特定される。そして、特定されたシリーズIDから患者情報蓄積部201において、検査ID1810が特定され、検査ID1810から対応する患者情報1000(図26)が特定され、特定された患者情報1000から該当する患者の確定診断1900が特定される。
次に、情報端末100が医用情報管理システム200と症例検索システム300と連携して読影作業開始から類似症例検索を開始するまでの流れを説明する。
図32は、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300に対して類似症例検索の要求を行い、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。なお、図32において、シーケンス図の左側に示す2列の矩形は、該当するステップの処理によりディスプレイ101a、101bに表示される画面を示す。また、図32において、情報端末の「A」は、医用情報管理アプリケーションを示し、「B」は、類似症例検索アプリケーションを示す。このシーケンスが開始される前に医用情報管理アプリケーションは予め起動されているものとする。
まず、情報端末100は、操作部102を通してユーザ(読影を行う医師)の読影対象となる検査リストの表示要求を受け付け、入力制御部103及び通信制御部110を通して、医用情報管理システム200の通信制御部206へ検査リストの表示要求を送信する(S510)。
医用情報管理システム200の患者情報管理部202は、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成する。そして、患者情報管理部202は、通信制御部206を通して、生成した検査リストを情報端末100の通信制御部110に送信する(S520)。ここで、検査リストには、該当する患者の患者情報1000及び検査情報1800が含まれる。
情報端末100の表示制御部104は、通信制御部110で受信された検査リストをディスプレイ101に表示する(S530)。
この場合、ディスプレイ101aに検査リストが表示され、ディスプレイ101bには何も表示されない。
図33は、検査リストの画面図である。検査リストは、読影が未終了の検査を表示する領域800と、検査に含まれるシリーズに関する情報を表示する領域810とを備える。領域800には、「患者ID」、「患者氏名」、「検査日時」、「検査ID」、及び「検査種」の欄が設けられている。「患者ID」、「患者氏名」の欄には、患者情報1000に登録された患者ID1100及び氏名1200が表示され、「検査日時」、「検査ID」、及び「検査種」の欄には、検査情報1800に登録された検査日時1820、検査ID1810、及び検査種1830が表示される。領域810は、領域800でユーザにより選択された検査の詳細を表示するための領域であり、「シリーズID」、「定義」、及び「画像」の欄が設けられている。ここでは、領域800においてユーザにより検査(行に対応)が選択されていないために、領域810には何も表示されていない。
ユーザは、領域800に表示された検査の中から、これから読影を行う検査を選択する。この選択が入力制御部103で検知されると、図32に示すように、通信制御部110は、選択された検査の検査IDに含まれる全シリーズの表示要求を、医用情報管理システム200へ送信する(S540)。
医用情報管理システム200の通信制御部206がこの表示要求を受信すると、患者情報管理部202は、図28に示す医用画像データベース2000を参照し、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像を取得し、通信制御部206を通して、情報端末100に送信する(S550)。例えば、図28の例において、検査ID「13227989」の検査がユーザにより選択されると、シリーズID「CT149123」、「CT149124」のシリーズに含まれる全てのスライス画像がS550で送信される。
情報端末100の通信制御部110が全シリーズの画像を取得すると、表示制御部104は、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを領域810に表示する(S560)。
この場合、ディスプレイ101aに表示された検査リストの領域810には、領域800で選択された検査に対応するシリーズのシリーズリストが表示され、ディスプレイ101bには何も表示されない。
図34は、検査が選択された後の検査リストの画面図である。図34の領域800では選択された行の背後にハイライトが付されている。図34の例では、領域800において、2行目の「パナ太郎」の検査が選択されている。そのため、領域810では、選択された検査についての「シリーズID」、「定義」、及び「画像」が表示されている。ここで、「シリーズID」の欄には、医用画像データベース2000において、選択された検査の検査IDに対応付けられたシリーズIDが表示され、「画像」の欄には、表示されたシリーズIDを代表する1枚のスライス画像のサムネイル画像が表示される。ここで、シリーズIDを代表する1枚のスライス画像としては、所定のスライス位置の画像が採用される。所定のスライス位置としては先頭のスライス位置であってもよいし、中央のスライス位置であってもよい。「定義」は、該当するシリーズに対する撮影条件や再構成の条件を示す。この「定義」は、図示は省略されているが、例えば、図28の医用画像データベース2000において、シリーズIDと対応付けて登録されている。
領域810において、ユーザにより読影対象のシリーズが選択され、その選択を入力制御部103が検知すると、表示制御部104は、図35に示すように、選択されたシリーズの先頭のスライス画像をディスプレイ101aに表示する(S570)。図35は、ユーザによりシリーズが選択された際にディスプレイ101aに表示されるスライス画像を示した図である。図35は、胸部CT撮影での先頭スライスを示す図であり、肺尖部よりももう少し頭方向の肩位置でのスライス画像である。ここで、表示制御部104は、選択されたシリーズの全てのスライス画像をシリーズ送りできる状態でディスプレイ101aに表示する。なお、ディスプレイ101bには何も表示されない。例えば、ユーザにより、ディスプレイ101a上にマウスポインタが位置決めされマウスホイールを回転するスライス送りの操作が入力され、その操作を入力制御部103が検知する。すると、表示制御部104は、マウスホイールの回転量に応じて、ディスプレイ101aに表示されたスライス画像を別のスライス位置のスライス画像に切り替える。ユーザは、スライス送りの操作を入力しながら画像診断を行う。そして、ユーザは画像診断に迷った場合、類似症例検索アプリケーションを起動する。
ここで、類似症例検索アプリケーションは、操作部102のキーボードにおいて、予め定められたショートカットキーが入力されて起動されてもよいし、マウスの右クリックで医用画像ビューワのメニューを表示させ、そのメニューの中から類似症例検索メニューが指定されて起動されてもよい。類似症例検索アプリケーションの起動が指示されると、情報端末100の管理はROI管理部105に渡され、情報端末100は、関心領域(ROI)の受け付け待ち状態になる。
ユーザは、操作部102を通して、ディスプレイ101aに表示されたスライス画像上の病変に関心領域(ROI)を設定する(S580)。ここで、ユーザは、図31に示すように、例えば、マウスを左クリックして、スライス画像3101における関心領域ROIの左上の頂点の座標を入力する。そして、ユーザは、左クリックした状態でマウスを右斜め下方向にドラッグし、左クリックを解除することで、関心領域ROIの右下の頂点を入力すればよい。
関心領域を設定する操作を入力制御部103が検知すると、ROI管理部105は、入力制御部103から関心領域の左上及び右下の頂点の座標データを受け取り、受け取った座標データを関心領域情報として生成する。そして、ROI管理部105は、生成した関心領域情報を通信制御部110に送信する(S590)。
同時に、ROI管理部105は、診断対象症例のスライス画像を通信制御部110に送信する(S600)。この場合、S550において、情報端末100が医用情報管理システム200から受け取った全シリーズのスライス画像のうち、ユーザが選択したシリーズにおいてユーザにより関心領域が設定された1枚のスライス画像(検索クエリ画像)が送信される。
次に、通信制御部110は、ROI管理部105から送信された関心領域情報を受け取り、症例検索システム300の通信制御部304に送信する(S601)。
同時に、通信制御部110は、ROI管理部105から送信されたスライス画像を受け取り、症例検索システム300の通信制御部304に送信する(S602)。
ここで、S600、S601において、スライス画像そのものを送信するとしたが、スライス画像のスライスIDのみが送信されても構わない。この場合は、スライスIDを受信した症例検索システム300は、そのスライスIDを指定して、医用情報管理システム200からスライス画像を取得すればよい。
次に、症例検索システム300が類似症例検索を行い、情報端末100が類似症例検索結果を初期表示するまでの処理を説明する。
図36Aは、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。
症例検索システム300の画像特徴抽出部302は、検索クエリ画像に設定された関心領域から予め定められた複数次元の画像特徴を抽出する(S610)。
「画像特徴」としては、医用画像における臓器若しくは病変部分の形状に関する画像特徴、又は輝度分布に関する画像特徴等が採用できる。例えば、非特許文献:「根本、清水、萩原、小畑、縄野、“多数の特徴量からの特徴選択による乳房X線像上の腫瘤影判別精度の改善と高速な特徴選択法の提案”、電子情報通信学会論文誌D−II、Vol.J88−D−II、No.2、pp.416−426、2005年2月」には、490次元の画像特徴を用いることが記載されている。本実施の形態においては、例えば、この非特許文献に記載された画像特徴が採用される。但し、これは一例にすぎず、他の画像特徴が採用されてもよい。
類似症例検索部303は、画像特徴抽出部302で抽出された画像特徴と、類似症例データ蓄積部301に蓄積された各類似症例の画像特徴とを比較する(S620)。ここで、類似症例検索部303は、検索クエリ画像から抽出された画像特徴データと、類似症例データ蓄積部301に類似症例毎に蓄積された類似症例データ4000(図30)に登録された画像特徴データ4400との距離を算出することで、両画像特徴を比較する。
次に、類似症例検索部303は、距離が所定の閾値以下の類似症例を、距離が小さい順にソートし、送信対象の類似症例として決定する(S630)。次に、通信制御部304は、類似症例データ蓄積部301に蓄積された類似症例データ4000のうち、送信対象として決定された類似症例の類似症例ID4100、スライスID4200、関心領域情報4300、サムネイル画像データ4500、病変分布情報4600、確定診断(大分類病名)4700、確定診断(詳細分類病名)4800、及び類似症例検索部303で算出された距離を情報端末100に送信する(S640)。
以下、類似症例検索結果が表示された初期の基本画面K2(図6)を生成する処理が実行される。まず、初期の基本画面K2において、レイアウト領域720を生成する際に使用される管理情報について説明する。
まず、症例検索システム300の通信制御部304は、レイアウト情報を情報端末100に送信する(S650)。ここで、レイアウト情報は、レイアウト領域720を構成する表示ボックスの行数、列数を指定する情報である。
次に、情報端末100の通信制御部110がレイアウト情報を受信すると、表示ボックス管理部106は、送信されたレイアウト情報が指定する表示ボックスの行数及び列数を表示ボックス管理情報4410(図36B)に登録すると共に、検索クエリ画像のスライスIDを表示ボックス管理情報(図36B)に登録する(S660)。
図36Bは、表示ボックス管理情報4410のデータ構成を示す図である。表示ボックス管理情報4410には、行数及び列数が登録されるテーブル4411と、各表示ボックスに表示されるスライス画像のスライスIDが登録されるテーブル4412とが含まれる。したがって、表示ボックス管理部106は、症例検索システム300から送信されたレイアウト情報が指定する行数及び列数をテーブル4411の行数及び列数の欄に登録する。また、本実施の形態では、4つの表示ボックス721〜724のうち、左上の表示ボックス721に検索クエリ画像のサムネイル画像が表示される。そこで、表示ボックス管理部106は、医用情報管理システム200から送信された検索クエリ画像のスライスIDをテーブル4412の1行1列目の項目に登録する。
ここで、レイアウト領域720を構成する表示ボックスの行数及び列数のデフォルト値は症例検索システム300により予め設定されている。ここで、行数及び列数のデフォルト値は例えば2行及び2列である。そのため、図36Bに示す表示ボックス管理情報4410には、「2行2列」が登録されている。
図6の例では、レイアウト領域720において、表示ボックス721〜724は2行2列で表示されている。このレイアウト領域720における行数及び列数はユーザが自由に設定できる。
図36Cは、表示ボックスが3行2列で設定されたレイアウト領域720を持つ基本画面K2を示す図である。レイアウト領域720を構成する表示ボックスをM行N列で一般化すると、M≠Nの場合、ディスプレイ101が縦型のディスプレイであれば、M>Nであることが望ましく、ディスプレイ101が横型のディスプレであれば、M<Nであることが望ましい。
ここで、レイアウト領域720を構成する表示ボックスのうち、1つの表示ボックスに対象診断症例のサムネイル画像を表示することが、本実施の形態の重要な特徴の一つである。つまり、類似症例と診断対象症例とを隣接して表示すれば、ユーザは、両症例の類似性の判断がし易くなる。よって、レイアウト領域720における表示ボックスの配列は3行3列までにすることが望ましい。
また、表示ボックスの配列が3行2列の場合、2行1列目の表示ボックス或いは2行2列目の表示ボックスに検索クエリ画像のサムネイル画像を表示することが好ましい。また、表示ボックスの配列が2行3列の場合は、1行2列目或いは2行2列目の表示ボックスに検索クエリ画像のサムネイル画像を表示することが好ましい。また、表示ボックスの配列が3行3列の場合は、2行2列目の表示ボックスに検索クエリ画像のサムネイル画像を表示することが好ましい。こうすることで、常に、レイアウト領域720には、対象診断症例に対して類似症例が隣接して表示されることになる。
ユーザが設定したレイアウト領域720のレイアウト情報は、図36D又は図36Eに示すレイアウト管理情報4200に登録される。
なお、レイアウト管理情報4200を保存するボックスレイアウト管理部111は、症例検索システム300が備えてもよい。
同じユーザであっても情報端末100のディスプレイ101のサイズや画面のタイプ(縦型又は横型)に適合するようにレイアウト領域720のレイアウトが変更されることもある。そのため、図36Dに示すように、ユーザが設定したレイアウト情報は、ユーザIDと端末IDと関連付けてレイアウト管理情報4200に登録されてもよい。図36Dは、レイアウト管理情報4200の一例を示す図である。このレイアウト管理情報4200では、「ユーザID」、「端末ID」、「列数]、「行数」、及び「診断対象症例の位置」とが対応付けられている。ここで、「ユーザID」は情報端末100を使用するユーザに対して予め付与されたユーザの識別子である。「端末ID」は、該当するユーザの使用が想定される情報端末100の識別子である。
図36Dの例では、ユーザID「U01」のユーザは、端末ID「T02」及び「T04」の使用が想定されているため、ユーザID「U01」が端末ID「T02」、「T04」と対応付けられている。「行数」及び「列数」は該当するユーザが設定したレイアウト領域720の行数及び列数が登録されている。「診断対象症例の位置」は、診断対象症例を表示する表示ボックスの位置である。例えば、端末ID「T04」の情報端末100では、レイアウト領域720が2行3列に設定されており、診断対象症例を全ての類似症例と隣接表示させるために、「診断対象症例の位置」として2行1列を示す(2、1)が登録されている。
なお、図36Dでは、レイアウト情報をユーザIDと端末IDと対応付けて管理する態様を示したが、レイアウト情報はユーザIDのみと対応付けて管理されてもよい。図36Eは、レイアウト管理情報4200の一例を示す図である。図36Eに示すレイアウト管理情報4200では、図36Dに示すレイアウト管理情報4200において、「端末ID」の欄が省かれている。それ以外、図36Eのレイアウト管理情報4200は図36Dのレイアウト管理情報4200と同じである。なお、図36Eの態様では、1のユーザは1の情報端末100の使用が想定されているため、「端末ID」の欄が省かれている。
なお、レイアウト情報が症例検索システム300で管理される場合、図36AのS650において、該当するユーザのレイアウト情報が情報端末100に送信される。
次に、S640で送信された類似症例データ及びS660で保存した表示ボックス管理情報4410を用いて、表示制御部104は、類似症例検索結果が表示された初期の基本画面K2を生成する(S670)。
この場合、ディスプレイ101bには図6に示す基本画面K2が表示される。また、ディスプレイ101aには、検索クエリ画像が表示されている。
図37は、図36AのS670に示す初期の基本画面K2を生成する処理の詳細を示すフローチャートである。
まず、S1000にて、表示制御部104は、図36AのS640で受信された類似症例の数をカウントし、カウント値を検索結果件数表示領域713に表示する。
次に、S1100にて、表示制御部104は、表示条件表示領域714に、「全疾患」と表示する。ここで、「全疾患」と表示されるのは、初期の基本画面K2では、ユーザにより病名や病変分布での絞り込みがかけられていないからである。
次に、S1200にて、表示制御部104は、図36AのS640で受信された類似症例のうち、症例表示領域710にサムネイル画像が表示可能な類似症例の件数分だけ、症例表示領域710に類似症例のサムネイル画像を表示すると共に、各サムネイル画像に対応付けて確定診断及び類似度を表示する。
症例表示領域710に表示可能な類似症例の件数の最大値は、図6の例では20である。この最大値は予め定められている。また、この最大値はユーザが自由に変更できる構成にしてもよい。図36AのS640で受信された類似症例の数が、最大値よりも多い場合、表示制御部104は、症例表示領域710の右端に縦方向に長尺のスクロールバー715を表示する。これにより、ユーザは、スクロールバー715を移動させ、初期の基本画面K2で非表示であった類似症例のサムネイル画像を閲覧できる。
次に、S1300にて、病名リストが生成されて表示される。まず、図36AのS640で受信された類似症例から、病名リストが生成される。病名リストは、S640で受信された類似症例が、確定診断病名毎に分類されたリストである。
ここで、S640で受信された類似症例の件数をNC件とする。病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を用いて、病名リストを生成する。生成された病名リストは、図38に示すようにテーブル形式のデータとして、病名リスト管理部108で管理される。
図39は、図37のS1300で生成される病名リストのデータ構成を示す図である。病名リストには、「病名ID」、「大分類病名」、「詳細分類病名」、「件数」、及び「類似症例ID」の欄が含まれる。「病名ID」は、確定診断病名毎に付与される識別子である。ここでは、大分類病名と詳細分類病名との1つの組み合わせに対して1つの病名IDが付与されている。
「大分類病名」は、類似症例データ4000に登録された確定診断(大分類病名)4700が示す確定診断病名である。「詳細分類病名」は、類似症例データ4000に登録された確定診断(詳細分類病名)4800が示す確定診断病名である。「件数」は、「病名ID」が示す確定診断病名に該当する類似症例の件数である。「類似症例ID」は、「病名ID」が示す病名に該当する類似症例を示す類似症例IDである。
病名リスト管理部108は、S640で受信した全ての類似症例データ4000について、確定診断(大分類病名)4700及び確定診断(詳細分類病名)4800を抽出し、両者が同じ類似症例データ4000を同じ確定診断病名の類似症例として分類する。そして、病名リスト管理部108は、確定診断病名が同じ類似症例の件数をカウントし、該当する確定診断病名のレコードの「件数」の欄に登録する。また、病名リスト管理部108は、同じ確定診断病名に分類した類似症例の類似症例IDを該当する確定診断病名のレコードの「類似症例ID」の欄に登録する。
図39の例では、大分類病名が「腫瘍性」、詳細分類病名が「原発性肺癌」の確定診断病名に対して病名ID「DIS528」が付与されている。そして、この確定診断病名に該当する類似症例の件数が10件であったため、該当するレコードの「件数」の欄に10が登録され、この確定診断病名に該当する類似症例の類似症例ID「SIM258」、「SIM551」、「SIM1209」、及び「SIM2341」等が、該当するレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された病名リストを用いて病名リスト表示領域730を生成し、ディスプレイ101に表示する。
図40、図41、図42は、それぞれ、病名リスト表示領域730の第1表示例、第2表示例、第3表示例を示した図である。図40に示すように第1表示例では、類似症例検索の結果得られた類似症例が、詳細分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図41に示すように第2表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示されている。
図42に示すように第3表示例では、類似症例検索の結果得られた類似症例が、大分類病名の件数の多い順に件数と対応付けて一覧表示され、且つ、大分類病名毎にその中に含まれる詳細分類病名が件数の多い順に件数と対応付けて一覧表示されている。この場合、患確定診断病名が、大分類病名と詳細分類病名との階層構造で表現される。
図43は、図41に示す病名リスト表示領域730の画面遷移を示す図である。図43の上段に示すように、一覧表示された大分類病名のうち、1の大分類病名がユーザにより選択される操作を入力制御部103が検知すると、表示制御部104は、図43の下段に示すように、選択された大分類病名に属する詳細分類病名を件数が多い順に件数と対応付けて表示する。ここで、ユーザは、例えば、病名リスト表示領域730において一覧表示された大分類病名のうち、所望する1の大分類病名を例えばダブルクリック或いはシングルクリックすることで1の大分類病名を選択すればよい。図43の例では非腫瘍性がダブルクリックされているため、非腫瘍性に属する詳細分類病名が一覧表示されている。
図43の下段において、詳細分類病名が一覧表示されている領域がユーザによりダブルクリック或いはシングルクリックされると、表示制御部104は、該当する領域に表示されていた詳細分類病名を非表示にすればよい。
なお、表示制御部104は、病名リスト(図39)を参照することで、大分類病名に属する詳細分類病名を判定すればよい。例えば、図39の例では、真菌症に対して、アスペルギルス症及びクリプトコッカス症が対応付けられているため、表示制御部104は、真菌症にはアスペルギルス症及びクリプトコッカス症が属すると判断すればよい。
図37に戻り、S1400にて、分布リストが生成されて表示される。まず、S640で受信された類似症例から、分布リストが生成される。分布リストは、S640で受信された類似症例が、病変分布毎に分類されたリストである。
病名リスト管理部108は、NC件の類似症例データ4000のそれぞれに登録されている病変分布情報4600を用いて、分布リストを生成する。生成された分布リストは、図44Aに示すようにテーブル形式のデータとして、分布リスト管理部109で管理される。
図44Aは、図37のS1400で生成される分布リストのデータ構成を示す図である。分布リストには、「分布名」、「症例数」、及び「類似症例ID」の欄が含まれる。「分布名」は、びまん性、区域性といった予め定められた複数の病変分布の名称である。「症例数」は、病変分布に該当する類似症例の件数である。「類似症例ID」は、病変分布に該当する類似症例を示す類似症例IDである。
分布リスト管理部109は、S640で受信した全ての類似症例データ4000について、病変分布情報4600を抽出し、抽出した病変分布情報4600において、分布フラグ値に1(該当)が設定されている病変分布の数をカウントし、カウント値を該当する病変分布のレコードの「症例数」の欄に登録する。また、分布リスト管理部109は、分布フラグ値に1が設定されている類似症例の類似症例IDを該当する病変分布のレコードの「類似症例ID」の欄に登録する。
図44Aの例では、びまん性に該当する類似症例の件数が3件であったため、びまん性のレコードの「症例数」の欄に3が登録されている。また、びまん性に該当する類似症例の類似症例ID「SIM2521」、「SIM4123」、及び「SIM5225」がびまん性のレコードの「類似症例ID」の欄に登録されている。
そして、表示制御部104は、このようにして生成された分布リストを用いて分布リスト表示領域750を生成し、ディスプレイ101に表示する。
図44Bは、図44Aに示す分布リストを用いて生成された分布リスト表示領域750を示す図である。図44Aにおいて、区域性及び胸膜下の症例数は0であるため、図44Bでは、区域性752及び胸膜下756が非アクティブ状態で表示され、これら以外の病変分布は、症例数が1以上であるため、アクティブ状態で表示されている。
図37に戻り、S1500にて、レイアウト領域720が表示される。この処理は、表示制御部104によって行われる。
図38は、図37に示すS1500の処理を示すフローチャートである。S1510にて、表示制御部104は、レイアウト領域720を構成する表示ボックスの行数及び列数を、S660で設定された表示ボックス管理情報4410から取得する。図36Bの表示ボックス管理情報4410の例では、行数及び列数として2行2列が設定されているため、「2行2列」という情報が取得される。なお、ユーザが表示ボックスの行数及び列数を変更した場合、レイアウト領域720を構成する表示ボックスの行数及び列数は、図36D又は図36Eに示すレイアウト管理情報4200から取得される。
次に、S1520にて、表示制御部104は、S1510で取得した表示ボックスの行数及び列数に合わせて、表示ボックスを描画する。
最後に、S1530にて、表示制御部104は、表示ボックス管理情報4410から各表示ボックスのスライスIDを特定し、特定したスライスIDに対応するサムネイル画像を、対応する各表示ボックス内に描画する。
図36Bの例では、1行1列目の表示ボックスに診断対象症例のスライスIDが格納されている。そのため、表示制御部104は、図32のS600で送信された診断対象症例のスライス画像からサムネイル画像を生成し、生成したサムネイル画像を表示ボックス721に描画する。
この段階では、残りの表示ボックス(1行2列目、2行1列目、2行2列目の表示ボックス722、723、724)にはスライスIDが格納されていないため、表示制御部104は、これらの表示ボックスに何も表示しない。これらの表示ボックスには、後述する処理により、類似症例のサムネイル画像が表示されることになる。
図36Aに戻り、通信制御部110は、表示ボックス管理部106に格納された表示ボックス管理情報4410を表示制御部104に送信する(S680)。
次に、表示制御部104は、レイアウト領域720の表示状態及びレイアウトと同じ表示状態及びレイアウトで医用画像ビューワを起動させる(S690)。
ここでは、症例検索システム300が画像特徴を抽出する例を示したが、情報端末100が画像特徴を抽出してもよい。図45は、症例検索システム300が画像特徴を抽出する態様を採用した場合の情報端末100、医用情報管理システム200、及び症例検索システム300のブロック図である。
図2との違いは、情報端末100に画像特徴抽出部113が追加された点、及び症例検索システム300から画像特徴抽出部302が省かれた点にある。
図46は、情報端末100が、医用情報管理システム200から診断対象症例を取得した後、症例検索システム300が類似症例検索の要求を受け取るまでの処理を示すシーケンス図である。
図32との違いは、ROI管理部105が、診断対象症例のスライス画像を通信制御部110に送信する処理(S600)の後、画像特徴の抽出が情報端末100で行われ(S603)、抽出された画像特徴が症例検索システム300に送信(S604)されている点にある。画像特徴の抽出(S604)の処理内容は、画像特徴の抽出が症例検索システム300で行われる場合と同様である。
図47は、症例検索システム300が類似症例検索の要求を受け取った後、類似症例検索結果を、情報端末100に返すまでの処理を示すシーケンス図である。図36Aとの違いは、画像特徴の抽出が情報端末100側で行われるため、図47では、図36Aにはあった画像特徴の抽出(S610)が省かれている点にある。
次に、図8〜図15を用いて説明された、症例表示領域710に表示されているサムネイル画像の拡大処理を説明する。
図48は、症例表示領域710に表示されているサムネイル画像の拡大処理を示すフローチャートである。
S4000では、拡大画像生成部112は、ユーザが選択したサムネイル画像(図8では2行4列目)の類似症例ID4100(図30)を取得する。以下では、ユーザが選択したサムネイル画像を基準サムネイル画像と呼ぶ。拡大画像生成部112は、この基準サムネイル画像に対するユーザの拡大操作と連動させて、症例表示領域710に表示されている他のサムネイル画像の拡大率を決定する。
S4100では、拡大画像生成部112は、ユーザが操作部102に入力した基準サムネイル画像に対する拡大操作の操作量を、入力制御部103から取得する。そして、拡大画像生成部112は、取得した操作量に基づき、基準サムネイル画像に対する拡大率を決定する。
具体的には、入力制御部103は、操作部102に拡大操作として入力されるマウスのホイールの回転量を検知する。入力制御部103は、検知した回転量を拡大画像生成部112に通知する。拡大画像生成部112は、回転量に予め定められた係数を掛けることにより、基準サムネイル画像に対する拡大率を算出する。
上述のように、ユーザによる拡大操作は、キーボードの上方向キーまたは下方向キーでもよい。この場合には、入力制御部103は、キーの押下時間を検知してもよい。拡大画像生成部112は、キーの押下時間に予め定められた係数を掛けることにより、基準サムネイル画像に対する拡大率を算出してもよい。
S4200では、拡大画像生成部112は、症例検索システム300から取得した多数の類似症例のうち、拡大処理を行う対象の類似症例を決定する。表示制御部104は、図6に示されるように、症例検索システム300の類似症例検索部303により検索されたNC件(図6ではNC=62)の類似症例データ中の、症例表示領域710で予め定められた最大表示件数ND(この実施の形態ではND=20)の類似症例のサムネイル画像を症例表示領域710に表示している。
本ステップでは、拡大画像生成部112は、ユーザが選択したサムネイル画像を含むようにND以下の範囲で拡大処理を行う対象の類似症例を決定する。この実施の形態では、拡大画像生成部112は、拡大処理を行う対象をNZ個の類似症例に決定する。ここで、NZ≦NDである。本ステップにより、NC件の全ての類似症例のサムネイル画像を拡大する場合と比較して、情報端末100における処理負荷を軽減することができる。
S4300では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZに到達するまで(S4300でYES)、S4400、S4500の処理を繰り返す。拡大画像生成部112は、S4400、S4500の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZを超えると(S4300でNO)、図48の処理は終了する。
S4400では、拡大画像生成部112は、拡大対象の類似症例iのサムネイル画像の拡大率を算出する。S4100で決定した基準サムネイル画像に対する拡大率と、基準サムネイル画像に対応する類似症例の関心領域情報4300(図30)と、拡大対象の類似症例iの関心領域情報4300(図30)とに基づき、拡大画像生成部112は、拡大対象の類似症例iの拡大率を算出する。
図49は、図48のS4400のサブルーチンの処理を示すフローチャートである。
S4410では、拡大画像生成部112は、基準サムネイル画像に対応する類似症例の関心領域情報4300に基づき、基準サムネイル画像の関心領域の面積を算出する。ここで、基準サムネイル画像の関心領域の面積をSrとし、関心領域の左上の座標を(xl、yt)とし、関心領域の右下の座標を(xr、yb)とすると、関心領域の面積Srは以下の式で算出することができる。
Sr=|xl−xr|×|yt−yb|
Sr=|xl−xr|×|yt−yb|
S4420では、拡大画像生成部112は、拡大対象の類似症例iの関心領域情報4300に基づき、拡大対象の類似症例iのサムネイル画像の関心領域の面積を算出する。ここで、拡大対象の類似症例iのサムネイル画像の関心領域の面積をSiとし、関心領域の左上の座標を(xli、yti)とし、関心領域の右下の座標を(xri、ybi)とすると、関心領域の面積Siは以下の式で算出することができる。
Si=|xli−xri|×|yti−ybi|
Si=|xli−xri|×|yti−ybi|
S4430では、拡大画像生成部112は、S4410で算出した基準サムネイル画像の関心領域の面積Srと、S4420で算出した拡大対象の類似症例iのサムネイル画像の関心領域の面積Siと、S4100で決定した基準サムネイル画像に対する拡大率とに基づき、拡大対象の類似症例iの拡大率を算出する。ここで、基準サムネイル画像に対する拡大率をkrとすると、拡大対象の類似症例iの拡大率kiは、以下の式で算出することができる。
ki=kr(Sr/Si)
ki=kr(Sr/Si)
図50は、拡大処理前後の基準サムネイル画像及び拡大対象のサムネイル画像を概略的に示す図である。図50の上左図は、拡大処理前の基準サムネイル画像を示す。図50の上右図は、拡大処理後の基準サムネイル画像を示す。図50の下左図は、拡大処理前の拡大対象のサムネイル画像を示す。図50の下右図は、拡大処理後の拡大対象のサムネイル画像を示す。
図50の上左図に示される基準サムネイル画像を拡大率krで拡大すると、図50の上右図に示されるサムネイル画像が得られる。拡大画像生成部112は、図50の上右図において、関心領域ROIの中心位置が表示領域720dの中心位置に一致するように、表示領域720dを決定する。拡大画像生成部112は、表示領域720dのサイズを拡大処理前の表示領域720cのサイズと同じサイズに維持している。
図50の下左図に示される拡大対象のサムネイル画像を拡大率kiで拡大すると、図50の下右図に示されるサムネイル画像が得られる。拡大画像生成部112は、図50の下右図において、関心領域ROIの中心位置が表示領域720fの中心位置に一致するように、表示領域720fを設定する。拡大画像生成部112は、表示領域720fのサイズを拡大処理前の表示領域720eのサイズと同じサイズに維持している。
図50では、基準サムネイル画像の拡大率krに対して、関心領域の面積比に応じて拡大対象のサムネイル画像iの拡大率kiを決定している。したがって、図50に示すように、拡大後の関心領域ROIのサイズが一致している。
図48に戻って、S4500では、拡大画像生成部112は、S4400で算出した拡大率と、類似症例データ4000(図30)内の、関心領域情報4300及びサムネイル画像データ4500とに基づき、拡大対象の類似症例iの拡大されたサムネイル画像を生成する。表示制御部104は、拡大画像生成部112により生成されたサムネイル画像を表示する。
図51は、図48のS4500のサブルーチンの処理を示すフローチャートである。図52は、拡大率と表示領域との関係を概略的に表す図である。以下、図51及び図52を用いて、関心領域の中心位置が拡大されたサムネイル画像の中心位置に一致するように、拡大画像を生成する処理の詳細について説明する。
S4510では、拡大画像生成部112は、S4400で算出した拡大率と、類似症例データ4000(図30)内のサムネイル画像データ4500とに基づき、拡大画像を生成する。拡大率がki倍の場合は、図52の左図に示されるサムネイル画像から図52の右図に示される拡大されたサムネイル画像が生成される。
S4520では、拡大画像生成部112は、類似症例データ4000(図30)内の関心領域情報4300と、S4400で算出した拡大率とに基づき、拡大後のサムネイル画像における関心領域の中心座標を算出する。ここで、拡大前の関心領域の中心座標を(xc、yc)とすると、図52に示すように、拡大前の関心領域の中心座標に拡大率を掛けて得られる座標(ki×xc、ki×yc)が拡大後の関心領域の中心座標となる。
S4530では、拡大画像生成部112は、S4520で算出した拡大後の関心領域の中心座標(ki×xc、ki×yc)と、予め定められた表示領域のサイズとから、拡大後のサムネイル画像iにおける表示領域を決定する。ここで、図52の左図に示されるように、表示領域720aは、横寸法w、縦寸法hに設定されている。この場合、図52の右図に示される矩形領域720bが表示領域となる。この矩形領域720bの左上座標は(ki×xc−w/2、ki×yc−h/2)であり、右下座標は(ki×xc+w/2、ki×yc+h/2)である。
S4540では、表示制御部104は、拡大画像生成部112によりS4510で生成された拡大画像のうち、S4530で算出された表示領域720bの画像を、症例表示領域710の類似症例iの表示領域に表示する。図51に示される処理により、関心領域の中心位置が表示領域の中心位置となる拡大されたサムネイル画像iを生成することが可能となる。
以上の処理により、症例表示領域710には、ユーザが指定した任意の拡大率で、サムネイル画像が表示される。ユーザによる一つのサムネイル画像に対する拡大操作で症例表示領域710内の全てのサムネイル画像の拡大率を変更できる。このため、ユーザの操作負担が減少する。また、症例表示領域710において、関心領域のサイズが揃えられてサムネイル画像が表示される。このため、関心領域が一部の類似医用画像において小さい状態で拡大されたために見落とされる事態が発生することを防止し、診断精度の向上を図ることができる。さらに、類似症例検索で得られた全ての類似症例ではなく、症例表示領域710で表示される類似症例に対してのみ、拡大処理が行われる。このため、システムへの負荷が大幅に軽減される。
次に、症例表示領域710に拡大されたサムネイル画像が表示された後に、ユーザがスクロールバー715を操作した場合のサムネイル画像の拡大処理の流れを説明する。この場合では、図14または図15に示されるように、症例表示領域710に表示されているサムネイル画像の全てが拡大されるものとする。
図53Aは、拡大されたサムネイル画像が症例表示領域710に表示された後に、ユーザがスクロールバー715を操作した場合のサムネイル画像の拡大処理を示すフローチャートである。図53Bは、拡大されたサムネイル画像が症例表示領域710に表示された状態の基本画面K2を示す図である。
図53Bに示される状態において、ユーザがスクロールバー715を下向きに操作すると、その操作量を入力制御部103が検知し、検知した操作量を拡大画像生成部112に通知する。すると、拡大画像生成部112は、図53Aの処理を開始する。
S4600では、拡大画像生成部112は、ユーザによるスクロールバー715の操作によって、新たに症例表示領域710に表示される症例数Nsを取得する。具体的には、拡大画像生成部112は、症例表示領域710で予め定められた最大表示件数NDを表示制御部104から取得する。この実施形態では、図6に示されるように、最大表示件数NDは、4行5列の20件である。したがって、新たに5個のサムネイル画像が表示対象となるため、拡大画像生成部112は、Ns=5を取得する。
また、S4600では、拡大画像生成部112は、新たに症例表示領域710に表示されるサムネイル画像の類似症例IDを特定する。このとき、拡大画像生成部112は、症例検索システム300の類似症例検索部303から受信した類似症例の類似度を参照する。現在は、表示制御部104は、類似度の最も高い類似症例からND件の類似症例のサムネイル画像を表示している。そこで、拡大画像生成部112は、類似度の最も高い類似症例から数えて(ND+1)番目から(ND+Ns)番目までの類似症例を拡大対象症例とする。拡大画像生成部112は、これらの拡大対象の類似症例IDを特定する。
S4700では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNsに到達するまで、S4800、S4500の処理を繰り返す。拡大画像生成部112は、S4800、S4500の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNsを超えると(S4700でNO)、図53Aの処理は終了する。
S4800では、拡大画像生成部112は、拡大対象の類似症例iの拡大率kiを算出する。すでに症例表示領域710には拡大されたサムネイル画像が表示されている。そこで、拡大画像生成部112は、図48のS4100で決定した基準サムネイル画像に対する拡大率krを用いる。そして、拡大画像生成部112は、図48のS4400と同様にして、拡大対象の類似症例iの拡大率kiを算出する。続くS4500は、図48のS4500と同じであるため、詳細な説明は省略する。図53Aの処理により、図53Cに示される画面が得られる。
図53Cは、拡大されたサムネイル画像が図53Bの状態から移動した基本画面K2を示す図である。図53Cに示されるように、症例表示領域710に表示されている類似症例のサムネイル画像は、スクロールバー715の操作により上方向に移動している。
なお、ユーザがスクロールバー715の操作を続けた場合には、拡大画像生成部112は、さらに、図53Aの処理を実行する。
以上の処理により、類似症例が多数であっても、拡大画像生成部112は、スクロールバー715の操作により新たに症例表示領域710に表示されるサムネイル画像に対してのみ拡大処理を行えばよい。このため、システムへの負荷が大幅に軽減される。
次に、図20、図22、図24に示す分布リスト表示領域750に表示された病変分布が選択されたときの拡大処理について説明する。図54は、分布リスト表示領域750に表示された病変分布が選択されたときの処理を示すフローチャートである。
S2000では、分布リスト表示領域750に表示された病変分布(分布チェック項目)のうち、いずれか1の分布チェック項目を選択する操作を入力制御部103が検知すると、拡大画像生成部112は、検知された分布チェック項目が第1〜第3分布情報のいずれに該当するかを判定する。第1分布情報の場合、処理がS1301に進められ、第2分布情報の場合、処理がS1302に進められ、第3分布情報の場合、処理がS1303に進められる。
第1分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属するサムネイル画像を選択させるための情報である。ここでは、第1分布情報としては、「両側性」、「多発性」、「びまん性」、及び「血行性」が該当する。よって、第1範囲としては、これらの病変分布を診断する際に設定される関心領域のサイズが属するような値域が採用される。
第2分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域の大きさが、肺の領域の一部であることを示す所定の第2範囲(第1範囲より低い:第2範囲の上限値が第1範囲の下限値以下)に属するサムネイル画像を選択させるための情報である。ここでは、第2分布情報としては、「気道性」及び「区域性」が該当する。よって、第2範囲としては、これらの病変分布を診断する際に設定される関心領域のサイズが属するような値域が採用される。
第3分布情報は、症例表示領域710に一覧表示された類似症例のサムネイル画像のうち、関心領域の大きさが、胸膜の辺縁に存在するサムネイル画像を選択させるための情報である。ここでは、第3分布情報としては、「胸膜下」が該当する。
S1301では、拡大画像生成部112は、類似症例検索により得られた類似症例であって、ユーザが第1分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数(この実施の形態では20件)以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ1として決定する。そして、拡大画像生成部112は、抽出した類似症例i(iは抽出された類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZ1に到達するまで、S2100、S1501の処理を繰り返す。拡大画像生成部112は、S2100、S1501の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZ1を超えると(S1301でNO)、図54の処理は終了する。
S2100では、拡大画像生成部112は、類似症例iについての第1分布情報に対応する第1拡大率を算出する。ここでは、第1拡大率としては、例えば、1.0が採用される。但し、これは一例であり第1分布情報が示す病変分布を診断する際に設定される関心領域の全域が表示領域に収まるような値であれば、1.0以外の拡大率が第1拡大率として採用されてもよい。
S1501では、図48のS4500と同様に処理が行われる。その結果、表示制御部104は、類似症例iのサムネイル画像を類似症例iの第1拡大率で拡大した画像を症例表示領域710に表示する。
上述の図21では、両側性が選択されている。この場合、類似症例のうち病変分布が両側性に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、この場合、拡大率は1.0であるため、症例表示領域710において、類似検索結果が得られた直後に表示されたサムネイル画像と同じ表示態様でサムネイル画像が表示されている。すなわち、関心領域ROIの中心が表示領域6801の中心に位置するようにサムネイル画像の表示位置が調整されず、且つ、拡大されずに、サムネイル画像が表示される。
S1302では、拡大画像生成部112は、類似症例検索により得られた類似症例であって、ユーザが第2分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ2として決定する。そして、拡大画像生成部112は、抽出した類似症例iのサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZ2に到達するまで、S2200、S1502の処理を繰り返す。拡大画像生成部112は、S2200、S1502の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZ2を超えると(S1302でNO)、図54の処理は終了する。
S2200では、拡大画像生成部112は、症例表示領域710において、1つのサムネイル画像に対して予め定められた表示領域のサイズと、類似症例iの関心領域情報とを用いて、類似症例iについての第2分布情報に対応する第2拡大率を算出する。
第2分布情報が選択された場合、拡大画像生成部112は、類似症例iを、関心領域のサイズが表示領域のサイズの1/2程度になるように、拡大する。そのため、拡大画像生成部112は、例えば、下記の数式で類似症例iに対する第2拡大率kiを計算する。表示領域の面積をSd、拡大対象の類似症例iのサムネイル画像の関心領域の面積をSiとすると、第2拡大率kiは以下の式で算出できる。
ki=1/2(Sd/Si)
ki=1/2(Sd/Si)
S1502では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像を第2拡大率kiで拡大する。表示制御部104は、サムネイル画像の関心領域の中心が表示領域の中心に位置するように症例表示領域710に拡大画像生成部112により拡大されたサムネイル画像を表示する。
上述の図23では、気道性が選択されている。この場合、類似症例のうち病変分布が気道性に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、症例表示領域710において、全てのサムネイル画像は関心領域ROIの中心が表示領域6901の中心に位置するように第2拡大率で拡大されている。
S1303では、拡大画像生成部112は、類似症例検索により得られた類似症例であって、ユーザが第3分布情報として選択した病変分布の類似症例のうち、症例表示領域710のサムネイル画像の最大表示件数以下の類似症例を類似度が高い順に抽出し、抽出した類似症例の数を拡大対象の類似症例数NZ3として決定する。そして、拡大画像生成部112は、抽出した類似症例iのサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNZ3に到達するまで、S2300、S1503の処理を繰り返す。拡大画像生成部112は、S2300、S1503の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNZ3を超えると(S1303でNO)、図54の処理は終了する。
S2300では、拡大画像生成部112は、症例表示領域710において、1つのサムネイル画像に対して予め定められた表示領域のサイズと、類似症例iの関心領域情報と、胸膜領域情報4900とを用いて、類似症例iについての第3分布情報に対応する第3拡大率を算出する。
図55は、胸膜領域情報4900が追加された類似症例データ4000のデータ構成を示す図である。なお、類似症例データ4000に胸膜領域情報4900が登録されていない場合、胸膜領域情報4900が得られない。この場合、拡大画像生成部112は、第3拡大率を、第1拡大率と同じ値である1.0に設定すればよい。ここで、胸膜領域情報4900は、類似症例において、胸膜領域を示す情報である。
S1503では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像でを第3拡大率kiで拡大する。表示制御部104は、サムネイル画像の関心領域の中心が表示領域の中心に位置するように症例表示領域710に拡大画像生成部112により拡大されたサムネイル画像を表示する。
図56は、胸膜領域7101を説明する図である。図56に示すように、胸膜領域7101は、胸膜を含む領域であって、中心が関心領域ROIの中心に位置し且つ関心領域ROIよりも少しサイズの大きな矩形状の領域である。ここで、胸膜領域情報4900には、胸膜領域7101の左上の頂点の座標(xpl、ypt)と右下の頂点の座標(xpr、ypb)との4値が含まれる。第3分布情報が選択された場合には、胸膜領域を拡大表示するため、拡大画像生成部112は、以下の式で第3拡大率kiを計算する。表示領域7102の面積をSd、胸膜領域7101の面積をSpとすると第3拡大率kiは、以下の式で算出できる。
ki=Sd/Sp
ki=Sd/Sp
なお、胸膜領域情報4900は、類似症例データ4000の作成時に関心領域情報と共にユーザにより入力されてもよい。或いは、胸膜領域情報4900は、画像処理装置により、スライス画像から肺の領域を自動的に抽出させ、胸膜位置を判定させることで自動的に作成されてもよい。
上述の図25では、胸膜下が選択されている。この場合、類似症例のうち病変分布が胸膜下に該当する類似症例のサムネイル画像のみが症例表示領域710に表示される。また、症例表示領域710において、全てのサムネイル画像は関心領域ROIの中心が表示領域7001の中心に位置するように第3拡大率で拡大されている。
以上の処理により、症例表示領域710には、病変分布に関する診断内容が反映された拡大率でサムネイル画像が表示される。そして、症例表示領域710において、関心領域のサイズが揃えられてサムネイル画像が表示される。そのため、関心領域が一部の類似医用画像において小さい状態で拡大されたために見落とされる事態が発生することを防止し、診断精度の向上を図ることができる。さらに、類似症例検索で得られた全ての類似症例ではなく、症例表示領域710で表示される類似症例に対してのみ、拡大処理が行われるため、システムへの負荷が大幅に軽減される。
(実施の形態2)
上記実施の形態1では、ユーザの操作部102に対する操作量に応じて、類似症例のサムネイル画像の拡大率を制御している。これに対して、実施の形態2では、基本画面に設けられた拡大率変更ボタンに対するユーザの操作によって、拡大率を制御している。
上記実施の形態1では、ユーザの操作部102に対する操作量に応じて、類似症例のサムネイル画像の拡大率を制御している。これに対して、実施の形態2では、基本画面に設けられた拡大率変更ボタンに対するユーザの操作によって、拡大率を制御している。
図57は、実施の形態2において、類似症例検索により検索された類似症例のサムネイル画像が症例表示領域710に表示された状態の基本画面K2を示す図である。以下では、上記実施の形態1と異なる部分を中心に説明する。
実施の形態2では、基本画面K2は、拡大率変更ボタン716(指示ボタンの一例)を備える。図57に示されるように、基本画面K2は、拡大率変更ボタン716として、第1指示ボタン717、第2指示ボタン718、及び第3指示ボタン719を含む。
実施の形態2において、拡大率変更ボタン716に含まれる第1指示ボタン717、第2指示ボタン718、及び第3指示ボタン719のいずれかをユーザが選択すると、その選択を入力制御部103が検知する。すると、入力制御部103は、ユーザが選択したボタンの情報を拡大画像生成部112に通知する。拡大画像生成部112は、通知されたボタンの情報に応じて、症例表示領域710に表示されている全てのサムネイル画像の拡大率を変更する。
拡大画像生成部112は、第1指示ボタン717がユーザにより選択されると、拡大率を1.0と算出する。なお、類似症例検索後の初期の基本画面K2では、第1指示ボタン717が選択された状態になっている。このため、図57の基本画面K2におけるサムネイル画像の拡大率は1.0倍である。また、図57では、表示制御部104は、第1指示ボタン717の色を変更している。
図58は、第2指示ボタン718がユーザにより選択された場合の基本画面K2を示す図である。図59は、第3指示ボタン719がユーザにより選択された場合の基本画面K2を示す図である。
図58では、表示制御部104は、第2指示ボタン718の色を変更している。また、図59では、表示制御部104は、第3指示ボタン719の色を変更している。
拡大画像生成部112は、図57または図59に示される基本画面K2において、第2指示ボタン718がユーザにより選択されると、図58に示されるように、関心領域ROIのサイズが表示領域5801のサイズの1/2程度に拡大されるように、各サムネイル画像の拡大率を算出する。
拡大画像生成部112は、図57または図58に示される基本画面K2において、第3指示ボタン719がユーザにより選択されると、図59に示されるように、関心領域ROIのサイズが表示領域5901のサイズと同程度に拡大されるように、各サムネイル画像の拡大率を算出する。
図58、図59では、最大表示件数ND(この実施の形態ではND=20)の症例表示領域710に、M個(図58、図59ではM=20)の類似症例のサムネイル画像が表示されており、M個(図58、図59では20個)のサムネイル画像が拡大されている。このように、実施の形態2では、症例表示領域710に表示されている全てのサムネイル画像が拡大されている。例えば図17のようにM=14の場合には、14個全てのサムネイル画像が拡大されることになる。
次に、ユーザが拡大率変更ボタン716の選択を行ったときの拡大処理について説明する。
図60は、ユーザが拡大率変更ボタン716の選択を行ったときの拡大処理を示すフローチャートである。
S2800では、拡大画像生成部112は、類似症例検索により取得した多数の類似症例のうち、拡大処理を行う対象を決定する。
実施の形態2では、実施の形態1の図48のS4100のような、基準となる類似症例のサムネイル画像の選択がユーザにより行われず、拡大率変更ボタン716の選択のみがユーザにより行われる。そのため、拡大画像生成部112は、ユーザによる拡大率変更ボタン716の選択時に症例表示領域710に表示されている全ての類似症例を、拡大処理を行う対象とする。そこで、拡大画像生成部112は、症例表示領域710に表示されている全てのサムネイル画像の類似症例IDを、類似症例データ4000(図30)から取得する。
S2400では、拡大画像生成部112は、入力制御部103から通知されたボタンの情報に基づき、ユーザが選択したボタンの種類を判定する。ユーザにより選択されたボタン種が第1指示ボタン717の場合はS2451に進み、選択されたボタン種が第2指示ボタン718の場合はS2452に進み、選択されたボタン種が第3指示ボタン719の場合はS2543に進む。
S2451では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNDに到達するまで、S2500、S4501の処理を繰り返す。拡大画像生成部112は、S2500、S4501の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNDを超えると(S2451でNO)、図60の処理は終了する。
S2500では、第1指示ボタン717がユーザにより選択されている。このため、S2500では、拡大画像生成部112は、拡大率を1.0として算出する。
S4501では、図48のS4500と同様に処理が行われる。その結果、拡大率は1.0であるため、表示制御部104は、図57に示されるように、症例表示領域710において、類似検索結果が得られた直後に表示されたサムネイル画像と同じ表示態様でサムネイル画像を表示する。
S2452では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNDに到達するまで、S2600、S4502の処理を繰り返す。拡大画像生成部112は、S2600、S4502の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNDを超えると(S2452でNO)、図60の処理は終了する。
S2600では、第2指示ボタン718がユーザにより選択されている。このため、S2600では、拡大画像生成部112は、上述のように、関心領域のサイズが表示領域のサイズの1/2程度になるように、拡大対象のサムネイル画像iの拡大率を算出する。拡大画像生成部112は、表示領域のサイズと、拡大対象のサムネイル画像iの類似症例データ4000(図30)内の関心領域情報4300とに基づき、拡大率を算出する。拡大画像生成部112は、以下のような式で拡大率kiを計算する。表示領域5701(図57)の面積をSd、拡大対象のサムネイル画像iの関心領域ROI(図57)の面積をSiとすると、拡大対象の類似症例iのサムネイル画像の拡大率kiは、以下の式で算出できる。
ki=1/2(Sd/Si)
ki=1/2(Sd/Si)
S4502では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像の関心領域の中心が表示領域の中心に位置するように、サムネイル画像を拡大する。表示制御部104は、拡大画像生成部112により生成された、拡大されたサムネイル画像を症例表示領域710に表示する。
なお、この実施の形態2では、拡大画像生成部112は、第2指示ボタン718が選択されたときの拡大率を、表示領域のサイズに対する関心領域のサイズの比率が1/2程度になるように算出している。しかし、本開示では、上記比率は1/2に限られない。例えば、上記比率は1/3、2/3などの他の値でもよい。
S2453では、拡大画像生成部112は、類似症例i(iは処理対象の類似症例を特定するインデックスであり1以上の整数)のサムネイル画像を処理対象のサムネイル画像として決定する。そして、拡大画像生成部112は、iがNDに到達するまで、S2700、S4503の処理を繰り返す。拡大画像生成部112は、S2700、S4503の処理を実行する度に、インデックスiを1ずつインクリメントする。iがNDを超えると(S2453でNO)、図60の処理は終了する。
S2700では、第3指示ボタン719がユーザにより選択されている。このため、S2700では、拡大画像生成部112は、上述のように、関心領域のサイズが表示領域のサイズと同程度になるように、拡大対象のサムネイル画像iの拡大率を算出する。拡大画像生成部112は、表示領域のサイズと、拡大対象の類似症例iの類似症例データ4000(図30)内の関心領域情報4300とに基づき、拡大率を算出する。拡大画像生成部112は、以下のような式で拡大率kiを計算する。表示領域5701(図57)の面積をSd、拡大対象の類似症例iのサムネイル画像の関心領域ROI(図57)の面積をSiとすると、拡大対象の類似症例iのサムネイル画像の拡大率kiは、以下の式で算出できる。
ki=Sd/Si
ki=Sd/Si
S4503では、図48のS4500と同様に処理が行われる。その結果、拡大画像生成部112は、類似症例iのサムネイル画像の関心領域の中心が表示領域の中心に位置するように、サムネイル画像を拡大する。表示制御部104は、拡大画像生成部112により生成された、拡大されたサムネイル画像を症例表示領域710に表示する。
なお、この実施の形態2では、拡大画像生成部112は、第3指示ボタン719が選択されたときの拡大率を、表示領域のサイズに対する関心領域のサイズの比率が1.0程度になるように算出している。しかし、本開示では、上記比率は1.0に限られない。例えば、上記比率は1.1、0.9などの他の値でもよい。
以上の処理により、症例表示領域710において、個々の表示領域内の関心領域ROIのサイズを揃えることができる。その結果、関心領域が一部の類似医用画像において小さい状態で拡大されたために見落とされる事態が発生することを防止し、診断精度の向上を図ることができる。このとき、類似症例検索で得られた全ての類似症例ではなく、症例表示領域710で表示される類似症例に対してのみ、拡大処理が行われる。このため、システムへの負荷が大幅に軽減される。
以上では、サムネイル画像の拡大率の変更処理を情報端末100において実行する例を示した。実施の形態2における拡大率変更ボタン716を用いた拡大率の変更処理の場合には、拡大率の変更処理を症例検索システム300で実行してもよい。この場合には、症例検索システム300は、拡大率が変更されたサムネイル画像を予め生成しておいてもよい。そして、拡大率変更ボタンが操作された時に、症例検索システム300から情報端末100にサムネイル画像を送信してもよい。
図61は、症例検索システム300が類似症例検索結果を情報端末100に送信した後、情報端末100において拡大率変更ボタン716が選択されてから拡大されたサムネイル画像を情報端末100のディスプレイ101bに表示するまでの処理を示すシーケンス図である。図62は、症例検索システム300において実行される事前処理と、図61に示される処理とを示すフローチャートである。図62では、図61に示される処理と同じ処理については同じ符号が付されている。図61、図62を用いて、処理の詳細を説明する。
まず、症例検索システム300で実行される事前処理が説明される。図62のS3100では、症例検索システム300は、拡大率変更ボタン716の第1指示ボタン717、第2指示ボタン718、第3指示ボタン719の各々に対して各サムネイル画像の拡大率を決定する。なお、拡大率決定の手順は、上述の図60のS2500、S2600、S2700で説明された手順を用いればよい。
S3110では、症例検索システム300は、S3100で決定した拡大率と、類似症例データ4000(図30)のサムネイル画像データ4500とに基づき、第1指示ボタン717、第2指示ボタン718、第3指示ボタン719に対する拡大されたサムネイル画像データをそれぞれ生成する。症例検索システム300は、生成した拡大サムネイル画像データを、図63に示すように、類似症例データ4000(図30)とは別に、拡大サムネイルデータ5000として、類似症例データ蓄積部301に格納する。
図63は、拡大サムネイルデータ5000のデータ構成を示す図である。拡大サムネイルデータ5000は、拡大されたサムネイル画像データを類似症例データ蓄積部301に保存するためのデータである。拡大サムネイルデータ5000は、図63に示されるように、類似症例ID5100に対応付けられて、第1指示ボタン717に対応する拡大サムネイル画像データ5200と、第2指示ボタン718に対応する拡大サムネイル画像データ5300と、第3指示ボタン719に対応する拡大サムネイル画像データ5400とを含む。
次に、図61、図62を用いて、情報端末100において、ユーザにより拡大率変更ボタンが選択された場合の処理について説明する。
S3010では、入力制御部103は、ユーザが拡大率変更ボタン716を選択したときの指示ボタンの種類を検知する。つまり、入力制御部103は、第1指示ボタン717、第2指示ボタン718、第3指示ボタン719のいずれをユーザが選択したかを検知する。
S3020では、表示制御部104は、拡大率変更ボタン716がユーザにより選択された時に症例表示領域710に表示されているND個(この実施の形態ではND=20)の類似症例の類似症例IDを類似症例データ4000(図30)から取得する。また、表示制御部104は、取得した類似症例IDを拡大対象の類似症例として決定する。
S3030では、通信制御部110は、S3010で入力制御部103が検知した拡大率変更ボタン716の種類と、S3020で表示制御部104が取得した拡大対象の類似症例ID(ND個)とを、症例検索システム300に送信する。
S3040では、症例検索システム300の通信制御部304は、S3030で情報端末100から送信された拡大率変更ボタン716の種類と拡大対象の類似症例ID(ND個)とを受信する。
S3050では、症例検索システム300は、受信した類似症例IDと拡大率変更ボタン716の種類とから、拡大サムネイルデータ5000の拡大サムネイル画像データ5200,5300,5400のうち表示に使用する画像データを特定する。症例検索システム300の通信制御部304は、特定した拡大サムネイル画像データを情報端末100に送信する。
S3060では、情報端末100の通信制御部110は、症例検索システム300から送信された拡大サムネイル画像データを受信する。
S3070では、情報端末100の表示制御部104は、S3060で通信制御部110が受信した拡大サムネイル画像データに基づき、類似症例の拡大されたサムネイル画像を情報端末100のディスプレイ101bの症例表示領域710に表示する。
(実施の形態1の補足)
次に、図32、図36Aのシーケンス図をアプリケーションのレベルで着目したときの情報端末100、医用情報管理システム200、及び症例検索システム300の処理について説明する。
次に、図32、図36Aのシーケンス図をアプリケーションのレベルで着目したときの情報端末100、医用情報管理システム200、及び症例検索システム300の処理について説明する。
図64は、図32及び図36Aのシーケンス図をアプリケーションのレベルで着目したときのシーケンス図である。図64において、図32と同じ処理には同じ符号を付している。
図64、図65において、「A」は情報端末100が実行する医用情報管理アプリケーションの処理を示し、「B」は情報端末100が実行する類似症例検索アプリケーションの処理を示す。以下、医用情報管理アプリケーションを「アプリA」と記述し、類似症例検索アプリケーションを「アプリB」と記述する。
まず、アプリAは、ユーザから読影対象となる検査リストの表示要求を受け付け、医用情報管理システム200に送信する(S510)。医用情報管理システム200は検査リストを受信すると、画像検査が実施後で読影が未終了の検査をリスト化し、読影対象となる検査リストを生成し、アプリAに送信する。
検査リストを受信したアプリAは、図33に示すように、検査リストをディスプレイ101に表示し、検査リストの中から1の検査がユーザにより選択されると(S530)、選択された検査の表示要求を医用情報管理システム200に送信する(S540)。
検査要求を受信した医用情報管理システム200は、表示要求が指定する検査IDに含まれる全シリーズの全スライス画像をアプリAに送信する(S550)。
次に、アプリAは、図34に示すように、指定された検査IDに含まれる全シリーズに関する情報を一覧表示するシリーズリストを表示する(S560)。
次に、アプリAは、シリーズリストの中から読影対象のシリーズがユーザにより選択されると、選択されたシリーズの最初のスライド位置のスライド画像を医用画像ビューワ610に表示する(S570)。このとき、ユーザは、スライス送りする操作を入力し、医用画像ビューワ610に所望のスライス画像を表示させる。
次に、アプリAは、医用画像ビューワ610に表示されたスライス画像において、関心領域を設定する操作をユーザから受け付ける(S580)。
次に、アプリAは、ユーザにより設定された関心領域を示す関心領域情報を生成し、関心領域が設定されたスライス画像(診断対象症例のスライス画像)と共に、アプリBに送信する(S590、S600)。
次に、アプリBは、診断対象症例のスライス画像及び関心領域情報を受信すると、そのスライス画像及び関心領域情報を症例検索システムに送信する(S601、S602)。
スライス画像及び関心領域情報を受信すると、症例検索システム300は、図36Aと同様、S610〜S640の処理を実行する。
次に、アプリBは、S640で送信された類似症例データ及び表示ボックス管理情報4410を用いて初期の基本画面を生成する(S670)。そして、アプリBは、図37に詳細が示されるS670の処理を実行する。
図65は、情報端末100において類似症例のサムネイル画像がドラッグアンドドロップされる際の処理をアプリケーションのレベルで着目したときのシーケンス図である。
図64との相違点は、S603、S604にある。図65では、画像特徴は情報端末100で抽出されている。よって、アプリBが診断対象症例のスライス画像に設定された関心領域から画像特徴を抽出し(S603)、抽出した画像特徴を症例検索システム300に送信している(S604)。
本開示によれば、読影対象である医用画像を用いて診断するにあたって参考となる類似症例を提示する類似症例検索装置、および研修読影医のための読影教育装置等に利用可能である。
上記課題を解決するため、本開示の一態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
本開示の第1の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるものである。
本態様によると、前記読影対象の対象医用画像の中の関心領域と所定の類似度を有する類似医用画像であって既に病名が特定されているNC個の類似医用画像を前記症例検索システムから受信し、前記NC個の類似医用画像の中のM個の類似医用画像を表示する。これにより、前記医用画像データベースに登録されている膨大な医用画像の中から、前記対象医用画像に表れている病変の病名を検討するために参考となる類似医用画像を効率的に抽出して、医師に提示できる。
このように、一つの指示によって、画像表示数に制約がある表示画面を有効活用しながら、医師が関心を持つ領域を中心に、前記M個以下の類似医用画像の各々を拡大させる。その結果、例えば、前記医用画像データベースに膨大な数の医用画像が登録されている場合であっても、前記読影対象の対象医用画像を診断する上で参考となる類似医用画像を効果的に医師に提示する。したがって、診断精度の向上に寄与できる。
また、前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるようにしてもよい。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個以下の類似医用画像の各々に含まれる前記対応関心領域を、前記M個以下の類似医用画像に共通する一定の割合で拡大した場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個以下の類似医用画像を拡大しても、拡大された前記対応関心領域の大きさは、ばらばらとなる。
本態様によると、例えば、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させる。
これによると、前記M個以下の類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさのばらつきを、前記M個以下の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個以下の類似医用画像について、前記拡大された対応関心領域を医師はほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1の態様において、例えば、
前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させてもよい。
また、前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させるようにしてもよい。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個以下の類似医用画像の各々に含まれる前記対応関心領域を、前記M個以下の類似医用画像に共通する一定の割合で拡大した場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個以下の類似医用画像を拡大しても、拡大された前記対応関心領域の大きさは、ばらばらとなる。
本態様によると、例えば、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させる。
これによると、前記M個以下の類似医用画像を拡大した場合、拡大された前記対応関心領域の大きさのばらつきを、前記M個以下の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個以下の類似医用画像について、前記拡大された対応関心領域を医師はほぼ同様の大きさにて観察できる。その結果、前記対応関心領域が一部の類似医用画像において小さい状態で拡大されたために見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第1の態様において、例えば、
前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させてもよい。
この場合、前記M個以下の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示によって、前記M個以下の類似医用画像が拡大されることになる。そのため、医師が前記M個以下の類似医用画像の中で、拡大してより詳細を確認するためにいずれか一の類似医用画像を選択すると、前記M個の類似医用画像の中の他の類似医用画像までも拡大される。即ち、前記M個の類似医用画像の拡大のための特別の操作を医師に要求するものではなく、医師が拡大により詳細を確認するためにいずれか一の類似医用画像を選択するという自然な操作の流れに沿って、前記M個の類似医用画像の中の他の類似医用画像までも拡大される。その結果、前記M個以下の類似医用画像を効率的に拡大する。したがって、医師の操作負担を軽減して、その分、医師を専門的な判断に集中させて、診断精度の向上を図ることができる。
また、本開示の第2の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さいサイズになるように所定倍に拡大表示させる第1指示ボタンを含み、前記所定倍は個々の類似医用画像毎に異なり、
前記第1指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さいサイズになるように所定倍に拡大表示させる第1指示ボタンを含み、前記所定倍は個々の類似医用画像毎に異なり、
前記第1指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるものである。
また、前記M個の類似医用画像に共通の一つの指示によって、前記M個の類似医用画像の表示サイズを変化させることになる。そのため、医師が前記M個の類似医用画像の中で、表示サイズを変化させながらより詳細を確認するために指示ボタンに対する一つの操作を行うと、前記M個の類似医用画像の全てが拡大される。即ち、前記M個の類似医用画像の表示サイズを変化させるための個別の操作を医師に要求するものではなく、医師が表示サイズを変化させてより詳細を確認するために、指示ボタンに対する一つの操作を行うという自然な操作の流れに沿って、前記M個の類似医用画像の全ての表示サイズが変化する。その結果、前記M個の類似医用画像の表示サイズを効率的に変化させる。したがって、医師の操作負担を軽減して、その分、医師を専門的な判断に集中させて、診断精度の向上を図ることができる。
また、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さいサイズになるように所定倍に拡大表示させる第1指示ボタンを含み、
前記第1指示ボタンによる一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるようにしてもよい。
本態様によると、前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さいサイズになるように所定倍に拡大表示させる第1指示ボタンを含んでいる。
これにより、前記M個の類似医用画像を初期表示サイズにて表示させる場合と、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる場合との中間に相当する表示サイズに各対応関心領域の表示サイズを変化させる場合に、医師は一つの指示にて行うことができる。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個の類似医用画像の各々に含まれる前記対応関心領域の表示サイズを、前記M個の類似医用画像に共通する一定の割合で変化させた場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個の類似医用画像を拡大しても、拡大された前記対応関心領域の表示サイズは、ばらばらとなる。
本態様によると、例えば、前記所定倍は個々の類似医用画像毎に異なり、前記第1指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させる。
これによると、前記各対応関心領域の表示サイズを変化させる場合、前記変化した前記各対応関心領域の表示サイズのばらつきを、前記M個の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個の類似医用画像について、前記変化した表示サイズの前記各対象関心領域を医師はほぼ同様の大きさにて観察できる。その結果、一部の類似医用画像の前記対象関心領域の表示サイズが他の類似医用画像の前記対象関心領域の表示サイズより小さい状態に変化したために、見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第2の態様において、例えば、
前記情報端末のコンピュータに対して、
前記NC個の類似医用画像の中のM個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記共通の一以上の指示ボタンによる一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させてもよい。
また、前記一以上の指示ボタンは、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さいサイズになるように所定倍に拡大表示させる第1指示ボタンを含み、
前記第1指示ボタンによる一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させるようにしてもよい。
本態様によると、前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さいサイズになるように所定倍に拡大表示させる第1指示ボタンを含んでいる。
これにより、前記M個の類似医用画像を初期表示サイズにて表示させる場合と、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる場合との中間に相当する表示サイズに各対応関心領域の表示サイズを変化させる場合に、医師は一つの指示にて行うことができる。
NC個の類似医用画像において、前記対応関心領域の大きさは同じではない。個々の類似医用画像に含まれる病変の大きさが異なり、また、過去に前記対応関心領域を付与した医師も異なるなどの理由がある。
そのため、前記M個の類似医用画像の各々に含まれる前記対応関心領域の表示サイズを、前記M個の類似医用画像に共通する一定の割合で変化させた場合、前記対応関心領域が比較的小さいものは、前記対応関心領域は比較的小さく拡大され、一方、前記対応関心領域が比較的大きいものは、前記対応関心領域は比較的大きく拡大される。即ち、前記M個の類似医用画像を拡大しても、拡大された前記対応関心領域の表示サイズは、ばらばらとなる。
本態様によると、例えば、前記所定倍は個々の類似医用画像毎に異なり、前記第1指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させる。
これによると、前記各対応関心領域の表示サイズを変化させる場合、前記変化した前記各対応関心領域の表示サイズのばらつきを、前記M個の類似医用画像間で、一定範囲に収束できる。
そのため、前記M個の類似医用画像について、前記変化した表示サイズの前記各対象関心領域を医師はほぼ同様の大きさにて観察できる。その結果、一部の類似医用画像の前記対象関心領域の表示サイズが他の類似医用画像の前記対象関心領域の表示サイズより小さい状態に変化したために、見落としなどが発生するのを防止し、診断精度の向上を図ることができる。
また、上記第2の態様において、例えば、
前記情報端末のコンピュータに対して、
前記NC個の類似医用画像の中のM個の類似医用画像を前記対象医用画像との類似度が高い順序で前記第2表示領域に表示させ、
前記共通の一以上の指示ボタンによる一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させてもよい。
この場合、前記M個の類似医用画像に共通の一つの指示ボタンによる指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像の表示サイズを変化させる。即ち、前記医用画像データベースに登録されている膨大な医用画像の中から、前記対象医用画像の中の関心領域と所定の類似度を有する類似医用画像を前記症例検索システムから受信する場合でも、前記受信するNC個の類似医用画像は、例えば、NCが200画像、300画像と画像数は多い。この際、一つの指示により類似医用画像の表示サイズを変化させるにしても、前記受信したNC個の類似医用画像の全ての表示サイズを変化させるのは非効率である。従って、前記受信したNC個の類似医用画像の中から一定範囲の画像に限定して、前記一つの指示により類似医用画像の表示サイズを変化させる方が望ましい。
また、上記第2態様において、例えば、
前記表示画面は、前記一以上の指示ボタンとして、少なくとも、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる第2指示ボタン、及び、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる第3指示ボタンを含み、
前記第2指示ボタン又は前記第3指示ボタンによるいずれか一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを一律に変化させるようにしてもよい。
前記表示画面は、前記一以上の指示ボタンとして、少なくとも、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる第2指示ボタン、及び、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる第3指示ボタンを含み、
前記第2指示ボタン又は前記第3指示ボタンによるいずれか一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを一律に変化させるようにしてもよい。
本態様によると、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる際には、医師は前記第2指示ボタンという一つの指示を選択すればよい。また、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる際には、医師は前記第3指示ボタンという一つの指示を選択すればよい。これにより、前記第2指示ボタン又は前記第3指示ボタンのいずれか一の指示によって、前記M個の類似医用画像を表示する各個別領域のサイズは同一サイズを維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズは一律に変化する。
本開示の第3の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
本開示の第4の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
本開示の第4の態様は、
医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記受信したNC個の類似医用画像の各々は、前記関心領域に対応する対応関心領域を含み、かつ、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させ、かつ、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させるものである。
また、上記第1の態様から上記第4の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
また、上記第1の態様から上記第4の態様において、例えば、
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させるとしてもよい。
また、上記第1の態様から上記第4の態様において、例えば、
前記対象医用画像は肺の医用画像であり、
前記類似医用画像は肺の医用画像であり、
前記第2表示領域は、
前記対応関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが、肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第2表示領域に表示させるとしてもよい。
前記対象医用画像は肺の医用画像であり、
前記類似医用画像は肺の医用画像であり、
前記第2表示領域は、
前記対応関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが、肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第2表示領域に表示させるとしてもよい。
また、上記第1の態様から上記第4の態様において、例えば、
前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、対応する個別領域に初期表示サイズにて表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させるとしてもよい。
前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、対応する個別領域に初期表示サイズにて表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させるとしてもよい。
また、上記第1の態様から上記第4の態様において、例えば、
前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリー
に属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報であるとしてもよい。
前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリー
に属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報であるとしてもよい。
Claims (17)
- 医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる、
制御方法。 - 前記表示画面はスクロールバーを有し、
前記スクロールバーの移動を検知すると、前記第2表示領域に表示される類似医用画像をスクロールさせ、
前記類似医用画像がスクロールされるに応じて、前記拡大される類似医用画像を増加させる、
請求項1記載の制御方法。 - 前記受信したNC個の類似医用画像の総数NCを示す情報が前記表示画面に表示される、
請求項1から請求項2のいずれか一に記載の制御方法。 - 前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各類似医用画像を拡大させる、
請求項1から請求項3のいずれか一に記載の制御方法。 - 医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末の制御方法であって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させる、
制御方法。 - 前記表示画面は、前記一以上の指示ボタンとして、少なくとも、前記M個の類似医用画像を前記各個別領域に初期表示サイズにて表示させる第1指示ボタン、及び、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズに合わせて拡大表示させる第2指示ボタンを含み、
前記第1指示ボタン又は前記第2指示ボタンによるいずれか一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを一律に変化させる、
請求項5記載の制御方法。 - 前記表示画面は、前記一以上の指示ボタンとして、前記M個の類似医用画像に含まれる各対応関心領域を前記各個別領域のサイズより小さい所定倍に拡大表示させる第3指示ボタンを含み、
前記第3指示ボタンによる一の指示を検知すると、前記一の指示に応じて、前記M個の類似医用画像を表示する各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させる、
請求項5から請求項6のいずれか一に記載の制御方法。 - 前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記所定倍は個々の類似医用画像毎に異なり、
前記第3指示ボタンによる一つの指示を検知すると、前記第2指定情報が示す前記対応関心領域の大きさに応じて、前記各対応関心領域の表示サイズを変化させる、
請求項7記載の制御方法。 - 前記第2指定情報が示す前記対応関心領域の大きさが第1サイズの場合、前記第2指定情報が示す前記対応関心領域の大きさが前記第1サイズより大きい第2サイズの場合に比べて、前記対応関心領域を大きく拡大させる、
請求項4又は8に記載の制御方法。 - 前記受信したNC個の類似医用画像の各々は、前記各類似医用画像の中の前記対応関心領域を示す第2指定情報を含み、
前記各類似医用画像の中の前記対応関心領域を中心として拡大させる際、前記第2指定情報が示す前記対応関心領域の大きさが、前記類似医用画像の各個別領域のサイズに対して所定の割合となる拡大率にて、前記各類似医用画像を拡大させる、
請求項1から請求項3又は請求項5から請求項7のいずれか一に記載の制御方法。 - 前記制御方法は、
前記情報端末のコンピュータに対して、
前記関心領域の特徴量を示す情報を前記症例検索システムに送信させ、
前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させる、
請求項1から請求項10いずれか一に記載の制御方法。 - 前記制御方法は、
前記情報端末のコンピュータに対して、
前記対象医用画像及び前記関心領域を示す指定情報を前記症例検索システムに送信させ、
前記対象医用画像及び前記指定情報から得られる前記関心領域の特徴量と前記所定の類似度を有する類似医用画像を前記症例検索システムから受信させる、
請求項1から請求項10のいずれか一に記載の制御方法。 - 前記対象医用画像は肺の医用画像であり、
前記類似医用画像は肺の医用画像であり、
前記第2表示領域は、
前記対応関心領域の大きさが、肺の領域に対して広範囲であることを示す所定の第1範囲に属する類似医用画像を選択させる第1分布情報、前記対応関心領域の大きさが、肺の領域の一部であることを示す前記第1範囲より低い所定の第2範囲に属する類似医用画像を選択させる第2分布情報、及び、前記対応関心領域が胸膜を含む類似医用画像を選択させる第3分布情報を含み、
前記第1分布情報から前記第3分布情報の中のいずれか一の選択が検知された場合、前記選択された一の分布情報に対応する類似医用画像を選択して前記第2表示領域に表示させる、
請求項1から請求項12のいずれか一に記載の制御方法。 - 前記第1分布情報の選択が検知された場合、前記第1分布情報に対応する類似医用画像を、対応する個別領域に初期表示サイズにて表示させ、
前記第2分布情報の選択が検知された場合、前記第2分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記第2分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させ、
前記第3分布情報の選択が検知された場合、前記第3分布情報に対応する類似医用画像の中の前記対応関心領域を中心として、前記胸膜を含んだ状態で、前記第3分布情報に対応する類似医用画像を、対応する個別領域内に拡大表示させる、
請求項13記載の制御方法。 - 前記第1分布情報は、両側性、多発性、びまん性又は血行性のカテゴリーに属する分布を示す情報であり、
前記第2分布情報は、区域性又は気道性のカテゴリーに属する分布を示す情報であり、
前記第3分布情報は、胸膜下のカテゴリーに属する分布を示す情報である、
請求項13又は請求項14に記載の制御方法。 - 医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末において実行されるプログラムであって、
前記ディスプレイには読影対象候補の中から選択された読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上ND以下の整数)個の個別領域を含み、
前記M個の類似医用画像の中のいずれか一の類似医用画像を拡大する一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個以下の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個以下の各類似医用画像の中の前記対応関心領域を、前記各個別領域の中心に相当する位置に合わせて拡大させる、
プログラム。 - 医用画像を登録する医用画像データベースを参照して医用画像を検索する症例検索システムに接続し、ディスプレイを有する情報端末において実行されるプログラムであって、
前記ディスプレイには読影対象候補の中から選択された一の読影対象の医用画像である対象医用画像が表示され、前記対象医用画像の付加情報には病名情報が設定されておらず、
前記情報端末のコンピュータに対して、
前記対象医用画像の中の関心領域を示す第1指定情報を検知させ、
前記第1指定情報によって示された関心領域に応じて、前記関心領域の特徴量と所定の類似度を有するNC(NCは2以上の整数)個の類似医用画像を前記症例検索システムから受信させ、前記NC個の類似医用画像の付加情報には病名情報が設定されており、前記NC個の類似医用画像は、前記関心領域に対応する対応関心領域を含み、
前記対象医用画像を表示する第1表示領域と、前記NC個の類似医用画像の中のM(Mは1以上NC以下の整数)個の類似医用画像を前記対象医用画像との類似度が高い順序で表示する第2表示領域とを含む表示画面を、前記ディスプレイに表示させ、前記第2表示領域は、前記M個の類似医用画像を表示するためのND(NDはM以上NC以下の整数)個の個別領域を含み、前記表示画面は前記M個の類似医用画像の表示サイズを変化させる前記M個の類似医用画像に共通の一以上の指示ボタンを含み、
前記指示ボタンによる一つの指示を検知した場合、前記一つの指示を検知した際に前記第2表示領域に表示されている前記M個の範囲で前記M個の各類似医用画像について、前記第2表示領域における各個別領域のサイズを同一サイズに維持しつつ、前記M個の類似医用画像に含まれる各対応関心領域の表示サイズを変化させる、
プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2014/002057 WO2015155808A1 (ja) | 2014-04-09 | 2014-04-09 | 情報端末の制御方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5815167B1 JP5815167B1 (ja) | 2015-11-17 |
JPWO2015155808A1 true JPWO2015155808A1 (ja) | 2017-04-13 |
Family
ID=54287414
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015533776A Active JP5815167B1 (ja) | 2014-04-09 | 2014-04-09 | 情報端末の制御方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (3) | US10327640B2 (ja) |
JP (1) | JP5815167B1 (ja) |
WO (1) | WO2015155808A1 (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10586618B2 (en) | 2014-05-07 | 2020-03-10 | Lifetrack Medical Systems Private Ltd. | Characterizing states of subject |
JP6224561B2 (ja) * | 2014-09-16 | 2017-11-01 | 富士フイルム株式会社 | 携帯型コンソール、携帯型コンソールの制御方法、携帯型コンソール用プログラム及び放射線撮影システム |
JP6527771B2 (ja) * | 2015-07-21 | 2019-06-05 | 富士フイルム株式会社 | 情報分析支援装置とその作動方法および作動プログラム、並びに情報分析支援システム |
KR102522539B1 (ko) * | 2015-08-17 | 2023-04-18 | 삼성전자주식회사 | 의료영상 표시장치 및 의료영상 처리방법 |
CN106560827B (zh) * | 2015-09-30 | 2021-11-26 | 松下知识产权经营株式会社 | 控制方法 |
US10535135B2 (en) * | 2015-10-29 | 2020-01-14 | Canon Kabushiki Kaisha | Image processing apparatus, control method thereof, and storage medium |
AU2017204494B2 (en) * | 2016-09-01 | 2019-06-13 | Casio Computer Co., Ltd. | Diagnosis assisting device, image processing method in diagnosis assisting device, and non-transitory storage medium having stored therein program |
JP6853095B2 (ja) * | 2017-03-31 | 2021-03-31 | キヤノンメディカルシステムズ株式会社 | 医用情報処理装置及び医用情報処理方法 |
JP6885896B2 (ja) * | 2017-04-10 | 2021-06-16 | 富士フイルム株式会社 | 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム |
US10878024B2 (en) * | 2017-04-20 | 2020-12-29 | Adobe Inc. | Dynamic thumbnails |
JP7121470B2 (ja) * | 2017-05-12 | 2022-08-18 | キヤノン株式会社 | 画像処理システム、制御方法、及び、プログラム |
US11380045B2 (en) | 2018-10-29 | 2022-07-05 | Autodesk, Inc. | Shaped-based techniques for exploring design spaces |
US11741662B2 (en) | 2018-10-29 | 2023-08-29 | Autodesk, Inc. | Shaped-based techniques for exploring design spaces |
US11126330B2 (en) * | 2018-10-29 | 2021-09-21 | Autodesk, Inc. | Shaped-based techniques for exploring design spaces |
CA3147361A1 (en) * | 2019-08-09 | 2021-02-18 | Clearview Ai, Inc. | Methods for providing information about a person based on facial recognition |
US11551357B2 (en) * | 2019-09-09 | 2023-01-10 | PAIGE.AI, Inc. | Systems and methods for processing images of slides for digital pathology |
JP2021078824A (ja) * | 2019-11-20 | 2021-05-27 | キヤノンメディカルシステムズ株式会社 | X線診断装置 |
CN111354444A (zh) * | 2020-02-28 | 2020-06-30 | 上海商汤智能科技有限公司 | 病理切片图像的展示方法及装置、电子设备和存储介质 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3883979B2 (ja) * | 2003-03-31 | 2007-02-21 | 富士フイルムホールディングス株式会社 | 画像再生装置およびプログラム |
US7725837B2 (en) * | 2005-03-31 | 2010-05-25 | Microsoft Corporation | Digital image browser |
JP4820680B2 (ja) * | 2006-04-12 | 2011-11-24 | 株式会社東芝 | 医用画像表示装置 |
JP2007287018A (ja) | 2006-04-19 | 2007-11-01 | Fujifilm Corp | 診断支援システム |
US8249315B2 (en) * | 2006-05-22 | 2012-08-21 | Upmc | System and method for improved viewing and navigation of digital images |
JP4997892B2 (ja) * | 2006-09-19 | 2012-08-08 | 富士ゼロックス株式会社 | 検索システム、検索方法及び検索プログラム |
JP5128161B2 (ja) | 2007-03-30 | 2013-01-23 | 富士フイルム株式会社 | 画像診断支援装置及びシステム |
JP5562525B2 (ja) * | 2008-03-04 | 2014-07-30 | 株式会社東芝 | 医用情報表示装置および医用情報表示プログラム |
JP5572440B2 (ja) * | 2009-09-15 | 2014-08-13 | 富士フイルム株式会社 | 診断支援システム、診断支援プログラムおよび診断支援方法 |
EP2486503A2 (en) * | 2009-10-07 | 2012-08-15 | Hologic, Inc. | Processing and displaying computer-aided detection information associated with breast x-ray images |
US20110283242A1 (en) * | 2010-05-14 | 2011-11-17 | Sap Ag | Report or application screen searching |
US20120069049A1 (en) * | 2010-09-16 | 2012-03-22 | Omnyx, LLC | Digital pathology image manipulation |
JP6021468B2 (ja) * | 2012-06-26 | 2016-11-09 | 東芝メディカルシステムズ株式会社 | 医用画像表示装置 |
-
2014
- 2014-04-09 WO PCT/JP2014/002057 patent/WO2015155808A1/ja active Application Filing
- 2014-04-09 JP JP2015533776A patent/JP5815167B1/ja active Active
-
2015
- 2015-07-15 US US14/800,025 patent/US10327640B2/en active Active
-
2019
- 2019-04-10 US US16/380,686 patent/US10568512B2/en active Active
-
2020
- 2020-01-17 US US16/746,155 patent/US11185228B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20190231190A1 (en) | 2019-08-01 |
US20200146551A1 (en) | 2020-05-14 |
US10327640B2 (en) | 2019-06-25 |
US10568512B2 (en) | 2020-02-25 |
WO2015155808A1 (ja) | 2015-10-15 |
US11185228B2 (en) | 2021-11-30 |
US20150317452A1 (en) | 2015-11-05 |
JP5815167B1 (ja) | 2015-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6874193B2 (ja) | 情報端末、制御方法及びプログラム | |
JP6907381B2 (ja) | 制御方法及びプログラム | |
JP5815167B1 (ja) | 情報端末の制御方法及びプログラム | |
JP6960612B2 (ja) | 制御方法及びプログラム | |
US11179036B2 (en) | Control method of information terminal and computer-readable recording medium | |
JP6799115B2 (ja) | 情報端末の制御方法及びプログラム | |
JP6578135B2 (ja) | 制御方法及びプログラム | |
JP6722857B2 (ja) | 制御方法及びプログラム | |
JP6697743B2 (ja) | 情報端末の制御方法及びプログラム | |
JP6675099B2 (ja) | 制御方法及びプログラム | |
JP6664113B2 (ja) | 情報端末の制御方法及びプログラム | |
JP2018130408A (ja) | 情報端末の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20150831 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150908 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150918 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5815167 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |