JP6867117B2 - Medical image processing method and medical image processing device - Google Patents

Medical image processing method and medical image processing device Download PDF

Info

Publication number
JP6867117B2
JP6867117B2 JP2016136180A JP2016136180A JP6867117B2 JP 6867117 B2 JP6867117 B2 JP 6867117B2 JP 2016136180 A JP2016136180 A JP 2016136180A JP 2016136180 A JP2016136180 A JP 2016136180A JP 6867117 B2 JP6867117 B2 JP 6867117B2
Authority
JP
Japan
Prior art keywords
image
resolution
eye
medical
artificial intelligence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016136180A
Other languages
Japanese (ja)
Other versions
JP2018005841A (en
Inventor
徳泰 竹田
徳泰 竹田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Topcon Corp
Original Assignee
Topcon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Topcon Corp filed Critical Topcon Corp
Priority to JP2016136180A priority Critical patent/JP6867117B2/en
Publication of JP2018005841A publication Critical patent/JP2018005841A/en
Application granted granted Critical
Publication of JP6867117B2 publication Critical patent/JP6867117B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、医用画像処理方法及び医用画像処理装置に関する。 The present invention relates to a medical image processing method and a medical image processing apparatus.

医療の様々な分野において画像診断や画像解析は重要な位置を占める。例えば眼科分野では、細隙灯顕微鏡、眼底カメラ、走査型レーザ検眼鏡(SLO)、光コヒーレンストモグラフィ(OCT)、レーザスペックルフローグラフィ(LSFG)、手術用顕微鏡など多様な撮影装置が使用される。また、複数の撮影手法に使用可能な撮影装置もある。例えば、眼底カメラにより行われる撮影手法には、赤外観察、カラー撮影、フルオレセイン蛍光造影撮影、インドシアニングリーン蛍光造影撮影、自発蛍光撮影、レッドレフレックス撮影などがある。また、OCTにより行われる撮影手法には、Bスキャンやボリュームスキャン等の形態撮影、血管造影、血流計測、偏光撮影などがある。更に、撮影装置以外の眼科装置(検査装置)の多くにも、被検眼を観察するための赤外動画撮影機能が設けられている。 Image diagnosis and image analysis occupy an important position in various fields of medicine. For example, in the field of ophthalmology, various imaging devices such as a slit lamp microscope, a fundus camera, a scanning laser ophthalmoscope (SLO), an optical coherence tomography (OCT), a laser speckle flowography (LSFG), and a surgical microscope are used. To. There are also imaging devices that can be used for multiple imaging techniques. For example, imaging techniques performed by a fundus camera include infrared observation, color imaging, fluorescein fluorescence imaging, indocyanine green fluorescence imaging, spontaneous fluorescence imaging, and red reflex imaging. In addition, imaging methods performed by OCT include morphological imaging such as B scan and volume scanning, angiography, blood flow measurement, and polarized imaging. Further, many ophthalmic devices (inspection devices) other than the photographing device are also provided with an infrared moving image photographing function for observing the eye to be inspected.

また、眼科分野以外にも、X線撮影装置、X線コンピュータ断層撮影(CT)装置、磁気共鳴イメージング(MRI)装置、陽電子放射断層撮影(PET)装置、単一光子放射断層撮影(SPECT)装置、内視鏡など、様々な撮影装置が用いられている。 In addition to the field of ophthalmology, X-ray imaging equipment, X-ray computed tomography (CT) equipment, magnetic resonance imaging (MRI) equipment, positron emission tomography (PET) equipment, single photon emission tomography (SPECT) equipment , Various imaging devices such as endoscopes are used.

撮影装置によって取得された画像は、スクリーニングや病変特定のための解析に利用される。また、経過観察や術前術後観察においては、異なるタイミングで取得された複数の画像の比較観察や比較解析が行われている。 The image acquired by the imaging device is used for screening and analysis for lesion identification. Further, in follow-up observation and preoperative and postoperative observation, comparative observation and comparative analysis of a plurality of images acquired at different timings are performed.

また、人工知能や非線形信号処理などの技術の画像処理への応用が進められている。例えば、画像の解像度を変換するための技術が知られている。 In addition, applications of technologies such as artificial intelligence and non-linear signal processing to image processing are being promoted. For example, techniques for converting the resolution of an image are known.

特開平8−263649号公報Japanese Unexamined Patent Publication No. 8-263649 特開2006−350498号公報Japanese Unexamined Patent Publication No. 2006-350498 特開2010−520521号公報Japanese Unexamined Patent Publication No. 2010-520521 特開2014−225917号公報Japanese Unexamined Patent Publication No. 2014-225917 特開2015−50585号公報Japanese Unexamined Patent Publication No. 2015-50585

医用画像技術の発展は非常に速い。例えばOCTのスキャンスピードや解像度は、この十年ほどの間に目覚ましい進歩を遂げている。一方、例えば緑内障のように、数十年にわたる経過観察が必要な疾患がある。このような場合、比較される複数の画像の質(解像度等)が大きく異なることがあり、比較観察や比較解析を適切に行えないおそれがある。同様に、緊急時や往診時などに簡易的な撮影装置で得られた低解像度画像と、高性能な撮影装置で得られた高解像度画像とを比較する場合にも、同じ問題が生じる。 The development of medical imaging technology is very fast. For example, the scan speed and resolution of OCT have made remarkable progress in the last decade or so. On the other hand, some diseases, such as glaucoma, require decades of follow-up. In such a case, the quality (resolution, etc.) of the plurality of images to be compared may be significantly different, and comparative observation and comparative analysis may not be performed appropriately. Similarly, the same problem arises when comparing a low-resolution image obtained by a simple imaging device in an emergency or a home visit with a high-resolution image obtained by a high-performance imaging device.

また、緊急時や災害時のように簡易的な撮影装置しか使用できない場合には、低解像度画像(のみ)を参照して診断する必要があるが、このような診断の確度を向上させることは従来の技術では困難である。 In addition, when only a simple imaging device can be used, such as in an emergency or disaster, it is necessary to make a diagnosis by referring to a low-resolution image (only), but improving the accuracy of such a diagnosis is not possible. It is difficult with conventional technology.

また、通信環境等の影響により解像度が低下することがある。例えば、遠隔医療ではライブ画像や撮影画像が遠隔地に送信されるため、解像度の低下は医師の認識や判断を制約する。 In addition, the resolution may decrease due to the influence of the communication environment and the like. For example, in telemedicine, live images and captured images are transmitted to remote locations, so a decrease in resolution limits the recognition and judgment of doctors.

本発明の目的は、医用画像の解像度の低さに起因する問題を解決することにある。 An object of the present invention is to solve a problem caused by a low resolution of a medical image.

例示的な実施形態に係る医用画像処理方法の一つの態様は、コンピュータを用いて医用画像を処理する方法である。コンピュータは、低解像度画像と高解像度画像との複数の組み合わせを学習した人工知能エンジンを含む。コンピュータは、所定の解像度を有する被検眼の画像を受け付け、人工知能エンジンによってこの画像を所定の解像度より高い第1解像度を有する第1画像に変換し、この第1画像に基づき所定の処理を実行する。人工知能エンジンは、眼の解剖学的特徴を表す特徴情報を含む眼科知識ベースを備えた眼科用人工知能エンジンを含んでいる。眼科用人工知能エンジンは、少なくとも特徴情報に基づいて被検眼の画像を第1画像に変換する。
例示的な実施形態に係る医用画像処理装置の一つの態様は、画像受付部と、画像変換部と、処理部とを備える。画像受付部は、所定の解像度を有する被検眼の画像を受け付ける。画像変換部は、低解像度画像と高解像度画像との複数の組み合わせを学習した人工知能エンジンを含み、画像受付部により受け付けられた画像を、所定の解像度より高い第1解像度を有する第1画像に変換する。処理部は、画像変換部により生成された第1画像に基づき所定の処理を実行する。人工知能エンジンは、眼の解剖学的特徴を表す特徴情報を含む眼科知識ベースを備えた眼科用人工知能エンジンを含んでいる。眼科用人工知能エンジンは、少なくとも特徴情報に基づいて被検眼の画像を第1画像に変換する。
One aspect of the medical image processing method according to the exemplary embodiment is a method of processing a medical image using a computer. The computer includes an artificial intelligence engine that has learned multiple combinations of low resolution images and high resolution images. The computer receives an image of the eye to be inspected having a predetermined resolution, converts this image into a first image having a first resolution higher than the predetermined resolution by an artificial intelligence engine, and executes a predetermined process based on the first image. To do. Artificial intelligence engines include ophthalmic artificial intelligence engines with an ophthalmic knowledge base that includes feature information that represents the anatomical features of the eye. The artificial intelligence engine for ophthalmology converts the image of the eye to be inspected into the first image at least based on the feature information.
One aspect of the medical image processing apparatus according to the exemplary embodiment includes an image receiving unit, an image conversion unit, and a processing unit. The image receiving unit receives an image of the eye to be inspected having a predetermined resolution. The image conversion unit includes an artificial intelligence engine that has learned a plurality of combinations of a low-resolution image and a high-resolution image, and converts an image received by the image reception unit into a first image having a first resolution higher than a predetermined resolution. Convert. The processing unit executes a predetermined process based on the first image generated by the image conversion unit. Artificial intelligence engines include ophthalmic artificial intelligence engines with an ophthalmic knowledge base that includes feature information that represents the anatomical features of the eye. The artificial intelligence engine for ophthalmology converts the image of the eye to be inspected into the first image at least based on the feature information.

例示的な実施形態によれば、医用画像の解像度の低さに起因する問題を解決することができる。 According to the exemplary embodiment, the problem caused by the low resolution of the medical image can be solved.

例示的な医用画像処理方法を表すフローチャートである。It is a flowchart which shows the exemplary medical image processing method. 例示的な医用画像処理方法を表すフローチャートである。It is a flowchart which shows the exemplary medical image processing method. 例示的な医用画像処理方法を表すフローチャートである。It is a flowchart which shows the exemplary medical image processing method. 例示的な医用画像処理方法を表すフローチャートである。It is a flowchart which shows the exemplary medical image processing method. 例示的な医用画像処理方法を表すフローチャートである。It is a flowchart which shows the exemplary medical image processing method. 例示的な医用画像処理方法を表すフローチャートである。It is a flowchart which shows the exemplary medical image processing method. 例示的な医用画像処理装置の構成を表す概略図である。It is the schematic which shows the structure of the exemplary medical image processing apparatus.

本発明の例示的な実施形態について図面を参照しながら詳細に説明する。例示的な医用画像処理方法は、例示的な医用画像処理装置によって実現することができる。医用画像処理装置は、例えば、相互に通信が可能な2以上の装置(例えば、1以上のコンピュータ、1以上の記憶装置など)を含んでよい。或いは、医用画像処理装置は、単一の装置(例えば、記憶装置が搭載されたコンピュータ)であってもよい。 An exemplary embodiment of the present invention will be described in detail with reference to the drawings. An exemplary medical image processing method can be realized by an exemplary medical image processing apparatus. The medical image processing device may include, for example, two or more devices (for example, one or more computers, one or more storage devices, etc.) capable of communicating with each other. Alternatively, the medical image processing device may be a single device (eg, a computer equipped with a storage device).

医用画像処理方法を実現するためのハードウェア及びソフトウェアは、以下に例示する医用画像処理装置には限定されず、その実現に寄与する任意のハードウェアと任意のソフトウェアとの組み合わせを含んでいてよい。典型的な例として、医用画像処理装置は、人工知能エンジンとして機能するハードウェア及びソフトウェアを含んでいてよい。 The hardware and software for realizing the medical image processing method are not limited to the medical image processing devices exemplified below, and may include a combination of any hardware and any software that contributes to the realization. .. As a typical example, a medical image processor may include hardware and software that act as an artificial intelligence engine.

実施形態により処理される医用画像は、任意のモダリディ(撮影装置、撮影方法)を用いて被検眼を撮影することにより得られた画像を含んでいてよい。例えば、実施形態により処理される医用画像は、眼底カメラ、SLO、OCT等の眼科撮影装置によって被検眼を撮影することにより取得された画像を含んでいてよい。また、実施形態により処理される医用画像は、当該医用画像処理方法(当該医用画像処理装置)によって作成された画像を含んでもよい。例えば、実施形態により処理される医用画像は、眼科撮影装置によって取得された画像を当該医用画像処理装置が処理することで作成された画像を含んでいてよい。また、実施形態により処理される医用画像は、他の医用画像処理装置によって作成された画像を含んでいてもよい。例えば、実施形態により処理される医用画像は、眼科撮影装置によって取得された画像を他の医用画像処理装置が処理することで作成された画像を含んでいてよい。 The medical image processed according to the embodiment may include an image obtained by photographing the eye to be inspected using an arbitrary modality (imaging device, imaging method). For example, the medical image processed according to the embodiment may include an image acquired by photographing the eye to be inspected by an ophthalmologic imaging device such as a fundus camera, SLO, or OCT. Further, the medical image processed according to the embodiment may include an image created by the medical image processing method (the medical image processing apparatus). For example, the medical image processed according to the embodiment may include an image created by processing the image acquired by the ophthalmologic imaging apparatus by the medical image processing apparatus. Further, the medical image processed by the embodiment may include an image created by another medical image processing device. For example, the medical image processed according to the embodiment may include an image created by processing an image acquired by an ophthalmologic imaging apparatus by another medical image processing apparatus.

医用画像は、被検者の所定部位の画像である。医用画像は静止画像でも動画像でもよい。所定部位の画像とは、所定部位の少なくとも一部を表す画像を少なくとも含み、他の部位(例えば所定部位の近傍の部位)の少なくとも一部を表す画像を更に含んでいてもよい。例えば、所定部位が網膜(又はそれを構成する組織)である場合、医用画像は、網膜の画像のみを含んでもよいし、網膜の近傍に位置する脈絡膜、強膜、硝子体、篩状板等の画像を更に含んでもよい。また、医用画像は、所定部位の構造(形態)を表す画像でもよいし、その機能を表す画像でもよい。機能画像の例として、OCT血流画像、fMRI画像、超音波ドプラ画像等の血流動態(血流量、血流速度等)を表す画像がある。 The medical image is an image of a predetermined part of the subject. The medical image may be a still image or a moving image. The image of the predetermined portion may include at least an image representing at least a part of the predetermined portion, and may further include an image representing at least a part of another portion (for example, a portion in the vicinity of the predetermined portion). For example, when the predetermined site is the retina (or the tissue constituting the retina), the medical image may include only the image of the retina, a choroid, a sclera, a vitreous body, a lamina cribrosa, etc. located in the vicinity of the retina. The image of may be further included. Further, the medical image may be an image showing the structure (morphology) of a predetermined part or an image showing the function thereof. Examples of functional images include images showing blood flow dynamics (blood flow volume, blood flow velocity, etc.) such as OCT blood flow images, fMRI images, and ultrasonic Doppler images.

以下、医用画像処理方法を眼科に適用した場合の例を主に説明するが、これを適用可能な診療科は眼科に限定されず、他の任意の診療科への適用も可能である。例えば、実施形態を適用可能な医用画像の典型的な例として、X線画像、CT画像、MRI画像、PET画像、SPECT画像、内視鏡画像、胃カメラ画像、大腸カメラ画像、超音波画像などがある。 Hereinafter, an example in which the medical image processing method is applied to an ophthalmology will be mainly described, but the clinical department to which this can be applied is not limited to the ophthalmology, and can be applied to any other clinical department. For example, typical examples of medical images to which the embodiment can be applied include X-ray images, CT images, MRI images, PET images, SPECT images, endoscopic images, gastrocamera images, colon camera images, ultrasonic images, and the like. There is.

〈医用画像処理方法の例〉
医用画像処理方法を眼科に適用した例を説明する。医用画像処理方法を実現するための医用画像処理装置の例については後述する。
<Example of medical image processing method>
An example of applying the medical image processing method to ophthalmology will be described. An example of a medical image processing apparatus for realizing a medical image processing method will be described later.

医用画像処理方法に係る処理はコンピュータにより実行される。コンピュータは、人工知能エンジンを含んでもよい。コンピュータは、1以上のプロセッサを含む。プロセッサは、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、プログラマブル論理デバイス(例えば、SPLD(Simple Programmable Logic Device)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array))等の回路を含んでよい。プロセッサは、例えば、記憶装置(記憶回路)に格納されているプログラムを読み出して実行することにより所望の機能を実現する。 The processing related to the medical image processing method is executed by a computer. The computer may include an artificial intelligence engine. The computer includes one or more processors. The processor is, for example, a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), an ASIC (Application Specific Integrated Circuit), a programmable logic device (for example, a SPILD (Field Programmable Gate Array)) and the like may be included. The processor realizes a desired function by reading and executing a program stored in a storage device (storage circuit), for example.

プロセッサは、記憶装置及び表示装置を制御することができる。記憶装置は、医用画像処理方法により使用されるプログラム、データ、情報等を記憶可能に構成され、コンピュータの内部に配置されてもよいし、コンピュータの外部に配置されてもよい。出力装置の配置についても同様である。 The processor can control the storage device and the display device. The storage device is configured to be able to store programs, data, information, and the like used by the medical image processing method, and may be arranged inside the computer or outside the computer. The same applies to the arrangement of output devices.

出力装置は、情報を出力する装置であり、その典型例として、表示装置や、音声出力装置や、印刷装置や、データ送信機能を有する通信機器や、記録媒体に情報を記録するデータライタなどがある。このような例の少なくとも1つが出力装置として用いられる。 An output device is a device that outputs information, and typical examples thereof include a display device, an audio output device, a printing device, a communication device having a data transmission function, and a data writer that records information on a recording medium. is there. At least one such example is used as an output device.

医用画像処理方法の例を図1に示す。以下に説明する一連の処理の前、一連の処理の実行中、又は一連の処理の後に、被検者登録を行うことができる。被検者とは、医用画像処理方法により処理される医用画像の撮影対象となった者を意味する。被検者には、医療機関を受診済みの者だけでなく、未受診の者も含まれてよい。医療機関を受診済みの者には、例えば、医師による確定診断を受けた者、医師による診断は受けたが未だ確定診断に達しない者などが含まれる。医療機関を未受診の者には、例えば、健康診断を受けた者、検診(スクリーニング)を受けた者などが含まれる。 An example of a medical image processing method is shown in FIG. Subject registration can be performed before the series of processes described below, during the execution of the series of processes, or after the series of processes. The subject means a person who has taken a medical image processed by a medical image processing method. The examinee may include not only a person who has undergone a medical examination but also a person who has not undergone a medical examination. Those who have already consulted a medical institution include, for example, those who have received a definitive diagnosis by a doctor and those who have received a diagnosis by a doctor but have not yet reached a definitive diagnosis. Those who have not undergone a medical institution include, for example, those who have undergone a medical examination and those who have undergone a screening.

また、以下に説明する一連の処理の前、一連の処理の実行中、又は一連の処理の後に、被検者に関する医療情報を取得するステップが含まれてもよい。医療情報は、例えば、診察、診断、治療等の医療行為において取得、作成、利用することが可能な情報を含む。医療情報の典型的な例として、電子カルテ、パーソナルヘルスレコード(PHR)、手術記録、検査データなどがある。 In addition, a step of acquiring medical information about the subject may be included before the series of processes described below, during the execution of the series of processes, or after the series of processes. Medical information includes, for example, information that can be acquired, created, and used in medical practice such as medical examination, diagnosis, and treatment. Typical examples of medical information include electronic medical records, personal health records (PHR), surgical records, and examination data.

医用画像処理方法において付加的に実行可能な処理は被検者登録や医療情報の取得には限定されず、これら以外の所望の処理を所望のタイミングで付加的に実行することが可能である。 The processing that can be additionally executed in the medical image processing method is not limited to the registration of the subject and the acquisition of medical information, and the desired processing other than these can be additionally executed at a desired timing.

典型的な医用画像処理方法のいくつかの例を説明する。以下の例をそれぞれ適用することができる。或いは、以下の例のうちのいずれか2以上を組み合わせることもできる。また、以下の例におけるいずれかのステップを変形することも可能である。 Some examples of typical medical image processing methods will be described. The following examples can be applied respectively. Alternatively, any two or more of the following examples can be combined. It is also possible to modify any of the steps in the example below.

〈医用画像処理方法の第1の例〉
医用画像処理方法の第1の例について、図1を参照しつつ説明する。本例では、実施形態に係る基本的な医用画像処理方法を説明する。
<First example of medical image processing method>
A first example of the medical image processing method will be described with reference to FIG. In this example, the basic medical image processing method according to the embodiment will be described.

(S1:医用画像を受け付ける)
まず、コンピュータは、所定の解像度を有する被検者の所定部位の画像を受け付ける。所定の解像度は比較的低い解像度であってよい。例えば、この低解像度画像は、過去に使用されていた低解像度の撮影装置により取得された画像、緊急時や往診時などに簡易的な撮影装置で得られた画像、又は、遠隔医療等において遠隔地から送信された画像などであってよい。
(S1: Accept medical images)
First, the computer receives an image of a predetermined part of the subject having a predetermined resolution. The predetermined resolution may be a relatively low resolution. For example, this low-resolution image may be an image acquired by a low-resolution imaging device used in the past, an image obtained by a simple imaging device in an emergency or a home visit, or a remote image in telemedicine or the like. It may be an image transmitted from the ground.

コンピュータは、例えば通信回線又は記録媒体を介して医用画像の入力を受ける。例えば、コンピュータが通信機器を含む場合、コンピュータは、画像アーカイビング装置(PACS、クラウド画像サーバ等)に格納されている医用画像を通信回線を通じて取得することができる。或いは、コンピュータがデータリーダ(ドライブ装置等)を含む場合、コンピュータは、記録媒体に記録された医用画像を読み取ることができる。なお、医用画像(又は医療情報等)を受け付けるための構成はこれらに限定されない。 The computer receives input of a medical image, for example, via a communication line or a recording medium. For example, when the computer includes a communication device, the computer can acquire a medical image stored in an image archiving device (PACS, cloud image server, etc.) through a communication line. Alternatively, if the computer includes a data reader (such as a drive device), the computer can read the medical image recorded on the recording medium. The configuration for receiving medical images (or medical information, etc.) is not limited to these.

(S2:解像度を変換する)
次に、コンピュータは、ステップS1で受け付けられた低解像度画像をその解像度より高い第1解像度を有する第1画像に変換する。つまり、コンピュータは、医用画像を高解像度化する。
(S2: Convert resolution)
Next, the computer converts the low-resolution image received in step S1 into a first image having a first resolution higher than that resolution. That is, the computer increases the resolution of the medical image.

第1解像度は任意に設定可能である。例えば、第1解像度はデフォルト値として設定されてもよいし、後段の処理に応じて設定されてもよい。後者の例として、医用画像の比較を後段で行う場合、低解像度画像と比較される(高解像度)画像の解像度を第1解像度に設定することができる。 The first resolution can be set arbitrarily. For example, the first resolution may be set as a default value, or may be set according to the subsequent processing. As an example of the latter, when the comparison of medical images is performed later, the resolution of the (high resolution) image to be compared with the low resolution image can be set to the first resolution.

解像度の変換を人工知能エンジンによって行うことができる。人工知能エンジンは、例えば、前述の引用文献のいずれかに記載された処理の1つ若しくは2以上の組み合わせ、他の公知文献に記載された処理の1つ若しくは2以上の組み合わせ、又は、それらのいずれか2以上の組み合わせを実行することにより、解像度を変換する。 Resolution conversion can be done by an artificial intelligence engine. The artificial intelligence engine may be, for example, one or more combinations of the processes described in any of the above cited references, one or more combinations of the processes described in other publicly known documents, or a combination thereof. The resolution is converted by executing any combination of two or more.

人工知能エンジンに使用可能な人工知能技術の例として、ニューラルネットワーク、ディープラーニング、サポートベクターマシン、ベイジアンネットワーク、相関ルール学習、強化学習、表現学習、データマイニング、自然言語処理、推論などがある。また、知識ベース(医学知識ベース、眼科知識ベース等)などを参照することで、解像度を変換してもよい。 Examples of artificial intelligence technologies that can be used in artificial intelligence engines include neural networks, deep learning, support vector machines, Bayesian networks, correlation rule learning, reinforcement learning, expression learning, data mining, natural language processing, and inference. Further, the resolution may be converted by referring to a knowledge base (medical knowledge base, ophthalmic knowledge base, etc.).

典型的な例として、低解像度画像と高解像度画像との複数の組み合わせ(学習サンプル)を学習し、それに基づく推論を行って解像度変換を行うことができる。例えば、眼底カメラ又はOCTを用いて低解像度画像と高解像度画像とを連続して取得し、低解像度画像と高解像度画像との組み合わせの相関や関連や法則を学習させることができる。 As a typical example, a plurality of combinations (learning samples) of a low-resolution image and a high-resolution image can be learned, and inference based on the combination (learning sample) can be performed to perform resolution conversion. For example, a low-resolution image and a high-resolution image can be continuously acquired using a fundus camera or OCT, and the correlation, association, and law of the combination of the low-resolution image and the high-resolution image can be learned.

また、高解像度画像のみを取得し、これを低解像度化して低解像度画像を作成し、これらの組み合わせを学習することも可能である。 It is also possible to acquire only a high-resolution image, reduce the resolution to create a low-resolution image, and learn a combination thereof.

また、低解像度画像のみを取得し、これから複数の高解像度画像を作成し、これら高解像度画像のうち適切なものを医師又は人工知能エンジンが選択することによって、低解像度画像と高解像度画像との組み合わせを決定するようにしてもよい。 In addition, only low-resolution images are acquired, a plurality of high-resolution images are created from the images, and an appropriate one of these high-resolution images is selected by a doctor or an artificial intelligence engine to obtain a low-resolution image and a high-resolution image. The combination may be determined.

他の典型的な例として、画素数の増加処理を含む超解像技術、高周波成分の持ち上げを含む超解像技術、これらを組み合わせた再構成型の超解像技術、消失した高周波成分を推定する超解像技術、複数フレーム超解像技術、フレーム内超解像技術、非線形信号処理を含む超解像技術などに代表される超解像技術を適用してもよい。また、公知のアップコンバート技術を適用してもよい。 As other typical examples, super-resolution technology including processing to increase the number of pixels, super-resolution technology including lifting of high-frequency components, reconstruction-type super-resolution technology combining these, and estimation of lost high-frequency components. Super-resolution technology represented by super-resolution technology, multi-frame super-resolution technology, in-frame super-resolution technology, super-resolution technology including non-linear signal processing, and the like may be applied. Further, a known up-conversion technique may be applied.

(S3:所定の処理を実行する)
コンピュータは、ステップS2で高解像度化された第1画像に基づいて所定の処理を実行する。
(S3: Execute a predetermined process)
The computer executes a predetermined process based on the first image whose resolution has been increased in step S2.

所定の処理は任意の処理であってよい。所定の処理の典型的な例として、被検者の所定部位の2以上の画像を並べて表示するための処理、2以上の画像を解析するための処理、それにより得られた2以上の解析データを並べて表示するための処理、2以上の解析データから所定部位の特性の時系列変化を求めるための処理、被検者が罹患している疾患やその候補に関する推論を行うための処理について後述する。 The predetermined process may be an arbitrary process. As a typical example of a predetermined process, a process for displaying two or more images of a predetermined part of a subject side by side, a process for analyzing two or more images, and two or more analysis data obtained by the process. The process for displaying the images side by side, the process for obtaining the time-series change of the characteristics of a predetermined site from two or more analysis data, and the process for inferring the disease suffering by the subject and its candidate will be described later. ..

ステップS1で受け付けられた低解像度画像、ステップS2で生成された高解像度画像(第1画像)、所定の処理によって得られた情報などは、記憶装置に保存され、及び/又は、出力装置により出力される。 The low-resolution image received in step S1, the high-resolution image (first image) generated in step S2, the information obtained by the predetermined processing, and the like are stored in the storage device and / or output by the output device. Will be done.

〈医用画像処理方法の第2の例〉
医用画像処理方法の第2の例について、図2を参照しつつ説明する。本例では、被検者の所定部位のN枚の画像を並べて表示するための医用画像処理方法について説明する(Nは2以上の整数とする)。
<Second example of medical image processing method>
A second example of the medical image processing method will be described with reference to FIG. In this example, a medical image processing method for displaying N images of a predetermined part of a subject side by side will be described (N is an integer of 2 or more).

(S11:医用画像を受け付ける)
まず、第1の例におけるステップS1と同じ要領で、コンピュータは、所定の解像度を有する被検者の所定部位の画像(低解像度画像)を受け付ける。
(S11: Accept medical images)
First, in the same manner as in step S1 in the first example, the computer receives an image (low resolution image) of a predetermined portion of the subject having a predetermined resolution.

(S12:第1解像度の第1画像に変換する)
次に、第1の例におけるステップS2と同じ要領で、コンピュータは、ステップS11で取得された画像の解像度を変換することにより、所定の解像度より高い第1解像度の第1画像を生成する。
(S12: Convert to the first image with the first resolution)
Next, in the same manner as in step S2 in the first example, the computer generates a first image having a first resolution higher than a predetermined resolution by converting the resolution of the image acquired in step S11.

(S13:第2解像度の第2〜第N画像を取得する)
コンピュータは、ステップS11で取得された低解像度画像の解像度よりも高い第2解像度を有する、第1画像と同じ部位を表す第2画像を取得する。
(S13: Acquire the second to Nth images of the second resolution)
The computer acquires a second image representing the same portion as the first image, which has a second resolution higher than the resolution of the low resolution image acquired in step S11.

より一般に、コンピュータは、ステップS11で取得された低解像度画像の解像度よりも高い解像度をそれぞれ有する、第1画像と同じ部位を表す1又は2以上の画像を取得する。ここで取得される画像の数は任意である。また、ここで2以上の画像が取得される場合、これら画像の解像度は同じでもよいし、異なってもよい。つまり、第2解像度は、所定の解像度より高い単一の解像度であってもよいし、所定の解像度より高い2以上の解像度であってもよい。 More generally, the computer acquires one or more images representing the same parts as the first image, each having a higher resolution than the resolution of the low resolution image acquired in step S11. The number of images acquired here is arbitrary. Further, when two or more images are acquired here, the resolutions of these images may be the same or different. That is, the second resolution may be a single resolution higher than the predetermined resolution, or may be two or more resolutions higher than the predetermined resolution.

第2解像度は、ステップS11で取得された低解像度画像の解像度よりも高い任意の解像度であってよい。例えば、第2解像度は、第1解像度と等しくてよい。或いは、第2解像度は、第1解像度とほぼ等しくてよい。第1解像度と第2解像度とが「ほぼ」等しいとは、例えば、観察や解析を同等の精度及び/又は確度で行える程度の解像度の差を許容すること、又は、第1解像度と第2解像度が異なる場合、それらのうち低い方の解像度でも十分な精度及び/又は確度で観察や解析を行えることなどを意味する。 The second resolution may be any resolution higher than the resolution of the low resolution image acquired in step S11. For example, the second resolution may be equal to the first resolution. Alternatively, the second resolution may be approximately equal to the first resolution. The term "nearly" equal to the first resolution and the second resolution means, for example, to allow a difference in resolution to the extent that observation and analysis can be performed with the same accuracy and / or accuracy, or the first resolution and the second resolution. If they are different, it means that observation and analysis can be performed with sufficient accuracy and / or accuracy even at the lower resolution.

本ステップの処理を実行するタイミングは当該タイミングには限定されず、任意であってよい。例えば、ステップS11で複数の画像を受け付け、これら画像のうちの少なくとも一部に対してステップS12の高解像度化を適用することにより、高解像度の画像群を取得することができる。 The timing of executing the process of this step is not limited to the timing, and may be arbitrary. For example, by accepting a plurality of images in step S11 and applying the high resolution of step S12 to at least a part of these images, a high resolution image group can be acquired.

また、本ステップの処理は、高解像度の撮影装置によって取得された画像を受け付ける処理、過去に高解像度化された画像を受け付ける処理、及び/又は、このような画像を記憶装置から読み出す処理などを含んでもよい。これら処理を行うタイミングは、ステップS11より前でも、ステップS11の実行中でも、ステップS11とステップS11とステップS12との間でも、ステップS12の実行中でも、ステップS12の後でもよい。 Further, the process of this step includes a process of accepting an image acquired by a high-resolution photographing device, a process of accepting an image whose resolution has been increased in the past, and / or a process of reading such an image from a storage device. It may be included. The timing of performing these processes may be before step S11, during execution of step S11, between step S11, step S11 and step S12, during execution of step S12, or after step S12.

(S14:撮影日に応じた順序で複数の画像を並べて表示する)
コンピュータは、ステップS12で得られた第1画像と、ステップS13で得られた第2〜第N画像を含むN枚の画像の少なくとも一部(複数の画像)を、それらの撮影日に応じた順序で並べて表示装置に表示させる。このとき、複数の画像の撮影日等も表示させることができる。
(S14: Display a plurality of images side by side in the order according to the shooting date)
The computer sets at least a part (plurality of images) of the first image obtained in step S12 and the N images including the second to Nth images obtained in step S13 according to their shooting dates. Display them on the display device in order. At this time, it is possible to display the shooting dates of a plurality of images.

画像の撮影日は、モダリディを用いて被検者を撮影することにより当該画像が取得された日(及び時刻等)である。撮影日は、例えば、画像に関連付けられた状態で画像ともに送受信される。典型的な例として、医用画像のフォーマット及び通信プロトコルとしてDigital Imaging and COmmunications in Medicine(DICOM)が用いられている場合、DICOMファイル内のタグ情報に撮影日を記録することができる。また、画像の背景領域等に撮影日を示す情報を埋め込むこともできる。 The shooting date of the image is the date (and time, etc.) at which the image was acquired by photographing the subject using the modalidi. The shooting date is, for example, transmitted and received together with the image in a state associated with the image. As a typical example, when Digital Imaging and Communications in Medicine (DICOM) is used as a medical image format and communication protocol, the shooting date can be recorded in the tag information in the DICOM file. In addition, information indicating the shooting date can be embedded in the background area of the image or the like.

コンピュータは、例えば、複数の画像のそれぞれの撮影日を取得し、取得された複数の撮影日を比較することでそれらに時系列順序を割り当て、この時系列順序に応じて複数の画像を配列することができる。なお、撮影日が同じ2以上の画像が存在する場合、例えば撮影時刻を参照して時系列順序を決定することができる。 The computer, for example, obtains the shooting dates of each of the plurality of images, assigns them a time-series order by comparing the acquired shooting dates, and arranges the plurality of images according to the time-series order. be able to. When two or more images having the same shooting date exist, the time series order can be determined by referring to, for example, the shooting time.

このように時系列順に配列して複数の画像を表示することで、ユーザは、被検者の所定部位の構造や機能の時系列変化を容易に把握することができる。また、N枚の画像の一部のみが表示されている場合、表示される画像の指定を操作デバイスを用いて行えるように構成することができる。また、複数の画像のうちのいずれかを拡大表示させる機能を設けることができる。 By displaying a plurality of images arranged in chronological order in this way, the user can easily grasp the time-series changes in the structure and function of a predetermined portion of the subject. Further, when only a part of N images is displayed, the displayed images can be specified by using an operation device. In addition, a function for enlarging any one of the plurality of images can be provided.

〈医用画像処理方法の第3の例〉
医用画像処理方法の第3の例について、図3を参照しつつ説明する。本例では、被検者の所定部位のN個の解析データを取得するための医用画像処理方法、更には、それら解析データを並べて表示するための医用画像処理方法について説明する(Nは2以上の整数とする)。
<Third example of medical image processing method>
A third example of the medical image processing method will be described with reference to FIG. In this example, a medical image processing method for acquiring N analysis data of a predetermined part of a subject, and a medical image processing method for displaying the analysis data side by side will be described (N is 2 or more). Let it be an integer of).

(S21:医用画像を受け付ける)
まず、第1の例におけるステップS1と同じ要領で、コンピュータは、所定の解像度を有する被検者の所定部位の画像(低解像度画像)を受け付ける。
(S21: Accepts medical images)
First, in the same manner as in step S1 in the first example, the computer receives an image (low resolution image) of a predetermined portion of the subject having a predetermined resolution.

(S22:第1解像度の第1画像に変換する)
次に、第1の例におけるステップS2と同じ要領で、コンピュータは、ステップS21で取得された画像の解像度を変換することにより、所定の解像度より高い第1解像度の第1画像を生成する。
(S22: Convert to the first image with the first resolution)
Next, in the same manner as in step S2 in the first example, the computer generates a first image having a first resolution higher than a predetermined resolution by converting the resolution of the image acquired in step S21.

(S23:第2解像度の第2〜第N画像を取得する)
コンピュータは、ステップS21で取得された低解像度画像の解像度よりも高い第2解像度を有する、第1画像と同じ部位を表す第2画像を取得する。より一般に、コンピュータは、ステップS21で取得された低解像度画像の解像度よりも高い解像度をそれぞれ有する、第1画像と同じ部位を表す1又は2以上の画像を取得する。ここで取得される画像の数は任意である。
(S23: Acquire the second to Nth images of the second resolution)
The computer acquires a second image representing the same portion as the first image, which has a second resolution higher than the resolution of the low resolution image acquired in step S21. More generally, the computer acquires one or more images representing the same parts as the first image, each having a higher resolution than the resolution of the low resolution image acquired in step S21. The number of images acquired here is arbitrary.

第2解像度は、前述した第2の例におけるそれと同様であってよい。また、本ステップの処理及びその実行タイミングについても、第2の例におけるそれらと同様であってよい。 The second resolution may be similar to that in the second example described above. Further, the processing of this step and the execution timing thereof may be the same as those in the second example.

(S24:第1〜第N画像を解析する)
コンピュータは、ステップS22で得られた第1画像及びステップS23で得られた第2〜第N画像のそれぞれに所定の解析処理を施す。解析処理の典型的な例として、眼底OCTにより取得された画像に対する、乳頭3次元形状解析、網膜神経線維層(RNFL)厚解析、網膜色素上皮(RPE)層厚解析、セグメント解析(視細胞内接/外節(IS/OS)ライン、錐体外節先端(COST)、外顆粒層、外境界膜、脈絡膜)、篩状板解析などがある。これにより、第1画像に基づく第1解析データ、第2画像に基づく第2解析データ、・・・、第N画像に基づく第N解析データが得られる。
(S24: Analyzing the 1st to Nth images)
The computer performs a predetermined analysis process on each of the first image obtained in step S22 and the second to Nth images obtained in step S23. Typical examples of the analysis process are papillary three-dimensional shape analysis, retinal nerve fiber layer (RNFL) thickness analysis, retinal pigment epithelial (RPE) layer thickness analysis, and segment analysis (intravisual cells) for images acquired by fundus OCT. Contact / outer segment (IS / OS) lines, cone outer segment tip (COST), outer nuclear layer, external limiting membrane, choroid), retinal analysis, etc. As a result, the first analysis data based on the first image, the second analysis data based on the second image, ..., The Nth analysis data based on the Nth image can be obtained.

(S25:撮影日に応じた順序で複数の解析データを並べて表示する)
コンピュータは、ステップS24で生成されたN個の解析データの少なくとも一部(複数の解析データ)を、対応する複数の画像の撮影日に応じた順序で並べて表示装置に表示させる。このとき、複数の画像の撮影日等も表示させることができる。撮影日及びそれに関する処理は、前述した第2の例と同様であってよい。
(S25: Display multiple analysis data side by side in the order according to the shooting date)
The computer displays at least a part (plurality of analysis data) of the N analysis data generated in step S24 on the display device in an order according to the shooting date of the corresponding plurality of images. At this time, it is possible to display the shooting dates of a plurality of images. The shooting date and the processing related thereto may be the same as in the second example described above.

このように時系列順に配列して複数の解析データを表示することで、ユーザは、被検者の所定部位の解析データの時系列変化を容易に把握することができる。また、N個の解析データの一部のみが表示されている場合、表示される解析データの指定を操作デバイスを用いて行えるように構成することができる。また、複数の解析データのうちのいずれかを拡大表示させる機能を設けることができる。 By displaying a plurality of analysis data arranged in chronological order in this way, the user can easily grasp the time-series change of the analysis data of the predetermined portion of the subject. Further, when only a part of N analysis data is displayed, it can be configured so that the displayed analysis data can be specified by using the operation device. In addition, a function for enlarging any one of the plurality of analysis data can be provided.

〈医用画像処理方法の第4の例〉
医用画像処理方法の第4の例について、図4を参照しつつ説明する。本例では、被検者の所定部位のN個の解析データを取得するための医用画像処理方法、更には、それら解析データから所定部位の特性の時系列変化を表す情報を生成するための医用画像処理方法について説明する(Nは2以上の整数とする)。
<Fourth example of medical image processing method>
A fourth example of the medical image processing method will be described with reference to FIG. In this example, a medical image processing method for acquiring N analysis data of a predetermined part of a subject, and further, a medical image for generating information representing a time-series change in the characteristics of a predetermined part from the analysis data. The image processing method will be described (N is an integer of 2 or more).

(S31:医用画像を受け付ける)
まず、第1の例におけるステップS1と同じ要領で、コンピュータは、所定の解像度を有する被検者の所定部位の画像(低解像度画像)を受け付ける。
(S31: Accept medical images)
First, in the same manner as in step S1 in the first example, the computer receives an image (low resolution image) of a predetermined portion of the subject having a predetermined resolution.

(S32:第1解像度の第1画像に変換する)
次に、第1の例におけるステップS2と同じ要領で、コンピュータは、ステップS31で取得された画像の解像度を変換することにより、所定の解像度より高い第1解像度の第1画像を生成する。
(S32: Convert to the first image with the first resolution)
Next, in the same manner as in step S2 in the first example, the computer generates a first image having a first resolution higher than a predetermined resolution by converting the resolution of the image acquired in step S31.

(S33:第2解像度の第2〜第N画像を取得する)
コンピュータは、ステップS31で取得された低解像度画像の解像度よりも高い第2解像度を有する、第1画像と同じ部位を表す第2画像を取得する。より一般に、コンピュータは、ステップS31で取得された低解像度画像の解像度よりも高い解像度をそれぞれ有する、第1画像と同じ部位を表す1又は2以上の画像を取得する。ここで取得される画像の数は任意である。
(S33: Acquire the second to Nth images of the second resolution)
The computer acquires a second image representing the same portion as the first image, which has a second resolution higher than the resolution of the low resolution image acquired in step S31. More generally, the computer acquires one or more images representing the same parts as the first image, each having a higher resolution than the resolution of the low resolution image acquired in step S31. The number of images acquired here is arbitrary.

第2解像度は、前述した第2の例におけるそれと同様であってよい。また、本ステップの処理及びその実行タイミングについても、第2の例におけるそれらと同様であってよい。 The second resolution may be similar to that in the second example described above. Further, the processing of this step and the execution timing thereof may be the same as those in the second example.

(S34:第1〜第N画像を解析する)
コンピュータは、ステップS32で得られた第1画像及びステップS33で得られた第2〜第N画像のそれぞれに所定の解析処理を施す。この解析処理は、前述した第3の例におけるそれと同様であってよい。
(S34: Analyzing the 1st to Nth images)
The computer performs a predetermined analysis process on each of the first image obtained in step S32 and the second to Nth images obtained in step S33. This analysis process may be similar to that in the third example described above.

(S35:特性の時系列変化を表す情報を生成する)
コンピュータは、ステップS24で生成されたN個の解析データの少なくとも一部(複数の解析データ)と、これら複数の画像の撮影日とに基づいて、被検者の所定部位の特性の時系列変化を表す情報を生成する。この情報の典型的な例として、乳頭3次元形状の時系列変化を表すカラーマップやグラフ等、RNFL厚の時系列変化を表すカラーマップやグラフ等がある。撮影日及びそれに関する処理は、前述した第2の例と同様であってよい。また、コンピュータは、生成された情報を出力装置に出力させることができる。
(S35: Generates information representing time-series changes in characteristics)
The computer changes the characteristics of the predetermined part of the subject over time based on at least a part (plurality of analysis data) of the N analysis data generated in step S24 and the shooting dates of these plurality of images. Generates information that represents. Typical examples of this information include color maps and graphs showing time-series changes in the three-dimensional shape of the teat, and color maps and graphs showing time-series changes in RNFL thickness. The shooting date and the processing related thereto may be the same as in the second example described above. In addition, the computer can output the generated information to the output device.

このような情報を生成することで、ユーザは、被検者の所定部位の特性(構造、機能、分布、値など)の時系列変化を容易に把握することができる。また、N個の解析データの一部のみに基づく情報が生成された場合、情報の生成に用いられる解析データの指定を操作デバイスを用いて行えるように構成することができる。つまり、時系列変化の期間や間隔を任意に変更することができる。 By generating such information, the user can easily grasp the time-series changes in the characteristics (structure, function, distribution, value, etc.) of the predetermined portion of the subject. Further, when information based on only a part of N analysis data is generated, it can be configured so that the analysis data used for generating the information can be specified by using the operation device. That is, the period and interval of time series change can be changed arbitrarily.

〈医用画像処理方法の第5の例〉
医用画像処理方法の第5の例について、図5を参照しつつ説明する。本例では、被検者が罹患している疾患又はその候補に関する推論を行うための医用画像処理方法について説明する。ここで、被検者が罹患している疾患は、既に確定診断がなされている疾患を含んでよい。また、被検者が罹患している疾患の候補は、未だ確定診断がなされていない疾患や、健康診断・検診・スクリーニング等の対象の疾患を含んでよい。
<Fifth example of medical image processing method>
A fifth example of the medical image processing method will be described with reference to FIG. In this example, a medical image processing method for making inferences about a disease suffering from a subject or a candidate thereof will be described. Here, the disease affecting the subject may include a disease for which a definitive diagnosis has already been made. In addition, the candidate for the disease affecting the subject may include a disease for which a definitive diagnosis has not yet been made and a disease for which a medical examination, a screening, a screening, etc. are to be performed.

(S41:医用画像を受け付ける)
まず、第1の例におけるステップS1と同じ要領で、コンピュータは、所定の解像度を有する被検者の所定部位の画像(低解像度画像)を受け付ける。
(S41: Accepts medical images)
First, in the same manner as in step S1 in the first example, the computer receives an image (low resolution image) of a predetermined portion of the subject having a predetermined resolution.

(S42:解像度を変換する)
次に、第1の例におけるステップS2と同じ要領で、コンピュータは、ステップS41で取得された画像の解像度を変換することにより、所定の解像度より高い第1解像度の第1画像を生成する。
(S42: Convert resolution)
Next, in the same manner as in step S2 in the first example, the computer generates a first image having a first resolution higher than a predetermined resolution by converting the resolution of the image acquired in step S41.

(S43:医療情報を取得する)
コンピュータは、被検者に関する医療情報を取得する。医療情報は、例えば、電子カルテ、パーソナルヘルスレコード(PHR)、手術記録、検査データなど、医療行為において取得、作成、利用することが可能な情報のいずれかを含んでよい。
(S43: Acquire medical information)
The computer obtains medical information about the subject. The medical information may include any information that can be acquired, created, and used in medical practice, such as electronic medical records, personal health records (PHR), surgical records, and examination data.

コンピュータは、例えば、通信回線又は記録媒体を介して医療情報データベースにアクセスし、当該被検者の医療情報を取得することができる。或いは、コンピュータは、医療情報を生成することもできる。例えば、前述した解析データを医療情報として用いることができる。本ステップの処理を実行するタイミングは当該タイミングには限定されず、任意であってよい。 The computer can access the medical information database via, for example, a communication line or a recording medium, and acquire medical information of the subject. Alternatively, the computer can also generate medical information. For example, the above-mentioned analysis data can be used as medical information. The timing of executing the process of this step is not limited to the timing, and may be arbitrary.

(S44:疾患に関する推論を行う)
コンピュータは、ステップS42で得られた第1画像と、ステップS43で得られた医療情報に基づいて、被検者が罹患している疾患又はその候補に関する推論を行う。推論は、人工知能エンジンによって実行される。
(S44: Make inferences about the disease)
Based on the first image obtained in step S42 and the medical information obtained in step S43, the computer makes an inference about the disease suffering by the subject or a candidate thereof. Inference is performed by an artificial intelligence engine.

推論は、例えば、所定の疾患に罹患しているか否かの判定、所定の疾患に罹患している確率の算出、所定の疾患の進行度合の特定、必要な検査の種別の特定などのいずれかを含んでよい。推論の内容に応じた学習が人工知能エンジンに対して予め行われる。このような疾患に関する推論を行うことで、診断支援が可能となる。 Inference can be, for example, determining whether or not a person has a predetermined disease, calculating the probability of having a predetermined disease, identifying the degree of progression of the predetermined disease, specifying the type of necessary test, and the like. May include. Learning according to the content of inference is performed in advance for the artificial intelligence engine. By making inferences about such diseases, diagnostic support becomes possible.

〈医用画像処理方法の第6の例〉
医用画像処理方法の第6の例について、図6を参照しつつ説明する。本例では、眼科分野への応用について説明する。
<Sixth example of medical image processing method>
A sixth example of the medical image processing method will be described with reference to FIG. In this example, application to the field of ophthalmology will be described.

本例のコンピュータは、眼科に関する学習が施された人工知能エンジン(眼科用人工知能エンジン)を含んでいてよい。眼科用人工知能エンジンは、眼科に関する知識ベースを含む。眼科知識ベースには、眼科疾患に関する専門書や論文、眼の構造(解剖学)に関する専門書や論文、眼の画像や検査に関する専門書や論文などのいずれかが含まれてよい。 The computer of this example may include an artificial intelligence engine (artificial intelligence engine for ophthalmology) that has been trained in ophthalmology. The artificial intelligence engine for ophthalmology includes a knowledge base about ophthalmology. The ophthalmic knowledge base may include any specialized books or treatises on ophthalmic diseases, specialized books or treatises on eye structure (anatomy), specialized books or treatises on eye images or examinations, and the like.

(S51:被検眼の画像を受け付ける)
まず、第1の例におけるステップS1と同じ要領で、コンピュータは、所定の解像度を有する被検眼の所定部位の画像(低解像度画像)を受け付ける。
(S51: Accepts the image of the eye to be inspected)
First, in the same manner as in step S1 in the first example, the computer receives an image (low resolution image) of a predetermined portion of the eye to be inspected having a predetermined resolution.

(S52:左眼画像か右眼画像か判別する)
コンピュータは、ステップS51で取得された画像が左眼画像であるか右眼画像であるか判別する。
(S52: Determine whether it is a left eye image or a right eye image)
The computer determines whether the image acquired in step S51 is a left eye image or a right eye image.

この判別は、眼科用人工知能エンジン又はそれ以外のプロセッサによって実行される。この判別は、例えば、眼の解剖学的特徴を参照して行われる。典型的には、視神経乳頭の位置、黄斑の位置、視神経乳頭と黄斑との相対位置、血管の走行、神経線維の走行などに基づいて、ステップS51で取得された画像が左眼画像であるか右眼画像であるか判別することが可能である。或いは、例えばDICOMファイル内のタグ情報に、当該画像が左眼画像であるか右眼画像であるかを示す情報を記録してもよい。 This determination is performed by an ophthalmic artificial intelligence engine or other processor. This determination is made, for example, with reference to the anatomical features of the eye. Typically, is the image acquired in step S51 a left eye image based on the position of the optic disc, the position of the macula, the relative position of the optic disc and the macula, the running of blood vessels, the running of nerve fibers, etc. It is possible to determine whether it is a right eye image. Alternatively, for example, in the tag information in the DICOM file, information indicating whether the image is a left-eye image or a right-eye image may be recorded.

この左右判別を実行するタイミングは、当該画像の高解像度化の前でも後でもよい。また、高解像度化と並行して当該判別を実行することも可能である。 The timing of executing this left-right discrimination may be before or after increasing the resolution of the image. It is also possible to execute the determination in parallel with increasing the resolution.

(S53:解像度を変換する)
次に、第1の例におけるステップS2と同じ要領で、コンピュータは、ステップS51で取得された画像の解像度を変換することにより、所定の解像度より高い第1解像度の第1画像を生成する。
(S53: Convert resolution)
Next, in the same manner as in step S2 in the first example, the computer generates a first image having a first resolution higher than a predetermined resolution by converting the resolution of the image acquired in step S51.

この処理は、例えば眼科用人工知能エンジンによって実行される。例えば、眼科知識ベースが眼の解剖学的特徴(視神経乳頭の位置や形態、黄斑の位置や形態、血管の走行や形態、神経線維の走行や形態など)を表す特徴情報を含む場合、眼科用人工知能エンジンは、少なくとも特徴情報に基づいて解像度を変換することができる。 This process is performed, for example, by an ophthalmic artificial intelligence engine. For example, if the ophthalmic knowledge base contains characteristic information representing the anatomical features of the eye (position and morphology of the optic nerve head, position and morphology of the macula, running and morphology of blood vessels, running and morphology of nerve fibers, etc.), for ophthalmology The artificial intelligence engine can convert the resolution at least based on the feature information.

特徴情報は、左眼の解剖学的特徴を表す左眼情報と、右眼の解剖学的特徴を表す右眼情報とを含んでいてよい。この場合、高解像度化の前に左右判別(ステップS52)を実行することができ、更に、この判定結果に応じて特徴情報を選択的に使用することができる。具体的には、ステップS51で取得された画像が左眼画像であると判別された場合、眼科用人工知能エンジンは、少なくとも左眼情報に基づいて高解像度化を行うことにより第1画像を生成することができる。一方、ステップS51で取得された画像が右眼画像であると判別された場合、眼科用人工知能エンジンは、少なくとも右眼情報に基づいて高解像度化を行うことにより第1画像を生成することができる。 The feature information may include left eye information representing the anatomical features of the left eye and right eye information representing the anatomical features of the right eye. In this case, the left-right discrimination (step S52) can be executed before the resolution is increased, and the feature information can be selectively used according to the determination result. Specifically, when it is determined that the image acquired in step S51 is a left eye image, the artificial intelligence engine for ophthalmology generates the first image by increasing the resolution at least based on the left eye information. can do. On the other hand, when the image acquired in step S51 is determined to be the right eye image, the artificial intelligence engine for ophthalmology may generate the first image by increasing the resolution at least based on the right eye information. it can.

(S54:所定の処理を実行する)
コンピュータは、ステップS2で高解像度化された第1画像に基づいて所定の処理を実行する。所定の処理は、前述したように任意の処理であってよい。
(S54: Execute a predetermined process)
The computer executes a predetermined process based on the first image whose resolution has been increased in step S2. The predetermined process may be an arbitrary process as described above.

ステップS51で受け付けられた低解像度画像、ステップS52で得られた判別結果、ステップS53で生成された高解像度画像(第1画像)、所定の処理によって得られた情報などは、記憶装置に保存され、及び/又は、出力装置により出力される。 The low-resolution image received in step S51, the discrimination result obtained in step S52, the high-resolution image (first image) generated in step S53, the information obtained by a predetermined process, and the like are stored in the storage device. , And / or output by the output device.

〈医用画像処理装置の例〉
以上のような医用画像処理方法を実現するための医用画像処理装置の例を説明する。このような装置の構成の例を図7に示す。
<Example of medical image processing device>
An example of a medical image processing apparatus for realizing the above-mentioned medical image processing method will be described. An example of the configuration of such a device is shown in FIG.

医用画像処理装置1は、制御部10と、記憶部20と、データ処理部30と、通信部40とを含む。ユーザインターフェイス(UI)100は、医用画像処理装置1に含まれてもよいし、含まれなくてもよい。医用画像処理装置1に含まれる要素は、単一の装置又は2以上の装置として構成される。例えば、医用画像処理装置1は、これら要素の全てを備えた単一のコンピュータを含む。 The medical image processing device 1 includes a control unit 10, a storage unit 20, a data processing unit 30, and a communication unit 40. The user interface (UI) 100 may or may not be included in the medical image processing apparatus 1. The elements included in the medical image processing device 1 are configured as a single device or two or more devices. For example, the medical image processing device 1 includes a single computer equipped with all of these elements.

医用画像処理装置1が2以上の装置を含む場合の例として、制御部10を含むコンピュータと、記憶部20を含むコンピュータと、データ処理部30を含むコンピュータとを、それぞれ個別に設けることができる。或いは、医用画像処理装置1は、制御部10、記憶部20及びデータ処理部30のうちのいずれか2つを備えたコンピュータと、他の1つを備えたコンピュータとを含む。異なるコンピュータの間の通信形態は、有線通信及び/又は無線通信を含んでよく、専用回線及び/又は公衆回線を含んでよく、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、近距離通信及びインターネットのうちの少なくとも1つを含んでよい。 As an example of the case where the medical image processing device 1 includes two or more devices, a computer including a control unit 10, a computer including a storage unit 20, and a computer including a data processing unit 30 can be individually provided. .. Alternatively, the medical image processing device 1 includes a computer including any two of the control unit 10, the storage unit 20, and the data processing unit 30, and a computer including the other one. Modes of communication between different computers may include wired and / or wireless communications, including leased and / or public lines, local area networks (LANs), wide area networks (WANs), short-range communications. And at least one of the Internet may be included.

〈制御部10〉
制御部10は各種の制御を実行する。例えば、制御部10は、医用画像処理装置1の各要素の制御や、2以上の要素の連係的制御を実行する。また、制御部10は、医用画像処理装置1の外部の装置の制御を行うことができる。例えば、ユーザインターフェイス100が医用画像処理装置1に含まれない場合、制御部10はユーザインターフェイス100の制御を行うことができる。制御部10はプロセッサを含む。
<Control unit 10>
The control unit 10 executes various controls. For example, the control unit 10 executes control of each element of the medical image processing device 1 and coordinated control of two or more elements. In addition, the control unit 10 can control an external device of the medical image processing device 1. For example, when the user interface 100 is not included in the medical image processing device 1, the control unit 10 can control the user interface 100. The control unit 10 includes a processor.

〈出力制御部11〉
出力制御部11は、前述した出力装置を制御する。本例において、出力制御部11は、図1のステップS3、図2のステップS14、図3のステップS25、図6のステップS54などを実行することができる。
<Output control unit 11>
The output control unit 11 controls the output device described above. In this example, the output control unit 11 can execute step S3 of FIG. 1, step S14 of FIG. 2, step S25 of FIG. 3, step S54 of FIG. 6, and the like.

出力装置は、例えば、表示装置、音声出力装置、印刷装置、通信機器、及びデータライタのうちの少なくとも1つを含む。すなわち、出力制御部11は、次の制御のうちの少なくともいずれかを実行するように構成される:情報を表示するための表示装置の制御;音声情報を出力するための音声出力装置の制御;用紙に情報を印刷するための印刷装置の制御;外部装置に情報を送信させるための通信機器の制御;記録媒体に情報を記録するためのデータライタの制御。 The output device includes, for example, at least one of a display device, an audio output device, a printing device, a communication device, and a data writer. That is, the output control unit 11 is configured to execute at least one of the following controls: control of the display device for displaying information; control of the voice output device for outputting voice information; Control of a printing device for printing information on paper; control of a communication device for transmitting information to an external device; control of a data writer for recording information on a recording medium.

図2に示す例では、表示装置として表示部101が設けられている。また、通信部40を通信機器として用いることが可能である。図示は省略するが、音声出力装置、印刷装置、及びデータライタのうちの1つ以上が設けられていてよい。なお、他の出力装置が設けられていてもよい。 In the example shown in FIG. 2, a display unit 101 is provided as a display device. Further, the communication unit 40 can be used as a communication device. Although not shown, one or more of an audio output device, a printing device, and a data writer may be provided. In addition, other output devices may be provided.

〈記憶部20〉
記憶部20は各種のデータを記憶する。記憶部20に記憶されるデータの例として、被検者氏名や被検者ID等の被検者情報がある。記憶部20は、例えば、半導体記憶装置、磁気記憶装置、光記憶装置、及び光磁気記憶装置のうちの少なくとも1つを含む。
<Memory unit 20>
The storage unit 20 stores various types of data. As an example of the data stored in the storage unit 20, there is subject information such as the subject name and the subject ID. The storage unit 20 includes, for example, at least one of a semiconductor storage device, a magnetic storage device, an optical storage device, and a photomagnetic storage device.

〈知識ベース21〉
記憶部20には知識ベース21が格納されている。知識ベース21は、眼科知識ベース等の医学知識ベースや、自然言語解析や画像解析のための知識ベースを含んでいてよい。本例では、前述したように、低解像度画像と高解像度画像との複数の組み合わせ(学習サンプル)を学習することによって知識ベース21の少なくとも一部を作成することができる。
<Knowledge Base 21>
The knowledge base 21 is stored in the storage unit 20. The knowledge base 21 may include a medical knowledge base such as an ophthalmic knowledge base, and a knowledge base for natural language analysis and image analysis. In this example, as described above, at least a part of the knowledge base 21 can be created by learning a plurality of combinations (learning samples) of a low-resolution image and a high-resolution image.

〈通信部40〉
通信部40は、他の装置(外部装置200)にデータを送信する処理と、外部装置200からデータを受信する処理とを行う。通信部40は、外部装置200との間の通信方式に応じた公知の通信機器を含む。
<Communication unit 40>
The communication unit 40 performs a process of transmitting data to another device (external device 200) and a process of receiving data from the external device 200. The communication unit 40 includes a known communication device according to the communication method with the external device 200.

外部装置200は、コンピュータ(サーバ、データベース等)を含んでもよいし、医療装置(検査装置、撮影装置等)を含んでもよい。 The external device 200 may include a computer (server, database, etc.) or a medical device (inspection device, imaging device, etc.).

外部装置200が撮影装置又は画像アーカイビング装置などである場合、通信部40は、外部装置200から提供される医用画像を受け付ける画像受付部として機能することができる。本例では、通信部40は、例えば、制御部10による制御の下に、図1のステップS1、図2のステップS11、図3のステップS21、図4のステップS31、図5のステップS41、図6のステップS51などを実行することができる。更に、図2のステップS13、図3のステップ23、図4のステップS33などを実行することも可能である。 When the external device 200 is an imaging device, an image archiving device, or the like, the communication unit 40 can function as an image receiving unit that receives a medical image provided by the external device 200. In this example, the communication unit 40 is controlled by, for example, the control unit 10, step S1 in FIG. 1, step S11 in FIG. 2, step S21 in FIG. 3, step S31 in FIG. 4, and step S41 in FIG. Step S51 of FIG. 6 and the like can be executed. Further, it is also possible to execute step S13 of FIG. 2, step 23 of FIG. 3, step S33 of FIG. 4, and the like.

外部装置200が前述の医療情報を作成する装置又はそれを格納する装置である場合、通信部40は、外部装置200から医療情報を取得する医療情報取得部として機能することができる。本例では、通信部40は、例えば、制御部10による制御の下に、図5のステップS43などを実行することができる。 When the external device 200 is a device that creates or stores the above-mentioned medical information, the communication unit 40 can function as a medical information acquisition unit that acquires medical information from the external device 200. In this example, the communication unit 40 can execute step S43 of FIG. 5 or the like under the control of the control unit 10, for example.

〈データ処理部30〉
データ処理部30は、各種のデータ処理を実行する。本例において、データ処理部30は、画像の解像度変換、左眼画像/右眼画像の判別、画像解析、推論などを実行することができる。データ処理部30は、プロセッサとコンピュータプログラムとを含む。データ処理部30は、人工知能エンジン(眼科用人工知能エンジン等)を含んでよい。知識ベース21は人工知能エンジンによって使用される。
<Data processing unit 30>
The data processing unit 30 executes various data processing. In this example, the data processing unit 30 can perform image resolution conversion, left-eye image / right-eye image discrimination, image analysis, inference, and the like. The data processing unit 30 includes a processor and a computer program. The data processing unit 30 may include an artificial intelligence engine (artificial intelligence engine for ophthalmology, etc.). The knowledge base 21 is used by an artificial intelligence engine.

画像の解像度変換は、図1のステップS2、図2のステップS12、図3のステップS22、図4のステップS32、図5のステップS42、図6のステップS53などに相当する。画像の解像度変換は、画像変換部31によって実行される。画像変換部31は、典型的には人工知能エンジンを含むが、これを含まなくてもよい。画像変換部31の動作は、解像度変換のためのハードウェア(プロセッサ、記憶装置等)とコンピュータプログラムとの協働によって実現される。 The image resolution conversion corresponds to step S2 in FIG. 1, step S12 in FIG. 2, step S22 in FIG. 3, step S32 in FIG. 4, step S42 in FIG. 5, step S53 in FIG. 6, and the like. The image resolution conversion is executed by the image conversion unit 31. The image conversion unit 31 typically includes an artificial intelligence engine, but it may not be included. The operation of the image conversion unit 31 is realized by the cooperation between the hardware (processor, storage device, etc.) for resolution conversion and the computer program.

左眼画像/右眼画像の判別は、図6のステップS52などに相当する。左眼画像/右眼画像の判別は、左右判別部32によって実行される。左右判別部32は、人工知能エンジンを含んでもよいし、含まなくてもよい。左右判別部32の動作は、左眼画像/右眼画像の判別のためのハードウェア(プロセッサ、記憶装置等)とコンピュータプログラムとの協働によって実現される。 The discrimination between the left eye image and the right eye image corresponds to step S52 and the like in FIG. The discrimination between the left eye image and the right eye image is executed by the left / right discriminating unit 32. The left / right discriminating unit 32 may or may not include an artificial intelligence engine. The operation of the left / right discriminating unit 32 is realized by the cooperation between the hardware (processor, storage device, etc.) for discriminating the left eye image / right eye image and the computer program.

画像解析は、図3のステップS24、図4のステップS34などに相当する。画像解析は、画像解析部33によって実行される。画像解析部33は、人工知能エンジンを含んでもよいし、含まなくてもよい。画像解析部33の動作は、画像解析のためのハードウェア(プロセッサ、記憶装置等)とコンピュータプログラムとの協働によって実現される。 The image analysis corresponds to step S24 in FIG. 3, step S34 in FIG. 4, and the like. The image analysis is executed by the image analysis unit 33. The image analysis unit 33 may or may not include an artificial intelligence engine. The operation of the image analysis unit 33 is realized by the cooperation between the hardware (processor, storage device, etc.) for image analysis and the computer program.

推論は、図5のステップS44などに相当する。推論は、推論部34によって実行される。推論部34は、典型的には人工知能エンジンを含むが、これを含まなくてもよい。推論部34の動作は、推論のためのハードウェア(プロセッサ、記憶装置等)とコンピュータプログラムとの協働によって実現される。 The inference corresponds to step S44 and the like in FIG. The inference is executed by the inference unit 34. The inference unit 34 typically includes an artificial intelligence engine, but it may not be included. The operation of the inference unit 34 is realized by the cooperation between the hardware for inference (processor, storage device, etc.) and the computer program.

〈ユーザインターフェイス100〉
ユーザインターフェイス100には、表示部101と操作部102とが含まれる。表示部101は、フラットパネルディスプレイ等の表示デバイスを含む。操作部102は、マウス、キーボード、トラックパッド、ボタン、キー、ジョイスティック、操作パネル等の操作デバイスを含む。
<User interface 100>
The user interface 100 includes a display unit 101 and an operation unit 102. The display unit 101 includes a display device such as a flat panel display. The operation unit 102 includes operation devices such as a mouse, a keyboard, a trackpad, buttons, keys, a joystick, and an operation panel.

表示部101と操作部102は、それぞれ個別のデバイスとして構成される必要はない。たとえばタッチパネルのように、表示機能と操作機能とが一体化されたデバイスを用いることも可能である。その場合、操作部102は、このタッチパネルとコンピュータプログラムとを含んで構成される。操作部102に対する操作内容は、電気信号として制御部10に入力される。また、表示部101に表示されたグラフィカルユーザインターフェイス(GUI)と、操作部102とを用いて、操作や情報入力を行うようにしてもよい。 The display unit 101 and the operation unit 102 do not need to be configured as separate devices. For example, it is possible to use a device such as a touch panel in which a display function and an operation function are integrated. In that case, the operation unit 102 includes the touch panel and a computer program. The operation content for the operation unit 102 is input to the control unit 10 as an electric signal. Further, the graphical user interface (GUI) displayed on the display unit 101 and the operation unit 102 may be used to perform operations and information input.

〈医用画像処理装置の動作例〉
医用画像処理装置1が実行可能な動作のいくつかの例を説明する。以下の動作例をそれぞれ適用することができる。或いは、以下の動作例のうちのいずれか2以上を組み合わせることもできる。また、以下の動作例におけるいずれかのステップを変形することも可能である。
<Operation example of medical image processing device>
Some examples of operations that the medical image processing apparatus 1 can perform will be described. The following operation examples can be applied respectively. Alternatively, any two or more of the following operation examples can be combined. It is also possible to modify any of the steps in the following operation example.

〈第1の動作例〉
第1の動作例を説明する。まず、通信部40は、所定の解像度を有する被検者の所定部位の画像を受け付ける(例えば、図1のステップS1)。
<First operation example>
The first operation example will be described. First, the communication unit 40 receives an image of a predetermined portion of the subject having a predetermined resolution (for example, step S1 in FIG. 1).

次に、画像変換部31(例えば、(眼科用)人工知能エンジン)は、通信部40によって受け付けられた画像を、所定の解像度より高い第1解像度を有する第1画像に変換する(例えば、図1のステップS2)。 Next, the image conversion unit 31 (for example, an artificial intelligence engine (for ophthalmology)) converts the image received by the communication unit 40 into a first image having a first resolution higher than a predetermined resolution (for example, FIG. Step S2 of 1.

続いて、データ処理部30(画像解析部33、推論部34等)及び/又は制御部10(出力制御部11等)は、画像変換部31によって生成された第1画像に基づいて所定の処理を実行する(例えば、図1のステップS3)。 Subsequently, the data processing unit 30 (image analysis unit 33, inference unit 34, etc.) and / or the control unit 10 (output control unit 11 and the like) perform predetermined processing based on the first image generated by the image conversion unit 31. (For example, step S3 in FIG. 1).

〈第2の動作例〉
第2の動作例を説明する。まず、通信部40は、所定の解像度を有する被検者の所定部位の画像を受け付ける(例えば、図2のステップS11)。
<Second operation example>
A second operation example will be described. First, the communication unit 40 receives an image of a predetermined portion of the subject having a predetermined resolution (for example, step S11 in FIG. 2).

次に、画像変換部31(例えば、(眼科用)人工知能エンジン)は、通信部40によって受け付けられた画像を、所定の解像度より高い第1解像度を有する第1画像に変換する(例えば、図2のステップS12)。 Next, the image conversion unit 31 (for example, an artificial intelligence engine (for ophthalmology)) converts the image received by the communication unit 40 into a first image having a first resolution higher than a predetermined resolution (for example, FIG. Step S12 of 2.

通信部40(及び/又はデータ処理部30など)は、所定の解像度より高い第2解像度を有する所定部位の第2画像を取得する(例えば、図2のステップS13)。或いは、通信部40(及び/又はデータ処理部30など)は、所定の解像度より高い第2解像度をそれぞれ有する所定部位の第2〜第N画像を取得する(例えば、図2のステップS13)。 The communication unit 40 (and / or the data processing unit 30 or the like) acquires a second image of a predetermined portion having a second resolution higher than the predetermined resolution (for example, step S13 in FIG. 2). Alternatively, the communication unit 40 (and / or the data processing unit 30 or the like) acquires the second to Nth images of the predetermined portion having a second resolution higher than the predetermined resolution (for example, step S13 in FIG. 2).

出力制御部11は、第1解像度を有する第1画像と、第2解像度を有する第2画像(又は第2〜第N画像)とを、それらの撮影日に応じた順序で並べて表示部101に表示させる(例えば、図2のステップS14)。このとき、第1〜第N画像から複数の画像を選択して表示させることもできる。 The output control unit 11 arranges the first image having the first resolution and the second image (or the second to Nth images) having the second resolution in the order according to their shooting dates on the display unit 101. Display (for example, step S14 in FIG. 2). At this time, a plurality of images can be selected and displayed from the first to Nth images.

〈第3の動作例〉
第3の動作例を説明する。まず、通信部40は、所定の解像度を有する被検者の所定部位の画像を受け付ける(例えば、図3のステップS21)。
<Third operation example>
A third operation example will be described. First, the communication unit 40 receives an image of a predetermined portion of the subject having a predetermined resolution (for example, step S21 in FIG. 3).

次に、画像変換部31(例えば、(眼科用)人工知能エンジン)は、通信部40によって受け付けられた画像を、所定の解像度より高い第1解像度を有する第1画像に変換する(例えば、図3のステップS22)。 Next, the image conversion unit 31 (for example, an artificial intelligence engine (for ophthalmology)) converts the image received by the communication unit 40 into a first image having a first resolution higher than a predetermined resolution (for example, FIG. Step 3 S22).

通信部40(及び/又はデータ処理部30など)は、所定の解像度より高い第2解像度を有する所定部位の第2画像(又は第2〜第N画像)を取得する(例えば、図3のステップS23)。 The communication unit 40 (and / or the data processing unit 30 or the like) acquires a second image (or a second to Nth image) of a predetermined portion having a second resolution higher than the predetermined resolution (for example, the step of FIG. 3). S23).

画像解析部33は、第1画像に所定の解析処理を施して第1解析データを生成し、且つ、第2画像に解析処理を施して第2解析データを生成する(例えば、図3のステップS24)。或いは、画像解析部33は、第1〜第N画像のそれぞれに所定の解析処理を施して複数の解析データを生成する(例えば、図3のステップS24)。 The image analysis unit 33 performs a predetermined analysis process on the first image to generate the first analysis data, and performs an analysis process on the second image to generate the second analysis data (for example, the step of FIG. 3). S24). Alternatively, the image analysis unit 33 performs a predetermined analysis process on each of the first to Nth images to generate a plurality of analysis data (for example, step S24 in FIG. 3).

出力制御部11は、第1解析データ及び第2解析データ(又は第1〜第N解析データ)を、それら画像の撮影日に応じた順序で並べて表示部101に表示させる(例えば、図3のステップS25)。このとき、第1〜第N解析データから複数の解析データを選択して表示させることもできる。 The output control unit 11 displays the first analysis data and the second analysis data (or the first to Nth analysis data) on the display unit 101 in an order according to the shooting date of the images (for example, FIG. 3). Step S25). At this time, a plurality of analysis data can be selected and displayed from the first to Nth analysis data.

〈第4の動作例〉
第4の動作例を説明する。まず、通信部40は、所定の解像度を有する被検者の所定部位の画像を受け付ける(例えば、図4のステップS31)。
<Fourth operation example>
A fourth operation example will be described. First, the communication unit 40 receives an image of a predetermined portion of the subject having a predetermined resolution (for example, step S31 in FIG. 4).

次に、画像変換部31(例えば、(眼科用)人工知能エンジン)は、通信部40によって受け付けられた画像を、所定の解像度より高い第1解像度を有する第1画像に変換する(例えば、図4のステップS32)。 Next, the image conversion unit 31 (for example, an artificial intelligence engine (for ophthalmology)) converts the image received by the communication unit 40 into a first image having a first resolution higher than a predetermined resolution (for example, FIG. Step S32 of step 4).

通信部40(及び/又はデータ処理部30など)は、所定の解像度より高い第2解像度を有する所定部位の第2〜第N画像を取得する(例えば、図4のステップS33)。 The communication unit 40 (and / or the data processing unit 30 or the like) acquires the second to Nth images of a predetermined portion having a second resolution higher than the predetermined resolution (for example, step S33 in FIG. 4).

画像解析部33は、第1〜第N画像のそれぞれに所定の解析処理を施して第1〜第N解析データを生成する(例えば、図4のステップS34)。 The image analysis unit 33 performs a predetermined analysis process on each of the first to Nth images to generate the first to Nth analysis data (for example, step S34 in FIG. 4).

画像解析部33は、更に、第1〜第N解析データの一部又は全部に基づいて、被検者の所定部位の特性の時系列変化を表す情報を生成する(例えば、図4のステップ35)。出力制御部11は、例えば、生成された情報、第1〜第N画像のいずれか、第1〜第N解析データのいずれかのうちの1つ以上を出力するように、出力装置(表示部101等)の制御を行うことが可能である。 The image analysis unit 33 further generates information representing a time-series change in the characteristics of a predetermined part of the subject based on a part or all of the first to Nth analysis data (for example, step 35 in FIG. 4). ). The output control unit 11 is, for example, an output device (display unit) so as to output one or more of the generated information, any of the first to Nth images, and any one or more of the first to Nth analysis data. 101 etc.) can be controlled.

〈第5の動作例〉
第5の動作例を説明する。まず、通信部40は、所定の解像度を有する被検者の所定部位の画像を受け付ける(例えば、図5のステップS41)。
<Fifth operation example>
A fifth operation example will be described. First, the communication unit 40 receives an image of a predetermined portion of the subject having a predetermined resolution (for example, step S41 in FIG. 5).

次に、画像変換部31(例えば、(眼科用)人工知能エンジン)は、通信部40によって受け付けられた画像を、所定の解像度より高い第1解像度を有する第1画像に変換する(例えば、図5のステップS42)。 Next, the image conversion unit 31 (for example, an artificial intelligence engine (for ophthalmology)) converts the image received by the communication unit 40 into a first image having a first resolution higher than a predetermined resolution (for example, FIG. Step S42 of step 5).

通信部40は、外部装置200から医療情報を取得する(例えば、図5のステップS43)。これに加え、又はこれに代えて、データ処理部30は、医療情報を生成することができる(例えば、図5のステップS43)。 The communication unit 40 acquires medical information from the external device 200 (for example, step S43 in FIG. 5). In addition to or instead of this, the data processing unit 30 can generate medical information (eg, step S43 in FIG. 5).

推論部34は、第1画像及び医療情報に基づいて、被検者が罹患している疾患又はその候補に関する推論を行う(例えば、図5のステップS54)。なお、医療情報を用いることなく、第1画像に基づいて推論を行うことも可能である。 The inference unit 34 makes an inference regarding the disease suffering from the subject or a candidate thereof based on the first image and medical information (for example, step S54 in FIG. 5). It is also possible to make an inference based on the first image without using medical information.

出力制御部11は、例えば、推論の結果、第1画像、医療情報のうちの1つ以上を出力するように、出力装置(表示部101等)の制御を行うことが可能である。 The output control unit 11 can control the output device (display unit 101, etc.) so as to output one or more of the first image and medical information as a result of inference, for example.

〈第6の動作例〉
第6の動作例を説明する。まず、通信部40は、所定の解像度を有する被検眼の所定部位の画像を受け付ける(例えば、図6のステップS51)。
<Sixth operation example>
A sixth operation example will be described. First, the communication unit 40 receives an image of a predetermined portion of the eye to be inspected having a predetermined resolution (for example, step S51 in FIG. 6).

次に、左右判別部32は、受け付けられた画像が左眼画像であるか右眼画像であるか判別する(例えば、図6のステップS52)。なお、画像変換部31による処理の後に左右判別処理を実行してもよい。 Next, the left-right discriminating unit 32 discriminates whether the received image is a left-eye image or a right-eye image (for example, step S52 in FIG. 6). The left / right discrimination process may be executed after the process by the image conversion unit 31.

画像変換部31(例えば、(眼科用)人工知能エンジン)は、通信部40によって受け付けられた画像を、所定の解像度より高い第1解像度を有する第1画像に変換する(例えば、図6のステップS53)。 The image conversion unit 31 (for example, an artificial intelligence engine (for ophthalmology)) converts the image received by the communication unit 40 into a first image having a first resolution higher than a predetermined resolution (for example, the step of FIG. 6). S53).

ここで、知識ベース21(眼科知識ベース)が、眼の解剖学的特徴を表す特徴情報を含む場合、画像変換部31(眼科用人工知能エンジン)は、少なくとも特徴情報に基づいて解像度変換を行うことにより第1画像を生成することができる。 Here, when the knowledge base 21 (ophthalmology knowledge base) includes feature information representing anatomical features of the eye, the image conversion unit 31 (artificial intelligence engine for ophthalmology) performs resolution conversion based on at least the feature information. This makes it possible to generate the first image.

また、特徴情報が、左眼の解剖学的特徴を表す左眼情報と、右眼の解剖学的特徴を表す右眼情報とを含み、且つ、左右判別部32による処理が既に実行された場合、画像変換部31(眼科用人工知能エンジン)は、左眼画像に対しては少なくとも左眼情報に基づいて第1画像を生成し、右眼画像に対しては少なくとも右眼情報に基づいて第1画像を生成することができる。 Further, when the feature information includes left eye information representing the anatomical features of the left eye and right eye information representing the anatomical features of the right eye, and the processing by the left / right discriminating unit 32 has already been executed. , The image conversion unit 31 (artificial intelligence engine for ophthalmology) generates a first image based on at least left eye information for the left eye image, and at least based on the right eye information for the right eye image. One image can be generated.

続いて、データ処理部30(画像解析部33、推論部34等)及び/又は制御部10(出力制御部11等)は、画像変換部31によって生成された第1画像に基づいて所定の処理を実行する(例えば、図6のステップS54)。 Subsequently, the data processing unit 30 (image analysis unit 33, inference unit 34, etc.) and / or the control unit 10 (output control unit 11 and the like) perform predetermined processing based on the first image generated by the image conversion unit 31. (For example, step S54 in FIG. 6).

〈作用・効果〉
以上に例示した実施形態の作用及び効果について説明する。以下に説明する作用や効果は例示的なものであり、これらのうちのいずれか2以上を任意に組み合わせることや、これらのうちのいずれか1以上を公知技術と組み合わせることなどが可能である。
<Action / effect>
The actions and effects of the embodiments exemplified above will be described. The actions and effects described below are exemplary, and any two or more of these can be arbitrarily combined, or any one or more of these can be combined with known art.

実施形態の医用画像処理方法は、コンピュータを用いて医用画像を処理する方法である。コンピュータは、所定の解像度を有する被検者の所定部位の画像を受け付け、この画像を上記所定の解像度より高い第1解像度を有する第1画像に変換し、この第1画像に基づき所定の処理を実行する。 The medical image processing method of the embodiment is a method of processing a medical image using a computer. The computer receives an image of a predetermined part of the subject having a predetermined resolution, converts this image into a first image having a first resolution higher than the predetermined resolution, and performs a predetermined process based on the first image. Execute.

このような医用画像処理方法によれば、例えば緑内障のように長期間にわたる経過観察が必要な場合において、例えば、過去に取得された低解像度の画像を高解像度化することができる。それにより、比較される複数の画像の質(解像度)が異なることに起因した比較観察や比較解析の問題が解消される。 According to such a medical image processing method, when long-term follow-up is required such as glaucoma, it is possible to increase the resolution of a low-resolution image acquired in the past, for example. As a result, the problems of comparative observation and comparative analysis caused by the difference in quality (resolution) of a plurality of images to be compared are solved.

また、緊急時や往診時などに簡易的な撮影装置で得られた低解像度画像を高解像度化することができるので、高性能な撮影装置で得られた高解像度画像との比較を好適に行うことができる。 In addition, since it is possible to increase the resolution of a low-resolution image obtained by a simple photographing device in an emergency or a home visit, it is preferable to compare it with a high-resolution image obtained by a high-performance photographing device. be able to.

また、緊急時や災害時のように簡易的な撮影装置しか使用できない場合であっても、低解像度画像を高解像度化して診断に用いることができるので、診断確度の向上を図ることが可能となる。 In addition, even when only a simple imaging device can be used, such as in an emergency or disaster, the low-resolution image can be made high-resolution and used for diagnosis, so it is possible to improve the accuracy of diagnosis. Become.

また、遠隔医療等において通信環境等の影響により解像度が低下した場合でも、ライブ画像や撮影画像を高解像度化することができるので、従来と比較して医師の認識や判断を制約することが少ない。 In addition, even if the resolution is lowered due to the influence of the communication environment in telemedicine, etc., the resolution of live images and captured images can be increased, so that the recognition and judgment of doctors are less restricted than in the past. ..

このようないくつかの運用例から明らかなように、例示的な実施形態によれば、医用画像の高解像度化により、上記した問題のいずれか、それから派生する問題、それに関連する問題など、医用画像の解像度に起因する問題を解決することが可能である。 As is clear from some of these operational examples, according to the exemplary embodiments, the higher resolution of the medical image causes medical use, such as any of the above problems, problems derived from it, and related problems. It is possible to solve problems caused by image resolution.

実施形態において、コンピュータは人工知能エンジンを含んでいてよい。この場合、人工知能エンジンを用いて、受け付けられた画像を第1画像に変換することができる。つまり、人工知能エンジンによって高解像度化を行うことができる。 In embodiments, the computer may include an artificial intelligence engine. In this case, an artificial intelligence engine can be used to convert the accepted image into a first image. That is, the resolution can be increased by the artificial intelligence engine.

このような人工知能エンジンを用いることにより、低解像度の画像を高解像度化する処理を、より高精度、より高確度で行うことが可能となる。 By using such an artificial intelligence engine, it is possible to perform a process of increasing the resolution of a low-resolution image with higher accuracy and higher accuracy.

実施形態において、コンピュータは、所定の解像度より高い第2解像度を有する被検者の所定部位の第2画像を取得する処理と、第1画像と第2画像とを並べて表示手段に表示させる処理とを実行するように構成されてよい。ここで、表示手段は、コンピュータに含まれてもよいし、その外部に設けられてもよい。 In the embodiment, the computer acquires a second image of a predetermined portion of a subject having a second resolution higher than a predetermined resolution, and displays the first image and the second image side by side on a display means. May be configured to perform. Here, the display means may be included in the computer or may be provided outside the computer.

このような実施形態によれば、所定の解像度よりも解像度が高い第1画像及び第2画像を比較観察することができる。 According to such an embodiment, the first image and the second image having a resolution higher than a predetermined resolution can be comparatively observed.

実施形態において、コンピュータは、第1画像及び第2画像を含む、所定の解像度より高い解像度をそれぞれ有する所定部位の複数の画像を、それらの撮影日に応じた順序で並べて表示手段に表示させることができる。 In the embodiment, the computer causes the display means to display a plurality of images of a predetermined portion having a resolution higher than a predetermined resolution, including the first image and the second image, in an order according to their shooting dates. Can be done.

このような実施形態によれば、所定の解像度よりも解像度が高い複数の画像をそれらが撮影された順に並べて表示することができるので、所定部位の時系列的な変化を容易に把握することが可能である。 According to such an embodiment, since a plurality of images having a resolution higher than a predetermined resolution can be displayed side by side in the order in which they were taken, it is possible to easily grasp the time-series change of the predetermined portion. It is possible.

実施形態において、コンピュータは、所定の解像度より高い第2解像度を有する所定部位の第2画像を取得し、更に、第1画像に所定の解析処理を施して第1解析データを生成し、且つ、第2画像に解析処理を施して第2解析データを生成することができる。 In the embodiment, the computer acquires a second image of a predetermined portion having a second resolution higher than a predetermined resolution, further performs a predetermined analysis process on the first image to generate the first analysis data, and The second image can be analyzed to generate the second analysis data.

このような実施形態によれば、所定の解像度よりも解像度が高い第1画像及び第2画像を解析した結果を比較できるので、高解像度化を行わない場合よりも高精度、高確度での比較解析が可能である。 According to such an embodiment, the results of analyzing the first image and the second image having a resolution higher than a predetermined resolution can be compared, so that the comparison can be made with higher accuracy and higher accuracy than when the resolution is not increased. Analysis is possible.

実施形態において、コンピュータは、第1画像及び第2画像を含む、所定の解像度より高い解像度をそれぞれ有する所定部位の複数の画像のそれぞれに解析処理を施して複数の解析データを生成し、更に、これら複数の画像の撮影日に応じた順序で複数の解析データを並べて表示手段に表示させることができる。 In the embodiment, the computer performs analysis processing on each of a plurality of images of a predetermined portion having a resolution higher than a predetermined resolution, including the first image and the second image, to generate a plurality of analysis data, and further. A plurality of analysis data can be arranged and displayed on the display means in an order according to the shooting date of the plurality of images.

このような実施形態によれば、所定の解像度よりも解像度が高い複数の画像を解析した結果を画像の撮影順に並べて表示することができるので、解析データの時系列的な変化を容易に把握することが可能である。 According to such an embodiment, the results of analyzing a plurality of images having a resolution higher than a predetermined resolution can be displayed side by side in the shooting order of the images, so that the time-series change of the analysis data can be easily grasped. It is possible.

実施形態において、コンピュータは、第1画像及び第2画像を含む、所定の解像度より高い解像度をそれぞれ有する所定部位の複数の画像のそれぞれに解析処理を施して複数の解析データを生成し、更に、これら複数の画像の撮影日及び複数の解析データに基づいて、所定部位の特性の時系列変化を表す情報を生成することができる。 In the embodiment, the computer performs analysis processing on each of a plurality of images of a predetermined portion having a resolution higher than a predetermined resolution, including the first image and the second image, to generate a plurality of analysis data, and further. Based on the shooting dates of the plurality of images and the plurality of analysis data, it is possible to generate information representing the time-series changes in the characteristics of the predetermined portion.

このような実施形態によれば、所定の解像度よりも解像度が高い複数の画像を解析した結果に基づいて、所定部位の特性の時系列変化(つまり解析データの時系列変化)を表す情報を生成することができるので、従来よりも高精度、高確度の診断材料を提供することが可能である。 According to such an embodiment, information representing a time-series change in the characteristics of a predetermined part (that is, a time-series change in analysis data) is generated based on the result of analyzing a plurality of images having a resolution higher than a predetermined resolution. Therefore, it is possible to provide diagnostic materials with higher accuracy and higher accuracy than before.

実施形態において、人工知能エンジンが、被検者が罹患している疾患又はその候補に関する推論を第1画像に基づき実行することができる。 In embodiments, the artificial intelligence engine can make inferences about the disease or candidate thereof affecting the subject based on the first image.

このような実施形態によれば、高解像度化された画像の利用と人工知能エンジンの利用とを組み合わせることにより、所定疾患のスクリーニング、疾患の有無、疾患の進行度合、検査種別の選択などの診断支援を、従来よりも高精度、高確度で提供することが可能となる。 According to such an embodiment, by combining the use of a high-resolution image and the use of an artificial intelligence engine, a diagnosis such as screening of a predetermined disease, presence / absence of a disease, degree of disease progression, selection of a test type, etc. It will be possible to provide support with higher accuracy and accuracy than before.

実施形態において、コンピュータが、被検者に関する医療情報を取得可能である場合、人工知能エンジンは、第1画像及び医療情報に基づいて推論を実行することができる。 In an embodiment, if the computer can obtain medical information about the subject, the artificial intelligence engine can perform inferences based on the first image and the medical information.

このような実施形態によれば、高解像度化された画像に加えて被検者の医療情報を参照することができるので、診断支援の精度や確度の更なる向上を図ることができる。 According to such an embodiment, the medical information of the subject can be referred to in addition to the high-resolution image, so that the accuracy and accuracy of the diagnostic support can be further improved.

実施形態において、所定部位の画像は被検眼の画像であってよい。眼科では、様々な種類の画像が診断やスクリーニングに用いられる。よって、眼科は、実施形態の適用が特に有効な診療科の一つと言える。言うまでもないが、眼科以外の診療科に実施形態と適用することも可能である。 In the embodiment, the image of the predetermined portion may be an image of the eye to be inspected. In ophthalmology, various types of images are used for diagnosis and screening. Therefore, it can be said that ophthalmology is one of the clinical departments to which the application of the embodiment is particularly effective. Needless to say, it is also possible to apply the embodiment to clinical departments other than ophthalmology.

実施形態において、コンピュータは、眼科知識ベースを備えた眼科用人工知能エンジンを含んでいてよい。この場合、眼科用人工知能エンジンが、被検眼の画像を第1画像に変換することができる。 In embodiments, the computer may include an ophthalmic artificial intelligence engine with an ophthalmic knowledge base. In this case, the artificial intelligence engine for ophthalmology can convert the image of the eye to be inspected into the first image.

このような眼科用人工知能エンジンを用いることにより、被検眼の画像を高解像度化する処理を、より高精度、より高確度で行うことが可能となる。 By using such an artificial intelligence engine for ophthalmology, it is possible to perform a process of increasing the resolution of the image of the eye to be inspected with higher accuracy and higher accuracy.

実施形態において、眼科知識ベースは、眼の解剖学的特徴を表す特徴情報を含んでいてよい。この場合、眼科用人工知能エンジンは、少なくとも特徴情報に基づいて第1画像を生成することができる。 In embodiments, the ophthalmic knowledge base may include feature information that represents the anatomical features of the eye. In this case, the ophthalmic artificial intelligence engine can generate the first image based on at least the feature information.

このような実施形態によれば、眼の解剖学的特徴を参照して被検眼の画像を高解像度化できるので、被検眼の画像を高解像度化する処理の精度、確度の更なる向上を図ることができる。 According to such an embodiment, the image of the eye to be inspected can be made high resolution by referring to the anatomical features of the eye, so that the accuracy and accuracy of the process of making the image of the eye to be inspected high resolution can be further improved. be able to.

実施形態において、特徴情報は、左眼の解剖学的特徴を表す左眼情報と、右眼の解剖学的特徴を表す右眼情報とを含んでいてよい。この場合、コンピュータ(眼科用人工知能エンジン又は他のプロセッサ)は、被検眼の画像が左眼画像であるか右眼画像であるか判別することができる。更に、被検眼の画像が左眼画像であると判別された場合、眼科用人工知能エンジンは、少なくとも左眼情報に基づいて第1画像を生成することができる。一方、被検眼の画像が右眼画像であると判別された場合、眼科用人工知能エンジンは、少なくとも右眼情報に基づいて第1画像を生成することができる。 In embodiments, the feature information may include left eye information representing the anatomical features of the left eye and right eye information representing the anatomical features of the right eye. In this case, a computer (an ophthalmic artificial intelligence engine or other processor) can determine whether the image of the eye to be inspected is a left eye image or a right eye image. Further, when the image of the eye to be inspected is determined to be the left eye image, the ophthalmic artificial intelligence engine can generate the first image based on at least the left eye information. On the other hand, when the image of the eye to be inspected is determined to be the right eye image, the ophthalmic artificial intelligence engine can generate the first image based on at least the right eye information.

このような実施形態によれば、被検眼の画像が左眼画像である場合には左眼の解剖学的特徴を利用して高解像度化を実行し、被検眼の画像が右眼画像である場合には右眼の解剖学的特徴を利用して高解像度化を実行することができる。よって、被検眼の画像を高解像度化する処理の精度、確度の更なる向上を図ることができる。 According to such an embodiment, when the image of the eye to be inspected is the image of the left eye, the anatomical features of the left eye are used to perform high resolution, and the image of the eye to be inspected is the image of the right eye. In some cases, the anatomical features of the right eye can be used to achieve higher resolution. Therefore, it is possible to further improve the accuracy and accuracy of the process for increasing the resolution of the image to be inspected.

以上のような例示的な医用画像処理方法のうちの1又は2以上を実現するための医用画像処理装置は、例えば、画像受付部と、画像変換部と、処理部とを含む。画像受付部は、所定の解像度を有する被検者の所定部位の画像を受け付ける。図7に示す例では、通信部40が画像受付部として機能している。画像変換部は、受け付けられた画像を所定の解像度より高い第1解像度を有する第1画像に変換する。図7に示す例では、画像変換部31が画像変換部として機能している。処理部は、画像変換部により生成された第1画像に基づいて所定の処理を実行する。図7に示す例では、データ処理部30及び/又は制御部10などが処理部として機能している。 The medical image processing apparatus for realizing one or more of the above-exemplified medical image processing methods includes, for example, an image receiving unit, an image conversion unit, and a processing unit. The image receiving unit receives an image of a predetermined part of the subject having a predetermined resolution. In the example shown in FIG. 7, the communication unit 40 functions as an image reception unit. The image conversion unit converts the received image into a first image having a first resolution higher than a predetermined resolution. In the example shown in FIG. 7, the image conversion unit 31 functions as an image conversion unit. The processing unit executes a predetermined process based on the first image generated by the image conversion unit. In the example shown in FIG. 7, the data processing unit 30 and / or the control unit 10 and the like function as processing units.

このような医用画像処理装置によれば、例えば緑内障のように長期間にわたる経過観察が必要な場合において、例えば、過去に取得された低解像度の画像を高解像度化することができる。それにより、比較される複数の画像の質(解像度)が異なることに起因した比較観察や比較解析の問題が解消される。 According to such a medical image processing apparatus, it is possible to increase the resolution of a low-resolution image acquired in the past, for example, when long-term follow-up is required such as glaucoma. As a result, the problems of comparative observation and comparative analysis caused by the difference in quality (resolution) of a plurality of images to be compared are solved.

また、緊急時や往診時などに簡易的な撮影装置で得られた低解像度画像を高解像度化することができるので、高性能な撮影装置で得られた高解像度画像との比較を好適に行うことができる。 In addition, since it is possible to increase the resolution of a low-resolution image obtained by a simple photographing device in an emergency or a home visit, it is preferable to compare it with a high-resolution image obtained by a high-performance photographing device. be able to.

また、緊急時や災害時のように簡易的な撮影装置しか使用できない場合であっても、低解像度画像を高解像度化して診断に用いることができるので、診断確度の向上を図ることが可能となる。 In addition, even when only a simple imaging device can be used, such as in an emergency or disaster, the low-resolution image can be made high-resolution and used for diagnosis, so it is possible to improve the accuracy of diagnosis. Become.

また、遠隔医療等において通信環境等の影響により解像度が低下した場合でも、ライブ画像や撮影画像を高解像度化することができるので、従来と比較して医師の認識や判断を制約することが少ない。 In addition, even if the resolution is lowered due to the influence of the communication environment in telemedicine, etc., the resolution of live images and captured images can be increased, so that the recognition and judgment of doctors are less restricted than in the past. ..

このようないくつかの運用例から明らかなように、例示的な医用画像処理装置によれば、医用画像の高解像度化により、上記した問題のいずれか、それから派生する問題、それに関連する問題など、医用画像の解像度に起因する問題を解決することが可能である。 As is clear from some of these operational examples, according to an exemplary medical image processing device, due to the higher resolution of medical images, any of the above-mentioned problems, problems derived from them, problems related to them, etc. , It is possible to solve the problems caused by the resolution of medical images.

実施形態において、所定部位の画像は、被検眼の画像であってよい。この場合、画像変換部は、眼科知識ベースを備えた眼科用人工知能エンジンを含んでいてよい。この眼科用人工知能エンジンが被検眼の画像を第1画像に変換するように構成される。 In the embodiment, the image of the predetermined portion may be an image of the eye to be inspected. In this case, the image converter may include an ophthalmic artificial intelligence engine with an ophthalmic knowledge base. This ophthalmic artificial intelligence engine is configured to convert the image of the eye to be inspected into a first image.

このような医用画像処理装置によれば、眼科用人工知能エンジンを用いることによって、被検眼の画像を高解像度化する処理を、より高精度、より高確度で行うことが可能となる。 According to such a medical image processing apparatus, by using an artificial intelligence engine for ophthalmology, it is possible to perform a process of increasing the resolution of an image of an eye to be inspected with higher accuracy and higher accuracy.

実施形態において、眼科知識ベースは、眼の解剖学的特徴を表す特徴情報を含んでいてよい。この場合、眼科用人工知能エンジンは、少なくとも特徴情報に基づいて第1画像を生成することができる。 In embodiments, the ophthalmic knowledge base may include feature information that represents the anatomical features of the eye. In this case, the ophthalmic artificial intelligence engine can generate the first image based on at least the feature information.

このような医用画像処理装置によれば、眼の解剖学的特徴を参照して被検眼の画像を高解像度化できるので、被検眼の画像を高解像度化する処理の精度、確度の更なる向上を図ることができる。 According to such a medical image processing device, the image of the eye to be inspected can be made high resolution by referring to the anatomical features of the eye, so that the accuracy and accuracy of the process of making the image of the eye to be inspected high resolution are further improved. Can be planned.

実施形態において、特徴情報は、左眼の解剖学的特徴を表す左眼情報と、右眼の解剖学的特徴を表す右眼情報とを含んでいてよい。この場合、医用画像処理装置は、被検眼の画像が左眼画像であるか右眼画像であるか判別する判別部を含んでよい。図7に示す例では、左右判別部32が判別部として機能している。被検眼の画像が左眼画像であると判別された場合、眼科用人工知能エンジンは、少なくとも左眼情報に基づいて第1画像を生成することができる。一方、被検眼の画像が右眼画像であると判別された場合、眼科用人工知能エンジンは、少なくとも右眼情報に基づいて第1画像を生成することができる。 In embodiments, the feature information may include left eye information representing the anatomical features of the left eye and right eye information representing the anatomical features of the right eye. In this case, the medical image processing apparatus may include a discriminating unit that determines whether the image of the eye to be inspected is a left eye image or a right eye image. In the example shown in FIG. 7, the left / right discriminating unit 32 functions as a discriminating unit. When the image of the eye to be inspected is determined to be the left eye image, the ophthalmic artificial intelligence engine can generate the first image based on at least the left eye information. On the other hand, when the image of the eye to be inspected is determined to be the right eye image, the ophthalmic artificial intelligence engine can generate the first image based on at least the right eye information.

このような実施形態によれば、画像に描写されている被検眼に対応する解剖学的特徴を利用して高解像度化を実行することができるので、被検眼の画像を高解像度化する処理の精度、確度の更なる向上を図ることが可能である。 According to such an embodiment, it is possible to perform high resolution by utilizing the anatomical features corresponding to the eye to be examined depicted in the image, and therefore, the process of increasing the resolution of the image of the eye to be inspected. It is possible to further improve the accuracy and accuracy.

実施形態において、処理部は、表示制御部を含んでいてよい。表示制御部は、予め取得された所定の解像度より高い第2解像度を有する所定部位の第2画像と、第1画像とを、並べて表示手段に表示させる。図7に示す例では、出力制御部11が表示制御部として機能している。 In the embodiment, the processing unit may include a display control unit. The display control unit causes the display means to display the second image of the predetermined portion having a second resolution higher than the predetermined resolution acquired in advance and the first image side by side. In the example shown in FIG. 7, the output control unit 11 functions as a display control unit.

このような実施形態によれば、所定の解像度よりも解像度が高い第1画像及び第2画像を比較観察することができる。 According to such an embodiment, the first image and the second image having a resolution higher than a predetermined resolution can be comparatively observed.

実施形態において、処理部は、画像解析部を含んでいてよい。画像解析部は、第1画像に所定の解析処理を施して第1解析データを生成し、且つ、予め取得された所定の解像度より高い第2解像度を有する所定部位の第2画像に解析処理を施して第2解析データを生成する。図7に示す例では、画像解析部33が画像解析部として機能している。 In the embodiment, the processing unit may include an image analysis unit. The image analysis unit performs a predetermined analysis process on the first image to generate the first analysis data, and analyzes the second image of a predetermined portion having a second resolution higher than the predetermined resolution acquired in advance. The second analysis data is generated. In the example shown in FIG. 7, the image analysis unit 33 functions as an image analysis unit.

このような実施形態によれば、所定の解像度よりも解像度が高い第1画像及び第2画像を解析した結果を比較できるので、高解像度化を行わない場合よりも高精度、高確度での比較解析が可能である。 According to such an embodiment, the results of analyzing the first image and the second image having a resolution higher than a predetermined resolution can be compared, so that the comparison can be made with higher accuracy and higher accuracy than when the resolution is not increased. Analysis is possible.

実施形態において、処理部は推論部を含んでいてよい。推論部は、被検者が罹患している疾患又はその候補に関する推論を第1画像に基づき実行する。図7に示す例では、推論部34が推論部として機能している。 In the embodiment, the processing unit may include an inference unit. The inference unit makes inferences about the disease suffering from the subject or a candidate thereof based on the first image. In the example shown in FIG. 7, the inference unit 34 functions as an inference unit.

このような実施形態によれば、高解像度化された画像の利用と推論処理とを組み合わせることにより、所定疾患のスクリーニング、疾患の有無、疾患の進行度合、検査種別の選択などの診断支援を、従来よりも高精度、高確度で提供することが可能となる。 According to such an embodiment, by combining the use of high-resolution images and inference processing, diagnostic support such as screening for a predetermined disease, presence / absence of a disease, degree of disease progression, and selection of a test type can be provided. It is possible to provide with higher accuracy and higher accuracy than before.

実施形態に係る医用画像処理方法に含まれる工程や、医用画像処理装置に含まれる要素(構成、動作等)は、上記の例示に限定されるものではない。 The steps included in the medical image processing method according to the embodiment and the elements (configuration, operation, etc.) included in the medical image processing apparatus are not limited to the above examples.

以上に説明した実施形態は本発明の一例に過ぎない。本発明を実施しようとする者は、本発明の要旨の範囲内における変形(省略、置換、付加等)を任意に施すことが可能である。 The embodiments described above are merely examples of the present invention. A person who intends to carry out the present invention can arbitrarily make modifications (omission, substitution, addition, etc.) within the scope of the gist of the present invention.

1 医用画像処理装置
10 制御部
11 出力制御部
20 記憶部
21 知識ベース
30 データ処理部
31 画像変換部
32 左右判別部
33 画像解析部
34 推論部
40 通信部
100 ユーザインターフェイス
101 表示部
102 操作部
200 外部装置
1 Medical image processing device 10 Control unit 11 Output control unit 20 Storage unit 21 Knowledge base 30 Data processing unit 31 Image conversion unit 32 Left / right discrimination unit 33 Image analysis unit 34 Reasoning unit 40 Communication unit 100 User interface 101 Display unit 102 Operation unit 200 External device

Claims (4)

コンピュータを用いて医用画像を処理する方法であって、
前記コンピュータが、
低解像度画像と高解像度画像との複数の組み合わせを学習した人工知能エンジンを含み、
所定の解像度を有する被検眼の画像を受け付け、
前記人工知能エンジンにより、前記画像を前記所定の解像度より高い第1解像度を有する第1画像に変換し、
前記第1画像に基づき所定の処理を実行し、
前記人工知能エンジンが、眼の解剖学的特徴を表す特徴情報を含む眼科知識ベースを備えた眼科用人工知能エンジンを含み、
前記眼科用人工知能エンジンが、少なくとも前記特徴情報に基づいて前記被検眼の画像を前記第1画像に変換する
ことを特徴とする医用画像処理方法。
A method of processing medical images using a computer,
The computer
Includes an artificial intelligence engine that has learned multiple combinations of low-resolution and high-resolution images
Accepts an image of the eye to be inspected with a predetermined resolution,
The artificial intelligence engine converts the image into a first image having a first resolution higher than the predetermined resolution.
Performing a predetermined process based on the first image,
The artificial intelligence engine includes an ophthalmic artificial intelligence engine having an ophthalmic knowledge base including feature information representing anatomical features of the eye.
A medical image processing method , wherein the artificial intelligence engine for ophthalmology converts an image of the eye to be inspected into the first image based on at least the feature information.
前記特徴情報が、左眼の解剖学的特徴を表す左眼情報と、右眼の解剖学的特徴を表す右眼情報とを含み、
前記コンピュータが、前記被検眼の画像が左眼画像であるか右眼画像であるか判別し、
前記眼科用人工知能エンジンが、前記左眼画像であると判別された場合には少なくとも前記左眼情報に基づいて前記第1画像を生成し、前記右眼画像であると判別された場合には少なくとも前記右眼情報に基づいて前記第1画像を生成する
ことを特徴とする請求項に記載の医用画像処理方法。
The feature information includes left eye information representing the anatomical features of the left eye and right eye information representing the anatomical features of the right eye.
The computer determines whether the image of the eye to be inspected is a left eye image or a right eye image.
When the artificial intelligence engine for ophthalmology is determined to be the left eye image, the first image is generated based on at least the left eye information, and when it is determined to be the right eye image, the first image is generated. The medical image processing method according to claim 1 , wherein the first image is generated based on at least the right eye information.
前記解剖学的特徴は、視神経乳頭の位置、視神経乳頭の形態、黄斑の位置、黄斑の形態、血管の走行、血管の形態、神経線維の走行、及び神経線維の形態のいずれかを含む
ことを特徴とする請求項又はに記載の医用画像処理方法。
The anatomical features include any of the location of the optic disc, the morphology of the optic disc, the location of the macula, the morphology of the macula, the running of blood vessels, the morphology of blood vessels, the running of nerve fibers, and the morphology of nerve fibers. The medical image processing method according to claim 1 or 2 , wherein the medical image processing method is characterized.
所定の解像度を有する被検眼の画像を受け付ける画像受付部と、
低解像度画像と高解像度画像との複数の組み合わせを学習した人工知能エンジンを含み、前記画像受付部により受け付けられた前記画像を前記所定の解像度より高い第1解像度を有する第1画像に変換する画像変換部と、
前記第1画像に基づき所定の処理を実行する処理部と
を備え
前記人工知能エンジンが、眼の解剖学的特徴を表す特徴情報を含む眼科知識ベースを備えた眼科用人工知能エンジンを含み、
前記眼科用人工知能エンジンが、少なくとも前記特徴情報に基づいて前記被検眼の画像を前記第1画像に変換する
ことを特徴とする医用画像処理装置。
An image reception unit that accepts images of the eye to be inspected with a predetermined resolution,
An image that includes an artificial intelligence engine that has learned a plurality of combinations of a low-resolution image and a high-resolution image, and converts the image received by the image receiving unit into a first image having a first resolution higher than the predetermined resolution. Conversion part and
A processing unit that executes a predetermined process based on the first image is provided .
The artificial intelligence engine includes an ophthalmic artificial intelligence engine having an ophthalmic knowledge base including feature information representing anatomical features of the eye.
The ophthalmic artificial intelligence engine converts the image of the eye to be inspected into the first image based on at least the feature information.
A medical image processing device characterized by the fact that.
JP2016136180A 2016-07-08 2016-07-08 Medical image processing method and medical image processing device Active JP6867117B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016136180A JP6867117B2 (en) 2016-07-08 2016-07-08 Medical image processing method and medical image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016136180A JP6867117B2 (en) 2016-07-08 2016-07-08 Medical image processing method and medical image processing device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020154647A Division JP2021007017A (en) 2020-09-15 2020-09-15 Medical image processing method and medical image processing device

Publications (2)

Publication Number Publication Date
JP2018005841A JP2018005841A (en) 2018-01-11
JP6867117B2 true JP6867117B2 (en) 2021-04-28

Family

ID=60946500

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016136180A Active JP6867117B2 (en) 2016-07-08 2016-07-08 Medical image processing method and medical image processing device

Country Status (1)

Country Link
JP (1) JP6867117B2 (en)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111712186A (en) 2017-12-20 2020-09-25 医鲸股份有限公司 Method and device for assisting in the diagnosis of cardiovascular diseases
US10878574B2 (en) * 2018-02-21 2020-12-29 Topcon Corporation 3D quantitative analysis of retinal layers with deep learning
JP2019177032A (en) * 2018-03-30 2019-10-17 株式会社ニデック Ophthalmologic image processing device and ophthalmologic image processing program
JP7262933B2 (en) * 2018-05-25 2023-04-24 キヤノンメディカルシステムズ株式会社 Medical information processing system, medical information processing device, radiological diagnostic device, ultrasonic diagnostic device, learning data production method and program
JP7229715B2 (en) * 2018-10-10 2023-02-28 キヤノン株式会社 MEDICAL IMAGE PROCESSING APPARATUS, MEDICAL IMAGE PROCESSING METHOD AND PROGRAM
DE112019003022T5 (en) 2018-06-15 2021-03-18 Canon Kabushiki Kaisha Medical image processing device, medical image processing method, and program
JP7183590B2 (en) * 2018-06-29 2022-12-06 株式会社ニデック Ophthalmic image processing device, OCT device, and ophthalmic image processing program
KR102270659B1 (en) * 2018-07-06 2021-06-29 주식회사 메디웨일 Fundus image management device and method for determining suitability of fundus image
JP7305401B2 (en) * 2018-09-06 2023-07-10 キヤノン株式会社 Image processing device, method of operating image processing device, and program
CN112822973A (en) 2018-10-10 2021-05-18 佳能株式会社 Medical image processing apparatus, medical image processing method, and program
JP7341874B2 (en) * 2018-12-26 2023-09-11 キヤノン株式会社 Image processing device, image processing method, and program
WO2020166465A1 (en) * 2019-02-13 2020-08-20 キヤノン株式会社 Image processing device, image processing method, and program
JP7362403B2 (en) 2019-03-11 2023-10-17 キヤノン株式会社 Image processing device and image processing method
WO2020183791A1 (en) 2019-03-11 2020-09-17 キヤノン株式会社 Image processing device and image processing method
JP7406901B2 (en) 2019-03-29 2023-12-28 キヤノン株式会社 Information processing device and information processing method
JPWO2020241794A1 (en) * 2019-05-31 2020-12-03
JP7439419B2 (en) * 2019-09-04 2024-02-28 株式会社ニデック Ophthalmology image processing program and ophthalmology image processing device
JP7303896B2 (en) * 2019-11-08 2023-07-05 オリンパス株式会社 Information processing system, endoscope system, trained model, information storage medium, and information processing method
US20230289926A1 (en) * 2020-07-06 2023-09-14 Aillis Inc. Processing device, processing program, processing method, and processing system
CN116194033A (en) * 2020-07-15 2023-05-30 爱尔康公司 Digital image optimization for ophthalmic surgery
CN113520304A (en) * 2021-07-15 2021-10-22 苏州微清医疗器械有限公司 Method for displaying resolution of multiple optical images and confocal laser scanning imager

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9361667B2 (en) * 2010-08-27 2016-06-07 Sony Corporation Image processing apparatus and method
JP5701138B2 (en) * 2011-04-19 2015-04-15 富士フイルム株式会社 Medical image processing apparatus and method, and program
JP6512738B2 (en) * 2014-02-28 2019-05-15 キヤノン株式会社 Image processing apparatus, image processing method and program
JP6532151B2 (en) * 2014-12-18 2019-06-19 日本放送協会 Super-resolution device and program
JP6316325B2 (en) * 2016-01-21 2018-04-25 キヤノン株式会社 Information processing apparatus, information processing apparatus operating method, and information processing system

Also Published As

Publication number Publication date
JP2018005841A (en) 2018-01-11

Similar Documents

Publication Publication Date Title
JP6867117B2 (en) Medical image processing method and medical image processing device
KR101848321B1 (en) Method for facilitating dignosis of subject based on fovea image thereof and apparatus using the same
EP4023143A1 (en) Information processing device, information processing method, information processing system, and program
JP7279291B2 (en) Detection of lesions in eye images
JP7341874B2 (en) Image processing device, image processing method, and program
US20220415457A1 (en) Method and system for medical support
JP7178672B6 (en) METHOD AND APPARATUS USING THE SAME TO SUPPORT READING OF FUNDUS IMAGE OF SUBJECT
JP2018014059A (en) Medical information processing system and medical information processing method
JP5148928B2 (en) Fundus examination apparatus and program
JP2021039748A (en) Information processor, information processing method, information processing system, and program
JP7413147B2 (en) Image processing device, image processing method, and program
KR101848322B1 (en) Method for facilitating generation of finding and dignosis data of subject based on fovea image thereof and apparatus using the same
WO2020183791A1 (en) Image processing device and image processing method
WO2020202680A1 (en) Information processing device and information processing method
KR102071774B1 (en) Method for predicting cardio-cerebrovascular disease using eye image
JP2022155690A (en) Image processing device, image processing method, and program
WO2020138128A1 (en) Image processing device, image processing method, and program
JP2020163100A (en) Image processing apparatus and image processing method
US20230143229A1 (en) Method for diagnostic ultrasound of carotid artery
KR102343796B1 (en) Method for predicting cardiovascular disease using eye image
JP2021086560A (en) Medical image processing apparatus, medical image processing method, and program
JP2021164663A (en) Medical image processing method and medical image processing device
JP2020010823A (en) Medical information processing apparatus, medical information processing system, and medical information processing program
JP7344847B2 (en) Image processing device, image processing method, and program
JP7406901B2 (en) Information processing device and information processing method

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20161226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200602

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200915

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210323

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210408

R150 Certificate of patent or registration of utility model

Ref document number: 6867117

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250