JP2020048783A - Information collection system and information collection device - Google Patents

Information collection system and information collection device Download PDF

Info

Publication number
JP2020048783A
JP2020048783A JP2018180255A JP2018180255A JP2020048783A JP 2020048783 A JP2020048783 A JP 2020048783A JP 2018180255 A JP2018180255 A JP 2018180255A JP 2018180255 A JP2018180255 A JP 2018180255A JP 2020048783 A JP2020048783 A JP 2020048783A
Authority
JP
Japan
Prior art keywords
information
input
calculation result
data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018180255A
Other languages
Japanese (ja)
Other versions
JP7442964B2 (en
Inventor
春樹 岩井
Haruki Iwai
春樹 岩井
智生 藤戸
Tomoki Fujito
智生 藤戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2018180255A priority Critical patent/JP7442964B2/en
Publication of JP2020048783A publication Critical patent/JP2020048783A/en
Application granted granted Critical
Publication of JP7442964B2 publication Critical patent/JP7442964B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

To provide an information collection system and an information collection device for collecting useful data for learning.SOLUTION: An information collection system includes a first storage unit, an acquisition unit, a determination unit, and a second storage unit. The first storage unit stores information on an arithmetic result output by an intermediate layer in a first learned model including one or more intermediate layers that execute arithmetic processing to information that is input, and an output layer for outputting a diagnostic result on the basis of the arithmetic result of the intermediate layer. The acquisition unit acquires the arithmetic result output by the intermediate layer upon input of medical information into an input layer of the first learned model. The determination unit determines whether or not the arithmetic result acquired by the acquisition unit satisfies a condition with the information on the arithmetic result stored by the first storage unit. The second storage unit stores information on the medical information corresponding to the arithmetic result that is determined to satisfy the condition.SELECTED DRAWING: Figure 5

Description

本発明の実施の形態は、情報収集システム及び情報収集装置に関する。   An embodiment of the present invention relates to an information collection system and an information collection device.

機械学習を用いた画像処理技術が知られている。機械学習においては、例えば、多層のニューラルネットワークにより構成される学習済みモデルが用いられる。この技術では、学習済みモデルの精度を上げるために、特徴の異なる様々な画像を含んだ大量の学習用データが求められる。   An image processing technology using machine learning is known. In machine learning, for example, a learned model configured by a multilayer neural network is used. In this technique, a large amount of learning data including various images having different characteristics is required in order to increase the accuracy of the learned model.

学習済みモデルの学習の際に、類似度の高い単調な学習用データが多いと、レアケースの画像が入力された場合に、判別の精度が低くなることがある。   At the time of learning a learned model, if there is a large amount of monotonous learning data having a high degree of similarity, the accuracy of determination may be reduced when a rare case image is input.

米国公開公報2016/0361025号明細書US Patent Publication No. 2016/0361025 米国特許9208672号明細書U.S. Pat. No. 9,208,672 米国公開公報2017/0177798号明細書US Patent Publication No. 2017/0177798

本発明が解決しようとする課題は、有用な学習用データを収集することである。   The problem to be solved by the present invention is to collect useful learning data.

実施形態の情報収集システムは、第1記憶部と、取得部と、判定部と、第2記憶部とを備える。第1記憶部は、入力された情報に対する演算処理を行う1つ以上の中間層と、前記中間層の演算結果に基づいて診断結果を出力する出力層とを含む第1の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する。取得部は、前記第1の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する。判定部は、前記取得部が取得した演算結果が、前記第1記憶部が記憶する前記演算結果に関する情報との間で条件を満たすか否かを判定する。第2記憶部は、前記条件を満たすと判定された演算結果に対応する前記医用情報に関する情報を記憶する。   The information collection system according to the embodiment includes a first storage unit, an acquisition unit, a determination unit, and a second storage unit. The first storage unit is a first learned model including at least one intermediate layer that performs an arithmetic process on input information and an output layer that outputs a diagnosis result based on the arithmetic result of the intermediate layer. The information about the operation result output from the intermediate layer is stored. The acquisition unit acquires an operation result output by the intermediate layer in response to input of medical information to an input layer of the first learned model. The determining unit determines whether or not the calculation result obtained by the obtaining unit satisfies a condition between the calculation result and the information on the calculation result stored in the first storage unit. The second storage unit stores information on the medical information corresponding to a calculation result determined to satisfy the condition.

図1は、第1の実施形態に係る情報収集システムの構成の一例を示す図である。FIG. 1 is a diagram illustrating an example of the configuration of the information collection system according to the first embodiment. 図2は、第1の実施形態に係る学習処理の流れを説明するための図である。FIG. 2 is a diagram for explaining the flow of the learning process according to the first embodiment. 図3は、第1の実施形態に係る演算結果の分布の一例を示す図である。FIG. 3 is a diagram illustrating an example of a distribution of calculation results according to the first embodiment. 図4は、第1の実施形態に係る活性化関数の一例を示す図である。FIG. 4 is a diagram illustrating an example of the activation function according to the first embodiment. 図5は、第1の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。FIG. 5 is a diagram illustrating an example of functional blocks of the information collection system according to the first embodiment. 図6は、第1の実施形態に係る学習処理の流れの一例を示す図である。FIG. 6 is a diagram illustrating an example of a flow of a learning process according to the first embodiment. 図7は、第1の実施形態に係る判別処理の流れの一例を示す図である。FIG. 7 is a diagram illustrating an example of the flow of the determination process according to the first embodiment. 図8は、第1の実施形態に係る演算結果情報の一例を示す図である。FIG. 8 is a diagram illustrating an example of the calculation result information according to the first embodiment. 図9は、第1の実施形態に係る統計データの一例を示す図である。FIG. 9 is a diagram illustrating an example of the statistical data according to the first embodiment. 図10は、第1の実施形態に係る有用データの一例を示す図である。FIG. 10 is a diagram illustrating an example of useful data according to the first embodiment. 図11は、第1の実施形態に係るモデルデータの一例を示す図である。FIG. 11 is a diagram illustrating an example of the model data according to the first embodiment. 図12は、第1の実施形態に係る情報収集処理の流れの一例を示す図である。FIG. 12 is a diagram illustrating an example of a flow of an information collection process according to the first embodiment. 図13は、第1の実施形態に係る受付画面の一例を示す図である。FIG. 13 is a diagram illustrating an example of a reception screen according to the first embodiment. 図14は、第1の実施形態に係る取得処理の一例を示すフローチャートである。FIG. 14 is a flowchart illustrating an example of the acquisition process according to the first embodiment. 図15は、第1の実施形態に係る判定処理の一例を示すフローチャートである。FIG. 15 is a flowchart illustrating an example of the determination process according to the first embodiment. 図16は、第1の実施形態に係る受付処理の一例を示すフローチャートである。FIG. 16 is a flowchart illustrating an example of a reception process according to the first embodiment. 図17は、第2の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。FIG. 17 is a diagram illustrating an example of a functional block of the information collection system according to the second embodiment. 図18は、第2の実施形態に係る有用データの一例を示す図である。FIG. 18 is a diagram illustrating an example of useful data according to the second embodiment. 図19は、第3の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。FIG. 19 is a diagram illustrating an example of functional blocks of the information collection system according to the third embodiment. 図20は、第4の実施形態に係る演算結果の分布の一例を示す図である。FIG. 20 is a diagram illustrating an example of a distribution of calculation results according to the fourth embodiment.

以下に図面を参照して、情報収集システム及び情報収集装置の実施形態について詳細に説明する。本実施形態に係る情報収集システムは、例えばCAD(Computer Aided Diagnosis)において、学習済みモデルに入力された医用情報のうち、レアケースに該当する情報など、学習済みモデルの精度を向上させるために有用な情報を収集する。本実施形態における学習済みモデルは、例えば、多層のニューラルネットワークにより構成することができる。なお、以下において、学習済みモデルの中間的な演算結果を、「中間演算結果」、又は単に「演算結果」と表記する場合がある。また、以下において、「情報収集」を、単に「収集」と表記する場合がある。   Hereinafter, embodiments of an information collection system and an information collection device will be described in detail with reference to the drawings. The information collection system according to the present embodiment is useful for improving the accuracy of a learned model, such as information corresponding to a rare case, out of medical information input to a learned model in, for example, CAD (Computer Aided Diagnosis). Collect important information. The learned model in the present embodiment can be configured by, for example, a multilayer neural network. In the following, an intermediate operation result of the learned model may be referred to as “intermediate operation result” or simply “operation result”. In the following, “information collection” may be simply referred to as “collection”.

例えば、学習済みモデルにレアケースが入力された場合、中間層における演算結果において特異な値が出力されることが多くなり、その結果として判別結果が妥当ではなくなる場合がある。例えば、「肺がん」に判別されるべき入力情報に対して、「肺がん」の確度よりも、「肺結節」の確度が大きくなるような判別結果が出力される場合がある。この場合、出力される判別結果は、「肺がん」であるのか「肺結節」であるのかを医師が診断する上での支援情報として有用ではない場合がある。なお、以下において「レアケース」は、希少な症例に限られず、症例としては希少ではなくとも、学習済みモデルにおいて学習済みの範囲外であるとみなされるパラメータを含む医用情報も含むものとする。   For example, when a rare case is input to a trained model, a peculiar value is often output in the calculation result in the hidden layer, and as a result, the discrimination result may become invalid. For example, for input information to be determined as “lung cancer”, a determination result may be output such that the accuracy of “pulmonary nodule” is greater than the accuracy of “lung cancer”. In this case, the output determination result may not be useful as support information for a doctor to diagnose whether it is “lung cancer” or “pulmonary nodule”. In the following, the “rare case” is not limited to a rare case, and includes medical information including a parameter that is not a rare case but is considered to be out of the learned range in the learned model.

例えば、学習済みモデルの学習の際に、類似度の高い単調な学習用データが多いと、レアケースに該当するデータ等に対する頑健性が損なわれる、例えば学習済みの範囲外であるパラメータを含む画像データに対する判別の精度が低くなることがある。そこで、学習済みモデルの精度を高めるために、レアケースに該当する画像データと正解データとを対応付けた学習用データを揃えることが有用である。   For example, when learning a trained model, if there is a large amount of monotonous training data having a high degree of similarity, the robustness to data or the like corresponding to a rare case is impaired. The discrimination accuracy for the data may be reduced. Therefore, in order to improve the accuracy of the learned model, it is useful to prepare learning data in which image data corresponding to a rare case is associated with correct answer data.

なお、例えば、多層のニューラルネットワークにおいて、学習用データのうちどのパラメータが学習済みモデルに反映されたか、すなわち学習済みの範囲がどの程度であるかは明確には特定できない場合が多い。このため、学習済みモデルに入力された医用情報が、当該学習済みモデルにおけるレアケースに該当するか否かを判別することが難しい場合がある。そこで、本実施の形態においては、学習済みモデルにおける中間層が出力する演算結果を用いて、レアケースに該当する医用画像データを収集する構成について説明する。なお、以下において、医用画像データが「レアケースに該当する」と判定されることは、医用情報が「条件を満たす」ことの一例である。   Note that, for example, in a multilayer neural network, it is often not possible to clearly specify which parameter of the learning data has been reflected in the learned model, that is, the extent of the learned range. Therefore, it may be difficult to determine whether the medical information input to the learned model corresponds to a rare case in the learned model. Therefore, in the present embodiment, a configuration will be described in which medical image data corresponding to a rare case is collected using a calculation result output from an intermediate layer in a trained model. In the following, the determination that the medical image data is “corresponding to a rare case” is an example of that the medical information “satisfies the condition”.

(第1の実施形態)
まず、第1の実施形態について説明する。第1の実施形態では、情報収集装置10を含んだ情報収集システム1を一例として説明する。
(First embodiment)
First, a first embodiment will be described. In the first embodiment, an information collection system 1 including an information collection device 10 will be described as an example.

図1は、第1の実施形態に係る情報収集システムの構成の一例を示す図である。図1に示すように、本実施形態に係る情報収集システム1は、情報収集装置10と、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。   FIG. 1 is a diagram illustrating an example of the configuration of the information collection system according to the first embodiment. As shown in FIG. 1, the information collection system 1 according to the present embodiment includes an information collection device 10, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40.

図1に示すように、情報収集装置10、医用画像診断装置群20、学習装置30及び端末40は、ネットワークNWを介して相互に通信可能に接続される。なお、図1においては、情報収集装置10、画像保管装置21、学習装置30及び端末40をそれぞれ1台ずつ含む情報収集システム1を示しているが、各装置の台数は任意である。また、情報収集システム1は、病院会計システム(不図示)や電子カルテシステム(不図示)等の病院におけるその他のシステムに含まれる各サーバ装置(不図示)などと直接的、又は、間接的に、相互に通信可能に接続されていてもよい。また、以下において、単一のコンピュータ機器として説明されている装置は、ネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。   As shown in FIG. 1, the information collection device 10, the medical image diagnostic device group 20, the learning device 30, and the terminal 40 are communicably connected to each other via a network NW. Although FIG. 1 illustrates the information collection system 1 including one information collection device 10, one image storage device 21, one learning device 30, and one terminal 40, the number of each device is arbitrary. Further, the information collection system 1 directly or indirectly communicates with each server device (not shown) included in other systems in the hospital such as a hospital accounting system (not shown) and an electronic medical record system (not shown). , May be communicably connected to each other. Further, an apparatus described below as a single computer device may be realized by a server group (cloud) connected via a network NW.

情報収集装置10は、学習済みモデルに入力された医用情報のうち、レアケースに該当する情報など、学習済みモデルの精度を向上させるために有用な情報を収集する。情報収集装置10は、例えば、学習装置30による判別処理の際に学習済みモデルの中間層が出力する特徴量などの演算結果を用いて、医用情報が有用な情報であるか否かを判定する。情報収集装置10は、有用な情報であると判定された医用情報に関する情報を随時収集する。また、情報収集装置10は、任意のタイミングで、収集された医用情報に関する情報を出力し、CADの管理者(不図示)から、例えば正解データの入力を受け付ける。例えば、情報収集装置10は、ワークステーション等のコンピュータ機器によって実現される。   The information collection device 10 collects useful information for improving the accuracy of the learned model, such as information corresponding to a rare case, from the medical information input to the learned model. The information collection device 10 determines whether the medical information is useful information, for example, by using a calculation result such as a feature amount output by an intermediate layer of the trained model at the time of the discriminating process by the learning device 30. . The information collection device 10 collects information on medical information determined to be useful information as needed. The information collection device 10 outputs information on the collected medical information at an arbitrary timing, and receives, for example, input of correct answer data from a CAD administrator (not shown). For example, the information collection device 10 is realized by a computer device such as a workstation.

医用画像診断装置群20は、被検体から医用情報を収集する複数の装置(モダリティ)である。なお、画像データとして処理される医用情報については、医用画像データとも記載する。図1に示すように、本実施形態における情報収集システム1は、医用画像診断装置群20として、複数のモダリティXXX、XXY及びYYYを含む。以下において、複数のモダリティXXX、XXY及びYYYを区別せずに表現する場合に、単に「モダリティ」と表現することがある。   The medical image diagnostic apparatus group 20 is a plurality of apparatuses (modalities) that collect medical information from a subject. The medical information processed as image data is also described as medical image data. As shown in FIG. 1, the information collection system 1 according to the present embodiment includes a plurality of modalities XXX, XXY, and YYY as a medical image diagnostic apparatus group 20. Hereinafter, when a plurality of modalities XXX, XXY, and YYY are expressed without distinction, they may be simply expressed as “modality”.

例えば、医用画像診断装置群20は、被検体から医用画像データを収集し、収集した医用画像データを学習装置30に送信する。医用画像診断装置群20の一例としてはX線診断装置があるが、X線CT(Computed Tomography)装置、SPECT(Single Photon Emission Computed Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT−CT装置、超音波診断装置等の他の医用画像診断装置であってもよい。また、図1では、情報収集システム1は、医用画像診断装置群20として3台のモダリティを有するが、本実施形態にかかる情報収集システム1が有するモダリティの数はこれに限られない。   For example, the medical image diagnostic apparatus group 20 collects medical image data from a subject and transmits the collected medical image data to the learning apparatus 30. An example of the medical image diagnostic apparatus group 20 is an X-ray diagnostic apparatus, but an X-ray CT (Computed Tomography) apparatus, a SPECT (Single Photon Emission Computed Tomography) apparatus, and a SPECT apparatus and an X-ray CT apparatus are integrated. Other medical image diagnostic apparatuses such as a SPECT-CT apparatus and an ultrasonic diagnostic apparatus may be used. In FIG. 1, the information collection system 1 has three modalities as the medical image diagnostic apparatus group 20, but the number of modalities of the information collection system 1 according to the present embodiment is not limited to this.

画像保管装置21は、ネットワークNWを介して医用画像診断装置群20が収集した医用画像データを記憶するデータベース(DB)等である。例えば、図1において、画像保管装置21は、医用画像診断装置群20から医用画像データを取得し、取得した医用画像データを装置内又は装置外に設けられたメモリに記憶させる。また、画像保管装置21は、医用画像データに対応する症例等の情報を含む正解データをさらに記憶してもよい。例えば、画像保管装置21は、サーバ装置等のコンピュータ機器によって実現される。   The image storage device 21 is a database (DB) or the like that stores medical image data collected by the medical image diagnostic device group 20 via the network NW. For example, in FIG. 1, the image storage device 21 acquires medical image data from the medical image diagnostic device group 20, and stores the acquired medical image data in a memory provided inside or outside the device. Further, the image storage device 21 may further store correct answer data including information such as a case corresponding to the medical image data. For example, the image storage device 21 is realized by a computer device such as a server device.

学習装置30は、ネットワークNWを介して医用画像診断装置群20等から医用画像データを取得し、取得した医用画像データを用いた種々の処理を実行する。例えば、学習装置30は、ネットワークNWを介して、医用画像診断装置群20又は画像保管装置21から医用画像データを取得する。学習装置30は、取得した医用画像データを学習済みモデルに入力して判別処理を行い、該当する症例や当該症例に該当する確度を示す信頼度等を出力する。また、学習装置30は、学習済みモデルへの入力情報となる医用画像データと、例えば症例などの正解データとをデータの組として含む学習用データを用いて、学習済みモデルに対する学習を行う。例えば、学習装置30は、ワークステーション等のコンピュータ機器によって実現される。   The learning device 30 acquires medical image data from the medical image diagnostic device group 20 and the like via the network NW, and executes various processes using the acquired medical image data. For example, the learning device 30 acquires medical image data from the medical image diagnostic device group 20 or the image storage device 21 via the network NW. The learning device 30 inputs the acquired medical image data to the trained model, performs a discrimination process, and outputs a corresponding case, a reliability indicating a certainty corresponding to the case, and the like. The learning device 30 performs learning on the learned model using medical image data that is input information to the learned model and learning data including, for example, correct data such as a case as a data set. For example, the learning device 30 is realized by a computer device such as a workstation.

本実施形態において、学習装置30は、図1に示すように、例えば、3つの学習済みモデル341、342及び343を有するが、本実施形態にかかる学習済みモデルの数はこれに限られない。また、学習済みモデル341、342及び343は、それぞれ別の学習装置において実装されていてもよい。学習済みモデル341、342及び343は、病院内で用いられているCADにおいてそれぞれ用いられる学習済みモデルである。   In the present embodiment, the learning device 30 includes, for example, three learned models 341, 342, and 343, as illustrated in FIG. 1, but the number of learned models according to the present embodiment is not limited thereto. Further, the learned models 341, 342, and 343 may be implemented in different learning devices. The learned models 341, 342, and 343 are learned models used in CAD used in a hospital.

端末40は、例えば病院の診察室等に設置され、医師等のユーザに対して、学習装置30における判別結果を出力する。端末40は、例えば図1に示すようなデスクトップコンピュータであるが、これに限られず、スマートフォンやタブレットのような携帯可能なコンピュータであってもよい。   The terminal 40 is installed, for example, in an examination room of a hospital, and outputs a determination result in the learning device 30 to a user such as a doctor. The terminal 40 is, for example, a desktop computer as shown in FIG. 1, but is not limited thereto, and may be a portable computer such as a smartphone or a tablet.

なお、ネットワークNWを介して接続可能であれば、情報収集装置10、医用画像診断装置群20、画像保管装置21、学習装置30及び端末40が設置される場所は任意である。例えば、学習装置30は、情報収集装置10が設置される病院とは異なる病院に設置されてもよい。即ち、ネットワークNWは、院内で閉じたローカルネットワークにより構成されてもよいし、インターネットを介したネットワークでもよい。   Note that the location where the information collection device 10, the group of medical image diagnostic devices 20, the image storage device 21, the learning device 30, and the terminal 40 are installed is arbitrary as long as connection is possible via the network NW. For example, the learning device 30 may be installed in a hospital different from the hospital where the information collecting device 10 is installed. That is, the network NW may be configured by a local network closed in the hospital, or may be a network via the Internet.

次に、情報収集システム1における情報収集処理について、図2を用いて説明する。図2は、第1の実施形態に係る学習処理の流れを説明するための図である。図2に示すように、学習装置30は、例えば、医用画像診断装置群20から、X線画像データなどの医用画像データ91の入力を受け付ける。学習装置30は、多層のニューラルネットワークにより構成される学習済みモデルに、医用画像データ91を入力する。本実施形態に係る多層のニューラルネットワークは、図2に示すように、入力層(l=1)、中間層(l=2,3,・・・,L−1の計(L−2)層)、出力層(l=L)のL個の層から構成されるものとする。   Next, information collection processing in the information collection system 1 will be described with reference to FIG. FIG. 2 is a diagram for explaining the flow of the learning process according to the first embodiment. As shown in FIG. 2, the learning device 30 receives, for example, an input of medical image data 91 such as X-ray image data from the medical image diagnostic device group 20. The learning device 30 inputs the medical image data 91 to a learned model formed by a multilayer neural network. As shown in FIG. 2, the multilayer neural network according to the present embodiment has a total (L-2) layer of an input layer (l = 1) and an intermediate layer (l = 2, 3,..., L-1). ) And an output layer (l = L).

学習装置30は、例えば入力信号xの各成分xp(p=1,2,・・・,N)として、医用画像データ91を構成する画素の画素値を用いる。入力層に続く中間層(l=2,3,・・・,L−1層)においては、入力された信号に対する演算処理を順次実行することで、(L−2)個の中間層それぞれの出力zを計算することができる。また、各中間層は、それぞれ複数のフィルタを有する。出力層Lは、各層の出力zに対する演算処理を実行することで、出力yn(n=1,2,・・・,M)を計算することができる。出力ynは、例えば各症例に対する信頼度を示す。すなわち、図2に示す例において、出力ynは、M個の症例それぞれに対する信頼度を出力する。なお、各層における演算処理については例えば公知のニューラルネットワークにおける技術を用いることができるため、詳細な説明は省略する。   The learning device 30 uses, for example, pixel values of pixels constituting the medical image data 91 as each component xp (p = 1, 2,..., N) of the input signal x. In the intermediate layers (l = 2, 3,..., L-1 layers) subsequent to the input layer, the arithmetic processing is sequentially performed on the input signals, whereby each of the (L-2) intermediate layers is processed. The output z can be calculated. Each intermediate layer has a plurality of filters. The output layer L can calculate the output yn (n = 1, 2,..., M) by executing the arithmetic processing on the output z of each layer. The output yn indicates, for example, the reliability for each case. That is, in the example shown in FIG. 2, the output yn outputs the reliability for each of the M cases. The arithmetic processing in each layer can use, for example, a known neural network technique, and thus a detailed description is omitted.

学習装置30は、出力層Lにおける出力ynに基づく判別結果に関する情報を、端末40に出力する。端末40は、例えば図2に示すように、学習装置30から出力された判別結果に関する情報を出力する。図2に示す一例では、肺結節である確度が60%であり、肺がんである確度が30%であるとする判別結果を出力している。なお、図2においては、端末40が、判別結果に関する情報として、各症例の信頼度を表示する例を示したが、これに限られず、端末40は、単に最も信頼度が高い症例だけを示す等の他の情報を表示してもよい。例えば、端末40は、「肺結節の可能性があります」と表示してもよい。また、例えば、端末40は、医用画像データ91において、60%の確度で肺結節が疑われる領域を表示してもよい。   The learning device 30 outputs, to the terminal 40, information on the determination result based on the output yn in the output layer L. The terminal 40 outputs information on the determination result output from the learning device 30 as shown in FIG. 2, for example. In the example shown in FIG. 2, a determination result indicating that the probability of a lung nodule is 60% and the probability of lung cancer is 30% is output. Note that FIG. 2 illustrates an example in which the terminal 40 displays the reliability of each case as the information on the determination result. However, the present invention is not limited to this, and the terminal 40 simply displays only the case with the highest reliability. May be displayed. For example, the terminal 40 may display "Possible lung nodules". Further, for example, the terminal 40 may display, in the medical image data 91, an area in which a lung nodule is suspected with 60% accuracy.

本実施形態において、情報収集装置10は、学習装置30の学習済みモデルの中間層における演算結果等を取得して、レアケースに該当すると認められる医用情報を収集する。本実施形態において、情報収集装置10は、多層のニューラルネットワークにより構成される学習済みモデルの中間層のうち、例えばプーリング層における演算結果を取得するが、これに限られず、畳み込み層、ReLU(Rectified Liner Unit)層等の各層における演算結果を取得してもよい。   In the present embodiment, the information collection device 10 acquires a calculation result or the like in the intermediate layer of the learned model of the learning device 30 and collects medical information recognized as falling under the rare case. In the present embodiment, the information collecting apparatus 10 acquires the operation result in, for example, the pooling layer among the intermediate layers of the learned model configured by the multilayer neural network, but is not limited to this, and the convolution layer, the ReLU (Rectified) A calculation result in each layer such as a (Liner Unit) layer may be obtained.

本実施形態において、情報収集装置10は、例えば学習装置30における学習時、及び判別処理の際に、中間層において出力される演算結果を逐次取得し、格納していく。また、情報収集装置10は、例えば新たに取得した演算結果を、記憶されている演算結果と比較することにより、新たに取得した演算結果がレアケースに基づくものであるか否かを判定する。   In the present embodiment, the information collection device 10 sequentially acquires and stores the calculation results output in the intermediate layer, for example, at the time of learning by the learning device 30 and at the time of determination processing. In addition, the information collection device 10 determines whether the newly obtained calculation result is based on the rare case, for example, by comparing the newly obtained calculation result with the stored calculation result.

入力画像がレアケースであるか否かの判定基準について、図3は、第1の実施形態に係る演算結果の分布の一例を示す図である。図3において、横軸は演算結果の値を示し、縦軸は当該値に該当する演算結果の出現頻度を示す。例えば、図3に示すように、演算結果の出現頻度が正規分布を取る場合、平均値μから±3σ(以下、標準偏差を「σ」と表記する場合がある)の範囲内にある演算結果97aは、レアケースに基づくものではないと判定される。一方、平均値μから±3σの範囲を逸脱する演算結果97b及び97cは、レアケースに基づくものであると判定される。なお、レアケースに基づく演算結果であるか否かの判定基準は一例であり、その他の基準に基づいて決定してもよい。また、演算結果の出現頻度が正規分布を取らない場合において、同様に平均値μからの距離に基づいて、レアケースに基づく演算結果であるか否かが判定されてもよい。   FIG. 3 is a diagram illustrating an example of a distribution of calculation results according to the first embodiment, with regard to a criterion for determining whether an input image is a rare case. In FIG. 3, the horizontal axis indicates the value of the calculation result, and the vertical axis indicates the frequency of appearance of the calculation result corresponding to the value. For example, as shown in FIG. 3, when the frequency of appearance of the calculation result has a normal distribution, the calculation result within the range of ± 3σ from the average value μ (hereinafter, the standard deviation may be referred to as “σ”). 97a is determined not to be based on the rare case. On the other hand, the calculation results 97b and 97c deviating from the average value μ by ± 3σ are determined to be based on the rare case. The criterion for determining whether or not the calculation result is based on the rare case is an example, and may be determined based on another criterion. Further, when the frequency of appearance of the calculation result does not take a normal distribution, whether or not the calculation result is a calculation result based on a rare case may be similarly determined based on the distance from the average value μ.

レアケースに基づく演算結果の特徴は、活性化関数により出力層まで伝播されない場合が多い。図4は、第1の実施形態に係る活性化関数の一例を示す図である。図4は、多層のニューラルネットワークにより構成される学習済みモデルの中間層において用いられることが多い、ReLU関数のグラフの一例を示す。例えば、レアケースに基づく演算結果が、演算結果の平均値μよりも−3σ以上逸脱する場合であっても、図4に示すようなReLU関数に入力されると、出力は0となる。従って、入力層にレアケースが入力された場合の特徴は、出力層における判別結果に反映されない場合が多いので、判別結果に基づいて、入力情報がレアケースであるか否かを判定することは難しい。そこで、本実施形態においては、中間層における演算結果を用いて、入力情報がレアケースであるか否かを判定する構成について説明する。   In many cases, the feature of the calculation result based on the rare case is not propagated to the output layer by the activation function. FIG. 4 is a diagram illustrating an example of the activation function according to the first embodiment. FIG. 4 shows an example of a graph of the ReLU function often used in an intermediate layer of a trained model formed by a multilayer neural network. For example, even if the calculation result based on the rare case deviates by more than −3σ from the average value μ of the calculation result, the output becomes 0 when input to the ReLU function as shown in FIG. Therefore, since the characteristics when the rare case is input to the input layer are not often reflected in the determination result in the output layer, it is not possible to determine whether the input information is a rare case based on the determination result. difficult. Therefore, in the present embodiment, a configuration will be described in which it is determined whether or not input information is a rare case using a calculation result in the intermediate layer.

このような構成において、本実施形態における情報収集装置10は、学習装置30の学習済みモデルの中間層(l=2,3,・・・,L−1層)から出力される演算結果を取得する。そして、情報収集装置10は、演算結果に基づいて、医用画像データが学習用データとして有用であるか否かを判定し、有用である医用画像データに関する情報を収集する。   In such a configuration, the information collection device 10 in the present embodiment acquires the calculation result output from the intermediate layer (l = 2, 3,..., L-1 layer) of the learned model of the learning device 30. I do. Then, the information collection device 10 determines whether the medical image data is useful as learning data based on the calculation result, and collects information on the useful medical image data.

図5は、第1の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。図5に示すように、情報収集システム1は、情報収集装置10と、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。図5に示すように、学習装置30は、通信I/F(Interface)31と、入力I/F32と、ディスプレイ33と、記憶回路34と、処理回路35とを有する。なお、学習装置30の処理回路35が有する各機能がクラウド上に実装され、記憶回路34が記憶する内容がクラウド上に記憶されてもよい。   FIG. 5 is a diagram illustrating an example of functional blocks of the information collection system according to the first embodiment. As shown in FIG. 5, the information collection system 1 includes an information collection device 10, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40. As shown in FIG. 5, the learning device 30 includes a communication I / F (Interface) 31, an input I / F 32, a display 33, a storage circuit 34, and a processing circuit 35. Note that the functions of the processing circuit 35 of the learning device 30 may be implemented on a cloud, and the content stored by the storage circuit 34 may be stored on the cloud.

通信I/F31は、処理回路35に接続され、ネットワークNWを介して接続された情報収集装置10、医用画像診断装置群20及び画像保管装置21等との間で行われる各種データの伝送及び通信を制御する。例えば、通信I/F31は、ネットワークカードやネットワークアダプタ、NIC(Network Interface Controller)等によって実現される。   The communication I / F 31 is connected to the processing circuit 35, and transmits and communicates various data between the information collection device 10, the medical image diagnostic device group 20, the image storage device 21, and the like connected via the network NW. Control. For example, the communication I / F 31 is realized by a network card, a network adapter, a NIC (Network Interface Controller), and the like.

入力I/F32は、処理回路35に接続され、例えばCADの管理者から受け付けた入力操作を電気信号に変換して処理回路35に出力する。例えば、入力I/F32は、スイッチボタン、マウス、キーボード、タッチパネル等である。   The input I / F 32 is connected to the processing circuit 35 and converts an input operation received from, for example, a CAD administrator into an electric signal and outputs the electric signal to the processing circuit 35. For example, the input I / F 32 is a switch button, a mouse, a keyboard, a touch panel, or the like.

ディスプレイ33は、処理回路35に接続され、処理回路35から出力される各種情報及び各種画像データを表示する。例えば、ディスプレイ33は、液晶モニタやCRT(Cathode Ray Tube)モニタ、タッチパネル等によって実現される。   The display 33 is connected to the processing circuit 35 and displays various information and various image data output from the processing circuit 35. For example, the display 33 is realized by a liquid crystal monitor, a CRT (Cathode Ray Tube) monitor, a touch panel, or the like.

記憶回路34は、処理回路35に接続され、各種データを記憶する。例えば、記憶回路34は、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子や、ハードディスク、光ディスク等によって実現される。本実施形態では、記憶回路34は、学習装置30に含まれる回路がその機能を実現するためのプログラムを記憶する。また、例えば、記憶回路34は、図5に示すように、複数の学習済みモデル341、342及び343を記憶する。なお、記憶回路34は、学習装置30とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。   The storage circuit 34 is connected to the processing circuit 35 and stores various data. For example, the storage circuit 34 is realized by a semiconductor memory element such as a random access memory (RAM) or a flash memory, a hard disk, an optical disk, or the like. In the present embodiment, the storage circuit 34 stores a program for causing a circuit included in the learning device 30 to realize its function. Further, for example, the storage circuit 34 stores a plurality of learned models 341, 342, and 343, as shown in FIG. The storage circuit 34 may be realized by a server group (cloud) connected to the learning device 30 via the network NW.

学習済みモデル341、342及び343は、処理回路35により実行される、入力される医用画像データに基づいて症例を判別する判別処理に組み込まれる学習済みモデルである。学習済みモデル341、342及び343は、例えば図2に示すように、入力層(l=1)、中間層(l=2,3,・・・,L−1)、出力層(l=L)のL個の層から構成される多層のニューラルネットワークにより構成される。学習済みモデル341、342及び343は、後に説明するモデル生成機能352により生成される。   The learned models 341, 342, and 343 are learned models incorporated in the discrimination processing performed by the processing circuit 35 to discriminate cases based on input medical image data. The learned models 341, 342, and 343 include, for example, as shown in FIG. 2, an input layer (l = 1), an intermediate layer (l = 2, 3,..., L−1), and an output layer (l = L). ) Is constituted by a multilayer neural network composed of L layers. The learned models 341, 342, and 343 are generated by a model generation function 352 described later.

図5に戻って、処理回路35は、制御機能351と、モデル生成機能352と、判別機能353と、出力機能354とを実行する。ここで、例えば、図5に示す処理回路35の構成要素である制御機能351、モデル生成機能352、判別機能353及び出力機能354の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路34に記録されている。処理回路35は、各プログラムを記憶回路34から読み出し、読み出した各プログラムを実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路35は、図5の処理回路35内に示された各機能を有することとなる。   Returning to FIG. 5, the processing circuit 35 executes a control function 351, a model generation function 352, a determination function 353, and an output function 354. Here, for example, each processing function of a control function 351, a model generation function 352, a determination function 353, and an output function 354, which are components of the processing circuit 35 shown in FIG. 5, is a storage circuit in the form of a program executable by a computer. 34. The processing circuit 35 is a processor that reads out each program from the storage circuit 34 and executes the read out program to realize a function corresponding to each program. In other words, the processing circuit 35 in a state where each program is read has each function shown in the processing circuit 35 of FIG.

なお、制御機能351、モデル生成機能352、判別機能353及び出力機能354の全ての処理機能がコンピュータによって実行可能な1つのプログラムの形態で、記憶回路34に記録されていてもよい。例えば、このようなプログラムは、学習プログラムとも称される。この場合、処理回路35は、学習プログラムを記憶回路34から読み出し、読み出した学習プログラムを実行することで学習プログラムに対応する制御機能351、モデル生成機能352、判別機能353及び出力機能354を実現する。   Note that all the processing functions of the control function 351, the model generation function 352, the determination function 353, and the output function 354 may be recorded in the storage circuit 34 in the form of one program executable by a computer. For example, such a program is also called a learning program. In this case, the processing circuit 35 reads the learning program from the storage circuit 34 and executes the read learning program to realize a control function 351, a model generation function 352, a determination function 353, and an output function 354 corresponding to the learning program. .

処理回路35における制御機能351は、学習装置30に対する操作や、他装置との通信に関する各種処理、他装置からのデータ取得に関する各種処理を制御する。例えば、制御機能351は、モデル生成処理の開始のトリガに応じて、医用画像データと正解データとの組を含む学習用データを、例えば画像保管装置21から取得し、モデル生成機能352に出力する。また、例えば、制御機能351は、判別処理の開始のトリガに応じて、医用画像データを、例えば画像保管装置21から取得し、判別機能353に出力する。なお、学習処理及び判別処理の開始のトリガは、例えば入力I/F32を介してCADの管理者から操作を受け付けてもよく、通信I/F31を介して、端末40等から受信してもよい。   The control function 351 in the processing circuit 35 controls various operations related to operations on the learning device 30, communication with other devices, and data acquisition from other devices. For example, the control function 351 acquires learning data including a set of medical image data and correct answer data from, for example, the image storage device 21 in response to a trigger for starting the model generation processing, and outputs the learning data to the model generation function 352. . Further, for example, the control function 351 acquires medical image data from, for example, the image storage device 21 in response to a trigger for starting the determination processing, and outputs the medical image data to the determination function 353. Note that the trigger for starting the learning process and the determination process may be, for example, an operation received from a CAD administrator via the input I / F 32 or may be received from the terminal 40 or the like via the communication I / F 31. .

モデル生成機能352は、学習済みモデル341、342及び343の生成に関する処理を実行する。例えば、モデル生成機能352は、まず、制御機能351から学習用データの入力を受け付けると、学習用データに基づいて、学習用データに含まれる医用画像データから、症例などの正解データを判別するように、モデルを学習させる。図6は、第1の実施形態に係る学習処理の流れの一例を示す図である。   The model generation function 352 executes a process related to generation of the learned models 341, 342, and 343. For example, when the model generation function 352 first receives an input of learning data from the control function 351, the model generation function 352 determines correct data such as a case from medical image data included in the learning data based on the learning data. Let the model learn. FIG. 6 is a diagram illustrating an example of a flow of a learning process according to the first embodiment.

図6に示すように、例えば、モデル生成機能352は、学習用データに含まれる医用画像データを入力側データ、学習用データに含まれる正解データを出力側データとしてモデルのパラメータを調整することにより、症例などを判別する関数を近似した学習済みモデルを生成する。生成する学習済みモデルがニューラルネットワークによる学習済みモデルである場合、調整するパラメータは、例えば、重みとバイアスとのうち少なくとも一方である。そして、モデル生成機能352は、生成した学習済みモデル341、342及び343を記憶回路34に格納する。また、学習済みモデル341、342及び343は、中間層における演算結果を出力する。なお、モデル生成機能352は、新たな学習用データを取得した場合に、学習済みモデル341、342及び343に対して、判別精度を高めるために再学習処理を行ってもよい。   As shown in FIG. 6, for example, the model generation function 352 adjusts model parameters by using medical image data included in the learning data as input data and correct data included in the learning data as output data. Then, a learned model that approximates a function for determining a case or the like is generated. When the learned model to be generated is a learned model based on a neural network, the parameter to be adjusted is, for example, at least one of a weight and a bias. Then, the model generation function 352 stores the generated learned models 341, 342, and 343 in the storage circuit 34. The learned models 341, 342, and 343 output the calculation results in the hidden layer. Note that when new learning data is acquired, the model generation function 352 may perform a re-learning process on the learned models 341, 342, and 343 in order to increase the discrimination accuracy.

なお、モデル生成機能352は、学習用データに含まれる医用画像データを入力側データとして用いてもよいし、医用画像データに基づくデータを入力側データとして用いてもよい。例えば、モデル生成機能352は、図6に示すように、医用画像データに対する前処理(例えば、空間フィルタやコンボリューションフィルタを用いた画像処理等)を実行し、前処理後の画像データである入力用データを入力側データとしてもよい。   Note that the model generation function 352 may use medical image data included in the learning data as input-side data, or may use data based on medical image data as input-side data. For example, as shown in FIG. 6, the model generation function 352 performs pre-processing (for example, image processing using a spatial filter or a convolution filter) on medical image data, and performs input processing as image data after pre-processing. Data may be used as input data.

なお、画像処理フィルタの種類としては、例えば、移動平均(平滑化)フィルタ、ガウシアンフィルタ、メディアンフィルタ、リカーシブフィルタ、バンドパスフィルタ等が挙げられる。また、画像処理フィルタのパラメータとしては、例えば、各フィルタの強度、移動平均(平滑化)フィルタ、ガウシアンフィルタ及びメディアンフィルタの縦方向及び横方向のサイズ、リカーシブフィルタにおいて使用するフレーム数及び各フレームに対する重み、バンドパスフィルタにおける周波数の設定等が挙げられる。   The types of the image processing filters include, for example, a moving average (smoothing) filter, a Gaussian filter, a median filter, a recursive filter, and a bandpass filter. The parameters of the image processing filter include, for example, the strength of each filter, the vertical and horizontal sizes of the moving average (smoothing) filter, the Gaussian filter and the median filter, the number of frames used in the recursive filter, and the Weight, setting of a frequency in a band-pass filter, and the like.

判別機能353は、学習済みモデル341、342又は343に基づいて、入力される医用画像データに対する判別処理を実行する。具体的には、判別機能353は、例えば、前処理後の医用画像データを学習済みモデル341、342又は343に入力することにより、症例を判別する判別処理を実行する。そして、判別機能353は、学習済みモデル341、342又は343から出力された判別結果を、出力機能354に出力する。図7は、第1の実施形態に係る判別処理の流れの一例を示す図である。   The determination function 353 performs a determination process on the input medical image data based on the learned model 341, 342, or 343. Specifically, the discriminating function 353 executes a discriminating process of discriminating a case, for example, by inputting pre-processed medical image data to the trained model 341, 342, or 343. Then, the determination function 353 outputs the determination result output from the learned model 341, 342, or 343 to the output function 354. FIG. 7 is a diagram illustrating an example of the flow of the determination process according to the first embodiment.

一例を挙げると、判別機能353は、まず、記憶回路34から学習済みモデル341、342又は343を読み出す。次に、判別機能353は、図7に示すように、医用画像データを学習済みモデル341、342又は343に入力し、症例を判別する判別処理を実行する。学習済みモデル341、342又は343は、入力された医用画像データに基づいて、判別結果を出力する。また、学習済みモデル341、342又は343は、中間層における演算結果を出力する。なお、判別機能353は、図7に示すように、学習処理と同様に、医用画像データに対する前処理を実行し、前処理後の画像データを入力側データとしてもよい。   For example, the discriminating function 353 first reads the learned model 341, 342, or 343 from the storage circuit 34. Next, as shown in FIG. 7, the discriminating function 353 inputs the medical image data to the trained models 341, 342, or 343, and executes a discriminating process for discriminating a case. The learned model 341, 342, or 343 outputs a determination result based on the input medical image data. Further, the learned model 341, 342, or 343 outputs a calculation result in the hidden layer. Note that, as shown in FIG. 7, the discrimination function 353 may perform pre-processing on medical image data as in the learning process, and use the pre-processed image data as input-side data.

出力機能354は、判別機能353による判別結果を出力する。具体的には、出力機能354は、学習済みモデル341、342及び343から出力される判別結果を、通信I/F31を介して、図5に示す端末40に出力する。   The output function 354 outputs the result of the determination by the determination function 353. Specifically, the output function 354 outputs the determination results output from the learned models 341, 342, and 343 to the terminal 40 illustrated in FIG.

次に、情報収集装置10は、図5に示すように、通信I/F11と、入力I/F12と、ディスプレイ13と、記憶回路14と、処理回路15とを有する。なお、情報収集装置10の処理回路15が有する各機能がクラウド上に実装され、記憶回路14が記憶する内容がクラウド上に記憶されてもよい。   Next, the information collection device 10 includes a communication I / F 11, an input I / F 12, a display 13, a storage circuit 14, and a processing circuit 15, as shown in FIG. Note that the functions of the processing circuit 15 of the information collection device 10 may be implemented on a cloud, and the contents stored by the storage circuit 14 may be stored on the cloud.

通信I/F11は、処理回路15に接続され、ネットワークNWを介して接続された学習装置30等との間で行われる各種データの伝送及び通信を制御する。例えば、通信I/F11は、ネットワークカードやネットワークアダプタ等によって実現される。   The communication I / F 11 is connected to the processing circuit 15 and controls transmission and communication of various data performed with the learning device 30 and the like connected via the network NW. For example, the communication I / F 11 is realized by a network card, a network adapter, or the like.

入力I/F12は、処理回路15に接続され、CADの管理者から受け付けた入力操作を電気信号に変換して処理回路15に出力する。入力I/F12は、例えばCADの管理者によるモードの選択などの入力操作を受け付ける。例えば、入力I/F12は、スイッチボタン、マウス、キーボード、タッチパネル等である。   The input I / F 12 is connected to the processing circuit 15, converts an input operation received from a CAD administrator into an electric signal, and outputs the electric signal to the processing circuit 15. The input I / F 12 receives an input operation such as mode selection by a CAD administrator, for example. For example, the input I / F 12 is a switch button, a mouse, a keyboard, a touch panel, or the like.

ディスプレイ13は、処理回路15に接続され、処理回路15から出力される各種情報などを表示する。ディスプレイ13は、例えば、ディスプレイ13は、液晶モニタやCRTモニタ、タッチパネル等によって実現される。   The display 13 is connected to the processing circuit 15 and displays various information output from the processing circuit 15. The display 13 is realized by, for example, a liquid crystal monitor, a CRT monitor, a touch panel, or the like.

記憶回路14は、処理回路15に接続され、各種データを記憶する。例えば、記憶回路14は、RAM、フラッシュメモリ等の半導体メモリ素子や、ハードディスク、光ディスク等によって実現される。本実施形態では、記憶回路14は、情報収集装置10に含まれる回路がその機能を実現するためのプログラムを記憶する。また、例えば、記憶回路14は、図5に示すように、演算結果情報141と、統計データ142と、有用データ143と、モデルデータ144とを記憶する。なお、記憶回路14は、情報収集装置10とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。なお、記憶回路14は、第1記憶部の一例である。   The storage circuit 14 is connected to the processing circuit 15 and stores various data. For example, the storage circuit 14 is realized by a semiconductor memory element such as a RAM and a flash memory, a hard disk, an optical disk, and the like. In the present embodiment, the storage circuit 14 stores a program for a circuit included in the information collection device 10 to realize its function. In addition, for example, as illustrated in FIG. 5, the storage circuit 14 stores operation result information 141, statistical data 142, useful data 143, and model data 144. The storage circuit 14 may be realized by a server group (cloud) connected to the information collection device 10 via a network NW. Note that the storage circuit 14 is an example of a first storage unit.

演算結果情報141は、学習装置30における学習処理又は判別処理において、学習済みモデル341の中間層から出力される演算結果を記憶する。例えば、演算結果情報141は、図6に示す学習処理で出力された演算結果や、図7に示す判別処理で出力された演算結果を記憶する。演算結果情報141は、例えば後に説明する制御機能151により格納される。なお、演算結果情報141は、第1記憶部が記憶する情報の一例である。   The calculation result information 141 stores the calculation result output from the intermediate layer of the learned model 341 in the learning process or the determination process in the learning device 30. For example, the calculation result information 141 stores the calculation result output in the learning process illustrated in FIG. 6 and the calculation result output in the determination process illustrated in FIG. The calculation result information 141 is stored by, for example, a control function 151 described later. The calculation result information 141 is an example of information stored in the first storage unit.

図8は、第1の実施形態に係る演算結果情報の一例を示す図である。例えば、演算結果情報141は、図8に示すように、各学習済みモデルの各中間層に含まれるフィルタごとに一つのテーブルを保持する。図8に示す演算結果情報141は、例えばモデルID「M001」の学習済みモデルの「1」番目の中間層の「2」番目のフィルタから出力される演算結果を記憶する。   FIG. 8 is a diagram illustrating an example of the calculation result information according to the first embodiment. For example, as shown in FIG. 8, the calculation result information 141 holds one table for each filter included in each intermediate layer of each learned model. The calculation result information 141 illustrated in FIG. 8 stores, for example, a calculation result output from the “2” -th filter of the “1” -th intermediate layer of the learned model with the model ID “M001”.

例えば、演算結果情報141は、図8に示すように、「取得日時」と、「画像ID」と、「処理区分」と、「演算結果」とを対応付けた情報である。「取得日時」は、当該演算結果が取得された日時を示す。「画像ID」は、当該演算結果が出力される際に入力された医用画像データを一意に識別する識別子(IDentifier)を示す。「処理区分」は、当該演算結果が、「学習時」に出力されたものか、又は「判別時」に出力されたものかを示す。「演算結果」は、中間層の当該層の当該フィルタから出力された演算結果を示す。演算結果情報141に蓄積される演算結果は、例えば後に説明する統計データの生成に用いられる。図8では、例えば、「画像ID:XXX1」を用いた「学習時」において、「2018年6月2日 15:20」に、「1」番目の中間層の「2」番目のフィルタから出力された演算結果が「0.604」であることが記憶されている。また、図8では、例えば、「画像ID:XXY1」に対する「判別時」において、「2018年6月30日 10:00」に、「1」番目の中間層の「2」番目のフィルタから出力された演算結果が「0.317」であることが記憶されている。   For example, the calculation result information 141 is information in which “acquisition date and time”, “image ID”, “processing category”, and “calculation result” are associated with each other, as shown in FIG. “Acquisition date and time” indicates the date and time when the operation result was acquired. “Image ID” indicates an identifier (IDentifier) that uniquely identifies medical image data input when the operation result is output. The “processing category” indicates whether the calculation result is output during “learning” or output during “discrimination”. The “calculation result” indicates a calculation result output from the filter of the intermediate layer. The calculation result accumulated in the calculation result information 141 is used, for example, for generating statistical data described later. In FIG. 8, for example, at “at the time of learning” using “image ID: XXX1”, the output from the “2” -th filter of the “1” -th intermediate layer at “15:20 on June 2, 2018” It is stored that the calculated result is “0.604”. In FIG. 8, for example, in “determination time” for “image ID: XXY1”, “1” -th intermediate layer outputs “2” -th filter at “10:00” on June 30, 2018. It is stored that the calculated result is “0.317”.

なお、図8に示す項目は一例であり、演算結果情報141は、これ以外に「判別結果」などのその他の情報をさらに記憶してもよく、また図8に示す項目の一部を記憶しないような構成であってもよい。また、演算結果情報141は、一つの層の全てのフィルタにおいて取得された演算結果ごとに一つのテーブルを保持してもよく、全ての演算結果を一つのテーブルで保持してもよい。以下に説明する各テーブルについても同様である。   Note that the items shown in FIG. 8 are examples, and the calculation result information 141 may further store other information such as a “determination result”, and some of the items shown in FIG. 8 are not stored. Such a configuration may be adopted. The calculation result information 141 may hold one table for each calculation result obtained in all filters of one layer, or may hold all calculation results in one table. The same applies to each table described below.

統計データ142は、演算結果情報141に記憶される演算結果を統計処理して算出される、演算結果の平均値μ、標準偏差σ等の統計データである。統計データ142は、例えば制御機能151により格納される。なお、統計データ142は、第1記憶部が記憶する情報の一例である。   The statistical data 142 is statistical data such as an average value μ and a standard deviation σ of the calculation results calculated by performing statistical processing on the calculation results stored in the calculation result information 141. The statistical data 142 is stored by the control function 151, for example. Note that the statistical data 142 is an example of information stored in the first storage unit.

図9は、第1の実施形態に係る統計データの一例を示す図である。例えば、統計データ142は、図9に示すように、学習済みモデルごとに一つのテーブルを保持する。図9に示す統計データ142は、例えばモデルID「M001」の学習済みモデルの各中間層の各フィルタから出力される演算結果を統計処理して算出したデータを記憶する。   FIG. 9 is a diagram illustrating an example of the statistical data according to the first embodiment. For example, as shown in FIG. 9, the statistical data 142 holds one table for each learned model. Statistical data 142 shown in FIG. 9 stores, for example, data calculated by performing statistical processing on calculation results output from each filter of each intermediate layer of the learned model with the model ID “M001”.

例えば、統計データ142は、図9に示すように、「中間層No.」及び「フィルタNo.」と、「レコード数」と、「平均値」と、「−3σ」及び「+3σ」とを対応付けた情報である。ここで、図9における「中間層No.」及び「フィルタNo.」は、演算結果が出力される層及びフィルタを一意に識別する情報を示す。「レコード数」は、当該層の当該フィルタから出力され、演算結果情報141に記憶された演算結果の件数を示す。「平均値」は、当該演算結果の平均値μを示す。「−3σ」及び「+3σ」は、当該演算結果の平均値μからそれぞれプラスマイナス3σ離れた値を示す。   For example, as shown in FIG. 9, the statistical data 142 includes “intermediate layer No.” and “filter No.”, “record number”, “average value”, “−3σ” and “+ 3σ”. This is the associated information. Here, “intermediate layer No.” and “filter No.” in FIG. 9 indicate information for uniquely identifying the layer and the filter to which the operation result is output. The “record number” indicates the number of calculation results output from the filter of the corresponding layer and stored in the calculation result information 141. “Average value” indicates the average value μ of the calculation result. "-3 [sigma]" and "+3 [sigma]" indicate values that are ± 3 [sigma] apart from the average value μ of the calculation result.

図9において、「平均値」、「−3σ」及び「+3σ」は、例えば、取得された演算結果がレアケースに基づくものであるか否かを判定するための閾値として用いられる。例えば、演算結果が平均値μから「−3σ」又は「+3σ」を逸脱している場合、後に説明する判定機能152において、演算結果はレアケースに基づくものであると判定される。図9において、例えば「1」番目の中間層の「1」番目のフィルタから出力された演算結果が「0.431」よりも小さい場合、又は「0.674」よりも大きい場合、当該演算結果はレアケースによるものであると判定される。同様に、図9において、例えば「1」番目の中間層の「2」番目のフィルタから出力された演算結果が「-0.932」よりも小さい場合、又は「0.450」よりも大きい場合、当該演算結果はレアケースによるものであると判定される。   In FIG. 9, “average value”, “−3σ”, and “+ 3σ” are used, for example, as threshold values for determining whether or not the obtained calculation result is based on a rare case. For example, when the calculation result deviates from the average μ by “−3σ” or “+ 3σ”, the determination result 152 described later determines that the calculation result is based on the rare case. In FIG. 9, for example, when the calculation result output from the “1” th filter of the “1” th intermediate layer is smaller than “0.431” or larger than “0.674”, the calculation result depends on the rare case. Is determined. Similarly, in FIG. 9, for example, when the operation result output from the “2” th filter of the “1” th intermediate layer is smaller than “−0.932” or larger than “0.450”, Is determined to be due to the rare case.

有用データ143は、有用であると判定された医用画像データに関する情報を記憶する。有用データ143は、例えば判定機能152により格納される。なお、有用データ143は、第2記憶部が記憶する情報の一例である。   The useful data 143 stores information about medical image data determined to be useful. The useful data 143 is stored by the determination function 152, for example. Note that the useful data 143 is an example of information stored in the second storage unit.

図10は、第1の実施形態に係る有用データの一例を示す図である。例えば、有用データ143は、図10に示すように、「画像ID」と、「モダリティID」と、「患者ID」と、「モデルID」と、「正解データ」と、「医師ID」と、「該当理由」とを対応付けた情報である。ここで、図10における「画像ID」は、当該演算結果が出力される際に入力された医用画像データを一意に識別する識別子を示す。「モダリティID」は、医用画像データを収集したモダリティを一意に識別する情報を示す。「患者ID」は、医用画像データが収集された患者等を一意に識別する情報を示す。「モデルID」は、医用画像データの判別処理に用いられた学習済みモデルを一意に識別する情報を示す。「正解データ」及び「医師ID」は、医用画像データに対する正解データと、当該正解データを入力した医師を一意に識別する情報とをそれぞれ示す。「該当理由」は、当該医用画像データが有用な情報に該当すると判定された理由を示す。   FIG. 10 is a diagram illustrating an example of useful data according to the first embodiment. For example, as shown in FIG. 10, the useful data 143 includes “image ID”, “modality ID”, “patient ID”, “model ID”, “correct answer data”, “doctor ID”, This is information that is associated with “relevant reason”. Here, “image ID” in FIG. 10 indicates an identifier that uniquely identifies medical image data input when the calculation result is output. “Modality ID” indicates information for uniquely identifying the modality that collected the medical image data. “Patient ID” indicates information for uniquely identifying a patient or the like from which medical image data has been collected. “Model ID” indicates information for uniquely identifying a learned model used in the discrimination processing of medical image data. "Correct data" and "doctor ID" indicate correct data for medical image data and information for uniquely identifying a doctor who has input the correct data, respectively. “Relevant reason” indicates the reason that the medical image data is determined to correspond to useful information.

例えば、図10に示すテーブルは、モダリティID「XXX」のモダリティにより、患者ID「0001」の患者から収集された、画像ID「XXX1」の医用画像データが、モデルID「M001」の学習済みモデルによる判別処理において、「レアケースの疑い」があると判定されたことを示す。また、図10に示すテーブルは、画像ID「XXX1」の医用画像データに対するモデルID「M001」による判別処理において、学習済みモデル「M001」の第m層の第nフィルタの値が条件を満たすことを示す。なお、図10に示すテーブルは、「レアケースの疑い」があると判定された演算結果に関するレコードのみを含むが、これに限られず、レアケースであると判定されなかった演算結果に関するレコードをさらに含んでもよい。なお、モデルID「M001」、「M002」及び「M003」の各学習済みモデルは、例えば、図1に示す学習済みモデル341、342及び343に、それぞれ対応する。また、モデルID「M003」のレコードに記載された該当理由「対象範囲に該当」については、後に詳しく説明する。   For example, the table shown in FIG. 10 indicates that the medical image data of the image ID “XXX1” collected from the patient of the patient ID “0001” by the modality of the modality ID “XXX” is the learned model of the model ID “M001”. Indicates that it is determined that there is a “suspect of a rare case” in the determination process by Further, the table shown in FIG. 10 indicates that the value of the n-th filter of the m-th layer of the trained model “M001” satisfies the condition in the determination processing using the model ID “M001” for the medical image data of the image ID “XXX1”. Is shown. Note that the table shown in FIG. 10 includes only the records related to the calculation result determined to have “rare case suspicion”, but is not limited thereto, and further includes the records related to the calculation result determined not to be the rare case. May be included. Note that the learned models of the model IDs “M001”, “M002”, and “M003” correspond to, for example, the learned models 341, 342, and 343 shown in FIG. 1, respectively. The reason “applicable to the target range” described in the record of the model ID “M003” will be described later in detail.

モデルデータ144は、例えば医用画像データから学習用モデルを生成するための前処理等に用いられる、学習済みモデルに関する情報を記憶する。図11は、第1の実施形態に係るモデルデータの一例を示す図である。例えば、図11に示すように、モデルデータ144は、「モデルID」と、「入力フォーマット」と、「フィルタ種別」と、「対応モダリティ」とを対応付けた情報である。図11において、「モデルID」は、医用画像データの判別処理に用いる学習済みモデルを一意に識別する情報を示す。「入力フォーマット」は、当該モデルに入力される医用画像データのサイズ等のフォーマットに関する情報を示す。「フィルタ種別」は、医用画像データを当該学習済みモデルに入力する際に、医用画像データに対する前処理に用いるフィルタに関する情報を示す。   The model data 144 stores, for example, information about a learned model used for preprocessing for generating a learning model from medical image data. FIG. 11 is a diagram illustrating an example of the model data according to the first embodiment. For example, as shown in FIG. 11, the model data 144 is information in which "model ID", "input format", "filter type", and "corresponding modality" are associated. In FIG. 11, “model ID” indicates information for uniquely identifying a learned model used in the medical image data determination process. The “input format” indicates information on a format such as the size of medical image data input to the model. “Filter type” indicates information about a filter used for pre-processing of medical image data when medical image data is input to the learned model.

例えば、図11に示すモデルデータ144の第1のレコードは、モデルID「M001」のモデルは、「フォーマットA」及び「フィルタA」を適用し、また全てのモダリティに対応することを示す。また、図11に示すモデルデータ144の第3のレコードは、モデルID「M003」のモデルは、「フォーマットC」及び「フィルタC」を適用し、また「CT」と「MR」のモダリティに対応することを示す。   For example, the first record of the model data 144 shown in FIG. 11 indicates that the model with the model ID “M001” applies “format A” and “filter A” and corresponds to all modalities. In the third record of the model data 144 shown in FIG. 11, the model with the model ID “M003” applies “format C” and “filter C”, and corresponds to the modalities of “CT” and “MR”. To do so.

図5に戻って、処理回路15は、制御機能151と、判定機能152と、出力機能153と、受付機能154とを実行する。ここで、制御機能151は、取得部の一例である。判定機能152は、判定部の一例である。出力機能153は、出力部の一例である。また、受付機能154は、受付部の一例である。ここで、例えば、図5に示す処理回路15の構成要素である制御機能151、判定機能152、出力機能153及び受付機能154の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路14に記録されている。処理回路15は、各プログラムを記憶回路14から読み出し、読み出した各プログラムを実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路15は、図5の処理回路15内に示された各機能を有することとなる。   Returning to FIG. 5, the processing circuit 15 executes a control function 151, a determination function 152, an output function 153, and a reception function 154. Here, the control function 151 is an example of an acquisition unit. The determination function 152 is an example of a determination unit. The output function 153 is an example of an output unit. The reception function 154 is an example of a reception unit. Here, for example, each processing function of the control function 151, the determination function 152, the output function 153, and the reception function 154, which are components of the processing circuit 15 shown in FIG. It is recorded in. The processing circuit 15 is a processor that reads out each program from the storage circuit 14 and executes the read out program to realize a function corresponding to each program. In other words, the processing circuit 15 in a state where each program is read has each function shown in the processing circuit 15 of FIG.

なお、制御機能151、判定機能152、出力機能153及び受付機能154の全ての処理機能がコンピュータによって実行可能な1つのプログラムの形態で、記憶回路14に記録されていてもよい。例えば、このようなプログラムは、情報収集プログラムとも称される。この場合、処理回路15は、情報収集プログラムを記憶回路14から読み出し、読み出した情報収集プログラムを実行することで情報収集プログラムに対応する制御機能151、判定機能152、出力機能153及び受付機能154を実現する。   Note that all the processing functions of the control function 151, the determination function 152, the output function 153, and the reception function 154 may be recorded in the storage circuit 14 in the form of one program executable by a computer. For example, such a program is also called an information collection program. In this case, the processing circuit 15 reads out the information collection program from the storage circuit 14, and executes the read information collection program to execute the control function 151, the determination function 152, the output function 153, and the reception function 154 corresponding to the information collection program. Realize.

処理回路15における制御機能151は、情報収集装置10に対する操作や、他装置との通信に関する各種処理、他装置からのデータ取得に関する各種処理を制御する。例えば、制御機能151は、学習装置に入力された医用画像データに対応する演算結果を、例えば学習装置30から随時取得し、判定機能152に出力する。また、制御機能151は、取得した演算結果に対する統計処理を行い、統計データ142に格納する。   A control function 151 in the processing circuit 15 controls various operations related to operations on the information collection device 10, communication with other devices, and data acquisition from other devices. For example, the control function 151 acquires a calculation result corresponding to the medical image data input to the learning device from the learning device 30 as needed, and outputs the result to the determination function 152, for example. Further, the control function 151 performs statistical processing on the obtained calculation result and stores the result in the statistical data 142.

また、制御機能151は、例えば、学習装置に入力された医用画像データが収集された患者等の患者IDを取得する。制御機能151は、例えば、図1に示すように情報収集システム1が複数のモダリティXXX、XXY及びYYYを有する場合、それぞれのモダリティIDをさらに取得する。さらに、制御機能151は、例えば、図1に示すように学習装置30が複数の学習済みモデル341、342及び343を有する場合、それぞれの学習済みモデルのモデルIDをさらに取得する。   Further, the control function 151 acquires, for example, a patient ID of a patient or the like from which medical image data input to the learning device is collected. For example, when the information collection system 1 has a plurality of modalities XXX, XXY, and YYY as shown in FIG. 1, the control function 151 further acquires each modality ID. Further, for example, when the learning device 30 has a plurality of learned models 341, 342, and 343 as illustrated in FIG. 1, the control function 151 further acquires the model ID of each learned model.

なお、本実施形態において、情報収集処理は、例えば制御機能151が学習装置30における学習処理の開始又は判別処理の開始を検出した際に随時実行される。   In the present embodiment, the information collection process is executed as needed, for example, when the control function 151 detects the start of the learning process or the start of the determination process in the learning device 30.

判定機能152は、演算結果に伴う医用画像データが有用なものであるか否かを判定する。例えば、判定機能152は、まず、制御機能151から演算結果の出力を受けると、統計データ142を参照し、演算結果が、図9に示すような「−3σ」から「+3σ」までの範囲を逸脱するか否か、すなわち演算結果がレアケースに基づくものであるか否かを判定する。図12は、第1の実施形態に係る情報収集処理の流れの一例を示す図である。判定機能152は、例えば、図12に示すように、制御機能151から出力を受けた中間演算結果と、統計データ142とを比較した結果を、判定結果として図10に示すような有用データ143に格納する。   The determination function 152 determines whether the medical image data accompanying the calculation result is useful. For example, when the determination function 152 first receives the output of the calculation result from the control function 151, the determination function 152 refers to the statistical data 142 and determines that the calculation result ranges from “−3σ” to “+ 3σ” as shown in FIG. It is determined whether or not a deviation occurs, that is, whether or not the calculation result is based on a rare case. FIG. 12 is a diagram illustrating an example of a flow of an information collection process according to the first embodiment. For example, as illustrated in FIG. 12, the determination function 152 compares the result of the comparison between the intermediate calculation result received from the control function 151 and the statistical data 142 into useful data 143 as illustrated in FIG. Store.

判定機能152は、有用データとして、例えば、学習済みモデルの中間層から出力された演算結果が「−3σから+3σまで」の範囲を逸脱する、すなわちレアケースに該当する入力データを特定する。しかし、実施の形態はこれに限られず、判定機能152は、例えば、演算結果が「−3σから+3σまで」の範囲内であっても、学習用データを生成する上で有用と思われる場合、演算結果が当該範囲に該当する入力データを、有用データであると判定するような構成であってもよい。例えば、演算結果が「−σから平均値μまで」の範囲に収まる学習用データのサンプル数が少ない場合においては、判定機能152が、演算結果が当該範囲に収まるデータを有用データであると判定するような構成であってもよい。例えば、判定機能152は、図10に示すように、患者ID「0005」の医用画像データについて、第m層の第nフィルタの演算結果が「対象範囲に該当」することを、有用データ143に格納してもよい。   The determination function 152 specifies, as useful data, for example, input data in which the calculation result output from the intermediate layer of the learned model deviates from the range of “−3σ to + 3σ”, that is, input data corresponding to a rare case. However, the embodiment is not limited to this. For example, even if the calculation result is within the range of “−3σ to + 3σ”, the determination function 152 is considered to be useful in generating learning data. A configuration may be adopted in which input data whose calculation result falls within the range is determined to be useful data. For example, when the number of samples of the learning data in which the calculation result falls within the range of “from −σ to the average value μ” is small, the determination function 152 determines that the data whose calculation result falls within the range is useful data. The configuration may be as follows. For example, as illustrated in FIG. 10, the determination function 152 determines that the calculation result of the n-th filter in the m-th layer is “applicable to the target range” in the useful data 143 for the medical image data of the patient ID “0005” It may be stored.

出力機能153は、有用情報として収集された医用画像データに関する情報を出力する。出力機能153は、例えば、医用画像データに対して、正解データの入力を受け付けるような画面を、情報収集装置10のディスプレイ13に出力する。なお、以下においては、ディスプレイ13を参照するCADの管理者から正解データを入力する場合について説明するが、画面の出力先はこれに限られない。例えば、CADの管理者が、端末40などのその他のコンピュータを操作する場合、出力機能153は、通信I/F11を通じて、当該コンピュータに画面を出力してもよい。   The output function 153 outputs information on medical image data collected as useful information. The output function 153 outputs, for example, a screen for accepting the input of correct answer data to the medical image data to the display 13 of the information collection device 10. In the following, a case where correct data is input from a CAD administrator who refers to the display 13 will be described, but the output destination of the screen is not limited to this. For example, when the CAD administrator operates another computer such as the terminal 40, the output function 153 may output a screen to the computer via the communication I / F 11.

図13は、第1の実施形態に係る受付画面の一例を示す図である。図13に示すように、例えばディスプレイ13に表示される受付画面80は、医用画像データに関する情報が表示される表示領域81と、正解データの入力を受け付ける入力領域82と、決定ボタン83と、医用画像データ91とを含む。表示領域81は、例えば画像IDやモダリティID、患者ID等、医用画像データを特定するための情報を有する。医用画像データ91は、表示領域81に表示された画像IDの医用画像データである。入力領域82は、例えばCADの管理者による、症例等の正解データの入力を受け付ける領域である。なお、正解データは、判断結果の一例である。   FIG. 13 is a diagram illustrating an example of a reception screen according to the first embodiment. As shown in FIG. 13, for example, a reception screen 80 displayed on the display 13 includes a display area 81 on which information on medical image data is displayed, an input area 82 for receiving input of correct answer data, a decision button 83, And image data 91. The display area 81 has information for specifying medical image data, such as an image ID, a modality ID, and a patient ID. The medical image data 91 is medical image data of the image ID displayed in the display area 81. The input area 82 is an area for receiving an input of correct answer data of a case or the like by a CAD administrator, for example. Note that the correct answer data is an example of the determination result.

受付機能154は、受付画面80において入力された正解データに関する情報を受け付ける。受付機能154は、受付画面80において、決定ボタン83が押下されたことを検出すると、入力領域82に入力された症例に関する情報を取得する。受付機能154は、取得した症例に関する情報を正解データとして、受付画面80に表示される画像ID、モダリティID、患者ID及びモデルID等と対応付けて、有用データ143に格納する。また、受付機能154は、症例に関する情報を入力した医師を特定し、医師IDを有用データ143に格納する。   The reception function 154 receives information on the correct answer data input on the reception screen 80. When the reception function 154 detects that the determination button 83 has been pressed on the reception screen 80, the reception function 154 acquires information on the case input to the input area 82. The reception function 154 stores the acquired information on the case as correct data in the useful data 143 in association with the image ID, modality ID, patient ID, model ID, and the like displayed on the reception screen 80. Further, the reception function 154 specifies the doctor who has input the information regarding the case, and stores the doctor ID in the useful data 143.

受付機能154は、例えば、図10に示すように、正解データ「肺がん」及び正解データを入力した医師の医師ID「A001」を、画像ID「XXX1」、モダリティID「XXX」、患者ID「0001」と対応付けて、有用データ143に格納する。   For example, as shown in FIG. 10, the reception function 154 converts the correct answer data “lung cancer” and the doctor ID “A001” of the doctor who input the correct answer data into the image ID “XXX1”, the modality ID “XXX”, and the patient ID “0001”. And stored in the useful data 143.

次に、第1の実施形態に係る情報収集システム1による処理の手順について、図14、図15及び図16を用いて説明する。図14は、第1の実施形態に係る取得処理の一例を示すフローチャートである。ここで、図14におけるステップS101からS120までの各処理は、例えば、処理回路15が制御機能151に対応するプログラムを記憶回路14から読み出して実行することにより実現される。なお、図14に示す取得処理は、例えば学習装置30において学習処理又は判別処理が実行されたことが検出された場合に随時実行される。   Next, a procedure of a process performed by the information collection system 1 according to the first embodiment will be described with reference to FIGS. FIG. 14 is a flowchart illustrating an example of the acquisition process according to the first embodiment. Here, each process from step S101 to S120 in FIG. 14 is realized, for example, by the processing circuit 15 reading out a program corresponding to the control function 151 from the storage circuit 14 and executing it. Note that the acquisition process illustrated in FIG. 14 is executed as needed when, for example, the learning device 30 detects that the learning process or the determination process has been performed.

例えば、図14に示すように、本実施形態に係る情報収集システム1では、まず、処理回路15は、中間層の演算結果を、ネットワークNWを通じて、学習装置30から取得する(ステップS101)。次に、処理回路15は、取得した演算結果を、演算結果情報141に格納する(ステップS102)。   For example, as illustrated in FIG. 14, in the information collection system 1 according to the present embodiment, first, the processing circuit 15 obtains the operation result of the intermediate layer from the learning device 30 via the network NW (step S101). Next, the processing circuit 15 stores the obtained calculation result in the calculation result information 141 (Step S102).

続いて、処理回路15は、演算結果情報141に記憶された演算結果に対する統計処理を行い(S103)、統計データ142に格納する(S104)。   Subsequently, the processing circuit 15 performs statistical processing on the operation result stored in the operation result information 141 (S103), and stores the result in the statistical data 142 (S104).

次に、処理回路15は、全てのフィルタに対する処理を完了したか否かを判定する(ステップS110)。処理回路15は、全てのフィルタに対する処理を完了していないと判定した場合(ステップS110否定)、ステップS101に移行し、処理を繰り返す。   Next, the processing circuit 15 determines whether or not processing for all filters has been completed (step S110). If the processing circuit 15 determines that the processing for all the filters has not been completed (No at Step S110), the processing circuit 15 proceeds to Step S101 and repeats the processing.

一方、処理回路15は、全てのフィルタに対する処理を完了したと判定した場合(ステップS110肯定)、全ての層に対する処理を完了したか否かを判定する(ステップS120)。処理回路15は、全ての層に対する処理を完了していないと判定した場合(ステップS120否定)、ステップS101に移行し、処理を繰り返す。一方、処理回路15は、全ての層に対する処理を完了したと判定した場合(ステップS120肯定)、処理を終了する。   On the other hand, when it is determined that the processing for all the filters has been completed (Yes at Step S110), the processing circuit 15 determines whether the processing for all the layers has been completed (Step S120). When the processing circuit 15 determines that the processing for all the layers has not been completed (No at Step S120), the processing circuit 15 proceeds to Step S101 and repeats the processing. On the other hand, when the processing circuit 15 determines that the processing for all the layers has been completed (Yes at Step S120), the processing ends.

次に、新たに取得した演算結果に基づく判定処理について説明する。図15は、第1の実施形態に係る判定処理の一例を示すフローチャートである。ここで、図15におけるステップS201、S220及びS230は、例えば、処理回路15が制御機能151に対応するプログラムを記憶回路14から読み出して実行することにより実現される。また、ステップS202、S210及びS211は、例えば、処理回路15が判定機能152に対応するプログラムを記憶回路14から読み出して実行することにより実現される。なお、図15に示す判定処理は、例えば図14に示す情報収集処理が実行された場合に、随時実行される。   Next, a determination process based on the newly obtained calculation result will be described. FIG. 15 is a flowchart illustrating an example of the determination process according to the first embodiment. Here, steps S201, S220, and S230 in FIG. 15 are realized, for example, by the processing circuit 15 reading out a program corresponding to the control function 151 from the storage circuit 14 and executing it. Steps S202, S210, and S211 are realized, for example, by the processing circuit 15 reading a program corresponding to the determination function 152 from the storage circuit 14 and executing the program. The determination process illustrated in FIG. 15 is executed as needed when, for example, the information collection process illustrated in FIG. 14 is performed.

例えば、図14に示すように、本実施形態に係る情報収集システム1では、まず、処理回路15は、中間層の演算結果を、ネットワークNWを通じて、学習装置30から取得する(ステップS201)。   For example, as shown in FIG. 14, in the information collection system 1 according to the present embodiment, first, the processing circuit 15 obtains the operation result of the intermediate layer from the learning device 30 via the network NW (step S201).

続いて、処理回路25は、取得した演算結果を、統計データ142と比較し(S202)、レアケースと判定されるための条件を満たすか、例えば演算結果が閾値以上であるか否かを判定する(ステップS210)。処理回路15は、判定結果が閾値以上ではないと判定した場合(ステップS210否定)、ステップS220に移行する。   Subsequently, the processing circuit 25 compares the obtained calculation result with the statistical data 142 (S202), and determines whether a condition for determining a rare case is satisfied, for example, whether the calculation result is equal to or greater than a threshold. (Step S210). When the processing circuit 15 determines that the determination result is not equal to or larger than the threshold (No at Step S210), the process proceeds to Step S220.

一方、処理回路25は、判定結果が閾値以上であると判定した場合(ステップS210肯定)、判定結果として、例えば、当該演算結果に対応する医用情報を有用データ143に格納する(ステップS211)。その後、ステップS220に移行する。   On the other hand, when determining that the determination result is equal to or greater than the threshold (Yes at Step S210), the processing circuit 25 stores, for example, medical information corresponding to the calculation result in the useful data 143 as the determination result (Step S211). Then, the process proceeds to step S220.

次に、処理回路15は、全てのフィルタに対する処理を完了したか否かを判定する(ステップS220)。処理回路15は、全てのフィルタに対する処理を完了していないと判定した場合(ステップS220否定)、ステップS201に移行し、処理を繰り返す。   Next, the processing circuit 15 determines whether or not processing for all filters has been completed (step S220). When the processing circuit 15 determines that the processing for all the filters has not been completed (No at Step S220), the processing circuit 15 proceeds to Step S201 and repeats the processing.

一方、処理回路15は、全てのフィルタに対する処理を完了したと判定した場合(ステップS220肯定)、全ての層に対する処理を完了したか否かを判定する(ステップS230)。処理回路15は、全ての層に対する処理を完了していないと判定した場合(ステップS230否定)、ステップS201に移行し、処理を繰り返す。一方、処理回路15は、全ての層に対する処理を完了したと判定した場合(ステップS230肯定)、処理を終了する。   On the other hand, when it is determined that the processing for all the filters has been completed (Yes at Step S220), the processing circuit 15 determines whether the processing for all the layers has been completed (Step S230). When the processing circuit 15 determines that the processing for all the layers has not been completed (No at Step S230), the processing circuit 15 proceeds to Step S201 and repeats the processing. On the other hand, when the processing circuit 15 determines that the processing for all the layers has been completed (Yes at Step S230), the processing ends.

次に、有用データに対して、正解データの入力を受け付ける処理について説明する。図16は、第1の実施形態に係る受付処理の一例を示すフローチャートである。ここで、図16におけるステップS301、S302及びS320は、例えば、処理回路15が出力機能153に対応するプログラムを記憶回路14から読み出して実行することにより実現される。また、ステップS310及びS311は、例えば、処理回路15が受付機能154に対応するプログラムを記憶回路14から読み出して実行することにより実現される。なお、図16に示す受付処理は、例えば受付処理開始のトリガに応じて実行される。受付処理の開始のトリガは、例えば入力I/F12を介してCADの管理者から操作を受け付けてもよく、通信I/F11を介して、端末40等から受信してもよい。   Next, a process for accepting input of correct answer data for useful data will be described. FIG. 16 is a flowchart illustrating an example of a reception process according to the first embodiment. Here, steps S301, S302, and S320 in FIG. 16 are realized, for example, by the processing circuit 15 reading a program corresponding to the output function 153 from the storage circuit 14 and executing the program. Steps S310 and S311 are realized, for example, by the processing circuit 15 reading out a program corresponding to the reception function 154 from the storage circuit 14 and executing it. The reception process shown in FIG. 16 is executed, for example, in response to a trigger for starting the reception process. The trigger for starting the reception process may be, for example, an operation received from a CAD administrator via the input I / F 12 or may be received from the terminal 40 or the like via the communication I / F 11.

例えば、図16に示すように、本実施形態に係る情報収集システム1では、まず、処理回路15は、有用データ143に記憶されたレコードを取得する(ステップS301)。次に、処理回路15は、取得した有用データに基づいて受付画面を生成し、情報収集装置10のディスプレイ13等に出力する(S302)。そして、処理回路15は、例えば、入力I/F12から正解データの入力を受け付けたか否かを判定する(ステップS310)。処理回路15は、正解データの入力を受け付けていないと判定した場合(ステップS310否定)、正解データの入力を受け付けるまで待機する。   For example, as shown in FIG. 16, in the information collection system 1 according to the present embodiment, first, the processing circuit 15 acquires a record stored in the useful data 143 (Step S301). Next, the processing circuit 15 generates a reception screen based on the obtained useful data, and outputs it to the display 13 or the like of the information collection device 10 (S302). Then, for example, the processing circuit 15 determines whether or not the input of the correct answer data has been received from the input I / F 12 (Step S310). When determining that the input of the correct data has not been received (No at Step S310), the processing circuit 15 waits until the input of the correct data is received.

処理回路15は、正解データの入力を受け付けたと判定した場合(ステップS310肯定)、正解データを有用データ143に格納する(ステップS311)。その後、ステップS320に移行する。   When determining that the input of the correct answer data has been received (Yes at Step S310), the processing circuit 15 stores the correct answer data in the useful data 143 (Step S311). After that, it moves to step S320.

次に、処理回路15は、全ての有用データに対する処理を完了したか否かを判定する(ステップS320)。処理回路15は、全ての有用データに対する処理を完了していないと判定した場合(ステップS320否定)、ステップS301に移行し、処理を繰り返す。一方、処理回路15は、全ての有用データに対する処理を完了したと判定した場合(ステップS320肯定)、処理を終了する。   Next, the processing circuit 15 determines whether the processing for all useful data has been completed (step S320). When the processing circuit 15 determines that the processing for all the useful data has not been completed (No at Step S320), the processing circuit 15 proceeds to Step S301 and repeats the processing. On the other hand, when the processing circuit 15 determines that the processing for all the useful data has been completed (Yes at Step S320), the processing ends.

上述したように、第1の実施形態に係る情報収集システム1は、有用な学習用データを収集することができる。例えば、第1の実施形態に係る情報収集システム1は、レアケースに該当する医用画像データや、CADの管理者が学習用として有用と判断したデータを収集することができる。   As described above, the information collection system 1 according to the first embodiment can collect useful learning data. For example, the information collection system 1 according to the first embodiment can collect medical image data corresponding to a rare case and data determined to be useful for learning by a CAD administrator.

(第2の実施形態)
第1の実施形態においては、学習済みモデルの中間層から取得された演算結果に基づいて、医用情報が条件を満たすか否かを判定する構成について説明したが、学習用データを揃える上で有用なデータを収集する構成はこれに限られない。例えば、レアケースに該当するデータが収集された患者等から、その他の医用画像データが収集される場合、当該データそのものがレアケースに該当しない場合であっても、レアケースに該当するデータの正解データを特定する上で有用となる場合がある。なお、本実施形態において、「患者等」は、被検体の一例である。
(Second embodiment)
In the first embodiment, the configuration has been described in which it is determined whether the medical information satisfies the condition based on the calculation result obtained from the intermediate layer of the learned model. The configuration for collecting unnecessary data is not limited to this. For example, when other medical image data is collected from a patient or the like from which data corresponding to a rare case is collected, even if the data itself does not correspond to a rare case, the correct answer of the data corresponding to the rare case is obtained. May be useful in identifying data. In the present embodiment, “patient or the like” is an example of a subject.

そこで、本実施形態においては、医用画像データが収集された患者等を特定することにより、有用な情報を収集する構成について説明する。図17は、第2の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。なお、以下の実施の形態において、先に説明した図面に示す部位と同一の部位には同一の符号を付し、重複する説明は省略する。   Thus, in the present embodiment, a configuration will be described in which useful information is collected by specifying a patient or the like from which medical image data has been collected. FIG. 17 is a diagram illustrating an example of a functional block of the information collection system according to the second embodiment. In the following embodiments, the same parts as those shown in the drawings described above are denoted by the same reference numerals, and overlapping description will be omitted.

図17に示すように、情報収集システム1aは、情報収集装置10aと、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。情報収集装置10aは、通信I/F11と、入力I/F12と、ディスプレイ13と、記憶回路14aと、処理回路15aとを有する。   As shown in FIG. 17, the information collection system 1a includes an information collection device 10a, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40. The information collection device 10a includes a communication I / F 11, an input I / F 12, a display 13, a storage circuit 14a, and a processing circuit 15a.

本実施形態では、記憶回路14aは、図17に示すように、演算結果情報141と、統計データ142と、有用データ143aと、モデルデータ144とを記憶する。本実施形態における有用データ143aは、図10に示すような「レアケースの疑い」がある医用画像データ、及び「対象範囲に該当」する医用画像データに関する情報に加え、さらに、これらの医用画像データと「患者ID」が同一である医用画像データに関する情報を記憶する。   In the present embodiment, the storage circuit 14a stores operation result information 141, statistical data 142, useful data 143a, and model data 144, as shown in FIG. The useful data 143a according to the present embodiment includes, in addition to information on medical image data having a “rare case suspicion” as shown in FIG. And information on medical image data having the same “patient ID”.

図18は、第2の実施形態に係る有用データの一例を示す図である。図18に示すように、有用データ143aは、第1のレコードの患者ID「0001」と、患者IDが同一である第4のレコードを記憶する。この場合において、有用データ143aは、第4のレコードの該当理由が「患者一致」であることを記憶する。   FIG. 18 is a diagram illustrating an example of useful data according to the second embodiment. As illustrated in FIG. 18, the useful data 143a stores a fourth record having the same patient ID “0001” as the first record. In this case, the useful data 143a stores that the corresponding reason of the fourth record is “patient agreement”.

図17に戻って、処理回路15は、制御機能151と、判定機能152と、出力機能153と、受付機能154と、収集機能155とを実行する。ここで、収集機能155は、収集部の一例である。   Returning to FIG. 17, the processing circuit 15 executes a control function 151, a determination function 152, an output function 153, a reception function 154, and a collection function 155. Here, the collection function 155 is an example of a collection unit.

処理回路15における収集機能155は、医用画像データを収集する。例えば、収集機能155は、医用画像診断装置群20又は画像保管装置21から、医用画像データを取得する。また、収集機能155は、学習装置30から、学習済みモデル341、342又は343の入力層に入力された医用画像データを収集する。その際、収集機能155は、例えば、当該医用画像データの画像ID及び当該医用画像データが収集された患者の患者ID、並びに当該医用画像データを収集したモダリティのモダリティIDを合わせて取得する。また、収集機能155は、医用画像データが入力された学習済みモデルのモデルIDをさらに取得してもよい。   The collection function 155 in the processing circuit 15 collects medical image data. For example, the collection function 155 acquires medical image data from the medical image diagnostic device group 20 or the image storage device 21. Further, the collection function 155 collects medical image data input from the learning device 30 to the input layer of the learned model 341, 342, or 343. At that time, the collection function 155 acquires, for example, the image ID of the medical image data, the patient ID of the patient from which the medical image data was collected, and the modality ID of the modality that collected the medical image data. Further, the collection function 155 may further acquire the model ID of the learned model to which the medical image data has been input.

また、収集機能155は、例えば、収集した医用画像データの患者IDと合致する患者IDが、有用データ143aに記憶されているか否かを判定する。収集機能155は、収集した医用画像データに対応する患者IDと合致する患者IDが、有用データ143aに記憶されていると判定した場合、当該患者IDに対応する医用画像データに関する情報を、有用データ143aに対応づけて格納する。   In addition, the collection function 155 determines, for example, whether a patient ID that matches the patient ID of the collected medical image data is stored in the useful data 143a. If the collection function 155 determines that a patient ID that matches the patient ID corresponding to the collected medical image data is stored in the useful data 143a, the information regarding the medical image data corresponding to the patient ID is used as useful data. 143a and store it.

例えば、収集機能155は、患者ID「0001」、モダリティID「YYY」、モデルID「M003」の医用画像データを収集した場合、合致する患者ID「0001」が図18に示す有用データ143aの第1のレコードに記憶されていると判定する。この場合、収集機能155は、図18に示すように、有用データ143aの第4のレコードに、収集した医用画像データに関する情報を格納する。   For example, when collecting the medical image data of the patient ID “0001”, the modality ID “YYY”, and the model ID “M003”, the collection function 155 determines that the matching patient ID “0001” is the first data of the useful data 143a shown in FIG. It is determined that the data is stored in one record. In this case, as shown in FIG. 18, the collection function 155 stores information about the collected medical image data in the fourth record of the useful data 143a.

なお、本実施形態において、収集機能155による医用画像の収集処理は、例えば制御機能151が情報収集処理を実行した際に随時実行される。   In the present embodiment, the medical image collection processing by the collection function 155 is executed as needed, for example, when the control function 151 executes the information collection processing.

上述したように、第2の実施形態に係る情報収集システム1は、レアケースに該当する医用画像データや、CADの管理者が学習用として有用と判断したデータ等の有用なデータに加えて、当該データと同一の被検体から収集された医用画像データを収集することができる。これにより、レアケースに該当する医用画像データや、CADの管理者が学習用として有用と判断したデータ等における症例の特定を支援することができる。   As described above, the information collection system 1 according to the second embodiment includes, in addition to useful data such as medical image data corresponding to a rare case and data determined to be useful for learning by a CAD manager, Medical image data collected from the same subject as the data can be collected. Thus, it is possible to support the identification of a case in medical image data corresponding to a rare case, data determined by a CAD administrator to be useful for learning, and the like.

なお、本実施形態における収集機能155は、例えば、患者IDが合致する医用画像データに関する情報を有用データ143aに格納する際に、当該患者IDに対応するデータを匿名化してもよい。収集機能155は、例えば、有用データ143aに医用画像データに関する情報を登録する際、患者IDをランダムな文字列に置き換えて、患者を識別できないようにしてもよい。また、収集機能155は、例えば、当該医用画像データに対応する患者IDに加えて、症例等が合致する他の医用画像データに対応する「k個」の患者IDも同様の文字列に置き換えることにより、「k−匿名化」を実現してもよい。   Note that the collection function 155 in the present embodiment may anonymize the data corresponding to the patient ID when storing the information on the medical image data with the matching patient ID in the useful data 143a. For example, when registering information about medical image data in the useful data 143a, the collection function 155 may replace the patient ID with a random character string so that the patient cannot be identified. In addition, the collection function 155 replaces, for example, a similar character string with “k” patient IDs corresponding to other medical image data with matching cases and the like in addition to the patient ID corresponding to the medical image data. Thus, “k-anonymization” may be realized.

(第3の実施形態)
上述した第1の実施形態では、判定機能152が、統計データ142を用いて演算結果を収集するか否かを判定する構成について説明した。これに対し、第3の実施形態では、判定機能が、学習済みモデルを用いて演算結果を判定する場合について説明する。
(Third embodiment)
In the above-described first embodiment, the configuration in which the determination function 152 determines whether to collect the calculation result using the statistical data 142 has been described. On the other hand, in the third embodiment, a case will be described in which the determination function determines a calculation result using a learned model.

図19は、第3の実施形態に係る情報収集システムの機能ブロックの一例を示す図である。図19に示すように、情報収集システム1bは、情報収集装置10bと、医用画像診断装置群20と、画像保管装置21と、学習装置30と、端末40とを備える。情報収集装置10bは、通信I/F11と、入力I/F12と、ディスプレイ13と、記憶回路14bと、処理回路15bとを有する。   FIG. 19 is a diagram illustrating an example of functional blocks of the information collection system according to the third embodiment. As shown in FIG. 19, the information collection system 1b includes an information collection device 10b, a group of medical image diagnostic devices 20, an image storage device 21, a learning device 30, and a terminal 40. The information collection device 10b includes a communication I / F 11, an input I / F 12, a display 13, a storage circuit 14b, and a processing circuit 15b.

例えば、記憶回路14bは、図19に示すように、演算結果情報141と、統計データ142と、有用データ143と、モデルデータ144とに加えて、学習済みモデル145をさらに記憶する。学習済みモデル145は、処理回路15bにより実行される、入力される演算結果に基づいて、演算結果に対応する医用画像データが有用であるか否かを出力する判別処理に組み込まれる学習済みモデルである。学習済みモデル145は、例えば図5に示す学習済みモデル341、342及び343と同様に、入力層、複数の中間層及び出力層から構成される多層のニューラルネットワークにより構成される。学習済みモデル341は、例えば後に説明するモデル生成機能156により生成される。   For example, as illustrated in FIG. 19, the storage circuit 14b further stores a learned model 145 in addition to the calculation result information 141, the statistical data 142, the useful data 143, and the model data 144. The learned model 145 is a learned model that is incorporated in a determination process that is performed by the processing circuit 15b and that outputs, based on an input operation result, whether medical image data corresponding to the operation result is useful or not. is there. The learned model 145 is configured by a multilayer neural network including an input layer, a plurality of intermediate layers, and an output layer, for example, like the learned models 341, 342, and 343 illustrated in FIG. The learned model 341 is generated by, for example, a model generation function 156 described later.

また、処理回路15bは、制御機能151と、判定機能152bと、出力機能153と、受付機能154と、モデル生成機能156とを実行する。判定機能152bは、学習済みモデル145に基づいて、入力される演算結果に対する判別処理を実行する。具体的には、判定機能152bは、演算結果を学習済みモデル145に入力することにより、演算結果に対応する医用画像データが有用であるか否かを判別する判別処理を実行する。そして、判定機能152bは、学習済みモデル145から出力された判別結果を、出力機能153に出力する。   Further, the processing circuit 15b executes a control function 151, a determination function 152b, an output function 153, a reception function 154, and a model generation function 156. The determination function 152b performs a determination process on the input calculation result based on the learned model 145. More specifically, the determination function 152b performs a determination process of determining whether medical image data corresponding to the calculation result is useful by inputting the calculation result to the learned model 145. Then, the determination function 152b outputs the determination result output from the learned model 145 to the output function 153.

モデル生成機能156は、学習済みモデル145の生成に関する処理を実行する。例えば、モデル生成機能156は、まず、制御機能151から、入力データである演算結果と、正解データである有用か否かを示す情報との組を含む学習用データの入力を受け付ける。モデル生成機能156は、学習用データに基づいて、学習用データに含まれる演算結果から、有用か否かを示す情報などの正解データを判別するように、モデルを学習させる。   The model generation function 156 executes a process related to generation of the learned model 145. For example, the model generation function 156 first receives, from the control function 151, input of learning data including a set of an operation result as input data and information indicating whether or not the answer data is useful. The model generation function 156 trains the model based on the learning data so as to determine correct data such as information indicating whether or not it is useful from the calculation results included in the learning data.

以上、第3の実施形態に係る情報収集装置10bの構成の一例について説明した。かかる構成の下、情報収集装置10bは、演算結果に基づき、医用画像データが有用データであるか否かを、学習済みモデルに基づいて判別することができる。   The example of the configuration of the information collection device 10b according to the third embodiment has been described above. With such a configuration, the information collection device 10b can determine whether the medical image data is useful data based on the learned model based on the calculation result.

(第4の実施形態)
上述した第1の実施形態では、統計データとして、演算結果の平均値μと標準偏差σとを用いる構成について説明した。これに対し、第4の実施形態では、統計データとして、第1の演算結果と第2の演算結果との関係を用いる場合について説明する。図20は、第4の実施形態に係る演算結果の分布の一例を示す図である。
(Fourth embodiment)
In the above-described first embodiment, the configuration in which the average value μ and the standard deviation σ of the calculation result are used as the statistical data has been described. On the other hand, in the fourth embodiment, a case will be described in which the relationship between the first calculation result and the second calculation result is used as the statistical data. FIG. 20 is a diagram illustrating an example of a distribution of calculation results according to the fourth embodiment.

図20は、第1の値である演算結果1と、第2の値である演算結果2との相関分布を示す。図20に示すように、演算結果1と演算結果2との組の多くは、範囲98に沿って分布する。この場合において、範囲98に含まれる演算結果1と演算結果2との組99aは、レアケースに基づく演算結果であるとは判定されない。一方、範囲98を逸脱する演算結果1と演算結果2との組99b及び99cについては、レアケースに基づく演算結果であるとは判定される。   FIG. 20 shows a correlation distribution between the operation result 1 as the first value and the operation result 2 as the second value. As shown in FIG. 20, most of the sets of the calculation results 1 and 2 are distributed along the range 98. In this case, the set 99a of the calculation result 1 and the calculation result 2 included in the range 98 is not determined to be the calculation result based on the rare case. On the other hand, the sets 99b and 99c of the calculation result 1 and the calculation result 2 that deviate from the range 98 are determined to be calculation results based on the rare case.

以上、第4の実施形態に係る構成において、情報収集装置は、学習済みモデルを用いた判別結果の妥当性を、複数の演算結果の関係に基づいて判別することができる。なお、図20においては、2つの演算結果の関係に基づいてレアケースであるか否かを判定する構成について説明したが、これに限られず、3つ以上の演算結果の関係に基づいて判定するような構成であってもよい。   As described above, in the configuration according to the fourth embodiment, the information collection device can determine the validity of the determination result using the learned model based on the relationship between the plurality of calculation results. In FIG. 20, the configuration for determining whether or not a case is a rare case based on the relationship between two calculation results has been described. Such a configuration may be adopted.

以上説明した少なくとも一つの実施形態によれば、有用な学習用データを収集することができる。   According to at least one embodiment described above, useful learning data can be collected.

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。   Although several embodiments of the present invention have been described, these embodiments are provided by way of example and are not intended to limit the scope of the invention. These embodiments can be implemented in other various forms, and various omissions, replacements, and changes can be made without departing from the spirit of the invention. These embodiments and their modifications are included in the scope and gist of the invention, and are also included in the invention described in the claims and equivalents thereof.

例えば、医用情報として医用画像データを収集する構成について説明したが、これに限られず、心電図や音声データ等の画像以外の医用情報を収集するような構成であってもよい。また、学習装置30が複数の学習済みモデル341、342及び343を有する構成について説明したが、学習装置30が単一の学習済みモデル341のみを有するような構成であってもよい。   For example, the configuration in which medical image data is collected as medical information has been described. However, the configuration is not limited to this, and a configuration in which medical information other than images, such as electrocardiograms and audio data, may be collected. Further, the configuration in which the learning device 30 has the plurality of learned models 341, 342, and 343 has been described, but the learning device 30 may have a configuration in which only the single learned model 341 is provided.

また、受付機能154は、このような有用データであるか否かを判定する条件、例えば「−σから平均値μまで」等の条件の入力を、ユーザからさらに受け付けてもよい。この場合において、判定機能152は、入力された条件を用いて、演算結果を判定してもよい。   Further, the receiving function 154 may further receive from the user an input of a condition for determining whether or not such data is useful data, for example, a condition such as “from −σ to the average μ”. In this case, the determination function 152 may determine the calculation result using the input condition.

また、受付機能154は、例えば、正解データを登録した医師を特定する医師IDを、さらに有用データ143に記憶してもよい。例えば、複数の医師が、同一の医用画像データに対する正解データとして、異なる症例を入力した場合、受付機能154は、最も入力した医師の数が多い症例を、正解データとして、有用データ143に格納してもよい。また、受付機能154は、予め医師の評価を定めておき、最も評価が高い医師が入力した症例を正解データとして、有用データ143に格納してもよい。   In addition, the reception function 154 may further store, for example, a doctor ID identifying the doctor who registered the correct answer data in the useful data 143. For example, when a plurality of doctors input different cases as correct data for the same medical image data, the reception function 154 stores the case with the largest number of input doctors in the useful data 143 as correct data. You may. In addition, the reception function 154 may determine the evaluation of the doctor in advance and store the case input by the doctor with the highest evaluation in the useful data 143 as correct answer data.

上述した各実施形態の説明で用いた「プロセッサ」という文言は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、或いは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。ここで、メモリにプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むように構成しても構わない。この場合には、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。また、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて一つのプロセッサとして構成され、その機能を実現するようにしてもよい。   The term “processor” used in the description of each of the above-described embodiments may be, for example, a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), an application specific integrated circuit (ASIC), Means a circuit such as a logic device (for example, a Simple Programmable Logic Device (SPLD), a complex programmable logic device (CPLD), and a field programmable gate array (FPGA)). I do. Here, instead of storing the program in the memory, the program may be directly incorporated in the circuit of the processor. In this case, the processor realizes a function by reading and executing a program incorporated in the circuit. Further, each processor of the present embodiment is not limited to the case where each processor is configured as a single circuit, but may be configured as one processor by combining a plurality of independent circuits to realize its function. Good.

ここで、プロセッサによって実行されるプログラムは、ROM(Read Only Memory)や記憶部等に予め組み込まれて提供される。なお、このプログラムは、これらの装置にインストール可能な形式又は実行可能な形式のファイルでCD(Compact Disk)−ROM、FD(Flexible Disk)、CD−R(Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記憶媒体に記録されて提供されてもよい。また、このプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納され、ネットワーク経由でダウンロードされることにより提供又は配布されてもよい。例えば、このプログラムは、各機能部を含むモジュールで構成される。実際のハードウェアとしては、CPUが、ROM等の記憶媒体からプログラムを読み出して実行することにより、各モジュールが主記憶装置上にロードされて、主記憶装置上に生成される。   Here, the program executed by the processor is provided by being incorporated in a ROM (Read Only Memory) or a storage unit in advance. This program is a file in a format that can be installed or executed in these devices, such as a CD (Compact Disk) -ROM, an FD (Flexible Disk), a CD-R (Recordable), and a DVD (Digital Versatile Disk). May be provided by being recorded on a computer-readable storage medium. The program may be stored on a computer connected to a network such as the Internet, and may be provided or distributed by being downloaded via the network. For example, this program is configured by modules including each functional unit. As actual hardware, the CPU reads a program from a storage medium such as a ROM and executes the program, whereby each module is loaded on the main storage device and generated on the main storage device.

1 情報収集システム
10 情報収集装置
20 医用画像診断装置群
21 画像保管装置
30 学習装置
40 端末
DESCRIPTION OF SYMBOLS 1 Information collection system 10 Information collection device 20 Medical image diagnostic device group 21 Image storage device 30 Learning device 40 Terminal

Claims (12)

入力された情報に対する演算処理を行う1つ以上の中間層と、前記中間層の演算結果に基づいて診断結果を出力する出力層とを含む第1の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する第1記憶部と、
前記第1の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する取得部と、
前記取得部が取得した演算結果が、前記第1記憶部が記憶する前記演算結果に関する情報との間で条件を満たすか否かを判定する判定部と、
前記条件を満たすと判定された演算結果に対応する前記医用情報に関する情報を記憶する第2記憶部と
を有する情報収集システム。
The intermediate layer outputs in a first learned model including one or more intermediate layers for performing an arithmetic process on input information and an output layer for outputting a diagnosis result based on the operation result of the intermediate layer. A first storage unit that stores information about a calculation result;
An acquisition unit configured to acquire an operation result output by the intermediate layer in response to medical information being input to an input layer of the first learned model;
A determining unit that determines whether or not the calculation result obtained by the obtaining unit satisfies a condition between the calculation result and the information on the calculation result stored in the first storage unit;
A second storage unit for storing information on the medical information corresponding to the calculation result determined to satisfy the condition.
前記取得部は、取得した前記演算結果を含む情報を、前記演算結果に関する情報として前記第1記憶部に格納する請求項1に記載の情報収集システム。   The information collection system according to claim 1, wherein the acquisition unit stores information including the acquired operation result in the first storage unit as information regarding the operation result. 前記第2記憶部に記憶された医用情報に関する情報を出力する出力部と、
前記出力部により出力された前記医用情報に対する判断結果の入力をユーザから受け付け、受け付けた前記判断結果を前記医用情報と対応付けて前記第2記憶部に格納する受付部と
をさらに有する請求項2に記載の情報収集システム。
An output unit that outputs information on medical information stored in the second storage unit;
3. A receiving unit that receives, from a user, an input of a determination result for the medical information output by the output unit, and stores the received determination result in the second storage unit in association with the medical information. Information collection system described in.
前記判定部は、前記医用情報及び前記判断結果を、前記医用情報が収集された被検体に関する被検体情報と対応付けて前記第2記憶部に格納する請求項3に記載の情報収集システム。   The information collection system according to claim 3, wherein the determination unit stores the medical information and the determination result in the second storage unit in association with subject information regarding a subject from which the medical information has been collected. 前記取得部は、前記入力層に入力された前記医用情報の被検体に関する被検体情報をさらに取得し、取得した前記被検体情報と合致する被検体情報が前記第2記憶部に記憶されている場合、当該合致する被検体情報に対応付けて前記入力層に入力された前記医用情報に関する情報を前記第2記憶部に格納する請求項4に記載の情報収集システム。   The obtaining unit further obtains subject information on the subject of the medical information input to the input layer, and subject information that matches the obtained subject information is stored in the second storage unit. 5. The information collection system according to claim 4, wherein in the case, information on the medical information input to the input layer in association with the matching subject information is stored in the second storage unit. 前記受付部は、前記医用情報の被検体に関する情報、前記医用情報及び前記判断結果を匿名化して格納する請求項4又は5に記載の情報収集システム。   The information collection system according to claim 4, wherein the reception unit stores anonymously information on the subject of the medical information, the medical information, and the determination result. 前記受付部は、前記医用情報及び前記判断結果を、前記ユーザと対応付けて前記第2記憶部に格納する請求項3乃至6のいずれか1つに記載の情報収集システム。   The information collection system according to claim 3, wherein the receiving unit stores the medical information and the determination result in the second storage unit in association with the user. 前記取得部は、複数の前記第1の学習済みモデルから、前記中間層が出力する演算結果を取得し、
前記第2記憶部が、前記取得部が取得した演算結果を、前記演算結果を出力した複数の前記第1の学習済みモデルに関する情報と対応付けて記憶する
請求項3乃至7のいずれか1つに記載の情報収集システム。
The acquisition unit acquires, from a plurality of the first learned models, an operation result output by the intermediate layer,
The second storage unit stores the calculation result obtained by the obtaining unit in association with information on the plurality of first learned models that output the calculation result. Information collection system described in.
複数の医用画像診断装置から前記医用情報を収集する収集部をさらに有し、
前記受付部は、前記医用情報及び前記判断結果を、前記収集部が前記医用情報を収集した前記医用画像診断装置に関する情報と対応付けて格納する
請求項3乃至8のいずれか1つに記載の情報収集システム。
Further comprising a collecting unit for collecting the medical information from a plurality of medical image diagnostic apparatuses,
The reception unit according to any one of claims 3 to 8, wherein the reception unit stores the medical information and the determination result in association with information regarding the medical image diagnostic apparatus from which the collection unit has collected the medical information. Information collection system.
前記取得部は、取得した前記演算結果を統計処理した統計データを、前記演算結果に関する情報として前記第1記憶部に格納する、請求項2乃至9のいずれか1つに記載の情報収集システム。   The information collection system according to any one of claims 2 to 9, wherein the acquisition unit stores, in the first storage unit, statistical data obtained by statistically processing the acquired operation results as information regarding the operation results. 前記判定部は、前記取得部が取得した前記演算結果の入力を受け付け、前記条件を満たすか否かを示す情報を出力する第2の学習済みモデルに、前記演算結果を入力することにより、前記条件を満たすか否かを判定する請求項2乃至10のいずれか1つに記載の情報収集システム。   The determination unit receives an input of the calculation result obtained by the obtaining unit, and inputs the calculation result to a second learned model that outputs information indicating whether the condition is satisfied. The information collection system according to any one of claims 2 to 10, wherein it is determined whether a condition is satisfied. 入力された情報に対する演算処理を行う1つ以上の中間層と、前記中間層の演算結果に基づいて診断結果を出力する出力層とを含む第1の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する第1記憶部と、
前記第1の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する取得部と、
前記取得部が取得した演算結果が、前記第1記憶部が記憶する前記演算結果に関する情報との間で条件を満たすか否かを判定する判定部と、
前記条件を満たすと判定された演算結果に対応する前記医用情報に関する情報を記憶する第2記憶部と
を有する情報収集装置。
The intermediate layer outputs in a first learned model including one or more intermediate layers for performing an arithmetic process on input information and an output layer for outputting a diagnosis result based on the operation result of the intermediate layer. A first storage unit that stores information about a calculation result;
An acquisition unit configured to acquire an operation result output by the intermediate layer in response to medical information being input to an input layer of the first learned model;
A determining unit that determines whether or not the calculation result obtained by the obtaining unit satisfies a condition between the calculation result and the information on the calculation result stored in the first storage unit;
A second storage unit for storing information related to the medical information corresponding to a calculation result determined to satisfy the condition.
JP2018180255A 2018-09-26 2018-09-26 Medical information collection system and medical information collection device Active JP7442964B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018180255A JP7442964B2 (en) 2018-09-26 2018-09-26 Medical information collection system and medical information collection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018180255A JP7442964B2 (en) 2018-09-26 2018-09-26 Medical information collection system and medical information collection device

Publications (2)

Publication Number Publication Date
JP2020048783A true JP2020048783A (en) 2020-04-02
JP7442964B2 JP7442964B2 (en) 2024-03-05

Family

ID=69994448

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018180255A Active JP7442964B2 (en) 2018-09-26 2018-09-26 Medical information collection system and medical information collection device

Country Status (1)

Country Link
JP (1) JP7442964B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04332548A (en) * 1990-08-28 1992-11-19 Arch Dev Corp Neural network using method for aiding differential diagnosis
JPH05225163A (en) * 1992-02-13 1993-09-03 Hitachi Ltd Neural network system and learning method for neural network
JP2002259940A (en) * 2001-03-06 2002-09-13 Kddi Corp Parallel neural network processing system equipped with output condition determination function
JP2006043007A (en) * 2004-08-02 2006-02-16 Fujitsu Ltd Diagnosis support program and diagnosis support apparatus
WO2017017722A1 (en) * 2015-07-24 2017-02-02 オリンパス株式会社 Processing device, processing method and program
JP2017207947A (en) * 2016-05-19 2017-11-24 株式会社 ディー・エヌ・エー Program, system, and method for determining similarity of object

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4332548B2 (en) 2001-03-05 2009-09-16 キヤノン株式会社 Image reading device
JP5225163B2 (en) 2009-03-06 2013-07-03 三菱電機株式会社 Data update device, data update method for data update device, and data update program

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04332548A (en) * 1990-08-28 1992-11-19 Arch Dev Corp Neural network using method for aiding differential diagnosis
JPH05225163A (en) * 1992-02-13 1993-09-03 Hitachi Ltd Neural network system and learning method for neural network
JP2002259940A (en) * 2001-03-06 2002-09-13 Kddi Corp Parallel neural network processing system equipped with output condition determination function
JP2006043007A (en) * 2004-08-02 2006-02-16 Fujitsu Ltd Diagnosis support program and diagnosis support apparatus
WO2017017722A1 (en) * 2015-07-24 2017-02-02 オリンパス株式会社 Processing device, processing method and program
JP2017207947A (en) * 2016-05-19 2017-11-24 株式会社 ディー・エヌ・エー Program, system, and method for determining similarity of object

Also Published As

Publication number Publication date
JP7442964B2 (en) 2024-03-05

Similar Documents

Publication Publication Date Title
US11288550B2 (en) Data processing apparatus and method, recognition apparatus, learning data storage apparatus, machine learning apparatus, and program
US9424644B2 (en) Methods and systems for evaluating bone lesions
KR101874348B1 (en) Method for facilitating dignosis of subject based on chest posteroanterior view thereof, and apparatus using the same
US7133546B2 (en) Digital medical image analysis
US20210313048A1 (en) Neural network-based object detection in visual input
JP5398518B2 (en) Medical diagnosis support device
US20210295510A1 (en) Heat map based medical image diagnostic mechanism
US10706534B2 (en) Method and apparatus for classifying a data point in imaging data
CN109191451B (en) Abnormality detection method, apparatus, device, and medium
JP2018175226A (en) Medical image classification device, method, and program
JP2021056995A (en) Medical information processing apparatus, medical information processing system, and medical information processing method
Zhang et al. Lung nodule detectability of artificial intelligence-assisted CT image reading in lung cancer screening
WO2014171830A1 (en) Method and system for determining a phenotype of a neoplasm in a human or animal body
KR20210158682A (en) Method to display lesion readings result
US20220122257A1 (en) Medical image processing apparatus and medical image processing system
JP6257564B2 (en) Diagnosis support apparatus, diagnosis support system, operation method and program for diagnosis support apparatus
EP3362925B1 (en) Systems and methods for generating correct radiological recommendations
JP7442964B2 (en) Medical information collection system and medical information collection device
JP2020042810A (en) Medical information processing device, medical information processing method, medical information processing program and medical information processing system
JP7321690B2 (en) Verification system and verification device
JP2022061191A (en) Information processing apparatus, information processing method, program, and information processing system
JP2015194394A (en) Lung disease determination program, record medium and lung disease determination method
CN113576488B (en) Method, device, equipment and medium for determining pulmonary image histology based on heart rate
JP6403832B2 (en) Diagnosis support apparatus, diagnosis support method and program
JP6686085B2 (en) Diagnosis support device, method of operating diagnosis support device, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220707

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221227

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221227

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230106

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20230110

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20230310

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20230314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240221

R150 Certificate of patent or registration of utility model

Ref document number: 7442964

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150