WO2021162124A1 - 診断支援装置、診断支援システム及びプログラム - Google Patents

診断支援装置、診断支援システム及びプログラム Download PDF

Info

Publication number
WO2021162124A1
WO2021162124A1 PCT/JP2021/005447 JP2021005447W WO2021162124A1 WO 2021162124 A1 WO2021162124 A1 WO 2021162124A1 JP 2021005447 W JP2021005447 W JP 2021005447W WO 2021162124 A1 WO2021162124 A1 WO 2021162124A1
Authority
WO
WIPO (PCT)
Prior art keywords
eye
knowledge
inspected
image
frame image
Prior art date
Application number
PCT/JP2021/005447
Other languages
English (en)
French (fr)
Inventor
映輔 清水
啓之 矢津
直彦 明田
慎太郎 中山
光人 逆瀬川
信 丹治
植田 貴之
Original Assignee
株式会社Oui
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Oui filed Critical 株式会社Oui
Priority to EP21752926.2A priority Critical patent/EP4104749A4/en
Priority to JP2022500489A priority patent/JPWO2021162124A1/ja
Priority to US17/799,043 priority patent/US20230092251A1/en
Publication of WO2021162124A1 publication Critical patent/WO2021162124A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/13Ophthalmic microscopes
    • A61B3/135Slit-lamp microscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/14Arrangements specially adapted for eye photography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6898Portable consumer electronic devices, e.g. music players, telephones, tablet computers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Definitions

  • the present invention relates to a diagnostic support device or the like that supports a medical diagnosis by processing a medical image, and in particular, processes a diagnostic image in the field of ophthalmology of humans and animals, and based on the diagnostic image, the eye is examined.
  • the present invention relates to a diagnostic support device that supports the diagnosis of a disease in the eye of a patient (or a patient), or measures at least one distance, angle, and area in a part of the tissue of the eye to be examined.
  • a plurality of ophthalmic imaging devices installed in an ophthalmic facility such as a hospital and an information processing system (server device) are connected directly or via a network, and the information processing system performs ophthalmic imaging. Based on the image for ophthalmic diagnosis taken by the device, machine learning is performed to acquire the knowledge for image diagnosis. Then, in this ophthalmic system, when an image for optometry diagnosis is transmitted from the ophthalmologic imaging device after the knowledge is acquired by the information processing system, the suspected disease name and the presence or absence of a specific disease are present based on the image and the acquired knowledge. , Severity, necessity of examination, type of examination, necessity of surgery, type of surgery, etc. are inferred, and diagnostic support information including the inferred result is automatically generated and made available in ophthalmic examination equipment. The configuration for distribution is adopted.
  • Patent Document 1 is configured to capture an image for diagnosis by an ophthalmologic imaging device installed in a facility such as a hospital.
  • This type of ophthalmologic imaging device is expensive and difficult to handle, and images that can be used for diagnosis unless it is a specialist such as a doctor or an orthoptist (hereinafter referred to as a "doctor") who has specialized knowledge. Difficult to shoot. Therefore, in developing countries, remote areas, and other areas where equipment and doctors are in short supply, it is difficult to acquire images that can be used for diagnosis, and it is difficult to generate diagnostic support information.
  • the information parameter value including at least one of the distance, angle, and area in a part of the tissue of the eye to be inspected cannot be measured unless a doctor or the like uses an advanced ophthalmic device, and it is measured at all in some areas. Can't.
  • the present invention has been made in view of the circumstances described above, and an object of the present invention is to reliably generate and use diagnostic support information regarding an eye to be inspected even in an area where equipment, doctors, etc. are in short supply.
  • the purpose is to provide support devices and the like.
  • the diagnostic support device of the present invention is attached to a mobile communication terminal device including a light source and a camera lens for photographing, and (a) is generated based on the light source light emitted from the light source.
  • a mobile communication terminal device including a light source and a camera lens for photographing
  • Either the slit light, the blue light, or the linearly polarized light that has been made is irradiated to the observation target tissue of the eye to be inspected as observation light, or the light source light is passed through as it is, and the observation target tissue is subjected to the observation light.
  • the first extraction means for extracting the first frame image included in the acquired captured image based on the first knowledge, and the captured image.
  • a second storage means for storing the health condition of the eye to be inspected and (ii) a second knowledge for estimating at least one of the information parameter values, the extracted first frame image, and the second. Based on the knowledge, (i) an estimation means for estimating at least one of the health condition of the eye to be inspected reflected in the acquired captured image and (ii) the information parameter value, and the estimated health condition of the eye to be inspected. It also has a generation means for generating diagnostic support information including at least one of the information parameter values, and a distribution means for distributing the generated diagnostic support information to an external device.
  • the light source light emitted from the light source of the mobile communication terminal device is irradiated to the observation target tissue as observation light as it is by the proximity photographing device, or is either slit light, blue light, or linearly polarized light. It is converted into citrus and irradiated to the observation target tissue as observation light. Then, the user irradiates the observation target tissue (for example, the eyelid, the ocular surface, the cornea, the conjunctival, the crystalline lens, the anterior chamber, the anterior segment tissue including the iris, and the fundus tissue) with the observation light while irradiating the moving object.
  • the observation target tissue for example, the eyelid, the ocular surface, the cornea, the conjunctival, the crystalline lens, the anterior chamber, the anterior segment tissue including the iris, and the fundus tissue
  • the light including the reflected light of the observation light in the eye to be inspected is focused on the photographing camera lens of the mobile communication terminal device by the proximity photographing device and is covered. It is possible to take a moving image of the tissue to be observed by optometry.
  • the mobile communication terminal device equipped with a close-up photography device (hereinafter, also referred to as "smart eye camera”).
  • a close-up photography device hereinafter, also referred to as "smart eye camera”
  • doctors for example, paramedical users, as well as amateurs such as the patient's family / friends and the patient himself / herself
  • doctors for example, paramedical users, as well as amateurs such as the patient's family / friends and the patient himself / herself
  • doctors for example, paramedical users, as well as amateurs such as the patient's family / friends and the patient himself / herself
  • a moving image including a first frame image (hereinafter, also referred to as a “diagnostic frame image”) that can be used in the above.
  • the observation target tissue of the eye to be examined is irradiated with the observation light
  • (Condition 2) the observation target tissue of the irradiated observation light is irradiated. It is necessary to take an image that satisfies all three conditions: that at least a part of the observation target tissue is reflected together with the reflected light, and (condition 3) the observation target tissue is in focus.
  • the user uses a smart eye camera to take an image of the eye to be inspected, for example, during a period of taking a moving image of the eye to be inspected for several seconds to several tens of seconds, a state satisfying the above three conditions is satisfied for one frame.
  • the autofocus mechanism mounted on the camera module of the mobile communication terminal device can automatically focus on the shooting target. Therefore, if the user takes a picture of the eye to be inspected so that the reflected light is reflected while creating a state in which the tissue to be observed of the eye to be inspected is irradiated with the observation light, the user includes a diagnosticable frame image satisfying all the above three conditions. It is very easy to take a moving image.
  • the eye to be inspected does not necessarily have to be the human eye, but may be the eye of an animal (dog, cat, mouse, etc.). Further, when estimating the information parameter value regarding the eye to be inspected, a predetermined additional condition is required, which will be described in detail later.
  • the diagnostic support device of the present invention automatically extracts a diagnosticable frame image satisfying the above three conditions from a plurality of frame images constituting a moving image based on the first knowledge, and the extracted diagnostic ability is possible. It was decided to adopt a configuration in which at least one of the health condition and information parameter value of the eye to be examined is estimated based on the frame image, and diagnostic support information including at least one of the estimated health condition and information parameter value is generated.
  • the diagnostic support device of the present invention can obtain at least one of the health condition of the eye to be inspected and the information parameter value based on the photographed image even when a user who is unfamiliar with photographing such as an amateur photographs the eye to be inspected. It can be estimated accurately. Therefore, according to the diagnostic support device of the present invention, diagnostic support information can be reliably generated and used without being influenced by the user, the area, or the like. Further, since the close-up imaging device to be attached to the mobile communication terminal device may have at least a configuration having an observation light irradiation member and a convex lens, it can be manufactured at a very low cost, and an expensive ophthalmic imaging device cannot be prepared. It is possible to reliably generate and use diagnostic support information including at least one of the health condition of the eye to be inspected and the information parameter value even in such an area.
  • the first extraction means sets each of the frame images included in the captured image into the first frame image based on the frame image included in the captured image and the first knowledge.
  • a configuration may be adopted in which the corresponding probability is calculated and the first frame image is extracted based on the calculated probability.
  • a diagnosticable frame image based on the probability of corresponding to a diagnosticable frame image. It is possible to improve the accuracy and recall rate at the time of frame image extraction.
  • the criteria for extracting a diagnosticable frame image based on the calculated probability are arbitrary. For example, a predetermined number of frames having a high probability of being applicable (for example, the best frame having the highest probability and the top 5 frames having a high probability). Alternatively, a frame image of a high probability of a few percent, etc.) may be extracted as a diagnosticable frame image.
  • the first extraction means extracts a plurality of the calculated frame images having a high probability as the first frame image, and the estimation means is extracted. Based on the plurality of the first frame images and the second knowledge, at least one of (i) the health condition of the eye to be examined and (ii) the information parameter value is estimated for each of the first frame images, and the estimation is performed.
  • a configuration may be adopted in which at least one of the most plausible health condition and information parameter values of the eye to be examined is estimated while weighting the obtained health condition and information parameter values based on the calculated probabilities.
  • the diagnostic support device of the present invention estimates the most plausible health condition and information parameter value of the eye to be inspected while weighting each frame image included in the moving image according to the probability that it corresponds to the diagnosticable frame image.
  • the estimation result of the health condition or the like based on the diagnosticable frame image having a high probability of corresponding to the diagnosticable frame image can obtain a higher correct answer rate than the estimation result of the health condition or the like based on the diagnosticable frame image with a lower probability. Therefore, by weighting the estimation result based on each diagnosticable frame image with the probability corresponding to the diagnosticable frame image, the weight of the estimation result with a high correct answer rate is increased, and the most plausible health condition of the eye to be examined is increased. And information parameter values can be estimated to improve the reliability of diagnostic support information.
  • the classifier can estimate the correct answer with a predetermined accuracy and recall rate, but 1 diagnosticable frame image If the health condition or the like is estimated based on the above, it becomes difficult to realize a correct answer rate that exceeds the accuracy or recall rate of a single classifier.
  • a plurality of estimation results based on a plurality of diagnosticable frame images can be obtained, and the final estimation result can be determined while weighting the estimation results.
  • the diagnostic support device of the present invention estimates the most probable health condition and information parameter value of the eye to be inspected with higher accuracy and recall than the estimation by a single classifier, and determines the reliability of the diagnostic support information. Can be improved.
  • the specific method of the weighting process is arbitrary, and for example, ensemble machine learning may be performed on a plurality of estimation results obtained based on each diagnosticable frame image.
  • the acquisition means uses the slit light generated based on the light source light as the observation light for the eyelid and the anterior eye of the eye to be inspected.
  • the photographed image taken while irradiating at least one of the part tissues is acquired, and the first storage means, as the first knowledge, (i) a disease that develops in the eyelid and the anterior eye tissue of the eye to be inspected.
  • the knowledge for extracting the first frame image that can be used to estimate at least one of the information parameter values relating to the eyelid and the anterior ocular tissue, and the second storage means.
  • the second knowledge is to estimate at least one of (i) the state of the disease that develops in the eyelid and the anterior segment tissue of the eye to be examined, and (ii) the information parameter values relating to the eyelid and the anterior segment tissue.
  • the state of the disease in at least one of the eyelid and the anterior ocular tissue of the eye to be inspected and (i) ii)
  • a configuration may be adopted in which at least one of the information parameter values relating to the eyelid and the anterior ocular tissue is estimated.
  • the diagnostic support device of the present invention estimates the state of the disease that has developed in at least one of the eyelid and the anterior segment of the eye to be inspected and the information parameter values related to these tissues, and provides diagnostic support information including the estimation result.
  • the state of the disease in each tissue of the eyelid, the ocular surface, the cornea, the conjunctiva, the anterior chamber, and the crystalline lens can be observed as the anterior ocular tissue of the eye to be examined, and some of them. It is also possible to observe the disease that has developed in the fundus tissue or estimate the information parameter value of the fundus tissue.
  • the acquisition means has imaged a wound generated on at least one of the cornea and conjunctiva of the eye to be inspected with a contrasting agent.
  • the photographed image taken while irradiating at least one of the cornea and conjunctiva of the eye to be inspected with blue light generated based on the light source is used as the observation light, and the first storage means is used.
  • the first knowledge knowledge for extracting the first frame image that can be used for diagnosing the state of a wound occurring in at least one of the cornea and conjunctiva of the eye to be examined is stored in advance, and the first knowledge is described.
  • the second knowledge knowledge for estimating the state of the disease in at least one of the cornea and the conjunctiva is stored from the state of the wound caused in at least one of the cornea and the conjunctiva of the eye to be inspected.
  • the estimation means may adopt a configuration in which the state of the disease in at least one tissue of the cornea and the conjunctiva of the eye to be examined is estimated based on the extracted first frame image and the second knowledge.
  • the diagnostic support device of the present invention estimates the state of the disease in at least one of the cornea and conjunctiva of the eye to be inspected from the state of the wound generated in at least one tissue of the cornea and conjunctiva, and diagnoses including the estimated result.
  • Support information can be generated and used.
  • the acquisition means irradiates the fundus tissue of the eye to be inspected with linear polarization generated based on the light source light as the observation light.
  • the photographed image was acquired while the photographed image was taken, and the first storage means received, as the first knowledge, (i) the state of the disease that develops in the fundus tissue of the eye to be inspected and (ii) the information parameter regarding the fundus tissue.
  • the knowledge for extracting the first frame image that can be used for estimating at least one of the values is stored in advance, and the second storage means, as the second knowledge, (i) the fundus of the eye to be inspected.
  • Knowledge for estimating the state of the disease in the tissue and (ii) at least one of the information parameter values relating to the fundus tissue is stored, and the estimation means is based on the extracted first frame image and the second knowledge. It may be configured to estimate at least one of the disease state in the fundus tissue of the eye to be inspected and (ii) the information parameter value regarding the fundus tissue.
  • the diagnostic support device of the present invention estimates at least one of the disease state in the fundus tissue of the eye to be inspected and the information parameter value in the fundus tissue, and generates and uses diagnostic support information including the estimation result. Can be done.
  • the acquisition means takes a picture while irradiating the observation target tissue of the eye to be inspected with the light source light as it is as the observation light.
  • the photographed image was acquired, and the first storage means, as the first knowledge, (i) the state of the disease that develops in at least one tissue of the eyelid, the eye surface, the conjunctiva, and the conjunctiva of the eye to be inspected, and ( ii) Knowledge for extracting the first frame image that can be used to estimate at least one of the information parameter values for at least one tissue of the eyelid, eye surface, corneum and conjunctiva of the eye to be inspected is stored in advance.
  • the second storage means as the second knowledge, (i) the state of the disease in at least one tissue of the eyelid, eye surface, corneum and conjunctiva of the eye to be inspected, and (ii) the eyelid and eye of the eye to be inspected.
  • Knowledge for estimating at least one of the information parameter values for at least one tissue of the surface, corneum and conjunctiva is stored, and the estimation means is based on the extracted first frame image and the second knowledge.
  • the state of the disease in at least one tissue of the eyelid, eye surface, corneum and conjunctiva of the eye to be examined and (ii) the information parameter values relating to at least one tissue of the eyelid, eye surface, cornea and conjunctiva of the eye to be examined. At least one of them may be estimated.
  • the diagnostic support device of the present invention irradiates the tissue to be observed as observation light with the light source light as it is, and the state of the disease in at least one tissue of the eyelid, the eye surface, the cornea and the conjunctiva of the eye to be examined. , And at least one of the information parameter values related to these organizations can be estimated, and diagnostic support information including the estimation result can be generated and used.
  • the diagnostic support device of the present invention can acquire the second knowledge while executing at least one of machine learning and data mining based on the diagnosticable frame image extracted by the first extraction means. It is possible to reduce the labor required to give the second knowledge to the diagnostic support device.
  • the specific method for acquiring the second knowledge is arbitrary.
  • the diagnostic frame image extracted by the first extraction means is presented to a plurality of doctors as annotators, and the diagnostic frame is presented.
  • the configuration may be such that the second knowledge is acquired.
  • various methods such as unsupervised learning, semi-supervised learning, transductive learning, and multitasking learning may be used.
  • the learning means acquires diagnosis result information indicating a doctor's diagnosis result based on the first frame image extracted by the first extraction means, and the diagnosis result.
  • the diagnostic support device of the present invention can create teacher data and acquire useful second knowledge while reducing the workload of the doctor when acquiring the second knowledge.
  • the first storage means can be used as the first knowledge for diagnosing the disease for each disease that can occur in each tissue constituting the eye to be examined.
  • a plurality of knowledge for extracting the first frame image is stored, and the first extraction means obtains the first frame image that can be used for estimating the state of the disease for each disease based on the first knowledge.
  • the learning means acquires the diagnosis result information regarding the corresponding disease based on the first frame image corresponding to each of the extracted diseases, and obtains the diagnosis result information and the corresponding first frame image.
  • Is used as the teacher data and at least one of machine learning and data mining is executed to acquire the second knowledge necessary for diagnosing the disease for each disease, and the acquired second knowledge is regarded as the corresponding disease.
  • a configuration may be adopted in which the second storage means is associated with the storage.
  • the diagnostic support device of the present invention can individually extract a diagnosticable frame image corresponding to each of a plurality of diseases that may occur in the eye to be inspected from one captured image. Then, teacher data is created based on the diagnosis result of the doctor based on the extracted diagnosticable frame image, and at least one of machine learning and data mining is executed based on the teacher data, thereby corresponding to each disease. While acquiring knowledge for each disease, the acquired second knowledge can be associated with the corresponding disease and stored in the second storage means. As a result, the diagnostic support device of the present invention can acquire the second knowledge for diagnosing a plurality of diseases from one captured image, and once obtains the second knowledge corresponding to a plurality of diseases based on a small number of sample images. Can be acquired. Further, with this configuration, the diagnostic support device of the present invention can extract a diagnosticable frame image for annotation from the captured image in advance for each disease and present it to the doctor, thus reducing the workload of the doctor when performing annotation. can.
  • the first storage means is used as the first knowledge for each disease that can occur in each tissue constituting the eye to be inspected.
  • a plurality of knowledge for extracting the first frame image that can be used for estimating the state of the disease is stored, and the second storage means stores the state of the disease for each disease as the second knowledge.
  • a plurality of knowledge for estimation is stored, and the first extraction means extracts a first frame image that can be used for diagnosing the disease for each disease based on the first knowledge, and the estimation means Based on the first frame image extracted for each disease and the second knowledge of the corresponding disease, the state of each disease in the eye to be examined was estimated, and the generation means estimated as the diagnostic support information.
  • a configuration may be adopted that generates information including the state of each disease.
  • the diagnostic support device of the present invention can extract a diagnosticable frame image corresponding to each of a plurality of diseases that may occur in the eye to be examined from one captured image for each disease. Then, the diagnostic support device of the present invention can estimate the state of a plurality of diseases in the eye to be inspected for each disease based on the extracted diagnosticable frame image, and generate diagnostic support information including the estimated state for each disease. ..
  • the diagnostic support device of the present invention estimates all the disease states occurring in the eye to be inspected at once based on one photographed image even when a plurality of diseases are occurring in the eye to be inspected. , Diagnostic support information including the estimation result can be generated and used, and the convenience of the user can be remarkably improved.
  • the tissue name corresponding to the tissue of the eye to be in focus in each frame image included in the captured image.
  • the generation means may generate the diagnostic support information including the extracted second frame image.
  • the diagnostic support device of the present invention can label the in-focus tissue in the frame image included in the captured image and make it possible to identify the tissue reflected in each frame image.
  • the frame image in which the tissue in which the disease develops is most accurately reflected is often the image in which the state of the disease can be most intuitively understood. Therefore, the above configuration allows the patient to most intuitively understand the state of the disease. It is possible to generate and use diagnostic support information including a frame image of the best shot that is easy to understand as a GUI (Graphical User Interface), and it is possible to dramatically improve the patient's UX (User Experience).
  • GUI Graphic User Interface
  • each frame image included in the acquired moving image is laminated according to the focal distance, and the three-dimensional image of the eye to be inspected is laminated.
  • the second storage means further includes, as the second knowledge, (i) the health condition of the eye to be examined and (ii) the information parameter value based on the three-dimensional image.
  • the knowledge for estimating at least one of the above is stored, the estimation means stores the knowledge for estimating the health state of the eye to be inspected based on the three-dimensional image as the second knowledge, and the estimation means stores the knowledge.
  • a configuration may be adopted in which at least one of (i) the health condition of the eye to be examined and (ii) the information parameter value is estimated.
  • the eye to be inspected by stacking the frame images in the order corresponding to the focal length of each frame image. It is possible to construct a three-dimensional image of the above and use the three-dimensional image for estimating the health condition, or to present the three-dimensional image to the user. In addition, since the three-dimensional image contains more information than the two-dimensional image, the above configuration improves the estimation accuracy of the health condition of the eye to be inspected and the information parameter value, and improves the reliability of the diagnostic support information. Can be done.
  • the present invention it is possible to reliably generate and use diagnostic support information for an eye to be inspected even in an area where equipment, doctors, etc. are in short supply.
  • FIG. 1 It is a system configuration diagram which shows the configuration example in 1st Embodiment of the diagnosis support system which concerns on this invention. It is a perspective view which shows the close-up photography apparatus in 1st Embodiment. It is explanatory drawing which shows the embodiment example in which the convex lens member and the color filter member were slid in the close-up photography apparatus of 1st Embodiment. It is an exploded block diagram of the close-up photography apparatus shown in FIG. It is a front view which shows the form which attached the slit light forming member to the close-up photography apparatus shown in FIG. It is a perspective view of the form shown in FIG. It is explanatory drawing of the form shown in FIG.
  • the image in the left column is an example taken with an existing device, and the image in the right column is an example taken with a smart eye camera.
  • (A) is a graph measuring the relationship between the age and body weight of mice, and (B) is a table showing the progress of body weight by group.
  • (A) is a graph measuring the relationship between the age of the mouse and the amount of tear secretion (TS), and (B) is a table showing the progress of continuous tear secretion (TS) by group.
  • TS continuous tear secretion
  • A) is a graph which measured the relationship between the age of a mouse and the liquid layer destruction time (TFBUT), and (B) is a table about the course of tear liquid layer destruction time for each group. Continuous tear film photographs stained with a fluorescein solution.
  • the upper row is an example of the GVHD group in which the tear film cracked in 3 seconds, and the lower row shows the tear film stabilizing in 3 seconds and disintegrating in 6 seconds.
  • This is an example of the normal group.
  • (A) is a graph which measured the relationship between the age of a mouse and the continuous corneal fluorescein score (CFS)
  • (B) is a table about the course of CFS by group. It is the result of comparing the measurement result of TFBUT and CFS about the smart eye camera of 1st Embodiment and the existing apparatus, (A) is the graph about TFBUT, (B) is the graph about CFS, (C) is these. It is a table that summarizes.
  • FIG. 6 is an exploded configuration diagram of the form shown in FIG. 26.
  • the results of photographing the fundus photographed by the smart eye camera of the second embodiment (A) is a normal fundus, (B) is a hypertensive fundus, (C) is a thinning of the retina, and (D) is an enlargement of the optic disc depression. It is an image of (suspected glaucoma). It is a correlation between doctors of hypertensive fundus evaluated by the smart eye camera of the second embodiment.
  • FIG. 3 is a diagram for explaining a method of estimating a region in which an eye tissue is reflected in a diagnosis support server device from a diagnosticable frame image and cutting out the region image.
  • This is an embodiment in which the diagnostic support device, the diagnostic support system, and the program according to the present invention are applied to the system for realizing the system.
  • the embodiments described below do not unreasonably limit the contents of the present invention described in the claims, and all the configurations described in the present embodiment are essential constituent requirements of the present invention. Not necessarily.
  • FIG. 1 is a system configuration diagram showing a configuration example of the diagnosis support system 1 of the present embodiment. Further, in order to prevent the drawing from becoming complicated, only a part of the users are displayed, and a part of the mobile communication equipped with the close-up photography device 20 constituting the diagnosis support system 1 is displayed. Only the terminal device 10 (that is, the smart eye camera) and some annotation terminal devices 40 are shown. That is, in the diagnosis support system 1, there are more users than shown in the figure, and there are many mobile communication terminal devices 10 and annotation terminal devices 40 equipped with the close-up photography device 20.
  • the terminal device 10 that is, the smart eye camera
  • the diagnostic support system 1 of the present embodiment is (a) a plurality of mobile bodies carried by each user and each functioning as a smart eye camera with the close-up photography device 20 attached. Communication connection is made between the communication terminal devices 10-1 to n (hereinafter referred to as "mobile communication terminal device 10") and each mobile communication terminal device 10 via the network N, and each mobile communication terminal device 10 is connected.
  • a diagnostic support server device 30 that executes processing based on moving image data transmitted (uploaded) from, and a plurality of annotator terminals such as an ophthalmologist 40-1 to n (hereinafter, "for annotation").
  • the diagnostic support server device 30 has (1) the health condition of the eye E to be inspected (presence or absence of a disease and its presence or absence thereof) based on the moving image data uploaded from the mobile communication terminal device 10. By estimating (severity, etc.), (2) generating diagnostic support information based on the estimation result, and (3) distributing the generated diagnostic support information to the corresponding mobile communication terminal device 10, the eye to be examined E It is intended to support the diagnosis of.
  • the format and content of the diagnostic support information is arbitrary. For example, in the format of XML (Extension Markup Language), information such as the name of the suspected disease, the severity of the disease, the treatment method, and the necessity of surgery can be provided. It may be described and configured to display such information on the mobile communication terminal device 10.
  • the health condition of the eye E to be inspected estimated by the diagnosis support server device 30 is arbitrary, for example, the presence or absence of a specific disease and various tissues of the eye E to be inspected (for example, eyelid, eye surface, cornea, conjunctiva, iris, anterior). It is possible to estimate the state of various diseases that may occur in the tufts, optometry, fundus tissue, etc.). However, in the present embodiment, in order to embody the explanation, the description is made assuming that the state of nuclear sclerosis (cataract) in the eye E to be inspected (that is, the presence or absence of the onset of cataract and its severity) is estimated.
  • the state of nuclear sclerosis cataract
  • the diagnosis support system 1 of the present embodiment may be configured to estimate only the presence or absence of the onset of cataract in the eye E to be inspected without estimating the severity of the cataract.
  • the image for cataract diagnosis needs to be taken by a doctor or the like having specialized knowledge using an expensive slit lamp microscope for ophthalmology installed in ophthalmology. For this reason, in areas such as developing countries where there is a shortage of equipment and doctors, it is not possible to take diagnostic images, and conventional ophthalmic systems estimate the health condition of eye E to be examined for diagnosis. It becomes difficult to generate support information.
  • slit light formation that generates slit light SL as observation light based on the light source light emitted from the light source 92 (described later) built in the mobile communication terminal device 10.
  • a configuration including at least a member 61 and a convex lens member 93 that condenses light including the reflected light RL of the slit light SL in the crystalline body tissue of the eye E to be focused on the photographing camera lens 91 (described later) of the mobile communication terminal device 10. It was decided to adopt a method in which the close-up photography device 20 of the above is attached to the mobile communication terminal device 10 and a moving image of the eye E to be inspected is taken by using the camera module built in the mobile communication terminal device 10.
  • the diagnosis support server device 30 estimates the state of cataract in the eye E to be inspected based on the moving image taken by the mobile communication terminal device 10, and generates diagnosis support information based on the estimation result.
  • the configuration and principle of the close-up photography device 20 will be described in detail later.
  • the mobile communication terminal device 10 is provided with a plurality of camera modules (for example, two in-camera modules provided on the display unit side and two out-camera modules provided on the back side).
  • the out-camera module usually has a higher resolution, and the optical system tends to be equipped with a functionally superior one.
  • the device 20 for close-up photography is used for the out-camera module, and the resolution of the eye E to be examined at the time of taking a moving image is improved, and the accuracy at the time of estimating the state of cataract is improved.
  • the light source 92 and the camera lens 91 for photography will be described as those provided on the out-camera module side of the mobile communication terminal device 10.
  • the present invention is not limited to the one that uses the out-camera module, and the configuration that uses the in-camera module is also possible.
  • the camera module mounted on the mobile communication terminal device 10 can be easily operated even by a user who does not have specialized knowledge. Further, by attaching the proximity photographing device 20 to the mobile communication terminal device 10, the slit light SL is generated while generating the slit light SL based on the light source light emitted from the light source 92 of the mobile communication terminal device 10. Is irradiated to the crystalline body tissue of the eye E to be inspected as observation light, and the light including the reflected light RL of the slit light SL in the crystalline body tissue is focused on the photographing camera lens 91 (described later) of the camera module, and one or more diagnoses are possible. Moving images including frame images can be easily taken.
  • the diagnosis support server device 30 can be used for diagnosing the state of cataract in the eye E to be examined from all the frame images constituting the moving image data uploaded from the mobile communication terminal device 10. It was decided to adopt a method of extracting a diagnostic frame image and estimating the state of cataract in the eye E to be examined based on the diagnostic frame image.
  • the diagnosis support server device 30 is configured to extract a frame image satisfying these three conditions as a diagnosticable frame image from all the frame images constituting the moving image taken by the mobile communication terminal device 10. ing.
  • diagnosis support server device 30 estimates the state of cataract in the eye E to be inspected based on the extracted diagnostic frame image, and generates diagnosis support information.
  • the diagnosis support server device 30 of the present embodiment constitutes, for example, the "diagnosis support device" of the present invention.
  • the diagnostic support system 1 of the present embodiment captures a moving image including a diagnosticable frame image for cataract diagnosis in the eye E to be inspected even when the user does not have specialized medical knowledge.
  • the state of cataract can be appropriately estimated based on the captured moving image.
  • the diagnosis support system 1 of the present embodiment can surely generate and use the diagnosis support information of the eye E to be inspected even in an area where there is a shortage of doctors and the like.
  • the close-up photography device 20 to be mounted on the mobile communication terminal device 10 can be manufactured at a very low cost because it is sufficient to have at least the slit light forming member 61 and the convex lens member 93.
  • the diagnostic support system 1 of the present embodiment can capture a moving image including a diagnosticable frame image at low cost and generate diagnostic support information without using an expensive slit lamp microscope for ophthalmology.
  • the mobile communication terminal device 10 is a portable communication terminal device carried by a user, such as a smartphone, a tablet-type information communication terminal device, or a mobile phone, and includes a liquid crystal panel or a liquid crystal panel. It has a display unit and a speaker (not shown) composed of display elements such as an organic EL (Electro Liquid Crystal) panel, and an operation unit composed of a touch panel, a ten key, and the like provided on the display unit. Further, the mobile communication terminal device 10 includes a camera module including a camera lens 91 for photographing, and a light source 92 composed of a light emitting element such as a white LED (Light Emitting Video).
  • a white LED Light Emitting Video
  • the camera module has an optical system (not shown) such as an aperture mechanism for narrowing down the light transmitted through the camera lens 91 for photography, a shutter mechanism, an autofocus mechanism, and an image stabilization mechanism.
  • the camera module may be a CCD (Charge Coupled Device) image sensor, a CMOS (Complementary metal accessory) image sensor, or the like that receives light transmitted through a camera lens 91 for photographing and outputs a signal corresponding to the received light. It has an image sensor, and by supplying the signal output by the image sensor to an image generation unit (not shown) configured by a CPU (Central Processing Unit), moving image data is based on the light transmitted through the camera lens 91 for photographing. To generate.
  • an image generation unit not shown
  • CPU Central Processing Unit
  • the method for generating moving image data in the image generation unit is arbitrary.
  • bitmap data may be generated for each frame image, and moving image data may be generated by arranging the generated bitmap data in chronological order, such as MPEG (Moving Picture Expert Group) 2 or H. .. 264, H. It is also possible to generate moving image data in a format compressed by an inter-frame prediction coding method such as 265.
  • the camera module and the image generation unit cooperate with the display unit and the operation unit to adjust the optical system based on the user's input operation to the operation unit.
  • a frame image in which the subject (in the present embodiment, the eye to be inspected E) is reflected is generated based on the light received by the image sensor, and the image being photographed is displayed on the display unit based on the generated frame image data.
  • the camera module provided with the autofocus mechanism mounted on the mobile communication terminal device 10 is the same as the camera module used in conventional smartphones and the like.
  • the mobile communication terminal device 10 is provided with an application program for acquiring and displaying diagnostic support information from the diagnostic support server device 30 based on the captured moving image of the eye E to be inspected (hereinafter referred to as a “diagnosis application”). .) Is installed (installed). Then, the mobile communication terminal device 10 uploads the moving image data generated by the camera module and the image generation unit to the diagnosis support server device 30 by executing this diagnosis application, thereby causing the diagnosis support server device 30 to perform. Obtain diagnostic support information. Then, the mobile communication terminal device 10 expresses the presence or absence of cataract in the eye E to be inspected and its severity (specifically, the severity of cataract by a numerical value of 1 to 5) based on the diagnostic support obtained in this way. Information on (indexes such as NS grade), treatment methods, necessity of surgery, etc. are displayed on the display unit. When the diagnostic support information is generated in the XML format, the existing browser application can be used as a substitute for the diagnostic application.
  • the close-up photography device 20 is an optical device that is detachably attached to the mobile communication terminal device 10, and is a slit that generates slit light SL based on at least the light emitted from the light source 92 of the mobile communication terminal device 10. It has a light forming member 61 and a convex lens member 93 that collects light including reflected light RL in the eye E to be inspected of the slit light SL on a camera lens 91 for photographing. Then, the proximity photographing device 20 generates slit light SL as observation light based on the light source light (white diffused light) emitted from the light source 92, and also includes light including the reflected light RL of the slit light SL in the eye E to be inspected.
  • the light source light white diffused light
  • the mobile communication terminal device 10 captures a moving image of the eye E to be inspected including a diagnostic frame image based on the light focused on the photographing camera lens 91 by the function of the close-up photographing device 20.
  • the mobile communication terminal device 10 that is, the smart eye camera
  • the close-up photography device 20 realizes the same function as the existing ophthalmic slit lamp microscope as a whole.
  • the diagnosis support server device 30 is a computer system provided on the network N, and is based on the knowledge for extracting diagnosticable frame images acquired by machine learning or data mining (hereinafter referred to as "knowledge for extraction").
  • a diagnosticable frame included in the moving image data uploaded from the mobile communication terminal device 10 is extracted.
  • the extraction knowledge of the present embodiment corresponds to, for example, the "first knowledge” of the present invention.
  • the specific acquisition method of the knowledge for extraction is arbitrary.
  • the judgment as to whether or not each frame image included in the moving image data corresponds to the diagnoseable frame image can be determined only by whether or not the above conditions 1 to 3 are satisfied. Therefore, even a non-ophthalmologist can determine whether or not the image corresponds to a diagnostic frame image.
  • an arbitrary person uses the annotation terminal device 40 to extract a diagnostic frame image for cataract from the moving image data uploaded from the mobile communication terminal device 10, and the extracted frame image is extracted. It may be configured to acquire the knowledge for extraction by executing at least one of machine learning and data mining in the diagnosis support server device 30 while using the teacher data.
  • the diagnostic support server device 30 of the present embodiment has diagnostic knowledge for estimating the state of cataract in the eye E to be inspected based on the diagnosticable frame extracted from the moving image data based on the extraction knowledge. ing. Then, the diagnostic support server device 30 is based on the diagnosticable frame image extracted from the moving image data and the diagnostic knowledge, and is an index indicating the presence or absence of cataract in the eye E to be examined and the severity of cataract such as NS grade, a treatment method, and surgery. It estimates the necessity and the like, generates diagnostic support information including the estimation result, and distributes it to the mobile communication terminal device 10 from which the moving image data is uploaded.
  • the diagnostic knowledge of the present embodiment constitutes, for example, the "second knowledge" of the present invention.
  • the method of causing the diagnosis support server device 30 to acquire the knowledge for diagnosis is arbitrary.
  • an electronic medical record management computer installed in an ophthalmic facility (not shown) is connected to the diagnosis support server device 30 directly or via network N, and the diagnosis result of a patient who visits the ophthalmic facility and an image taken at the ophthalmic facility.
  • this method it is necessary to equip a computer for managing electronic medical records in an ophthalmic facility with a special function.
  • the diagnosis support server device 30 manages the data acquired from each management computer. It becomes difficult to reduce the initial cost. Furthermore, in this case, regarding the use of electronic medical record information, it is necessary for the ophthalmic facility side to obtain the consent of the patient in advance and strictly manage the personal information, which reduces the running cost during system operation. It also becomes difficult.
  • the diagnosis support server device 30 is capable of diagnosing a frame image from the moving image data each time the moving image data captured by the mobile communication terminal device 10 is uploaded from the moving body communication terminal device 10. Is extracted, the diagnosticizable frame image is transmitted to the annotation terminal device 40, and the diagnosticable frame image is displayed on the annotation terminal device 40.
  • Step 2 Based on the diagnosticable frame image displayed on the annotation terminal device 40 by three doctors who will be annotators, the presence or absence of cataract, its severity (index such as NS grade), treatment method, and surgery, respectively. Diagnosis regarding necessity and the like is performed, and the diagnosis result is input to the annotation terminal device 40.
  • the annotation terminal device 40 generates diagnostic result information indicating a diagnostic result based on the input of a doctor, and tags the corresponding diagnosticable frame image with the diagnostic result information to make each diagnosticable frame image.
  • the teacher data corresponding to is created and transmitted to the diagnosis support server device 30.
  • the diagnosis support server device 30 accumulates the teacher data (that is, the tagged diagnostic frame image) acquired from the annotation terminal device 40 each time. Then, when the number of accumulated teacher data exceeds the number of samples ⁇ (hereinafter, simply referred to as “ ⁇ ”) required for acquiring diagnostic knowledge, the diagnostic support server device 30 collects the accumulated teacher data. Use to perform at least one of machine learning and data mining to acquire diagnostic knowledge.
  • the doctor acting as an annotator relates to cataract based on the diagnosticable frame image extracted by the diagnostic support server device 30 without performing the work of finding the diagnosticable frame image from the moving image data. Since it is sufficient to make a diagnosis, it is possible to reduce the workload of the doctor when acquiring diagnostic knowledge. Further, since it is not necessary to include the patient-identifiable information in the moving image data uploaded from the mobile communication terminal device 10, the cost for protecting personal information can be reduced according to this method. Further, since it is sufficient to prepare at least one annotation terminal device 40, the system can be constructed at low cost.
  • the diagnostic knowledge includes knowledge obtained from the diagnosis results of a doctor based on a diagnosticable frame image extracted from moving image data, as well as knowledge described in, for example, medical books, medical encyclopedias, and other documents, or It may be configured to include medical knowledge disclosed on the Internet.
  • a configuration estimated from knowledge of medical books and the like can be adopted according to the estimated NS grade of cataract and the like.
  • diagnosis support information is delivered from the diagnosis support server device 30, in the mobile communication terminal device 10, the presence or absence of cataract in the eye E to be examined, an index such as NS grade, a treatment method, and surgery are performed based on the diagnosis support information.
  • Information such as necessity is displayed on the display unit, and the user can view the information.
  • the annotation terminal device 40 is, for example, a computer such as a PC (Personal Computer) or a tablet-type information communication terminal device, and is composed of a display unit (not shown), a touch panel provided on the display unit, a mouse, a keyboard, and the like. It has an operation unit and is connected to the diagnosis support server device 30 directly or via the network N.
  • the annotation terminal device 40 displays a diagnostic frame image extracted by the diagnostic support server device 30. Further, the annotation terminal device 40 displays a GUI for a doctor acting as an annotator to input a diagnosis result based on a diagnostic frame image, and when the doctor inputs the diagnosis result, the diagnosis result corresponding to the input diagnosis result is displayed. Generate information. Then, the annotation terminal device 40 creates teacher data by tagging the corresponding diagnoseable frame image with the diagnosis result information and transmits it to the diagnosis support server device 30.
  • the number of annotation terminal devices 40 is arbitrary, and may be provided for the number of annotators (a doctor when acquiring diagnostic knowledge, an arbitrary person when acquiring extraction knowledge), and one annotation terminal device. The 40 may be reused by a plurality of annotations.
  • FIGS. 2 to 7 are diagrams showing the configuration of the close-up photography apparatus 20A of the present embodiment.
  • the close-up photography device 20A of the present embodiment has a configuration in which it is detachably attached to the mobile communication terminal device 10, and includes a housing 80 having a rectangular parallelepiped outer shape. ..
  • the inside of the housing 80 is hollow, and as shown in FIGS. 2 and 4, the housing 80 is composed of an outer wall portion 81 and a front plate 90.
  • the outer wall portion 81 has a front wall 82, a back wall 83, a left side wall 84, a right side wall 85, an upper wall 86, and a lower wall 87.
  • the lower wall 87 is formed with an opening (not shown) into which the mobile communication terminal device 10 is inserted.
  • the opening is composed of through holes formed in the left-right direction from the side of the left side wall 84 to the side of the right side wall 85.
  • the upper end of the mobile communication terminal device 10 provided with the out-camera module is inserted into the opening, and the opening width in the front-rear direction is slightly wider than the thickness of the mobile communication terminal device 10 and in the left-right direction.
  • the opening width in the above is slightly wider than the width of the mobile communication terminal device 10.
  • the front direction is the direction from the back wall 83 to the front wall 82, and the opposite direction is the rear direction.
  • the left direction is the direction from the right side wall 85 to the left side wall 84, and the opposite direction is the right direction.
  • the upward direction is defined as the direction from the lower wall 87 to the upper wall 86, and the opposite direction is defined as the downward direction.
  • the front wall 82 has a peripheral edge portion in which the upper edge, the lower edge, and the right edge are convex in a frame shape in the front direction.
  • a front plate 90 having a width wider than the width of the peripheral portion is attached to the peripheral portion.
  • the front plate 90 is a frame-like body having an open left edge 90a, a right edge 90b, an upper edge 90c, and a lower edge 90d, and has an open central portion.
  • the width of the front plate 90 is wider than that of the peripheral edge of the front wall 82. Therefore, the front plate 90 is provided so as to protrude inside the peripheral edge portion.
  • the protruding portion functions as an upper and lower rail, and the plate-shaped color filter member 97 and the plate-shaped convex lens member 93 are slidably fitted to the upper and lower rails.
  • the gap between the front wall 82 and the protruding portion of the front plate 90 is slightly larger than the thickness of the plate-shaped color filter member 97 and the plate-shaped convex lens member 93, and is formed in a slidable dimension.
  • the opening is the left edge portion 90a, but the opening may be the right edge portion 90b.
  • the front wall 82 is provided with two holes.
  • One hole 89 is provided at a position corresponding to the camera lens 91 for photographing of the mobile communication terminal device 10, and the other hole 88 is a position corresponding to the light source 92 of the mobile communication terminal device 10. It is provided in.
  • the light source light emitted from the light source 92 of the mobile communication terminal device 10 can be emitted in the forward direction, and the return light (return light) (return light) is generated by the photographing camera lens 91 of the mobile communication terminal device 10.
  • the color filter member 97 is detachably provided on the light source 92.
  • the color filter member 97 is a plate-shaped member, and as illustrated in FIGS. 3 (A) to 3 (C) described below, the color filter member 97 is slid and attached / detached on the light source 92.
  • the color filter member 97 is preferably a blue filter that converts white light emitted by the light source 92 of the mobile communication terminal device 10 into blue light.
  • a blue filter that converts white light into blue light having a wavelength of 488 nm is preferable.
  • a colored acrylic resin can be adopted.
  • the hole 98 provided in the color filter member 97 is a hole for hooking a finger when sliding the color filter member 97. It does not necessarily have to be a hole, but may be a protrusion as long as it is for sliding with a finger.
  • the light source 92 By sliding the color filter member 97 in the left-right direction, the light source 92 can be covered or not covered. That is, by sliding the color filter member 97 and the convex lens member 93, the color filter member 97 is attached / detached from above the light source 92, or the convex lens member 93 is attached / detached from above the camera lens 91 for photography. In the present embodiment, by removing the color filter member 97 from the light source 92, the white diffused light as the light source light emitted from the light source 92 passes through the hole 88 as it is, and the eye to be inspected E as the observation light.
  • the light including the reflected light RL is received by the image sensor through the camera lens 91 for photographing, so that the eyelid, the eye surface, the cornea and the conjunctivium of the eye E to be inspected can be observed and photographed. .. Further, by covering the light source 92 with the color filter member 97, it is possible to observe and photograph the scratches generated on the cornea and the conjunctiva. For example, by instilling a fluorescein solution as a contrast agent on the eye and adopting a blue-free filter for biostaining test as a color filter member 97, the light source light is changed to blue light and the eye E to be inspected is irradiated as observation light.
  • the scratches on the cornea and conjunctival were changed to green, and the green light was focused on the camera lens 91 for imaging by the convex lens member 93 and received by the image sensor, thereby forming on the cornea and condyle of the eye E to be inspected. You can observe and photograph the scratches.
  • the method of estimating the state of the disease in the cornea and conjunctiva of the eye E to be inspected using blue light and the state estimation of the anterior segment disease using white diffused light will be described in detail in the section of modified examples.
  • the convex lens member 93 is detachably provided on the camera lens 91 for photographing.
  • the convex lens member 93 is a plate-shaped member, and as illustrated in FIGS. 3A to 3C, the convex lens member 93 is slid and attached / detached on the camera lens 91 for photography.
  • the convex lens member 93 includes a convex lens 96 that collects light on a camera lens 91 for photographing a mobile communication terminal device 10.
  • the convex lens 96 is arbitrarily selected in consideration of the focal length.
  • the convex lens 96 is mounted in a hole 94 provided in the convex lens member 93.
  • the convex lens 96 can focus on the tissue to be observed in the eye E to be inspected, correct the blurring of the image, and clearly observe and take an image of the tissue to be observed in the eye E to be inspected.
  • the hole 95 provided in the convex lens member 93 is a hole for hooking a finger when sliding the convex lens member 93, and by sliding the convex lens member 93 and arranging the hole 95 on the light source 92 (FIG. 3 (FIG. 3). C)), it also acts to improve the directivity of the light emitted from the light source 92.
  • FIG. 3 shows a form in which the color filter member 97 and the convex lens member 93 are slid.
  • FIG. 3A shows a form in which the convex lens 96 of the convex lens member 93 is mounted on the camera lens 91 for photographing, and the color filter member 97 is slid to the right and removed from the light source 92.
  • FIG. 3B shows a form in which the convex lens 96 of the convex lens member 93 is mounted on the camera lens 91 for photographing, and the color filter member 97 is slid to the left and mounted on the light source 92.
  • FIG. 3A shows a form in which the convex lens 96 of the convex lens member 93 is mounted on the camera lens 91 for photographing, and the color filter member 97 is slid to the right and removed from the light source 92.
  • FIG. 3B shows a form in which the convex lens 96 of the convex lens member 93 is mounted on the camera lens 91
  • 3C shows a form in which the color filter member 97 is slid to the right and removed from the light source 92, and the convex lens 96 of the convex lens member 93 is removed from the camera lens 91 for photography.
  • the hole 95 of the convex lens member 93 is arranged on the light source 92, and the white diffused light as the light source light emitted from the light source 92 passes through the hole 88 and the hole 95.
  • the directivity is adjusted when the light source is used, and the light is emitted in the forward direction as observation light.
  • the slit light forming member 61 is a member that uses the cylindrical lens 62 to convert white diffused light emitted from the light source 92 of the mobile communication terminal device 10 into slit light SL. ..
  • the means for attaching and detaching the slit light forming member 61 is not particularly limited, but it is preferable that the slit light forming member 61 is detachably provided on the upper and lower rails on which the color filter member 97 and the convex lens member 93 are slid.
  • the slit light forming member 61, the color filter member 97, the holes 88 and 95 of the present embodiment constitute the "observation light irradiation member" of the present invention.
  • the slit light SL formed by the cylindrical lens 62 is irradiated to the eye E to be inspected by the slit light forming member 61, and the light including the reflected light RL is emitted by the convex lens member 93 to the camera lens for photographing of the mobile communication terminal device 10.
  • the mobile communication terminal device 10 that is, the smart eye camera
  • the close-up photography device 20 of the present embodiment can realize the same function as the slit lamp microscope for ophthalmology as a whole.
  • the main body 61'of the slit light forming member 61 has a first reflection mirror 65 that reflects the light from the light source 92 and a first reflection mirror 65 that reflects the light reflected by the first reflection mirror 65. It has a two-reflection mirror 66 and a slit portion 67 through which the light reflected by the second reflection mirror 66 passes. The light that has passed through the slit portion 67 becomes the slit light SL in the cylindrical lens 62.
  • the slit light SL is irradiated to the eye E to be inspected, and the light including the reflected light RL is focused by the convex lens member 93 on the camera lens 91 for photographing of the mobile communication terminal device 10, and the image sensor of the camera module. It is possible to observe and photograph each tissue of the anterior segment of the eye such as the eyelid, the eye surface, the cornea, the conjunctival, the crystalline lens and the anterior chamber of the eye E in detail, and also to observe and photograph the fundus tissue.
  • the cylindrical lens 62 is not particularly limited, but can be selected and adopted from various cylindrical lenses.
  • the width of the slit portion 67 is preferably a narrow slit of about 1 mm, and the range is preferably formed with a width of about 0.7 to 1.5 mm.
  • the close-up imaging device 20A of the present embodiment having the above configuration is equipped with (a) a slit light forming member 61 and a convex lens member 93, and by removing the color filter member 97, the anterior eye portion of the eye E to be inspected (particularly). , Crystal and anterior chamber tissues) can be observed and photographed. (B) Further, by attaching only the convex lens member 93 and removing the slit light forming member 61 and the color filter member 97, each tissue of the eyelid, the eye surface, the cornea, and the conjunctiva of the eye E to be inspected can be observed and photographed.
  • the crystalline lens tissue and the anterior chamber tissue can be observed and photographed in detail while using the slit light SL generated based on the light source light emitted from the light source 92 as the observation light.
  • the eyelid, the eye surface, the cornea and the conjunctiva of the eye E to be inspected can be observed and photographed in detail by using the light source light (white diffused light) or the slit light SL that has passed through the hole 88 as it is as the observation light.
  • the description will be made assuming that the crystalline lens tissue of the eye E to be inspected is observed and photographed by using the mobile communication terminal device 10 (smart eye camera) equipped with the device 20.
  • the proximity imaging device 20A of the present embodiment can observe the fundus tissue (retina) of the eye E to be inspected with the slit light forming member 61 and the convex lens member 93 attached, but the details of the fundus tissue are detailed.
  • the close-up imaging device 20A of the present embodiment can realize the same function as an expensive slit lamp microscope for ophthalmology only by being attached to the mobile communication terminal device 10 such as a conventional smartphone.
  • the mobile communication terminal device 10 such as a conventional smartphone.
  • detailed images of the anterior chamber tissue such as the eyelid, the ocular surface, the cornea, the conjunctiva, the anterior chamber, and the crystalline lens of the eye E to be inspected are taken at low cost and easily, and a moving image including a diagnosticable frame image for cataract is taken. Can be easily photographed.
  • the items to be examined were the presence or absence of eyelid / anterior segment disease, the severity of cataract, the presence / absence of eyelid / anterior segment disease, the severity of cataract, the laterality, the number of seconds taken, and the like.
  • the state of dry eye that developed in the eye E to be inspected was also observed, and this point will be described in detail in the section of modified examples.
  • the close-up photography device 20A is provided with a convex lens 96 (focal length: 10 to 30 mm, magnification: 20 times) that can be attached and detached on the photography camera lens 91 of the mobile communication terminal device 10 for focus adjustment.
  • the convex lens 96 is not particularly limited, but in this verification example, TK-12P (manufactured by TSK Co., Ltd.) was used.
  • the illuminance of the digital lux illuminator (model name: LX-1010B, Zhangzhou Weihua Electrical Co. Ltd.) of the mobile communication terminal device 10 used this time was 8000 lux.
  • a close-up photography device 20A designed for iPhone 7 registered trademark
  • FIG. 8 shows an example of an image actually taken by the mobile communication terminal device 10 equipped with the close-up photography device 20A shown in FIGS. 5 to 7 for the 58 eyes.
  • evaluation of various anterior segment diseases such as pterygium, corneal opacity, epidemic keratoconjunctivitis, and intraocular lens eye could be evaluated in all cases.
  • (A) is corneal opacity
  • (B) is after cataract surgery
  • C) epidemic conjunctivitis
  • D) is no cataract
  • (E) is moderate cataract
  • (F) severe cataract. It is a photographed image of.
  • FIGS. 9 and 10 show a comparison result of the diagnosis result of cataract by the mobile communication terminal device 10 equipped with the close-up photography device 20A shown in FIGS. 5 to 7 and the diagnosis result by the existing slit lamp microscope.
  • the vertical axis is the NS grade indicating the severity of cataract
  • the horizontal axis is the evaluation result of the existing device
  • SEC1 to 3 are the close-up photography devices 20A shown in FIGS. 5 to 7. This is the result of diagnosis by three ophthalmologists based on the image taken by the mobile communication terminal device 10 equipped with the above.
  • FIG. 10 is a diagram showing the correlation between the diagnosis result by the mobile communication terminal device 10 equipped with the close-up photography device 20A by each ophthalmologist and the diagnosis result by the existing slit lamp microscope for ophthalmology. A correlation was observed between the mobile communication terminal device 10 equipped with the close-up photography device 20A and the existing ophthalmic slit lamp microscope, and a high correlation was also observed for the left and right eyes. These results are sufficient objectivity and reproducibility for the mobile communication terminal device 10 equipped with the close-up photography device 20A shown in FIGS. 5 to 7 to take an observation phenotype of the anterior segment tissue of the eye E to be inspected. Indicates that you have.
  • the mobile communication terminal device 10 equipped with the close-up imaging device 20A of the present embodiment can perform various symptoms of the anterior segment of the eye E to be examined, which is comparable to the existing slit lamp microscope for ophthalmology. It was confirmed that observation could be performed.
  • a moving image of the crystalline lens tissue of the eye E to be inspected is photographed by using the mobile communication terminal device 10 in the state where the proximity photographing device 20A described above is attached, and the photographed moving image is taken.
  • the state of cataract in the eye E to be inspected is estimated based on the image, and diagnostic support information is generated.
  • cataracts include diseases such as atopic cataract and cortical cataract.
  • moving images including a frame image that can be diagnosed can be taken by the same method as for nuclear sclerosis.
  • the diagnostic support system 1 of the present embodiment is a mobile communication terminal device 10 (that is, a mobile communication terminal device 10) equipped with a close-up photography device 20A that can be manufactured at low cost without using an existing expensive slit lamp microscope for ophthalmology.
  • Smart eye camera can be used to capture a moving image including a diagnostic frame capable of diagnosing the cataract state in the eye E to be inspected, and the state of the cataract in the eye E to be inspected can be estimated.
  • the smart eye camera of the present embodiment can capture a moving image including a diagnosticable frame image basically by the same operation as a device such as a conventional smartphone.
  • the state of cataract in the eye E to be examined can be appropriately estimated.
  • the eye to be inspected E that is, the eye to be checked (for example, the right eye)
  • the moving image of the eye to be inspected E (right eye) may be taken by the smart eye camera.
  • the close-up photography device 20A is configured to use the out-camera module of the mobile communication terminal device 10, when actually taking a picture, both eyes are opened in front of the mirror.
  • the image being photographed displayed on the display unit of the mobile communication terminal device 10 that is, the image in which the right eye is reflected
  • the mirror is projected onto the mirror.
  • the left eye that is, the eye opposite to the eye to be examined E
  • the right eye camera the right eye of oneself. It suffices to take a moving image of.
  • FIGS. 11 and 12 are block diagram showing a configuration example of the diagnosis support server device 30 of the present embodiment
  • FIG. 12 is an image diagram illustrating a process executed by the diagnosis processing unit 350 of the present embodiment.
  • the diagnostic support server device 30 of the present embodiment controls the communication control unit 310 which is communication-connected to the network N, the ROM / RAM 320 which functions as various memories, the storage device 330, and the entire device.
  • the state of cataract in the eye E to be inspected is estimated, (4) diagnostic support information is generated based on the estimation result, and (5) the generated diagnostic support information is distributed to the corresponding mobile communication terminal device 10.
  • It has a diagnostic processing unit 350 to execute.
  • the above-mentioned parts are connected to each other by the bus B, and data transfer between each component is executed.
  • the communication control unit 310 is a predetermined network interface, and is communicated and connected to the mobile communication terminal device 10 via the network N. Further, the communication control unit 310 is connected to the annotation terminal device 40 directly or via the network N, and exchanges various data between the mobile communication terminal device 10 and the annotation terminal device 40.
  • the ROM / RAM 320 stores various programs necessary for driving the diagnostic support server device 30.
  • the ROM / RAM 320 is also used as a work area when various processes are executed.
  • the storage device 330 is composed of an HDD (Hard Disk Drive) or an SSD (Solid State Drive).
  • the storage device 330 includes (a1) a program storage unit 331, (a2) an extraction knowledge storage unit 332, (a3) a teacher data storage unit 333, and (a4) a diagnostic knowledge storage unit 334. It is provided.
  • the extraction knowledge storage unit 332 and the diagnostic knowledge storage unit 334 of the present embodiment constitute, for example, the "first storage means” and the “second storage means” of the present invention, respectively.
  • BIOS Basic Input Output System
  • OS Operating System
  • a diagnostic frame image extraction program for executing a process of extracting a diagnostic frame image based on knowledge
  • (b3) a diagnostic support information generation program for executing a process of generating and distributing diagnostic support information based on a diagnosticable frame image and diagnostic knowledge is stored.
  • the knowledge storage unit 332 for extraction is required to extract a frame image satisfying all of the above conditions 1 to 3 as knowledge for extracting a diagnosable frame image capable of diagnosing the state of cataract in the eye E to be examined.
  • Knowledge is stored in advance.
  • the specific acquisition method and data format of the extraction knowledge in the present embodiment are arbitrary.
  • a convolutional neural network also referred to as a convolutional neural network
  • the weight and bias parameters obtained by inputting any diagnosticable frame image extracted by the annotator as teacher data may be acquired as extraction knowledge and stored in the extraction knowledge storage unit 332.
  • the teacher data storage unit 333 stores the teacher data acquired from the annotation terminal device 40 each time the moving image data is uploaded from the mobile communication terminal device 10.
  • the diagnostic knowledge storage unit 334 stores diagnostic knowledge for estimating the presence or absence of cataract in the eye E to be inspected, NS grade, treatment method, necessity of surgery, and the like.
  • the server management control unit 340 is mainly composed of a CPU, and integrates and controls each part of the diagnosis support server device 30 by executing a program such as an OS or a BIOS.
  • the diagnostic processing unit 350 is configured by using the same CPU as the CPU that realizes the server management control unit 340, or is configured by a CPU that is independent of the server management control unit 340. Then, the diagnostic processing unit 350 executes the program stored in the program storage unit 331 under the control of the server management control unit 340 to obtain (c1) the moving image data acquisition unit 351 and (c2) the diagnostic enable frame.
  • the moving image data acquisition unit 351 acquires the moving image data obtained by photographing the eye E to be examined from the mobile communication terminal device 10 while interlocking with the communication control unit 310, and the acquired moving image data can be diagnosed as a frame extraction unit. Input to 352 (step [1] in FIG. 12).
  • the moving image data acquisition unit 351 of the present embodiment is linked with the communication control unit 310 to form, for example, the "acquisition means" of the present invention.
  • the diagnosticable frame extraction unit 352 is constructed as, for example, a convolutional neural network using a CPU. Then, the diagnosable frame extraction unit 352 executes the diagnosable frame image extraction process shown in FIG. 13 based on the moving image data and the extraction knowledge input from the moving image data acquisition unit 351 according to the diagnosable frame image extraction program. Then, a diagnosticable frame image is extracted from the moving image data (step [2] in FIG. 12). Then, the diagnosticable frame extraction unit 352 inputs the extracted diagnosticable frame image to each unit of the diagnostic knowledge acquisition unit 353, the health state estimation processing unit 354, and the diagnostic support information generation unit 355 (FIG. 12 step [3]). ).
  • the method in which the diagnosticable frame extraction unit 352 inputs the diagnosticable frame image to the respective units 353, 354 and 355 is arbitrary, and even if the diagnosticizable frame extraction unit 352 directly inputs to the respective units 353, 354 and 355. good.
  • a configuration is adopted in which the diagnosticable frame image extracted by the diagnosticable frame extraction unit 352 is once stored in the ROM / RAM 320, and each unit 353, 354 and 355 reads out from the ROM / RAM 320 as needed. I will explain it as something to do.
  • the number of frame images constituting the moving image data is arbitrary.
  • the diagnosticable frame extraction unit 352 of the present embodiment constitutes, for example, the "first extraction means" of the present invention.
  • FIG. 13 is an image diagram illustrating a diagnosticable frame image extraction process executed by the diagnosticable frame extraction unit 352 of the present embodiment according to the diagnosticizable frame image extraction program.
  • the diagnosticable frame extraction unit 352 determines whether or not the eye E to be inspected is reflected in each frame image included in the input moving image data. Then, when the eye E to be inspected is not reflected, the diagnosticable frame extraction unit 352 classifies the frame image into the other (Other) class. Since the eye E to be examined is not shown in the frame image classified into the "Other" class, the diagnosticable frame extraction unit 352 thins out the frame, and for each of the remaining frame images, the crystalline lens tissue of the slit light SL. It is determined whether or not at least a part of the crystalline lens tissue in the focused state is reflected together with the reflected light RL in the above.
  • the diagnosticable frame extraction unit 352 classifies only the frame image in which at least a part of the crystalline lens tissue in focus with the reflected light RL is reflected into the diagnosticable (Diagnosable) class. On the other hand, the diagnosticable frame extraction unit 352 is out of focus on another frame image (that is, a frame image in which at least a part of the crystalline lens tissue is not reflected together with the reflected light RL in the crystalline lens tissue of the slit light SL or the crystalline lens tissue. (Frame image) is classified into the eye (Eye) class.
  • FIG. 13 shows an example in which frames 1 and 2 are classified into the “Other” class, frames 3, 4 and 7 are classified into the “Eye” class, and frames 5 and 6 are classified into the “Diagnosable” class based on the above conditions. Shown.
  • the diagnosticable frame extraction unit 352 has a probability (or likelihood) of each frame image included in the moving image data corresponding to each class of "Other”, “Eye”, and “Diagnosable” as shown in FIG. ) Is calculated. Then, the diagnosticable frame extraction unit 352 is configured to classify which class of "Other”, “Eye”, and “Diagnosable” the frame image corresponds to based on the calculated corresponding probability.
  • the probabilities corresponding to each class may be calculated for all the frame images included in the moving image data. However, if the corresponding probability is calculated for all frame images, the processing load on the diagnosticable frame extraction unit 352 may increase. Therefore, in the present embodiment, the tissue name is labeled in advance for the tissue that is in focus in each frame image included in the moving image data, and the crystalline lens tissue is formed based on the label attached to each frame image. We decided to adopt a configuration in which only the frame images that are in focus are extracted and the probability of corresponding to each class is calculated for each of the extracted frame images.
  • the diagnostic support server device 30 of the present embodiment can thin out the frame images that are out of focus on the crystalline lens tissue in advance and extract the diagnosticable frame images from the remaining frame images.
  • the processing load of the diagnosticable frame image extraction process can be reduced, the image classification problem at the time of extracting the diagnosticable frame image can be simplified, and the accuracy / recall rate at the time of extracting the diagnosticable frame image can be improved.
  • the specific method for labeling the tissue name in focus on each frame image is arbitrary.
  • the diagnosticable frame extraction unit 352 is equipped with a standard label engine for eye tissue. However, this standard label engine may be used to label the organization name on the organization that is in focus in each frame image.
  • the diagnosticable frame extraction unit 352 is configured to perform multi-labeling for each pixel in each frame image to label the tissue name reflected in the pixel.
  • the specific criteria for classifying each frame image into each class based on the corresponding probabilities calculated by the diagnosticable frame extraction unit 352 are arbitrary. For example, the probabilities corresponding to each of the three classes are compared. Then, it may be classified into the class having the highest applicable probability, or it may be classified into the class in which the applicable probability exceeds a predetermined threshold value (for example, 60%).
  • the diagnosticable frame extraction unit 352 extracts the diagnosticable frame image from all the frame images included in the moving image data based on the calculated probability.
  • the specific criteria for the diagnostic frame extraction unit 352 to extract the diagnostic frame image based on the calculation probability are arbitrary. For example, all the frame images classified into the "Diagnosable" class (for example, frames 5 and 6 in FIG. 13) may be uniformly extracted as a diagnosticable frame image, and the probability of falling into the "Diagnosable" class is predetermined. A frame image exceeding the threshold value (for example, 60%) may be extracted as a diagnosticable frame image.
  • a predetermined number of high-order frame images having a high probability of falling under the "Diagnosis" class for example, a high-ranking number of frames having a high hitting probability or a high-ranking number having a high hitting probability.
  • % Frame will be described as adopting a configuration for extracting as a diagnosticable frame image.
  • the diagnosticable frame extraction unit 352 corresponds the extracted diagnosticable frame image with the probability that the diagnosticizable frame image corresponds to the "Diagnosable" class. Attach and store in ROM / RAM 320.
  • the health condition estimation processing unit 354 later estimates the presence or absence of cataract in the eye E to be inspected, the NS grade, etc. based on each diagnosticable frame image, the probability that each diagnosticable frame image corresponds to the "Diagnosable" class. Can be identified.
  • the diagnostic knowledge acquisition unit 353 is constructed as, for example, a convolutional neural network using a CPU. Then, the diagnostic knowledge acquisition unit 353 transmits the diagnosticable frame image extracted by the diagnosticable frame extraction unit 352 to the annotation terminal device 40 according to the diagnostic knowledge acquisition program, thereby causing the teacher data from the annotation terminal device 40. Is acquired and stored in the teacher data storage unit 333. Further, when the number of teacher data stored in the teacher data storage unit 333 becomes ⁇ or more, the diagnostic knowledge acquisition unit 353 executes at least one of machine learning and data mining based on the teacher data to perform diagnostic knowledge. Is acquired and stored in the diagnostic knowledge storage unit 334.
  • the specific method and the specific content of the diagnostic knowledge when the diagnostic knowledge acquisition unit 353 acquires the diagnostic knowledge are arbitrary.
  • the weight and bias parameters obtained by inputting the teacher data accumulated in the teacher data storage unit 333 to the convolutional neural network constituting the diagnostic knowledge acquisition unit 353 are acquired as diagnostic knowledge.
  • the parameter may be stored in the diagnostic knowledge storage unit 334.
  • the diagnostic knowledge acquisition unit 353 of the present embodiment in conjunction with the communication control unit 310 and the annotation terminal device 40, constitutes, for example, the "learning means" of the present invention.
  • the specific number of ⁇ in this embodiment is arbitrary. However, in order to acquire diagnostic knowledge, it is necessary to use at least several hundred teacher data as a sample.
  • a plurality of diagnosticable frame images are extracted from the moving image data of 1, and each diagnosticable frame is extracted. Since the teacher data is created for each image, it is possible to create a large amount of teacher data from a small amount of moving image data and acquire diagnostic knowledge. For example, when 1000 teacher data are required as ⁇ and 5 frames of diagnosticable frame images are extracted from 1 moving image data, 1000 teacher data need to be created from 200 moving image data. You can acquire various diagnostic knowledge.
  • the health state estimation processing unit 354 is constructed as, for example, a convolutional neural network using a CPU. Then, the health state estimation processing unit 354 is based on the diagnostic knowledge stored in the diagnostic knowledge storage unit 334 and the diagnosticable frame image extracted by the diagnosticable frame extraction unit 352 according to the health state estimation program. The presence or absence of cataracts in the eye E to be inspected, NS grade, etc. are estimated.
  • the health state estimation processing unit 354 of the present embodiment constitutes, for example, the "estimation means" of the present invention.
  • the health state estimation processing unit 354 is based on each of the plurality of diagnosticable frame images extracted by the diagnosticable frame extraction unit 352, and is NS grade or the like for each diagnosticable frame image. (See FIG. 12). Then, the health state estimation processing unit 354 estimates the most probable state of cataract in the eye E to be inspected based on the value of the NS grade estimated based on each diagnosticable frame image. For example, in FIGS. 12 and 13, frames 5 and 6 included in the moving image data are extracted as diagnosticable frame images, and NS grades of “1.8” and “2.3” are estimated for each frame. In this case, an example is shown in which the health condition estimation processing unit 354 estimates the NS grade value of "2.1" as the most plausible health condition of the eye E to be inspected based on these estimation results. There is.
  • the health condition estimation processing unit 354 executes ensemble machine learning based on the NS grade estimated value corresponding to each diagnoseable frame image, and estimates the most probable health state of the eye E to be inspected. It will be explained as.
  • the health state estimation processing unit 354 weights the NS grade estimated value based on each diagnosticable frame image by the probability of corresponding to the "Diagnosable" class calculated by the diagnosticable frame extraction unit 352. Estimate the most plausible health condition of eye E to be examined. For example, when five frame images are extracted as diagnosticable frame images and NS grade estimated values are obtained for each, the health state estimation processing unit 354 [estimated value, probability (Diagnosable)] *. The most plausible health condition of the eye E to be inspected is estimated by regressing the NS grade estimate with 5 as an input.
  • the estimated value based on the diagnoseable frame image with a high probability of falling into the "Diagnosable" class is a diagnosis with a lower probability of hitting.
  • a higher correct answer rate than the estimated value based on the possible frame image can be obtained. Therefore, by weighting the estimated value of the NS grade with the probability corresponding to the "Diagnosable" class calculated for each diagnosticable frame image by the above configuration, the weight of the estimated value having a high correct answer rate is increased, and the weight of the estimated value having a high correct answer rate is increased. It is possible to appropriately estimate the most probable health condition of the patient and improve the reliability of the diagnostic support information.
  • the cataract in the eye E to be inspected is based only on the best frame having the highest probability of falling into the "Diagnosable" class in the diagnosticable frame image extraction process.
  • a configuration for estimating the state may be adopted.
  • the method of estimating the state other than the NS grade is arbitrary, for example, it may be decided by a majority vote, and the estimation result based on the diagnosticable frame image having the highest probability of corresponding to "Diagnosable" is used. You may do so.
  • the diagnosis support information generation unit 355 generates diagnostic support information including the estimation result of the health state of the eye E to be inspected by the health state estimation processing unit 354 by executing the process according to the diagnosis support information generation program.
  • the health state estimation processing unit 354 of the present embodiment constitutes, for example, the “generation means” and the “second extraction means” of the present invention.
  • the diagnostic support information generation unit 355 makes a diagnosis most easily recognizing the state of cataract in the eye E to be examined based on the labeling of the tissue name given by the diagnosticable frame extraction unit 352.
  • the configuration is such that a possible frame image is extracted and diagnostic support information including the diagnosticizable frame image is generated.
  • the diagnostic frame image in which the crystalline lens tissue is most reflected is the image in which the state of cataract is most easily recognized. Therefore, in the present embodiment, the diagnostic support information generation unit 355 has an area of the pixel region in which the crystalline body tissue is reflected based on the diagnosticable frame image in which the tissue name is labeled for each pixel in the diagnosticable frame extraction unit 352.
  • the largest diagnosticable frame image is extracted as a frame image for user presentation (hereinafter, referred to as "presentation frame image"). Then, the diagnosis support information generation unit 355 generates diagnosis support information including the estimation result regarding the state of cataract and the frame image for presentation.
  • diagnosis support system 1 of the present embodiment it is possible to generate diagnosis support information including an image in which the user can easily recognize the state of cataract.
  • diagnosis support information including an image in which the user can easily recognize the state of cataract.
  • the patient's UX can be dramatically improved when the user explains the symptoms to the patient or when the patient himself / herself self-checks his / her eye health condition.
  • the diagnosis support information distribution unit 356 of the present embodiment is linked with the communication control unit 310 to form, for example, the "distribution means" of the present invention.
  • the target to which the diagnostic support information distribution unit 356 distributes the diagnostic support information is not limited to the mobile communication terminal device 10 from which the moving image data is uploaded, and for example, another communication terminal device used by the user (for example, , PC) or a communication terminal device unrelated to the user (for example, a computer system owned by a cataract research institution).
  • FIG. 14 shows the diagnostic processing unit 350 of the present embodiment for diagnosis, which is executed in conjunction with the mobile communication terminal device 10 and the annotation terminal device 40 in accordance with the diagnostic knowledge acquisition program and the diagnostic frame image extraction program. It is a flowchart which shows the knowledge acquisition process.
  • the extraction knowledge storage unit 332 is in a state in which the extraction knowledge necessary for extracting the diagnosticable frame image for cataract is stored in advance.
  • the user removes the color filter member 97 from the close-up photography device 20A constituting the smart eye camera, attaches the convex lens member 93 and the slit light forming member 61, and attaches the close-up photography device 20A. It is assumed that the configuration is as shown in FIGS. 5 to 7.
  • the camera module is activated in the mobile communication terminal device 10 according to the diagnostic application.
  • the mobile communication terminal device 10 along with the image being photographed, "adjust so that the slit light SL hits the black eye portion of the eye to be diagnosed, press the start button, and photograph the eye for about 20 to 40 seconds.
  • you take a picture by slowly scanning the black eye part while gradually changing the angle of irradiation of the slit light the possibility of accurate diagnosis will increase.
  • press the stop button when the shooting is completed.
  • a character string instructing the operation procedure such as "Please press the send button after pressing” and each button of "shooting start”, “stop” and “send” are displayed on the display unit.
  • the operation procedure and each button may be displayed superimposed on the image being photographed, or the photographed image and the display area may be displayed separately. Further, the operation procedure may be guided by voice.
  • the light source 92 emits light in the mobile communication terminal device 10, the slit light SL is emitted in the forward direction, and the camera module. The shooting of the moving image is started at.
  • the slit light The light including the reflected light RL in the eye E to be inspected in the SL is focused on the photographing camera lens 91 by the convex lens member 93 of the proximity photographing apparatus 20A, and the moving image data including a series of frame images as illustrated in FIG. 13 is obtained. Will be generated.
  • a moving image is taken while automatically focusing on the crystalline lens tissue by the autofocus mechanism. It is the same as the mobile communication terminal device of.
  • the user performs an input operation to select a button in the order of a stop button and a send button.
  • the device 10 uploads the captured moving image data to the diagnosis support server device 30 according to the diagnosis application.
  • the diagnosis processing unit 350 extracts a diagnosticable frame.
  • the unit 352 reads the extraction knowledge from the extraction knowledge storage unit 332 (step Sa2). Then, the diagnosable frame extraction unit 352 executes the diagnosable frame image extraction process shown in FIG. 13 according to the diagnosable frame image extraction program, extracts the diagnosable frame image included in the moving image data, and ROM / RAM 320. Is stored in (step Sa3).
  • the diagnostic knowledge acquisition unit 353 transmits all the diagnosticable frame images stored in the ROM / RAM 320 to the annotation terminal device 40 (step Sa4).
  • the form in which the diagnostic knowledge acquisition unit 353 transmits the diagnosticable frame image to the annotation terminal device 40 is arbitrary, and the diagnosticable frame image is broadcast to all the annotation terminal devices 40. It may be configured to transmit all diagnosticable frame images only to a part of the annotation terminal devices 40.
  • the annotation terminal device 40 Upon receiving the diagnostic frame image extracted from the moving image data in this way, the annotation terminal device 40, together with each diagnostic frame image, for example, "Please input the diagnosis result of cataract based on this image.
  • a character string such as "" and a GUI for inputting the diagnosis result are displayed on an unillustrated monitor.
  • the display mode at this time is arbitrary, and all diagnoses are made by dividing the display area of the monitor and displaying a different diagnostic frame image and a GUI for inputting the diagnosis result in each display area in association with each other.
  • the diagnostic screens based on the possible frame images may be displayed at one time, or the diagnosticable frame images may be displayed one by one while switching.
  • the doctor who will be the annotator diagnoses the presence or absence of cataract, NS grade, treatment method, necessity of surgery, etc. based on each diagnoseable frame image displayed, and when the diagnosis result is input according to GUI, it is for annotation.
  • the terminal device 40 generates diagnosis result information in response to an input operation.
  • the annotation terminal device 40 creates teacher data corresponding to each diagnoseable frame image by tagging the corresponding diagnoseable frame image with the diagnosis result information, and uses the created teacher data as a diagnosis support server.
  • the annotation terminal device 40 creates five teacher data corresponding to each diagnostic frame image and creates a diagnostic support server. It is transmitted to the device 30.
  • the diagnostic knowledge acquisition unit 353 receives the received teacher data. After storing the data in the teacher data storage unit 333 (step Sa6), it is determined whether or not the number of teacher data stored in the teacher data storage unit 333 is ⁇ or more (step Sa7). Then, when the number of teacher data is less than ⁇ (step Sa7 “No”), the diagnostic knowledge acquisition unit 353 ends the process.
  • steps Sa1 to 7 are repeatedly executed in the diagnostic processing unit 350, and the teacher data is sequentially accumulated in the teacher data storage unit 333.
  • the teacher data storage unit 333 is trained from the first time to the 199th time of uploading the moving image data. Data is sequentially accumulated and processing ends.
  • the number of teacher data stored in the teacher data storage unit 333 is ⁇ (1000) or more, so that the diagnostic knowledge acquisition unit 353 determines “Yes” in step Sa7. , Acquire diagnostic knowledge by executing at least one of machine learning and data mining based on the teacher data accumulated in the teacher data storage unit 333 (step Sa8), and store it in the diagnostic knowledge storage unit 334 (step Sa9). ), End the process.
  • FIG. 15 is a flowchart showing a diagnostic support information generation process executed by the diagnostic processing unit 350 in conjunction with the mobile communication terminal device 10 according to the diagnostic support information generation program and the diagnostic enable frame image extraction program.
  • the close-up photography device 20A constituting the smart eye camera in a state in which a moving image including a diagnosticable frame image for cataract can be photographed in the same manner as described above. That is, it is assumed that the close-up photography apparatus 20A is configured with the slit light forming member 61 and the convex lens member 93 mounted and the color filter member 97 removed.
  • the diagnostic processing unit 350 will perform the diagnostic processing unit 350.
  • the diagnosable frame extraction unit 352 reads the extraction knowledge from the extraction knowledge storage unit 332 (step Sb2), the diagnosable frame image extraction process is executed according to the diagnosable frame image extraction program.
  • the diagnosticable frame image included in the moving image data is extracted, and the probability that the corresponding diagnosticable frame image corresponds to the "Diagnosable" class is stored in the ROM / RAM 320 in association with each diagnosticable frame image. (Step Sb3).
  • the health state estimation processing unit 354 reads out the diagnostic knowledge (step Sb4) and executes the health state estimation process based on the diagnostic frame image and the diagnostic knowledge stored in the ROM / RAM 320 (step Sb5). , Estimate the state of cataract in the eye E to be inspected. At this time, the health state estimation processing unit 354 estimates the cataract state for each diagnoseable frame image as shown in FIG. Then, the health state estimation processing unit 354 estimates the most probable state of cataract in the eye E to be inspected while weighting the estimation result by probability.
  • the diagnostic support information generation unit 355 extracts the presentable frame image from the diagnosticable frame image stored in the ROM / RAM 320 (step Sb6), and the diagnostic support information including the estimation result in step Sb5 and the presentable frame image. Is generated (step Sb8).
  • the diagnosis support information distribution unit 356 distributes the diagnosis support information generated in this manner to the corresponding mobile communication terminal device 10 (step Sb9), and ends the process.
  • the diagnostic support system 1 of the present embodiment obtains a diagnostic frame image from a moving image taken by a mobile communication terminal device 10 (that is, a smart eye camera) in a state where the close-up photography device 20A is attached. Based on the extracted frame image that can be diagnosed, the presence or absence of cataract in the eye E to be examined, the NS grade, the treatment method, the necessity of surgery, and the like are estimated. Then, the diagnosis support information including the estimation result is generated and distributed to the corresponding mobile communication terminal device 10. With this configuration, the diagnostic support system 1 of the present embodiment is a state of cataract in the eye E to be inspected even when an amateur photographs the eye E to be inspected without using an expensive imaging device for ophthalmic diagnosis. Can be appropriately estimated, and diagnostic support information can be generated and used.
  • the diagnostic support system 1 of the present embodiment only the diagnosticable frame image is extracted from the moving image taken by the mobile communication terminal device 10, and is presented to the annotator (doctor) in the annotation terminal device 40. be able to. Therefore, the diagnostic support system 1 of the present embodiment can create teacher data and acquire diagnostic knowledge while reducing the workload of the doctor when acquiring diagnostic knowledge.
  • the diagnostic support system 1 of the present embodiment is configured to acquire diagnostic knowledge by using a moving image taken by a smart eye camera. Since the moving image is likely to include a plurality of diagnosticable frame images, it is possible to acquire highly accurate diagnostic knowledge even when the number of samples of moving image data is small.
  • the CPU that executes the application program adopts a configuration that realizes the functions of the respective units 351 to 356 that constitute the diagnostic processing unit 350 of the diagnostic support server device 30, but constitutes the diagnostic processing unit 350.
  • the functions of each part can be realized by hardware such as FPGA (Field Programmable Gate Array) and ASIC (Application Specific Integrated Circuit).
  • the diagnosis support server device 30 extracts the diagnosticable frame image from the moving image data (step Sa3 in FIG. 14), and transmits the extracted diagnosticable frame image to the annotation terminal device 40.
  • the teacher data storage unit 333 stores the teacher data acquired from the annotation terminal device 40 (step Sa6).
  • the diagnostic support server device 30 transmits the moving image data uploaded from the mobile communication terminal device 10 to the annotation terminal device 40 as it is (step Sa4), and the doctor's moving image based on the moving image is transmitted from the annotation terminal device 40.
  • the diagnosis result information corresponding to the diagnosis result may be acquired (step Sa5), the teacher data may be created in the diagnosis support server device 30 based on the diagnosis result information, and stored in the teacher data storage unit 333 (step Sa6). ).
  • the annotation terminal device 40 is on a monitor on which the moving image obtained by photographing the eye E to be examined and the GUI for inputting the diagnosis result are not shown based on the moving image data received from the diagnosis support server device 30.
  • the configuration is such that the display is displayed and the diagnosis result based on the moving image is input to the doctor.
  • the diagnosable frame extraction unit 352 executes the diagnosable frame image extraction process, and stores all the frame images classified in the "Diagnosable" class in the ROM / RAM 320 as the diagnosable frame images. Then, the diagnostic knowledge acquisition unit 353 creates teacher data while tagging all the diagnosticable frame images stored in the ROM / RAM 320 with the diagnostic result information acquired from the annotation terminal device 40. It is stored in the teacher data storage unit 333 (step Sa6). In this way, when the number of teacher data accumulated in the teacher data storage unit 333 becomes ⁇ or more (step Sa7), the diagnostic knowledge acquisition unit 353 acquires the diagnostic knowledge (step Sa8). A configuration may be adopted in which the diagnostic knowledge storage unit 334 stores the data. With the configuration of this modification, it is possible to facilitate sample collection at the time of acquiring diagnostic knowledge, and to increase the number of samples to improve the accuracy of diagnostic knowledge.
  • the annotation terminal device 40 is provided separately from the diagnostic support server device 30, but the functions of the annotation terminal device 40 are integrated into the diagnostic support server device 30 to provide the annotation terminal device.
  • the configuration may be such that 40 is omitted.
  • the diagnostic support server device 30 is provided with a monitor, keyboard, mouse, etc. (not shown), and the diagnosticable frame image extracted by the diagnosticable frame extraction unit 352 is displayed on the monitor of the diagnostic support server device 30. Ask the doctor to enter the diagnosis result. Then, the corresponding diagnoseable frame image may be tagged with the diagnosis result information corresponding to the input result, and the teacher data may be created. In this case, the teacher data may be created by having the doctor input the diagnosis result while displaying the moving image as in the first modification.
  • the diagnosis support server device 30 may be connected to an existing computer of an ophthalmic facility (not shown), the computer of the ophthalmic facility may be used as the annotation terminal device 40, and the annotation terminal device 40 may be omitted.
  • the electronic medical record data may be acquired from the computer of the ophthalmic facility and used as additional teacher data.
  • the diagnosticable frame extraction unit 352 labels the tissue in focus in each frame image with the organization name, and extracts the diagnosticable frame image from the frame image after the labeling.
  • the configuration may be such that the labeling process in the diagnosticable frame extraction unit 352 is not performed.
  • an arbitrary diagnosticable frame image may be extracted as the presentation frame image in step Sb6, and the diagnosticable frame image having the highest probability of falling under the "Diagnosable" class is extracted as the presentation frame image. You may try to do it.
  • the diagnostic support information that does not include the frame image for presentation may be generated (step Sb7) and distributed.
  • the diagnosticable frame extraction unit 352 may construct a three-dimensional image based on the moving image data, and estimate the state of cataract in the eye E to be examined based on the constructed three-dimensional image.
  • the slit light SL when used as the observation light, the slit light SL is incident on the eye E to be inspected from an oblique direction, so that the eye E to be inspected is cut in the cross-sectional direction by the slit light SL and the cross-sectional direction of the eye E to be inspected.
  • the structures that are in focus in each frame image have different distances from the camera lens 91 for photographing. Therefore, by stacking the frame images in order according to the focal length, it is possible to construct a three-dimensional image including information on the cross-sectional direction of the anterior segment tissue of the eye E to be inspected.
  • the diagnosticable frame extraction unit 352 constitutes the "three-dimensional image construction means" of the present invention.
  • light other than the slit light SL as the observation light to construct a three-dimensional image including information such as unevenness on the surface of the eye E to be inspected. That is, in this modification, the observation light used for observing the eye E to be inspected is not limited to the slit light SL.
  • the three-dimensional image constructed by this method can be used not only for estimating the cataract state of the eye E to be inspected, but also as a frame image for presentation.
  • the diagnosticable frame extraction unit 352 extracts the diagnosticable frame image in step Sa3 of FIG. 14, constructs a three-dimensional image, and transfers the three-dimensional image to the ROM / RAM 320.
  • the diagnostic knowledge acquisition unit 353 transmits the three-dimensional image stored in the ROM / RAM 320 to the annotation terminal device 40.
  • the annotation terminal device 40 displays the received three-dimensional image and tags the three-dimensional image with the diagnosis result information based on the diagnosis result of the doctor based on the three-dimensional image, thereby performing the teacher data. Is created and transmitted to the diagnosis support server device 30.
  • the diagnostic knowledge acquisition unit 353 of the diagnostic support server device 30 stores the teacher data in the teacher data. It is stored in the unit 333 (step Sa6 in FIG. 14). Every time the moving image data is uploaded from the mobile communication terminal device 10, the diagnosticable frame extraction unit 352 constructs the three-dimensional image, and sequentially stores the teacher data based on the constructed three-dimensional image in the teacher data storage unit. Accumulate in 333. Then, when the number of teacher data stored in the teacher data storage unit 333 becomes ⁇ or more (step 14 Sa7 “Yes” in FIG.
  • the teacher data stored in the teacher data storage unit 333 that is, based on the diagnosis result information.
  • the diagnostic knowledge acquisition unit 353 Based on the tagged 3D image, the diagnostic knowledge acquisition unit 353 performs at least one of machine learning and data mining to acquire diagnostic knowledge of cataract based on the 3D image (step 14 in FIG. 14).
  • Sa8 may be configured to be stored in the diagnostic knowledge storage unit 334 (step Sa9 in FIG. 14).
  • the diagnostic processing unit 350 basically By executing the same diagnostic support information generation process as in FIG. 15, the diagnostic support information is generated (step Sb7 in FIG. 15) and distributed to the corresponding mobile communication terminal device 10 (step Sb8 in FIG. 15). ).
  • the diagnosticable frame extraction unit 352 extracts the diagnosticable frame image from the moving image data uploaded from the mobile communication terminal device 10 in the diagnosticable frame image extraction process in step Sb3, and three-dimensionally.
  • the image is constructed and stored in the ROM / RAM 320.
  • the diagnosis support information generation unit 355 is based on the knowledge for diagnosis of cataract based on the three-dimensional image stored in the knowledge storage unit 334 for diagnosis and the three-dimensional image stored in the ROM / RAM 320, and the eye to be inspected E Try to estimate the state of cataracts in.
  • the diagnosis support information generation unit 355 generates the diagnosis support information (step Sb7) while using the three-dimensional image stored in the ROM / RAM 320 as the presentation frame image (step Sb6), and the corresponding moving object. Deliver to the communication terminal device 10 (step Sb8).
  • the three-dimensional image is displayed in a state in which the user can view it together with the estimation results regarding the presence or absence of cataract in the eye E to be inspected, the NS grade estimated value, the treatment method, and the necessity of surgery. Will be done.
  • the presentation frame image may not be a three-dimensional image but a diagnostic frame image having the largest area of the pixel region in which the crystalline lens tissue is reflected may be extracted and used.
  • a 3D image usually contains more information than a 2D image. Therefore, by configuring this modified example, it is possible to improve the estimation accuracy of the cataract state of the eye E to be inspected, improve the reliability of the diagnostic support information, and present the diagnostic support information including the three-dimensional image to the user. Therefore, the user's UX can be significantly improved.
  • the slit light forming member 61 and the convex lens member 93 are attached to the proximity photographing device 20A constituting the smart eye camera, the color filter member 97 is removed, and the slit light SL is used as the observation light for the eye to be inspected.
  • a configuration was adopted in which the state of cataract in the eye E to be inspected was estimated by photographing the eye E to be inspected while irradiating the eye E.
  • this modified example is for estimating the presence or absence of a disease other than cataract and its severity.
  • a moving image including one or more diagnosticable frame images that can be used for diagnosing the disease is taken by a smart eye camera. Is required. Therefore, in this case, the user needs to take a moving image of the eye E to be inspected while changing the configuration of the close-up photography device 20A according to the disease to be estimated such as the severity.
  • the state estimation method for each disease will be specifically described.
  • the slit light SL is generated by the proximity imaging device 20A, and the slit light SL is used as the observation light to irradiate the anterior chamber tissue of the eye E to be inspected.
  • the light including the reflected light RL in the anterior chamber tissue of the slit light SL is focused on the imaging camera lens 91 by the convex lens member 93, and a moving image including one or more diagnosticable frame images corresponding to these diseases is taken. Is required. Therefore, in this case, as in the first embodiment, the slit light forming member 61 and the convex lens member 93 are attached to the close-up photography device 20A constituting the smart eye camera, and the color filter member 97 is removed. It is necessary to capture a moving image of the eye E to be inspected while the close-up imaging device 20A has a configuration as shown in FIGS. 5 to 7.
  • the extraction knowledge storage unit 332 is made to store in advance the extraction knowledge for extracting the diagnosticable frame image corresponding to irisitis and uveitis.
  • the conditions for corresponding to the diagnostic frame image are the same as the diagnostic frame image for cataract diagnosis except that the tissue to be irradiated with the slit light SL is not the crystalline lens tissue but the anterior chamber tissue.
  • the diagnostic knowledge for irisitis or uveitis is basically acquired by the same knowledge acquisition process as in FIG. 14, but the process at this time is the acquisition of diagnostic knowledge.
  • the target disease is not cataract but uveitis or uveitis, and details thereof will be omitted.
  • the diagnostic processing unit 350 the diagnosis support information is basically generated by the same diagnosis support information generation process as in FIG. 15 (step Sb7), and is distributed to the corresponding mobile communication terminal device 10 (step Sb8).
  • the treatment at this time is the same as that of the first embodiment except that the target disease is not cataract but uveitis or uveitis as in the diagnostic knowledge acquisition processing.
  • the close-up imaging device 20A constituting the smart eye camera has the same configuration as that of the first embodiment (FIGS. 5 to 7), and the eye E to be inspected is irradiated with the slit light SL as the observation light.
  • ⁇ Shooting method 2> In this photographing method, the convex lens member 93 is attached to the proximity photographing device 20A constituting the smart eye camera, the color filter member 97 and the slit light forming member 61 are removed, and the light source light (white) emitted from the light source 92. Diffuse light) passes through holes 88 and 95 as it is and is irradiated in the forward direction, and the white diffused light is irradiated to the eye E as an observation light, and the moving image of the eye E is examined. This is a method of taking an image.
  • the conditions for corresponding to the diagnosticable frame image are different between the case where the photographing method 1 is adopted and the case where the photographing method 2 is adopted, and the case where the photographing method 1 is adopted.
  • the conditions are basically the same as in the case of cataract, but the target of irradiation with the slit light SL is a tissue other than the crystalline lens, such as the eyelid and the surface of the eye.
  • the condition when the photographing method 2 is adopted is that the reflected light RL of the white diffused light is reflected together with at least a part of the observation target tissue in the state where the white diffused light is irradiated as the observation light. It becomes the frame image.
  • the imaging method to be used is determined in advance, and the extraction knowledge corresponding to the imaging method is stored in the extraction knowledge storage unit 332. It should be noted that a plurality of extraction knowledge corresponding to each imaging method is stored in advance in the extraction knowledge storage unit 332, and the extraction knowledge to be used is switched according to the imaging method selected by the user to obtain a diagnostic frame image. It is also possible to adopt a configuration to extract. In this case, the user is made to specify the shooting method to be used on the diagnostic application, and the information indicating the shooting method is uploaded from the mobile communication terminal device 10 together with the moving image data. Then, in the diagnosticable frame image extraction process, the diagnosticable frame extraction unit 352 may be configured to extract the diagnosticable frame image while switching the extraction knowledge to be used based on the information.
  • the diagnostic knowledge corresponding to these diseases is basically acquired by the same diagnostic knowledge acquisition process as in FIG. 14, regardless of which imaging method is adopted.
  • the treatment at the time is that the disease for which diagnostic knowledge is to be acquired is not cataract, but chalazion, hordeolum, allergic conjunctivitis, epidemic keratoconjunctivitis, keratoconus, corneal opacity, etc. that develop in corneal tissue and conjunctival tissue. Other than that, it is the same as that of the first embodiment, and thus details will be omitted.
  • the diagnostic processing unit 350 basically The diagnosis support information is generated by the same diagnosis support information generation process as in FIG. 15 (step Sb7), and is distributed to the corresponding mobile communication terminal device 10 (step Sb8).
  • the target disease is not cataract, but chalazion, hordeolum, allergic conjunctivitis, epidemic keratoconjunctivitis, keratoconus, corneal opacity, etc. It is the same as the first embodiment.
  • the moving image taken by the smart eye camera may include a diagnosticable frame image that can be used for diagnosing a plurality of diseases.
  • the user may specify what kind of disease is targeted by the mobile communication terminal device 10, or may estimate the state of a plurality of diseases at once. The method of estimating the states of a plurality of diseases at once will be described in detail in the section of Modification 6.
  • the light source light emitted from the light source 92 is changed to blue light by the color filter member 97, and the moving image of the eye E to be inspected is taken in a state where the blue light is irradiated to the eye E to be inspected as the observation light.
  • the scars on the cornea and conjunctiva are changed to green, and the green light is received by the image sensor through the camera lens 91 for imaging.
  • the wounds on the cornea and conjunctiva of the eye E to be inspected are photographed.
  • the extraction knowledge storage unit 332 stores in advance the extraction knowledge for extracting a diagnosticable frame image that can be used for diagnosing diseases such as punctate surface keratitis and corneal ulcer.
  • the condition for corresponding to the diagnostic frame image is that the reflected light RL of the blue light in the observation target tissue is reflected together with at least a part of the observation target tissue in the state where the blue light is irradiated as the observation light.
  • the frame image is in focus. Therefore, in this case, it is necessary for the extraction knowledge storage unit 332 to store in advance the extraction knowledge for extracting the frame image satisfying the condition.
  • the diagnostic knowledge corresponding to diseases such as punctate surface keratitis and corneal ulcer is basically acquired by the same diagnostic knowledge acquisition process as in FIG. 14, but the process at this time. Is the same as that of the first embodiment, except that the target disease of the acquired diagnostic knowledge is not cataract but punctate superficial keratitis, corneal ulcer, and the like.
  • the diagnostic processing unit 350 generates diagnostic support information by the same diagnostic support information generation process as in FIG. 15 (step Sb7), and distributes it to the corresponding mobile communication terminal device 10 (step Sb8).
  • the treatment at this time is the same as that of the first embodiment, except that the target disease is not cataract but a disease such as punctate superficial keratitis or corneal ulcer as in the diagnostic knowledge acquisition process.
  • the moving image taken by the smart eye camera may include a diagnosticable frame image that can be used for diagnosing a plurality of diseases.
  • the user may specify what kind of disease is targeted by the mobile communication terminal device 10, or may estimate the state of a plurality of diseases at once.
  • a convex lens member 93 is attached, the light source light emitted from the light source 92 is changed to blue light by the color filter member 97, and the observation target tissue of the eye E is irradiated with the blue light as the observation light. Try to shoot. Further, in this case, it is necessary to instill a fluorescein solution on the eye E to be inspected and image the wound on the eye surface, the cornea and the conjunctiva of the eye E to be inspected.
  • the images taken with each of the existing devices were compared with each other, and an eye examination including the tear film break-up time (TFBUT) of the mouse model was performed.
  • TFBUT measurement which is a diagnostic criterion for DED, was performed on a total of 42 DED patients and normal subjects without DED.
  • TFBUT is an essential parameter used for the diagnosis of DED.
  • DED is due to decreased tear volume, rapid tear film collapse, and increased tear evaporation
  • TFBUT is one of the core mechanisms of DED.
  • a DED mouse model has been investigated, but a method for measuring human TFBUT has not been established in the DED mouse model.
  • the width of the mouse cornea is only 2-3 mm, its size is small, and it is difficult to adjust the focus for human application.
  • existing ophthalmic clinical slit lamp microscopes are used to inspect the anterior segment of the eye (eyelids, ocular surface, cornea, conjunctiva, anterior chamber and lens tissues), but the device is large and easy to move.
  • TS tear secretion
  • CFS corneal fluorescein score
  • FIG. 16 An image taken by a mobile communication terminal device 10 (smart eye camera) equipped with the close-up photography device 20A having the above configuration is shown in FIG.
  • the upper part of FIG. 16 is a typical photograph of an eye exposed to white light, and the lower part is a typical photograph showing a fluorescein-stained image.
  • the image in the left column of FIG. 16 is an image example taken by an existing device, and the image in the right column is an image example taken by using a mobile communication terminal device 10 equipped with the close-up photography device 20A having the above configuration.
  • the existing device a device widely used for evaluating the eyes of the DED mouse model is used.
  • a microscope product name: SZ61
  • a camera product name: SZ61
  • DP70 and a light source
  • LG-PS2 a portable slit lamp microscope
  • DED model related to mouse GVHD group For the DED mouse model, Zhang's method was selected to reproduce the GVHD group-related DED phenotype as in the clinical case. B10 used. D2 and BALB / cCrSlc (BALB / c) mice (7 weeks old) were purchased from Sankyo Research Institute (Tokyo, Japan). After acclimatizing to the SPF environment for 1 week, the mice were divided into 3 groups (5 mice per group). For the DED (GVHD group model) group, an 8-week-old male B10. D2 and female BALB / c mice were used.
  • non-GVHD group syngeneic BMT was performed by transplanting donor cells from male BALB / c mice to female BALB / c mice. Six hours prior to BMT, these recipient mice were irradiated with 700 cGy using a Gammacel 137Cs source (Hitachi Medico Ltd.) and then the donor cells were injected via tail intravenous injection. For healthy controls (normal group controls), female BALB / c mice of the same age were selected.
  • GVHD group Three mouse models (GVHD group, non-GVHD group, and normal group control) were used for comparison. Since the DED phenotype in this DED mouse model appears 3 weeks after BMT, eyeball phenotypes such as body weight, TFBUT, corneal fluorescein score (CFS), and TS are used once a week, 12 weeks before BMT (8 weeks old). Collected up to age. All the shooting data recorded by the smart eye camera was manually transferred to iMac (Apple Inc., USA) via Bluetooth (registered trademark) and converted to mp4 video data for safe storage.
  • iMac Apple Inc., USA
  • Bluetooth registered trademark
  • CFS corneal fluorescein score
  • Evaluation 1 is a case where slightly punctate staining is shown at " ⁇ 30 spots”
  • evaluation 2 is a case where punctate staining is performed at "> 30 spots” and does not diffuse
  • evaluation 3 is severe diffuseness. Staining but no positive plaque was used, and evaluation 4 was for fluorescein-positive plaque.
  • Tear secretion was measured using the modified Schirmer test. Phenol red threads were placed on the temporal side of the upper eyelid margin for 15 seconds. The length of the wet portion from the edge was within 0.5 mm.
  • FIG. 17 (A) is a graph measuring the relationship between the age of the mouse and the body weight
  • FIG. 17 (B) shows the progress of body weight by group (green: normal group, blue: non-GVHD group, red: GVHD). It is a table about the group).
  • BMT bone marrow transplantation
  • TFBUT No difference was observed in TFBUT between the normal group, non-GVHD group and GVHD group before BMT (8 weeks old).
  • FIG. 20 shows a continuous tear film photograph stained with a fluorescein solution. Thus, destruction of the tear film was observed.
  • the photo shows the right eye of a 12-week-old female BALB / c mouse.
  • FIG. 22 shows the results of comparing the measurement results of TFBUT and CFS for the smart eye camera and the existing technology
  • A is a graph for TFBUT
  • B is a graph for CFS
  • green normal.
  • red GVHD group.
  • FIG. 23 is a graph showing the correlation between the smart eye camera and the existing device, (A) is a graph for TFBUT, and (B) is a graph for CFS.
  • the Y-axis shows the numerical value evaluated by the smart eye camera
  • the X-axis shows the evaluation by the existing device.
  • n 15.
  • the mobile communication terminal device 10 that is, the smart eye camera
  • the close-up photography device 20A of the first embodiment is applicable to the DED mouse model. ..
  • This model was characterized by weight loss, shortening of TS and exacerbation of corneal dermatitis, which was reflected in CFS.
  • FIG. 24 is a graph in which they are arranged. From the results, the TFBUT of the GVHD group in the DED mouse model was decreased as compared with the normal group and the non-GVHD group. As shown in FIG. 24, this indicates that the TFBUT tendency is similar to the TS tendency and opposite to the CFS tendency.
  • a mobile communication terminal device 10 (smart eye camera) equipped with the proximity photographing device 20A having the above configuration is used to dry eye patients and normal patients without dry eye for a total of 42 patients.
  • TFBUT measurement which is a diagnostic criterion for eye
  • the result is shown in FIG.
  • the TFBUT of the dry eye patient group (represented by "DED +") is 3.64 ⁇ 1.81 seconds
  • the TFBUT of normal patients without dry eye represented by "DED-" is 6.50 ⁇ . It was 0.71 seconds.
  • the TFBUT was shorter in the dry eye group. Significant differences are determined by the Mann-Whitney U test with P ⁇ 0.05 as significant. From this, it can be said that the smart eye camera can evaluate eye findings such as TFBUT.
  • the mobile communication terminal device 10 that is, the smart eye camera
  • the close-up photography device 20A of the present embodiment continuous eye phenotypes such as TFBUT and CFS are evaluated. I was able to confirm that
  • the knowledge storage unit 332 for extraction stores in advance the knowledge for extraction for extracting the diagnosticable frame image that can be used for the diagnosis of DED, and diagnoses it. It is necessary to store the diagnostic knowledge corresponding to DED in the knowledge storage unit 334.
  • the diagnosticable frame extraction unit 352 sets the time in the frame image classified into the "Diagnosable" class in step Sa3 of the diagnostic knowledge acquisition process (FIG. 14).
  • the frame image taken at the earliest timing is extracted as a diagnosticable frame image corresponding to "0" seconds, and the diagnosticable frame image is stored in the ROM / RAM 320 in association with the time information (0 seconds). ..
  • the diagnosable frame extraction unit 352 receives a frame image (for example, after 3 seconds and after 6 seconds, respectively) taken at a timing when a predetermined time elapses from the diagnosable frame image corresponding to "0" seconds.
  • Frame images classified into the "Diagnosable" class in are extracted as diagnosticable frame images at the relevant timing, and each diagnosticable frame image is subjected to corresponding time information (for example, 3 seconds, 6 seconds). Etc.) and store it in the ROM / RAM 320.
  • the diagnostic knowledge acquisition unit 353 is configured to associate each diagnosticable frame image stored in the ROM / RAM 320 with the time information and transmit it to the annotation terminal device 40.
  • the annotation terminal device 40 receives, for example, a 0-second diagnostic frame image and a 3rd second diagnostic frame image.
  • Each diagnosticable frame image is displayed in chronological order while being associated with time information, such as the 6th second diagnosticable frame image, so that the doctor can confirm the state of tears and the state of change in the tear film in the eye E to be examined. Display the diagnostic frame image on the monitor.
  • the annotation terminal device 40 Generates a change image (a kind of moving image) composed of a plurality of diagnosticable frame images by arranging each diagnosticable frame image in time series based on time information. Then, the annotation terminal device 40 creates teacher data by displaying the change image, having a doctor acting as an annotator diagnose DED, and tagging the change image with the diagnosis result information. Then, the reply is sent to the diagnosis support server device 30. As a result, the teacher data storage unit 333 of the diagnosis support server device 30 stores the teacher data regarding the change image (step Sa6).
  • the doctor acting as an annotator measures TFBUT based on the change image, and if the measured value of TFBUT is equal to or less than a predetermined threshold value (for example, 5 seconds or less), it is diagnosed that DED has developed. You just have to do it.
  • a predetermined threshold value for example, 5 seconds or less
  • the knowledge acquisition unit 353 acquires diagnostic knowledge corresponding to DED based on the teacher data accumulated in the teacher data storage unit 333 (step Sa8), and stores it in the diagnostic knowledge storage unit 334 (step Sa9). At this time, the diagnostic knowledge acquisition unit 353 executes at least one of machine learning and data mining based on the change image included in the teacher data and the diagnostic result information so as to acquire the diagnostic knowledge corresponding to DED. do it.
  • the generation timing of the change image is not limited to the above generation timing, and can be generated by the diagnostic knowledge acquisition unit 353 when the diagnosticable frame image and the time information are transmitted to the annotation terminal device 40. Further, in the diagnosticable frame image extraction process, the diagnosticable frame extraction unit 352 may be configured to generate a change image.
  • the diagnostic processing unit 350 basically shows the figure.
  • the diagnosis support information is generated by the same diagnosis support information generation process as in (step Sb7) and distributed to the corresponding mobile communication terminal device 10 (step Sb8).
  • a change image similar to the change image obtained in the above diagnostic knowledge acquisition process (for example, a change image consisting of a diagnosticable frame image of 0 seconds, 3 seconds, and 6 seconds) is used. It is necessary to estimate the state of DED in the eye E to be inspected. Therefore, in this case, the diagnosticable frame extraction unit 352 obtains the diagnosticable frame image (for example, 0 seconds, at the same timing as the timing at which the diagnosticizable frame image is extracted in the diagnostic knowledge acquisition process in step Sb3). The diagnostic frame image obtained at each timing of 3 seconds and 6 seconds) is extracted and stored in the ROM / RAM 320 in association with the time information.
  • the health state estimation processing unit 354 generates a change image by arranging the diagnosticable frame images stored in the ROM / RAM 320 in the health state estimation process of step Sb5 in time series based on the time information. Based on the change image and the diagnostic knowledge of DED stored in the diagnostic knowledge storage unit 334, the state of DED in the eye E to be examined is estimated. In this case, it is arbitrary whether or not the health state estimation processing unit 354 weights the estimation result based on the probability of falling into the "Diagnosable" class and estimates the most probable state of DED.
  • the diagnostic processing unit 350 estimates the state of DED for each change image while generating a change image for each set. Then, the estimation result may be weighted according to the probability corresponding to the "Diagnosable” class for each change image, and the most probable state of DED in the eye E to be inspected may be estimated.
  • the method of calculating the probability that each change image corresponds to the "Diagnosable” class is arbitrary. For example, the average value of the probabilities corresponding to the "Diagnosable" class of the diagnosticable frame images constituting each change image may be used.
  • step Sb6 the diagnostic support information generation unit 355 generates diagnostic support information including the change image and the estimation result of the DED while using the change image generated in step Sb5 as the presentation frame image (step Sb7). It is delivered to the corresponding mobile communication terminal device 10 (step Sb8).
  • step Sb8 a case where a change image is generated while extracting a diagnosticable frame image corresponding to each of 0 seconds, 3 seconds, and 6 seconds has been described, but it was uploaded from a smart eye camera.
  • the first diagnosticable frame image is set to 0 seconds, all the diagnosticable frame images included in the moving images taken in the subsequent 10 seconds are extracted, and all of them are connected to generate a change image.
  • a method of generating a change image (a kind of moving image) for 10 seconds may be adopted.
  • one disease for example, cataract
  • one disease for example, cataract
  • a plurality of diseases such as cataract and epidemic keratoconjunctivitis. Therefore, it is desirable to be able to estimate and use the states of a plurality of diseases at once by taking one moving image.
  • the extraction knowledge storage unit 332 stores the extraction knowledge corresponding to a plurality of diseases in advance
  • the diagnostic knowledge storage unit 334 stores the diagnostic knowledge corresponding to the plurality of diseases.
  • method 1 As a method of observing and photographing the anterior segment of the eye E to be inspected, as described above (method 1), the slit light forming member 61 and the convex lens member 93 are attached, and the color filter member 97 is removed.
  • method 2 A method of irradiating the eye to be inspected E with slit light SL as observation light by the photographing apparatus 20A for observation and photographing, and (method 2) a method in which only the convex lens member 93 is attached and the white diffused light is irradiated to the eye to be inspected E as observation light.
  • Method 3 A close-up photography device 20A with the color filter member 97 and the convex lens member 93 attached to the subject E to irradiate the subject E with blue light as observation light for observation and imaging. There are three methods of photographing, but in this modification, a moving image photographed by any of the methods is used.
  • the diagnostic processing unit 350 basically generates the diagnostic support information by executing the same diagnostic support information generation process as in FIG. 15, but in this modified example, the states related to a plurality of diseases are displayed. Since it is necessary to make it possible to estimate at once, we decided to adopt the following method.
  • the diagnosticable frame extraction unit 352 generates a diagnosticable frame image for each disease based on each frame image included in the moving image data and the extraction knowledge corresponding to each disease in the diagnosticable frame image extraction process in step Sb3. Extract. At this time, the diagnosticable frame extraction unit 352 extracts the frame image in focus on the tissue in which the target disease develops while labeling the tissue in focus in each frame image included in the moving image data. .. Then, the diagnosticable frame extraction unit 352 extracts the diagnosticable frame image for each disease from the extracted frame image based on the extraction knowledge.
  • the diagnosable frame extraction unit 352 calculates the probability corresponding to the "Diagnosable" class for each of the extracted frame images, and associates the calculated probability with the corresponding disease name with the diagnosable frame image to ROM. Store in / RAM 320.
  • the health state estimation processing unit 354 stores diagnostic knowledge corresponding to the corresponding disease based on the disease name stored in association with the diagnosticable frame image extracted in step Sb3. It is read from the part 334 (step Sb4), and the state is estimated for each disease (step Sb5). At this time, the health state estimation processing unit 354 estimates the state of the disease corresponding to each diagnosticable frame image stored in the ROM / RAM 320. Then, the most probable state of each disease in the eye E to be inspected is estimated while weighting the estimation result according to the probability corresponding to the "Diagnosable" class stored in association with the diagnosticable frame image. The process for estimating the most probable state of each disease is the same as that in the first embodiment.
  • step Sb6 the diagnosis support information generation unit 355 extracts the presentation frame image for each disease, and generates the diagnosis support information while associating the estimation result for each disease with the presentation frame image (step Sb7). Then, the diagnosis support information distribution unit 356 distributes the diagnosis support information generated in this way to the corresponding mobile communication terminal device 10 (step Sb8), and ends the process.
  • the method of extracting the presentation frame image corresponding to each disease in step Sb6 is except that the area of the pixel region in which the tissue in which the target disease develops is the largest is the diagnostic frame image. It is the same as the first embodiment. Further, in this case, the format of the diagnostic support information generated by the diagnostic support information generation unit 355 in step Sb7 is arbitrary.
  • the disease name may be generated in the form of a list in which information such as the presence / absence of the onset of the disease, an estimated value of the severity, a treatment method, the necessity of surgery, and a frame image for presentation are associated with each other.
  • the diagnostic knowledge corresponding to each disease is acquired by the diagnostic knowledge acquisition process basically the same as in FIG. 14, and is stored in the diagnostic knowledge storage unit 334.
  • the following two methods can be adopted as the acquisition method at this time.
  • This method is a method of acquiring the corresponding diagnostic knowledge by executing the same process (FIG. 14) as in the first embodiment for each disease.
  • (Acquisition Method 2) This method is a method of acquiring diagnostic knowledge corresponding to a plurality of diseases at once based on the moving image data uploaded from the mobile communication terminal device 10.
  • the acquisition method 1 is the same as that of the first embodiment except that the target disease is a disease other than cataract, only the acquisition method 2 will be described below.
  • the diagnosticable frame extraction unit 352 in the diagnosticable frame image extraction process in step Sa3 of FIG. 14 extracts the diagnosticable frame image for each disease by the same method as described above, and diagnoses the corresponding disease name. It is stored in the ROM / RAM 320 in association with the possible frame image.
  • step Sa4 the diagnostic knowledge acquisition unit 353 transmits the disease name stored in the ROM / RAM 320 to the annotation terminal device 40 while associating it with the diagnosticable frame image.
  • the annotation terminal device 40 Upon receiving the diagnosticable frame image transmitted in this way, the annotation terminal device 40 displays the diagnosticable frame image received from the diagnostic support server device 30 on the monitor while associating it with the disease name. In this state, the doctor acting as an annotator diagnoses the state of each disease based on the diagnosticable frame image for each disease displayed on the monitor, and inputs the diagnosis result.
  • the display form at this time is arbitrary. For example, the display area of the monitor is divided into a plurality of areas, and (a) each area has a disease name, (b) a corresponding diagnostic frame image, and (c).
  • the GUI for inputting the diagnosis result regarding the disease may be displayed in association with the GUI.
  • the annotation terminal device 40 displays the diagnosis result for each disease corresponding to the input result.
  • teacher data corresponding to each disease is created, and the created teacher data is associated with the corresponding disease name and transmitted to the diagnosis support server device 30. do.
  • the teacher data storage unit associates the teacher data with the disease name. It is stored in 333 (step Sa6).
  • the above processing is repeated every time the moving image data is uploaded from the mobile communication terminal device 10, and the teacher data is accumulated in the teacher data storage unit 333 for each disease.
  • step Sa7 the determination in step Sa7 changes to “Yes”, and the diagnostic knowledge acquisition unit 353 Based on the teacher data for each disease accumulated in the teacher data storage unit 333, the diagnostic knowledge corresponding to each disease is acquired (step Sa8) and stored in the diagnostic knowledge storage unit 334 in association with the disease name (step Sa8).
  • step Sa9 the number of teacher data stored in the teacher data storage unit 333 is compared with ⁇ for each disease to acquire diagnostic knowledge about the disease in which the number of teacher data is ⁇ or more. It suffices (step Sa8).
  • the diagnostic knowledge acquisition process is repeated for each disease (step Sa8), and the diagnostic knowledge corresponding to the plurality of diseases is collectively acquired. To do. Then, in step Sa9, the diagnostic knowledge acquisition unit 353 associates the diagnostic knowledge acquired in step Sa8 with the disease name of the corresponding disease and stores it in the diagnostic knowledge storage unit 334. Just do it.
  • the tissues of the cornea, the anterior chamber, and the crystalline lens are reflected in an overlapping manner.
  • the slit light SL enter the eye E from an oblique direction, it is possible to take an image including three-dimensional information of the eye E while cutting the eye E with the slit light SL in the cross-sectional direction.
  • multi-labeling is performed for each pixel, it is possible to identify what tissue is reflected in which pixel, so that a plurality of tissues appear to overlap when photographed from the front.
  • ⁇ Application method 1> For example, an application that adopts the method of this modified example to identify what kind of eye disease incidence rate is high in which area and reflect it in the estimation result of the health condition according to the area where the moving image was taken.
  • the form can be realized.
  • the position information of the shooting location is uploaded to the diagnosis support server device 30 together with the shot image of the smart eye camera.
  • the diagnosis support server device 30 transmits the diagnosticable frame image extracted from the captured image and the position information to the annotation terminal device 40, and the annotation terminal device 40 transmits the diagnosticable frame image. And display the position information (for example, plot the position on the map).
  • the annotation terminal device 40 tags the diagnoseable frame image with the corresponding diagnosis result information and the position information. Create teacher data.
  • the diagnostic knowledge acquisition unit 353 acquires diagnostic knowledge based on the teacher data tagged with the position information. Since the other processes at this time are the same as those in FIG. 14, details will be omitted.
  • diagnostic support information when generating diagnostic support information by this method, a configuration is adopted in which the position information is uploaded in association with the moving image taken by the smart eye camera. Then, when the diagnosis support server device 30 generates the diagnosis support information, (i) the diagnosticable frame image extracted from the uploaded moving image data and (ii) the position information associated with the moving image data. And (iii), the health condition of the eye E to be examined may be estimated based on the diagnostic knowledge acquired by the above method.
  • this method it is possible to estimate the state of the disease most frequently occurring in the imaging area with high accuracy, and it is also possible to estimate the state of the disease with high accuracy even for the endemic disease peculiar to the imaging area. can.
  • ⁇ Application method 2> it can be applied to identify areas with a high prevalence of various eye diseases by adopting the method of this modified example and to grasp the epidemiological epidemic situation of various diseases.
  • the database of the diagnosis history may be provided in the diagnosis support server device 30, or may be provided in a computer system or the like owned by an epidemiological research institute for eye diseases.
  • the diagnosis support server device 30 estimates the state of the disease in the anterior segment tissue of the eye E to be inspected, and the diagnostic support information including the estimation result is the corresponding mobile body. It was intended to be distributed to and used by the communication terminal device 10.
  • diseases in the fundus tissue of the eye E to be examined for example, hypertensive fundus, retinal thinning, glaucoma, diabetic retinopathy, retinal detachment, central serous chorioretinopathy, age-related yellow spot degeneration
  • Exudative retinopathy central retinal artery occlusion, etc.
  • the diagnostic support system of the present embodiment differs from the diagnostic support system 1 of the first embodiment only in the configuration of the close-up imaging device 20 and the contents of the extraction knowledge and the diagnostic knowledge, and the other configurations are basic. It is the same as the first embodiment. Therefore, unless otherwise specified, the diagnostic support system of the present embodiment shall be realized by the same configuration as that of the first embodiment.
  • FIGS. 26 to 28 are views showing the configuration of the close-up photography device 20B of the present embodiment, respectively, FIG. 26 is a perspective view of the close-up photography device 20B, and FIG. 27 is a close-up photography of the present embodiment.
  • a front view and FIG. 28 of the device 20B are exploded views of the close-up device 20B of the present embodiment.
  • the close-up imaging device 20B of the present embodiment has a configuration having a tubular member 180 for observing and photographing the fundus tissue.
  • the tubular member 180 is a member having a convex lens 183 at its tip.
  • the tubular member 180 is also detachably attached to the mobile communication terminal device 10.
  • the tubular member 180 includes a mounting portion 181 for mounting on the mobile communication terminal device 10, a tubular portion 182 (182a, 182b), a convex lens 183, an opening 184, a convex lens holding portion 185, and a mounting portion 186. It is composed of at least. With such a tubular member 180, the focal length with the fundus can be adjusted and maintained in an appropriate state. As a result, the fundus can be appropriately observed and photographed.
  • a color filter (orange) 4 and a polarizing filter (horizontal polarized light) 3 are arranged in this order at the optical path position of the light source light (white diffused light) emitted from the light source 92. It is arranged.
  • the light source light emitted from the light source 92 changes to orange light when passing through the orange color filter 4, and is converted into linearly polarized light (for example, P-polarized light) by the polarizing filter 3.
  • the observation light (linearly polarized light) obtained by converting the light source light in this way passes through the convex lens 183 and irradiates the fundus tissue of the eye E to be inspected.
  • a polarizing filter (vertical polarized light) 2 is provided at an optical path position immediately before the linearly polarized reflected light RL (that is, return light) reflected by the fundus tissue reaches the photographing camera lens 91.
  • the polarizing filters 2 and 3 may be vertically polarized or horizontally polarized.
  • the orange color filter 4 is a member for converting the observation light into light that can easily reach the fundus tissue as much as possible.
  • the mounting portion 186 for mounting on the mobile communication terminal device 10 is configured so that it can be slid onto the mobile communication terminal device 10 from the side of the right side wall 85.
  • a color filter (orange) 4 and a polarizing filter 3 are provided in front of the light source 92, and another polarizing filter 2 is provided in front of the camera lens 91 for photographing.
  • the tubular portion 182 is configured by combining two tubular portions 182a and 182b, but is not particularly limited.
  • the convex lens 183 is attached to the convex lens holding portion 185 in front of the tubular member 180, irradiates the fundus tissue with linearly polarized light as observation light, and filters the reflected light RL of the observation light (linearly polarized light) in the fundus tissue with a polarizing filter.
  • the light is focused on the photographing camera lens 91 via 2.
  • the tubular member 180 may be configured as a detachable attachment to the close-up photography apparatus 20A shown in FIGS. 2 to 7.
  • the tubular member 180 is configured so that the color filter 4 and the polarizing filters 3 and 2 are arranged in the positional relationship shown in FIGS.
  • the slit light forming member 61, the convex lens member 93, and the color filter member 97 may all be removed, and the tubular member 180 may be detachably attached to the housing 80.
  • FIG. 29 shows an example of an image taken by the mobile communication terminal device 10 (smartphone) equipped with the close-up photography device 20 shown in FIGS. 26 to 28 for the 41 eyes.
  • (A) is an image of a normal fundus
  • (B) is an image of a hypertensive fundus
  • (C) is an image of retinal thinning
  • (D) is an image of an enlarged optic disc depression (suspected glaucoma).
  • FIG. 29 it was possible to evaluate the fundus tissue in 85% or more of the cases. The case that could not be evaluated was opacity of the intermediate translucent body such as severe cataract, but this cannot be evaluated even with existing ophthalmic devices. From this result, it was confirmed that the smart eye camera equipped with the tubular member 180 having the configuration shown in FIGS. 26 to 28 can preferably observe and photograph the fundus.
  • FIG. 30 is a correlation between doctors of the evaluation results for the hypertensive fundus evaluated by the mobile communication terminal device 10 equipped with the tubular member 180 having the configuration of FIGS. 26 to 28. There were no major differences between doctors. In addition, the glaucoma diagnosis rates were 25.7% and 18.9% among doctors, and there was no significant difference in this. From the above results, it was confirmed that the smart eye camera equipped with the tubular member 180 of FIGS. 26 to 28 can observe and photograph the fundus tissue of the eye E to be inspected in detail, which is comparable to the existing ophthalmic apparatus.
  • the mobile communication terminal device 10 When actually estimating the presence or absence of various diseases occurring in the fundus tissue of the eye E to be inspected and their severity by the diagnosis support system of the present embodiment, the mobile communication terminal device 10 has a tubular shape shown in FIGS. 26 to 28.
  • a diagnostic frame image that can be used for diagnosing the corresponding disease while mounting the proximity imaging device 20B having the member 180 on the mobile communication terminal device 10 and irradiating the fundus tissue of the eye E to be inspected with linear polarization as observation light. It is necessary to take a moving image including.
  • the knowledge storage unit for extraction 332 has hypertensive fundus, retinal thinning, glaucoma, diabetic retinopathy, retinal detachment, central serous chorioretinopathy, age-related luteal degeneration, exudative retinopathy, and retina.
  • Extraction knowledge for extracting a diagnosticable frame image that can be used for diagnosing a disease that develops in the fundus tissue such as central arterial occlusion is stored in advance in the extraction knowledge storage unit 332.
  • the condition as a diagnostic frame image that can be used is that the observation target tissue is irradiated with linear polarization as observation light, and at least a part of the observation target tissue is reflected together with the linearly polarized reflected light RL in the observation target tissue. Since the image is in focus, the extraction knowledge for extracting the frame image satisfying the relevant condition may be stored in the diagnostic knowledge storage unit 334 in advance.
  • the diagnostic processing unit 350 acquires the diagnostic knowledge by basically executing the same diagnostic knowledge acquisition process as in FIG. 14 (step Sa8), and the diagnostic knowledge storage unit 334. Is stored in (step Sa9). Then, the diagnostic processing unit 350 executes the same diagnostic support information generation processing as in FIG. 15 while using the acquired diagnostic knowledge, estimates the state of the disease in the fundus tissue (step Sb5), and provides diagnostic support. Information is generated (step Sb7) and distributed to the corresponding mobile communication terminal device 10 (step Sb8). The treatment at this time is the same as that of the first embodiment, except that the target disease is not a cataract but a disease that develops in the fundus tissue such as hypertensive fundus.
  • a configuration is adopted in which the states of a plurality of diseases are estimated at once for each disease, and diagnostic support information including the estimation results for each disease is generated and distributed. You may. Further, also in the present embodiment, the most probable state of the disease in the fundus tissue of the eye E to be inspected is estimated while weighting the estimation result according to the probability that each diagnosticable frame image corresponds to the "Diagnosable" class. However, since this point is the same as that of the first embodiment, the details will be omitted.
  • the diagnostic support system of the present embodiment extracts a diagnosticable frame image from the moving image taken by the mobile communication terminal device 10 in a state where the proximity photographing device 20B having the tubular member 180 is attached. Based on the diagnostic frame image, the diagnostic knowledge corresponding to the disease that develops in the fundus tissue is acquired, and the eye to be examined E is based on the diagnostic knowledge and the moving image data uploaded from the mobile communication terminal device 10.
  • the structure is such that the presence or absence and severity of the disease in the fundus tissue, the treatment method, the necessity of surgery, etc. are estimated.
  • the mobile communication terminal device 10 with the close-up imaging device 20B attached is used, in addition to paramedicals that are unfamiliar with image imaging for ophthalmologic diagnosis, even amateurs such as patient families can use conventional smartphones and the like. With the same simple operation as in the above, it is possible to easily take a moving image including one or more diagnosticable frame images that can be used for diagnosing a disease that develops in the fundus tissue. Therefore, according to the configuration of the present embodiment, the state of the disease in the fundus tissue of the eye E to be inspected can be appropriately estimated based on the moving image taken by an amateur without using an expensive imaging device for ophthalmic diagnosis. , Diagnosis support information can be generated and used.
  • the close-up imaging device 20B can be manufactured at an extremely low cost as compared with the fundus imaging device for ophthalmology, the state of the disease in the fundus tissue of the eye E to be inspected can be detected even in an area where the budget for the examination device cannot be secured. It is possible to estimate and generate diagnostic support information.
  • the diagnosticable frame included in the moving image taken by the smart eye camera is used as it is for an annotation terminal device according to the process shown in FIG.
  • a doctor acting as an annotator make a diagnosis and tagging the corresponding diagnoseable frame image with the diagnosis result information, while creating teacher data corresponding to each diagnoseable frame image, while creating teacher data. It adopted a configuration to acquire diagnostic knowledge.
  • the diagnostic support server device 30 extracts the diagnosticable frame when transmitting the frame image extracted from the moving image as the diagnosticable frame image to the annotation terminal device 40. It was decided that the unit 352 would adopt a configuration in which machine learning was performed to cut out an area in which the tissue of the eye was reflected from the diagnostic frame image.
  • the diagnostic support system 1 of the present embodiment is basically realized by the same configuration as that of the first and second embodiments and the modified examples. That is, also in the present embodiment, each component constituting the diagnosis support system 1 has the same function as that of the first embodiment and the like, and performs the same operation. Only the points different from the embodiments will be described.
  • FIG. 31 is a diagram for explaining an annotation operation for cutting out a region image from a diagnosticable frame image
  • (A) and (B) are cases where white diffused light is irradiated as observation light, respectively.
  • the diagnosticable frame extraction unit 352 of the diagnostic support server device 30 selects a diagnosticable frame image that can be used for diagnosing various diseases from the moving image data uploaded from the mobile communication terminal device 10 (smart eye camera).
  • the extracted diagnostic frame image is transmitted to the annotation terminal device 40 and presented to the annotator.
  • the annotator performs the work of cutting out the region in which the tissue of the eye is reflected in the diagnoseable frame image. It is desirable that the annotation at this time be performed by a doctor, but since the area in which the eye tissue is reflected in the diagnostic frame image can be identified even by a non-ophthalmologist, any person may be used as an annotator. ..
  • the annotation terminal device 40 displays the diagnosticable frame image sent from the diagnostic support server device 30. Then, the annotator uses the annotation tool mounted on the annotation terminal device 40 to enclose the area in which each tissue of the eye is reflected in the diagnostic frame image with a rectangular area as shown in FIG. 31 for annotation. I do.
  • the annotation encloses the "region in which the cornea is reflected" in the diagnosticable frame image with a blue rectangle and "eyes". Perform the work of enclosing the "entire reflected area" with a red rectangle and add annotations.
  • the teacher data is created while tagging the diagnosable frame image using the data of the upper left and lower right coordinates of the obtained rectangular area in this way, and at least of machine learning and data mining. By carrying out one of them, knowledge for cutting out a region image from a diagnosticable frame image (hereinafter, also referred to as "knowledge for cutting out”) is acquired.
  • teacher data is created from a pair of a diagnosticable frame image and an annotated rectangular area, and at least one of machine learning and data mining is executed.
  • the specific learning algorithm used for acquiring the knowledge for cutting out is arbitrary. For example, it may be configured to input teacher data into the algorithm of Objective Detection so that the error is reduced.
  • Objective Detection may estimate multiple areas for one image, but since only one eye is shown in the diagnosticable frame, choose the one with the highest probability. Just do it. This makes it possible to uniquely cut out the area of the cornea and the entire eye for one frame.
  • the extraction knowledge may be stored in the extraction knowledge storage unit 332 together with the extraction knowledge, for example, and a storage area for the extraction knowledge is allocated in the storage device 330 to store the knowledge for extraction (not shown).
  • a configuration may be provided in which a portion is provided.
  • FIG. 31 a case where the cornea is cut out from a moving image taken by using white diffused light and blue light as observation light is illustrated, but this embodiment is not available only for the cornea and is not available only for the conjunctiva. It can be applied to all tissues of the eye, such as partial tissue of the eyelid, iris, and fundus tissue.
  • observation light that can be used in the present embodiment is not limited to white diffused light and blue light, but can also be applied to a moving image using slit light SL or linearly polarized light as observation light.
  • the annotator may enclose the area in which the target tissue is reflected in the diagnosticable frame image with a blue rectangle and the area in which the entire eye is reflected with a red rectangle. In short, by designating the range to be enclosed by the blue rectangle according to the target tissue, it is possible to cut out a region image in which an arbitrary tissue is reflected.
  • the close-up photography device 20B of the second embodiment is attached to the mobile communication terminal device 10 to take a moving image of the fundus tissue, and the annotator is used in the fundus tissue.
  • the tissue such as the macula reflected in the diagnostic frame image may be surrounded by a blue rectangle, and the entire image may be surrounded by a red rectangle.
  • FIG. 32 is for explaining a method in which the diagnosticable frame extraction unit 352 of the diagnostic support server device 30 of the present embodiment estimates the region in which the eye tissue is reflected from the diagnosticable frame image and cuts out the region image. It is a figure of.
  • the diagnosable frame extraction unit 352 performs region detection on the diagnosable frame image using the learned knowledge for cutting out, and the region (yellow rectangular region portion) in which the cornea is reflected.
  • the region (green rectangular region portion) in which the entire eye was reflected was estimated from each diagnosable frame image as shown in FIG. 32, and the region image was cut out.
  • FIG. 32 it was found that the region where the cornea was reflected and the region where the entire eye was reflected could be estimated and cut out almost accurately.
  • the region image is cut out as the smallest square including this region in the diagnosticable frame image.
  • the diagnosable frame extraction unit 352 reads the extraction knowledge and the extraction knowledge from the storage device 330 in step Sa2, and extracts the diagnosable frame image based on the extraction knowledge in step Sa3. Then, based on the knowledge for cutting out, the region image in which the tissue of the eye is reflected in the diagnoseable frame image is cut out as described above.
  • the diagnosticable frame extraction unit 352 of the present embodiment constitutes, for example, the "cutting means" of the present invention.
  • step Sa4 the diagnostic knowledge acquisition unit 353 transmits the region image cut out from the diagnosticable frame image to the annotation terminal device 40.
  • the annotation terminal device 40 causes a doctor acting as an annotator to input a diagnosis result based on the area image while displaying the area image, and creates teacher data tagged with the diagnosis result information corresponding to the input content.
  • the diagnostic knowledge acquisition unit 353 acquires the created teacher data from the annotation terminal device 40 (step Sa5 “Yes”).
  • the diagnostic knowledge acquisition unit 353 stores the teacher data in the teacher data storage unit 333 (step Sa6), and when the number of stored teacher data becomes ⁇ or more (step Sa7 “Yes”), The diagnostic knowledge is acquired based on the stored teacher data (step Sa8), stored in the diagnostic knowledge storage unit 334 (step Sa9), and the process is terminated.
  • Step Sb7 in FIG. 15 the diagnostic processing unit 350 generates diagnostic support information by basically the same processing as in FIG. 15 (step Sb7 in FIG. 15), and the corresponding mobile communication terminal device 10 is provided with the diagnostic support information. It will be delivered (step Sb8 in FIG. 15).
  • the diagnosticable frame extraction unit 352 extracts the diagnosticable frame image from the moving image data uploaded from the smart eye camera in step Sb3, and then cuts out from the extracted diagnosticable frame image. Based on the knowledge, the area image is cut out by the above method.
  • the health state estimation processing unit 354 generates diagnostic support information by basically the same processing as in FIG. 15 based on the area image and the knowledge for diagnosis. At this time, the health state estimation processing unit 354 estimates the health state of the eye E to be inspected taken by the smart eye camera based on the area image cut out from the diagnosticable frame image and the diagnostic knowledge in step Sb5 (step Sb5). ), After extracting the frame image for presentation (step Sb6), the diagnostic support information is generated (step Sb7), distributed to the mobile communication terminal device 10 from which the moving image is uploaded (step Sb8), and the process is completed. do. Since the processing at this time is basically the same as that of the first embodiment, the details will be omitted. Further, in this case, the presentation frame image extracted in step Sb6 may be extracted by the same method as in the first embodiment, and the eye cut out from the diagnosticable frame image extracted as the presentation frame image. Only the area image may be used as the presentation frame image.
  • the diagnosis support system 1 of the present embodiment can estimate the health condition of the eye E to be inspected with extremely high accuracy, and generate and use the diagnosis result information including the diagnosis result with higher accuracy. It will be possible.
  • the diagnosticable frame image is normalized to the same size even when frame images having different zooms are included. Therefore, it is possible to improve the accuracy of machine learning at the time of acquiring diagnostic knowledge and estimate the health condition of the eye E to be inspected with high accuracy.
  • the moving image of the eye E to be inspected is captured by the smart eye camera while actually irradiating the eye E to be observed with slit light, diffused white light, linearly polarized light, and blue light.
  • a region image is cut out from the diagnosticable frame image included in the captured moving image, and based on the region image, it develops in diseases such as irisitis and uveitis that develop in the anterior atrioventricular tissue, and in the eyelid tissue.
  • DED diagnosis of DED
  • spot break for example, (a) spot break, (b) area break, and (c) dimple.
  • dimple for example, various subtypes of DED can also be diagnosed, such as breaks, (d) line breaks, and (e) random breaks.
  • the area image in which the target tissue of the eye is reflected is cut out from the diagnosticable frame image included in the moving image taken by the smart eye camera for diagnosis. You can acquire knowledge. Also, when estimating (diagnosing) the health condition of the eye E to be inspected, the area image should be used to obtain a highly accurate estimation result, and more practical and highly accurate diagnostic support information should be generated and used. Can be done. In addition, in the configuration of the present embodiment, it is desirable to adopt a configuration in which the states of a plurality of diseases can be estimated and used at once by one moving image taking as in the modified example 6.
  • the cutting-out knowledge for a plurality of diseases and the diagnostic knowledge based on the area image are stored in the storage device 330 in advance, and when the moving image data is uploaded from the smart eye camera, each disease A configuration in which a region image for estimating a state is cut out for each disease, and the states of a plurality of diseases occurring in the eye E to be examined are estimated at once based on the cut out region image and the diagnostic consciousness for the corresponding disease. And it is sufficient. Further, in this case, as in the modified example 6, the diagnosis support information may be generated in which the estimation results for each disease based on the region image are described in a list format.
  • the configuration may be such that the diagnostic knowledge corresponding to a plurality of diseases is acquired at once.
  • a three-dimensional image is constructed from the area image in the same manner as in the modified example 4, and the diagnostic knowledge is acquired based on the three-dimensional image, or based on the three-dimensional image in which the area images are laminated.
  • the configuration may be such that the health condition of the eye E to be inspected is estimated.
  • the region images cut out from each diagnosticable frame image may be laminated according to the focal length to generate a three-dimensional image. Since the other points are the same as those of the modified example 4, the details will be omitted.
  • the information parameter values (specifically, the information parameter values obtained not only by the smart eye camera but also by various ophthalmic devices installed in the ophthalmic facilities (not shown)).
  • Measured values of the length, angle, area, etc. of some tissues in the eye E to be examined) are linked to the diagnostic frame image, teacher data is created, and at least one of machine learning and data mining is performed based on the teacher data.
  • Adopt a method of acquiring diagnostic knowledge by executing. Then, in the present embodiment, a configuration is adopted in which the value of the information parameter in the eye E to be inspected is estimated from the moving image taken by the smart eye camera by using the acquired diagnostic knowledge.
  • the diagnostic support system 1 of the present embodiment is basically realized by the same configuration as that of the first and second embodiments and the modified examples. That is, also in the present embodiment, each component constituting the diagnosis support system 1 has the same function as that of the first embodiment and the like, and performs the same operation. Only the points different from the embodiments will be described.
  • the annotation terminal device 40 is installed in an ophthalmic facility (not shown), and a doctor acting as an annotator uses various ophthalmic devices installed in the ophthalmic facility to examine the eye.
  • a method of acquiring various information parameter values related to E is adopted.
  • the diagnosis support system 1 of the present embodiment when acquiring the knowledge for diagnosis, the teacher data is created while associating the information parameters acquired by these ophthalmic devices with the diagnostic frame image, and the said. Acquire diagnostic knowledge using teacher data.
  • the diagnostic frame image used for acquiring diagnostic knowledge in the present embodiment the image extracted from the moving image may be used as it is as in the first embodiment, and the diagnosis can be performed in the same manner as in the third embodiment.
  • a region image cut out from the frame image may be used.
  • Anterior segment OCT Optical Coherence Tomography
  • information parameter values such as the corneal thickness, anterior chamber depth, corneal radius of curvature, angle angle, astigmatism, pupil diameter, and higher-order aberration of the eye E to be inspected can be acquired. Therefore, by creating teacher data that links these information parameter values to the diagnosticable frame image, acquiring diagnostic knowledge, and using the diagnostic knowledge, these information parameter values can be obtained from the smart eye camera image. Can be estimated.
  • Non-contact tonometer When a non-contact tonometer is used, the information parameter value of the intraocular pressure of the eye E to be inspected can be acquired, so that the teacher data in which the parameter value is linked to the diagnostic frame image. It is possible to estimate the intraocular pressure of the eye E to be inspected from the image of the smart eye camera by creating the diagnostic knowledge, acquiring the diagnostic knowledge, and using the diagnostic knowledge.
  • the information parameter values related to the corneal endothelial cells of the eye E to be examined can be obtained, so that the information parameter values are linked to the diagnostic frame image. It is possible to estimate these information parameter values from the smart eye camera image by creating the diagnostic knowledge, acquiring the diagnostic knowledge, and using the diagnostic knowledge.
  • a fundus camera When a fundus camera is used, it is possible to obtain a fundus photograph of the eye E to be examined, so that the diagnosis result information corresponding to the diagnosis result of the doctor based on the fundus photograph corresponding to various fundus diseases can be used.
  • the diagnosticable frame image acquired by the method of the second embodiment may be used as it is for creating teacher data, or a region image may be cut out and the region image may be used for creating teacher data. You may.
  • OCT or optical interference type axial length measuring device When OCT or optical interference type axial length measuring device is used, information parameter values such as retinal film thickness, optic disc diameter, and retinal choroidal blood vessels of the eye E to be inspected can be obtained. Since it can be measured, by creating teacher data in which these information parameter values are linked to the diagnostic frame image, acquiring diagnostic knowledge, and using the diagnostic knowledge, the smart eye camera image can be used. It is possible to estimate these information parameter values. Even in this case, it is possible to create teacher data based on the area image.
  • Ultrasound tomography device When an ultrasonic tomography device is used, the information parameter value of the axial length of the eye to be examined E can be acquired, so that the information parameter value is linked to the diagnostic frame image.
  • the information parameter value is linked to the diagnostic frame image.
  • Accommodation function analysis device When the accommodation function analysis device is used, the information parameter value related to the accommodation function of the eye E to be inspected can be acquired, so that the teacher who associates the information parameter value with the diagnostic frame image. By creating data, acquiring diagnostic knowledge, and using the diagnostic knowledge, it is possible to estimate information parameter values related to the accommodation function of the eye from smart eye camera images.
  • (10) Flicker measuring device When the flicker measuring device is used, the information parameter value of the flicker value of the eye to be inspected E can be acquired. By creating, acquiring diagnostic knowledge, and using the diagnostic knowledge, it is possible to estimate the flicker value of the eye to be inspected E from the smart eye camera image.
  • diagnostic knowledge is acquired by basically the same processing as in FIG.
  • step Sa3 the diagnosticable frame extraction unit 352 is used.
  • the additional conditions will be described in detail later.
  • the annotation terminal device 40 displays the diagnostic frame image and displays the diagnostic frame image.
  • a GUI for causing the annotator to input the diagnostic result based on the image and the information parameter value acquired by the ophthalmic device is displayed.
  • the doctor who becomes the annotator inputs (a) the diagnosis result based on the diagnosticable frame image and (b) the information parameter value acquired by the ophthalmic device
  • the annotation terminal device 40 (a) inputs the information. While tagging the diagnosis result information corresponding to the diagnosed result and (b) the input information parameter value to the corresponding diagnoseable frame image, teacher data is created and transmitted to the diagnosis support server device 30.
  • Step a1 In this method a, first, the patient's eye (that is, the eye to be inspected E) is photographed by the smart eye camera at the ophthalmology facility where the annotation terminal device 40 is installed, and is photographed by the diagnosis support server device 30. Upload the moving image data of the eye E to be inspected. (Step a2) The diagnosis support server device 30 extracts a diagnosticable frame image from the uploaded moving image data and distributes it to the annotation terminal device 40 installed in the corresponding ophthalmic facility.
  • Step a3 the doctor acting as an annotator measures various information parameter values regarding the patient's eye (that is, the eye to be inspected E) by an ophthalmologic device while making a diagnosis based on the diagnoseable frame image.
  • the measured various information parameter values are input to the annotation terminal device 40 together with the diagnosis result.
  • Step a4 The annotation terminal device 40 creates teacher data while tagging the diagnoseable frame image with the diagnosis result information input by the doctor and various measured information parameter values.
  • Step b1 a patient ID for uniquely identifying each patient in the diagnosis support system 1 is assigned in advance.
  • Step b2 When uploading the moving image taken by the smart eye camera, the patient ID assigned to the patient is input and uploaded while being associated with the moving image data.
  • Step b3 Also in the ophthalmic facility, while inputting the patient ID, the measurement result of the ophthalmic apparatus is input to an electronic medical record or the like, and the input measured value is stored in a database (not shown) while being associated with the patient ID. ..
  • Step b4 When the moving image data associated with the patient ID is uploaded from the smart eye camera, the diagnosis support server device 30 extracts a diagnosticable frame image from the moving image and associates it with the patient ID. At the same time, it is transmitted to the annotation terminal device 40.
  • the annotation terminal device 40 acquires the measured value stored in association with the patient ID in the database.
  • Step Sb6 The annotation terminal device 40 creates teacher data while associating the diagnosis result by the doctor with the measured value acquired from the database with the diagnostic frame image.
  • the diagnostic knowledge acquisition unit 353 stores the teacher data in the teacher data storage unit 333.
  • FIG. 14 Step Sa6 When the number of teacher data becomes ⁇ or more, at least one of machine learning and data mining is executed based on the teacher data to acquire diagnostic knowledge (step Sa8), and diagnosis is performed.
  • step Sa9 After storing the data in the knowledge storage unit 334 (step Sa9), the process ends.
  • the diagnostic knowledge acquisition unit 353 works in conjunction with the health state estimation processing unit 354 so that the error between the measured value acquired by the ophthalmic apparatus and the estimated value based on the diagnosticable frame image becomes "0". Acquire diagnostic knowledge by performing at least one of machine learning and data mining.
  • the diagnosticable frame extraction unit 352 extracts a diagnosticizable frame image satisfying the condition, and adopts a method of estimating the information parameter value in the eye E to be examined based on the diagnosticable frame image and the diagnostic knowledge. I decided. Further, in the present embodiment, the health state estimation processing unit 354 estimates the information parameter value related to the eye E to be inspected in step Sb5.
  • the diagnostic support information generated by the diagnostic processing unit 350 of the diagnostic support server device 30 in the present embodiment may include (1) only the estimated information parameter values, and (2) the first embodiment.
  • the state of the disease in the eye E to be examined is estimated by the same processing as in the first embodiment, and then the information parameter value is estimated stepwise.
  • the method of estimating the disease may be adopted, or (b) the method of estimating the state of the disease and the information parameter value at once based on the diagnostic knowledge may be adopted.
  • the same process as in FIG. 15 may be repeated for estimating the state of the disease and the information parameter value, and in the latter case, it is tagged with (i) diagnosis result information and information parameter value.
  • the health state estimation processing unit 354 may estimate the state of the disease in the eye E to be examined and the information parameter value at once in step Sb5 from the diagnostic knowledge obtained based on the teacher data (ii). )
  • the health condition estimation processing unit 354 adopts a structure in which the diagnostic knowledge includes the knowledge described in medical books, medical encyclopedias, medical papers and other documents, or the medical knowledge disclosed on the Internet. Even if a method is adopted in which the state of the disease in the eye E to be examined is estimated based on various information parameter values estimated from the smart eye camera image and knowledge of medical books, etc., and both the information parameter values are described in the diagnosis support information. good.
  • step Sb3 (1) the condition corresponding to the diagnostic frame image extracted in step Sb3 is added, and (2) the health condition estimation processing unit 354 sets the information parameter value in step Sb5. Is basically the same as in FIG. 15 except that the above is estimated.
  • the diagnosis support system 1 of the present embodiment includes (1) uveitis diagnosis in the eye E to be examined, and (2) keratitis that develops in the anterior atrioventricular tissue.
  • the diagnostic support system 1 of the present embodiment can be performed by using the information parameter values measured by the ophthalmic apparatus.
  • ACD Anterior Chamber Depth
  • the slit light SL is used as the observation light
  • the slit light SL is used as the eye E. It is necessary to irradiate the subject diagonally and take a moving image while cutting the eye E to be examined diagonally. Therefore, in this experiment, the slit light forming member 61 and the convex lens member 93 are attached to the proximity photographing device 20A constituting the smart eye camera, the color filter member 97 is removed, and the slit light SL is used as the observation light for the eye E to be inspected.
  • the eye E to be inspected was photographed in the irradiated state, and a moving image including a diagnostic frame image as illustrated in FIG. 34 (A) was photographed.
  • a frame image capable of discriminating the portion indicated by the green line beyond the red line in FIG. 34 (A) is used as a diagnostic frame image. Need to use. Therefore, in this experiment, in addition to the above three conditions, (Condition 4) slit light SL is applied to the pupil as a frame image (that is, a diagnosticable frame image) that can be used to estimate the depth of the anterior chamber. It was decided to use the extraction knowledge for extracting a frame image as a diagnosticable frame image, which satisfies the additional condition that the slit light SL is divided into upper and lower parts across the pupil as in 33 (A). Then, in step Sa3 of FIG.
  • the diagnosticable frame extraction unit 352 extracts a frame image satisfying these four conditions as a diagnosticable frame image, and the information parameter measured by the ophthalmic apparatus with respect to the diagnosticizable frame image.
  • the slit light SL only needs to be irradiated to the pupil, and does not necessarily have to be irradiated to the center of the pupil.
  • a region image in which the iris is reflected is cut out from the diagnosticizable frame image extracted based on the extraction knowledge, and the anterior chamber depth and axial length (AL: Axial Length) measured by the anterior segment OCT.
  • AL Axial Length
  • Teacher data was created by tagging with measured values.
  • learning was performed so that the error between the value predicted from the diagnosticable frame image and the measured value of the anterior segment OCT was "0", and the knowledge for diagnosis was acquired (step Sa8 in FIG. 14).
  • the specific processing is that the knowledge used as the extraction knowledge is the knowledge to extract those satisfying the above four conditions, except that the frame image satisfying the four conditions is extracted as a diagnosticable frame image in step Sa3. , The same as in FIG.
  • the depth of the anterior chamber was estimated based on the moving image taken by the smart eye camera, using the diagnostic knowledge acquired by the above method.
  • the operation at the time of estimating the depth of the anterior chamber is basically the same as that in FIG.
  • the diagnostic frame extraction unit 352 described above based on the extraction knowledge.
  • a method of extracting a frame image satisfying the four conditions as a diagnosticable frame image was adopted.
  • the diagnosticable frame extraction unit 352 extracts the diagnosticable frame image satisfying the above four conditions (step i in FIG.
  • step iii the region image in which the iris is reflected from the diagnosticizable frame image in the same manner as described above.
  • step iii the area image obtained by tagging with the anterior chamber depth measurement value and the axial length measurement value.
  • step iii the depth of the anterior chamber was estimated by the health state estimation processing unit 354 based on the diagnostic knowledge and the image taken by the smart eye camera (step iv in FIG. 33).
  • the estimated value of the anterior chamber depth based on the diagnosticable frame image extracted from the moving image taken by the smart eye camera is 150 ⁇ 360 ⁇ m as compared with the value actually measured by the anterior chamber OCT. It was found that the depth of the anterior chamber can be estimated with extremely high accuracy.
  • the depth of the anterior chamber of the eye E to be inspected can be estimated with high accuracy. Therefore, the eye E to be inspected is based on a moving image taken by a smart eye camera. It is also possible to determine the risk of glaucoma attacks in. In general, the value of the anterior chamber depth and the risk of glaucoma attack are related, and when the depth of the anterior chamber is less than 2.5 mm, it can be determined that there is a risk of attacking angle-closure glaucoma (for example, https: // en). See .wikipedia.org/wiki/Anterior_chamber_of_eyeball).
  • the depth of the anterior chamber of the eye E to be inspected is estimated according to the configuration of the present embodiment, and while determining the presence or absence of glaucoma attack risk, diagnostic support information including the presence or absence of glaucoma attack risk is generated. Is also possible.
  • the present inventor uses an ophthalmic device such as the anterior segment OCT to determine the radius of curvature of the cornea in the eye E to be inspected. Measure and tag the frame image that can be diagnosed by the measured value or the area image of the area where the cornea is reflected to create teacher data, acquire diagnostic knowledge, and use the diagnostic knowledge and the smart eye camera.
  • the radius of curvature of the cornea of the eye E to be inspected was estimated based on the captured moving image.
  • the conditions for corresponding to the diagnosticable frame image satisfy the above four conditions as in the case of the anterior chamber depth. Therefore, even in this case, the extraction knowledge satisfies the above four conditions.
  • the extraction knowledge for extracting the frame image was used.
  • the eyeball has a shape close to a sphere, and the shape of the entire eyeball depends on the shape of the anterior segment of the eye.
  • anterior chamber depth there is a strong correlation between anterior chamber depth and axial length (see, for example, https://pubmed.ncbi.nlm.nih.gov/26107475/).
  • radius of curvature of the cornea see, for example, https://pubmed.ncbi.nlm.nih.gov/32209342/).
  • the anterior chamber depth estimated based on the diagnosable frame image can be obtained. It is also possible to estimate the axial length from information parameter values such as the radius of curvature of the cornea and the power of the transmitted spherical surface.
  • the diagnostic knowledge is basic. It will be obtained by the same process as in FIG.
  • the doctor acting as an annotator acquires the biopsy result in the target tissue of the biopsy and inputs the diagnosis result based on the biopsy result into the annotation terminal device 40.
  • the annotation terminal device 40 tags the diagnoseable frame image with the diagnosis result information corresponding to the input diagnosis result, creates teacher data, and transmits the teacher data to the diagnosis support server device 30.
  • the diagnostic knowledge acquisition unit 353 stores the teacher data in the teacher data storage unit 333 (step Sa6), and when the number of teacher data becomes ⁇ or more (step Sa7 “Yes”. ”), Acquire and store diagnostic knowledge based on the teacher data (steps Sa8 and Sa9), and end the process.
  • the biopsy target can be the eyelid tissue and the anterior ocular tissue, as well as the intraocular tissue and the fundus tissue.
  • slit light SL, white diffused light, and blue light can be used as the observation light, while when the target tissue is the fundus tissue, the mobile communication terminal.
  • the proximity photographing apparatus 20B of the second embodiment it is necessary to attach the proximity photographing apparatus 20B of the second embodiment to the apparatus 10 and use linearly polarized light as the observation light.
  • information parameter values such as retinal thickness, optic disc diameter, and retinal choroidal blood vessels measured by OCT can be diagnosed together with diagnostic result information.
  • Frame image or region image By creating teacher data by tagging with, it is possible to estimate the presence or absence of a disease in the fundus tissue of the eye E to be examined with high accuracy while estimating these information parameter values with high accuracy.
  • the moving image taken by the smart eye camera can be taken at a very high resolution (for example, 4K or 8K resolution) by using the out-camera module of the mobile communication terminal device 10, so that when uploading the moving image data.
  • the values of various information parameters related to the eye to be inspected E can be estimated from the moving image taken by the smart eye camera, so that various ophthalmic devices can be installed. Even in developing countries and remote areas where there is a shortage of equipment and doctors, it is possible to estimate the eye health condition of patients in detail and appropriately and use it for diagnosis of various diseases.
  • the probability of corresponding to "Parameter" is calculated for each diagnosticable frame image as in the first embodiment, and a plurality of diagnosticable frame images are extracted for each diagnosis.
  • An information parameter value is estimated for each possible frame image, and each estimated value is weighted according to the probability corresponding to "Diagnosis", and the most plausible information parameter value in the eye E to be examined is estimated. May be good. In this case, it is the same as that of the first embodiment except that the estimation target is not the state of the disease but the information parameter value. Further, in the configuration of the present embodiment, as in the modified example 4, a three-dimensional image is constructed, diagnostic knowledge is acquired based on the three-dimensional image, and information parameter values are obtained based on the diagnostic knowledge and the three-dimensional image. May be configured to estimate.
  • a plurality of information parameter values (for example, anterior chamber depth and corneal radius of curvature) can be estimated and used at once in one moving image acquisition as in the modified example 6. It is desirable to adopt the configuration.
  • a plurality of diagnostic knowledge for estimating each information parameter value is stored in advance in the diagnostic knowledge storage unit 334, and when the moving image data is uploaded from the smart eye camera, each information parameter is stored.
  • a diagnosable frame image for estimating the value is extracted for each information parameter value, and based on the extracted diagnosable frame image and the diagnostic consciousness for the corresponding information parameter value, in a part of the tissue of the eye E to be examined.
  • the configuration may be such that a plurality of information parameter values are estimated at one time.
  • the diagnosis support information in which the estimation results of a plurality of information parameter values are described in a list format may be generated.
  • Diagnosis support system 2 ... Polarization filter (vertical polarization), 3 ... Polarization filter (horizontal polarization), 4 ... Color filter (orange), 8 ... Plate filter, 10 ... Mobile communication terminal device, 20, 20A, 20B ... Proximity photography device, 30 ... Diagnosis support server device, 310 ... Communication control unit, 320 ... ROM / RAM, 330 ... Storage device, 331 ... Program storage unit, 332 ... Extraction knowledge storage unit, 333 ... Teacher data storage Unit, 334 ... Diagnostic knowledge storage unit, 340 ... Server management control unit, 350 ... Diagnostic processing unit, 351 ... Video data acquisition unit, 352 ... Diagnosticable frame extraction unit, 353 ...
  • Diagnosis support information generation unit 353, 354 ... Health state estimation processing unit, 355 ... Diagnosis support information generation unit, 356 ... Diagnosis support information distribution unit, 61 ... Slit light forming member, 61'... Main body, 62 ... Cylindrical lens, 63 ... Upper holding member, 64 ... Lower holding Member, 65 ... 1st reflection mirror, 66 ... 2nd reflection mirror, 67 ... slit, 68 ... mounting part, 69 ... stepped part, 80 ... housing, 81 ... outer wall part, 82 ... front wall, 83 ... back wall, 84 ... left wall, 85 ... right wall, 86 ... upper wall, 87 ... lower wall, 88 ... front wall hole, 90 ...
  • front plate 90a ... open left edge, 90b ... right edge, 90c ... upper edge , 90d ... Lower edge, 91 ... Camera lens for photography, 92 ... Light source, 93 ... Convex lens member, 94 ... Convex lens mounting hole, 95 ... Hole, 96 ... Convex lens, 97 ... Color filter member, 98 ... Hole, 180 ... Cylinder Shape member, 181 ... mounting part, 182, 182a, 182b ... tubular part, 183 ... convex lens, 84 ... opening

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Ophthalmology & Optometry (AREA)
  • Artificial Intelligence (AREA)
  • Pathology (AREA)
  • Signal Processing (AREA)
  • Primary Health Care (AREA)
  • Psychiatry (AREA)
  • Physiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Fuzzy Systems (AREA)
  • Evolutionary Computation (AREA)
  • Epidemiology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Multimedia (AREA)
  • Eye Examination Apparatus (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

機器や医師等の不足している地域においても眼科用の診断支援情報を生成し、利用可能とする。 移動体通信端末装置10に内蔵された光源92から出射される光源光に基づきスリット光SLを発生させるとともに、被検眼Eにおけるスリット光SLの反射光RLを含む光を移動体通信端末装置10の撮影用カメラレンズ91に集光させる近接撮影用装置20を移動体通信端末装置10に装着し、移動体通信端末装置10に内蔵されたカメラモジュールで被検眼Eの観察対象組織の動画像を撮影する。そして、診断支援サーバ装置30にて撮影動画像に含まれる診断可能フレーム画像を抽出し、当該抽出された診断可能フレーム画像に基づき、被検眼Eの健康状態や被検眼Eの一部組織における距離、角度及び面積のいずれか1以上を推定するとともに、診断支援情報を生成し、該当する移動体通信端末装置10に配信する。

Description

診断支援装置、診断支援システム及びプログラム
 本発明は、医療画像を処理することにより医療的な診断を支援する診断支援装置等に関し、特に、人間や動物の眼科分野における診断用画像を処理し、当該診断用画像に基づき、被検眼となる患者(又は患畜)の眼における疾患の診断を支援し、又は、被検眼となる眼の一部組織における距離、角度及び面積の少なくとも1以上の計測を行う診断支援装置等に関する。
 近年、ディープラーニング等の機械学習手法の飛躍的な発展とAI(人工知能)の急速な性能向上に伴い、各種分野に対するAI(人工知能)の応用が期待され、医療分野に対するAIの応用手法も提案されている(例えば、特許文献1)。
 この特許文献1に記載の眼科システムにおいては、病院等の眼科施設に設置された複数の眼科撮影装置と情報処理システム(サーバ装置)を直接又はネットワークを介して接続し、情報処理システムが眼科撮影装置において撮影された眼科診断用の画像に基づき、機械学習を行い、画像診断用の知識を獲得するようになっている。そして、この眼科システムにおいては、情報処理システムによる知識の獲得後に眼科撮影装置から被検眼診断用の画像が送信されてくると、当該画像及び獲得済の知識に基づき、疑い病名、特定疾患の有無、重症度、検査の必要性、検査の種別、手術の必要性、手術の種別などを推論して、当該推論結果を含む診断支援情報を自動的に生成し、眼科診察装置にて利用可能に配信する構成が採用されている。
特開2019-24738号公報
 しかしながら、上記特許文献1に記載のシステムにおいては、病院などの施設に設置された眼科撮影装置により診断用の画像を撮影する構成になっている。この種の眼科撮影装置は、高価であるとともに取扱が難しく、専門知識を有する医師や視能訓練士等の専門家(以下、「医師等」という。)でなければ診断に利用可能な画像を撮影することが難しい。このため、発展途上国や僻地等の機器や医師等が不足している地域においては、診断に利用可能な画像を取得すること自体が難しく、診断支援情報を生成することが困難となる。また、被検眼の一部組織における距離、角度及び面積の少なくとも1以上を含む情報パラメーター値は、医師等が先進の眼科用装置を用いなければ測定することができず、地域によっては全く測定することができない。
 本発明は、以上説明した事情に鑑みてなされたものであり、その目的は、機器や医師等の不足している地域においても確実に被検眼に関する診断支援情報を生成し、利用可能とする診断支援装置等を提供することにある。
 (1)上述した課題を解決するため、本発明の診断支援装置は、光源と撮影用カメラレンズを備える移動体通信端末装置に装着され、(a)前記光源から出射される光源光に基づき発生させたスリット光、青色光及び直線偏光のいずれかを、観察光として被検眼の観察対象組織に照射し、又は、前記光源光をそのままの状態で通過させ、前記観察光として前記観察対象組織に照射する観察光照射部材と、(b)前記観察光の前記観察対象組織における反射光を含む光を前記撮影用カメラレンズに集光させる凸レンズ部材と、を少なくとも備える近接撮影用装置を装着した状態の前記移動体通信端末装置により前記被検眼を撮影した画像であって、(i)当該被検眼の健康状態及び(ii)当該被検眼の一部組織における距離、角度及び面積のいずれか1以上を含む情報パラメーター値の少なくとも一方を推定するために利用可能な第1フレーム画像を1以上含む撮影画像を取得する取得手段と、前記取得した撮影画像から前記第1フレーム画像を抽出するための第1知識が予め記憶された第1記憶手段と、前記取得された撮影画像に含まれる前記第1フレーム画像を、前記第1知識に基づいて抽出する第1抽出手段と、前記撮影画像に基づき、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定するための第2知識が記憶される第2記憶手段と、前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記取得された撮影画像に映り込んだ前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定する推定手段と、前記推定した前記被検眼の健康状態及び前記情報パラメーター値の少なくとも一方を含む診断支援情報を生成する生成手段と、前記生成した診断支援情報を外部機器に配信する配信手段と、を有する。
 この構成により、移動体通信端末装置の光源から出射される光源光は、近接撮影用装置によってそのままの状態で観察光として観察対象組織に照射され、又は、スリット光、青色光及び直線偏光のいずれかに変換され、観察光として観察対象組織に照射される。そして、ユーザが観察光を被検眼の観察対象組織(例えば、眼瞼、眼表面、角膜、結膜、水晶体、前房、虹彩を含む前眼部組織、及び、眼底組織)に照射させつつ、移動体通信端末装置に搭載されたカメラモジュールにより被検眼を撮影すると、観察光の被検眼における反射光を含む光が、近接撮影用装置により移動体通信端末装置の撮影用カメラレンズに集光され、被検眼の観察対象組織が写り込んだ動画像を撮影できる。
 移動体通信端末装置のカメラモジュールは、既存のスマートフォン等と同様の手法により操作することができるので、近接撮影用装置を装着した移動体通信端末装置(以下、「スマートアイカメラ」ともいう。)を用いることにより、既存の眼科撮影装置の扱いに不慣れな、医師等以外のユーザ(例えば、パラメディカルの他、患者の家族・友人や患者本人等の素人)であっても、被検眼の診断に利用可能な第1フレーム画像(以下、「診断可能フレーム画像」ともいう。)を含む動画像を容易に撮影することができる。
 ここで、撮影画像を眼科診断において利用するためには、(条件1)被検眼の観察対象組織に観察光が照射されていること、(条件2)当該照射された観察光の観察対象組織における反射光とともに当該観察対象組織の少なくとも一部が写り込んでいること、(条件3)当該観察対象組織にピントが合っていること、という3条件を全て満たす画像を撮影する必要がある。一方、ユーザがスマートアイカメラを用いて被検眼を撮影する場合には、例えば、数秒~数十秒間被検眼の動画像を撮影する期間中において、上記3条件を満たす状態を、1フレーム分の時間(例えば、30fpsのフレームレートで撮影している場合には0.033秒間)でも作り出すことができれば、眼科診断に利用可能な少なくとも1の診断可能フレーム画像を含む動画像を撮影することができる。特に、スマートアイカメラを用いた場合には、移動体通信端末装置のカメラモジュールに搭載されたオートフォーカス機構により、撮影対象に対して自動的にピントを合わせることができる。従って、ユーザは、被検眼の観察対象組織に観察光が照射された状態を作りつつ、その反射光が写り込むように被検眼を撮影すれば、上記3条件を全て満たす診断可能フレーム画像を含む動画像を非常に簡単に撮影できる。なお、被検眼は、必ずしも人間の眼である必要はなく、動物(犬、猫、マウス等)の眼であってもよい。また、被検眼に関する情報パラメーター値を推定する場合には、所定の追加条件が必要となるが、この点については、後に詳述する。
 一方、ユーザが診断用画像の撮影に不慣れな場合には、上記3条件の全てを満たさない雑多なフレーム画像を多数含む動画像が撮影される可能性が高く、そのままでは被検眼の健康状態の推定に用いることができない。そこで、本発明の診断支援装置は、動画像を構成する複数のフレーム画像の中から第1知識に基づき、上記3条件を満たす診断可能フレーム画像を自動的に抽出して、当該抽出した診断可能フレーム画像に基づき被検眼の健康状態及び情報パラメーター値の少なくとも一方を推定し、当該推定された健康状態及び情報パラメーター値の少なくとも一方を含む診断支援情報を生成する構成を採用することとした。この構成により、本発明の診断支援装置は、素人等の撮影に不慣れなユーザが被検眼を撮影した場合であっても、当該撮影画像に基づき被検眼の健康状態及び情報パラメーター値の少なくとも一方を的確に推定できる。従って、本発明の診断支援装置によれば、使う人や地域等に影響されることなく、確実に診断支援情報を生成して利用することができる。また、移動体通信端末装置に装着する近接撮影用装置は、少なくとも観察光照射部材と凸レンズを有する構成であればよいので、非常に低コストに製造でき、高価な眼科用撮影装置を準備できないような地域においても確実に被検眼の健康状態及び情報パラメーター値の少なくとも一方を含む診断支援情報を生成して利用する事ができる。
 (2)また、上記構成において、前記第1抽出手段が、前記撮影画像に含まれる前記フレーム画像と前記第1知識に基づき、当該撮影画像に含まれるフレーム画像の各々が前記第1フレーム画像に該当する確率を算出し、当該算出した確率に基づき、前記第1フレーム画像を抽出する構成を採用してもよい。
 機械学習を用いた画像抽出に際しては、抽出時に意図せぬ画像が抽出される可能性を排除できないが、診断可能フレーム画像に該当する確率に基づいて診断可能フレーム画像を抽出することにより、診断可能フレーム画像抽出時における精度・再現率を向上させることができる。なお、算出確率に基づき診断可能フレーム画像を抽出する際の基準に関しては任意であり、例えば、該当確率の高い上位所定数のフレーム(例えば、最も確率の高いベストフレームや確率の高い上位5フレーム、或いは、確率の高い上位数%のフレーム画像等)を診断可能フレーム画像として抽出するようにしてもよい。
 (3)また、請求項2に記載の構成において、前記第1抽出手段が、前記算出した確率の高い複数の前記フレーム画像を前記第1フレーム画像として抽出し、前記推定手段が、当該抽出された複数の前記第1フレーム画像と前記第2知識に基づき、前記第1フレーム画像毎に、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定し、当該推定した健康状態及び情報パラメーター値に対して、前記算出した確率による重み付けを行いつつ、前記被検眼の最も尤もらしい健康状態及び情報パラメーター値の少なくとも一方を推定する構成を採用してもよい。
 この構成により、本発明の診断支援装置は、動画像に含まれる各フレーム画像が、診断可能フレーム画像に該当する確率による重み付けを行いつつ、被検眼の最も尤もらしい健康状態や情報パラメーター値を推定できる。一般に診断可能フレーム画像に該当する確率の高い診断可能フレーム画像に基づく健康状態等の推定結果は、より確率の低い診断可能フレーム画像に基づく健康状態等の推定結果よりも高い正答率を得られる。従って、各診断可能フレーム画像に基づく推定結果に対して診断可能フレーム画像に該当する確率で重み付けを行う事により、正答率の高い推定結果の重みを大きくしつつ、被検眼の最も尤もらしい健康状態や情報パラメーター値を推定し、診断支援情報の信頼度を向上させることができる。
 通常、分類器により各診断可能フレーム画像に基づき被検眼の健康状態等の推定を行う場合、分類器は所定の精度・再現率にて正解を推定することができるが、1の診断可能フレーム画像に基づき健康状態等を推定すると、単一の分類器の精度又は再現率を超えた正答率を実現することが難しくなる。一方、上記構成を採用した場合には、複数の診断可能フレーム画像に基づく、複数の推定結果を得て、その推定結果に重み付けを行いつつ、最終的な推定結果を決定できる。この結果、本発明の診断支援装置は、単一の分類器による推定よりも高い精度・再現率にて被検眼の最も尤もらしい健康状態や情報パラメーター値を推定し、診断支援情報の信頼度を向上させることができる。なお、上記重み付け処理の具体的な手法に関しては任意であり、例えば、各診断可能フレーム画像に基づいて得られる複数の推定結果に対してアンサンブル機械学習を施すようにしてもよい。
 (4)また、請求項1~3のいずれか1項に記載の構成において、前記取得手段が、前記光源光に基づき発生させたスリット光を、前記観察光として前記被検眼の眼瞼及び前眼部組織の少なくとも一方に照射しつつ撮影された前記撮影画像を取得し、前記第1記憶手段には、前記第1知識として、(i)前記被検眼の眼瞼及び前眼部組織に発症する疾患の状態、及び(ii)眼瞼及び前眼部組織に関する前記情報パラメーター値の少なくとも一方の推定に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、前記第2記憶手段には、前記第2知識として、(i)前記被検眼の眼瞼及び前眼部組織に発症する疾患の状態、及び(ii)眼瞼及び前眼部組織に関する前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、前記推定手段が、前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記被検眼の眼瞼及び前眼部組織の少なくとも一方における疾患の状態及び(ii)眼瞼及び前眼部組織に関する前記情報パラメーター値の少なくとも一方を推定する構成を採用してもよい。
 この構成により、本発明の診断支援装置は、被検眼の眼瞼及び前眼部の少なくとも一方に発症した疾患の状態やこれらの組織に関する情報パラメーター値を推定し、当該推定結果を含む診断支援情報を生成して利用できる。なお、観察光としてスリット光を用いる場合には、被検眼の前眼部組織として、眼瞼、眼表面、角膜、結膜、前房及び水晶体の各組織における疾患の状態等を観察できる他、一部眼底組織に発症した疾患の観察を行い、あるいは、眼底組織の情報パラメーター値を推定することもできる。
 (5)また、請求項1~3のいずれか1項に記載の構成において、前記取得手段が、前記被検眼の角膜及び結膜の少なくともいずれか一方の組織に発生した傷を造影剤により造影した状態で、前記光源光に基づき発生させた青色光を、前記観察光として前記被検眼の角膜及び結膜の少なくとも一方に照射しつつ撮影された前記撮影画像を取得し、前記第1記憶手段には、前記第1知識として前記被検眼の角膜及び結膜の少なくとも一方の組織に生じた傷の状態の診断に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、前記第2記憶手段には、前記第2知識として前記被検眼の角膜及び結膜の少なくとも一方の組織に生じた傷の状態から角膜及び結膜の少なくとも一方における疾患の状態を推定するための知識が記憶され、前記推定手段が、前記抽出された第1フレーム画像と前記第2知識に基づき、前記被検眼の角膜及び結膜の少なくとも一方の組織における疾患の状態を推定する構成を採用してもよい。
 この構成により、本発明の診断支援装置は、角膜及び結膜の少なくとも一方の組織に生じた傷の状態から被検眼の角膜及び結膜の少なくとも一方における疾患の状態を推定し、当該推定結果を含む診断支援情報を生成して利用する事ができる。
 (6)また、請求項1~3のいずれか1項に記載の構成において、前記取得手段が、前記光源光に基づき発生させた直線偏光を、前記観察光として前記被検眼の眼底組織に照射しつつ撮影した前記撮影画像を取得し、前記第1記憶手段には、前記第1知識として、(i)前記被検眼の眼底組織に発症する疾患の状態及び(ii)眼底組織に関する前記情報パラメーター値の少なくとも一方の推定に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、前記第2記憶手段には、前記第2知識として、(i)前記被検眼の眼底組織おける疾患の状態及び(ii)眼底組織に関する前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、前記推定手段が、前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記被検眼の眼底組織における疾患の状態及び(ii)眼底組織に関する前記情報パラメーター値の少なくとも一方を推定する構成としてもよい。
 この構成により、本発明の診断支援装置は、被検眼の眼底組織における疾患の状態及び眼底組織における情報パラメーター値の少なくとも一方を推定して当該推定結果を含む診断支援情報を生成して利用する事ができる。
 (7)また、請求項1~3のいずれか1項に記載の構成において、前記取得手段が、前記観察光として前記光源光をそのままの状態で前記被検眼の観察対象組織に照射しつつ撮影した前記撮影画像を取得し、前記第1記憶手段には、前記第1知識として、(i)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に発症する疾患の状態及び(ii)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に関する前記情報パラメーター値の少なくとも一方の推定に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、前記第2記憶手段には、前記第2知識として、(i)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織おける疾患の状態及び(ii)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に関する前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、前記推定手段が、前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織おける疾患の状態及び(ii)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に関する前記情報パラメーター値の少なくとも一方を推定する構成としてもよい。
 この構成により、本発明の診断支援装置は、光源光をそのままの状態で観察光として観察対象組織に照射しつつ、被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織における疾患の状態、及び、これら組織に関する情報パラメーター値の少なくとも一方を推定し、当該推定結果を含む診断支援情報を生成して利用する事ができる。
 (8)また、請求項1~7のいずれか1項に記載の構成において、前記第1抽出手段の抽出した第1フレーム画像に基づき、機械学習及びデータマイニングの少なくともいずれか一方を実行して、前記第2知識を獲得するとともに、当該獲得した第2知識を前記第2記憶手段に記憶させる学習手段をさらに有し、前記推定手段が、前記学習手段によって前記第2記憶手段に記憶された前記第2知識及び前記抽出された第1フレーム画像に基づき、前記被検眼における疾患の状態及び前記情報パラメーター値の少なくとも一方を推定する構成を採用してもよい。
 この構成により、本発明の診断支援装置は、第1抽出手段により抽出された診断可能フレーム画像に基づき、機械学習及びデータマイニングの少なくともいずれか一方を実行しつつ、第2知識を獲得できるので、診断支援装置に第2知識を与える際の労力を軽減することができる。なお、第2知識を獲得する際の具体的な手法に関しては任意であり、例えば、第1抽出手段によって抽出された診断可能フレーム画像をアノテータとなる複数人の医師に提示し、当該診断可能フレーム画像に基づく、医師の診断結果を得て、医師の診断結果によりタグ付けされた診断可能フレーム画像を教師データとしてコンボリューショナルニューラルネットワーク(畳み込みニューラルネットワークともいう)に入力し、教師あり学習を行い、第2知識を獲得する構成にしてもよい。また、教師なし学習や半教師あり学習、トランスダクティブ学習、マルチタスク学習など、各種の方法を用いるようにしてもよい。
 (9)また、請求項8に記載の構成において、前記学習手段が、前記第1抽出手段の抽出した第1フレーム画像に基づいた医師の診断結果を示す診断結果情報を取得し、当該診断結果情報及び該当する前記第1フレーム画像を教師データとしつつ、機械学習及びデータマイニングの少なくともいずれか一方を実行して前記第2知識を獲得し、前記第2記憶手段に記憶させる構成を採用してもよい。
 この構成により、撮影画像に含まれる複数のフレーム画像の中で診断可能フレーム画像として抽出されたもののみをアノテータとなる医師に提示することができる。この結果、本発明の診断支援装置は、第2知識を獲得する際の医師の作業負担を軽減しつつ、教師データを作成して、有用な第2知識を獲得することができる。
 (10)また、請求項9に記載の構成において、前記第1記憶手段には、前記第1知識として、前記被検眼を構成する各組織に発症しうる疾患毎に当該疾患の診断に利用可能な前記第1フレーム画像を抽出するための複数の知識が記憶され、前記第1抽出手段が、前記第1知識に基づき、前記疾患の状態推定に利用可能な前記第1フレーム画像を前記疾患毎に抽出するとともに、前記学習手段が、前記抽出された各疾患に対応する前記第1フレーム画像に基づき該当する疾患に関する前記診断結果情報を取得し、当該診断結果情報及び該当する前記第1フレーム画像を教師データとしつつ、機械学習及びデータマイニングの少なくとも一方を実行して、疾患毎に当該疾患を診断するために必要な前記第2知識を獲得し、当該獲得した第2知識を該当する疾患と対応付けて前記第2記憶手段に記憶させる構成を採用してもよい。
 この構成により本発明の診断支援装置は、1の撮影画像の中から被検眼に発症しうる複数の疾患の各々に対応する診断可能フレーム画像を個々に抽出することができる。そして、当該抽出した診断可能フレーム画像に基づく医師の診断結果に基づき教師データを作成し、当該教師データに基づいて機械学習及びデータマイニングの少なくとも一方を実行することで、各疾患に対応する第2知識を疾患毎に獲得しつつ、当該獲得した第2知識を該当する疾患と対応付けて第2記憶手段に記憶させることができる。この結果、本発明の診断支援装置は、複数の疾患を診断するための第2知識を1の撮影画像から取得でき、少ない数のサンプル画像に基づき、複数の疾患に対応する第2知識を一度に獲得できる。また、この構成により、本発明の診断支援装置は、撮影画像からアノテーション用の診断可能フレーム画像を予め疾患毎に抽出して、医師に提示できるので、アノテーションを行う際の医師の作業負担を軽減できる。
 (11)また、請求項1~10のいずれか1項に記載の構成において、前記第1記憶手段には、前記第1知識として、前記被検眼を構成する各組織に発症しうる疾患毎に当該疾患の状態推定に利用可能な前記第1フレーム画像を抽出するための複数の知識が記憶されるとともに、前記第2記憶手段には、前記第2知識として、疾患毎に当該疾患の状態を推定するための複数の知識が記憶され、前記第1抽出手段が、前記第1知識に基づき、前記疾患の診断に利用可能な第1フレーム画像を前記疾患毎に抽出するとともに、前記推定手段が、前記疾患毎に抽出された第1フレーム画像と該当する疾患の前記第2知識に基づき、前記被検眼における疾患毎の状態を推定し、前記生成手段が、前記診断支援情報として、前記推定した疾患毎の状態を含む情報を生成する構成を採用してもよい。
 この構成により、本発明の診断支援装置は、1の撮影画像の中から、被検眼に発症しうる複数の疾患の各々に対応する診断可能フレーム画像を疾患毎に抽出することができる。そして、本発明の診断支援装置は、当該抽出した診断可能フレーム画像に基づき、被検眼における複数の疾患の状態を疾患毎に推定し、当該推定した疾患毎の状態を含む診断支援情報を生成できる。
 この結果、本発明の診断支援装置は、被検眼に複数の疾患が発症している場合においても、1の撮影画像に基づき、被検眼に発症している全ての疾患状態を一度に推定しつつ、当該推定結果を含む診断支援情報を生成して利用でき、ユーザの利便性を格段に向上させることができる。
 (12)また、請求項1~11のいずれか1項に記載の構成において、前記撮影画像に含まれる前記各フレーム画像において、ピントの合っている前記被検眼の組織に対して該当する組織名をラベリングするラベリング手段と、前記ラベリングされた前記各フレーム画像において、ピントの合っている組織の写り込んだ画素領域の面積が最も大きい前記フレーム画像を第2フレーム画像として抽出する第2抽出手段と、をさらに有し、前記生成手段が、前記抽出された第2フレーム画像を含む前記診断支援情報を生成する、構成を採用してもよい。
 この構成により、本発明の診断支援装置は、撮影画像に含まれるフレーム画像において、ピントの合っている組織に対してラベリングを施し、各フレーム画像に写り込んだ組織を識別可能とすることができるとともに、撮影画像においてピントの合っている組織の写り込んだ画素領域の面積が最も大きいフレーム画像を抽出し、当該抽出したフレーム画像を含む診断支援情報を生成して利用することができる。通常、疾患の発症している組織が最も大きく写り込んでいるフレーム画像は、疾患の状態を最も直感的に理解できる画像である場合が多いので、上記構成により、患者が疾患の状態を最も直感的に理解しやすいベストショットのフレーム画像をGUI(Graphical User Interface)として含む診断支援情報を生成して利用することができ、患者のUX(User Experience)を劇的に向上させることができる。
 (13)また、請求項1~12のいずれか1項に記載の構成において、前記取得された撮影動画像に含まれる各フレーム画像を焦点距離に応じて積層し、前記被検眼の三次元画像を構築する三次元画像構築手段をさらに有し、前記第2記憶手段には、前記第2知識として、三次元画像に基づき、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、前記推定手段が、前記第2知識として、三次元画像に基づき前記被検眼の健康状態を推定するための知識が記憶され、前記推定手段が、前記生成された三次元画像と、前記第2知識に基づき、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定する構成を採用してもよい。
 移動体通信端末装置において撮影される動画像には、各々焦点距離の異なる複数のフレーム画像が含まれるので、各フレーム画像の焦点距離に応じた順番にてフレーム画像を積層することにより、被検眼の三次元画像を構築して健康状態の推定に三次元画像を利用し、又は、ユーザに三次元の画像を提示することができる。また、三次元画像には、平面画像よりも多くの情報が含まれるので、上記構成により、被検眼の健康状態や情報パラメーター値の推定精度を向上させ、診断支援情報の信頼度を向上させることができる。
 本発明によれば、機器や医師等の不足している地域においても確実に被検眼の診断支援情報を生成し、利用することができる。
本発明に係る診断支援システムの第1実施形態における構成例を示すシステム構成図である。 第1実施形態における近接撮影用装置を示す斜視図である。 第1実施形態の近接撮影用装置において凸レンズ部材とカラーフィルター部材をスライドさせた形態例を示す説明図である。 図2に示す近接撮影用装置の分解構成図である。 図2に示す近接撮影用装置にスリット光形成部材を取り付けた形態を示す正面図である。 図5に示す形態の斜視図である。 図5に示す形態の説明図である。 図5に示す近接撮影用装置を装着した移動体通信端末装置により被検眼の前眼部を撮影した撮影結果であり、(A)は角膜混濁、(B)は白内障手術後、(C)は流行性結膜炎、(D)は白内障なし、(E)は中等度白内障、(F)は重傷白内障の撮影画像である。 第1実施形態のスマートアイカメラによる白内障の評価の結果である。 複数の眼科専門家によるスマートアイカメラ及び既存装置による診断結果の相関を示す図である。 第1実施形態の診断支援サーバ装置の構成例を示すブロック図である。 第1実施形態の診断処理部が実行する処理を説明するイメージ図である。 第1実施形態の診断可能フレーム抽出部が実行する診断可能フレーム画像抽出処理を説明するイメージ図である。 第1実施形態の診断支援サーバ装置の診断処理部において実行される診断用知識獲処理を示すフローチャートである。 第1実施形態の診断支援サーバ装置の診断処理部において実行される診断支援情報生成処理を示すフローチャートである。 上段は白色光を当てた眼の代表的な写真であり、下段はフルオレセイン染色像を示す代表的な写真である。左列の画像は、既存装置で撮影した例であり、右列の画像は、スマートアイカメラを使用して撮影した例である。 (A)は、マウスの週齢と体重の関係を測定したグラフ、(B)は、グループ別の体重の経過についての表である。 (A)は、マウスの週齢と涙液分泌量(TS)の関係を測定したグラフであり、(B)は、グループ別の連続涙液分泌(TS)の経過についての表である。 (A)は、マウスの週齢と液層破壊時間(TFBUT)の関係を測定したグラフであり、(B)は、グループ別の涙液層破壊時間の経過についての表である。 フルオレセイン溶液によって染色された連続的な涙液膜写真であり、上段は、涙液層が3秒で割れたGVHD群の例、下段は、涙液膜が3秒で安定化し、6秒で崩壊した正常群の例である。 (A)は、マウスの週齢と連続角膜フルオレセインスコア(CFS)の関係を測定したグラフであり、(B)は、グループ別のCFSの経過についての表である。 第1実施形態のスマートアイカメラと既存装置について、TFBUTとCFSの測定結果を比較した結果であり、(A)はTFBUTについてのグラフ、(B)はCFSについてのグラフ、(C)は、これらをまとめた表である。 第1実施形態のスマートアイカメラ及び既存装置による診断結果の相関関係を示すグラフであり、(A)はTFBUTについてのグラフ、(B)はCFSについてのグラフである。 体重減少、TSの短縮、及び角膜上皮炎の悪化について整理したグラフであり、(A)は、TS、(B)は、TFBUT、(C)は、CFSについてのグラフ、(D)は、これらをまとめた表である。 ドライアイ患者とドライアイのない正常患者の合計42人に対して、ドライアイの診断基準であるTFBUT測定結果である。 第2実施形態の近接撮影用装置の形態を示す斜視図である。 図26に示す形態の正面図である。 図26に示す形態の分解構成図である。 第2実施形態のスマートアイカメラで撮影した眼底の撮影結果であり、(A)は正常眼底、(B)は高血圧性眼底、(C)は網膜菲薄化、(D)は視神経乳頭陥凹拡大(緑内障疑い)の画像である。 第2実施形態のスマートアイカメラで評価した高血圧性眼底の医師間での相関である。 第3実施形態の診断支援サーバ装置において診断可能フレーム画像から領域画像を切り出すためのアノテーション作業を説明するための図であり、(A)及び(B)には、各々、観察光として白色拡散光を照射した場合と、青色光を照射した場合に撮影される診断可能フレーム画像において眼の組織の写り込んだ領域を切り出すためのアノテーション作業を説明するための図を示している。 第3実施形態診断支援サーバ装置において眼の組織の写り込んだ領域を診断可能フレーム画像から推定し、領域画像を切り出す方法を説明するための図である。 第4実施形態の診断支援サーバ装置において前房深度の推定実験の流れを説明する図である。 第4実施形態の診断支援システムにおいて前房深度の推定に利用する診断用知識の獲得方法について説明するための図であり、(A)及び(B)には、各々、前房深度の推定に利用可能な診断可能フレーム画像の一例と、前眼部OCT(Optical Coherence Tomography)による被検眼の測定結果の一例を示している。
 以下、図面を参照しつつ、本発明の実施形態について説明する。なお、以下の実施形態は、撮影された被検眼の動画像に基づき当該被検眼の健康状態を推定し、当該推定結果を含む診断支援情報を生成して、ユーザが利用可能に提供する機能を実現するためのシステムに対し、本発明に係る診断支援装置、診断支援システム及びプログラムを適用した場合の実施形態である。但し、以下に説明する実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではなく、本実施形態で説明される構成の全てが本発明の必須構成要件であるとは限らない。
[A]第1実施形態
[A1]診断支援システムの構成及び概要
 まず、図1を用いて、本発明の第1実施形態における診断支援システム1の構成及び概要について説明する。なお、図1は、本実施形態の診断支援システム1の一構成例を示すシステム構成図である。また、図1においては、図面が煩雑になることを防止するため、一部のユーザのみを表示するとともに、診断支援システム1を構成する近接撮影用装置20の装着された一部の移動体通信端末装置10(すなわち、スマートアイカメラ)、及び、一部のアノテーション用端末装置40のみを示している。すなわち、診断支援システム1には、図示するよりも多くのユーザが存在するとともに、近接撮影用装置20の装着された多くの移動体通信端末装置10及びアノテーション用端末装置40が存在している。
 図1に示すように本実施形態の診断支援システム1は、(a)各ユーザによって携行されるとともに、各々、近接撮影用装置20が装着された状態でスマートアイカメラとして機能する複数の移動体通信端末装置10-1~n(以下、「移動体通信端末装置10」という。)と、各移動体通信端末装置10に対してネットワークNを介して通信接続され、各移動体通信端末装置10から送信(アップロード)されてくる動画像データに基づく処理を実行する診断支援サーバ装置30と、眼科専門医等のアノテータにより使用される複数のアノテーション用端末装置40-1~n(以下、「アノテーション用端末装置40」という。)と、を有し、診断支援サーバ装置30において、(1)移動体通信端末装置10からアップロードされる動画像データに基づき被検眼Eの健康状態(疾患の有無やその重症度等)を推定し、(2)当該推定結果に基づき診断支援情報を生成し、(3)当該生成した診断支援情報を該当する移動体通信端末装置10に配信することにより、被検眼Eの診断を支援するためのものである。なお、診断支援情報の形式及び内容に関しては任意であり、例えば、XML(Extensible Markup Language)等の形式で、疑いのある疾患名や疾患の重症度、治療方法、手術の要否等の情報を記述して、移動体通信端末装置10においてこれらの情報を表示させる構成としてもよい。また、診断支援サーバ装置30において推定する被検眼Eの健康状態に関しては任意であり、例えば、特定疾患の有無や被検眼Eの各種組織(例えば、眼瞼、眼表面、角膜、結膜、虹彩、前房、水晶体、眼底組織等)に発症する可能性のある各種疾患の状態を推定することができる。但し、本実施形態においては、説明を具体化するため、被検眼Eにおける核硬化症(白内障)の状態(すなわち、白内障の発症の有無及びその重症度)を推定するものとして説明を行い、他の疾患の状態を推定する方法に関しては、変形例及び第2実施形態の項にて詳述する。なお、本実施形態の診断支援システム1は、被検眼Eにおける白内障の重症度を推定せず、発症の有無のみを推定する構成としてもよい。
 ここで、白内障診断用の画像は、眼科に設置された高価な眼科用スリットランプ顕微鏡を用いて、専門知識を有する医師等が撮影する必要がある。このため、発展途上国等の機器や医師等が不足している地域においては、診断用の画像を撮影することができず、従来の眼科システムでは被検眼Eの健康状態を推定して、診断支援情報を生成する事自体が困難となる。
 そこで、本実施形態の診断支援システム1においては、移動体通信端末装置10に内蔵された光源92(後述)から出射される光源光に基づき、観察光としてのスリット光SLを発生させるスリット光形成部材61と、被検眼Eの水晶体組織におけるスリット光SLの反射光RLを含む光を移動体通信端末装置10の撮影用カメラレンズ91(後述)に集光する凸レンズ部材93と、を少なくとも有する構成の近接撮影用装置20を移動体通信端末装置10に装着し、移動体通信端末装置10に内蔵されたカメラモジュールを用いて被検眼Eの動画像を撮影する方法を採用することとした。そして、移動体通信端末装置10にて撮影された動画像に基づき、診断支援サーバ装置30が、被検眼Eにおける白内障の状態を推定し、推定結果に基づき診断支援情報を生成する。なお、近接撮影用装置20の構成及び原理に関しては後に詳述する。また、移動体通信端末装置10には複数のカメラモジュール(例えば、表示部側に設けられたインカメラモジュール及び背面側に設けられたアウトカメラモジュールの2台等)が設けられるケースが多い。但し、通常、アウトカメラモジュールの方が高い解像度を有し、光学系も機能的に優れたものが搭載される傾向にある。このため、本実施形態においては、近接撮影用装置20としてアウトカメラモジュール用のものを用い、被検眼Eの動画像撮影時における解像度を向上させ、白内障の状態推定時の精度を向上させる構成を採用することとした。すなわち、本実施形態において光源92及び撮影用カメラレンズ91というときは、移動体通信端末装置10のアウトカメラモジュール側に設けられたものを示すものとして説明を行う。但し、本発明は、アウトカメラモジュールを利用するものに限定されず、インカメラモジュールを利用する構成とすることも可能である。
 移動体通信端末装置10に搭載されるカメラモジュールは、専門的な知識を有しないユーザであっても容易に操作することができる。また、近接撮影用装置20を移動体通信端末装置10に装着することにより、移動体通信端末装置10の光源92から出射される光源光に基づいてスリット光SLを発生させつつ、当該スリット光SLを観察光として被検眼Eの水晶体組織に照射し、水晶体組織におけるスリット光SLの反射光RLを含む光をカメラモジュールの撮影用カメラレンズ91(後述)に集光して、1以上の診断可能フレーム画像を含む動画像を容易に撮影できる。
 一方、医師等以外のユーザが被検眼Eの画像を撮影する場合には、被検眼Eの撮影に不慣れであるため、例えば、(a)観察対象組織(すなわち、水晶体組織)にピントの合っていないフレーム画像や(b)水晶体組織が写り込んでいないフレーム画像、(c)そもそも被検眼E自体が写っていない画像等、白内障の診断に利用な診断可能フレーム画像としての条件を満たさない雑多なフレーム画像(すなわち、診断に利用できないフレーム画像)を多数含む動画像が撮影される可能性が高い。また、医師等が被検眼Eの画像を撮影した場合であっても、動画像撮影開始後の数秒間は、白内障の診断に利用できないフレーム画像を含む動画像が撮影される可能性がある。このため、スマートアイカメラを用いて撮影された動画像をそのまま用いて白内障の状態を推定することは困難となる。そこで、本実施形態においては、診断支援サーバ装置30が、移動体通信端末装置10からアップロードされた動画像データを構成する全てのフレーム画像の中から被検眼Eにおける白内障の状態の診断に利用可能な診断可能フレーム画像を抽出し、当該診断可能フレーム画像に基づき被検眼Eにおける白内障の状態を推定する方法を採用することとした。
 ここで、白内障の重症度を診断するためには、(条件1)被検眼Eの水晶体組織に観察光としてのスリット光SLが照射されていること、(条件2)当該照射されたスリット光SLの水晶体組織における反射光RLとともに水晶体組織の少なくとも一部が写り込んでいること、(条件3)水晶体組織にピントが合っていること、という3条件を満たす画像を用いる必要がある。このため、診断支援サーバ装置30は、移動体通信端末装置10にて撮影された動画像を構成する全フレーム画像の中からこれら3条件を満たすフレーム画像を診断可能フレーム画像として抽出する構成になっている。そして、診断支援サーバ装置30は、当該抽出した診断可能フレーム画像に基づき被検眼Eにおける白内障の状態を推定して、診断支援情報を生成する。なお、本実施形態の診断支援サーバ装置30は、例えば、本発明の「診断支援装置」を構成する。
 この構成により、本実施形態の診断支援システム1は、ユーザが専門的な医学知識を有しない場合であっても、被検眼Eにおける白内障診断用の診断可能フレーム画像を含む動画像を撮影し、当該撮影された動画像に基づき白内障の状態を適切に推定することができる。この結果、本実施形態の診断支援システム1は医師等の不足している地域においても確実に被検眼Eの診断支援情報を生成して利用できる。また、移動体通信端末装置10に装着する近接撮影用装置20は、少なくともスリット光形成部材61と、凸レンズ部材93と、を有していれば足りるので非常に低コストに製造することができる。この結果、本実施形態の診断支援システム1は、高価な眼科用スリットランプ顕微鏡を用いることなく、低コストに診断可能フレーム画像を含む動画像を撮影し、診断支援情報を生成できる。
[A2]診断支援システム1の概略構成
 移動体通信端末装置10は、例えば、スマートフォン、タブレット型情報通信端末装置、携帯電話機等、ユーザによって携行される携帯型の通信端末装置であり、液晶パネルや有機EL(Electro Luminescence)パネル等の表示素子により構成される図示せぬ表示部やスピーカ、表示部上に設けられたタッチパネルやテンキー等により構成される操作部を有する。また、移動体通信端末装置10は、撮影用カメラレンズ91を含むカメラモジュールと、白色LED(Light Emitting Diode)等の発光素子により構成される光源92を備えている。
 カメラモジュールは、撮影用カメラレンズ91の他、撮影用カメラレンズ91を透過した光を絞る絞り機構、シャッター機構、オートフォーカス機構、手ぶれ補正機構等の図示せぬ光学系を有する。また、カメラモジュールは、撮影用カメラレンズ91を透過した光を受光し、当該受光した光に応じた信号を出力するCCD(Charge Coupled Device)イメージセンサやCMOS(complementary metal oxide Semiconductor)イメージセンサ等のイメージセンサを有し、イメージセンサによって出力された信号をCPU(Central Processing Unit)により構成される図示せぬ画像生成部に供給することで撮影用カメラレンズ91を透過した光に基づいて動画像データを生成する。なお、画像生成部における動画像データの生成手法は任意である。例えば、フレーム画像毎にビットマップデータを生成して、当該生成したビットマップデータを時系列に並べることによって動画像データを生成するようにしてもよく、MPEG(Moving Picture Expert Group)2や、H.264、H.265等のフレーム間予測符号化方式にて圧縮した形式の動画像データを生成するようにしてもよい。このカメラモジュール及び画像生成部は、表示部及び操作部と連動して、操作部に対するユーザの入力操作に基づき光学系を調整する。そして、イメージセンサによって受光された光に基づき被写体(本実施形態においては、被検眼E)の写り込んだフレーム画像を生成し、当該生成したフレーム画像データに基づき撮影中の画像を表示部に表示させる。なお、移動体通信端末装置10に搭載されるオートフォーカス機構を備えたカメラモジュールについては、従来のスマートフォン等に用いられるカメラモジュールと同様である。
 さらに、移動体通信端末装置10には、撮影した被検眼Eの動画像に基づき、診断支援サーバ装置30から診断支援情報を取得して表示するためのアプリケーションプログラム(以下、「診断用アプリ」という。)が搭載(インストール)されている。そして、移動体通信端末装置10は、この診断用アプリを実行することにより、カメラモジュール及び画像生成部によって生成された動画像データを診断支援サーバ装置30にアップロードすることにより診断支援サーバ装置30から診断支援情報を取得する。そして、移動体通信端末装置10は、このようにして取得した診断支援に基づき被検眼Eにおける白内障の有無やその重症度(具体的には、白内障の重症度を1~5の数値で表現するNSグレード等の指標)に関する情報、治療方法、手術の要否等の情報を表示部に表示する。なお、診断支援情報をXML形式で生成する場合には、既存のブラウザアプリケーションで、診断用アプリを代用することもできる。
 近接撮影用装置20は、移動体通信端末装置10に着脱可能に装着される光学機器であり、少なくとも移動体通信端末装置10の光源92から照射される光に基づき、スリット光SLを発生させるスリット光形成部材61と、スリット光SLの被検眼Eにおける反射光RLを含む光を撮影用カメラレンズ91に集光する凸レンズ部材93と、を有する。そして、近接撮影用装置20は、光源92から出射される光源光(白色拡散光)に基づき観察光としてのスリット光SLを発生させるとともに、被検眼Eにおけるスリット光SLの反射光RLを含む光を撮影用カメラレンズ91に集光する。移動体通信端末装置10は、この近接撮影用装置20の機能により撮影用カメラレンズ91に集光された光に基づき、診断可能フレーム画像を含む被検眼Eの動画像を撮影する。この結果、近接撮影用装置20が装着された状態の移動体通信端末装置10(すなわち、スマートアイカメラ)は、全体として既存の眼科用スリットランプ顕微鏡と同様の機能を実現する。
 診断支援サーバ装置30は、ネットワークN上に設けられたコンピュータシステムであり、機械学習又はデータマイニングによって獲得された診断可能フレーム画像抽出用の知識(以下、「抽出用知識」という。)に基づき、移動体通信端末装置10からアップロードされた動画像データに含まれる診断可能フレームを抽出する。なお、本実施形態の抽出用知識は、例えば、本発明の「第1知識」に相当する。また、抽出用知識の具体的な獲得方法に関しては任意である。但し、動画像データに含まれる各フレーム画像が診断可能フレーム画像に該当するか否かの判断は白内障の診断とは異なり、上記条件1~3を充足するか否かのみで決定できる。このため、眼科専門医でなくとも診断可能フレーム画像に該当するか否かを判断することが可能である。従って、例えば、任意の人物がアノテーション用端末装置40を用いて、移動体通信端末装置10からアップロードされた動画像データの中から白内障用の診断可能フレーム画像を抜き出すとともに、当該抜き出したフレーム画像を教師データとしつつ、診断支援サーバ装置30において機械学習及びデータマイニングの少なくとも一方を実行することにより抽出用知識を獲得する構成としてもよい。
 また、本実施形態の診断支援サーバ装置30は、抽出用知識に基づいて動画像データから抽出された診断可能フレームに基づき、被検眼Eにおける白内障の状態を推定するための診断用知識を有している。そして、診断支援サーバ装置30は、動画像データから抽出された診断可能フレーム画像と診断用知識に基づき被検眼Eにおける白内障の有無やNSグレード等の白内障の重症度を示す指標、治療方法、手術の要否等を推定し、当該推定結果を含む診断支援情報を生成して、動画像データのアップロード元の移動体通信端末装置10に配信する。なお、本実施形態の診断用知識は、例えば、本発明の「第2知識」を構成する。また、診断支援サーバ装置30に診断用知識を獲得させる方法については任意である。例えば、図示せぬ眼科施設に設置される電子カルテ管理用コンピュータを、直接又はネットワークNを介して診断支援サーバ装置30と接続し、眼科施設に来院した患者の診断結果及び眼科施設にて撮影された眼科診断用画像を眼科施設の電子カルテから取得し、当該取得したデータを教師データとして用いつつ、機械学習及びデータマイニングの少なくともいずれか一方を実行して診断用知識を獲得する構成としてもよい。但し、この方法を用いる場合には、眼科施設の電子カルテ管理用コンピュータに特殊な機能を搭載する必要がある。また、この場合、眼科施設の電子カルテ管理用コンピュータと診断支援サーバ装置30を通信接続し、診断支援サーバ装置30にて各管理コンピュータから取得したデータを管理する必要性が生じ、システム構築時におけるイニシャルコストを削減することが難しくなる。さらに、この場合には、電子カルテ情報を利用することに関して、眼科施設側において予め患者の同意を得て、個人情報の管理を厳格に行う必要性があり、システム運営時のランニングコストを削減することも難しくなる。
 そこで、本実施形態の診断支援システム1においては、概略以下の方法にて診断用知識を獲得することとした。(ステップ1)まず、診断支援サーバ装置30は、移動体通信端末装置10にて撮影された動画像データが移動体通信端末装置10からアップロードされてくる都度、当該動画像データから診断可能フレーム画像を抽出して、当該診断可能フレーム画像をアノテーション用端末装置40に送信し、アノテーション用端末装置40にて診断可能フレーム画像を表示させる。(ステップ2)アノテータとなる3名の医師がアノテーション用端末装置40に表示された診断可能フレーム画像に基づき、各々、白内障の有無やその重症度(NSグレード等の指標)、治療方法、手術の要否等に関する診断を行い、診断結果をアノテーション用端末装置40に入力する。(ステップ3)アノテーション用端末装置40は、医師の入力に基づき診断結果を示す診断結果情報を生成し、当該診断結果情報により該当する診断可能フレーム画像にタグ付けを行うことで各診断可能フレーム画像に対応する教師データを作成して、診断支援サーバ装置30に送信する。(ステップ4)診断支援サーバ装置30は、アノテーション用端末装置40から取得した教師データ(すなわち、タグ付け済の診断可能フレーム画像)を、その都度、蓄積していく。そして、蓄積した教師データの数が診断用知識の獲得に必要なサンプル数α(以下、単に「α」という。)以上となった時点で、診断支援サーバ装置30は、蓄積済の教師データを用いて機械学習及びデータマイニングの少なくともいずれか一方を実行して診断用知識を獲得する。
 この方法を採用することにより、アノテータとなる医師は、動画像データ内から診断可能フレーム画像を見つけ出す作業を行うことなく、診断支援サーバ装置30にて抽出された診断可能フレーム画像に基づいて白内障に関する診断を下せば足りるので、診断用知識獲得時における医師の作業負担を軽減できる。また、移動体通信端末装置10からアップロードされる動画像データには、患者を特定可能な情報を含ませる必要がないので、本方法によれば個人情報保護のためのコストを削減できる。さらに、アノテーション用端末装置40は、少なくとも1台用意すれば足りるため、低コストにシステムを構築できる。なお、診断用知識は、動画像データから抽出された診断可能フレーム画像に基づく医師の診断結果から得られる知識の他、例えば、医学書や医学事典、その他の文献に記述された知識、或いは、インターネット上に開示された医学的知識を含ませる構成にしてもよい。この場合には、治療方法及び手術の要否に関しては、推定された白内障のNSグレード等に応じて、医学書等の知識から推定する構成を採用することもできる。
 そして、診断支援サーバ装置30から診断支援情報が配信されると、移動体通信端末装置10においては当該診断支援情報に基づき被検眼Eの白内障の有無やNSグレード等の指標、治療方法、手術の要否等の情報が表示部に表示され、ユーザが閲覧可能な状態となる。
 アノテーション用端末装置40は、例えば、PC(Personal Computer)やタブレット型情報通信端末装置等のコンピュータであり、図示せぬ表示部や表示部上に設けられたタッチパネル、マウス、キーボード等から構成される操作部を有し、診断支援サーバ装置30に対して直接、又は、ネットワークNを介して通信接続される。
 このアノテーション用端末装置40は、診断支援サーバ装置30にて抽出された診断可能フレーム画像を表示させる。また、アノテーション用端末装置40は、アノテータとなる医師が診断可能フレーム画像に基づく診断結果を入力するためのGUIを表示させ、医師が診断結果を入力すると当該入力された診断結果に対応する診断結果情報を生成する。そして、アノテーション用端末装置40は、当該診断結果情報により該当する診断可能フレーム画像にタグ付けを行うことで教師データを作成して診断支援サーバ装置30に送信する。なお、アノテーション用端末装置40の台数に関しては任意であり、アノテータ(診断用知識獲得時は医師、抽出用知識獲得時は任意の人物)の人数分設けてもよく、1台のアノテーション用端末装置40を複数のアノテータで使い回すようにしてもよい。
[A3]近接撮影用装置20の構成
 次いで、本実施形態の近接撮影用装置20の構成について、図2~7を用いて説明する。なお、図2~7は、本実施形態の近接撮影用装置20Aの構成を示す図である。図2~図7に示すように、本実施形態の近接撮影用装置20Aは、移動体通信端末装置10に着脱可能に装着される構成を有し、外形が直方体形状のハウジング80を備えている。
 このハウジング80は、内部が中空であり、図2及び4に示すように、外壁部81と、前面プレート90とで構成されている。外壁部81は、前壁82と奥壁83と左側壁84と右側壁85と上壁86と下壁87とを有している。下壁87には、移動体通信端末装置10が挿入される開口(図示しない)が形成されている。その開口は、左側壁84の側から右側壁85の側に至るまでの左右方向に形成された貫通孔により構成されている。その開口には、アウトカメラモジュールの設けられた移動体通信端末装置10の上端部が挿入され、前後方向における開口幅は、移動体通信端末装置10の厚さよりも僅かに広く、また、左右方向における開口幅は、移動体通信端末装置10の幅よりも僅かに広く構成されている。なお、ここで、前方向とは、奥壁83から前壁82へと向かう方向とし、その反対の方向を後方向とする。また、左方向とは、右側壁85から左側壁84へと向かう方向とし、その反対の方向を右方向とする。さらに、上方向とは下壁87から上壁86へと向かう方向とし、その反対の方向を下方向と定義するものとする。
 前壁82は、上縁、下縁及び右縁が前方向に枠状に凸になっている周縁部を有している。その周縁部には、その周縁部の幅よりも広い幅の前面プレート90が装着されている。前面プレート90は、開口した左縁部90a、右縁部90b、上縁部90c、下縁部90dで構成されて、中央部が開いた枠状体である。前面プレート90の幅は、前壁82の周縁部よりも幅が広い。そのため、周縁部の内方には、前面プレート90がはみ出すように設けられている。はみ出した部分は、上下レールとして機能し、板状のカラーフィルター部材97と板状の凸レンズ部材93とがその上下レールにスライド可能に嵌め込まれている。前壁82と、前面プレート90のはみ出し部分との間の隙間は、板状のカラーフィルター部材97と板状の凸レンズ部材93の厚さよりも少しだけ大きく、スライド可能な寸法で形成されている。なお、図2の例では、開口は、左縁部90aであるが、右縁部90bであってもよい。
 前壁82には、2つの穴が設けられている。1つの穴89は、移動体通信端末装置10の撮影用カメラレンズ91に対応する位置に設けられたものであり、もう1つの穴88は、移動体通信端末装置10の光源92に対応する位置に設けられたものである。この2つの穴88,89により、移動体通信端末装置10の光源92から出射される光源光を前方向に発することができるとともに、移動体通信端末装置10の撮影用カメラレンズ91で復路光(例えば、スリット光SLの反射光RLを含む光)を受け取って被検眼Eの前眼部や眼底の画像を撮影することができる。
(カラーフィルター部材)
 カラーフィルター部材97は、光源92の上に着脱可能に設けられている。このカラーフィルター部材97は板状部材であり、次述する図3(A)~(C)に例示するようにカラーフィルター部材97をスライドさせて光源92上での着脱が行われる。このカラーフィルター部材97は、移動体通信端末装置10の光源92の発する白色光を青色光にする青色フィルターであることが好ましい。例えば、白色光を波長488nmの青色光に変換する青色フィルターであることが好ましい。青色フィルターは、アクリル樹脂を着色したものを採用できる。
 カラーフィルター部材97に設けられた穴98は、カラーフィルター部材97をスライドさせる際に指を掛ける穴である。指を掛けてスライドさせるためのものであれば、必ずしも穴である必要はなく、突起であってもよい。
カラーフィルター部材97を左右方向にスライドさせることにより、光源92を覆ったり覆わなかったりすることができる。すなわち、カラーフィルター部材97及び凸レンズ部材93をスライドさせることで、カラーフィルター部材97を光源92の上から着脱させる、又は、凸レンズ部材93を撮影用カメラレンズ91の上から着脱させる。本実施形態においては、カラーフィルター部材97を光源92から取り外すことにより、光源92から出射される光源光としての白色拡散光が、穴88をそのままの状態で通過して、観察光として被検眼Eに照射され、その反射光RLを含む光を、撮影用カメラレンズ91を通してイメージセンサにて受光することにより、被検眼Eの眼瞼、眼表面、角膜及び結膜を観察し、撮影を行うことができる。また、カラーフィルター部材97で光源92を覆うことにより、角膜及び結膜に発生した傷を観察し、撮影することができる。例えば、眼に造影剤としてフルオレセイン溶液を点眼し、カラーフィルター部材97として生体染色検査用ブルーフリーフィルターを採用することにより、光源光を青色光に変化させ、観察光として被検眼Eに照射して、角膜や結膜に生じた傷を緑に変えて、その緑の光を凸レンズ部材93により撮影用カメラレンズ91に集光してイメージセンサで受光することにより被検眼Eの角膜及び結膜に生じた傷を観察し、撮影することができる。なお、青色光を利用して被検眼Eの角膜及び結膜における疾患の状態を推定する方法及び白色拡散光を用いた前眼部疾患の状態推定に関しては、変形例の項にて詳述する。
(凸レンズ部材)
 凸レンズ部材93は、撮影用カメラレンズ91の上に着脱可能に設けられている。この凸レンズ部材93は板状部材であり、図3(A)~(C)に例示するように凸レンズ部材93をスライドさせて撮影用カメラレンズ91上での着脱が行われる。この凸レンズ部材93は、移動体通信端末装置10の撮影用カメラレンズ91に光を集光させる凸レンズ96を備えている。その凸レンズ96は、焦点距離を考慮して任意に選択される。凸レンズ96は、凸レンズ部材93に設けられた穴94に装着されている。凸レンズ96により、被検眼Eの観察対象組織にピントを合わせ、画像のぼやけを修正して、被検眼Eにおける観察対象組織を鮮明に観察し、撮影することができる。
 凸レンズ部材93に設けられた穴95は、凸レンズ部材93をスライドさせる際に指を掛ける穴であるとともに、凸レンズ部材93をスライドさせてその穴95を光源92上に配置することにより(図3(C)参照)、光源92から発する光の指向性を向上させるようにも作用する。
 図3は、カラーフィルター部材97と凸レンズ部材93とをスライドさせた形態を示している。図3(A)は、凸レンズ部材93の凸レンズ96を撮影用カメラレンズ91上に装着し、カラーフィルター部材97を右方向にスライドさせて光源92上から取り外している形態である。図3(B)は、凸レンズ部材93の凸レンズ96を撮影用カメラレンズ91上に装着し、カラーフィルター部材97を左方向にスライドさせて光源92上に装着させている形態である。図3(C)は、カラーフィルター部材97を右方向にスライドさせて光源92上から取り外し、凸レンズ部材93の凸レンズ96を撮影用カメラレンズ91上から取り外している形態である。なお、この図3(C)では、凸レンズ部材93が有する穴95を光源92の上に配置しており、光源92から出射される光源光としての白色拡散光は、穴88及び穴95を通過する際に指向性が調整され、観察光として、前方向に照射されるようになっている。
(スリット光形成部材)
 スリット光形成部材61は、図5~図7に示すように、移動体通信端末装置10の光源92から出射される光源光としての白色拡散光を円柱レンズ62でスリット光SLとする部材である。スリット光形成部材61の着脱手段は特に限定されないが、カラーフィルター部材97及び凸レンズ部材93をスライドさせる上下レールに着脱可能に設けられることが好ましい。なお、例えば、本実施形態のスリット光形成部材61、カラーフィルター部材97、穴88及び95は、本発明の「観察光照射部材」を構成する。
 こうしたスリット光形成部材61により、円柱レンズ62で形成されたスリット光SLを被検眼Eに照射して、その反射光RLを含む光を凸レンズ部材93により移動体通信端末装置10の撮影用カメラレンズ91に集光して、被検眼Eの画像を撮影することにより被検眼Eの前眼部を詳細に観察し、撮影することができるとともに、眼底組織を観察し、撮影することができる。この結果、本実施形態の近接撮影用装置20を装着した状態の移動体通信端末装置10(すなわち、スマートアイカメラ)は全体として、眼科用スリットランプ顕微鏡と同様の機能を実現できることとなる。
 また、スリット光形成部材61の本体部61’は、図7に示すように、光源92からの光を反射する第1反射ミラー65と、その第1反射ミラー65で反射した光を反射する第2反射ミラー66と、その第2反射ミラー66で反射した光を通過させるスリット部67とを有している。スリット部67を通過した光は、円柱レンズ62でスリット光SLとなる。そして、このスリット光SLを被検眼Eに照射して、その反射光RLを含む光を凸レンズ部材93により移動体通信端末装置10の撮影用カメラレンズ91に集光しつつ、カメラモジュールのイメージセンサにより受光することで被検眼Eの眼瞼、眼表面、角膜、結膜、水晶体及び前房といった前眼部の各組織を詳細に観察し、撮影できるとともに、眼底組織を観察し、撮影できる。なお、この円柱レンズ62は特に限定されないが、各種の円柱レンズから選択して採用することができる。スリット部67の幅は、約1mm前後の狭小のスリットであることが好ましく、範囲としては0.7~1.5mm程度の幅で形成されていることが好ましい。
 以上の構成を有する本実施形態の近接撮影用装置20Aは、(a)スリット光形成部材61及び凸レンズ部材93を装着し、カラーフィルター部材97を取り外すことにより、被検眼Eの前眼部(特に、水晶体及び前房の各組織)を観察し、撮影できる。(b)また、凸レンズ部材93のみを装着し、スリット光形成部材61及びカラーフィルター部材97を取り外すことにより、被検眼Eの眼瞼、眼表面、角膜、結膜の各組織を観察し、撮影できる。こうすることにより、水晶体組織及び前房組織は、光源92から出射される光源光に基づいて発生させたスリット光SLを観察光として用いつつ詳細に観察し、撮影できる。また、被検眼Eの眼瞼、眼表面、角膜及び結膜は、穴88をそのまま通過した光源光(白色拡散光)又はスリット光SLを観察光として用いて詳細に観察し、撮影できる。なお、本実施形態においては、被検眼Eにおける白内障の状態を推定するため、スリット光形成部材61及び凸レンズ部材93を装着した図5~7の構成からカラーフィルター部材97を取り外した状態の近接撮影用装置20を装着した移動体通信端末装置10(スマートアイカメラ)を用いて被検眼Eの水晶体組織を観察し、撮影するものとして説明を行う。また、本実施形態の近接撮影用装置20Aは、スリット光形成部材61及び凸レンズ部材93を取り付けた状態にて被検眼Eの眼底組織(網膜)を観察することもできるが、眼底組織の詳細な観察及び撮影には、眼底組織観察用の筒状部材180(後述)を取り付けることが好ましい。
 以上説明したように、本実施形態の近接撮影用装置20Aは、従来のスマートフォン等の移動体通信端末装置10に装着するだけで、高価な眼科用スリットランプ顕微鏡と同様の機能を実現できる。この結果、被検眼Eの眼瞼、眼表面、角膜、結膜、前房及び水晶体等前眼部組織の詳細な画像を低コスト且つ簡易に撮影して、白内障用の診断可能フレーム画像を含む動画像を容易に撮影することができる。
[A4]スマートアイカメラを用いた白内障診断の検証結果について
 本発明者は、スマートアイカメラと既存の眼科用スリットランプ顕微鏡との比較のため、スリット光形成部材61及び凸レンズ部材93を装着し、カラーフィルター部材97を取り外した図5~7の構成の近接撮影用装置20Aを装着した移動体通信端末装置10(スマートフォン:すなわち、スマートアイカメラ)を用いて2018年12月に観察を行った。なお、この際の症例は、前眼部:58眼(男性21名、女性37名)とした。また、検討項目は、眼瞼・前眼部疾患の有無、白内障重症度眼瞼・前眼部疾患の有無、白内障重症度、左右差、撮影秒数等とした。また、本検証に際しては、被検眼Eに発症したドライアイの状態観察等も行ったが、この点については変形例の項にて詳述する。
 このとき、近接撮影用装置20Aには、焦点調整のため、移動体通信端末装置10の撮影用カメラレンズ91の上に着脱可能な凸レンズ96(焦点距離:10~30mm、倍率:20倍)を備えたものを用いた。この凸レンズ96は特に限定されないが、この検証例では、TK-12P(株式会社ティ・エス・ケイ製)を使用した。なお、今回使用した移動体通信端末装置10のデジタルルクス照明器(型名:LX-1010B、Zhangzhou WeiHua Electronic Co.Ltd.製)の照度は、8000ルクスであった。また、本検証には、iPhone7(登録商標)用に設計された近接撮影用装置20Aを利用した。
(前眼部の観察結果)
 実際に、図5~7に示す近接撮影用装置20Aを装着した移動体通信端末装置10により上記58眼を対象として撮影した画像の一例を図8に示す。図8に示すように、翼状片、角膜混濁、流行性角結膜炎、眼内レンズ眼等、様々な前眼部疾患の評価が全症例で評価可能であった。なお、図8中、(A)は角膜混濁、(B)は白内障手術後、(C)は流行性結膜炎、(D)は白内障なし、(E)は中等度白内障、(F)は重傷白内障の撮影画像である。
 図5~図7に示す近接撮影用装置20Aを装着した移動体通信端末装置10による白内障の診断結果と既存のスリットランプ顕微鏡による診断結果の比較結果を図9及び図10に示す。なお、図9において、縦軸は、白内障の重症度を示すNSグレード、横軸のEXは、既存装置での評価結果であり、SEC1~3は、図5~7に示す近接撮影用装置20Aを装着した移動体通信端末装置10で撮影した画像に基づき3名の眼科専門家が診断した結果である。
 図9に示すようにどの観測者の間にも、また、左右の眼についても大きな差異はなかった。また、図10は、各眼科専門医による近接撮影用装置20Aを装着した移動体通信端末装置10による診断結果と既存の眼科用スリットランプ顕微鏡による診断結果との相関を示す図である。近接撮影用装置20Aを装着した移動体通信端末装置10と既存の眼科用スリットランプ顕微鏡との相関が認められ、左右の眼に対しても高い相関が観察された。これらの結果は、図5~図7に示す近接撮影用装置20Aを装着した移動体通信端末装置10が被検眼Eの前眼部組織の観察表現型をとるのに十分な客観性と再現性を持っていることを示している。
 以上説明したように、本実施形態の近接撮影用装置20Aを装着した移動体通信端末装置10により、被検眼Eの前眼部の各種症状を既存の眼科用スリットランプ顕微鏡に対して遜色のなく観察を行えることが確認できた。
 そして、本実施形態の診断支援システム1においては、以上説明した近接撮影用装置20Aを装着した状態の移動体通信端末装置10を用いて被検眼Eの水晶体組織の動画像を撮影し、撮影動画像に基づき被検眼Eにおける白内障の状態を推定して、診断支援情報を生成する。なお、白内障には、核硬化症の他、アトピー性白内障や皮質白内障等の疾患が存在するがいずれの疾患に関しても核硬化症と同様の手法により診断可能フレーム画像を含む動画像を撮影できる。
 この構成により、本実施形態の診断支援システム1は、既存の高価な眼科用スリットランプ顕微鏡を用いることなく、低コストで製造可能な近接撮影用装置20Aを装着した移動体通信端末装置10(すなわち、スマートアイカメラ)を用いて被検眼Eにおける白内障の状態を診断可能な診断可能フレームを含む動画像を撮影し、被検眼Eにおける白内障の状態を推定できる。また、本実施形態のスマートアイカメラは、基本的に従来のスマートフォン等の装置と同様の操作により診断可能フレーム画像を含む動画像を撮影できる。従って、専門知識を有しないパラメディカルや患者の家族、さらにはユーザ本人(すなわち、患者本人)が自ら自分の眼を撮影した場合においても、当該撮影した動画像に含まれる診断可能フレームに基づき、被検眼Eにおける白内障の状態を適切に推定することができる。なお、ユーザ本人が自分の眼を被検眼Eとして撮影し、セルフチェックを行う場合には、被検眼E[すなわち、チェックしたい側の眼(例えば、右眼)]にスリット光SLが照射された状態を作りつつ、被検眼E(右眼)の動画像をスマートアイカメラにより撮影するようにすれば良い。但し、本実施形態の場合、近接撮影用装置20Aが移動体通信端末装置10のアウトカメラモジュールを利用する構成になっているので、実際に撮影する場合には、鏡の前で両眼を開き、スリット光SLを被検眼Eとなる右眼に照射させつつ、移動体通信端末装置10の表示部に表示されている撮影中の画像(すなわち、右眼の写り込んだ画像)を鏡に投影し、左眼(すなわち、被検眼Eと逆の眼)でどのような画像が撮影されているのかを鏡越しで確認しつつ、スマートアイカメラの位置と向きを調整しながら、自身の右眼の動画像を撮影するようにすればよい。
[A5]診断支援サーバ装置30の構成
 次いで、本実施形態の診断支援サーバ装置30の構成について、図11及び12を用いて説明する。なお、図11は、本実施形態の診断支援サーバ装置30の構成例を示すブロック図、図12は、本実施形態の診断処理部350が実行する処理を説明するイメージ図である。
 図11に示すように本実施形態の診断支援サーバ装置30は、ネットワークNに通信接続される通信制御部310と、各種のメモリとして機能するROM/RAM320と、記憶装置330と、装置全体を制御するサーバ管理制御部340と、(1)移動体通信端末装置10からアップロードされる動画像データを取得し、(2)当該動画像データから診断可能フレームを抽出し、(3)当該診断可能フレームに基づき被検眼Eにおける白内障の状態を推定し、(4)推定結果に基づき診断支援情報を生成し、(5)生成した診断支援情報を該当する移動体通信端末装置10に配信する、処理を実行する診断処理部350と、を有する。なお、上記の各部は、バスBによって相互に接続され、各構成要素間におけるデータの転送が実行される。
 通信制御部310は、所定のネットワークインターフェースであり、ネットワークNを介して、移動体通信端末装置10に通信接続される。また、通信制御部310は、アノテーション用端末装置40と直接又はネットワークNを介して通信接続され、移動体通信端末装置10及びアノテーション用端末装置40との間において各種データの授受を行う。
 ROM/RAM320には、診断支援サーバ装置30の駆動に必要な各種のプログラムが記憶されている。また、ROM/RAM320は、各種の処理が実行される際のワークエリアとして用いられる。
 記憶装置330は、HDD(Hard Disc Drive)、又は、SSD(Solid State Drive)により構成される。
 そして、記憶装置330には、(a1)プログラム記憶部331と、(a2)抽出用知識記憶部332と、(a3)教師データ記憶部333と、(a4)診断用知識記憶部334と、が設けられている。なお、本実施形態の抽出用知識記憶部332及び診断用知識記憶部334は、各々、例えば、本発明の「第1記憶手段」及び「第2記憶手段」を構成する。
 プログラム記憶部331には、例えば、BIOS(Basic Input Output System)やOS(Operating System)等のプログラムとともに、(b1)移動体通信端末装置10からアップロードされた被検眼Eの動画像データと抽出用知識に基づき、診断可能フレーム画像を抽出する処理を実行するための診断可能フレーム画像抽出プログラムと、(b2)診断用知識を獲得する処理を実行するための診断用知識獲得プログラムと、(b3)診断可能フレーム画像と診断用知識に基づき診断支援情報を生成して配信する処理を実行するための診断支援情報生成プログラムと、が記憶される。
 抽出用知識記憶部332には、被検眼Eにおける白内障の状態を診断可能な診断可能フレーム画像を抽出するための知識として、上記条件1~3の全てを満たすフレーム画像を抽出するために必要な知識が予め記憶される。なお、本実施形態における抽出用知識の具体的な獲得方法及びデータ形式に関しては任意であり、例えば、後述する診断可能フレーム抽出部352を構成するコンボリューショナルニューラルネットワーク(畳み込みニューラルネットワークともいう。)対して、アノテータが抜き出した任意の診断可能フレーム画像を教師データとして入力することにより得られる重みとバイアスのパラメーターを抽出用知識として獲得し、抽出用知識記憶部332に記憶させる構成としてもよい。
 教師データ記憶部333には、移動体通信端末装置10から動画像データがアップロードされる都度、アノテーション用端末装置40から取得される教師データが記憶される。
 診断用知識記憶部334には、被検眼Eにおける白内障の有無やNSグレード、治療方法、手術の要否等を推定するための診断用知識が記憶される。
 サーバ管理制御部340は、主にCPUによって構成され、OSやBIOS等のプログラムを実行することによって、診断支援サーバ装置30の各部を統合制御する。
 診断処理部350は、サーバ管理制御部340を実現するCPUと同一のCPUを用いて構成され、又は、サーバ管理制御部340と独立したCPUによって構成される。そして、診断処理部350は、サーバ管理制御部340による制御の下、プログラム記憶部331に記憶されたプログラムを実行することにより、(c1)動画像データ取得部351と、(c2)診断可能フレーム抽出部352と、(c3)診断用知識獲得部353と、(c4)健康状態推定処理部354と、(c5)診断支援情報生成部355と、(c6)診断支援情報配信部356と、を実現する。
(動画像データ取得部351)
 動画像データ取得部351は、通信制御部310と連動しつつ、被検眼Eを撮影した動画像データを移動体通信端末装置10から取得して、当該取得した動画像データを診断可能フレーム抽出部352に入力する(図12ステップ[1])。なお、本実施形態の動画像データ取得部351は、通信制御部310と連動して、例えば、本発明の「取得手段」を構成する。
(診断可能フレーム抽出部352)
 診断可能フレーム抽出部352は、例えば、CPUを用いたコンボリューショナルニューラルネットワークとして構築される。そして、診断可能フレーム抽出部352は、診断可能フレーム画像抽出プログラムに従い、動画像データ取得部351から入力された動画像データと抽出用知識に基づき、図13に示す診断可能フレーム画像抽出処理を実行して、動画像データから診断可能フレーム画像を抽出する(図12ステップ[2])。そして、診断可能フレーム抽出部352は、当該抽出した診断可能フレーム画像を診断用知識獲得部353、健康状態推定処理部354及び診断支援情報生成部355の各部に入力する(図12ステップ[3])。なお、診断可能フレーム抽出部352が各部353、354及び355に診断可能フレーム画像を入力する方法は任意であり、診断可能フレーム抽出部352から各部353、354及び355に直接入力するようにしてもよい。但し、本実施形態においては、診断可能フレーム抽出部352が抽出した診断可能フレーム画像を一度ROM/RAM320に記憶させ、各部353、354及び355が、必要に応じてROM/RAM320から読み出す構成を採用するものとして説明を行う。また、動画像データを構成するフレーム画像の数に関しては任意である。例えば、スマートアイカメラで30fpsのフレームレートにて20~40秒間撮影して得られる600~1200フレーム中の200フレーム程度を利用するようにしてもよい。なお、図13においては、図が煩雑になることを防止するため、この200フレームに含まれる7フレーム(フレーム1~7)のみを抜き出して例示している。また、本実施形態の診断可能フレーム抽出部352は、例えば、本発明の「第1抽出手段」を構成する。
[A5.1]診断可能フレーム画像抽出処理の原理
 次いで、本実施形態の診断可能フレーム抽出部352が実行する診断可能フレーム画像抽出処理の原理について、図13を参照しつつ説明する。なお、図13は、本実施形態の診断可能フレーム抽出部352が診断可能フレーム画像抽出プログラムに従って実行する診断可能フレーム画像抽出処理を説明するイメージ図である。
 図13に示すように、本処理において、診断可能フレーム抽出部352は、入力された動画像データに含まれる各フレーム画像に被検眼Eが写り込んでいるか否かを判定する。そして、被検眼Eが写り込んでいない場合に診断可能フレーム抽出部352は、当該フレーム画像をその他(Other)のクラスに分類する。「Other」クラスに分類されたフレーム画像には、そもそも被検眼Eが写っていないので、診断可能フレーム抽出部352は、当該フレームを間引き、残ったフレーム画像の各々について、スリット光SLの水晶体組織における反射光RLとともに、ピントが合った状態の水晶体組織の少なくとも一部が写り込んでいるか否かを判定する。
 そして、診断可能フレーム抽出部352は、反射光RLとともにピントが合った状態の水晶体組織の少なくとも一部の写り込んだフレーム画像のみを診断可能(Diagnosable)のクラスに分類する。一方、診断可能フレーム抽出部352は、他のフレーム画像(すなわち、スリット光SLの水晶体組織における反射光RLとともに水晶体組織の少なくとも一部が写り込んでいないフレーム画像や水晶体組織にピントの合っていないフレーム画像)に関しては、眼(Eye)のクラスに分類する。この結果、本処理によって、上記3条件を満たすフレーム画像のみが、「Diagnosable」クラスに分類され、他のフレーム画像については、「Other」クラス又は「Eye」クラスに分類されることとなる。例えば、図13には、上記条件に基づきフレーム1及び2が「Other」クラス、フレーム3、4及び7が「Eye」クラス、フレーム5及び6が「Diagnosable」クラスに分類された場合の例を示している。
 このとき、診断可能フレーム抽出部352は、図13に示すように動画像データに含まれる各フレーム画像について、「Other」、「Eye」、「Diagnosable」の各クラスに該当する確率(又は尤度)を算出する。そして、診断可能フレーム抽出部352は、当該算出した該当確率に基づき各フレーム画像が「Other」、「Eye」、「Diagnosable」のいずれのクラスに該当するのかを分類する構成になっている。
 なお、このとき、動画像データに含まれる全てのフレーム画像に関して、各クラスに該当する確率を算出するようにしてもよい。但し、全フレーム画像に対して該当確率の算出を行う構成にした場合には、診断可能フレーム抽出部352における処理負担が増大する可能性がある。このため、本実施形態においては、動画像データに含まれる各フレーム画像においてピントの合っている組織に対して予め組織名のラベリングを施しつつ、各フレーム画像に付されたラベルに基づき水晶体組織にピントの合っているフレーム画像のみを抽出し、当該抽出したフレーム画像の各々対して各クラスに該当する確率を算出する構成を採用することとした。
 この構成により、本実施形態の診断支援サーバ装置30は、水晶体組織にピントの合っていないフレーム画像を予め間引き、残りのフレーム画像の中から診断可能フレーム画像を抽出できる。この結果、診断可能フレーム画像抽出処理の処理負担を軽減できるとともに、診断可能フレーム画像抽出時の画像分類問題を簡略化して、診断可能フレーム画像抽出時の精度・再現率を向上させることができる。なお、各フレーム画像においてピントの合っている組織に対して組織名をラベリングする際の具体的な手法に関しては任意であり、例えば、診断可能フレーム抽出部352に眼組織用の標準ラベルエンジンを搭載し、この標準ラベルエンジンを用いて、各フレーム画像においてピントの合っている組織に組織名をラベリングする構成としてもよい。また、被検眼Eを正面から撮影した場合には、1のフレーム画像内に、例えば、眼瞼、眼表面、角膜、結膜等、複数の前眼部組織がピントの合った状態で同時に写り込む可能性がある。このため、診断可能フレーム抽出部352は、各フレーム画像内における画素毎に、当該画素に写り込んだ組織名をラベリングするマルチラベリングを行う構成になっている。なお、診断可能フレーム抽出部352が算出した該当確率に基づき、各フレーム画像を各クラスに分類する際の具体的な基準については任意であり、例えば、3つのクラスの各々に該当する確率を比較して、該当確率の最も高くなったクラスに分類するようにしてもよく、該当確率が、所定の閾値(例えば、60%)を超えたクラスに分類するようにしてもよい。
 そして、診断可能フレーム抽出部352は、当該算出した確率に基づき、動画像データに含まれる全フレーム画像の中から診断可能フレーム画像を抽出する。なお、診断可能フレーム抽出部352が算出確率に基づき診断可能フレーム画像を抽出する際の具体的な基準に関しては任意である。例えば、「Diagnosable」クラスに分類された全てのフレーム画像(例えば図13のフレーム5及び6)を一律に診断可能フレーム画像として抽出する構成としてもよく、「Diagnosable」クラスに該当する確率が、所定の閾値(例えば、60%)を超えるフレーム画像を診断可能フレーム画像として抽出する構成としてもよい。但し、本実施形態においては、説明を具体化するため、「Diagnosable」クラスに該当する確率の高い上位所定数のフレーム画像(例えば、該当確率の高い上位数フレーム、又は、該当確率の高い上位数%のフレーム)を診断可能フレーム画像として抽出する構成を採用するものとして説明を行う。
 以上の診断可能フレーム画像抽出処理により診断可能フレーム画像を抽出すると、診断可能フレーム抽出部352は、当該抽出した診断可能フレーム画像と、当該診断可能フレーム画像が「Diagnosable」クラスに該当する確率を対応付けてROM/RAM320に記憶させる。この結果、後に健康状態推定処理部354が、各診断可能フレーム画像に基づき被検眼Eにおける白内障の有無やNSグレード等を推定する際に、各診断可能フレーム画像が「Diagnosable」クラスに該当する確率を特定できるようなっている。
(診断用知識獲得部353)
 診断用知識獲得部353は、例えば、CPUを用いたコンボリューショナルニューラルネットワークとして構築される。そして、診断用知識獲得部353は、診断用知識獲得プログラムに従って、診断可能フレーム抽出部352の抽出した診断可能フレーム画像をアノテーション用端末装置40に送信することにより、アノテーション用端末装置40から教師データを取得し、教師データ記憶部333に記憶させる。また、診断用知識獲得部353は、教師データ記憶部333に蓄積された教師データ数がα以上になると、当該教師データに基づき、機械学習及びデータマイニングの少なくとも一方を実行することにより診断用知識を獲得し、診断用知識記憶部334に記憶させる。なお、本実施形態において診断用知識獲得部353が診断用知識を獲得する際の具体的な手法及び診断用知識の具体的な内容に関しては任意である。例えば、診断用知識獲得部353を構成するコンボリューショナルニューラルネットワークに対して、教師データ記憶部333に蓄積された教師データを入力することにより得られる重みとバイアスのパラメーターを診断用知識として獲得し、当該パラメーターを診断用知識記憶部334に記憶させる構成としてもよい。また、本実施形態の診断用知識獲得部353は、通信制御部310及びアノテーション用端末装置40と連動して、例えば、本発明の「学習手段」を構成する。さらに、本実施形態におけるαの具体的な数に関しては任意である。但し、診断用知識を獲得するためには、少なくとも数100程度の教師データをサンプルとして利用することが必要となる。しかし、本実施形態の診断支援システム1においては、1の動画像データから複数の診断可能フレーム画像(例えば、確率の高い上位数フレーム又は上位数%分のフレーム)を抽出し、各診断可能フレーム画像毎に教師データを作成する構成になっているので、少ない動画像データから多くの教師データを作成して、診断用知識を獲得することができる。例えば、αとして1000個の教師データが必要な場合に、1の動画像データから診断可能フレーム画像を5フレーム抽出する場合には、200の動画像データから1000個の教師データを作成して必要な診断用知識を獲得することができる。
(健康状態推定処理部354)
 健康状態推定処理部354は、例えば、CPUを用いたコンボリューショナルニューラルネットワークとして構築される。そして、健康状態推定処理部354は、健康状態推定プログラムに従い、診断用知識記憶部334に記憶された診断用知識と、診断可能フレーム抽出部352によって抽出された診断可能フレーム画像と、に基づき、被検眼Eにおける白内障の有無やNSグレード等を推定する。なお、本実施形態の健康状態推定処理部354は、例えば、本発明の「推定手段」を構成する。
 特に、本実施形態において特徴的な事項として、健康状態推定処理部354は、診断可能フレーム抽出部352によって抽出された複数の診断可能フレーム画像の各々に基づき、診断可能フレーム画像毎にNSグレード等を推定する構成になっている(図12参照)。そして、健康状態推定処理部354は、各診断可能フレーム画像に基づいて推定されたNSグレードの値に基づき、被検眼Eにおける白内障の最も尤もらしい状態を推定する。例えば、図12及び13には、動画像データに含まれるフレーム5及び6が診断可能フレーム画像として抽出され、各フレームに対して、「1.8」及び「2.3」というNSグレードが推定された場合に、これらの推定結果に基づき、健康状態推定処理部354が、被検眼Eの最も尤もらしい健康状態として「2.1」というNSグレードの値を推定する場合の例が示されている。
 このとき、健康状態推定処理部354が、被検眼Eの最も尤もらしい健康状態を推定する方法としては、(1)各診断可能フレーム画像に対応するNSグレード推定値の平均を取る方法、及び、(2)各診断可能フレーム画像に関する推定結果の多数決をとる方法も考えられる。但し、本実施形態においては、健康状態推定処理部354が、各診断可能フレーム画像に対応するNSグレード推定値に基づきアンサンブル機械学習を実行し、被検眼Eの最も尤もらしい健康状態を推定するものとして説明を行う。具体的には、健康状態推定処理部354は、各診断可能フレーム画像に基づくNSグレード推定値に対して、診断可能フレーム抽出部352が算出した「Diagnosable」クラスに該当する確率による重み付けを行い、被検眼Eの最も尤もらしい健康状態を推定する。例えば、5枚のフレーム画像が診断可能フレーム画像として抽出され、各々に対してNSグレードの推定値が得られた場合に、健康状態推定処理部354は、[推定値, 確率(Diagnosable)]*5を入力としてNSグレード推定値を回帰することにより被検眼Eの最も尤もらしい健康状態を推定する。
 通常、分類器を用いて被検眼Eにおける白内障のNSグレードを推定する場合には、「Diagnosable」クラスに該当する確率の高い診断可能フレーム画像に基づく推定値の方が、より該当確率の低い診断可能フレーム画像に基づく推定値よりも高い正答率を得られる。従って、上記構成により各診断可能フレーム画像について算出された「Diagnosable」クラスに該当する確率によりNSグレードの推定値に重み付けを行うことで、正答率の高い推定値の重みを大きくし、被検眼Eの最も尤もらしい健康状態を適切に推定して、診断支援情報の信頼度を向上させることができる。なお、診断支援情報の厳密な信頼性を求めない場合には、診断可能フレーム画像抽出処理において、「Diagnosable」クラスに該当する確率の最も高くなったベストフレームのみに基づき、被検眼Eにおける白内障の状態を推定する構成を採用してもよい。また、NSグレード以外の状態の推定方法に関しては、任意であり、例えば、多数決で決定してもよく、「Diagnosable」に該当する確率の最も高くなった診断可能フレーム画像に基づく推定結果を利用するようにしてもよい。
(診断支援情報生成部355)
 診断支援情報生成部355は、診断支援情報生成プログラムに従った処理を実行することにより、健康状態推定処理部354による被検眼Eの健康状態の推定結果を含む診断支援情報を生成する。なお、本実施形態の健康状態推定処理部354は、例えば、本発明の「生成手段」及び「第2抽出手段」を構成する。
 特に、本実施形態に特徴的な事項として、診断支援情報生成部355は、診断可能フレーム抽出部352によって施された組織名のラベリングに基づき、被検眼Eにおける白内障の状態を最も認識しやすい診断可能フレーム画像を抽出し、当該診断可能フレーム画像を含む診断支援情報を生成する構成になっている。一般に、水晶体組織が最も大きく写り込んでいる診断可能フレーム画像は、白内障の状態を最も認識しやすい画像となる。このため、本実施形態において診断支援情報生成部355は、診断可能フレーム抽出部352において画素毎に組織名のラベリングされた診断可能フレーム画像に基づき、水晶体組織の写り込んでいる画素領域の面積が最も大きくなっている診断可能フレーム画像をユーザ提示用のフレーム画像(以下、「提示用フレーム画像」という。)として抽出する。そして、診断支援情報生成部355は、白内障の状態に関する推定結果及び当該提示用フレーム画像を含む診断支援情報を生成する。
 この構成により、本実施形態の診断支援システム1によれば、ユーザが最も白内障の状態を認識しやすい画像を含む診断支援情報を生成することができる。この結果、ユーザが患者に症状を説明し、又は、患者本人が自身の眼の健康状況をセルフチェックする際に、患者のUXを劇的に向上させることができる。
(診断支援情報配信部356)
 診断支援情報配信部356は、通信制御部310と連動して、診断支援情報生成部355によって生成された診断支援情報を動画像データのアップロード元の移動体通信端末装置10に配信する。なお、本実施形態の診断支援情報配信部356は、通信制御部310と連動して、例えば、本発明の「配信手段」を構成する。また、診断支援情報配信部356が診断支援情報を配信する対象は、動画像データのアップロード元の移動体通信端末装置10には限定されず、例えば、ユーザの利用する他の通信端末装置(例えば、PC)やユーザと無関係な通信端末装置(例えば、白内障研究機関の保有するコンピュータシステム等)であってもよい。
[A6]診断支援システム1の動作
[A6.1]診断用知識獲得処理
 次いで、図14を参照しつつ、本実施形態の診断支援システム1において実行される診断用知識獲得処理について説明する。なお、図14は、本実施形態の診断処理部350が、診断用知識獲得プログラム及び診断可能フレーム画像抽出プログラムに従い、移動体通信端末装置10及びアノテーション用端末装置40と連動しつつ実行する診断用知識獲得処理を示すフローチャートである。
 本処理に先立ち、抽出用知識記憶部332には、白内障用の診断可能フレーム画像を抽出するために必要な抽出用知識が予め記憶された状態になっているものとする。
 また、本実施形態の診断支援システム1において白内障の診断用知識を獲得する場合には、スマートアイカメラを用いて白内障用の診断可能フレーム画像を含む動画像を撮影することが必要となる。このため、本処理に先立ち、ユーザはスマートアイカメラを構成する近接撮影用装置20Aからカラーフィルター部材97を取り外すとともに、凸レンズ部材93及びスリット光形成部材61を装着して、近接撮影用装置20Aを図5~7に示すような構成にしているものとする。
 この状態において、ユーザが移動体通信端末装置10の図示せぬ操作部に対して所定の入力操作を行うと、移動体通信端末装置10においては、診断用アプリに従い、カメラモジュールが起動される。この結果、移動体通信端末装置10においては撮影中の画像とともに、「診断したい眼の黒目部分にスリット光SLが当たるように調整し、開始ボタンを押して、20~40秒程度眼を撮影して下さい。このとき、スリット光の照射される角度を少しずつ変化させながら、黒目の部分をゆっくりスキャンするように撮影すると、正確に診断できる可能性が高まります。また、撮影を完了したら停止ボタンを押した後、送信ボタンを押して下さい。」等の操作手順を指示する文字列と、「撮影開始」、「停止」及び「送信」の各ボタンが表示部に表示される。なお、操作手順及び各ボタンは、撮影中の画像と重畳して表示してもよく、撮影画像と表示領域を分けて表示するようにしてもよい。さらに、操作手順は音声にて案内するようにしてもよい。
 そして、ユーザが表示部に表示された操作手順に従い、撮影開始ボタンを選択すると、移動体通信端末装置10においては光源92が発光して、スリット光SLが前方向に照射されるとともに、カメラモジュールにおいて動画像の撮影が開始される。この状態でユーザが、被検眼Eの水晶体組織にスリット光SLを照射させ、スリット光SLの照射角度を変化させながら、スリット光SLにより、ゆっくりと被検眼Eの黒目部分をスキャンすると、スリット光SLの被検眼Eにおける反射光RLを含む光が近接撮影用装置20Aの凸レンズ部材93によって撮影用カメラレンズ91に集光され、図13に例示するような一連のフレーム画像を含む動画像データが生成される。このとき、移動体通信端末装置10のカメラモジュールにおいてはオートフォーカス機構により水晶体組織に対して自動的にピントを合わせつつ、動画像が撮影されることとなるが、この点については従来のスマートフォン等の移動体通信端末装置と同様である。
 そして、ユーザが、操作手順に従い、例えば、20~40秒間程度被検眼Eの水晶体組織を撮影した後、停止ボタン、送信ボタンの順にボタンを選択する旨の入力操作を行うと、移動体通信端末装置10は、診断用アプリに従い、撮影された動画像データを診断支援サーバ装置30にアップロードする。
 このようにして移動体通信端末装置10からアップロードされた動画像データが、診断支援サーバ装置30の通信制御部310によって受信されると(ステップSa1)、診断処理部350においては、診断可能フレーム抽出部352が、抽出用知識記憶部332から抽出用知識を読み出す(ステップSa2)。そして、診断可能フレーム抽出部352は、診断可能フレーム画像抽出プログラムに従い、図13に示す診断可能フレーム画像抽出処理を実行し、動画像データに含まれる診断可能フレーム画像を抽出して、ROM/RAM320に記憶させる(ステップSa3)。
 次いで、診断用知識獲得部353は、ROM/RAM320に記憶された全ての診断可能フレーム画像をアノテーション用端末装置40に送信する(ステップSa4)。なお、診断用知識獲得部353がアノテーション用端末装置40に診断可能フレーム画像を送信する際の形態に関しては任意であり、全てのアノテーション用端末装置40に対して診断可能フレーム画像を同報送信するようにしてもよく、一部のアノテーション用端末装置40に対してのみ全診断可能フレーム画像を送信する構成としてもよい。
 このようして動画像データから抽出された診断可能フレーム画像を受信すると、アノテーション用端末装置40は、各診断可能フレーム画像とともに、例えば、「この画像に基づき白内障の診断結果を入力して下さい。」等の文字列と、診断結果を入力するためのGUIを図示せぬモニタ上に表示させる。なお、この際の表示態様に関しては任意であり、モニタの表示領域を分けつつ、各表示領域に各々、別の診断可能フレーム画像と診断結果入力用GUIを対応付けて表示することにより、全診断可能フレーム画像に基づく診断用の画面を一度に表示するようにしてもよく、1枚ずつ診断可能フレーム画像を切り替えながら表示するようにしてもよい。
 この状態にて、アノテータとなる医師が表示された各診断可能フレーム画像に基づき白内障の有無やNSグレード、治療方法、手術の要否などの診断を行い、GUIに従って診断結果を入力すると、アノテーション用端末装置40は、入力操作に応じて診断結果情報を生成する。そして、アノテーション用端末装置40は、当該診断結果情報により該当する診断可能フレーム画像にタグ付けを行うことで各診断可能フレーム画像に対応する教師データを作成し、当該作成した教師データを診断支援サーバ装置30に返信する。例えば、診断可能フレーム画像抽出処理において5枚の診断可能フレーム画像が抽出された場合に、アノテーション用端末装置40は、各診断可能フレーム画像に対応する5つの教師データを作成して、診断支援サーバ装置30に送信する。
 一方、診断支援サーバ装置30においては、通信制御部310がアノテーション用端末装置40から教師データを受信すると(ステップSa5「Yes」)、診断用知識獲得部353が、当該受信した教師デ-タを教師データ記憶部333に記憶させた後(ステップSa6)、教師データ記憶部333に記憶された教師データ数がα以上であるか否かを判定する(ステップSa7)。そして、教師データ数がαに満たない場合に(ステップSa7「No」)、診断用知識獲得部353は、処理を終了する。
 移動体通信端末装置10から動画像データがアップロードされてくる度に診断処理部350においてはステップSa1~7の処理が繰り返し実行され、教師データ記憶部333に順次教師データが蓄積されていくこととなる。例えば、α=1000と設定し、該当確率の高い上位5フレームを診断可能フレーム画像として抽出する方法を採用する場合、1回目~199回目の動画像データアップロード時までは教師データ記憶部333に教師データが順次蓄積され、処理が終了する。一方、200回目の動画像データアップロード時には、教師データ記憶部333に記憶された教師データ数がα(1000)以上となるため、診断用知識獲得部353は、ステップSa7において「Yes」と判定し、教師データ記憶部333に蓄積された教師データに基づき機械学習及びデータマイニングの少なくとも一方を実行することにより診断用知識を獲得し(ステップSa8)、診断用知識記憶部334に記憶させ(ステップSa9)、処理を終了する。
[A6.2]診断支援情報生成処理
 次いで、本実施形態の診断支援サーバ装置30において実行される診断支援情報生成処理について、図15を用いて説明する。なお、図15は、診断処理部350が、診断支援情報生成プログラム及び診断可能フレーム画像抽出プログラムに従って移動体通信端末装置10と連動しつつ実行する診断支援情報生成処理を示すフローチャートである。
 本処理に先立ち、抽出用知識記憶部332及び診断用知識記憶部334には、必要な知識が記憶済であるものとする。また、ユーザは、上記と同様にスマートアイカメラを構成する近接撮影用装置20Aを白内障用の診断可能フレーム画像を含む動画像を撮影可能な状態に構成済であるものとする。すなわち、近接撮影用装置20Aには、スリット光形成部材61及び凸レンズ部材93が装着されるとともに、カラーフィルター部材97が取り外された状態に構成されているものとする。
 この状態において、ユーザが被検眼Eを撮影して、送信ボタンを選択し、移動体通信端末装置10から動画像データがアップロードされると(ステップSb1「Yes」)、診断処理部350においては、診断可能フレーム抽出部352が、抽出用知識記憶部332から抽出用知識を読み出した後(ステップSb2)、診断可能フレーム画像抽出プログラムに従い、診断可能フレーム画像抽出処理を実行する。この結果、動画像データに含まれる診断可能フレーム画像が抽出され、各診断可能フレーム画像と対応付けて、該当する診断可能フレーム画像が「Diagnosable」クラスに該当する確率がROM/RAM320に記憶される(ステップSb3)。
 次いで、健康状態推定処理部354は、診断用知識を読み出し(ステップSb4)、ROM/RAM320に記憶された診断可能フレーム画像と診断用知識に基づき、健康状態推定処理を実行して(ステップSb5)、被検眼Eにおける白内障の状態を推定する。このとき、健康状態推定処理部354は、図12に示すように各診断可能フレーム画像毎に白内障の状態を推定する。そして、健康状態推定処理部354は、当該推定結果に対して確率による重み付けを行いつつ被検眼Eにおける白内障の最も尤もらしい状態を推定する。
 次いで、診断支援情報生成部355は、ROM/RAM320に記憶された診断可能フレーム画像から提示用フレーム画像を抽出し(ステップSb6)、ステップSb5における推定結果と当該提示用フレーム画像を含む診断支援情報を生成する(ステップSb8)。診断支援情報配信部356は、このようにして生成された診断支援情報を、該当する移動体通信端末装置10に配信して(ステップSb9)、処理を終了する。
 以上説明したように本実施形態の診断支援システム1は、近接撮影用装置20Aを装着した状態の移動体通信端末装置10(すなわち、スマートアイカメラ)により撮影された動画像から診断可能フレーム画像を抽出し、当該診断可能フレーム画像に基づき、被検眼Eにおける白内障の有無やNSグレード、治療方法、手術の要否等を推定するようになっている。そして、当該推定結果を含む診断支援情報を生成しつつ、該当する移動体通信端末装置10に配信する構成となっている。この構成により、本実施形態の診断支援システム1は、高価な眼科診断用の画像撮影装置を利用することなく、素人が被検眼Eを撮影した場合であっても、被検眼Eにおける白内障の状態を適切に推定し、診断支援情報を生成して利用する事ができる。
 また、本実施形態の診断支援システム1においては、移動体通信端末装置10にて撮影された動画像から診断可能フレーム画像のみを抽出し、アノテーション用端末装置40において、アノテータ(医師)に提示することができる。従って、本実施形態の診断支援システム1は、診断用知識を獲得する際の医師の作業負担を軽減しつつ、教師データを作成して、診断用知識を獲得することができる。特に、本実施形態の診断支援システム1は、スマートアイカメラによって撮影された動画像を用いて、診断用知識を獲得する構成になっている。そして、動画像には、複数の診断可能フレーム画像が含まれる可能性が高いので、動画像データのサンプル数が少ない場合であっても、精度の高い診断用知識を獲得できる。なお、上記実施形態においては、アプリケーションプログラムを実行したCPUにより診断支援サーバ装置30の診断処理部350を構成する各部351~356の機能を実現する構成を採用したが、診断処理部350を構成する各部の機能は、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)等のハードウェアによって実現することも当然可能である。
[A7]第1実施形態の変形例
[A7.1]変形例1
 上記第1実施形態においては、診断支援サーバ装置30において、動画像データから診断可能フレーム画像を抽出しつつ(図14ステップSa3)、当該抽出した診断可能フレーム画像をアノテーション用端末装置40に送信して(ステップSa4)、アノテーション用端末装置40から取得した教師データを教師データ記憶部333に記憶させる(ステップSa6)構成を採用した。しかし、診断支援サーバ装置30が、移動体通信端末装置10からアップロードされた動画像データを、そのままアノテーション用端末装置40に送信し(ステップSa4)、アノテーション用端末装置40から動画像に基づく医師の診断結果に対応する診断結果情報を取得して(ステップSa5)、診断支援サーバ装置30において当該診断結果情報に基づき教師データを作成し、教師データ記憶部333に記憶させる構成としてもよい(ステップSa6)。
 この場合に、アノテーション用端末装置40は、診断支援サーバ装置30から受信した動画像データに基づき、被検眼Eを撮影した動画像と、診断結果入力用のGUIと、を図示せぬモニタ上に表示させ、当該動画像に基づく診断結果を医師に入力させる構成とする。
 また、この場合に診断可能フレーム抽出部352は、診断可能フレーム画像抽出処理を実行し、「Diagnosable」クラスに分類された全てのフレーム画像を診断可能フレーム画像としてROM/RAM320に記憶させる。そして、診断用知識獲得部353は、ROM/RAM320に記憶された診断可能フレーム画像の全てに対して、アノテーション用端末装置40から取得した診断結果情報によるタグ付けを行いつつ、教師データを作成して教師データ記憶部333に記憶させるようにする(ステップSa6)。このようにして、教師データ記憶部333に蓄積された教師データ数がα以上となった時点で(ステップSa7)、診断用知識獲得部353が、診断用知識を獲得して(ステップSa8)、診断用知識記憶部334に記憶させる構成を採用すればよい。本変形例の構成により、診断用知識獲得時のサンプル収集を容易化できるとともに、サンプル数を増やして診断用知識の精度を向上させることができる。
[A7.2]変形例2
 上記第1実施形態においては、アノテーション用端末装置40を診断支援サーバ装置30と別体で設ける構成としたが、アノテーション用端末装置40の機能を診断支援サーバ装置30に統合し、アノテーション用端末装置40を省略する構成としてもよい。この場合には、診断支援サーバ装置30に図示せぬモニタやキーボード、マウス等を設け、診断可能フレーム抽出部352が抽出した診断可能フレーム画像を診断支援サーバ装置30のモニタ上に表示させつつ、医師に診断結果を入力させるようにする。そして、当該入力結果に対応する診断結果情報により該当する診断可能フレーム画像に対してタグ付けを行い、教師データを作成する構成とすればよい。なお、この場合には、変形例1と同様に動画像を表示させつつ、医師に診断結果を入力させて、教師データを作成するようにしてもよい。
 また、診断支援サーバ装置30を既存の眼科施設のコンピュータ(図示しない)と接続し、眼科施設のコンピュータをアノテーション用端末装置40として利用し、アノテーション用端末装置40を省略する構成としてもよい。この場合には、眼科施設のコンピュータから電子カルテのデータを取得して、当該データを追加の教師データとして活用してもよい。この構成を採用することにより、診断用知識の獲得に利用可能な教師データのサンプル数を増やして、診断用知識の質を向上させることができる。
[A7.3]変形例3
 上記第1実施形態においては、診断可能フレーム抽出部352が、各フレーム画像においてピントの合っている組織に組織名のラベリングを施し、当該ラベリング後のフレーム画像の中から診断可能フレーム画像を抽出する構成を採用したが、診断可能フレーム抽出部352におけるラベリングの処理を行わない構成としてもよい。この場合には、ステップSb6において任意の診断可能フレーム画像を提示用フレーム画像として抽出するようにしてもよく、「Diagnosable」クラスに該当する確率の最も高い診断可能フレーム画像を提示用フレーム画像として抽出するようにしてもよい。さらには、提示用フレーム画像を含まない診断支援情報を生成して(ステップSb7)、配信するようにしてもよい。
[A7.4]変形例4
 上記第1実施形態においては、移動体通信端末装置10にて撮影された二次元の動画像に基づき、被検眼Eにおける白内障の有無やNSグレード、治療方法、手術の要否等を推定する構成を採用したが、診断可能フレーム抽出部352において、動画像データに基づき三次元画像を構築し、当該構築した三次元画像に基づき、被検眼Eにおける白内障の状態を推定する構成としてもよい。
 移動体通信端末装置10のカメラモジュールを用いて被検眼Eの動画像を撮影する場合には、カメラモジュールのオートフォーカス機構によりフレーム画像毎にピントを合わせつつ、動画像が撮影されることとなる。このとき、各フレーム画像は、各々、異なる焦点距離にてピントが合った状態で撮影される。従って、各フレーム画像においてピントの合っている組織は、各々、移動体通信端末装置10の撮影用カメラレンズ91との距離が少しずつ異なったものとなる。
 特に、観察光としてスリット光SLを用いる場合には、スリット光SLを斜め方向から被検眼Eに入射させることで、被検眼Eをスリット光SLで断面方向に切りつつ、被検眼Eの断面方向の情報を含む動画像を撮影できる。この場合に、各フレーム画像においてピントの合っている組織は、各々、撮影用カメラレンズ91からの距離が異なったものとなる。従って、各フレーム画像を焦点距離に応じて、順番に積層することにより被検眼Eの前眼部組織の断面方向の情報を含む三次元画像を構築することができる。なお、この場合には、診断可能フレーム画像のみを積層して三次元画像を構築することが望ましい。但し、必ずしも診断可能フレーム画像のみを用いる必要はなく、診断可能フレーム画像以外のフレーム画像も積層して三次元画像を構築するようにしてもよい。また、この場合に、診断可能フレーム抽出部352は、本発明の「三次元画像構築手段」を構成する。さらに、この場合にスリット光SL以外の光を観察光として用いて、被検眼Eの表面における凹凸等の情報を含む三次元画像を構築することも可能である。すなわち、本変形例において、被検眼Eの観察に用いる観察光はスリット光SLに限定されない。
 この方法により構築された三次元画像は、被検眼Eの白内障の状態推定に利用できる他、提示用フレーム画像として利用することができる。一方、三次元画像を用いて被検眼Eの健康状態を推定する場合には、診断用知識として三次元画像に基づき被検眼Eにおける白内障の状態を推定するための知識を利用する必要がある。
 このため、本方法を採用する場合、診断可能フレーム抽出部352は、図14のステップSa3において診断可能フレーム画像を抽出するとともに、三次元画像を構築して、当該三次元画像をROM/RAM320に記憶させる。そして、診断用知識獲得部353は、ステップSa4において、ROM/RAM320に記憶された三次元画像をアノテーション用端末装置40に送信するようにする。一方、アノテーション用端末装置40は、受信した三次元画像を表示させつつ、三次元画像に基づく医師の診断結果に基づき、当該三次元画像に対して診断結果情報によるタグ付けを行うことで教師データを作成し、診断支援サーバ装置30に送信する構成にすればよい。
 また、この場合に、診断支援サーバ装置30の診断用知識獲得部353は、通信制御部310がアノテーション用端末装置40から教師データを受信すると(図14ステップSa5)、当該教師データを教師データ記憶部333に記憶させる(図14ステップSa6)。移動体通信端末装置10から動画像データがアップロードされてくる度に、診断可能フレーム抽出部352が、三次元画像を構築しつつ、当該構築した三次元画像に基づく教師データを順次教師データ記憶部333に蓄積するようにする。そして、教師データ記憶部333に記憶済の教師データ数がα以上となった時点で(図14ステップSa7「Yes」)、教師データ記憶部333に記憶された教師データ(すなわち、診断結果情報によりタグ付けされた三次元画像)に基づき、診断用知識獲得部353が機械学習及びデータマイニングの少なくともいずれか一方を実行し、三次元画像に基づく白内障の診断用知識を獲得して(図14ステップSa8)、診断用知識記憶部334に記憶させる(図14ステップSa9)構成とすればよい。
 このようにして、三次元画像に基づく白内障の診断用知識が獲得されると、後に移動体通信端末装置10から動画像データがアップロードされてきた際に、診断処理部350においては、基本的に図15と同様の診断支援情報生成処理が実行されることにより、診断支援情報が生成され(図15ステップSb7)、該当する移動体通信端末装置10に配信されることとなる(図15ステップSb8)。
 また、この場合に、診断可能フレーム抽出部352は、ステップSb3の診断可能フレーム画像抽出処理において、移動体通信端末装置10からアップロードされた動画像データから診断可能フレーム画像を抽出するとともに、三次元画像を構築して、ROM/RAM320に記憶させる。そして、ステップSb5において診断支援情報生成部355は、診断用知識記憶部334に記憶された三次元画像に基づく白内障の診断用知識とROM/RAM320に記憶された三次元画像に基づき、被検眼Eにおける白内障の状態を推定するようにする。
 さらに、この場合に診断支援情報生成部355は、ROM/RAM320に記憶された三次元画像を提示用フレーム画像としつつ(ステップSb6)、診断支援情報を生成し(ステップSb7)、該当する移動体通信端末装置10に配信する(ステップSb8)。この結果、移動体通信端末装置10においては、被検眼Eにおける白内障の有無やNSグレード推定値、治療方法、手術の要否に関する推定結果とともに、三次元画像がユーザに閲覧可能な状態にて表示されることとなる。なお、この場合においても、提示用フレーム画像は、三次元画像ではなく、水晶体組織の写り込んでいる画素領域の面積が最も大きい診断可能フレーム画像を抽出して利用するようにしてもよい。通常、三次元画像には、平面画像よりも多くの情報が含まれる。従って、本変形例の構成により、被検眼Eの白内障の状態の推定精度を向上させ、診断支援情報の信頼度を向上させることができるとともに、三次元画像を含む診断支援情報をユーザに提示できるのでユーザのUXを格段に向上させることができる。
[A7.5]変形例5
 上記第1実施形態においては、スマートアイカメラを構成する近接撮影用装置20Aにスリット光形成部材61及び凸レンズ部材93を装着するとともに、カラーフィルター部材97を取り外し、スリット光SLを観察光として被検眼Eに照射した状態で被検眼Eを撮影することにより、被検眼Eにおける白内障の状態を推定する構成を採用するものであった。これに対して本変形例は、白内障以外の疾患の有無やその重症度等の推定を行うためのものである。
 ここで、被検眼Eにおける白内障以外の疾患の有無やその重症度等を推定するためには、当該疾患の診断に利用可能な診断可能フレーム画像を1以上含む動画像をスマートアイカメラにより撮影することが必要となる。従って、この場合にユーザは、重症度等の推定対象となる疾患に応じて近接撮影用装置20Aの構成を変化させつつ、被検眼Eの動画像を撮影することが必要となる。以下、各疾患についての状態推定方法について具体的に説明する。
[A7.5.1]前房組織に発症する虹彩炎やぶどう膜炎等の疾患の状態推定方法
 被検眼Eの前房組織に発症する虹彩炎やぶどう膜炎等の発症の有無やその重症度を推定する場合には、上記第1実施形態と同様に、近接撮影用装置20Aによりスリット光SLを発生させ、当該スリット光SLを観察光として被検眼Eの前房組織に照射した状態にて、スリット光SLの前房組織における反射光RLを含む光を凸レンズ部材93により撮影用カメラレンズ91に集光して、これら疾患に対応する診断可能フレーム画像を1以上含む動画像を撮影することが必要となる。従って、この場合には、第1実施形態と同様に、スマートアイカメラを構成する近接撮影用装置20Aに対してスリット光形成部材61及び凸レンズ部材93を装着するとともに、カラーフィルター部材97を取り外し、近接撮影用装置20Aを図5~7に示すような構成としつつ、被検眼Eの動画像を撮影することが必要となる。
 また、この場合、抽出用知識記憶部332には、虹彩炎やぶどう膜炎に対応する診断可能フレーム画像を抽出するための抽出用知識を予め記憶させるようにする。なお、この場合に診断可能フレーム画像に該当するための条件は、スリット光SLの照射対象組織が水晶体組織ではなく前房組織となる点以外は白内障診断用の診断可能フレーム画像と同様である。
 また、この場合に虹彩炎用又はぶどう膜炎用の診断用知識は、基本的に図14と同様の知識獲得処理によって獲得されることとなるが、この際における処理は、診断用知識の取得対象となる疾患が白内障ではなく、虹彩炎又はぶどう膜炎となる点以外は、上記第1実施形態と同様となるので、詳細を省略する。
 そして、診断用知識記憶部334に虹彩炎用又はぶどう膜炎用の診断用知識が記憶された状態にて、移動体通信端末装置10から動画像データがアップロードされてくると、診断処理部350においては、基本的に図15と同様の診断支援情報生成処理によって診断支援情報が生成され(ステップSb7)、該当する移動体通信端末装置10に配信されることとなる(ステップSb8)。なお、この際における処理は、診断用知識獲得処理と同様に対象疾患が白内障ではなく、虹彩炎又はぶどう膜炎となる点以外は、上記第1実施形態と同様である。
[A7.5.2]眼瞼組織に発症する霰粒腫や麦粒腫、角膜組織や結膜組織に発症するアレルギー性結膜炎、流行性角結膜炎、円錐角膜、角膜混濁等の疾患の状態推定方法
 眼瞼組織に発症する霰粒腫や麦粒腫、角膜組織や結膜組織に発症するアレルギー性結膜炎・流行性角結膜炎・円錐角膜・角膜混濁等の疾患の有無やその重症度を推定する場合、これら疾患に対応する診断可能フレーム画像を含む動画像をスマートアイカメラにより撮影する必要がある。ここで、これら疾患に対応する診断可能フレーム画像を含む動画像の撮影方法としては、以下の二通りの方法がある。
<撮影方法1>
この撮影方法は、スマートアイカメラを構成する近接撮影用装置20Aを上記第1実施形態と同様の構成(図5~7)としつつ、観察光としてのスリット光SLを被検眼Eに照射させながら、被検眼Eの動画を撮影する方法である。
<撮影方法2>
この撮影方法は、スマートアイカメラを構成する近接撮影用装置20Aに対して凸レンズ部材93を装着するとともに、カラーフィルター部材97及びスリット光形成部材61を取り外し、光源92から出射される光源光(白色拡散光)が、そのままの状態で穴88及び95を通過して前方向に照射される状態を作り出し、当該白色拡散光を観察光として被検眼Eに照射させた状態で、被検眼Eの動画像を撮影する方法である。
 但し、この場合には、診断可能フレーム画像に該当するための条件が、撮影方法1を採用した場合と、撮影方法2を採用した場合と、で異なっており、撮影方法1を採用する場合における条件は、基本的に白内障の場合と同様であるが、スリット光SLの照射対象が眼瞼、眼表面等、水晶体以外の組織となる。これに対して、撮影方法2を採用する場合における条件は、白色拡散光が観察光として照射された状態の観察対象組織の少なくとも一部とともに白色拡散光の反射光RLが写り込んだピントの合っているフレーム画像となる。
 従って、これら疾患の状態を推定する場合には、利用する撮影方法を予め定めておき、当該撮影方法に対応する抽出用知識を抽出用知識記憶部332に記憶させるようにする。なお、各撮影方法に対応する複数の抽出用知識を予め抽出用知識記憶部332に記憶させておき、ユーザの選択した撮影方法に応じて利用する抽出用知識を切り替えて、診断可能フレーム画像を抽出する構成を採用することも可能である。この場合には、診断用アプリ上で利用する撮影方法をユーザに指定させ、移動体通信端末装置10から動画像データとともに撮影方法を示す情報をアップロードするようにする。そして、診断可能フレーム画像抽出処理において、診断可能フレーム抽出部352は、当該情報に基づき、利用する抽出用知識を切り替えつつ診断可能フレーム画像を抽出する構成とすればよい。
 また、この場合にこれら疾患に対応する診断用知識は、いずれの撮影方法を採用する場合であっても基本的に図14と同様の診断用知識獲得処理によって獲得されることとなるが、この際における処理は、診断用知識の取得対象となる疾患が白内障ではなく、霰粒腫や麦粒腫、角膜組織や結膜組織に発症するアレルギー性結膜炎・流行性角結膜炎・円錐角膜・角膜混濁等となる点以外は、上記第1実施形態と同様であるため、詳細を省略する。
 そして、診断用知識記憶部334にこれら疾患用の診断用知識が記憶された状態にて、移動体通信端末装置10から動画像データがアップロードされてくると、診断処理部350は、基本的に図15と同様の診断支援情報生成処理によって診断支援情報を生成し(ステップSb7)、該当する移動体通信端末装置10に配信することとなる(ステップSb8)。なお、この際における処理は、診断用知識獲得処理と同様に対象疾患が白内障ではなく、霰粒腫や麦粒腫、アレルギー性結膜炎・流行性角結膜炎・円錐角膜・角膜混濁等となる点以外は、上記第1実施形態と同様である。
 また、本構成を採用する場合、スマートアイカメラにより撮影された動画像には、複数の疾患の診断に利用可能な診断可能フレーム画像が含まれる可能性がある。このとき、何の疾患を対象とするのかはユーザが移動体通信端末装置10にて指定するようにしてもよく、複数の疾患の状態を一度に推定するようにしてもよい。なお、複数の疾患の状態を一度に推定する方法に関しては、変形例6の項において詳述する。
[A7.5.3]点状表層角膜炎や角膜潰瘍等の疾患の状態推定方法
 点状表層角膜炎や角膜潰瘍等の疾患の有無やその重症度を推定する場合には、角膜に生じた傷の状態を診断可能なフレーム画像を含む動画像をスマートアイカメラにより撮影することが必要となる。このため、この場合には、スマートアイカメラを構成する近接撮影用装置20Aに対して生体染色検査用ブルーフリーフィルターにより構成されるカラーフィルター部材97及び凸レンズ部材93を装着するとともに、スリット光形成部材61を取り外して、近接撮影用装置20Aを図3(B)に示すような構成とする。そして、光源92から出射される光源光をカラーフィルター部材97により青色光へと変化させ、当該青色光を観察光として被検眼Eに照射した状態で、被検眼Eの動画像を撮影する。また、このとき、被検眼Eに造影用のフルオレセイン溶液を点眼することにより、角膜や結膜に生じた傷を緑に変えて、その緑の光を、撮影用カメラレンズ91を通してイメージセンサで受光することによって被検眼Eの角膜及び結膜に生じた傷を撮影する。
 そして、この場合に、抽出用知識記憶部332には、予め点状表層角膜炎や角膜潰瘍等の疾患の診断に利用可能な診断可能フレーム画像を抽出するための抽出用知識を記憶させる。なお、この場合に、診断可能フレーム画像に該当するための条件は、観察光として青色光が照射された状態の観察対象組織の少なくとも一部とともに観察対象組織における青色光の反射光RLが写り込んだピントの合っているフレーム画像となる。従って、この場合に抽出用知識記憶部332には、当該条件を満たすフレーム画像を抽出するための抽出用知識を予め記憶させる必要がある。
 また、この場合に点状表層角膜炎や角膜潰瘍等の疾患に対応する診断用知識は、基本的に図14と同様の診断用知識獲得処理によって獲得されることとなるが、この際における処理は、獲得する診断用知識の対象疾患が白内障ではなく、点状表層角膜炎や角膜潰瘍等となる点以外は、上記第1実施形態と同様である。
 そして、診断用知識記憶部334に点状表層角膜炎や角膜潰瘍等の疾患用の診断用知識が記憶された状態にて、移動体通信端末装置10から動画像データがアップロードされてくると、診断処理部350は、基本的に図15と同様の診断支援情報生成処理によって診断支援情報を生成し(ステップSb7)、該当する移動体通信端末装置10に配信することとなる(ステップSb8)。なお、この際における処理は、診断用知識獲得処理と同様に対象疾患が白内障ではなく、点状表層角膜炎や角膜潰瘍等の疾患となる点以外は、上記第1実施形態と同様である。また、この場合においても、スマートアイカメラにより撮影された動画像には、複数の疾患の診断に利用可能な診断可能フレーム画像が含まれる可能性がある。このとき、何の疾患を対象とするのかはユーザが移動体通信端末装置10にて指定するようにしてもよく、複数の疾患の状態を一度に推定するようにしてもよい。
[A7.5.4]ドライアイ疾患(dry Eye disease、DED)の状態推定方法
 被検眼EにおけるDEDの状態を推定する場合には、角膜や結膜に生じた傷の状態と眼表面における涙の状態を観察することが必要となる。このため、この場合には、上記点状表層角膜炎等の状態推定時と同様にスマートアイカメラを構成する近接撮影用装置20Aに生体染色検査用ブルーフリーフィルターにより構成されるカラーフィルター部材97及び凸レンズ部材93を取り付け、光源92から出射される光源光をカラーフィルター部材97により青色光へと変化させ、当該青色光を観察光として被検眼Eに照射した状態で被検眼Eの観察対象組織を撮影するようにする。また、この場合、被検眼Eにフルオレセイン溶液を点眼して傷を造影しつつ被検眼Eの眼表面、角膜及び結膜を撮影することが必要となる。
[A7.5.4.1]スマートアイカメラを用いたDED診断の検証結果について
 上記構成のスマートアイカメラによってDEDの診断が可能か否か検証するため、本発明者は、凸レンズ部材93及びカラーフィルター部材97を取り付けた近接撮影用装置20Aを装着した移動体通信端末装置10(スマートフォン)により観察を行い、DED観察に関する既存の装置との比較を行った。なお、本検証においては、近接撮影用装置20Aとして上記白内障の検証に利用したiphone7(登録商標)用に設計したものと同様の構成のものに対してアクリル樹脂製青色フィルター(PGZ 302K 302、クラレ株式会社製)により構成されるカラーフィルター部材97を装着したものを用いた。
 また、本検証においては検証例1として、移植片対宿主病(GVHD:graft-versus-host disease)関連のDEDマウスモデルにおいて、検証用の近接撮影用装置20Aを装着した移動体通信端末装置10と既存装置の各々で撮影した画像を比較し、マウスモデルの涙液層破壊時間(Tear film break-up time、TFBUT)を含む眼の検査を行った。また、検証例2として、DED患者とDEDのない正常者の合計42人に対して、DEDの診断基準であるTFBUT測定を行った。なお、TFBUTは、DEDの診断に使用される必須パラメーターである。
[検証例1]
 DEDは、涙液量の減少、涙液膜の急速な崩壊、及び涙液の蒸発増加が原因であり、TFBUTはDEDの核となるメカニズムの1つである。過去のDEDの研究としては、DEDマウスモデルが検討されているが、ヒトのTFBUTを測定するための方法は、そのDEDマウスモデルでは確立されていない。マウスモデルでのTFBUT評価をそのままヒトに適用できない理由はいくつかある。第1に、マウスの角膜の幅はわずか2~3mmであり、そのサイズが小さく、ヒトに適用するには焦点調節が困難であること。第2に、既存の眼科臨床用スリットランプ顕微鏡は、前眼部(眼瞼、眼表面、角膜、結膜、前房及び水晶体の各組織)の検査に用いられるが、その装置は大きく、容易に移動できないとともに、それ自体が画像の記録機能を持っていないこと。第3に、既存のスリットランプ顕微鏡は高価であり、費用対効果が低いこと。これらの問題を回避するために、DEDマウスモデルにおける診断のための涙液分泌(TS)及び角膜フルオレセインスコア(CFS)の使用法が増加している。しかしながら、そうしたDEDマウスモデルにおいても、ヒトにも容易に適用可能な装置はまだ確立されていない。
 検証例1に関して、上記構成の近接撮影用装置20Aを装着した移動体通信端末装置10(スマートアイカメラ)により撮影した画像を図16に示す。なお、図16の上段は、白色光を当てた眼の代表的な写真であり、下段はフルオレセイン染色像を示す代表的な写真である。図16の左列の画像は、既存装置で撮影した画像例であり、右列の画像は、上記構成の近接撮影用装置20Aを装着した移動体通信端末装置10を使用して撮影した画像例である。なお、既存装置としては、DEDマウスモデルの眼を評価するために広く使用されているものを使用し、具体的には、オリンパス株式会社製の顕微鏡(製品名:SZ61)、カメラ(製品名:DP70)、光源(製品名:LG-PS2)で構成されたものを用い、検証例2においては、比較用の既存装置として携帯型スリットランプ顕微鏡(製品名:SL-15、Kowa Company Limited)を使用した。
(マウスGVHD群関連DEDモデル)
 DEDマウスモデルについては、臨床例と同様にGVHD群関連DEDの表現型を再現するZhangの方法を選択した。使用したB10.D2及びBALB/cCrSlc(BALB/c)マウス(7週齢)は、三共研究所(日本国東京)から購入した。1週間SPF環境に順応した後、マウスを3つの群に分けた(1群あたり5匹のマウス)。DED(GVHD群モデル)群については、同種骨髄移植(BMT)をドナー及びレシピエントのために8週齢のオスのB10.D2及びメスのBALB/cマウスを用いて行った。陰性対照(非GVHD群)については、同系BMTを、オスのBALB/cマウスからメスのBALB/cマウスにドナー細胞を移植することによって実施した。BMTの6時間前にGammacel 137Cs線源(Hitachi Medico Ltd.)を用いて、これらのレシピエントマウスに700cGyを照射し、次いでドナー細胞に尾静脈注射を介して注射した。健康な対照(正常群対照)については、同齢の雌BALB/cマウスを選択した。
 3つのマウスモデル(GVHD群、非GVHD群、及び正常群対照)を比較のために使用した。このDEDマウスモデルにおけるDED表現型は、BMTの3週間後に現れるので、体重、TFBUT、角膜フルオレセインスコア(CFS)、TS等の眼球表現型を週1回、BMT前(8週齢)から12週齢まで収集した。なお、スマートアイカメラで記録されたすべての撮影データは、ブルートゥース(登録商標)を介してiMac(米国アップル社)に手動で転送し、安全な保存のためにmp4ビデオデータに変換した。
(涙液層破壊時間の評価)
 安定性は、涙液層破壊時間(TFBUT)を用いて測定した。観察者は片手でマウスを握り、次にマイクロピペットを使用して1μLの0.5%フルオレセインナトリウムを結膜嚢に注入した。3回点眼した後、観察者は、上記近接撮影用装置20Aを装着した移動体通信端末装置10を右手で使用し、眼の画像を撮影した。本手法と既存の手法とを比較するために、既存装置で取得したTFBUTを従来の方法で評価した。
(角膜フルオレセインスコアの評価)
 角膜上皮損傷は、フルオレセイン点眼後90秒で評価された角膜フルオレセインスコア(CFS)を用いて評価した。各角膜を4つの象限に分割し、そして個々に記録した。CFSは、4段階評価を用いて計算した。評価1は、「<30スポット」でわずかに点状の染色を示した場合とし、評価2は、「>30スポット」で点状染色して拡散しない場合とし、評価3は、重度のびまん性染色があるが陽性プラークはない場合とし、評価4は、フルオレセイン陽性プラークの場合とした。
(涙液分泌の評価)
 涙液の分泌(TS)は、修正シルマー試験を用いて測定した。フェノールレッドスレッドを15秒間上眼瞼縁の側頭側に置いた。端からの湿った部分の長さは0.5mm以内であった。
(データ分析)
 データ分析は、Prismソフトウェア(バージョン6.04のマック;GraphPad Software、Inc.米国)で行った。データが正規分布を示しているかどうかを評価するために、D’Agostino-Pearson omnibus正規性検定を使用した。体重とTFBUT、CFS、及びTSを含むいくつかのパラメーターの正常と目的(GVHD群と非GVHD群)の違いを比較するために、マン-ホイットニーU検定を使用した。既存の手法とスマートアイカメラによって評価された結果の違いを比較するために、ウィルコクソンの符号付き順位検定を使用した。スマートアイカメラによって撮影された3人の異なる眼科専門家によるTFBUT評価の違いを比較するために、フリードマン検定を使用した。Linの一致相関係数は、既存の技術とスマートアイカメラを使用して、TFBUTとCFSの間の可能な相関関係を評価するために使用した。データは、平均±標準偏差(SD)として表し、0.05未満のP値を統計的に有意と見なした。
[結果]
(体重)
 図17(A)は、マウスの週齢と体重の関係を測定したグラフであり、図17(B)は、グループ別の体重の経過(緑:正常群、青:非GVHD群、赤:GVHD群)についての表である。マウスのマウスモデルにおけるスマートアイカメラの適用性を検証するために、最初に骨髄移植(BMT)について評価した。図17の結果より、マウスの体重は、初めに各群について調整されたため、BMT(8週齢)前の正常群、非GVHD群、及びGVHD群の間に体重の差はない。しかしながら、9週齢及び10週齢の非GVHD群及びGVHD群では、正常群と比較して体重が有意に減少した。その結果として、9週齢ではP=0.016及び0.016であり、10週齢ではP=正常群対非GVHD群及び正常群対GVHD群についてそれぞれ=0.016及び0.032であった。体重は、11週齢及び12週齢の正常群における体重と比較した場合、GVHD群の11週齢及び12週齢においてそれぞれP=0.032及び0.032であり、GVHD群においてのみ減少した。
(涙液分泌量)
 図18(A)は、マウスの週齢と涙液分泌量(TS:Tear Secretion)の関係を測定したグラフであり、図18(B)は、グループ別の連続涙液分泌(TS)の経過(緑:正常群、青:非GVHD群、赤:GVHD群)についての表である。TSの有意差は、9~12週齢で、正常群と非GVHD群、正常群とGVHD群の間で観察した。さらに、12週齢で、TSはGVHD群では非GVHD群と比較して有意に短かった。1群あたりN=5とし、有意(P<0.05)の評価は、マン-ホイットニーU検定で行った。
 図18の結果より、TSは、体重としてBMT前には何の差もなかったが、9~12週齢の正常群と比較して非GVHD群とGVHD群ではこれらの値が有意に減少した。正常群対非GVHD群、及び、正常群対GVHD群は、ぞれぞれ、9週齢ではP=0.008及び0.016であり、10週齢ではP=0.008及び0.008であり、11週齢ではP=0.016及び0.024であり、12週齢ではP=0.008及び0.008であった。さらに、12週齢でのGVHD群のTS量は1.65±1.01であり、非GVHD群の3.70±0.33と比較して有意に低かった。また、その際の非GVHD群対GVHD群は、P=0.008であった。
(涙液層破壊時間)
 図19(A)は、マウスの週齢と液層破壊時間(TFBUT)の関係を測定したグラフであり、図19(B)は、グループ別の涙液層破壊時間の経過(緑:正常群、青:非GVHD群、赤:GVHD群)についての表である。有意差は、1群あたりn=5とし、P<0.05を有意とするマン-ホイットニーU検定で行った。TFBUTは、右眼で評価した。
 TFBUTは、BMT(8週齢)前の正常群、非GVHD群及びGVHD群の間での差は観察されなかった。しかしながら、TFBUTは、10~12週齢の正常群と比較した場合、GVHD群では有意に減少した(10週齢、11週齢及び12週齢で、それぞれP=0.024、0.008、及び0.008)。TFBUTは、11週齢の正常群と比較した場合、非GVHD群でも減少した(正常群対非GVHD群は、5.80±0.84対4.00±0.71であり、P=0.024)。さらに、BMT後群と比較した場合、GVHD群は、11週齢及び12週齢で非GVHD群よりも有意に短いTFBUTを有した(11週齢及び12週齢でそれぞれP=0.040及び0.008)。
 図20は、フルオレセイン溶液によって染色された連続的な涙液膜写真を示す。このように、涙液層の破壊が観察された。図20の上段は、涙液層が3秒で割れた(TFBUT=3秒)GVHD群の例であり、図20の下段は、涙液膜が3秒で安定化し、6秒で崩壊(TFBUT=6秒)した正常群の例である。写真は12週齢の雌BALB/cマウスの右眼である。これらの結果は、スマートアイカメラがGVHD群DEDマウスモデルの連続TFBUTを評価できることを示している。
(連続角膜フルオレセインスコア)
 図21(A)は、マウスの週齢と連続角膜フルオレセインスコア(CFS)の関係を測定したグラフであり、図21(B)は、グループ別のCFSの経過(緑:正常群、青:非GVHD群、赤:GVHD群)についての表である。有意差は、1群あたりn=5とし、P<0.05を有意とするマン-ホイットニーU検定で行った。CFSは、右眼で評価した。
 9週齢、11週齢及び12週齢の正常群と比較した場合、図21(B)に示すように、GVHD群において有意差が観察された(それぞれP=0.008、0.008、及び0.032)。非GVHD群は正常群よりCFSの高い傾向を示し、GVHD群は非GVHD群より高い傾向を示したが、これは統計的有意性に達しなかった(全てP>0.05)。この結果から、GVHD群のDEDマウスモデルでは、連続CFSもスマートアイカメラで評価できることが確認できた。
(既存装置との比較)
 図22は、スマートアイカメラと既存技術について、TFBUTとCFSの測定結果を比較した結果であり、(A)はTFBUTについてのグラフであり、(B)はCFSについてのグラフであり、緑:正常群、青:非GVHD群、赤:GVHD群である。図21(C)は、これらをまとめた表である。有意差は、1群あたりn=5とし、P<0.05を有意とするマン-ホイットニーU検定で行っている。
 各グラフで2本の棒が並んでいる。この結果から通常の非GVHD群とGVHD群では、既存装置とスマートアイカメラの使用に大きな違いがないことがわかる。そして、TFBUTについて、スマートアイカメラで得られた結果と携帯型スリットランプ顕微鏡(既存装置)で得られた結果より、正常群対照、非GVHD群、及び、GVHD群の間に有意差はなかった(それぞれ、0.50、0.99、0.99であり、すべてP>0.05であった)。同様に、CFSについて、スマートアイカメラと既存のスリットランプ顕微鏡で得られた結果より、正常群対照、非GVHD群及びGVHD群の間に有意差は認められなかった(それぞれ、P=0.99、0.75、0.50であり、すべてP>0.05であった)。
 図23は、スマートアイカメラと既存装置との相関関係を示すグラフであり、(A)はTFBUTについてのグラフであり、(B)はCFSについてのグラフである。各グラフで、Y軸は、スマートアイカメラによって評価された数値を示し、X軸は、既存装置による評価を示している。n=15である。TFBUT(R=0.868、95%、CI:0.656~
0.953)及びCFS(R=0.934、95%、CI:0.823~0.976)において、高い相関が観察された。
 図23(A)の結果より、スマートアイカメラと既存装置のTFBUTは、P<0.001でr=0.871であり、有意な相関を示していた。また、図23(B)の結果より、スマートアイカメラと既存装置のCFSも、P<0.001、r=0.941であり、有意な相関を示していた。これらの結果は、スマートアイカメラが既存装置と比較してマウスモデルの眼球表現型をとる上で同等の品質を有することを示している。
(まとめ)
 以上の検証例より、第1実施形態の近接撮影用装置20Aを装着した移動体通信端末装置10(すなわち、スマートアイカメラ)が、DEDマウスモデルにおいて適用可能であることを検証することができた。このモデルは、体重減少、TSの短縮及び角膜上皮炎の悪化を特徴としており、これはCFSに反映されていた。図24は、それらを整理したグラフである。その結果より、DEDマウスモデルにおけるGVHD群のTFBUTは、正常群及び非GVHD群と比較して減少していた。図24に示すように、これはTFBUTの傾向が、TSの傾向と類似し、CFSの傾向とは反対であることを示している。
 図22に示すようにTFBUT、CFSともにスマートアイカメラと既存装置との間で観察結果に違いはなかった。また、図23に示す相関分析から分かるように、スマートアイカメラと既存装置による結果は、TFBUTとCFSの両方において有意に高い相関を示した。これらは、スマートアイカメラで撮影した結果が、既存装置で撮影した結果と同等の品質を持つことを意味する。さらに、図示しないが、異なる観察者でも同様の結果が得られている。
[検証例2]
 この検証例2では、上記構成の近接撮影用装置20Aを装着した移動体通信端末装置10(スマートアイカメラ)を用いてドライアイ患者とドライアイのない正常患者の合計42人に対して、ドライアイの診断基準であるTFBUT測定を行うとともに、左右差、撮影秒数等についても検証した。その結果を図25に示す。ドライアイ患者群(「DED+」で表す。)のTFBUTは、3.64±1.81秒であり、ドライアイのない正常患者(「DED-」で表す。)のTFBUTは、6.50±0.71秒であった。統計学的に有意に、ドライアイ群の方がTFBUTが短い結果となった。有意差は、P<0.05を有意とするマン-ホイットニーU検定で行っている。このことより、スマートアイカメラは、TFBUT等の眼所見を評価することが可能といえる。
 以上説明したように、本実施形態の近接撮影用装置20Aを装着した移動体通信端末装置10(すなわち、スマートアイカメラ)によれば、TFBUTやCFS等の連続した眼の表現型を評価することができることが確認できた。
(DEDに対応する診断用知識の獲得方法)
 実際に被検眼EにおけるDEDの状態を推定する場合には、抽出用知識記憶部332に、DEDの診断に利用可能な診断可能フレーム画像を抽出するための抽出用知識を予め記憶させるとともに、診断用知識記憶部334には、DEDに対応する診断用知識を記憶させておく必要がある。
 ここで、被検眼EにおけるDEDを診断するためには、CFSをスコアリングするため、観察対象組織(角膜や結膜、眼表面)に青色光が観察光として照射され、その反射光RLともに観察対象組織の少なくとも一部が写り込んでいるピントの合っているフレーム画像を診断可能フレーム画像として抽出する必要がある。このため、この場合、抽出用知識記憶部332には、当該条件を満たすフレーム画像を抽出するための抽出用知識を予め記憶させることが必要となる。
 また、被検眼EにおけるDEDの状態を推定する場合には、診断可能フレーム画像の経時的な変化に基づき、連続CFSやTS、TFBUTを測定しつつ、DEDの状態を推定することが必要となる。そして、これらを測定する場合には、被検眼Eの眼表面、角膜上皮、結膜上皮における涙の分泌状態や涙液層の経時的な変化状態を観察する必要がある。このため、被検眼EにおけるDEDの状態を推定する場合には、上記各疾患例のように1枚の静止画フレーム画像に基づく状態推定は困難となる。
 そこで、被検眼EにおけるDEDの状態を推定する場合に、診断可能フレーム抽出部352は、診断用知識獲得処理(図14)のステップSa3において、「Diagnosable」クラスに分類されたフレーム画像において、時間的に最も早いタイミングで撮影されたフレーム画像を「0」秒に対応する診断可能フレーム画像として抽出し、その診断可能フレーム画像を、時間情報(0秒)と対応付けてROM/RAM320に記憶させる。また、このとき、診断可能フレーム抽出部352は、「0」秒に対応する診断可能フレーム画像よりも所定時間経過したタイミングにて撮影されたフレーム画像(例えば、3秒後及び6秒後の各タイミングにて撮影されたフレーム画像)において「Diagnosable」クラスに分類されたフレーム画像を当該タイミングにおける診断可能フレーム画像として抽出し、各診断可能フレーム画像を該当する時間情報(例えば、3秒、6秒等)と対応付けてROM/RAM320に記憶させる。そして、ステップSa4において、診断用知識獲得部353は、ROM/RAM320に記憶された各診断可能フレーム画像と時間情報を対応付けて、アノテーション用端末装置40に送信する構成とする。
 このようにして診断支援サーバ装置30から時間情報に対応付けられた診断可能フレーム画像を受信すると、アノテーション用端末装置40は、例えば、0秒の診断可能フレーム画像、3秒目の診断可能フレーム画像、6秒目の診断可能フレーム画像というように、各診断可能フレーム画像を時間情報と対応付けつつ時系列に表示させ、被検眼Eにおける涙の状態や涙液層の変化状態を医師が確認できるように診断可能フレーム画像をモニタ上に表示させる。
 そして、医師が時間情報と対応付けて表示された診断可能フレーム画像に基づき、連続CFS、TS及びTFBUTを測定し、DEDの有無やその重症度等の診断結果を入力すると、アノテーション用端末装置40は、時間情報に基づき各診断可能フレーム画像を時系列に並べて複数の診断可能フレーム画像からなる変化像(一種の動画像)を生成する。そして、アノテーション用端末装置40は、当該変化像を表示させつつ、アノテータとなる医師にDEDの診断を行わせ、当該変化像に対して診断結果情報によるタグ付けを行うことで教師データを作成して、診断支援サーバ装置30に返信する。この結果、診断支援サーバ装置30の教師データ記憶部333には変化像に関する教師データが記憶される(ステップSa6)。なお、このときアノテータとなる医師は、変化像に基づき、TFBUTを測定して、TFBUTの測定値が所定の閾値以下(例えば、5秒以下)であれば、DEDが発症しているものと診断するようにすればよい。
 移動体通信端末装置10から動画像データがアップロードされてくる度に、上記の処理を繰り返し、教師データ記憶部333に蓄積された変化像に関する教師データ数が、α以上となった時点で、診断用知識獲得部353は、教師データ記憶部333に蓄積された教師データに基づき、DEDに対応する診断用知識を獲得し(ステップSa8)、診断用知識記憶部334に記憶させる(ステップSa9)。このとき、診断用知識獲得部353は、教師データに含まれる変化像と、診断結果情報に基づき、機械学習及びデータマイニングの少なくとも一方を実行してDEDに対応する診断用知識を獲得するようにすればよい。なお、変化像の生成タイミングは、上記生成タイミングに限定されず、アノテーション用端末装置40に診断可能フレーム画像と時間情報を送信する際に診断用知識獲得部353にて生成できる。また、診断可能フレーム画像抽出処理において、診断可能フレーム抽出部352が変化像を生成する構成としてもよい。
 一方、DEDに対応する診断用知識が診断用知識記憶部334に記憶された状態において、移動体通信端末装置10から動画像データがアップロードされてくると、診断処理部350においては基本的に図15と同様の診断支援情報生成処理によって診断支援情報が生成され(ステップSb7)、該当する移動体通信端末装置10に配信されることになる(ステップSb8)。
 但し、この場合には、上記診断用知識獲得処理において得られた変化像と同様の変化像(例えば、0秒、3秒、6秒の診断可能フレーム画像からなる変化像等)を用いて、被検眼EにおけるDEDの状態を推定することが必要となる。このため、この場合に、診断可能フレーム抽出部352は、ステップSb3において、診断用知識獲得処理にて診断可能フレーム画像を抽出したタイミングと同じタイミングで得られる診断可能フレーム画像(例えば、0秒、3秒、6秒の各タイミングにて得られる診断可能フレーム画像)を抽出して、時間情報と対応付けつつROM/RAM320に記憶させる。
 また、この場合に、健康状態推定処理部354は、ステップSb5の健康状態推定処理においてROM/RAM320に記憶された診断可能フレーム画像を時間情報に基づき時系列に並べることで変化像を生成し、当該変化像と診断用知識記憶部334に記憶されたDEDの診断用知識に基づき、被検眼EにおけるDEDの状態を推定する。なお、この場合に、健康状態推定処理部354が、「Diagnosable」クラスに該当する確率に基づき推定結果に重み付けを行いDEDの最も尤もらしい状態を推定するか否かは任意である。例えば、重み付けを行う場合には、ステップSb3において診断可能フレーム画像を抽出する際に、変化像を生成するための診断可能フレーム画像として、例えば「0秒タイミング」に対応するものを5枚、「3秒タイミング」に対応するものを5枚、「6秒タイミング」に対応するものを5枚、というように複数組抽出する。そして、診断処理部350が各組毎に変化像を生成しつつ、変化像毎にDEDの状態を推定する。そして、変化像毎の「Diagnosable」クラスに該当する確率により推定結果に重み付けを行い、被検眼EにおけるDEDの最も尤もらしい状態を推定するようにすればよい。なお、この場合に各変化像が「Diagnosable」クラスに該当する確率を算出する方法は任意である。例えば、各変化像を構成する診断可能フレーム画像の「Diagnosable」クラスに該当する確率の平均値を用いるようにしてもよい。
 そして、ステップSb6において診断支援情報生成部355は、ステップSb5において生成した変化像を提示用フレーム画像としつつ、当該変化像とDEDの推定結果を含む診断支援情報を生成して(ステップSb7)、該当する移動体通信端末装置10に配信する(ステップSb8)。なお、本変形例においては、0秒、3秒、6秒の各々に対応する診断可能フレーム画像を抽出しつつ、変化像を生成する場合を例について説明したが、スマートアイカメラからアップロードされた動画像データにおいて最初の診断可能フレーム画像を0秒として、その後の10秒間に撮影された動画像に含まれる全ての診断可能フレーム画像を抽出して、それらを全てつなげて変化像を生成して、10秒分の変化像(一種の動画像)を生成する方法を採用してもよい。
[A7.6]変形例6
 上記第1実施形態及び各変形例においては、移動体通信端末装置10にて撮影された動画像に基づき、被検眼Eの前眼部における1つの疾患(例えば、白内障等)を対象として当該疾患の状態を推定する構成を採用した。しかしながら、実際の患者においては、例えば、白内障と流行性角結膜炎等、複数の疾患に同時に罹患しているケースも想定される。従って、1回の動画像撮影で複数の疾患の状態を一度に推定して利用可能とすることが望ましい。
 そこで、本変形例においては、抽出用知識記憶部332に対して複数の疾患に対応する抽出用知識を予め記憶させるとともに、診断用知識記憶部334には、複数の疾患に対応する診断用知識を記憶させ、移動体通信端末装置10から動画像データがアップロードされてきた際に、当該動画像データに基づき被検眼Eにおける疾患の発症の有無やその重症度等を疾患毎に推定し、当該疾患毎の推定結果を含む診断支援情報を生成するとともに(ステップSb7)、該当する移動体通信端末装置10に配信する(ステップSb8)構成を採用することとした。なお、被検眼Eの前眼部を観察し、撮影する方法としては、上記のように(方法1)スリット光形成部材61及び凸レンズ部材93を装着し、カラーフィルター部材97を取り外した状態の近接撮影用装置20Aにより被検眼Eにスリット光SLを観察光として照射させて観察及び撮影する方法と、(方法2)凸レンズ部材93のみを装着し、白色拡散光を観察光として被検眼Eに照射させて観察及び撮影する方法、(方法3)カラーフィルター部材97及び凸レンズ部材93を装着した状態の近接撮影用装置20Aにより被検眼Eに青色光を観察光として被検眼Eに照射させて観察及び撮影する方法の3通りの方法があるが、本変形例においては、いずれかの方法にて撮影した動画像を用いるものとする。
 このとき、診断処理部350は、基本的に図15と同様の診断支援情報生成処理を実行することによって診断支援情報を生成することとなるが、本変形例においては、複数の疾患に関する状態を一度に推定可能にする必要があるため、以下の方法を採用することとした。
 まず、診断可能フレーム抽出部352は、ステップSb3の診断可能フレーム画像抽出処理において当該動画像データに含まれる各フレーム画像と各疾患に対応する抽出用知識に基づき、疾患毎に診断可能フレーム画像を抽出する。このとき、診断可能フレーム抽出部352は、動画像データに含まれる各フレーム画像においてピントの合っている組織にラベリングを行いつつ、対象疾患の発症する組織にピントが合っているフレーム画像を抽出する。そして、診断可能フレーム抽出部352は、当該抽出したフレーム画像の中から抽出用知識に基づき疾患毎の診断可能フレーム画像を抽出する。このとき、診断可能フレーム抽出部352は、抽出したフレーム画像の各々に関して、「Diagnosable」クラスに該当する確率を算出し、当該算出した確率と該当する疾患名を診断可能フレーム画像と対応付けてROM/RAM320に記憶させる。
 そして、本変形例において健康状態推定処理部354は、ステップSb3において抽出された診断可能フレーム画像と対応付けて記憶された疾患名に基づき、該当する疾患に対応する診断用知識を診断用知識記憶部334から読み出して(ステップSb4)、疾患毎に状態を推定する(ステップSb5)。このとき、健康状態推定処理部354は、ROM/RAM320に記憶された診断可能フレーム画像毎に対応する疾患の状態を推定する。そして、当該推定結果に対して診断可能フレーム画像と対応付けて記憶された「Diagnosable」クラスに該当する確率による重み付けを行いつつ、被検眼Eにおける各疾患の最も尤もらしい状態を推定する。なお、各疾患の最も尤もらしい状態を推定する際の処理は上記第1実施形態と同様である。
 また、ステップSb6において、診断支援情報生成部355は、提示用フレーム画像を疾患毎に抽出し、疾患毎の推定結果と提示用フレーム画像を対応付けつつ診断支援情報を生成する(ステップSb7)。そして、診断支援情報配信部356は、このようにして生成された診断支援情報を該当する移動体通信端末装置10に配信して(ステップSb8)、処理を終了する。なお、この場合に、ステップSb6において各疾患に対応する提示用フレーム画像を抽出する方法は、対象疾患の発症する組織の写り込んだ画素領域の面積が最も大きい診断可能フレーム画像となる点以外は上記第1実施形態と同様である。また、この場合に、ステップSb7において診断支援情報生成部355が生成する診断支援情報の形式に関しては任意である。例えば、疾患名と、当該疾患の発症の有無や重症度の推定値、治療方法、手術の要否等の情報と提示用フレーム画像を対応付けた一覧表の形式で生成する構成としてもよい。
 また、本変形例においても、基本的に図14と同様の診断用知識獲得処理により、各疾患に対応する診断用知識が獲得され、診断用知識記憶部334に記憶されることとなるが、この際の獲得方法としては以下の2通りの方法を採用できる。(獲得方法1)この方法は、疾患毎に上記第1実施形態と同様の処理(図14)を実行することにより対応する診断用知識を獲得する方法である。(獲得方法2)この方法は、移動体通信端末装置10からアップロードされた動画像データに基づき、複数の疾患に対応する診断用知識を一度に獲得する方法である。但し、獲得方法1に関しては、対象疾患が白内障以外の疾患となる点以外は上記第1実施形態と同様であるため、以下においては獲得方法2についてのみ説明する。
(獲得方法2)
 この方法を採用する場合、図14ステップSa3の診断可能フレーム画像抽出処理において診断可能フレーム抽出部352は、上記と同様の方法により疾患毎の診断可能フレーム画像を抽出し、該当する疾患名を診断可能フレーム画像と対応付けてROM/RAM320に記憶させる。
 次いで、ステップSa4において、診断用知識獲得部353は、ROM/RAM320に記憶された疾患名と、診断可能フレーム画像を対応付けつつアノテーション用端末装置40に送信する。
 このようにして送信された診断可能フレーム画像を受信すると、アノテーション用端末装置40は、診断支援サーバ装置30から受診した診断可能フレーム画像と疾患名を対応付けつつモニタに表示させる。この状態において、アノテータとなる医師は、モニタに表示された疾患毎の診断可能フレーム画像に基づいて、各疾患の状態を診断し、診断結果を入力することとなる。なお、このときの表示形態に関しては任意であり、例えば、モニタの表示領域を複数に分割して、(a)各領域に疾患名と、(b)対応する診断可能フレーム画像と、(c)当該疾患に関する診断結果を入力するためのGUIと、を対応付けて表示するようにしてもよい。
 そして、医師が各領域に表示された診断可能フレーム画像及び疾患名に基づき、疾患毎に診断を行い、診断結果を入力すると、アノテーション用端末装置40は、入力結果に対応する疾患毎の診断結果情報により該当する疾患の診断可能フレーム画像にタグ付けを行うことにより、各疾患に対応する教師データを作成し、当該作成した教師データと該当する疾患名を対応付けて診断支援サーバ装置30に送信する。
 一方、診断支援サーバ装置30においては、通信制御部310が、アノテーション用端末装置40から送信された教師データを受信すると(ステップSa5)、当該教師データを疾患名と対応付けつつ、教師データ記憶部333に記憶させる(ステップSa6)。
 以上の処理が移動体通信端末装置10から動画像データがアップロードされてくる度に繰り返され、教師データ記憶部333には、疾患毎に教師データが蓄積されていくこととなる。
 そして、教師データ記憶部333に記憶済の各疾患に対応する教師データ数がα以上となったタイミングにて、ステップSa7における判定が「Yes」に変化して、診断用知識獲得部353は、教師データ記憶部333に蓄積された疾患毎の教師データに基づき、各疾患に対応する診断用知識を獲得して(ステップSa8)、疾患名と対応付けて診断用知識記憶部334に記憶させる(ステップSa9)。なお、ステップSa7及びSa8においては、教師データ記憶部333に記憶済の教師データ数を疾患毎にαと比較して、教師データ数がα以上となった疾患に関する診断用知識を獲得するようすればよい(ステップSa8)。また、教師データ数がα以上となる疾患が複数ある場合には、疾患毎に診断用知識獲得処理を繰り返し(ステップSa8)、複数の疾患に対応する診断用知識を一括して獲得するようにするようにする。そして、ステップSa9において診断用知識獲得部353は、ステップSa8にて獲得された疾患毎の診断用知識を対応する疾患の疾患名と対応付けて、診断用知識記憶部334に記憶させるようにすればよい。
 また、スマートアイカメラにより被検眼Eを正面から撮影すると、角膜、前房、水晶体の各組織は、重なり合って写り込むことになるが、例えば、観察光としてスリット光SLを照射する場合には、スリット光SLを斜め方向から被検眼Eに入射させることで、被検眼Eをスリット光SLで断面方向に切りつつ、被検眼Eの三次元的な情報を含む画像を撮影できる。この場合に、画素毎にマルチラベリングを行う構成を採用することで、どの画素に何の組織が写り込んでいるのかを特定することができるので、正面から撮影すると重なり合って見えるような複数の組織に発症した複数の疾患に関しても同様の構成によりその状態を一度に推定しつつ、診断支援情報を生成し、該当する移動体通信端末装置10に配信することができる。
[A7.7]変形例7
 上記実施形態及び各変形例においては、人間の眼を対象として、被検眼Eにおける疾患の状態を推定する構成を採用したが、本発明の診断支援装置、診断支援システム及びプログラムは、人間以外の動物に対しても適用可能である。上述したようにスマートアイカメラを用いることでマウスや他の動物の眼に関しても詳細に観察し、撮影できるので、人間以外の動物の眼を被検眼Eとしつつ、その眼の動画像を撮影することにより、人間に対するのと同様に動物の眼の健康状態を推定し、診断支援情報を生成して、利用する事ができる。この場合においても、撮影対象となるのが人間以外の動物となること以外は、上記実施形態及び変形例と同様であるため、詳細を省略する。
[A7.8]変形例8
 上記実施形態及び各変形例においては、スマートアイカメラにおいて撮影された動画像のみを用いて被検眼Eの健康状態を推定する方式を採用したが、スマートアイカメラは、近接撮影用装置20を装着した状態の移動体通信端末装置10によって実現されるため、国や地域を問わずに被検眼Eの健康状態を推定するために利用できるとともに、当該動画像の撮影場所を示す位置情報(例えば、緯度経度情報)を取得することが可能となっている。従って、このスマートアイカメラに特有の性質(すなわち、撮影場所の位置情報を取得可能な性質)を利用して以下のような応用を行うことも可能である。なお、位置情報は、既存の移動体通信端末装置10として利用するスマートフォンに搭載されているGPS(Global Positioning System)機能を利用すれば取得可能であるため、取得方法に関しては詳細を省略する。
<応用手法1>
 例えば、本変形例の手法を採用して何処の地域においてどのような眼疾患の発症率が高いのかを特定し、動画像の撮影された地域に応じて、健康状態の推定結果に反映させる応用形態を実現できる。この場合には、スマートアイカメラの撮影画像とともに撮影場所の位置情報を診断支援サーバ装置30にアップロードするようにする。また、この場合には、診断支援サーバ装置30が、当該撮影画像から抽出した診断可能フレーム画像と位置情報を紐付けつつアノテーション用端末装置40に送信し、アノテーション用端末装置40において診断可能フレーム画像とともに位置情報を表示(例えば、地図上に位置をプロットする等)させる。そして、アノテータとなる医師が表示された診断可能フレーム画像と位置情報に基づき診断を行うと、アノテーション用端末装置40は、対応する診断結果情報と位置情報によって、当該診断可能フレーム画像にタグ付けして教師データを作成する。一方、診断用知識獲得部353は、位置情報のタグ付けされた教師データに基づいて診断用知識を獲得する。なお、この際における他の処理は、図14と同様であるため、詳細を省略する。
 また、この方法で診断支援情報を生成する場合には、スマートアイカメラにて撮影された動画像と対応付けて位置情報をアップロードする構成を採用する。そして、診断支援サーバ装置30において診断支援情報を生成する際に、(i)当該アップロードされた動画像データから抽出された診断可能フレーム画像と、(ii)動画像データに対応付けられた位置情報と、(iii)上記手法によって取得された診断用知識と、に基づき被検眼Eの健康状態を推定するようにすればよい。この方法により、撮影地域にて最も発症頻度の高い疾患の状態を高精度に推定することが可能となるとともに、撮影地域に特有の風土病に関しても高い精度にて疾患の状態を推定することができる。例えば、オンコセルカ症等の疾患は、日本では、ほとんど罹患者が存在しないが、サハラ以南のアフリカ地域においては、よく見られる疾患であるため、位置情報と診断可能フレーム画像に基づき状態を推定することにより、高精度にこの種の風土病の状態を推定することができる。
<応用手法2>
 また、例えば、本変形例の手法を採用して各種眼疾患の罹患率の高い地域を特定し、各種疾患の疫学的な流行状況を把握することにも応用できる。この場合には、健康状態の推定結果と位置情報を対応付けつつデータベース化して診断履歴を残すことにより、どの地域でどのような疾患の発生頻度が高いのかを疫学的に調査することが可能となる。なお、この場合に、診断履歴のデータベースは、診断支援サーバ装置30内に設ける構成としてもよく、眼疾患に関する疫学調査研究機関の保有するコンピュータシステム等に設ける構成としてもよい。
[B]第2実施形態
 上記第1実施形態は、被検眼Eの前眼部組織における疾患の状態を診断支援サーバ装置30にて推定し、その推定結果を含む診断支援情報を該当する移動体通信端末装置10に配信して利用するためのものであった。これに対して、本実施形態は、被検眼Eの眼底組織における疾患(例えば、高血圧性眼底、網膜菲薄化、緑内障、糖尿病網膜症、網膜剥離、中心性漿液性脈絡網膜症、加齢黄斑変性、滲出性網膜症、網膜中心動脈閉塞症等)の状態を推定し、その推定結果を含む診断支援情報を移動体通信端末装置10に配信するためのものである。なお、本実施形態の診断支援システムは、近接撮影用装置20の構成と、抽出用知識及び診断用知識の内容のみが第1実施形態の診断支援システム1と異なり、他の構成に関しては、基本的に第1実施形態と同様である。従って、特に明示しない限り、本実施形態の診断支援システムは、第1実施形態と同様の構成により実現されるものとする。
[B1]近接撮影用装置20Bの構成
 次いで、図26~28を用いて、本実施形態の近接撮影用装置20Bの構成について説明する。なお、図26~28は、各々、本実施形態の近接撮影用装置20Bの構成を示す図であり、図26は、近接撮影用装置20Bの斜視図、図27は、本実施形態の近接撮影用装置20Bの正面図、図28は、本実施形態の近接撮影用装置20Bの分解構成図である。
 本実施形態の近接撮影用装置20Bは、眼底組織観察・撮影用の筒状部材180を有する構成となっている。
(筒状部材)
 筒状部材180は、図26~図28に示すように、その先端に凸レンズ183を有する部材である。この筒状部材180も着脱可能に移動体通信端末装置10に装着される。筒状部材180は、移動体通信端末装置10に装着するための装着部181と、筒部182(182a,182b)と、凸レンズ183と、開口部184と、凸レンズ保持部185と、装着部186とで少なくとも構成されている。こうした筒状部材180により、眼底との焦点距離を適切な状態に調整して保つことができる。その結果、眼底の観察・撮影を適切に行うことができる。
 この筒状部材180の開口部184において、光源92から出射された光源光(白色拡散光)の光路位置には、カラーフィルター(オレンジ)4と、偏光フィルター(水平偏光)3と、がその順に配置されている。この構成により、光源92から出射された光源光は、オレンジのカラーフィルター4を透過する際にオレンジ光へと変化して、偏光フィルター3によって直線偏光(例えば、P偏光)へと変換される。このようにして光源光を変換して得られた観察光(直線偏光)は、凸レンズ183を透過し、被検眼Eの眼底組織に照射される。一方、眼底組織で反射された直線偏光の反射光RL(すなわち、復路光)が、撮影用カメラレンズ91に到達する直前の光路位置には、偏光フィルター(垂直偏光)2が設けられている。なお、各偏光フィルター2,3は、一方が垂直偏光で他方が水平偏光であれば、いずれが垂直偏光でも水平偏光でもよい。この構成により、観察光と反射光RLの間に位相差を発生させ、筒状部材180内部における観察光(往路光)と反射光RL(復路光)の干渉を防止し、反射光RLによる眼底組織(網膜)の観察・撮影をきれいに行うことができる。
 オレンジのカラーフィルター4は、観察光をできるだけ眼底組織に到達しやすい光に変換するための部材である。
 移動体通信端末装置10に装着するための装着部186は、図28に示すように、右側壁85の側から移動体通信端末装置10にスライドさせて装着できるように構成されている。装着後の筒状部材180は、カラーフィルター(オレンジ)4と偏光フィルター3とが光源92の前方に設けられ、他の偏光フィルター2が撮影用カメラレンズ91の前方に設けられている。
 筒部182は、図の例では、2つの筒部182a,182bを組み合わせて構成されているが、特に限定されない。凸レンズ183は、筒状部材180の前方の凸レンズ保持部185に装着され、観察光としての直線偏光を眼底組織に照射させるとともに、眼底組織における観察光(直線偏光)の反射光RLを、偏光フィルター2を介して、撮影用カメラレンズ91に集光させる。なお、筒状部材180は、図2~7に示す近接撮影用装置20Aに対して着脱可能なアタッチメントとして構成してもよい。アタッチメントとする場合には、カラーフィルター4、偏光フィルター3,2が図26~28に示す位置関係で配置されるように筒状部材180を構成し、図2~7に示す近接撮影用装置20Aにおいてスリット光形成部材61、凸レンズ部材93及びカラーフィルター部材97を全て取り外し、当該筒状部材180をハウジング80に着脱可能に装着する構成とすればよい。
[B2]スマートアイカメラを用いた眼底組織における疾患の診断に関する検証結果について
 本発明者は、2018年12月、図26~28の構成の筒状部材180を有する近接撮影用装置20Bを装着した移動体通信端末装置10(すなわち、スマートアイカメラ)を用いて被検眼Eの眼底組織の観察を行った。なお、症例は、眼底:41眼(男性19名、女性22名)とし、視神経異常の有無、眼底疾患の有無を評価した。
 図26~28に示す近接撮影用装置20を装着した移動体通信端末装置10(スマートフォン)により上記41眼を対象として撮影した画像の一例を図29に示す。なお、図29において(A)は正常眼底、(B)は高血圧性眼底、(C)は網膜菲薄化、(D)は視神経乳頭陥凹拡大(緑内障疑い)の画像である。図29の例を含め、85%以上の症例で眼底組織の評価が可能であった。なお、評価不可能な症例は、重症白内障等の中間透光体の混濁であったが、これは既存の眼科用装置でも評価できないものである。この結果から、図26~28の構成の筒状部材180を装着したスマートアイカメラにより眼底の観察・撮影を好ましく行えることが確認できた。
 図30は、図26~28の構成の筒状部材180を装着した移動体通信端末装置10で評価した高血圧性眼底についての評価結果の医師間の相関である。医師間での大きな相違はなかった。また、緑内障診断率も医師間では、25.7%と18.9%であり、これについても大きな相違はなかった。以上の結果から図26~28の筒状部材180を装着したスマートアイカメラは、既存の眼科用装置と遜色なく被検眼Eの眼底組織を詳細に観察し、撮影できる事が確認できた。
 実際に本実施形態の診断支援システムにて被検眼Eの眼底組織に発症する各種疾患の有無やその重症度を推定する場合には、移動体通信端末装置10に図26~28に示す筒状部材180を有する近接撮影用装置20Bを移動体通信端末装置10に装着し、観察光として直線偏光を被検眼Eの眼底組織に照射しつつ、該当する疾患の診断に利用可能な診断可能フレーム画像を含む動画像を撮影することが必要となる。
 そして、この場合、抽出用知識記憶部332には、高血圧性眼底、網膜菲薄化、緑内障、糖尿病網膜症、網膜剥離、中心性漿液性脈絡網膜症、加齢黄斑変性、滲出性網膜症、網膜中心動脈閉塞症等、眼底組織に発症する疾患の診断に利用可能な診断可能フレーム画像を抽出するための抽出用知識を予め抽出用知識記憶部332に記憶させる。なお、血圧性眼底、網膜菲薄化、緑内障、糖尿病網膜症、網膜剥離、中心性漿液性脈絡網膜症、加齢黄斑変性、滲出性網膜症、網膜中心動脈閉塞症等の眼底組織に発症する疾患に利用可能な診断可能フレーム画像としての条件は、観察対象組織に観察光としての直線偏光が照射され、観察対象組織における直線偏光の反射光RLとともに観察対象組織の少なくとも一部が写り込んでいるピントの合っている画像となるので、当該条件を満たすフレーム画像を抽出するための抽出用知識を予め診断用知識記憶部334に記憶させる構成とすればよい。
 また、本実施形態においても、診断処理部350は、基本的に図14と同様の診断用知識獲得処理を実行することにより診断用知識を獲得して(ステップSa8)、診断用知識記憶部334に記憶させる(ステップSa9)。そして、診断処理部350は、当該獲得された診断用知識を用いつつ、図15と同様の診断支援情報生成処理を実行し、眼底組織における疾患の状態を推定するとともに(ステップSb5)、診断支援情報を生成して(ステップSb7)、該当する移動体通信端末装置10に配信する(ステップSb8)。なお、この際における処理は、対象疾患が、白内障ではなく、高血圧性眼底等、眼底組織に発症する疾患となる点以外は、上記第1実施形態と同様である。また、本実施形態においても上記変形例6と同様に複数の疾患の状態を疾患毎に一度に推定し、当該疾患毎の推定結果を含む診断支援情報を生成して、配信する構成を採用してもよい。また、本実施形態においても各診断可能フレーム画像が「Diagnosable」クラスに該当する確率に応じて、推定結果に重み付けを行いつつ、被検眼Eの眼底組織における疾患の最も尤もらしい状態を推定する構成を採用することができるが、この点については、上記第1実施形態と同様であるため、詳細を省略する。
 以上説明したように本実施形態の診断支援システムは、筒状部材180を有する近接撮影用装置20Bを装着した状態の移動体通信端末装置10により撮影された動画像から診断可能フレーム画像を抽出し、当該診断可能フレーム画像に基づき、眼底組織に発症する疾患に対応する診断用知識を獲得するとともに、当該診断用知識と、移動体通信端末装置10からアップロードされた動画像データに基づき被検眼Eの眼底組織における疾患の有無や重症度、治療方法、手術の要否等を推定する構成となっている。近接撮影用装置20Bを装着した状態の移動体通信端末装置10を用いた場合には、眼科診断用の画像撮影に不慣れなパラメディカルの他、患者家族等の素人であっても従来のスマートフォン等と同様の簡易な操作で、眼底組織に発症する疾患の診断に利用能な1以上の診断可能フレーム画像を含む動画像を容易に撮影することができる。従って、本実施形態の構成によれば高価な眼科診断用の画像撮影装置を利用することなく、素人が撮影した動画像に基づき、被検眼Eの眼底組織における疾患の状態を適切に推定して、診断支援情報を生成し、利用する事ができる。また、近接撮影用装置20Bは、眼科用の眼底撮影装置と比較して、極めて低コストに製造できるので、検査用装置の予算を確保できない地域においても被検眼Eの眼底組織における疾患の状態を推定して診断支援情報を生成することができる。
[C]第3実施形態
 上記第1、第2実施形態及びその変形例においては、図14に示す処理に従い、スマートアイカメラによって撮影された動画像に含まれる診断可能フレームをそのままアノテーション用端末装置40に送信して、アノテータとなる医師に診断を行わせて、当該診断結果情報により該当する診断可能フレーム画像にタグ付けを行うことで各診断可能フレーム画像に対応する教師データを作成しつつ、診断用知識を獲得する構成を採用していた。
 これに対して、本実施形態の診断支援システム1においては、診断支援サーバ装置30が、診断可能フレーム画像として動画像から抽出したフレーム画像をアノテーション用端末装置40に送信する際に診断可能フレーム抽出部352が、診断可能フレーム画像から眼の組織の写り込んだ領域を切り出す機械学習を行う構成を採用することとした。なお、本実施形態の診断支援システム1は、基本的に第1、第2実施形態及び変形例と同様の構成によって実現される。すなわち、本実施形態においても、診断支援システム1を構成する各構成要素は上記第1実施形態等と同様の機能を有し、同様の動作を行うものであるため、以下においては、上記第1実施形態等と異なる点についてのみ説明を行う。
[C1]診断可能フレーム画像から眼の組織の写り込んだ領域を切り出す方法
 次いで、図31を用いて、本実施形態の診断支援システム1において診断支援サーバ装置30が、診断可能フレーム画像から眼の組織の写り込んだ領域の画像(以下、「領域画像」ともいう。)を切り出す方法について説明する。なお、図31は診断可能フレーム画像から領域画像を切り出すためのアノテーション作業を説明するための図であり、(A)及び(B)には、各々、観察光として白色拡散光を照射した場合と、青色光を照射した場合に撮影される診断可能フレーム画像において眼の組織の写り込んだ領域を切り出すためのアノテーション作業を説明するための図を示している。
 本実施形態においては、まず、診断可能フレーム画像内において眼の組織の写り込んだ領域を切り出すためのアノテーションを人間が行う方法を採用することとした。このとき、診断支援サーバ装置30の診断可能フレーム抽出部352は、移動体通信端末装置10(スマートアイカメラ)からアップロードされた動画像データ中から各種疾患の診断に利用可能な診断可能フレーム画像を抽出するとともに、当該抽出した診断可能フレーム画像をアノテーション用端末装置40に送信してアノテータに提示する。そして、アノテータは、当該診断可能フレーム画像において眼の組織の写り込んだ領域の切り出し作業を行う。なお、この際のアノテーションは、医師が行うことが望ましいが、診断可能フレーム画像において眼の組織が写り込んだ領域は、眼科専門医でなくとも判別可能であるため、任意の人物をアノテータとしてもよい。
 このとき、アノテーション用端末装置40は、診断支援サーバ装置30から送られた診断可能フレーム画像を表示させる。そして、アノテータは、アノテーション用端末装置40に搭載されたアノテーションツールを用いて、当該診断可能フレーム画像において眼の各組織が写り込んだ領域を図31のように矩形の領域で囲い込むことによりアノテーションを行う。
 具体的には、このとき、アノテータは、図31(A)及び(B)に例示するように、診断可能フレーム画像において「角膜の写り込んだ領域」を青の矩形で囲い込むとともに、「眼全体の写り込んだ領域」を赤の矩形で囲い込む作業を実施して、アノテーションを付ける。アノテーションにおいては、このようにして、得られた矩形領域の左上と右下の座標のデータを用いて診断可能フレーム画像にタグ付けを行いつつ、教師データを作成し、機械学習及びデータマイニングの少なくとも一方を実施することによって、診断可能フレーム画像から領域画像を切り出す切り出し用の知識(以下、「切り出し用知識」ともいう。)を獲得する。具体的にはこのとき、切り出し用知識を獲得するため、診断可能フレーム画像とアノテーションした矩形領域のペアによって教師データを作成して、機械学習及びデータマイニングの少なくとも一方を実行する。なお、切り出し用知識の獲得に用いる具体的な学習アルゴリズムについては任意であり、例えば、Objective Detectionのアルゴリズムに教師データを入力して誤差が小さくなるように学習する構成とすれば良い。Objective Detectionは原理的に1枚の画像に対して複数の領域を推定することがあるが、診断可能フレームには、1個の眼しか写っていないため、確率が最大のものを選ぶようにすればよい。これにより1フレームに対して、角膜と眼全体の領域を一意に切り出すことが可能になる。また、切り出し用知識は、例えば、抽出用知識とともに抽出用知識記憶部332に記憶するようにしても良く、記憶装置330内に切り出し用知識用の記憶領域を割り当て、図示せぬ切り出し用知識記憶部を設ける構成としてもよい。さらに、図31においては、白色拡散光及び青色光を観察光として用いて撮影された動画像から角膜を切り出す場合について例示したが、本実施形態は、角膜にのみ利用可能なものではなく、結膜や眼瞼の一部組織、虹彩、眼底組織等、眼のあらゆる組織に適用することが可能である。また、本実施形態において利用可能な観察光は、白色拡散光及び青色光に限定されず、スリット光SLや直線偏光を観察光として利用した動画像に対しても適用可能である。この場合、アノテータは、診断可能フレーム画像において対象となる組織の写り込んだ領域を青の矩形で囲い込むとともに、眼全体の写り込んだ領域を赤の矩形で囲い込むようにすればよい。要は、対象組織に応じて、青の矩形で囲い込む範囲を指定することにより、任意の組織の写り込んだ領域画像を切り出すことが可能となる。なお、直線偏光を用いる場合には、移動体通信端末装置10に対して第2実施形態の近接撮影用装置20Bを装着して、眼底組織の動画像を撮影するとともに、アノテータは、眼底組織において切り出すべき領域として例えば、診断可能フレーム画像に写り込んだ黄斑部等の組織を青の矩形、画像全体を赤の矩形で囲い込むようにすればよい。
[C2]眼の組織の写り込んだ領域画像の推定及び切り出し方法について
 次いで、図32を用いて、診断可能フレーム画像において眼の組織の写り込んだ領域を推定しつつ領域画像を切り出す方法について説明する。なお、図32は、本実施形態の診断支援サーバ装置30の診断可能フレーム抽出部352が、眼の組織の写り込んだ領域を診断可能フレーム画像から推定し、領域画像を切り出す方法を説明するための図である。
 本実施形態の構成により、診断可能フレーム抽出部352が、学習済みの切り出し用知識を使って、診断可能フレーム画像に対して領域検出を行い角膜の写り込んだ領域(黄色の矩形領域部分)と眼全体の写り込んだ領域(緑の矩形領域部分)を、図32のように各診断可能フレーム画像から推定して領域画像を切り出した。この結果、図32に例示するように角膜の写り込んだ領域と、眼全体が写り込んだ領域をほぼ正確に推定し、切り出せることが分かった。なお、実際に後述の診断用知識獲得時及び診断支援情報の生成時には、診断可能フレーム画像においてこの領域を中心に含む最小の正方形として領域画像を切り出す構成とした。
[C3]診断用知識の獲得方法
 上記方法により切り出し用知識を獲得した状態にて、診断用知識を獲得する場合は、本実施形態おいても基本的に図14と同様の処理によって、診断用知識が獲得されることとなる。
 但し、本実施形態においては、診断可能フレーム抽出部352が、ステップSa2において抽出用知識及び切り出し用知識を記憶装置330から読み出し、ステップSa3においては、抽出用知識に基づいて診断可能フレーム画像を抽出した後、切り出し用知識に基づいて、上記のように当該診断可能フレーム画像において眼の組織の写り込んだ領域画像を切り出すこととなる。なお、本実施形態の診断可能フレーム抽出部352は、例えば、本発明の「切り出し手段」を構成する。
 そして、ステップSa4において診断用知識獲得部353は、診断可能フレーム画像から切り出した領域画像をアノテーション用端末装置40に送信する。アノテーション用端末装置40は、当該領域画像を表示させつつ、アノテータとなる医師に当該領域画像に基づく診断結果を入力させ、入力内容に対応する診断結果情報によってタグ付けされた教師データを作成し、診断用知識獲得部353は、当該作成された教師データをアノテーション用端末装置40から取得する(ステップSa5「Yes」)。そして、診断用知識獲得部353は、当該教師データを教師データ記憶部333に記憶させつつ(ステップSa6)、記憶済の教師データ数がα以上となった時点で(ステップSa7「Yes」)、記憶済の教師データに基づき診断用知識を獲得して(ステップSa8)、診断用知識記憶部334に記憶させ(ステップSa9)、処理を終了する。
[C4]診断支援情報の生成方法
 このようにして、診断可能フレーム画像から切り出した領域画像に基づく診断用知識と、切り出し用知識が獲得された状態になると、後に移動体通信端末装置10から動画像データがアップロードされてきた際に、診断処理部350においては、基本的に図15と同様の処理により、診断支援情報が生成され(図15ステップSb7)、該当する移動体通信端末装置10に配信されることとなる(図15ステップSb8)。
 但し、本実施形態においては、診断可能フレーム抽出部352が、ステップSb3において、スマートアイカメラからアップロードされた動画像データから診断可能フレーム画像を抽出した後、当該抽出した診断可能フレーム画像から切り出し用知識に基づき上記方法により領域画像を切り出す。
 そして、健康状態推定処理部354は、当該領域画像と診断用知識に基づき基本的に図15と同様の処理により診断支援情報を生成する。このとき、健康状態推定処理部354は、ステップSb5において診断可能フレーム画像から切り出した領域画像と診断用知識に基づいて、スマートアイカメラにより撮影された被検眼Eの健康状態を推定し(ステップSb5)、提示用フレーム画像を抽出した後(ステップSb6)、診断支援情報を生成して(ステップSb7)、動画像のアップロード元の移動体通信端末装置10に配信し(ステップSb8)、処理を終了する。なお、この際における処理は基本的に第1実施形態と同様であるため詳細を省略する。また、この場合に、ステップSb6にて抽出する提示用フレーム画像は、第1実施形態と同様の方法によって抽出してもよく、提示用フレーム画像として抽出された診断可能フレーム画像から切り出した眼の領域画像のみを提示用フレーム画像として用いるようにしてもよい。
 以上の構成によって、本実施形態の診断支援システム1は、非常に高精度に被検眼Eの健康状態を推定して、より精度の高い診断結果を含む診断結果情報を生成し、利用することが可能となる。特に、スマートアイカメラを用いて被検眼Eの動画像を撮影する場合に、ズームの異なるフレーム画像が含まれてしまっているような場合においても、診断可能フレーム画像が同じサイズに正規化されるので、診断用知識獲得時の機械学習の精度を向上させて、高精度に被検眼Eの健康状態を推定することができる。
 本実施形態の診断支援システム1を用いて、実際にスリット光、白色拡散光、直線偏光、青色光の各観察光を被検眼Eに照射しつつ、スマートアイカメラによって被検眼Eの動画像を撮影して、当該撮影された動画像に含まれる診断可能フレーム画像から領域画像を切り出し、当該領域画像に基づき、前房組織に発症する虹彩炎やぶどう膜炎等の疾患、眼瞼組織に発症する霰粒腫や麦粒腫、角膜組織や結膜組織に発症するアレルギー性結膜炎、流行性角結膜炎、円錐角膜、角膜混濁、点状表層角膜炎や角膜潰瘍、DED、眼底組織に発症する疾患等の各種疾患の状態の推定を行った。この結果、本実施形態の方法によれば、診断精度が格段に向上することが判明した。
 特に、DEDの診断においては、TFBUTを高精度に推定しつつ、非常に高精度にDEDの診断を行うことが可能となり、例えば、(a)スポットブレイク、(b)エリアブレイク、(c)ディンプルブレイク、(d)ラインブレイク、(e)ランダムブレイク等、DEDの様々なサブタイプに関しても診断可能であることが判明した。
 以上説明したように本実施形態の診断支援システム1によれば、スマートアイカメラによって撮影された動画像に含まれる診断可能フレーム画像から眼の対象組織の写り込んだ領域画像を切り出しつつ、診断用知識を獲得することができる。また、被検眼Eの健康状態の推定(診断)に際しても、領域画像を用いて、高精度な推定結果を得て、より実用性の高い高精度な診断支援情報を生成して、利用することができる。なお、本実施形態の構成において、変形例6と同様に1回の動画像撮影で複数の疾患の状態を一度に推定して利用可能とする構成を採用とすることが望ましい。この場合には複数の疾患用の切り出し用知識及び領域画像に基づく診断用知識を予め記憶装置330内に記憶させておき、スマートアイカメラから動画像データがアップロードされてきた際に、各疾患の状態を推定するための領域画像を疾患毎に切り出して、当該切り出した領域画像と、対応する疾患用の診断用意識に基づき、被検眼Eに発生した複数の疾患の状態を一度に推定する構成とすればよい。また、この場合には、変形例6と同様に、領域画像に基づく疾患毎の推定結果を一覧表形式で記述した診断支援情報を生成する構成としてもよい。さらにこの場合には、変形例6と同様に複数の疾患に対応する診断用知識を一度に獲得する構成としてもよい。また、本実施形態の構成において変形例4と同様に領域画像により三次元画像を構築し、当該三次元画像に基づき、診断用知識を獲得し、又は、領域画像を積層した三次元画像に基づき、被検眼Eの健康状態を推定する構成にしてもよい。この場合には、各診断可能フレーム画像から切り出した領域画像を焦点距離に応じて積層して三次元画像を生成する構成とすればよい。なお、その他の点については変形例4と同様であるため詳細を省略する。
[D]第4実施形態
 上記各実施形態及び変形例においては、スマートアイカメラによって撮影された動画像のみに基づき、診断用知識を獲得する構成を採用した。
 これに対して、本実施形態の診断支援システム1においては、スマートアイカメラのみならず、図示せぬ眼科施設に設置されている各種の眼科用装置において得られた情報パラメーター値(具体的には、被検眼Eにおける一部組織の長さ、角度、面積等の測定値)を診断可能フレーム画像に紐付けつつ、教師データを作成して、当該教師データに基づき機械学習及びデータマイニングの少なくとも一方を実行することにより診断用知識を獲得する方法を採用する。そして、本実施形態においては、当該獲得した診断用知識を用いて、スマートアイカメラにて撮影された動画像から被検眼Eにおける情報パラメーターの値を推定する構成を採用する。なお、本実施形態の診断支援システム1は、基本的に第1、第2実施形態及び変形例と同様の構成によって実現される。すなわち、本実施形態においても、診断支援システム1を構成する各構成要素は上記第1実施形態等と同様の機能を有し、同様の動作を行うものであるため、以下においては、上記第1実施形態等と異なる点についてのみ説明を行う。
 本実施形態において、アノテーション用端末装置40は、図示せぬ眼科施設内に設置されるとともに、アノテータとなる医師が、眼科施設に設置された以下のような各種眼科用装置を用いて、被検眼Eに関する各種の情報パラメーター値を取得する方法を採用する。そして、本実施形態の診断支援システム1においては、診断用知識を獲得する際、これらの眼科用装置によって取得された情報パラメーターと、診断可能フレーム画像を紐付けつつ、教師データを作成し、当該教師データを用いて診断用知識を獲得する。なお、本実施形態において診断用知識の獲得に利用する診断可能フレーム画像は、第1実施形態と同様に動画像から抽出したものをそのまま利用してもよく、第3実施形態と同様に診断可能フレーム画像から切り出した領域画像を利用してもよい。
[D1]本実施形態において利用可能な眼科用装置の種類と各装置によって取得可能な情報パラメーター値について
 本実施形態において具体的にどのような眼科用装置を用いて、被検眼Eに関するどのような情報パラメーター値を取得しながら教師データを作成するのかに関しては任意であり、例えば、以下のような眼科用装置を用いて、以下の情報パラメーター値を取得し、当該情報パラメーター値を診断可能フレーム画像に紐付けつつ教師データを作成する構成とすることができる。
(1)前眼部OCT(Optical Coherence Tomography)
 前眼部OCTを用いた場合には、被検眼Eの角膜厚、前房深度、角膜曲率半径、隅角角度、乱視度数、瞳孔径、高次収差等の情報パラメーター値を取得することができるので、これらの情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像からこれらの情報パラメーター値を推定することが可能となる。
(2)オートレフケラトメータ
 オートレフケラトメータを用いた場合には、被検眼Eの屈折、角膜曲率半径、近視、遠視、乱視度数等の情報パラメーター値を取得することができるので、これらの情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することでスマートアイカメラ画像からこれらの情報パラメーター値を推定することが可能となる。
(3)ノンコンタクトトノメーター
 ノンコンタクトトノメーターを用いた場合には、被検眼Eの眼圧の情報パラメーター値を取得することができるので、当該パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像から被検眼Eの眼圧を推定することが可能となる。
(4)スペキュラーマイクロスコープ
 スペキュラーマイクロスコープを用いた場合には、被検眼Eの角膜内皮細胞に関する情報パラメーター値を取得することができるので、当該情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像からこれらの情報パラメーター値を推定することが可能となる。
(5)眼底カメラ
 眼底カメラを用いた場合には、被検眼Eの眼底写真を取得することができるので、各種の眼底疾患に対応する眼底写真に基づく医師の診断結果に対応する診断結果情報によって診断可能フレーム画像にタグ付けしつつ教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像から眼底に発症した各種の疾患の状態を高精度に推定することが可能となる。なお、眼底写真に関しては、第2実施形態の方法で取得した診断可能フレーム画像をそのまま教師データ作成用に利用してもよく、領域画像を切り出して、当該領域画像を教師データ作成用に利用してもよい。
(6)OCTや光干渉式眼軸長測定装置
 OCTや光干渉式眼軸長測定装置を用いた場合には、被検眼Eの網膜厚、視神経乳頭径、網脈絡膜血管等の情報パラメーター値を測定することができるので、これらの情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像からこれらの情報パラメーター値を推定することが可能となる。なお、この場合においても領域画像に基づいて教師データを作成することが可能である。
(7)超音波断層撮影装置
 超音波断層撮影装置を用いた場合には、被検眼Eの眼軸長の情報パラメーター値を取得することができるので、当該情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像から眼軸長を推定することが可能となる。
(8)視野計
 視野計を用いた場合には、被検眼Eの静的視野及び動的視野に関する情報パラメーター値を取得することができるので、これらの情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像からこれらの情報パラメーター値を推定することが可能となる。
(9)調節機能解析装置
 調節機能解析装置を用いた場合には、被検眼Eの調節機能に関する情報パラメーター値を取得することができるので、当該情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像から眼の調節機能に関する情報パラメーター値を推定することが可能となる。
(10)フリッカー測定器
 フリッカー測定器を用いた場合には、被検眼Eのフリッカー値の情報パラメーター値を取得することができるので、当該情報パラメーター値を診断可能フレーム画像に紐付けた教師データを作成して、診断用知識を獲得し、当該診断用知識を利用することで、スマートアイカメラ画像から被検眼Eのフリッカー値を推定することが可能となる。
[D2]診断用知識の獲得方法
 本実施形態の診断支援システム1においては、基本的に図14と同様の処理によって診断用知識が獲得される。
 但し、本実施形態の方法によって、被検眼Eにおける情報パラメーター値を推定する場合には、上記3条件に対して追加の条件が必要となるため、ステップSa3においては、診断可能フレーム抽出部352が、当該追加条件を満たすフレーム画像を診断可能フレーム画像として抽出する方法を採用することとした。なお、この追加条件に関しては後に詳述する。
 また、本実施形態において、アノテーション用端末装置40は、図14ステップSa4において診断支援サーバ装置30から診断可能フレーム画像が送信されてくると、当該診断可能フレーム画像を表示させつつ、当該診断可能フレーム画像に基づく診断結果及び眼科用装置によって取得された情報パラメーター値をアノテータに入力させるためのGUIを表示する。そして、アノテータとなる医師が、(a)診断可能フレーム画像に基づく診断結果と、(b)眼科用装置によって取得された情報パラメーター値を入力すると、アノテーション用端末装置40は、(a)当該入力された診断結果に対応する診断結果情報と、(b)入力された情報パラメーター値を該当する診断可能フレーム画像にタグ付けしつつ、教師データを作成して、診断支援サーバ装置30に送信する。なお、この場合には、スマートアイカメラによって撮影された被検眼Eと同じ眼に関する情報パラメーター値を取得し、診断可能フレーム画像に紐付けて教師データを作成することが必要になるが、その際の具体的な方法に関しては任意であり、例えば、以下の方法a及びbのいずれか一方を採用することができる。
(方法a)
 (ステップa1)この方法aにおいては、まず、アノテーション用端末装置40の設置された眼科施設において患者の眼(すなわち、被検眼E)をスマートアイカメラにより撮影するとともに、診断支援サーバ装置30に撮影した被検眼Eの動画像データをアップロードする。(ステップa2)診断支援サーバ装置30は、当該アップロードされた動画像データから診断可能フレーム画像を抽出して、該当する眼科施設に設置されたアノテーション用端末装置40に配信する。(ステップa3)そして、アノテータとなる医師が、当該診断可能フレーム画像に基づき、診断を下しつつ、眼科用装置により当該患者の眼(すなわち、被検眼E)に関する各種情報パラメーター値を測定して、当該測定した各種の情報パラメーター値を診断結果とともにアノテーション用端末装置40に入力する。(ステップa4)。アノテーション用端末装置40は、医師によって入力された診断結果情報及び測定された各種の情報パラメーター値によって当該診断可能フレーム画像にタグ付けしつつ、教師データを作成する。
(方法b)
 (ステップb1)この方法bにおいては、まず、診断支援システム1内において各患者を一意に識別するための患者IDを予め割り当てておく。(ステップb2)スマートアイカメラにて撮影された動画像のアップロード時に当該患者に割り当てられた患者IDを入力して、動画像データと対応付けつつアップロードする。(ステップb3)眼科施設においても、患者IDを入力しつつ、眼科用装置における測定結果を電子カルテなどに入力し、当該入力された測定値を患者IDと対応付けつつ図示せぬデータベースに格納する。(ステップb4)スマートアイカメラから患者IDと対応付けられた動画像データがアップロードされた際に、診断支援サーバ装置30が、当該動画像から診断可能フレーム画像を抽出して、患者IDと対応付けつつアノテーション用端末装置40に送信する。(ステップb5)アノテーション用端末装置40が、データベースにおいて、当該患者IDと対応付けて格納された測定値を取得する。(ステップSb6)アノテーション用端末装置40が、医師による診断結果と、データベースから取得した測定値を診断可能フレーム画像に紐付けつつ、教師データを作成する。
 このようにして作成された教師データをアノテーション用端末装置40から受信すると、(図14ステップSa5「Yes」)、診断用知識獲得部353は、当該教師データを教師データ記憶部333に記憶させつつ(図14ステップSa6)、教師データ数がα以上となった時点で、当該教師データに基づき、機械学習及びデータマイニングの少なくとも一方を実行して、診断用知識を獲得し(ステップSa8)、診断用知識記憶部334に記憶させた後、(ステップSa9)、処理を終了する。このとき、診断用知識獲得部353は、健康状態推定処理部354と連動して、眼科用装置によって取得された測定値と、診断可能フレーム画像に基づく推定値の誤差が「0」になるように機械学習及びデータマイニングの少なくとも一方を実行して、診断用知識を獲得する。
[D3]診断支援情報の生成方法
 本実施形態の診断支援システム1においても、基本的に図15と同様の処理によってスマートアイカメラにおいて撮影された被検眼Eに関する情報パラメーター値が推定されるとともに、当該推定された情報パラメーター値を含む診断支援情報が生成されることとなる。
 但し、本実施形態の構成において、被検眼Eにおける情報パラメーター値を推定するためには、上記のように診断可能フレーム画像として後述の追加条件を満たすフレーム画像を抽出する必要があるため、図15ステップSb3において、診断可能フレーム抽出部352は、当該条件を満たす診断可能フレーム画像を抽出し、当該診断可能フレーム画像と診断用知識に基づき、被検眼Eにおける情報パラメーター値を推定する方法を採用することとした。また、本実施形態において、健康状態推定処理部354は、ステップSb5において、被検眼Eに関する情報パラメーター値を推定することとなる。なお、本実施形態において診断支援サーバ装置30の診断処理部350が生成する診断支援情報は、(1)推定された情報パラメーター値のみを含むものであってもよく、(2)第1実施形態と同様に被検眼Eにおける疾患の状態の推定結果のみを含むものであってよく、(3)疾患の状態の推定結果と情報パラメーター値の推定結果の双方を含むものであってもよい。双方を含む診断支援情報の生成方法としては、(a)最初に第1実施形態と同様の処理により被検眼Eにおける疾患の状態を推定した後、情報パラメーター値の推定を行うというように段階的に推定する方法を採用してもよく、(b)疾患の状態と情報パラメーター値を診断用知識に基づき一度に推定する方法を採用してもよい。前者の場合には、疾患の状態推定及び情報パラメーター値の推定のために図15と同様の処理を繰り返せばよく、後者の場合には、(i)診断結果情報と情報パラメーター値によってタグ付けされた教師データに基づいて得られた診断用知識から、健康状態推定処理部354がステップSb5において被検眼Eにおける疾患の状態と、情報パラメーター値と、を一度に推定する構成としてもよく、(ii)診断用知識に医学書や医学事典、医学論文その他の文献に記述された知識、或いは、インターネット上に開示された医学的知識を含ませる構成を採用して、健康状態推定処理部354が、スマートアイカメラ画像から推定された各種の情報パラメーター値と医学書等の知識に基づき、被検眼Eにおける疾患の状態を推定して、情報パラメーター値ともに診断支援情報に記述する方法を採用してもよい。いずれの方法を採用した場合であっても、(1)ステップSb3において抽出する診断可能フレーム画像に該当する条件が追加される点及び(2)ステップSb5において健康状態推定処理部354が情報パラメーター値を推定する点以外は基本的に図15と同様である。
[D4]本実施形態の応用例
 次いで、本実施形態の診断支援システム1を利用した診断形態の応用例について説明する。本実施形態の診断支援システム1は、上記第1、第2実施形態及びその変形例と同様に、(1)被検眼Eにおける白内障診断の他、(2)前房組織に発症する虹彩炎やぶどう膜炎等の疾患、(3)眼瞼組織に発症する霰粒腫や麦粒腫、角膜組織や結膜組織に発症するアレルギー性結膜炎、流行性角結膜炎、円錐角膜、角膜混濁等の疾患、(4)点状表層角膜炎や角膜潰瘍等の疾患、(5)DED、(6)眼底組織における疾患の状態を推定し、当該推定結果を含む診断支援情報を生成して利用できる。特に、本実施形態の診断支援システム1によれば、眼科用装置において測定された情報パラメーター値を利用して以下のような応用を行うことができる。
(1)前房深度(ACD:Anterior Chamber Depth)の推定
 本発明者は、本実施形態の診断支援システム1の応用可能性を検証するため、スマートアイカメラにより撮影された被検眼Eの動画像に基づき、実際に被検眼Eにおける前房深度を推定する実験を行った。
(1-1)本実験の全体的な流れについて
 本実験においては、図33に示すように、まずスマートアイカメラにより被検眼Eの前房組織を撮影するとともに、当該撮影された動画像から診断可能フレーム抽出部352が診断可能フレーム画像を抽出し(図33ステップi)、当該診断可能フレーム画像から虹彩部分の領域画像の切り出しを行った(ステップii)。このとき、切り出し用知識には、診断可能フレーム画像から虹彩の写り込んだ領域画像を切り出すための切り出し用知識を利用した。
(1-2)利用した診断可能フレーム画像について
 ここで、スマートアイカメラによって前房深度を推定可能な画像を撮影するためには、観察光としてスリット光SLを用い、スリット光SLを被検眼Eに対して斜めに照射させて、被検眼Eを斜めに切りつつ動画像を撮影することが必要となる。そこで、本実験においては、スマートアイカメラを構成する近接撮影用装置20Aにスリット光形成部材61及び凸レンズ部材93を装着するとともにカラーフィルター部材97を取り外し、観察光としてスリット光SLを被検眼Eに照射した状態で被検眼Eを撮影し、図34(A)に例示するような診断可能フレーム画像を含む動画像を撮影した。
 また、スマートアイカメラで撮影した動画像から前房深度を推定する場合には、図34(A)において赤線の先の緑線によって示される部位を判別可能なフレーム画像を診断可能フレーム画像として用いる必要がある。このため、本実験においては、前房深度の推定に利用可能なフレーム画像(すなわち、診断可能フレーム画像)として、上記3条件に加えて、(条件4)スリット光SLが瞳孔に照射され、図33(A)のようにスリット光SLが瞳孔を挟んで上下に分かれていること、という追加条件を満たすフレーム画像を診断可能フレーム画像として抽出するための抽出用知識を用いることとした。そして、上述した図14ステップSa3において、診断可能フレーム抽出部352は、この4条件を満たすフレーム画像を診断可能フレーム画像として抽出し、当該診断可能フレーム画像に対して眼科用装置によって測定した情報パラメーター値及び診断結果情報によるタグ付けを行って診断用知識を獲得する方法を採用した。なお、この場合には、スリット光SLが瞳孔の中心に照射されたフレーム画像を診断可能フレーム画像として用いることが望ましく、このようなフレーム画像を用いることによって、前房深度の推定精度を向上させられることが判明したが、スリット光SLは、瞳孔に照射されていれば足り、必ずしも瞳孔の中心に照射されている必要が無いことも本実験にて判明した。
 このとき、当該抽出用知識に基づいて抽出された診断可能フレーム画像から虹彩の写り込んだ領域画像を切り出し、前眼部OCTによって測定された前房深度及び眼軸長(AL:Axial Length)の情報パラメーター値によって診断可能フレーム画像から切り出した領域画像にタグ付けしつつ、教師データを作成し(図33ステップiii)、診断用知識を獲得した。
 ここで、前房深度は、図34(B)に示す前眼部OCTの測定結果GUIにおいて、緑の円で示した「ACD=3.149mm」という数値で示され、(B)において「conea-B」という赤い点から「lens-F」という赤い点までの距離に略一致するものとなっている。また、この前眼部OCTによって測定した前房深度の測定値は、理論的に図34(A)において、赤線の先の緑の線によって示される距離と同一の距離を示すものとなっている。このため、本実験においてはこの緑の線の長さを前眼部OCTによって測定された前房深度測定値と定義付けつつ、診断可能フレーム画像にタグ付けを行って、教師データを作成した。
 このとき、アノテータが、診断可能フレーム画像から切り出された領域画像と、前眼部OCTによって測定された前房深度の測定値(例えば、図34(B)における「ACD=3.149mm」という数値)及び前眼部OCTによって得られる眼軸長(図33に例示するAL=32mm)をアノテーション用端末装置40に入力することにより、診断可能フレーム画像に対して前房深度測定値及び眼軸長測定値によるタグ付けを行って教師データを作成した。そして、診断可能フレーム画像から予測した値と前眼部OCTの測定値との誤差が「0」になるように学習を行って、診断用知識を獲得した(図14ステップSa8)。なお、この際における具体的な処理は、抽出用知識として用いる知識が上記4条件を満たすものを抽出する知識となり、ステップSa3において4条件を満たすフレーム画像を診断可能フレーム画像として抽出する点以外は、図14と同様である。
 そして、本実験においては、以上の方法によって獲得した診断用知識を用いて、スマートアイカメラによって撮影された動画像に基づく前房深度の推定を行った。なお、前房深度推定時の動作は、基本的に図15と同様である。但し、前房深度を推定する場合には、上記のように4条件を満たす診断可能フレーム画像を用いる必要があるので、ステップSb3において、診断可能フレーム抽出部352は、抽出用知識に基づいて上記4条件を満たすフレーム画像を診断可能フレーム画像として抽出する方法を採用した。また、このとき、診断可能フレーム抽出部352は、上記4条件を満たす診断可能フレーム画像を抽出した後(図33ステップi)、当該診断可能フレーム画像から上記と同様に虹彩の写り込んだ領域画像を切り出した(ステップii)。このとき、診断用知識には、領域画像に前房深度測定値及び眼軸長測定値によるタグ付けを行って(ステップiii)獲得したものを用いた。そして、当該診断用知識及びスマートアイカメラによる撮影画像に基づいて健康状態推定処理部354により前房深度の推定を行った(図33ステップiv)。
 以上の実験の結果、スマートアイカメラによって撮影された動画像から抽出した診断可能フレーム画像に基づく前房深度の推定値は、実際に前眼部OCTにより測定した値と比較して、150±360μmの誤差範囲内となり、非常に高精度に前房深度を推定できることが判明した。
(2)緑内障の発作リスク判定について
 上記のように本実施形態によれば、被検眼Eの前房深度を高精度に推定できることから、スマートアイカメラによって撮影された動画像に基づき、被検眼Eにおける緑内障の発作リスクを判定することも可能である。一般に前房深度の値と緑内障の発作リスクは関連し、前房深度が2.5mm未満になると、閉塞隅角緑内障の発作リスクがあるものと判定することができる(例えば、https://en.wikipedia.org/wiki/Anterior_chamber_of_eyeballを参照)。このため、本実施形態の構成により被検眼Eの前房深度を推定して、緑内障の発作リスクの有無を判定しつつ、緑内障の発作リスクの有無を含む診断支援情報を生成する構成とすることも可能である。
(3)角膜曲率半径の推定
 また、本発明者は、本実施形態の診断支援システム1の応用可能性を確認するため、前眼部OCT等の眼科用装置により被検眼Eにおける角膜曲率半径を測定し、当該測定値により診断可能フレーム画像又は角膜の写り込んだ領域の領域画像にタグ付けして教師データを作成するとともに、診断用知識を獲得して、当該診断用知識とスマートアイカメラによって撮影された動画像に基づき被検眼Eの角膜曲率半径を推定した。この結果、角膜曲率半径の値に関しても前房深度と同様に高精度に推定できることが判明した。なお、この場合に診断可能フレーム画像に該当するための条件は前房深度の場合と同様に上記4条件を満たすものとなるので、この場合においても、抽出用知識には、上記4条件を満たすフレーム画像を抽出するための抽出用知識を利用した。
(4)眼軸長の推定
 ここで、眼球は、球体に近い形状を有し、眼球全体の形状は、前眼部の形状に依存することが分かっている。例えば、前房深度と眼軸長の間には強い相関が認められる(例えば、https://pubmed.ncbi.nlm.nih.gov/26107475/参照)。また、角膜曲率半径と眼軸長の間にも強い相関が認められる(例えば、https://pubmed.ncbi.nlm.nih.gov/32209342/参照)。さらに、等価球面度数(SE)と眼軸長の間にも強い相関関係が認められる(例えば、https://pubmed.ncbi.nlm.nih.gov/33326192)。従って、これらの値を眼軸長の測定値と対応付けつつ診断可能フレーム画像又は領域画像にタグ付けして教師データを作成することにより、診断可能フレーム画像に基づいて推定された前房深度や角膜曲率半径、透過球面度数等の情報パラメーター値から眼軸長を推定する構成とすることも可能である。
(5)生検(生体組織診断)結果の推定
 本実施形態の診断支援システム1においてスマートアイカメラによって撮影された動画像から被検眼Eの生検結果を推定する場合、診断用知識は、基本的に図14と同様の処理によって獲得されることとなる。このとき、アノテータとなる医師は、生検の対象組織における生検結果を取得して、当該生検結果に基づく診断結果をアノテーション用端末装置40に入力する。アノテーション用端末装置40は、当該入力された診断結果に対応する診断結果情報により診断可能フレーム画像にタグ付けを行って教師データを作成し、診断支援サーバ装置30に送信する。そして、診断支援サーバ装置30において診断用知識獲得部353は、当該教師データを教師データ記憶部333に記憶させつつ(ステップSa6)、教師データ数がα以上となった時点で(ステップSa7「Yes」)、当該教師データに基づき診断用知識を獲得して記憶させ(ステップSa8及びSa9)、処理を終了する。なお、生検の対象は、眼瞼組織及び前眼部組織の他、眼内組織、眼底組織を対象とすることができる。このとき、対象組織を眼瞼及び前眼部組織とする場合には、観察光としてスリット光SL、白色拡散光、青色光を利用できる一方、眼底組織を対象とする場合には、移動体通信端末装置10に対して、第2実施形態における近接撮影用装置20Bを装着し、観察光として直線偏光を利用することが必要となる。なお、眼底組織を対象とする場合には、生検結果の他、OCTによって測定された網膜厚や視神経乳頭径、網脈絡膜血管等の情報パラメーター値を診断結果情報とともに診断可能フレーム画像又は領域画像にタグ付けて教師データを作成することにより、これらの情報パラメーター値を高精度に推定しつつ、被検眼Eの眼底組織における疾患の有無を高精度に推定することが可能となる。特に、スマートアイカメラによって撮影される動画像は、移動体通信端末装置10のアウトカメラモジュールを用いて非常に高い解像度(例えば、4K又は8K解像度)にて撮影できるので、動画像データのアップロード時に対象部位(例えば、眼瞼等)の写り込んだ領域画像を切り出しつつ、拡大して利用することによって、生検でしか分からない病理所見をスマートアイカメラで撮影した動画像から高い精度にて推定することができる。
 以上説明したように本実施形態の診断支援システム1によれば、スマートアイカメラにより撮影した動画像から被検眼Eに関する各種情報パラメーターの値を推定できるので、各種の眼科用装置を設置することのできない発展途上国や僻地などの機器や医師等の不足している地域においても、患者の眼の健康状態を詳細に且つ適切に推定して、各種疾患の診断に利用する事ができる。なお、本実施形態の構成において、上記第1実施形態と同様に各診断可能フレーム画像に対して、「Diagnosable」に該当する確率を算出するとともに、複数の診断可能フレーム画像を抽出し、各診断可能フレーム画像毎に情報パラメーター値を推定して、各推定値に対して「Diagnosable」に該当する確率による重み付けを行いつつ、被検眼Eにおける最も尤もらしい情報パラメーター値を推定する構成を採用してもよい。この場合には、推定対象が、疾患の状態ではなく情報パラメーター値となる点以外は第1実施形態と同様である。また、本実施形態の構成において変形例4と同様に、三次元画像を構築し、当該三次元画像に基づき、診断用知識を獲得し、当該診断用知識と三次元画像に基づき、情報パラメーター値を推定する構成としてもよい。さらに、本実施形態の構成においては、変形例6と同様に1回の動画像撮影で複数の情報パラメーター値(例えば、前房深度と角膜曲率半径等)を一度に推定して利用可能とする構成を採用とすることが望ましい。この場合には各情報パラメーター値を推定するための複数の診断用知識を予め診断用知識記憶部334に記憶させておき、スマートアイカメラから動画像データがアップロードされてきた際に、各情報パラメーター値を推定するための診断可能フレーム画像を情報パラメーター値毎に抽出して、当該抽出した診断可能フレーム画像と、対応する情報パラメーター値用の診断用意識に基づき、被検眼Eの一部組織における複数の情報パラメーター値を一度に推定する構成とすればよい。また、この場合には、変形例6と同様に、複数の情報パラメーター値の推定結果を一覧表形式で記述した診断支援情報を生成する構成としてもよい。
 1…診断支援システム、2…偏光フィルター(垂直偏光)、3…偏光フィルター(水平偏光)、4…カラーフィルター(オレンジ)、8…板状フィルター、10…移動体通信端末装置、20、20A、20B…近接撮影用装置、30…診断支援サーバ装置、310…通信制御部、320…ROM/RAM、330…記憶装置、331…プログラム記憶部、332…抽出用知識記憶部、333…教師データ記憶部、334…診断用知識記憶部、340…サーバ管理制御部、350…診断処理部、351…動画像データ取得部、352…診断可能フレーム抽出部、353…診断用知識獲得部353、354…健康状態推定処理部、355…診断支援情報生成部、356…診断支援情報配信部、61…スリット光形成部材、61’…本体部、62…円柱レンズ、63…上部保持部材、64…下部保持部材、65…第1反射ミラー、66…第2反射ミラー、67…スリット、68…装着部、69…段差部、80…ハウジング、81…外壁部、82…前壁、83…奥壁、84…左壁、85…右壁、86…上壁、87…下壁、88…前壁の穴、90…前面プレート、90a…開口した左縁部、90b…右縁部、90c…上縁部、90d…下縁部、91…撮影用カメラレンズ、92…光源、93…凸レンズ部材、94…凸レンズ装着穴、95…穴、96…凸レンズ、97…カラーフィルター部材、98…穴、180…筒状部材、181…装着部、182,182a,182b…筒部、183…凸レンズ、84…開口部

Claims (18)

  1.  光源と撮影用カメラレンズを備える移動体通信端末装置に装着され、(a)前記光源から出射される光源光に基づき発生させたスリット光、青色光及び直線偏光のいずれかを、観察光として被検眼の観察対象組織に照射し、又は、前記光源光をそのままの状態で通過させ、前記観察光として前記観察対象組織に照射する観察光照射部材と、(b)前記観察光の前記観察対象組織における反射光を含む光を前記撮影用カメラレンズに集光させる凸レンズ部材と、を少なくとも備える近接撮影用装置を装着した状態の前記移動体通信端末装置により前記被検眼を撮影した画像であって、(i)当該被検眼の健康状態及び(ii)当該被検眼の一部組織における距離、角度及び面積のいずれか1以上を含む情報パラメーター値の少なくとも一方を推定するために利用可能な第1フレーム画像を1以上含む撮影画像を取得する取得手段と、
     前記取得した撮影画像から前記第1フレーム画像を抽出するための第1知識が予め記憶された第1記憶手段と、
     前記取得された撮影画像に含まれる前記第1フレーム画像を、前記第1知識に基づいて抽出する第1抽出手段と、
     前記撮影画像に基づき、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定するための第2知識が記憶される第2記憶手段と、
     前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記取得された撮影画像に映り込んだ前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定する推定手段と、
     前記推定した前記被検眼の健康状態及び前記情報パラメーター値の少なくとも一方を含む診断支援情報を生成する生成手段と、
     前記生成した診断支援情報を外部機器に配信する配信手段と、
     を有することを特徴とする診断支援装置。
  2.  前記第1抽出手段が、
     前記撮影画像に含まれる前記フレーム画像と前記第1知識に基づき、当該撮影画像に含まれるフレーム画像の各々が前記第1フレーム画像に該当する確率を算出し、当該算出した確率に基づき、前記第1フレーム画像を抽出する、請求項1に記載の診断支援装置。
  3.  前記第1抽出手段が、
     前記算出した確率の高い複数の前記フレーム画像を前記第1フレーム画像として抽出し、
     前記推定手段が、
     当該抽出された複数の前記第1フレーム画像と前記第2知識に基づき、前記第1フレーム画像毎に、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定し、当該推定した健康状態及び情報パラメーター値に対して、前記算出した確率による重み付けを行いつつ、前記被検眼の最も尤もらしい健康状態及び情報パラメーター値の少なくとも一方を推定する、請求項2に記載の診断支援装置。
  4.  前記取得手段が、
     前記光源光に基づき発生させたスリット光を、前記観察光として前記被検眼の眼瞼及び前眼部組織の少なくとも一方に照射しつつ撮影された前記撮影画像を取得し、
     前記第1記憶手段には、
     前記第1知識として、(i)前記被検眼の眼瞼及び前眼部組織に発症する疾患の状態、及び(ii)眼瞼及び前眼部組織に関する前記情報パラメーター値の少なくとも一方の推定に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、
     前記第2記憶手段には、
     前記第2知識として、(i)前記被検眼の眼瞼及び前眼部組織に発症する疾患の状態、及び(ii)眼瞼及び前眼部組織に関する前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、
     前記推定手段が、
     前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記被検眼の眼瞼及び前眼部組織の少なくとも一方における疾患の状態及び(ii)眼瞼及び前眼部組織に関する前記情報パラメーター値の少なくとも一方を推定する、請求項1~3のいずれか1項に記載の診断支援装置。
  5.  前記取得手段が、
     前記被検眼の角膜及び結膜の少なくともいずれか一方の組織に発生した傷を造影剤により造影した状態で、前記光源光に基づき発生させた青色光を、前記観察光として前記被検眼の角膜及び結膜の少なくとも一方に照射しつつ撮影された前記撮影画像を取得し、
     前記第1記憶手段には、
     前記第1知識として前記被検眼の角膜及び結膜の少なくとも一方の組織に生じた傷の状態の診断に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、
     前記第2記憶手段には、
     前記第2知識として前記被検眼の角膜及び結膜の少なくとも一方の組織に生じた傷の状態から角膜及び結膜の少なくとも一方における疾患の状態を推定するための知識が記憶され、
     前記推定手段が、
     前記抽出された第1フレーム画像と前記第2知識に基づき、前記被検眼の角膜及び結膜の少なくとも一方の組織における疾患の状態を推定する、請求項1~3のいずれか1項に記載の診断支援装置。
  6.  前記取得手段が、
     前記光源光に基づき発生させた直線偏光を、前記観察光として前記被検眼の眼底組織に照射しつつ撮影した前記撮影画像を取得し、
     前記第1記憶手段には、
     前記第1知識として、(i)前記被検眼の眼底組織に発症する疾患の状態及び(ii)眼底組織に関する前記情報パラメーター値の少なくとも一方の推定に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、
     前記第2記憶手段には、
     前記第2知識として、(i)前記被検眼の眼底組織おける疾患の状態及び(ii)眼底組織に関する前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、
     前記推定手段が、
     前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記被検眼の眼底組織における疾患の状態及び(ii)眼底組織に関する前記情報パラメーター値の少なくとも一方を推定する、請求項1~3のいずれか1項に記載の診断支援装置。
  7.  前記取得手段が、
     前記観察光として前記光源光をそのままの状態で前記被検眼の観察対象組織に照射しつつ撮影した前記撮影画像を取得し、
     前記第1記憶手段には、
     前記第1知識として、(i)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に発症する疾患の状態及び(ii)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に関する前記情報パラメーター値の少なくとも一方の推定に利用可能な前記第1フレーム画像を抽出するための知識が予め記憶されるとともに、
     前記第2記憶手段には、
     前記第2知識として、(i)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織おける疾患の状態、及び、(ii)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に関する前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、
     前記推定手段が、
     前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織おける疾患の状態及び(ii)前記被検眼の眼瞼、眼表面、角膜及び結膜の少なくとも1の組織に関する前記情報パラメーター値の少なくとも一方を推定する、請求項1~3のいずれか1項に記載の診断支援装置。
  8.  前記第1抽出手段の抽出した第1フレーム画像に基づき、機械学習及びデータマイニングの少なくともいずれか一方を実行して、前記第2知識を獲得するとともに、当該獲得した第2知識を前記第2記憶手段に記憶させる学習手段をさらに有し、
     前記推定手段が、
     前記学習手段によって前記第2記憶手段に記憶された前記第2知識及び前記抽出された第1フレーム画像に基づき、前記被検眼における疾患の状態及び前記情報パラメーター値の少なくとも一方を推定する、請求項1~7のいずれか1項に記載の診断支援装置。
  9.  前記学習手段が、
     前記第1抽出手段の抽出した第1フレーム画像に基づいた医師の診断結果を示す診断結果情報を取得し、当該診断結果情報及び該当する前記第1フレーム画像を教師データとしつつ、機械学習及びデータマイニングの少なくともいずれか一方を実行して前記第2知識を獲得し、前記第2記憶手段に記憶させる、請求項8に記載の診断支援装置。
  10.  前記第1記憶手段には、
     前記第1知識として、前記被検眼を構成する各組織に発症しうる疾患毎に当該疾患の診断に利用可能な前記第1フレーム画像を抽出するための複数の知識が記憶され、
     前記第1抽出手段が、
     前記第1知識に基づき、前記疾患の状態推定に利用可能な前記第1フレーム画像を前記疾患毎に抽出するとともに、
     前記学習手段が、
     前記抽出された各疾患に対応する前記第1フレーム画像に基づき該当する疾患に関する前記診断結果情報を取得し、当該診断結果情報及び該当する前記第1フレーム画像を教師データとしつつ、機械学習及びデータマイニングの少なくとも一方を実行して、疾患毎に当該疾患を診断するために必要な前記第2知識を獲得し、当該獲得した第2知識を該当する疾患と対応付けて前記第2記憶手段に記憶させる、請求項9に記載の診断支援装置。
  11.  前記第1記憶手段には、
     前記第1知識として、前記被検眼を構成する各組織に発症しうる疾患毎に当該疾患の診断に利用可能な前記第1フレーム画像を抽出するための複数の知識が記憶されるとともに、
     前記第2記憶手段には、
     前記第2知識として、疾患毎に当該疾患の状態を推定するための複数の知識が記憶され、
     前記第1抽出手段が、
     前記第1知識に基づき、前記疾患の診断に利用可能な第1フレーム画像を前記疾患毎に抽出するとともに、
     前記推定手段が、
     前記疾患毎に抽出された第1フレーム画像と該当する疾患の前記第2知識に基づき、前記被検眼における疾患毎の状態を推定し、
     前記生成手段が、
     前記診断支援情報として、前記推定した疾患毎の状態を含む情報を生成する、請求項1~10のいずれか1項に記載の診断支援装置。
  12.  前記撮影画像に含まれる前記各フレーム画像において、ピントの合っている前記被検眼の組織に対して該当する組織名をラベリングするラベリング手段と、
     前記ラベリングされた前記各フレーム画像において、ピントの合っている組織の写り込んだ画素領域の面積が最も大きい前記フレーム画像を第2フレーム画像として抽出する第2抽出手段と、
     をさらに有し、
     前記生成手段が、
     前記抽出された第2フレーム画像を含む前記診断支援情報を生成する、請求項1~11のいずれか1項に記載の診断支援装置。
  13.  前記取得された撮影動画像に含まれる各フレーム画像を焦点距離に応じて積層し、前記被検眼の三次元画像を構築する三次元画像構築手段をさらに有し、
     前記第2記憶手段には、
     前記第2知識として、三次元画像に基づき(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定するための知識が記憶され、
     前記推定手段が、
     前記生成された三次元画像と、前記第2知識に基づき、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定する、請求項1~12のいずれか1項に記載の診断支援装置。
  14.  前記第1抽出手段によって抽出された第1フレーム画像において健康状態の推定対象となる組織の写り込んだ領域を領域画像として切り出す切り出し手段をさらに有し、
     前記第2記憶手段には、
     前記第2知識として、前記撮影画像から切り出された領域画像に基づき(i)前記被検眼の健康状態及び(ii)当該被検眼の一部組織における距離、角度及び面積のいずれか1以上を含む情報パラメーター値の少なくとも一方を推定するための知識が記憶され、
     前記推定手段が、
     前記領域画像と、前記第2知識に基づき(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定する、請求項1~13のいずれか1項に記載の診断支援装置。
  15.  前記学習手段が、
     前記切り出された領域画像と、前記診断結果情報と、に基づき、機械学習及びデータマイニングの少なくとも一方を実行して前記第2知識を獲得する、請求項14に記載の診断支援装置。
  16.  前記学習手段が、
     前記被検眼における前記情報パラメーター値を取得し、(a)当該取得した情報パラメーター値と、(b)前記診断結果情報と、(c)前記第1フレーム画像又は前記切り出された領域画像と、に基づき、前記第2知識を獲得する、請求項9~15のいずれか1項に記載の診断支援装置。
  17.  光源と撮影用カメラレンズを備える移動体通信端末装置であって、(a)前記光源から出射される光源光に基づき発生させたスリット光、青色光及び直線偏光のいずれかを、観察光として被検眼の観察対象組織に照射し、又は、前記光源光をそのままの状態で通過させ、前記観察光として前記観察対象組織に照射する観察光照射部材と、(b)前記観察光の前記観察対象組織における反射光を含む光を前記撮影用カメラレンズに集光させる凸レンズ部材と、を少なくとも備える近接撮影用装置を装着した移動体通信端末装置と、
     前記移動体通信端末装置にて前記被検眼を撮影した画像であって、(i)当該被検眼の健康状態及び(ii)当該被検眼の一部組織における距離、角度及び面積のいずれか1以上を含む情報パラメーター値の少なくとも一方を推定するために利用可能な第1フレーム画像を1以上含む撮影画像に基づき前記被検眼の健康状態及び前記情報パラメーター値の少なくとも一方を推定して当該被検眼の診断を支援する診断支援装置と、
     を有し、
     前記診断支援装置が、
     前記撮影画像を取得する取得手段と、
     前記取得した撮影画像から前記第1フレーム画像を抽出するための第1知識が予め記憶された第1記憶手段と、
     前記第1知識に基づき、前記取得された撮影画像に含まれる前記第1フレーム画像を抽出する第1抽出手段と、
     前記撮影画像に基づき、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定するための第2知識が記憶される第2記憶手段と、
     前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記取得された撮影画像に映り込んだ前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定する推定手段と、
     前記推定した前記被検眼の健康状態及び前記情報パラメーター値の少なくとも一方を含む診断支援情報を生成する生成手段と、
     前記生成した診断支援情報を外部機器に配信する配信手段と、
     を有することを特徴とする診断支援システム。
  18.  光源と撮影用カメラレンズを備える移動体通信端末装置であって、(a)前記光源から出射される光源光に基づき発生させたスリット光、青色光及び直線偏光のいずれかを、観察光として被検眼の観察対象組織に照射し、又は、前記光源光をそのままの状態で通過させ、前記観察光として前記観察対象組織に照射する観察光照射部材と、(b)前記観察光の前記観察対象組織における反射光を含む光を前記撮影用カメラレンズに集光させる凸レンズ部材と、を少なくとも備える近接撮影用装置を装着した移動体通信端末装置にて撮影された前記被検眼を撮影した画像であって、(i)当該被検眼の健康状態及び(ii)当該被検眼の一部組織における距離、角度及び面積のいずれか1以上を含む情報パラメーター値の少なくとも一方を推定するために利用可能な第1フレーム画像を1以上含む撮影画像に基づき前記被検眼の診断を支援する診断支援装置として機能し、(A)前記撮影画像から前記第1フレーム画像を抽出するための第1知識が予め記憶された第1記憶手段と、(B)前記撮影画像に基づき、(i)前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定するための第2知識が記憶される第2記憶手段と、を有するコンピュータを、
     前記撮影画像を取得する取得手段、
     前記第1知識に基づき、前記取得された撮影画像に含まれる前記第1フレーム画像を抽出する第1抽出手段、
     前記抽出された第1フレーム画像と前記第2知識に基づき、(i)前記取得された撮影画像に映り込んだ前記被検眼の健康状態及び(ii)前記情報パラメーター値の少なくとも一方を推定する推定手段、
     前記推定した前記被検眼の健康状態及び前記情報パラメーター値の少なくとも一方を含む診断支援情報を生成する生成手段、
     前記生成した診断支援情報を外部機器に配信する配信手段、
     として機能させることを特徴とするプログラム。
PCT/JP2021/005447 2020-02-14 2021-02-15 診断支援装置、診断支援システム及びプログラム WO2021162124A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP21752926.2A EP4104749A4 (en) 2020-02-14 2021-02-15 DIAGNOSTIC ASSIST DEVICE, AND DIAGNOSTIC ASSIST SYSTEM AND PROGRAM
JP2022500489A JPWO2021162124A1 (ja) 2020-02-14 2021-02-15
US17/799,043 US20230092251A1 (en) 2020-02-14 2021-02-15 Diagnosis support device, diagnosis support system, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020023514 2020-02-14
JP2020-023514 2020-10-30

Publications (1)

Publication Number Publication Date
WO2021162124A1 true WO2021162124A1 (ja) 2021-08-19

Family

ID=77291515

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/005447 WO2021162124A1 (ja) 2020-02-14 2021-02-15 診断支援装置、診断支援システム及びプログラム

Country Status (4)

Country Link
US (1) US20230092251A1 (ja)
EP (1) EP4104749A4 (ja)
JP (1) JPWO2021162124A1 (ja)
WO (1) WO2021162124A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116030042A (zh) * 2023-02-24 2023-04-28 智慧眼科技股份有限公司 一种针对医生目诊的诊断装置、方法、设备及存储介质

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10957442B2 (en) * 2018-12-31 2021-03-23 GE Precision Healthcare, LLC Facilitating artificial intelligence integration into systems using a distributed learning platform

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019024738A (ja) 2017-07-27 2019-02-21 株式会社トプコン 眼科システム及び眼科情報処理装置
US20190191988A1 (en) * 2016-09-02 2019-06-27 Spect Inc. Screening method for automated detection of vision-degenerative diseases from color fundus images
US20190274536A1 (en) * 2018-03-06 2019-09-12 Texas Tech University System Diagnostic tool for eye disease detection using smartphone
JP6627071B2 (ja) * 2018-01-26 2020-01-08 株式会社Oui 近接撮影用装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010117386A1 (en) * 2009-04-10 2010-10-14 Doheny Eye Institute Ophthalmic testing methods, devices and systems

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190191988A1 (en) * 2016-09-02 2019-06-27 Spect Inc. Screening method for automated detection of vision-degenerative diseases from color fundus images
JP2019024738A (ja) 2017-07-27 2019-02-21 株式会社トプコン 眼科システム及び眼科情報処理装置
JP6627071B2 (ja) * 2018-01-26 2020-01-08 株式会社Oui 近接撮影用装置
US20190274536A1 (en) * 2018-03-06 2019-09-12 Texas Tech University System Diagnostic tool for eye disease detection using smartphone

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4104749A4

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116030042A (zh) * 2023-02-24 2023-04-28 智慧眼科技股份有限公司 一种针对医生目诊的诊断装置、方法、设备及存储介质

Also Published As

Publication number Publication date
EP4104749A1 (en) 2022-12-21
JPWO2021162124A1 (ja) 2021-08-19
US20230092251A1 (en) 2023-03-23
EP4104749A4 (en) 2023-07-26

Similar Documents

Publication Publication Date Title
Panwar et al. Fundus photography in the 21st century—a review of recent technological advances and their implications for worldwide healthcare
WO2021039339A1 (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム
US8262221B2 (en) Ophthalmological diagnostic system
US20210290056A1 (en) Systems and methods for capturing, annotating and sharing ophthalmic images obtained using a hand held computer
JP6923384B2 (ja) 眼科システム及び眼科情報処理装置
JP2021039748A (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム
CN111655119B (zh) 近距拍摄用装置
WO2021162124A1 (ja) 診断支援装置、診断支援システム及びプログラム
JP7478216B2 (ja) 眼科装置、眼科装置の制御方法、及びプログラム
JP7321678B2 (ja) スリットランプ顕微鏡及び眼科システム
Yogesan et al. Telemedicine screening of diabetic retinopathy using a hand-held fundus camera
Monjur et al. Smartphone based fundus camera for the diagnosis of retinal diseases
WO2021256130A1 (ja) スリットランプ顕微鏡
Wolffsohn et al. Anterior ophthalmic imaging
JP7194136B2 (ja) 眼科装置、眼科装置の制御方法、及びプログラム
JP2022050738A (ja) スリットランプ顕微鏡システム
KR20210020318A (ko) 안구 건강 모니터링 방법 및 이를 이용한 안구 건강 모니터링용 디바이스
WO2021261103A1 (ja) スリットランプ顕微鏡
US20220104703A1 (en) Methods and apparatus for screening for maladies by retinal scan
JP2000237168A (ja) 眼科検査装置
WO2022030364A1 (ja) スリットランプ顕微鏡
JP7345610B2 (ja) スリットランプ顕微鏡
US11875480B1 (en) Distinguishing artifacts from pathological features in digital images
US20230190097A1 (en) Cataract detection and assessment
Şirin Evaluation of Fundus Examination of Hunting Dogs' Eyes Using a Smartphone-Based Camera

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21752926

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022500489

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021752926

Country of ref document: EP

Effective date: 20220914