WO2023181417A1 - 撮影装置、プログラム及び方法 - Google Patents

撮影装置、プログラム及び方法 Download PDF

Info

Publication number
WO2023181417A1
WO2023181417A1 PCT/JP2022/014695 JP2022014695W WO2023181417A1 WO 2023181417 A1 WO2023181417 A1 WO 2023181417A1 JP 2022014695 W JP2022014695 W JP 2022014695W WO 2023181417 A1 WO2023181417 A1 WO 2023181417A1
Authority
WO
WIPO (PCT)
Prior art keywords
subject
information
image
target person
processor
Prior art date
Application number
PCT/JP2022/014695
Other languages
English (en)
French (fr)
Inventor
建星 楊
敦史 福田
秋穂 佐久間
Original Assignee
アイリス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アイリス株式会社 filed Critical アイリス株式会社
Priority to PCT/JP2022/014695 priority Critical patent/WO2023181417A1/ja
Publication of WO2023181417A1 publication Critical patent/WO2023181417A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor

Definitions

  • the present disclosure relates to a photographing device, a program, and a method including a camera configured to photograph an image of a subject.
  • Non-Patent Document 1 reports that lymphoid follicles appearing in the deepest part of the pharynx located in the oral cavity have a pattern unique to influenza. Lymphoid follicles with this unique pattern are called influenza follicles, which are a characteristic sign of influenza and appear about two hours after the onset of symptoms. Therefore, it is very important to obtain images of the condition of the subject's oral cavity.
  • the present disclosure provides a photographing device, a program, and a method that are more suitable for photographing an image of a subject that includes at least a portion of the subject's natural aperture, according to various embodiments.
  • the purpose is to provide
  • a camera configured to capture an image of a subject including at least a portion of a natural aperture of one or more subjects including a first subject; an imaging device including one processor, wherein the at least one processor connects the first subject via a communication interface from an external device communicatively connected to the imaging device via a network.
  • the list is output without including the first target person information, and the external device outputs the first target person information without including the first target person information.
  • An imaging device configured to perform a process of including and outputting the first subject information in the list after the first subject information is registered is provided.
  • capturing that includes a camera configured to capture an image of a subject that includes at least a portion of a natural aperture of one or more subjects including a first subject
  • a first subject associated with each of one or more subjects including the first subject via a communication interface from an external device communicably connected to the imaging device via a network.
  • subject information including information and outputting the subject information as a list for subjects who have not been photographed among the one or more subjects
  • the list is output without including the first target person information
  • the list is outputted without including the first target person information.
  • a program that functions as a processor for including and outputting the first subject information is provided.
  • a camera configured to capture an image of a subject including at least a portion of a natural aperture of one or more subjects including a first subject;
  • receiving subject information including first subject information associated with each of one or more subjects including a person who has not been photographed among the one or more subjects When outputting information as a list, before the first target person information associated with the first target person is registered in the external device, the list is output without including the first target person information. and, after the first subject information is registered in the external device, outputting the list including the first subject information.
  • a photographing device, program, and method that are more suitable for photographing an image of a subject that includes at least a portion of a subject's natural aperture.
  • FIG. 1 is a diagram showing a usage state of an imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 2 is a diagram showing a usage state of the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 3 is a block diagram showing the configuration of the processing system 1 according to an embodiment of the present disclosure.
  • FIG. 4 is a block diagram showing the configurations of the processing device 100 and the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 5 is a block diagram showing the configuration of a server device 300 according to an embodiment of the present disclosure.
  • FIG. 6A is a diagram conceptually showing a target person management table stored in server device 300 according to an embodiment of the present disclosure.
  • FIG. 6B is a diagram conceptually showing an image management table stored in the server device 300 according to an embodiment of the present disclosure.
  • FIG. 7 is a diagram showing a processing sequence executed between the processing device 100, the imaging device 200, and the server device 300 according to an embodiment of the present disclosure.
  • FIG. 8A is a diagram showing a processing flow executed in the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 8B is a diagram showing a processing flow executed in the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 8C is a diagram showing a processing flow executed in the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 9A is a diagram showing a processing flow executed in the server device 300 according to an embodiment of the present disclosure.
  • FIG. 9A is a diagram showing a processing flow executed in the server device 300 according to an embodiment of the present disclosure.
  • FIG. 9B is a diagram showing a processing flow executed in the server device 300 according to an embodiment of the present disclosure.
  • FIG. 9C is a diagram illustrating a processing flow related to generation of a trained model according to an embodiment of the present disclosure.
  • FIG. 9D is a diagram illustrating a processing flow related to generation of a trained model according to an embodiment of the present disclosure.
  • FIG. 10 is a diagram showing a processing flow executed in the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 11A is a diagram illustrating an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 11B is a diagram illustrating an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 11A is a diagram illustrating an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 11B is a diagram illustrating an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure
  • FIG. 11C is a diagram illustrating an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 12A is a diagram illustrating an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12B is a diagram illustrating an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12C is a diagram illustrating an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12D is a diagram illustrating an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12E is a diagram illustrating an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12F is a diagram illustrating an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • the processing system 1 according to the present disclosure is mainly used to photograph the inside of a subject's oral cavity and obtain a subject image.
  • the processing system 1 is used to image the back of the throat of the oral cavity, specifically, the pharynx. Therefore, in the following, a case will be mainly described in which the processing system 1 according to the present disclosure is used to photograph the pharynx.
  • the pharynx is an example of a region to be imaged, and naturally, other regions in the oral cavity such as the tonsils and larynx, and other natural openings such as the external auditory canal, vagina, rectum, and nasal cavity are also included in the present disclosure.
  • Such a processing system 1 can be suitably used.
  • the processing system 1 determines the possibility of contracting a predetermined disease from a subject image obtained by photographing a subject including at least the pharyngeal region of the oral cavity of the subject, and determines the possibility of contracting a predetermined disease. It is used to diagnose or assist in the diagnosis of diseases.
  • An example of a disease determined by the processing system 1 is influenza.
  • the possibility of influenza infection is usually diagnosed by examining the subject's pharynx and tonsils and determining the presence or absence of findings such as follicles in the pharynx region.
  • the processing system 1 determines the possibility of contracting influenza and outputting the results, it becomes possible to diagnose or assist. Note that the determination of the possibility of contracting influenza is one example.
  • the processing system 1 can be suitably used for any disease that causes a difference in the findings of the natural orifice depending on the disease.
  • differences in findings are not limited to those discovered by a doctor or the like and whose existence is medically known.
  • any difference that can be recognized by a person other than a doctor or that can be detected by artificial intelligence or image recognition technology can be suitably applied to the processing system 1.
  • diseases include, in addition to the above-mentioned influenza, diseases that can be determined from images of natural orifices, such as the oral cavity, pharynx, and larynx, include streptococcal infections, adenovirus infections, and EB virus.
  • tumors such as oral cavity cancer, tongue cancer, and pharyngeal cancer; Examples include trauma.
  • Diseases that can be determined from images of the external auditory canal among natural orifices include tumors such as middle ear cancer and hearing cancer, inflammation such as otitis media and tympanitis, eardrum diseases such as eardrum perforation, and trauma.
  • diseases that can be determined from images of the nasal cavity include inflammation such as rhinitis, infections such as sinusitis, tumors such as nasal cavity cancer, trauma, epistaxis, and granulomatosis with polyangiitis. Examples include diseases that exhibit vascular disorders or mucosal disorders.
  • diseases that can be determined from images of the vagina include tumors such as cervical cancer, diseases that present with dryness such as Sjögren's syndrome, diseases that present with mucous membrane disorders and bleeding such as vaginal erosion, trauma, and vaginitis. These include inflammation of the skin, infections such as vaginal candida, and diseases that cause ulcers and skin lesions such as Behcet's disease.
  • diseases that can be determined from images of the rectum include tumors such as rectal cancer, diseases that cause mucosal disorders and bleeding such as ulcerative colitis, infectious diseases such as enteritis, and trauma.
  • subjects to be photographed by the photographing device 200 may include any human being, such as a patient, a subject, a diagnosis subject, and a healthy person.
  • the operator who holds the imaging device 200 and performs the imaging operation is not limited to a medical worker such as a doctor, nurse, or laboratory technician, but may include any person such as the subject himself/herself.
  • the processing system 1 according to the present disclosure is typically used in a medical institution. However, the application is not limited to this case, and may be used at any location, such as the target's home, school, or workplace.
  • the subject only needs to include at least a part of the subject's natural orifice.
  • any disease may be determined as long as it shows a difference in findings in the natural orifice that is the subject.
  • the subject includes at least a portion of the oral cavity, particularly the pharynx or the vicinity of the pharynx, and the possibility of contracting influenza is determined as the disease.
  • the subject image may be one or more moving images or one or more still images.
  • the camera captures a live view image, and the captured live view image is displayed on the display 203. Thereafter, when the operator presses the photographing button, one or more still images are photographed by the camera, and the photographed images are displayed on the display 203.
  • shooting button shooting of a moving image is started, and the image being shot with the camera during that time is displayed on the display 203. Then, when the shooting button is pressed again, shooting of the moving image is finished.
  • various images such as through images, still images, and videos are taken by the camera and displayed on the display, but the subject image does not only refer to a specific image among these images. , may include all images taken by the camera.
  • FIG. 1 is a diagram showing a usage state of an imaging device 200 according to an embodiment of the present disclosure.
  • the operator attaches the auxiliary tool 400 to the distal end of the imaging device 200 so as to cover it, and inserts the imaging device 200 together with the auxiliary tool 400 into the oral cavity 712 of the subject 700.
  • an operator (which may be the subject 700 himself or a person different from the subject 700) attaches the auxiliary tool 400 to the tip of the imaging device 200 so as to cover it.
  • the operator inserts the imaging device 200 with the auxiliary tool 400 attached into the oral cavity 712.
  • the tip of the auxiliary tool 400 passes through the incisors 711 and is inserted to the vicinity of the soft palate 713.
  • the imaging device 200 is similarly inserted up to the vicinity of the soft palate 713.
  • the tongue 714 is pushed downward by the auxiliary tool 400 (functioning as a tongue depressor) and the movement of the tongue 714 is restricted. This allows the operator to secure a good field of view for the imaging device 200 and to take good pictures of the pharynx 715 located in front of the imaging device 200.
  • the photographed subject image (typically, an image including the pharynx 715) is transmitted from the photographing device 200 to the server device 300 that is communicably connected via a wired or wireless network.
  • the processor of the server device 300 that receives the subject image processes the program stored in the memory to determine whether or not the subject image is suitable for determining the possibility of contracting a predetermined disease. The likelihood of contracting a predetermined disease is determined.
  • the results are then sent to the processing device 100 and output to a display or the like via the output interface of the processing device 100.
  • FIG. 2 is a diagram showing a usage state of the imaging device 200 according to an embodiment of the present disclosure. Specifically, FIG. 2 is a diagram showing a state in which the operator 600 holds the photographing device 200.
  • the imaging device 200 is composed of a main body 201, a grip 202, and a display 203 from the side inserted into the oral cavity.
  • the main body 201 and the grip 202 are formed into a substantially columnar shape with a predetermined length along the insertion direction H into the oral cavity.
  • the display 203 is arranged on the side of the grip 202 opposite to the main body 201 side.
  • the photographing device 200 is formed into a generally columnar shape as a whole, and is held by the operator 600 in a manner similar to holding a pencil. That is, since the display panel of the display 203 faces toward the operator 600 when in use, it is possible to easily handle the photographing device 200 while checking the subject image photographed by the photographing device 200 in real time.
  • the photographing button 220 is arranged on the top side of the grip. Therefore, when the operator 600 holds it, the operator 600 can easily press the shooting button 220 with his/her index finger or the like.
  • FIG. 3 is a schematic diagram of processing system 1 according to an embodiment of the present disclosure.
  • the processing system 1 includes a processing device 100, a photographing device 200, and a server device 300, and each device is communicably connected via a wired or wireless network.
  • the processing device 100 inputs subject information, interview information, finding information, and the like.
  • the processing device 100 outputs a subject image photographed by the photographing device 200.
  • the processing device 100 receives from the server device 300 and outputs the result of determining the possibility of contracting a predetermined disease based on the image of the subject photographed by the photographing device 200.
  • the tip of the photographing device 200 is inserted into the oral cavity of the subject to photograph the inside of the oral cavity, particularly the pharynx.
  • the specific photographing process will be described later.
  • the photographed subject image is transmitted to the server device 300 via a wired or wireless network.
  • the server device 300 receives and manages subject information, medical interview information, diagnostic information, etc. input in the processing device 100, and also receives and manages images of the subject photographed by the photographing device 200. Further, the server device 300 determines whether or not the received image of the subject is an appropriate image for subsequent processing, and transmits the result to the imaging device 200, based on the subject image, medical interview information, and finding information. to determine the possibility of contracting a predetermined disease and transmit the result to the processing device 100.
  • an external device means the processing device 100, another processing device, the server device 300, another server device, or a combination thereof. That is, unless otherwise specified, the external device may include the processing device 100, the server device 300, or a combination thereof.
  • FIG. 4 is a block diagram showing the configurations of the processing device 100 and the imaging device 200 according to an embodiment of the present disclosure. Specifically, FIG. 4 is a diagram specifically showing the configurations of the processing device 100 and the photographing device 200 in the system 1.
  • the processing device 100 includes a processor 111, a memory 112, an input interface 113, an output interface 114, and a communication interface 115.
  • the photographing device 200 also includes a camera 211, a light source 212, a processor 213, a memory 214, an output interface 215, an input interface 210, and a communication interface 216. Each of these components is electrically connected to each other via control lines and data lines.
  • processing device 100 and the imaging device 200 do not need to include all of the components shown in FIG. 4, and can be configured by omitting some of them, or can include other components. be.
  • the processing device 100 or the photographing device 200 can include a battery or the like for driving each component.
  • the processing device 100 and the photographing device 200 only need to be communicably connected through a wired or wireless network, as described with reference to FIG. 3, and it is not necessary that the two be configured to be able to directly communicate.
  • the processor 111 functions as a control unit that controls other components of the processing system 1 based on a program stored in the memory 112. Based on the program stored in the memory 112, the processor 111 inputs subject information, interview information, finding information, etc., outputs the subject image captured by the imaging device 200, and determines the possibility of contracting a predetermined disease. Execute processing related to output of the determination result. Specifically, the processor 111 performs ⁇ processing of accepting input of target person information related to the target person by the operator via the input interface 113'' and ⁇ processing of receiving input of target person information related to the target person via the communication interface 115''.
  • the processor 111 is mainly composed of one or more CPUs, but may be appropriately combined with GPUs, FPGAs, etc.
  • the memory 112 is comprised of RAM, ROM, nonvolatile memory, HDD, etc., and functions as a storage unit.
  • the memory 112 stores instructions for various controls of the processing system 1 according to the present embodiment as programs. Specifically, the memory 112 performs "a process of accepting input of target person information related to a target person by an operator via the input interface 113" and a process of "receiving input of target person information related to a target person via the communication interface 115".
  • the communication interface 115 stores programs for the processor 111 to execute, such as a process for receiving an image and outputting the determination result and the subject image together via the output interface 114.
  • the memory 112 also stores subject information, subject images, interview information, finding information, etc. of the subject.
  • the input interface 113 functions as an input unit that accepts input instructions from an operator to the processing device 100.
  • Examples of the input interface 113 include a "confirm button” for making various selections, a “back/cancel button” for returning to the previous screen or canceling the entered confirmation operation, and a pointer output to the output interface 114.
  • Physical key buttons include a cross key button for movement, an on/off key for turning on and off the power of the processing device 100, and a character input key button for inputting various characters. Note that it is also possible to use a touch panel as the input interface 113, which is provided to be superimposed on the display that functions as the output interface 114 and has an input coordinate system corresponding to the display coordinate system of the display.
  • icons corresponding to the physical keys are displayed on the display, and the operator inputs instructions via the touch panel to select each icon.
  • the detection method of the subject's instruction input using the touch panel may be any method such as a capacitance method or a resistive film method.
  • a mouse, a keyboard, etc. can also be used as the input interface 113.
  • the input interface 113 does not always need to be physically provided in the processing device 100, and may be connected via a wired or wireless network as necessary.
  • the output interface 114 functions as an output unit for outputting information such as determination results received from the server device 300.
  • An example of the output interface 114 is a display including a liquid crystal panel, an organic EL display, a plasma display, or the like.
  • the processing device 100 itself does not necessarily need to be equipped with a display.
  • an interface for connecting to a display or the like that can be connected to the processing device 100 via a wired or wireless network can function as the output interface 114 that outputs display data to the display or the like.
  • the communication interface 115 functions as a communication unit for transmitting and receiving subject information, interview information, subject images, finding information, etc. with the server device 300 connected via a wired or wireless network.
  • Examples of the communication interface 115 include wired communication connectors such as USB and SCSI, wireless communication transmitting and receiving devices such as wireless LAN, Bluetooth (registered trademark), and infrared rays, and various connection terminals for printed mounting boards and flexible mounting boards. There are various things that can be mentioned.
  • the camera 211 functions as a photographing unit that detects reflected light reflected on the oral cavity of the subject and generates a subject image.
  • the camera 211 includes, for example, a CMOS image sensor to detect the light, and a lens system and a drive system to realize a desired function.
  • the image sensor is not limited to a CMOS image sensor, but other sensors such as a CCD image sensor can also be used.
  • the camera 211 can have an autofocus function, and is preferably set to focus on a specific portion, for example, in front of a lens. Further, the camera 211 may have a zoom function, and is preferably set to take images at an appropriate magnification depending on the size of the pharynx or influenza follicle.
  • lymphoid follicles that appear in the deepest part of the pharynx located in the oral cavity have a pattern unique to influenza. Lymphoid follicles with this unique pattern are called influenza follicles, which are a characteristic sign of influenza and appear about two hours after the onset of symptoms.
  • influenza follicles which are a characteristic sign of influenza and appear about two hours after the onset of symptoms.
  • the processing system 1 of the present embodiment is used to determine the possibility of a subject suffering from influenza by, for example, photographing the pharynx of the oral cavity and detecting the follicles. Therefore, when the imaging device 200 is inserted into the oral cavity, the distance between the camera 211 and the subject becomes relatively short.
  • the camera 211 preferably has an angle of view (2 ⁇ ) such that the value calculated by [(distance from the tip of the camera 211 to the posterior wall of the pharynx)*tan ⁇ ] is 20 mm or more vertically and 40 mm or more horizontally.
  • 2 ⁇ the value calculated by [(distance from the tip of the camera 211 to the posterior wall of the pharynx)*tan ⁇ ] is 20 mm or more vertically and 40 mm or more horizontally.
  • the main subject photographed by the camera 211 is an influenza follicle formed in the pharynx or pharynx region.
  • the pharynx is formed deep in the depth direction, so if the depth of field is shallow, the focus will shift between the anterior and posterior parts of the pharynx, making it difficult to obtain a subject image suitable for use in determination by the processing device 100. becomes difficult. Therefore, camera 211 has a depth of field of at least 20 mm or more, preferably 30 mm or more. By using a camera having such a depth of field, it is possible to obtain a subject image in which any part from the anterior pharynx to the posterior pharynx is in focus.
  • the light source 212 is driven by instructions from the processor 213 of the imaging device 200, and functions as a light source section for irradiating light into the oral cavity.
  • Light source 212 includes one or more light sources.
  • the light source 212 includes one or more LEDs, and each LED emits light having a predetermined frequency band toward the oral cavity.
  • the light source 212 uses light having a desired band among an ultraviolet light band, a visible light band, and an infrared light band, or a combination thereof. Note that when determining the possibility of contracting influenza in the processing device 100, it is preferable to use light in the visible light band.
  • the processor 213 functions as a control unit that controls other components of the imaging device 200 based on a program stored in the memory 214. Based on the program stored in the memory 214 , the processor 213 executes a first communication process via the communication interface 216 from an external device (processing device 100 or server device 300 ) that is communicably connected to the imaging device 200 via the network. "Process of receiving subject information including first subject information associated with each of one or more subjects including one or more subjects", “Process of receiving subject information including first subject information associated with each of one or more subjects including one or more subjects”; When outputting the first target person information as a list, before the first target person information associated with the first target person is registered in the external device, the list is output without including the first target person information.
  • the device After the first target person information is registered in the device, there is a process to output the list including the first target person information, and a process to output the first target person from the list output including the first target person information. "When a selection of information is received, the attribute information of the first target person is output.” “After receiving the selection of the first target person information from the output list including the first target person information,” When a first subject image including at least a part of the oral cavity of the first subject is captured by the camera, the first subject information and the first subject image are associated with each other and transmitted to an external device.
  • processing processing of receiving discrimination information indicating whether or not the first subject image is suitable for use in the determination from an external device, and outputting the received discrimination information
  • processing of receiving at least part of the imaging device A process of outputting a wearing display prompting the wearer to wear the auxiliary device 400 that is covered and partially inserted into the oral cavity is executed based on a program stored in the memory 214.
  • the processor 213 is mainly composed of one or more CPUs, but may be appropriately combined with a GPU, FPGA, etc.
  • the memory 214 is composed of RAM, ROM, nonvolatile memory, HDD, etc., and functions as a storage unit.
  • the memory 214 stores instructions for various controls of the processing system 1 according to the present embodiment as a program.
  • the memory 214 stores data from an external device (processing device 100 or server device 300) that is communicably connected to the imaging device 200 via a network, including the first subject via the communication interface 216.
  • an external device processing device 100 or server device 300
  • ⁇ Process of receiving subject information including first subject information associated with each of a plurality of subjects'' and ⁇ Outputting subject information as a list for one or more subjects who have not been photographed.
  • the list is output without including the first target person information, and the list is output without including the first target person information in the external device. After the information is registered, there is a process of outputting the list including the first target person information.
  • the output interface 215 functions as an output unit for outputting the subject image photographed by the photographing device 200, subject information, and the like.
  • An example of the output interface 215 is the display 203, but the output interface 215 is not limited to this, and may be configured from other liquid crystal panels, organic EL displays, plasma displays, etc.
  • the display 203 does not need to be provided; for example, an interface for connecting to a display, etc. that can be connected to the processing device 100 via a wired or wireless network is an output interface that outputs display data to the display, etc. It is also possible to function as 114.
  • the input interface 210 functions as an input unit that accepts input instructions from an operator to the imaging device 200.
  • Examples of the input interface 210 include a “shooting button” for instructing the shooting device 200 to start and end recording, a “power button” for turning on and off the power of the shooting device 200, and a “power button” for making various selections.
  • physical key buttons such as a “confirm button”, a “back/cancel button” for returning to the previous screen or canceling the entered confirmation operation, and a cross key button for moving icons etc. displayed on the output interface 215. It will be done.
  • buttons and keys may be physically prepared, or may be displayed as icons on the output interface 215 and may be a touch panel or the like that is superimposed on the output interface 215 and arranged as the input interface 210. It may also be possible to make the selection possible.
  • the detection method of the subject's instruction input using the touch panel may be any method such as a capacitance method or a resistive film method.
  • the communication interface 216 functions as a communication unit for transmitting and receiving information to and from the server device 300 and/or other devices.
  • Examples of the communication interface 216 include wired communication connectors such as USB and SCSI, wireless communication transmitting and receiving devices such as wireless LAN, Bluetooth (registered trademark), and infrared rays, and various connection terminals for printed mounting boards and flexible mounting boards. There are various things that can be mentioned.
  • FIG. 5 is a block diagram showing the configuration of server device 300 according to an embodiment of the present disclosure.
  • server device 300 includes a memory 311, a processor 312, and a communication interface 313. Each of these components is electrically connected to each other via control lines and data lines. Note that the server device 300 does not need to include all of the components shown in FIG. 5; it is possible to omit some of them, or to add other components. For example, it is also possible to configure the server device 300 by connecting it with another server device. Moreover, it is also possible to connect with other database devices and configure the server device 300 as an integrated unit.
  • the memory 311 is composed of RAM, ROM, nonvolatile memory, HDD, etc., and functions as a storage unit.
  • the memory 311 stores instructions for various controls of the processing system 1 according to the present embodiment as programs. Specifically, the memory 311 performs "processing of receiving target person information received by the processing device 100 from the processing device 100 via the communication interface 313" and "corresponding received target person information with target person ID information".
  • a request for determining the possibility of contracting a predetermined disease for the selected subject is received from the processing device 100 via the communication interface 313, the subject image associated with the subject from the image management table and the subject A process of reading out interview information and subject information associated with the subject from the management table and determining the possibility, and transmitting the determined results to the processing device 100 via the communication interface 313.
  • the memory 311 stores programs for the processor 312 to execute, such as "processing".
  • the memory 311 also stores various information stored in the subject management table (FIG. 6A) and the image management table (FIG. 6B), image data itself such as a subject image, and the like.
  • the processor 312 functions as a control unit that controls other components of the server device 300 based on the program stored in the memory 311. Based on the program stored in the memory 311, the processor 312 executes processing for determining whether or not the image is suitable for determining the possibility of contracting a predetermined disease, and processing for determining the possibility of contracting a predetermined disease. conduct. Specifically, the processor 312 performs a process of "receiving target person information received by the processing device 100 from the processing device 100 via the communication interface 313" and "corresponding the received target person information with target person ID information".
  • ⁇ process of receiving a request from the processing device 100 and transmitting to the processing device 100 a subject image and information specifying an image to be used as a determination image among the subject images via the communication interface 113'' "Process of receiving medical interview information and finding information inputted by the processing device 100 from the processing device 100 via the communication interface 313, and storing the information in a subject management table in association with subject ID information";
  • a request for determining the possibility of contracting a predetermined disease for the selected subject is received from the processing device 100 via the communication interface 313, the subject image associated with the subject from the image management table and the subject A process of reading out interview information and subject information associated with the subject from the management table and determining the possibility, and transmitting the determined results to the processing device 100 via the communication interface 313.
  • "process” etc. are executed based on the program stored in the memory 311.
  • the processor 312 is mainly composed of one or more CPUs, but may be appropriately combined with a GPU, FPGA, or the like.
  • FIG. 6A is a diagram conceptually showing a target person management table stored in the server device 300 according to an embodiment of the present disclosure.
  • the information stored in the target person management table is updated and stored as needed according to the progress of processing by the processor 312 of the server device 300.
  • the subject management table stores subject name information, gender information, date of birth information, interview information, finding information, judgment result information, status information, etc. in association with subject ID information. be done.
  • “Target ID information” is information unique to each target person and used to identify each target person. The subject ID information is generated every time a new subject is registered by the operator or the subject himself/herself.
  • Subject name information is information indicating the name of each subject output by the processing device 100 or the photographing device 200, and is information indicating an arbitrary character string input by the operator or the subject himself/herself.
  • “Gender information” is information indicating the gender of the subject and is information selected by the operator or the subject himself/herself. Preferably, each subject's biological sex is stored.
  • “Date of birth information” is information indicating the date of birth of the subject. The information is not limited to the year, month, and day, but may be information about only the year, and age information or the like may be used instead of the date of birth information.
  • Interview information is information input by, for example, an operator or a subject, and is information used as a reference for diagnosis by a doctor, etc., such as the subject's medical history and symptoms.
  • interview information include patient background information such as weight, allergies, and underlying diseases, body temperature, peak temperature since onset of symptoms, time elapsed since onset of symptoms, heart rate, pulse rate, oxygen saturation, blood pressure, and medications.
  • Medication status contact status with other influenza patients, joint pain, muscle pain, headache, fatigue, loss of appetite, chills, sweating, cough, sore throat, nasal discharge/congestion, tonsillitis, digestive symptoms, rash on hands and feet , presence or absence of subjective symptoms and physical findings such as redness and white moss in the throat, swollen tonsils, history of tonsillectomy, strawberry tongue, and swollen anterior cervical lymph nodes with tenderness, history of influenza vaccination, and timing of vaccination, etc. Can be mentioned. "Finding information” is information input by an operator such as a doctor, and indicates a situation that differs from normal as obtained by various examinations such as visual inspection, interview, palpation, and auscultation, and tests to assist in diagnosis. It is information. Examples of such finding information include redness and white moss in the pharynx, swelling of the tonsils, presence or absence of tonsillitis, redness and white moss in the tonsils, and the like.
  • Determination result information is information indicating the determination result of the possibility of contracting influenza determined based on the interview information, finding information, and determination image.
  • An example of such determination result information is the positivity rate for influenza. However, it is not limited to the positive rate, and any information that indicates the possibility, such as information specifying whether it is positive or negative, may be used. Further, the determination result does not need to be a specific numerical value, and may be in any format such as classification according to the high positive rate or classification indicating whether it is positive or negative.
  • Status information is information indicating the current status of each subject.
  • Such status information includes "Question not completed,” which indicates that the input of medical interview information has not been completed, and "Question not completed,” which indicates that the subject image has not been captured (that is, the image for judgment has not been acquired). "Not taken” indicates that the subject image has been taken (that is, the image for judgment has been acquired), but the doctor, etc. has not yet completed the input of the findings. "Photographed” indicates that the input of the findings has been completed. Information such as "determined” indicating that the possibility of contracting a predetermined disease has been determined is stored. Note that such status information is just an example, and it is possible to define the status in more detail or more broadly.
  • the information illustrated in FIG. 6A is information stored as target person information. Moreover, among these, information other than the target person ID information is used as attribute information.
  • the attribute information is stored in association with the target person ID information, but it is not necessary to store all of the information stored here, and for example, the target person's address, telephone number, family structure, etc. It may also include information other than those listed here, such as information about individuals and information on current epidemics of infectious diseases such as influenza.
  • the interview information and observation information do not need to be input by the subject or operator each time through the processing device 100, etc., but, for example, by an electronic medical record device or other terminal device connected via a wired or wireless network. It may be received from etc. Alternatively, it may be acquired by analyzing a subject image photographed by the photographing device 200. Furthermore, although not particularly shown in FIGS. 6A and 6B, information on the current prevalence of infectious diseases such as influenza or other infectious diseases to be assisted in diagnosis, judgment results and morbidity status of other subjects regarding these infectious diseases is also provided. It is also possible to further store external factor information such as
  • FIG. 6B is a diagram conceptually showing an image management table stored in the server device 300 according to an embodiment of the present disclosure.
  • the information stored in the image management table is updated and stored as needed according to the progress of processing by the processor 312 of the server device 300.
  • the image management table stores subject image information, discrimination result information, determination image information, etc. in association with subject ID information.
  • “Target ID information” is information unique to each target person and used to identify each target person.
  • Subject image information is information that specifies the subject image photographed by the operator for each user.
  • the subject image is one or more images including the subject photographed by the camera of the photographing device 200, and is stored in the memory 112 by being received from the photographing device 200.
  • the "determination result information” is information indicating the result of determination as to whether the received subject image is suitable for determining the possibility of contracting a predetermined disease.
  • “Determination image information” is information for specifying a determination image used for determining the possibility of contracting a predetermined disease. Note that, as described above, information for identifying each image is stored as the subject image information. In this way, the information for identifying images is typically identification information for identifying each image, but may also be information indicating the storage location of each image.
  • FIG. 7 is a diagram showing a processing sequence executed between processing device 100, photographing device 200, and server device 300 according to an embodiment of the present disclosure.
  • S11 to S14 are processing sequences mainly related to input processing of subject information etc. performed between the processing device 100 and the server device 300
  • S21 to S30 are mainly processing sequences between the imaging device 200 and the server device 300.
  • the processing sequence related to the photographing process performed in S41 to S46 mainly shows the processing sequence related to the determination process performed between the processing device 100 and the server device 300.
  • a "first subject" is newly registered as one of the subjects and the possibility of disease is determined.
  • the processing device 100 when the processing device 100 outputs the interview information input screen for the first subject to the display via the output interface 114, the processing device 100 outputs information about symptoms of a predetermined disease, weight, allergies, basic information, etc. via the input interface 113. Input of various interview information such as patient background such as disease is accepted (S14).
  • the processing device 100 transmits the received interview information (T12) to the server device 300 via the communication interface 115 in association with the subject ID information.
  • the server device 300 receives the interview information of the first subject via the communication interface 313, it stores it in the subject management table of the memory 311 in association with the simultaneously received subject ID information (S15).
  • the server device 300 since the server device 300 has received the subject information and medical interview information as status information, the status information is "not captured” indicating that the capturing of the subject image has not been completed (that is, the determination image has not been acquired).
  • the processing sequence related to input processing of subject information, etc. is completed.
  • the medical interview information is input and transmitted in the processing device 100 in association with the subject ID information that specifies the subject, and is further stored in the server device 200. Therefore, it is possible to accurately associate and manage the correspondence between the input interview information and the subject.
  • the medical interview information is input at the timing of S14, but this input may be performed at any timing. For example, it is possible to carry out the process after the imaging process and before inputting the finding information.
  • the input of subject information (S12) and the input of interview information (S14) are accepted as separate processes, after the subject information of the subject is input, the interview information of the subject is input as is.
  • a screen may be displayed to accept input of medical interview information.
  • the power of the photographing device 200 is turned on by pressing the power button or the like, and the photographing device 200 is activated (S21).
  • the imaging device 200 When the imaging device 200 is activated, it transmits a subject information request (T21) to the server device 300 via the communication interface 216.
  • the server device 300 When the server device 300 receives the target person information request (T21), it refers to the status information in the target person management table and searches for a target person whose status is "unphotographed", which indicates that the photographing of the subject image has not been completed. Then, the server device 300 acquires target person information for each target person, including the first target person, for which "unphotographed" is stored as the status information (S22). The server device 300 transmits subject information (T22) of subjects who have not been imaged, including the first subject, to the imaging device 200 via the communication interface 313.
  • the imaging device 200 Upon receiving the subject information via the communication interface 216, the imaging device 200 outputs a list of subjects that have not been photographed, including the first subject, to the display via the output interface 215 (S23).
  • the imaging device 200 receives the selection of target person information of the target person (here, the first target person is taken as an example) from the output list through the input interface 210 (S24). , outputs the attribute information of the first subject to the display via the output interface 215. In this way, by outputting the attribute information of the first subject to be photographed, it becomes possible to reliably associate the subject ID information of the first subject with the subject image to be photographed subsequently, It is possible to prevent confusion between the target persons and the like.
  • the photographing device 200 determines whether or not the auxiliary tool 400 is worn, and if it is not yet worn, displays a wearing display to prompt the wearer to wear it via the output interface 215 (S25). Note that this display is just an example, and the user may be prompted to wear the device by using other sounds, flashing lights, vibrations, or the like. Then, when it is detected that the auxiliary tool is attached to the photographing device 200 (S26), the photographing device 200 photographs a subject image (S27). When the subject image is photographed, the photographing device 200 transmits the photographed subject image (T23) to the server device 300 together with the subject ID information of the first subject via the communication interface 216.
  • a confirmation display for the operator to confirm that the auxiliary device 400 is attached is output via the output interface 215, and the operator inputs a predetermined operation in response to the confirmation display (for example, , tap operation, etc.), the operator himself/herself may be able to input that he/she is wearing the auxiliary tool 400.
  • the server device 300 When the server device 300 receives a subject image via the communication interface 313, it stores the received subject image in an image management table in association with the subject ID information received together, and also stores the image data of the received subject image. It is stored in the memory 311. Then, the server device 300 determines whether the received subject image is suitable for determining the possibility of contracting a predetermined disease (S28). Then, if there are no suitable images, the server device 300 transmits a notification to the photographing device 200 to prompt re-photographing (not shown). On the other hand, if there is a suitable image (for example, one or more subject images with the highest degree of similarity to the suitable image), the server device 300 selects the image as the image that can be used as the determination image.
  • a suitable image for example, one or more subject images with the highest degree of similarity to the suitable image
  • the server device 300 refers to the subject management table and updates the status information associated with the subject ID information of the first subject to "photographed", and also updates the judgment image as a determination result.
  • Information indicating that the information has been obtained (T24) is transmitted to the processing device and the photographing device 200 via the communication interface 313, together with the subject ID information of the first subject.
  • the determination result is transmitted to the photographing device 200, and an operation input from the operator is accepted to select whether or not to finalize the determination image. You can do it like this.
  • an image that has been determined to be usable as a determination image is once displayed as a preview on the photographing device 200, and when the server device 300 receives confirmation that a confirmation operation has been performed, the determination image is finalized, and the image management table is It is also possible to store the information in .
  • the photographing device 200 Upon receiving the determination result via the communication interface 216, the photographing device 200 outputs the result via the output interface 215.
  • subject information of subjects who have not been photographed is received together with the determination result, and is outputted as a list on the display via the output interface 215 similarly to S23 (S30).
  • the list does not include target person information of the first target person. As a result, the processing sequence related to the series of photographic processing is completed.
  • the processing device 100 selects, via the input interface 113, information on subjects whose status is "photographed" on the subject list screen output via the output interface 114.
  • a selection of a subject to be diagnosed (here, the first subject is taken as an example) is accepted from the list, and a selection of a diagnosis mode for diagnosing the subject is accepted (S41). Note that descriptions of various screens that are output before the target person list screen will be omitted here.
  • the processing device 100 transmits a target person information request (T41) for the selected first target person to the server device 300 via the communication interface 115.
  • the server device 300 Upon receiving the target person information request for the first target person via the communication interface 313, the server device 300 refers to the target person management table and assigns the first target person based on the target person ID information of the first target person. Judgment image information that identifies the subject image associated with the subject ID information of the first subject and the image to be used as the judgment image by referring to the image management table. (S42). Then, the server device 300 transmits the acquired subject image, determination image information, and attribute information together with the subject ID information of the first subject to the processing device 100 via the communication interface 313 (T42).
  • the processing device 100 When the processing device 100 receives the subject image, judgment image information, etc. via the communication interface 115, it outputs the received subject image, judgment image information, and attribute information to the display via the output interface 114. Then, the processing device 100 receives input of finding information from an operator such as a doctor via the input interface 113 (S43). When the finding information is input, the processing device 100 determines, via the communication interface 115, the possibility of suffering from a predetermined disease based on the interview information, the finding information, and the determination image, along with the subject ID information of the first subject. A sex determination request (T43) is sent.
  • finding information from an operator such as a doctor via the input interface 113
  • the server device 300 acquires the first subject's attribute information, the subject image, and the image information for determination in association with the subject ID information that specifies the subject, and the processing device 100 acquires the finding information. Before inputting information or transmitting a determination request, these pieces of information are output in association with the subject ID information. This makes it possible to reduce the risk of mistaken subjects, such as inputting finding information or making a determination request for the wrong subject. Furthermore, in the server device 300, it is possible to reliably associate each subject with finding information and determination results.
  • the server device 300 Upon receiving the determination request from the processing device 100 via the communication interface 313, the server device 300 stores the received finding information in the finding information of the subject management table in association with the subject ID information of the first subject. and update status information. Then, the server device 300 performs a process of determining the possibility of contracting a predetermined disease based on the stored interview information, finding information, and determination image (S44). Details of the determination process will be described later. Note that in the determination process, the determination may be performed only using the determination image without using the interview information or the finding information. When the determination process is performed, the server device 300 stores the determination result information in the target person management table based on the target person ID information of the first target person, and updates the status information to “determined”. . The server device 300 transmits the determination result information (T44) stored in the subject management table to the processing device 100 via the communication interface 313, together with the subject ID information of the first subject.
  • T44 determination result information
  • the processing device 100 Upon receiving the determination result information via the communication interface 115, the processing device 100 outputs the received determination result to the display via the output interface 114 (S45). As a result, the processing sequence related to the photographing process is completed. As described above, according to the processing sequence, subject information, medical interview information, finding information, subject images, and judgment results are acquired by different devices (processing device 100, imaging device 200, server device 300, etc.) at different timings. Ru. However, in S12, after new registration of target person information is performed, these pieces of information are acquired, and when these pieces of information are acquired, they are processed in association with target person ID information. Therefore, it is possible to accurately associate each subject with subject information, interview information, finding information, subject images, and determination results, and it is possible to reduce the risk of mistaking the subject and these information.
  • the interview information is input during the input process of subject information, etc., but it is not limited to this timing, but may be performed during the imaging process. , or may be performed at any timing, such as during the determination process.
  • the inquiry information does not need to be input by the processing device 100, and may be input through a website, for example, in advance on a terminal device of the subject owned by the subject or during a series of processing steps.
  • the subject image is transmitted to the processing device 100, but only the image used as the determination image may be transmitted and outputted by the processing device 100. Further, in the example of FIG.
  • FIG. 8A is a diagram showing a processing flow executed by processing device 100 according to an embodiment of the present disclosure. Specifically, FIG. 8A is a diagram showing a processing flow executed in the new registration process of target person information in S11 and S12 of the input process of target person information etc. in FIG. 7. The processing flow is mainly performed by the processor 111 of the processing device 100 reading and executing a program stored in the memory 112. Note that although the first subject will be explained below as an example, the same process can be applied to other subjects as well.
  • the processor 111 accesses the server device 300 at predetermined intervals and receives target person information stored in the target person management table from the server device 300 (S111). Then, the processor 111 updates and outputs the target person list screen that could be output to the display via the output interface 114 based on the received target person information (S112). At this time, the first target person is not outputted to the target person list screen because the target person information has not yet been registered. Note that the reception of the target person information in S111 is not limited to the case where it is performed at predetermined intervals, and may be performed by receiving an instruction input from the operator.
  • FIG. 11A is a diagram showing an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 11A is a diagram showing an example of a target person list screen output from the processing device 100.
  • the target person list screen includes a list area 11 in which the received target person information is outputted one line for each target person.
  • each row includes status information, target person name information, target person ID information, and attribute information of each target person.
  • a line to which the target person information of the target person is output is displayed. Highlight and display.
  • a touch sensor is used as the input interface 113, by accepting an input of a tap operation on the name of a desired subject, the subject is selected as a processing target.
  • the above-mentioned highlight display is for notifying the target person information of the selected target person, it is sufficient if the selected target person can be identified, and of course notification may be performed by other methods.
  • the subject list screen includes an interview input icon 12, a diagnosis icon 13, and a new registration icon 14 at the bottom of the list area 11.
  • a mode corresponding to the selected icon is activated. That is, when the medical interview input icon 12 is selected, the mode shifts to the medical interview input mode, when the diagnosis icon 13 is selected, the mode shifts to the diagnosis mode, and when the new registration icon 14 is selected, the mode shifts to the medical interview input mode. Shift to new registration mode.
  • the processor 111 upon receiving the selection of the new registration icon 14 shown in FIG. 11A via the input interface 113 (S113), the processor 111 outputs a new registration screen to the display via the output interface 114.
  • FIG. 11B is a diagram showing an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 11B is a diagram showing an example of a new registration screen for a target person output from the processing device 100.
  • the target person ID information (Un) previously assigned to the newly registered target person is output on the new registration screen.
  • input boxes for inputting subject name information, gender information, and date of birth information required to be registered as subject information are output.
  • any input box is selected by the operator or the target person, it becomes possible to input desired characters or select information into the input box via the input interface 113.
  • a registration icon 15 and a cancel icon 16 are output at the bottom of each input box.
  • the target person information input in each input box is determined and sent to the server device 300.
  • the cancel icon 16 is accepted via the input interface 113, the new input of target person information is finished at this point, and the screen returns to the target person list screen again.
  • the processor 111 receives input of the subject information of the first subject shown in FIG. 11B via the input interface 113 (S114).
  • the processor 111 receives the selection of the registration icon 15 shown in FIG.
  • the information is transmitted to the device 300 (S115). Thereby, the processor 111 ends the process related to new registration of the target person information of the first target person.
  • FIG. 8B is a diagram showing a processing flow executed in the processing device 100 according to an embodiment of the present disclosure. Specifically, FIG. 8B is a diagram showing a processing flow executed in the input process of interview information in S13 of the process of inputting subject information etc. in FIG. 7. The processing flow is mainly performed by the processor 111 of the processing device 100 reading and executing a program stored in the memory 112. Note that although the first subject will be explained below as an example, the same process can be applied to other subjects as well.
  • the processor 111 receives, via the input interface 113, the selection of a desired subject (first subject) for whom the interview information is to be input on the subject list screen (S112 in FIG. 8A). S121).
  • the target person information of the first target person is included and displayed on the target person list screen.
  • the processor 111 highlights and displays the row of subject information of the first subject. Note that the display of the highlight above is for notifying the target person information of the selected first target person, so it is sufficient if the selected target person can be identified, and of course it is possible to notify by other methods. Good too.
  • the processor 111 shifts to the medical interview input mode and outputs a medical interview input screen to the display via the output interface 114 (S122). Note that a detailed explanation of the medical interview input screen will be omitted here.
  • the processor 111 receives input of interview information from the operator or the subject on the interview input screen via the input interface 113 (S123). Then, the processor 111 associates the input interview information with the subject ID information of the first subject and transmits it to the server device 300 via the communication interface 115 (S124). Thereby, the processor 111 ends the input process of the interview information of the first subject.
  • FIGS. 8A and 8B a case has been described in which input of subject information (S114) and input of medical interview information (S123) are received as separate processes. However, after new input of the subject's information on the subject is performed, the interview input screen for the subject may be displayed as is, and the input of the interview information may be accepted.
  • FIG. 8C is a diagram showing a processing flow executed in the processing device 100 according to an embodiment of the present disclosure. Specifically, FIG. 8C is a diagram showing a processing flow executed in the determination processing of S41 to S45 in FIG. 7. The processing flow is mainly performed by the processor 111 of the processing device 100 reading and executing a program stored in the memory 112. Note that although the first subject will be explained below as an example, the same process can be applied to other subjects as well.
  • the processor 111 receives, via the input interface 113, the selection of a desired subject (first subject) to perform determination on the subject list screen (S112 in FIG. 8A), and then 8B S121), upon receiving the selection of the diagnostic icon 13, the process shifts to the diagnostic mode and outputs a diagnostic screen (S131).
  • the processor 111 transmits a target person information request for the first target person to the server device 300 via the communication interface 115 along with the target person ID information of the first target person selected in S121 of FIG. 8B ( S132).
  • the processor 111 receives the target person information (attribute information) of the first subject from the server device 300 via the communication interface 115, the subject image, and the determination image in which the image to be used as the determination image is identified among the subject images.
  • a finding input screen is output to the display via the output interface 114, and input of finding information is accepted (S135).
  • FIG. 11C is a diagram showing an example of a screen displayed on the processing device 100 according to an embodiment of the present disclosure.
  • FIG. 11C is a diagram showing an example of the subject's findings input screen output from the processing device 100.
  • the finding input screen includes an image display area 31 for displaying the transmitted subject image along with the subject ID information of the subject whose findings are to be input.
  • the image display area 31 in addition to displaying the subject images photographed by the photographing device 200, a display 32 for specifying an image to be superimposed on each subject image and used as a determination image is displayed. .
  • This display 32 is given based on the judgment image information that specifies the image used as the judgment image, which was received in S134.
  • An operator such as a doctor can refer to the subject image displayed in the image display area 31 and determine findings regarding the subject.
  • all the subject images taken by the photographing device 200 may be displayed, or for example, the subject images may be displayed as the judgment images based on the judgment image information. Only a portion of the images may be displayed, excluding the identified portion of the images and defective images that are out of focus.
  • the finding input screen includes a finding input area 30 for an operator such as a doctor to input a finding.
  • the finding input area 30 judgment items of typical findings related to the disease to be judged and options for selecting the results of the judged findings are output.
  • An operator such as a doctor can input findings by selecting the results determined for these findings via the input interface 113.
  • a determination icon 28 and a cancel icon 29 are output at the bottom of the finding input area 30.
  • the input finding information is transmitted as finding information to the server device 300, and a process of determining the possibility of contracting a predetermined disease is executed.
  • the selection for the cancel icon 29 is accepted, the process ends at that point and returns to the subject list screen.
  • the processor 111 when the input of finding information is received on the finding input screen of FIG. is transmitted to the server device 300 (S136).
  • the processor 111 receives the determination result of the possibility of contracting a predetermined disease and the determination image used for the determination from the server device 300 (S137), the processor 111 displays the determination result and the determination image on the display via the output interface 114. The image is output (S138). Thereby, the processor 111 ends the first subject determination process.
  • FIG. 9A is a diagram showing a process flow executed by server device 300 according to an embodiment of the present disclosure. Specifically, FIG. 9A is a diagram showing a process flow executed in the photographing process of S22 to S29 of the input process of subject information etc. in FIG. The processing flow is mainly performed by the processor 312 of the server device 300 reading and executing a program stored in the memory 311. Note that although the first subject will be explained below as an example, the same process can be applied to other subjects as well.
  • the processor 312 when the processor 312 receives a subject information request from the photographing device 200 via the communication interface 313 (S211), the processor 312 refers to the status information of the subject management table in the memory 311, and indicates that no photographing has been performed as the status information.
  • the stored target person is searched and target person information of the target person is extracted (S212).
  • the processor 312 transmits subject information of subjects who have not yet been imaged, including the first subject, to the imaging device 200 via the communication interface 313 (S213).
  • the processor 312 waits until the subject image is received from the imaging device 200 via the communication interface 313, and upon receiving the subject image (S214), the processor 312 determines whether the received subject image is likely to be affected by a predetermined disease. It is determined whether the image is suitable for (S215). As an example of such a determination, it is conceivable to input a received subject image into a trained image selection model for determination as shown below and perform the determination. However, it is naturally possible to adopt not only this method but also any method such as a method of determining based on the degree of matching with an appropriate image prepared in advance by image analysis processing. Furthermore, when a plurality of images are received as subject images, it may be determined whether the image is suitable for each subject image. Furthermore, at this time, a score is calculated to determine whether the image is suitable for each subject image, and a predetermined number of images with the highest score are selected, or images with a score exceeding a predetermined threshold are selected. You can do it like this.
  • FIG. 9C is a diagram showing a processing flow related to generation of a trained model according to an embodiment of the present disclosure. Specifically, FIG. 9C is a diagram showing a processing flow related to generation of a trained image selection model for determination used in the determination process of S215 in FIG. 9A.
  • the processing flow may be executed by the processor 312 of the server device 300, or may be executed by a processor of another processing device.
  • the processor 312 executes the step of acquiring a subject image of a subject including at least a portion of the pharynx as a learning subject image (S241). Next, the processor 312 executes a processing step of adding label information to the acquired learning subject image to determine whether the image can be used as a determination image (S242). Then, the processor executes a step of storing the assigned label information in association with the learning subject image (S243). Note that in the labeling process and label information storage process, a human determines in advance whether or not the learning subject image is a determination image, and the processor 312 associates it with the learning subject image.
  • the processor 312 may perform a known image analysis process to analyze whether the image is a determination image and store the result in association with the learning subject image. Further, the label information is assigned based on viewpoints such as whether at least a part of the oral cavity of the subject is captured, and whether the image quality is good in terms of camera shake, defocus, cloudiness, etc.
  • the processor 312 executes a step of performing machine learning of the selection pattern of the determination images using them (S244).
  • machine learning for example, a set of a learning subject image and label information is fed to a neural network configured by combining neurons, and the parameters of each neuron are adjusted so that the output of the neural network is the same as the label information. This is done by repeating learning while making adjustments.
  • a step of acquiring a trained image selection model for determination (for example, a neural network and parameters) is executed (S245).
  • the acquired learned image selection model for determination may be stored in the memory 311 of the server device 300 or in another device connected to the server device 300 via a wired or wireless network.
  • the processor 312 inputs the received subject images to the trained image selection model for determination generated in FIG. 9C, and selects images suitable for determining the possibility of contracting a predetermined disease. It is determined whether or not (S215). Then, information specifying images that can be used to determine the possibility of disease is stored as determination image information in the image management table in association with the subject ID information of the first subject (S216). Although not particularly illustrated, the processor 312 refers to the subject management table and updates the status information associated with the subject ID information of the first subject to "photographed", Information indicating that a determination image has been obtained as a determination result is transmitted to the processing device 100 and the photographing device 200 via the communication interface 313 together with the subject ID information of the first subject.
  • the processor 312 transmits a notification to the imaging device 200 to prompt re-imaging.
  • discrimination processing is an important process for increasing the accuracy of determining the possibility of disease, but it does not necessarily need to be performed.
  • the determination result is transmitted to the imaging device 200, and an operation input from the operator is accepted to select whether or not to confirm the determination image. You can do it like this. That is, an image determined to be usable as a determination image is transmitted to the photographing device 200, a preview is displayed once, and the determination image is finalized by the server device 300 receiving the confirmation operation. You can also do this. Thereby, the processor 312 ends the photographing process.
  • the number of images for determination selected in this way may be one or multiple. However, as an example, it is preferable to finally obtain a group of about 5 images for determination from a group of about 5 to 30 subject images. This is because selecting a judgment image from among a large number of subject images increases the possibility that a better judgment image will be obtained. This is also because by using a plurality of groups of images for determination in the determination processing described later, the determination accuracy can be further improved compared to the case where only one image for determination is used. As another example, each time a subject image is captured, the captured subject image is transmitted to the processing device 100 and then the determination image is selected, or the imaging device 200 selects the determination image.
  • the photographing may be ended when a predetermined number of determination images (for example, about 5 images) have been obtained.
  • a predetermined number of determination images for example, about 5 images
  • FIG. 9B is a diagram showing a processing flow executed in the server device 300 according to an embodiment of the present disclosure. Specifically, FIG. 9B is a diagram showing a processing flow executed in the determination processing of S42 to S44 in the input processing of subject information etc. in FIG. 7. The processing flow is mainly performed by the processor 312 of the processing device 100 reading and executing a program stored in the memory 311. Note that although the first subject will be explained below as an example, the same process can be applied to other subjects as well.
  • the processor 312 when the processor 312 receives a target person information request for a desired target person (here, the first target person) from the processing device 100 via the communication interface 313 (S221), the processor 312 refers to the target person management table. Then, the attribute information of the first subject is acquired based on the subject ID information of the first subject, and the attribute information is associated with the subject ID information of the first subject by referring to the image management table. The image information for determination that specifies the image to be used as the image for determination among the subject images and the image for determination is acquired. The processor 312 transmits the acquired subject image and the like to the processing device 100 via the communication interface 313 together with the first subject's attribute information and subject ID information (S222).
  • the processor 312 receives from the processing device 100 via the communication interface 313 the subject ID information of the first subject, finding information input by an operator such as a doctor, and the possibility of contracting a predetermined disease.
  • a determination request is received (S223).
  • the processor 312 associates the received finding information with the subject ID information and stores it in the subject management table (S224).
  • the processor 312 refers to the subject management table and reads out finding information and interview information associated with the subject ID information of the first subject.
  • the processor 312 refers to the image management table and reads out the determination image based on the determination image information associated with the subject ID information of the first subject.
  • the processor 312 executes determination processing based on the read information (S225).
  • FIG. 9D is a diagram showing a processing flow related to generation of a trained model according to an embodiment of the present disclosure. Specifically, FIG. 9D is a diagram showing a processing flow related to generation of a learned determination model used in the determination process of S245 in FIG. 9A.
  • the processing flow may be executed by the processor 312 of the server device 300, or may be executed by a processor of another processing device.
  • the processor 312 executes the step of acquiring a determination image selected from images of a subject that includes at least a portion of the pharynx (S261). Furthermore, the processor 312 executes a step of acquiring interview information and finding information that are stored in advance in association with the subject ID information of the subject who is the subject of the determination image (S261). Next, the processor 312 performs a process of attaching a correct label to the subject of the determination image based on the results of a rapid influenza test using immunochromatography, a PCR test, a virus isolation culture test, etc. The step is executed (S262).
  • the processor 312 executes a step of storing the assigned correct label information as determination result information in association with the determination image, interview information, and finding information (S263). Note that although the determination image itself is used here, feature amounts obtained from the determination image may be used.
  • the processor executes a step of performing machine learning of a pattern for determining the prevalence of the disease using them (S264).
  • this machine learning method provides a set of information to a neural network that combines neurons, and learns while adjusting the parameters of each neuron so that the output from the neural network is the same as the correct label information. This is done by repeating.
  • a step of acquiring a learned judgment model is executed (S265).
  • the acquired learned determination model may be stored in the memory 311 of the server device 300 or in another device connected to the server device 300 via a wired or wireless network.
  • the processor 312 inputs the first subject's observation information, interview information, and determination image into the learned determination model generated in FIG. 9D to estimate the possibility of contracting a predetermined disease.
  • a determination is made (S225).
  • the determination result information is stored in the subject management table based on the subject ID information of the first subject, and the status information is updated to "determined”.
  • the processor 312 sends the determination result information stored in the target person management table and the determination image used for the determination to the processing device 100 via the communication interface 313 together with the target person ID information of the first target person. Send (S226). Thereby, the processor 312 ends the determination process.
  • FIG. 10 is a diagram showing a process flow executed by photographing device 200 according to an embodiment of the present disclosure. Specifically, FIG. 10 is a diagram showing a process flow executed in the photographing process of S21 to S30 of the input process of subject information, etc. in FIG. The processing flow is mainly performed by the processor 213 of the photographing device 200 reading and executing a program stored in the memory 214. Note that although the first subject will be explained below as an example, the same process can be applied to other subjects as well.
  • the processor 213 transmits a subject information request to the server device 300 via the communication interface 216 (S311). Then, the processor 213 receives, via the communication interface 216, the subject information of the subject who has not been photographed and has been extracted by the server device 300 (S312). When the processor 213 receives the subject information of the subject who has not been photographed, the processor 213 outputs the received subject information to the display via the output interface 215 (S313).
  • FIGS. 12A and 12B are diagrams showing examples of screens displayed on the photographing device 200 according to an embodiment of the present disclosure.
  • FIG. 12A shows an example of a screen displayed before the target person information of the first target person is newly registered and stored in the target person management table of the server device 300.
  • FIG. 12B shows an example of a screen displayed after the target person information of the first target person is newly registered and stored in the target person management table of the server device 300.
  • the unphotographed subject list screen includes a subject list area 17 in which subject information of unphotographed subjects transmitted from the server device 300 is arranged in a list format row by row.
  • the subject list area 17 includes, for each subject, subject name information and time information (not shown in FIG. 6A, but stored as one of the attribute information) indicating the time of new registration.
  • FIG. 12A shows an example of a screen that is output before the target person information of the first target person is newly registered and stored in the target person management table of the server device 300 as described above. Therefore, the subject information (subject name information: N1, registration time information: T1) of the first subject is not output on the unphotographed subject list screen.
  • FIG. 12B a screen showing a list of subjects who have not been photographed, similar to that shown in FIG. 12A, is output.
  • FIG. 12B shows an example of a screen that is output after the target person information of the first target person is newly registered and stored in the target person management table of the server device 300 as described above. Therefore, by receiving the target person information of the first target person in S312 of FIG.
  • the target person information (target person name information: N1, registration time information: T1) will be output.
  • each target person information is arranged from the top in order of registration time, but the information is not limited to this, and it is possible to arrange it in various orders such as in order of earliest registration time or in order of name.
  • the subjects who have not been photographed are displayed as a list, but for example, the screens displaying the subject information for each subject who has not been photographed (or for each predetermined number of subjects) can be sequentially switched. The information may be displayed and the selection may be accepted when the desired target person is displayed.
  • the processor 213 receives a selection of a desired subject to be photographed via the input interface 210 on the unphotographed subject list screen displayed in S313 (S314). For example, on the screen of FIG. 12A or 12B, by performing a tap operation on the subject name information of the desired subject to be photographed on the unphotographed subject list screen, the subject to be photographed can be selected. selected. When a target person is selected, the processor 213 outputs the attribute information of the selected target person to the display via the output interface 215.
  • FIG. 12C is a diagram showing an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12C is a diagram showing an example of the attribute information display screen displayed when the first target person is selected in S314 of FIG. 10.
  • the attribute information display screen includes an attribute display area 18.
  • the attribute display area 18 in addition to the subject ID information of the first subject, gender information and date of birth information are displayed as the attribute information of the first subject received from the server device 300. This allows the operator to check the detailed information of the first target person, and by verifying the identity of the target person based on the information displayed here, it is possible to avoid the possibility of mistaken identity. It is possible to reduce this. In other words, it is possible to reliably associate the subject image of the subject to be photographed later with the subject ID information of the first subject.
  • a "shooting icon 19" and a "back icon 20" are output at the bottom of the attribute display area 18.
  • the camera 211 is activated and the process moves to photographing the subject.
  • the screen returns to the list of subjects who have not yet been photographed.
  • the processor 213 determines whether or not the auxiliary tool 400 is normally attached to the imaging device 200, and if it is determined that the auxiliary tool 400 is not attached, the processor 213 causes the auxiliary tool 400 to be attached.
  • a wearing display is output to prompt the wearer (S315). Note that such a determination may be made using any method; for example, a method of detecting that a predetermined switch is turned on when the assistive device 400 is attached; Examples include a method of detecting the presence or absence of a pattern unique to a photographed image, or a combination thereof. Further, in S315, it is determined whether the auxiliary tool 400 is attached, but the process itself may be skipped.
  • a confirmation display for the operator to confirm that the auxiliary device 400 is attached is output via the output interface 215, and the operator inputs a predetermined operation in response to the confirmation display (e.g. , tap operation, etc.), the operator himself/herself may be able to input that he or she has worn the auxiliary tool 400.
  • FIG. 12D is a diagram showing an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12D is a diagram showing an example of the mounting display screen displayed in S315 of FIG. 10.
  • the wearing display screen includes an image simulating the assistive tool 400 and the photographing device 200 along with a display prompting the user to wear the assistive tool 400 "Please wear the assistive tool".
  • the screen may change so that both images imitating the assistive device 400 and the photographing device 200 gradually approach each other over time, allowing the operator to more intuitively prompt the operator to wear the assistive device 400.
  • a "return icon 21" is output on the screen, it is possible to return to the attribute information display screen by accepting a selection for the icon.
  • the processor 213 Photographing is started using the inside of the oral cavity as a subject (S316). Specifically, photography is performed by turning on the light source 212 to irradiate the subject with light, and detecting reflected light from the subject, such as the pharynx, with the camera 211.
  • FIG. 12E is a diagram showing an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure.
  • FIG. 12E is a diagram showing an example of the photographic screen output in S316 of FIG. 10.
  • the photographing screen includes a through image area 32, and the current subject image detected by the camera 211 is output to the through image area 32 (the specific image is not shown).
  • a guide 22 drawn to follow the general shape of the pharynx, which is the subject is superimposed on the through-the-lens image and output to the through-the-lens image area 32 .
  • By superimposing such a guide 22 on the through image and outputting it it becomes possible to adjust the horizontal position and depth direction size of the currently photographed subject with reference to the guide 22.
  • a shooting icon 23 and a return icon 24 are output at the bottom of the through image area 32.
  • the photographing icon 23 By accepting an operation input to the photographing icon 23 via the input interface 210, it starts to capture an image photographed by the camera 211 as a subject image as a still image or a moving image.
  • the operation input to the shooting icon 23 is an example of starting shooting, and may be started by other methods, such as detecting that a shooting button is pressed, for example.
  • the return icon 24 via the input interface 210 it is possible to return to the attribute display screen.
  • the processor 213 transfers the photographed subject images to the first subject's image via the communication interface 216. It is transmitted to the server device 300 together with the target person ID information (S317). The processor 213 waits until the determination result of the subject image is received from the server device 300, and upon receiving information indicating that an image suitable for determining the possibility of disease has been acquired, the processor 213 outputs the result via the output interface 215. and outputs it to the display (S318).
  • FIG. 12F is a diagram showing an example of a screen displayed on the imaging device 200 according to an embodiment of the present disclosure. Specifically, FIG. 12F is a diagram showing an example of the determination result screen output in S318 of FIG. 10.
  • the determination result screen includes a preview area 25 of the determination image.
  • the preview area 25 the subject image selected as the determination image as a result of the determination by the server device 300 is output to the operator. The operator can check the judgment image output to the preview area 25 and select whether to take the image again or to confirm with the judgment image.
  • information indicating the determination result by the server device 300 is displayed at the bottom of the preview area 25.
  • “good” is displayed, indicating that a determination image suitable for determining the possibility of contracting a predetermined disease has been obtained. This allows the operator to confirm that a subject image that can be used for determination has been captured.
  • a reshoot icon 26 and a confirmation icon 27 are output at the bottom of the information indicating the determination result.
  • the processor 213 Upon receiving the selection of the re-photographing icon 26 via the input interface 210, the processor 213 transmits information to the server device 300 to re-photograph, activates the camera 211, and returns to the photographing process in S316 again.
  • the processor 213 upon receiving the selection of the confirmation icon 27 via the input interface 210, the processor 213 transmits information to the server device 300 indicating that the determination image has been confirmed.
  • FIG. 12F describes a case where the discrimination result and the preview area 25 of the determination image are displayed together on the discrimination result screen.
  • the present invention is not limited to this, and the preview area 25 of the determination result and the determination image may be displayed on separate screens, and may be switched and displayed by the operator's switching operation.
  • the processor 213 sends a notification to the server device 300 via the communication interface 216 that the confirmation operation has been performed. Then, the processor 213 receives the subject information of the subjects who have not yet been photographed again via the communication interface 216, and updates and outputs the subject information of the subjects who have not yet been photographed on the display via the output interface 215 (S320). .
  • the status information of the first subject is "photographed"
  • a photographing device As described above, in this embodiment, it is possible to provide a photographing device, a program, and a method that are more suitable for photographing an image of a subject that includes at least a portion of a subject's oral cavity.
  • the interview information and finding information are input in advance by the operator or the subject, or are received from an electronic medical record device or the like connected to a wired or wireless network.
  • this information may be obtained from a photographed subject image.
  • Finding information and interview information associated with the learning subject image are given as correct labels to the learning subject image, and a learned information estimation model is obtained by machine learning these sets using a neural network.
  • the processor 111 inputs the subject image to the learned information estimation model, thereby obtaining desired interview information and attribute information.
  • interview information and attribute information include gender, age, degree of redness of the throat, degree of swelling of tonsils, presence or absence of white moss, and the like. This saves the operator the trouble of inputting medical interview information and finding information.
  • Each trained model described in the above embodiments was generated using a neural network or a convolutional neural network.
  • the information is not limited to these, and it is also possible to generate it using machine learning such as the nearest neighbor method, decision tree, regression tree, and random forest.
  • the server device 300 performs the determination process and the determination process on the determination image.
  • these various processes can be appropriately distributed and processed by the processing device 100, the photographing device 200, other devices (including a cloud server device, etc.), and the like.
  • the processes and procedures described herein can be implemented not only by what is explicitly described in the embodiments, but also by software, hardware, or a combination thereof. Specifically, the processes and procedures described in this specification can be realized by implementing logic corresponding to the processes in a medium such as an integrated circuit, volatile memory, nonvolatile memory, magnetic disk, or optical storage. be done. Further, the processes and procedures described in this specification can be implemented as a computer program and executed by various computers including processing devices and server devices.
  • processing system 100 processing device 200 imaging device 300 server device 400 auxiliary tool 600 operator 700 target person

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】 対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するのにより適した撮影装置を提供する。 【解決手段】 少なくとも一つのプロセッサが、撮影装置とネットワークを介して通信可能に接続された外部装置から通信インターフェイスを介して前記第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信し、一又は複数の対象者のうち未撮影の対象者について対象者情報を一覧として出力する場合に、外部装置において第1の対象者に関連付けられた第1の対象者情報が登録される前は一覧に前記第1の対象者情報を含むことなく出力し、外部装置において第1の対象者情報が登録された後は一覧に第1の対象者情報を含めて出力するための処理をするように構成された、撮影装置が提供される。

Description

撮影装置、プログラム及び方法
 本開示は、被写体の画像を撮影するように構成されたカメラを含む撮影装置、プログラム及び方法に関する。
 従来より、医者によって、対象者の口腔の状態の変化を観察して、例えばウイルス性の風邪などの診断をすることが知られていた。非特許文献1は、口腔内に位置する咽頭の最深部に出現するリンパ濾胞にはインフルエンザに特有のパターンがあることを報告している。この特有のパターンを有するリンパ濾胞はインフルエンザ濾胞と呼ばれ、インフルエンザに特徴的なサインであって、発症後2時間程度で出現するとされる。そのため、対象者の口腔の状態を撮影した画像を取得することは非常に重要である。
宮本・渡辺著「咽頭の診察所見(インフルエンザ濾胞)の意味と価値の考察」日大医誌72(1):11~18(2013)
 そこで、上記のような技術を踏まえ、本開示では、様々な実施形態により、対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するのにより適した撮影装置、プログラム及び方法を提供することを目的とする。
 本開示の一態様によれば、「第1の対象者を含む一又は複数の対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するように構成されたカメラと、少なくとも一つのプロセッサとを含む撮影装置であって、前記少なくとも一つのプロセッサが、前記撮影装置とネットワークを介して通信可能に接続された外部装置から通信インターフェイスを介して前記第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信し、前記一又は複数の対象者のうち未撮影の対象者について前記対象者情報を一覧として出力する場合に、前記外部装置において前記第1の対象者に関連付けられた第1の対象者情報が登録される前は前記一覧に前記第1の対象者情報を含むことなく出力し、前記外部装置において前記第1の対象者情報が登録された後は前記一覧に前記第1の対象者情報を含めて出力する、ための処理をするように構成された、撮影装置」が提供される。
 本開示の一態様によれば、「第1の対象者を含む一又は複数の対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するように構成されたカメラを含む撮影装置を、前記撮影装置とネットワークを介して通信可能に接続された外部装置から通信インターフェイスを介して前記第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信し、前記一又は複数の対象者のうち未撮影の対象者について前記対象者情報を一覧として出力する場合に、前記外部装置において前記第1の対象者に関連付けられた第1の対象者情報が登録される前は前記一覧に前記第1の対象者情報を含むことなく出力し、前記外部装置において前記第1の対象者情報が登録された後は前記一覧に前記第1の対象者情報を含めて出力する、ためのプロセッサとして機能させるプログラム」が提供される。
 本開示の一態様によれば、「第1の対象者を含む一又は複数の対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するように構成されたカメラと少なくとも一つのプロセッサとを含む撮影装置において、前記少なくとも一つのプロセッサにより実行される方法であって、前記撮影装置とネットワークを介して通信可能に接続された外部装置から通信インターフェイスを介して前記第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信する段階と、前記一又は複数の対象者のうち未撮影の対象者について前記対象者情報を一覧として出力する場合に、前記外部装置において前記第1の対象者に関連付けられた第1の対象者情報が登録される前は前記一覧に前記第1の対象者情報を含むことなく出力し、前記外部装置において前記第1の対象者情報が登録された後は前記一覧に前記第1の対象者情報を含めて出力する段階と、を含む方法」が提供される。
 本開示によれば、対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するのにより適した撮影装置、プログラム及び方法を提供することができる。
 なお、上記効果は説明の便宜のための例示的なものであるにすぎず、限定的なものではない。上記効果に加えて、又は上記効果に代えて、本開示中に記載されたいかなる効果や当業者であれば明らかな効果を奏することも可能である。
図1は、本開示の一実施形態に係る撮影装置200の使用状態を示す図である。 図2は、本開示の一実施形態に係る撮影装置200の使用状態を示す図である。 図3は、本開示の一実施形態に係る処理システム1の構成を示すブロック図である。 図4は、本開示の一実施形態に係る処理装置100及び撮影装置200の構成を示すブロック図である。 図5は、本開示の一実施形態に係るサーバ装置300の構成を示すブロック図である。 図6Aは、本開示の一実施形態に係るサーバ装置300に記憶される対象者管理テーブルを概念的に示す図である。 図6Bは、本開示の一実施形態に係るサーバ装置300に記憶される画像管理テーブルを概念的に示す図である。 図7は、本開示の一実施形態に係る処理装置100、撮影装置200及びサーバ装置300との間で実行される処理シーケンスを示す図である。 図8Aは、本開示の一実施形態に係る処理装置100において実行される処理フローを示す図である。 図8Bは、本開示の一実施形態に係る処理装置100において実行される処理フローを示す図である。 図8Cは、本開示の一実施形態に係る処理装置100において実行される処理フローを示す図である。 図9Aは、本開示の一実施形態に係るサーバ装置300において実行される処理フローを示す図である。 図9Bは、本開示の一実施形態に係るサーバ装置300において実行される処理フローを示す図である。 図9Cは、本開示の一実施形態に係る学習済みモデルの生成に係る処理フローを示す図である。 図9Dは、本開示の一実施形態に係る学習済みモデルの生成に係る処理フローを示す図である。 図10は、本開示の一実施形態に係る撮影装置200において実行される処理フローを示す図である。 図11Aは、本開示の一実施形態に係る処理装置100に表示される画面の例を示す図である。 図11Bは、本開示の一実施形態に係る処理装置100に表示される画面の例を示す図である。 図11Cは、本開示の一実施形態に係る処理装置100に表示される画面の例を示す図である。 図12Aは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。 図12Bは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。 図12Cは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。 図12Dは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。 図12Eは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。 図12Fは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。
 
<第1実施形態>
1.処理システム1の概要
 本開示に係る処理システム1は、主に対象者の口腔の内部を撮影し被写体画像を得るために用いられる。特に、当該処理システム1は、口腔の喉奥周辺、具体的には咽頭を撮影するために用いられる。したがって、以下においては、本開示に係る処理システム1を咽頭の撮影に用いた場合について主に説明する。ただし、咽頭は撮影部位の一例であって、当然に、扁桃や喉頭などの口腔内の他の部位や、外耳道、膣、直腸、鼻腔などの他の自然開口部であっても、本開示に係る処理システム1を好適に用いることができる。
 本開示に係る処理システム1は、一例としては、対象者の口腔の少なくとも咽頭領域が含まれた被写体を撮影して得られた被写体画像から、所定の疾患に対する罹患の可能性を判定し、所定の疾患に対する診断又はその補助をするために用いられる。処理システム1によって判定される疾患の一例としては、インフルエンザが挙げられる。通常、インフルエンザの罹患の可能性は、対象者の咽頭や扁桃領域を診察したり、咽頭領域に濾胞などの所見の有無を判断することによって診断される。しかし、処理システム1を用いてインフルエンザに対する罹患の可能性を判定しその結果を出力することで、その診断又は補助をすることが可能となる。なお、インフルエンザの罹患の可能性の判定は一例である。処理システム1は、罹患することによって自然開口部の所見に差が現れる疾患の判定であれば、いずれであっても好適に用いることができる。なお、所見の差とは、医師等により発見されかつ医学的にその存在が既知となっているものに限らない。例えば、医師以外の者によって認識され得る差や、人工知能や画像認識技術によってその検出が可能な差であれば、処理システム1に対して好適に適用することが可能である。
 そのような疾患の一例としては、自然開口部のうち主に口腔、咽頭、喉頭等の画像から判定される疾患としては、上記のインフルエンザのほかに、溶連菌感染症、アデノウイルス感染症、EBウイルス感染症、マイコプラズマ感染症、手足口病、ヘルパンギーナ、カンジダ症などの感染症、動脈硬化、糖尿病、高血圧症などの血管障害または粘膜障害を呈する疾病、口腔癌、舌癌、咽頭癌などの腫瘍、外傷等が挙げられる。また、自然開口部のうち外耳道の画像から判断される疾患としては、中耳癌、聴器癌などの腫瘍、中耳炎・鼓膜炎などの炎症、鼓膜穿孔などの鼓膜疾患、外傷等が挙げられる。また、自然開口部のうち鼻腔の画像から判断される疾患としては、鼻炎などの炎症、副鼻腔炎などの感染症、鼻腔癌などの腫瘍、外傷、鼻出血、多発血管炎性肉芽腫症など血管障害または粘膜障害を呈する疾病等が挙げられる。また、自然開口部のうち膣の画像から判断される疾患としては、子宮頸癌などの腫瘍、シェーグレン症候群など乾燥を呈する疾病、膣部びらんなど粘膜障害や出血を呈する疾患、外傷、膣炎などの炎症、膣カンジダなどの感染症、ベーチェット病など潰瘍や皮膚病変を呈する疾病等が挙げられる。また、自然開口部のうち直腸の画像から判断される疾患としては、直腸癌などの腫瘍、潰瘍性大腸炎など粘膜障害や出血を来す疾病、腸炎など感染症、外傷等が挙げられる。
 なお、本開示において、疾患に対する「判定」や「診断」等の用語を用いるが、これらは医師による確定的な判定又は診断を必ずしも意味するものではない。例えば、本開示の処理システム1を対象者自らが使用したり、医師以外の操作者が使用したりして、処理システム1に含まれる処理装置100によって判定又は診断されることも当然に含みうる。
 また、本開示において、撮影装置200による撮影の対象となる対象者は、患者、被検者、診断対象者、健常者など、あらゆるヒトを含みうる。また、本開示において撮影装置200を保持して撮影の操作を行う操作者は、医師、看護師、検査技師などの医療従事者に限らず、対象者自身などあらゆるヒトを含みうる。本開示に係る処理システム1は、典型的には医療機関で使用されることが想定される。しかし、この場合に限らず、例えば対象者の自宅や学校、職場など、その使用場所はいずれでもよい。
 また、本開示においては、上記のとおり、被写体としては対象者の自然開口部の少なくとも一部が含まれていればよい。また、判定される疾患も被写体である自然開口部において所見に差が現れる疾患であればいずれでもよい。しかし、以下においては、被写体として口腔内の少なくとも一部、特に咽頭又は咽頭周辺を含み、疾患としてインフルエンザに対する罹患の可能性を判定する場合について説明する。
 また、本開示においては、被写体画像は、一又は複数の動画であってもよいし一又は複数の静止画であってもよい。動作の一例としては、電源ボタンが押下されると、カメラによるスルー画像の取り込みを行い、取り込まれたスルー画像がディスプレイ203に表示される。その後、操作者によって撮影ボタンが押下されると、一又は複数の静止画像がカメラによって撮影され、撮影された画像をディスプレイ203に表示する。又は、対象者によって撮影ボタンが押下されると、動画の撮影が開始され、その間カメラで撮影されている画像がディスプレイ203に表示される。そして、再度撮影ボタンが押下されると動画の撮影が終了される。このように、一連の動作において、スルー画像や静止画、動画など様々な画像がカメラによって撮影され、ディスプレイに表示されるが、被写体画像はこれらのうちの特定の画像のみを意味するのではなく、カメラで撮影された画像の全てを含みうる。
 図1は、本開示の一実施形態に係る撮影装置200の使用状態を示す図である。図1によれば、操作者は、撮影装置200の先端に補助具400を被覆するように装着し、補助具400とともに撮影装置200を対象者700の口腔712に挿入する。具体的には、まず、操作者(対象者700自らの場合もあれば対象者700とは異なるものの場合もある)が撮影装置200の先端に、補助具400を被覆するように装着する。そして、操作者は、補助具400が装着された撮影装置200を、口腔712内に挿入する。このとき補助具400の先端は、門歯711を通過して軟口蓋713近辺まで挿入される。つまり、撮影装置200も同様に軟口蓋713近辺まで挿入される。このとき、補助具400(舌圧子として機能する。)によって、舌714が下方へ押しやられ舌714の動きが制限される。これによって、操作者は、撮影装置200の良好な視野を確保して、撮影装置200の前方に位置する咽頭715の良好な撮影が可能となる。
 撮影された被写体画像(典型的には、咽頭715を含む画像)は、撮影装置200から有線又は無線ネットワークで通信可能に接続されたサーバ装置300に送信される。被写体画像を受信したサーバ装置300のプロセッサがメモリに記憶されたプログラムを処理することによって、被写体画像の所定の疾患に対する罹患の可能性の判定に適した画像か否かが判別され、被写体画像から所定の疾患に対する罹患の可能性が判定される。そして、結果が処理装置100に送信され、処理装置100の出力インターフェイスを介してディスプレイなどに出力される。
 図2は、本開示の一実施形態に係る撮影装置200の使用状態を示す図である。具体的には、図2は、操作者600が撮影装置200を把持した状態を示す図である。図2によれば、撮影装置200は、口腔内に挿入される側から、本体201、グリップ202及びディスプレイ203により構成される。本体201及びグリップ202は、口腔への挿入方向Hに沿って所定長の略柱状に形成される。また、ディスプレイ203は、グリップ202の本体201側とは反対側に配置される。そのため、撮影装置200は、全体として略柱状に形成されており、鉛筆を把持するような持ち方をすることによって、操作者600に把持される。つまり、使用状態においてディスプレイ203の表示パネルが操作者600自身の方向を向くため、撮影装置200によって撮影された被写体画像をリアルタイムで確認しながら撮影装置200を容易に取り扱うことが可能である。
 また、ディスプレイ203に被写体画像が通常の向きに表示される向きで操作者600がグリップ202を把持するとき、撮影ボタン220がグリップの上面側に配置されるように構成されている。そのため、操作者600が把持したときに、操作者600が撮影ボタン220を人差し指等で容易に押下可能になっている。
2.処理システム1の構成
 図3は、本開示の一実施形態に係る処理システム1の概略図である。図3によれば、処理システム1は、処理装置100と、撮影装置200と、サーバ装置300とを含み、各装置が有線又は無線ネットワークを介して通信可能に接続されている。処理装置100は、対象者情報、問診情報、所見情報等の入力を行う。また、処理装置100は、撮影装置200により撮影された被写体画像を出力する。さらに、処理装置100は、撮影装置200で撮影された被写体の画像に基づいて所定の疾患の罹患の可能性を判定した結果を、サーバ装置300から受信して出力する。
 撮影装置200は、その先端が対象者の口腔内に挿入されて、口腔内、特に咽頭を撮影する。その具体的な撮影処理については、後述する。撮影された被写体画像は、有線又は無線ネットワークを介してサーバ装置300へ送信される。
 サーバ装置300は、処理装置100において入力された対象者情報、問診情報、診断情報等を受信し管理するとともに、撮影装置200において撮影された被写体の画像を受信し管理する。また、サーバ装置300は、受信した被写体の画像について、その後の処理に適切な画像であるか否かを判別しその結果を撮影装置200に送信するとともに、被写体画像、問診情報及び所見情報に基づいて所定の疾患に対する罹患の可能性を判定してその結果を処理装置100に送信する。
 なお、本開示において、外部装置は処理装置100や他の処理装置、サーバ装置300や他のサーバ装置、又はそれらの組み合わせを意味する。すなわち、特に断りのない限り、外部装置は、処理装置100、サーバ装置300及びそれらの組み合わせのいずれをも含みうる。
 図4は、本開示の一実施形態に係る処理装置100及び撮影装置200の構成を示すブロック図である。具体的には、図4は、システム1のうち、処理装置100及び撮影装置200の構成を具体的に示した図である。図4によると、処理装置100は、プロセッサ111、メモリ112、入力インターフェイス113、出力インターフェイス114及び通信インターフェイス115を含む。また、撮影装置200は、カメラ211、光源212、プロセッサ213、メモリ214、出力インターフェイス215、入力インターフェイス210及び通信インターフェイス216を含む。これらの各構成要素は、互いに、制御ライン及びデータラインを介して互いに電気的に接続される。なお、処理装置100及び撮影装置200は、図4に示す構成要素のすべてを備える必要はなく、一部を省略して構成することも可能であるし、他の構成要素を加えることも可能である。例えば、処理装置100又は撮影装置200は、各構成要素を駆動するためのバッテリ等を含むことが可能である。なお、処理装置100及び撮影装置200は、図3で説明した通り、有線又は無線ネットワークを通じて通信可能に接続されていれば良く、両者が直接通信可能に構成される必要はない。
2-1.処理装置100の構成
 まず、処理装置100のうち、プロセッサ111は、メモリ112に記憶されたプログラムに基づいて処理システム1の他の構成要素の制御を行う制御部として機能する。プロセッサ111は、メモリ112に記憶されたプログラムに基づいて、対象者情報、問診情報、所見情報等の入力や、撮影装置200により撮影された被写体画像の出力や、所定の疾患の罹患の可能性の判定結果の出力に係る処理を実行する。具体的には、プロセッサ111は、「入力インターフェイス113を介して、操作者による対象者に関連する対象者情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた対象者情報をサーバ装置300に送信する処理」、「入力インターフェイス113を介して、操作者又は対象者による対象者の問診情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた問診情報を対象者情報と共にサーバ装置300に送信する処理」、「入力インターフェイス113を介して、操作者による対象者に関連する対象者情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた対象者情報をサーバ装置300に送信する処理」、「入力インターフェイス113を介して、操作者による対象者の所見情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた所見情報を対象者情報と共にサーバ装置300に送信する処理」、「通信インターフェイス115を介して、サーバ装置300から対象者の被写体画像等に基づいて判定された所定の疾患に対する罹患の可能性を示す判定結果と被写体画像を受信し、当該判定結果と被写体画像とを共に出力インターフェイス114を介して出力する処理」等を、メモリ112に記憶されたプログラムに基づいて実行する。プロセッサ111は、主に一又は複数のCPUにより構成されるが、適宜GPUやFPGAなどを組み合わせてもよい。
 メモリ112は、RAM、ROM、不揮発性メモリ、HDD等から構成され、記憶部として機能する。メモリ112は、本実施形態に係る処理システム1の様々な制御のための指示命令をプログラムとして記憶する。具体的には、メモリ112は、「入力インターフェイス113を介して、操作者による対象者に関連する対象者情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた対象者情報をサーバ装置300に送信する処理」、「入力インターフェイス113を介して、操作者又は対象者による対象者の問診情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた問診情報を対象者情報と共にサーバ装置300に送信する処理」、「入力インターフェイス113を介して、操作者による対象者に関連する対象者情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた対象者情報をサーバ装置300に送信する処理」、「入力インターフェイス113を介して、操作者による対象者の所見情報の入力を受け付ける処理」、「通信インターフェイス115を介して、受け付けられた所見情報を対象者情報と共にサーバ装置300に送信する処理」、「通信インターフェイス115を介して、サーバ装置300から対象者の被写体画像等に基づいて判定された所定の疾患に対する罹患の可能性を示す判定結果と被写体画像を受信し、当該判定結果と被写体画像とを共に出力インターフェイス114を介して出力する処理」等、プロセッサ111が実行するためのプログラムを記憶する。また、メモリ112は、当該プログラムのほかに、対象者の対象者情報、被写体画像、問診情報、所見情報等を記憶する。
 入力インターフェイス113は、処理装置100に対する操作者の指示入力を受け付ける入力部として機能する。入力インターフェイス113の一例としては、各種選択を行うための「確定ボタン」、前画面に戻ったり入力した確定操作をキャンセルするための「戻る/キャンセルボタン」、出力インターフェイス114に出力されたポインタ等の移動をするための十字キーボタン、処理装置100の電源のオンオフをするためのオン・オフキー、様々な文字を入力するための文字入力キーボタン等の物理キーボタンが挙げられる。なお、入力インターフェイス113には、出力インターフェイス114として機能するディスプレイに重畳して設けられ、ディスプレイの表示座標系に対応する入力座標系を有するタッチパネルを用いることも可能である。この場合、ディスプレイに上記物理キーに対応するアイコンが表示され、タッチパネルを介して操作者が指示入力を行うことで、各アイコンに対する選択が行われる。タッチパネルによる対象者の指示入力の検出方式は、静電容量式、抵抗膜式などいかなる方式であってもよい。また、上記以外にも、マウスやキーボード等も入力インターフェイス113として用いることが可能である。入力インターフェイス113は、常に処理装置100に物理的に備えられる必要はなく、有線や無線ネットワークを介して必要に応じて接続されてもよい。
 出力インターフェイス114は、サーバ装置300から受信した判定結果等の情報を出力するための出力部として機能する。出力インターフェイス114の一例としては、液晶パネル、有機ELディスプレイ又はプラズマディスプレイ等から構成されるディスプレイが挙げられる。しかし、必ずしも処理装置100そのものにディスプレイが備えられている必要はない。例えば、有線又は無線ネットワークを介して処理装置100と接続可能なディスプレイ等と接続するためのインターフェイスが、当該ディスプレイ等に表示データを出力する出力インターフェイス114として機能することも可能である。
 通信インターフェイス115は、有線又は無線ネットワークを介して接続されたサーバ装置300との間で対象者情報、問診情報、被写体画像、所見情報等を送受信したりするための通信部として機能する。通信インターフェイス115の一例としては、USB、SCSIなどの有線通信用コネクタや、無線LAN、Bluetooth(登録商標)、赤外線などの無線通信用送受信デバイスや、プリント実装基板やフレキシブル実装基板用の各種接続端子など、様々なものが挙げられる。
2-2.撮影装置200の構成
 撮影装置200のうち、カメラ211は、被写体である口腔に反射した反射光を検出して被写体画像を生成する撮影部として機能する。カメラ211は、その光を検出するために、一例としてCMOSイメージセンサと、所望の機能を実現するためのレンズ系と駆動系を備える。イメージセンサは、CMOSイメージセンサに限らず、CCDイメージセンサ等の他のセンサを用いることも可能である。カメラ211は、特に図示はしないが、オートフォーカス機能を有することができ、例えばレンズの正面に焦点が特定部位に合うように設定されていることが好ましい。また、カメラ211は、ズーム機能を有することができ、咽頭又はインフルエンザ濾胞のサイズに応じて適切な倍率で撮影するように設定されていることが好ましい。
 ここで、口腔内に位置する咽頭の最深部に出現するリンパ濾胞にはインフルエンザに特有のパターンがあることが知られている。この特有のパターンを有するリンパ濾胞はインフルエンザ濾胞と呼ばれ、インフルエンザに特徴的なサインであって、発症後2時間程度で出現するとされる。上記のとおり、本実施形態の処理システム1は、例えば口腔の咽頭を撮影して、上記濾胞を検出することにより、対象者のインフルエンザへの罹患の可能性を判定するために用いられる。そのため、撮影装置200が口腔へ挿入されると、カメラ211と被写体との距離が比較的近くなる。したがって、カメラ211は、[(カメラ211の先端部から咽頭後壁までの距離)*tanθ]によって算出される値が垂直20mm以上及び水平40mm以上となる画角(2θ)を有するのが好ましい。このような画角を有するカメラを用いることによって、カメラ211と被写体とが近接していたとしても、より広範な範囲の撮影が可能となる。すなわち、カメラ211は、通常のカメラを用いることも可能であるが、いわゆる広角カメラや超広角カメラと呼ばれるカメラを用いることも可能である。
 また、本実施形態において、カメラ211によって撮影される主な被写体は咽頭や咽頭部分に形成されたインフルエンザ濾胞である。一般に咽頭は奥行き方向に奥まって形成されるため、被写界深度が浅いと咽頭前部と咽頭後部の間で焦点がずれ、処理装置100での判定に用いるのに適切な被写体画像を得ることが困難になる。したがって、カメラ211は少なくとも20mm以上、好ましくは30mm以上の被写界深度を有する。このような被写界深度を有するカメラを用いることによって、咽頭前部から咽頭後部にかけていずれの部位でも焦点があった被写体画像を得ることが可能となる。
 光源212は、撮影装置200のプロセッサ213からの指示によって駆動され、口腔内に光を照射するための光源部として機能する。光源212は、一又は複数の光源を含む。本実施形態においては、光源212は、一又は複数のLEDから構成され、各LEDから所定の周波数帯域を有する光が口腔方向に照射される。光源212には、紫外光帯域、可視光帯域、赤外光帯域の中から所望の帯域を有する光、又はそれらの組み合わせが用いられる。なお、処理装置100においてインフルエンザの罹患の可能性の判定を行う場合には、可視光帯域の光を用いるのが好ましい。
 プロセッサ213は、メモリ214に記憶されたプログラムに基づいて撮影装置200の他の構成要素の制御を行う制御部として機能する。プロセッサ213は、メモリ214に記憶されたプログラムに基づいて、「撮影装置200とネットワークを介して通信可能に接続された外部装置(処理装置100又はサーバ装置300)から通信インターフェイス216を介して第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信する処理」、「一又は複数の対象者のうち未撮影の対象者について対象者情報を一覧として出力する場合に、外部装置において第1の対象者に関連付けられた第1の対象者情報が登録される前は一覧に第1の対象者情報を含むことなく出力し、外部装置において第1の対象者情報が登録された後は一覧に第1の対象者情報を含めて出力する処理」、「第1の対象者情報を含めて出力された一覧から第1の対象者情報に対する選択を受け付けると、第1の対象者の属性情報を出力する処理」、「第1の対象者情報を含めて出力された一覧から第1の対象者情報に対する選択を受け付けたのちに、カメラによって第1の対象者の口腔の少なくとも一部が含まれた第1の被写体画像が撮影されると、第1の対象者情報と第1の被写体画像とを対応付けて外部装置に送信する処理」、「第1の被写体画像が前記判定に用いるのに適切か否かを示す判別情報を外部装置から受信し、受信した前記判別情報を出力する処理」、「撮影装置の少なくとも一部を被覆して一部と共に口腔に挿入される補助具400の装着を促す装着表示を出力する処理」等を、メモリ214に記憶されたプログラムに基づいて実行する。プロセッサ213は、主に一又は複数のCPUにより構成されるが、適宜GPUやFPGAなどを組み合わせてもよい。
 メモリ214は、RAM、ROM、不揮発性メモリ、HDD等から構成され、記憶部として機能する。メモリ214は、本実施形態に係る処理システム1の様々な制御のための指示命令をプログラムとして記憶する。具体的には、メモリ214は「撮影装置200とネットワークを介して通信可能に接続された外部装置(処理装置100又はサーバ装置300)から通信インターフェイス216を介して第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信する処理」、「一又は複数の対象者のうち未撮影の対象者について対象者情報を一覧として出力する場合に、外部装置において第1の対象者に関連付けられた第1の対象者情報が登録される前は一覧に第1の対象者情報を含むことなく出力し、外部装置において第1の対象者情報が登録された後は一覧に第1の対象者情報を含めて出力する処理」、「第1の対象者情報を含めて出力された一覧から第1の対象者情報に対する選択を受け付けると、第1の対象者の属性情報を出力する処理」、「第1の対象者情報を含めて出力された一覧から第1の対象者情報に対する選択を受け付けたのちに、カメラによって第1の対象者の口腔の少なくとも一部が含まれた第1の被写体画像が撮影されると、第1の対象者情報と第1の被写体画像とを対応付けて外部装置に送信する処理」、「第1の被写体画像が前記判定に用いるのに適切か否かを示す判別情報を外部装置から受信し、受信した前記判別情報を出力する処理」、「撮影装置の少なくとも一部を被覆して一部と共に口腔に挿入される補助具400の装着を促す装着表示を出力する処理」等、プロセッサ213が実行するためのプログラムを記憶する。また、メモリ214は、当該プログラムのほかに、対象者の対象者情報、被写体画像等を記憶する。
 出力インターフェイス215は、撮影装置200によって撮影された被写体画像や対象者情報等を出力するための出力部として機能する。出力インターフェイス215の一例としては、ディスプレイ203が挙げられるが、これのみに限らず、他の液晶パネル、有機ELディスプレイ、プラズマディスプレイ等から構成されていてもよい。また、ディスプレイ203が備えられている必要はなく、例えば、有線又は無線ネットワークを介して処理装置100と接続可能なディスプレイ等と接続するためのインターフェイスが、当該ディスプレイ等に表示データを出力する出力インターフェイス114として機能することも可能である。
 入力インターフェイス210は、撮影装置200に対する操作者の指示入力を受け付ける入力部として機能する。入力インターフェイス210の一例としては、撮影装置200による録画の開始・終了を指示するための「撮影ボタン」、撮影装置200の電源のオンオフをするための「電源ボタン」、各種選択を行うための「確定ボタン」、前画面に戻ったり入力した確定操作をキャンセルするための「戻る/キャンセルボタン」、出力インターフェイス215に表示されたアイコン等の移動をするための十字キーボタン等の物理キーボタンが挙げられる。なお、これらの各種ボタン・キーは、物理的に用意されたものであってもよいし、出力インターフェイス215にアイコンとして表示され、出力インターフェイス215に重畳して入力インターフェイス210として配置されたタッチパネル等を用いて選択可能にしたものであってもよい。タッチパネルによる対象者の指示入力の検出方式は、静電容量式、抵抗膜式などいかなる方式であってもよい。
 通信インターフェイス216は、サーバ装置300及び/又は他の装置と情報の送受信を行うための通信部として機能する。通信インターフェイス216の一例としては、USB、SCSIなどの有線通信用コネクタや、無線LAN、Bluetooth(登録商標)、赤外線などの無線通信用送受信デバイスや、プリント実装基板やフレキシブル実装基板用の各種接続端子など、様々なものが挙げられる。
2-3.サーバ置300の構成
 図5は、本開示の一実施形態に係るサーバ装置300の構成を示すブロック図である。図5によると、サーバ装置300は、メモリ311、プロセッサ312及び通信インターフェイス313を含む。これらの各構成要素は、互いに、制御ライン及びデータラインを介して互いに電気的に接続される。なお、サーバ装置300は、図5に示す構成要素のすべてを備える必要はなく、一部を省略して構成することも可能であるし、他の構成要素を加えることも可能である。例えば、他のサーバ装置と接続し一体としてサーバ装置300を構成することも可能である。また、他のデータベース装置と接続し一体としてサーバ装置300を構成することも可能である。
 メモリ311は、RAM、ROM、不揮発性メモリ、HDD等から構成され、記憶部として機能する。メモリ311は、本実施形態に係る処理システム1の様々な制御のための指示命令をプログラムとして記憶する。具体的には、メモリ311は、「処理装置100で受け付けられた対象者情報を通信インターフェイス313を介して処理装置100から受信する処理」、「受信した対象者情報を対象者ID情報に対応付けて対象者管理テーブルに記憶する処理」、「撮影装置200から対象者情報要求を通信インターフェイス313を介して受信し、口腔内の撮影がまだ完了していない対象者の対象者情報を対象者管理テーブルを参照して抽出する処理」、「抽出された未撮影の対象者の対象者情報を通信インターフェイス313を介して撮影装置200に送信する処理」、「撮影装置200によって撮影された被写体画像を通信インターフェイス313を介して撮影装置200から受信し、対象者ID情報に対応付けて画像管理テーブルに記憶する処理」、「受信した被写体画像を所定の疾患に対する罹患の可能性を判定するのに適した画像か否かを判別する処理」、「判別の結果適切であると判別されると画像管理テーブルに記憶するとともに、判別の結果を通信インターフェイス313を介して処理装置100及び撮影装置200に送信する処理」、「処理装置100からの要求を受信して、処理装置100に被写体画像と被写体画像のうち判定用画像として使用される画像を特定する情報を通信インターフェイス113を介して送信する処理」、「処理装置100で入力された問診情報及び所見情報を通信インターフェイス313を介して処理装置100から受信し、対象者ID情報に対応付けて対象者管理テーブルに記憶する処理」、「処理装置100において選択された対象者について所定の疾患に対する罹患の可能性の判定要求を通信インターフェイス313を介して処理装置100から受信すると、画像管理テーブルから当該対象者に対応付けられた被写体画像と、対象者管理テーブルから当該対象者に対応付けられた問診情報や対象者情報を読みだして、当該可能性の判定をする処理」、「判定された結果を通信インターフェイス313を介して処理装置100に送信する処理」等、プロセッサ312が実行するためのプログラムを記憶する。また、メモリ311は、当該プログラムのほかに、対象者管理テーブル(図6A)及び画像管理テーブル(図6B)に記憶される各種情報、被写体画像等の画像データ自体等を記憶する。
 プロセッサ312は、メモリ311に記憶されたプログラムに基づいてサーバ装置300の他の構成要素の制御を行う制御部として機能する。プロセッサ312は、メモリ311に記憶されたプログラムに基づいて、所定の疾患に対する罹患の可能性の判定に適切な画像か否かを判別する処理や所定の疾患に対する罹患の可能性を判定する処理を行う。具体的には、プロセッサ312は、「処理装置100で受け付けられた対象者情報を通信インターフェイス313を介して処理装置100から受信する処理」、「受信した対象者情報を対象者ID情報に対応付けて対象者管理テーブルに記憶する処理」、「撮影装置200から対象者情報要求を通信インターフェイス313を介して受信し、口腔内の撮影がまだ完了していない対象者の対象者情報を対象者管理テーブルを参照して抽出する処理」、「抽出された未撮影の対象者の対象者情報を通信インターフェイス313を介して撮影装置200に送信する処理」、「撮影装置200によって撮影された被写体画像を通信インターフェイス313を介して撮影装置200から受信し、対象者ID情報に対応付けて画像管理テーブルに記憶する処理」、「受信した被写体画像を所定の疾患に対する罹患の可能性を判定するのに適した画像か否かを判別する処理」、「判別の結果適切であると判別されると画像管理テーブルに記憶するとともに、判別の結果を通信インターフェイス313を介して処理装置100及び撮影装置200に送信する処理」、「処理装置100からの要求を受信して、処理装置100に被写体画像と被写体画像のうち判定用画像として使用される画像を特定する情報を通信インターフェイス113を介して送信する処理」、「処理装置100で入力された問診情報及び所見情報を通信インターフェイス313を介して処理装置100から受信し、対象者ID情報に対応付けて対象者管理テーブルに記憶する処理」、「処理装置100において選択された対象者について所定の疾患に対する罹患の可能性の判定要求を通信インターフェイス313を介して処理装置100から受信すると、画像管理テーブルから当該対象者に対応付けられた被写体画像と、対象者管理テーブルから当該対象者に対応付けられた問診情報や対象者情報を読みだして、当該可能性の判定をする処理」、「判定された結果を通信インターフェイス313を介して処理装置100に送信する処理」等を、メモリ311に記憶されたプログラムに基づいて実行する。プロセッサ312は、主に一又は複数のCPUにより構成されるが、適宜GPUやFPGAなどを組み合わせてもよい。
3.サーバ装置300のメモリ311に記憶される情報
 図6Aは、本開示の一実施形態に係るサーバ装置300に記憶される対象者管理テーブルを概念的に示す図である。対象者管理テーブルに記憶される情報は、サーバ装置300のプロセッサ312の処理の進行に応じて随時更新して記憶される。
 図6Aによれば、対象者管理テーブルには、対象者ID情報に対応付けて、対象者名情報、性別情報、生年月日情報、問診情報、所見情報、判定結果情報及びステータス情報等が記憶される。「対象者ID情報」は、各対象者に固有の情報で各対象者を特定するための情報である。対象者ID情報は、操作者又は対象者自身によって新たな対象者が登録されるごとに生成される。「対象者名情報」は、処理装置100又は撮影装置200において出力される各対象者の名称を示す情報であって、操作者又は対象者自身によって入力された任意の文字列を示す情報である。「性別情報」は、対象者の性別を示す情報であって、操作者又は対象者自身によって選択される情報である。好ましくは各対象者の生物学上の性別が記憶される。「生年月日情報」は、対象者の生年月日を示す情報である。当該情報は、年、月、日に限らず、年のみの情報であってもよいし、生年月日情報に代えて年齢情報などを使用することも可能である。
 「問診情報」は、例えば操作者又は対象者等によって入力された情報で、対象者の病歴や症状などの医師等による診断の参考にされる情報である。このような問診情報の例としては、体重、アレルギー、基礎疾患などの患者背景、体温、発症からのピーク時体温、発症からの経過時間、心拍数、脈拍数、酸素飽和度、血圧、薬の服用状況、他のインフルエンザ患者との接触状況、関節痛、筋肉痛、頭痛、倦怠感、食欲不振、悪寒、発汗、咳嗽、咽頭痛、鼻汁・鼻閉、扁桃炎、消化器症状、手足の発疹、咽頭の発赤や白苔、扁桃の腫脹、扁桃の切除歴、いちご舌、圧痛を伴う前頸部リンパ節の腫脹などの自覚症状や身体所見の有無、インフルエンザワクチン接種歴、ワクチン接種時期等が挙げられる。「所見情報」は、医師等の操作者によって入力される情報で、対象者を視診、問診、触診、聴診の各種診察や診断を補助するための検査によって得られた正常とは異なる様子を示す情報である。このような所見情報の例としては、咽頭の発赤や白苔、扁桃の腫脹、扁桃炎の有無、扁桃の発赤や白苔等が挙げられる。
 「判定結果情報」は、問診情報、所見情報及び判定用画像に基づいて判定されたインフルエンザの罹患の可能性の判定結果を示す情報である。このような判定結果情報の一例としては、インフルエンザに対する陽性率が挙げられる。しかし、陽性率に限らず、陽性か陰性かを特定する情報など可能性が示されたものであればいずれでもよい。また、判定結果は、具体的な数値である必要はなく、陽性率の高さに応じた分類、陽性か陰性かを示す分類など、その形式はいずれでもよい。「ステータス情報」は、各対象者の現在のステータスを示す情報である。このようなステータス情報としては、まだ問診情報の入力が完了していないことを示す「問診未了」、被写体画像の撮影が完了していない(つまり判定用画像の取得がなされていない)ことを示す「未撮影」、被写体画像の撮影が完了したものの(つまり判定用画像の取得がなされたものの)医師等により所見の入力が完了していないことを示す「撮影済」、所見の入力が完了され所定の疾患に対する罹患の可能性が判定されたことを示す「判定済」等の情報が記憶される。なお、このようなステータス情報はあくまで一例であり、より細かくステータスを規定することも可能であるし、より大まかにステータスを規定することも可能である。
 なお、図6Aにおいて例示した情報は、対象者情報として記憶される情報である。また、これらのうち、対象者ID情報以外の情報は属性情報として利用される。また、図6Aにおいては、対象者ID情報に対応付けて属性情報を記憶したが、ここに記憶された情報の全てを記憶する必要はないし、例えば対象者の住所や電話番号、家族構成等の個人に関する情報や、インフルエンザ等の感染症の現在の流行情報など、ここに記載された以外の情報を含んでもよい。
 また、問診情報や所見情報は、対象者又は操作者によってその都度処理装置100等を介して入力される必要はなく、例えば有線又は無線ネットワークを介して接続された電子カルテ装置や他の端末装置等から受信してもよい。また、撮影装置200によって撮影された被写体画像の解析によって取得されてもよい。さらに、図6A及び図6Bにおいて特に図示はしないが、インフルエンザ等の診断又は診断を補助する対象となる感染症の現在の流行情報や、これら感染症についての他の対象者の判定結果や罹患状況などの外部要因情報をさらにメモリ112に記憶することも可能である
 図6Bは、本開示の一実施形態に係るサーバ装置300に記憶される画像管理テーブルを概念的に示す図である。画像管理テーブルに記憶される情報は、サーバ装置300のプロセッサ312の処理の進行に応じて随時更新して記憶される。
 図6Bによれば、画像管理テーブルには、対象者ID情報に対応付けて、被写体画像情報、判別結果情報及び判定用画像情報等が記憶される。「対象者ID情報」は、各対象者に固有の情報で各対象者を特定するための情報である。「被写体画像情報」は、各使用者に対して操作者が撮影した被写体画像を特定する情報である。被写体画像は、撮影装置200のカメラで撮影された被写体を含む一又は複数の画像であり、撮影装置200から受信することでメモリ112に記憶される。「判別結果情報」は、受信した被写体画像が所定の疾患に対する罹患の可能性を判定するのに適した画像か否かの判別した結果を示す情報である。「判定用画像情報」は、所定の疾患に対する罹患の可能性の判定に用いられる判定用画像を特定するための情報である。なお、上記のとおり、被写体画像情報として、各画像を特定するための情報が記憶される。このように、画像を特定するための情報は、典型的には各画像を識別するための識別情報であるが、各画像の格納場所を示す情報であってもよい。
4.処理装置100及び撮影装置200で実行される処理シーケンス
 図7は、本開示の一実施形態に係る処理装置100、撮影装置200及びサーバ装置300との間で実行される処理シーケンスを示す図である。このうち、S11~S14は主に処理装置100とサーバ装置300との間で行われる対象者情報等の入力処理に係る処理シーケンス、S21~S30は主に撮影装置200とサーバ装置300との間で行われる撮影処理に係る処理シーケンス、S41~S46は主に処理装置100とサーバ装置300との間で行われる判定処理に係る処理シーケンスを示す。なお、以下においては、説明の便宜のために、対象者の一人として「第1の対象者」を新たに対象者として登録し、罹患の可能性を判定するまでを例に説明する。
4-1.対象者情報等の入力処理
 図7によると、処理装置100は、出力インターフェイス114を介して出力されている対象者一覧画面において、入力インターフェイス113を介して、対象者の新規登録を行う新規登録モードの選択を受け付ける(S11)。なお、ここでは、対象者一覧画面の前に出力される各種画面については説明を省略する。そして、処理装置100は、出力インターフェイス114を介してディスプレイに新規登録画面を出力すると、新たに生成された対象者ID情報を出力するとともに、入力インターフェイス113を介して第1の対象者の対象者名情報、性別情報、生年月日情報の入力を受け付ける(S12)。そして、処理装置100は、受け付けられた対象者情報(T11)を、対象者ID情報に対応付けて、通信インターフェイス115を介してサーバ装置300に送信する。サーバ装置300は、通信インターフェイス313を介して第1の対象者の対象者情報を受信すると、一緒に受信した対象者ID情報に対応付けて、メモリ311の対象者管理テーブルに記憶する(S13)。
 次に、処理装置100は、出力インターフェイス114を介してディスプレイに当該第1の対象者の問診情報入力画面を出力すると、入力インターフェイス113を介して、所定の疾患に対する症状や、体重、アレルギー、基礎疾患などの患者背景等の様々な問診情報の入力を受け付ける(S14)。処理装置100は、受け付けられた問診情報(T12)を、対象者ID情報に対応付けて、通信インターフェイス115を介して、サーバ装置300に送信する。サーバ装置300は、通信インターフェイス313を介して第1の対象者の問診情報を受信すると、一緒に受信した対象者ID情報に対応付けて、メモリ311の対象者管理テーブルに記憶する(S15)。このとき、サーバ装置300はステータス情報として、対象者情報及び問診情報を受信したために、被写体画像の撮影が完了していない(つまり判定用画像の取得がなされていない)ことを示す「未撮影」を記憶する。これにより一連の対象者情報等の入力処理に係る処理シーケンスは終了される。このように、対象者を特定する対象者ID情報に対応付けて、処理装置100において問診情報の入力と送信がなされ、さらにサーバ装置200での記憶がなされる。そのため、入力された問診情報と対象者との対応関係を正確に対応付けて管理することが可能である。
 なお、図7においては、問診情報の入力をS14のタイミングで行っているが、この入力はいずれのタイミングで行ってもよい。例えば、撮影処理後であって所見情報の入力の前に実施することも可能である。また、対象者情報の入力(S12)及び問診情報の入力(S14)を別々の処理として受け付けているが、対象者の対象者情報の入力が行われたのちに、そのまま当該対象者の問診入力画面を表示し、問診情報の入力を受け付けるようにしてもよい。
4-2.撮影処理
 図7によると、電源ボタン等の押下により撮影装置200の電源がオンになり、撮影装置200が起動される(S21)。撮影装置200は、起動されると、通信インターフェイス216を介して、サーバ装置300に対して対象者情報要求(T21)を送信する。
 サーバ装置300は、対象者情報要求(T21)を受信すると、対象者管理テーブルのステータス情報を参照し、被写体画像の撮影が完了していないことを示す「未撮影」の対象者を検索する。そして、サーバ装置300は、第1の対象者を含む、ステータス情報として「未撮影」が記憶された対象者それぞれの対象者情報を取得する(S22)。サーバ装置300は、第1の対象者を含む未撮影の対象者の対象者情報(T22)を、通信インターフェイス313を介して撮影装置200に送信する。
 撮影装置200は、通信インターフェイス216を介して対象者情報を受信すると、第1の対象者を含む未撮影の対象者について、出力インターフェイス215を介してディスプレイに一覧として出力する(S23)。撮影装置200は、入力インターフェイス210を介して、出力された一覧の中から撮影をしたい対象者(ここでは、第1の対象者を例とする)の対象者情報の選択を受け付けると(S24)、第1の対象者の属性情報を出力インターフェイス215を介してディスプレイに出力する。このように、撮影がされる第1の対象者の属性情報を出力することで、第1の対象者の対象者ID情報とその後に撮影される被写体画像とを確実に対応付けることが可能となり、対象者の取り違えなどを防止することができる。
 撮影装置200は、補助具400の装着の有無を判定して、まだ装着されていない場合にはその装着を促すための装着表示を出力インターフェイス215を介して装着する(S25)。なお、当該表示はあくまで一例であって、他に音声や光の点滅、振動等によって装着を促してもよい。そして、撮影装置200に対して補助具が装着されたことが検出されると(S26)、撮影装置200は被写体画像の撮影を行う(S27)。被写体画像の撮影がなされると、撮影装置200は、通信インターフェイス216を介して撮影された被写体画像(T23)を、第1の対象者の対象者ID情報と共にサーバ装置300に送信する。なお、S26においては、補助具400の装着の検出をすることとしたが、当該処理そのものをスキップしてもよい。また、補助具400の装着の検出に代えて、例えば補助具400の装着を操作者が確認する確認表示を出力インターフェイス215を介して出力し、操作者による当該確認表示に対する所定の操作入力(例えば、タップ操作等)を受け付け可能にすることによって、操作者自らが補助具400を装着したことを入力できるようにしてもよい。
 サーバ装置300は、通信インターフェイス313を介して被写体画像を受信すると、一緒に受信した対象者ID情報に対応付けて画像管理テーブルに受信した被写体画像を記憶するとともに、受信した被写体画像の画像データをメモリ311に記憶する。そして、サーバ装置300は、受信した被写体画像が所定の疾患に対する罹患の可能性を判定するのに適した画像か否かの判別を行う(S28)。そして、サーバ装置300は、適した画像が全くなかった場合には、再撮影を促すための通知を撮影装置200に送信する(図示しない。)。他方、サーバ装置300は、適した画像(例えば、適正画像に対して類似度が最も高い一又は複数の被写体画像)があった場合は、当該画像を判定用画像に使用可能な画像として、第1の対象者の対象者ID情報に対応付けて画像管理テーブルの判定用画像情報に記憶する(S29)。また、サーバ装置300は、対象者管理テーブルを参照して、第1の対象者の対象者ID情報に対応付けられたステータス情報を「撮影済」に更新するとともに、判別結果として判定用画像が得られたことを示す情報(T24)を、第1の対象者の対象者ID情報と共に、通信インターフェイス313を介して処理装置及び撮影装置200に送信する。なお、特に図示はしていないものの、図12Eに示すように、撮影装置200に対して判別結果を送信し、操作者による操作入力を受け付けて判定用画像を確定するか否かの選択を行うようにしてもよい。すなわち、撮影装置200に判定用画像として使用可能と判別された画像を一度プレビュー表示し、確定操作がなされたことをサーバ装置300が受信することによって判定用画像を最終確定して、画像管理テーブルに記憶するようにしてもよい。
 撮影装置200は、通信インターフェイス216を介して判別結果を受信すると、その結果を出力インターフェイス215を介して出力する。また、判別結果とともに未撮影の対象者の対象者情報を受信し、S23と同様に出力インターフェイス215を介してディスプレイに一覧として出力する(S30)。この際、第1の対象者のステータス情報は「撮影済」となっているため、上記の未撮影の対象者の対象者情報には含まれていない。そのため、当該一覧には、第1の対象者の対象者情報は含まれないこととなる。これにより一連の撮影処理に係る処理シーケンスは終了される。
4-3.判定処理
 図7によると、処理装置100は、出力インターフェイス114を介して出力されている対象者一覧画面において、入力インターフェイス113を介して、ステータスとして「撮影済」が表示された対象者情報の中から診断を行う対象者(ここでは、第1の対象者を例とする)の選択を受け付け、当該対象者に対する診断を行うための診断モードの選択を受け付ける(S41)。なお、ここでは、対象者一覧画面の前に出力される各種画面については説明を省略する。そして、処理装置100は、通信インターフェイス115を介して、選択された第1の対象者に対する対象者情報要求(T41)をサーバ装置300に送信する。
 サーバ装置300は、通信インターフェイス313を介して第1の対象者に対する対象者情報要求を受信すると、対象者管理テーブルを参照して第1の対象者の対象者ID情報に基づいて第1の対象者の属性情報を取得するとともに、画像管理テーブルを参照して第1の対象者の対象者ID情報に対応付けられた被写体画像、及びそのうち判定用画像として用いられる画像を特定した判定用画像情報を取得する(S42)。そして、サーバ装置300は、取得した被写体画像、判定用画像情報及び属性情報を、第1の対象者の対象者ID情報と共に、通信インターフェイス313を介して処理装置100に送信する(T42)。
 処理装置100は、通信インターフェイス115を介して被写体画像、判定用画像情報等を受信すると、受信した被写体画像、判定用画像情報及び属性情報を出力インターフェイス114を介してディスプレイに出力する。そして、処理装置100は、入力インターフェイス113を介して医師等の操作者による所見情報の入力を受け付ける(S43)。処理装置100は、所見情報が入力されると、通信インターフェイス115を介して、第1の対象者の対象者ID情報と共に、問診情報、所見情報及び判定用画像に基づく所定の疾患に対する罹患の可能性の判定要求(T43)を送信する。
 このように、サーバ装置300は、対象者を特定する対象者ID情報に対応付けて、第1の対象者の属性情報と被写体画像及び判定用画像情報を取得し、処理装置100は、所見情報の入力や判定要求の送信前に、当該対象者ID情報に対応付けてこれら情報の出力を行う。これによって、誤った対象者に対して所見情報を入力したり判定要求を行うなどの対象者の取り違えのリスクを軽減することが可能である。また、サーバ装置300において、各対象者と所見情報及び判定結果を確実に対応付けることが可能である。
 サーバ装置300は、通信インターフェイス313を介して処理装置100から判定要求を受信すると、第1の対象者の対象者ID情報に対応付けて、対象者管理テーブルの所見情報に受信した所見情報を記憶し、ステータス情報を更新する。そして、サーバ装置300は、記憶された問診情報、所見情報及び判定用画像に基づいて、所定の疾患に対する罹患の可能性の判定処理を行う(S44)。当該判定処理の詳細については後述する。なお、当該判定処理では、問診情報や所見情報を用いずに判定用画像のみで判定が行われてもよい。サーバ装置300は、判定処理がなされると、第1の対象者の対象者ID情報に基づいて、その判定結果情報を対象者管理テーブルに記憶するとともに、ステータス情報を「判定済」に更新する。サーバ装置300は、通信インターフェイス313を介して、対象者管理テーブルに記憶された判定結果情報(T44)を第1の対象者の対象者ID情報と共に、処理装置100に送信する。
 処理装置100は、通信インターフェイス115を介して判定結果情報を受信すると、受信した判定結果を出力インターフェイス114を介してディスプレイに出力する(S45)。これにより一連の撮影処理に係る処理シーケンスは終了される。以上、当該処理シーケンスによれば、対象者情報、問診情報、所見情報、被写体画像及び判定結果はそれぞれ異なる装置(処理装置100、撮影装置200又はサーバ装置300等)で、それぞれ異なるタイミングで取得される。しかし、S12においてまず対象者情報の新規登録がなされた後にこれら情報の取得がなされ、かつこれら情報の取得時に対象者ID情報を対応付けて処理される。そのため、各対象者と対象者情報、問診情報、所見情報、被写体画像及び判定結果を正確に対応付けることが可能であり、対象者とこれら情報の取り違えのリスクを軽減することができる。
 なお、図8A以降で説明する処理フローにおいても同様であるが、図7において、問診情報の入力を対象者情報等の入力処理で行ったが、このタイミングに限らず撮影処理の途中であったり、判定処理の途中など、いかなるタイミングで行ってもよい。また、処理装置100によって入力される必要はなく、例えば対象者が所持する対象者の端末装置において事前に又は一連の処理の過程で、ウェブサイトを通じて問診情報の入力がなされてよい。また、判定処理において、処理装置100に被写体画像が送信されるようにしたが、判定用画像として使用され画像のみが送信され、処理装置100において出力されるようにしてもよい。また、図7の例では第1の対象者が登録されて判定される場合について説明したが、第1の対象者以外の対象者であっても同様に処理することが可能である。また、図7の例では、被写体画像について判別処理を行って判定用画像を取得したが、当該判別処理を行うことなく取得した被写体画像の全て又は一部を用いて罹患の可能性の判定処理を行ってもよい。
5.処理装置100で実行される処理フロー
 図8Aは、本開示の一実施形態に係る処理装置100において実行される処理フローを示す図である。具体的には、図8Aは、図7の対象者情報等の入力処理のうちS11及びS12対象者情報の新規登録処理において実行される処理フローを示す図である。当該処理フローは、主に処理装置100のプロセッサ111がメモリ112に記憶されたプログラムを読み出して実行することにより行われる。なお、以下では第1の対象者を例に説明するが、他の対象者においても同様に処理することができる。
 図8Aによると、プロセッサ111は、所定の間隔でサーバ装置300にアクセスして、サーバ装置300から対象者管理テーブルに記憶された対象者情報を受信する(S111)。そして、プロセッサ111は、受信した対象者情報に基づいて、出力インターフェイス114を介してディスプレイに出力されえた対象者一覧画面を更新して出力する(S112)。このとき第1の対象者は、まだ対象者情報の登録前であるため、対象者一覧画面には出力されていない。なお、S111における対象者情報の受信は、所定の間隔で行う場合に限らず、操作者の指示入力を受け付けることによって行ってもよい。
 ここで、図11Aは、本開示の一実施形態に係る処理装置100に表示される画面の例を示す図である。具体的には、図11Aは、処理装置100から出力される対象者一覧画面の例を示す図である。図11Aによると、対象者一覧画面には、受信した対象者情報が対象者ごとに一行ずつ出力された一覧領域11を含む。当該一覧領域11には、各行に、各対象者のステータス情報、対象者名情報、対象者ID情報及び属性情報が含まれる。また、特には図示していないものの、入力インターフェイス113を介して操作者の入力を受け付け、処理の対象となる所望の対象者が選択されると、当該対象者の対象者情報が出力された行をハイライトして表示する。一例としては、入力インターフェイス113としてタッチセンサを有している場合は、所望の対象者の対象者名上でタップ操作の入力を受け付けることによって、当該対象者が処理対象として選択される。なお、上記のハイライトの表示は、選択された対象者の対象者情報を通知するためのものであるため、選択された対象者が識別できれば良く、当然他の方法によって通知してもよい。
 また、図11Aによると、対象者一覧画面には一覧領域11の下部に、問診入力アイコン12、診断アイコン13及び新規登録アイコン14が含まれる。入力インターフェイス113を介していずれかのアイコンに対する選択を受け付けると、選択されたアイコンに対応するモードを起動する。すなわち、問診入力アイコン12が選択された場合には問診入力モードに移行し、診断アイコン13が選択された場合には診断モードに移行し、新規登録アイコン14が選択された場合には対象者の新規登録モードに移行する。
 再び図8Aに戻り、プロセッサ111は、入力インターフェイス113を介して図11Aで示された新規登録アイコン14の選択を受け付けると(S113)、出力インターフェイス114を介してディスプレイに新規登録画面を出力する。
 ここで、図11Bは、本開示の一実施形態に係る処理装置100に表示される画面の例を示す図である。具体的には、図11Bは、処理装置100から出力される対象者の新規登録画面の例を示す図である。図11Bによると、新規登録画面には、新規登録される対象者に対してあらかじめ割り当てられた対象者ID情報(Un)が出力されている。そして、当該対象者ID情報の下部に、対象者情報として登録することが求められる対象者名情報、性別情報及び生年月日情報を入力するための入力ボックスがそれぞれ出力される。操作者又は対象者によっていずれかの入力ボックスが選択されると、入力インターフェイス113を介して入力ボックスに対して所望の文字等の入力や情報の選択入力が可能となる。
 また、図11Bによると、各入力ボックスの下部に、登録アイコン15及びキャンセルアイコン16が出力されている。入力インターフェイス113を介して登録アイコン15に対する選択を受け付けると、各入力ボックスに入力された対象者情報を確定し、サーバ装置300に送信する処理を行う。一方、入力インターフェイス113を介してキャンセルアイコン16に対する選択を受け付けると、対象者情報の新規入力をこの時点で終了し、再度対象者一覧画面に戻る。
 再び図8Aに戻り、プロセッサ111は、入力インターフェイス113を介して、図11Bで示された第1の対象者の対象者情報の入力を受け付ける(S114)。そして、プロセッサ111は、入力インターフェイス113を介して図11Bで示された登録アイコン15に対する選択を受け付けると、入力された対象者情報を対象者ID情報に対応付けて、通信インターフェイス115を介してサーバ装置300に送信する(S115)。これにより、プロセッサ111は、第1の対象者の対象者情報の新規登録に係る処理を終了する。
 図8Bは、本開示の一実施形態に係る処理装置100において実行される処理フローを示す図である。具体的には、図8Bは、図7の対象者情報等の入力処理のうちS13の問診情報の入力処理において実行される処理フローを示す図である。当該処理フローは、主に処理装置100のプロセッサ111がメモリ112に記憶されたプログラムを読み出して実行することにより行われる。なお、以下では第1の対象者を例に説明するが、他の対象者においても同様に処理することができる。
 図8Bによると、プロセッサ111は、対象者一覧画面(図8AのS112)において、問診情報の入力を行いたい所望の対象者(第1の対象者)の選択を入力インターフェイス113を介して受け付ける(S121)。なお、第1の対象者は図8Aで示した通り新規登録がされているため、当該対象者一覧画面には第1の対象者の対象者情報が含まれて表示される。そして、プロセッサ111は、対象者一覧画面において、第1の対象者の対象者名に対する選択がなされると、第1の対象者の対象者情報の行をハイライトして表示する。なお、上記のハイライトの表示は、選択された第1の対象者の対象者情報を通知するためのものであるため、選択された対象者が識別できれば良く、当然他の方法によって通知してもよい。次に、プロセッサ111は、入力インターフェイス113を介して問診入力アイコン12に対する選択を受け付けると、問診入力モードに移行し、出力インターフェイス114を介してディスプレイに問診入力画面を出力する(S122)。なお、ここでは、問診入力画面の詳細な説明は省略する。
 プロセッサ111は、入力インターフェイス113を介して問診入力画面において操作者又は対象者による問診情報の入力を受け付ける(S123)。そして、プロセッサ111は、入力された問診情報を第1の対象者の対象者ID情報に対応付けて、通信インターフェイス115を介してサーバ装置300に送信する(S124)。これにより、プロセッサ111は、第1の対象者の問診情報の入力処理を終了する。
 なお、図8A及び図8Bにおいては、対象者情報の入力(S114)及び問診情報の入力(S123)を別々の処理として受け付ける場合について説明した。しかし、対象者の対象者情報の新規入力が行われたのちに、そのまま当該対象者の問診入力画面を表示し、問診情報の入力を受け付けるようにしてもよい。
 図8Cは、本開示の一実施形態に係る処理装置100において実行される処理フローを示す図である。具体的には、図8Cは、図7のS41~S45の判定処理において実行される処理フローを示す図である。当該処理フローは、主に処理装置100のプロセッサ111がメモリ112に記憶されたプログラムを読み出して実行することにより行われる。なお、以下では第1の対象者を例に説明するが、他の対象者においても同様に処理することができる。
 図8Cによると、プロセッサ111は、対象者一覧画面(図8AのS112)において、判定を行いたい所望の対象者(第1の対象者)の選択を入力インターフェイス113を介して受け付けたのち(図8BのS121)、診断アイコン13の選択を受け付けると、診断モードに移行し、診断画面を出力する(S131)。また、プロセッサ111は、図8BのS121で選択された第1の対象者の対象者ID情報と共に、通信インターフェイス115を介してサーバ装置300に第1の対象者の対象者情報要求を送信する(S132)。
 プロセッサ111は、サーバ装置300から通信インターフェイス115を介して第1の対象者の対象者情報(属性情報)、被写体画像、及び被写体画像のうち判定用画像として使用される画像を特定した判定用画像情報を受信すると(S134)、所見入力画面を出力インターフェイス114を介してディスプレイに出力し、所見情報の入力を受け付ける(S135)。
 ここで、図11Cは、本開示の一実施形態に係る処理装置100に表示される画面の例を示す図である。具体的には、図11Cは、処理装置100から出力される対象者の所見入力画面の例を示す図である。図11Cによると、所見入力画面には、所見の入力がなされる対象者の対象者ID情報と共に、送信されてきた被写体画像を表示するための画像表示領域31を含む。画像表示領域31には、撮影装置200において撮影された被写体画像が表示されるのに加えて、各被写体画像に重畳して判定用画像として使用される画像を特定するための表示32がされる。この表示32は、S134で受診された、判定用画像として使用される画像を特定した判定用画像情報に基づいて付与される。これにより、被写体画像のうちどの画像が判定用画像であるのかを確認することができる。医師等の操作者は、当該画像表示領域31に表示された被写体画像を参照して、当該対象者に対する所見を判断することが可能となる。なお、ここでは被写体画像を表示する場合について説明したが、表示される被写体画像は撮影装置200で撮影されたすべての被写体画像が表示されてもよいし、例えば判定用画像情報によって判定用画像として特定された一部の画像や焦点ずれ等が生じた不良な画像を除いた一部の画像だけが表示されるようにしてもよい。
 また、図11Cによると、所見入力画面には、医師等の操作者が所見を入力するための所見入力領域30が含まれている。所見入力領域30には、判定の対象とされる疾患に関連する代表的な所見の判断項目と、判断した所見の結果を選択するための選択肢が出力されている。医師等の操作者は、これらの所見に対して判断した結果を入力インターフェイス113を介して選択することによって所見を入力することができる。
 さらに、所見入力画面には、所見入力領域30の下部に判定アイコン28とキャンセルアイコン29が出力されている。入力インターフェイス113を介して判定アイコン28に対する選択を受け付けると、入力された所見の情報を所見情報としてサーバ装置300に送信するとともに所定の疾患に対する罹患の可能性の判定処理を実行する。他方、キャンセルアイコン29に対する選択を受け付けると、その時点で処理を終了し対象者一覧画面に戻る。
 再び図8Cに戻り、図11Cの所見入力画面において所見情報の入力を受け付けると、プロセッサ111は通信インターフェイス115を介して入力された所見情報と第1の対象者の対象者ID情報とともに、判定要求をサーバ装置300に送信する(S136)。そして、プロセッサ111はサーバ装置300から所定の疾患に対する罹患の可能性の判定結果及び判定に用いられた判定用画像を受信すると(S137)、出力インターフェイス114を介してディスプレイにその判定結果及び判定用画像を出力する(S138)。これにより、プロセッサ111は、第1の対象者の判定処理を終了する。
6.サーバ装置300で実行される処理フロー
 図9Aは、本開示の一実施形態に係るサーバ装置300において実行される処理フローを示す図である。具体的には、図9Aは、図7の対象者情報等の入力処理のうちS22~S29の撮影処理において実行される処理フローを示す図である。当該処理フローは、主にサーバ装置300のプロセッサ312がメモリ311に記憶されたプログラムを読み出して実行することにより行われる。なお、以下では第1の対象者を例に説明するが、他の対象者においても同様に処理することができる。
 図9Aによると、プロセッサ312は、通信インターフェイス313を介して撮影装置200から対象者情報要求を受け付けると(S211)、メモリ311の対象者管理テーブルのステータス情報を参照し、ステータス情報として未撮影が記憶された対象者を検索し、当該対象者の対象者情報を抽出する(S212)。ここでは、未撮影の対象者として第1の対象者が含まれることとする。そして、プロセッサ312は、第1の対象者を含む未撮影の対象者の対象者情報を、通信インターフェイス313を介して撮影装置200に送信する(S213)。
 次に、プロセッサ312は、通信インターフェイス313を介して撮影装置200から被写体画像を受信するまで待機し、被写体画像を受信すると(S214)、受信した被写体画像が所定の疾患に対する罹患の可能性の判定に適した画像であるか否かの判別を行う(S215)。このような判別の一例としては、以下に示すような学習済み判定用画像選択モデルに受信した被写体画像を入力して判別することが考えられる。しかし、当然この方法のみに限らず、画像解析処理によりあらかじめ用意された適切画像との一致度に基づいて判断する方法など、いずれの方法でも採用することが可能である。また、被写体画像として複数枚の画像を受信した場合、各被写体画像に対して適した画像であるか否かの判別を行うようにしてもよい。さらに、この際、各被写体画像に対して適した画像か否かのスコアを算出し、当該スコアが高い上位の所定枚数を選択したり、あらかじめ決められた閾値を超えるスコアを有する画像を選択するようにしてもよい。
 ここで、図9Cは、本開示の一実施形態に係る学習済みモデルの生成に係る処理フローを示す図である。具体的には、図9Cは、図9AのS215の判別処理に用いられる学習済み判定用画像選択モデルの生成に係る処理フローを示す図である。当該処理フローは、サーバ装置300のプロセッサ312によって実行されてもよいし、他の処理装置のプロセッサによって実行されてもよい。
 図9Cによると、プロセッサ312は、咽頭の少なくとも一部が含まれる被写体の被写体画像を学習用被写体画像として取得するステップを実行する(S241)。次に、プロセッサ312は、取得された学習用被写体画像に対して、判定用画像として使用可能な画像であるか否かのラベル情報を付与する処理ステップを実行する(S242)。そして、プロセッサは付与されたラベル情報を学習用被写体画像に対応付けて記憶するステップを実行する(S243)。なお、当該ラベル付与処理やラベル情報の記憶処理は、あらかじめ学習用被写体画像に対してヒトによって判定用画像であるか否かの判断を行って、プロセッサ312がそれを学習用被写体画像に対応付けて記憶するようにしてもいし、プロセッサ312が公知の画像解析処理によって判定用画像であるか否かの解析を行いその結果を学習用被写体画像に対応付けて記憶するようにしてもよい。また、ラベル情報は、被写体となる口腔の少なくとも一部の領域が写っているか否か、手ぶれ、焦点ずれ、曇りなどの画質が良好であるか否か等の観点に基づいて付与される。
 学習用被写体画像とそれに対応付けられたラベル情報がそれぞれ得られると、プロセッサ312は、それらを用いて判定用画像の選択パターンの機械学習を行うステップを実行する(S244)。当該機械学習は、一例として、学習用被写体画像とラベル情報の組を、ニューロンを組み合わせて構成されたニューラルネットワークに与え、ニューラルネットワークの出力がラベル情報と同じになるように、各ニューロンのパラメータを調整しながら学習を繰り返すことにより行われる。そして、学習済みの判定用画像選択モデル(例えば、ニューラルネットワークとパラメータ)を取得するステップが実行される(S245)。取得された学習済み判定用画像選択モデルは、サーバ装置300のメモリ311やサーバ装置300と有線又は無線ネットワークを介して接続された他の装置内に記憶されていてもよい。
 再び図9Aに戻り、プロセッサ312は、受信した被写体画像を図9Cにおいて生成された学習済み判定用画像選択モデルに入力して、それぞれ所定の疾患に対する罹患の可能性の判定に適した画像であるか否かの判別を行う(S215)。そして、罹患の可能性の判定に利用可能な画像を特定する情報を判定用画像情報として、画像管理テーブルに第1の対象者の対象者ID情報に対応付けて記憶する(S216)。また、特に図示はしていないものの、プロセッサ312は、対象者管理テーブルを参照して、第1の対象者の対象者ID情報に対応付けられたステータス情報を「撮影済」に更新するとともに、判別結果として判定用画像が得られたことを示す情報を、第1の対象者の対象者ID情報と共に、通信インターフェイス313を介して処理装置100及び撮影装置200に送信する。他方、プロセッサ312は、判別処理において判定用画像が規定の枚数分得られなかった場合には、再撮影を促すための通知を撮影装置200に送信する。なお、このような判別処理は、罹患の可能性の判定精度を上げるうえでは重要な処理となるが、必ずしも実施する必要はない。また、特に図示はしていないものの、図12Eに示すように、撮影装置200に対して判別結果を送信し、操作者による操作入力を受け付けて判定用画像を確定するか否かの選択を行うようにしてもよい。すなわち、撮影装置200に判定用画像として使用可能と判別された画像を送信して一度プレビュー表示をし、確定操作がなされたことをサーバ装置300が受信することによって判定用画像を最終確定するようにしてもよい。これにより、プロセッサ312は、撮影処理を終了する。
 なお、このように選択される判定用画像は、1枚であってもよいし複数枚であってもよい。しかし、一例としては、例えば5~30枚程度の被写体画像群から最終的に5枚程度の判定用画像群を得るのが好ましい。これは、多数の被写体画像の中から判定用画像を選択することによって、より良好な判定用画像が得られる可能性が高くなるためである。また、複数の判定用画像群を後述の判定処理に利用することによって、1枚の判定用画像のみを用いる場合に比べて判定精度をより向上させることができるためである。また、他の例としては、被写体画像の撮影が行われるたびに、撮影された被写体画像を処理装置100に送信したうえで判定用画像の選択を行うか、撮影装置200において判定用画像の選択を行い、判定用画像が所定の枚数(例えば5枚程度)だけ取得できた段階で撮影を終了させるようにしてもよい。このようにすることで、上記のとおり判定精度の向上を維持しつつも、被写体画像の撮影に係る時間を最小限にすることができる。つまり、嘔吐反射等の対象者に対する不快感を低減することができる。
 図9Bは、本開示の一実施形態に係るサーバ装置300において実行される処理フローを示す図である。具体的には、図9Bは、図7の対象者情報等の入力処理のうちS42~S44の判定処理において実行される処理フローを示す図である。当該処理フローは、主に処理装置100のプロセッサ312がメモリ311に記憶されたプログラムを読み出して実行することにより行われる。なお、以下では第1の対象者を例に説明するが、他の対象者においても同様に処理することができる。
 図9Bによると、プロセッサ312は、通信インターフェイス313を介して処理装置100から所望の対象者(ここでは第1の対象者)の対象者情報要求を受信すると(S221)、対象者管理テーブルを参照して、第1の対象者の対象者ID情報に基づいて第1の対象者の属性情報を取得するとともに、画像管理テーブルを参照して第1の対象者の対象者ID情報に対応付けられた被写体画像、及び被写体画像のうち判定用画像として使用される画像を特定した判定用画像情報を取得する。プロセッサ312は取得された被写体画像等を、通信インターフェイス313を介して、第1の対象者の属性情報と対象者ID情報と共に処理装置100に送信する(S222)。
 次に、プロセッサ312は、通信インターフェイス313を介して処理装置100から、第1の対象者の対象者ID情報と共に、医師等の操作者によって入力された所見情報と所定の疾患に対する罹患の可能性の判定要求を受信する(S223)。プロセッサ312は、受信した所見情報を対象者ID情報に対応付けて対象者管理テーブルに記憶する(S224)。次に、プロセッサ312は、対象者管理テーブルを参照して第1の対象者の対象者ID情報に対応付けられた所見情報及び問診情報を読み出す。また、プロセッサ312は、画像管理テーブルを参照して第1の対象者の対象者ID情報に対応付けられた判定用画像情報に基づいて判定用画像を読み出す。そして、プロセッサ312は、読み出したこれらの情報に基づいて、判定処理を実行する(S225)。このような判定処理の一例としては、以下に示すような学習済み判定モデルにこれら情報を入力して判定することが考えられる。しかし、当然この方法のみに限らず、画像解析処理により罹患状態を示す画像との一致度に基づいて判断する方法など、いずれの方法でも採用することが可能である。
 ここで、図9Dは、本開示の一実施形態に係る学習済みモデルの生成に係る処理フローを示す図である。具体的には、図9Dは、図9AのS245の判定処理に用いられる学習済み判定モデルの生成に係る処理フローを示す図である。当該処理フローは、サーバ装置300のプロセッサ312によって実行されてもよいし、他の処理装置のプロセッサによって実行されてもよい。
 図9Dによると、プロセッサ312は、咽頭の少なくとも一部が含まれる被写体の画像から選択された判定用画像を取得するステップを実行する(S261)。また、プロセッサ312は、当該判定用画像の被写体となった対象者の対象者ID情報にあらかじめ対応付けて記憶された問診情報及び所見情報を取得するステップを実行する(S261)。次に、プロセッサ312は、当該判定用画像の被写体となった対象者に対して、あらかじめイムノクロマトによるインフルエンザ迅速検査、PCR検査、ウイルス分離培養検査の結果等に基づいて付与され正解ラベルを付与する処理ステップを実行する(S262)。そして、プロセッサ312は付与された正解ラベル情報を判定結果情報として判定用画像、並びに問診情報及び所見情報に対応付けて記憶するステップを実行する(S263)。なお、ここでは判定用画像そのものを用いているが、判定用画像から得られた特徴量を用いるようにしてもよい。
 判定用画像、並びに問診情報及び所見情報とそれに対応付けられた正解ラベル情報がそれぞれ得られると、プロセッサは、それらを用いて疾患に対する罹患の判定パターンの機械学習を行うステップを実行する(S264)。当該機械学習は、一例として、ニューロンを組み合わせたニューラルネットワークに対して、これら情報の組を与え、ニューラルネットワークからの出力が正解ラベル情報と同じになるように、各ニューロンのパラメータを調整しながら学習を繰り返すことにより行われる。そして、学習済みの判定モデルを取得するステップが実行される(S265)。取得された学習済み判定モデルは、サーバ装置300のメモリ311やサーバ装置300と有線又は無線ネットワークを介して接続された他の装置内に記憶されていてもよい。
 再び図9Bに戻り、プロセッサ312は、第1の対象者の所見情報、問診情報及び判定用画像を図9Dにおいて生成された学習済み判定モデルに入力して、所定の疾患に対する罹患の可能性の判定を行う(S225)。そして、罹患の可能性の判定が行われると、第1の対象者の対象者ID情報に基づいてその判定結果情報を対象者管理テーブルに記憶するとともに、ステータス情報を「判定済」に更新する。また、プロセッサ312は、通信インターフェイス313を介して、対象者管理テーブルに記憶された判定結果情報及び判定に用いられた判定用画像を第1の対象者の対象者ID情報と共に、処理装置100に送信する(S226)。これにより、プロセッサ312は、判定処理を終了する。
7.撮影装置200で実行される処理フロー
 図10は、本開示の一実施形態に係る撮影装置200において実行される処理フローを示す図である。具体的には、図10は、図7の対象者情報等の入力処理のうちS21~S30の撮影処理において実行される処理フローを示す図である。当該処理フローは、主に撮影装置200のプロセッサ213がメモリ214に記憶されたプログラムを読み出して実行することにより行われる。なお、以下では第1の対象者を例に説明するが、他の対象者においても同様に処理することができる。
 図10によると、撮影装置200が起動されると、プロセッサ213は、通信インターフェイス216を介してサーバ装置300に対象者情報要求を送信する(S311)。そして、プロセッサ213は、通信インターフェイス216を介して、サーバ装置300において抽出された未撮影の対象者の対象者情報を受信する(S312)。プロセッサ213は、未撮影の対象者の対象者情報を受信すると、受信した対象者情報を出力インターフェイス215を介してディスプレイに出力する(S313)。
 ここで、図12A及び図12Bは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。具体的には、図12Aは、第1の対象者の対象者情報が新規登録されサーバ装置300の対象者管理テーブルに記憶される前において表示される画面の例を示す。他方、図12Bは、第1の対象者の対象者情報が新規登録されサーバ装置300の対象者管理テーブルに記憶された後に表示される画面の例を示す。
 図12Aによると、出力インターフェイス215を介してディスプレイには未撮影対象者一覧画面が出力されている。未撮影対象者一覧画面には、サーバ装置300から送信された未撮影の対象者の対象者情報が行ごとに一覧形式で配置された対象者一覧領域17が含まれる。対象者一覧領域17には、対象者毎に対象者名情報及び新規登録された時間を示す時間情報(図6Aにおいて図示していないものの、属性情報の一つとして記憶される)が含まれる。
 ここで、図12Aは、上記のとおり第1の対象者の対象者情報が新規登録されサーバ装置300の対象者管理テーブルに記憶される前に出力される画面の例を示す。そのため、当該未撮影対象者一覧画面には、第1の対象者の対象者情報(対象者名情報:N1、登録時間情報:T1)は出力されていない。
 次に、図12Bによると、図12Aと同様の未撮影対象者一覧画面が出力されている。ここで、図12Bは、上記のとおり第1の対象者の対象者情報が新規登録されサーバ装置300の対象者管理テーブルに記憶された後に出力される画面の例を示す。そのため、図10のS312で第1の対象者の対象者情報を受信することによって、当該未撮影対象者一覧画面には、対象者一覧領域17の先頭(一番上)に第1の対象者の対象者情報(対象者名情報:N1、登録時間情報:T1)が出力されるようになる。
 なお、図12A及び図12Bにおいては、登録時間が近い順に上から各対象者情報を配置したが、これに限らず登録時間が早い順や名前順など種々の順番で配置することが可能である。また、図12A及び図12Bにおいては、未撮影の対象者を一覧として表示したが、例えば未撮影の対象者一人ずつ(又は所定の人数ずつ)の対象者情報が表示された画面を順次切り替えて表示し、所望の対象者が表示された時に選択を受け付けるようにしてもよい。
 再び図10に戻り、プロセッサ213は、S313で表示された未撮影対象者一覧画面において、入力インターフェイス210を介して撮影を行いたい所望の対象者の選択を受け付ける(S314)。一例としては、図12A又は図12Bの画面において、未撮影対象者一覧画面において撮影を行いたい所望の対象者の対象者名情報の上でタップ操作をすることにより、撮影対象となる対象者が選択される。対象者が選択されると、プロセッサ213は、選択された対象者の属性情報を出力インターフェイス215を介してディスプレイに出力する。
 ここで、図12Cは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。具体的には、図12Cは、図10のS314で第1の対象者が選択された場合に表示される属性情報表示画面の例を示す図である。図12Cによると、当該属性情報表示画面は、属性表示領域18を含む。属性表示領域18には、第1の対象者の対象者ID情報に加えて、サーバ装置300から受信した第1の対象者の属性情報として、性別情報及び生年月日情報が表示される。これによって操作者は第1の対象者の詳細な情報を確認することが可能であり、ここに表示された情報に基づいて対象者自身と本人確認を行うことで対象者の取り違えの可能性を軽減することが可能となる。つまり、後に撮影される対象者の被写体画像と第1の対象者の対象者ID情報とを確実に対応付けることが可能となる。
 また、図12Cによると、属性表示領域18の下部には「撮影するアイコン19」及び「戻るアイコン20」が出力される。入力インターフェイス210を介して「撮影するアイコン19」に対する選択を受け付けると、カメラ211を起動して被写体の撮影に移行する。他方、入力インターフェイス210を介して「戻るアイコン20」に対する選択を受け付けると、再び未撮影対象者一覧画面に戻る。
 再び図10に戻り、プロセッサ213は、撮影装置200に対して補助具400が正常に装着されているか否かを判定して、装着されていないと判定された場合には補助具400の装着を促すための装着表示を出力する(S315)。なお、このような判定は、いかなる方法で行われてもよいが、一例としては、補助具400の装着によって所定のスイッチがオンになることを検出する方法、補助具400が装着された状態で撮影された画像特有のパターンの有無を検出する方法、又はこれらの組み合わせ等が挙げられる。また、S315においては、補助具400の装着の判定をすることとしたが、当該処理そのものをスキップしてもよい。また、補助具400の装着の判定に代えて、例えば補助具400の装着を操作者が確認する確認表示を出力インターフェイス215を介して出力し、操作者による当該確認表示に対する所定の操作入力(例えば、タップ操作等)を受け付け可能にすることによって、操作者自らが補助具400を装着したことを入力できるようにしてもよい。
 ここで、図12Dは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。具体的には、図12Dは、図10のS315で表示される装着表示画面の例を示す図である。図12Dによると、当該装着表示画面には、「補助具を装着してください」という補助具400の装着を促す表示と共に、補助具400及び撮影装置200を模した画像が含まれる。一例としては、補助具400及び撮影装置200を模した両画像が時間と共に徐々に近づくように画面が遷移し、操作者に対してより直感的に補助具400の装着を促すことが可能である。なお、当該画面には「戻るアイコン21」が出力されているが、当該アイコンに対する選択を受け付けることによって属性情報表示画面に戻ることが可能である。
 再び図10に戻り、補助具の装着表示画面が出力された状態において所定周期で補助具400の装着の有無を判定した結果、正常に装着されたと判定されると、プロセッサ213はカメラ211による咽頭を含む口腔内を被写体とした撮影を開始する(S316)。具体的には、光源212をオンにして被写体に対して光を照射し、咽頭等の被写体からの反射光をカメラ211によって検出することによって撮影が行われる。
 ここで、図12Eは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。具体的には、図12Eは、図10のS316で出力される撮影画面の例を示す図である。図12Eによると、撮影画面はスルー画像領域32を含み、当該スルー画像領域32にはカメラ211で検出されている現在の被写体画像が出力される(具体的な画像は図示しない。)。また、このとき、スルー画像領域32には、被写体である咽頭の一般的な形状に沿うように描画されたガイド22をスルー画像に重畳して出力する。このようなガイド22をスルー画像に重畳して出力することによって、現在撮影されている被写体の左右方向の位置や奥行き方向の大きさをガイド22を参考に調節することが可能となる。
 また、図12Eによると、スルー画像領域32の下部に撮影アイコン23及び戻るアイコン24が出力されている。入力インターフェイス210を介して撮影アイコン23に対する操作入力を受け付けることによって、被写体画像としてカメラ211によって撮影された画像を静止画又は動画として取り込むことを開始する。なお、撮影アイコン23に対する操作入力は撮影開始の一例であって、例えば撮影ボタンの押下の検出など、他の方法によって開始されてもよい。また、入力インターフェイス210を介して戻るアイコン24に対する操作入力を受け付けることによって、属性表示画面に戻ることが可能である。
 再び図10に戻り、プロセッサ213は、上記のとおり撮影がなされることによって一又は複数の被写体画像が取得されると、通信インターフェイス216を介して撮影された被写体画像を、第1の対象者の対象者ID情報と共にサーバ装置300に送信する(S317)。プロセッサ213は、被写体画像の判別結果をサーバ装置300から受信するまで待機し、罹患の可能性の判定に適した画像が取得できたことを示す情報を受信すると、その結果を出力インターフェイス215を介してディスプレイに出力する(S318)。
 ここで、図12Fは、本開示の一実施形態に係る撮影装置200に表示される画面の例を示す図である。具体的には、図12Fは、図10のS318で出力される判別結果画面の例を示す図である。図12Fによると、判別結果画面は判定用画像のプレビュー領域25を含む。当該プレビュー領域25には、サーバ装置300において判別された結果、判定用画像として選択された被写体画像が操作者に対して出力される。操作者は当該プレビュー領域25に出力された判定用画像を確認して、再度撮影を行うか当該判定用画像で確定させるかを選択することが可能となる。
 また、プレビュー領域25の下部には、サーバ装置300による判別結果を示す情報を表示されている。ここでは、所定の疾患に対する罹患の可能性の判定に適した判定用画像が得られたことを示す「良好」という表示がなされている。これによって操作者は判定のために利用可能な被写体画像が撮影できたことを確認することが可能である。
 さらに、判別結果を示す情報の下部には、再撮影アイコン26と確定アイコン27が出力されている。入力インターフェイス210を介して再撮影アイコン26の選択を受け付けると、プロセッサ213はサーバ装置300に再撮影する旨の情報を送信するとともに、カメラ211を起動して再度S316の撮影処理に戻る。他方、入力インターフェイス210を介して確定アイコン27の選択を受け付けると、プロセッサ213はサーバ装置300に判定用画像の確定操作がなされた旨の情報を送信する。
 すなわち、図10のS318において罹患の可能性の判定に適した画像が取得できたか否かの判別結果を図12Fに例示したように出力することで、操作者に被写体画像の撮影後(S316の処理後)すぐに再撮影の要否を通知することが可能となり、よりスムーズな撮影が可能となる。一例としては、通常、所定の疾患の罹患の可能性の判定処理は処理負担が大きく時間を要する。そのため、より処理負担が軽く短時間で処理可能な適した画像か否かの判別処理をまず実行し、その結果を出力することによって、再撮影に至るまでの時間を軽減することができる。また、所定の疾患の罹患の可能性の判定を行う直前に再撮影が必要なことが分かったとしても、補助具400等が既に取り外され廃棄されてしまっており、再度新たな補助具400を装着する必要がある。上記のとおり被写体画像の撮影後すぐのタイミングで通知することで、このような不都合を解消することができる。
 なお、図12Fにおいては、判別結果画面に判別結果と判定用画像のプレビュー領域25が一緒に表示される場合について記載した。しかし、これに限らず、判別結果と判定用画像のプレビュー領域25がそれぞれ別々の画面に表示され、操作者の切り替え操作によって切り替えて表示されるようにしてもよい。
 再び図10に戻り、図12Fにおいて示された確定アイコン27に対する選択を入力インターフェイス210で受け付けると、プロセッサ213は確定操作がなされた旨をサーバ装置300に通信インターフェイス216を介して送信する。そして、プロセッサ213は、通信インターフェイス216を介して再度未撮影の対象者の対象者情報を再度受信し、出力インターフェイス215を介してディスプレイに未撮影対象者一覧画面に更新して出力する(S320)。この際、第1の対象者のステータス情報は「撮影済」となっているため、上記の未撮影の対象者の対象者情報には含まれていない。そのため、当該未撮影対象者一覧画面には、第1の対象者の対象者情報は含まれないこととなる。なお、未撮影対象者一覧画面において、撮影済み一覧アイコンを選択することによって、撮影済みの対象者の一覧を出力することが可能であるが、第1の対象者の対象者情報は当該一覧に出力されることとなる。
 以上、本実施形態においては、対象者の口腔の少なくとも一部が含まれた被写体の画像を撮影するのにより適した撮影装置、プログラム及び方法を提供することができる。
8.変形例
 上記実施形態においては、被写体画像、問診情報及び所見情報を用いてインフルエンザに対する罹患の可能性を示す情報を出力する場合について説明した。しかし、問診情報及び所見情報に代えて、又はこれらの情報に加えて、インフルエンザに関連する外部要因情報を用いて、インフルエンザに対する罹患の可能性を示す情報を出力するようにしてもよい。このような外部要因情報には、他の対象者に対してなされた判定結果や、医師による診断結果、また対象者が属する地域等におけるインフルエンザの流行情報などが挙げられる。プロセッサ312は、このような外部要因情報を通信インターフェイス313を介して他の処理装置等から取得し、学習済み判定モデルに外部要因情報を入力として与えることで、外部要因情報を考慮した陽性率を得ることが可能となる。
 また、上記実施形態においては、被写体画像に加えて、問診情報及び所見情報を用いてインフルエンザに対する罹患の可能性を判定する場合について説明した。しかし、これに限らず、被写体画像のみを用いて判定することも可能である。
 上記実施形態においては、問診情報及び所見情報は、あらかじめ操作者又は対象者によって入力されるか、有線又は無線ネットワークに接続された電子カルテ装置等から受信する場合について説明した。しかし、これらに代えて、又はこれらに加えて撮影された被写体画像からこれらの情報を入手してもよい。学習用被写体画像に対して、当該学習用被写体画像に対応付けられた所見情報や問診情報を正解ラベルとして与え、これらの組をニューラルネットワークで機械学習することによって学習済み情報推定モデルを得る。そして、プロセッサ111が、当該学習済み情報推定モデルに対して被写体画像を入力として与えることで、所望の問診情報及び属性情報を得ることができる。このような問診情報及び属性情報の一例としては、性別、年齢、咽頭発赤度合い、扁桃腫脹度合い、白苔の有無等が挙げられる。これにより、操作者が問診情報及び所見情報を入力する手間を省くことができる。
 上記実施形態で説明した各学習済みモデルは、ニューラルネットワークや畳み込みニューラルネットワークを用いて生成した。しかし、これらに限らず、ニアレストネイバー法、決定木、回帰木、ランダムフォレスト等の機械学習を用いて生成することも可能である。
 上記実施形態においては、サーバ装置300において判定用画像の判別処理や判定処理が行われる場合について説明した。しかし、これらの各種処理は、処理装置100や撮影装置200、他の装置(クラウドサーバ装置などを含む)などで適宜分散して処理することが可能である。
 なお、これら変形例は、上記で具体的に説明する点を除いて、図1~図12Fで説明した一実施形態における構成、処理、手順と同様である。したがって、それらの事項の詳細な説明は省略する。また、各変形例や各実施形態で説明した各要素を適宜組み合わせるか、それらを置き換えてシステムを構成することも可能である。
 本明細書で説明される処理及び手順は、実施形態において明示的に説明されたものによってのみならず、ソフトウェア、ハードウェア又はこれらの組み合わせによっても実現可能である。具体的には、本明細書で説明された処理及び手順は、集積回路、揮発性メモリ、不揮発性メモリ、磁気ディスク、光ストレージ等の媒体に、当該処理に相当するロジックを実装することによって実現される。また、本明細書で説明される処理及び手順は、それらの処理・手順をコンピュータプログラムとして実装し、処理装置やサーバ装置を含む各種のコンピュータに実行させることが可能である。
 本明細書中で説明される処理及び手順が単一の装置、ソフトウェア、コンポーネント、モジュールによって実行される旨が説明されたとしても、そのような処理又は手順は、複数の装置、複数のソフトウェア、複数のコンポーネント、及び/又は、複数のモジュールによって実行されるものとすることができる。また、本明細書中で説明される各種情報が単一のメモリや記憶部に格納される旨が説明されたとしても、そのような情報は、単一の装置に備えられた複数のメモリ又は複数の装置に分散して配置された複数のメモリに分散して格納されるものとすることができる。さらに、本明細書において説明されるソフトウェア及びハードウェアの要素は、それらをより少ない構成要素に統合して、又は、より多い構成要素に分解することによって実現されるものとすることができる。
 1    処理システム
 100  処理装置
 200  撮影装置
 300  サーバ装置
 400  補助具
 600  操作者
 700  対象者
 

 

Claims (8)

  1.  第1の対象者を含む一又は複数の対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するように構成されたカメラと、少なくとも一つのプロセッサとを含む撮影装置であって、
     前記少なくとも一つのプロセッサが、
     前記撮影装置とネットワークを介して通信可能に接続された外部装置から通信インターフェイスを介して前記第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信し、
     前記一又は複数の対象者のうち未撮影の対象者について前記対象者情報を一覧として出力する場合に、前記外部装置において前記第1の対象者に関連付けられた第1の対象者情報が登録される前は前記一覧に前記第1の対象者情報を含むことなく出力し、前記外部装置において前記第1の対象者情報が登録された後は前記一覧に前記第1の対象者情報を含めて出力する、
     ための処理をするように構成された、撮影装置。
  2.  前記少なくとも一つのプロセッサは、前記第1の対象者情報を含めて出力された前記一覧から前記第1の対象者情報に対する選択を受け付けると、前記第1の対象者の属性情報を出力するための処理をするように構成された、請求項1に記載の撮影装置。
  3.  前記少なくとも一つのプロセッサは、前記第1の対象者情報を含めて出力された前記一覧から前記第1の対象者情報に対する選択を受け付けたのちに、前記カメラによって前記第1の対象者の自然開口部の少なくとも一部が含まれた第1の被写体画像が撮影されると、前記第1の対象者情報と前記第1の被写体画像とを対応付けて前記外部装置に送信するための処理をするように構成された、請求項1又は2に記載の撮影装置。
  4.  前記第1の被写体画像は、前記外部装置において所定の疾患に対する罹患の可能性を判定するために用いられる、請求項3に記載の撮影装置。
  5.  前記少なくとも一つのプロセッサは、前記第1の被写体画像が前記判定に用いるのに適切か否かを示す判別情報を前記外部装置から受信し、受信した前記判別情報を出力するための処理をするように構成された、請求項4に記載の撮影装置。
  6.  前記少なくとも一つのプロセッサは、前記撮影装置の少なくとも一部を被覆して前記一部と共に自然開口部に挿入される補助具の装着を促す装着表示を出力するための処理をするように構成された、請求項1~5のいずれか一項に記載の撮影装置。
  7.  第1の対象者を含む一又は複数の対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するように構成されたカメラを含む撮影装置を、
     前記撮影装置とネットワークを介して通信可能に接続された外部装置から通信インターフェイスを介して前記第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信し、
     前記一又は複数の対象者のうち未撮影の対象者について前記対象者情報を一覧として出力する場合に、前記外部装置において前記第1の対象者に関連付けられた第1の対象者情報が登録される前は前記一覧に前記第1の対象者情報を含むことなく出力し、前記外部装置において前記第1の対象者情報が登録された後は前記一覧に前記第1の対象者情報を含めて出力する、
     ためのプロセッサとして機能させるプログラム。
  8.  第1の対象者を含む一又は複数の対象者の自然開口部の少なくとも一部が含まれた被写体の画像を撮影するように構成されたカメラと少なくとも一つのプロセッサとを含む撮影装置において、前記少なくとも一つのプロセッサにより実行される方法であって、
     前記撮影装置とネットワークを介して通信可能に接続された外部装置から通信インターフェイスを介して前記第1の対象者を含む一又は複数の対象者のそれぞれに関連付けられた第1の対象者情報を含む対象者情報を受信する段階と、
     前記一又は複数の対象者のうち未撮影の対象者について前記対象者情報を一覧として出力する場合に、前記外部装置において前記第1の対象者に関連付けられた第1の対象者情報が登録される前は前記一覧に前記第1の対象者情報を含むことなく出力し、前記外部装置において前記第1の対象者情報が登録された後は前記一覧に前記第1の対象者情報を含めて出力する段階と、
     を含む方法。

     
PCT/JP2022/014695 2022-03-25 2022-03-25 撮影装置、プログラム及び方法 WO2023181417A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/014695 WO2023181417A1 (ja) 2022-03-25 2022-03-25 撮影装置、プログラム及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/014695 WO2023181417A1 (ja) 2022-03-25 2022-03-25 撮影装置、プログラム及び方法

Publications (1)

Publication Number Publication Date
WO2023181417A1 true WO2023181417A1 (ja) 2023-09-28

Family

ID=88100388

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/014695 WO2023181417A1 (ja) 2022-03-25 2022-03-25 撮影装置、プログラム及び方法

Country Status (1)

Country Link
WO (1) WO2023181417A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006119855A (ja) * 2004-10-20 2006-05-11 Olympus Medical Systems Corp レポート入力装置、医療情報記録装置、レポート入力支援方法および医療情報の記録方法
JP2007117580A (ja) * 2005-10-31 2007-05-17 Konica Minolta Medical & Graphic Inc 小規模診断システム
JP2016220946A (ja) * 2015-05-29 2016-12-28 オリンパス株式会社 内視鏡装置及び内視鏡装置の設定方法
WO2021085443A1 (ja) * 2019-10-31 2021-05-06 アイリス株式会社 撮像装置及び撮像システム
JP6935663B1 (ja) * 2021-02-08 2021-09-15 国立大学法人九州工業大学 口腔粘膜疾患診断支援システム,方法およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006119855A (ja) * 2004-10-20 2006-05-11 Olympus Medical Systems Corp レポート入力装置、医療情報記録装置、レポート入力支援方法および医療情報の記録方法
JP2007117580A (ja) * 2005-10-31 2007-05-17 Konica Minolta Medical & Graphic Inc 小規模診断システム
JP2016220946A (ja) * 2015-05-29 2016-12-28 オリンパス株式会社 内視鏡装置及び内視鏡装置の設定方法
WO2021085443A1 (ja) * 2019-10-31 2021-05-06 アイリス株式会社 撮像装置及び撮像システム
JP6935663B1 (ja) * 2021-02-08 2021-09-15 国立大学法人九州工業大学 口腔粘膜疾患診断支援システム,方法およびプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MIYAMOTOWATANABE: "Posterior Pharyngeal Wall Follicles as a Diagnostic Marker of Influenza During Physical Examination: Considering Their Meaning and Value", JOURNALS OF NIHON UNIVERSITY MEDICAL ASSOCIATION, vol. 72, no. 1, 2013, pages 11 - 18, XP093051769

Similar Documents

Publication Publication Date Title
US11583181B2 (en) Device and method for capturing, analyzing, and sending still and video images of the fundus during examination using an ophthalmoscope
JP5459423B2 (ja) 診断システム
CN108553081B (zh) 一种基于舌苔图像的诊断系统
JP6358800B2 (ja) 自動の及び遠隔の訓練された人によりガイドされる医学検査を行うためのシステム及び方法
US20210290056A1 (en) Systems and methods for capturing, annotating and sharing ophthalmic images obtained using a hand held computer
US20170007126A1 (en) System for conducting a remote physical examination
US20110176106A1 (en) Portable eye monitoring device and methods for using the same
CN108289613A (zh) 用于生理监测的系统、方法和计算机程序产品
JP2014518642A (ja) 自動の及び自己ガイドされる医学検査を行うためのシステム及び方法
JP6830082B2 (ja) 歯科分析システムおよび歯科分析x線システム
US20090203986A1 (en) Medical data collection device
CN109935316B (zh) 医疗辅助系统、信息终端装置、患者图像数据取得方法
KR20190041818A (ko) 이미지 기반 황달 진단 방법 및 장치
JP2009022446A (ja) 医療における統合表示のためのシステム及び方法
WO2021162124A1 (ja) 診断支援装置、診断支援システム及びプログラム
JP7196908B2 (ja) 眼科画像処理装置および眼科画像処理プログラム
KR102041888B1 (ko) 구강 관리 시스템
WO2023181417A1 (ja) 撮影装置、プログラム及び方法
JP2001128958A (ja) アイリス・アイリドロジ健康診断管理システム
CN115910300A (zh) 一种基于人工智能医学虚拟平台系统及信息处理方法
CN202025321U (zh) 用于进行图像质量评估的阴道镜网络系统
JP2022000763A (ja) 自動の及び遠隔の訓練された人によりガイドされる医学検査を行うためのシステム及び方法
JP2021040666A (ja) 口内撮影補助具、及びその口内撮影補助具を含む医療装置
WO2023073844A1 (ja) 処理装置、処理プログラム及び処理方法
WO2023286199A1 (ja) 処理装置、処理プログラム、処理方法及び処理システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22933554

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2024509714

Country of ref document: JP

Kind code of ref document: A