WO2016006284A1 - 画像再生制御装置および画像再生制御方法 - Google Patents
画像再生制御装置および画像再生制御方法 Download PDFInfo
- Publication number
- WO2016006284A1 WO2016006284A1 PCT/JP2015/059361 JP2015059361W WO2016006284A1 WO 2016006284 A1 WO2016006284 A1 WO 2016006284A1 JP 2015059361 W JP2015059361 W JP 2015059361W WO 2016006284 A1 WO2016006284 A1 WO 2016006284A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image
- images
- display
- series
- blink
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
Definitions
- the present invention relates to an image reproduction control device and an image reproduction control method for reproducing an image on a connected display device.
- a capsule endoscope is an apparatus having an imaging function and a wireless communication function inside a capsule-type housing. After being swallowed from the mouth of the subject, the capsule endoscope moves inside the digestive tract by a peristaltic motion or the like. The inside of the organ is sequentially imaged to acquire image data, and wirelessly transmitted to a receiving device outside the subject. The receiving device sequentially receives the image data transmitted from the capsule endoscope, and sequentially records the image data on a portable recording medium.
- the image display device takes in the image data recorded on the recording medium, performs predetermined image processing, and then plays back the in-vivo images corresponding to the taken-in image data by switching one frame at a time (frame playback).
- a doctor or the like who is an operator diagnoses the subject by checking the in-vivo image reproduced by the image display device.
- the present invention has been made in view of the above, and an object of the present invention is to provide an image reproduction control device and an image reproduction control method capable of preventing oversight of reproduced images and reducing the operation burden on the operator. To do.
- an image reproduction control device for reproducing an image on a connected display device, and a series of images are displayed on a display screen of the display device.
- a display control unit that sequentially reproduces the images, and a detection unit that detects whether an operator of the image reproduction control device is viewing the display screen with the eyes.
- the detection unit detects that the operator does not see the display screen with eyes during image reproduction, at least the operator uses the eyes to display the display screen with the reproduction positions of the series of images.
- the display device is returned to the time point when it is estimated that it is no longer seen, and the series of images is regenerated on the display device.
- the detection unit is a blink detection unit that detects an end time of the operator's blink
- the display control unit is an blink end time detected by the detection unit.
- the display control unit is based on a predetermined time corresponding to the time required for the one blink and a frame rate in the series of image reproduction processing.
- the number of frames of the image reproduced on the display device during the predetermined time is obtained, and the reproduction position is returned at least by the obtained number of frames from the blinking end time detected by the detection unit, and is reproduced again. It is characterized by.
- the display control unit has a fixed time longer than a predetermined time corresponding to the time required for one blink from the end time of the blink detected by the detection unit.
- the reproduction position is returned and the series of images is regenerated again.
- the detection unit detects a start time and an end time in a state where the operator cannot see the display screen with eyes, and the display control unit The reproduction position of the series of images is returned and regenerated until the start time in which the operator detects the display screen with his / her eyes detected by the detection unit.
- the detection unit is a blink detection unit that detects a blink start time and an end time of the operator, and the display control unit is detected by the detection unit. Based on the period between the blink start time and end time and the frame rate in the series of image reproduction processing, the image was reproduced on the display device while the operator's eyes were blinking. The number of frames of the image is obtained, and the reproduction position is returned at least by the obtained number of frames from the end time detected by the detection unit, and the series of images is regenerated again.
- the display control unit sets the reproduction position until the image reproduced on the display device is estimated to be at least when the operator stops viewing the display screen with eyes.
- the display device is made to regenerate the series of images on a screen including notification information for notifying that the image has been regenerated and regenerated again.
- the series of images are images captured by a capsule endoscope, and the display control unit is connected to the display device by the capsule endoscope.
- the captured image is played back.
- the image reproduction control method is an image reproduction control method performed by an image reproduction control device that reproduces an image on a connected display device, and sequentially reproduces a series of images on the display screen of the display device.
- the detection step of detecting whether or not the operator of the image reproduction control device is viewing the display screen with eyes during the reproduction of the series of images, and in the detection step, the operator When it is detected that the display screen is not seen with the eyes, the playback position of the series of images is returned to at least the time when it is estimated that the operator no longer sees the display screen with the eyes.
- An image regeneration step for reproducing the series of images again.
- the playback position of the series of images is returned to at least the time when it is estimated that the operator has stopped looking at the display screen with the eyes. Since the display device automatically reproduces a series of images, it is possible to realize both prevention of overlooking of the reproduced image and reduction of the operation burden on the operator.
- FIG. 1 is a schematic diagram illustrating a schematic configuration of a capsule endoscope system according to the first embodiment of the present invention.
- FIG. 2 is a block diagram schematically showing the configuration of the image reproduction control apparatus shown in FIG.
- FIG. 3 is a flowchart showing a processing procedure of image reproduction processing in the image reproduction control apparatus shown in FIG.
- FIG. 4 is a diagram for explaining the return position setting process shown in FIG.
- FIG. 5 is a diagram illustrating an example of a display screen of the display device in the first embodiment.
- FIG. 6 is a diagram illustrating another example of the display screen of the display device according to the first embodiment.
- FIG. 7 is a block diagram of the configuration of the image reproduction control apparatus according to the second embodiment.
- FIG. 1 is a schematic diagram illustrating a schematic configuration of a capsule endoscope system according to the first embodiment of the present invention.
- FIG. 2 is a block diagram schematically showing the configuration of the image reproduction control apparatus shown in FIG.
- FIG. 3 is a flow
- FIG. 8 is a flowchart showing a processing procedure of image reproduction processing in the image reproduction control apparatus shown in FIG.
- FIG. 9 is a diagram for explaining the return position setting process shown in FIG.
- FIG. 10 is a block diagram of another configuration of the image reproduction control apparatus according to the second embodiment.
- an image reproduction control device that causes a display device to reproduce an image captured by a capsule endoscope will be described as a mode for carrying out the present invention (hereinafter referred to as “embodiment”). Moreover, this invention is not limited by this embodiment. Furthermore, the same code
- FIG. 1 is a schematic diagram showing a schematic configuration of a capsule endoscope system according to Embodiment 1 of the present invention.
- a capsule endoscope system 1 according to Embodiment 1 includes a capsule endoscope 2, a receiving antenna unit 3, a receiving device 4, a cradle 5, an image reproduction control device 10, and a display device. 20.
- the capsule endoscope 2 moves through the digestive tract of the subject H by peristaltic movement of the organ and the like, and moves a predetermined part of the living body (esophagus, stomach, small intestine, large intestine, etc.)
- the image data is acquired in sequence with a period of (for example, a 0.5 second period) to acquire image data, and is superimposed on the radio signal and transmitted.
- the receiving antenna unit 3 receives the radio signal transmitted from the capsule endoscope 2 via the plurality of receiving antennas 3a to 3h attached to the subject H.
- the receiving device 4 performs predetermined signal processing on the image data received via the receiving antenna unit 3 and records it in a memory (not shown).
- the image reproduction control device 10 is configured using a workstation, takes in the image data acquired by the capsule endoscope 2 from the memory of the receiving device 4 via the cradle 5, and uses the image data for the subject. Create an image in H.
- the image reproduction control device 10 causes the created image in the subject H to be stored in a storage device (not shown), and is also reproduced on a display device 20 such as a liquid crystal display connected to the image reproduction control device 10.
- the display device 20 is attached with an imaging device 14a that faces the display screen of the display device 20 and captures the face of the operator who operates the image reproduction control device 10, and the operation captured by the imaging device 14a.
- the image showing the person's face is output to the image reproduction control device 10.
- the image reproduction control apparatus 10 is not limited to a workstation, and may be configured by a mobile device such as a laptop PC or a tablet terminal, or a wearable terminal such as a glasses type or a clock type.
- FIG. 2 is a block diagram showing a configuration of the image reproduction control apparatus 10 shown in FIG.
- the display device 20 and the storage device 30 to which the image reproduction control device 10 is connected are also shown for explanation.
- the storage device 30 stores a plurality of folders Fa for storing the image group Gg.
- the image group Gg is an image captured by the capsule endoscope 2 and is composed of a series of images that are continuous in time series.
- the image reproduction control device 10 includes an input unit 11, a data transmission / reception unit 12, a control unit 13, a blink detection unit 14, an image processing unit 15, a display control unit 16, an output unit 18, and a storage unit. 19
- the input unit 11 is realized by an input device such as a keyboard, a mouse, a touch panel, and various switches.
- the input unit 11 receives input of information and commands according to the operation of the operator.
- the data transmission / reception unit 12 is an interface that can be connected to a storage medium or a communication line such as a wired LAN or a wireless LAN.
- the data transmission / reception unit 12 is connected to the storage device 30 based on the control of the control unit 13 and receives image data of the image group Gg captured by the capsule endoscope 2 stored in the storage device 30.
- the control unit 13 is realized by hardware such as a CPU, and reads various programs stored in the storage unit 19, so that signals input via the input unit 11 and image data input from the data transmission / reception unit 12 are read. Based on the above, instructions to each unit constituting the image reproduction control device 10 and data transfer are performed to control the overall operation of the image reproduction control device 10 in an integrated manner.
- the blink detection unit 14 is one of detection units that detect eye movement such as eyelid movement, pupil movement, and focal position change.
- the operator of the image reproduction control device 10 displays the display device 20 with the eyes. Detect if you are looking at the screen. Specifically, the blink detection unit 14 detects the end time of the operator's blink and outputs the detection result to the control unit 13.
- the blink detection unit 14 processes the image of the face of the operator imaged by the imaging device 14a to detect the presence or absence of blinking eyes. When blinking eyes are detected, blinking indicating the end time of blinking eyes is detected. A detection signal is output.
- the blink detection unit 14 detects, for example, the presence or absence of blinks of the eyes by extracting a region where the eyes appear from an image captured by the imaging device 14a and performing pattern matching with a standard eye pattern.
- the blink detection unit 14 acquires grayscale data of a plurality of horizontal lines for a region in which an eye is captured in an image captured by the imaging device 14a, and white (white eye) is obtained by binarizing the grayscale data. And the black (black eye) part are separated, and the presence or absence of blinking eyes is detected based on the presence or absence of the black part and the size of the black part.
- the image processing unit 15 performs optical black subtraction processing, gain adjustment processing, image data synchronization processing, gamma correction processing, white balance (WB) adjustment processing on the image data of the image group Gg received by the data transmitting / receiving unit 12.
- Image processing such as color matrix calculation processing, color reproduction processing, and edge enhancement processing is performed.
- the display control unit 16 generates display image data to be displayed on the display device 20 from the image data of the image group processed by the image processing unit 15 or the image data of the image group received from the storage device 30. .
- the display control unit 16 converts display image data from a digital signal to an analog signal, changes the converted analog signal image data to a format such as a high-definition method, and then outputs the converted image data to the display device 20. Thereby, the display control unit 16 causes the display screen of the display device to sequentially reproduce a series of images in time series. Note that the series of images may be rearranged and sequentially reproduced based on the position of the capsule endoscope 2 when the series of images are captured.
- the display control unit 16 determines at least the playback position for the series of images displayed on the display device 20 when the operator The display device 20 is returned to the time point when it is estimated that the display screen is no longer seen, and a series of images are regenerated on the display device 20.
- the display control unit 16 includes a return position setting unit 17 that sets the return position of the reproduction position of a series of images when the blink detection unit 14 detects that the operator is not looking at the display screen with eyes.
- the output unit 18 is realized using a speaker, a printer, or the like, and outputs information related to the reproduction processing of the image data captured by the capsule endoscope 2 under the control of the control unit 13.
- the storage unit 19 is realized using a volatile memory or a non-volatile memory, and stores various programs for operating the image reproduction control device 10.
- the storage unit 19 temporarily stores information being processed by the image reproduction control device 10.
- the storage unit 19 may be configured using a memory card or the like attached from the outside of the image reproduction control device 10.
- FIG. 3 is a flowchart showing a processing procedure of image reproduction processing in the image reproduction control apparatus 10 shown in FIG.
- the display control unit 16 When information for instructing the start of image reproduction is input together with the image data of the image group to be reproduced (step S1), the display control unit 16 generates display image data for the image data to be reproduced, and displays the display device.
- a reproduction process (step S2) for reproducing on the 20 display screens is performed.
- the blink detection unit 14 Under the control of the control unit 13, the blink detection unit 14 performs blink detection processing for detecting blinks in the eyes of the operator of the image reproduction control device 10 (step S ⁇ b> 3), and the operator of the image reproduction control device 10 observes the eyes. It is detected whether or not the display screen of the display device 20 is being viewed.
- the blink detection unit 14 detects the blink of the eye of the operator, the blink detection unit 14 outputs a blink detection signal indicating the end time of the blink of the eye to the display control unit 16 via the control unit 13.
- the display control unit 16 determines whether or not the blink detection unit 14 has detected the blink of the eyes of the operator of the image reproduction control device 10 based on whether or not the blink detection signal is input (step S4).
- the display position setting unit 17 is input. Based on the blink detection signal, return position setting processing for setting the return position of the reproduction position of the image group is performed (step S5).
- the return position setting unit 17 sets the return position of the playback position of the image group at least when it is estimated that the operator has stopped viewing the display screen with his eyes.
- FIG. 4 is a diagram for explaining the return position setting process shown in FIG. (1) of FIG. 4 is a timing chart regarding blink detection processing by the blink detection unit 14.
- (2) of FIG. 4 is a schematic diagram of the time bar B indicating the reproduction position in the image group of the image that is actually reproduced on the display device 20.
- the blink detection unit 14 When the blink detection unit 14 detects the blink of the eyes of the operator, the blink detection unit 14 outputs a blink detection signal Sa indicating the blinking end time ta of the eyes to the display control unit 16 via the control unit 13.
- the return position setting unit 17 sets the time required for one blink as indicated by an arrow Yb from the reproduction position Da corresponding to the blink end time ta included in the input blink detection signal Sa. The return position is set so that the reproduction position is returned to the position Db returned by the corresponding predetermined time Tb. Since the human blinking time is about 0.10 to 0.15 (seconds), the return position setting unit 17 determines from the reproduction position Da corresponding to the blinking end time included in the input blink detection signal. Return the playback position by 0.15 (seconds).
- the return position setting unit 17 sets the playback position to a position Dc that is returned from the playback position Da by a fixed time Tc (> Tb) that is sufficiently longer than the time required for one blink. It may be set to return.
- the return position setting unit 17 also determines a predetermined time corresponding to the time required for one blink based on the predetermined time corresponding to the time required for one blink and the frame rate in the reproduction processing of the image group.
- the number of frames of the image reproduced on the display device 20 during the time is obtained, and the reproduction position is returned by at least the obtained number of frames from the blink end time detected by the blink detection unit 14. For example, assuming that the human blinking time is 0.10 (seconds) and the frame rate in the image group reproduction processing is F (frames / second), reproduction using the following equation (1):
- the number of frames for returning the reproduction position is obtained as 6 frames according to the equation (1). Return the playback position for 6 frames or more.
- the display control unit 16 returns the reproduction position of the image group to the position set by the return position setting unit 17, and performs re-generation processing for causing the display device 20 to reproduce the image of the image group again (step S6).
- the display control unit 16 returns the reproduction position to the time when it is estimated that the image reproduced on the display screen of the display device 20 together with the image to be regenerated is at least the point where the operator can no longer see the display screen with eyes. Then, the image group is reproduced again on the display device 20 on the screen including the notification information for notifying that the image is reproduced again.
- FIG. 5 is a diagram illustrating an example of a display screen of the display device 20 when a re-live image is displayed.
- a playback menu M for playing back a capsule endoscope image is displayed on the display screen of the display device 20.
- an area Ra is provided in the upper left part
- an area Rb is provided in the lower left part
- an area Rc is provided in the lower part
- an area Rd is provided in the right part.
- Subject (patient) information (for example, name, ID, date of birth, etc.) is displayed in the region Ra, an icon image for controlling image display is displayed in the region Rb, and the region Rc actually A time bar B having a slider Bn indicating the position of the image being reproduced in the entire image group is displayed, and an image G captured by the capsule endoscope 2 is reproduced in the region Rd.
- the display control unit 16 regenerates the image G displayed in the region Rd by surrounding it with a frame W having a color different from that at the time of reproduction or a thickness W different from that at the time of reproduction. Indicates that the image has been reproduced again with the playback position returned to at least the time when it is estimated that the operator has stopped viewing the display screen with his eyes.
- the display control unit 16 estimates that the image being reproduced is at least near the periphery of the image G displayed in the region Rd, and at least the operator does not see the display screen with eyes.
- the icon image A may be displayed indicating that the image has been reproduced again after returning to the reproduction position.
- the display control unit 16 may enlarge and display a portion corresponding to the re-occurring section in the time bar B of the region Rc, or may display it with a color different from the others.
- the display control unit 16 determines whether or not the image regenerated on the display device 20 is the final image of the image to be regenerated (step S7). When the display control unit 16 determines that the image regenerated on the display device 20 is not the final image of the image to be regenerated (step S7: No), the display control unit 16 returns to step S6 to regenerate the image. Continue. On the other hand, when the display control unit 16 determines that the image regenerated on the display device 20 is the final image of the image to be regenerated (step S7: Yes), the display control unit 16 returns to step S2 to display the image group.
- the image reproduction process is performed on the next image data in. That is, the display control unit 16 performs a normal image reproduction process on the image data next to the image reproduced at the blink end time detected by the blink detection unit 14.
- step S4 determines that the blink detection unit 14 has not detected the blink of the eyes of the operator of the image reproduction control device 10 (step S4: No).
- step S8 determines that the reproduced image is not the final image of the image group instructed to be reproduced (step S8: No)
- step S8: No the display control unit 16 returns to step S2 and reproduces the next image data in the image group. Process. Further, when the display control unit 16 determines that the reproduced image is the final image of the image group instructed to be reproduced (step S8: Yes), the reproduction process for the image group is ended.
- the display control unit 16 performs at least one blink from the blink end time detected by the blink detection unit 14.
- the reproduction position in the image group is returned for a predetermined time corresponding to the time required, and the display device 20 is made to reproduce the image group again.
- the image is automatically regenerated by returning to the image before blinking. Can be prevented, and the operation burden on the operator can be significantly reduced.
- blinking is an unconscious physiological reaction, it is difficult for the operator to notice the blink and return the playback position to the image that was missed by blinking. Even if there is an image that the operator has unknowingly missed, the reproduction position can be automatically returned to the image before blinking, so that it is possible to reliably prevent the reproduction image from being overlooked.
- the frame W and the icon image A are displayed to notify that the image is a re-reproduction image, so that the operator may have missed the image that is actually being reproduced. Can be recognized.
- FIG. 7 is a block diagram of the configuration of the image reproduction control apparatus according to the second embodiment.
- the image reproduction control device 210 is different from the image reproduction control device 10 in that the control unit 13, the blink detection unit 14, and the display control unit 16 are replaced with the control unit 13. Are provided with a control unit 213, a blink detection unit 214, and a display control unit 216 having the same functions.
- the blink detection unit 214 detects a start time and an end time in a state where the operator cannot see the display screen with the eyes due to the blink, and when a blink of the eyes is detected, the blink start time and the end time A blink detection signal indicating that is output.
- the display control unit 216 returns the playback position of a series of images until at least the start time when the operator detected by the blink detection unit 214 stops looking at the display screen with eyes, that is, the blink start time.
- the display control unit 216 includes a return position setting unit 217 that sets the return position of the reproduction position of the image group to the blink start time.
- FIG. 8 is a flowchart showing a processing procedure of image reproduction processing in the image reproduction control apparatus shown in FIG.
- Step S11 and step S12 are step S1 and step S2 shown in FIG.
- the blink detection unit 214 performs blink detection processing for detecting whether or not the operator of the image reproduction control device 210 blinks under the control of the control unit 213 (step S13).
- the blink detection signal is output to the display control unit 216 via the control unit 213.
- the blink detection signal indicates the blink start time and end time.
- Step S14 is step S4 shown in FIG.
- the return position setting unit 217 receives the input blink. Based on the detection signal, return position setting processing for setting the return position of the reproduction position of the image group is performed (step S15). The return position setting unit 217 sets the return position of the reproduction position of the image group to a position corresponding to the blink start time.
- FIG. 9 is a diagram for explaining the return position setting process shown in FIG. (1) of FIG. 9 is a timing chart regarding blink detection processing by the blink detection unit 214.
- (2) of FIG. 9 is a schematic diagram of the time bar B indicating the reproduction position in the image group of the image currently displayed on the display device 20.
- the blink detection unit 214 detects the blink of the eye of the operator, the blink detection signals Sd and Se indicating the blink start time td and the end time te are displayed via the control unit 213.
- the return position setting unit 217 performs the blink start time td as indicated by the arrow Yd from the reproduction position De corresponding to the blink end time te included in the input blink detection signals Sd and Se.
- the return position is set so that the playback position is returned to the corresponding position Dd.
- Step S16 is step S6 shown in FIG. As a result, on the display device 20, the image that was reproduced during the blinking time Te (see FIG. 8) is reproduced again.
- steps S17 and S18 are steps S7 and S8 shown in FIG.
- the reproduction position of the image group is returned from the reproduction position corresponding to the blink end time detected by the blink detection unit 214 to at least the position corresponding to the blink start time, and the image is displayed on the display device. Since the group is automatically regenerated, both the oversight of the reproduced image and the reduction of the operation burden on the operator can be realized as in the first embodiment. Even if you have not seen the screen for a longer time than blinking, such as when you closed your eyes for a while, the playback position of the image group is returned to the position corresponding to the time when you closed your eyes, and the image group is automatically displayed on the display device. Therefore, similar to the first embodiment, both oversight of the reproduced image and reduction of the operation burden on the operator can be realized.
- the line-of-sight detection unit 214A that detects the direction of the operator's line of sight. (One of the detection units described above) may detect whether the operator is viewing the display screen with his / her eyes.
- the line-of-sight detection unit 214A processes the image of the operator's face captured by the imaging device 14a, and detects the direction of the line of sight of the operator.
- the line-of-sight detection unit 214A detects whether the operator's line of sight is directed to the image reproduced on the display screen, and the display control unit 216 does not point the operator's line of sight to the image reproduced on the display screen. When the line-of-sight detection unit 214A detects this, the reproduction position may be returned to the point where the operator's line of sight no longer turns to the image reproduced on the display screen, and the image group may be regenerated. Further, the line-of-sight detection unit 214A is further provided with a mechanism capable of detecting the focus of the operator, detects whether the operator is focused on the image reproduced on the display screen, and is reproduced on the display screen. If the operator is out of focus, the playback position may be returned to the point in time when the focus is lost, and the image group may be regenerated.
- the image reproduction control device 10 may include both the blink detection unit 14 and the line-of-sight detection unit 214A, and detects whether the operator is viewing the display screen with his eyes by combining these detection results. Also good.
- An execution program for each process executed by the image reproduction control apparatuses 10, 210, and 210A according to the first and second embodiments is an installable format or an executable format file, such as a CD-ROM, a flexible disk, It may be configured to be recorded on a computer-readable recording medium such as a CD-R or DVD, and provided by being stored on a computer connected to a network such as the Internet and downloaded via the network. You may comprise. Further, it may be configured to be provided or distributed via a network such as the Internet.
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Biophysics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- General Physics & Mathematics (AREA)
- Endoscopes (AREA)
Abstract
本発明にかかる画像再生制御装置10は、表示装置20の表示画面に、一連の画像を順次再生させる表示制御部16と、一連の画像の再生中に、当該画像再生制御装置10の操作者が目で表示画面を見ているか否かを検出する瞬き検出部14と、を備え、表示制御部16は、瞬き検出部14が、操作者が目で表示画面を見ていないと検出した場合に、一連の画像の再生位置を、少なくとも操作者が目で表示画面を見なくなったと推定される時点まで戻して表示装置20に一連の画像を再々生させる。
Description
本発明は、接続する表示装置に画像を再生させる画像再生制御装置および画像再生制御方法に関する。
内視鏡の分野においては、患者等の被検体の消化管内に導入可能な大きさに形成されたカプセル型内視鏡の開発が進められている。カプセル型内視鏡は、カプセル型筐体の内部に撮像機能及び無線通信機能を備えた装置であり、被検体の口から飲み込まれた後、蠕動運動等によって消化管内を移動しながら被検体の臓器内部を順次撮像して画像データを取得し、被検体外部の受信装置に無線送信する。受信装置は、カプセル型内視鏡から送信された画像データを順次、受信するとともに、可搬型の記録媒体に順次、記録させる。画像表示装置は、記録媒体に記録された画像データを取り込み、所定の画像処理を施した後に、取り込んだ画像データに対応する体内画像を1フレームずつ切り替えて再生(コマ再生)する。操作者である医師等は、画像表示装置によって再生された体内画像を確認することで、被検体を診断する。
近年では、画像の見落としを防ぐために、医師等に対する視線検出の結果をもとに、見落とした可能性がある画像を判別して、画像の見落としを報知するとともに、見落とした可能性がある画像の識別番号を報知する診断支援方法が提案されている(たとえば、特許文献1参照)。
特許文献1記載の方法では、医師等は、見落とした画像を再度再生させるために、この見落とした画像を全画像の中から選択し、改めて再生を指示するという操作を行わなければならない。しかしながら、再生対象の画像がカプセル型内視鏡によって撮像された画像である場合、膨大な枚数の画像の中から見落とした画像を選択し、再度再生を指示するという煩雑な操作が、医師等の大きな負担となっていた。
本発明は、上記に鑑みてなされたものであって、再生画像の見落とし防止と、操作者の操作負担の軽減とを可能とした画像再生制御装置および画像再生制御方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明にかかる画像再生制御装置は、接続する表示装置に画像を再生させる画像再生制御装置であって、前記表示装置の表示画面に、一連の画像を順次再生させる表示制御部と、当該画像再生制御装置の操作者が目で前記表示画面を見ているか否かを検出する検出部と、を備え、前記表示制御部は、前記一連の画像の再生中に、前記検出部が、前記操作者が目で前記表示画面を見ていないと検出した場合に、前記一連の画像の再生位置を、少なくとも前記操作者が目で前記表示画面を見なくなったと推定される時点まで戻して前記表示装置に前記一連の画像を再々生させることを特徴とする。
また、本発明にかかる画像再生制御装置は、前記検出部は、前記操作者の瞬きの終了時間を検出する瞬き検出部であり、前記表示制御部は、前記検出部が検出した瞬きの終了時間から、少なくとも、一回の瞬きに要する時間に対応する所定の時間分、前記一連の画像の再生位置を戻して再々生させることを特徴とする。
また、本発明にかかる画像再生制御装置は、前記表示制御部は、前記一回の瞬きに要する時間に対応する所定の時間と、前記一連の画像の再生処理におけるフレームレートとをもとに、前記所定の時間の間に前記表示装置で再生された画像のフレーム数を求め、前記検出部が検出した瞬きの終了時間から、少なくとも前記求めたフレーム数分、再生位置を戻して再々生させることを特徴とする。
また、本発明にかかる画像再生制御装置は、前記表示制御部は、前記検出部が検出した瞬きの終了時間から、前記一回の瞬きに要する時間に対応する所定の時間よりも長い一定の時間分、再生位置を戻して前記一連の画像を再々生させることを特徴とする。
また、本発明にかかる画像再生制御装置は、前記検出部は、前記操作者が目で前記表示画面を見なくなった状態の開始時間と終了時間とを検出し、前記表示制御部は、少なくとも前記検出部が検出した前記操作者が目で前記表示画面を見なくなった状態の開始時間まで、前記一連の画像の再生位置を戻して再々生させることを特徴とする。
また、本発明にかかる画像再生制御装置は、前記検出部は、前記操作者の瞬きの開始時間と終了時間とを検出する瞬き検出部であり、前記表示制御部は、前記検出部が検出した瞬きの開始時間と終了時間との間の期間と、前記一連の画像の再生処理におけるフレームレートとをもとに、前記操作者の目が瞬きを行っていた間に前記表示装置で再生された画像のフレーム数を求め、前記検出部が検出した終了時間から、少なくとも前記求めたフレーム数分、再生位置を戻して前記一連の画像を再々生させることを特徴とする。
また、本発明にかかる画像再生制御装置は、前記表示制御部は、前記表示装置で再生されている画像が、前記少なくとも操作者が目で表示画面を見なくなったと推定される時点まで再生位置を戻して再々生された画像であることを報知する報知情報を含ませた画面で前記表示装置に前記一連の画像を再々生させることを特徴とする。
また、本発明にかかる画像再生制御装置は、前記一連の画像は、カプセル型内視鏡によって撮像された画像であって、前記表示制御部は、前記表示装置に、前記カプセル型内視鏡によって撮像された画像を再生させることを特徴とする。
また、本発明にかかる画像再生制御方法は、接続する表示装置に画像を再生させる画像再生制御装置が行う画像再生制御方法であって、前記表示装置の表示画面に、一連の画像を順次再生させる画像再生ステップと、前記一連の画像の再生中に、当該画像再生制御装置の操作者が目で前記表示画面を見ているか否かを検出する検出ステップと、前記検出ステップにおいて、前記操作者が目で前記表示画面を見ていないと検出された場合に、前記一連の画像の再生位置を、少なくとも前記操作者が目で前記表示画面を見なくなったと推定される時点まで戻して前記表示装置に前記一連の画像を再々生させる画像再々生ステップと、を含むことを特徴とする。
本発明によれば、操作者が目で表示画面を見ていないと検出された場合に、一連の画像の再生位置を、少なくとも操作者が目で表示画面を見なくなったと推定される時点まで戻して表示装置に一連の画像を自動的に再々生させるため、再生画像の見落とし防止と、操作者の操作負担の軽減との双方の実現が可能になる。
以下の説明では、本発明を実施するための形態(以下、「実施の形態」という)として、カプセル型内視鏡によって撮像された画像を表示装置に再生させる画像再生制御装置について説明する。また、この実施の形態により、この発明が限定されるものではない。さらに、図面の記載において、同一部分には同一の符号を付している。
(実施の形態1)
図1は、本発明の実施の形態1におけるカプセル型内視鏡システムの概略構成を示す模式図である。図1に示すように、実施の形態1におけるカプセル型内視鏡システム1は、カプセル型内視鏡2、受信アンテナユニット3、受信装置4、クレードル5、画像再生制御装置10、および、表示装置20を備える。
図1は、本発明の実施の形態1におけるカプセル型内視鏡システムの概略構成を示す模式図である。図1に示すように、実施の形態1におけるカプセル型内視鏡システム1は、カプセル型内視鏡2、受信アンテナユニット3、受信装置4、クレードル5、画像再生制御装置10、および、表示装置20を備える。
カプセル型内視鏡2は、被検体H内に導入された後、臓器の蠕動運動等によって被検体Hの消化管内を移動しつつ、生体部位(食道、胃、小腸、及び大腸等)を所定の周期(例えば0.5秒周期)で順次撮像して画像データを取得し、無線信号に重畳して送信する。受信アンテナユニット3は、カプセル型内視鏡2から送信された無線信号を、被検体Hに装着された複数の受信アンテナ3a~3hを介して受信する。受信装置4は、受信アンテナユニット3を介して受信した画像データに所定の信号処理を施し、メモリ(不図示)に記録する。画像再生制御装置10は、ワークステーションを用いて構成され、カプセル型内視鏡2が取得した画像データを、クレードル5を介して、受信装置4のメモリから取り込み、該画像データを用いて被検体H内の画像を作成する。画像再生制御装置10は、作成した被検体H内の画像を、記憶装置(不図示)に記憶させるほか、画像再生制御装置10に接続する液晶ディスプレイ等の表示装置20に再生させる。また、表示装置20には、表示装置20の表示画面に向かい合って、画像再生制御装置10の操作を行う操作者の顔を撮像する撮像装置14aが取り付けられており、撮像装置14aが撮像した操作者の顔が映る画像は、画像再生制御装置10に出力される。なお、画像再生制御装置10はワークステーションに限らず、ラップトップPCやタブレット端末などのモバイル機器や、メガネ型や時計型などのウェアラブル端末などで構成されていてもよい。
図2は、図1に示す画像再生制御装置10の構成を示すブロック図である。図2においては、説明のために、画像再生制御装置10が接続する表示装置20および記憶装置30についても示している。記憶装置30は、画像群Ggを格納するフォルダFaを複数記憶する。画像群Ggは、カプセル型内視鏡2によって撮像された画像であって、時系列に連続する一連の画像によって構成される。
図2に示すように、画像再生制御装置10は、入力部11、データ送受信部12、制御部13、瞬き検出部14、画像処理部15、表示制御部16、出力部18、および、記憶部19を有する。
入力部11は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現される。入力部11は、操作者の操作に応じた情報や命令の入力を受け付ける。
データ送受信部12は、記憶媒体、又は有線LANや無線LAN等の通信回線と接続可能なインタフェースである。たとえば、データ送受信部12は、制御部13の制御に基づいて記憶装置30に接続し、記憶装置30が記憶するカプセル型内視鏡2によって撮像された画像群Ggの画像データを受信する。
制御部13は、CPU等のハードウェアによって実現され、記憶部19に記憶された各種プログラムを読み込むことにより、入力部11を介して入力された信号や、データ送受信部12から入力された画像データ等に基づいて、画像再生制御装置10を構成する各部への指示やデータの転送等を行い、画像再生制御装置10全体の動作を統括的に制御する。
瞬き検出部14は、瞼の動きや瞳の動き、焦点位置の変化など、目の動きを検出する検出部の1つであり、画像再生制御装置10の操作者が目で表示装置20の表示画面を見ているか否かを検出する。具体的には、瞬き検出部14は、操作者の瞬きの終了時間を検出して、検出結果を制御部13に出力する。
瞬き検出部14は、撮像装置14aが撮像した操作者の顔の画像を処理して目の瞬きの有無を検出し、目の瞬きを検出した場合には、目の瞬きの終了時間を示す瞬き検出信号を出力する。瞬き検出部14は、たとえば、撮像装置14aによって撮像された画像から目が映る領域を抽出し、標準の目の型との間でパターンマッチングを行うことによって、目の瞬きの有無を検出する。あるいは、瞬き検出部14は、撮像装置14aによって撮像された画像のうちの目が映る領域に対して、複数の横方向ラインの濃淡データを取得し、濃淡データの二値化によって白(白目)の部分と黒(黒目)の部分とを分離し、黒の部分の有無や黒の部分の大きさをもとに目の瞬きの有無を検出する。
画像処理部15は、データ送受信部12が受信した画像群Ggの画像データに対して、オプティカルブラック減算処理、ゲイン調整処理、画像データの同時化処理、ガンマ補正処理、ホワイトバランス(WB)調整処理、カラーマトリクス演算処理、色再現処理およびエッジ強調処理等の画像処理を行う。
表示制御部16は、画像処理部15が処理した画像群の画像データ、あるいは、記憶装置30から受信した画像群の画像データから、表示装置20に表示させるための各表示用画像データを生成する。表示制御部16は、表示用画像データを、デジタル信号からアナログ信号に変換し、変換したアナログ信号の画像データをハイビジョン方式等のフォーマットに変更後、表示装置20へ出力する。表示制御部16は、これによって、表示装置の表示画面に、一連の画像を時系列に沿って順次再生させる。なお、一連の画像を撮像したときのカプセル型内視鏡2の位置に基づいて、一連の画像を並べ替えて順次再生してもよい。
表示制御部16は、瞬き検出部14が、操作者が目で表示画面を見ていないと検出した場合に、表示装置20に表示されている一連の画像に対する再生位置を、少なくとも操作者が目で表示画面を見なくなったと推定される時点まで戻して、表示装置20に一連の画像を再々生させる。表示制御部16は、瞬き検出部14が、操作者が目で表示画面を見ていないと検出した場合に、一連の画像の再生位置の戻り位置を設定する戻り位置設定部17を備える。
出力部18は、スピーカーやプリンタ等を用いて実現され、制御部13の制御にしたがい、カプセル型内視鏡2が撮像した画像データの再生処理に関する情報を出力する。
記憶部19は、揮発性メモリや不揮発性メモリを用いて実現され、画像再生制御装置10を動作させるための各種プログラムを記憶する。記憶部19は、画像再生制御装置10の処理中の情報を一時的に記憶する。記憶部19は、画像再生制御装置10の外部から装着されるメモリカード等を用いて構成されてもよい。
図3は、図1に示す画像再生制御装置10における画像再生処理の処理手順を示すフローチャートである。再生対象の画像群の画像データとともに、画像再生の開始を指示する情報が入力されると(ステップS1)、表示制御部16は、再生対象の画像データに対する表示用画像データを生成し、表示装置20の表示画面に再生させる再生処理(ステップS2)を行う。
瞬き検出部14は、制御部13の制御のもと、画像再生制御装置10の操作者の目の瞬きを検出する瞬き検出処理を行い(ステップS3)、画像再生制御装置10の操作者が目で表示装置20の表示画面を見ているか否かを検出する。瞬き検出部14は、操作者の目の瞬きを検出した場合には、目の瞬きの終了時間を示す瞬き検出信号を、制御部13を介して、表示制御部16に出力する。
表示制御部16は、瞬き検出信号の入力の有無をもとに、瞬き検出部14が、画像再生制御装置10の操作者の目の瞬きを検出したか否かを判断する(ステップS4)。
表示制御部16は、瞬き検出部14が、画像再生制御装置10の操作者の目の瞬きを検出したと判断した場合には(ステップS4:Yes)、戻り位置設定部17が、入力された瞬き検出信号をもとに、画像群の再生位置の戻り位置を設定する戻り位置設定処理を行う(ステップS5)。戻り位置設定部17は、画像群の再生位置の戻り位置を、少なくとも操作者が目で表示画面を見なくなったと推定される時点に設定する。
図4は、図3に示す戻り位置設定処理を説明するための図である。図4の(1)は、瞬き検出部14による瞬き検出処理に関するタイミングチャートである。図4の(2)は、現に表示装置20に再生されている画像の画像群における再生位置を示すタイムバーBの模式図である。
瞬き検出部14は、操作者の目の瞬きを検出した場合には、目の瞬きの終了時間taを示す瞬き検出信号Saを、制御部13を介して表示制御部16に出力する。表示制御部16では、戻り位置設定部17は、入力された瞬き検出信号Saに含まれる瞬きの終了時間taに対応する再生位置Daから、矢印Ybのように、一回の瞬きに要する時間に対応する所定の時間Tb分戻した位置Dbに再生位置を戻すように、戻り位置を設定する。人間の瞬きの時間は、0.10~0.15(秒)程度であるため、戻り位置設定部17は、入力された瞬き検出信号に含まれる瞬きの終了時間に対応する再生位置Daから、0.15(秒)分、再生位置を戻す。もちろん、戻り位置設定部17は、矢印Ycに示すように、再生位置Daから、一回の瞬きに要する時間よりも十分に長い一定の時間Tc(>Tb)分戻した位置Dcに再生位置を戻すように設定してもよい。
また、戻り位置設定部17は、一回の瞬きに要する時間に対応する所定の時間と、画像群の再生処理におけるフレームレートとをもとに、一回の瞬きに要する時間に対応する所定の時間の間に表示装置20で再生された画像のフレーム数を求め、瞬き検出部14が検出した瞬きの終了時間から、少なくとも、求めたフレーム数分、再生位置を戻す。たとえば、人間の瞬きの時間を0.10(秒)と仮定し、画像群の再生処理におけるフレームレートをF(フレーム/秒)とした場合には、下記の(1)式を用いて、再生位置を戻すフレーム数Jを演算する。
J=F×0.10 ・・・(1)
J=F×0.10 ・・・(1)
たとえば、画像群の再生処理におけるフレームレートFが60(フレーム/秒)である場合には、(1)式によって再生位置を戻すフレーム数が6フレームと求められるため、戻り位置設定部17は、6フレーム以上、再生位置を戻す。
表示制御部16は、戻り位置設定部17が設定した位置まで、画像群の再生位置を戻して、表示装置20に画像群の画像を再度再生させる再々生処理を行う(ステップS6)。この場合、表示制御部16は、再々生させる画像とともに、表示装置20の表示画面に再生されている画像が、少なくとも操作者が目で表示画面を見なくなったと推定される時点まで再生位置を戻して再々生された画像であることを報知する報知情報を含ませた画面で、表示装置20に画像群を再々生させる。
図5は、再々生画像表示時における表示装置20の表示画面の一例を示す図である。図5に示すように、表示装置20の表示画面には、カプセル型内視鏡画像再生用の再生メニューMが表示されている。再生メニューMにおいて、左側上部には領域Raが設けられ、左側下部においては領域Rbが設けられ、下部には領域Rcが設けられ、右側には領域Rdが設けられる。領域Raには、被検体(患者)情報(たとえば名前、ID、生年月日等)が表示され、領域Rbには、画像表示を制御するためのアイコン画像が表示され、領域Rcには、現に再生されている画像の画像群全体における位置を示すスライダーBnを有するタイムバーBが表示され、領域Rdには、カプセル型内視鏡2によって撮像された画像Gが再生される。表示制御部16は、再々生時には、この領域Rdに表示される画像Gを、再生時とは異なる色、または、再生時とは異なる太さの枠Wで囲うことによって、再生されている画像が、少なくとも操作者が目で表示画面を見なくなったと推定される時点まで再生位置を戻して再々生された画像であることを示す。
また、図6に示すように、表示制御部16は、この領域Rdに表示される画像Gの近傍または周縁に、再生されている画像が、少なくとも操作者が目で表示画面を見なくなったと推定される時点まで再生位置を戻して再々生された画像であることを示すアイコン画像Aを表示させてもよい。また、表示制御部16は、領域RcのタイムバーBにおける再々生区間に対応する部分を、拡大表示させてもよく、他とは異なる色を付して表示させてもよい。
表示制御部16は、表示装置20に再々生させた画像が、再々生対象の画像の最終の画像であるか否かを判断する(ステップS7)。表示制御部16は、表示装置20に再々生させた画像が、再々生対象の画像の最終の画像でないと判断した場合には(ステップS7:No)、ステップS6に戻り、画像の再々生処理を継続する。一方、表示制御部16は、表示装置20に再々生させた画像が、再々生対象の画像の最終の画像であると判断した場合には(ステップS7:Yes)、ステップS2に戻り、画像群における次の画像データに対する画像再生処理を行う。すなわち、表示制御部16は、瞬き検出部14が検出した瞬きの終了時間に再生されていた画像の次の画像データに対して、通常の画像再生処理を行う。
また、表示制御部16は、瞬き検出部14が画像再生制御装置10の操作者の目の瞬きを検出していないと判断した場合には(ステップS4:No)、再生した画像が、再生を指示された画像群の最終画像である否かを判断する(ステップS8)。表示制御部16は、再生した画像が、再生を指示された画像群の最終画像でないと判断した場合には(ステップS8:No)、ステップS2に戻り、画像群における次の画像データに対する画像再生処理を行う。また、表示制御部16は、再生した画像が、再生を指示された画像群の最終画像であると判断した場合には(ステップS8:Yes)、この画像群に対する再生処理を終了する。
人の瞬きの時間は、0.10~0.15(秒)であるため、10~15(フレーム/秒)以上のフレームレートで画像がコマ再生される場合には、瞬きをしている間に1フレーム以上の画像を見落とす可能性がある。そこで、実施の形態1では、表示制御部16は、瞬き検出部14が操作者の目の瞬きを検出した場合、瞬き検出部14が検出した瞬きの終了時間から、少なくとも、一回の瞬きに要する時間に対応する所定の時間分、画像群における再生位置を戻して表示装置20に画像群を再度再生させる。
このため、実施の形態1によれば、操作者が瞬きによって再生画像を見落とした場合であっても、自動的に、瞬き前の画像まで戻って画像が再々生されるため、再生画像の見落としを防止できるとともに、操作者の操作負担を格段に軽減することが可能になる。特に、瞬きは、無自覚な生理反応であるため、操作者が、自身の瞬きに気づいて、瞬きによって見逃した画像まで再生位置を戻すこと自体が難しいが、実施の形態1によれば、瞬きによって操作者が無自覚に見逃した画像があっても、自動的に、瞬き前の画像まで再生位置を戻すことができるため、再生画像の見落としを確実に防止することができる。
また、再々生処理の場合には、枠Wやアイコン画像Aを表示させて、再々生画像であることを報知するため、操作者は、現に再生されている画像が、見逃したおそれがある画像であることを認識することができる。
(実施の形態2)
次に、実施の形態2について説明する。図7は、実施の形態2にかかる画像再生制御装置の構成を示すブロック図である。
次に、実施の形態2について説明する。図7は、実施の形態2にかかる画像再生制御装置の構成を示すブロック図である。
図7に示すように、実施の形態2にかかる画像再生制御装置210は、画像再生制御装置10と比して、制御部13、瞬き検出部14および表示制御部16に代えて、制御部13と同様の機能を有する制御部213、瞬き検出部214および表示制御部216を備える。
瞬き検出部214は、瞬きによって操作者が目で表示画面を見なくなった状態の開始時間と終了時間とを検出し、目の瞬きを検出した場合には、目の瞬きの開始時間と終了時間とを示す瞬き検出信号を出力する。
表示制御部216は、少なくとも瞬き検出部214が検出した操作者が目で表示画面を見なくなった状態の開始時間、すなわち瞬きの開始時間まで、一連の画像の再生位置を戻す。表示制御部216は、画像群の再生位置の戻り位置を、瞬きの開始時間に設定する戻り位置設定部217を有する。
図8は、図7に示す画像再生制御装置における画像再生処理の処理手順を示すフローチャートである。ステップS11およびステップS12は、図3に示すステップS1およびステップS2である。
瞬き検出部214は、制御部213の制御のもと、画像再生制御装置210の操作者の目の瞬きの有無を検出する瞬き検出処理を行う(ステップS13)。瞬き検出部214は、操作者の目の瞬きを検出した場合には目の瞬きの開始時間と終了時間とを示す瞬き検出信号を、制御部213を介して、表示制御部216に出力する。ステップS14は、図3に示すステップS4である。
表示制御部216は、瞬き検出部214が画像再生制御装置210の操作者の目の瞬きを検出したと判断した場合には(ステップS14:Yes)、戻り位置設定部217が、入力された瞬き検出信号をもとに、画像群の再生位置の戻り位置を設定する戻り位置設定処理を行う(ステップS15)。戻り位置設定部217は、画像群の再生位置の戻り位置を、瞬きの開始時間に対応する位置に設定する。
図9は、図8に示す戻り位置設定処理を説明するための図である。図9の(1)は、瞬き検出部214による瞬き検出処理に関するタイミングチャートである。図9の(2)は、現に表示装置20に表示されている画像の画像群における再生位置を示すタイムバーBの模式図である。
瞬き検出部214は、操作者の目の瞬きを検出した場合には、目の瞬きの開始時間tdと終了時間teとを示す瞬き検出信号Sd,Seを、制御部213を介して、表示制御部216に出力する。表示制御部216では、戻り位置設定部217は、入力された瞬き検出信号Sd,Seに含まれる瞬きの終了時間teに対応する再生位置Deから、矢印Ydのように、瞬きの開始時間tdに対応する位置Ddに再生位置を戻すように戻り位置を設定する。ステップS16は、図3に示すステップS6である。この結果、表示装置20では、瞬きがあった時間Te(図8参照)の間に再生されていた画像が、再度再生される。
また、戻り位置設定部217は、瞬き検出部214が検出した瞬きの開始時間と終了時間との期間と、画像群の再生処理におけるフレームレートとをもとに、操作者の目が瞬きを行っていた間に表示装置20で再生された画像のフレーム数を求め、瞬き検出部214が検出した終了時間から、少なくとも、求めたフレーム数分、再生位置を戻すように戻り位置を設定してもよい。たとえば、瞬き検出部214が検出した瞬きの開始時間と終了時間との間の時間がE(秒)である場合には、画像群の再生処理におけるフレームレートF(フレーム/秒)と、時間Eから、下記の(2)式を用いて、再生位置を戻すフレーム数Jを演算する。
J=F×E ・・・(2)
J=F×E ・・・(2)
なお、ステップS17およびステップS18は、図3に示すステップS7およびステップS8である。
この実施の形態2によれば、瞬き検出部214が検出した瞬きの終了時間に対応する再生位置から、少なくとも瞬きの開始時間に対応する位置まで画像群の再生位置を戻して、表示装置に画像群を自動的に再々生させるため、実施の形態1と同様に、再生画像の見落としと、操作者の操作負担の軽減との双方を実現することができる。また、しばらく目を閉じていたなど、瞬きよりも長い時間画面を見ていなかった場合でも、目を閉じた時間に対応する位置まで画像群の再生位置を戻して、表示装置に画像群を自動的に再々生させるため、実施の形態1と同様に、再生画像の見落としと、操作者の操作負担の軽減との双方を実現することができる。
なお、本実施の形態2では、瞬き検出部214を備えた例を説明したが、もちろん、図10に示す画像再生制御装置210Aのように、操作者の視線の向きを検出する視線検出部214A(前述した検出部の1つ)によって、操作者が目で表示画面を見ているか否かを検出してもよい。視線検出部214Aは、撮像装置14aが撮像した操作者の顔の画像を処理して、操作者の視線の向きを検出する。視線検出部214Aは、操作者の視線が表示画面に再生されている画像に向いているかを検出し、表示制御部216は、表示画面に再生されている画像に操作者の視線が向いていないことを視線検出部214Aが検出した場合には、表示画面に再生されている画像に操作者の視線が向かなくなった時点まで再生位置を戻して、画像群を再々生してもよい。また、視線検出部214Aに、さらに操作者の焦点が検出できる機構を設け、操作者が表示画面に再生されている画像に焦点を合わせているかを検出して、表示画面に再生されている画像に操作者の焦点が合っていない場合には、焦点が合わなくなった時点まで再生位置を戻して、画像群を再々生してもよい。
さらに、画像再生制御装置10は瞬き検出部14と視線検出部214Aの両方を備えていてもよく、これらの検出結果を組み合わせて操作者が目で表示画面を見ているか否かを検出してもよい。
また、本実施の形態1,2にかかる画像再生制御装置10,210,210Aで実行される各処理に対する実行プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク、CD-R、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよく、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、インターネット等のネットワーク経由で提供または配布するように構成してもよい。
1 カプセル型内視鏡システム
2 カプセル型内視鏡
3 受信アンテナユニット
3a~3h 受信アンテナ
4 受信装置
5 クレードル
10,210,210A 画像再生制御装置
11 入力部
12 データ送受信部
13,213 制御部
14,214 瞬き検出部
15 画像処理部
16,216 表示制御部
17,217 戻り位置設定部
18 出力部
19 記憶部
20 表示装置
30 記憶装置
214A 視線検出部
H 被検体
2 カプセル型内視鏡
3 受信アンテナユニット
3a~3h 受信アンテナ
4 受信装置
5 クレードル
10,210,210A 画像再生制御装置
11 入力部
12 データ送受信部
13,213 制御部
14,214 瞬き検出部
15 画像処理部
16,216 表示制御部
17,217 戻り位置設定部
18 出力部
19 記憶部
20 表示装置
30 記憶装置
214A 視線検出部
H 被検体
Claims (9)
- 接続する表示装置に画像を再生させる画像再生制御装置であって、
前記表示装置の表示画面に、一連の画像を順次再生させる表示制御部と、
当該画像再生制御装置の操作者が目で前記表示画面を見ているか否かを検出する検出部と、
を備え、
前記表示制御部は、前記一連の画像の再生中に、前記検出部が、前記操作者が目で前記表示画面を見ていないと検出した場合に、前記一連の画像の再生位置を、少なくとも前記操作者が目で前記表示画面を見なくなったと推定される時点まで戻して前記表示装置に前記一連の画像を再々生させることを特徴とする画像再生制御装置。 - 前記検出部は、前記操作者の瞬きの終了時間を検出する瞬き検出部であり、
前記表示制御部は、前記検出部が検出した瞬きの終了時間から、少なくとも、一回の瞬きに要する時間に対応する所定の時間分、再生位置を戻して前記一連の画像を再々生させることを特徴とする請求項1に記載の画像再生制御装置。 - 前記表示制御部は、前記一回の瞬きに要する時間に対応する所定の時間と、前記一連の画像の再生処理におけるフレームレートとをもとに、前記所定の時間の間に前記表示装置で再生された画像のフレーム数を求め、前記検出部が検出した瞬きの終了時間から、少なくとも前記求めたフレーム数分、再生位置を戻して前記一連の画像を再々生させることを特徴とする請求項2に記載の画像再生制御装置。
- 前記表示制御部は、前記検出部が検出した瞬きの終了時間から、前記一回の瞬きに要する時間に対応する所定の時間よりも長い一定の時間分、再生位置を戻して前記一連の画像を再々生させることを特徴とする請求項2に記載の画像再生制御装置。
- 前記検出部は、前記操作者が目で前記表示画面を見なくなった状態の開始時間と終了時間とを検出し、
前記表示制御部は、少なくとも前記検出部が検出した前記操作者が目で前記表示画面を見なくなった状態の開始時間まで、再生位置を戻して前記一連の画像を再々生させることを特徴とする請求項1に記載の画像再生制御装置。 - 前記検出部は、前記操作者の瞬きの開始時間と終了時間とを検出する瞬き検出部であり、
前記表示制御部は、前記検出部が検出した瞬きの開始時間と終了時間との間の期間と、前記一連の画像の再生処理におけるフレームレートとをもとに、前記操作者の目が瞬きを行っていた間に前記表示装置で再生された画像のフレーム数を求め、前記検出部が検出した終了時間から、少なくとも前記求めたフレーム数分、再生位置を戻して前記一連の画像を再々生させることを特徴とする請求項5に記載の画像再生制御装置。 - 前記表示制御部は、前記表示装置で再生されている画像が、前記少なくとも操作者が目で表示画面を見なくなったと推定される時点まで再生位置を戻して再々生された画像であることを報知する報知情報を含ませた画面で前記表示装置に前記一連の画像を再々生させることを特徴とする請求項1に記載の画像再生制御装置。
- 前記一連の画像は、カプセル型内視鏡によって撮像された画像であって、
前記表示制御部は、前記表示装置に、前記カプセル型内視鏡によって撮像された画像を順次再生させることを特徴とする請求項1に記載の画像再生制御装置。 - 接続する表示装置に画像を再生させる画像再生制御装置が行う画像再生制御方法であって、
前記表示装置の表示画面に、一連の画像を順次再生させる画像再生ステップと、
前記一連の画像の再生中に、当該画像再生制御装置の操作者が目で前記表示画面を見ているか否かを検出する検出ステップと、
前記検出ステップにおいて、前記操作者が目で前記表示画面を見ていないと検出された場合に、前記一連の画像の再生位置を、少なくとも前記操作者が目で前記表示画面を見なくなったと推定される時点まで戻して前記表示装置に前記一連の画像を再々生させる画像再々生ステップと、
を含むことを特徴とする画像再生制御方法。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014141051 | 2014-07-09 | ||
| JP2014-141051 | 2014-07-09 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2016006284A1 true WO2016006284A1 (ja) | 2016-01-14 |
Family
ID=55063930
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2015/059361 Ceased WO2016006284A1 (ja) | 2014-07-09 | 2015-03-26 | 画像再生制御装置および画像再生制御方法 |
Country Status (1)
| Country | Link |
|---|---|
| WO (1) | WO2016006284A1 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019078237A1 (ja) * | 2017-10-18 | 2019-04-25 | 富士フイルム株式会社 | 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005317151A (ja) * | 2004-04-30 | 2005-11-10 | Nippon Telegr & Teleph Corp <Ntt> | マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム |
| JP2006247371A (ja) * | 2005-02-09 | 2006-09-21 | Pentax Corp | 電子内視鏡システム |
| JP2008237369A (ja) * | 2007-03-26 | 2008-10-09 | Canon Inc | 画像処理装置及び画像処理方法 |
-
2015
- 2015-03-26 WO PCT/JP2015/059361 patent/WO2016006284A1/ja not_active Ceased
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005317151A (ja) * | 2004-04-30 | 2005-11-10 | Nippon Telegr & Teleph Corp <Ntt> | マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム |
| JP2006247371A (ja) * | 2005-02-09 | 2006-09-21 | Pentax Corp | 電子内視鏡システム |
| JP2008237369A (ja) * | 2007-03-26 | 2008-10-09 | Canon Inc | 画像処理装置及び画像処理方法 |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019078237A1 (ja) * | 2017-10-18 | 2019-04-25 | 富士フイルム株式会社 | 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置 |
| US11426054B2 (en) | 2017-10-18 | 2022-08-30 | Fujifilm Corporation | Medical image processing system, endoscope system, diagnosis support apparatus, and medical service support apparatus |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2010035756A (ja) | 診断支援装置及び診断支援方法 | |
| EP2682050B1 (en) | Medical information recording apparatus | |
| US20130267873A1 (en) | Systems and methods for monitoring patients with real-time video | |
| US20190133425A1 (en) | Endoscope system, terminal device, server, and transmission method | |
| US8732546B2 (en) | Radio receiver with an error correction code detector and with a correction unit | |
| US20160323514A1 (en) | Medical video recording and reproducing system and medical video recording and reproducing device | |
| JP4885432B2 (ja) | 画像表示装置、画像表示方法および画像表示プログラム | |
| JP2008119145A (ja) | 画像表示方法および画像表示装置 | |
| JPWO2016072288A1 (ja) | 内視鏡装置、および、内視鏡装置の動作方法、並びにプログラム | |
| US10932648B2 (en) | Image processing apparatus, image processing method, and computer-readable recording medium | |
| JP6129458B1 (ja) | 内視鏡プロセッサ | |
| JP4823659B2 (ja) | 生体内画像表示装置 | |
| WO2016006284A1 (ja) | 画像再生制御装置および画像再生制御方法 | |
| JP4804739B2 (ja) | 画像表示装置、画像表示方法および画像表示プログラム | |
| US20200186766A1 (en) | Information processing apparatus, image capturing apparatus, and information processing method | |
| JP6324079B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
| JP2012042717A (ja) | 表示方法および装置 | |
| WO2012042966A1 (ja) | 画像表示装置、画像表示方法および画像表示プログラム | |
| JP7748976B2 (ja) | 症状記録装置、症状記録方法、及びプログラム | |
| JP4891566B2 (ja) | 画像表示装置 | |
| JP5927369B2 (ja) | 内視鏡ビデオシステム及びビデオプロセッサ | |
| JP2007058687A (ja) | マルチディスプレイ装置及び表示装置 | |
| JP7612831B2 (ja) | 画像処理装置、画像処理方法、及び記録媒体 | |
| JP2019185634A (ja) | コーチング支援装置及びプログラム | |
| JP2012217647A (ja) | 画像処理装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 15819583 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| NENP | Non-entry into the national phase |
Ref country code: JP |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 15819583 Country of ref document: EP Kind code of ref document: A1 |