WO2011070845A1 - 頭部装着型表示装置および頭部装着型表示システム - Google Patents
頭部装着型表示装置および頭部装着型表示システム Download PDFInfo
- Publication number
- WO2011070845A1 WO2011070845A1 PCT/JP2010/067461 JP2010067461W WO2011070845A1 WO 2011070845 A1 WO2011070845 A1 WO 2011070845A1 JP 2010067461 W JP2010067461 W JP 2010067461W WO 2011070845 A1 WO2011070845 A1 WO 2011070845A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- video
- image
- input
- unit
- observation site
- Prior art date
Links
- 210000003128 head Anatomy 0.000 claims abstract description 12
- 238000001514 detection method Methods 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 23
- 238000000605 extraction Methods 0.000 claims description 9
- 239000000284 extract Substances 0.000 claims description 5
- 238000003780 insertion Methods 0.000 claims description 5
- 230000037431 insertion Effects 0.000 claims description 5
- 230000007423 decrease Effects 0.000 claims description 2
- 238000000034 method Methods 0.000 description 15
- 230000001133 acceleration Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 9
- 238000005286 illumination Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000002674 endoscopic surgery Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 239000006059 cover glass Substances 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000013013 elastic material Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 210000000214 mouth Anatomy 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 210000001835 viscera Anatomy 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/00048—Constructional features of the display
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/50—Supports for surgical instruments, e.g. articulated arms
- A61B2090/502—Headgear, e.g. helmet, spectacles
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0118—Head-up displays characterised by optical features comprising devices for improving the contrast of the display / brillance control visibility
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B5/00—Optical elements other than lenses
- G02B5/30—Polarising elements
Definitions
- the present invention relates to a head-mounted display device and a head-mounted display system.
- a spectacle-type or goggles-type head mounted display may be used in endoscopic surgery (see, for example, Patent Document 1).
- the HMD includes a frame that is worn on the head and a display element that receives an image from the endoscope.
- a wearer wearing the HMD can observe an endoscopic image inside the body without changing the posture while operating the instrument or the like at the operation site by moving the line of sight to the display element arranged in front of the eyes. .
- the display element arranged in front of the wearer's eyes also displays an image observed by the endoscope while the endoscope is being inserted / removed inside / outside the body or washed. As described above, there is a problem that an image unnecessary for the wearer is displayed during the operation.
- the present invention has been made in view of the above-described circumstances, and an object thereof is to provide a head-mounted display device and a head-mounted display system that can switch an image unnecessary for the wearer.
- a video input unit to which video is input and a head mounted on the wearer's head and supported so as to be placed in front of the wearer's eyes are input to the video input unit.
- the head-mounted display device includes a control unit that displays the input video on the video display unit when it is determined that the video is a video.
- the wearer when the wearer wears the wearing frame, the wearer inputs the video imaged by the imaging device or the like to the video input unit, so that the wearer can use the imaging device without changing his / her posture. You can see the shot video in front of you.
- the control unit causes the video display unit to display the input image when the video determination unit determines that the input image input from the imaging device or the like is a video of the observation site of the subject. That is, an unnecessary input image can be switched while displaying an input image necessary for the wearer.
- the first video storage unit that stores the input video the second video storage unit that stores a predetermined reference video, and the input video stored in the first video storage unit
- a similarity determination unit that determines whether or not the reference image stored in the second image storage unit is similar to the reference image, and the image determination unit uses the similarity determination unit to convert the input image from the reference image.
- the control unit When it is determined that they are similar, it is determined whether the input image is an image of a non-observation part other than the observation part or an image of the observation part, and the control unit
- the video determination unit determines that the input video is an image of the non-observation site, the input video is not displayed on the video display unit, and the video determination unit displays the input video as the video of the observation site.
- Video may be configured to be displayed on the video display unit.
- the input image is moved between the observation region and the non-observation region by using the image captured in the process of moving the field of view of the imaging device from the observation region to the non-observation region as a reference image. This can be easily determined.
- the reference image may be an image obtained by photographing an opening of a cylindrical trocar from which an endoscope can be inserted and removed.
- the endoscope tip is opened at the opening of the trocar when the endoscope is inserted into the body. It is determined that the input video has become an observation site before exiting from the camera, while when the endoscope is removed from the body, it is determined that the endoscope has become a non-observation site after being stored in the trocar. . Thereby, it is possible to quickly and reliably determine the movement between the observation site and the non-observation site of the input video.
- a video storage unit that stores the input video
- a feature extraction unit that extracts a predetermined feature portion from the input video stored in the video storage unit
- extraction by the feature extraction unit A motion detection unit that detects a motion of the feature portion that has been detected, and the video determination unit detects when the motion of the feature portion detected by the motion detection unit continues in a substantially same direction for a predetermined time. Determining whether the input image is an image of a non-observation region other than the observation region or an image of the observation region, and the control unit determines whether the input image is the non-observation by the image determination unit. When it is determined that the image is a part image, the input image is not displayed on the image display unit, and when the input image is determined by the image determination unit to be an image of the observation region, the input image is displayed.
- Video table It may be configured to display the part.
- the characteristic portion may be a contour when an opening of a cylindrical trocar into which an endoscope can be inserted and removed is photographed from the inside.
- a video storage unit that stores the input video
- a luminance distribution detection unit that detects a luminance distribution of a predetermined line of the input video stored in the video storage unit
- the luminance distribution detection unit It is determined whether or not the luminance distribution detected by the method is bipolarized into a low luminance region having a luminance value lower than a predetermined threshold value and a high luminance region having a luminance value higher than the predetermined threshold value.
- a video processing unit that detects a line width of the low luminance area, and the video determination unit increases the line width of the low luminance region detected by the video processing unit over time.
- the input image is an image of a non-observation region other than the observation region, and the line width of the low luminance region detected by the image processing unit decreases with time, the input image Is the image of the observation site It may be determined to that.
- a video switching unit that switches a video to be input to the video display unit between the input video and another arbitrary video
- the control unit is configured so that the video is input by the video determination unit.
- the video switching unit switches to the input image
- the video determination unit determines that the input image is a non-observation site other than the observation site
- the video switching unit may switch to the arbitrary video. In this way, when the input video is a non-observation site, an arbitrary video can be displayed on the video display unit.
- control unit turns on the display of the video display unit when the video determination unit determines that the input video is a video of the observation site, and the video determination unit
- the display of the video display unit may be turned off when it is determined that the input video is a non-observation site other than the observation site. In this way, when the input video is a non-observation site, the video display unit can be turned off.
- a video acquisition unit may be provided that acquires a video of the subject and inputs the acquired video to the video input unit.
- an endoscope is provided with a motion detection unit that detects a motion in the insertion direction at the distal end portion, and an endoscope video imaged by the endoscope is the video input unit.
- a head-mounted display system comprising any one of the head-mounted display devices described above.
- FIG. 1 is an overall configuration diagram of a head-mounted display device according to an embodiment of the present invention.
- FIG. 2 is a functional block diagram of the head-mounted display device of FIG. 1. It is a figure which shows the structure of a video display part. It is a figure which shows an example of a reference
- FIG. 11 is a functional block diagram of the head-mounted display device of FIG. 10.
- 1 is an overall configuration diagram of a head-mounted display system according to an embodiment of the present invention. It is a figure which shows the structure of the endoscope used with the head mounted display system of FIG. It is a functional block diagram of the head mounted display system of FIG.
- a head-mounted display device (HMD) 1 according to an embodiment of the present invention will be described below with reference to the drawings.
- the HMD 1 according to the present embodiment is for observing an image of the image display unit 3 placed in front of the user with the mounting frame 2 mounted on the head.
- the mounting frame 2 mounted on the head.
- the HMD 1 includes a video input unit 4 to which video (endoscopic video) observed using an endoscope is input, and an endoscopic video input to the video input unit 4 (
- a signal processing unit 5 that converts the format of the input video
- a frame memory (first storage unit) 6 that stores the endoscopic video
- a reference memory (second storage) that stores a preselected reference video 7
- a similarity determination unit 8 that determines whether or not the endoscopic video is similar to the reference video
- a video determination unit that determines whether or not the endoscopic video is an image of an observation site in the body.
- 9 and a control unit 10 for controlling the display of the video display unit 3.
- “internal body” means the inside of the body, and is a concept including not only a body wall and internal organs but also a body cavity and an oral cavity.
- the mounting frame 2 is formed in an annular shape so as to surround the head of the wearer wearing the HMD 1.
- the mounting frame 2 may include a belt (not shown) or the like so that the length can be adjusted according to the size of the head of the wearer.
- the mounting frame 2 is provided with a head contact portion 2a made of an elastic material at a position arranged on the frontal head side so as to exactly fit the shape of the head of the wearer.
- the video display unit 3 is supported by the mounting frame 2 so as to be disposed at a position that blocks a part of the field of view of the wearer when the wearer wears the mounting frame 2. Accordingly, the wearer can view the video on the video display unit 3 by moving the line of sight while directly viewing the peripheral portion of the video display unit 3.
- “viewing directly” means that the wearer directly views the object without using the video display unit 3.
- the video display unit 3 includes a display element 3a that displays the video input to the video input unit 4, and a prism 3b that guides the video displayed on the display element 3a to the eyes of the wearer. I have.
- the display element 3a a display using LCD (liquid crystal), OLED (organic EL), LCOS (reflection liquid crystal), or the like is used.
- the video display unit 3 can be switched between a state in which the display element 3a is turned on and video display is turned on and a state in which the display element 3a is turned off and video display is turned off by a switch (not shown). Yes.
- the video input unit 4 receives an endoscope video imaged by the endoscope.
- the endoscopic video is also input to a monitor (not shown) so that a person other than the wearer of the HMD 1 can observe the endoscopic video on the monitor.
- the video input unit 4 converts the endoscopic video into a signal that can be processed by the signal processing unit 5.
- the signal processing unit 5 appropriately changes the format of the endoscope video input to the video input unit 4. For example, an interlaced video signal is changed to a progressive video signal.
- the frame memory 6 stores the endoscope video whose format has been converted by the signal processing unit 5 in time series in units of frames.
- the reference memory 7 records the reference video A.
- the reference image A is an image obtained by photographing the opening 11a of the trocar 11 from the inside of the trocar 11 inserted in the patient's body in the past endoscopic surgery, as shown in FIG. . That is, the reference image A is an image when the distal end of the endoscope is disposed in the vicinity of the opening 11a while the endoscope is passing through the trocar 11.
- the contrast between the inner surface of the trocar 11 and the dark body viewed through the opening 11a is clear. Therefore, the trocar 11 has an inner surface covered with a material having a high brightness or a material such as a metal that reflects the illumination light of the endoscope.
- the similarity determination unit 8 sequentially determines whether or not the frame image of the endoscopic image stored in the frame memory 6 is similar to the reference image A.
- the similarity determination unit 8 determines that the frame image is similar to the reference image A
- the similarity determination unit 8 outputs a signal to that effect to the image determination unit 9.
- the method for determining whether or not the frame image and the reference image A are similar is not particularly limited in the present embodiment.
- a known method such as a method using the correlation between these two images or a method using the difference between the pixels is used to determine whether these images are similar.
- the image determination unit 9 determines whether the endoscopic image is an image of an observation site in the patient (subject) body or an image of a non-observation site other than that. That is, when the video determination unit 9 receives a signal from the similarity determination unit 8 that the frame video is similar to the reference video A, the video determination unit 9 switches the determination to the other. More specifically, when the video determination unit 9 determines that the endoscopic video is “the image of the observation site” until receiving the signal from the similarity determination unit 8, When the above signal is received, the determination is switched to “the image of the non-observed part”.
- the video determination unit 9 determines that the endoscopic video is “a video of a non-observed part” until the signal from the similarity determination unit 8 is received, the signal from the similarity determination unit 8 Is switched to a determination that the image is an observation site image.
- the video determination unit 9 is set so that the endoscopic video is a video of a non-observation site.
- the video determination unit 9 when the video determination unit 9 first receives a signal from the similarity determination unit 8, the endoscope video is set as the video of the non-observation site as an initial state. The determination is switched by determining that the image has been changed to the image of the observation site. When the video determination unit 9 receives a signal from the similarity determination unit 8 next time, the video determination unit 9 switches from the determination that the endoscopic image is the image of the observation region to the determination that the image is the image of the non-observation region.
- the video determination unit 9 switches alternately between determination that the endoscopic video is an image of an observation site and determination that the video is an image of a non-observation site.
- the control unit 10 When the video determination unit 9 determines that the endoscopic video is an image of the observation site, the control unit 10 turns on the display of the endoscopic video on the video display unit 3 using a switch. In addition, when the video determination unit 9 determines that the endoscopic video is a non-observation site video, the control unit 10 turns off the display of the endoscopic video on the video display unit 3 using a switch. It has become.
- the operation of the HMD 1 configured as described above will be described below.
- the surgeon wears the HMD 1 according to the present embodiment on the head and starts the operation while viewing the patient directly.
- there will be a scopist who operates the endoscope and photographs the surgical part inside the body.
- an endoscopic image outside the body is displayed on the monitor.
- the video display unit 3 keeps the video disappeared.
- the endoscope image is displayed on the video display unit 3 immediately before the endoscope exits the trocar 11 from the trocar 11.
- the surgeon performs an operation by operating an instrument or the like while viewing the hand directly while referring to the endoscope image of the image display unit 3 while appropriately shifting the line of sight.
- an endoscope image is displayed from the front of the surgeon immediately after the endoscope is stored in the trocar 11. Disappear. Thereafter, the video on the video display unit 3 disappears until the scopist inserts the endoscope into the trocar 11 again.
- the display of the video display unit 3 is turned on or off at the timing when the endoscope is inserted into or removed from the trocar 11. This eliminates the need for the operator to view unnecessary endoscope images in front of the eyes, such as when the endoscope is passing through the trocar 11 or while the endoscope is being cleaned. Moreover, such an unnecessary endoscopic image may be an unpleasant image depending on the surgeon, which may hinder the surgeon's concentration or give unnecessary stress to the surgeon. According to this embodiment, there is an advantage that it is possible to prevent such stress on the operator. In addition, since the display on the video display unit 3 can be switched at an appropriate timing, there is no need for an operator to operate the video display unit 3 or to indicate the timing for switching the display, and the operator can be saved without burden. There is.
- the display of the video display unit 3 is turned off when the endoscopic video becomes a video of a non-observation site. Instead, another video is displayed on the video display unit 3. It may be displayed.
- the HMD 1 includes a sub-memory or another video input unit 12 and a video switching unit 13 that switches a video to be input to the video display unit 3. If it is necessary to change the format of the endoscopic video input to the video input unit 12, a signal processing unit (not shown) may be provided between the video input unit 12 and the video switching unit 13.
- videos that do not cause discomfort to the surgeon are stored in the sub memory 12 in advance.
- an external device video such as a patient's vitals or an electrocardiogram is input to the other video input unit 12.
- the control unit 10 inputs the video display unit 3 from the video input unit 4 to the sub memory or another video input.
- the video switching unit 13 is controlled to switch to the unit 12.
- the video display unit 3 displays an endoscopic video or an arbitrary video other than the endoscopic video in accordance with the switching operation of the video switching unit 13. Even if it does in this way, when an endoscopic image
- the HMD 1 includes a feature portion extraction unit 14 that extracts a feature portion from an endoscopic video, and a motion detection unit 15 that detects the motion of the feature portion.
- the feature portion extraction unit 14 extracts the outline of the opening of the trocar 11 as a feature portion from the frame image stored in the frame memory (image storage unit) 6.
- the contour of the opening of the trocar 11 can be extracted by spatially differentiating the luminance at each position using the difference in luminance between the bright inner surface of the trocar 11 and the dark body viewed through the opening.
- a reference memory is provided, and an image of the opening portion of the trocar 11 is stored as a template image in the reference memory. Then, the feature portion extraction unit 14 may extract the outline of the trocar 11 by searching a region similar to the template video from the frame video.
- the motion detection unit 15 detects the motion vector of the feature portion from the change in the position of the feature portion extracted by the feature portion extraction unit 14 in each frame image for the continuous frame images.
- the video determination unit 9 determines that the endoscopic video is an image of a non-observation site and the observation site when the direction of the motion vector detected by the motion detection unit 15 is substantially the same over a predetermined time. The judgment that it is a video is switched alternately. Even in this way, it is possible to reduce the surgeon's stress by appropriately switching the display of the video display unit 3 while determining the endoscopic video necessary for the surgeon and the unnecessary endoscopic video.
- the determination as to whether the endoscopic image is an image of an observation site or a non-observation site may be made based on the luminance distribution of the endoscopic image.
- a luminance distribution detection unit 16 that detects the luminance distribution of a predetermined scanning line of the endoscopic video and a video processing unit 17 that determines and processes the shape of the luminance distribution are provided. .
- the luminance distribution detection unit 16 sequentially creates a luminance graph (luminance distribution) of the scanning line at a predetermined position for each frame image stored in the frame memory 6.
- a luminance graph luminance distribution
- the luminance graph in the scanning line a has a luminance value at the middle position as shown in FIG. 8B. Bipolarization into a high luminance region with a high brightness and a low luminance region with a low luminance value.
- the endoscope moves in the trocar 11
- the size of the opening 11a in the frame image changes as shown in FIG. 9A, and on the scanning line a occupied by the low luminance area as shown in FIG. 9B.
- the line widths W1 and W2 change.
- the luminance distribution detection unit 16 sets 2 for each frame image before creating a luminance graph by setting a pixel having a luminance equal to or higher than a predetermined threshold to white and a pixel having a luminance lower than the predetermined threshold to 2 It may be converted into a value.
- the video processing unit 17 determines whether or not the luminance graph is bipolar in a region where the luminance value detected by the luminance distribution detection unit 16 is higher than a predetermined threshold and a region lower than the predetermined threshold. If the video processing unit 17 determines that the luminance graph is bipolar, the video processing unit 17 calculates the line width W1 of the low-luminance region, and similarly calculates the line width W2 for the next frame video. W1 is compared with the line width W2.
- the video determination unit 9 determines that the endoscope has been inserted into the body close to the opening 11a, and determines the video of the observation site. Switch to.
- the video determination unit 9 determines that the endoscope has been removed from the body away from the opening, and the determination is made for the non-observation site. Switch to video. Even in this way, the endoscope image can be determined based on the operation of inserting and removing the endoscope into the trocar 11.
- an endoscopic video is displayed on the video display unit 3, but instead, as shown in FIG. 10, a video acquisition unit such as a camera 18 is provided, and the video acquisition unit The video acquired by the above may be displayed on the video display unit 3.
- a video acquisition unit such as a camera 18
- the video acquired by the above may be displayed on the video display unit 3.
- two cameras 18 may be supported by the mounting frame 2 so as to be arranged symmetrically on the frontal side of the surgeon. Since the camera 18 can magnify the field of view in front of the surgeon, the image display unit 3 can observe an enlarged image of the surgeon in a comfortable posture.
- An illumination unit 19 that illuminates the field of view of the camera 18 may be provided.
- the HMD 1 includes a hue detection unit 20 and a video processing unit 21, for example, as shown in FIG.
- the hue detection unit 20 detects the degree occupied by the red color component by decomposing the color of each pixel of the frame image into the red, green, and blue color components.
- the video processing unit 21 calculates an average value of all the pixels of the frame video for the degree of the red color component detected by the hue detection unit 20. If the average value of the red color component calculated by the video processing unit 21 is equal to or greater than a predetermined threshold, the video determination unit 9 determines that the camera video is an image of the observation region, and if the average value is smaller than the predetermined threshold. Then, it is determined that the camera image is an image of a non-observation site.
- the color of the image is biased to skin color or red
- the color bias is different from that of the surgical site. Is used to determine whether or not it is an observation site from the difference in red hue of the video. Even in such a case, since the camera image that does not require magnified observation is not displayed on the image display unit 3, the surgeon's stress can be reduced.
- a head-mounted display system 100 including the HMD 1 and the endoscope 22 may be configured.
- Reference numeral 23 denotes a processing device for processing an endoscopic video
- reference numeral 24 denotes a monitor for displaying the endoscopic video.
- the endoscopic video is input to the video input unit 4 via the processing device 23.
- the endoscope 22 includes a motion detection unit that detects the insertion / removal operation, for example, an acceleration sensor 25 that detects acceleration in the front-rear direction of the distal end portion of the endoscope 22.
- an acceleration sensor 25 that detects acceleration in the front-rear direction of the distal end portion of the endoscope 22.
- the acceleration sensor 25 for example, a MEMS acceleration sensor can be used, but is not limited thereto.
- Reference numeral 26 denotes an optical member such as a lens or a cover glass
- reference numeral 27 denotes an imaging device such as a CCD camera
- reference numeral 28 denotes an illumination device such as a light emitting diode
- reference numeral 29 denotes a substrate provided with an integrated circuit.
- Acceleration information detected by the acceleration sensor 25 is transmitted to the HMD 1 via a wiring (not shown), and the acceleration information is input to the motion detector 15 as shown in FIG.
- the motion detection unit 15 detects the motion vector of the distal end portion of the endoscope 22 from the input acceleration.
- the video determination unit 9 determines whether the endoscopic video is an image of an observation site or an image of a non-observation site. Even in this case, by detecting the insertion / removal operation of the endoscope 22 based on the acceleration, it is determined whether or not the endoscope image is an observation site in the body, and unnecessary based on the determination. By not displaying (not displaying) the endoscope image on the image display unit 3, it is possible to reduce the stress on the operator.
- Head-mounted display device DESCRIPTION OF SYMBOLS 2 Mounting frame 2a Head contact part 3 Image
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Heart & Thoracic Surgery (AREA)
- Pathology (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- General Physics & Mathematics (AREA)
- Endoscopes (AREA)
Abstract
装着者にとって不要な映像を切り替える。映像が入力される映像入力部(4)と、装着者の頭部に装着され、該装着者の眼前に配置されるように支持されて、映像入力部(4)に入力された入力映像を表示する映像表示部(3)と、入力映像が、被験体の観察部位の映像であるか否かを判定する映像判定部(9)と、該映像判定部(9)により、入力映像が体内の観察部位の映像であると判定されたときに、入力映像を映像表示部(3)に表示させる制御部(10)とを備える頭部装着型表示装置を提供する。
Description
本発明は、頭部装着型表示装置および頭部装着型表示システムに関するものである。
従来、内視鏡外科手術において、眼鏡型またはゴーグル型の頭部装着型表示装置(head mounted dispaly:HMD)が使用される場合がある(例えば、特許文献1参照。)。HMDは、頭部に装着されるフレームと、内視鏡から映像が送られてくる表示素子とを備えている。HMDを装着している装着者は、眼前に配置された表示素子に視線を移すことにより、術部で器具等を操作しながら体勢を変えることなく体内の内視鏡映像も観察することができる。
しかしながら、内視鏡に血液等が付着して画面が汚れるため、手術中に度々内視鏡を抜き出して洗浄する必要がある。また、画角など仕様の異なる内視鏡が必要になったときも、内視鏡を一旦抜き去って再び挿入する必要がある。このときに、装着者の眼前に配置された表示素子には、内視鏡を体の内外で抜き差ししたり洗浄したりしている最中の内視鏡により観察される映像も表示される。このように、手術中に、装着者にとって不要な映像が表示されるという問題がある。
本発明は、上述した事情に鑑みてなされたものであって、装着者にとって不要な映像を切り替えることができる頭部装着型表示装置および頭部装着型表示システムを提供することを目的としている。
上記目的を達成するために、本発明は以下の手段を提供する。
本発明の第1の態様は、映像が入力される映像入力部と、装着者の頭部に装着され、該装着者の眼前に配置されるように支持されて、前記映像入力部に入力された入力映像を表示する映像表示部と、前記入力映像が、被験体の観察部位の映像であるか否かを判定する映像判定部と、該映像判定部により、前記入力映像が体内の観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に表示させる制御部とを備える頭部装着型表示装置である。
本発明の第1の態様は、映像が入力される映像入力部と、装着者の頭部に装着され、該装着者の眼前に配置されるように支持されて、前記映像入力部に入力された入力映像を表示する映像表示部と、前記入力映像が、被験体の観察部位の映像であるか否かを判定する映像判定部と、該映像判定部により、前記入力映像が体内の観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に表示させる制御部とを備える頭部装着型表示装置である。
本発明の第1の態様によれば、装着者が装着フレームを装着した状態で、撮像装置などにより撮像した映像を映像入力部に入力することにより、装着者は体勢を変えることなく撮像装置で撮影された映像を眼前に見ることができる。
この場合に、制御部は、撮像装置などから入力された入力画像が映像判定部により被験体の観察部位の映像であると判定された場合に、入力画像を映像表示部に表示させる。すなわち、装着者にとって必要な入力映像は表示しつつ、不要な入力映像を切り替えることができる。
この場合に、制御部は、撮像装置などから入力された入力画像が映像判定部により被験体の観察部位の映像であると判定された場合に、入力画像を映像表示部に表示させる。すなわち、装着者にとって必要な入力映像は表示しつつ、不要な入力映像を切り替えることができる。
上記第1の態様においては、前記入力映像を記憶する第1の映像記憶部と、所定の基準映像を記憶する第2の映像記憶部と、前記第1の映像記憶部に記憶された入力映像が前記第2の映像記憶部に記憶された基準映像と類似しているか否かを判定する類似判定部とを備え、前記映像判定部は、前記類似判定部により前記入力映像が前記基準映像と類似していると判定されたときに、前記入力映像が、前記観察部位以外の非観察部位の映像であるか、または、前記観察部位の映像であるかを判定し、前記制御部は、前記映像判定部により前記入力映像が前記非観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に非表示し、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記入力映像を映像表示部に表示する構成であってもよい。
このように構成することで、撮像装置の視野を観察部位から非観察部位に移動する過程で撮影される映像を基準映像とすることにより、入力映像が観察部位と非観察部位との間で移動したことを簡便に判定することができる。
上記構成においては、前記基準映像は、内視鏡が挿脱可能な筒状のトロカールの開口をその内部から撮影した映像であることとしてもよい。
このようにすることで、予め体内に挿入されたトロカールを介して内視鏡を体の内外で抜き差しする場合に、内視鏡を体内に挿入したときに、内視鏡の先端がトロカールの開口から出る前に入力映像が観察部位になったと判定され、一方内視鏡を体内から抜き去ったときに、内視鏡の先端がトロカール内に収納された後に非観察部位になったと判定される。これにより、入力映像の観察部位と非観察部位との移動を迅速にかつ確実に判定することができる。
このようにすることで、予め体内に挿入されたトロカールを介して内視鏡を体の内外で抜き差しする場合に、内視鏡を体内に挿入したときに、内視鏡の先端がトロカールの開口から出る前に入力映像が観察部位になったと判定され、一方内視鏡を体内から抜き去ったときに、内視鏡の先端がトロカール内に収納された後に非観察部位になったと判定される。これにより、入力映像の観察部位と非観察部位との移動を迅速にかつ確実に判定することができる。
上記第1の態様においては、前記入力映像を記憶する映像記憶部と、該映像記憶部に記憶された入力映像から所定の特徴部分を抽出する特徴部抽出部と、該特徴部抽出部により抽出された特徴部分の動きを検出する動き検出部とを備え、前記映像判定部は、前記動き検出部により検出された前記特徴部分の動きが、略同一の方向に所定の時間にわたって続いたときに、前記入力映像が前記観察部位以外の非観察部位の映像であるか、または、前記観察部位の映像であるかを判定し、前記制御部は、前記映像判定部により前記入力映像が前記非観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に非表示し、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記入力映像を映像表示部に表示する構成であってもよい。
このように構成することで、撮像装置を一方向に操作して観察部位に接近および離間させる場合に、そのときの撮像装置などの動きを入力映像内の特徴部分の動きから検出することにより、入力映像が観察部位の映像であるか非観察部位の映像であるかを判定することができる。
上記構成においては、前記特徴部分は、内視鏡が挿脱可能な筒状のトロカールの開口をその内部から撮影したときの輪郭であることとしてもよい。
このようにすることで、予め体内に挿入されたトロカールを介して内視鏡を体の内外で抜き差ししたときに、その過程で入力映像にトロカールの開口が映される。したがって、該開口の輪郭の移動から、内視鏡が体の内外で抜き差しされた操作を検出することができる。
このようにすることで、予め体内に挿入されたトロカールを介して内視鏡を体の内外で抜き差ししたときに、その過程で入力映像にトロカールの開口が映される。したがって、該開口の輪郭の移動から、内視鏡が体の内外で抜き差しされた操作を検出することができる。
上記第1の態様においては、前記入力映像を記憶する映像記憶部と、該映像記憶部に記憶された入力映像の所定のラインの輝度分布を検出する輝度分布検出部と、該輝度分布検出部により検出された輝度分布が、所定の閾値より低い輝度値の低輝度領域と所定の閾値より高い輝度値の高輝度領域とに2極化しているか否かを判定し、前記輝度分布が2極化している場合に、前記低輝度領域のライン幅を検出する映像処理部とを備え、前記映像判定部は、前記映像処理部により検出された前記低輝度領域のライン幅が経時的に増加したときに、前記入力映像が前記観察部位以外の非観察部位の映像であると判定し、前記映像処理部により検出された前記低輝度領域のライン幅が経時的に減少したときに、前記入力映像が前記観察部位の映像であると判定することとしてもよい。
このようにすることで、体内に挿入されたトロカールを介して内視鏡を抜き差しする場合に、トロカールの内部からその開口が映されたときに、比較的輝度の高いトロカールの内面と、トロカールの開口から覗く比較的輝度の低い体内との輝度の差により2極化された輝度分布が検出される。そして、内視鏡を挿入するときは、低輝度領域のライン幅が拡大し、内視鏡を抜き去るときは低輝度領域のライン幅が縮小する。これにより、内視鏡を体内に抜き差しする操作を検出することができる。
上記第1の態様においては、前記映像表示部に入力する映像を、前記入力映像と他の任意映像とで切り替える映像切替部を備え、前記制御部は、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記映像切替部により前記入力映像に切り替えさせ、前記映像判定部により前記入力映像が前記観察部位以外の非観察部位であると判定されたときに、前記映像切替部により前記任意映像に切り替えさせることとしてもよい。
このようにすることで、入力映像が非観察部位のときには、任意映像を映像表示部に表示させることができる。
このようにすることで、入力映像が非観察部位のときには、任意映像を映像表示部に表示させることができる。
上記第1の態様においては、前記制御部は、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記映像表示部の表示をオンにし、前記映像判定部により前記入力映像が前記観察部位以外の非観察部位であると判定されたときに、前記映像表示部の表示をオフにすることとしてもよい。
このようにすることで、入力映像が非観察部位のときには、映像表示部の表示を切ることができる。
上記第1の態様においては、前記被験体の映像を取得し、取得した映像を前記映像入力部に入力する映像取得部を備えることとしてもよい。
このようにすることで、入力映像が非観察部位のときには、映像表示部の表示を切ることができる。
上記第1の態様においては、前記被験体の映像を取得し、取得した映像を前記映像入力部に入力する映像取得部を備えることとしてもよい。
本発明の第2の態様は、先端部に、その挿入方向の動きを検出する動き検出部が設けられた内視鏡と、該内視鏡により撮影された内視鏡映像が前記映像入力部に入力される上記いずれかに記載の頭部装着型表示装置とを備える頭部装着型表示システムである。
本発明の第2の態様によれば、内視鏡を体の内外で抜き差ししたときに、その動きが動き検出部により検出されることにより、内視鏡映像が観察部位の映像であるか非観察部位の映像であるかが判定される。そして、観察部位の映像であると判定された場合には映像表示部に内視鏡映像が表示される。すなわち、装着者にとって不要な内視鏡映像を見ずに済むように映像が切り替えることができる。
本発明の第2の態様によれば、内視鏡を体の内外で抜き差ししたときに、その動きが動き検出部により検出されることにより、内視鏡映像が観察部位の映像であるか非観察部位の映像であるかが判定される。そして、観察部位の映像であると判定された場合には映像表示部に内視鏡映像が表示される。すなわち、装着者にとって不要な内視鏡映像を見ずに済むように映像が切り替えることができる。
本発明によれば、装着者にとって不要な映像を切り替えることができるという効果を奏する。
本発明の一実施形態に係る頭部装着型表示装置(HMD)1について、図面を参照して以下に説明する。
本実施形態に係るHMD1は、図1に示されるように、頭部に装着フレーム2を装着して眼前に配置された映像表示部3の映像を観察するものである。HMD1は、図2に示されるように、内視鏡を用いて観察される映像(内視鏡映像)が入力される映像入力部4と、映像入力部4に入力された内視鏡映像(入力映像)のフォーマットを変換する信号処理部5と、内視鏡映像を記憶するフレームメモリ(第1の記憶部)6と、予め選択された基準映像が記憶されるリファレンスメモリ(第2の記憶部)7と、内視鏡映像が基準映像に類似しているか否かを判定する類似判定部8と、内視鏡映像が体内の観察部位の映像であるか否かを判定する映像判定部9と、映像表示部3の表示を制御する制御部10とを備えている。なお、本実施形態において、「体内」とは、体の内部を意味し、体壁や内臓のみならず、体腔や口腔等も含む概念である。
本実施形態に係るHMD1は、図1に示されるように、頭部に装着フレーム2を装着して眼前に配置された映像表示部3の映像を観察するものである。HMD1は、図2に示されるように、内視鏡を用いて観察される映像(内視鏡映像)が入力される映像入力部4と、映像入力部4に入力された内視鏡映像(入力映像)のフォーマットを変換する信号処理部5と、内視鏡映像を記憶するフレームメモリ(第1の記憶部)6と、予め選択された基準映像が記憶されるリファレンスメモリ(第2の記憶部)7と、内視鏡映像が基準映像に類似しているか否かを判定する類似判定部8と、内視鏡映像が体内の観察部位の映像であるか否かを判定する映像判定部9と、映像表示部3の表示を制御する制御部10とを備えている。なお、本実施形態において、「体内」とは、体の内部を意味し、体壁や内臓のみならず、体腔や口腔等も含む概念である。
装着フレーム2は、HMD1を装着する装着者の頭部を取り囲むように環状に形成されている。装着フレーム2は、装着者の頭部の大きさに合わせて長さを調節できるように、図示しないベルトなどを備えていてもよい。装着フレーム2は、装着者の頭部の形状にぴったりと合うように、前頭部側に配置される位置に弾性材料からなる頭接部2aが設けられている。
映像表示部3は、装着者が装着フレーム2を装着したときに、装着者の視界の一部を遮る位置に配置されるように、装着フレーム2に支持されている。これにより、装着者は、映像表示部3の周辺部を直視で見つつ、視線を移動させることにより映像表示部3の映像を見ることができる。ここで、「直視で見る」とは、装着者が、映像表示部3を介さずに、対象を直接に見ることをいう。映像表示部3は、図3に示されるように、映像入力部4に入力された映像を表示する表示素子3aと、表示素子3aに表示された映像を装着者の眼に導くプリズム3bとを備えている。表示素子3aには、LCD(液晶)、OLED(有機EL)またはLCOS(反射型液晶)などを使用したディスプレイが用いられる。映像表示部3は、図示しないスイッチにより、表示素子3aを点灯して映像の表示をオンにした状態と、表示素子3aを消灯して映像の表示をオフにした状態とに切り替え可能になっている。
映像入力部4は、内視鏡により撮影された内視鏡映像が入力される。なお、内視鏡映像は、図示しないモニタにも入力され、HMD1の装着者以外の人も内視鏡映像をモニタで観察できるようになっている。映像入力部4は、内視鏡映像を、信号処理部5が処理できる信号に変換する。
信号処理部5は、映像入力部4に入力された内視鏡映像のフォーマットを適宜変更する。例えば、インターレース映像信号からプログレッシブ映像信号への変更等を行う。
フレームメモリ6は、信号処理部5によりフォーマットが変換された内視鏡映像をフレーム単位で時系列に記憶する。
フレームメモリ6は、信号処理部5によりフォーマットが変換された内視鏡映像をフレーム単位で時系列に記憶する。
リファレンスメモリ7は、基準映像Aを記録している。ここで、基準映像Aとは、図4に示されるように、過去の内視鏡手術において、患者の体内に挿入されたトロカール11の内部からトロカール11の開口11aを撮影した映像のことである。すなわち、基準映像Aは、内視鏡がトロカール11内を通過している最中において、内視鏡の先端が開口11a近傍に配置されているときの映像である。基準映像Aと内視鏡映像とにおいて、トロカール11の内面とその開口11aから覗く暗い体内とのコントラストが鮮明になることが好ましい。従って、トロカール11は、内面が、明度の高い色のもの、または、内視鏡の照明光を反射する金属などの材料で覆われたものが用いられる。
類似判定部8は、フレームメモリ6に記憶された内視鏡映像のフレーム映像について逐次、基準映像Aと類似しているか否かを判定する。類似判定部8は、フレーム映像が基準映像Aと類似していると判定した場合には、その旨の信号を映像判定部9に出力する。これにより、内視鏡がトロカール11内に挿入されてトロカール11の開口近傍まで前進したとき、または、内視鏡がトロカール11内から引き抜かれてトロカール11内に収納されたときに、基準映像Aと類似した内視鏡映像が撮影され、内視鏡の挿脱の操作が迅速に検出されるようになっている。
フレーム映像と基準映像Aとの類似の可否を判定する方法は、本実施形態において特に限定されない。例えば、これらの映像の類似の可否の判定には、これら2つの映像の相関を利用した方法や、各画素の差分を利用した方法など、周知の方法が用いられる。
映像判定部9は、内視鏡映像が患者(被験体)の体内の観察部位の映像であるかそれ以外の非観察部位の映像であるかを判定する。すなわち、映像判定部9は、類似判定部8からフレーム映像が基準映像Aと類似している旨の信号を受け取ったときに、判定を他方に切り替える。より具体的には、映像判定部9は、類似判定部8からの信号を受け取るまで、内視鏡映像が「観察部位の映像である」と判定していた場合には、類似判定部8からの信号を受け取たっときに「非観察部位の映像である」という判定に切り替える。逆に、映像判定部9は、類似判定部8からの信号を受け取るまで、内視鏡映像が「非観察部位の映像である」と判定していた場合には、類似判定部8からの信号を受け取ったときに「観察部位の映像である」という判定に切り替える。ここで、映像判定部9は、HMD1に電源が投入されたときの初期状態では、内視鏡映像が、非観察部位の映像であると設定されている。
これにより、映像判定部9は、最初に類似判定部8から信号を受け取ったときには、初期状態として、内視鏡映像が非観察部位の映像であると設定されているため、内視鏡映像が、観察部位の映像に変化したと判断して判定を切り替える。また、映像判定部9は、次に類似判定部8から信号を受け取ったときには、内視鏡映像が観察部位の映像であるとの判定から非観察部位の映像であるとの判定に切り替える。以下、映像判定部9は、類似判定部8から信号を受け取る度に、内視鏡映像が観察部位の映像であるという判定と、非観察部位の映像であるとの判定とに交互に切り替える。
制御部10は、映像判定部9により内視鏡映像が観察部位の映像であると判定されているときは、スイッチにより映像表示部3の内視鏡映像の表示をオンにする。また、制御部10は、映像判定部9により内視鏡映像が非観察部位の映像であると判定されているときは、スイッチにより映像表示部3の内視鏡映像の表示をオフにするようになっている。
このように構成されたHMD1の作用について以下に説明する。
術者(装着者)は、本実施形態に係るHMD1を頭部に装着して、患者を直視で見ながら手術を開始する。手術には、術者の他に、内視鏡を操作して体内の術部を撮影するスコピストが立ち会う。術者が患者の体内にトロカール11を挿入し、内視鏡の電源を投入すると、モニタに体外の内視鏡映像が表示される。このときには映像表示部3は映像が消えたままである。
術者(装着者)は、本実施形態に係るHMD1を頭部に装着して、患者を直視で見ながら手術を開始する。手術には、術者の他に、内視鏡を操作して体内の術部を撮影するスコピストが立ち会う。術者が患者の体内にトロカール11を挿入し、内視鏡の電源を投入すると、モニタに体外の内視鏡映像が表示される。このときには映像表示部3は映像が消えたままである。
そして、スコピストがモニタを観察しながらトロカール11内に内視鏡を挿入していくと、内視鏡がトロカール11からトロカール11外に出る直前に、内視鏡映像が映像表示部3に表示される。術者は、適宜視線をずらして映像表示部3の内視鏡映像を参照しつつ、手元を直視で見ながら器具等を操作して手術を行う。手術中に内視鏡を洗浄や交換するためにスコピストがトロカール11内から内視鏡を抜き去ると、内視鏡がトロカール11内に収納された直後に術者の眼前から内視鏡映像が消える。その後、映像表示部3の映像は、スコピストが再び内視鏡をトロカール11内に挿入するまで消えた状態となる。
このように、本実施形態によれば、内視鏡をトロカール11内に挿入またはトロカール11内から抜き去るタイミングで映像表示部3の表示が点灯または消灯される。これにより、内視鏡がトロカール11内を通過している最中や内視鏡が洗浄されている最中などの不要な内視鏡映像を術者が眼前で見ずに済む。また、このような不要な内視鏡映像は、術者によっては不快な映像となり、術者の集中力を妨げたり術者に不要なストレスを与える場合がある。本実施形態によれば、このような術者へのストレス等を防ぐことができるという利点がある。また、映像表示部3の表示が適切なタイミングで切り替えられるので、術者による映像表示部3の操作や表示を切り替えるタイミングの指示などが不要であり、術者に負担をかけずに済むという利点がある。
上記実施形態においては、内視鏡映像が非観察部位の映像になったときに映像表示部3の表示をオフにすることとしたが、これに代えて、映像表示部3に他の映像を表示させてもよい。この場合、HMD1は、例えば、図5に示されるように、サブメモリまたはもう1つの映像入力部12と、映像表示部3に入力する映像を切り替える映像切替部13とを備える。映像入力部12に入力された内視鏡映像のフォーマットを変更する必要があれば、映像入力部12と映像切替部13との間に、図示しない信号処理部を設けてもよい。
サブメモリ12を備える場合には、青一色のブルーバック映像や術者の好みに応じた映像など、術者に不快感を与えない映像をサブメモリ12に予め記憶しておく。もう1つの映像入力部12を備える場合には、患者のバイタルや心電図などの外部装置映像をもう1つの映像入力部12に入力する。制御部10は、映像判定部9により内視鏡映像が非観察部位の映像であると判定されている間、映像表示部3への入力を映像入力部4からサブメモリまたはもう1つの映像入力部12に切り替えるように映像切替部13を制御する。映像表示部3は、映像切替部13の切替動作に応じて、内視鏡映像または内視鏡映像以外の任意映像を表示する。このようにしても、内視鏡映像が術者にとって不要なときには表示されなく(非表示に)なり、術者のストレスを軽減することができる。
上記実施形態においては、内視鏡映像が観察部位の映像であるか、または、非観察部位の映像であるかを、内視鏡映像と基準映像Aとの類似の可否に基づいて判定することとしたが、これに代えて、内視鏡映像の動きに基づいて判定することとしてもよい。この場合、HMD1は、図6に示されるように、内視鏡映像から特徴部分を抽出する特徴部分抽出部14と、特徴部分の動きを検出する動き検出部15とを備える。
特徴部分抽出部14は、フレームメモリ(映像記憶部)6に記憶されたフレーム映像から、トロカール11の開口の輪郭を特徴部分として抽出する。特徴部分を抽出する方法は特に制限はない。例えば、トロカール11の明るい内面とその開口から覗く暗い体内との輝度の差を利用し、各位置の輝度を空間微分することにより、トロカール11の開口の輪郭を抽出することができる。
または、上記実施形態と同様にリファレンスメモリを備え、該リファレンスメモリにトロカール11の開口部分の映像をテンプレート映像として記憶しておく。そして、特徴部分抽出部14は、フレーム映像内からテンプレート映像と類似した領域を検索することにより、トロカール11の輪郭を抽出してもよい。
または、上記実施形態と同様にリファレンスメモリを備え、該リファレンスメモリにトロカール11の開口部分の映像をテンプレート映像として記憶しておく。そして、特徴部分抽出部14は、フレーム映像内からテンプレート映像と類似した領域を検索することにより、トロカール11の輪郭を抽出してもよい。
動き検出部15は、連続したフレーム映像について、各フレーム映像における特徴部分抽出部14により抽出された特徴部分の位置の変化から、特徴部分の動きベクトルを検出する。映像判定部9は、動き検出部15により検出された動きベクトルの向きが所定の時間にわたって略同一であった場合に、内視鏡映像が非観察部位の映像であるとの判定と観察部位の映像であるとの判定とを交互に切り替える。このようにしても、術者にとって必要な内視鏡映像と不要な内視鏡映像とを判定しながら映像表示部3の表示を適宜切り替えて、術者のストレスを軽減することができる。
上記実施形態においては、内視鏡映像が観察部位の映像であるか、または、非観察部位の映像であるかの判定を、内視鏡映像の輝度の分布に基づいて判定することとしてもよい。この場合、図7に示されるように、内視鏡映像の所定の走査ラインの輝度分布を検出する輝度分布検出部16と、輝度分布の形状を判定して処理する映像処理部17とを備える。
輝度分布検出部16は、フレームメモリ6に記憶されていく各フレーム映像について逐次所定の位置の走査ラインの輝度グラフ(輝度分布)を作成する。このとき、図8Aに示されるように、フレーム映像Cにトロカール11の開口11aが映っている場合、走査ラインaにおける輝度グラフは、図8Bに示されように、途中位置を境にして輝度値の高い高輝度領域と輝度値の低い低輝度領域とに2極化する。そして、内視鏡がトロカール11内で移動すると、図9Aに示されるように、フレーム映像内の開口11aの寸法は変化し、図9Bに示されるように、低輝度領域が占める走査ラインa上のライン幅W1,W2が変化する。
なお、輝度分布検出部16は、輝度グラフを作成する前の各フレーム映像について、所定の閾値以上の輝度を有する画素を白とし、所定の閾値より小さい輝度を有する画素を黒とすることにより2値化してもよい。
映像処理部17は、輝度分布検出部16によって検出された輝度値が所定の閾値より高い領域と所定の閾値より低い領域とに、輝度グラフが2極化しているか否かを判定する。そして、映像処理部17は、輝度グラフが2極化していると判定した場合、低輝度領域のライン幅W1を算出し、次のフレーム映像においても同様にしてライン幅W2を算出し、ライン幅W1とライン幅W2を比較する。
そして、映像判定部9は、低輝度領域のライン幅W1,W2が経時的に増加していれば、内視鏡が開口11aに近づいて体内に挿入されたと判断し、判定を観察部位の映像に切り替える。一方、映像判定部9は、低輝度領域のライン幅W1,W2が経時的に減少していれば、内視鏡が開口から遠のいて体内から抜き出されたと判断し、判定を非観察部位の映像に切り替える。このようにしても、内視鏡をトロカール11内に抜き差しする操作に基づいて、内視鏡映像を判定することができる。
上記実施形態においては、映像表示部3に内視鏡映像を表示することとしたが、これに代えて、図10に示されるように、カメラ18などの映像取得部を備え、該映像取得部により取得された映像を映像表示部3に表示することとしてもよい。例えば、図10に示されるように、術者の前頭部側に左右対称に配置されるように、2つのカメラ18が装着フレーム2に支持されていてもよい。カメラ18は、術者の前方の視野を拡大して撮影することができるため、術者が楽な姿勢で手元の拡大された映像を映像表示部3で観察できる。カメラ18の視野を照明する照明部19を備えていてもよい。
この場合、HMD1は、例えば、図11に示されるように、色相検出部20と映像処理部21とを備える。色相検出部20は、フレーム映像の各画素の色を赤、緑および青の色成分に分解することにより、赤の色成分が占める度合いを検出する。映像処理部21は、色相検出部20により検出された赤の色成分の度合いについて、フレーム映像の全画素の平均値を算出する。映像判定部9は、映像処理部21により算出された赤の色成分の平均値が、所定の閾値以上であれば、カメラ映像が観察部位の映像であると判定し、所定の閾値より小さければ、カメラ映像が非観察部位の映像であると判定する。このように、カメラ映像が術部の映像である場合は、映像の色が肌色や赤色に偏り、カメラ映像が術部以外の映像である場合は、術部の場合と色の偏りが異なることを利用し、映像の赤色の色相の差から観察部位であるか否かを判定する。このような場合でも、拡大観察が不要なカメラ映像は、映像表示部3に表示されないため、術者のストレスを軽減することができる。
上記実施形態においては、HMD1単体の構成としたが、これに代えて、図12に示されるように、HMD1と内視鏡22とを備えた頭部装着型表示システム100を構成していてもよい。符号23は内視鏡映像を処理する処理装置を、符号24は内視鏡映像を表示するモニタを示している。内視鏡映像は、処理装置23を介して映像入力部4に入力される。
この場合、内視鏡22は、図13に示されるように、その挿脱の操作を検出する動き検出部、例えば、内視鏡22の先端部の前後方向の加速度を検出する加速度センサ25を備えていてもよい。加速度センサと25しては、例えば、MEMS加速度センサを用いることができるが、これに限定されない。符号26はレンズやカバーガラスなどの光学部材、符号27はCCDカメラなどの撮像装置、符号28は発光ダイオードなどの照明装置、符号29は集積回路などが設けられた基板を示している。
加速度センサ25により検出された加速度の情報は、図示しない配線を介してHMD1に送信され、図14に示されるように、動き検出部15にその加速度の情報が入力される。この場合、動き検出部15は、入力された加速度から、内視鏡22の先端部の動きベクトルを検出する。映像判定部9は、動き検出部15により検出された動きベクトルの大きさおよび方向に基づいて、内視鏡映像が観察部位の映像であるか非観察部位の映像であるかを判定する。このようにしても、内視鏡22の挿脱の操作を加速度に基づいて検出することにより、内視鏡映像が体内の観察部位であるか否かを判定し、該判定に基づいて不要な内視鏡映像を映像表示部3に表示させない(非表示にする)ことにより、術者のストレスを軽減することができる。
1 頭部装着型表示装置(HMD)
2 装着フレーム
2a 頭接部
3 映像表示部
3a 表示素子
3b プリズム
4 映像入力部
5 信号処理部
6 フレームメモリ(第1の映像記憶部、映像記憶部)
7 リファレンスメモリ(第2の映像記憶部)
8 類似判定部
9 映像判定部
10 制御部
11 トロカール
11a 開口
12 サブメモリまたは映像入力部
13 映像切替部
14 特徴部分抽出部
15 動き検出部
16 輝度分布検出部
17 映像処理部
18 カメラ(映像取得部)
19 照明部
20 色相検出部
21 映像処理部
22 内視鏡
23 処理装置
24 モニタ
25 加速度センサ(動き検出部)
26 光学部材
27 撮像装置
28 照明装置
29 基板
100 頭部装着型表示システム
A 基準映像
B 体内
C フレーム映像
a 走査ライン
2 装着フレーム
2a 頭接部
3 映像表示部
3a 表示素子
3b プリズム
4 映像入力部
5 信号処理部
6 フレームメモリ(第1の映像記憶部、映像記憶部)
7 リファレンスメモリ(第2の映像記憶部)
8 類似判定部
9 映像判定部
10 制御部
11 トロカール
11a 開口
12 サブメモリまたは映像入力部
13 映像切替部
14 特徴部分抽出部
15 動き検出部
16 輝度分布検出部
17 映像処理部
18 カメラ(映像取得部)
19 照明部
20 色相検出部
21 映像処理部
22 内視鏡
23 処理装置
24 モニタ
25 加速度センサ(動き検出部)
26 光学部材
27 撮像装置
28 照明装置
29 基板
100 頭部装着型表示システム
A 基準映像
B 体内
C フレーム映像
a 走査ライン
Claims (10)
- 映像が入力される映像入力部と、
装着者の頭部に装着され、該装着者の眼前に配置されるように支持されて、前記映像入力部に入力された入力映像を表示する映像表示部と、
前記入力映像が、被験体の観察部位の映像であるか否かを判定する映像判定部と、
該映像判定部により、前記入力映像が体内の観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に表示させる制御部とを備える頭部装着型表示装置。 - 前記入力映像を記憶する第1の映像記憶部と、
所定の基準映像を記憶する第2の映像記憶部と、
前記第1の映像記憶部に記憶された入力映像が前記第2の映像記憶部に記憶された基準映像と類似しているか否かを判定する類似判定部とを備え、
前記映像判定部は、前記類似判定部により前記入力映像が前記基準映像と類似していると判定されたときに、前記入力映像が、前記観察部位以外の非観察部位の映像であるか、または、前記観察部位の映像であるかを判定し、
前記制御部は、前記映像判定部により前記入力映像が前記非観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に非表示し、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記入力映像を映像表示部に表示する請求項1に記載の頭部装着型表示装置。 - 前記基準映像は、内視鏡が挿脱可能な筒状のトロカールの開口をその内部から撮影した映像である請求項2に記載の頭部装着型表示装置。
- 前記入力映像を記憶する映像記憶部と、
該映像記憶部に記憶された入力映像から所定の特徴部分を抽出する特徴部抽出部と、
該特徴部抽出部により抽出された特徴部分の動きを検出する動き検出部とを備え、
前記映像判定部は、前記動き検出部により検出された前記特徴部分の動きが、略同一の方向に所定の時間にわたって続いたときに、前記入力映像が前記観察部位以外の非観察部位の映像であるか、または、前記観察部位の映像であるかを判定し、
前記制御部は、前記映像判定部により前記入力映像が前記非観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に非表示し、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記入力映像を前記映像表示部に表示する請求項1に記載の頭部装着型表示装置。 - 前記特徴部分は、内視鏡が挿脱可能な筒状のトロカールの開口をその内部から撮影したときの輪郭である請求項4に記載の頭部装着型表示装置。
- 前記入力映像を記憶する映像記憶部と、
該映像記憶部に記憶された入力映像の所定のラインの輝度分布を検出する輝度分布検出部と、
該輝度分布検出部により検出された輝度分布が、所定の閾値より低い輝度値の低輝度領域と所定の閾値より高い輝度値の高輝度領域とに2極化しているか否かを判定し、前記輝度分布が2極化している場合に、前記低輝度領域のライン幅を検出する映像処理部とを備え、
前記映像判定部は、前記映像処理部により検出された前記低輝度領域のライン幅が経時的に増加したときに、前記入力映像が前記観察部位の映像であると判定し、前記映像処理部により検出された前記低輝度領域のライン幅が経時的に減少したときに、前記入力映像が前記観察部位以外の非観察部位の映像であると判定する請求項1に記載の頭部装着型表示装置。 - 前記映像表示部に入力する映像を、前記入力映像と他の任意映像とで切り替える映像切替部を備え、
前記制御部は、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記映像切替部により前記入力映像に切り替えさせ、前記映像判定部により前記入力映像が前記観察部位以外の非観察部位の映像であると判定されたときに、前記映像切替部により前記任意映像に切り替えさせる請求項1に記載の頭部装着型表示装置。 - 前記制御部は、前記映像判定部により前記入力映像が前記観察部位の映像であると判定されたときに、前記映像表示部の表示をオンにし、前記映像判定部により前記入力映像が前記観察部位以外の非観察部位の映像であると判定されたときに、前記映像表示部の表示をオフにする請求項1に記載の頭部装着型表示装置。
- 前記被験体の映像を取得し、取得した映像を前記映像入力部に入力する映像取得部を備える請求項1に記載の頭部装着型表示装置。
- 先端部にその挿入方向の動きを検出する動き検出部が設けられた内視鏡と、
該内視鏡により撮影された内視鏡映像が前記映像入力部に入力される請求項1から請求項9のいずれかに記載の頭部装着型表示装置とを備える頭部装着型表示システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009-282204 | 2009-12-11 | ||
JP2009282204A JP2011120790A (ja) | 2009-12-11 | 2009-12-11 | 頭部装着型映像表示装置および頭部装着型映像表示システム |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2011070845A1 true WO2011070845A1 (ja) | 2011-06-16 |
Family
ID=44145398
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2010/067461 WO2011070845A1 (ja) | 2009-12-11 | 2010-10-05 | 頭部装着型表示装置および頭部装着型表示システム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2011120790A (ja) |
WO (1) | WO2011070845A1 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103323948A (zh) * | 2012-03-23 | 2013-09-25 | 索尼公司 | 头戴式显示器 |
US9039604B2 (en) | 2011-08-31 | 2015-05-26 | Fujifilm Corporation | Endoscope system and method of controlling endoscope system |
JP2015162782A (ja) * | 2014-02-27 | 2015-09-07 | ブラザー工業株式会社 | 制御装置、ヘッドマウントディスプレイ、及びプログラム |
CN111989026A (zh) * | 2018-04-19 | 2020-11-24 | 富士胶片株式会社 | 内窥镜装置、内窥镜操作方法及程序 |
WO2021080878A1 (en) * | 2017-04-20 | 2021-04-29 | Resnent, Llc | Portable endoscope system |
US12083300B2 (en) | 2017-04-20 | 2024-09-10 | Resnent, Llc | Endoscopic balloon dilator systems |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5903018B2 (ja) | 2012-09-26 | 2016-04-13 | ソニー株式会社 | ヘッドマウントディスプレイ |
JPWO2016052175A1 (ja) * | 2014-10-03 | 2017-04-27 | オリンパス株式会社 | 携帯型内視鏡システム及びプロセッサ |
JP6490001B2 (ja) * | 2015-12-25 | 2019-03-27 | ウエストユニティス株式会社 | メディカルシステム |
JP6229747B2 (ja) * | 2016-03-10 | 2017-11-15 | ソニー株式会社 | 内視鏡システム及びヘッドマウントディスプレイ |
CN106805936A (zh) * | 2016-11-22 | 2017-06-09 | 上海美沃精密仪器股份有限公司 | 一种头戴式内窥检测系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0998985A (ja) * | 1995-10-09 | 1997-04-15 | Olympus Optical Co Ltd | 医療用顔面装着型映像表示装置 |
JPH10126711A (ja) * | 1996-10-17 | 1998-05-15 | Olympus Optical Co Ltd | 頭部搭載型画像表示装置 |
JPH10221637A (ja) * | 1997-02-10 | 1998-08-21 | Olympus Optical Co Ltd | 頭部装着型画像表示装置 |
JP2001238205A (ja) * | 2000-02-24 | 2001-08-31 | Olympus Optical Co Ltd | 内視鏡システム |
JP2003334160A (ja) * | 2002-05-21 | 2003-11-25 | Olympus Optical Co Ltd | 立体視内視鏡システム |
JP2005077832A (ja) * | 2003-09-01 | 2005-03-24 | Olympus Corp | 工業用内視鏡システム |
-
2009
- 2009-12-11 JP JP2009282204A patent/JP2011120790A/ja not_active Withdrawn
-
2010
- 2010-10-05 WO PCT/JP2010/067461 patent/WO2011070845A1/ja active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0998985A (ja) * | 1995-10-09 | 1997-04-15 | Olympus Optical Co Ltd | 医療用顔面装着型映像表示装置 |
JPH10126711A (ja) * | 1996-10-17 | 1998-05-15 | Olympus Optical Co Ltd | 頭部搭載型画像表示装置 |
JPH10221637A (ja) * | 1997-02-10 | 1998-08-21 | Olympus Optical Co Ltd | 頭部装着型画像表示装置 |
JP2001238205A (ja) * | 2000-02-24 | 2001-08-31 | Olympus Optical Co Ltd | 内視鏡システム |
JP2003334160A (ja) * | 2002-05-21 | 2003-11-25 | Olympus Optical Co Ltd | 立体視内視鏡システム |
JP2005077832A (ja) * | 2003-09-01 | 2005-03-24 | Olympus Corp | 工業用内視鏡システム |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9039604B2 (en) | 2011-08-31 | 2015-05-26 | Fujifilm Corporation | Endoscope system and method of controlling endoscope system |
CN103323948A (zh) * | 2012-03-23 | 2013-09-25 | 索尼公司 | 头戴式显示器 |
JP2015162782A (ja) * | 2014-02-27 | 2015-09-07 | ブラザー工業株式会社 | 制御装置、ヘッドマウントディスプレイ、及びプログラム |
WO2021080878A1 (en) * | 2017-04-20 | 2021-04-29 | Resnent, Llc | Portable endoscope system |
US12083300B2 (en) | 2017-04-20 | 2024-09-10 | Resnent, Llc | Endoscopic balloon dilator systems |
CN111989026A (zh) * | 2018-04-19 | 2020-11-24 | 富士胶片株式会社 | 内窥镜装置、内窥镜操作方法及程序 |
EP3782531A4 (en) * | 2018-04-19 | 2021-05-26 | FUJIFILM Corporation | ENDOSCOPE DEVICE, ENDOSCOPE OPERATING PROCESS AND PROGRAM |
US11324388B2 (en) | 2018-04-19 | 2022-05-10 | Fujifilm Corporation | Endoscope device, endoscope operation method, and program with motion pattern detection |
Also Published As
Publication number | Publication date |
---|---|
JP2011120790A (ja) | 2011-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2011070845A1 (ja) | 頭部装着型表示装置および頭部装着型表示システム | |
JP5715372B2 (ja) | 画像処理装置、画像処理装置の作動方法及び内視鏡装置 | |
JP5203861B2 (ja) | 内視鏡システム、およびその作動方法 | |
JP5127639B2 (ja) | 内視鏡システム、およびその作動方法 | |
WO2018123613A1 (ja) | 医療用画像処理装置、医療用画像処理方法、プログラム | |
JP2005169009A (ja) | 内視鏡システム、及び内視鏡 | |
JP7363767B2 (ja) | 画像処理装置と画像処理方法およびプログラム | |
CN112770662A (zh) | 医用图像处理装置、医用图像处理方法、及程序、诊断辅助装置以及内窥镜系统 | |
JP5996218B2 (ja) | 内視鏡装置及び内視鏡装置の作動方法 | |
JP2017038285A (ja) | 医療用観察装置、制御装置、制御装置の作動方法および制御装置の作動プログラム | |
JP5905130B2 (ja) | 画像処理装置、内視鏡装置及び画像処理装置の作動方法 | |
JP7247702B2 (ja) | 内視鏡システム、内視鏡制御方法、及び、撮像制御装置 | |
US20190154953A1 (en) | Control apparatus, control system, and control method | |
JP6062112B2 (ja) | 内視鏡システム | |
WO2016181781A1 (ja) | 内視鏡装置 | |
JP6996883B2 (ja) | 医療用観察装置 | |
CN110678116B (zh) | 医疗系统和控制单元 | |
US11778325B2 (en) | Image processing apparatus, image processing method, and image processing program | |
EP3598735A1 (en) | Imaging device, video signal processing device, and video signal processing method | |
JP2021164494A (ja) | 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法 | |
JP2003334160A (ja) | 立体視内視鏡システム | |
JP7456385B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JPH10126711A (ja) | 頭部搭載型画像表示装置 | |
JP2013183313A (ja) | レンズ汚れを検知する方法と、この方法を用いた手術用カメラ | |
JP5945614B2 (ja) | 画像処理装置、内視鏡装置及び画像処理装置の作動方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 10835767 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 10835767 Country of ref document: EP Kind code of ref document: A1 |