WO2010082547A1 - ヘッドマウントディスプレイ - Google Patents

ヘッドマウントディスプレイ Download PDF

Info

Publication number
WO2010082547A1
WO2010082547A1 PCT/JP2010/050176 JP2010050176W WO2010082547A1 WO 2010082547 A1 WO2010082547 A1 WO 2010082547A1 JP 2010050176 W JP2010050176 W JP 2010050176W WO 2010082547 A1 WO2010082547 A1 WO 2010082547A1
Authority
WO
WIPO (PCT)
Prior art keywords
manual information
user
hand
imaging
work
Prior art date
Application number
PCT/JP2010/050176
Other languages
English (en)
French (fr)
Inventor
松島美佳
Original Assignee
ブラザー工業株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ブラザー工業株式会社 filed Critical ブラザー工業株式会社
Publication of WO2010082547A1 publication Critical patent/WO2010082547A1/ja
Priority to US13/178,234 priority Critical patent/US20110260967A1/en

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/002Mounting on the human body
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Definitions

  • the present invention relates to a head mounted display.
  • the present invention relates to a see-through type head mounted display provided with display means for projecting image light according to display information onto a user's eyes while allowing external light to pass through and allowing the user to visually recognize an image according to the image light. It is about.
  • an information processing apparatus including a storage unit that stores various content information such as a moving image file, a still image file, and a text file and a playback unit that plays back the content information stored in the storage unit is known.
  • a typical example of this information processing apparatus is a personal computer.
  • a personal computer has a computer main body provided with the storage means, the reproduction means, etc., a mechanical operation means such as a keyboard and a mouse operated by a user to cause the computer main body to perform a predetermined operation, and a reproduction. It is composed of a display or the like for displaying content information reproduced by the means as an image.
  • a display device that is mounted on a desktop such as a CRT (Cathode Ray Tube) display or a liquid crystal display is generally used.
  • a liquid crystal display element is used as an image display device, and a head-mounted display (hereinafter sometimes referred to as “HMD”) that allows the user to visually recognize an image while wearing the head is also available.
  • HMD head-mounted display
  • this see-through type HMD is configured to allow the user to visually recognize the outside world while viewing the content information even when the content information is being displayed as an image.
  • the HMD described in Patent Document 1 merely presents a work support manual. Therefore, in this HMD, a manual according to the user's work skill level such as the user's work speed is not presented, and the work may not be able to proceed efficiently.
  • an object of the present invention is to provide an HMD that can perform work efficiently by presenting manual information corresponding to the user's work skill level.
  • a see-through type HMD includes a display means, a manual information storage means, an imaging means, an image analysis means, a hand detection determination means, A display start control means, a display switching control means, and a display end control means.
  • the display means projects image light according to display information to a user's eye while allowing external light to pass through, and causes the user to visually recognize an image according to the image light.
  • the manual information storage means stores main manual information related to work, standard time and sub-manual information respectively associated with the main manual information.
  • the imaging means images at least a part of the visual field range of the user.
  • the image analysis unit analyzes an image captured by the imaging unit.
  • the hand detection determination unit determines whether there is a user's hand in an imaging region by the imaging unit based on a result analyzed by the image analysis unit.
  • the display start control unit reproduces the main manual information stored in the manual information storage unit when the hand detection determination unit determines that there is a user's hand in the imaging area. Let's start.
  • the display switching control means does not determine that there is no user's hand in the imaging area by the hand detection determination means after the display means starts the reproduction of the main manual information.
  • the standard time associated with the manual information and stored in the manual information storage means has elapsed, the reproduction of the main manual information is switched to the reproduction of the sub manual information stored in the manual information storage means.
  • the display end control means when the main manual information or the sub manual information is reproduced by the display means, when the hand detection determination means determines that there is no user's hand in the imaging area, The reproduction of the reproduced main manual information or sub-manual is terminated.
  • the HMD is configured in this way, manual information according to the user's work skill level can be presented to the user. Therefore, the user can work efficiently.
  • the HMD may include standard time update means.
  • the standard time update means is a time from when reproduction of the main manual information is started by the display means to when it is determined by the hand detection determination means that there is no user's hand in the imaging area. When it is below, the standard time is updated based on the time.
  • the standard time can be shortened according to the user's work proficiency, so that a user with high work proficiency can work more efficiently.
  • the manual information storage unit when the manual information storage unit determines that the user's hand is in the imaging area by the hand detection determination unit, the manual information storage unit displays the image captured by the imaging unit as main manual information or sub-manual. You may make it memorize
  • the captured image in the work itself becomes the main manual information or the sub manual information, and the time for separately creating the main manual information or the sub manual information can be saved.
  • the manual information storage means when the hand detection determination means determines that there is a user's hand in the imaging area, a predetermined work time after it is determined that there is the hand. Until the time elapses, the image captured by the image capturing unit is stored as main manual information, and the image captured by the image capturing unit is stored as sub-manual information after a predetermined working time elapses after it is determined that the hand is present. It may be.
  • the main manual information and the sub manual information can be switched and stored before and after a predetermined work time, and the time for separately creating the main manual information and the sub manual information can be saved. .
  • the manual information storage means may store the predetermined work time for each work.
  • the HMD may include an imaging condition changing unit.
  • the imaging condition changing means changes the imaging condition of the imaging means when main manual information is stored by the manual information storage means and when sub manual information is stored.
  • This configuration can make a difference between main manual information and sub-manual information.
  • manual information corresponding to a user's work skill level can be created by capturing sub-manual information in more detail than main manual information.
  • the present invention it is possible to present the user with manual information corresponding to the user's work skill level. Therefore, the user can work efficiently.
  • the HMD 1 As shown in FIG. 1, the HMD 1 according to the present embodiment is referred to as an HMD main body 2, a controller 3, a CCD (Charge Coupled Devices) camera 4, and a personal computer (hereinafter referred to as “PC”) that can communicate with the controller 3. 150).
  • the HMD main body 2 displays various content information such as a moving image file, a still image file, and a text file and manual information regarding work described later as an image so as to be visible to the user P with the user P wearing the head.
  • the controller 3 mainly performs processing for supplying an image signal to the HMD main body 2.
  • the CCD camera 4 images at least a part of the field of view of the user P.
  • the HMD main body 2 allows the user P to scan content in the two-dimensional direction on the retina of the user P with light (hereinafter referred to as “image light”) whose intensity is modulated for each color (R, G, B).
  • image light whose intensity is modulated for each color (R, G, B).
  • This is a retina scanning display for visually recognizing an image corresponding to information (hereinafter simply referred to as “content”).
  • the retinal scanning display is adopted as the HMD main body 2, but the present invention is not limited to this.
  • a display that projects light (image light) that is transmitted or reflected through an LCD (Liquid Crystal Display) onto the eyes of the user P and makes the user P visually recognize the content may be employed.
  • the HMD main body 2 is configured so that the user can visually recognize the outside world within the visual field range of the user P even when content is being displayed.
  • the HMD main body 2 includes a support member 2a having a substantially glasses shape, and an image forming unit 2b that forms an image for the user to recognize.
  • the image forming unit 2b is provided with a half mirror 2c in front of the user P's eyes.
  • the image forming unit 2b transmits the external light La through the half mirror 2c and enters the eyes Y of the user P, and reflects the image light Lb corresponding to the content information by the half mirror 2c and enters the eyes of the user P. I have to.
  • the HMD 1 is a see-through HMD that projects image light according to the content information to the eyes Y of the user P while transmitting external light.
  • the controller 3 is communicably connected to the HMD main body 2, the CCD camera 4, the PC 150, and the like.
  • the controller 3 incorporates a control unit 10 (see FIG. 4) described later that controls the entire HMD 1.
  • the CCD camera 4 functions as an imaging unit 201 (see FIG. 6) that images at least a part of the user P's visual field range so that the user P's hand in the user P's visual field range can be detected.
  • the CCD camera 4 is configured to sample an image in the visual field range of the user P.
  • the CCD camera 4 has a zoom function and can change the imaging range.
  • the HMD 1 stores manual information regarding work.
  • the HMD 1 can reproduce and create manual information regarding work.
  • the HMD 1 is a see-through type, the user P can visually recognize the manual information regarding the work while visually recognizing the outside world.
  • the manual information includes main manual information, sub-manual information, a manual start still image, and a manual end still image. This manual information is set for each work.
  • Main manual information is moving picture information that is played back from the start of playback.
  • the sub-manual information is moving image information that is reproduced instead of the main manual information from the start of reproduction.
  • the sub-manual information is reproduced instead of the main manual information after the standard time set according to the work content has elapsed, for example.
  • the main manual information is a moving image obtained by capturing the hand of the user P in a wide imaging range.
  • the sub-manual information is a moving image obtained by picking up the hand of the user P in a shooting range narrower than that of the main manual (zoomed).
  • the manual start still image is a still image displayed before the work starts.
  • the manual end still image is a still image that is displayed after the end of work.
  • these manual information includes existing manual information and created manual information.
  • Existing manual information has been stored since the initial setting of the HMD 1.
  • the creation manual information is created based on the result of actual work. This creation manual information is created by imaging the hand of the user P who is actually working. In the present embodiment, the sub-manual information is captured in an imaging range narrower than that of the main manual information, and thus becomes detailed manual information expanded more than the main manual information.
  • Display screen Here, a display screen in the HMD 1 according to the present embodiment will be described with reference to FIGS. 3A and 3B.
  • FIGS. 3A and 3B various types of manual information are displayed in the display area 50 of the HMD 1.
  • This manual information is a moving image related to work, for example, a moving image related to assembly work or a moving image related to disassembly work.
  • the HMD 1 is a see-through type, manual information as shown in FIGS. 3A and 3B can be visually recognized while visually recognizing the outside world (working scene by the user P itself) 51.
  • the manual information includes main manual information as shown in FIG. 3A and sub-manual information as shown in FIG. 3B.
  • the main manual information is reproduced before the standard time set according to the work content elapses after the reproduction is started.
  • the sub-manual information is reproduced after the standard time has elapsed.
  • the main manual information is a moving image having a relatively wide imaging range as shown in FIG. 3A.
  • the sub manual information is a moving image having a relatively narrow imaging range, and is displayed in an enlarged manner as compared with the moving image of the main manual information. That is, the sub-manual information can be visually recognized up to a finer location than the main manual information.
  • the HMD 1 reproduces not only the main manual information but also the sub manual information on which the details of the work are displayed for a user with a low work skill level.
  • a user with a high work skill level finishes the work before the standard time elapses, so the HMD 1 reproduces only the main manual information. Therefore, the reproduction of the sub-manual information is not particularly necessary for a user with a high work skill level.
  • the HMD 1 can reproduce the manual information according to the skill level, and reproduces the sub-manual information with the improvement related to the manual information according to the user's work skill level. Work can be done.
  • manual information can be reproduced and created.
  • the HMD 1 can reproduce manual information relating to the assembly work of the apparatus.
  • a method of creating manual information related to this assembly work there is simply a method of taking an image of the user P when the assembly work is performed and reproducing the captured image.
  • manual information about the assembly work of the apparatus can be reproduced by capturing the user P's hand at the time of disassembling the same apparatus, and reproducing the disassembled captured image in time series. Is possible.
  • the manual information captured by the HMD 1 is reproduced by being reversed in time series, so that the user P can efficiently perform an operation without separately providing an image capturing opportunity.
  • the HMD 1 includes an HMD main body 2 as described above, a controller 3 that controls the HMD main body 2 and the like, a CCD camera 4, a peripheral device 34, and a PC 150.
  • the controller 3 includes a control unit 10 that controls the overall operation of the HMD 1, a CCD camera controller 22, a CCD camera VRAM 24, and an HMD interface (referred to as “I / F” in the figure, hereinafter referred to as “I / F”). And a controller 26.
  • the controller 3 includes an HMD VRAM 28, a peripheral device I / F 30, and a PC connection I / F controller 32.
  • the control unit 10 includes a CPU (Central Processing Unit) 12, a program ROM (Read Only Memory) 14 that is a nonvolatile memory, a flash ROM (flash memory) 16, and a RAM (Random Access Memory) 18. Yes. These are respectively connected to a bus for data communication, and various information is transmitted / received via the bus for data communication.
  • a CPU Central Processing Unit
  • program ROM Read Only Memory
  • flash ROM flash memory
  • RAM Random Access Memory
  • the CPU 12 is an arithmetic processing unit that operates various circuits constituting the HMD 1 as the control unit 10 by executing various information processing programs stored in the program ROM 14 and executes various functions included in the HMD 1.
  • the flash ROM 16 stores an image captured by the control unit 10 with the CCD camera 4 and an image supplied from another device such as the PC 150.
  • the CCD camera controller 22 controls the CCD camera 4.
  • the CCD camera VRAM 24 temporarily stores an image from the CCD camera 4.
  • the control unit 10 controls the CCD camera 4 via the CCD camera controller 22 and acquires image data captured by the CCD camera 4 from the CCD camera VRAM 24.
  • the control unit 10 can acquire an image captured by the CCD camera 4 and, as will be described in detail later, by analyzing the image, the user P's hand can be recognized.
  • the HMD I / F controller 26 controls the HMD main body 2 in response to a request from the control unit 10.
  • the HMD I / F controller 26 supplies an image signal based on the image data stored in the HMD VRAM 28 to the HMD main body 2 under the control of the control unit 10. Accordingly, the control unit 10 performs control to display an image.
  • the HMD main body 2 receives signals (three primary color signals of R, G, and B) that are elements for generating an image based on the image signal. appear.
  • the HMD main body 2 emits and combines laser beams based on the generated signals, and scans the laser beams two-dimensionally.
  • the two-dimensionally scanned light is converted so that its center line converges on the pupil of the user P, and is projected onto the retina of the user P's eye.
  • the general configuration and operation of the HMD main body 2 are well known (see, for example, Japanese Patent Application Laid-Open No. 2007-178941), and a detailed description thereof is omitted here.
  • the peripheral device I / F 30 is an interface for connecting a peripheral device 34 such as a power switch, lamps, operations, and the like (not shown) to the controller 3.
  • a peripheral device 34 such as a power switch, lamps, operations, and the like (not shown)
  • the control unit 10 receives operation information from the switches such as the power switch via the peripheral device I / F 30, and the peripheral device I / F 30.
  • the lighting information of the lamps is supplied to the lamps via.
  • the PC connection I / F controller 32 controls the controller 3 and the PC 150 so that they can communicate with each other.
  • the control unit 10 requests the PC 150 to supply image data via the PC connection I / F controller 32, and supplies the image data supplied from the PC 150 via the PC connection I / F controller 32 to the HMD main body 2. Further, the control unit 10 supplies information from the peripheral device 34 to the PC 150 via the PC connection I / F controller 32.
  • the work standard time table stored in the flash ROM 16 is a table related to the standard time that is the switching timing of the main manual information and the sub manual information.
  • information related to the standard time is set in association with each work.
  • a set standard time, an existing standard time, an average time, a total time, and the number of operations are associated with each operation.
  • the set standard time is a standard time set for each work, and a small time is set between the existing standard time and the average time.
  • the existing standard time is a standard time set in the existing.
  • the average time is an average time until the work is completed, and is a result of dividing the total time by the number of work.
  • the control unit 10 selects a standard time set for each work. Also, the control unit 10 changes the set standard time according to the average time, and the standard time according to the user's work is set.
  • the flash ROM 16 stores the standard time in association with the main manual information and the sub manual information.
  • Such a flash ROM 16 functions as manual information storage means 204 (see FIG. 6) described later.
  • the standard time is a time used as a reference for switching between the reproduction of the main manual information and the reproduction of the sub manual information.
  • the flash ROM 16 in which the work standard time table is stored stores a predetermined work time for each work.
  • the standard time is used as a reference for switching between reproduction and creation.
  • the present invention is not limited to this.
  • the time serving as the reproduction switching reference may be different from the time serving as the creation switching reference.
  • the CCD camera 4 in the HMD 1 functions as an imaging unit 201 that captures an image of the field of view of the user P, generates image data, and supplies the image data to the control unit 10.
  • the HMD main body 2 in the HMD 1 functions as the display unit 210.
  • the display unit 210 projects image light according to image information (display information) onto the eyes of the user P while allowing external light to pass through, and causes the user P to visually recognize an image according to the image light.
  • the control unit 10 in the HMD 1 executes image analysis means 202, hand detection determination means 203, manual information storage means 204, imaging condition change means 205, display start control means 206 when a CPU 12 described later executes a predetermined information processing program.
  • the display switching control unit 207, the display end control unit 208, and the standard time update unit 209 function.
  • the image analysis unit 202 analyzes the image data captured by the imaging unit 201.
  • the image analysis unit 202 analyzes the image data output from the imaging unit 201 and performs contour detection, color detection, and the like of the image captured by the imaging unit 201.
  • the hand detection determination unit 203 detects the hand of the user P based on the result analyzed by the image analysis unit 202, and determines whether or not the user's hand is in the imaging area by the imaging unit 201.
  • the manual information storage unit 204 corresponds to the CPU 12 or the flash ROM 16 described above.
  • the manual information storage unit 204 stores main manual information and sub-manual information related to work.
  • the manual information storage unit 204 when it is determined by the hand detection determination unit 203 that there is a user P's hand in the imaging area, until a predetermined work time elapses after it is determined that there is the hand.
  • the image captured by the imaging means 201 is stored as main manual information.
  • the manual information storage unit 204 is configured such that when the hand detection determination unit 203 determines that the user P's hand is in the imaging area, a predetermined work time has elapsed since it was determined that there is the hand.
  • the manual information storage means 204 stores main manual information and sub manual information, and standard times associated with them. Further, the manual information storage unit 204 stores a predetermined work time for each work.
  • the imaging condition changing unit 205 changes the imaging condition of the imaging unit 201 when main manual information is stored in the manual information storage unit 204 and when sub manual information is stored. Specifically, the imaging condition changing unit 205 changes the image so that an image is captured in a narrow imaging range when the sub manual information is stored, rather than when the main manual information is stored.
  • the display start control unit 206 causes the display unit 210 to reproduce the main manual information stored in the manual information storage unit 204. Let it begin.
  • the display switching control unit 207 does not determine that there is no user's hand in the imaging area by the hand detection determination unit 203 after the display unit 210 starts the reproduction of the main manual information, and the main manual information being reproduced.
  • the reproduction of the main manual information is switched to the reproduction of the sub manual information.
  • the display end control unit 208 is reproduced when the hand detection determining unit 203 determines that there is no user's hand in the imaging area. The reproduction of the main manual information or sub-manual that is currently being played is terminated.
  • the standard time update unit 209 is less than the standard time from the start of the reproduction of the main manual information by the display unit 210 until the hand detection determination unit 203 determines that there is no user's hand in the imaging area. If so, update the standard time based on that time.
  • step S11 when the HMD 1 is powered on, the control unit 10 performs initial setting (step S11). In this process, the control unit 10 executes RAM access permission, work area initialization, and the like. In addition, the control unit 10 performs display control such as starting the HMD main body 2 and displaying an initial screen by the HMD main body 2. If this process ends, the process moves to a step S12.
  • step S12 the control unit 10 determines whether or not to reproduce the manual according to the operation of the user P.
  • the control unit 10 determines the work to be performed according to the operation of the user P, and as a result, determines whether or not to reproduce the manual information corresponding to the selected work.
  • step S12 determines to reproduce the manual
  • step S14 the manual reproduction process is executed (step S14) and the process proceeds to step S20, as will be described in detail later with reference to FIG.
  • step S12 determines whether to reproduce the manual (step S12: NO)
  • step S13 determines whether to create manual information corresponding to the selected work.
  • step S13 When it is determined that the manual is to be created (step S13: YES), the control unit 10 executes a manual creation process (step S15), which will be described later in detail with reference to FIG. 9, and moves the process to step S20. On the other hand, if the control part 10 determines not to create a manual (step S13: NO), it will move a process to step S20.
  • step S20 the control unit 10 determines whether or not the power is off. In this process, the control unit 10 determines whether or not the power is off according to the operation of the power switch or the like. When determining that the power is off (step S20: YES), the control unit 10 ends the main process. On the other hand, when determining that the power is not turned off (step S20: NO), the control unit 10 moves the process to step S12 again. Thereby, the control unit 10 repeatedly executes the above-described processing until the power is turned off.
  • control unit 10 analyzes an image captured by the CCD camera 4, and when an identification object such as a QR code can be recognized in the image, selects a work corresponding to the identification object, and the work It may be determined to reproduce the manual information corresponding to.
  • control unit 10 validates imaging by the CCD camera 4 and is created in the manual creation process described later or existing manual information stored in the flash ROM 16 from the initial setting. Manual information is selected according to the user's operation (step S31). If this process ends, the process moves to a step S32.
  • step S32 the control unit 10 reads the set standard time corresponding to the work with reference to the work standard time table (see FIG. 5). Then, the control unit 10 selects manual information corresponding to the work (step S33). If this process ends, the process moves to a step S34.
  • step S34 the control unit 10 determines whether or not the user P has a hand in the imaging region.
  • the control unit 10 performs contour detection and color detection of image data captured by the CCD camera 4. That is, the control unit 10 analyzes the image in the imaging area by the CCD camera 4. And the control part 10 performs the process which detects the outline of the hand of the user P based on the result of this outline detection and color detection.
  • the control unit 10 detects a skin color area included in the image data, and performs pattern matching between the outline of the skin color area and the template of the hand outline stored in the flash ROM 16. Then, the control unit 10 determines whether or not the user P has a hand in the imaging area. That is, the control unit 10 determines whether there is a user's hand in the imaging region based on the result of analyzing the image.
  • step S34 when the control unit 10 determines that the user P has a hand in the imaging area (step S34: YES), the process proceeds to step S36.
  • step S34: NO if the control unit 10 determines that there is no user P's hand in the imaging region (step S34: NO), the control unit 10 performs control to display the manual start still image on the HMD main body 2 (step S35), and step again. The process moves to S34. As a result, the still image at the start of the manual is displayed by the HMD main body 2 until the hand of the user P enters the imaging region.
  • step S36 the control unit 10 reads the main manual information corresponding to the work from the flash ROM 16, and causes the HMD main body 2 to start reproducing the main manual information. And the control part 10 starts the count of a timer (step S37). This timer is for measuring the time since the work was started. That is, when it is determined that the user P has a hand in the imaging area, the control unit 10 causes the HMD main body 2 to start reproducing the main manual information and measures the time thereafter. If this process ends, the process moves to a step S38.
  • step S38 the control unit 10 determines whether or not the user P has a hand in the imaging region.
  • the control unit 10 determines whether or not the user P has a hand in the imaging region by performing the same control as in step S34 described above. That is, the control unit 10 analyzes the image in the imaging region by the CCD camera 4 and determines whether or not there is a user's hand in the imaging region based on the result of analyzing the image. If the control unit 10 determines that there is no user P's hand in the imaging region (step S38: YES), the control unit 10 recognizes that the work is finished, and moves the process to step S42. On the other hand, when the control unit 10 determines that the hand of the user P is in the imaging area (step S38: NO), the control unit 10 recognizes that the work is not finished, and moves the process to step S39.
  • step S39 the control unit 10 determines whether or not the standard time has elapsed.
  • the control unit 10 reads the value from the timer that started counting in step S37, and determines whether or not the standard time has elapsed from the start of work.
  • step S39: YES the controller 10 moves the process to step S40.
  • step S39: NO the process proceeds to step S38 again without executing steps S40 and S41.
  • step S40 the control unit 10 selects sub-manual information corresponding to the selected work. Then, the control unit 10 executes main / sub manual switching processing for switching the reproduced main manual information to sub manual information (step S41).
  • control unit 10 continues the reproduction of the main manual information until the standard time elapses without determining that there is no user's hand in the imaging area. Further, the control unit 10 starts the reproduction of the main manual information, and when the standard time has passed without determining that there is no user's hand in the imaging area, Switch playback to playback of sub-manual information. If this process ends, the process moves again to step S38.
  • step S42 the control unit 10 finishes counting the timer and performs control to display a still image on the HMD main body 2 when the manual ends (step S43).
  • step S43 the control unit 10 finishes counting the timer and performs control to display a still image on the HMD main body 2 when the manual ends.
  • step S44 the control unit 10 executes a work standard time table update process.
  • the control unit 10 reads the value of the timer that has been terminated, adds it to the total time in the work standard time table, and increases the work count by “1”. Further, the control unit 10 calculates and updates the average time based on the updated total time and the number of operations. And the control part 10 compares the updated average time with the existing standard time, and updates a small value as setting standard time.
  • control unit 10 updates the standard time based on the time from when the reproduction of the main manual information is started until it is determined that there is no user's hand in the imaging area. If this process ends, the process moves to a step S45.
  • the HMD 1 ends the reproduction of the main manual information without reproducing the sub manual information.
  • the HMD 1 switches from the main manual information to the reproduction of the sub manual information.
  • the user can efficiently perform work by presenting manual information corresponding to the user's work skill level.
  • step S45 the control unit 10 causes the HMD main body 2 to display a standby image as to whether or not to reproduce the next manual information, and determines whether or not the manual reproduction is finished according to the operation of the user P.
  • step S45: YES when the control unit 10 determines that the manual reproduction is finished, the imaging by the CCD camera 4 is invalidated and this subroutine is finished.
  • step S45: NO when determining that the manual reproduction is not finished (step S45: NO), the control unit 10 selects the next manual information (step S46) and moves the process to step S31 again. As a result, manual information can be reproduced continuously.
  • the user can update the standard time based on the work time, and can set the standard time with reference to the work done previously.
  • the user can efficiently perform work by presenting manual information corresponding to the user's work skill level.
  • the control unit 10 validates the imaging by the CCD camera 4 and reads the set standard time corresponding to the work with reference to the work standard time table (see FIG. 5) (step S51). . Then, the control unit 10 stores the image captured by the CCD camera 4 in the flash ROM 16 as a still image at the time of manual start (step S52). If this process ends, the process moves to a step S53.
  • step S53 the control unit 10 determines whether or not the user P has a hand in the imaging region.
  • the control unit 10 determines whether or not the user P has a hand in the imaging region by performing the same control as in Steps S34 and S38 described above. That is, the control unit 10 analyzes the image in the imaging region by the CCD camera 4 and determines whether or not there is a user's hand in the imaging region based on the result of analyzing the image.
  • step S53 YES
  • the process proceeds to step S54.
  • step S53 determines that there is no user P's hand in the imaging region (step S53: NO)
  • the control unit 10 moves the process to step S53 again. Accordingly, the creation of manual information is put on standby until the user P's hand enters the imaging area.
  • step S54 the control unit 10 starts imaging as main manual information.
  • the control unit 10 stores the image data captured by the CCD camera 4 in the flash ROM 16 as main manual information.
  • the control part 10 starts the count of a timer (step S55). This timer is for measuring the time from the start of the creation of the main manual information.
  • the controller 10 moves the process to step S56.
  • step S56 the control unit 10 determines whether or not the user P has a hand in the imaging region.
  • the control unit 10 determines whether or not the user P has a hand in the imaging region by performing the same control as in Steps S34, S38, and S53 described above. That is, the control unit 10 analyzes the image in the imaging region by the CCD camera 4 and determines whether or not there is a user's hand in the imaging region based on the result of analyzing the image.
  • step S56: YES the control unit 10 recognizes that the work is completed and the creation of the manual information is completed, and the process proceeds to step S60 (see FIG. 9B). Move.
  • step S56: NO the control unit 10 recognizes that the work is not finished and the creation of the manual information is continued, and step S57. Move processing to.
  • step S57 the control unit 10 determines whether or not the standard time has elapsed.
  • the control unit 10 reads the value from the timer that started counting in step S55, and determines whether or not the standard time has elapsed from the start of work (start of creation).
  • start of creation the start of work
  • step S57: YES the controller 10 moves the process to step S58.
  • step S57: NO the process proceeds to step S56 again without executing steps S58 and S59.
  • step S58 the control unit 10 executes an imaging condition changing process for changing the imaging condition such as narrowing the imaging range (zooming).
  • the control unit 10 changes the imaging condition of the CCD camera 4 between storing the main manual information and storing the sub manual information, thereby making a difference between the main manual information and the sub manual information. be able to.
  • the control unit 10 can create manual information according to the user's work skill level, for example, by imaging the sub-manual information in more detail than the main manual information.
  • control part 10 switches imaging as sub-manual information (step S59).
  • the control unit 10 stores the image data captured so far in the flash ROM 16 in correspondence with the work as main manual information before changing the imaging conditions. Then, the control unit 10 changes the imaging conditions, starts imaging as sub-manual information, and stores image data to be captured from now on in the flash ROM 16 as sub-manual information.
  • the control unit 10 displays the captured image captured until a predetermined work time elapses after it is determined that the hand is present. This is stored as information, and a captured image captured after a predetermined work time has elapsed since it is determined that the hand is present is stored as sub-manual information. If this process ends, the process moves again to step S56.
  • step S60 the control unit 10 finishes counting the timer, finishes imaging as main manual information or sub manual information, and stores it in the flash ROM 16 (step S61). Accordingly, when it is determined that the user's hand is in the imaging area, the control unit 10 stores the captured image as main manual information or sub-manual information, and the user's hand is in the imaging area. If it is determined that there is not, imaging as main manual information or sub-manual information is terminated. If this process ends, the control unit 10 moves the process to step S62.
  • step S62 the control unit 10 stores the image captured by the CCD camera 4 in the flash ROM 16 as a still image at the end of the manual operation. If this process ends, the control unit 10 moves the process to step S63.
  • step S63 the control unit 10 stores the manual start still image, main manual information, sub manual information, and manual end still image captured as described above in the flash ROM 16 as manual information corresponding to one operation. To do. Thereby, in step S31 mentioned above, the control part 10 can select creation manual information other than the existing manual information.
  • control unit 10 stores the captured manual information while being reversed.
  • the control unit 10 can reproduce without being aware of whether or not to reverse during reproduction.
  • the control unit 10 may store the captured manual information without being reversed, and may reversely reproduce the information during reproduction. If this process ends, the control unit 10 moves the process to step S64.
  • step S64 the control unit 10 displays a standby image as to whether or not to create the next manual information, and determines whether or not the manual creation is completed according to the operation of the user P.
  • step S64: YES the imaging by the CCD camera 4 is invalidated and this subroutine is finished.
  • step S64: NO the control part 10 determines that manual creation is not complete
  • finished step S64: NO
  • the captured image in the work itself becomes the main manual information or the sub manual information. Therefore, the user can save time for separately creating main manual information or sub-manual information, and can perform work efficiently. Further, the HMD 1 can switch and store the main manual information and the sub manual information before and after a predetermined work time. Therefore, the user can save time for creating the main manual information and the sub manual information separately, and can perform the work efficiently. Further, in the HMD 1, since a predetermined work time is set for each work, the work time corresponding to the type of work can be set, which is simple.
  • the control unit 10 sets the main manual information as an image with a wide shooting range (wide angle of view) and the sub manual information as an image with a narrow shooting range (narrow angle of view). Absent.
  • the main manual information may be a normal speed image
  • the sub manual information may be a 1/2 speed image.
  • the main manual information and the sub manual information may be captured at different angles. That is, the sub-manual information only needs to be recognizable as more detailed information than the main manual information.
  • a still image is displayed before the user P's hand enters the imaging range of the CCD camera 4, and when it enters, a moving image is displayed as main manual information and sub manual information.
  • a still image is displayed, but the present invention is not limited to this.
  • the moving image may be displayed even before the hand of the user P enters the imaging range of the CCD camera 4 or after the hand of the user P comes out of the imaging range of the CCD camera 4. .
  • the control unit 10 sets the smaller of the existing standard time and the average time as the set standard time, but is not limited thereto.
  • the control unit 10 may set the previous work time itself as the set standard time.
  • the control part 10 is good also considering the shortest time of the last work time as setting standard time. That is, when the time from when the reproduction of the main manual information is started until it is determined that there is no user's hand in the imaging area is equal to or less than the standard time, the control unit 10 determines the standard time based on the time. May be updated. Further, for example, there is no problem even if the configuration does not update the standard time itself.
  • the HMD main body 2, the controller 3, and the PC 150 are configured separately, but the present invention is not limited to this.
  • the controller 3 and the PC 150 may be configured integrally, or the HMD main body 2 and the controller 3 may be configured integrally. Of course, all of them may be integrated, or may be configured separately.

Abstract

 ヘッドマウントディスプレイは、ユーザの視野範囲のうち少なくとも一部が撮像された撮像画像を解析し、その解析された結果に基づいて、撮像領域内にユーザの手があるか否かを判定する。ヘッドマウントディスプレイは、撮像領域内にユーザの手があると判定された場合には、主マニュアル情報の再生を開始させ、それから撮像領域内にユーザの手がないとは判定されずに標準時間が経過した場合には、主マニュアル情報の再生を副マニュアル情報の再生に切り替える。ヘッドマウントディスプレイは、主マニュアル情報又は副マニュアル情報が再生されている場合において、撮像領域内にユーザの手がないと判定されたときには、再生されている主マニュアル情報又は副マニュアルの再生を終了させる。

Description

ヘッドマウントディスプレイ
 本発明は、ヘッドマウントディスプレイに関するものである。特に、本発明は、外光を透過しつつ、表示情報に応じた画像光をユーザの眼に投射してユーザに画像光に応じた画像を視認させる表示手段を備えたシースルー型のヘッドマウントディスプレイに関するものである。
 従来より、動画ファイル、静止画ファイル、文章ファイル等の各種コンテンツ情報を記憶する記憶手段と、この記憶手段に記憶したコンテンツ情報を再生する再生手段とを備えた情報処理装置が知られている。
 この情報処理装置の代表例としては、パーソナルコンピュータがある。一般にパーソナルコンピュータは、前記記憶手段や前記再生手段等を備えたコンピュータ本体と、このコンピュータ本体に所定の動作を行わせるために使用者が操作するキーボードやマウス等の機械的な操作手段と、再生手段により再生されたコンテンツ情報を画像として表示するディスプレイ等とから構成されている。
 この表示情報を表示するディスプレイとしては、CRT(Cathode Ray Tube)ディスプレイや液晶ディスプレイ等の卓上に載置して使用する表示装置が一般的であった。しかし、近年では、液晶表示素子を画像表示デバイスとして用い、ユーザが頭部に装着した状態でユーザに画像を視認させることができるヘッドマウントディスプレイ(以下、「HMD」ということがある。)等も開発されている。
 また、このようなHMDにおいては、外光をも透過するシースルー型のHMDがある。このシースルー型のHMDは、コンテンツ情報を画像として表示している最中であっても、ユーザにコンテンツ情報を視認させながら、外界をも視認させることができるように構成している。
 ところで、上述したようなHMDにおいて、例えば、特許文献1に示すように、作業対象物に対して行われるべき作業内容をユーザに示すものがある。このHMDでは、各作業過程の順番に従って、ユーザにより視認される作業対象物そのものに対して、各作業過程の作業対象物を象って予め作成されたアニメーション画像を重なるように表示させている。
特開2004-21931号公報
 ところが、上記特許文献1に記載のHMDでは、単に作業支援マニュアルが提示されるだけである。そのため、このHMDでは、ユーザの作業速度等、ユーザの作業熟練度に応じたマニュアルが提示されるわけではなく、効率的に作業を進めることができないことがあった。
 本発明は、上述したような課題に鑑みてなされたものである。すなわち、本発明は、ユーザの作業熟練度に応じたマニュアル情報を提示することによって、効率的に作業を行うことができるHMDを提供することを目的とする。
 上記目的を達成するために、本発明の一つの観点によれば、シースルー型のHMDであって、表示手段と、マニュアル情報記憶手段と、撮像手段と、画像解析手段と、手検知判定手段と、表示開始制御手段と、表示切替制御手段と、表示終了制御手段とを備える。前記表示手段は、外光を透過しつつ、表示情報に応じた画像光をユーザの眼に投射して当該ユーザに前記画像光に応じた画像を視認させる。前記マニュアル情報記憶手段は、作業に関する主マニュアル情報と、当該主マニュアル情報にそれぞれ関連付けられた標準時間及び副マニュアル情報を記憶する。前記撮像手段は、前記ユーザの視野範囲のうち少なくとも一部を撮像する。前記画像解析手段は、前記撮像手段による撮像画像を解析する。前記手検知判定手段は、前記画像解析手段によって解析された結果に基づいて、前記撮像手段による撮像領域内にユーザの手があるか否かを判定する。前記表示開始制御手段は、前記手検知判定手段によって前記撮像領域内にユーザの手があると判定された場合には、前記マニュアル情報記憶手段に記憶された前記主マニュアル情報の再生を前記表示手段に開始させる。前記表示切替制御手段は、前記表示手段によって前記主マニュアル情報の再生が開始されてから、前記手検知判定手段によって前記撮像領域内にユーザの手がないとは判定されずに、再生中の主マニュアル情報に関連付けられて前記マニュアル情報記憶手段に記憶された標準時間が経過した場合には、当該主マニュアル情報の再生を、前記マニュアル情報記憶手段に記憶された前記副マニュアル情報の再生に切り替える。前記表示終了制御手段は、前記表示手段により前記主マニュアル情報又は前記副マニュアル情報が再生されている場合において、前記手検知判定手段によって前記撮像領域内にユーザの手がないと判定されたときには、当該再生されている主マニュアル情報又は副マニュアルの再生を終了させる。
 このようにHMDが構成されているため、ユーザの作業熟練度に応じたマニュアル情報をユーザに提示することができる。従って、ユーザは効率的に作業を行うことができる。
 また、前記HMDは、標準時間更新手段を備えるようにしてもよい。前記標準時間更新手段は、前記表示手段によって前記主マニュアル情報の再生が開始されてから、前記手検知判定手段によって前記撮像領域内にユーザの手がないと判定されるまでの時間が前記標準時間以下である場合に、当該時間に基づいて前記標準時間を更新する。
 このように構成することにより、ユーザの作業熟練度に応じて標準時間を短縮することができるため、作業熟練度が高いユーザはより効率的に作業を行うことができる。
 また、前記HMDにおいて、前記マニュアル情報記憶手段は、前記手検知判定手段によって前記撮像領域内にユーザの手があると判定された場合には、前記撮像手段による撮像画像を主マニュアル情報又は副マニュアル情報として記憶するようにしてもよい。
 このように構成することにより、ユーザが作業を行うことによって、その作業自体における撮像画像が主マニュアル情報又は副マニュアル情報となり、別途主マニュアル情報又は副マニュアル情報を作成する時間を省くことができる。
 また、前記HMDにおいて、前記マニュアル情報記憶手段は、前記手検知判定手段によって前記撮像領域内にユーザの手があると判定された場合において、当該手があると判定されてから所定の作業時間が経過するまでは前記撮像手段による撮像画像を主マニュアル情報として記憶し、当該手があると判定されてから所定の作業時間が経過してから前記撮像手段による撮像画像を副マニュアル情報として記憶するようにしてもよい。
 このように構成することにより、所定の作業時間前後で主マニュアル情報と副マニュアル情報とを切り替えて記憶することができ、主マニュアル情報及び副マニュアル情報をそれぞれ別々に作成する時間を省くことができる。
 また、前記HMDにおいて、前記マニュアル情報記憶手段は、作業毎に前記所定の作業時間を記憶するようにしてもよい。
 このように構成することにより、作業毎に所定の作業時間が設定されるので、作業の種類に対応した作業時間が設定可能であり、簡便である。
 更に、前記HMDにおいて、撮像条件変更手段を備えるようにしてもよい。前記撮像条件変更手段は、前記マニュアル情報記憶手段により主マニュアル情報を記憶するときと副マニュアル情報を記憶するときとで前記撮像手段の撮像条件を変更する。
 このように構成することにより、主マニュアル情報と副マニュアル情報との差異を出すことができる。特に、例えば、主マニュアル情報よりも副マニュアル情報を詳細に撮像することによって、ユーザの作業熟練度に応じたマニュアル情報を作成することができる。
 本発明によれば、ユーザの作業熟練度に応じたマニュアル情報をユーザに提示することができる。従って、ユーザは効率的に作業を行うことができる。
本発明の一実施形態に係るHMDを示す説明図である。 本発明の一実施形態に係るHMD本体を示す外観図である。 本発明の一実施形態に係るHMDの表示画面を示す説明図である。 本発明の一実施形態に係るHMDの表示画面を示す説明図である。 本発明の一実施形態に係るHMDの電気的構成を示す説明図である。 本発明の一実施形態に係るHMDにおける作業標準時間テーブルを示す説明図である。 本発明の一実施形態に係るHMDの機能構成を示す説明図である。 HMDにおいて制御を行う際に実行する処理の一例を示すフローチャートである。 HMDにおいて制御を行う際に実行する処理の一例を示すフローチャートである。 HMDにおいて制御を行う際に実行する処理の一例を示すフローチャートである。 HMDにおいて制御を行う際に実行する処理の一例を示すフローチャートである。 HMDにおいて制御を行う際に実行する処理の一例を示すフローチャートである。
1 HMD
4 CCDカメラ
10 制御部
 以下、本発明の一実施形態について、図面を参照して具体的に説明する。
 [HMD概観]
 図1に示すように、本実施形態に係るHMD1は、HMD本体2と、コントローラ3と、CCD(Charge Coupled Devices)カメラ4と、コントローラ3と通信可能なパーソナルコンピュータ(以下、「PC」という。)150とを備えている。HMD本体2は、ユーザPが頭部に装着した状態で、動画ファイル、静止画ファイル、文章ファイル等の各種コンテンツ情報や後述する作業に関するマニュアル情報を画像としてそのユーザPに視認可能に表示する。コントローラ3は、HMD本体2に対して画像信号を供給する処理を主に行う。CCDカメラ4は、ユーザPの視野範囲の少なくとも一部を撮像する。
 HMD本体2は、各色(R,G,B)毎に強度変調された光(以下、「画像光」という。)をユーザPの網膜上で2次元方向に走査させることにより、ユーザPにコンテンツ情報に対応する画像(以下、単に「コンテンツ」という。)を視認させる網膜走査ディスプレイ(Retinal Imaging Display)である。
 尚、本実施形態においては、HMD本体2として網膜走査ディスプレイを採用したが、これに限らない。例えば、HMD本体2として、LCD(Liquid Crystal Display)を透過又は反射させて生成した光(画像光)をユーザPの眼に投射して、ユーザPにコンテンツを視認させるディスプレイを採用してもよい。
 このHMD本体2は、コンテンツを表示している最中であっても、ユーザPの視野範囲の中では、ユーザが外界を視認できるように構成している。
 HMD本体2は、図2に示すように、略眼鏡形状とした支持部材2aと、使用者に認識させるための画像を形成する画像形成部2bとを備えている。画像形成部2bは、ユーザPの眼前にハーフミラー2cを設けている。画像形成部2bは、外光Laをハーフミラー2cを透過させてユーザPの眼Yに入射させ、コンテンツ情報に応じた画像光Lbをハーフミラー2cで反射させてユーザPの眼に入射させるようにしている。このようにHMD1は、外光を透過しつつ、コンテンツ情報に応じた画像光をユーザPの眼Yに投射するシースルー型のHMDとしている。
 コントローラ3は、HMD本体2、CCDカメラ4、PC150等と通信可能に接続されている。このコントローラ3には、HMD1全体を制御する後述の制御部10(図4参照)等が内蔵されている。
 CCDカメラ4は、ユーザPの視野範囲内におけるユーザPの手を検出できるように、ユーザPの視野範囲のうち少なくとも一部を撮像する撮像手段201(図6参照)として機能する。CCDカメラ4は、ユーザPの視野範囲の画像をサンプリングするように構成されている。また、CCDカメラ4は、ズーム機能を有しており、撮像範囲を変更可能である。
 このような構成において、本実施形態に係るHMD1は、作業に関するマニュアル情報を記憶している。ユーザPの視野範囲のうち少なくとも一部にユーザPの手が入ってきたときには、作業が行われている状態と想定できる。そのため、HMD1は、作業に関するマニュアル情報の再生や作成を行うことができる。また、このHMD1は、シースルー型であるため、ユーザPは、外界を視認しつつ、作業に関するマニュアル情報が視認可能である。
 このマニュアル情報としては、主マニュアル情報と、副マニュアル情報と、マニュアル開始時静止画像と、マニュアル終了時静止画像とが含まれている。このマニュアル情報は、作業毎に設定されている。
 主マニュアル情報は、再生開始時から再生される動画像情報である。副マニュアル情報は、再生開始から、主マニュアル情報に代わり再生される動画像情報である。副マニュアル情報は、例えば、作業内容に応じて設定された標準時間が経過した後に、主マニュアル情報に代わり再生される。本実施形態においては、主マニュアル情報は、ユーザPの手元を広い撮像範囲で撮像した動画像としている。また、副マニュアル情報は、ユーザPの手元を主マニュアルよりも狭い撮像範囲で(ズーミングして)撮像した動画像としている。また、マニュアル開始時静止画像は、作業開始前に表示される静止画像である。また、マニュアル終了時静止画像は、作業終了後に表示される静止画像である。
 また、これらマニュアル情報には、既存マニュアル情報と、作成マニュアル情報とが含まれている。既存マニュアル情報は、HMD1の初期設定時から記憶されている。作成マニュアル情報は、実際に作業した結果に基づいて作成される。この作成マニュアル情報は、実際に作業しているユーザPの手元が撮像されることによって作成される。また、本実施形態において、副マニュアル情報は、主マニュアル情報の撮像よりも狭い撮像範囲で撮像されるため、主マニュアル情報よりも拡大された詳細のマニュアル情報となる。
 [表示画面]
 ここで、本実施形態に係るHMD1における表示画面について、図3A及び図3Bを参照して説明する。
 図3A及び図3Bに示すように、HMD1の表示領域50内には、各種のマニュアル情報が表示される。このマニュアル情報は、作業に関する動画像であり、例えば、組み立て作業に関する動画像や分解作業に関する動画像である。また、このHMD1は、シースルー型であるため、外界(ユーザP自身による作業光景)51を視認しつつ、図3A及び図3Bに示すようなマニュアル情報が視認可能である。
 また、マニュアル情報には、図3Aに示すような主マニュアル情報や、図3Bに示すような副マニュアル情報が含まれている。主マニュアル情報は、再生が開始されてから、作業内容に応じて設定された標準時間が経過する以前に再生される。また、副マニュアル情報は、その標準時間が経過した以降に再生される。また、主マニュアル情報は、図3Aに示すように、撮像範囲が相対的に広い動画像である。また、副マニュアル情報は、図3Bに示すように、撮像範囲が相対的に狭い動画像であり、主マニュアル情報の動画像よりも拡大表示されている。すなわち、副マニュアル情報は、主マニュアル情報よりも細かい箇所まで視認可能となっている。
 作業熟練度が低いユーザは、標準時間が経過しても作業が終了していないことがある。そのため、作業熟練度が低いユーザに対して、HMD1は、主マニュアル情報のみならず、作業の詳細が表示される副マニュアル情報を再生する。一方、作業熟練度が高いユーザは、標準時間が経過するまでに作業が終了するため、HMD1は主マニュアル情報のみを再生する。そのため、作業熟練度が高いユーザにとっては副マニュアル情報の再生は特に必要ではない。このように、HMD1は、熟練度に応じたマニュアル情報を再生することができ、ユーザの作業熟練度に応じてマニュアル情報に関する改良を加えた副マニュアル情報を再生する、そのため、ユーザは効率的に作業を行うことができる。
 また、本実施形態のHMD1においては、マニュアル情報の再生及び作成が可能である。特に、HMD1では、装置の組み立て作業に関するマニュアル情報が再生可能である。この組み立て作業に関するマニュアル情報を作成する方法としては、単に、組み立て作業が行われる際にユーザPの手元を撮像し、その撮像画像を再生する方法がある。また、このHMD1では、同じ装置を分解作業する際にユーザPの手元を撮像し、その分解作業の撮像画像を時系列に逆転させて再生することによって、装置の組み立て作業に関するマニュアル情報の再生が可能である。このように、HMD1において撮像したマニュアル情報を時系列に逆転させて再生することによって、撮像する機会を別途設けることなく、ユーザPは効率的に作業を行うことができる。
 [HMDの電気的構成]
 本実施形態におけるHMD1の電気的構成などについて図4を用いて説明する。
 図4に示すように、このHMD1は、上述したようなHMD本体2と、そのHMD本体2等を制御するコントローラ3と、CCDカメラ4と、周辺機器34と、PC150とを備えている。
 コントローラ3は、当該HMD1全体の動作を統括制御する制御部10と、CCDカメラコントローラ22と、CCDカメラVRAM24と、HMDインターフェース(図中「I/F」と示し、以下「I/F」ということがある)コントローラ26とを備えている。また、コントローラ3は、HMD VRAM28と、周辺機器I/F30と、PC接続I/Fコントローラ32と、を備えている。
 制御部10は、CPU(Central Processing Unit)12と、不揮発性メモリであるプログラムROM(Read Only Memory)14と、フラッシュROM(フラッシュメモリ)16と、RAM(Random Access Memory)18と、を備えている。これらはデータ通信用のバスにそれぞれ接続されており、このデータ通信用のバスを介して各種情報の送受信を行う。
 CPU12は、プログラムROM14に記憶されている各種情報処理プログラムを実行することにより、制御部10としてHMD1を構成する各種回路を動作させて、HMD1が備える各種機能を実行させる演算処理装置である。
 フラッシュROM16は、制御部10がCCDカメラ4により撮像した画像や、PC150などの他の装置から供給される画像を記憶する。
 CCDカメラコントローラ22は、CCDカメラ4を制御する。CCDカメラVRAM24は、CCDカメラ4からの画像を一時的に記憶する。制御部10は、ユーザPの手を認識するために、CCDカメラコントローラ22を介してCCDカメラ4を制御し、CCDカメラ4によって撮像された画像データをCCDカメラVRAM24から取得する。これによって、制御部10は、CCDカメラ4によって撮像された画像を取得することができ、詳しく後述するが、その画像を解析することによって、ユーザPの手を認識可能となる。
 HMD I/Fコントローラ26は、制御部10からの要求に応じてHMD本体2を制御する。HMD I/Fコントローラ26は、制御部10の制御により、HMD VRAM28に記憶された画像データに基づいた画像信号をHMD本体2に供給する。これによって、制御部10は、画像を表示させる制御を行う。
 HMD本体2は、HMD I/Fコントローラ26から画像信号が入力されると、この画像信号に基づいて画像を生成するための要素となる各信号(R,G,Bの3原色の信号)を発生する。また、HMD本体2は、発生した各信号に基づくレーザ光を出射して合波し、そのレーザ光を2次元に走査する。HMD本体2において、2次元に走査された光は、その中心線がユーザPの瞳孔に収束するように変換され、ユーザPの眼の網膜に投影される。HMD本体2の一般的な構成及び動作については、周知であり(例えば、特開2007-178941号公報参照)、ここでは具体的な説明は省略する。
 周辺機器I/F30は、電源スイッチやランプ類、操作類等(図示せず)の周辺機器34をコントローラ3に接続するためのインターフェースである。例えば、電源スイッチやランプ類が周辺機器I/F30に接続されたとき、制御部10は、電源スイッチ等のスイッチ類からの操作情報を周辺機器I/F30を介して受け取り、周辺機器I/F30を介してランプ類の点灯情報をランプ類に供給する。
 PC接続I/Fコントローラ32は、コントローラ3とPC150とを通信可能に制御する。制御部10は、PC接続I/Fコントローラ32を介して画像データの供給をPC150に要求し、PC150からPC接続I/Fコントローラ32を介して供給された画像データをHMD本体2に供給する。また、制御部10は、周辺機器34からの情報をPC接続I/Fコントローラ32を介してPC150に供給する。
 [作業標準時間テーブル]
 上述したような構成のHMD1におけるフラッシュROM16に記憶されている作業標準時間テーブルについて図5を用いて説明する。
 フラッシュROM16に記憶された作業標準時間テーブルは、主マニュアル情報と副マニュアル情報の切り替えタイミングとなる標準時間に関するテーブルである。この作業標準時間テーブルには、図5に示すように、作業毎に標準時間に関する情報が対応付けて設定されている。この標準時間に関する情報としては、設定標準時間、既存標準時間、平均時間、合計時間及び作業回数が作業毎に対応付けられている。設定標準時間とは、作業毎に設定されている標準時間であり、既存標準時間と平均時間とで小さい時間が設定される。既存標準時間とは、既存に設定されている標準時間である。平均時間とは、作業が終了するまでの平均の時間であり、合計時間を作業回数で割った結果である。
 このような作業標準時間テーブルの参照によって、制御部10は、作業毎に設定された標準時間を選択する。また、制御部10は、平均時間に応じても設定標準時間を変更することとなり、ユーザの作業に応じた標準時間が設定されることとなる。言い換えると、このようなフラッシュROM16は、主マニュアル情報と、副マニュアル情報とに関連付けて標準時間を記憶することとなる。尚、このようなフラッシュROM16は、後述するマニュアル情報記憶手段204(図6参照)として機能する。
 また、標準時間とは、主マニュアル情報の再生と副マニュアル情報の再生との切替の基準となる時間であるが、それとともに、主マニュアル情報の作成と副マニュアル情報の作成との切替の基準となる時間でもある。つまり、このような作業標準時間テーブルによって、主マニュアル情報を作成するための時間(所定の作業時間)が作業毎に設定されている。このように作業標準時間テーブルが記憶されたフラッシュROM16は、作業毎に所定の作業時間を記憶することとなる。尚、本実施形態においては、この標準時間を基準として、再生及び作成の切替基準としたが、これに限らない。例えば、再生の切替基準となる時間と、作成の切替基準となる時間とが異なっていてもよい。
 [HMD機能構成]
 ここで、本実施形態に係るHMD1の機能構成等について、図6を参照して説明する。
 図6に示すように、このHMD1におけるCCDカメラ4は、ユーザPの視野範囲を撮像して画像データを生成し、制御部10にその画像データを供給する撮像手段201として機能する。
 また、このHMD1におけるHMD本体2は、表示手段210として機能する。この表示手段210は、外光を透過しつつ、画像情報(表示情報)に応じた画像光をユーザPの眼に投射してそのユーザPに画像光に応じた画像を視認させる。
 HMD1における制御部10は、後述のCPU12が所定の情報処理プログラムを実行することによって、画像解析手段202、手検知判定手段203、マニュアル情報記憶手段204、撮像条件変更手段205、表示開始制御手段206、表示切替制御手段207、表示終了制御手段208、標準時間更新手段209として機能することとなる。
 画像解析手段202は、撮像手段201よって撮像された画像データを解析する。特に、画像解析手段202は、撮像手段201から出力される画像データを解析して、撮像手段201によって撮像された画像の輪郭検出、色検出などを行う。
 手検知判定手段203は、画像解析手段202によって解析された結果に基づいて、ユーザPの手を検知し、撮像手段201による撮像領域内にユーザの手があるか否かを判定する。
 マニュアル情報記憶手段204は、上述したCPU12やフラッシュROM16が相当する。このマニュアル情報記憶手段204には、作業に関する主マニュアル情報及び副マニュアル情報が記憶されている。また、このマニュアル情報記憶手段204は、手検知判定手段203によって撮像領域内にユーザPの手があると判定された場合において、その手があると判定されてから所定の作業時間が経過するまでに撮像手段201による撮像画像を主マニュアル情報として記憶する。また、このマニュアル情報記憶手段204は、手検知判定手段203によって撮像領域内にユーザPの手があると判定された場合において、その手があると判定されてから所定の作業時間が経過してから撮像手段201による撮像画像を副マニュアル情報として記憶する。また、マニュアル情報記憶手段204は、主マニュアル情報と副マニュアル情報と、それらにそれぞれ関連付けられた標準時間を記憶している。また、マニュアル情報記憶手段204は、作業毎に所定の作業時間を記憶する。
 撮像条件変更手段205は、マニュアル情報記憶手段204により主マニュアル情報を記憶するときと副マニュアル情報を記憶するときとで撮像手段201の撮像条件を変更する。具体的には、撮像条件変更手段205は、主マニュアル情報を記憶するときよりも、副マニュアル情報を記憶するときのほうが狭い撮像範囲で撮像されるように変更する。
 表示開始制御手段206は、手検知判定手段203によって撮像領域内にユーザPの手があると判定された場合には、マニュアル情報記憶手段204に記憶された主マニュアル情報の再生を表示手段210に開始させる。
 表示切替制御手段207は、表示手段210によって主マニュアル情報の再生が開始されてから、手検知判定手段203によって撮像領域内にユーザの手がないとは判定されず、かつ再生中の主マニュアル情報に関連付けられた標準時間が経過した場合には、その主マニュアル情報の再生を副マニュアル情報の再生に切り替える。
 表示終了制御手段208は、表示手段210により主マニュアル情報又は副マニュアル情報が再生されている場合において、手検知判定手段203によって撮像領域内にユーザの手がないと判定されたときには、その再生されている主マニュアル情報又は副マニュアルの再生を終了させる。
 標準時間更新手段209は、表示手段210によって主マニュアル情報の再生が開始されてから、手検知判定手段203によって撮像領域内にユーザの手がないと判定されるまでの時間が標準時間以下である場合に、その時間に基づいて標準時間を更新する。
 [制御動作]
 次に、図7,図8A,図8B及び図9のフローチャートを参照して、HMD1の動作について説明する。特に、図7に示すメイン処理は、HMD1の電源がオンされた際に、コントローラ3における制御部10によって実行され、その実行によってコントローラ3の制御部10が上記各手段として機能する。
 [メイン処理]
 最初に、図7に示すように、HMD1に電源が投入されると、制御部10は、初期設定を行う(ステップS11)。この処理において、制御部10は、RAMアクセス許可、作業領域の初期化等を実行する。また、制御部10は、HMD本体2を起動させ、HMD本体2による初期画面を表示させる等の表示制御を行う。この処理が終了した場合には、ステップS12に処理を移す。
 ステップS12において、制御部10は、ユーザPの操作に応じて、マニュアルを再生するか否かを判定する。この処理において、制御部10は、ユーザPの操作に応じて行われる作業を判定することとなり、その結果、選択された作業に対応するマニュアル情報を再生するか否かを判定することとなる。
 制御部10は、マニュアルを再生すると判定すると(ステップS12:YES)、詳しくは図8を用いて後述するが、マニュアル再生処理を実行し(ステップS14)、ステップS20に処理を移す。
 一方、制御部10は、マニュアルを再生しないと判定すると(ステップS12:NO)、ユーザPの操作に応じてマニュアルを作成するか否かを判定する(ステップS13)。この処理において、制御部10は、ユーザPの操作に応じて行われる作業を判定することとなり、その結果、選択された作業に対応するマニュアル情報を作成するか否かを判定することとなる。
 制御部10は、マニュアルを作成すると判定すると(ステップS13:YES)、詳しくは図9を用いて後述するが、マニュアル作成処理を実行し(ステップS15)、ステップS20に処理を移す。一方、制御部10は、マニュアルを作成しないと判定すると(ステップS13:NO)、ステップS20に処理を移す。
 ステップS20において、制御部10は、電源オフであるか否かを判定する。この処理において、制御部10は、電源スイッチの操作等に応じて、電源オフであるか否かを判定することとなる。制御部10は、電源オフであると判定すると(ステップS20:YES)、メイン処理を終了する。一方、制御部10は、電源オフではないと判定すると(ステップS20:NO)、再度、ステップS12に処理を移す。これによって、制御部10は、電源オフとなるまで、上述した処理を繰り返し実行することとなる。
 尚、本実施形態においては、ユーザの操作に応じて、マニュアル情報の再生や作成を行うと判定したが、これに限らない。例えば、制御部10は、CCDカメラ4によって撮像された画像を解析し、その画像のなかにQRコードなどの識別体が認識できた場合に、その識別体に対応する作業を選択し、その作業に対応するマニュアル情報の再生を行うように判定してもよい。
 [マニュアル再生処理]
 図7のステップS14において実行されるサブルーチンについて図8A及び図8Bを用いて説明する。
 最初に、図8Aに示すように、制御部10は、CCDカメラ4による撮像を有効化し、初期設定時からフラッシュROM16に記憶されている既存のマニュアル情報か、後述するマニュアル作成処理において作成されるマニュアル情報かをユーザの操作に応じて選択する(ステップS31)。この処理が終了した場合には、ステップS32に処理を移す。
 ステップS32において、制御部10は、作業標準時間テーブル(図5参照)を参照し、作業に対応する設定標準時間を読み出す。そして、制御部10は、その作業に対応するマニュアル情報を選択する(ステップS33)。この処理が終了した場合には、ステップS34に処理を移す。
 ステップS34において、制御部10は、撮像領域内にユーザPの手があるか否かを判定する。この処理において、制御部10は、CCDカメラ4によって撮像された画像データの輪郭検出、色検出を行う。つまり、制御部10は、CCDカメラ4による撮像領域にある画像を解析することとなる。そして、制御部10は、この輪郭検出、色検出の結果に基づいて、ユーザPの手の輪郭を検知する処理を行う。具体的には、制御部10は、画像データに含まれる肌色領域を検出し、その肌色領域の輪郭とフラッシュROM16に記憶された手の輪郭のテンプレートとのパターンマッチングを行う。そして、制御部10は、撮像領域内にユーザPの手があるか否かを判定することとなる。つまり、制御部10は、画像が解析された結果に基づいて、撮像領域内にユーザの手があるか否かを判定することとなる。
 この処理において、制御部10は、撮像領域内にユーザPの手があると判定すると(ステップS34:YES)、ステップS36に処理を移す。一方、制御部10は、撮像領域内にユーザPの手がないと判定すると(ステップS34:NO)、マニュアル開始時静止画像をHMD本体2に表示させる制御を行い(ステップS35)、再度、ステップS34に処理を移す。これによって、ユーザPの手が撮像領域に入ってくるまで、マニュアル開始時静止画像がHMD本体2によって表示されることとなる。
 ステップS36において、制御部10は、作業に対応する主マニュアル情報をフラッシュROM16から読み出し、その主マニュアル情報の再生をHMD本体2に開始させる。そして、制御部10は、タイマのカウントを開始させる(ステップS37)。このタイマは、作業が開始されてからの時間を計測するためのものである。つまり、制御部10は、撮像領域内にユーザPの手があると判定された場合には、主マニュアル情報の再生をHMD本体2に開始させ、それからの時間を計測することとなる。この処理が終了した場合には、ステップS38に処理を移す。
 図8Bに示すように、ステップS38において、制御部10は、撮像領域内にユーザPの手がないか否かを判定する。この処理において、制御部10は、上述したステップS34と同じように制御することによって、撮像領域内にユーザPの手がないか否かを判定することとなる。つまり、制御部10は、CCDカメラ4による撮像領域にある画像を解析し、画像が解析された結果に基づいて、撮像領域内にユーザの手があるか否かを判定することとなる。制御部10は、撮像領域内にユーザPの手がないと判定すると(ステップS38:YES)、作業が終了したと認識し、ステップS42に処理を移す。一方、制御部10は、撮像領域内にユーザPの手があると判定すると(ステップS38:NO)、作業が終了していないと認識し、ステップS39に処理を移す。
 ステップS39において、制御部10は、標準時間が経過したか否かを判定する。この処理において、制御部10は、ステップS37においてカウントを開始したタイマから値を読み出し、作業開始から標準時間が経過したか否かを判定することとなる。制御部10は、標準時間が経過したと判定すると(ステップS39:YES)、ステップS40に処理を移す。一方、制御部10は、標準時間が経過していないと判定すると(ステップS39:NO)、ステップS40及びステップS41を実行することなく、再度、ステップS38に処理を移す。
 ステップS40において、制御部10は、選択されている作業に対応する副マニュアル情報を選択する。そして、制御部10は、再生していた主マニュアル情報を副マニュアル情報に切り替える主副マニュアル切替処理を実行する(ステップS41)。
 これによって、制御部10は、主マニュアル情報の再生を開始してから、撮像領域内にユーザの手がないとは判定されずに標準時間が経過するまで主マニュアル情報の再生を継続する。また、制御部10は、主マニュアル情報の再生を開始してから、撮像領域内にユーザの手がないとは判定せずに標準時間が経過した場合には、継続されていた主マニュアル情報の再生を、副マニュアル情報の再生に切り替える。この処理が終了した場合には、再度、ステップS38に処理を移す。
 一方、ステップS42において、制御部10は、タイマのカウントを終了し、マニュアル終了時静止画像をHMD本体2に表示させる制御を行う(ステップS43)。これによって、主マニュアル情報や副マニュアル情報がHMD1により再生されている場合において、撮像領域内にユーザの手がないときには、再生されている主マニュアル情報や副マニュアルの再生が終了し、マニュアル終了時静止画像がHMD本体2によって表示される。この処理が終了した場合には、ステップS44に処理を移す。
 ステップS44において、制御部10は、作業標準時間テーブル更新処理を実行する。この処理において、制御部10は、終了させたタイマの値を読み出して、作業標準時間テーブルにおける合計時間に加算し、作業回数を“1”増加させる。また、制御部10は、更新した合計時間と作業回数とに基づいて平均時間を算出し、更新する。そして、制御部10は、更新した平均時間と既存標準時間とを比較し、小さい値を設定標準時間として更新する。
 これによって、制御部10は、主マニュアル情報の再生が開始されてから、撮像領域内にユーザの手がないと判定されるまでの時間に基づいて標準時間を更新することとなる。この処理が終了した場合には、ステップS45に処理を移す。
 このように、HMD1は、作業に時間が掛からない場合には、副マニュアル情報の再生を行うことなく、主マニュアル情報の再生を終了させる。一方、HMD1は、作業に時間が掛かる場合には、主マニュアル情報から副マニュアル情報の再生に切り替える。このように、HMD1において、ユーザの作業熟練度に応じたマニュアル情報を提示することによって、ユーザは効率的に作業を行うことができる。
 ステップS45において、制御部10は、次のマニュアル情報を再生するか否かのスタンバイ画像をHMD本体2に表示させ、ユーザPの操作に応じてマニュアル再生が終了であるか否かを判定する。この処理において、制御部10は、マニュアル再生が終了であると判定すると(ステップS45:YES)、CCDカメラ4による撮像を無効化し、本サブルーチンを終了する。一方、制御部10は、マニュアル再生が終了ではないと判定すると(ステップS45:NO)、次のマニュアル情報を選択し(ステップS46)、再度、ステップS31に処理を移す。これによって、連続してマニュアル情報の再生が可能となる。
 このように、ユーザは、作業を行った結果、その作業した時間に基づいて標準時間を更新することができ、以前に行った作業を参考にした標準時間の設定が可能となる。このようにHMD1において、ユーザの作業熟練度に応じたマニュアル情報を提示することによって、ユーザは効率的に作業を行うことができる。
 [マニュアル作成処理]
 図7のステップS15において実行されるサブルーチンについて図9A及び図9Bを用いて説明する。
 最初に、図9Aに示すように、制御部10は、CCDカメラ4による撮像を有効化し、作業標準時間テーブル(図5参照)を参照し、作業に対応する設定標準時間を読み出す(ステップS51)。そして、制御部10は、CCDカメラ4によって撮像された画像をマニュアル開始時静止画像としてフラッシュROM16に記憶する(ステップS52)。この処理が終了した場合には、ステップS53に処理を移す。
 ステップS53において、制御部10は、撮像領域内にユーザPの手があるか否かを判定する。この処理において、制御部10は、上述したステップS34、ステップS38と同じように制御することによって、撮像領域内にユーザPの手がないか否かを判定することとなる。つまり、制御部10は、CCDカメラ4による撮像領域にある画像を解析し、画像が解析された結果に基づいて、撮像領域内にユーザの手があるか否かを判定することとなる。この処理において、制御部10は、撮像領域内にユーザPの手があると判定すると(ステップS53:YES)、ステップS54に処理を移す。一方、制御部10は、撮像領域内にユーザPの手がないと判定すると(ステップS53:NO)、再度、ステップS53に処理を移す。これによって、ユーザPの手が撮像領域に入ってくるまで、マニュアル情報の作成を待機させることとなる。
 ステップS54において、制御部10は、主マニュアル情報としての撮像を開始する。この処理において、制御部10は、CCDカメラ4によって撮像された画像データを主マニュアル情報としてフラッシュROM16に記憶することとなる。そして、制御部10は、タイマのカウントを開始させる(ステップS55)。このタイマは、主マニュアル情報の作成が開始されてからの時間を計測するためのものである。この処理が終了した場合には、制御部10は、ステップS56に処理を移す。
 ステップS56において、制御部10は、撮像領域内にユーザPの手がないか否かを判定する。この処理において、制御部10は、上述したステップS34、ステップS38、ステップS53と同じように制御することによって、撮像領域内にユーザPの手がないか否かを判定することとなる。つまり、制御部10は、CCDカメラ4による撮像領域にある画像を解析し、画像が解析された結果に基づいて、撮像領域内にユーザの手があるか否かを判定することとなる。制御部10は、撮像領域内にユーザPの手がないと判定すると(ステップS56:YES)、作業が終了し、マニュアル情報の作成が終了したと認識し、ステップS60(図9B参照)に処理を移す。一方、制御部10は、撮像領域内にユーザPの手があると判定すると(ステップS56:NO)、作業が終了しておらず、マニュアル情報の作成が継続されていると認識し、ステップS57に処理を移す。
 ステップS57において、制御部10は、標準時間が経過したか否かを判定する。この処理において、制御部10は、ステップS55においてカウントを開始したタイマから値を読み出し、作業開始(作成開始)から標準時間が経過したか否かを判定することとなる。制御部10は、標準時間が経過したと判定すると(ステップS57:YES)、ステップS58に処理を移す。一方、制御部10は、標準時間が経過していないと判定すると(ステップS57:NO)、ステップS58及びステップS59を実行することなく、再度、ステップS56に処理を移す。
 ステップS58において、制御部10は、撮像範囲を狭く(ズーミング)するなど、撮像条件を変更する撮像条件変更処理を実行する。このように、制御部10は、主マニュアル情報を記憶するときと副マニュアル情報を記憶するときとでCCDカメラ4の撮像条件を変更することによって、主マニュアル情報と副マニュアル情報との差異を出すことができる。特に、制御部10は、例えば、主マニュアル情報よりも副マニュアル情報を詳細に撮像することによって、ユーザの作業熟練度に応じたマニュアル情報を作成することができる。
 そして、制御部10は、副マニュアル情報として撮像を切り替える(ステップS59)。この処理において、制御部10は、撮像条件を変更させる前に、今まで撮像した画像データを主マニュアル情報として作業に対応させてフラッシュROM16に記憶する。そして、制御部10は、撮像条件を変更し、副マニュアル情報としての撮像を開始し、今から撮像する画像データを副マニュアル情報としてフラッシュROM16に記憶する。
 これによって、制御部10は、撮像領域内にユーザの手があると判定された場合において、その手があると判定されてから所定の作業時間が経過するまでに撮像された撮像画像を主マニュアル情報として記憶し、その手があると判定されてから所定の作業時間が経過してから撮像された撮像画像を副マニュアル情報として記憶することとなる。この処理が終了した場合には、再度、ステップS56に処理を移す。
 一方、図9Bに示すように、ステップS60において、制御部10は、タイマのカウントを終了し、主マニュアル情報又は副マニュアル情報としての撮像を終了し、フラッシュROM16に保存する(ステップS61)。これによって、制御部10は、撮像領域内にユーザの手があると判定された場合には、撮像された撮像画像を主マニュアル情報又は副マニュアル情報として記憶し、撮像領域内にユーザの手がないと判定された場合には、主マニュアル情報又は副マニュアル情報としての撮像を終了させることとなる。この処理が終了した場合には、制御部10は、ステップS62に処理を移す。
 ステップS62において、制御部10は、CCDカメラ4によって撮像された画像をマニュアル終了時静止画像としてフラッシュROM16に記憶する。この処理が終了した場合には、制御部10は、ステップS63に処理を移す。
 ステップS63において、制御部10は、上述したように撮像されたマニュアル開始時静止画像、主マニュアル情報、副マニュアル情報、マニュアル終了時静止画像を、一つの作業に対応するマニュアル情報としてフラッシュROM16に保存する。これによって、上述したステップS31において、制御部10は、既存のマニュアル情報以外の作成マニュアル情報が選択可能となる。
 また、制御部10は、撮像したマニュアル情報を時系列に逆転させて再生させる場合には、撮像したマニュアル情報を逆転させて記憶する。これによって、制御部10は、再生時に逆転させるか否かを意識することなく、再生することができる。もちろん、制御部10は、撮像したマニュアル情報を逆転させずに記憶しておき、再生時に逆転させて再生させてもよい。この処理が終了した場合には、制御部10は、ステップS64に処理を移す。
 ステップS64において、制御部10は、次のマニュアル情報を作成するか否かのスタンバイ画像を表示させ、ユーザPの操作に応じてマニュアル作成が終了であるか否かを判定する。この処理において、制御部10は、マニュアル作成が終了であると判定すると(ステップS64:YES)、CCDカメラ4による撮像を無効化し、本サブルーチンを終了する。一方、制御部10は、マニュアル作成が終了ではないと判定すると(ステップS64:NO)、再度、ステップS51に処理を移す。これによって、制御部10は、連続してマニュアル情報の作成が可能となる。
 このように、ユーザが作業を行うことによって、その作業自体における撮像画像が主マニュアル情報又は副マニュアル情報となる。従って、ユーザは、別途主マニュアル情報又は副マニュアル情報を作成する時間を省くことができ、効率的に作業を行うことができる。また、HMD1では、所定の作業時間前後で主マニュアル情報と副マニュアル情報とを切り替えて記憶することができる。従って、ユーザは、別途主マニュアル情報及び副マニュアル情報を作成する時間を省くことができ、効率的に作業を行うことができる。また、HMD1では、作業毎に所定の作業時間が設定されるので、作業の種類に対応した作業時間が設定可能であり、簡便である。
 [その他の実施形態]
 尚、上述した実施形態において、制御部10は、主マニュアル情報を撮影範囲が広い(広画角)画像とし、副マニュアル情報を撮影範囲が狭い(狭画角)画像としたが、これに限らない。例えば、主マニュアル情報を通常速度の画像とし、副マニュアル情報を1/2倍速の画像としてもよい。また、例えば、主マニュアル情報と副マニュアル情報とで異なる角度で撮像されたものでもよい。即ち、副マニュアル情報は、主マニュアル情報よりも詳細な情報として認識可能であればよい。
 また、上述した実施形態のHMD1においては、CCDカメラ4の撮像範囲内にユーザPの手が入る前に静止画像が表示され、入ったら主マニュアル情報、副マニュアル情報として動画像が表示され、CCDカメラ4の撮像範囲内からユーザPの手が出ると、静止画像が表示されたが、これに限らない。例えば、CCDカメラ4の撮像範囲内にユーザPの手が入る前や、CCDカメラ4の撮像範囲内からユーザPの手が出た後であっても動画像が表示されるようにしてもよい。
 また、上述実施形態において、制御部10は、既存標準時間と平均時間との小さいほうを設定標準時間としたが、これに限らない。例えば、制御部10は、前回の作業時間自体を設定標準時間としてもよい。また、例えば、制御部10は、前回の作業時間の最短時間を設定標準時間としてもよい。つまり、制御部10は、主マニュアル情報の再生が開始されてから、撮像領域内にユーザの手がないと判定されるまでの時間が標準時間以下である場合に、その時間に基づいて標準時間を更新するようにしてもよい。また、例えば、このように標準時間自体を更新しない構成であっても問題ない。
 また、上述した実施形態においては、HMD本体2、コントローラ3、PC150を別々に構成したが、これに限らない。例えば、コントローラ3とPC150とを一体に構成してもよく、HMD本体2とコントローラ3とを一体に構成してもよい。もちろん、それら全てを一体に構成してもよく、更に別体に構成してもよい。

Claims (6)

  1.  外光を透過しつつ、表示情報に応じた画像光をユーザの眼に投射して当該ユーザに前記画像光に応じた画像を視認させる表示手段と、
     作業に関する主マニュアル情報と、当該主マニュアル情報にそれぞれ関連付けられた標準時間及び副マニュアル情報を記憶するマニュアル情報記憶手段と、
     前記ユーザの視野範囲のうち少なくとも一部を撮像する撮像手段と、
     前記撮像手段による撮像画像を解析する画像解析手段と、
     前記画像解析手段によって解析された結果に基づいて、前記撮像手段による撮像領域内にユーザの手があるか否かを判定する手検知判定手段と、
     前記手検知判定手段によって前記撮像領域内にユーザの手があると判定された場合には、前記マニュアル情報記憶手段に記憶された前記主マニュアル情報の再生を前記表示手段に開始させる表示開始制御手段と、
     前記表示手段によって前記主マニュアル情報の再生が開始されてから、前記手検知判定手段によって前記撮像領域内にユーザの手がないとは判定されずに、再生中の主マニュアル情報に関連付けられて前記マニュアル情報記憶手段に記憶された標準時間が経過した場合には、当該主マニュアル情報の再生を、前記マニュアル情報記憶手段に記憶された前記副マニュアル情報の再生に切り替える表示切替制御手段と、
     前記表示手段により前記主マニュアル情報又は前記副マニュアル情報が再生されている場合において、前記手検知判定手段によって前記撮像領域内にユーザの手がないと判定されたときには、当該再生されている主マニュアル情報又は副マニュアルの再生を終了させる表示終了制御手段と、を備えるヘッドマウントディスプレイ。
  2.  請求項1に記載のヘッドマウントディスプレイにおいて、
     前記表示手段によって前記主マニュアル情報の再生が開始されてから、前記手検知判定手段によって前記撮像領域内にユーザの手がないと判定されるまでの時間が前記標準時間以下である場合に、当該時間に基づいて前記標準時間を更新する標準時間更新手段を備えたことを特徴とするヘッドマウントディスプレイ。
  3.  請求項1又は2に記載のヘッドマウントディスプレイにおいて、
     前記マニュアル情報記憶手段は、前記手検知判定手段によって前記撮像領域内にユーザの手があると判定された場合には、前記撮像手段による撮像画像を主マニュアル情報又は副マニュアル情報として記憶することを特徴とするヘッドマウントディスプレイ。
  4.  請求項3に記載のヘッドマウントディスプレイにおいて、
     前記マニュアル情報記憶手段は、前記手検知判定手段によって前記撮像領域内にユーザの手があると判定された場合において、当該手があると判定されてから所定の作業時間が経過するまでは前記撮像手段による撮像画像を主マニュアル情報として記憶し、当該手があると判定されてから所定の作業時間が経過してから前記撮像手段による撮像画像を副マニュアル情報として記憶することを特徴とするヘッドマウントディスプレイ。
  5.  請求項4に記載のヘッドマウントディスプレイにおいて、
     前記マニュアル情報記憶手段は、作業毎に前記所定の作業時間を記憶することを特徴とするヘッドマウントディスプレイ。
  6.  請求項4又は5に記載のヘッドマウントディスプレイにおいて、
     前記マニュアル情報記憶手段により主マニュアル情報を記憶するときと副マニュアル情報を記憶するときとで前記撮像手段の撮像条件を変更する撮像条件変更手段を備えたことを特徴とするヘッドマウントディスプレイ。
     
PCT/JP2010/050176 2009-01-16 2010-01-08 ヘッドマウントディスプレイ WO2010082547A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US13/178,234 US20110260967A1 (en) 2009-01-16 2011-07-07 Head mounted display

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2009007612A JP5168161B2 (ja) 2009-01-16 2009-01-16 ヘッドマウントディスプレイ
JP2009-007612 2009-01-16

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US13/178,234 Continuation-In-Part US20110260967A1 (en) 2009-01-16 2011-07-07 Head mounted display

Publications (1)

Publication Number Publication Date
WO2010082547A1 true WO2010082547A1 (ja) 2010-07-22

Family

ID=42339800

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2010/050176 WO2010082547A1 (ja) 2009-01-16 2010-01-08 ヘッドマウントディスプレイ

Country Status (3)

Country Link
US (1) US20110260967A1 (ja)
JP (1) JP5168161B2 (ja)
WO (1) WO2010082547A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014505627A (ja) * 2011-01-13 2014-03-06 ザ・ボーイング・カンパニー 拡張コラボレーション・システム
CN105607253A (zh) * 2014-11-17 2016-05-25 精工爱普生株式会社 头部佩戴型显示装置以及控制方法、显示系统
JP2019219913A (ja) * 2018-06-20 2019-12-26 富士通株式会社 情報処理装置、プロジェクト管理方法およびプロジェクト管理プログラム

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5169907B2 (ja) * 2009-02-27 2013-03-27 ブラザー工業株式会社 ヘッドマウントディスプレイ
JP2013206412A (ja) * 2012-03-29 2013-10-07 Brother Ind Ltd ヘッドマウントディスプレイ及びコンピュータプログラム
TWI442264B (zh) * 2012-09-11 2014-06-21 Wistron Corp 互動式虛像顯示器及互動式顯示方法
US10007351B2 (en) 2013-03-11 2018-06-26 Nec Solution Innovators, Ltd. Three-dimensional user interface device and three-dimensional operation processing method
DE102013207528A1 (de) * 2013-04-25 2014-10-30 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Interagieren mit einem auf einer Datenbrille angezeigten Objekt
US10019149B2 (en) 2014-01-07 2018-07-10 Toshiba Global Commerce Solutions Holdings Corporation Systems and methods for implementing retail processes based on machine-readable images and user gestures
US9910501B2 (en) 2014-01-07 2018-03-06 Toshiba Global Commerce Solutions Holdings Corporation Systems and methods for implementing retail processes based on machine-readable images and user gestures
JP6287293B2 (ja) * 2014-02-07 2018-03-07 セイコーエプソン株式会社 表示システム、表示装置、および表示方法
US20150268728A1 (en) * 2014-03-18 2015-09-24 Fuji Xerox Co., Ltd. Systems and methods for notifying users of mismatches between intended and actual captured content during heads-up recording of video
JP2016131782A (ja) * 2015-01-21 2016-07-25 セイコーエプソン株式会社 頭部装着型表示装置、検出装置、頭部装着型表示装置の制御方法、およびコンピュータープログラム
CN104102349B (zh) * 2014-07-18 2018-04-27 北京智谷睿拓技术服务有限公司 内容分享方法和装置
JP6515473B2 (ja) * 2014-09-18 2019-05-22 凸版印刷株式会社 動作指示システム、動作指示方法、および、動作指示管理サーバ
JP6437257B2 (ja) * 2014-09-19 2018-12-12 株式会社日立ソリューションズ 作業工程学習支援システム
US20160092726A1 (en) * 2014-09-30 2016-03-31 Xerox Corporation Using gestures to train hand detection in ego-centric video
JP6358038B2 (ja) * 2014-10-17 2018-07-18 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
JP6421543B2 (ja) * 2014-10-17 2018-11-14 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
US10140768B2 (en) 2014-10-17 2018-11-27 Seiko Epson Corporation Head mounted display, method of controlling head mounted display, and computer program
JP6488661B2 (ja) * 2014-11-17 2019-03-27 セイコーエプソン株式会社 頭部装着型表示装置、表示システム、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6620420B2 (ja) * 2015-05-22 2019-12-18 セイコーエプソン株式会社 頭部装着型表示装置、表示システム、頭部装着型表示装置の制御方法、および、コンピュータープログラム
US10108832B2 (en) * 2014-12-30 2018-10-23 Hand Held Products, Inc. Augmented reality vision barcode scanning system and method
JP2017134575A (ja) * 2016-01-27 2017-08-03 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
JP2017049763A (ja) * 2015-09-01 2017-03-09 株式会社東芝 電子機器、支援システムおよび支援方法
US9798385B1 (en) * 2016-05-31 2017-10-24 Paypal, Inc. User physical attribute based device and content management system
US10037080B2 (en) 2016-05-31 2018-07-31 Paypal, Inc. User physical attribute based device and content management system
JP6943672B2 (ja) * 2017-08-04 2021-10-06 株式会社ディスコ 加工装置の情報伝達機構
JP6711379B2 (ja) * 2018-08-22 2020-06-17 セイコーエプソン株式会社 頭部装着型表示装置、コンピュータープログラム
JP7145553B1 (ja) 2022-06-23 2022-10-03 英明 原田 遠隔指導管理装置及び遠隔指導システム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000299851A (ja) * 1999-02-12 2000-10-24 Sanyo Electric Co Ltd 指示情報伝達装置
JP2002132487A (ja) * 2000-10-25 2002-05-10 Oki Electric Ind Co Ltd 遠隔作業支援システム
JP2004021931A (ja) * 2002-06-20 2004-01-22 West Unitis Kk 作業誘導システム
JP2004102727A (ja) * 2002-09-10 2004-04-02 Mitsubishi Heavy Ind Ltd 作業支援システム
JP2008090807A (ja) * 2006-09-06 2008-04-17 National Institute Of Advanced Industrial & Technology 小型携帯端末
JP2009251154A (ja) * 2008-04-03 2009-10-29 Konica Minolta Holdings Inc 頭部装着式映像表示装置

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2001070A1 (en) * 1988-10-24 1990-04-24 Douglas B. George Telescope operating system
EP0450196B1 (en) * 1990-04-02 1998-09-09 Koninklijke Philips Electronics N.V. Data processing system using gesture-based input data
US5588139A (en) * 1990-06-07 1996-12-24 Vpl Research, Inc. Method and system for generating objects for a multi-person virtual world using data flow networks
US5381158A (en) * 1991-07-12 1995-01-10 Kabushiki Kaisha Toshiba Information retrieval apparatus
JP2552427B2 (ja) * 1993-12-28 1996-11-13 コナミ株式会社 テレビ遊戯システム
JPH086708A (ja) * 1994-04-22 1996-01-12 Canon Inc 表示装置
US6002808A (en) * 1996-07-26 1999-12-14 Mitsubishi Electric Information Technology Center America, Inc. Hand gesture control system
JP2001006001A (ja) * 1999-06-18 2001-01-12 Hitachi Ltd 三次元表現制御システムと方法およびその処理プログラムを記録した記録媒体
US6771294B1 (en) * 1999-12-29 2004-08-03 Petri Pulli User interface
US6753879B1 (en) * 2000-07-03 2004-06-22 Intel Corporation Creating overlapping real and virtual images
JP4298407B2 (ja) * 2002-09-30 2009-07-22 キヤノン株式会社 映像合成装置及び映像合成方法
GB2407635B (en) * 2003-10-31 2006-07-12 Hewlett Packard Development Co Improvements in and relating to camera control
JP2006012042A (ja) * 2004-06-29 2006-01-12 Canon Inc 画像生成方法及び装置
US20060044399A1 (en) * 2004-09-01 2006-03-02 Eastman Kodak Company Control system for an image capture device
KR100663515B1 (ko) * 2004-11-08 2007-01-02 삼성전자주식회사 휴대 단말 장치 및 이를 위한 데이터 입력 방법
US8086971B2 (en) * 2006-06-28 2011-12-27 Nokia Corporation Apparatus, methods and computer program products providing finger-based and hand-based gesture commands for portable electronic device applications
US20080266323A1 (en) * 2007-04-25 2008-10-30 Board Of Trustees Of Michigan State University Augmented reality user interaction system
JP4950834B2 (ja) * 2007-10-19 2012-06-13 キヤノン株式会社 画像処理装置、画像処理方法
US9772689B2 (en) * 2008-03-04 2017-09-26 Qualcomm Incorporated Enhanced gesture-based image manipulation
US8193766B2 (en) * 2008-04-30 2012-06-05 Medtronic, Inc. Time remaining to charge an implantable medical device, charger indicator, system and method therefore
US9569001B2 (en) * 2009-02-03 2017-02-14 Massachusetts Institute Of Technology Wearable gestural interface

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000299851A (ja) * 1999-02-12 2000-10-24 Sanyo Electric Co Ltd 指示情報伝達装置
JP2002132487A (ja) * 2000-10-25 2002-05-10 Oki Electric Ind Co Ltd 遠隔作業支援システム
JP2004021931A (ja) * 2002-06-20 2004-01-22 West Unitis Kk 作業誘導システム
JP2004102727A (ja) * 2002-09-10 2004-04-02 Mitsubishi Heavy Ind Ltd 作業支援システム
JP2008090807A (ja) * 2006-09-06 2008-04-17 National Institute Of Advanced Industrial & Technology 小型携帯端末
JP2009251154A (ja) * 2008-04-03 2009-10-29 Konica Minolta Holdings Inc 頭部装着式映像表示装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014505627A (ja) * 2011-01-13 2014-03-06 ザ・ボーイング・カンパニー 拡張コラボレーション・システム
CN105607253A (zh) * 2014-11-17 2016-05-25 精工爱普生株式会社 头部佩戴型显示装置以及控制方法、显示系统
CN105607253B (zh) * 2014-11-17 2020-05-12 精工爱普生株式会社 头部佩戴型显示装置以及控制方法、显示系统
JP2019219913A (ja) * 2018-06-20 2019-12-26 富士通株式会社 情報処理装置、プロジェクト管理方法およびプロジェクト管理プログラム
JP7060804B2 (ja) 2018-06-20 2022-04-27 富士通株式会社 情報処理装置、プロジェクト管理方法およびプロジェクト管理プログラム

Also Published As

Publication number Publication date
US20110260967A1 (en) 2011-10-27
JP5168161B2 (ja) 2013-03-21
JP2010164814A (ja) 2010-07-29

Similar Documents

Publication Publication Date Title
WO2010082547A1 (ja) ヘッドマウントディスプレイ
JP5293154B2 (ja) ヘッドマウントディスプレイ
JP4707034B2 (ja) 画像処理方法、入力インタフェース装置
EP2163937A1 (en) Head mount display
US20070273831A1 (en) Automated fundus imaging system
CN102457692A (zh) 投影仪以及投影仪的控制方法
JP5630675B2 (ja) 写真シール機、写真シール機の処理方法、並びにプログラム
CN107239178A (zh) 显示系统、信息处理装置、投影仪及信息处理方法
JP2014211642A (ja) 写真撮影編集機、写真撮影編集機の処理方法、並びにプログラム
US8525890B2 (en) Projected-image based photographing apparatus control system
JP2013229848A (ja) 写真シール機、写真シール機の処理方法、並びにプログラム
JPH10320109A (ja) 表示装置、拡大表示支援方法、および音声化支援方法
JP5012780B2 (ja) ヘッドマウントディスプレイ
JP2017161759A (ja) 網膜投影型表示装置、画像表示方法、及びプログラム
JP6179655B2 (ja) 写真撮影遊戯機、制御方法、並びにプログラム
JP6241689B2 (ja) 画像処理装置、画像処理方法、並びにプログラム
JP4307333B2 (ja) 撮像装置
JP2010212899A (ja) ヘッドマウントディスプレイ
CN111208964B (zh) 低视力助视方法、终端及存储介质
JP2019053707A (ja) 生体情報解析装置及びその基礎化粧解析方法
JP6160470B2 (ja) 写真シール機、写真シール機の処理方法、並びにプログラム
JP6687855B2 (ja) 写真撮影遊戯機、制御方法、並びにプログラム
WO2022018898A1 (ja) 撮像装置、及びプログラム
JP5881183B2 (ja) 写真シール機、写真シール機の処理方法、並びにプログラム
JP5348004B2 (ja) ストライクゾーン提示システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10731216

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 10731216

Country of ref document: EP

Kind code of ref document: A1