WO2014050967A1 - 表示装置、制御システムおよび制御プログラム - Google Patents

表示装置、制御システムおよび制御プログラム Download PDF

Info

Publication number
WO2014050967A1
WO2014050967A1 PCT/JP2013/076065 JP2013076065W WO2014050967A1 WO 2014050967 A1 WO2014050967 A1 WO 2014050967A1 JP 2013076065 W JP2013076065 W JP 2013076065W WO 2014050967 A1 WO2014050967 A1 WO 2014050967A1
Authority
WO
WIPO (PCT)
Prior art keywords
page
display device
finger
display
user
Prior art date
Application number
PCT/JP2013/076065
Other languages
English (en)
French (fr)
Inventor
上野 泰弘
茂輝 田辺
Original Assignee
京セラ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 京セラ株式会社 filed Critical 京セラ株式会社
Priority to US14/431,655 priority Critical patent/US20150264338A1/en
Priority to EP13842627.5A priority patent/EP2905745A4/en
Priority to CN201380050117.4A priority patent/CN104662588B/zh
Publication of WO2014050967A1 publication Critical patent/WO2014050967A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0483Interaction with page-structured environments, e.g. book metaphor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/339Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using spatial multiplexing
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays

Definitions

  • the present invention relates to a display device, a control system, and a control program.
  • Some display devices including a display unit such as a mobile phone terminal can display an image or the like in a three-dimensional manner (see, for example, Patent Document 1). Stereoscopic display is realized using parallax of both eyes.
  • the 3D display is a display format that is familiar to the user, the 3D display has been used only for viewing purposes in conventional display devices, and has not been used to improve the convenience of operation.
  • An object of this invention is to provide the operation method with high convenience with respect to a user.
  • An object of the present invention is to provide a display device, a control system, and a control program that can provide a user with a highly convenient operation method.
  • the display device includes a display unit that displays an electronic publication by displaying an image corresponding to each of both eyes of the user when worn, and an object that performs an operation of turning a page of the publication And a control unit that causes the display unit to display a newly displayed page among the pages of the publication according to the detection result of the detection unit.
  • control system includes a display unit that displays an electronic publication by displaying an image corresponding to each of the eyes of the user when worn, and an operation of turning a page of the publication.
  • a control system including a terminal including a detection unit that detects a plurality of objects to be performed, and a control unit that controls the terminal, wherein the control unit is configured to change the page of the publication according to a detection result of the detection unit. The newly displayed page is displayed on the display unit.
  • control program displays an image corresponding to each of both eyes of the user by being mounted on a display device including a display unit and a detection unit, thereby electronically publishing on the display unit.
  • the present invention has an effect that it is possible to provide a user with a highly convenient operation method.
  • FIG. 1 is a perspective view of a display device.
  • FIG. 2 is a front view of the display device worn by the user.
  • FIG. 3 is a diagram illustrating a modification of the display device.
  • FIG. 4 is a diagram illustrating another modification of the display device.
  • FIG. 5 is a diagram illustrating another modification of the display device.
  • FIG. 6 is a block diagram of the display device.
  • FIG. 7 is a diagram illustrating an example of control based on the function provided by the control program.
  • FIG. 8 is a diagram illustrating an example of information stored in object data.
  • FIG. 9 is a diagram illustrating an example of information stored in the action data.
  • FIG. 10 is a flowchart showing a basic processing procedure for realizing the book browsing function.
  • FIG. 10 is a flowchart showing a basic processing procedure for realizing the book browsing function.
  • FIG. 11 is a diagram for explaining detection of an operation performed by grasping a three-dimensional object.
  • FIG. 12 is a diagram for explaining detection of an operation performed by grasping a three-dimensional object.
  • FIG. 13 is a flowchart illustrating a processing procedure of a selection detection process for a three-dimensional object.
  • FIG. 14 is a flowchart illustrating the processing procedure of the grasping operation detection process.
  • FIG. 15 is a diagram illustrating an example of a closed book.
  • FIG. 16 is a diagram illustrating an example of page turning control.
  • FIG. 17 is a diagram illustrating another example of page turning control.
  • FIG. 18 is a diagram illustrating still another example of page turning control.
  • FIG. 19 is a diagram illustrating the relationship between the number of pages to be turned and the distance between objects.
  • FIG. 20 is a diagram illustrating an example in which a range in which a page is selected is presented to the user.
  • FIG. 21 is a diagram illustrating an example in which the contents of a page are displayed in order to present the range in which the page is selected to the user.
  • FIG. 22 is a diagram illustrating an example of an operation for marking a page.
  • FIG. 23 is a diagram illustrating an example of how to display a fold line.
  • FIG. 24 is a flowchart illustrating an example of a processing procedure for adjusting a range in which pages are selected.
  • FIG. 25 is a diagram illustrating an example of an operation for pinching a heel.
  • FIG. 26 is a diagram illustrating an example of an operation of cutting a page.
  • FIG. 27 is a diagram illustrating another example of an operation of cutting out a page.
  • FIG. 28 is a diagram illustrating an example of an operation of cutting out a part of a page.
  • FIG. 29 is a diagram illustrating an example of control when a plurality of books are displayed three-dimensionally.
  • FIG. 30 is a flowchart illustrating a processing procedure for displaying another object in association with a page.
  • FIG. 31 is a diagram illustrating an example of displaying an object in association with a page.
  • FIG. 32 is a diagram illustrating an example in which an object is displayed in association with a page.
  • FIG. 33 is a diagram illustrating an example in which an object is displayed in association with a page.
  • FIG. 34 is a diagram illustrating an example in which an object is displayed in association with a page.
  • FIG. 35 is a diagram illustrating an example in which an object is displayed in association with the front and back of a page.
  • FIG. 36 is a diagram illustrating an example in which an object is displayed in association with the front and back of a page.
  • FIG. 37 is a diagram illustrating an example in which an object is displayed in association with a plurality of pages.
  • FIG. 38 is a diagram illustrating an example in which an object is displayed in association with a plurality of pages.
  • FIG. 1 is a perspective view of the display device 1.
  • FIG. 2 is a front view of the display device 1 attached by the user.
  • the display device 1 is a head mount type device that is worn on the user's head.
  • the display device 1 has a front surface portion 1a, a side surface portion 1b, and a side surface portion 1c.
  • Front part 1a is arranged in front of the user so as to cover both eyes of the user when worn.
  • the side surface portion 1b is connected to one end portion of the front surface portion 1a, and the side surface portion 1c is connected to the other end portion of the front surface portion 1a.
  • the side surface portion 1b and the side surface portion 1c are supported by a user's ear like a vine of glasses when worn, and stabilize the display device 1.
  • the side part 1b and the side part 1c may be configured to be connected to the back of the user's head when worn.
  • the front part 1a includes a display part 32a and a display part 32b on the surface facing the user's eyes when worn.
  • the display unit 32a is disposed at a position facing the user's right eye when worn, and the display unit 32b is disposed at a position facing the user's left eye when worn.
  • the display unit 32a displays a right-eye image, and the display unit 32b displays a left-eye image.
  • the display device 1 realizes three-dimensional display using binocular parallax. Can do.
  • the display unit 32a and the display unit 32b may be configured by one display device as long as different images can be independently provided to the right and left eyes of the user.
  • one display device may be configured to independently provide different images for the right eye and the left eye by switching at high speed a shutter that blocks the displayed image so that only one eye can see it.
  • the front part 1a may be configured to cover the eyes of the user so that external light does not enter the eyes of the user when worn.
  • the front surface portion 1a includes a photographing unit 40 and a photographing unit 42 on a surface opposite to the surface on which the display unit 32a and the display unit 32b are provided.
  • the photographing unit 40 is disposed in the vicinity of one end portion (right eye side when worn) of the front surface portion 1a, and the photographing portion 42 is located in the vicinity of the other end portion (left eye side when worn) of the front surface portion 1a.
  • the imaging unit 40 acquires an image in a range corresponding to the field of view of the user's right eye.
  • the imaging unit 42 acquires an image in a range corresponding to the field of view of the user's left eye.
  • the field of view here is a field of view when the user is looking at the front, for example.
  • the display device 1 displays an image photographed by the photographing unit 40 on the display unit 32a as an image for the right eye, and displays an image photographed by the photographing unit 42 on the display unit 32b as an image for the left eye. For this reason, the display device 1 can provide the user with the same scene as when the display device 1 is not worn, even if the field of view is blocked by the front surface portion 1a.
  • the display device 1 displays virtual information three-dimensionally and allows the user to operate the virtual information.
  • the virtual information is displayed so as to be superimposed on the actual scene as if it actually exists. Then, the user can operate the virtual information as if he / she actually touched the virtual information by using his / her hand, for example, to change the virtual information.
  • the display device 1 provides an intuitive and highly convenient operation method for virtual information.
  • virtual information displayed three-dimensionally by the display device 1 may be referred to as a “three-dimensional object”.
  • the display device 1 provides the user with the same wide field of view as when the display device 1 is not mounted. And the display apparatus 1 can arrange
  • the display device 1 has a shape like glasses (goggles), but the shape of the display device 1 is not limited to this.
  • the display device 1 may have a helmet-type shape that covers substantially the upper half of the user's head, like the display device 2 shown in FIG. 3.
  • the display device 1 may have a mask type shape that covers almost the entire face of the user, like the display device 3 shown in FIG.
  • the display device 1 may be configured to be connected to an external device 4d such as an information processing device or a battery device by wire or wirelessly like the display device 4 shown in FIG.
  • FIG. 6 is a block diagram of the display device 1.
  • the display device 1 includes an operation unit 13, a control unit 22, a storage unit 24, display units 32a and 32b, photographing units 40 and 42, a detection unit 44, and a distance measurement unit 46. And have.
  • the operation unit 13 receives basic operations such as starting and stopping the display device 1 and changing the operation mode.
  • the display units 32 a and 32 b include a display device such as a liquid crystal display (Liquid Crystal Display) or an organic EL (Organic Electro-Luminescence) panel, and display various types of information according to control signals input from the control unit 22.
  • the display units 32a and 32b may be projection devices that project an image onto the user's retina using a light source such as a laser beam.
  • the imaging units 40 and 42 electronically capture an image using an image sensor such as a CCD (Charge Coupled Device Image Sensor) or a CMOS (Complementary Metal Oxide Semiconductor).
  • the photographing units 40 and 42 convert the photographed images into signals and output the signals to the control unit 22.
  • the detection unit 44 detects an actual object existing in the shooting range of the shooting units 40 and 42. For example, the detection unit 44 detects an object that matches a pre-registered shape (for example, the shape of a human hand) among real objects existing in the imaging range. The detection unit 44 detects the range (shape and size) of the actual object in the image based on the brightness, saturation, hue edge, and the like of the object even if the shape is not registered in advance. It may be configured.
  • the distance measuring unit 46 measures the distance to an actual object existing in the imaging range of the imaging units 40 and 42.
  • the distance to the actual object is measured for each eye based on the position of each eye of the user wearing the display device 1. For this reason, when the reference position where the distance measuring unit 46 measures the distance is shifted from the position of each eye, the measured value of the distance measuring unit 46 indicates the distance to the eye position according to the difference. It is corrected to represent.
  • the imaging units 40 and 42 also serve as the detection unit 44 and the distance measurement unit 46. That is, in this embodiment, an object within the shooting range is detected by analyzing the images shot by the shooting units 40 and 42. Furthermore, the distance from the object is measured (calculated) by comparing the object included in the image captured by the capturing unit 40 with the object included in the image captured by the capturing unit 42.
  • the display device 1 may include a detection unit 44 separately from the imaging units 40 and 42.
  • the detection unit 44 may be, for example, a sensor that detects an actual object existing in the imaging range using at least one of visible light, infrared light, ultraviolet light, radio waves, sound waves, magnetism, and capacitance.
  • the display device 1 may include a distance measuring unit 46 separately from the imaging units 40 and 42.
  • the distance measuring unit 46 is a sensor that detects the distance to an actual object existing in the imaging range using at least one of visible light, infrared light, ultraviolet light, radio waves, sound waves, magnetism, and capacitance, for example. Also good.
  • the display device 1 may include a sensor that can also serve as the detection unit 44 and the distance measurement unit 46, such as a sensor using a TOF (Time-of-Flight) method.
  • TOF Time-of-Flight
  • the control unit 22 includes a CPU (Central Processing Unit) that is a calculation unit and a memory that is a storage unit, and implements various functions by executing programs using these hardware resources. Specifically, the control unit 22 reads a program or data stored in the storage unit 24 and expands it in a memory, and causes the CPU to execute instructions included in the program expanded in the memory. The control unit 22 reads / writes data from / to the memory and the storage unit 24 and controls the operation of the display unit 32a and the like according to the execution result of the instruction by the CPU. When the CPU executes an instruction, the data developed in the memory and the operation detected via the detection unit 44 are used as a part of parameters and determination conditions.
  • a CPU Central Processing Unit
  • the storage unit 24 includes a non-volatile storage device such as a flash memory, and stores various programs and data.
  • the program stored in the storage unit 24 includes a control program 24a.
  • the data stored in the storage unit 24 includes object data 24b, action data 24c, and virtual space data 24d.
  • the storage unit 24 may be configured by a combination of a portable storage medium such as a memory card and a read / write device that reads from and writes to the storage medium.
  • the control program 24a, object data 24b, action data 24c, and virtual space data 24d may be stored in a storage medium.
  • the control program 24a, the object data 24b, the action data 24c, and the virtual space data 24d may be acquired from another device such as a server device by wireless communication or wired communication.
  • the control program 24a provides functions related to various controls for operating the display device 1.
  • the functions provided by the control program 24a include a function for superimposing a three-dimensional object on the images acquired by the photographing units 40 and 42 and displaying the same on the display units 32a and 32b, a function for detecting an operation on the three-dimensional object, and a detected operation. A function for changing the three-dimensional object in response to this is included.
  • the control program 24a controls the display of the three-dimensional object and detects the operation on the three-dimensional object, so that the user can enjoy the electronic publication as will be described later. To.
  • the control program 24a includes a detection processing unit 25, a display object control unit 26, and an image composition unit 27.
  • the detection processing unit 25 provides a function for detecting an actual object existing in the imaging range of the imaging units 40 and 42.
  • the function provided by the detection processing unit 25 includes a function of measuring the distance to each detected object.
  • the display object control unit 26 provides a function for managing what three-dimensional objects are arranged in the virtual space and what state each three-dimensional object is in.
  • the functions provided by the display object control unit 26 include detecting an operation on a three-dimensional object based on the movement of an actual object detected by the function of the detection processing unit 25, and changing the three-dimensional object based on the detected operation. The function to make it included.
  • the image composition unit 27 provides a function for generating an image to be displayed on the display unit 32a and an image to be displayed on the display unit 32b by synthesizing the image in the real space and the image in the virtual space.
  • the function provided by the image compositing unit 27 includes the real object and 3 based on the distance to the real object measured by the function of the detection processing unit 25 and the distance from the viewpoint to the three-dimensional object in the virtual space.
  • a function to determine the context of the dimension object and adjust the overlap is included.
  • the object data 24b includes information on the shape and properties of the three-dimensional object.
  • the object data 24b is used for displaying a three-dimensional object.
  • the action data 24c includes information regarding how an operation on the displayed three-dimensional object acts on the three-dimensional object.
  • the action data 24c is used to determine how to change the three-dimensional object when an operation on the displayed three-dimensional object is detected.
  • the change here includes movement, rotation, deformation, disappearance, and the like.
  • the virtual space data 24d holds information regarding the state of the three-dimensional object arranged in the virtual space.
  • the state of the three-dimensional object includes, for example, a position, a posture, a deformation state, and the like.
  • the image P1a is an image obtained by the photographing unit 40, that is, an image corresponding to a sight of a real space viewed with the right eye.
  • the table P1 and the user's hand H1 are shown in the image P1a.
  • the display device 1 also acquires an image obtained by photographing the same scene by the photographing unit 42, that is, an image corresponding to a sight when the real space is viewed with the left eye.
  • the image P2a is an image for the right eye generated based on the virtual space data 24d and the object data 24b.
  • the virtual space data 24d holds information related to the state of the block-shaped three-dimensional object BL1 existing in the virtual space
  • the object data 24b holds information related to the shape and properties of the three-dimensional object BL1.
  • the display device 1 reproduces the virtual space based on these pieces of information, and generates an image P2a obtained by viewing the reproduced virtual space from the viewpoint of the right eye.
  • the position of the right eye (viewpoint) in the virtual space is determined based on a predetermined rule.
  • the display device 1 also generates an image obtained by viewing the reproduced virtual space from the viewpoint of the left eye. That is, the display device 1 also generates an image in which the three-dimensional object BL1 is displayed three-dimensionally by combining with the image P2a.
  • the display device 1 generates the image P3a by combining the image P1a and the image P2a in step S1 shown in FIG.
  • the image P3a is an image displayed on the display unit 32a as a right-eye image.
  • the display device 1 determines the front-rear relationship between the real object in the shooting range of the shooting unit 40 and the three-dimensional object existing in the virtual space, with the position of the user's right eye as a reference. When the real object and the three-dimensional object overlap, the overlap is adjusted so that the object closer to the user's right eye can be seen in the front.
  • Such overlap adjustment is performed for each range of a predetermined size (for example, for each pixel) in the region on the image where the real object and the three-dimensional object overlap. For this reason, the distance from the viewpoint in the real space to the real object is measured for each range of a predetermined size on the image. Further, the distance from the viewpoint in the virtual space to the three-dimensional object is calculated for each range of a predetermined size on the image in consideration of the position, shape, posture, etc. of the three-dimensional object.
  • the three-dimensional object BL1 is arranged in a position corresponding to the position immediately above the position where the table T1 exists in the real space in the virtual space. Furthermore, in the scene of step S1 shown in FIG. 7, the user's hand H1 and the three-dimensional object BL1 exist in substantially the same direction and at substantially the same distance with respect to the position of the user's right eye. For this reason, by adjusting the overlap for each range of a predetermined size, in the combined image P3a, in the portion corresponding to the thumb of the hand H1 in the region where the hand H1 and the three-dimensional object BL1 overlap. The hand H1 appears on the front surface, and the three-dimensional object BL1 appears on the front surface in other portions. Furthermore, in the area where the table T1 and the three-dimensional object BL1 overlap, the three-dimensional object BL1 appears on the front surface.
  • step S1 shown in FIG. 7 an image P3a is obtained as if the three-dimensional object BL1 is placed on the table T1 and the user grasps the three-dimensional object BL1 with the hand H1. It has been.
  • the display device 1 generates an image displayed on the display unit 32b as an image for the left eye by synthesizing the image captured by the imaging unit 42 and the image obtained by viewing the virtual space from the viewpoint of the left eye by the same processing.
  • the overlap between the real object and the three-dimensional object is adjusted based on the position of the user's left eye.
  • the display device 1 displays the composite image thus generated on the display units 32a and 32b.
  • the user can see a scene as if the three-dimensional object BL1 is placed on the table T1 and the user grasps the three-dimensional object BL1 with his / her hand H1.
  • step S1 the user moves the hand H1 in the direction of arrow A1.
  • the image obtained by the imaging unit 40 changes to an image P1b in which the position of the hand H1 has moved to the right.
  • the display device 1 determines that the movement of the hand H1 is an operation of moving the hand H1 to the right while holding the three-dimensional object, and moves the position of the three-dimensional object in the virtual space to the right according to the operation.
  • the movement of the three-dimensional object in the virtual space is reflected in the virtual space data 24d.
  • the image for the right eye generated based on the virtual space data 24d and the object data 24b changes to an image P2b in which the position of the three-dimensional object BL1 has moved to the right. Details of operation detection by the display device 1 will be described later.
  • Display device 1 combines image P1b and image P2b to generate right-eye image P3b.
  • the image P3b is an image as if the user is holding the three-dimensional object BL1 with the hand H1 at a position on the right side of the table T1 as compared with the image P3a.
  • the display device 1 similarly generates a composite image for the left eye. Then, the display device 1 displays the composite image thus generated on the display units 32a and 32b. As a result, the user can see a scene as if he / she picked the three-dimensional object BL1 with his / her hand H1 and moved it to the right.
  • Such a composite image for display is updated at a frequency (for example, 30 times per second) equal to the frame rate of a general moving image.
  • a frequency for example, 30 times per second
  • the change of the three-dimensional object BL1 according to the operation of the user is reflected in the image displayed on the display device 1 in almost real time, and the user can feel 3 as if it is actually present.
  • the dimension object BL1 can be manipulated.
  • the user's hand H1 that operates the three-dimensional object BL1 is not positioned between the user's eyes and the display units 32a and 32b. Thus, the operation can be performed without worrying about the display of the three-dimensional object BL1 being blocked.
  • FIG. 8 is a diagram illustrating an example of information stored in the object data 24b.
  • the example shown in FIG. 8 is an example of information regarding a three-dimensional object displayed as a book.
  • the three-dimensional object displayed as a book includes a plurality of three-dimensional objects such as a front cover, a back cover, a back cover, and a plurality of pages. That is, the three-dimensional object displayed as a book is a collection of three-dimensional objects.
  • a three-dimensional object displayed as a book may be simply referred to as “book”.
  • the three-dimensional objects corresponding to the front cover, the back cover, the back cover, and the page may be simply referred to as “front cover”, “back cover”, “back cover”, and “page”, respectively.
  • Information for specifying the appearance and properties such as thickness, width, height, and color is set in advance on the front cover, back cover, and back cover. Further, on the front cover, the back cover, and the back cover, character strings and images to be displayed on the surface of the three-dimensional object are set as contents in a predetermined format.
  • a plurality of pages information for specifying appearance and properties such as thickness, width, height, and color is set in advance in common.
  • text and images to be displayed on the respective pages are set for each page as content in a predetermined format.
  • Information unique to the page such as “ ⁇ wrapping />” and “ ⁇ />”, may be added to the page. “ ⁇ Wrapped />” indicates that a part of the corresponding page is folded. “ ⁇ />” indicates that ⁇ is sandwiched between corresponding pages.
  • FIG. 8 shows an example in which the object data 24b is described in the XML (Extensible Markup Language) format
  • the format of the object data 24b is not limited to this.
  • the format of the object data 24b may be a format designed exclusively.
  • the configuration of the three-dimensional object displayed as a book is not limited to the example shown in FIG.
  • the three-dimensional object displayed as a book may not include information for specifying the shapes and properties of the front cover, the back cover, and the back cover. In this case, the front cover, back cover, and back cover of all the books may have a common shape and properties according to preset settings.
  • FIG. 9 is a diagram showing an example of information stored in the action data 24c.
  • the example shown in FIG. 9 shows how operations on pages included in a book affect those pages.
  • the operation on the page is an operation performed by grasping a part of the page with a finger or the like.
  • the action of the operation on the page changes according to conditions such as the situation, the moving direction, the moving range, the moving speed, and the rigidity.
  • the status indicates when it is released, i.e. when the grabbing operation is complete, or during movement, i.e. during the grabbing operation.
  • the moving direction is a moving direction of a finger or the like grabbing the page.
  • the movement range is a range in which a finger or the like grabbing the page moves.
  • the moving speed is a moving speed of a finger or the like grabbing the page.
  • the rigidity indicates the hardness of the page. Stiffness is determined based on the thickness of the page.
  • the moving direction immediately before the finger or the like holding the page is the opening / closing direction of the book, that is, the direction of rotation about the connecting portion of the page.
  • the display device 1 is turned over the held page. To change.
  • the display device 1 displays the gripped page. Change as if turned.
  • the display device 1 displays the gripped page when the moving speed is lower than the threshold value or the rigidity is lower than the threshold value.
  • Change according to gravity The change according to gravity is expressed as, for example, a drop in the direction of gravity.
  • the display device 1 changes the gripped position. Further, when the rigidity of the page is lower than the threshold value, if the distance between the gripped portion and the connecting portion of the page is equal to or less than the initial distance, the display device 1 matches the gripped page with the movement of the finger or the like. Change. Further, when the rigidity of the page is lower than the threshold value and the distance between the gripped portion and the connecting portion of the page is larger than the original, the display device 1 changes the gripped page as if it was separated. That is, the display device 1 makes the gripped page independent from the book.
  • the display device 1 changes the position where the page is gripped. Further, when the moving direction of a finger or the like that grips the page is a direction orthogonal to the opening / closing direction of the book and the rigidity of the page is lower than a threshold value, the display device 1 changes the gripped page as if it was separated. Further, when the moving direction of a finger or the like grabbing the page is the book opening / closing direction, the display device 1 changes the gripped page in accordance with the movement of the finger or the like.
  • the action data 24c information is set in the action data 24c so that the page changes in the same manner as the actual book page according to the operation.
  • the same setting as that for the page is made in the action data 24c.
  • the configuration and contents of the action data 24c are not limited to the example shown in FIG.
  • the action data 24c may include conditions other than those shown in FIG.
  • the action defined in the action data 24c may be different from the example shown in FIG.
  • FIG. 10 is a flowchart showing a basic processing procedure executed by the display device 1 in order to realize the book browsing function.
  • 11 and 12 are diagrams for explaining detection of an operation performed by grasping a three-dimensional object.
  • FIG. 13 is a flowchart illustrating a processing procedure of a selection detection process for a three-dimensional object.
  • FIG. 14 is a flowchart illustrating the processing procedure of the grasping operation detection process.
  • the processing procedure shown in FIG. 10 is realized by the control unit 22 executing the control program 24a.
  • the control unit 22 in order to realize the book browsing function, the control unit 22 first synthesizes the virtual space image including the book and the real space image in the display units 32a and 32b in step S101. To display. The appearance and content of the displayed book are determined based on the object data 24b.
  • step S102 the control unit 22 determines whether an operation on the book has been detected.
  • the operation on the book is detected based on the images photographed by the photographing units 40 and 42.
  • step S102, Yes the control unit 22 changes the displayed book according to the detected operation as step S103. How to change the book according to the detected operation is determined based on the action data 24c.
  • the displayed book is kept as it is.
  • step S104 the control unit 22 determines whether to end the process. For example, when the user performs a predetermined operation for instructing the end of the book browsing function, the control unit 22 determines to end the process.
  • step S104 Yes
  • the control unit 22 completes the processing procedure illustrated in FIG.
  • the control unit 22 re-executes Step S102 and the subsequent steps.
  • the operation on the book is assumed to be an operation performed by holding the page with a finger or the like, for example. That is, in step S102 shown in FIG. 10, an operation performed by grasping the page is detected, and in step S103, processing corresponding to the operation performed by grasping the page is executed.
  • step SA1 shown in FIG. 11 the three-dimensional object OB1 is displayed three-dimensionally in the display space by the display units 32a and 32b.
  • the user moves the finger F1 and the finger F2 so that the three-dimensional object OB1 is positioned between the finger F1 and the finger F2.
  • the display device 1 monitors a change in the distance D1 between the two objects when two objects are detected in the display space and the three-dimensional object OB1 is positioned between the two objects. If the distance D1 is substantially constant for a predetermined time or more, it is determined that the three-dimensional object OB1 has been selected, and the three-dimensional object OB1 is selected. Then, the display device 1 notifies the user that the three-dimensional object OB1 has been selected, for example, by changing the display mode of the three-dimensional object OB1.
  • the fact that the three-dimensional object OB1 is in the selected state is used, for example, by changing the color or brightness in the vicinity of the portion of the surface of the three-dimensional object OB1 that intersects the straight line connecting the two detected objects. Will be notified. Instead of such visual notification or in addition to visual notification, notification by sound or vibration may be performed.
  • the two objects do not need to stay at a position sandwiching the three-dimensional object OB1. That is, the user moves the finger F1 and the finger F2 so that the three-dimensional object OB1 is positioned between the finger F1 and the finger F2 as shown in step SA1, and then maintains the state of the finger F1.
  • the finger F2 may be moved to another position. For example, after the user moves the finger F1 and the finger F2 to a position sandwiching the page to be gripped, the user starts turning the gripped page before being notified that the gripped page is in a selected state. May be.
  • step SA2 the display device 1 responds to the movement of the finger F1 and the finger F2 from the stage where it is detected that the three-dimensional object OB1 is displayed between the fingers F1 and F2, that is, from the stage of step SA1. Changes such as movement and rotation are added to the three-dimensional object OB1. Then, as shown in step SA3, the display device 1 places the three-dimensional object OB1 in a selected state when the distance D1 between the finger F1 and the finger F2 is kept substantially constant for a predetermined time or longer.
  • step SB1 to step SB3 in FIG. 12 when the distance D1 between the finger F1 and the finger F2 is separated before the predetermined time elapses, the display device 1 changes opposite to the change made so far. Is added to the three-dimensional object OB1. That is, when the user does not intend to operate the three-dimensional object OB1, the three-dimensional object OB1 is returned to the original state. As a result, the three-dimensional object OB1 is displayed in the same state at the same position as in step SB1.
  • the speed at which the reverse change is applied to the three-dimensional object OB1 may be faster than the speed at which the change has been applied to the three-dimensional object OB1 so far. That is, the three-dimensional object OB1 may be reversely changed as if it is reversely played back at high speed.
  • the user can confirm that the 3D object is being selected. It can be recognized before the selection is confirmed. As a result, the user can know at an early stage whether or not the intended three-dimensional object has been selected. In addition, until the state where the distance between the two objects is kept almost constant continues for a predetermined time or longer, the changed three-dimensional object is displayed in a mode (for example, translucent) different from the selected state at the normal time. By doing so, the user may easily determine the state of the three-dimensional object.
  • a mode for example, translucent
  • the three-dimensional object OB1 may be changed after the three-dimensional object OB1 is selected. .
  • the three-dimensional object OB1 may be selected only when the state where the three-dimensional object OB1 is positioned between the finger F1 and the finger F2 as in step SA1 continues for a predetermined time or longer.
  • FIG. 11 shows an example in which one three-dimensional object displayed between two objects is selected, but the number of selected three-dimensional objects is not limited to one.
  • the display device 1 selects the three-dimensional objects together. In other words, the display device 1 allows the user to select a plurality of pages at once and operate them.
  • FIG. 13 shows the processing procedure of the selection detection process of the three-dimensional object.
  • the processing procedure shown in FIG. 13 is realized by the control unit 22 executing the control program 24a.
  • the control unit 22 determines whether the first object and the second object are detected by the detection unit 44, that is, the imaging units 40 and 42, as step S201.
  • the first object and the second object are, for example, user's fingers.
  • control unit 22 determines the first object, the second object, and the like from the displayed three-dimensional objects as step S202. Search for the three-dimensional object displayed between.
  • step S203 When a three-dimensional object displayed between the first object and the second object is found (step S203, Yes), the control unit 22 determines that the first object, the second object, and The three-dimensional object displayed during is temporarily set to the selected state. When a plurality of three-dimensional objects are displayed between the first object and the second object, the control unit 22 puts all of the three-dimensional objects into a temporary selection state. Further, the control unit 22 calculates the distance between the first object and the second object as step S205. Then, in step S206, the control unit 22 executes the grasping operation detection process shown in FIG. 14, and changes the three-dimensional object in the selected state according to the detected operation.
  • steps S204 to S206 are not executed.
  • control unit 22 determines whether or not to end the processing as step S207.
  • step S207 Yes
  • the control unit 22 completes the processing procedure.
  • the control unit 22 re-executes Step S201 and the subsequent steps.
  • Step S207 When the first object and the second object are not detected (No at Step S201), the control unit 22 executes Step S207.
  • FIG. 14 shows the processing procedure of the grasping operation detection process.
  • the processing procedure shown in FIG. 14 is realized by the control unit 22 executing the control program 24a.
  • the control unit 22 first calculates the distance between the first object and the second object in step S301. Then, in step S302, the control unit 22 determines whether the difference between the distance at the start of the grasping operation detection process and the distance measured in step S301 is greater than a threshold value when a three-dimensional object is selected.
  • the threshold value used here is a value for determining whether the distance between the first object and the second object is substantially the same as when the three-dimensional object is selected.
  • the control unit 22 determines whether or not a predetermined time has elapsed since the grasping operation detection process is started as Step S303. If the predetermined time has elapsed (step S303, Yes), the control unit 22 sets the three-dimensional object in a selected state if there is a temporarily selected three-dimensional object in step S304. If the predetermined time has not elapsed (No at Step S303), Step S304 is not executed.
  • the predetermined time may be a sufficiently short time such as 0.1 seconds.
  • step S305 the control unit 22 changes the three-dimensional object in the selected state or the temporarily selected state according to the detected movements of the first object and the second object.
  • the method of changing the three-dimensional object is determined based on the action data 24c. For example, the control unit 22 changes the book page in the selected state or the temporarily selected state so as to be lifted in accordance with the movements of the first object and the second object. Then, the control unit 22 re-executes Step S301 and the subsequent steps.
  • control unit 22 When the difference in distance is larger than the threshold value (Yes in step S302), the control unit 22 is in a temporarily selected state in step S306, the three-dimensional object displayed between the first object and the second object. Determine whether.
  • step S306 If the three-dimensional object is in the temporary selection state (step S306, Yes), the control unit 22 cancels the temporary selection state of the three-dimensional object in step S307. In step S308, the control unit 22 reversely changes the three-dimensional object and restores the original state. Then, the control unit 22 ends the grasping operation detection process.
  • control unit 22 When the three-dimensional object is not in the temporary selection state, that is, in the selection state (step S306, No), the control unit 22 performs three-dimensional adjustment in accordance with the change in the distance between the first object and the second object as step S309. It is determined whether the selection range of the object can be maintained or changed.
  • the selection range of the three-dimensional object is maintained or reduced. Specifically, when there is one selected three-dimensional object, the three-dimensional object remains in the selected state even if the distance between the first object and the second object is shortened.
  • the number of selected three-dimensional objects decreases as the distance between the first object and the second object decreases, but at least one 3D object is selected.
  • the dimension object remains selected. For example, when a book page is grasped with a finger, the control unit 22 reduces the number of pages grasped as the finger approaches, but maintains a state where at least one page is grasped.
  • the selection range of the three-dimensional object may not be maintained or changed. Specifically, when a three-dimensional object that is not in a selected state is positioned between the first object and the second object due to an increase in the distance between the first object and the second object The selection range is expanded. In this case, the three-dimensional object that is not in the selected state is changed to the selected state. There is no three-dimensional object that is not selected between the first object and the second object whose distance is increased, and there is a gap between the first object or the second object and the three-dimensional object that is selected. When it becomes larger than the predetermined size, the selection range cannot be maintained or changed. If it is determined that the selection range cannot be maintained or changed, the selected three-dimensional object is released.
  • control unit 22 increases the number of pages grasped as the finger spreads. If there is no page to be grasped and the gap between the grasped page and any of the fingers becomes larger than a predetermined size, the control unit 22 determines that the selection range cannot be maintained or changed. To do.
  • the control unit 22 sets the first object as step S310.
  • the selection range of the three-dimensional object is maintained or changed in accordance with the change in the distance between the second object and the second object. Then, the control unit 22 re-executes Step S301 and the subsequent steps.
  • the control unit 22 sets the three-dimensional object as step S311. Cancel the selected state. Moreover, the control part 22 changes a three-dimensional object according to the condition at the time of release as step S312. The method of changing the three-dimensional object is determined based on the action data 24c. For example, the control unit 22 changes the page of the book in the selected state so as to be turned according to gravity. Then, the control unit 22 ends the grasping operation detection process.
  • FIG. 15 is a diagram showing an example of a closed book.
  • the display device 1 displays the book 50 three-dimensionally on the table T1.
  • the book 50 is closed.
  • the appearance of the book 50 is determined based on the object data 24b.
  • the display device 1 corrects the page thickness so that the thickness of the book 50 is equal to or greater than the predetermined value. May be. By increasing the thickness of the book 50, the user can easily operate the book 50.
  • FIG. 16 is a diagram illustrating an example of page turning control.
  • step SC1 shown in FIG. 16 the user moves the finger F1 and the finger F2 so that the front cover and page of the book 50 are located between the finger F1 and the finger F2.
  • the display device 1 detects that the cover and page are located between the finger F1 and the finger F2, the display device 1 selects the cover and page located between the finger F1 and the finger F2.
  • step SC2 the user moves the finger F1 and the finger F2 in the opening / closing direction of the book 50 until it exceeds the connecting portion of the page while keeping the distance between the finger F1 and the finger F2 substantially constant.
  • the display device 1 detects such movements of the finger F1 and the finger F2, the display device 1 changes the cover and page in the selected state according to the action data 24c. Specifically, the display device 1 changes the angle of the cover and page in the selected state in accordance with the movement of the finger F1 and the finger F2.
  • the display device 1 changes the book 50 according to the action data 24c. Specifically, as shown in step SC3, the book 50 is changed so that the inner end page of the selected pages is at the top.
  • the display device 1 displays text, images, and the like corresponding to the pages on the opened pages of the book 50.
  • FIG. 17 is a diagram illustrating another example of page turning control.
  • step SD1 shown in FIG. 17 the book 50 is displayed in an open state by the control shown in FIG. Then, the user moves the finger F1 and the finger F2 so that the page including the opened page is positioned between the finger F1 and the finger F2.
  • the display device 1 detects that a page is positioned between the finger F1 and the finger F2, the display device 1 selects the page positioned between the finger F1 and the finger F2.
  • step SD2 the user moves the finger F1 and the finger F2 in the opening / closing direction of the book 50 over the connecting portion of the page while keeping the distance between the finger F1 and the finger F2 substantially constant.
  • the display device 1 detects such movements of the finger F1 and the finger F2, the display device 1 changes the page in the selected state according to the action data 24c. Specifically, the display device 1 changes the angle of the page in the selected state in accordance with the movement of the finger F1 and the finger F2.
  • the display device 1 may change how the page in the selected state is changed according to the thickness (rigidity) of the page. For example, when the page is thicker than the threshold (when the rigidity is high), the display device 1 may change the angle without bending the page. Further, when the page is thicker than the threshold (when the rigidity is high), the display device 1 is configured so that the object that holds the selected page does not move so as to draw an arc with the connecting portion of the page as a rotation axis. The change of the page may be restricted so that the angle does not change. When the page is thinner than the threshold value (when the rigidity is low), the display device 1 may bend the page in accordance with the movement of the object that holds the selected page and the gravity.
  • the display device 1 changes the book 50 according to the action data 24c. Specifically, as shown in step SD3, the book 50 is changed so that the inner end page of the selected pages is at the top.
  • the display device 1 displays text, images, and the like corresponding to the pages on the opened pages of the book 50.
  • FIG. 18 is a diagram showing still another example of page turning control.
  • step SE1 shown in FIG. 18 a plurality of pages are being turned by the control shown in FIG. Then, the user moves the finger F3 and the finger F4 so that a part of the selected page is located between the finger F3 and the finger F4.
  • the display device 1 detects that the page is positioned between the finger F3 and the finger F4, the display device 1 associates the page positioned between the finger F3 and the finger F4 with the finger F3 and the finger F4.
  • step SE2 the user moves the finger F3 and the finger F4 in the opening / closing direction of the book 50 over the connecting portion of the page while keeping the distance between the finger F3 and the finger F4 substantially constant.
  • the display device 1 detects such movement of the finger F3 and the finger F4
  • the display device 1 changes the page in the selected state according to the action data 24c. Specifically, the display device 1 changes the angle of the page associated with the finger F3 and the finger F4 among the pages in the selected state in accordance with the movement of the finger F3 and the finger F4.
  • the display device 1 changes the book 50 according to the action data 24c.
  • step SE3 the book 50 is changed so that the page at the boundary between the page between the finger F1 and the finger F2 and the page between the finger F3 and the finger F4 is at the top.
  • the display device 1 displays text, images, and the like corresponding to the pages on the opened pages of the book 50.
  • the display device 1 enables the user to open the book by grasping the page.
  • the user can easily find a desired part from an electronic publication not only by reading a book by turning one page at a time from the beginning but also by an operation similar to that for an actual book.
  • the number of pages to be turned is determined according to the distance of the object that selects the page.
  • FIG. 19 is a diagram illustrating the relationship between the number of pages to be turned and the distance between objects. As shown in FIG. 19, when the distance D1 between the finger F1 and the finger F2 selecting the page is shorter than the distance Dx, the number of pages to be turned is smaller than when the distance D1 is the distance Dx. On the other hand, when the distance D1 between the finger F1 and the finger F2 selecting the page is longer than the distance Dx, the number of pages to be turned is larger than when the distance D1 is the distance Dx. As described above, the display device 1 increases the number of pages to be turned as the distance D1 increases as long as there is no gap between the display device 1 and the book 50.
  • the user can turn an arbitrary number of pages.
  • the display device 1 After the number of pages corresponding to the distance D1 is selected, the display device 1 changes the number of pages in the selected state to the changed distance D1 when the distance D1 changes within a range in which the selection range can be changed. Change accordingly.
  • the display device 1 preferably presents the user with the range in which the page is selected.
  • FIG. 20 is a diagram illustrating an example in which a range in which a page is selected is presented to the user.
  • step SF1 shown in FIG. 20 the user moves the finger F1 and the finger F2 so that the page including the opened page is positioned between the finger F1 and the finger F2.
  • the display device 1 detects that a page is positioned between the finger F1 and the finger F2
  • the display device 1 selects the page positioned between the finger F1 and the finger F2.
  • the display device 1 displays the page number (87) of the page on the opposite side to the opened page among the selected pages.
  • the page number is displayed on the open page, but the position where the page number is displayed may be anywhere as long as it is visible to the user.
  • step SF2 the user widens the distance between the finger F1 and the finger F2 without creating a gap with the book 50.
  • the display device 1 increases the number of pages in the selected state.
  • the display device 1 redisplays the page number (125) indicating the range of pages in the selected state.
  • the display device 1 presents the range in which the page is selected to the user, so that the user can easily adjust the range of the page to be turned.
  • FIG. 20 is a diagram illustrating an example in which the contents of a page are displayed in order to present the range in which the page is selected to the user.
  • step SG1 shown in FIG. 21 texts, images, and the like corresponding to the pages are displayed on the opened pages of the book 50.
  • step SG2 the user moves the finger F1 and the finger F2 so that the page including the opened page is positioned between the finger F1 and the finger F2.
  • the display device 1 detects that a page is positioned between the finger F1 and the finger F2, the display device 1 selects the page positioned between the finger F1 and the finger F2. Further, the display device 1 displays text and images corresponding to the displayed page when the selected page is turned.
  • the contents of the opened page are replaced.
  • the position and size of the page content may be any position and size visible to the user.
  • step SG3 the user increases the distance between the finger F1 and the finger F2 without creating a gap with the book 50.
  • the display device 1 increases the number of pages in the selected state. Further, the display device 1 redisplays the text and image corresponding to the displayed page when the selected page is turned. In this way, the display device 1 presents the contents of the page to the user, so that the user can easily grasp which page can be viewed by turning the page.
  • the moving speed of the finger F1 and the finger F2 may be used. Specifically, when the moving speed of the finger F1 and the finger F2 is faster than the threshold value, the change amount of the number of pages in the selected state with respect to the change amount of the distance is increased. On the other hand, when the moving speed of the finger F1 and the finger F2 is slower than the threshold, the change amount of the number of pages in the selected state with respect to the change amount of the distance is reduced.
  • the moving speed of the finger F1 and the finger F2 here is preferably the higher of the moving speed of the finger F1 and the moving speed of the finger F2.
  • the display device 1 may accept an operation of turning pages one by one.
  • the display device 1 may turn one page of the contacted page when an operation of moving a finger or the like touching one of the open pages toward the other page is detected. This operation mimics the operation of turning an actual thin paper page.
  • the display device 1 may accept an operation other than the turning operation as an operation related to the page.
  • the display device 1 may accept an operation for marking a page as an operation related to the page.
  • FIG. 22 is a diagram illustrating an example of an operation for marking a page.
  • step SH1 shown in FIG. 22 the user holds the corner of one page with the finger F1 and the finger F2.
  • step SH2 the user moves the finger F1 and the finger F2 so that the gripped portion is folded back.
  • the display device 1 keeps the folded part as a fold 50a. Then, the display device 1 records the page provided with the fold line 50a in the object data 24b. As shown in FIG. 23, the display device 1 can change the color or brightness of the fold 50 a so that the user can grasp the position of the fold 50 a even when the book 50 is closed. It is preferable to display in a mode different from the above part. As described above, the display device 1 sets the return according to the operation of the user, so that the user can mark a page or the like to be reviewed later.
  • a plurality of folds 50 a can be set in one book 50. Further, when the thickness of the page is thicker than the threshold (when the rigidity is high), the display device 1 does not need to provide a fold even if an operation of folding a part of the page is detected.
  • FIG. 24 is a flowchart illustrating an example of a processing procedure for adjusting a range in which pages are selected.
  • step S403 the control unit 22 determines whether there is a crease in a predetermined number of pages before and after the last selected page.
  • the control unit 22 corrects the number of pages selected so that up to a creased page is selected in step S405.
  • the control unit 22 for example, among the pages with folds, the page closest to the last page being grasped The number of pages to be selected is corrected so that up to is selected.
  • control unit 22 selects a page based on the number of pages calculated in step S402.
  • the adjustment of the selection range as shown in FIG. 24 should be executed only when an operation of gripping the page is performed near the corner where the fold 50a is provided like the corner 50b shown in FIG. It is good. That is, when an operation for gripping a page is performed near a corner where the fold 50a is not provided, such as the corner 50c, the selection range may not be adjusted. As described above, the display device 1 suppresses the adjustment of the selection range depending on the position where the page is selected, so that the user can easily refer to pages within a predetermined number before and after the page where the fold line 50a is provided. Become.
  • the display device 1 also displays the range in which a page is selected in the same manner as when a fold is provided, even when an operation for pinching a book 60 or an operation for pinching a spin is detected. It is preferable to adjust.
  • the display device 1 may accept an operation of cutting a page as an operation related to the page.
  • FIG. 26 is a diagram illustrating an example of an operation of cutting a page.
  • the user grasps the end portion of the page 50d with the finger F1 and the finger F2, and moves the finger F1 and the finger F2 so that the distance from the connecting portion of the page is increased.
  • the display device 1 detects such movement of the finger F1 and the finger F2
  • the display device 1 changes the page 50d according to the action data 24c. Specifically, the display device 1 breaks the page 50d and makes it independent from the book 50, as shown in step SI2.
  • FIG. 27 is a diagram illustrating another example of an operation of cutting out a page.
  • step SJ1 shown in FIG. 27 the user holds the corner of the page 50d with the finger F1 and the finger F2.
  • step SJ2 the user moves the finger F1 and the finger F2 in a direction orthogonal to the opening / closing direction of the book 50.
  • the display device 1 detects such movement of the finger F1 and the finger F2
  • the display device 1 changes the page 50d according to the action data 24c.
  • the display device 1 breaks the page 50d in accordance with the movement of the finger F1 and the finger F2.
  • the page 50d is torn and becomes independent from the book 50 as shown in step SJ3.
  • FIG. 28 is a diagram illustrating an example of an operation of cutting out a part of a page.
  • the user grasps the corner of the page 50e with the fingers F1 and F2, and forms the fingers F4 and F5 of the other hand into scissors.
  • the user moves the finger F4 and the finger F5 so as to cross the page 50e.
  • the display device 1 detects such movement of the finger F4 and the finger F5, the display device 1 makes a cut at a portion crossed by the finger F4 and the finger F5.
  • the page piece 50f which is a part of the page 50e, is cut out in accordance with the movement path of the finger F4 and the finger F5 and independent from the book 50.
  • the operation of cutting out a part of the page is not limited to the operation of crossing the page with a finger shaped like a scissor.
  • the display device 1 may cut out a page piece in accordance with the traced path.
  • the display device 1 cuts out all or part of the page, so that the user manages the page including the text of interest in various file formats separately from the book. can do.
  • the display device 1 may be configured not to cut a page when the thickness of the page is larger than a threshold value (when rigidity is high). Further, when detecting an operation of cutting a page, the display device 1 may make a copy of the page independent from the book without breaking the page.
  • the target that prevents the page from being torn may be, for example, an object that prohibits copying of the page in terms of copyright management.
  • the display device 1 can also display a plurality of books three-dimensionally.
  • FIG. 29 is a diagram illustrating an example of control when a plurality of books are displayed three-dimensionally.
  • the display device 1 displays three books 51 to 53 in a three-dimensional manner on the table T1.
  • the user performs an operation for opening the book 53 using the finger F1 and the finger F2.
  • the display device 1 When the display device 1 detects an operation of opening the book 53, the display device 1 opens the book 53 according to the detected operation. At this time, in step SL3, the display device 1 enlarges and displays the opened book 53 on almost the entire surface of the table T1. Thus, by displaying the opened book 53 in an enlarged manner, the user can easily view the page of the book 53.
  • the display device 1 may display other objects in association with pages. Display of other objects associated with the page will be described with reference to FIGS. 30 to 38.
  • FIG. 30 is a flowchart illustrating a processing procedure for displaying another object in association with a page.
  • step S501 the control unit 22 synthesizes and displays the virtual space image including the book and the real space image on the display units 32a and 32b.
  • the appearance and content of the displayed book are determined based on the object data 24b.
  • step S502 the control unit 22 determines whether an operation on the book has been detected.
  • the operation on the book is detected based on the images photographed by the photographing units 40 and 42.
  • step S502 Yes
  • the control unit 22 changes the displayed book according to the detected operation as step S503. How to change the book according to the detected operation is determined based on the action data 24c.
  • step S504 the control unit 22 determines whether the page on which the content is displayed has been switched.
  • step S504 Yes
  • the control unit 22 displays an object associated with the page whose contents are newly displayed in a manner corresponding to the page as step S505.
  • step S505 If no operation on the book is detected (No in step S502), the displayed book is kept as it is. If the page has not been switched (step S504, No), step S505 is not executed.
  • step S506 the control unit 22 determines whether to end the process. For example, when the user performs a predetermined operation for instructing the end of the book browsing function, the control unit 22 determines to end the process. When the process is to be ended (step S506, Yes), the control unit 22 completes the processing procedure illustrated in FIG. When the process is not terminated (No at Step S506), the control unit 22 re-executes Step S502 and the subsequent steps.
  • the display device 1 changes the display of the object in accordance with the switching of the page.
  • a specific example of displaying other objects in association with pages will be described below.
  • FIG. 31 to FIG. 34 show examples in which marine life is displayed in a three-dimensional manner in association with pages.
  • the three-dimensional object 55a of Orca is associated with the page of page number 51 of book 55
  • the three-dimensional objects 55b and 55c of tropical fish are associated with the page of page number 50.
  • the three-dimensional objects 55a to 55c are displayed as if jumping out of those pages.
  • the 3D object associated with the book page as if it popped out, it is possible to provide the user with more realistic information than the image or illustration inserted in the actual book. it can.
  • the user may arbitrarily change the correspondence between the page and the three-dimensional object. For example, as shown in FIG. 32, it is assumed that the user turns one page using the fingers F1 and F2 while holding the three-dimensional object 55a with the fingers F3 and F4.
  • the display device 1 detects that the page is turned in a state where the three-dimensional object is gripped as described above, the display device 1 associates the gripped three-dimensional object with the newly displayed page.
  • the three-dimensional object 55a is associated with the page with the page number 53 as shown in FIG. Further, as shown in FIG. 34, when the user returns the page and displays the page with the page number 51, the association with the page is changed, so that the three-dimensional object 55a is not displayed.
  • the display device 1 changes the display method of the object according to the angle of the page.
  • FIG. 35 shows an example of three-dimensional display of marine life in association with the front and back of the page.
  • an Orca three-dimensional object 56 b is associated with the front and back of the page 56 a of the book 56.
  • the display device 1 displays the three-dimensional object 56b in a three-dimensional manner so that the upper half of the orca protrudes from the page 56a.
  • the display device 1 increases the portion of the three-dimensional object 56b displayed in accordance with the angle of the page 56a.
  • the display apparatus 1 will reduce the part which the three-dimensional object 56b is displayed according to the angle of the page 56a.
  • the display device 1 displays the three-dimensional object 56b three-dimensionally so that the lower half of the orca jumps out of the page 56a.
  • the display device 1 changes the three-dimensional object 56b in the opposite direction to that described above.
  • FIG. 36 shows another example in which marine life is three-dimensionally displayed in association with the front and back of the page.
  • an orca three-dimensional object 57b is associated with the front and back of the page 57a of the book 57.
  • the display device 1 displays the three-dimensional object 57b three-dimensionally so that the back of the orca faces upward.
  • the display device 1 When the user starts an operation of turning the page 57a, the display device 1 rotates the three-dimensional object 57b in the horizontal direction in accordance with the angle of the page 57a. When the page 57a is completely turned, the display device 1 displays the three-dimensional object 57b three-dimensionally so that the abdomen of Orca faces upward. When the user turns the page 57a in the reverse direction, the display device 1 changes the three-dimensional object 57b in the opposite direction.
  • the display device 1 changes the object in conjunction with the page turning, so that the user can change the object as desired by the familiar operation of page turning. That is, even a user who is not good at operating information devices can realize complicated processing such as rotating a three-dimensional object simply by turning a page.
  • the display device 1 may associate objects with a plurality of pages.
  • FIG. 37 shows an example in which marine life is three-dimensionally displayed by associating objects with a plurality of pages.
  • the three-dimensional object 58e of the tropical fish and the three-dimensional object 58f of Orca are associated with the four surfaces of the book 58, which are page surfaces 58a to 58d.
  • the display device 1 displays the three-dimensional object 58e and the three-dimensional object 58f at the same scale when the page surfaces 58a and 58b are displayed. Since the size difference between the tropical fish and the orca is large, when the page surfaces 58a and 58b are displayed, the tail part of the orca protrudes from the viewing area and the whole body is not displayed on the three-dimensional object 58f. The portion of the three-dimensional object 58f that protrudes from the viewing area is displayed by turning the page and displaying the page surfaces 58c and 58d.
  • the user can easily grasp the difference in size of the organisms.
  • the user can browse a portion that is not displayed outside the viewing area by a familiar operation of turning the page.
  • a three-dimensional object 59e of a house is associated with four planes 59a to 59d of the book 59.
  • the display device 1 displays the entire three-dimensional object 59e when the page surfaces 59a and 59b are displayed.
  • the display device 1 displays the three-dimensional object 59e so that only the first floor of the house is displayed.
  • the display device 1 can set a cross section according to the number of pages turned, and can also display an object cut in the set cross section.
  • Such control can be applied to a use for displaying a floor map of a building according to the number of pages turned, a use for displaying a cross-sectional view of a human body according to the number of pages turned.
  • control program 24a shown in the above embodiment may be divided into a plurality of modules or may be integrated with other programs.
  • the operation is performed with the finger on the three-dimensional object.
  • a rod-like object or the like may be used instead of the finger.
  • a three-dimensional object is shown as an example of an object displayed in association with a page.
  • the object displayed in association with the page is not limited to a three-dimensional object.
  • a moving image may be displayed in association with a page.
  • the display device 1 may reproduce a different chapter each time the page is turned.
  • the display device alone detects an operation on the three-dimensional object.
  • the display device may detect an operation on the three-dimensional object in cooperation with the server device.
  • the display device sequentially transmits the information detected by the detection unit to the server device, and the server device detects the operation and notifies the display device of the detection result. With this configuration, the load on the display device can be reduced.
  • the display device 1 may limit a space for detecting an operation on the three-dimensional object to a range where a user wearing the display device 1 can reach. In this way, by limiting the space for detecting the operation on the three-dimensional object, it is possible to reduce the load of the arithmetic processing executed by the display device 1 to detect the operation.
  • the present invention is used for realizing the browsing function of the book.
  • browsing using the present invention is not limited to the book.
  • the present invention can be used to realize a browsing function of various electronic publications including pamphlets and newspapers.
  • the operations on the three-dimensional object that can be realized by the present invention are not limited to the operations shown in the above embodiments.
  • the control according to the present invention for example, an operation of selecting and taking out a book from a bookshelf, an operation of folding a newspaper, and an operation of writing on a book or the like with a writing tool can be realized.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Abstract

 表示装置(1)は、装着されることによりユーザの両目のそれぞれに対応した画像を表示することで電子的な出版物を表示する表示部(32aおよび32b)と、出版物のページをめくる操作を行う複数の物体を検出する検出部(44)と、検出部(44)の検出結果に応じて、出版物のページのうち、新たに表示されるページを表示部(32a)に表示させる制御部(22)とを備える。表示部(32a)は、表示空間内に出版物を立体的に表示してもよい。この場合、検出部(44)は、表示空間中の複数の物体の位置を検出する。

Description

表示装置、制御システムおよび制御プログラム
 本発明は、表示装置、制御システムおよび制御プログラムに関する。
 携帯電話端末等の表示部を備える表示装置には、画像等を立体表示することができるものがある(例えば、特許文献1参照)。立体表示は、両眼の視差を利用して実現される。
特開2011-95547号公報
 立体表示は利用者にとって親しみやすい表示形式であるにも関わらず、従来の表示装置では、立体表示は視聴目的でしか利用されず、操作の利便性を向上させるためには利用されてこなかった。本発明は、利用者に対して利便性の高い操作方法を提供することを目的とする。
 本発明は、利用者に対して利便性の高い操作方法を提供することができる表示装置、制御システムおよび制御プログラムを提供することを目的とする。
 本発明に係る表示装置は、装着されることによりユーザの両目のそれぞれに対応した画像を表示することで電子的な出版物を表示する表示部と、前記出版物のページをめくる操作を行う物体を検出する検出部と、前記検出部の検出結果に応じて、前記出版物のページのうち、新たに表示されるページを前記表示部に表示させる制御部とを備える。
 また、本発明に係る制御システムは、装着されることによりユーザの両目のそれぞれに対応した画像を表示することで電子的な出版物を表示する表示部と、前記出版物のページをめくる操作を行う複数の物体を検出する検出部とを備える端末と、当該端末を制御する制御部を含む制御システムであって、前記制御部は、前記検出部の検出結果に応じて、前記出版物のページのうち、新たに表示されるページを前記表示部に表示させる。
 また、本発明に係る制御プログラムは、表示部と検出部とを備える表示装置に、装着されることによりユーザの両目のそれぞれに対応した画像を表示することで、前記表示部に電子的な出版物を表示するステップと、前記出版物のページをめくる操作を行う物体を前記検出部によって検出するステップと、前記検出部の検出結果に応じて、前記出版物のページのうち、新たに表示されるページを前記表示部に表示させるステップとを実行させる。
 本発明は、利用者に対して利便性の高い操作方法を提供することができるという効果を奏する。
図1は、表示装置の斜視図である。 図2は、利用者によって装着された表示装置を正面から見た図である。 図3は、表示装置の変形例を示す図である。 図4は、表示装置の他の変形例を示す図である。 図5は、表示装置の他の変形例を示す図である。 図6は、表示装置のブロック図である。 図7は、制御プログラムが提供する機能に基づく制御の例を示す図である。 図8は、オブジェクトデータに格納される情報の一例を示す図である。 図9は、作用データに格納される情報の一例を示す図である。 図10は、本の閲覧機能を実現するための基本的な処理手順を示すフローチャートである。 図11は、3次元オブジェクトを掴んで行う操作の検出について説明するための図である。 図12は、3次元オブジェクトを掴んで行う操作の検出について説明するための図である。 図13は、3次元オブジェクトの選択検出処理の処理手順を示すフローチャートである。 図14は、掴む操作検出処理の処理手順を示すフローチャートである。 図15は、閉じた本の一例を示す図である。 図16は、ページめくりの制御の一例を示す図である。 図17は、ページめくりの制御の他の例を示す図である。 図18は、ページめくりの制御のさらに他の例を示す図である。 図19は、めくられるページ数と物体間の距離の関係を示す図である。 図20は、ページが選択されている範囲を利用者に提示する例を示す図である。 図21は、ページが選択されている範囲を利用者に提示するためにページの内容を表示する例を示す図である。 図22は、ページに目印を付ける操作の一例を示す図である。 図23は、折れ目の表示の仕方の一例を示す図である。 図24は、ページが選択される範囲を調整する処理手順の一例を示すフローチャートである。 図25は、栞を挟む操作の一例を示す図である。 図26は、ページを切り取る操作の一例を示す図である。 図27は、ページを切り取る操作の他の例を示す図である。 図28は、ページの一部を切り取る操作の一例を示す図である。 図29は、複数の本を立体的に表示する場合の制御の例を示す図である。 図30は、ページと対応付けて他のオブジェクトを表示する処理の処理手順を示すフローチャートである。 図31は、ページと対応付けてオブジェクトを表示する例を示す図である。 図32は、ページと対応付けてオブジェクトを表示する例を示す図である。 図33は、ページと対応付けてオブジェクトを表示する例を示す図である。 図34は、ページと対応付けてオブジェクトを表示する例を示す図である。 図35は、ページの表および裏と対応付けてオブジェクトを表示する例を示す図である。 図36は、ページの表および裏と対応付けてオブジェクトを表示する例を示す図である。 図37は、複数のページと対応付けてオブジェクトを表示する例を示す図である。 図38は、複数のページと対応付けてオブジェクトを表示する例を示す図である。
 以下、本発明につき図面を参照しつつ詳細に説明する。なお、以下の説明により本発明が限定されるものではない。また、以下の説明における構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。
 まず、図1および図2を参照しながら、第1の実施例に係る表示装置1の全体的な構成について説明する。図1は、表示装置1の斜視図である。図2は、利用者によって装着された表示装置1を正面から見た図である。図1および図2に示すように、表示装置1は、利用者の頭部に装着されるヘッドマウントタイプの装置である。
 表示装置1は、前面部1aと、側面部1bと、側面部1cとを有する。前面部1aは、装着時に、利用者の両目を覆うように利用者の正面に配置される。側面部1bは、前面部1aの一方の端部に接続され、側面部1cは、前面部1aの他方の端部に接続される。側面部1bおよび側面部1cは、装着時に、眼鏡の蔓のように利用者の耳によって支持され、表示装置1を安定させる。側面部1bおよび側面部1cは、装着時に、利用者の頭部の背面で接続されるように構成されてもよい。
 前面部1aは、装着時に利用者の目と対向する面に表示部32aおよび表示部32bを備える。表示部32aは、装着時に利用者の右目と対向する位置に配設され、表示部32bは、装着時に利用者の左目と対向する位置に配設される。表示部32aは、右目用の画像を表示し、表示部32bは、左目用の画像を表示する。このように、装着時に利用者のそれぞれの目に対応した画像を表示する表示部32aおよび表示部32bを備えることにより、表示装置1は、両眼の視差を利用した3次元表示を実現することができる。
 表示部32aおよび表示部32bは、利用者の右目と左目に異なる画像を独立して提供することができれば、1つの表示デバイスによって構成されてもよい。例えば、表示される画像が一方の目にしか見えないように遮蔽するシャッターを高速に切り替えることによって、1つの表示デバイスが右目と左目に異なる画像を独立して提供するように構成してもよい。前面部1aは、装着時に外光が利用者の目に入らないように、利用者の目を覆うように構成されてもよい。
 前面部1aは、表示部32aおよび表示部32bが設けられている面とは反対側の面に撮影部40および撮影部42を備える。撮影部40は、前面部1aの一方の端部(装着時の右目側)の近傍に配設され、撮影部42は、前面部1aの他方の端部(装着時の左目側)の近傍に配設される。撮影部40は、利用者の右目の視界に相当する範囲の画像を取得する。撮影部42は、利用者の左目の視界に相当する範囲の画像を取得する。ここでいう視界とは、例えば、利用者が正面を見ているときの視界である。
 表示装置1は、撮影部40によって撮影された画像を右目用の画像として表示部32aに表示し、撮影部42によって撮影された画像を左目用の画像として表示部32bに表示する。このため、表示装置1は、装着中の利用者に、前面部1aによって視界が遮られていても、表示装置1を装着していないときと同様の光景を提供することができる。
 表示装置1は、このように現実の光景を利用者に提供する機能に加えて、仮想的な情報を3次元的に表示し、仮想的な情報を利用者が操作することを可能にする機能を有する。表示装置1によれば、仮想的な情報は、実際に存在しているかのように、現実の光景と重ねて表示される。そして、利用者は、例えば、手を使って仮想的な情報を実際に触っているかのように操作し、移動、回転、変形等の変化を仮想的な情報に施すことができる。このように、表示装置1は、仮想的な情報に関して、直感的で利便性の高い操作方法を提供する。以下の説明では、表示装置1によって3次元的に表示される仮想的な情報を「3次元オブジェクト」と呼ぶことがある。
 表示装置1は、表示装置1を装着していない場合と同様の広い視界を利用者に提供する。そして、表示装置1は、この広い視界の中の任意の位置に任意の大きさで3次元オブジェクトを配置することができる。このように、表示装置1は、表示デバイスの大きさの制約を受けることなく、広い空間の様々な位置に様々な大きさの3次元オブジェクトを表示することができる。
 図1および図2では、表示装置1が、眼鏡(ゴーグル)のような形状を有する例を示したが、表示装置1の形状はこれに限定されない。例えば、表示装置1は、図3に示す表示装置2のように、利用者の頭部のほぼ上半分を覆うようなヘルメットタイプの形状を有していてもよい。あるいは、表示装置1は、図4に示す表示装置3のように、利用者の顔面のほぼ全体を覆うようなマスクタイプの形状を有していてもよい。表示装置1は、図5に示す表示装置4のように、情報処理装置、バッテリ装置等の外部装置4dと有線または無線で接続される構成であってもよい。
 次に、図6を参照しながら、表示装置1の機能的な構成について説明する。図6は、表示装置1のブロック図である。図6に示すように、表示装置1は、操作部13と、制御部22と、記憶部24と、表示部32aおよび32bと、撮影部40および42と、検出部44と、測距部46とを有する。操作部13は、表示装置1の起動、停止、動作モードの変更等の基本的な操作を受け付ける。
 表示部32aおよび32bは、液晶ディスプレイ(Liquid Crystal Display)、有機EL(Organic Electro-Luminescence)パネル等の表示デバイスを備え、制御部22から入力される制御信号に従って各種の情報を表示する。表示部32aおよび32bは、レーザー光線等の光源を用いて利用者の網膜に画像を投影する投影装置であってもよい。
 撮影部40および42は、CCD(Charge Coupled Device Image Sensor)、CMOS(Complementary Metal Oxide Semiconductor)等のイメージセンサを用いて電子的に画像を撮影する。そして、撮影部40および42は、撮影した画像を信号に変換して制御部22へ出力する。
 検出部44は、撮影部40および42の撮影範囲に存在する現実の物体を検出する。検出部44は、例えば、撮影範囲に存在する現実の物体のうち、予め登録された形状(例えば、人間の手の形状)にマッチする物体を検出する。検出部44は、予め形状が登録されていない物体についても、画素の明度、彩度、色相のエッジ等に基づいて、画像中の現実の物体の範囲(形状および大きさ)を検出するように構成されてもよい。
 測距部46は、撮影部40および42の撮影範囲に存在する現実の物体までの距離を測定する。現実の物体までの距離は、表示装置1を装着している利用者のそれぞれの目の位置を基準として目毎に測定される。このため、測距部46が距離を測定する基準位置がそれぞれの目の位置とずれている場合には、測距部46の測定値は、そのずれに応じて、目の位置までの距離を表すように補正される。
 本実施例においては、撮影部40および42が、検出部44および測距部46を兼ねる。すなわち、本実施例においては、撮影部40および42によって撮影される画像を解析することによって、撮影範囲内の物体が検出される。さらに、撮影部40によって撮影される画像に含まれる物体と撮影部42によって撮影される画像に含まれる物体とを比較することにより、物体との距離が測定(算出)される。
 表示装置1は、撮影部40および42とは別に、検出部44を備えてもよい。検出部44は、例えば、可視光、赤外線、紫外線、電波、音波、磁気、静電容量の少なくとも1つを用いて、撮影範囲に存在する現実の物体を検出するセンサであってもよい。表示装置1は、撮影部40および42とは別に、測距部46を備えてもよい。測距部46は、例えば、可視光、赤外線、紫外線、電波、音波、磁気、静電容量の少なくとも1つを用いて、撮影範囲に存在する現実の物体までの距離を検出するセンサであってもよい。表示装置1は、TOF(Time-of-Flight)法を用いたセンサのように、検出部44および測距部46を兼ねることができるセンサを備えてもよい。
 制御部22は、演算手段であるCPU(Central Processing Unit)と、記憶手段であるメモリとを備え、これらのハードウェア資源を用いてプログラムを実行することによって各種の機能を実現する。具体的には、制御部22は、記憶部24に記憶されているプログラムやデータを読み出してメモリに展開し、メモリに展開されたプログラムに含まれる命令をCPUに実行させる。そして、制御部22は、CPUによる命令の実行結果に応じて、メモリおよび記憶部24に対してデータの読み書きを行ったり、表示部32a等の動作を制御したりする。CPUが命令を実行するに際しては、メモリに展開されているデータや検出部44を介して検出される操作がパラメータや判定条件の一部として利用される。
 記憶部24は、フラッシュメモリ等の不揮発性を有する記憶装置からなり、各種のプログラムやデータを記憶する。記憶部24に記憶されるプログラムには、制御プログラム24aが含まれる。記憶部24に記憶されるデータには、オブジェクトデータ24bと、作用データ24cと、仮想空間データ24dとが含まれる。記憶部24は、メモリカード等の可搬の記憶媒体と、記憶媒体に対して読み書きを行う読み書き装置との組み合わせによって構成されてもよい。この場合、制御プログラム24a、オブジェクトデータ24b、作用データ24c、仮想空間データ24dは、記憶媒体に記憶されていてもよい。また、制御プログラム24a、オブジェクトデータ24b、作用データ24c、仮想空間データ24dは、無線通信または有線通信によってサーバ装置等の他の装置から取得されてもよい。
 制御プログラム24aは、表示装置1を稼働させるための各種制御に関する機能を提供する。制御プログラム24aが提供する機能には、撮影部40および42が取得する画像に3次元オブジェクトを重ねて表示部32aおよび32bに表示する機能、3次元オブジェクトに対する操作を検出する機能、検出した操作に応じて3次元オブジェクトを変化させる機能等が含まれる。制御プログラム24aは、このように、3次元オブジェクトの表示を制御したり、3次元オブジェクトに対する操作を検出したりすることにより、後述するように、利用者が電子的な出版物を楽しむことを可能にする。
 制御プログラム24aは、検出処理部25と、表示オブジェクト制御部26と、画像合成部27とを含む。検出処理部25は、撮影部40および42の撮影範囲に存在する現実の物体を検出するための機能を提供する。検出処理部25が提供する機能には、検出したそれぞれの物体までの距離を測定する機能が含まれる。
 表示オブジェクト制御部26は、仮想空間にどのような3次元オブジェクトが配置され、それぞれの3次元オブジェクトがどのような状態にあるかを管理するための機能を提供する。表示オブジェクト制御部26が提供する機能には、検出処理部25の機能によって検出される現実の物体の動きに基づいて3次元オブジェクトに対する操作を検出し、検出した操作に基づいて3次元オブジェクトを変化させる機能が含まれる。
 画像合成部27は、現実の空間の画像と仮想空間の画像とを合成することにより、表示部32aに表示する画像と表示部32bに表示する画像とを生成するための機能を提供する。画像合成部27が提供する機能には、検出処理部25の機能によって測定される現実の物体までの距離と、仮想空間における視点から3次元オブジェクトまでの距離とに基づいて、現実の物体と3次元オブジェクトの前後関係を判定し、重なりを調整する機能が含まれる。
 オブジェクトデータ24bは、3次元オブジェクトの形状および性質に関する情報を含む。オブジェクトデータ24bは、3次元オブジェクトを表示するために用いられる。作用データ24cは、表示されている3次元オブジェクトに対する操作が3次元オブジェクトにどのように作用するかに関する情報を含む。作用データ24cは、表示されている3次元オブジェクトに対する操作が検出された場合に、3次元オブジェクトをどのように変化させるかを判定するために用いられる。ここでいう変化には、移動、回転、変形、消失等が含まれる。仮想空間データ24dは、仮想空間に配置される3次元オブジェクトの状態に関する情報を保持する。3次元オブジェクトの状態には、例えば、位置、姿勢、変形の状況等が含まれる。
 次に、図7を参照しながら、制御プログラム24aが提供する機能に基づく制御の例について説明する。画像P1aは、撮影部40によって得られる画像、すなわち、現実の空間を右目で見た光景に相当する画像である。画像P1aには、テーブルT1と、利用者の手H1とが写っている。表示装置1は、同じ場面を撮影部42によって撮影した画像、すなわち、現実の空間を左目で見た光景に相当する画像も取得する。
 画像P2aは、仮想空間データ24dおよびオブジェクトデータ24bに基づいて生成される右目用の画像である。この例において、仮想空間データ24dは、仮想空間中に存在するブロック状の3次元オブジェクトBL1の状態に関する情報を保持し、オブジェクトデータ24bは、3次元オブジェクトBL1の形状および性質に関する情報を保持する。表示装置1は、これらの情報に基づいて仮想空間を再現し、再現した仮想空間を右目の視点から見た画像P2aを生成する。仮想空間における右目(視点)の位置は、所定の規則に基づいて決定される。表示装置1は、同様に、再現した仮想空間を左目の視点で見た画像も生成する。すなわち、表示装置1は、画像P2aと組み合わせることによって3次元オブジェクトBL1が3次元的に表示される画像も生成する。
 表示装置1は、図7に示すステップS1において、画像P1aおよび画像P2aを合成して、画像P3aを生成する。画像P3aは、右目用の画像として表示部32aに表示される画像である。このとき、表示装置1は、利用者の右目の位置を基準として、撮影部40の撮影範囲にある現実の物体と、仮想空間内に存在する3次元オブジェクトとの前後関係を判定する。そして、現実の物体と3次元オブジェクトとが重なっている場合には、利用者の右目により近いものが前面に見えるように重なりを調整する。
 このような重なりの調整は、現実の物体と3次元オブジェクトとが重なる画像上の領域内の所定の大きさの範囲毎(例えば、1画素毎)に行われる。このため、現実の空間における視点から現実の物体までの距離は、画像上の所定の大きさの範囲毎に測定される。さらに、仮想空間における視点から3次元オブジェクトまでの距離は、3次元オブジェクトの位置、形状、姿勢等を考慮して、画像上の所定の大きさの範囲毎に算出される。
 図7に示すステップS1の場面では、3次元オブジェクトBL1は、仮想空間において、テーブルT1が現実の空間で存在する位置のすぐ上に相当する位置に配置されている。さらに、図7に示すステップS1の場面では、利用者の手H1と3次元オブジェクトBL1が、利用者の右目の位置を基準として、ほぼ同じ方向に、ほぼ同じ距離で存在している。このため、所定の大きさの範囲毎に重なりを調整することにより、合成後の画像P3aでは、手H1と3次元オブジェクトBL1とが重なっている領域のうち、手H1の親指に相当する部分では手H1が前面に現れ、他の部分では3次元オブジェクトBL1が前面に現れている。さらに、テーブルT1と3次元オブジェクトBL1とが重なっている領域では、3次元オブジェクトBL1が前面に現れている。
 このような重なりの調整により、図7に示すステップS1では、あたかもテーブルT1上に3次元オブジェクトBL1が置かれ、3次元オブジェクトBL1を利用者が手H1で摘んでいるかのような画像P3aが得られている。表示装置1は、同様の処理により、撮影部42によって撮影した画像と仮想空間を左目の視点から見た画像とを合成し、左目用の画像として表示部32bに表示される画像を生成する。左目用の画像を生成する場合、現実の物体と3次元オブジェクトとの重なりは、利用者の左目の位置を基準として調整される。
 表示装置1は、こうして生成した合成画像を表示部32aおよび32bに表示する。その結果、利用者は、あたかも、3次元オブジェクトBL1がテーブルT1の上に置かれ、自分の手H1で3次元オブジェクトBL1を摘んでいるかのような光景を見ることができる。
 図7に示すステップS1の場面では、利用者が手H1を矢印A1の方向に移動させている。この場合、図7に示すステップS2の場面では、撮影部40によって得られる画像は、手H1の位置が右へ移動した画像P1bに変化する。さらに、表示装置1は、手H1の動きを、3次元オブジェクトを摘んだままで右へ移動させる操作と判定し、操作に応じて、仮想空間における3次元オブジェクトの位置を右へ移動させる。仮想空間における3次元オブジェクトの移動は、仮想空間データ24dに反映される。その結果、仮想空間データ24dおよびオブジェクトデータ24bに基づいて生成される右目用の画像は、3次元オブジェクトBL1の位置が右へ移動した画像P2bに変化する。表示装置1による操作の検出の詳細については、後述する。
 表示装置1は、画像P1bおよび画像P2bを合成して右目用の画像P3bを生成する。画像P3bは、画像P3aと比較して、テーブルT1上のより右側の位置で、3次元オブジェクトBL1を利用者が手H1で摘んでいるかのような画像となっている。表示装置1は、同様に左目用の合成画像を生成する。そして、表示装置1は、こうして生成した合成画像を表示部32aおよび32bに表示する。その結果、利用者は、あたかも、自分の手H1で3次元オブジェクトBL1を摘んで右へ移動させたかのような光景を見ることができる。
 このような表示用の合成画像の更新は、一般的な動画のフレームレートと同等の頻度(例えば、毎秒30回)で実行される。その結果、利用者の操作に応じた3次元オブジェクトBL1の変化は、表示装置1が表示する画像にほぼリアルタイムに反映され、利用者は、あたかも実際に存在しているかのように、違和感なく3次元オブジェクトBL1を操作することができる。さらに、本実施例に係る構成では、3次元オブジェクトBL1を操作する利用者の手H1が、利用者の目と表示部32aおよび32bの間に位置することがないため、利用者は、手H1によって3次元オブジェクトBL1の表示が遮られることを気にすることなく操作を行うことができる。
 次に、図8を参照しながら、図6に示したオブジェクトデータ24bおよび作用データ24cについてさらに詳しく説明する。図8は、オブジェクトデータ24bに格納される情報の一例を示す図である。図8に示す例は、本として表示される3次元オブジェクトに関する情報の例である。図8に示すように、本として表示される3次元オブジェクトは、表表紙、裏表紙、背表紙、および複数のページという複数の3次元オブジェクトを含む。すなわち、本として表示される3次元オブジェクトは、3次元オブジェクトの集合体である。なお、以下の説明では、説明の便宜のために、本として表示される3次元オブジェクトを単に「本」ということがある。同様に、表表紙、裏表紙、背表紙、およびページに相当する3次元オブジェクトを、それぞれ、単に「表表紙」、「裏表紙」、「背表紙」、および「ページ」ということがある。
 表表紙、裏表紙、および背表紙には、厚み、幅、高さ、色といった外観および性質を特定するための情報が予め設定される。また、表表紙、裏表紙、および背表紙には、3次元オブジェクトの表面に表示すべき文字列および画像等が、所定の形式でコンテンツとして設定される。
 複数のページには、厚み、幅、高さ、色といった外観および性質を特定するための情報が予め共通に設定される。また、複数のページには、それぞれのページに表示すべきテキストおよび画像等が、所定の形式でコンテンツとしてページ毎に設定される。ページには、「<折り返し />」、「<栞 />」といったそのページに特有な情報が付加されることがある。「<折り返し />」は、対応するページの一部が折り返されていることを示す。「<栞 />」は、対応するページに栞が挟まれていることを示す。
 なお、図8では、オブジェクトデータ24bがXML(Extensible Markup Language)形式で記述されている例を示したが、オブジェクトデータ24bの形式はこれに限定されない。例えば、オブジェクトデータ24bの形式は、専用に設計された形式でもよい。また、本として表示される3次元オブジェクトの構成は、図8に示した例に限定されない。例えば、本として表示される3次元オブジェクトは、表表紙、裏表紙、および背表紙の形状および性質を特定するための情報を含まなくてもよい。この場合、全ての本の表表紙、裏表紙、および背表紙は、予め行われた設定に従って共通の形状および性質をもってもよい。
 図9は、作用データ24cに格納される情報の一例を示す図である。図9に示す例は、本に含まれるページに対する操作がそれらのページにどのように作用するかを示している。なお、本実施例では、ページに対する操作は、たとえば、ページの一部を指等で掴んで行う操作であると想定されている。
 図9に示すように、ページに対する操作の作用は、状況、移動方向、移動範囲、移動速度、および剛性等の条件に応じて変化する。状況は、解放時、すなわち、掴む操作が完了した時点、または、移動中、すなわち、掴む操作の最中のいずれであるかを示す。移動方向は、ページを掴む指等の移動する方向である。移動範囲は、ページを掴む指等の移動する範囲である。移動速度は、ページを掴む指等の移動する速度である。剛性は、ページの硬さを示す。剛性は、ページの厚さに基づいて判定される。
 状況が解放時で、ページを掴む指等の直前の移動方向が本の開閉方向、すなわち、ページの連結部を回転軸として回動する方向であったものとする。この場合、指等の移動範囲がページの連結部を超えていれば、すなわち、指等がページの連結部をまたがって移動していれば、表示装置1は、掴まれていたページをめくられたように変化させる。また、指等の移動範囲がページの連結部を超えていなくても、移動速度が閾値よりも高く、かつ、剛性が閾値よりも高い場合には、表示装置1は、掴まれていたページをめくられたように変化させる。また、指等の移動範囲がページの連結部を超えていない場合、移動速度が閾値よりも低いか、または、剛性が閾値よりも低い場合には、表示装置1は、掴まれていたページを重力に従って変化させる。重力に従った変化は、例えば、重力方向への落下として表現される。
 また、状況が移動中であり、ページを掴む指等の移動方向がページの連結部との距離が変化する方向であったものとする。この場合、ページの剛性が閾値より高ければ、表示装置1は、掴まれている位置を変更する。また、ページの剛性が閾値より低い場合、掴まれている部分とページの連結部との距離が当初の距離以下であれば、表示装置1は、掴まれているページを指等の動きに合わせて変化させる。また、ページの剛性が閾値より低く、掴まれている部分とページの連結部との距離が当初よりも大きい場合、表示装置1は、掴まれているページを切り離されたように変化させる。すなわち、表示装置1は、掴まれているページを本から独立させる。
 また、ページを掴む指等の移動方向が本の開閉方向と直交する方向であり、ページの剛性が閾値より高い場合、表示装置1は、掴まれている位置を変更する。また、ページを掴む指等の移動方向が本の開閉方向と直交する方向であり、ページの剛性が閾値より低い場合、表示装置1は、掴まれているページを切り離されたように変化させる。また、ページを掴む指等の移動方向が本の開閉方向の場合、表示装置1は、掴まれているページを指等の動きに合わせて変化させる。
 このように、作用データ24cには、ページが操作に応じて、現実の本のページと同様に変化するように情報が設定される。表表紙および裏表紙に関しても、ページと同様の設定が作用データ24cにおいてなされる。なお、作用データ24cの構成および内容は図9に示した例に限定されない。例えば、作用データ24cは、図9に示した以外の条件を含んでもよい。また、作用データ24cにおいて定義される作用は、図9に示した例と異なっていてもよい。
 次に、図10から図14を参照しながら、本の閲覧機能を実現するために表示装置1が実行する動作について説明する。以下の説明では、表示装置1を装着した利用者が見る空間を、表示空間と呼ぶことがある。図10は、本の閲覧機能を実現するために表示装置1が実行する基本的な処理手順を示すフローチャートである。図11および図12は、3次元オブジェクトを掴んで行う操作の検出について説明するための図である。図13は、3次元オブジェクトの選択検出処理の処理手順を示すフローチャートである。図14は、掴む操作検出処理の処理手順を示すフローチャートである。
 図10に示す処理手順は、制御部22が制御プログラム24aを実行することによって実現される。図10に示すように、本の閲覧機能を実現するため、制御部22は、まず、ステップS101として、表示部32aおよび32bに本を含む仮想空間の画像と現実の空間の画像とを合成して表示する。表示される本の外観および内容は、オブジェクトデータ24bに基づいて決定される。
 続いて、制御部22は、ステップS102として、本に対する操作が検出されたかを判定する。本に対する操作は、撮影部40および42によって撮影される画像に基づいて検出される。本に対する操作が検出された場合(ステップS102,Yes)、制御部22は、ステップS103として、検出された操作に応じて表示中の本を変化させる。検出された操作に応じた本の変化のさせ方は、作用データ24cに基づいて決定される。本に対する操作が検出されない場合(ステップS102,No)、表示中の本はそのままに保たれる。
 続いて、制御部22は、ステップS104として、処理を終了させるかを判定する。制御部22は、例えば、利用者が本の閲覧機能の終了を指示する所定の操作を行った場合に、処理を終了させると判定する。処理を終了させる場合(ステップS104,Yes)、制御部22は、図10に示す処理手順を完了させる。処理を終了させない場合(ステップS104,No)、制御部22は、ステップS102以降を再実行する。
 上述したように、本実施例では、本に対する操作は、たとえば、ページを指等で掴んで行う操作であると想定される。すなわち、図10に示すステップS102では、ページを掴んで行う操作が検出され、ステップS103では、ページを掴んで行う操作に対応する処理が実行される。
 以下、図11から図14を参照しながら、掴んで行う操作に関する制御の詳細について説明する。図11に示すステップSA1では、表示部32aおよび32bによって、表示空間中に、3次元オブジェクトOB1が立体的に表示されている。また、3次元オブジェクトOB1を選択するために、利用者は、指F1と指F2の間に3次元オブジェクトOB1が位置するように指F1および指F2を移動させている。
 表示装置1は、表示空間内で2つの物体が検出され、かつ、それらの2つの物体の間に3次元オブジェクトOB1が位置する場合、2つの物体の距離D1の変化を監視する。そして、距離D1が所定時間以上ほぼ一定であれば、3次元オブジェクトOB1が選択されたと判定し、3次元オブジェクトOB1を選択状態にする。そして、表示装置1は、3次元オブジェクトOB1の表示態様を変更する等して、3次元オブジェクトOB1が選択状態になったことを利用者に通知する。
 3次元オブジェクトOB1が選択状態になったことは、例えば、3次元オブジェクトOB1の表面のうち、検出された2つの物体を結ぶ直線と交差する部分の近傍の色または明るさを変更することによって利用者に通知される。なお、このような視覚による通知に代えて、または、視覚による通知に加えて、音または振動による通知を行ってもよい。
 表示装置1が2つの物体の距離D1の変化を監視している間、2つの物体は、3次元オブジェクトOB1を挟む位置に留まる必要はない。すなわち、利用者は、ステップSA1に示したように指F1と指F2の間に3次元オブジェクトOB1が位置するように指F1および指F2を移動させた後、その状態を保つことなく、指F1および指F2を他の位置へ移動させて構わない。例えば、利用者は、掴みたいページを挟む位置に指F1および指F2を移動させた後、掴んだページが選択状態となったことが通知される前に、掴んだページをめくる動作を開始してもよい。
 ステップSA1の状態から、ステップSA2に示すように、利用者が、指F1と指F2の距離D1をほぼ一定に保ったまま移動させたものとする。この場合、表示装置1は、指F1と指F2の間に3次元オブジェクトOB1が表示されていることが検出された段階、すなわち、ステップSA1の段階から、指F1および指F2の動きに応じて、3次元オブジェクトOB1に移動、回転等の変化を加える。そして、表示装置1は、ステップSA3に示すように、指F1と指F2の距離D1がほぼ一定に保たれた状態が所定時間以上継続した段階で、3次元オブジェクトOB1を選択状態にする。
 なお、図12のステップSB1からステップSB3に示すように、所定時間が経過する前に指F1と指F2の距離D1が離れた場合、表示装置1は、それまでに加えた変化と逆の変化を3次元オブジェクトOB1に加える。すなわち、利用者が、3次元オブジェクトOB1を操作することを意図していなかった場合、3次元オブジェクトOB1は、元の状態に戻される。その結果、3次元オブジェクトOB1は、ステップSB1の段階と同じ位置に同じ状態で表示される。逆の変化を3次元オブジェクトOB1に加える速度は、それまでに3次元オブジェクトOB1に変化が加えられた速度よりも速くてもよい。すなわち、高速に逆再生しているかのように3次元オブジェクトOB1を逆変化させてもよい。
 このように、2つの物体の間に3次元オブジェクトが表示されていることが検出された段階から3次元オブジェクトに変化を加え始めることにより、利用者は、3次元オブジェクトが選択されつつあることを選択が確定する前から認識することができる。その結果、利用者は、意図した3次元オブジェクトが選択されたか否かを早期に知ることができる。なお、2つの物体の距離がほぼ一定に保たれた状態が所定時間以上継続するまでは、変化を加えられている3次元オブジェクトを通常時とも選択状態とも異なる態様(例えば、半透明)で表示することにより、利用者が3次元オブジェクトの状態を判別し易くしてもよい。
 なお、ステップSA1の段階から、指F1および指F2の動きに応じて3次元オブジェクトOB1を変化させるのではなく、3次元オブジェクトOB1が選択状態になった後に3次元オブジェクトOB1を変化させ始めてもよい。また、ステップSA1のように指F1と指F2の間に3次元オブジェクトOB1が位置する状態が所定時間以上継続した場合にのみ、3次元オブジェクトOB1を選択状態にすることとしてもよい。
 また、図11では、2つの物体の間に表示されている1つの3次元オブジェクトが選択される例を示したが、選択される3次元オブジェクトの数は1つに限定されない。2つの物体の間に複数の3次元オブジェクトが表示されていることが検出された場合、表示装置1は、それらの3次元オブジェクトをまとめて選択する。すなわち、表示装置1は、利用者が複数のページをまとめて選択し、それらを操作することを許す。
 図13は、3次元オブジェクトの選択検出処理の処理手順を示す。図13に示す処理手順は、制御部22が制御プログラム24aを実行することによって実現される。図13に示すように、制御部22は、ステップS201として、検出部44、すなわち、撮影部40および42によって第1の物体および第2の物体が検出されたかを判定する。第1の物体および第2の物体は、例えば、利用者の指である。
 第1の物体および第2の物体が検出された場合(ステップS201,Yes)、制御部22は、ステップS202として、表示されている3次元オブジェクトの中から第1の物体と第2の物体との間に表示されている3次元オブジェクトを探す。
 第1の物体と第2の物体との間に表示されている3次元オブジェクトがみつかった場合(ステップS203,Yes)、制御部22は、ステップS204として、第1の物体と第2の物体との間に表示されている3次元オブジェクトを仮選択状態にする。第1の物体と第2の物体との間に複数の3次元オブジェクトが表示されている場合、制御部22は、それらの3次元オブジェクトを全て仮選択状態にする。また、制御部22は、ステップS205として、第1の物体と第2の物体の距離を算出する。そして、制御部22は、ステップS206として、図14に示す掴む操作検出処理を実行し、その中で、選択状態にある3次元オブジェクトを検出された操作に応じて変化させる。
 第1の物体と第2の物体との間に表示されている3次元オブジェクトがみつからない場合(ステップS203,No)、ステップS204~ステップS206は実行されない。
 その後、制御部22は、ステップS207として、処理を終了させるかを判定する。処理を終了させる場合(ステップS207,Yes)、制御部22は、処理手順を完了させる。処理を終了させない場合(ステップS207,No)、制御部22は、ステップS201以降を再実行する。
 第1の物体および第2の物体が検出されない場合(ステップS201,No)、制御部22は、ステップS207を実行する。
 図14は、掴む操作検出処理の処理手順を示す。図14に示す処理手順は、制御部22が制御プログラム24aを実行することによって実現される。図14に示すように、制御部22は、まず、ステップS301として、第1の物体と第2の物体の距離を算出する。そして、制御部22は、ステップS302として、3次元オブジェクトの選択時、すなわち、掴む操作検出処理の開始時点における距離とステップS301で測定した距離との差が閾値より大きいかを判定する。ここで用いられる閾値は、第1の物体と第2の物体の距離が、3次元オブジェクトの選択時とほぼ同じであるかを判定するための値である。
 距離の差が閾値よりも小さい場合(ステップS302,No)、制御部22は、ステップS303として、掴む操作検出処理が開始されてから所定時間が経過したかを判定する。所定時間が経過していた場合(ステップS303,Yes)、制御部22は、ステップS304として、仮選択状態の3次元オブジェクトがあれば、その3次元オブジェクトを選択状態にする。所定時間が経過していない場合(ステップS303,No)、ステップS304は実行されない。なお、所定時間は、例えば、0.1秒のように十分に短い時間でよい。
 続いて、制御部22は、ステップS305として、検出された第1の物体および第2の物体の動きに応じて、選択状態または仮選択状態にある3次元オブジェクトを変化させる。3次元オブジェクトの変化のさせ方は、作用データ24cに基づいて決定される。例えば、制御部22は、選択状態または仮選択状態にある本のページを、第1の物体および第2の物体の動きに合わせて、持ち上げられたように変化させる。そして、制御部22は、ステップS301以降を再実行する。
 距離の差が閾値よりも大きい場合(ステップS302,Yes)、制御部22は、ステップS306として、第1の物体と第2の物体の間に表示されていた3次元オブジェクトが仮選択状態であるかを判定する。
 3次元オブジェクトが仮選択状態である場合(ステップS306,Yes)、制御部22は、ステップS307として、3次元オブジェクトの仮選択状態を解除する。また、制御部22は、ステップS308として、3次元オブジェクトを逆変化させて元の状態に戻す。そして、制御部22は、掴む操作検出処理を終了させる。
 3次元オブジェクトが仮選択状態でない場合、すなわち、選択状態の場合(ステップS306,No)、制御部22は、ステップS309として、第1の物体と第2の物体の距離の変化に合わせて3次元オブジェクトの選択範囲の維持または変更が可能であるかを判定する。
 第1の物体と第2の物体の距離が短くなった場合、3次元オブジェクトの選択範囲は、維持または縮小される。具体的には、選択状態となっている3次元オブジェクトが1つの場合、第1の物体と第2の物体の距離が短くなっても3次元オブジェクトは選択状態のままである。選択状態となっている3次元オブジェクトが複数の場合、第1の物体と第2の物体の距離が短くなるにつれて選択状態となっている3次元オブジェクトの数は減っていくが、少なくとも1つの3次元オブジェクトは選択状態のままとなる。例えば、本のページが指で掴まれている場合、制御部22は、指が近付くにつれて掴まれているページの枚数を減らしていくが、少なくとも1ページは掴まれた状態を維持する。
 一方、第1の物体と第2の物体の距離が長くなった場合、3次元オブジェクトの選択範囲は、維持または変更が可能でない場合がある。具体的には、第1の物体と第2の物体の距離が長くなったことによって、第1の物体と第2の物体の間に選択状態にない3次元オブジェクトが位置することになった場合、選択範囲は拡張される。この場合、選択状態にない3次元オブジェクトが選択状態に変わる。距離が長くなった第1の物体と第2の物体の間に選択状態にない3次元オブジェクトがなく、第1の物体または第2の物体と選択状態にある3次元オブジェクトとの間の隙間が所定の大きさよりも大きくなった場合には、選択範囲の維持または変更は可能でない。選択範囲の維持または変更は可能でないと判定された場合、選択状態の3次元オブジェクトは解放される。
 例えば、本のページが指で掴まれている場合、制御部22は、指が拡がるにつれて掴まれているページの枚数を増やしていく。そして、掴めるページがなくなり、掴まれているページといずれかの指の間の隙間が所定の大きさよりも大きくなった場合には、制御部22は、選択範囲の維持または変更は可能でないと判定する。
 第1の物体と第2の物体の距離の変化に合わせて3次元オブジェクトの選択範囲の維持または変更が可能な場合(ステップS309,Yes)、制御部22は、ステップS310として、第1の物体と第2の物体の距離の変化に合わせて3次元オブジェクトの選択範囲を維持または変更する。そして、制御部22は、ステップS301以降を再実行する。
 第1の物体と第2の物体の距離の変化に合わせて3次元オブジェクトの選択範囲の維持または変更が可能でない場合(ステップS309,No)、制御部22は、ステップS311として、3次元オブジェクトの選択状態を解除する。また、制御部22は、ステップS312として、解放時の状況に応じて3次元オブジェクトを変化させる。3次元オブジェクトの変化のさせ方は、作用データ24cに基づいて決定される。例えば、制御部22は、選択状態にある本のページを、重力に従ってめくれたように変化させる。そして、制御部22は、掴む操作検出処理を終了させる。
 次に、図15から図29を参照しながら、本の閲覧機能における制御の具体例について説明する。なお、説明を簡単にするため、以下では仮選択状態についての説明を省略する。
 図15は、閉じた本の一例を示す図である。図15において、表示装置1は、テーブルT1上に本50を立体的に表示させている。この例において、本50は、閉じている。本50の外観は、オブジェクトデータ24bに基づいて決定される。なお、オブジェクトデータ24bに忠実に本50を表示すると本50の厚みが所定の値よりも小さい場合、表示装置1は、本50の厚みが所定の値以上になるようにページの厚さを補正してもよい。本50の厚みを増すことにより、利用者が本50に対する操作を行い易くなる。
 図16は、ページめくりの制御の一例を示す図である。図16に示すステップSC1では、利用者が、指F1と指F2の間に本50の表表紙およびページが位置するように、指F1および指F2を移動させている。表示装置1は、指F1と指F2の間に表表紙およびページが位置していることを検出すると、指F1と指F2の間に位置する表表紙およびページを選択状態にする。
 その後、ステップSC2では、利用者が、指F1と指F2の間隔をほぼ一定に保ったまま、指F1と指F2をページの連結部を超えるまで本50の開閉方向に移動させている。表示装置1は、このような指F1および指F2の動作を検出すると、作用データ24cに従って、選択状態にある表表紙およびページを変化させる。具体的には、表示装置1は、指F1および指F2の移動に合わせて、選択状態にある表表紙およびページの角度を変化させる。
 その状態で利用者が指F1と指F2の間の距離を広げるか、指F1および指F2をページの連結部から遠ざけて指F1と指F2の間に表表紙およびページが位置しない状態にすると、選択状態にある表表紙およびページは解放される。その結果、表示装置1は、作用データ24cに従って、本50を変化させる。具体的には、ステップSC3に示すように、選択状態にあったページのうち内側の端のページが一番上になるように、本50を変化させる。表示装置1は、本50の開いたページの表面に、それらのページに対応するテキストおよび画像等を表示する。
 図17は、ページめくりの制御の他の例を示す図である。図17に示すステップSD1では、図16に示したような制御により、本50は既に開いた状態で表示されている。そして、利用者が、開いているページを含むページが指F1と指F2の間に位置するように、指F1および指F2を移動させている。表示装置1は、指F1と指F2の間にページが位置していることを検出すると、指F1と指F2の間に位置するページを選択状態にする。
 その後、ステップSD2では、利用者が、指F1と指F2の間隔をほぼ一定に保ったまま、指F1と指F2をページの連結部を超えるまで本50の開閉方向に移動させている。表示装置1は、このような指F1および指F2の動作を検出すると、作用データ24cに従って、選択状態にあるページを変化させる。具体的には、表示装置1は、指F1および指F2の移動に合わせて、選択状態にあるページの角度を変化させる。
 このとき、表示装置1は、ページの厚み(剛性)に応じて選択状態にあるページの変化のさせ方を変えてもよい。例えば、ページが閾値よりも厚い場合(剛性が高い場合)、表示装置1は、ページをたわませずに角度を変化させてもよい。また、ページが閾値よりも厚い場合(剛性が高い場合)、表示装置1は、選択状態にあるページを掴む物体が、ページの連結部を回転軸として円弧を描くように移動しなければページの角度が変わらないように、ページの変化を制約してもよい。また、ページが閾値よりも薄い場合(剛性が低い場合)、表示装置1は、選択状態にあるページを掴む物体の動きと重力とに合わせてページをたわませてもよい。
 ステップSD2の状態で利用者が指F1と指F2の間の距離を広げるか、指F1および指F2をページの連結部から遠ざけて指F1と指F2の間にページが位置しない状態にすると、選択状態にあるページは解放される。その結果、表示装置1は、作用データ24cに従って、本50を変化させる。具体的には、ステップSD3に示すように、選択状態にあったページのうち内側の端のページが一番上になるように、本50を変化させる。表示装置1は、本50の開いたページの表面に、それらのページに対応するテキストおよび画像等を表示する。
 図18は、ページめくりの制御のさらに他の例を示す図である。図18に示すステップSE1では、図17に示したような制御により、複数のページがめくられつつある。そして、利用者が、選択状態にあるページの一部が指F3と指F4の間に位置するように、指F3および指F4を移動させている。表示装置1は、指F3と指F4の間にページが位置していることを検出すると、指F3と指F4の間に位置するページを、指F3および指F4と対応付ける。
 その後、ステップSE2では、利用者が、指F3と指F4の間隔をほぼ一定に保ったまま、指F3と指F4をページの連結部を超えるまで本50の開閉方向に移動させている。表示装置1は、このような指F3および指F4の動作を検出すると、作用データ24cに従って、選択状態にあるページを変化させる。具体的には、表示装置1は、指F3および指F4の移動に合わせて、選択状態にあるページのうち、指F3および指F4と対応付けられているページの角度を変化させる。
 ステップSE2の状態で利用者が指F1と指F2の間の距離を広げるか、指F1および指F2をページの連結部から遠ざけて指F1と指F2の間にページが位置しない状態にすると、指F1と指F2の間にあるページは解放される。また、ステップSE2の状態で利用者が指F3と指F4の間の距離を広げるか、指F3および指F4をページの連結部から遠ざけて指F3と指F4の間にページが位置しない状態にすると、指F3と指F4の間にあるページは解放される。その結果、表示装置1は、作用データ24cに従って、本50を変化させる。具体的には、ステップSE3に示すように、指F1と指F2の間にあったページと指F3と指F4の間にあったページとの境のページが一番上になるように、本50を変化させる。表示装置1は、本50の開いたページの表面に、それらのページに対応するテキストおよび画像等を表示する。
 図16から図18に示したように、表示装置1は、利用者がページを掴んで本を開くことを可能にする。その結果、利用者は、最初から1ページずつめくって本を読むだけでなく、現実の本に対する操作と同様の操作によって、電子的な出版物から所望の箇所を容易に見つけることができる。
 めくられるページ数は、ページを選択する物体の距離に応じて決定される。図19は、めくられるページ数と物体間の距離の関係を示す図である。図19に示すように、ページを選択する指F1と指F2との間の距離D1が距離Dxよりも短い場合、めくられるページ数は、距離D1が距離Dxのときよりも少なくなる。一方、ページを選択する指F1と指F2との間の距離D1が距離Dxよりも長い場合、めくられるページ数は、距離D1が距離Dxのときよりも多くなる。このように、表示装置1は、本50との間に隙間ができない限り、距離D1が長くなるほどめくられるページ数を増やす。
 このように、表示装置1が距離D1に応じてめくられるページ数を変更することにより、利用者は、任意のページ数をめくることができる。
 表示装置1は、距離D1に応じた数のページを選択状態にした後、選択範囲を変更可能な範囲で距離D1が変化した場合には、選択状態にあるページ数を変化後の距離D1に応じて変更する。表示装置1は、ページが選択されている範囲を利用者に提示することが好ましい。
 図20は、ページが選択されている範囲を利用者に提示する例を示す図である。図20に示すステップSF1では、利用者が、開いているページを含むページが指F1と指F2の間に位置するように、指F1および指F2を移動させている。表示装置1は、指F1と指F2の間にページが位置していることを検出すると、指F1と指F2の間に位置するページを選択状態にする。さらに、表示装置1は、選択状態になったページのうち、開いているページとは反対側の端のページのページ番号(87)を表示する。なお、図20に示した例では、開いているページにページ番号が表示されているが、ページ番号を表示する位置は、利用者に見える位置であればどこでもよい。
 その後、ステップSF2では、利用者が、本50との隙間を作ることなく、指F1と指F2との間の距離を広げている。その結果、表示装置1は、選択状態にあるページ数を増やす。さらに、表示装置1は、選択状態にあるページの範囲を示すページ番号(125)を表示し直す。このように、表示装置1が、ページが選択されている範囲を利用者に提示することにより、利用者は、めくられるページの範囲を容易に調整することができる。
 なお、図20では、ページが選択されている範囲を利用者に提示するためにページ番号を表示することとしたが、ページ番号に代えて、あるいは、ページ番号に加えて、選択状態にあるページ数またはページの内容を表示してもよい。図21は、ページが選択されている範囲を利用者に提示するためにページの内容を表示する例を示す図である。
 図21に示すステップSG1では、本50の開いたページに、それらのページに対応するテキストおよび画像等が表示されている。そして、ステップSG2では、利用者が、開いているページを含むページが指F1と指F2の間に位置するように、指F1および指F2を移動させている。表示装置1は、指F1と指F2の間にページが位置していることを検出すると、指F1と指F2の間に位置するページを選択状態にする。さらに、表示装置1は、選択状態になったページがめくられたら表示されるページに対応するテキストおよび画像等を表示する。なお、図21に示した例では、開いているページの内容が置き換えられているが、ページの内容を表示する位置および大きさは、利用者に見える位置および大きさであればよい。
 その後、ステップSG3では、利用者が、本50との隙間を作ることなく、指F1と指F2との間の距離を広げている。その結果、表示装置1は、選択状態にあるページ数を増やす。さらに、表示装置1は、選択状態になったページがめくられたら表示されるページに対応するテキストおよび画像等を表示し直す。このように、表示装置1が、ページの内容を利用者に提示することにより、利用者は、ページをめくることによってどのページが見られるかを容易に把握することができる。
 なお、選択状態にあるページ数を調整するために、指F1と指F2との間の距離だけでなく、指F1と指F2の移動速度を用いてもよい。具体的には、指F1と指F2の移動速度が閾値よりも速い場合は、距離の変化量に対する選択状態にあるページ数の変化量を大きくする。一方、指F1と指F2の移動速度が閾値よりも遅い場合は、距離の変化量に対する選択状態にあるページ数の変化量を小さくする。このように、指F1と指F2の移動速度を用いることにより、利用者が、選択状態にあるページ数を意図する値に調整しやすくなる。ここでいう指F1と指F2の移動速度は、指F1の移動速度と指F2の移動速度のうち、いずれか速い方を用いることが好ましい。
 以上、複数のページをまとめてめくる操作について説明してきたが、表示装置1は、ページを1枚ずつめくる操作も受け付けてよい。例えば、表示装置1は、開いているページの一方に触れた指等を他方のページへ向けて移動させる動作が検出された場合に、接触された方のページを1枚めくってもよい。この操作は、現実の薄い紙のページをめくる場合の動作を模している。
 表示装置1は、ページに関する操作として、めくる操作以外の操作を受け付けてもよい。例えば、表示装置1は、ページに関する操作として、ページに目印を付ける操作を受け付けてもよい。図22は、ページに目印を付ける操作の一例を示す図である。図22に示すステップSH1では、利用者は、1枚のページの角を指F1および指F2で掴んでいる。そして、ステップSH2では、利用者は、掴んだ部分を折り返すように指F1および指F2を移動させている。
 このように、ページの一部を折り返す動作が検出された場合、表示装置1は、その部分を折れ目50aとして、折り返されたままの状態に保つ。そして、表示装置1は、折れ目50aを設けたページをオブジェクトデータ24bに記録する。表示装置1は、図23に示すように、本50が閉じられた場合にも、利用者が折れ目50aの位置を把握できるように、折れ目50aを色または明るさを変える等して他の部分と異なる態様で表示することが好ましい。このように、表示装置1が利用者の操作に応じて折り返しを設定することにより、利用者は、後で見直したいページ等に目印を付けておくことができる。
 なお、折れ目50aは、1つの本50において、複数設定可能である。また、表示装置1は、ページの厚みが閾値より厚い場合(剛性が高い場合)は、ページの一部を折り返す動作が検出されても折れ目を設けなくてもよい。
 表示装置1は、折れ目50aが設定されたページを利用者が閲覧し易いように、ページが選択される範囲を調整することが好ましい。図24は、ページが選択される範囲を調整する処理手順の一例を示すフローチャートである。表示装置1の制御部22は、第1の物体と第2の物体の間にページが表示されていることを検出すると、ステップS401として、第1の物体と第2の物体の間の距離を算出する。そして、制御部22は、ステップS402として、算出した距離に基づいて、選択されるページ数を算出する。
 続いて、制御部22は、ステップS403として、選択される最後のページの前後所定数内のページに折れ目があるか否かを判定する。折れ目がある場合(ステップS404,Yes)、制御部22は、ステップS405として、折れ目のあるページまでが選択されるように選択されるページ数を補正する。選択される最後のページの前後所定数内のページに折れ目があるページが複数ある場合、制御部22は、例えば、折れ目のあるページのうち、掴まれている最後のページに最も近いページまでが選択されるように選択されるページ数を補正する。
 選択される最後のページの前後所定数内のページに折れ目がない場合(ステップS404,No)、制御部22は、ステップS402で算出されたページ数に基づいてページを選択する。
 なお、図24に示したような選択範囲の調整は、図23に示す角50bのように折れ目50aが設けられている角の近傍でページを掴む操作が行われた場合にのみ実行することとしてもよい。すなわち、角50cのように折れ目50aが設けられていない角の近傍でページを掴む操作が行われた場合には、選択範囲を調整しなくてもよい。このように、表示装置1が、ページが選択される位置によって選択範囲の調整を抑制することにより、利用者は、折れ目50aが設けられているページの前後所定数内のページを参照しやすくなる。
 表示装置1は、図25に示すように本に栞60を挟む操作、または、スピンを挟む操作が検出された場合も、折れ目が設けられた場合と同様に、ページが選択される範囲を調整することが好ましい。
 また、表示装置1は、ページに関する操作として、ページを切り取る操作を受け付けてもよい。図26は、ページを切り取る操作の一例を示す図である。図26に示すステップSI1では、利用者は、ページ50dの端部を指F1および指F2で掴み、ページの連結部との距離が遠くなるように指F1および指F2を移動させている。表示装置1は、このような指F1および指F2の動作を検出すると、作用データ24cに従って、ページ50dを変化させる。具体的には、表示装置1は、ステップSI2に示すように、ページ50dを破いて、本50から独立させる。
 図27は、ページを切り取る操作の他の例を示す図である。図27に示すステップSJ1では、利用者は、ページ50dの角を指F1および指F2で掴んでいる。そして、ステップSJ2では、利用者は、指F1および指F2を本50の開閉方向と直交する方向へ移動させている。表示装置1は、このような指F1および指F2の動作を検出すると、作用データ24cに従って、ページ50dを変化させる。具体的には、表示装置1は、ページ50dを指F1および指F2の移動に合わせて破いていく。その結果、利用者が指F1および指F2の移動を継続すると、ステップSJ3に示すように、ページ50dは、破けて本50から独立する。
 図28は、ページの一部を切り取る操作の一例を示す図である。図28に示すステップSK1では、利用者は、ページ50eの角を指F1および指F2で掴み、もう一方の手の指F4および指F5をはさみの形にしている。そして、ステップSK2では、利用者は、ページ50eを横切るように指F4および指F5を移動させている。表示装置1は、このような指F4および指F5の動作を検出すると、指F4および指F5によって横切られた部分に切れ目を入れていく。その結果、ステップSK3に示すように、ページ50eの一部であるページ片50fが指F4および指F5の移動経路に合わせて切り取られて、本50から独立する。なお、ページの一部を切り取る操作は、このようにはさみの形にした指にページを横切らせる動作に限定されない。例えば、表示装置1は、ページを指でなぞる動作が検出された場合に、なぞられた経路に合わせてページ片を切り取ってもよい。
 図26から図28に示したように、表示装置1が、ページの全体または一部を切り取ることにより、利用者は、興味があるテキスト等を含むページを本とは別に種々のファイル形式で管理することができる。なお、表示装置1は、ページの厚みが閾値より厚い場合(剛性が高い場合)は、ページを切り取ることができないようにしてもよい。また、表示装置1は、ページを切り取る操作を検出した場合に、ページを破かずに、ページの複製を本から独立させてもよい。このように、ページが破れないようになす対象は、たとえば、当該ページが著作権管理上、複製を禁止する対象物であってもよい。
 表示装置1は、複数の本を立体的に表示することもできる。図29は、複数の本を立体的に表示する場合の制御の例を示す図である。図29に示すステップSL1では、表示装置1は、テーブルT1上に、本51~53という3冊の本を立体的に表示させている。そして、ステップSL2では、利用者が、指F1および指F2を使って、本53を開くための操作を行っている。
 表示装置1は、本53を開く操作を検出すると、検出した操作に従って本53を開かせる。このとき、ステップSL3では、表示装置1は、開いた本53をテーブルT1のほぼ全面に拡大表示させる。このように、開いた本53を拡大表示することにより、利用者は、本53のページを閲覧し易くなる。
 表示装置1は、ページと対応付けて他のオブジェクトを表示してもよい。図30から図38を参照しながら、ページと対応付けた他のオブジェクトの表示について説明する。図30は、ページと対応付けて他のオブジェクトを表示する処理の処理手順を示すフローチャートである。
 図30に示す処理手順は、制御部22が制御プログラム24aを実行することによって実現される。図30に示すように、制御部22は、まず、ステップS501として、表示部32aおよび32bに本を含む仮想空間の画像と現実の空間の画像とを合成して表示する。表示される本の外観および内容は、オブジェクトデータ24bに基づいて決定される。
 続いて、制御部22は、ステップS502として、本に対する操作が検出されたかを判定する。本に対する操作は、撮影部40および42によって撮影される画像に基づいて検出される。本に対する操作が検出された場合(ステップS502,Yes)、制御部22は、ステップS503として、検出された操作に応じて表示中の本を変化させる。検出された操作に応じた本の変化のさせ方は、作用データ24cに基づいて決定される。
 続いて、制御部22は、ステップS504として、内容が表示されるページが切り替わったかを判定する。ページが切り替わった場合(ステップS504,Yes)、制御部22は、ステップS505として、新たに内容が表示されるようになったページに対応付けられたオブジェクトをページに対応する態様で表示させる。
 本に対する操作が検出されない場合(ステップS502,No)、表示中の本はそのままに保たれる。また、ページが切り替わっていない場合(ステップS504,No)、ステップS505は実行されない。
 続いて、制御部22は、ステップS506として、処理を終了させるかを判定する。制御部22は、例えば、利用者が本の閲覧機能の終了を指示する所定の操作を行った場合に、処理を終了させると判定する。処理を終了させる場合(ステップS506,Yes)、制御部22は、図30に示す処理手順を完了させる。処理を終了させない場合(ステップS506,No)、制御部22は、ステップS502以降を再実行する。
 このように、表示装置1は、ページと対応付けて他のオブジェクトを表示する場合、ページの切り替えに合わせてオブジェクトの表示を変更する。以下に、ページと対応付けて他のオブジェクトを表示する具体例について説明する。
 図31から図34は、ページと対応付けて海洋生物を3次元表示する例を示している。図31に示す例では、本55のページ番号51のページにオルカの3次元オブジェクト55aが対応付けられ、ページ番号50のページに熱帯魚の3次元オブジェクト55bおよび55cが対応付けられている。3次元オブジェクト55a~55cは、ページ番号50のページおよびページ番号51のページが表示されると、それらのページから飛び出したように表示される。このように、本のページと対応付けられた3次元オブジェクトを飛び出したように表示することにより、現実の本に挿入される画像やイラストよりも現実感のある情報を利用者に提供することができる。
 ページと3次元オブジェクトの対応を利用者が任意に変更できるようにしてもよい。例えば、図32に示すように、利用者が3次元オブジェクト55aを指F3および指F4で掴んだまま、指F1および指F2を使ってページを1枚めくったものとする。表示装置1は、このように3次元オブジェクトが掴まれた状態でページがめくられたことを検出すると、掴まれている3次元オブジェクトを新たに表示されたページに対応付ける。
 その結果、3次元オブジェクト55aは、図33に示すように、ページ番号53のページに対応付けられる。また、図34に示すように、利用者がページを戻してページ番号51のページを表示させると、ページとの対応付けが変更されたため、3次元オブジェクト55aは表示されない。
 図31から図34では、他のオブジェクトをページの1つの面に対応付けることとしたが、他のオブジェクトをページの表および裏と対応付けてもよい。この場合、表示装置1は、ページの角度に応じてオブジェクトの表示のさせ方を変更する。
 図35は、ページの表および裏と対応付けて海洋生物を3次元表示する例を示している。図35に示す例では、本56のページ56aの表および裏にオルカの3次元オブジェクト56bが対応付けられている。表示装置1は、ページ56aの一方の面が表示されている場合、オルカの上半身がページ56aから飛び出したように3次元オブジェクト56bを3次元表示させる。
 そして、利用者がページ56aをめくる操作を始めると、表示装置1は、ページ56aの角度に合わせて、3次元オブジェクト56bの表示される部分を多くしていく。ページ56aが垂直になった時点では、3次元オブジェクト56bの全体が表示される。そして、利用者がページ56aをめくる操作を継続すると、表示装置1は、ページ56aの角度に合わせて、3次元オブジェクト56bの表示される部分を少なくしていく。ページ56aが完全にめくられると、表示装置1は、オルカの下半身がページ56aから飛び出したように3次元オブジェクト56bを3次元表示させる。
 利用者がページ56aを逆方向にめくると、表示装置1は、3次元オブジェクト56bを上記の説明とは逆に変化させていく。
 図36は、ページの表および裏と対応付けて海洋生物を3次元表示する他の例を示している。図36に示す例では、本57のページ57aの表および裏にオルカの3次元オブジェクト57bが対応付けられている。表示装置1は、ページ57aの一方の面が表示されている場合、オルカの背びれが上を向くように3次元オブジェクト57bを3次元表示させる。
 そして、利用者がページ57aをめくる操作を始めると、表示装置1は、ページ57aの角度に合わせて、3次元オブジェクト57bを横方向に回転させていく。ページ57aが完全にめくられると、表示装置1は、オルカの腹部が上を向くように3次元オブジェクト57bを3次元表示させる。利用者がページ57aを逆方向にめくると、表示装置1は、3次元オブジェクト57bを上記の説明とは逆に変化させていく。
 このように、表示装置1が、ページめくりと連動してオブジェクトを変化させることにより、利用者は、ページめくりという慣れ親しんだ操作によってオブジェクトを希望する通りに変化させることができる。すなわち、情報機器の操作が苦手な利用者であっても、ページをめくるだけで、3次元オブジェクトを回転させるといった複雑な処理を実現させることができる。
 表示装置1は、複数のページにオブジェクトを対応付けてもよい。図37は、複数のページにオブジェクトを対応付けて海洋生物を3次元表示する例を示している。図37に示す例では、本58のページ面58a~58dという4つの面に熱帯魚の3次元オブジェクト58eと、オルカの3次元オブジェクト58fとが対応付けられている。
 表示装置1は、ページ面58aおよび58bが表示されている場合、3次元オブジェクト58eおよび3次元オブジェクト58fを同じ縮尺で表示する。熱帯魚とオルカの大きさの差は大きいため、ページ面58aおよび58bが表示されている場合、3次元オブジェクト58fは、オルカの尾の部分が視認領域からはみ出して全身が表示されない。3次元オブジェクト58fの視認領域からはみ出している部分は、ページをめくってページ面58cおよび58dを表示させることによって表示される。
 このように、複数の生物を同じ縮尺で表示することにより、利用者は、生物の大きさの差を容易に把握することができる。また、利用者は、視認領域からはみ出して表示されない部分を、ページをめくるという慣れ親しんだ操作によって閲覧することができる。
 図38に示す例では、本59のページ面59a~59dという4つの面に住宅の3次元オブジェクト59eが対応付けられている。表示装置1は、ページ面59aおよび59bが表示されている場合、3次元オブジェクト59eの全体を表示する。表示装置1は、ページ面59cおよび59dが表示されている場合、住宅の1階のみが表示されるように3次元オブジェクト59eを表示する。
 このように、表示装置1は、めくられたページ数に応じて断面を設定し、設定した断面で切断した状態のオブジェクトを表示することもできる。このような制御は、めくられたページ数に応じてビルのフロアマップを表示する用途や、めくられたページ数に応じて人体の断面図を表示する用途等に応用することができる。
 なお、上記の実施例で示した本発明の態様は、本発明の要旨を逸脱しない範囲で任意に変更することができる。例えば、上記の実施例で示した制御プログラム24aは、複数のモジュールに分割されていてもよいし、他のプログラムと統合されていてもよい。また、上記の実施例では、3次元オブジェクトに対して指で操作を行うこととしたが、棒状の物等を指の代わりに用いてもよい。
 また、上記の実施例では、ページに対応付けて表示されるオブジェクトの例として3次元オブジェクトを示した。しかしながら、ページに対応付けて表示されるオブジェクトは、3次元オブジェクトに限定されない。例えば、ページに対応付けて動画を表示してもよい。表示装置1は、ページに対応付けて動画を表示する場合、ページがめくられる毎に異なるチャプタを再生してもよい。
 また、上記の実施例では、表示装置が単独で3次元オブジェクトに対する操作を検出することとしたが、表示装置がサーバ装置と協業して3次元オブジェクトに対する操作を検出することとしてもよい。この場合、表示装置は、検出部の検出した情報をサーバ装置へ逐次送信し、サーバ装置が操作を検出して検出結果を表示装置へ通知する。このような構成とすることにより、表示装置の負荷を低減することができる。
 また、表示装置1は、3次元オブジェクトに対する操作を検出する空間を、表示装置1を装着している利用者の手が届く範囲に限定してもよい。このように、3次元オブジェクトに対する操作を検出する空間を限定することにより、表示装置1が操作を検出するために実行する演算処理の負荷を軽減することができる。
 また、上記の実施例では、本発明を本の閲覧機能を実現するために利用する例について説明したが、本発明を用いて閲覧されるのは本に限定されない。本発明は、パンフレットおよび新聞等を含む各種の電子出版物の閲覧機能を実現するために利用することができる。
 また、本発明によって実現可能な3次元オブジェクトに対する操作は、上記の実施例で示した操作に限定されない。本発明に係る制御により、例えば、本棚から本を選択して取り出す操作、新聞を折り畳む操作、および筆記具をもって本等に書き込みを行う操作等を実現することもできる。
1~4 表示装置
1a 前面部
1b、1c 側面部
4d 外部装置
13 操作部
22 制御部
24 記憶部
24a 制御プログラム
24b オブジェクトデータ
24c 作用データ
24d 仮想空間データ
25 検出処理部
26 表示オブジェクト制御部
27 画像合成部
32a、32b 表示部
40、42 撮影部
44 検出部
46 測距部

Claims (8)

  1.  装着されることによりユーザの両目のそれぞれに対応した画像を表示することで電子的な出版物を表示する表示部と、
     前記出版物のページをめくる操作を行う物体を検出する検出部と、
     前記検出部の検出結果に応じて、前記出版物のページのうち、新たに表示されるページを前記表示部に表示させる制御部と
     を備える表示装置。
  2.  前記表示部は、表示空間内に前記出版物を立体的に表示し、
     前記検出部は、前記表示空間中の複数の前記物体の位置を検出し、
     前記制御部は、表示中のページに対応するオブジェクトを前記表示部に立体的に表示させることを特徴とする請求項1に記載の表示装置。
  3.  前記制御部は、前記オブジェクトに対応するページの角度に応じて、当該オブジェクトの表示態様を変更することを特徴とする請求項2に記載の表示装置。
  4.  前記制御部は、前記オブジェクトに対応するページの角度に応じて当該オブジェクトを回転させることを特徴とする請求項3に記載の表示装置。
  5.  前記制御部は、前記オブジェクトに対応するページの角度に応じた断面で切断された当該オブジェクトを表示させることを特徴とする請求項3に記載の表示装置。
  6.  前記制御部は、前記オブジェクトに対応するページの角度に応じた当該オブジェクトの部分を表示させることを特徴とする請求項3に記載の表示装置。
  7.  装着されることによりユーザの両目のそれぞれに対応した画像を表示することで電子的な出版物を表示する表示部と、前記出版物のページをめくる操作を行う複数の物体を検出する検出部とを備える端末と、当該端末を制御する制御部を含む制御システムであって、
     前記制御部は、前記検出部の検出結果に応じて、前記出版物のページのうち、新たに表示されるページを前記表示部に表示させることを特徴とする制御システム。
  8.  表示部と検出部とを備える表示装置に、
     装着されることによりユーザの両目のそれぞれに対応した画像を表示することで、前記表示部に電子的な出版物を表示するステップと、
     前記出版物のページをめくる操作を行う物体を前記検出部によって検出するステップと、
     前記検出部の検出結果に応じて、前記出版物のページのうち、新たに表示されるページを前記表示部に表示させるステップと
     を実行させる制御プログラム。
PCT/JP2013/076065 2012-09-27 2013-09-26 表示装置、制御システムおよび制御プログラム WO2014050967A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US14/431,655 US20150264338A1 (en) 2012-09-27 2013-09-26 Display device, control system, and control program
EP13842627.5A EP2905745A4 (en) 2012-09-27 2013-09-26 DISPLAY DEVICE, CONTROL SYSTEM AND CONTROL PROGRAM
CN201380050117.4A CN104662588B (zh) 2012-09-27 2013-09-26 显示装置、控制系统和控制方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-214956 2012-09-27
JP2012214956A JP5841033B2 (ja) 2012-09-27 2012-09-27 表示装置、制御システムおよび制御プログラム

Publications (1)

Publication Number Publication Date
WO2014050967A1 true WO2014050967A1 (ja) 2014-04-03

Family

ID=50388362

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2013/076065 WO2014050967A1 (ja) 2012-09-27 2013-09-26 表示装置、制御システムおよび制御プログラム

Country Status (5)

Country Link
US (1) US20150264338A1 (ja)
EP (1) EP2905745A4 (ja)
JP (1) JP5841033B2 (ja)
CN (1) CN104662588B (ja)
WO (1) WO2014050967A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9606992B2 (en) * 2011-09-30 2017-03-28 Microsoft Technology Licensing, Llc Personal audio/visual apparatus providing resource management
US10664975B2 (en) * 2014-11-18 2020-05-26 Seiko Epson Corporation Image processing apparatus, control method for image processing apparatus, and computer program for generating a virtual image corresponding to a moving target
JP6357412B2 (ja) * 2014-12-15 2018-07-11 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、情報処理方法、及びプログラム
WO2017033777A1 (ja) 2015-08-27 2017-03-02 株式会社コロプラ ヘッドマウントディスプレイシステムを制御するプログラム
JP6126667B2 (ja) * 2015-11-12 2017-05-10 京セラ株式会社 表示装置、制御システムおよび制御プログラム
JP6597277B2 (ja) * 2015-12-18 2019-10-30 富士通株式会社 投影装置、投影方法及び投影用コンピュータプログラム
CN107329257A (zh) * 2016-04-29 2017-11-07 深圳市掌网科技股份有限公司 一种虚拟现实头盔全屏驱动显示方法及其虚拟现实头盔
JP6439953B1 (ja) * 2018-03-11 2018-12-19 求 藤川 判定装置、判定装置の制御方法
EP3693834A1 (en) * 2019-02-11 2020-08-12 Siemens Aktiengesellschaft Method and system for viewing virtual elements
CN112463000B (zh) * 2020-11-10 2022-11-08 赵鹤茗 交互方法、装置、系统、电子设备及交通工具
US20240069642A1 (en) * 2022-08-31 2024-02-29 Youjean Cho Scissor hand gesture for a collaborative object

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06282371A (ja) * 1993-03-26 1994-10-07 Kodo Eizo Gijutsu Kenkyusho:Kk 仮想空間デスクトップ装置
JP2011095547A (ja) 2009-10-30 2011-05-12 Sharp Corp 表示装置
JP2013029942A (ja) * 2011-07-27 2013-02-07 Kyocera Corp 表示機器、制御システムおよび制御プログラム
JP2013029941A (ja) * 2011-07-27 2013-02-07 Kyocera Corp 表示機器、制御システムおよび制御プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7667703B2 (en) * 2003-12-19 2010-02-23 Palo Alto Research Center Incorporated Systems and method for turning pages in a three-dimensional electronic document
CN101053010A (zh) * 2004-02-05 2007-10-10 电子图书系统有限公司 用于控制和浏览虚拟图书的方法、系统、设备和计算机程序产品
ES1057360Y (es) * 2004-04-07 2004-11-01 Bunamir S L Libro con motivo tridimensional.
US7898541B2 (en) * 2004-12-17 2011-03-01 Palo Alto Research Center Incorporated Systems and methods for turning pages in a three-dimensional electronic document
JP5156571B2 (ja) * 2008-10-10 2013-03-06 キヤノン株式会社 画像処理装置、画像処理方法
JP5262681B2 (ja) * 2008-12-22 2013-08-14 ブラザー工業株式会社 ヘッドマウントディスプレイ及びそのプログラム
US9104275B2 (en) * 2009-10-20 2015-08-11 Lg Electronics Inc. Mobile terminal to display an object on a perceived 3D space
US20110181497A1 (en) * 2010-01-26 2011-07-28 Roni Raviv Object related augmented reality play system
US8964298B2 (en) * 2010-02-28 2015-02-24 Microsoft Corporation Video display modification based on sensor input for a see-through near-to-eye display
KR101651135B1 (ko) * 2010-07-12 2016-08-25 엘지전자 주식회사 이동 단말기 및 그 제어 방법
CN101923435B (zh) * 2010-08-24 2012-11-21 福州瑞芯微电子有限公司 电子书模拟真实翻页效果的方法
JPWO2012049795A1 (ja) * 2010-10-12 2014-02-24 パナソニック株式会社 表示処理装置、表示方法およびプログラム
JP2012114816A (ja) * 2010-11-26 2012-06-14 Sony Corp 画像処理装置、画像処理方法及び画像処理プログラム
US9024872B2 (en) * 2011-04-28 2015-05-05 Sharp Kabushiki Kaisha Head-mounted display
US20130147686A1 (en) * 2011-12-12 2013-06-13 John Clavin Connecting Head Mounted Displays To External Displays And Other Communication Networks
US20130181975A1 (en) * 2012-01-18 2013-07-18 Standard Nine Inc. (dba Inkling) Systems and methods for objects associated with a three-dimensional model

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06282371A (ja) * 1993-03-26 1994-10-07 Kodo Eizo Gijutsu Kenkyusho:Kk 仮想空間デスクトップ装置
JP2011095547A (ja) 2009-10-30 2011-05-12 Sharp Corp 表示装置
JP2013029942A (ja) * 2011-07-27 2013-02-07 Kyocera Corp 表示機器、制御システムおよび制御プログラム
JP2013029941A (ja) * 2011-07-27 2013-02-07 Kyocera Corp 表示機器、制御システムおよび制御プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HIROKAZU KATO: "An Augmented Reality Toolkit and its Applications for ART", JOHO SHORI, vol. 47, no. 4, 15 April 2006 (2006-04-15), pages 362 - 367, XP008179440 *
See also references of EP2905745A4

Also Published As

Publication number Publication date
JP2014071498A (ja) 2014-04-21
CN104662588A (zh) 2015-05-27
EP2905745A4 (en) 2016-04-27
EP2905745A1 (en) 2015-08-12
CN104662588B (zh) 2018-07-06
US20150264338A1 (en) 2015-09-17
JP5841033B2 (ja) 2016-01-06

Similar Documents

Publication Publication Date Title
JP5841033B2 (ja) 表示装置、制御システムおよび制御プログラム
JP5698529B2 (ja) 表示制御プログラム、表示制御装置、表示制御システム、および表示制御方法
JP5756704B2 (ja) 表示機器および制御プログラム
JP6409118B2 (ja) ウェアラブル装置、制御方法及び制御プログラム
JP5627973B2 (ja) ゲーム処理をするためのプログラム、装置、システムおよび方法
US8648924B2 (en) Computer-readable storage medium having stored thereon image generation program, capturing apparatus, capturing system, and image generation method for generating a combination image on a display of the capturing apparatus
JP6041604B2 (ja) 表示装置、制御システムおよび制御プログラム
JP2014068689A (ja) 表示装置、制御システムおよび制御プログラム
JP2012068730A (ja) 表示制御プログラム、表示制御装置、表示制御システム、および表示制御方法
JP5757790B2 (ja) 情報処理プログラム、情報処理装置、情報処理システム、及び、情報処理方法
US20120075294A1 (en) Information processing apparatus including plurality of display portions and information processing system
JP2012169911A (ja) 表示制御プログラム、表示制御装置、表示制御システム、および、表示制御方法
JP5514637B2 (ja) 情報処理プログラム、情報処理装置、情報処理システム、及び情報処理方法
JP5572532B2 (ja) 表示制御プログラム、表示制御装置、表示制御方法および表示制御システム
US20120075267A1 (en) Information processing apparatus capable of associating data with each other, information processing system, and storage medium storing information processing program
JP5725902B2 (ja) 画像処理プログラム、画像処理装置、画像処理方法および画像処理システム
JP5876983B2 (ja) 表示制御プログラム、表示制御装置、表示制御方法および表示制御システム
JP6126667B2 (ja) 表示装置、制御システムおよび制御プログラム
JP5941620B2 (ja) 情報処理プログラム、情報処理装置、情報処理方法、及び情報処理システム
WO2014051092A1 (ja) 表示装置、制御方法および制御プログラム
JP5687881B2 (ja) 表示制御プログラム、表示制御装置、表示制御システム、および表示制御方法
JP5723149B2 (ja) 画像処理システム、画像処理プログラム、画像処理方法及び画像処理装置
JP2023065528A (ja) ヘッドマウント情報処理装置およびヘッドマウントディスプレイシステム
JP5922349B2 (ja) 表示機器、制御システムおよび制御プログラム
JP5770018B2 (ja) 表示制御プログラム、表示制御装置、表示制御方法及び表示制御システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13842627

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 14431655

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2013842627

Country of ref document: EP