WO2019123770A1 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
WO2019123770A1
WO2019123770A1 PCT/JP2018/037084 JP2018037084W WO2019123770A1 WO 2019123770 A1 WO2019123770 A1 WO 2019123770A1 JP 2018037084 W JP2018037084 W JP 2018037084W WO 2019123770 A1 WO2019123770 A1 WO 2019123770A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
virtual object
transition
display device
information
Prior art date
Application number
PCT/JP2018/037084
Other languages
English (en)
French (fr)
Inventor
一 若林
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to EP18891366.9A priority Critical patent/EP3731066A4/en
Priority to KR1020207016033A priority patent/KR102477842B1/ko
Priority to CN201880080507.9A priority patent/CN111512272A/zh
Priority to US16/770,731 priority patent/US11468868B2/en
Priority to JP2019560814A priority patent/JP7226332B2/ja
Publication of WO2019123770A1 publication Critical patent/WO2019123770A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3647Guidance involving output of stored or live camera images or video streams
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04804Transparency, e.g. transparent or translucent windows
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0492Change of orientation of the displayed image, e.g. upside-down, mirrored
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Definitions

  • the present disclosure relates to an information processing device, an information processing method, and a program.
  • AR augmented reality
  • HMD Head Mount Display
  • an optically transmissive HMD that displays a virtual object superimposed on a real space in the field of view of the user in real space, or an image obtained by imaging the real space
  • a video transmission HMD that displays a virtual object superimposed on a real space is used (see, for example, Patent Document 1).
  • the superimposed display on the real space of the virtual object associated with the set position in the real space can be controlled according to the position and orientation information indicating the position and orientation of the HMD.
  • the position and orientation information indicating the position and orientation of the HMD.
  • an error in position and orientation information may occur due to a detection error or the like of a sensor used to detect the position and orientation of the HMD.
  • a shift between the superimposed position of the virtual object and the set position may occur, so it is necessary to correct the position and orientation information.
  • the superimposed position of the virtual object may change sharply before and after the correction of the position and orientation information. As a result, it may be difficult for the user to smoothly use the AR technology due to giving the user a sense of discomfort.
  • the present disclosure proposes a new and improved information processing apparatus, information processing method, and program capable of facilitating use of AR technology by a user.
  • a control unit configured to control the display device to superimpose the virtual object associated with the setting position in the real space on the real space based on position and orientation information indicating the position and the attitude of the moving object; And a correction unit that corrects position and orientation information, wherein the control unit is configured to generate a second position and orientation in which the position and orientation information is discontinuous with respect to the first position and orientation information from the first position and orientation information.
  • An information processing apparatus is provided.
  • the information processing device controls the display device to superimpose the virtual object associated with the setting position in the real space on the real space based on position and orientation information indicating the position and the attitude of the moving object. And correcting the position and orientation information, and the position and orientation information is converted from the first position and orientation information to the second position and orientation information discontinuous with the first position and orientation information. Transition indicating a state transition from a first display state in which the virtual object is displayed based on the first position and posture information to a second display state based on the second position and posture information when being corrected Control the display device to display An information processing method is provided.
  • the display device is controlled such that the computer superimposes the virtual object associated with the setting position in the real space on the real space based on the position and posture information indicating the position and the posture of the moving object.
  • a program for functioning as a control unit and a correction unit for correcting the position and orientation information wherein the control unit controls the position and orientation information to be the first position and orientation information from the first position and orientation information. From the first display state in which the virtual object is displayed based on the first position and posture information when the second position and posture information is corrected to the second position and posture information relative to the second position and posture information
  • a program is provided for controlling the display device to perform transition display indicating a state transition to a second display state based on.
  • FIG. 1 is a schematic view showing an example of a schematic configuration of a display device 1 according to the present embodiment.
  • the display device 1 is a head mounted display which is a display device used by being attached to the head of a user.
  • the display device 1 is an optically transmissive HMD that displays a virtual object superimposed on the real space in the field of view of the user in the real space.
  • the display device 1 has a transmissive member that faces the eyes of the user when worn, and a mechanism that projects an image on the transmissive member. The image projected onto the transmissive member is reflected by the transmissive member, is incident on the user's eyes, and is viewed as a virtual image by the user. Thereby, superimposed display of the virtual object on the real space can be realized.
  • the display device 1 corresponds to an example of a moving body according to the present disclosure.
  • the display device 1 includes a camera 20, a position and orientation sensor 30, and an information processing device 100.
  • the camera 20 captures an image of real space within the field of view of the user. In addition, the camera 20 outputs a captured image in which a real space obtained by imaging is captured to the information processing apparatus 100.
  • the position and orientation sensor 30 is a sensor that detects information regarding the position and orientation of the display device 1.
  • the position and orientation sensor 30 may include a plurality of sensors, for example, a motion sensor such as a geomagnetic sensor, an acceleration sensor, a gyro sensor, and a GNSS (Global Navigation Satellite System) sensor.
  • the position and orientation sensor 30 can detect the position, orientation, acceleration, and angular velocity of the display device 1 as information on the position and orientation of the display device 1 by using these sensors.
  • the detection of the position and orientation of the display device 1 by the position and orientation sensor 30 can be realized, for example, by using a geomagnetic sensor and a GNSS sensor.
  • the detection of the acceleration and the angular velocity of the display device 1 by the position and orientation sensor 30 can be realized by using, for example, an acceleration sensor and a gyro sensor. Further, the position and orientation sensor 30 outputs the detection result to the information processing device 100.
  • the Visual SLAM Simultaneous Localization and Mapping
  • the position and orientation sensor 30 includes the camera 20.
  • the information processing apparatus 100 includes a central processing unit (CPU) which is an arithmetic processing unit, a read only memory (ROM) which is a storage element for storing programs used by the CPU, arithmetic parameters, etc. And a RAM (Random Access Memory), which is a storage element for temporarily storing
  • CPU central processing unit
  • ROM read only memory
  • RAM Random Access Memory
  • FIG. 2 is a block diagram showing an example of a functional configuration of the information processing apparatus 100 according to the present embodiment.
  • the information processing apparatus 100 includes a communication unit 110, a storage unit 120, an update unit 130, a correction unit 140, and a control unit 150.
  • the communication unit 110 communicates with an external device of the information processing apparatus 100 via a wired or wireless information network.
  • the communication unit 110 receives information on the position and orientation of the display device 1 detected by the position and orientation sensor 30 from the position and orientation sensor 30, and outputs the information to the storage unit 120 and the updating unit 130.
  • the communication unit 110 also receives a captured image of the camera 20 from the camera 20 and outputs the image to the correction unit 140.
  • the communication unit 110 also transmits to the display device 1 an operation command for controlling the operation of the display device 1 output from the control unit 150.
  • the storage unit 120 stores information used in each process performed by the information processing apparatus 100.
  • the storage unit 120 is position and orientation information that is information indicating the position and orientation of the display device 1 as information used in display control performed by the control unit 150, and information on a virtual object displayed superimposed on a real space.
  • the storage unit 120 stores, as information used in the correction process performed by the correction unit 140, a marker image to be compared with a captured image of the camera 20 in the correction process.
  • the updating unit 130 updates the position and orientation information of the display device 1. Specifically, the updating unit 130 repeatedly updates the position and orientation information so that the position and orientation information stored in the storage unit 120 is maintained in the latest state.
  • the position and orientation information of the display device 1 may be regarded as being defined on a so-called global coordinate system associated with the real space. In this case, the superimposed display of the virtual object on the real space can be controlled according to the relative positional relationship between the position of the display device 1 in the global coordinate system and the setting position of the virtual object.
  • the correction unit 140 corrects the position and orientation information of the display device 1. Specifically, the correction unit 140 corrects the position and orientation information so that the error of the position and orientation information stored in the storage unit 120 is cancelled.
  • the term “correction” means change of information accompanied by instantaneous change (in other words, relatively large change) of the position or posture of the display device 1.
  • the position and orientation information before correction may be regarded as the first position and posture information
  • the position and posture information after correction may be regarded as the second position and posture information.
  • the first position and posture information and the second position and posture information correspond to discontinuous position and posture information.
  • the control unit 150 controls the operation of the display device 1 by outputting an operation command for controlling the operation of the display device 1 to the communication unit 110. Thereby, the superimposed display of the virtual object on the real space by the display device 1 is controlled. Thus, the control unit 150 controls the display device 1 to superimpose the virtual object on the real space.
  • display control control performed by the control unit 150 for superimposing display of a virtual object on the real space by the display device 1 is referred to as display control.
  • control unit 150 controls the display device 1 so that the virtual object associated with the set position in the real space is superimposed on the real space based on the position and orientation information of the display device 1. More specifically, control unit 150 controls display device 1 so that the virtual object associated with the set position is superimposed on the real space based on the relationship between the position and orientation information of display device 1 and the set position. . Thereby, the virtual object associated with the set position can be superimposed on the set position regardless of the position and orientation of the display device 1.
  • the display control performed by the information processing apparatus 100 is applied to, for example, an application for route guidance.
  • FIG.3 and FIG.4 is explanatory drawing which shows the example of a display by the display apparatus 1 at the time of execution of the application for route guidance.
  • FIG. 3 shows a view from the viewpoint of the user moving in the station yard with the display device 1 attached.
  • FIG. 4 shows a state as seen from the viewpoint of the user moving in the urban area after the time has elapsed in comparison with FIG. 3.
  • the display area 50 shown in FIG. 3 and FIG. 4 is an area to be displayed by the display device 1 and corresponds to an area within the field of view of the user.
  • a map image 61 is displayed in the display area 50 in accordance with an operation by the user.
  • the user can set a desired destination using the map image 61.
  • the display device 1 performs display for guiding a recommended route from the current location to the set destination. For example, the display device 1 displays an arrow 62 indicating a recommended route, as shown in FIGS. 3 and 4.
  • the display device 1 is a virtual object 70 associated with the destination as the setting position. Superimposed on the destination. As a result, the user can easily recognize the position of the destination, so that the user can smoothly reach the destination.
  • the display of the virtual object 70 is controlled based on the relationship between the position and orientation information of the display device 1 and the destination in order to superimpose the virtual object 70 on the destination regardless of the position and orientation of the display device 1 . Therefore, when the position and orientation information is corrected, the superimposed position of the virtual object 70 may change before and after the position and orientation information correction.
  • the control unit 150 of the information processing apparatus 100 determines that the position and orientation information is second position and orientation information discontinuous with respect to the first position and orientation information from the first position and orientation information.
  • Transition display showing a state transition from the first display state in which the virtual object 70 is displayed based on the first position and posture information to the second display state based on the second position and posture information when being corrected to Control the display device 1 to Thereby, the use of AR technology by the user can be facilitated.
  • a mobile object to which display control performed by the control unit 150 is to be applied is It is not limited to such an example.
  • display control by the control unit 150 may be applied to a video transmission HMD.
  • the control unit 150 controls, in display control, superimposed display on a real space on an image of a virtual object by the video transmission HMD.
  • the control unit 150 controls the HMD so that the virtual object associated with the setting position in the real space is superimposed on the real space on the image based on the position and orientation information of the video transmissive HMD as a moving object.
  • display control by the control unit 150 may be applied to an information processing terminal such as a smart phone or a tablet terminal that captures an actual space and displays a virtual object superimposed on the actual space on an image obtained by imaging.
  • the control unit 150 controls, in display control, superimposed display of the virtual object on the image of the virtual object by the information processing terminal.
  • the control unit 150 controls the information processing terminal to superimpose the virtual object associated with the setting position in the real space on the real space on the image based on the position and orientation information of the information processing terminal as the moving object. Do.
  • display control by the control unit 150 may be applied to a display device of a system that realizes superimposed display of a virtual object in the real space by using a mobile object such as a vehicle, an aircraft, or a drone.
  • a display device a HUD (Head-Up Display), which is a display device that superimposes and displays a virtual object on a real space within the field of vision of a passenger of a vehicle or aircraft, or an image of real space
  • a display device which superimposes and displays a virtual object on the real space on the image obtained by the drone.
  • the control unit 150 controls, in display control, superimposed display of the virtual object on the real space by the display device of the system.
  • the control unit 150 superimposes the display device of the above system so that the virtual object associated with the setting position in the real space is superimposed on the real space based on the position and orientation information of the vehicle as a mobile, aircraft, or drone. Control.
  • FIG. 5 is a flowchart showing an example of the overall flow of processing performed by the information processing apparatus 100 according to the present embodiment.
  • the process flow shown in FIG. 5 is, for example, always repeated.
  • the process flow shown in FIG. 5 is started in a state where display control has not been started.
  • step S501 the information processing apparatus 100 determines whether to start display control. If it is determined that display control is to be started (step S501 / YES), the process proceeds to step S503. On the other hand, when it is determined that display control is not started (step S501 / NO), the processing flow shown in FIG. 5 ends.
  • the information processing apparatus 100 determines to start the display control when the above-described application for route guidance is activated in response to the operation by the user.
  • the trigger determined to start display control is not limited to such an example.
  • the information processing apparatus 100 may determine to start the display control when another application different from the route guidance application is activated.
  • the information processing apparatus 100 may determine that the display control is to be started when the power of the display device 1 is turned on.
  • the processing related to the superimposed display of the virtual object 70 at the time of execution of the above-described application for route guidance will be mainly described, but the operation of the information processing apparatus 100 is not limited to such an example. 100 may operate similarly for superimposed display of virtual objects in other situations (e.g., when executing other applications).
  • step S503 the communication unit 110 acquires the position and orientation information of the display device 1.
  • the communication unit 110 receives the detection result of the position and orientation of the display device 1 by the position and orientation sensor 30 as an initial value of the position and orientation information, and stores the result in the storage unit 120.
  • step S505 the control unit 150 executes normal display control.
  • control unit 150 controls the display device 1 to display the virtual object 70 based on the relationship between the position and orientation information of the display device 1 and the set position of the virtual object 70.
  • the control unit 150 sets the relative position of the superimposed position of the virtual object 70 based on the actual position and posture of the display device 1 to the position and posture of the display device 1 indicated by the position and posture information. Display control is performed so as to coincide with the relative position of the set position of the virtual object 70 as a reference. Thus, the superimposed position of the virtual object 70 can be made to coincide with the set position.
  • the superimposed position of the virtual object 70 is in the display area 50, the virtual object 70 is displayed in the display area 50 of the display device 1.
  • the superimposed position of the virtual object 70 is outside the display area 50, the virtual object 70 is not displayed in the display area 50 of the display device 1.
  • the superimposed position is a position where the virtual object 70 is superimposed in the real space (in other words, a position where the virtual object 70 is disposed in the real space).
  • the set position is a position in the real space associated with the virtual object 70, and is set in advance. For example, in an application for route guidance, the destination indicated by the virtual object 70 is set as the setting position of the virtual object 70.
  • the information indicating the set position is stored in, for example, the storage unit 120.
  • the position and orientation information is an error due to a detection error of the position and orientation sensor 30 (in other words, the position and orientation of the display device 1 indicated by the position and orientation information, the actual display device 1 Deviations between the position and attitude of the As described above, when an error occurs in the position and orientation information, a displacement corresponding to the error in the position and orientation information occurs between the superimposed position of the virtual object 70 and the setting position. Therefore, in order to suppress the deviation between the superimposed position of the virtual object 70 and the set position, correction of position and orientation information is performed as described later.
  • step S507 the information processing apparatus 100 determines whether the position and orientation information of the display device 1 can be corrected. If it is determined that the position and orientation information can be corrected (step S507 / YES), the process proceeds to step S509. On the other hand, when it is determined that the position and orientation information can not be corrected (step S507 / NO), the process proceeds to step S511.
  • the correction process of the position and orientation information of the display device 1 uses, for example, a captured image of the camera 20 in which the marker in the real space corresponding to the marker and the marker shown in the marker image stored in the storage unit 120 appear. To be done. Therefore, the information processing apparatus 100 determines that the position and orientation information can be corrected, for example, when the captured image of the camera 20 in which the marker is captured is acquired.
  • step S 509 the correction unit 140 corrects the position and orientation information of the display device 1. At this time, specifically, the position and orientation information of the display device 1 is corrected from the first position and orientation information to discontinuous second position and orientation information with respect to the first position and orientation information.
  • the correction unit 140 corrects the position and orientation information by comparing the captured image of the camera 20 on which the marker appears with the marker image.
  • the marker image is an image obtained when imaging is performed by the camera 20 in a state in which the position and orientation of the display device 1 take a specific position and orientation, and is stored in, for example, the storage unit 120 in advance.
  • the marker image is an image linked to a specific position and posture.
  • the storage unit 120 marker images for a plurality of positions and orientations are stored in advance.
  • a real object called a marker may or may not be shown.
  • the relationship between the marker image and the specific position and orientation one generated dynamically by the information processing device 100 may be used, and one generated in advance by another device is used. Or both of them may be used.
  • the correction unit 140 compares the position, posture, and size of the marker in the captured image of the camera 20 with the position, posture, and size of the marker in the marker image to obtain the actual position of the display device 1 and Identify the attitude. Then, the correction unit 140 corrects the position and orientation information stored in the storage unit 120 into information indicating the actual position and orientation of the display device 1 specified in this manner. Thereby, the error of the position and orientation information which may occur due to the detection error of the position and orientation sensor 30 is canceled.
  • the correction unit 140 may correct the position and orientation information, for example, when the error of the position and orientation information detected by the position and orientation sensor 30 is equal to or greater than a threshold.
  • the threshold is set, for example, so as to appropriately suppress the deviation between the superimposed position of the virtual object 70 and the setting position.
  • step S600 the control unit 150 executes a process related to transition display control.
  • the control unit 150 performs position and orientation information after correction from the first display state in which the virtual object 70 is displayed based on the first position and orientation information that is position and orientation information before correction.
  • the display device 1 is controlled to perform transition display indicating a state transition to the second display state based on the position and orientation information.
  • the transition display control based on the first position / posture information which is the position / posture information before the correction, the second position / posture information which is the position / posture information after the correction from the state where the normal display control is executed.
  • the display device 1 is controlled to perform display indicating transition to a state in which normal display control is performed. The specific process flow in the process relating to transition display control will be described in detail later.
  • step S511 the information processing apparatus 100 determines whether to end display control. If it is determined that the display control is to be ended (step S511 / YES), the processing flow shown in FIG. 5 is ended. On the other hand, when it is determined that the display control is not ended (step S511 / NO), the process proceeds to step S513.
  • the information processing apparatus 100 determines that the display control is ended when the above-described application for route guidance is ended according to the operation by the user.
  • finish display control is not limited to such an example.
  • the information processing apparatus 100 may determine to end the display control when another application different from the application for route guidance is ended. Further, for example, the information processing apparatus 100 may determine that the display control is to be ended when the power of the display device 1 is turned off.
  • step S513 the updating unit 130 updates the position and orientation information of the display device 1.
  • the updating unit 130 updates the position and orientation information stored in the storage unit 120 based on the detection results of the acceleration and the angular velocity of the display device 1 by the position and orientation sensor 30.
  • the update unit 130 may update the position and orientation information of the display device 1 based on the change in the position of the feature point shown in the captured image of the camera 20. For example, updating of position and orientation information based on a captured image of the camera 20 can be realized by using a technique called SLAM (Simultaneous Localization And Mapping). Further, the updating unit 130 may update the position and orientation information of the display device 1 based on the detection result of the position and orientation of the display device 1 by the position and orientation sensor 30. Also in these cases, an error may occur in the position and orientation information.
  • SLAM Simultaneous Localization And Mapping
  • step S505 the process returns to step S505, and normal display control based on the updated position and orientation information is performed.
  • FIG. 6 is a flowchart showing an example of the flow of processing relating to transition display control performed by the control unit 150 of the information processing apparatus 100 according to the present embodiment.
  • Different transition display control is executed according to the determination result of whether or not to be displayed.
  • step S601 the control unit 150 immediately after the end of the transition display of the virtual object 70 (in other words, when performing normal display control immediately after correction of position and orientation information In the display area 50). If it is determined that the virtual object 70 is displayed in the display area 50 immediately after the end of the transition display (step S601 / YES), the process proceeds to step S603. On the other hand, if it is determined that the virtual object 70 is not displayed in the display area 50 immediately after the end of the transition display (step S601 / NO), the process proceeds to step S605.
  • the control unit 150 Whether or not to be displayed in the display area 50 can be determined.
  • step S603 the control unit 150 determines whether or not the virtual object 70 is displayed in the display area 50 immediately before the start of transition display (in other words, at the time of execution of normal display control immediately before correction of position and orientation information). Do. If it is determined that the virtual object 70 is displayed in the display area 50 immediately before the start of transition display (step S603 / YES), the process proceeds to step S610. On the other hand, when it is determined that the virtual object 70 is not displayed in the display area 50 immediately before the start of the transition display (step S603 / NO), the process proceeds to step S620.
  • control unit 150 immediately before the start of transition display of the virtual object 70. Whether or not to be displayed in the display area 50 can be determined.
  • step S610 the control unit 150 executes the first transition display control.
  • the specific process flow in the first transition display control will be described in detail later.
  • control unit 150 executes the second transition display control.
  • the specific process flow in the second transition display control will be described in detail later.
  • step S605 the control unit 150 determines whether or not the virtual object 70 is displayed in the display area 50 immediately before the start of transition display. If it is determined that the virtual object 70 is displayed in the display area 50 immediately before the start of transition display (step S605 / YES), the process proceeds to step S630. On the other hand, when it is determined that the virtual object 70 is not displayed in the display area 50 immediately before the start of the transition display (step S605 / NO), the process illustrated in FIG. 6 ends.
  • control unit 150 executes the third transition display control.
  • the specific processing flow in the third transition display control will be described in detail later.
  • step S601 each of the first transition display control, the second transition display control, and the third transition display control that is executed according to the determination result in each determination process of step S601, step S603 and step S605 will be described in detail.
  • FIG. 7 is a flowchart showing an example of a flow of a first example of first transition display control performed by the control unit 150 of the information processing apparatus 100 according to the present embodiment.
  • step S611 the control unit 150 adjusts the superimposed position of the virtual object 70 to the superimposed position in the normal display control before the correction of the position and orientation information.
  • FIG. 8 is a schematic diagram showing an example of the positional relationship between the setting position P72 of the virtual object 70 and the display device 1 indicated by the position and orientation information before and after correction.
  • FIG. 8 shows an example in which the position of the display device 1 indicated by the position and orientation information immediately before correction is the position P101 and the position of the display device 1 indicated by the position and orientation information immediately after the correction is the position P102.
  • the position of the display device 1 indicated by the position and orientation information is moved to a position P102 separated by a distance T from the position P101 before and after the correction. Further, the posture of the display device 1 indicated by the position and posture information is rotated by the angle R before and after the correction.
  • the control unit 150 sets the position P101 of the display device 1 indicated by the position / posture information immediately before correction and the relative position of the setting position P72 based on the posture. Perform display control based on.
  • the actual position and orientation of the display device 1 correspond to the position P102 and orientation of the display device 1 indicated by the position and orientation information immediately after correction. Therefore, the superimposed position of the virtual object 70 in the normal display control before correction is the position P71 different from the setting position P72.
  • position P71 which is a superimposed position in normal display control before correction, is a display device 1 indicated by position and orientation information after moving setting position P72 from position P101 toward position P102 by distance T.
  • the position P 102 is rotated by an angle R in the same direction as the rotational direction before and after the correction of the posture.
  • the control unit 150 first calculates a position P71 that is a superimposed position of the virtual object 70 in the normal display control before the correction. Then, the control unit 150 adjusts the superimposed position of the virtual object 70 to the calculated position P71. Specifically, such adjustment of the superposition position is indicated by the relative position of the superposition position of the virtual object 70 based on the actual position and attitude of the display device 1 by position and orientation information immediately after correction. This is realized by performing display control so as to coincide with the relative position of the position P102 of and the position P71 based on the posture.
  • control unit 150 determines the superimposed position in the normal display control before correction based on the setting position of the virtual object 70 and the change before and after the correction of the position and orientation of the display device 1 indicated by the position and orientation information. It can be identified.
  • the control unit 150 can also specify the superimposed position in the normal display control before the correction, similarly in the other example of the transition display control described below.
  • step S612 the control unit 150 gradually (for example, stepwise) changes the superimposed position of the virtual object 70 to the superimposed position in the normal display control after the correction of the position and orientation information.
  • the control unit 150 sets the relative position of the set position P72 based on the position and orientation of the display device 1 indicated by the position and orientation information after correction. Perform display control based on it. Therefore, the superimposed position of the virtual object 70 in the normal display control after correction coincides with the set position P72.
  • control unit 150 steps from position P71, which is the superimposed position in normal display control before correction, to superimposed position in virtual object 70, to setting position P72, which is the superimposed position in normal display control after correction.
  • Change Specifically, such a gradual change of the superimposed position is indicated by the position and orientation information after correction of the relative position of the superimposed position of the virtual object 70 based on the actual position and orientation of the display device 1 This is realized by performing display control so that the relative position between each of the positions P71 and the set position P72 relative to the position and attitude of the display device 1 can be made stepwise.
  • control unit 150 can specify the setting position of the virtual object 70 as the superimposed position in the normal display control after the correction.
  • the control unit 150 can also specify the setting position of the virtual object 70 as the superimposed position in the normal display control after correction, similarly in the other example of the transition display control described below.
  • the control unit 150 can control the change speed of the superimposed position of the virtual object 70 based on various parameters.
  • the control unit 150 can control the changing speed of the superimposed position of the virtual object 70 in the same manner in the other example of the transition display control described below.
  • control unit 150 may control the change speed of the superimposed position of the virtual object 70 based on the movement of the display device 1. Specifically, the control unit 150 may increase the change speed of the superimposed position of the virtual object 70 as the change speed of the position or orientation of the display device 1 is larger. That is, when the change speed of the position or posture of the display device 1 is the first change speed, the change speed of the position or posture of the display device 1 is the second change speed smaller than the first change speed. Also, the display device 1 may be considered to be controlled such that the change speed of the superimposed position of the virtual object 70 is increased.
  • the change speed of the position or posture of the display device 1 mentioned here includes the change of the moving speed of the user (display device 1) or the rotation speed.
  • control unit 150 may control the change speed of the superimposed position of the virtual object 70 based on whether the virtual object 70 is a dynamic object (moving image). Specifically, when the virtual object 70 is a dynamic object, the control unit 150 changes the overlapping speed of the superimposed position of the virtual object 70 as compared to the case where the virtual object 70 is a non-dynamic object (still image). May be increased.
  • the dynamic object may be any object that includes a so-called animation image and performs an operation based on a predetermined condition.
  • the control unit 150 may preferentially change the superimposed position in the direction along a straight line connecting the position of the display device 1 and the superimposed position of the virtual object 70.
  • FIG. 9 is a schematic diagram for explaining the process of adjusting the superimposed position in the direction along the straight line connecting the position of the display device 1 and the superimposed position of the virtual object 70.
  • the control unit 150 performs the position P103 and the position P73.
  • the superposition position may be preferentially changed to a position P74 along a straight line L1 connecting the two.
  • the position P74 corresponds to, for example, an intersection point of a straight line L1 connecting the position P103 and the position P73 and a straight line L2 orthogonal to the straight line L1 and passing through the set position P72.
  • the position P74 corresponds to the point closest to the set position P72 on the straight line L1.
  • the control unit 150 may preferentially change the overlapping position along the straight line L1 only when the angle ⁇ between the straight line L1 and the straight line L2 is smaller than a predetermined angle (for example, 30 °). .
  • the control unit 150 may maintain the change speed of the superimposed position of the virtual object 70 constant. In that case, the superimposed position of the virtual object 70 changes in accordance with the passage of time.
  • FIG. 10 is an explanatory view showing an example of transition of display according to a first example of the first transition display control.
  • a position P11 which is a superimposed position in the normal display control before correction
  • a set position P12 which is a superimposed position in the normal display control after correction are shown.
  • the first transition display control is executed when it is determined that the virtual object 70 is displayed in the display area 50 both immediately before the start of the transition display and immediately after the end of the transition display. Therefore, the position P11, which is the superimposed position in the normal display control before correction, and the set position P12, which is the superimposed position in the normal display control after correction, can both be located in the display area 50.
  • the superimposed position of the virtual object 70 is adjusted to the position P11.
  • the virtual object 70 is displayed at the position P11 in the display area 50, just before the start of the transition display control. Thereafter, the superimposed position of the virtual object 70 gradually changes from the position P11 to the set position P12 in the display area 50.
  • the superimposed position of the virtual object 70 at time T12 after time T11 is closer to the set position P12 than at time T11. Further, the superimposed position of the virtual object 70 at time T13 after time T12 is closer to the set position P12 as compared with time T12. Then, at time T14, transition display control is switched to normal display control in a state where the virtual object 70 is displayed at the set position P12.
  • the position P11 in the display area 50 before the correction of the position and orientation information is performed.
  • the displayed virtual object 70 moves stepwise from the position P11 to the setting position P12 in the display area 50.
  • FIG. 11 is an explanatory view showing a transition example of display by display control performed by the information processing apparatus according to the reference example.
  • the information processing apparatus according to the reference example unlike the information processing apparatus 100 according to the present embodiment, does not execute transition display control when correction of position and orientation information is performed, and continuously executes normal display control.
  • FIG. 11 specifically, an example of transition of display according to a reference example when the virtual object 70 is displayed in the display area 50 in both the normal display control immediately before correction of position and orientation information and the normal display control immediately after correction. It is shown.
  • the virtual object 70 displayed at the position P11 in the display area 50 at time T21 before correction of the position and orientation information is of the position and orientation information.
  • the position is sharply moved to the set position P12 in the display area 50.
  • the virtual object 70 displayed in the display area 50 moves sharply.
  • the user may feel discomfort before and after correction of the position and orientation information.
  • the first example of the first transition display control is displayed in the display area 50 when the correction of the position and orientation information is performed. Abrupt movement of the virtual object 70 is suppressed. As a result, it is possible to suppress the user from feeling discomfort before and after correction of the position and orientation information.
  • FIG. 12 is a flowchart illustrating an example of a flow of a second example of the first transition display control performed by the control unit 150 of the information processing apparatus 100 according to the present embodiment.
  • step S615 the control unit 150 adjusts the superimposed position of the virtual object 70 to the superimposed position in the normal display control before the correction of the position and orientation information.
  • step S616 the control unit 150 gradually (eg, gradually) raises the transparency of the virtual object 70 to 100%.
  • the state where the transparency is 100% corresponds to the state where the transparency is the highest.
  • the virtual object 70 is not displayed even if the superimposed position of the virtual object 70 is in the display area 50.
  • step S617 the control unit 150 adjusts the superimposed position of the virtual object 70 to the superimposed position in the normal display control after the correction of the position and orientation information.
  • step S618 the control unit 150 gradually (eg, gradually) reduces the transparency of the virtual object 70.
  • FIG. 13 is an explanatory view showing an example of transition of display according to a second example of the first transition display control.
  • a position P11 which is a superimposed position in normal display control before correction
  • a set position P12 which is a superimposed position in normal display control after correction are shown.
  • the superimposed position of the virtual object 70 is adjusted to the position P11.
  • the virtual object 70 is superimposed and displayed on the position P11 in the display area 50, just before the start of the transition display.
  • the transparency of the virtual object 70 gradually increases to 100%.
  • the transparency of the virtual object 70 at time T32 after time T31 is higher than that at time T31.
  • the transparency of the virtual object 70 is further increased to 100% at time T33, and the virtual object 70 is in the non-displayed state.
  • the superimposed position of the virtual object 70 is adjusted to the set position P12. Thereafter, the transparency of the virtual object 70 gradually decreases. Specifically, the transparency of the virtual object 70 at time T34 after time T33 is lower than that at time T33. Then, the transparency of the virtual object 70 is further reduced, and the transition display control is switched to the normal display control in a state where the virtual object 70 is displayed at the set position P12 at time T35.
  • the position P11 in the display area 50 before the correction of the position and orientation information is performed.
  • the virtual object 70 fades in at the set position P12 in the display area 50.
  • the second example of the first transition display control is performed when the correction of the position and orientation information is performed. It is possible to prevent the user from feeling uncomfortable due to the abrupt movement of the superimposed position of the virtual object 70 in.
  • control unit 150 may control the display device 1 so as to gradually change the visibility of the virtual object 70 in the transition display.
  • the control unit 150 may change the virtual object 70 by another method. The visibility may be changed gradually.
  • the control unit 150 can gradually change the visibility of the virtual object 70 by a method other than gradually changing the transparency.
  • control unit 150 may gradually change the visibility of the virtual object 70 by gradually changing the color of the virtual object.
  • control unit 150 may blink the virtual object and gradually change the blinking interval to gradually change the visibility of the virtual object 70.
  • the control unit 150 may control the change speed of the visibility of the virtual object 70 based on various parameters.
  • the control unit 150 can also control the change speed of the visibility of the virtual object 70 in the other example of the transition display control described below.
  • control unit 150 may control the change speed of the visibility of the virtual object 70 based on the movement of the display device 1. Specifically, the control unit 150 may increase the change speed of the visibility of the virtual object 70 as the change speed of the position or orientation of the display device 1 is larger. That is, when the change speed of the position or posture of the display device 1 is the first change speed, the change speed of the position or posture of the display device 1 is the second change speed smaller than the first change speed. Also, the display device 1 may be considered to be controlled such that the change rate of the visibility of the virtual object 70 is increased.
  • the change speed of the position or posture of the display device 1 mentioned here includes the change of the moving speed of the user (display device 1) or the rotation speed.
  • FIG. 14 is a flowchart illustrating an example of a flow of a first example of second transition display control performed by the control unit 150 of the information processing apparatus 100 according to the present embodiment.
  • step S621 the control unit 150 adjusts the superimposed position of the virtual object 70 to the superimposed position in the normal display control before the correction of the position and orientation information.
  • step S622 the control unit 150 gradually (for example, stepwise) changes the superimposed position of the virtual object 70 to the superimposed position in the normal display control after the correction of the position and orientation information.
  • FIG. 15 is an explanatory view showing an example of transition of display according to the first example of the second transition display control.
  • FIG. 15 shows a position P21 which is a superimposed position in the normal display control before correction and a set position P22 which is a superimposed position in the normal display control after correction.
  • the position P21 which is a superimposed position in the normal display control before correction may be located outside the display area 50
  • the set position P22 which is a superimposed position in the normal display control after correction may be located in the display area 50.
  • the superimposed position of the virtual object 70 is adjusted to the position P21.
  • the virtual object 70 is not displayed in the display area 50, just before the start of the transition display.
  • the superimposed position of the virtual object 70 gradually changes from the position P21 outside the display area 50 to the set position P22 in the display area 50.
  • the superimposed position of the virtual object 70 at time T42 after time T41 is closer to the set position P22 than at time T41.
  • the virtual object 70 is not displayed in the display area 50.
  • the superimposed position of the virtual object 70 at time T43 after time T42 is closer to the set position P22 as compared with time T42.
  • the virtual object 70 is displayed in the display area 50.
  • transition display control is switched to normal display control in a state where the virtual object 70 is displayed at the set position P22.
  • the position is displayed in the display area 50 before the correction of the position and orientation information.
  • the virtual object 70 which has not been displayed is displayed at the end of the display area 50, the virtual object 70 is moved stepwise from the end to the setting position P22 in the display area 50.
  • FIG. 16 is an explanatory view showing an example of transition of display by display control performed by the information processing apparatus according to the reference example.
  • the information processing apparatus according to the reference example performs the normal display control continuously without performing the transition display control when the correction of the position and orientation information is performed.
  • virtual object 70 is not displayed in display area 50 in normal display control immediately before correction of position and orientation information
  • virtual object 70 is in display area 50 in normal display control immediately after correction.
  • the example of transition of the display by the reference example in the case of being displayed on is shown.
  • the virtual object 70 which has not been displayed in the display area 50 at time T51 before correction of position and orientation information is corrected in position and orientation information. It is suddenly displayed at the set position P22 in the display area 50 at time T52 to be performed.
  • the virtual object 70 is suddenly displayed in the display area 50 as the position and orientation information is corrected.
  • the user may feel discomfort before and after correction of the position and orientation information.
  • the virtual object 70 is suddenly displayed on the user's gaze, it may be difficult for the user to look ahead.
  • the virtual object 70 is displayed in the display area 50 by performing the first example of the second transition display control when the correction of the position and orientation information is performed. Is suppressed from being displayed suddenly. As a result, it is possible to prevent the user from feeling uncomfortable and to make it difficult for the user to look forward before and after correction of the position and orientation information.
  • FIG. 17 is a flowchart illustrating an example of a flow of a second example of the second transition display control performed by the control unit 150 of the information processing apparatus 100 according to the present embodiment.
  • step S625 the control unit 150 adjusts the superimposed position of the virtual object 70 to the superimposed position in the normal display control after correction of the position and orientation information. Set the transparency of 70 to 100%.
  • step S626 the control unit 150 gradually (eg, gradually) reduces the transparency of the virtual object 70.
  • FIG. 18 is an explanatory view showing a transition example of display according to a second example of the second transition display control.
  • a position P21 which is a superimposed position in the normal display control before correction
  • a set position P22 which is a superimposed position in the normal display control after correction are shown.
  • the superimposed position of the virtual object 70 is adjusted to the setting position P22, and the transparency of the virtual object 70 is set to 100%. Therefore, although the superimposed position of the virtual object 70 is in the display area 50, the virtual object 70 is in the non-displayed state. Thereafter, the transparency of the virtual object 70 gradually decreases. Specifically, the transparency of the virtual object 70 at time T62 after time T61 is lower than that at time T61. Then, the transparency of the virtual object 70 is further reduced, and the transition display control is switched to the normal display control in a state where the virtual object 70 is displayed at the set position P22 at time T63.
  • the virtual object 70 is not displayed before the correction of the position and orientation information.
  • the virtual object 70 is faded in at the set position P22 in the display area 50.
  • the second example of the second transition display control is executed when the correction of the position and orientation information is performed. It is possible to prevent the user from feeling uncomfortable due to the virtual object 70 being displayed suddenly and to make the user less likely to look forward.
  • FIG. 19 is a flowchart illustrating an example of the flow of third transition display control performed by the control unit 150 of the information processing apparatus 100 according to the present embodiment.
  • step S631 the control unit 150 adjusts the superimposed position of the virtual object 70 to the superimposed position in the normal display control after the correction of the position and orientation information.
  • the control unit 150 causes the notification object to be displayed at a position corresponding to the superimposed position in the normal display control before correction of the position and orientation information.
  • the notification object is a state from a first display state based on the first position and posture information which is the position and posture information before correction to a second display state based on the second position and posture information which is the position and posture information after correction. It is a notification object that notifies execution of a transition display indicating a transition.
  • the control unit 150 instantaneously changes the display state of the virtual object 70 from the first display state based on the first position and posture information to the second display state based on the second position and posture information.
  • the display device 1 may be controlled to display the notification object.
  • the display state of the virtual object 70 in the transition display includes a state in which the virtual object 70 is not displayed in the display area 50, as described later with reference to FIG.
  • control unit 150 may display a text object as a notification object.
  • the notification object is not limited to such an example.
  • the notification object may be another object such as a mark.
  • the notification object may be an animation.
  • step S633 the control unit 150 determines whether the set time has elapsed. If it is determined that the set time has elapsed (step S633 / YES), the process proceeds to step S634. On the other hand, when it is determined that the set time has not elapsed (step S633 / NO), the process of step S633 is repeated.
  • the setting time is set to, for example, a time having a length that is assumed to be relatively likely to be visible to the notification object by the user.
  • step S634 the control unit 150 stops the display of the notification object.
  • FIG. 20 is an explanatory view of a transition example of display by the third transition display control.
  • a position P31 which is a superimposed position in normal display control before correction
  • a set position P32 which is a superimposed position in normal display control after correction are shown.
  • the position P31 which is a superimposed position in the normal display control before correction may be located in the display area 50
  • the set position P32 which is a superimposed position in the normal display control after correction may be located outside the display area 50.
  • the superimposed position of the virtual object 70 is adjusted to the set position P32.
  • the virtual object 70 is not displayed in the display area 50.
  • the notification object is displayed at a position corresponding to the position P31 (for example, the position P31 itself or a position near the position P31).
  • a text object 81 indicating that the superimposed position of the virtual object 70 has moved and an arrow 82 are displayed as a notification object.
  • the text object 81 and the arrow 82 become non-displayed, and transition display control is switched to normal display control.
  • the virtual object 70 displayed in the display area 50 before the position and orientation information is corrected.
  • the notification object is displayed for the set time while it is hidden.
  • FIG. 21 is an explanatory view showing a transition example of display by display control performed by the information processing apparatus according to the reference example.
  • the information processing apparatus according to the reference example performs the normal display control continuously without performing the transition display control when the correction of the position and orientation information is performed.
  • virtual object 70 is displayed in display area 50 in normal display control immediately before correction of position and orientation information
  • virtual object 70 is displayed in display area 50 in normal display control immediately after correction.
  • the example of transition of the display by the reference example when not displayed is shown.
  • the virtual object 70 displayed at the position P31 in the display area 50 at time T81 before correction of the position and orientation information is of the position and orientation information.
  • the display suddenly becomes non-displayed.
  • the virtual object 70 displayed in the display area 50 suddenly becomes in the non-display state. As a result, the user may lose sight of the virtual object 70.
  • the information processing apparatus 100 when the correction of the position and orientation information is performed, the superimposed position of the virtual object 70 is changed by the notification object by performing the third transition display control. Can be notified. As a result, it is possible to prevent the user from losing sight of the virtual object 70 due to the virtual object 70 suddenly disappearing.
  • the control unit 150 may end the display of the notification object when it is determined that the movement of the display device 1 has stopped for a predetermined time.
  • the control unit 150 can determine, for example, based on the position and orientation information, whether the movement of the display device 1 has stopped for a predetermined time. Thereby, it is possible to suppress the end of the display of the notification object before the user visually recognizes the notification object.
  • the control unit 150 may execute transition display control in such a case. For example, in such a case, the control unit 150 may gradually change the superimposed position of the virtual object 70 from the superimposed position in normal display control before correction of position and orientation information to the superimposed position in normal display control after correction. .
  • FIG. 22 is an explanatory view showing an example of transition of display by transition display control when it is determined that the virtual object 70 is not displayed in the display area 50 both immediately before the start of transition display and immediately after the end of transition display.
  • a position P41 which is a superimposed position in normal display control before correction and a set position P42 which is a superimposed position in normal display control after correction are shown.
  • a position P41 which is a superimposed position in the normal display control before correction and a set position P42 which is a superimposed position in the normal display control after correction may be located outside the display area 50.
  • the superimposed position of the virtual object 70 is adjusted to the position P41.
  • the virtual object 70 is not displayed in the display area 50, just before the start of the transition display.
  • the superimposed position of the virtual object 70 changes stepwise from the position P41 to the set position P42 outside the display area 50.
  • the superimposed position of the virtual object 70 at time T92 after time T91 is closer to the set position P42 than at time T91. Further, the superimposed position of the virtual object 70 at time T93 after time T92 is closer to the set position P42 as compared with time T92. Then, at time T94, transition display control is switched to normal display control with the virtual object 70 displayed at the set position P42.
  • the superimposed position of the virtual object 70 not displayed in the display area 50 gradually changes outside the display area 50.
  • the position and orientation information may be corrected at timing when the superimposed position of the virtual object 70 is out of the display area 50 due to the user temporarily removing the view from the virtual object 70.
  • by gradually changing the superimposed position of the virtual object 70 outside the display area 50 it is possible to prevent the user who returned the line of sight immediately after the correction of the position and orientation information from losing sight of the virtual object 70. .
  • control unit 150 determines whether the user views the virtual object 70 or not.
  • the display device 1 may be controlled to execute transition display based on the above.
  • control unit 150 stops the transition display when it is determined that the user does not visually recognize the virtual object 70, and then the transition display is performed when it is determined that the user visually recognizes the virtual object 70. Control the display device 1 to resume. Specifically, the control unit 150 determines that the user is viewing the virtual object 70 when performing display control that gradually changes the superimposed position or the visibility of the virtual object 70 as transition display control. The overlapping position or visibility of the virtual object 70 may be gradually changed only occasionally.
  • control unit 150 compares the virtual display in the transition display with the case where it is determined that the user views the virtual object 70.
  • the overlapping position of the object 70 or the change speed of the visibility may be increased.
  • the control unit 150 may determine, for example, whether or not the user is viewing the virtual object 70 based on the detection result of the line of sight of the user. Specifically, detection of the user's gaze is realized by using a gaze sensor that detects the user's gaze.
  • the line-of-sight sensor is provided, for example, in a portion facing the user's face in the display device 1, and can detect the user's line of sight by imaging the user's face and performing image processing on an image obtained by imaging.
  • the gaze sensor may detect the gaze of the user based on the direction of the face of the user, or may detect the gaze of the user using the corneal reflection method.
  • control unit 150 may determine whether the user views the virtual object 70 based on whether the virtual object 70 is displayed in the display area 50, for example. Specifically, the control unit 150 can determine that the user is viewing the virtual object 70 based on the fact that the virtual object 70 is displayed in the display area 50.
  • the control unit 150 performs the virtual in the first transition display control or the second transition display control.
  • the overlapping position or visibility of the object 70 is gradually changed.
  • the notification object is displayed.
  • the display control performed in each transition display control is not limited to such an example.
  • display control for displaying a notification object may be performed in addition to display control for gradually changing the superimposed position or the visibility of the virtual object 70.
  • display control may be executed to gradually change the superimposed position or the visibility of the virtual object 70.
  • display control for gradually changing the superimposed position or the visibility of the virtual object 70 may be executed.
  • each transition display control display control for gradually changing the superimposed position of the virtual object 70 and display control for gradually changing the visibility of the virtual object 70 may be executed in parallel.
  • the control unit 150 superimposes the virtual object 70 so that the visibility of the virtual object 70 decreases after the start of the movement of the superposition position and increases before the end of the movement of the superposition position. The position and the visibility may be gradually changed.
  • the control unit 150 Transition display control may be executed only for some of the virtual objects.
  • the control unit 150 may execute transition display control only for virtual objects determined to be viewed by the user.
  • the control unit 150 may display the notification object only for the virtual object determined to be viewed by the user in the third transition display control.
  • the control unit 150 may determine, for example, which virtual object the user is visually recognizing based on the detection result of the user's line of sight.
  • the transition display control is executed only for the virtual object determined to be viewed by the user, whereby the transition display control can suppress excessive information being presented to the user.
  • the correction of the position and orientation information of the display device 1 as a moving object is a second position discontinuous from the first position and orientation information with respect to the first position and orientation information.
  • the state transition from the first display state in which the virtual object 70 is displayed based on the first position and posture information to the second display state based on the second position and posture information when corrected to the posture information is shown.
  • the display device 1 is controlled to perform transition display.
  • the display device 1 can be controlled to gradually change the superimposed position of the virtual object 70 in transition display. As a result, it is possible to suppress that the user feels uncomfortable and the user is less likely to look forward because the superimposed position of the virtual object 70 changes sharply before and after correction of the position and orientation information. Therefore, facilitating the use of AR technology by the user can be effectively realized.
  • the change of the position or posture of the display device 1 as the moving body is the first change speed in the transition display
  • the change of the position or posture of the display device 1 The display device 1 can be controlled such that the change speed of the superimposed position of the virtual object 70 is larger than when the speed is a second change speed smaller than the first change speed.
  • the change speed of the superimposed position of the virtual object 70 can be changed quickly while suppressing the user from giving discomfort. Can.
  • the change in the superimposed position of the virtual object 70 is more than when the virtual object 70 is a non-dynamic object.
  • the display device 1 can be controlled to increase the speed.
  • the virtual object 70 is a dynamic object, it is expected that the user is less likely to notice a change in the superimposed position of the virtual object 70 as compared to the case where the virtual object 70 is a non-dynamic object. . Therefore, by controlling the change speed of the superimposed position of the virtual object 70 based on whether or not the virtual object 70 is a dynamic object, the superimposed position can be rapidly changed while suppressing the user from feeling uncomfortable. It can be done.
  • the superimposed position is preferentially changed in the direction along a straight line connecting the position of the display device 1 as the moving object and the superimposed position of the virtual object 70.
  • the display device 1 can be controlled.
  • the superimposed position moves in a direction along a straight line connecting the position of the display device 1 and the superimposed position of the virtual object 70
  • the user is compared with the case where the superimposed position moves in the other direction. It is expected that it is difficult to notice changes in the superimposed position of the virtual object 70. Therefore, by changing the superposition position preferentially in the direction along the straight line connecting the position of the display device 1 and the superposition position of the virtual object 70, the superposition position can be quickly determined while suppressing the user from feeling uncomfortable. Can be changed to
  • the virtual object 70 when it is determined that the virtual object 70 is displayed in the display area 50 of the display device 1 immediately after the end of the transition display, the virtual object 70 is superimposed in the transition display.
  • the display device 1 can be controlled to gradually change the position. In such a case, if the transition display control is not executed, the virtual object 70 displayed in the display area 50 may move sharply, which may give the user a sense of discomfort. Alternatively, since the virtual object 70 may be suddenly displayed in the display area 50, it may be difficult for the user to look ahead. Therefore, by gradually changing the superimposed position of the virtual object 70 in such a case, it is possible to appropriately suppress that the user feels a sense of incongruity before and after the correction of the position and orientation information and the user is less likely to look forward. it can.
  • the display device 1 can be controlled to gradually change the visibility of the virtual object 70 in the transition display. As a result, it is possible to suppress that the user feels uncomfortable and the user is less likely to look forward because the superimposed position of the virtual object 70 changes sharply before and after correction of the position and orientation information. Therefore, facilitating the use of AR technology by the user can be effectively realized.
  • the change of the position or posture of the display device 1 as the moving body is the first change speed in the transition display
  • the change of the position or posture of the display device 1 The display device 1 can be controlled so that the change rate of the visibility of the virtual object 70 is larger than when the speed is a second change rate smaller than the first change rate.
  • the display device 1 may be controlled to gradually change the visibility of the virtual object 70 by gradually changing the transparency of the virtual object 70 in the transition display. Thereby, since the virtual object 70 can be faded in or out in the display area 50, the visibility of the virtual object 70 can be effectively changed.
  • the visibility of the virtual object 70 is gradually displayed in the transition display.
  • the display device 1 can be controlled to change. In such a case, if the transition display control is not executed, the virtual object 70 displayed in the display area 50 may move sharply, which may give the user a sense of discomfort. Alternatively, since the virtual object 70 may be suddenly displayed in the display area 50, it may be difficult for the user to look ahead. Therefore, in such a case, by gradually changing the visibility of the virtual object 70, it is possible to appropriately suppress that the user feels a sense of incongruity before and after the correction of the position and orientation information and the user is less likely to look forward. it can.
  • the display state of the virtual object 70 is changed from the first display state based on the first position and orientation information to the second position based on the second position and orientation information.
  • the display device 1 may be controlled to display a notification object that instantaneously changes to the display state and notifies execution of the transition display.
  • the display device 1 can be controlled to display a text object as a notification object in the transition display system. Thereby, the user can be appropriately notified that the superimposed position of the virtual object 70 has changed.
  • the display device 1 can be controlled to display a notification object.
  • the virtual object 70 displayed in the display area 50 may suddenly be in the non-display state.
  • the user may lose sight of the virtual object 70 before and after correction of the position and orientation information. Therefore, by displaying the notification object in such a case, it is possible to appropriately suppress the user from losing sight of the virtual object 70 before and after correction of the position and orientation information.
  • the display device 1 can be controlled to execute transition display based on the determination result as to whether or not the user views the virtual object 70.
  • transition display control it is possible to appropriately execute transition display control based on the user's notice of the change in superimposed position or visibility of the virtual object 70.
  • whether or not the user is viewing the virtual object 70 can be determined based on the detection result of the line of sight of the user. Thus, it can be appropriately determined whether the user views the virtual object 70 or not.
  • the transition display when it is determined that the user does not view the virtual object 70, the transition display is stopped, and thereafter it is determined that the user views the virtual object 70
  • the display device 1 can be controlled to resume transition display in the event of a failure.
  • the user can more appropriately recognize that the state transition has occurred due to the correction of the position and orientation information.
  • the position and orientation information may be corrected when the error of the position and orientation information detected by the position and orientation sensor 30 is equal to or more than a threshold. Thereby, the deviation between the superimposed position of the virtual object 70 and the set position can be appropriately suppressed.
  • the display device 1 is controlled so that the virtual object associated with the set position in the real space is superimposed on the real space based on the position and orientation information of the moving object.
  • the controller 150 is provided.
  • the control unit 150 determines the first position.
  • the display device 1 is controlled to perform transition display indicating a state transition from the first display state in which the virtual object 70 is displayed based on the posture information to the second display state based on the second position and posture information.
  • the information used in each process performed by the information processing apparatus 100 is stored in the storage unit 120 of the information processing apparatus 100, but such information is an apparatus outside the information processing apparatus 100. May be stored.
  • the information processing apparatus 100 can acquire such information by the communication unit 110 communicating with the external device.
  • the storage unit 120 may be omitted from the configuration of the information processing apparatus 100.
  • the position and orientation sensor 30 may be provided outside the display device 1. In other words, the position and orientation sensor 30 may not necessarily move integrally with the display device 1.
  • the position and orientation sensor 30 may be provided on a vehicle, a road, a building, or the like. Even in such a case, the information processing apparatus 100 can acquire information on the position and orientation of the display device 1 detected by the position and orientation sensor 30 by communicating with the position and orientation sensor 30.
  • the information processing device 100 may be provided outside the display device 1. In other words, the information processing device 100 may not necessarily move integrally with the display device 1. Even in such a case, the information processing apparatus 100 can control the operation of the display device 1 by communicating with the display device 1.
  • each device described in the present specification may be realized using any of software, hardware, and a combination of software and hardware.
  • the programs that configure the software are stored in advance in, for example, storage media (non-transitory media) provided inside or outside each device. Then, for example, each program is read into the RAM at the time of execution and executed by a processor such as a CPU.
  • the processor that executes each program may be singular or plural.
  • the information processing apparatus 100 can correspond to a computer.
  • a computer readable recording medium in which such a computer program is stored can be provided.
  • the recording medium is, for example, a magnetic disk, an optical disk, a magneto-optical disk, a flash memory or the like.
  • the above computer program may be distributed via, for example, a network without using a recording medium.
  • each function of the information processing apparatus 100 may be divided by a plurality of computers, and in that case, each function of the plurality of computers may be realized by the above computer program.
  • a control unit that controls the display device to superimpose the virtual object associated with the setting position in the real space on the real space based on position and orientation information indicating the position and the attitude of the moving object;
  • a correction unit that corrects the position and orientation information; Equipped with The control unit is configured to adjust the first position when the position and orientation information is corrected to second position and orientation information discontinuous with respect to the first position and orientation information from the first position and orientation information.
  • the display device is controlled to perform transition display indicating a state transition from a first display state in which the virtual object is displayed based on posture information to a second display state based on the second position and posture information.
  • Information processing device is controlled to perform transition display indicating a state transition from a first display state in which the virtual object is displayed based on posture information to a second display state based on the second position and posture information.
  • the control unit controls the display device to gradually change the superimposed position of the virtual object in the transition display.
  • the control unit controls the display device such that, in the transition display, when the virtual object is a dynamic object, the change speed of the superimposed position is higher than when the virtual object is a non-dynamic object. Do, The information processing apparatus according to (2) or (3).
  • the control unit controls the display device to preferentially change the superimposed position in a direction along a straight line connecting the position of the movable body and the superimposed position in the transition display.
  • the information processing apparatus according to any one of (2) to (4).
  • the control unit gradually changes the overlapping position in the transition display. Control the The information processing apparatus according to any one of (2) to (5).
  • the control unit controls the display device to gradually change the visibility of the virtual object in the transition display.
  • the information processing apparatus according to any one of the above (1) to (6).
  • the control unit in the transition display, when the change speed of the position or posture of the movable body is a first change speed, the change speed of the position or posture of the movable body is smaller than the first change speed Controlling the display device such that the change rate of the visibility is larger than in the case of the second change rate;
  • the information processing apparatus according to (7).
  • the control unit controls the display device to gradually change the visibility by gradually changing the transparency of the virtual object in the transition display.
  • the control unit controls the display device to gradually change the visibility in the transition display, when it is determined that the virtual object is displayed in the display area immediately after the end of the transition display.
  • the information processing apparatus according to any one of (7) to (9).
  • the control unit changes the display state of the virtual object from the first display state based on the first position and posture information to the second display state based on the second position and posture information. Controlling the display device to display a notification object that changes momentarily and notifies execution of the transition display, The information processing apparatus according to any one of the above (1) to (10). (12) The control unit controls the display device to display a text object as the notification object in the transition display. The information processing apparatus according to (11). (13) In the transition display, when it is determined that the virtual object is displayed in the display area immediately before the start of the transition display and not displayed in the display area immediately after the end of the transition display, the control unit Controlling the display device to display the notification object, The information processing apparatus according to (11) or (12).
  • the control unit controls the display device to execute the transition display based on a determination result as to whether or not the user is viewing the virtual object.
  • the information processing apparatus according to any one of the above (1) to (13).
  • the control unit determines whether the user is viewing the virtual object based on a detection result of the line of sight of the user.
  • the control unit stops the transition display when it is determined that the user does not view the virtual object, and thereafter, when it is determined that the user views the virtual object. Control the display device to resume the display, The information processing apparatus according to (14) or (15).
  • the display device is a head mounted display, The information processing apparatus according to any one of the above (1) to (16).
  • the position and orientation information is detected by a position and orientation sensor that detects the position and orientation of the moving body,
  • the correction unit corrects the position and orientation information when an error of the position and orientation information detected by the position and orientation sensor is equal to or greater than a threshold.
  • the information processing apparatus according to any one of the above (1) to (17). (19) Controlling the display device by the information processing apparatus to superimpose the virtual object associated with the setting position in the real space on the real space based on position and orientation information indicating the position and the attitude of the moving object; Correcting the position and orientation information; Including When the position and orientation information is corrected from the first position and orientation information to the non-continuous second position and orientation information with respect to the first position and orientation information, the first position and orientation information is used to correct the position and orientation information.
  • (20) Computer A control unit that controls the display device to superimpose the virtual object associated with the setting position in the real space on the real space based on position and orientation information indicating the position and the attitude of the moving object; A correction unit that corrects the position and orientation information; A program to function as The control unit is configured to adjust the first position when the position and orientation information is corrected to second position and orientation information discontinuous with respect to the first position and orientation information from the first position and orientation information.
  • the display device is controlled to perform transition display indicating a state transition from a first display state in which the virtual object is displayed based on posture information to a second display state based on the second position and posture information. program.
  • Reference Signs List 1 display device 20 camera 30 position and orientation sensor 50 display area 70 virtual object 100 information processing device 110 communication unit 120 storage unit 130 update unit 140 correction unit 150 control unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Optics & Photonics (AREA)
  • Automation & Control Theory (AREA)
  • Multimedia (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】ユーザによるAR技術の利用を円滑化する。 【解決手段】実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう表示装置を制御する制御部と、前記位置姿勢情報を補正する補正部と、を備え、前記制御部は、前記位置姿勢情報が、第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、情報処理装置を提供する。

Description

情報処理装置、情報処理方法及びプログラム
 本開示は、情報処理装置、情報処理方法及びプログラムに関する。
 近年、実空間に付加的な情報を重畳して呈示する拡張現実(AR:Augmented Reality)と称される技術が注目されている。AR技術は、例えば、ユーザの頭部に装着される表示装置であるHMD(Head Mount Display)によって実現される。具体的には、このような表示装置として、実空間におけるユーザの視界内における実空間に仮想オブジェクトを重畳して表示する光学透過型のHMDや、実空間を撮像し撮像により得られる画像上の実空間に仮想オブジェクトを重畳して表示するビデオ透過型のHMDが用いられる(例えば、特許文献1を参照。)。
特開2011-203823号公報
 ところで、従来のAR技術では、ユーザによるAR技術の円滑な利用が困難となる場合があった。例えば、HMDを用いたAR技術では、実空間における設定位置と対応付けられた仮想オブジェクトの実空間への重畳表示がHMDの位置及び姿勢を示す位置姿勢情報に応じて制御され得る。それにより、仮想オブジェクトをHMDの位置及び姿勢によらずに設定位置に重畳することが実現され得る。ここで、HMDの位置及び姿勢を検出するために用いられるセンサの検出誤差等に起因して位置姿勢情報の誤差が生じ得る。それにより、仮想オブジェクトの重畳位置と設定位置との間でのズレが生じ得るので、位置姿勢情報を補正する必要がある。位置姿勢情報の補正が行われた場合、位置姿勢情報の補正前後において仮想オブジェクトの重畳位置が急峻に変化し得る。それにより、ユーザへ違和感が与えられること等によりユーザによるAR技術の円滑な利用が困難となる場合があった。
 そこで、本開示では、ユーザによるAR技術の利用を円滑化することが可能な、新規かつ改良された情報処理装置、情報処理方法及びプログラムを提案する。
 本開示によれば、実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう表示装置を制御する制御部と、前記位置姿勢情報を補正する補正部と、を備え、前記制御部は、前記位置姿勢情報が、第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
 情報処理装置が提供される。
 また、本開示によれば、実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう情報処理装置によって表示装置を制御することと、前記位置姿勢情報を補正することと、を含み、前記位置姿勢情報が第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
 情報処理方法が提供される。
 また、本開示によれば、コンピュータを、実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう表示装置を制御する制御部と、前記位置姿勢情報を補正する補正部と、として機能させるためのプログラムであって、前記制御部は、前記位置姿勢情報が、第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、プログラムが提供される。
 以上説明したように本開示によれば、ユーザによるAR技術の利用を円滑化することが可能である。
 なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、又は上記の効果に代えて、本明細書に示されたいずれかの効果又は本明細書から把握され得る他の効果が奏されてもよい。
本開示の実施形態に係る表示装置の概略構成の一例を示す模式図である。 同実施形態に係る情報処理装置の機能構成の一例を示すブロック図である。 道案内用のアプリケーションの実行時における表示装置による表示例を示す説明図である。 道案内用のアプリケーションの実行時における表示装置による表示例を示す説明図である。 同実施形態に係る情報処理装置が行う処理の全体的な流れの一例を示すフローチャートである。 同実施形態に係る情報処理装置の制御部が行う遷移表示制御に関する処理の流れの一例を示すフローチャートである。 同実施形態に係る情報処理装置の制御部が行う第1遷移表示制御の第1の例の流れの一例を示すフローチャートである。 仮想オブジェクトの設定位置と補正前後における位置姿勢情報により示される表示装置との間の位置関係の一例を示す模式図である。 表示装置の位置と仮想オブジェクトの重畳位置とを結ぶ直線に沿った方向へ重畳位置を調整する処理について説明するための模式図である。 第1遷移表示制御の第1の例による表示の推移例を示す説明図である。 参考例に係る情報処理装置が行う表示制御による表示の推移例を示す説明図である。 同実施形態に係る情報処理装置の制御部が行う第1遷移表示制御の第2の例の流れの一例を示すフローチャートである。 第1遷移表示制御の第2の例による表示の推移例を示す説明図である。 同実施形態に係る情報処理装置の制御部が行う第2遷移表示制御の第1の例の流れの一例を示すフローチャートである。 第2遷移表示制御の第1の例による表示の推移例を示す説明図である。 参考例に係る情報処理装置が行う表示制御による表示の推移例を示す説明図である。 同実施形態に係る情報処理装置の制御部が行う第2遷移表示制御の第2の例の流れの一例を示すフローチャートである。 第2遷移表示制御の第2の例による表示の推移例を示す説明図である。 同実施形態に係る情報処理装置の制御部が行う第3遷移表示制御の流れの一例を示すフローチャートである。 第3遷移表示制御による表示の推移例を示す説明図である。 参考例に係る情報処理装置が行う表示制御による表示の推移例を示す説明図である。 仮想オブジェクトが遷移表示制御の開始直前及び遷移表示制御の終了直後の双方において表示領域内に表示されないと判定される場合における遷移表示制御による表示の推移例を示す説明図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 なお、説明は以下の順序で行うものとする。
 1.表示装置の構成
 2.情報処理装置の動作
  2-1.処理の全体的な流れ
  2-2.遷移表示制御
   2-2-1.第1遷移表示制御
   2-2-2.第2遷移表示制御
   2-2-3.第3遷移表示制御
   2-2-4.補足
 3.情報処理装置の効果
 4.まとめ
 <1.表示装置の構成>
 まず、図1~図4を参照して、本開示の実施形態に係る表示装置1の構成について説明する。
 図1は、本実施形態に係る表示装置1の概略構成の一例を示す模式図である。
 表示装置1は、ユーザの頭部に装着されて用いられる表示装置であるヘッドマウントディスプレイである。例えば、表示装置1は、実空間におけるユーザの視界内における実空間に仮想オブジェクトを重畳して表示する光学透過型のHMDである。例えば、表示装置1は、装着時にユーザの目と対向する透過性部材と、透過性部材に画像を投射する機構とを有する。透過性部材へ投射された画像は透過性部材により反射されてユーザの目へ入射され、ユーザへ虚像として視認される。それにより、仮想オブジェクトの実空間への重畳表示が実現され得る。なお、表示装置1は、本開示に係る移動体の一例に相当する。
 表示装置1は、例えば、図1に示したように、カメラ20と、位置姿勢センサ30と、情報処理装置100とを備える。
 カメラ20は、ユーザの視界内における実空間を撮像する。また、カメラ20は、撮像により得られる実空間が映る撮像画像を情報処理装置100へ出力する。
 位置姿勢センサ30は、表示装置1の位置及び姿勢に関する情報を検出するセンサである。位置姿勢センサ30は、複数のセンサを含んでもよく、例えば、地磁気センサ、加速度センサ、ジャイロセンサ及びGNSS(Global Navigation Satellite System)センサ等のモーションセンサを含む。位置姿勢センサ30は、具体的には、これらのセンサを用いることにより、表示装置1の位置及び姿勢に関する情報として、表示装置1の位置、姿勢、加速度及び角速度を検出し得る。位置姿勢センサ30による表示装置1の位置及び姿勢の検出は、例えば、地磁気センサ及びGNSSセンサを用いることによって実現され得る。また、位置姿勢センサ30による表示装置1の加速度及び角速度の検出は、例えば、加速度センサ及びジャイロセンサを用いることによって実現され得る。また、位置姿勢センサ30は、検出結果を情報処理装置100へ出力する。なお、カメラ20による撮像画像に基づいて装置の自己位置を推定するVisual SLAM(Simultaneous Localization and Mapping)技術が採用される場合、位置姿勢センサ30にカメラ20が含まれるものと推定されても良い。
 情報処理装置100は、演算処理装置であるCPU(Central Processing Unit)、CPUが使用するプログラムや演算パラメータ等を記憶する記憶素子であるROM(Read Only Memory)及びCPUの実行において適宜変化するパラメータ等を一時記憶する記憶素子であるRAM(Random Access Memory)等を含んで構成される。情報処理装置100は、例えば、表示装置1に内蔵される。
 図2は、本実施形態に係る情報処理装置100の機能構成の一例を示すブロック図である。
 情報処理装置100は、例えば、図2に示されるように、通信部110と、記憶部120と、更新部130と、補正部140と、制御部150とを備える。
 通信部110は、有線又は無線の情報ネットワークを介して情報処理装置100の外部の装置と通信する。
 具体的には、通信部110は、位置姿勢センサ30により検出された表示装置1の位置及び姿勢に関する情報を位置姿勢センサ30から受信し、記憶部120及び更新部130へ出力する。また、通信部110は、カメラ20の撮像画像をカメラ20から受信し、補正部140へ出力する。また、通信部110は、制御部150から出力された表示装置1の動作を制御するための動作指令を表示装置1へ送信する。
 記憶部120は、情報処理装置100が行う各処理において用いられる情報を記憶する。
 具体的には、記憶部120は、制御部150が行う表示制御において用いられる情報として、表示装置1の位置及び姿勢を示す情報である位置姿勢情報や実空間へ重畳表示される仮想オブジェクトに関する情報を記憶する。また、記憶部120は、補正部140が行う補正処理において用いられる情報として、補正処理においてカメラ20の撮像画像との比較対象となるマーカ画像を記憶する。
 更新部130は、表示装置1の位置姿勢情報を更新する。具体的には、更新部130は、記憶部120に記憶される位置姿勢情報が最新の状態に維持されるように、繰り返し位置姿勢情報を更新する。なお、表示装置1の位置姿勢情報は、実空間に関連付けられた、いわゆるグローバル座標系上において定義されるものと見做されても良い。この場合、仮想オブジェクトの実空間への重畳表示は、グローバル座標系における表示装置1の位置と、仮想オブジェクトの設定位置との相対的な位置関係に応じて制御され得る。
 補正部140は、表示装置1の位置姿勢情報を補正する。具体的には、補正部140は、記憶部120に記憶される位置姿勢情報の誤差がキャンセルされるように、位置姿勢情報を補正する。なお、本明細書では、「補正」と言った場合、表示装置1の位置又は姿勢の瞬間的な変更(換言すると、比較的大きな変更)を伴う情報の変更を意味する。また、補正前の位置姿勢情報は第1の位置姿勢情報と見做されても良く、補正後の位置姿勢情報は第2の位置姿勢情報と見做されても良い。このように、第1の位置姿勢情報と第2の位置姿勢情報とは、互いに非連続的な位置姿勢情報に相当する。
 制御部150は、表示装置1の動作を制御するための動作指令を通信部110へ出力することによって、表示装置1の動作を制御する。それにより、表示装置1による仮想オブジェクトの実空間への重畳表示が制御される。このように、制御部150は、仮想オブジェクトを実空間に重畳するよう表示装置1を制御する。なお、本明細書では、表示装置1による仮想オブジェクトの実空間への重畳表示について制御部150が実行する制御を表示制御と称する。
 具体的には、制御部150は、実空間における設定位置と対応付けられた仮想オブジェクトを表示装置1の位置姿勢情報に基づいて実空間に重畳するよう表示装置1を制御する。より具体的には、制御部150は、設定位置と対応付けられた仮想オブジェクトを表示装置1の位置姿勢情報と設定位置との関係性に基づいて実空間に重畳するよう表示装置1を制御する。それにより、設定位置と対応付けられた仮想オブジェクトが表示装置1の位置及び姿勢によらずに設定位置に重畳され得る。
 情報処理装置100が行う表示制御は、例えば、道案内用のアプリケーションに適用される。
 図3及び図4は、道案内用のアプリケーションの実行時における表示装置1による表示例を示す説明図である。具体的には、図3では、表示装置1を装着した状態で駅構内を移動しているユーザの視点から見た様子が示されている。図4では、図3と比較して時間が経過した後において、市街地を移動しているユーザの視点から見た様子が示されている。なお、図3及び図4に示される表示領域50は、表示装置1による情報の表示の対象となる領域であり、ユーザの視界内の領域に相当する。
 道案内用のアプリケーションの実行時には、例えば、図3に示されるように、ユーザによる操作に応じて表示領域50内に地図画像61が表示される。ユーザは、地図画像61を用いて所望の目的地を設定することができる。目的地が設定されると、表示装置1は、現在地から設定された目的地への推奨ルートを案内する表示を行う。例えば、表示装置1は、図3及び図4に示されるように、推奨ルートを示す矢印62を表示する。
 そして、ユーザが目的地へ近づき、例えば、ユーザの視界内に目的地が入った場合、表示装置1は、図4に示されるように、設定位置としての目的地と対応付けられた仮想オブジェクト70を目的地に重畳して表示する。それにより、ユーザは、目的地の位置を容易に認識することができるので、円滑に目的地へたどり着くことができる。
 仮想オブジェクト70の表示は、仮想オブジェクト70を表示装置1の位置及び姿勢によらずに目的地に重畳するために、表示装置1の位置姿勢情報と目的地との関係性に基づいて制御される。ゆえに、位置姿勢情報の補正が行われた場合、位置姿勢情報の補正前後において仮想オブジェクト70の重畳位置は変化し得る。ここで、本実施形態に係る情報処理装置100の制御部150は、位置姿勢情報が、第1の位置姿勢情報から当該第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、第1の位置姿勢情報に基づいて仮想オブジェクト70が表示される第1の表示状態から第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう表示装置1を制御する。それにより、ユーザによるAR技術の利用を円滑化することができる。
 なお、本明細書では、制御部150による表示制御が光学透過型のHMDである表示装置1に適用される例を説明するが、制御部150が行う表示制御の適用対象となる移動体はこのような例に限定されない。
 例えば、制御部150による表示制御は、ビデオ透過型のHMDに適用されてもよい。その場合、制御部150は、表示制御において、ビデオ透過型のHMDによる仮想オブジェクトの画像上の実空間への重畳表示を制御する。また、制御部150は、実空間における設定位置と対応付けられた仮想オブジェクトを移動体としてのビデオ透過型のHMDの位置姿勢情報に基づいて画像上の実空間に重畳するように当該HMDを制御する。
 また、例えば、制御部150による表示制御は、実空間を撮像し撮像により得られる画像上の実空間に仮想オブジェクトを重畳して表示するスマートフォン又はタブレット端末等の情報処理端末に適用されてもよい。その場合、制御部150は、表示制御において、情報処理端末による仮想オブジェクトの画像上の実空間への重畳表示を制御する。また、制御部150は、実空間における設定位置と対応付けられた仮想オブジェクトを移動体としての情報処理端末の位置姿勢情報に基づいて画像上の実空間に重畳するように当該情報処理端末を制御する。
 また、例えば、制御部150による表示制御は、車両、航空機又はドローン等の移動体を利用することにより仮想オブジェクトの実空間への重畳表示を実現するシステムの表示装置に適用されてもよい。具体的には、このような表示装置として、車両又は航空機の搭乗者の視界内における実空間に仮想オブジェクトを重畳して表示する表示装置であるHUD(Head-Up Display)や、実空間を撮像するドローンにより得られる画像上の実空間に仮想オブジェクトを重畳して表示する表示装置が挙げられる。その場合、制御部150は、表示制御において、上記システムの表示装置による仮想オブジェクトの実空間への重畳表示を制御する。また、制御部150は、実空間における設定位置と対応付けられた仮想オブジェクトを移動体としての車両、航空機又はドローン等の位置姿勢情報に基づいて実空間に重畳するように上記システムの表示装置を制御する。
 <2.情報処理装置の動作>
 続いて、図5~図22を参照して、本実施形態に係る情報処理装置100の動作について説明する。
  [2-1.処理の全体的な流れ]
 まず、図5を参照して、本実施形態に係る情報処理装置100が行う処理の全体的な流れについて説明する。
 図5は、本実施形態に係る情報処理装置100が行う処理の全体的な流れの一例を示すフローチャートである。図5に示される処理フローは、例えば、常時繰り返される。なお、図5に示される処理フローは、表示制御が開始されていない状態で開始される。
 図5に示される処理フローが開始されると、まず、ステップS501において、情報処理装置100は、表示制御を開始するか否かを判定する。表示制御を開始すると判定された場合(ステップS501/YES)、ステップS503へ進む。一方、表示制御を開始しないと判定された場合(ステップS501/NO)、図5に示される処理フローは終了する。
 例えば、情報処理装置100は、上述した道案内用のアプリケーションがユーザによる操作に応じて起動されたことをもって、表示制御を開始すると判定する。なお、表示制御を開始すると判定するトリガは、このような例に限定されない。例えば、情報処理装置100は、道案内用のアプリケーションと異なる他のアプリケーションが起動されたことをもって、表示制御を開始すると判定してもよい。また、例えば、情報処理装置100は、表示装置1の電源がONになったことをもって、表示制御を開始すると判定してもよい。
 なお、以下では、上述した道案内用のアプリケーションの実行時における仮想オブジェクト70の重畳表示に関する処理について主に説明するが、情報処理装置100の動作はこのような例に限定されず、情報処理装置100は他の状況(例えば他のアプリケーションの実行時)における仮想オブジェクトの重畳表示についても同様に動作し得る。
 ステップS503において、通信部110は、表示装置1の位置姿勢情報を取得する。
 例えば、通信部110は、位置姿勢センサ30による表示装置1の位置及び姿勢の検出結果を位置姿勢情報の初期値として受信し、記憶部120へ記憶させる。
 次に、ステップS505において、制御部150は、通常表示制御を実行する。
 通常表示制御では、制御部150は、表示装置1の位置姿勢情報と仮想オブジェクト70の設定位置との関係性に基づいて仮想オブジェクト70を表示するよう表示装置1を制御する。
 例えば、制御部150は、通常表示制御において、実際の表示装置1の位置及び姿勢を基準とした仮想オブジェクト70の重畳位置の相対位置を、位置姿勢情報により示される表示装置1の位置及び姿勢を基準とした仮想オブジェクト70の設定位置の相対位置と一致させるように表示制御を行う。それにより、仮想オブジェクト70の重畳位置を設定位置と一致させることができる。仮想オブジェクト70の重畳位置が表示領域50内である場合、仮想オブジェクト70は表示装置1の表示領域50内に表示される。一方、仮想オブジェクト70の重畳位置が表示領域50外である場合、仮想オブジェクト70は表示装置1の表示領域50内に表示されない。
 重畳位置は、具体的には、実空間において仮想オブジェクト70が重畳される位置(換言すると、実空間において仮想オブジェクト70が配置される位置)である。設定位置は、具体的には、仮想オブジェクト70と対応付けられる実空間における位置であり、予め設定される。例えば、道案内用のアプリケーションにおいて、仮想オブジェクト70の設定位置として、仮想オブジェクト70により示される目的地が設定される。設定位置を示す情報は、例えば、記憶部120に記憶される。
 位置姿勢情報により示される表示装置1の位置及び姿勢が実際の表示装置1の位置及び姿勢と一致する場合、仮想オブジェクト70の重畳位置は設定位置と一致する。しかしながら、位置姿勢情報には、上述したように、位置姿勢センサ30の検出誤差等に起因して誤差(換言すると、位置姿勢情報により示される表示装置1の位置及び姿勢と、実際の表示装置1の位置及び姿勢との間のズレ)が生じ得る。このように位置姿勢情報の誤差が生じることによって、仮想オブジェクト70の重畳位置と設定位置との間で、位置姿勢情報の誤差に応じたズレが生じる。そこで、仮想オブジェクト70の重畳位置と設定位置との間のズレを抑制するために、後述されるように、位置姿勢情報の補正が行われる。
 次に、ステップS507において、情報処理装置100は、表示装置1の位置姿勢情報を補正可能か否かを判定する。位置姿勢情報を補正可能であると判定された場合(ステップS507/YES)、ステップS509へ進む。一方、位置姿勢情報を補正可能でないと判定された場合(ステップS507/NO)、ステップS511へ進む。
 表示装置1の位置姿勢情報の補正処理は、後述されるように、例えば、記憶部120に記憶されるマーカ画像に映るマーカと対応する実空間上のマーカが映るカメラ20の撮像画像を用いて行われる。ゆえに、情報処理装置100は、例えば、マーカが映るカメラ20の撮像画像が取得されたことをもって、位置姿勢情報を補正可能であると判定する。
 ステップS509において、補正部140は、表示装置1の位置姿勢情報を補正する。この際、具体的には、表示装置1の位置姿勢情報が、第1の位置姿勢情報から当該第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される。
 例えば、補正部140は、マーカが映るカメラ20の撮像画像とマーカ画像とを比較することによって、位置姿勢情報を補正する。ここで、マーカ画像は、表示装置1の位置及び姿勢が特定の位置及び姿勢をとる状態でカメラ20による撮像を行った場合に得られる画像であり、例えば、記憶部120に予め記憶される。このように、マーカ画像は、特定の位置及び姿勢と紐付けられた画像である。具体的には、記憶部120には、複数の位置及び姿勢についてのマーカ画像が予め記憶される。なお、マーカ画像には、マーカと称される実物体が映っていてもよく、映っていなくてもよい。また、マーカ画像と特定の位置及び姿勢との紐付けの関係性として、情報処理装置100により動的に生成されたものが利用されてもよく、予め他の装置により生成されたものが利用されてもよく、それらの双方が利用されてもよい。
 補正部140は、具体的には、カメラ20の撮像画像におけるマーカの位置、姿勢及び寸法と、マーカ画像におけるマーカの位置、姿勢及び寸法とを比較することによって、実際の表示装置1の位置及び姿勢を特定する。そして、補正部140は、記憶部120に記憶されている位置姿勢情報を、このように特定された実際の表示装置1の位置及び姿勢を示す情報へ補正する。それにより、位置姿勢センサ30の検出誤差等に起因して生じ得る位置姿勢情報の誤差がキャンセルされる。補正部140は、例えば、位置姿勢センサ30により検出される位置姿勢情報の誤差が閾値以上である場合に、位置姿勢情報を補正してもよい。当該閾値は、例えば、仮想オブジェクト70の重畳位置と設定位置との間のズレを適切に抑制し得るように設定される。なお、位置姿勢情報の補正が行われた際、補正直前の位置姿勢情報が記憶部120に履歴として記憶され得る。
 次に、ステップS600において、制御部150は、遷移表示制御に関する処理を実行する。
 遷移表示制御では、制御部150は、補正前の位置姿勢情報である第1の位置姿勢情報に基づいて仮想オブジェクト70が表示される第1の表示状態から補正後の位置姿勢情報である第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うように表示装置1を制御する。換言すると、遷移表示制御では、補正前の位置姿勢情報である第1の位置姿勢情報に基づいて通常表示制御が実行される状態から補正後の位置姿勢情報である第2の位置姿勢情報に基づいて通常表示制御が実行される状態への遷移を示す表示を行うように表示装置1が制御される。遷移表示制御に関する処理における具体的な処理の流れについては、後述にて詳細に説明する。
 次に、ステップS511において、情報処理装置100は、表示制御を終了するか否かを判定する。表示制御を終了すると判定された場合(ステップS511/YES)、図5に示される処理フローは終了する。一方、表示制御を終了しないと判定された場合(ステップS511/NO)、ステップS513へ進む。
 例えば、情報処理装置100は、上述した道案内用のアプリケーションがユーザによる操作に応じて終了したことをもって、表示制御を終了すると判定する。なお、表示制御を終了すると判定するトリガは、このような例に限定されない。例えば、情報処理装置100は、道案内用のアプリケーションと異なる他のアプリケーションが終了したことをもって、表示制御を終了すると判定してもよい。また、例えば、情報処理装置100は、表示装置1の電源がOFFになったことをもって、表示制御を終了すると判定してもよい。
 ステップS513において、更新部130は、表示装置1の位置姿勢情報を更新する。
 例えば、更新部130は、位置姿勢センサ30による表示装置1の加速度及び角速度の検出結果に基づいて、記憶部120に記憶される位置姿勢情報を更新する。
 なお、更新部130は、カメラ20の撮像画像に映る特徴点の位置の変化に基づいて表示装置1の位置姿勢情報を更新してもよい。例えば、SLAM(Simultaneous Localization And Mapping)と称される技術を利用することによって、カメラ20の撮像画像に基づく位置姿勢情報の更新が実現され得る。また、更新部130は、位置姿勢センサ30による表示装置1の位置及び姿勢の検出結果に基づいて、表示装置1の位置姿勢情報を更新してもよい。なお、これらの場合においても、位置姿勢情報には、誤差が生じ得る。
 次に、ステップS505へ戻り、更新された位置姿勢情報に基づく通常表示制御が実行される。
  [2-2.遷移表示制御]
 続いて、図6~図22を参照して、本実施形態に係る情報処理装置100の制御部150が行う遷移表示制御に関する処理について説明する。遷移表示制御に関する処理は、例えば、図5に示される処理フローにおけるステップS600の処理と対応する。
 まず、図6を参照して、本実施形態に係る情報処理装置100の制御部150が行う遷移表示制御に関する処理の流れについて説明する。
 図6は、本実施形態に係る情報処理装置100の制御部150が行う遷移表示制御に関する処理の流れの一例を示すフローチャートである。
 遷移表示制御に関する処理では、例えば、遷移表示の開始直前において仮想オブジェクト70が表示領域50内に表示されるか否かの判定結果と、遷移表示の終了直後において仮想オブジェクト70が表示領域50内に表示されるか否かの判定結果とに応じて異なる遷移表示制御が実行される。
 図6に示される処理フローが開始されると、まず、ステップS601において、制御部150は、仮想オブジェクト70が遷移表示の終了直後(換言すると、位置姿勢情報の補正直後における通常表示制御の実行時)において表示領域50内に表示されるか否かを判定する。仮想オブジェクト70が遷移表示の終了直後において表示領域50内に表示されると判定された場合(ステップS601/YES)、ステップS603へ進む。一方、仮想オブジェクト70が遷移表示の終了直後において表示領域50内に表示されないと判定された場合(ステップS601/NO)、ステップS605へ進む。
 例えば、制御部150は、補正直後の位置姿勢情報により示される表示装置1の位置及び姿勢を基準とした仮想オブジェクト70の設定位置の相対位置に基づいて、仮想オブジェクト70が遷移表示の終了直後において表示領域50内に表示されるか否かを判定し得る。
 ステップS603において、制御部150は、仮想オブジェクト70が遷移表示の開始直前(換言すると、位置姿勢情報の補正直前における通常表示制御の実行時)において表示領域50内に表示されるか否かを判定する。仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されると判定された場合(ステップS603/YES)、ステップS610へ進む。一方、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されないと判定された場合(ステップS603/NO)、ステップS620へ進む。
 例えば、制御部150は、補正直前の位置姿勢情報により示される表示装置1の位置及び姿勢を基準とした仮想オブジェクト70の設定位置の相対位置に基づいて、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されるか否かを判定し得る。
 ステップS610において、制御部150は、第1遷移表示制御を実行する。第1遷移表示制御における具体的な処理の流れについては、後述にて詳細に説明する。
 ステップS620において、制御部150は、第2遷移表示制御を実行する。第2遷移表示制御における具体的な処理の流れについては、後述にて詳細に説明する。
 ステップS605において、制御部150は、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されるか否かを判定する。仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されると判定された場合(ステップS605/YES)、ステップS630へ進む。一方、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されないと判定された場合(ステップS605/NO)、図6に示される処理は終了する。
 ステップS630において、制御部150は、第3遷移表示制御を実行する。第3遷移表示制御における具体的な処理の流れについては、後述にて詳細に説明する。
 以下では、ステップS601、ステップS603及びステップS605の各判定処理における判定結果に応じて実行される第1遷移表示制御、第2遷移表示制御及び第3遷移表示制御の各々について詳細に説明する。
   (2-2-1.第1遷移表示制御)
 まず、図7~図13を参照して、本実施形態に係る情報処理装置100の制御部150が行う第1遷移表示制御について説明する。
 図7は、本実施形態に係る情報処理装置100の制御部150が行う第1遷移表示制御の第1の例の流れの一例を示すフローチャートである。
 図7に示される処理フローが開始されると、まず、ステップS611において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正前の通常表示制御における重畳位置に調整する。
 図8は、仮想オブジェクト70の設定位置P72と補正前後における位置姿勢情報により示される表示装置1との間の位置関係の一例を示す模式図である。図8では、補正直前の位置姿勢情報により示される表示装置1の位置が位置P101であり、補正直後の位置姿勢情報により示される表示装置1の位置が位置P102である例が示されている。
 具体的には、位置姿勢情報により示される表示装置1の位置が、補正前後において、位置P101から距離Tだけ離れた位置P102へ移動している。また、位置姿勢情報により示される表示装置1の姿勢が、補正前後において、角度Rだけ回転している。
 例えば、図8に示される例では、補正直前の通常表示制御において、制御部150は、補正直前の位置姿勢情報により示される表示装置1の位置P101及び姿勢を基準とした設定位置P72の相対位置に基づいて表示制御を行う。ここで、実際の表示装置1の位置及び姿勢は、補正直後の位置姿勢情報により示される表示装置1の位置P102及び姿勢と対応する。ゆえに、補正前の通常表示制御における仮想オブジェクト70の重畳位置は、設定位置P72と異なる位置P71となる。
 補正前の通常表示制御における重畳位置である位置P71は、具体的には、設定位置P72を位置P101から位置P102へ向かう方向に距離Tだけ移動させた後、位置姿勢情報により示される表示装置1の姿勢の補正前後での回転方向と同一方向に位置P102を中心に角度Rだけ回転させた位置である。
 制御部150は、図8に示される例では、まず、補正前の通常表示制御における仮想オブジェクト70の重畳位置である位置P71を算出する。そして、制御部150は、仮想オブジェクト70の重畳位置を算出された位置P71に調整する。このような重畳位置の調整は、具体的には、実際の表示装置1の位置及び姿勢を基準とした仮想オブジェクト70の重畳位置の相対位置を、補正直後の位置姿勢情報により示される表示装置1の位置P102及び姿勢を基準とした位置P71の相対位置と一致させるように表示制御を行うことによって実現される。
 このように、制御部150は、仮想オブジェクト70の設定位置と、位置姿勢情報により示される表示装置1の位置及び姿勢の補正前後における変化とに基づいて、補正前の通常表示制御における重畳位置を特定し得る。なお、制御部150は、以下で説明する遷移表示制御の他の例においても同様に、補正前の通常表示制御における重畳位置を特定し得る。
 次に、ステップS612において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正後の通常表示制御における重畳位置へ徐々に(例えば、段階的に)変化させる。
 例えば、図8に示される例では、補正後の通常表示制御において、制御部150は、補正後の位置姿勢情報により示される表示装置1の位置及び姿勢を基準とした設定位置P72の相対位置に基づいて表示制御を行う。ゆえに、補正後の通常表示制御における仮想オブジェクト70の重畳位置は、設定位置P72と一致する。
 制御部150は、図8に示される例では、仮想オブジェクト70の重畳位置を補正前の通常表示制御における重畳位置である位置P71から補正後の通常表示制御における重畳位置である設定位置P72へ段階的に変化させる。このような重畳位置の段階的な変化は、具体的には、実際の表示装置1の位置及び姿勢を基準とした仮想オブジェクト70の重畳位置の相対位置を、補正後の位置姿勢情報により示される表示装置1の位置及び姿勢を基準とした位置P71と設定位置P72との間の各位置の相対位置と段階的に一致させるように表示制御を行うことによって実現される。
 このように、制御部150は、仮想オブジェクト70の設定位置を補正後の通常表示制御における重畳位置として特定し得る。なお、制御部150は、以下で説明する遷移表示制御の他の例においても同様に、仮想オブジェクト70の設定位置を補正後の通常表示制御における重畳位置として特定し得る。
 制御部150は、仮想オブジェクト70の重畳位置の変化速度を種々のパラメータに基づいて制御し得る。なお、制御部150は、以下で説明する遷移表示制御の他の例においても同様に、仮想オブジェクト70の重畳位置の変化速度を制御し得る。
 例えば、制御部150は、仮想オブジェクト70の重畳位置の変化速度を表示装置1の動きに基づいて制御してもよい。具体的には、制御部150は、表示装置1の位置又は姿勢の変化速度が大きいほど、仮想オブジェクト70の重畳位置の変化速度を大きくしてもよい。すなわち、表示装置1の位置又は姿勢の変化速度が第1の変化速度である場合、表示装置1の位置又は姿勢の変化速度が第1の変化速度よりも小さい第2の変化速度である場合よりも、仮想オブジェクト70の重畳位置の変化速度が大きくなるよう表示装置1が制御されると見做されても良い。なお、ここでいう表示装置1の位置又は姿勢の変化速度には、ユーザ(表示装置1)の移動速度、あるいは回転速度の変化が含まれる。
 また、例えば、制御部150は、仮想オブジェクト70の重畳位置の変化速度を仮想オブジェクト70が動的オブジェクト(動画像)であるか否かに基づいて制御してもよい。具体的には、制御部150は、仮想オブジェクト70が動的オブジェクトである場合に、仮想オブジェクト70が非動的オブジェクト(静止画像)である場合と比較して仮想オブジェクト70の重畳位置の変化速度を大きくしてもよい。なお、動的オブジェクトには、いわゆるアニメーション画像が含まれ、所定の条件に基づいて動作を行うオブジェクトであればよい。
 また、例えば、制御部150は、表示装置1の位置と仮想オブジェクト70の重畳位置とを結ぶ直線に沿った方向へ重畳位置を優先的に変化させてもよい。図9は、表示装置1の位置と仮想オブジェクト70の重畳位置とを結ぶ直線に沿った方向へ重畳位置を調整する処理について説明するための模式図である。例えば、図9に示されるように、仮想オブジェクト70の重畳位置が位置P73であり位置姿勢情報により示される表示装置1の位置が位置P103である場合において、制御部150は、位置P103と位置P73とを結ぶ直線L1に沿って位置P74まで重畳位置を優先的に変化させてもよい。位置P74は、例えば、位置P103と位置P73とを結ぶ直線L1と、直線L1に対して直交し設定位置P72を通る直線L2との交点と対応する。換言すると、位置P74は、直線L1上において設定位置P72と最も近い点と対応する。なお、制御部150は、直線L1と直線L2のなす角の角度θが所定の角度(例えば、30°)より小さい場合に限り、重畳位置を直線L1に沿って優先的に変化させてもよい。
 なお、制御部150は、仮想オブジェクト70の重畳位置の変化速度を一定に維持してもよい。その場合、仮想オブジェクト70の重畳位置は、時間の経過に応じて変化する。
 次に、図7に示される処理は終了する。
 図10は、第1遷移表示制御の第1の例による表示の推移例を示す説明図である。図10では、補正前の通常表示制御における重畳位置である位置P11及び補正後の通常表示制御における重畳位置である設定位置P12が示されている。
 第1遷移表示制御は、上述したように、仮想オブジェクト70が遷移表示の開始直前及び遷移表示の終了直後の双方において表示領域50内に表示されると判定される場合に実行される。ゆえに、補正前の通常表示制御における重畳位置である位置P11及び補正後の通常表示制御における重畳位置である設定位置P12はともに表示領域50内に位置し得る。
 例えば、時刻T11において、第1遷移表示制御の第1の例が実行されると、仮想オブジェクト70の重畳位置が位置P11に調整される。それにより、図10に示されるように、遷移表示制御の開始直前と同様に、表示領域50内の位置P11に仮想オブジェクト70が表示される。その後、仮想オブジェクト70の重畳位置が表示領域50内において位置P11から設定位置P12へ段階的に変化する。
 具体的には、時刻T11より後の時刻T12における仮想オブジェクト70の重畳位置は、時刻T11と比較して設定位置P12に近づいている。また、時刻T12より後の時刻T13における仮想オブジェクト70の重畳位置は、時刻T12と比較してさらに設定位置P12に近づいている。そして、時刻T14において、仮想オブジェクト70が設定位置P12に表示された状態で、遷移表示制御が通常表示制御へ切り替えられる。
 このように、第1遷移表示制御の第1の例が実行されることにより、位置姿勢情報の補正が行われた際に、例えば、位置姿勢情報の補正前において表示領域50内の位置P11に表示されていた仮想オブジェクト70が表示領域50内において位置P11から設定位置P12へ段階的に移動する。
 図11は、参考例に係る情報処理装置が行う表示制御による表示の推移例を示す説明図である。参考例に係る情報処理装置は、本実施形態に係る情報処理装置100と異なり、位置姿勢情報の補正が行われた際に遷移表示制御を実行せず、通常表示制御を継続的に実行する。図11では、具体的には、位置姿勢情報の補正直前の通常表示制御及び補正直後の通常表示制御の双方において仮想オブジェクト70が表示領域50内に表示される場合の参考例による表示の推移例が示されている。このような場合、参考例では、例えば、図11に示されるように、位置姿勢情報の補正前の時刻T21において表示領域50内の位置P11に表示されていた仮想オブジェクト70が、位置姿勢情報の補正が行われる時刻T22において急峻に表示領域50内の設定位置P12へ移動する。
 このように、参考例では、位置姿勢情報の補正が行われることに伴い、表示領域50内に表示される仮想オブジェクト70が急峻に移動する。それにより、位置姿勢情報の補正前後においてユーザへ違和感が与えられる。一方、本実施形態に係る情報処理装置100によれば、位置姿勢情報の補正が行われた際に第1遷移表示制御の第1の例が行われることによって、表示領域50内に表示される仮想オブジェクト70が急峻に移動することが抑制される。それにより、位置姿勢情報の補正前後においてユーザへ違和感が与えられることを抑制することができる。
 図12は、本実施形態に係る情報処理装置100の制御部150が行う第1遷移表示制御の第2の例の流れの一例を示すフローチャートである。
 図12に示される処理フローが開始されると、まず、ステップS615において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正前の通常表示制御における重畳位置に調整する。
 次に、ステップS616において、制御部150は、仮想オブジェクト70の透明度を100%へ徐々に(例えば、段階的に)上昇させる。
 具体的には、透明度が100%である状態は、透明度が最も高い状態に相当する。仮想オブジェクト70の透明度が100%である場合、仮想オブジェクト70の重畳位置が表示領域50内であっても、仮想オブジェクト70は表示されない。
 次に、ステップS617において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正後の通常表示制御における重畳位置に調整する。
 次に、ステップS618において、制御部150は、仮想オブジェクト70の透明度を徐々に(例えば、段階的に)低下させる。
 次に、図12に示される処理は終了する。
 図13は、第1遷移表示制御の第2の例による表示の推移例を示す説明図である。図13では、図10と同様に、補正前の通常表示制御における重畳位置である位置P11及び補正後の通常表示制御における重畳位置である設定位置P12が示されている。
 例えば、時刻T31において、第1遷移表示制御の第2の例が実行されると、仮想オブジェクト70の重畳位置が位置P11に調整される。それにより、図13に示されるように、遷移表示の開始直前と同様に、表示領域50内の位置P11に仮想オブジェクト70が重畳して表示される。その後、仮想オブジェクト70の透明度が100%へ段階的に上昇する。具体的には、時刻T31より後の時刻T32における仮想オブジェクト70の透明度は、時刻T31と比較して高くなっている。そして、仮想オブジェクト70の透明度がさらに上昇して時刻T33において100%となり、仮想オブジェクト70が非表示の状態になる。
 さらに、時刻T33において仮想オブジェクト70の重畳位置が設定位置P12に調整される。その後、仮想オブジェクト70の透明度が段階的に低下する。具体的には、時刻T33より後の時刻T34における仮想オブジェクト70の透明度は、時刻T33と比較して低くなっている。そして、仮想オブジェクト70の透明度がさらに低下して、時刻T35において、仮想オブジェクト70が設定位置P12に表示された状態で、遷移表示制御が通常表示制御へ切り替えられる。
 このように、第1遷移表示制御の第2の例が実行されることにより、位置姿勢情報の補正が行われた際に、例えば、位置姿勢情報の補正前において表示領域50内の位置P11に表示されていた仮想オブジェクト70がフェードアウトされた後に、表示領域50内の設定位置P12に仮想オブジェクト70がフェードインされる。
 位置姿勢情報の補正が行われた際に第1遷移表示制御の第2の例が実行されることによって、第1遷移表示制御の第1の例が行われる場合と同様に、表示領域50内において仮想オブジェクト70の重畳位置が急峻に移動することに起因してユーザへ違和感が与えられることを抑制することができる。
 このように、制御部150は、遷移表示において、仮想オブジェクト70の視認性を徐々に変化させるよう表示装置1を制御してもよい。なお、上記では、制御部150が仮想オブジェクト70の透明度を徐々に変化させることによって仮想オブジェクト70の視認性を徐々に変化させる例を説明したが、制御部150は他の手法によって仮想オブジェクト70の視認性を徐々に変化させてもよい。なお、制御部150は、以下で説明する遷移表示制御の他の例においても同様に、透明度を徐々に変化させる以外の手法によっても、仮想オブジェクト70の視認性を徐々に変化させ得る。
 例えば、制御部150は、仮想オブジェクトの色を徐々に変化させることによって仮想オブジェクト70の視認性を徐々に変化させてもよい。また、例えば、制御部150は、仮想オブジェクトを点滅表示し、点滅の間隔を徐々に変化させることによって仮想オブジェクト70の視認性を徐々に変化させてもよい。
 制御部150は、仮想オブジェクト70の視認性の変化速度を種々のパラメータに基づいて制御し得る。なお、制御部150は、以下で説明する遷移表示制御の他の例においても同様に、仮想オブジェクト70の視認性の変化速度を制御し得る。
 例えば、制御部150は、仮想オブジェクト70の視認性の変化速度を表示装置1の動きに基づいて制御してもよい。具体的には、制御部150は、表示装置1の位置又は姿勢の変化速度が大きいほど、仮想オブジェクト70の視認性の変化速度を大きくしてもよい。すなわち、表示装置1の位置又は姿勢の変化速度が第1の変化速度である場合、表示装置1の位置又は姿勢の変化速度が第1の変化速度よりも小さい第2の変化速度である場合よりも、仮想オブジェクト70の視認性の変化速度が大きくなるよう表示装置1が制御されると見做されても良い。なお、ここでいう表示装置1の位置又は姿勢の変化速度には、ユーザ(表示装置1)の移動速度、あるいは回転速度の変化が含まれる。
   (2-2-2.第2遷移表示制御)
 続いて、図14~図18を参照して、本実施形態に係る情報処理装置100の制御部150が行う第2遷移表示制御について説明する。
 図14は、本実施形態に係る情報処理装置100の制御部150が行う第2遷移表示制御の第1の例の流れの一例を示すフローチャートである。
 図14に示される処理フローが開始されると、まず、ステップS621において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正前の通常表示制御における重畳位置に調整する。
 次に、ステップS622において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正後の通常表示制御における重畳位置へ徐々に(例えば、段階的に)変化させる。
 次に、図14に示される処理は終了する。
 図15は、第2遷移表示制御の第1の例による表示の推移例を示す説明図である。図15では、補正前の通常表示制御における重畳位置である位置P21及び補正後の通常表示制御における重畳位置である設定位置P22が示されている。
 第2遷移表示制御は、上述したように、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されないと判定され、かつ、遷移表示の終了直後において表示領域50内に表示されると判定される場合に実行される。ゆえに、補正前の通常表示制御における重畳位置である位置P21は表示領域50外に位置し、補正後の通常表示制御における重畳位置である設定位置P22は表示領域50内に位置し得る。
 例えば、時刻T41において、第2遷移表示制御の第1の例が実行されると、仮想オブジェクト70の重畳位置が位置P21に調整される。それにより、図15に示されるように、遷移表示の開始直前と同様に、表示領域50内には仮想オブジェクト70が表示されない。その後、仮想オブジェクト70の重畳位置が表示領域50外の位置P21から表示領域50内の設定位置P22へ段階的に変化する。
 具体的には、時刻T41より後の時刻T42における仮想オブジェクト70の重畳位置は、時刻T41と比較して設定位置P22に近づいている。なお、時刻T42では、仮想オブジェクト70の重畳位置が表示領域50外であるので、表示領域50内には仮想オブジェクト70が表示されない。また、時刻T42より後の時刻T43における仮想オブジェクト70の重畳位置は、時刻T42と比較してさらに設定位置P22に近づいている。なお、時刻T43では、仮想オブジェクト70の重畳位置が表示領域50内であるので、表示領域50内に仮想オブジェクト70が表示される。そして、時刻T44において、仮想オブジェクト70が設定位置P22に表示された状態で、遷移表示制御が通常表示制御へ切り替えられる。
 このように、第2遷移表示制御の第1の例が実行されることにより、位置姿勢情報の補正が行われた際に、例えば、位置姿勢情報の補正前において表示領域50内に表示されていなかった仮想オブジェクト70が表示領域50の端部に表示された後に表示領域50内において端部から設定位置P22へ段階的に移動する。
 図16は、参考例に係る情報処理装置が行う表示制御による表示の推移例を示す説明図である。参考例に係る情報処理装置は、上述したように、位置姿勢情報の補正が行われた際に遷移表示制御を実行せず、通常表示制御を継続的に実行する。図16では、具体的には、位置姿勢情報の補正直前の通常表示制御において仮想オブジェクト70が表示領域50内に表示されず、かつ、補正直後の通常表示制御において仮想オブジェクト70が表示領域50内に表示される場合の参考例による表示の推移例が示されている。このような場合、参考例では、例えば、図16に示されるように、位置姿勢情報の補正前の時刻T51において表示領域50内に表示されていなかった仮想オブジェクト70が、位置姿勢情報の補正が行われる時刻T52において表示領域50内の設定位置P22に突然表示される。
 このように、参考例では、位置姿勢情報の補正が行われることに伴い、表示領域50内に仮想オブジェクト70が突然表示される。それにより、位置姿勢情報の補正前後においてユーザへ違和感が与えられる。さらに、ユーザの視線上に仮想オブジェクト70が突然表示される場合、ユーザが前方を見づらくなり得る。一方、本実施形態に係る情報処理装置100によれば、位置姿勢情報の補正が行われた際に第2遷移表示制御の第1の例が行われることによって、表示領域50内に仮想オブジェクト70が突然表示されることが抑制される。それにより、位置姿勢情報の補正前後においてユーザへ違和感が与えられること及びユーザが前方を見づらくなることを抑制することができる。
 図17は、本実施形態に係る情報処理装置100の制御部150が行う第2遷移表示制御の第2の例の流れの一例を示すフローチャートである。
 図17に示される処理フローが開始されると、まず、ステップS625において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正後の通常表示制御における重畳位置に調整し、仮想オブジェクト70の透明度を100%に設定する。
 次に、ステップS626において、制御部150は、仮想オブジェクト70の透明度を徐々に(例えば、段階的に)低下させる。
 次に、図17に示される処理は終了する。
 図18は、第2遷移表示制御の第2の例による表示の推移例を示す説明図である。図18では、図15と同様に、補正前の通常表示制御における重畳位置である位置P21及び補正後の通常表示制御における重畳位置である設定位置P22が示されている。
 例えば、時刻T61において、第2遷移表示制御の第2の例が実行されると、仮想オブジェクト70の重畳位置が設定位置P22に調整され、仮想オブジェクト70の透明度が100%に設定される。ゆえに、仮想オブジェクト70の重畳位置は表示領域50内であるものの、仮想オブジェクト70は非表示の状態になっている。その後、仮想オブジェクト70の透明度が段階的に低下する。具体的には、時刻T61より後の時刻T62における仮想オブジェクト70の透明度は、時刻T61と比較して低くなっている。そして、仮想オブジェクト70の透明度がさらに低下して、時刻T63において、仮想オブジェクト70が設定位置P22に表示された状態で、遷移表示制御が通常表示制御へ切り替えられる。
 このように、第2遷移表示制御の第2の例が実行されることにより、位置姿勢情報の補正が行われた際に、例えば、位置姿勢情報の補正前において仮想オブジェクト70が表示されていなかった表示領域50内の設定位置P22に仮想オブジェクト70がフェードインされる。
 位置姿勢情報の補正が行われた際に第2遷移表示制御の第2の例が実行されることによって、第2遷移表示制御の第1の例が行われる場合と同様に、表示領域50内に仮想オブジェクト70が突然表示されることに起因してユーザへ違和感が与えられること及びユーザが前方を見づらくなることを抑制することができる。
   (2-2-3.第3遷移表示制御)
 続いて、図19~図21を参照して、本実施形態に係る情報処理装置100の制御部150が行う第3遷移表示制御について説明する。
 図19は、本実施形態に係る情報処理装置100の制御部150が行う第3遷移表示制御の流れの一例を示すフローチャートである。
 図19に示される処理フローが開始されると、まず、ステップS631において、制御部150は、仮想オブジェクト70の重畳位置を位置姿勢情報の補正後の通常表示制御における重畳位置に調整する。
 次に、ステップS632において、制御部150は、位置姿勢情報の補正前の通常表示制御における重畳位置と対応する位置に通知オブジェクトを表示させる。通知オブジェクトは、補正前の位置姿勢情報である第1の位置姿勢情報に基づく第1の表示状態から補正後の位置姿勢情報である第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示の実行を通知する通知オブジェクトである。このように、制御部150は、遷移表示において、仮想オブジェクト70の表示状態を、第1の位置姿勢情報に基づく第1の表示状態から第2の位置姿勢情報に基づく第2の表示状態に瞬間的に変更するとともに通知オブジェクトを表示するよう表示装置1を制御してもよい。なお、遷移表示における仮想オブジェクト70の表示状態は、図20を参照して後述するように、仮想オブジェクト70が表示領域50内に表示されない状態を含む。
 例えば、制御部150は、テキストオブジェクトを通知オブジェクトとして表示させてもよい。なお、通知オブジェクトはこのような例に限定されず、例えば、マーク等の他のオブジェクトであってもよい。また、通知オブジェクトはアニメーションであってもよい。
 次に、ステップS633において、制御部150は、設定時間が経過したか否かを判定する。設定時間が経過したと判定された場合(ステップS633/YES)、ステップS634へ進む。一方、設定時間が経過していないと判定された場合(ステップS633/NO)、ステップS633の処理が繰り返される。
 設定時間は、例えば、ユーザにより通知オブジェクトが視認される可能性が比較的高いと想定される程度の長さを有する時間に設定される。
 次に、ステップS634において、制御部150は、通知オブジェクトの表示を停止させる。
 次に、図19に示される処理は終了する。
 図20は、第3遷移表示制御による表示の推移例を示す説明図である。図20では、補正前の通常表示制御における重畳位置である位置P31及び補正後の通常表示制御における重畳位置である設定位置P32が示されている。
 第3遷移表示制御は、上述したように、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示されると判定され、かつ、遷移表示の終了直後において表示領域50内に表示されないと判定される場合に実行される。ゆえに、補正前の通常表示制御における重畳位置である位置P31は表示領域50内に位置し、補正後の通常表示制御における重畳位置である設定位置P32は表示領域50外に位置し得る。
 例えば、時刻T71において、第3遷移表示制御が実行されると、仮想オブジェクト70の重畳位置が設定位置P32に調整される。それにより、仮想オブジェクト70が表示領域50内に表示されない状態になる。また、位置P31と対応する位置(例えば、位置P31自体又は位置P31の近傍の位置)に通知オブジェクトが表示される。例えば、図20に示されるように、表示領域50内の位置P31と対応する位置に、仮想オブジェクト70の重畳位置が移動した旨を示すテキストオブジェクト81及び矢印82が通知オブジェクトとして表示される。その後、テキストオブジェクト81及び矢印82の表示が開始された後設定時間が経過した時刻T72において、テキストオブジェクト81及び矢印82が非表示状態となり、遷移表示制御が通常表示制御へ切り替えられる。
 このように、第3遷移表示制御が実行されることにより、位置姿勢情報の補正が行われた際に、例えば、位置姿勢情報の補正前において表示領域50内に表示されていた仮想オブジェクト70が非表示状態になるとともに通知オブジェクトが設定時間の間表示される。
 図21は、参考例に係る情報処理装置が行う表示制御による表示の推移例を示す説明図である。参考例に係る情報処理装置は、上述したように、位置姿勢情報の補正が行われた際に遷移表示制御を実行せず、通常表示制御を継続的に実行する。図21では、具体的には、位置姿勢情報の補正直前の通常表示制御において仮想オブジェクト70が表示領域50内に表示され、かつ、補正直後の通常表示制御において仮想オブジェクト70が表示領域50内に表示されない場合の参考例による表示の推移例が示されている。このような場合、参考例では、例えば、図21に示されるように、位置姿勢情報の補正前の時刻T81において表示領域50内の位置P31に表示されていた仮想オブジェクト70が、位置姿勢情報の補正が行われる時刻T82において突然非表示状態になる。
 このように、参考例では、位置姿勢情報の補正が行われることに伴い、表示領域50内に表示されていた仮想オブジェクト70が突然非表示状態になる。それにより、ユーザが仮想オブジェクト70を見失うおそれがある。一方、本実施形態に係る情報処理装置100によれば、位置姿勢情報の補正が行われた際に第3遷移表示制御が行われることによって、通知オブジェクトによって仮想オブジェクト70の重畳位置が変化したことを通知することができる。それにより、仮想オブジェクト70が突然非表示状態になることに起因してユーザが仮想オブジェクト70を見失うことを抑制することができる。
 なお、上記では、通知オブジェクトの表示が開始された後において設定時間が経過した場合に、通知オブジェクトの表示が終了する例について説明したが、通知オブジェクトの表示の終了のトリガはこのような例に限定されない。例えば、制御部150は、通知オブジェクトの表示が開始された後において、表示装置1の動きが所定時間停止したと判定された場合に通知オブジェクトの表示を終了してもよい。制御部150は、例えば、位置姿勢情報に基づいて、表示装置1の動きが所定時間停止したか否かを判定し得る。それにより、ユーザが通知オブジェクトを視認する前に通知オブジェクトの表示が終了することを抑制することができる。
   (2-2-4.補足)
 上記では、図6を参照して、仮想オブジェクト70が遷移表示の開始直前及び遷移表示の終了直後の双方において表示領域50内に表示されないと判定される場合に、遷移表示制御が実行されない例について説明したが、制御部150は、そのような場合に遷移表示制御を実行してもよい。例えば、制御部150は、そのような場合に仮想オブジェクト70の重畳位置を位置姿勢情報の補正前の通常表示制御における重畳位置から補正後の通常表示制御における重畳位置へ徐々に変化させてもよい。
 図22は、仮想オブジェクト70が遷移表示の開始直前及び遷移表示の終了直後の双方において表示領域50内に表示されないと判定される場合における遷移表示制御による表示の推移例を示す説明図である。図22では、補正前の通常表示制御における重畳位置である位置P41及び補正後の通常表示制御における重畳位置である設定位置P42が示されている。補正前の通常表示制御における重畳位置である位置P41及び補正後の通常表示制御における重畳位置である設定位置P42はともに表示領域50外に位置し得る。
 例えば、時刻T91において、上記の遷移表示制御が実行されると、仮想オブジェクト70の重畳位置が位置P41に調整される。それにより、図22に示されるように、遷移表示の開始直前と同様に、表示領域50内には仮想オブジェクト70が表示されない。その後、仮想オブジェクト70の重畳位置が表示領域50外において位置P41から設定位置P42へ段階的に変化する。
 具体的には、時刻T91より後の時刻T92における仮想オブジェクト70の重畳位置は、時刻T91と比較して設定位置P42に近づいている。また、時刻T92より後の時刻T93における仮想オブジェクト70の重畳位置は、時刻T92と比較してさらに設定位置P42に近づいている。そして、時刻T94において、仮想オブジェクト70が設定位置P42に表示された状態で、遷移表示制御が通常表示制御へ切り替えられる。
 このような遷移表示制御が実行されることにより、位置姿勢情報の補正が行われた際に、表示領域50内に表示されていない仮想オブジェクト70の重畳位置が表示領域50外において徐々に変化する。例えば、ユーザが一時的に仮想オブジェクト70から視界を外したことにより仮想オブジェクト70の重畳位置が表示領域50外になったタイミングで位置姿勢情報の補正が行われる場合が考えられる。このような場合に、仮想オブジェクト70の重畳位置を表示領域50外において徐々に変化させることによって、位置姿勢情報の補正直後に視線を戻したユーザが仮想オブジェクト70を見失うことを抑制することができる。
 また、上記では、ユーザが仮想オブジェクト70を視認しているか否かに基づいた表示制御について言及しなかったが、制御部150は、ユーザが仮想オブジェクト70を視認しているか否かの判定結果に基づいて遷移表示を実行するよう表示装置1を制御してもよい。
 例えば、制御部150は、ユーザが仮想オブジェクト70を視認していないと判定された場合に遷移表示を停止し、その後、ユーザが仮想オブジェクト70を視認していると判定された場合に遷移表示を再開するよう表示装置1を制御する。具体的には、制御部150は、遷移表示制御として仮想オブジェクト70の重畳位置又は視認性を徐々に変化させる表示制御を実行する場合において、ユーザが仮想オブジェクト70を視認していると判定されるときに限り、仮想オブジェクト70の重畳位置又は視認性を徐々に変化させてもよい。
 また、例えば、制御部150は、ユーザが仮想オブジェクト70を視認していないと判定された場合に、ユーザが仮想オブジェクト70を視認していると判定された場合と比較して、遷移表示における仮想オブジェクト70の重畳位置又は視認性の変化速度を大きくしてもよい。それにより、ユーザが仮想オブジェクト70の重畳位置又は視認性の変化に気づきにくい状態において、重畳位置又は視認性を迅速に変化させることができる。
 制御部150は、例えば、ユーザの視線の検出結果に基づいて、ユーザが仮想オブジェクト70を視認しているか否かを判定してもよい。具体的には、ユーザの視線を検出する視線センサを用いることによってユーザの視線の検出が実現される。視線センサは、例えば、表示装置1におけるユーザの顔と対向する部分に設けられ、ユーザの顔を撮像し、撮像により得られる画像に対して画像処理を行うことによってユーザの視線を検出し得る。具体的には、視線センサは、ユーザの顔の向きに基づいてユーザの視線を検出してもよく、角膜反射法を用いてユーザの視線を検出してもよい。
 また、制御部150は、例えば、仮想オブジェクト70が表示領域50内に表示されているか否かに基づいて、ユーザが仮想オブジェクト70を視認しているか否かを判定してもよい。具体的には、制御部150は、仮想オブジェクト70が表示領域50内に表示されていることをもって、ユーザが仮想オブジェクト70を視認していると判定し得る。
 上述したように、制御部150は、例えば、仮想オブジェクト70が遷移表示の終了直後において表示領域50内に表示されると判定される場合、第1遷移表示制御又は第2遷移表示制御において、仮想オブジェクト70の重畳位置又は視認性を徐々に変化させる。また、上述したように、制御部150は、例えば、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示され、かつ、遷移表示の終了直後において表示領域50内に表示されないと判定された場合、第3遷移表示制御において、通知オブジェクトを表示させる。ここで、各遷移表示制御において実行される表示制御は、このような例に限定されない。
 例えば、第1遷移表示制御及び第2遷移表示制御において、仮想オブジェクト70の重畳位置又は視認性を徐々に変化させる表示制御に加えて通知オブジェクトを表示させる表示制御が実行されてもよい。
 また、例えば、第3遷移表示制御において、仮想オブジェクト70の重畳位置又は視認性を徐々に変化させる表示制御が実行されてもよい。なお、第3遷移表示制御において、通知オブジェクトを表示させる表示制御に加えて仮想オブジェクト70の重畳位置又は視認性を徐々に変化させる表示制御が実行されてもよい。
 また、例えば、各遷移表示制御において、仮想オブジェクト70の重畳位置を徐々に変化させる表示制御と、仮想オブジェクト70の視認性を徐々に変化させる表示制御とが並行して実行されてもよい。具体的には、制御部150は、各遷移表示制御において、仮想オブジェクト70の視認性が重畳位置の移動の開始後に減少し重畳位置の移動の終了前に増大するように、仮想オブジェクト70の重畳位置及び視認性を徐々に変化させてもよい。
 また、上記では、表示領域50内に設定位置と対応付けられた仮想オブジェクトが複数表示される例について言及していないが、例えば、そのような場合において、制御部150は、複数の仮想オブジェクトのうちの一部の仮想オブジェクトについてのみ遷移表示制御を実行してもよい。例えば、制御部150は、ユーザが視認していると判定される仮想オブジェクトについてのみ遷移表示制御を実行してもよい。具体的には、制御部150は、第3遷移表示制御において、ユーザが視認していると判定される仮想オブジェクトについてのみ通知オブジェクトを表示してもよい。制御部150は、例えば、ユーザの視線の検出結果に基づいて、ユーザがいずれの仮想オブジェクトを視認しているか否かを判定し得る。このように、ユーザが視認していると判定される仮想オブジェクトについてのみ遷移表示制御が実行されることによって、遷移表示制御により過剰な情報がユーザへ呈示されることを抑制することができる。
 <3.情報処理装置の効果>
 続いて、本実施形態に係る情報処理装置100の効果について説明する。
 本実施形態に係る情報処理装置100では、移動体としての表示装置1の位置姿勢情報の補正が第1の位置姿勢情報から当該第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、第1の位置姿勢情報に基づいて仮想オブジェクト70が表示される第1の表示状態から第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう表示装置1が制御される。それにより、位置姿勢情報の補正前後において仮想オブジェクト70の重畳位置が急峻に変化することに起因して、ユーザによるAR技術の円滑な利用が困難となることを抑制することができる。ゆえに、ユーザによるAR技術の利用を円滑化することができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、仮想オブジェクト70の重畳位置を徐々に変化させるよう表示装置1が制御され得る。それにより、位置姿勢情報の補正前後において仮想オブジェクト70の重畳位置が急峻に変化することに起因してユーザへ違和感が与えられること及びユーザが前方を見づらくなることを抑制することができる。ゆえに、ユーザによるAR技術の利用を円滑化することを効果的に実現することができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、移動体としての表示装置1の位置又は姿勢の変化速度が第1の変化速度である場合、表示装置1の位置又は姿勢の変化速度が当該第1の変化速度よりも小さい第2の変化速度である場合よりも、仮想オブジェクト70の重畳位置の変化速度が大きくなるよう表示装置1が制御され得る。ここで、表示装置1の位置又は姿勢の変化速度が大きいほど、ユーザは仮想オブジェクト70の重畳位置の変化に気づきにくいことが期待される。ゆえに、仮想オブジェクト70の重畳位置の変化速度を表示装置1の位置又は姿勢の変化速度に基づいて制御することによって、ユーザへ違和感が与えられることを抑制しつつ、重畳位置を迅速に変化させることができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、仮想オブジェクト70が動的オブジェクトである場合、仮想オブジェクト70が非動的オブジェクトである場合よりも、仮想オブジェクト70の重畳位置の変化速度が大きくなるよう表示装置1が制御され得る。ここで、仮想オブジェクト70が動的オブジェクトである場合には、仮想オブジェクト70が非動的オブジェクトである場合と比較して、ユーザは仮想オブジェクト70の重畳位置の変化に気づきにくいことが期待される。ゆえに、仮想オブジェクト70の重畳位置の変化速度を仮想オブジェクト70が動的オブジェクトであるか否かに基づいて制御することによって、ユーザへ違和感が与えられることを抑制しつつ、重畳位置を迅速に変化させることができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、移動体としての表示装置1の位置と仮想オブジェクト70の重畳位置とを結ぶ直線に沿った方向へ重畳位置を優先的に変化させるよう表示装置1が制御され得る。ここで、表示装置1の位置と仮想オブジェクト70の重畳位置とを結ぶ直線に沿った方向へ重畳位置が移動する場合には、他の方向へ重畳位置が移動する場合と比較して、ユーザは仮想オブジェクト70の重畳位置の変化に気づきにくいことが期待される。ゆえに、表示装置1の位置と仮想オブジェクト70の重畳位置とを結ぶ直線に沿った方向へ重畳位置を優先的に変化させることによって、ユーザへ違和感が与えられることを抑制しつつ、重畳位置を迅速に変化させることができる。
 また、本実施形態に係る情報処理装置100では、仮想オブジェクト70が遷移表示の終了直後において表示装置1の表示領域50内に表示されると判定される場合、遷移表示において、仮想オブジェクト70の重畳位置を徐々に変化させるよう表示装置1が制御され得る。このような場合において仮に遷移表示制御が実行されないと、表示領域50内に表示される仮想オブジェクト70が急峻に移動し得るので、ユーザへ違和感が与えられ得る。あるいは、仮想オブジェクト70が表示領域50内に突然表示され得るので、ユーザが前方を見づらくなり得る。ゆえに、このような場合において仮想オブジェクト70の重畳位置を徐々に変化させることによって、位置姿勢情報の補正前後においてユーザへ違和感が与えられること及びユーザが前方を見づらくなることを適切に抑制することができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、仮想オブジェクト70の視認性を徐々に変化させるよう表示装置1が制御され得る。それにより、位置姿勢情報の補正前後において仮想オブジェクト70の重畳位置が急峻に変化することに起因してユーザへ違和感が与えられること及びユーザが前方を見づらくなることを抑制することができる。ゆえに、ユーザによるAR技術の利用を円滑化することを効果的に実現することができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、移動体としての表示装置1の位置又は姿勢の変化速度が第1の変化速度である場合、表示装置1の位置又は姿勢の変化速度が当該第1の変化速度よりも小さい第2の変化速度である場合よりも、仮想オブジェクト70の視認性の変化速度が大きくなるよう表示装置1が制御され得る。ここで、表示装置1の位置又は姿勢の変化速度が大きいほど、ユーザは仮想オブジェクト70の視認性の変化に気づきにくいことが期待される。ゆえに、仮想オブジェクト70の視認性の変化速度を表示装置1の位置又は姿勢の変化速度に基づいて制御することによって、ユーザへ違和感が与えられることを抑制しつつ、視認性を迅速に変化させることができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、仮想オブジェクト70の透明度を徐々に変化させることによって仮想オブジェクト70の視認性を徐々に変化させるよう表示装置1が制御され得る。それにより、仮想オブジェクト70を表示領域50内においてフェードイン又はフェードアウトさせることができるので、仮想オブジェクト70の視認性を効果的に変化させることができる。
 また、本実施形態に係る情報処理装置100では、仮想オブジェクト70が遷移表示の終了直後において表示領域50内に表示されると判定される場合、遷移表示において、仮想オブジェクト70の視認性を徐々に変化させるよう表示装置1が制御され得る。このような場合において仮に遷移表示制御が実行されないと、表示領域50内に表示される仮想オブジェクト70が急峻に移動し得るので、ユーザへ違和感が与えられ得る。あるいは、仮想オブジェクト70が表示領域50内に突然表示され得るので、ユーザが前方を見づらくなり得る。ゆえに、このような場合において仮想オブジェクト70の視認性を徐々に変化させることによって、位置姿勢情報の補正前後においてユーザへ違和感が与えられること及びユーザが前方を見づらくなることを適切に抑制することができる。
 また、本実施形態に係る情報処理装置100では、遷移表示において、仮想オブジェクト70の表示状態を、第1の位置姿勢情報に基づく第1の表示状態から第2の位置姿勢情報に基づく第2の表示状態に瞬間的に変更するとともに遷移表示の実行を通知する通知オブジェクトを表示するよう表示装置1が制御され得る。それにより、位置姿勢情報の補正前後において仮想オブジェクト70の重畳位置が急峻に変化することに起因してユーザが仮想オブジェクト70を見失うことを抑制することができる。ゆえに、ユーザによるAR技術の利用を円滑化することを効果的に実現することができる。
 また、本実施形態に係る情報処理装置100では、遷移表示制おいて、テキストオブジェクトを通知オブジェクトとして表示するよう表示装置1が制御され得る。それにより、仮想オブジェクト70の重畳位置が変化したことを適切にユーザに通知することができる。
 また、本実施形態に係る情報処理装置100では、仮想オブジェクト70が遷移表示の開始直前において表示領域50内に表示され、かつ、遷移表示の終了直後において表示領域50内に表示されないと判定された場合、遷移表示において、通知オブジェクトを表示するよう表示装置1が制御され得る。このような場合において仮に遷移表示制御が実行されないと、表示領域50内に表示されていた仮想オブジェクト70が突然非表示状態になり得る。それにより、位置姿勢情報の補正前後においてユーザが仮想オブジェクト70を見失うおそれがある。ゆえに、このような場合において通知オブジェクトを表示させることによって、位置姿勢情報の補正前後においてユーザが仮想オブジェクト70を見失うことを適切に抑制することができる。
 また、本実施形態に係る情報処理装置100では、ユーザが仮想オブジェクト70を視認しているか否かの判定結果に基づいて、遷移表示を実行するよう表示装置1が制御され得る。それにより、仮想オブジェクト70の重畳位置又は視認性の変化のユーザによる気づきやすさに基づいて適切に遷移表示制御を実行することができる。
 また、本実施形態に係る情報処理装置100では、ユーザの視線の検出結果に基づいて、ユーザが仮想オブジェクト70を視認しているか否かが判定され得る。それにより、ユーザが仮想オブジェクト70を視認しているか否かを適切に判定することができる。
 また、本実施形態に係る情報処理装置100では、ユーザが仮想オブジェクト70を視認していないと判定された場合に遷移表示を停止し、その後、ユーザが仮想オブジェクト70を視認していると判定された場合に遷移表示を再開するよう表示装置1が制御され得る。それにより、位置姿勢情報の補正によって状態遷移が生じたことをユーザへより適切に認識させることができる。
 また、本実施形態に係る情報処理装置100では、位置姿勢センサ30により検出される位置姿勢情報の誤差が閾値以上である場合に、位置姿勢情報が補正され得る。それにより、仮想オブジェクト70の重畳位置と設定位置との間のズレを適切に抑制することができる。
 <4.まとめ>
 以上説明したように、本実施形態に係る情報処理装置100では、実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置姿勢情報に基づいて実空間に重畳するよう表示装置1を制御する制御部150を備える。また、制御部150は、位置姿勢情報が、第1の位置姿勢情報から当該第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、第1の位置姿勢情報に基づいて仮想オブジェクト70が表示される第1の表示状態から第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう表示装置1を制御する。それにより、ユーザによるAR技術の利用を円滑化することができる。
 なお、上述では、情報処理装置100が行う各処理において用いられる情報が情報処理装置100の記憶部120に記憶される例を説明したが、そのような情報は、情報処理装置100の外部の装置に記憶されてもよい。その場合、通信部110が当該外部の装置と通信を行うことによって、情報処理装置100はそのような情報を取得し得る。なお、その場合、情報処理装置100の構成から記憶部120が省略されてもよい。
 また、上述では、位置姿勢センサ30が表示装置1に設けられる例について説明したが、位置姿勢センサ30は表示装置1の外部に設けられてもよい。換言すると、位置姿勢センサ30は、必ずしも表示装置1と一体として移動しなくてもよい。例えば、位置姿勢センサ30は、車両、路上又は建物等に設けられてもよい。そのような場合であっても、情報処理装置100は、位置姿勢センサ30と通信することによって、位置姿勢センサ30により検出された表示装置1の位置及び姿勢に関する情報を取得し得る。
 また、上述では、情報処理装置100が表示装置1に設けられる例について説明したが、情報処理装置100は表示装置1の外部に設けられてもよい。換言すると、情報処理装置100は、必ずしも表示装置1と一体として移動しなくてもよい。そのような場合であっても、情報処理装置100は、表示装置1と通信することによって、表示装置1の動作を制御し得る。
 なお、本明細書において説明した各装置による一連の制御処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記憶媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、実行時にRAMに読み込まれ、CPUなどのプロセッサにより実行される。各プログラムを実行するプロセッサは、単数であっても複数であってもよい。
 具体的には、上述のような情報処理装置100の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。情報処理装置100は、コンピュータに相当し得る。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。また、情報処理装置100の各機能は複数のコンピュータにより分割されてもよく、その場合、当該複数のコンピュータが有する各機能は、上記のコンピュータプログラムにより実現され得る。
 また、本明細書においてフローチャートを用いて説明した処理は、必ずしもフローチャートに示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲は係る例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう表示装置を制御する制御部と、
 前記位置姿勢情報を補正する補正部と、
 を備え、
 前記制御部は、前記位置姿勢情報が、第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
 情報処理装置。
(2)
 前記制御部は、前記遷移表示において、前記仮想オブジェクトの重畳位置を徐々に変化させるよう前記表示装置を制御する、
 前記(1)に記載の情報処理装置。
(3)
 前記制御部は、前記遷移表示において、前記移動体の位置又は姿勢の変化速度が第1の変化速度である場合、前記移動体の位置又は姿勢の変化速度が前記第1の変化速度よりも小さい第2の変化速度である場合よりも、前記重畳位置の変化速度が大きくなるよう前記表示装置を制御する、
 前記(2)に記載の情報処理装置。
(4)
 前記制御部は、前記遷移表示において、前記仮想オブジェクトが動的オブジェクトである場合、前記仮想オブジェクトが非動的オブジェクトである場合よりも、前記重畳位置の変化速度が大きくなるよう前記表示装置を制御する、
 前記(2)又は(3)に記載の情報処理装置。
(5)
 前記制御部は、前記遷移表示において、前記移動体の位置と前記重畳位置とを結ぶ直線に沿った方向へ前記重畳位置を優先的に変化させるよう前記表示装置を制御する、
 前記(2)~(4)のいずれか一項に記載の情報処理装置。
(6)
 前記制御部は、前記仮想オブジェクトが前記遷移表示の終了直後において前記表示装置の表示領域内に表示されると判定される場合、前記遷移表示において、前記重畳位置を徐々に変化させるよう前記表示装置を制御する、
 前記(2)~(5)のいずれか一項に記載の情報処理装置。
(7)
 前記制御部は、前記遷移表示において、前記仮想オブジェクトの視認性を徐々に変化させるよう前記表示装置を制御する、
 前記(1)~(6)のいずれか一項に記載の情報処理装置。
(8)
 前記制御部は、前記遷移表示において、前記移動体の位置又は姿勢の変化速度が第1の変化速度である場合、前記移動体の位置又は姿勢の変化速度が前記第1の変化速度よりも小さい第2の変化速度である場合よりも、前記視認性の変化速度が大きくなるよう前記表示装置を制御する、
 前記(7)に記載の情報処理装置。
(9)
 前記制御部は、前記遷移表示において、前記仮想オブジェクトの透明度を徐々に変化させることによって前記視認性を徐々に変化させるよう前記表示装置を制御する、
 前記(7)又は(8)に記載の情報処理装置。
(10)
 前記制御部は、前記仮想オブジェクトが前記遷移表示の終了直後において表示領域内に表示されると判定される場合、前記遷移表示において、前記視認性を徐々に変化させるよう前記表示装置を制御する、
 前記(7)~(9)のいずれか一項に記載の情報処理装置。
(11)
 前記制御部は、前記遷移表示において、前記仮想オブジェクトの表示状態を、前記第1の位置姿勢情報に基づく前記第1の表示状態から前記第2の位置姿勢情報に基づく前記第2の表示状態に瞬間的に変更するとともに前記遷移表示の実行を通知する通知オブジェクトを表示するよう前記表示装置を制御する、
 前記(1)~(10)のいずれか一項に記載の情報処理装置。
(12)
 前記制御部は、前記遷移表示において、テキストオブジェクトを前記通知オブジェクトとして表示するよう前記表示装置を制御する、
 前記(11)に記載の情報処理装置。
(13)
 前記制御部は、前記仮想オブジェクトが前記遷移表示の開始直前において表示領域内に表示され、かつ、前記遷移表示の終了直後において当該表示領域内に表示されないと判定された場合、前記遷移表示において、前記通知オブジェクトを表示するよう前記表示装置を制御する、
 前記(11)又は(12)に記載の情報処理装置。
(14)
 前記制御部は、ユーザが前記仮想オブジェクトを視認しているか否かの判定結果に基づいて、前記遷移表示を実行するよう前記表示装置を制御する、
 前記(1)~(13)のいずれか一項に記載の情報処理装置。
(15)
 前記制御部は、前記ユーザの視線の検出結果に基づいて、前記ユーザが前記仮想オブジェクトを視認しているか否かを判定する、
 前記(14)に記載の情報処理装置。
(16)
 前記制御部は、前記ユーザが前記仮想オブジェクトを視認していないと判定された場合に前記遷移表示を停止し、その後、前記ユーザが前記仮想オブジェクトを視認していると判定された場合に前記遷移表示を再開するよう前記表示装置を制御する、
 前記(14)又は(15)に記載の情報処理装置。
(17)
 前記表示装置は、ヘッドマウントディスプレイである、
 前記(1)~(16)のいずれか一項に記載の情報処理装置。
(18)
 前記位置姿勢情報は、前記移動体の位置及び姿勢を検出する位置姿勢センサによって検出され、
 前記補正部は、前記位置姿勢センサにより検出される前記位置姿勢情報の誤差が閾値以上である場合に、前記位置姿勢情報を補正する、
 前記(1)~(17)のいずれか一項に記載の情報処理装置。
(19)
 実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう情報処理装置によって表示装置を制御することと、
 前記位置姿勢情報を補正することと、
 を含み、
 前記位置姿勢情報が第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
 情報処理方法。
(20)
 コンピュータを、
 実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう表示装置を制御する制御部と、
 前記位置姿勢情報を補正する補正部と、
 として機能させるためのプログラムであって、
 前記制御部は、前記位置姿勢情報が、第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
 プログラム。
1 表示装置
20 カメラ
30 位置姿勢センサ
50 表示領域
70 仮想オブジェクト
100 情報処理装置
110 通信部
120 記憶部
130 更新部
140 補正部
150 制御部

Claims (20)

  1.  実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう表示装置を制御する制御部と、
     前記位置姿勢情報を補正する補正部と、
     を備え、
     前記制御部は、前記位置姿勢情報が、第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
     情報処理装置。
  2.  前記制御部は、前記遷移表示において、前記仮想オブジェクトの重畳位置を徐々に変化させるよう前記表示装置を制御する、
     請求項1に記載の情報処理装置。
  3.  前記制御部は、前記遷移表示において、前記移動体の位置又は姿勢の変化速度が第1の変化速度である場合、前記移動体の位置又は姿勢の変化速度が前記第1の変化速度よりも小さい第2の変化速度である場合よりも、前記重畳位置の変化速度が大きくなるよう前記表示装置を制御する、
     請求項2に記載の情報処理装置。
  4.  前記制御部は、前記遷移表示において、前記仮想オブジェクトが動的オブジェクトである場合、前記仮想オブジェクトが非動的オブジェクトである場合よりも、前記重畳位置の変化速度が大きくなるよう前記表示装置を制御する、
     請求項2に記載の情報処理装置。
  5.  前記制御部は、前記遷移表示において、前記移動体の位置と前記重畳位置とを結ぶ直線に沿った方向へ前記重畳位置を優先的に変化させるよう前記表示装置を制御する、
     請求項2に記載の情報処理装置。
  6.  前記制御部は、前記仮想オブジェクトが前記遷移表示の終了直後において前記表示装置の表示領域内に表示されると判定される場合、前記遷移表示において、前記重畳位置を徐々に変化させるよう前記表示装置を制御する、
     請求項2に記載の情報処理装置。
  7.  前記制御部は、前記遷移表示において、前記仮想オブジェクトの視認性を徐々に変化させるよう前記表示装置を制御する、
     請求項1に記載の情報処理装置。
  8.  前記制御部は、前記遷移表示において、前記移動体の位置又は姿勢の変化速度が第1の変化速度である場合、前記移動体の位置又は姿勢の変化速度が前記第1の変化速度よりも小さい第2の変化速度である場合よりも、前記視認性の変化速度が大きくなるよう前記表示装置を制御する、
     請求項7に記載の情報処理装置。
  9.  前記制御部は、前記遷移表示において、前記仮想オブジェクトの透明度を徐々に変化させることによって前記視認性を徐々に変化させるよう前記表示装置を制御する、
     請求項7に記載の情報処理装置。
  10.  前記制御部は、前記仮想オブジェクトが前記遷移表示の終了直後において表示領域内に表示されると判定される場合、前記遷移表示において、前記視認性を徐々に変化させるよう前記表示装置を制御する、
     請求項7に記載の情報処理装置。
  11.  前記制御部は、前記遷移表示において、前記仮想オブジェクトの表示状態を、前記第1の位置姿勢情報に基づく前記第1の表示状態から前記第2の位置姿勢情報に基づく前記第2の表示状態に瞬間的に変更するとともに前記遷移表示の実行を通知する通知オブジェクトを表示するよう前記表示装置を制御する、
     請求項1に記載の情報処理装置。
  12.  前記制御部は、前記遷移表示において、テキストオブジェクトを前記通知オブジェクトとして表示するよう前記表示装置を制御する、
     請求項11に記載の情報処理装置。
  13.  前記制御部は、前記仮想オブジェクトが前記遷移表示の開始直前において表示領域内に表示され、かつ、前記遷移表示の終了直後において当該表示領域内に表示されないと判定された場合、前記遷移表示において、前記通知オブジェクトを表示するよう前記表示装置を制御する、
     請求項11に記載の情報処理装置。
  14.  前記制御部は、ユーザが前記仮想オブジェクトを視認しているか否かの判定結果に基づいて、前記遷移表示を実行するよう前記表示装置を制御する、
     請求項1に記載の情報処理装置。
  15.  前記制御部は、前記ユーザの視線の検出結果に基づいて、前記ユーザが前記仮想オブジェクトを視認しているか否かを判定する、
     請求項14に記載の情報処理装置。
  16.  前記制御部は、前記ユーザが前記仮想オブジェクトを視認していないと判定された場合に前記遷移表示を停止し、その後、前記ユーザが前記仮想オブジェクトを視認していると判定された場合に前記遷移表示を再開するよう前記表示装置を制御する、
     請求項14に記載の情報処理装置。
  17.  前記表示装置は、ヘッドマウントディスプレイである、
     請求項1に記載の情報処理装置。
  18.  前記位置姿勢情報は、前記移動体の位置及び姿勢を検出する位置姿勢センサによって検出され、
     前記補正部は、前記位置姿勢センサにより検出される前記位置姿勢情報の誤差が閾値以上である場合に、前記位置姿勢情報を補正する、
     請求項1に記載の情報処理装置。
  19.  実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう情報処理装置によって表示装置を制御することと、
     前記位置姿勢情報を補正することと、
     を含み、
     前記位置姿勢情報が第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
     情報処理方法。
  20.  コンピュータを、
     実空間における設定位置と対応付けられた仮想オブジェクトを移動体の位置及び姿勢を示す位置姿勢情報に基づいて前記実空間に重畳するよう表示装置を制御する制御部と、
     前記位置姿勢情報を補正する補正部と、
     として機能させるためのプログラムであって、
     前記制御部は、前記位置姿勢情報が、第1の位置姿勢情報から前記第1の位置姿勢情報に対して非連続的な第2の位置姿勢情報に補正される際に、前記第1の位置姿勢情報に基づいて前記仮想オブジェクトが表示される第1の表示状態から前記第2の位置姿勢情報に基づく第2の表示状態への状態遷移を示す遷移表示を行うよう前記表示装置を制御する、
     プログラム。
PCT/JP2018/037084 2017-12-20 2018-10-03 情報処理装置、情報処理方法及びプログラム WO2019123770A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP18891366.9A EP3731066A4 (en) 2017-12-20 2018-10-03 DATA PROCESSING DEVICE AND PROCESS, AND ASSOCIATED PROGRAM
KR1020207016033A KR102477842B1 (ko) 2017-12-20 2018-10-03 정보 처리 장치, 정보 처리 방법 및 프로그램
CN201880080507.9A CN111512272A (zh) 2017-12-20 2018-10-03 信息处理设备、信息处理方法和程序
US16/770,731 US11468868B2 (en) 2017-12-20 2018-10-03 Information processing apparatus and information processing method to perform transition display control
JP2019560814A JP7226332B2 (ja) 2017-12-20 2018-10-03 情報処理装置、情報処理方法及びプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017244026 2017-12-20
JP2017-244026 2017-12-20

Publications (1)

Publication Number Publication Date
WO2019123770A1 true WO2019123770A1 (ja) 2019-06-27

Family

ID=66992558

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/037084 WO2019123770A1 (ja) 2017-12-20 2018-10-03 情報処理装置、情報処理方法及びプログラム

Country Status (6)

Country Link
US (1) US11468868B2 (ja)
EP (1) EP3731066A4 (ja)
JP (1) JP7226332B2 (ja)
KR (1) KR102477842B1 (ja)
CN (1) CN111512272A (ja)
WO (1) WO2019123770A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023026634A1 (ja) * 2021-08-25 2023-03-02 株式会社Nttドコモ 表示制御装置
WO2023189580A1 (ja) * 2022-03-31 2023-10-05 ソニーグループ株式会社 画像処理装置及び画像処理システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112702643B (zh) * 2019-10-22 2023-07-21 上海哔哩哔哩科技有限公司 弹幕信息显示方法、装置、移动终端

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216552A (ja) * 2002-01-23 2003-07-31 Equos Research Co Ltd 情報種別表示プログラム
JP2011203823A (ja) 2010-03-24 2011-10-13 Sony Corp 画像処理装置、画像処理方法及びプログラム
WO2014188512A1 (ja) * 2013-05-21 2014-11-27 三菱電機株式会社 音声認識装置、認識結果表示装置および表示方法
WO2014203592A1 (ja) * 2013-06-17 2014-12-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP2016018213A (ja) * 2014-07-10 2016-02-01 セイコーエプソン株式会社 直接幾何学的モデル化によるhmdのキャリブレーション
JP2017015485A (ja) * 2015-06-30 2017-01-19 明伸興産株式会社 装着型ナビゲーションシステム
JP2017111723A (ja) * 2015-12-18 2017-06-22 株式会社ブリリアントサービス バイク用ヘッドマウントディスプレイ、バイク用ヘッドマウントディスプレイの制御方法およびバイク用ヘッドマウントディスプレイの制御プログラム。
WO2017134886A1 (ja) * 2016-02-02 2017-08-10 ソニー株式会社 情報処理装置、情報処理方法、及び記録媒体

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6522312B2 (en) 1997-09-01 2003-02-18 Canon Kabushiki Kaisha Apparatus for presenting mixed reality shared among operators
JP3486536B2 (ja) * 1997-09-01 2004-01-13 キヤノン株式会社 複合現実感提示装置および方法
ATE552478T1 (de) * 2004-06-03 2012-04-15 Making Virtual Solid L L C Navigationsanzeigeverfahren und vorrichtung für unterwegs unter verwendung eines head-up-displays
US20160216521A1 (en) * 2013-10-22 2016-07-28 Nippon Seiki Co., Ltd. Vehicle information projection system and projection device
JP5825328B2 (ja) * 2013-11-07 2015-12-02 コニカミノルタ株式会社 透過型hmdを有する情報表示システム及び表示制御プログラム
CN105980962B (zh) 2014-02-17 2019-07-23 索尼公司 信息处理设备和信息处理方法
JP6547741B2 (ja) 2014-05-09 2019-07-24 ソニー株式会社 情報処理システムおよび情報処理方法
GB2528699B (en) * 2014-07-29 2017-05-03 Sony Computer Entertainment Europe Ltd Image processing
US9652047B2 (en) * 2015-02-25 2017-05-16 Daqri, Llc Visual gestures for a head mounted device
US9852547B2 (en) * 2015-03-23 2017-12-26 International Business Machines Corporation Path visualization for augmented reality display device based on received data and probabilistic analysis
JP6596883B2 (ja) * 2015-03-31 2019-10-30 ソニー株式会社 ヘッドマウントディスプレイ及びヘッドマウントディスプレイの制御方法、並びにコンピューター・プログラム
CN106330200B (zh) 2015-07-09 2019-09-10 华邦电子股份有限公司 执行于通量图形处理器的低密度奇偶校验解码方法
US10586464B2 (en) * 2015-07-29 2020-03-10 Warren F. LeBlanc Unmanned aerial vehicles
US10373392B2 (en) * 2015-08-26 2019-08-06 Microsoft Technology Licensing, Llc Transitioning views of a virtual model
JP6556015B2 (ja) 2015-10-09 2019-08-07 ソニー株式会社 情報処理装置、位置および/または姿勢の推定方法、およびコンピュータプログラム
JP6723743B2 (ja) 2015-12-28 2020-07-15 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
JP2017129904A (ja) 2016-01-18 2017-07-27 ソニー株式会社 情報処理装置、情報処理方法、及び記録媒体

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216552A (ja) * 2002-01-23 2003-07-31 Equos Research Co Ltd 情報種別表示プログラム
JP2011203823A (ja) 2010-03-24 2011-10-13 Sony Corp 画像処理装置、画像処理方法及びプログラム
WO2014188512A1 (ja) * 2013-05-21 2014-11-27 三菱電機株式会社 音声認識装置、認識結果表示装置および表示方法
WO2014203592A1 (ja) * 2013-06-17 2014-12-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP2016018213A (ja) * 2014-07-10 2016-02-01 セイコーエプソン株式会社 直接幾何学的モデル化によるhmdのキャリブレーション
JP2017015485A (ja) * 2015-06-30 2017-01-19 明伸興産株式会社 装着型ナビゲーションシステム
JP2017111723A (ja) * 2015-12-18 2017-06-22 株式会社ブリリアントサービス バイク用ヘッドマウントディスプレイ、バイク用ヘッドマウントディスプレイの制御方法およびバイク用ヘッドマウントディスプレイの制御プログラム。
WO2017134886A1 (ja) * 2016-02-02 2017-08-10 ソニー株式会社 情報処理装置、情報処理方法、及び記録媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3731066A4

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023026634A1 (ja) * 2021-08-25 2023-03-02 株式会社Nttドコモ 表示制御装置
WO2023189580A1 (ja) * 2022-03-31 2023-10-05 ソニーグループ株式会社 画像処理装置及び画像処理システム

Also Published As

Publication number Publication date
EP3731066A4 (en) 2021-01-27
CN111512272A (zh) 2020-08-07
KR102477842B1 (ko) 2022-12-16
EP3731066A1 (en) 2020-10-28
JPWO2019123770A1 (ja) 2021-03-11
US20210166661A1 (en) 2021-06-03
KR20200098509A (ko) 2020-08-20
US11468868B2 (en) 2022-10-11
JP7226332B2 (ja) 2023-02-21

Similar Documents

Publication Publication Date Title
US9459692B1 (en) Virtual reality headset with relative motion head tracker
JP6837805B2 (ja) ディスプレイ・システムにおける前庭動眼反射の修正の設計および方法
US9756319B2 (en) Virtual see-through instrument cluster with live video
US20140160170A1 (en) Provision of an Image Element on a Display Worn by a User
WO2019123770A1 (ja) 情報処理装置、情報処理方法及びプログラム
KR20160147735A (ko) 헤드부 위치 검출 장치 및 헤드부 위치 검출 방법, 화상 처리 장치 및 화상 처리 방법, 표시 장치, 및 컴퓨터 프로그램
US11609428B2 (en) Information processing apparatus and information processing method
JP2017021680A (ja) ヘッドマウントディスプレイ制御方法、および、ヘッドマウントディスプレイ制御プログラム
US20200404179A1 (en) Motion trajectory determination and time-lapse photography methods, device, and machine-readable storage medium
JP2010061346A (ja) 遠隔操縦システム
WO2019142560A1 (ja) 視線を誘導する情報処理装置
JP7320736B2 (ja) 表示システム
JP2017021824A (ja) ヘッドマウントディスプレイ制御方法、および、ヘッドマウントディスプレイ制御プログラム
JP7450230B2 (ja) 表示システム
JP2005214730A (ja) 車両用画像表示装置、車両用画像表示方法及び車両用画像表示プログラム
WO2021002116A1 (ja) 情報処理装置、情報処理方法及びプログラム
WO2020208883A1 (ja) 表示システム
US20210109358A1 (en) Display system
CN112218778A (zh) 显示系统、显示装置以及显示控制方法
US20230376109A1 (en) Image processing apparatus, image processing method, and storage device
US20230162634A1 (en) Image display system
US11945310B2 (en) Display system
WO2021064938A1 (ja) 表示制御装置、表示システム、及び表示制御方法
WO2020121486A1 (ja) 表示制御装置及び表示制御方法
CN117693663A (zh) 控制方法、头戴式显示设备、控制系统及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18891366

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019560814

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2018891366

Country of ref document: EP

Effective date: 20200720