WO2021235232A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
WO2021235232A1
WO2021235232A1 PCT/JP2021/017398 JP2021017398W WO2021235232A1 WO 2021235232 A1 WO2021235232 A1 WO 2021235232A1 JP 2021017398 W JP2021017398 W JP 2021017398W WO 2021235232 A1 WO2021235232 A1 WO 2021235232A1
Authority
WO
WIPO (PCT)
Prior art keywords
operation mode
posture
determined
information processing
determination unit
Prior art date
Application number
PCT/JP2021/017398
Other languages
English (en)
French (fr)
Inventor
佑樹 田中
康隆 福本
Original Assignee
ソニーグループ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーグループ株式会社 filed Critical ソニーグループ株式会社
Priority to US17/922,764 priority Critical patent/US11954244B2/en
Publication of WO2021235232A1 publication Critical patent/WO2021235232A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A63F13/428Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/55Controlling game characters or game objects based on the game progress
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics

Definitions

  • This disclosure relates to information processing devices, information processing methods, and programs.
  • the movement of the character can be made to follow the movement of the user, and the user's immersive feeling in the game is improved.
  • problems also occur when the object is overturned. For example, when an object is overturned, the posture of the object and the posture of the user are different from each other, so that the immersive feeling is reduced as compared with when the object is moved like one's own body. Further, in order to eliminate the dissociation, if the object is processed so as to be adjusted to the user's posture immediately after rising from the fall, the operation of the object becomes unnatural. This also contributes to impairing the user's immersive feeling.
  • the present disclosure aims to eliminate the dissociation between the object and the user's posture without reducing the user's immersive feeling as much as possible when the object operated in the virtual space is subject to some kind of interference.
  • the information processing device on one aspect of the present disclosure includes an operation mode determination unit, an instruction posture calculation unit, and an object operation determination unit.
  • the operation mode determination unit determines the operation mode for the first object.
  • the instruction posture calculation unit calculates the instruction posture for the first object based on the posture of the operator of the first object.
  • the object motion determination unit determines the posture of the first object based on the instruction posture, and when the operation mode is determined to be the second operation mode, the object operation determination unit does not base the posture to the instruction posture. decide. Further, the operation mode determining unit switches the operation mode to the first operation mode when it is determined that the instruction posture satisfies the predetermined condition.
  • the dissociation between the object and the user's posture can be eliminated.
  • the operation mode determination unit determines that the instruction posture matches the posture of the first object when the operation mode is the second operation mode, the operation mode is set to the first operation mode. You may switch to.
  • the object operation determination unit causes the first object to take a predetermined pose when the operation mode is determined to be the second operation mode, and the operation mode determination unit has the instruction posture in the pose.
  • the operation mode may be switched to the first operation mode.
  • the operation mode determination unit determines that the position or movement distance of the operator satisfies the predetermined condition and the instruction posture satisfies the predetermined condition, the operation mode is changed to the first operation mode. You may switch to.
  • the operation mode determination unit is further provided with an object generation unit that generates a second object that moves in the virtual space in response to the movement of the operator when the operation mode is switched to the second operation mode.
  • an object generation unit that generates a second object that moves in the virtual space in response to the movement of the operator when the operation mode is switched to the second operation mode.
  • the object operation determination unit may set the posture of the first object according to the instruction posture when the operation mode is determined to be the first operation mode.
  • the operation mode determination unit may switch the operation mode from the first operation mode to the second operation mode when a predetermined event occurs in the virtual space.
  • the operation mode determination unit may determine the occurrence of the event based on the positional relationship between the first object and the third object existing in the virtual space.
  • the appearance of the first object may be changed when the operation mode is switched.
  • the object operation determination unit causes the first object to take a plurality of poses in order, and the operation mode determination unit has the instruction posture.
  • the operation mode may be switched to the first operation mode.
  • the operation mode determining unit may switch the operation mode to the first operation mode when it is determined that the signal from the predetermined object is received and the instruction posture satisfies the predetermined condition.
  • an image generation unit that generates an image representing at least a part of the virtual space is further provided, and the object operation determination unit is used when the operation mode is switched from the first operation mode to the second operation mode.
  • the first object may be moved into the area.
  • an object generation unit that generates a fourth object after the operation mode is switched to the second operation mode is further provided, and the object operation determination unit sets the position of the fourth object to the first position in the region. It may be adjusted to the past position of one object.
  • an object generation unit that generates a fifth object showing the locus of movement of the first object in the area may be further provided.
  • the instruction posture for the first object is calculated based on the step of determining the operation mode for the first object operated in the virtual space and the posture of the operator of the first object.
  • the first object is based on the instruction posture when the operation mode is determined to be the first operation mode, and is not based on the instruction posture when the operation mode is determined to be the second operation mode.
  • the operation mode is switched to the first operation mode when it is determined that the indicated posture satisfies a predetermined condition when the operation mode is the second operation mode.
  • the instruction posture for the first object is calculated based on the step of determining the operation mode for the first object operated in the virtual space and the posture of the operator of the first object.
  • the first object is based on the instruction posture when the operation mode is determined to be the first operation mode, and is not based on the instruction posture when the operation mode is determined to be the second operation mode.
  • the operation mode is switched to the first operation mode when it is determined that the indicated posture satisfies a predetermined condition when the operation mode is the second operation mode. , Is provided.
  • Flow chart of the whole processing of the information processing device. Flow chart of processing in the synchronization mode of the virtual space processing unit. Flowchart of processing in asynchronous mode of virtual space processing unit.
  • FIG. 1 is a diagram showing a configuration example of an information processing apparatus according to an embodiment of the present invention.
  • the information processing device 1 in the example of FIG. 1 includes a receiving unit 11, a signal analysis unit 12, a virtual space processing unit 13, an image generation unit 14, and a transmission unit 15.
  • the virtual space processing unit 13 includes a virtual space generation unit (object generation unit) 131, an instruction posture calculation unit 132, an operation mode determination unit 133, and an object operation determination unit 134.
  • the information processing device 1 in the present disclosure creates a virtual space and an object existing in the virtual space, as in the conventional game device. It is assumed that one or more objects are created, and at least one of them is operated by the user of the information processing apparatus 1.
  • the object operated by the user will be referred to as an "operation object (first object)”.
  • an object that is not operated by the user is described as a “non-operation object (third object)”.
  • the user of the information processing device 1 can also be said to be the operator of the operation object.
  • FIG. 2 is a diagram illustrating the operation of the operation object.
  • FIG. 2 shows the user 2 and the operation object 3. Since the operation object 3 exists in the virtual space, it is shown in the image 4 displaying the virtual space.
  • the user moves the operation object via an input device such as a controller or a touch panel, but in the present disclosure, the user moves the operation object by using his / her own posture.
  • the information processing apparatus 1 determines the posture of the operation object based on the posture of the user.
  • the posture of the operation object follows the posture of the user. That is, the posture of the operation object and the posture of the user are synchronized. For example, as shown in FIG. 2, when the user 2 waves his / her hand, the operation object 3 also waves his / her hand.
  • the information processing device 1 receives information from a device capable of recognizing the user's posture.
  • FIG. 3 is a diagram showing an example of means for recognizing the posture of the user.
  • FIG. 3 shows an example in which the posture of the user 2 is recognized by the sensor 5 attached to the body of the user 2.
  • the technique of the example of FIG. 3 is known as a motion capture system.
  • the sensor 5 may be a known sensor such as an acceleration sensor, an angular velocity sensor, or an IMU (Inertial Measurement Unit) sensor.
  • data indicating the position coordinates of each sensor 5 and the like are transmitted from each sensor 5 to the information processing devices 1A and 1B.
  • the information processing devices 1A and 1B synchronize the sensors 5 and recognize the posture of the user 2 based on the position coordinates of the sensors 5.
  • the position coordinates of each sensor attached to the user indicate the position of each part of the user's body, but the information processing device 1 is based on the position coordinates of each sensor and the entire user such as the standing position of the user. You may determine the position in. That is, the position coordinates of the entire user may be set as one from the position coordinates of the arm, the position coordinates of the foot, the position coordinates of the head, and the like. In this disclosure, the position of the entire user is referred to as the user's position.
  • the user's position may be the position of any part of the body. It may be the position coordinates of a specific sensor, or may be calculated based on a predetermined calculation formula such as the average of the position coordinates of each sensor. Further, the information processing apparatus 1 may also calculate the moving distance of the user between each measurement time point based on the position of the user at each measurement time point. This makes it possible to move an object in the virtual space based on the movement distance of the user.
  • various embodiments can be assumed for the information processing apparatus 1.
  • data from each sensor 5 is received by a portable information processing device 1A such as a smartphone by wired or wireless communication, and after determining the posture of the operation object 3, the head The operation object 3 may be displayed on an image display device such as the mount display 6A.
  • the data from each sensor 5 is received by a fixed information processing device 1B such as a cloud server by wireless communication, the position of the operation object 3 is determined, and then the monitor is monitored. It may be displayed on an image display device such as 6B or a projector 6C.
  • the data from the sensor 5 is directly transmitted to the information processing devices 1A and 1B, but a device for recognizing the posture is prepared separately from the information processing device 1, and each sensor is sent to the device. You may send the data.
  • the method of recognizing the user's posture is not limited to the motion capture system.
  • a known technique is known in which a user is photographed by a 3D camera or the like, and information indicating the posture of the user, which is called a skeleton, is acquired from the photographed image.
  • a device capable of generating information indicating posture such as a skeleton may be used.
  • the information processing device 1 determines the posture of the operation object based on the posture of the user thus obtained.
  • the information processing device 1 may recognize the user's posture as an instruction to the virtual space, or may execute a special event in the virtual space based on the user's posture. For example, you may execute an event such as using a special item of the game.
  • instructions other than moving the operation object do not have to be based on the user's posture.
  • instructions such as using a special item in the virtual space or changing the orientation of the image displaying the virtual space may be given via an input device such as a keyboard, mouse, or controller.
  • FIG. 4 is a diagram showing a usage example of the information processing device 1.
  • FIG. 4 shows an example of using a virtual space as a fighting game.
  • the operation objects 3A and 3B operated by the users 2A and 2B, respectively are shown in the image 4 showing the inside of the virtual space.
  • the postures of the operating objects 3A and 3B are synchronized with the postures of the users 2A and 2B, respectively.
  • Users 2A and 2B can also be said to be operators of operation objects 3A and 3B, respectively.
  • the information processing apparatus 1 when the user 2A performs a specific posture or operation, the information processing apparatus 1 that detects these performs a specific process.
  • the specific movement means that the person has changed from a specific posture to another specific posture.
  • the information processing apparatus 1 that has detected a specific posture or movement generates the non-operation object 7 and moves it away from the operation object 3A. Then, when the non-operation object 7 comes into contact with the operation object 3B, the information processing device 1 overturns the operation object 3B.
  • Overturning the operation object 3B means that the postures of the user 2B and the operation object 3B deviate from each other. Therefore, the sense of unity between the user 2B and the operation object 3B disappears, and the immersive feeling of the user 2B in the virtual space is reduced as compared with the case where the user 2B moves the operation object 3B like his / her own body. Further, in order to eliminate the dissociation, if the operation object 3B is processed so as to be adjusted to the posture of the user 2B immediately after rising from the fall, the operation of the operation object 3B becomes unnatural. This also contributes to impairing the immersive feeling of the user 2B.
  • the user voluntarily adjusts his / her posture to the posture of the operation object.
  • a predetermined event such as a collision occurs
  • the information processing apparatus 1 makes the posture of the user and the posture of the object asynchronous. Then, the instruction to the operation object is ignored until the posture of the user matches the posture of the operation object. If the posture of the user matches the posture of the operation object, synchronization is performed again. If the operation object remains inoperable, the user loses the game. Therefore, the user voluntarily adjusts the posture to the posture of the operation object in order to make the operation object re-operable.
  • instructions other than moving the operation object may be accepted.
  • the information processing apparatus 1 manages the operation mode related to the operation for the operation object, and synchronizes the posture of the user and the operation object when the operation mode is the synchronization mode (first operation mode).
  • the operation mode is the asynchronous mode (second operation mode)
  • the information processing apparatus determines the posture of the operation object without depending on the posture of the user.
  • the operation mode is switched when a specific mode switching event such as an object collision occurs.
  • FIG. 5 is a diagram illustrating the operation of the operation object at the time of asynchronous.
  • the posture of the operation object 3B shown in FIG. 4 is synchronized with the posture of the user 2B until the non-operation object 7 and the operation object 3B collide, and becomes asynchronous after the collision. Therefore, in FIG. 5, the collision is shown as a mode switching event that switches from the synchronous mode to the asynchronous mode.
  • the operation object 3B moves as if it was pushed by the non-operation object 7. That is, the physical trajectory of the operation object 3B when a force due to a collision is applied is calculated, the operation object 3B moves along the trajectory, and finally falls.
  • the operation of the operation object 3B during the period from the collision to the fall follows the trajectory calculated by the physical calculation, it is described as “physical calculation follow”.
  • the operation object 3B in FIG. 5 executes a predetermined operation after falling, and finally stops in a specific posture (pause). Such a pause at the time of stopping of the operation object in the asynchronous period is described as a synchronization waiting pose. Since the operation of the operation object 3B during the period from the fall to the synchronization waiting pause does not depend on the operation of the user 2 or the physical calculation, it is described as "automatic operation”. The content of the automatic operation is not particularly limited and may be appropriately determined.
  • synchronization waiting poses There may be a plurality of synchronization waiting poses, and which synchronization waiting pose is taken may be randomly determined, or is based on the magnitude of the impact, the colliding object, the setting of the virtual space, and the like. It may be decided.
  • the information processing device 1 synchronizes both postures again, assuming that the posture of the user and the posture of the operation object match.
  • the user 2B is in the same pose as the operation object 3B. As a result, both are resynchronized.
  • the user may be able to re-operate when the user takes the same posture as the operation object.
  • the operation object 3B falls down and lies down
  • the user 2B may also lie down to enable re-operation. In this way, the user is evoked a desire to be able to re-operate quickly, and the immersive feeling in the game increases.
  • the appearance of the operation object may be changed in order to make the user recognize that the operation is not accepted.
  • the color of the operation object may be changed.
  • the transparency of the operation object may be increased so that the background behind the operation object can be seen.
  • Weapons, equipment, etc. held by the operation object may be removed.
  • You may increase or decrease the size of the operation object. You may replace the operation object with a completely different object.
  • the main character transforms into a completely different character than before.
  • Such a story may be made into a game in a virtual space, and the operation object may be the character after transformation in the synchronous mode, and the operation object may be the character before transformation in the asynchronous mode.
  • the operation object following the story of a pilot riding on a vehicle such as a robot to compete or fight, the operation object may be the vehicle in the synchronous mode, and the operation object may be the pilot in the asynchronous mode. That is, in the asynchronous period, the operation object operated in the synchronization mode may not be displayed, and another object may take a synchronization waiting pose.
  • the operation object is stopped and the synchronization waiting pose is taken, but it is not limited to the state where the synchronization waiting pause is stopped.
  • the synchronization waiting pause may be a periodic operation.
  • the operation object may be stepped on, and the user may also step on the object to switch back to the synchronous mode.
  • the operating object may be rotated like a figure skating spin, and the user may also rotate to switch back to the synchronous mode.
  • the mode is switched back to the synchronization mode, but in that case, the operation object may take another synchronization waiting pose. That is, when the user's posture is adjusted to the first synchronization waiting pose, the operation object may take the second synchronization waiting pose, and the user may need to adjust the posture to the second synchronization waiting pose. In this way, in order to switch back to the synchronization mode, it may be necessary for the user to execute a plurality of synchronization waiting poses executed in order by the operation object in order.
  • a plurality of synchronization waiting poses may be changed with the lapse of a predetermined time, and the user may fail to switch back to the synchronization mode unless the user adjusts his / her posture to each synchronization waiting pose within the predetermined time. That is, when the operation object performs a specific operation and the user follows the specific operation, the operation may be enabled again.
  • switching from the asynchronous mode to the synchronous mode may require not only the synchronization waiting pause but also another condition. For example, if a signal from a specific device is not received, the switching from the asynchronous mode to the synchronous mode may not be performed. For example, the user may be requested to press a button of a specific device together with a synchronization waiting pause.
  • a game device capable of giving an instruction to swing a sword by a user swinging a controller that looks like a sword.
  • the information processing device 1 When the information processing device 1 is realized by using such a game device, not only the posture of the user but also the user holding the controller may be a condition for switching to the synchronization mode. In this way, the signal from the specific device, which is emitted by pressing the button of the specific device while taking the synchronization waiting pause, may be added to the mode switching condition.
  • FIG. 6 is a diagram showing an example of a resynchronization method using a user's position.
  • the operation object 3B rises from the fall, moves to the stop point 9A, and then poses. It is assumed that the user 2B also cannot be re-operated unless he / she moves from the place and then poses in order to perform resynchronization. By doing this, the element of "movement" can also be incorporated into the game.
  • the user 2B may be requested to move to the actual predetermined point 9B.
  • the movement destination may not be specified, and the movement distance may be requested to be equal to or larger than the specified value.
  • you may request to move to a specific point in the virtual space.
  • a support object (second object), which is an object that supports the user's re-operation, may be generated.
  • the support object 8 as shown by the dotted line in FIG. 6 is generated.
  • the support object 8 in FIG. 6 moves according to the movement of the user 2B.
  • the information processing device 1 deletes the support object 8 when the operation object 3 can be re-operated.
  • the appearances of the operation object 3B and the support object 8 in FIG. 6 are similar, if the user can recognize the support object in the above-mentioned asynchronous mode as in the appearance of the operation object, the support object and the operation object can be used.
  • the appearance of the object may be completely different.
  • the operation object may be the appearance of the giant robot
  • the support object may be the appearance of the pilot boarding the giant robot.
  • FIGS. 4 to 6 it is assumed that the operation object is displayed in the image.
  • VR Virtual Reality
  • an image from the user's point of view is often displayed.
  • the operation object is not displayed in the image in the synchronization mode, but the operation object is displayed in the image when the image is switched to the asynchronous mode. It will be.
  • FIG. 7 is a diagram illustrating an image from the user's point of view.
  • an image 4A showing the virtual space shown in FIG. 4 from the viewpoint of the operation object 3B is shown.
  • an image 4B showing that the operation object 3B has moved away from the position of the user 2 due to the collision with the non-operation object 7 is shown.
  • the user 2B boarded the operating object 3B, which is a robot, and operated the robot.
  • the operating object 3B was separated from the user 2B and became visible. It is in a state of being.
  • FIG. 7 shows the image 4C in which the support objects 8A to 8D are displayed.
  • the support objects 8A to 8C show the positions of the operation object 3B at a past time point, and the support objects 8D show the locus of movement.
  • the mode switching event is not limited to collisions between objects.
  • a mode switching event may be executed for an operation object of another user.
  • an entry prohibited area may be provided in the virtual space, and a mode switching event may be executed when the operation object tries to enter the area. This makes it possible to suggest to the user that the destination is prohibited from entering.
  • an object such as a wall surrounding the area where entry is prohibited may be provided, and the mode switching event may be executed by the collision between the object and the operation object.
  • the information processing device 1 requires time and effort such as pause and movement to re-operate the operation object.
  • This time and effort is useful for adjusting the difficulty level of the game and improving the taste of the game.
  • the time and effort causes a time loss. Therefore, the user will prevent the operation object from colliding with other objects.
  • the faster the speed of the operation object the longer the distance that the operation object separates at the time of collision, and the faster the speed, the longer the time required for re-operation. Therefore, the user comes to adjust the speed, and the preference of the game is improved.
  • the above processing of the information processing device 1 is not always used only for entertainment purposes. For example, it can also be used for educational purposes.
  • the user performs an ideal operation to be learned, the information processing apparatus 1 determines whether the operation is ideal based on the operation of the operation object, and if it is not the ideal operation, switches to the asynchronous mode.
  • the ideal operation may be shown by automatic operation. In this way, the user of the information processing apparatus 1 can train the ideal operation.
  • the ideal movement to be learned may be appropriately determined. For example, it may be an exercise such as dance, a medical practice such as surgery, an operation of a machine, an operation in manufacturing an article, or the like.
  • the receiving unit 11 receives an operation signal for the virtual space generated by the information processing device 1.
  • the operation signal may include the position coordinates from the sensor described above. It may also include signals from specific devices such as controllers. Other signals may be included.
  • the signal analysis unit analyzes the operation signal and recognizes the instruction to the virtual space. For example, the position coordinates from each sensor are synchronized to recognize the user's posture. The user's position and movement distance may be calculated based on the user's posture and the amount of change thereof. It also recognizes commands such as using items. As described above, the processing of the signal analysis unit may be performed by using a conventional technique such as motion capture.
  • the virtual space generation unit 131 creates and manages the virtual space. For example, it determines the range of the virtual space and creates an object that exists in the virtual space. Further, the above-mentioned restricted area may be set in the virtual space.
  • the created objects include operational objects, non-operational objects, and support objects. Further, the virtual space generation unit 131 also deletes the object and changes the appearance of the object.
  • the generation of the virtual space may be the same as the method adopted in the conventional game device or the like.
  • the instruction posture calculation unit 132 calculates the instruction posture for the operation object based on the user's posture recognized by the signal analysis unit. Since the body shape of the user and the operation object are different, the posture of the user cannot be used as the posture of the operation object. Therefore, the instruction posture calculation unit 132 calculates the posture of the operation object based on the posture of the user. The calculation may also be performed by using a conventional technique such as motion capture.
  • the posture of the operation object calculated by the instruction posture calculation unit 132 is not always the posture of the operation object. As described above, in the asynchronous mode, the posture of the operation object based on the posture of the user is ignored. Also, even in the synchronous mode, a part of the calculated posture of the operation object is changed in order to make it a natural posture when it is in contact with another object, although it is not a collision, and the actual posture is changed. It can be the posture of an object. Therefore, the posture of the operation object based on the posture of the user is described as "instruction posture" as the posture instructed to the operation object.
  • the operation mode determination unit 133 controls the switching of the operation mode by the above-mentioned information processing device 1. That is, the operation mode determination unit 133 determines whether to set the operation mode to the synchronous mode or the asynchronous mode based on the operation mode switching condition.
  • the operation mode switching condition may be the occurrence of a specific event, and the determination condition as to whether or not the event has occurred may be appropriately determined. Alternatively, the deviation from the ideal operation may be greater than or equal to a predetermined value.
  • Specific events include collisions, matching the pointing and operating object positions, matching support and operating object positions, moving the user to a given point, moving the user, using items, etc., as described above.
  • the occurrence of these objects can be determined based on the positional relationship between the objects, the moving distance, the posture of the objects, the acceleration of the objects, the indicated posture, the analysis result of the operation signal, and the like. Further, the deviation from the ideal movement may be calculated based on, for example, the distance between the position of each part of the ideal posture and the position of each part of the indicated posture at a certain time point.
  • the object operation determination unit 134 controls the determination of the posture and position of the object by the above-mentioned information processing device 1. That is, the object action determination unit 134 calculates the change in the position and posture of each object in the virtual space from the present time to the next specified time point, and determines the position and posture of each object in the virtual space at the next time point. ..
  • the calculation method may be the same as the method adopted in a conventional game device or the like. However, when the operation mode is determined to be the synchronous mode, the position of the operation object is determined based on the instruction position. That is, the posture of the operation object is calculated when the posture of the operation object is instructed to be the designated posture, and the posture of the operation object is determined based on the calculation result.
  • the position of the operation object is determined without being based on the instruction position.
  • the position of the object may be calculated in consideration of the moving distance of the user and the like. That is, the object may be moved according to the movement of the user. The ratio between the movement distance of the user and the movement distance of the object may be appropriately determined. Further, when the support object is generated, the support object may be moved to the past position of the operation object as shown in FIG.
  • the image generation unit 14 generates an image showing the posture of each object determined by the object operation determination unit.
  • the method may be the same as the method adopted in a conventional game device or the like.
  • the transmission unit 15 transmits the generated image to an image display device as shown in FIG. As a result, the image shown in FIG. 4 or the like is viewed by the user via the image display device.
  • FIG. 8 is a flowchart of the entire processing of the information processing apparatus 1. It is assumed that objects in the virtual space such as operation objects have already been created. Further, the flowchart of the present disclosure is an example, and each process does not necessarily have to be performed according to the above flow.
  • the receiving unit 11 receives the operation signal (S101).
  • the signal analysis unit 12 analyzes the received operation signal and recognizes the operation content (S102).
  • the operation content includes the posture of the user and the like.
  • the virtual space processing unit 13 determines the posture, position, etc. of each object in the virtual space based on the processing in the synchronous mode (S104). Such objects also include operational objects, non-operational objects, and support objects. The details of the process will be described later.
  • the operation mode is not the synchronous mode (NO in S103)
  • the virtual space processing unit 13 determines the posture, position, and the like of each object based on the processing in the asynchronous mode (S105). The process will also be described later.
  • the image generation unit 14 updates the image representing the virtual space according to the determined operation (S106).
  • the processing of the image generation unit 14 may be the same as the processing of the conventional game device.
  • the transmission unit 15 transmits a signal representing the updated image to the image display device (S107). As a result, an image showing a virtual space as shown in FIG. 4 or the like is displayed.
  • FIG. 9 is a flowchart of processing in the synchronous mode of the virtual space processing unit 13.
  • the instruction posture calculation unit 132 calculates the instruction posture to the operation object based on the user's posture (S201).
  • the object operation determination unit 134 calculates the posture, position, and the like of each object when the operation object is in the designated posture (S202). As described above, it is not necessary to completely match the posture of the operation object with the instruction posture, and the posture of the operation object may be partially different from the instruction posture.
  • the operation mode determination unit 133 determines whether or not the condition for switching from the synchronous mode to the asynchronous mode is satisfied based on the calculated posture of each object (S203). For example, it may be determined whether or not a collision has occurred based on the positional relationship between the operation object and another object. Further, it may be determined based on a predetermined condition such as whether the difference between the acceleration of the operation object caused by the collision and the acceleration due to the change in the designated posture is equal to or larger than the threshold value.
  • the object operation determination unit 134 calculates the posture and position by physical calculation such as falling, and determines the posture and position of the operation object (YES in S204). S205). In this way, the posture of the operation object is determined regardless of the designated posture. Then, the operation mode determination unit 133 changes the operation mode from the synchronous mode to the asynchronous mode (S206). Further, the virtual space generation unit 131 generates a support auto object (S207). If the support object is not generated, the process is omitted. In this way, this flow ends, and thereafter, processing in the asynchronous mode is performed.
  • the object operation determination unit 134 determines the posture of the operation target or the like based on the indicated posture (S208). In this way, this flow ends, and even after that, the processing in the synchronous mode is performed.
  • FIG. 10 is a flowchart of processing in the asynchronous mode of the virtual space processing unit 13.
  • the asynchronous mode is divided into physics tracking and automatic operation (including synchronization waiting pause).
  • the object motion determination unit 134 calculates the posture based on the physical calculation at the next time of the operation object, for example, the fall posture as shown in FIG. 5, and the posture of each object. , Position, etc. are determined (S302).
  • the object motion determination unit calculates the posture based on the automatic motion at the next time of the operation object, for example, the raised steric force as shown in FIG. , The posture, position, etc. of each object are determined (S303).
  • the instruction posture calculation unit calculates the instruction posture to the operation object based on the user's posture in parallel with the processing of the object operation determination unit (S304). Then, the operation mode determination unit determines whether or not the condition for switching from the asynchronous mode to the synchronous mode is satisfied based on the calculated posture of the operation object, the instruction posture to the operation object, and the like (S305). For example, it is determined whether the calculated posture of the operation object and the instruction posture to the operation object match.
  • the operation mode determination unit changes the operation mode from the asynchronous mode to the synchronous mode (S307). Further, the object management unit deletes the support auto object (S308). If the support object has not been created, the process is omitted. In this way, this flow ends, and thereafter, processing in the synchronous mode is performed. On the other hand, if it is not determined that the switching condition is satisfied (NO in S306), the mode is not changed and this flow ends. Therefore, even after that, the processing in the asynchronous mode is performed.
  • the difference in the posture of the user and the operation object caused by an action such as a fall has a game property. Let the user voluntarily resolve it. This can prevent the user's immersive feeling in the virtual space from being reduced.
  • the processing of the device in the embodiment of the present disclosure can be realized by software (program) executed by a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit), as in the case of a conventional motion capture device, a game device, or the like.
  • program executed by a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit), as in the case of a conventional motion capture device, a game device, or the like.
  • some processes may be executed by hardware such as a dedicated circuit.
  • the present disclosure may also have the following structure.
  • An operation mode determination unit that determines the operation mode for the first object operated in the virtual space
  • An instruction posture calculation unit that recognizes the posture of the operator of the first object, and When the operation mode is determined to be the first operation mode, the posture of the first object is determined based on the instruction posture, and when the operation mode is determined to be the second operation mode, the posture of the first object is determined without being based on the instruction posture.
  • Object action determination unit and Equipped with The operation mode determination unit is an information processing device that switches the operation mode to the first operation mode when it is determined that the instruction posture satisfies a predetermined condition when the operation mode is the second operation mode.
  • the operation mode determination unit determines that the instruction posture matches the posture of the first object when the operation mode is the second operation mode.
  • the operation mode determination unit switches the operation mode to the first operation mode.
  • the information processing apparatus according to [1].
  • the operation mode is determined to be the second operation mode
  • the object operation determination unit causes the first object to take a predetermined pose.
  • the information processing device according to [1] or [2], wherein the operation mode determining unit switches the operation mode to the first operation mode when it is determined that the instruction posture matches the pose.
  • the operation mode determination unit determines that the position or movement distance of the operator satisfies the predetermined condition and the instruction posture satisfies the predetermined condition, the operation mode is switched to the first operation mode.
  • the information processing apparatus according to any one of [1] to [3].
  • an object generation unit that generates a second object that moves in the virtual space in response to the movement of the operator when the operation mode is switched to the second operation mode.
  • the operation mode determination unit determines that the position of the second object matches the position of the first object and the instruction posture satisfies a predetermined condition, the operation mode is set to the first operation.
  • the information processing apparatus according to any one of [1] to [4] for switching to the mode.
  • the object operation determination unit determines the posture of the first object according to the instruction posture [1] to [5].
  • the operation mode determining unit sets the operation mode from the first operation mode to the second operation mode in any one of [1] to [6] when a predetermined event occurs in the virtual space.
  • the information processing device described.
  • the object operation determination unit causes the first object to take a plurality of poses in order.
  • the operation mode determination unit determines that the instruction posture matches the plurality of poses in the order taken by the first object, the operation mode is switched to the first operation mode [1]. Or the information processing apparatus according to any one of [9]. [11] When the operation mode determining unit determines that a signal from a predetermined object is received and the instruction posture satisfies the predetermined condition, the operation mode is switched to the first operation mode [1] to [10]. ] The information processing apparatus according to any one of the items. [12] Further, an image generation unit for generating an image representing at least a part of the virtual space is provided. The object operation determination unit moves the first object into the area when the operation mode is switched from the first operation mode to the second operation mode [1] to [11].
  • An object generation unit that generates a fourth object after the operation mode is switched to the second operation mode is further provided.
  • a step to determine the operation mode for the first object operated in the virtual space A step of calculating the instruction posture for the first object based on the posture of the operator of the first object, and When the operation mode is determined to be the first operation mode, the posture of the first object is determined based on the instruction posture, and when the operation mode is determined to be the second operation mode, the posture of the first object is determined without being based on the instruction posture. Steps to do and Equipped with An information processing method in which the operation mode is switched to the first operation mode when it is determined that the instruction posture satisfies a predetermined condition when the operation mode is the second operation mode.
  • a step to determine the operation mode for the first object operated in the virtual space A step of calculating the instruction posture for the first object based on the posture of the operator of the first object, and When the operation mode is determined to be the first operation mode, the posture of the first object is determined based on the instruction posture, and when the operation mode is determined to be the second operation mode, the posture of the first object is determined without being based on the instruction posture. Steps to do and Equipped with A program in which the operation mode is switched to the first operation mode when it is determined that the instruction posture satisfies a predetermined condition when the operation mode is the second operation mode.

Abstract

本開示は、仮想空間において操作されるオブジェクトが何らかの干渉を受ける場面において、ユーザの没入感をなるべく低下させずに、オブジェクトとユーザの各体勢の乖離を解消するための処理を行う装置などを提供する。 [解決手段] 本開示の一側面の情報処理装置は、操作モード決定部と、指示体勢算出部と、オブジェクト動作決定部と、を備える。操作モード決定部は第1オブジェクトに対する操作モードを決定する。指示体勢算出部は、第1オブジェクトの操作者の体勢に基づき、第1オブジェクトに対する指示体勢を算出する。オブジェクト動作決定部は、操作モードが第1操作モードと決定された場合は指示体勢に基づき、操作モードが第2操作モードと決定された場合は指示体勢に基づかずに、第1オブジェクトの体勢を決定する。また、操作モード決定部は、指示体勢が所定条件を満たしたと判定したときに、操作モードを第1操作モードに切り替える。

Description

情報処理装置、情報処理方法、およびプログラム
 本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
 モーションキャプチャなどの技術を用いることによってユーザの体勢を認識し、当該体勢およびその変化を操作信号とみなして、仮想空間内のオブジェクト、例えばゲーム内のキャラクターなどを動かす装置が存在する。当該装置を用いることによりキャラクターの動作をユーザの動作に追従させることができ、ゲームに対するユーザの没入感が向上される。
 このような従来技術では、オブジェクトを制限なく自由に動かせる場合は問題ないが、オブジェクトが何らかの干渉を受けるはずの場面などにおいて不都合が生じる。例えば、仮想空間内に複数のオブジェクトが存在する場合に、従来技術では、これらのオブジェクト同士が衝突せずにすり抜けるように処理することが多々ある。これでは、ユーザが現実世界との違いを認識してしまい、ユーザの没入感を損なわせることになる。ゆえに、これらのオブジェクト同士が衝突してオブジェクトが転倒するなどといった自然な動作が行われるようにする必要がある。
特許第4848515号公報
 しかし、オブジェクトを転倒させた場合にも問題が生じる。例えば、オブジェクトを転倒させた場合、オブジェクトの体勢と、ユーザの体勢と、に乖離が生じるため、自分の体のように動かしていたときと比べて、没入感が低下する。また、当該乖離を解消するため、オブジェクトが転倒から起き上がってすぐにユーザの体勢に合わせるように処理すると、オブジェクトの動作が不自然になる。これも、ユーザの没入感を損なわせる一因となる。
 上記の問題を受けて、本開示は、仮想空間において操作されるオブジェクトが何らかの干渉を受ける場面において、ユーザの没入感をなるべく低下させずに、オブジェクトとユーザの各体勢の乖離を解消するための処理を行う装置などを提供する。
 本開示の一側面の情報処理装置は、操作モード決定部と、指示体勢算出部と、オブジェクト動作決定部と、を備える。操作モード決定部は第1オブジェクトに対する操作モードを決定する。指示体勢算出部は、第1オブジェクトの操作者の体勢に基づき、第1オブジェクトに対する指示体勢を算出する。オブジェクト動作決定部は、操作モードが第1操作モードと決定された場合は指示体勢に基づき、操作モードが第2操作モードと決定された場合は指示体勢に基づかずに、第1オブジェクトの体勢を決定する。また、操作モード決定部は、指示体勢が所定条件を満たしたと判定したときに、操作モードを第1操作モードに切り替える。
 これにより、オブジェクトを再び操作可能にするために、操作者が体勢を自発的に変えるといったゲーム性が生じ、没入感の低下を防ぐことができる。また、オブジェクトとユーザの体勢の乖離も解消することができる。
 また、前記操作モード決定部は、前記操作モードが前記第2操作モードの場合に、前記指示体勢が前記第1オブジェクトの体勢と一致したと判定したときに、前記操作モードを前記第1操作モードに切り替えてもよい。
 また、前記オブジェクト動作決定部は、前記操作モードが前記第2操作モードと決定された場合に、前記第1オブジェクトに所定のポーズを取らせ、前記操作モード決定部は、前記指示体勢が前記ポーズと一致したと判定したときに、前記操作モードを前記第1操作モードに切り替えてもよい。
 また、前記操作モード決定部は、前記操作者のポジションまたは移動距離が所定条件を満たし、かつ、前記指示体勢が所定条件を満たした、と判定したときに、前記操作モードを前記第1操作モードに切り替えてもよい。
 また、前記操作モードが前記第2操作モードに切り替わった際に、前記操作者の移動に応じて前記仮想空間内を移動する第2オブジェクトを生成するオブジェクト生成部をさらに備え、前記操作モード決定部は、前記第2オブジェクトのポジションが前記第1オブジェクトのポジションと一致し、かつ、前記指示体勢が所定条件を満たした、と判定したときに、前記操作モードを前記第1操作モードに切り替える、といった構成も取りうる。
 また、前記オブジェクト動作決定部は、前記操作モードが前記第1操作モードと決定された場合に、前記第1オブジェクトの体勢を前記指示体勢に応じたものとしてもよい。
 また、前記操作モード決定部は、前記仮想空間において所定のイベントが発生した場合に、前記操作モードを前記第1操作モードから前記第2操作モードに切り替えてもよい。
 また、前記操作モード決定部は、前記第1オブジェクトと、前記仮想空間内に存在する第3オブジェクトと、の位置関係に基づき、前記イベントの発生を判定してもよい。
 また、前記操作モードが切り替わった際に、前記第1オブジェクトの外観を変化させてもよい。
 また、前記オブジェクト動作決定部は、前記操作モードが前記第2操作モードと決定された場合に、前記第1オブジェクトに複数のポーズを順番に取らせ、前記操作モード決定部は、前記指示体勢が、前記複数のポーズと、前記第1オブジェクトが取った順番通りに一致したと判定したときに、前記操作モードを前記第1操作モードに切り替えてもよい。
 また、前記操作モード決定部は、所定の物体からの信号が受信され、かつ、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードを前記第1操作モードに切り替えてもよい。
 また、前記仮想空間の少なくとも一部の領域を表す画像を生成する画像生成部をさらに備え、前記オブジェクト動作決定部は、前記操作モードが前記第1操作モードから前記第2操作モードに切り替わった際に、前記領域内に前記第1オブジェクトを移動させる、といった構成も取りうる。
 また、前記操作モードが前記第2操作モードに切り替わった後に、第4オブジェクトを生成するオブジェクト生成部をさらに備え、前記オブジェクト動作決定部は、前記第4オブジェクトのポジションを、前記領域内の前記第1オブジェクトの過去のポジションに合わせてもよい。
 また、前記操作モードが前記第2操作モードに切り替わった後に、前記領域内での前記第1オブジェクトの移動の軌跡を示す第5オブジェクトを生成するオブジェクト生成部をさらに備えていてもよい。
 また、本開示の他の一態様では、仮想空間において操作される第1オブジェクトに対する操作モードを決定するステップと、前記第1オブジェクトの操作者の体勢に基づき、前記第1オブジェクトに対する指示体勢を算出するステップと、前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するステップと、を備え、前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードが前記第1操作モードに切り替えられるという情報処理方法が提供される。
 また、本開示の他の一態様では、仮想空間において操作される第1オブジェクトに対する操作モードを決定するステップと、前記第1オブジェクトの操作者の体勢に基づき、前記第1オブジェクトに対する指示体勢を算出するステップと、前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するステップと、を備え、前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードが前記第1操作モードに切り替えられる、というプログラムが提供される。
本発明の一実施形態に係る情報処理装置の構成例を示す図。 操作オブジェクトの操作を説明する図。 ユーザの体勢を認識する手段の例を示す図。 情報処理装置の利用例を示した図。 非同期時における操作オブジェクトの動作について説明する図。 ユーザのポジションを用いた再操作の方法の例を示す図。 ユーザ視点の画像について説明する図。 情報処理装置の全体処理のフローチャート。 仮想空間処理部の同期モードにおける処理のフローチャート。 仮想空間処理部の非同期モードにおける処理のフローチャート。
 以下、図面を参照して、本開示の実施形態について説明する。
(本発明の一実施形態)
 図1は、本発明の一実施形態に係る情報処理装置の構成例を示す図である。図1の例の情報処理装置1は、受信部11と、信号解析部12と、仮想空間処理部13と、画像生成部14と、送信部15と、を備える。仮想空間処理部13は、仮想空間生成部(オブジェクト生成部)131と、指示体勢算出部132と、操作モード決定部133と、オブジェクト動作決定部134と、を備える。
 本開示における情報処理装置1は、従来のゲーム装置と同様に、仮想空間と、当該仮想空間内に存在するオブジェクトと、を生成する。オブジェクトは一つ以上生成され、そのうちの少なくとも一つは、情報処理装置1のユーザによって操作されるものとする。以降、ユーザに操作されるオブジェクトを「操作オブジェクト(第1オブジェクト)」と記載する。また、ユーザに操作されないオブジェクトを「非操作オブジェクト(第3オブジェクト)」と記載する。情報処理装置1のユーザは、操作オブジェクトの操作者とも言える。
 図2は、操作オブジェクトの操作を説明する図である。図2には、ユーザ2と、操作オブジェクト3と、が示されている。操作オブジェクト3は、仮想空間内に存在するため、仮想空間を表示する画像4内に示されている。
 多くのゲーム装置では、ユーザは、コントローラ、タッチパネルなどの入力デバイスを介して、操作オブジェクトを動かすが、本開示では、ユーザは、自身の体勢を用いて、操作オブジェクトを動かす。言い換えれば、情報処理装置1は、ユーザの体勢に基づいて操作オブジェクトの体勢を決定する。本開示においては、操作オブジェクトの体勢が、ユーザの体勢に追従するようにする。つまり、操作オブジェクトの体勢と、ユーザの体勢と、が、同期する。例えば、図2に示すように、ユーザ2が手を振ると、操作オブジェクト3も手を振る。このような操作を行うために、情報処理装置1は、ユーザの体勢を認識することが可能な装置から情報を受信する。
 図3は、ユーザの体勢を認識する手段の例を示す図である。図3では、ユーザ2の体に取り付けられたセンサ5によってユーザ2の体勢を認識する例が示されている。図3の例の技術は、モーションキャプチャシステムとして知られている。センサ5は、例えば、加速度センサ、角速度センサ、IMU(Inertial Measurement Unit)センサなど、公知のセンサなどでよい。
 図3では、各センサ5の位置座標などを示すデータが、各センサ5から情報処理装置1Aおよび1Bに送信されている。情報処理装置1Aおよび1Bは、各センサ5間の同期を取った上で、各センサ5の位置座標に基づいてユーザ2の体勢を認識する。
 なお、ユーザに取り付けられた各センサの位置座標は、当該ユーザの体の各部位の位置を示すが、情報処理装置1は、各センサの位置座標に基づいて、ユーザの立ち位置などといったユーザ全体における位置を決定してもよい。つまり、腕の位置座標、足の位置座標、頭の位置座標などから、ユーザ全体の位置座標を一つに定めてよい。本開示では、ユーザ全体の位置をユーザのポジションと記載する。
 ユーザのポジションは、体のいずれの部分の位置としてもよい。特定のセンサの位置座標としてもよいし、各センサの位置座標の平均など、所定の計算式に基づいて算出されてもよい。また、情報処理装置1は、各計測時点におけるユーザのポジションに基づいて、各計測時点間におけるユーザの移動距離も算出してもよい。これにより、ユーザの移動距離に基づいて仮想空間内のオブジェクトを移動させるといった処理も可能となる。
 なお、情報処理装置1は、様々な実施形態が想定され得る。例えば、図3に示すように、各センサ5からのデータを、有線または無線通信にて、スマートフォンなどといった携帯可能な情報処理装置1Aが受信し、操作オブジェクト3の体勢を決定した上で、ヘッドマウントディスプレイ6Aといった画像表示デバイスに操作オブジェクト3を表示させてもよい。あるいは、図3に示すように、各センサ5からのデータを、無線通信にて、クラウドサーバなどとった固定式の情報処理装置1Bが受信し、操作オブジェクト3の体勢を決定した上で、モニタ6B、プロジェクタ6Cなどの画像表示デバイスに表示させてもよい。
 また、図3では、センサ5からのデータが、直接、情報処理装置1Aおよび1Bに送信されているが、体勢を認識する装置が情報処理装置1とは別に用意され、各センサは当該装置にデータを送信してもよい。
 また、ユーザの体勢を認識する方法は、モーションキャプチャシステムに限られない。例えば、3Dカメラなどによってユーザを撮影し、撮影された画像から、スケルトンなど称されるユーザの体勢を示す情報を取得する公知技法が知られている。スケルトンのような体勢を示す情報を生成可能な装置が用いられてもよい。
 情報処理装置1は、このようにして得られたユーザの体勢に基づいて操作オブジェクトの体勢を決定する。なお、情報処理装置1は、ユーザの体勢を仮想空間に対する指示と認識してもよく、ユーザの体勢に基づいて仮想空間において特殊なイベントを実行してもよい。例えば、ゲームの特殊なアイテムを使用するといったイベントを実行してもよい。
 また、操作オブジェクトを動かすこと以外の指示は、ユーザの体勢に基づかなくてもよい。例えば、仮想空間内で特殊なアイテムを使用する、仮想空間を表示する画像の向きを変える、などといった指示は、キーボード、マウス、コントローラなどの入力デバイスを介して行われてもよい。
 図4は、情報処理装置1の利用例を示した図である。図4では、仮想空間を格闘ゲームとして利用する例が示されている。図4では、仮想空間内を示す画像4内に、ユーザ2Aおよび2Bそれぞれによって操作される操作オブジェクト3Aおよび3Bが示されている。操作オブジェクト3Aおよび3Bの体勢はそれぞれ、ユーザ2Aおよび2Bの体勢と同期している。ユーザ2Aおよび2Bはそれぞれ、操作オブジェクト3Aおよび3Bの操作者とも言える。
 図4に示すように、ユーザ2Aが特定の体勢または動作を行うと、これらを検知した情報処理装置1は、特定の処理を実行する。なお、特定の動作とは、ある特定の体勢から別の特定の体勢に推移したことを意味する。図4の例では、特定の体勢または動作を検知した情報処理装置1が非操作オブジェクト7を生成し、操作オブジェクト3Aから離れるように移動させている。そして、非操作オブジェクト7が操作オブジェクト3Bと接触したときに、情報処理装置1は、操作オブジェクト3Bを転倒させる。
 操作オブジェクト3Bを転倒させるということは、ユーザ2Bと操作オブジェクト3Bの体勢が乖離する。そのため、ユーザ2Bと操作オブジェクト3Bとの一体感がなくなり、ユーザ2Bが操作オブジェクト3Bを自分の体のように動かしていたときと比べて、ユーザ2Bの仮想空間に対する没入感が低下する。また、当該乖離をなくすため、操作オブジェクト3Bが転倒から起き上がってすぐにユーザ2Bの体勢に合わせるように処理すると、操作オブジェクト3Bの動作が不自然になる。これも、ユーザ2Bの没入感を損なわせる一因となる。
 そこで、本開示では、ユーザが自身の体勢を自発的に操作オブジェクトの体勢に合わせるように仕向ける。情報処理装置1は、衝突などの所定のイベントが発生した場合、ユーザの体勢とオブジェクトの体勢と、を非同期とする。そして、ユーザの体勢が操作オブジェクトの体勢と一致するまで、操作オブジェクトに対する指示を無視する。ユーザの体勢が操作オブジェクトの体勢が一致した場合、再び同期を行う。操作オブジェクトが操作できないままでは、ユーザはゲームに負けてしまう。そのため、ユーザは、操作オブジェクトを再操作可能にするために、自発的に体勢を操作オブジェクトの体勢に合わせることになる。なお、操作オブジェクトを動かすこと以外の指示は、受け付けてもよい。
 このような処理を実現するために、情報処理装置1は、操作オブジェクトに対する操作に関する操作モードを管理し、操作モードが同期モード(第1操作モード)の場合に、ユーザと操作オブジェクトの体勢を同期させ、情報処理装置は、操作モードが非同期モード(第2操作モード)の場合に、操作オブジェクトの体勢をユーザの体勢に依存せずに決定する。操作モードは、オブジェクトの衝突などの特定のモード切替イベントが生じた場合に、切り替えられる。
 図5は、非同期時における操作オブジェクトの動作について説明する図である。図4に示した操作オブジェクト3Bの体勢は、非操作オブジェクト7と操作オブジェクト3Bが衝突するまでは、ユーザ2Bの体勢に同期しており、衝突後は、非同期となる。そのため、図5では、衝突が、同期モードから非同期モードに切り替えるモード切替イベントとして示されている。衝突後の操作オブジェクト3Bは、非操作オブジェクト7に突き飛ばされたように動く。すなわち、衝突による力を受けた場合の操作オブジェクト3Bの物理的な軌道が演算され、当該軌道に沿って操作オブジェクト3Bが動き、最終的に転倒した状態となる。このように、衝突から転倒までの期間における操作オブジェクト3Bの動作は、物理演算で算出された軌道に追従しているため、「物理演算追従」と記載する。
 図5の操作オブジェクト3Bは、転倒後に所定の動作を実行し、最終的に、特定の体勢(ポーズ)で停止している。このような、操作オブジェクトの非同期期間における停止時のポーズを同期待ちポーズと記載する。転倒から同期待ちポーズまでの期間における操作オブジェクト3Bの動作は、ユーザ2の操作にも物理演算にもよらないことから、「自動動作」と記載する。自動動作の内容は、特に限られるものではなく、適宜に定めてよい。
 なお、同期待ちポーズは、複数あってもよく、いずれの同期待ちポーズが取られるかは、ランダムに決定されてもよいし、衝撃の大きさ、衝突したオブジェクト、仮想空間の設定などに基づいて決定されてもよい。
 ユーザが同期待ちポーズを取ると、情報処理装置1は、ユーザの体勢と操作オブジェクトの体勢が一致したとして、再び両者の体勢を同期させる。図5では、ユーザ2Bが、操作オブジェクト3Bと同様のポーズを取っている。これにより、両者の再同期が行われる。
 なお、より迅速に再操作を可能にしてもよい。例えば、同期待ちポーズが取られる前でも、ユーザが操作オブジェクトと同じ体勢を取った時点で再操作可能としてもよい。例えば、図5の例において、操作オブジェクト3Bが転倒して寝そべっているとき、ユーザ2Bも寝そべることで、再操作を可能としてもよい。このようにすると、ユーザは早く再操作可能にしたいという欲求が呼び起され、ゲームへの没入感が増すことになる。
 なお、非同期期間においては、操作を受け付けないことをユーザに認識させるために、操作オブジェクトの外観を変化させてもよい。例えば、操作オブジェクトの色彩を変えてもよい。操作オブジェクトの透過率を増加させて操作オブジェクトの後ろ側にある背景が見えるようにしてもよい。操作オブジェクトが保持する武器、装備などが外れるといった演出が行われてもよい。操作オブジェクトのサイズを増減させてもよい。操作オブジェクトを全く別のオブジェクトに入れ替えてもよい。
 例えば、従前より、主人公が変身して全く別のキャラクターになるといったストーリーは多々ある。このようなストーリーを仮想空間でゲーム化し、同期モードにおいては操作オブジェクトを変身後のキャラクターとし、非同期モードにおいては操作オブジェクトを変身前のキャラクターにしてもよい。あるいは、パイロットがロボットなどの乗り物に乗って競争したり、戦ったりするというストーリーをなぞって、同期モードにおいては操作オブジェクトを当該乗り物とし、非同期モードにおいては操作オブジェクトをパイロットにしてもよい。すなわち、非同期期間においては、同期モードにおいて操作されていた操作オブジェクトが表示されず、別のオブジェクトが同期待ちポーズを取ってもよい。
 なお、上記では、操作オブジェクトが停止して同期待ちポーズを取るとしたが、同期待ちポーズが停止した状態に限られるわけではない。例えば、同期待ちポーズが周期的な動作であってもよい。例えば、操作オブジェクトが足踏みしており、ユーザも足踏みすることによって同期モードに切戻すといったことが行われてもよい。あるいは、操作オブジェクトがフィギュアスケートのスピンのように回転しており、ユーザも回転することによって同期モードに切戻すといったことが行われてもよい。
 また、上記では、ユーザが同期待ちポーズと同じポーズを取った場合に同期モードに切戻すとしたが、その場合に、操作オブジェクトがさらに別の同期待ちポーズを取ってもよい。すなわち、ユーザの体勢が1番目の同期待ちポーズに合わせられると、操作オブジェクトが2番目の同期待ちポーズを取り、ユーザは体勢を2番目の同期待ちポーズに合わせる必要が生じるとしてもよい。このように、同期モードに切戻すためには、操作オブジェクトが順番に実行した複数の同期待ちポーズを、ユーザが順番通りに実行する必要があるとしてもよい。また、複数の同期待ちポーズを所定時間の経過で変化させ、当該所定時間内にユーザは体勢を各同期待ちポーズに合わせないと、同期モードの切戻しに失敗するとしてもよい。すなわち、操作オブジェクトが特定の動作を実行し、ユーザが当該特定の動作に追従した場合に、再操作を可能にしてもよい。
 なお、非同期モードから同期モードへの切り替えには、同期待ちポーズだけでなく、別の条件も要求してもよい。例えば、特定の機器からの信号も受け付けないと、非同期モードから同期モードへの切り替えが行われないとしてもよい。例えば、ユーザに対して、同期待ちポーズとともに、特定機器のボタンを押すことを要求してもよい。例えば、操作オブジェクトが剣を装備し、当該剣を振ることによって敵を倒すといったゲームが多々ある。このようなゲームにおいて、ユーザが剣に見立てたコントローラを振ることによって、剣を振るという指示を出すことが可能なゲーム装置が存在する。情報処理装置1がこのようなゲーム装置を用いて実現される場合、ユーザの体勢だけでなく、ユーザがコントローラを保持していることも、同期モードへの切替条件としてもよい。このように、同期待ちポーズを取るとともに、特定機器のボタンを押すなどによって発せられる特定機器からの信号を、モード切替の条件に加えてよい。
 また、ユーザのポジションを同期モードへの切替条件に加えてもよい。図6は、ユーザのポジションを用いた再同期の方法の例を示す図である。図6では、操作オブジェクト3Bは、転倒から立ち上がった後に、停止地点9Aに移動してからポーズを取っている。ユーザ2Bも、再同期を行うために、その場から移動してからポーズを取らなくては再操作可能とはならないとする。このようにすることで、「移動」という要素もゲームに取り込むことができる。
 なお、ユーザ2Bに対し、現実の所定の地点9Bに移動するように要求してもよい。あるいは、移動先を指定せず、移動距離が指定値以上となるように要求してもよい。あるいは、仮想空間上の特定の地点に移動するように要求してもよい。その際、ユーザの再操作を支援するオブジェクトであるサポートオブジェクト(第2オブジェクト)を生成してもよい。例えば、情報処理装置1が操作モードを非同期モードに切り替えた際に、図6の点線で示されたようなサポートオブジェクト8を生成する。図6のサポートオブジェクト8は、ユーザ2Bの移動に応じて移動する。サポートオブジェクト8と操作オブジェクト3Bとのポジションを一致させてから同期待ちポーズを取らせることにより、操作オブジェクト3Bの再操作を可能にするとしてもよい。なお、サポートオブジェクト8の移動距離は、ユーザ2Bの移動距離と同じでなくてよい。なお、情報処理装置1は、操作オブジェクト3の再操作が可能になった時点で、サポートオブジェクト8を削除する。
 なお、図6の操作オブジェクト3Bとサポートオブジェクト8の外観は類似しているが、前述の非同期モードに操作オブジェクトの外観と同様、ユーザがサポートオブジェクトを認識することができれば、サポートオブジェクトと操作オブジェクトとの外観は全く別にしてもよい。例えば、巨大ロボットに関するゲームの場合、操作オブジェクトが巨大ロボットの外観であり、サポートオブジェクトが当該巨大ロボットに乗り込むパイロットの外観とすることもできる。
 また、図4から6では、操作オブジェクトが画像に表示されている場合を想定した。しかし、図3のヘッドマウントディスプレイ6Aなどを用いたVR(Virtual Reality)では、ユーザ視点での画像を表示することも多々ある。ユーザ視点での画像で上記のような同期モードの切り替えを起こった場合、同期モードでは操作オブジェクトが画像に表示されていないが、非同期モードに切り替えられた際に、操作オブジェクトが画像に表示されることになる。
 図7は、ユーザ視点の画像について説明する図である。図7の左側には、図4で示した仮想空間を、操作オブジェクト3Bの視点で表した画像4Aが示されている。図7の右上側には、非操作オブジェクト7と衝突したために、操作オブジェクト3Bがユーザ2のポジションから離れてしまったことを示す画像4Bが示されている。前述のロボットの例えで言えば、ユーザ2Bはロボットである操作オブジェクト3Bに乗り込んで操作していたが、非操作オブジェクト7と衝突したために、操作オブジェクト3Bがユーザ2Bから切り離されて視認可能となったという状態である。図4Bのような画面では、自身の場所が正確に把握することができず、操作オブジェクト3Bのポジションまで移動して体勢を合わせることが困難である。そのため、この場合も、サポートオブジェクトを表示することにより、操作オブジェクトの位置まで移動することを支援してもよい。
 図7の右下側には、サポートオブジェクト8Aから8Dが表示された画像4Cが示されている。サポートオブジェクト8Aから8Cは、操作オブジェクト3Bの過去の時点のポジションを示し、サポートオブジェクト8Dは移動の軌跡を示している。これにより、ユーザ2Bのポジションと、操作オブジェクト3Bのポジションとの位置関係を認識することができ、ユーザ2Bが操作オブジェクト3Bのポジションまで容易に移動することができる。
 なお、モード切替イベントは、オブジェクト同士の衝突に限られるわけではない。例えば、ゲーム内でユーザが特定のアイテムを使用した際に、他のユーザの操作オブジェクトに対してモード切替イベントが実行されてもよい。また、例えば、仮想空間内に進入禁止の領域を設け、操作オブジェクトが当該領域に進入しようとしたときに、モード切替イベントを実行してもよい。これにより、進行先が進入禁止であることをユーザに示唆することができる。なお、進入禁止の領域を囲う壁のようなオブジェクトを設け、当該オブジェクトと操作オブジェクトとの衝突によって、モード切替イベントを実行してもよい。
 このように、情報処理装置1は、操作オブジェクトの再操作に、ポーズ、移動などといった手間を要求する。当該手間は、ゲームの難易度の調整、ゲームの嗜好性の向上などに役立つ。例えば、レーシングゲームにおいて、当該手間はタイムロスの要因となる。ゆえに、ユーザは操作オブジェクトが他のオブジェクトと衝突するのを防ぐようになる。また、再操作のために移動を要求する場合において、操作オブジェクトのスピードが速いほど、衝突時に操作オブジェクトが離れる距離を長くするようにすると、当該スピードが速いほど再操作に要する時間が長くなる。そのため、ユーザは、当該スピードを調整するようになり、ゲームの嗜好性が向上する。
 なお、上記の情報処理装置1の処理は、娯楽目的だけに用いられるとは限らない。例えば、教育目的でも使用可能である。例えば、ユーザは習得しようとする理想的な動作を行い、情報処理装置1は理想的な動作であるかを操作オブジェクトの動作に基づいて判定し、理想的な動作でない場合に、非同期モードに切り替えて、理想的な動作を自動動作で示してもよい。このようにして、情報処理装置1のユーザは、理想的な動作をトレーニングすることが可能である。また、習得しようとする理想的な動作は、適宜定めてよい。例えば、ダンスなどの運動、手術などの医療行為、機械の操作、物品の製造などにおける動作としてもよい。
 上記の処理は、情報処理装置1の構成要素によって分担されて実現される。情報処理装置1の構成要素の各処理について説明する。
 受信部11は、情報処理装置1が生成する仮想空間に対する操作信号を受信する。操作信号には、前述のセンサからの位置座標が含まれ得る。また、コントローラなどの特定機器の信号が含まれ得る。その他の信号が含まれていてもよい。
 信号解析部は、操作信号を解析し、仮想空間に対する指示を認識する。例えば、各センサからの位置座標を同期させて、ユーザの体勢を認識する。なお、ユーザの体勢およびその変化量に基づいて、ユーザのポジションおよび移動距離を算出してもよい。また、アイテムの使用などといったコマンドを認識する。信号解析部の処理は、前述の通り、モーションキャプチャなどの従来技術を用いればよい。
 仮想空間生成部131は、仮想空間を生成し、管理する。例えば、仮想空間の範囲を決定し、仮想空間内に存在するオブジェクトを生成する。また、仮想空間内に前述の進入禁止の領域を設定してもよい。生成されるオブジェクトには、操作オブジェクト、非操作オブジェクト、サポートオブジェクトが含まれる。また、オブジェクトの削除、オブジェクトの外観の変更なども仮想空間生成部131によって行われる。仮想空間の生成は、従来のゲーム装置などで採用されている手法と同じでよい。
 指示体勢算出部132は、信号解析部によって認識されたユーザの体勢に基づき、操作オブジェクトに対する指示体勢を算出する。ユーザと、操作オブジェクトとでは、体形が異なるため、ユーザの体勢をそのまま操作オブジェクトの体勢にすることができない。ゆえに、指示体勢算出部132が、ユーザの体勢に基づいて、操作オブジェクトの体勢を算出する。当該算出もモーションキャプチャなどの従来技術を用いればよい。
 指示体勢算出部132によって算出された操作オブジェクトの体勢は、実際に操作オブジェクトの体勢となるとは限らない。前述の通り、非同期モードにおいては、ユーザの体勢に基づく操作オブジェクトの体勢は無視される。また、同期モードにおいても、衝突というほどではないが他のオブジェクトと接触している場合などにおいて、自然な体勢にするために、算出された操作オブジェクトの体勢の一部が変えられて、実際のオブジェクトの体勢となり得る。ゆえに、ユーザの体勢に基づく操作オブジェクトの体勢は、操作オブジェクトに対して指示された体勢として、「指示体勢」と記載する。
 操作モード決定部133は、前述の情報処理装置1による操作モードの切り替えを司る。つまり、操作モード決定部133は、操作モードの切替条件に基づいて、操作モードを、同期モードにするか非同期モードにするかを決定する。操作モードの切替条件は、前述の通り、特定のイベントの発生としてもよく、イベントが発生したか否かの判定条件は、適宜に定めてよい。あるいは、理想の動作との乖離が所定値以上としてもよい。特定のイベントは、前述の通り、衝突、指示体勢と操作オブジェクトの体勢の一致、サポートオブジェクトと操作オブジェクトのポジションの一致、ユーザの所定地点への移動、ユーザの移動、アイテムの使用などといったものとすることができ、それらの発生は、オブジェクト同士の位置関係、移動距離、オブジェクトの体勢、オブジェクトの加速度、指示体勢、操作信号の解析結果などに基づいて判定することができる。また、理想の動作との乖離は、例えば、ある時点における、理想の体勢の各部位の位置と、指示体勢の各部位の位置と、の距離に基づいて算出してもよい。
 オブジェクト動作決定部134は、前述の情報処理装置1によるオブジェクトの体勢およびポジションの決定を司る。つまり、オブジェクト動作決定部134は、現時点から次の指定時点までの仮想空間内の各オブジェクトのポジションおよび体勢の変化を演算し、次の時点の仮想空間内の各オブジェクトのポジションおよび体勢を決定する。演算手法は、従来のゲーム装置などで採用されている手法と同じでよい。しかし、操作モードが同期モードと決定された場合は、指示体勢に基づき、操作オブジェクトの体勢を決定する。つまり、操作オブジェクトの体勢を指示体勢にするようにと指示された場合における操作オブジェクトの体勢を演算し、当該演算結果に基づいて操作オブジェクトの体勢を決定する。また、操作モードが非同期モードと決定された場合は、指示体勢に基づかずに、操作オブジェクトの体勢を決定する。なお、ユーザの移動距離なども考慮して、オブジェクトのポジションを算出してもよい。つまり、ユーザの移動に応じてオブジェクトを移動させてもよい。ユーザの移動距離とオブジェクトの移動距離との比率は適宜に定めてよい。また、サポートオブジェクトが生成されたときは、図7に示したように、サポートオブジェクトを、操作オブジェクトの過去のポジションに移動させてもよい。
 画像生成部14は、オブジェクト動作決定部に決定された各オブジェクトの体勢を示す画像を生成する。当該手法は、従来のゲーム装置などで採用されている手法と同じでよい。
 送信部15は、生成された画像を、図3にて示したような画像表示デバイスに送信する。こうれにより、図4などで示した画像が、画像表示デバイスを介して、ユーザに視聴される。
 図8は、情報処理装置1の全体処理のフローチャートである。操作オブジェクトなどの仮想空間内のオブジェクトは、既に生成されているとする。また、本開示のフローチャートは一例であり、各処理が上記フローの通りに必ず行われる必要はない。
 受信部11が操作信号を受信する(S101)。信号解析部12が受信した操作信号を解析し、操作内容を認識する(S102)。前述の通り、操作内容には、ユーザの体勢などが含まれる。
 操作モードが同期モードである場合(S103のYES)は、仮想空間処理部13が同期モードにおける処理に基づき、仮想空間内の各オブジェクトの体勢、ポジションなどを決定する(S104)。当該オブジェクトには、操作オブジェクト、非操作オブジェクト、およびサポートオブジェクトも含まれる。当該処理の詳細は後述する。操作モードが同期モードでない場合(S103のNO)は、仮想空間処理部13が非同期モードにおける処理に基づき各オブジェクトの体勢、ポジションなどを決定する(S105)。当該処理についても後述する。
 これらの処理により、操作オブジェクトなどの各オブジェクトの動作が決定されるため、画像生成部14が、決定された動作に合わせて仮想空間を表す画像を更新する(S106)。画像生成部14の処理は、従来のゲーム装置の処理と同じでよい。送信部15は、更新された画像を表す信号を画像表示デバイスに送信する(S107)。これにより、図4などで示したような仮想空間を示す画像が表示される。
 本フローが繰り返されて、仮想空間内の各オブジェクトの体勢が更新されていく。なお、本フローチャートでは、常に操作信号を受信することを想定しているが、操作信号を受信しなかった場合は、S101およびS102の処理を省略し、ユーザの体勢がそのままであるとみなして処理してもよい。あるいは、エラーを返すようにしてもよい。
 次に、仮想空間処理部13の同期モードにおける処理の詳細について説明する。図9は、仮想空間処理部13の同期モードにおける処理のフローチャートである。
 指示体勢算出部132がユーザの体勢に基づき、操作オブジェクトへの指示体勢を算出する(S201)。オブジェクト動作決定部134は、操作オブジェクトを指示体勢にした場合の各オブジェクトの体勢、ポジションなどを算出する(S202)。なお、前述の通り、操作オブジェクトの体勢を指示体勢に完全に一致させる必要はなく、操作オブジェクトの体勢が指示体勢とは一部異なっていてもよい。
 操作モード決定部133は、算出された各オブジェクトの体勢に基づいて同期モードから非同期モードへの切替条件を満たすかを判定する(S203)。例えば、操作オブジェクトと他のオブジェクトとの位置関係から衝突が発生したか否かを判定してもよい。また、当該衝突によって生じる操作オブジェクトの加速度と指示体勢の変化による加速度との差が閾値以上であるかといった所定の条件に基づいて判定されてもよい。
 切替条件を満たすと判定された場合(S204のYES)は、オブジェクト動作決定部134が、例えば転倒などといった物理演算などによる体勢、ポジションを算出して、操作オブジェクトの体勢、ポジションなどを決定する(S205)。このように、指示体勢によらずに、操作オブジェクトの体勢が決定される。そして、操作モード決定部133が操作モードを同期モードから非同期モードに変更する(S206)。また、仮想空間生成部131は、サポオートオブジェクトを生成する(S207)。なお、サポートオブジェクトを生成しない場合は、当該処理は省略される。こうして、本フローは終了し、以降は、非同期モードにおける処理が行われる。
 一方、切替条件を満たさないと判定された場合(S204のNO)は、オブジェクト動作決定部134が、指示体勢に基づいて操作対象の体勢等を決定する(S208)。こうして、本フローは終了し、以降においても、同期モードにおける処理が行われる。
 次に、仮想空間処理部13の非同期モードにおける処理の詳細について説明する。図10は、仮想空間処理部13の非同期モードにおける処理のフローチャートである。
 非同期モードは、前述の通り、物理演算追従と自動動作(同期待ちポーズを含む)に区別される。物理演算追従中である場合(S301のYES)は、オブジェクト動作決定部134が、操作オブジェクトの次時点の物理演算に基づく体勢、例えば、図5のような転倒体勢を算出して各オブジェクトの体勢、ポジションなどを決定する(S302)。物理演算追従中でない場合(S301のNO)、つまり、自動動作中の場合は、オブジェクト動作決定部が、操作オブジェクトの次時点の自動動作に基づく体勢、例えば図5のような起立体勢を算出し、各オブジェクトの体勢、ポジションなどを決定する(S303)。
 一方、指示体勢算出部は、オブジェクト動作決定部の処理と並行して、ユーザの体勢に基づいて操作オブジェクトへの指示体勢を算出する(S304)。そして、操作モード決定部は、算出された操作オブジェクトの体勢、操作オブジェクトへの指示体勢などに基づいて、非同期モードから同期モードへの切替条件を満たすかを判定する(S305)。例えば、算出された操作オブジェクトの体勢と、操作オブジェクトへの指示体勢と、が一致しているかを判定する。
 切替条件を満たすと判定された場合(S306のYES)は、操作モード決定部は操作モードを非同期モードから同期モードに変更する(S307)。また、オブジェクト管理部は、サポオートオブジェクトを削除する(S308)。なお、サポートオブジェクトを生成していない場合は、当該処理は省略される。こうして、本フローは終了し、以降は、同期モードにおける処理が行われる。一方、切替条件を満たすと判定されなかった場合(S306のNO)は、モードの変更は行われずに、本フローは終了する。ゆえに、以降においても、非同期モードにおける処理が行われる。
 以上のように、本開示によれば、ユーザの体勢に基づいて仮想空間内の操作オブジェクトを操作する場合において、転倒などのアクションなどによって生じるユーザおよび操作オブジェクトの体勢の乖離を、ゲーム性を持たせてユーザに自発的に解消させる。これにより、仮想空間に対するユーザの没入感を低下することを防ぐことができる。
 本開示の実施形態における装置の処理は、従来のモーションキャプチャ、ゲーム装置などと同じく、CPU(Central Processing Unit)またはGPU(Graphics Processing Unit)などが実行するソフトウェア(プログラム)により実現できる。なお、当該装置の全ての処理をソフトウェアで実行するのではなく、一部の処理が、専用の回路などのハードウェアにより実行されてもよい。
 なお、上述の実施形態は本開示を具現化するための一例を示したものであり、その他の様々な形態で本開示を実施することが可能である。例えば、本開示の要旨を逸脱しない範囲で、種々の変形、置換、省略またはこれらの組み合わせが可能である。そのような変形、置換、省略などを行った形態も、本開示の範囲に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
 なお、本開示は以下のような構成を取ることもできる。
[1]
 仮想空間において操作される第1オブジェクトに対する操作モードを決定する操作モード決定部と、
 前記第1オブジェクトの操作者の体勢を認識する指示体勢算出部と、
 前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するオブジェクト動作決定部と、
 を備え、
 前記操作モード決定部は、前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したとき に、前記操作モードを前記第1操作モードに切り替える
 情報処理装置。
[2]
 前記操作モード決定部は、前記操作モードが前記第2操作モードの場合に、前記指示体勢が前記第1オブジェクトの体勢と一致したと判定したときに、前記操作モードを前記第1操作モードに切り替える
 [1]に記載の情報処理装置。
[3]
 前記オブジェクト動作決定部は、前記操作モードが前記第2操作モードと決定された場合に、前記第1オブジェクトに所定のポーズを取らせ、
 前記操作モード決定部は、前記指示体勢が前記ポーズと一致したと判定したときに、前記操作モードを前記第1操作モードに切り替える
 [1]または[2]に記載の情報処理装置。
[4]
 前記操作モード決定部は、前記操作者のポジションまたは移動距離が所定条件を満たし、かつ、前記指示体勢が所定条件を満たした、と判定したときに、前記操作モードを前記第1操作モードに切り替える
 [1]ないし[3]のいずれか一項に記載の情報処理装置。
[5]
 前記操作モードが前記第2操作モードに切り替わった際に、前記操作者の移動に応じて前記仮想空間内を移動する第2オブジェクトを生成するオブジェクト生成部
 をさらに備え、
 前記操作モード決定部は、前記第2オブジェクトのポジションが前記第1オブジェクトのポジションと一致し、かつ、前記指示体勢が所定条件を満たした、と判定したときに、前記操作モードを前記第1操作モードに切り替える
 [1]ないし[4]のいずれか一項に記載の情報処理装置。
[6]
 前記オブジェクト動作決定部は、前記操作モードが前記第1操作モードと決定された場合に、前記第1オブジェクトの体勢を前記指示体勢に応じたものとする
 [1]ないし[5]のいずれか一項に記載の情報処理装置。
[7]
 前記操作モード決定部は、前記仮想空間において所定のイベントが発生した場合に、前記操作モードを前記第1操作モードから前記第2操作モードに切り替える
 [1]ないし[6]のいずれか一項に記載の情報処理装置。
[8]
 前記操作モード決定部は、前記第1オブジェクトと、前記仮想空間内に存在する第3オブジェクトと、の位置関係に基づき、前記イベントの発生を判定する
 [7]に記載の情報処理装置。
[9]
 前記操作モードが切り替わった際に、前記第1オブジェクトの外観が変化する
 [1]ないし[8]のいずれか一項に記載の情報処理装置。
[10]
 前記オブジェクト動作決定部は、前記操作モードが前記第2操作モードと決定された場合に、前記第1オブジェクトに複数のポーズを順番に取らせ、
 前記操作モード決定部は、前記指示体勢が、前記複数のポーズと、前記第1オブジェクトが取った順番通りに一致したと判定したときに、前記操作モードを前記第1操作モードに切り替える
 [1]ないし[9]のいずれか一項に記載の情報処理装置。
[11]
 前記操作モード決定部は、所定の物体からの信号が受信され、かつ、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードを前記第1操作モードに切り替える
 [1]ないし[10]のいずれか一項に記載の情報処理装置。
[12]
 前記仮想空間の少なくとも一部の領域を表す画像を生成する画像生成部
 をさらに備え、
 前記オブジェクト動作決定部は、前記操作モードが前記第1操作モードから前記第2操作モードに切り替わった際に、前記領域内に前記第1オブジェクトを移動させる
 [1]ないし[11]のいずれか一項に記載の情報処理装置。
[13]
 前記操作モードが前記第2操作モードに切り替わった後に、第4オブジェクトを生成するオブジェクト生成部
 をさらに備え、
 前記オブジェクト動作決定部は、前記第4オブジェクトのポジションを、前記領域内の前記第1オブジェクトの過去のポジションに合わせる
 [12]に記載の情報処理装置。
[14]
 前記操作モードが前記第2操作モードに切り替わった後に、前記領域内での前記第1オブジェクトの移動の軌跡を示す第5オブジェクトを生成するオブジェクト生成部
 をさらに備える[12]に記載の情報処理装置。
[15]
 仮想空間において操作される第1オブジェクトに対する操作モードを決定するステップと、
 前記第1オブジェクトの操作者の体勢に基づき、前記第1オブジェクトに対する指示体勢を算出するステップと、
 前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するステップと、
 を備え、
 前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードが前記第1操作モードに切り替えられる
 情報処理方法。
[16]
 仮想空間において操作される第1オブジェクトに対する操作モードを決定するステップと、
 前記第1オブジェクトの操作者の体勢に基づき、前記第1オブジェクトに対する指示体勢を算出するステップと、
 前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するステップと、
 を備え、
 前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードが前記第1操作モードに切り替えられる
 プログラム。
 1 情報処理装置
 1A 携帯可能な情報処理装置
 1B 固定式の情報処理装置
 11 受信部
 12 信号解析部
 13 仮想空間処理部
 131 仮想空間生成部
 132 指示体勢算出部
 133 操作モード決定部
 134 オブジェクト動作決定部
 14 画像生成部
 15 送信部
 2、2A、2B ユーザ
 3、3A、3B 操作オブジェクト
 4、4A、4B、4C 画像
 5 センサ
 6A ヘッドマウントディスプレイ
 6B モニタ
 6C プロジェクタ
 7 非操作オブジェクト
 8、8A、8B、8C、8D サポートオブジェクト
 9A 操作オブジェクトの停止地点
 9B 現実の所定の地点

Claims (16)

  1.  仮想空間において操作される第1オブジェクトに対する操作モードを決定する操作モード決定部と、
     前記第1オブジェクトの操作者の体勢に基づき、前記第1オブジェクトに対する指示体勢を算出する指示体勢算出部と、
     前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するオブジェクト動作決定部と、
     を備え、
     前記操作モード決定部は、前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードを前記第1操作モードに切り替える
     情報処理装置。
  2.  前記操作モード決定部は、前記操作モードが前記第2操作モードの場合に、前記指示体勢が前記第1オブジェクトの体勢と一致したと判定したときに、前記操作モードを前記第1操作モードに切り替える
     請求項1に記載の情報処理装置。
  3.  前記オブジェクト動作決定部は、前記操作モードが前記第2操作モードと決定された場合に、前記第1オブジェクトに所定のポーズを取らせ、
     前記操作モード決定部は、前記指示体勢が前記ポーズと一致したと判定したときに、前記操作モードを前記第1操作モードに切り替える
     請求項1に記載の情報処理装置。
  4.  前記操作モード決定部は、前記操作者のポジションまたは移動距離が所定条件を満たし、かつ、前記指示体勢が所定条件を満たした、と判定したときに、前記操作モードを前記第1操作モードに切り替える
     請求項1に記載の情報処理装置。
  5.  前記操作モードが前記第2操作モードに切り替わった際に、第2オブジェクトを生成するオブジェクト生成部
     をさらに備え、
     前記オブジェクト動作決定部は、前記操作者の移動に応じて前記第2オブジェクトを前記仮想空間内において移動させ、
     前記操作モード決定部は、前記第2オブジェクトのポジションが前記第1オブジェクトのポジションと一致し、かつ、前記指示体勢が所定条件を満たした、と判定したときに、前記操作モードを前記第1操作モードに切り替える
     請求項1に記載の情報処理装置。
  6.  前記オブジェクト動作決定部は、前記操作モードが前記第1操作モードと決定された場合に、前記第1オブジェクトの体勢を前記指示体勢に応じたものとする
     請求項1に記載の情報処理装置。
  7.  前記操作モード決定部は、前記仮想空間において所定のイベントが発生した場合に、前記操作モードを前記第1操作モードから前記第2操作モードに切り替える
     請求項1に記載の情報処理装置。
  8.  前記操作モード決定部は、前記第1オブジェクトと、前記仮想空間内に存在する第3オブジェクトと、の位置関係に基づき、前記イベントの発生を判定する
     請求項7に記載の情報処理装置。
  9.  前記操作モードが切り替わった際に、前記第1オブジェクトの外観が変化する
     請求項1に記載の情報処理装置。
  10.  前記オブジェクト動作決定部は、前記操作モードが前記第2操作モードと決定された場合に、前記第1オブジェクトに複数のポーズを順番に取らせ、
     前記操作モード決定部は、前記指示体勢が、前記複数のポーズと、前記第1オブジェクトが取った順番通りに一致したと判定したときに、前記操作モードを前記第1操作モードに切り替える
     請求項1に記載の情報処理装置。
  11.  前記操作モード決定部は、所定の物体からの信号が受信され、かつ、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードを前記第1操作モードに切り替える
     請求項1に記載の情報処理装置。
  12.  前記仮想空間の少なくとも一部の領域を表す画像を生成する画像生成部
     をさらに備え、
     前記オブジェクト動作決定部は、前記操作モードが前記第1操作モードから前記第2操作モードに切り替わった際に、前記領域内に前記第1オブジェクトを移動させる
     請求項1に記載の情報処理装置。
  13.  前記操作モードが前記第2操作モードに切り替わった後に、第4オブジェクトを生成するオブジェクト生成部
     をさらに備え、
     前記オブジェクト動作決定部は、前記第4オブジェクトのポジションを、前記領域内の前記第1オブジェクトの過去のポジションに合わせる
     請求項12に記載の情報処理装置。
  14.  前記操作モードが前記第2操作モードに切り替わった後に、前記領域内での前記第1オブジェクトの移動の軌跡を示す第5オブジェクトを生成するオブジェクト生成部
     をさらに備える請求項12に記載の情報処理装置。
  15.  仮想空間において操作される第1オブジェクトに対する操作モードを決定するステップと、
     前記第1オブジェクトの操作者の体勢に基づき、前記第1オブジェクトに対する指示体勢を算出するステップと、
     前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するステップと、
     を備え、
     前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードが前記第1操作モードに切り替えられる
     情報処理方法。
  16.  仮想空間において操作される第1オブジェクトに対する操作モードを決定するステップと、
     前記第1オブジェクトの操作者の体勢に基づき、前記第1オブジェクトに対する指示体勢を算出するステップと、
     前記操作モードが第1操作モードと決定された場合は前記指示体勢に基づき、前記操作モードが第2操作モードと決定された場合は前記指示体勢に基づかずに、前記第1オブジェクトの体勢を決定するステップと、
     を備え、
     前記操作モードが前記第2操作モードの場合に、前記指示体勢が所定条件を満たしたと判定したときに、前記操作モードが前記第1操作モードに切り替えられる
     プログラム。
PCT/JP2021/017398 2020-05-18 2021-05-06 情報処理装置、情報処理方法、およびプログラム WO2021235232A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/922,764 US11954244B2 (en) 2020-05-18 2021-05-06 Information processing device and information processing method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020086775A JP2023087130A (ja) 2020-05-18 2020-05-18 情報処理装置、情報処理方法、およびプログラム
JP2020-086775 2020-05-18

Publications (1)

Publication Number Publication Date
WO2021235232A1 true WO2021235232A1 (ja) 2021-11-25

Family

ID=78708337

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/017398 WO2021235232A1 (ja) 2020-05-18 2021-05-06 情報処理装置、情報処理方法、およびプログラム

Country Status (3)

Country Link
US (1) US11954244B2 (ja)
JP (1) JP2023087130A (ja)
WO (1) WO2021235232A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011122214A1 (ja) * 2010-03-30 2011-10-06 株式会社カプコン プログラム及びそのプログラムを記録した記録媒体
US20110306413A1 (en) * 2010-06-03 2011-12-15 D Young & Co Llp Entertainment device and entertainment methods
JP2011258161A (ja) * 2010-06-11 2011-12-22 Namco Bandai Games Inc プログラム、情報記憶媒体及び画像生成システム
US20120155705A1 (en) * 2010-12-21 2012-06-21 Microsoft Corporation First person shooter control with virtual skeleton
JP2020054823A (ja) * 2018-08-30 2020-04-09 株式会社バンダイ 遊戯システム及び遊戯方法並びにプログラム
JP6691258B1 (ja) * 2019-08-28 2020-04-28 任天堂株式会社 情報処理システム、情報処理プログラム、情報処理装置、および情報処理方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6430997B1 (en) * 1995-11-06 2002-08-13 Trazer Technologies, Inc. System and method for tracking and assessing movement skills in multidimensional space
US7789742B1 (en) * 1999-05-12 2010-09-07 Wilbert Q. Murdock Smart golf club multiplayer system for the internet
JP4848515B2 (ja) 2006-06-12 2011-12-28 国立大学法人九州工業大学 アバター動作制御システム、そのプログラム及び方法
GB201709199D0 (en) * 2017-06-09 2017-07-26 Delamont Dean Lindsay IR mixed reality and augmented reality gaming system
CN111587384A (zh) * 2017-11-17 2020-08-25 特里纳米克斯股份有限公司 用于确定至少一个对象的位置的检测器

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011122214A1 (ja) * 2010-03-30 2011-10-06 株式会社カプコン プログラム及びそのプログラムを記録した記録媒体
US20110306413A1 (en) * 2010-06-03 2011-12-15 D Young & Co Llp Entertainment device and entertainment methods
JP2011258161A (ja) * 2010-06-11 2011-12-22 Namco Bandai Games Inc プログラム、情報記憶媒体及び画像生成システム
US20120155705A1 (en) * 2010-12-21 2012-06-21 Microsoft Corporation First person shooter control with virtual skeleton
JP2020054823A (ja) * 2018-08-30 2020-04-09 株式会社バンダイ 遊戯システム及び遊戯方法並びにプログラム
JP6691258B1 (ja) * 2019-08-28 2020-04-28 任天堂株式会社 情報処理システム、情報処理プログラム、情報処理装置、および情報処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MAECHANNEL: "RingFit Adventure Nintendo Switch", YOUTUBE, 18 October 2019 (2019-10-18), XP055875032, Retrieved from the Internet <URL:https://www.youtube.com/watch?v=nxWMxfI3VpQ> *

Also Published As

Publication number Publication date
US20230161401A1 (en) 2023-05-25
JP2023087130A (ja) 2023-06-23
US11954244B2 (en) 2024-04-09

Similar Documents

Publication Publication Date Title
US9789391B2 (en) Method and apparatus for using a common pointing input to control 3D viewpoint and object targeting
JP6396027B2 (ja) プログラムおよびゲーム装置
US9884248B2 (en) Display control method for head-mounted display (HMD) and image generation device
US10421013B2 (en) Gesture-based user interface
US9833705B2 (en) Storage medium storing information processing program, information processing apparatus and information processing method
US9248376B2 (en) Computer-readable storage medium having stored game program therein, and game apparatus
US20080098448A1 (en) Controller configured to track user&#39;s level of anxiety and other mental and physical attributes
JP4412716B2 (ja) ゲーム装置、プログラム及び情報記憶媒体
EP1915204A1 (en) Interactive entertainment system and method of operation thereof
CN110769906A (zh) 模拟系统、图像处理方法以及信息存储介质
JPH10333834A (ja) 情報記憶媒体及び画像生成装置
US11740688B2 (en) Virtual space experience system
WO2016079828A1 (ja) 打撃操作のためのユーザーインターフェースシステムと操作信号解析方法及びプログラム
WO2021235232A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US8482519B2 (en) Storage medium storing information processing program, information processing apparatus and information processing method
US20230191253A1 (en) Information processing system, non-transitory computer-readable storage medium having stored therein program, information processing apparatus, and information processing method
JP6672401B2 (ja) ゲームプログラム、方法、および情報処理装置
JP6498732B2 (ja) ゲームプログラム、方法、および情報処理装置
JP7337732B2 (ja) プログラム
WO2022252150A1 (zh) 避免动晕症发生的虚拟实境控制方法
JP7052128B1 (ja) 情報処理システム、プログラム及び情報処理方法
TWI380843B (zh) Remote control toys and electronic game integrated interface
JP2020110603A (ja) ゲームプログラム、方法、および情報処理装置
TW201524563A (zh) 視角與游標的互動方法及其系統
JP2020155139A (ja) プログラム、情報処理装置、及び情報処理方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21808481

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21808481

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP