WO2021245773A1 - 情報処理システム、情報処理方法および情報処理端末 - Google Patents
情報処理システム、情報処理方法および情報処理端末 Download PDFInfo
- Publication number
- WO2021245773A1 WO2021245773A1 PCT/JP2020/021710 JP2020021710W WO2021245773A1 WO 2021245773 A1 WO2021245773 A1 WO 2021245773A1 JP 2020021710 W JP2020021710 W JP 2020021710W WO 2021245773 A1 WO2021245773 A1 WO 2021245773A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- application
- terminal
- information
- cooperation
- information terminal
- Prior art date
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 93
- 238000003672 processing method Methods 0.000 title claims 3
- 230000004913 activation Effects 0.000 claims abstract description 14
- 238000012545 processing Methods 0.000 description 72
- 238000000034 method Methods 0.000 description 70
- 238000004891 communication Methods 0.000 description 66
- 230000008569 process Effects 0.000 description 53
- 230000005540 biological transmission Effects 0.000 description 29
- 230000006870 function Effects 0.000 description 16
- 238000013500 data storage Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000004048 modification Effects 0.000 description 11
- 238000012986 modification Methods 0.000 description 11
- 230000000007 visual effect Effects 0.000 description 10
- 230000005236 sound signal Effects 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000004044 response Effects 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 210000003128 head Anatomy 0.000 description 3
- 230000011514 reflex Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 241000283080 Proboscidea <mammal> Species 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/543—User-generated data transfer, e.g. clipboards, dynamic data exchange [DDE], object linking and embedding [OLE]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
- H04M1/72409—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
- H04M1/72412—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
- H04M1/72442—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for playing music files
Definitions
- the present invention relates to a technique for controlling the activation of an application (hereinafter referred to as an application) between a plurality of information terminals.
- Patent Document 1 describes "a first management unit that manages device information including information used for connecting to a linked device and information related to data used by an application registered in the linked device, and a link source.
- the second management unit that acquires the cooperation candidate indicating the cooperation destination device and the application that can be linked by referring to the device information and the application shown in the cooperation candidate are started.
- a device for linking and a link control unit for determining a linkable application registered in the device as a link destination are included (summary excerpt). ”
- the application linking device is disclosed.
- the present invention has been made in view of the above circumstances, and can easily start and execute an application on a desired device between a plurality of information terminals equipped with the same application or the corresponding application without increasing the burden on the user.
- the purpose is to provide easy-to-use information processing technology.
- the present invention is an information processing system that cooperates between a plurality of terminals to execute an application that each terminal has in common, and includes a first information terminal and a second information terminal as the plurality of terminals, and the first information terminal is provided.
- the information terminal includes a reception unit that receives a start instruction of the application and a cooperation control unit that operates the second information terminal in either a stand-alone operation mode or a cooperation operation mode.
- the operation mode includes an output unit that outputs the execution result of the application executed in the cooperation operation mode, the independent operation mode is an operation mode in which the application is independently executed by the second information terminal, and the cooperation operation mode is.
- the cooperative state in which the application is executed in cooperation with the first information terminal and the second information terminal and the second information terminal can operate in the cooperative operation mode is the first. It is characterized in that it is determined by the arrangement of the information terminal and the second information terminal.
- an easy-to-use information processing technology that allows an application to be easily started and executed on a desired device between a plurality of information terminals equipped with the same application or a corresponding application without increasing the burden on the user. Can be provided. Issues, configurations and effects other than those described above will be clarified by the description of the following embodiments.
- HMD head-mounted display
- smartphone hereinafter referred to as a smartphone
- FIG. 1 is a diagram schematically showing the entire information processing system 500 of the present embodiment.
- the information processing system 500 of the present embodiment includes an HMD 100, which is a first information terminal attached to the head of the user 501, and a smartphone 200, which is a second information terminal held by the user 501. , Equipped with.
- the HMD100 uses virtual reality (VR) technology that creates a virtual world that resembles reality and allows you to experience the feeling of being there, and virtual reality created by adding digital information to the real world and using CG (Computer Graphics). It is an information terminal that embodies Augmented Reality (AR) technology that reflects and expands space (virtual object) in the real world, and is used by the user 501 by wearing it on the head.
- VR virtual reality
- CG Computer Graphics
- AR Augmented Reality
- the display range is narrow and it is difficult to perform detailed operations.
- the smartphone 200 is equipped with a single call and communication function.
- the smartphone 200 displays an icon on a display in an easy-to-understand manner and is suitable for touch operability.
- the icon is a graphic symbol that can start the application by approaching or touching the user 501 with a finger or a touch pen.
- the HMD 100 and the smartphone 200 cooperate with each other to give an instruction to start an application installed in the HMD 100 (hereinafter referred to as an application) on the smartphone 200 side, and the application is executed by the HMD 100.
- this state is referred to as a cooperative state.
- an information terminal when it is not necessary to distinguish between the HMD 100 and the smartphone 200, it is referred to as an information terminal.
- the HMD 100 determines whether or not the HMD 100 and the smartphone 200 are in a cooperative state. Whether or not it is in a cooperative state is determined by the arrangement state of both. Specifically, as shown in FIG. 2A, the icon 420 (421) of the application displayed on the display 231 of the smartphone 200 in the predetermined cooperation field of view 101a of the display 131 (131a, 131b) of the HMD 100. If 422, 423) exists, it is determined to be in a linked state.
- the icon 421 of the application A (application A) in the cooperation field of view 101a is selected.
- the arrangement state of the HMD 100 and the smartphone 200 in which the icon 420 of the application desired to be started is in the cooperation field of view 101a is referred to as a predetermined arrangement state.
- the HMD 100 and the smartphone 200 are in the predetermined arrangement state, it is determined to be in the cooperation state.
- the smartphone 200 corresponds to the selected icon 421.
- FIG. 2B shows a state in which the application is executed and the icon 411 of the application is displayed in the HMD 100.
- the smartphone 200 and the HMD 100 communicate with each other, and the user 501 Touch information is transmitted from the smartphone 200 to the HMD 100.
- the touch information to the icon 421 is received, it is used as a start instruction to start the application A in the HMD100.
- an arrangement state in which the icon 420 displayed on the display 231 of the smartphone 200 is not included in the cooperation field of view 101a of the HMD 100 is referred to as a non-predetermined arrangement state.
- the smartphone 200 starts the application A as it is.
- the icon 421 may be out of the range of the cooperative field of view 101a.
- the HMD 100 and the smartphone 200 are each equipped with the same application used for performing specific work such as playing music / images and creating documents, or a corresponding application. Further, information is transmitted and received between the HMD 100 and the smartphone 200 by wireless communication or wired communication between the terminals.
- FIGS. 4 and 5 are block diagrams showing configuration examples of the HMD 100 and the smartphone 200, respectively.
- the same components as those shown in FIGS. 1 to 3 are designated by the same reference numerals.
- FIG. 4 is a hardware configuration diagram of the HMD 100 of the present embodiment.
- the HMD 100 of the present embodiment includes a main processor 111, a system bus 112, a storage device 110, an operation reception device 120, an image processing device 130, a voice processing device 140, and a sensor 150.
- the main processor 111 is a main control unit that controls the entire HMD 100 according to a predetermined program.
- the main processor 111 is realized by a CPU (Central Processor Unit) or a microprocessor unit (MPU).
- the main processor 111 performs the operation control processing of the entire HMD 100 by executing a program such as an operating system (Operating System: OS) stored in the storage device 110 and various operation control applications. Further, the main processor 111 controls the activation operation of various applications.
- the main processor 111 performs processing according to a clock signal measured and output by the timer 106.
- the system bus 112 is a data communication path for transmitting / receiving data between the main processor 111 and each part in the HMD 100.
- the storage device 110 includes a RAM 103 and a ROM 104.
- the storage device 110 stores programs such as an operating system and various operation control applications such as music, images, and documents.
- information data such as base data required for basic operations by the operating system and file data started by various applications are stored. For example, when a music application installed in the HMD 100 is activated and music file data is selected, the selected music file data is played back in the HMD 100, and desired music can be listened to.
- RAM 103 is a program area for executing basic operation programs and other application programs. Further, the RAM 103 is a temporary storage area for temporarily holding data as needed when executing various application programs. The RAM 103 may be integrated with the main processor 111.
- the ROM 104 stores each operation setting value of the HMD 100, information of the user of the HMD 100, and the like.
- the ROM 104 may store still image data, moving image data, and the like taken by the HMD 100. Further, it is assumed that the function of the HMD 100 can be expanded by downloading a new application program from the application server via the Internet. At this time, the downloaded new application program is stored in the ROM 104.
- the HMD 100 can realize various functions by the main processor 111 expanding the new application program stored in the ROM 104 into the RAM 103 and executing the program.
- the ROM 104 may be any as long as it can hold the stored information even when the power is not supplied to the HMD 100, and is not limited to the mask ROM that can read the data but cannot write the data.
- a device such as a flash ROM, an SSD (Solid State Drive), or an HDD (Hard Disk Drive) is used.
- the operation receiving device 120 receives an input of an operation instruction to the HMD 100.
- an operation key 121 and a touch sensor 122 are provided.
- the operation key 121 is a power key, a volume key, a home key, or the like.
- the touch sensor 122 receives an operation instruction by the touch pad.
- the HMD 100 of the present embodiment does not necessarily have to include all of these operation reception devices 120. Further, the operation of the HMD 100 may be accepted via another information processing terminal device connected by wired communication or wireless communication.
- the operation receiving device 120 may be provided in a position or form within the HMD 100 where the user can easily perform an input operation. It should be noted that the form may be separated from the main body of the HMD 100 and connected by wire or wirelessly.
- the line of sight of the user 501 may be used. For those using the line of sight, for example, the input operation screen is displayed in the display 131, and the input operation information is captured by the position on the input operation screen on which the line of sight of the user 501 detected by the in-camera 134 is facing.
- the pointer may be displayed on the input operation screen, and the input operation information may be captured by operating the pointer. Further, the user 501 may utter a voice indicating an input operation, collect the sound with a microphone 143 described later, and capture the input operation information.
- the image processing device 130 is an image (video) processor and includes a display 131, an out-camera 133, and an in-camera 134.
- the display 131 is a display device (display) such as a liquid crystal panel, and presents the image data processed by the image signal processing unit to the user of the HMD 100.
- the display 131 includes a display 131a for the left eye and a display 131b for the right eye.
- the display 131 may be an optical transmissive display or a video transmissive display.
- the optical transmissive display is equipped with a projection unit that projects various information such as playback information by the startup application and notification information to the user 501, and a transparent half mirror that displays various projected information in an image in front of the eyes.
- the video transmissive display includes a liquid crystal panel and the like that display various information together with the real space object in front of the photograph taken by the out-camera 133. With the display 131, the user 501 visually recognizes the reproduction information such as music, images, and documents by the activation application in addition to the image in the field of view in front of the user.
- the execution status of the application is displayed on the display 131.
- the image signal processing unit is an image (video) signal processor that processes images input from the out-camera 133 and the in-camera 134. Further, the image signal processing unit superimposes the object created by the main processor 111 or the like on the input image and outputs the object to the display 131.
- the image signal processing unit may be realized by the main processor 111, or may be realized by providing a processor dedicated to the image separately from the main processor 111.
- the out-camera 133 acquires an image around the HMD 100.
- the out-camera 133 is installed in front of the HMD 100 and captures the front view field state.
- the HMD 100 includes an optical transmission type that directly looks at a real space object in front of you while projecting and displaying various necessary information using a half mirror or the like, and a real space in front of you taken by an out-camera 133.
- the in-camera 134 acquires an image in a region different from that of the out-camera 133. For example, the user's eyes are photographed.
- the in-camera 134 functions as a line-of-sight detection sensor together with a processing unit that performs line-of-sight identification processing.
- the line-of-sight detection sensor includes a right line-of-sight detection unit and a left line-of-sight detection unit, and detects the line of sight of the right eye and the left eye, respectively.
- the process of detecting the line of sight may be performed by using a well-known technique generally used as an eye tracking process.
- the face is irradiated with an infrared LED (Light Emitting Diode)
- the image is taken with an infrared camera
- the position of the reflected light generated by the infrared LED irradiation on the corneal (corneal reflex) is used as a reference point.
- Detects the line of sight based on the position of the pupil relative to the position of the corneal reflex.
- an infrared camera and an infrared LED are provided.
- the voice processing device 140 is an audio processor that processes voice. It includes a speaker 141 and a microphone 143.
- the speaker 141 outputs the audio signal processed by the audio signal processing unit to the outside.
- the audio signal processing unit is an audio signal processor.
- HMD100 for example, headphones and the like are used.
- the microphone 143 converts the voice of the user, etc. into voice data and inputs it.
- a peripheral sound microphone and a vocal sound microphone may be provided.
- Each of these microphones collects external voice and user 501's own utterance. Headphones may be connected. The headphones are worn on the ears of the user 501 and listen to the voice to the user 501.
- the sensor 150 is a group of sensors for detecting the state of the HMD 100.
- a GPS (Global Positioning System) receiving unit 151 receives the position, movement, tilt, direction, etc.
- a gyro sensor 152 detects the position, movement, tilt, direction, etc.
- a geomagnetic sensor 153 detects the position, movement, tilt, direction, etc.
- an acceleration sensor 154 acquires the distance information from the HMD 100 to the object.
- other sensors may be further provided.
- the acceleration sensor 154 is a sensor that detects acceleration, which is a change in speed per unit time, and can capture movement, vibration, impact, and the like.
- the gyro sensor 152 is a sensor that detects the angular velocity in the rotation direction, and can capture the state of the vertical, horizontal, and diagonal postures. The movement of the HMD 100 can be detected by using the acceleration sensor 154 and the gyro sensor 152 mounted on the HMD 100.
- the geomagnetic sensor 153 is a sensor that detects the magnetic force of the earth, and detects the direction in which the HMD 100 is facing. It is also possible to detect the movement of the HMD 100 by capturing the change in the geomagnetism with respect to the movement of the HMD 100 by using a 3-axis type that detects the geomagnetism in the vertical direction in addition to the front-back direction and the left-right direction. From these, it may be detected and determined whether the icon 420 on the display 231 of the smartphone 200 can be seen through the HMD 100.
- the depth sensor 155 is a sensor that can capture the shape of an object such as a person or an object as a three-dimensional object.
- LiDAR Light Detection and Ringing
- a TOF Time Of Flight
- a millimeter-wave radar that detects the state of a pair of elephants is used.
- the depth sensor 155 measures, for example, the distance to the smartphone 200.
- the communication device 160 is a communication interface that performs wireless communication with other information terminals such as a nearby smartphone 200 and SW300, which will be described later, by short-range wireless communication, wireless LAN, or base station communication.
- the icon touch information on the smartphone 200, the application information indicating the application to be activated, the file data to be played by the activation application, and the like are transmitted and received via the transmission / reception antenna.
- the communication device 160 includes a LAN (Local Area Network) communication interface (I / F) 161, a telephone network communication I / F 162, and a BT (Bluetooth (registered trademark)) communication I / F 163.
- the LAN communication I / F161 connects to an access point for wireless communication on the Internet by wireless communication to transmit and receive data.
- the telephone network communication I / F 162 performs telephone communication (call) and data transmission / reception by wireless communication with a base station of a mobile telephone communication network.
- the BT communication I / F163 is an interface for communicating with an external device according to the Bluetooth standard.
- the LAN communication I / F161, the telephone network communication I / F162, and the BT communication I / F163 each include a coding circuit, a decoding circuit, an antenna, and the like.
- the communication device 160 may further include an infrared communication I / F or the like.
- Bluetooth registered trademark
- IrDA Infrared Data Association, registered trademark
- Zigbee registered trademark
- HomeRF Home Radio Frequency, registered trademark
- a wireless LAN such as Wi-Fi (registered trademark).
- long-distance wireless communication such as W-CDMA (Wideband Code Division Multiple Access) or GSM (registered trademark) (Global System for Mobile communications) may be used.
- An ultra-wideband wireless system (Ultra Wide Band: UWB) may be used to detect the positional relationship and orientation between information terminals. Thereby, it may be detected and determined whether the icon 420 on the display screen of the smartphone 200 can be seen through the HMD 100.
- the communication device 160 may use another method such as communication by optical communication sound wave as a means of wireless communication. In that case, instead of the transmitting / receiving antenna, a light emitting / receiving unit and a sound wave output / sound wave input unit are used, respectively.
- the expansion interface unit 105 is a group of interfaces for expanding the functions of the HMD 100, and in the present embodiment, it includes a charging terminal, a video / audio interface, a USB (Universal Serial Bus) interface, a memory interface, and the like.
- the video / audio interface inputs video / audio signals from an external video / audio output device, outputs video / audio signals to an external video / audio input device, and the like.
- the USB interface connects SB devices.
- the memory interface connects a memory card or other memory medium to send and receive data.
- the vibration generator 107 is a vibrator that generates vibration under the control of the main processor 111.
- the vibration generator 107 converts the notification information to the user 501 into vibration.
- the vibration generator 107 can reliably convey the notification to the user 501 by generating vibration at the head of the user 501 who closely wears the HMD 100.
- FIG. 5 is a hardware configuration diagram of the smartphone 200 of the present embodiment.
- the smartphone 200 of the present embodiment includes a main processor 201, a system bus 202, a storage device 210, an operation reception device 220, an image processing device 230, a voice processing device 240, and a sensor 250.
- the communication device 260, the expansion interface (I / F) unit 205, the timer 206, and the vibration generator 207 are provided.
- the smartphone 200 further includes a touch panel 223 as an operation reception device 220.
- the touch panel 223 includes a touch panel 123, which is arranged so as to be superimposed on the display 231. Further, input of an instruction may be accepted via a keyboard or the like connected to the extended interface unit 205.
- the display 231 is composed of a liquid crystal panel or the like, and displays notification information to the user 501 such as the remaining battery capacity, various alarms, and the time, and also displays the icon of the application to be activated in the display 231 and the execution status of the application. do.
- the operation receiving device 220 is a touch pad type input means such as a capacitance type, and detects an approach or contact operation (touch operation) with a finger or a touch pen as an operation input.
- the user 501 can set and input the information to be input, and can easily select and specify the icon of the application or file on the display 231 by touch operation.
- 6 (a) and 6 (b) are functional block diagrams of the functions of the HMD 100 and the smartphone 200 of the present embodiment, respectively, related to the present embodiment.
- the HMD 100 includes a main control unit 170, a reception unit 171, a transmission / reception unit 172, a cooperation determination unit 173, an application execution unit 174, an output unit 175, and an application program storage unit. 176 and an icon data storage unit 177 are provided.
- the main control unit 170 controls the operation of each unit of the HMD 100.
- the reception unit 171 receives an instruction from the user 501.
- the main processor 111 is realized by operating the operation receiving device 120.
- an application start instruction or the like is received.
- the transmission / reception unit 172 transmits / receives data to / from an external device.
- the main processor 111 is realized by operating the communication device 160.
- data is transmitted / received to / from the smartphone 200 via the transmission / reception unit 172.
- the cooperation judgment unit 173 realizes the cooperation processing with the smartphone 200. Further, in the present embodiment, it is determined whether or not the smartphone 200 is in a linked state in which it can operate in the linked operation mode described later. In the present embodiment, as shown in FIG. 2A, the display 131 displays the linked field of view 101a, the captured image taken by the out-camera 133 is analyzed, and whether or not the display content is in a predetermined arrangement state. To judge.
- the cooperative visual field 101a is set in a part of the visual field range that the user 501 can see through the opening portion (lens portion) of the HMD 100 or the display area of the display 131.
- the entire visual field range that the user 501 can see through the HMD 100 may be set to the cooperative visual field 101a by changing the configuration of the device, changing the set value, or the like.
- the cooperation determination unit 173 determines that the icon 420 of the predetermined application on the display of the smartphone 200 is in the predetermined arrangement state when the photographed image shows the icon 420 of the predetermined application.
- the predetermined application is, for example, an application that has received a notification from the smartphone 200.
- the smartphone 200 accepts that the user 501 has selected the predetermined icon 420, the smartphone 200 transmits information (application specific information) for identifying the application associated with the icon 420 to the HMD 100. Based on this application specific information, the HMD 100 identifies the icon 420 associated with the application specified by the received application specific information.
- the cooperation determination unit 173 determines whether or not the program of the application notified from the smartphone 200 is installed in itself when it is in the predetermined arrangement state. Then, if it is installed, it is determined that it is in a linked state. That is, when the cooperation determination unit 173 of the present embodiment is in the predetermined arrangement state and the program of the application corresponding to the icon operated by the user 501 is installed in the own device, the cooperation determination unit 173 determines that it is in the cooperation state.
- the cooperation determination unit 173 determines that it is in a cooperation state, it transmits information indicating that it is in a cooperation state, that is, a cooperation state signal to the smartphone 200. On the other hand, if it is not determined to be in the linked state, a non-coordinated state signal indicating the non-coordinated state is transmitted to the smartphone 200. The non-coordination state signal does not have to be transmitted.
- the HMD 100 stores the shape data of the icon 420 of the application installed in the own terminal as icon data in advance in the icon data storage unit 177.
- the icon data storage unit 177 stores the shape information of the icon 420 in association with the application specific information.
- the cooperation determination unit 173 refers to the icon data storage unit 177 and determines whether or not the shape data associated with the received application specific information is stored. If it is stored, the shape data is extracted, and it is determined whether or not there is an image region matching the shape data in the region corresponding to the cooperative visual field 101a.
- the cooperation determination unit 173 determines that the icon data storage unit 177 is in a non-cooperation state when the shape data associated with the received application specific information is not stored. Even if the shape data is stored, if there is no image area matching the extracted shape data in the area corresponding to the linked visual field 101a of the captured image, it is determined that the image is not linked. On the other hand, if the shape data is stored and there is an image area that matches the extracted shape data, it is determined to be in the linked state.
- the application execution unit 174 is an application execution unit that starts and executes an application when the reception unit 171 receives an application start instruction.
- the program of the application to be executed is stored in the application program storage unit 176.
- the output unit 175 outputs the execution result of the executed application. In the present embodiment, for example, it is displayed on the display 131 or output as audio to the speaker 141.
- the application program is stored in the application program storage unit 176.
- the icon data storage unit 177 stores the shape data of the icon 420 that receives the execution instruction of each application program as icon data.
- the icon data is stored in association with the application.
- the shape data is not limited to physical shapes (pictures) and images, but may be text data or the like.
- the cooperation determination unit 173 may specify the corresponding application by the accompanying text data.
- Each of the above functions is realized by the main processor 111 loading the program stored in the ROM 114 into the RAM 113 and executing the program. Further, the application program storage unit 176 and the icon data storage unit 177 are constructed in the storage device 110.
- FIG. 6B is a functional block of the smartphone 200.
- the smartphone 200 of the present embodiment includes a main control unit 270, a reception unit 271, a transmission / reception unit 272, a cooperation control unit 273, an application execution unit 274, an output unit 275, and icon data.
- a storage unit 277 and an application program storage unit 276 are provided.
- the main control unit 270 controls the operation of each part of the smartphone 200.
- the reception unit 271 receives instructions from the user 501.
- the main processor 211 is realized by operating the operation reception device 220.
- various operation instructions such as an application start instruction are received.
- the transmission / reception unit 272 transmits / receives data to / from an external device.
- the main processor 211 is realized by operating the communication device 260.
- data is transmitted / received to / from the HMD 100 via the transmission / reception unit 272.
- the cooperation control unit 273 determines the operation mode of the smartphone 200, and operates the smartphone 200 in the determined operation mode.
- the linked operation mode is an operation mode that is executed in the linked state.
- the cooperation control unit 273 determines an execution device (execution terminal) which is a terminal for executing the application in the cooperation operation mode.
- execution terminal execution terminal
- the HMD 100 is determined to be the execution device in the cooperative operation mode.
- the smartphone 200 when the smartphone 200 receives an instruction to start the application from the user 501 by touching the icon 420 or the like, the smartphone 200 sends the activation instruction to the linked HMD 100.
- the application is not executed on the own device.
- the cooperation control unit 273 when the cooperation control unit 273 receives the cooperation state signal from the HMD 100, the cooperation control unit 273 determines that it is in the cooperation state and operates it in the cooperation operation mode. On the other hand, when a non-cooperative state signal is received, it is operated in the independent operation mode.
- the independent operation mode is an operation mode in which the application is started and executed by the own device when the user 501 receives an instruction to start the application.
- the application execution unit 274 is a second application execution unit that executes an application on the smartphone 200.
- the reception unit 171 receives the start instruction of the application and the cooperation control unit 273 determines that it is the independent operation mode, it is executed.
- the program of the application to be executed is stored in the application program storage unit 276.
- the output unit 275 outputs the execution result of the application executed by the application execution unit 274.
- the execution result is output to, for example, the display 231 and the speaker 241.
- the application program is stored in the application program storage unit 276.
- the icon data storage unit 277 stores an icon for receiving an execution instruction of each application program. The icon is stored in association with the application.
- Each of the above functions is realized by the main processor 211 loading the program stored in the ROM 214 into the RAM 213 and executing the program. Further, the application program storage unit 276 and the icon data storage unit 277 are constructed in the storage device 210.
- FIG. 7 is a diagram illustrating a flow of application linkage processing.
- This process is started when the HMD 100 and the smartphone 200 are in a state where short-range communication is possible, for example.
- the main control unit 170 of the HMD 100 and the main control unit 270 of the smartphone 200 will be referred to as the HMD 100 and the smartphone 200, respectively.
- the smartphone 200 and the HMD100 first establish communication with each other (S1101, S1201).
- communication is established by causing each transmission / reception unit 172, 272 to transmit / receive data via, for example, BT communication I / F163 / 263.
- the smartphone 200 displays the icon 420 of the application that can be started on the smartphone 200 on the display 231.
- the smartphone 200 receives the selection instruction of the user 501 (step S1202).
- the reception unit 271 of the smartphone 200 detects a touch operation on the icon 420 associated with the selected application displayed on the display 231 via the touch panel 223.
- the application A is selected.
- the transmission / reception unit 272 of the smartphone 200 notifies the HMD 100 that the application A has been selected (selection information) via the BT communication I / F263 (step S1203).
- the selection information includes application-specific information that identifies the selected application (here, application A).
- the cooperation determination unit 173 of the HMD 100 receives the selection information of the application A from the smartphone 200 via the transmission / reception unit 172 (step S1102), the local terminal (HMD100) and the transmission source terminal (smartphone 200) are in a cooperative state. It is determined whether or not there is (step S1103).
- the HMD 100 returns to the smartphone 200 the determination result of whether it is in the linked state or the non-linked state, that is, either the linked signal or the non-linked signal (step S1104).
- the execution device is determined according to the determination result (step S1205).
- the execution device is determined to be the HMD 100 if the determination result is the linked state, and the smartphone 200 is determined to be the execution device if the determination result is the non-coordinated state.
- the cooperation control unit 273 of the smartphone 200 notifies the HMD 100 of the determination result via the transmission / reception unit 272 (step S1206). Further, the HMD 100 receives the determination result (step S1105).
- the smartphone 200 and the HMD 100 each execute the application A according to the decision result.
- the application execution unit 274 of the smartphone 200 activates the application A in the smartphone 200 (step S1208), and executes the application A until the application A ends. (Steps S1209 and S1210), the process is terminated. For example, if the application A is a playback application for music or the like, when the playback information is played to the end, the application ends. Further, when the end instruction is received via the reception unit 271, the process may be terminated.
- the execution device is not determined to be the smartphone 200, the process ends as it is.
- step S1106 when the execution device is determined to be HMD100 (step S1106), the application execution unit 174 of the HMD100 activates the application A in the HMD100 (step S1107), and executes the application A until the application A ends. (Steps S1108, S1109), the process is terminated. In addition, the end instruction of the application A is usually given on the HMD100 side.
- the application A When executing the application A on the HMD 100, for example, if the application A is an application that plays music, images, documents, etc., the application A is started and executed on the HMD 100, and the display 131, the speaker 141, etc. are used. To play playback information such as music, images, and documents. When there is an operation instructing the end of playback via the operation reception device 120, the process ends. Further, the process may be terminated when the reproduction information is reproduced to the end.
- the instruction to end the application A may be accepted by the smartphone 200 and transmitted to the HMD 100.
- the selected icon 420 is continuously displayed. Then, when the icon 420 is touched after the notification of the determination result of S1206, the smartphone 200 determines that the end instruction has been accepted and transmits the end instruction to the HMD 100.
- the information processing system 500 of the present embodiment is an information processing system 500 that cooperates between a plurality of terminals to execute an application commonly provided by each terminal.
- a first information terminal (HMD100) and a second information terminal (smartphone 200) are provided as a plurality of terminals.
- the smartphone 200 includes a reception unit 271 that receives an application activation instruction, and a cooperation control unit 273 that operates the smartphone 200 in either a single operation mode or a cooperation operation mode.
- the HMD 100 includes a cooperation determination unit 173 that determines whether or not the smartphone 200 is in a state in which it can operate in the cooperation operation mode, and an output unit 175 that outputs the execution result of the application executed in the cooperation operation mode. Be prepared.
- the independent operation mode is an operation mode in which the application is independently executed on the smartphone 200.
- the cooperative operation mode is an operation mode in which the application is executed in cooperation with the HMD 100 and the smartphone 200. Then, when the cooperation determination unit 173 of the HMD 100 determines that the cooperation determination unit 173 is in the cooperation state, the cooperation control unit 273 of the smartphone 200 is operated in the cooperation operation mode.
- the linked state in which the smartphone 200 can operate in the linked operation mode is determined by the arrangement of the HMD 100 and the smartphone 200. That is, the reception unit 271 of the smartphone 200 displays the icon 420 for receiving the activation instruction on the display 231 (second display) included in the smartphone 200, and receives the activation instruction via the icon 420.
- the cooperation determination unit 173 of the HMD 100 includes the icon 420 displayed on the display 231 within the predetermined cooperation field of view 101a of the display 131 of the HMD 100, the cooperation determination unit 173 determines that the display is in the cooperation state.
- the operation exemplified by the smartphone 200 is performed.
- the icon 420 of the application displayed on the display 231 of the second information terminal with good characteristics is touch-operated, the information terminal that activates the application is automatically operated according to the arrangement state of the first information terminal and the second information terminal. To decide.
- the cooperation state is formed by making the arrangement state easy for the user 501 to see the icon of the smartphone 200 through the HMD 100.
- the desired application can be started on the HMD 100 by an easy icon touch operation performed on the smartphone 200 having good operability. That is, the application to be started by the HMD 100 can be selected on the screen of the smartphone 200, which has a high listability and is easy to operate. Therefore, according to the present embodiment, the operability and usability of the HMD 100 can be significantly improved.
- a smartphone 200 having good operability is used when starting the application on the HMD 100. Bring the smartphone 200's app icon to a predetermined arrangement so that it can be seen through the field of view of the HMD 100, and in this state, simply touch the smartphone 200's app icon to use the same app or support on the HMD 100 via communication. You can launch the app.
- the smartphone 200 that performs a touch operation on the icon of the desired application can be seen from the HMD 100, the user 501 can visually recognize the touch operation, so that the application can be reliably started.
- the cooperative field of view 101a is set in the central portion of the display range of the display 131, the certainty and convenience are further high for the user 501.
- the application icon of the smartphone 200 is out of the predetermined arrangement state in which the application icon of the smartphone 200 cannot be seen through the field of view of the HMD 100, the application installed in the smartphone 200 itself remains as it is even if the HMD 100 is attached. stand up. For example, by visually recognizing and touching the icon 420 in the part that is within the field of view of the user 501 but is not determined to be in the predetermined arrangement state (the part outside the cooperative field of view 101a), the application can be applied on the smartphone 200 side even with the HMD100 hung. Can be started.
- the application can be launched as it is on the smartphone 200.
- the user 501 can easily determine the terminal for activating the desired application.
- the smartphone 200 and the HMD 100 are linked and the smartphone 200 is executed in the linked operation mode in which the smartphone 200 is used as the operation device of the HMD 100, or the smartphone 200 is operated. It is possible to determine whether to execute in the independent operation mode used independently. Therefore, it is possible to provide an information processing system 500 in which the burden on the user 501 is small, the flexibility is high, and the operability is good.
- the second information terminal may be, for example, a tablet, a smart watch, a PC, or the like, as long as it is an information terminal that can display an icon of an application or a file and select an icon, in addition to the smartphone 200.
- music apps and video apps are taken as examples of apps to be executed, but the explanation is not limited to these.
- the HMD 100 determines whether or not the HMD 100 and the smartphone 200 are in a linked state, and the smartphone 200 determines the execution device. In this embodiment, the HMD 100 side determines the execution device.
- the hardware configuration of the HMD 100 and the smartphone 200 is the same as that of the first embodiment. The same applies to the functional configuration. However, the processing of the cooperation determination unit 173 and the cooperation control unit 273 is different.
- the cooperation determination unit 173 of the HMD 100 of the present embodiment determines whether the HMD 100 and the smartphone 200 are in a cooperative state or a non-cooperative state as in the first embodiment. In the present embodiment, the execution device of the application A is subsequently determined.
- the cooperation determination unit 173 determines the execution device as the HMD 100 when it is determined to be in the cooperation state, and determines the execution device as the smartphone 200 when it is determined to be in the non-cooperation state.
- the cooperation determination unit 173 determines that the execution device is the HMD 100, the cooperation determination unit 173 transmits a signal (operation mode instruction signal) meaning that the execution device is executed in the cooperation operation mode to the smartphone 200.
- a signal operation mode instruction signal
- the execution device is determined to be the smartphone 200, an operation mode instruction signal meaning to execute in the independent operation mode is transmitted to the smartphone 200.
- the cooperation control unit 273 of the smartphone 200 of the present embodiment operates the smartphone 200 in the determined operation mode as in the first embodiment.
- the operation mode is not determined. The operation is performed in the operation mode specified by the operation mode instruction signal transmitted from the HMD 100.
- the cooperation determination unit 173 of the HMD 100 of the present embodiment determines whether or not the HMD 100 and the smartphone 200 are in the cooperation state as in the first embodiment (step S1103). After that, the cooperation determination unit 173 determines the execution device of the application A (step S2101). Here, when it is determined that it is in the linked state, the execution device is determined to be the HMD 100, and when it is determined that it is in the non-coordinated state, the execution device is determined to be the smartphone 200.
- the cooperation judgment unit 173 transmits the decision result together with the judgment result to the smartphone 200 (step S2102). That is, the operation mode determination signal is transmitted to the smartphone 200. After that, the process of step S1106 is executed according to the determination result.
- step S1207 When the cooperation control unit 273 on the smartphone 200 side receives the determination result (step S2201), the processing after step S1207 is executed according to the operation mode.
- the smartphone 200 when the cooperation determination unit 173 of the HMD 100 determines that it is in the cooperation state, the smartphone 200 is instructed to operate in the cooperation operation mode.
- the HMD 100 and the smartphone 200 can be smoothly linked without increasing the burden on the user 501. Can provide a good system.
- the hardware configuration of the HMD 100 and the smartphone 200 is the same as that of the first embodiment. The same applies to the functional configuration. However, the processing of the cooperation determination unit 173 and the cooperation control unit 273 is different.
- the cooperation determination unit 173 of the HMD 100 of the present embodiment receives the application A selection information indicating that the application A has been selected from the smartphone 200, it determines whether or not the application A is installed in the own device, and the determination result. To the smartphone 200.
- the cooperation control unit 273 of the smartphone 200 of the present embodiment receives the determination result of whether or not the application A is installed from the HMD 100, it determines whether or not the HMD 100 and the own device are in the cooperation state. , Determine the execution device.
- the cooperation control unit 273 first determines whether or not the HMD 100 and the smartphone 200 are in a predetermined arrangement state. For example, as shown in FIG. 9, when the HMD 100 exists within the shooting range 201a of the in-camera 234 of the smartphone 200, it is determined that the HMD 100 is in a predetermined arrangement state. On the smartphone 200 side, the shape of the HMD 100 is held as a pattern in advance, the image taken by the in-camera 234 is analyzed, and if the pattern exists in the image corresponding to the shooting range 201a, it is determined to be in the predetermined arrangement state. .. The shape data of the HMD 100 may be transmitted from the HMD 100 side to the smartphone 200 for use during communication.
- the cooperation control unit 273 determines that the HMD 100 and the smartphone 200 are in a predetermined arrangement state, the cooperation control unit 273 then refers to the determination result of the installation of the application A from the HMD 100. Then, if the result that it is installed is received, it is determined that it is in the linked state. On the other hand, if it is not in the predetermined arrangement state, or if the application A is not installed in the HMD 100 even if it is in the predetermined arrangement state, it is determined that the application A is in the non-coordination state.
- the cooperation control unit 273 determines the execution device, and transmits the determination result to the HMD 100 together with the determination result of the arrangement state. For example, the cooperation control unit 273 determines the execution device as the HMD 100 when it is determined to be in the cooperation state, and determines the execution device as the smartphone 200 when it is determined to be in the non-cooperation state.
- the cooperation determination unit 173 of the HMD 100 of the present embodiment receives the application A selection information indicating that the application A has been selected from the smartphone 200 (step S1102), the cooperation determination unit 173 determines whether or not the application A is installed in the own device. Then, the determination result is transmitted to the smartphone 200 (step S3101).
- the cooperation control unit 273 of the smartphone 200 receives the discrimination result from the HMD 100 (step S3201), the cooperation control unit 273 determines the cooperation state (step S3202).
- the determination is made according to the determination result of whether or not both devices are in the predetermined arrangement state and the determination result received from the HMD 100 (step S3202).
- the linkage control unit 273 determines the execution device according to the determination result of the linkage state (step S3203), and transmits the determination result to the HMD 100 together with the determination result of the linkage state.
- step S3102 when the determination result and the determination result are received from the smartphone 200 (step S3102), the processes after step S1106 are executed according to the determination result.
- the cooperation control unit 273 of the smartphone 200 determines whether or not the smartphone 200 is in a state of being able to operate in the cooperation operation mode. Then, when it is determined that the smartphone 200 is in the linked state, the smartphone 200 is operated in the linked operation mode.
- the HMD 100 and the smartphone 200 can be smoothly linked without increasing the burden on the user 501, which is easy to use. Can provide a good information processing system.
- the hardware configuration of the HMD 100 and the smartphone 200 is the same as that of the first embodiment. The same applies to the functional configuration. However, the processing of the cooperation determination unit 173 and the cooperation control unit 273 is different.
- the cooperation control unit 273 on the smartphone 200 side is in the cooperation state, even if the execution device is determined to be the HMD 100, the application A is executed in synchronization with the HMD 100 on the smartphone 200 side as well.
- the cooperation control unit 273 sends a start instruction to the HMD 100 and causes the smartphone 200 to execute the application A as well. Then, as shown in FIG. 11B, the display 231 of the smartphone 200 also displays the operation screen during the execution of the application A.
- the application A is a music playback application is shown.
- the cooperation control unit 273 of the present embodiment accepts operations for the application A such as pause, skip, back, and stop via the display 231 of the smartphone 200 in a state where the execution device is determined to be the HMD 100.
- a signal (operation signal) meaning the operation is transmitted to the HMD 100.
- the cooperation determination unit 173 of the HMD 100 When the cooperation determination unit 173 of the HMD 100 receives an operation signal from the smartphone 200 via the transmission / reception unit 172 while the application A is being executed, the cooperation determination unit 173 controls the operation of the application A according to the operation signal.
- the method of any of the first to third embodiments is used for the process of determining whether or not the HMD 100 and the smartphone 200 are in a linked state and determining the execution device accordingly. You may use it.
- this process is referred to as an execution device determination process.
- the cooperation control unit 273 of the smartphone 200 instructs the application execution unit 274 to start the application A when the execution device determination process is performed and the execution device is determined in step S4400. In response to this, the application execution unit 274 activates the application A (step S4201).
- step S1207 processing is performed depending on whether or not the execution device is a smartphone (step S1207). That is, when the execution device is determined to be the smartphone 200, the processes after step S1209 are performed as in the first to third embodiments.
- the application execution unit 274 also executes the application A in synchronization with the HMD 100 on the smartphone 200 side (step S4202). Then, when the reception unit 271 receives an operation for the application A via the display 231 or the like (step S4203), the transmission / reception unit 272 transmits an operation signal corresponding to the operation to the HMD 100. This continues until the end of application A. In FIG. 12, as an example, a case where the end operation of the application A is accepted is illustrated.
- the application execution unit 174 processes as an operation signal to the application A. For example, when the operation signal instructing the end is received as shown in FIG. 12 (step S4101), the application A is terminated (step S4102), and the process is terminated.
- the application is executed synchronously on the smartphone 200 side even in the cooperative operation mode. Therefore, the smartphone 200 can accept the operation for the application at any time while the application is operating on the HMD 100.
- the smartphone 200 and the HMD 100 are in a predetermined arrangement state, when the icon of the application A of the smartphone 200 is touched, the application A is executed by the HMD 100. At this time, the smartphone 200 transitions to the operation screen of the application A and accepts the operation of the application A being executed by the HMD 100. For example, when the pause button on the displayed operation screen is touched on the smartphone 200, the playback of the application A being executed by the HMD 100 is paused.
- the HMD 100 and the smartphone 200 can be smoothly linked without increasing the burden on the user 501, which is easy to use. Can provide a good information processing system. Further, according to the present embodiment, even when the application is being executed by the HMD 100, the operation for the application can be performed by the smartphone 200, so that the usability is further improved and the convenience is improved.
- the smartphone 200 side it is not necessary to operate the entire application.
- only the I / F portion may be operated to transmit an operation signal for the received operation to the HMD 100, and the subsequent processing may be performed on the HMD 100 side.
- an operation button is displayed, an operation input is accepted via the operation button, and an operation signal is transmitted to the HMD 100.
- the HMD100 application plays back according to the operation signal.
- the application of the HMD 100 can be operated on the easy-to-use screen of the smartphone 200 without wasting the resources of the smartphone 200.
- the smartphone 200 transmits data necessary for executing the application A to the HMD 100 before starting the application A in the HMD 100.
- This embodiment is, for example, an embodiment when the application A is an application for file playback or the like.
- the hardware configuration of the HMD 100 and the smartphone 200 is the same as that of the first embodiment. The same applies to the functional configuration. However, the processing of the cooperation determination unit 173 and the cooperation control unit 273 is different.
- the cooperation control unit 273 of the smartphone 200 of the present embodiment transmits data necessary for executing the selected application A to the HMD 100 when the execution device is determined to be the HMD 100 in the cooperation state, that is, in the cooperation operation mode. ..
- the cooperation determination unit 173 of the HMD 100 activates and executes the application A in the HMD 100.
- the method of any of the first to third embodiments is used for the process of determining whether or not the HMD 100 and the smartphone 200 are in a linked state and determining the execution device accordingly. You may use it.
- this process is referred to as an execution device determination process.
- the cooperation control unit 273 of the smartphone 200 controls the operation of the smartphone 200 according to the execution device determination process performed in step S4400 and the execution device is determined.
- the cooperation control unit 273 causes the transmission / reception unit 272 to transfer the data necessary for the processing of the application A to the HMD 100 (step S5201), and ends the processing.
- the execution device is determined to be the smartphone 200, the processes after step S1208 are executed.
- the cooperation determination unit 173 causes the application execution unit 174 to activate the application A (step S1107), and the step.
- the processing after S1108 is executed.
- the linked control unit 273 transmits data necessary for executing the application to the HMD 100, and the HMD 100 uses the smartphone. Execute the application using the data received from 200.
- the HMD 100 and the smartphone 200 can be smoothly linked without increasing the burden on the user 501, which is easy to use. Can provide a good information processing system.
- the data necessary for executing the application is stored in the smartphone 200, and it is not necessary to constantly store the data in the HMD 100 where it is desirable to reduce the storage capacity such as memory. Therefore, in the HMD 100, the application can be executed while suppressing the storage capacity.
- the application is a playback application for music, image documents, etc.
- the data saved in the smartphone 200 can be reproduced on the HMD 100 using the playback application installed on the HMD 100. That is, these data can be reproduced by a more familiar device, which is more convenient.
- the case where the application to be executed is specified first and the file data is transferred has been described as an example, but the present invention is not limited to this.
- the application to be executed is not limited, and only the file data may be transferred.
- the HMD100 side confirms the received file data and starts the application that processes the file data.
- the data of the file may not be transferred, only the specified information of the file may be transmitted, and the file in the HMD 100 may be played back by the HMD 100.
- the HMD 100 may be played back by the HMD 100.
- the hardware configuration of the HMD 100 and the smartphone 200 is the same as that of the first embodiment. The same applies to the functional configuration. However, the processing of the cooperation determination unit 173 and the cooperation control unit 273 is different.
- the cooperation control unit 273 of the smartphone 200 executes the application A on the smartphone 200 side even when the execution device is determined to be the HMD 100 in the cooperation state. However, when the HMD 100 is an execution device, the execution result is transmitted to the HMD 100 instead of being output to the own device.
- the cooperation determination unit 173 of the HMD 100 controls the output unit 175 to output the execution result (output information) of the application A received via the transmission / reception unit 172. If the output of the execution result requires a screen, processing, or the like peculiar to the application A, the HMD 100 also starts the application A and performs the processing.
- This output device determination process is the same process as the execution device determination process, which is the process of determining the execution device in any one of the first to third embodiments, and determines the output device instead of the execution device.
- the cooperation control unit 273 of the smartphone 200 instructs the application execution unit 274 to start the application A when the output device determination process is performed and the output device is determined in step S6400.
- the application execution unit 274 activates the application A (step S1208).
- the cooperation control unit 273 causes the application execution unit 274 to execute the application A (step S1209).
- step S6201 when outputting, it is determined whether the output device determined in the output device determination process is the smartphone 200 or the HMD 100 (step S6201). Then, when the output device is the smartphone 200, the cooperation control unit 273 causes the output unit 275 to output as it is to the display 231, the speaker 241 and the like of the own device (step S6202). The processing of steps S1209 to S6202 is continued until the application A ends, and the processing ends.
- the cooperation control unit 273 causes the transmission / reception unit 272 to transmit the output information, which is the information to be output, to the HMD 100 (step S6203).
- step S6101 if the output device is determined to be the smartphone 200, the process is terminated as it is (step S6101), and if it is determined to be the HMD100, the cooperation determination unit 173 receives the output information to the transmission / reception unit 172. Preparation for receiving output information is performed (step S6102).
- the cooperation determination unit 173 causes the output unit 175 to output the received output information (step S6104).
- the cooperation determination unit 173 executes the processing of S6103 and S6104 until the reception of the output information is completed (step S6105), and ends the processing. Whether or not the output has ended may be determined, for example, by receiving an output information end signal, elapses a designated time after the output information cannot be received, or interrupts communication with the smartphone.
- the linked control unit 273 executes the selected application and transmits the execution result to the HMD 100. do.
- the HMD 100 and the smartphone 200 can be smoothly linked without increasing the burden on the user 501, which is easy to use. Can provide a good information processing system.
- the music software is executed on the smartphone 200 and only the voice reproduction information is provided. It can be transmitted to the HMD100 and listened to by the speaker (headphone) of the HMD100. Therefore, it is not necessary to install an extra information data memory or an application itself for large-capacity content data such as video and music in the HMD 100. That is, while reducing the installed capacity, it is possible to operate as if an application such as music was started and played on the HMD100.
- the storage capacity on the HMD100 side can be reduced, and the required processing capacity can also be reduced. This makes it possible to reduce the size and weight of the HMD 100. Further, according to the present embodiment, even if the HMD 100 is being executed, the smartphone 200 can be operated, so that the usability is good.
- the information processing system 500 of the present embodiment includes a first information terminal, a second information terminal, and a third information terminal, and these three information terminals cooperate with each other to execute an application. ..
- the present embodiment will be described by taking as an example a case where the first information terminal is a smart watch (SW300), the second information terminal is a smartphone 200, and the third information terminal is an HMD100.
- SW300 smart watch
- HMD100 HMD100
- the HMD 100 determines whether or not the smartphone 200 and the SW300 are in an arrangement state in which they can cooperate with each other. Then, in response to the result, the smartphone 200 determines whether to execute the selected application A in its own device or in the SW300, that is, to operate in the cooperative operation mode or the independent operation mode. When the smartphone 200 determines the operation mode, it is confirmed whether the application A selected in the SW300 is installed in the SW300 in advance.
- the hardware configuration of the HMD 100 and the smartphone 200 is the same as that of the first embodiment. The same applies to the functional configuration. However, the processing of the cooperation determination unit 173 and the cooperation control unit 273 is different.
- the hardware configuration and functional blocks of the HMD 100 and the smartphone 200 of this embodiment are basically the same as those of the first embodiment. However, the processing of the cooperation determination unit 173 and the cooperation control unit 273 are different.
- the HMD 100 of the present embodiment only determines whether or not the third information terminal is in a coordinated arrangement state. That is, the cooperation determination unit 173 of the present embodiment determines whether or not the smartphone 200 and the SW300 are in an arrangement state in which they can cooperate with each other.
- the smartphone 200 when the screen on which the icon 420 of the smartphone 200 is displayed and the SW300 are both present in the cooperative field of view 101a of the display 131, the smartphone 200 is present. And SW300 are determined to be in a state where they can cooperate with each other. Then, when the program of the application corresponding to the icon 420 is installed in the SW300, the selected application is executed by the SW300 as shown in FIG. 16B.
- the SW300 of the present embodiment includes a main processor 311, a system bus 312, a storage device 310, an operation reception device 320, an image processing device 330, a voice processing device 340, and a sensor 350.
- a communication device 360, an expansion interface (I / F) unit 305, a timer 306, and a vibration generator 307 are provided.
- the SW 300 further includes a touch panel 323 as an operation reception device 320.
- the touch panel 323 includes a touch panel 323 that is arranged so as to be superimposed on the display 331.
- FIG. 3 the functional block of SW300 is shown in FIG. As shown in this figure, the main control unit 370, the reception unit 371, the transmission / reception unit 372, the cooperation control unit 373, the application execution unit 374, the output unit 375, the icon data storage unit 377, and the application program storage. A unit 376 is provided.
- Each functional block has the same function as the configuration of the same name of HMD100.
- the cooperation control unit 373 of the SW300 determines whether or not the SW300 operates in the cooperation operation mode in which the application is executed in cooperation with other information terminals, like the cooperation control unit 273 of the smartphone 200.
- the application execution unit 374 is started to start the application in response to the activation instruction from another information terminal.
- FIG. 19 is a processing flow of the application cooperation processing of the present embodiment.
- the same processing as in the first embodiment is designated by the same reference numerals, and detailed description thereof will be omitted.
- the HMD 100 and the smartphone 200, and the SW 300 and the smartphone 200 first establish communication with each other (steps S1101, S1201, S1301). Similar to the first embodiment, the respective transmission / reception units 172, 272, and 372 perform data communication and establish communication.
- the smartphone 200 accepts the selection instruction of the application A (step S1202).
- the smartphone 200 notifies the HMD 100 and the SW 300 of the selection information of the application A (step S1203).
- the cooperation determination unit 173 of the HMD 100 determines whether or not the smartphone 200 and the SW300 are in an arrangement state in which they can cooperate by the above method (step S7101), and transmits the determination result to the smartphone 200 (step S7102). Communication may be established between the HMD 100 and the SW 300, and the determination result may be transmitted to the SW 300 as well.
- the cooperation control unit 373 of the SW300 which has received the notification of the application A selection information from the smartphone 200, determines whether or not the application A is installed in the own device, and transmits the result to the smartphone 200 as the application A information. (Step S7303).
- the cooperation control unit 273 of the smartphone 200 which has received the determination result of the arrangement state from the HMD 100 and the application A information from the SW300 (step S7201), uses these information to determine whether or not the own device and the SW300 are in the cooperation state. It is determined whether or not, and the execution device on which the application A is executed is determined (step S7202). In the present embodiment, when the information that the application A is installed in the SW300 is obtained in the arranged state where the cooperation is possible, the execution device is determined to be the SW300. In other cases, the execution device is determined to be the smartphone 200.
- the cooperation control unit 273 of the smartphone 200 notifies the HMD 100 and the SW 300 of the determination result (step S7203). Upon receiving the decision result, the HMD 100 ends the process.
- the smartphone 200 executes the processes after step S1207.
- the SW300 activates the application A in the SW300 (step S7306) and executes the application A until the application A ends (steps S7307, S7308). , End the process.
- the information processing system 500 of the present embodiment includes an HMD 100, a smartphone 200, and a SW 300 as a plurality of terminals.
- the HMD 100 determines whether or not the smartphone 200 is in a linked state in which it can operate in the linked operation mode. Then, when the smartphone 200 is determined to be in the linked state, it operates in the linked operation mode and transmits a start instruction of the selected application to the SW300.
- the SW300 receives a start instruction and starts and executes the application.
- the application can be started by the SW300 by the smartphone 200 having good operability. Further, the cooperation between the two is realized by determining the positional relationship between the two over the field of view of the third information terminal, the HMD 100. The operability can be improved when the application is executed on the SW300. That is, in the present embodiment, it is possible to realize a highly convenient information terminal cooperation technology without burdening the user 501.
- the smartphone 200 having good operability when the smartphone 200 having good operability is used when starting the application, if the icon of the smartphone 200 and the SW300 can be seen through the field of view of the HMD 100, the icon of the smartphone 200 is in this state. By touching, the desired application can be started with the SW300. Therefore, the display unit and the operation unit of the SW300 may be simple. That is, the configuration of SW300 can be simplified.
- the smartphone 200 when the smartphone 200 is in the predetermined arrangement state in the cooperative field of view 101a of the HMD100 and the SW300 is not in the cooperation field of view 101a of the HMD100, the same as in the first embodiment.
- the execution device may be determined to be HMD100.
- the smartphone 200 sends a start instruction to the HMD 100, and the application A is started in the HMD 100.
- the first information terminal is not limited to SW300.
- the information terminal may be, for example, a tablet, a PC, another smartphone 200 different from the second information terminal, or the like.
- the smartphone 200 may execute the application in synchronization with the SW300, and the operation may be accepted by the smartphone 200.
- the SW 300 may receive data transfer from the smartphone 200 before executing the application.
- the application may be executed on the smartphone 200 side, and only the execution result may be received and output.
- the SW300 By transferring the file data stored in the smartphone 200 to the SW300 and playing the data with the file playback application installed in the SW300, the SW300 does not have to always hold all the file data, and the SW300 does not have to hold all the file data. It is possible to reduce the weight of the data capacity, which is important for such a small and multifunctional watch-type information terminal.
- whether or not the two information terminals are in a predetermined arrangement state is determined by whether or not the two information terminals are in a predetermined positional relationship. That is, it is determined whether or not the arrangement state is such that the icon 420 on the display 231 of the smartphone 200 exists in the cooperative field of view 101a of the HMD 100.
- the judgment method is not limited to this.
- an ultra-wideband wireless system (Ultra Wide Band: UWB) is used to detect the positional relationship and orientation between information terminals, and the result is used to identify and determine whether or not the smartphone 200 and the HMD 100 are in a predetermined arrangement state. You may.
- the movement of each information terminal is determined from the output information of various sensors 150 and 250 mounted on the smartphone 200 and the HMD 100, respectively, and the positional relationship and orientation between the terminals are detected to determine whether or not the device is in a predetermined arrangement state. It may be used for the identification judgment.
- whether or not it is in a predetermined arrangement state may be determined by, for example, the distance between two information terminals. For example, it may be determined by the distance between the HMD 100 and the smartphone 200. That is, when the distance between the two is less than the predetermined distance threshold value, it is determined that the arrangement state is predetermined.
- the distance between the two is measured by, for example, the depth sensor 155 of the HMD 100 in the first, second, and seventh embodiments. Further, in the third embodiment, the measurement is performed by the depth sensor 255 of the smartphone 200.
- the process is simple when determining whether or not it is in a predetermined arrangement state based on the distance between the two. That is, the desired application can be started on the HMD 100 by touching the icon using the smartphone 200 in the vicinity of a certain range without worrying about whether the smartphone 200 is in the cooperative field of view 101a of the HMD 100. Further, by intentionally separating the smartphone 200 by a certain distance or more, the application can be started on the smartphone 200 side. Therefore, the convenience is further improved. Further, as compared with the process of making a judgment using the cooperative visual field 101a, erroneous operations such as the intention of removing the visual field from the visual field are reduced.
- the predetermined arrangement state may be used.
- the icon 420 is included in the range of the cooperation field of view 101a, and the user 501 is looking at the icon 420, it may be determined that the arrangement is in a predetermined state.
- ⁇ Modification 2> when it is determined that the application is in a linked state, the application is started on a predetermined information terminal.
- the method for determining the execution device of the application is not limited to this.
- the device on which the application is executed may be determined according to the mode of the selection operation for the icon 420 displayed on the smartphone 200. For example, when the icon 420 is single-tapped, it is activated by the smartphone 200, and when it is double-tapped, it is activated by the HMD100.
- the HMD 100 may not start the application even in the linked state.
- the execution device may be determined not only by the line-of-sight direction but also by opening and closing the eyes of the user 501.
- the image acquired by the in-camera 134 for a predetermined period is analyzed to identify whether or not the eyes are closed for a certain specified time during which it is possible to determine whether or not the eyes are intentionally closed, which is different from blinking. ..
- the smartphone 200 is determined to start the application.
- the smartphone 200 may be activated. In this case, it is effective when the HMD 100 is intentionally and explicitly started by the smartphone 200 while being used all the time.
- one eye may be started with the smartphone 200. In this case, it is possible to easily perform the desired operation while looking at the icon 420 with the other eye.
- the transmission and reception of data between the information terminals is not limited to direct wireless communication with each other.
- the server 610 may be used.
- the application, the file, and the data may be stored on the server 610 and appropriately transferred to each information terminal by communication according to the instruction from the smartphone 200 for use.
- the application may be started on the server 610 and the reproduction information may be transferred to the information terminal determined by each embodiment for viewing.
- the server 610 may be connected to each information terminal via communication to send and receive necessary information, and may be, for example, a local server, a cloud server, an edge server, a net service, or the like, regardless of the form.
- the content data may be downloaded from the cloud network to the HMD 100.
- the amount of data used is dramatically large. Therefore, the capacity reduction effect of the HMD 100 is large.
- a high-speed large-capacity communication network such as 5G or (5th Generation: 5th generation mobile communication system) local 5G is used for data communication, the usability can be further improved.
- a terminal mark (hereinafter referred to as a small icon) is added at a predetermined position as a small figure indicating which information terminal can start the application or file. May be good. Examples of icons including small icons are shown in FIGS. 21 (a) to 21 (c).
- the music playback application is set as the application A, and the icon 430 is shown.
- FIG. 21A is an example in which the icon 430 includes a small icon 431 indicating that the application can be started by the HMD 100 in the icon 430.
- FIG. 21B is an example in which the icon 430 includes a small icon 432 indicating that the application A can be moved by the SW300.
- FIG. 21 (c) is an example of an application that can be started only with the smartphone 200.
- the icon 440 of the table creation application is shown as an example.
- a small icon is not displayed at a predetermined position in the icon 440 of the spreadsheet application.
- the icon when the icon is touched on the smartphone 200, the user includes the presence / absence of small icons as shown in FIGS. 21 (a), 21 (b), and 21 (c) in the icon to be touched.
- the user By touching this icon while visually recognizing, it is possible to know in advance which information terminal can be activated, and it is possible to easily improve usability.
- the small icons described in FIGS. 21 (a), 21 (b), and 21 (c) can be activated when the information terminals are in the predetermined arrangement state regardless of whether or not they are in the predetermined arrangement state. It indicates an information terminal.
- the cooperation control unit 273 of the present embodiment receives information from the HMD 100 or SW 300 that each information terminal includes the application A, the small icon 431 is displayed at a predetermined position of the icon 430.
- information on whether or not the application program is installed may be exchanged between the HMD 100 and SW 300 and the smartphone 200 in advance, and the small icon 431 may be displayed.
- the small icon 431 may display an information terminal in which an application or a file is activated between linked information terminals in a manner that can be identified when the icon 420 is touched. That is, the display mode of the small icon 431 may be changed depending on whether or not it is in the linked state.
- FIG. 21 (d) when the smartphone 200 and the HMD100 are in a linked state and the application or file is started on the HMD100 by touching the icon 420, the highlighted (shaded) small icon 432 is shown in FIG. 21 (d). Is displayed.
- a small icon 433 without highlighting (shading) is displayed as shown in FIG. 21 (e).
- the user 501 can easily grasp the information terminal that can be activated. As a result, the information terminal to be activated can be clearly selected by the user 501.
- the user 501 may be notified by the speaker 141 (headphones) by using voice information as to which information terminal the application can be started.
- the vibration generator 107 may notify the user 501 of the vibration information that identifies the information terminal on which the HMD 100 can start the application according to the magnitude and type of the vibration. It is possible to obtain even higher convenience for the user 501.
- Whether or not to display the small icon may be specified at the time of installation of the application as the initial setting for each application. Further, the user 501 may be able to change the initial setting. Further, it may be possible to collectively determine the display of all the applications (by being controlled by the OS or the like) and switch the display according to the instruction of the user 501, not for each application but for each terminal.
- a method of detecting the icon touch a method of detecting the icon touch operation by the operation receiving device 120 of the smartphone 200 is shown.
- the out-camera 133 of the HMD 100 may capture an icon touch operation on the smartphone 200 and detect it by analyzing the captured image.
- the coordinates on the display 231 of the smartphone 200 taken by the out-camera 133 of the HMD 100 are sent from the HMD 100 to the smartphone 200, and the smartphone 200 identifies the application at the coordinates and notifies the HMD 100. You may.
- the example of the HMD 100 and the smartphone 200 is given as the information terminal, but the information terminal may be an information terminal capable of acquiring arrangement information between a plurality of information terminals.
- the information terminal may be an information terminal capable of acquiring arrangement information between a plurality of information terminals.
- both may be smartphones.
- the application may be started on another smartphone 200B by touching the icon while shooting with the camera of another smartphone 200B on the smartphone 200A that displays the icon 420 and accepts the touch.
- the same application may be operated in cooperation between each information terminal.
- the smartphone 200 displays a detailed map
- the HMD 100 displays a simplified map, and the like. Usability can be improved by operating in cooperation.
- ⁇ Modification 7> when installing the same application or the corresponding application, it may be installed synchronously, such as installing it on one of the information terminals and then installing it on the other information terminal. If the same application as the application selected on one information terminal or the corresponding application does not exist on the other information terminal, it may be downloaded from a server or another information terminal and installed and used. In addition, linking between information terminals (pairing, group setting, etc.) may be performed in advance. If communication is established with an information terminal that is not linked, the user 501 is inquired as to whether or not to link, and if the user 501 indicates the intention to link, the linking can be performed at that point. good.
- the present invention is not limited to the above-described embodiment, but includes various modifications.
- the above-described embodiment has been described in detail in order to explain the present invention in an easy-to-understand manner, and is not necessarily limited to the one including all the described configurations.
- it is possible to replace a part of the configuration of one embodiment with the configuration of another embodiment and it is also possible to add the configuration of another embodiment to the configuration of one embodiment.
- each of the above configurations, functions, processing units, processing means, etc. may be realized by hardware by designing a part or all of them by, for example, an integrated circuit. Further, each of the above configurations, functions, and the like may be realized by software by the processor interpreting and executing a program that realizes each function. Information such as programs, tables, and files that realize each function can be placed in a memory, a hard disk, a recording device such as an SSD (Solid State Drive), or a recording medium such as an IC card, an SD card, or a DVD.
- SSD Solid State Drive
- control lines and information lines indicate those that are considered necessary for explanation, and do not necessarily indicate all the control lines and information lines in the product. In practice, it can be considered that almost all configurations are interconnected.
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Software Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Stored Programmes (AREA)
- Telephone Function (AREA)
Abstract
複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、前記複数の端末として第一情報端末と第二情報端末とを備え、前記第二情報端末は、前記アプリケーションの起動指示を受け付ける受付部と、単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、前記第一情報端末は、前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まることを特徴とする。
Description
本発明は、複数の情報端末間でのアプリケーション(以下、アプリと呼ぶ。)の起動を制御する技術に関する。
ヘッドマウントディスプレイ(Head Mounted Display:HMD)は、表示範囲が狭いため、他の情報端末と連携して用いられることがある。例えば、特許文献1には、「連携先デバイスと接続するために用いる情報および当該連携先デバイスに登録されたアプリが用いるデータに関する情報を含むデバイス情報を管理する第1の管理部と、連携元デバイスからの連携要求に対し、前記デバイス情報を参照して、連携が可能な連携先デバイスおよびアプリを示す連携候補を取得する第2の管理部と、前記連携候補に示されるアプリを起動し、連携を行うデバイスおよび当該デバイスに登録された連携が可能なアプリを連携先に確定する連携制御部とを含む(要約抜粋)」アプリ連携装置が開示されている。
特許文献1の技術によれば、他の情報端末を用いて所望アプリの選択指定を行うことにより、操作性が向上する。しかし、特許文献1の技術では、アプリが登録された全ての情報端末でアプリが起動する。このため、当該アプリが意図しない情報端末でも実行され、当該情報端末において他のアプリの動作が停止するなど、作業を妨げることがある。
本発明は、上記事情に鑑みてなされたもので、同じアプリまたは対応するアプリを搭載した複数の情報端末間で、ユーザの負担を増加させることなく、容易に所望のデバイスでアプリを起動、実行させる、使い勝手のよい情報処理技術を提供することを目的とする。
本発明は、複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、前記複数の端末として第一情報端末と第二情報端末とを備え、前記第二情報端末は、前記アプリケーションの起動指示を受け付ける受付部と、単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、前記第一情報端末は、前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まることを特徴とする。
本発明によれば、同じアプリまたは対応するアプリを搭載した複数の情報端末間で、ユーザの負担を増加させることなく、容易に所望のデバイスでアプリを起動、実行させる、使い勝手のよい情報処理技術を提供できる。上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
<<第一実施形態>>
本発明の第一実施形態を、図面を用いて説明する。本実施形態では、第一の情報処理端末(第一情報端末)と第二の情報処理端末(第二情報端末)とが共通して有するアプリケーション(アプリ)を、連携して実行する。
本発明の第一実施形態を、図面を用いて説明する。本実施形態では、第一の情報処理端末(第一情報端末)と第二の情報処理端末(第二情報端末)とが共通して有するアプリケーション(アプリ)を、連携して実行する。
以下、本実施形態を、例えば、第一情報端末としてヘッドマウントディスプレイ(以下、HMDと呼ぶ。)を、第二情報端末としてスマートフォン(以下、スマホと呼ぶ。)を用いる場合を例にあげて説明する。
図1は、本実施形態の情報処理システム500の全体を、模式的に示す図である。本図に示すように、本実施形態の情報処理システム500は、ユーザ501の頭部に装着された第一情報端末であるHMD100と、ユーザ501が手に持つ第二情報端末であるスマホ200と、を備える。
HMD100は、現実に似せた仮想世界を作り出しあたかもそこにいるような感覚を体験できる仮想現実(Virtual Reality:VR)技術や、現実世界にデジタル情報を付与しCG(Computer Graphics)などで作った仮想空間(仮想オブジェクト)を現実世界に反映し拡張していく拡張現実(Augmented Reality:AR)技術を具現化する情報端末であって、ユーザ501が頭部に装着して利用する。しかしながら、構造上の制約があって表示範囲が狭く、また、細かい操作がしにくい。
スマホ200は、単独での通話や通信の機能を備える。スマホ200は、アイコンをわかりやすくディスプレイに表示し、タッチ操作性に好適なものである。なお、アイコンは、ユーザ501の指やタッチペンなどによる接近又は接触操作により、アプリの起動が可能な図形記号である。
本実施形態では、HMD100と、スマホ200とが連携し、HMD100にインストールされているアプリケーション(以下、アプリと呼ぶ)の起動指示を、スマホ200側で行い、アプリはHMD100で実行する。本実施形態では、この状態を連携状態と呼ぶ。なお、以下、HMD100とスマホ200とを区別する必要がない場合は、情報端末と呼ぶ。
第一実施形態は、HMD100とスマホ200とが連携状態であるか否かを、HMD100側で判断する。連携状態であるか否かは、両者の配置状態で判断する。具体的には、図2(a)に示すように、HMD100のディスプレイ131(131a、131b)の予め定めた連携視野101a内に、スマホ200のディスプレイ231に表示されているアプリのアイコン420(421、422、423)が存在する場合、連携状態と判断する。
なお、図2(a)では、連携視野101a内に入っているアプリケーションA(アプリA)のアイコン421が、選択されている様子である。以下、このように、起動を所望するアプリケーションのアイコン420が連携視野101a内であるHMD100とスマホ200との配置状態を、所定配置状態と呼ぶ。
HMD100とスマホ200とが、所定配置状態にある場合、連携状態と判断される。ユーザ501がHMD100のディスプレイ131越しに、スマホ200上に表示されるアイコン421をタッチする等の動作で選択すると(図2(a))、例えば、スマホ200側で、選択されたアイコン421に対応するアプリの起動指示を行い、HMD100側でアプリを実行する(図2(b))。図2(b)には、HMD100において、アプリが実行され、当該アプリのアイコン411が表示される状態を示す。
本実施形態では、連携状態で、ユーザ501がアプリAのアイコン421にタッチするなど、スマホ200側でユーザ501による選択を受け付けると、スマホ200と、HMD100との間で、通信がなされ、ユーザ501によるタッチ情報がスマホ200からHMD100に送信される。
HMD100では、アイコン421へのタッチ情報を受信すると、それを、起動指示とし、HMD100内のアプリAを起動する。
なお、図3(a)に示すように、HMD100の連携視野101a内に、スマホ200のディスプレイ231に表示されるアイコン420が入っていない配置状態を、非所定配置状態と呼ぶ。
非所定配置状態で、ユーザ501がアプリAのアイコン421にタッチするなどの動作で、スマホ200側でアプリAの選択を受け付けると、そのままスマホ200で、アプリAを起動させる。
このように、本実施形態では、HMD100を装着していても、スマホ200上でアプリを実行させたい場合は、アイコン421を、連携視野101aの範囲外にすればよい。
なお、本実施形態では、HMD100と、スマホ200とは、音楽・画像の再生や書類作成など特定の作業を行うために使用される同一のアプリ、または、対応するアプリを各々搭載する。また、HMD100とスマホ200との間は、端末間の無線通信または有線通信により情報の送受信が行われる。
[ハードウェア構成]
以下、上記処理を実現する本実施形態の情報処理システム500を構成するHMD100、スマホ200それぞれについて、ハードウェア構成を説明する。
以下、上記処理を実現する本実施形態の情報処理システム500を構成するHMD100、スマホ200それぞれについて、ハードウェア構成を説明する。
図4および図5は、各々、HMD100およびスマホ200の構成例を示すブロック図である。これらの図では、図1~図3に示した構成と同一のものには同一の符号を付す。
図4は、本実施形態のHMD100のハードウェア構成図である。本図に示すように、本実施形態のHMD100は、メインプロセッサ111と、システムバス112と、記憶装置110と、操作受付装置120と、画像処理装置130と、音声処理装置140と、センサ150と、通信装置160と、拡張インタフェース(I/F)部105と、タイマ106と、振動発生装置107と、を備える。
メインプロセッサ111は、所定のプログラムに従ってHMD100全体を制御する主制御部である。メインプロセッサ111は、CPU(Centoral Processor Unit)またはマイクロプロセッサユニット(MPU)で実現される。メインプロセッサ111は、記憶装置110に記憶されるオペレーティングシステム(Operating System:OS)や各種の動作制御用アプリケーションなどのプログラムを実行することによって、HMD100全体の動作制御処理を行う。また、メインプロセッサ111は、各種のアプリの起動動作を制御する。メインプロセッサ111は、タイマ106が計測し、出力するクロック信号に従って、処理を行う。
システムバス112は、メインプロセッサ111とHMD100内の各部との間でデータ送受信を行うためのデータ通信路である。
記憶装置110は、RAM103とROM104とを備える。記憶装置110には、オペレーティングシステムや、音楽、画像、文書等の各種の動作制御用アプリなどのプログラムが記憶される。また、オペレーティングシステムなどによる基本動作に必要なベースデータや、各種アプリなどで起動されるファイルデータなどの情報データが格納される。例えば、HMD100に搭載されている音楽アプリが起動し音楽のファイルデータが選択されると、HMD100では選択された音楽のファイルデータが再生されて、所望の音楽を聴くことができる。
RAM103は、基本動作プログラムやその他のアプリケーションプログラム実行時のプログラム領域である。また、RAM103は、各種アプリケーションプログラム実行時に、必要に応じてデータを一時的に保持する一時記憶領域である。RAM103は、メインプロセッサ111と一体構成であっても良い。
ROM104は、HMD100の各動作設定値やHMD100の使用者の情報等を記憶する。ROM104は、HMD100で撮影した静止画像データや動画像データ等を記憶してもよい。また、HMD100は、アプリケーションサーバから、インターネットを介して、新規アプリケーションプログラムをダウンロードすることにより、機能拡張が可能であるものとする。この際、ダウンロードした新規アプリケーションプログラムは、ROM104に記憶される。メインプロセッサ111が、ROM104に記憶された新規アプリケーションプログラムをRAM103に展開し、実行することにより、HMD100は、多種の機能を実現できる。
ROM104は、HMD100に電源が供給されていない状態であっても記憶している情報を保持できるものであればよく、データを読み出すことは出来るが書き込むことは出来ないマスクROMに限定されない。ROM104には、例えばフラッシュROMやSSD(Solid State Drive)、HDD(Hard Disc Drive)等のデバイスが用いられる。
操作受付装置120は、HMD100に対する操作指示の入力を受け付ける。本実施形態では、操作キー121と、タッチセンサ122と、を備える。操作キー121は、電源キー、音量キー、ホームキー等である。また、タッチセンサ122は、タッチパッドによる操作指示を受け付ける。なお、本実施形態のHMD100は、必ずしも、これらの全ての操作受付装置120を備えなくてもよい。また、有線通信または無線通信により接続された別体の情報処理端末機器を介してHMD100の操作を受け付けてもよい。
操作受付装置120は、HMD100内でユーザが入力操作を行いやすい位置や形態に設ければよい。なお、HMD100の本体から分離し有線や無線で接続された形態でもよい。また、ユーザ501の視線を利用するものであってもよい。視線を利用するものは、例えば、ディスプレイ131内に入力操作画面を表示させ、インカメラ134で検出したユーザ501の視線が向いている入力操作画面上の位置により入力操作情報を取り込む。ポインタを入力操作画面上に表示させ、ポインタを操作して入力操作情報を取り込んでもよい。また、ユーザ501が入力操作を示す音声を発声し、後述するマイク143で集音して入力操作情報を取り込んでもよい。
画像処理装置130は、イメージ(ビデオ)プロセッサであり、ディスプレイ131と、アウトカメラ133と、インカメラ134と、を備える。
ディスプレイ131は、例えば液晶パネル等の表示デバイス(ディスプレイ)であり、画像信号処理部で処理された画像データをHMD100の使用者に提示する。ディスプレイ131は、左目用ディスプレイ131aと、右目用ディスプレイ131bと、を備える。ディスプレイ131は、光学透過型ディスプレイまたはビデオ透過型ディスプレイであってもよい。
光学透過型ディスプレイは、起動アプリによる再生情報やユーザ501への通知情報など各種の情報を投影する投影部と投影された各種の情報を目の前で結像表示させる透明なハーフミラーを備える。また、ビデオ透過型ディスプレイは、アウトカメラ133で撮影された目の前の現実空間物体と各種の情報とを合わせて表示する液晶パネル等を備える。ディスプレイ131により、ユーザ501は、目の前の視界視野内の画像に加え、起動アプリによる音楽、画像、文書などの再生情報を合わせて視認する。
本実施形態では、ディスプレイ131に、アプリの実行状態等が表示される。
なお、画像信号処理部は、アウトカメラ133およびインカメラ134から入力された画像を処理する、イメージ(ビデオ)シグナルプロセッサである。また、画像信号処理部は、メインプロセッサ111等により作成したオブジェクトを入力画像に重畳してディスプレイ131に出力する。画像信号処理部は、メインプロセッサ111により実現されてもよいし、メインプロセッサ111とは別に、画像専用のプロセッサを備え、それにより実現されてもよい。
アウトカメラ133は、HMD100の周囲の画像を取得する。アウトカメラ133は、HMD100の前面に設置され、前方の視界視野状態を撮影する。なお、HMD100には、ハーフミラー等を用いて必要な各種の情報を投影表示しながら目の前の現実空間物体を直視する光学透過型と、アウトカメラ133で撮影された目の前の現実空間物体と各種の情報とを合わせて液晶パネル等のディスプレイ131に映し出すビデオ透過型と、があるが、両者ともアウトカメラ133により撮影された、目の前の視野視界状態を撮影して取り込むものである。
インカメラ134は、アウトカメラ133とは異なる領域の画像を取得する。例えば、ユーザの眼を撮影する。なお、本実施形態では、インカメラ134は、視線特定処理を行う処理部とともに、視線検出センサとして機能する。
視線検出センサは、右目視線検出部と、左目視線検出部とを備え、それぞれ右目、左目の視線を検出する。なお、視線を検出する処理は、アイトラッキング処理として一般的に用いられている周知技術を利用すればよい。例えば、角膜反射を利用した方法では、赤外線LED(Light Emitting Diode)を顔に照射し、赤外線カメラで撮影し、赤外線LED照射でできた反射光の角膜上の位置(角膜反射)を基準点とし、角膜反射の位置に対する瞳孔の位置に基づいて視線を検出する。この場合、赤外線カメラ、赤外線LEDを備える。
音声処理装置140は、音声を処理するオーディオプロセッサである。スピーカ141と、マイク143と、を備える。
スピーカ141は、音声信号処理部で処理した音声信号を外部に出力する。音声信号処理部は、オーディオシグナルプロセッサである。HMD100では、例えば、ヘッドフォン等が用いられる。
マイク143はマ、ユーザの声などを音声データに変換して入力する。例えば、外周音マイクと、発声音マイクとを備えてもよい。これらのマイクは、各々、外部からの音声、ユーザ501自身の発声を集音する。なお、ヘッドフォンが接続されてもよい。ヘッドフォンは、ユーザ501の耳部に装着されユーザ501への音声を聞き取る。
センサ150は、HMD100の状態を検出するためのセンサ群である。本実施形態では、GPS(Global Positioning System)受信部151と、ジャイロセンサ152と、地磁気センサ153と、加速度センサ154と、深度センサ155とを備える。これらのセンサ群により、HMD100の位置、動き、傾き、方角等を検出する。また、深度センサ155は、HMD100から対象物までの距離情報を取得する。なお、その他のセンサを、さらに、備えていても良い。
加速度センサ154は、単位時間当たりの速度の変化である加速度を検出するセンサであり、動き・振動・衝撃などを捉えることができる。また、ジャイロセンサ152は、回転方向の角速度を検出するセンサであり、縦・横・斜めの姿勢の状態を捉えることができる。HMD100に搭載されている加速度センサ154およびジャイロセンサ152を用いて、HMD100の動きを検出することができる。
地磁気センサ153は、地球の磁力を検出するセンサであり、HMD100の向いている方向を検出するものである。前後方向と左右方向に加え上下方向の地磁気も検出する3軸タイプを用い、HMD100の動きに対する地磁気変化を捉まえることにより、HMD100の動きを検出することも可能である。これらにより、HMD100越しにスマホ200のディスプレイ231上のアイコン420が見える状態かを検出判別してもよい。
深度センサ155は、人や物などの対象物の形状を立体として捉えることができるセンサである。赤外線などのレーザー光を対象物に照射し、はね返ってくる散乱光を測定し遠距離にある対象物までの距離やその対象物の状態を分析検出するLiDAR(Light Detection and Ranging)や、被写体に照射したパルス光の反射時間を画素ごとに計測して測距を行うTOF(Time Of Flight)センサ、ミリ波の電波を発射しその反射波を捉まえて反射している対象物までの距離や対の象物の状態を検出するミリ波レーダーなどが用いられる。深度センサ155により、例えばスマホ200までの距離を測定する。
通信装置160は、近距離無線通信、無線LAN或いは基地局通信により、近傍にあるスマホ200や後述するSW300など、他の情報端末と無線通信を行う通信インタフェースである。無線通信に際しては送受信アンテナを介して、スマホ200でのアイコンタッチ情報や起動するアプリを示すアプリ情報、また起動アプリで再生するファイルデータなどの送受信を行う。
通信装置160は、LAN(Local Area Network)通信インタフェース(I/F)161と、電話網通信I/F162と、BT(Bluetooth(登録商標))通信I/F163と、を備える。LAN通信I/F161は、インターネットの無線通信用アクセスポイントと無線通信により接続してデータの送受信を行う。電話網通信I/F162は、移動体電話通信網の基地局との無線通信により、電話通信(通話)およびデータの送受信を行う。BT通信I/F163は、Bluetooth規格により外部装置と通信を行うためのインタフェースである。LAN通信I/F161、電話網通信I/F162、BT通信I/F163は、それぞれ符号化回路や復号回路、アンテナ等を備える。通信装置160は、さらに、赤外線通信I/F等を備えていても良い。
なお、近距離無線通信として、Bluetooth(登録商標)だけでなく、IrDA(Infrared Data Association、登録商標)、Zigbee(登録商標)、HomeRF(Home Radio Frequency、登録商標)などを用いて行ってもよい。または、Wi-Fi(登録商標)などの無線LANを用いて行なってもよい。また、基地局通信としては、W-CDMA(Wideband Code Division Multiple Access)やGSM(登録商標)(Global System for Mobile communications)などの遠距離の無線通信を用いればよい。なお、超広帯域無線システム(Ultra Wide Band:UWB)を使用して情報端末間の位置関係や向きを検出してもよい。これにより、HMD100越しにスマホ200の表示画面上のアイコン420が見えるような状態かを検出判別してもよい。
なお、通信装置160は、無線通信の手段として光通信音波による通信等、他の方法を使用してもよい。その場合、送受信アンテナの代わりにそれぞれ光発光/受光部、音波出力/音波入力部を用いる。
拡張インタフェース部105は、HMD100の機能を拡張するためのインタフェース群であり、本実施形態では、充電端子、映像/音声インタフェース、USB(Universal Serial Bus)インタフェース、メモリインタフェース等を備える。映像/音声インタフェースは、外部映像/音声出力機器からの映像信号/音声信号の入力、外部映像/音声入力機器への映像信号/音声信号の出力、等を行う。USBインタフェースはSB機器の接続を行う。メモリインタフェースはメモリカードやその他のメモリ媒体を接続してデータの送受信を行う。
振動発生装置107は、メインプロセッサ111からの制御によって振動を発生させるバイブレータである。振動発生装置107は、ユーザ501への通知情報を振動に変換する。振動発生装置107は、HMD100を密接装着するユーザ501の頭部で振動を発生させることにより、通知を、ユーザ501に確実に伝えることができる。
図5は、本実施形態のスマホ200のハードウェア構成図である。本図に示すように、本実施形態のスマホ200は、メインプロセッサ201と、システムバス202と、記憶装置210と、操作受付装置220と、画像処理装置230と、音声処理装置240と、センサ250と、通信装置260と、拡張インタフェース(I/F)部205と、タイマ206と、振動発生装置207と、を備える。
各装置の詳細は、HMD100の同名のものと基本的に同様である。ただし、スマホ200は、操作受付装置220として、さらに、タッチパネル223を備える。タッチパネル223は、ディスプレイ231に重ねて配置されるタッチパネル123、を備える。また、拡張インタフェース部205に接続したキーボード等を介して指示の入力を受け付けてもよい。
ディスプレイ231は、液晶パネルなどにより構成され、バッテリ容量の残量、各種アラーム、時刻などユーザ501への通知情報を表示するとともに、ディスプレイ231内に起動するアプリのアイコンやアプリの実行状態等を表示する。操作受付装置220は、例えば静電容量式などのタッチパッド方式の入力手段であり、指やタッチペンなどによる接近又は接触操作(タッチ操作)を操作入力として検出するものである。ユーザ501が入力したい情報を設定入力したり、ディスプレイ231にあるアプリやファイルのアイコンをタッチ操作により容易に選択指定したりする。
[機能ブロック]
次に、本実施形態のHMD100およびスマホ200それぞれの機能構成について説明する。図6(a)および図6(b)は、それぞれ、本実施形態のHMD100およびスマホ200の、本実施形態に関係する機能の機能ブロック図である。
次に、本実施形態のHMD100およびスマホ200それぞれの機能構成について説明する。図6(a)および図6(b)は、それぞれ、本実施形態のHMD100およびスマホ200の、本実施形態に関係する機能の機能ブロック図である。
図6(a)に示すように、HMD100は、主制御部170と、受付部171と、送受信部172と、連携判断部173と、アプリ実行部174と、出力部175と、アプリケーションプログラム記憶部176と、アイコンデータ記憶部177と、を備える。
主制御部170は、HMD100の各部の動作を制御する。
受付部171は、ユーザ501からの指示を受け付ける。本実施形態では、メインプロセッサ111が操作受付装置120を動作させることにより実現される。本実施形態では、例えば、アプリケーションの起動指示等を受け付ける。
送受信部172は、外部装置とのデータの送受信を行う。本実施形態では、メインプロセッサ111が通信装置160を動作させることにより実現される。本実施形態では、送受信部172を介してスマホ200とデータの送受信を行う。
連携判断部173は、スマホ200との連携処理を実現する。また、本実施形態では、スマホ200が後述する連携動作モードで動作可能な状態である連携状態であるか否かを判断する。本実施形態では、図2(a)に示すように、ディスプレイ131に連携視野101aを表示させるとともに、アウトカメラ133が撮影した撮影画像を解析し、その表示内容で、所定配置状態であるか否かを判断する。
連携視野101aは、ユーザ501がHMD100の開口部分(レンズ部分)、またはディスプレイ131の表示領域を通して見ることができる視野範囲の一部の領域に設定される。なお、機器の構成、設定値の変更等によりユーザ501がHMD100を通して見ることのできる視野範囲全てを連携視野101aにしてもよい。
連携判断部173は、図2(a)に示すように、撮影画像にスマホ200のディスプレイ上の所定のアプリのアイコン420が写っている場合、所定配置状態にあると判断する。所定のアプリは、例えば、スマホ200から、通知を受けたアプリである。後述するように、スマホ200では、ユーザ501が所定のアイコン420を選択したことを受け付けた場合、当該アイコン420に対応付けられたアプリを特定する情報(アプリ特定情報)をHMD100に送信する。HMD100では、このアプリ特定情報に基づき、受信したアプリ特定情報で特定されるアプリに対応付けられたアイコン420を特定する。
連携判断部173は、所定配置状態である場合、スマホ200から通知を受けたアプリのプログラムが、自身にインストールされているか否かを判断する。そして、インストールされていれば、連携状態であると判断する。すなわち、本実施形態の連携判断部173は、所定配置状態であり、かつ、ユーザ501が操作したアイコンに対応するアプリのプログラムが自装置にインストールされている場合、連携状態と判断する。
連携判断部173は、連携状態と判断した場合、連携状態であることを示す情報、すなわち連携状態信号をスマホ200に送信する。一方、連携状態と判断しなかった場合は、非連携状態であることを示す非連携状態信号をスマホ200に送信する。なお、非連携状態信号は、送信しなくてもよい。
HMD100は、自端末にインストールされているアプリケーションのアイコン420の形状データを予めアイコンデータとしてアイコンデータ記憶部177に記憶する。アイコンデータ記憶部177には、アプリ特定情報に対応づけて、アイコン420の形状情報が格納される。連携判断部173は、アイコンデータ記憶部177を参照し、受信したアプリ特定情報に対応付けられた形状データが格納されているか否かを判別する。格納されている場合、その形状データを抽出し、連携視野101aに対応する領域内に当該形状データにマッチする画像領域があるか否かを判別する。
連携判断部173は、アイコンデータ記憶部177に、受信したアプリ特定情報に対応付けられた形状データが格納されていない場合、非連携状態と判断する。また、形状データが格納されていたとしても、撮影画像の連携視野101aに対応する領域に抽出した形状データにマッチする画像領域がない場合、非連携状態と判断する。一方、形状データが格納され、かつ、抽出した形状データにマッチする画像領域がある場合、連携状態と判断する。
撮影画像内に、スマホ200のディスプレイに対応する形状およびアイコン420の形状があるか否かの判断は、パターンマッチング等により行う。
アプリ実行部174は、受付部171がアプリ起動指示を受け付けると、アプリを起動させて実行するアプリケーション実行部である。なお、実行するアプリのプログラムは、アプリケーションプログラム記憶部176に記憶される。
出力部175は、実行されたアプリの実行結果を出力する。本実施形態では例えば、ディスプレイ131に表示したり、スピーカ141に音声出力したりする。
アプリケーションプログラム記憶部176には、アプリケーションプログラムが記憶される。
アイコンデータ記憶部177には、各アプリケーションプログラムの実行指示を受け付けるアイコン420の形状データがアイコンデータとして記憶される。アイコンデータは、アプリケーションに対応づけて記憶される。なお、形状データは物理的な形状(絵柄)、画像に限らず、テキストデータ等でもよい。連携判断部173は、アイコンの絵柄でアプリケーションを判断できない場合、付随するテキストデータで対応アプリを特定すればよい。
上記各機能は、メインプロセッサ111が、ROM114に記憶されたプログラムをRAM113にロードして実行することにより実現される。また、アプリケーションプログラム記憶部176およびアイコンデータ記憶部177は、記憶装置110に構築される。
次に、本実施形態のスマホ200の機能を説明する。図6(b)は、スマホ200の機能ブロックである。
本図に示すように、本実施形態のスマホ200は、主制御部270と、受付部271と、送受信部272と、連携制御部273と、アプリ実行部274と、出力部275と、アイコンデータ記憶部277と、アプリケーションプログラム記憶部276と、を備える。
主制御部270は、スマホ200の各部の動作を制御する。
受付部271は、ユーザ501からの指示を受け付ける。本実施形態では、メインプロセッサ211が操作受付装置220を動作させることにより実現される。本実施形態では、例えば、アプリの起動指示等各種操作指示を受け付ける。
送受信部272は、外部装置とのデータの送受信を行う。本実施形態では、メインプロセッサ211が通信装置260を動作させることにより実現される。本実施形態では、送受信部272を介してHMD100とデータの送受信を行う。
連携制御部273は、スマホ200の動作モードを決定し、決定した動作モードでスマホ200を動作させる。本実施形態では、動作モードとして、スマホ200単独でアプリを実行する単独動作モードと、HMD100と連携してアプリを実行する連携動作モードとの2種を備える。
連携動作モードは、連携状態の場合に実行される動作モードである。連携制御部273は、連携動作モード時に、アプリを実行する端末である実行デバイス(実行端末)を決定する。ただし、本実施形態では、連携動作モード時は、HMD100を実行デバイスと決定する。
すなわち、連携動作モードでは、スマホ200は、ユーザ501からアイコン420のタッチ等により、アプリの起動の指示を受け付けると、当該起動指示を、連携中のHMD100に送信する。本実施形態では、自装置では、アプリは実行しない。
連携制御部273は、本実施形態では、HMD100から連携状態信号を受信した場合、連携状態と判断し、連携動作モードで動作させる。一方、非連携状態信号を受信した場合、単独動作モードで動作させる。
単独動作モードは、ユーザ501からアプリの起動の指示を受け付けると、自装置でそのアプリを起動させ、実行する動作モードである。
アプリ実行部274は、スマホ200上でアプリを実行する第二アプリケーション実行部である。本実施形態では、受付部171がアプリの起動指示を受け付け、かつ、連携制御部273が、単独動作モードと判別した場合、実行する。実行するアプリのプログラムは、アプリケーションプログラム記憶部276に記憶される。
出力部275は、アプリ実行部274が実行したアプリの実行結果を出力する。本実施形態では、実行結果は、例えば、ディスプレイ231、スピーカ241に出力される。
アプリケーションプログラム記憶部276には、アプリケーションプログラムが記憶される。アイコンデータ記憶部277には、各アプリケーションプログラムの実行指示を受け付けるアイコンが記憶される。アイコンは、アプリケーションに対応づけて記憶される。
上記各機能は、メインプロセッサ211が、ROM214に記憶されたプログラムをRAM213にロードして実行することにより実現される。また、アプリケーションプログラム記憶部276およびアイコンデータ記憶部277は、記憶装置210に構築される。
[処理フロー]
次に、本実施形態の情報処理システム500のアプリ連携処理の流れを説明する。本実施形態では、HMD100とスマホ200とが連携し、HMD100のアプリを起動させる。図7は、アプリ連携処理の流れを説明する図である。
次に、本実施形態の情報処理システム500のアプリ連携処理の流れを説明する。本実施形態では、HMD100とスマホ200とが連携し、HMD100のアプリを起動させる。図7は、アプリ連携処理の流れを説明する図である。
本処理は、HMD100とスマホ200とが、例えば、近距離通信が可能な状態になったことを契機に開始される。以下、処理フローの記載では、HMD100の主制御部170およびスマホ200の主制御部270を、それぞれ、HMD100およびスマホ200と記載する。
スマホ200とHMD100とは、まず互いに通信を確立する(S1101、S1201)。本実施形態では、それぞれの送受信部172、272に例えば、BT通信I/F163、263を介してデータの送受信を行わせることにより、通信を確立する。
スマホ200は、ディスプレイ231にスマホ200で起動可能なアプリのアイコン420を表示させる。スマホ200は、ユーザ501の選択指示を受け付ける(ステップS1202)。スマホ200の受付部271は、ディスプレイ231に表示される、選択されたアプリに対応付けられたアイコン420に対するタッチ操作を、タッチパネル223を介して検出する。ここでは、例えば、アプリAが選択されたものとする。
スマホ200の送受信部272は、BT通信I/F263を介して、HMD100にアプリAが選択されたこと(選択情報)を通知する(ステップS1203)。選択情報には、選択されたアプリケーション(ここでは、アプリA)を特定するアプリ特定情報が含まれる。
HMD100の連携判断部173は、送受信部172を介して、スマホ200からアプリAの選択情報を受領すると(ステップS1102)、自端末(HMD100)と送信元の端末(スマホ200)とが連携状態であるか否かを判断する(ステップS1103)。ここでは、アプリAのプログラムが自装置内にインストールされているか否かと、両端末の配置状態が所定配置状態であるか否かと、について判別する。判別はいずれを先に行ってもよい。そして、選択されたアプリAのプログラムがインストールされ、かつ、所定配置状態である場合、連携状態と判断する。一方、それ以外の場合、非連携状態と判断する。
HMD100は、連携状態であるか、非連携状態であるかの判断結果、すなわち連携信号および非連携信号のいずれかを、スマホ200に返信する(ステップS1104)。
スマホ200の連携制御部273は、送受信部272を介して判断結果を受信すると(ステップS1204)、判断結果に応じて実行デバイスを決定する(ステップS1205)。ここでは、連携状態との判断結果であれば、実行デバイスは、HMD100と、非連携状態との判断結果であれば、実行デバイスは、スマホ200と決定する。
スマホ200の連携制御部273は、送受信部272を介してHMD100に決定結果を通知する(ステップS1206)。また、HMD100は、決定結果を受信する(ステップS1105)。
その後、決定結果に応じてスマホ200およびHMD100は、それぞれ、アプリAを実行する。
スマホ200のアプリ実行部274は、実行デバイスがスマホ200と決定された場合(ステップS1207)、スマホ200内のアプリAを起動させ(ステップS1208)、アプリAが終了するまで、アプリAを実行し(ステップS1209、S1210)、処理を終了する。例えば、アプリAが音楽等の再生アプリであれば、再生情報を最後まで再生した場合、終了する。また、受付部271を介して終了指示を受け付けた場合、処理を終了させてもよい。
一方、実行デバイスがスマホ200と決定されなかった場合は、そのまま処理を終了する。
同様に、HMD100のアプリ実行部174は、実行デバイスがHMD100と決定された場合(ステップS1106)、HMD100内のアプリAを起動させ(ステップS1107)、アプリAが終了するまで、アプリAを実行し(ステップS1108、S1109)、処理を終了する。なお、アプリAの終了指示等は、通常はHMD100側で行う。
一方、実行デバイスがHMD100と決定されなかった場合は、そのまま処理を終了する。
HMD100でアプリAを実行する場合、例えば、アプリAが、音楽、画像、文書等を再生するアプリであれば、HMD100で、アプリAを起動させて実行し、ディスプレイ131、スピーカ141等を使用して、音楽、画像、文書などの再生情報を再生する。操作受付装置120を介して再生終了を指示する操作があった場合は、処理を終了する。また、再生情報を最後まで再生した場合に処理を終了するようにしてもよい。
なお、HMD100でアプリAを実行する場合、アプリA終了の指示は、スマホ200で受け付け、HMD100に送信されてもよい。例えば、スマホ200側では、選択されたアイコン420を表示し続ける。そして、スマホ200は、S1206の決定結果の通知後、当該アイコン420にタッチ操作があった場合、終了の指示を受け付けたものと判断し、HMD100に終了指示を送信する。
以上説明したように、本実施形態の情報処理システム500は、複数の端末間で連携して、各端末が共通に備えるアプリを実行する情報処理システム500である。そして、複数の端末として第一情報端末(HMD100)と第二情報端末(スマホ200)とを備える。スマホ200は、アプリの起動指示を受け付ける受付部271と、単独動作モードおよび連携動作モードのいずれかでスマホ200を動作させる連携制御部273と、を備える。また、HMD100は、スマホ200が連携動作モードで動作可能な状態である連携状態か否かを判断する連携判断部173と、連携動作モード時に実行されたアプリの実行結果を出力する出力部175を備える。なお、単独動作モードは、アプリをスマホ200で単独に実行する動作モードである。連携動作モードは、アプリをHMD100とスマホ200とで連携して実行する動作モードである。そして、スマホ200の連携制御部273は、HMD100の連携判断部173が連携状態と判断した場合、連携動作モードで動作させる。
スマホ200が連携動作モードで動作可能な状態である連携状態は、HMD100と、スマホ200との配置によって定まる。すなわち、スマホ200の受付部271は、スマホ200が備えるディスプレイ231(第二ディスプレイ)に起動指示を受け付けるアイコン420を表示し、当該アイコン420を介して起動指示を受け付ける。HMD100の連携判断部173は、HMD100のディスプレイ131の予め定めた連携視野101a内に、ディスプレイ231に表示されたアイコン420が含まれる場合、連携状態であると判断する。
このように、本実施形態では、HMD100、スマホ200で例示される第一情報端末、第二情報端末で同じアプリまたは対応するアプリが搭載されて起動可能な場合に、スマホ200に例示される操作性の良い第二情報端末のディスプレイ231に表示されたアプリのアイコン420がタッチ操作されたとき、第一情報端末と第二情報端末との配置状態に応じて、アプリを起動する情報端末が自動的に決定する。
具体的には、HMD100内のアプリの起動に際し、HMD100越しにスマホ200のアイコンを見るというユーザ501にとってわかりやすい配置状態にすることにより、連携状態が形成される。連携状態においては、操作性のよいスマホ200で行う容易なアイコンタッチ操作により、HMD100で所望のアプリを起動することができる。すなわち、HMD100で起動したいアプリを、一覧性が高く、操作が容易なスマホ200の画面で選ぶことができる。したがって、本実施形態によれば、HMD100の操作性、使い勝手を、大幅に向上することができる。
また、本実施形態によれば、HMD100でのアプリの起動に際し、操作性のよいスマホ200を用いる。HMD100の視野越しにスマホ200のアプリ・アイコンが見えるような所定配置状態に持っていき、この状態でスマホ200のアプリ・アイコンをタッチするだけで、通信を介して、HMD100で同一アプリまたは対応するアプリを起動させることができる。
これにより、HMD100から所望のアプリのアイコンに対するタッチ操作を行うスマホ200が見えるため、ユーザ501は、タッチ操作を視認できるため、確実に、アプリの起動を行うことができる。
例えば、連携視野101aを、ディスプレイ131の表示範囲の中央部に設定すれば、さらに、ユーザ501にとって確実性および利便性が高い。
一方、本実施形態によれば、HMD100の視野越しにスマホ200のアプリ・アイコンが見えない所定配置状態外にすれば、HMD100を装着していても、スマホ200自身に搭載しているアプリがそのまま立ち上がる。例えば、ユーザ501の視野内に入っているが所定配置状態と判断されない部分(連携視野101a外の部分)でアイコン420を視認してタッチすることで、HMD100を掛けたままでもスマホ200側でアプリを起動することが出来る。さらに、HMD100を装着していない状態や装着していても電源がOFFの状態など、HMD100とスマホ200とが連携していない状態においても、スマホ200でそのままアプリを立ち上げることができる。このように、本実施形態によれば、ユーザ501は、所望のアプリを起動させる端末を、容易に定めることができる。
本実施形態によれば、スマホ200とHMD100との配置状態を変更するだけで、スマホ200とHMD100とを連携させてスマホ200をHMD100の操作装置として用いる連携動作モードで実行するか、スマホ200を単独で用いる単独動作モードで実行するかを定めることができる。したがって、ユーザ501の負担が少なく、柔軟性が高く、かつ、操作性の良い情報処理システム500を提供できる。
なお、第二情報端末としては、スマホ200以外に、アプリやファイルのアイコンを表示できてアイコンを選択できる情報端末であれば、例えば、タブレット、スマートウォッチ、PC等でもよい。
なお、以上の説明では実行されるアプリとして音楽アプリや動画アプリを例にとり説明を行ったが、これらに限定されない。
<<第二実施形態>>
次に、本発明の第二実施形態を説明する。第一実施形態では、HMD100側でHMD100とスマホ200とが連携状態にあるか否かを判断し、スマホ200側で実行デバイスを決定している。本実施形態では、実行デバイスの決定までHMD100側で行う。
次に、本発明の第二実施形態を説明する。第一実施形態では、HMD100側でHMD100とスマホ200とが連携状態にあるか否かを判断し、スマホ200側で実行デバイスを決定している。本実施形態では、実行デバイスの決定までHMD100側で行う。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のHMD100の連携判断部173は、第一実施形態のように、HMD100とスマホ200とが連携状態であるか非連携状態であるかを判断する。本実施形態では、その後、アプリAの実行デバイスを決定する。
具体的には、連携判断部173は、連携状態であると判断した場合、実行デバイスをHMD100と決定し、非連携状態であると判断した場合、実行デバイスをスマホ200と決定する。
連携判断部173は、実行デバイスをHMD100と決定した場合、スマホ200に対し、連携動作モードで実行することを意味する信号(動作モード指示信号)を送信する。一方、実行デバイスをスマホ200と決定した場合、スマホ200に対し、単独動作モードで実行することを意味する動作モード指示信号を送信する。
また、本実施形態のスマホ200の連携制御部273は、第一実施形態同様、スマホ200を決定した動作モードで動作させる。ただし、本実施形態では、第一実施形態のように、動作モードの決定は行わない。HMD100から送信される動作モード指示信号で特定される動作モードで動作させる。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図8に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図8に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
本実施形態のHMD100の連携判断部173は、第一実施形態同様、HMD100とスマホ200とが連携状態であるか否かを判断する(ステップS1103)。その後、連携判断部173がアプリAの実行デバイスを決定する(ステップS2101)。ここでは、連携状態と判断した場合、実行デバイスをHMD100と決定し、非連携状態と判断した場合、実行デバイスをスマホ200と決定する。
そして、連携判断部173は、決定結果を判断結果とともに、スマホ200に送信する(ステップS2102)。すなわち、動作モード決定信号をスマホ200に送信する。その後は、決定結果に応じて、ステップS1106の処理を実行する。
スマホ200側の連携制御部273は、決定結果を受信すると(ステップS2201)、動作モードに従って、ステップS1207以降の処理を実行する。
以上説明したように、本実施形態の情報処理システム500では、HMD100の連携判断部173は、連携状態と判断した場合、スマホ200に対し、連携動作モードで動作するよう指示を行う。
このように、本実施形態の情報処理システム500によれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよいシステムを提供できる。
<<第三実施形態>>
次に、本発明の第三実施形態を説明する。本実施形態では、連携状態であるか否か、および、実行デバイスをスマホ200側で決定する。
次に、本発明の第三実施形態を説明する。本実施形態では、連携状態であるか否か、および、実行デバイスをスマホ200側で決定する。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のHMD100の連携判断部173は、スマホ200からアプリAを選択したことを意味するアプリA選択情報を受信すると、自装置にアプリAがインストールされているか否かを判別し、判別結果をスマホ200に送信する。
また、本実施形態のスマホ200の連携制御部273は、アプリAがインストールされているか否かの判別結果をHMD100から受信すると、当該HMD100と自装置とが連携状態であるか否かを判断し、実行デバイスを決定する。
連携制御部273は、まず、HMD100とスマホ200とが、所定配置状態であるか否かを判別する。例えば、図9に示すように、スマホ200のインカメラ234の撮影範囲201a内に、HMD100が存在する場合、所定配置状態と判断する。スマホ200側では、HMD100の形状を予めパターンとして保持しておき、インカメラ234で撮影した画像を解析し、撮影範囲201aに相当する画像内に当該パターンが存在する場合、所定配置状態と判断する。なお、HMD100の形状データは、通信時にHMD100側からスマホ200に送信して使用してもよい。
連携制御部273は、HMD100とスマホ200とが所定配置状態であると判別した場合、次に、HMD100からのアプリAのインストールの判別結果を参照する。そして、インストールされているとの結果を受信している場合は、連携状態と判断する。一方、所定配置状態に無い場合、または、所定配置状態であっても、アプリAがHMD100にインストールされていない場合は、非連携状態と判断する。
そして、連携制御部273は、実行デバイスを決定し、配置状態の判断結果とともに、HMD100に決定結果を送信する。連携制御部273は、例えば、連携状態と判断した場合は、実行デバイスをHMD100と決定し、非連携状態と判断した場合は、実行デバイスをスマホ200と決定する。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図10に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図10に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
本実施形態のHMD100の連携判断部173は、スマホ200からアプリAを選択したことを意味するアプリA選択情報を受信すると(ステップS1102)、自装置にアプリAがインストールされているか否かを判別し、判別結果をスマホ200に送信する(ステップS3101)。
スマホ200の連携制御部273は、HMD100から判別結果を受信すると(ステップS3201)、連携状態の判断を行う(ステップS3202)。ここでは、上述のように、両装置が所定配置状態にあるか否かの判別結果と、HMD100から受信した判別結果とに応じて判断する(ステップS3202)。
そして、連携制御部273は、連携状態の判断結果に応じて、実行デバイスを決定し(ステップS3203)、連携状態の判断結果ととともに、決定結果をHMD100に送信する。
その後は、決定結果に応じて、ステップS1207以降の処理を実行する。
また、HMD100側では、スマホ200から、判断結果と決定結果とを受信する(ステップS3102)と、決定結果に応じて、ステップS1106以降の処理を実行する。
以上説明したように、本実施形態の情報処理システム500では、スマホ200の連携制御部273は、スマホ200が連携動作モードで動作可能な状態である連携状態か否か判断する。そして、連携状態と判断した場合、スマホ200を連携動作モードで動作させる。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。
<<第四実施形態>>
次に、本発明の第四実施形態を説明する。本実施形態では、選択されたアプリAの実行デバイスがHMD100と判断された場合であっても、スマホ200側でもアプリAを実行し、ユーザ501からの、アプリAに対する操作を受け付け可能な状態にする。
次に、本発明の第四実施形態を説明する。本実施形態では、選択されたアプリAの実行デバイスがHMD100と判断された場合であっても、スマホ200側でもアプリAを実行し、ユーザ501からの、アプリAに対する操作を受け付け可能な状態にする。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
スマホ200側の連携制御部273は、連携状態にあると判断された場合、実行デバイスがHMD100と決定された場合であっても、スマホ200側でもアプリAを、HMD100と同期させて実行させる。
例えば、図11(a)に示すように、アプリAのアイコン421が選択された場合、連携制御部273は、起動指示をHMD100に送信するとともに、スマホ200側でも、アプリAを実行させる。そして、図11(b)に示すように、スマホ200のディスプレイ231にも、アプリAの実行中の操作画面を表示させる。ここでは、一例としてアプリAが音楽再生アプリである場合を示す。
本実施形態の連携制御部273は、実行デバイスがHMD100と決定されている状態で、スマホ200のディスプレイ231を介して、一時停止、スキップ、バック、停止等のアプリAに対する操作を受け付けると、受け付けた操作を意味する信号(操作信号)を、HMD100に送信する。
HMD100の連携判断部173は、アプリAを実行中に、送受信部172を介してスマホ200から操作信号を受信すると、当該操作信号に従って、アプリAの動作を制御する。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図12に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図12に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
また、本実施形態では、HMD100と、スマホ200とが連携状態にあるか否かを判断し、それに応じて実行デバイスを決定する処理については、第一~第三のいずれの実施形態の手法を用いてもよい。ここでは、本処理を、実行デバイス決定処理と呼ぶ。
スマホ200の連携制御部273は、ステップS4400において、実行デバイス決定処理がなされ、実行デバイスが決定されると、アプリAを起動するようアプリ実行部274に指示を行う。これを受け、アプリ実行部274は、アプリAを起動する(ステップS4201)。
そして、実行デバイスがスマホであるか否かにより(ステップS1207)、処理を行う。すなわち、実行デバイスがスマホ200と決定された場合は、第一~第三実施形態同様、ステップS1209以降の処理を行う。
一方、実行デバイスがHMD100と決定された場合、スマホ200側でも、アプリ実行部274はアプリAを、HMD100と同期させて実行する(ステップS4202)。そして、受付部271がディスプレイ231等を介してアプリAに対する操作を受け付けると(ステップS4203)、当該操作に応じた操作信号を送受信部272がHMD100に送信する。これを、アプリAの終了まで継続する。図12では、一例として、アプリAの終了操作を受け付けた場合を例示する。
また、HMD100側では、アプリAの実行中であっても、送受信部172を介してスマホ200から操作信号を受信すると、アプリ実行部174は、アプリAへの操作信号として処理を行う。例えば、図12に示すように終了を指示する操作信号を受信すると(ステップS4101)、アプリAを終了し(ステップS4102)、処理を終了する。
以上説明したように、本実施形態の情報処理システム500では、連携動作モードであっても、スマホ200側でも同期してアプリを実行する。このため、HMD100でアプリ動作中、いつでも、スマホ200において、アプリに対する操作を受け付けることができる。
すなわち、本実施形態によれば、スマホ200とHMD100とが所定配置状態である場合に、スマホ200のアプリAのアイコンをタッチすると、HMD100でアプリAが実行される。このとき、スマホ200ではアプリAの操作画面に遷移し、HMD100で実行されているアプリAの操作を受け付ける。例えば、スマホ200上で、表示されている操作画面の一時停止ボタンをタッチすると、HMD100で実行しているアプリAの再生が一時停止する。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。さらに、本実施形態によれば、HMD100でアプリを実行中であっても、当該アプリに対する操作をスマホ200でできるため、さらに使い勝手がよく、利便性が向上する。
なお、スマホ200側では、アプリ全体を動作させる必要はない。例えば、スマホ200側では、I/F部分のみ動作させて、受け付けた操作に対する操作信号をHMD100へ送信し、その後の処理はHMD100側で行うよう構成してもよい。例えば、スマホ200側で、操作ボタンを表示し、当該操作ボタンを介して操作の入力を受け付け、操作信号をHMD100に送信する。そして、HMD100のアプリが、操作信号に従って再生を行う。これにより、スマホ200の資源を無駄にせず、スマホ200の使いやすい画面でHMD100のアプリを操作することができる。
<<第五実施形態>>
次に、本発明の第五実施形態を説明する。本実施形態では、連携状態時にHMD100が実行デバイスと決定された場合、スマホ200は、アプリAの実行に必要なデータをHMD100においてアプリAを起動する前にHMD100に送信する。本実施形態は、例えば、アプリAがファイル再生等のアプリである場合の実施形態である。
次に、本発明の第五実施形態を説明する。本実施形態では、連携状態時にHMD100が実行デバイスと決定された場合、スマホ200は、アプリAの実行に必要なデータをHMD100においてアプリAを起動する前にHMD100に送信する。本実施形態は、例えば、アプリAがファイル再生等のアプリである場合の実施形態である。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のスマホ200の連携制御部273は、連携状態において実行デバイスがHMD100と決定された場合、すなわち、連携動作モード時、選択されたアプリAの実行に必要なデータを、HMD100に送信する。
HMD100の連携判断部173は、スマホ200から送信されたデータを受信後、HMD100においてアプリAを起動させて実行させる。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図13に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図13に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
また、本実施形態では、HMD100と、スマホ200とが連携状態にあるか否かを判断し、それに応じて実行デバイスを決定する処理については、第一~第三のいずれの実施形態の手法を用いてもよい。ここでは、本処理を、実行デバイス決定処理と呼ぶ。
スマホ200の連携制御部273は、ステップS4400において、実行デバイス決定処理がなされ、実行デバイスが決定されると、それに従って、スマホ200の動作を制御する。
すなわち、実行デバイスがHMD100と決定された場合、連携制御部273は、送受信部272にアプリAの処理に必要なデータを、HMD100に転送させ(ステップS5201)、処理を終了する。一方、実行デバイスがスマホ200と決定された場合は、ステップS1208以降の処理を実行する。
また、HMD100側では、実行デバイスがHMD100と決定された場合、スマホ200からデータを受信すると(ステップS5101)、連携判断部173は、アプリ実行部174にアプリAを起動させ(ステップS1107)、ステップS1108以降の処理を実行する。
以上説明したように、本実施形態の情報処理システム500において、スマホ200の連携制御部273は、連携動作モードで動作させる場合、アプリの実行に必要なデータをHMD100に送信し、HMD100では、スマホ200から受信したデータを用いてアプリを実行する。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。
また、本実施形態では、アプリの実行に必要なデータは、スマホ200に保存され、メモリ等のストレージ容量の軽減が望ましいHMD100には常時保存する必要がない。したがって、HMD100では、記憶容量を抑えつつ、アプリを実行できる。
また、例えば、アプリが音楽、画像文書等の再生アプリの場合、スマホ200に保存されたデータを、HMD100搭載の再生アプリを用いてHMD100で再生できる。すなわち、より身近な装置でこれらのデータを再生することができ、より利便性が高い。
なお、本実施形態では、実行するアプリを先に特定し、そのファイルデータを転送する場合を例にあげて説明したが、これに限定されない。実行するアプリは限定せず、ファイルデータのみを転送してもよい。この場合、HMD100側では、受信したファイルデータを確認し、当該ファイルデータを処理するアプリを起動させる。
また、スマホ200とHMD100とに同じファイルが格納されている場合は、ファイルのデータ転送は行わずファイルの指定情報のみを送信し、HMD100内のファイルをHMD100で再生するよう構成してもよい。これにより、データ転送に伴う再生の遅れの防止、電源消費の低減を図ることが出来る。
<<第六実施形態>>
次に、本発明の第六実施形態を説明する。本実施形態では、連携状態時であっても、アプリはスマホ200側で実行し、実行結果のみHMD100に送信する。
次に、本発明の第六実施形態を説明する。本実施形態では、連携状態時であっても、アプリはスマホ200側で実行し、実行結果のみHMD100に送信する。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
スマホ200の連携制御部273は、連携状態において、実行デバイスがHMD100と決定された場合であっても、スマホ200側でアプリAを実行する。ただし、HMD100が実行デバイスである場合、実行結果を自装置に出力するのではなく、HMD100に送信する。
HMD100の連携判断部173は、出力デバイスがHMD100と決定された場合、送受信部172を介して受信する、アプリAの実行結果(出力情報)を、出力部175に出力させるよう制御する。なお、実行結果の出力に、アプリA特有の画面、処理等が必要な場合は、HMD100でもアプリAを起動して処理を行う。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図14に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図14に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
また、本実施形態では、HMD100と、スマホ200とが連携状態にあるか否かを判断し、それに応じて、アプリAの出力先である出力デバイスを決定する。この出力デバイス決定処理は、第一~第三のいずれかの実施形態の、実行デバイスを決定する処理である実行デバイス決定処理と同じ処理で、実行デバイスの代わりに出力デバイスを決定する。
スマホ200の連携制御部273は、ステップS6400において、出力デバイス決定処理がなされ、出力デバイスが決定されると、アプリAを起動するようアプリ実行部274に指示を行う。これを受け、アプリ実行部274は、アプリAを起動する(ステップS1208)。そして、連携制御部273は、アプリ実行部274に、アプリAを実行させる(ステップS1209)。
そして、出力する際、出力デバイス決定処理において決定した出力デバイスがスマホ200であるかHMD100であるかを判断する(ステップS6201)。そして、出力デバイスがスマホ200である場合、連携制御部273は、出力部275に、そのまま自装置のディスプレイ231、スピーカ241等に出力させる(ステップS6202)。このステップS1209~S6202の処理を、アプリAが終了するまで継続し、処理を終了する。
一方、出力デバイスがHMD100と判断された場合、出力する際、連携制御部273は、送受信部272に、出力する情報である出力情報を、HMD100に送信させる(ステップS6203)。
HMD100側では、出力デバイスがスマホ200と決定された場合は、そのまま処理を終了し(ステップS6101)、HMD100と決定された場合は、連携判断部173は、送受信部172に、出力情報を受信するよう指示する出力情報受入準備を行う(ステップS6102)。
そして、スマホ200から出力情報を受信すると(ステップS6103)、連携判断部173は、出力部175に、受信した出力情報を出力させる(ステップS6104)。連携判断部173は、S6103とS6104との処理を、出力情報の受信が終了するまで実行し(ステップS6105)、処理を終了する。なお、出力が終了したか否かについては、例えば、出力情報終了信号を受信する、出力情報が受信できなくなってから指定時間経過する、スマホとの通信が途切れる、などにより判別してもよい。
以上説明したように、本実施形態の情報処理システム500では、スマホ200の連携制御部273は、スマホ200を連携動作モードで動作させる場合、選択されたアプリを実行し、実行結果をHMD100に送信する。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。
特に、本実施形態によれば、例えば、HMD100越しにスマホ200を見るといった所定配置状態で、ユーザ501が音楽アプリのアイコン420をタッチした場合、音楽ソフトをスマホ200で実行し、音声再生情報のみHMD100に送信し、HMD100のスピーカ(ヘッドフォン)で聴くことが可能となる。このため、HMD100で映像や音楽などの大容量コンテンツデータ等のための余分な情報データ用メモリやアプリ自体を搭載する必要がない。つまり、搭載容量の軽減を図りつつ、あたかも、HMD100で音楽等のアプリが起動再生したかのように動作が可能となる。
HMD100側のストレージ容量を軽減でき、また、必要とする処理能力も軽減できる。これにより、HMD100の小型化、軽量化を図ることができる。さらに、本実施形態によれば、HMD100で実行中であっても、スマホ200にて操作ができるため、使い勝手もよい。
<<第七実施形態>>
次に、本発明の第七実施形態を説明する。本実施形態の情報処理システム500は、図15に示すように、第一情報端末と、第二情報端末と、第三情報端末とを備え、この3つの情報端末で連携し、アプリを実行する。
次に、本発明の第七実施形態を説明する。本実施形態の情報処理システム500は、図15に示すように、第一情報端末と、第二情報端末と、第三情報端末とを備え、この3つの情報端末で連携し、アプリを実行する。
以下、本実施形態について、第一情報端末がスマートウォッチ(SW300)、第二情報端末がスマホ200、第三情報端末がHMD100である場合を例に、説明する。
本実施形態では、HMD100で、スマホ200とSW300とが連携可能な配置状態であるか否かを判断する。そして、その結果を受け、スマホ200は、選択されたアプリAを自装置で実行するか、SW300で実行するか、すなわち連携動作モードで動作させるか単独動作モードで動作させるかを決定する。なお、スマホ200が動作モードを決定する際、SW300に、前もって、SW300に選択されたアプリAがインストールされているか確認する。
以下、本実施形態の各装置の構成を説明する。HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のHMD100およびスマホ200のハードウェア構成および機能ブロックは、基本的に第一実施形態と同様である。ただし、連携判断部173と、連携制御部273の処理が異なる。
本実施形態のHMD100は、第三情報端末として、連携可能な配置状態であるか否かの判断を行うのみである。すなわち、本実施形態の連携判断部173は、スマホ200と、SW300とが連携可能な配置状態であるか否かを判断する。
具体的には、図16(a)に示すように、ディスプレイ131の連携視野101a内に、スマホ200の、アイコン420が表示された画面と、SW300とが両方存在する配置状態の場合、スマホ200とSW300とが連携可能な状態であると判断する。そして、アイコン420に対応するアプリのプログラムがSW300にインストールされている場合、図16(b)に示すように、SW300で、選択されたアプリを実行させる。
本実施形態のSW300のハードウェア構成を、図17に示す。本図に示すように、本実施形態のSW300は、メインプロセッサ311と、システムバス312と、記憶装置310と、操作受付装置320と、画像処理装置330と、音声処理装置340と、センサ350と、通信装置360と、拡張インタフェース(I/F)部305と、タイマ306と、振動発生装置307を備える。
各装置の詳細は、HMD100の同名のものと基本的に同様である。ただし、SW300は、操作受付装置320として、さらに、タッチパネル323を備える。タッチパネル323は、ディスプレイ331に重ねて配置されるタッチパネル323、を備える。
[機能ブロック]
次に、SW300の機能ブロックを、図18に示す。本図に示すように、主制御部370と、受付部371と、送受信部372と、連携制御部373と、アプリ実行部374と、出力部375と、アイコンデータ記憶部377と、アプリケーションプログラム記憶部376と、を備える。
次に、SW300の機能ブロックを、図18に示す。本図に示すように、主制御部370と、受付部371と、送受信部372と、連携制御部373と、アプリ実行部374と、出力部375と、アイコンデータ記憶部377と、アプリケーションプログラム記憶部376と、を備える。
各機能ブロックは、HMD100の同名の構成と同じ機能を備える。なお、SW300の連携制御部373は、スマホ200の連携制御部273同様、SW300が、他の情報端末とともに連携してアプリを実行する連携動作モードで動作するか、否かを判断する。連携動作モードと判断した場合、他の情報端末からの起動指示に応じて、アプリ実行部374にアプリを起動させる。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを説明する。図19は、本実施形態のアプリ連携処理の処理フローである。第一実施形態と同じ処理については同じ符号を付し、詳細な説明を省略する。
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを説明する。図19は、本実施形態のアプリ連携処理の処理フローである。第一実施形態と同じ処理については同じ符号を付し、詳細な説明を省略する。
HMD100とスマホ200、および、SW300とスマホ200とは、まず、互いに通信を確立する(ステップS1101、S1201、S1301)。第一実施形態同様、それぞれの送受信部172、272、372が、データ通信を行い、通信を確立する。
スマホ200は、アプリAの選択指示を受け付ける(ステップS1202)。
スマホ200は、アプリAの選択情報を、HMD100とSW300とに通知する(ステップS1203)。
HMD100の連携判断部173は、上記手法で、スマホ200とSW300とが連携可能な配置状態にあるか否かを判断し(ステップS7101)、判断結果を、スマホ200に送信する(ステップS7102)。なお、HMD100とSW300との間も通信を確立し、SW300にも判断結果を送信してもよい。
また、スマホ200からアプリA選択情報の通知を受けたSW300の連携制御部373は、自装置にアプリAがインストールされているか否かを判別し、その結果をアプリA情報としてスマホ200に送信する(ステップS7303)。
HMD100から配置状態の判断結果を、SW300から、アプリA情報を受信した(ステップS7201)スマホ200の連携制御部273は、これらの情報を用いて、自装置とSW300とが連携状態であるか否かを判断し、アプリAを実行する実行デバイスを決定する(ステップS7202)。本実施形態では、連携可能な配置状態であり、かつ、SW300にアプリAがインストールされているとの情報を得た場合、実行デバイスをSW300と決定する。その他の場合、実行デバイスをスマホ200と決定する。
スマホ200の連携制御部273は、決定結果をHMD100とSW300とに通知する(ステップS7203)。HMD100は、決定結果を受領すると、処理を終了する。
その後、スマホ200は、ステップS1207以降の処理を実行する。
また、SW300は、実行デバイスがSW300と決定された場合(ステップS7305)、SW300内のアプリAを起動させ(ステップS7306)、アプリAが終了するまで、アプリAを実行し(ステップS7307、S7308)、処理を終了する。
一方、実行デバイスがSW300に決定されなかった場合は、そのまま処理を終了する。
以上説明したように、本実施形態の情報処理システム500は、複数の端末としてHMD100と、スマホ200と、SW300と、を備える。HMD100は、スマホ200が連携動作モードで動作可能な状態である連携状態か否かを判断する。そして、スマホ200は、連携状態と判断されると、連携動作モードで動作し、選択されたアプリの起動指示をSW300に送信する。SW300では、起動指示を受け、アプリを起動、実行する。
以上説明したように、本実施形態によれば、SW300でのアプリの起動を、操作性の良いスマホ200により行うことができる。また、両者の連携を、第三の情報端末であるHMD100の視野越しに両者の位置関係を判断することにより、実現する。SW300においてアプリを実行するにあたり、操作性を向上させることができる。すなわち、本実施形態では、ユーザ501の負担無しに、利便性の高い、情報端末の連携技術を実現できる。
また、本実施形態によれば、アプリ起動に際し、操作性のよいスマホ200を用い、HMD100の視野越しにスマホ200のアイコンとSW300が見えるような配置状態にあれば、この状態でスマホ200のアイコンをタッチすることによって、SW300で所望のアプリを起動させることができる。このため、SW300の表示部および操作部は簡易なものでよい。つまり、SW300の構成を簡素化できる。
なお、本実施形態において、スマホ200がHMD100の連携視野101a内に入っている所定配置状態であり、かつ、SW300がHMD100の連携視野101a内に入っていない配置状態の場合、第一実施形態同様、実行デバイスをHMD100と決定してもよい。この場合、スマホ200から起動指示をHMD100に送信し、HMD100内でアプリAを起動する。
また、本実施形態において、第一情報端末は、SW300に限定されない。アプリを起動でき、使用位置を手軽に最適な状態にできる情報端末であれば、例えば、タブレット、PC、第2情報端末と異なる他のスマホ200等でもよい。
また、本実施形態において、SW300においては、上記第四実施形態のように、スマホ200で、SW300と同期してアプリを実行し、操作はスマホ200で受け付けてもよい。また、第五実施形態のように、SW300は、アプリ実行前に、スマホ200からデータ転送を受けてもよい。さらに、第六実施形態のように、スマホ200側でアプリを実行し、実行結果のみ受信し、出力するよう構成してもよい。
スマホ200に格納されているファイルのデータをSW300に転送し、SW300に搭載されているファイル再生用アプリでデータを再生することにより、SW300では常にすべてのファイルデータを保有する必要がなく、SW300のような小型多機能な腕時計型の情報端末にとって重要なデータ容量の軽量化を実現できる。
<変形例1>
なお、上記各実施形態では、2つの情報端末間が所定配置状態であるか否かは、2つの情報端末が所定の位置関係にあるか否かで判断している。すなわち、HMD100の連携視野101a内に、スマホ200のディスプレイ231上のアイコン420が存在するような配置状態であるか否かで判断している。しかしながら、判断手法は、これに限定されない。
なお、上記各実施形態では、2つの情報端末間が所定配置状態であるか否かは、2つの情報端末が所定の位置関係にあるか否かで判断している。すなわち、HMD100の連携視野101a内に、スマホ200のディスプレイ231上のアイコン420が存在するような配置状態であるか否かで判断している。しかしながら、判断手法は、これに限定されない。
例えば、超広帯域無線システム(Ultra Wide Band:UWB)を使用して情報端末間の位置関係や向きを検出し、その結果によってスマホ200とHMD100とが所定配置状態であるか否かを識別判定してもよい。また、スマホ200とHMD100とにそれぞれ搭載されている各種のセンサ150、250の出力情報から各情報端末の動きを判断し、端末間の位置関係や向きを検出して所定配置状態であるか否かの識別判断に使用してもよい。
さらに、所定配置状態であるか否かは、例えば、2つの情報端末間の距離で判断してもよい。例えば、HMD100と、スマホ200との距離で判断してもよい。すなわち、両者の距離が予め定めた距離閾値未満である場合は、所定配置状態と判断する。
両者間の距離は、例えば、第一、第二、第七実施形態では、HMD100の深度センサ155で計測する。また、第三実施形態では、スマホ200の深度センサ255で計測する。
特に、所定配置状態であるか否かを両者間の距離で判断する場合、処理が単純である。すなわち、スマホ200がHMD100の連携視野101aに入っているかどうかを気にせずに、一定範囲の周辺にあるスマホ200を用いてアイコンタッチを行うことにより、HMD100で所望アプリを起動することができる。また、スマホ200を意図的に一定距離以上離すことにより、スマホ200側でアプリ起動させることができる。このため、利便性がさらに向上する。また、連携視野101aを用いて判断する処理に比べ、視野から外したつもりが外れていなかった等の誤操作が減る。
また、連携視野101aを定めず、ユーザ501の視線方向を検出し、ディスプレイ131上の視線方向との交点を含む所定領域にスマホ200のアイコン420が重なる場合、所定配置状態としてもよい。
この場合、HMD100を装着した状態で、ディスプレイ131にスマホ200のアイコン420が見えていても、ユーザ501が視線を合わせていない限り、HMD100側ではアプリが起動しない。したがって、より操作性の高い装置を提供できる。
さらに、連携視野101aを設定し、連携視野101aの範囲にアイコン420が入り、かつ、ユーザ501がアイコン420に視線を合わせている場合、所定配置状態と判断するよう構成してもよい。
<変形例2>
また、上記実施形態では、連携状態にあると判断された場合、それぞれ、予め定めた情報端末でアプリを起動している。しかし、アプリの実行デバイスの決定手法は、これに限定されない。
また、上記実施形態では、連携状態にあると判断された場合、それぞれ、予め定めた情報端末でアプリを起動している。しかし、アプリの実行デバイスの決定手法は、これに限定されない。
例えば、連携状態にあると判断された後、スマホ200に表示されたアイコン420に対する選択操作の態様に応じて、アプリを実行するデバイスを決定してもよい。例えば、アイコン420をシングルタップした場合はスマホ200で、ダブルタップした場合はHMD100で、起動する等である。
また、連携状態であるか否かは別の手法で判断し、実行デバイスのみユーザ501の視線方向で決定してもよい。ユーザ501の視線方向を検出し、視線がアイコン420またはスマホ200のディスプレイ231上にない場合、連携状態であってもHMD100ではアプリを起動しないようにしてもよい。
これにより、スマホ200を視野内に入れながら視線をスマホ200から外してアイコンを操作することで、意図してHMD100ではなくスマホ200でアプリ起動することが出来る。
また、視線方向だけでなく、ユーザ501の目の開閉により実行デバイスを決定してもよい。この場合、インカメラ134で取得した所定期間の画像を解析し、まばたきとは異なる、意図して目を閉じたかどうかを判別可能な一定の指定時間、目を閉じた状態か否かを識別する。例えば、一定の指定時間目を閉じた状態でアイコン420をタッチするとスマホ200でアプリを起動するよう決定する。
また、アイコンにタップして指を離す時に意図して目が閉じられた場合にはスマホ200で起動するようにしてもよい。この場合、HMD100を常時使用している状態で意図して明示的にスマホ200で起動させたい場合に有効である。
また、片目が閉じていればスマホ200で起動するようにしてもよい。この場合、もう一方の片目でアイコン420を見ながら所望動作を容易に行うことが可能となる。
<変形例3>
上記各実施形態において、各情報端末の間のデータの送受信は、相互の直接の無線通信に限定されない。例えば、図20(a)および図20(b)に示すように、サーバ610を経由してもよい。
上記各実施形態において、各情報端末の間のデータの送受信は、相互の直接の無線通信に限定されない。例えば、図20(a)および図20(b)に示すように、サーバ610を経由してもよい。
同様に、アプリおよびファイル、データをサーバ610上に格納して、スマホ200からの指示により、適宜各情報端末に通信により転送して使用してもよい。スマホ200からの指示により、サーバ610上でアプリを起動して再生情報を各実施形態により決定した情報端末に転送して視聴してもよい。
なお、サーバ610は、各情報端末と通信を介して接続して必要な情報の送受信が出来ればよく、例えば、ローカルサーバ、クラウドサーバ、エッジサーバ、ネットサービス等であり、その形態は問わない。
また、スマホ200から大容量コンテンツデータをHMD100に転送する場合以外に、クラウドネットワークからコンテンツデータをHMD100にダウンロードしてもよい。特に、高精細映像などを扱う画像アプリの場合には、使うデータ量は飛躍的に多い。このため、HMD100での容量低減効果が大きい。この場合、データ通信には5G、(5th Generation:第5世代移動通信システム)ローカル5Gなどの高速大容量通信網を使用すれば、さらに使い勝手を向上できる。
<変形例4>
また、ユーザ501がタッチするアイコン420の表示画面内に、どの情報端末でアプリやファイルが起動可能であるかを示す小さな図形として端末マーク(以下、小アイコンと称す)を所定位置に付加してもよい。小アイコンを備えるアイコンの例を、図21(a)~図21(c)に示す。ここでは、一例として音楽再生アプリをアプリAとしてそのアイコン430を示す。
また、ユーザ501がタッチするアイコン420の表示画面内に、どの情報端末でアプリやファイルが起動可能であるかを示す小さな図形として端末マーク(以下、小アイコンと称す)を所定位置に付加してもよい。小アイコンを備えるアイコンの例を、図21(a)~図21(c)に示す。ここでは、一例として音楽再生アプリをアプリAとしてそのアイコン430を示す。
図21(a)は、アイコン430が、アイコン430内にHMD100でこのアプリを起動可能であることを示す小アイコン431を備える場合の例である。また、図21(b)は、アイコン430が、SW300でこのアプリAを移動可能であることを示す小アイコン432を備える場合の例である。
図21(c)は、スマホ200だけで起動可能なアプリの例である。ここでは、一例として表作成アプリのアイコン440を示す。表計算アプリのアイコン440内の所定位置には小アイコンが表示されない。
これにより、スマホ200でのアイコンタッチ操作に際して、ユーザはタッチしようとしているアイコン内にある図21(a)、図21(b)、図21(c)で示すような小アイコンの有無含めた状態を視認しながら、このアイコンをタッチするとどの情報端末で起動が可能なのかを前もって知ることができ、容易に使い勝手の向上を図ることができる。
なお、図21(a)、図21(b)、図21(c)で説明した小アイコンは、情報端末間が所定配置状態にあるかないかにかかわらず、所定配置状態になった場合に起動可能な情報端末を示すものである。
また、本実施形態の連携制御部273は、HMD100またはSW300から、それぞれの情報端末がアプリAを備えるとの情報を受信した場合、小アイコン431をアイコン430の所定位置に表示させる。または、予め、HMD100、SW300と、スマホ200との間で、アプリケーションプログラムがインストールされているか否か情報をやり取りし、小アイコン431を表示させてもよい。
小アイコン431の他の例を、図21(d)および図21(e)に示す。小アイコン431は、アイコン420をタッチした際に、連携する情報端末間でアプリやファイルが起動する情報端末を識別可能な態様で表示してもよい。すなわち、連携状態であるか否かによって、小アイコン431の表示態様を変更してもよい。
例えば、スマホ200とHMD100とが連携状態にあり、アイコン420をタッチするとHMD100でアプリやファイルが起動する場合、図21(d)に示すように、ハイライトした(網掛け付)の小アイコン432を表示する。一方、連携状態になくスマホ200でアプリが起動する場合は、図21(e)に示すようにハイライト(網掛け)無しの小アイコン433を表示する。
このように、小アイコン431を表示することにより、ユーザ501は、起動可能な情報端末を容易に把握することができる。これにより、起動する情報端末をユーザ501の意思で明確に選ぶことができる。
なお、小アイコン431の表示以外の識別通知方法として、どの情報端末でアプリの起動が可能かを音声情報にして、スピーカ141(ヘッドフォン)でユーザ501に通知してもよい。
また、HMD100がどの情報端末でアプリの起動が可能かを振動の大きさや種類等によって識別した振動情報にして、振動発生装置107によりユーザ501に通知してもよい。ユーザ501にとって一層高い利便性を得ることができる。
なお、小アイコンを表示するか否かについては、アプリごとに初期設定として、そのアプリのインストール時に指定してもよい。また、ユーザ501がその初期設定を変更可能にしてもよい。また、アプリ単位でなく端末単位で、すべてのアプリについての表示の判断を(OS等が制御することにより)まとめて、ユーザ501の指示により切替可能としてもよい。
<変形例5>
なお、上記各実施形態および変形例では、アイコンタッチの検出方法として、スマホ200の操作受付装置120でアイコンタッチ操作を検出する方法を示した。しかし、これに限定されない。例えば、HMD100のアウトカメラ133でスマホ200上でのアイコンタッチ操作を撮影し、撮影画像を解析することにより検出してもよい。また、アイコン位置特定方法として、HMD100からスマホ200に向けて、HMD100のアウトカメラ133で撮影したスマホ200のディスプレイ231上の座標を送り、スマホ200でその座標にあるアプリを特定してHMD100に知らせてもよい。
なお、上記各実施形態および変形例では、アイコンタッチの検出方法として、スマホ200の操作受付装置120でアイコンタッチ操作を検出する方法を示した。しかし、これに限定されない。例えば、HMD100のアウトカメラ133でスマホ200上でのアイコンタッチ操作を撮影し、撮影画像を解析することにより検出してもよい。また、アイコン位置特定方法として、HMD100からスマホ200に向けて、HMD100のアウトカメラ133で撮影したスマホ200のディスプレイ231上の座標を送り、スマホ200でその座標にあるアプリを特定してHMD100に知らせてもよい。
<変形例6>
また、上記各実施形態では、情報端末として、HMD100とスマホ200との例を挙げたが、複数の情報端末間の配置情報を取得できる情報端末であれよい。例えば、両方ともスマホであってもよい。この場合、アイコン420を表示してタッチを受け付けるスマホ200Aを、別のスマホ200Bのカメラで撮影しながらアイコンタッチすることで、別のスマホ200Bでアプリが起動するようにしてもよい。
また、上記各実施形態では、情報端末として、HMD100とスマホ200との例を挙げたが、複数の情報端末間の配置情報を取得できる情報端末であれよい。例えば、両方ともスマホであってもよい。この場合、アイコン420を表示してタッチを受け付けるスマホ200Aを、別のスマホ200Bのカメラで撮影しながらアイコンタッチすることで、別のスマホ200Bでアプリが起動するようにしてもよい。
また、各情報端末間で同じアプリを、連係して動作させてもよい。例えば、スマホ200とHMD100とで同じ地図アプリを使用する際、両端末が所定配置状態にある場合には、スマホ200では詳細な地図を表示し、HMD100では簡素化された地図を表示する、等連携して動作させることで、使い勝手を向上させることが出来る。
<変形例7>
また、同じアプリまたは対応するアプリの搭載に際し、情報端末の片方にインストールしたら他方の情報端末にもインストールする等、同期してインストールしてもよい。片方の情報端末で選択したアプリと同じアプリまたは対応するアプリが他方の情報端末にない場合は、サーバや、他の情報端末内等からダウンロードしてインストールして使用できるようにしてもよい。また、情報端末間の紐づけ(ペアリング、グループ設定等)は事前に行ってもよい。紐づけを行っていない情報端末と通信が確立した場合には、紐づけを行うかどうかをユーザ501に問い合わせて、ユーザ501が紐づけを行う意思を示したらその時点で紐づけを行ってもよい。
また、同じアプリまたは対応するアプリの搭載に際し、情報端末の片方にインストールしたら他方の情報端末にもインストールする等、同期してインストールしてもよい。片方の情報端末で選択したアプリと同じアプリまたは対応するアプリが他方の情報端末にない場合は、サーバや、他の情報端末内等からダウンロードしてインストールして使用できるようにしてもよい。また、情報端末間の紐づけ(ペアリング、グループ設定等)は事前に行ってもよい。紐づけを行っていない情報端末と通信が確立した場合には、紐づけを行うかどうかをユーザ501に問い合わせて、ユーザ501が紐づけを行う意思を示したらその時点で紐づけを行ってもよい。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウエアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
100:HMD、101a:連携視野、103:RAM、104:ROM、105:拡張インタフェース部、106:タイマ、107:振動発生装置、110:記憶装置、111:メインプロセッサ、112:システムバス、113:RAM、114:ROM、120:操作受付装置、121:操作キー、122:タッチセンサ、123:タッチパネル、130:画像処理装置、131:ディスプレイ、131a:左目用ディスプレイ、131b:右目用ディスプレイ、133:アウトカメラ、134:インカメラ、140:音声処理装置、141:スピーカ、143:マイク、150:センサ、151:受信部、152:ジャイロセンサ、153:地磁気センサ、154:加速度センサ、155:深度センサ、160:通信装置、161:LAN通信I/F、162:電話網通信I/F、163:BT通信I/F、170:主制御部、171:受付部、172:送受信部、173:連携判断部、174:アプリ実行部、175:出力部、176:アプリケーションプログラム記憶部、177:アイコンデータ記憶部、
200:スマホ、200A:スマホ、200B:スマホ、201:メインプロセッサ、201a:撮影範囲、202:システムバス、205:拡張インタフェース部、206:タイマ、207:振動発生装置、210:記憶装置、211:メインプロセッサ、213:RAM、214:ROM、220:操作受付装置、223:タッチパネル、230:画像処理装置、231:ディスプレイ、234:インカメラ、240:音声処理装置、241:スピーカ、250:センサ、255:深度センサ、260:通信装置、263:BT通信I/F、270:主制御部、271:受付部、272:送受信部、273:連携制御部、274:アプリ実行部、275:出力部、276:アプリケーションプログラム記憶部、277:アイコンデータ記憶部、
300:スマートウォッチ、305:拡張インタフェース部、306:タイマ、307:振動発生装置、310:記憶装置、311:メインプロセッサ、312:システムバス、320:操作受付装置、323:タッチパネル、330:画像処理装置、331:ディスプレイ、340:音声処理装置、350:センサ、360:通信装置、370:主制御部、371:受付部、372:送受信部、373:連携制御部、374:アプリ実行部、375:出力部、376:アプリケーションプログラム記憶部、377:アイコンデータ記憶部、
411:アイコン、420:アイコン、421:アイコン、430:アイコン、431:小アイコン、432:小アイコン、433:小アイコン、440:アイコン、500:情報処理システム、501:ユーザ、610:サーバ
200:スマホ、200A:スマホ、200B:スマホ、201:メインプロセッサ、201a:撮影範囲、202:システムバス、205:拡張インタフェース部、206:タイマ、207:振動発生装置、210:記憶装置、211:メインプロセッサ、213:RAM、214:ROM、220:操作受付装置、223:タッチパネル、230:画像処理装置、231:ディスプレイ、234:インカメラ、240:音声処理装置、241:スピーカ、250:センサ、255:深度センサ、260:通信装置、263:BT通信I/F、270:主制御部、271:受付部、272:送受信部、273:連携制御部、274:アプリ実行部、275:出力部、276:アプリケーションプログラム記憶部、277:アイコンデータ記憶部、
300:スマートウォッチ、305:拡張インタフェース部、306:タイマ、307:振動発生装置、310:記憶装置、311:メインプロセッサ、312:システムバス、320:操作受付装置、323:タッチパネル、330:画像処理装置、331:ディスプレイ、340:音声処理装置、350:センサ、360:通信装置、370:主制御部、371:受付部、372:送受信部、373:連携制御部、374:アプリ実行部、375:出力部、376:アプリケーションプログラム記憶部、377:アイコンデータ記憶部、
411:アイコン、420:アイコン、421:アイコン、430:アイコン、431:小アイコン、432:小アイコン、433:小アイコン、440:アイコン、500:情報処理システム、501:ユーザ、610:サーバ
Claims (18)
- 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、
前記複数の端末として第一情報端末と第二情報端末とを備え、
前記第二情報端末は、
前記アプリケーションの起動指示を受け付ける受付部と、
単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、
前記第一情報端末は、
前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、
前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記第一情報端末は、
前記連携状態か否かを判断する連携判断部をさらに備え、
前記第二情報端末の前記連携制御部は、
前記連携判断部が前記連携状態と判断した場合、前記連携動作モードで動作させること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記第一情報端末は、
前記連携状態か否かを判断する連携判断部をさらに備え、
前記連携判断部は、
前記連携状態と判断した場合、前記第二情報端末に前記連携動作モードで動作するよう指示を行うこと
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記第二情報端末の前記連携制御部は、当該第二情報端末が前記連携状態か否か判断し、前記連携状態と判断した場合、前記連携動作モードで動作させること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記複数の端末として第三情報端末をさらに備え、
前記第三情報端末は、前記第二情報端末が前記連携動作モードで動作可能な配置状態であるか否かを判断する連携判断部を備え、
前記第二情報端末の前記連携制御部は、
前記連携判断部が前記動作可能な配置状態と判断した場合、前記連携動作モードで動作させること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記第二情報端末の前記連携制御部は、前記連携動作モードで動作させる場合、前記アプリケーションの起動指示を、前記第一情報端末に送信し、
前記第一情報端末は、前記第二情報端末から前記アプリケーションの起動指示を受信すると、前記アプリケーションを実行するアプリケーション実行部をさらに備えること
を特徴とする情報処理システム。 - 請求項6記載の情報処理システムであって、
前記第二情報端末は、前記起動指示を受信すると前記アプリケーションを実行する第二アプリケーション実行部と、
前記アプリケーションの実行状態を表示するディスプレイと、をさらに備え、
前記第二アプリケーション実行部は、前記アプリケーション実行部と同期して前記アプリケーションを実行すること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記第二情報端末の前記連携制御部は、前記連携動作モードで動作させる場合、前記アプリケーションの実行に必要なデータを前記第一情報端末に送信し、
前記第一情報端末は、前記第二情報端末から前記アプリケーションの実行に必要な前記データを受信すると、当該データを用いて前記アプリケーションを実行するアプリケーション実行部を備えること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記第二情報端末の前記連携制御部は、前記連携動作モードで動作させる場合、前記アプリケーションを実行し、前記実行結果を前記第一情報端末に送信すること
を特徴とする情報処理システム。 - 請求項2、3、および5のいずれか1項記載の情報処理システムであって、
前記受付部は、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
前記連携判断部は、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記連携状態であると判断すること
を特徴とする情報処理システム。 - 請求項4記載の情報処理システムであって、
前記連携制御部は、前記第二情報端末のディスプレイに前記第一情報端末が表示される場合、前記連携状態であると判断すること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記連携状態であるか否かは、前記第二情報端末と前記第一情報端末との距離により判断されること
を特徴とする情報処理システム。 - 請求項1記載の情報処理システムであって、
前記受付部は、前記第二情報端末が備えるディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
前記アイコンは、当該アイコンが対応づけられたアプリケーションを起動可能な前記端末の種別を特定する情報である端末マークを備えること
を特徴とする情報処理システム。 - 請求項13記載の情報処理システムであって、
前記端末マークは、当該端末マークで特定される前記端末で当該アプリケーションが実行されている場合、表示態様が変更されること
を特徴とする情報処理システム。 - 第一情報端末と第二情報端末とで連携してアプリケーションを実行する情報処理システムであって、
前記第二情報端末は、
前記アプリケーションの起動指示を受け付ける受付部と、
単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、
前記アプリケーションを実行するアプリケーション実行部と、を備え、
前記第一情報端末は、
前記連携動作モード時に実行された前記アプリケーションの結果を出力する出力部を備え、
前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
前記第二情報端末の連携制御部は、前記連携動作モードで動作させる場合、前記アプリケーション実行部が実行した結果を、前記第一情報端末に送信すること
を特徴とする情報処理システム。 - 第一情報端末と第二情報端末とで連携して、前記第一情報端末および前記第二情報端末が共通して備えるアプリケーションを実行する情報処理方法であって、
前記第二情報端末において、前記アプリケーションの起動指示を受け付ける受付ステップと、
前記第一情報端末と前記第二情報端末とが連携状態であるかを、前記第一情報端末と前記第二情報端末との配置によって判断する連携判断ステップと、
前記アプリケーションを実行する端末である実行端末を決定する端末決定ステップと、
前記端末決定ステップで決定された前記実行端末において前記アプリケーションを実行するステップと、
前記第一情報端末において、前記アプリケーションの実行結果を出力する出力ステップと、を備えること
を特徴とする情報処理方法。 - 他の情報処理端末と連携して、当該他の情報処理端末と共通に備えるアプリケーションを実行する情報処理端末であって、
前記他の情報処理端末との位置関係によって定まる、当該他の情報処理端末と前記アプリケーションを連携して実行する動作モードである連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備えること
を特徴とする情報処理端末。 - 他の情報処理端末と連携して、当該他の情報処理端末と共通に備えるアプリケーションを実行する情報処理端末であって、
前記アプリケーションの起動指示を受け付ける受付部と、
単独動作モードおよび連携動作モードのいずれかで前記他の情報処理端末を動作させる連携制御部と、を備え、
前記単独動作モードは、前記アプリケーションを当該情報処理端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを、当該情報処理端末および前記他の情報処理端末で連携して実行する動作モードであり、
前記他の情報処理端末が前記連携動作モードで動作可能な状態である連携状態は、当該情報処理端末と前記他の情報処理端末との配置によって定まること
を特徴とする情報処理端末。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/021710 WO2021245773A1 (ja) | 2020-06-02 | 2020-06-02 | 情報処理システム、情報処理方法および情報処理端末 |
JP2022529165A JP7453369B2 (ja) | 2020-06-02 | 2020-06-02 | 情報処理システムおよび情報処理方法 |
US17/928,937 US20230297447A1 (en) | 2020-06-02 | 2020-06-02 | Information processing system, information processing method, and information processing terminal |
CN202080101658.5A CN115698967A (zh) | 2020-06-02 | 2020-06-02 | 信息处理系统、信息处理方法和信息处理终端 |
JP2024034449A JP2024081664A (ja) | 2020-06-02 | 2024-03-07 | 情報処理システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/021710 WO2021245773A1 (ja) | 2020-06-02 | 2020-06-02 | 情報処理システム、情報処理方法および情報処理端末 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2021245773A1 true WO2021245773A1 (ja) | 2021-12-09 |
Family
ID=78830217
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2020/021710 WO2021245773A1 (ja) | 2020-06-02 | 2020-06-02 | 情報処理システム、情報処理方法および情報処理端末 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230297447A1 (ja) |
JP (2) | JP7453369B2 (ja) |
CN (1) | CN115698967A (ja) |
WO (1) | WO2021245773A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023119528A1 (ja) * | 2021-12-22 | 2023-06-29 | マクセル株式会社 | ヘッドマウントディスプレイ装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012063395A1 (ja) * | 2010-11-12 | 2012-05-18 | パナソニック株式会社 | サーバ、通信端末、およびそれらを備えた機器連携システム |
JP2013152642A (ja) * | 2012-01-25 | 2013-08-08 | Sharp Corp | 端末装置、表示システム、端末装置の制御方法、端末装置の制御プログラム、および、該制御プログラムを記録した記録媒体 |
JP2015126467A (ja) * | 2013-12-27 | 2015-07-06 | 日立マクセル株式会社 | 携帯情報端末、放送受信装置、及びシステム |
WO2020003361A1 (ja) * | 2018-06-25 | 2020-01-02 | マクセル株式会社 | ヘッドマウントディスプレイ、ヘッドマウントディスプレイ連携システム及びその方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5719325B2 (ja) | 2012-03-30 | 2015-05-13 | 楽天株式会社 | 表示システム、表示システムの制御方法、制御装置、制御装置の制御方法、プログラム、及び情報記憶媒体 |
JP5915676B2 (ja) | 2014-03-04 | 2016-05-11 | コニカミノルタ株式会社 | 連携システム、画像形成装置、携帯情報装置、遠隔制御方法、遠隔操作方法、遠隔制御プログラムおよび遠隔操作プログラム |
JP6455474B2 (ja) | 2016-03-25 | 2019-01-23 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
-
2020
- 2020-06-02 CN CN202080101658.5A patent/CN115698967A/zh active Pending
- 2020-06-02 JP JP2022529165A patent/JP7453369B2/ja active Active
- 2020-06-02 US US17/928,937 patent/US20230297447A1/en active Pending
- 2020-06-02 WO PCT/JP2020/021710 patent/WO2021245773A1/ja active Application Filing
-
2024
- 2024-03-07 JP JP2024034449A patent/JP2024081664A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012063395A1 (ja) * | 2010-11-12 | 2012-05-18 | パナソニック株式会社 | サーバ、通信端末、およびそれらを備えた機器連携システム |
JP2013152642A (ja) * | 2012-01-25 | 2013-08-08 | Sharp Corp | 端末装置、表示システム、端末装置の制御方法、端末装置の制御プログラム、および、該制御プログラムを記録した記録媒体 |
JP2015126467A (ja) * | 2013-12-27 | 2015-07-06 | 日立マクセル株式会社 | 携帯情報端末、放送受信装置、及びシステム |
WO2020003361A1 (ja) * | 2018-06-25 | 2020-01-02 | マクセル株式会社 | ヘッドマウントディスプレイ、ヘッドマウントディスプレイ連携システム及びその方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023119528A1 (ja) * | 2021-12-22 | 2023-06-29 | マクセル株式会社 | ヘッドマウントディスプレイ装置 |
Also Published As
Publication number | Publication date |
---|---|
JP7453369B2 (ja) | 2024-03-19 |
US20230297447A1 (en) | 2023-09-21 |
JPWO2021245773A1 (ja) | 2021-12-09 |
CN115698967A (zh) | 2023-02-03 |
JP2024081664A (ja) | 2024-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3540571B1 (en) | Method and device for editing virtual scene, and non-transitory computer-readable storage medium | |
US10635182B2 (en) | Head mounted display device and control method for head mounted display device | |
KR102227087B1 (ko) | 글래스 타입 단말기 및 그것의 제어방법 | |
CN109426478B (zh) | 用于使用多个控制器控制电子设备的显示器的方法和设备 | |
US10949055B2 (en) | Display system, display apparatus, control method for display apparatus | |
KR102223728B1 (ko) | 이동단말기 및 그 제어방법 | |
US20170289533A1 (en) | Head mounted display, control method thereof, and computer program | |
CN112286362A (zh) | 真实环境画面中虚拟道具的显示方法、系统及存储介质 | |
JP2024081664A (ja) | 情報処理システム | |
WO2020179027A1 (ja) | ヘッドマウント情報処理装置およびヘッドマウントディスプレイシステム | |
CN112835445A (zh) | 虚拟现实场景中的交互方法、装置及系统 | |
KR20180010845A (ko) | Hmd 및 그 hmd의 제어 방법 | |
KR20170059760A (ko) | 이동단말기 및 그 제어방법 | |
CN111437600A (zh) | 剧情展示方法、装置、设备及存储介质 | |
CN111415421A (zh) | 虚拟物体控制方法、装置、存储介质及增强现实设备 | |
KR20170060473A (ko) | 이동 단말기 및 그 이동 단말기의 제어 방법 | |
JP2019129366A (ja) | 頭部装着型表示装置、音声伝送システム、及び頭部装着型表示装置の制御方法 | |
KR20180103866A (ko) | 이동 단말기 및 그 제어 방법 | |
US20230409192A1 (en) | Device Interaction Method, Electronic Device, and Interaction System | |
KR20160019279A (ko) | 이동단말기 및 그 제어방법 | |
JP2017120488A (ja) | 表示装置、表示システム、表示装置の制御方法、及び、プログラム | |
JP2017120302A (ja) | 表示装置、表示システム、表示装置の制御方法、及び、プログラム | |
CN110300275B (zh) | 视频录制、播放方法、装置、终端及存储介质 | |
WO2022003912A1 (ja) | 情報処理システムおよび情報処理端末 | |
KR102211476B1 (ko) | 전자 디바이스 및 그 제어방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 20938681 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2022529165 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 20938681 Country of ref document: EP Kind code of ref document: A1 |