KR101591057B1 - Remote control method and system for synchronization - Google Patents

Remote control method and system for synchronization Download PDF

Info

Publication number
KR101591057B1
KR101591057B1 KR1020140066443A KR20140066443A KR101591057B1 KR 101591057 B1 KR101591057 B1 KR 101591057B1 KR 1020140066443 A KR1020140066443 A KR 1020140066443A KR 20140066443 A KR20140066443 A KR 20140066443A KR 101591057 B1 KR101591057 B1 KR 101591057B1
Authority
KR
South Korea
Prior art keywords
target terminal
control target
information
terminal
remote control
Prior art date
Application number
KR1020140066443A
Other languages
Korean (ko)
Other versions
KR20150137856A (en
Inventor
오주병
민 장
장원순
민원준
Original Assignee
주식회사 코이노
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 코이노 filed Critical 주식회사 코이노
Priority to KR1020140066443A priority Critical patent/KR101591057B1/en
Publication of KR20150137856A publication Critical patent/KR20150137856A/en
Application granted granted Critical
Publication of KR101591057B1 publication Critical patent/KR101591057B1/en

Links

Images

Landscapes

  • Engineering & Computer Science (AREA)
  • Telephonic Communication Services (AREA)
  • Selective Calling Equipment (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)

Abstract

동기화를 위한 원격제어 방법 및 그 시스템이 개시된다. 본 발명의 일 실시 예에 따른 원격제어 방법은 원격제어 장치가 제어대상 단말과 원격으로 연결되는 단계와, 연결된 제어대상 단말로부터 제어대상 단말의 단말상태를 포함한 환경정보를 획득하는 단계와, 획득된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하는 단계와, 동기화된 가상의 제어대상 단말을 화면에 출력하는 단계를 포함한다.A remote control method and system for synchronization are disclosed. A remote control method according to an embodiment of the present invention includes a step of remotely connecting a remote control device with a control target terminal, acquiring environment information including a terminal status of a control target terminal from a connected control target terminal, A step of synchronizing the virtual control target terminal with the actual control target terminal by reflecting the environment information to the virtual control target terminal, and outputting the synchronized virtual control target terminal to the screen.

Description

동기화를 위한 원격제어 방법 및 그 시스템 {Remote control method and system for synchronization}[0001] The present invention relates to a remote control method and system for synchronization,

본 발명은 원격제어 기술에 관한 것으로, 보다 상세하게는 원격제어를 위한 동기화 기술에 관한 것이다.The present invention relates to a remote control technique, and more particularly, to a synchronization technique for remote control.

네트워크에 연결된 원격제어 장치가 원격지에 위치한 제어대상 단말과 연결되어 제어대상 단말을 마치 자신의 단말인 것처럼 제어할 수 있는 기술을 원격제어 기술이라고 통칭한다. 원격제어 서비스의 예를 들면, 필요한 서비스는 상담 서비스이고 서비스 수요자는 상담을 원하는 고객이며 서비스 공급자는 상담원인 경우, 고객의 요청에 따라 상담원이 원격제어 장치에 가상으로 생성된 제어대상 단말의 화면을 보면서 고객의 제어대상 단말을 원격제어할 수 있다. 그런데, 제어대상 단말의 화면 내용과 설정된 값만을 가지고는 제어대상 단말의 현재 상태를 정확하게 파악하기 쉽지 않다. 이 경우, 제어대상 단말 사용자의 요청에 적절하게 대응하지 못할 우려가 있다.A remote control device connected to a network is referred to as a remote control technology, which is connected to a control target terminal located at a remote location so that the control target terminal can be controlled as if it is its own terminal. In the case of a remote control service, for example, a necessary service is a consultation service, a service consumer is a customer who desires a consultation, and a service provider is an agent, the agent displays a screen of a control target terminal virtually created in the remote control device So that the control target terminal of the customer can be remotely controlled. However, it is not easy to accurately grasp the current state of the control target terminal by only the screen content and the set value of the control target terminal. In this case, there is a fear that the request of the control target terminal user may not be properly handled.

일 실시 예에 따라, 제어대상 단말의 원격제어를 위해 제어대상 단말의 상태를 정확하고 실시간으로 모니터링할 수 있는 원격제어 시스템 및 그 방법을 제안한다.According to one embodiment, a remote control system and method are provided that can accurately and real-time monitor the state of a control target terminal for remote control of a control target terminal.

일 실시 예에 따른 원격제어 장치가 제어대상 단말을 원격제어하는 방법은, 원격제어 장치가 제어대상 단말과 원격으로 연결되는 단계와, 연결된 제어대상 단말로부터 제어대상 단말의 단말상태를 포함한 환경정보를 획득하는 단계와, 획득된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하는 단계와, 동기화된 가상의 제어대상 단말을 화면에 출력하는 단계를 포함한다.A method for remote control of a control target terminal by a remote control device according to an embodiment includes remote control device connected to a control target terminal remotely and environment information including the terminal status of the control target terminal from a connected control target terminal Synchronizing the virtual control target terminal with the actual control target terminal by reflecting the obtained environment information to the virtual control target terminal, and outputting the synchronized virtual control target terminal to the screen do.

환경정보를 획득하는 단계에서, 원격제어 장치는 제어대상 단말에 구비된 센서를 통해 감지된 제어대상 단말의 가속도 정보, 속도 정보, 방향 정보, 위치 정보 및 조도 정보 중 적어도 하나를 포함하는 환경정보를 개별적 또는 조합적으로 제어대상 단말로부터 수신할 수 있다.In the step of acquiring the environment information, the remote control device transmits environmental information including at least one of acceleration information, speed information, direction information, position information, and illumination information of the control target terminal sensed through the sensor provided in the control target terminal It can be received individually or in combination from the control target terminal.

일 실시 예에 따른 동기화하는 단계는, 획득된 제어대상 단말의 환경정보를 후 처리하여 보정하는 단계와, 보정된 데이터를 원격제어 장치에서 사용 가능한 데이터로 변환하는 단계와, 제어대상 단말을 가상객체 형태로 생성하는 단계와, 생성된 가상의 제어대상 단말에 데이터 처리된 실제 제어대상 단말의 환경정보를 반영하여 시뮬레이션하는 단계와, 시뮬레이션 결과를 렌더링하는 단계를 포함한다.The step of synchronizing according to an embodiment includes a step of post-processing and correcting the environment information of the obtained control target terminal, a step of converting the corrected data into data usable in the remote control device, And a step of simulating the environment information of the actual control target terminal that has been data-processed to the generated virtual control target terminal, and rendering the simulation result.

일 실시 예에 따른 가상객체 형태로 생성하는 단계는, 제어대상 단말의 단말정보를 획득하는 단계와, 획득된 단말정보를 이용하여 제어대상 단말에 대한 3차원 모델 데이터와 텍스처 데이터를 획득하는 단계와, 획득된 3차원 모델 데이터와 텍스처 데이터를 매핑하여 가상객체를 생성하는 단계를 포함한다.The step of generating a virtual object according to an exemplary embodiment includes the steps of acquiring terminal information of a control target terminal, acquiring three-dimensional model data and texture data of a control target terminal using the obtained terminal information, , And generating virtual objects by mapping the obtained three-dimensional model data and texture data.

시뮬레이션하는 단계에서, 원격제어 장치는 제어대상 단말을 통해 획득된 환경정보들을 이용하여 제어대상 단말의 자세와 방위각을 측정하고 속도와 위치 및 조도를 추정하고 이를 가상의 제어대상 단말에 반영하여 시뮬레이션할 수 있다.In the simulating step, the remote control device measures the attitude and azimuth angle of the control target terminal by using the environment information obtained through the control target terminal, estimates the speed, the position and the illuminance, .

시뮬레이션하는 단계에서, 원격제어 장치는 제어대상 단말로부터 획득된 위치정보와 외부 서버로부터 획득된 단말 위치에서의 기상상태와 시간대 정보를 이용하여 야외 조도정보를 추정하고, 추정된 야외 조도정보와 제어대상 단말로부터 감지된 조도 값을 비교하여 제어대상 단말의 조도 상태를 추정하며 이를 가상의 제어대상 단말에 반영하여 시뮬레이션할 수 있다.In the simulating step, the remote controller estimates the outdoor illuminance information using the position information obtained from the control target terminal, the weather state and the time zone information obtained at the terminal position obtained from the external server, It is possible to simulate the illuminance state of the control target terminal by comparing the illuminance values sensed from the terminal and reflect it to the virtual control target terminal.

추가 실시 예에 따른 원격제어 방법은, 획득된 환경정보를 가지고 외부 서버로부터 부가 환경정보를 획득하는 단계와, 획득된 부가 환경정보를 가상의 제어대상 단말에 반영하여 동기화하는 단계를 포함한다.The remote control method according to a further embodiment includes acquiring supplementary environment information from an external server with the obtained environment information and synchronizing the acquired supplementary environment information with a virtual control target terminal.

다른 실시 예에 따른 원격제어 시스템은, 센서를 통해 자신의 단말상태를 포함한 환경정보를 획득하는 제어대상 단말과, 제어대상 단말과 원격으로 연결되어 제어대상 단말의 환경정보를 수신하고 수신된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하며 동기화된 가상의 제어대상 단말을 화면에 출력하는 원격제어 장치를 포함한다.A remote control system according to another embodiment includes a control target terminal that acquires environment information including its own terminal status through a sensor, and a control unit that is connected to the control target terminal remotely to receive environment information of the control target terminal, To the virtual control target terminal to synchronize the virtual control target terminal with the actual control target terminal and output the synchronized virtual control target terminal to the screen.

일 실시 예에 따른 제어대상 단말은, 제어대상 단말의 환경정보를 감지하는 센서와, 센서를 통해 감지된 환경정보를 패킷 처리하는 단말 제어부와, 원격제어 장치와 연결되어 통신하되 단말 제어부에서 패킷 처리된 환경정보를 원격제어 장치에 전송하는 단말 통신부를 포함한다.A control target terminal according to an exemplary embodiment of the present invention includes a sensor for sensing environment information of a control target terminal, a terminal control unit for packetizing environmental information sensed through a sensor, and a controller for communicating with the remote control apparatus, And transmits the environment information to the remote control device.

단말 제어부는 센서를 통해 감지된 위치정보가 유효하면 위치정보를 단말 통신부를 통해 원격제어 장치에 전송하고, 유효하지 않으면 제어대상 단말과 통신 가능한 네트워크 장치의 위치정보를 획득하여 단말 통신부를 통해 원격제어 장치에 전송할 수 있다.The terminal control unit transmits the location information to the remote control device through the terminal communication unit if the detected location information is valid, acquires the location information of the network device capable of communicating with the control target terminal, Device.

일 실시 예에 따른 원격제어 장치는, 제어대상 단말과 연결되어 통신하되 제어대상 단말로부터 환경정보를 수신하는 장치 통신부와, 장치 통신부를 통해 수신된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하는 장치 제어부와, 장치 제어부를 통해 동기화된 가상의 제어대상 단말을 화면에 출력하는 장치 입출력부를 포함한다.A remote control apparatus according to an embodiment of the present invention includes a device communication unit that is connected to a control target terminal and receives environment information from a control target terminal and a virtual communication unit that reflects the environment information received through the device communication unit to a virtual control target terminal, A device control unit for synchronizing the control target terminal with an actual control target terminal, and a device input / output unit for outputting a virtual control target terminal synchronized through the device control unit to a screen.

일 실시 예에 따른 장치 제어부는, 장치 통신부를 통해 수신된 제어대상 단말의 환경정보를 후 처리하여 보정하고 보정된 데이터를 원격제어 장치에서 사용 가능한 데이터로 변환하는 데이터 처리부와, 제어대상 단말을 가상객체 형태로 생성하고 생성된 가상객체를 대상으로 데이터 처리부를 통해 데이터 처리된 제어대상 단말의 환경정보를 반영하여 시뮬레이션하고 시뮬레이션 결과를 렌더링하는 물리 엔진을 포함한다.The device control unit according to an embodiment includes a data processing unit for post-processing and correcting the environment information of the control target terminal received through the device communication unit and converting the corrected data into data usable in the remote control apparatus, And a physical engine for generating simulation data by reflecting the environmental information of the control target terminal, which is data-processed through the data processing unit, with respect to the generated virtual object, and rendering the simulation result.

물리 엔진은 제어대상 단말을 통해 획득된 환경정보들을 이용하여 제어대상 단말의 자세와 방위각을 측정하고 속도와 위치 및 조도를 추정하고 이를 가상의 제어대상 단말에 반영하여 시뮬레이션할 수 있다.The physical engine can be simulated by measuring the attitude and azimuth of the control target terminal using the environment information obtained through the control target terminal, estimating the speed, the position and the illuminance, and reflecting it on the virtual control target terminal.

물리 엔진은 제어대상 단말로부터 획득된 위치정보와 외부 서버로부터 획득된 단말 위치에서의 기상상태와 시간대 정보를 이용하여 야외 조도정보를 추정하고, 추정된 야외 조도정보와 제어대상 단말로부터 감지된 조도 값을 비교하여 제어대상 단말의 조도 상태를 추정하며 이를 가상의 제어대상 단말에 반영하여 시뮬레이션할 수 있다.The physical engine estimates the outdoor illuminance information using the position information obtained from the control target terminal, the weather state and the time zone information obtained from the external server, and outputs the estimated outdoor illuminance information and the illuminance value The illuminance state of the control target terminal can be estimated, and the simulation can be performed by reflecting it on the virtual control target terminal.

일 실시 예에 따른 장치 통신부는 획득된 환경정보를 가지고 외부 서버에 부가 환경정보를 요청하여 획득하고, 장치 제어부는 장치 통신부를 통해 획득된 부가 환경정보를 가상의 제어대상 단말에 반영하여 동기화할 수 있다.The device communication unit according to an embodiment requests and obtains the additional environment information from the external server with the acquired environment information, and the device control unit reflects the additional environment information acquired through the device communication unit to the virtual control target terminal to synchronize have.

일 실시 예에 따르면, 원격제어 장치가 제어대상 단말을 원격제어하는 데 있어서, 제어대상 단말의 현재 상태를 실시간으로 정확하게 모니터링할 수 있다. 즉, 제어대상 단말의 센서를 통해 감지된 환경정보를 이용하여 실제 제어대상 단말을 원격제어 장치의 화면에 표시될 가상의 제어대상 단말과 동기화함에 따라 제어대상 단말의 현재상태를 화면을 통해 바로 보여줄 수 있다. 원격제어 장치 사용자는 화면에 보이는 제어대상 단말의 상태를 정확하게 모니터링할 수 있어서 효율적으로 원격제어 서비스를 제공할 수 있다.According to an embodiment, when the remote control device remotely controls the control target terminal, the current state of the control target terminal can be accurately monitored in real time. That is, as the actual control target terminal is synchronized with the virtual control target terminal to be displayed on the screen of the remote control device using the environment information sensed through the sensor of the control target terminal, the current status of the control target terminal is immediately displayed on the screen . The user of the remote control device can accurately monitor the state of the control target terminal displayed on the screen, thereby efficiently providing the remote control service.

도 1은 본 발명의 일 실시 예에 따른 원격제어 장치의 화면을 도시한 참조도,
도 2는 본 발명의 일 실시 예에 따른 원격제어 시스템의 구성도,
도 3은 본 발명의 일 실시 예에 따른 도 2의 제어대상 단말의 세부 구성도,
도 4는 본 발명의 일 실시 예에 따른 도 2의 원격제어 장치의 세부 구성도,
도 5는 본 발명의 일 실시 예에 따른 도 4의 장치 제어부의 세부 구성도,
도 6은 본 발명의 일 실시 예에 따른 GPS 센서 패킷의 구조도 및 파라미터 정보를 도시한 참조도,
도 7은 본 발명의 일 실시 예에 따른 자이로 센서 및 가속도 센서의 패킷의 구조도 및 파라미터 정보를 도시한 참조도,
도 8은 본 발명의 일 실시 예에 따른 조도 센서 패킷의 파라미터 정보를 도시한 참조도,
도 9는 본 발명의 일 실시 예에 따른 원격제어 방법을 도시한 흐름도이다.
1 is a reference view showing a screen of a remote control apparatus according to an embodiment of the present invention;
2 is a configuration diagram of a remote control system according to an embodiment of the present invention;
FIG. 3 is a detailed configuration diagram of the control target terminal of FIG. 2 according to an embodiment of the present invention;
FIG. 4 is a detailed configuration diagram of the remote control device of FIG. 2 according to an embodiment of the present invention;
FIG. 5 is a detailed configuration diagram of the device control unit of FIG. 4 according to an embodiment of the present invention;
FIG. 6 is a reference diagram showing a structure diagram and parameter information of a GPS sensor packet according to an embodiment of the present invention;
FIG. 7 is a reference diagram showing the structure and parameter information of a packet of a gyro sensor and an acceleration sensor according to an embodiment of the present invention,
FIG. 8 is a reference view showing parameter information of a light intensity sensor packet according to an embodiment of the present invention;
9 is a flowchart illustrating a remote control method according to an embodiment of the present invention.

이하에서는 첨부한 도면을 참조하여 본 발명의 실시 예들을 상세히 설명한다. 본 발명을 설명함에 있어 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 또한, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description of the present invention, a detailed description of known functions and configurations incorporated herein will be omitted when it may make the subject matter of the present invention rather unclear. In addition, the terms described below are defined in consideration of the functions of the present invention, which may vary depending on the intention of the user, the operator, or the custom. Therefore, the definition should be based on the contents throughout this specification.

도 1은 본 발명의 일 실시 예에 따른 원격제어 장치의 화면을 도시한 참조도이다.1 is a reference view showing a screen of a remote control apparatus according to an embodiment of the present invention.

도 1을 참조하면, 원격제어 장치(12)는 원격지에 위치하는 제어대상 단말(10)을 대상으로 원격제어 서비스를 제공한다. 이때, 원격제어 장치(12)를 통해 제어대상 단말(10)을 원격제어할 수 있다. 일 실시 예에 따른 원격제어 장치(12)의 화면에는 제어대상 단말(10)의 현재 상태와 동작들이 그대로 반영된다. 즉, 제어대상 단말(10)이 제어대상 단말(10)에 구비된 센서를 통해 감지된 환경정보를 원격제어 장치(12)에 실시간으로 전송하면, 원격제어 장치(12)는 수신된 환경정보를 이용하여 제어대상 단말(10)의 상태를 화면을 통해 바로 보여줄 수 있다. 환경정보는 제어대상 단말(10)의 가속도 정보, 속도 정보, 방향 정보, 위치 정보, 조도 정보 등 센서를 통해 감지할 수 있는 정보이면 어느 것이든 무방하다.Referring to FIG. 1, a remote control device 12 provides a remote control service to a control target terminal 10 located at a remote location. At this time, the control target terminal 10 can be remotely controlled through the remote control device 12. [ The current state and operations of the control target terminal 10 are directly reflected on the screen of the remote control device 12 according to the embodiment. That is, when the control target terminal 10 transmits the environment information sensed through the sensor provided in the control target terminal 10 to the remote control device 12 in real time, the remote control device 12 transmits the received environment information The state of the control target terminal 10 can be immediately displayed on the screen. The environmental information may be any information that can be sensed by the sensor, such as acceleration information, speed information, direction information, position information, and illumination information of the control target terminal 10. [

전술한 특징을 가진 원격제어 서비스의 예를 들면, 도 1에 도시된 바와 같이 제어대상 단말(10)이 스마트폰인 경우, 원격제어 장치(12)의 화면에는 제어대상 단말(10)의 화면(110)과, 제어대상 단말(10)의 기울임 정도를 확인할 수 있는 화면(112)과, 제어대상 단말(10)의 위치를 확인할 수 있는 화면(114)이 함께 출력된다. 이 경우, 원격제어 장치(12)가 제어대상 단말(10)을 원격제어하는 데 있어서, 제어대상 단말(10)의 현재 상태를 실시간으로 정확하게 모니터링할 수 있어서 원격제어 서비스를 효과적으로 제공할 수 있게 된다.1, when the control target terminal 10 is a smartphone, the screen of the remote control device 12 displays a screen (not shown) of the control target terminal 10 A screen 112 for confirming the degree of inclination of the control target terminal 10 and a screen 114 for confirming the position of the control target terminal 10 are output together. In this case, when the remote control device 12 remotely controls the control target terminal 10, the current state of the control target terminal 10 can be accurately monitored in real time, thereby effectively providing the remote control service .

원격제어 서비스의 다른 예를 들면, 고객의 요청에 따라 상담원이 원격제어 장치(12)에 가상으로 생성된 제어대상 단말의 화면을 보면서 고객의 제어대상 단말(10)을 원격제어할 수 있다. 이때, 제어대상 단말(10)이 세탁기인 경우, 세탁기의 자이로 센서 등을 이용하여 감지된 세탁기의 수평 정도를 원격제어 장치(12)의 화면에 실시간으로 보여줌에 따라 상담자가 고객의 세탁기 현재 상태를 정확하게 파악하고 그에 따른 조치를 수행할 수 있다.As another example of the remote control service, the agent can remotely control the customer's control target terminal 10 while viewing the screen of the control target terminal virtually created in the remote control device 12 at the request of the customer. In this case, when the control target terminal 10 is a washing machine, the level of the washing machine detected by using the gyro sensor of the washing machine is displayed on the screen of the remote control device 12 in real time, It can accurately grasp and take action accordingly.

도 2는 본 발명의 일 실시 예에 따른 원격제어 시스템의 구성도이다.2 is a configuration diagram of a remote control system according to an embodiment of the present invention.

도 2를 참조하면, 원격제어 시스템(1)은 제어대상 단말(10), 원격제어 장치(12) 및 원격제어 서버(14)를 포함한다.2, the remote control system 1 includes a control target terminal 10, a remote control device 12, and a remote control server 14.

원격지에 위치하는 제어대상 단말(10)은 사물 디바이스(things device)일 수 있는데, 예를 들어 냉장고, 세탁기, 전자레인지, 에어컨, TV 등의 가전이나 전자기기일 수 있다. 사물 디바이스는 네트워크에 연결 가능한 스마트 장치이면 어느 것이든 무방하며, 사물 인터넷(Internet of things: IoT) 기술을 이용하여 사물 디바이스에 장착된 센서를 이용하여 실시간 데이터를 인터넷으로 주고받을 수 있다. 제어대상 단말(10)은 데스크톱이나 노트북 등일 수 있다. 또한, 제어대상 단말(10)은 사용자가 휴대할 수 있는 모바일 단말일 수 있는데, 예를 들어 휴대폰, 셀룰러폰, 스마트폰, 스마트 패드 등일 수 있다. 제어대상 단말(10)은 원격제어 서버(14)에 접속하여 원격제어 장치(12)와 연결될 수 있다.The control target terminal 10 located at a remote location may be a things device, for example, a household appliance such as a refrigerator, a washing machine, a microwave oven, an air conditioner, a TV, or an electronic device. The object device can be any smart device that can be connected to a network, and real-time data can be exchanged over the Internet using a sensor mounted on the object device using the Internet of things (IoT) technology. The control target terminal 10 may be a desktop, a notebook, or the like. The control target terminal 10 may be a mobile terminal that can be carried by a user, for example, a cellular phone, a cellular phone, a smart phone, a smart pad, or the like. The control target terminal 10 can be connected to the remote control server 12 by being connected to the remote control server 14. [

원격제어 장치(12)는 제어대상 단말(10)을 원격제어하는 장치로서, 원격제어를 위해 원격제어 서버(14)와 네트워크로 연결될 수 있다. 원격제어 장치(12)는 제어대상 단말(10)을 조작하기 위한 키보드, 모니터, 마우스 등의 사용자 인터페이스를 구비할 수 있다. 원격제어 장치(12)는 다수 개일 수 있다.The remote control device 12 is a device for remotely controlling the control target terminal 10 and may be connected to the remote control server 14 via a network for remote control. The remote control device 12 may include a user interface such as a keyboard, a monitor, and a mouse for operating the control target terminal 10. [ The number of the remote control devices 12 may be plural.

원격제어 서버(14)는 원격제어 장치(12)의 원격제어를 지원한다. 일 실시 예에 따른 원격제어 서버(14)가 원격제어 장치(12)와 제어대상 단말(10)을 연결하면, 원격제어 장치(12)는 연결된 제어대상 단말(10)을 원격제어할 수 있다. 원격제어 장치(12)와 제어대상 단말(10)의 연결 프로세스를 설명하면 다음과 같다. 우선, 제어대상 단말(10)은 제어대상 단말(10)에 설치된 프로그램을 통해 ID와 암호 등을 이용한 인증을 거쳐 원격제어 서버(14)에 접속한다. 원격제어 서버(14)에 접속된 제어대상 단말(10)은 제어대상 단말(10)의 IP 정보를 원격제어 서버(14)의 원격제어 리스트에 등록하고 대기한다. 원격제어 장치(12)는 원격제어 프로그램을 통해 인증을 거쳐 원격제어 서버(14)에 접속한다. 원격제어 서버(14)에 접속된 원격제어 장치(12)는 원격제어 서버(14)로부터 원격제어 리스트를 수신한다. 이때, 원격제어 서버(14)가 사용자로부터 원격제어 리스트 중 하나를 선택받으면, 선택된 제어대상 단말(10)의 IP 정보를 이용하여 제어대상 단말(10)과 연결된다. 제어대상 단말(10)과 연결되면 원격제어 장치(12)는 연결된 제어대상 단말(10)을 원격제어할 수 있게 된다.The remote control server (14) supports remote control of the remote control device (12). When the remote control server 14 according to an embodiment connects the remote control device 12 and the control target terminal 10, the remote control device 12 can remotely control the connected control target terminal 10. The connection process between the remote control device 12 and the control target terminal 10 will now be described. First, the control target terminal 10 accesses to the remote control server 14 via the program installed in the control target terminal 10 via authentication using an ID and a password. The control target terminal 10 connected to the remote control server 14 registers the IP information of the control target terminal 10 in the remote control list of the remote control server 14 and waits. The remote control device 12 accesses the remote control server 14 via authentication via a remote control program. The remote control device 12 connected to the remote control server 14 receives the remote control list from the remote control server 14. At this time, when the remote control server 14 selects one of the remote control lists from the user, the remote control server 14 is connected to the control target terminal 10 by using the IP information of the selected control target terminal 10. The remote control device 12 can remotely control the connected control target terminal 10 when the control target terminal 10 is connected.

원격제어 장치(12)가 제어대상 단말(10)을 원격제어하는 데 있어서, 제어대상 단말(10)의 상태를 정확하게 모니터링할 수 있도록 실제의 제어대상 단말(10)과 원격제어 장치(12)의 화면에 출력되는 가상의 제어대상 단말을 동기화한다. 이를 위해, 제어대상 단말(10)은 제어대상 단말(10)에 구비된 센서를 통해 자신의 단말상태를 포함한 환경정보를 획득한다. 제어대상 단말(10)과 연결된 원격제어 장치(12)는 제어대상 단말(10)로부터 환경정보를 수신한다. 그리고, 수신된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말(10)과 동기화한다. 동기화된 가상의 제어대상 단말은 원격제어 장치(12)의 화면에 출력된다. 이에 따라, 원격제어 장치(12) 사용자는 제어대상 단말(10)의 현재 상태를 실시간으로 정확하게 모니터링할 수 있다.The remote control device 12 performs the remote control of the control target terminal 10 so that the actual control target terminal 10 and the remote control device 12 are controlled so that the state of the control target terminal 10 can be accurately monitored. And synchronizes the virtual control target terminals output on the screen. To this end, the control target terminal 10 acquires environment information including its own terminal status through a sensor provided in the control target terminal 10. [ The remote control device 12 connected to the control target terminal 10 receives environmental information from the control target terminal 10. [ The virtual control target terminal is synchronized with the actual control target terminal 10 by reflecting the received environment information to the virtual control target terminal. The synchronized virtual control target terminal is output to the screen of the remote control device 12. [ Accordingly, the user of the remote control device 12 can accurately monitor the current state of the control target terminal 10 in real time.

도 3은 본 발명의 일 실시 예에 따른 도 2의 제어대상 단말의 세부 구성도이다.3 is a detailed configuration diagram of the control target terminal of FIG. 2 according to an embodiment of the present invention.

도 2와 도 3을 참조하면, 제어대상 단말(10)은 센서(100), 단말 제어부(102), 단말 통신부(104), 단말 입출력부(106) 및 단말 저장부(108)를 포함한다.2 and 3, the control target terminal 10 includes a sensor 100, a terminal control unit 102, a terminal communication unit 104, a terminal input / output unit 106, and a terminal storage unit 108.

센서(100)는 제어대상 단말(10)에 구비되어, 제어대상 단말(10)의 환경정보를 감지한다. 환경정보는 제어대상 단말(10)의 가속도 정보, 속도 정보, 방향 정보, 위치 정보 및 조도 정보 등일 수 있다. 센서(100)는 예를 들어, 가속도 센서, 자이로 센서, 지자기 센서, GPS 센서, 조도 센서, 초음파 센서, 광 센서, 변위 센서 등일 수 있으나 이에 한정되는 것은 아니다.The sensor 100 is provided in the control target terminal 10 and detects environmental information of the control target terminal 10. [ The environment information may be acceleration information, speed information, direction information, position information, illumination information, and the like of the control target terminal 10. The sensor 100 may be, for example, an acceleration sensor, a gyro sensor, a geomagnetic sensor, a GPS sensor, an illuminance sensor, an ultrasonic sensor, an optical sensor, a displacement sensor, and the like.

단말 제어부(102)는 제어대상 단말(10)을 구성하는 구성 요소들을 제어한다. 즉, 단말 제어부(102)는 단말 통신부(104), 단말 입출력부(106) 및 단말 저장부(108)를 제어한다. 일 실시 예에 따른 단말 제어부(102)는 센서(100)를 통해 감지된 환경정보를 패킷 처리한다. 단말 제어부(102)의 패킷 처리에 대해서는 후술되는 도 6 내지 도 8에서 상세히 설명한다.The terminal control unit 102 controls the components constituting the control target terminal 10. That is, the terminal control unit 102 controls the terminal communication unit 104, the terminal input / output unit 106, and the terminal storage unit 108. The terminal control unit 102 processes the environment information sensed by the sensor 100 according to an embodiment of the present invention. Packet processing of the terminal control unit 102 will be described later in detail with reference to FIGS. 6 to 8. FIG.

단말 통신부(104)는 원격제어 장치(12)와 통신한다. 단말 통신부(104)는 단말 제어부(102)에서 패킷 처리된 환경정보를 원격제어 장치(12)에 전송할 수 있다. 단말 저장부(108)에는 단말 제어부(102)의 동작을 위한 프로그램이 저장될 수 있고, 단말 입출력부(106)를 통해 입출력되는 데이터들이 임시 저장될 수 있다.The terminal communication unit 104 communicates with the remote control device 12. The terminal communication unit 104 can transmit the environment information processed by the terminal control unit 102 to the remote control device 12. [ A program for operating the terminal control unit 102 may be stored in the terminal storage unit 108 and data input and output through the terminal input and output unit 106 may be temporarily stored.

일 실시 예에 따른 단말 제어부(102)는 센서(100)를 통해 감지된 위치정보가 유효한지 여부를 판단한다. 이때, 유효하면 유효한 위치정보를 단말 통신부(104)를 통해 원격제어 장치(12)에 전송한다. 이에 비해, 유효하지 않으면 제어대상 단말(10)과 통신 가능한 네트워크 장치, 예를 들어 제어대상 단말(10)과 근거리에 위치한 기지국의 위치정보를 획득하여 단말 통신부(104)를 통해 원격제어 장치(12)에 전송한다. 이에 따라 제어대상 단말(10)의 정확한 위치정보를 제공할 수 있고, 정확한 위치정보를 제공하기 어려운 경우에도 대략적인 위치정보를 제공할 수 있다.The terminal control unit 102 according to an exemplary embodiment determines whether the location information detected through the sensor 100 is valid. At this time, if valid, it transmits valid position information to the remote control device 12 through the terminal communication unit 104. When the control target terminal 10 is not valid, the location information of the base station located close to the network device capable of communicating with the control target terminal 10, for example, the control target terminal 10 is obtained and transmitted to the remote control device 12 . Accordingly, it is possible to provide accurate position information of the control target terminal 10, and even if it is difficult to provide accurate position information, it is possible to provide approximate position information.

도 4는 본 발명의 일 실시 예에 따른 도 2의 원격제어 장치의 세부 구성도이다.4 is a detailed configuration diagram of the remote control apparatus of FIG. 2 according to an embodiment of the present invention.

도 2와 도 4를 참조하면, 원격제어 장치(12)는 장치 제어부(122), 장치 통신부(124), 장치 입출력부(126) 및 장치 저장부(128)를 포함한다.2 and 4, the remote control device 12 includes a device control unit 122, a device communication unit 124, a device input / output unit 126, and a device storage unit 128.

장치 통신부(124)는 제어대상 단말(10)과 통신한다. 장치 통신부(124)는 제어대상 단말(10)로부터 제어대상 단말(10)의 환경정보를 수신할 수 있다. 장치 제어부(122)는 원격제어 장치(12)를 구성하는 구성 요소들을 제어한다. 즉, 장치 제어부(122)는 장치 통신부(124), 장치 입출력부(126) 및 장치 저장부(128)를 제어한다.The device communication unit 124 communicates with the control target terminal 10. The device communication unit 124 can receive environmental information of the control target terminal 10 from the control target terminal 10. [ The device control unit 122 controls the components constituting the remote control device 12. [ That is, the device control unit 122 controls the device communication unit 124, the device input / output unit 126, and the device storage unit 128.

일 실시 예에 따른 장치 제어부(122)는 장치 통신부(124)를 통해 수신된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말(10)과 동기화한다. 가상객체(virtual object) 형태의 제어대상 단말은 실제 제어대상 단말(10)을 가상으로 생성한 것으로, 3차원(3D) 객체일 수 있다. 장치 제어부(122)의 세부 구성에 대해서는 후술되는 도 5를 참조로 상세히 설명한다.The device control unit 122 according to an embodiment reflects the environment information received through the device communication unit 124 to the virtual control target terminal to synchronize the virtual control target terminal with the actual control target terminal 10. [ A control target terminal in the form of a virtual object is a virtual control target terminal 10, and may be a three-dimensional (3D) object. The detailed configuration of the device control unit 122 will be described in detail with reference to FIG. 5 to be described later.

일 실시 예에 따른 장치 제어부(122)는 장치 통신부(124)를 통해 제어대상 단말(10)로부터 획득된 환경정보뿐만 아니라 외부서버로부터 획득된 부가적인 환경정보를 이용하여 동기화를 수행한다. 이를 위해, 장치 제어부(122)는 장치 통신부(124)를 통해 제어대상 단말(10)로부터 획득된 환경정보를 가지고 외부 서버에 부가 환경정보를 요청하여 획득한다. 그리고, 제어대상 단말(10)로부터 획득된 환경정보와 외부서버로부터 획득된 부가적인 환경정보를 원격제어 장치(12)의 화면에 표시될 가상의 제어대상 단말에 반영하여 동기화한다.The device control unit 122 according to an embodiment performs synchronization using not only the environment information obtained from the control target terminal 10 but also the additional environment information obtained from the external server through the device communication unit 124. [ To this end, the device control unit 122 requests and receives the additional environment information from the control target terminal 10 via the device communication unit 124, to the external server. The environment information obtained from the control target terminal 10 and the additional environmental information obtained from the external server are reflected on the virtual control target terminal to be displayed on the screen of the remote control device 12 and are synchronized.

예를 들어, 장치 제어부(122)는 장치 통신부(124)가 제어대상 단말(10)로부터 획득된 위치정보를 기초로 하여 해당 위치에서의 기상상태와 시간대 정보를 외부의 기상청 서버에 요청하여 획득한다. 그리고, 해당 위치에서의 기상상태와 시간대 정보를 확인하고, 위치 값의 변화를 계산하여 이동속도를 확인한다. 이어서, 제어대상 단말(10)의 조도 센서로부터 제어대상 단말(10)의 조도 값을 획득하고, 획득된 조도 값을 해당 위치정보와 연동하여 제어대상 단말(10)의 기상상태 및 시간대 정보에서의 야외 조도를 추정하고 이를 가상의 제어대상 단말에 반영한다.For example, the device control unit 122 requests and obtains the weather state and time zone information at the corresponding location from an external weather station server based on the location information obtained from the control target terminal 10 by the device communication unit 124 . Then, the weather condition and the time zone information at the corresponding position are confirmed, and the movement speed is confirmed by calculating the change of the position value. Then, the control unit 10 acquires the illuminance value of the control target terminal 10 from the illuminance sensor of the control target terminal 10, correlates the obtained illuminance value with the corresponding position information, Estimates the outdoor illuminance and reflects it to the virtual control target terminal.

장치 입출력부(126)는 장치 제어부(122)를 통해 동기화된 가상의 제어대상 단말을 화면에 출력한다. 그리고, 사용자로부터 사용자 명령을 입력받고 처리결과를 화면에 출력한다. 장치 입출력부(126)는 화면에 출력되는 가상의 제어대상 단말에 대해 뷰의 카메라 시점을 이동시켜 사용자가 원하는 방향에서 볼 수 있도록 제어하여 출력할 수 있다. 장치 저장부(128)에는 장치 제어부(122)의 동작을 위한 프로그램이 저장될 수 있고, 장치 입출력부(126)를 통해 입출력되는 데이터들이 임시 저장될 수 있다.The device input / output unit 126 outputs a virtual control target terminal synchronized via the device control unit 122 to the screen. Then, a user command is input from the user and the processing result is displayed on the screen. The device input / output unit 126 may move the camera viewpoint of the view to the virtual control target terminal displayed on the screen, and may control and output the camera viewpoint so that the user can view the viewpoint in a desired direction. A program for the operation of the device control unit 122 may be stored in the device storage unit 128 and data input and output through the device input / output unit 126 may be temporarily stored.

도 5는 본 발명의 일 실시 예에 따른 도 4의 장치 제어부의 세부 구성도이다.5 is a detailed configuration diagram of the device control unit of FIG. 4 according to an embodiment of the present invention.

도 2, 도 4 및 도 5를 참조하면, 장치 제어부(122)는 데이터 처리부(1220)와 물리 엔진(1222)을 포함한다.2, 4 and 5, the device control unit 122 includes a data processing unit 1220 and a physical engine 1222. [

데이터 처리부(1220)는 장치 통신부(124)를 통해 수신된 제어대상 단말(10)의 환경정보를 후 처리 및 보정한다. 예를 들어, 데이터 처리부(1220)는 디지털 저대역 통과 필터(Digital Low Pass Filter)를 이용하여 환경정보를 필터링하고 추정 보상기로 환경정보의 드리프트를 제거하여 사용한다. 데이터 처리부(1220)는 보정된 데이터를 원격제어 장치(12)에서 사용 가능한 데이터로 변환한다. 예를 들어, 원격제어 장치(12)의 렌더링 뷰(rendering view)의 디스플레이 유닛 스케일(Display Unit Scale)과 보정된 환경정보를 미터 단위계(Metric)로 변환한다.The data processing unit 1220 post-processes and corrects the environment information of the control target terminal 10 received via the device communication unit 124. [ For example, the data processor 1220 filters environment information by using a digital low pass filter and removes drift of environment information by using an estimation compensator. The data processing unit 1220 converts the corrected data into data usable in the remote control apparatus 12. For example, the display unit scale of the rendering view of the remote control device 12 and the corrected environment information are converted into a metric system.

물리 엔진(1222)은 제어대상 단말(10)을 가상객체 형태로 생성하고 생성된 가상객체를 대상으로 데이터 처리부(1220)를 통해 데이터 처리된 제어대상 단말(10)의 환경정보를 반영하여 시뮬레이션하고 시뮬레이션 결과를 렌더링한다. 이를 위해, 물리 엔진(1222)은 가상객체를 생성하고 시뮬레이션하는 물리 시뮬레이션부(1224)와 시뮬레이션 결과를 렌더링하는 렌더링부(1226)를 포함할 수 있다. 이때, 시뮬레이션을 통해 가상객체의 움직임을 결정하고, 움직임이 결정된 가상객체를 렌더링을 통해 시각적으로 표현할 수 있다.The physical engine 1222 generates a virtual object in the form of a virtual object and simulates the generated virtual object by reflecting environmental information of the controlled object terminal 10 processed through the data processing unit 1220 Renders the simulation results. To this end, the physical engine 1222 may include a physical simulation unit 1224 for creating and simulating a virtual object, and a rendering unit 1226 for rendering the simulation result. At this time, the motion of the virtual object is determined through simulation, and the virtual object whose motion is determined can be visually expressed through rendering.

일 실시 예에 따른 물리 엔진(1222)은 가상객체 형태의 제어대상 단말을 생성한다. 가상객체 생성을 위해, 물리 엔진(1222)은 제어대상 단말(10)의 단말정보를 획득한다. 그리고, 획득된 단말정보를 이용하여 제어대상 단말(10)에 대한 3차원 모델 데이터(3D Model data)와 텍스처 데이터(Texture data)를 획득한다. 그리고, 획득된 3차원 모델 데이터와 텍스처 데이터를 매핑(mapping)하여 가상객체를 생성한다.The physical engine 1222 according to an embodiment generates a control object terminal in the form of a virtual object. To create the virtual object, the physical engine 1222 acquires the terminal information of the controlled terminal 10. Then, the 3D model data and the texture data for the control target terminal 10 are obtained using the obtained terminal information. Then, the obtained three-dimensional model data and texture data are mapped to create a virtual object.

가상객체 생성 예를 들면, 제어대상 단말(10)이 스마트폰이고 안드로이드 운영체제(OS) 하에서 운영된다고 가정하면, 안드로이드 OS에서 제공하는 디바이스 빌드 모델 소프트웨어 개발 키트(Device build model SDK)를 이용하여 제어대상 단말(10)의 모델번호를 획득한다. 그리고, 획득한 모델 번호를 디바이스 모델 데이터 서버(Device Model Data Server)에 전달하고, 디바이스 모델 데이터 서버로부터 해당 모델의 3차원 모델 데이터와 텍스처 데이터를 전송받는다. 3차원 모델 데이터는 예를 들어 1unit/1cm 규격으로 모델의 실제 사이즈에 따라 모델링된 데이터이다. 텍스처 데이터는 실제 해당 제품의 전 방향(front, back, left, right, top, bottom)에서의 사진 이미지일 수 있다. 사진 이미지는 알파 채널(Alpha Channel)이 지원되는 PNG 이미지 포맷(Image Format) 형태일 수 있다. 이어서, 3차원 모델 데이터와 텍스처 데이터를 매핑하여 가상객체를 생성한다.For example, assuming that the control target terminal 10 is a smart phone and is operated under the Android operating system (OS), the virtual object is created using the device build model SDK provided by the Android OS, And obtains the model number of the terminal 10. Then, the acquired model number is transferred to the device model data server, and the three-dimensional model data and the texture data of the model are transmitted from the device model data server. The three-dimensional model data is, for example, data modeled according to the actual size of the model in the 1 unit / 1 cm standard. The texture data may be a photographic image in all directions (front, back, left, right, top, bottom) of the corresponding product. The photographic image may be in the form of a PNG image format (Alpha Channel). Then, the virtual object is generated by mapping the three-dimensional model data and the texture data.

일 실시 예에 따른 물리 엔진(1222)은 가상객체를 대상으로 데이터 처리부(1220)를 통해 데이터 처리된 제어대상 단말(10)의 환경정보를 반영하여 시뮬레이션하고 시뮬레이션 결과를 렌더링한다. 물리 엔진(1222)은 예를 들어 DirectX 엔진 또는 OpenGL 3D 엔진일 수 있다. DirectX는 마이크로소프트사의 3D 렌더링 언어이고, OpenGL 3D 엔진은 실리콘 그래픽스 사의 3D 렌더링 언어이다.The physical engine 1222 according to an embodiment reflects the environment information of the control target terminal 10 processed through the data processing unit 1220 with respect to the virtual object, and simulates the environment information to render the simulation result. Physics engine 1222 may be, for example, a DirectX engine or an OpenGL 3D engine. DirectX is Microsoft's 3D rendering language, and OpenGL 3D engine is Silicon Graphics's 3D rendering language.

일 실시 예에 따른 물리 엔진(1222)은 AHRS(Attitude Heading Reference System) 알고리즘을 적용하여 가상객체를 시뮬레이션한다. AHRS 알고리즘은 자세와 방위각 측정, 속도 및 위치 추정이 가능한 알고리즘으로, 물리 엔진(1222)은 제어대상 단말(10)을 통해 획득된 환경정보를 이용하여 제어대상 단말(10)의 자세와 방위각을 측정하고 속도와 위치 및 조도를 추정한다. 그리고, 측정 및 추정된 정보들을 원격제어 장치(12)의 화면에 표시될 가상의 제어대상 단말에 반영하여 시뮬레이션한다.The physical engine 1222 according to an embodiment applies an Attitude Heading Reference System (AHRS) algorithm to simulate a virtual object. The AHRS algorithm is an algorithm capable of attitude and azimuth measurement, velocity and position estimation. The physical engine 1222 measures the attitude and azimuth of the control target terminal 10 using the environment information acquired through the control target terminal 10 And estimates velocity, position, and illumination. The measured and estimated information is reflected on a virtual control target terminal to be displayed on the screen of the remote control device 12 and is simulated.

일 실시 예에 따른 물리 엔진(1222)은 제어대상 단말(10)로부터 획득된 환경정보와 외부 서버로부터 획득된 부가 환경정보를 가상의 제어대상 단말에 반영하여 시뮬레이션한다. 예를 들어, 제어대상 단말(10)로부터 획득된 위치정보와 외부 서버로부터 획득된 제어대상 단말(10) 위치에서의 기상상태와 시간대 정보를 이용하여 야외 조도정보를 추정한다. 이때, 외부 서버는 기상청 서버일 수 있다. 그리고, 물리 엔진(1222)은 추정된 야외 조도정보와 제어대상 단말(10)로부터 감지된 조도 값을 비교하여 제어대상 단말(10)의 조도 상태를 추정한다. 이어서, 추정된 조도 상태를 원격제어 장치(12)의 가상의 제어대상 단말에 반영하여 시뮬레이션한다.The physical engine 1222 according to an embodiment reflects environment information obtained from the control target terminal 10 and additional environment information obtained from an external server to a virtual control target terminal for simulation. For example, the outdoor illuminance information is estimated using the location information obtained from the control target terminal 10 and the weather information and the time zone information at the position of the control target terminal 10 obtained from the external server. At this time, the external server may be a meteorological office server. Then, the physics engine 1222 compares the estimated outdoor illuminance information with the illuminance value sensed from the control target terminal 10, and estimates the illuminance state of the control target terminal 10. Then, the estimated illuminance state is reflected on the virtual control target terminal of the remote control device 12 and is simulated.

도 6은 본 발명의 일 실시 예에 따른 GPS 센서 패킷의 구조도 및 파라미터 정보를 도시한 참조도이다.6 is a reference diagram showing a structure diagram and parameter information of a GPS sensor packet according to an embodiment of the present invention.

도 2 및 도 6을 참조하면, 일 실시 예에 따른 제어대상 단말(10)은 제어대상 단말(10)의 GPS 센서를 통해 감지된 위치정보를 패킷 처리하고 GPS 센서 패킷을 TCP, RTP와 같은 전송 프로토콜을 이용하여 원격제어 장치(12)에 전송한다. GPS 센서 패킷은 도 6에 도시된 바와 같이 시작을 알리는 비트(STX), 길이(Length), 타입(Type), NMEA(National Marine Electronics Association) 데이터, 종료를 알리는 비트(ETX)로 이루어질 수 있다.2 and 6, the control target terminal 10 according to an exemplary embodiment of the present invention performs packet processing of position information sensed by the GPS sensor of the control target terminal 10 and transmits GPS sensor packets through TCP To the remote control device 12 using the protocol. The GPS sensor packet may consist of a bit (STX), a length, a type, an NMEA (National Marine Electronics Association) data, and a bit (ETX) indicating the start, as shown in FIG.

도 7은 본 발명의 일 실시 예에 따른 자이로 센서 및 가속도 센서의 패킷의 구조도 및 파라미터 정보를 도시한 참조도이다.FIG. 7 is a reference diagram showing the structure and parameter information of a packet of a gyro sensor and an acceleration sensor according to an embodiment of the present invention. Referring to FIG.

도 2 및 도 7을 참조하면, 일 실시 예에 따른 제어대상 단말(10)은 제어대상 단말(10)의 자이로 센서 및 가속도 센서를 통해 감지된 방향 및 가속도 정보를 패킷 처리하고 센서 패킷을 TCP, RTP와 같은 전송 프로토콜을 이용하여 원격제어 장치(12)에 전송한다. 자이로 및 가속도 센서 패킷은 도 7에 도시된 바와 같이 시작을 알리는 비트(STX), 길이(Length), 타입(Type), X축, Y축, Z축에서의 센싱 값 데이터, 종료를 알리는 비트(ETX)로 이루어질 수 있다.2 and 7, a control target terminal 10 according to an exemplary embodiment of the present invention performs packet processing of direction and acceleration information detected through a gyro sensor and an acceleration sensor of a control target terminal 10, To the remote control device 12 using a transmission protocol such as RTP. The gyro and acceleration sensor packet includes a bit indicating the start (STX), a length, a type, sensing value data in the X axis, Y axis, and Z axis, and a bit ETX).

도 8은 본 발명의 일 실시 예에 따른 조도 센서 패킷의 파라미터 정보를 도시한 참조도이다.FIG. 8 is a reference view showing parameter information of a light intensity sensor packet according to an embodiment of the present invention. FIG.

도 2 및 도 8을 참조하면, 일 실시 예에 따른 제어대상 단말(10)은 제어대상 단말(10)의 조도 센서를 통해 감지된 조도 정보를 패킷 처리하고 조도 센서 패킷을 TCP, RTP와 같은 전송 프로토콜을 이용하여 원격제어 장치(12)에 전송한다. 조도 센서 패킷은 도 8에 도시된 바와 같이 시작을 알리는 비트(STX), 길이(Length), 타입(Type), 서브타입(Sub type), 조도 값 데이터, 종료를 알리는 비트(ETX)로 이루어질 수 있다.2 and 8, the control target terminal 10 according to an exemplary embodiment of the present invention performs packet processing of the illumination information detected through the illumination sensor of the control target terminal 10, To the remote control device 12 using the protocol. As shown in FIG. 8, the light intensity sensor packet may be composed of a bit STX, a length, a type, a sub type, an illuminance value data, and a bit ETX indicating termination have.

도 9는 본 발명의 일 실시 예에 따른 원격제어 방법을 도시한 흐름도이다.9 is a flowchart illustrating a remote control method according to an embodiment of the present invention.

도 2 및 도 9를 참조하면, 원격제어 장치(12)는 제어대상 단말(10)과 원격으로 연결된다(900).Referring to FIGS. 2 and 9, the remote control device 12 is connected to the controlled terminal 10 remotely (900).

이어서, 원격제어 장치(12)는 연결된 제어대상 단말(10)로부터 제어대상 단말(10)의 단말상태를 포함한 환경정보를 획득한다(910). 이때, 원격제어 장치(12)는 제어대상 단말(10)에 구비된 센서를 통해 감지된 제어대상 단말(10)의 가속도 정보, 속도 정보, 방향 정보, 위치 정보 및 조도 정보 중 적어도 하나를 포함하는 환경정보를 개별적 또는 조합적으로 제어대상 단말(10)로부터 수신할 수 있다.Then, the remote control device 12 acquires environment information including the terminal status of the control target terminal 10 from the connected control target terminal 10 (910). At this time, the remote control device 12 includes at least one of acceleration information, velocity information, direction information, position information, and illumination information of the control target terminal 10 sensed through the sensor provided in the control target terminal 10 The environment information can be received from the control target terminal 10 individually or in combination.

이어서, 원격제어 장치(12)는 제어대상 단말(10)로부터 획득된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하고, 동기화된 가상의 제어대상 단말을 화면에 출력한다.Subsequently, the remote control device 12 reflects the environment information obtained from the control target terminal 10 to the virtual control target terminal, synchronizes the virtual control target terminal with the actual control target terminal, And outputs the terminal to the screen.

구체적으로, 원격제어 장치(12)는 획득된 제어대상 단말(10)의 환경정보를 후 처리하여 보정하고, 보정된 데이터를 원격제어 장치(12)에서 사용 가능한 데이터로 변환한다(920).Specifically, the remote control device 12 post-processes and corrects the obtained environment information of the control target terminal 10, and converts the corrected data into data usable in the remote control device 12 (920).

이어서, 원격제어 장치(12)는 제어대상 단말을 가상객체 형태로 생성한다(930). 가상객체 생성 단계(930)에서, 일 실시 예에 따른 원격제어 장치(12)는 제어대상 단말(10)의 단말정보를 획득하고, 획득된 단말정보를 이용하여 제어대상 단말(10)에 대한 3차원 모델 데이터와 텍스처 데이터를 획득한다. 그리고, 획득된 3차원 모델 데이터와 텍스처 데이터를 매핑하여 가상객체를 생성한다.Then, the remote control device 12 generates a control object terminal in the form of a virtual object (930). In the virtual object creation step 930, the remote control device 12 according to the embodiment acquires the terminal information of the control target terminal 10 and acquires the terminal information of the control target terminal 10 using the acquired terminal information Dimensional model data and texture data. Then, the obtained three-dimensional model data and texture data are mapped to create a virtual object.

이어서, 원격제어 장치(12)는 가상객체 형태의 제어대상 단말에 데이터 처리된 실제 제어대상 단말(10)의 환경정보를 반영하여 시뮬레이션(940)하고 시뮬레이션 결과를 렌더링한다(950).Then, the remote control device 12 simulates 940 the environment information of the actual control target terminal 10 processed by the virtual object type control target terminal and renders the simulation result (950).

시뮬레이션의 예를 들면, 원격제어 장치(12)는 제어대상 단말(10)을 통해 획득된 환경정보들을 이용하여 제어대상 단말(10)의 자세와 방위각을 측정하고 속도와 위치 및 조도를 추정하고 이를 가상의 제어대상 단말에 반영하여 시뮬레이션한다. 또 다른 예를 들면, 원격제어 장치(12)는 제어대상 단말(10)로부터 획득된 위치정보와 외부 서버로부터 획득된 제어대상 단말(10) 위치에서의 기상상태와 시간대 정보를 이용하여 야외 조도정보를 추정한다. 그리고, 추정된 야외 조도정보와 제어대상 단말(10)로부터 감지된 조도 값을 비교하여 제어대상 단말(10)의 조도 상태를 추정하며 이를 가상의 제어대상 단말에 반영하여 시뮬레이션한다.For example, the remote control device 12 measures the attitude and azimuth angle of the control target terminal 10 using the environment information acquired through the control target terminal 10, estimates the velocity, the position and the illuminance, The virtual control target terminal is reflected and simulated. For example, the remote control device 12 may use the weather information and the time zone information obtained from the control target terminal 10 and the control target terminal 10 obtained from the external server, . The illuminance of the control target terminal 10 is estimated by comparing the estimated outdoor illuminance information with the illuminance value sensed from the control target terminal 10, and the illuminance is reflected on the virtual control target terminal for simulation.

일 실시 예에 따른 원격제어 장치(12)는 제어대상 단말(10)로부터 획득된 환경정보를 가지고 외부 서버로부터 부가 환경정보를 획득한다. 이때, 획득된 부가 환경정보를 가상의 제어대상 단말에 반영하여 동기화할 수 있다. 부가 환경정보를 획득할 때, 원격제어 장치(12)는 제어대상 단말(10)의 센서를 통해 감지된 제어대상 단말(10)의 위치정보를 가지고 해당 위치에서의 기상상태와 시간대 정보를 외부 서버에 요청하여 획득할 수 있다.The remote control device 12 according to the embodiment obtains the additional environment information from the external server with the environment information obtained from the control target terminal 10. [ At this time, the obtained additional environment information can be reflected to the virtual control target terminal and can be synchronized. When acquiring the additional environment information, the remote control device 12 acquires the weather status and time zone information at the corresponding location with the location information of the control target terminal 10 sensed by the sensor of the control target terminal 10, Can be obtained.

전술한 바와 같이, 원격제어 장치(12)가 제어대상 단말(10)을 원격제어하는 데 있어서, 제어대상 단말(10)의 현재 상태를 실시간으로 정확하게 모니터링할 수 있어서 원격제어 서비스를 효과적으로 제공할 수 있다.As described above, when the remote control device 12 remotely controls the control target terminal 10, it is possible to accurately monitor the current state of the control target terminal 10 in real time, thereby effectively providing a remote control service have.

이제까지 본 발명에 대하여 그 실시 예들을 중심으로 살펴보았다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시 예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.The embodiments of the present invention have been described above. It will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims. Therefore, the disclosed embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is defined by the appended claims rather than by the foregoing description, and all differences within the scope of equivalents thereof should be construed as being included in the present invention.

1: 원격제어 시스템 10: 제어대상 단말
12: 원격제어 장치 14: 원격제어 서버
100: 센서 102: 단말 제어부
104: 단말 통신부 106: 단말 입출력부
108: 단말 저장부 122: 장치 제어부
124: 장치 통신부 126: 장치 입출력부
128: 장치 저장부 1220: 데이터 처리부
1222: 물리 엔진 1224: 물리 시뮬레이션부
1226: 렌더링부
1: remote control system 10: control target terminal
12: remote control device 14: remote control server
100: Sensor 102:
104: terminal communication unit 106: terminal input /
108: terminal storage unit 122:
124: Device communication unit 126: Device input / output unit
128: Device storage unit 1220: Data processing unit
1222: Physical engine 1224: Physical simulation part
1226:

Claims (15)

원격제어 장치가 제어대상 단말과 원격으로 연결되는 단계;
연결된 제어대상 단말로부터 제어대상 단말의 단말상태를 포함한 환경정보를 획득하는 단계;
획득된 제어대상 단말의 환경정보를 후 처리하여 보정하고 보정된 데이터를 상기 원격제어 장치에서 사용 가능한 데이터로 변환하는 단계;
상기 제어대상 단말을 가상객체 형태로 생성하는 단계;
생성된 가상의 제어대상 단말에 데이터 처리된 실제 제어대상 단말의 환경정보를 반영하여 시뮬레이션하는 단계; 및
시뮬레이션 결과를 렌더링하여 화면에 출력하는 단계;
를 포함하는 것을 특징으로 하는 원격제어 방법.
The remote control device is remotely connected to the control target terminal;
Acquiring environment information including a terminal status of a control target terminal from a connected control target terminal;
Processing the environment information of the obtained control target terminal by post-processing, and converting the corrected data into data usable in the remote control device;
Generating the control object terminal in the form of a virtual object;
Simulating the generated virtual control target terminal by reflecting environmental information of the actually controlled target terminal that has been data processed; And
Rendering the simulation result and outputting it to a screen;
The remote control method comprising:
제 1 항에 있어서, 상기 환경정보를 획득하는 단계는
상기 제어대상 단말에 구비된 센서를 통해 감지된 제어대상 단말의 가속도 정보, 속도 정보, 방향 정보, 위치 정보 및 조도 정보 중 적어도 하나를 포함하는 환경정보를 개별적 또는 조합적으로 상기 제어대상 단말로부터 수신하는 것을 특징으로 하는 원격제어 방법.
The method of claim 1, wherein the obtaining of the environment information comprises:
Environment information including at least one of acceleration information, speed information, direction information, position information, and illumination information of a control target terminal sensed through a sensor provided in the control target terminal, is received individually or in combination from the control target terminal The remote control method comprising:
삭제delete 제 1 항에 있어서, 상기 가상객체 형태로 생성하는 단계는
제어대상 단말의 단말정보를 획득하는 단계;
획득된 단말정보를 이용하여 상기 제어대상 단말에 대한 3차원 모델 데이터와 텍스처 데이터를 획득하는 단계; 및
획득된 3차원 모델 데이터와 텍스처 데이터를 매핑하여 가상객체를 생성하는 단계;
를 포함하는 것을 특징으로 하는 원격제어 방법.
The method of claim 1, wherein the step of generating
Acquiring terminal information of a control target terminal;
Acquiring three-dimensional model data and texture data for the control target terminal using the acquired terminal information; And
Generating virtual objects by mapping the obtained three-dimensional model data and texture data;
The remote control method comprising:
제 1 항에 있어서, 상기 시뮬레이션하는 단계는
상기 제어대상 단말을 통해 획득된 환경정보들을 이용하여 상기 제어대상 단말의 자세와 방위각을 측정하고 속도와 위치 및 조도를 추정하고 이를 가상의 제어대상 단말에 반영하여 시뮬레이션하는 것을 특징으로 하는 원격제어 방법.
2. The method of claim 1, wherein the step of simulating
A remote control method in which a posture and an azimuth of the control target terminal are measured using environmental information obtained through the control target terminal, and a speed, a position, and a roughness are estimated, .
제 1 항에 있어서, 상기 시뮬레이션하는 단계는
상기 제어대상 단말로부터 획득된 위치정보와 외부 서버로부터 획득된 단말 위치에서의 기상상태와 시간대 정보를 이용하여 야외 조도정보를 추정하고, 추정된 야외 조도정보와 상기 제어대상 단말로부터 감지된 조도 값을 비교하여 상기 제어대상 단말의 조도 상태를 추정하며 이를 가상의 제어대상 단말에 반영하여 시뮬레이션하는 것을 특징으로 하는 원격제어 방법.
2. The method of claim 1, wherein the step of simulating
Estimating the outdoor illuminance information using the position information obtained from the control target terminal, the weather state and the time zone information obtained from the external server, and comparing the estimated outdoor illuminance information and the illuminance value detected from the control target terminal And estimating an illuminance state of the control target terminal by comparing the received control target terminal with a virtual control target terminal, and simulating the illuminated control target terminal by reflecting the illuminated state.
원격제어 장치가 제어대상 단말과 원격으로 연결되는 단계;
연결된 제어대상 단말로부터 제어대상 단말의 단말상태를 포함한 환경정보를 획득하는 단계;
획득된 환경정보를 가지고 외부 서버로부터 부가 환경정보를 획득하는 단계;
획득된 환경정보 및 부가 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하는 단계; 및
동기화된 가상의 제어대상 단말을 화면에 출력하는 단계;
를 포함하는 것을 특징으로 하는 원격제어 방법.
The remote control device is remotely connected to the control target terminal;
Acquiring environment information including a terminal status of a control target terminal from a connected control target terminal;
Acquiring additional environment information from an external server with the acquired environment information;
Synchronizing the virtual control target terminal with the actual control target terminal by reflecting the obtained environment information and the additional environment information to the virtual control target terminal; And
Outputting a synchronized virtual control target terminal to a screen;
The remote control method comprising:
센서를 통해 자신의 단말상태를 포함한 환경정보를 획득하는 제어대상 단말; 및
상기 제어대상 단말과 원격으로 연결되어 상기 제어대상 단말의 환경정보를 수신하고 수신된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하며 동기화된 가상의 제어대상 단말을 화면에 출력하는 원격제어 장치; 를 포함하며,
상기 제어대상 단말은
상기 제어대상 단말의 환경정보를 감지하는 센서;
상기 센서를 통해 감지된 환경정보를 패킷 처리하는 단말 제어부; 및
상기 원격제어 장치와 연결되어 통신하되 상기 단말 제어부에서 패킷 처리된 환경정보를 상기 원격제어 장치에 전송하는 단말 통신부;
를 포함하는 것을 특징으로 하는 원격제어 시스템.
A control target terminal for acquiring environment information including a terminal status through a sensor; And
The virtual control target terminal is remotely connected to the control target terminal, receives the environment information of the control target terminal, reflects the received environment information to the virtual control target terminal, synchronizes the virtual control target terminal with the actual control target terminal, A remote control device for outputting a control target terminal to a screen; / RTI >
The control target terminal
A sensor for sensing environmental information of the control target terminal;
A terminal control unit for packetizing environmental information sensed by the sensor; And
A terminal communication unit for communicating with the remote control device and communicating environment information packet-processed by the terminal control unit to the remote control device;
The remote control system comprising:
삭제delete 제 8 항에 있어서, 상기 단말 제어부는
상기 센서를 통해 감지된 위치정보가 유효하면 위치정보를 상기 단말 통신부를 통해 상기 원격제어 장치에 전송하고, 유효하지 않으면 상기 제어대상 단말과 통신 가능한 네트워크 장치의 위치정보를 획득하여 상기 단말 통신부를 통해 상기 원격제어 장치에 전송하는 것을 특징으로 하는 원격제어 시스템.
9. The apparatus of claim 8, wherein the terminal control unit
If the location information sensed by the sensor is valid, transmits location information to the remote control device via the terminal communication unit, acquires location information of a network device capable of communicating with the control target terminal if the location information is not valid, To the remote control device.
제 8 항에 있어서, 상기 원격제어 장치는
상기 제어대상 단말과 연결되어 통신하되 상기 제어대상 단말로부터 환경정보를 수신하는 장치 통신부;
상기 장치 통신부를 통해 수신된 환경정보를 가상의 제어대상 단말에 반영하여 가상의 제어대상 단말을 실제의 제어대상 단말과 동기화하는 장치 제어부; 및
상기 장치 제어부를 통해 동기화된 가상의 제어대상 단말을 화면에 출력하는 장치 입출력부;
를 포함하는 것을 특징으로 하는 원격제어 시스템.
9. The remote control device according to claim 8,
A device communication unit connected to the control target terminal for communication and receiving environment information from the control target terminal;
A device control unit for reflecting environment information received through the device communication unit to a virtual control target terminal to synchronize a virtual control target terminal with an actual control target terminal; And
A device input / output unit for outputting a virtual control target terminal synchronized through the device control unit to a screen;
The remote control system comprising:
제 11 항에 있어서, 상기 장치 제어부는
상기 장치 통신부를 통해 수신된 제어대상 단말의 환경정보를 후 처리하여 보정하고 보정된 데이터를 상기 원격제어 장치에서 사용 가능한 데이터로 변환하는 데이터 처리부; 및
제어대상 단말을 가상객체 형태로 생성하고 생성된 가상객체를 대상으로 상기 데이터 처리부를 통해 데이터 처리된 제어대상 단말의 환경정보를 반영하여 시뮬레이션하고 시뮬레이션 결과를 렌더링하는 물리 엔진;
을 포함하는 것을 특징으로 하는 원격제어 시스템.
12. The apparatus of claim 11, wherein the device control unit
A data processing unit for post-processing and correcting the environment information of the control target terminal received through the device communication unit and converting the corrected data into data usable in the remote control device; And
A physical engine for generating a control target terminal in the form of a virtual object, simulating the environment information of the control target terminal data-processed through the data processing unit with respect to the generated virtual object, and rendering the simulation result;
The remote control system comprising:
제 12 항에 있어서, 상기 물리 엔진은
상기 제어대상 단말을 통해 획득된 환경정보들을 이용하여 상기 제어대상 단말의 자세와 방위각을 측정하고 속도와 위치 및 조도를 추정하고 이를 가상의 제어대상 단말에 반영하여 시뮬레이션하는 것을 특징으로 하는 원격제어 시스템.
13. The system of claim 12, wherein the physics engine
Wherein the remote control system performs simulation by measuring the attitude and azimuth of the control target terminal using the environment information obtained through the control target terminal, estimating the speed, the position and the illuminance, .
제 12 항에 있어서, 상기 물리 엔진은
상기 제어대상 단말로부터 획득된 위치정보와 외부 서버로부터 획득된 단말 위치에서의 기상상태와 시간대 정보를 이용하여 야외 조도정보를 추정하고, 추정된 야외 조도정보와 상기 제어대상 단말로부터 감지된 조도 값을 비교하여 상기 제어대상 단말의 조도 상태를 추정하며 이를 가상의 제어대상 단말에 반영하여 시뮬레이션하는 것을 특징으로 하는 원격제어 시스템.
13. The system of claim 12, wherein the physics engine
Estimating the outdoor illuminance information using the position information obtained from the control target terminal, the weather state and the time zone information obtained from the external server, and comparing the estimated outdoor illuminance information and the illuminance value detected from the control target terminal And estimates the illuminance state of the control target terminal and simulates the illumination control target terminal by reflecting it to the virtual control target terminal.
제 11 항에 있어서,
상기 장치 통신부는 획득된 환경정보를 가지고 외부 서버에 부가 환경정보를 요청하여 획득하고,
상기 장치 제어부는 상기 장치 통신부를 통해 획득된 부가 환경정보를 상기 가상의 제어대상 단말에 반영하여 동기화하는 것을 특징으로 하는 원격제어 시스템.
12. The method of claim 11,
The device communication unit requests and obtains the additional environment information from the external server with the acquired environment information,
Wherein the device control unit reflects the additional environment information acquired through the device communication unit to the virtual control target terminal and synchronizes them.
KR1020140066443A 2014-05-30 2014-05-30 Remote control method and system for synchronization KR101591057B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140066443A KR101591057B1 (en) 2014-05-30 2014-05-30 Remote control method and system for synchronization

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140066443A KR101591057B1 (en) 2014-05-30 2014-05-30 Remote control method and system for synchronization

Publications (2)

Publication Number Publication Date
KR20150137856A KR20150137856A (en) 2015-12-09
KR101591057B1 true KR101591057B1 (en) 2016-02-02

Family

ID=54873737

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140066443A KR101591057B1 (en) 2014-05-30 2014-05-30 Remote control method and system for synchronization

Country Status (1)

Country Link
KR (1) KR101591057B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102105000B1 (en) * 2018-11-15 2020-04-27 주식회사 엘지유플러스 Apparatus and method for virtual device service
KR102261614B1 (en) * 2020-01-31 2021-06-07 주식회사 에스비시스템즈 Method and apparatus for managing elecetronic device based on digital twin

Also Published As

Publication number Publication date
KR20150137856A (en) 2015-12-09

Similar Documents

Publication Publication Date Title
JP6171079B1 (en) Inconsistency detection system, mixed reality system, program, and inconsistency detection method
CN107330978B (en) Augmented reality modeling experience system and method based on position mapping
US20190041972A1 (en) Method for providing indoor virtual experience based on a panorama and a 3d building floor plan, a portable terminal using the same, and an operation method thereof
CA2926861C (en) Fiducial marker patterns, their automatic detection in images, and applications thereof
CN106227329B (en) Information processing unit, information processing method and system
US10200819B2 (en) Virtual reality and augmented reality functionality for mobile devices
EP3467790B1 (en) Information processing device, information processing method, and storage medium
EP3559789B1 (en) Magnetic interference detection and correction
US11210864B2 (en) Solution for generating virtual reality representation
KR20140136943A (en) Information processing apparatus, information processing system, and information processing method
WO2016202034A1 (en) Reality enhancement-based smart home interaction method, and device and system utilizing same
WO2018112695A1 (en) Image display method and mobile terminal
US20150186559A1 (en) X-ray vision for buildings
JP2018106661A (en) Inconsistency detection system, mixed reality system, program, and inconsistency detection method
CN101739199A (en) Mobile terminal and method for displaying images
US10147240B2 (en) Product image processing method, and apparatus and system thereof
WO2020024909A1 (en) Positioning and tracking method, terminal device, and computer readable storage medium
KR101591057B1 (en) Remote control method and system for synchronization
US11341716B1 (en) Augmented-reality system and method
US20150138199A1 (en) Image generating system and image generating program product
US10620717B2 (en) Position-determining input device
US20200410734A1 (en) Spatial reproduction method and spatial reproduction system
KR102268798B1 (en) System and method for providing augmented reality user interface
CN110244842B (en) VR model, VR scene processing method, VR training system, storage medium and electronic equipment
JP5669185B2 (en) Virtual space sharing system, portable terminal, and virtual space sharing method

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20190128

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20200106

Year of fee payment: 5