JP2021117852A - Information processing device, detection position correction method, and program - Google Patents
Information processing device, detection position correction method, and program Download PDFInfo
- Publication number
- JP2021117852A JP2021117852A JP2020012134A JP2020012134A JP2021117852A JP 2021117852 A JP2021117852 A JP 2021117852A JP 2020012134 A JP2020012134 A JP 2020012134A JP 2020012134 A JP2020012134 A JP 2020012134A JP 2021117852 A JP2021117852 A JP 2021117852A
- Authority
- JP
- Japan
- Prior art keywords
- correction
- detection position
- range
- rule
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
Abstract
Description
本発明は、情報処理装置、検出位置補正方法およびプログラムに関する。 The present invention relates to an information processing device, a detection position correction method and a program.
従来、作業者が存在する拠点および指示者が存在する拠点の間でネットワークを介して音声および映像を送受信することで、指示者が作業者側の映像を見ながら作業者に対して作業を指示するためのシステムが提案されている。 Conventionally, by transmitting and receiving audio and video via a network between a base where a worker exists and a base where an instructor exists, the instructor instructs the worker to work while watching the video on the worker side. A system for doing so has been proposed.
指示者から作業者への指示は、作業者側の端末が音声または表示を出力することにより行われ得る。また、特許文献1には、作業者側で操作されるべき操作位置をレーザポインタにより指示する装置が開示されている。
The instruction from the instructor to the worker can be given by the terminal on the worker side outputting voice or display. Further,
特許文献1に記載の装置は、広い範囲の中でレーザポインタにより操作位置を指示し得る。しかし、特許文献1に記載の装置では、ズーム機能の焦点距離の変化に応じて操作装置の変化量とレーザポインタの変化量との比が調整されるので、操作装置の変化量とレーザポインタの変化量との比の切り替わりが指示者にとって直感的でない。また、特許文献1に記載の装置では、指示される操作位置が投影面上に限定されるので、空間を示すことが困難である。さらに、特許文献1に記載の装置では、操作位置の指示が点でしか行われないので、作業者に伝わる情報量が限定的である。
The apparatus described in
また、広い範囲内で指示者が操作位置を指示できるように、指示者の動きに対して操作位置が加速度的に変化する規則を一律的に適用する技術も考えられる。しかし、指示者の動きに対して操作位置の変化量が大きいと、指示者は細かな操作を指示し難くなる。一方、指示者の動きの変化量と操作位置の変化量が一致する場合には、指示者は細かな操作を指示し易くなるが、操作位置を指示可能な範囲の広さが不足し得る。 Further, a technique of uniformly applying a rule in which the operation position changes at an accelerating rate with respect to the movement of the instructor can be considered so that the instructor can instruct the operation position within a wide range. However, if the amount of change in the operation position is large with respect to the movement of the instructor, it becomes difficult for the instructor to instruct a detailed operation. On the other hand, when the amount of change in the movement of the instructor and the amount of change in the operation position match, the instructor can easily instruct a detailed operation, but the range in which the operation position can be instructed may be insufficient.
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、指示可能な範囲の広さの観点および位置の指示し易さの観点の双方で優れた、新規かつ改良された情報処理装置、検出位置補正方法およびプログラムを提供することにある。 Therefore, the present invention has been made in view of the above problems, and an object of the present invention is excellent in both the viewpoint of the wide range of instruction and the ease of instructing the position. It is an object of the present invention to provide a new and improved information processing apparatus, a detection position correction method and a program.
上記課題を解決するために、本発明のある観点によれば、第1のユーザが行うジェスチャに関する検出位置を補正して補正位置を特定する位置補正部と、前記第1のユーザから離れた遠隔地に存在する第2のユーザが利用する端末に、前記補正位置の特定に基づき得られる情報を送信する通信部と、を備え、前記位置補正部は、1の座標軸において前記検出位置が第1の範囲から第2の範囲内に移動した場合、複数の規則からいずれかの規則を選択し、選択された規則に従って前記検出位置を補正して前記補正位置を特定する、情報処理装置が提供される。 In order to solve the above problems, according to a certain viewpoint of the present invention, a position correction unit that corrects a detection position related to a gesture performed by a first user and specifies a correction position, and a remote distance from the first user. A terminal used by a second user existing on the ground is provided with a communication unit that transmits information obtained based on the identification of the correction position, and the position correction unit has the detection position first on one coordinate axis. An information processing apparatus is provided that, when moving from the range of to the second range, selects one of a plurality of rules, corrects the detection position according to the selected rule, and specifies the corrected position. NS.
前記複数の規則の各々では、前記検出位置の変化量に対する前記補正位置の変化量が異なってもよい。 In each of the plurality of rules, the amount of change in the correction position with respect to the amount of change in the detection position may be different.
前記位置補正部は、前記検出位置が前記第2の範囲内に移動した際の前記検出位置の移動速度に基づいて前記規則を選択してもよい。 The position correction unit may select the rule based on the moving speed of the detection position when the detection position moves within the second range.
前記位置補正部は、前記移動速度が速いほど、前記検出位置の変化量に対する前記補正位置の変化量が大きくなる規則を選択してもよい。 The position correction unit may select a rule in which the faster the moving speed, the larger the amount of change in the correction position with respect to the amount of change in the detection position.
前記検出位置が前記第1の範囲内から第2の範囲内に移動する前においては、前記通信部は、前記検出位置に基づく情報を前記第2のユーザが利用する前記端末に送信してもよい。 Before the detection position moves from the first range to the second range, the communication unit may transmit information based on the detection position to the terminal used by the second user. good.
前記第1の範囲は、第3の範囲と、前記第3の範囲および前記第2の範囲の間に位置する第4の範囲を含み、前記通信部は、前記第2の範囲から前記第3の範囲に向かって前記検出位置が移動する場合には、前記検出位置が前記第4の範囲を超えるまで前記補正位置の特定に基づく情報を送信してもよい。 The first range includes a third range and a fourth range located between the third range and the second range, and the communication unit has the second range to the third range. When the detection position moves toward the range of, information based on the identification of the correction position may be transmitted until the detection position exceeds the fourth range.
前記通信部は、前記検出位置が前記第4の範囲を超えて前記第3の範囲内となった後には、前記検出位置に基づく情報を前記第2のユーザが利用する前記端末に送信してもよい。 After the detection position exceeds the fourth range and falls within the third range, the communication unit transmits information based on the detection position to the terminal used by the second user. May be good.
前記位置補正部は、前記第1のユーザがいずれの人物であるか、または前記第1のユーザが有する属性に基づいて前記規則を選択してもよい。 The position correction unit may select the rule based on which person the first user is or the attributes of the first user.
前記位置補正部は、前記ジェスチャにおける前記第1のユーザの手の状態に基づいて前記規則を選択してもよい。 The position corrector may select the rule based on the state of the first user's hand in the gesture.
前記位置補正部は、前記第1のユーザが前記ジェスチャとは別に行った操作に基づいて前記規則を選択してもよい。 The position correction unit may select the rule based on an operation performed by the first user separately from the gesture.
前記位置補正部は、前記第2のユーザが行う作業に基づいて前記規則を選択してもよい。 The position correction unit may select the rule based on the work performed by the second user.
前記複数の規則は、前記検出位置を前記補正位置とする規則を含んでもよい。 The plurality of rules may include a rule in which the detection position is the correction position.
前記通信部は、前記第2のユーザが利用する端末から、前記遠隔地における壁面の位置に関する測定情報を受信し、前記位置補正部は、前記測定情報に基づき、前記検出位置を前記壁面の位置に対応する補正位置に補正し得る1または2以上の規則から前記規則を選択してもよい。 The communication unit receives measurement information regarding the position of the wall surface in the remote location from the terminal used by the second user, and the position correction unit sets the detection position to the position of the wall surface based on the measurement information. The rule may be selected from one or more rules that can be corrected to the correction position corresponding to.
前記位置補正部は、前記1または2以上の規則から、前記検出位置の変化量に対する前記補正位置の変化量が最小となる規則を優先的に選択してもよい。 The position correction unit may preferentially select a rule that minimizes the amount of change in the correction position with respect to the amount of change in the detection position from the one or more rules.
また、上記課題を解決するために、本発明の別の観点によれば、第1のユーザが行うジェスチャに関する検出位置を補正して補正位置を特定することと、前記補正位置の特定に基づく情報を、前記第1のユーザから離れた遠隔地に存在する第2のユーザが利用する端末に送信することと、を含み、前記検出位置を補正することは、複数の規則からいずれかの規則を選択することと、1の座標軸において前記検出位置が第1の範囲から第2の範囲内に移動した場合、選択された規則に従って前記検出位置を補正して前記補正位置を特定することと、を含む、検出位置補正方法が提供される。 Further, in order to solve the above problem, according to another viewpoint of the present invention, the correction position is specified by correcting the detection position related to the gesture performed by the first user, and the information based on the specification of the correction position is specified. Is transmitted to a terminal used by a second user located in a remote location away from the first user, and the correction of the detection position includes any rule from a plurality of rules. Selection and, when the detection position moves from the first range to the second range on one coordinate axis, the detection position is corrected according to the selected rule to specify the correction position. Included, detection position correction methods are provided.
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、第1のユーザが行うジェスチャに関する検出位置を補正して補正位置を特定する位置補正部と、前記補正位置の特定に基づく情報を、前記第1のユーザから離れた遠隔地に存在する第2のユーザが利用する端末に送信する通信部と、を備え、前記位置補正部は、1の座標軸において前記検出位置が第1の範囲から第2の範囲内に移動した場合、複数の規則からいずれかの規則を選択し、選択された規則に従って前記検出位置を補正して前記補正位置を特定する、情報処理装置として機能させるための、プログラムが提供される。 Further, in order to solve the above problems, according to another viewpoint of the present invention, the computer is provided with a position correction unit that corrects the detection position related to the gesture performed by the first user and specifies the correction position, and the correction position. The position correction unit includes a communication unit that transmits information based on the identification to a terminal used by a second user located in a remote location away from the first user, and the position correction unit detects the detection on one coordinate axis. Information processing that when the position moves from the first range to the second range, one of a plurality of rules is selected, the detected position is corrected according to the selected rule, and the corrected position is specified. A program is provided to function as a device.
以上説明したように、本発明は、指示可能な範囲の広さの観点および位置の指示し易さの観点の双方で優れる。 As described above, the present invention is excellent in terms of both the width of the instructable range and the ease of instructing the position.
以下に添付図面を参照しながら、本発明の実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。 Embodiments of the present invention will be described in detail below with reference to the accompanying drawings. In the present specification and the drawings, components having substantially the same functional configuration are designated by the same reference numerals, so that duplicate description will be omitted.
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、複数の構成要素の各々に同一符号のみを付する。 Further, in the present specification and the drawings, a plurality of components having substantially the same functional configuration may be distinguished by adding different alphabets after the same reference numerals. However, when it is not necessary to particularly distinguish each of the plurality of components having substantially the same functional configuration, only the same reference numerals are given to each of the plurality of components.
<1.遠隔作業支援システムの概要>
本発明の一実施形態は、作業者から離れた遠隔地に存在する指示者が作業者に作業を指示するための遠隔作業支援システムに関する。まず、図1を参照して、本発明の一実施形態による遠隔作業支援システムの全体構成について説明する。
<1. Overview of remote work support system>
One embodiment of the present invention relates to a remote work support system for an instructor who exists in a remote place away from the worker to instruct the worker to work. First, with reference to FIG. 1, the overall configuration of the remote work support system according to the embodiment of the present invention will be described.
図1は、本発明の一実施形態による遠隔作業支援システムの全体構成の一例を示す図である。図1には、第1のユーザとして指示者U1を示し、指示者U1から離れた遠隔地に存在する第2のユーザとして作業者U2を示している。本発明の一実施形態による遠隔作業支援システムは、例えば遠隔地で何らかの作業を行っている作業者U2に対して、作業者U2の視界方向を撮像した映像(作業者U2の作業対象を含む画角の映像)を見ながら、リアルタイムで指示者U1が作業者U2に対して作業等に関する指示を行う場合に適用され得る。なお、ここでは「遠隔地」と表現したが、指示者U1と作業者U2が遠く離れた場所に存在する場合に限られず、指示者U1と作業者U2は同じ建物の別フロアに存在してもよいし、指示者U1と作業者U2は同一フロアの別部屋に存在してもよい。 FIG. 1 is a diagram showing an example of an overall configuration of a remote work support system according to an embodiment of the present invention. In FIG. 1, the instructor U1 is shown as the first user, and the worker U2 is shown as the second user existing in a remote place away from the instructor U1. The remote work support system according to the embodiment of the present invention is, for example, an image of the field of view of the worker U2 with respect to the worker U2 who is performing some work in a remote place (an image including the work target of the worker U2). It can be applied when the instructor U1 gives an instruction regarding work or the like to the worker U2 in real time while watching the image of the corner). In addition, although it is expressed as "remote place" here, it is not limited to the case where the instructor U1 and the worker U2 exist in a distant place, and the instructor U1 and the worker U2 exist on different floors of the same building. Alternatively, the instructor U1 and the worker U2 may exist in different rooms on the same floor.
図1に示したように、本発明の一実施形態による遠隔作業支援システムは、指示者端末20と、センサ部26と、マイク27と、表示装置28と、作業者端末30と、撮像装置36と、ARグラス38と、測距部39と、を有する。
As shown in FIG. 1, the remote work support system according to the embodiment of the present invention includes an
指示者端末20と作業者端末30とはネットワークを介して接続されている。ネットワーク12は、ネットワーク12に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク12は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク12は、IP−VPN(Internet Protocol−Virtual Private Network)などの専用回線網を含んでもよい。
The
(指示者U1側の構成)
センサ部26は、指示者U1のジェスチャ、および当該ジェスチャに関する位置を検出する。ジェスチャとしては、手の位置、手の方向、指の曲げ伸ばし状態に伴う手の形状などが挙げられる。例えば、指示者U1が図1に示したように指差しジェスチャを行った場合、センサ部26は、指差しジェスチャを検出し、指示者U1の手首の位置を検出する。以下では、センサ部26により検出される位置を検出位置と称する場合もある。なお、センサ部26は、赤外線センサ、カメラおよび画像処理機能などを有してもよい。
(Structure on the instructor U1 side)
The
マイク27は、指示者U1が発した音声を収音する。表示装置28は、指示者端末20により生成された画像を表示する。
The microphone 27 collects the sound emitted by the instructor U1. The
指示者端末20は、指示者U1側で利用される情報処理装置の一例である。指示者端末20には、センサ部26、マイク27および表示装置28が接続される。また、指示者端末20は、ネットワーク12を介して接続されている作業者端末30から、作業者U2の視界方向を撮像して得られた撮像画像を受信する。
The
指示者端末20は、作業者端末30から受信される撮像画像に、ジェスチャに関する指示が重畳された重畳画像を生成し、当該重畳画像を表示装置28に表示させる。指示者端末20は、ジェスチャに関する指示として、センサ部26により検出されたジェスチャに応じたジェスチャ画像をCG(Computer Graphics)で生成し、撮像画像における当該ジェスチャの検出位置に応じた位置にジェスチャ画像を重畳する。図1に示した例では、指差しジェスチャを示すジェスチャ画像60が重畳された重畳画像が表示装置28に表示されている。なお、ジェスチャ画像60の奥行方向上の位置は、互いに視差を有する左目用画像および右目用画像の生成、または、ジェスチャ画像60の大きさにより表現されてもよい。
The
また、指示者端末20は、上記ジェスチャ画像、および当該ジェスチャ画像が重畳されるべき位置を示す座標情報を作業者端末30に送信する。また、指示者端末20は、マイク27から入力される指示者U1の音声を作業者端末30に送信する。
Further, the
(作業者U2側の構成)
作業者端末30は、作業者U2側で利用される端末の一例である。作業者端末30は、指示者端末20からジェスチャ画像、および当該ジェスチャ画像が重畳されるべき位置を示す座標情報などを受信する。また、作業者端末30は、後述する撮像装置36により得られた撮像画像を指示者端末20に送信する。
(Configuration on the worker U2 side)
The
撮像装置36は、例えば図1に示すように作業者U2の頭部などに装着されたウェアラブルデバイスである。このため、撮像装置36は、作業者U2の視界方向を撮像する。撮像装置36により得られた撮像画像は、作業者端末30から指示者端末20に送信される。なお、図1においては、作業者U2の作業対象として、オブジェクトObj1〜Obj3を図示している。作業内容や作業対象は特に限定しないが、例えば、工場における機械の操作や部品の組み立て、画面操作など、様々な場合が想定される。
The
ARグラス38は、作業者U2に装着されるウェアラブルディスプレイである。ARグラス38は、透光性を有し、作業者端末30により受信されたジェスチャ画像を、作業者端末30により受信された座標情報が示す位置に表示する。また、ARグラス38は、音声出力機能も有し、作業者端末30により受信された指示者U1の音声を出力する。
The
測距部39は、対象物までの距離を測定する。例えば、測距部39は、作業者U2に対向する壁面Wまでの距離を測定する。測距部39により得られた測定情報は、作業者端末30から指示者端末20に送信される。
The
(動作概要)
このような遠隔作業支援システムにおいては、作業者U2から見ると、自身の視界上にジェスチャ画像60がAR(Augmented Reality)表示されている状態となる。また、指示者U1は、自身のジェスチャに対応するジェスチャ画像60が重畳された重畳画像を見ながらジェスチャを行うことが可能である。従って、指示者U1は、多様なジェスチャを介してより直感的かつ適切に作業者U2に指示を伝えることが可能となる。
(Outline of operation)
In such a remote work support system, the
なお、上記ではARグラス38が透過型のウェアラブルディスプレイである例を説明したが、ARグラス38は非透過型のウェアラブルディスプレイであってもよい。この場合、指示者端末20は撮像画像にジェスチャ画像が重畳された重畳画像を作業者端末30に送信し、ARグラス38は当該重畳画像を表示してもよい。また、上記ではウェアラブルディスプレイであるARグラス38が用いられる例を説明したが、ARグラス38に代えて、作業者U2の周囲に設置された大型のディスプレイ、作業台の天板に設置されるディスプレイ、およびプロジェクタなどが用いられてもよい。
Although the example in which the
また、上記では指示者端末20および作業者端末30がデスクトップ型のPC(Personal Computer)である例を説明したが、指示者端末20または作業者端末30は、ラップトップ型のPCであってもよいし、タブレット端末であってもよい。また、指示者端末20または作業者端末30の機能は、他の装置に一体的に組み込まれていてもよい。例えば、指示者端末20の機能は表示装置28に組み込まれていてもよいし、作業者端末30の機能はARグラス38に組み込まれていてもよい。
Further, although the example in which the
(背景)
指示者U1によるジェスチャの検出位置の変化量と、作業者U2側の空間内でジェスチャ画像が重畳される位置の変化量とが等しい場合、作業者U2側の空間内でジェスチャ画像が重畳され得る範囲は、指示者U1がジェスチャを行い得る範囲内に制限される。しかし、実際には指示者U1は自分のジェスチャが届かない位置を作業者U2に指示することを望み得る。
(background)
When the amount of change in the position where the gesture is detected by the instructor U1 is equal to the amount of change in the position where the gesture image is superimposed in the space on the worker U2 side, the gesture image can be superimposed in the space on the worker U2 side. The range is limited to the range in which the instructor U1 can make a gesture. However, in reality, the instructor U1 may wish to instruct the worker U2 at a position where his gesture does not reach.
このため、広い範囲内で指示者U1が位置を指示できるように、ジェスチャの検出位置に対してジェスチャ画像の重畳位置が加速度的に変化する規則を一律的に適用する技術も考えられる。しかし、検出位置に対してジェスチャ画像の重畳位置の変化量が大きいと、指示者U1は細かな操作を指示し難くなる。この時、指示者U1から見てある境界面より奥側での検出位置の変化にのみジェスチャ画像の重畳位置が加速度的に変化する規則を適用する方法も考えられるが、この方法では、誤差などの影響により検出位置が境界面を行き来してしまう場合に重畳位置の変化速度がバタついてしまう。 Therefore, a technique is also conceivable in which a rule in which the superimposed position of the gesture image changes at an accelerating rate with respect to the gesture detection position is uniformly applied so that the instructor U1 can instruct the position within a wide range. However, if the amount of change in the superimposed position of the gesture image is large with respect to the detection position, it becomes difficult for the instructor U1 to instruct a detailed operation. At this time, it is conceivable to apply a rule that the superposition position of the gesture image changes at an accelerating rate only to the change of the detection position on the back side of the boundary surface seen from the instructor U1, but in this method, an error or the like is considered. When the detection position moves back and forth between the boundary surfaces due to the influence of, the change speed of the superimposition position fluctuates.
本件発明者は、上記事情を一着眼点にして本発明の一実施形態を創作するに至った。本発明の一実施形態は、指示可能な範囲の広さの観点および位置の指示し易さの観点の双方で優れる。以下、このような本発明の一実施形態による指示者端末20の構成および動作を順次詳細に説明する。
The inventor of the present invention has come to create an embodiment of the present invention with the above circumstances as the first point of view. One embodiment of the present invention is excellent in terms of both the breadth of the instructable range and the ease of instructing the position. Hereinafter, the configuration and operation of the
<2.指示者端末20の構成>
図2は、指示者端末20の構成を示す説明図である。図2に示したように、指示者端末20は、通信部220、記憶部230および制御部240を有する。
<2. Configuration of
FIG. 2 is an explanatory diagram showing the configuration of the
(通信部)
通信部220は、他の装置から情報を受信する受信部、および他の装置に情報を送信する送信部として機能する。例えば、通信部220は、作業者端末30から作業者U2側の撮像画像を受信する。また、通信部220は、ジェスチャ画像、および、検出位置に基づく情報の一例である検出位置の座標情報、または後述する補正位置の特定に基づき得られる情報の一例である補正位置の座標情報を送信する。作業者端末30にジェスチャ画像および座標情報を送信する。また、通信部220には、センサ部26からジェスチャの検出情報が入力され、マイク27から指示者U1の音声が入力される。また、通信部220は、後述する重畳画像生成部246により生成される重畳画像を表示装置28に出力する。
(Communication Department)
The
(記憶部)
記憶部230は、指示者端末20の動作に用いられる多様な情報を記憶する。例えば、記憶部230は、位置補正部242がジェスチャの検出位置を補正するための複数の規則を記憶する。複数の規則の各々では、検出位置の変化量に対する前記補正位置の変化量が異なる。複数の規則については、図6を参照してより詳細に説明する。
(Memory)
The
(制御部)
制御部240は、指示者端末20の動作全般を制御する。特に、本発明の一実施形態による制御部240は、図2に示したように、位置補正部242、ジェスチャ画像生成部244および重畳画像生成部246の機能を有する。
(Control unit)
The
位置補正部242は、指示者U1が行うジェスチャに関する検出位置を補正して補正位置を特定する。例えば、位置補正部242は、1の座標軸において検出位置が第1の範囲から第2の範囲内に移動した場合、複数の規則からいずれかの規則を選択し、選択された規則に従って検出位置を補正して補正位置を特定する。第1の範囲は、指示者U1から見て第2の範囲よりも手前側に位置する。また、複数の規則の各々では、検出位置の変化量に対する補正位置の変化量が異なる。複数の規則は、検出位置の変化に対して補正位置がN次関数または指数関数的に変化する規則を含んでもよい。以下、図3〜図7を参照し、このような位置補正部242の機能をより具体的に説明する。
The
図3は、指示者U1を含む領域の平面図である。図3には、センサ座標系および計算用座標系を示している。センサ座標系は、図3に示した例では、指示者U1から見た表示装置28の幅方向であるX軸、指示者U1から見た奥行方向であるY軸、および高さ方向であるZ軸を有する。ここでは、指示者U1から見たX軸上の右側の方向をX軸正方向とし、指示者U1から見たY軸上の奥側の方向をY軸正方向とし、Z軸上の上側の方向をZ軸正方向とする。センサ部26により得られる検出位置Gはこのようなセンサ座標系で示される。例えば、ジェスチャの検出位置として得られる指示者U1の手首のY軸方向上での検出位置は、図3に示したように(G.t.Y)と表現される。
FIG. 3 is a plan view of a region including the instructor U1. FIG. 3 shows a sensor coordinate system and a calculation coordinate system. In the example shown in FIG. 3, the sensor coordinate system has an X-axis in the width direction of the
計算用座標系は、図3に示した例では、指示者U1から見た奥行方向であるy軸を有する。計算用座標系におけるy軸の原点(0位置)は、センサ座標系のY軸におけるY0に等しい。指示者U1の手首のy軸上での検出位置yは、「(G.t.Y)−Y0」で示される座標変換により特定される。 In the example shown in FIG. 3, the calculation coordinate system has a y-axis which is the depth direction seen from the instructor U1. The origin (0 position) of the y-axis in the calculation coordinate system is equal to Y0 in the Y-axis of the sensor coordinate system. The detection position y on the y-axis of the wrist of the instructor U1 is specified by the coordinate transformation indicated by "(GtY) -Y0".
−ヒステリシス
また、図3には、yが定数y+となる線、およびyが定数y−となる線を示している。yが定数y+未満である範囲は第1の範囲の一例であり、yが定数y+以上である範囲は第2の範囲の一例である。また、第1の範囲は、yが定数y未満である第3の範囲、およびyが定数y−以上であり定数y+未満である第4の範囲を含む。位置補正部242は、指示者U1の手首の検出位置yと、これら定数y−、定数y+、および0との関係に基づき、検出位置yを補正して補正位置y’を特定する。
-Hysteresis Further, FIG. 3 shows a line in which y is a constant y + and a line in which y is a constant y−. The range in which y is less than the constant y + is an example of the first range, and the range in which y is greater than or equal to the constant y + is an example of the second range. The first range includes a third range in which y is less than the constant y, and a fourth range in which y is greater than or equal to the constant y− and less than the constant y +. The
図4は、検出位置yが負側から正側に向かう場合における位置補正の具体例を示す説明図である。図4において、横軸が検出位置yを示し、縦軸が補正後の補正位置y’を示す。また、線L0は検出位置y=補正位置y’となる直線であり、線LnはN次関数に従う曲線である。なお、図4において、縦軸の縮尺と横軸の縮尺は異なる。 FIG. 4 is an explanatory diagram showing a specific example of position correction when the detection position y goes from the negative side to the positive side. In FIG. 4, the horizontal axis indicates the detection position y, and the vertical axis indicates the correction position y'after correction. Further, the line L0 is a straight line where the detection position y = the correction position y', and the line Ln is a curve according to the Nth order function. In FIG. 4, the scale on the vertical axis and the scale on the horizontal axis are different.
図4に示したように、検出位置yが定数y+未満である間は、線L0に沿って検出位置y=補正位置y’となる。この場合、位置補正部242は検出位置yを補正していないとも言えるが、本明細書においては、説明の便宜上、検出位置y=補正位置y’となる場合でも位置補正部242が検出位置yを補正したものとして扱う。一方、位置補正部242は、検出位置yが定数y+以上となった後は線Lnに沿って検出位置yに対応する補正位置y’を特定する。すなわち、検出位置yが負側から正側に向かう場合には、定数y+において位置補正に用いられる線が切り替えられる。
As shown in FIG. 4, while the detection position y is less than the constant y +, the detection position y = the correction position y'along the line L0. In this case, it can be said that the
図5は、検出位置yが正側から負側に向かう場合における位置補正の具体例を示す説明図である。図5に示したように、位置補正部242は、検出位置yが定数y−以上である間は線Lnに沿って検出位置yに対応する補正位置y’を特定する。一方、検出位置yが定数y−未満となった後は、線L0に沿って検出位置y=補正位置y’となる。すなわち、検出位置yが正側から負側に向かう場合には、定数y−において位置補正に用いられる線が切り替えられる。
FIG. 5 is an explanatory diagram showing a specific example of position correction when the detection position y goes from the positive side to the negative side. As shown in FIG. 5, the
このように、位置補正部242により位置補正はヒステリシスに行われる。具体的には、検出位置yが負側から正側に向かう場合と、検出位置yが正側から負側に向かう場合とで、位置補正に用いる線が切り替えられる境界が異なる。従って、検出位置yが誤差などの影響により定数y−または定数y+を行き来してしまう場合に、位置補正に用いられる線が都度切り替えられることが防止され、結果、補正位置y’の変化速度のバタつきを抑制することができる。
In this way, the
−規則の選択
位置補正部242は、複数の規則からいずれかの規則を選択し、選択された規則に従って検出位置を補正する。上述した線Lnは、選択された規則に従って描かれる線の一例である。例えば、線Lnは以下の数式で表現され、各規則は、以下の数式1におけるUIおよびU2を決定するためのT1およびT2を規定する。
y’=(y+1)U1/U2−(U1/U2) (数式1)
-Rule selection The
y'= (y + 1) U1 / U2- (U1 / U2) (Formula 1)
図6は、記憶部230に記憶される複数の規則の具体例を示す説明図である。図6には、規則1〜規則5の5つの規則を示している。速度条件Cvbは、位置補正部242が規則を選択する際に参照される。T1およびT2は定数である。位置補正部242は、選択した規則のT1を上記数式のU1に代入し、T2をU2に代入する。各規則に従って描かれる線Lnは図7に示す通りである。T1およびT2は、検出位置y=0における補正位置y’の傾きが1となるように用意されてもよい。なお、規則1は、検出位置yを補正位置y’とするものである。
FIG. 6 is an explanatory diagram showing a specific example of a plurality of rules stored in the
図7は、各規則に従って描かれる線Lnの具体例を示す説明図である。図7において、線L1は規則1に従って描かれる線であり、線L2は規則2に従って描かれる線であり、線L3は規則3に従って描かれる線であり、線L4は規則4に従って描かれる線であり、線L5は規則5に従って描かれる線である。
FIG. 7 is an explanatory diagram showing a specific example of the line Ln drawn according to each rule. In FIG. 7, line L1 is a line drawn according to
位置補正部242は、このような複数の規則から、検出位置yが定数y+以上となる範囲内に移動した場合、検出位置yが当該範囲に移動した際の検出位置yの移動速度に基づいて規則を選択してもよい。例えば、位置補正部242は、検出位置yが0から定数y+まで移動する間の移動速度が速いほど、検出位置yの変化量に対する補正位置y’の変化量が大きくなる規則を選択してもよい。具体的には、位置補正部242は、図6に示した各規則の速度条件Cvbを参照し、移動速度が0.4未満である場合には規則1を選択し、移動速度が0.4以上かつ0.6未満である場合には規則2を選択し、移動速度が1.0以上である場合には規則5を選択してもよい。
From such a plurality of rules, when the
指示者U1が指示したい位置が遠いほど、y軸上での指示者U1のジェスチャの動きが速くなる傾向が表れ得る。上記の移動速度に基づく規則の選択は、当該傾向に沿ったものであるので、指示者U1にとって自然かつ直感的である。 The farther the position that the instructor U1 wants to instruct is, the faster the gesture of the instructor U1 on the y-axis tends to move. The selection of the rule based on the movement speed described above is in line with the tendency, and is therefore natural and intuitive for the instructor U1.
−センサ座標系での補正
位置補正部242は、上述した方法により検出位置yを補正して補正位置y’を特定すると、補正位置y’に基づき、センサ座標系でのジェスチャの検出位置Gを補正する。例えば、位置補正部242は、センサ座標系でのジェスチャの検出位置GのY座標値に、補正位置y’と検出位置yとの差分(オフセット)を加えることで、センサ座標系での補正位置G’を特定することができる。
-Correction in the sensor coordinate system When the
−ジェスチャ画像の生成
図2に示したジェスチャ画像生成部244は、センサ部26により検出されたデータに基づいて、指示者U1のジェスチャ(手および指の動き)を表現するジェスチャ画像を、例えばCG等により生成する。例えば、ジェスチャ画像生成部244は、センサ部26により検出された、指示者U1の手や指、また、指の関節などの三次元位置座標や、その変化のデータに基づいて、手や指の形や動きを表現する3D画像または2D画像を、ジェスチャ画像として生成する。
-Gesture image generation The gesture
−重畳画像の生成
重畳画像生成部246は、ジェスチャ画像生成部244により生成されたジェスチャ画像を、撮像装置36で撮像された作業者U2側の撮像画像に重畳する処理を行う。この時、重畳画像生成部246は、位置補正部242により特定されたセンサ座標系での補正位置G’に従ってジェスチャ画像を撮像画像に重畳する。
-Generation of superimposed image The superimposed
<3.指示者端末20の動作>
以上、指示者端末20の構成を説明した。続いて、図8および図9を参照し、指示者端末20の動作を整理する。
<3. Operation of
The configuration of the
(動作概要)
図8は、指示者端末20の動作概要を示すフローチャートである。まず、通信部220が作業者端末30から作業者U2側の撮像画像を受信すると(S410)、制御部240は当該撮像画像を表示装置28に表示させる(S420)。そして、指示者端末20がジェスチャの検出位置Gをセンサ部26から取得すると(S430)、位置補正部242がジェスチャの検出位置Gを必要に応じて補正して補正位置G’を特定する(S440)。
(Outline of operation)
FIG. 8 is a flowchart showing an outline of the operation of the
さらに、ジェスチャ画像生成部244がセンサ部26により検出されたデータに基づいてジェスチャ画像を生成する(S450)。その後、重畳画像生成部246は、ジェスチャ画像生成部244により生成されたジェスチャ画像を、撮像装置36で撮像された作業者U2側の撮像画像に重畳する(S460)。この時、重畳画像生成部246は、位置補正部242により特定されたセンサ座標系での補正位置G’に従ってジェスチャ画像を撮像画像に重畳する。
Further, the gesture
そして、通信部220は、ジェスチャ画像生成部244により生成されたジェスチャ画像、およびジェスチャ画像の重畳位置を示す座標情報として補正位置G’を示す座標情報を作業者端末30に送信する(S470)。なお、図4および図5を参照して説明した線L0に従って検出位置y=補正位置y’とされた場合には、通信部220が補正位置G’を示す座標情報を送信することは、検出位置Gを示す座標情報(検出位置Gに基づく座標情報)を送信することに等しい。
Then, the
指示者端末20は、実際にはS410〜S470の処理を繰り返す。これにより、指示者U1がリアルタイムで作業者U2に指示を伝えることが可能である。
The
(検出位置の補正)
続いて、図8に示したS440の処理である検出位置Gの補正をより詳細に整理する。まず、指示者端末20は、一連の処理の開始に先立ち、各変数の初期化、およびセンサ部26への接続およびセンサ部26の初期化を行う。各変数の初期化として、指示者端末20は、各変数を以下のように設定する。その上で、位置補正部242は、図9に示す検出位置Gの補正を実行する。
zb=0
U1=1
U2=2
tb=現在時刻
CTX_NEAR=1
(Correction of detection position)
Subsequently, the correction of the detection position G, which is the process of S440 shown in FIG. 8, will be arranged in more detail. First, the
zb = 0
U1 = 1
U2 = 2
tb = current time CTX_NEAR = 1
図9は、検出位置Gの補正方法を示すフローチャートである。位置補正部242は、まず、図9に示したようにGをセンサ座標系でのジェスチャ(指示者U1の手首)の検出位置として、tを現在時刻とする(S504)。そして、位置補正部242は、センサ座標系のY軸方向上での検出位置である(G.t.Y)に対して、「(G.t.Y)−Y0」で示される座標変換を行うことにより、計算用座標系での検出位置yを特定する(S508)。
FIG. 9 is a flowchart showing a correction method of the detection position G. First, as shown in FIG. 9, the
そして、位置補正部242は、検出位置yを定数y+および定数y−と比較する(S512)。「定数y−<検出位置y<定数y+」が満たされる場合、処理はS536に進められる。「検出位置y≦定数y−」が満たされる場合、位置補正部242はCTX_NEARを「1」に設定する(S516)。
Then, the
一方、「検出位置y≧定数y+」が満たさる場合、位置補正部242は、CTX_NEARが「1」であるか否かを判断する(S520)。CTX_NEARが「0」である場合(S520/No)、処理はS536に進められる。CTX_NEARが「0」である場合(S520/Yes)、位置補正部242は、CTX_NEARを「0」に設定し、検出位置yが定数y+以上となった際の検出位置yの移動速度vbを算出する(S524)。具体的には、位置補正部242は、以下の数式2の演算により移動速度vbを算出してもよい。なお、ybおよびtbはS540で設定される値である。ybは検出位置yが0を上回る直前の検出位置yの値であり、tbは検出位置yが0を上回る直前の時刻である。
移動速度vb=(y−yb)/(t−tb) (数式2)
On the other hand, when "detection position y ≥ constant y +" is satisfied, the
Movement speed vb = (y-yb) / (t-tb) (Formula 2)
さらに、位置補正部242は、図6を参照して説明した複数の規則から、移動速度vbが速度条件Cvbに合致する規則Mを選択する(S528)。そして、位置補正部242は、規則Mが規定するT1(M)をU1に代入し、規則Mが規定するT2(M)をU2に代入する(S532)。
Further, the
S536において、位置補正部242は、検出位置yが0を上回るか否かを判断する(S536)。検出位置yが0未満である場合(S536/Yes)、位置補正部242は、tbおよびybに、現在時刻tおよび検出位置yをそれぞれ設定する(S540)。続いて、位置補正部242は、補正位置y’を検出位置yとする(S544)。
In S536, the
検出位置yが0以上である場合(S536/No)、位置補正部242は、CTX_NEARが「1」であるか否かを判断する(S548)。CTX_NEARが「1」である場合(S548/Yes)、処理はS544に進められ、検出位置yが補正位置y’とされる。
When the detection position y is 0 or more (S536 / No), the
一方、CTX_NEARが「0」である場合(S548/No)、位置補正部242は、上述した数式1に従って補正位置y’を特定する(S552)。分母の項をU1乗することで、補正位置y’を遠近の広い範囲内の値とすることができる。
On the other hand, when CTX_NEAR is "0" (S548 / No), the
さらに、位置補正部242は、センサ座標系での検出位置Gに、(補正位置y’−検出位置y)で得られるオフセットを加えることにより、補正位置G’を特定する(S556)。
Further, the
<4.作用効果>
以上説明したように、本発明の一実施形態によれば、検出位置yの変化量に対する補正位置y’の変化量が異なる複数の規則から選択された規則に従って検出位置yの補正が行われる。ここで、位置補正部242は、例えば検出位置yの移動速度に応じて、指示者U1がより遠くの指示を望んでいると考えられる場合には検出位置yの変化量に対する補正位置y’の変化量がより大きくなる規則を選択し、指示者U1が指示可能な範囲の広さを確保する。一方、位置補正部242は、指示者U1が近くの指示を望んでいると考えられる場合には検出位置yを補正位置y’として扱う規則を選択することにより、指示者U1が細かに位置を指示し易くする。このように、本発明の一実施形態による遠隔作業支援システムは、指示者U1が指示可能な範囲の広さの観点、および、指示者U1による位置の指示のし易さの観点の双方で優れるシステムであると言える。
<4. Action effect>
As described above, according to one embodiment of the present invention, the detection position y is corrected according to a rule selected from a plurality of rules in which the amount of change in the correction position y'is different with respect to the amount of change in the detection position y. Here, the
さらに、本発明の一実施形態によれば、位置補正部242が検出位置yの位置補正をヒステリシスに行う。例えば、検出位置yが負側から正側に向かう場合と、検出位置yが正側から負側に向かう場合とで、位置補正に用いる線が切り替えられる境界が異なる。従って、検出位置yが誤差などの影響により定数y−または定数y+を行き来してしまう場合に、位置補正に用いられる線が都度切り替えられることが防止され、結果、補正位置y’の変化速度のバタつきを抑制することができる。
Further, according to one embodiment of the present invention, the
<5.変形例>
以上、本発明の一実施形態を説明した。以下では、上述した実施形態の幾つかの変形例を説明する。なお、以下に説明する各変形例は、単独で上述した実施形態に適用されてもよいし、組み合わせで上述した実施形態に適用されてもよい。また、各変形例は、上述した実施形態で説明した構成に代えて適用されてもよいし、上述した実施形態で説明した構成に対して追加的に適用されてもよい。
<5. Modification example>
The embodiment of the present invention has been described above. Hereinafter, some modifications of the above-described embodiment will be described. In addition, each modification described below may be applied alone to the above-described embodiment, or may be applied in combination to the above-described embodiment. Further, each modification may be applied in place of the configuration described in the above-described embodiment, or may be additionally applied to the configuration described in the above-described embodiment.
(第1の変形例)
第1の変形例は、規則の選択方法に関する変形例である。第1の変形例では、測距部39により得られる測定情報が用いられる。測距部39は、例えば赤外線レーザの発光部および受光部を有し、発光部がレーザを発してから、当該レーザが対象物で反射し、反射光が受光部へ到達するまでの時間差を計測することで、測距部39から対象物までの距離を測定する。ただし、測距部39は、他の原理により対象物までの距離を測定してもよい。本変形例では、測距部39は、撮像装置36の撮像範囲と重なる範囲を測定範囲として、測定範囲内で最も遠い点までの距離を測定する。図1に示した例では、測距部39は、作業者U2に対向する壁面Wまでの距離Dを測定し、当該距離Dを示す測定情報を作業者端末30に出力する。
(First modification)
The first modification is a modification relating to a rule selection method. In the first modification, the measurement information obtained by the ranging
第1の変形例は、壁面Wよりも奥側の意味のない位置が指示されてしまうケースを抑制することが可能である。そのために、位置補正部242は、各規則で到達し得る補正位置y’の最大値を算出し、記憶部230が当該最大値である補正最大値y’maxを各規則と関連付けて記憶する。
In the first modification, it is possible to suppress the case where a meaningless position on the back side of the wall surface W is indicated. Therefore, the
図10は、第1の変形例において記憶部230に記憶される情報を示す説明図である。図10に示したように、記憶部230は、各規則に関連付けて上述した補正最大値y’maxを記憶する。例えば、規則1の補正最大値y’maxは15であり、規則2の補正最大値y’maxは39である。
FIG. 10 is an explanatory diagram showing information stored in the
補正最大値y’maxは、以下の数式3に従って算出される。
y’=(ymax+1)T1(M)/T2(M)
−(T1(M)/T2(M)) (数式3)
The maximum correction value y'max is calculated according to the following
y'= (ymax + 1) T1 (M) / T2 (M)
-(T1 (M) / T2 (M)) (Formula 3)
ここで、ymaxは、センサ部26の検出範囲により制限される検出位置yの最大値と、実際にジェスチャが存在できる位置に対応する検出位置yの最大値のうち、小さい方の値である。
Here, ymax is the smaller of the maximum value of the detection position y limited by the detection range of the
位置補正部242は、測距部39により測定された距離Dを補正最大値y’maxが上回る1または2以上の規則のうちで、検出位置yの変化量に対する補正位置y’の変化量が小さい規則、すなわち、補正最大値y’maxがより小さい規則を優先的に選択する。例えば、位置補正部242は、以下の2つの条件を同時に満たす規則のうちで、補正最大値y’maxが最小である規則を選択してもよい。以下、図11を参照して規則の具体的な選択例を説明する。
条件1:測距部39により測定された距離Dを補正最大値y’maxが上回る規則
条件2:速度条件Cvbを満たす規則または当該規則よりも補正最大値y’maxがより小さい規則
In the
Condition 1: Rule that the correction maximum value y'max exceeds the distance D measured by the
図11は、第1の変形例による規則の具体的な選択例を示す説明図である。図11においては、条件1を満たす規則は、規則3〜規則5である。ここで、規則4が速度条件Cvbを満たすとする。この場合、条件2を満たす規則は、規則1〜規則4である。従って、条件1および条件2を同時に満たす規則は、規則3および規則4である。このうち、位置補正部242は、補正最大値y’maxが最小である規則3を選択する。
FIG. 11 is an explanatory diagram showing a specific selection example of the rule according to the first modification. In FIG. 11, the rules satisfying the
なお、位置補正部242は、条件1および条件2を同時に満たす規則が無い場合には、速度条件Cvbを満たす規則を選択してもよい。
If there is no rule that satisfies the
図11は、上述した第1の変形例による検出位置Gの補正方法を示すフローチャートである。図11に示す補正方法では、図9を参照して説明した補正方法とS506およびS530が異なる。S506において、位置補正部242は、Gをセンサ座標系でのジェスチャ(指示者U1の手首)の検出位置として、tを現在時刻として、距離Dを測距部39により測定された最大深度を示す距離とする。また、S530において、位置補正部242は、移動速度vbおよび距離Dに基づき、上述した方法により規則Mを選択する。
FIG. 11 is a flowchart showing a method of correcting the detection position G according to the first modification described above. In the correction method shown in FIG. 11, S506 and S530 are different from the correction method described with reference to FIG. In S506, the
このような第1の変形例によれば、壁面Wよりも奥側の意味のない位置が指示されてしまうケースを抑制することが可能である。また、検出位置yの変化量に対する補正位置y’の変化量が小さい規則が優先的に選択されることで、不必要に補正位置y’の変化速度が上がらない。結果、指示の精度を向上することが可能である。 According to such a first modification, it is possible to suppress a case where a meaningless position on the back side of the wall surface W is indicated. Further, since the rule in which the change amount of the correction position y'is small with respect to the change amount of the detection position y is preferentially selected, the change speed of the correction position y'is not unnecessarily increased. As a result, it is possible to improve the accuracy of the instruction.
(第2の変形例)
上記では、指示者端末20が作業者端末30にジェスチャ画像および座標情報を送信する例を説明したが、指示者端末20は、補正位置の特定により得られる情報として、重畳画像生成部246により生成された重畳画像を作業者端末30に送信してもよい。そして、作業者端末30がARグラス38に重畳画像を出力し、ARグラス38が当該重畳画像を表示してもよい。なお、この場合にはARグラス38は非透過型のディスプレイを有することが望ましい。
(Second modification)
In the above, the example in which the
(第3の変形例)
上記では、検出位置yが負側から正側に移動する際に利用される規則が変わる変曲点、および検出位置yが正側から負側に移動する際に利用される規則が変わる変曲点が1つである例を説明したが、当該変曲点は2以上あってもよい。
(Third variant)
In the above, an inflection point where the rule used when the detection position y moves from the negative side to the positive side changes, and an inflection point where the rule used when the detection position y moves from the positive side to the negative side changes. Although the example in which there is one point has been described, the inflection point may be two or more.
(第4の変形例)
上記では、検出位置yをN次関数により補正する例を説明したが、検出位置yを補正するために用いられる関数はN次関数に限定されない。例えば、位置補正部242は、指数関数等の他の関数を用いて検出位置yを補正してもよい。
(Fourth modification)
In the above, an example of correcting the detection position y by the Nth order function has been described, but the function used to correct the detection position y is not limited to the Nth order function. For example, the
(第5の変形例)
上記では、奥行方向であるY軸に関して位置補正が行われる例を説明したが、位置補正部242は、同様の方法により幅方向または高さ方向などの他の方向上における位置補正を行うことも可能である。
(Fifth variant)
In the above, the example in which the position correction is performed with respect to the Y axis which is the depth direction has been described, but the
(第6の変形例)
上記では、ジェスチャが片手で行われる想定で説明を行ったが、ジェスチャは両手で行われてもよく、本発明の実施形態による位置補正は、両手でのジェスチャにも拡張可能である。
(Sixth variant)
In the above description, the gesture is performed with one hand, but the gesture may be performed with both hands, and the position correction according to the embodiment of the present invention can be extended to the gesture with both hands.
(第7の変形例)
上記では、実空間上での作業に対して指示者U1が作業者U2に指示を伝える想定で説明を行ったが、VR空間などの仮想空間上での作業にも本発明の実施形態による位置補正を同様に適用可能である。
(7th variant)
In the above, the description has been made on the assumption that the instructor U1 transmits an instruction to the worker U2 for the work in the real space, but the position according to the embodiment of the present invention is also used for the work in the virtual space such as the VR space. The correction can be applied as well.
(第8の変形例)
上述した各規則および定数などは、指示者U1ごとに可変であってもよい。例えば、位置補正部242は、指示者U1がいずれの人物であるか、または指示者U1が有する属性に基づいて規則または定数を選択してもよい。上記属性としては、年齢、性別および身長などが挙げられる。かかる構成により、指示者U1により適した規則および定数などに基づく動作が実現される。
(8th variant)
The above-mentioned rules, constants, and the like may be variable for each instructor U1. For example, the
(第9の変形例)
上述した位置補正に関し、位置補正が実行される有効化状態、および位置補正が実行されない非有効化状態との間で動的に状態が切り替えられてもよい。例えば、センサ部26により測定された手の形状(例えば、物を摘まむ形状をしているか否か)または姿勢(例えば、手の平が上を向いているか下を向いているか)により状態が切り替えられてもよいし、フットスイッチへの操作または音声入力などの指示者U1がジェスチャとは別に行った操作により状態が切り替えられてもよい。または、位置補正部242は、センサ部26により測定された手の形状または姿勢に基づいて規則を選択してもよいし、指示者U1がジェスチャとは別に行った操作に基づいて規則を選択してもよい。
(9th variant)
Regarding the above-mentioned position correction, the state may be dynamically switched between the enabled state in which the position correction is executed and the disabled state in which the position correction is not executed. For example, the state is switched depending on the shape of the hand measured by the sensor unit 26 (for example, whether or not it has a shape of picking an object) or the posture (for example, whether or not the palm is facing up or down). Alternatively, the state may be switched by an operation performed by the instructor U1 such as an operation on the foot switch or a voice input separately from the gesture. Alternatively, the
また、撮像装置36により得られた撮像画像に含まれる物体またはマーカーの認識に基づき有効化状態と非有効化状態との間で状態が切り替えられてもよい。または、位置補正部242は、上記物体またはマーカーの認識に基づき規則を選択してもよい。
Further, the state may be switched between the enabled state and the disabled state based on the recognition of the object or marker included in the captured image obtained by the
同様に、作業者U2が行う作業に基づいて有効化状態と非有効化状態との間で状態が切り替えられてもよい。または、位置補正部242は、作業者U2が行う作業に基づいて規則を選択してもよい。例えば、作業者U2から離れた位置への指示が不要な作業が行われている際には状態が非有効化状態とされる、または、検出位置yの変化量に対する補正位置y’の変化量が小さい規則が選択されることにより、指示の精度を向上することが可能である。
Similarly, the state may be switched between the enabled state and the disabled state based on the work performed by the worker U2. Alternatively, the
<6.ハードウェア構成>
以上、本発明の各実施形態を説明した。上述した規則の選択および検出位置の補正などの情報処理は、ソフトウェアと、以下に説明する指示者端末20のハードウェアとの協働により実現される。なお、以下に説明するハードウェア構成は作業者端末30にも適用可能である。
<6. Hardware configuration>
Each embodiment of the present invention has been described above. Information processing such as the selection of the rules and the correction of the detection position described above is realized by the cooperation between the software and the hardware of the
図13は、指示者端末20のハードウェア構成を示したブロック図である。指示者端末20は、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、ホストバス204と、を備える。また、指示者端末20は、ブリッジ205と、外部バス206と、インターフェース207と、入力装置208と、表示装置209と、音声出力装置210と、ストレージ装置(HDD)211と、ドライブ212と、ネットワークインターフェース215とを備える。
FIG. 13 is a block diagram showing the hardware configuration of the
CPU201は、演算処理装置および制御装置として機能し、各種プログラムに従って指示者端末20内の動作全般を制御する。また、CPU201は、マイクロプロセッサであってもよい。ROM202は、CPU201が使用するプログラムや演算パラメータ等を記憶する。RAM203は、CPU201の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス204により相互に接続されている。これらCPU201、ROM202およびRAM203とソフトウェアとの協働により、上述した位置補正部242、ジェスチャ画像生成部244および重畳画像生成部246などの機能が実現され得る。
The
ホストバス204は、ブリッジ205を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス206に接続されている。なお、必ずしもホストバス204、ブリッジ205および外部バス206を分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
The
入力装置208は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、センサ、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU201に出力する入力制御回路などから構成されている。指示者端末20のユーザは、該入力装置208を操作することにより、指示者端末20に対して各種のデータを入力したり処理動作を指示したりすることができる。
The
表示装置209は、例えば、液晶ディスプレイ(LCD)装置、プロジェクタ装置、OLED(Organic Light Emitting Diode)装置およびランプなどの表示装置を含む。また、音声出力装置210は、スピーカおよびヘッドホンなどの音声出力装置を含む。
The
ストレージ装置211は、本実施形態にかかる指示者端末20の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置211は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置211は、例えば、HDD(Hard Disk Drive)またはSSD(Solid Strage Drive)、あるいは同等の機能を有するメモリ等で構成される。このストレージ装置211は、ストレージを駆動し、CPU201が実行するプログラムや各種データを格納する。
The
ドライブ212は、記憶媒体用リーダライタであり、指示者端末20に内蔵、あるいは外付けされる。ドライブ212は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体24に記録されている情報を読み出して、RAM203またはストレージ装置211に出力する。また、ドライブ212は、リムーバブル記憶媒体24に情報を書き込むこともできる。
The
ネットワークインターフェース215は、例えば、ネットワーク12に接続するための通信デバイス等で構成された通信インターフェースである。また、ネットワークインターフェース215は、無線LAN(Local Area Network)対応通信装置であっても、有線による通信を行うワイヤー通信装置であってもよい。
The
<7.補足>
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
<7. Supplement>
Although the preferred embodiments of the present invention have been described in detail with reference to the accompanying drawings, the present invention is not limited to such examples. It is clear that a person having ordinary knowledge in the field of technology to which the present invention belongs can come up with various modifications or modifications within the scope of the technical ideas described in the claims. , These are also naturally understood to belong to the technical scope of the present invention.
例えば、本明細書の指示者端末20の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、指示者端末20の処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
For example, each step in the processing of the
また、指示者端末20および作業者端末30などに内蔵されるCPU、ROMおよびRAMなどのハードウェアに、上述した指示者端末20および作業者端末30の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
Further, in order for the hardware such as the CPU, ROM, and RAM built in the
20 指示者端末
220 通信部
230 記憶部
240 制御部
242 位置補正部
244 ジェスチャ画像生成部
246 重畳画像生成部
26 センサ部
27 マイク
28 表示装置
30 作業者端末
36 撮像装置
38 ARグラス
39 測距部
20
Claims (16)
前記第1のユーザから離れた遠隔地に存在する第2のユーザが利用する端末に、前記補正位置の特定に基づき得られる情報を送信する通信部と、
を備え、
前記位置補正部は、1の座標軸において前記検出位置が第1の範囲から第2の範囲内に移動した場合、複数の規則からいずれかの規則を選択し、選択された規則に従って前記検出位置を補正して前記補正位置を特定する、情報処理装置。 A position correction unit that corrects the detection position related to the gesture performed by the first user and specifies the correction position,
A communication unit that transmits information obtained based on the identification of the correction position to a terminal used by a second user located in a remote location away from the first user.
With
When the detection position moves from the first range to the second range on one coordinate axis, the position correction unit selects one of a plurality of rules and sets the detection position according to the selected rule. An information processing device that corrects and specifies the corrected position.
前記通信部は、前記第2の範囲から前記第3の範囲に向かって前記検出位置が移動する場合には、前記検出位置が前記第4の範囲を超えるまで前記補正位置の特定に基づく情報を送信する、請求項1〜5までのいずれか一項に記載の情報処理装置。 The first range includes a third range and a fourth range located between the third range and the second range.
When the detection position moves from the second range to the third range, the communication unit provides information based on the identification of the correction position until the detection position exceeds the fourth range. The information processing apparatus according to any one of claims 1 to 5, which is to be transmitted.
前記位置補正部は、前記測定情報に基づき、前記検出位置を前記壁面の位置に対応する補正位置に補正し得る1または2以上の規則から前記規則を選択する、請求項1〜12までのいずれか一項に記載の情報処理装置。 The communication unit receives measurement information regarding the position of the wall surface in the remote location from the terminal used by the second user, and receives measurement information.
Any of claims 1 to 12, wherein the position correction unit selects the rule from one or more rules that can correct the detection position to a correction position corresponding to the position of the wall surface based on the measurement information. The information processing device according to item 1.
前記補正位置の特定に基づく情報を、前記第1のユーザから離れた遠隔地に存在する第2のユーザが利用する端末に送信することと、
を含み、
前記検出位置を補正することは、
複数の規則からいずれかの規則を選択することと、
1の座標軸において前記検出位置が第1の範囲から第2の範囲内に移動した場合、選択された規則に従って前記検出位置を補正して前記補正位置を特定することと、
を含む、検出位置補正方法。 Correcting the detection position related to the gesture performed by the first user to specify the correction position,
Sending information based on the identification of the correction position to a terminal used by a second user located in a remote location away from the first user,
Including
Correcting the detection position
Choosing one of the rules and
When the detection position moves from the first range to the second range on the coordinate axis 1, the detection position is corrected according to the selected rule to specify the correction position.
Detection position correction method including.
第1のユーザが行うジェスチャに関する検出位置を補正して補正位置を特定する位置補正部と、
前記補正位置の特定に基づく情報を、前記第1のユーザから離れた遠隔地に存在する第2のユーザが利用する端末に送信する通信部と、
を備え、
前記位置補正部は、1の座標軸において前記検出位置が第1の範囲から第2の範囲内に移動した場合、複数の規則からいずれかの規則を選択し、選択された規則に従って前記検出位置を補正して前記補正位置を特定する、情報処理装置として機能させるための、プログラム。 Computer,
A position correction unit that corrects the detection position related to the gesture performed by the first user and specifies the correction position,
A communication unit that transmits information based on the identification of the correction position to a terminal used by a second user located in a remote location away from the first user.
With
When the detection position moves from the first range to the second range on one coordinate axis, the position correction unit selects one of a plurality of rules and sets the detection position according to the selected rule. A program for correcting and specifying the correction position to function as an information processing device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020012134A JP2021117852A (en) | 2020-01-29 | 2020-01-29 | Information processing device, detection position correction method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020012134A JP2021117852A (en) | 2020-01-29 | 2020-01-29 | Information processing device, detection position correction method, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021117852A true JP2021117852A (en) | 2021-08-10 |
Family
ID=77175074
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020012134A Pending JP2021117852A (en) | 2020-01-29 | 2020-01-29 | Information processing device, detection position correction method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021117852A (en) |
-
2020
- 2020-01-29 JP JP2020012134A patent/JP2021117852A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11972530B2 (en) | Rendering virtual objects in 3D environments | |
US11494000B2 (en) | Touch free interface for augmented reality systems | |
JP5802667B2 (en) | Gesture input device and gesture input method | |
US20200312026A1 (en) | Augmentation of captured 3d scenes with contextual information | |
US9430698B2 (en) | Information input apparatus, information input method, and computer program | |
US9400562B2 (en) | Image projection device, image projection system, and control method | |
US9342925B2 (en) | Information processing apparatus, information processing method, and program | |
US20160012612A1 (en) | Display control method and system | |
US20120319949A1 (en) | Pointing device of augmented reality | |
JP6689559B2 (en) | Image projection apparatus, system, image projection method and program | |
US20130113829A1 (en) | Information processing apparatus, display control method, and program | |
JP2020024752A (en) | Information processing device, control method thereof, and program | |
KR20110133424A (en) | Method for selection of an object in a virtual environment | |
JP5798183B2 (en) | Pointing control device, integrated circuit thereof, and pointing control method | |
JP2018032055A (en) | Gesture recognition device and method, and program and recording medium | |
JPWO2019069575A1 (en) | Information processing equipment, information processing methods and programs | |
JPWO2017081920A1 (en) | Information processing apparatus, control method, and program | |
US20120313968A1 (en) | Image display system, information processing apparatus, display device, and image display method | |
US20150262013A1 (en) | Image processing apparatus, image processing method and program | |
US20210258548A1 (en) | Information processing device, information processing method, and recording medium | |
JP2021117852A (en) | Information processing device, detection position correction method, and program | |
WO2019054037A1 (en) | Information processing device, information processing method and program | |
US20230226460A1 (en) | Information processing device, information processing method, and recording medium | |
JP2021131764A (en) | Information processing device, information processing method, program, and information processing system | |
JP6484914B2 (en) | Information processing equipment and operation system |