JP2021047424A - Information processing device, information processing system and program - Google Patents

Information processing device, information processing system and program Download PDF

Info

Publication number
JP2021047424A
JP2021047424A JP2020193526A JP2020193526A JP2021047424A JP 2021047424 A JP2021047424 A JP 2021047424A JP 2020193526 A JP2020193526 A JP 2020193526A JP 2020193526 A JP2020193526 A JP 2020193526A JP 2021047424 A JP2021047424 A JP 2021047424A
Authority
JP
Japan
Prior art keywords
display
robot
moving body
shape
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020193526A
Other languages
Japanese (ja)
Other versions
JP7196894B2 (en
Inventor
賢吾 得地
Kengo Tokuchi
賢吾 得地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2020193526A priority Critical patent/JP7196894B2/en
Publication of JP2021047424A publication Critical patent/JP2021047424A/en
Application granted granted Critical
Publication of JP7196894B2 publication Critical patent/JP7196894B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)

Abstract

To enable a user to easily grasp a position of an object.SOLUTION: An information processing device includes: a first acquisition unit for acquiring a first shape which defines a range for managing movement of a moving body; a second acquisition part used for acquiring a second shape which defines a display area used for displaying a position of the moving body; a deformation part for deforming the first shape to be matched with the second shape: and a display control part for changing the display of the position of the moving body according to the deformation of the first shape.SELECTED DRAWING: Figure 14

Description

本発明は、情報処理装置、情報処理システム及びプログラムに関する。 The present invention relates to information processing devices, information processing systems and programs.

特許文献1には、遠隔操作するロボットの位置および方向をディスプレイ上に表示し、必要に応じて表示位置および方向を修正できる技術が記載されている。 Patent Document 1 describes a technique capable of displaying the position and direction of a remotely controlled robot on a display and modifying the display position and direction as needed.

特開2009−123061号公報Japanese Unexamined Patent Publication No. 2009-123061

IoT(Internet of Things)社会の進展に伴い、物の位置等を容易に把握できる仕組みの必要性が高まると予想される。ところが、物の管理区域のレイアウトの保持を優先して位置を表示する手法では、表示領域との関係で物の位置の把握がかえって難しくなる可能性がある。 With the development of the IoT (Internet of Things) society, it is expected that the need for a mechanism that can easily grasp the position of objects will increase. However, in the method of displaying the position by giving priority to maintaining the layout of the controlled area of the object, it may be rather difficult to grasp the position of the object in relation to the display area.

本発明は、ユーザによる対象物の位置把握を容易にすることを目的とする。 An object of the present invention is to facilitate the user's grasp of the position of an object.

請求項1に記載の発明は、移動体の移動を管理する範囲を規定する第1の形状を取得する第1の取得部と、前記移動体の位置の表示に使用される表示領域を規定する第2の形状を取得する第2の取得部と、前記第1の形状を変形して前記第2の形状に一致させる変形部と、前記第1の形状の変形に応じて前記移動体の位置の表示を変化させる表示制御部と、を有する情報処理装置である。
請求項2に記載の発明は、ディスプレイパネルの表示画面の全体を与える形状であり、前記変形部は、前記範囲の全体を前記表示画面の全体に一致させる、請求項1に記載の情報処理装置である。
請求項3に記載の発明は、前記変化は、前記表示領域上における変化量の変化であることを特徴とする請求項1又は2に記載の情報処理装置である。
請求項4に記載の発明は、前記変化の範囲は、前記表示領域の形状の制約を受けることを特徴とする請求項1又は2に記載の情報処理装置である。
請求項5に記載の発明は、前記表示制御部は、前記移動体の位置を当該移動体の管理上定めた前記範囲とは非相似形状の前記表示領域に表示することを特徴とする請求項1又は2に記載の情報処理装置である。
請求項6に記載の発明は、前記表示制御部は、前記移動体に紐付けられた画像を前記表示領域にマッピングされた当該移動体の位置に表示することを特徴とする請求項1又は2に記載の情報処理装置である。
請求項7に記載の発明は、前記表示制御部は、前記表示領域にマッピングされた前記移動体の実空間における位置を補足する情報として縮尺情報を表示することを特徴とする請求項1又は2に記載の情報処理装置である。
請求項8に記載の発明は、前記表示制御部は、前記移動体の位置が管理上定めた前記範囲を越えた場合、当該移動体に紐付けられた画像を前記表示領域上から消すことを特徴とする請求項1又は2に記載の情報処理装置である。
請求項9に記載の発明は、前記表示制御部は、前記移動体の位置が管理上定めた前記範囲内に復帰した場合、当該移動体に紐付けられた前記画像を前記表示領域内に再表示することを特徴とする請求項8に記載の情報処理装置である。
請求項10に記載の発明は、前記移動体は、自走機構を有することを特徴とする請求項1又は2に記載の情報処理装置である。
請求項11に記載の発明は、前記移動体に紐付けられた画像に実行させたい機能に紐付けられた他の画像が重ね合わせられた場合、当該機能の実行を当該移動体に指示することを特徴とする請求項1又は2に記載の情報処理装置である。
請求項12に記載の発明は、前記表示制御部は、前記機能が実行できた場合、前記移動体に紐付けられた前記画像の表示形態を変化させることを特徴とする請求項11に記載の情報処理装置である。
請求項13に記載の発明は、前記表示制御部は、前記移動体に紐付けられた前記画像を当該移動体の稼働状態を表す画像に変化させることを特徴とする請求項12に記載の情報処理装置である。
請求項14に記載の発明は、前記移動体の管理上定めた前記範囲は、予め定められた対象を基準に定まることを特徴とする請求項1又は2に記載の情報処理装置である。
請求項15に記載の発明は、1つ又は複数の移動体と、移動体の移動を管理する範囲を規定する第1の形状を取得する第1の取得部と、当該移動体の位置の表示に使用される表示領域を規定する第2の形状を取得する第2の取得部と、当該第1の形状を変形して当該第2の形状に一致させる変形部と、当該第1の形状の変形に応じて当該移動体の位置の表示を変化させる表示制御部とを有する情報処理装置とを有する情報処理システムである。
請求項16に記載の発明は、コンピュータに、移動体の移動を管理する範囲を規定する第1の形状を取得する機能と、前記移動体の位置の表示に使用される表示領域を規定する第2の形状を取得する機能と、前記第1の形状を変形して前記第2の形状に一致させる機能と、前記第1の形状の変形に応じて前記移動体の位置の表示を変化させる機能と、を実現させるためのプログラムである。
The invention according to claim 1 defines a first acquisition unit that acquires a first shape that defines a range for controlling the movement of the moving body, and a display area used for displaying the position of the moving body. A second acquisition unit that acquires the second shape, a deformed portion that deforms the first shape to match the second shape, and a position of the moving body according to the deformation of the first shape. It is an information processing apparatus having a display control unit for changing the display of the above.
The information processing apparatus according to claim 1, wherein the invention according to claim 2 has a shape that gives the entire display screen of the display panel, and the deformed portion matches the entire range with the entire display screen. Is.
The invention according to claim 3 is the information processing apparatus according to claim 1, wherein the change is a change in the amount of change on the display area.
The information processing apparatus according to claim 1, wherein the range of the change is restricted by the shape of the display area.
The invention according to claim 5 is characterized in that the display control unit displays the position of the moving body in the display area having a shape not similar to the range defined in the management of the moving body. The information processing apparatus according to 1 or 2.
The invention according to claim 6 is characterized in that the display control unit displays an image associated with the moving body at a position of the moving body mapped to the display area. The information processing apparatus according to the above.
The invention according to claim 7 is characterized in that the display control unit displays scale information as information that supplements the position of the moving body mapped to the display area in the real space. The information processing apparatus according to the above.
According to the eighth aspect of the present invention, when the position of the moving body exceeds the range defined by management, the display control unit erases the image associated with the moving body from the display area. The information processing apparatus according to claim 1 or 2.
According to the ninth aspect of the present invention, when the position of the moving body is returned to the range controlled by the moving body, the display control unit redisplays the image associated with the moving body in the display area. The information processing apparatus according to claim 8, wherein the information processing apparatus is displayed.
The invention according to claim 10 is the information processing device according to claim 1 or 2, wherein the moving body has a self-propelled mechanism.
The invention according to claim 11 is to instruct the moving body to execute the function when another image associated with the function to be executed is superimposed on the image associated with the moving body. The information processing apparatus according to claim 1 or 2.
The invention according to claim 12, wherein the display control unit changes the display form of the image associated with the moving body when the function can be executed. It is an information processing device.
The information according to claim 12, wherein the display control unit changes the image associated with the moving body into an image showing an operating state of the moving body. It is a processing device.
The invention according to claim 14 is the information processing apparatus according to claim 1 or 2, wherein the range defined in terms of management of the moving body is determined based on a predetermined object.
The invention according to claim 15 is a display of one or a plurality of moving bodies, a first acquisition unit that acquires a first shape that defines a range for controlling the movement of the moving body, and a position of the moving body. A second acquisition unit that acquires a second shape that defines the display area used in the above, a deformed portion that deforms the first shape to match the second shape, and a first shape. It is an information processing system having an information processing device having a display control unit that changes the display of the position of the moving body according to the deformation.
The invention according to claim 16 defines a function of acquiring a first shape that defines a range for controlling the movement of a moving body and a display area used for displaying the position of the moving body in a computer. A function of acquiring the shape of 2, a function of deforming the first shape to match the second shape, and a function of changing the display of the position of the moving body according to the deformation of the first shape. It is a program to realize.

請求項1記載の発明によれば、表示領域の形状に合わせて移動体の位置の表示を変化させない場合に比べ、ユーザによる移動体の位置の把握が容易になる。
請求項2記載の発明によれば、表示領域の形状に合わせて移動体の位置の表示を変化させない場合に比べ、ユーザによる移動体の位置の把握が容易になる。
請求項3記載の発明によれば、表示領域上における変化量が表示領域の形状に合わせて変化することで、ユーザによる移動体の位置の把握が容易になる。
請求項4記載の発明によれば、表示領域の形状の変化に応じて位置の表示が変化することで、ユーザによる移動体の位置の把握が容易になる。
請求項5記載の発明によれば、移動体の位置を管理上定めた区域の相似形状に合わせて表示する場合に比して、表示される管理上定めた区域の過度な縮小が回避される。
請求項6記載の発明によれば、移動体に紐付けられた画像を管理上定めた区域の表示領域に表示することで、表示される移動体の位置の把握が容易になる。
請求項7記載の発明によれば、縮尺情報の表示により距離感の把握が容易になる。
請求項8記載の発明によれば、移動体に紐付けられた画像が表示領域から消えることで、移動体が管理上定めた区域を越えたことを把握できる。
請求項9記載の発明によれば、移動体に紐付けられた画像の再表示により、移動体が管理上定めた区域内に復帰したことを把握できる。
請求項10記載の発明によれば、表示領域に合わせて移動体の位置の表示を変化させない場合に比べ、ユーザによる移動体の位置の把握が容易になる。
請求項11記載の発明によれば、機能の実行の指示が容易になる。
請求項12記載の発明によれば、移動体に紐付けられた画像の表示形態の変化を通じて機能の実行を把握できる。
請求項13記載の発明によれば、画像の表示形態の変化を通じて稼働状態を把握できる。
請求項14記載の発明によれば、表示領域に合わせて移動体の位置の表示を変化させない場合に比べ、ユーザによる移動体の位置の把握が容易になる。
請求項15記載の発明によれば、表示領域に合わせて移動体の位置の表示を変化させない場合に比べ、ユーザによる移動体の位置の把握が容易になる。
請求項16記載の発明によれば、表示領域に合わせて移動体の位置の表示を変化させない場合に比べ、ユーザによる移動体の位置の把握が容易になる。
According to the first aspect of the present invention, it becomes easier for the user to grasp the position of the moving body as compared with the case where the display of the position of the moving body is not changed according to the shape of the display area.
According to the second aspect of the present invention, it becomes easier for the user to grasp the position of the moving body as compared with the case where the display of the position of the moving body is not changed according to the shape of the display area.
According to the third aspect of the present invention, the amount of change on the display area changes according to the shape of the display area, so that the user can easily grasp the position of the moving body.
According to the invention of claim 4, the display of the position changes according to the change in the shape of the display area, so that the user can easily grasp the position of the moving body.
According to the invention of claim 5, an excessive reduction of the displayed management-defined area is avoided as compared with the case where the position of the moving body is displayed according to the similar shape of the management-defined area. ..
According to the invention of claim 6, by displaying the image associated with the moving body in the display area of the area defined in management, it becomes easy to grasp the position of the displayed moving body.
According to the invention of claim 7, the sense of distance can be easily grasped by displaying the scale information.
According to the invention of claim 8, when the image associated with the moving body disappears from the display area, it can be grasped that the moving body has crossed the area defined in management.
According to the invention of claim 9, by redisplaying the image associated with the moving body, it can be grasped that the moving body has returned to the area defined by management.
According to the invention of claim 10, it becomes easier for the user to grasp the position of the moving body as compared with the case where the display of the position of the moving body is not changed according to the display area.
According to the invention of claim 11, it becomes easy to instruct the execution of the function.
According to the invention of claim 12, the execution of the function can be grasped through the change of the display form of the image associated with the moving body.
According to the invention of claim 13, the operating state can be grasped through the change of the display form of the image.
According to the invention of claim 14, it becomes easier for the user to grasp the position of the moving body as compared with the case where the display of the position of the moving body is not changed according to the display area.
According to the invention of claim 15, it becomes easier for the user to grasp the position of the moving body as compared with the case where the display of the position of the moving body is not changed according to the display area.
According to the invention of claim 16, it becomes easier for the user to grasp the position of the moving body as compared with the case where the display of the position of the moving body is not changed according to the display area.

実施形態の一例である情報処理システムの概念構成を示す図である。It is a figure which shows the conceptual structure of the information processing system which is an example of an embodiment. ユーザを含むように管理区域を定める例を示す図である。It is a figure which shows the example which defines the controlled area so that a user is included. 基準点から一定の距離又は一定の範囲を管理区域に定める例を示す図である。It is a figure which shows the example which defines a certain distance or a certain range from a reference point in a controlled area. 実施形態の他の例である情報処理システムの概念構成を示す図である。It is a figure which shows the conceptual structure of the information processing system which is another example of an embodiment. 本実施の形態で使用するロボットの外観構成を説明する図である。It is a figure explaining the appearance structure of the robot used in this embodiment. 本実施の形態におけるロボットのハードウェア構成を説明する図である。It is a figure explaining the hardware configuration of the robot in this embodiment. ビーコンを用いる測位方式を説明する図である。It is a figure explaining the positioning method using a beacon. ロボットから送信される通信用の電波からロボットの位置を測位する方式を説明する図である。It is a figure explaining the method of positioning the position of a robot from the radio wave for communication transmitted from the robot. 本実施の形態における情報端末のハードウェア構成を説明する図である。It is a figure explaining the hardware configuration of the information terminal in this embodiment. 本実施の形態に係る情報端末のソフトウェア構成を説明する図である。It is a figure explaining the software structure of the information terminal which concerns on this Embodiment. ユーザとロボットとの距離を説明する図である。It is a figure explaining the distance between a user and a robot. 管理区域の中心位置とロボットとの距離を説明する図である。It is a figure explaining the distance between a central position of a controlled area and a robot. 子供やペット等の基準点とロボットとの距離を説明する図である。It is a figure explaining the distance between a reference point of a child, a pet, etc., and a robot. 実空間における管理区域が楕円形状であるのに対し、表示部の表示画面が概略矩形である場合の変形処理を説明する図であり、(a)は実空間における管理区域の形状を示し、(b)は表示上の仮想管理区域に加えられる部分領域別の変形の方向と大きさを示す。It is a figure explaining the transformation process when the display screen of a display part is substantially rectangular while the management area in a real space has an elliptical shape, and (a) shows the shape of the management area in a real space, and (a) b) indicates the direction and magnitude of the deformation for each partial area added to the virtual management area on the display. ユーザが位置する管理区域の端部が画面左端に位置するように仮想管理区域を変形する例を説明する図であり、(a)は実空間における管理区域の形状を示し、(b)は仮想管理区域に加えられる部分領域別の変形の方向と大きさを示す。It is a figure explaining an example which deforms a virtual management area so that the edge of the management area where a user is located is located at the left edge of a screen, (a) shows the shape of the management area in a real space, and (b) is virtual. Shows the direction and magnitude of deformation by subregion applied to the controlled area. 実空間における管理区域が一方向に長い長方形状(例えば細長い通路)であるのに対し、表示部の表示画面が概略矩形である場合の変形処理を説明する図であり、(a)は実空間における管理区域の形状を示し、(b)は仮想管理区域に加えられる部分領域別の変形の方向と大きさを示す。It is a figure explaining the transformation process when the management area in a real space is a rectangular shape (for example, an elongated passage) which is long in one direction, while the display screen of a display part is a substantially rectangular shape, and (a) is a real space. (B) shows the shape of the controlled area in, and (b) shows the direction and magnitude of the deformation of each sub-area added to the virtual controlled area. 変形後の仮想管理区域の形状が表示画面の形状に一致しない例を説明する図であり、(a)は実空間における管理区域の形状を示し、(b)は仮想管理区域に加えられる部分領域別の変形の方向と大きさを示す。It is a figure explaining an example that the shape of the virtual management area after transformation does not match the shape of a display screen, (a) shows the shape of a management area in a real space, and (b) is a partial area added to a virtual management area. Indicates the direction and magnitude of another deformation. 表示画面上に他の作業画面が表示される場合に、他の作業画面と重ならないように仮想管理区域を変形させる例を説明する図であり、(a)は実空間における管理区域の形状を示し、(b)は仮想管理区域に加えられる部分領域別の変形の方向と大きさを示す。It is a figure explaining an example which deforms a virtual management area so that it does not overlap with another work screen when another work screen is displayed on a display screen, and (a) shows the shape of the management area in a real space. (B) shows the direction and magnitude of the deformation for each subregion applied to the virtual control area. 表示画面におけるロボットの位置表示に実画像を用いる例を説明する図であり、(a)はカメラの配置例を示し、(b)は仮想管理区域における表示例を示す。It is a figure explaining the example which uses the real image for the position display of a robot on a display screen, (a) shows the arrangement example of a camera, (b) shows the display example in a virtual management area. 表示画面上に他の作業画面が表示される場合に、仮想管理区域を表示画面内で移動する例を説明する図であり、(a)は他の作業画面が表示される前の仮想管理区域の表示位置を示し、(b)は他の作業画面が表示された後の仮想管理区域の表示位置を示す。It is a figure explaining an example of moving a virtual management area in a display screen when another work screen is displayed on a display screen, (a) is a virtual management area before another work screen is displayed. (B) shows the display position of the virtual management area after other work screens are displayed. 表示画面上に他の作業画面が表示される場合に、仮想管理区域を表示画面と仮想管理画面を跨ぐ位置に移動する例を説明する図であり、(a)は他の作業画面が表示される前の仮想管理区域の表示位置を示し、(b)は他の作業画面が表示された後の仮想管理区域の表示位置を示す。It is a figure explaining an example of moving a virtual management area to a position straddling a display screen and a virtual management screen when another work screen is displayed on a display screen, and (a) is a figure explaining an example that another work screen is displayed. The display position of the virtual management area before the operation is shown, and (b) shows the display position of the virtual management area after the other work screens are displayed. 表示画面上に他の作業画面が表示される場合に、仮想管理区域を仮想管理画面に移動する例を説明する図であり、(a)は他の作業画面が表示される前の仮想管理区域の表示位置を示し、(b)は他の作業画面が表示された後の仮想管理区域の表示位置を示す。It is a figure explaining an example of moving a virtual management area to a virtual management screen when another work screen is displayed on a display screen, (a) is a virtual management area before another work screen is displayed. (B) shows the display position of the virtual management area after other work screens are displayed. 距離に応じてロボットに紐付けられた画像の表示寸法を変化させる例を説明する図であり、(a)は実空間上におけるユーザとロボットの距離の関係を示し、(b)は表示寸法の変化が連続的である場合を示し、(c)は表示寸法の変化がステップ的である場合を示す。It is a figure explaining an example which changes the display dimension of the image associated with a robot according to a distance, (a) shows the relationship of the distance between a user and a robot in the real space, and (b) is the display dimension of the display dimension. The case where the change is continuous is shown, and (c) shows the case where the change of the display dimension is stepwise. 仮想管理区域の各部に表示縮尺(スケールバー)を表示する例を示す図である。It is a figure which shows the example which displays the display scale (scale bar) in each part of a virtual management area. 表示寸法が表す距離情報を画面上に表示する例を説明する図であり、(a)は表示寸法と距離の対応見本を示し、(b)は画像の近傍に距離の目安が表示される例を示す。It is a figure explaining the example which displays the distance information represented by a display dimension on a screen, (a) shows the correspondence sample of a display dimension and a distance, and (b) is an example which a guideline of a distance is displayed in the vicinity of an image. Is shown. ロボットの位置を特定するエリア名で表示する例を説明する図であり、(a)は管理区域で規定されているエリア名を示し、(b)は仮想管理区域上にロボットが存在するエリア名を表示する表示例を示す。It is a figure explaining an example which displays by the area name which specifies the position of a robot, (a) shows the area name defined by a controlled area, and (b) is the area name where a robot exists in a virtual controlled area. Is shown as a display example. ロボットまでの距離を画面上に表示する例を説明する図であり、(a)は管理区域内にあるロボットの位置を示し、(b)は仮想管理区域にロボットまでの距離を数値で表示する表示例を示す。It is a figure explaining an example of displaying the distance to a robot on a screen, (a) shows the position of a robot in a controlled area, and (b) displays the distance to a robot numerically in a virtual controlled area. A display example is shown. ロボットが管理区域を超えることを予告する画面の例を説明する図であり、(a)は管理区域とロボットの位置関係を示し、(b)は表示画面に表示される予告画面の例を示し、(c)は予告表示後の表示を示す。It is a figure explaining the example of the screen which gives notice that a robot goes over a controlled area, (a) shows the positional relationship between a controlled area and a robot, and (b) shows an example of a notice screen displayed on a display screen. , (C) indicate the display after the notice display. ロボットが管理区域を超えることを予告する画面の他の例を説明する図であり、(a)は管理区域とロボットの位置関係を示し、(b)は表示画面に表示される予告画面の例を示し、(c)は予告表示後の表示を示す。It is a figure explaining another example of the screen which announces that a robot exceeds a controlled area, (a) shows the positional relationship between a controlled area and a robot, (b) is an example of a notice screen displayed on a display screen. , And (c) shows the display after the notice is displayed. ロボットが管理区域に復帰することを予告する画面の例を説明する図であり、(a)は管理区域とロボットの位置関係を示し、(b)は表示画面に表示される予告画面の例を示し、(c)は予告表示後の表示を示す。It is a figure explaining the example of the screen which gives notice that a robot returns to a controlled area, (a) shows the positional relationship between a controlled area and a robot, and (b) is an example of a notice screen displayed on a display screen. (C) shows the display after the notice display. ロボットが管理区域に復帰することを予告する画面の例を説明する図であり、(a)は管理区域とロボットの位置関係を示し、(b)は表示画面に表示される予告画面の例を示し、(c)は予告表示後の表示を示す。It is a figure explaining the example of the screen which gives notice that a robot returns to a controlled area, (a) shows the positional relationship between a controlled area and a robot, and (b) is an example of a notice screen displayed on a display screen. (C) shows the display after the notice display. 管理区域の中央でロボットとの通信が途切れる場合の表示例を説明する図であり、(a)は管理区域とロボットの位置関係を示し、(b)は通信不良を予告する画面の例を示し、(c)は予告表示後の表示を示す。It is a figure explaining the display example when the communication with a robot is interrupted in the center of a controlled area, (a) shows the positional relationship between a controlled area and a robot, and (b) shows an example of a screen for notifying a communication failure. , (C) indicate the display after the notice display. 管理区域の中央でロボットとの通信が再開される場合の表示例を説明する図であり、(a)は管理区域とロボットの位置関係を示し、(b)は通信再開前の画面の例を示し、(c)は通信の再開を示す画面の例を示す。It is a figure explaining the display example at the time of resuming communication with a robot in the center of a controlled area, (a) shows the positional relationship between a controlled area and a robot, and (b) is an example of a screen before resuming communication. Shown, (c) shows an example of a screen showing the resumption of communication. 稼働情報取得部から稼働情報を取得した表示画像生成部による表示例を説明する図であり、(a)は実空間上でのロボットの稼働状態を示し、(b)は表示画面上の表示態様を示す。It is a figure explaining the display example by the display image generation part which acquired the operation information from the operation information acquisition part, (a) shows the operation state of a robot in a real space, (b) is a display mode on a display screen. Is shown. 稼働情報取得部から稼働情報を取得した表示画像生成部による表示の他の例を説明する図であり、(a)は実空間上でのロボットの稼働状態を示し、(b)は表示画面上の表示態様を示す。It is a figure explaining another example of the display by the display image generation part which acquired the operation information from the operation information acquisition part, (a) shows the operation state of the robot in the real space, and (b) is on the display screen. Indicates the display mode of. ユーザとロボットが近くに位置する場合の表示例を示す図であり、(a)は管理区域におけるユーザとロボットの位置を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the display example when a user and a robot are located close to each other, (a) shows the position of a user and a robot in a management area, and (b) shows a display example of the positional relationship in a virtual management area. ユーザとロボットが離れて位置する場合の表示例を示す図であり、(a)は管理区域におけるユーザとロボットの位置を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the display example when a user and a robot are positioned apart, (a) shows the position of a user and a robot in a management area, and (b) shows a display example of the positional relationship in a virtual management area. ユーザが管理区域の中央付近に位置する場合の表示例を示す図であり、(a)は管理区域におけるユーザとロボットの位置を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the display example when a user is located near the center of a controlled area, (a) shows the position of a user and a robot in a controlled area, and (b) shows a display example of the positional relationship in a virtual managed area. .. ユーザとロボットが近くに位置する場合の他の表示例を示す図であり、(a)は管理区域におけるユーザとロボットの位置を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the other display example when a user and a robot are located close to each other, (a) shows the position of a user and a robot in a controlled area, and (b) shows a display example of the positional relationship in a virtual managed area. .. ユーザとロボットが近くに位置する場合の他の表示例を示す図であり、(a)は管理区域におけるユーザとロボットの位置を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the other display example when a user and a robot are located close to each other, (a) shows the position of a user and a robot in a controlled area, and (b) shows a display example of the positional relationship in a virtual managed area. .. 管理区域内に複数のロボットが位置する場合の表示例を示す図であり、(a)は管理区域におけるユーザと2台のロボットの位置関係を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the display example when a plurality of robots are located in a controlled area, (a) shows the positional relationship between a user and two robots in a controlled area, and (b) is the positional relationship in a virtual managed area. A display example is shown. 管理区域内における複数のロボットの位置関係が変化した場合の表示例を示す図であり、(a)は管理区域におけるユーザと2台のロボットの位置関係を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the display example when the positional relationship of a plurality of robots in a controlled area changes, (a) shows the positional relationship of a user and two robots in a controlled area, and (b) is a virtual management area. A display example of the positional relationship is shown. 表示画面内に他の作業画面が表示された場合の表示例を示す図であり、(a)は管理区域におけるユーザと2台のロボットの位置関係を示し、(b)は仮想管理区域における位置関係の表示例を示す。It is a figure which shows the display example when another work screen is displayed in the display screen, (a) shows the positional relationship between a user and two robots in a management area, and (b) is a position in a virtual management area. An example of displaying the relationship is shown. 他の作業画面の表示寸法が変化する場合の仮想管理区域の形状変化を説明する図であり、(a)は他の作業画面が表示される前の表示例を示し、(b)は他の作業画面が表示された直後の表示例を示し、(c)は他の作業画面の表示面積が変更された後の表示例を示す。It is a figure explaining the shape change of the virtual management area when the display dimension of another work screen changes, (a) shows the display example before another work screen is displayed, (b) is another A display example immediately after the work screen is displayed is shown, and (c) shows a display example after the display area of another work screen is changed. ロボットが管理区域内でユーザから遠ざかる場合の表示例を説明する図であり、(a)は管理区域におけるユーザとロボットの位置関係を示し、(b)はロボットが遠ざかる様子を表現する表示例を示し、(c)はロボットが遠ざかる様子を表現する他の表示例を示す。It is a figure explaining the display example when a robot moves away from a user in a controlled area, (a) shows the positional relationship between a user and a robot in a controlled area, and (b) is a display example showing how a robot moves away. Shown, (c) shows another display example expressing how the robot moves away. ロボットが管理区域内でユーザに近づく場合の表示例を説明する図であり、(a)は管理区域におけるユーザとロボットの位置関係を示し、(b)はロボットが近づく様子を表現する表示例を示し、(c)はロボットが近づく様子を表現する他の表示例を示す。It is a figure explaining the display example when a robot approaches a user in a controlled area, (a) shows the positional relationship between a user and a robot in a controlled area, and (b) is a display example expressing how a robot approaches. Shown, (c) shows another display example expressing how the robot approaches. 複数の管理区域に位置している複数のロボットを1つの表示画面で管理する場合の表示例を説明する図であり、(a)は2つの管理区域におけるロボットの位置を示し、(b)は表示画面の表示例を示す。It is a figure explaining the display example in the case of managing a plurality of robots located in a plurality of control areas on one display screen, (a) shows the position of a robot in two control areas, and (b) is A display example of the display screen is shown. 表示画面を用いてロボットに指示を出す場合の表示例を説明する図であり、(a)はロボットからの指示要求画面例を示し、(b)はユーザによる指示の入力例を示し、(c)はロボットからの応答画面例を示す。It is a figure explaining the display example at the time of giving an instruction to a robot using a display screen, (a) shows an example of an instruction request screen from a robot, (b) shows an example of inputting an instruction by a user, and (c). ) Indicates an example of the response screen from the robot. ロボットに実行させたい機能を表す画像を、ロボットに紐付けられた画像に重ね合わせることで機能の実行を指示する場合の表示例を説明する図であり、(a)はロボットに対する機能の実行指示操作を示し、(b)はロボットからの応答画面例を示し、(c)はロボットの稼働動作を示す。It is a figure explaining the display example in the case of instructing the execution of a function by superimposing the image which shows the function which wants the robot to execute on the image associated with the robot, and (a) is the figure which shows the execution instruction of the function to the robot. The operation is shown, (b) shows an example of a response screen from the robot, and (c) shows the operation operation of the robot. ロボットに紐付けられた画像の位置を表示画面上で移動させる移動動作があると、管理区域上でロボットが実際に移動される様子を説明する図であり、(a)は表示画面の表示例を示し、(b)は実空間である管理区域におけるロボットの移動を示す。It is a figure explaining how the robot is actually moved on the management area when there is a moving operation which moves the position of an image associated with a robot on a display screen, and (a) is a display example of a display screen. (B) shows the movement of the robot in the controlled area which is the real space. 実空間上でのロボットの移動量に対応する仮想管理区域での画像の変化量が仮想管理区域の形状に応じて変化する様子を説明する図であり、(a)は実空間上でのロボットの移動量を示し、(b)は仮想管理区域の表示面積が大きい場合の画像の変化量を示し、(c)は仮想管理区域の表示面積が小さい場合の画像の変化量を示す。It is a figure explaining how the amount of change of an image in a virtual management area corresponding to the amount of movement of a robot in a real space changes according to the shape of a virtual management area, and (a) is a figure explaining how the robot in a real space changes. (B) shows the amount of change in the image when the display area of the virtual management area is large, and (c) shows the amount of change in the image when the display area of the virtual management area is small. 仮想管理区域の表示寸法に応じて画像の変化範囲が制約を受けることを説明する図であり、(a)は仮想管理区域の表示寸法が大きい場合の画像の変化範囲を示し、(b)は仮想管理区域の表示寸法が小さい場合の画像の変化範囲を示す。It is a figure explaining that the change range of an image is restricted according to the display dimension of a virtual management area, (a) shows the change range of an image when the display dimension of a virtual management area is large, and (b) is The range of change of the image when the display dimension of the virtual management area is small is shown.

以下、添付図面を参照して、本発明の実施の形態について詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

<システム構成例>
図1は、実施形態の一例である情報処理システム1の概念構成を示す図である。
情報処理システム1は、ユーザ3によって操作される情報端末100と、ユーザ3の管理下にあるロボット200とによって構成されている。
情報端末100は情報処理装置の一例であり、ロボット200は移動体の一例である。
<System configuration example>
FIG. 1 is a diagram showing a conceptual configuration of an information processing system 1 which is an example of an embodiment.
The information processing system 1 is composed of an information terminal 100 operated by the user 3 and a robot 200 under the control of the user 3.
The information terminal 100 is an example of an information processing device, and the robot 200 is an example of a mobile body.

図1では、情報端末100としてノート型のコンピュータを例示しているが、情報端末100は、搭載する表示デバイス又は外部の表示デバイスとの連携により、ロボット200の位置情報を表示できる機能を備える機器であれば種類を問わない。
例えば情報端末100は、(1)据え置き型のコンピュータ、タブレット型のコンピュータ、スマートウォッチ、スマートフォン、デジタルカメラ、ビデオカメラ、モニタ等の画像表示装置、画像記録装置、画像再生装置、ゲーム機等の電子機器、(2)冷蔵庫、調理器、洗濯機等の家庭用電気製品、(3)家電モニタ等の住宅設備、(4)自動車等の車両、(5)工作機械等でもよい。
In FIG. 1, a notebook computer is illustrated as the information terminal 100, but the information terminal 100 is a device having a function of displaying the position information of the robot 200 in cooperation with the mounted display device or an external display device. If so, it doesn't matter what kind.
For example, the information terminal 100 includes (1) electronic devices such as stationary computers, tablet computers, smart watches, smartphones, digital cameras, video cameras, monitors, and other image display devices, image recording devices, image playback devices, and game machines. Equipment, (2) household electric appliances such as refrigerators, cookers and washing machines, (3) housing equipment such as home appliance monitors, (4) vehicles such as automobiles, (5) machine tools and the like may be used.

本実施の形態において、「移動体」は、実空間において位置が固定されていない物であればよく、例えばぬいぐるみ等の人形や玩具、装飾品、ノート型のコンピュータ、タブレット型のコンピュータ、スマートウォッチ、スマートフォン、デジタルカメラ、ビデオカメラ、ボイスレコーダ、医療器具等の可搬型の物品の他、自動車、電車、船、飛行機、ドローン等の自走機構によって実空間内を移動する有人又は無人の輸送用機器も含まれる。また、移動体には、自転車やベビーカーのように人力で移動する車両も含まれる。
移動体の移動は、面内に限らず線上を含み、水平方向に限らず上下方向を含み、屋内に限らず屋外を含み、地上に限らず、水中、空中、地中、体内を含む。
In the present embodiment, the "moving body" may be an object whose position is not fixed in the real space, for example, a doll such as a stuffed animal, a toy, an ornament, a notebook computer, a tablet computer, or a smart watch. For manned or unmanned transportation that moves in real space by self-propelled mechanisms such as automobiles, trains, ships, airplanes, drones, as well as portable items such as smartphones, digital cameras, video cameras, voice recorders, medical equipment, etc. Equipment is also included. The moving body also includes a vehicle that moves manually, such as a bicycle or a stroller.
The movement of a moving body includes not only in-plane but also on a line, not only in a horizontal direction but also in a vertical direction, not only indoors but also outdoors, and not only on the ground but also in water, in the air, in the ground, and in the body.

図1の場合、ユーザ3は、情報端末100において実行される処理機能を通じ、管理区域300内にあるロボット200の所在や稼働状態を把握する。
管理区域300は、管理対象とする移動体の所在や状態の管理のために現実の空間で定められる区域であり、物理的に定まる場合(例えば建物、オフィスや店舗のフロア、壁やパーテーションで仕切られた部屋や区画など)だけでなく、基準点との関係で物理的に定まる場合、ユーザの指定により定まる場合を含む。
基準点には、構造物、物品、人、動物、植物などの物理的に特定可能な対象が用いられる。
基準点との関係には、基準点を含む区画、基準点を含む部屋、基準点を含むフロア、基準点を含む建物、基準点を含む地域の他、基準点からの距離なども含まれる。
In the case of FIG. 1, the user 3 grasps the location and operating state of the robot 200 in the controlled area 300 through the processing function executed by the information terminal 100.
The management area 300 is an area defined in a real space for managing the location and state of a moving object to be managed, and is partitioned by a physically determined area (for example, a building, an office or store floor, a wall or a partition). It includes not only the case where the room or section is set, but also the case where it is physically determined in relation to the reference point and the case where it is determined by the user's specification.
A physically identifiable object such as a structure, an article, a person, an animal, or a plant is used as a reference point.
The relationship with the reference point includes a section including the reference point, a room including the reference point, a floor including the reference point, a building including the reference point, an area including the reference point, and a distance from the reference point.

図2及び図3は、移動体が移動可能な最大範囲を与える実空間400の一部分を管理区域300に設定した例を表している。
図2は、ユーザ3を含むように管理区域300を定める例を示す図である。
図3は、基準点5から一定の距離又は一定の範囲を管理区域300に定める例を示す図である。
図3においては、管理区域300として、保護対象としての子供やペット、防犯対象として貴金属などが基準点5として指定された例を表している。
基準点5は必ずしも不動点に限らず、移動点であってもよい。基準点5が移動点の場合、管理区域300の範囲は基準点5の移動に伴って移動する。
2 and 3 show an example in which a part of the real space 400 that gives the maximum range in which the moving body can move is set in the controlled area 300.
FIG. 2 is a diagram showing an example in which the controlled area 300 is defined so as to include the user 3.
FIG. 3 is a diagram showing an example in which a certain distance or a certain range from the reference point 5 is defined in the controlled area 300.
FIG. 3 shows an example in which a child or pet as a protection target, a precious metal as a crime prevention target, or the like is designated as a reference point 5 as the control area 300.
The reference point 5 is not necessarily limited to a fixed point, but may be a moving point. When the reference point 5 is a moving point, the range of the controlled area 300 moves with the movement of the reference point 5.

図4は、実施形態の他の例である情報処理システム10の概念構成を示す図である。図4には図1との対応部分に同一符号を付して表している。
情報処理システム10では、情報端末100がネットワーク500を通じてサーバ600に接続されている。この点が、情報処理システム10と情報処理システム1(図1参照)との違いである。
情報処理システム10の場合、ロボット200の所在や稼働状態はサーバ600で実行される処理機能を通じて情報端末100に提供される。従って、図4における情報端末100はいわゆる入出力装置として使用され、後述する処理機能はサーバ600側で実行される。その意味で、サーバ600は情報処理装置の一例である。
FIG. 4 is a diagram showing a conceptual configuration of an information processing system 10 which is another example of the embodiment. In FIG. 4, the parts corresponding to those in FIG. 1 are designated by the same reference numerals.
In the information processing system 10, the information terminal 100 is connected to the server 600 through the network 500. This point is the difference between the information processing system 10 and the information processing system 1 (see FIG. 1).
In the case of the information processing system 10, the location and operating state of the robot 200 are provided to the information terminal 100 through a processing function executed by the server 600. Therefore, the information terminal 100 in FIG. 4 is used as a so-called input / output device, and the processing function described later is executed on the server 600 side. In that sense, the server 600 is an example of an information processing device.

<ロボットの構成>
・外観構成
図5は、本実施の形態で使用するロボット200の外観構成を説明する図である。ロボット200は、人形や玩具の一形態である。
ロボット200の外観構成は、図5に示すヒト型に限らず、犬やネコなどの動物、花や木などの植物、車(電車を含む)や飛行機等の乗り物を題材として表現したものでよい。本実施の形態における乗り物には有人機だけでなく無人機も含まれる。
<Robot configuration>
-Exterior configuration FIG. 5 is a diagram illustrating an external configuration of the robot 200 used in the present embodiment. The robot 200 is a form of a doll or a toy.
The appearance configuration of the robot 200 is not limited to the humanoid shape shown in FIG. 5, and may be expressed using animals such as dogs and cats, plants such as flowers and trees, and vehicles such as cars (including trains) and airplanes as subjects. .. The vehicle in this embodiment includes not only a manned vehicle but also an unmanned vehicle.

図5に例示したヒト型のロボット200は、胴部201、頭部202、腕203、205、手204、206、足207、208を有している。
本実施の形態における胴部201には、信号処理のための電子部品が格納されている。胴部201には、表示デバイスや音響機器が搭載されてもよい。
もっとも、ロボット200が単なる人形である場合、胴部201には詰め物が充填される。
The humanoid robot 200 illustrated in FIG. 5 has a body 201, a head 202, arms 203, 205, hands 204, 206, and feet 207, 208.
An electronic component for signal processing is stored in the body portion 201 of the present embodiment. A display device or an audio device may be mounted on the body 201.
However, when the robot 200 is just a doll, the body 201 is filled with padding.

本実施の形態における頭部202は、首の部分に設けられたジョイント機構を介して胴部201に連結されている。
本実施の形態の場合、ジョイント機構は、3軸まわりに回転可能である。3軸まわりの回転とは、ヨー(z軸まわりの回転)、ロール(x軸まわりの回転)、ピッチ(y軸まわりの回転)の3つである。
3軸の全てに対して回転可能である必要はなく、1軸のみ又は2軸について回転可能でよい。これらの回転は手動で行われてもよいし、不図示のモーターによる回転駆動により実現してもよい。もっとも、頭部202が胴部201に対して固定される場合を妨げない。
頭部202には目202A、202Bが設けられている。目202A及び202Bは、装飾的に配置されていてもよいし、撮像装置、投影機、照明等を内蔵してもよい。頭部202には可動式の耳が配置されていてもよい。
The head 202 in the present embodiment is connected to the body 201 via a joint mechanism provided in the neck portion.
In the case of this embodiment, the joint mechanism can rotate around three axes. The rotations around the three axes are yaw (rotation around the z-axis), roll (rotation around the x-axis), and pitch (rotation around the y-axis).
It does not have to be rotatable with respect to all three axes, but may be rotatable with respect to only one axis or two axes. These rotations may be performed manually or may be realized by rotational drive by a motor (not shown). However, it does not prevent the head 202 from being fixed to the body 201.
The head 202 is provided with eyes 202A and 202B. The eyes 202A and 202B may be arranged decoratively, or may include an image pickup device, a projector, lighting, and the like. Movable ears may be arranged on the head 202.

本実施の形態における腕203及び205は、胴部201とジョイント機構を介して連結されている。腕203及び205の上腕と前腕は、ジョイント機構を介して連結されている。
本実施の形態の場合、ジョイント機構は、頭部202と同様に多軸でも単軸でもよい。また、軸周りの回転は手動で実現されてもよいし、不図示のモーターによる回転駆動により実現してもよい。
もっとも、腕203及び205は、胴部201に固定されていてもよい。
なお、腕203及び205を予め定めた角度に折り曲げれば、物の運搬に用いることができる。
The arms 203 and 205 in this embodiment are connected to the body portion 201 via a joint mechanism. The upper and forearms of the arms 203 and 205 are connected via a joint mechanism.
In the case of the present embodiment, the joint mechanism may be multi-axis or single-axis as in the head 202. Further, the rotation around the axis may be realized manually, or may be realized by rotational driving by a motor (not shown).
However, the arms 203 and 205 may be fixed to the body portion 201.
If the arms 203 and 205 are bent at a predetermined angle, they can be used for carrying an object.

手204及び206は、手首の部分に設けられたジョイント機構を介して腕203及び205に連結されている。手204及び206の手の平と指は、いずれもジョイント機構を介して連結されている。
本実施の形態におけるジョイント機構は、頭部202と同様に多軸でも単軸でもよい。また、軸周りの回転は手動で実現されてもよいし、不図示のモーターによる回転駆動によって実現してもよい。
本実施の形態の場合、手204及び206は、指の開閉により物を掴むことができる。
手204及び206は、腕203及び205に対して固定でもよい。
The hands 204 and 206 are connected to the arms 203 and 205 via a joint mechanism provided on the wrist portion. The palms and fingers of the hands 204 and 206 are both connected via a joint mechanism.
The joint mechanism in the present embodiment may be multi-axis or single-axis as in the head 202. Further, the rotation around the axis may be realized manually, or may be realized by rotational driving by a motor (not shown).
In the case of the present embodiment, the hands 204 and 206 can grasp an object by opening and closing the fingers.
The hands 204 and 206 may be fixed to the arms 203 and 205.

足207及び208は、ジョイント機構を介して胴部201に連結されてもよいし、車輪やキャタピラー等の自走機構として胴部201に取り付けられてもよい。
足207及び208がジョイント機構を介して胴部201に連結される場合、ジョイント機構は、頭部202と同じく多軸でも単軸でもよい。
また、軸周りの回転は手動で実現されてもよいし、不図示のモーターによる回転駆動によって実現してもよい。なお、足207及び208は、胴部201に対して固定でもよい。
The legs 207 and 208 may be connected to the body 201 via a joint mechanism, or may be attached to the body 201 as a self-propelled mechanism such as a wheel or a caterpillar.
When the legs 207 and 208 are connected to the body 201 via a joint mechanism, the joint mechanism may be multi-axis or uniaxial like the head 202.
Further, the rotation around the axis may be realized manually, or may be realized by rotational driving by a motor (not shown). The legs 207 and 208 may be fixed to the body 201.

・ハードウェア構成
図6は、本実施の形態におけるロボット200のハードウェア構成を説明する図である。
ロボット200は、装置全体の動きを制御する制御部210と、静止画像又は動画像を撮像するカメラ211と、会話用の音声、楽曲、効果音を再生するスピーカ212と、音の入力又は取得に用いられるマイク213と、ジョイント機構などの可動機構214と、外部装置との通信に用いられる通信部215と、画像を表示する表示部216と、装置全体を移動させる移動機構217と、各部に電力を供給する電源218と、各部の状態や周辺情報の収集に使用されるセンサ219と、位置情報の取得に用いられる位置検知部220とを有している。これらの各部は、例えばバス221により互いに接続されている。
-Hardware configuration FIG. 6 is a diagram illustrating a hardware configuration of the robot 200 according to the present embodiment.
The robot 200 is used for inputting or acquiring sound, a control unit 210 that controls the movement of the entire device, a camera 211 that captures a still image or a moving image, a speaker 212 that reproduces voice, music, and sound effects for conversation. A microphone 213 used, a movable mechanism 214 such as a joint mechanism, a communication unit 215 used for communication with an external device, a display unit 216 for displaying an image, a moving mechanism 217 for moving the entire device, and electric power for each part. It has a power supply 218 for supplying the above, a sensor 219 used for collecting the state of each part and peripheral information, and a position detecting unit 220 used for acquiring position information. Each of these parts is connected to each other by, for example, bus 221.

言うまでもなく、図6に示すハードウェア構成は一例である。従って、ロボット200は、前述した全ての部材を搭載する必要はない。
また、ロボット200は、不図示の部材を更に搭載してもよい。例えばロボット200は、電源ボタン、記憶装置(ハードディスク装置、半導体メモリ等)、熱源(冷却源を含む。)等を搭載してもよい。
Needless to say, the hardware configuration shown in FIG. 6 is an example. Therefore, the robot 200 does not need to be equipped with all the above-mentioned members.
Further, the robot 200 may further mount a member (not shown). For example, the robot 200 may be equipped with a power button, a storage device (hard disk device, semiconductor memory, etc.), a heat source (including a cooling source), and the like.

制御部210は、いわゆるコンピュータであり、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)を有している。
ROMには、CPUにより実行されるプログラムが記憶されている。CPUは、ROMに記憶されているプログラムを読み出し、RAMを作業エリアに使用してプログラムを実行する。プログラムの実行を通じ、CPUはロボット200を構成する各部の動作を制御する。
The control unit 210 is a so-called computer, and has a CPU (Central Processing Unit), a ROM (Read Only Memory), and a RAM (Random Access Memory).
The ROM stores a program executed by the CPU. The CPU reads the program stored in the ROM and executes the program using the RAM as the work area. Through the execution of the program, the CPU controls the operation of each part constituting the robot 200.

制御部210は、例えばカメラ211、マイク213、センサ219を通じて取得される情報をプログラムに従って処理する機能を有している。
ここでの情報には、例えば視覚、聴覚、触覚、味覚、嗅覚、平衡感覚、温度が含まれる。
視覚は、カメラ211で撮像された画像の認識処理を通じて実現される。
聴覚は、マイク213で取得された音の認識処理を通じて実現される。
触覚には、例えば表在感覚(触覚、痛覚、温度覚)、深部覚(圧覚、位置覚、振動覚など)、皮質性感覚(二点識別覚、立体識別能力など)が含まれる。制御部210は、触覚の違いを分別できる。
触覚、味覚、臭覚、平衡感覚、温度は、各種のセンサ219による情報の検知を通じて実現される。なお、温度には、周辺温度、内部温度、ヒトや動物の体温なども含まれる。
更に、制御部210が取得する情報には、ヒトや動物の脳波も含み得る。この場合、脳波は、ヒト等に装着された脳波検知デバイスから発信される情報を通信部215で受信すればよい。
The control unit 210 has a function of processing information acquired through, for example, the camera 211, the microphone 213, and the sensor 219 according to a program.
The information here includes, for example, visual, auditory, tactile, taste, olfactory, equilibrium, and temperature.
Vision is realized through the recognition process of the image captured by the camera 211.
Hearing is realized through the sound recognition process acquired by the microphone 213.
Tactile sensations include, for example, superficial sensations (tactile sensations, pain sensations, temperature sensations), deep sensations (pressure sensations, position sensations, vibration sensations, etc.), and cortical sensations (two-point discrimination sensations, stereoscopic discrimination abilities, etc.). The control unit 210 can discriminate between tactile sensations.
The sense of touch, taste, smell, balance, and temperature are realized through the detection of information by various sensors 219. The temperature also includes ambient temperature, internal temperature, body temperature of humans and animals, and the like.
Further, the information acquired by the control unit 210 may include human or animal brain waves. In this case, the electroencephalogram may be received by the communication unit 215 from the information transmitted from the electroencephalogram detection device attached to a human or the like.

制御部210には、取得した情報を認識し、処理するための機能が備えられている。これらの機能は、内蔵されたプログラムや通信部215を通じて接続された外部のコンピュータで実行されるプログラムを通じて実現される。
認識処理では、人工知能に基づく機械学習を採用してもよく、当該技術を採用すればヒトに近い判断結果が得られる。最近では、ニューラルネットワーク型のディープラーニングが発達している。また部分的に学習分野を強化する強化学習などによる認識精度の向上も進んでいる。
さらに、制御部210には、不明な事態が発生した場合に、インターネット検索や外部のコンピュータとの通信を通じて情報を収集し、検索事象との類似度によって解決策を発見する機能を搭載してもよい。
The control unit 210 is provided with a function for recognizing and processing the acquired information. These functions are realized through a built-in program or a program executed by an external computer connected through the communication unit 215.
In the recognition process, machine learning based on artificial intelligence may be adopted, and if the technology is adopted, a judgment result close to that of a human can be obtained. Recently, neural network type deep learning has been developed. In addition, the recognition accuracy is being improved by reinforcement learning that partially strengthens the learning field.
Further, even if the control unit 210 is equipped with a function of collecting information through an Internet search or communication with an external computer and finding a solution based on the similarity with the search event when an unknown situation occurs. Good.

制御部210は、認識結果や処理結果に基づいて、各種の動作を実行する。例えばスピーカ212を通じて音声を出力したり、通信部215を通じてメッセージを送信したり、表示部216を通じて画像を出力してもよい。
これら情報の入出力や可動機構214の動きを通じ、制御部210は、ユーザとの間でコミュニケーションを成立させることができる。コミュニケーションの応用例には、例えば接客や会議の進行なども含まれる。
また、制御部210は、コミュニケーションの記録機能や議事録の作成機能を有してもよい。
The control unit 210 executes various operations based on the recognition result and the processing result. For example, voice may be output through the speaker 212, a message may be transmitted through the communication unit 215, or an image may be output through the display unit 216.
Through the input / output of such information and the movement of the movable mechanism 214, the control unit 210 can establish communication with the user. Examples of communication applications include, for example, customer service and the progress of meetings.
Further, the control unit 210 may have a communication recording function and a minutes creation function.

通信を確立できない外部機器が存在する場合、制御部210は、外部機器の遠隔操作のために用意されたコントローラを画像認識(例えば形状やリモコンに記載されている文字による認識)により特定し、特定されたコントローラに対する操作を通じて外部機器に対して指示を送信できるようにしてもよい。 When there is an external device for which communication cannot be established, the control unit 210 identifies and identifies the controller prepared for remote control of the external device by image recognition (for example, recognition by the shape or characters written on the remote controller). It may be possible to send an instruction to an external device through an operation on the controller.

本実施の形態の場合、カメラ211は、目202A及び202B(図5参照)の位置に配置される。
また、表示部216として投影機が用いられる場合、投影機は、例えば目202A及び202B(図5参照)のいずれか一方又は両方に配置することができる。なお、投影機は胴部201や頭部202に配置してもよい。
In the case of this embodiment, the camera 211 is arranged at the positions of the eyes 202A and 202B (see FIG. 5).
When a projector is used as the display unit 216, the projector can be arranged, for example, in one or both of the eyes 202A and 202B (see FIG. 5). The projector may be arranged on the body 201 or the head 202.

可動機構214は、物の搬送の他、感情を表現する目的でも使用される。
物の搬送に使用される場合、可動機構214は、腕203、205や手204、206の変形を通じて、例えば物を掴む、抱える、支える等の動作を実現する。
感情の表現に使用される場合、可動機構214は、例えば頭部202、腕203、205等(図5参照)の駆動を通じて、頭を傾げる、見上げる、周囲を見回す(キョロキョロする)、万歳する、指さし等の動作を実行する。
The movable mechanism 214 is used not only for transporting objects but also for expressing emotions.
When used for transporting an object, the movable mechanism 214 realizes an operation such as grasping, holding, or supporting an object through deformation of the arms 203, 205 and hands 204, 206.
When used to express emotions, the movable mechanism 214 tilts, looks up, looks around, hurrays, for example, by driving the head 202, arms 203, 205, etc. (see FIG. 5). Performs actions such as pointing.

本実施の形態における通信部215は、無線方式によって外部と通信する。
ロボット200には、通信先として想定する外部装置で用いられる通信方式の数だけ通信部215が搭載される。
通信方式には、例えば赤外線通信、可視光通信、近接無線通信、WiFi(登録商標)、ブルートゥース(登録商標)、RFID(登録商標)、ZigBee(登録商標)、IEEE802.11a(登録商標)、MulteFire、LPWA(Low Power Wide Area)等がある。
無線通信に使用する帯域には、短波長帯(例えば800MHz〜920MHz)、長波長帯(例えば2.4GHz、5GHz)等がある。
なお、通信部215と外部装置との接続には通信ケーブルを使用してもよい。
The communication unit 215 in the present embodiment communicates with the outside by a wireless method.
The robot 200 is equipped with communication units 215 as many as the number of communication methods used in the external device assumed as the communication destination.
Communication methods include, for example, infrared communication, visible light communication, proximity wireless communication, WiFi (registered trademark), Bluetooth (registered trademark), RFID (registered trademark), ZigBee (registered trademark), IEEE802.11a (registered trademark), and MultiFire. , LPWA (Low Power Wide Area) and the like.
The band used for wireless communication includes a short wavelength band (for example, 800 MHz to 920 MHz), a long wavelength band (for example, 2.4 GHz, 5 GHz) and the like.
A communication cable may be used to connect the communication unit 215 to the external device.

これらの通信機能の応用例として、ロボット200は、仮想通貨による決済機能を有してもよい。
決済機能には、事前に預託された金額の範囲での決済が可能なプリペイド式、後払い型のクレジット決済、指定口座から代金を決済するデビットカード決済等を用いてもよい。
通貨は、ビットコイン(登録商標)のような仮想通貨でもよい。
なお、ロボット200の胴部201に現金を収容する空間を設け、必要に応じて決済に必要な金額を排出する機能、収容されている現金を取り出せるように扉を開閉する機能などを設けてもよい。
スピーカ212と連動して、ヒトに現金を借りる機能を設けてもよい。
As an application example of these communication functions, the robot 200 may have a payment function using virtual currency.
As the payment function, a prepaid type, a postpaid type credit card payment, a debit card payment for payment from a designated account, or the like, which allows payment within the range of the amount deposited in advance, may be used.
The currency may be a virtual currency such as Bitcoin (registered trademark).
Even if a space for accommodating cash is provided in the body 201 of the robot 200, a function for discharging the amount of money required for settlement as needed, a function for opening and closing the door so that the stored cash can be taken out, and the like are provided. Good.
A function of borrowing cash from a person may be provided in conjunction with the speaker 212.

表示部216は、ユーザとの間で視覚的なコミュニケーションを実現するために用いられる。
本実施の形態の場合、表示部216には、文字や図形が表示される。
表示部216が頭部202に配置される場合、表示部216に表情を表示してもよい。
The display unit 216 is used to realize visual communication with the user.
In the case of this embodiment, characters and figures are displayed on the display unit 216.
When the display unit 216 is arranged on the head 202, the facial expression may be displayed on the display unit 216.

本実施の形態の場合、移動機構217には車輪やキャタピラーを用いるが、プロペラや圧縮空気の吹き出し機構を用い、空気の力でロボット200を移動させてもよい。
本実施の形態における電源218には二次電池を使用するが、電力を発生できれば一次電池、燃料電池、太陽電池のいずれを用いてもよい。
また、電源218の代わりに、電源ケーブルを通じて外部から電力の供給を受ける構成を採用してもよい。
In the case of the present embodiment, wheels and caterpillars are used for the moving mechanism 217, but the robot 200 may be moved by the force of air by using a propeller or a compressed air blowing mechanism.
A secondary battery is used as the power source 218 in the present embodiment, but any of a primary battery, a fuel cell, and a solar cell may be used as long as it can generate electric power.
Further, instead of the power supply 218, a configuration in which power is supplied from the outside through a power cable may be adopted.

本実施の形態の場合、ロボット200には、位置検知部220が搭載されている。
位置検知部220には、例えばGPS(Global Positioning System)信号から地点情報を読み取る方式、GPSと同等の信号を用いて屋内の位置を測位するIMES(Indoor Messaging System)方式、WiFiの複数のアクセスポイントから送信された電波の強度や到達時間等から位置を測位するWiFi測位方式、基地局から定期的に発生される信号に対する応答の方角と遅延時間から位置を測位する基地局測位方式、不可聴域の超音波を受信して位置を測位する音波測位方式、ブルートゥースを使ったビーコンからの電波を受信して位置を測位するブルートゥース測位方式、LED(Light Emitting Diode)等の照明光の点滅によって伝達される位置情報を用いて位置を測位する可視光測位方式、加速度センサやジャイロセンサ等を用いて現在位置を測位する自律航法方式等を利用する。
In the case of this embodiment, the robot 200 is equipped with a position detection unit 220.
The position detection unit 220 includes, for example, a method of reading point information from a GPS (Global Positioning System) signal, an IMES (Indoor Messaging System) method of positioning an indoor position using a signal equivalent to GPS, and a plurality of WiFi access points. WiFi positioning system that positions the position based on the strength and arrival time of the radio waves transmitted from, base station positioning method that positions the position based on the direction and delay time of the response to the signal periodically generated from the base station, inaudible area It is transmitted by the flashing of the illumination light such as the sonic positioning method that receives the ultrasonic waves of the above and positions the position, the Bluetooth positioning method that receives the radio waves from the beacon using the Bluetooth and positions the position, and the LED (Light Emitting Diode). A visible light positioning method that positions the position using the position information, an autonomous navigation method that positions the current position using an acceleration sensor, a gyro sensor, or the like is used.

図7は、ビーコンを用いる測位方式を説明する図である。図7の場合、発振器700Aが壁に配置され、発振器700Bが床に配置され、発振器700Cが天井に配置され、発振器700Dが画像形成装置700の内部に配置されている。各発信器からは、固有の位置情報によって変調されたビーコンが発せられる。
位置検出技術には、屋内用の技術に限らず、屋外用の技術を用いてもよい。ロボット200が屋内と屋外の両方で使用される場合、屋内用と屋外用の2種類の位置検知部220を搭載してもよい。
検出又は推定された位置情報は、通信部215を通じて情報端末100やサーバ600に通知される。
FIG. 7 is a diagram illustrating a positioning method using a beacon. In the case of FIG. 7, the oscillator 700A is arranged on the wall, the oscillator 700B is arranged on the floor, the oscillator 700C is arranged on the ceiling, and the oscillator 700D is arranged inside the image forming apparatus 700. Each transmitter emits a beacon modulated by unique location information.
The position detection technique is not limited to the technique for indoor use, and the technique for outdoor use may be used. When the robot 200 is used both indoors and outdoors, it may be equipped with two types of position detection units 220, one for indoor use and the other for outdoor use.
The detected or estimated position information is notified to the information terminal 100 and the server 600 through the communication unit 215.

本実施の形態の場合、ロボット200に位置検知部220が搭載されているが、位置検知部220が搭載されていない場合には、外部設備を通じてロボット200の位置情報を取得又は推定してもよい。
図8は、ロボット200から送信される通信用の電波からロボット200の位置を測位する方式を説明する図である。
ロボット200から送信された電波225は、位置が既知のアクセスポイント800A、800B、800Cで受信される。位置測位部900は、アクセスポイント800A、800B、800Cで受信された電波225の強度や遅延時間等からロボット200の位置を測位する。測位された位置情報は、位置測位部900から情報端末100やサーバ600に通知される。
もっとも、位置測位部900としての機能を情報端末100やサーバ600が実行してもよい。
In the case of the present embodiment, the position detection unit 220 is mounted on the robot 200, but when the position detection unit 220 is not mounted, the position information of the robot 200 may be acquired or estimated through external equipment. ..
FIG. 8 is a diagram illustrating a method of positioning the position of the robot 200 from communication radio waves transmitted from the robot 200.
The radio wave 225 transmitted from the robot 200 is received by access points 800A, 800B, and 800C whose positions are known. The positioning unit 900 positions the robot 200 based on the strength and delay time of the radio waves 225 received by the access points 800A, 800B, and 800C. The positioned position information is notified from the positioning unit 900 to the information terminal 100 and the server 600.
However, the information terminal 100 or the server 600 may execute the function as the positioning unit 900.

この他、ロボット200との間で近接無線通信が確立した読取装置(いわゆるリーダ)の位置情報をロボット200の位置として用いてもよい。
また、屋内や屋外に配置された監視カメラなどによって撮像された画像にロボット200の画像が含まれる場合、ロボット200を撮像した監視カメラの位置などをロボット200の位置として用いてもよい。ロボット200の検出には画像認識技術を使用する。
ここでの監視カメラを使用する方法は、ロボット200が電子部品を搭載しない人形の場合にも適用できる。
In addition, the position information of the reader (so-called reader) for which proximity wireless communication has been established with the robot 200 may be used as the position of the robot 200.
Further, when the image of the robot 200 is included in the image captured by the surveillance cameras arranged indoors or outdoors, the position of the surveillance camera that images the robot 200 or the like may be used as the position of the robot 200. Image recognition technology is used to detect the robot 200.
The method of using the surveillance camera here can also be applied to the case where the robot 200 is a doll on which no electronic component is mounted.

<情報端末及びサーバの構成>
続いて、情報端末100及びサーバ600の構成について説明する。以下では、情報端末100の構成について説明する。
<Configuration of information terminal and server>
Subsequently, the configurations of the information terminal 100 and the server 600 will be described. Hereinafter, the configuration of the information terminal 100 will be described.

・ハードウェア構成
図9は、本実施の形態における情報端末100のハードウェア構成を説明する図である。
情報端末100は、装置全体の動きを制御する制御部110と、ユーザによる操作入力を受け付ける操作部111と、外部装置との通信に用いられる通信部112と、各種のデータの記憶に用いられる記憶部113と、各種のアプリケーションに対応する作業画面を表示する表示部114と、音声や楽曲、効果音などを出力するスピーカ115とを有している。これらの各部は、例えばバス116により互いに接続されている。
-Hardware configuration FIG. 9 is a diagram illustrating a hardware configuration of the information terminal 100 according to the present embodiment.
The information terminal 100 includes a control unit 110 that controls the movement of the entire device, an operation unit 111 that receives an operation input by a user, a communication unit 112 that is used for communication with an external device, and a storage that is used for storing various data. It has a unit 113, a display unit 114 that displays work screens corresponding to various applications, and a speaker 115 that outputs voice, music, sound effects, and the like. Each of these parts is connected to each other by, for example, a bus 116.

言うまでもなく、図9に示すハードウェア構成は一例である。従って、情報端末100は、前述した全ての部材を搭載する必要はない。また、情報端末100は、不図示の部材を更に搭載してもよい。
なお、サーバ600の場合は、制御部110、通信部112、記憶部113が搭載されていればよい。
Needless to say, the hardware configuration shown in FIG. 9 is an example. Therefore, the information terminal 100 does not need to be equipped with all the above-mentioned members. Further, the information terminal 100 may further mount a member (not shown).
In the case of the server 600, the control unit 110, the communication unit 112, and the storage unit 113 may be mounted.

制御部110は、いわゆるコンピュータであり、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)を有している。
ROMには、CPUにより実行されるプログラムが記憶されている。CPUは、ROMに記憶されているプログラムを読み出し、RAMを作業エリアに使用してプログラムを実行する。プログラムの実行を通じ、CPUは情報端末100を構成する各部の動作を制御する。
本実施の形態における制御部110は表示制御部の一例である。表示制御部としての機能については後述する。
The control unit 110 is a so-called computer, and has a CPU (Central Processing Unit), a ROM (Read Only Memory), and a RAM (Random Access Memory).
The ROM stores a program executed by the CPU. The CPU reads the program stored in the ROM and executes the program using the RAM as the work area. Through the execution of the program, the CPU controls the operation of each part constituting the information terminal 100.
The control unit 110 in this embodiment is an example of a display control unit. The function as a display control unit will be described later.

操作部111には、マウス、キーボード、タッチパネル等が用いられる。タッチパネルは、表示部114の前面側に配置される。
通信部112は、有線方式により又は無線方式により外部装置と通信するための装置である。本実施の形態における通信部112は、無線方式により外部装置と通信する。外部装置の一例がロボット200である。
記憶部113は、ハードディスク装置その他の大容量の記憶装置である。CPUで実行されるプログラムは記憶部113に記憶されていてもよい。
A mouse, keyboard, touch panel, or the like is used for the operation unit 111. The touch panel is arranged on the front side of the display unit 114.
The communication unit 112 is a device for communicating with an external device by a wired method or a wireless method. The communication unit 112 in the present embodiment communicates with an external device by a wireless method. An example of an external device is a robot 200.
The storage unit 113 is a hard disk device or other large-capacity storage device. The program executed by the CPU may be stored in the storage unit 113.

表示部114には、液晶ディスプレイパネル、有機EL(electroluminescence)ディスプレイパネル等が用いられる。なお、表示部114は、情報端末100に対して外付けされるモニタでもよい。 A liquid crystal display panel, an organic EL (electroluminescence) display panel, or the like is used for the display unit 114. The display unit 114 may be a monitor externally attached to the information terminal 100.

・ソフトウェア構成
図10は、本実施の形態に係る情報端末100のソフトウェア構成を説明する図である。図10に示すソフトウェア構成は、制御部110によるプログラムの実行を通じて実現される。
Software Configuration FIG. 10 is a diagram illustrating a software configuration of the information terminal 100 according to the present embodiment. The software configuration shown in FIG. 10 is realized through the execution of a program by the control unit 110.

制御部110は、実空間400(図2、図3参照)上におけるロボット200の位置情報を取得する位置情報取得部1101と、ロボット200の位置管理に用いる基準位置を取得する基準位置取得部1102と、基準位置からロボット200の距離を計算する距離計算部1103として機能する。 The control unit 110 is a position information acquisition unit 1101 that acquires the position information of the robot 200 in the real space 400 (see FIGS. 2 and 3) and a reference position acquisition unit 1102 that acquires the reference position used for the position management of the robot 200. And, it functions as a distance calculation unit 1103 that calculates the distance of the robot 200 from the reference position.

位置情報取得部1101は、通信部112(図9参照)を通じてロボット200の位置情報を取得してもよいし、無線基地局における受信強度や遅延時間等に基づいてロボット200の位置情報を計算してもよい。
基準位置取得部1102は、基準位置として情報端末100を操作するユーザの位置、管理区域300の中心位置、ユーザによって指定された基準点5(図3参照)等のいずれを使用するかを取得する。
基準位置の情報は、指示受付部1107から与えられる。
The position information acquisition unit 1101 may acquire the position information of the robot 200 through the communication unit 112 (see FIG. 9), or calculate the position information of the robot 200 based on the reception strength, the delay time, and the like at the wireless base station. You may.
The reference position acquisition unit 1102 acquires whether to use the position of the user who operates the information terminal 100, the center position of the management area 300, the reference point 5 (see FIG. 3) designated by the user, or the like as the reference position. ..
Information on the reference position is given by the instruction receiving unit 1107.

距離計算部1103は、基準位置とロボット200との距離Lを計算する。
距離Lの例を図11〜図13に示す。
図11は、ユーザ3とロボット200との距離Lを説明する図である。この場合、ユーザ3とロボット200は管理区域300内に位置する。
図12は、管理区域300の中心位置Pcとロボット200との距離Lを説明する図である。この場合、ユーザ3は管理区域300の内側に位置してもよいし、ユーザ3Aのように管理区域300の外側に位置してもよい。
図13は、子供やペット等の基準点5とロボット200との距離Lを説明する図である。この場合も、ユーザ3は管理区域300の内側に位置してもよいし、ユーザ3Aのように管理区域300の外側に位置してもよい。
The distance calculation unit 1103 calculates the distance L between the reference position and the robot 200.
An example of the distance L is shown in FIGS. 11 to 13.
FIG. 11 is a diagram illustrating a distance L between the user 3 and the robot 200. In this case, the user 3 and the robot 200 are located in the controlled area 300.
FIG. 12 is a diagram illustrating a distance L between the central position Pc of the controlled area 300 and the robot 200. In this case, the user 3 may be located inside the controlled area 300, or may be located outside the controlled area 300 as in the user 3A.
FIG. 13 is a diagram illustrating a distance L between the reference point 5 of a child, a pet, or the like and the robot 200. In this case as well, the user 3 may be located inside the controlled area 300, or may be located outside the controlled area 300 as in the user 3A.

図10の説明に戻る。制御部110は、ロボット200の管理範囲を規定する管理区域300(図1〜図4参照)の位置情報を取得する管理区域情報取得部1104と、表示部114(図9参照)の画面上で管理区域300の表示に使用される表示領域の情報を取得する表示領域情報取得部1105と、取得された表示領域の形状に応じて画面上に配置する管理区域300の形状を変形する管理区域形状変形部1106として機能する。 Returning to the description of FIG. The control unit 110 is displayed on the screens of the management area information acquisition unit 1104 for acquiring the position information of the management area 300 (see FIGS. 1 to 4) that defines the management range of the robot 200 and the display unit 114 (see FIG. 9). The display area information acquisition unit 1105 that acquires the information of the display area used for displaying the control area 300, and the control area shape that deforms the shape of the control area 300 arranged on the screen according to the shape of the acquired display area. It functions as a deformed portion 1106.

管理区域情報取得部1104は、ユーザによって指定された管理区域300のレイアウト情報等を不図示のデータベース等から取得する。
データベースは記憶部113(図9参照)に保存されていてもよいし、通信部112(図9参照)を通じて接続された外部の記憶装置に格納されていてもよい。
本実施の形態における管理区域情報取得部1104は、管理区域300の情報として、レイアウト情報、実空間内に配置又は存在する備品の情報、位置の把握に必要なランドマーク等の情報も取得する。
The management area information acquisition unit 1104 acquires the layout information and the like of the management area 300 designated by the user from a database or the like (not shown).
The database may be stored in the storage unit 113 (see FIG. 9) or may be stored in an external storage device connected through the communication unit 112 (see FIG. 9).
The management area information acquisition unit 1104 in the present embodiment also acquires layout information, information on equipment arranged or existing in the real space, landmarks necessary for grasping the position, and the like as information on the management area 300.

本実施の形態における管理区域情報取得部1104は、取得された管理区域300の情報のうち少なくともレイアウト情報を管理区域形状変形部1106に出力する。
もっとも、管理区域情報取得部1104は、前述したレイアウト以外の情報も含めて管理区域形状変形部1106に出力してもよい。
なお、レイアウト情報は、設計図や地図レベルの精密かつ正確な情報に限らず、おおよその形状を表現した簡略的な情報でもよい。
The management area information acquisition unit 1104 in the present embodiment outputs at least layout information out of the acquired information of the management area 300 to the management area shape deformation unit 1106.
However, the management area information acquisition unit 1104 may output information other than the layout described above to the management area shape deformation unit 1106.
The layout information is not limited to precise and accurate information at the design drawing or map level, but may be simple information expressing an approximate shape.

レイアウト情報には、管理区域300内の領域の把握に有用な情報、例えば部署やチームの名称、店舗の名称等を含めてもよい。
備品やランドマークは、概念的なイメージを表す記号やマークによって表示画面114Aに表現されてもよい。
ただし、位置関係の把握の実現には、表示される情報量が増えすぎないことが好ましい。
また、位置関係の把握には、おおよそのレイアウトとレイアウト内の位置関係が分かればよい。このため、備品やランドマーク等に関する情報のうち実際に表示される情報は、表示画像生成部1110において選択してもよい。
管理区域300の設定又は選択に関する情報は、指示受付部1107から与えられる。
The layout information may include information useful for grasping the area within the controlled area 300, for example, the name of a department or team, the name of a store, and the like.
Equipment and landmarks may be represented on the display screen 114A by symbols or marks that represent conceptual images.
However, it is preferable that the amount of information displayed does not increase too much in order to grasp the positional relationship.
Further, in order to grasp the positional relationship, it is sufficient to know the approximate layout and the positional relationship within the layout. Therefore, the information that is actually displayed among the information related to equipment, landmarks, and the like may be selected by the display image generation unit 1110.
Information regarding the setting or selection of the controlled area 300 is given by the instruction receiving unit 1107.

表示領域情報取得部1105は、管理区域300の表示に使用できる表示領域の情報を取得する。
表示領域情報取得部1105は、表示画面114Aの物理的な情報(例えば7インチディスプレイ、解像度等)を取得する他、指示受付部1107を通じて受け付けた他の作業画面の寸法や配置位置に関する情報も取得する。
表示画面114A上に他の作業画面が表示されていない場合、表示上の管理区域(以下「仮想管理区域」という。)の表示には、表示部114の画面全体(表示画面114A)を使用できる。もっとも、仮想管理区域の表示に使用できる最大範囲は、ユーザが設定し又は調整してもよい。
表示画面114A上に他の作業画面が表示される場合、仮想管理区域300Aの表示には、表示画面114Aから他の作業画面を除いた部分が用いられる。
The display area information acquisition unit 1105 acquires information on the display area that can be used for displaying the management area 300.
The display area information acquisition unit 1105 acquires physical information (for example, 7-inch display, resolution, etc.) of the display screen 114A, and also acquires information on dimensions and arrangement positions of other work screens received through the instruction reception unit 1107. To do.
When no other work screen is displayed on the display screen 114A, the entire screen of the display unit 114 (display screen 114A) can be used to display the management area (hereinafter referred to as "virtual management area") on the display. .. However, the maximum range that can be used to display the virtual management area may be set or adjusted by the user.
When another work screen is displayed on the display screen 114A, a portion of the display screen 114A excluding the other work screen is used for displaying the virtual management area 300A.

管理区域形状変形部1106は、管理区域300のレイアウト情報を例えば図14〜図17に示すように変形する。
図14は、実空間における管理区域300が楕円形状であるのに対し、表示部114の表示画面114Aが概略矩形である場合の変形処理を説明する図であり、(a)は実空間における管理区域300の形状を示し、(b)は仮想管理区域300Aに加えられる部分領域別の変形の方向と大きさを示す。矢印の向きと長さは変形の方向と変形量を表している。
The control area shape deformation unit 1106 transforms the layout information of the control area 300 as shown in FIGS. 14 to 17, for example.
FIG. 14 is a diagram for explaining the deformation process when the control area 300 in the real space has an elliptical shape while the display screen 114A of the display unit 114 has a substantially rectangular shape, and FIG. 14A is a diagram for explaining the management in the real space. The shape of the area 300 is shown, and (b) shows the direction and magnitude of the deformation for each partial area applied to the virtual management area 300A. The direction and length of the arrow indicate the direction of deformation and the amount of deformation.

図14の場合、管理区域形状変形部1106は、変形後の仮想管理区域300Aが表示画面114Aの形状(例えば5インチディスプレイ)と一致するように、管理区域情報取得部1104から与えられた仮想管理区域300Aの全体を非線形に変形している。変形後の仮想管理区域300Aは、ロボット200に紐付けられた画像(図19等で後述する画像200A)の位置表示に使用される表示領域の一例である。
非線形に変形されるので、変形前のレイアウトと変形後のレイアウトは相似にはならない。
In the case of FIG. 14, the controlled area shape deforming unit 1106 is provided with virtual management provided by the controlled area information acquisition unit 1104 so that the deformed virtual management area 300A matches the shape of the display screen 114A (for example, a 5-inch display). The entire area 300A is deformed non-linearly. The deformed virtual management area 300A is an example of a display area used for position display of an image (image 200A described later in FIG. 19 and the like) associated with the robot 200.
Since it is deformed non-linearly, the layout before deformation and the layout after deformation are not similar.

図14の例では、仮想管理区域300Aのうち、表示画面114Aから領域の一部がはみ出す水平方向には圧縮変換が適用され、表示画面114Aの四隅の領域では伸長変換が適用される。
このように、図14に示す変形処理は、領域によって圧縮変換と伸長変換が適用される不均一な変形であり、変形後の仮想管理区域300Aには、圧縮される領域と伸長される領域が混在する。すなわち、図14に示す仮想管理区域300Aには、縮尺が異なる領域が混在している。
なお、管理区域形状変形部1106による仮想管理区域300Aの変形は、基準点に対するロボット200の遠近と基準点に対するロボット200のおおよその方向を把握できる程度に情報が保存される変形であればよい。
In the example of FIG. 14, the compression conversion is applied to the horizontal direction in which a part of the area protrudes from the display screen 114A in the virtual management area 300A, and the expansion conversion is applied to the four corner areas of the display screen 114A.
As described above, the deformation process shown in FIG. 14 is a non-uniform deformation to which the compression conversion and the decompression conversion are applied depending on the region, and the virtual management area 300A after the deformation has a compressed region and a decompressed region. Mixed. That is, in the virtual management area 300A shown in FIG. 14, areas having different scales are mixed.
The deformation of the virtual management area 300A by the control area shape deformation unit 1106 may be a deformation in which information is stored to such an extent that the perspective of the robot 200 with respect to the reference point and the approximate direction of the robot 200 with respect to the reference point can be grasped.

このような変形を実現する手法は1つではなく、様々な手法が考えられる。
例えば個々の領域における変形量が表示画面114Aの中心から遠いほど大きく、表示画面114Aの中心に近いほど小さくなるようにしてもよい。
また、方向や領域別に圧縮すべき量や伸長すべき量を特定し、その大きさに応じて各方向や領域に対する変形量を定めてもよい。
There is not only one method for realizing such a transformation, but various methods can be considered.
For example, the amount of deformation in each region may be larger as it is farther from the center of the display screen 114A and smaller as it is closer to the center of the display screen 114A.
Further, the amount to be compressed and the amount to be decompressed may be specified for each direction and region, and the amount of deformation for each direction and region may be determined according to the size.

なお、管理区域情報取得部1104から与えられた仮想管理区域300Aの形状と表示画面114Aの形状が相似である場合には、管理区域形状変形部1106が、仮想管理区域300Aを相似変換してもよい。
もっとも、管理区域情報取得部1104から与えられた仮想管理区域300Aの形状と表示画面114Aの形状が相似でも、仮想管理区域300Aの一部領域を非線形に変形することは可能である。
If the shape of the virtual management area 300A given by the management area information acquisition unit 1104 is similar to the shape of the display screen 114A, the management area shape transformation unit 1106 may perform a similarity transformation of the virtual management area 300A. Good.
However, even if the shape of the virtual management area 300A given by the management area information acquisition unit 1104 and the shape of the display screen 114A are similar, it is possible to deform a part of the virtual management area 300A non-linearly.

図15は、ユーザ3が位置する管理区域300の端部が画面左端に位置するように仮想管理区域300Aを変形する例を説明する図であり、(a)は実空間における管理区域300の形状を示し、(b)は表示上の仮想管理区域300Aに加えられる部分領域別の変形の方向と大きさを示す。矢印の向きと長さは変形の方向と変形量を表している。 FIG. 15 is a diagram illustrating an example of deforming the virtual management area 300A so that the end of the management area 300 where the user 3 is located is located at the left end of the screen, and FIG. 15A is a diagram illustrating the shape of the management area 300 in the real space. (B) shows the direction and magnitude of the deformation for each partial area applied to the virtual control area 300A on the display. The direction and length of the arrow indicate the direction of deformation and the amount of deformation.

図15の例では、仮想管理区域300Aのうち、表示画面114Aから領域の一部がはみ出す水平方向には左端に向けて全体的に圧縮変形する処理が適用され、表示画面114Aの左上隅と左下隅の領域では伸長変換が適用される。
この変形手法でも、仮想管理区域300Aが表示画面114Aと同じ概略矩形に変形されるが、実空間上における地点と表示画面上の地点の対応関係の分布は図14の例とは異なるものになる。
In the example of FIG. 15, in the virtual management area 300A, a process of compressing and deforming the entire area toward the left end is applied in the horizontal direction in which a part of the area protrudes from the display screen 114A, and the upper left corner and the lower left of the display screen 114A are applied. Stretching transformations are applied in the corner areas.
Even with this transformation method, the virtual management area 300A is transformed into the same approximate rectangle as the display screen 114A, but the distribution of the correspondence between the points in the real space and the points on the display screen is different from the example in FIG. ..

図16は、実空間における管理区域300が一方向に長い長方形状(例えば細長い通路)であるのに対し、表示部114の表示画面114Aが概略矩形である場合の変形処理を説明する図であり、(a)は実空間における管理区域300の形状を示し、(b)は仮想管理区域300Aに加えられる部分領域別の変形の方向と大きさを示す。矢印の向きと長さは変形の方向と変形量を表している。 FIG. 16 is a diagram illustrating a deformation process when the control area 300 in the real space has a rectangular shape (for example, an elongated passage) long in one direction, while the display screen 114A of the display unit 114 has a substantially rectangular shape. , (A) show the shape of the controlled area 300 in the real space, and (b) show the direction and magnitude of the deformation for each partial area applied to the virtual controlled area 300A. The direction and length of the arrow indicate the direction of deformation and the amount of deformation.

図16の例では、仮想管理区域300Aのうち、表示画面114Aから領域の一部がはみ出す水平方向には圧縮変換が適用され、表示画面114Aの上下方向には伸長変換が適用される。
図16に示すように一方向の長い長方形状の場合にも、図15に例示したように、ユーザ3が位置する管理区域300の端部が画面左端に位置するように仮想管理区域300Aを変形してもよい。
In the example of FIG. 16, in the virtual management area 300A, the compression conversion is applied in the horizontal direction in which a part of the area protrudes from the display screen 114A, and the expansion conversion is applied in the vertical direction of the display screen 114A.
Even in the case of a long rectangle in one direction as shown in FIG. 16, as illustrated in FIG. 15, the virtual management area 300A is deformed so that the end of the management area 300 where the user 3 is located is located at the left end of the screen. You may.

ところで、図14〜図16に示す変形の例では、変形後の仮想管理区域300Aの形状を表示画面114Aの形状に一致させているが、変形後の仮想管理区域300Aの形状が表示画面114Aの形状に一致しなくてもよい。
このような例を図17に示す。図17は、変形後の仮想管理区域300Aの形状が表示画面114Aの形状に一致しない例を説明する図であり、(a)は実空間における管理区域300の形状を示し、(b)は仮想管理区域300Aに加えられる部分領域別の変形の方向と大きさを示す。
図17は、実空間における管理区域300が一方向に長い長方形状(例えば細長い通路)であるのに対し、表示画面114Aが概略矩形である場合を表している。
By the way, in the deformation examples shown in FIGS. 14 to 16, the shape of the virtual management area 300A after the deformation is matched with the shape of the display screen 114A, but the shape of the virtual management area 300A after the deformation is the shape of the display screen 114A. It does not have to match the shape.
An example of this is shown in FIG. 17A and 17B are diagrams for explaining an example in which the shape of the virtual management area 300A after deformation does not match the shape of the display screen 114A. FIG. 17A shows the shape of the management area 300 in the real space, and FIG. 17B shows the virtual management area 300. The direction and magnitude of the deformation for each partial area applied to the controlled area 300A are shown.
FIG. 17 shows a case where the control area 300 in the real space has a rectangular shape (for example, an elongated passage) long in one direction, while the display screen 114A has a substantially rectangular shape.

図17の例では、表示画面114Aからはみ出す領域がある水平方向についてのみ圧縮しているので、表示画面114Aには仮想管理区域300Aの上下位置に余白が生じている。
しかし、左右方向については、表示画面114Aに収まるように変形しているので、図17に示す変形も、特許請求の範囲における「表示領域の形状に応じて変形する」の一例である。
In the example of FIG. 17, since compression is performed only in the horizontal direction where there is an area protruding from the display screen 114A, margins are generated in the vertical position of the virtual management area 300A on the display screen 114A.
However, since the left-right direction is deformed so as to fit in the display screen 114A, the deformation shown in FIG. 17 is also an example of "deformation according to the shape of the display area" in the claims.

続いて、表示画面114A上に他の作業画面が表示されている又は新たに表示される場合における仮想管理区域300Aの変形例について説明する。
図18は、表示画面114A上に他の作業画面114Bが表示される場合に、他の作業画面と重ならないように仮想管理区域300Aを変形させる例を説明する図であり、(a)は実空間における管理区域300の形状を示し、(b)は仮想管理区域300Aに加えられる部分領域別の変形の方向と大きさを示す。
ここでの他の作業画面114Bは、特許請求の範囲における「他の作業領域」の一例である。
Subsequently, a modification of the virtual management area 300A when another work screen is displayed or is newly displayed on the display screen 114A will be described.
FIG. 18 is a diagram illustrating an example in which the virtual management area 300A is deformed so as not to overlap with the other work screen when another work screen 114B is displayed on the display screen 114A, and FIG. 18A is an actual diagram. The shape of the controlled area 300 in the space is shown, and (b) shows the direction and magnitude of the deformation for each partial area applied to the virtual controlled area 300A.
The other work screen 114B here is an example of "another work area" in the claims.

図18の場合、変形前は楕円形状であった仮想管理区域300AがL字形状に変形されている。
なお、仮想管理区域300Aの形状は、他の作業画面114Bの形状が変化すると又は閉じられると、他の作業画面114Bの形状変化に連動して変化する。
In the case of FIG. 18, the virtual management area 300A, which had an elliptical shape before the deformation, is deformed into an L shape.
The shape of the virtual management area 300A changes in conjunction with the change in the shape of the other work screen 114B when the shape of the other work screen 114B changes or is closed.

図10の説明に戻る。制御部110は、ユーザ3からの指示を受け付ける指示受付部1107としての機能を有している。
ここでの指示には、前述した基準位置の指定、管理区域300の指定などが含まれる。
Returning to the description of FIG. The control unit 110 has a function as an instruction receiving unit 1107 that receives an instruction from the user 3.
The instructions here include the above-mentioned designation of the reference position, designation of the controlled area 300, and the like.

また、制御部110は、指示受付部1107で受け付けた指示のうち外部装置(例えばロボット200)に対する指示内容を通信部112により送信する指示送信部1108として機能する。
例えば表示画面114A上で、ロボット200に実行させたい機能を表す画像がロボット200に紐付けられた画像200A(図19参照)に重ね合わせるように移動された場合、指示送信部1108は、該当する機能の実行を指示するコマンドをロボット200に送信する。ここでの「ロボット200に実行させたい機能を表す画像」は、特許請求の範囲における「他の画像」の一例である。
Further, the control unit 110 functions as an instruction transmission unit 1108 for transmitting the content of the instruction to the external device (for example, the robot 200) among the instructions received by the instruction reception unit 1107 by the communication unit 112.
For example, when the image representing the function to be executed by the robot 200 is moved on the display screen 114A so as to be superimposed on the image 200A (see FIG. 19) associated with the robot 200, the instruction transmitting unit 1108 corresponds to the corresponding image. A command instructing the execution of the function is transmitted to the robot 200. The "image representing the function to be executed by the robot 200" here is an example of "another image" within the scope of the claims.

また、制御部110は、位置情報取得部1101から与えられるロボット200やユーザ3(又は3A)の位置情報を表示画面114Aに表示される仮想管理区域300A上にマッピングするマッピング部1109として機能する。
マッピング部1109は、ロボット200やユーザ3(又は3A)が管理区域300内に位置するか否かを判断する機能も有している。
Further, the control unit 110 functions as a mapping unit 1109 that maps the position information of the robot 200 or the user 3 (or 3A) given by the position information acquisition unit 1101 on the virtual management area 300A displayed on the display screen 114A.
The mapping unit 1109 also has a function of determining whether or not the robot 200 or the user 3 (or 3A) is located in the controlled area 300.

本実施の形態におけるマッピング部1109は、管理区域形状変形部1106で実行された変形処理の情報を取得し、又は、管理区域300と仮想管理区域300Aの間の座標の対応関係に関する情報を取得し、仮想管理区域300A上にロボット200やユーザ3の位置をマッピングする(対応付ける)処理を実行する。
マッピング処理の際には、表示部114の解像度も考慮される。従って、ディスプレイの寸法が同じでも解像度が異なればロボット200やユーザ3のマッピング位置は異なる可能性がある。
The mapping unit 1109 in the present embodiment acquires information on the deformation process executed by the controlled area shape deforming unit 1106, or acquires information on the coordinate correspondence between the controlled area 300 and the virtual controlled area 300A. , The process of mapping (associating) the positions of the robot 200 and the user 3 on the virtual management area 300A is executed.
The resolution of the display unit 114 is also taken into consideration during the mapping process. Therefore, even if the dimensions of the display are the same, the mapping positions of the robot 200 and the user 3 may be different if the resolution is different.

さらに、制御部110は、ロボット200の位置情報がマッピングされた後の仮想管理区域300Aに基づいて、仮想管理区域300Aの画像を生成する表示画像生成部1110としても機能する。
ここで、表示画像生成部1110は、ロボット200の位置をアイコンや画像等によって仮想管理区域300A上に表示する。
Further, the control unit 110 also functions as a display image generation unit 1110 that generates an image of the virtual management area 300A based on the virtual management area 300A after the position information of the robot 200 is mapped.
Here, the display image generation unit 1110 displays the position of the robot 200 on the virtual management area 300A by an icon, an image, or the like.

管理区域300に配置されたカメラが撮像したロボット200の画像が画像取得部1111から与えられる場合、表示画像生成部1110は、アイコンに代えてロボット200の実画像を表示することもできる。
図19は、表示画面114Aにおけるロボット200の位置表示に実画像を用いる例を説明する図であり、(a)はカメラ910の配置例を示し、(b)は仮想管理区域300Aにおける表示例を示す。
実画像(画像200A)を用いることで、仮想管理区域300A上で管理される物品が複数の場合にも、ユーザ3による位置の把握が容易になる。
When the image of the robot 200 captured by the camera arranged in the control area 300 is given from the image acquisition unit 1111, the display image generation unit 1110 can also display the actual image of the robot 200 instead of the icon.
19A and 19B are views for explaining an example in which an actual image is used for displaying the position of the robot 200 on the display screen 114A. FIG. 19A shows an example of arranging the camera 910, and FIG. 19B shows an example of display in the virtual management area 300A. Shown.
By using the real image (image 200A), the position can be easily grasped by the user 3 even when there are a plurality of articles managed on the virtual management area 300A.

また、表示画像生成部1110は、距離計算部1103から距離情報を入力してもよい。この場合、表示画像生成部1110は、表示画面114A上に距離を表す数値を表示することができる。表示例については後述する。
また、表示画像生成部1110は、距離に応じて画像200Aの表示寸法を変更することもできる。表示例については後述する。
Further, the display image generation unit 1110 may input the distance information from the distance calculation unit 1103. In this case, the display image generation unit 1110 can display a numerical value representing the distance on the display screen 114A. A display example will be described later.
In addition, the display image generation unit 1110 can change the display dimensions of the image 200A according to the distance. A display example will be described later.

また、表示画像生成部1110は、仮想管理区域300A以外の作業画面(他の作業画面114B)が画面上に表示された場合に、仮想管理区域300Aの表示寸法はそのままに他の作業画面114Bを避けるように表示位置を移動させる機能を有してもよい。図20〜図23に表示位置の移動例を示す。 Further, when the display image generation unit 1110 displays a work screen (other work screen 114B) other than the virtual management area 300A on the screen, the display image generation unit 1110 displays the other work screen 114B while keeping the display dimensions of the virtual management area 300A. It may have a function of moving the display position so as to avoid it. 20 to 23 show an example of moving the display position.

図20は、表示画面114A上に他の作業画面114Bが表示される場合に、仮想管理区域300Aを表示画面114A内で移動する例を説明する図であり、(a)は他の作業画面114Bが表示される前の仮想管理区域300Aの表示位置を示し、(b)は他の作業画面114Bが表示された後の仮想管理区域300Aの表示位置を示す。 FIG. 20 is a diagram illustrating an example of moving the virtual management area 300A within the display screen 114A when another work screen 114B is displayed on the display screen 114A, and FIG. 20A is a diagram illustrating another work screen 114B. Indicates the display position of the virtual management area 300A before the display of, and (b) indicates the display position of the virtual management area 300A after the other work screen 114B is displayed.

図21は、表示画面114A上に他の作業画面114Bが表示される場合に、仮想管理区域300Aを表示画面114Aと仮想管理画面114Cを跨ぐ位置に移動する例を説明する図であり、(a)は他の作業画面114Bが表示される前の仮想管理区域300Aの表示位置を示し、(b)は他の作業画面114Bが表示された後の仮想管理区域300Aの表示位置を示す。
ここで、仮想管理画面114Cは、物理的な表示画面114Aの外側に位置する非表示のページである。非表示のページは仮想空間の一例である。図21では、非表示のページが1つの例を表しているが、非表示のページ数は複数でもよい。
FIG. 21 is a diagram illustrating an example of moving the virtual management area 300A to a position straddling the display screen 114A and the virtual management screen 114C when another work screen 114B is displayed on the display screen 114A (a). ) Indicates the display position of the virtual management area 300A before the other work screen 114B is displayed, and (b) indicates the display position of the virtual management area 300A after the other work screen 114B is displayed.
Here, the virtual management screen 114C is a hidden page located outside the physical display screen 114A. The hidden page is an example of virtual space. In FIG. 21, one hidden page is shown as an example, but the number of hidden pages may be plural.

図21の例では、仮想管理区域300Aの形状を変化させずに表示位置を移動させているが、新たに表示された他の作業画面114Bに応じて仮想管理区域300Aの形状を変化させた後に表示位置を移動させてもよい。
例えば他の作業画面114Bに応じて単純に変形したのでは仮想管理区域300Aの表示面積が小さくなりすぎて、ロボット200の位置の理解そのものが困難になる可能性がある。
そこで、仮想管理区域300Aの表示面積が予め定めた面積より小さくならないように変形し、その後、仮想管理区域300Aの表示位置を移動させてもよい。
In the example of FIG. 21, the display position is moved without changing the shape of the virtual management area 300A, but after changing the shape of the virtual management area 300A according to the newly displayed other work screen 114B. The display position may be moved.
For example, if the robot 200 is simply deformed according to another work screen 114B, the display area of the virtual management area 300A becomes too small, and it may be difficult to understand the position of the robot 200 itself.
Therefore, the display area of the virtual management area 300A may be deformed so as not to be smaller than the predetermined area, and then the display position of the virtual management area 300A may be moved.

図22は、表示画面114A上に他の作業画面114Bが表示される場合に、仮想管理区域300Aを仮想管理画面114Cに移動する例を説明する図であり、(a)は他の作業画面114Bが表示される前の仮想管理区域300Aの表示位置を示し、(b)は他の作業画面114Bが表示された後の仮想管理区域300Aの表示位置を示す。
この場合も、仮想管理区域300Aの形状を変形した後に表示位置を移動させてもよい。
FIG. 22 is a diagram illustrating an example of moving the virtual management area 300A to the virtual management screen 114C when another work screen 114B is displayed on the display screen 114A, and FIG. 22A is a diagram illustrating another work screen 114B. Indicates the display position of the virtual management area 300A before the display of, and (b) indicates the display position of the virtual management area 300A after the other work screen 114B is displayed.
In this case as well, the display position may be moved after the shape of the virtual management area 300A is deformed.

また、表示画像生成部1110には、ロボット200に紐付けられた画像200Aの表示寸法を基準位置からの距離に応じて変化させる機能を搭載してもよい。
図23は、距離Lに応じてロボット200に紐付けられた画像200Aの表示寸法を変化させる例を説明する図であり、(a)は実空間上におけるユーザ3とロボット200の距離Lの関係を示し、(b)は表示寸法の変化が連続的である場合を示し、(c)は表示寸法の変化がステップ的である場合を示す。
Further, the display image generation unit 1110 may be equipped with a function of changing the display dimension of the image 200A associated with the robot 200 according to the distance from the reference position.
FIG. 23 is a diagram illustrating an example of changing the display dimension of the image 200A associated with the robot 200 according to the distance L, and FIG. 23A is a diagram showing the relationship between the user 3 and the robot 200 in the real space. (B) shows the case where the change of the display dimension is continuous, and (c) shows the case where the change of the display dimension is stepwise.

図23に示すように、表示画像生成部1110は、距離Lが近くなるほど大きな表示寸法で画像200Aを表示し、距離Lが遠くなるほど小さい表示寸法で画像200Aを表示する。このように表示寸法を変化させることで、ユーザ3によるロボット200の位置の把握が容易になる。
なお、ステップ的な表示寸法の変化は、距離Lと閾値との比較により実現される。例えば距離Lが閾値を超えるタイミングで(大きい方に超える場合と小さい方に超える場合の2種類がある)、表示画像生成部1110は画像200Aの表示寸法を変化させる。
本実施の形態では、画像200Aの表示寸法を変化させる機能を、仮想管理区域300Aを表示画面114Aの形状に応じて変形させる機能と組み合わせて用いるが、表示領域の形状の変形とは無関係に画像200Aの表示寸法を変化させてもよい。
As shown in FIG. 23, the display image generation unit 1110 displays the image 200A with a larger display dimension as the distance L becomes closer, and displays the image 200A with a smaller display dimension as the distance L becomes farther. By changing the display dimensions in this way, it becomes easy for the user 3 to grasp the position of the robot 200.
The stepwise change in the display dimension is realized by comparing the distance L with the threshold value. For example, when the distance L exceeds the threshold value (there are two types, a case where the distance L exceeds the threshold value and a case where the distance L exceeds the threshold value), the display image generation unit 1110 changes the display dimension of the image 200A.
In the present embodiment, the function of changing the display dimension of the image 200A is used in combination with the function of deforming the virtual management area 300A according to the shape of the display screen 114A, but the image is irrespective of the deformation of the shape of the display area. The display dimension of 200A may be changed.

なお、表示画面114Aでの表示寸法の変化によってロボット200が近いか遠いかを把握することはできても実際の距離までは分からない。
距離の理解には、仮想管理区域300A上における各位置の表示縮尺や距離情報の表示が必要である。
図24は仮想管理区域300Aの各部に表示縮尺(スケールバー)を表示する例を示す図である。図24の例では表示画面114Aの4隅部分に比して画面中央側の十字領域の圧縮比率が高いことを表している。
表示縮尺は、縮尺情報の一例であり、表示画面114Aにマッピングされた画像200Aに対応するロボット200の実空間400上における位置を補足する情報として用いられる。
It should be noted that although it is possible to grasp whether the robot 200 is near or far by changing the display dimension on the display screen 114A, it is not possible to know the actual distance.
In order to understand the distance, it is necessary to display the display scale and the distance information of each position on the virtual management area 300A.
FIG. 24 is a diagram showing an example of displaying a display scale (scale bar) in each part of the virtual management area 300A. In the example of FIG. 24, the compression ratio of the cross region on the center side of the screen is higher than that of the four corners of the display screen 114A.
The display scale is an example of scale information, and is used as information for supplementing the position of the robot 200 in the real space 400 corresponding to the image 200A mapped on the display screen 114A.

図25は表示寸法が表す距離情報を画面上に表示する例を説明する図であり、(a)は表示寸法と距離の対応見本を示し、(b)は画像200Aの近傍に距離の目安が表示される例を示す。
図26はロボット200の位置を特定するエリア名で表示する例を説明する図であり、(a)は管理区域300で規定されているエリア名を示し、(b)は仮想管理区域300A上にロボット200が存在するエリア名を表示する表示例を示す。図26では、セクションAに行くことが文字で表示されている。
FIG. 25 is a diagram for explaining an example of displaying the distance information represented by the display dimensions on the screen. FIG. 25A shows a sample correspondence between the display dimensions and the distance, and FIG. 25B shows a guideline for the distance in the vicinity of the image 200A. Here is an example that is displayed.
FIG. 26 is a diagram illustrating an example of displaying the position of the robot 200 by an area name, in which (a) shows the area name defined by the controlled area 300, and (b) is on the virtual controlled area 300A. A display example for displaying the name of the area in which the robot 200 exists is shown. In FIG. 26, going to section A is indicated in text.

図27はロボット200までの距離を画面上に表示する例を説明する図であり、(a)は管理区域300内にあるロボット200の位置を示し、(b)は仮想管理区域300Aにロボット200までの距離Lを数値で表示する表示例を示す。
これらの表示機能の組み合わせにより、ユーザ3は、ロボット200の位置を容易に把握できるのに加え、より正確な位置を理解できる。
FIG. 27 is a diagram illustrating an example of displaying the distance to the robot 200 on the screen, (a) shows the position of the robot 200 in the controlled area 300, and (b) shows the robot 200 in the virtual controlled area 300A. A display example is shown in which the distance L to is displayed numerically.
By combining these display functions, the user 3 can easily grasp the position of the robot 200 and can understand the more accurate position.

また、表示画像生成部1110にはロボット200が管理区域300を超えることを表示画面上で予告する機能を設けてもよい。
図28はロボット200が管理区域300を超えることを予告する画面の例を説明する図であり、(a)は管理区域300とロボット200の位置関係を示し、(b)は表示画面114Aに表示される予告画面の例を示し、(c)は予告表示後の表示を示す。
本実施の形態の場合、「予告」とは、画像200Aが表示画面114Aから消滅することの報知又は示唆することを意味する。
図28の例では、ロボット200が管理区域300から出ることが「さようなら」との文字で表示され、その後、画像200Aが画面上から消えている。これによりユーザ3はロボット200が管理区域300から外れることを表示画面114A上で理解できる。
Further, the display image generation unit 1110 may be provided with a function of notifying on the display screen that the robot 200 will exceed the control area 300.
FIG. 28 is a diagram illustrating an example of a screen for notifying that the robot 200 exceeds the controlled area 300, (a) shows the positional relationship between the controlled area 300 and the robot 200, and (b) is displayed on the display screen 114A. An example of the notice screen to be displayed is shown, and (c) shows the display after the notice is displayed.
In the case of the present embodiment, the "notice" means notifying or suggesting that the image 200A disappears from the display screen 114A.
In the example of FIG. 28, it is displayed by the characters "Goodbye" that the robot 200 leaves the controlled area 300, and then the image 200A disappears from the screen. As a result, the user 3 can understand on the display screen 114A that the robot 200 is out of the controlled area 300.

図29はロボット200が管理区域300を超えることを予告する画面の他の例を説明する図であり、(a)は管理区域300とロボット200の位置関係を示し、(b)は表示画面114Aに表示される予告画面の例を示し、(c)は予告表示後の表示を示す。
図29の例では、ロボット200が管理区域300から出ることが手を振る動作で表示され、その後、画像200Aが画面上から消えている。これによりユーザ3はロボット200が管理区域300から外れることを表示画面114A上で理解できる。
29A and 29B are views for explaining another example of the screen for notifying that the robot 200 exceeds the controlled area 300, FIG. 29A shows the positional relationship between the controlled area 300 and the robot 200, and FIG. 29B shows the display screen 114A. An example of the notice screen displayed in is shown, and (c) shows the display after the notice is displayed.
In the example of FIG. 29, the robot 200 exiting the controlled area 300 is displayed by waving, and then the image 200A disappears from the screen. As a result, the user 3 can understand on the display screen 114A that the robot 200 is out of the controlled area 300.

また、表示画像生成部1110には、ロボット200が管理区域300に復帰することを表示画面上で予告する機能を設けてもよい。
図30はロボット200が管理区域300に復帰することを予告する画面の例を説明する図であり、(a)は管理区域300とロボット200の位置関係を示し、(b)は表示画面114Aに表示される予告画面の例を示し、(c)は予告表示後の表示を示す。
図30の例では、ロボット200が管理区域300に戻ることが「ただいま」との文字とともに画像200Aが画面上に出現されている。すなわち、画像200Aが再表示されている。これによりユーザ3はロボット200が管理区域300に復帰したことを表示画面114A上で理解できる。
Further, the display image generation unit 1110 may be provided with a function of notifying on the display screen that the robot 200 will return to the control area 300.
FIG. 30 is a diagram illustrating an example of a screen for notifying that the robot 200 returns to the controlled area 300, (a) shows the positional relationship between the controlled area 300 and the robot 200, and (b) shows the display screen 114A. An example of the notice screen to be displayed is shown, and (c) shows the display after the notice is displayed.
In the example of FIG. 30, the image 200A appears on the screen with the words "I'm home" when the robot 200 returns to the controlled area 300. That is, the image 200A is redisplayed. As a result, the user 3 can understand on the display screen 114A that the robot 200 has returned to the controlled area 300.

図31はロボット200が管理区域300に復帰することを予告する画面の例を説明する図であり、(a)は管理区域300とロボット200の位置関係を示し、(b)は表示画面114Aに表示される予告画面の例を示し、(c)は予告表示後の表示を示す。
図31の例では、ロボット200が管理区域300に復帰することが、お辞儀をする画像200Aを画面上に出現させることで示されている。すなわち、画像200Aが再表示されている。これによりユーザ3はロボット200が管理区域300に復帰したことを表示画面114A上で理解できる。
FIG. 31 is a diagram illustrating an example of a screen for notifying that the robot 200 will return to the controlled area 300, (a) shows the positional relationship between the controlled area 300 and the robot 200, and (b) shows the display screen 114A. An example of the notice screen to be displayed is shown, and (c) shows the display after the notice is displayed.
In the example of FIG. 31, it is shown that the robot 200 returns to the controlled area 300 by making the bowing image 200A appear on the screen. That is, the image 200A is redisplayed. As a result, the user 3 can understand on the display screen 114A that the robot 200 has returned to the controlled area 300.

また、表示画像生成部1110には、ロボット200が管理区域300の中にあっても通信不良となることを表示する機能を設けてもよい。
図32は、管理区域300の中央でロボット200との通信が途切れる場合の表示例を説明する図であり、(a)は管理区域300とロボット200の位置関係を示し、(b)は通信不良を予告する画面の例を示し、(c)は予告表示後の表示を示す。
図32の例では、ロボット200と通信できなくなったことが手を振る動作で表示され、その後、画像200Aが画面上から消えている。
仮想管理区域300Aの中央に位置するにもかかわらず、このような動作の後にロボット200に紐付けられた画像200Aが消えることでロボット200との通信が途切れたことを、ユーザ3は表示画面114A上で理解できる。
なお、通信不良となったことを文字によって画面上に表示してもよい。
Further, the display image generation unit 1110 may be provided with a function of displaying that the robot 200 has a communication failure even if it is in the control area 300.
FIG. 32 is a diagram illustrating a display example when communication with the robot 200 is interrupted in the center of the controlled area 300, (a) shows the positional relationship between the controlled area 300 and the robot 200, and (b) is a communication failure. An example of the screen for notifying is shown, and (c) shows the display after the notice is displayed.
In the example of FIG. 32, it is displayed by waving that the robot 200 cannot communicate with the robot 200, and then the image 200A disappears from the screen.
Although it is located in the center of the virtual management area 300A, the user 3 indicates that the communication with the robot 200 is interrupted due to the disappearance of the image 200A associated with the robot 200 after such an operation. Can be understood above.
It should be noted that the communication failure may be displayed on the screen by characters.

図33は、管理区域300の中央でロボット200との通信が再開される場合の表示例を説明する図であり、(a)は管理区域300とロボット200の位置関係を示し、(b)は通信再開前の画面の例を示し、(c)は通信の再開を示す画面の例を示す。
図33の例では、ロボット200との通信が復帰したことが、お辞儀した画像200Aの出現で表示されている。
仮想管理区域300Aの中央に位置するにもかかわらず、お辞儀した画像200Aが出現することで、ロボット200との通信が再開したことを、ユーザ3は表示画面114A上で理解できる。
なお、通信が再開したことを文字によって画面上に表示してもよい。因みに画像200Aの表示が消える際の表示寸法と表示が回復する際の表示寸法は同じになる。
FIG. 33 is a diagram illustrating a display example when communication with the robot 200 is resumed in the center of the controlled area 300, where (a) shows the positional relationship between the controlled area 300 and the robot 200, and (b) is. An example of a screen before resuming communication is shown, and (c) shows an example of a screen showing resumption of communication.
In the example of FIG. 33, the restoration of communication with the robot 200 is indicated by the appearance of the bowed image 200A.
The user 3 can understand on the display screen 114A that the communication with the robot 200 is resumed by the appearance of the bowed image 200A even though it is located in the center of the virtual management area 300A.
It should be noted that the fact that communication has resumed may be displayed on the screen by characters. Incidentally, the display dimension when the display of the image 200A disappears and the display dimension when the display is restored are the same.

図10の説明に戻る。制御部110は、ロボット200から稼働情報を取得する稼働情報取得部1112としての機能も有している。
ロボット200の稼働状態を取得できれば、表示画面114Aにロボット200の稼働状態を表示することができる。
Returning to the description of FIG. The control unit 110 also has a function as an operation information acquisition unit 1112 that acquires operation information from the robot 200.
If the operating state of the robot 200 can be acquired, the operating state of the robot 200 can be displayed on the display screen 114A.

図34は、稼働情報取得部1112から稼働情報を取得した表示画像生成部1110による表示例を説明する図であり、(a)は実空間上でのロボット200の稼働状態を示し、(b)は表示画面上の表示態様を示す。
図34では、ロボット200が荷物230を運んでいる状態を表している。このため、表示画面114Aには荷物230Aを運ぶ画像200Aが表示されている。この表示よりユーザ3は、ロボット200が荷物230を運んでいることを確認できる。
FIG. 34 is a diagram for explaining a display example by the display image generation unit 1110 that has acquired the operation information from the operation information acquisition unit 1112. FIG. 34A shows the operation state of the robot 200 in the real space, and FIG. 34B shows the operation state of the robot 200. Indicates a display mode on the display screen.
FIG. 34 shows a state in which the robot 200 is carrying the luggage 230. Therefore, the image 200A carrying the luggage 230A is displayed on the display screen 114A. From this display, the user 3 can confirm that the robot 200 is carrying the luggage 230.

図35は、稼働情報取得部1112から稼働情報を取得した表示画像生成部1110による表示の他の例を説明する図であり、(a)は実空間上でのロボット200の稼働状態を示し、(b)は表示画面上の表示態様を示す。
図35では、ロボット200が荷物230を落とした状態を表している。この例では、表示画面114Aでも、荷物230Aを持っていない画像200Aが表示されるとともに「HELP」、「荷物落とした」、「荷物拾いに来て」等の救援を要請する表記(文字)が表示されている。この表示よりユーザ3は、ロボット200を視認できなくてもトラブルの発生を知り、対応動作をとることが可能になる。
FIG. 35 is a diagram illustrating another example of display by the display image generation unit 1110 that has acquired operation information from the operation information acquisition unit 1112, and FIG. 35A shows an operating state of the robot 200 in the real space. (B) shows a display mode on the display screen.
FIG. 35 shows a state in which the robot 200 has dropped the luggage 230. In this example, even on the display screen 114A, the image 200A that does not have the luggage 230A is displayed, and the notation (characters) requesting help such as "HELP", "dropped the luggage", and "come to pick up the luggage" is displayed. It is displayed. From this display, the user 3 can know the occurrence of a trouble and take a corresponding action even if the robot 200 cannot be visually recognized.

<操作画面例>
以下では、実施の形態に係る情報端末100による操作画面例について説明する。
・画面例1
図36は、ユーザ3とロボット200が近くに位置する場合の表示例を示す図であり、(a)は管理区域300におけるユーザ3とロボット200の位置を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
図36ではユーザ3の近くにロボット200が位置する場合の表示例であるので、ユーザ3を表す画像3Bの近くに比較的大きな表示寸法でロボット200に紐付けられた画像200Aが表示されている。図36からは、ロボット200が管理区域300の中央付近に位置することもわかる。
<Example of operation screen>
Hereinafter, an example of an operation screen by the information terminal 100 according to the embodiment will be described.
・ Screen example 1
FIG. 36 is a diagram showing a display example when the user 3 and the robot 200 are located close to each other. FIG. 36A shows the positions of the user 3 and the robot 200 in the management area 300, and FIG. 36B shows the virtual management area 300A. An example of displaying the positional relationship in the above is shown.
Since FIG. 36 is a display example when the robot 200 is located near the user 3, the image 200A associated with the robot 200 is displayed near the image 3B representing the user 3 with a relatively large display dimension. .. It can also be seen from FIG. 36 that the robot 200 is located near the center of the controlled area 300.

図37は、ユーザ3とロボット200が離れて位置する場合の表示例を示す図であり、(a)は管理区域300におけるユーザ3とロボット200の位置を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
図37ではユーザ3の遠くにロボット200が位置する場合の表示例であるので、ユーザ3を表す画像3Bから遠く離れた位置に小さい表示寸法でロボット200に紐付けられた画像200Aが表示されている。図37からは、ロボット200が管理区域300の隅付近に位置することも分かる。
FIG. 37 is a diagram showing a display example when the user 3 and the robot 200 are located apart from each other. FIG. 37A shows the positions of the user 3 and the robot 200 in the management area 300, and FIG. 37B shows the virtual management area 300A. An example of displaying the positional relationship in the above is shown.
Since FIG. 37 is a display example when the robot 200 is located far away from the user 3, the image 200A associated with the robot 200 is displayed at a position far away from the image 3B representing the user 3 with a small display dimension. There is. It can also be seen from FIG. 37 that the robot 200 is located near the corner of the controlled area 300.

なお、図36と図37ではロボット200に紐付けられた画像200Aの表示寸法をユーザ3との距離に応じて変化させているが、表示寸法は画面上の位置によらず同じとしてもよい。 Although the display dimensions of the image 200A associated with the robot 200 are changed according to the distance to the user 3 in FIGS. 36 and 37, the display dimensions may be the same regardless of the position on the screen.

・画面例2
図38は、ユーザ3が管理区域300の中央付近に位置する場合の表示例を示す図であり、(a)は管理区域300におけるユーザ3とロボット200の位置を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
図38は、ロボット200が管理区域300の隅に位置する点で図37の例と同じであるが、ユーザ3とロボット200との距離が近いため、ロボット200に紐付けられた画像200Aの表示寸法はあまり小さくなっていない。
・ Screen example 2
FIG. 38 is a diagram showing a display example when the user 3 is located near the center of the management area 300, (a) shows the positions of the user 3 and the robot 200 in the management area 300, and (b) is virtual management. An example of displaying the positional relationship in the area 300A is shown.
FIG. 38 is the same as the example of FIG. 37 in that the robot 200 is located at the corner of the controlled area 300, but since the distance between the user 3 and the robot 200 is short, the display of the image 200A associated with the robot 200 is displayed. The dimensions are not very small.

・画像例3
図39は、ユーザ3とロボット200が近くに位置する場合の他の表示例を示す図であり、(a)は管理区域300におけるユーザ3とロボット200の位置を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
ユーザ3とロボット200の位置関係は図36と同じである。ただし、図39の場合には、表示領域に対応する距離の目安が表示されている。例えば図39の例では、ロボット200が100mほど離れたところに位置することが分かる。
ロボット200に紐付けられた画像200Aの表示寸法と画面上の距離の目安から、ユーザ3はロボット200の位置関係を容易に把握できる。
・ Image example 3
FIG. 39 is a diagram showing another display example when the user 3 and the robot 200 are located close to each other. FIG. 39A shows the positions of the user 3 and the robot 200 in the management area 300, and FIG. 39B shows virtual management. An example of displaying the positional relationship in the area 300A is shown.
The positional relationship between the user 3 and the robot 200 is the same as in FIG. 36. However, in the case of FIG. 39, a guideline for the distance corresponding to the display area is displayed. For example, in the example of FIG. 39, it can be seen that the robot 200 is located at a distance of about 100 m.
From the display dimensions of the image 200A associated with the robot 200 and the guideline of the distance on the screen, the user 3 can easily grasp the positional relationship of the robot 200.

・画面例4
図40は、ユーザ3とロボット200が近くに位置する場合の他の表示例を示す図であり、(a)は管理区域300におけるユーザ3とロボット200の位置を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
ユーザ3とロボット200の位置関係は図39と同じである。ただし、図40の場合には、表示領域に対応する縮尺情報が表示されている。具体的には、同じ長さでも画面の左側は5m、中央付近は10m、右側は100mであることが分かる。
ロボット200に紐付けられた画像200Aの表示寸法と画面上の縮尺情報から、ユーザ3はロボット200の位置関係を容易に把握できる。
・ Screen example 4
FIG. 40 is a diagram showing another display example when the user 3 and the robot 200 are located close to each other. FIG. 40A shows the positions of the user 3 and the robot 200 in the management area 300, and FIG. 40B shows virtual management. An example of displaying the positional relationship in the area 300A is shown.
The positional relationship between the user 3 and the robot 200 is the same as in FIG. 39. However, in the case of FIG. 40, the scale information corresponding to the display area is displayed. Specifically, it can be seen that the left side of the screen is 5 m, the vicinity of the center is 10 m, and the right side is 100 m even if the length is the same.
From the display dimensions of the image 200A associated with the robot 200 and the scale information on the screen, the user 3 can easily grasp the positional relationship of the robot 200.

・画面例5
図41は、管理区域300内に複数のロボット200が位置する場合の表示例を示す図であり、(a)は管理区域300におけるユーザ3と2台のロボット200(1)、200(2)の位置関係を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
図41に示す表示例では、近くに位置するロボット200(1)と200(2)を表す画像200A(1)と200A(2)が同じ表示寸法で表示されている。
ただし、画像200A(1)と200A(2)の表示形態が同じでは2台のロボット200(1)と200(2)を区別できない。
そこで、図41では、2つの画像200A(1)と200A(2)の表示形態を変えて2台のロボット200(1)と200(2)の位置関係を区別できるようにしている。なお、図41では、画像200A(1)と画像200A(2)の色を変えている。
・ Screen example 5
FIG. 41 is a diagram showing a display example when a plurality of robots 200 are located in the controlled area 300, and FIG. 41 (a) shows a user 3 and two robots 200 (1) and 200 (2) in the controlled area 300. (B) shows a display example of the positional relationship in the virtual management area 300A.
In the display example shown in FIG. 41, the images 200A (1) and 200A (2) representing the robots 200 (1) and 200 (2) located nearby are displayed with the same display dimensions.
However, if the display modes of the images 200A (1) and 200A (2) are the same, the two robots 200 (1) and 200 (2) cannot be distinguished.
Therefore, in FIG. 41, the display modes of the two images 200A (1) and 200A (2) are changed so that the positional relationship between the two robots 200 (1) and 200 (2) can be distinguished. In FIG. 41, the colors of the image 200A (1) and the image 200A (2) are changed.

図42は、管理区域300内における複数のロボット200の位置関係が変化した場合の表示例を示す図であり、(a)は管理区域300におけるユーザ3と2台のロボット200(1)、200(2)の位置関係を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
図42に示す表示例では、ロボット200(1)がユーザ3に近づいた一方で、ロボット200(2)はユーザ3から遠ざかっている。加えて図42では、画像200A(1)の表示寸法が大きく変化し、画像200A(2)の表示寸法が小さく変化している。
この表示の変化により、ユーザ3は2台のロボット200(1)と200(2)の位置関係を容易に把握できる。
FIG. 42 is a diagram showing a display example when the positional relationship of a plurality of robots 200 in the management area 300 changes, and FIG. 42A shows the user 3 and the two robots 200 (1) and 200 in the management area 300. The positional relationship of (2) is shown, and (b) shows a display example of the positional relationship in the virtual management area 300A.
In the display example shown in FIG. 42, the robot 200 (1) is approaching the user 3, while the robot 200 (2) is moving away from the user 3. In addition, in FIG. 42, the display dimension of the image 200A (1) has changed significantly, and the display dimension of the image 200A (2) has changed slightly.
By this change in display, the user 3 can easily grasp the positional relationship between the two robots 200 (1) and 200 (2).

・画面例6
図43は、表示画面114A内に他の作業画面114Bが表示された場合の表示例を示す図であり、(a)は管理区域300におけるユーザ3と2台のロボット200(1)、200(2)の位置関係を示し、(b)は仮想管理区域300Aにおける位置関係の表示例を示す。
図43では仮想管理区域300Aの形状が他の作業画面114Bを避けるように変形されており、その結果として、ロボット200(2)を表す画像200A(2)が表示画面114Aの真ん中付近に移動されている。
ただし、この表示位置は管理区域300の端に対応するため、ロボット200(2)を表す画像200A(2)の表示寸法は他方のロボット200(1)を表す画像200A(1)の表示寸法に対して格段に小さくなっている。
これによりユーザ3はロボット200(1)が近くに位置し、ロボット200(2)が遠くに位置することを容易に把握できる。
・ Screen example 6
FIG. 43 is a diagram showing a display example when another work screen 114B is displayed in the display screen 114A, and FIG. 43A shows a user 3 and two robots 200 (1) and 200 (a) in the control area 300. The positional relationship of 2) is shown, and (b) shows a display example of the positional relationship in the virtual management area 300A.
In FIG. 43, the shape of the virtual management area 300A is deformed so as to avoid the other work screen 114B, and as a result, the image 200A (2) representing the robot 200 (2) is moved to the vicinity of the center of the display screen 114A. ing.
However, since this display position corresponds to the edge of the controlled area 300, the display dimension of the image 200A (2) representing the robot 200 (2) is the display dimension of the image 200A (1) representing the other robot 200 (1). On the other hand, it is much smaller.
As a result, the user 3 can easily grasp that the robot 200 (1) is located near and the robot 200 (2) is located far away.

・画面例7
図44は、他の作業画面114Bの表示寸法が変化する場合の仮想管理区域300Aの形状変化を説明する図であり、(a)は他の作業画面114Bが表示される前の表示例を示し、(b)は他の作業画面114Bが表示された直後の表示例を示し、(c)は他の作業画面114Bの表示面積が変更された後の表示例を示す。
図44では、仮想管理区域300Aの形状が変化しているが、ロボット200に紐付けられた画像200Aの表示寸法は変化していない。このように仮想管理区域300Aの変化によらず、ユーザ3はロボット200の位置を容易に把握できる。
・ Screen example 7
FIG. 44 is a diagram for explaining the shape change of the virtual management area 300A when the display dimension of the other work screen 114B changes, and FIG. 44A shows a display example before the other work screen 114B is displayed. , (B) show a display example immediately after the other work screen 114B is displayed, and (c) show a display example after the display area of the other work screen 114B is changed.
In FIG. 44, the shape of the virtual management area 300A has changed, but the display dimension of the image 200A associated with the robot 200 has not changed. In this way, the user 3 can easily grasp the position of the robot 200 regardless of the change in the virtual management area 300A.

・画面例8
図45は、ロボット200が管理区域300内でユーザ3から遠ざかる場合の表示例を説明する図であり、(a)は管理区域300におけるユーザ3とロボット200の位置関係を示し、(b)はロボット200が遠ざかる様子を表現する表示例を示し、(c)はロボット200が遠ざかる様子を表現する他の表示例を示す。
(b)では、ユーザ3に対応する画像3Bに対してロボット200に紐付けられた画像200Aが背を向けている。(c)では、表示画面114Aを見ているユーザ3に対してロボット200に紐付けられた画像200Aが背を向けている。
・ Screen example 8
FIG. 45 is a diagram illustrating a display example when the robot 200 moves away from the user 3 in the controlled area 300, (a) shows the positional relationship between the user 3 and the robot 200 in the controlled area 300, and (b) is. A display example showing how the robot 200 moves away is shown, and (c) shows another display example showing how the robot 200 moves away.
In (b), the image 200A associated with the robot 200 is turned away from the image 3B corresponding to the user 3. In (c), the image 200A associated with the robot 200 is turned away from the user 3 who is looking at the display screen 114A.

図46は、ロボット200が管理区域300内でユーザ3に近づく場合の表示例を説明する図であり、(a)は管理区域300におけるユーザ3とロボット200の位置関係を示し、(b)はロボット200が近づく様子を表現する表示例を示し、(c)はロボット200が近づく様子を表現する他の表示例を示す。
(b)では、ユーザ3に対応する画像3Bに対してロボット200に紐付けられた画像200Aが正面を向けている。(c)では、表示画面114Aを見ているユーザ3に対してロボット200に紐付けられた画像200Aが正面を向けている。
FIG. 46 is a diagram illustrating a display example when the robot 200 approaches the user 3 in the controlled area 300, (a) shows the positional relationship between the user 3 and the robot 200 in the controlled area 300, and (b) is. A display example showing the approaching state of the robot 200 is shown, and (c) shows another display example expressing the approaching state of the robot 200.
In (b), the image 200A associated with the robot 200 faces the front of the image 3B corresponding to the user 3. In (c), the image 200A associated with the robot 200 faces the front of the user 3 who is looking at the display screen 114A.

・画面例9
図47は、複数の管理区域300に位置している複数のロボット200(1)と200(2)を1つの表示画面114Aで管理する場合の表示例を説明する図であり、(a)は2つの管理区域300(1)と300(2)におけるロボット200の位置を示し、(b)は表示画面114Aの表示例を示す。
表示画面114Aには、2つの管理区域300(1)と300(2)に対応する2つの仮想管理区域300A(1)と300A(2)が並んで表示されている。
仮想管理区域300A(1)では、ロボット200(1)に対応する画像200A(1)の表示寸法が大きく表示され、仮想管理区域300A(2)では、ロボット200(2)に対応する画像200A(2)の表示寸法が小さく表示されている。
・ Screen example 9
FIG. 47 is a diagram illustrating a display example in the case where a plurality of robots 200 (1) and 200 (2) located in a plurality of controlled areas 300 are managed by one display screen 114A, and FIG. 47 (a) is a diagram for explaining a display example. The positions of the robot 200 in the two controlled areas 300 (1) and 300 (2) are shown, and (b) shows a display example of the display screen 114A.
On the display screen 114A, two virtual management areas 300A (1) and 300A (2) corresponding to the two management areas 300 (1) and 300 (2) are displayed side by side.
In the virtual management area 300A (1), the display dimension of the image 200A (1) corresponding to the robot 200 (1) is displayed large, and in the virtual management area 300A (2), the image 200A corresponding to the robot 200 (2) ( The display dimension of 2) is displayed small.

・画面例10
図48は、表示画面114Aを用いてロボット200に指示を出す場合の表示例を説明する図であり、(a)はロボット200からの指示要求画面例を示し、(b)はユーザによる指示の入力例を示し、(c)はロボット200からの応答画面例を示す。
例えばロボット200に紐付けられた画像200Aの上にカーソルを合わせて右クリックすると、指示要求画面が表示される。
図48の例では、ユーザ3がロボット200に印刷物の配送を要求する場合の例を示している。
・ Screen example 10
FIG. 48 is a diagram illustrating a display example when an instruction is given to the robot 200 using the display screen 114A, FIG. 48A shows an example of an instruction request screen from the robot 200, and FIG. 48B shows an instruction request by the user. An input example is shown, and (c) shows an example of a response screen from the robot 200.
For example, when the cursor is placed on the image 200A associated with the robot 200 and right-clicked, the instruction request screen is displayed.
In the example of FIG. 48, an example is shown in which the user 3 requests the robot 200 to deliver the printed matter.

・画面例11
図49は、ロボット200に実行させたい機能を表す画像250をロボット200に紐付けられた画像200Aに重ね合わせることで機能の実行を指示する場合の表示例を説明する図であり、(a)はロボット200に対する機能の実行指示操作を示し、(b)はロボット200からの応答画面例を示し、(c)はロボット200の動作状態を示す。
図49の例では、ユーザ3がロボット200に印刷物の配送を要求する場合の例を示している。(c)では、ロボット200に紐付けられた画像200Aが印刷物230Bを抱えており、配送中であることが分かる。
・ Screen example 11
FIG. 49 is a diagram illustrating a display example in the case of instructing the execution of the function by superimposing the image 250 representing the function to be executed by the robot 200 on the image 200A associated with the robot 200. Indicates a function execution instruction operation for the robot 200, (b) shows an example of a response screen from the robot 200, and (c) shows an operating state of the robot 200.
In the example of FIG. 49, an example is shown in which the user 3 requests the robot 200 to deliver the printed matter. In (c), it can be seen that the image 200A associated with the robot 200 is holding the printed matter 230B and is being delivered.

・画面例12
図50は、ロボット200に紐付けられた画像200Aの位置を表示画面114A上で移動させる移動操作があると、管理区域300上でロボット200が実際に移動される様子を説明する図であり、(a)は表示画面114Aの表示例を示し、(b)は実空間である管理区域300におけるロボット200の移動を示す。
図50の例では、カーソル240をロボット200に紐付けられた画像200Aの上に合わせてドラッグアンドドロップすることで、実空間上のロボット200に対して移動の指示が送信される。
なお、図50の例では、ドラッグの過程で画像200Aの位置がユーザ3から遠ざかるため、表示画面114A上における画像200Aの表示寸法が小さくなっている。
・ Screen example 12
FIG. 50 is a diagram illustrating how the robot 200 is actually moved on the control area 300 when there is a movement operation for moving the position of the image 200A associated with the robot 200 on the display screen 114A. (A) shows a display example of the display screen 114A, and (b) shows the movement of the robot 200 in the controlled area 300 which is a real space.
In the example of FIG. 50, the movement instruction is transmitted to the robot 200 in the real space by moving the cursor 240 onto the image 200A associated with the robot 200 and dragging and dropping it.
In the example of FIG. 50, since the position of the image 200A moves away from the user 3 in the process of dragging, the display dimension of the image 200A on the display screen 114A is small.

・画面例13
図51は、実空間400上でのロボット200の移動量に対応する仮想管理区域300Aでの画像200Aの変化量が仮想管理区域300Aの形状に応じて変化する様子を説明する図であり、(a)は実空間400上でのロボット200の移動量を示し、(b)は仮想管理区域300Aの表示面積が大きい場合の画像200Aの変化量を示し、(c)は仮想管理区域300Aの表示面積が小さい場合の画像200Aの変化量を示す。
図中の各矢印は実空間400又は仮想管理区域300A内での変化量を表している。
図51の場合、ロボット200に紐付けられた画像200Aの表示寸法は仮想管理区域300Aの違いによらず同じであり、画像200Aの変化量だけが変化している。
・ Screen example 13
FIG. 51 is a diagram illustrating how the amount of change in the image 200A in the virtual management area 300A corresponding to the amount of movement of the robot 200 in the real space 400 changes according to the shape of the virtual management area 300A. a) shows the amount of movement of the robot 200 in the real space 400, (b) shows the amount of change in the image 200A when the display area of the virtual management area 300A is large, and (c) shows the amount of change in the virtual management area 300A. The amount of change of the image 200A when the area is small is shown.
Each arrow in the figure represents the amount of change in the real space 400 or the virtual management area 300A.
In the case of FIG. 51, the display dimensions of the image 200A associated with the robot 200 are the same regardless of the difference in the virtual management area 300A, and only the amount of change in the image 200A changes.

図51では、実空間400内に管理区域300が設定されていないので、図51における仮想管理区域300Aはロボット200の周辺領域に対応する。ここでの仮想管理区域300Aは、ロボット200の位置表示に使用される表示領域の一例である。
管理区域300を設定しない場合、管理区域情報取得部1104(図10参照)は、ロボット200が実在する地点周辺の地図情報やレイアウト情報をデータベースなどから取得してもよい。
この場合でも、表示画面114A内の仮想管理区域300Aの形状に応じてロボット200の位置表示が変化されることで、ユーザによる移動体の位置の把握が容易になる。
In FIG. 51, since the management area 300 is not set in the real space 400, the virtual management area 300A in FIG. 51 corresponds to the peripheral area of the robot 200. The virtual management area 300A here is an example of a display area used for displaying the position of the robot 200.
When the management area 300 is not set, the management area information acquisition unit 1104 (see FIG. 10) may acquire map information and layout information around the point where the robot 200 actually exists from a database or the like.
Even in this case, the position display of the robot 200 is changed according to the shape of the virtual management area 300A in the display screen 114A, so that the user can easily grasp the position of the moving body.

・画面例14
図52は、仮想管理区域300Aの表示寸法に応じて画像200Aの変化範囲が制約を受けることを説明する図であり、(a)は仮想管理区域300Aの表示寸法が大きい場合の画像200Aの変化範囲を示し、(b)は仮想管理区域300Aの表示寸法が小さい場合の画像200Aの変化範囲を示す。
図52の場合、表示画面114A上で画像200Aが左右方向に移動できる範囲は(a)の方が(b)よりも長くなっている。
このように、画像200Aを表示画面114A上で移動できる範囲は仮想管理区域300Aの表示寸法の制約を受ける。
なお、画像200Aの表示寸法の変化範囲が仮想管理区域300Aの表示寸法の制約を受ける表示としてもよい。
・ Screen example 14
FIG. 52 is a diagram for explaining that the change range of the image 200A is restricted according to the display dimension of the virtual management area 300A, and FIG. 52A is a diagram showing the change of the image 200A when the display size of the virtual management area 300A is large. The range is shown, and (b) shows the change range of the image 200A when the display dimension of the virtual management area 300A is small.
In the case of FIG. 52, the range in which the image 200A can move in the left-right direction on the display screen 114A is longer in (a) than in (b).
As described above, the range in which the image 200A can be moved on the display screen 114A is restricted by the display dimensions of the virtual management area 300A.
The display dimension change range of the image 200A may be restricted by the display dimension of the virtual management area 300A.

<他の実施の形態>
以上、本発明の実施の形態について説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、種々の変更又は改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
<Other embodiments>
Although the embodiments of the present invention have been described above, the technical scope of the present invention is not limited to the scope described in the above embodiments. It is clear from the description of the claims that the above-described embodiment with various modifications or improvements is also included in the technical scope of the present invention.

1…情報処理システム、3、3A…ユーザ、5…基準点、100…情報端末、110…制御部、114A…表示画面、114B…他の作業画面、200…ロボット、200A…ロボットを表す画像、221…電波、300…管理区域、300A…仮想管理区域、400…実空間、600…サーバ、700…画像形成装置、700A、700B、700C、700D…発信器、800A、800B、800C…アクセスポイント、900…位置測定部、910…カメラ、1101…位置情報取得部、1102…基準位置取得部、1103…距離計算部、1104…管理区域情報取得部、1105…表示領域情報取得部、1106…管理区域形状変形部、1107…指示受付部、1108…指示送信部、1109…マッピング部、1110…表示画像生成部、1111…画像取得部、1112…稼働情報取得部 1 ... Information processing system, 3, 3A ... User, 5 ... Reference point, 100 ... Information terminal, 110 ... Control unit, 114A ... Display screen, 114B ... Other work screen, 200 ... Robot, 200A ... Image representing robot, 221 ... Radio, 300 ... Control area, 300A ... Virtual control area, 400 ... Real space, 600 ... Server, 700 ... Image forming device, 700A, 700B, 700C, 700D ... Transmitter, 800A, 800B, 800C ... Access point, 900 ... Position measurement unit, 910 ... Camera 1101 ... Position information acquisition unit 1102 ... Reference position acquisition unit 1103 ... Distance calculation unit 1104 ... Management area information acquisition unit 1105 ... Display area information acquisition unit 1106 ... Management area Shape deformation unit, 1107 ... instruction reception unit, 1108 ... instruction transmission unit, 1109 ... mapping unit, 1110 ... display image generation unit, 1111 ... image acquisition unit, 1112 ... operation information acquisition unit

Claims (16)

移動体の移動を管理する範囲を規定する第1の形状を取得する第1の取得部と、
前記移動体の位置の表示に使用される表示領域を規定する第2の形状を取得する第2の取得部と、
前記第1の形状を変形して前記第2の形状に一致させる変形部と、
前記第1の形状の変形に応じて前記移動体の位置の表示を変化させる表示制御部と、
を有する情報処理装置。
A first acquisition unit that acquires a first shape that defines a range for managing the movement of a moving object, and a first acquisition unit.
A second acquisition unit that acquires a second shape that defines a display area used for displaying the position of the moving body, and a second acquisition unit.
A deformed portion that deforms the first shape to match the second shape, and
A display control unit that changes the display of the position of the moving body according to the deformation of the first shape, and
Information processing device with.
前記第2の形状は、ディスプレイパネルの表示画面の全体を与える形状であり、
前記変形部は、前記範囲の全体を前記表示画面の全体に一致させる、
請求項1に記載の情報処理装置。
The second shape is a shape that gives the entire display screen of the display panel.
The deformed portion aligns the entire range with the entire display screen.
The information processing device according to claim 1.
前記変化は、前記表示領域上における変化量の変化であること
を特徴とする請求項1又は2に記載の情報処理装置。
The information processing apparatus according to claim 1 or 2, wherein the change is a change in the amount of change on the display area.
前記変化の範囲は、前記表示領域の形状の制約を受ける
ことを特徴とする請求項1又は2に記載の情報処理装置。
The information processing apparatus according to claim 1 or 2, wherein the range of change is restricted by the shape of the display area.
前記表示制御部は、前記移動体の位置を当該移動体の管理上定めた前記範囲とは非相似形状の前記表示領域に表示すること
を特徴とする請求項1又は2に記載の情報処理装置。
The information processing apparatus according to claim 1 or 2, wherein the display control unit displays the position of the moving body in the display area having a shape dissimilar to the range defined in the management of the moving body. ..
前記表示制御部は、前記移動体に紐付けられた画像を前記表示領域にマッピングされた当該移動体の位置に表示すること
を特徴とする請求項1又は2に記載の情報処理装置。
The information processing device according to claim 1 or 2, wherein the display control unit displays an image associated with the moving body at a position of the moving body mapped to the display area.
前記表示制御部は、前記表示領域にマッピングされた前記移動体の実空間における位置を補足する情報として縮尺情報を表示すること
を特徴とする請求項1又は2に記載の情報処理装置。
The information processing device according to claim 1 or 2, wherein the display control unit displays scale information as information that supplements the position of the moving body in the real space mapped to the display area.
前記表示制御部は、前記移動体の位置が管理上定めた前記範囲を越えた場合、当該移動体に紐付けられた画像を前記表示領域上から消すこと
を特徴とする請求項1又は2に記載の情報処理装置。
The display control unit according to claim 1 or 2, wherein when the position of the moving body exceeds the range defined in the management, the image associated with the moving body is erased from the display area. The information processing device described.
前記表示制御部は、前記移動体の位置が管理上定めた前記範囲内に復帰した場合、当該移動体に紐付けられた前記画像を前記表示領域内に再表示すること
を特徴とする請求項8に記載の情報処理装置。
The display control unit is characterized in that, when the position of the moving body is returned to the range determined by management, the display control unit redisplays the image associated with the moving body in the display area. 8. The information processing apparatus according to 8.
前記移動体は、自走機構を有すること
を特徴とする請求項1又は2に記載の情報処理装置。
The information processing device according to claim 1 or 2, wherein the moving body has a self-propelled mechanism.
前記移動体に紐付けられた画像に実行させたい機能に紐付けられた他の画像が重ね合わせられた場合、当該機能の実行を当該移動体に指示することを
特徴とする請求項1又は2に記載の情報処理装置。
Claim 1 or 2 characterized in that when another image associated with the function to be executed is superimposed on the image associated with the moving body, the moving body is instructed to execute the function. The information processing device described in.
前記表示制御部は、前記機能が実行できた場合、前記移動体に紐付けられた前記画像の表示形態を変化させること
を特徴とする請求項11に記載の情報処理装置。
The information processing device according to claim 11, wherein the display control unit changes the display form of the image associated with the moving body when the function can be executed.
前記表示制御部は、前記移動体に紐付けられた前記画像を当該移動体の稼働状態を表す画像に変化させること
を特徴とする請求項12に記載の情報処理装置。
The information processing device according to claim 12, wherein the display control unit changes the image associated with the moving body into an image showing an operating state of the moving body.
前記移動体の管理上定めた前記範囲は、予め定められた対象を基準に定まること
を特徴とする請求項1又は2に記載の情報処理装置。
The information processing apparatus according to claim 1 or 2, wherein the range determined in terms of management of the moving body is determined based on a predetermined target.
1つ又は複数の移動体と、
移動体の移動を管理する範囲を規定する第1の形状を取得する第1の取得部と、当該移動体の位置の表示に使用される表示領域を規定する第2の形状を取得する第2の取得部と、当該第1の形状を変形して当該第2の形状に一致させる変形部と、当該第1の形状の変形に応じて当該移動体の位置の表示を変化させる表示制御部とを有する情報処理装置と
を有する情報処理システム。
With one or more mobiles,
A first acquisition unit that acquires a first shape that defines a range for managing the movement of a moving body, and a second that acquires a second shape that defines a display area used for displaying the position of the moving body. The acquisition unit, the deformation unit that deforms the first shape to match the second shape, and the display control unit that changes the display of the position of the moving body according to the deformation of the first shape. An information processing system that has an information processing device that has.
コンピュータに、
移動体の移動を管理する範囲を規定する第1の形状を取得する機能と、
前記移動体の位置の表示に使用される表示領域を規定する第2の形状を取得する機能と、
前記第1の形状を変形して前記第2の形状に一致させる機能と、
前記第1の形状の変形に応じて前記移動体の位置の表示を変化させる機能と、
を実現させるためのプログラム。
On the computer
The function to acquire the first shape that defines the range to manage the movement of the moving body, and
A function of acquiring a second shape that defines a display area used for displaying the position of the moving body, and
The function of deforming the first shape to match the second shape, and
A function of changing the display of the position of the moving body according to the deformation of the first shape, and
A program to realize.
JP2020193526A 2020-11-20 2020-11-20 Information processing device, information processing system and program Active JP7196894B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020193526A JP7196894B2 (en) 2020-11-20 2020-11-20 Information processing device, information processing system and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020193526A JP7196894B2 (en) 2020-11-20 2020-11-20 Information processing device, information processing system and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017023380A Division JP6809267B2 (en) 2017-02-10 2017-02-10 Information processing equipment, information processing systems and programs

Publications (2)

Publication Number Publication Date
JP2021047424A true JP2021047424A (en) 2021-03-25
JP7196894B2 JP7196894B2 (en) 2022-12-27

Family

ID=74878453

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020193526A Active JP7196894B2 (en) 2020-11-20 2020-11-20 Information processing device, information processing system and program

Country Status (1)

Country Link
JP (1) JP7196894B2 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004243499A (en) * 2003-02-17 2004-09-02 Matsushita Electric Ind Co Ltd Article handling system for living space, article handling method, and robot operating device
JP2011227434A (en) * 2010-03-31 2011-11-10 Denso Corp Map display device
US20120167014A1 (en) * 2010-12-23 2012-06-28 Electronics And Telecommunications Research Institute Visual surrogate for indirect experience and apparatus and method for providing the same
JP2012215660A (en) * 2011-03-31 2012-11-08 Casio Comput Co Ltd Image display device, image processing method and image processing program
JP2014071845A (en) * 2012-10-01 2014-04-21 Sharp Corp Device controller, and self-traveling electronic device
US20150364060A1 (en) * 2014-06-12 2015-12-17 Play-i, Inc. System and method for reinforcing programming education through robotic feedback
US20160105331A1 (en) * 2014-10-13 2016-04-14 Samsung Electronics Co., Ltd. Electronic device and gateway for network service, and operation method therefor

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004243499A (en) * 2003-02-17 2004-09-02 Matsushita Electric Ind Co Ltd Article handling system for living space, article handling method, and robot operating device
JP2011227434A (en) * 2010-03-31 2011-11-10 Denso Corp Map display device
US20120167014A1 (en) * 2010-12-23 2012-06-28 Electronics And Telecommunications Research Institute Visual surrogate for indirect experience and apparatus and method for providing the same
JP2012215660A (en) * 2011-03-31 2012-11-08 Casio Comput Co Ltd Image display device, image processing method and image processing program
JP2014071845A (en) * 2012-10-01 2014-04-21 Sharp Corp Device controller, and self-traveling electronic device
US20150364060A1 (en) * 2014-06-12 2015-12-17 Play-i, Inc. System and method for reinforcing programming education through robotic feedback
US20160105331A1 (en) * 2014-10-13 2016-04-14 Samsung Electronics Co., Ltd. Electronic device and gateway for network service, and operation method therefor

Also Published As

Publication number Publication date
JP7196894B2 (en) 2022-12-27

Similar Documents

Publication Publication Date Title
JP6950192B2 (en) Information processing equipment, information processing systems and programs
US9552056B1 (en) Gesture enabled telepresence robot and system
CN103608741A (en) Tracking and following of moving objects by a mobile robot
KR20180118219A (en) Interfacing with a mobile telepresence robot
US20180005445A1 (en) Augmenting a Moveable Entity with a Hologram
CN106527887B (en) Dummy object choosing method, device and VR systems
CN111716365B (en) Immersive remote interaction system and method based on natural walking
JP6938980B2 (en) Information processing equipment, information processing methods and programs
JP2023126474A (en) Systems and methods for augmented reality
KR20200020295A (en) AUGMENTED REALITY SERVICE PROVIDING APPARATUS INTERACTING WITH ROBOT and METHOD OF THEREOF
KR20180074404A (en) Robot for airport and method thereof
WO2019123744A1 (en) Information processing device, information processing method, and program
JP6809267B2 (en) Information processing equipment, information processing systems and programs
Maeyama et al. Experiments on a remote appreciation robot in an art museum
US10456682B2 (en) Augmentation of a gaming controller via projection system of an autonomous personal companion
JP2021047424A (en) Information processing device, information processing system and program
JP6554139B2 (en) Information processing method, apparatus, and program for causing computer to execute information processing method
JP2019207572A (en) Information processing device and program
KR20160057649A (en) System and method for driving robot using action block
JP2020017206A (en) Information processing apparatus, action determination method, and program
WO2021049147A1 (en) Information processing device, information processing method, information processing program, and control device
CN116079703A (en) Robot teaching method, apparatus, device and computer readable storage medium
Walker et al. User-centered design of an attitude-aware controller for ground reconnaissance robots
Evans III et al. Control solutions for robots using Android and iOS devices
KR20200094375A (en) Programmable toy robot and method for operating the toy robot

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220511

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220905

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221128

R150 Certificate of patent or registration of utility model

Ref document number: 7196894

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150