JP2020048158A - Communication support system, robot, moving image processor, and moving image processing program - Google Patents

Communication support system, robot, moving image processor, and moving image processing program Download PDF

Info

Publication number
JP2020048158A
JP2020048158A JP2018177186A JP2018177186A JP2020048158A JP 2020048158 A JP2020048158 A JP 2020048158A JP 2018177186 A JP2018177186 A JP 2018177186A JP 2018177186 A JP2018177186 A JP 2018177186A JP 2020048158 A JP2020048158 A JP 2020048158A
Authority
JP
Japan
Prior art keywords
robot
moving image
image data
remote
child
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018177186A
Other languages
Japanese (ja)
Other versions
JP7257022B2 (en
JP2020048158A5 (en
Inventor
阿部 香澄
Kasumi Abe
香澄 阿部
長井 隆行
Takayuki Nagai
隆行 長井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electro Communications NUC
Original Assignee
University of Electro Communications NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electro Communications NUC filed Critical University of Electro Communications NUC
Priority to JP2018177186A priority Critical patent/JP7257022B2/en
Publication of JP2020048158A publication Critical patent/JP2020048158A/en
Publication of JP2020048158A5 publication Critical patent/JP2020048158A5/ja
Application granted granted Critical
Publication of JP7257022B2 publication Critical patent/JP7257022B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Toys (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

To provide a communication support system, a robot, a moving image processor, and a moving image processing program that support communication between a child and a remote person in different spaces.SOLUTION: In a communication support system 5, a robot 1 comprises: a camera which outputs robot-side moving image data obtained by photographing a space; a robot-side display device which displays remote person-side moving image data received from a remote person terminal 3; and a rotation device which rotates the camera and robot-side display device in a circumferential direction. The remote person terminal 3 comprises: a remote person-side moving image transmission part which transmits the remote person-side moving image data obtained by photographing a remote person to the robot 1; a remote person-side display device which displays display moving image data corresponding to the robot-side moving image data and having an out-of-focus region, defocused in such a manner that presence of a child can be confirmed, at a right and a left end; and an operation instruction part which inputs an instruction to rotate the camera and robot-side display device in the circumferential direction to the robot 1.SELECTED DRAWING: Figure 1

Description

本発明は、空間を撮影するとともに遠隔者を表示するロボットと、遠隔者が利用する遠隔者端末を備え、空間に存在する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システム、ロボット、動画処理装置および動画処理プログラムに関する。   The present invention relates to a robot for photographing a space and displaying a remote person, a remote terminal used by the remote person, a communication support system for supporting communication between a child existing in the space and the remote person, a robot, and video processing. The present invention relates to an apparatus and a moving image processing program.

近年の通信ネットワークおよび情報機器の発達に伴い、ビデオチャット等の動画データを介したコミュニケーションが普及している。動画データを介したコミュニケーションによって、遠隔地にいる者同士でのコミュニケーション、遠隔地にいる者による所望のアングルの動画の取得など、同一空間でのコミュニケーションに近似したコミュニケーションを実現することができる。   With the development of communication networks and information devices in recent years, communication via video data such as video chat has become widespread. By communication via the moving image data, it is possible to realize communication similar to communication in the same space, such as communication between persons at remote locations, acquisition of a moving image at a desired angle by persons at remote locations, and the like.

例えば、広角なカメラで撮影された動画に対し、フォーカス対象を指定することで、カメラが指定された方向にフォーカスを合わせるシステムがある(特許文献1)。   For example, there is a system in which a camera is focused on a moving direction taken by a wide-angle camera by designating a focus target in a designated direction (Patent Document 1).

特開2017−107535号公報JP 2017-107535 A

しかしながら、現在普及しているコミュニケーションは、大人向けのものであり、子供のコミュニケーションを支援するシステムは見あたらない。子供は、大人に比べて、社会性、認知能力およびコミュニケーション能力が未発達であることから、大人向けのコミュニケーション支援システムをそのまま子供に適用したとしても、充分なコミュニケーションを実現することが難しい場合がある。   However, currently widespread communication is for adults, and there is no system that supports children's communication. Since children have less developed social, cognitive and communication skills than adults, it is sometimes difficult to achieve sufficient communication even if the child's adult communication support system is applied as it is. is there.

従って本発明の目的は、異なる空間に位置する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システム、ロボット、動画処理装置および動画処理プログラムを提供することである。   Accordingly, an object of the present invention is to provide a communication support system, a robot, a moving image processing device, and a moving image processing program that support communication between a child and a remote person located in different spaces.

上記課題を解決するために、本発明の第1の特徴は、空間を撮影するとともに遠隔者を表示するロボットと、遠隔者が利用する遠隔者端末を備え、空間に存在する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに関する。本発明の第1の特徴に係るコミュニケーション支援システムにおいて、ロボットは、空間を撮影したロボット側動画データを出力するカメラと、遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、カメラおよびロボット側表示装置を周方向に回転する回転装置を備え、遠隔者端末は、遠隔者を撮影した遠隔者側動画データをロボットに送信する遠隔者側動画送信部と、ロボット側動画データに対応し、左右端に、子供の存在が確認できる程度にぼかされたぼかし領域を有する表示動画データを表示する遠隔者側表示装置と、ロボットに、カメラおよびロボット側表示装置を周方向に回転する指示を入力する動作指示部とを備える。   In order to solve the above problems, a first feature of the present invention is to provide a robot that captures a space and displays a remote person, and a remote terminal that is used by the remote person. It relates to a communication support system that supports communication of people. In the communication support system according to the first aspect of the present invention, the robot includes a camera that outputs robot-side moving image data of a space, and a robot-side display device that displays remote-side moving image data received from a remote terminal. A remote device for transmitting a remote person moving image data obtained by photographing a remote person to the robot; and a robot side moving image data. In response to the above, a remote person side display device that displays display moving image data having a blurred area at the left and right ends so that the presence of a child can be confirmed, and a camera and a robot side display device in the circumferential direction. An operation instruction unit for inputting an instruction to rotate.

ぼかし領域は、ロボット側表示装置によって子供が見られていると感じる範囲よりも左右方向の外側の範囲に対応しても良い。   The blurred region may correspond to a range outside the range in which the child perceives the child being seen by the robot-side display device in the left-right direction.

表示動画データは、ロボット側動画データのぼかし領域に対応する領域を、画像処理によりぼかしたデータであっても良い。   The display moving image data may be data obtained by blurring an area corresponding to the blurred area of the robot-side moving image data by image processing.

カメラのレンズのぼかし領域に対応する位置に、空間をぼかすフィルタが設置され、カメラが出力するロボット側動画データは、表示動画データであっても良い。   A filter that blurs the space is provided at a position corresponding to the blur region of the camera lens, and the robot-side moving image data output by the camera may be display moving image data.

遠隔者端末の動作指示部は、表示動画データの中央の非ぼかし領域に、子供が映るように、ロボットに指示を入力しても良い。   The operation instruction unit of the remote terminal may input an instruction to the robot so that the child is shown in the non-blur area at the center of the display moving image data.

ロボットは、移動しても良い。   The robot may move.

表示動画データの中央の非ぼかし領域は、ロボット側表示装置の表示面の空間側を撮影した表示面撮影領域を有し、物体がロボット側表示装置に近づくと、物体をロボット側表示装置に近づく前に比べて、表示面撮影領域が、広く表示されても良い。   The non-blurred area at the center of the display moving image data has a display surface photographing area that photographs the space side of the display surface of the robot side display device, and when the object approaches the robot side display device, the object approaches the robot side display device. The display surface photographing area may be displayed wider than before.

カメラは、魚眼レンズで空間を撮影し、表示面撮影領域は、魚眼レンズの撮影領域の縁部に設けられ、物体がロボット側表示装置に近づくと、物体がロボット側表示装置に近づく前に比べて、表示面撮影領域の歪曲収差が強く補正されても良い。   The camera shoots the space with a fisheye lens, and the display surface shooting area is provided at the edge of the shooting area of the fisheye lens, and when the object approaches the robot side display device, compared to before the object approaches the robot side display device, The distortion in the display surface shooting area may be strongly corrected.

表示動画データの中央の非ぼかし領域は、ロボットとコミュニケーション中の子供が位置する空間を撮影した子供空間撮影領域と、ロボット側表示装置の表示面の空間側を撮影した表示面撮影領域と、非ぼかし領域のうち、子供空間撮影領域と表示面撮影領域以外の領域を撮影した背景撮影領域を有し、子供空間撮影領域と表示面撮影領域は、背景撮影領域と比較して拡大して表示されても良い。   The non-blurred area at the center of the display moving image data is a child space shooting area where a space where a child communicating with the robot is located, a display surface shooting area where the space side of the display surface of the robot side display device is shot, and a non-blurred area. Of the blurred area, the image capturing apparatus has a background shooting area obtained by shooting an area other than the child space shooting area and the display surface shooting area, and the child space shooting area and the display surface shooting area are displayed in an enlarged manner in comparison with the background shooting area. May be.

本発明の第2の特徴は、空間を撮影するとともに遠隔者を表示するロボットと、遠隔者が利用する遠隔者端末を備え、空間に存在する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに関する。本発明の第2の特徴に係るコミュニケーション支援システムにおいて、ロボットは、空間を撮影したロボット側動画データを出力するカメラと、遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置を備え、遠隔者端末は、遠隔者を撮影した遠隔者側動画データをロボットに送信する遠隔者側動画送信部と、ロボット側動画データに対応する表示動画データを表示する遠隔者側表示装置を備え、表示動画データは、空間を撮影した空間撮影領域と、ロボット側表示装置の表示面の空間側を撮影した表示面撮影領域を有し、物体がロボット側表示装置に近づくと、物体がロボット側表示装置に近づく前に比べて、表示面撮影領域が、広く表示される。   A second feature of the present invention is a communication support system including a robot for photographing a space and displaying a remote person, and a remote terminal used by the remote person, and supporting communication between a child existing in the space and the remote person. About. In the communication support system according to the second aspect of the present invention, the robot includes a camera that outputs robot-side moving image data of a space and a robot-side display device that displays remote-side moving image data received from a remote terminal. The remote terminal includes a remote person moving image transmitting unit that transmits remote person moving image data of the remote person to the robot, and a remote person side display device that displays display moving image data corresponding to the robot side moving data. The displayed moving image data has a space shooting region where the space is shot and a display surface shooting region where the space side of the display surface of the robot side display device is shot, and when the object approaches the robot side display device, the object moves to the robot side. The display surface shooting area is displayed wider than before approaching the display device.

カメラは、魚眼レンズで空間を撮影し、表示面撮影領域は、魚眼レンズの撮影領域の縁部に設けられ、物体がロボット側表示装置に近づくと、物体がロボット側表示装置に近づく前に比べて、表示面撮影領域の歪曲収差が強く補正されても良い。   The camera shoots the space with a fisheye lens, and the display surface shooting area is provided at the edge of the shooting area of the fisheye lens, and when the object approaches the robot side display device, compared to before the object approaches the robot side display device, The distortion in the display surface shooting area may be strongly corrected.

本発明の第3の特徴は、空間を撮影するとともに遠隔者を表示するロボットと、遠隔者が利用する遠隔者端末を備え、空間に存在する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられるロボットに関する。本発明の第3の特徴に係るロボットは、遠隔者端末は、遠隔者を撮影した遠隔者側動画データをロボットに送信するとともに、空間を撮影した動画データであって、左右端に、子供の存在が確認できる程度にぼかされたぼかし領域を有する表示動画データを表示し、ロボットは、ぼかし領域に対応するレンズの位置に、空間をぼかすフィルタが設置され、空間を撮影した表示動画データを出力するカメラと、遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、カメラおよびロボット側表示装置を周方向に回転する回転装置を備えても良い。   A third feature of the present invention is a communication support system including a robot that photographs a space and displays a remote person, and a remote terminal used by the remote person, and supports communication between a child existing in the space and the remote person. The present invention relates to a robot used for: In the robot according to the third aspect of the present invention, the remote terminal transmits the remote-side moving image data of the remote person to the robot, and the moving-image data of the space. The display moving image data having a blurred area that is blurred to the extent that the presence can be confirmed is displayed, and the robot sets a filter that blurs the space at the position of the lens corresponding to the blurred area, and displays the display moving image data obtained by capturing the space. It may include a camera for outputting, a robot side display device for displaying remote side moving image data received from the remote terminal, and a rotating device for rotating the camera and the robot side display device in the circumferential direction.

本発明の第4の特徴は、空間を撮影するとともに遠隔者を表示するロボットと、遠隔者が利用する遠隔者端末と、遠隔者端末に表示される表示動画データを加工する動画処理装置を備え、空間に存在する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられる動画処理装置に関する。本発明の第4の特徴に係る動画処理装置が用いられるコミュニケーション支援システムにおいて、ロボットは、空間を撮影したロボット側動画データを出力するカメラと、遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、カメラおよびロボット側表示装置を周方向に回転する回転装置を備え、遠隔者端末は、遠隔者を撮影した遠隔者側動画データをロボットに送信する遠隔者側動画送信部と、ロボット側動画データに対応し、左右端に、子供の存在が確認できる程度にぼかされたぼかし領域を有する表示動画データを表示する遠隔者側表示装置と、ロボットに、カメラおよびロボット側表示装置を周方向に回転する指示を入力する動作指示部とを備え、動画処理装置は、ロボット側動画データのぼかし領域に対応する領域を、画像処理によりぼかして、表示動画データを生成するロボット側動画加工部を備える。   A fourth feature of the present invention includes a robot that photographs a space and displays a remote person, a remote terminal used by the remote person, and a moving image processing device that processes display moving image data displayed on the remote terminal. The present invention relates to a moving image processing device used in a communication support system that supports communication between a child existing in a space and a remote person. In the communication support system using the moving image processing device according to the fourth aspect of the present invention, the robot displays a camera that outputs robot-side moving image data of a space, and displays remote-side moving image data received from a remote terminal. A remote side terminal that transmits a remote side moving image data of a remote person to the robot. And a remote person side display device for displaying display moving image data having a blurred area at the left and right ends corresponding to the robot side moving image data so that the presence of a child can be confirmed. An operation instruction unit for inputting an instruction to rotate the display device in the circumferential direction, wherein the moving image processing device The region, blurring the image processing comprises a robot-side video processing unit for generating display video data.

本発明の第5の特徴は、空間を撮影するとともに遠隔者を表示するロボットと、遠隔者が利用する遠隔者端末と、遠隔者端末に表示される表示動画データを加工する動画処理装置を備え、空間に存在する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられる動画処理装置に関する。本発明の第5の特徴に係る動画処理装置が用いられるコミュニケーション支援システムにおいて、ロボットは、空間を撮影したロボット側動画データを出力するカメラと、遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、遠隔者端末は、遠隔者を撮影した遠隔者側動画データをロボットに送信する遠隔者側動画送信部と、ロボット側動画データから加工された表示動画データを表示する遠隔者側表示装置とを備え、表示動画データは、ロボット側表示装置の表示面の空間側を撮影した表示面撮影領域を有し、動画処理装置は、物体がロボット側表示装置に近づくと、物をロボット側表示装置に近づく前に比べて、表示面撮影領域が広くなるように加工するロボット側動画加工部を備える。   A fifth feature of the present invention includes a robot that photographs a space and displays a remote person, a remote terminal used by the remote person, and a moving image processing device that processes display moving image data displayed on the remote terminal. The present invention relates to a moving image processing device used in a communication support system that supports communication between a child existing in a space and a remote person. In the communication support system using the moving image processing device according to the fifth aspect of the present invention, the robot displays a camera that outputs robot side moving image data of a space and a remote person side moving image data received from a remote terminal. A remote side terminal that transmits a remote side moving image data of a remote person to the robot, and a remote side that displays display moving image data processed from the robot side moving image data. The display moving image data has a display surface photographing area that photographs the space side of the display surface of the robot side display device, and the moving image processing device is configured to display an object when the object approaches the robot side display device. Is provided with a robot-side moving image processing unit for processing so that the display surface photographing area is larger than before approaching the robot-side display device.

本発明の第6の特徴は、コンピュータを、本発明の第4の特徴または第5の特徴に係る動画処理装置として機能する動画処理プログラムに関する。   A sixth aspect of the present invention relates to a moving image processing program that causes a computer to function as a moving image processing device according to the fourth or fifth aspect of the present invention.

本発明の第7の特徴は、空間を撮影するとともに遠隔者を表示するロボットと、遠隔者が利用する遠隔者端末を備え、空間に存在する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられるロボットであって、空間を撮影したロボット側動画データを出力するカメラと、遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置を備え、カメラの上方の視野角は、式(1)で表現され、カメラの下方の視野角は、式(2)で表現されることを特徴とするロボット。   A seventh feature of the present invention is a communication support system including a robot for photographing a space and displaying a remote person, and a remote terminal used by the remote person, and supporting communication between the child and the remote person existing in the space. A camera for outputting robot-side moving image data of a space, and a robot-side display device for displaying remote-side moving image data received from a remote terminal, and the viewing angle above the camera is , Expression (1), and the viewing angle below the camera is expressed by Expression (2).

Figure 2020048158
Figure 2020048158

本発明によれば、異なる空間に位置する子供と遠隔者とのコミュニケーションを支援するコミュニケーション支援システム、ロボット、動画処理装置および動画処理プログラムを提供することができる。   According to the present invention, it is possible to provide a communication support system, a robot, a moving image processing device, and a moving image processing program that support communication between a child and a remote person located in different spaces.

本発明の実施の形態に係るコミュニケーションシステムのシステム構成図である。1 is a system configuration diagram of a communication system according to an embodiment of the present invention. 本発明の実施の形態に係るコミュニケーションシステムの処理を説明するシーケンス図である。FIG. 6 is a sequence diagram illustrating processing of the communication system according to the embodiment of the present invention. 本発明の実施の形態に係るロボットの外観を説明する図である。FIG. 2 is a diagram illustrating an appearance of the robot according to the embodiment of the present invention. 本発明の実施の形態に係る表示動画データを説明する図である。FIG. 3 is a diagram illustrating display moving image data according to the embodiment of the present invention. 本発明の実施の形態に係る表示動画データに適用されるモードを説明する図である。FIG. 4 is a diagram illustrating a mode applied to display moving image data according to the embodiment of the present invention. 本発明の実施の形態に係るコミュニケーションシステムにおいて、遠隔者端末が送信する指示およびモードの変更に関する処理を説明するシーケンス図である。FIG. 7 is a sequence diagram illustrating a process related to an instruction transmitted by a remote terminal and a mode change in the communication system according to the embodiment of the present invention. 本発明の実施の形態に係るロボットの機能ブロックとハードウエア構成を説明する図である。FIG. 2 is a diagram illustrating functional blocks and a hardware configuration of the robot according to the embodiment of the present invention. 本発明の実施の形態に係るロボットの仕様を説明する図である。FIG. 3 is a diagram illustrating specifications of the robot according to the embodiment of the present invention. 本発明の実施の形態に係る動画処理装置の機能ブロックとハードウエア構成を説明する図である。FIG. 2 is a diagram illustrating functional blocks and a hardware configuration of the moving image processing device according to the embodiment of the present invention. 本発明の実施の形態に係る変更条件データのデータ構造とデータの一例を説明する図である。FIG. 4 is a diagram illustrating an example of a data structure and data of change condition data according to the embodiment of the present invention. 本発明の実施の形態に係る遠隔者端末の機能ブロックとハードウエア構成を説明する図である。FIG. 3 is a diagram illustrating functional blocks and a hardware configuration of a remote terminal according to the embodiment of the present invention. 第1の変形例に係るロボットのカメラのレンズを説明する図である。FIG. 9 is a diagram illustrating a lens of a camera of a robot according to a first modification. 第1の変形例に係る処理を説明するシーケンス図である。FIG. 14 is a sequence diagram illustrating a process according to a first modification. カメラが2箇所に分散されるロボットの例を説明する図である。FIG. 3 is a diagram illustrating an example of a robot in which cameras are distributed at two locations. カメラが2枚のレンズを有するロボットの例を説明する図である。FIG. 3 is a diagram illustrating an example of a robot in which a camera has two lenses.

次に、図面を参照して、本発明の実施の形態を説明する。以下の図面の記載において、同一または類似の部分には同一または類似の符号を付している。   Next, an embodiment of the present invention will be described with reference to the drawings. In the following description of the drawings, the same or similar parts are denoted by the same or similar reference numerals.

(コミュニケーション支援システム)
本発明の実施の形態に係るコミュニケーション支援システム5は、異なる空間に位置する子供と遠隔者のコミュニケーションを、支援する。
(Communication support system)
The communication support system 5 according to the embodiment of the present invention supports communication between a child and a remote person located in different spaces.

本発明の実施の形態において子供は、社会性、認知能力およびコミュニケーション能力が未発達な人の意味で用いる。子供は、一般的には、生後6ヶ月から6才くらいの子を想定するが、年齢は限定されなくても良い。また子供以上の能力を持つ人が、コミュニケーション支援システム5を用いても良い。遠隔者は、例えば子供の祖父母等であって、社会性、認知能力およびコミュニケーション能力を有する大人である。遠隔者は、子供と異なる空間に位置し、子供とコミュニケーションを取る。   In the embodiments of the present invention, a child is used for a person who has not developed social, cognitive and communication skills. In general, a child is assumed to be about 6 months to 6 years old, but the age may not be limited. Also, a person having the ability of a child or more may use the communication support system 5. The distant person is, for example, a grandparent of a child or the like, and is an adult having social, cognitive, and communication skills. The distant person is located in a different space from the child and communicates with the child.

本発明の実施の形態に係るコミュニケーション支援システム5は、図1に示すように、ロボット1、動画処理装置2および遠隔者端末3を備える。ロボット1および動画処理装置2は、インターネット等の相互に通信可能な通信ネットワークによって接続される。動画処理装置2および遠隔者端末3も、同様に相互に通信可能な通信ネットワークによって接続される。   A communication support system 5 according to an embodiment of the present invention includes a robot 1, a moving image processing device 2, and a remote terminal 3, as shown in FIG. The robot 1 and the moving image processing device 2 are connected by a mutually communicable communication network such as the Internet. The moving image processing device 2 and the remote terminal 3 are also connected by a communication network capable of communicating with each other.

ロボット1は、子供が位置する空間に配置され、その空間を撮影するとともに、遠隔者を表示する。遠隔者端末3は、遠隔者によって利用され、遠隔者を撮影するとともに、子供が位置する空間の動画データを表示する。動画処理装置2は、ロボット1および遠隔者端末3間で、双方の動画データを中継し、必要に応じて動画データを加工する。   The robot 1 is arranged in a space where a child is located, captures an image of the space, and displays a remote person. The remote terminal 3 is used by the remote person to photograph the remote person and display moving image data in a space where the child is located. The moving image processing device 2 relays both moving image data between the robot 1 and the remote terminal 3 and processes the moving image data as needed.

図2を参照して、本発明の実施の形態に係るコミュニケーション支援システム5における処理の概要を説明する。   With reference to FIG. 2, an outline of processing in communication support system 5 according to the embodiment of the present invention will be described.

ステップS1においてロボット1は、子供が位置する空間を撮影したロボット側動画データBを動画処理装置2に送信する。ステップS2において動画処理装置2は、ロボット側動画データBを加工して、表示動画データDを生成する。ロボット側動画データBの各フレームと、表示動画データDの各フレームは、対応する。ここで行われる加工は、遠隔者に、空間および子供の状態を適切に伝えるためのものである。ステップS3において動画処理装置2は、ステップS2で生成された表示動画データDを、遠隔者端末3に送信する。   In step S <b> 1, the robot 1 transmits to the moving image processing device 2 the robot side moving image data B of the space where the child is located. In step S2, the moving image processing device 2 processes the robot-side moving image data B to generate display moving image data D. Each frame of the robot side moving image data B corresponds to each frame of the display moving image data D. The processing performed here is for appropriately transmitting the space and the state of the child to the remote person. In step S3, the moving image processing device 2 transmits the display moving image data D generated in step S2 to the remote terminal 3.

ステップS4において遠隔者端末3は、遠隔者を撮影した遠隔者側動画データGを動画処理装置2に送信する。ステップS5において動画処理装置2は、ステップS4で受信した遠隔者側動画データGをロボット1に送信する。   In step S <b> 4, the remote person terminal 3 transmits the remote person side moving image data G of the remote person to the moving image processing device 2. In step S5, the moving image processing device 2 transmits the remote-side moving image data G received in step S4 to the robot 1.

ステップS6においてロボット1は、ステップS5で受信した遠隔者側動画データGを再生し、得られた動画像を表示する。ステップS7において遠隔者端末3は、ステップS3で受信した表示動画データDを再生し、得られた動画像を表示する。   In step S6, the robot 1 reproduces the remote person-side moving image data G received in step S5, and displays the obtained moving image. In step S7, the remote terminal 3 reproduces the display moving image data D received in step S3 and displays the obtained moving image.

子供は、ロボット1に表示された遠隔者側動画データGを見ながら、遠隔者とコミュニケーションを取る。また遠隔者は、子供の様子が反映された表示動画データDを見ながら、子供とコミュニケーションを取る。   The child communicates with the remote person while watching the remote-side moving image data G displayed on the robot 1. Further, the remote person communicates with the child while watching the display moving image data D reflecting the state of the child.

本発明の実施の形態において、図2に示す各動画データの送受信は、遠隔者等が入力した開始および終了の指示の間、継続的に行われる。ロボット1に遠隔者がリアルタイムに表示され、遠隔者端末3に子供が位置する空間がリアルタイムに表示される。なお「リアルタイム」は、時間的な完全同一のみならず、動画データの送受信で経由する装置または通信環境による遅延を許容する。   In the embodiment of the present invention, transmission and reception of each moving image data shown in FIG. 2 is continuously performed during a start and end instruction input by a remote person or the like. The remote person is displayed on the robot 1 in real time, and the space where the child is located is displayed on the remote terminal 3 in real time. Note that “real time” allows not only the exact same time, but also a delay due to a device or communication environment through which moving image data is transmitted and received.

本発明の実施の形態に係るロボット1は、図3(a)に示すように、顔を模したパーツと胴体を模したパーツを備え、全体として人に似た形状を有する。ロボット1は、人に限らず、犬、鳥、魚などの動物、アニメ、人形、ぬいぐるみ等のキャラクターなど、日常生活での子供のコミュニケーション対象の形状に類似することが好ましい。   As shown in FIG. 3A, the robot 1 according to the embodiment of the present invention includes a part simulating a face and a part simulating a torso, and has a shape similar to a person as a whole. It is preferable that the robot 1 is not only a human but also an animal, such as a dog, a bird, or a fish, or a character such as an animation, a doll, a stuffed animal, or the like, which resembles a communication target shape of a child in daily life.

ロボット1は、図3(a)に示すように、カメラ130、ロボット側表示装置140、スピーカー170および支持台180を備える。カメラ130は、子供が位置する空間を撮影して、遠隔者端末3に子供が位置する空間の様子を伝える。ロボット側表示装置140は、遠隔者端末3で撮影された遠隔者の様子を表示して、子供にコミュニケーション相手を認識させる。スピーカー170は、遠隔者端末3で発生した音声を出力する。   The robot 1 includes a camera 130, a robot-side display device 140, a speaker 170, and a support base 180, as shown in FIG. The camera 130 photographs the space where the child is located, and notifies the remote terminal 3 of the state of the space where the child is located. The robot-side display device 140 displays the state of the remote person photographed by the remote person terminal 3, and allows the child to recognize the communication partner. The speaker 170 outputs a sound generated by the remote terminal 3.

支持台180は、図3(b)に示すように、ロボット1の筐体の反対側に開き、その中に玩具等の物を置くことが可能に形成される。本発明の実施の形態において支持台180は、深さのあるポケット形状になっているが、これに限られない。支持台180は、平面台などでもよく、玩具を設置可能であっても良い。また支持台180に設置された玩具は、カメラ130によって撮影されるのが好ましい。   As shown in FIG. 3B, the support base 180 is formed so as to open to the opposite side of the housing of the robot 1 so that an object such as a toy can be placed therein. In the embodiment of the present invention, the support base 180 has a deep pocket shape, but is not limited to this. The support base 180 may be a flat base or the like, and may be capable of installing a toy. It is preferable that the toy installed on the support base 180 be photographed by the camera 130.

本発明の実施の形態において、ロボット1に設置されたカメラ130のレンズ、ロボット側表示装置140の表示面および支持台180は、左右対称に形成される。より具体的には、カメラ130のレンズの左右中心線、ロボット側表示装置140の表示面の左右中心線および支持台180の左右中心線は、ロボット1の接地面に対して垂直な、一つの仮想面上に設けられる。なおロボット1に設置されたカメラ130のレンズ、ロボット側表示装置140の表示面および支持台180は、左右対称に形成されるのは一例であって、これに限らない。例えば、カメラ130の位置が左右対称からずれる場合でも、視点変換処理により、カメラ130が撮影した画像データを、左右対称で撮影された画像に変換しても良い。   In the embodiment of the present invention, the lens of the camera 130 installed in the robot 1, the display surface of the robot-side display device 140, and the support 180 are formed symmetrically. More specifically, the left and right center lines of the lens of the camera 130, the left and right center lines of the display surface of the robot-side display device 140, and the left and right center lines of the support base 180 are perpendicular to the ground plane of the robot 1. It is provided on a virtual plane. Note that the lens of the camera 130 installed in the robot 1, the display surface of the robot-side display device 140, and the support base 180 are formed symmetrically by way of example, and the present invention is not limited to this. For example, even when the position of the camera 130 deviates from left-right symmetry, the image data captured by the camera 130 may be converted into an image captured left-right symmetrically by the viewpoint conversion process.

またロボット1は、移動、周方向の回転などの、動作が可能である。移動は、ロボット1が設置された床の水平移動に限らず、段差越え、空間の飛行などの様々な移動が可能である。また周方向の回転は、ロボット1自身が回転しても良いし、カメラ130およびロボット側表示装置140のみを回転しても良い。カメラ130の周方向の回転により、空間全体を撮影することを可能にする。またロボット側表示装置140の周方向の回転により、遠隔者が回転しているような演出を表現することができる。移動または回転に必要な機構は、ロボット1の内部に収容され、子供が触れにくく形成されるのが好ましい。   In addition, the robot 1 can perform operations such as movement and rotation in the circumferential direction. The movement is not limited to the horizontal movement of the floor on which the robot 1 is installed, and various movements such as over a step and flying in space are possible. In the circumferential rotation, the robot 1 itself may rotate, or only the camera 130 and the robot-side display device 140 may rotate. The rotation of the camera 130 in the circumferential direction makes it possible to photograph the entire space. In addition, an effect as if a remote person is rotating can be expressed by the rotation of the robot-side display device 140 in the circumferential direction. It is preferable that a mechanism necessary for movement or rotation is housed inside the robot 1 and formed so that it is difficult for a child to touch.

また遠隔者端末3による遠隔操作により、ロボット1は、動作することも可能である。これにより、ロボット1は、子供が存在する空間において、遠隔者代わりの動体として活動することができる。例えば、遠隔者端末3においてロボット1に移動する指示をすることにより、子供に近寄ったり、子供と追いかけっこしたりなどのコミュニケーションが可能になる。   The robot 1 can also operate by remote operation by the remote terminal 3. Thereby, the robot 1 can act as a moving object on behalf of a remote person in the space where the child exists. For example, by instructing the robot 1 to move to the remote terminal 3, communication such as approaching a child or chasing after a child becomes possible.

(表示動画データ)
遠隔者端末3に表示される表示動画データDの各フレームは、図4(a)に示すように、中央に非ぼかし領域R1を有し、左右端に、ぼかし領域R2を有する。非ぼかし領域R1において空間は明瞭に表示され、ぼかし領域R2は、子供の存在が確認できる程度にぼかされる。
(Display video data)
Each frame of the display moving image data D displayed on the remote terminal 3 has a non-blurred area R1 at the center and a blurred area R2 at the left and right ends, as shown in FIG. The space is clearly displayed in the non-blur region R1, and the blur region R2 is blurred to the extent that the presence of a child can be confirmed.

本発明の実施の形態において、動画処理装置2が、ロボット側動画データBの各フレームにぼかし領域R2を設定する加工をする。これにより表示動画データDの各フレームの左右端に、ぼかし領域R2が設定される。   In the embodiment of the present invention, the moving image processing device 2 performs a process of setting a blur region R2 in each frame of the robot-side moving image data B. As a result, a blur region R2 is set at the left and right ends of each frame of the display moving image data D.

遠隔者が子供とコミュニケーションを開始する際、ロボット1のカメラ130が子供を捉えられる位置関係になければならない。そのため遠隔者端末3は、まずロボット1を周方向に回転して、子供を探索し、子供がフレーム中央の非ぼかし領域R1に入るように、ロボット1の向きを合わせる。ぼかし領域R2に子供の存在が確認できない場合、遠隔者端末3は、ロボット1を早く回転する指示を入力し、子供の存在を素早く探索することが可能である。またぼかし領域R2に子供の存在が確認できると、遠隔者端末3は、ロボット1をゆっくり回転する指示を入力することが可能になる。これにより、遠隔者端末3において、ロボット1位置を調整するための操作性が向上する。また遠隔者が、遠隔操作に不慣れな者であっても、ロボット1の位置を適切に調整することができる。子供が非ぼかし領域R1に入ると、遠隔者端末3はさらに、子供から遠ざかる、子供に近づくなど、子供との距離を調整しても良い。   When a remote person starts communication with a child, the camera 130 of the robot 1 must be in a positional relationship to capture the child. Therefore, the remote terminal 3 first rotates the robot 1 in the circumferential direction, searches for a child, and adjusts the direction of the robot 1 so that the child enters the non-blurred area R1 in the center of the frame. If the presence of a child cannot be confirmed in the blurred area R2, the remote terminal 3 can input an instruction to rotate the robot 1 quickly and quickly search for the presence of a child. When the presence of a child can be confirmed in the blurred area R2, the remote terminal 3 can input an instruction to rotate the robot 1 slowly. Thereby, the operability for adjusting the position of the robot 1 in the remote terminal 3 is improved. Further, even if the remote person is unfamiliar with remote operation, the position of the robot 1 can be appropriately adjusted. When the child enters the non-blurring area R1, the remote terminal 3 may further adjust the distance to the child, such as moving away from the child or approaching the child.

また他の例として、ぼかし領域R2を黒塗りにする、切り取るなど、ぼかし領域R2を設けず、非ぼかし領域R1のみを表示する態様も考えられる。この場合、非ぼかし領域R1に子供が入るように、遠隔者端末3は、ロボット1を回転しなければならず、水平方向の視覚が狭くなり、遠隔者端末3の操作性が低下する。これに対し、非ぼかし領域R1の左右端に、子供の存在が確認できる程度にぼかされたぼかし領域R2を設けることにより、遠隔者端末3は、非ぼかし領域R1とぼかし領域R2を合わせた広い領域で、子供を探索することができる。また子供が非ぼかし領域R1に位置し、子供と遠隔者とがコミュニケーションしている間、遠隔者は、ぼかし領域R2を明確に視認できないので、遠隔者が視認する情報を削減し、非ぼかし領域R1に注力することができる。   As another example, a mode in which only the non-blur region R1 is displayed without providing the blur region R2, such as blacking or cutting out the blur region R2, can be considered. In this case, the remote terminal 3 must rotate the robot 1 so that the child enters the non-blurring area R1, the visual sense in the horizontal direction is narrowed, and the operability of the remote terminal 3 is reduced. On the other hand, by providing a blurred area R2 blurred to the extent that the presence of a child can be confirmed at the left and right ends of the non-blurred area R1, the remote terminal 3 matches the non-blurred area R1 with the blurred area R2. You can search for children in a large area. Also, while the child is located in the non-blurred area R1 and the child and the remote person are communicating, the remote person cannot clearly see the blurred area R2. We can focus on R1.

子供と遠隔者とのコミュニケーションを実現するために、コミュニケーション支援システム5は、子供がロボット1に見られていると認識する範囲と、遠隔者端末3に明瞭に表示される範囲(非ぼかし領域R1)とが一致するように形成される。本発明の実施の形態において、子供がロボット1に見られていると認識する範囲と、非ぼかし領域R1とが一致する場合のみならず、コミュニケーションに支障が生じない程度に、差分が小さい場合も含む。   In order to realize communication between the child and the remote person, the communication support system 5 includes a range in which the child recognizes that the robot 1 is looking at the robot and a range in which the child is clearly displayed (the non-blur region R1). ) Is formed to match. In the embodiment of the present invention, not only the case where the range in which the child recognizes that the child is seen by the robot 1 and the non-blurred region R1 match, but also the case where the difference is small enough not to hinder communication. Including.

大人がロボット側表示装置140に見られていると認識する範囲の目安は、ロボット側表示装置140の中心から左右それぞれに47度(合計94度)であるとの実験値がある。本発明の実施の形態において、子供がロボット側表示装置140に見られていると認識する範囲も、この実験値と同様に設定される。   There is an experimental value that the standard of the range in which an adult recognizes that the robot is viewed by the robot-side display device 140 is 47 degrees (94 degrees in total) to the left and right from the center of the robot-side display device 140. In the embodiment of the present invention, the range in which the child recognizes that the child is looking at the robot-side display device 140 is set in the same manner as the experimental value.

子供がロボット1に見られていると認識する範囲と、遠隔者端末3で表示される表示動画データDの非ぼかし領域R1の範囲が一致する場合、非ぼかし領域R1にいる子供は、遠隔者を認識し、遠隔者とコミュニケーションを取りやすくなる。遠隔者は、子供のコミュニケーションを適切に確認し、子供は、遠隔者に見られている意識を持って遠隔者とコミュニケーションすることが可能になる。   If the range that the child recognizes as being seen by the robot 1 matches the range of the non-blurred region R1 of the display moving image data D displayed on the remote terminal 3, the child in the non-blurred region R1 is a remote person. Recognizes and communicates easily with remote people. The remote person properly confirms the child's communication, and the child can communicate with the remote person with the consciousness seen by the remote person.

一方、表示動画データDの非ぼかし領域R1より、子供がロボット1に見られていると認識する範囲が広い場合、表示動画データDのぼかし領域R2または撮影範囲外で、子供は遠隔者を認識する。この場合、子供から遠隔者への一方的な働きかけが発生し、コミュニケーションが成立しない。また子供がロボット1に見られていると認識する範囲より、非ぼかし領域R1が広い場合、遠隔者端末3に子供が表示されていても、子供は遠隔者に見られていると認識することができず、遠隔者が子供以外を見ていると認識してしまう場合がある。この場合、遠隔者から子供への一方的な働きかけが発生し、コミュニケーションが成立しない。   On the other hand, when the range in which the child recognizes that the child is seen by the robot 1 is wider than the non-blurred area R1 of the display moving image data D, the child recognizes a distant person outside the blurred region R2 of the display moving image data D or the shooting range. I do. In this case, a one-way approach from the child to the remote person occurs, and communication is not established. Also, if the non-blurring area R1 is wider than the range in which the child is recognized by the robot 1, the child is recognized as being viewed by the remote person even if the child is displayed on the remote terminal 3. May not be able to do so and may recognize that the remote person is looking at something other than a child. In this case, one-sided action from the remote person to the child occurs, and communication is not established.

そこで本発明の実施の形態において、非ぼかし領域R1は、子供がロボット1に見られていると認識する範囲に一致するように形成される。ぼかし領域R2は、ロボット側表示装置140によって子供が見られていると感じる範囲よりも左右方向(周方向)の外側の範囲に対応する。非ぼかし領域R1に子供が表示されるように、遠隔者端末3は、ロボット1の位置または向きを調整する。遠隔者端末3は、非ぼかし領域R1に遠隔者とコミュニケーションする子供を表示することができるので、子供と遠隔者の適切なコミュニケーションを促すことが可能である。   Therefore, in the embodiment of the present invention, the non-blurred area R1 is formed so as to coincide with a range in which the child recognizes that the child is seen by the robot 1. The blur region R2 corresponds to a range outside the range in which the child feels watching the child on the robot-side display device 140 in the left-right direction (circumferential direction). The remote terminal 3 adjusts the position or orientation of the robot 1 so that the child is displayed in the non-blurring area R1. Since the remote terminal 3 can display the child communicating with the remote in the non-blurring area R1, it is possible to prompt appropriate communication between the child and the remote.

また発明者の知見によれば、子供に頻繁に観察されるコミュニケーションの特徴として、図3(b)に示すように、ロボット側表示装置140に手で触れる、ロボット側表示装置140に玩具を押しつける、支持台180に玩具を乗せる等の行動がある。そこで遠隔者端末3で表示される表示動画データDは、これらの子供の行動や玩具の情報の視認性が担保できるように、動画処理装置2によって適切に加工される。   According to the knowledge of the inventor, as a feature of communication frequently observed by children, as shown in FIG. 3B, the user touches the robot-side display device 140 with his hand or presses a toy on the robot-side display device 140. There is an action such as putting a toy on the support base 180. Therefore, the display moving image data D displayed on the remote terminal 3 is appropriately processed by the moving image processing device 2 so that the visibility of the behavior of the child and the information of the toy can be secured.

具体的にロボット1のカメラ130は、ロボット側表示装置140の表示面および支持台180とともに子供が位置する空間を含む広い空間を撮影可能な、魚眼レンズを有する。魚眼レンズで撮影されたロボット側動画データBに、子供の行動、および子供がロボット1に近づけた玩具などを含めることが可能になり、遠隔者は、子供の行動を適切に把握して、子供の行動に対する対話が可能になる。   Specifically, the camera 130 of the robot 1 has a fisheye lens capable of photographing a wide space including a space where a child is located together with the display surface of the robot-side display device 140 and the support base 180. The robot-side moving image data B captured by the fisheye lens can include the behavior of the child, a toy that the child brought close to the robot 1, and the like. A dialogue on actions becomes possible.

図4(b)に示すように、非ぼかし領域R1は、ロボット1とコミュニケーション中の子供が位置する空間を撮影した子供空間撮影領域R11と、ロボット側表示装置140の表示面の空間側を撮影した表示面撮影領域R12と、背景撮影領域(図示せず)を有する。子供空間撮影領域R11は、子供がロボット1から離れて活動する様子を確認できる領域であり、表示面撮影領域R12は、子供が表示面に押しつけた玩具や支持台180に設置した玩具を確認できる領域である。背景撮影領域は、非ぼかし領域R1のうち、子供空間撮影領域R11と表示面撮影領域R12以外の領域であって、例えば、子供が位置する空間の天井部分など、カメラ130による撮影範囲のうち、子供が移動しえない領域である。   As shown in FIG. 4B, the non-blurred area R1 is an image of a child space imaging area R11 in which a space where a child communicating with the robot 1 is located and an image of the space side of the display surface of the robot-side display device 140. And a background photographing area (not shown). The child space shooting area R11 is an area where it is possible to check how the child is active away from the robot 1, and the display surface shooting area R12 is where a toy pressed by the child against the display surface or a toy placed on the support base 180 can be checked. Area. The background photographing region is a region other than the child space photographing region R11 and the display surface photographing region R12 in the non-blurring region R1, and includes, for example, a photographing range of the camera 130 such as a ceiling portion of a space where a child is located. It is an area where children cannot move.

本発明の実施の形態において、カメラ130の下方にロボット側表示装置140の表示面および支持台180がある。ロボット側表示装置140に近づけられた玩具および支持台180に設置された玩具は、フレームの下方の表示面撮影領域R12に撮影される。動画処理装置2は、ぼかし領域R2を設ける加工のほか、子供空間撮影領域R11または表示面撮影領域R12を拡大または縮小する加工をして、表示動画データDを生成する。子供空間撮影領域R11または表示面撮影領域R12を拡大または縮小する加工は、遠隔者端末3からの明示的な指示に従って行われても良いし、動画処理装置2がロボット側動画データBを監視し、所定条件を満たしたときに行っても良い。   In the embodiment of the present invention, the display surface of the robot-side display device 140 and the support table 180 are provided below the camera 130. The toy approached to the robot-side display device 140 and the toy installed on the support base 180 are photographed in the display surface photographing region R12 below the frame. The moving image processing device 2 generates display moving image data D by performing processing for enlarging or reducing the child space shooting area R11 or the display surface shooting area R12, in addition to the processing for providing the blur area R2. The process of enlarging or reducing the child space imaging region R11 or the display surface imaging region R12 may be performed according to an explicit instruction from the remote terminal 3, or the moving image processing device 2 may monitor the robot side moving image data B. May be performed when a predetermined condition is satisfied.

本発明の実施の形態において、表示動画データDは、子供空間撮影領域R11または表示面撮影領域R12の拡大または縮小に関して、図5に示すように、複数のモードを有する。図5に示す非接触時の各モードの画像は、それぞれ、ロボット側動画データBのフレームデータのうち、玩具が表示面に押しつけられていないフレームデータを、各モードに従って補正をしたものである。接触時の各モードの画像は、それぞれ、ロボット側動画データBのフレームデータのうち、玩具が表示面に押しつけられたフレームデータを、各モードに従って補正をしたものである。   In the embodiment of the present invention, the display moving image data D has a plurality of modes for enlarging or reducing the child space imaging region R11 or the display surface imaging region R12 as shown in FIG. The image in each mode at the time of non-contact shown in FIG. 5 is obtained by correcting frame data in which the toy is not pressed against the display surface among the frame data of the robot-side moving image data B according to each mode. The image in each mode at the time of contact is obtained by correcting the frame data of the toy pressed against the display surface among the frame data of the robot-side moving image data B according to each mode.

本発明の実施の形態において、表示動画データDを加工するモードとして、子供重視モード、玩具重視モードおよび子供玩具重視モードがある。なお図5に示すモードは一例であって、これに限定するものではなく、フレームの加工方針に従って、他のモードが適宜設定されても良い。   In the embodiment of the present invention, modes for processing the display moving image data D include a child-oriented mode, a toy-oriented mode, and a child toy-oriented mode. Note that the mode shown in FIG. 5 is an example, and the present invention is not limited to this mode. Other modes may be appropriately set according to the frame processing policy.

子供重視モードにおいて、子供空間撮影領域R11が大きく表示され、表示面撮影領域R12が、小さく表示される。玩具重視モードにおいて、子供空間撮影領域R11が小さく表示され、表示面撮影領域R12が大きく表示される。子供玩具重視モードにおいて、子供空間撮影領域R11とい表示面撮影領域R12がともに大きく表示される。   In the child-oriented mode, the child space shooting region R11 is displayed large, and the display surface shooting region R12 is displayed small. In the toy emphasis mode, the child space shooting region R11 is displayed small, and the display surface shooting region R12 is displayed large. In the child toy emphasis mode, both the child space shooting region R11 and the display surface shooting region R12 are displayed large.

図5に示すように、玩具の非接触時において、子供重視モードの子供空間撮影領域R11aと、子供玩具重視モードの子供空間撮影領域R11eでの各子供は、玩具重視モードの子供空間撮影領域R11cの子供よりも大きく表示される。子供重視モードおよび子供玩具重視モードで表示動画データDが生成されることにより、遠隔者は、子供の様子を高画質で確認することができる。   As shown in FIG. 5, when the toy is out of contact, each child in the child space shooting region R11e in the child emphasis mode and the child space shooting region R11e in the child toy emphasis mode becomes a child space shooting region R11c in the toy emphasis mode. Displayed larger than children. By generating the display moving image data D in the child emphasis mode and the child toy emphasis mode, a remote person can check the state of the child with high image quality.

一方玩具の接触時において、玩具重視モードの表示面撮影領域R12dと子供玩具重視モードの表示面撮影領域R12fにおいて、ロボット側表示装置140の表示面に押しつけられた玩具は、子供重視モードの表示面撮影領域R12bと比べて、大きく表示される。なお、図5の例では玩具は、ボールである。これにより、遠隔者は、玩具の形状、玩具に表示された文字なども確認することができ、子供の有する玩具に関して語りかけることも可能になる。   On the other hand, at the time of contact with the toy, the toy pressed against the display surface of the robot-side display device 140 in the display surface shooting region R12d in the toy emphasis mode and the display surface shooting region R12f in the child toy emphasis mode becomes the display surface in the child emphasis mode. It is displayed larger than the shooting region R12b. In the example of FIG. 5, the toy is a ball. Thereby, the remote person can check the shape of the toy, the characters displayed on the toy, and the like, and can talk about the toy owned by the child.

また玩具の接触時において、玩具重視モードの表示面撮影領域R12dにおいて、表示面に押しつけられた玩具は、子供玩具重視モードの表示面撮影領域R12fと比べて、大きく表示される。玩具重視モードは、表示面に押しつけられた玩具や、支持台180に設置された玩具などを特定するために好適である。   Further, at the time of contact with the toy, the toy pressed against the display surface in the display surface photographing region R12d in the toy emphasis mode is displayed larger than the display surface photographing region R12f in the child toy emphasis mode. The toy emphasis mode is suitable for specifying a toy pressed against the display surface, a toy installed on the support base 180, and the like.

なお、動画処理装置2は、各モードに対応するために、子供空間撮影領域R11、表示面撮影領域R12以外の領域の縮小、または縁部の削除などの加工も、併せて行っても良い。例えば子供重視モードの画像の左上等の縁部には、魚眼レンズで撮影されなかった領域が設けられているが、玩具重視モードにおいて画像全体に空間が撮影されている。これは、玩具重視モードにおいて、魚眼レンズでの撮影領域の中央部分を拡大したことに伴うものである。   Note that the moving image processing apparatus 2 may also perform processing such as reduction of an area other than the child space imaging area R11 and the display surface imaging area R12 or deletion of an edge in order to correspond to each mode. For example, an area not photographed by the fisheye lens is provided at an edge portion such as the upper left of the image in the child-oriented mode, but the entire image is photographed in the toy-oriented mode. This is due to the enlargement of the central portion of the shooting area with the fisheye lens in the toy emphasis mode.

また図5に示す各モードの領域サイズの大中小の表記は、動画処理装置2による加工前のロボット側動画データBの各フレームにおける領域と比較して拡大または縮小して表示することを意味する。例えば、玩具重視モードにおいて、表示面撮影領域R12が大きく表示されるが、ロボット側動画データBのフレームにおける、表示面撮影領域R12に対応する領域に比べて大きく表示されることを意味する。また各モードの領域サイズの特徴は、図5に示す表現以外で表現されても良い。例えば、子供空間撮影領域R11および表示面撮影領域R12の撮影領域の比較によって、各モードの領域サイズの特徴を表しても良い。また各モードにおいて、ロボット側動画データBの各フレームを均一に大きくし、その後に、拡大または縮小する加工をしても良い。   Further, the notation of large, medium, and small of the area size in each mode shown in FIG. 5 means that the area size is enlarged or reduced as compared with the area in each frame of the robot-side moving image data B before being processed by the moving image processing device 2. . For example, in the toy emphasis mode, the display surface shooting region R12 is displayed larger than the region corresponding to the display surface shooting region R12 in the frame of the robot-side moving image data B. Further, the feature of the area size in each mode may be expressed by a method other than the expression shown in FIG. For example, the feature of the region size in each mode may be represented by comparing the photographing regions of the child space photographing region R11 and the display surface photographing region R12. Further, in each mode, each frame of the robot-side moving image data B may be uniformly enlarged, and thereafter, processing for enlarging or reducing may be performed.

図6を参照して、子供と遠隔者とのコミュニケーション中のコミュニケーション支援システム5の処理を説明する。   With reference to FIG. 6, the processing of the communication support system 5 during communication between a child and a remote person will be described.

ステップS11において遠隔者端末3は、ロボット1の動作指示を入力すると、ステップS12において動画処理装置2は、ステップS11で取得した動作指示を、ロボット1に送信する。動作指示は、ロボット1の移動を指示する移動指示、またはロボット1の回転を指示する回転指示等である。ステップS13においてロボット1は、取得した動作指示に従って動作する。   When the remote terminal 3 inputs the operation instruction of the robot 1 in step S11, the moving image processing device 2 transmits the operation instruction acquired in step S11 to the robot 1 in step S12. The operation instruction is a movement instruction instructing the movement of the robot 1, a rotation instruction instructing the rotation of the robot 1, or the like. In step S13, the robot 1 operates according to the acquired operation instruction.

ここで、移動指示には、移動する方向、距離、速度等の各種設定値が含まれても良い。回転指示には、回転時の速度、回転する角度等の各種設定値が含まれても良い。また動画処理装置2は、遠隔者端末3が送信した動作指示を、ロボット1が判別可能な形式に変換して、動作指示を送信しても良い。図6に示す例において、遠隔者端末3が動作指示を送信する場合を説明したが、動画処理装置2が、ロボット側動画データBの内容に基づいて、遠隔者端末3の指示なく自律的に、ロボット1に動作指示を送信しても良い。   Here, the moving instruction may include various setting values such as a moving direction, a distance, and a speed. The rotation instruction may include various setting values such as a speed at the time of rotation, a rotation angle, and the like. Further, the moving image processing device 2 may convert the operation instruction transmitted by the remote terminal 3 into a format that can be distinguished by the robot 1 and transmit the operation instruction. In the example illustrated in FIG. 6, the case where the remote terminal 3 transmits the operation instruction has been described, but the moving image processing apparatus 2 autonomously transmits the operation instruction based on the content of the robot-side moving image data B without the instruction of the remote terminal 3. Alternatively, an operation instruction may be transmitted to the robot 1.

またステップS14において、遠隔者端末3が表示動画データDのモードを指定する指示が送信される。ステップS15において動画処理装置2は、ステップS14で指定されたモードでロボット側動画データBを加工し、ステップS16において指定されたモードで加工された表示動画データDを送信する。   In step S14, an instruction for the remote terminal 3 to specify the mode of the display moving image data D is transmitted. In step S15, the moving image processing apparatus 2 processes the robot-side moving image data B in the mode specified in step S14, and transmits the display moving image data D processed in the mode specified in step S16.

またステップS17において動画処理装置2は、ロボット側動画データBを監視し、モードの変更条件を検知すると、検知したモードでロボット側動画データBを加工する。ステップS18において動画処理装置2は、ステップS17で検知したモードで加工された表示動画データDを送信する。   In step S17, the moving image processing device 2 monitors the robot-side moving image data B and, when detecting a mode change condition, processes the robot-side moving image data B in the detected mode. In step S18, the moving image processing device 2 transmits the display moving image data D processed in the mode detected in step S17.

動画処理装置2は、後述する図10のように、所定のモードを適用するための条件を、予め定める。動画処理装置2は、ロボット側動画データBを監視して、予め定めた条件に合致するか否かを判断する。条件に合致する場合、その条件時に適用するモードで、ロボット側動画データBを加工して、表示動画データDを生成する。これにより、子供が玩具を表示面に近づけると、子供玩具重視モードに変更し、さらに表示面に近づけると玩具重視モードに変更するなど、動画処理装置2は、子供の動きに反応してモードを変更し、子供と遠隔者のコミュニケーションを支援する。   The moving image processing device 2 determines in advance conditions for applying a predetermined mode, as shown in FIG. 10 described later. The moving image processing device 2 monitors the robot side moving image data B and determines whether or not the predetermined condition is satisfied. When the condition is met, the robot-side moving image data B is processed to generate the display moving image data D in the mode applied at the time of the condition. Accordingly, the moving image processing device 2 changes the mode in response to the movement of the child, such as changing to the toy emphasis mode when the child approaches the display surface and changing to the toy emphasis mode when the child further approaches the display surface. Make changes and support communication between children and distant people.

(ロボット)
図7を参照して、本発明の実施の形態に係るロボット1が有するコンピュータ機能を説明する。ロボット1は、記憶装置100、処理装置110および入出力制御装置120、通信制御装置150等の一般的なコンピュータを有する装置のほか、コンピュータに接続可能な機器を備える。機器は、カメラ130、ロボット側表示装置140、移動装置160および回転装置161である。これらの機器は、コンピュータに内蔵されても良いし、外付けで接続されても良い。
(robot)
With reference to FIG. 7, the computer function of the robot 1 according to the embodiment of the present invention will be described. The robot 1 is equipped with a device having a general computer such as a storage device 100, a processing device 110, an input / output control device 120, a communication control device 150, and other devices that can be connected to the computer. The devices are the camera 130, the robot-side display device 140, the moving device 160, and the rotating device 161. These devices may be built in the computer or connected externally.

記憶装置100は、ROM(Read Only Memory)、RAM(Random access memory)、ハードディスク等であって、処理装置110が処理を実行するための入力データ、出力データおよび中間データなどの各種データを記憶する。処理装置110は、CPU(Central Processing Unit)であって、記憶装置100に記憶されたデータを読み書きしたり、入出力制御装置130とデータを入出力したりして、ロボット1のコンピュータにおける処理を実行する。   The storage device 100 is a read only memory (ROM), a random access memory (RAM), a hard disk, or the like, and stores various data such as input data, output data, and intermediate data for the processing device 110 to execute processing. . The processing device 110 is a CPU (Central Processing Unit), which reads and writes data stored in the storage device 100 and inputs and outputs data to and from the input / output control device 130, and performs processing in the computer of the robot 1. Execute.

入出力制御装置120は、処理装置110と、コンピュータに接続する機器との間の入出力を制御する。入出力制御装置120は、例えば、処理装置110から機器へのデータを中継し、機器から処理装置110へのデータを中継する。   The input / output control device 120 controls input / output between the processing device 110 and devices connected to the computer. For example, the input / output control device 120 relays data from the processing device 110 to the device, and relays data from the device to the processing device 110.

カメラ130は、図4を参照して説明したように、子供の存在する空間を撮影し、空間を撮影したロボット側動画データBを出力する。カメラ130は、子供の存在する空間のみならず、ロボット側表示装置140の表示面に押しつけられた玩具または支持台180に設置された玩具を撮影できるように、魚眼レンズを有する。   As described with reference to FIG. 4, the camera 130 captures an image of a space where a child exists, and outputs robot-side moving image data B of the captured space. The camera 130 has a fish-eye lens so that it can photograph not only the space where the child is present but also a toy pressed against the display surface of the robot-side display device 140 or a toy placed on the support base 180.

ロボット側表示装置140は、図4を参照して説明したように、遠隔者端末3から受信した遠隔者側動画データGを表示する。より具体的には、ロボット側表示装置140は、遠隔者側動画データGに基づいて取得される動画像を表示する。   The robot side display device 140 displays the remote person side moving image data G received from the remote person terminal 3 as described with reference to FIG. More specifically, the robot-side display device 140 displays a moving image acquired based on the remote-side moving image data G.

通信制御装置150は、ロボット1が、動画処理装置2と通信可能に接続するためのインタフェースである。   The communication control device 150 is an interface for the robot 1 to communicably connect to the moving image processing device 2.

移動装置160は、ロボット1が移動するための装置である。回転装置161は、ロボット1が周方向に回転するための装置である。本発明の実施の形態において、移動装置160および回転装置161の仕組みはどのようなものでもよく、具体的な構成は問わない。   The moving device 160 is a device for the robot 1 to move. The rotation device 161 is a device for rotating the robot 1 in the circumferential direction. In the embodiment of the present invention, the mechanism of the moving device 160 and the rotating device 161 may be any, and the specific configuration does not matter.

回転装置161は、カメラ130およびロボット側表示装置140を回転する。回転装置161は、カメラ130およびロボット側表示装置140の向きの関係に変更が生じないように、これらを同期して回転する。本発明の実施の形態において回転装置161は、ロボット1の筐体に設けられるので、ロボット1を回転することで、カメラ130およびロボット側表示装置140は、同期して回転することになる。   The rotation device 161 rotates the camera 130 and the robot-side display device 140. The rotation device 161 rotates the camera 130 and the robot-side display device 140 in synchronization with each other so that the relationship between the directions does not change. In the embodiment of the present invention, the rotation device 161 is provided in the housing of the robot 1, so that by rotating the robot 1, the camera 130 and the robot-side display device 140 rotate in synchronization.

記憶装置100は、ロボット側動画データBと遠隔者側動画データGを記憶する。   The storage device 100 stores the robot side moving image data B and the remote person moving image data G.

処理装置110は、ロボット側動画送信部111、遠隔者側動画再生部112および動作指示実行部113を備える。   The processing device 110 includes a robot-side moving image transmitting unit 111, a remote person-side moving image reproducing unit 112, and an operation instruction executing unit 113.

ロボット側動画送信部111は、カメラ130からによって撮影されたロボット側動画データBを取得し、取得したロボット側動画データBを動画処理装置2に送信する。   The robot-side moving image transmitting unit 111 acquires the robot-side moving image data B captured by the camera 130 and transmits the obtained robot-side moving image data B to the moving image processing device 2.

遠隔者側動画再生部112は、動画処理装置2から遠隔者側動画データGを受信し、受信した遠隔者側動画データGを再生して、ロボット側表示装置140に表示する。   The remote person side moving image reproducing unit 112 receives the remote person side moving image data G from the moving image processing device 2, reproduces the received remote person side moving image data G, and displays it on the robot side display device 140.

動作指示実行部113は、遠隔者端末3が入力した動作指示を、動画処理装置2を介して受信し、その動作指示に従って、移動装置160または回転装置161を駆動する。動作指示実行部113は、例えば、ロボット1を前に動かしたり、ロボットを回転させたりする。これにより遠隔者は、ロボット1を自身の希望の通りに動かし、所望の視界を得たり、子供とコミュニケーションを得たりができる。   The operation instruction execution unit 113 receives the operation instruction input by the remote terminal 3 via the moving image processing device 2, and drives the moving device 160 or the rotating device 161 according to the operation instruction. The operation instruction execution unit 113 moves the robot 1 forward or rotates the robot, for example. This allows the remote person to move the robot 1 as desired, thereby obtaining a desired field of view and communication with the child.

なおロボット1は、図7に示さないが入力装置を備えても良い。入力装置は、子供または子供の保護者等からの入力を受け付け、入出力制御装置120を介して処理装置110に、指示を入力する。入力装置は、ロボット1の筐体に設けられるボタン、ロボット側表示装置140に実装されるタッチパネル等である。またロボット1は、図7には示さないが、図3(a)に示すようにスピーカー170、支持台180を備える。またロボット1は、支持台180を駆動するためのモータ等の駆動装置をさらに備えても良い。   Although not shown in FIG. 7, the robot 1 may include an input device. The input device receives an input from a child or a guardian of the child, and inputs an instruction to the processing device 110 via the input / output control device 120. The input device is a button provided on the housing of the robot 1, a touch panel mounted on the robot-side display device 140, or the like. Although not shown in FIG. 7, the robot 1 includes a speaker 170 and a support 180 as shown in FIG. Further, the robot 1 may further include a driving device such as a motor for driving the support table 180.

支持台180の駆動としては、支持台180の開閉、移動等が考えられる。支持台180の開閉は、図3(a)に示すように、支持台180が閉じられ、支持台180の内部が見えない状態から、図3(b)に示すように、支持台180がロボット1の外側に開き、支持台180の内部に物を収納可能な状態に変化することである。支持台180の開閉は、支持台180が開いた状態から閉じた状態への変化を含む。また支持台180の移動は、ロボット1の筐体とぶつからない範囲内で、支持台180が上下または左右に移動したりすることである。   As the driving of the support table 180, opening and closing, movement, and the like of the support table 180 can be considered. As shown in FIG. 3A, the support table 180 is opened and closed from a state where the support table 180 is closed and the inside of the support table 180 is not visible, as shown in FIG. 1 to change to a state in which an object can be stored inside the support base 180. The opening and closing of the support 180 includes a change from an open state to a closed state of the support 180. The movement of the support table 180 means that the support table 180 moves up and down or left and right within a range that does not collide with the housing of the robot 1.

支持台180の駆動は、遠隔者端末3によって指示されても良い。図3(b)に示すように支持台180が開いた状態で支持台180内に物体を収納したことが、表示動画データDで確認されると、遠隔者端末3は、支持台180を閉じる指示をロボット1に送信し、ロボット1の駆動装置は、支持台180を閉じる。これにより、子供が遠隔者に、支持台180を介して物体をプレゼントしたような演出が可能になる。さらに、遠隔者端末3が、支持台180を開く指示をロボット1に送信し、ロボット1は支持台180を開き、子供が物を取り出せる状態となる。これにより、遠隔者が子供に、支持台180を介して物体をプレゼントしたような演出が可能になる。このように支持台180が駆動装置によって開閉し、遠隔者端末3が支持台180の駆動を制御することによって、子供と遠隔者のコミュニケーションを支援することが可能である。   The driving of the support 180 may be instructed by the remote terminal 3. When it is confirmed from the display moving image data D that the object has been stored in the support base 180 with the support base 180 open as shown in FIG. 3B, the remote terminal 3 closes the support base 180. The instruction is transmitted to the robot 1, and the driving device of the robot 1 closes the support table 180. Thus, it is possible to produce an effect as if the child presented an object to the remote person via the support 180. Further, the remote terminal 3 transmits an instruction to open the support table 180 to the robot 1, and the robot 1 opens the support table 180, so that the child can take out the object. Thus, it is possible to perform an effect as if a remote person presented an object to the child via the support 180. As described above, the support base 180 is opened and closed by the driving device, and the remote terminal 3 controls the drive of the support base 180, so that communication between the child and the remote person can be supported.

図8を参照して、本発明の実施の形態に係るロボット1のカメラ130のレンズの仕様を説明する。カメラ130のレンズは、所定距離における子供と、レンズの下方に位置するロボット側表示装置140の表示面および支持台180に設置された玩具を撮影する必要がある。   With reference to FIG. 8, the specification of the lens of the camera 130 of the robot 1 according to the embodiment of the present invention will be described. The lens of the camera 130 needs to photograph a child at a predetermined distance and a toy placed on the support surface and the display surface of the robot-side display device 140 located below the lens.

そこで、カメラ130のレンズは、垂直方向に広角な視野が要求される。具体的には、カメラ130のレンズの上方の視野角θの最小値が、式(1)で表され、カメラ130のレンズの下方の視野角θの最小値が、式(2)で表される。 Therefore, the lens of the camera 130 is required to have a wide angle view in the vertical direction. Specifically, the minimum value of the viewing angle θ U above the lens of the camera 130 is expressed by Expression (1), and the minimum value of the viewing angle θ D below the lens of the camera 130 is expressed by Expression (2). expressed.

Figure 2020048158
Figure 2020048158

なお、Ddisp−chは、子供がロボット1の前に座り、遠隔者とコミュニケーションを取る際の距離、または手を伸ばした際にロボット側表示装置140に手が触れる程度の距離を想定する。子供の身長が80センチの場合、Ddisp−chは、20−30センチ程度の数値が設定される。 Note that D disp-ch is assumed to be a distance when a child sits in front of the robot 1 and communicates with a remote person, or a distance where the hand touches the robot-side display device 140 when reaching. When the height of the child is 80 cm, D disp-ch is set to a value of about 20 to 30 cm.

また、カメラ130のレンズの水平方向の視野角は、子供がロボット側表示装置140に見られていると感じる範囲よりも広くなるように設定される。本発明の実施の形態において、ロボット1に設置されたカメラ130のレンズと、ロボット側表示装置140の表示面は、左右対称に形成され、ロボット側表示装置140の表示面のすぐ上に、カメラ130のレンズが設置される。従って、子供がロボット側表示装置140に見られていると感じる範囲と、カメラ130のレンズで撮影される子供がロボット側表示装置140に見られていると感じる範囲は、近似することができる。また本発明の実施の形態において、子供がロボット側表示装置140から見られていると認識する角度は、ロボット側表示装置140の表示面の中心から、左右それぞれに47度(合計94度)であるとしている。   Further, the horizontal viewing angle of the lens of the camera 130 is set to be wider than the range in which the child feels that the child is looking at the robot-side display device 140. In the embodiment of the present invention, the lens of the camera 130 installed on the robot 1 and the display surface of the robot-side display device 140 are formed bilaterally symmetrically, and the camera is located immediately above the display surface of the robot-side display device 140. 130 lenses are installed. Therefore, the range where the child feels that the child is looking at the robot side display device 140 and the range where the child photographed by the lens of the camera 130 feels that the child is looking at the robot side display device 140 can be approximated. In the embodiment of the present invention, the angle at which the child recognizes that the child is viewed from the robot-side display device 140 is 47 degrees (94 degrees in total) from the center of the display surface of the robot-side display device 140 to each of the left and right sides. There is.

従って、カメラ130のレンズの水平方向の視野角は、非ぼかし領域R1として、レンズの中心から左方向および右方向にそれぞれ47度が担保される。レンズの水平方向の視野角は、左右それぞれ47度に、さらにぼかし領域R2で必要となる角度を加算した角度となる。   Accordingly, the horizontal viewing angle of the lens of the camera 130 is secured as 47 degrees in the left and right directions from the center of the lens as the non-blurring area R1. The horizontal viewing angle of the lens is an angle obtained by adding an angle required for the blurring region R2 to 47 degrees in each of the left and right directions.

(動画処理装置)
図9を参照して、本発明の実施の形態に係る動画処理装置2を説明する。動画処理装置2は、記憶装置200、処理装置210、通信制御装置220を備える一般的なコンピュータである。一般的なコンピュータが動画処理プログラムを実行することにより、図9に示す機能を実現する。
(Movie processing device)
With reference to FIG. 9, the moving image processing device 2 according to the embodiment of the present invention will be described. The moving image processing device 2 is a general computer including a storage device 200, a processing device 210, and a communication control device 220. When a general computer executes the moving image processing program, the functions shown in FIG. 9 are realized.

記憶装置200は、ROM、RAM、ハードディスク等であって、処理装置210が処理を実行するための入力データ、出力データおよび中間データなどの各種データを記憶する。処理装置210は、CPUであって、記憶装置200に記憶されたデータを読み書きしたり、通信制御装置220とデータを入出力したりして、動画処理装置2における処理を実行する。通信制御装置220は、動画処理装置2が、ロボット1および遠隔者端末3と通信可能に接続するためのインタフェースである。   The storage device 200 is a ROM, a RAM, a hard disk, or the like, and stores various data such as input data, output data, and intermediate data for the processing device 210 to execute processing. The processing device 210 is a CPU, and executes processing in the moving image processing device 2 by reading and writing data stored in the storage device 200 and inputting and outputting data to and from the communication control device 220. The communication control device 220 is an interface for the moving image processing device 2 to communicably connect with the robot 1 and the remote terminal 3.

記憶装置200は、変更条件データ201を記憶する。変更条件データ201は、図10に示すように、条件と、その条件下で適用するモードを対応づけたデータである。変更条件データ201の条件が満たされた場合、動画処理装置2は、その満たされた条件に対応づけられたモードでロボット側動画データBを加工して、表示動画データDを生成する。なお図示しないが、記憶装置200は、ロボット側動画データB、表示動画データD、遠隔者側動画データG等を記憶しても良い。   The storage device 200 stores the change condition data 201. As shown in FIG. 10, the change condition data 201 is data in which a condition is associated with a mode applied under the condition. When the condition of the change condition data 201 is satisfied, the moving image processing device 2 processes the robot-side moving image data B in a mode associated with the satisfied condition to generate display moving image data D. Although not shown, the storage device 200 may store the robot side moving image data B, the display moving image data D, the remote person moving image data G, and the like.

処理装置210は、遠隔者側動画中継部211、動作指示中継部212およびロボット側動画中継部213を備える。   The processing device 210 includes a remote person-side moving image relay unit 211, an operation instruction relay unit 212, and a robot-side moving image relay unit 213.

遠隔者側動画中継部211は、遠隔者端末3が送信した遠隔者側動画データGを、ロボット1に送信する。本発明の実施の形態において遠隔者側動画中継部211は、受信した動画データを加工することなく送信することを想定するが、必要に応じて、受信した動画データを加工しても良い。   The remote person side moving image relay unit 211 transmits the remote person side moving image data G transmitted by the remote person terminal 3 to the robot 1. In the embodiment of the present invention, it is assumed that the remote-side moving image relay unit 211 transmits the received moving image data without processing, but the received moving image data may be processed as needed.

動作指示中継部212は、遠隔者端末3が送信したロボット1の動作指示を、ロボット1に送信する。動作指示は、ロボット1の移動または回転等である。動作指示中継部212は、遠隔者端末3から受信したデータを別のデータ形式に変換するなどの変更を行っても良い。   The operation instruction relay unit 212 transmits the operation instruction of the robot 1 transmitted by the remote terminal 3 to the robot 1. The operation instruction is, for example, movement or rotation of the robot 1. The operation instruction relay unit 212 may perform a change such as converting data received from the remote terminal 3 into another data format.

ロボット側動画中継部213は、ロボット1から受信したロボット側動画データBを受信する。ロボット側動画中継部213は、ロボット側動画加工部214によって、ロボット側動画データBに所定の画像処理を行って表示動画データDを生成する。さらに、ロボット側動画中継部213は、生成した表示動画データDを遠隔者端末3に送信する。   The robot-side moving image relay unit 213 receives the robot-side moving image data B received from the robot 1. The robot-side moving image relay unit 213 performs predetermined image processing on the robot-side moving image data B by the robot-side moving image processing unit 214 to generate display moving image data D. Further, the robot-side moving image relay unit 213 transmits the generated display moving image data D to the remote terminal 3.

ロボット側動画加工部214は、ロボット1から受信したロボット側動画データBを、遠隔者が見やすい表示動画データDに加工する。本発明の実施の形態においてロボット側動画加工部214は、(1)左右端のぼかし加工および(2)モードの変換の各加工を行って、表示動画データDを生成する。なお、(1)左右端のぼかし加工は、ロボット側動画データBのぼかし領域R2の加工であり、(2)モードの変換は、ロボット側動画データBの非ぼかし領域R1の加工であるので、これらの加工は並行して行い、各加工結果を結合して、表示動画データDのフレームを生成しても良い。   The robot-side moving image processing unit 214 processes the robot-side moving image data B received from the robot 1 into display moving image data D that can be easily viewed by a remote person. In the embodiment of the present invention, the robot-side moving image processing unit 214 generates display moving image data D by performing (1) left and right edge blurring processing and (2) mode conversion processing. Note that (1) the left and right end blur processing is processing of the blur area R2 of the robot-side moving image data B, and (2) the mode conversion is processing of the non-blur area R1 of the robot-side moving image data B. These processings may be performed in parallel, and the processing results may be combined to generate a frame of the display moving image data D.

(1)左右端のぼかし加工
ロボット側動画加工部214は、ロボット1から、ぼかしのないロボット側動画データBのフレームデータを取得すると、左右端にぼかし加工を施す。ロボット側動画加工部214は、図4(a)に示すロボット側動画データBのぼかし領域R2に対応する領域を、画像処理によりぼかす。ロボット側動画加工部214は、例えば、ロボット側動画データBにおいて各画素に与えられた特徴値を平滑化し、複数画素の特徴値に変換して、ぼかし領域R2の鮮明度を下げる。このときロボット側動画加工部214は、ぼかし領域R2において、子供の細部まではわからないが、子供がいることがわかる程度に、ぼかし領域R2の鮮明度を下げる。
(1) Blur processing of left and right ends When the robot-side moving image processing unit 214 acquires the frame data of the robot-side moving image data B without blur from the robot 1, it performs a blurring process on the left and right ends. The robot-side moving image processing unit 214 blurs an area corresponding to the blur region R2 of the robot-side moving image data B shown in FIG. The robot-side moving image processing unit 214, for example, smoothes the feature value given to each pixel in the robot-side moving image data B, converts it into a plurality of pixel feature values, and lowers the sharpness of the blurred region R2. At this time, the robot-side moving image processing unit 214 does not know the details of the child in the blurred area R2, but lowers the sharpness of the blurred area R2 to such an extent that the child is present.

(2)モードの変換
ロボット側動画加工部214は、ロボット側動画データBを、図5を参照して説明した各モードに対応する動画データに変換する。ロボット側動画加工部214は、まず、デフォルトのモードに従って、ロボット側動画データBを加工する。デフォルトのモードは、図10に示すように子供重視モードである。
(2) Mode Conversion The robot-side moving image processing unit 214 converts the robot-side moving image data B into moving image data corresponding to each mode described with reference to FIG. The robot-side moving image processing unit 214 first processes the robot-side moving image data B according to a default mode. The default mode is a child-oriented mode as shown in FIG.

その後、ロボット側動画加工部214は、遠隔者端末3の指示、またはロボット側動画データBの内容に応じて、適宜モードを変換する。遠隔者端末3からモードを指定する指示が送信されると、ロボット側動画加工部214は、指定されたモードでロボット側動画データBを加工する。またロボット側動画加工部214は、ロボット側動画データBの動画像の変化を監視し、変更条件データ201で指定された条件およびモードに従って、ロボット側動画データBを加工する。   After that, the robot-side moving image processing unit 214 appropriately converts the mode according to the instruction from the remote terminal 3 or the content of the robot-side moving image data B. When the instruction to specify the mode is transmitted from the remote terminal 3, the robot-side moving image processing unit 214 processes the robot-side moving image data B in the specified mode. The robot-side moving image processing unit 214 monitors a change in the moving image of the robot-side moving image data B, and processes the robot-side moving image data B according to the condition and mode specified by the change condition data 201.

例えばロボット側動画加工部214は、子供または玩具などの物体がロボット側表示装置140の表示面に近づくと、物体がロボット側表示装置140に近づく前に比べて、表示面撮影領域R12が、広く表示されるように、加工する。ロボット側動画データBの表示面撮影領域R12に所定の変化(δ)があると、子供が表示面撮影領域R12に近づいた、或いは表示面撮影領域R12に何かを近づけたと考えられる。その場合、ロボット側動画加工部214は、子供玩具重視モードで、子供空間撮影領域R11と表示面撮影領域R12の両方が見えやすい表示動画データDに加工する。   For example, when an object such as a child or a toy approaches the display surface of the robot-side display device 140, the display-surface imaging region R12 becomes wider than before the object approaches the robot-side display device 140. Process as shown. If there is a predetermined change (δ) in the display surface shooting region R12 of the robot-side moving image data B, it is considered that the child has approached the display surface shooting region R12 or has brought something close to the display surface shooting region R12. In this case, the robot-side moving image processing unit 214 processes the moving image into the display moving image data D in which both the child space shooting region R11 and the display surface shooting region R12 are easy to see in the child toy emphasis mode.

また、表示面撮影領域R12に、更なる変化(δ’>δ)があると、表示面撮影領域R12に子供または玩具がさらに近づいたこと考えられる。その場合、ロボット側動画加工部214は、玩具重視モードで、表示面撮影領域R12が特に見えやすい表示動画データDに加工する。   Further, if there is a further change (δ ′> δ) in the display surface shooting region R12, it is considered that a child or a toy has come closer to the display surface shooting region R12. In this case, the robot-side moving image processing unit 214 processes the display moving image data D into the display moving image data D in which the display surface photographing region R12 is particularly easily seen in the toy emphasis mode.

またロボット側動画加工部214は、ロボット側動画データBの状況にかかわらず、子供空間撮影領域R11と表示面撮影領域R12は、背景撮影領域と比較して拡大して表示されるように、加工しても良い。これにより、モード変換に依らずとも、コミュニケーションのキーとなる子供と、ロボット側表示装置140の表示面または支持台に近づく玩具の見やすい動画データを、継続的に、遠隔者端末3に提供することができる。   Further, the robot-side moving image processing unit 214 processes the child space shooting region R11 and the display surface shooting region R12 such that the child space shooting region R11 and the display surface shooting region R12 are displayed larger than the background shooting region regardless of the state of the robot-side moving image data B. You may. Thereby, it is possible to continuously provide the remote terminal 3 with easy-to-view moving image data of a child as a communication key and a toy approaching the display surface of the robot-side display device 140 or the support stand, regardless of the mode conversion. Can be.

ロボット側動画加工部214が、子供空間撮影領域R11または表示面撮影領域R12を拡大したり縮小したりする際、様々な手法が考えられる。本発明の実施の形態においてカメラ130のレンズは魚眼レンズであるので、魚眼レンズの撮影動画を補正する際に用いる歪曲収差の補正度合いを調節して、加工することも可能である。例えば、本発明の実施の形態において、表示面撮影領域R12は、図4(b)に示すように、魚眼レンズの撮影領域の縁部に設けられる。従ってロボット側動画加工部214は、子供または玩具などの物体がロボット側表示装置140に近づくと、物体がロボット側表示装置140に近づく前に比べて、表示面撮影領域R12の歪曲収差を強く補正する。これによりロボット側動画加工部214は、表示面撮影領域R12を広く表示することが可能になる。   When the robot-side moving image processing unit 214 enlarges or reduces the child space imaging region R11 or the display surface imaging region R12, various methods can be considered. In the embodiment of the present invention, since the lens of the camera 130 is a fish-eye lens, it is also possible to adjust the degree of correction of distortion used when correcting a moving image captured by the fish-eye lens and to perform processing. For example, in the embodiment of the present invention, the display surface photographing region R12 is provided at the edge of the photographing region of the fisheye lens as shown in FIG. Therefore, the robot-side moving image processing unit 214 strongly corrects the distortion of the display surface shooting region R12 when an object such as a child or a toy approaches the robot-side display device 140, as compared to before the object approaches the robot-side display device 140. I do. Accordingly, the robot-side moving image processing unit 214 can display the display surface shooting region R12 widely.

(遠隔者端末)
図11を参照して、本発明の実施の形態に係る遠隔者端末3を説明する。遠隔者端末3は、記憶装置300、処理装置310および入出力制御装置320、通信制御装置350等の一般的なコンピュータを有する装置のほか、コンピュータに接続可能な機器を備える。機器は、カメラ330および遠隔者側表示装置340である。これらの機器は、コンピュータに内蔵されても良いし、外付けで接続されても良い。遠隔者端末3は、パーソナルコンピュータ、ノートパソコン、スマートフォン、タブレットコンピュータ等の各種コンピュータによって構成されても良い。
(Remote terminal)
Referring to FIG. 11, remote terminal 3 according to the embodiment of the present invention will be described. The remote terminal 3 includes a device having a general computer such as a storage device 300, a processing device 310, an input / output control device 320, a communication control device 350, and other devices that can be connected to the computer. The devices are a camera 330 and a remote-side display device 340. These devices may be built in the computer or connected externally. The remote terminal 3 may be configured by various computers such as a personal computer, a notebook computer, a smartphone, and a tablet computer.

記憶装置300は、ROM、RAM、ハードディスク等であって、処理装置310が処理を実行するための入力データ、出力データおよび中間データなどの各種データを記憶する。処理装置310は、CPUであって、記憶装置300に記憶されたデータを読み書きしたり、入出力制御装置320とデータを入出力したりして、遠隔者端末3における処理を実行する。   The storage device 300 is a ROM, a RAM, a hard disk, or the like, and stores various data such as input data, output data, and intermediate data for the processing device 310 to execute processing. The processing device 310 is a CPU, and executes processing in the remote terminal 3 by reading and writing data stored in the storage device 300 and inputting and outputting data to and from the input / output control device 320.

入出力制御装置320は、処理装置310と、コンピュータに接続する機器との間の入出力を制御する。入出力制御装置320は、例えば、処理装置310から機器へのデータを中継し、機器から処理装置310へのデータを中継する。   The input / output control device 320 controls input / output between the processing device 310 and devices connected to the computer. For example, the input / output control device 320 relays data from the processing device 310 to the device, and relays data from the device to the processing device 310.

カメラ330は、遠隔者の存在する空間を撮影した遠隔者側動画データGを、撮影する。カメラ330は、向きや角度が調節可能に配置され、カメラ330によって遠隔者が映るように調整される。   The camera 330 captures the moving image data G on the remote side, which captures the space where the remote person exists. The camera 330 is arranged so as to be adjustable in direction and angle, and is adjusted so that a remote person can be seen by the camera 330.

遠隔者側表示装置340は、表示動画データDを表示する。左右端に、子供の存在が確認できる程度にぼかされたぼかし領域R2を有する表示動画データを表示する。遠隔者側表示装置340は、表示動画データDに基づいて形成される動画像を表示する。   The remote person side display device 340 displays the display moving image data D. At the left and right ends, display moving image data having a blurred region R2 blurred to the extent that the presence of a child can be confirmed is displayed. The remote person side display device 340 displays a moving image formed based on the display moving image data D.

記憶装置300は、遠隔者側動画データGおよび表示動画データDを記憶する。   The storage device 300 stores remote-side moving image data G and display moving image data D.

処理装置310は、遠隔者側動画送信部311、表示動画再生部312、動作指示部313およびモード指定部314を備える。   The processing device 310 includes a remote person-side moving image transmitting unit 311, a display moving image reproducing unit 312, an operation instruction unit 313, and a mode specifying unit 314.

遠隔者側動画送信部311は、カメラ330からによって撮影された遠隔者側動画データGを取得する。遠隔者側動画送信部311は、取得した遠隔者側動画データGを、動画処理装置2を介して、ロボット1に送信する。   The remote person side moving image transmission unit 311 acquires the remote person side moving image data G captured by the camera 330. The remote person side moving image transmission unit 311 transmits the acquired remote person side moving image data G to the robot 1 via the moving image processing device 2.

表示動画再生部312は、動画処理装置2から表示動画データDを受信し、受信した表示動画データDを再生し、遠隔者側表示装置340に表示する。   The display moving image reproducing unit 312 receives the display moving image data D from the moving image processing device 2, reproduces the received display moving image data D, and displays the data on the remote display device 340.

動作指示部313は、動画処理装置2を介してロボット1に、移動の指示、または、カメラ130およびロボット側表示装置140を周方向に回転する指示を入力する。動作指示部313は、表示動画データDの中央の非ぼかし領域R1に、子供が映るように、指示する。動作指示部313は、操作者が入力した指示を、動画処理装置2に送信しても良いし、操作者の入力がなくとも、動作指示部313が自立的に生成した指示を、動画処理装置2に送信しても良い。例えば、表示動画データDを観察して、非ぼかし領域R1に子供が映っていないと判断する場合、動作指示部313は、ロボット1を回転するように指示する。非ぼかし領域R1に子供が映ったと判断する場合、動作指示部313は、ロボット1を回転する指示を止めるよう指示する。   The operation instruction unit 313 inputs an instruction to move or an instruction to rotate the camera 130 and the robot-side display device 140 in the circumferential direction to the robot 1 via the moving image processing device 2. The operation instructing unit 313 instructs the child to be displayed in the non-blur area R1 at the center of the display moving image data D. The operation instruction unit 313 may transmit the instruction input by the operator to the moving image processing apparatus 2, or may output the instruction generated by the operation instruction unit 313 autonomously even without the input of the operator. 2 may be transmitted. For example, when observing the display moving image data D and determining that a child is not reflected in the non-blurred area R1, the operation instructing unit 313 instructs the robot 1 to rotate. When judging that a child is reflected in the non-blurring area R1, the operation instruction unit 313 instructs to stop the instruction to rotate the robot 1.

モード指定部314は、動画処理装置2に対して、表示動画データDを生成する際に用いられるモードを指定する。動画処理装置2は、指定されたモードで表示動画データDを生成して、遠隔者端末3に送信する。   The mode specifying unit 314 specifies a mode used when generating the display moving image data D for the moving image processing device 2. The moving image processing device 2 generates the display moving image data D in the designated mode, and transmits the generated moving image data D to the remote terminal 3.

このような本発明の実施の形態に係るコミュニケーション支援システム5によれば、ロボット1が撮影した動画データそのものを遠隔者端末3に表示するのではなく、左右端に子供の存在が確認できる程度にぼかされたぼかし領域を設定する。これによりコミュニケーション支援システム5は、遠隔者がロボットの向きを子供の向きに合わせやすく、遠隔者の操作性が向上する。   According to the communication support system 5 according to such an embodiment of the present invention, the moving image data itself captured by the robot 1 is not displayed on the remote terminal 3 but to the extent that a child can be confirmed at the left and right ends. Set the blurred blur area. Thereby, the communication support system 5 makes it easy for the remote person to adjust the direction of the robot to the direction of the child, and the operability of the remote person is improved.

また遠隔者端末3で表示される表示動画データDにおいて、子供が見られていると感じる範囲外にぼかし領域R2が設定され、子供が見られていると感じる範囲内に非ぼかし領域R1が設定される。これによりコミュニケーション支援システム5は、非ぼかし領域R1に子供が映るように、ロボットの向きを調節できるように誘導することができる。また遠隔者が子供を見るというコミュニケーションサインが、子供に伝わりやすい。   Further, in the display moving image data D displayed on the remote terminal 3, a blur region R2 is set outside the range where the child feels watching, and a non-blur region R1 is set within the range where the child feels watching. Is done. Thereby, the communication support system 5 can guide the robot so that the orientation of the robot can be adjusted so that the child is displayed in the non-blurring area R1. In addition, a communication sign that a remote person looks at the child is easily transmitted to the child.

また遠隔者端末3において、子供や子供が有する玩具の状況に応じて、所定領域を拡大したり縮小したりすることにより、遠隔者は、子供の行動を適切に把握することができる。これによりコミュニケーション支援システム5において、遠隔者は、子供の行動に対する発話が可能になるので、子供と遠隔者のスムーズなコミュニケーションを支援することができる。   Further, in the remote terminal 3, by expanding or reducing the predetermined area according to the situation of the child or the toy possessed by the child, the remote person can appropriately grasp the behavior of the child. Thus, in the communication support system 5, the remote person can speak to the behavior of the child, so that smooth communication between the child and the remote person can be supported.

(第1の変形例)
本発明の実施の形態において、動画処理装置2が、ロボット側動画データBの左右端をぼかす画像処理により、表示動画データDを得る場合を説明したが、これに限られない。
(First Modification)
In the embodiment of the present invention, the case where the moving image processing apparatus 2 obtains the display moving image data D by performing image processing for blurring the left and right ends of the robot-side moving image data B has been described, but the present invention is not limited to this.

第1の変形例において、カメラ130のレンズのぼかし領域R2に対応する位置に、空間をぼかすフィルタが設置されても良い。図12に示すように、カメラ130が有する魚眼レンズ131の左右端のそれぞれに、ぼかしフィルタ133を配設する。図12に示す例においてぼかしフィルタ133の位置は、レンズ枠132によって、固定される。   In the first modification, a filter that blurs the space may be provided at a position corresponding to the blur region R2 of the lens of the camera 130. As shown in FIG. 12, a blur filter 133 is provided at each of the left and right ends of the fisheye lens 131 of the camera 130. In the example shown in FIG. 12, the position of the blur filter 133 is fixed by the lens frame 132.

第1の変形例において、カメラ130が出力する動画データを、そのまま遠隔者端末3に表示しても良い。その場合、第1の変形例に係るコミュニケーション支援システム5は、図13に示す処理を行う。   In the first modification, the moving image data output by the camera 130 may be displayed on the remote terminal 3 as it is. In that case, the communication support system 5 according to the first modification performs the processing shown in FIG.

ステップS51においてロボット1は、左右端にぼかしが施された表示動画データDを動画処理装置2に送信し、ステップS52において動画処理装置2は、ステップS51で受信した表示動画データDを遠隔者端末3に送信する。   In step S51, the robot 1 transmits the display moving image data D with the left and right edges blurred to the moving image processing device 2, and in step S52, the moving image processing device 2 transmits the display moving image data D received in step S51 to the remote terminal. Send to 3.

ステップS53において遠隔者端末3は、遠隔者側動画データGを動画処理装置2に送信し、ステップS54において動画処理装置2は、ステップS53で受信した遠隔者側動画データGをロボットに送信する。   In step S53, the remote person terminal 3 transmits the remote person moving image data G to the moving image processing device 2, and in step S54, the moving image processing device 2 transmits the remote person moving image data G received in step S53 to the robot.

これによりステップS55においてロボット1は、ステップS54で取得した遠隔者側動画データGを再生して表示する。ステップS56において遠隔者端末3は、ステップS52で取得した表示動画データDを再生して表示する。   Accordingly, in step S55, the robot 1 reproduces and displays the remote person-side moving image data G acquired in step S54. In step S56, the remote terminal 3 reproduces and displays the display moving image data D acquired in step S52.

なお、図13に示す例では省略したが、動画処理装置2は、ステップS51において表示動画データDを受信した後に、モードに従って所定領域を拡大または縮小する加工をしても良い。   Although omitted in the example illustrated in FIG. 13, the moving image processing device 2 may perform processing of enlarging or reducing a predetermined area according to the mode after receiving the display moving image data D in step S51.

第1の変形例において、カメラ130のレンズの左右端にぼかしフィルタを設けることにより、動画処理装置2において、ロボット側動画データBの左右端にぼかし加工を施す必要がなくなる。これにより、動画処理装置2における処理遅延および処理負担を軽減することができる。   In the first modified example, by providing a blur filter at the left and right ends of the lens of the camera 130, the moving image processing device 2 does not need to blur the left and right ends of the robot-side moving image data B. Thereby, the processing delay and the processing load in the moving image processing device 2 can be reduced.

(第2の変形例)
本発明の実施の形態において、ロボット1と遠隔者端末3に接続する動画処理装置2が、ロボット側動画データBを加工して、表示動画データDを生成する場合を説明したが、これに限られない。動画処理装置2のロボット側動画加工部214の機能は、ロボット1の一機能として実装されても良いし、遠隔者端末3の一機能として実装されても良い。ロボット1または遠隔者端末3の各コンピュータのスペックや負荷に応じて、ロボット側動画加工部214は、適切なコンピュータで実装される。
(Second Modification)
In the embodiment of the present invention, the case where the moving image processing device 2 connected to the robot 1 and the remote terminal 3 processes the robot side moving image data B to generate the display moving image data D has been described. I can't. The function of the robot-side moving image processing unit 214 of the moving image processing device 2 may be implemented as one function of the robot 1 or may be implemented as one function of the remote terminal 3. The robot-side moving image processing unit 214 is implemented by an appropriate computer according to the specifications and load of each computer of the robot 1 or the remote terminal 3.

(第3の変形例)
本発明の実施の形態において、ロボット1のカメラ130に魚眼レンズを用いる場合を説明したが、これに限られない。
(Third Modification)
In the embodiment of the present invention, the case where the fisheye lens is used for the camera 130 of the robot 1 has been described, but the invention is not limited to this.

図14に示すように、表示面の上方に第1のレンズ135aを設け、表示面の下方に第2のレンズ135bを設ける。第1のレンズ135aは、子供空間撮影領域R11を撮影し、第2のレンズ135bは、支持台180近傍を撮影する。動画処理装置2は、各レンズで撮影された動画データを結合して、上下方向に広い画角を有する動画データを取得しても良い。   As shown in FIG. 14, a first lens 135a is provided above the display surface, and a second lens 135b is provided below the display surface. The first lens 135a photographs the child space photographing region R11, and the second lens 135b photographs the vicinity of the support 180. The moving image processing apparatus 2 may acquire moving image data having a wide angle of view in a vertical direction by combining moving image data shot by each lens.

さらに、ロボット1のロボット側表示装置140の表示面の上下のみならず、左右それぞれにカメラのレンズを設けても良い。左右方向にも広い画角を有する動画データを取得することができるので、遠隔者は、子供の位置を容易に確認することができる。   Further, camera lenses may be provided not only on the upper and lower sides of the display surface of the robot-side display device 140 of the robot 1 but also on the right and left sides. Since moving image data having a wide angle of view can also be acquired in the left-right direction, a remote person can easily confirm the position of the child.

また図15に示すように、第1のレンズ136aおよび第2のレンズ136bを並べて設置しても良い。この際、第1のレンズ136aおよび第2のレンズ136bを覆うカバー137を設けて、子供がレンズに触れにくくすることが好ましい。またカバー137を黒などの暗い色にすることにより、カバー137内部のレンズが見えづらくなり、子供の興味をレンズに向けにくくすることが可能である。   Further, as shown in FIG. 15, the first lens 136a and the second lens 136b may be installed side by side. At this time, it is preferable that a cover 137 that covers the first lens 136a and the second lens 136b is provided to make it difficult for children to touch the lenses. Further, by making the cover 137 a dark color such as black, the lens inside the cover 137 becomes difficult to see, and it is possible to make it difficult for children's interest to be directed to the lens.

また本発明の実施の形態において、ロボット1が左右方向に回転することに伴い、ロボット側動画データBの左右端にぼかし領域R2が設定されたが、これに限られない。ロボット1の頭部が上下に首振りするなど、カメラ130およびロボット側表示装置140が上下方向に回転する場合、ロボット側動画データBの上下端にぼかし領域R2が設定されても良い。   Further, in the embodiment of the present invention, the blur region R2 is set at the left and right ends of the robot-side moving image data B as the robot 1 rotates in the left and right direction, but is not limited thereto. When the camera 130 and the robot-side display device 140 rotate in the up-down direction, such as when the head of the robot 1 swings up and down, the blur region R2 may be set at the upper and lower ends of the robot-side moving image data B.

(その他の実施の形態)
上記のように、本発明の実施の形態とその変形例1ないし3によって記載したが、この開示の一部をなす論述および図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例および運用技術が明らかとなる。
(Other embodiments)
As described above, the embodiments of the present invention and the modifications 1 to 3 have been described. However, it should not be understood that the description and drawings constituting a part of this disclosure limit the present invention. From this disclosure, various alternative embodiments, examples, and operation techniques will be apparent to those skilled in the art.

例えば、本発明の実施の形態に記載した情報処理装置は、図1に示すように一つのハードウエア上に構成されても良いし、その機能や処理数に応じて複数のハードウエア上に構成されても良い。また、既存の情報処理システム上に実現されても良い。   For example, the information processing apparatus described in the embodiment of the present invention may be configured on one piece of hardware as shown in FIG. 1, or may be configured on a plurality of pieces of hardware according to its functions and the number of processes. May be. Further, it may be realized on an existing information processing system.

本発明はここでは記載していない様々な実施の形態等を含むことは勿論である。従って、本発明の技術的範囲は上記の説明から妥当な特許請求の範囲に係る発明特定事項によってのみ定められるものである。   The present invention naturally includes various embodiments and the like not described herein. Therefore, the technical scope of the present invention is determined only by the invention specifying matters according to the claims that are appropriate from the above description.

1 ロボット
2 動画処理装置
3 遠隔者端末
5 コミュニケーション支援システム
100、200、300 記憶装置
110、210、310 処理装置
111 ロボット側動画送信部
112 遠隔者側動画再生部
113 動作指示実行部
120、320 入出力制御装置
130、330 カメラ
131 魚眼レンズ
132 レンズ枠
133 ぼかしフィルタ
135、136 レンズ
137 カバー
140 ロボット側表示装置
150、220、350 通信制御装置
160 移動装置
161 回転装置
170 スピーカー
180 支持台
201 変更条件データ
211 遠隔者側動画中継部
212 動作指示中継部
213 ロボット側動画中継部
214 ロボット側動画加工部
311 遠隔者側動画送信部
312 表示動画再生部
313 動作指示部
314 モード指定部
340 遠隔者側表示装置
B ロボット側動画データ
D 表示動画データ
G 遠隔者側動画データ
R1 非ぼかし領域
R2 ぼかし領域
R11 子供空間撮影領域
R12 表示面撮影領域
Reference Signs List 1 robot 2 moving image processing device 3 remote terminal 5 communication support system 100, 200, 300 storage device 110, 210, 310 processing device 111 robot-side moving image transmitting unit 112 remote-side moving image reproducing unit 113 operation instruction executing unit 120, 320 Output control device 130, 330 Camera 131 Fisheye lens 132 Lens frame 133 Blur filter 135, 136 Lens 137 Cover 140 Robot side display device 150, 220, 350 Communication control device 160 Moving device 161 Rotating device 170 Speaker 180 Support stand 201 Change condition data 211 Remote person side moving image relay unit 212 Operation instruction relay unit 213 Robot side moving image relay unit 214 Robot side moving image processing unit 311 Remote person side moving image transmitting unit 312 Display moving image reproducing unit 313 Operation instruction unit 314 M Code designation section 340 Remote-side display device B Robot-side moving image data D Display moving-image data G Remote-side moving image data R1 Non-blur region R2 Blur region R11 Child space shooting region R12 Display surface shooting region

Claims (16)

空間を撮影するとともに遠隔者を表示するロボットと、前記遠隔者が利用する遠隔者端末を備え、前記空間に存在する子供と前記遠隔者とのコミュニケーションを支援するコミュニケーション支援システムであって、
前記ロボットは、
前記空間を撮影したロボット側動画データを出力するカメラと、
前記遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、
前記カメラおよび前記ロボット側表示装置を周方向に回転する回転装置を備え、
前記遠隔者端末は、
前記遠隔者を撮影した前記遠隔者側動画データを前記ロボットに送信する遠隔者側動画送信部と、
前記ロボット側動画データに対応し、左右端に、前記子供の存在が確認できる程度にぼかされたぼかし領域を有する表示動画データを表示する遠隔者側表示装置と、
前記ロボットに、前記カメラおよび前記ロボット側表示装置を周方向に回転する指示を入力する動作指示部とを備える
ことを特徴とするコミュニケーション支援システム。
A communication support system that includes a robot that photographs a space and displays a remote person, and a remote terminal used by the remote person, and supports communication between the child and the remote person existing in the space.
The robot is
A camera that outputs robot-side moving image data of the space,
A robot-side display device for displaying remote-party-side moving image data received from the remote-party terminal;
A rotating device that rotates the camera and the robot-side display device in a circumferential direction,
The remote terminal is
A remote person-side moving image transmitting unit that transmits the remote person-side moving image data of the remote person to the robot;
Corresponding to the robot-side moving image data, at the left and right ends, a remote person-side display device that displays display moving image data having a blurred area blurred to the extent that the presence of the child can be confirmed;
A communication support system, comprising: an operation instruction unit that inputs an instruction to rotate the camera and the robot-side display device in a circumferential direction, to the robot.
前記ぼかし領域は、前記ロボット側表示装置によって前記子供が見られていると感じる範囲よりも左右方向の外側の範囲に対応する
ことを特徴とする請求項1に記載のコミュニケーション支援システム。
2. The communication support system according to claim 1, wherein the blur area corresponds to a range outside the range in which the child feels that the child is seen by the robot-side display device in the left-right direction. 3.
前記表示動画データは、前記ロボット側動画データの前記ぼかし領域に対応する領域を、画像処理によりぼかしたデータである
ことを特徴とする請求項1または2に記載のコミュニケーション支援システム。
The communication support system according to claim 1, wherein the display moving image data is data obtained by blurring an area corresponding to the blur area of the robot-side moving image data by image processing.
前記カメラのレンズの前記ぼかし領域に対応する位置に、空間をぼかすフィルタが設置され、
前記カメラが出力する前記ロボット側動画データは、前記表示動画データである
ことを特徴とする請求項1または2に記載のコミュニケーション支援システム。
At a position corresponding to the blur area of the camera lens, a filter that blurs the space is installed,
The communication support system according to claim 1, wherein the robot-side moving image data output by the camera is the display moving image data.
前記遠隔者端末の前記動作指示部は、前記表示動画データの中央の非ぼかし領域に、前記子供が映るように、前記ロボットに指示を入力する
ことを特徴とする請求項1ないし4のいずれか1項に記載のコミュニケーション支援システム。
The said operation instruction | indication part of the said remote person terminal inputs the instruction | indication with respect to the said robot so that the said child may be shown in the non-blurring area | region of the center of the said display moving image data. The Claims 1 to 4 characterized by the above-mentioned. The communication support system according to claim 1.
前記ロボットは、移動する
ことを特徴とする請求項1ないし5のいずれか1項に記載のコミュニケーション支援システム。
The communication support system according to any one of claims 1 to 5, wherein the robot moves.
前記表示動画データの中央の非ぼかし領域は、
前記ロボット側表示装置の表示面の前記空間側を撮影した表示面撮影領域を有し、
物体が前記ロボット側表示装置に近づくと、前記物体を前記ロボット側表示装置に近づく前に比べて、前記表示面撮影領域が、広く表示される
ことを特徴とする請求項1に記載のコミュニケーション支援システム。
The non-blur area at the center of the display moving image data is
A display surface photographing area photographing the space side of the display surface of the robot side display device,
2. The communication support according to claim 1, wherein when the object approaches the robot-side display device, the display surface shooting area is displayed wider than before the object approaches the robot-side display device. 3. system.
前記カメラは、魚眼レンズで前記空間を撮影し、
前記表示面撮影領域は、前記魚眼レンズの撮影領域の縁部に設けられ、
前記物体が前記ロボット側表示装置に近づくと、前記物体が前記ロボット側表示装置に近づく前に比べて、前記表示面撮影領域の歪曲収差が強く補正される
ことを特徴とする請求項7に記載のコミュニケーション支援システム。
The camera shoots the space with a fisheye lens,
The display surface shooting area is provided at an edge of a shooting area of the fisheye lens,
The distortion of the display surface photographing area is more strongly corrected when the object approaches the robot-side display device than before the object approaches the robot-side display device. Communication support system.
前記表示動画データの中央の非ぼかし領域は、
前記ロボットとコミュニケーション中の子供が位置する空間を撮影した子供空間撮影領域と、
前記ロボット側表示装置の表示面の前記空間側を撮影した表示面撮影領域と、
前記非ぼかし領域のうち、前記子供空間撮影領域と前記表示面撮影領域以外の領域を撮影した背景撮影領域を有し、
前記子供空間撮影領域と前記表示面撮影領域は、前記背景撮影領域と比較して拡大して表示される
ことを特徴とする請求項1に記載のコミュニケーション支援システム。
The non-blur area at the center of the display moving image data is
A child space imaging region that images the space where the child communicating with the robot is located,
A display surface photographing area photographing the space side of the display surface of the robot side display device,
Among the non-blurred areas, the child space shooting area and a background shooting area obtained by shooting an area other than the display surface shooting area,
The communication support system according to claim 1, wherein the child space shooting area and the display surface shooting area are displayed in an enlarged manner as compared with the background shooting area.
空間を撮影するとともに遠隔者を表示するロボットと、前記遠隔者が利用する遠隔者端末を備え、前記空間に存在する子供と前記遠隔者とのコミュニケーションを支援するコミュニケーション支援システムであって、
前記ロボットは、
前記空間を撮影したロボット側動画データを出力するカメラと、
前記遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置
を備え、
前記遠隔者端末は、
前記遠隔者を撮影した前記遠隔者側動画データを前記ロボットに送信する遠隔者側動画送信部と、
前記ロボット側動画データに対応する表示動画データを表示する遠隔者側表示装置を備え、
前記表示動画データは、
前記空間を撮影した空間撮影領域と、
前記ロボット側表示装置の表示面の前記空間側を撮影した表示面撮影領域を有し、
物体が前記ロボット側表示装置に近づくと、前記物体が前記ロボット側表示装置に近づく前に比べて、前記表示面撮影領域が、広く表示される
ことを特徴とするコミュニケーション支援システム。
A communication support system that includes a robot that photographs a space and displays a remote person, and a remote terminal used by the remote person, and supports communication between the child and the remote person existing in the space.
The robot is
A camera that outputs robot-side moving image data of the space,
A robot-side display device that displays remote-side moving image data received from the remote-side terminal,
The remote terminal is
A remote person-side moving image transmitting unit that transmits the remote person-side moving image data of the remote person to the robot;
A remote-side display device that displays display moving image data corresponding to the robot-side moving image data,
The display moving image data includes:
A space shooting area where the space is shot,
A display surface photographing area photographing the space side of the display surface of the robot side display device,
A communication support system, wherein, when an object approaches the robot-side display device, the display surface shooting area is displayed wider than before the object approaches the robot-side display device.
前記カメラは、魚眼レンズで前記空間を撮影し、
前記表示面撮影領域は、前記魚眼レンズの撮影領域の縁部に設けられ、
前記物体が前記ロボット側表示装置に近づくと、前記物体が前記ロボット側表示装置に近づく前に比べて、前記表示面撮影領域の歪曲収差が強く補正される
ことを特徴とする請求項10に記載のコミュニケーション支援システム。
The camera shoots the space with a fisheye lens,
The display surface shooting area is provided at an edge of a shooting area of the fisheye lens,
The distortion of the display surface photographing area is more strongly corrected when the object approaches the robot-side display device than before the object approaches the robot-side display device. The apparatus according to claim 10, wherein: Communication support system.
空間を撮影するとともに遠隔者を表示するロボットと、前記遠隔者が利用する遠隔者端末を備え、前記空間に存在する子供と前記遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられる前記ロボットであって、
前記遠隔者端末は、前記遠隔者を撮影した遠隔者側動画データを前記ロボットに送信するとともに、前記空間を撮影した動画データであって、左右端に、前記子供の存在が確認できる程度にぼかされたぼかし領域を有する表示動画データを表示し、
前記ロボットは、
前記ぼかし領域に対応するレンズの位置に、前記空間をぼかすフィルタが設置され、前記空間を撮影した前記表示動画データを出力するカメラと、
前記遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、
前記カメラおよび前記ロボット側表示装置を周方向に回転する回転装置を備える
ことを特徴とするロボット。
A robot for photographing a space and displaying a remote person, and a remote terminal used by the remote person, the robot being used in a communication support system for supporting communication between a child existing in the space and the remote person. So,
The remote person terminal transmits the remote person side moving image data of the remote person to the robot, and the moving object data of the space, and the left and right ends of the remote person terminal are so small that the presence of the child can be confirmed. Displaying display moving image data having a blurred blur area,
The robot is
At the position of the lens corresponding to the blur area, a filter that blurs the space is installed, and a camera that outputs the display moving image data obtained by shooting the space,
A robot-side display device for displaying remote-party-side moving image data received from the remote-party terminal;
A robot comprising: a rotation device configured to rotate the camera and the robot-side display device in a circumferential direction.
空間を撮影するとともに遠隔者を表示するロボットと、前記遠隔者が利用する遠隔者端末と、前記遠隔者端末に表示される表示動画データを加工する動画処理装置を備え、前記空間に存在する子供と前記遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられる前記動画処理装置であって、
前記ロボットは、
前記空間を撮影したロボット側動画データを出力するカメラと、
前記遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、
前記カメラおよび前記ロボット側表示装置を周方向に回転する回転装置を備え、
前記遠隔者端末は、
前記遠隔者を撮影した前記遠隔者側動画データを前記ロボットに送信する遠隔者側動画送信部と、
前記ロボット側動画データに対応し、左右端に、前記子供の存在が確認できる程度にぼかされたぼかし領域を有する表示動画データを表示する遠隔者側表示装置と、
前記ロボットに、前記カメラおよび前記ロボット側表示装置を周方向に回転する指示を入力する動作指示部とを備え、
前記動画処理装置は、
前記ロボット側動画データの前記ぼかし領域に対応する領域を、画像処理によりぼかして、前記表示動画データを生成するロボット側動画加工部
を備えることを特徴とする動画処理装置。
A robot for photographing a space and displaying a remote person, a remote terminal used by the remote person, and a moving image processing device for processing display moving image data displayed on the remote terminal; a child existing in the space; And the video processing device used in a communication support system that supports communication with the remote person,
The robot is
A camera that outputs robot-side moving image data of the space,
A robot-side display device for displaying remote-party-side moving image data received from the remote-party terminal;
A rotating device that rotates the camera and the robot-side display device in a circumferential direction,
The remote terminal is
A remote person-side moving image transmitting unit that transmits the remote person-side moving image data of the remote person to the robot;
Corresponding to the robot-side moving image data, at the left and right ends, a remote person-side display device that displays display moving image data having a blurred area blurred to the extent that the presence of the child can be confirmed;
The robot further includes an operation instruction unit that inputs an instruction to rotate the camera and the robot-side display device in a circumferential direction,
The video processing device,
A moving image processing device, comprising: a robot-side moving image processing unit that blurs an area corresponding to the blur region of the robot-side moving image data by image processing to generate the display moving image data.
空間を撮影するとともに遠隔者を表示するロボットと、前記遠隔者が利用する遠隔者端末と、前記遠隔者端末に表示される表示動画データを加工する動画処理装置を備え、前記空間に存在する子供と前記遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられる前記動画処理装置であって、
前記ロボットは、
前記空間を撮影したロボット側動画データを出力するカメラと、
前記遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置と、
前記遠隔者端末は、
前記遠隔者を撮影した前記遠隔者側動画データを前記ロボットに送信する遠隔者側動画送信部と、
前記ロボット側動画データから加工された表示動画データを表示する遠隔者側表示装置とを備え、
前記表示動画データは、
前記ロボット側表示装置の表示面の前記空間側を撮影した表示面撮影領域を有し、
前記動画処理装置は、
物体が前記ロボット側表示装置に近づくと、前記物体を前記ロボット側表示装置に近づく前に比べて、前記表示面撮影領域が広くなるように加工するロボット側動画加工部
を備えることを特徴とする動画処理装置。
A robot for photographing a space and displaying a remote person, a remote terminal used by the remote person, and a moving image processing device for processing display moving image data displayed on the remote terminal; a child existing in the space; And the video processing device used in a communication support system that supports communication with the remote person,
The robot is
A camera that outputs robot-side moving image data of the space,
A robot-side display device for displaying remote-party-side moving image data received from the remote-party terminal;
The remote terminal is
A remote person-side moving image transmitting unit that transmits the remote person-side moving image data of the remote person to the robot;
A remote person side display device that displays display moving image data processed from the robot side moving image data,
The display moving image data includes:
A display surface photographing area photographing the space side of the display surface of the robot side display device,
The video processing device,
A robot-side moving image processing unit that processes the object so that the display surface photographing area becomes wider when the object approaches the robot-side display device as compared to before the object approaches the robot-side display device. Video processing device.
コンピュータを、請求項13または14に記載の動画処理装置として機能する動画処理プログラム。   A moving image processing program that causes a computer to function as the moving image processing device according to claim 13. 空間を撮影するとともに遠隔者を表示するロボットと、前記遠隔者が利用する遠隔者端末を備え、前記空間に存在する子供と前記遠隔者とのコミュニケーションを支援するコミュニケーション支援システムに用いられる前記ロボットであって、
前記空間を撮影したロボット側動画データを出力するカメラと、
前記遠隔者端末から受信した遠隔者側動画データを表示するロボット側表示装置を備え、
前記カメラの上方の視野角は、式(1)で表現され、
前記カメラの下方の視野角は、式(2)で表現される
ことを特徴とするロボット。
Figure 2020048158
A robot for photographing a space and displaying a remote person, and a remote terminal used by the remote person, the robot being used in a communication support system for supporting communication between a child existing in the space and the remote person. So,
A camera that outputs robot-side moving image data of the space,
A robot-side display device that displays remote-side moving image data received from the remote-side terminal,
The viewing angle above the camera is represented by equation (1):
The viewing angle below the camera is represented by Equation (2).
Figure 2020048158
JP2018177186A 2018-09-21 2018-09-21 Communication support system, robot, video processing device and video processing program Active JP7257022B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018177186A JP7257022B2 (en) 2018-09-21 2018-09-21 Communication support system, robot, video processing device and video processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018177186A JP7257022B2 (en) 2018-09-21 2018-09-21 Communication support system, robot, video processing device and video processing program

Publications (3)

Publication Number Publication Date
JP2020048158A true JP2020048158A (en) 2020-03-26
JP2020048158A5 JP2020048158A5 (en) 2022-07-13
JP7257022B2 JP7257022B2 (en) 2023-04-13

Family

ID=69899974

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018177186A Active JP7257022B2 (en) 2018-09-21 2018-09-21 Communication support system, robot, video processing device and video processing program

Country Status (1)

Country Link
JP (1) JP7257022B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004023660A (en) * 2002-06-19 2004-01-22 Matsushita Electric Ind Co Ltd Info-communication system and doll toy
JP2012175136A (en) * 2011-02-17 2012-09-10 Nec Corp Camera system and control method of the same
JP2015093353A (en) * 2013-11-12 2015-05-18 敏之 三津江 Multifunctional information terminal remote-manipulation type robot
JP2017164319A (en) * 2016-03-16 2017-09-21 国立大学法人電気通信大学 Video chat robot system, hand delivery play control method and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004023660A (en) * 2002-06-19 2004-01-22 Matsushita Electric Ind Co Ltd Info-communication system and doll toy
JP2012175136A (en) * 2011-02-17 2012-09-10 Nec Corp Camera system and control method of the same
JP2015093353A (en) * 2013-11-12 2015-05-18 敏之 三津江 Multifunctional information terminal remote-manipulation type robot
JP2017164319A (en) * 2016-03-16 2017-09-21 国立大学法人電気通信大学 Video chat robot system, hand delivery play control method and program

Also Published As

Publication number Publication date
JP7257022B2 (en) 2023-04-13

Similar Documents

Publication Publication Date Title
US9838597B2 (en) Imaging device, imaging method, and program
CN109952759B (en) Improved method and system for video conferencing with HMD
JP5208810B2 (en) Information processing apparatus, information processing method, information processing program, and network conference system
JP6432130B2 (en) Display system, display device, photographing device, display method, and program
JP6229314B2 (en) Information processing apparatus, display control method, and program
US7643064B1 (en) Predictive video device system
JP6298563B1 (en) Program and method for providing virtual space by head mounted device, and information processing apparatus for executing the program
WO2017114048A1 (en) Mobile terminal and method for identifying contact
US10462358B2 (en) Information processing apparatus, information processing system, and information processing method
US20150022627A1 (en) Photographing apparatus, photographing method and computer-readable storage medium storing photographing program of photographing apparatus
JP2018152787A (en) Imaging device, external device, imaging system, imaging method, operation method, and program
JPWO2017195514A1 (en) IMAGE PROCESSING APPARATUS, IMAGE PROCESSING SYSTEM, IMAGE PROCESSING METHOD, AND PROGRAM
US20220253993A1 (en) Image processing apparatus and image processing method
US20220053179A1 (en) Information processing apparatus, information processing method, and program
US20210383097A1 (en) Object scanning for subsequent object detection
JP2003111041A (en) Image processor, image processing system, image processing method, storage medium and program
JP2016063244A (en) Imaging apparatus and image display control method
US20160267801A1 (en) Image display method and apparatus
JP6551734B2 (en) Moving picture creation system, moving picture creation method, and moving picture creation program
JP2020048158A (en) Communication support system, robot, moving image processor, and moving image processing program
WO2022037215A1 (en) Camera, display device and camera control method
JP2019012509A (en) Program for providing virtual space with head-mounted display, method, and information processing apparatus for executing program
CN111736692A (en) Display method, display device, storage medium and head-mounted device
JP5750792B1 (en) Imaging apparatus, imaging method, and program
JP6829922B1 (en) Information processing device, 3D model generation method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210902

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220704

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230327

R150 Certificate of patent or registration of utility model

Ref document number: 7257022

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150