JP6541497B2 - Communication system, control method thereof and program - Google Patents

Communication system, control method thereof and program Download PDF

Info

Publication number
JP6541497B2
JP6541497B2 JP2015152091A JP2015152091A JP6541497B2 JP 6541497 B2 JP6541497 B2 JP 6541497B2 JP 2015152091 A JP2015152091 A JP 2015152091A JP 2015152091 A JP2015152091 A JP 2015152091A JP 6541497 B2 JP6541497 B2 JP 6541497B2
Authority
JP
Japan
Prior art keywords
image
projection plane
subject
threshold
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015152091A
Other languages
Japanese (ja)
Other versions
JP2017034456A5 (en
JP2017034456A (en
Inventor
央周 佐藤
央周 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015152091A priority Critical patent/JP6541497B2/en
Priority to US15/215,194 priority patent/US9854204B2/en
Publication of JP2017034456A publication Critical patent/JP2017034456A/en
Publication of JP2017034456A5 publication Critical patent/JP2017034456A5/ja
Application granted granted Critical
Publication of JP6541497B2 publication Critical patent/JP6541497B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、遠隔地とコミュニケーションを取るためのコミュニケーションシステム、その制御方法、及びプログラムに関する。   The present invention relates to a communication system for communicating with a remote place, a control method thereof, and a program.

離れた場所(遠隔地)にいる相手とコミュニケーションを取るためのシステムが知られている。特許文献1には、離れた場所にいる相手と会議を行うための遠隔会議システムが開示されている。特許文献1のシステムには、人物を撮像するためのカメラと、画像を投影するためのプロジェクタと、プロジェクタによって投影された画像を映し出すスクリーンが含まれる。   There is known a system for communicating with a remote party (remote place). Patent Document 1 discloses a teleconferencing system for holding a conference with a remote party. The system of Patent Document 1 includes a camera for capturing an image of a person, a projector for projecting an image, and a screen for projecting an image projected by the projector.

特許文献1のシステムでは、ある会議室に備えられたカメラで撮像した人物画像が相手側(遠隔地)のプロジェクタによってスクリーンに投影される一方で、相手側のカメラで撮像された人物が会議室のプロジェクタによってスクリーンに投影される。また、特許文献1には、人物を等身大のサイズで映し出すことによって会議の臨場感を高めることが示されている。   In the system of Patent Document 1, while a person image captured by a camera provided in a conference room is projected onto a screen by a projector on the other side (remote place), a person captured by the camera on the other side is a conference room Projected onto the screen by the Further, Patent Document 1 shows that the reality of a conference is enhanced by projecting a person in a life-size size.

特開2008−191613号公報JP, 2008-191613, A

特許文献1のシステムにおいて、カメラは人物を前面側から撮像するために使用される。従って、複数の人物が向かい合ってコミュニケーションを取る場合には特許文献1のシステムは有効であると考えられる。しかしながら、例えばコミュニケーションとしてオフィスの会議を想定すると、特許文献1のシステムでは十分なコミュニケーションを取ることができない場合がある。   In the system of Patent Document 1, a camera is used to capture a person from the front side. Therefore, the system of Patent Document 1 is considered to be effective when a plurality of persons face each other to communicate. However, assuming, for example, an office meeting as communication, the system of Patent Document 1 may not be able to take sufficient communication.

会議の場合、人物はスクリーンの前に移動してスクリーンに投影された資料を指さしたり、ホワイトボードに新たな記入を行う場合がある。このような場合、人物のアクション(指さしや新たな記入)を遠隔地に伝える為に、人物を背面側から撮像することが望ましい。ところが、特許文献1のシステムの場合、人物を背面側から撮像することは想定されていない。   In the case of a meeting, a person may move to the front of the screen to point to the material projected on the screen, or may make a new entry on the whiteboard. In such a case, it is desirable to image the person from the back side in order to convey the person's action (pointing and new entry) to the remote location. However, in the case of the system of patent document 1, imaging a person from the back side is not assumed.

これを踏まえて、人物を前面側から撮像するための前面カメラに加えて、人物を背面側から撮像するための背面カメラを更に用いることが検討されている。しかしながら、前面カメラで撮像した人物画像と背面カメラで撮像した人物画像のどちらを遠隔地に投影するかをユーザ(例えば会議の参加者)に手動で切り替えさせると、コミュニケーションがその都度停滞することになる。これは、円滑なコミュニケーションを妨げる要因となる。   Based on this, in addition to the front camera for imaging a person from the front side, it is considered to further use a rear camera for imaging a person from the back side. However, when the user (for example, a participant in a conference) is manually switched which of a person image captured by the front camera and a person image captured by the rear camera is to be projected to a remote location, communication stagnates each time. Become. This is a factor that impedes smooth communication.

そこで本発明では、前面カメラで撮像した人物画像と背面カメラで撮像した人物画像のどちらを遠隔地に投影するかを、ユーザに意識させることなく自動的に切り替え可能な仕組みを提供することを目的とする。   Therefore, in the present invention, it is an object of the present invention to provide a mechanism capable of automatically switching between a person image picked up by a front camera and a person image picked up by a rear camera on a remote place without making the user conscious. I assume.

上述した課題を解決するために、本発明が提供するコミュニケーションシステムは、第1の投影面に画像を投影する第1の投影手段と、前記第1の投影面の前に位置する人物を前記第1の投影面側から撮像する第1の撮像手段と、前記人物に対して前記第1の投影面の反対側から前記人物を撮像する第2の撮像手段と、第2の投影面に投影する画像として、前記第1の撮像手段によって撮像された人物画像と、前記第2の撮像手段によって撮像された人物画像のいずれかを、前記人物の位置に基づいて選択する選択手段と、前記選択手段によって選択された人物画像を前記第2の投影面に投影する第2の投影手段とを備え、前記第2の投影手段によって前記第2の投影面に投影される人物画像には、透明化処理が実行されることを特徴とする。   In order to solve the problems described above, a communication system provided by the present invention comprises: first projection means for projecting an image on a first projection plane; and a person located in front of the first projection plane. A first imaging unit for imaging from the side of the projection plane of 1, a second imaging unit for imaging the person from the opposite side of the first projection plane with respect to the person, and a projection on the second projection plane Selection means for selecting any one of a person image picked up by the first image pickup means and a person image picked up by the second image pickup means as an image based on the position of the person, and the selection means And second projection means for projecting the person image selected by the second projection plane onto the second projection plane, and the person image projected on the second projection plane by the second projection Is characterized in that

また、本発明が提供するコミュニケーションシステムは、遠隔地とコミュニケーションを行うためのコミュニケーションシステムであって、投影面に画像を投影する第1の投影手段と、前記投影面の前に位置する人物を前記投影面側から撮像する第1の撮像手段と、前記人物に対して前記投影面の反対側から前記人物を撮像する第2の撮像手段と、前記第1の撮像手段によって撮像された人物画像と、前記第2の撮像手段によって撮像された人物画像のいずれかを、前記人物の位置に基づいて選択する選択手段と、前記選択手段によって選択された人物画像に透明化処理を実行する処理手段と、前記透明化処理が実行された人物画像を前記遠隔地に送信する送信手段とを備えることを特徴とする。   Further, a communication system provided by the present invention is a communication system for communicating with a remote place, which is a first projection means for projecting an image on a projection plane, and a person located in front of the projection plane. A first imaging unit configured to capture an image from the projection surface side, a second imaging unit configured to capture the person from the opposite side of the projection surface with respect to the person, and a person image captured by the first imaging unit; A selection unit that selects any one of the human images captured by the second imaging unit based on the position of the person; and a processing unit that performs a process of making the human image selected by the selection unit transparent. And transmitting means for transmitting the person image on which the transparency processing has been performed to the remote location.

本発明によれば、前面カメラで撮像した人物画像と背面カメラで撮像した人物画像のどちらを遠隔地に投影するかを自動的に切り替えることができるため、円滑なコミュニケーションが促進される。   According to the present invention, it is possible to automatically switch which of a person image captured by the front camera and a person image captured by the rear camera are to be projected to a remote place, thereby promoting smooth communication.

コミュニケーションシステムの構成を示す図である。It is a figure showing composition of a communication system. コミュニケーションを行っている様子を示す図である。It is a figure which shows a mode that it is communicating. コミュニケーションを行っている様子を示す図である。It is a figure which shows a mode that it is communicating. コミュニケーションシステムのハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of a communication system. 背面人物画像と前面人物画像の切り替えについて説明する図である。It is a figure explaining switching of a back person image and a front person image. 遠隔地のスクリーンに投影される人物画像を説明する図である。It is a figure explaining the person image projected on the screen of a remote place. 制御サーバが実行する処理を示すフローチャートである。It is a flowchart which shows the process which a control server performs. 遠隔地の制御サーバが実行する処理を示すフローチャートである。It is a flowchart which shows the process which the control server of a remote place performs.

以下、本発明を実施するための最良の形態について図面を用いて説明する。なお、以下の実施の形態は特許請求の範囲に係る発明を限定するものでなく、また実施の形態で説明されている特徴の組み合わせの全てが発明の解決手段に必須のものとは限らない。   Hereinafter, the best mode for carrying out the present invention will be described using the drawings. The following embodiments do not limit the invention according to the claims, and all combinations of the features described in the embodiments are not necessarily essential to the solution means of the invention.

(実施形態1)
図1は、本発明が適用されるコミュニケーションシステムの断面図である。このコミュニケーションシステムを用いることにより、オフィス1(例えば本社)とオフィス2(例えば支社)の間でコミュニケーションを取ることが可能となっている。なお、ここでは2箇所のオフィスを例にしているが、3以上のオフィス間でコミュニケーションを取ることが可能な構成であってもよい。
(Embodiment 1)
FIG. 1 is a cross-sectional view of a communication system to which the present invention is applied. By using this communication system, it is possible to communicate between the office 1 (for example, the head office) and the office 2 (for example, the branch office). Although two offices are taken as an example here, a configuration in which communication between three or more offices is possible may be employed.

また、ここで説明する各オフィスは、移動に数時間を要するほど離れたものであっても良いし、同一のビルに設けられた別の会議室であっても良い。即ち、「遠隔」という表現は、物理的な空間が別であることを示すものであり、物理的な距離や移動にかかる時間の長さを定義するものではない。   In addition, each office described here may be separated to take several hours to move, or may be another conference room provided in the same building. That is, the expression "remote" indicates that the physical space is different, and does not define the physical distance or the length of time taken for movement.

図1(A)に示すオフィス1には、プロジェクタ101、スクリーン102、前面カメラ103、背面カメラ104が備えられている。プロジェクタ101は、他のオフィスで撮像された画像をスクリーン102に投影する投影装置である。本実施形態の場合、前面カメラ103や背面カメラ104が撮像する画像、及び、スクリーン102に投影される画像は動画を想定しているが、静止画であってもよい。   The office 1 shown in FIG. 1A is provided with a projector 101, a screen 102, a front camera 103, and a rear camera 104. The projector 101 is a projection device that projects an image captured in another office onto the screen 102. In the case of the present embodiment, the images captured by the front camera 103 and the rear camera 104 and the images projected onto the screen 102 are assumed to be moving images, but may be still images.

プロジェクタ101は、会議資料と遠隔地(例えばオフィス2)の人物画像とを重畳してスクリーン102に投影する。なお、本実施形態では1つのプロジェクタを用いてスクリーン102に投影を行う構成を説明するが、プロジェクタを複数設けて、会議資料と遠隔地の人物画像をそれぞれ異なるプロジェクタが投影してもよい。   The projector 101 superimposes the conference material and the person image of the remote place (for example, the office 2) and projects the superimposed image on the screen 102. In the present embodiment, a configuration in which projection is performed on the screen 102 using a single projector will be described. However, a plurality of projectors may be provided, and different projectors may project the conference material and the person image at a remote place.

スクリーン102は、プロジェクタ101によって投影される画像を映し出す投影面である。なお、スクリーン102は、他のオフィスとのコミュニケーションを取るときに一時的に設置するものであっても良いし、オフィスの壁がスクリーン102の役割を兼ねても良い。また、本実施形態では画像を表示する手段としてプロジェクタとスクリーンを使用する例を示すが、大型の液晶ディスプレイを用いて画像を表示するようにしても良い。   The screen 102 is a projection plane on which an image projected by the projector 101 is projected. The screen 102 may be temporarily installed when communicating with another office, or the wall of the office may double as the screen 102. Further, although an example in which a projector and a screen are used as means for displaying an image is shown in the present embodiment, the image may be displayed using a large liquid crystal display.

前面カメラ103は、人物105を撮像するための撮像装置であり、スクリーン102に埋め込まれている。前面カメラ103は、スクリーン102の前に立つ人物105の前面を、投影面側であるスクリーン102側から撮像するためのカメラである。人物105がスクリーン102の方を向いている場合に人物105の前面を撮像できるように、前面カメラ103は図1(A)に示す位置に設置される。   The front camera 103 is an imaging device for imaging the person 105, and is embedded in the screen 102. The front camera 103 is a camera for capturing an image of the front of the person 105 standing in front of the screen 102 from the side of the screen 102 which is the projection plane side. The front camera 103 is installed at the position shown in FIG. 1A so that the front of the person 105 can be imaged when the person 105 faces the screen 102.

背面カメラ104は、人物105を撮像するための撮像装置である。背面カメラ104は、スクリーン102の前に立つ人物105の背面や、スクリーン102に映し出された画像を撮像するためのカメラである。人物105がスクリーン102の方を向いている場合に人物105の背面(背中側)を撮像できるように、背面カメラ104は図1(A)に示す位置(人物105に対してスクリーン102の反対側)に設置される。   The rear camera 104 is an imaging device for imaging the person 105. The rear camera 104 is a camera for capturing an image displayed on the back of the person 105 standing in front of the screen 102 or on the screen 102. The rear camera 104 is at the position shown in FIG. 1A (the opposite side of the screen 102 with respect to the person 105) so that the back (back side) of the person 105 can be imaged when the person 105 faces the screen 102. Installed in

前面カメラ103には、被写体までの距離を検知するための距離センサが含まれる。前面カメラ103によって得られる画像には、RGBで8ビット3チャネルの情報からなるカラー画像と、8ビット1チャネルの情報からなる距離画像が含まれる。距離画像を用いることで、前面カメラ103は、スクリーン102と人物105との間の距離を測定可能である。   The front camera 103 includes a distance sensor for detecting the distance to the subject. The image obtained by the front camera 103 includes a color image consisting of RGB 8-bit 3-channel information and a distance image consisting of 8-bit 1-channel information. The front camera 103 can measure the distance between the screen 102 and the person 105 by using the distance image.

また、図1(B)に示すように、人物115が居るオフィス2にも、オフィス1と同様の設備(プロジェクタ111、スクリーン112、前面カメラ113、背面カメラ114)が備えられている。   Further, as shown in FIG. 1B, the office 2 in which the person 115 is located is also equipped with the same facilities as the office 1 (projector 111, screen 112, front camera 113, rear camera 114).

図2(A)は、コミュニケーションシステムの外観図であり、オフィス1の人物105がオフィス2の人物115とコミュニケーションを取っている様子を示している。スクリーン102には、オフィス2の前面カメラ113によって撮像された人物115と、会議資料200とが投影されている。   FIG. 2A is an external view of the communication system, and shows that the person 105 in the office 1 communicates with the person 115 in the office 2. On the screen 102, a person 115 captured by the front camera 113 of the office 2 and the conference material 200 are projected.

オフィス1には、送信器201aと受信器201bから成るデジタイザが備えられている。デジタイザは、スクリーン102に対してなされるユーザの動作を検知するための検知装置である。デジタイザは、送信器201aが投射した赤外光が人物105の体の一部、或いは人物105が持っている指示棒等によって遮られた場合に、その位置を示す座標を出力する。なお、ここでは送信器201aと受信器201bをそれぞれスクリーン102の左右に配置する例を示したが、スクリーン102の上下に配置しても良い。また、ユーザの動作を検知する方法はデジタイザに限らず、スクリーン102にタッチパネル機能を備えるようにし、スクリーン102が押圧された位置を検知するようにしてもよい。   The office 1 is provided with a digitizer comprising a transmitter 201a and a receiver 201b. The digitizer is a detection device for detecting the user's action on the screen 102. When the infrared light projected by the transmitter 201a is blocked by a part of the body of the person 105, a pointing rod held by the person 105, or the like, the digitizer outputs coordinates indicating the position. Although the transmitter 201 a and the receiver 201 b are disposed on the left and right of the screen 102 here, they may be disposed on the top and bottom of the screen 102. Further, the method of detecting the user's operation is not limited to the digitizer, and the screen 102 may be provided with a touch panel function to detect the position where the screen 102 is pressed.

図2(B)は、オフィス2の様子を示している。オフィス2のスクリーン112には、オフィス1の前面カメラ103によって撮像された人物105と、会議資料210とが投影されている。また、オフィス2も、オフィス1と同様に送信器211aと受信器211bから成るデジタイザが備えられている。   FIG. 2B shows the state of the office 2. On the screen 112 of the office 2, a person 105 captured by the front camera 103 of the office 1 and the conference material 210 are projected. Similarly to the office 1, the office 2 is also provided with a digitizer including a transmitter 211a and a receiver 211b.

以上、図2で示すように、オフィス1とオフィス2のそれぞれにおいて遠隔地の人物が投影される。従って、人物105と人物115にしてみれば、お互いが同じ会議室で向かい合ってコミュニケーションを行っている感覚を得ることができる。   As described above, as shown in FIG. 2, a remote person is projected at each of the office 1 and the office 2. Therefore, when the person 105 and the person 115 are examined, it is possible to obtain a feeling that the two face each other in the same conference room and communicate.

会議の場合、ユーザ(会議参加者)が投影されている会議資料に近付いて、会議資料を指や指示棒で指しながらコミュニケーションを行うケースがある。このようなケースにおいて前面カメラで撮像した人物画像を遠隔地に投影しても、遠隔地のユーザにしてみれば、会議資料のどこを指しているのか把握できない。そこで本実施形態では、ユーザがスクリーンに近付いた場合に、遠隔地に投影する画像を前面カメラで撮像した人物画像から背面カメラで撮像した人物画像に切り替えることを特徴とする。なお、以降の説明では、前面カメラで撮像した人物画像のことを前面人物画像、背面カメラで撮像した人物画像のことを背面人物画像と呼ぶ場合がある。   In the case of a meeting, there is a case where a user (meeting participant) approaches the projected meeting material and communicates while pointing the meeting material with a finger or a pointer. In such a case, even if an image of a person captured by the front camera is projected to a remote place, it can not be grasped where in the conference material it points to the user of the remote place. Therefore, the present embodiment is characterized in that when the user approaches the screen, the image projected on the remote place is switched from the person image captured by the front camera to the person image captured by the rear camera. In the following description, a person image captured by the front camera may be referred to as a front person image, and a person image captured by the rear camera may be referred to as a back person image.

遠隔地に投影する画像を前面人物画像から背面人物画像に切り替える処理について、図3を用いて詳しく説明する。図3(A)は、オフィス1において、人物105がスクリーン102に近づいて、指示棒で会議資料を指している様子を示す。図2(A)の場合と比較すると、人物105は、スクリーン102により近付いた位置にいる。   A process of switching an image to be projected on a remote place from a front person image to a back person image will be described in detail with reference to FIG. FIG. 3A shows that, in the office 1, the person 105 approaches the screen 102 and points to the meeting material with the pointer. Compared to the case of FIG. 2A, the person 105 is located closer to the screen 102.

オフィス2では、図3(B)に示すように、投影されている画像が、人物105の前面人物画像から背面人物画像に切り替わる。これにより、オフィス2の人物115は、人物105が会議資料のどこを指示棒で指しているのかを把握できる。また、オフィス2において投影される人物105の背面人物画像には、透明化処理が実行されている。従って、人物115にしてみれば、人物105の背面人物画像と会議資料が重なって投影されていても、重なっている部分がどんな内容であるか把握できる。   In the office 2, as shown in FIG. 3B, the projected image is switched from the front person image of the person 105 to the back person image. Thereby, the person 115 of the office 2 can grasp where in the meeting material the person 105 points with the pointer. In addition, a process of making transparent on the back person image of the person 105 projected in the office 2 is executed. Therefore, in the case of the person 115, even if the back person image of the person 105 and the conference material are projected in an overlapping manner, it is possible to grasp what the content of the overlapping part is.

次に図4を用いて、コミュニケーションシステムのハードウェア構成を説明する。図1から図3には示していないが、オフィス1には制御サーバ401が備えられている。制御サーバ401に含まれるCPU402は、ROM404に記憶された制御プログラムを読み出して、オフィス1内に備えられた各装置を制御する。RAM403は、CPU402の主メモリ、ワークエリア等の一時記憶領域として用いられる。なお、オフィス1では、1つのCPU402が1つのメモリ(RAM403)を用いて後述するフローチャートに示す各処理を実行するものとするが、他の態様であっても構わない。例えば、各カメラやプロジェクタ、デジタイザのそれぞれに対して個別にCPUを備えるようにするなど、複数のCPUや複数のRAM、或いはHDDやSSDを協働させて各処理を実行するようにすることもできる。また、後述する処理の一部をASIC(application specific integrated Circuit)等のハードウェア回路を用いて実行するようにしてもよい。HDD405は、各種データを記憶する記憶媒体として使用される。   Next, the hardware configuration of the communication system will be described with reference to FIG. Although not shown in FIGS. 1 to 3, the office 1 is provided with a control server 401. The CPU 402 included in the control server 401 reads out the control program stored in the ROM 404 and controls each device provided in the office 1. The RAM 403 is used as a temporary storage area such as a main memory of the CPU 402 and a work area. In the office 1, one CPU 402 executes each process shown in the flowchart to be described later using one memory (RAM 403), but another mode may be used. For example, CPUs may be individually provided for each camera, projector, and digitizer, or a plurality of CPUs, a plurality of RAMs, or HDDs or SSDs may be cooperated to execute each processing. it can. Further, part of the processing described later may be performed using a hardware circuit such as an application specific integrated circuit (ASIC). The HDD 405 is used as a storage medium for storing various data.

ネットワーク400は、各オフィスを繋ぐネットワークである。ネットワーク400の種類は限定されず、有線、無線、WAN、LAN、公衆回線、専用回線など、環境に合わせて適宜選択できる。ネットワークI/F410は、オフィス1をネットワーク400に接続するためのインターフェースである。   A network 400 is a network connecting the offices. The type of the network 400 is not limited, and can be appropriately selected according to the environment, such as wired, wireless, WAN, LAN, public line, and dedicated line. The network I / F 410 is an interface for connecting the office 1 to the network 400.

図1から図3には示していないが、各オフィスにはマイクとスピーカーが設置されている。オフィス内の人物が発する言葉はマイクによって音声信号に変換され、遠隔地のスピーカーから出力される。オフィス1には、マイク411とスピーカー412が備えられており、音声I/F407は、マイク411による音声の入力及びスピーカー412による音声の出力を制御するためのインターフェースである。   Although not shown in FIGS. 1 to 3, each office is provided with a microphone and a speaker. The words uttered by the person in the office are converted into voice signals by the microphone and output from the remote speaker. The office 1 is provided with a microphone 411 and a speaker 412, and an audio I / F 407 is an interface for controlling the input of audio by the microphone 411 and the output of audio by the speaker 412.

プロジェクタI/F408は、プロジェクタ101による画像の投影を制御するためのインターフェースである。本実施形態では、1つのプロジェクタを用いてスクリーンへの画像の投影を行っているが、スクリーンの幅が大きい場合等、複数のプロジェクタを用いてスクリーンへの投影を行ってもよい。   The projector I / F 408 is an interface for controlling the projection of an image by the projector 101. In the present embodiment, a single projector is used to project an image on a screen. However, when the width of the screen is large, a plurality of projectors may be used to project a screen.

デジタイザI/F409は、送信器201aと受信器201bから成るデジタイザによるユーザの動作の検知を制御するためのインターフェースである。カメラI/F406は、前面カメラ103、背面カメラ104による撮像を制御するためのインターフェースである。   The digitizer I / F 409 is an interface for controlling the detection of the user's operation by the digitizer comprising the transmitter 201a and the receiver 201b. The camera I / F 406 is an interface for controlling imaging by the front camera 103 and the rear camera 104.

また、オフィス2は、オフィス1と同様のハードウェア構成である。オフィス2の各ハードウェアはオフィス1のハードウェアと同様であるため、説明を省略する。   Also, the office 2 has the same hardware configuration as the office 1. The hardware of the office 2 is the same as the hardware of the office 1, so the description thereof is omitted.

次に、背面人物画像と前面人物画像を切り替える処理について、図5及び図6を用いて更に詳しく説明する。図5は、オフィス1を上(天井側)から見た際の、スクリーン102と人物105の位置関係を示している。前面カメラ103は、スクリーン102に埋め込まれている。従って、前面カメラ103が測定する前面カメラ103と人物105との間の距離は、スクリーン102と人物105との間の距離に一致する。なお、図5の距離D1、D2、D3、D4は閾値として予め定義されていて、制御サーバ401のHDD405や制御サーバ421のHDD425に記憶されている。   Next, the process of switching the back person image and the front person image will be described in more detail with reference to FIGS. 5 and 6. FIG. 5 shows the positional relationship between the screen 102 and the person 105 when the office 1 is viewed from above (the ceiling side). The front camera 103 is embedded in the screen 102. Therefore, the distance between the front camera 103 and the person 105 measured by the front camera 103 corresponds to the distance between the screen 102 and the person 105. The distances D1, D2, D3 and D4 in FIG. 5 are previously defined as threshold values, and are stored in the HDD 405 of the control server 401 and the HDD 425 of the control server 421.

人物105の位置が位置範囲A(距離D3<前面カメラ103と人物105との間の距離≦距離D4)である場合、オフィス1の制御サーバ401は、人物105の前面人物画像をオフィス2に送信する。また、人物105の前面人物画像の透明度は0%、つまり、透明化処理は実行されずにオフィス2に送信される。オフィス2では、図6(A)の投影結果となる。オフィス2のスクリーン112に投影される画像は人物105の前面人物画像であり、人物115にしてみれば、人物105と向き合ってコミュニケーションを行うことができる。   When the position of the person 105 is the position range A (distance D3 <distance between the front camera 103 and the person 105 ≦ distance D4), the control server 401 of the office 1 transmits the front person image of the person 105 to the office 2 Do. In addition, the transparency of the front person image of the person 105 is 0%, that is, the transparency processing is not performed and the image is transmitted to the office 2. In the office 2, the projection result in FIG. 6 (A) is obtained. The image projected on the screen 112 of the office 2 is a front person image of the person 105. If the person 115 is considered, it is possible to face and communicate with the person 105.

人物105の位置が位置範囲B(距離D2≦前面カメラ103と人物105との間の距離≦距離D3)である場合、オフィス1の制御サーバ401は、人物105の前面人物画像をオフィス2に送信する。また、人物105の前面人物画像は、以下の計算式に基づいて決まる透明度で透明化処理が実行されて、オフィス2に送信される。オフィス2では、図6(B)の投影結果となる。図6(A)とは異なり、図6(B)の前面人物画像には透明化処理が実行される。人物105の位置が位置範囲Bである場合、人物105がスクリーン102に近付くにつれて、オフィス2に投影される人物105の前面人物画像の透明度は大きくなる。   When the position of the person 105 is the position range B (distance D2 ≦ distance between the front camera 103 and the person 105 ≦ distance D3), the control server 401 of the office 1 transmits the front person image of the person 105 to the office 2 Do. In addition, the front person image of the person 105 is transmitted to the office 2 after the transparency processing is executed with the transparency determined based on the following formula. In the office 2, the projection result of FIG. 6 (B) is obtained. Unlike FIG. 6 (A), the front person image in FIG. 6 (B) is subjected to a transparency processing. When the position of the person 105 is in the position range B, as the person 105 approaches the screen 102, the transparency of the front person image of the person 105 projected on the office 2 increases.

Figure 0006541497
Figure 0006541497

L:前面カメラと人物との間の距離
前面カメラ103と人物105との間の距離が距離D2である位置は、前面人物画像と背面人物画像の切り替え位置である。前面カメラ103と人物105との間の距離が距離D2である場合、人物105の前面人物画像の透明度は100%、つまり完全に透明になる。その結果、オフィス2では、図6(C)の投影結果となる。
L: Distance Between Front Camera and Person The position where the distance between the front camera 103 and the person 105 is the distance D2 is the switching position of the front person image and the rear person image. When the distance between the front camera 103 and the person 105 is the distance D2, the transparency of the front person image of the person 105 is 100%, that is, completely transparent. As a result, in the office 2, the projection result in FIG. 6 (C) is obtained.

人物105の位置が位置範囲C(距離D1≦前面カメラ103と人物105との間の距離<距離D2)である場合、オフィス1の制御サーバ401は、人物105の背面人物画像をオフィス2に送信する。人物105の位置が位置範囲A又は位置範囲Bである場合とは異なり、前面人物画像ではなく背面人物画像がオフィス2に送信される。これは、人物105がスクリーン102に近付いていて、会議資料に対して何らかのアクション(例えば指示棒で指す行為)を行うことが予想されるためである。また、前面人物画像と背面人物画像の切り替えは自動的に実行されるため、人物105と人物115は円滑なコミュニケーションを行うことができる。   When the position of the person 105 is the position range C (distance D1 ≦ the distance between the front camera 103 and the person 105 <the distance D2), the control server 401 of the office 1 transmits the back person image of the person 105 to the office 2 Do. Unlike the case where the position of the person 105 is the position range A or the position range B, not the front person image but the back person image is transmitted to the office 2. This is because the person 105 is approaching the screen 102 and is expected to perform some action (for example, an action of pointing with a pointer) on the meeting material. In addition, since switching between the front person image and the back person image is automatically performed, the person 105 and the person 115 can communicate smoothly.

また、人物105の位置が位置範囲Cである場合、人物105の背面人物画像は、以下の計算式に基づいて決まる透明度で透明化処理が実行されて、オフィス2に送信される。図5は、最小透明度を60(%)とした例を示しているが、最小透明度は他の値を採用してもよい。オフィス2では、図6(D)の投影結果となる。図6(A)や図6(B)とは異なり、人物105の背面人物画像がオフィス2のスクリーン112に投影される。人物105の位置が位置範囲Cである場合、人物105がスクリーン102に近付くにつれて、オフィス2に投影される人物105の背面人物画像の透明度は小さくなる。   When the position of the person 105 is in the position range C, the back person image of the person 105 is transmitted to the office 2 after being subjected to transparency processing with transparency determined based on the following formula. Although FIG. 5 shows an example in which the minimum transparency is 60 (%), the minimum transparency may have another value. In the office 2, the projection result in FIG. 6 (D) is obtained. Unlike FIGS. 6A and 6B, the back person image of the person 105 is projected on the screen 112 of the office 2. When the position of the person 105 is in the position range C, as the person 105 approaches the screen 102, the transparency of the back person image of the person 105 projected to the office 2 decreases.

Figure 0006541497
Figure 0006541497

L:前面カメラと人物との間の距離
最小透明度:位置範囲Dの透明度
前面人物画像と背面人物画像の切り替え位置に注目すると、人物105がスクリーン102に近づく際に、人物画像が完全に透明になる瞬間が発生する。オフィス2の人物115にしてみれば、人物105の前面人物画像が段々透明になり、そして一瞬消えて人物105の背面人物画像に切り替わるため、スムーズな画像の変化として認識することができる。
L: The distance between the front camera and the person Minimum transparency: Transparency of the position range D Focusing on the switching position of the front person image and the back person image, the person image becomes completely transparent when the person 105 approaches the screen 102 Moment occurs. In the case of the person 115 in the office 2, the front person image of the person 105 gradually becomes transparent and disappears for a moment and switches to the back person image of the person 105, so that it can be recognized as a smooth image change.

人物105の位置が位置範囲D(前面カメラ103と人物105との間の距離<距離D1)である場合、オフィス1の制御サーバ401は、人物105の背面人物画像をオフィス2に送信する。また、人物105の背面人物画像の透明度は60%である。オフィス2では、図6(E)の投影結果となる。オフィス2のスクリーン112に投影される画像は人物105の前面人物画像であり、人物115にしてみれば、会議資料に対する人物105のアクションを把握できる。なお、透明度60%という値は一例であり、他の値であってもよい。   When the position of the person 105 is the position range D (the distance between the front camera 103 and the person 105 <the distance D1), the control server 401 of the office 1 transmits the back person image of the person 105 to the office 2. In addition, the transparency of the back person image of the person 105 is 60%. In the office 2, the projection result of FIG. 6 (E) is obtained. The image projected on the screen 112 of the office 2 is a front person image of the person 105. If the person 115 is used, the action of the person 105 on the meeting material can be grasped. In addition, the value of 60% of transparency is an example, and may be another value.

次に、オフィス1の制御サーバ401が実行する処理を、図7のフローチャートを用いて説明する。図7のフローチャートは、オフィス2に送信する画像として、前面人物画像と背面人物画像のいずれかをオフィス1の制御サーバ401が選択する処理を示す。図7のフローチャートに示す各ステップは、CPU402がROM404等のメモリに格納された制御プログラムをRAM403に展開して実行することによって処理される。   Next, processing executed by the control server 401 of the office 1 will be described with reference to the flowchart of FIG. The flowchart of FIG. 7 shows a process in which the control server 401 of the office 1 selects one of the front person image and the back person image as an image to be transmitted to the office 2. Each step shown in the flowchart of FIG. 7 is processed by the CPU 402 loading a control program stored in a memory such as the ROM 404 into the RAM 403 and executing it.

まずステップS701において、CPU402は、スクリーン102の前にいる人物(本実施形態の場合、人物105)の位置を特定する。本実施形態の場合、前面カメラ103が距離センサを備えていて、前面カメラ103が測定した前面カメラ103と人物105との間の距離に基づいて、人物105の位置が特定される。前面カメラ103と人物105との間の距離と特定される位置範囲の関係は、図5で説明した通りである。   First, in step S701, the CPU 402 specifies the position of a person (in the case of the present embodiment, the person 105) in front of the screen 102. In the case of this embodiment, the front camera 103 includes a distance sensor, and the position of the person 105 is identified based on the distance between the front camera 103 and the person 105 measured by the front camera 103. The relationship between the distance between the front camera 103 and the person 105 and the specified position range is as described in FIG.

次にステップS702において、CPU402は、オフィス2に送信する画像として、前面人物画像を使用するか否かを判定する。ステップS701で特定した人物105の位置が位置範囲A又は位置範囲Bである場合、CPU402は、前面人物画像を使用すると判定する。言い換えれば、CPU402は、オフィス2に送信する画像として、前面人物画像を選択する。そして処理はステップS703に進む。   Next, in step S702, the CPU 402 determines whether the front person image is to be used as an image to be transmitted to the office 2. If the position of the person 105 identified in step S701 is the position range A or the position range B, the CPU 402 determines to use the front person image. In other words, the CPU 402 selects the front person image as the image to be transmitted to the office 2. Then, the process proceeds to step S703.

一方、ステップS701で特定した人物105の位置が位置範囲C又は位置範囲Dである場合、CPU402は、前面人物画像を使用しないと判定する。言い換えれば、CPU402は、オフィス2に送信する画像として、背面人物画像を選択する。そして処理はステップS707に進む。   On the other hand, when the position of the person 105 identified in step S701 is the position range C or the position range D, the CPU 402 determines that the front person image is not used. In other words, the CPU 402 selects the back person image as the image to be transmitted to the office 2. Then, the process proceeds to step S 707.

次にステップS703について説明する。ステップS703において、CPU402は、前面カメラ103が撮像した画像から人物画像を抽出する。本実施形態の場合、予め用意している背景画像(人物がいないときに前面カメラ103が予め撮像していた画像)と、前面カメラ103による最新の撮像画像との差分画像を取得し、取得した差分画像を人物画像とする。もちろん、ここで説明した人物画像の抽出方法は一例であり、他の方法であってもよい。   Next, step S703 will be described. In step S703, the CPU 402 extracts a human image from the image captured by the front camera 103. In the case of the present embodiment, the difference image between the background image prepared in advance (the image captured in advance by the front camera 103 when there is no person) and the latest captured image by the front camera 103 is acquired and acquired The difference image is a person image. Of course, the human image extraction method described here is an example, and other methods may be used.

次にステップS704において、CPU402は、ステップS701で特定した人物105の位置に基づいて透明度を決定する。人物の位置と透明度の関係は、図5で説明した通りである。そしてステップS705において、CPU402は、ステップS703で抽出した人物画像に対して、ステップS704で決定した透明度で透明化処理を実行する。   Next, in step S704, the CPU 402 determines the degree of transparency based on the position of the person 105 identified in step S701. The relationship between the position of the person and the degree of transparency is as described in FIG. Then, in step S705, the CPU 402 executes the transparency processing on the person image extracted in step S703 with the transparency determined in step S704.

次にステップS706において、CPU402は、前面人物画像をオフィス2に送信する。より詳細に説明すると、CPU402は、前面人物画像をオフィス2に送信するようにネットワークI/F410を制御する。ここで送信される前面人物画像は、ステップS705で透明化処理が実行された画像である。   Next, in step S706, the CPU 402 transmits the front person image to the office 2. More specifically, the CPU 402 controls the network I / F 410 to transmit the front person image to the office 2. The front person image transmitted here is an image on which the transparency processing has been performed in step S705.

次にステップS707について説明する。ステップS707において、CPU402は、背面カメラ104が撮像した画像から人物画像を抽出する。撮像画像から人物画像を抽出する方法は、ステップS703と同様である。   Next, step S 707 will be described. In step S 707, the CPU 402 extracts a human image from the image captured by the rear camera 104. The method of extracting a person image from the captured image is the same as step S703.

次にステップS708において、CPU402は、ステップS701で特定した人物105の位置に基づいて透明度を決定する。人物の位置と透明度の関係は、図5で説明した通りである。そしてステップS709において、CPU402は、ステップS707で抽出した人物画像に対して、ステップS708で決定した透明度で透明化処理を実行する。   Next, in step S708, the CPU 402 determines the degree of transparency based on the position of the person 105 identified in step S701. The relationship between the position of the person and the degree of transparency is as described in FIG. Then, in step S709, the CPU 402 executes the transparency processing on the person image extracted in step S707 with the transparency determined in step S708.

次にステップS710において、CPU402は、背面人物画像をオフィス2に送信する。より詳細に説明すると、CPU402は、背面人物画像をオフィス2に送信するようにネットワークI/F410を制御する。ここで送信される背面人物画像は、ステップS709で透明化処理が実行された画像である。   Next, in step S710, the CPU 402 transmits the back person image to the office 2. More specifically, the CPU 402 controls the network I / F 410 to transmit the back person image to the office 2. The back person image transmitted here is an image on which the transparency processing has been performed in step S709.

次にステップS711について説明する。ステップS711において、CPU402は、コミュニケーションを終了するか否かを判定する。例えば所定の終了操作がユーザになされた場合に、コミュニケーションを終了するとCPU402が判定し、図7のフローチャートが示す処理を終了する。一方、コミュニケーションを終了しないとCPU402が判定すると、処理はステップS701に戻る。   Next, step S711 will be described. In step S711, the CPU 402 determines whether to end communication. For example, when a predetermined ending operation is performed on the user, the CPU 402 determines that the communication is ended, and the processing illustrated in the flowchart of FIG. 7 is ended. On the other hand, when the CPU 402 determines that the communication is not ended, the process returns to step S701.

次に、オフィス2の制御サーバ421が実行する処理を、図8のフローチャートを用いて説明する。図8のフローチャートは、オフィス1から受信した人物画像(前面人物画像又は背面人物画像)を会議資料と重畳してスクリーン112に投影する処理を示す。図8のフローチャートに示す各ステップは、CPU422がROM424等のメモリに格納された制御プログラムをRAM423に展開して実行することによって処理される。   Next, processing executed by the control server 421 of the office 2 will be described with reference to the flowchart of FIG. The flowchart in FIG. 8 shows a process of superimposing a person image (a person image on the front or a person image on the back) received from the office 1 on a meeting material in a superimposed manner on the screen 112. Each step shown in the flowchart of FIG. 8 is processed by the CPU 422 loading a control program stored in a memory such as the ROM 424 into the RAM 423 and executing it.

まずステップS801において、CPU422は、オフィス1から人物画像(前面人物画像又は背面人物画像)を受信したか否かを判定する。オフィス1から人物画像を受信した場合、処理はステップS802に進む。一方、オフィス1から人物画像を受信していない場合、処理はステップS803に進む。   First, in step S801, the CPU 422 determines whether a person image (front person image or back person image) has been received from the office 1. If a person image is received from the office 1, the process proceeds to step S802. On the other hand, if no person image has been received from the office 1, the process proceeds to step S803.

ステップS802において、CPU422は、ステップS801で受信した人物画像と会議資料を重畳してスクリーン112に投影する。より詳細に説明すると、CPU422は、人物画像と会議資料を合成した合成画像をスクリーン112に投影するようにプロジェクタ111を制御する。   In step S802, the CPU 422 superimposes the person image and the conference material received in step S801 on the screen 112. More specifically, the CPU 422 controls the projector 111 to project a composite image obtained by combining the human image and the conference material onto the screen 112.

ステップS803において、CPU422は、コミュニケーションを終了するか否かを判定する。例えば所定の終了操作がユーザになされた場合に、コミュニケーションを終了するとCPU422が判定し、図8のフローチャートが示す処理を終了する。一方、コミュニケーションを終了しないとCPU422が判定すると、処理はステップS801に戻る。   In step S803, the CPU 422 determines whether to end communication. For example, when a predetermined ending operation is performed on the user, the CPU 422 determines that the communication is ended, and the processing illustrated in the flowchart of FIG. 8 is ended. On the other hand, when the CPU 422 determines that the communication is not ended, the process returns to step S801.

本実施形態によれば、人物の位置に基づいて、前面人物画像と背面人物画像のいずれを遠隔地に送信するかを切り替えることができる。特に、人物がスクリーンに近付いた場合に背面人物画像に切り替えるため、遠隔地のユーザにしてみれば、会議資料に対する人物のアクションを容易に把握することができる。また、前面人物画像と背面人物画像の切り替えは人物の位置に基づいて自動的に実行されるため、ユーザの手間が軽減され、円滑なコミュニケーションが促進される。   According to the present embodiment, it is possible to switch which one of the front person image and the back person image is to be transmitted to the remote location based on the position of the person. In particular, when the person approaches the screen, the user switches to the back person image, so if the user of the remote location is used, the person's action on the meeting material can be easily grasped. Further, since switching between the front person image and the back person image is automatically performed based on the position of the person, the time and effort of the user can be reduced, and smooth communication can be promoted.

また、本実施形態によれば、遠隔地に投影される人物画像には透明化処理が実行される。遠隔地のユーザにしてみれば、会議資料と人物が重なって投影されていても、重なっている部分がどんな内容であるか容易に把握できる。   Further, according to the present embodiment, the transparency processing is performed on a person image projected to a remote place. If it is a remote user, even if the meeting material and the person are projected in an overlapping manner, it is possible to easily grasp what the overlapping portion is.

また、本実施形態によれば、前面人物画像と背面人物画像の切り替えが発生する際に、人物画像が完全に透明になるタイミングが発生する。遠隔地のユーザにしてみれば、前面人物画像が段々透明になり、そして一瞬消えて背面人物画像に切り替わるため、スムーズな画像の変化として認識することができる。   Further, according to the present embodiment, when the switching between the front person image and the back person image occurs, the timing at which the person image becomes completely transparent occurs. For a remote user, the front person image gradually becomes transparent, and disappears for a moment and switches to the back person image, so that it can be recognized as a smooth image change.

(その他実施形態)
本発明は、上述の各実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other embodiments)
The present invention supplies a program that implements one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read the program. It can also be realized by the process to be executed. It can also be implemented by a circuit (eg, an ASIC) that implements one or more functions.

103 前面カメラ
104 背面カメラ
401 制御サーバ
402 CPU
410 ネットワークI/F
103 front camera 104 rear camera 401 control server 402 CPU
410 Network I / F

Claims (20)

第1の投影面に画像を投影する第1の投影手段と、
前記第1の投影面に配置され、前記第1の投影面の前に位置する被写体を撮像する第1の撮像手段と、
前記被写体に対して前記第1の投影面の反対側から前記被写体を撮像する第2の撮像手段と、
処理パラメータに基づいて画像処理を実行する画像処理手段と、
前記第1の投影面から前記被写体までの距離と少なくとも一つの閾値とを比較することによって、前記第1の撮像手段によって撮像された前記被写体の第1の画像を前記画像処理に用いるか、前記第2の撮像手段によって撮像された前記被写体の第2の画像を前記画像処理に用いるかを決定し、前記第1の投影面から前記被写体までの距離と前記少なくとも一つの閾値とを比較することによって、前記画像処理の処理パラメータを決定する決定手段と、
前記画像処理手段によって画像処理が実行された画像を第2の投影面に投影する第2の投影手段と、を備えることを特徴とするコミュニケーションシステム。
First projection means for projecting an image on a first projection plane;
A first imaging unit disposed on the first projection plane and imaging an object located in front of the first projection plane;
Second imaging means for imaging the subject from the opposite side of the first projection plane with respect to the subject;
Image processing means for performing image processing based on processing parameters;
Using the first image of the subject captured by the first imaging means for the image processing by comparing the distance from the first projection plane to the subject and at least one threshold value, or Determining whether to use the second image of the subject imaged by the second imaging means for the image processing, and comparing the distance from the first projection plane to the subject with the at least one threshold value Determining means for determining processing parameters of the image processing according to
A second projection unit configured to project an image on which image processing has been performed by the image processing unit on a second projection plane.
前記第1の撮像手段は、前記第1の投影面に埋め込まれていることを特徴とする請求項1に記載のコミュニケーションシステム。   The communication system according to claim 1, wherein the first imaging means is embedded in the first projection plane. 前記第1の撮像手段は、前記第1の投影面から前記被写体までの距離を決定する距離センサを含むことを特徴とする請求項1または2に記載のコミュニケーションシステム。 The communication system according to claim 1, wherein the first imaging unit includes a distance sensor which determines a distance from the first projection plane to the subject. 前記第2の投影手段は、前記画像処理手段によって画像処理が実行された画像と、前記画像処理手段によって画像処理が実行された画像と異なる画像を投影することを特徴とする請求項1乃至3のいずれか1項に記載のコミュニケーションシステム。   4. The image forming apparatus according to claim 1, wherein the second projection unit projects an image different from the image on which the image processing is performed by the image processing unit and the image on which the image processing is performed by the image processing unit. Communication system according to any one of the above. 前記第1の投影面から前記被写体までの距離が、前記少なくとも1つの閾値のうち所定の閾値以下である場合に、前記画像処理手段は、前記第2の画像に対して画像処理を実行し、
前記第1の投影面から前記被写体までの距離が、前記所定の閾値よりも長い場合に、前記画像処理手段は、前記第1の画像に対して画像処理を実行することを特徴とする請求項1乃至4のいずれか1項に記載のコミュニケーションシステム。
When the distance from the first projection plane to the subject is equal to or less than a predetermined threshold value of the at least one threshold value, the image processing means executes image processing on the second image,
The image processing means executes image processing on the first image when the distance from the first projection plane to the subject is longer than the predetermined threshold value. The communication system according to any one of 1 to 4.
前記第1の投影面から前記被写体までの距離が、前記少なくとも1つの閾値のうち所定の閾値未満である場合に、前記画像処理手段は、前記第2の画像に対して画像処理を実行し、
前記第1の投影面から前記被写体までの距離が、前記所定の閾値以上である場合に、前記画像処理手段は、前記第1の画像に対して画像処理を実行することを特徴とする請求項1乃至5のいずれか1項に記載のコミュニケーションシステム。
When the distance from the first projection plane to the subject is less than a predetermined threshold of the at least one threshold, the image processing unit executes image processing on the second image;
The image processing unit executes image processing on the first image when the distance from the first projection plane to the subject is equal to or more than the predetermined threshold value. The communication system according to any one of 1 to 5.
前記画像処理は、透明化処理であり、
前記処理パラメータは、透明度であることを特徴とする請求項1乃至6のいずれか1項に記載のコミュニケーションシステム。
The image processing is transparency processing,
The communication system according to any one of claims 1 to 6, wherein the processing parameter is transparency.
前記少なくとも1つの閾値は、前記第1の投影面から最も短い距離である第1の閾値、前記第1の閾値よりも前記第1の投影面から長い距離である第2の閾値、前記第2の閾値よりも前記第1の投影面から長い距離である第3の閾値、前記第3の閾値よりも前記第1の投影面から長い距離である第4の閾値を含み、
前記第1の投影面から前記被写体までの距離が、前記第1の閾値未満であることに応じて、前記画像処理手段は前記第2の画像に対して60%の透明度で前記透明化処理を行い、
前記第1の投影面から前記被写体までの距離が、前記第1の閾値以上であり前記第2の閾値未満であることに応じて、前記画像処理手段は、前記第2の画像に対して、前記被写体から前記第1の投影面までの距離が短くなるほど透過率が低下するように、60%〜100%の範囲で透明化処理を行い、
前記第1の投影面から前記被写体までの距離が、前記第2の閾値以上であり前記第3の閾値未満であることに応じて、前記画像処理手段は、前記第1の画像に対して、前記被写体から前記第1の投影面までの距離が短くなるほど透明度が高くなるように、0%〜100%の範囲で透明化処理を行い、
前記第1の投影面から前記被写体までの距離が、前記第3の閾値以上であり前記第4の閾値未満であることに応じて、前記画像処理手段は、前記第1の画像に対して、0%の透明度で透明化処理を行うことを特徴とする請求項7に記載のコミュニケーションシステム。
The at least one threshold is a first threshold which is the shortest distance from the first projection plane, a second threshold which is a longer distance from the first projection plane than the first threshold, the second threshold A third threshold which is a longer distance from the first projection plane than a second threshold, and a fourth threshold which is a longer distance from the first projection plane than the third threshold,
In response to the distance from the first projection plane to the subject being less than the first threshold, the image processing means performs the transparency processing at 60% transparency to the second image. Do,
According to the fact that the distance from the first projection plane to the subject is greater than or equal to the first threshold and less than the second threshold, the image processing unit may perform the second image processing on the second image, The transparency processing is performed in the range of 60% to 100% so that the transmittance decreases as the distance from the subject to the first projection plane decreases.
According to the fact that the distance from the first projection plane to the subject is greater than or equal to the second threshold and less than the third threshold, the image processing unit may perform the first image processing on the first image, The transparency processing is performed in the range of 0% to 100% so that the transparency increases as the distance from the subject to the first projection plane decreases.
According to the fact that the distance from the first projection plane to the subject is greater than or equal to the third threshold and less than the fourth threshold, the image processing unit performs the first image processing on the first image, 8. The communication system according to claim 7, wherein the transparency processing is performed with 0% transparency.
前記第2の閾値を境にして、前記決定手段は、前記第1の画像を用いるか、前記第2の画像を用いるかを切り替えることを特徴とする請求項8に記載のコミュニケーションシステム。   9. The communication system according to claim 8, wherein the determination means switches between using the first image and using the second image bordering on the second threshold. 前記第1の画像は、前記第1の撮像手段により撮像された大きな画像のうち、被写体が抽出された部分であり、
前記第2の画像は、前記第2の撮像手段により撮像された大きな画像のうち、被写体が抽出された部分であることを特徴とする請求項1乃至9のいずれか1項に記載のコミュニケーションシステム。
The first image is a portion where a subject is extracted from the large image captured by the first imaging unit,
The communication system according to any one of claims 1 to 9, wherein the second image is a portion of a large image captured by the second imaging means, from which a subject is extracted. .
投影面に画像を投影する投影手段と、
前記投影面に配置され、前記投影面の前に位置する被写体を撮像する第1の撮像手段と、
前記被写体に対して前記投影面の反対側から前記被写体を撮像する第2の撮像手段と、
処理パラメータに基づいて画像処理を実行する画像処理手段と、
前記投影面から前記被写体までの距離と少なくとも一つの閾値とを比較することによって、前記第1の撮像手段によって撮像された前記被写体の第1の画像を前記画像処理に用いるか、前記第2の撮像手段によって撮像された前記被写体の第2の画像を前記画像処理に用いるかを決定し、前記投影面から前記被写体までの距離と前記少なくとも一つの閾値とを比較することによって、前記画像処理の処理パラメータを決定する決定手段と、
前記画像処理手段によって画像処理が実行された画像を外部装置に送信する送信手段を、を備えることを特徴とするコミュニケーションシステム。
Projection means for projecting an image on a projection plane;
A first imaging unit disposed on the projection plane and imaging an object located in front of the projection plane;
A second imaging unit configured to image the subject from the opposite side of the projection plane with respect to the subject;
Image processing means for performing image processing based on processing parameters;
Whether the first image of the subject captured by the first imaging means is used for the image processing by comparing the distance from the projection plane to the subject and at least one threshold value; It is determined whether to use the second image of the subject taken by the imaging means for the image processing, and comparing the distance from the projection plane to the subject with the at least one threshold value. Determining means for determining processing parameters;
A communication system, comprising: transmission means for transmitting an image on which image processing has been performed by the image processing means to an external device.
前記第1の撮像手段は、前記投影面に埋め込まれていることを特徴とする請求項11に記載のコミュニケーションシステム。   The communication system according to claim 11, wherein the first imaging means is embedded in the projection plane. 前記第1の撮像手段は、前記投影面から前記被写体までの距離を決定する距離センサを含むことを特徴とする請求項11または12に記載のコミュニケーションシステム。 13. The communication system according to claim 11, wherein the first imaging means includes a distance sensor which determines a distance from the projection plane to the subject. 前記投影面から前記被写体までの距離が、前記少なくとも1つの閾値のうち所定の閾値以下である場合に、前記画像処理手段は、前記第2の画像に対して画像処理を実行し、
前記投影面から前記被写体までの距離が、前記少なくとも1つの閾値よりも長い場合に、前記画像処理手段は、前記第1の画像に対して画像処理を実行することを特徴とする請求項11乃至13のいずれか1項に記載のコミュニケーションシステム。
When the distance from the projection plane to the subject is equal to or less than a predetermined threshold value of the at least one threshold value, the image processing means executes image processing on the second image;
12. The image processing method according to claim 11, wherein when the distance from the projection plane to the subject is longer than the at least one threshold, the image processing unit executes image processing on the first image. 13. The communication system according to any one of 13.
前記投影面から前記被写体までの距離が、前記少なくとも1つの閾値のうち所定の閾値未満である場合に、前記画像処理手段は、前記第2の画像に対して画像処理を実行し、
前記投影面から前記被写体までの距離が、前記所定の閾値以上である場合に、前記画像処理手段は、前記第1の画像に対して画像処理を実行することを特徴とする請求項11乃至14のいずれか1項に記載のコミュニケーションシステム。
When the distance from the projection plane to the subject is less than a predetermined threshold of the at least one threshold, the image processing unit executes image processing on the second image;
The image processing means executes image processing on the first image when the distance from the projection plane to the subject is equal to or more than the predetermined threshold value. Communication system according to any one of the above.
前記画像処理は、透明化処理であり、
前記処理パラメータは、透明度であることを特徴とする請求項11乃至15のいずれか1項に記載のコミュニケーションシステム。
The image processing is transparency processing,
The communication system according to any one of claims 11 to 15, wherein the processing parameter is transparency.
前記少なくとも1つの閾値は、前記投影面から最も短い距離である第1の閾値、前記第1の閾値よりも前記投影面から長い距離である第2の閾値、前記第2の閾値よりも前記投影面から長い距離である第3の閾値、前記第3の閾値よりも前記投影面から長い距離である第4の閾値を含み、
前記投影面から前記被写体までの距離が、前記第1の閾値未満であることに応じて、前記画像処理手段は前記第2の画像に対して60%の透明度で前記透明化処理を行い、
前記投影面から前記被写体までの距離が、前記第1の閾値以上であり前記第2の閾値未満であることに応じて、前記画像処理手段は、前記第2の画像に対して、前記被写体から前記投影面までの距離が短くなるほど透過率が低下するように、60%〜100%の範囲で透明化処理を行い、
前記投影面から前記被写体までの距離が、前記第2の閾値以上であり前記第3の閾値未満であることに応じて、前記画像処理手段は、前記第1の画像に対して、前記被写体から前記投影面までの距離が短くなるほど透明度が高くなるように、0%〜100%の範囲で透明化処理を行い、
前記投影面から前記被写体までの距離が、前記第3の閾値以上であり、前記第4の閾値未満であることに応じて、前記画像処理手段は、前記第1の画像に対して、0%の透明度で透明化処理を行うことを特徴とする請求項16に記載のコミュニケーションシステム。
The at least one threshold is a first threshold which is the shortest distance from the projection plane, a second threshold which is a longer distance from the projection plane than the first threshold, the projection than the second threshold A third threshold which is a long distance from the plane, and a fourth threshold which is a long distance from the projection plane than the third threshold,
In response to the distance from the projection plane to the subject being less than the first threshold, the image processing means performs the transparency processing on the second image with a transparency of 60%,
In response to the distance from the projection plane to the subject being greater than or equal to the first threshold and less than the second threshold, the image processing unit is configured to, from the subject, for the second image, The transparentizing treatment is performed in the range of 60% to 100% so that the transmittance decreases as the distance to the projection plane decreases.
In response to the distance from the projection plane to the subject being greater than or equal to the second threshold and less than the third threshold, the image processing unit is configured to, from the subject, for the first image. A transparency treatment is performed in a range of 0% to 100% so that the transparency becomes higher as the distance to the projection plane becomes shorter,
According to the fact that the distance from the projection plane to the subject is greater than or equal to the third threshold and less than the fourth threshold, the image processing means determines that the first image is 0%. The communication system according to claim 16, wherein the transparency processing is performed with the transparency of.
前記第2の閾値を境にして、前記決定手段は、前記第1の画像を用いるか、前記第2の画像を用いるかを切り替えることを特徴とする請求項17に記載のコミュニケーションシステム。   18. The communication system according to claim 17, wherein the determination means switches whether to use the first image or to use the second image bordering on the second threshold. 前記第1の画像は、前記第1の撮像手段により撮像された大きな画像のうち、被写体が抽出された部分であり、
前記第2の画像は、前記第2の撮像手段により撮像された大きな画像のうち、被写体が抽出された部分であることを特徴とする請求項11乃至18のいずれか1項に記載のコミュニケーションシステム。
The first image is a portion where a subject is extracted from the large image captured by the first imaging unit,
The communication system according to any one of claims 11 to 18, wherein the second image is a portion of a large image captured by the second imaging means, from which a subject is extracted. .
前記第1の撮像手段および前記第2の撮像手段は、前記被写体を挟んで反対側に配置されることを特徴とする請求項1乃至19のいずれか1項に記載のコミュニケーションシステム。   The communication system according to any one of claims 1 to 19, wherein the first imaging unit and the second imaging unit are disposed on opposite sides of the subject.
JP2015152091A 2015-07-31 2015-07-31 Communication system, control method thereof and program Expired - Fee Related JP6541497B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015152091A JP6541497B2 (en) 2015-07-31 2015-07-31 Communication system, control method thereof and program
US15/215,194 US9854204B2 (en) 2015-07-31 2016-07-20 Communication system and method for controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015152091A JP6541497B2 (en) 2015-07-31 2015-07-31 Communication system, control method thereof and program

Publications (3)

Publication Number Publication Date
JP2017034456A JP2017034456A (en) 2017-02-09
JP2017034456A5 JP2017034456A5 (en) 2018-09-06
JP6541497B2 true JP6541497B2 (en) 2019-07-10

Family

ID=57883800

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015152091A Expired - Fee Related JP6541497B2 (en) 2015-07-31 2015-07-31 Communication system, control method thereof and program

Country Status (2)

Country Link
US (1) US9854204B2 (en)
JP (1) JP6541497B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170039867A1 (en) 2013-03-15 2017-02-09 Study Social, Inc. Mobile video presentation, digital compositing, and streaming techniques implemented via a computer network
US11366631B2 (en) * 2018-06-01 2022-06-21 Sony Corporation Information processing device, information processing method, and program

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005303736A (en) * 2004-04-13 2005-10-27 Ntt Communications Kk Video display method of video conference system, user terminal used with video conference system, and program therefor
JP2008191613A (en) 2007-02-08 2008-08-21 Dainippon Printing Co Ltd Remote conference system
US9813671B2 (en) * 2008-02-04 2017-11-07 Unify Gmbh & Co. Kg Method and apparatus for enhanced video mixing
US8300081B1 (en) * 2008-12-11 2012-10-30 Adobe Systems Incorporated Blending video feeds for visual collaboration
KR101270780B1 (en) * 2011-02-14 2013-06-07 김영대 Virtual classroom teaching method and device
US20120293606A1 (en) * 2011-05-20 2012-11-22 Microsoft Corporation Techniques and system for automatic video conference camera feed selection based on room events
US9030520B2 (en) * 2011-06-20 2015-05-12 Polycom, Inc. Automatic camera selection for videoconferencing
NO333184B1 (en) * 2011-08-31 2013-03-25 Cisco Tech Inc Method and arrangement for collaborative representation in video conferencing
US9001183B2 (en) * 2012-06-15 2015-04-07 Cisco Technology, Inc. Adaptive switching of views for a video conference that involves a presentation apparatus
US9088688B2 (en) * 2012-09-05 2015-07-21 Cisco Technology, Inc. System and method for collaboration revelation and participant stacking in a network environment
US8982177B2 (en) * 2013-07-08 2015-03-17 Avaya Inc. System and method for whiteboard collaboration
US9449414B1 (en) * 2015-03-05 2016-09-20 Microsoft Technology Licensing, Llc Collaborative presentation system

Also Published As

Publication number Publication date
US20170034473A1 (en) 2017-02-02
US9854204B2 (en) 2017-12-26
JP2017034456A (en) 2017-02-09

Similar Documents

Publication Publication Date Title
US9900568B2 (en) Remote communication system, method for controlling remote communication system, and storage medium
JP6016226B2 (en) Length measuring device, length measuring method, program
JP2016213674A (en) Display control system, display control unit, display control method, and program
US9888209B1 (en) Remote communication system, method for controlling remote communication system, and storage medium
JP2017033256A (en) Image processing device, communication system, image processing method, and program
CN107148614B (en) Information processing apparatus, information processing method, and program
JP6541497B2 (en) Communication system, control method thereof and program
EP3576419A1 (en) Image processing apparatus, information processing apparatus, information processing method, and program
JP6594025B2 (en) COMMUNICATION SYSTEM, ITS CONTROL METHOD, AND PROGRAM
CN104063041A (en) Information processing method and electronic equipment
JP5558899B2 (en) Information processing apparatus, processing method thereof, and program
CN113170075B (en) Information processing device, information processing method, and program
JP6700672B2 (en) Remote communication system, its control method, and program
JP2015166854A (en) Projection control device of projector, projection control method of projector, projection system, projection control method of projection system, and program
US20230171300A1 (en) Securing image data from unintended disclosure at a videoconferencing endpoint
JP6478094B2 (en) Mobile terminal, switching method, and program
JP2017032757A (en) Display control device, display control method, display control system and program
JP2017034645A (en) Imaging apparatus, program, and imaging method
KR20200120467A (en) Head mounted display apparatus and operating method thereof
US11893161B2 (en) Gesture recognition based on user proximity to a camera
JP7154501B2 (en) Work assistance device, display device, work assistance system, and program
JP2019121987A (en) Information processing device, information processing method, and program
JP2020149336A (en) Information processor, display control method, and program
JP2023063765A (en) Image processing device, image processing method, image processing system, and program
JP2021043730A (en) Stationary determining system, and computer program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180727

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180727

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190611

R151 Written notification of patent or utility model registration

Ref document number: 6541497

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees