JP2015023369A - 撮像装置付き表示装置 - Google Patents
撮像装置付き表示装置 Download PDFInfo
- Publication number
- JP2015023369A JP2015023369A JP2013149028A JP2013149028A JP2015023369A JP 2015023369 A JP2015023369 A JP 2015023369A JP 2013149028 A JP2013149028 A JP 2013149028A JP 2013149028 A JP2013149028 A JP 2013149028A JP 2015023369 A JP2015023369 A JP 2015023369A
- Authority
- JP
- Japan
- Prior art keywords
- speaker
- image
- space
- display
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】会話を行っている人同士は視線が合致し、会話を行っていない人とは視線が合致しないようにして、より臨場感を高められる撮像装置付き表示装置を提供することである。【解決手段】撮像装置付き表示装置1は、異なる画像を表示可能な表示手段2、表示画像信号を生成する表示制御手段、表示手段背面の異なる位置にある撮像手段11、12、画像演算手段、音声検出手段21〜24、画像、音声及び利用者情報を送受信する手段を有する。音声検出手段は、話者検出手段を兼ね、画像演算手段は、別の撮像装置付き表示装置より受信した画像の話者の顔が撮像手段の1つの近傍に表示されるように変更し、表示制御手段は音声検出手段で検出された話者の方向に、変更された画像を表示する。【選択図】図1−1
Description
本発明は、有機EL、液晶、プラズマ方式など比較的薄型の表示機器等の表示装置に撮像機器が備えられた撮像装置付き表示装置、それを用いた通信システム、通信方法などに関する。さらに詳しくは、テレビ会議などのリアルタイム双方向通信などの通信に好適に使用可能な撮像装置付き表示装置などに関する。
近年、通信網の目覚しい発展によりテレビ会議などのリアルタイム双方向通信が可能となった。テレビ会議は、被写体像を電気的な画像信号に変換する撮像手段、電気的な画像信号を光信号に変換して表示する表示手段などを用いて行われる。テレビ会議の利用者は、表示手段の画面に映された相手の顔を見ながら会話をし、同時にこの利用者の顔は、撮像手段により撮影されて電気信号に変換されたのち相手側へ送られる。しかし、従来のテレビ会議などの双方向通信に用いられる機器では、撮像手段は表示手段の付近に別の独立した装置として設けられており、表示手段を見ている利用者を斜め方向から撮影することになる。そのため、表示手段に映った相手の顔は視線が別のところを向いており、相互に話していてもぎこちなく、面と向かって話をする場合と比較して違和感が生まれやすい。また、撮像装置と表示装置とを別々に製造して組み立てたり、別個の装置としたりしなければならず、製造コストが高くなりやすい。
こうした技術について、特許文献1は、次のような撮像装置付き表示装置を開示している。すなわち、複数の表示画素の各表示画素間に遮光部材が配置された表示手段と、表示手段の背部に配置された撮像手段が具備され、遮光部材は撮像手段に光を導くための開口部を備え、撮像手段は開口部に対応した位置に結像手段を備えている。この撮像装置付き表示装置は、表示手段を見ている利用者を前方から撮像でき、かつ表示手段に表示される相手と視線を一致させることが可能となる。その結果、テレビ会議等で対話する利用者同士は、互いに相手が自分を見て話しているように認識できるようになり、コミュニケーション力が向上する。ところで、少なくとも一方の空間にTV会議に参加する利用者が複数人いる場合、会話を行っている人同士は視線が合致し、会話を行っていない人とは視線が合致していない方がより臨場感が得られる。
しかしながら、従来の撮像装置付き表示装置では、複数の利用者に対して同じ画像を表示しているため、会話していない人に対しても視線が合致しているようにみえ、話者に違和感を起こさせてしまうことがある。そこで本発明の目的は、会話を行っている人同士は視線が合致し、会話を行っていない人とは視線が合致しないようにして、より臨場感を高められる撮像装置付き表示装置などを提供することである。
上記目的を達成するために本発明の撮像装置付き表示装置は、複数の方向に対して異なる画像を表示可能な表示手段と、前記表示手段に表示する画像の信号を生成する表示制御手段と、前記表示手段の背面の異なる位置に配設された複数の撮像手段と、画像演算手段と、音声検出手段と、別の撮像装置付き表示装置との間で画像、音声及び利用者情報を送受信する送受信手段と、を有する。前記音声検出手段は、話者を検出する話者検出手段を兼ね、前記画像演算手段は、別の撮像装置付き表示装置より受信した画像の話者の顔が前記撮像手段の1つの近傍に表示されるように変更し、前記表示制御手段は前記音声検出手段で検出された話者の方向に前記変更された画像を表示する。
本発明によれば、会話を行っている人同士は視線が合致し、会話を行っていない人とは視線が合致しないようにして、より臨場感を高められる撮像装置付き表示装置等を提供することができる。
本発明では、自空間の撮像装置付き表示装置が、相手側空間から異なる画像、話者の音声及び利用者情報を受信し、相手側空間の画像の話者の顔が自空間の表示装置の複数の撮像手段の1つの近傍に表示されるように変更した画像を自空間の話者の方向に表示する。相手側空間の撮像装置付き表示装置も同様なことを行う。こうすれば、話者は、相手の話者が表示された前記1つの撮像手段の方向に顔を向けるので、この撮像手段による画像は話者の視線を捉えた画像となる。一方、非話者は、前記1つの撮像手段の方向に顔を向けることは少ないので、この撮像手段で撮る画像は非話者の視線は捉えていない画像となり、相手側空間の話者にこの画像を表示すれば、話者同士は視線が合致し非話者とは視線が合致しないようにできる。こうした状況をより確実に作るためには、前記1つの撮像手段は、話者に最も近い撮像手段とするのがよい。以上のようにして、少なくとも一方の空間に複数人がいるテレビ会議などの通信において、会話を行っている人同士は視線が合致し、会話を行っていない人とは視線が合致しないように、容易にできる。こうした通信が容易にできるように、撮像装置付き表示装置は、複数方向に異画像を表示できる表示手段、表示画像の信号を生成する表示制御手段、表示手段背面の異位置に配された複数の撮像手段、画像、音声及び利用者情報を送受信する送受信手段を有する。また、画像演算手段と音声検出手段も備える。音声検出手段は、話者を検出する話者検出手段を兼ね、画像演算手段は、受信画像の話者の顔が前記撮像手段の1つの近傍に表示されるように変更し、表示制御手段は音声検出手段で検出された話者の方向に前記変更された画像を表示する。この際、非話者については、相手側空間の誰とも視線が合致しないことが好ましい。その為には、両方の空間に2人以上いる場合、非話者に対しては、該非話者を撮像する撮像手段からずらした領域に、相手側空間から受信した話者の画像を表示すれば、両空間の非話者に対して、誰とも視線が合致しない画像を容易に表示できるようになる。なぜなら、通常、非話者は話者の画像の方に視線を向けるので、こうすれば、非話者は非話者を撮像する撮像手段の方向には視線を向けず、この撮像手段は、誰も視線を向けていない画像を撮ることができて、この画像を相手側空間の非話者に表示すればよいからである。
以下、図面を用いて本発明の実施例を説明する。
(実施例)
図1−1〜図10は、撮像装置付き表示装置(以下、単に表示装置と言う場合もある)の実施例、及びこれを用いて異なる空間でテレビ会議を行う通信システムないし方法の実施例を説明する図である。図1−1はテレビ会議システム等で使用される撮像装置付き表示装置1の説明図で、図1−1(a)はその正面図、図1−1(b)はその上面図、図1−2(c)はその側面図である。
(実施例)
図1−1〜図10は、撮像装置付き表示装置(以下、単に表示装置と言う場合もある)の実施例、及びこれを用いて異なる空間でテレビ会議を行う通信システムないし方法の実施例を説明する図である。図1−1はテレビ会議システム等で使用される撮像装置付き表示装置1の説明図で、図1−1(a)はその正面図、図1−1(b)はその上面図、図1−2(c)はその側面図である。
2は、光を透過可能な表示手段である表示パネルで、表示パネル2の背面(図中+z方向)には、表示パネル2を観察する利用者を撮影するための撮像手段である複数のカメラ11、12が配設されている。各カメラは、レンズ、撮像素子及び撮像素子駆動回路から構成されている。またカメラ11、12は、表示パネル2の画面中央より上方(図中+y方向)に、水平方向(図中x方向)に離間して配設され、表示パネル2の一部の表示画素部を通して利用者を撮影するようになっている。こうすれば、話者の視線を捉えた画像が得やすくなる。表示パネル2の周囲には、利用者の音声を拾う音声検出手段であるマイク21、22、23、24と、相手側の音声を伝えるスピーカー31、32が配設されている。40は、操作スイッチである。
図2は表示パネル2の説明図で、表示パネル2は、光を透過可能な有機ELで構成されている。図2(a)は表示パネル2を一部拡大した正面図、図2(b)は図2(a)に示した表示パネル2のA−A′部の断面図である。図中−z方向が表示面方向である。6は有機ELの発光層で、透明な共通電極7と画素電極8により発光制御される。また、9はスイッチング及び駆動用のTFT部で、模式的に記載している。有機EL発光層6と電極7、8、TFT部9は透明基板3、4で保護されている。有機ELの発光層6は、赤色を発光する発光層R、緑色を発光する発光層G、青色を発光する発光層Bを有し、図中x方向(表示パネル2の長辺方向)に3画素周期で配列されている。有機EL発光層6の構成自体は本発明に直接関係しないので詳細な説明は省略する。その詳細は、例えば特開2009−187697号公報に開示されている。
また、表示パネル2の光出射方向(図中−z方向)の透明基板4上には図中x方向に曲率を有するレンチキュラーレンズ5が形成されている。本実施例の表示パネル2では、9画素周期に1つのレンチキュラーレンズが形成され、領域9a、9b及び9cの有機EL発光層6はそれぞれ独立して発光制御される。図2(b)の表示パネル2の断面図において、レンチキュラーレンズ5の光軸に対して図中−x方向に位置する領域9aの有機EL発光層6から発光した光は、レンチキュラーレンズ5で集光しながら図中+x方向に屈折する。そのため、図中+x方向にいる利用者は領域9aの有機EL発光層6で表示される画像を視認する。また、レンチキュラーレンズ5の光軸近傍に位置する領域9bの有機EL発光層6から発光した光は、レンチキュラーレンズ5で集光しながら直進する。そのため、表示パネル2の正面にいる利用者は領域9bの有機EL発光層6で表示される画像を視認する。同様に、レンチキュラーレンズ5の光軸に対して図中+x方向に位置する領域9cの有機EL発光層6から発光した光は、レンチキュラーレンズ5で集光しながら図中−x方向に屈折する。そのため、図中−x方向にいる利用者は領域9cの有機EL発光層6で表示される画像を視認する。以上のように、本実施例の表示パネル2は、3つの方向に対して異なる画像を表示することが可能なように構成されている。
次に、本実施例の表示装置を空間1及び空間2に配置して、その間のテレビ会議用として使用する場合の制御動作を説明する。図4は空間1にある表示装置101の説明図である。102は、光を透過可能な表示手段である表示パネルである。表示パネル102の背面(図中+z方向)には、表示パネル102を観察する利用者を撮影するための撮像手段であるカメラ111、112が配設され、表示パネル102の一部の表示画素部を通して利用者を撮影するようになっている。また表示パネル102の周囲には、利用者の音声を拾う音声検出手段であるマイク121、122、123、124と相手側の音声を伝えるスピーカー131、132が配設されている。空間1では2人の利用者β、利用者γがテレビ会議に参加している。
以下、図3の表示装置のブロック図、図5の表示装置の説明図、図6−1と図6−2の表示装置の動作フロー説明図を用いて、空間1での表示装置の制御動作を説明する。図6−1の動作フロー説明図において、テレビ会議の利用者がテレビ会議システムを構成する撮像装置付き表示装置101の操作スイッチ140を操作するとテレビ会議システムが起動する(s100)。表示装置101の制御手段であるシステム制御回路50は、送受信回路56を通して相手側である空間2の撮像装置付き表示装置201との通信状態を設定する(s101)。空間2の表示装置201との通信状態が設定されると、システム制御回路50はテレビ会議の相手側である空間2の表示装置201のシステムを確認する(s102)。ここで確認されるシステム情報とは、相手側である空間2の表示装置201が有するカメラの数、カメラの焦点距離、カメラの位置情報、送信される信号の形態等である。送信される信号の形態とは、例えば、送信されるカメラの画像信号のフレーム周期で、所定時間に複数の画像を送受信する場合に利用される。さらに、システム制御回路50は空間1の利用者情報を初期設定する(s103)。本実施例での利用者情報は、利用者の人数、会話を行っている話者の目の位置(話者の位置情報)、話者以外の利用者の目の位置で、記憶回路58に記憶される。
次に、カメラ111、112で空間1の利用者を撮影する(s104)。このときシステム制御回路50は、駆動回路51を介して撮像素子10に撮影の指示を行う。同時に、音声処理回路53は、マイク20(121、122、123、124)にて検出された音声信号を相手側に送信可能な所定の信号形態に処理する。空間1の撮影が行われると、制御回路50は送受信回路56を介してカメラ111、112で撮影した画像信号、音声処理回路53で処理された音声信号、及び記憶回路58に記憶された空間1の利用者情報を、空間2の表示装置201に送信する(s105)。このとき画像信号は、カメラ111及びカメラ112で撮影された画像が順次送信される。本実施例では、カメラ111で撮影された画像が送信されたあとに、カメラ112で撮影された画像が送信される。
次に画像演算手段である画像演算回路57は、カメラ111、112で撮影された空間1の画像から空間1の利用者の顔認識を行う(s106)。このとき、画像演算回路57は顔領域の目の位置を検出して(s107)、システム制御回路50は検出結果を利用者情報として記憶回路58に記憶する(s108)。画像から利用者の顔を認識する方法自体は本発明に直接関係しないので詳細な説明は省略する。その詳細は、例えば特開2000−48184号公報に開示されている。
次にシステム制御回路50は、送受信回路56を介してテレビ会議の相手側である空間2から送信されてきた画像信号、音声信号及び利用者情報を受信する(s109)。空間2から送られてきた画像信号は、空間1の利用者β及び利用者γに対して表示する画像に設定される(s110)。空間2から送られてきた画像の設定方法のフローを図6−2に示す。
まずシステム制御回路50は空間2の利用者情報を確認し、空間2のテレビ会議で会話を行っている話者の目の位置を認識する(s111)。本実施例では、空間2のテレビ会議の利用者は1人である。そして空間2の話者の目の位置と先に確認した空間2の表示装置201のシステム情報より、受信した画像信号の特性を判定する。即ち、空間2の表示装置201が2つのカメラを有していて、2つの画像を送信してきた場合、どちらの画像が会話を行っている話者の視線を捉えた画像かを判定する(s112)。会話を行っている話者の視線を捉えた画像か否かは、空間2の話者の目の位置(話者の位置情報)と空間2の表示装置201のカメラの位置から判定される。なぜならば、本実施例の撮像装置付き表示装置においては、話者に最も近いカメラの表示パネル上の位置に相手側の話者の顔を表示するように制御しているからである。ところで、空間2の利用者情報のなかにテレビ会議で会話を行っている話者の情報が含まれていない場合は、例えば、空間2の利用者の目の位置に最も近いカメラで撮影した画像を話者の視線を捉えた画像として設定する。
次にシステム制御回路50は、記憶回路58より空間1の利用者情報を確認する(s113)。空間1の利用者が2人の場合(s114)、会話を行っている利用者(話者)と会話を行っていない利用者(非話者)に対して表示するそれぞれの画像を設定する。本実施例では、空間1でテレビ会議に参加している2人の利用者の内、会話を行っている利用者は利用者βである。次に表示処理手段である表示処理回路52は、空間1で会話を行っていない利用者γに対して表示する画像を、空間2の表示装置201より受信した空間2の話者αの視線を捉えていない画像に設定する。さらに、利用者γに最も近いカメラ112近傍に空間2の利用者の顔が表示されるように画像を移動制御する(s115)。次に表示処理回路52は、カメラ112近傍に空間2の利用者の顔が表示されるように移動した空間2の話者の視線を捉えていない画像を、利用者γに対して表示するように表示パネル102の画素内表示領域を9aに設定する(s116)。図5(b)は、会話を行っていない利用者γに対して表示パネル102にて表示される本実施例における画像102_Aを示している。このように利用者γに対しては、空間2の利用者αは自分とは対話していないことを認識することができる。
一方、表示処理回路52は、空間1で会話を行っている利用者βに対して表示する画像を、空間2の表示装置201より受信した空間2の話者αの視線を捉えている画像に設定する。さらに、利用者βに最も近いカメラ111近傍に空間2の利用者の顔が表示されるように画像を移動制御する(s117)。次に表示処理回路52は、カメラ111近傍に空間2の利用者の顔が表示されるように移動した空間2の話者の視線を捉えた画像を、利用者βに対して表示するように表示パネル102の画素内表示領域を9cに設定する(s118)。図5(a)は、会話を行っている利用者βに対して表示パネル102にて表示される画像102_Cを示している。このように利用者βに対しては、空間2の利用者αは自分を見ながら対話していることを認識することができる。
ところで、会話を行っている利用者と会話を行っていない利用者に対してそれぞれ表示する画像を設定する際、空間1で会話を行っている話者が検出されていない場合は、空間2の話者の視線を捉えた画像を2人の利用者β及び利用者γに対して表示設定する。
空間2から送られてきた画像の表示方法が設定されると(s119)、システム制御回路50は表示処理回路52を介して表示パネル102に、利用者β及び利用者γに対する空間2の利用者αの画像を表示する(s120)。表示パネル102に表示される画像は、前述のように、利用者βには図5(a)に示す空間2の利用者αの視線を捉えた画像で、利用者γには図5(b)に示す空間2の利用者αの視線を捉えていない画像である。このとき、空間1の利用者β、利用者γが表示パネル102上に表示された空間2の利用者αを見ると、カメラ111で撮影された画像は利用者βの視線を捉えた画像となり、同様にカメラ112で撮影された画像は利用者γの視線を捉えた画像となる。それとは逆に、カメラ111で撮影された画像は利用者γの視線を捉えていない画像となり、同様にカメラ112で撮影された画像は利用者βの視線を捉えていない画像となる。
また、表示パネル102に空間2の利用者の画像が表示されるとともに、システム制御回路50は、空間2の音声信号を駆動回路54を介してスピーカー30(131及び132)から出力する。表示パネル102に空間2の利用者の画像が表示されると、音声処理回路53はマイク121、122、123、124にて検出された音声信号から、空間1で会話を行っている話者βを検出する(s121)。複数の音声信号から話者を検出する方法は、例えば遅延和方式等で公知である。会話を行っている話者の位置が検出されると、記憶回路58に記憶された利用者の目の位置が話者の目の位置として更新される(s122)。引き続きシステム制御回路50は操作スイッチ140の状態を確認し(s123)、テレビ会議が使用中のままであれば、撮影画像等の送受信を続行する。
一方、利用者によって操作スイッチ140がoffされたことをシステム制御回路50が確認すると(s123)、システム制御回路50は相手側のテレビ会議との送受信を終了する(s124)。さらに、システム制御回路50はカメラ111、112による利用者の撮影を終了するとともに、表示パネル102の画像の表示を終了する(s125)。
次に、本実施例の撮像装置付き表示装置を空間2のテレビ会議で使用する場合の制御動作を説明する。図7は空間2にある撮像装置付き表示装置201の説明図である。202は、光を透過可能な表示手段である表示パネルである。表示パネル202の背面(図中+z方向)には、表示パネル202を観察する利用者を撮影するための撮像手段であるカメラ211、212が配設され、表示パネル202の一部の表示画素部を通して利用者を撮影するようになっている。表示パネル202の周囲には、利用者の音声を拾う音声検出手段であるマイク221、222、223、224と相手側の音声を伝えるスピーカー231、232が配設されている。空間2では1人の利用者αがテレビ会議に参加している。
以下、図8の表示装置の説明図、図9−1と図9−2の表示装置の動作フロー説明図を用いて、空間2での撮像装置付き表示装置の制御動作を説明する。図9−1と図9−2の表示装置の動作フローは、基本的には上述の図6−1と図6−2の動作フローと同じである。図9−1の動作フロー説明図において、テレビ会議の利用者がテレビ会議システムを構成する表示装置201の操作スイッチ240を操作するとシステムが起動する(s200)。表示装置201のシステム制御回路50は、送受信回路56を通して相手側の空間1の表示装置101との通信状態を設定する(s201)。空間1の表示装置101との通信状態が設定されると、システム制御回路50は相手側の空間1の表示装置101のシステムを確認する(s202)。さらに、制御回路50は空間2の利用者情報を初期設定する(s203)。
次に、カメラ211、212で空間2の利用者を撮影する(s204)。このとき制御回路50は駆動回路51を介して撮像素子10に撮影の指示を行う。同時に、音声処理回路53はマイク221、222、223、224にて検出された音声信号を相手側に送信可能な所定の信号形態に処理する。空間2の撮影が行われると、制御回路50は、送受信回路56を介して、カメラ211、212で撮影した画像信号、音声処理回路53で処理した音声信号、記憶回路58に記憶された空間2の利用者情報を、空間1の表示装置101に送信する(s205)。このとき画像信号は、カメラ211及びカメラ212で撮影された画像が順次送信される。本実施例では、カメラ211で撮影された画像が送信されたあとに、カメラ212で撮影された画像が送信される。
次に画像演算回路57は、カメラ211、212で撮影された空間2の画像から空間2の利用者の顔認識を行う(s206)。このとき、画像演算回路57は顔領域の目の位置を検出して(s207)、制御回路50は検出結果を利用者情報として記憶回路58に記憶する(s208)。次にシステム制御回路50は、送受信回路56を介して相手側の空間1から送信されてきた画像信号、音声信号、及び利用者情報を受信する(s209)。空間1から送られてきた画像信号は、空間2の利用者αに対して表示する画像に設定される(s210)。
空間1から送られてきた画像の設定方法のフローを図9−2に示す。制御回路50は空間1の利用者情報を確認し、空間1で会話を行っている話者の目の位置を認識する(s211)。本実施例では、空間1の利用者は2人である。そして空間1の話者の目の位置と先に確認した空間1の表示装置101のシステム情報より、受信した画像信号の特性を判定する。即ち、空間1の表示装置101が2つのカメラを有していて、2つの画像を送信してきた場合、どちらの画像が話者の視線を捉えた画像かを判定する(s212)。会話を行っている話者の視線を捉えた画像か否かは、空間1の話者の目の位置と空間1の表示装置のカメラの位置から判定される。空間1の利用者情報のなかに話者の情報が含まれていない場合は、例えば空間1の利用者の目の位置に最も近いカメラで撮影した画像を話者の視線を捉えた画像として設定する。
次にシステム制御回路50は、記憶回路58より空間2の利用者情報を確認する(s213)。空間2の利用者が1人の場合(s214)、会話を行っている利用者αに対して表示する画像を設定する。表示処理回路52は、空間2で会話を行っている利用者αに対して表示する画像を、空間1の表示装置101より受信した空間1の話者βの視線を捉えている画像に設定する。さらに空間1での利用者は2人のため、2人の利用者の顔が表示パネル202に表示されるとともに、話者βがカメラ近傍に表示されるように画像を移動制御する(s217)。本実施例では、話者βの顔がカメラ212の位置に重畳されるように移動制御される。ここでは、空間2の利用者は1人のため、ステップs215とs216は実行されない。
次に表示処理回路52は、カメラ212近傍に空間1の利用者βの顔が表示されるように移動した空間1の話者の視線を捉えた画像を、利用者αに対して表示するように表示パネル202の画素内表示領域を9bに設定する(s218)。このとき、表示パネル202の画素内表示領域を9bに設定されるのは、図7(b)の説明図に示すように利用者αは表示パネル202の正面にいるからである。図8は、会話を行っている利用者αに対して表示パネル202にて表示される画像202_Bを示している。このように利用者αに対しては、空間1の利用者βは自分を見ながら対話していることを認識することができる。
空間1から送られてきた画像の表示方法が設定されると(s219)、システム制御回路50は、表示処理回路52を介して表示パネル202に、利用者αに対する空間1の利用者β及び利用者γの画像を表示する(s220)。表示パネル202に表示される画像は、前述のように利用者αに対して図8に示す空間1の利用者βの視線を捉えた画像である。このとき、空間2の利用者αが表示パネル202上に表示された空間1の利用者βを見ると、カメラ212で撮影された画像は利用者αの視線を捉えた画像となり、同様にカメラ211で撮影された画像は利用者αの視線を捉えていない画像となる。また、表示パネル202に空間1の利用者の画像が表示されるとともに、システム制御回路50は、空間1の音声信号を駆動回路54を介してスピーカー231、232から出力する。
表示パネル202に空間1の利用者の画像が表示されると、音声処理回路53はマイク221、222、223、224にて検出された音声信号から、空間2で会話を行っている話者αを検出する(s221)。会話を行っている話者の位置が検出されると、記憶回路58に記憶された利用者の目の位置が話者の目の位置として更新される(s222)。引き続きシステム制御回路50は操作スイッチ240の状態を確認し(s223)、テレビ会議が使用中のままであれば、撮影画像等の送受信を続行する。一方、利用者によって操作スイッチ240がoffされたことを制御回路50が確認すると(s223)、制御回路50は相手側のテレビ会議との送受信を終了する(s224)。さらに、制御回路50はカメラ211、212による利用者の撮影を終了するとともに、表示パネル202の画像の表示を終了する(s225)。
本実施例では、空間1の利用者の画像を設定する場合、会話を行っている利用者βの顔が表示パネル202上のカメラ212の位置に重畳されるように移動制御される例を示した。しかしながら、図10の説明図に示すように、会話を行っている利用者βと会話を行っていない利用者γの顔が、表示パネル202上のカメラ212及びカメラ211の位置に重畳されるように移動制御しても構わない。そうすれば、空間1での話者が変わっても空間2での表示制御を変更する必要がなく、制御の負荷が低減される。以上の如く、本実施例によれば、会話を行っている人同士は視線が合致し、会話を行っていない人とは視線が合致しないようにして、より臨場感を高められる撮像装置付き表示装置などを提供することができる。
以上は、空間1に2人の利用者、空間2に1人の利用者がいる場合の説明であったが、空間1、2にそれぞれ複数(以下の例では2人であるが、その他の例でも原理は同じ)の利用者がいる場合は少し事情が異なるので、それを説明する。この場合、話者に対する画像の表示は前述とほぼ同じでよい。他方、非話者に対しては、該非話者を撮像する撮像手段から或る程度右または左側にずらした領域に、別の撮像装置付き表示装置より受信した話者の画像を表示する。空間2の非話者に対するこうした画像を図11に示す。こうすれば、非話者は話者の画像の方に視線を向けるので、非話者は撮像手段211の方向には視線を向けず、撮像手段211は、誰も視線を向けていない画像を撮ることができて、この画像を空間1の非話者である利用者γに表示できることになる。図12(a)は空間1の非話者である利用者γに表示する画像を示したものである。空間1の非話者γに対しても、非話者γを撮像する撮像手段111から右側にずらした領域に、空間2からの上記話者の画像を表示する。これにより、空間1の撮像手段111は、誰も視線を向けていない画像を撮ることができて、この画像が図11に示す画像となる。また、図12(b)は、空間1の話者βに表示する画像である。
(他の実施形態)
本発明の目的は、以下の実施形態によって達成することもできる。即ち、前述した実施例の機能(システム制御回路などの機能)を実現するソフトウェアのプログラムコードを格納した記憶媒体を、撮像装置付き表示装置に供給する。そして、その装置のコンピュータ(またはCPU、MPUなど)が記憶媒体に格納されたプログラムコードを読み出し上記機能を実行する。この場合、記憶媒体から読み出されたプログラムコード自体が上記実施例の機能を実現することになり、テレビ会議などの双方向通信を行うためのプログラム、これを格納した記憶媒体は本発明を構成することになる。もちろん、プログラムは通信回線を介して撮像装置付き表示装置に供給されてもよい。詳細には、通信方法は次のステップを有する。相手側の空間から、相手側の空間の異なる画像、話者の音声及び利用者情報を受信するステップ。相手側に送信する自空間の複数の画像、話者の音声及び利用者情報の信号を生成するステップ。相手側に、自空間の画像、話者の音声及び利用者情報を送信するステップ。自空間の話者を検出するステップ。自空間の複数の撮像手段を備える表示手段で、前記受信ステップで受信した相手側の空間の異なる画像を複数の方向に対して表示するステップ。そして、前記表示ステップでは、相手側の空間の画像の話者の顔が前記複数の撮像手段の1つの近傍に表示されるように変更し、変更された画像を前記検出ステップで検出された話者の方向に表示する。
本発明の目的は、以下の実施形態によって達成することもできる。即ち、前述した実施例の機能(システム制御回路などの機能)を実現するソフトウェアのプログラムコードを格納した記憶媒体を、撮像装置付き表示装置に供給する。そして、その装置のコンピュータ(またはCPU、MPUなど)が記憶媒体に格納されたプログラムコードを読み出し上記機能を実行する。この場合、記憶媒体から読み出されたプログラムコード自体が上記実施例の機能を実現することになり、テレビ会議などの双方向通信を行うためのプログラム、これを格納した記憶媒体は本発明を構成することになる。もちろん、プログラムは通信回線を介して撮像装置付き表示装置に供給されてもよい。詳細には、通信方法は次のステップを有する。相手側の空間から、相手側の空間の異なる画像、話者の音声及び利用者情報を受信するステップ。相手側に送信する自空間の複数の画像、話者の音声及び利用者情報の信号を生成するステップ。相手側に、自空間の画像、話者の音声及び利用者情報を送信するステップ。自空間の話者を検出するステップ。自空間の複数の撮像手段を備える表示手段で、前記受信ステップで受信した相手側の空間の異なる画像を複数の方向に対して表示するステップ。そして、前記表示ステップでは、相手側の空間の画像の話者の顔が前記複数の撮像手段の1つの近傍に表示されるように変更し、変更された画像を前記検出ステップで検出された話者の方向に表示する。
本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
1・・撮像装置付き表示装置、2・・表示パネル(表示手段)、10、11、12・・カメラ(撮像素子、撮像手段)、20、21、22、23、24・・マイク(音声検出手段、話者検出手段)、30、31、32・・スピーカー、50・・システム制御回路、52・・表示処理回路(表示制御手段)、56・・送受信回路(送受信手段)、57・・画像演算回路(画像演算手段)
Claims (11)
- 複数の方向に対して異なる画像を表示できる表示手段と、前記表示手段に表示する画像の信号を生成する表示制御手段と、前記表示手段の背面の異なる位置に配設された複数の撮像手段と、画像演算手段と、音声検出手段と、別の撮像装置付き表示装置との間で画像、音声及び利用者情報を送受信する送受信手段と、を有し、
前記音声検出手段は、話者を検出する話者検出手段を兼ね、
前記画像演算手段は、別の撮像装置付き表示装置より受信した画像の話者の顔が前記撮像手段の1つの近傍に表示されるように変更し、
前記表示制御手段は前記音声検出手段で検出された話者の方向に前記変更された画像を表示することを特徴とする撮像装置付き表示装置。 - 前記撮像手段の1つは、前記音声検出手段で検出された話者に最も近い撮像手段であることを特徴とする請求項1に記載の撮像装置付き表示装置。
- 前記送受信手段で送受信する利用者情報は、話者の位置情報を含むことを特徴とする請求項1または2に記載の撮像装置付き表示装置。
- 前記表示制御手段は、非話者に対して、該非話者を撮像する前記撮像手段からずらした領域に、別の撮像装置付き表示装置より受信した誰とも視線が合致していない話者の画像を表示することを特徴とする請求項1から3の何れか1項に記載の撮像装置付き表示装置。
- 相手側の空間から、相手側の空間の異なる画像、話者の音声及び利用者情報を受信するステップと、
相手側に送信する自空間の複数の画像、話者の音声及び利用者情報の信号を生成するステップと、
相手側に、自空間の画像、話者の音声及び利用者情報を送信するステップと、
自空間の話者を検出するステップと、
自空間の複数の撮像手段を備える表示手段で、前記受信ステップで受信した相手側の空間の異なる画像を複数の方向に対して表示するステップと、
を有し、
前記表示ステップでは、相手側の空間の画像の話者の顔が前記撮像手段の1つの近傍に表示されるように変更し、前記変更された画像を前記検出ステップで検出された話者の方向に表示することを特徴とする通信方法。 - 相手側の空間の画像の話者の顔は、相手側の空間の表示手段の複数の撮像手段のうちの1つの撮像手段に向いた顔であることを特徴とする請求項5に記載の通信方法。
- 前記撮像手段の1つは、前記音声検出手段で検出された話者に最も近い撮像手段であることを特徴とする請求項5または6に記載の通信方法。
- 前記送受信する利用者情報は、話者の位置情報を含むことを特徴とする請求項5から7の何れか1項に記載の通信方法。
- 前記表示ステップでは、非話者に対して、該非話者を撮像する撮像手段からずらした領域に、相手側の空間より受信した誰とも視線が合致していない話者の画像を表示することを特徴とする請求項5から8の何れか1項に記載の通信方法。
- 1つの空間に配置された請求項1から4の何れか1項に記載の撮像装置付き表示装置と、他の空間に配置された請求項1から4の何れか1項に記載の撮像装置付き表示装置と、を有し、
請求項5から9の何れか1項に記載の通信方法を実行することを特徴とする通信システム。 - 通信を行うためのプログラムであって、
請求項5から9の何れか1項に記載の通信方法をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013149028A JP2015023369A (ja) | 2013-07-18 | 2013-07-18 | 撮像装置付き表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013149028A JP2015023369A (ja) | 2013-07-18 | 2013-07-18 | 撮像装置付き表示装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015023369A true JP2015023369A (ja) | 2015-02-02 |
Family
ID=52487496
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013149028A Withdrawn JP2015023369A (ja) | 2013-07-18 | 2013-07-18 | 撮像装置付き表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015023369A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018125727A (ja) * | 2017-02-01 | 2018-08-09 | 国立大学法人静岡大学 | 顔画像処理装置 |
-
2013
- 2013-07-18 JP JP2013149028A patent/JP2015023369A/ja not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018125727A (ja) * | 2017-02-01 | 2018-08-09 | 国立大学法人静岡大学 | 顔画像処理装置 |
JP7012983B2 (ja) | 2017-02-01 | 2022-01-31 | 国立大学法人静岡大学 | 顔画像処理装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5836768B2 (ja) | 撮像装置付き表示装置 | |
WO2016192301A1 (zh) | 显示装置及视频通讯终端 | |
US11455032B2 (en) | Immersive displays | |
US20200260049A1 (en) | System and method for providing wide-area imaging and communications capability to a handheld device | |
CN103999445B (zh) | 头戴式显示器 | |
JP4899805B2 (ja) | テレビ電話装置 | |
WO2003098942A1 (fr) | Appareil de traitement d'information, systeme de traitement d'information et procede d'affichage de dialogues | |
TWI744558B (zh) | 基於視頻通信的實景窗系統 | |
TWI692976B (zh) | 視頻通信裝置及方法 | |
US10972699B2 (en) | Video communication device and method for video communication | |
US10645340B2 (en) | Video communication device and method for video communication | |
JP2015023369A (ja) | 撮像装置付き表示装置 | |
JP5963637B2 (ja) | 撮像装置付き表示装置 | |
TWI700933B (zh) | 視頻通信裝置及方法 | |
JP2007208819A (ja) | 撮像表示装置 | |
JP2018133722A (ja) | 表示装置、その制御方法、および制御プログラム | |
JP2015159461A (ja) | 通信装置、通信システム、画像切り出し方法及びプログラム | |
JP2017073660A (ja) | 電子機器、その制御方法、および制御プログラム | |
JP7009066B2 (ja) | 表示装置、その制御方法、および制御プログラム | |
JP4922829B2 (ja) | 撮像装置付きディスプレイ用カバー | |
JP6478454B2 (ja) | 撮像部を備える表示装置およびその制御方法 | |
WO2020162035A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2007251778A (ja) | 映像入出力装置 | |
JP6700770B2 (ja) | 表示装置、その制御方法、および制御プログラム | |
JP2017069773A (ja) | 表示装置、その制御方法、および制御プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160716 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20161111 |