JP2008140271A - 対話装置及びその方法 - Google Patents

対話装置及びその方法 Download PDF

Info

Publication number
JP2008140271A
JP2008140271A JP2006327468A JP2006327468A JP2008140271A JP 2008140271 A JP2008140271 A JP 2008140271A JP 2006327468 A JP2006327468 A JP 2006327468A JP 2006327468 A JP2006327468 A JP 2006327468A JP 2008140271 A JP2008140271 A JP 2008140271A
Authority
JP
Japan
Prior art keywords
image
display
window
parallelized
virtual viewpoint
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006327468A
Other languages
English (en)
Inventor
Satoyuki Shibata
智行 柴田
Osamu Yamaguchi
修 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2006327468A priority Critical patent/JP2008140271A/ja
Priority to US11/950,188 priority patent/US20080158340A1/en
Publication of JP2008140271A publication Critical patent/JP2008140271A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • H04N7/144Constructional details of the terminal equipment, e.g. arrangements of the camera and the display camera and display on the same optical axis, e.g. optically multiplexing the camera and display for eye to eye contact

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】ディスプレイ同士をみてテレビ会議を行う場合に、自然な視線一致を可能とする対話装置を提供する。
【解決手段】対話装置1は、2台のカメラを有する撮像部2、3次元情報獲得部4、ウィンドウ位置獲得部5、回転量決定部6、画像生成部7、画像出力部8、パラメタ記憶部9から構成され、ディスプレイのウィンドウ位置により仮想カメラの視点位置を変え、対話を行う相手が注目しさえすれば視線一致可能になるようにする。
【選択図】 図1

Description

本発明は、テレビ会議などの映像対話装置に係わり、対話を行う相手が表示されるウィンドウ位置により仮想視点を変化させ視線一致を可能にする対話装置及びその方法に関する。
特許文献1及び非特許文献1に開示されているような従来のシステムでは、表示するディスプレイ中心に仮想カメラの視点位置を設定し、画像を生成していた。そのため、映像対話を行う相手が表示されるウィンドウ位置がディスプレイ中心にない場合、本来の目的である視線一致が達成されなかった。また、仮想カメラの視点位置がディスプレイの中心に限定されているためシーンの3次元位置情報を用いて任意の仮想視点からの画像を生成すると、一部背景がなくなった画像になり違和感があった。
また、特許文献2に開示されているようなハーフミラーを用いる場合、装置が大掛かりになり、ウィンドウ数分だけのカメラが必要になるなど、実現は容易ではなかった。
特開2006−114023公報 特開平9−107534号公報 Video-Teleconferencing System with Eye-gaze Correction (6,771,303(Aug, 3, 2004) Zhengyou Zhang Microsoft Corporation)
上述したように、従来技術には仮想カメラの視点位置を表示するディスプレイ中心に固定していたため、ウィンドウ位置がディスプレイ中心にない場合、本来の目的である視線一致が達成されないという問題点があった。
また、画像からシーンの3次元位置情報を獲得し仮想視点からの画像を生成するため、任意視点からの画像を生成した場合、オクルージョン問題の一つである奥行きの違いにより前景物体が背景を隠すことにより3次元位置情報が一部獲得できない相互オクルージョンが起きる。これにより、視点位置によっては3次元位置情報がなく表現できない領域があるという問題点があった。
そこで本発明は、前記問題点を解決するためになされたものであって、自然な視線一致を可能とする対話装置及びその方法を提供することを目的とする。
本発明は、画像を表示するディスプレイと、共通の視野を有し、使用者の顔を撮像する複数のカメラと、前記ディスプレイ上にウィンドウを設定し、前記ウィンドウ中に前記使用者と対話する相手を表示する相手表示部と、前記それそれのカメラで撮像された複数の画像の中から第1画像と第2画像を選択して、前記第1画像と前記第2画像との間のエピポーラ線が平行になるように射影変換して平行化第1画像と平行化第2画像を求める画像平行化部と、前記平行化第1画像中の各画素が前記平行化第2画像中のどの画素に対応するかを表す対応関係に基づいて、前記平行化第1画像中の各画素の3次元位置情報を獲得する3次元情報獲得部と、前記ディスプレイの表示領域内での前記ウィンドウの表示位置を検出するウィンドウ位置獲得部と、前記ウィンドウの表示位置に基づいて、前記各画素での前記3次元位置情報を回転させて、前記ウィンドウの表示位置の中心である仮想視点から撮影した仮想視点画像を獲得するための視点変換の回転量を決定する回転量決定部と、前記各画素の前記3次元位置情報と前記回転量とから前記仮想視点画像を生成する画像生成部と、前記仮想視点画像を出力する画像出力部と、を有する対話装置である。
本発明によれば、ディスプレイ上のウィンドウ位置により仮想カメラの視点位置を変えるため対話を行う相手を注目しさえすれば視線一致が可能になり、より現実的な映像対話を行うことができる。
以下、図面を参照しながら本発明の各実施形態について説明する。
(第1の実施形態)
本発明の第1の実施形態に係わる対話装置1について図1、図2、図5、図6に基づいて説明する。
まず、図5に示すように、A、B、C、Dさんの4人がそれぞれ異なった場所に居て、テレビ会議を行う場合に、各人は、ノートパソコンと、ノートパソコンの上に2台のカメラが取り付けられた機器を有している。そして、各ノートパソコンのディスプレイの3つのウィンドウには、ノートパソコンの所有者以外の残りの3人がそれぞれ写っているとする。各人の顔は2台のカメラで撮影して、LAN、インターネットなどの回線を介してこれらカメラで撮影した映像信号やマイクで取った音声信号が送信される。
従来は、図6の左上側の図面に示すように、Aさんのノートパソコンにおいて、Aさんは、例えば、ディスプレイの左上のBさん(図中ではユーザ注目ウィンドウ)と対話を行う場合には、ディスプレイの中心(仮想カメラの仮想視点位置)ではなく左上を向いて対話を行っている。そのため、Bさんのノートパソコンのディスプレイに表示される画像中のAさんの顔は、図6の左下側の図面に示すように、左上を向く状態となり、Bさんと視線が合わない。
そこで、本実施形態では、各人のノートパソコンに対話装置1を内蔵し、AさんとBさんの視線が合うようにする。すなわち、図6の右上側の図面に示すように、Aさんのノートパソコンのディスプレイの左上(図中ではユーザ注目ウィンドウの中心)に仮想カメラの視点位置を定め、Aさんは、左上のBさんの方を向いて対話をする場合には、Bさんのノートパソコンのディスプレイに表示される画像中のAさんの顔を、図6の右下側の図面に示すように、正面向きの状態に変換して、Bさんと視線が合うようにするものである。
以下、その対話装置1について説明する。
(1)対話装置1の構成
図1は、本実施形態に係わる対話装置1を示すブロック図である。
対話装置1は、撮像部2、3次元情報獲得部4、ウィンドウ位置獲得部5、回転量決定部6、画像生成部7、画像出力部8、パラメタ記憶部9から構成されている。
各部2〜9の下記で説明する各機能は、コンピュータに格納されたプログラムによっても実現できる。
なお、説明を簡単にするために図5におけるAさんのノートパソコンに内蔵されている対話装置1について説明するが、他の3人のノートパソコンにも同様に対話装置1が内蔵されている。
(1−1)撮像部2
撮像部2は、少なくとも2台以上のカメラを有し、各カメラでシーン(Aさんの顔が写った場面)を撮像して画像として保存し、各画像を画像平行化部3へ送る。
(1−2)パラメタ記憶部8
パラメタ記憶部8は設置する各カメラの内部パラメタと、各カメラ間の外部パラメタを記憶し、画像平行化部3と3次元情報獲得部4にパラメタを送る。
(1−3)画像平行化部3
画像平行化部3は、撮像部2からの入力画像中のうち1枚を基準画像、その他を参照画像とし、各カメラ間のパラメタ記憶部9で記憶してある内部パラメタと外部パラメタより、基準画像と各参照画像のエピポーラ線が平行となるように射影変換(rectification)する。平行化後の画像を平行化画像とし、3次元情報獲得部4に入力画像を送る。
射影変換する場合は、基準画像と各参照画像のエピポーラ線が平行になるように、基準画像と全ての参照画像を射影変換する。
また、基準画像は射影変換をしないで、各参照画像のみ前記基準画像のエピポーラ線が平行になるように射影変換してもよい。
(1−4)3次元情報獲得部4
3次元情報獲得部4は、画像平行化部3からの平行化画像中の基準画像と参照画像に関して、基準画像中の各画素が参照画像中のどの画素に対応するかを対応点探索し、対応点までの画素数を輝度値として与えられる視差画像をそれぞれ求める。
パラメタ記憶部9からの各カメラの外部パラメタと内部パラメタと視差画像により、前記基準画像中の前記各画素において3次元位置情報を三角測量の原理で獲得し、画像生成部7に3次元位置情報を送る。
(1−5)ウィンドウ位置獲得部5
ウィンドウ位置獲得部5は、ディスプレイ上で対話を行う相手(Bさん、Cさん、Dさん)を表示しているウィンドウの位置をそれぞれ獲得し、回転量決定部6にウィンドウ位置を送る。すなわち、Aさんのノートパソコンのディスプレイには、3人の顔が写るウィンドウが3個あるため、Bさん、Cさん、Dさんの各ウィンドウ位置を送る。
(1−6)回転量決定部6
回転量決定部6は、ウィンドウ位置獲得部5からの各ウィンドウ位置から、3次元位置情報を回転させることにより視点変換を行うが、このときの回転量をそれぞれ決定する。回転量は、予めAさんのノートパソコンのディスプレイの四隅からの各ウィンドウの中心にある仮想視点への視点変換を行うときの回転量を調べておき、線形補間により求める。画像生成部7に求めたそれぞれの回転量を送る。
(1−7)画像生成部7
画像生成部7は、3次元情報獲得部4からの3次元位置情報と、回転量決定部6からの各回転量により、獲得した3次元位置情報を世界座標系において回転させて視点変換をそれぞれ行う。回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点とする。
その後、仮想視点から撮像した各仮想視点画像を獲得し、画像出力部8に各仮想視点画像をそれぞれ送る。仮想視点画像は、例えば、Bさんのウィンドウの仮想視点からはAさんの顔が正面を向いている画像となる。
(1−8)画像出力部8
画像出力部8は、画像生成部6からの仮想視点画像を、それぞれの対話を行う相手のノートパソコンのディスプレイに出力する。
例えば、Bさんのノートパソコンのディスプレイには、Aさんの顔が正面を向いている仮想視点画像が写る。
Cさんのノートパソコンのディスプレイには、真下のウィンドウの仮想視点から見た左上を向くAさんの仮想視点画像が写る。
Dさんのノートパソコンのディスプレイには、右上のウィンドウの仮想視点から見た左上を向くAさんの仮想視点画像が写る。
(2)仮想視点画像出力手順
図2は、本実施形態に係る仮想視点画像出力手順の一例を示すフローチャートである。処理手順は以下のようになる。なお、図5に示すようにAさんのノートパソコンで、Bさん、Cさん、Dさんとテレビ会議をしている場合を想定する。
最初に、ステップ1では、Aさんのノートパソコンにある2台のカメラにより撮像したAさんの顔の画像をそれぞれ保存し、ステップ2に進む。
次に、ステップ2では、ステップ1より受け取った画像に関して、一枚を基準入力画像、その他を参照入力画像とし、それぞれの内部パラメタと外部パラメタより基準画像と各参照入力画像のエピポーラ線が平行となるように射影変換(rectification)する。その後の画像を入力画像としステップ3に進む。
次に、ステップ3では、ステップ2から受け取った入力画像中の基準入力画像と参照入力画像に関して、基準入力画像中の各画素が参照入力中のどの画素に対応するかを対応点探索し、対応点までの画素数を輝度値として与えられる視差画像をそれぞれ求める。そして、各視差画像と各カメラの内部パラメタと外部パラメタによりシーンの3次元位置情報を三角測量の原理で獲得し、ステップ6に進む。
次に、ステップ4では、Aさんのノートパソコンのディスプレイ上での対話する各相手のウィンドウ位置(Bさんは左上、Cさんは真下、Dさんは右上のウィンドウ)を獲得し、ステップ5に進む。
次に、ステップ5では、ステップ4から受け取った各ウィンドウ位置から、視点変換を行うための3次元位置情報の回転量をそれぞれ求め、ステップ6に進む。
次に、ステップ6では、ステップ3から受け取った3次元位置情報とステップ5から受け取った各回転量から視点変換を行い、Bさん、Cさん、Dさん用の仮想視点画像をそれぞれ再構成し、ステップ7へ進む。
次に、ステップ7では、ステップ6から受け取った各仮想視点画像を、対応するBさん、Cさん、Dさんに送り、各人のノートパソコンのディスプレイにそれぞれ表示する。
(3)効果
本実施形態によれば、ウィンドウ位置により仮想カメラの視点位置を変えるため対話を行う相手を注目しさえすれば視線一致可能になり、より現実的な映像対話が可能になる。
また、視点変換の回転中心を従来法と比べ、前景物体の奥行き値の中心に回転中心を設定するため、視点変換後の前景物体が基の画像座標からずれることなく同じ位置に表示されるため、平行移動などの表示位置を変換する処理が必要ない。
(第2の実施形態)
本発明の第2の実施形態に係る対話装置101について図3、図4、図7に基づいて説明する。
対話装置101は、背景画像記憶部110に記録してある背景画像を用いて、背景差分処理部111で入力画像から対象とする前景物体領域のみを検出し、3次元情報獲得部104にて対象物体の3次元位置情報を獲得する。画像生成部107では、仮想視点からの前景物体領域の画像を再構成し、背景画像記憶部110に記録したある背景画像に貼り付け仮想視点画像を生成し画像出力部108に送る。
(1)対話装置101の構成
図3は、本実施形態に係る対話装置101を示す構成図である。
対話装置101は、撮像部102、画像平行化部103、3次元情報獲得部104、ウィンドウ位置獲得部105、回転量決定部106、画像生成部107、画像出力部108、パラメタ記憶部109、背景画像記憶部110、背景画像処理部111から構成されている。
なお、対話装置101の動作のうち、第1の実施形態の対話装置1と同様な構成、処理については説明を省略する。
(1−1)背景画像記憶部110
背景画像記憶部110は、画像平行化部103によって平行化した画像に関して、3次元位置情報を獲得したい対象となる物体以外を予め撮像した画像、もしくは映像(以下、背景画像という)を装置内部で記憶しておき、画像生成部107と、背景画像処理部111に送る。
すなわち、背景のみの画像を各カメラで撮影して、その後、各背景画像を射影変換してエピポーラ線が平行になるように平行化して平行化背景画像をそれぞれ記憶する。
(1−2)背景画像処理部111
背景画像処理部111は、画像平行化部103からの平行化基準画像と、この基準画像に対応するカメラで撮影した平行化背景画像との差分を求める。また、平行化参照画像についても、対応するカメラで撮影した平行化背景画像との差分を求める。そして、前記平行化基準画像及び平行化参照画像中で平行化背景画像とは異なる領域を検出した後、その領域のみの前景物体領域画像を生成し、3次元情報獲得部104に送る。
(1−3)画像生成部107
画像生成部107は、3次元情報獲得部104からの3次元位置情報と、回転量決定部106からの回転量と、背景画像記憶部110からの背景画像により、視点変換を行うために、獲得した3次元位置情報を世界座標系において回転させ、前景物体領域のみの仮想視点画像を再構成する。回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点とする。
その後、仮想視点から撮像した前景物体領域のみの仮想視点画像を獲得し、背景画像に前景物体領域の画像を貼り付けて全体の仮想視点画像とし、画像出力部108に仮想視点画像を送る。
(2)仮想視点画像出力手順
図4は、本実施形態に係る仮想視点画像出力手順の一例を示すフローチャートである。処理手順は以下のようになる。図2で説明した仮想視点画像出力手順と同様な処理に関しては説明を省略する。
ステップ108において、ステップ102から受け取った入力画像と背景画像記憶部109にて記録されている背景画像を用いて背景差分処理を行い、入力画像中の背景領域とは異なる前景物体の領域を検出し、ステップ103に進む。
ステップ109において、ステップ106から受け取った前景物体領域の各仮想視点画像を、背景画像記憶部110にて記録されている背景画像にそれぞれ貼り付け、それを仮想視点画像とし、ステップ107に進む。
(3)効果
以下では、背景差分処理を導入することによる効果を説明する。
従来ステレオビジョンの基本問題は、3次元空間中の1点が2枚の画像に投影された点を正しく対応付ける対応点問題を解くことである。当然、対応点を精度良く求めなければ、シーンの正確な3次元位置情報は獲得できず、任意の仮想視点からの画像を再構成した時に現実のシーンと画像との間に矛盾が生じる。
対応点探索が失敗する最も大きな理由の一つに、オクルージョン問題がある。オクルージョン問題とはカメラの視点の違いにより生じ、一方のカメラからは観測できるが、他方のカメラからは観測できず、真の対応点が得られないことにある。オクルージョンには大きく分けて、前景物体と背景の奥行きの違いにより、一方のカメラから前景物体が背景を隠してしまう相互オクルージョンと、一方のカメラからは前景物体の観測できる面が他方のカメラからは観測されないセルフオクルージョンの二つがある。オクルージョンに注目したロバストな対応点探索の手法なども提案されているが、問題を完全に解決できる手法はまだなく、また提案されている手法の多くはリアルタイムでの処理は難しい。
そこでオクルージョン問題の一つである相互オクルージョンを背景差分処理によって解決する。背景と前景物体を分離することで相互オクルージョンは除去できるため、誤対応が減ることで対応点探索の精度が向上し、また探索範囲が限定されることで探索の高速につながる。
また、図7の左側の図面に示すように、獲得した3次元位置情報を基に仮想カメラを任意に視点変換し、求めたい理想のカメラ視点からの画像を再構成しようとした場合、世界座標系での3次元位置情報を回転させることにより視点変換を行うが、シーン全ての3次元位置情報を獲得している場合、シーン毎に回転中心を変える必要がある上に、生成した画像は抜けが多くなる。
そこで、本実施形態では、図7の右側の図面に示すように、前景物体領域のみの3次元位置情報の場合、獲得した前景物体領域の奥行き値の平均を回転中心とし,3次元位置情報を回転させることにより視点変換を行い,背景画像に貼り合わせ画像を生成すれば、生成した画像に抜けはなく、回転中心も一意に決まる。
(変更例)
本発明は前記各実施形態に限らず、その主旨を逸脱しない限り種々に変更することができる。
(1)変更例1
前記実施形態では、回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点としたが、獲得した3次元位置情報の奥行き値の平均を回転中心としてもよい。
(2)変更例2
前記実施形態では、回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点としたが、顔検出部を追加し、得られた顔領域の位置により回転中心を決定してもよい。
例えば視点変換後、常に顔領域が画像の中心になるように回転中心を定める、または顔領域が固定の大きさになるように回転中心を定める、などがある。
(3)変更例3
前記実施形態では、回転量決定部によって一意に回転量を決定したが、後に、外部からの値により回転量を制御し、任意の仮想視点からの画像を生成してもよい。
本発明の第1の実施形態に係わる対話装置の構成を示すブロック図である。 第1の実施形態の動作を示すフローチャートである。 本発明の第2の実施形態に係わる対話装置の構成を示すブロック図である。 第2の実施形態の動作を示すフローチャートである。 第1の実施形態に係わる4人のテレビ会議の説明図である。 従来法と第1の実施形態の説明図である。 従来法と第2の実施形態の説明図である。
符号の説明
1、101・・・対話装置
2、102・・・撮像部
3、103・・・画像平行化部
4、104・・・3次元情報獲得部
5、105・・・ウィンドウ位置獲得部
6、106・・・回転量決定部
7、107・・・画像生成部
8、108・・・画像出力部
9、109・・・パラメタ記憶部
110・・・背景画像記憶部
111・・・背景差分処理部

Claims (9)

  1. 画像を表示するディスプレイと、
    共通の視野を有し、使用者の顔を撮像する複数のカメラと、
    前記ディスプレイ上にウィンドウを設定し、前記ウィンドウ中に前記使用者と対話する相手を表示する相手表示部と、
    前記それそれのカメラで撮像された複数の画像の中から第1画像と第2画像を選択して、前記第1画像と前記第2画像との間のエピポーラ線が平行になるように射影変換して平行化第1画像と平行化第2画像を求める画像平行化部と、
    前記平行化第1画像中の各画素が前記平行化第2画像中のどの画素に対応するかを表す対応関係に基づいて、前記平行化第1画像中の各画素の3次元位置情報を獲得する3次元情報獲得部と、
    前記ディスプレイの表示領域内での前記ウィンドウの表示位置を検出するウィンドウ位置獲得部と、
    前記ウィンドウの表示位置に基づいて、前記各画素での前記3次元位置情報を回転させて、前記ウィンドウの表示位置の中心である仮想視点から撮影した仮想視点画像を獲得するための視点変換の回転量を決定する回転量決定部と、
    前記各画素の前記3次元位置情報と前記回転量とから前記仮想視点画像を生成する画像生成部と、
    前記仮想視点画像を出力する画像出力部と、
    を有する対話装置。
  2. 背景画像を記憶する背景画像記憶部と、
    前記平行化第1画像と前記背景画像との差分、及び、前記平行化第2画像と前記背景画像との差分をそれぞれ求め、前記平行化第1画像と前記背景画像における前景物体領域のみをそれぞれ検出する背景差分処理部を有し、
    前記3次元情報獲得部は、前記平行化第1画像の前記前景物体領域と前記平行化第2画像の前記前景物体領域のみの前記対応関係により、前記前景物体領域のみの3次元位置情報を獲得し、
    前記画像生成部は、前記前景物体領域のみからなる前記仮想視点画像を生成し、この生成した仮想視点画像に前記背景画像を貼り付ける、
    請求項1記載の対話装置。
  3. 前記画像生成部は、前記ディスプレイの中心からのディスプレイ面に対する法線と、前記各カメラの中の1台の基準カメラの光軸との交点を中心として、前記3次元位置情報を回転させて前記仮想視点画像を生成する、
    請求項1記載の対話装置。
  4. 前記画像生成部は、前記3次元位置情報の奥行き値の平均を回転中心として、前記3次元位置情報を回転させて前記仮想視点画像を生成する、
    請求項1記載の対話装置。
  5. 前記自己の顔を検出する顔検出部を有し、
    前記画像生成部は、前記顔検出により獲得した前記顔位置に応じて、前記3次元位置情報の回転中心の位置を設定する、
    請求項1記載の対話装置。
  6. 前記回転量決定部は、前記3次元位置情報の前記回転量が外部から入力される、
    請求項1記載の対話装置。
  7. 前記画像平行化部は、前記第2画像のエピポーラ線が前記第1画像のエピポーラ線に平行になるように射影変換して平行化第2画像を求め、前記第1画像を前記平行化第1画像として出力する、
    請求項1から請求項6のいずれか一項に記載の対話装置。
  8. 画像を表示するディスプレイと、共通の視野を有し、使用者の顔を撮像する複数のカメラとを有した対話装置における対話方法であって、
    前記ディスプレイ上にウィンドウを設定し、前記ウィンドウ中に前記使用者と対話する相手を表示し、
    前記それそれのカメラで撮像された複数の画像の中から第1画像と第2画像を選択して、前記第1画像と前記第2画像との間のエピポーラ線が平行になるように射影変換して平行化第1画像と平行化第2画像を求め、
    前記平行化第1画像中の各画素が前記平行化第2画像中のどの画素に対応するかを表す対応関係に基づいて、前記平行化第1画像中の各画素の3次元位置情報を獲得し、
    前記ディスプレイの表示領域内での前記ウィンドウの表示位置を検出し、
    前記ウィンドウの表示位置に基づいて、前記各画素での前記3次元位置情報を回転させて、前記ウィンドウの表示位置の中心である仮想視点から撮影した仮想視点画像を獲得するための視点変換の回転量を決定し、
    前記各画素の前記3次元位置情報と前記回転量とから前記仮想視点画像を生成し、
    前記仮想視点画像を出力する、
    対話方法。
  9. 画像を表示するディスプレイと、共通の視野を有し、使用者の顔を撮像する複数のカメラとを有した対話装置を機能させるコンピュータのプログラムであって、
    前記ディスプレイ上にウィンドウを設定し、前記ウィンドウ中に前記使用者と対話する相手を表示する相手表示機能と、
    前記それそれのカメラで撮像された複数の画像の中から第1画像と第2画像を選択して、前記第1画像と前記第2画像との間のエピポーラ線が平行になるように射影変換して平行化第1画像と平行化第2画像を求める画像平行化機能と、
    前記平行化第1画像中の各画素が前記平行化第2画像中のどの画素に対応するかを表す対応関係に基づいて、前記平行化第1画像中の各画素の3次元位置情報を獲得する3次元情報獲得機能と、
    前記ディスプレイの表示領域内での前記ウィンドウの表示位置を検出するウィンドウ位置獲得機能と、
    前記ウィンドウの表示位置に基づいて、前記各画素での前記3次元位置情報を回転させて、前記ウィンドウの表示位置の中心である仮想視点から撮影した仮想視点画像を獲得するための視点変換の回転量を決定する回転量決定機能と、
    前記各画素の前記3次元位置情報と前記回転量とから前記仮想視点画像を生成する画像生成機能と、
    前記仮想視点画像を出力する画像出力機能と、
    を前記コンピュータによって実現するプログラム。
JP2006327468A 2006-12-04 2006-12-04 対話装置及びその方法 Pending JP2008140271A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006327468A JP2008140271A (ja) 2006-12-04 2006-12-04 対話装置及びその方法
US11/950,188 US20080158340A1 (en) 2006-12-04 2007-12-04 Video chat apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006327468A JP2008140271A (ja) 2006-12-04 2006-12-04 対話装置及びその方法

Publications (1)

Publication Number Publication Date
JP2008140271A true JP2008140271A (ja) 2008-06-19

Family

ID=39583300

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006327468A Pending JP2008140271A (ja) 2006-12-04 2006-12-04 対話装置及びその方法

Country Status (2)

Country Link
US (1) US20080158340A1 (ja)
JP (1) JP2008140271A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011166316A (ja) * 2010-02-05 2011-08-25 Nippon Telegr & Teleph Corp <Ntt> 撮像方法、撮像表示装置、及び遠隔対面コミュニケーション装置
JP2013235562A (ja) * 2012-05-04 2013-11-21 Commonwealth Scientific & Industrial Research Organization ビデオにおける眼位のためのシステムおよび方法
JP2018046463A (ja) * 2016-09-15 2018-03-22 日本電信電話株式会社 視線一致顔画像合成方法、テレビ会議システム、及びプログラム
JP2018046464A (ja) * 2016-09-15 2018-03-22 日本電信電話株式会社 視線一致顔画像合成方法、テレビ会議システム、及びプログラム

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2342894A4 (en) * 2008-11-04 2013-12-25 Hewlett Packard Development Co ADJUSTING A VIDEO WINDOW POSITION IN RELATION TO A VIDEO CAMERA POSITION
JP2010157854A (ja) * 2008-12-26 2010-07-15 Sony Corp 情報処理装置、情報処理方法およびプログラム
EP2355499A1 (en) * 2009-12-16 2011-08-10 Alcatel Lucent Video conferencing method, a related system, a related client device and a related network element
CN101908233A (zh) * 2010-08-16 2010-12-08 福建华映显示科技有限公司 产生用于三维影像重建的复数视点图的方法及系统
US8649592B2 (en) * 2010-08-30 2014-02-11 University Of Illinois At Urbana-Champaign System for background subtraction with 3D camera
US9560314B2 (en) * 2011-06-14 2017-01-31 Microsoft Technology Licensing, Llc Interactive and shared surfaces
WO2013079607A1 (en) * 2011-11-30 2013-06-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. View rendering for the provision of virtual eye contact using special geometric constraints in combination with eye-tracking
US9380263B2 (en) * 2014-01-03 2016-06-28 Aquifi, Inc. Systems and methods for real-time view-synthesis in a multi-camera setup
EP3219098B1 (en) 2014-11-14 2021-10-06 PCMS Holdings, Inc. System and method for 3d telepresence
EP3335418A1 (en) 2015-08-14 2018-06-20 PCMS Holdings, Inc. System and method for augmented reality multi-view telepresence
US10762712B2 (en) 2016-04-01 2020-09-01 Pcms Holdings, Inc. Apparatus and method for supporting interactive augmented reality functionalities
JP6636963B2 (ja) * 2017-01-13 2020-01-29 株式会社東芝 画像処理装置及び画像処理方法
EP3635949A1 (en) 2017-06-09 2020-04-15 PCMS Holdings, Inc. Spatially faithful telepresence supporting varying geometries and moving users
CN112702533B (zh) * 2020-12-28 2022-08-19 维沃移动通信有限公司 视线修正方法及视线修正装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0690445A (ja) * 1992-09-09 1994-03-29 Hitachi Ltd 映像入出力装置
JPH07320031A (ja) * 1994-05-26 1995-12-08 Fujitsu Ltd ウィンドウとカメラの協調制御方法および装置
JP2001052177A (ja) * 1999-08-11 2001-02-23 Univ Waseda 画像処理装置および画像処理方法
JP2004326179A (ja) * 2003-04-21 2004-11-18 Sharp Corp 画像処理装置、画像処理方法および画像処理プログラムならびに画像処理プログラムを記録した記録媒体
JP2006114023A (ja) * 2004-10-14 2006-04-27 Sony Corp 画像処理装置及び方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6259470B1 (en) * 1997-12-18 2001-07-10 Intel Corporation Image capture system having virtual camera
US6208373B1 (en) * 1999-08-02 2001-03-27 Timothy Lo Fong Method and apparatus for enabling a videoconferencing participant to appear focused on camera to corresponding users
US6771303B2 (en) * 2002-04-23 2004-08-03 Microsoft Corporation Video-teleconferencing system with eye-gaze correction
US7257272B2 (en) * 2004-04-16 2007-08-14 Microsoft Corporation Virtual image generation

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0690445A (ja) * 1992-09-09 1994-03-29 Hitachi Ltd 映像入出力装置
JPH07320031A (ja) * 1994-05-26 1995-12-08 Fujitsu Ltd ウィンドウとカメラの協調制御方法および装置
JP2001052177A (ja) * 1999-08-11 2001-02-23 Univ Waseda 画像処理装置および画像処理方法
JP2004326179A (ja) * 2003-04-21 2004-11-18 Sharp Corp 画像処理装置、画像処理方法および画像処理プログラムならびに画像処理プログラムを記録した記録媒体
JP2006114023A (ja) * 2004-10-14 2006-04-27 Sony Corp 画像処理装置及び方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011166316A (ja) * 2010-02-05 2011-08-25 Nippon Telegr & Teleph Corp <Ntt> 撮像方法、撮像表示装置、及び遠隔対面コミュニケーション装置
JP2013235562A (ja) * 2012-05-04 2013-11-21 Commonwealth Scientific & Industrial Research Organization ビデオにおける眼位のためのシステムおよび方法
JP2018046463A (ja) * 2016-09-15 2018-03-22 日本電信電話株式会社 視線一致顔画像合成方法、テレビ会議システム、及びプログラム
JP2018046464A (ja) * 2016-09-15 2018-03-22 日本電信電話株式会社 視線一致顔画像合成方法、テレビ会議システム、及びプログラム

Also Published As

Publication number Publication date
US20080158340A1 (en) 2008-07-03

Similar Documents

Publication Publication Date Title
JP2008140271A (ja) 対話装置及びその方法
US8768043B2 (en) Image display apparatus, image display method, and program
JP6240963B2 (ja) 運動視差を用いた、2d画像からの3d知覚の生成
US20120242795A1 (en) Digital 3d camera using periodic illumination
JP2018533232A (ja) ステレオレンダリングシステム
JP2011077710A (ja) 映像コミュニケーションシステム、及び映像コミュニケーション方法
EP2787735A1 (en) Image processing device, image processing method and program
JP5963006B2 (ja) 画像変換装置、カメラ、映像システム、画像変換方法およびプログラムを記録した記録媒体
JP2014203462A (ja) 光フィールド映像を生成する方法及び装置
JP5809607B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2004193962A (ja) 画像通信装置、および画像通信方法、並びにコンピュータ・プログラム
WO2020184174A1 (ja) 画像処理装置および画像処理方法
JP2011097447A (ja) コミュニケーションシステム
JP2011113206A (ja) 映像コミュニケーションシステム、及び映像コミュニケーション方法
CN107659772B (zh) 3d图像生成方法、装置及电子设备
JP6625654B2 (ja) 投影装置、投影方法、および、プログラム
JP5759439B2 (ja) 映像コミュニケーションシステム及び映像コミュニケーション方法
KR20110025083A (ko) 입체 영상 시스템에서 입체 영상 디스플레이 장치 및 방법
WO2021149509A1 (ja) 撮像装置、撮像方法、及び、プログラム
CN115222793A (zh) 深度图像的生成及显示方法、装置、系统、可读介质
JP5833525B2 (ja) 映像コミュニケーションシステム及び映像コミュニケーション方法
JP2009186369A (ja) 奥行き情報取得方法、奥行き情報取得装置、プログラムおよび記録媒体
Ishihara et al. Integrating Both Parallax and Latency Compensation into Video See-through Head-mounted Display
JP2020005150A (ja) 録画再生装置及びプログラム
JP7336871B2 (ja) 全天周映像処理装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110713

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110802