JP2008140271A - 対話装置及びその方法 - Google Patents
対話装置及びその方法 Download PDFInfo
- Publication number
- JP2008140271A JP2008140271A JP2006327468A JP2006327468A JP2008140271A JP 2008140271 A JP2008140271 A JP 2008140271A JP 2006327468 A JP2006327468 A JP 2006327468A JP 2006327468 A JP2006327468 A JP 2006327468A JP 2008140271 A JP2008140271 A JP 2008140271A
- Authority
- JP
- Japan
- Prior art keywords
- image
- display
- window
- parallelized
- virtual viewpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000002452 interceptive effect Effects 0.000 title claims abstract description 17
- 238000000034 method Methods 0.000 title claims description 22
- 238000003384 imaging method Methods 0.000 claims abstract description 10
- 238000006243 chemical reaction Methods 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 15
- 230000009466 transformation Effects 0.000 claims description 9
- 230000003287 optical effect Effects 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000007796 conventional method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
- H04N7/144—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display camera and display on the same optical axis, e.g. optically multiplexing the camera and display for eye to eye contact
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
【解決手段】対話装置1は、2台のカメラを有する撮像部2、3次元情報獲得部4、ウィンドウ位置獲得部5、回転量決定部6、画像生成部7、画像出力部8、パラメタ記憶部9から構成され、ディスプレイのウィンドウ位置により仮想カメラの視点位置を変え、対話を行う相手が注目しさえすれば視線一致可能になるようにする。
【選択図】 図1
Description
本発明の第1の実施形態に係わる対話装置1について図1、図2、図5、図6に基づいて説明する。
図1は、本実施形態に係わる対話装置1を示すブロック図である。
撮像部2は、少なくとも2台以上のカメラを有し、各カメラでシーン(Aさんの顔が写った場面)を撮像して画像として保存し、各画像を画像平行化部3へ送る。
パラメタ記憶部8は設置する各カメラの内部パラメタと、各カメラ間の外部パラメタを記憶し、画像平行化部3と3次元情報獲得部4にパラメタを送る。
画像平行化部3は、撮像部2からの入力画像中のうち1枚を基準画像、その他を参照画像とし、各カメラ間のパラメタ記憶部9で記憶してある内部パラメタと外部パラメタより、基準画像と各参照画像のエピポーラ線が平行となるように射影変換(rectification)する。平行化後の画像を平行化画像とし、3次元情報獲得部4に入力画像を送る。
3次元情報獲得部4は、画像平行化部3からの平行化画像中の基準画像と参照画像に関して、基準画像中の各画素が参照画像中のどの画素に対応するかを対応点探索し、対応点までの画素数を輝度値として与えられる視差画像をそれぞれ求める。
ウィンドウ位置獲得部5は、ディスプレイ上で対話を行う相手(Bさん、Cさん、Dさん)を表示しているウィンドウの位置をそれぞれ獲得し、回転量決定部6にウィンドウ位置を送る。すなわち、Aさんのノートパソコンのディスプレイには、3人の顔が写るウィンドウが3個あるため、Bさん、Cさん、Dさんの各ウィンドウ位置を送る。
回転量決定部6は、ウィンドウ位置獲得部5からの各ウィンドウ位置から、3次元位置情報を回転させることにより視点変換を行うが、このときの回転量をそれぞれ決定する。回転量は、予めAさんのノートパソコンのディスプレイの四隅からの各ウィンドウの中心にある仮想視点への視点変換を行うときの回転量を調べておき、線形補間により求める。画像生成部7に求めたそれぞれの回転量を送る。
画像生成部7は、3次元情報獲得部4からの3次元位置情報と、回転量決定部6からの各回転量により、獲得した3次元位置情報を世界座標系において回転させて視点変換をそれぞれ行う。回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点とする。
画像出力部8は、画像生成部6からの仮想視点画像を、それぞれの対話を行う相手のノートパソコンのディスプレイに出力する。
図2は、本実施形態に係る仮想視点画像出力手順の一例を示すフローチャートである。処理手順は以下のようになる。なお、図5に示すようにAさんのノートパソコンで、Bさん、Cさん、Dさんとテレビ会議をしている場合を想定する。
本実施形態によれば、ウィンドウ位置により仮想カメラの視点位置を変えるため対話を行う相手を注目しさえすれば視線一致可能になり、より現実的な映像対話が可能になる。
本発明の第2の実施形態に係る対話装置101について図3、図4、図7に基づいて説明する。
図3は、本実施形態に係る対話装置101を示す構成図である。
背景画像記憶部110は、画像平行化部103によって平行化した画像に関して、3次元位置情報を獲得したい対象となる物体以外を予め撮像した画像、もしくは映像(以下、背景画像という)を装置内部で記憶しておき、画像生成部107と、背景画像処理部111に送る。
背景画像処理部111は、画像平行化部103からの平行化基準画像と、この基準画像に対応するカメラで撮影した平行化背景画像との差分を求める。また、平行化参照画像についても、対応するカメラで撮影した平行化背景画像との差分を求める。そして、前記平行化基準画像及び平行化参照画像中で平行化背景画像とは異なる領域を検出した後、その領域のみの前景物体領域画像を生成し、3次元情報獲得部104に送る。
画像生成部107は、3次元情報獲得部104からの3次元位置情報と、回転量決定部106からの回転量と、背景画像記憶部110からの背景画像により、視点変換を行うために、獲得した3次元位置情報を世界座標系において回転させ、前景物体領域のみの仮想視点画像を再構成する。回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点とする。
図4は、本実施形態に係る仮想視点画像出力手順の一例を示すフローチャートである。処理手順は以下のようになる。図2で説明した仮想視点画像出力手順と同様な処理に関しては説明を省略する。
以下では、背景差分処理を導入することによる効果を説明する。
本発明は前記各実施形態に限らず、その主旨を逸脱しない限り種々に変更することができる。
前記実施形態では、回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点としたが、獲得した3次元位置情報の奥行き値の平均を回転中心としてもよい。
前記実施形態では、回転中心は、ディスプレイ中心からのディスプレイ面に対する法線と基準カメラの光軸との交点としたが、顔検出部を追加し、得られた顔領域の位置により回転中心を決定してもよい。
前記実施形態では、回転量決定部によって一意に回転量を決定したが、後に、外部からの値により回転量を制御し、任意の仮想視点からの画像を生成してもよい。
2、102・・・撮像部
3、103・・・画像平行化部
4、104・・・3次元情報獲得部
5、105・・・ウィンドウ位置獲得部
6、106・・・回転量決定部
7、107・・・画像生成部
8、108・・・画像出力部
9、109・・・パラメタ記憶部
110・・・背景画像記憶部
111・・・背景差分処理部
Claims (9)
- 画像を表示するディスプレイと、
共通の視野を有し、使用者の顔を撮像する複数のカメラと、
前記ディスプレイ上にウィンドウを設定し、前記ウィンドウ中に前記使用者と対話する相手を表示する相手表示部と、
前記それそれのカメラで撮像された複数の画像の中から第1画像と第2画像を選択して、前記第1画像と前記第2画像との間のエピポーラ線が平行になるように射影変換して平行化第1画像と平行化第2画像を求める画像平行化部と、
前記平行化第1画像中の各画素が前記平行化第2画像中のどの画素に対応するかを表す対応関係に基づいて、前記平行化第1画像中の各画素の3次元位置情報を獲得する3次元情報獲得部と、
前記ディスプレイの表示領域内での前記ウィンドウの表示位置を検出するウィンドウ位置獲得部と、
前記ウィンドウの表示位置に基づいて、前記各画素での前記3次元位置情報を回転させて、前記ウィンドウの表示位置の中心である仮想視点から撮影した仮想視点画像を獲得するための視点変換の回転量を決定する回転量決定部と、
前記各画素の前記3次元位置情報と前記回転量とから前記仮想視点画像を生成する画像生成部と、
前記仮想視点画像を出力する画像出力部と、
を有する対話装置。 - 背景画像を記憶する背景画像記憶部と、
前記平行化第1画像と前記背景画像との差分、及び、前記平行化第2画像と前記背景画像との差分をそれぞれ求め、前記平行化第1画像と前記背景画像における前景物体領域のみをそれぞれ検出する背景差分処理部を有し、
前記3次元情報獲得部は、前記平行化第1画像の前記前景物体領域と前記平行化第2画像の前記前景物体領域のみの前記対応関係により、前記前景物体領域のみの3次元位置情報を獲得し、
前記画像生成部は、前記前景物体領域のみからなる前記仮想視点画像を生成し、この生成した仮想視点画像に前記背景画像を貼り付ける、
請求項1記載の対話装置。 - 前記画像生成部は、前記ディスプレイの中心からのディスプレイ面に対する法線と、前記各カメラの中の1台の基準カメラの光軸との交点を中心として、前記3次元位置情報を回転させて前記仮想視点画像を生成する、
請求項1記載の対話装置。 - 前記画像生成部は、前記3次元位置情報の奥行き値の平均を回転中心として、前記3次元位置情報を回転させて前記仮想視点画像を生成する、
請求項1記載の対話装置。 - 前記自己の顔を検出する顔検出部を有し、
前記画像生成部は、前記顔検出により獲得した前記顔位置に応じて、前記3次元位置情報の回転中心の位置を設定する、
請求項1記載の対話装置。 - 前記回転量決定部は、前記3次元位置情報の前記回転量が外部から入力される、
請求項1記載の対話装置。 - 前記画像平行化部は、前記第2画像のエピポーラ線が前記第1画像のエピポーラ線に平行になるように射影変換して平行化第2画像を求め、前記第1画像を前記平行化第1画像として出力する、
請求項1から請求項6のいずれか一項に記載の対話装置。 - 画像を表示するディスプレイと、共通の視野を有し、使用者の顔を撮像する複数のカメラとを有した対話装置における対話方法であって、
前記ディスプレイ上にウィンドウを設定し、前記ウィンドウ中に前記使用者と対話する相手を表示し、
前記それそれのカメラで撮像された複数の画像の中から第1画像と第2画像を選択して、前記第1画像と前記第2画像との間のエピポーラ線が平行になるように射影変換して平行化第1画像と平行化第2画像を求め、
前記平行化第1画像中の各画素が前記平行化第2画像中のどの画素に対応するかを表す対応関係に基づいて、前記平行化第1画像中の各画素の3次元位置情報を獲得し、
前記ディスプレイの表示領域内での前記ウィンドウの表示位置を検出し、
前記ウィンドウの表示位置に基づいて、前記各画素での前記3次元位置情報を回転させて、前記ウィンドウの表示位置の中心である仮想視点から撮影した仮想視点画像を獲得するための視点変換の回転量を決定し、
前記各画素の前記3次元位置情報と前記回転量とから前記仮想視点画像を生成し、
前記仮想視点画像を出力する、
対話方法。 - 画像を表示するディスプレイと、共通の視野を有し、使用者の顔を撮像する複数のカメラとを有した対話装置を機能させるコンピュータのプログラムであって、
前記ディスプレイ上にウィンドウを設定し、前記ウィンドウ中に前記使用者と対話する相手を表示する相手表示機能と、
前記それそれのカメラで撮像された複数の画像の中から第1画像と第2画像を選択して、前記第1画像と前記第2画像との間のエピポーラ線が平行になるように射影変換して平行化第1画像と平行化第2画像を求める画像平行化機能と、
前記平行化第1画像中の各画素が前記平行化第2画像中のどの画素に対応するかを表す対応関係に基づいて、前記平行化第1画像中の各画素の3次元位置情報を獲得する3次元情報獲得機能と、
前記ディスプレイの表示領域内での前記ウィンドウの表示位置を検出するウィンドウ位置獲得機能と、
前記ウィンドウの表示位置に基づいて、前記各画素での前記3次元位置情報を回転させて、前記ウィンドウの表示位置の中心である仮想視点から撮影した仮想視点画像を獲得するための視点変換の回転量を決定する回転量決定機能と、
前記各画素の前記3次元位置情報と前記回転量とから前記仮想視点画像を生成する画像生成機能と、
前記仮想視点画像を出力する画像出力機能と、
を前記コンピュータによって実現するプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006327468A JP2008140271A (ja) | 2006-12-04 | 2006-12-04 | 対話装置及びその方法 |
US11/950,188 US20080158340A1 (en) | 2006-12-04 | 2007-12-04 | Video chat apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006327468A JP2008140271A (ja) | 2006-12-04 | 2006-12-04 | 対話装置及びその方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008140271A true JP2008140271A (ja) | 2008-06-19 |
Family
ID=39583300
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006327468A Pending JP2008140271A (ja) | 2006-12-04 | 2006-12-04 | 対話装置及びその方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20080158340A1 (ja) |
JP (1) | JP2008140271A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011166316A (ja) * | 2010-02-05 | 2011-08-25 | Nippon Telegr & Teleph Corp <Ntt> | 撮像方法、撮像表示装置、及び遠隔対面コミュニケーション装置 |
JP2013235562A (ja) * | 2012-05-04 | 2013-11-21 | Commonwealth Scientific & Industrial Research Organization | ビデオにおける眼位のためのシステムおよび方法 |
JP2018046463A (ja) * | 2016-09-15 | 2018-03-22 | 日本電信電話株式会社 | 視線一致顔画像合成方法、テレビ会議システム、及びプログラム |
JP2018046464A (ja) * | 2016-09-15 | 2018-03-22 | 日本電信電話株式会社 | 視線一致顔画像合成方法、テレビ会議システム、及びプログラム |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2342894A4 (en) * | 2008-11-04 | 2013-12-25 | Hewlett Packard Development Co | ADJUSTING A VIDEO WINDOW POSITION IN RELATION TO A VIDEO CAMERA POSITION |
JP2010157854A (ja) * | 2008-12-26 | 2010-07-15 | Sony Corp | 情報処理装置、情報処理方法およびプログラム |
EP2355499A1 (en) * | 2009-12-16 | 2011-08-10 | Alcatel Lucent | Video conferencing method, a related system, a related client device and a related network element |
CN101908233A (zh) * | 2010-08-16 | 2010-12-08 | 福建华映显示科技有限公司 | 产生用于三维影像重建的复数视点图的方法及系统 |
US8649592B2 (en) * | 2010-08-30 | 2014-02-11 | University Of Illinois At Urbana-Champaign | System for background subtraction with 3D camera |
US9560314B2 (en) * | 2011-06-14 | 2017-01-31 | Microsoft Technology Licensing, Llc | Interactive and shared surfaces |
WO2013079607A1 (en) * | 2011-11-30 | 2013-06-06 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | View rendering for the provision of virtual eye contact using special geometric constraints in combination with eye-tracking |
US9380263B2 (en) * | 2014-01-03 | 2016-06-28 | Aquifi, Inc. | Systems and methods for real-time view-synthesis in a multi-camera setup |
EP3219098B1 (en) | 2014-11-14 | 2021-10-06 | PCMS Holdings, Inc. | System and method for 3d telepresence |
EP3335418A1 (en) | 2015-08-14 | 2018-06-20 | PCMS Holdings, Inc. | System and method for augmented reality multi-view telepresence |
US10762712B2 (en) | 2016-04-01 | 2020-09-01 | Pcms Holdings, Inc. | Apparatus and method for supporting interactive augmented reality functionalities |
JP6636963B2 (ja) * | 2017-01-13 | 2020-01-29 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
EP3635949A1 (en) | 2017-06-09 | 2020-04-15 | PCMS Holdings, Inc. | Spatially faithful telepresence supporting varying geometries and moving users |
CN112702533B (zh) * | 2020-12-28 | 2022-08-19 | 维沃移动通信有限公司 | 视线修正方法及视线修正装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0690445A (ja) * | 1992-09-09 | 1994-03-29 | Hitachi Ltd | 映像入出力装置 |
JPH07320031A (ja) * | 1994-05-26 | 1995-12-08 | Fujitsu Ltd | ウィンドウとカメラの協調制御方法および装置 |
JP2001052177A (ja) * | 1999-08-11 | 2001-02-23 | Univ Waseda | 画像処理装置および画像処理方法 |
JP2004326179A (ja) * | 2003-04-21 | 2004-11-18 | Sharp Corp | 画像処理装置、画像処理方法および画像処理プログラムならびに画像処理プログラムを記録した記録媒体 |
JP2006114023A (ja) * | 2004-10-14 | 2006-04-27 | Sony Corp | 画像処理装置及び方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6259470B1 (en) * | 1997-12-18 | 2001-07-10 | Intel Corporation | Image capture system having virtual camera |
US6208373B1 (en) * | 1999-08-02 | 2001-03-27 | Timothy Lo Fong | Method and apparatus for enabling a videoconferencing participant to appear focused on camera to corresponding users |
US6771303B2 (en) * | 2002-04-23 | 2004-08-03 | Microsoft Corporation | Video-teleconferencing system with eye-gaze correction |
US7257272B2 (en) * | 2004-04-16 | 2007-08-14 | Microsoft Corporation | Virtual image generation |
-
2006
- 2006-12-04 JP JP2006327468A patent/JP2008140271A/ja active Pending
-
2007
- 2007-12-04 US US11/950,188 patent/US20080158340A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0690445A (ja) * | 1992-09-09 | 1994-03-29 | Hitachi Ltd | 映像入出力装置 |
JPH07320031A (ja) * | 1994-05-26 | 1995-12-08 | Fujitsu Ltd | ウィンドウとカメラの協調制御方法および装置 |
JP2001052177A (ja) * | 1999-08-11 | 2001-02-23 | Univ Waseda | 画像処理装置および画像処理方法 |
JP2004326179A (ja) * | 2003-04-21 | 2004-11-18 | Sharp Corp | 画像処理装置、画像処理方法および画像処理プログラムならびに画像処理プログラムを記録した記録媒体 |
JP2006114023A (ja) * | 2004-10-14 | 2006-04-27 | Sony Corp | 画像処理装置及び方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011166316A (ja) * | 2010-02-05 | 2011-08-25 | Nippon Telegr & Teleph Corp <Ntt> | 撮像方法、撮像表示装置、及び遠隔対面コミュニケーション装置 |
JP2013235562A (ja) * | 2012-05-04 | 2013-11-21 | Commonwealth Scientific & Industrial Research Organization | ビデオにおける眼位のためのシステムおよび方法 |
JP2018046463A (ja) * | 2016-09-15 | 2018-03-22 | 日本電信電話株式会社 | 視線一致顔画像合成方法、テレビ会議システム、及びプログラム |
JP2018046464A (ja) * | 2016-09-15 | 2018-03-22 | 日本電信電話株式会社 | 視線一致顔画像合成方法、テレビ会議システム、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20080158340A1 (en) | 2008-07-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2008140271A (ja) | 対話装置及びその方法 | |
US8768043B2 (en) | Image display apparatus, image display method, and program | |
JP6240963B2 (ja) | 運動視差を用いた、2d画像からの3d知覚の生成 | |
US20120242795A1 (en) | Digital 3d camera using periodic illumination | |
JP2018533232A (ja) | ステレオレンダリングシステム | |
JP2011077710A (ja) | 映像コミュニケーションシステム、及び映像コミュニケーション方法 | |
EP2787735A1 (en) | Image processing device, image processing method and program | |
JP5963006B2 (ja) | 画像変換装置、カメラ、映像システム、画像変換方法およびプログラムを記録した記録媒体 | |
JP2014203462A (ja) | 光フィールド映像を生成する方法及び装置 | |
JP5809607B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP2004193962A (ja) | 画像通信装置、および画像通信方法、並びにコンピュータ・プログラム | |
WO2020184174A1 (ja) | 画像処理装置および画像処理方法 | |
JP2011097447A (ja) | コミュニケーションシステム | |
JP2011113206A (ja) | 映像コミュニケーションシステム、及び映像コミュニケーション方法 | |
CN107659772B (zh) | 3d图像生成方法、装置及电子设备 | |
JP6625654B2 (ja) | 投影装置、投影方法、および、プログラム | |
JP5759439B2 (ja) | 映像コミュニケーションシステム及び映像コミュニケーション方法 | |
KR20110025083A (ko) | 입체 영상 시스템에서 입체 영상 디스플레이 장치 및 방법 | |
WO2021149509A1 (ja) | 撮像装置、撮像方法、及び、プログラム | |
CN115222793A (zh) | 深度图像的生成及显示方法、装置、系统、可读介质 | |
JP5833525B2 (ja) | 映像コミュニケーションシステム及び映像コミュニケーション方法 | |
JP2009186369A (ja) | 奥行き情報取得方法、奥行き情報取得装置、プログラムおよび記録媒体 | |
Ishihara et al. | Integrating Both Parallax and Latency Compensation into Video See-through Head-mounted Display | |
JP2020005150A (ja) | 録画再生装置及びプログラム | |
JP7336871B2 (ja) | 全天周映像処理装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090326 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110513 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110517 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110713 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110802 |