JPH11355804A - ネットワーク会議画像処理装置 - Google Patents

ネットワーク会議画像処理装置

Info

Publication number
JPH11355804A
JPH11355804A JP10156400A JP15640098A JPH11355804A JP H11355804 A JPH11355804 A JP H11355804A JP 10156400 A JP10156400 A JP 10156400A JP 15640098 A JP15640098 A JP 15640098A JP H11355804 A JPH11355804 A JP H11355804A
Authority
JP
Japan
Prior art keywords
image
information
viewpoint
conference
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10156400A
Other languages
English (en)
Other versions
JP3389102B2 (ja
Inventor
Yoshihiro Jinnan
吉宏 神南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP15640098A priority Critical patent/JP3389102B2/ja
Publication of JPH11355804A publication Critical patent/JPH11355804A/ja
Application granted granted Critical
Publication of JP3389102B2 publication Critical patent/JP3389102B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

(57)【要約】 【課題】 構成を容易にし、かつ、視点の移動に対応し
た視線一致を図り、更に、画像品質が向上して自然な画
質を得るとともに、自然な対話による会議を可能にす
る。 【解決手段】 ビデオカメラ2a,2b、ディスプレイ
装置3、画像処理部4、画像合成部5、視点検出部6、
画像表示処理部7、画像作成部8、表示制御部9及び伝
送路10を有し、他のネットワーク会議画像処理装置と
の間で画像情報、視点情報及び画像制御情報を伝送し、
この情報によって会議者の視点の位置変化に対応して伝
送する画像の撮影位置及び撮影範囲を変化させ、会議者
の視点の移動に対応して、その視線を一致させる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、遠隔地との間でビ
デオカメラ及びディスプレイ装置を用い、画像/音声デ
ータを通信ネットワークで伝送して会議を行うネットワ
ーク会議画像処理装置に関し、特に、画面の会議者と対
話する際の視線が一致(アイコンタクト)するネットワ
ーク会議画像処理装置に関する。
【0002】
【従来の技術】従来、この種のネットワーク会議画像処
理装置では、画面の会議者と向かい合って視線一致(ア
イコンタクト)による対話が可能なように、その制御が
行われる(例えば、特開平8−195945号公報
例)。このような制御を行う装置では、ディスプレイ装
置の背面にビデオカメラを配置して、ディスプレイ装置
に対面する会議者の視線と、ディスプレイ装置に映し出
される会議者との視線が一致するようにしている。
【0003】この装置では、ディスプレイ装置の背面か
らディスプレイ装置に対面する会議者をビデオカメラで
撮影するため、ディスプレイ装置を透過して会議者の画
像光をビデオカメラで取り込む必要があり、特殊な汎用
性のないディスプレイ装置を必要とする。また、ディス
プレイ装置の前面にハーフミラーなどを設けて、会議者
がディスプレイ装置上の画像を目視できるようにし、か
つ、ディスプレイ装置全面の会議者をハーフミラー、光
り屈折装置(プリズム)などを配置してディスプレイ装
置の背面に設けたビデオカメラで撮影する必要があり、
その構成が複雑である。
【0004】また、ディスプレイ装置の両側に配置され
た二台のビデオカメラの出力画像を処理してディスプレ
イ装置に対面する会議者の視線とディスプレイ装置に映
し出される会議者との視線が一致するように制御する例
がある(例えば、特開平2−58484号公報例)。こ
の装置では、二台のビデオカメラの出力画像を処理して
おり、複雑な画像処理が必要になって、その画像品質が
劣化し、自然な画像が得られ難い。
【0005】また、このようにディスプレイ装置に対面
する会議者の視線とディスプレイ装置に映し出される会
議者との視線が一致する制御を行う例として、特開平9
−23449号「実写映像及び3次元モデル合成装置」
公報及び特開平6−90445号「映像入出力装置」公
報で開示されている例が周知である。
【0006】特開平9−23449号公報従来例は、二
つのカメラの撮影位置(視点)の一致を判定し、一致し
ていない場合に二つのビデオカメラの撮影位置の一方の
画像を表示している。また、特開平6−90445号公
報従来例は、テレビ電話利用者の視線を強制的に一致さ
せている。また、二つのビデオカメラで撮影した画像を
三次元形状に生成し、これをレンダリンクして画像を生
成している。この二つの公報従来例は、いずれも視点の
移動に伴う表示画像における視点位置の検出が出来ない
ため、より自然な視線一致による会議ができにくいもの
である。
【0007】
【発明が解決しようとする課題】このように上記従来例
では、構成が複雑であり、かつ、画像品質が劣化し、自
然な画質を得にくい。また、視点の移動(位置変化)に
対応した視線一致による自然な対話による会議が出来な
いという欠点があった。
【0008】本発明は、このような従来の技術における
課題を解決するものであり、慣用的なビデオカメラ及び
ディスプレイ装置を用いて、その構成が容易となり、か
つ、視点の移動に対応した会議者間の視線一致が可能に
なると共に、画像品質が向上し、自然な画質による会議
が可能なネットワーク会議画像処理装置の提供を目的と
する。
【0009】
【課題を解決するための手段】上記課題を達成するため
に、本発明のネットワーク会議画像処理装置は、撮影画
像及び会話音声を伝送し、かつ、表示画像と対面して会
議を行うものであり、他のネットワーク会議画像処理装
置との間で画像情報、視点情報及び画像制御情報を伝送
し、この情報によって会議者の視点の位置変化に対応し
て伝送する画像の撮影位置及び撮影範囲を変化させ、視
点の移動に対応して視線を一致させる会議画像処理手段
を備える構成としてある。
【0010】また、前記画像の撮影位置及び撮影範囲の
変化が、少なくとも二つの視点から撮影された画像を処
理し、この二つの視点とは別の視点から撮影した任意画
像を生成した場合であり、前記画像情報が、他のネット
ワーク会議画像処理装置の表示画面上に表示される二次
元情報であり、視点情報は、前記画像情報の画像上にお
ける視点位置を示す情報であり、画像制御情報を、表示
画面上の画像位置、大きさ、及び、画像情報の三次元空
間における撮影領域を示す情報とする構成としてある。
【0011】更に、前記会議画像処理手段として、複数
の撮影位置から会議者を撮影した画像情報を出力する撮
影部と、撮影部からの画像情報を処理して会議者の三次
元画像を合成した三次元画像情報を伝送路を通じて他の
ネットワーク会議画像処理装置へ送出する画像合成部
と、画像合成部からの三次元画像から会議者の視点を検
出した視点情報を伝送路を通じて他のネットワーク会議
画像処理装置へ送出する視点検出部と、画像合成部から
の三次元画像を任意の撮影位置から撮影して画像に生成
した画像情報を伝送路通じて他のネットワーク会議画像
処理装置へ送出する画像作成部と、伝送路を通じて受信
した画像情報における画像の表示位置を決定した画像信
号を出力し、かつ、画像作成部及び画像表示処理部での
動作処理のための画像制御情報を受信して送出する受信
処理部とを備える構成としてある。
【0012】また、前記画像合成部において、会議者の
顔の画像の特徴のみの画像処理によって三次元画像を作
成し、視点検出部において、画像合成部で作成した三次
元画像中の視点位置を三次元画像及び、この元になる撮
影画像から検出し、更に、画像作成部において、撮影位
置を他のネットワーク会議画像処理装置から受信した視
点情報と連動して処理する構成としてある。
【0013】更に、前記受信処理部として、会議者の画
像を映し出す画像表示部と、伝送路を通じて受信した画
像情報における画像の表示位置を決定した画像信号を画
像表示部に出力する画像表示処理部と、画像作成部及び
画像表示処理部での動作処理のための画像制御情報を受
信して送出する表示制御部とを備える構成としてある。
【0014】また、他の一つのネットワーク会議画像処
理装置との間で伝送路を通じて画像情報、視点情報及び
画像制御情報を送受信する通信制御装置を更に備えると
共に、複数のネットワーク会議画像処理装置との間で通
信ネットワークを通じて画像情報、視点情報及び画像制
御情報を送受信する通信制御装置を備える構成としてあ
る。更に、通信ネットワークをISDNとする構成とし
てある。
【0015】また、前記画像情報、視点情報及び画像制
御情報を帯域圧縮符号化処理して送受信するための圧縮
処理部を更に備える構成としてある。
【0016】このような発明のネットワーク会議画像処
理装置は、慣用的(例えば、市販製品)なビデオカメラ
及びディスプレイ装置を用いて、画像の撮影位置及び撮
影範囲を変化させ、会議者の視点の移動に対応した視線
一致を図っている。したがって、特殊なビデオカメラや
ディスプレイ装置を必要とせず、その構成が容易であ
る。
【0017】また、画像の撮影位置及び撮影範囲の変化
として、例えば、二つの視点から撮影された画像を処理
し、この二つの視点とは別の視点から撮影した場合の任
意の画像を生成して、会議者相互が視線を向けた対話を
可能にしている。したがって、会議者の視点の移動に対
応した視線一致が可能になり、その自然な対話による会
議が可能になる。
【0018】更に、画像合成時に会議者における顔画像
の特徴のみの最小限の画像処理によって三次元画像を作
成している。したがって、画像品質が劣化せずに、その
画像品質が向上して自然な画質による会議が可能にな
る。
【0019】
【発明の実施の形態】次に、本発明のネットワーク会議
画像処理装置の実施の形態を図面を参照して詳細に説明
する。図1は本発明のネットワーク会議画像処理装置の
実施形態における構成を示すブロック図である。図1に
おいて、このネットワーク会議画像処理装置は、撮影対
象の会議者Mを中心に撮影した画像情報S101a,S
101bをそれぞれ出力するビデオカメラ2a,2b
と、伝送路10を通じて図示しない他のネットワーク会
議画像処理装置から受信した画像信号S112の画像を
映し出すディスプレイ装置3と、画像処理部4とで概略
構成されている。
【0020】なお、図1において、このネットワーク会
議画像処理装置を複数台用いたネットワーク会議システ
ムが構築される。このようなネットワーク会議システム
は公衆回線や専用回線(ISDNなどの高速デジタル回
線)又は、企業の事業所内に構築される構内回線(例え
ば、ローカルエリアネットワーク)などの通信ネットワ
ークを通じて会議を行うものである。このネットワーク
会議システムは、画像データ及び音声データを送受信す
るが、ここでは音声データの処理については公知の手段
を用いて行っている。
【0021】また、通信ネットワークとの通信規約(プ
ロトコル)による通信制御を実行する通信制御装置(例
えば、デジタル終端装置(DSU)、ターミナルアダプ
タ(TA)、ネットワーク通信装置(NCU)等)や、
画像データ及び音声データの変調、復調を処理する場合
の変復調装置、及び、ISDNを使用した場合の帯域圧
縮符号化処理を行う圧縮処理部などについても、公知の
手段を用いて行っている。
【0022】図1において、画像処理部4は、ビデオカ
メラ2a,2bからの画像情報S101a,S101b
を処理して伝送路10を通じて図示しない他のネットワ
ーク会議画像処理装置(図1と同様の構成)に、あとで
詳細に説明する視点情報信号S106、画像情報信号S
107及び画像制御情報信号S108を送信する。ま
た、画像処理部4は、図示しない他のネットワーク会議
画像処理装置から伝送路10を通じて受信したあとで詳
細に説明する視点情報信号S109、画像情報信号S1
11、画像制御情報信号S110を処理し、その画像信
号S112をディスプレイ装置3に送出する。
【0023】図1に示す画像処理部4の内部構成として
は、ビデオカメラ2a,2bからの画像情報S101
a,S101bを処理して三次元画像情報信号S102
を出力する画像合成部5と、視点検出部6とを有してい
る。この視点検出部6は、画像合成部5からの三次元画
像情報信号S102を処理して視点位置を検出すると共
に、撮影位置情報信号S104に基づいて、撮影位置で
撮影した画像上での視点位置を計算した視点情報信号S
106を伝送路10を通じて図示しない他のネットワー
ク会議画像処理装置へ送信する。
【0024】また、この画像処理部4は、伝送路10を
通じて受信した画像情報信号S111を画像配置情報信
号S105に基づいて処理し、この画像の表示位置を決
定した画像信号S112をディスプレイ装置3へ出力す
る画像表示処理部7と、画像属性情報信号S103及び
視点情報信号S109に基づいて撮影位置と画像の撮影
範囲を計算し、更に、この計算した撮影位置から三次元
画像情報信号S102を、撮影して得られる画像に生成
し、この画像情報信号S107を伝送路10を通じて図
示しない他のネットワーク会議画像処理装置へ送信する
画像作成部8とを有している。
【0025】更に、この画像処理部4には、伝送路10
を通じて受信した画像制御情報信号S110を記憶し、
画像作成部8の処理動作のための画像属性情報信号S1
03を出力し、かつ、画像の表示位置を管理するための
画像配置情報信号S105を出力すると共に、画像制御
情報信号S108を伝送路10を通じて図示しない他の
ネットワーク会議画像処理装置へ送信する表示制御部9
とを有している。
【0026】上記の三次元画像情報信号S102は、三
次元空間に二枚の二次元画像を配置した状態を表す画像
情報である。また、画像属性情報信号S103は、ディ
スプレイ装置3の画面上における画像位置、及び、この
装置から伝送した図示しない他のネットワーク会議画像
処理装置のディスプレイ装置の画面上における画像位置
及び大きさ(画面サイズ)を示す情報である。更に、撮
影位置情報信号S104は、画像作成部8で使用される
撮影位置と撮影範囲の情報である。
【0027】また、画像配置情報信号S105は、ディ
スプレイ装置3の画面上の表示画像の位置を示す情報で
ある。視点情報信号S106は、画像情報信号S107
の画像上における視点位置を示す情報である。更に、画
像情報信号S107は、伝送路10を通じた図示しない
他のネットワーク会議画像処理装置のディスプレイ装置
の画面上に表示される二次元情報である。画像制御情報
信号S108は、ディスプレイ装置3の画面上の画像位
置、大きさ、画像情報信号S107の三次元空間におけ
る撮影領域を示す情報である。
【0028】また、視点情報信号S109は、画像情報
信号S111における画像上の視点位置を示す情報であ
る。画像制御情報信号S110は、伝送路10を通じた
図示しない他のネットワーク会議画像処理装置のディス
プレイ装置の画面上の画像位置、大きさ、及び、画像情
報信号S111における三次元空間の撮影領域を示す情
報である。画像情報信号S111は、伝送路10に図示
しない他のネットワーク会議画像処理装置が送信した二
次元画像情報である。
【0029】次に、この実施形態の動作について説明す
る。図2は送信動作の処理手順を示すフローチャートで
あり、図3は受信動作の処理手順を示すフローチャート
である。図4はビデオカメラ2a,2bでの会議者Mの
撮影状態を示す上面図であり、図5は図4の撮影状態で
の画像を示す図である。また、図6は画像合成部5が作
成した三次元画像情報信号S102を、図4の撮影画像
と重ね合わせた状態を説明するための図であり、図7は
三次元画像情報信号S102を、ビデオカメラ2a,2
bの中間位置から目視した状態を説明するための図であ
る。
【0030】図8は図1に示す二台のネットワーク会議
画像処理装置A,B(以下、適宜、左側装置、右側装置
と記載する)を伝送路10を通じて接続した場合の状態
遷移を説明するための図である。この図8(a)の左右
装置A,Bにおいて、画像表示部分11a,11bは、
ディスプレイ装置3の表示画面部分である。ここでは左
右装置A,Bをそれぞれの会議者Mが利用して対話によ
る会議を行うものとする。ここでの基本視点位置12
a,12bは、会議者Mが画像表示部分の中心部を正面
から目視した際の視点位置である。更に、視点13a,
13bは会議者Mの視点中心を示している。
【0031】図8(a)は初期動作状態であり、図8
(b)は、左側装置Aを利用する会議者Mが基本視点位
置12aと視点一致した状態を表している。また、図8
(c)は、図8(b)状態における左側装置Aの会議者
Mの画像を画像表示部分11bで表示した状態であり、
右側装置Bの会議者Mが視点を基本視点位置12bから
y2だけY軸方向に移動した状態を表している。更に、
図8(d)は、図8(c)の状態にある右側装置Bの会
議者Mの画像を、画像表示部分11aに表示した状態に
おいて左側装置Aを利用する会議者Mが基本視点位置1
2aに視点を一致させている状態を表している。
【0032】図8(e)は、図8(d)の状態にある左
側装置Aの会議者Mの画像を画像表示部分11bに表示
した状態であり、右側装置Bの会議者Mが視点を基本視
点位置12bからだけY軸方向に移動した状態を表して
いる。図8(f)は、図8(e)の状態にある右側装置
Bの会議者Mの画像を画像表示部分11aに表示した状
態において、左側装置Aの会議者Mが視点を基本視点位
置12aからy1だけY軸方向に移動した状態を表して
いる。図8(g)は、図8(f)の状態にある左側装置
Aの会議者Mの画像を画像表示部分11bに表示した状
態であり、右側装置Bの会議者Mが視点を基本視点位置
12aからy2だけY軸方向に移動した状態を表してい
る。
【0033】以下、図2を参照して送信動作を説明す
る。まず、画像処理部4が初期状態に設定される(ステ
ップS1)。この初期状態が図8(a)である。この初
期状態の図8(a)では、画像処理部4で基本視点位置
12a,12bを測定し、この基本視点位置12a,1
2bの座標値Cx,Cy,Czを記憶する。同時に基本
視点位置12a,12bを中心とした際に、どの程度の
範囲の画像を撮影できるかを測定する。この値を撮影範
囲Ly,Lzとして記憶する。
【0034】図8(a)では、Z軸方向が示されておら
ず、Lyのみが図示されている。また、画像処理部4で
は、画像表示部分11a,11bの実際の大きさ(画像
サイズ)Wy,Wzも同時に記憶する。また、ネットワ
ーク会議画像処理装置A,B(左側装置A、右側装置
B)を使用する会議者Mの正面の顔を撮影し、この画像
情報S101a,S101bを画像合成部5が図示しな
いメモリなどに記憶する。
【0035】次に、この初期状態を、例えば、左側装置
Aから右側装置Bに送信する(ステップS2)。この送
信情報は、画像表示部分11a,11bにおける実際の
大きさ(画像サイズ)Wy,Wz、及び、基本視点位置
12a,12bの座標値Cx,Cy,Cz及び撮影範囲
Ly,Lzである。次に、会議者Mの撮影を行う(ステ
ップS3)。
【0036】ビデオカメラ2a,2bで会議者Mが撮影
され、画像情報S101a,S101bが画像合成部5
に入力される。次に、会議者Mの顔の画像部分を検出す
る(ステップS4)。この検出は画像合成部5で行い、
上記の初期状態設定時に撮影された会議者Mの正面の顔
画像と画像情報S101a,S101bの画像情報との
相関を検出して、画像情報S101a,S101b内の
会議者Mの顔の画像部分を検出する。
【0037】次に、画像合成部5で三次元画像を作成す
る(ステップS5)。まず、画像合成部5は会議者Mの
顔の画像部分を検出した二枚の画像を比較し、同一点を
撮影している部分を検出して、ビデオカメラ2a,2b
の位置情報に基づいて撮影された会議者Mの三次元位置
を特定する。更に、図6及び図7に示すように、会議者
Mの顔の表面に接し、かつ、ビデオカメラ2a,2bと
会議者Mの顔を結ぶ直線を垂線とする平面を求める。こ
の平面に画像113a,113bを設定する。このよう
にして作成した三次元画像情報を、三次元画像情報信号
S102として画像合成部5から視点検出部6及び画像
作成部8に出力する。また、別の実施の形態として、図
9及び図10に示すように、ビデオカメラ2a,2bと
会議者Mの顔を結ぶ直線を垂線とする平面と、会議者M
の顔の表面に接する半円柱を組み合わせた曲面に画像1
13a,113bを設定してもよい。
【0038】次いで、画像作成部8が送信画像を作成す
る(ステップS6)。画像作成部8では、三次元画像情
報信号S102の初期情報の受信後に、ある位置から撮
影した画像を生成する。この撮影位置は、左側装置Aの
ディスプレイ装置3中の画像表示部分に表示された右側
装置Bの会議者Mの画像上の視点位置である(なお、こ
の動作はあとで説明する図3中のステップS12であ
る)。
【0039】次に、視点検出部6が、視点位置を検出す
る(ステップS7)。視点検出部6は、画像合成部5か
らの三次元画像情報信号S102での顔画像から目の位
置を検出して、視点位置を特定する。この三次元画像情
報信号S102における視点位置情報と撮影位置情報信
号S104とによって、画像情報信号S107における
視点情報を計算し、この視点情報信号S106を右側装
置Bへ送信する。この送信と共に、状態及び画像情報で
ある画像情報信号S107及び画像制御情報信号S10
8を右側装置Bへ送信する(ステップS8)。この後は
図2中のステップS2にリターンして上記した処理を繰
り返して実行する。
【0040】次に、図3を参照して受信動作を説明す
る。図1に示す画像処理部4が、図示しない他のネット
ワーク会議画像処理装置からの伝送路10を通じて上記
ステップS1の処理による初期情報を受信し、次に情報
を受信する(ステップS11,S12)。この情報内容
は、図2のステップS8で送信される情報と同様であ
る。すなわち、視点情報信号S106、画像情報信号S
107及び画像制御情報信号S108である。
【0041】次に、画像表示処理部7が伝送路10を通
じて受信した情報から画像情報を取り出し、この画像信
号S112をディスプレイ装置3へ送出して画像を表示
する(ステップS13)。次に、画像表示処理部7が伝
送路10を通じて受信した情報中の画像情報以外の画像
制御情報信号S110を、表示制御部9が取り込んで更
新する。また、画像作成部8が視点情報信号S109を
取り込んで更新する(ステップS14)。この後は、ス
テップS12にリターンして上記した処理を繰り返して
実行する。
【0042】以下、画像作成部8の動作を図8に基づい
て詳細に説明する。図8(b)では、左側装置Aでの視
点13aが基本視点位置12aに位置している。更に、
右側装置Bが初期状態の場合、画像表示部分11aの中
心を撮影位置として、その視点が画像の中心になるよう
に画像が作成される。この情報は伝送路10を通じて図
8(c)の右側装置Bへ伝送される。この右側装置Bで
は、視点13bが基本視点位置12bから移動してい
る。撮影位置は、図8(b)で視点13aが基本視点位
置12aに位置していたため、画像表示部分11bの中
心となる。
【0043】次に、画像作成部8が撮影範囲を計算す
る。この計算は、まず、視点13bと基本視点位置12
bとの間の角度θを計算する。次に、図8(d)に示す
ように左側装置Aの画像表示部分11aの位置、大き
さ、及び、基本視点位置12aの情報から、基本視点位
置12aと画像表示部分11aに表示される画像上の視
点との間が角度θになる視点位置y2aを計算する。
【0044】撮影範囲は、画像表示部分11aでの表示
画像上の視点位置がy2aになるように決定される。具
体的には、図8(a)に示すように画像表示部分11
a,11bの実際の大きさ(画像サイズ)W1yと視点
位置y2aとの比が、撮影範囲L2yと図8(c)に示
す視点13bと中心線との距離V2yの比に等しくなる
ように撮影範囲が決定される。図8(d)では視点13
aは、基本視点位置12aに位置しているが、画像表示
部分11a上の視点位置中心から視点位置y2aに移動
し、この視点位置y2aが撮影位置となる。撮影範囲は
視点13aが中心となるように設定される。
【0045】図8(e)では、視点13bが図8(c)
の場合と同じ位置にある。画像表示部分11bに表示さ
れる画像上の視点の位置も変化しないため、撮影位置、
撮影範囲が図8(c)の場合と同一になる。図8(f)
では、視点13aが基本視点位置12aから移動してい
る。このため、図8(c)の場合と同様に、視点13a
と基本視点位置12aとの間の角度ψを求め、右側装置
Bの情報に基づいて視点位置y1aを計算して、撮影範
囲を設定する。
【0046】撮影位置は図8(e)で視点13bが変化
していないため、視点位置y2aのままとなる。図8
(g)では視点13bが変化していない。しかし、撮影
位置が視点位置y1aに移動しているため、画像表示部
分11a,11bの実際の大きさ(画像サイズ)W1y
と視点位置y2aとの比が、撮影範囲L2yと図8
(c)に示す視点13bと中心線との距離V2yとの比
に等しくなるように撮影範囲が変化する。
【0047】
【発明の効果】以上の説明から明らかなように、本発明
のネットワーク会議画像処理装置によれば、例えば、市
販製品のビデオカメラ及びディスプレイ装置を用いて、
画像の撮影位置及び撮影範囲を変化させ、視点の移動に
対応した視線一致を図っている。この結果、その構成が
容易に出来るようになる。
【0048】また、画像の撮影位置及び撮影範囲の変化
として、例えば、二つの視点から撮影された画像を処理
し、この二つの視点とは別の視点から撮影した場合の任
意の画像を生成して、会議者相互が視線を向けた対話を
可能にしている。この結果、視点の移動に対応した視線
一致が可能になり、その自然な対話による会議が出来る
ようになる。
【0049】更に、画像合成時に会議者における顔画像
の特徴のみの最小限の画像処理によって三次元画像を作
成している。この結果、画像品質が劣化せずに、その画
像品質が向上して自然な画質による会議が出来るように
なる。
【図面の簡単な説明】
【図1】本発明のネットワーク会議画像処理装置の実施
形態における構成を示すブロック図である。
【図2】実施形態にあって送信動作の処理手順を示すフ
ローチャートである。
【図3】実施形態にあって受信動作の処理手順を示すフ
ローチャートである。
【図4】実施形態にあって会議者の撮影状態を示す上面
図である。
【図5】実施形態にあって撮影状態での画像を示す図で
ある。
【図6】実施形態にあって三次元画像情報信号を撮影画
像と重ね合わせた状態を説明するための図である。
【図7】実施形態にあって三次元画像情報信号をビデオ
カメラの中間位置から目視した状態を説明するための図
である。
【図8】実施形態にあって二台のネットワーク会議画像
処理装置を伝送路を通じて接続した場合の状態遷移を説
明するための図である。
【図9】他の実施形態にあって三次元画像情報信号を撮
影画像と重ね合わせた状態を説明するための図である。
【図10】他の実施形態にあって三次元画像情報信号を
ビデオカメラの中間位置から目視した状態を説明するた
めの図である。
【符号の説明】
2a,2b ビデオカメラ 3 ディスプレイ装置 4 画像処理部 5 画像合成部 6 視点検出部 7 画像表示処理部 8 画像作成部 9 表示制御部 10 伝送路 S101a,S101b,S112 画像情報 S102 三次元画像情報信号 S103 画像属性情報信号 S104 撮影位置情報信号 S105 画像配置情報信号 S106,S109 視点情報信号 S107,S111 画像情報信号 S108,S110 画像制御情報信号 M 会議者

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 撮影画像及び会話音声を伝送し、かつ、
    表示画像と対面して会議を行うためのネットワーク会議
    画像処理装置において、 他のネットワーク会議画像処理装置との間で画像情報、
    視点情報及び画像制御情報を伝送し、この情報によって
    会議者の視点の位置変化に対応して伝送する画像の撮影
    位置及び撮影範囲を変化させ、会議者の視点の移動に対
    応して視線を一致させる会議画像処理手段を備えること
    を特徴とするネットワーク会議画像処理装置。
  2. 【請求項2】 前記画像の撮影位置及び撮影範囲の変化
    が、 少なくとも二つの視点から撮影された画像を処理し、こ
    の二つの視点とは別の視点から撮影した任意画像を生成
    した場合であることを特徴とする請求項1記載のネット
    ワーク会議画像処理装置。
  3. 【請求項3】 前記画像情報が、他のネットワーク会議
    画像処理装置の表示画面上に表示される二次元情報であ
    り、 視点情報は、前記画像情報の画像上における視点位置を
    示す情報であり、 画像制御情報が、表示画面上の画像位置、大きさ、及
    び、画像情報の三次元空間における撮影領域を示す情報
    であることを特徴とするネットワーク会議画像処理装
    置。
  4. 【請求項4】 前記会議画像処理手段として、 複数の撮影位置から会議者を撮影した画像情報を出力す
    る撮影部と、 前記撮影部からの画像情報を処理して会議者の三次元画
    像を合成した三次元画像情報を伝送路を通じて他のネッ
    トワーク会議画像処理装置へ送出する画像合成部と、 前記画像合成部からの三次元画像から前記会議者の視点
    を検出した視点情報を、伝送路を通じて他のネットワー
    ク会議画像処理装置へ送出する視点検出部と、 前記画像合成部からの三次元画像を任意の撮影位置から
    撮影して画像に生成した画像情報を伝送路通じて他のネ
    ットワーク会議画像処理装置へ送出する画像作成部と、 伝送路を通じて受信した画像情報における画像の表示位
    置を決定した画像信号を出力し、かつ、前記画像作成部
    及び画像表示処理部での動作処理のための画像制御情報
    を受信して送出する受信処理部と、 を備えることを特徴とする請求項1記載のネットワーク
    会議画像処理装置。
  5. 【請求項5】 前記画像合成部において、 会議者の顔の画像の特徴のみの画像処理によって三次元
    画像を作成することを特徴とする請求項4記載のネット
    ワーク会議画像処理装置。
  6. 【請求項6】 前記視点検出部において、 画像合成部で作成した三次元画像中の視点位置を、三次
    元画像及び、この元になる撮影画像から検出することを
    特徴とする請求項4記載のネットワーク会議画像処理装
    置。
  7. 【請求項7】 前記画像作成部において、 撮影位置を、他のネットワーク会議画像処理装置から受
    信した視点情報と連動して処理することを特徴とする請
    求項4記載のネットワーク会議画像処理装置。
  8. 【請求項8】 前記受信処理部として、 会議者の画像を映し出す画像表示部と、 伝送路を通じて受信した画像情報における画像の表示位
    置を決定した画像信号を前記画像表示部に出力する画像
    表示処理部と、 前記画像作成部及び画像表示処理部での動作処理のため
    の画像制御情報を受信して送出する表示制御部と、 を備えることを特徴とする請求項4記載のネットワーク
    会議画像処理装置。
  9. 【請求項9】 他の一つのネットワーク会議画像処理装
    置との間で伝送路を通じて画像情報、視点情報及び画像
    制御情報を送受信する通信制御装置を更に備えることを
    特徴とする請求項1記載のネットワーク会議画像処理装
    置。
  10. 【請求項10】 複数のネットワーク会議画像処理装置
    との間で通信ネットワークを通じて画像情報、視点情報
    及び画像制御情報を送受信する通信制御装置を備えるこ
    とを特徴とする請求項1記載のネットワーク会議画像処
    理装置。
  11. 【請求項11】 前記通信ネットワークがISDNであ
    ることを特徴とする請求項10記載のネットワーク会議
    画像処理装置。
  12. 【請求項12】 前記画像情報、視点情報及び画像制御
    情報を帯域圧縮符号化処理して送受信するための圧縮処
    理部を更に備えることを特徴とする請求項4記載のネッ
    トワーク会議画像処理装置。
JP15640098A 1998-06-04 1998-06-04 ネットワーク会議画像処理装置 Expired - Fee Related JP3389102B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP15640098A JP3389102B2 (ja) 1998-06-04 1998-06-04 ネットワーク会議画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP15640098A JP3389102B2 (ja) 1998-06-04 1998-06-04 ネットワーク会議画像処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2001064755A Division JP2001313917A (ja) 2001-03-08 2001-03-08 ネットワーク会議画像処理装置

Publications (2)

Publication Number Publication Date
JPH11355804A true JPH11355804A (ja) 1999-12-24
JP3389102B2 JP3389102B2 (ja) 2003-03-24

Family

ID=15626918

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15640098A Expired - Fee Related JP3389102B2 (ja) 1998-06-04 1998-06-04 ネットワーク会議画像処理装置

Country Status (1)

Country Link
JP (1) JP3389102B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011004054A (ja) * 2009-06-17 2011-01-06 Sharp Corp 画像処理システム及び方法
CN102708843A (zh) * 2012-05-15 2012-10-03 中兴通讯股份有限公司 一种终端图像处理方法及终端
US8514262B2 (en) 2009-02-27 2013-08-20 Kabushiki Kaisha Toshiba Information processing apparatus and network conference system
EP3005691A4 (en) * 2013-05-31 2016-11-23 Samsung Electronics Co Ltd DISPLAY DEVICE AND CONTROL METHOD THEREFOR
WO2017195513A1 (ja) * 2016-05-10 2017-11-16 ソニー株式会社 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
WO2020054605A1 (ja) * 2018-09-12 2020-03-19 シャープ株式会社 映像表示装置、映像処理装置
CN114697602A (zh) * 2020-12-31 2022-07-01 华为技术有限公司 会议装置和会议系统

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63228890A (ja) * 1987-03-18 1988-09-22 Hitachi Ltd 画像合成装置
JPS6473330A (en) * 1987-09-14 1989-03-17 Nippon Telegraph & Telephone Three-dimensional image display device
JPH0250691A (ja) * 1988-08-12 1990-02-20 Nippon Telegr & Teleph Corp <Ntt> 視線一致画像通信方式
JPH0258484A (ja) * 1988-08-24 1990-02-27 Nippon Telegr & Teleph Corp <Ntt> テレビ電話装置
JPH0389794A (ja) * 1989-09-01 1991-04-15 Nippon Telegr & Teleph Corp <Ntt> 多人数用三次元表示方式
JPH0522723A (ja) * 1991-07-15 1993-01-29 Canon Inc 画像通信装置
JPH0522722A (ja) * 1991-07-12 1993-01-29 Nippon Telegr & Teleph Corp <Ntt> 画像通信用入出力装置
JPH0568246A (ja) * 1991-09-06 1993-03-19 Nippon Telegr & Teleph Corp <Ntt> 画像通信用表示・撮像方式
JPH0690445A (ja) * 1992-09-09 1994-03-29 Hitachi Ltd 映像入出力装置
JPH08195945A (ja) * 1995-01-17 1996-07-30 Japan Aviation Electron Ind Ltd カメラ付きディスプレイ装置
JPH0923449A (ja) * 1995-07-05 1997-01-21 Hitachi Ltd 実写映像及び3次元モデル合成装置
JPH09116882A (ja) * 1995-10-13 1997-05-02 Ricoh Co Ltd オーディオビジュアル通信端末装置
JPH09114979A (ja) * 1995-10-18 1997-05-02 Nippon Telegr & Teleph Corp <Ntt> カメラシステム
JPH09154114A (ja) * 1995-11-28 1997-06-10 Nec Corp 電子会議端末装置

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63228890A (ja) * 1987-03-18 1988-09-22 Hitachi Ltd 画像合成装置
JPS6473330A (en) * 1987-09-14 1989-03-17 Nippon Telegraph & Telephone Three-dimensional image display device
JPH0250691A (ja) * 1988-08-12 1990-02-20 Nippon Telegr & Teleph Corp <Ntt> 視線一致画像通信方式
JPH0258484A (ja) * 1988-08-24 1990-02-27 Nippon Telegr & Teleph Corp <Ntt> テレビ電話装置
JPH0389794A (ja) * 1989-09-01 1991-04-15 Nippon Telegr & Teleph Corp <Ntt> 多人数用三次元表示方式
JPH0522722A (ja) * 1991-07-12 1993-01-29 Nippon Telegr & Teleph Corp <Ntt> 画像通信用入出力装置
JPH0522723A (ja) * 1991-07-15 1993-01-29 Canon Inc 画像通信装置
JPH0568246A (ja) * 1991-09-06 1993-03-19 Nippon Telegr & Teleph Corp <Ntt> 画像通信用表示・撮像方式
JPH0690445A (ja) * 1992-09-09 1994-03-29 Hitachi Ltd 映像入出力装置
JPH08195945A (ja) * 1995-01-17 1996-07-30 Japan Aviation Electron Ind Ltd カメラ付きディスプレイ装置
JPH0923449A (ja) * 1995-07-05 1997-01-21 Hitachi Ltd 実写映像及び3次元モデル合成装置
JPH09116882A (ja) * 1995-10-13 1997-05-02 Ricoh Co Ltd オーディオビジュアル通信端末装置
JPH09114979A (ja) * 1995-10-18 1997-05-02 Nippon Telegr & Teleph Corp <Ntt> カメラシステム
JPH09154114A (ja) * 1995-11-28 1997-06-10 Nec Corp 電子会議端末装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8514262B2 (en) 2009-02-27 2013-08-20 Kabushiki Kaisha Toshiba Information processing apparatus and network conference system
JP2011004054A (ja) * 2009-06-17 2011-01-06 Sharp Corp 画像処理システム及び方法
CN102708843A (zh) * 2012-05-15 2012-10-03 中兴通讯股份有限公司 一种终端图像处理方法及终端
EP3005691A4 (en) * 2013-05-31 2016-11-23 Samsung Electronics Co Ltd DISPLAY DEVICE AND CONTROL METHOD THEREFOR
US9596432B2 (en) 2013-05-31 2017-03-14 Samsung Electronics Co., Ltd. Display apparatus and control method thereof
WO2017195513A1 (ja) * 2016-05-10 2017-11-16 ソニー株式会社 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
US11006098B2 (en) 2016-05-10 2021-05-11 Sony Corporation Information processing apparatus, information processing system, and information processing method
WO2020054605A1 (ja) * 2018-09-12 2020-03-19 シャープ株式会社 映像表示装置、映像処理装置
CN114697602A (zh) * 2020-12-31 2022-07-01 华为技术有限公司 会议装置和会议系统
CN114697602B (zh) * 2020-12-31 2023-12-29 华为技术有限公司 会议装置和会议系统

Also Published As

Publication number Publication date
JP3389102B2 (ja) 2003-03-24

Similar Documents

Publication Publication Date Title
US5359362A (en) Videoconference system using a virtual camera image
US7957581B2 (en) Image processing apparatus and method
CA2157613C (en) Video conference system and method of providing parallax correction and a sense of presence
JP3292248B2 (ja) 遠隔会議システム
JP2003506927A (ja) ビデオ会議の参加者がカメラに焦点を合わせた状態で相手方ユーザの前に出現できるようにする方法と装置
JPH07154763A (ja) 在席テレビ会議装置
EP2352290A1 (en) Method and apparatus for matching audio and video signals during a videoconference
JP2006333301A (ja) テレビ通信装置
JP3587106B2 (ja) 視線一致テレビ会議装置
JP2001052177A (ja) 画像処理装置および画像処理方法
JP4461739B2 (ja) 撮像装置
Breiteneder et al. TELEPORT—an augmented reality teleconferencing environment
JP3488096B2 (ja) 3次元共有仮想空間通信サービスにおける顔画像制御方法,3次元共有仮想空間通信用装置およびそのプログラム記録媒体
JPH11355804A (ja) ネットワーク会議画像処理装置
US8717410B2 (en) Video communication method, apparatus, and system
JP2003009108A (ja) 画像通信システム、画像通信装置、および画像通信方法
JPH0258484A (ja) テレビ電話装置
JP2001313917A (ja) ネットワーク会議画像処理装置
JPH1075432A (ja) 立体テレビ電話器
JP2005142765A (ja) 撮像装置及び方法
JPH08256316A (ja) 通信会議システム
TWI248021B (en) Method and system for correcting out-of-focus eyesight of attendant images in video conferencing
JP3721624B2 (ja) Tv電話システム
JPH09154114A (ja) 電子会議端末装置
JP2001092990A (ja) 3次元仮想空間参加者表示方法、3次元仮想空間表示装置、および3次元仮想空間参加者表示プログラムを記録した記録媒体

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080117

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090117

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100117

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110117

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110117

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120117

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130117

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130117

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees