JP4832869B2 - 通信端末およびその表示方法 - Google Patents
通信端末およびその表示方法 Download PDFInfo
- Publication number
- JP4832869B2 JP4832869B2 JP2005344752A JP2005344752A JP4832869B2 JP 4832869 B2 JP4832869 B2 JP 4832869B2 JP 2005344752 A JP2005344752 A JP 2005344752A JP 2005344752 A JP2005344752 A JP 2005344752A JP 4832869 B2 JP4832869 B2 JP 4832869B2
- Authority
- JP
- Japan
- Prior art keywords
- display
- screen
- area
- communication terminal
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Mobile Radio Communication Systems (AREA)
Description
(1)1つの画像を等分割する場合(たとえば4分割、9分割)と、
(2)1つ大きな画像領域を取り、残りの領域を等分割に分割して合成する場合と、
がある(たとえば6分割)。
(2)の場合、話している拠点を大きな面積を割り当て、残りの拠点からの画像を残りの等分割された領域に割り当てて、合成する。
図1の例においては、画面1を先に決められた枠(四角形)のウィンドゥに分割する。
たとえば、画面1は1つの大きなウィンドゥ(四角形)2と複数の小さなウィンドゥ(四角形)3−1〜3−5から形成され、話し手を大きなウィンドゥ2に表示する。
この場合、ウィンドゥのサイズ、および分割数は固定的であり、撮像された画像をそのまま表示しているため、撮影の状態に応じて、顔の大きさが変動する。
現行、携帯通信端末でのテレビ電話は、発呼時に、テレビ電話で接続することを選択するものである。
この場合、一つの端末で複数のスクリーンを取り扱う必要がある。複数のスクリーンを取り扱う方法としては、(PDAなどで)ページめくり的に取り扱う方法がある。
PCのウィンドゥのように、ユーザがウィンドゥを動かしたら、サイズを変えたりできるようにするには、画面サイズ、および操作キーに制限があり、困難である。
また、複数人が同程度で話した場合、スクリーンが対応できない。
具体的には、全スクリーンの音量が小さい場合、小さいスクリーンが画面上を浮遊することになる。一方、全スクリーンが音量最大の場合、表示スクリーンの合計面積が画面面積を超えるという問題を有する。
これに対して、局所的に合計面積を画面面積に規格化することによって、画面内に収まらせることは可能であるが、次時刻におけるスクリーン位置の再配置(移動)が不連続的になる。
音声データおよび画像データに付加される送信元の指示情報は、指示された画像の送信元の識別する情報(たとえ、IPアドレス、MACアドレス)と、受信した画像上の位置を示す位置情報とを含む。
送信元となるエンコード装置20は、送信元は、画面上、指示した位置にスクリーン(スクリーンについては後で詳述する)が存在する場合、対応する指示情報、スクリーン情報、音量情報を生成し、同通信中の相手に対して送出する機能を有する。
デコード装置30は、たとえば多地点通信を行っている場合に、受信画像の制御情報に基づいて特定エリアである顔を含む画像を、使用するスクリーン(サイズが制御された表示エリア)を選択して表示し、音声を発する機能を有する。
デコード装置30は、このスクリーンの表示に際し、デッドゾーンをなくした円形(楕円形を含む概念である)ウィンドゥにて分割する機能を有する。
円形(楕円形)ウィンドウに分割するように構成したのは、以下の理由による。
一般的に、画面の分割は、長方形で行っていた。人間の顔は基本的に楕円形であり、長方形の四隅はデットゾーンとなる。このデッドゾーンが、顔を表示するエリアを結果的に狭く(小さく)している。
よって、本実施形態においては、このデッドゾーンをなくした円形(楕円形)ウィンドゥにて分割するように構成している。
また、デコード装置30は、マルチスクリーンを表示する機能を有し、スクリーン中心間を結ぶ線分、基準形状の厚さ、音声の大きさに基づいて、スクリーンの表示倍率を算出し、この表示倍率に基づいてスクリーンの移動、新規生成を制御することにより、画面上に複数のスクリーンを最適に形成する機能を有する。
具体的な処理については、後で図面に関連付けて詳述する。
表示倍率算出部3063において、スクリーン中心から画面境界に垂直に接した点に、音声の大きさ(V(k)=0)、厚さ(Lm(k,i)=0)を設定し、表示倍率(R(i,k))を算出する。
また、スクリーンは、表示倍率(R(i))を最も大きくする位置に移動する。
また、スクリーンは、表示倍率(R(k))の最も大きい位置に、新規スクリーンの中心を生成する。
また、基準形状は、面積を等しくする。
さらにまた、基準形状にて形成したスクリーン間に分離線を引き、前記分離線にて分離されたエリアを新たなスクリーンとする。
表示倍率算出部3063は、スクリーンiとスクリーンjとの中心間の距離(L(i,j))、各スクリーンの中心から前記方向への基準形状(Unit)における厚さ(Lm(i,j)、Lm(j,i))を算出し、および、各スクリーンに表示する内容における受信した音声の大きさ(V(i),V(j))に基づいて、スクリーンiにおけるスクリーンjからの算出される表示倍率(R(i,j))を以下の通りに算出する。
表示倍率算出部3063は、画面上に仮の中心を配し、各中心において、表示倍率(Rmin)を算出する。各表示倍率(R)の内、最も大きい値を取る位置を新規のスクリーンの生成の中心位置とする。
各スクリーンは、現在(t)の位置から一定距離内(集合I)の各位置において、表示倍率(R)を算出し、表示倍率の内、最も大きな値を取る位置を次時刻(t+Δt)における中心位置とする。
この厚さ算出に関しては、(複雑な形状に対して)中心から対象方向へデジタル直線を引くことにより、算出することが可能となる。ただし、これは演算負荷の増加となる。これに対しては、各基準形状に対して、各角度に対する厚さを前もって算出したテーブルを参照することにより、表示倍率演算時の演算負荷を低減することが可能となる。
各スクリーン40は、四方の壁との間に以下の演算規則に従って、表示倍率(R)を算出する。
図5に示すように、スクリーンの中心から壁に垂直に落とした点を算出上の壁の中心とし、中心間の線分(L(i,k))、基準形状(Unit)における厚さ(Lm(i,k),Lm(k,i))と、およびスクリーンの受信した音声の大きさ(V(i),V(k))を算出する。この時、壁における、音声の大きさは(V(k)=0)、基準形状の厚さ(Lm(k,i)=0)として、前述の表示倍率(R)の算出と同様に算出を行う。
各々のスクリーン40において、表示倍率(R(i))を算出する場合、周囲のスクリーンとの表示倍率(R(i,j)と同様に、壁との表示倍率(R(i,k))を算出し、この内、最も小さい値を実際に表示する際の表示倍率(R(i))とする
図6(A)〜(C)において、左から、音声の大きさの比(V(0):V(1))が、1:1、2:1、3:1の場合である。このように、音量に大きさに応じて、適応的にスクリーンサイズを変動することが可能となる。
図7(A)〜(C)において、左から、スクリーン数=2、3、4の場合である。
このように、スクリーン数の数に応じて、適応的にスクリーンサイズを変動させ、画面内に全てのスクリーンを形成することが可能となる。
図8(A)〜(C)において、左から、スクリーン数=2、3、4の場合であり、音声の大きさの比(V(0):V(1))が2:1、比(V(0):V(1):V(2))が2:1:1、比(V(0):V(1):V(2):V(3))が2:1:1:1の場合である。
このように、スクリーン数の数に応じて、適応的にスクリーンサイズを変動させ、画面内に全てのスクリーンを形成することが可能となる。これは、スクリーン(S(0))に映っている人が発言をしている例であり、このように、一人が発言している場合、その人のスクリーンのみが、その大きさに応じて適応的にスクリーンサイズを拡大・縮小することが可能となる。
図9(A)〜(C)において、左から、スクリーン数=2、3、4の場合であり、音声の大きさの比(V(0):V(1))が2:1、比(V(0):V(1):V(2))が2:1:2、比(V(0):V(1):V(2):V(3))が2:1:2:2の場合である。
このように、スクリーン数の数に応じて、適応的にスクリーンサイズを変動させ、画面内に全てのスクリーンを形成することが可能となる。これは、スクリーン(S(0))に映っている人以外が発言をしている例であり、このように、複数の人が発言している場合でも、状況に合わせて、適応的にスクリーンサイズを拡大・縮小することが可能となる。
図10(A)〜(D)において、左から、長方形と楕円形、円形と楕円形、円形と長方形、下方が円形と楕円形と長方形の場合を示している。
基準形状は、形状が異なっても、面積を同等に設定することにより、各スクリーンは、適応的にスクリーンサイズを調整し、音声の大きさが等しい場合、視覚的に各々のスクリーンサイズが等しく表示することが可能となる。
図11(A)〜(C)の例は、音声の大きさの比(V(0):V(1))が2:1、比(V(0):V(1):V(2))が2:1:1、比(V(0):V(1):V(2):V(3))が2:1:1:1の場合である。
図12および図13に示すように、受信画像から、顔の特徴点111を検索し、輪郭抽出を行って顔を抽出する。そして、一度、顔エリアを抽出した場合、動きベクトルに応じて顔エリアの追従を行って、切り出しを行う。
エンコード装置20において、図15に示すように、撮像画像に対して、符号化部分は一部分である。網掛けの部分は、切り落とし部分であり、符号化の対象から削除している。結果的に伝送する画像データの容量は削減される。
図16の例においては、人が撮像されていると判断された場合、スクリーン形状を楕円形にし、それ以外の場合はスクリーン形状を長方形にした場合である。
図16に例においては、顔エリアの面積が一定値以上の場合、受信画像を「人物画像」と判別する。顔エリアの面積が一定値以下の場合、受信画像を「非人物画像」と判別する。
「人物画像」と判別した場合、円形スクリーンとする。「非人物画像」と判別した場合、四角形スクリーンとする。「非人物画像」であっても、同送信元からの音圧に応じて、表示サイズを変動させる。
また、表示倍率算出部3063において、サイズ情報に基づき表示倍率を算出し、縮小・拡大処理部3064において算出した倍率に従ってマスキングされた画像が縮小、拡大する。一方、表示位置算出部3065において、算出された表示倍率に従って表示位置を算出し、算出した表示位置に縮小または拡大された画像を含むスクリーンを表示部310に表示する。
デコード装置30側で台数Nに増大した場合の処理は、次のようになる。
=N×(天地補正処理+顔エリア検出+スクリーン判定+切り出し処理+サイズ算出−マスキング処理)
また、スクリーンの動きが連続的になり、異なる形状であっても、最適なサイズに配置することが可能となる利点がある。
その結果、複数端末の接続時であっても、通話中の相手を確認しやすく、また、画像(スクリーン)は重ならないように制御されることから、会話している全員の状態が一目で確認することができる。また、新たな参加人にも容易に対応することができる。
Claims (8)
- 受信した画像データおよび音声データを再生する通信端末であって、
画像を表示する表示手段と、
前記表示手段に特定のエリアを抽出されて表示すべき複数の画像の各々を表示する複数の表示エリアを形成可能で、少なくとも画像の表示エリア中心間を結ぶ線分、基準形状の厚さ、音声の大きさに基づいて、前記表示エリアの表示倍率を算出し、当該表示倍率に基づいて表示エリアの移動、新規生成を制御して、前記表示手段の表示画面上に複数の表示エリアを形成する制御手段と
を有する通信端末。 - 前記制御手段は、前記表示エリア中心から画面境界に垂直に接した点に、音声の大きさ(V(k)=0)、厚さ(Lm(k,i)=0)を設定し、表示倍率(R(i,k))を算出する
請求項1記載の通信端末。 - 前記制御手段は、前記表示エリアを、表示倍率(R(i))を最も大きくする位置に移動する
請求項1または2に記載の通信端末。 - 前記制御手段は、表示倍率(R(k))を最も大きくする位置に、新規表示エリアの中心を生成する
請求項1から3のいずれか一に記載の通信端末。 - 前記制御手段は、基準形状の面積を等しくする
請求項1から4のいずれか一に記載の通信端末。 - 前記制御手段は、基準形状にて形成したスクリーン間に分離線を引き、前記分離線にて分離されたエリアを新たな表示エリアとする
請求項1から5のいずれか一に記載の通信端末。 - 前記表示すべき画像に関する情報は、送信側装置からの受信情報に含まれ、
前記制御手段は、前記受信情報に基づいて表示倍率を算出し、表示エリアの移動、新規生成を制御する
請求項1から6のいずれか一に記載の通信端末。 - 受信した画像データ、音声データを再生する通信端末の表示方法であって、
特定のエリアを抽出されて表示すべき複数の画像の表示エリア中心間を結ぶ線分、基準形状の厚さ、音声の大きさに基づいて、前記表示エリアの表示倍率を算出し、
当該表示倍率に基づいて表示エリアの移動、新規生成を制御して、表示画面上に複数の表示エリアを形成し、
表示すべき画像を含む複数の表示エリアを表示する
通信端末の表示方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005344752A JP4832869B2 (ja) | 2005-11-29 | 2005-11-29 | 通信端末およびその表示方法 |
US12/095,489 US8487956B2 (en) | 2005-11-29 | 2006-11-29 | Communication terminal, system and display method to adaptively update a displayed image |
PCT/JP2006/323857 WO2007063922A1 (ja) | 2005-11-29 | 2006-11-29 | 通信端末および通信システム、並びに通信端末の表示方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005344752A JP4832869B2 (ja) | 2005-11-29 | 2005-11-29 | 通信端末およびその表示方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007150917A JP2007150917A (ja) | 2007-06-14 |
JP4832869B2 true JP4832869B2 (ja) | 2011-12-07 |
Family
ID=38211752
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005344752A Expired - Fee Related JP4832869B2 (ja) | 2005-11-29 | 2005-11-29 | 通信端末およびその表示方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4832869B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8390665B2 (en) * | 2009-09-03 | 2013-03-05 | Samsung Electronics Co., Ltd. | Apparatus, system and method for video call |
JP5740972B2 (ja) * | 2010-09-30 | 2015-07-01 | ソニー株式会社 | 情報処理装置および情報処理方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05103324A (ja) * | 1991-10-09 | 1993-04-23 | Mitsubishi Electric Corp | 多地点テレビ会議制御装置 |
JPH08298653A (ja) * | 1995-04-25 | 1996-11-12 | Canon Inc | テレビ会議システム及びその端末装置 |
JP2005303736A (ja) * | 2004-04-13 | 2005-10-27 | Ntt Communications Kk | ビデオ会議システムにおける映像表示方法、ビデオ会議システムに用いられる利用者端末、及びビデオ会議システムに用いられる利用者端末用プログラム |
-
2005
- 2005-11-29 JP JP2005344752A patent/JP4832869B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2007150917A (ja) | 2007-06-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4994646B2 (ja) | 通信端末および通信システム、並びに通信端末の表示方法 | |
US8487956B2 (en) | Communication terminal, system and display method to adaptively update a displayed image | |
US11356488B2 (en) | Frame synchronous rendering of remote participant identities | |
US9894320B2 (en) | Information processing apparatus and image processing system | |
EP2811739B1 (en) | Terminal, image communication control server, and system and method for image communication using same | |
US7508413B2 (en) | Video conference data transmission device and data transmission method adapted for small display of mobile terminals | |
US11102450B2 (en) | Device and method of displaying images | |
US20080062252A1 (en) | Apparatus and method for video mixing and computer readable medium | |
JP2005123804A (ja) | コミュニケーションシステム及び方法 | |
US11553157B2 (en) | Device and method of displaying images | |
JP4973908B2 (ja) | 通信端末およびその表示方法 | |
WO2018061173A1 (ja) | Tv会議システム、tv会議方法、およびプログラム | |
JP2005328484A (ja) | テレビ会議システム、情報処理装置及び情報処理方法並びにプログラム | |
JP4990520B2 (ja) | 通信端末およびその表示方法 | |
JP5274750B2 (ja) | 通信端末およびその表示方法 | |
CN113315927B (zh) | 视频处理方法和装置、电子设备和存储介质 | |
JP2005303736A (ja) | ビデオ会議システムにおける映像表示方法、ビデオ会議システムに用いられる利用者端末、及びビデオ会議システムに用いられる利用者端末用プログラム | |
JP4832869B2 (ja) | 通信端末およびその表示方法 | |
JP2011082867A (ja) | 通信装置及び通信会議システム | |
JP2004258819A (ja) | 電子コミュニケーション支援サーバ | |
JP4926464B2 (ja) | 通信端末およびその表示方法 | |
JP2010004573A (ja) | 通信端末およびその表示方法 | |
JP2008306475A (ja) | 音声・画像会議装置 | |
JP2014153747A (ja) | 画像複雑度に基づいてキャラクタ表示を制御するプログラム、情報機器及び方法 | |
JP4850509B2 (ja) | 通信端末装置及び通信端末装置における画像表示方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080902 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110524 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110725 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110830 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110921 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4832869 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140930 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |