JP2022040434A - 通信端末、画像通信システム、画像表示方法およびプログラム - Google Patents
通信端末、画像通信システム、画像表示方法およびプログラム Download PDFInfo
- Publication number
- JP2022040434A JP2022040434A JP2020145154A JP2020145154A JP2022040434A JP 2022040434 A JP2022040434 A JP 2022040434A JP 2020145154 A JP2020145154 A JP 2020145154A JP 2020145154 A JP2020145154 A JP 2020145154A JP 2022040434 A JP2022040434 A JP 2022040434A
- Authority
- JP
- Japan
- Prior art keywords
- image
- attention point
- predetermined area
- communication terminal
- communication
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004891 communication Methods 0.000 title claims abstract description 332
- 230000006854 communication Effects 0.000 title claims abstract description 332
- 238000000034 method Methods 0.000 title claims description 38
- 230000005540 biological transmission Effects 0.000 claims description 50
- 238000012545 processing Methods 0.000 abstract description 98
- 238000007726 management method Methods 0.000 description 144
- 238000010586 diagram Methods 0.000 description 55
- 230000008569 process Effects 0.000 description 25
- 230000006870 function Effects 0.000 description 23
- 238000009434 installation Methods 0.000 description 18
- 238000001514 detection method Methods 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 9
- 239000013256 coordination polymer Substances 0.000 description 7
- 239000000047 product Substances 0.000 description 7
- 230000001133 acceleration Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 230000005856 abnormality Effects 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 5
- 230000015654 memory Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000003702 image correction Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000005389 magnetism Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/4728—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/65—Transmission of management data between client and server
- H04N21/658—Transmission by the client directed to the server
- H04N21/6587—Control parameters, e.g. trick play commands, viewpoint selection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
Abstract
【課題】撮影装置に対する処理を行わずに、配信拠点側で指定された注目点に対応する配信拠点の画像を表示させることを目的とする。【解決手段】画像通信システムにおいて、全体画像(例えば、全天球画像)における所定領域の画像を表示可能な通信端末70は、全体画像が撮影された配信拠点における注目点を含む所定領域(第1の所定領域の一例)を示す注目点領域情報(第1の所定領域情報の一例)を記憶する注目点管理DB7003(記憶手段の一例)と、配信拠点に設置された配信システムから、注目点を示す注目点指定情報を受信する送受信部71(受信手段の一例)と、受信した注目点指定情報に示されている注目点に対応する注目点領域情報に基づいて、注目点を含む所定領域画像(第1の所定領域画像の一例)を表示する表示制御部74(表示制御手段の一例)と、を備える。【選択図】図14
Description
本開示内容は、通信端末、画像通信システム、画像表示方法およびプログラムに関する。
複数の広角レンズまたは魚眼レンズを用いて全方位を撮影可能な撮影装置が知られている。また、このような撮影装置を用いて撮影された画像データをリアルタイムに配信し、撮影装置が設置された配信拠点の状況を、別拠点においてリアルタイムに閲覧可能なシステムが知られている。
例えば、特許文献1には、遠隔地に配置された複数のカメラが撮像した画像を端末に表示させて、ユーザが遠隔地の様子を把握することができるシステムが開示されている。
しかしながら、従来の方法では、配信拠点の注目すべき箇所である注目点が外部から指定された場合、閲覧者が注目点を閲覧するためには、配信拠点に設置された撮影装置に対する個別操作が必要であるという課題があった。
上述した課題を解決すべく、請求項1に係る発明は、全体画像における所定領域の画像を表示可能な通信端末であって、前記全体画像が撮影された配信拠点における注目点を含む第1の所定領域を示す第1の所定領域情報を記憶する記憶手段と、前記配信拠点に設置された配信システムから、前記注目点を示す注目点指定情報を受信する受信手段と、前記受信手段で受信された前記注目点指定情報に示されている前記注目点に対応する前記第1の所定領域に基づいて、第1の所定領域画像を表示する表示制御手段と、を備える通信端末である。
本発明によれば、撮影装置に対する処理を行わずに、配信拠点側で指定された注目点に対応する配信拠点の画像を表示させることができるという効果を奏する。
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。
●実施形態●
●全天球画像の生成方法
図1乃至図8を用いて、全天球画像の生成方法について説明する。
●全天球画像の生成方法
図1乃至図8を用いて、全天球画像の生成方法について説明する。
まず、図1を用いて、撮影装置10の外観を説明する。撮影装置10は、全天球(360°)パノラマ画像の元になる撮影画像を得るためのデジタルカメラである。図1(A)は撮影装置の左側面図であり、図1(B)は撮影装置の正面図であり、図1(C)は撮影装置の平面図である。
図1(A)に示されているように、撮影装置10は、人間が片手で持つことができる大きさである。また、図1(A),図1(B),図1(C)に示されているように、撮影装置10の上部には、正面側(前側)に撮像素子103aおよび背面側(後側)に撮像素子103bが設けられている。これら撮像素子(画像センサ)103a,103bは、半球画像(画角180°以上)の撮影が可能な光学部材(例えば、後述するレンズ102a,102b)と併せて用いられる。また、図1(B)に示されているように、撮影装置10の正面側と反対側の面には、シャッターボタン等の操作部115が設けられている。
次に、図2を用いて、撮影装置10の使用状況を説明する。図2は、撮影装置の使用イメージ図である。撮影装置10は、図2に示されているように、例えば、ユーザが手に持ってユーザの周りの被写体を撮影するために用いられる。この場合、図1に示されている撮像素子103aおよび撮像素子103bによって、それぞれユーザの周りの被写体が撮像されることで、二つの半球画像を得ることができる。
次に、図3および図4を用いて、撮影装置10で撮影された画像から全天球画像が作成されるまでの処理の概略を説明する。図3(A)は撮影装置で撮影された半球画像(前側)、図3(B)は撮影装置で撮影された半球画像(後側)、図3(C)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。図4(A)は正距円筒射影画像で球を被う状態を示した概念図、図4(B)は全天球画像を示した図である。
図3(A)に示されているように、撮像素子103aによって得られた画像は、後述のレンズ102aによって湾曲した半球画像(前側)となる。また、図3(B)に示されているように、撮像素子103bによって得られた画像は、後述のレンズ102bによって湾曲した半球画像(後側)となる。そして、撮影装置10は、半球画像(前側)と180度反転された半球画像(後側)とを合成して、図3(C)に示されているような正距円筒射影画像ECが作成する。
そして、撮影装置10は、OpenGL ES(Open Graphics Library for Embedded Systems)を利用することで、図4(A)に示されているように、球面を覆うように正距円筒射影画像ECを貼り付け、図4(B)に示されているような全天球画像CEを作成する。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions)および3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。また、全天球画像CEは、静止画であっても動画であってもよい。
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、撮影装置10は、全天球画像CEの一部の所定領域T(以下、「所定領域画像」という)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、図5乃至図8を用いて説明する。
図5は、全天球パノラマ画像を三次元の立体球とした場合の仮想カメラおよび所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見るユーザの視点の位置に相当するものである。図6(A)は、図5の立体斜視図、図6(B)は、ディスプレイに表示された場合の所定領域画像を表す図である。図6(A)は、図5に示した全天球画像CEを、三次元の立体球CSで表している。このように生成された全天球画像CEが、立体球CSであるとした場合、図5に示されているように、仮想カメラICは、全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮影領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮影方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。したがって、所定領域Tは、画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる(図7参照)。
そして、図6(A)に示されている所定領域画像Qは、図6(B)に示されているように、所定のディスプレイに、仮想カメラICの撮影領域の画像として表示される。図6(B)に示されている画像は、初期設定(デフォルト)された所定領域情報によって表された所定領域画像である。以下、仮想カメラICの撮影方向(ea,aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮像領域(X,Y,Z)によって示してもよい。
次に、図7を用いて、所定領域情報と所定領域Tの画像の関係について説明する。図7は、所定領域情報と所定領域Tの画像との関係を示した図である。図7に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。すなわち、仮想カメラICの姿勢は、撮影方向(ea,aa)で示される仮想カメラICの注視点が、仮想カメラICの撮影領域である所定領域Tの中心点CP(x,y)となるように変更される。図7に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CP(x,y)が、所定領域情報のパラメータ((x,y))となる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。fは、仮想カメラICから中心点CP(x,y)までの距離である。Lは、所定領域Tの任意の頂点と中心点CP(x,y)との距離である(2Lは対角線)。そして、図7では、一般的に以下の(式1)で示される三角関数が成り立つ。
なお、上記で説明した撮影装置10は、広角画像を取得可能な撮影装置の一例であり、全天球画像は、広角画像の一例である。ここで、広角画像は、一般には広角レンズを用いて撮影された画像であり、人間の目で感じるよりも広い範囲を撮影することができるレンズで撮影されたものである。また、一般的に35mmフィルム換算で35mm以下の焦点距離のレンズで、撮影された画像を意味する。
図8は、球座標による三次元ユークリッド空間内の点を示した図である。ここで、中心点CPを球面極座標系で表現したときの位置座標を(r,θ,φ)とする。(r,θ,φ)は、それぞれ動径、極角、方位角である。動径rは、全天球画像を含む三次元の仮想空間の原点から中心点CPまでの距離であるため、fに等しい。図8は、これらの関係を表した図である。以降、仮想カメラICの位置座標(r,θ,φ)を用いて説明する。
●画像通信システムの概略
続いて、図9を用いて、第1の実施形態の画像通信システムの構成の概略について説明する。図9は、画像通信システムの全体構成の一例を示す図である。図9に示されている画像通信システム1は、図9に示されている画像通信システム1は、配信拠点から配信される映像等の撮影画像を、複数の閲覧拠点において表示させることで、配信拠点が撮影された広範囲な画像(例えば、全天球画像)を、リアルタイムに閲覧できるシステムである。
続いて、図9を用いて、第1の実施形態の画像通信システムの構成の概略について説明する。図9は、画像通信システムの全体構成の一例を示す図である。図9に示されている画像通信システム1は、図9に示されている画像通信システム1は、配信拠点から配信される映像等の撮影画像を、複数の閲覧拠点において表示させることで、配信拠点が撮影された広範囲な画像(例えば、全天球画像)を、リアルタイムに閲覧できるシステムである。
図9に示されているように、画像通信システム1は、配信拠点に位置する撮影装置10、注目点指定機器20および配信端末30、通信管理システム50、並びに複数の閲覧拠点(閲覧拠点A、閲覧拠点B)のそれぞれに位置する通信端末70(70A,70B、以下区別する必要のないときは、通信端末70と称する。)を含む。
画像通信システム1を構成する配信端末30、通信管理システム50および通信端末70は、通信ネットワーク100を介して通信することができる。通信ネットワーク100は、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワーク100には、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)またはLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。
配信拠点に位置する撮影装置10、注目点指定機器20および配信端末30は、配信システム3を構成する。このうち、撮影装置10は、上述のように、被写体や風景等を撮影して全天球画像の元になる二つの半球画像を得るための特殊なデジタルカメラである。撮影装置10によって取得される撮影画像は、動画であっても静止画であってもよく、動画と静止画の両方であってもよい。また、撮影画像は、画像とともに音声を含んでもよい。
注目点指定機器20は、配信拠点における特定の箇所である注目点を指定するための専用機器である。注目点指定機器20は、配信拠点の特定の箇所での異常発生等のトラブルを検知するために、予め配信拠点の特定の位置に固定されて設置されている。
配信端末30は、USB(Universal Serial Bus)ケーブル等の有線ケーブルを介して撮影装置10から取得した画像を、通信管理システム50を介して、通信端末70に配信する。また、配信端末30は、USBケーブル等の有線ケーブルを介して注目点指定機器20から取得した注目点指定情報を、通信管理システム50を介して、通信端末70に配信する。
なお、画像通信システム1に含まれる配信拠点は、一拠点に限られず、画像通信システム1は、複数の配信拠点を含んでもよい。また、撮影装置10および注目点指定機器20と配信端末30との接続関係は、有線ケーブルを用いた有線接続ではなく、近距離無線通信等を用いた無線接続であってもよい。
通信管理システム50は、配信端末30および通信端末70の通信を管理および制御したり、送受信される画像データの種類(一般画像と特殊画像の種別)を管理したりする。ここでは、特殊画像は、全天球画像である。また、通信管理システム50は、画像通信のサービスを行なうサービス会社等に設置されている。
なお、通信管理システム50は、単一のコンピュータによって構築されてもよいし、各部(機能または手段)を分割して任意に割り当てられた複数のコンピュータによって構築されてもよい。また、通信管理システム50の機能の全てまたは一部は、クラウド環境に存在するサーバコンピュータであってもよいし、オンプレミス環境に存在するサーバコンピュータであってもよい。
通信端末70は、各閲覧拠点の利用者によって使用されるPC等のコンピュータである。通信端末70は、配信端末30から配信された画像(静止画または動画)を表示させる。通信端末70は、通信ネットワーク100を介して、撮影装置10によって撮影された撮影画像である全天球画像を取得する。また、通信端末70は、OpenGL ESをインストールしており、全天球画像の一部の領域を示す所定領域情報を作成したり、配信端末30から送られて来た全天球画像から所定領域画像を作成したりすることができる。ここでは、通信端末70Aは、利用者A1が位置する閲覧拠点Aに置かれており、通信端末70Bは、利用者Bが位置する閲覧拠点Bに置かれている。
なお、図9に示す各端末および装置(通信端末、撮影装置および配信端末)、並びに利用者の配置は一例であり、他の例であってもよい。また、通信端末70は、PCに限られず、例えば、タブレット端末、スマートフォン、ウェアラブル端末、、PJ(Projector:プロジェクタ)、IWB(Interactive White Board:相互通信が可能な電子式の黒板機能を有する白板)または自律走行ロボット等であってもよい。
ここで、図10を用いて、画像通信システム1を概略的に説明する。図10は、画像通信システムの概略を説明するための図である。図10に示されている配信拠点は、例えば、工場またはサーバルーム等である。なお、配信拠点は、工場またはサーバルームに限られず、オフィスフロア、学校、倉庫、建設現場または店舗等、閲覧拠点の利用者(閲覧者)が遠隔拠点の状況を把握したいニーズが存在する空間であればよい。図10は、配信拠点に、複数の撮影装置10(撮影装置10a,10b)、および複数の注目点指定機器20(注目点指定機器20a,20b)が設置されている様子を示す。撮影装置10は、例えば、工場のライン等の作業場において、所定の間隔で配置されている。配信拠点は、複数の撮影装置10を用いて、配信拠点の全体が撮影される。撮影装置10は、上述の全天球画像を撮影可能な撮影装置であり、物理的に固定されたまま広範囲な画像を撮影する。閲覧拠点の通信端末70は、複数の撮影装置10で撮影された撮影画像(撮影画像1、撮影画像2)を表示している。なお、配信拠点に設置される撮影装置10の数は、これに限られない。
注目点指定機器20は、配信拠点の特定の位置に配置され、それぞれの設置位置に対応する注目点を指定する。注目点指定機器20aは、例えば、配信拠点における注目点の候補である注目点1を注目点として指定する。一方で、注目点指定機器20bは、例えば、配信拠点における注目点の候補である注目点2を注目点として指定する。
図10に示されている例は、注目点2においてトラブル等が発生した際に、閲覧拠点の利用者に配信拠点の注目点2を注目させる場合の例である。注目点2でトラブル等が発生した場合、注目点指定機器20bは、通信端末70に対して、注目点指定情報を送信する。通信端末70は、受信した注目点指定情報に基づき、予め登録された注目点領域情報を参照することで、各撮影画像に表示される所定領域として注目点2が画面に表示されるように表示を変更する。このようにすることで、通信端末70は、表示している全ての撮影画像を、注目点2が写った画像に表示変更することができる。
従来、遠隔地に配置された複数の撮影装置によって取得された撮影画像を、閲覧拠点から閲覧可能なシステムにおいて、配信拠点の特定の箇所の様子を見たい場合、利用者は、どの撮影装置の撮影画像を見ればよいのかがわからなかった。また、異なる閲覧拠点の利用者が異なる箇所を閲覧したい場合、撮影装置に対する操作(例えば、PTZ(pan-tilt-zoom)操作)が競合するため、同じ配信拠点を閲覧する複数の利用者がそれぞれ異なる箇所を閲覧するような排他的な閲覧を行うことができなかった。さらに、撮影装置によって上述のような全天球画像を撮影する場合であっても、複数の全天球画像を個別に操作して目的の箇所を表示させるための処理を行わなければならず、利用者が直感的に操作することができなかった。そこで、画像通信システム1は、利用者の表示画面に対する直感的な操作によって、複数の利用者が同じ撮影装置から取得された撮影画像を用いて配信拠点の異なる箇所を注目して閲覧可能にする。
●ハードウエア構成
続いて、図10および図11を用いて、実施形態に係る画像通信システムを構成する各装置または端末のハードウエア構成を説明する。なお、図10および図11に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。
続いて、図10および図11を用いて、実施形態に係る画像通信システムを構成する各装置または端末のハードウエア構成を説明する。なお、図10および図11に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。
○撮影装置のハードウエア構成○
まず、図10を用いて、撮影装置10のハードウエア構成を説明する。図10は、撮影装置のハードウエア構成の一例を示す図である。以下では、撮影装置10は、二つの撮像素子を使用した全天球(全方位)撮影装置とするが、撮像素子は二つ以上いくつでもよい。また、必ずしも全方位撮影専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮影ユニットを取り付けることで、実質的に撮影装置10と同じ機能を有するようにしてもよい。
まず、図10を用いて、撮影装置10のハードウエア構成を説明する。図10は、撮影装置のハードウエア構成の一例を示す図である。以下では、撮影装置10は、二つの撮像素子を使用した全天球(全方位)撮影装置とするが、撮像素子は二つ以上いくつでもよい。また、必ずしも全方位撮影専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮影ユニットを取り付けることで、実質的に撮影装置10と同じ機能を有するようにしてもよい。
図10に示されているように、撮影装置10は、撮像ユニット101、画像処理ユニット104、撮像制御ユニット105、マイク108、音処理ユニット109、CPU(Central Processing Unit)111、ROM(Read Only Memory)112、SRAM(Static Random Access Memory)113、DRAM(Dynamic Random Access Memory)114、操作部115、入出力I/F116、近距離通信回路117、近距離通信回路117のアンテナ117a、電子コンパス118、ジャイロセンサ119、加速度センサ120およびネットワークI/F121によって構成されている。
このうち、撮像ユニット101は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)102a,102b(以下区別する必要のないときは、レンズ102と称する。)、および各レンズに対応させて設けられている二つの撮像素子103a,103bを備えている。撮像素子103a,103bは、レンズ102a,102bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサ等の画像センサ、この画像センサの水平または垂直同期信号や画素クロック等を生成するタイミング生成回路、およびこの撮像素子の動作に必要な種々のコマンドもしくはパラメータ等が設定されるレジスタ群等を有している。
撮像ユニット101の撮像素子103a,103bは、各々、画像処理ユニット104とパラレルI/Fバスを介して接続している。一方、撮像ユニット101の撮像素子103a,103bは、それぞれ撮像制御ユニット105とシリアルI/Fバス(I2Cバス等)を介して接続している。画像処理ユニット104、撮像制御ユニット105および音処理ユニット109は、バス110を介してCPU111と接続している。さらに、バス110には、ROM112、SRAM113、DRAM114、操作部115、入出力I/F116、近距離通信回路117、電子コンパス118、ジャイロセンサ119、加速度センサ120およびネットワークI/F121等も接続される。
画像処理ユニット104は、撮像素子103a,103bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図3(C)に示されているような正距円筒射影画像のデータを作成する。
撮像制御ユニット105は、一般に撮像制御ユニット105をマスタデバイス、撮像素子103a,103bをスレーブデバイスとして、I2Cバスを利用して、撮像素子103a,103bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU111から受け取る。また、撮像制御ユニット105は、同じくI2Cバスを利用して、撮像素子103a,103bのレジスタ群のステータスデータ等を取り込み、CPU111に送る。
また、撮像制御ユニット105は、操作部115のシャッターボタンが押下されたタイミングで、撮像素子103a,103bに画像データの出力を指示する。撮影装置10によっては、ディスプレイ(例えば、近距離通信回路117を用いて撮影装置10と近距離通信を行うスマートフォン等の外部端末のディスプレイ)によるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子103a,103bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
また、撮像制御ユニット105は、後述するように、CPU111と協働して撮像素子103a,103bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮影装置10には表示部(ディスプレイ)が設けられていないが、表示部を設けてもよい。マイク108は、音を音(信号)データに変換する。音処理ユニット109は、マイク108から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
CPU111は、撮影装置10の全体の動作を制御すると共に必要な処理を実行する。ROM112は、CPU111のための種々のプログラムを記憶している。SRAM113およびDRAM114はワークメモリであり、CPU111で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM114は、画像処理ユニット104での処理途中の画像データや処理済みの正距円筒射影画像のデータを記憶する。
操作部115は、種々の操作ボタンや電源スイッチ、シャッターボタン、および表示と操作の機能を兼ねたタッチパネル等の総称である。ユーザは、操作部115を操作することで、種々の撮影モードや撮影条件等を入力する。
入出力I/F116は、SDカード等の外付けのメディアまたはパーソナルコンピュータ等とのインターフェース回路(USBI/F等)の総称である。入出力I/F116は、無線、有線を問わない。DRAM114に記憶された正距円筒射影画像のデータは、入出力I/F116を介して外付けのメディアに記録されたり、必要に応じて入出力I/F116を介して外部端末(装置)に送信されたりする。
近距離通信回路117は、撮影装置10に設けられたアンテナ117aを介して、NFC(Near Field Communication)、Bluetooth(登録商標)またはWi-Fi(登録商標)等の近距離無線通信技術によって、外部端末(装置)と通信を行う。近距離通信回路117は、正距円筒射影画像のデータを、外部端末(装置)に送信することができる。
電子コンパス118は、地球の磁気から撮影装置10の方位を算出し、方位情報を出力する。この方位情報は、Exifに沿った関連情報(メタデータ)の一例であり、撮影画像の画像補正等の画像処理に利用される。なお、関連情報は、画像の撮影日時および画像データのデータ容量の各データも含む。また、ジャイロセンサ119は、撮影装置10の移動に伴う角度の変化(Roll角、Pitch角、Yaw角)を検出するセンサである。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮影画像の画像補正等の画像処理に利用される。さらに、加速度センサ120は、三軸方向の加速度を検出するセンサである。撮影装置10は、加速度センサ120が検出した加速度に基づいて、自装置(撮影装置10)の姿勢(重力方向に対する角度)を算出する。撮影装置10は、加速度センサ120を設けることによって、画像補正の精度が向上する。ネットワークI/F121は、ルータ等を介して、インターネット等の通信ネットワーク100を利用したデータ通信を行うためのインターフェースである。
○配信端末のハードウエア構成○
図12は、配信端末のハードウエア構成の一例を示す図である。配信端末30の各ハードウエア構成は、300番台の符号で示されている。配信端末30は、コンピュータによって構築されており、図12に示されているように、CPU301、ROM302、RAM303、HD(Hard Disk)304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、バスライン310、キーボード311、ポインティングデバイス312、DVD-RW(Digital Versatile Disk Rewritable)ドライブ314、メディアI/F316、音入出力I/F317、マイク318、スピーカ319および近距離通信回路320を備えている。
図12は、配信端末のハードウエア構成の一例を示す図である。配信端末30の各ハードウエア構成は、300番台の符号で示されている。配信端末30は、コンピュータによって構築されており、図12に示されているように、CPU301、ROM302、RAM303、HD(Hard Disk)304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、バスライン310、キーボード311、ポインティングデバイス312、DVD-RW(Digital Versatile Disk Rewritable)ドライブ314、メディアI/F316、音入出力I/F317、マイク318、スピーカ319および近距離通信回路320を備えている。
これらのうち、CPU301は、配信端末30全体の動作を制御する。ROM302は、IPL等のCPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。HD304は、プログラム等の各種データを記憶する。HDDコントローラ305は、CPU301の制御にしたがってHD304に対する各種データの読み出しまたは書き込みを制御する。ディスプレイ306は、カーソル、メニュー、ウィンドウ、文字、または画像等の各種情報を表示する。ディスプレイ306は、表示部の一例である。なお、ディスプレイ306は、入力手段を備えたタッチパネルディスプレイであってもよい。外部機器接続I/F308は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリまたはプリンタ等である。ネットワークI/F309は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。バスライン310は、図12に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバスまたはデータバス等である。
また、キーボード311は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス312は、各種指示の選択もしくは実行、処理対象の選択、またはカーソルの移動等を行う入力手段の一種である。なお、入力手段は、キーボード311およびポインティングデバイス312のみならず、タッチパネルまたは音声入力装置等であってもよい。DVD-RWドライブ314は、着脱可能な記録媒体の一例としてのDVD-RW313に対する各種データの読み出しまたは書き込みを制御する。なお、DVD-RWに限らず、DVD-RまたはBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。メディアI/F316は、フラッシュメモリ等の記録メディア315に対するデータの読み出しまたは書き込み(記憶)を制御する。マイク318は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F317は、CPU301の制御に従ってマイク318およびスピーカ319との間で音信号の入出力を処理する回路である。近距離通信回路320は、NFC、BluetoothまたはWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行うための通信回路である。
○通信管理システムのハードウエア構成○
図12は、通信管理システムのハードウエア構成の一例を示す図である。通信管理システム50の各ハードウエア構成は、括弧内の500番台の符号で示されている。通信管理システム50は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
図12は、通信管理システムのハードウエア構成の一例を示す図である。通信管理システム50の各ハードウエア構成は、括弧内の500番台の符号で示されている。通信管理システム50は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
○通信端末のハードウエア構成○
図12は、通信端末のハードウエア構成の一例を示す図である。通信端末70の各ハードウエア構成は、括弧内の700番台の符号で示されている。通信端末70は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
図12は、通信端末のハードウエア構成の一例を示す図である。通信端末70の各ハードウエア構成は、括弧内の700番台の符号で示されている。通信端末70は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
○注目点指定機器のハードウエア構成○
図12は、注目点指定機器のハードウエア構成の一例を示す図である。注目点指定機器20の各ハードウエア構成は、括弧内の200番台の符号で示されている。注目点指定機器20は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
図12は、注目点指定機器のハードウエア構成の一例を示す図である。注目点指定機器20の各ハードウエア構成は、括弧内の200番台の符号で示されている。注目点指定機器20は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
なお、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc、SDカード、USBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内または国外へ提供されることができる。例えば、通信端末70は、本発明に係るプログラムが実行されることで本発明に係る画像表示方法を実現する。
●機能構成
続いて、図13乃至図21を用いて、実施形態に係る画像通信システムの機能構成について説明する。図13および図14は、画像通信システムの機能構成の一例を示す図である。なお、図13および図14は、図9に示されている装置または端末のうち、後述の処理または動作に関連しているものを示す。
続いて、図13乃至図21を用いて、実施形態に係る画像通信システムの機能構成について説明する。図13および図14は、画像通信システムの機能構成の一例を示す図である。なお、図13および図14は、図9に示されている装置または端末のうち、後述の処理または動作に関連しているものを示す。
○撮影装置の機能構成○
まず、図13を用いて、撮影装置10の機能構成について説明する。撮影装置10は、通信部11、受付部12、撮像部13、集音部14、判断部15および記憶・読出部19を有している。これら各部は、図11に示されている各構成要素のいずれかが、SRAM113からDRAM114上に展開された撮影装置用のプログラムに従ったCPU111からの命令によって動作することで実現される機能または手段である。また、撮影装置10は、図11に示されているROM112、SRAM113およびDRAM114によって構築される記憶部1000を有している。記憶部1000は、自装置のGUID(Globally Unique Identifier)を記憶している。
まず、図13を用いて、撮影装置10の機能構成について説明する。撮影装置10は、通信部11、受付部12、撮像部13、集音部14、判断部15および記憶・読出部19を有している。これら各部は、図11に示されている各構成要素のいずれかが、SRAM113からDRAM114上に展開された撮影装置用のプログラムに従ったCPU111からの命令によって動作することで実現される機能または手段である。また、撮影装置10は、図11に示されているROM112、SRAM113およびDRAM114によって構築される記憶部1000を有している。記憶部1000は、自装置のGUID(Globally Unique Identifier)を記憶している。
通信部11は、主に、CPU111の処理によって実現され、他の装置または端末と各種データまたは情報の通信を行う。通信部11は、例えば、近距離通信回路117を用いて、他の装置または端末との間で、近距離無線通信技術によるデータ通信を行う。また、通信部11は、例えば、入出力I/F116を用いて、他の装置または端末との間で、各種ケーブル等を介したデータ通信を行う。さらに、通信部11は、ネットワークI/F121を用いて、他の装置または端末との間で、通信ネットワーク100を介したデータ通信を行う。
受付部12は、主に、操作部115に対するCPU111の処理によって実現され、利用者から各種の選択または入力を受け付ける。撮像部13は、主に、撮像ユニット101、画像処理ユニット104および撮像制御ユニット105に対するCPU111の処理によって実現され、風景等の被写体を撮像し、撮影画像データを取得する。集音部14は、主に、マイク108および音処理ユニット109に対するCPU111の処理によって実現され、撮影装置10の周囲の音を集音する。判断部15は、CPU111の処理によって実現され、各種判断を行う。
記憶・読出部19は、主に、CPU111の処理によって実現され、記憶部1000に、各種データ(または情報)を記憶したり、記憶部1000から各種データ(または情報)を読み出したりする。
○注目点指定機器の機能構成○
次に、図13を用いて、注目点指定機器20の機能構成について説明する。注目点指定機器20は、通信部21および検知部22を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD204からRAM203上に展開された注目点指定機器用プログラムに従ったCPU201からの命令によって動作することで実現される機能または手段である。
次に、図13を用いて、注目点指定機器20の機能構成について説明する。注目点指定機器20は、通信部21および検知部22を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD204からRAM203上に展開された注目点指定機器用プログラムに従ったCPU201からの命令によって動作することで実現される機能または手段である。
通信部21は、主に、CPU201の処理によって実現され、他の装置または端末と各種データまたは情報の通信を行う。通信部21は、例えば、近距離通信回路220を用いて、他の装置または端末との間で、近距離無線通信技術によるデータ通信を行う。また、通信部21は、例えば、外部機器接続I/F208を用いて、他の装置または端末との間で、各種ケーブル等を介したデータ通信を行う。さらに、通信部21は、ネットワークI/F209を用いて、他の装置または端末との間で、通信ネットワーク100を介したデータ通信を行う。
検知部22は、主に、CPU201の処理によって実現され、注目点指定機器20が設置された特定の位置に対応する注目点の指定を検知する。検知部22は、例えば、注目点指定機器20が設置された特定の位置(注目点)に異常が発生した場合、閲覧拠点の利用者に注目して欲しい箇所を示す注目点の指定を検知する。検知部22における検知方法としては、配信拠点が撮影された画像に対する画像認識によって異常発生等を検知する方法であってもよいし、注目点指定機器20に備えられた各種センサを用いて異常発生等を検知してもよい。また、検知部22は、配信拠点の作業者等によって注目点指定機器20に備えられた専用ボタン等の操作を受け付けた場合、注目点の指定を検知する構成であってもよい。
○配信端末の機能構成○
次に、図13を用いて、配信端末30の機能構成について説明する。配信端末30は、送受信部31、受付部32、画像・音処理部33、表示制御部34、判断部35、作成部36、通信部37および記憶・読出部39を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD304からRAM303上に展開された配信端末用プログラムに従ったCPU301からの命令によって動作することで実現される機能または手段である。また、配信端末30は、図12に示されているROM302、RAM303およびHD304によって構築される記憶部3000を有している。
次に、図13を用いて、配信端末30の機能構成について説明する。配信端末30は、送受信部31、受付部32、画像・音処理部33、表示制御部34、判断部35、作成部36、通信部37および記憶・読出部39を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD304からRAM303上に展開された配信端末用プログラムに従ったCPU301からの命令によって動作することで実現される機能または手段である。また、配信端末30は、図12に示されているROM302、RAM303およびHD304によって構築される記憶部3000を有している。
送受信部31は、主に、ネットワークI/F309に対するCPU301の処理によって実現され、通信ネットワーク100を介して、他の装置または端末との間で各種データまたは情報の送受信を行う。
受付部32は、主に、キーボード311またはポインティングデバイス312に対するCPU301の処理によって実現され、利用者から各種の選択または入力を受け付ける。画像・音処理部33は、主に、CPU301の処理によって実現され、撮影装置10が被写体を撮像して取得した撮影画像データに対して画像処理を行う。また、画像・音処理部33は、マイク318によって利用者の音声が音声信号に変換された後、この音声信号に係る音データに対して音声処理を行う。さらに、画像・音処理部33は、表示制御部34がディスプレイ306に画像を表示させるため、ソース名等の画像種類情報に基づき、撮影装置10から受信された撮影画像データに対して画像処理を行う。具体的には、画像種類情報が特殊画像である旨を示す場合、画像・音処理部33は、撮影画像データ(例えば、図3(A),(B)に示されているような各半球画像のデータ)に基づいて、図4(B)に示されているような全天球画像データに変換することで全天球パノラマ画像データを作成し、さらに、図6(B)に示されているような所定領域画像を作成する。
表示制御部34は、主に、CPU301の処理によって実現され、ディスプレイ306に、各種画像または文字等を表示させる。判断部35は、CPU301の処理によって実現され、各種判断を行う。判断部35は、例えば、撮影装置10から受信された撮影画像データに係る画像種類を判断する。
作成部36は、主に、CPU301の処理によって実現され、判断部35によって、一般画像または特殊画像(ここでは、全天球画像)と判断された結果に基づき、命名規則に従って、画像種類情報の一例であるソース名を作成する。例えば、判断部35が、一般画像であると判断した場合、作成部36は、一般画像である旨を示すソース名「Video」を作成する。一方、判断部35が、特殊画像であると判断した場合、作成部36は、特殊画像である旨を示すソース名「Video_Theta」を作成する。
通信部37は、主に、近距離通信回路320に対するCPU301の処理によって実現され、撮影装置10の通信部11および注目点指定機器20の通信部21と、NFC、BluetoothまたはWiFi等の近距離無線通信技術による通信を行う。なお、通信部37と送受信部31とは通信ユニットを別個に有する構成で説明したが、共用構成であってもよい。
記憶・読出部39は、主に、CPU301の処理によって実現され、記憶部3000に、各種データ(または情報)を記憶したり、記憶部3000から各種データ(または情報)を読み出したりする。
○撮影装置管理テーブル
図15(A)は、撮影装置管理テーブルの一例を示す概念図である。記憶部3000には、図15(A)に示されている撮影装置管理テーブルによって構成されている撮影装置管理DB3001が構築されている。この撮影装置管理テーブルは、全天球画像の元になる二つの半球画像を得ることができる撮影装置のGUIDのうちのベンダIDとプロダクトIDを記憶して管理している。GUIDとしては、例えば、USBデバイスで利用されるベンダID(VID)とプロダクトID(PID)が利用できる。このベンダIDとプロダクトIDは、例えば、配信端末30の工場出荷時から記憶されていてもよいし、工場出荷後に追加で記憶してもよい。
図15(A)は、撮影装置管理テーブルの一例を示す概念図である。記憶部3000には、図15(A)に示されている撮影装置管理テーブルによって構成されている撮影装置管理DB3001が構築されている。この撮影装置管理テーブルは、全天球画像の元になる二つの半球画像を得ることができる撮影装置のGUIDのうちのベンダIDとプロダクトIDを記憶して管理している。GUIDとしては、例えば、USBデバイスで利用されるベンダID(VID)とプロダクトID(PID)が利用できる。このベンダIDとプロダクトIDは、例えば、配信端末30の工場出荷時から記憶されていてもよいし、工場出荷後に追加で記憶してもよい。
○画像種類管理テーブル
図15(B)は、画像種類管理テーブルの一例を示す概念図である。記憶部3000には、図15(B)に示されている画像種類管理テーブルによって構成されている画像種類管理DB3002が構築されている。この画像種類管理テーブルは、画像データID、撮影装置の宛先の一例であるIP(Internet Protocol)アドレス、およびソース名を関連づけて管理している。このうち、画像データIDは、画像配信を行う際の画像データを識別するための画像データ識別情報の一例である。撮影装置のIPアドレスは、関連づけられている画像データIDで示される画像データを撮影した撮影装置10のIPアドレスを示す。ソース名は、関連づけられている画像データIDで示される画像データを撮影した撮影装置10を特定するための名称であり、画像種類情報の一例である。このソース名は、所定の名称の命名規則に従って、配信端末30によって作成された名称である。
図15(B)は、画像種類管理テーブルの一例を示す概念図である。記憶部3000には、図15(B)に示されている画像種類管理テーブルによって構成されている画像種類管理DB3002が構築されている。この画像種類管理テーブルは、画像データID、撮影装置の宛先の一例であるIP(Internet Protocol)アドレス、およびソース名を関連づけて管理している。このうち、画像データIDは、画像配信を行う際の画像データを識別するための画像データ識別情報の一例である。撮影装置のIPアドレスは、関連づけられている画像データIDで示される画像データを撮影した撮影装置10のIPアドレスを示す。ソース名は、関連づけられている画像データIDで示される画像データを撮影した撮影装置10を特定するための名称であり、画像種類情報の一例である。このソース名は、所定の名称の命名規則に従って、配信端末30によって作成された名称である。
例えば、IPアドレスがそれぞれ「2.1.2.3」、「2.1.1.5」、「2.1.5.4」、「2.1.5.6」の四つの撮影装置は、それぞれ、画像データID「RS001」、「RS002」、「RS003」、「RS004」によって示される画像データを送信していることが表されている。さらに、各撮影装置のソース名によって示される画像の種類は、「Video_Theta」、「Video_Theta」、「Video」、「Video」であり、これらは順に画像種類が「特殊画像」、「特殊画像」、「一般画像」、「一般画像」である旨を示している。本実施形態において、特殊画像は、全天球画像である。なお、IPアドレスは、宛先情報の一例であって、宛先情報は、MAC(Media Access Control)アドレスまたは端末ID(Identification)等であってもよい。また、IPアドレスは、IPv4アドレスを簡略化して表すが、IPアドレスは、IPv6であってもよい。さらに、画像データ以外のデータについても、画像データIDと関連づけて管理してもよい。画像データ以外のデータは、例えば、音データ、配信拠点と閲覧拠点との画面共有時の資料データ等である。
○注目点管理テーブル
図16は、注目点管理テーブルの一例を示す概念図である。記憶部3000には、図16に示されている注目点管理テーブルによって構成されている注目点管理DB3003が構築されている。この注目点管理テーブルは、配信拠点における注目点を識別する注目点ID、および注目点の位置を示す座標値を関連づけて管理している。
図16は、注目点管理テーブルの一例を示す概念図である。記憶部3000には、図16に示されている注目点管理テーブルによって構成されている注目点管理DB3003が構築されている。この注目点管理テーブルは、配信拠点における注目点を識別する注目点ID、および注目点の位置を示す座標値を関連づけて管理している。
○通信管理システムの機能構成○
次に、図14を用いて、通信管理システム50の機能構成について説明する。通信管理システム50は、送受信部51、判断部52、生成部53、配信拠点管理部54および記憶・読出部59を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD504からRAM503上に展開された通信管理システム用プログラムに従ったCPU501からの命令によって動作することで実現される機能または手段である。また、通信管理システム50は、図12に示されているROM502、RAM503およびHD504によって構築される記憶部5000を有している。
次に、図14を用いて、通信管理システム50の機能構成について説明する。通信管理システム50は、送受信部51、判断部52、生成部53、配信拠点管理部54および記憶・読出部59を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD504からRAM503上に展開された通信管理システム用プログラムに従ったCPU501からの命令によって動作することで実現される機能または手段である。また、通信管理システム50は、図12に示されているROM502、RAM503およびHD504によって構築される記憶部5000を有している。
送受信部51は、主に、ネットワークI/F509に対するCPU501の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の送受信を行う。
判断部52は、CPU501の処理によって実現され、各種判断を行なう。生成部53は、主に、CPU501の処理によって実現され、画像データIDおよび所定領域情報を生成する。生成部53は、例えば、撮影装置10によって撮影された撮影画像における所定領域を示す所定領域情報を生成する。配信拠点管理部54は、主に、CPU501の処理によって実現され、配信拠点の状態を示す配信拠点情報を管理する。
記憶・読出部59は、主に、CPU501の処理によって実現され、記憶部5000に、各種データ(または情報)を記憶したり、記憶部5000から各種データ(または情報)を読み出したりする。
○セッション管理テーブル
図17(A)は、セッション管理テーブルの一例を示す概念図である。記憶部5000には、図17(A)に示されているセッション管理テーブルによって構成されているセッション管理DB5001が構築されている。このセッション管理テーブルは、セッションID、拠点IDおよび参加した通信端末のIPアドレスを関連づけて管理している。このうち、セッションIDは、画像通信を実現する通信セッションを識別するためのセッション識別情報の一例であり、仮想の会議室ごとに生成される。セッションIDは、各通信端末でも管理されており、各通信端末において通信セッションの選択の際に利用される。拠点IDは、配信拠点を識別するための拠点識別情報の一例である。参加した通信端末のIPアドレスは、関連づけられているセッションIDで示される仮想の会議室に参加した通信端末のIPアドレスを示している。
図17(A)は、セッション管理テーブルの一例を示す概念図である。記憶部5000には、図17(A)に示されているセッション管理テーブルによって構成されているセッション管理DB5001が構築されている。このセッション管理テーブルは、セッションID、拠点IDおよび参加した通信端末のIPアドレスを関連づけて管理している。このうち、セッションIDは、画像通信を実現する通信セッションを識別するためのセッション識別情報の一例であり、仮想の会議室ごとに生成される。セッションIDは、各通信端末でも管理されており、各通信端末において通信セッションの選択の際に利用される。拠点IDは、配信拠点を識別するための拠点識別情報の一例である。参加した通信端末のIPアドレスは、関連づけられているセッションIDで示される仮想の会議室に参加した通信端末のIPアドレスを示している。
○画像種類管理テーブル
図17(B)は、画像種類管理テーブルの一例を示す概念図である。記憶部5000には、図17(B)に示されている画像種類管理テーブルによって構成されている画像種類管理DB5002が構築されている。この画像種類管理テーブルは、図15(B)に示されている画像種類管理テーブルで管理されている各情報に加え、セッション管理テーブルで管理されているセッションIDと同じセッションIDを関連づけて管理している。なお、通信管理システム5において、配信端末30および通信端末70で管理される、画像データID、撮影装置のIPアドレスおよび画像種類情報と同じものを管理するのは、新たな通信端末が仮想の会議室に入る場合等に、既に画像通話中の通信端末と新たに参加した通信端末に、画像種類情報等を送信するためである。これにより、既に通話中の通信端末と新たに参加した通信端末との間で、画像種類情報等の送受信を行なう必要がない。
図17(B)は、画像種類管理テーブルの一例を示す概念図である。記憶部5000には、図17(B)に示されている画像種類管理テーブルによって構成されている画像種類管理DB5002が構築されている。この画像種類管理テーブルは、図15(B)に示されている画像種類管理テーブルで管理されている各情報に加え、セッション管理テーブルで管理されているセッションIDと同じセッションIDを関連づけて管理している。なお、通信管理システム5において、配信端末30および通信端末70で管理される、画像データID、撮影装置のIPアドレスおよび画像種類情報と同じものを管理するのは、新たな通信端末が仮想の会議室に入る場合等に、既に画像通話中の通信端末と新たに参加した通信端末に、画像種類情報等を送信するためである。これにより、既に通話中の通信端末と新たに参加した通信端末との間で、画像種類情報等の送受信を行なう必要がない。
○所定領域管理テーブル
図18(A)は、所定領域管理テーブルの一例を示す概念図である。記憶部5000には、図18(A)に示されている所定領域管理テーブルによって構成されている所定領域管理DB5003が構築されている。この所定領域管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データの送信先の通信端末のIPアドレス、および撮影画像データの送信先の通信端末で表示中の所定領域画像を示す所定領域情報を関連づけて管理している。なお、撮影画像データの送信先の通信端末は、所定領域情報の送信元の通信端末でもある。所定領域情報は、図6および図7に示されているように、撮影画像から、この撮影画像における所定領域Tの画像(所定領域画像)に変換するための変換パラメータである。
図18(A)は、所定領域管理テーブルの一例を示す概念図である。記憶部5000には、図18(A)に示されている所定領域管理テーブルによって構成されている所定領域管理DB5003が構築されている。この所定領域管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データの送信先の通信端末のIPアドレス、および撮影画像データの送信先の通信端末で表示中の所定領域画像を示す所定領域情報を関連づけて管理している。なお、撮影画像データの送信先の通信端末は、所定領域情報の送信元の通信端末でもある。所定領域情報は、図6および図7に示されているように、撮影画像から、この撮影画像における所定領域Tの画像(所定領域画像)に変換するための変換パラメータである。
例えば、図18(A)の所定領域管理テーブルの1行目から4行目までは、配信端末30のIPアドレスが「1.3.2.3」の場合、配信端末30から送信された撮影画像データが、通信管理システム5を介して、IPアドレスが「1.2.1.3」の通信端末70に送信された旨を管理している。さらに、配信端末30は、図18(A)の所定領域管理テーブルの1行目から4行目までの四つの所定領域情報の送信元の配信端末である旨を管理している。
また、送受信部51によって、既に管理されている撮影画像データの送信元の配信端末のIPアドレスおよび撮影画像データの送信先の通信端末のIPアドレスと同じ組のIPアドレスを含む所定領域情報が新たに受信された場合には、記憶・読出部59は、既に管理している所定領域情報を新たに受信された所定領域情報に書き換える。
○設置情報管理テーブル
図18(B)は、設置情報管理テーブルの一例を示す概念図である。記憶部5000には、図18(B)に示されている設置情報管理テーブルによって構成されている設置情報管理DB5004が構築されている。この設置情報管理テーブルは、配信拠点を識別するための拠点ID、配信拠点に設置された撮影装置10のIPアドレス、撮影装置10が設置された位置を示す座標値、および撮影装置10の設置方向が関連づけられた設置情報を管理している。これらのうち、座標値は、撮影装置10が設置された配信拠点のマップ上の座標値を示す。また、撮影装置10の設置方向は、撮影装置10の正面が向いているマップ上の方向を示す。なお、この設置情報は、配信拠点または配信端末30の管理者によって設定される。
図18(B)は、設置情報管理テーブルの一例を示す概念図である。記憶部5000には、図18(B)に示されている設置情報管理テーブルによって構成されている設置情報管理DB5004が構築されている。この設置情報管理テーブルは、配信拠点を識別するための拠点ID、配信拠点に設置された撮影装置10のIPアドレス、撮影装置10が設置された位置を示す座標値、および撮影装置10の設置方向が関連づけられた設置情報を管理している。これらのうち、座標値は、撮影装置10が設置された配信拠点のマップ上の座標値を示す。また、撮影装置10の設置方向は、撮影装置10の正面が向いているマップ上の方向を示す。なお、この設置情報は、配信拠点または配信端末30の管理者によって設定される。
○配信拠点管理テーブル
図19は、配信拠点管理テーブルの一例を示す概念図である。記憶部5000には、図19に示されている配信拠点管理テーブルによって構成されている配信拠点管理DB5005が構築されている。この配信拠点管理テーブルは、配信拠点を識別するための拠点IDおよび拠点名、並びに配信拠点の状態を示す配信拠点情報を関連づけて管理している。このうち、配信拠点情報は、配信拠点のマップを示すマップ画像データおよび配信拠点の座標値を示す拠点座標情報にアクセスするためのURL(Uniform Resource Locator)を含む。通信端末70は、通信管理システム50から送信されたURLへアクセスすることで、配信拠点のマップ画像データおよび拠点座標情報を取得することができる。なお、URLは、記憶先情報の一例である。記憶先情報は、URLに限られず、URI(Uniform Resource Identifier)等であってもよい。
図19は、配信拠点管理テーブルの一例を示す概念図である。記憶部5000には、図19に示されている配信拠点管理テーブルによって構成されている配信拠点管理DB5005が構築されている。この配信拠点管理テーブルは、配信拠点を識別するための拠点IDおよび拠点名、並びに配信拠点の状態を示す配信拠点情報を関連づけて管理している。このうち、配信拠点情報は、配信拠点のマップを示すマップ画像データおよび配信拠点の座標値を示す拠点座標情報にアクセスするためのURL(Uniform Resource Locator)を含む。通信端末70は、通信管理システム50から送信されたURLへアクセスすることで、配信拠点のマップ画像データおよび拠点座標情報を取得することができる。なお、URLは、記憶先情報の一例である。記憶先情報は、URLに限られず、URI(Uniform Resource Identifier)等であってもよい。
○通信端末の機能構成○
次に、図14を用いて、通信端末70の機能構成について説明する。通信端末70は、送受信部71、受付部72、画像・音処理部73、表示制御部74、判断部75、作成部76、注目点特定部77、生成部78および記憶・読出部79を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD704からRAM703上に展開された通信端末用プログラムに従ったCPU701からの命令によって動作することで実現される機能または手段である。また、通信端末70は、図12に示されているROM702、RAM703およびHD704によって構築される記憶部7000を有している。
次に、図14を用いて、通信端末70の機能構成について説明する。通信端末70は、送受信部71、受付部72、画像・音処理部73、表示制御部74、判断部75、作成部76、注目点特定部77、生成部78および記憶・読出部79を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD704からRAM703上に展開された通信端末用プログラムに従ったCPU701からの命令によって動作することで実現される機能または手段である。また、通信端末70は、図12に示されているROM702、RAM703およびHD704によって構築される記憶部7000を有している。
送受信部71は、主に、ネットワークI/F709に対するCPU701の処理によって実現され、通信ネットワーク100を介して、他の装置または端末との間で各種データまたは情報の送受信を行う。
受付部72は、主に、キーボード711またはポインティングデバイス712に対するCPU701の処理によって実現され、利用者から各種の選択または入力を受け付ける。画像・音処理部73は、主に、CPU701の処理によって実現され、画像・音処理部33と同様の機能を実現する。表示制御部74は、主に、CPU701の処理によって実現され、ディスプレイ706に、各種画像または文字等を表示させる。判断部75は、CPU701の処理によって実現され、各種判断を行う。
作成部76は、主に、CPU701の処理によって実現され、作成部36と同様の機能を実現する。注目点特定部77は、主に、CPU701の処理によって実現され、撮影装置10が設置されている配信拠点における注目点を特定する。注目点特定部77は、配信システム3から配信された注目点指定情報および注目点管理DB7003に記憶された注目点情報に基づいて、表示画面に表示させる注目点を特定する。
生成部78は、主に、CPU701の処理によって実現され、所定領域情報を生成する。生成部78は、例えば、撮影装置10によって撮影された撮影画像における所定領域を示す所定領域情報を生成する。
記憶・読出部79は、主に、CPU701の処理によって実現され、記憶部7000に、各種データ(または情報)を記憶したり、記憶部7000から各種データ(または情報)を読み出したりする。
○画像種類管理テーブル
図20(A)は、画像種類管理テーブルの一例を示す概念図である。記憶部7000には、図20(A)に示されている画像種類管理テーブルによって構成されている画像種類管理DB7001が構築されている。この画像種類管理テーブルは、図15(B)に示されている画像種類管理テーブルと同じデータ構成であるため、説明を省略する。
図20(A)は、画像種類管理テーブルの一例を示す概念図である。記憶部7000には、図20(A)に示されている画像種類管理テーブルによって構成されている画像種類管理DB7001が構築されている。この画像種類管理テーブルは、図15(B)に示されている画像種類管理テーブルと同じデータ構成であるため、説明を省略する。
○所定領域管理テーブル
図20(B)は、所定領域管理テーブルの一例を示す概念図である。記憶部7000には、図20(B)に示されている所定領域管理テーブルによって構成されている所定領域管理DB7002が構築されている。この所定領域管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データを撮影した撮影装置のIPアドレス、および表示中の所定領域画像を示す所定領域情報を関連づけて管理している。所定領域情報は、図6および図7に示されているように、撮影画像から、この撮影画像における所定領域Tの画像(所定領域画像)に変換するための変換パラメータである。
図20(B)は、所定領域管理テーブルの一例を示す概念図である。記憶部7000には、図20(B)に示されている所定領域管理テーブルによって構成されている所定領域管理DB7002が構築されている。この所定領域管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データを撮影した撮影装置のIPアドレス、および表示中の所定領域画像を示す所定領域情報を関連づけて管理している。所定領域情報は、図6および図7に示されているように、撮影画像から、この撮影画像における所定領域Tの画像(所定領域画像)に変換するための変換パラメータである。
○注目点管理テーブル
図21は、注目点管理テーブルの一例を示す概念図である。記憶部7000には、図21に示されている注目点管理テーブルによって構成されている注目点管理DB7003が構築されている。この注目点管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データを撮影した撮影装置のIPアドレス、および各注目点を表示するための所定領域情報を示す注目点領域情報を関連づけて管理している。このうち、注目点領域情報は、注目点ごとに、全天球画像におけるそれぞれの注目点を表示するための方向および画角を示す所定領域情報(動径r、極角θ、方位角φ)を含む。図21に示されている注目点管理テーブルは、予め設定されている注目点が2箇所である場合の例を示す。通信端末70は、例えば、注目点が指定された場合、画像送信元である配信端末30から配信された全天球画像を、注目点管理デーブルに記憶された注目点領域情報に基づいて透視射影変換することで、表示させる画像を注目点が写るような所定領域画像に変更する。注目点領域情報は、第1の所定領域情報の一例である。
図21は、注目点管理テーブルの一例を示す概念図である。記憶部7000には、図21に示されている注目点管理テーブルによって構成されている注目点管理DB7003が構築されている。この注目点管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データを撮影した撮影装置のIPアドレス、および各注目点を表示するための所定領域情報を示す注目点領域情報を関連づけて管理している。このうち、注目点領域情報は、注目点ごとに、全天球画像におけるそれぞれの注目点を表示するための方向および画角を示す所定領域情報(動径r、極角θ、方位角φ)を含む。図21に示されている注目点管理テーブルは、予め設定されている注目点が2箇所である場合の例を示す。通信端末70は、例えば、注目点が指定された場合、画像送信元である配信端末30から配信された全天球画像を、注目点管理デーブルに記憶された注目点領域情報に基づいて透視射影変換することで、表示させる画像を注目点が写るような所定領域画像に変更する。注目点領域情報は、第1の所定領域情報の一例である。
●実施形態の処理または動作
○セッション参加処理○
続いて、図22乃至図28を用いて、実施形態に係る画像通信システムの処理または動作について説明する。まず、図22および図23を用いて、特定の通信セッションへの参加処理について説明する。図22は、画像通信システムにおける特定の通信セッションへの参加処理の一例を示すシーケンス図である。図23は、通信セッションの選択画面の一例を示す図である。
○セッション参加処理○
続いて、図22乃至図28を用いて、実施形態に係る画像通信システムの処理または動作について説明する。まず、図22および図23を用いて、特定の通信セッションへの参加処理について説明する。図22は、画像通信システムにおける特定の通信セッションへの参加処理の一例を示すシーケンス図である。図23は、通信セッションの選択画面の一例を示す図である。
まず、閲覧拠点Aの利用者(例えば、利用者A1)が通信セッションの選択画面の表示を行う操作を行い、受付部72が選択画面を表示する操作を受け付けることで、通信端末70Aの表示制御部74は、ディスプレイ706に、図21に示されている選択画面800を表示させる(ステップS11)。図21に示されている選択画面800は、選択対象である各フロアA1,B1,B2等を示す選択ボタン810a,810b,810c等を表示している。また、各選択ボタン810a等は、各セッションIDを関連づけている。
ここで、利用者A1が配信拠点である仮想のフロアの所望の選択ボタン(ここでは選択ボタン810a)を選択した場合、受付部72は、通信セッションの選択を受け付ける(ステップS12)。そして、送受信部71は、通信管理システム50に対して、配信拠点との通信セッションへの参加要求を送信する(ステップS13)。この参加要求は、ステップS12で選択を受け付けられた通信セッションを示すセッションID、および要求元端末である通信端末70AのIPアドレスを含む。これにより、通信管理システム50の送受信部51は、参加要求を受信する。
次に、通信管理システム50の記憶・読出部59は、セッション管理DB5001(図17(A)参照)において、ステップS13で受信されたセッションIDと同じセッションIDのレコードにおける参加端末IPアドレスのフィールドに、ステップS13で受信されたIPアドレスを追加することで、通信セッションへの参加処理を行なう(ステップS14)。また、記憶・読出部59は、セッション管理DB5001において、参加処理が行われた通信セッションのセッションIDに関連づけられた拠点IDを読み出す。次に、記憶・読出部59は、ステップS14で読み出された拠点IDを検索キーとして配信拠点管理DB5005(図19参照)を検索することにより、読み出された拠点IDと同じ拠点IDに関連づけられた配信拠点情報を読み出す(ステップS15)。そして、送受信部51は、通信端末70Aに対して、参加要求応答を送信する(ステップS16)。この参加要求応答は、ステップS13によって受信されたセッションID、ステップS15で読み出された配信拠点情報および参加処理結果を含む。また、この参加処理結果は、ステップS14で読み出された拠点IDを含む。これにより、通信端末70Aの送受信部71は、参加要求応答を受信する。以降、参加処理が成功した場合について説明する。
○画像種類情報の管理処理○
次に、図24を用いて、画像種類情報の管理処理を説明する。図24は、画像種類情報の管理処理を示すシーケンス図である。
次に、図24を用いて、画像種類情報の管理処理を説明する。図24は、画像種類情報の管理処理を示すシーケンス図である。
まず、配信拠点の利用者が、配信端末30に、撮影装置10を接続すると、撮影装置10の記憶・読出部19は、記憶部1000に記憶されている自装置(撮影装置10)のGUIDを読み出す。そして、撮影装置10の通信部11は、配信端末30に対して自装置のGUIDを送信する(ステップS31)。これにより、配信端末30の通信部37は、撮影装置10のGUIDを受信する。
次に、配信端末30の判断部35は、撮影装置管理DB3001(図15(A)参照)において、ステップS31で受信されたGUID中のベンダIDおよびプロダクトIDと、同じベンダIDおよびプロダクトIDが管理されているか否かを判断することで、画像種類を判断する(ステップS32)。具体的には、撮影装置管理DB3001において、同じベンダIDおよびプロダクトIDが管理されている場合、判断部35は、撮影装置10が特殊画像(ここでは、全天球画像)を撮影する撮影装置であると判断する。これに対して、撮影装置管理DB3001において、同じベンダIDおよびプロダクトIDが管理されていない場合には、判断部35は、撮影装置10が一般画像を撮影する撮影装置であると判断する。
次に、記憶・読出部39は、画像種類管理DB3002(図15(B)参照)に対して、撮影装置10のIPアドレスと、ステップS32で判断された判断結果である画像種類情報とを関連づけて記憶する(ステップS33)。この状態では、画像データIDは関連づけられていない。画像種類情報は、例えば、所定の命名規則に従って定められたソース名または画像種類(一般画像、特殊画像)である。
次に、送受信部31は、通信管理システム50に対して、画像種類情報の追加要求を送信する(ステップS34)。この画像種類情報の追加要求は、ステップS33で記憶した撮影装置10のIPアドレス、配信拠点の拠点IDおよび画像種類情報を含む。これにより、通信管理システム50の送受信部51は、画像種類情報の追加要求を受信する。
次に、通信管理システム50の記憶・読出部59は、ステップS34によって受信された拠点IDを検索キーとして、セッション管理DB5001(図17(A)参照)を検索することにより、対応するセッションIDを読み出す(ステップS35)。
次に、生成部53は、固有の画像データIDを生成する(ステップS36)。そして、記憶・読出部59は、画像種類管理DB5002(図17(B)参照)に、新たなレコードとして、ステップS35で読み出されたセッションID、ステップS36で生成された画像データID、並びにステップS34で受信された撮影装置10のIPアドレスおよび画像種類情報を関連づけて記憶する(ステップS37)。そして、送受信部51は、配信端末30に対して、ステップS36で生成された画像データIDを送信する(ステップS38)。これにより、配信端末30の送受信部31は、画像データIDを受信する。
次に、配信端末30の記憶・読出部39は、画像種類管理DB3002(図15(B)参照)に、ステップS33で記憶しておいた撮影装置10のIPアドレスおよび画像種類情報に関連づけて、ステップS38で受信された画像データIDを記憶する(ステップS39)。
一方、通信管理システム50の送受信部51は、通信端末70Aに対して、画像種類情報の追加通知を送信する(ステップS40)。この画像種類情報の追加通知は、ステップS36で生成された画像データID、並びにステップS37で記憶された撮影装置10のIPアドレスおよび画像種類情報を含む。これにより、通信端末70Aの送受信部71は、画像種類情報の追加通知を受信する。
次に、通信端末70Aの記憶・読出部79は、画像種類管理DB7001(図20(A)参照)に、新たなレコードとして、ステップS40で受信された、画像データID、撮影装置10のIPアドレスおよび画像種類情報を関連づけて記憶する(ステップS41)。以上より、配信端末30と通信端末70Aでは、各画像種類管理DB3002,7001で同じ情報を共有することができる。なお、同じように、他の通信端末である通信端末70Bにも画像種類情報の追加通信が送信され、通信端末70Bでも、画像種類管理DB7001に記憶される。
○撮影画像データの通信処理○
次に、図25および図26を用いて、配信拠点で得られた撮影画像データおよび音データが、通信管理システム50を介して、各通信端末(通信端末70A,70B)へ送信される処理について説明する。図25は、画像通信システムにおける撮影画像データおよび音データの通信処理の一例を示すシーケンス図である。なお、図25は、一台の撮影装置10によって取得された撮影画像を各通信端末70に表示させる例を示すが、配信拠点に設置された他の撮影装置10によって取得された複数の撮影画像を表示させる場合においても同様の処理が行われる。
次に、図25および図26を用いて、配信拠点で得られた撮影画像データおよび音データが、通信管理システム50を介して、各通信端末(通信端末70A,70B)へ送信される処理について説明する。図25は、画像通信システムにおける撮影画像データおよび音データの通信処理の一例を示すシーケンス図である。なお、図25は、一台の撮影装置10によって取得された撮影画像を各通信端末70に表示させる例を示すが、配信拠点に設置された他の撮影装置10によって取得された複数の撮影画像を表示させる場合においても同様の処理が行われる。
まず、撮影装置10の通信部11は、配信端末30に対して、被写体や風景等を撮影して取得された撮影画像データおよび集音して取得された音データを送信する(ステップS51)。この場合、撮影装置10は、全天球画像の元になる二つの半球画像を得ることができる装置であるため、図3(A),(B)に示されているように、撮影画像データは、二つの半球画像のデータによって構成されている。これにより、配信端末30の通信部37は、撮影画像データおよび音データを受信する。
次に、配信端末30の送受信部31は、通信管理システム50に対して、撮影装置10から送られてきた撮影画像データおよび音データを送信する(ステップS52)。この送信は、送信対象である撮影画像データを識別するための画像データIDを含む。これにより、通信管理システム50の送受信部51は、撮影画像データおよび音データ、並びの画像データIDを受信する。
次に、通信管理システム50の送受信部51は、配信端末30と同じセッションに参加している通信端末(通信端末70A,70B)に対して、撮影画像データおよび音データを送信する(ステップS53,S55)。これら各送信は、送信対象である撮影画像データを識別するための画像データIDを含む。これにより、通信端末70Aおよび通信端末70Bの送受信部71は、それぞれ撮影画像データおよび音データ、並びに画像データIDを受信する。そして、通信端末70Aおよび通信端末70Bの表示制御部74は、受信された各種データに基づいて、撮影画像をディスプレイ706にそれぞれ表示させる(ステップS54,S56)。
ここで、図26を用いて、通信端末70に所定領域画像を表示させる処理について説明する。図26は、所定領域画像の表示処理の一例を示すシーケンス図である。なお、図26は、通信端末70Aに所定領域画像を表示させる処理について説明するが、他の通信端末70(例えば、通信端末70B)に所定領域画像を表示させる場合においても同様の処理が行われる。
まず、利用者A1が通信端末70Aに表示された撮影画像である全天球画像に対する所定の入力操作を行うことで、通信端末70Aの受付部72は、所定の表示位置の選択を受け付ける(ステップS71)。次に、送受信部71は、通信管理システム50に対して、所定領域情報の取得を要求する旨を示す所定領域情報取得要求を送信する(ステップS72)。この所定領域情報取得要求は、ステップS71で受け付けられた選択位置の位置座標を含む。これにより、通信管理システム50の送受信部51は、通信端末70Aから送信された所定領域情報取得要求を受信する。
次に、通信管理システム50の記憶・読出部59は、ステップS52で受信された撮影装置10のIPアドレスと検索キーとして設置情報管理DB5004(図18参照)を検索することにより、受信されたIPアドレスと同じIPアドレスに関連づけられた設置情報を読み出す(ステップS73)。
そして、生成部53は、ステップS72で受信された位置座標に対応する所定領域情報を生成する(ステップS74)。具体的には、生成部53は、全天球画像に対して、受信された位置座標が中心にくるような所定領域画像(透視射影変換画像)表示させるための所定領域情報を生成する。ここで、動径(r)と極角(θ)は、予め設定された所定の値が用いられるものとする。これは、透視射影変換画像の画角と仰角を一定として処理することを示している。方位角(φ)は、ステップS73で読み出された設置情報に示されている撮影装置10の設置方向と撮影装置10から位置座標の方向との相対値として算出することができる。そして、生成部53は、算出された結果をもとに、撮影装置10が取得する全天球画像から位置座標を中心とした所定領域画像を表示(透視射影表示)させるための所定領域情報を生成する。なお、撮影装置10の設置位置(座標値)および設置方向(撮影装置10の正面がどの方向を向いているか)は、予め管理者等によって設置情報管理DB5004に設定されている。
次に、記憶・読出部59は、所定領域管理DB5003(図18(A)参照)ステップS74で生成された所定領域情報を、撮影装置10のIPアドレスに関連づけて記憶する(ステップS75)。そして、送受信部51は、通信端末70Aに対して、ステップS74で生成された所定領域情報を送信する(ステップS76)。これにより、通信端末70Aの送受信部71は、通信管理システム50から送信された所定領域情報を受信する。
次に、通信端末70Aの記憶・読出部79は、所定領域管理DB7002(図20(B)参照)に対して、ステップS76で受信された所定領域情報を撮影装置10のIPアドレスに関連づけて記憶する(ステップS77)。
次に、利用者A1による所定の入力操作によって、受付部72は、ステップS53で受信された撮影画像データのうち、通信端末70Aに表示させる表示画像の選択を受け付ける(ステップS78)。なお、通信端末70Aが複数の撮影画像を同時に表示することが可能な場合、または受信された撮影画像が通信端末70Aで同時に表示可能な数より少ない場合において、ステップS78の処理は省略されてもよい。
次に、画像・音処理部73は、ステップS76で受信された所定領域情報によって特定される所定領域の画像を表示させるため、受信された所定領域情報を用いた透視射影変換を行うことで、所定領域画像を生成する(ステップS78)。そして、表示制御部74は、ステップS78で生成された所定領域画像を、ディスプレイ706に表示させる(ステップS79)。これにより、通信端末70Aは、表示された全天球画像における、利用者A1によって選択された表示位置を含む所定領域画像を表示させることができる。
○注目点の表示処理○
次に、図27および図28を用いて、通信端末70に配信拠点の注目点の画像を表示させる処理について説明する。図27は、画像通信システムにおける注目点の表示処理の一例を示すシーケンス図である。図27は、図25に示されている処理によって、通信端末70(70A,70B)に撮影画像が表示されている場合の処理を示す。
次に、図27および図28を用いて、通信端末70に配信拠点の注目点の画像を表示させる処理について説明する。図27は、画像通信システムにおける注目点の表示処理の一例を示すシーケンス図である。図27は、図25に示されている処理によって、通信端末70(70A,70B)に撮影画像が表示されている場合の処理を示す。
まず、注目点指定機器20の検知部22は、注目点の指定を検知する(ステップS103)。この場合、検知部22は、例えば、画像認識または各種センサによる検知結果によって配信拠点による異常発生または注目して欲しい事象が発生を検知した場合、注目点の指定を検知する。また、検知部22は、上述のような自動的な検知処理のほか、配信拠点の作業者等によって注目点指定機器20に備えられた専用ボタン等の操作を受け付けることで、注目点の指定を検知する構成であってもよい。
次に、通信部21は、配信端末30に対して、注目点指定情報を送信する(ステップS102)。この注目点指定情報は、注目点指定機器20を識別する注目点IDを含む。これにより、配信端末30の通信部37は、注目点指定機器20から送信された注目点指定情報を受信する。
次に、配信端末30の送受信部31は、通信管理システム50に対して、注目点指定機器20から送信された注目点指定情報を送信する(ステップS103)。これにより、通信管理システム50の送受信部51は、注目点指定情報を受信する。
次に、通信管理システム50の送受信部51は、配信端末30と同じセッションに参加している通信端末(通信端末70A,70B)に対して、注目点指定情報を送信する(ステップS104,S106)。これにより、通信端末70Aおよび通信端末70Bの送受信部71は、それぞれ注目点指定情報を受信する。そして、通信端末70Aおよび通信端末70Bは、受信された注目点指定情報を用いて、注目点の表示処理を実行する(ステップS105,S107)。
ここで、図28を用いて、通信端末70A,70Bにおける注目点の表示処理について詳細に説明する。図28は、通信端末における注目点の表示処理の一例を示すフローチャートである。なお、通信端末70A,70Bの処理は同様であるため、図28は、通信端末70における処理として説明する。
まず、判断部75は、送受信部71によって注目点指定情報が受信された場合、表示画面の表示変更の有無を判断する(ステップS201)。具体的には、判断部75は、受付部72によって利用者の所定の入力操作を受け付けることで、表示変更を受け入れるか否かを判断する。これにより、画像通信システム1は、注目点に対する表示変更を行う通信端末と、表示変更を行わずに現状の表示状態をそのまま継続する通信端末とを併存させることができる。そのため、利用者は、配信拠点の別の箇所を見ている最中である場合等の表示を変更したくない場合に、注目点指定情報が受信された場合であっても、通信端末70の表示を変更しないまま、全天球画像の別の領域を閲覧し続けることができる。
判断部75は、表示画面の表示変更を受け入れると判断する場合(ステップS201のYES)、処理をステップS202へ移行させる。一方で、判断部75は、表示画面の表示変更を受け入れないと判断する場合(ステップS201のNO)、表示変更を行わずに処理を終了する。
次に、注目点特定部77は、表示された撮影画像を撮影した撮影装置10のIPアドレスを検索キーとして注目点管理DB7003(図21参照)を検索することで、撮影装置10のIPアドレスと同じIPアドレスに関連づけれた注目点領域情報を、記憶・読出部79を介して読み出して取得する(ステップS202)。この場合、注目点特定部77は、注目点領域情報のうち、受信された注目点指定情報に含まれる注目点IDに対応する注目点領域情報を取得する。
次に、利用者A1による所定の入力操作によって、受付部72は、ステップS76で取得された注目点領域情報のうち、表示させる表示画像の選択を受け付ける(ステップS203)。なお、通信端末70が複数の撮影画像を同時に表示することが可能な場合、または受信された撮影画像データの数が通信端末70で同時に表示可能な数より少ない場合において、ステップS203の処理は省略されてもよい。
次に、画像・音処理部73は、ステップS203で選択された表示画像に対応する注目点領域情報を用いた透視射影変換を行うことで、所定領域画像を生成する(ステップS204)。そして、表示制御部74は、ステップS204で生成された所定領域画像へ、ディスプレイ706の表示を変更する(ステップS205)。表示制御部74は、例えば、ステップS79で表示された所定領域画像(例えば、第2の所定領域画像)から、ステップS204で生成された所定領域画像(例えば、第1の所定領域画像)に表示を切り替える。
通信端末70は、このような処理を、表示された全ての撮影画像に対して実行する。この場合、通信端末70は、現在表示されている全ての撮影画像ごとの、注目点領域情報を取得する(ステップS202)ことで、全ての撮影画像に注目点が表示される状態に変更することができる。
このように、通信端末70は、注目点指定機器20によって指定された注目点の位置を、予め設定された注目点領域情報に基づいて取得し、取得した注目点領域情報に基づいて指定された注目点が表示されるように生成された所定領域画像を表示する。これにより、通信端末70は、指定された注目点を表示させるように全天球画像の表示位置を変更することで、撮影装置10に対する操作を行わずに、注目点が写る画像を表示させることができる。
また、従来、通常の平面画像を撮影する撮影装置を用いる場合、通信端末に注目点を表示させるためには、撮影装置の向きを物理的に変える必要があった。この場合、他の通信端末に表示させる画像も注目点が表示された画像になってしまう。そこで、画像通信システム1は、撮影装置10によって撮影された全天球画像を用いることで、通信端末70では全天球画像の注目点を写す領域のみを切り出して表示させ、他の通信端末70では別の領域を表示させることができる。
○注目点の表示処理の変形例○
次に、図29を用いて、画像通信システム1における注目点の表示処理の変形例について説明する。図29は、画像通信システムにおける注目点の表示処理の変形例を示すシーケンス図である。図29は、配信拠点に注目点指定機器20が設けられていない場合に、配信拠点の注目点を通信端末70に表示させる場合の例を示す。
次に、図29を用いて、画像通信システム1における注目点の表示処理の変形例について説明する。図29は、画像通信システムにおける注目点の表示処理の変形例を示すシーケンス図である。図29は、配信拠点に注目点指定機器20が設けられていない場合に、配信拠点の注目点を通信端末70に表示させる場合の例を示す。
まず、撮影装置10の通信部11は、配信端末30に対して、撮影画像データおよび音データを送信する(ステップS301)。これにより、配信端末30の送受信部31は、撮影装置10から送信された撮影画像データおよび音データを受信する。
配信端末30の判断部35は、取得された撮影画像データに基づいて、注目点の指定の有無を判断する(ステップS302)。具体的には、判断部35は、例えば、予め設定された配信拠点の基準画像と取得された撮影画像との一致度または類似度等のパラメータが所定の範囲外である場合、注目点の指定を行うと判断する。また、判断部35は、例えば、パラメータが所定の範囲外である全天球画像の位置を、指定する注目点として判断する。なお、以下は、判断部35によって注目点の指定を行うと判断された場合について説明する。
次に、記憶・読出部39は、ステップS302で注目点の指定を行うと判断された場合、指定する注目点として判断された座標値に基づいて、注目点管理DB3003に記憶された注目点指定情報を読み出す(ステップS303)。具体的には、記憶・読出部39は、注目点管理DB3003に記憶された座標値のうち、指定する注目点の座標値に最も近い座標値に関連づけられた注目点IDを注目点指定情報として読み出す。
そして、送受信部31は、通信管理システム50に対して、ステップS301で受信された撮影画像データおよび音データ、並びにステップS303で読み出された注目点指定情報を送信する(ステップS304)。これにより、通信管理システム50の送受信部51は、配信端末30から配信された撮影画像データ、音データおよび注目点指定情報を受信する。以降、ステップS305~ステップS308の処理は、図27のステップS104~ステップS107の処理と同様であるため、説明を省略する。
このように、実施形態の変形例に係る画像通信システムは、配信拠点に注目点指定機器20が設置されていない場合であっても、配信装置が撮影画像の内容に基づいて注目点の指定の有無および注目点の位置を判断することによって、注目すべき領域を通信端末70に表示させる。これにより、画像通信システム1は、注目点指定機器20を備えていない場合であっても、配信端末30によって注目点の指定を行うことができるため、閲覧拠点の利用者に指定された注目点を閲覧させることができる。
●実施形態の効果
以上説明したように、画像通信システム1は、閲覧拠点の通信端末70に対して配信システム3から注目点の指定が行われた場合に、配信拠点の撮影装置10に対する操作を行わずに、指定された注目点の画像を通信端末70に表示させることができる。
以上説明したように、画像通信システム1は、閲覧拠点の通信端末70に対して配信システム3から注目点の指定が行われた場合に、配信拠点の撮影装置10に対する操作を行わずに、指定された注目点の画像を通信端末70に表示させることができる。
また、画像通信システム1は、通信端末70で全天球画像における注目点を写す領域のみを切り出して表示させることで、例えば、他の通信端末70で別の領域が表示されている場合であっても、他の通信端末70では表示変更を行わずに、全天球画像の任意の領域を表示させ続けることができる。
上記実施形態において、所定領域Tは、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮影方向と画角を示す所定領域情報によって特定されるが、これに限るものではない。例えば、画角を一定にして利用する場合等、所定領域Tは、図7において、中心点CPまたは矩形の所定領域Tの四隅の任意の点を示す所定点情報によって特定されるようにしてもよい。また、上記実施形態では、全天球画像(全天球パノラマ画像)の一例として、撮影画像(全体画像)が三次元のパノラマ画像である場合について説明したが、二次元のパノラマ画像であってもよい。
上記実施形態において、閲覧拠点の通信端末70は、閲覧専用の端末である必要は無く、この端末自身から撮影画像が配信されていて、配信機能と閲覧機能を同時に行える構成となっていてもよい。同様に、配信拠点の配信端末30は、配信専用の端末である必要はなく、他の拠点から配信された撮影画像を表示し、配信機能と閲覧機能を同時に行える構成となっていてもよい。このように、画像通信システム1は、複数の拠点の間において、撮影画像の双方向の通信を行うような構成であってもよい。
●まとめ●
以上説明したように、本発明の一実施形態に係る通信端末は、全体画像(例えば、全天球画像)における所定領域の画像を表示可能な通信端末70であって、全体画像が撮影された配信拠点における注目点を含む所定領域(第1の所定領域の一例)を示す注目点領域情報(第1の所定領域情報の一例)を記憶する注目点管理DB7003(記憶手段の一例)と、配信拠点に設置された配信システム3から、注目点を示す注目点指定情報を受信する送受信部71(受信手段の一例)と、受信された注目点指定情報に示されている注目点に対応する注目点領域情報に基づいて、注目点を含む所定領域画像(第1の所定領域画像の一例)を表示する表示制御部74(表示制御手段の一例)と、を備える。これにより、通信端末70は、撮影装置10に対する処理を行わずに、配信システム3で指定された注目点に対応する配信拠点の画像を表示させることができる。
以上説明したように、本発明の一実施形態に係る通信端末は、全体画像(例えば、全天球画像)における所定領域の画像を表示可能な通信端末70であって、全体画像が撮影された配信拠点における注目点を含む所定領域(第1の所定領域の一例)を示す注目点領域情報(第1の所定領域情報の一例)を記憶する注目点管理DB7003(記憶手段の一例)と、配信拠点に設置された配信システム3から、注目点を示す注目点指定情報を受信する送受信部71(受信手段の一例)と、受信された注目点指定情報に示されている注目点に対応する注目点領域情報に基づいて、注目点を含む所定領域画像(第1の所定領域画像の一例)を表示する表示制御部74(表示制御手段の一例)と、を備える。これにより、通信端末70は、撮影装置10に対する処理を行わずに、配信システム3で指定された注目点に対応する配信拠点の画像を表示させることができる。
また、本発明の一実施形態に係る通信端末は、全体画像(例えば、全天球画像)における第2の所定領域の画像である第2の所定領域画像を表示するとともに、注目点指定情報が受信された場合、第2の所定領域画像から注目点を含む所定領域画像(第1の所定領域画像の一例)に表示を変更する。これにより、通信端末70は、表示させる全体画像における領域を、配信システム3で指定された注目点を含む領域に変更することができる。
さらに、本発明の一実施形態に係る通信端末は、注目点指定情報が受信された場合、表示変更の有無を判断する判断部75(第1の判断手段の一例)を備え、表示変更を行うと判断された場合、第2の所定領域画像から注目点を含む所定領域画像(第1の所定領域画像の一例)に表示を変更する。これにより、通信端末70は、注目点指定情報が受信された場合であっても、注目点に対する表示変更を行う場合と、表示変更を行わずに現状の表示状態をそのまま継続する場合を切り替えることができる。
また、本発明の一実施形態に係る画像通信システムは、通信端末70と、配信システム3と、を備える画像通信システム1である。配信システム3は、配信拠点が撮影された全体画像(例えば、全天球画像)を取得する撮影装置10(取得手段の一例)と、取得された全体画像を、通信端末70へ送信する送受信部31(送信手段の一例)と、を備える。また、配信システム3は、注目点を指定する注目点指定機器20を備え、注目点指定機器20によって指定された注目点を示す注目点指定情報を、通信端末70へ送信する。これにより、画像通信システム1は、注目点指定機器20によって指定された注目点を含む所定領域画像を、通信端末70に表示させることで、閲覧拠点の利用者に注目点に対応する配信拠点の画像を閲覧させることができる。また、画像通信システム1は、配信システム3から送信された注目点指定情報を用いて通信端末70が注目点を表示させるための処理を行うことで、複数の通信端末70に異なる領域の画像を表示させることができる。
さらに、本発明の一実施形態に係る画像通信システムにおいて、配信システム3は、取得された全体画像(例えば、全天球画像)に基づいて、注目点の指定の有無を判断する判断部35(第2の判断手段の一例)を備え、注目点の指定を行うと判断された場合、当該注目点を示す注目点指定情報を、通信端末70へ送信する。これにより、画像通信システム1は、配信システム3によって注目点の指定を行うことができるため、閲覧拠点の利用者に指定された注目点を閲覧させることができる。
●補足●
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウエアによって各機能を実行するようプログラミングされたプロセッサ、並びに上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU(Graphics Processing Unit)および従来の回路モジュール等のデバイスを含むものとする。
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウエアによって各機能を実行するようプログラミングされたプロセッサ、並びに上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU(Graphics Processing Unit)および従来の回路モジュール等のデバイスを含むものとする。
また、上記で説明した実施形態の各種テーブルは、機械学習の学習効果によって生成されたものでもよく、関連づけられている各項目のデータを機械学習にて分類付けすることで、テーブルを使用しなくてもよい。ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり,コンピュータが,データ識別等の判断に必要なアルゴリズムを、事前に取り込まれる学習データから自律的に生成し,新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習および深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。
これまで本発明の一実施形態に係る通信端末、画像通信システム、画像表示方法およびプログラムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態の追加、変更または削除等、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
1 画像通信システム
3 配信システム
10 撮影装置(取得手段の一例)
20 注目点指定機器
30 配信端末
31 送受信部(送信手段の一例)
35 判断部(第2の判断手段の一例)
50 通信管理システム
70 通信端末
71 送受信部(受信手段の一例)
74 表示制御部(表示制御手段の一例)
75 判断部(第1の判断手段の一例)
7003 注目点管理DB(記憶手段の一例)
3 配信システム
10 撮影装置(取得手段の一例)
20 注目点指定機器
30 配信端末
31 送受信部(送信手段の一例)
35 判断部(第2の判断手段の一例)
50 通信管理システム
70 通信端末
71 送受信部(受信手段の一例)
74 表示制御部(表示制御手段の一例)
75 判断部(第1の判断手段の一例)
7003 注目点管理DB(記憶手段の一例)
Claims (10)
- 全体画像における所定領域の画像を表示可能な通信端末であって、
前記全体画像が撮影された配信拠点における注目点を含む第1の所定領域を示す第1の所定領域情報を記憶する記憶手段と、
前記配信拠点に設置された配信システムから、前記注目点を示す注目点指定情報を受信する受信手段と、
前記受信手段で受信された前記注目点指定情報に示されている前記注目点に対応する前記第1の所定領域情報に基づいて、第1の所定領域画像を表示する表示制御手段と、
を備える通信端末。 - 前記表示制御手段は、前記全体画像における第2の所定領域の画像である第2の所定領域画像を表示するとともに、前記注目点指定情報が受信された場合、前記第2の所定領域画像から前記第1の所定領域画像に表示を変更する請求項1に記載の通信端末。
- 請求項2に記載の通信端末であって、更に、
前記注目点指定情報が受信された場合、表示変更の有無を判断する第1の判断手段を備え、
前記表示制御手段は、前記表示変更を行うと判断された場合、前記第2の所定領域画像から前記第1の所定領域画像に表示を変更する通信端末。 - 前記表示制御手段は、異なる撮影装置によって撮影された全体画像における前記第1の所定領域の画像である複数の前記第1の所定領域画像を表示する請求項1乃至3のいずれか一項に記載の通信端末。
- 前記全体画像は、全天球画像である請求項1乃至4のいずれか一項に記載の通信端末。
- 請求項1乃至5のいずれか一項に記載の通信端末と、前記配信システムと、を備える画像通信システムであって、
前記配信システムは、
前記配信拠点が撮影された前記全体画像を取得する取得手段と、
前記取得手段で取得された前記全体画像を、前記通信端末へ送信する送信手段と、
を備える画像通信システム。 - 請求項6に記載の画像通信システムであって、
前記配信システムは、更に、
前記注目点を指定する注目点指定機器を備え、
前記送信手段は、前記注目点指定機器によって指定された前記注目点を示す前記注目点指定情報を、前記通信端末へ送信する画像通信システム。 - 請求項6に記載の画像通信システムであって、
前記配信システムは、更に、
前記取得手段で取得された前記全体画像に基づいて、前記注目点の指定の有無を判断する第2の判断手段を備え、
前記注目点の指定を行うと判断された場合、前記送信手段は、当該注目点を示す前記注目点指定情報を、前記通信端末へ送信する画像通信システム。 - 全体画像における所定領域の画像を表示可能な通信端末が実行する画像表示方法であって、
前記通信端末は、
前記全体画像が撮影された配信拠点における注目点を含む第1の所定領域を示す第1の所定領域情報を記憶する記憶手段を備え、
前記配信拠点に設置された配信システムから、前記注目点を示す注目点指定情報を受信する受信ステップと、
前記受信ステップで受信された前記注目点指定情報に示されている前記注目点に対応する前記第1の所定領域に基づいて、第1の所定領域画像を表示する表示制御ステップと、
を実行する画像表示方法。 - 全体画像における所定領域の画像を表示可能な通信端末に実行させるプログラムであって、
前記通信端末は、
前記全体画像が撮影された配信拠点における注目点を含む第1の所定領域を示す第1の所定領域情報を記憶する記憶手段を備え、
前記配信拠点に設置された配信システムから、前記注目点を示す注目点指定情報を受信する受信ステップと、
前記受信ステップで受信された前記注目点指定情報に示されている前記注目点に対応する前記第1の所定領域に基づいて、第1の所定領域画像を表示する表示制御ステップと、
を実行させるプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020145154A JP2022040434A (ja) | 2020-08-31 | 2020-08-31 | 通信端末、画像通信システム、画像表示方法およびプログラム |
EP21192500.3A EP3962090A1 (en) | 2020-08-31 | 2021-08-23 | Communication terminal, image communication system, method for displaying image, and carrier means |
US17/460,333 US20220070412A1 (en) | 2020-08-31 | 2021-08-30 | Communication terminal, image communication system, method of displaying image, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020145154A JP2022040434A (ja) | 2020-08-31 | 2020-08-31 | 通信端末、画像通信システム、画像表示方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022040434A true JP2022040434A (ja) | 2022-03-11 |
Family
ID=77447749
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020145154A Pending JP2022040434A (ja) | 2020-08-31 | 2020-08-31 | 通信端末、画像通信システム、画像表示方法およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220070412A1 (ja) |
EP (1) | EP3962090A1 (ja) |
JP (1) | JP2022040434A (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022186117A (ja) | 2021-06-04 | 2022-12-15 | 株式会社リコー | 通信端末、画像通信システム、画像表示方法およびプログラム |
JP2023048464A (ja) | 2021-09-28 | 2023-04-07 | 株式会社リコー | メディア配信システム、通信システム、配信制御装置、配信制御方法及びプログラム |
JP2023081226A (ja) | 2021-11-30 | 2023-06-09 | 株式会社リコー | 通信管理装置、通信システム、通信管理方法、及びプログラム |
US20230308602A1 (en) * | 2022-03-23 | 2023-09-28 | Lenovo (Singapore) Pte. Ltd. | Meeting video feed fusion |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8957940B2 (en) * | 2013-03-11 | 2015-02-17 | Cisco Technology, Inc. | Utilizing a smart camera system for immersive telepresence |
KR102161210B1 (ko) * | 2015-01-15 | 2020-09-29 | 한화테크윈 주식회사 | 다중 비디오써머리제공방법 및 장치 |
US10636154B2 (en) * | 2015-04-01 | 2020-04-28 | Owl Labs, Inc. | Scaling sub-scenes within a wide angle scene by setting a width of a sub-scene video signal |
JP6070783B2 (ja) | 2015-07-13 | 2017-02-01 | 沖電気工業株式会社 | 情報処理装置、プログラム及び情報処理方法 |
US9769419B2 (en) * | 2015-09-30 | 2017-09-19 | Cisco Technology, Inc. | Camera system for video conference endpoints |
US10911694B2 (en) * | 2017-03-15 | 2021-02-02 | Gvbb Holdings S.A.R.L. | System and method for creating metadata model to improve multi-camera production |
US11503085B2 (en) * | 2017-06-30 | 2022-11-15 | Polycom, Inc. | Multimedia composition in meeting spaces |
US10091412B1 (en) * | 2017-06-30 | 2018-10-02 | Polycom, Inc. | Optimal view selection method in a video conference |
EP3461124B1 (en) * | 2017-09-25 | 2024-05-01 | Ricoh Company, Ltd. | Communication terminal, image communication system, display control method, and carrier means |
JP7095361B2 (ja) * | 2018-03-29 | 2022-07-05 | 株式会社リコー | 通信端末、画像通信システム、表示方法、及びプログラム |
CN112307848B (zh) * | 2019-08-01 | 2024-04-30 | 惠普发展公司,有限责任合伙企业 | 检测视频会议中的欺骗说话者 |
-
2020
- 2020-08-31 JP JP2020145154A patent/JP2022040434A/ja active Pending
-
2021
- 2021-08-23 EP EP21192500.3A patent/EP3962090A1/en active Pending
- 2021-08-30 US US17/460,333 patent/US20220070412A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP3962090A1 (en) | 2022-03-02 |
US20220070412A1 (en) | 2022-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10979751B2 (en) | Communication management apparatus, method and computer-readable storage medium for generating image data identification information communication | |
US11558431B2 (en) | Communication terminal, communication system, communication method, and display method | |
US10721116B2 (en) | Communication terminal, method for controlling display of image, and non-transitory computer-readable storage medium | |
US10764513B2 (en) | Communication terminal, image data communication system, and communication method | |
JP7400195B2 (ja) | 画像通信システム、撮像装置、通信端末、モード切替方法、プログラム | |
JP7095361B2 (ja) | 通信端末、画像通信システム、表示方法、及びプログラム | |
JP2022040434A (ja) | 通信端末、画像通信システム、画像表示方法およびプログラム | |
JP7192592B2 (ja) | 撮像装置、画像通信システム、画像処理方法、プログラム | |
US11743590B2 (en) | Communication terminal, image communication system, and method for displaying image | |
JP2018129716A (ja) | 画像処理装置、画像処理システム、画像処理方法及びプログラム | |
US11736802B2 (en) | Communication management apparatus, image communication system, communication management method, and recording medium | |
US11818492B2 (en) | Communication management apparatus, image communication system, communication management method, and recording medium | |
JP7017045B2 (ja) | 通信端末、表示方法、及びプログラム | |
US11863871B2 (en) | Communication terminal, image communication system, and method of displaying image | |
JP7472556B2 (ja) | 撮像装置、通信システム、コンテンツ送信方法 | |
JP6992338B2 (ja) | 通信システム、通信管理方法、プログラム、システム及び通信方法 | |
JP2020155847A (ja) | 通信端末、画像通信システム、表示方法、及びプログラム | |
JP2017041881A (ja) | 保安器具、画像通信システム、照射方法及びプログラム | |
JP2017037423A (ja) | 画像管理システム、画像管理方法、画像通信システム及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230605 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20231023 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240410 |