JP2003115050A - 映像データ処理装置及び映像データ処理方法、データ配信装置及びデータ配信方法、データ受信装置及びデータ受信方法、記憶媒体、並びにコンピュータ・プログラム - Google Patents

映像データ処理装置及び映像データ処理方法、データ配信装置及びデータ配信方法、データ受信装置及びデータ受信方法、記憶媒体、並びにコンピュータ・プログラム

Info

Publication number
JP2003115050A
JP2003115050A JP2001308522A JP2001308522A JP2003115050A JP 2003115050 A JP2003115050 A JP 2003115050A JP 2001308522 A JP2001308522 A JP 2001308522A JP 2001308522 A JP2001308522 A JP 2001308522A JP 2003115050 A JP2003115050 A JP 2003115050A
Authority
JP
Japan
Prior art keywords
data
rectangular plane
image
video
cameras
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2001308522A
Other languages
English (en)
Inventor
Teiji Koga
禎治 古賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2001308522A priority Critical patent/JP2003115050A/ja
Priority to US10/263,918 priority patent/US7145947B2/en
Publication of JP2003115050A publication Critical patent/JP2003115050A/ja
Abandoned legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23602Multiplexing isochronously with the video sync, e.g. according to bit-parallel or bit-serial interface formats, as SDI
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2389Multiplex stream processing, e.g. multiplex stream encrypting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4342Demultiplexing isochronously with video sync, e.g. according to bit-parallel or bit-serial interface formats, as SDI
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4345Extraction or processing of SI, e.g. extracting service information from an MPEG stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
    • H04N21/4385Multiplex stream processing, e.g. multiplex stream decrypting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440263Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • G03B17/17Bodies with reflectors arranged in beam forming the photographic image, e.g. for reducing dimensions of camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/04Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

(57)【要約】 【課題】 複数台のカメラによる撮影映像からなる全方
位映像を受信機側でシームレスに切り換えていくことが
できるように配信する。 【解決手段】 元は各カメラ11A〜11Hの映像フレ
ームを円筒側面上に配置されてなるパノラマ映像を、2
等分して、後半のフレーム分割部分を前半のフレーム分
割部分の下部に配置する。さらに、分割された一方の端
縁に隣接するカメラの映像フレームを余分に貼り合わ
せ、全方位映像の両端縁付近では、貼り付けられたカメ
ラの映像フレームが重複するように再配置して、カメラ
DとカメラEの映像フレームにまたがる領域をシームレ
スに切り換えることを可能にする。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、カメラによって撮
影された映像を配信するための映像データ処理装置及び
映像データ処理方法、データ配信装置及びデータ配信方
法、データ受信装置及びデータ受信方法、並びに記憶媒
体に係り、特に、空間中のある1つの点が視点として周
囲の画像を撮影するように複数台のカメラが設置して構
成される全方位カメラにより撮影した映像を配信するた
めの映像データ処理装置及び映像データ処理方法、デー
タ配信装置及びデータ配信方法、データ受信装置及びデ
ータ受信方法、並びに記憶媒体に関する。
【0002】更に詳しくは、本発明は、複数台のカメラ
による撮影映像からなる撮影映像を受信機側において任
意の場所の映像が選択できるように配信するための映像
データ処理装置及び映像データ処理方法、データ配信装
置及びデータ配信方法、データ受信装置及びデータ受信
方法、並びに記憶媒体に係り、特に、複数台のカメラに
よる撮影映像からなる撮影映像を受信機側でシームレス
に切り換えていくことができるように配信するための映
像データ処理装置及び映像データ処理方法、データ配信
装置及びデータ配信方法、データ受信装置及びデータ受
信方法、並びに記憶媒体に関する。
【0003】
【従来の技術】ユーザの周囲の風景画像を提供する装置
として全方位カメラが知られている。この種の周囲カメ
ラ・システムは、例えば、空間中のある1つの点が視点
として周囲の画像を撮影するように複数台のカメラが設
置して構成される。複数のカメラからなる周囲カメラ・
システム又は全方位カメラ・システムは、隣り合うカメ
ラの撮像画像の境界同士をうまく接続することによっ
て、個々のカメラの視野よりもはるかに広い領域の画像
を、あたかも単一の広角度カメラで撮像したかのような
画像を生成する画像処理を行う。
【0004】視野角の広いレンズを用いればカメラは広
範囲を撮像することができるが、その分だけ解像度が低
下して細部が見えづらくなる。これに対し、周囲カメラ
・システムによれば、広範囲の撮像画像を高解像度のま
ま提供することができる。
【0005】他方、情報通信技術の発達に伴い、カメラ
の撮影映像を、各種の配信媒体を介して遠隔地に配信す
るという要望がある。
【0006】地上波放送、衛星放送、ケーブル・テレビ
放送、ハイビジョン放送など従来の放送技術では、受信
する映像は基本的には1つのチャンネルにつき1つの映
像となっている。また、映像の画角も、あらかじめ送出
側で収録する時点で決められてしまうもので、受信して
いるユーザ側で任意の場所の映像を選択することはでき
ない。
【0007】このため、複数台のカメラ映像からなる全
方位映像のうち任意の画角を受信側で選択できるように
するためには、それぞれ1台のカメラ映像からなる複数
のチャンネルを同時に受信する必要がある。しかしなが
ら、これを実現するためには、受信機側でもコストを要
するハードウェアの改造が必要となる。
【0008】また、ハードウェアの改造により受信機側
で複数の映像を同時に見ることができるようになったと
しても、隣接するカメラの撮影映像間をシームレスに切
り換えていくことは困難である。
【0009】また、実験的に複数のチャンネルでマルチ
アングル映像を流して、受信機側でチャンネル切り換え
を行って放送することも可能であるが、この場合であっ
ても、各カメラの映像をシームレスに切り換えることは
困難であり、送信側でも高い制作コストを強いることに
なる。
【0010】
【発明が解決しようとする課題】本発明の目的は、空間
中のある1つの点が視点として周囲の映像を撮影するよ
うに複数台のカメラが設置して構成される全方位カメラ
により撮影した映像を好適に配信することができる、優
れた映像データ処理装置及び映像データ処理方法、デー
タ配信装置及びデータ配信方法、データ受信装置及びデ
ータ受信方法、並びに記憶媒体を提供することにある。
【0011】本発明の更なる目的は、複数台のカメラに
よる撮影映像からなる撮影映像を受信機側において任意
の場所の映像が選択できるように配信することができ
る、優れた映像データ処理装置及び映像データ処理方
法、データ配信装置及びデータ配信方法、データ受信装
置及びデータ受信方法、並びに記憶媒体を提供すること
にある。
【0012】本発明の更なる目的は、複数台のカメラに
よる撮影映像からなる全方位映像を受信機側でシームレ
スに切り換えていくことができるように配信することが
できる、優れた映像データ処理装置及び映像データ処理
方法、データ配信装置及びデータ配信方法、データ受信
装置及びデータ受信方法、並びに記憶媒体を提供するこ
とにある。
【0013】
【課題を解決するための手段及び作用】本発明は、上記
課題を参酌してなされたものであり、その第1の側面
は、空間中のある1つの点を視点として周囲の画像を撮
影するように視線方向が1つの水平面上で所定角度間隔
で設置された複数台のカメラからの映像データを処理す
る映像データ処理装置又は映像データ処理方法であっ
て、各カメラによる映像データをカメラを設置した順番
に従って貼り合わせて第1の長方形平面の映像を生成す
る手段又はステップと、前記第1の長方形平面を等分割
して分割された各断片を上から順に配置して第2の長方
形平面を生成する手段又はステップと、前記各断片の左
右一方の端縁から所定面積の領域を当該端縁と接続する
他方の断片の端縁に複製して、第3の長方形平面を生成
する手段又はステップと、前記第3の長方形平面が所定
の符号化方式に収容するサイズとなるように縮小処理し
て第4の長方形平面を生成する手段又はステップと、前
記第4の長方形平面が前記所定の画像圧縮方式に適合す
るように未使用領域にダミー・データを付加して第5の
長方形平面を生成する手段又はステップと、を具備する
ことを特徴とする映像データ処理装置又は映像データ処
理方法である。
【0014】ここで、前記符号化方式は、ハイビジョン
放送用の放送波として映像データを搬送するためのHD
(High Definition)−MPEG2(Moving Picture Ex
perts Group 2)方式である。
【0015】また、本発明の第1の側面に係る映像デー
タ処理装置又は映像データ処理方法は、第5の長方形平
面が時系列的に配列されたビットマップ連番ファイルの
データをレンダリングする手段又はステップや、所定の
出力信号に変換し、前記符号化方式により符号化圧縮し
て、トランスポート・ストリーム・データを生成する手
段又はステップをさらに備えていていもよい。
【0016】また、本発明の第2の側面は、空間中のあ
る1つの点を視点として周囲の画像を撮影するように視
線方向が1つの水平面上で所定角度間隔で設置された複
数台のカメラからの映像データを受信機側で自由に視点
を切り換えられるように配信するデータ配信装置又はデ
ータ配信方法であって、各カメラによる映像データをカ
メラを設置した順番に従って貼り合わせて第1の長方形
平面の映像を生成する手段又はステップと、前記第1の
長方形平面を等分割して分割された各断片を上から順に
配置して第2の長方形平面を生成する手段又はステップ
と、前記各断片の左右一方の端縁から所定面積の領域を
当該端縁と接続する他方の断片の端縁に複製して、第3
の長方形平面を生成する手段又はステップと、前記第3
の長方形平面が所定の符号化方式に収容するサイズとな
るように縮小処理して第4の長方形平面を生成する手段
又はステップと、前記第4の長方形平面が前記所定の画
像圧縮方式に適合するように未使用領域にダミー・デー
タを付加して第5の長方形平面を生成する手段又はステ
ップと、第5の長方形平面が時系列的に配列されたビッ
トマップ連番ファイルのデータをレンダリングする手段
又はステップと、レンダリングされたビットマップ連番
ファイルのデータを、所定の出力信号に変換し、前記符
号化方式により符号化圧縮して、トランスポート・スト
リーム・データを生成する手段又はステップと、トラン
スポート・ストリーム・データを送出する手段又はステ
ップと、を具備することを特徴とするデータ配信装置又
はデータ配信方法である。
【0017】本発明の第2の側面に係るデータ配信装置
又はデータ配信方法は、トランスポート・ストリーム・
データが視点自由形である旨を示す情報を付加する手段
又はステップをさらに備えていてもよい。
【0018】本発明の第1の側面に係る映像データ処理
装置又は映像データ処理方法、並びに、第2の側面に係
るデータ配信装置およびデータ配信方法によれば、空間
中のある1つの点を視点とするように複数のカメラで撮
影された全方位映像は、HD−MPEGなどの放送用の
符号化方式のサイズに適合するように、貼り合わせ、等
分割、配置、並びに縮小処理が行われるとともに、未使
用領域にはダミー・データが付加される。さらに、受信
機側では映像データの中から任意の視点をシームレスに
切り出して表示できるように、全方位映像の両端縁付近
では、貼り付けられたカメラの映像フレームが重複する
ように再配置するようにした。
【0019】したがって、このようなトランスポート・
ストリームを受信する受信機側では、視点自由形の受信
を行うことができる。すなわち、全方位映像フレームの
中から視聴ユーザが指定する任意の画角をシームレスに
切り出して表示することができる。視聴ユーザは、表示
中の映像が全方位カメラのどのカメラの映像フレームに
よるものかをまったく意識する必要がない。
【0020】また、本発明の第3の側面は、空間上に配
置された被写体を複数台のカメラで取り囲んで被写体を
複数の視野角から撮影したマルチアングル映像データを
処理する映像データ処理装置又は映像データ処理方法で
あって、各カメラによる映像データをカメラを設置した
順番に従って貼り合わせて第1の長方形平面の映像を生
成する手段又はステップと、前記第1の長方形平面が所
定の符号化方式に収容するサイズとなるように縮小処理
して第2の長方形平面を生成する手段又はステップと、
前記第2の長方形平面が前記所定の画像圧縮方式に適合
するように未使用領域にダミー・データを付加して第3
の長方形平面を生成する手段又はステップと、を具備す
ることを特徴とする映像データ処理装置又は映像データ
処理方法である。
【0021】ここで、前記符号化方式は、ハイビジョン
放送用の放送波として映像データを搬送するためのHD
(High Definition)−MPEG2(Moving Picture Ex
perts Group 2)方式である。
【0022】また、本発明の第3の側面に係る映像デー
タ処理装置又は映像データ処理方法は、第3の長方形平
面が時系列的に配列されたビットマップ連番ファイルの
データをレンダリングする手段又はステップや、所定の
出力信号に変換し、前記符号化方式により符号化圧縮し
て、トランスポート・ストリーム・データを生成する手
段又はステップをさらに備えていていもよい。
【0023】また、本発明の第4の側面は、空間上に配
置された被写体を複数台のカメラで取り囲んで被写体を
複数の視野角から撮影したマルチアングル映像データを
受信機側で自由に視点を切り換えられるように配信する
データ配信装置又はデータ配信方法であって、各カメラ
による映像データをカメラを設置した順番に従って貼り
合わせて第1の長方形平面の映像を生成する手段又はス
テップと、前記第1の長方形平面が所定の符号化方式に
収容するサイズとなるように縮小処理して第2の長方形
平面を生成する手段又はステップと、前記第2の長方形
平面が前記所定の画像圧縮方式に適合するように未使用
領域にダミー・データを付加して第3の長方形平面を生
成する手段又はステップと、第3の長方形平面が時系列
的に配列されたビットマップ連番ファイルのデータをレ
ンダリングする手段又はステップと、レンダリングされ
たビットマップ連番ファイルのデータを、所定の出力信
号に変換し、前記符号化方式により符号化圧縮して、ト
ランスポート・ストリーム・データを生成する手段又は
ステップと、トランスポート・ストリーム・データを送
出する手段又はステップと、を具備することを特徴とす
るデータ配信装置又はデータ配信方法である。
【0024】本発明の第4の側面に係るデータ配信装置
又はデータ配信方法は、トランスポート・ストリーム・
データが視点自由形である旨を示す情報を付加する手段
又はステップをさらに備えていてもよい。
【0025】本発明の第3の側面に係る映像データ処理
装置又は映像データ処理方法、並びに、第4の側面に係
るデータ配信装置およびデータ配信方法によれば、空間
上に配置された被写体を複数台のカメラで取り囲んで被
写体を複数の視野角から撮影したマルチアングル映像デ
ータは、HD−MPEGなどの放送用の符号化方式のサ
イズに適合するように、貼り合わせ、配置、並びに縮小
処理が行われるとともに、未使用領域にはダミー・デー
タが付加される。
【0026】したがって、このようなトランスポート・
ストリームを受信する受信機側では、視点自由形の受信
を行うことができる。すなわち、マルチアングル映像フ
レームの中から視聴ユーザが指定する任意の画角を切り
出して表示することができる。視聴ユーザは、表示中の
映像がマルチアングル・カメラのどのカメラの映像フレ
ームによるものかをまったく意識する必要がない。
【0027】また、本発明の第5の側面は、空間中のあ
る1つの点を視点として周囲の画像を撮影するように視
線方向が1つの水平面上で所定角度間隔で設置された複
数台のカメラからの映像データの処理をコンピュータ・
システム上で実行するように記述されたコンピュータ・
ソフトウェアをコンピュータ可読形式で物理的に格納し
た記憶媒体であって、前記コンピュータ・ソフトウェア
は、各カメラによる映像データをカメラを設置した順番
に従って貼り合わせて第1の長方形平面の映像を生成す
るステップと、前記第1の長方形平面を等分割して分割
された各断片を上から順に配置して第2の長方形平面を
生成するステップと、前記各断片の左右一方の端縁から
所定面積の領域を当該端縁と接続する他方の断片の端縁
に複製して、第3の長方形平面を生成するステップと、
前記第3の長方形平面が所定の符号化方式に収容するサ
イズとなるように縮小処理して第4の長方形平面を生成
するステップと、前記第4の長方形平面が前記所定の画
像圧縮方式に適合するように未使用領域にダミー・デー
タを付加して第5の長方形平面を生成するステップと、
を具備することを特徴とする記憶媒体である。
【0028】また、本発明の第6の側面は、空間上に配
置された被写体を複数台のカメラで取り囲んで被写体を
複数の視野角から撮影したマルチアングル映像データの
処理をコンピュータ・システム上で実行するように記述
されたコンピュータ・ソフトウェアをコンピュータ可読
形式で物理的に格納した記憶媒体であって、前記コンピ
ュータ・ソフトウェアは、各カメラによる映像データを
カメラを設置した順番に従って貼り合わせて第1の長方
形平面の映像を生成するステップと、前記第1の長方形
平面が所定の符号化方式に収容するサイズとなるように
縮小処理して第2の長方形平面を生成するステップと、
前記第2の長方形平面が前記所定の画像圧縮方式に適合
するように未使用領域にダミー・データを付加して第3
の長方形平面を生成するステップと、を具備することを
特徴とする記憶媒体である。
【0029】本発明の第5及び第6の各側面に係る記憶
媒体は、例えば、さまざまなプログラム・コードを実行
可能な汎用コンピュータ・システムに対して、コンピュ
ータ・ソフトウェアをコンピュータ可読な形式で提供す
る媒体である。このような媒体は、例えば、CD(Comp
act Disc)やFD(Floppy Disc)、MO(Magneto-Opt
ical disc)などの着脱自在で可搬性の記憶媒体であ
る。ここで言う記憶媒体は、パッケージ・メディアのみ
ならず、プログラムが一時的若しくは永続的に格納され
る半導体メモリや磁気ディスクなどで実現してもよい。
あるいは、ネットワーク(ネットワークは無線、有線の
区別を問わない)などの伝送媒体などを経由してコンピ
ュータ・ソフトウェアを特定のコンピュータ・システム
に提供することも技術的に可能である。
【0030】このようなプログラム記憶媒体は、コンピ
ュータ・システム上で所定のコンピュータ・ソフトウェ
アの機能を実現するための、コンピュータ・ソフトウェ
アと記憶媒体との構造上又は機能上の協働的関係を定義
したものである。換言すれば、本発明の第5及び第6の
側面に係る記憶媒体を介して所定のコンピュータ・ソフ
トウェアをコンピュータ・システムにインストールする
ことによって、コンピュータ・システム上では協働的作
用が発揮され、本発明の第1及び第3の各側面に係る映
像データ処理装置又は映像データ処理方法と同様の作用
効果を得ることができる。
【0031】また、本発明の第7の側面は、空間中のあ
る1つの点を視点として周囲の画像を撮影するように視
線方向が1つの水平面上で所定角度間隔で設置された複
数台のカメラからの映像データの処理をコンピュータ・
システム上で実行するように記述されたコンピュータ・
プログラムであって、各カメラによる映像データをカメ
ラを設置した順番に従って貼り合わせて第1の長方形平
面の映像を生成するステップと、前記第1の長方形平面
を等分割して分割された各断片を上から順に配置して第
2の長方形平面を生成するステップと、前記各断片の左
右一方の端縁から所定面積の領域を当該端縁と接続する
他方の断片の端縁に複製して、第3の長方形平面を生成
するステップと、前記第3の長方形平面が所定の符号化
方式に収容するサイズとなるように縮小処理して第4の
長方形平面を生成するステップと、前記第4の長方形平
面が前記所定の画像圧縮方式に適合するように未使用領
域にダミー・データを付加して第5の長方形平面を生成
するステップと、を具備することを特徴とするコンピュ
ータ・プログラムである。
【0032】また、本発明の第8の側面は、空間上に配
置された被写体を複数台のカメラで取り囲んで被写体を
複数の視野角から撮影したマルチアングル映像データの
処理をコンピュータ・システム上で実行するように記述
されたコンピュータ・プログラムであって、各カメラに
よる映像データをカメラを設置した順番に従って貼り合
わせて第1の長方形平面の映像を生成するステップと、
前記第1の長方形平面が所定の符号化方式に収容するサ
イズとなるように縮小処理して第2の長方形平面を生成
するステップと、前記第2の長方形平面が前記所定の画
像圧縮方式に適合するように未使用領域にダミー・デー
タを付加して第3の長方形平面を生成するステップと、
を具備することを特徴とするコンピュータ・プログラム
である。
【0033】本発明の第7及び第8の各側面に係るコン
ピュータ・プログラムは、コンピュータ・システム上で
所定の処理を実現するようにコンピュータ可読形式で記
述されたコンピュータ・プログラムを定義したものであ
る。換言すれば、本発明の第7及び第8の各側面に係る
コンピュータ・プログラムをコンピュータ・システムに
インストールすることによって、コンピュータ・システ
ム上では協働的作用が発揮され、本発明の第1及び第2
の各側面に係る本発明の第1及び第3の各側面に係る映
像データ処理装置又は映像データ処理方法と同様の作用
効果を得ることができる。
【0034】本発明のさらに他の目的、特徴や利点は、
後述する本発明の実施例や添付する図面に基づくより詳
細な説明によって明らかになるであろう。
【0035】
【発明の実施の形態】以下、図面を参照しながら本発明
の実施形態について詳解する。
【0036】A.360度映像視点自由型放送 まず、本発明の1つの実施形態として、空間上のある1
つの点を視点としてその周囲の全方位映像を同時に撮影
するタイプの全方位カメラによる360度映像を、視点
自由型映像として送信する例について説明する。後述す
るように、この実施形態によれば、受信機ユーザ側で
は、全方位映像の中から任意の視点の映像フレームを切
り出して視聴することができる。
【0037】図1には、本実施形態に適用される、空間
中のある1つの点を視点としてその360度の全方位映
像を同時に撮影するタイプの全方位カメラ10の構成を
示している。
【0038】同図に示すように、全方位カメラ10は、
所定の円周方向に略等間隔に配列された8台のカメラ1
1A〜11Hと、各カメラ11A…毎にその視線方向に
配設された8枚の平面鏡が8角錐上に配設された反射部
12とで構成される。ここで、各カメラ11A〜11H
の投影中心が全方位カメラ10の中央付近で一致するよ
うに、且つ、各カメラ11A〜11Hの視線方向が1つ
の水平面上で所定角度間隔を置くように、各カメラ11
A〜11Hが設置されている。
【0039】各カメラ11A…が対応する平面鏡で反射
された周囲の情景を撮影することにより、全方位カメラ
10全体としては、水平方向360度の映像の鏡像を撮
影することができる。
【0040】各カメラ11A…にそれぞれVTRを接続
することにより、合計8本の映像(及び音声)ストリー
ムを記録することができる。また、各カメラ11A…で
記録された映像ストリームをビデオ・キャプチャ・カー
ドを介してコンピュータ・データ(ビットマップ・ファ
イル)としてコンピュータ内に取り込むことにより、8
本のカメラ映像を貼り合わせて、1本の水平方向360
度の全方位映像を生成することができる。
【0041】VTRで収録された各カメラ映像をコンピ
ュータによりビットマップ・ファイルとしてキャプチャ
リングした時点では、1本の映像ストリームのおける1
フレームの映像は、720×480画素からなる静止画
として表される。
【0042】図1に示す全方位カメラ10の構成では、
各カメラ11A…の撮像映像は90ど回転した形で収録
されている。カメラ画角の関係と8台のカメラ11A…
の視点を一致させる都合上、8本の映像ストリームを貼
り合わせる前に、図2に示すように、90度回転やミラ
ー反転などの加工処理を行う。
【0043】図3には、8台のカメラ11A〜11Hで
撮影された映像素材データの各Mフレームについて90
度回転やミラー反転などの加工を行うための処理手順を
フローチャートの形式で示している。このような処理手
順は、例えば、各カメラ11A〜11Hの映像フレーム
をキャプチャリングしたコンピュータ上で、所定の制御
プログラムを実行するという形態で実現される。但し、
n及びmはそれぞれ、カメラ、フレーム数を計数するた
めに導入された変数である。
【0044】まず、n及びmにそれぞれ初期値1を代入
する(ステップS1,S2)。そして、n台目のカメラ
のmフレーム目の映像データについてのキャプチャリン
グを行う(ステップS3)。
【0045】次いで、キャプチャリングされたビットマ
ップ映像フレームに対して、n台目のカメラが持つ歪み
パラメータを基に、レンズ歪み補正を行う(ステップS
4)。
【0046】そして、図2に示したように、レンズ歪み
補正されたビットマップ映像フレームを90度回転(ス
テップS5)、並びにミラー反転を施してから(ステッ
プS6)、ハード・ディスク装置などにデータ保存する
(ステップS7)。
【0047】次いで、mを1だけインクリメントして
(ステップS8)、フレーム数mが最大フレーム数Mに
到達していなければ(ステップS9)、ステップS3に
戻って、上述の映像フレーム・データの加工処理を繰り
返し実行する。
【0048】他方、n台目のカメラについての処理フレ
ーム数が所定値Mに到達した場合には、nを1だけイン
クリメントして(ステップS10)、nが8に到達して
いなければ(ステップS11)、ステップS2に復帰し
て、次のカメラの映像フレームについて上述の映像フレ
ーム・データの加工処理を繰り返し実行する。
【0049】また、8台すべてのカメラ11A〜11H
についてデータ加工を終えたならば、データを保存して
(ステップS12)、本処理ルーチン全体を終了する。
【0050】図3に示したような各カメラ11A…毎の
映像フレーム・データの加工を行った後、各カメラ11
A…の同期した8枚の映像フレームを、図4に示すよう
に貼り合わせて、1枚のフレームを生成する。このと
き、全方位カメラ10の構成として各カメラ11A〜1
1Hが設置された順番(図1を参照のこと)に従って各
映像フレームを円筒側面上に配置することにより、貼り
合わせた映像フレームは全方位カメラ10が捉えた36
0度の全方位映像を表すことができる。
【0051】このような全方位映像フレームを地上波放
送、衛星放送、ケーブル・テレビ放送、ハイビジョン放
送などによって配信した場合、受信機側では、受信した
全方位映像フレームの中から視聴ユーザが指定した画角
を切り出して表示することにより、元はどのカメラ11
A…で撮影した映像であるかを意識することなく、全方
位の情景から任意の画角をシームレスに視聴することが
できる。例えば、図4に示す全方位映像フレームにおい
て、画角F1が視聴ユーザによって指定された場合、受
信機上ではこれに該当する映像フレームが切り出されて
表示されるが、カメラ11A及び11Bで撮影した映像
フレームを接続してできたものであることを視聴ユーザ
が意識する必要はない。同様に、画角をF2に移動させ
た場合であっても、受信機上ではこれに該当する映像フ
レームが切り出されて表示されるが、カメラ11C及び
11Dで撮影した映像フレームを接続してできたもので
あることを視聴ユーザが意識する必要はない。
【0052】但し、映像フレームを地上波放送、衛星放
送、ケーブル・テレビ放送、ハイビジョン放送などによ
って配信する場合には、映像フレームはデータ量が膨大
であることから、例えばHD(High Definition)−M
PEG2(Moving Picture Experts Group 2)方式など
によって画像圧縮を行う。このとき、全方位映像をHD
−MPEG2のサイズに合わせ込むという要請から、縦
横比を該画像圧縮方式により近いものにする必要があ
る。このために、図4に示したように、元は各カメラ1
1A〜11Hの映像フレームを円筒側面上に配置されて
なる全方位映像を、2等分して、後半のフレーム分割部
分を前半のフレーム分割部分の下部に配置するようにし
ている。
【0053】このようなフレーム分割並びに再配置を行
った結果として、カメラ11Aとカメラ11Hの映像フ
レーム、並びに、カメラDとカメラEの映像フレーム
は、本来連続したものであるが、データ配信される全方
位映像フレーム上では、図4に示すように離れた場所に
配置されてしまう。
【0054】このような場合、受信機側で全方位映像の
画角を移動させていった場合、カメラHとカメラAの映
像フレームにまたがる領域や、カメラDとカメラEの映
像フレームにまたがる領域をシームレスに切り換えるこ
とは困難である。
【0055】そこで、本実施形態では、円筒側面状の全
方位映像フレームを分割並びに再配置する際に、分割さ
れた一方の端縁に隣接するカメラの映像フレームを余分
に貼り合わせるようにした。すなわち、全方位映像の両
端縁付近では、貼り付けられたカメラの映像フレームが
重複するように再配置することにした。
【0056】図5には、円筒側面状の全方位映像フレー
ムを分割並びに再配置する際に、分割された一方の端縁
に隣接するカメラの映像フレームを余分に貼り合わせる
ようにして構成された、配信用全方位映像フレームを示
している。
【0057】同図に示す例では、最終的にデータをHD
−MPEG2方式のサイズに合わせ込むために、縦横比
を同じにするという意味も含めて、前半の全方位映像フ
レーム分割部分の先頭には、カメラ11Aに隣接するカ
メラ11H、並びにカメラ11Hに隣接するカメラ11
Gの映像フレームを順次貼り合わせるとともに、後半の
全方位映像フレーム分割部分の先頭には、カメラ11E
に隣接するカメラ11D、並びにカメラ11Dに隣接す
るカメラ11Cの映像フレームを順次貼り合わせてい
る。
【0058】したがって、図示の全方位映像フレームで
は、カメラ11C及び11Dの映像フレームが前半と後
半で重複して存在するとともに、カメラ11G及び11
Hの映像フレームが前半と後半で重複して存在する。
【0059】本実施形態では、図5に示したような全方
位映像フレームを配信するために、さらに、データ・サ
イズを縮小するとともに、ダミー・データを付加してH
D−MPEGのサイズ(1920×1080画素)に合
わ込んで(図6を参照のこと)、1フレームを1枚のビ
ットマップ・ファイルとして、ビットマップの連番ファ
イル群を生成するようにした。
【0060】図6に示した形式のビットマップ連番ファ
イルのデータを、コンピュータ上でレンダリングして、
HD−SDI(Serial Digital Interface)出力の信号
に変換して、MPEG2ハードウェア符号化器により符
号化圧縮することにより、HD−MPEG2形式のトラ
ンスポート・ストリーム・データを生成する。
【0061】図7には、キャプチャリングされ、図3に
示す処理手順に従ってデータ加工された各カメラ11A
〜11Hの映像フレームから図6に示すような形式のビ
ットマップ連番ファイル・データ(配信用全方位映像フ
レーム)を生成するための処理手順をフローチャートの
形式で示している。この処理手順は、例えば、各カメラ
11A〜11Hの映像フレームをキャプチャリングした
コンピュータ上で所定の制御プログラムを実行するとい
う形態で実現される。
【0062】まず、変数nに初期値1を代入する(ステ
ップS21)。そして、90度回転及びミラー反転処理
を経て保存されているデータ(図3のステップS12を
参照のこと)の中から、n台目のカメラのmフレーム目
の映像データを取り出す(ステップS22)。
【0063】次いで、取り出されたn台目のカメラのm
フレーム目の映像データを、3次元座標系において、円
筒側面上に貼り付ける(ステップS23)。これは、平
面曲面変換を行うことによって実現される。
【0064】さらに、円筒側面上に貼り付けられた映像
データを、カメラ方向に応じて配置する(ステップS2
4)。
【0065】次いで、nを1だけインクリメントして
(ステップS25)、nが8に到達していなければ(ス
テップS26)、ステップS22に復帰して、次のカメ
ラの映像フレームについて上述の映像フレームの円筒側
面への貼り付け処理を繰り返し実行する。
【0066】また、8台すべてのカメラ11A〜11H
について映像フレームの円筒側面への貼り付け処理を終
えたならば、隣接する画像の整合性を調整しながら、円
筒半径やその他のパラメータの算出を行う(ステップS
27)。
【0067】次いで、円筒側面を切断して、長方形平面
に変換する(ステップS28)。
【0068】さらに、この長方形平面を横軸方向(カメ
ラの配置方向)の半分のところで分割して、その右半分
を左半分の下部に配置する(ステップS29)。
【0069】そして、ステップS29により配置された
長方形平面の右下4分の1面積分を複製して、左上部の
左端に配置するとともに、長方形平面の右上4分の1面
積分を複製して、左下部の左端に配置する(ステップS
30)。
【0070】次いで、このように左端に重複部分を含ん
だ長方形平面を、HD−MPEG方式のサイズに適合す
るように、1920×948画素のサイズに縮小する
(ステップS31)。
【0071】次いで、1920×948画素のサイズに
縮小した長方形平面の下部にダミー・データを付加し
て、HD−MPEG方式に適合した1920×1080
画素のデータにする(ステップS32)。
【0072】最後に、ステップS22〜S32に至る各
種幾何学変換パラメータを保存して(ステップS3
3)、本処理ルーチン全体を終了する。
【0073】図8には、図7に示す処理手順に従ってビ
ットマップ連番ファイルにされた全方位映像フレームを
レンダリングするための処理手順をフローチャートの形
式で示している。この処理手順は、例えば、各カメラ1
1A〜11Hの映像フレームをキャプチャリングしたコ
ンピュータ上で所定の制御プログラムを実行するという
形態で実現される。
【0074】まず、変数m及びnに初期値1を代入する
(ステップS41,S42)。
【0075】次いで、ビットマップ連番ファイルからn
台目のカメラについてのmフレーム目の映像データを取
り出す(ステップS43)。
【0076】次いで、nを1だけインクリメントして
(ステップS44)、nが8に到達していなければ(ス
テップS45)、ステップS42に復帰して、次のカメ
ラのmフレーム目の映像データを取り出す。
【0077】また、8台すべてのカメラ11A〜11H
についてmフレーム目の映像データの取り出しを終えた
ならば、取り出した各映像データに対して、図7のステ
ップS33で記憶しておいたパラメータを用いて幾何学
変換してからデータの保存を行う(ステップS46)。
【0078】そして、mを1だけインクリメントして
(ステップS47)、フレーム数mが最大フレーム数M
に到達していなければ(ステップS48)、ステップS
42に戻って、上述の映像データについての幾何学変換
処理を繰り返し行う。
【0079】また、すべての映像データについて幾何学
変換処理を終えたならば、本処理ルーチン全体を終了す
る。
【0080】図7に示すような処理手順に従って生成さ
れた配信用の全方位映像フレーム(図6を参照のこと)
をビットマップ連番ファイルとして、さらに、図8に示
すような処理手順に従ってコンピュータ上でレンダリン
グして、HD−SDI(Serial Digital Interface)出
力の信号に変換して、MPEG2ハードウェア符号化器
により符号化圧縮することにより、HD−MPEG2形
式のトランスポート・ストリーム・データを生成するこ
とができる。
【0081】そして、このようなトランスポート・スト
リームを受信する受信機側では、後述するように、視点
自由形の受信を行うことができる。すなわち、全方位映
像フレームの中から視聴ユーザが指定する任意の画角を
シームレスに切り出して表示することができる。視聴ユ
ーザは、表示中の映像が全方位カメラ10のどのカメラ
の映像フレームによるものかをまったく意識する必要が
ない。
【0082】上述したような全方位映像フレームを放送
して、受信機側で視点自由形の受信を行うためには、こ
のデータが全方位映像であることを判別するデータを送
る必要がある。
【0083】既存の衛星放送においては、放送されたデ
ータの種類などを規定するPSI(Program Service In
formation)データがあるので、其処に当該放送番組が
360度全方位映像である旨を示すフラグなどを付加す
ることによって、受信機側ではこのフラグを判別するこ
とによって、カーソル・キー(後述)をアクティブにし
て視点自由形の視聴を許可することができる。(伝送制
御信号の中でISO/IEC13818−1で規格化さ
れた部分をPSIという。PSIデータは4種類のテー
ブル(PAT,CAT,PMT,NIT)からなり、セ
クション形式で伝送される。)
【0084】また、全方位映像を受信するといっても映
像データ自体はHD−MPEGデータであるので、映像
データの送信構造を改造する必要はない。
【0085】他方、全方位映像データの受信機側では、
まずPSIデータを調べることによって全方位映像であ
ることを確認すると、デフォルトのカメラ位置の映像を
切り出すようにする。例えば、隣接するカメラ11A及
び11Bで撮影された映像をデフォルト位置の映像に設
定しておく。
【0086】全方位映像からの表示映像の切り出し方法
としては、現行の受信機内のMPEGデコーダの駆動用
ソフト(デバイス・ドライバ)を改造して、ユーザから
指定された表示領域のXY座標に従って任意の領域を表
示可能にする。
【0087】視聴ユーザが視点を変えたい場合には、例
えば、リモコン上のカーソルや、受信器本体のコントロ
ール・パネルの動きに合わせて、表示開始座標(Sta
rt)及び表示終了座標(End)を特定して、全方位
映像の中で表示エリアを移動させる。
【0088】また、ズームしたい場合も、同様に、リモ
コンの決定キーや受信機本体のコントロール・パネルの
決定キーが押されている時間に対応した表示領域の縮小
率を算出して、表示開始座標及び表示終了座標を特定し
て表示する。
【0089】B.1チャンネル・マルチアングル放送 次いで、空間上に配置された被写体を複数台のカメラで
取り囲んで、被写体を複数の視野角から撮影したマルチ
アングル映像を送信する例について説明する。
【0090】図9には、本実施形態に適用される、被写
体を複数の視野角から撮影するマルチアングル・カメラ
20の構成を示している。同図に示すように、マルチア
ングル・カメラ20は、ある特定の被写体を取り囲むよ
うに、被写体を中心とする円周方向に略等間隔で9台の
カメラ21A〜21Iを配置することで構成される。
【0091】各カメラ21A…にそれぞれVTRを接続
することにより、合計9本の映像(及び音声)ストリー
ムを記録することができる。また、各カメラ21A…で
記録された映像ストリームをビデオ・キャプチャ・カー
ドを介してコンピュータ・データ(ビットマップ・ファ
イル)としてコンピュータ内に取り込むことにより、9
本のカメラ映像を貼り合わせて、被写体についての9方
向からのマルチアングル映像を生成することができる。
【0092】VTRで収録された各カメラ映像をコンピ
ュータによりビットマップ・ファイルとしてキャプチャ
リングした時点では、1本の映像ストリームのおける1
フレームの映像は、720×480画素からなる静止画
として表される。9台のカメラ21A〜21Iからの映
像データを、被写体の周囲に配置した順番(図8を参照
のこと)に従って貼り合わせて、マルチアングル映像を
図10に示すように1枚のフレームにする。
【0093】本実施形態では、図10に示したようなマ
ルチアングル映像データをHD−MPEGの規定サイズ
(1920×1080画素)に合わせて配信するため
に、図11に示すようにダミー・データを付加して縦横
比を同じにするとともに縮小率を調整して、9台のカメ
ラ映像からなる1フレームを1枚のビットマップ・ファ
イルとして、ビットマップの連番ファイル群を生成する
ようにした。
【0094】図12には、マルチアングル映像データを
作成する際の、9台のカメラ21A〜21Iによる映像
素材データの各Mフレーム分のデータを取り込むための
処理手順をフローチャートの形式で示している。この処
理手順は、例えば、各カメラ21A〜21Iの映像フレ
ームをキャプチャリングしたコンピュータ上で所定の制
御プログラムを実行するという形態で実現される。
【0095】まず、変数m及びnに初期値1を代入する
(ステップS51,S52)。そして、n台目のカメラ
のmフレーム目の映像データについてのキャプチャリン
グを行う(ステップS53)。
【0096】次いで、mを1だけインクリメントして
(ステップS54)、フレーム数mが最大フレーム数M
に到達していなければ(ステップS55)、ステップS
53に戻って、次のフレームについての映像データの取
り出しを繰り返し実行する。
【0097】他方、n台目のカメラについての処理フレ
ーム数が所定値Mに到達した場合には、nを1だけイン
クリメントして(ステップS56)、nが8に到達して
いなければ(ステップS57)、ステップS52に復帰
して、次のカメラの映像フレームについて映像データの
取り出しを繰り返し実行する。
【0098】また、9台すべてのカメラ21A〜21I
についてデータ取り出しを終えたならば、データを保存
して(ステップS58)、本処理ルーチン全体を終了す
る。
【0099】また、図13には、マルチアングル映像デ
ータを作成する際の、9台のカメラ21A〜21Iによ
る映像素材データを貼り合わせてレンダリングするため
の処理手順をフローチャートの形式で示している。この
処理手順は、例えば、各カメラ21A〜21Iの映像フ
レームをキャプチャリングしたコンピュータ上で所定の
制御プログラムを実行するという形態で実現される。
【0100】まず、変数mに初期値1を代入して(ステ
ップS61)、図12のステップS58において保存し
ておいたデータから、カメラ21A〜21Iのmフレー
ム目の映像データを取り出す(ステップS62)。
【0101】次いで、取り出された9枚の画面を貼り合
わせて、図10に示したような長方形の画面(2160
×1458画素)を生成する(ステップS63)。
【0102】次いで、この長方形の画面を1600×1
080画素のサイズに縮小し(ステップS64)、さら
に、長方形画面の右端にダミー・データを付加すること
によって、HD−MPEG方式に適合した1920×1
080画素のデータを生成して、保存する(ステップS
65)。
【0103】次いで、mを1だけインクリメントして
(ステップS66)、フレーム数mが最大フレーム数M
に到達していなければ(ステップS67)、ステップS
62に戻って、上述の映像フレーム・データの貼り合わ
せ処理を繰り返し実行する。
【0104】また、すべての映像データについて貼り合
わせ処理を終えたならば、本処理ルーチン全体を終了す
る。
【0105】図11に示した形式のビットマップ連番フ
ァイルのデータを、図12及び図13に示す処理手順に
従ってコンピュータ上でレンダリングして、HD−SD
I(Serial Digital Interface)出力の信号に変換し
て、MPEG2ハードウェア符号化器により符号化圧縮
することにより、HD−MPEG2形式のトランスポー
ト・ストリーム・データを生成する。
【0106】そして、このようなトランスポート・スト
リームを受信する受信機側では、後述するように、視点
自由形の受信を行うことができる。すなわち、マルチア
ングル映像フレームの中から視聴ユーザが指定する任意
の画角を切り出して表示することができる。視聴ユーザ
は、表示中の映像がマルチアングル・カメラ20のどの
カメラの映像フレームによるものかをまったく意識する
必要がない。
【0107】上述したようなマルチアングル映像フレー
ムを放送して、受信機側で視点自由形の受信を行うため
には、このデータがマルチアングル映像であることを判
別するデータを送る必要がある。
【0108】既存の衛星放送においては、放送されたデ
ータの種類などを規定するPSI(Program Service In
formation)データがある。したがって、360度全方
位映像を送信する場合と同様に、マルチアングル映像で
ある旨を示すフラグなどを付加することによって、受信
機側ではこのフラグを判別することによって、カーソル
・キー(後述)をアクティブにして視点自由形の視聴を
許可することができる。(伝送制御信号の中でISO/
IEC13818−1で規格化された部分をPSIとい
う。PSIデータは4種類のテーブル(PAT,CA
T,PMT,NIT)からなり、セクション形式で伝送
される。)
【0109】また、マルチアングル映像を受信するとい
っても映像データ自体はHD−MPEGデータであるの
で、映像データの送信構造を改造する必要はない。
【0110】他方、マルチアングル映像データの受信機
側では、まずPSIデータを調べることによって全方位
映像であることを確認すると、デフォルトのカメラ位置
の映像を切り出すようにする。例えば、1つのカメラ2
1Aで撮影された映像をデフォルト位置の映像に設定し
ておく。
【0111】全方位映像からの表示映像の切り出し方法
としては、現行の受信機内のMPEGデコーダの駆動用
ソフト(デバイス・ドライバ)を改造して、ユーザから
指定された表示領域のXY座標に従って任意の領域を表
示可能にする。
【0112】視聴ユーザが視点を変えたい場合には、例
えば、リモコン上のカーソルや、受信器本体のコントロ
ール・パネルの動きに合わせて、表示開始座標及び表示
終了座標を特定して、全方位映像の中で表示エリアを移
動させる。
【0113】マルチアングル映像の場合、前述した36
0度全方位映像の場合と異なり、隣接するカメラの映像
同士はシームレスな連続性はない。このため、カーソル
・キーを押すことにより表示映像がカーソル指示方向に
隣接するカメラの映像に切り替わるというような動きに
する。例えば、図11に示すようなマルチアングル映像
フレームにおいて、デフォルトでカメラ21Aの映像を
切り出して表示しているときに、右方向カーソルを1回
押すとカメラ21Bの映像に切り替わり、又、左方向カ
ーソルを1回押すとカメラ21Iの映像に切り替わると
いう動きをさせる。
【0114】また、ズームしたい場合には、リモコンの
決定キーや受信機本体のコントロール・パネルの決定キ
ーが押されている時間に対応した表示領域の縮小率を算
出して、表示開始座標及び表示終了座標を特定して表示
する。
【0115】C.システム構成 この項では、上述した全方位映像データやマルチアング
ル映像データを送受信するシステムの構成について説明
する。図14には、視点自由形の映像データを送受信す
るシステム全体のハードウェア構成を模式的に示してい
る。
【0116】所定の場所における全方位映像、あるい
は、特定の被写体に関するマルチアングル映像を撮影す
るカメラ・システムは、図1並びに図8を用いて既に説
明したように、複数台のカメラを備えている。さらに、
撮影現場での音声を入力するマイクを配設していてもよ
い。
【0117】カメラ・システムが空間上のある1つの点
を視点とした全方位映像を撮影する場合には、各カメラ
は、所定の円周方向に略等間隔に配列される。また、被
写体のマルチアングル映像を撮影する場合には、ある特
定の被写体を取り囲むように、被写体を中心とする円周
方向に略等間隔で、各カメラが配置される。
【0118】各カメラには、それぞれVTRが接続され
ており、複数本の映像(及び音声)ストリームを記録す
ることができる。
【0119】これら記録された映像ストリームを、切り
換え器を介してビデオ・キャプチャリングして、コンピ
ュータ・データ(ビットマップ・ファイル)としてコン
ピュータ内に取り込むことにより、さまざまなコンピュ
ータ処理を行うことができる。例えば、各カメラ映像を
キャプチャリングして、データ加工、ビットマップ連番
ファイル・データの生成、映像フレームのレンダリング
などの処理を経て、配信用の全方位映像データやマルチ
アングル映像データを生成することができる。
【0120】コンピュータが出力する配信用の全方位映
像データやマルチアングル映像データは、HD−MPE
G方式で取り扱うことができる1920×1080画素
サイズの映像フレームである。後続のMPEGエンコー
ダは、映像ストリームをHD−MPEG方式で符号化処
理する。
【0121】また、PSI入力装置は、映像ストリーム
が視点自由形の全方位映像又はマルチアングル映像であ
ることを示すフラグを設定する。マルチプレクサ(MU
X)は、HD−MPEG方式で符号化された映像ストリ
ームとPSIデータを多重化する。
【0122】映像ストリームは、送信部(TX)から衛
星波として送出され、放送衛星経由で受信機(セットト
ップボックス:STB)に届く。
【0123】受信機側では、受信部(RX)で受信され
た映像ストリームは、フレーム・バッファに一時保持さ
れた後、MPEGデコーダで復号化され、テレビ・モニ
タ画面に表示される。
【0124】受信機側では、まずPSIデータを調べる
ことにより、受信した映像フレームが全方位映像あるい
はマルチアングル映像であることを確認することができ
る。そして、デフォルトのカメラ位置の映像を切り出し
て、テレビ・モニタに表示するようにする。
【0125】全方位映像やマルチアングル映像からの表
示映像の切り出し方法としては、現行の受信機内のMP
EGデコーダの駆動用ソフト(デバイス・ドライバ)を
改造して、ユーザから指定された表示領域のXY座標に
従って任意の領域を表示可能にする。
【0126】視聴ユーザが視点を変えたい場合には、例
えば、リモコン上のカーソルや、受信器本体のコントロ
ール・パネルの動きに合わせて、表示開始座標及び表示
終了座標を特定して、全方位映像の中で表示エリアを移
動させる。
【0127】また、ズームしたい場合も、同様に、リモ
コンの決定キーや受信機本体のコントロール・パネルの
決定キーが押されている時間に対応した表示領域の縮小
率を算出して、表示開始座標及び表示終了座標を特定し
て表示する。
【0128】受信機側で映像ストリームを再生するため
の処理については後に詳解する。
【0129】図14では、衛星放送により全方位映像や
マルチアングル映像ストリームを配信するシステム構成
例を示しているが、地上波放送やケーブル・テレビなど
の送信においても、送受信機間の通信媒体が相違するだ
けで、同様の構成となるという点を理解されたい。
【0130】図15には、各カメラ映像をキャプチャリ
ングして、データ加工、ビットマップ連番ファイル・デ
ータの生成、映像フレームのレンダリングなどの処理を
行うコンピュータ100のハードウェア構成を模式的に
示している。
【0131】システム100のメイン・コントローラで
あるCPU(Central Processing Unit)101は、オ
ペレーティング・システム(OS)の制御下で、各種の
アプリケーションを実行する。CPU101は、例え
ば、キャプチャしたカメラ映像データに対して加工、ビ
ットマップ連番ファイル・データの生成、映像フレーム
のレンダリングなどの処理を行う全方位・マルチアング
ル映像処理ソフトウェアを実行することができる。図示
の通り、CPU101は、バス108によって他の機器
類(後述)と相互接続されている。
【0132】メモリ102は、CPU101において実
行されるプログラム・コードを格納したり、実行中の作
業データを一時保管するために使用される記憶装置であ
る。同図に示すメモリ102は、ROMなどの不揮発性
メモリ及びDRAMなどの揮発性メモリの双方を含むも
のと理解されたい。
【0133】ディスプレイ・コントローラ103は、C
PU101が発行する描画命令を実際に処理するための
専用コントローラである。ディスプレイ・コントローラ
103において処理された描画データは、例えばフレー
ム・バッファ(図示しない)に一旦書き込まれた後、デ
ィスプレイ111によって画面出力される。ディスプレ
イ・コントローラ103及びディスプレイ111は、3
次元形状データの貼り合わせ済みデータ20を出力する
データ出力装置22を構成する。
【0134】入力機器インターフェース104は、キー
ボード112やマウス113などのユーザ入力機器を計
算機システム100に接続するための装置である。
【0135】ネットワーク・インターフェース105
は、Ethernetなどの所定の通信プロトコルに従
って、システム100をLAN(Local Area Network)
などの局所的ネットワーク、さらにはインターネットの
ような広域ネットワークに接続することができる。
【0136】ネットワーク上では、複数のホスト端末
(図示しない)がトランスペアレントな状態で接続さ
れ、分散コンピューティング環境が構築されている。ネ
ットワーク上では、ソフトウェア・プログラムやデータ
・コンテンツなどの配信が行うことができる。例えば、
キャプチャしたカメラ映像データに対して加工、ビット
マップ連番ファイル・データの生成、映像フレームのレ
ンダリングなどの処理を行う全方位映像・マルチアング
ル映像の処理ソフトウェアを、ネットワーク経由でダウ
ンロードすることができる。また、全方位カメラやマル
チアングル・カメラによって撮影された個々のフレーム
・データや、レンダリングされた全方位映像ストリー
ム、マルチアングル映像ストリームを、ネットワーク経
由で配信することもできる。
【0137】外部機器インターフェース107は、ハー
ド・ディスク・ドライブ(HDD)114やメディア・ド
ライブ115などの外部装置をシステム100に接続す
るための装置である。
【0138】HDD114は、記憶担体としての磁気デ
ィスクを固定的に搭載した外部記憶装置であり(周
知)、記憶容量やデータ転送速度などの点で他の外部記
憶装置よりも優れている。ソフトウェア・プログラムを
実行可能な状態でHDD114上に置くことをプログラ
ムのシステムへの「インストール」と呼ぶ。通常、HD
D114には、CPU101が実行すべきオペレーティ
ング・システムのプログラム・コードや、アプリケーショ
ン・プログラム、デバイス・ドライバなどが不揮発的に格
納されている。
【0139】例えば、キャプチャしたカメラ映像データ
に対して加工、ビットマップ連番ファイル・データの生
成、映像フレームのレンダリングなどの処理を行う全方
位映像・マルチアングル映像の処理ソフトウェアを、H
DD114上にインストールすることができる。また、
全方位カメラやマルチアングル・カメラによって撮影さ
れた個々のフレーム・データや、レンダリングされた全
方位映像ストリーム、マルチアングル映像ストリームな
どのコンテンツをHDD114上に保存することもでき
る。
【0140】メディア・ドライブ115は、CD(Compa
ct Disc)やMO(Magneto-Opticaldisc)、DVD(Di
gital Versatile Disc)などの可搬型メディアを装填し
て、そのデータ記録面にアクセスするための装置であ
る。
【0141】可搬型メディアは、主として、ソフトウェ
ア・プログラムやデータ・ファイルなどをコンピュータ可
読形式のデータとしてバックアップすることや、これら
をシステム間で移動(すなわち販売・流通・配布を含む)
する目的で使用される。例えば、キャプチャしたカメラ
映像データに対して加工、ビットマップ連番ファイル・
データの生成、映像フレームのレンダリングなどの処理
を行う全方位映像・マルチアングル映像の処理ソフトウ
ェアを、これら可搬型メディアを利用して複数の機器間
で物理的に流通・配布することができる。また、全方位
カメラやマルチアングル・カメラによって撮影された個
々のフレーム・データや、レンダリングされた全方位映
像ストリーム、マルチアングル映像ストリームなどのコ
ンテンツを、これら可搬型メディアを利用して複数の機
器間で物理的に流通・配布することができる。
【0142】ビデオ・キャプチャ・カード109は、切
り換え器を介して接続される各VTRから再生されるビ
デオ信号をコンピュータ・データ(ビットマップ・ファ
イル)としてコンピュータ内に取り込むための装置であ
る。VTRで収録された各カメラ映像をコンピュータに
よりビットマップ・ファイルとしてキャプチャリングし
た時点では、1本の映像ストリームのおける1フレーム
の映像は、720×480画素からなる静止画として表
される。
【0143】なお、図15に示すようなコンピュータ1
00の一例は、米IBM社のパーソナル・コンピュータ"
PC/AT(Personal Computer/Advanced Technolog
y)"の互換機又は後継機である。勿論、他のアーキテク
チャを備えたコンピュータを、本実施形態に係るコンピ
ュータ100として適用することも可能である。
【0144】D.受信機側での映像ストリームの再生処
既に述べてように受信機側では、まずPSIデータを調
べることにより、受信した映像フレームが全方位映像あ
るいはマルチアングル映像であることを確認することが
できる。そして、デフォルトのカメラ位置の映像を切り
出して、テレビ・モニタに表示することができる。
【0145】全方位映像やマルチアングル映像からの表
示映像の切り出し方法としては、現行の受信機内のMP
EGデコーダの駆動用ソフト(デバイス・ドライバ)を
改造して、ユーザから指定された表示領域のXY座標に
従って任意の領域を表示可能にする。
【0146】受信機上では、視聴ユーザが視点を変えた
い場合には、例えば、リモコン上のカーソルや、受信器
本体のコントロール・パネルの動きに合わせて、表示開
始座標及び表示終了座標を特定して、全方位映像の中で
表示エリアを移動させることができる。また、ズームし
たい場合も、同様に、リモコンの決定キーや受信機本体
のコントロール・パネルの決定キーが押されている時間
に対応した表示領域の縮小率を算出して、表示開始座標
及び表示終了座標を特定して表示することができる。
【0147】この項では、受信機側での映像ストリーム
の再生処理について詳解する。
【0148】図16には、受信機側で実行される映像ス
トリーム再生処理ソフトウェアによって実現される処理
手順をフローチャートの形式で示している。
【0149】放送データを受信すると(ステップS7
1)、PSIデータのフラグ・データを抽出して(ステ
ップS72)、受信データが視点自由形の映像ストリー
ムであるか否かを判別する(ステップS73)。
【0150】受信データが視点自由形の映像ストリーム
でなければ、通常の放送データとして、MPEGデコー
ドして(ステップS74)、復号化された映像ストリー
ムをTVモニタ画面上で通常の表示処理を行う(ステッ
プS75)。
【0151】他方、受信データが視点自由形の映像スト
リームであると判別された場合には(ステップS7
3)、さらに、受信データが360度全方位映像データ
であるか否かを判別する(ステップS76)。
【0152】受信データが360度全方位映像データで
ある場合には、TVモニタに表示するデフォルトの映像
切り出し位置としてデフォルトの表示開始座標Star
t(640,21)及び表示終了座標End(128
0,453)を指定する(ステップS77)。デフォル
ト座標位置はデフォルトのカメラ位置に相当する。
【0153】視聴ユーザが受信機上で、カーソル・キー
や決定キーを介してデフォルト座標位置からの変更が指
定された(すなわち視点の変更)場合には(ステップS
78)、キー操作量に応じて座標を計算して、この座標
計算値に従ってTVモニタに表示する表示開始座標St
art及び表示終了座標Endに指定変更する(ステッ
プS79)。
【0154】そして、受信した全方位映像フレームの中
から表示開始座標Start及び表示終了座標Endで
指定される領域を切り出して(ステップS80)、これ
をMPEGデコードして(ステップS81)、TVモニ
タ画面上でフル画面に拡大表示する(ステップS8
2)。
【0155】TVモニタのフル画面に拡大表示した後、
後述する割り込み処理(1)が行われることもある。
【0156】また、ステップS76において、受信デー
タが360度全方位映像データでないと判別された場合
には、さらに、受信データがある被写体についてのマル
チアングル映像データであるか否かを判別する(ステッ
プS83)。
【0157】受信データがマルチアングル映像データで
ある場合には、TVモニタに表示するデフォルトの映像
切り出し位置としてデフォルトの表示開始座標Star
t(0,0)及び表示終了座標End(533,36
0)を指定する(ステップS84)。
【0158】視聴ユーザが受信機上で、カーソル・キー
や決定キーを介してデフォルト座標位置からの変更が指
定された(すなわち視点の変更)場合には(ステップS
85)、キー操作量に応じて座標を計算して、この座標
計算値に従ってTVモニタに表示する表示開始座標St
art及び表示終了座標Endに指定変更する(ステッ
プS86)。
【0159】そして、受信したマルチアングル映像フレ
ームの中から表示開始座標Start及び表示終了座標
Endで指定される領域を切り出して(ステップS8
7)、これをMPEGデコードして(ステップS8
8)、TVモニタ画面上でフル画面に拡大表示する(ス
テップS89)。
【0160】TVモニタのフル画面に拡大表示した後、
後述する割り込み処理(2)が行われることもある。
【0161】また、ステップS83において、受信デー
タがマルチアングル映像データでないと判別された場合
には、さらに、受信データがハイビジョン切り出し放送
のデータであるか否かを判別する(ステップS90)。
【0162】受信データがハイビジョン切り出し放送の
データである場合には、TVモニタに表示するデフォル
トの映像切り出し位置としてデフォルトの表示開始座標
Start(0,0)及び表示終了座標End(72
0,480)を指定する(ステップS91)。
【0163】視聴ユーザが受信機上で、カーソル・キー
や決定キーを介してデフォルト座標位置からの変更が指
定された(すなわち視点の変更)場合には(ステップS
92)、キー操作量に応じて座標を計算して、この座標
計算値に従ってTVモニタに表示する表示開始座標St
art及び表示終了座標Endに指定変更する(ステッ
プS93)。
【0164】そして、受信したハイビジョン切り出し放
送データの中から表示開始座標Start及び表示終了
座標Endで指定される領域を切り出して(ステップS
94)、これをMPEGデコードして(ステップS9
5)、TVモニタ画面上でフル画面に拡大表示する(ス
テップS96)。
【0165】TVモニタのフル画面に拡大表示した後、
後述する割り込み処理(3)が行われることもある。
【0166】他方、ステップS90において、受信デー
タがハイビジョン切り出し放送のデータでないと判別さ
れた場合には、所定の例外処理を行う(ステップS9
8)。
【0167】そして、TVモニタへの表示処理又は例外
処理を行った後、次のフレームについての放送データの
受信を行う(ステップS98)。
【0168】なお、受信した映像データをTVモニタに
表示する際、座標軸を図17のように定義するものとす
る。受信した映像データは、1920×1080画素で
あり(前述)、表示開始座標Startは同図において
切り出す領域の左上の座標を示し、また、表示終了座標
Endは切り出す領域の右下の座標を示す。
【0169】図16に示した処理手順において、360
度全方位映像データ、マルチアングル映像データ、又
は、ハイビジョン切り出し放送のデータをTVモニタに
フル画面表示した後、それぞれ割り込み処理(1)、割
り込み処理(2)、割り込み処理(3)が発生する場合
がある。以下では、これら割り込み処理について説明し
ておく。
【0170】割り込み処理(1):この場合の処理は、
360度全方位映像データを受信時にカーソル及び決定
キーが押されたときの割り込み処理を示している。図6
を参照しながら既に説明したように、全方位映像フレー
ムは、HD−MPEG方式の画素サイズに合わせ込むと
いう要請により、横軸方向に2分割して右半分を左半分
の下部に配置して構成される。したがって、この場合の
処理は、切り出し領域を移動させて、左右それぞれの端
縁に近づいた時点で折り返してシームレスに移動する必
要がある。割り込み処理(1)の基本処理を以下に説明
する。
【0171】■カーソル・キーが押された場合 左右カーソル・キーが1msec押下されると、Δx画
素だけ左又は右に座標移動する。同様に、上下カーソル
・キーが1msec押下されると、Δy画素だけ上又は
下に座標移動する。このとき、座標計算値は下記の通り
になる。
【0172】(i)nミリ秒だけ右方向カーソルが押下
された場合
【0173】
【数1】
【0174】但し、上式(1)により求められたSta
rt X座標に640を加算した値が1920を越えて
3840以下となる場合には、下式を採用する。
【0175】
【数2】
【0176】また、上式(1)により求められたSta
rt X座標に640を加算した値が3840を越えて
4760以下となる場合には、下式を採用する。
【0177】
【数3】
【0178】(ii)nミリ秒だけ左方向カーソルが押下
された場合
【0179】
【数4】
【0180】但し、上式(3)により求められたSta
rt X座標に640を加算した値が1920を越えて
3840以下となる場合には、下式を採用する。
【0181】
【数5】
【0182】また、上式(1)により求められたSta
rt X座標に640を加算した値が3840を越えて
4760以下となる場合には、下式を採用する。
【0183】
【数6】
【0184】(iii)nミリ秒だけ上方向カーソルがお
された場合
【0185】
【数7】
【0186】但し、カーソルが押される前のStart
Y座標が0以上で474未満であるとともに、上式
(5)により求められたStart Y座標が0未満の
場合には、下式を採用する。
【0187】
【数8】
【0188】また、カーソルが押される前のStart
Y座標が474を越えて948以下であるとともに、
上式(5)により求められたStart Y座標が47
4未満の場合には、下式を採用する。
【0189】
【数9】
【0190】(iv)nミリ秒だけ下方向カーソルが押下
された場合
【0191】
【数10】
【0192】但し、カーソルが押される前のStart
Y座標が0以上で474未満であるとともに、上式
(7)により求められたStart Y座標が42を越
える場合には、下式を採用する。
【0193】
【数11】
【0194】また、カーソルが押される前のStart
Y座標が474を越えて948以下であるとともに、
上式(7)により求められたStart Y座標が51
6を越える場合には、下式を採用する。
【0195】
【数12】
【0196】■決定キー及び戻るキーが押された場合 (v)決定キーがおされた場合 決定キーが押下されると、押された時間に比例して、縦
横比をキープした状態での切り出し領域の縮小を行う。
したがって、決定キーが押された後に、上記の(i)〜
(iv)のイベントが発生するとエリア面積をキープした
状態での移動が行われる。
【0197】移動範囲の制約については、(i)〜(i
v)に基づいた範囲での移動となるが、エリア面積の状
態が異なるので、座標値自体は上記(i)〜(iv)での
説明数値とは異なることになる。
【0198】(v)戻るキーが押下された場合 決定キーが押下された後に戻るキーが押下されると、押
された時間に比例して、縦横比をキープした状態での切
り出し領域の拡大を行う(但し、デフォルト状態の面積
以上は拡大しない)。デフォルト状態の面積のときに戻
るキーを押下しても変化はしない。
【0199】割り込み処理(2):この場合の処理は、
マルチアングル映像データを受信時にカーソル及び決定
キーが押されたときの割り込み処理を示している。前述
したように、この場合は、360度全方位映像とは異な
り、隣接するカメラの映像同士にシームレスな連続性は
ないので、画面全体をシームレスに移動する必要はな
い。以下に、割り込み処理(2)の基本処理を説明す
る。
【0200】◆デフォルト状態(カメラ21Aによる映
像を切り出し中)でのカーソル移動 ■カーソル・キーが押下された場合(*) (i)右方向カーソル・キーが押下された場合:カメラ
21Bの映像に切り替わる。 (ii)左方向カーソル・キーが押下された場合:カメラ
21Iの映像に切り替わる。 ※上下方向のカーソル・キーを押下しても変化しない。
【0201】■決定キー及び戻るキーが押下された場合 (iii)決定キーが押下された場合 決定キーが押下されると、押された時間に比例して、縦
横比をキープした状態での切り出し領域の縮小を行う。
したがって、決定キーが押された後に上記の(i)〜
(ii)のイベントが発生するとエリア面積をキープした
状態での移動が行われる。移動範囲の制約については同
一カメラ画面内での移動とする。
【0202】決定キーが押下された後であれば、上下方
向のカーソル・キーを押すことによって上下移動も可能
とする。この場合も移動範囲は同一カメラ画面内であ
る。
【0203】(iv)戻るキーが押下された場合 決定キーが押下された後に戻るキーが押下されると、押
された時間に比例して、縦横比をキープした状態での切
り出し領域の拡大を行う(但し、デフォルト状態の面積
以上は拡大しない)。デフォルト状態の面積のときに戻
るキーを押下しても変化はしない。戻るキーが押下され
た後にカーソルが押された場合の処理は、(*)の処理
と同様の処理になる。
【0204】割り込み処理(3):この処理は、ハイビ
ジョン切り出し放送データを受信時にカーソル・キー及
び決定キーが押されたときの割り込み処理を示してい
る。この場合は、画面の端から折り返してシームレスに
移動する必要はなく、カーソル・キーによるの移動イベ
ントは、1920×1080画素の範囲内で行われ、移
動の結果末端に切り出しエリアが移った場合は、それ以
上、その方向への移動は行えないような処理を行う。
【0205】[追補]以上、特定の実施例を参照しなが
ら、本発明について詳解してきた。しかしながら、本発
明の要旨を逸脱しない範囲で当業者が該実施例の修正や
代用を成し得ることは自明である。
【0206】本明細書中では、全方位映像とマルチアン
グル映像を視点自由形で送受信する放送システムを例に
挙げて本発明について説明してきたが、本発明の要旨は
これらの適用例にのみ限定されるものではない。すなわ
ち、上記の実施形態以外にも、通常のハイビジョン映像
を受信機側で視点を切り出す仕組みを利用することによ
り、同様に視点自由形の視聴を実現することができる。
この場合、送信側の特殊なデータ加工を必要とせず、P
SIデータなどを用いて視点自由形放送であることを示
し、そのフラグを受信機側で検知した上で、同様の受信
機ソフトウェアで受信し、切り出し表示が可能となる。
【0207】要するに、例示という形態で本発明を開示
してきたのであり、本明細書の記載内容を限定的に解釈
するべきではない。本発明の要旨を判断するためには、
冒頭に記載した特許請求の範囲の欄を参酌すべきであ
る。
【0208】
【発明の効果】以上詳記したように、本発明によれば、
空間中のある1つの点が視点として周囲の全方位画像複
数台のカメラを各々の視野が設置して構成される全方位
カメラにより撮影した映像を好適に配信することができ
る、優れた映像データ処理装置及び映像データ処理方
法、データ配信装置及びデータ配信方法、データ受信装
置及びデータ受信方法、並びに記憶媒体を提供すること
ができる。
【0209】また、本発明によれば、複数台のカメラに
よる撮影映像からなる撮影映像を受信機側において任意
の場所の映像が選択できるように配信することができ
る、優れた映像データ処理装置及び映像データ処理方
法、データ配信装置及びデータ配信方法、データ受信装
置及びデータ受信方法、並びに記憶媒体を提供すること
ができる。
【0210】また、本発明によれば、複数台のカメラに
よる撮影映像からなる撮影映像を受信機側でシームレス
に切り換えていくことができるように配信することがで
きる、優れた映像データ処理装置及び映像データ処理方
法、データ配信装置及びデータ配信方法、データ受信装
置及びデータ受信方法、並びに記憶媒体を提供すること
ができる。
【0211】本発明によれば、ユーザが自由に視点をか
えることができる全方位映像の受信が可能となる。本明
細書で示した、360度放送、マルチアングル放送、ハ
イビジョン切り出し放送など、本発明の用途はさまざま
である。
【0212】本発明では、ハイビジョン用のサイズの映
像データを高画質の方向に利用するのではなく、視点を
自由に選べるようにしたところに特徴がある。また、マ
ルチアングル放送については、既存の放送でも複数のチ
ャンネルを利用して実現できる部分もあるが、1チャン
ネルで実現可能にしたことにより、伝送コストを抑えら
れるとともに、放送局1局だけで充分に対応することが
可能となる。
【0213】加えて、上述した実施形態以外でも、複数
台のカメラを用いた撮影であれば、取り囲みの撮影でな
くとも、撮影するカメラを切り替え感覚で、受信ユーザ
が視聴できるような番組を提供することも可能である。
【0214】また、本発明に係る放送方式はのデジタル
放送のみならず、ケーブル・テレビなどの放送にも応用
可能である。また、ブロードバンド化されたネットワー
クでの放送についても、同様の形式で対応することも可
能である。
【図面の簡単な説明】
【図1】空間中のある1つの点を指定としてその360
度の全方位映像を同時に撮影するタイプの全方位カメラ
10の構成を示した図である。
【図2】8本の映像ストリームを貼り合わせる前に行わ
れる、映像の90度回転やミラー反転の処理を行う様子
を示した図である。
【図3】8台のカメラ11A〜11Hで撮影された映像
素材データの各Mフレームについて90度回転やミラー
反転などの加工を行うための処理手順を示したフローチ
ャートである。
【図4】各カメラ11A…の同期した8枚の映像フレー
ムをカメラ11A…の配置に従って貼り合わせて1枚の
フレームを生成した様子を示した図である。
【図5】円筒側面状の全方位映像フレームを分割並びに
再配置する際に、分割された一方の端縁に隣接するカメ
ラの映像フレームを余分に貼り合わせるようにして構成
された配信用全方位映像フレームの例を示した図であ
る。
【図6】図5に示したような全方位映像フレームのデー
タ・サイズを縮小するとともに、ダミー・データを付加
してHD−MPEGのサイズ(1920×1080画
素)に合わ込んだ様子を示した図である。
【図7】各カメラ11A〜11Hの映像フレームから図
6に示すような形式のビットマップ連番ファイル・デー
タ(配信用全方位映像フレーム)を生成するための処理
手順を示したフローチャートである。
【図8】図7に示す処理手順に従ってビットマップ連番
ファイルにされた全方位映像フレームをレンダリングす
るための処理手順を示したフローチャートである。
【図9】被写体を複数の視野角から撮影するマルチアン
グル・カメラ20の構成を示した図である。
【図10】マルチアングル・カメラ20を構成する9台
のカメラ21A〜21Iからの映像データを被写体の周
囲に配置した順番に従って貼り合わせて1枚のフレーム
にした様子を示した図である。
【図11】図9に示したようなマルチアングル映像フレ
ームにダミー・データを付加して縦横比を調整してHD
−MPEGのサイズ(1920×1080画素)に合わ
込んだ様子を示した図である。
【図12】マルチアングル映像データを作成する際の、
9台のカメラ21A〜21Iによる映像素材データの各
Mフレーム分のデータを取り込むための処理手順を示し
たフローチャートである。
【図13】マルチアングル映像データを作成する際の、
9台のカメラ21A〜21Iによる映像素材データを貼
り合わせてレンダリングするための処理手順を示したフ
ローチャートである。
【図14】視点自由形の映像データを送受信するシステ
ム全体のハードウェア構成を模式的に示した図である。
【図15】各カメラ映像をキャプチャリングして、デー
タ加工、ビットマップ連番ファイル・データの生成、映
像フレームのレンダリングなどの処理を行うコンピュー
タ100のハードウェア構成を模式的に示した図であ
る。
【図16】受信機側で実行される映像ストリーム再生処
理ソフトウェアによって実現される処理手順を示したフ
ローチャートである。
【図17】受信した映像データをTVモニタに表示する
際の座標軸の定義を示した図である。
【符号の説明】
10…全方位カメラ 11A〜11H…カメラ 12…反射部 20…マルチアングル・カメラ 21A〜21I…カメラ 100…コンピュータ 101…CPU,102…メモリ 103…ディスプレイ・コントローラ 104…入力機器インターフェース 105…ネットワーク・インターフェース 107…外部機器インターフェース,108…バス 109…ビデオ・キャプチャ・カード 111…ディスプレイ,112…キーボード,113…
マウス 114…ハード・ディスク装置 115…メディア・ドライブ
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 5/92 H04N 5/91 N

Claims (34)

    【特許請求の範囲】
  1. 【請求項1】空間中のある1つの点を視点として周囲の
    画像を撮影するように視線方向が1つの水平面上で所定
    角度間隔で設置された複数台のカメラからの映像データ
    を処理する映像データ処理装置であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成する手
    段と、 前記第1の長方形平面を等分割して分割された各断片を
    上から順に配置して第2の長方形平面を生成する手段
    と、 前記各断片の左右一方の端縁から所定面積の領域を当該
    端縁と接続する他方の断片の端縁に複製して、第3の長
    方形平面を生成する手段と、 前記第3の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第4の長方形平面を生成
    する手段と、 前記第4の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第5
    の長方形平面を生成する手段と、を具備することを特徴
    とする映像データ処理装置。
  2. 【請求項2】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項1に記載の映像デ
    ータ処理装置。
  3. 【請求項3】第5の長方形平面が時系列的に配列された
    ビットマップ連番ファイルのデータをレンダリングする
    手段をさらに備える、ことを特徴とする請求項1に記載
    の映像データ処理装置。
  4. 【請求項4】所定の出力信号に変換し、前記符号化方式
    により符号化圧縮して、トランスポート・ストリーム・
    データを生成する手段をさらに備える、ことを特徴とす
    る請求項1に記載の映像データ処理装置。
  5. 【請求項5】空間中のある1つの点を視点として周囲の
    画像を撮影するように視線方向が1つの水平面上で所定
    角度間隔で設置された複数台のカメラからの映像データ
    を処理する映像データ処理方法であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面を等分割して分割された各断片を
    上から順に配置して第2の長方形平面を生成するステッ
    プと、 前記各断片の左右一方の端縁から所定面積の領域を当該
    端縁と接続する他方の断片の端縁に複製して、第3の長
    方形平面を生成するステップと、 前記第3の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第4の長方形平面を生成
    するステップと、 前記第4の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第5
    の長方形平面を生成するステップと、を具備することを
    特徴とする映像データ処理方法。
  6. 【請求項6】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項5に記載の映像デ
    ータ処理方法。
  7. 【請求項7】第5の長方形平面が時系列的に配列された
    ビットマップ連番ファイルのデータをレンダリングする
    ステップをさらに備える、ことを特徴とする請求項5に
    記載の映像データ処理方法。
  8. 【請求項8】所定の出力信号に変換し、前記符号化方式
    により符号化圧縮して、トランスポート・ストリーム・
    データを生成するステップをさらに備える、ことを特徴
    とする請求項5に記載の映像データ処理方法。
  9. 【請求項9】空間中のある1つの点を視点として周囲の
    画像を撮影するように視線方向が1つの水平面上で所定
    角度間隔で設置された複数台のカメラからの映像データ
    を受信機側で自由に視点を切り換えられるように配信す
    るデータ配信装置であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成する手
    段と、 前記第1の長方形平面を等分割して分割された各断片を
    上から順に配置して第2の長方形平面を生成する手段
    と、 前記各断片の左右一方の端縁から所定面積の領域を当該
    端縁と接続する他方の断片の端縁に複製して、第3の長
    方形平面を生成する手段と、 前記第3の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第4の長方形平面を生成
    する手段と、 前記第4の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第5
    の長方形平面を生成する手段と、 第5の長方形平面が時系列的に配列されたビットマップ
    連番ファイルのデータをレンダリングする手段と、 レンダリングされたビットマップ連番ファイルのデータ
    を、所定の出力信号に変換し、前記符号化方式により符
    号化圧縮して、トランスポート・ストリーム・データを
    生成する手段と、 トランスポート・ストリーム・データを送出する手段
    と、を具備することを特徴とするデータ配信装置。
  10. 【請求項10】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項9に記載のデータ
    配信装置。
  11. 【請求項11】トランスポート・ストリーム・データが
    視点自由形である旨を示す情報を付加する手段をさらに
    備える、ことを特徴とする請求項9に記載のデータ配信
    装置。
  12. 【請求項12】空間中のある1つの点を視点として周囲
    の画像を撮影するように視線方向が1つの水平面上で所
    定角度間隔で設置された複数台のカメラからの映像デー
    タを受信機側で自由に視点を切り換えられるように配信
    するデータ配信方法であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面を等分割して分割された各断片を
    上から順に配置して第2の長方形平面を生成するステッ
    プと、 前記各断片の左右一方の端縁から所定面積の領域を当該
    端縁と接続する他方の断片の端縁に複製して、第3の長
    方形平面を生成するステップと、 前記第3の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第4の長方形平面を生成
    するステップと、 前記第4の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第5
    の長方形平面を生成するステップと、 第5の長方形平面が時系列的に配列されたビットマップ
    連番ファイルのデータをレンダリングするステップと、 レンダリングされたビットマップ連番ファイルのデータ
    を、所定の出力信号に変換し、前記符号化方式により符
    号化圧縮して、トランスポート・ストリーム・データを
    生成するステップと、 トランスポート・ストリーム・データを送出するステッ
    プと、を具備することを特徴とするデータ配信方法。
  13. 【請求項13】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項12に記載のデー
    タ配信方法。
  14. 【請求項14】トランスポート・ストリーム・データが
    視点自由形である旨を示す情報を付加するステップをさ
    らに備える、ことを特徴とする請求項12に記載のデー
    タ配信方法。
  15. 【請求項15】空間上に配置された被写体を複数台のカ
    メラで取り囲んで被写体を複数の視野角から撮影したマ
    ルチアングル映像データを処理する映像データ処理装置
    であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成する手
    段と、 前記第1の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第2の長方形平面を生成
    する手段と、 前記第2の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第3
    の長方形平面を生成する手段と、を具備することを特徴
    とする映像データ処理装置。
  16. 【請求項16】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項15に記載の映像
    データ処理装置。
  17. 【請求項17】第3の長方形平面が時系列的に配列され
    たビットマップ連番ファイルのデータをレンダリングす
    る手段をさらに備える、ことを特徴とする請求項15に
    記載の映像データ処理装置。
  18. 【請求項18】所定の出力信号に変換し、前記符号化方
    式により符号化圧縮して、トランスポート・ストリーム
    ・データを生成する手段をさらに備える、ことを特徴と
    する請求項15に記載の映像データ処理装置。
  19. 【請求項19】空間上に配置された被写体を複数台のカ
    メラで取り囲んで被写体を複数の視野角から撮影したマ
    ルチアングル映像データを処理する映像データ処理方法
    であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第2の長方形平面を生成
    するステップと、 前記第2の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第3
    の長方形平面を生成するステップと、を具備することを
    特徴とする映像データ処理方法。
  20. 【請求項20】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項19に記載の映像
    データ処理方法。
  21. 【請求項21】第3の長方形平面が時系列的に配列され
    たビットマップ連番ファイルのデータをレンダリングす
    るステップをさらに備える、ことを特徴とする請求項1
    9に記載の映像データ処理方法。
  22. 【請求項22】所定の出力信号に変換し、前記符号化方
    式により符号化圧縮して、トランスポート・ストリーム
    ・データを生成するステップをさらに備える、ことを特
    徴とする請求項19に記載の映像データ処理方法。
  23. 【請求項23】空間上に配置された被写体を複数台のカ
    メラで取り囲んで被写体を複数の視野角から撮影したマ
    ルチアングル映像データを受信機側で自由に視点を切り
    換えられるように配信するデータ配信装置であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成する手
    段と、 前記第1の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第2の長方形平面を生成
    する手段と、 前記第2の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第3
    の長方形平面を生成する手段と、 第3の長方形平面が時系列的に配列されたビットマップ
    連番ファイルのデータをレンダリングする手段と、 レンダリングされたビットマップ連番ファイルのデータ
    を、所定の出力信号に変換し、前記符号化方式により符
    号化圧縮して、トランスポート・ストリーム・データを
    生成する手段と、 トランスポート・ストリーム・データを送出する手段
    と、を具備することを特徴とするデータ配信装置。
  24. 【請求項24】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項23に記載のデー
    タ配信装置。
  25. 【請求項25】トランスポート・ストリーム・データが
    視点自由形である旨を示す情報を付加する手段をさらに
    備える、ことを特徴とする請求項23に記載のデータ配
    信装置。
  26. 【請求項26】空間上に配置された被写体を複数台のカ
    メラで取り囲んで被写体を複数の視野角から撮影したマ
    ルチアングル映像データを受信機側で自由に視点を切り
    換えられるように配信するデータ配信方法であって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第2の長方形平面を生成
    するステップと、 前記第2の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第3
    の長方形平面を生成するステップと、 第3の長方形平面が時系列的に配列されたビットマップ
    連番ファイルのデータをレンダリングするステップと、 レンダリングされたビットマップ連番ファイルのデータ
    を、所定の出力信号に変換し、前記符号化方式により符
    号化圧縮して、トランスポート・ストリーム・データを
    生成するステップと、 トランスポート・ストリーム・データを送出する手段
    と、を具備することを特徴とするデータ配信方法。
  27. 【請求項27】前記符号化方式はHD(High Definitio
    n)−MPEG2(Moving Picture Experts Group 2)
    方式である、ことを特徴とする請求項26に記載のデー
    タ配信方法。
  28. 【請求項28】トランスポート・ストリーム・データが
    視点自由形である旨を示す情報を付加する手段をさらに
    備える、ことを特徴とする請求項26に記載のデータ配
    信方法。
  29. 【請求項29】視点自由形の映像データを受信するデー
    タ受信装置であって、 映像データを受信する受信手段と、 映像データの切り出し領域を指示するユーザ入力手段
    と、 受信した映像データから指示された切り出し領域を切り
    出すデータ切り出し手段と、 切り出した映像データを復号化して表示するデータ再生
    手段と、を具備することを特徴とするデータ受信装置。
  30. 【請求項30】視点自由形の映像データを受信するデー
    タ受信方法であって、 映像データを受信する受信ステップと、 映像データの切り出し領域を指示するユーザ入力ステッ
    プと、 受信した映像データから指示された切り出し領域を切り
    出すデータ切り出しステップと、 切り出した映像データを復号化して表示するデータ再生
    ステップと、を具備することを特徴とするデータ受信方
    法。
  31. 【請求項31】空間中のある1つの点を視点として周囲
    の画像を撮影するように視線方向が1つの水平面上で所
    定角度間隔で設置された複数台のカメラからの映像デー
    タの処理をコンピュータ・システム上で実行するように
    記述されたコンピュータ・ソフトウェアをコンピュータ
    可読形式で物理的に格納した記憶媒体であって、前記コ
    ンピュータ・ソフトウェアは、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面を等分割して分割された各断片を
    上から順に配置して第2の長方形平面を生成するステッ
    プと、 前記各断片の左右一方の端縁から所定面積の領域を当該
    端縁と接続する他方の断片の端縁に複製して、第3の長
    方形平面を生成するステップと、 前記第3の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第4の長方形平面を生成
    するステップと、 前記第4の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第5
    の長方形平面を生成するステップと、を具備することを
    特徴とする記憶媒体。
  32. 【請求項32】空間上に配置された被写体を複数台のカ
    メラで取り囲んで被写体を複数の視野角から撮影したマ
    ルチアングル映像データの処理をコンピュータ・システ
    ム上で実行するように記述されたコンピュータ・ソフト
    ウェアをコンピュータ可読形式で物理的に格納した記憶
    媒体であって、前記コンピュータ・ソフトウェアは、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第2の長方形平面を生成
    するステップと、 前記第2の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第3
    の長方形平面を生成するステップと、を具備することを
    特徴とする記憶媒体。
  33. 【請求項33】空間中のある1つの点を視点として周囲
    の画像を撮影するように視線方向が1つの水平面上で所
    定角度間隔で設置された複数台のカメラからの映像デー
    タの処理をコンピュータ・システム上で実行するように
    記述されたコンピュータ・プログラムであって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面を等分割して分割された各断片を
    上から順に配置して第2の長方形平面を生成するステッ
    プと、 前記各断片の左右一方の端縁から所定面積の領域を当該
    端縁と接続する他方の断片の端縁に複製して、第3の長
    方形平面を生成するステップと、 前記第3の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第4の長方形平面を生成
    するステップと、 前記第4の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第5
    の長方形平面を生成するステップと、を具備することを
    特徴とするコンピュータ・プログラム。
  34. 【請求項34】空間上に配置された被写体を複数台のカ
    メラで取り囲んで被写体を複数の視野角から撮影したマ
    ルチアングル映像データの処理をコンピュータ・システ
    ム上で実行するように記述されたコンピュータ・プログ
    ラムであって、 各カメラによる映像データをカメラを設置した順番に従
    って貼り合わせて第1の長方形平面の映像を生成するス
    テップと、 前記第1の長方形平面が所定の符号化方式に収容するサ
    イズとなるように縮小処理して第2の長方形平面を生成
    するステップと、 前記第2の長方形平面が前記所定の画像圧縮方式に適合
    するように未使用領域にダミー・データを付加して第3
    の長方形平面を生成するステップと、を具備することを
    特徴とするコンピュータ・プログラム。
JP2001308522A 2001-10-04 2001-10-04 映像データ処理装置及び映像データ処理方法、データ配信装置及びデータ配信方法、データ受信装置及びデータ受信方法、記憶媒体、並びにコンピュータ・プログラム Abandoned JP2003115050A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2001308522A JP2003115050A (ja) 2001-10-04 2001-10-04 映像データ処理装置及び映像データ処理方法、データ配信装置及びデータ配信方法、データ受信装置及びデータ受信方法、記憶媒体、並びにコンピュータ・プログラム
US10/263,918 US7145947B2 (en) 2001-10-04 2002-10-03 Video data processing apparatus and method, data distributing apparatus and method, data receiving apparatus and method, storage medium, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001308522A JP2003115050A (ja) 2001-10-04 2001-10-04 映像データ処理装置及び映像データ処理方法、データ配信装置及びデータ配信方法、データ受信装置及びデータ受信方法、記憶媒体、並びにコンピュータ・プログラム

Publications (1)

Publication Number Publication Date
JP2003115050A true JP2003115050A (ja) 2003-04-18

Family

ID=19127821

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001308522A Abandoned JP2003115050A (ja) 2001-10-04 2001-10-04 映像データ処理装置及び映像データ処理方法、データ配信装置及びデータ配信方法、データ受信装置及びデータ受信方法、記憶媒体、並びにコンピュータ・プログラム

Country Status (2)

Country Link
US (1) US7145947B2 (ja)
JP (1) JP2003115050A (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008533890A (ja) * 2005-03-15 2008-08-21 トムソン ライセンシング 複数のビデオ信号を単一のエンコードされたビデオ信号としてエンコードする方法および装置ならびにそのようなエンコードされたビデオ信号をデコードする方法および装置
JP2012048597A (ja) * 2010-08-30 2012-03-08 Univ Of Tokyo 複合現実感表示システム、画像提供画像提供サーバ、表示装置及び表示プログラム
WO2013047663A1 (ja) * 2011-09-29 2013-04-04 ERIGUCHI Teppei 動画像表示装置、動画像表示方法、プログラムおよび動画像処理表示システム
JP2015185964A (ja) * 2014-03-20 2015-10-22 大日本印刷株式会社 画像データ生成システム、画像生成方法、画像処理装置及びプログラム
JP2015185965A (ja) * 2014-03-20 2015-10-22 大日本印刷株式会社 撮像システム、撮像方法、画像再生装置及びプログラム
JP2015185962A (ja) * 2014-03-20 2015-10-22 大日本印刷株式会社 画像データ生成システム、画像データ生成方法、画像処理装置及びプログラム
US10063775B2 (en) 2010-10-01 2018-08-28 Saturn Licensing Llc Content transmission apparatus, content transmission method, content reproduction apparatus, content reproduction method, program and content delivery system

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006067545A1 (en) * 2004-12-23 2006-06-29 Nokia Corporation Multi-camera solution for electronic devices
JP4760288B2 (ja) * 2005-10-13 2011-08-31 ソニー株式会社 画像表示システム、表示装置、画像再合成装置、画像再合成方法及びプログラム
JP4860739B2 (ja) * 2009-09-03 2012-01-25 パナソニック株式会社 画像処理装置及び画像処理方法
US8908103B2 (en) 2010-10-01 2014-12-09 Sony Corporation Content supplying apparatus, content supplying method, content reproduction apparatus, content reproduction method, program and content viewing system
US8842974B2 (en) 2010-10-01 2014-09-23 Sony Corporation Content transmission apparatus, content transmission method, content reproduction apparatus, content reproduction method, program, and content delivery system
US9179198B2 (en) 2010-10-01 2015-11-03 Sony Corporation Receiving apparatus, receiving method, and program
US9078031B2 (en) 2010-10-01 2015-07-07 Sony Corporation Reception apparatus, reception method, and program
JP6210684B2 (ja) 2010-10-01 2017-10-11 サターン ライセンシング エルエルシーSaturn Licensing LLC 情報処理装置、情報処理方法、及びプログラム
WO2012173060A1 (ja) * 2011-06-15 2012-12-20 ソニー株式会社 受信装置、端末装置、制御方法、プログラム、及び通信システム
US8917358B2 (en) 2011-07-27 2014-12-23 Sony Corporation Reception apparatus, terminal apparatus, control method, program, and communication system
DE102014207607B4 (de) * 2013-04-25 2019-09-19 Avago Technologies International Sales Pte. Ltd. System und Verfahren zur Verarbeitung von Videodaten
US9894422B2 (en) * 2014-02-18 2018-02-13 Lg Electronics Inc. Method and apparatus for transreceiving broadcast signal for panorama service
US20160261908A1 (en) * 2015-03-05 2016-09-08 Htc Corporation Media streaming system and control method thereof
US10887653B2 (en) 2016-09-26 2021-01-05 Cyberlink Corp. Systems and methods for performing distributed playback of 360-degree video in a plurality of viewing windows
JP7212611B2 (ja) * 2017-02-27 2023-01-25 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 画像配信方法、画像表示方法、画像配信装置及び画像表示装置
CN109003434B (zh) * 2017-06-07 2021-08-31 北京中天鼎盛视讯科技有限公司 红外遥控系统及方法
KR101967819B1 (ko) * 2017-11-02 2019-04-10 주식회사 코난테크놀로지 타일 영상 기반 다중 재생을 위한 영상 처리장치 및 그 타일 영상 구성방법
US10212532B1 (en) 2017-12-13 2019-02-19 At&T Intellectual Property I, L.P. Immersive media with media device
US10735826B2 (en) * 2017-12-20 2020-08-04 Intel Corporation Free dimension format and codec
CN109660759B (zh) * 2018-12-06 2020-08-04 浙江大华技术股份有限公司 一种周界区域监控的方法、装置、系统及设备、存储介质
US10834381B1 (en) * 2019-07-25 2020-11-10 International Business Machines Corporation Video file modification
CN111212267A (zh) * 2020-01-16 2020-05-29 聚好看科技股份有限公司 一种全景图像的分块方法及服务器
EP4171022B1 (en) * 2021-10-22 2023-11-29 Axis AB Method and system for transmitting a video stream

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5649032A (en) * 1994-11-14 1997-07-15 David Sarnoff Research Center, Inc. System for automatically aligning images to form a mosaic image
US6075905A (en) * 1996-07-17 2000-06-13 Sarnoff Corporation Method and apparatus for mosaic image construction
US6650704B1 (en) * 1999-10-25 2003-11-18 Irvine Sensors Corporation Method of producing a high quality, high resolution image from a sequence of low quality, low resolution images that are undersampled and subject to jitter
US6694064B1 (en) * 1999-11-19 2004-02-17 Positive Systems, Inc. Digital aerial image mosaic method and apparatus
US6778207B1 (en) * 2000-08-07 2004-08-17 Koninklijke Philips Electronics N.V. Fast digital pan tilt zoom video

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008533890A (ja) * 2005-03-15 2008-08-21 トムソン ライセンシング 複数のビデオ信号を単一のエンコードされたビデオ信号としてエンコードする方法および装置ならびにそのようなエンコードされたビデオ信号をデコードする方法および装置
JP2012048597A (ja) * 2010-08-30 2012-03-08 Univ Of Tokyo 複合現実感表示システム、画像提供画像提供サーバ、表示装置及び表示プログラム
US10063775B2 (en) 2010-10-01 2018-08-28 Saturn Licensing Llc Content transmission apparatus, content transmission method, content reproduction apparatus, content reproduction method, program and content delivery system
KR101931390B1 (ko) * 2010-10-01 2018-12-20 소니 주식회사 콘텐츠 송신 장치, 콘텐츠 송신 방법, 콘텐츠 재생 장치, 콘텐츠 재생 방법, 프로그램 및 콘텐츠 배신 시스템
WO2013047663A1 (ja) * 2011-09-29 2013-04-04 ERIGUCHI Teppei 動画像表示装置、動画像表示方法、プログラムおよび動画像処理表示システム
JP2013085216A (ja) * 2011-09-29 2013-05-09 Teppei ERIGUCHI 動画像表示装置、動画像表示方法、プログラムおよび動画像処理表示システム
JP5208330B1 (ja) * 2011-09-29 2013-06-12 徹平 江里口 動画像表示装置、動画像表示方法、プログラムおよび動画像処理表示システム
JP2015185964A (ja) * 2014-03-20 2015-10-22 大日本印刷株式会社 画像データ生成システム、画像生成方法、画像処理装置及びプログラム
JP2015185965A (ja) * 2014-03-20 2015-10-22 大日本印刷株式会社 撮像システム、撮像方法、画像再生装置及びプログラム
JP2015185962A (ja) * 2014-03-20 2015-10-22 大日本印刷株式会社 画像データ生成システム、画像データ生成方法、画像処理装置及びプログラム

Also Published As

Publication number Publication date
US20030086003A1 (en) 2003-05-08
US7145947B2 (en) 2006-12-05

Similar Documents

Publication Publication Date Title
JP2003115050A (ja) 映像データ処理装置及び映像データ処理方法、データ配信装置及びデータ配信方法、データ受信装置及びデータ受信方法、記憶媒体、並びにコンピュータ・プログラム
US10841532B2 (en) Rectilinear viewport extraction from a region of a wide field of view using messaging in video transmission
CN112204993B (zh) 使用重叠的被分区的分段的自适应全景视频流式传输
JP6805861B2 (ja) 画像処理装置、画像処理システム、画像処理方法及びプログラム
JP3992045B2 (ja) 映像信号処理装置及び該方法並びに仮想現実感生成装置
US8953079B2 (en) System and method for generating 360 degree video recording using MVC
US11483475B2 (en) Adaptive panoramic video streaming using composite pictures
US20140244858A1 (en) Communication system and relaying device
US10116880B2 (en) Image stitching method and image processing apparatus
CN111726520B (zh) 摄影装置、摄影系统、图像处理方法
JP7177034B2 (ja) レガシー及び没入型レンダリングデバイスのために没入型ビデオをフォーマットする方法、装置、及びストリーム
JP2006094458A (ja) 映像信号処理装置および仮想現実感生成装置ならびに記録媒体
JP2019118026A (ja) 情報処理装置、情報処理方法、及びプログラム
JP2008028606A (ja) パノラマ展開画像撮像装置およびパノラマ展開画像撮像システム
JP2008510357A (ja) 画像のエンコーディング方法、エンコーディング装置、画像のデコーディング方法及びデコーディング装置
JP2006340091A (ja) カメラサーバ、ビューワ、画像表示システム及び画像配信方法
US9338429B2 (en) Video processing apparatus capable of reproducing video content including a plurality of videos and control method therefor
US9430859B2 (en) Image processing apparatus, image relaying apparatus, method for processing image, and method for relaying image
JP2003224838A (ja) 視点自由形画像表示装置及び方法、課金装置及び課金方法、記憶媒体、並びにコンピュータ・プログラム
JP2003319351A (ja) サービス提供システム、放送装置および方法、受信装置および方法、記録媒体、並びにプログラム
JP2000152051A (ja) 撮像装置
JP3542587B2 (ja) カメラ制御装置
JP5960095B2 (ja) 映像配信システム
JP5927515B2 (ja) 画像編集方法、画像編集システム、及び画像編集プログラム
JPH0998405A (ja) 画像処理システム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051115

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20060113