JP6582805B2 - 符号化装置、符号化システム、符号化方法、及びプログラム - Google Patents

符号化装置、符号化システム、符号化方法、及びプログラム Download PDF

Info

Publication number
JP6582805B2
JP6582805B2 JP2015188351A JP2015188351A JP6582805B2 JP 6582805 B2 JP6582805 B2 JP 6582805B2 JP 2015188351 A JP2015188351 A JP 2015188351A JP 2015188351 A JP2015188351 A JP 2015188351A JP 6582805 B2 JP6582805 B2 JP 6582805B2
Authority
JP
Japan
Prior art keywords
imaging direction
frames
frame
video data
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015188351A
Other languages
English (en)
Other versions
JP2017063367A (ja
Inventor
隆平 藤田
隆平 藤田
阿部 浩一
浩一 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2015188351A priority Critical patent/JP6582805B2/ja
Priority to US15/234,099 priority patent/US10154248B2/en
Publication of JP2017063367A publication Critical patent/JP2017063367A/ja
Application granted granted Critical
Publication of JP6582805B2 publication Critical patent/JP6582805B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/88Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving rearrangement of data among different coding units, e.g. shuffling, interleaving, scrambling or permutation of pixel data or permutation of transform coefficient data among different blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/158Switching image signals

Description

本発明は、符号化装置、符号化システム、符号化方法、及びプログラムに関する。
各地には、国や自治体等が管理する定点カメラが多数設置されている。このような定点カメラについて、用途を多様化したいという要望が有る。例えば、1台の定点カメラを回転させて複数の方向における映像を撮像することで、複数の用途に利用可能な映像を配信することが考えられる。
特開2009−188975号公報 特開2007−184891号公報 特開2005−167397号公報
しかしながら、カメラが或る方向(以下、「方向A」という。)を向いているときに撮像される映像の閲覧者にとって、他の方向(以下、「方向B」という。)に関して撮像された映像が混在するのは好ましくない場合が有る。例えば、放送局へ配信され、放送局が各地の様子を伝えるために利用している映像の方向が放送中に急に変化してしまっては、視聴者を混乱させてしまう。
そこで、一側面では、複数の方向を時系列に撮像する撮像装置からの映像を方向別に出力することを目的とする。
一つの案では、符号化装置は、複数の撮像方向において時系列に撮像された、複数のフレームを含む映像データを受信する受信部と、前記受信部によって受信された映像データに含まれる各フレームを、前記撮像方向ごとに分離する分離部と、前記分離部によって分離されたフレームを前記撮像方向ごとに記憶する記憶部と、前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームを含む映像データのフレームレートを算出する算出部と、前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームを当該撮像方向に関して算出されたフレームレートで含む映像データを符号化して出力する符号化部と、を有する。
一側面によれば、複数の方向を時系列に撮像する撮像装置からの映像を方向別に出力することができる。
本発明の実施の形態における映像配信システムの構成例を示す図である。 本発明の実施の形態におけるエンコーダのハードウェア構成例を示す図である。 本発明の実施の形態におけるエンコーダが実行する処理の概要を説明するための図である。 本発明の実施の形態におけるエンコーダの機能構成例を示す図である。 映像データの受信に応じてエンコーダが実行する処理手順の一例を説明するためのフローチャートである。 映像データに含まれる各フレームの分離後の各バッファの状態の一例を示す図である。 バッファに記憶されたフレームに関してエンコーダが実行する処理手順の一例を説明するためのフローチャートである。 フレームレート算出処理の処理手順の一例を説明するためのフローチャートである。
以下、図面に基づいて本発明の実施の形態を説明する。図1は、本発明の実施の形態における映像配信システムの構成例を示す図である。図1において、映像配信システム1は、カメラ20、エンコーダ10、並びに視聴装置30a及び視聴装置30c等の複数の視聴装置30を含む。カメラ20とエンコーダ10とは、カメラ20によって撮像された映像を伝送するためのネットワーク(有線又は無線の別を問わない。)によって接続されている。また、エンコーダ10と各視聴装置30とは、カメラ20によって撮像された映像を配信するためのネットワーク(有線又は無線の別を問わない。)によって接続されている。
カメラ20は、例えば、街中において設置されている監視用のカメラである。例えば、カメラ20は、CCTV(Closed Circuit Television)カメラであってもよい。本実施の形態において、カメラ20は、例えば、旋回(回転)することで、撮像方向を変化させることができる。図1では、カメラ20が、方向Aと方向Bとの二つの方向に周期的に撮像方向を変えて、撮像を行う例が示されている。その結果、カメラ20からエンコーダ10には、撮像方向が異なるフレームを時系列に含む映像データが伝送される。図1において、「AAxBBBBBxAAxBB・・・」は、映像データに含まれる各フレームの撮像方向を示す。「A」は、方向Aにおいて撮像されたフレームを示す。「B」は、方向Bにおいて撮像されたフレームを示す。「x」は、カメラ20の旋回中において撮像されたフレームを示す。したがって、図1の例では、方向Aにおいて撮像される2フレームと、方向Aから方向Bへの旋回中における1フレームと、方向Bにおいて撮像される6フレームと、方向Bから方向Aへの旋回中における1フレームとによって1周期分の映像データが構成される例が示されている。すなわち、1周期とは、或る方向に向いていたカメラ20が旋回して当該方向に戻るまでの期間をいう。
エンコーダ10は、カメラ20によって撮像された映像データを所定の方式によって符号化(エンコード)する装置である。エンコーダ10は、符号化された映像データを、各視聴装置30に配信する。図1では、1つのカメラ20が入力側に接続され、2つの視聴装置30が出力側に接続された例が示されている。但し、入力側に接続されるカメラ20数及び出力側に接続される視聴装置30数は、所定のものに限定されない。なお、エンコーダ10は、視聴装置30aに対しては、方向Aにおいて撮像された映像(方向A映像)を配信し、視聴装置30bに対しては、方向Bにおいて撮像された映像(方向B映像)を配信する。
各視聴装置30は、エンコーダ10によって配信される映像の視聴に利用される端末である。各視聴装置30は、専用の端末であってもよいし、PC(Personal Computer)、スマートフォン、又はタブレット端末等の汎用的な端末であってもよい。なお、図中における視聴装置30a及び視聴装置30bのそれぞれは、複数の視聴装置30の集合であってもよい。
図2は、本発明の実施の形態におけるエンコーダのハードウェア構成例を示す図である。図2のエンコーダ10は、それぞれバスBで相互に接続されているドライブ装置100、補助記憶装置102、メモリ装置103、CPU104、及びインタフェース装置105等を有する。
エンコーダ10での処理を実現するプログラムは、記録媒体101によって提供される。プログラムを記録した記録媒体101がドライブ装置100にセットされると、プログラムが記録媒体101からドライブ装置100を介して補助記憶装置102にインストールされる。但し、プログラムのインストールは必ずしも記録媒体101より行う必要はなく、ネットワークを介して他のコンピュータよりダウンロードするようにしてもよい。補助記憶装置102は、インストールされたプログラムを格納すると共に、必要なファイルやデータ等を格納する。
メモリ装置103は、プログラムの起動指示があった場合に、補助記憶装置102からプログラムを読み出して格納する。CPU104は、メモリ装置103に格納されたプログラムに従ってエンコーダ10に係る機能を実行する。インタフェース装置105は、ネットワークに接続するためのインタフェースとして用いられる。
なお、記録媒体101の一例としては、CD−ROM、DVDディスク、又はUSBメモリ等の可搬型の記録媒体が挙げられる。また、補助記憶装置102の一例としては、HDD(Hard Disk Drive)又はフラッシュメモリ等が挙げられる。記録媒体101及び補助記憶装置102のいずれについても、コンピュータ読み取り可能な記録媒体に相当する。
図3は、本発明の実施の形態におけるエンコーダが実行する処理の概要を説明するための図である。
図3には、カメラ20からエンコーダ10に入力される映像データp1を構成する各フレームが、斜めの矩形によって示されている。各矩形のうち、「移動中」と記載されている矩形は、カメラ20の旋回中に撮像されたフレーム(以下、「移動フレーム」という。)である。「Ax」と記載されている矩形は、方向Aにおいて撮像されたフレーム(以下、「Aフレーム」という。)である。「Bx」と記載されている矩形は、方向Bにおいて撮像されたフレーム(以下、「Bフレーム」という。)である。なお、Axにおけるxは、Aフレームの中での順番を示す。Bxにおけるxは、Bフレームの中での順番を示す。図3におけるフレームの周期は、図1と同様である。すなわち、2つのAフレームと、1つの移動フレーム(方向Aから方向B)と、6つのBフレームと、1つの移動フレーム(方向Bから方向A)とが、1周期分のフレーム群を構成する。
映像データp1が、図3に示されるような周期を有する場合、エンコーダ10は、Aフレームについては、例えば、各周期における2つのうちの先頭のフレームのみを含む映像データを、視聴装置30aに配信する。また、エンコーダ10は、Bフレームについては、各周期における6つのフレームのうちの最初のフレームと最後のフレームのみを含む映像データを、視聴装置30bに配信する。そうすることで、各視聴装置30に配信されるフレームの間隔を一定(等間隔)とすることができる。換言すれば、エンコーダ10は、Aフレーム及びBフレームのそれぞれのフレームの間隔が一定となるように、フレームの間引きを行う(又は一部のフレームを抽出する)。図3において、Aフレームは、9フレーム間隔とされている。また、Bフレームは、4フレーム間隔とされている。その結果、フレーム間における時間の経過を均一化することができる。
なお、仮に、全てのAフレームが視聴装置30aに配信された場合、フレームA1からフレームA2までの映像の変化と、フレームA2とフレームA3との間の映像の変化とは大きく異なる。同様に、全てのBフレームを視聴装置30bに配信された場合、フレームB1からフレームB6までの各フレーム間の映像の変化と、フレームB6とフレームB7との間の映像の変化とは大きく異なる。したがって、視聴者には、不自然な映像に感じられる。
図3に示したようなフレームの間引きを実現するため、エンコーダ10は、例えば、図4に示されるような機能構成を有する。
図4は、本発明の実施の形態におけるエンコーダの機能構成例を示す図である。図4において、エンコーダ10は、カメラ制御部11、映像受信部12、映像分離部13、フレームレート調整部14a、フレームレート調整部14b、エンコード部15a、及びエンコード部15b等を有する。これら各部は、エンコーダ10にインストールされた1以上のプログラムが、CPU104に実行させる処理により実現される。エンコーダ10は、また、バッファ16a及びバッファ16bを有する。バッファ16は、例えば、メモリ103又は補助記憶装置102等を用いて実現可能である。
なお、フレームレート調整部14a、エンコード部15a、及びバッファ16aは、Aフレームに対応し、フレームレート調整部14b、エンコード部15b、及びバッファ16bは、Bフレームに対応する。末尾のアルファベット(a又はb)のみが異なる各部を区別しない場合、末尾のアルファベットは除去される。
カメラ制御部11は、カメラ20の動き(旋回)を制御する。例えば、カメラ制御部11は、ネットワークを介してエンコーダ10に接続される、他のコンピュータからの命令に応じてカメラ20を制御してもよい。但し、本実施の形態において、カメラ20の動きは周期的であるとする。
映像受信部12は、カメラ20によって撮像された映像データ(映像信号)を受信する。映像分離部13は、映像受信部12によって受信された映像データを構成する各フレームを、撮像方向が共通するフレームごとに分離する。本実施の形態では、各フレームが、AフレームとBフレームとに分離される。Aフレームは、バッファ16aに記憶される。Bフレームは、バッファ16bに記憶される。
フレームレート調整部14は、バッファ16に記憶された各フレームの分離前の順番に基づいて、フレームレートを算出し、算出されたフレームレートでの映像データを生成する。エンコード部15は、フレームレート調整部14によって生成された映像データを符号化し、符号化された映像データを視聴装置30に配信する。
以下、図1のエンコーダ10が実行する処理手順について説明する。図5は、映像データの受信に応じてエンコーダが実行する処理手順の一例を説明するためのフローチャートである。
ステップS101において、映像分離部13は、変数iに0を代入する。変数iは、各フレームの順番を記憶するための変数である。続いて、映像分離部13は、映像受信部12から1フレーム分の映像データを受信すると共に、カメラ制御部11から、カメラ20の状態情報を受信する(S102)。映像受信部12から受信される映像データは、例えば、現時点においてカメラ20によって撮像され、カメラ20から映像受信部12が受信した映像データである。カメラ制御部11から受信されるカメラ20の状態情報は、現時点(すなわち、当該映像データの撮像時)におけるカメラ20の状態を示す受信である。カメラ20の状態情報は、例えば、カメラ20が方向A若しくは方向Bを向いているのか、又はカメラ20が旋回中であるのかを示す情報である。なお、カメラ制御部11は、カメラ20の動作を制御するため、カメラ20の状態を知っている。
続いて、映像分離部13は、変数iに対して1を加算する(S102)。続いて、映像分離部13は、受信された映像データの1フレーム(以下、「対象フレーム」という。)が、いずれかの撮像方向に関するフレームであるか否かを判定する(S103)。本実施の形態では、方向A又は方向Bにおいて撮像されたフレームであるか否かが判定される。当該判定は、カメラ制御部11から受信された状態情報に基づいて行うことができる。
対象フレームが、いずれかの撮像方向に関するフレームでない場合、すなわち、対象フレームが移動フレームである場合(S104でNo)、ステップS104以降は実行されない。対象フレームが、いずれかの撮像方向に関するフレームである場合(S104でYes)、映像分離部13は、対象フレームに関する撮像方向に対応するバッファ16の有無を判定する(S105)。該当するバッファ16が無い場合(S105でNo)、映像分離部13は、該当するバッファ16を生成する(S106)。続いて、映像分離部13は、当該バッファ16に対応するフレームレート調整部14及びエンコード部15を起動する(S107)。例えば、対象フレームに関する撮像方向が方向Aである場合、バッファ16aが生成され、フレームレート調整部14a及びエンコード部15aが起動される。なお、各撮像方向が映像分離部13にとって既知であれば、各バッファ16が予め生成され、各バッファ16に対応するフレームレート調整部14及びエンコード部15が予め起動されていてもよい。
ステップS105でYesの場合、又はステップS107に続いて、映像分離部13は、対象フレームに関する撮像方向に対応するバッファ16に対象フレームを記憶する(S108)。この際、映像分離部13は、変数iの値を対象フレームに関連付ける。なお、変数iの値は、撮像方向ごとに分離される前の各フレームの順番を示す。
図5のステップS101以降が、フレームごとに実行されることで、カメラ20から受信される映像データに含まれる各フレームは、撮像方向ごとに分離されて、それぞれの撮像方向に対応するバッファ16に記憶される。
図6は、映像データに含まれる各フレームの分離後の各バッファの状態の一例を示す図である。図6に示されるように、映像データp1に含まれる各フレームのうち、Aフレームは、バッファ16aに記憶され、Bフレームは、バッファ16bに記憶される。バッファ16内の各フレームに付与されている括弧内の数値は、各フレームに関連付けられた変数iの値を示す。
図7は、バッファに記憶されたフレームに関してエンコーダが実行する処理手順の一例を説明するためのフローチャートである。なお、図7の処理は、図5とは独立して(図5と並行して)、各フレームレート調整部14によって実行される。図5では、方向Aに対応するフレームレート調整部14aが、各ステップの実行主体であるとする。
ステップS201において、フレームレート調整部14aは、方向Aに関して配信される映像データのフレームレートを算出済みであるか否かを判定する。フレームレートを算出済みでない場合(S201でNo)、フレームレート調整部14aは、フレームレート算出処理を実行する(S202)。フレームレート算出処理の詳細については後述される。
フレームレートを算出済みである場合(S201でYes)、又はステップS202に続いて、フレームレート調整部14aは、バッファ16aに記憶されているフレームの数は、フレームレートに対して十分な数であるか否かを判定する(S203)。例えば、フレームレートが、Nfpsである場合(Nは正の整数)、N個のフレームがバッファ16aに記憶されているか否かが判定されてもよい。又は、他の方法によって、十分なフレーム数が判定されてもよい。
バッファ16aに記憶されているフレームの数が、フレームレートに対して不十分な場合(S203でNo)、フレームレート調整部14aは、十分な数のフレームがバッファ16aに記憶されるまで待機する。
バッファ16aに記憶されているフレームの数が、フレームレートに対して十分な場合(S203でYes)、フレームレート調整部14は、当該フレームレートでの映像データを、バッファ16aに記憶されているフレームを使用して生成する(S204)。映像データの生成に使用されたフレームは、バッファ16aから削除される。
続いて、エンコード部15aは、当該映像データを符号化して、符号化後の映像データを、視聴装置30aに配信する(S205)。
なお、本実施の形態において、図7の処理は、フレームレート調整部14b及びエンコード部15bによっても実行される。
続いて、ステップS202の詳細について説明する。図8は、フレームレート算出処理の処理手順の一例を説明するためのフローチャートである。ここでは、フレームレート調整部14aが当該処理手順を実行する場合について説明する。
ステップS301において、フレームレート調整部14aは、フレームレートの算出のために十分な数のフレームがバッファ16a内に記憶されているか否かを判定する。フレームレートの算出のために十分な数のフレームとは、カメラ20の旋回の1周期あたりのフレームの総数と、当該1周期に含まれる、対象の撮像方向(方向A)に関するフレーム数とを特定可能な分のフレームである。例えば、方向Aに関しては、図6において、フレーム(1)、フレーム(2)、及びフレーム(10)がバッファ16aに記憶されていれば、十分である。フレーム(10)とフレーム(1)とのそれぞれに関連付けられている順番に基づいて、10−1+1=10が、1周期あたりのフレームの総数であることを特定可能である。また、フレーム(1)及びフレーム(2)によって、1周期に含まれるAフレームは、2枚であることを特定可能である。
すなわち、対象の撮像方向に関するフレームの連続数と、非連続数とが特定可能であればよい。連続数とは、1つの周期におけるAフレームの数をいう。非連続数とは、或る周期における最後のAフレームと、次の周期における最初のAフレームとの間におけるフレーム数をいう。図6において、Aフレームの連続数は2であり、非連続数は、8である。2+8=10が、1周期あたりのフレームの総数であり、連続数である2が、1周期あたりのAフレームのフレーム数である。
フレームレートの算出のために十分な数のフレームがバッファ16a内に記憶されると(S301でYes)、フレームレート調整部14aは、1周期あたりのフレームの総数を、変数Fに代入する(S302)。続いて、フレームレート調整部14aは、1周期あたりのAフレームのフレーム数を、変数f1に代入する(S303)。続いて、フレームレート調整部14aは、F−f1の算出結果を、変数f2に代入する(S304)。すなわち、変数f2は、フレームA以外のフレームの1周期あたりの数である。図6の例において、F=10、f1=2、f2=8である。
続いて、フレームレート調整部14aは、変数f1の値と変数f2の値とを比較する(S305)。Aフレームに関しては、f1≦f2である。したがって、この場合(S305でYes)、フレームレート調整部14は、1周期分のフレームから配信対象として抽出するAフレームの数を1とする(S306)。すなわち、1周期あたりのAフレームの数は2であるため、1枚は間引かれることが決定される。この際、フレームレート調整部14aは、抽出後の各Aフレームの間隔が一定となるように、各周期から抽出されるAフレームの位置を決定する。図6の例において、Aフレームの連続数は2である。したがって、各周期において1番目のAフレームが抽出されることが決定される。そうすることで、抽出される各Aフレームの間隔(抽出される各Aフレームの間に存在していたフレームの数)を、一定(図6の例では9枚)とすることができる。但し、2番目のAフレームが各周期から抽出されてもよい。
続いて、フレームレート調整部14は、1周期あたりの抽出数に基づいて、フレームレートを算出する(S309)。当該フレームレートxは、例えば、以下の方程式(1)を解くことで、算出されてもよい。
(1周期あたりの抽出数/F)=x/受信映像のフレームレート ・・・(1)
ここで、受信映像のフレームレートが、29.94[fps]だとし、f1及びFの値が上記の通りであるとすると、以下の方程式は、次の通りとなる。
1/10=x/29.94
当該方程式を解くと、xは、次のように求まる。
x=29.94/10=2.994[fps]
続いて、図8の処理手順を、フレームレート調整部14bが実行する場合について説明する。この場合、図6の例では、F=10、f1=6、f2=4となる。したがって、ステップS305において、f1>f2であると判定される。この場合(S305でNo)、フレームレート調整部14bは、以下の式(2)が成立するか否かを判定する。
n×(f2+1)+1=f1 ・・・(2)
ここで、nは、任意の正の整数(1,2,3,・・・)である。図6の例では、f1=6、f2=4であるから、n=1のときに、両辺の値が6となり、上記の式が成立する。この場合(S307でYes)、フレームレート調整部14bは、1周期から抽出するフレーム数をn+1とする(S308)。したがって、図6の例では、1周期あたり2枚のBフレームが抽出される。また、フレームレート調整部14bは、抽出される各Bフレームの間隔が一定となるように、各周期において抽出される2枚のBフレームの位置を決定する。図6の例では、各周期において最初のBフレームと、最後のBフレームとが抽出対象とされる。そうすることで、Bフレームの間隔を、4フレームとすることができる。すなわち、或る周期の最初のBフレームと最後のBフレームとの間隔は4フレームであり、或る周期の最後のBフレームと次の周期の最初のBフレームとの間隔も4フレームとなる。
続いて、フレームレート調整部14bは、フレームレート調整部14aと同様に、方程式(1)に基づいて、Bフレームのフレームレートを算出する(S309)。Bフレームに関しては、以下のような方程式が解かれる。
2/10=x/29.94
当該方程式を解くと、フレームレートxは、次のように求まる。
x=2×29.94/10=5.848[fps]
なお、仮に、Bフレームの連続数が11である場合、すなわち、f1=11、f2=4である場合、nが2のときに、式(2)が成立する。すなわち、この場合、両辺の値は、9となる。したがって、この場合、1周期あたり4枚のBフレームが抽出される。各Bフレームの間隔を一定にするために、各周期において、1番目、6番目、及び11番目のBフレームが抽出される。そうすることで、各Bフレームの間隔を4フレームにすることができる。すなわち、式(2)は、一定間隔のフレームが抽出可能であるか否かを判定するための条件式である。
一方、nにどの様な値を与えても式(2)が成立しない場合(S307でNo)、ステップS306以降が実行される。例えば、f1が5である場合、当該式は成立しない。したがって、この場合、各周期から1枚のBフレームが抽出される。
但し、f1が5である場合であっても、1番目と5番目のBフレームを抽出すれば、Bフレームの間隔を、4、3、4、3、・・・とほぼ一定とすることができる。すなわち、或る周期の最後のBフレームと次のフレームの最初のBフレームとの間隔は4フレームであり、当該次の周期の最初のBフレームと最後のBフレームとの間隔は3フレームである。この場合であっても、抽出されたフレームの間隔は、間引きが行われない場合に比べて均一性が高くなることが期待できる。したがって、必ずしも、式(2)に基づいて抽出数が決定されなくてもよい。Bフレームの間隔が略一定になるのであれば、他の方法によってBフレームの抽出数及び抽出されるBフレームの位置が決定されてもよい。
上述したように、本実施の形態によれば、カメラ20によって時系列に撮像される複数の方向の映像データに含まれる各フレームは、撮像方向ごとに分離される。また、撮像方向ごとに分離された各フレームは、分離前の各フレームの順番に基づいて算出されるフレームレートで符号化され、各撮像方向に対応する視聴装置30に配信される。したがって、複数の方向を時系列に撮像するカメラ20からの映像を方向別に出力することができる。
なお、本実施の形態では、カメラ20の撮像方向が2方向である例について説明したが、3方向以上の撮像方向に関して時系列に撮像を行うカメラ20について、本実施の形態が適用されてもよい。
なお、本実施の形態において、カメラ20は、撮像装置の一例である。エンコーダ10は、符号化装置の一例である。映像受信部12は、受信部の一例である。映像分離部13は、分離部の一例である。フレームレート調整部14は、算出部の一例である。エンコード部15は、符号化部の一例である。バッファ16は、記憶部の一例である。
以上、本発明の実施例について詳述したが、本発明は斯かる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
以上の説明に関し、更に以下の項を開示する。
(付記1)
複数の撮像方向において時系列に撮像された、複数のフレームを含む映像データを受信する受信部と、
前記受信部によって受信された映像データに含まれる各フレームを、前記撮像方向ごとに分離する分離部と、
前記分離部によって分離されたフレームを前記撮像方向ごとに記憶する記憶部と、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームを含む映像データのフレームレートを算出する算出部と、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームを当該撮像方向に関して算出されたフレームレートで含む映像データを符号化して出力する符号化部と、
を有することを特徴とする符号化装置。
(付記2)
前記算出部は、前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームの中から一部のフレームを抽出し、抽出されたフレームに関してフレームレートを算出する、
ことを特徴とする付記1記載の符号化装置。
(付記3)
前記算出部は、抽出されるフレームの前記分離前の間隔が一定となるように、前記一部のフレームを抽出する、
ことを特徴とする付記2記載の符号化装置。
(付記4)
複数の撮像方向の映像を時系列に撮像する撮像装置と、符号化装置とを含む符号化システムであって、
前記符号化装置は、
前記撮像装置によって撮像された、複数のフレームを含む映像データを受信する受信部と、
前記受信部によって受信された映像データに含まれる各フレームを、前記撮像方向ごとに分離する分離部と、
前記分離部によって分離されたフレームを前記撮像方向ごとに記憶する記憶部と、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームを含む映像データのフレームレートを算出する算出部と、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームを当該撮像方向に関して算出されたフレームレートで含む映像データを符号化して出力する符号化部と、
を有することを特徴とする符号化システム。
(付記5)
前記算出部は、前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームの中から一部のフレームを抽出し、抽出されたフレームに関してフレームレートを算出する、
ことを特徴とする付記4記載の符号化システム。
(付記6)
前記算出部は、抽出されるフレームの前記分離前の間隔が一定となるように、前記一部のフレームを抽出する、
ことを特徴とする付記5記載の符号化システム。
(付記7)
符号化装置が、
複数の撮像方向において時系列に撮像された、複数のフレームを含む映像データを受信し、
前記する処理において受信された映像データに含まれる各フレームを、前記撮像方向ごとに分離し、
前記分離する処理において分離されたフレームを前記撮像方向ごとに記憶部に記憶し、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームを含む映像データのフレームレートを算出し、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームを当該撮像方向に関して算出されたフレームレートで含む映像データを符号化して出力する、
処理を実行することを特徴とする符号化方法。
(付記8)
前記算出する処理は、前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームの中から一部のフレームを抽出し、抽出されたフレームに関してフレームレートを算出する、
ことを特徴とする付記7記載の符号化方法。
(付記9)
前記算出する処理は、抽出されるフレームの前記分離前の間隔が一定となるように、前記一部のフレームを抽出する、
ことを特徴とする付記8記載の符号化方法。
(付記10)
符号化装置に、
複数の撮像方向において時系列に撮像された、複数のフレームを含む映像データを受信し、
前記する処理において受信された映像データに含まれる各フレームを、前記撮像方向ごとに分離し、
前記分離する処理において分離されたフレームを前記撮像方向ごとに記憶部に記憶し、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームを含む映像データのフレームレートを算出し、
前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームを当該撮像方向に関して算出されたフレームレートで含む映像データを符号化して出力する、
処理を実行させることを特徴とするプログラム。
(付記11)
前記算出する処理は、前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された各フレームの分離前の順番に基づいて、当該各フレームの中から一部のフレームを抽出し、抽出されたフレームに関してフレームレートを算出する、
ことを特徴とする付記10記載のプログラム。
(付記12)
前記算出する処理は、抽出されるフレームの前記分離前の間隔が一定となるように、前記一部のフレームを抽出する、
ことを特徴とする付記11記載のプログラム。
10 エンコーダ
11 カメラ制御部
12 映像受信部
13 映像分離部
14a、14b フレームレート調整部
15a、15b エンコード部
16a、16b バッファ
20 カメラ
30a、30b 視聴装置
100 ドライブ装置
101 記録媒体
102 補助記憶装置
103 メモリ装置
104 CPU
105 インタフェース装置
B バス

Claims (5)

  1. 周期的に複数の撮像方向において第1のフレームレートで撮像され1の前記撮像方向に対するフレーム数と第2の前記撮像方向に対するフレーム数とが異なる複数のフレームを含む第1の映像データを受信する受信部と、
    前記受信部によって受信された前記第1の映像データに含まれる各フレームを、前記撮像方向ごとに分離する分離部と、
    前記分離部によって分離されたフレームを前記撮像方向ごとに記憶する記憶部と、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された周期ごとのフレームの数と、前記第1の映像データの周期ごとのフレームの総数とに基づいて、前記撮像方向ごとに生成される第2の映像データに関する第2のフレームレートを算出する算出部と、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶されたフレームのうちの一部のフレームを当該撮像方向に関して算出された前記第2のフレームレートで含む前記第2の映像データを符号化して出力する符号化部と、
    を有することを特徴とする符号化装置。
  2. 前記符号化部は、前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶されたフレームのうち前記第1の映像データにおいて等間隔のフレームを当該撮像方向に関して算出された前記第2のフレームレートで含む前記第2の映像データを符号化して出力する
    ことを特徴とする請求項記載の符号化装置。
  3. 複数の撮像方向の映像を時系列に撮像する撮像装置と、符号化装置とを含む符号化システムであって、
    前記符号化装置は、
    前記撮像装置によって周期的に複数の撮像方向において第1のフレームレートで撮像され1の前記撮像方向に対するフレーム数と第2の前記撮像方向に対するフレーム数とが異なる複数のフレームを含む第1の映像データを受信する受信部と、
    前記受信部によって受信された前記第1の映像データに含まれる各フレームを、前記撮像方向ごとに分離する分離部と、
    前記分離部によって分離されたフレームを前記撮像方向ごとに記憶する記憶部と、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された周期ごとのフレームの数と、前記第1の映像データの周期ごとのフレームの総数とに基づいて、前記撮像方向ごとに生成される第2の映像データに関する第2のフレームレートを算出する算出部と、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶されたフレームのうちの一部のフレームを当該撮像方向に関して算出された前記第2のフレームレートで含む前記第2の映像データを符号化して出力する符号化部と、
    を有することを特徴とする符号化システム。
  4. 符号化装置が、
    周期的に複数の撮像方向において第1のフレームレートで撮像され1の前記撮像方向に対するフレーム数と第2の前記撮像方向に対するフレーム数とが異なる複数のフレームを含む第1の映像データを受信し、
    前記受信する処理において受信された前記第1の映像データに含まれる各フレームを、前記撮像方向ごとに分離し、
    前記分離する処理において分離されたフレームを前記撮像方向ごとに記憶部に記憶し、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された周期ごとのフレームの数と、前記第1の映像データの周期ごとのフレームの総数とに基づいて、前記撮像方向ごとに生成される第2の映像データに関する第2のフレームレートを算出し、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶されたフレームのうちの一部のフレームを当該撮像方向に関して算出された前記第2のフレームレートで含む前記第2の映像データを符号化して出力する、
    処理を実行することを特徴とする符号化方法。
  5. 符号化装置に、
    周期的に複数の撮像方向において第1のフレームレートで撮像され1の前記撮像方向に対するフレーム数と第2の前記撮像方向に対するフレーム数とが異なる複数のフレームを含む第1の映像データを受信し、
    前記受信する処理において受信された前記第1の映像データに含まれる各フレームを、前記撮像方向ごとに分離し、
    前記分離する処理において分離されたフレームを前記撮像方向ごとに記憶部に記憶し、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶された周期ごとのフレームの数と、前記第1の映像データの周期ごとのフレームの総数とに基づいて、前記撮像方向ごとに生成される第2の映像データに関する第2のフレームレートを算出し、
    前記撮像方向ごとに、当該撮像方向に関して前記記憶部に記憶されたフレームのうちの一部のフレームを当該撮像方向に関して算出された前記第2のフレームレートで含む前記第2の映像データを符号化して出力する、
    処理を実行させることを特徴とするプログラム。
JP2015188351A 2015-09-25 2015-09-25 符号化装置、符号化システム、符号化方法、及びプログラム Active JP6582805B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015188351A JP6582805B2 (ja) 2015-09-25 2015-09-25 符号化装置、符号化システム、符号化方法、及びプログラム
US15/234,099 US10154248B2 (en) 2015-09-25 2016-08-11 Encoder apparatus, encoder system, encoding method, and medium for separating frames captured in time series by imaging directions

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015188351A JP6582805B2 (ja) 2015-09-25 2015-09-25 符号化装置、符号化システム、符号化方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2017063367A JP2017063367A (ja) 2017-03-30
JP6582805B2 true JP6582805B2 (ja) 2019-10-02

Family

ID=58406021

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015188351A Active JP6582805B2 (ja) 2015-09-25 2015-09-25 符号化装置、符号化システム、符号化方法、及びプログラム

Country Status (2)

Country Link
US (1) US10154248B2 (ja)
JP (1) JP6582805B2 (ja)

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4562463A (en) * 1981-05-15 1985-12-31 Stereographics Corp. Stereoscopic television system with field storage for sequential display of right and left images
US5481543A (en) * 1993-03-16 1996-01-02 Sony Corporation Rational input buffer arrangements for auxiliary information in video and audio signal processing systems
US5475419A (en) * 1994-06-29 1995-12-12 Carbery Dimensions, Ltd. Apparatus and method for three-dimensional video
US5661518A (en) * 1994-11-03 1997-08-26 Synthonics Incorporated Methods and apparatus for the creation and transmission of 3-dimensional images
ATE433590T1 (de) * 2002-11-27 2009-06-15 Vision Iii Imaging Inc Abtastung der parallaxe durch manipulation der position der gegenstände in einer szene
JP2005167397A (ja) 2003-11-28 2005-06-23 Canon Inc サーバ装置及びその制御方法及び記憶媒体
JP4616211B2 (ja) 2005-12-07 2011-01-19 三菱電機株式会社 映像配信支援システム
JP4636139B2 (ja) 2008-01-11 2011-02-23 ソニー株式会社 テレビ会議端末装置、画像送信方法
US8259157B2 (en) 2008-01-11 2012-09-04 Sony Corporation Teleconference terminal apparatus and image transmitting method
ES2826924T3 (es) * 2008-05-19 2021-05-19 Saab Tactical Electronics Ab Un dispositivo de control y un procedimiento para ajustar la velocidad de fotogramas de una secuencia de imágenes de video
JP2010206593A (ja) * 2009-03-04 2010-09-16 Sony Corp 画像処理装置、画像処理方法、及びプログラム
US9635334B2 (en) * 2012-12-03 2017-04-25 Avago Technologies General Ip (Singapore) Pte. Ltd. Audio and video management for parallel transcoding
CN108495051B (zh) * 2013-08-09 2021-07-06 热成像雷达有限责任公司 采用多个虚拟设备分析热像数据的方法和将深度值与图像像素进行关联的方法
US20170078649A1 (en) * 2014-03-07 2017-03-16 Brown University Method and system for unsynchronized structured lighting
US20160360185A1 (en) * 2015-06-03 2016-12-08 Empire Technology Development Llc Three-dimensional imaging sensor calibration

Also Published As

Publication number Publication date
US10154248B2 (en) 2018-12-11
JP2017063367A (ja) 2017-03-30
US20170094282A1 (en) 2017-03-30

Similar Documents

Publication Publication Date Title
US10594988B2 (en) Image capture apparatus, method for setting mask image, and recording medium
JP6123274B2 (ja) 撮像装置
US10834297B2 (en) Image capturing apparatus capable of time code synchronization, control method of the same, storage medium, and image capturing system
JP5905976B2 (ja) オーディオ・ビジュアルシステムの構成
US20160227092A1 (en) Image capturing apparatus and method of controlling the same
US10834477B2 (en) Information processing apparatus and control method thereof
WO2012049941A1 (ja) 動画像配信システム、及び動画像配信方法
EP3007449B1 (en) Protected storage of content with two complementary memories
US20140340526A1 (en) Imaging apparatus, method for controlling imaging apparatus, and system therefor
US10937124B2 (en) Information processing device, system, information processing method, and storage medium
US10552980B2 (en) Image processing apparatus, image processing method, and storage medium
KR101280443B1 (ko) 영역 영상을 처리하는 장치 및 그 제어방법
JP6582805B2 (ja) 符号化装置、符号化システム、符号化方法、及びプログラム
JP6261191B2 (ja) 表示制御装置、表示制御方法、プログラム
JP2009088850A (ja) 動画像配信システムおよび動画像配信方法
CN112788198B (zh) 摄影装置、传送系统及方法、记录介质和计算机装置
JP2015130632A (ja) 画像処理装置、送受信システム、画像処理方法、およびプログラム
KR20190122692A (ko) 화상 처리 장치 및 화상 처리 방법
JP2014150487A (ja) 撮像装置
US20200311902A1 (en) Data processing apparatus, data analysis system, data analysis method and storage medium
KR20130101707A (ko) 촬영장치, 전자 장치, 동영상 생성 방법 및 썸네일 표시 방법
JP2015198265A5 (ja) 画像処理装置
JP6569315B2 (ja) 動画監視システム、動画監視方法、および動画監視用プログラム
WO2017038480A1 (ja) コンテンツ処理装置、コンテンツ処理方法、及び、プログラム
KR20160046561A (ko) 영상 관리 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180608

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190819

R150 Certificate of patent or registration of utility model

Ref document number: 6582805

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150