JP7406169B2 - 同期制御装置、同期制御方法、および、同期制御プログラム - Google Patents
同期制御装置、同期制御方法、および、同期制御プログラム Download PDFInfo
- Publication number
- JP7406169B2 JP7406169B2 JP2022530465A JP2022530465A JP7406169B2 JP 7406169 B2 JP7406169 B2 JP 7406169B2 JP 2022530465 A JP2022530465 A JP 2022530465A JP 2022530465 A JP2022530465 A JP 2022530465A JP 7406169 B2 JP7406169 B2 JP 7406169B2
- Authority
- JP
- Japan
- Prior art keywords
- presentation
- output
- time
- synchronous control
- presentation device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000001360 synchronised effect Effects 0.000 title claims description 75
- 238000000034 method Methods 0.000 title claims description 9
- 238000012360 testing method Methods 0.000 claims description 99
- 238000001514 detection method Methods 0.000 claims description 30
- 238000005286 illumination Methods 0.000 claims description 10
- 238000012937 correction Methods 0.000 claims description 6
- 230000005236 sound signal Effects 0.000 description 26
- 238000010586 diagram Methods 0.000 description 19
- 230000005540 biological transmission Effects 0.000 description 17
- 238000012545 processing Methods 0.000 description 8
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 7
- 238000012544 monitoring process Methods 0.000 description 7
- 238000005034 decoration Methods 0.000 description 3
- 230000001934 delay Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000001994 activation Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Circuit Arrangement For Electric Light Sources In General (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明は、同期制御装置、同期制御方法、および、同期制御プログラムに関する。
近年の情報機器および情報通信の発達に伴い、多様な映像配信形態が提供されている。映像配信を実現する技術として、国際標準規格のMMT(MPEG Media Transport)がある(非特許文献1、特許文献1参照)。
MMTでは、送信システムから受信システムに、MMTP(MPEG Media Transport Protocol)データが送信される。このMMTPデータにおいて、コンテンツの出力時刻をUTC(Coordinated Universal Time)で指定し、受信システムで映像と音声とを同期して提示することが可能である。受信システムにおいて、MMT受信装置が、MMTPデータをデコードして、UTCで指定された出力時刻にコンテンツを提示装置に出力し、提示装置が出力されたデータを再生する。
ライブビューイングの増加に伴い、付加価値として、臨場感のあるライブビューイングのニーズが高まっている。臨場感のあるライブビューイングを実現するために、ライブビューイング会場の照明、電飾等の状態を、ライブ会場と同様にすることが考えられる。一般的に照明制御は、ライブ会場内などの限られた広さの環境で実施されるものであり、遠隔地で映像と照明とを同期させるような使い方を想定していない。
遠隔地のライブビューイング会場で、映像と照明との同期を実現するためには、ライブビューイング会場において映像信号と照明制御信号とが出力されるタイミングを、ライブ会場と同様に同期させる必要がある。しかしながら、ライブビューイング会場における映像の提示装置と、照明の提示装置との処理時間などの差により、映像信号等と照明制御信号とを同期させることは困難である。
本発明は、上記事情に鑑みてなされたものであり、本発明の目的は、ライブビューイング会場などの受信システムで、映像と照明とを同期させるために必要なテストパターンを生成する同期制御装置、同期制御方法、および、同期制御プログラムを提供することにある。
上記目的を達成するため、本発明の一態様は、送信システムからの信号を受信する受信システムで用いられる同期制御装置であって、前記受信システムは、受信した信号を対応する提示装置に出力する受信装置と、複数の提示装置とを備え、前記同期制御装置は、所定の出力指定時刻を指定した第1テスト信号を提示装置毎に生成し、前記受信装置に送信する第1生成部と、第1テスト信号が前記受信装置から各提示装置に向けて出力された出力時刻を、提示装置毎に取得し、提示装置毎の前記出力時刻と前記出力指定時刻との差分と、各提示装置のリフレッシュレートとを用いて、前記受信装置が出力する提示装置毎の信号が同期するタイミングを算出する算出部と、算出した前記タイミングでテストパターンが前記受信装置から出力される第2テスト信号を提示装置毎に生成し、前記受信装置に送信する第2生成部と、を備える。
本発明の一態様は、送信システムからの信号を受信する受信システムで用いられる同期制御装置が行う同期制御方法であって、前記受信システムは、受信した信号を対応する提示装置に出力する受信装置と、複数の提示装置とを備え、前記同期制御装置は、所定の出力指定時刻を指定した第1テスト信号を提示装置毎に生成し、前記受信装置に送信する第1生成ステップと、第1テスト信号が前記受信装置から各提示装置に向けて出力された出力時刻を、提示装置毎に取得し、提示装置毎の前記出力時刻と前記出力指定時刻との差分と、各提示装置のリフレッシュレートとを用いて、前記受信装置が出力する提示装置毎の信号が同期するタイミングを算出する算出ステップと、算出した前記タイミングでテストパターンが前記受信装置から出力される第2テスト信号を提示装置毎に生成し、前記受信装置に送信する第2生成ステップと、を行う。
本発明の一態様は、上記同期制御装置として、コンピュータを機能させる同期制御プログラムである。
本発明によれば、ライブビューイング会場などの受信システムで、映像と照明とを同期させるために必要なテストパターンを生成する同期制御装置、同期制御方法、および、同期制御プログラムを提供することができる。
以下、本発明の実施の形態について、図面を参照して説明する。
本実施形態では、照明制御信号を、ネットワーク経由でカメラ等の映像と同期して伝送する同期制御システムにおいて、ライブビューイング会場で再生されるコンサート会場の映像(映像に映り込む照明の動き)と、ライブビューイング会場の照明の動きと、を同期させるために必要なテストパターンを出力する同期制御装置に関するものである。
最初に、本実施形態の同期制御装置が適用される同期制御システムについて説明する。
(同期制御システム)
図1は、本実施形態の同期制御システムの概要を示す概略図である。本システムは、映像及び音声以外のライブ会場の情報も遠隔地のライブビューイング会場に伝送することにより、より臨場感のあるライブビューイングを実現する。
図1は、本実施形態の同期制御システムの概要を示す概略図である。本システムは、映像及び音声以外のライブ会場の情報も遠隔地のライブビューイング会場に伝送することにより、より臨場感のあるライブビューイングを実現する。
具体的には、映像及び音声以外のライブ会場の雰囲気を遠隔地で感じるために、ライブビューイング会場では、照明や電飾などの演出状態をライブ会場と同じようにする。このため、照明等の制御信号を、映像及び音声と同期してライブビューイング会場で出力する。なお、本実施形態では、映像と同期させる演出装置として、照明装置および電飾装置を用いるが、これら以外の装置を映像と同期させてもよい。
また、ここでは、照明等を映像及び音声と同期させるが、照明等を映像または音声と同期させてもよい。すなわち、照明等は、映像及び音声少なくとも1つと同期するように制御される。
ライブビューイングは、コンサート、演劇、スポーツなどの各種ベントにおいて、イベントが行われているライブ会場からのライブ映像を遠隔地の上映会場に向けて観客に提示する。ここでは、ライブ会場として、コンサート会場を例として説明する。
図示する同期制御システムにおいて、コンサート会場では、音響装置7の音声信号がコンサート会場で出力されるとともに、カメラ部8に入力される。カメラ部8は、当該カメラ部8が備えるマイクに音響装置7から出力される音声信号が入力され、コンサート会場を撮影した映像信号と音声信号とを重畳し、1つの映像音声信号として出力する。なお、カメラ部8には、映像信号と音声信号とを重畳する機材、音声信号を分割する機材などが含まれる。
映像音声信号の送信サーバ3は、映像音声信号を受信すると、当該信号を受信した受信時刻を取得し、受信時刻にオフセット時間(所定の時間)を加算した出力指定時刻を算出する。そして、送信サーバ3は、出力指定時刻を付与した映像音声信号を、ライブビューイング会場の受信サーバ4に送信する。本実施形態では、IPネットワークを介してMMT(MPEG Media Transport)プロトコルを用いて信号を送受信する。
また、コンサート会場では、照明制御装置5は、コンサート会場の照明装置(不図示)を制御する制御信号を照明装置に送信するとともに、当該制御信号を送信サーバ1に送信する。この制御信号は、コンサート会場内で、コンサートの内容、音響装置などと同期するように照明装置を制御するための信号である。これにより、コンサート会場では、コンサートの内容および音響装置と照明装置とが、同期して表現される。
制御信号の送信サーバ1は、制御信号を受信すると、当該制御信号を受信した受信時刻を取得し、受信時刻にオフセット時間(所定の時間)を加算した出力指定時刻を算出する。オフセット時間については後述する。
ライブビューイング会場では、受信サーバ4は、出力指定時刻が付加された映像音声信号を受信し、当該出力指定時刻に映像音声信号をライブビューイング会場の提示装置(不図示)に出力する。提示装置は、映像音声信号をライブビューイング会場で出力(再生)する装置である。具体的には、提示装置は、映像音声信号の映像をディスプレイに表示し、音声を出力する。また、受信サーバ2は、出力指定時刻が付加された制御信号を受信し、当該出力指定時刻に制御信号をライブビューイング会場の照明装置(提示装置)に送出する。照明装置は、制御信号に従って照明を作動する。
これにより、ライブビューイング会場では、コンサート会場と同様に映像および音声と、照明とを同期して表現(演出)する。すなわち、システム全体で時刻同期が取れている状態において、コンサート会場では、送信サーバ3は、映像音声信号を取得した受信時刻にオフセット時間を加算した出力指定時刻を付加したうえで、MMTプロトコルを用いてライブビューイング会場に送信する。同様に、送信サーバ1は、制御信号を取得した受信時刻に前記オフセット時間を加算した出力指定時刻を付加したうえで、MMTプロトコルを用いてライブビューイング会場に送信する。
ライブビューイング会場では、受信サーバ4は、出力指定時刻を用いて映像音声信号を出力し、受信サーバ2は、出力指定時刻を用いて制御信号を出力する。コンサート会場の送信サーバ1、3は、信号の受信時刻に同じ値のオフセット時間を加算した出力指定時刻を付加し、ライブビューイング会場の受信サーバ2、4は出力指定時刻に信号を出力する。したがって、コンサート会場である時刻に取得された映像音声信号および制御信号は、当該時刻からオフセット時間経過したタイミングで、ライブビューイング会場の受信サーバ2、4から出力されることになる。
図2は、同期制御システムの詳細を示すシステム構成図である。本システムは、MMTプロトコルを利用してIPネットワーク経由で制御信号および映像音声信号を、コンサート会場からライブビューイング会場に送信する。
また、本システムでは、システム内部の時刻はNTP(Network Time Protocol)サーバなどにより同期しており、信号を取得および出力する時刻は全て同一の時刻系を用いる。すなわち、本実施形態では、システム全体で時刻同期が取れている状態である。
同期制御システムは、照明の制御信号を送受信する送信サーバ1と、受信サーバ2とを備える。送信サーバ1は、コンサート会場(ライブ会場)に設置され、受信サーバ2は、ライブビューイング会場に設置される。
送信サーバ1は、受信部11と、調整部12と、送信部13とを備える。受信部11は、イベント会場に設置された照明装置を制御するための制御信号を、照明制御装置5から受信する。照明装置には電飾装置も含まれ、照明には電飾も含む。照明制御装置5は、1つであっても複数であってもよい。制御信号は、例えば、照明の色情報、照明のON/OFF情報、ムービングライトの制御情報などが含まれる。調整部12は、ライブビューイング会場で臨場感を高めるために、受信部11が受信した制御信号を調整してもよい。
送信部13は、受信部11が制御信号を受信した受信時刻にオフセット時間(所定の時間)を加算した出力指定時刻を算出し、出力指定時刻を制御信号に付加してライブビューイング会場の受信サーバ2に送信する。オフセット時間は、送信サーバ1および受信サーバ2の処理遅延時間、ネットワーク遅延、映像音声信号を送受信する送信サーバ3および受信サーバ4の処理遅延時間などを考慮して設定される。例えば、オフセット時間に、ボトルネックとなりうる信号の伝送に必要な時間を設定し、他の信号にも同じ値のオフセット時間を用い、他の信号ではボトルネックとなりうる信号の出力指定時刻に合わせて、出力を待ち合わせるイメージとなる。
受信サーバ2は、受信部21と、調整部22と、出力制御部23と、出力監視部24とを備える。受信部21は、出力指定時刻が付加された制御信号を、送信サーバ1から受信する。調整部22は、ライブビューイング会場で臨場感を高めるために、受信部21が受信した制御信号を調整してもよい。例えば、調整部22は、コンサート会場の設備情報を用いて、受信した制御信号をライブビューイング会場の照明装置に合わせて調整してもよい。
出力制御部23は、ライブビューイング会場の照明装置6に制御信号を出力指定時刻に出力し、照明装置6の制御をライブビューイング会場で再生する映像および音声の少なくとも1つと同期させる。
出力監視部24は、同期制御装置から送信されたテスト信号が実際に受信サーバ2から出力された出力時刻を照明装置6毎に監視し、当該出力時刻を同期制御装置に送信する。
同期制御システムは、映像音声信号を送受信する送信サーバ3と、受信サーバ4とを備える。送信サーバ3は、コンサート会場に設置され、受信サーバ4は、ライブビューイング会場に設置される。送信サーバ3は、カメラ部8から入力された映像音声信号を受信すると、当該信号を受信した受信時刻を取得し、受信時刻にオフセット時間を加算した出力指定時刻を算出し、出力指定時刻を付与した映像音声信号を、ライブビューイング会場の受信サーバ4に送信する。
受信サーバ4は、出力指定時刻が付加された映像音声信号を受信し、当該出力指定時刻に映像音声信号をライブビューイング会場の提示装置6に出力する。提示装置6は、映像音声信号をライブビューイング会場で出力(再生)する装置である。具体的には、提示装置6は、映像音声信号の映像をディスプレイに表示するプロジェクタや、音声を出力するスピーカーなどである。本実施形態の受信サーバ4は、受信サーバ2の出力監視部24と同様の出力監視部を備える。
(ライブビューイング会場の同期ズレ)
図3は、ライブビューイング会場の複数種類の信号の同期ズレを説明する説明図である。送信側のコンサート会場では、映像と、照明と、照明とは同期した状態であり、これらの信号は、ネットワークを介してライブビューイング会場の受信サーバ2、4に受信される。受信サーバ2、4は、受信した信号を、中間機材Aを介して対応する提示装置6に出力する。
図3は、ライブビューイング会場の複数種類の信号の同期ズレを説明する説明図である。送信側のコンサート会場では、映像と、照明と、照明とは同期した状態であり、これらの信号は、ネットワークを介してライブビューイング会場の受信サーバ2、4に受信される。受信サーバ2、4は、受信した信号を、中間機材Aを介して対応する提示装置6に出力する。
図示する例では、受信サーバ4は、映像信号をプロジェクタ6に送信する。受信サーバ2は、照明の制御信号を照明6に、電飾の制御信号を電飾6に送信する。映像信号の中間機材Aは、分配器、スイッチィング機材などである。照明等の制御信号の中間機材Aは、信号変換器(例えばArt-net→DMX信号)などである。
各種の中継機材Aにおける処理遅延の差、各種の提示装置6おける処理遅延の差、受信サーバ2、4から提示装置6までの配線ルートの違いなどより、送信サーバ1、3がMTTで指定した出力指定時刻からの遅延量に差がでてしまう。そのため、各提示装置6が実際に提示(出力)する信号は、図示するように同期ズレが発生する場合がある。
なお、同期ズレの発生原因として、図4に示すように、(1)MMTで指定する出力指定時刻と、リフレッシュレートの刻みのズレによる遅延もある。これについては、利用する提示装置6によっては制御することは難しい。図4では、映像信号を例とし、受信サーバ4は、MMTの出力指定時刻で指定された映像信号を、次のリフレッシュレートの刻みの信号出力時刻に出力する。一方、(2)中継機材A、提示装置6などの処理遅延の差については、MMTの出力指定時刻のオフセット値を調整することで同期制御が可能となる。
そこで、本実施形態の同期制御装置100は、適切な同期制御を行うために必要な(2)の処理遅延の差のみの測定を可能とするテスト信号を生成する。
(テスト信号)
図5は、本実施形態のテスト信号を説明する説明図である。同期制御装置100は、各提示装置6に対し、指定した出力指定時刻にテストパターンを出力するようなテスト信号を受信サーバ2、4に配信し、各提示装置6でのテストパターンの提示状況を検出することで、テストパターンの実際の提示時刻を測定する。
図5は、本実施形態のテスト信号を説明する説明図である。同期制御装置100は、各提示装置6に対し、指定した出力指定時刻にテストパターンを出力するようなテスト信号を受信サーバ2、4に配信し、各提示装置6でのテストパターンの提示状況を検出することで、テストパターンの実際の提示時刻を測定する。
同期制御を行う際の基準とするべき信号は、最も遅い信号とし、その検出時刻の差分から、同期させるために必要なオフセット値の補正量を算出し、各信号のMMT伝送におけるオフセット値を調整することで、全ての信号が提示されるタイミングを同期させる。図示する例では、最も遅い映像信号を基準とする。この場合、映像信号は、オフセット値を補正せず、照明および電飾の制御信号については、映像信号とのズレの分をオフセット値に加算して、映像信号と同期するようにオフセット値を補正する。
テストパターンは、映像信号の色の変更、照明の色または制御の変更、および音または音声の少なくとも1つを含む。
テストパターンには、例えば以下のようなものが考えられる。
映像信号:黒→白(白→黒)などの色の切り替わり
照明信号:消灯→点灯(点灯→消灯)の切り替わり、色の変化、ムービングライトの停止→動作(動作→停止)の切り替わり
電飾信号:消灯→点灯(点灯→消灯)の切り替わり、色の変化
音声信号:有音→無音(無音→有音)の切り替わり、音または音声の変化
照明信号:消灯→点灯(点灯→消灯)の切り替わり、色の変化、ムービングライトの停止→動作(動作→停止)の切り替わり
電飾信号:消灯→点灯(点灯→消灯)の切り替わり、色の変化
音声信号:有音→無音(無音→有音)の切り替わり、音または音声の変化
(同期制御装置および検出装置)
図6は、本実施形態の同期制御装置100と検出装置200とを示す図である。
図6は、本実施形態の同期制御装置100と検出装置200とを示す図である。
検出装置200は、提示装置6によるテスト信号の提示を検出する。提示装置6がプロジェクタ、照明、電飾などの場合、検出装置200はカメラである。提示装置6が、スピーカーの場合、検出装置200は、マイクである。検出装置200は、提示を検出した結果である動画データ、音声データなどを、同期制御装置100に入力する。
同期制御装置100は、受信サーバ2、4および検出装置200に接続し、受信サーバ2、4が信号を出力してから提示装置6が提示するまでに生じる遅延量を測定し、各種信号が同期するように受信サーバ2、4のオフセット値を補正する。
図示する同期制御装置100は、テスト信号生成部110と、テスト信号検出部120と、遅延量算出部130と、補正部140とを備える。
テスト信号生成部110は、第1生成部111と、算出部112と、第2生成部113とを備える。第1生成部111は、所定の出力指定時刻を指定した第1テスト信号を提示装置毎に生成し、受信サーバ2、4に送信する。また、第1生成部111は、所定の出力指定時刻を図示しない記憶部に記憶する。
算出部112は、第1テスト信号が受信装置2、4から各提示装置6に向けて出力された出力時刻を提示装置6毎に取得し、提示装置6毎の出力時刻と前記出力指定時刻との差分と、各提示装置6のリフレッシュレートとを用いて、受信サーバ2、4が出力する提示装置6毎の信号が同期するタイミングを算出する。
第2生成部113は、算出したタイミングでテストパターンが受信サーバ2、4から出力される第2テスト信号を提示装置6毎に生成し、受信サーバ2、4に送信する。すなわち、第2テスト信号は、各提示装置6のリフレッシュレートおよび受信サーバ2、4の第1テスト信号の出力情報をもとに、各提示装置6に対するテストパターンが出力される時刻が同期するような信号である。
第2生成部113は、テストパターンを出力するタイミングとして指定した出力指定時刻を、図示しない記憶部に記憶する。なお、第2生成部113は、算出したタイミングで複数回のテストパターンを含む第2のテスト信号を生成してもよい。第1テスト信号および第2テスト信号は、MMT化された信号である。
テスト信号検出部120(検出部)は、各提示装置6の提示を検出する検出装置200から、各提示装置6でのテストパターンの提示を検出した結果を取得し、前記結果からテストパターンの各提示装置6での提示時刻を特定する。カメラ等を利用する場合、各提示装置6のリフレッシュレートと比較しても十分撮影間隔が短いものを利用することで、検出誤差を最小化する。
具体的には、テスト信号検出部120は、ライブビューイング会場内に設置された舞台演出効果に使われる機器である提示装置6によるテスト信号の提示が開始されることに伴い、映像、音、音声、照明、その他機器の動作開始による情報の提示または変化を検出する。検出装置200には、光や電気の入力を検出する信号検出器の他、汎用の動画撮影用のカメラや高速撮影用のカメラ(60fps、240fps)などがある。一般にマイクはサンプリング周波数が充分に細かい(48KHzなど)ため、これを用いることも可能である。
遅延量算出部130は、テスト信号検出部120が特定した提示時刻と、テストパターンを出力するタイミングとして第2生成部113が指定した出力指定時刻とを比較して、各提示装置6の遅延量を算出する。具体的には、遅延量算出部130は、各提示装置6の提示時刻と、出力指定時刻との差から、各提示装置6の遅延量を算出する。なお、遅延量算出部130は、複数回、テストパターンを検出することにより、平均の遅延量を算出してもよい。
補正部140は、各提示装置6の遅延量の中から最も大きい遅延量を選択して受信サーバ2、4に送信し、受信サーバ2、4に出力指定時刻のオフセット値を補正させる。具体的には、補正部140は、遅延量算出部130の算出結果を用いて、各提示装置6を同期させるために、最も遅い提示装置6の遅延量を算出し、受信サーバ2、4のオフセット値を補正する。
図7は、リフレッシュレートが異なる信号におけるテストパターンの出力タイミングを説明するための説明図である。テスト信号(第2のテスト信号)の生成にあたり、対象となる信号が、フレームレートが同一の複数の映像信号であれば、提示装置6(プロジェクター等の映像出力機材)を同期して動作させることにより、それぞれの映像間で遅延量のズレは発生しない。しかしながら、映像信号と、照明の制御信号との組み合わせのように、提示装置6の規格や装置自体が異なる場合には、提示装置6間の同期を取ることができない。
具体的には、提示装置6間でリフレッシュレートが異なる場合、意図したタイミング通りにテストパターンが出力されないケースがあるため、テスト信号を生成する際に対処が必要となる。
例えば、映像信号は一般的なフレームレートである60fpsである。一方、照明の制御信号は、一般的な規格であるDMXが利用され44Hzである。この場合、MMTで指定した出力指定時刻と、実際に受信サーバ2、4から出力される信号の出力時刻との間に、大きなズレが発生するケースがある。コンサートでフラッシュ発光などが用いられるような場合では、映像における1フレーム(60fpsの場合16.6msec)のズレによる影響は非常に目立ちやすく、無視できないズレとなる。
図7に示すように、テストパターンの出力指定時刻を時刻t1に指定した場合、映像のテストパターンは時刻t2に出力され、照明の制御信号のテストパターンは時刻t3に出力さてしまう。このように、テスト信号のテストパターンの出力を指定するタイミングによっては、映像と照明とで出力タイミングが大きく異なる(映像の1フレーム以上も異なる)ケースが発生する。この遅延差は、各種の提示装置6および中継機材A等に起因するものではないため、この遅延差をもとにオフセット値を補正してしまうと、本来行うべき同期の補正とはならず、ズレが残る状態となる。
したがって、映像信号と照明の制御信号の出力タイミングが同期した時刻t0に、テストパターンの出力を指定すべきである。本実施形態のテスト信号生成部110は、リフレッシュレートが異なる信号の場合であっても、同期したタイミングにテストパターンが出力されるテスト信号を生成する。
テスト信号生成部110の第1生成部111は、最初にテストパターンを含まないテスト信号(第1テスト信号)を提示装置6毎に生成し、提示装置6毎に生成したテスト信号の送信を開始する。このとき、テスト信号の出力開始タイミング(出力指定時刻)は各提示装置6に対して同一とする。
受信サーバ2、4の出力監視部24は、テスト信号が実際に受信サーバ2、4から出力された出力時刻を提示装置6毎に監視し、当該出力時刻を同期制御装置100に送信する。テスト信号生成部110の算出部112は、提示装置6毎の出力時刻を取得し、当該出力時刻から、どのタイミングで同期したタイミングでのテスト信号の出力が発生するかを算出する。
例えば、図8に示すように、映像信号が60fpsで、照明制御信号(DMX)が44Hzの場合、それぞれの信号が同期するタイミングは、0.25秒周期で繰り返す。算出部112は、この周期の中で、それぞれの信号の出力タイミングの差が最も小さくなるタイミングを算出する。
具体的には、図9に示すように、算出部112は、テスト信号の初回のデータに対する実際の出力時刻を、受信サーバ2、4の出力監視部24から取得し、初回のデータの出力指定時刻Tとの差を出力遅延時間として算出する。
出力A(映像)の遅延:delayA= outA - T
出力B(照明)の遅延:delayB= outB - T
このとき、出力Aと出力Bの差が最小となるタイミングは、「delayA+(1/fA)*n - delayB+(1/fB)*m」の絶対値が最小となるn,mの組み合わせを算出し、「delayA+(1/fA)*n」と「delayB+(1/fB)*m」のうちの小さな値を求めればよい。
出力B(照明)の遅延:delayB= outB - T
このとき、出力Aと出力Bの差が最小となるタイミングは、「delayA+(1/fA)*n - delayB+(1/fB)*m」の絶対値が最小となるn,mの組み合わせを算出し、「delayA+(1/fA)*n」と「delayB+(1/fB)*m」のうちの小さな値を求めればよい。
(0 < n < fA/(fA・fBの最大公約数) 、 0 < m < fB/(fA・fBの最大公約数) )
それ以降は、1/(fA・fBの最大公約数) の間隔で出力Aと出力Bの差が最小となることから、第2生成部113は、そのタイミング毎に、または、そのタイミングの何れかにテストパターンを含むようなテスト信号を生成し、受信サーバ2、4に送出する。図10は、テスト信号生成部110が生成するテスト信号の一例を示す図である。
それ以降は、1/(fA・fBの最大公約数) の間隔で出力Aと出力Bの差が最小となることから、第2生成部113は、そのタイミング毎に、または、そのタイミングの何れかにテストパターンを含むようなテスト信号を生成し、受信サーバ2、4に送出する。図10は、テスト信号生成部110が生成するテスト信号の一例を示す図である。
以上説明した本実施形態の同期制御装置100は、送信システムからの信号を受信する受信システムで用いられる同期制御装置100であって、受信システムは、受信した信号を対応する提示装置6に出力する受信装置2、4と、複数の提示装置6とを備え、同期制御装置100は、所定の出力指定時刻を指定した第1テスト信号を提示装置6毎に生成し、受信装置2、4に送信する第1生成部111と、第1テスト信号が受信装置2、4から各提示装置6に向けて出力された出力時刻を、提示装置6毎に取得し、提示装置6毎の前記出力時刻と前記出力指定時刻との差分と、各提示装置6のリフレッシュレートとを用いて、受信装置2、4が出力する提示装置6毎の信号が同期するタイミングを算出する算出部112と、算出した前記タイミングでテストパターンが受信装置2,4から出力される第2テスト信号を提示装置6毎に生成し、受信装置2、4に送信する第2生成部113と、を備える。
これにより本実施形態では、ライブ会場と同様に、ライブビューイング会場で映像と照明とを同期させることができる。すなわち、本実施形態では、ライブビューイング会場などの受信システムで、映像と照明とを同期させるために必要なテストパターンを生成することができる。したがって、本実施形態では、臨場感のあるライブビューイングを実現することができる。
なお、コンサート等を実施する際に利用される照明等の提示装置の数は、非常に多いうえ、各提示装置は動作指示の制御信号が入力されても、実際にディスプレイに表示したり、フラッシュが点灯するなどの実動作までには装置固有の時間差があるため、ライブビューイング会場の視聴者が知覚する提示装置の動作開始時間がズレてしまう、いわゆる同期ズレが発生する。ライブビューイング会場の視聴者に違和感がないように、全ての提示装置の同期を調整するには非常に時間がかかる。このため、ライブビューイングを実施する前の限られた準備時間で、全ての提示装置の動作開始の調整を完了させるのは現実的ではない。本実施形態では、映像として検出可能なテストパターンを生成し、送信することで、ライブビューイング会場の撮影映像を通して各提示装置の同期状態を容易に取得することが可能になるため、各提示装置の調整時間の短縮、および、提示装置の調整に要する稼働負荷を軽減することができる。
(ハードウェア構成)
上記説明した同期制御装置100は、例えば、図12に示すような汎用的なコンピュータシステムを用いることができる。図示するコンピュータシステムは、CPU(Central Processing Unit、プロセッサ)901と、メモリ902と、ストレージ903(HDD:Hard Disk Drive、SSD:Solid State Drive)と、通信装置904と、入力装置905と、出力装置906とを備える。メモリ902およびストレージ903は、記憶装置である。このコンピュータシステムにおいて、CPU901がメモリ902上にロードされた所定のプログラムを実行することにより、同期制御装置100の各機能が実現される。
上記説明した同期制御装置100は、例えば、図12に示すような汎用的なコンピュータシステムを用いることができる。図示するコンピュータシステムは、CPU(Central Processing Unit、プロセッサ)901と、メモリ902と、ストレージ903(HDD:Hard Disk Drive、SSD:Solid State Drive)と、通信装置904と、入力装置905と、出力装置906とを備える。メモリ902およびストレージ903は、記憶装置である。このコンピュータシステムにおいて、CPU901がメモリ902上にロードされた所定のプログラムを実行することにより、同期制御装置100の各機能が実現される。
また、同期制御装置100は、1つのコンピュータで実装されてもよく、あるいは複数のコンピュータで実装されても良い。また、同期制御装置100は、コンピュータに実装される仮想マシンであっても良い。
同期制御装置100用のプログラムは、HDD、SSD、USB(Universal Serial Bus)メモリ、CD (Compact Disc)、DVD (Digital Versatile Disc)などのコンピュータ読取り可能な記録媒体に記憶することも、ネットワークを介して配信することもできる。
なお、本発明は上記実施形態および変形例に限定されるものではなく、その要旨の範囲内で数々の変形が可能である。
例えば、検出装置200は、提示装置6毎には備えても、複数の提示装置6で共有してもよい。例えば、プロジェクタ、照明および電飾の複数の提示装置6に対して、1つの検出装置200(カメラ)を用いてもよい。この場合、1つの検出装置200は、図11Aに示すように、ライブビューイング会場全体の映像データを取得し、同期制御装置100に入力する。同期制御装置100は、入力されたライブビューイング会場全体の映像データの中から各提示装置6の検出範囲を特定し、提示装置6毎にテストパターンが提示された提示時刻を特定する。
また、図11Bに示すように、提示装置6毎に検出装置200を設置し、各検出装置200は対応する提示装置6の映像データを同期制御装置100に入力してもよい。
100:同期制御装置
110:テスト信号生成部
111:第1生成部
112:算出部
113:第2生成部
120:テスト信号検出部(検出部)
130:遅延量算出部
140:補正部
200:検出装置
2、4:受信サーバ(受信装置)
21:受信部
22:調整部
23:出力制御部
24:出力監視部
6 :提示装置
A :中継機材
110:テスト信号生成部
111:第1生成部
112:算出部
113:第2生成部
120:テスト信号検出部(検出部)
130:遅延量算出部
140:補正部
200:検出装置
2、4:受信サーバ(受信装置)
21:受信部
22:調整部
23:出力制御部
24:出力監視部
6 :提示装置
A :中継機材
Claims (7)
- 送信システムからの信号を受信する受信システムで用いられる同期制御装置であって、
前記受信システムは、受信した信号を対応する提示装置に出力する受信装置と、複数の提示装置とを備え、
前記同期制御装置は、
所定の出力指定時刻を指定した第1テスト信号を提示装置毎に生成し、前記受信装置に送信する第1生成部と、
第1テスト信号が前記受信装置から各提示装置に向けて出力された出力時刻を、提示装置毎に取得し、提示装置毎の前記出力時刻と前記出力指定時刻との差分と、各提示装置のリフレッシュレートとを用いて、前記受信装置が出力する提示装置毎の信号が同期するタイミングを算出する算出部と、
算出した前記タイミングでテストパターンが前記受信装置から出力される第2テスト信号を提示装置毎に生成し、前記受信装置に送信する第2生成部と、を備える
同期制御装置。 - 各提示装置の提示を検出する検出装置から、各提示装置での前記テストパターンの提示を検出した結果を取得し、前記結果から前記テストパターンの各提示装置での提示時刻を特定する検出部を備える
請求項1に記載の同期制御装置。 - 前記提示時刻と、前記テストパターンを前記受信装置が出力するタイミングとして指定した出力指定時刻とを比較して、各提示装置の遅延量を算出する算出部を備える
請求項2に記載の同期制御装置。 - 各提示装置の前記遅延量の中から最も大きい遅延量を選択して前記受信装置に送信し、前記受信装置に出力指定時刻のオフセット値を補正させる補正部を備える
請求項3に記載の同期制御装置。 - 前記テストパターンは、映像信号の色の変更、照明の色または制御の変更、および音または音声の少なくとも1つを含む
請求項1から4のいずれか1項に記載の同期制御装置。 - 送信システムからの信号を受信する受信システムで用いられる同期制御装置が行う同期制御方法であって、
前記受信システムは、受信した信号を対応する提示装置に出力する受信装置と、複数の提示装置とを備え、
前記同期制御装置は、
所定の出力指定時刻を指定した第1テスト信号を提示装置毎に生成し、前記受信装置に送信する第1生成ステップと、
第1テスト信号が前記受信装置から各提示装置に向けて出力された出力時刻を、提示装置毎に取得し、提示装置毎の前記出力時刻と前記出力指定時刻との差分と、各提示装置のリフレッシュレートとを用いて、前記受信装置が出力する提示装置毎の信号が同期するタイミングを算出する算出ステップと、
算出した前記タイミングでテストパターンが前記受信装置から出力される第2テスト信号を提示装置毎に生成し、前記受信装置に送信する第2生成ステップと、を行う
同期制御方法。 - 請求項1から5のいずれか1項に同期制御装置として、コンピュータを機能させる同期制御プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/023061 WO2021250861A1 (ja) | 2020-06-11 | 2020-06-11 | 同期制御装置、同期制御方法、および、同期制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2021250861A1 JPWO2021250861A1 (ja) | 2021-12-16 |
JP7406169B2 true JP7406169B2 (ja) | 2023-12-27 |
Family
ID=78847099
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022530465A Active JP7406169B2 (ja) | 2020-06-11 | 2020-06-11 | 同期制御装置、同期制御方法、および、同期制御プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7406169B2 (ja) |
WO (1) | WO2021250861A1 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007123008A1 (ja) | 2006-04-21 | 2007-11-01 | Sharp Kabushiki Kaisha | データ送信装置、データ送信方法、視聴環境制御装置、視聴環境制御システム、及び視聴環境制御方法 |
JP6647241B2 (ja) | 2017-05-29 | 2020-02-14 | 日本電信電話株式会社 | Mmt受信システム、同期制御装置、同期制御方法および同期制御プログラム |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004040450A (ja) * | 2002-07-03 | 2004-02-05 | Sony Corp | 情報配信システム、情報処理装置および方法、再生装置および方法、記録媒体、並びにプログラム |
-
2020
- 2020-06-11 WO PCT/JP2020/023061 patent/WO2021250861A1/ja active Application Filing
- 2020-06-11 JP JP2022530465A patent/JP7406169B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007123008A1 (ja) | 2006-04-21 | 2007-11-01 | Sharp Kabushiki Kaisha | データ送信装置、データ送信方法、視聴環境制御装置、視聴環境制御システム、及び視聴環境制御方法 |
JP6647241B2 (ja) | 2017-05-29 | 2020-02-14 | 日本電信電話株式会社 | Mmt受信システム、同期制御装置、同期制御方法および同期制御プログラム |
Also Published As
Publication number | Publication date |
---|---|
JPWO2021250861A1 (ja) | 2021-12-16 |
WO2021250861A1 (ja) | 2021-12-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10575042B2 (en) | Media content synchronization | |
KR102619771B1 (ko) | 원격지 연출 시스템 및 원격지 연출 방법 | |
US20160119507A1 (en) | Synchronized media servers and projectors | |
US11303689B2 (en) | Method and apparatus for updating streamed content | |
CN110419225B (zh) | 用于多媒体回放中的环境信号的分布式同步控制系统 | |
KR20220053542A (ko) | 복수의 커넥티드 장치 간 디지털 콘텐츠의 재생 동기화를 맞추는 방법 및 이를 이용한 장치 | |
JP7513910B2 (ja) | 同期制御システム、送信装置、受信装置、同期制御方法、および、同期制御プログラム | |
JP6720566B2 (ja) | オーディオ機器 | |
JP4256710B2 (ja) | Av伝送方法及びav伝送装置、並びにav送信装置及びav受信装置 | |
JP7406169B2 (ja) | 同期制御装置、同期制御方法、および、同期制御プログラム | |
WO2021111988A1 (ja) | 動画再生装置、動画再生システム、および動画再生方法 | |
JP7318990B2 (ja) | モバイル装置上の音声コンテンツを別個の視覚表示システムに同期させるためのシステムおよび方法 | |
KR20090000550A (ko) | 입체영상을 이용한 무대공연 컨텐츠의 가상현실 공연방법 | |
WO2018173312A1 (ja) | 仮想現実視聴システム、再生同期方法および仮想現実視聴用プログラム | |
JP5595348B2 (ja) | マルチメディアコンテンツ同期システム及び方法 | |
JP2006129420A (ja) | 情報コミュニケーション端末装置 | |
JP2017017511A (ja) | 情報処理方法及び動画データ送信システム | |
JP2007081780A (ja) | 再生制御装置、表示装置および再生システム | |
KR101682978B1 (ko) | Precision Time Protocol를 이용한 영상 재생 동기화 시스템 및 방법 | |
JP7552900B2 (ja) | 同期制御を行う通信システム、その同期制御方法、受信サーバ及び同期制御プログラム | |
KR101810883B1 (ko) | 라이브 스트리밍 시스템 및 그의 스트리밍 클라이언트 | |
JP2005223821A (ja) | マルチストリーム再生システム | |
US20230396813A1 (en) | System and method for synchronized data playback and aircraft | |
EP3513565A1 (en) | Method for producing and playing video and multichannel audio content | |
TW201935932A (zh) | 多設備間的媒體同步播放方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231114 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231127 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7406169 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |