JP7137278B2 - 再生制御方法、制御システム、端末装置およびプログラム - Google Patents

再生制御方法、制御システム、端末装置およびプログラム Download PDF

Info

Publication number
JP7137278B2
JP7137278B2 JP2020159729A JP2020159729A JP7137278B2 JP 7137278 B2 JP7137278 B2 JP 7137278B2 JP 2020159729 A JP2020159729 A JP 2020159729A JP 2020159729 A JP2020159729 A JP 2020159729A JP 7137278 B2 JP7137278 B2 JP 7137278B2
Authority
JP
Japan
Prior art keywords
reproduction
sound
reproduction control
control information
event
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020159729A
Other languages
English (en)
Other versions
JP2022053107A5 (ja
JP2022053107A (ja
Inventor
優樹 瀬戸
貴裕 岩田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2020159729A priority Critical patent/JP7137278B2/ja
Priority to PCT/JP2021/033735 priority patent/WO2022065136A1/ja
Publication of JP2022053107A publication Critical patent/JP2022053107A/ja
Publication of JP2022053107A5 publication Critical patent/JP2022053107A5/ja
Priority to JP2022136261A priority patent/JP2022162170A/ja
Application granted granted Critical
Publication of JP7137278B2 publication Critical patent/JP7137278B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K15/00Acoustics not otherwise provided for
    • G10K15/02Synthesis of acoustic waves
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/12Circuits for transducers, loudspeakers or microphones for distributing signals to two or more loudspeakers

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Human Computer Interaction (AREA)
  • Databases & Information Systems (AREA)
  • Otolaryngology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本開示は、音の再生を制御する技術に関する。
例えばスポーツイベントまたは音楽イベント等の各種のイベントを収録したコンテンツを、当該イベントの進行に並行して複数の端末装置に配信する技術が従来から提案されている。例えば特許文献1には、映像と音声とを含むデジタルデータを端末装置に配信する技術が開示されている。
特開2003-87760号公報
端末装置に配信されるコンテンツの音声は、イベントが実施される場所で収録される全体的な音声である。しかし、イベントを視聴する利用者が実際に聴取したい音声は、利用者毎の嗜好等に応じて相違する。以上の事情を考慮して、本開示のひとつの態様は、イベントの進行に並行して収音される複数の音を利用者が選択的または優先的に聴取できるようにすることを目的とする。
以上の課題を解決するために、本開示のひとつの態様に係る再生制御方法は、相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得し、前記複数の音響信号の各々の再生条件を指定する再生制御情報を、複数の端末装置の各々について取得し、前記複数の端末装置の各々について再生制御処理を実行し、前記再生制御処理においては、当該端末装置の再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる。
本開示の他の態様に係る再生制御方法は、端末装置が、相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得し、前記複数の音響信号の各々の再生条件を指定する再生制御情報を取得し、再生制御処理を実行し、前記再生制御処理においては、前記再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる。
第1実施形態における情報システムの構成を例示するブロック図である。 再生装置の構成を例示するブロック図である。 端末装置の構成を例示するブロック図である。 制御システムの構成を例示するブロック図である。 制御システムの機能的な構成を例示するブロック図である。 再生制御情報の模式図である。 操作画面の模式図である。 制御処理のフローチャートである。 再生制御処理のフローチャートである。 第2実施形態の制御システムの機能的な構成を例示するブロック図である。 第2実施形態における制御処理のフローチャートである。 第2実施形態における再生制御情報の選択に関する説明図である。 第3実施形態の制御システムの機能的な構成を例示するブロック図である。 第4実施形態における再生制御情報の模式図である。 第5実施形態における放音装置の構成を例示するブロック図である。 第5実施形態における再生制御情報の模式図である。 第6実施形態における再生制御部の動作の説明図である。 第6実施形態における再生制御処理のフローチャートである。 第7実施形態における情報システムおよび端末装置のブロック図である。 第7実施形態における端末装置の機能的な構成を例示するブロック図である。 第7実施形態における制御処理のフローチャートである。
A:第1実施形態
図1は、第1実施形態に係る情報システム100の構成を例示するブロック図である。情報システム100は、施設200内で実施されるイベントに関するサービスを複数の利用者Uaに提供するコンピュータシステムである。第1実施形態のイベントは、複数の出場者が各種のスポーツで競技するスポーツイベントである。したがって、施設200は、例えば競技場または体育館である。すなわち、施設200は、イベントが実施される場所に相当する。
施設200内には、複数の観覧者Ubと複数の関係者Ucとが所在する。各観覧者Ubは、施設200内でイベントを観覧する。なお、感染症の蔓延の防止等の種々の事情により、施設200内に観覧者Ubが存在しない状況でイベントが実施される場合もある。複数の関係者Ucは、例えば、イベントに出場する出場者(選手または監督)、イベントを進行させる審判員、イベントを運営する運営者、施設200を管理する管理者、または、イベントを実況または解説する解説者である。
複数の利用者Uaは、施設200の外側に所在する。具体的には、各利用者Uaは、施設200から遠隔の地点(例えば自宅)に位置する。ただし、利用者Uaが施設200内に所在してもよい。すなわち、利用者Uaが観覧者Ubまたは関係者Ucである場合もある。
各利用者Uaは、再生装置21および端末装置22を利用可能である。端末装置22は、例えばスマートフォンまたはタブレット端末等の可搬型の情報端末である。なお、据置型のパーソナルコンピュータを端末装置22として利用してもよい。端末装置22は、例えばインターネット等の通信網300を介して情報システム100と通信可能である。
再生装置21は、施設200内で実施されるイベントの状況を表すコンテンツCを再生する。図2は、再生装置21の構成を例示するブロック図である。コンテンツCは、映像を表す映像データC1と、音を表す音響データC2とで構成される。再生装置21は、映像データC1が表す映像を表示する表示装置23と、音響データC2が表す音を再生する放音装置24とを具備する。例えば、放送電波により伝送されるテレビ番組をコンテンツCとして再生するテレビジョン受像機が、再生装置21として利用される。また、例えばスマートフォンまたはタブレット端末等の可搬型の情報端末も再生装置21として利用される。多数の利用者Uaが視聴可能な大型の映像機器(パブリックビューイング)を再生装置21として利用してもよい。なお、コンテンツCは、音響データC2のみで構成されるラジオ番組でもよい。
図1に例示される通り、情報システム100は、収録システム11と配信システム12と収音システム13と制御システム14とを具備する。収録システム11および収音システム13は、施設200内に設置される。収録システム11は、配信システム12と通信する。収音システム13は、制御システム14と通信する。なお、配信システム12と制御システム14とを単体の装置として構成してもよい。
収録システム11は、施設200内で実施されるイベントの動画を収録する。具体的には、収録システム11は、イベントの映像を撮像する撮像装置と、当該イベントの音を収音する収音装置とを具備する(図示略)。撮像装置が撮像する映像と収音装置が収音する音とで構成される動画が収録システム11により生成される。
配信システム12は、収録システム11が収録した動画を含むコンテンツCを複数の再生装置21の各々に配信する。配信システム12は、各端末装置22にもコンテンツCを配信可能である。具体的には、配信システム12は、施設200内のイベントの進行に並行して実時間的にコンテンツCを配信(すなわちライブ配信)する。各再生装置21は、配信システム12から通信網300を介してコンテンツCを受信し、当該コンテンツCをイベントの進行に並行して再生する。利用者Uaは、再生装置21が再生するコンテンツCを視聴することで、イベントの状況を実時間的に把握できる。以上の説明から理解される通り、利用者Uaは、施設200内で実施されるイベントに関するコンテンツCの視聴者である。
収音システム13は、施設200内の音を収音する音響システムである。収音システム13は、施設200内の相異なる位置に設置された複数(N個)の収音部15_1~15_Nを具備する(Nは2以上の自然数)。各収音部15_n(n=1~N)は、周囲の音を収音するマイクロホンであり、当該音の波形を表す音響信号Xnを生成する。すなわち、収音システム13は、施設200内のイベントの進行に並行して、Nチャネルの音響信号X1~XNを並列に生成する。収音システム13が生成するNチャネルの音響信号X1~XNは、有線通信または無線通信により制御システム14に送信される。なお、各音響信号Xnをアナログからデジタルに変換するA/D変換器の図示は便宜的に省略されている。
N個の収音部15_1~15_Nの一部は、施設200内の各種の設備に設置される。具体的には、施設200内においてイベントが実際に展開される競技フィールドと、複数の観覧者Ubが着席する観客席との各々に、1以上の収音部15_nが設置される。例えば、イベントに出場するホームチームを応援する観覧者Ubの観客席と、アウェイチームを応援する観覧者Ubの観客席との各々に、1以上の収音部15_nが設置される。したがって、例えば観覧者Ubが発音する声援等のイベントに関する音が収音部15_nにより収音される。また、N個の収音部15_1~15_Nの他の一部は、施設200内の複数の関係者Ucの何れかに装着される。例えば、イベントの出場者(選手,監督)または審判員に、1以上の収音部15_nが装着される。イベントに使用される各種の物品(例えばサッカーボールまたはゴールポスト等)に1以上の収音部15_nを設置してもよい。例えばイベントの出場者に装着された収音部15_nは、当該出場者の発声音、呼吸音または動作音(例えばボールを蹴る音)等のイベントに関する音を収音する。
以上の説明から理解される通り、施設200内の相異なる位置における収音により生成されるNチャネルの音響信号X1~XNがイベントの進行に並行して生成される。すなわち、各収音部15_nは、施設200内の各位置における収音によりイベントについて音響信号Xnを生成する。各音響信号Xnは、イベントに関する音を表す信号として包括的に表現される。制御システム14は、収音システム13が生成するNチャネルの音響信号X1~XNに応じた音を各端末装置22に再生させるコンピュータシステムである。制御システム14は、通信網300を介して複数の端末装置22の各々と通信可能である。
図3は、各端末装置22の構成を例示するブロック図である。端末装置22は、制御装置41と記憶装置42と通信装置43と操作装置44と再生装置45とを具備する。なお、端末装置22は、単体の装置として実現されるほか、相互に別体で構成された複数の装置でも実現される。
制御装置41は、端末装置22の各要素を制御する単数または複数のプロセッサで構成される。例えば、制御装置41は、CPU(Central Processing Unit)、SPU(Sound Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)、またはASIC(Application Specific Integrated Circuit)等の1種類以上のプロセッサにより構成される。
記憶装置42は、制御装置41が実行するプログラムと制御装置41が使用する各種のデータとを記憶する単数または複数のメモリである。記憶装置42は、例えば磁気記録媒体または半導体記録媒体等の公知の記録媒体により構成される。なお、複数種の記録媒体の組合せにより記憶装置42を構成してもよい。通信装置43は、通信網300を介して制御システム14と通信する。
操作装置44は、利用者Uaからの指示を受付ける入力機器である。操作装置44は、例えば、利用者Uaが操作する複数の操作子、または、利用者Uaによる接触を検知するタッチパネルである。
再生装置45は、制御装置41による制御のもとで動画を再生する。再生装置45は、映像を表示する表示装置46と、音を再生する放音装置47とを具備する。なお、通信装置43が配信システム12から受信するコンテンツCを再生装置45が再生してもよい。すなわち、再生装置21は省略されてもよい。
図4は、制御システム14の構成を例示するブロック図である。制御システム14は、制御装置51と記憶装置52と通信装置53とを具備する。なお、制御システム14は、単体の装置として実現されるほか、相互に別体で構成された複数の装置の集合としても実現される。
制御装置51は、制御システム14の各要素を制御する単数または複数のプロセッサで構成される。例えば、制御装置51は、CPU、SPU、DSP、FPGA、またはASIC等の1種類以上のプロセッサにより構成される。
記憶装置52は、制御装置51が実行するプログラムと制御装置51が使用する各種のデータとを記憶する単数または複数のメモリである。記憶装置52は、例えば磁気記録媒体または半導体記録媒体等の公知の記録媒体により構成される。なお、複数種の記録媒体の組合せにより記憶装置52を構成してもよい。
通信装置53は、通信網300を介して複数の端末装置22の各々と通信する。また、通信装置53は、施設200内の収音システム13と通信する。具体的には、通信装置53は、収音システム13が生成するNチャネルの音響信号X1~XNを受信する。
図5は、制御システム14の機能的な構成を例示するブロック図である。制御装置51は、記憶装置52に記憶されたプログラムを実行することで複数の要素(情報生成部61,信号取得部62,情報取得部63および再生制御部64)として機能する。
情報生成部61は、再生制御情報Qを生成する。再生制御情報Qは、Nチャネルの音響信号X1~XNの各々の再生に関する条件(以下「再生条件」という)を指定するデータである。情報生成部61は、複数の端末装置22の各々について再生制御情報Qを生成する。
図6は、任意の1個の端末装置22に対応する再生制御情報Qの模式図である。第1実施形態の再生制御情報Qは、Nチャネルの音響信号X1~XNの各々について再生の有無(有効/無効)を指定する。すなわち、再生制御情報Qは、各音響信号Xnが端末装置22において再生されるか否かを指定する。以上の説明から理解される通り、第1実施形態における各音響信号Xnの再生条件は、当該音響信号Xnが表す音の再生の有無を含む。
情報生成部61は、各端末装置22の利用者Uaからの指示に応じて、当該端末装置22の再生制御情報Qを生成する。端末装置22の利用者Uaは、操作装置44を操作することでNチャネルの音響信号X1~XNの各々について再生の有無を指示する。
図7は、各音響信号Xnについて利用者Uaが再生の有無を指示するために参照する操作画面Gの模式図である。イベントの開始前に各端末装置22の表示装置46に操作画面Gが表示される。操作画面Gにおいては、Nチャネルの音響信号X1~XNの各々について、収音位置名G1と操作領域G2とが表示される。各音響信号Xnの収音位置名G1は、当該音響信号Xnを生成する収音部15_nが設置される場所の名称である。各音響信号Xnの操作領域G2は、当該音響信号Xnの有効(ON)/無効(OFF)を利用者Uaが指示するための操作画像である。利用者Uaは、操作画面Gを参照しながら音響信号Xn毎の再生の有無を指示する。
図5に例示される通り、利用者Uaによる指示を表す指示データZaが端末装置22の通信装置43から制御システム14に送信される。指示データZaは、Nチャネルの音響信号Xnの各々について利用者Uaによる指示の内容(有効/無効)を表すデータである。制御システム14の情報生成部61は、各端末装置22から受信した指示データZaに応じて当該端末装置22の再生制御情報Qを生成する。情報生成部61が生成した再生制御情報Qは、端末装置22毎に記憶装置52に記憶される。また、情報生成部61は、記憶装置52に記憶された再生制御情報Qにおける各音響信号Xnの再生条件を、端末装置22の利用者Uaからの指示(指示データZa)に応じて変更する。
図5の信号取得部62は、Nチャネルの音響信号X1~XNを収音システム13から取得する。具体的には、信号取得部62は、収音システム13から送信されたNチャネルの音響信号X1~XNを通信装置53により受信する。信号取得部62による各音響信号Xnの取得は、イベントの進行に並行して実行される。情報取得部63は、再生制御情報Qを取得する。具体的には、情報取得部63は、各端末装置22の再生制御情報Qを、記憶装置52から読み出す。
再生制御部64は、信号取得部62が取得したNチャネルの音響信号X1~XNに応じた音(以下「収録音」という)を各端末装置22に再生させる処理(以下「再生制御処理」という)Sa3を実行する。再生制御処理Sa3は、イベントの進行に並行して実行される。再生制御処理Sa3には、情報取得部63が取得した再生制御情報Qが利用される。具体的には、再生制御部64は、各端末装置22の再生制御情報Qが指定する再生条件のもとで、Nチャネルの音響信号X1~XNのうち1以上の音響信号Xnに応じた収録音を、当該端末装置22に再生させる。
第1実施形態の再生制御部64は、Nチャネルの音響信号X1~XNに対する音響処理Sc1により再生信号Yを生成する。再生信号Yは、収録音の波形を表す信号である。具体的には、再生制御部64は、Nチャネルの音響信号X1~XNのうち再生制御情報Qにおいて「有効」に設定された1以上の音響信号Xnを混合することで再生信号Yを生成する。Nチャネルの音響信号X1~XNのうち再生制御情報Qにおいて「無効」が指定された1以上の音響信号Xnは、再生信号Yの生成に利用されない。なお、Nチャネルの音響信号X1~XNのうち1チャネルの音響信号Xnのみが「有効」に設定された場合、当該音響信号Xnが再生信号Yとして採用される。
再生制御部64は、音響処理Sc1により生成した再生信号Yを通信装置53から端末装置22に送信する。端末装置22の制御装置41は、制御システム14から受信した再生信号Yを放音装置47に供給する。したがって、各端末装置22の再生制御情報Qに応じて生成された再生信号Yが表す収録音が、放音装置47から再生される。再生制御情報Qは端末装置22毎に個別に生成されるから、収録音を構成する音響信号Xnの組合せは端末装置22毎に相違する。
図8は、制御システム14の制御装置51が実行する処理(以下「制御処理」という)Saの具体的な手順を例示するフローチャートである。制御処理Saは、制御システム14の管理者からの指示を契機として開始され、イベントの進行に並行して実行される。情報生成部61が再生制御情報Qを生成した複数の端末装置22の各々について制御処理Saが実行される。
制御処理Saが開始されると、制御装置51(情報取得部63)は、再生制御情報Qを記憶装置52から取得する(Sa1)。制御装置51(信号取得部62)は、Nチャネルの音響信号X1~XNを収音システム13から取得する(Sa2)。そして、制御装置51(再生制御部64)は、再生制御情報QとNチャネルの音響信号X1~XNとを適用した再生制御処理Sa3を実行する。
制御装置51は、所定の終了条件が成立したか否かを判定する(Sa4)。例えば、管理者から制御処理Saの終了が指示された場合に、制御装置51は終了条件が成立したと判定する。なお、例えばイベントが終了する時刻の到来を終了条件としてもよい。終了条件が成立しない場合(Sa4:NO)、制御装置51は、処理をステップSa2に移行する。すなわち、Nチャネルの音響信号X1~XNの取得(Sa2)と再生制御処理Sa3とが反復される。終了条件が成立した場合(Sa4:YES)、制御装置51は制御処理Saを終了する。
図9は、第1実施形態における再生制御処理Sa3の具体的な手順を例示するフローチャートである。第1実施形態の再生制御処理Sa3は、音響処理Sc1と送信処理Sc2とを含む。音響処理Sc1において、制御装置51は、Nチャネルの音響信号X1~XNのうち再生制御情報Qにおいて「有効」に設定された1以上の音響信号Xnを混合することで再生信号Yを生成する。送信処理Sc2は、音響処理Sc1で生成した再生信号Yを端末装置22に送信する処理である。
以上に説明した通り、第1実施形態においては、施設200内の相異なる位置における収音により生成されるNチャネルの音響信号X1~XNのうち1以上の音響信号Xnに応じた収録音が、再生制御情報Qが指定する再生条件のもとで再生される。したがって、端末装置22の利用者Uaは、施設200内の複数の位置のうち1以上の位置における音を聴取できる。第1実施形態においては特に、Nチャネルの音響信号X1~XNの各々の再生の有無が制御されるから、各端末装置22の利用者Uaは、施設200内の複数の位置のうち1以上の位置で収音された音を選択的に聴取できる。例えば、利用者Uaは、出場者または審判員等の関係者Ucに装着された収音部15_nが収音した音を選択的に聴取できる。また、利用者Uaは、施設200内の特定の観客席(例えばホームチームの観客席)に設置された収音部15_nが収音した音を選択的に聴取できる。
また、第1実施形態においては、端末装置22の利用者Uaからの指示に応じて当該端末装置22の再生制御情報Qが生成される。したがって、各利用者Uaの嗜好に沿った収録音の再生が実現される。
B:第2実施形態
第2実施形態を説明する。なお、以下に例示する各態様において機能が第1実施形態と同様である要素については、第1実施形態の説明と同様の符号を流用して各々の詳細な説明を適宜に省略する。
図10は、第2実施形態における制御システム14の機能的な構成を例示するブロック図である。第2実施形態の情報取得部63は、各音響信号Xnの再生条件が相違する複数の再生制御情報Q(Q1-Q3)の何れかを端末装置22毎に選択的に取得する。複数の再生制御情報Qの各々においては、各音響信号Xnの再生の有無(有効/無効)が相違する。
具体的には、再生制御情報Q1は、第1実施形態の例示と同様に、端末装置22の利用者Uaからの指示に応じて端末装置22毎に個別に生成される。他方、再生制御情報Q2および再生制御情報Q3は、利用者Uaからの指示とは無関係に事前に用意されたプリセットデータである。再生制御情報Q1は端末装置22毎に生成される情報であるのに対し、再生制御情報Q2および再生制御情報Q3は複数の端末装置22について共用される。
再生制御情報Q2においては、Nチャネルの音響信号X1~XNのうち、出場者等の特定の関係者Ucに装着された収音部15_nに対応する1以上の音響信号Xnが「有効」に設定される。他方、再生制御情報Q3においては、Nチャネルの音響信号X1~XNのうち、施設200内の観客席等の設備に設置された収音部15_nに対応する1以上の音響信号Xnが「有効」に設定される。なお、例えば、(1) 施設200内の観客席のうち第1範囲(例えばホームチームの観客席)内に設置された収音部15_nの音響信号Xnが「有効」に設定された再生制御情報Qと、(2) 第1範囲とは相違する第2範囲(例えばアウェイチームの観客席)内に設置された収音部15_nの音響信号Xnが「有効」に設定された再生制御情報Qとが、記憶装置52に記憶されてもよい。
各端末装置22の利用者Uaは、操作装置44を操作することで複数の再生制御情報Qの何れかを選択できる。利用者Uaは、イベントが実施される期間(以下「実施期間」という)内の任意の時点において所望の再生制御情報Qを選択できる。利用者Uaが選択した再生制御情報Qを指定する選択データZbが通信装置43から制御システム14に送信される。制御システム14の通信装置43は選択データZbを受信する。図10の情報取得部63は、複数の再生制御情報Qのうち端末装置22から受信した選択データZbが指定する再生制御情報Qを記憶装置52から取得する。
図11は、第2実施形態における制御処理Saの具体的な手順を例示するフローチャートである。制御処理Saは、制御システム14の管理者からの指示を契機として開始され、イベントの進行に並行して実行される。複数の端末装置22の各々について制御処理Saが実行される。
制御処理Saが開始されると、制御装置51(情報取得部63)は、再生制御情報Qを記憶装置52から取得する(Sa1)。制御処理Saが開始された直後の段階では、複数の再生制御情報Qのうち特定の再生制御情報Q(例えば再生制御情報Q1)が取得される。制御装置51(信号取得部62)は、Nチャネルの音響信号X1~XNを収音システム13から取得する(Sa2)。そして、制御装置51(再生制御部64)は、再生制御情報QとNチャネルの音響信号X1~XNとを適用した再生制御処理Sa3を実行する。再生制御処理Sa3の内容は第1実施形態と同様である。すなわち、信号取得部62が取得したNチャネルの音響信号X1~XNのうち、情報取得部63が取得した再生制御情報Qにおいて「有効」に設定された1以上の音響信号Xnから再生信号Yが生成される。
制御装置51は、所定の終了条件が成立したか否かを判定する(Sa4)。終了条件が成立した場合(Sa4:YES)、制御装置51は制御処理Saを終了する。他方、終了条件が成立しない場合(Sa4:No)、制御装置51(情報取得部63)は、再生制御情報Qを変更するか否かを判定する(Sa5)。例えば、通信装置53が端末装置22から選択データZbを受信した場合に、制御装置51は、再生制御情報Qを変更すると判定する。再生制御情報Qを変更する場合(Sa5:YES)、制御装置51は、処理をステップSa1に移行する。移行後のステップSa1において、制御装置51は、選択データZbが指定する再生制御情報Qを記憶装置52から取得する。すなわち、再生制御処理Sa3に適用される再生制御情報Qが変更される。他方、再生制御情報Qを変更しない場合(Sa5:NO)、制御装置51は、処理をステップSa2に移行する。すなわち、再生制御情報Qは変更されない。
以上の説明から理解される通り、第2実施形態においては、実施期間内において再生制御情報Qが経時的に変化する。すなわち、各音響信号Xnの再生条件が経時的に変化する。したがって、例えば、図12に例示される通り、実施期間内の期間Taにおいては再生制御処理Sa3に再生制御情報Qa(Q1-Q3)が適用され、期間Taとは相違する期間Tbにおいては、再生制御情報Qaとは相違する再生制御情報Qb(Q1-Q3,Qb≠Qa)が再生制御処理Sa3に適用される。すなわち、情報取得部63は、期間Taにおいては再生制御情報Qaを選択し、期間Tbにおいては再生制御情報Qbを取得する。期間Taは「第1期間」の一例であり、期間Tbは「第2期間」の一例である。また、再生制御情報Qaは「第1再生制御情報」の一例であり、再生制御情報Qbは「第2再生制御情報」の一例である。
第2実施形態においても第1実施形態と同様の効果が実現される。また、第2実施形態においては、複数の再生制御情報Qの何れかが選択的に再生制御処理Sa3に適用されるから、1個の再生制御情報Qのみが使用される構成と比較して、放音装置47により再生される音を多様化することが可能である。また、再生制御処理Sa3に適用される再生制御情報Qが経時的に変化するから、各音響信号Xnが表す音の再生条件が経時的に変化する多様な再生を実現できる。再生制御情報Q2および再生制御情報Q3は事前に用意された情報であるから、複数の再生制御情報Qを利用者Uaからの指示に応じて生成する構成と比較して、利用者Uaの負荷または情報生成部61の負荷が軽減されるという利点もある。
C:第3実施形態
図13は、第3実施形態における制御システム14の機能的な構成を例示するブロック図である。第3実施形態の制御装置51は、第1実施形態と同様の要素(情報生成部61,信号取得部62,情報取得部63および再生制御部64)に加えて状況解析部65として機能する。第3実施形態における情報取得部63は、第2実施形態と同様に、各音響信号Xnの再生条件が相違する複数の再生制御情報Q(Q1-Q3)の何れかを端末装置22毎に選択的に取得する。他の要素(情報生成部61,信号取得部62および再生制御部64)の動作は、第1実施形態と同様である。
状況解析部65は、イベントの進行の状況(以下「進行状況」という)を解析する。具体的には、状況解析部65は、信号取得部62が取得するNチャネルの音響信号X1~XNを解析することで進行状況を推定する。例えば、音響信号Xnの音量が急激に増加した場合、状況解析部65は、何れかの出場者が得点を獲得した進行状況であると推定する。なお、進行状況の推定に利用される情報は、音響信号Xnに限定されない。例えば、収録システム11が収録する動画を解析することで、状況解析部65が進行状況を解析してもよい。例えば、状況解析部65は、公知のシーン解析技術により動画の各シーンを進行状況として推定する。
なお、利用者Uaは、SNS(Social Networking Service)を利用して端末装置22から所望の投稿情報を送信することが可能である。利用者Uaは、再生装置21が再生するコンテンツCを視聴しながら投稿情報を作成および送信する。投稿情報には、コンテンツCを視聴した感想など、イベントの進行状況に関連する文字列が含まれる。状況解析部65は、各利用者Uaの端末装置22から送信される投稿情報を参照することでイベントの進行状況を推定してもよい。
第3実施形態の制御装置51は、第2実施形態と同様の制御処理Saを実行する。ただし、第3実施形態の情報取得部63は、状況解析部65が推定する進行状況に応じた再生制御情報Qを取得する(Sa1)。例えば、情報取得部63は、進行状況毎に再生制御情報Qが登録されたテーブルを参照することで、状況解析部65が推定した進行状況に対応する再生制御情報Qを特定する。情報取得部63が取得した再生制御情報Qが再生制御処理Sa3に適用される点は第1実施形態または第2実施形態と同様である。また、制御処理SaのステップSa5において、情報取得部63は、状況解析部65が推定する進行状況が変化した場合に、再生制御情報Qを変更すると判定する(Sa5:YES)。すなわち、進行状況の変化毎に再生制御情報Qが変更される。
第3実施形態においても第2実施形態と同様の効果が実現される。また、第3実施形態においては、イベントの進行状況に応じて再生制御情報Qが変更されるから、進行状況に応じた適切な再生条件のもとで各音響信号Xnに応じた音を再生できる。
D:第4実施形態
図14は、第4実施形態における再生制御情報Qの模式図である。第4実施形態の再生制御情報Qは、Nチャネルの音響信号X1~XNの各々について再生音量V(V1-VN)を指定する。すなわち、第4実施形態における各音響信号Xnの再生条件は、当該音響信号Xnが表す音の再生音量Vnを含む。
利用者Uaは、操作装置44を操作することで、Nチャネルの音響信号X1~XNの各々について再生音量Vnを指示する。利用者Uaは、Nチャネルのうち優先的に聴取したい音響信号Xnの再生音量Vnを大きい数値に設定し、自身にとって重要でない音響信号Xnの再生音量Vnを小さい数値に設定する。利用者Uaが聴取する必要のない音の再生音量Vnはゼロに設定される。情報生成部61は、各端末装置22の利用者Uaからの指示(指示データZa)に応じて当該端末装置22の再生制御情報Qを生成する。
第4実施形態の音響処理Sc1において、再生制御部64は、再生制御情報Qが指定する再生条件に応じてNチャネルの音響信号X1~XNを混合することで再生信号Yを生成する。具体的には、再生制御部64は、再生制御情報Qが指定する再生音量Vnを加重値としてNチャネルの音響信号X1~XNを加算する処理(すなわち加重和)により、再生信号Yを生成する。なお、第1実施形態の音響処理Sc1は、第4実施形態の音響処理Sc1において再生音量Vnが2値的(0/1)に設定される形態とも換言される。以上の説明から理解される通り、第1実施形態および第4実施形態における再生制御処理Sa3は、再生制御情報Qが指定する再生条件に応じてNチャネルの音響信号X1~XNを混合することで再生信号Yを生成する音響処理Sc1を含む。なお、制御システム14が再生信号Yを端末装置22に送信することで放音装置47が収録音を再生する動作は、第1実施形態と同様である。
第4実施形態においても第1実施形態と同様の効果が実現される。また、第4実施形態においては、Nチャネルの音響信号X1~XNの各々について再生音量Vnが制御される。したがって、各端末装置22の利用者Uaは、施設200内の複数の位置のうち1以上の位置で収音された音を優先的に聴取できる。
なお、再生制御情報Qが経時的に変化する第2実施形態または第3実施形態の構成は、再生制御情報Qが各音響信号Xnの再生音量Vnを指定する第4実施形態においても同様に適用される。例えば、情報取得部63は、各音響信号Xnの再生音量Vnが相違する複数の再生制御情報Qの何れかを選択的に取得する。
E:第5実施形態
図15は、第5実施形態における各端末装置22の放音装置47の構成を例示するブロック図である。第5実施形態の放音装置47は、N個の放音部48を具備する。具体的には、第5実施形態の放音装置47は、端末装置22とは別体で構成されたNチャネルのサラウンドシステムである。N個の放音部48は、利用者Uaの周囲に設置される。
図16は、第5実施形態における再生制御情報Qの模式図である。第5実施形態の再生制御情報Qは、Nチャネルの音響信号X1~XNの各々について供給先の放音部48の識別情報(#1,#2,…)を指定する。すなわち、放音装置47のN個の放音部48の何れかが各音響信号Xnの供給先として再生制御情報Qにより指定される。以上の説明から理解される通り、第5実施形態における各音響信号Xnの再生条件は、当該音響信号Xnが供給される放音部48(すなわち出力チャネル)の指定を含む。
利用者Uaは、操作装置44を操作することで、Nチャネルの音響信号X1~XNの各々についてN個の放音部48の何れかを指示する。すなわち、各音響信号XnをN個の放音部48の何れかに割当てる。情報生成部61は、各端末装置22の利用者Uaからの指示(指示データZa)に応じて当該端末装置22の再生制御情報Qを生成する。
第5実施形態の再生制御部64は、再生制御処理Sa3において、各音響信号Xnについて再生制御情報Qが指定する放音部48を当該音響信号Xnの供給先として指定したうえで、Nチャネルの音響信号X1~XNを通信装置53から端末装置22に送信する。端末装置22の制御装置41は、制御システム14から受信した各音響信号Xnを、放音装置47のN個の放音部48のうち当該音響信号Xnについて供給先として指定された放音部48に供給する。したがって、各音響信号Xnに応じた音が、N個の放音部48のうち再生制御情報Qにより指定された放音部48から再生される。なお、第5実施形態においては、音響信号Xnを混合する音響処理Sc1は実行されない。
第5実施形態においても第1実施形態と同様の効果が実現される。また、第5実施形態においては、Nチャネルの音響信号Xnの各々と当該音響信号Xnに応じた音を再生する放音部48との組合せが再生制御情報Qに応じて端末装置22毎に設定される。したがって、施設200内の複数の位置のうち1以上の位置における音をN個の放音部48の各々により選択的または優先的に聴取できる。例えば、施設200内の関係者Ucに装着された収音部15_nに対応する音響信号Xnの再生音を、放音装置47のうち利用者Uaの前方に設置された放音部48から放音し、施設200内の観客席に設置された収音部15_nに対応する音響信号Xnの再生音を、放音装置47のうち利用者Uaの後方に設置された放音部48から放音する、といった視聴環境が実現される。
なお、以上の説明においては、1個の音響信号Xnが表す音を1個の放音部48により再生したが、2以上の音響信号Xnの混合により生成される信号が表す音を1個の放音部48により再生してもよい。2以上の音響信号Xnに対する前述の音響処理Sc1で生成された信号を1個の放音部48に供給してもよい。すなわち、第4実施形態の構成は第5実施形態にも適用される。以上の説明から理解される通り、音響信号Xnと放音部48との対応は1対1の関係に限定されない。
また、再生制御情報Qが経時的に変化する第2実施形態または第3実施形態の構成は、再生制御情報Qが各音響信号Xnの供給先を指定する第5実施形態においても同様に適用される。例えば、情報取得部63は、各音響信号Xnの供給先が相違する複数の再生制御情報Qの何れかを選択的に取得する。
F:第6実施形態
図17は、第6実施形態における再生制御部64の動作の説明図である。第6実施形態における収音システム13の各収音部15_nは、現在時刻を計時する計時回路(図示略)を具備する。収音部15_nは、収音により生成した音響信号Xnに時刻情報τ(τ1,τ2,…)を付加する。時刻情報τは、収音の時刻を表すデータである。例えば所定の周期で到来する時刻において、当該時刻を表す時刻情報τが音響信号Xnに付加される。
収音システム13の各収音部15_nによる収音性能または各音響信号Xnが伝送される通信環境は、N個の収音部15_1~15_Nの間で相違する。したがって、収音部15_nが生成する音響信号Xnの遅延量、または、音響信号Xnの伝送の遅延量は、音響信号Xn毎に相違する。以上の相違に起因して、制御システム14の信号取得部62が取得するNチャネルの音響信号X1~XNの間では、時間軸上の位置が整合しない場合がある。
例えば、Nチャネルの音響信号X1~XNのうち音響信号Xn1と音響信号Xn2とに便宜的に着目する(n1,n2=1~N,n1≠n2)。図17に例示される通り、音響信号Xn1のうち特定の時刻に対応する時点と、音響信号Xn2のうち当該時刻に対応する時点とは、時間軸上において完全には合致しない。具体的には、音響信号Xn1は、音響信号Xn2と比較して遅延した状態で制御システム14に到達する。以上の事情を考慮して、第6実施形態においては、Nチャネルの音響信号X1~XNの相互間で時間軸上の位置を整合させる。
図18は、第6実施形態における再生制御処理Sa3の具体的な手順を例示するフローチャートである。第6実施形態の再生制御処理Sa3は、第1実施形態と同様の音響処理Sc1および送信処理Sc2に加えて同期処理Sc3を含む。同期処理Sc3は、音響処理Sc1の開始前に実行される。
同期処理Sc3は、信号取得部62が取得したNチャネルの音響信号X1~XNの間で時間軸上の位置を整合させる信号処理である。具体的には、再生制御部64は、図17に例示される通り、音響信号Xn1において各時刻情報τが示す時点と、音響信号Xn2において各時刻情報τが示す時点とが、時間軸上において一致するように、音響信号Xn1および音響信号Xn2の各々の時間軸上の位置を調整する。図17においては、音響信号Xn1を基準として音響信号Xn2の時間軸上の位置を調整する場合が例示されている。以上の説明から理解される通り、同期処理Sc3は、Nチャネルの音響信号X1~XNの相互間の時間差を低減する処理である。
再生制御部64は、同期処理Sc3の実行後のNチャネルの音響信号X1~XNについて音響処理Sc1を実行する。音響処理Sc1および送信処理Sc2の具体的な処理の手順は第1実施形態と同様である。
第6実施形態においても第1実施形態と同様の効果が実現される。また、第6実施形態においては、Nチャネルの音響信号X1~XNの間で時間軸上の位置が整合される。したがって、各音響信号Xnの時間差が低減された自然な収録音を利用者Uaが聴取できる。なお、第6実施形態の構成は、第2実施形態から第5実施形態にも同様に適用される。
G:第7実施形態
第1実施形態から第6実施形態においては、制御システム14において制御処理Saを実行する構成を例示した。第7実施形態は、同様の制御処理Sbを各端末装置22において実行する形態である。
図19は、第7実施形態における情報システム100および端末装置22のブロック図である。第7実施形態における制御システム14は、収音システム13が生成するNチャネルの音響信号X1~XNを複数の端末装置22の各々に送信する。各端末装置22の通信装置43は、制御システム14から送信されたNチャネルの音響信号X1~XNを通信網300から受信する。すなわち、制御システム14は、各音響信号Xnを中継する装置として機能する。
図20は、第7実施形態における端末装置22の機能的な構成を例示するブロック図である。端末装置22の制御装置41は、記憶装置42に記憶されたプログラムを実行することで複数の要素(情報生成部71,信号取得部72,情報取得部73および再生制御部74)として機能する。
情報生成部71は、第1実施形態の情報生成部61と同様に、再生制御情報Qを生成する。再生制御情報Qは、Nチャネルの音響信号X1~XNの各々について再生条件を指定する。第7実施形態における各音響信号Xnの再生条件は、第1実施形態と同様に、当該音響信号Xnが表す音の再生の有無である。
利用者Uaは、第1実施形態と同様に、表示装置46に表示される操作画面G(図7)を参照しながら音響信号Xn毎の再生の有無を指示する。情報生成部71は、操作装置44に対する操作に応じて再生制御情報Qを生成する。情報生成部71が生成した再生制御情報Qは記憶装置42に記憶される。また、情報生成部71は、記憶装置42に記憶された再生制御情報Qにおける各音響信号Xnの再生条件を、操作装置44に対する利用者Uaからの指示に応じて変更する。
図20の信号取得部72は、Nチャネルの音響信号X1~XNを取得する。具体的には、信号取得部72は、制御システム14から送信されたNチャネルの音響信号X1~XNを通信装置43により受信する。信号取得部72による各音響信号Xnの取得は、イベントの進行に並行して実行される。情報取得部73は、再生制御情報Qを取得する。具体的には、情報取得部73は、記憶装置42から再生制御情報Qを読み出す。
再生制御部74は、信号取得部62が取得したNチャネルの音響信号X1~XNに応じた収録音を再生装置45(放音装置47)に再生させる再生制御処理Sb3を実行する。再生制御処理Sb3は、イベントの進行に並行して実行される。第7実施形態の再生制御部74は、再生制御情報Qが指定する再生条件のもとで、Nチャネルの音響信号X1~XNのうち1以上の音響信号Xnに応じた収録音を、放音装置47に再生させる。
図21は、端末装置22の制御装置41が実行する制御処理Sbの具体的な手順を例示するフローチャートである。制御処理Sbは、操作装置44に対する利用者Uaからの指示を契機として開始され、イベントの進行に並行して実行される。
制御処理Sbが開始されると、制御装置41(情報取得部73)は、再生制御情報Qを記憶装置42から取得する(Sb1)。制御装置41(信号取得部72)は、Nチャネルの音響信号X1~XNを制御システム14から取得する(Sb2)。そして、制御装置41(再生制御部74)は、再生制御情報QとNチャネルの音響信号X1~XNとを適用した再生制御処理Sb3を実行する。再生制御処理Sb3は、第1実施形態と同様の音響処理Sc1を含む。音響処理Sc1は、Nチャネルの音響信号X1~XNのうち再生制御情報Qにおいて「有効」に設定された1以上の音響信号Xnを混合することで再生信号Yを生成する信号処理である。再生信号Yが放音装置47に供給されることで収録音が再生される。
制御装置41は、第1実施形態と同様に、所定の終了条件が成立したか否かを判定する(Sb4)。終了条件が成立しない場合(Sb4:NO)、制御装置41は、処理をステップSb2に移行し、各音響信号Xnの取得(Sb2)と再生制御処理Sb3とを反復する。他方、終了条件が成立した場合(Sb4:YES)、制御装置41は制御処理Sbを終了する。
以上に説明した通り、第7実施形態においては、施設200内の相異なる位置における収音により生成されるNチャネルの音響信号X1~XNのうち1以上の音響信号Xnに応じた収録音が、再生制御情報Qが指定する再生条件のもとで再生される。したがって、第1実施形態と同様に、端末装置22の利用者Uaは、施設200内の複数の位置のうち1以上の位置における音を聴取できる。
なお、第2実施形態から第6実施形態は、第7実施形態においても同様に適用される。すなわち、第2実施形態から第6実施形態において制御システム14について例示した構成および動作は、第7実施形態における端末装置22にも同様に適用される。
例えば、第2実施形態を第7実施形態に適用した形態においては、制御装置41(情報取得部73)が、記憶装置42に記憶された複数の再生制御情報Qの何れかを選択する。すなわち、再生制御処理Sb3に適用される再生制御情報Qが経時的に変化する。また、第3実施形態を第7実施形態に適用した形態においては、制御装置41(情報取得部73)が、複数の再生制御情報Qのうちイベントの進行状況に応じた再生制御情報Qを取得する。
第4実施形態を第7実施形態に適用した形態において、制御装置41(再生制御部74)は、再生制御情報Qが指定する再生音量Vnで各音響信号Xnを混合する音響処理Sc1を実行する。第5実施形態を第7実施形態に適用した形態において、制御装置41(再生制御部74)は、放音装置47のN個の放音部48のうち再生制御情報Qが指定する供給先に各音響信号Xnを供給する。第6実施形態と同様に、Nチャネルの音響信号X1~XNの間で時間軸上の位置を整合させる同期処理Sc3を、端末装置22の制御装置41が実行する再生制御処理Sb3に含ませてもよい。
H:変形例
以上に例示した各態様に付加される具体的な変形の態様を以下に例示する。以下の例示から任意に選択された複数の態様を、相互に矛盾しない範囲で適宜に併合してもよい。
(1)第2実施形態においては、複数の再生制御情報Qの何れかが利用者Uaからの指示に応じて選択される形態を例示したが、情報取得部63が複数の再生制御情報Qの何れかを取得するための具体的な方法は以上の例示に限定されない。例えば、各利用者Uaについて制御システム14の記憶装置52に事前に登録された情報(以下「登録情報」という)に応じて、情報取得部63が複数の再生制御情報Qの何れかを選択してもよい。登録情報は、例えば、利用者Uaが応援するチームの指定を含む。情報取得部63は、施設200内の観客席のうち登録情報が指定するチームに対応する範囲内の収音部15_nの音響信号Xnが「有効」に設定された再生制御情報Qを選択する。以上の構成によれば、観客席のうち利用者Uaが応援するチームに対応する範囲内(例えばホームチームの観客席)で収音された音を利用者Uaが聴取できる。なお、以上の例示において情報取得部63に着目したが、端末装置22の情報取得部73についても同様の形態が採用される。
(2)前述の各形態においては、再生装置21によるコンテンツCの再生と放音装置47による音の再生とが並行される構成を例示した。コンテンツCの配信には例えば通信環境に起因した遅延が発生するから、コンテンツCと収録音とが時間軸上で整合しない可能性がある。以上の事情を考慮すると、コンテンツCと各音響信号Xn(または再生信号Y)とが時間軸上で整合するように、各音響信号Xnの時間軸上の位置を調整する形態も想定される。例えば、再生制御部64は、コンテンツCの映像データC1の時刻情報が示す時刻と、各音響信号Xnの時刻情報τが示す時刻とが時間軸上において一致するように、音響信号Xnの時間軸上の位置を調整する。以上の構成によれば、映像データC1が表す映像に時間的に整合した音を再生装置45により再生できる。なお、コンテンツCの配信遅延が事前に予測できる場合、再生制御部64は、各音響信号Xnを当該配信遅延に相当する時間だけ遅延させてもよい。すなわち、映像データC1と音響信号Xnとの対比は省略される。なお、以上の説明においては再生制御部64に着目したが、端末装置22の再生制御部74が同様の調整を実行してもよい。
(3)制御システム14を利用したサービスを利用できる利用者Uaを制限してもよい。具体的には、コンテンツCを視聴している利用者Uaに限定して当該サービスを提供する形態が想定される。例えば、利用許可を表す許可データがコンテンツCの音響データC2に重畳される。許可データは、音響データC2が表す音のうち例えば可聴帯域を上回る帯域内に付加される。端末装置22の制御装置41は、再生装置21の放音装置24が再生する音を収音することで許可データを抽出する。すなわち、放音装置24を送信機として利用した音響通信により許可データが再生装置21の周囲に送信される。通信装置43は、制御装置41が抽出した許可データを制御システム14に送信する。制御システム14は、許可データを送信した端末装置22に限定して前述の各形態に係るサービスを提供する。以上の構成によれば、コンテンツCを実際に視聴している利用者Uaに対して限定的にサービスを提供できる。
(4)収音システム13の各収音部15_nには、本来的な収音の目的となる音(以下「目的音」という)だけでなく非目的音も到達する。非目的音は、被り音(spill sound)とも換言される。例えば、関係者Ucに装着された収音部15_nには、当該関係者Ucが発音した目的音だけでなく関係者Ucの周囲の非目的音も到達する。また、観客席のうち第1範囲に設置された収音部15_nには、当該第1範囲内の観覧者Ubが発音した目的音だけでなく、第1範囲とは相違する第2範囲内の観覧者Ubが発音した非目的音も到達する。再生制御部64は、非目的音を低減する信号処理を各音響信号Xnに対して実行してもよい。例えば、再生制御部64は、各音響信号Xnにおける目的音を強調する各種の信号処理(例えば音源分離技術)を実行する。以上の構成によれば、施設200内の特定の収音部15_nが収音する目的音を利用者Uaが明瞭に聴取できる。なお、以上の説明においては再生制御部64に着目したが、端末装置22の再生制御部74が同様の処理を実行してもよい。
(5)前述の各形態においては、再生信号Yが表す収録音を放音装置47により再生したが、再生信号Yが表す文字列(以下「収録文字列」という)を表示装置46に表示してもよい。例えば、端末装置22の制御装置41は、再生信号Yに対する音声認識処理により収録文字列を推定し、当該収録文字列を表示装置46に表示させる。第1言語で表現された収録文字列を公知の機械翻訳処理により第2言語に翻訳したうえで表示装置46に表示してもよい。以上の説明においては音響処理Sc1により生成される再生信号Yに着目したが、音響処理Sc1が実行されない第5実施形態においても同様の構成が採用される。例えば、端末装置22の制御装置41は、制御システム14から供給されるNチャネルの音響信号X1~XNのうち1以上の音響信号Xnに対する音声認識処理により収録文字列を推定し、当該収録文字列を表示装置46に表示させる。
(6)N個の収音部15_1~15_Nのうち関係者Ucに装着された収音部15_nに着目する。制御システム14の制御装置51は、収音部15_nが生成する音響信号Xnに対する話者識別処理により関係者Uc(例えば特定の出場者)を推定し、当該関係者Ucに関連する関連情報を端末装置22に提供してもよい。例えば、相異なる関係者Ucについて記憶装置52に事前に記憶された複数の関連情報のうち、話者識別処理で推定された関係者Ucに対応する関連情報が、制御システム14から端末装置22に送信される。関連情報は、例えば関係者Ucの名前、顔写真またはプロフィール等の各種の情報を含む。端末装置22の制御装置41は、制御システム14から受信した関連情報を表示装置46に表示させる。以上の構成によれば、関係者Ucが発話する音声を聴取しながら、当該関係者Ucの関連情報を利用者Uaが確認できる。
なお、以上の説明においては音響信号Xnに対する話者識別処理により発話者を推定したが、収音部15_n毎に設定された識別情報を利用して発話者を特定してもよい。例えば、収音部15_nは、当該収音部15_nの識別情報を音響信号Xnとともに制御システム14に送信する。制御装置51は、記憶装置52に記憶された複数の関連情報のうち、当該識別情報に対応する関連情報を端末装置22に提供する。以上の構成においては、音響信号Xnに対する話者識別情報が不要である。また、以上の説明においては制御システム14の制御装置51が関連情報を特定したが、端末装置22の制御装置41が同様の処理により関連情報を特定してもよい。
(7)前述の各形態においては、イベントが実施される施設200内に設置されたN個の収音部15_1~15_Nを利用したが、音響信号Xnを生成する各収音部15_nが設置される場所は施設200内に限定されない。例えば、各利用者Uaが収音部15_nを利用可能な形態も想定される。具体的には、端末装置22に搭載された収音装置(マイクロホン)を収音部15_nとして音響信号Xnの生成に利用してもよい。各利用者Uaは、再生装置45が再生するコンテンツCを視聴しながら、イベントに関する音声を発音する。例えば、各利用者Uaは、コンテンツCを実況する音声、またはコンテンツCに関する利用者Uaの感想を表す音声を発音する。
各収音部15_nは、以上に例示したイベントに関する音声を収音することで、当該イベントの進行に並行して音響信号Xnを生成する。信号取得部62は、施設200内の収音部15_nが生成する音響信号Xnと、利用者Uaが発音した音声を表す音響信号Xnとを含むNチャネルの音響信号X1~XNを取得する。情報取得部63が再生制御情報Qを取得する動作、および、当該再生制御情報Qを適用した再生制御処理Sa3を再生制御部64が実行する動作は、前述の各形態と同様である。
以上の形態によれば、個人的にイベントについて発音する利用者Uaの音声を含む収録音を各端末装置22に再生させることが可能である。具体的には、施設200内で収音された音声と、イベントのスポーツに関する種々の利用者Uaの音声とを含む複数の音声のうち、再生制御情報Qに応じた1以上の音声を選択的に組合せた収録音を、各端末装置22により再生することが可能である。例えば、イベントに係るスポーツのプレイまたは観覧を趣味とする利用者Uaの音声、または当該スポーツの部活動を実施する学生である利用者Uaの音声等、多様な音声を組合せた収録音が、端末装置22により再生される。また、第1国内でコンテンツCを視聴する利用者Uaの音声を含む収録音を、第1国とは相違する第2国内の端末装置22により再生することも可能である。
なお、以上の説明においては、施設200内で収音された音声を含む収録音を例示したが、施設200外で収音された音声(例えば利用者Uaの音声)のみを収録音が含む構成も想定される。第2実施形態から第6実施形態にも同様の変形例が適用される。また、以上の説明においては、制御処理Saを制御システム14が実行する形態を想定したが、制御処理Sbを端末装置22が実行する第7実施形態にも同様の変形例が適用される。
以上の例示から理解される通り、信号取得部(62,72)は、相異なる位置における収音によりイベントについて生成される複数の音響信号Xnを取得する要素、として包括的に表現される。「相異なる位置」の典型例は、前述の各形態の例示の通り、イベントが実施される施設200内に存在する位置であるが、本変形例の例示の通り、施設200外の任意の位置(例えば利用者Uaの位置)も「相異なる位置」には包含され得る。また、「イベントについて生成される音響信号Xn」は、例えばイベントが実施される施設200内で発音される音(例えば観覧者Ubまたは関係者Ucの音声)、または、当該イベントを解説または実況する音声等、位置的または内容的にイベントに関連する任意の音を表す信号を意味する。
(8)前述の各形態においては、再生信号Yを放音装置47に供給することで放音装置47により収録音を再生したが、収録音の再生に再生装置21の放音装置24を利用してもよい。例えば、端末装置22の制御装置41は、制御システム14から受信した再生信号Yを再生装置21に送信する。再生装置21の放音装置24は、コンテンツCの音響データC2が表す音と、再生信号Yが表す収録音との混合音を再生する。
(9)前述の各形態においてはスポーツイベントを例示したが、前述の各形態が適用されるイベントは以上の例示に限定されない。例えば、音楽が演奏されるライブまたはコンサート等の音楽イベント、ダンサーが実演するダンスイベント、俳優が出演する演劇イベント、講演者が講演する講演イベント、学校や学習塾等の各種の教育機関が生徒に授業を提供する教育イベント等、特定の目的で実施される各種のイベントに、前述の各形態は適用される。
(10)以上に例示した制御システム14の機能は、前述の通り、制御装置51を構成する単数または複数のプロセッサと、記憶装置52に記憶されたプログラムとの協働により実現される。同様に、端末装置22の機能は、前述の通り、制御装置41を構成する単数または複数のプロセッサと、記憶装置42に記憶されたプログラムとの協働により実現される。
プログラムは、コンピュータが読取可能な記録媒体に格納された形態で提供されてコンピュータにインストールされ得る。記録媒体は、例えば非一過性(non-transitory)の記録媒体であり、CD-ROM等の光学式記録媒体(光ディスク)が好例であるが、半導体記録媒体または磁気記録媒体等の公知の任意の形式の記録媒体も包含される。なお、非一過性の記録媒体とは、一過性の伝搬信号(transitory, propagating signal)を除く任意の記録媒体を含み、揮発性の記録媒体も除外されない。また、配信装置が通信網を介してプログラムを配信する構成では、当該配信装置においてプログラムを記憶する記録媒体が、前述の非一過性の記録媒体に相当する。
I:付記
以上に例示した形態から、例えば以下の構成が把握される。
本開示のひとつの態様(態様1)に係る再生制御方法は、相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得し、前記複数の音響信号の各々の再生条件を指定する再生制御情報を、複数の端末装置の各々について取得し、前記複数の端末装置の各々について再生制御処理を実行し、前記再生制御処理においては、当該端末装置の再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる。以上の構成においては、相異なる位置における収音によりイベントについて生成される複数の音響信号のうち1以上の音響信号に応じた音が、再生制御情報が指定する再生条件のもとで再生される。したがって、端末装置の利用者は、複数の位置のうち1以上の位置において収音される音を選択的または優先的に聴取できる。
本開示の他の態様(態様2)に係る再生制御方法は、端末装置が、相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得し、前記複数の音響信号の各々の再生条件を指定する再生制御情報を取得し、再生制御処理を実行し、前記再生制御処理においては、前記再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる。以上の構成においては、相異なる位置における収音によりイベントについて生成される複数の音響信号のうち1以上の音響信号に応じた音が、再生制御情報が指定する再生条件のもとで再生される。したがって、端末装置の利用者は、複数の位置のうち1以上の位置において収音される音を選択的または優先的に聴取できる。
態様1または態様2の具体例(態様3)において、前記相異なる位置は、前記イベントが実施される場所に存在する位置である。以上の態様においては、イベントが実施される場所の相異なる位置における収音により生成される複数の音響信号のうち1以上の音響信号に応じた音が再生される。
態様1から態様3の何れかの具体例(態様4)において、前記複数の音響信号の各々の再生条件は、当該音響信号が表す音の再生の有無を含む。以上の構成においては、複数の音響信号の各々の再生の有無が制御される。したがって、端末装置の利用者は、複数の位置のうち1以上の位置における音を選択的に聴取できる。
態様1から態様4の何れかの具体例(態様5)において、前記複数の音響信号の各々の再生条件は、当該音響信号の再生音量を含む。以上の構成においては、複数の音響信号の各々の再生音量が制御される。したがって、端末装置の利用者は、複数の位置のうち1以上の位置における音を優先的に聴取できる。
態様4または態様5の具体例(態様6)において、前記再生制御処理は、前記複数の音響信号を前記再生条件に応じて混合することで再生信号を生成する音響処理を含み、前記再生信号が表す音を前記再生装置に再生させる処理である。
態様1から態様5の何れかの具体例(態様7)において、前記再生装置は、複数の放音部を含み、前記複数の音響信号の各々の再生条件は、前記複数の放音部のうち当該音響信号が供給される放音部の指定を含む。以上の構成においては、複数の音響信号の各々の供給先となる放音部が制御される。したがって、端末装置の利用者は、複数の位置の各々における音を明確に区別しながら聴取できる。
態様1から態様7の何れかの具体例(態様8)において、前記再生制御処理は、前記複数の音響信号のうち第1音響信号と第2音響信号との間で時間軸上の位置を整合させる同期処理を含む。以上の構成においては、複数の音響信号のうち第1音響信号と第2音響信号との間で時間軸上の位置が整合される。したがって、第1音響信号と第2音響信号との時間差が低減された自然な音を利用者が聴取できる。
態様1から態様8の何れかの具体例(態様9)において、前記再生制御情報は、前記端末装置の利用者からの指示に応じて生成される。以上の構成においては、端末装置の利用者からの指示に応じて再生制御情報が生成される。したがって、利用者の嗜好等に沿った再生が実現される。
態様1から態様9の何れかの具体例(態様10)において、前記再生制御情報の取得においては、前記各音響信号の再生条件が相違する複数の再生制御情報の何れかを選択する。以上の構成においては、事前に用意された複数の再生制御情報の何れかが選択される。したがって、再生装置により再生される音を多様化することが可能である。
態様10の具体例(態様11)において、前記再生制御情報の取得において、第1期間では、前記複数の再生制御情報のうち第1再生制御情報を取得し、前記第1期間とは相違する第2期間では、前記複数の再生制御情報のうち前記第1再生制御情報とは相違する第2再生制御情報を取得する。以上の構成においては、第1期間において第1再生制御情報が選択され、第2期間において第2再生制御情報が選択される。したがって、各音響信号が表す音の再生条件が経時的に変化する多様な再生を実現できる。
本開示のひとつの態様(態様12)に係る制御システムは、相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得する信号取得部と、前記複数の音響信号の各々の再生条件を指定する再生制御情報を、複数の端末装置の各々について取得する情報取得部と、前記複数の端末装置の各々について再生制御処理を実行する再生制御部とを具備し、前記再生制御処理においては、当該端末装置の再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる。本開示の他の態様に係るプログラムは、態様12に係る制御システムとしてコンピュータを機能させる。
本開示のひとつの態様(態様13)に係る端末装置は、相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得する信号取得部と、前記複数の音響信号の各々の再生条件を指定する再生制御情報を取得する情報取得部と、再生制御処理を実行する再生制御部とを具備し、前記再生制御処理においては、前記再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる。本開示の他の態様に係るプログラムは、態様13に係る端末装置としてコンピュータを機能させる。
100…情報システム、200…施設、300…通信網、11…収録システム、12…配信システム、13…再生システム、14…制御システム、15_1~15_N…収音部、21,45…再生装置、23,46…表示装置、24,47…放音装置、22…端末装置、41,51…制御装置、42,52…記憶装置、43,53…通信装置、44…操作装置、48…放音部、61,71…情報生成部、62,72…信号取得部、63,73…情報取得部、64,74…再生制御部、65…状況解析部。

Claims (12)

  1. 端末装置が、
    相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得し、
    前記複数の音響信号の各々の再生条件を指定する再生制御情報を取得し、
    再生制御処理を実行し、
    前記再生制御処理においては、前記再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる
    再生制御方法。
  2. 前記相異なる位置は、前記イベントが実施される場所に存在する位置である
    請求項の再生制御方法。
  3. 前記複数の音響信号の各々の再生条件は、当該音響信号が表す音の再生の有無を含む
    請求項1または請求項2の再生制御方法。
  4. 前記複数の音響信号の各々の再生条件は、当該音響信号の再生音量を含む
    請求項1から請求項の何れかの再生制御方法。
  5. 前記再生制御処理は、前記複数の音響信号を前記再生条件に応じて混合することで再生信号を生成する音響処理を含み、前記再生信号が表す音を前記再生装置に再生させる処理である
    請求項または請求項の再生制御方法。
  6. 前記再生装置は、複数の放音部を含み、
    前記複数の音響信号の各々の再生条件は、前記複数の放音部のうち当該音響信号が供給される放音部の指定を含む
    請求項1から請求項の何れかの再生制御方法。
  7. 前記再生制御処理は、前記複数の音響信号のうち第1音響信号と第2音響信号との間で時間軸上の位置を整合させる同期処理を含む
    請求項1から請求項の何れかの再生制御方法。
  8. 前記再生制御情報は、前記端末装置の利用者からの指示に応じて生成される
    請求項1から請求項の何れかの再生制御方法。
  9. 前記再生制御情報の取得においては、前記各音響信号の再生条件が相違する複数の再生制御情報の何れかを選択する
    請求項1から請求項の何れかの再生制御方法。
  10. 前記再生制御情報の取得において、第1期間では、前記複数の再生制御情報のうち第1再生制御情報を取得し、前記第1期間とは相違する第2期間では、前記複数の再生制御情報のうち前記第1再生制御情報とは相違する第2再生制御情報を取得する
    請求項の再生制御方法。
  11. 相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得する信号取得部と、
    前記複数の音響信号の各々の再生条件を指定する再生制御情報を取得する情報取得部と、
    再生制御処理を実行する再生制御部とを具備し、
    前記再生制御処理においては、前記再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる
    端末装置。
  12. 端末装置のプロセッサを、
    相異なる位置における収音によりイベントについて生成される複数の音響信号を当該イベントの進行に並行して取得する信号取得部、
    前記複数の音響信号の各々の再生条件を指定する再生制御情報を取得する情報取得部、および、
    再生制御処理を実行する再生制御部、
    として機能させるプログラムであって、
    前記再生制御処理においては、前記再生制御情報が指定する再生条件のもとで、前記複数の音響信号のうち1以上の音響信号に応じた音を、前記イベントの進行に並行して再生装置に再生させる
    プログラム。

JP2020159729A 2020-09-24 2020-09-24 再生制御方法、制御システム、端末装置およびプログラム Active JP7137278B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020159729A JP7137278B2 (ja) 2020-09-24 2020-09-24 再生制御方法、制御システム、端末装置およびプログラム
PCT/JP2021/033735 WO2022065136A1 (ja) 2020-09-24 2021-09-14 再生制御方法、制御システム、端末装置およびプログラム
JP2022136261A JP2022162170A (ja) 2020-09-24 2022-08-29 再生制御方法、制御システムおよびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020159729A JP7137278B2 (ja) 2020-09-24 2020-09-24 再生制御方法、制御システム、端末装置およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022136261A Division JP2022162170A (ja) 2020-09-24 2022-08-29 再生制御方法、制御システムおよびプログラム

Publications (3)

Publication Number Publication Date
JP2022053107A JP2022053107A (ja) 2022-04-05
JP2022053107A5 JP2022053107A5 (ja) 2022-08-08
JP7137278B2 true JP7137278B2 (ja) 2022-09-14

Family

ID=80845336

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020159729A Active JP7137278B2 (ja) 2020-09-24 2020-09-24 再生制御方法、制御システム、端末装置およびプログラム
JP2022136261A Pending JP2022162170A (ja) 2020-09-24 2022-08-29 再生制御方法、制御システムおよびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022136261A Pending JP2022162170A (ja) 2020-09-24 2022-08-29 再生制御方法、制御システムおよびプログラム

Country Status (2)

Country Link
JP (2) JP7137278B2 (ja)
WO (1) WO2022065136A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030194968A1 (en) 2002-04-15 2003-10-16 Young Steven Jay System and method for local modulation and distribution of stored audio content
JP2004336175A (ja) 2003-04-30 2004-11-25 Nippon Telegr & Teleph Corp <Ntt> イベント実施システム、イベント管理システムおよびイベント管理方法
JP2013141254A (ja) 2011-12-29 2013-07-18 Thomson Licensing メディアサービスの同期方法
WO2017010145A1 (ja) 2015-07-13 2017-01-19 ソニー株式会社 音声配信装置、音声再生端末、認証デバイス、音声配信システム、および音声配信方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030194968A1 (en) 2002-04-15 2003-10-16 Young Steven Jay System and method for local modulation and distribution of stored audio content
JP2004336175A (ja) 2003-04-30 2004-11-25 Nippon Telegr & Teleph Corp <Ntt> イベント実施システム、イベント管理システムおよびイベント管理方法
JP2013141254A (ja) 2011-12-29 2013-07-18 Thomson Licensing メディアサービスの同期方法
WO2017010145A1 (ja) 2015-07-13 2017-01-19 ソニー株式会社 音声配信装置、音声再生端末、認証デバイス、音声配信システム、および音声配信方法

Also Published As

Publication number Publication date
JP2022053107A (ja) 2022-04-05
JP2022162170A (ja) 2022-10-21
WO2022065136A1 (ja) 2022-03-31

Similar Documents

Publication Publication Date Title
JP5609160B2 (ja) 情報処理システム、コンテンツ合成装置および方法、並びに記録媒体
US20140328485A1 (en) Systems and methods for stereoisation and enhancement of live event audio
US20090094375A1 (en) Method And System For Presenting An Event Using An Electronic Device
WO2022004103A1 (ja) 演出効果制御方法、端末装置の動作方法、演出効果制御システムおよび端末装置
JP2014011509A (ja) 音声出力制御装置、音声出力制御方法、プログラム及び記録媒体
WO2017002642A1 (ja) 情報機器及び表示処理方法
JP2006041886A (ja) 情報処理装置および方法、記録媒体、並びにプログラム
JP7137278B2 (ja) 再生制御方法、制御システム、端末装置およびプログラム
JP2021021870A (ja) コンテンツ収集・配信システム
JP6958676B1 (ja) 制御方法および制御システム
JP6951610B1 (ja) 音声処理システム、音声処理装置、音声処理方法、及び音声処理プログラム
US20230188770A1 (en) Interactive broadcasting method and system
JP2009005012A (ja) データ配信装置、データ配信方法およびプログラム
Hinata et al. Live Production of 22.2 Multichannel Sound for Sports Programs
JP6220576B2 (ja) 複数人による通信デュエットに特徴を有する通信カラオケシステム
WO2023058330A1 (ja) 情報処理装置、情報処理方法、および記憶媒体
JP7468111B2 (ja) 再生制御方法、制御システムおよびプログラム
US20210320959A1 (en) System and method for real-time massive multiplayer online interaction on remote events
JP3241225U (ja) 無観客ライブ配信システム
WO2024053094A1 (ja) メディア情報強調再生装置、メディア情報強調再生方法、およびメディア情報強調再生プログラム
JP2007134808A (ja) 音声配信装置、音声配信方法、音声配信プログラム、および記録媒体
JP6864938B1 (ja) 記録データ再生方法およびシステム
WO2021157638A1 (ja) サーバ装置、端末装置、同時通訳音声送信方法、多重化音声受信方法、および記録媒体
KR20100055662A (ko) 클라이언트 단말 장치, 공연 감상 서비스 장치, 공연 감상 서비스 시스템 및 그 방법
JP2022181698A (ja) サーバ装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220729

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220729

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220729

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220830

R150 Certificate of patent or registration of utility model

Ref document number: 7137278

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150