JP7396300B2 - 送信装置、送信方法、受信装置および受信方法 - Google Patents

送信装置、送信方法、受信装置および受信方法 Download PDF

Info

Publication number
JP7396300B2
JP7396300B2 JP2020563147A JP2020563147A JP7396300B2 JP 7396300 B2 JP7396300 B2 JP 7396300B2 JP 2020563147 A JP2020563147 A JP 2020563147A JP 2020563147 A JP2020563147 A JP 2020563147A JP 7396300 B2 JP7396300 B2 JP 7396300B2
Authority
JP
Japan
Prior art keywords
signal
channels
channel
audio
predetermined number
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020563147A
Other languages
English (en)
Other versions
JPWO2020137767A1 (ja
Inventor
元 市村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020137767A1 publication Critical patent/JPWO2020137767A1/ja
Application granted granted Critical
Publication of JP7396300B2 publication Critical patent/JP7396300B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/08Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4348Demultiplexing of additional data and video streams
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/233Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368Multiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4131Peripherals receiving signals from specially adapted client devices home appliance, e.g. lighting, air conditioning system, metering devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4341Demultiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43632Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wired protocol, e.g. IEEE 1394
    • H04N21/43635HDMI
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Automation & Control Theory (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本技術は、送信装置、送信方法、受信装置および受信方法に関し、詳しくは、触覚振動信号を取り扱う送信装置、送信方法、受信装置および受信方法に関する。
5.1チャネル、7.1チャネルなどのマルチチャンネルオーディオアプリケーションにおいては、それぞれのチャンネル利用法を識別するために名前が付けられ運用されている。例えば、ライトチャンネル、レフトチャンネル、センターチャネル、LFE(Low Frequency Effect)チャンネル等である。これらはその名前が示す位置に配置されたラウドスピーカに届けられ、音として再生されることが期待されている。
近年、マルチメディアアプリケーションが提案され、そのなかには、オーディオビデオと同期して利用される触覚振動アプリケーション等もある。例えば、特許文献1には、触覚振動信号(触覚信号)を送信し、受信側では、その触覚振動信号に基づいて振動部を振動させる技術についての記載がある。
特開2018-060313号公報
オーディオビデオと同期して利用される触覚振動アプリケーションにおいては、触覚振動信号をオーディオ信号と同期して伝送することが望まれる。また、アプリケーションによっては、オーディオ信号が必要ない、また多くの触覚振動信号チャネルを伝送したいという要望も存在する。
本技術の目的は、触覚振動信号を良好に伝送することにある。
本技術の概念は、
オーディオ信号用の複数フレームからなるブロック毎の伝送信号を順次所定伝送路を介して受信側に送信する送信部を備え、
上記伝送信号は、所定チャネル数の触覚振動信号を含む
送信装置にある。
本技術において、送信部により、オーディオ信号用の複数フレームからなるブロック毎の伝送信号が順次所定伝送路を介して受信側に送信される。ここで、伝送信号には、所定チャネル数の触覚振動信号が含まれている。例えば、所定伝送路は、同軸ケーブル、光ケーブル、イーサネット(IEC 61883-6)ケーブル、HDMIケーブル、MHLケーブルまたはディスプレイポートケーブルである、ようにされてもよい。
例えば、伝送信号に所定チャネル数の触覚振動信号の構成情報を付加する情報付加部をさらに備える、ようにされてもよい。この場合、例えば、構成情報は、触覚振動信号のサンプリング周波数の情報、ビット数の情報、所定チャネル数の情報、または振動箇所情報の有無を示す情報を含む、ようにされてもよい。例えば、ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて構成情報を付加する、ようにされてもよい。
このように本技術においては、所定チャネル数の触覚振動信号を含む、オーディオ信号用の複数フレームからなるブロック毎の伝送信号を、順次所定伝送路を介して、受信側に送信するものである。そのため、所定チャネル数の触覚振動信号をオーディオ信号用の伝送信号を利用して良好に送信できる。
また、本技術の他の概念は、
オーディオ信号用の複数フレームからなるブロック毎の伝送信号を送信側から順次所定伝送路を介して受信する受信部を備え、
上記伝送信号は、所定チャネル数の触覚振動信号を含む
受信装置にある。
本技術において、受信部により、オーディオ信号用の複数フレームからなるブロック毎の伝送信号が送信側から順次所定伝送路を介して受信される。ここで、伝送信号には、所定チャネル数の触覚振動信号が含まれている。例えば、所定伝送路は、同軸ケーブル、光ケーブル、イーサネット(IEC 61883-6)ケーブル、HDMIケーブル、MHLケーブルまたはディスプレイポートケーブルである、ようにされてもよい。
例えば、伝送信号を処理して所定チャネル数の触覚振動信号を出力する処理部をさらに備える、ようにされてもよい。そして、この場合、例えば、伝送信号は所定チャネル数の触覚振動信号の構成情報を含み、処理部は、構成情報に基づいて信号を処理して、所定チャネル数の触覚振動信号を出力する、ようにされてもよい。また、例えば、構成情報は、ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて付加されている、ようにされてもよい。
このように本技術においては、所定チャネル数の触覚振動信号を含む、オーディオ信号用の複数フレームからなるブロック毎の伝送信号を、順次所定伝送路を介して、送信側から受信するものである。そのため、所定チャネル数の触覚振動信号をオーディオ信号用の伝送信号を利用して良好に受信できる。
実施の形態としてのAVシステムの構成例を示すブロック図である。 ビデオ信号、オーディオ信号および触覚振動信号のダイナミックレンジ、サンプリング周波数、連続/不連続、次元の一例を比較して示す図である。 テレビ受信機のHDMI受信部とオーディオアンプのHDMI送信部の構成例を示すブロック図である。 TMDSチャネルにおいて横×縦が1920ピクセル×1080ラインの画像データが伝送される場合の各種の伝送データの区間を示す図である。 HDMIコネクタのピン配列を示す図である。 テレビ受信機の高速バスインタフェースの構成例を示す図である。 オーディオアンプの高速バスインタフェースの構成例を示す図である。 IEC 60958規格におけるフレーム構成を示す図である。 IEC 60958規格におけるサブフレーム構成を示す図である。 IEC 60958規格における信号変調方式を示す図である。 IEC 60958規格におけるプリアンブルのチャネルコーディングを示す図である。 マルチチャネル伝送フォーマットにおけるフレーム構成の一例を示す図である。 IEC 60958規格におけるチャネルステータスのフォーマットを概略的に示す図である。 マルチチャネルコンフィグレーションの値と、それで示されるオーディオチャネルセットとの対応関係を示す図である。 高さ毎のスピーカの数を特定するパケットの一例を示す図である。 マルチチャンネルグループ内の送信順に対して何番のオーディオチャンネルを送信するかを指定するパケットの一例を示す図である。 マルチチャネル伝送フォーマットにおけるマルチチャネルグループ1~4の指定方法の具体例を示す図である。 マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送する場合のマルチチャネル伝送フォーマットのフレーム構成の一例を示す図である。 5.1チャネルオーディオと2チャネルの触覚振動信号を含む伝送信号を示す図である。 マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送するためのマルチチャネルサブグループが第2の方法で指定される例を説明するための図である。 所定チャネル数の触覚振動信号を伝送する場合のマルチチャネル伝送フォーマット(マルチ触覚信号フォーマット)におけるフレーム構成の一例を示す図である。 サブフレーム内の24ビットスロットを8ビットずつに3分割して3チャネルの触覚振動信号をアサインすることを説明するための図である。 LPCMフォーマットとマルチ触覚信号との対応の一例を示す図である。 IEC 60958規格におけるチャネルステータスのフォーマットを概略的に示す図である。 「Multichannel Configuration value」の値と触覚振動信号モードとの対応関係の一例を示す図である。 「Multichannel Configuration value」の値と触覚振動信号モードとの対応関係の他の一例を示す図である。 予め規定される32チャネルの振動箇所の一例を示す図である。 本技術を適用し得るAVシステムの他の構成例を説明するための図である。
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明を以下の順序で行う。
1.実施の形態
2.変形例
<1.実施の形態>
[AVシステムの構成例]
図1は、実施の形態としてのAV(Audio/Visual)システム10の構成例を示している。このAVシステム10は、テレビ受信機100とオーディオアンプ200を有している。テレビ受信機100には、テレビ放送の受信アンテナ121と、BD(Blu-ray Disc)プレーヤ122と、インターネット123が接続されている。また、オーディオアンプ200には、2チャネルあるいはマルチチャネルのスピーカシステム250と、1チャネルまたは複数チャネルの振動システム260が接続されている。なお、「Blu-ray」は登録商標である。
テレビ受信機100およびオーディオアンプ200はHDMIケーブル300を介して接続されている。なお、「HDMI」は登録商標である。テレビ受信機100には、HDMI受信部(HDMI RX)102と、通信部を構成する高速バスインタフェース103とが接続されたHDMI端子101が設けられている。オーディオアンプ200には、HDMI送信部(HDMI TX)202と、通信部を構成する高速バスインタフェース203とが接続されたHDMI端子201が設けられている。HDMIケーブル300の一端はテレビ受信機100のHDMI端子101に接続され、その他端はオーディオアンプ200のHDMI端子201に接続されている。
テレビ受信機100は、HDMI受信部102と、高速バスインタフェース103と、SPDIF送信回路104を有している。また、テレビ受信機100は、システムコントローラ105と、デジタル放送受信回路107と、コンテンツ再生回路108と、表示部109と、イーサネットインタフェース110を有している。なお、「イーサネット」および「Ethernet」は登録商標である。また、図示の例では、説明の簡単化のために、画像系の各部については適宜省略されている。
システムコントローラ105は、テレビ受信機100の各部の動作を制御する。デジタル放送受信回路107は、受信アンテナ121から入力されたテレビ放送信号を処理して、放送コンテンツに係る第1のモードの信号(ビデオ信号、マルチチャネルオーディオ信号(リニアPCM信号)および所定チャネル数の触覚振動信号)、あるいは第2のモードの信号(所定チャネル数の触覚振動信号)を出力する。
ここで、マルチチャネルオーディオ信号は、複数チャネル数のオーディオ信号により構成されている。また、第1のモードの信号に係る所定チャネル数の触覚振動信号は、ビデオやオーディオに同期した振動を得るためのものである。また、第2のモードの信号に係る所定チャネル数の触覚振動信号は、ビデオやオーディオとは直接関係しない、例えばマッサージ用、癒し用等の振動を得るためものである。
イーサネットインタフェース110は、インターネット123を介して外部サーバと通信を行って、ネットコンテンツに係る第1のモードの信号(ビデオ信号、マルチチャネルオーディオ信号(リニアPCM信号)および所定チャネル数の触覚振動信号)、あるいは第2のモードの信号(所定チャネル数の触覚振動信号)を出力する。
また、BDプレーヤ122は、再生動作により、再生コンテンツに係る第1のモードの信号(ビデオ信号、マルチチャネルオーディオ信号(リニアPCM信号)および所定チャネル数の触覚振動信号)、あるいは第2のモードの信号(所定チャネル数の触覚振動信号)を出力する。
コンテンツ再生回路108は、デジタル放送受信回路107、イーサネットインタフェース110あるいはBDプレーヤ122で得られた第1のモードの信号または第2のモードの信号を選択的に取り出す。
そして、コンテンツ再生回路108は、第1のモードの信号を取り出す場合、ビデオ信号を表示部109に送る。表示部109は、このビデオ信号による画像を表示する。
また、コンテンツ再生回路108は、第1のモードの信号を取り出す場合、マルチチャネルオーディオ信号および所定チャネル数の触覚振動信を、SPDIF送信回路104に送る。SPDIF送信回路104は、このマルチチャネルオーディオ信号(リニアPCM信号)および所定チャネル数の触覚振動信号を、オーディオアンプ200に、同時に送信する。
また、コンテンツ再生回路108は、第2のモードの信号を取り出す場合、所定チャネル数の触覚振動信を、SPDIF送信回路104に送る。SPDIF送信回路104は、この所定チャネル数の触覚振動信号を、オーディオアンプ200に、送信する。
SPDIF送信回路104は、IEC 60958規格のデジタルオーディオ伝送信号(以下、適宜、「SPDIF信号」という)を送信するための回路である。このSPDIF送信回路104はIEC 60958規格に準拠した送信回路である。なお、SPDIF信号の詳細は後述する。
SPDIF送信回路104は、上述したように、第1のモードの信号を取り扱う場合にはマルチチャネルオーディオ信号(リニアPCM信号)および所定チャネル数の触覚振動信号を、第2のモードの信号を取り扱う場合には所定チャネル数の触覚振動信号のみを、オーディオアンプ200に送信する。
この場合、SPDIF信号として、複数フレーム、ここでは192フレームからなるブロック毎の伝送信号が順次送信される。そして、この伝送信号に、第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号、あるいは第2のモードの信号に係る所定チャネル数の触覚振動信号が含まれる。
伝送信号には、第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号、あるいは第2のモードの信号に係る所定チャネル数の触覚振動信号の構成情報が付加される。例えば、この構成情報は、ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて付加される。
HDMI受信部102は、HDMIに準拠した通信により、HDMIケーブル300を介してHDMI端子101に供給されるビデオやオーディオのデータを受信する。高速バスインタフェース103は、HDMIケーブル300を構成するリザーブラインおよびHPD(Hot Plug Detect)ラインを用いて構成される双方向通信路のインタフェースである。なお、HDMI受信部102と高速バスインタフェース103の詳細は後述する。
オーディオアンプ200は、HDMI送信部202と、高速バスインタフェース203と、SPDIF受信回路204を有している。また、オーディオアンプ200は、システムコントローラ205と、オーディオアンプ208と、振動アンプ209と、イーサネットインタフェース210を有している。
システムコントローラ205は、オーディオアンプ200の各部の動作を制御する。HDMI送信部202は、HDMIに準拠した通信により、ビデオやオーディオのデータを、HDMI端子201からHDMIケーブル300に送出する。高速バスインタフェース203は、HDMIケーブル300を構成するリザーブラインおよびHPD(Hot Plug Detect)ラインを用いて構成される双方向通信路のインタフェースである。なお、HDMI送信部202と高速バスインタフェース203の詳細は後述する。
SPDIF受信回路204は、SDPIF信号(IEC 60958規格のデジタルオーディオ信号)としての伝送信号を受信し、それに含まれる第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号、あるいは第2のモードの信号に係る所定チャネル数の触覚振動信号を取得する。この場合、伝送信号に含まれる構成情報に基づいて、第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号、あるいは第2のモードの信号に係る所定チャネル数の触覚振動信号の取り出しが行われる。
オーディオアンプ208は、SPDIF受信回路204で取り出された第1のモードの信号に係るマルチチャネルオーディオ信号をチャネル毎に増幅し、それぞれのチャネルに対応したスピーカを持つスピーカシステム250に送る。これにより、スピーカシステム250で、マルチチャネルオーディオ信号による音声再生が行われる。
また、振動アンプ209は、SPDIF受信回路204で取り出された第1のモードの信号に係る所定チャネル数の触覚振動信号、あるいは第2のモードの信号に係る所定チャネル数の触覚振動信号をチャネルごとに増幅し、それぞれのチャネルに対応した振動デバイスを持つ振動システム260に送る。これにより、振動システム260で、所定チャネル数の触覚振動信号による振動再生が行われる。
この場合、上述したように、第1のモードの信号を取り扱う場合、所定チャネル数の触覚振動信号がマルチチャネルオーディオ信号と同時に送られてくるものであることから、この振動再生は音声再生と正しく同期したものとなり、またテレビ受信機100の表示部109における映像表示とも同期したものとなる。また、第2のモードの信号を取り扱う場合、所定チャネル数の触覚振動信号のみが送られてくるものであることから、音声再生は行われず、例えばマッサージ用、癒し用等の振動再生のみが行われる。
図2は、ビデオ信号、オーディオ信号および触覚振動信号のダイナミックレンジ、サンプリング周波数、連続/不連続、次元の一例を比較して示している。ビデオ信号に関しては、ダイナミックレンは48-96dB、サンプリング周波数は60Hz、不連続信号、および2次元または3次元の信号である。また、オーディオ信号に関しては、ダイナミックレンジは96dB-144dB、サンプリング周波数は48kHz、連続信号、および1次元の信号である。
そして、触覚振動信号に関しては、ダイナミックレンジは40-60dBであり、サンプリング周波数は2kHz、連続信号、および1次元の信号である。このように触覚振動信号はオーディオ信号と同様にサンプリング周波数が高く連続信号である。そのため、上述したように、触覚振動信号を、オーディオ信号の伝送路を使用して伝送することで、簡単かつ容易に伝送できる。
なお、触覚振動信号は、上述したように、ダイナミックレンジは40-60dB、周波数帯域はDC-1kHzといわれているが、ビデオ信号よりはオーディオ信号に近い。リニアPCMを伝送できるデジタルオーディオインタフェースであれば触覚振動信号も伝送できる。この場合、DC領域に関してはプラスで“押す”、マイナスで“引く”あるいは“引っ張る”というような表現が可能である。
「HDMI送信部/受信部の構成例」
図3は、図1のAVシステム10における、テレビ受信機100のHDMI受信部102とオーディオアンプ200のHDMI送信部202の構成例を示している。
HDMI送信部202は、ある垂直同期信号から次の垂直同期信号までの区間(以下、適宜、「ビデオフィールド」という)から、水平ブランキング期間および垂直ブランキング期間を除いた区間である有効画像区間(以下、適宜、「アクティブビデオ区間」という)において、ベースバンド(非圧縮)の一画面分の画像データの差動信号を、複数のチャネルで、HDMI受信部102に一方向に送信する。また、HDMI送信部202は、水平ブランキング期間および垂直ブランキング期間において、画像データに付随する音声データおよび制御パケット(Control Packet)、さらにその他の補助データ等に対応する差動信号を、複数のチャネルで、HDMI受信部102に一方向に送信する。
HDMI送信部202は、ソース信号処理部71およびHDMIトランスミッタ72を有する。ソース信号処理部71には、ベースバンドの非圧縮の画像(Video)および音声(Audio)のデータが供給される。ソース信号処理部71は、供給される画像および音声のデータに必要な処理を施し、HDMIトランスミッタ72に供給する。また、ソース信号処理部71は、HDMIトランスミッタ72との間で、必要に応じて、制御用の情報やステータスを知らせる情報(Control/Status)等をやりとりする。
HDMIトランスミッタ72は、ソース信号処理部71から供給される画像データを、対応する差動信号に変換し、複数のチャネルである3つのTMDSチャネル#0,#1,#2で、HDMIケーブル300を介して接続されているHDMI受信部102に、一方向に送信する。
さらに、トランスミッタ72、ソース信号処理部71から供給される、非圧縮の画像データに付随する音声データや制御パケットその他の補助データ(auxiliary data)と、垂直同期信号(VSYNC)、水平同期信号(HSYNC)等の制御データ(control data)とを、対応する差動信号に変換し、3つのTMDSチャネル#0,#1,#2で、HDMIケーブル300を介して接続されているHDMI受信部102に、一方向に送信する。
また、トランスミッタ72は、3つのTMDSチャネル#0,#1,#2で送信する画像データに同期したピクセルクロックを、TMDSクロックチャネルで、HDMIケーブル300を介して接続されているHDMI受信部102に送信する。
HDMI受信部102は、アクティブビデオ区間において、複数チャネルで、HDMI送信部202から一方向に送信されてくる、画像データに対応する差動信号を受信すると共に、水平ブランキング期間および垂直ブランキング期間において、複数のチャネルで、HDMI送信部202から送信されてくる、補助データや制御データに対応する差動信号を受信する。
HDMI受信部102は、HDMIレシーバ81およびシンク信号処理部82を有する。HDMIレシーバ81は、TMDSチャネル#0,#1,#2で、HDMIケーブル300を介して接続されているHDMI送信部202から一方向に送信されてくる、画像データに対応する差動信号と、補助データや制御データに対応する差動信号を、同じくHDMI送信部202からTMDSクロックチャネルで送信されてくるピクセルクロックに同期して受信する。さらに、HDMIレシーバ81は、差動信号を、対応する画像データ、補助データ、制御データに変換し、必要に応じて、シンク信号処理部82に供給する。
シンク信号処理部82は、HDMIレシーバ81から供給されるデータに必要な処理を施して出力する。その他、シンク信号処理部82は、HDMIレシーバ81との間で、必要に応じて、制御用の情報やステータスを知らせる情報(Control/Status)等をやりとりする。
HDMIの伝送チャネルには、HDMI送信部202からHDMI受信部102に対して、画像データ、補助データ、および制御データを、ピクセルクロックに同期して、一方向にシリアル伝送するための3つのTMDSチャネル#0,#1,#2と、ピクセルクロックを伝送する伝送チャネルとしてのTMDSクロックチャネルとの他に、DDC(Display Data Channel)83、さらには、CECライン84と呼ばれる伝送チャネルがある。
DDC83は、HDMIケーブル300に含まれる図示しない2本のライン(信号線)からなり、ソース機器が、HDMIケーブル300を介して接続されたシンク機器から、E-EDID(Enhanced-Extended Display Identification)を読み出すために使用される。すなわち、シンク機器は、EDIDROM85を有している。ソース機器は、HDMIケーブル300を介して接続されているシンク機器から、EDIDROM85が記憶しているE-EDIDを、DDC83を介して読み出し、当該E-EDIDに基づき、シンク機器の設定、性能を認識する。
CECライン84は、HDMIケーブル300に含まれる図示しない1本のラインからなり、ソース機器とシンク機器との間で、制御用のデータの双方向通信を行うために用いられる。
また、HDMIケーブル300には、HPD(Hot Plug Detect)と呼ばれるピンに接続されるライン86が含まれている。ソース機器は、当該ライン86を利用して、シンク機器の接続を検出することができる。また、HDMIケーブル300には、ソース機器からシンク機器に電源を供給するために用いられるライン87が含まれている。さらに、HDMIケーブル300には、リザーブライン88が含まれている。
図4は、TMDSチャネルにおいて、横×縦が1920ピクセル×1080ラインの画像データが伝送される場合の、各種の伝送データの区間を示している。HDMIの3つのTMDSチャネルで伝送データが伝送されるビデオフィールド(Video Field)には、伝送データの種類に応じて、ビデオデータ区間24(Video Data Period)、データアイランド区間25(Data Island Period)、およびコントロール区間26(Control Period)の3種類の区間が存在する。
ここで、ビデオフィールド区間は、ある垂直同期信号の立ち上がりエッジ(Active Edge)から次の垂直同期信号の立ち上がりエッジまでの区間であり、水平帰線期間22(Horizontal Blanking)、垂直帰線期間23(Vertical Blanking)、並びに、ビデオフィールド区間から、水平帰線期間および垂直帰線期間を除いた区間である有効画素区間21(Active Video)に分けられる。
ビデオデータ区間24は、有効画素区間21に割り当てられる。このビデオデータ区間24では、非圧縮の1画面分の画像データを構成する1920ピクセル(画素)×1080ライン分の有効画素(Active Pixel)のデータが伝送される。データアイランド区間25およびコントロール区間26は、水平帰線期間22および垂直帰線期間23に割り当てられる。このデータアイランド区間25およびコントロール区間26では、補助データ(Auxiliary Data)が伝送される。
すなわち、データアイランド区間25は、水平帰線期間22と垂直帰線期間23の一部分に割り当てられている。このデータアイランド区間25では、補助データのうち、制御に関係しないデータである、例えば、音声データのパケット等が伝送される。コントロール区間26は、水平帰線期間22と垂直帰線期間23の他の部分に割り当てられている。このコントロール区間26では、補助データのうちの、制御に関係するデータである、例えば、垂直同期信号および水平同期信号、制御パケット等が伝送される。
図5は、HDMIコネクタのピン配列を示している。このピン配列は、タイプA(type-A)の例である。TMDSチャネル#iの差動信号であるTMDS Data#i+とTMDS Data#i-が伝送される差動線である2本のラインは、TMDS Data#i+が割り当てられているピン(ピン番号が1,4,7のピン)と、TMDS Data#i-が割り当てられているピン(ピン番号が3,6,9のピン)に接続される。
また、制御用のデータであるCEC信号が伝送されるCECライン84は、ピン番号が13であるピンに接続され、ピン番号が14のピンは空き(Reserved)ピンとなっている。また、E-EDID等のSDA(Serial Data)信号が伝送されるラインは、ピン番号が16であるピンに接続され、SDA信号の送受信時の同期に用いられるクロック信号であるSCL(Serial Clock)信号が伝送されるラインは、ピン番号が15であるピンに接続される。上述のDDC83は、SDA信号が伝送されるラインおよびSCL信号が伝送されるラインにより構成される。
また、上述したようにソース機器がシンク機器の接続を検出するためのHPDライン86は、ピン番号が19であるピンに接続される。また、上述したように電源を供給するための電源ライン87は、ピン番号が18であるピンに接続される。
「高速バスインタフェースの構成例」
図6は、図1のAVシステム10におけるテレビ受信機100の高速バスインタフェース103の構成例を示している。イーサネットインタフェース110は、HDMIケーブル300を構成する複数のラインのうち、リザーブラインおよびHPDラインの一対のラインにより構成された伝送路を用いてLAN(Local Area Network)通信、つまりイーサネット信号の送受信を行う。SPDIF送信回路104は、上述の一対のラインにより構成された伝送路を用いて、SPDIF信号を送信する。
テレビ受信機100は、LAN信号送信回路441、終端抵抗442、AC結合容量443,444、LAN信号受信回路445、減算回路446、加算回路449,450および増幅器451を有している。これらは、これらは高速バスインタフェース103を構成している。また、テレビ受信機100は、プラグ接続伝達回路128を構成する、チョークコイル461、抵抗462および抵抗463を有している。
HDMI端子101の14ピン端子521と19ピン端子522との間には、AC結合容量443、終端抵抗442およびAC結合容量444の直列回路が接続される。また、電源線(+5.0V)と接地線との間には、抵抗462および抵抗463の直列回路が接続される。そして、この抵抗462と抵抗463の互いの接続点は、チョークコイル461を介して、19ピン端子522とAC結合容量444との接続点Q4に接続される。
AC結合容量443と終端抵抗442の互いの接続点P3は、加算回路449の出力側に接続されると共に、LAN信号受信回路445の正入力側に接続される。また、AC結合容量444と終端抵抗442の互いの接続点P4は、加算回路450の出力側に接続されると共に、LAN信号受信回路445の負入力側に接続される。
加算回路449の一方の入力側はLAN信号送信回路441の正出力側に接続され、この加算回路449の他方の入力側にはSPDIF送信回路104から出力されるSPDIF信号が増幅器451を介して供給される。また、加算回路450の一方の入力側はLAN信号送信回路441の負出力側に接続され、この加算回路450の他方の入力側にはSPDIF送信回路104から出力されるSPDIF信号が増幅器451を介して供給される。
LAN信号送信回路441の入力側には、イーサネットインタフェース110から送信信号(送信データ)SG417が供給される。また、減算回路446の正側端子には、LAN信号受信回路445の出力信号SG418が供給され、この減算回路446の負側端子には、送信信号SG417が供給される。この減算回路446では、LAN信号受信回路445の出力信号SG418から送信信号SG417が減算され、受信信号(受信データ)SG419が得られる。この受信信号SG419は、リザーブラインおよびHPDラインを介してLAN信号(イーサネット信号)が差動信号として送信されてくる場合には、当該LAN信号となる。この受信信号SG419は、イーサネットインタフェース110に供給される。
図7は、図1のAVシステム10におけるオーディオアンプ200の高速バスインタフェース203の構成例を示している。イーサネットインタフェース210は、HDMIケーブル610を構成する複数のラインのうち、リザーブラインおよびHPDラインの一対のラインにより構成された伝送路を用いてLAN(Local Area Network)通信、つまりイーサネット信号の送受信を行う。SPDIF受信回路204は、上述の一対のラインにより構成された伝送路を用いて、SPDIF信号を受信する。
オーディオアンプ200は、LAN信号送信回路411、終端抵抗412、AC結合容量413,414、LAN信号受信回路415、減算回路416、加算回路419および増幅器420を有している。これらは、高速バスインタフェース203を構成している。また、オーディオアンプ200は、プラグ接続検出回路221を構成する、プルダウン抵抗431、抵抗432、容量433および比較器434を有している。ここで、抵抗432および容量433は、ローパスフィルタを構成している。
HDMI端子201の14ピン端子511と19ピン端子512との間には、AC結合容量413、終端抵抗412およびAC結合容量414の直列回路が接続される。AC結合容量413と終端抵抗412の互いの接続点P1は、LAN信号送信回路411の正出力側に接続されると共に、LAN信号受信回路415の正入力側に接続される。
AC結合容量414と終端抵抗412の互いの接続点P2は、LAN信号送信回路411の負出力側に接続されると共に、LAN信号受信回路415の負入力側に接続される。LAN信号送信回路411の入力側には、イーサネットインタフェース210から送信信号(送信データ)SG411が供給される。
減算回路416の正側端子には、LAN信号受信回路415の出力信号SG412が供給され、この減算回路416の負側端子には、送信信号(送信データ)SG411が供給される。この減算回路416では、LAN信号受信回路415の出力信号SG412から送信信号SG411が減算され、受信信号SG413が得られる。この受信信号SG413は、リザーブラインおよびHPDラインを介して、LAN信号(イーサネット信号)が差動信号として送信されてくる場合には、当該LAN信号となる。この受信信号SG413は、イーサネットインタフェース210に供給される。
AC結合容量414と19ピン端子512との接続点Q2は、プルダウン抵抗431を介して接地線に接続されると共に、抵抗432および容量433の直列回路を介して接地線に接続される。そして、抵抗432および容量433の互いの接続点に得られるローパスフィルタの出力信号は比較器434の一方の入力端子に供給される。この比較器434では、ローパスフィルタの出力信号が他方の入力端子に供給される基準電圧Vref2(+1.4V)と比較される。この比較器434の出力信号SG415は、オーディオアンプ200の図示しない制御部(CPU)に供給される。
また、AC結合容量413と終端抵抗412の互いの接続点P1は、加算回路419の一方の入力端子に接続される。また、AC結合容量414と終端抵抗412の互いの接続点P2は、加算回路419の他方の入力端子に接続される。この加算回路419の出力信号は、増幅器420を介してSPDIF受信回路204に供給される。この加算回路419の出力信号は、リザーブラインおよびHPDラインを介して、SPDIF信号が同相信号として送信されてくる場合には、当該SPDIF信号となる。
「SPDIF信号の詳細」
最初に、IEC 60958規格の概要について説明する。図8は、IEC 60958規格におけるフレーム構成を示している。各フレームは2つのサブフレームから構成される。2チャネルステレオ音声の場合、1つ目のサブフレームに左チャネル信号が含まれ、2つ目のサブフレームに右チャネル信号が含まれる。
サブフレームの先頭には後述するようにプリアンブルが設けられ、左チャネル信号にはプリアンブルとして「M」が、右チャネル信号にはプリアンブルとして「W」が付与される。ただし、192フレーム毎に先頭のプリアンブルにはブロックの開始を表す「B」が付与される。すなわち、1ブロックは192フレームにより構成される。ブロックは、後述するチャネルステータスを構成する単位である。
図9は、IEC 60958規格におけるサブフレーム構成を示している。サブフレームは、第0乃至第31の計32のタイムスロットから構成される。第0乃至第3タイムスロットは、プリアンブル(Sync preamble)を示す。このプリアンブルは、上述のように左右チャネルの区別やブロックの開始位置を表すために、「M」、「W」または「B」の何れかを示す。
第4乃至第27タイムスロットはメインデータフィールドであり、24ビットコードレンジが採用される場合には全体がオーディオデータを表す。また、20ビットコードレンジが採用される場合には第8乃至第27タイムスロットがオーディオデータ(Audio sample word)を表す。後者の場合、第4乃至第7タイムスロットは追加情報(Auxiliary sample bits)として利用することができる。図示の例は、後者の場合を示している。
第28タイムスロットは、メインデータフィールドの有効フラグ(Validity flag)である。第29タイムスロットは、ユーザデータ(User data)の1ビット分を表す。各フレームにまたがってこの第29タイムスロットを累積することによって一連のユーザデータを構成することができる。このユーザデータのメッセージは8ビットの情報ユニット(IU:Information Unit)を単位として構成され、1つのメッセージには3乃至129個の情報ユニットが含まれる。
情報ユニット間には0乃至8ビットの「0」が存在し得る。情報ユニットの先頭は開始ビット「1」により識別される。メッセージ内の最初の7個の情報ユニットは予約されており、8個目以降の情報ユニットにユーザは任意の情報を設定することができる。メッセージ間は8ビット以上の「0」により分割される。
第30タイムスロットは、チャネルステータス(Channel status)の1ビット分を表す。各フレームにまたがってブロック毎に第30タイムスロットを累積することによって一連のチャネルステータスを構成することができる。なお、ブロックの先頭位置は、上述のように、「B」のプリアンブル(第0乃至第3タイムスロット)により示される。
第31タイムスロットは、パリティビット(Parity bit)である。第4乃至第31タイムスロットに含まれる「0」および「1」の数が偶数になるように、このパリティビットが付与される。
図10は、IEC 60958規格における信号変調方式を示している。サブフレームのうちプリアンブルを除く第4乃至第31タイムスロットがバイフェーズマーク変調される。このバイフェーズマーク変調の際には、元の信号(ソースコーディング)の2倍速のクロックが用いられる。元の信号のクロックサイクルを前半と後半に分けると、前半のクロックサイクルのエッジで、バイフェーズマーク変調の出力は必ず反転する。また、後半クロックサイクルのエッジにおいて、元の信号が「1」を示しているときには反転し、元の信号が「0」を示しているときには反転しない。これにより、バイフェーズマーク変調された信号から元の信号におけるクロック成分を抽出できることになる。
図11は、IEC 60958規格におけるプリアンブルのチャネルコーディングを示している。上述のように、サブフレームのうち第4乃至第31タイムスロットはバイフェーズマーク変調される。一方、第0乃至第3タイムスロットのプリアンブルは通常のバイフェーズマーク変調ではなく、2倍速のクロックに同期したビットパターンとして扱われる。すなわち、第0乃至第3タイムスロットの各タイムスロットに2ビットずつ割り当てることにより、同図のような8ビットパターンを得る。
直前の状態が「0」であれば、プリアンブル「B」には「11101000」が、「M」には「11100010」が、「W」には「1100100」がそれぞれ割り当てられる。一方、直前の状態が「1」であれば、プリアンブル「B」には「00010111」が、「M」には「00011101」が、「W」には「00011011」がそれぞれ割り当てられる。
「第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号の同時伝送」
第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号の同時伝送について説明する。この場合、IEC 60958規格を基礎とするマルチチャネル伝送フォーマットを利用して伝送する。
まず、マルチチャネル伝送フォーマットについて説明する。図12は、マルチチャネル伝送フォーマットにおけるフレーム構成の一例を示している。IEC 60958規格では、192フレームで1つのブロックが構成されるが、この192フレームは所定数のサブフレームからなるマルチチャネルグループ(Multichannel group)の繰り返しからなる。それぞれのサブフレーム部分はマルチチャネルオーダを構成している。マルチチャネルグループに含めるサブフレームの数を幾つにするかは、ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて示すことができる。
また、マルチチャネルグループ内に、それぞれマルチチャネルオーディオ信号を伝送するための1つまたは複数のマルチチャネルサブグループが形成される。マルチチャネルサブグループは、1つまたは複数のマルチチャネルオーダからなる。このマルチチャネルサブグループを構成するそれぞれのマルチチャネルオーダにマルチチャネルオーディオ信号の各チャネルの信号が順次配置される。マルチチャネルグループ内に如何なるマルチチャネルサブグループが形成されるかは、ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて示すことができ、また、所定数のフレームのユーザデータビットを用いても示すことができる。
図示の例においては、1つのマルチチャネルグループが8サブフレーム、つまりマルチチャネルオーダ1~8で構成されている。また、マルチチャネルグループ内に、マルチチャネルサブグループ1~4の4つのマルチチャネルサブグループが形成されている。
マルチチャネルサブグループ1は、マルチチャネルオーダ1~3からなり、それぞれのマルチチャネルオーダに3チャネルのマルチチャネルオーディオ信号の各チャネルの信号(チャネル番号65,66,67の信号)が順に配置されている。ここで、チャネル番号65はフロントレフト(FL)を示し、チャネル番号66はフロントライト(FR)を示し、チャネル番号67はフロントセンター(FC)を示す。
また、マルチチャネルサブグループ2は、マルチチャネルオーダ4~5からなり、それぞれのマルチチャネルオーダに2チャネルのマルチチャネルオーディオ信号の各チャネルの信号(チャネル番号77,78の信号)が順に配置されている。ここで、チャネル番号77はハイフロントレフト(HFL)を示し、チャネル番号78はフロントライト(HFR)を示す。
また、マルチチャネルサブグループ3は、マルチチャネルオーダ6からなり、そのマルチチャネルオーダに1チャネルのマルチチャネルオーディオ信号(チャネル番号80の信号)が配置されている。ここで、チャネル番号80はオーバーヘッドセンター(OhC)を示す。
また、マルチチャネルサブグループ4は、マルチチャネルオーダ7~8からなり、そのマルチチャネルオーダに2チャネルのマルチチャネルオーディオ信号(チャネル番号65,66の信号)が順に配置されている。
マルチチャネルグループ内に形成されるマルチチャネルサブグループの指定の仕方について説明する。マルチチャネルサブグループの指定方法として、例えば、以下の第1~第3の方法がある。
第1の方法は、ブロック毎に構成されるチャネルステータスのビット63~60に格納されるマルチチャネルコンフィグレーションの情報により、マルチチャネルサブグループを直接指定する方法である。ここで、マルチチャネルコンフィグレーションは、予め所定のオーディオチャネルが組み合わせられたオーディオチャネルセットを示すものである。この第1の方法では、予め所定のオーディオチャネルが組み合わせられたオーディオチャネルセットしか指定することができない。
第2の方法は、ブロック毎に構成されるチャネルステータスのビット165~191に格納されるマルチチャネルマップを利用し、該当するチャネルにあたるビットに1を立てることでチャネルサブグループを指定する方法である。この第2の方法では、任意のオーディオチャネルを組み合わせたオーディオチャネルセットを指定できるが、送信順はマルチチャネルマップに出てくる順番となり、任意の送信順とすることはできない。
図13は、IEC 60958規格におけるチャネルステータスのフォーマットを概略的に示している。チャネルステータスは、サブフレームにおける第30タイムスロットをブロック毎に累積したものである(図9参照)。この図では、チャネルステータスの内容が縦方向に1バイトずつ配置され、横方向には各バイトにおけるビット構成が示されている。なお、ここでは、民生用(Consumer use)のフォーマットを想定して説明する。
第0ビット(bit 0)aは“0”とされ、このチャンネルステータスが民生用であることを示す。また、第1ビット(bit 1)bは“0”とされ、リニアPCMのサンプルであることを示す。また、第6および7ビット(bit 6-7)は、チャネルステータスのモードを示す。
また、第44ビット乃至第47ビット(bit 44-47)は、「Multichannel Count」の4ビットフィールドを構成しており、マルチチャネルグループに含めるサブフレームの数が示される。例えば、“0000”は2ch LPCM、つまりマルチチャネルグループに含めるサブフレームの数が2であることを示し、“1011”は64ch LPCM、つまりマルチチャネルグループに含めるサブフレームの数が64であることを示し、“1100”は32ch LPCM、つまりマルチチャネルグループに含めるサブフレームの数が32であることを示し、“1101”は16ch LPCM、つまりマルチチャネルグループに含めるサブフレームの数が16であることを示し、“1110”は8ch LPCM、つまりマルチチャネルグループに含めるサブフレームの数が8であることを示し、さらに“1111”は4ch LPCM、つまりマルチチャネルグループに含めるサブフレームの数が4であることを示す。
また、第53ビット乃至第60ビットは、「Multichannel configuration value」の8ビットフィールドを構成しており、第1の方法によるマルチチャネルサブグループの指定に用いられるマルチチャネルコンフィグレーションの値を示す。
図14は、マルチチャネルコンフィグレーションの値と、それで示されるオーディオチャネルセットとの対応関係を示している。それぞれのオーディオチャンネルセットは、ISO/IEC 23001-8 2016で決められたものであり、マルチチャンネルコンフィグレーションの値で識別される。なお、図14には示されていないが、ITU-R BS.2094-1で規定されているオーディオチャンネルセットやIEC独自のオーディオチャンネルセットを指定することも可能である。
マルチチャネルコンフィグレーションの値が“10000000”であれば、チャネルコンフィグレーション1(ChannelConfiguration 1)であるオーディオチャンネルセット(マルチチャネルサブグループ)が存在し、このオーディオチャンネルセットは「67:FC」のオーディオチャネルのみで構成されることを示す。また、マルチチャネルコンフィグレーションの値が“01000000”であれば、チャネルコンフィグレーション2(ChannelConfiguration 2)であるオーディオチャンネルセット(マルチチャネルサブグループ)が存在し、このオーディオチャンネルセットは「65:FL」、「66:FR」のオーディオチャネルで構成され、この順番で送信されることを示す。
また、マルチチャネルコンフィグレーションの値が“11000000”であれば、チャネルコンフィグレーション3(ChannelConfiguration 3)であるオーディオチャンネルセット(マルチチャネルサブグループ)が存在し、このオーディオチャンネルセットは「65:FL」、「66:FR」、「67:FC」のオーディオチャネルで構成され、この順番で送信されることを示す。また、マルチチャネルコンフィグレーションの値が“00100000”であれば、チャネルコンフィグレーション4(ChannelConfiguration 4)であるオーディオチャンネルセット(マルチチャネルサブグループ)が存在し、このオーディオチャンネルセットは「65:FL」、「66:FR」、「67:FC」、「184:MS」のオーディオチャネルで構成され、この順番で送信されることを示す。
また、マルチチャネルコンフィグレーションの値が“10100000”であれば、チャネルコンフィグレーション5(ChannelConfiguration 5)であるオーディオチャンネルセット(マルチチャネルサブグループ)が存在し、このオーディオチャンネルセットは「65:FL」、「66:FR」、「67:FC」、「69:LS」、「70:RS」のオーディオチャネルで構成され、この順番で送信されることを示す。
また、マルチチャネルコンフィグレーションの値が“01100000”であれば、チャネルコンフィグレーション6(ChannelConfiguration 6)であるオーディオチャンネルセット(マルチチャネルサブグループ)が存在し、このオーディオチャンネルセットは「65:FL」、「66:FR」、「67:FC」、「68:LFE」、「69:LS」、「70:RS」のオーディオチャネルで構成され、この順番で送信されることを示す。
また、マルチチャネルコンフィグレーションの値が“11100000”であれば、チャネルコンフィグレーション7(ChannelConfiguration 7)であるオーディオチャンネルセット(マルチチャネルサブグループ)が存在し、このオーディオチャンネルセットは「65:FL」、「66:FR」、「67:FC」、「68:LFE」、「69:LS」、「70:RS」、「109:FLmid」、「110:FRmid」のオーディオチャネルで構成され、この順番で送信されることを示す。
ここで、65,66,67,68,69,70,109,110などの番号は、第2の方法で使用されるマルチチャネルマップで決められるオーディオチャネル特有の番号であり、それぞれ特定のスピーカに対応している。例えば、フロントレフトスピーカは65番、フロントライトスピーカは66番である。この番号は、第3の方法でも使用される。これらのスピーカ位置、番号はITU-R BS.2094-1, ISO/IEC 23001-8を元にIEC 62574で決められているが、それに限定されるものではなく、その他に独自にアサインするチャンネルがあってもよい。なお、マルチチャンネルコンフィグレーション値が“00000000”の場合は、第1の方法で指定されたオーディオチャンネルセット(マルチチャネルサブグループ)は存在しないことを示す。
図13に戻って、第64ビット(bit 64)は、第65ビットから第191ビットのマルチチャネルマップが利用されて、オーディオチャンネルセット(マルチチャネルサブグループ)の指定がされているか否かを示す。例えば、“0”は指定されていないことを示し、“1”は指定されていることを示す。第65ビットから第191ビットのマルチチャネルマップにおいては、ビット番号がそのままチャネル特有の番号に対応するようにされている。
例えば、第65ビットは「65:FL」のオーディオチャネルに対応し、第2の方法で指定されるオーディオチャンネルセットに、この「65:FL」のオーディオチャネルを含める場合には、この第65ビットに1が立てられる。詳細説明は省略するが、第2の方法で指定されるオーディオチャンネルセットにその他のオーディオチャネルを含める場合も、同様にして行われる。
第3の方法は、連続する所定数のフレームのユーザデータビットを用いて、マルチチャネルサブグループを指定する方法である。この第3の方法では、任意のオーディオチャネルを組み合わせたオーディオチャネルセットを指定でき、各オーディオチャネルの送信順も任意に設定できる。
第3の方法は、ユーザデータビットを利用してマルチチャンネルコンフィグレーション情報をパケット化してエンベデッドするという方法である。この場合、まず、高さ毎のスピーカの数を特定するパケットを送る。図15は、そのパケットの一例を示している。ここで、高さの種類は、「Overhead」、「High」、「Middle」、「Bottom」、「LFE」である。それぞれのレイヤにスピーカがトータルいくつ配置されているか規定する。この仕組みをパケット内で繰り返すことにより複数個のマルチチャンネルサブグループを構成できる。次に、マルチチャンネルグループ内の送信順に対して何番のオーディオチャンネルを送信するかを指定するパケットを送る。図16は、そのパケットの一例を示している。
この第3の方法は、オーディオチャンネルセット(マルチチャネルサブグループ)を指定する方法として最も自由度が高く、特定のオーディオチャネルを特定の順で送信することが可能で、また、複数回送信することも可能である。
図17は、上述の図12に示すマルチチャネル伝送フォーマットにおけるフレーム構成の一例における、マルチチャネルグループ1~4の指定方法の具体例を示している。マルチチャネルサブグループ1は、第1の方法で指定される。この場合、チャネルステータスの第53ビット乃至第60ビットの「Multichannel configuration value」の値が“11000000”とされ、「65:FL」、「66:FR」、「67:FC」で構成されるオーディオチャンネルセット(マルチチャネルサブグループ)の存在が示される(図14参照)。
また、マルチチャネルサブグループ2は、第2の方法で指定される。この場合、チャネルステータスの第64ビットが“1”とされてマルチチャネルマップ利用の第2の方法で指定されるオーディオチャンネルセット(マルチチャネルサブグループ)の存在が示され、さらに第77ビットおよび第78ビットに1が立てられて、このオーディオチャンネルセット(マルチチャネルサブグループ)は、「77:HFL」、「78:HFR」のオーディオチャンネルがこの順に含まれた構成であることが示される。
また、マルチチャネルサブグループ3,4は、第3の方法で指定される。この場合、マルチチャネルサブグループ3に関しては、高さ毎のスピーカの数を特定するパケット(図15参照)にオーバーヘッドスピーカの数が1個で構成されることが示され、何番のオーディオチャンネルを送信するかを指定するパケット(図16参照)で「80:OhC」のオーディオチャネルが示される。
また、マルチチャネルサブグループ4に関しては、高さ毎のスピーカの数を特定するパケット(図15参照)にボトムスピーカの数が2個で構成されることが示され、何番のオーディオチャンネルを送信するかを指定するパケット(図16参照)で「65:FL」、「66:FR」のオーディオチャネルが示される。
この実施の形態においては、上述の第1から第3の方法で指定されるマルチチャネルサブグループを利用して、マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送する。なお、ISO/IEC 23001-8 2016に現時点では触覚振動信号を含むセットは定義されていない。しかし、将来定義されれば、第1の方法でマルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送するためのマルチチャネルサブグループを指定することも可能である。
また、第2の方法でマルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送するマルチチャネルサブグループを指定するために、チャネルステータスのマルチチャネルマップを構成する第65ビット乃至第191ビットのうち、未定義のビットに、触覚振動信号を新たに定義することが考えられる。この実施の形態においては、例えば、図13に示すように、第120乃至122ビットに、触覚振動信号が定義される。
マルチメディア信号の一種である触覚振動信号は人体に取り付けたアクチュエータを振動させる用途の信号である。この触覚振動信号は、非圧縮オーディオ信号伝送路を利用して伝送できるものの、信号は低域に偏っており。場合によっては圧力を表すため直流成分を含む場合がある。
この触覚振動信号を旧来のオーディオアンプで再生すると、正しく再生できなかったり、増幅素子を熱によるダメージ等で破損したり、スピーカがつながっていた場合、最悪ボイスコイルが断線したりする。この問題を回避するために、触覚振動信号に独自のチャネル番号を振り当ててオーディオチャンネル信号と区別する。例えば、右腕振動信号を120番とし、マルチチャネルマップの第120ビットに定義する。また、例えば、左腕振動信号を121番とし、マルチチャネルマップの第121ビットに定義する。また、両足振動信号を122番とし、マルチチャネルマップの第122ビットに定義する。なお、触覚振動信号は、これらに限定されるものではなく、それらの触覚振動信号に関しても、独自の番号を振り当ててオーディオチャンネル信号と区別すればよい。
また、上述の第2の方法で決めた触覚振動信号のチャネル番号を利用して、第3の方法で、マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送するためのマルチチャネルサブグループを指定することも可能である。あるいは、この第3の方法独自に触覚振動信号のチャネル番号を決めて独自に運用することも可能である。
なお、マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送するためのマルチチャネルサブグループの指定はブロック(192フレーム)毎に変更することが可能であり、時分割とすることで、マルチチャネルサブグループに割り当てられた触覚振動信号のチャネル数以上のチャネルの触覚振動信号を、伝送することも可能となる。例えば、ユーザの全身に多数の振動ユニットを付けて、下から1秒ごとに上へと振動させていく場合などが考えられる。
図18は、マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号を同時に伝送する場合のマルチチャネル伝送フォーマットのフレーム構成の一例を示している。この図18のフレーム構成は、詳細説明は省略するが、全体としては、図12のフレーム構成と同様である。
この例においては、8サブフレーム、つまりマルチチャネルオーダ1~8で構成されているマルチチャネルグループ内に、マルチチャネルサブグループ1の1つのマルチチャネルサブグループが形成されている。そして、この例は、その1つのマルチチャネルサブグループによって、図19に示すような、5.1チャネルオーディオと2チャネルの触覚振動信号を伝送する例である。
マルチチャネルサブグループ1を構成するマルチチャネルオーダ1~8に、マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号の各チャネルの信号(チャネル番号65,66,67,68,69,78,120,121の信号)が順に配置されている。
ここで、チャネル番号65~70はマルチチャネルオーディオ信号を構成する各オーディオチャネルを表し、「65」はフロントレフト(FL)を示し、「66」はフロントライト(FR)を示し、「67」はフロントセンター(FC)を示し、「68」はLFEを示し、「69」はレフトサラウンドを示し、「70」はライトサラウンドを示す。また、チャネル番号120,121は触覚振動信号の各チャネルを表し、「120」はレフトハンド(右腕振動信号)を示し、「121」はライトハンド(左腕信号信号)を示す。
なお、図18のフレーム構成では、マルチチャネルグループ内に1つのマルチチャネルサブグループが形成される例を示したが、マルチチャネルグループ内に複数のマルチチャネルサブグループを形成することも考えられ、また、全てにマルチチャネルオーディオ信号と所定チャネル数の触覚振動信号の各チャネルの信号が順に配置される場合だけでなく、一部のマルチチャネルサブグループに、マルチチャネルオーディオ信号の各チャネルの信号のみが配置される場合、あるいは所定チャネル数の触覚振動信号の各チャネルの信号のみが配置される場合も考えられる。
マルチチャネルオーディオ信号と所定チャネル数の触覚振動信号の各チャネルの信号を順に配置するマルチチャネルサブグループの指定も、上述の第1~第3の方法により行うことができる。この場合の指定情報は、マルチチャネルオーディオ信号および所定チャネル数の触覚振動信号の構成情報ともなる。この構成情報には、触覚振動信号をオーディイオ信号と区別するための識別情報が含まれる。また、この識別情報には、所定チャネル数の触覚振動信号のそれぞれが対象とする振動位置の情報が含まれる。
図20は、上述の図18に示すマルチチャネル伝送フォーマットにおけるフレーム構成の一例における、マルチチャネルサブグループ1が、第2の方法で指定される場合について示している。この場合、チャネルステータス(図13参照)の第64ビットが“1”とされてマルチチャネルマップ利用の第2の方法で指定されるマルチチャネルサブグループの存在が示される。
そして、チャネルステータスの第65ビット乃至第70ビットおよび第120ビット乃至第121ビットに1が立てられて、このマルチチャネルサブグループは、「65:FL」、「66:FR」、「67:FC」、「68:LFE」、「69:LS」、「70:RS」のオーディオチャンネルがこの順に含まれ、さらに、「120:Left Hand」、「121:Left Hand」の触覚振動信号のチャネルがこの順に含まれた構成であることが示される。
「第2のモードの信号に係る所定チャネル数の触覚振動信号のみの伝送」
第2のモードの信号に係る所定チャネル数の触覚振動信号のみの伝送について説明する。この場合も、IEC 60958規格を基礎とするマルチチャネル伝送フォーマットを利用して伝送する。
IEC 60958規格には、サンプリング周波数として32kHz,44.1kHz,48kHzという3系統がある。ここで、32kHzは放送系で使用され、44.1kHzはCD系で使用され、48kHzはオーディオビデオ系で使用されている。触覚振動信号のサンプリング周波数としては、ビデオ信号との同期を考慮して、48kHzと親和性のよい3kHz,6kHz,12kHz,・・・の系列を採用する。
48kHzは3kHzの16倍であり、16は2の階乗であるのでダウンサンプリング処理やアップサンプリング処理がシンプルに可能となる。つまり、実際に触覚信号をサンプリングする際は、48kHzで行い、3kHz,6kHz,12kHz等にダウンサンプリングし、また再生する際は3kHz,6kHz,12kHz等でサンプリングされている触覚信号を48kHzにアップサンプリングすればよい。48kHzはオーディオ機器で広くサポートされているので安価に実現できる。
例えば、3kHzサンプリングの触覚振動信号を16倍速32チャンネルで伝送することにより、48kHzサンプリングのLPCM2ch伝送と同じスピード伝送できる。また、例えば、6kHzサンプリングの触覚振動信号を8倍速16チャンネルで伝送することにより、48kHzサンプリングのLPCM2ch伝送と同じスピード伝送できる。
図21は、所定チャネル数の触覚振動信号を伝送する場合のマルチチャネル伝送フォーマット、つまりマルチ触覚信号フォーマットにおけるフレーム構成の一例を示している。上述したように、IEC 60958規格では、192フレームで1つのブロックが構成されるが、この192フレームは所定数のサブフレームからなるマルチハプティックチャネルグループ(Multi-Haptic channel group)の繰り返しからなる。それぞれのサブフレーム部分はマルチチャネルオーダを構成している。
マルチハプティックチャネルグループに含めるサブフレームの数はチャネル数に対応した値となる。例えば、3kHzサンプリングの触覚振動信号を16倍速32チャンネルで伝送する場合、マルチハプティックチャネルグループに含めるサブフレームの数は32となる。また、例えば、6kHzサンプリングの触覚振動信号を8倍速16チャンネルで伝送する場合、マルチハプティックチャネルグループに含めるサブフレームの数は16となる。
また、マルチハプティックチャネルグループは、複数のマルチチャネルオーダからなる。このマルチハプティックチャネルグループを構成するそれぞれのマルチチャネルオーダに各チャネルの触覚振動信号が順次配置される。図示の例においては、3kHzサンプリングの触覚振動信号を16倍速32チャンネルで伝送する場合を示している。
ここで、1ブロックは192フレームなので48kHzLPCMが192×2/2=192サンプルに対して、3kHz32チャネルではチャンネルあたり192×2/32=12サンプルで1/16、6kHz16チャネルではチャンネルあたり192×2/16=24サンプルで1/8となる。
なお、IEC 60958-1のサブフレーム内の24ビットスロットに1チャネルの触覚振動信号をアサインするのではなく、複数チャネルの触覚振動信号をアサインすることで、伝送チャネル数を増やすことができる。例えば、図22に示すように、サブフレーム内の24ビットスロットを8ビットずつに3分割して3チャネルの触覚振動信号をアサインした場合には、伝送チャネル数は3倍となる。また、例えば、図示しないが、サブフレーム内の24ビットスロットを12ビットずつに2分割して2チャネルの触覚振動信号をアサインした場合には、伝送チャネル数は2倍となる。
ここで、24ビットスロットを等分割する場合でなく重み付けして分割することも考えられる。例えば、サブフレーム内の24ビットスロットを3分割する場合、8ビットずつの等分割ではなく、10ビット、7ビット、7ビットと分割することも可能である。
また、LPCMフォーマットは伝送周波数が倍になるとサンプリング周波数が倍になる。しかし、マルチ触覚信号フォーマットの場合は、サンプリング周波数が同じでチャネル数が倍になるようにする。図23は、LPCMフォーマットとマルチ触覚信号との対応の一例を示している。
例えば、伝送周波数が128×48kHzの場合には、48kHz2チャネル24ビットのLPCMフォーマットに対して、3kHz32チャネル24ビット、3kHz96チャネル8ビット、3kHz64チャネル12ビットのマルチ触覚信号フォーマットが対応する。また、例えば、伝送周波数が128×96kHzの場合には、96kHz2チャネル24ビットのLPCMフォーマットに対して、3kHz64チャネル24ビット、3kHz192チャネル8ビット、3kHz128チャネル12ビットのマルチ触覚信号フォーマットが対応する。
なお、チャンネルステータスは192ビットを1ブッロクとしているため識別できる最大チャンネル数は384チャネル(2分割した場合は768チャネル、3分割した場合は1152チャネル)である。
マルチ触覚信号フォーマットの識別は、ブロック毎に構成されるチャンネルステータスを使用して行われる。そして、伝送される所定チャネル数の触覚振動信号の構成情報が、このチャンネルステータスに付加される。
図24は、IEC 60958規格におけるチャネルステータスのフォーマットを概略的に示している。チャネルステータスは、サブフレームにおける第30タイムスロットをブロック毎に累積したものである(図9参照)。この図では、チャネルステータスの内容が縦方向に1バイトずつ配置され、横方向には各バイトにおけるビット構成が示されている。なお、ここでは、民生用(Consumer use)のフォーマットを想定して説明する。
第0ビット(bit 0)aは“0”とされ、このチャンネルステータスが民生用であることを示す。また、第1ビット(bit 1)bは“0”とされ、リニアPCMのサンプルであることを示す。また、第6および7ビット(bit 6-7)は、チャネルステータスのモードを示す。
なお、第3ビットから第5ビットの3ビットは、LPCMフォーマットにおいては“000”となっており、これと同じであっても充分に動作する。しかし、それと識別するために、別な値とされてもよい。図示の例においては、“001”とされている。
第24ビット乃至第27ビットと第30ビット乃至第31ビット(bit 24-27, 30-31)のフィールドは、48kHz,96kHz,192kHz等のサンプリング周波数、つまりフレームレートを示す。第49ビット乃至第52ビット(bit 49-52)のフィールドは、「Multichannel Configuration type」の4ビットフィールドを構成しており、例えば、“1100”とされて、触覚振動モード、つまりマルチ触覚信号フォーマットであることを示す。
また、第53ビット乃至第60ビット(bit 53-60)は、「Multichannel Configuration value」の8ビットフィールドを構成しており、触覚振動信号のモード(Haptic mode)を示す。ここで、このモード情報は、所定チャネル数の触覚振動信号の構成情報としてのサンプリング周波数とビット数の情報を含む。このモード情報と、上述したフレームレート情報により、伝送されている触覚振動信号のチャネル数を特定できる(図23参照)。
図25は、「Multichannel Configuration value」の値と触覚振動信号モードとの対応関係の一例を示している。なお、この例は、振動箇所情報なしの例を示している。例えば、“10000000”は、サンプリング周波数が3kHz、ビット数が24ビット(振動箇所情報なし)を示す。また、例えば、“01000000”は、サンプリング周波数が3kHz、ビット数が12ビット(振動箇所情報なし)を示す。
このように振動箇所情報がない、つまり振動箇所を指定しないモードの場合は、振動箇所は、IEC 60958伝送路とは別の伝送路で指定されたり、事前に決め打ちされたりする。別の伝送路で指定することに関しては、HDMIでは、CECが使用されたり、HEC(イーサネット)が使用されたりする。また、事前に決め打ちすることに関しては、振動箇所がある平面に縦横順序良く並べられ、それに順番にチャネル番号が振られている場合等である。この場合、人がその平面に触れたときにその振れた場所に応じた振動が伝わる。
図26は、「Multichannel Configuration value」の8ビットフィールドの値と触覚振動信号モードとの対応関係の他の一例を示している。なお、この例は、振動箇所情報ありの例を示している。例えば、“10000001”は、サンプリング周波数が3kHz、ビット数が24ビット(振動箇所情報あり)を示す。また、例えば、“01000001”は、サンプリング周波数が3kHz、ビット数が12ビット(振動箇所情報あり)を示す。
このように振動箇所情報がある、つまり振動箇所を指定するモードの場合は、特定の振動箇所の組み合わせがチャネル数に応じて予め規定され、所定チャネル数の触覚振動信号を再生する際に参照される。図27は、32チャネルの振動箇所の一例を示している。
なお、振動箇所はさらに間隔を細分化したり、マトリックス状にしたりすることで、より一層の多チャンネル化を実現できる。マトリックス状とは、具体的には、例えば、縦5横8で合計80チャネルといった場合である。さらに、サンプリング周波数やビット数が同一でも振動箇所が異なる場合は、新たなビットをアサインして利用する。具体的には、例えば、“10000001”3kHz24ビット(振動箇所情報あり)に対して、“10000011”3kHz24ビット(上記とは別の振動箇所情報あり)とする。また、全ての組み合わせをサポートする必要はなく、実際に使用される組み合わせをエントリーしていけばよい。
また、上述では「Multichannel Configuration value」の8ビットフィールドで、所定チャネル数の触覚振動信号の構成情報としてのサンプリング周波数とビット数の情報を示すものであったが、これらサンプリング周波数とビット数の情報を、それぞれ別のフィールドで示し、それらを組み合わせて用いることも考えられる。また、上述では、チャネルステータスの「Multichannel Configuration value」の8ビットフィールドで触覚振動信号のモード(Haptic mode)を示すようにしたが、ユーザデータでそのモードを指定することもできる。また、このユーザデータで各チャネルに対応した振動箇所を指定するということも可能である。
上述したように、図1に示すAVシステム10においては、オーディオ信号用の複数フレームからなるブロック毎の伝送信号を利用して、第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号、あるいは第2のモードの信号に係る所定チャネル数の触覚振動信号を、選択的に、簡単かつ容易に伝送できる。
この場合、第1のモードの信号を取り扱う場合、所定チャネル数のオーディオ信号と所定チャネル数の触覚振動信号を含む、192フレームからなるブロック毎の信号を、テレビ受信機100からオーディオアンプ200に、HDMIケーブル300を介して、送信するものである。そのため、テレビ受信機100からオーディオアンプ200に、触覚振動信号をオーディオ信号と同期して良好に伝送できる。
また、第2のモードの信号を取り扱う場合、所定チャネル数の触覚振動信号を含む、192フレームからなるブロック毎の信号を、テレビ受信機100からオーディオアンプ200に、HDMIケーブル300を介して、送信するものである。そのため、テレビ受信機100からオーディオアンプ200に、触覚振動信号のみを良好に伝送できる。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
<2.変形例>
なお、上述実施の形態においては、テレビ受信機100からオーディオアンプ200にIEC 60958伝送路を利用して、第1のモードの信号に係るマルチチャネルオーディオ信号および所定チャネル数の触覚振動信号、あるいは第2のモードの信号に係る所定チャネル数の触覚振動信号を送信するAVシステム10の例を示した。しかし、本技術を適用し得るAVシステムはこれに限定されない。
図28(a)は、本技術を適用し得るAVシステム30の構成例を示している。このAVシステム10Aは、BDプレーヤ310と、スピーカ付きマッサージチェア320と、テレビ受信機330から構成されている。この場合、詳細説明は省略するが、スピーカ付きマッサージチェア320は、上述したAVシステム10におけるオーディオアンプ200、スピーカシステム250および振動システム260と同等の機能を備える構成となる。
BDプレーヤ310で第1のモードの信号(ビデオ信号、マルチチャネルオーディオ信号および所定チャネル数の触覚振動信号)が再生される場合、ビデオ信号は例えばHDMI伝送路を通じてテレビ受信機330に送信され、画像表示がなされる。
また、この場合、マルチチャネルオーディオ信号および所定チャネル数の触覚振動信号は、IEC 60958伝送路を通じて(図18参照)、スピーカ付きマッサージチェア320に送信され、スピーカからの音声出力と振動システムからの音声や画像に関係する振動発生が同期して行われる。これにより、視聴者に対するコンテンツの視聴効果が高められる。なお、この場合、必ずしも音声や画像に関係する振動発生である必要はなく、視聴者に、視聴による疲れをとるためのマッサージ用の振動発生であってもよい。
一方、BDプレーヤ310で第2のモードの信号(所定チャネル数の触覚振動信号)が再生される場合、所定チャネル数の触覚振動信号は、IEC 60958伝送路を通じて(図21参照)、スピーカ付きマッサージチェア320に送信され、振動システムから視聴者に、例えばマッサージ用、癒し用等の振動を与えるための振動発生が行われる。
図28(b)は、本技術を適用し得るAVシステム40の構成例を示している。このAVシステム10Aは、BDプレーヤ310と、ディスプレイ・スピーカ付きマッサージチェア420から構成されている。この場合、詳細説明は省略するが、ディスプレイ・スピーカ付きマッサージチェア320は、上述したAVシステム10におけるオーディオアンプ200、スピーカシステム250および振動システム260と同等の機能を備える共に、ディスプレイを備える構成となる。
BDプレーヤ410で第1のモードの信号(ビデオ信号、マルチチャネルオーディオ信号および所定チャネル数の触覚振動信号)が再生される場合、ビデオ信号は例えばHDMI伝送路を通じてマッサージチェア420に送信され、ディスプレイに画像表示がなされる。
また、この場合、マルチチャネルオーディオ信号および所定チャネル数の触覚振動信号は、IEC 60958伝送路を通じて、マッサージチェア420に送信され、スピーカからの音声出力と振動システムからの音声や画像に関係する振動発生が同期して行われる。これにより、視聴者に対するコンテンツの視聴効果が高められる。なお、この場合、必ずしも音声や画像に関係する振動発生である必要はなく、視聴者に、視聴による疲れをとるためのマッサージ用の振動発生であってもよい。
一方、BDプレーヤ410で第2のモードの信号(所定チャネル数の触覚振動信号)が再生される場合、所定チャネル数の触覚振動信号は、IEC 60958伝送路を通じて、マッサージチェア420に送信され、振動システムから視聴者に、例えばマッサージ用、癒し用等の振動を与えるための振動発生が行われる。
また、上述では、振動システムを備える例としてマッサージチェアの例を挙げたが、その他に、飛行機のシート、電車のシート、車のシート、ゆりかご、介護ベッドや疲労回復ベッドを含むベッド類、ソファ、ゲーム機のシート、映画館のシート等にも、本技術を適用できる。なお、飛行機のシート、電車のシート、バスのシート等にあっては、乗り物自体からくる振動をキャンセルする振動を発生させることも考えられる。
なお、上述実施の形態においては、IEC 60958伝送路としてHDMI ARCを利用する例を示したが、IEC 60958伝送路として、同軸ケーブルや光ケーブルを利用する例も考えられる。また、IEC 60958伝送路として、HDMI伝送路を利用する例も考えられる。この場合、SPDIF信号(IEC 60958信号)はオーディオサンプルパケット(audio sample packet)にマッピングされ、ビデオ伝送と同じ順方向に伝送される。同様に、IEC 60958伝送路として、IEC 61883-6伝送路、MHL伝送路、ディスプレイポート伝送路(DP伝送路)などを利用する例も考えられる。これらの場合も、SPDIF信号(IEC 60958信号)はオーディオサンプルパケット(audio sample packet)にマッピングされ、ビデオ伝送と同じ順方向に伝送される。
また、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、技術は、以下のような構成もとることができる。
(1)オーディオ信号用の複数フレームからなるブロック毎の伝送信号を順次所定伝送路を介して受信側に送信する送信部を備え、
上記伝送信号は、所定チャネル数の触覚振動信号を含む
送信装置。
(2)上記伝送信号に上記所定チャネル数の触覚振動信号の構成情報を付加する情報付加部をさらに備える
前記(1)に記載の送信装置。
(3)上記構成情報は、上記触覚振動信号のサンプリング周波数の情報を含む
前記(2)に記載の送信装置。
(4)上記構成情報は、上記触覚振動信号のビット数の情報を含む
前記(2)または(3)に記載の送信装置。
(5)上記構成情報は、上記所定チャネル数の情報を含む
前記(2)から(4)のいずれかに記載の送信装置。
(6)上記構成情報は、振動箇所情報の有無を示す情報を含む
前記(2)から(5)のいずれかに記載の送信装置。
(7)上記情報付加部は、上記ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて上記構成情報を付加する
前記(2)から(6)のいずれかに記載の送信装置。
(8)上記所定伝送路は、同軸ケーブル、光ケーブル、イーサネット(IEC 61883-6)ケーブル、HDMIケーブル、MHLケーブルまたはディスプレイポートケーブルである
前記(1)から(7)のいずれかに記載の送信装置。
(9)オーディオ信号用の複数フレームからなるブロック毎の伝送信号を順次所定伝送路を介して受信側に送信する手順を有し、
上記伝送信号は、所定チャネル数の触覚振動信号を含む
送信方法。
(10)オーディオ信号用の複数フレームからなるブロック毎の伝送信号を送信側から順次所定伝送路を介して受信する受信部を備え、
上記伝送信号は、所定チャネル数の触覚振動信号を含む
受信装置。
(11)上記伝送信号を処理して上記所定チャネル数の触覚振動信号を出力する処理部をさらに備える
前記(10)に記載の受信装置。
(12)上記伝送信号は上記所定チャネル数の触覚振動信号の構成情報を含み、
上記処理部は、上記構成情報に基づいて上記伝送信号を処理して、上記所定チャネル数の触覚振動信号を出力する
前記(11)に記載の受信装置。
(13)上記構成情報は、上記ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて付加されている
前記(12)に記載の受信装置。
(14)上記所定伝送路は、同軸ケーブル、光ケーブル、イーサネット(IEC 61883-6)ケーブル、HDMIケーブル、MHLケーブルまたはディスプレイポートケーブルである
前記(10)から(13)のいずれかに記載の受信装置。
(15)オーディオ信号用の複数フレームからなるブロック毎の伝送信号を送信側から順次所定伝送路を介して受信する手順を有し、
上記伝送信号は、所定チャネル数の触覚振動信号を含む
受信方法。
(16)オーディオ信号用の複数フレームからなるブロック毎の伝送信号を順次所定伝送路を介して受信側に送信する送信部を備え、
上記伝送信号は、所定チャネル数のオーディオ信号を持つ第1のモードの信号、または所定チャネル数の触覚振動信号のみを持つ第2のモードの信号を、選択的に、含む
送信装置。
(17)オーディオ信号用の複数フレームからなるブロック毎の伝送信号を送信側から順次所定伝送路を介して受信する受信部を備え、
上記伝送信号は、所定チャネル数のオーディオ信号を持つ第1のモードの信号、または所定チャネル数の触覚振動信号のみを持つ第2のモードの信号を、選択的に、含む
受信装置。
10,30,40・・・・AVシステム
100・・・テレビ受信機
101・・・HDMI端子
102・・・HDMI受信部
103・・・高速バスインタフェース
104・・・SPDIF送信回路
105・・・システムコントローラ
107・・・デジタル放送受信回路
108・・・コンテンツ再生回路
109・・・表示部
110・・・イーサネットインタフェース
121・・・受信アンテナ
122・・・BDプレーヤ
123・・・インターネット
200・・・オーディオアンプ
201・・・HDMI端子
202・・・HDMI送信部
203・・・高速バスインタフェース
204・・・SPDIF受信回路
205・・・システムコントローラ
208・・・オーディオアンプ
209・・・振動アンプ
210・・・イーサネットインタフェース
250・・・スピーカシステム
260・・・振動システム
300・・・HDMIケーブル
310・・・BDプレーヤ
320・・・スピーカ付きマッサージチェア
330・・・テレビ受信機
410・・・BDプレーヤ
420・・・ディスプレイ・スピーカ付きマッサージチェア

Claims (10)

  1. オーディオ信号用の複数フレームからなるブロック毎の伝送信号を順次所定伝送路を介して受信側に送信する送信部を備え、
    上記伝送信号は、所定チャネル数の触覚振動信号を含み、
    上記伝送信号に上記所定チャネル数の触覚振動信号の構成情報を付加する情報付加部をさらに備え、
    上記情報付加部は、上記ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて上記構成情報を付加する
    送信装置。
  2. 上記構成情報は、上記触覚振動信号のサンプリング周波数の情報を含む
    請求項に記載の送信装置。
  3. 上記構成情報は、上記触覚振動信号のビット数の情報を含む
    請求項に記載の送信装置。
  4. 上記構成情報は、上記所定チャネル数の情報を含む
    請求項に記載の送信装置。
  5. 上記構成情報は、振動箇所情報の有無を示す情報を含む
    請求項に記載の送信装置。
  6. 上記所定伝送路は、同軸ケーブル、光ケーブル、イーサネット(IEC 61883-6)ケーブル、HDMIケーブル、MHLケーブルまたはディスプレイポートケーブルである
    請求項1に記載の送信装置。
  7. オーディオ信号用の複数フレームからなるブロック毎の伝送信号を順次所定伝送路を介して受信側に送信する送信手順を有し、
    上記伝送信号は、所定チャネル数の触覚振動信号を含み、
    上記伝送信号に上記所定チャネル数の触覚振動信号の構成情報を付加する付加手順をさらに有し、
    上記付加手順では、上記ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて上記構成情報を付加する
    送信方法。
  8. オーディオ信号用の複数フレームからなるブロック毎の伝送信号を送信側から順次所定伝送路を介して受信する受信部を備え、
    上記伝送信号は、所定チャネル数の触覚振動信号を含み、
    上記伝送信号を処理して上記所定チャネル数の触覚振動信号を出力する処理部をさらに備え、
    上記伝送信号は、上記所定チャネル数の触覚振動信号の構成情報を含み、
    上記処理部は、上記構成情報に基づいて上記伝送信号を処理して、上記所定チャネル数の触覚振動信号を出力し、
    上記構成情報は、上記ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて付加されている
    受信装置。
  9. 上記所定伝送路は、同軸ケーブル、光ケーブル、イーサネット(IEC 61883-6)ケーブル、HDMIケーブル、MHLケーブルまたはディスプレイポートケーブルである
    請求項に記載の受信装置。
  10. オーディオ信号用の複数フレームからなるブロック毎の伝送信号を送信側から順次所定伝送路を介して受信する受信手順を有し、
    上記伝送信号は、所定チャネル数の触覚振動信号を含み、
    上記伝送信号を処理して上記所定チャネル数の触覚振動信号を出力する処理手順をさらに備え、
    上記伝送信号は、上記所定チャネル数の触覚振動信号の構成情報を含み、
    上記処理手順では、上記構成情報に基づいて上記伝送信号を処理して、上記所定チャネル数の触覚振動信号を出力し、
    上記構成情報は、上記ブロック毎に構成されるチャネルステータスの所定ビット領域を用いて付加されている
    受信方法。
JP2020563147A 2018-12-26 2019-12-18 送信装置、送信方法、受信装置および受信方法 Active JP7396300B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018242454 2018-12-26
JP2018242454 2018-12-26
PCT/JP2019/049718 WO2020137767A1 (ja) 2018-12-26 2019-12-18 送信装置、送信方法、受信装置および受信方法

Publications (2)

Publication Number Publication Date
JPWO2020137767A1 JPWO2020137767A1 (ja) 2021-11-11
JP7396300B2 true JP7396300B2 (ja) 2023-12-12

Family

ID=71126212

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020563147A Active JP7396300B2 (ja) 2018-12-26 2019-12-18 送信装置、送信方法、受信装置および受信方法

Country Status (6)

Country Link
US (1) US12003886B2 (ja)
EP (1) EP3905705A4 (ja)
JP (1) JP7396300B2 (ja)
KR (1) KR20210106993A (ja)
CN (1) CN113196790B (ja)
WO (1) WO2020137767A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116848497A (zh) * 2021-02-08 2023-10-03 索尼集团公司 施加触觉刺激的控制装置
US20230260537A1 (en) * 2022-02-16 2023-08-17 Google Llc Single Vector Digital Voice Accelerometer
WO2023189162A1 (ja) * 2022-03-30 2023-10-05 ソニーグループ株式会社 送信装置、受信装置および送受信システム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008539451A (ja) 2005-04-26 2008-11-13 ディー−ボックス テクノロジーズ インコーポレイテッド 既存の音声信号符号化フォーマットを用いてモーション信号に音声信号を与える方法及び装置
US20090222260A1 (en) 2008-02-28 2009-09-03 Petr David W System and method for multi-channel pitch detection
JP2011520305A (ja) 2008-02-20 2011-07-14 ディー−ボックス テクノロジーズ インコーポレイテッド ディジタルシネマストリーム環境における振動−運動信号のトランスポート
US20140100839A1 (en) 2012-09-13 2014-04-10 David Joseph Arendash Method for controlling properties of simulated environments
WO2014104007A1 (ja) 2012-12-28 2014-07-03 株式会社ニコン データ処理装置、およびデータ処理プログラム
WO2017010358A1 (ja) 2015-07-10 2017-01-19 ソニー株式会社 送信装置、送信方法、受信装置および受信方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6115482A (en) * 1996-02-13 2000-09-05 Ascent Technology, Inc. Voice-output reading system with gesture-based navigation
US7375728B2 (en) * 2001-10-01 2008-05-20 University Of Minnesota Virtual mirror
JP4016709B2 (ja) * 2002-04-26 2007-12-05 日本電気株式会社 オーディオデータの符号変換伝送方法と符号変換受信方法及び装置とシステムならびにプログラム
JP2004072345A (ja) * 2002-08-05 2004-03-04 Pioneer Electronic Corp 情報記録媒体、情報記録装置及び方法、情報再生装置及び方法、情報記録再生装置及び方法、コンピュータプログラム、並びにデータ構造
JP2007187941A (ja) * 2006-01-16 2007-07-26 Sony Corp データの変換方法およびクライアント・サーバシステム
JP4752865B2 (ja) * 2008-05-12 2011-08-17 ソニー株式会社 インターフェース回路
US9078065B2 (en) * 2009-05-27 2015-07-07 Maria Karam System and method for displaying sound as vibrations
KR101641513B1 (ko) * 2010-10-22 2016-07-21 엘지전자 주식회사 이동 단말기의 영상 촬영 장치 및 그 방법
US10013857B2 (en) * 2011-12-21 2018-07-03 Qualcomm Incorporated Using haptic technologies to provide enhanced media experiences
US20130243208A1 (en) * 2012-03-19 2013-09-19 Mark S. Fawer Computer user alertness monitoring system
US9164587B2 (en) 2013-11-14 2015-10-20 Immersion Corporation Haptic spatialization system
US9349378B2 (en) 2013-11-19 2016-05-24 Dolby Laboratories Licensing Corporation Haptic signal synthesis and transport in a bit stream
US9460638B2 (en) * 2014-06-30 2016-10-04 Jeff Baker Smart injection training device and system
US9648412B2 (en) * 2015-02-06 2017-05-09 Skullcandy, Inc. Speakers and headphones related to vibrations in an audio system, and methods for operating same
EP3118723A1 (en) * 2015-07-13 2017-01-18 Thomson Licensing Method and apparatus for providing haptic feedback and interactivity based on user haptic space (hapspace)
US9918154B2 (en) * 2015-07-30 2018-03-13 Skullcandy, Inc. Tactile vibration drivers for use in audio systems, and methods for operating same
JP2018060313A (ja) 2016-10-04 2018-04-12 ソニー株式会社 受信装置および方法、送信装置および方法、並びにプログラム
US10152296B2 (en) * 2016-12-28 2018-12-11 Harman International Industries, Incorporated Apparatus and method for providing a personalized bass tactile output associated with an audio signal
US20180364898A1 (en) * 2017-06-14 2018-12-20 Zihan Chen Systems, Devices, and/or Methods for Managing Text Rendering
US11991473B2 (en) 2018-08-30 2024-05-21 Sony Corporation Transmitting apparatus, transmission method, receiving apparatus, and reception method

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008539451A (ja) 2005-04-26 2008-11-13 ディー−ボックス テクノロジーズ インコーポレイテッド 既存の音声信号符号化フォーマットを用いてモーション信号に音声信号を与える方法及び装置
JP2011520305A (ja) 2008-02-20 2011-07-14 ディー−ボックス テクノロジーズ インコーポレイテッド ディジタルシネマストリーム環境における振動−運動信号のトランスポート
US20090222260A1 (en) 2008-02-28 2009-09-03 Petr David W System and method for multi-channel pitch detection
US20140100839A1 (en) 2012-09-13 2014-04-10 David Joseph Arendash Method for controlling properties of simulated environments
WO2014104007A1 (ja) 2012-12-28 2014-07-03 株式会社ニコン データ処理装置、およびデータ処理プログラム
WO2017010358A1 (ja) 2015-07-10 2017-01-19 ソニー株式会社 送信装置、送信方法、受信装置および受信方法

Also Published As

Publication number Publication date
CN113196790B (zh) 2024-04-09
WO2020137767A1 (ja) 2020-07-02
US12003886B2 (en) 2024-06-04
US20220038656A1 (en) 2022-02-03
KR20210106993A (ko) 2021-08-31
CN113196790A (zh) 2021-07-30
EP3905705A4 (en) 2022-02-16
JPWO2020137767A1 (ja) 2021-11-11
EP3905705A1 (en) 2021-11-03

Similar Documents

Publication Publication Date Title
JP7396300B2 (ja) 送信装置、送信方法、受信装置および受信方法
US8020102B2 (en) System and method of adjusting audiovisual content to improve hearing
KR20160113310A (ko) 디스플레이 인터페이스를 통한 입체 이미지 데이터의 전송
WO2020182020A1 (zh) 一种音频信号播放方法及显示设备
JP7439758B2 (ja) 送信装置、送信方法、受信装置および受信方法
US20170302633A1 (en) Transmission apparatus, transmission method, reception apparatus, and reception method
JP7559772B2 (ja) 送信装置、送信方法、受信装置および受信方法
JP7452526B2 (ja) 送信装置、送信方法、受信装置および受信方法
EP3799042A1 (en) Transmission device, transmission method, reception device, and reception method
CN114341972A (zh) 发送装置、发送方法、接收装置和接收方法
KR102011474B1 (ko) 데이터 전송 장치, 데이터 수신 장치, 데이터 송수신 시스템, 데이터 전송 방법, 데이터 수신 방법
US20210242879A1 (en) Transmission apparatus, transmission method, reception apparatus, and reception method
US12081960B2 (en) Transmission device, transmission method, reception device, and reception method
WO2023189162A1 (ja) 送信装置、受信装置および送受信システム
US20170289613A1 (en) Transmission apparatus, transmission method, reception apparatus, and reception method
JP2016515352A (ja) データ送信装置、データ受信装置、データ送受信システム、データ送信方法及びデータ受信方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231113

R151 Written notification of patent or utility model registration

Ref document number: 7396300

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151