JP7434792B2 - 送信装置及び受信装置、並びに音響システム - Google Patents

送信装置及び受信装置、並びに音響システム Download PDF

Info

Publication number
JP7434792B2
JP7434792B2 JP2019181456A JP2019181456A JP7434792B2 JP 7434792 B2 JP7434792 B2 JP 7434792B2 JP 2019181456 A JP2019181456 A JP 2019181456A JP 2019181456 A JP2019181456 A JP 2019181456A JP 7434792 B2 JP7434792 B2 JP 7434792B2
Authority
JP
Japan
Prior art keywords
metadata
audio data
audio
sound source
transmitting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019181456A
Other languages
English (en)
Other versions
JP2021056450A (ja
Inventor
健 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Priority to JP2019181456A priority Critical patent/JP7434792B2/ja
Priority to US17/764,355 priority patent/US12015907B2/en
Priority to CN202080067512.3A priority patent/CN114467136A/zh
Priority to PCT/JP2020/008896 priority patent/WO2021065031A1/en
Priority to EP20713107.9A priority patent/EP4014227A1/en
Publication of JP2021056450A publication Critical patent/JP2021056450A/ja
Application granted granted Critical
Publication of JP7434792B2 publication Critical patent/JP7434792B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0033Recording/reproducing or transmission of music for electrophonic musical instruments
    • G10H1/0041Recording/reproducing or transmission of music for electrophonic musical instruments in coded form
    • G10H1/0058Transmission between separate instruments or between individual components of a musical system
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/155Musical effects
    • G10H2210/265Acoustic effect simulation, i.e. volume, spatial, resonance or reverberation effects added to a musical sound, usually by appropriate filtering or delays
    • G10H2210/295Spatial effects, musical uses of multiple audio channels, e.g. stereo
    • G10H2210/305Source positioning in a soundscape, e.g. instrument positioning on a virtual soundstage, stereo panning or related delay or reverberation changes; Changing the stereo width of a musical source
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/091Info, i.e. juxtaposition of unrelated auxiliary information or commercial messages with or between music files
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/325Synchronizing two or more audio tracks or files according to musical features or musical timings
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/018Audio watermarking, i.e. embedding inaudible data in the audio signal
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/167Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/01Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/13Aspects of volume control, not necessarily automatic, in stereophonic sound systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Stereophonic System (AREA)
  • Electrophonic Musical Instruments (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)

Description

本明細書で開示する技術は、音声データ及びメタデータを送信する送信装置及び音声データ及びメタデータを受信する受信装置、並びに音響システムに関する。
アレイスピーカなど複数のスピーカを使った音響システムが普及しつつある。複数の出力チャンネルを使って音声信号を再生することによって、音像定位を行うことができる。また、チャンネル数を増やし、スピーカを多重化することによって、さらに高解像度で音場を制御することが可能である。このような場合、音源数分の音声データと各音源の位置情報に基づいて、出力チャンネル毎にどのような音声を出力するかを計算する必要がある(例えば、特許文献1を参照のこと)。ところが、チャンネル数が増大すると(例えば、192チャンネル)、上記のように出力音声の計算量が厖大となり、一箇所(若しくは、単一の装置)でリアルタイム処理するのが困難になる。
そこで、多数の出力チャンネルをいくつかのサブシステムに分割して、マスタ装置は各サブシステムに全音源の音声データ及び各音源の位置情報を分配し、サブシステムでは、担当する個々の出力チャンネルについての出力音声の計算を実施する、という分散型の音響システムが考えられる。
例えば、マスタ装置は、再生時刻毎の音声データを、例えばMIDI(Musical Instrument Digital Interface)などの共通規格に則った伝送路を経由して転送することによって、各サブシステムは同期がとれた状態で受信することができる。他方、各音源の位置情報については、LAN(Local Area Network)などの別の伝送路を使ってマスタ装置から各サブシステムへ転送しようとすると、マスタ装置側では、再生時刻毎の音声データと同期して位置情報を送信したとしても、サブシステム側では、受信した音声データと位置情報間で同期を確保することが難しくなり、高解像度の音場制御を実現するのが難しくなってしまう。LANのようなネットワークを使用する場合、伝送遅延が不定であることから、サブシステム側で伝送遅延を補償若しくは除去することも難しい。
また、MIDIを使って音声データを転送する場合、送受信の双方(この場合は、マスタ装置と各サブシステム)でMIDIインタフェースを装備した機材を用意する必要がある。サブシステムには、パーソナルコンピュータのような一般的な情報機器を使用することが想定されるが、この種の機器は通常MIDI用の機材を装備していない。
特開2005-167612号公報 特開平7-15458号公報
本明細書で開示する技術の目的は、音声データとの同期を確保してメタデータを送信する送信装置及び音声データと同期するメタデータを受信する受信装置、並びに音響システムを提供することにある。
本明細書で開示する技術は、上記課題を参酌してなされたものであり、その第1の側面は、
伝送路中の第1の音声チャンネルに音声データを送信する第1の送信部と、
前記音声データに関するメタデータを、前記音声データと同期をとりながら前記伝送路中の第2の音声チャンネルに送信する第2の送信部と、
を具備する送信装置である。
前記メタデータは、前記音声データの音源の位置情報を含み、さらに前記音声データの音源の特定のエリアを指定するエリア情報、波形等化又はその他のエフェクタ―に利用するための周波数やゲイン、アタック時間のうち少なくとも1つを含んでもよい。
また、本明細書で開示する技術の第2の側面は、
伝送路中の第1の音声チャンネルから音声データを受信する第1の受信部と、
前記伝送路中の第2の音声チャンネルから前記音声データと同期がとられたメタデータを受信する第2の受信部と、
を具備する受信装置である。
第2の側面に係る受信装置は、同期がとられた前記メタデータを用いて前記音声データを処理する処理部をさらに備える。そして、前記メタデータは前記音声データの音源の位置情報を含み、前記処理部は、前記位置情報を利用して前記音声データに対して音場再生処理を実施する。
また、本明細書で開示する技術の第3の側面は、
伝送路中の第1の音声チャンネルに音声データを送信するとともに、前記音声データに関するメタデータを、前記音声データと同期をとりながら前記伝送路中の第2の音声チャンネルに送信する送信装置と、
第1の音声チャンネルから音声データを受信するとともに、第2の音声チャンネルから前記音声データと同期がとられたメタデータを受信して、前記メタデータを用いて前記音声データを処理する受信装置と、
を具備する音響システムである。
但し、ここで言う「システム」とは、複数の装置(又は特定の機能を実現する機能モジュール)が論理的に集合した物のことを言い、各装置や機能モジュールが単一の筐体内にあるか否かは特に問わない。
本明細書で開示する技術によれば、複数の音声チャンネルを含んだ伝送路を介して音声データとの同期を確保してメタデータを送信する送信装置、及び、複数の音声チャンネルを含んだ伝送路を介して音声データと同期するメタデータを受信する受信装置、並びに音響システムを提供することができる。
なお、本明細書に記載された効果は、あくまでも例示であり、本明細書で開示する技術によりもたらされる効果はこれに限定されるものではない。また、本明細書で開示する技術が、上記の効果以外に、さらに付加的な効果を奏する場合もある。
本明細書で開示する技術のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
図1は、音響システム100の構成例を示した図である。 図2は、マルチ音声チャンネルからなる伝送路150を利用した音響システム100の構成例を示した図である。 図3は、オブジェクトの3次元位置情報を音声チャンネルで伝送する場合の信号波形の例を示した図である。 図4は、音響システム400の構成例を示した図である。 図5は、ゲイン調整したメタデータの信号波形例を示した図である。 図6は、ゲイン調整したメタデータの信号波形例を示した図である。 図7は、復元用のフラグを付けてメタデータを音声チャンネルで伝送する場合の信号波形の例を示した図である。 図8は、スペクトル上にメタデータを伝送するための構成例を示した図である。 図9は、スペクトル上で伝送されたメタデータを受信するための構成例を示した図である。
以下、図面を参照しながら本明細書で開示する技術の実施形態について詳細に説明する。
A.システム構成
図1には、本明細書で開示する技術を適用した音響システム100の構成例を模式的に示している。図示の音響システム100は、再生装置110と、処理装置120と、スピーカ130で構成される。
再生装置110では、音声データを再生する。再生装置110は、例えばディスクやテープなどの記録メディアから音声データを再生する装置である。あるいは、再生装置110は、放送信号を受信して音声データを再生したり、インターネットなどのネットワーク経由で受信した音声ストリームから音声データを再生したりする装置も含むものとする。本実施形態では、再生装置110は、音声データを時間通りに再生するとともに、音声データに付随するメタデータを、音声データの時間に合わせて付与し、又は、事前に登録された通りに時間に合わせて再生するものとする。そして、再生装置110は、再生した音声データとメタデータを、処理装置120に出力する。
処理装置120は、再生装置110から出力される音声データを、スピーカ130で音響出力するための信号処理を行う。音声データの信号処理には、メタデータを使用することもある。そして、処理装置121は、信号処理後の音声データをスピーカ130に送出し、スピーカ130が出力した音響を聴取者(図示しない)が聴く。なお、処理装置120に接続されるスピーカ130は、スピーカアレイなどの多チャンネルスピーカであってもよいが、ここでは図面の簡素化のため、単一のスピーカのみを描いている。
処理装置120で実施する音声データの信号処理には、音場再生が含まれる。例えば、再生装置110から受信する音声データが複数の音源(以下、「オブジェクト」とも呼ぶ)の音声を含む場合には、処理装置120は、各オブジェクトの位置情報に基づいて、スピーカ130から出力される各オブジェクトの音声がそれぞれの位置から発されている音声として聴こえるようにするための、音声データの信号処理を行う。
音場再生を実施する場合、再生装置110は、各オブジェクトの位置情報をメタデータに含めて送信する。
各オブジェクトの位置情報のようなメタデータは、音声データとの等時性が要求される。何故ならば、音声データに遅れてオブジェクトの位置情報が処理装置120に届くと、リアルタイムで音場生成を実施できなくなるからである。再生装置110と処理装置120が物理的に単一の装置内に配置される場合、音声データとメタデータの等時性を保って伝送することは容易である。ところが、再生装置110と処理装置120を物理的に分離した装置として構成する場合、音声データとメタデータの等時性を保って伝送することは困難になる。例えば、スピーカ130の多チャンネル化(例えば、192チャンネル)などにより音声データの信号処理の負荷が増大するような場合には(後述)、再生装置110と処理装置120を物理的に分離した装置として構成することが想定される。
ここで、再生装置110と処理装置120間での音声データ及びメタデータの伝送方法について考察してみる。
コンピュータと電子楽器間で演奏データをやり取りするMIDIインタフェースが知られている。ところが、再生装置110や処理装置120には、パーソナルコンピュータのような一般的な情報機器を用いることを想定しているが、通常はMIDIインタフェースを装備していないので、MIDIインタフェースを装備した機材を用意する必要がありコスト増となる。LANのような別の伝送路でメタデータを伝送すると、音声データとの等時性を保つことが困難である。特にLANの場合には、時刻毎の遅延が不定であることから、音声データとメタデータとの同期をとることが難しい。
そこで、本明細書では、再生装置110と処理装置120間の伝送路150に、複数の音声チャンネルを含んだインタフェースを用い、各オブジェクトの位置情報などのメタデータを音声データとして扱って、いずれか1つの音声チャンネルに載せて伝送する技術について、以下で提案する。
例えば、再生装置110は、各オブジェクトの音声データをそれぞれ個別の音声チャンネルを使って伝送し、それ以外の1つのチャンネル上でメタデータを伝送するようにすれば、処理装置120には、音声データとの等時性を保ちながらメタデータを届けることができる。そして、いずれの音声チャンネルにメタデータを載せるかを、再生装置110と処理装置120間であらかじめ取り決めておけば、処理装置120側ではその音声チャンネルで受信したデータからメタデータをデコードして、他の音声チャンネルで受信した音声データに対して音場再生などの等時性が要求される処理を施すことができる。
複数の音声チャンネルを含んだインタフェース規格の1つとして、MADI(Multichannel Audio Digital Interface)を挙げることができる(例えば、特許文献2を参照のこと)。なお、MADIは、1系統でバイフェーズのバランスで2チャンネルを扱うAES/EBU(Audio Engineering Society/European Broadcasting Union)信号を束ねて最大64チャンネルのオーディオ信号を1本のケーブル(光ファイバー又は同軸ケーブル)で伝送することができる。但し、伝送路150は、MADIインタフェースには限定されず、また、デジタル又はアナログのいずれの形式で音声データ及びメタデータを伝送してもよい。
図2には、マルチ音声チャンネルからなる伝送路150を介して再生装置110と処理装置120が接続される音響システム100の構成例を模式的に示している。
再生装置110は、音声データ再生部111と、メタデータ再生部112と、メタデータエンコード部113を備えている。音声データ再生部111は、オブジェクト毎の音声データを再生して、各音声データを、伝送路150中の個別の音声チャンネル151上で送出する。音声データ再生部111は、音声データを時間通りに再生するものとする。メタデータ再生部112は、オブジェクト毎の音声データに付随するメタデータを再生する。メタデータ再生部112は、音声データの時間に合わせてメタデータを付与し、又は、事前に登録された通りに時間に合わせてメタデータを再生するものとする。
本実施形態では、メタデータ再生部112は、メタデータとしてオブジェクト毎の位置情報を再生する。メタデータエンコード部113は、再生されたメタデータを、所定の伝送方式に従ってエンコードする。そして、各オブジェクトの位置情報を所定の順番で時間軸方向に連結したデータを音声データとして扱って、音声データの伝送には利用されない音声チャンネル152に載せて伝送する。いずれの音声チャンネルにメタデータを載せるかを、再生装置110と処理装置120間であらかじめ取り決められているものとする。そして、メタデータエンコード部113は、音声チャンネル152上で、複数のオブジェクトの位置情報をあらかじめ決められた順番に従って各サンプルの振幅に載せて、音声チャンネル151上で伝送される音声データとメタデータの同期をとりながら伝送する。
処理装置120は、音声データ処理部121と、メタデータデコード部122を備えている。
音声データ処理部121は、伝送路150中の個別の音声チャンネル上で伝送されるオブジェクト毎の音声データを処理する。また、メタデータデコード部122は、音声データの伝送には利用されないいずれかの音声チャンネルを使って伝送されるメタデータをデコードして、音声データ処理部121に出力する。
メタデータデコード部122でデコードされたメタデータには、オブジェクト毎の位置情報が含まれている。また、メタデータは、音声データと同じ伝送路150内の別の音声チャンネルを使って伝送されるので、オブジェクト毎の位置情報は、各オブジェクトの音声データとの同期が保たれている。
音声データ処理部121は、メタデータに基づいて各オブジェクトの音声データの処理を実施する。例えば、音声データ処理部121は、音場再生処理として、メタデータデコード部122から渡された各オブジェクトの位置情報を利用して、スピーカ130から出力される各オブジェクトの音声がそれぞれの位置から発されている音声として聴こえるようにするための、音声データの信号処理を行う。
本実施形態では、メタデータを、音声データと同じ伝送路150内の別の音声チャンネルを使って、再生装置110と処理装置120間で伝送される。その、各サンプルの振幅に情報を載せることによって、あたかも音声データのようにして伝送される。サンプル順にどういうデータを送信するかを、再生装置110と処理装置120間で事前に決めておく。これを、メタデータのサンプリングレート毎に繰り返して、伝送する。
図3には、メタデータとして3個のオブジェクトの3次元位置情報を音声チャンネルで伝送する場合の信号波形を例示している。図示の例では、サンプリングレート毎に、オブジェクト1のX座標、オブジェクト1のY座標、オブジェクト1のZ座標、オブジェクト2のX座標、…の順に、振幅に情報を載せて送信している。
そして、メタデータエンコード部113は、音声チャンネル152上で、複数のオブジェクトの位置情報をあらかじめ決められた順番に従って各サンプルの振幅に載せて、音声チャンネル151上で伝送される音声データとメタデータの同期をとりながら伝送する。
図1に示した音響システム100では、複数の音声チャンネルを含んだ伝送路150を用い、メタデータを音声ストリームに載せて音声チャンネル上で伝送することによって、デバイスの追加などの必要がなく、且つ、簡単に音声データと同期をとることができる。
なお、音声データのメタデータとして、音声処理に利用するさまざまなパラメータを挙げることができる。例えば、オブジェクトの位置情報の他に、特定のエリアを指定するようなエリア情報、波形等化などのエフェクタ―に利用するための周波数やゲイン、アタック時間などのパラメータを、音声データとの同期をとりながらメタデータとして伝送することができる。
B.変形例
図4には、変形例に係る音響システム400の構成例を模式的に示している。図示の音響システム400は、1台の再生装置410と、複数台(図示の例では3台)の処理装置421~423及びスピーカ431~433と、再生装置410から出力される信号を各処理装置421~423に分配する分岐装置440で構成される。
スピーカの台数が増大すると、すべてのスピーカに出力する音声データの信号処理の負荷が大きくなり、1台の装置で実施することが困難になる。そこで、図4に示す音響システム400は、複数の処理装置421~423を並列的に配置して、スピーカ431~433に出力する音声信号の処理を分担して行うように構成されている。
再生装置410では、音声データを再生する。再生装置410は、例えばディスクやテープなどの記録メディアから音声データを再生する装置である。あるいは、再生装置410は、放送信号を受信して音声データを再生したり、インターネットなどのネットワーク経由で受信した音声ストリームから音声データを再生したりする装置も含むものとする。また、再生装置410は、音声データを時間通りに再生するとともに、音声データに付随するメタデータを、音声データの時間に合わせて付与し、又は、事前に登録された通りに時間に合わせて再生するものとする。
そして、再生装置410は、音声データと、音声データに付随するメタデータを、それぞれ異なる音声チャンネルで出力する。メタデータに関しては、複数のオブジェクトの位置情報をあらかじめ決められた順番に従って各サンプルの振幅に載せて、音声データとの同期をとりながら伝送する。
分岐装置440は、再生装置410の出力信号を各処理装置421~423に分配する。再生装置410と各処理装置421~423の間に分岐装置440を配設することで、図1に示した音響システム100の場合と同様に、音声データとメタデータの同期をとりながら、各処理装置421~423に伝送することができる。図4に示す例では、分岐装置440には3台の処理装置421~423が接続されているが、4台以上の処理装置を接続することも可能であり、スピーカの台数増大などの拡張が容易である。なお、分岐装置440は、信号を各処理装置421~423に分配する際に、伝送路変動に対する波形等化などの処理を行うようにしてもよい。
各処理装置421~423は、基本的には、図1に示した音響システム100中の処理装置120と同じ役割を果たす。すなわち、各処理装置421~423は、分岐装置440経由で再生装置410から受信する音声データを、それぞれに接続されているスピーカ431~433で音響出力するための信号処理を行う。音声データの信号処理には、メタデータを使用することもある。そして、処理装置421~423は、信号処理後の音声データをスピーカ431~433にそれぞれ送出し、各スピーカ431~433が出力した音響を聴取者(図示しない)が聴く。なお、各スピーカは、スピーカアレイなどの多チャンネルスピーカであってもよいが、ここでは図面の簡素化のため、各々を単一のスピーカのみを描いている。
各処理装置421~423で実施する音声データの信号処理には、音場再生が含まれる。例えば、再生装置410から受信する音声データが複数の音源(以下、「オブジェクト」とも呼ぶ)の音声を含む場合には、各処理装置421~423は、各オブジェクトの位置情報に基づいて、それぞれに接続されたスピーカ431~433から出力される各オブジェクトの音声が該当する位置から発されている音声として聴こえるようにするための、音声データの信号処理を行う。
音場再生を実施する場合、再生装置410は、各オブジェクトの位置情報をメタデータに含めて送信する。再生装置410と分岐装置440間、並びに分岐装置440と各処理装置421~423間の伝送路450として、複数の音声チャンネルを含んだインタフェースを用いている。そして、再生装置410は、各オブジェクトの音声データをそれぞれ個別の音声チャンネルを使って伝送し、それ以外の1つのチャンネル上でメタデータを伝送するので、音声データとの等時性を保ちながら各処理装置421~423にメタデータを届けることができる。
図4に示した音響システム400は、複数の音声チャンネルを含んだ伝送路450を用い、メタデータを音声ストリームに載せて音声チャンネル上で伝送することによって、デバイスの追加などの必要がなく、且つ、簡単に音声データと同期をとることができる。また、複数の処理装置421~423の間でも同期をとることが可能である。
C.ゲイン変更対応
ここまで、音響システム100で、メタデータを音声チャンネルに載せて単純に伝送する方法について説明してきた。ここで、再生装置110側の出力ゲインを変更したり、処理装置120側で入力ゲインを変更したり、あるいは伝送路150の途中にミキサー(図示しない)などを接続してゲイン調整が行われたりすることが想定される。図4に示した音響システム400についても同様である。
図3に示したような、各サンプルの振幅にメタデータを載せる伝送方法では、ゲイン調整が行われると、振幅に載せられたデータの値が変わってしまうので、正しいメタデータを伝送できなくなるという問題が生じる。図5及び図6には、図3に例示した、音声チャンネルで伝送されるメタデータの信号波形に対してゲイン調整を行った結果をそれぞれ示している。例えば、再生装置110から(1,2,3)というメタデータを送信したい場合に、ゲインを2倍にする調整が施された場合には、処理装置120側では(2,4,6)というメタデータを受け取ることになる。
そこで、各情報の直前に復元用のフラグを付けて、メタデータを音声チャンネル上で伝送する方法を用いるようにしてもよい。復元用のフラグは、音量(ゲイン)がどの程度調整されたかを調査するためのフラグ、若しくは、音量調整によるメタデータの変化をキャリブレーションするためのフラグである。
図7には、復元用のフラグを各情報の直前に付けてメタデータを伝送する音声チャンネルの信号波形を例示している。図示のように、各情報の直前に復元用のフラグが付けられている。例えば、オブジェクト1のX座標を50として送信したい場合には、(1.0,50)とフラグを付けて伝送する。再生装置110と処理装置120の間でゲインが変更されて、振幅が2倍の情報で伝送されてしまうと、処理装置120側では(2.0,100)という情報を受信することになる。このような場合、処理装置120側で、フラグが1.0になるように正規化することで、オブジェクト1のX座標が50という情報に復元することができる。
上述したようなフラグを利用したメタデータの復元処理は、例えばメタデータデコード部122で行うことができる。
このように、音声チャンネルを使ってメタデータを伝送する際に、復元用のフラグを付けることによって、途中でゲインが変更されても、処理装置120側では復元用のフラグを使って元の情報を復元することができる。
なお、伝送路150の途中に設けられたミキサーにおいて、メタデータ伝送用の音声チャンネルに対してはゲイン調整を行わないようにすれば、図5や図6に示したような状況に陥ることはないので、復元用のフラグを付ける必要はなくなる。例えば、ユーザがメタデータ伝送用の音声チャンネルに対してはゲイン調整を行わないように注意して機器操作を行うようにしてもよい。
D.他の伝送方法
これまでは、音声チャンネルを使ってメタデータを伝送する方法として、振幅に情報を載せる方法について説明してきた(例えば、図3を参照のこと)。他の伝送方法として、スペクトル上にメタデータを伝送する方法を挙げることができる。
スペクトル上にメタデータを伝送する場合、例えば500Hzの帯域に復元フラグを載せ、1kHzの帯域に第1の情報、2kHzの帯域に第2の情報、…、という形式でメタデータを送信することができる。その際、再生装置110と処理装置120の間で復元フラグの大きさを事前に決めておくことで、処理装置120側では、500Hzの帯域から取り出した復元フラグに基づいて、1kHz、2kHz、…、の各帯域から取り出した情報を元の情報に復元することができる。
図8には、再生装置110側で、スペクトル上にメタデータを伝送するための構成例を示している。例えばメタデータエンコード部113から出力されるメタデータの時間信号を、FFT(Fast Fourier Transform)部801で周波数信号に変換して、周波数軸上の所定の帯域(上記の例では、500kHz帯)に復元フラグを付加する。その後、IFFT部802で時間信号に戻してから、伝送路150内の所定の音声チャンネルに送出する。
また、図9には、処理装置120側で、スペクトル上で伝送されたメタデータを受信するための構成例を示している。
伝送路150中の、メタデータの伝送に割り当てられた音声チャンネルから受信した信号を、FFT部901で周波数信号に変換すると、その周波数信号の各帯域から復元フラグとメタデータを取り出して、メタデータデコード部122に渡す。
このように、音声チャンネルを使ってメタデータを伝送する際に、復元用のフラグを挿入することによって、途中でゲインが変更されても、処理装置120側では復元用のフラグを使って元の情報を復元することができる。
以上、特定の実施形態を参照しながら、本明細書で開示する技術について詳細に説明してきた。しかしながら、本明細書で開示する技術の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
本明細書では、MADIインタフェースを用いて本明細書で開示する技術を実現した実施形態について説明してきたが、複数の音声チャンネルを含んだ他のインタフェース規格をもちいても、同様に本明細書で開示する技術を実現することができる。
また、本明細書では、音声データとの等時性を要求されるメタデータとしてオブジェクト毎の位置情報を伝送する実施形態について説明してきたが、その他のメタデータを伝送する場合であっても、同様に本明細書で開示する技術を適用することができる。例えば、オブジェクトの位置情報の他に、オブジェクトの特定のエリアを指定するようなエリア情報、波形等化などのエフェクタ―に利用するための周波数やゲイン、アタック時間などのパラメータを、音声データとの同期をとりながらメタデータとして伝送することができる。
要するに、例示という形態により本明細書で開示する技術について説明してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本明細書で開示する技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
なお、本明細書の開示の技術は、以下のような構成をとることも可能である。
(1)伝送路中の第1の音声チャンネルに音声データを送信する第1の送信部と、
前記音声データに関するメタデータを、前記音声データと同期をとりながら前記伝送路中の第2の音声チャンネルに送信する第2の送信部と、
を具備する送信装置。
(1-1)伝送路中の第1の音声チャンネルに音声データを送信する第1の送信ステップと、
前記音声データに関するメタデータを、前記音声データと同期をとりながら前記伝送路中の第2の音声チャンネルに送信する第2の送信ステップと、
を有する送信方法。
(2)前記音声データを再生する第1の再生部と、
前記音声データの時間に合わせて前記メタデータを付与し、又は、事前に登録された通りに時間に合わせて前記メタデータを再生する第2の再生部と、さらに備える上記(1)に記載の送信装置。
(3)前記メタデータは、前記音声データの音源の位置情報を含む、
上記(1)又は(2)のいずれかに記載の送信装置。
(4)前記メタデータは、前記音声データの音源の特定のエリアを指定するエリア情報、波形等化又はその他のエフェクタ―に利用するための周波数やゲイン、アタック時間のうち少なくとも1つを含む、
上記(1)乃至(3)のいずれかに記載の送信装置。
(5)前記第2の送信部は、各サンプルの振幅に前記メタデータを載せる、
上記(1)乃至(4)のいずれかに記載の送信装置。
(6)前記第2の送信部は、複数のメタデータをあらかじめ決められた順番で各サンプルに載せる、
上記(5)に記載の送信装置。
(7)前記第2の送信部は、既知の振幅からなる復元用のフラグを情報毎に付けて送信する、
上記(5)又は(6)のいずれかに記載の送信装置。
(8)前記第2の送信部は、スペクトル上に前記メタデータを載せる、
上記(1)乃至(4)のいずれかに記載の送信装置。
(9)前記第2の送信部は、所定の帯域の復元用のフラグを付けて送信する、
上記(8)に記載の送信装置。
(10)伝送路中の第1の音声チャンネルから音声データを受信する第1の受信部と、
前記伝送路中の第2の音声チャンネルから前記音声データと同期がとられたメタデータを受信する第2の受信部と、
を具備する受信装置。
(10-1)伝送路中の第1の音声チャンネルから音声データを受信する第1の受信ステップと、
前記伝送路中の第2の音声チャンネルから前記音声データと同期がとられたメタデータを受信する第2の受信ステップと、
を有する受信方法。
(11)同期がとられた前記メタデータを用いて前記音声データを処理する処理部をさらに備える、
上記(10)に記載の受信装置。
(12)前記メタデータは前記音声データの音源の位置情報を含み、
前記処理部は、前記位置情報を利用して前記音声データに対して音場再生処理を実施する、
上記(11)に記載の受信装置。
(13)前記メタデータは復元用のフラグを含み、
前記第2の受信部は、復元用のフラグを用いて前記第2の音声チャンネルの受信信号から前記メタデータを復元する、
上記(10)乃至(12)のいずれかに記載の受信装置。
(14)伝送路中の第1の音声チャンネルに音声データを送信するとともに、前記音声データに関するメタデータを、前記音声データと同期をとりながら前記伝送路中の第2の音声チャンネルに送信する送信装置と、
第1の音声チャンネルから音声データを受信するとともに、第2の音声チャンネルから前記音声データと同期がとられたメタデータを受信して、前記メタデータを用いて前記音声データを処理する受信装置と、
を具備する音響システム。
(15)複数の前記受信装置と、
前記伝送路中の各音声チャンネルの伝送信号を複数の前記受信装置の各々に分配する分岐装置と、
をさらに備える上記(14)に記載の音響システム。
(16)前記メタデータは、前記音声データの音源の位置情報を含み、
前記受信装置は、前記位置情報を利用して前記音声データに対して音場再生処理を実施する、
上記(14)又は(15)のいずれかに記載の音響システム。
(17)前記送信装置は、復元用のフラグを付けて前記メタデータを送信し、
前記受信装置は、復元用のフラグを用いて前記第2の音声チャンネルの受信信号から前記メタデータを復元する、
上記(14)乃至(16)のいずれかに記載の音響システム。
100…音響システム、110…再生装置、111…音声データ再生部
112…メタデータ再生部、113…メタデータエンコード部
120…処理装置、121…音声データ処理部
122…メタデータデコード部、130…スピーカ、150…伝送路
151…音声チャンネル(音声データ伝送用)
152…音声チャンネル(メタデータ伝送用)
400…音響システム、410…再生装置
421~423…処理装置、431~433…スピーカ
440…分岐装置、450…伝送路

Claims (15)

  1. 複数の音声チャンネルからなる伝送路を介して複数の音源の音声を含む音声データを送信する送信装置であって、
    音源毎の音声データを再生する音声データ再生部と、
    前記音声データ再生部が再生した音源毎の音声データを、前記伝送路中の個別の第1の音声チャンネルに送信する第1の送信部と、
    音源毎の前記音声データに付随するメタデータを再生するメタデータ再生部と、
    前記メタデータ再生部によって再生されたメタデータを時間軸方向に連結したデータを、前記伝送路中の音声データの伝送に利用されない第2の音声チャンネルに送信する第2の送信部と、
    を具備する送信装置。
  2. 前記メタデータ再生部は、音声データの時間に合わせてメタデータを付与し、又は、事前に登録された通りに時間に合わせてメタデータを再生し、
    前記第2の送信部は、前記第1の音声チャンネル上で伝送される音声データとの同期をとりながら、メタデータを前記第2の音声チャンネルに送信する、
    請求項1に記載の送信装置。
  3. 前記メタデータは、前記音声データの音源の位置情報を含む、
    請求項1に記載の送信装置。
  4. 前記メタデータは、前記音声データの音源の特定のエリアを指定するエリア情報、波形等化又はその他のエフェクタ―に利用するための周波数やゲイン、アタック時間のうち少なくとも1つを含む、
    請求項1に記載の送信装置。
  5. 前記第2の送信部は、各サンプルの振幅に前記メタデータを載せる、
    請求項1に記載の送信装置。
  6. 前記第2の送信部は、複数のメタデータをあらかじめ決められた順番で各サンプルに載せる、
    請求項5に記載の送信装置。
  7. 前記第2の送信部は、既知の振幅からなる復元用のフラグを情報毎に付けて送信する、
    請求項5に記載の送信装置。
  8. 前記第2の送信部は、スペクトル上に前記メタデータを載せる、
    請求項1に記載の送信装置。
  9. 前記第2の送信部は、所定の帯域の復元用のフラグを付けて送信する、
    請求項8に記載の送信装置。
  10. 複数の音声チャンネルからなる伝送路を介して複数の音源の音声を含む音声データを受信する受信装置であって、
    前記伝送路中の個別の第1の音声チャンネルから音源毎の音声データを受信する第1の受信部と、
    前記伝送路中の音声データの伝送に利用されない第2の音声チャンネルから前記音源毎の前記音声データに付随するメタデータが時間軸方向に連結されたデータを受信する第2の受信部と、
    前記第2の受信部が受信したメタデータに基づいて、前記第1の受信部が受信した前記音源毎の音声データを処理する処理部と、
    を具備する受信装置。
  11. 前記第2の受信部が受信する音源毎のメタデータは前記第1の受信部が受信する音源毎の音声データとの同期が保たれており、
    前記処理部は、同期がとられた前記メタデータを用いて各音源の音声データを処理する、
    請求項10に記載の受信装置。
  12. 前記メタデータは前記音声データの音源の位置情報を含み、
    前記処理部は、各音源の位置情報を利用して各音源の音声データに対して音場再生処理を実施する、
    請求項11に記載の受信装置。
  13. 前記メタデータは復元用のフラグを含み、
    前記第2の受信部は、復元用のフラグを用いて前記第2の音声チャンネルの受信信号から前記メタデータを復元する、
    請求項10に記載の受信装置。
  14. 複数の音声チャンネルからなる伝送路を介して複数の音源の音声を含む音声データを伝送する音響システムであって、
    音源毎の再生した音声データを、前記伝送路中の個別の第1の音声チャンネルに送信するとともに、音源毎の前記音声データに付随するメタデータを再生して時間軸方向に連結したデータを、前記伝送路中の音声データの伝送に利用されない第2の音声チャンネルに送信する送信装置と、
    前記個別の第1の音声チャンネルから音源毎の音声データを受信するとともに、前記第2の音声チャンネルから前記音源毎の音声データに付随するメタデータが時間軸方向に連結されたデータを受信して、前記メタデータを用いて前記音源毎の音声データを処理する受信装置と、
    を具備する音響システム。
  15. 複数の前記受信装置と、
    前記伝送路中の各音声チャンネルの伝送信号を複数の前記受信装置の各々に分配する分岐装置と、
    をさらに備える請求項14に記載の音響システム。
JP2019181456A 2019-10-01 2019-10-01 送信装置及び受信装置、並びに音響システム Active JP7434792B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019181456A JP7434792B2 (ja) 2019-10-01 2019-10-01 送信装置及び受信装置、並びに音響システム
US17/764,355 US12015907B2 (en) 2019-10-01 2020-03-03 Transmission apparatus, reception apparatus, and acoustic system
CN202080067512.3A CN114467136A (zh) 2019-10-01 2020-03-03 传输装置、接收装置和声学系统
PCT/JP2020/008896 WO2021065031A1 (en) 2019-10-01 2020-03-03 Transmission apparatus, reception apparatus, and acoustic system
EP20713107.9A EP4014227A1 (en) 2019-10-01 2020-03-03 Transmission apparatus, reception apparatus, and acoustic system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019181456A JP7434792B2 (ja) 2019-10-01 2019-10-01 送信装置及び受信装置、並びに音響システム

Publications (2)

Publication Number Publication Date
JP2021056450A JP2021056450A (ja) 2021-04-08
JP7434792B2 true JP7434792B2 (ja) 2024-02-21

Family

ID=69904136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019181456A Active JP7434792B2 (ja) 2019-10-01 2019-10-01 送信装置及び受信装置、並びに音響システム

Country Status (5)

Country Link
US (1) US12015907B2 (ja)
EP (1) EP4014227A1 (ja)
JP (1) JP7434792B2 (ja)
CN (1) CN114467136A (ja)
WO (1) WO2021065031A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7343268B2 (ja) * 2018-04-24 2023-09-12 培雄 唐沢 任意信号挿入方法及び任意信号挿入システム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008114432A1 (ja) 2007-03-20 2008-09-25 Fujitsu Limited データ埋め込み装置、データ抽出装置、及び音声通信システム
US20090024235A1 (en) 2007-07-20 2009-01-22 Samsung Electronics Co., Ltd. Method and apparatus for transmitting and processing audio in inter-ic sound format
JP2009239722A (ja) 2008-03-27 2009-10-15 Toshiba Corp 映像モニタシステム、ビデオサーバ、および映像モニタ方法
JP4470322B2 (ja) 1999-03-19 2010-06-02 ソニー株式会社 付加情報埋め込み方法及びその装置並びに付加情報の復調方法及びその復調装置
US20180061130A1 (en) 2016-09-01 2018-03-01 Avid Technology, Inc. Personalized video-based augmented reality
WO2018093690A1 (en) 2016-11-18 2018-05-24 Microsoft Technology Licensing, Llc Frame coding for spatial audio data

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2276796B (en) 1993-04-01 1997-12-10 Sony Corp Audio data communications
JP4551652B2 (ja) 2003-12-02 2010-09-29 ソニー株式会社 音場再生装置及び音場空間再生システム
US8009837B2 (en) * 2004-04-30 2011-08-30 Auro Technologies Nv Multi-channel compatible stereo recording
US8300841B2 (en) * 2005-06-03 2012-10-30 Apple Inc. Techniques for presenting sound effects on a portable media player
CN101933242A (zh) * 2008-08-08 2010-12-29 雅马哈株式会社 调制装置以及解调装置
US9559651B2 (en) * 2013-03-29 2017-01-31 Apple Inc. Metadata for loudness and dynamic range control
EP3301673A1 (en) 2016-09-30 2018-04-04 Nxp B.V. Audio communication method and apparatus
US11412177B1 (en) * 2021-07-12 2022-08-09 Techpoint, Inc. Method and apparatus for transmitting and receiving audio over analog video transmission over a single coaxial cable

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4470322B2 (ja) 1999-03-19 2010-06-02 ソニー株式会社 付加情報埋め込み方法及びその装置並びに付加情報の復調方法及びその復調装置
WO2008114432A1 (ja) 2007-03-20 2008-09-25 Fujitsu Limited データ埋め込み装置、データ抽出装置、及び音声通信システム
US20090024235A1 (en) 2007-07-20 2009-01-22 Samsung Electronics Co., Ltd. Method and apparatus for transmitting and processing audio in inter-ic sound format
JP2009239722A (ja) 2008-03-27 2009-10-15 Toshiba Corp 映像モニタシステム、ビデオサーバ、および映像モニタ方法
US20180061130A1 (en) 2016-09-01 2018-03-01 Avid Technology, Inc. Personalized video-based augmented reality
WO2018093690A1 (en) 2016-11-18 2018-05-24 Microsoft Technology Licensing, Llc Frame coding for spatial audio data

Also Published As

Publication number Publication date
WO2021065031A1 (en) 2021-04-08
EP4014227A1 (en) 2022-06-22
US20220337967A1 (en) 2022-10-20
JP2021056450A (ja) 2021-04-08
CN114467136A (zh) 2022-05-10
US12015907B2 (en) 2024-06-18

Similar Documents

Publication Publication Date Title
JP7251592B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US9544705B2 (en) Sound system and method for capturing and reproducing sounds originating from a plurality of sound sources
US7930048B2 (en) Apparatus and method for controlling a wave field synthesis renderer means with audio objects
JP3232608B2 (ja) 収音装置、再生装置、収音方法および再生方法、および、音信号処理装置
US7668611B2 (en) Apparatus and method for controlling a wave field synthesis rendering means
JP7434792B2 (ja) 送信装置及び受信装置、並びに音響システム
JP5338053B2 (ja) 波面合成信号変換装置および波面合成信号変換方法
CN112218210B (zh) 显示装置、音频播放方法及装置
EP3497939A1 (en) A method and a system for presenting media
JP6204683B2 (ja) 音響信号再生装置、音響信号作成装置
KR101634387B1 (ko) 멀티 채널 오디오 재생 장치 및 시스템
GB2552794A (en) A method of authorising an audio download
US20040030561A1 (en) Method and apparatus for digital signal communication between computer-based multi-channel audio controller and surround sound systems
JP4616736B2 (ja) 収音再生装置
JP2014204316A (ja) 音響信号再生装置、音響信号作成装置
JP5743003B2 (ja) 波面合成信号変換装置および波面合成信号変換方法
JP2001268697A (ja) データ伝送システム、データ伝送装置、データ伝送方法
JP2008147839A (ja) 音声信号生成装置、音場再生装置、音声信号生成方法およびコンピュータプログラム
WO2006070782A1 (ja) マルチチャンネルオーディオシステム、ならびに、マルチチャンネルオーディオ信号多重化装置、復元装置およびプログラム
KR20200023980A (ko) 3차원 입체음향 제공시스템 및 그 방법
Mores 12. Music Studio Studio Technology
KR20200088985A (ko) 음향 출력 장치
Völker et al. The Importance of Early Sound for Recording and Reproduction-Is the Quality of Digital Sound Transmission Sufficient?
KR19980054439U (ko) 서라운드 스테레오 시스템
GB2434067A (en) Low latency monitoring in audio mixing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240122

R151 Written notification of patent or utility model registration

Ref document number: 7434792

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151