JP7140447B2 - 感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置及び方法 - Google Patents

感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置及び方法 Download PDF

Info

Publication number
JP7140447B2
JP7140447B2 JP2019530193A JP2019530193A JP7140447B2 JP 7140447 B2 JP7140447 B2 JP 7140447B2 JP 2019530193 A JP2019530193 A JP 2019530193A JP 2019530193 A JP2019530193 A JP 2019530193A JP 7140447 B2 JP7140447 B2 JP 7140447B2
Authority
JP
Japan
Prior art keywords
signal
force
digital
processing unit
auditory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019530193A
Other languages
English (en)
Other versions
JP2020503540A (ja
Inventor
ロジャー ナウアー,
トーマス ラップ,
ロルフ ヘラット,
マルクス シャウプ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mictic AG
Original Assignee
Mictic AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mictic AG filed Critical Mictic AG
Publication of JP2020503540A publication Critical patent/JP2020503540A/ja
Application granted granted Critical
Publication of JP7140447B2 publication Critical patent/JP7140447B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0033Recording/reproducing or transmission of music for electrophonic musical instruments
    • G10H1/0041Recording/reproducing or transmission of music for electrophonic musical instruments in coded form
    • G10H1/0058Transmission between separate instruments or between individual components of a musical system
    • G10H1/0066Transmission between separate instruments or between individual components of a musical system using a MIDI interface
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/201User input interfaces for electrophonic musical instruments for movement interpretation, i.e. capturing and recognizing a gesture or a specific kind of movement, e.g. to control a musical instrument
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/321Garment sensors, i.e. musical control means with trigger surfaces or joint angle sensors, worn as a garment by the player, e.g. bracelet, intelligent clothing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/155User input interfaces for electrophonic musical instruments
    • G10H2220/395Acceleration sensing or accelerometer use, e.g. 3D movement computation by integration of accelerometer data, angle sensing with respect to the vertical, i.e. gravity sensing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/161Memory and use thereof, in electrophonic musical instruments, e.g. memory map
    • G10H2240/165Memory card, i.e. removable module or card for storing music data for an electrophonic musical instrument
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/171Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments
    • G10H2240/201Physical layer or hardware aspects of transmission to or from an electrophonic musical instrument, e.g. voltage levels, bit streams, code words or symbols over a physical link connecting network nodes or instruments
    • G10H2240/211Wireless transmission, e.g. of music parameters or control data by radio, infrared or ultrasound
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/171Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments
    • G10H2240/281Protocol or standard connector for transmission of analog or digital data to or from an electrophonic musical instrument
    • G10H2240/285USB, i.e. either using a USB plug as power supply or using the USB protocol to exchange data
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/171Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments
    • G10H2240/281Protocol or standard connector for transmission of analog or digital data to or from an electrophonic musical instrument
    • G10H2240/311MIDI transmission
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/171Transmission of musical instrument data, control or status information; Transmission, remote access or control of music data for electrophonic musical instruments
    • G10H2240/281Protocol or standard connector for transmission of analog or digital data to or from an electrophonic musical instrument
    • G10H2240/321Bluetooth
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2250/00Aspects of algorithms or signal processing methods without intrinsic musical character, yet specifically adapted for or used in electrophonic musical processing
    • G10H2250/315Sound category-dependent sound synthesis processes [Gensound] for musical use; Sound category-specific synthesis-controlling parameters or control means therefor
    • G10H2250/371Gensound equipment, i.e. synthesizing sounds produced by man-made devices, e.g. machines

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Electrophonic Musical Instruments (AREA)
  • User Interface Of Digital Computer (AREA)
  • Toys (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

発明の詳細な説明
本発明は、検出可能な力の変換に関し、特に、物体の動きからもたらされる力の、好ましくは娯楽目的のための、聴覚信号への変換に関する。本発明は、特に、少なくとも1つの検出される力を聴覚信号に変換する装置、その装置のための動作センサの使用、及び物体に影響を及ぼす少なくとも1つの検出される力を聴覚信号に変換するそれぞれの方法にさらに関し、すべては独立請求項の前提部分にしたがう。
人の動きからもたらされる検出される力をデジタル信号に変換することができるデバイスは、娯楽業界より知られている。今日のゲーム機は、コントローラの空間的な動きをそのゲーム機によって処理されるデジタル信号に変換することができる、何らかのタイプのコントローラを備えるようになっている。これらのコントローラは、電子デバイスと対話するためのジェスチャ認識及び動作感応性を実装する。
多くの場合、コントローラは、動きの検出から集められた情報を送信する手段によって、ゲーム機などの基地局と無線接続を維持する。
ただし、こうしたあらゆるデバイスに関する1つの大きな問題は、ある一定の閾値を上回るレイテンシがゲーム環境への没入感を損なうことである。
電子娯楽デバイスの分野における1つのさらなる適用例は、検出可能な力信号の音声信号への変換である。米国特許出願公開第2012/0297961号は、打楽器用パッド及び加速度計を有するキーターコントローラを開示している。キーターは、前面に複数の鍵盤を有し、1つの面からネックが延びているピアノ様式のキーボードを備える。さらに、キーボード本体の前面に複数のドラムパッドが配置されている。キーターは、マイクロプロセッサをさらに備え、マイクロプロセッサは、ドラムパッドのそれぞれの状態をスキャンするために配置され、ドラムパッドの状態に対応するMIDIノート信号を生成する。デバイスは、キーターの傾きに関連する情報をマイクロプロセッサに与える加速度計をさらに備える。この情報は、MIDIの連続的なコントローラ値に変換され、その値は外部のシンセサイザ又はコンピュータを制御するためにキーターから出力される。すべてのこれらの機能は、より多彩な楽器を実現するためにキーターに実装される。
一方、米国特許出願公開第2010/0132536号は、一般の人により直感的で利用しやすいミキシングなど音楽的な対話を目的とした音声対話の向上のための、ファイル作成処理及びそれぞれの装置を開示している。さらなる目的として、本発明は、音楽の再生を、テレビ放送のような一方的で静的な環境であることから対話的、動的、及び共同的な娯楽体験へと変更することを目的としている。この目的のため、音声波形歌曲をMIDI時間グリッドと組み合わせる。本発明は、特定の態様として、いわゆる「対話的で共同的なデバイス」さらに備える。
これは、新しい形式の音を実現するために、レトロ(retro)ファイルフォーマットと共にiPhone加速度計を使用することによって、iPhone(登録商標)などのスマートフォンの形態をとってもよい。本書類によって提案される特定の例としては、次いである軸においてiPhoneのそれぞれの動きによってトリガされ得る、特定の音声信号を動きのそれぞれの軸に割り当てることによるiPhoneの加速度計の3軸の使用である。これはなおバックグラウンドで処理されているレトロフィット(retro fit)の歌曲から依存している。
それゆえ、デバイスの動きからもたらされる検出可能な力を聴覚信号に変換をすることを可能にする、電子娯楽分野における使用のためのデバイスの必要性がある。そのようなデバイスは、没入的な音響体験を可能にし、トリガとなる動きにできるだけ密に関連した、生き生きとした音体験を作成すべきことが好ましく、ユーザの裁量で定義可能な所定の音パターンを伴うことが好ましい。
それゆえ、最新技術の少なくとも1つの不利な点を克服する、デバイスの動きからもたらされる少なくとも1つの検出される力を聴覚信号に変換をするための装置を提供するための現在の目的。特に、効果的でありユーザのために没入感の向上を提供する、そのような装置、方法及びそれぞれのセンサの使用を提供することが、本発明の目的である。信頼性があり製造におけるコストが低い、そのようなデバイスを提供することが、本発明の特定のさらなる目的である。
独立請求項の特徴部分により、そのような装置、方法、及びセンサの使用が提供される。
本発明の一態様は、感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置である。装置は力信号形式少なくとも1つの検出される力を生成するための、少なくとも1つのセンサを備える。少なくとも1つのセンサが感知ユニットに含まれることが好ましい。装置は処理ユニットをさらに備え、処理ユニットは力信号をデジタル聴覚信号に変換するように構成される。
処理ユニットも、感知ユニットに含まれることが好ましい。装置は、デジタル聴覚信号を聴覚信号に変換するための出力ユニットをさらに備える。
出力ユニットも感知ユニットに含まれることができるが、代替的に、別個のアイテムの形態で感知ユニットとは別個であってもよい。
出力ユニットは、特定の実施形態において、聴覚信号を出力するそれぞれの手段を有するノートブックパソコン、デスクトップコンピュータ、スマートフォン、及び/又はタブレットなどのコンピュータシステムの一部であってもよい。その基本的な形態において、出力ユニットはデジタル聴覚信号を聴覚信号に変換するためのラウドスピーカ及びそれぞれのインターフェースを備えるスマートフォンである。本発明による、この装置において、デジタル聴覚信号は単一の検出される力の加速度、強度、及び持続時間についての情報を含む。
本発明の観念において、動きからもたらされる力を検出することができる適切な少なくとも1つのセンサは、その最も基本的な実装形態においては、加速度計であり得る。加速度計は、少なくとも加速度計を取り付けられた物体が受ける加速度を測定することができるべきであることが好ましい。加速度計は、その変位が加速度計が受ける加速度の指標として測定され、検出される機械的な動作を電気信号に変換するための圧電素子、ピエゾ抵抗素子、及び/又は容量素子によってデジタル信号に変換される慣性質量を有する。
本発明の文脈においては、デジタル聴覚信号は音声データを含むことを必要としない。最も好ましい実施形態において、デジタル聴覚信号は音声信号生成素子を制御するためのステアリング信号(steering signal)であり、デジタル聴覚信号がMIDI信号であることが、さらにより好ましい。
好ましい実施形態において、加速度計は少なくとも3軸における加速度を測定するように構成される。
特定の実施形態において、デジタル聴覚信号は8ビット信号である。
特定の実施形態において、装置は、機械学習アルゴリズムを適用して、事前学習した動きシーケンスを認識し、その動きシーケンスをデジタル聴覚信号に変換するように構成され、より詳細には、プロセッサが、機械学習アルゴリズムを適用するように構成される。例えば、プロセッサは、力信号を解析することによって装置の動きシーケンスを認識するように構成され、その動きシーケンスを事前学習した動きシーケンスとマッチングすることができる。この特定の例において、事前学習した動きシーケンスは、類似の力センサによって検出されたとなる動きの統計的に関連性のある数に基づいて生成された複数のパラメータから成り得る。これらのパラメータは、装置、並びに検出される力信号及び得られる動きシーケンスを事前学習したものとマッチングするために使用される機械学習アルゴリズムに埋め込まれる。マッチングの際、プロセッサは動きシーケンスを反映する特定のデジタル聴覚信号を生成するように構成される。
特定の実施形態において、装置は、少なくとも1つのセンサ及び処理ユニットが収容される第1のケーシング、並びに出力ユニットが収容される第2のケーシングを備える。この装置は、デジタル聴覚信号を処理ユニットと出力ユニットとの間で転送するためのさらなるデータ交換ユニットを備え、データ交換ユニットは、デジタル聴覚信号を処理ユニットと出力ユニットとの間で無線で転送するように構成されていることが好ましい。特定の実施形態において、データ交換ユニットは、デジタル聴覚信号を処理ユニットと出力ユニットとの間で無線で転送するように構成される。さらなる特定の実施形態において、装置は、デジタル聴覚信号を処理ユニットと出力ユニットとの間で転送するためのポートを備える。特に好ましい実施形態において、デジタル聴覚信号を処理ユニットと出力ユニットとの間で無線で転送することは、Bluetooth(登録商標)通信プロトコルに基づいている。
代替的な実施形態において、センサユニットは少なくとも1つのセンサと処理ユニットとを備え、同じく出力ユニットも一体型のケーシングに配置され、その一体型のケーシングには本発明による装置のすべての構成要素が配置される。この実施形態において、デジタル聴覚信号を処理ユニットと出力ユニットとの間で転送する手段は、2つのユニット間の単純な接続であり得、そのような物理的な接続及び/又は前述の無線通信手段を備えることができる。
特定の実施形態において、出力ユニットはスマートフォンである。驚くべきことに、8ビット信号をデジタル聴覚信号として使用することによって、センサ上の力効果と聴覚信号の実際の出力との間のレイテンシがあるレベルまで低減され、ユーザ及びセンサの動きからもたらされる音声フィードバックについての没入感が最も可能性のある出現を提供するということが見出されている。力信号の検出によって生成されるデジタル聴覚信号に基づく力の感知と音声信号の出力との間のレイテンシは最大で30msであることが好ましい。
8ビット信号をデジタル聴覚信号として使用することにより、本発明の装置に関連して、同等の出力ユニットのより広い帯域幅が使用され得ることがさらに見出されている。これらの出力ユニットはユーザの希望によって聴覚信号の範囲を設けるように構成することができる。
特定の実施形態において、第1のケーシング及び第2のケーシングは互いに着脱可能に組み合わせ可能であるように構成される。ケーシングのいずれか又は両方は、他方のケーシングに取り付けられるための手段を与える素子を備えるようになることが好ましい。そのような手段の例としては、形状嵌め、スナップ嵌め、磁石、及び/又は面ファスナがあり得る。
この特定の実施形態において、いずれか1つ又は両方のケーシングは、共に保持するか、2つのケーシングのうちいずれか1つをさらなる物体に取り付けるようなやり方でユーザが両方のケーシングを組み合わせることを可能にする、それぞれの正側又は負側の嵌め構造を備えるようになり得る。例えば、第1のケーシングが動きを受ける物体に取り付け可能であることが、特に好ましいということが見出されている。特定の実施形態において、第1のケーシングはストラップ、又はラッシュ(lash)を備えるようになることができ、それによって人、好ましくはしなやかな突出に取り付けができ、しなやかな突出の動きからもたらされる力信号を提供する。
特定の実施形態において、第1のケーシングは、第1のケーシングをスポーツ用具などの動きのあるデバイスに着脱可能に取り付け可能にする手段を備える。自転車、ホッケースティック、ゴルフスティック、野球用グローブ及びバット、サッカーのゴールキーパー用の手袋、ランニングシューズ、フェンシング用武具、スキー、スノーボード、スポーツ用銃、ピンポン又はテニスラケット、などから成る群から選択されるスポーツ用具はすべて、本発明による装置によってデジタル聴覚信号、最終的には聴覚信号に変換することができる、特に楽しめる力信号の源を提供することが見出されている。
特定の実施形態において、装置は1つ又は複数のエネルギー源、特に1つ又は複数の再充電可能なエネルギー源を備える。装置は1つ若しくは複数のUSB又はマイクロUSBの充電可能なエネルギー源を、本発明及び前述の実施形態のいずれか1つによる装置を構成するいずれか一方、両方又は任意の数のケーシング上に備えるようになることができる。適切なエネルギー源は当業者によって、マイクロデバイス及びスマートフォン市場で入手可能なリチウムイオン電池から選択することができる。
特定の実施形態において、装置は少なくとも1つの通信システム、好ましくはバスシステム及びそれぞれの接続を備える。さらにより好ましい実施形態において、装置は少なくとも1つのUSBシステムを備える。
特定の実施形態において、処理ユニットは、第1のデジタル情報を力信号次元に、第2のデジタル情報を第2の力信号次元に、第3のデジタル情報を第3の力信号次元に帰属させることによって、特に第1のデジタル情報を加速度に、第2のデジタル情報を強度に、及び第3のデジタル情報を単一の検出される力の持続時間に帰属させることによって、力信号をデジタル聴覚信号に変換するように配置される。この特定の実施形態において、デジタル聴覚信号は上記の3つの値から構成されるMIDI信号などの8ビット信号を含む。本発明の潜在的な適用例において、このような信号の進行は、センサによって検出された元々の動きを思い出させる音が作成されるようにするための、聴覚信号のそれぞれの進行に変換することができる。この聴覚信号はそれを使用する人の希望により、それぞれがどのようにデジタル聴覚信号を聴覚信号に変換するかの特定のアルゴリズムを含む、所定のサウンドパッケージのセットから選ぶことによって、音調、リズム、及び変調を選ぶことができる。最も一般的には、これらのデジタル聴覚信号はMIDI処理可能な信号の形態をとる。
特定の実施形態において、出力ユニットは、音声出力部及び/又は音声出力コネクタをさらに備える。音声出力部は、例えば、ラウドスピーカ及び/又はアンプであり得る。音声出力コネクタの1つの特定の適切な例としては、音声ジャックソケットがあり得る。
特定の実施形態において、装置は、記憶媒体、特にデジタル聴覚信号を記憶するための記憶媒体を備える。記憶装置ユニットは、センサによって検出され、処理ユニットによってデジタル聴覚信号に変換されるデジタル聴覚信号のシーケンスを記憶するように構成され得、又は特定のデジタル聴覚信号がプロセッサによって作り出されているのであれば出力され得るデジタル聴覚信号に帰する一連の聴覚信号を備えるようになることができる。適切な記憶媒体は、装置のいずれか1つの素子上のそれぞれのスロットに嵌るメモリカード及びフラッシュメモリカードなどの取り外し可能なタイプのものであってもよい。特定の例において、そのような取り外し可能な記憶媒体は特定の所定の選択の聴覚信号で満たすことができ、次いでそれぞれのデジタル聴覚信号が検出されると出力され、それによって及び検出された動きにしたがって重なり合わせる雰囲気又は音のタイプを演奏することができる。その逆もまた考えることができるが、又はこの前述の実施形態との組み合わせで使用することもできる。この操作の様式においては、一連のデジタル聴覚信号は、センサによって検出される動きのシーケンスにしたがってメモリカードに記録される。この記録は次いで、別のデバイス又は出力ユニットに転送し、聴覚信号の形式の出力とすることができる。
別の特定の実施形態において、記憶媒体は事前学習した動きシーケンスをパラメータの形式で記憶するように構成される。操作の間、プロセッサは動きシーケンスをマッチングし、記憶された事前学習した動きシーケンスを使用してデジタル聴覚信号に変換する。これは、ユーザの動きシーケンスを事前学習した動きシーケンスとマッチングするために、機械学習アルゴリズムを利用することによって、さらに改善することができる。事前学習した動きシーケンス及び機械学習アルゴリズムを利用することによって、力信号をデジタル聴覚信号に変換する際のレイテンシをよりさらに低減することができる。
特定の実施形態において、パラメータは力を検出することができるセンサによって検出される動きのベクトルから組み立てられる。実際には、例えば、センサは加速度計及び磁気計を備えることができ、動きのそれぞれの軸に1つとして、3つの入力ベクトルまでの特定の動きをそれぞれ与える。これらのベクトルはそのような測定の多数のセットに基づいてパラメータのセットを定義するために使用されるものであり、それらを計算するためにニューラルネットワークを適用する。
次いでパラメータは装置の実行可能なソフトウェアに埋め込まれる固定された定数として使用され、以て動きシーケンスの認識を加速しそれらから得られるデジタル聴覚信号を生成する。
特定の実施形態において、装置は、排除はしないが処理ユニットの操作及び装置の様々な電子機器部品の相互運用に必要とされる記憶バッファを含む、複数の記憶媒体を備えることができる。
特定の実施形態において、記憶バッファは複数の同時的なデジタル聴覚信号を聴覚信号のシーケンスの形式での出力とする所要時間を計るために使用することができる。この操作の様式は3つすべての記録可能な軸において加速度の変化を伴う非常に複雑な動きをそれぞれ音の成分に翻訳することを可能にする。
特定の実施形態において、処理ユニットは連続的に感知された力信号のシーケンスを定義されたアルゴリズムにしたがってデジタル聴覚信号のシーケンスに変換するように構成される。アルゴリズムは例えば、所定の第1の音調の出力を伴う特定の力信号を提供するように構成することができる。例えば、連続的に検出された力信号が右への動きである場合、第1の音調から始まるアルゴリズムはその第2の検出される動きに第2の音調を提供する。これとは対照的に、動きが左へ向かうものである場合、アルゴリズムは第2の検出される動きに左へのその動きを反映する異なる第2の音調を提供する。そのようなアルゴリズムで、異なるタイプの動き及びそれぞれの方向は、認識可能な動きのタイプを作る音パターンをもたらすことができる。特定の実施形態において、アルゴリズムは再現可能なやり方である一定の動きのタイプに同一のロジックを提供するように構成される。この実施形態において、本質的に同一の動きは結果として本質的に同一の聴覚信号となる。代替的に、アルゴリズムは定義された乱数生成にしたがってプログラムされてランダムなパターンを与えることができる。この実施形態において、2つの同一又は本質的に同一の動きは異なる聴覚信号を与える。
特定の実施形態において、力センサは、少なくとも3つのアクセスにおける加速度を感知するように構成される。特定の実施形態において、装置は重力、振動及び動きなどの静的及び/又は動的な加速の力を感知するように構成される加速度計を備える。
特定の実施形態において、装置は、複数の検出される力それぞれから力信号を同時的に生成するための複数のセンサを備える。プロセッサは次いで複数の力信号を1つのデジタル聴覚信号に融合するように構成されることができる。そのようなセンサは例えば、それぞれ単一の動きからデータを集めるジャイロスコープ、加速度計及び磁気計を備える慣性センサであってもよい。この単一の動きは次いで本発明の装置により互いに関連して働くこれらすべてのセンサからのデータに基づいて聴覚信号に翻訳される。
特定の実施形態において、プロセッサは時間間隔毎に処理された力信号から一連のデジタル聴覚信号を生成する。ほとんどの動きは特定の時間間隔で一連の個別の加速度に分割することができる。そのような連続した時間間隔は装置によって登録され、特定の間隔セットルーチンにしたがい、したがって、一連の加速度を反映する聴覚信号及びそれらが起こるそれぞれの時間間隔がもたらされる。換言すると、特定の時間期間における一連の動きは、処理された聴覚デジタル信号に基づいて出力されるリズムに処理することができる。
特定の実施形態において、少なくとも1つのセンサは装置に変化を与える力を検出するように構成されるセンサであり、力は動き及び/又は装置に変化を与える衝撃である。少なくとも1つのセンサはジャイロスコープ、加速度計、及び/又は磁気計から成る群から選択されるセンサであることが好ましい。上述のセンサ素子すべてを備えるセンサが特に適切である。
本発明の実施形態において、処理ユニットは、決定された変換プロトコルに基づいて力信号をデジタル聴覚信号に変換するように構成される。この変化プロトコルは、例えば、特定のMIDI音を特定の動きのタイプに帰属させるように構成される。
好ましい実施形態において、決定された変換プロトコルは一連の変換プロトコルから予め選択された変換プロトコルである。記憶媒体は、例えば、ジャズ、ロックンロール、ヒップホップなどのタイプの音に基づいて、一連の決定された変換プロトコルを記憶することができ、好適な聴覚信号がその選択に基づいて作り出される。
特定の実施形態において、プロセッサは力信号を分類するように構成され、この分類に基づき決定された変換プロトコルに基づいて力信号をデジタル聴覚信号に変換する。例えば、装置の固い物体との衝撃の際、装置の突然の減速が検出され得、装置に例えば、ゴング又はドラム打音のようなそのような衝撃を反映するデジタル聴覚信号を選ばせる。
特定の実施形態において、プロセッサは力信号を5~35msの間のレイテンシ、特に10~20msの間のレイテンシ、さらにより詳細には20msを下回るレイテンシにてデジタル聴覚信号に変換するように構成される。力信号検出と聴覚信号出力との間の合計のレイテンシが30ms以下であることが特に好ましい。
特定の実施形態において、装置はさらなるマイクロフォンを備える。このマイクロフォンは周囲音を記憶媒体に録音するように調節することができ、一方装置によって検出される同時的な動きもまたその記憶媒体に記録される。これは装置が拡張現実イネーブラとして使用される場合の適用例に特に有用である。例えば、テニスの試合の音を記録し、動きから導出されるある一定の力信号の検出に基づく特定の聴覚信号によってさらに拡張することができる。本発明によるセンサユニットは、ネット、プレーヤのラケット、プレーヤの靴、さらにはグラウンドの特定のエリアに取り付け、試合の自然な音を拡張する聴覚信号に翻訳するデジタル聴覚信号を提供することができる。
特定の実施形態において、マイクロフォンは、センサユニットによって検出される動きに基づくデジタル聴覚信号から導出される聴覚信号と同時的に出力ユニットから記録した音のライブ送信を行うように構成される。装置がセンサユニットから着脱可能な出力ユニットを備え、異なる場所に位置する時、そのような用具を用いて、動きのアクションをモニタリングして離れて体験することができる。
特定の例において、ボクシンググローブはセンサユニットを備えることができる。出力ユニットは、動きの力を登録し、それを出力ユニットによって可読でマイクロフォンからのライブ音の体験を拡張するために使用できるデジタル聴覚信号に変形するセンサユニットによって与えられる拡張と同時的に、グローブにおいて直接記録された音を出力することになる。
本発明の装置を用いて、電子的な娯楽の分野におけるデバイスが与えられ、それはその利用の様式において多彩であり、動き活動に伴う出現の程度の拡張をもたらす。
特定の実施形態において、本発明を使用して通常は音のない環境又は音が唯一の特定の動きをモニタリングする手段である環境に音を提供することができる。
本発明の一態様は、装置を前述のように白杖において使用することであり、白杖の動きを反映する聴覚信号を人に提供する。この実施形態において、感知ユニットは白杖の先端内又は先端付近に装着することができ、一方で出力ユニットを目立たないように耳の中に置くことができる。2つのユニット同士の間のBluetooth接続が感知ユニットから耳のマイクロフォンにデジタル聴覚信号を送信し、白杖の振動、抵抗及び動作についてのさらなる情報を与える。これについて、視覚的な障害を持つ人のための白杖をより正確で追加的な情報を与えるように作成することができ、以て視覚的な障害を持つ人に環境を案内することを支援する。特定の実施形態において、さらなるマイクロフォンが周囲音を検出して処理するか、又は白杖を操作する人の聴覚的な認識手段を向上させるようなそれぞれのフィルタを提供する。
本発明の一態様は、物体に影響を及ぼす少なくとも1つの検出される力を聴覚信号に変換する方法である。聴覚信号はそれをトリガした力の性質及びタイプを何かしら反映したものであることが好ましい。この方法は、少なくとも1つの検出される力を聴覚信号に変換するための装置を用意するステップを含む。
前述の装置が用意されることが好ましい。
方法は、少なくとも1つの検出される力から力を生成するための少なくとも1つのセンサと、力信号をデジタル聴覚信号に変換するように構成される処理ユニットと、を物体に取り付けるさらなるステップを含む。センサユニット、及び処理ユニットの両方は、その装置の一体的な部分である。
本発明の方法は物体に影響を及ぼす力をセンサで感知するステップと、力信号をデジタル聴覚信号に変換するステップと、をさらに含む。デジタル聴覚信号はMIDI信号であることが好ましく、さらにより好ましい実施形態において、それと共に発生するレイテンシは30ミリ秒の閾値を下回る。
本発明の方法は、出力ユニットによりデジタル聴覚信号を聴覚信号に変換するステップをさらに含む。
特定の実施形態において、それぞれの力信号を特定のデジタル聴覚信号に帰属させるアルゴリズムが与えられる。
本発明の一態様は、前述の方法を実施するコンピュータ実行可能命令を備えるコンピュータプログラム製品である。特定の実施形態において、コンピュータプログラム製品は本発明の装置に埋め込まれる。
本発明のさらなる一態様は、力信号を出力デバイスによって聴覚信号に変換され得るデジタル聴覚信号に変換するように構成される装置において力信号を生成するために、少なくとも1つの検出される力から力信号を生成するように構成される動きセンサの使用である。センサは、ジャイロスコープ、加速度計、磁気計、コンパス、慣性センサ、絶対方向センサ、及び/又は電磁気センサから成る群から選択される1つ又は複数の力検出センサを備えることが好ましい。
本発明の一態様は、初めに説明したように装置、特に感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置の使用であり、装置は少なくとも1つのセンサ、処理ユニット、出力ユニットを備え、デジタル聴覚信号が単一の検出される力の加速度、強度、及び持続時間についての情報を含み、装置が30ミリ秒を下回るレイテンシ、好ましくは20ミリ秒を下回るレイテンシで、少なくとも1つの検出される力を聴覚信号に変換することができることにおいて特徴付けられる。
本発明の文脈において、拡張現実は、本発明による装置によって作り出されるが、装置によって検出される動きに基づいて生じて処理される音によって豊かにされる特定の動きを伴う自然に発生する音として定義することができる。この聴覚的な拡張現実は、例えば、スマートフォン又は仮想現実ヘッドセットによりもたらされる視覚的な拡張現実と併せて使用することができる。
特定の実施形態において、装置は聴覚信号において反映されるべき動きを有する物体に取り付けられる。
本発明のさらなる一態様は、スポーツ用デバイスで実施される動きを聴覚信号で補完するための前述の装置の使用である。上述の装置は、装置、特にそのような装置の感知ユニットを、ホッケースティック、野球のバット、ピンポンのラケット、フェンシング用武具などのスポーツ用デバイスに締め付ける手段を備える。代替的に、スポーツ用デバイスを補完するための本発明による使用は、またそのようなスポーツ用デバイスに装置に関連する上述のような感知ユニットを設けることによって実現することもできる。この実施形態において、感知ユニット少なくとも1つのセンサはスポーツ用デバイスの動きを検出するように構成される。
本発明のさらなる一態様は、動きをコーチングするための前述の装置の使用である。この目的のため、前述のように感知ユニット及びそれぞれの聴覚信号又は出力ユニットによる出力によって動きが感知される。処理ユニットは配置することができる動きに対するある一定の境界、それによって動きを、ユーザの動きがある境界の範囲内で実施されたかどうかについて、ユーザにフィードバックを与える特定の音パターンをもたらすデジタル聴覚信号に変換することが引き起こされる。この適用例では、ライブにしたがうことができる及び動きのそれぞれの位置について、聴覚フィードバックでサポートされる、動き処理の調和。特定の例において、処理ユニットはある一定の閾値内で起こる動きについての力信号をデジタル聴覚信号への変換することを省略するように構成することができる。閾値を超える、すなわち動きが速すぎるか、又は動作のある一定の範囲内にない、いずれかの場合を意味する場合、処理ユニットはデジタル聴覚信号を感知した力から生成し、次いでそのように定義された境界をユーザが過ぎてしまった正確な時間的なポイント及び動きの向きについてユーザフィードバックを提供する聴覚信号の形態の音をもたらす。
この態様の特定の実施形態において、ある一定の動きパターンは、力センサによって小さくなるように処理ユニットによって認識される。処理ユニットは一連のデジタル聴覚信号を生成し、一連のデジタル聴覚信号は同調的な聴覚信号に対応する。動きが動きパターンから外れる場合、聴覚信号として高い音調が作り出され、したがって理想的な動きパターンを過ぎてしまったことをユーザにフィードバックを与える。
この態様の特定の実施形態において、複数の感知ユニットが複数の物体を、それぞれの1つが個別に、例えば、物体の動きが特定のパターンにしたがっているかどうか、測定するように構成される。1つの可能性のある適用例としては、複数の動きの同時発生のリアルタイムレビューを有することである。この適用例は特にダンスにとって興味深いものである。
この態様の特定の実施形態において、処理ユニットは別個の力センサからそれぞれ生じる複数の力信号を処理し、複数の力信号が互いに対する特定の所定の関連性にしたがうかどうかを解析するように構成される。この態様の代替的な実施形態において、複数の感知ユニットからの力信号を解析するように構成される処理ユニット、及び個別の感知から複数のデジタル聴覚信号を生成すること。
本発明のさらなる一態様は、視覚的な画像を記録することができるビデオカメラに関連する前述の装置の使用である。この使用の特に好ましい実施形態において、ビデオカメラは動きが実施されている間動きを登録及び撮影することができる、いわゆるアクションカムコーダである。この実施形態において、本発明の装置は、動きが実施されアクションカメラによって記録されている間、同時的に動きからの力信号をデジタル聴覚信号へ変換することを調整するように構成される。したがってプロセッサは動きを特定の音パターンと結びつけるように構成される。
この使用と共に、動きから記録されたフィルムを、デバイスの動きと併せて本発明による装置によって作り出された聴覚信号から得られる直接音声トラックと結合することが可能である。結果である組み合わせ生成物は、記録された動画の動きを反映する個別のサウンドトラックを伴う動画である。
したがって、特定の実施形態において、サウンドトラックはユーザによって選ぶことができる所定のデジタル聴覚信号のセットに基づいて生成される。例えば、ハードロック、ジャズ、又はヒップホップ所定のサウンドトラックから選ぶことが可能であり、したがってプロセッサは検出された感知ユニットの動きに基づいて選ばれた音楽スタイルを反映するデジタル聴覚信号を生成する。
本発明の特定の実施形態において、特定の動きパターンは特定のサウンドエフェクトに帰属され、感知ユニットによって検出されていると動的に生成される。動きの衝撃の速度又は強さなどの強度はまた、感知ユニットの測定にしたがって出力ユニットの音量、ピッチ、又はベースの強度によって反映することもできる。
本使用の特定の実施形態において、装置はアクションカメラに取り外し可能に取り付け可能であるように構成され、それによって、カメラが実施するすべての動きを感知ユニットによって記録し、出力ユニットによってリアルタイムに出力することができる。
本使用の特定の実施形態において、本発明による装置は、直接処理して、アップロード、再生、又は将来の使用のために記憶することができるように、動きを同時的に動画ファイル登録に登録するように構成される。この適用例は、さらなる動画処理技能又は手動でのサウンドトラックの追加を必要としない、アクションの動きからサウンドトラックで拡張した動画クリップの作成を可能にする。
本使用の特定の実施形態において、プロセッサは、マイクロフォンによって装置に記録された音を、動きとして、又は動きによって生成されたサウンドトラックを伴う録音目的の、いずれかデジタル聴覚信号へさらに変換するように構成することができる。
特定の好ましい実施形態において、マイクロフォンによって調節されるライブ音が、装置が取り付けられる物体の動きから得られるデジタル聴覚信号で拡張される。
この使用は、自転車、ダウンヒル、スキー、パラグライダー、ランニング、水泳、スポーツカイト他、などのアクションカメラが使用される特にすべての分野と組み合わせて興味深い。本使用の特定の実施形態において、プロセッサから作成されるデジタル聴覚信号によって実現可能な所定のサウンドトラックの選択は特定のタイプのスポーツに適合される。装置が特定のタイプのスポーツに適合されるようになるか、又はすでにそれぞれのスポーツ用具に実装されていることが着想できる。
本使用の特定の実施形態において、ユーザがリアルタイムに及びライブで出力ユニットの出力を体験することができるように、装置は出力ユニットとのBluetooth接続又はケーブル及び音声ジャックによる接続のいずれかの、さらなるイヤホンを備える。
本発明のさらなる一態様は、健康目的のための前述の装置の使用である。装置はヨガ又は太極拳などのリラックスする動きと共に使用することができ、そのような動きのリラックス状態及び瞑想状態の深さを拡張するような対応する瞑想的な聴覚信号トラックを提供する。
本使用の特定の実施形態において、装置は周囲音を除去するためのノイズフィルタを備えるヘッドセットをさらに備えるようになる。これはリラックスの動きの瞑想の練習を、気を散らすような周囲音をマスクし、本発明の装置から生成するそれぞれの音のフィードバックのみを聞くことによって完全に動きに集中することを可能にする。
スポーツ、医療、娯楽、リラクゼーション目的について、本発明の装置の適用例の帯域幅は非常に広い。本発明の装置のすべての適用例に共通することは、動きのタイプ、強度、及び方向を反映するサウンドトラックで動きにリアルタイムの伴奏を付けることを可能にすることである。これはユーザがアクションへ高いレベルの出現に達することを可能にする装置及び装置の使用を提供し、したがって、適用例の分野において多彩な娯楽用デバイスを提供する。
説明した特定の実施形態のうちいずれも、それらが相互に排他的ではないか、代替的であると明らかに述べられない限り、あらゆる組み合わせにおいて、本発明による装置又は装置の使用において実現できることが、当業者には明白である。
以下では、本発明が概略図及び具体例によって、それに限定されることないが、さらに例示される。
例及び図面は、本発明のさらに有利な実施形態を当業者に提供する。
本発明による装置の機能性を示す概略ブロック図である。
図1は、本発明による装置10の機能の2つの様式を表現するブロック図を概略的に示している。図1に示すような装置10は、感知ユニット11、及びこの場合では複数の出力ユニット3に分離することができる。感知ユニット11は、センサ1、又はこの具体的な例の場合では、加速度、回転、磁場のそれぞれについてx、y、zの3軸の9つの軸センサを備えるセンサアレイ1を備える。当技術分野では、線形動作及び重力、空間での回転率(回転、ピッチ、ヨー)、地球の磁場、を測定するための、一体化された加速度計を伴う絶対方向センサ、ジャイロスコープ、及び磁気計を実現するBosch製のBNO055などの適切なセンサが使用可能であり、前記情報を提供し、それをデジタル可読力信号に処理するためにすべての必要とされるセンサを備えるようになり、次いで、この実施形態においては、感知ユニット11の一体的な部分を形成する処理ユニット2によって処理することができる。次いで、処理ユニットは、センサ1によって測定された力信号をデジタル聴覚信号に変換し、次いでそれはBluetoothモジュール15によって送信される。この特定の例において、Bluetoothモデルは力信号を処理するために必要とされるマイクロプロセッサを備えるようになり、したがって、処理ユニット2及びBluetoothモジュール15は両方とも同一の一体的なモジュールの部分となり得る。
本例において、Bluetoothモジュール15からの送信は、MIDIフォーマットのデジタル聴覚信号の形式で行われる。
操作の第1の様式では、装置全体を1つにするように、出力ユニットはこの感知ユニットと組み合わせることができる。本例において、出力ユニット3は感知ユニット11と一体的に形成し得るか、別個の機器であり得るかの、いずれかである。第2の場合、出力ユニット3は感知ユニット11のBluetoothモジュール15からデジタル聴覚信号を受信するためにさらなるBluetoothモジュールを必要とすることになる。出力ユニット3は音作成モジュール16及びラウドスピーカ17を備える。
代替的に、又は追加的に、出力ユニット3’の機能はスマートフォンによって実施することができる。本例において、スマートフォンは出力ユニット3’の形態をとる。スマートフォンは感知ユニット11のBluetoothモジュール15からMIDI信号の形式でデジタル聴覚信号を受信することができるBluetoothモジュール15’を備えるようになる。別個の又は一体的な出力ユニット3の機能性と類似して、スマートフォン出力ユニット3’は次いでMIDIファイルを、ラウドスピーカ17’によって音の出力をもたらす音作成モジュール16’で処理する。一体的な又は別個の出力ユニット3の最も単純な実施形態によって与えられる機能性に追加で、スマートフォン出力ユニット3’は予め選択された範囲の音のタイプから、ラウドスピーカ17’によって異なるタイプの音の出力をもたらす音作成モジュール16’によって次いでMIDIファイルで実行できる特定の変調を選ぶ手段を提供する構成手段18を備えるようになることができる。
この構成モジュール18はスマートフォンアプリによって制御することができ、ユーザに向上した機能性を与える。さらなるスマートフォンリソースを使用することによって、音ファイルを適合するための構成の異なる範囲を提供することが可能になる。これはデジタルダウンロード及び/又はプリセット並びに予め設定される音パターンの形式となることができる。もちろん、スマートフォンはさらなる機能性を提供し、ブロック図には示していないが、画面による視覚的な表現、メモリ記憶装置、及びインターネットとの無線又はUSB接続などすべての現代的なスマートフォンには一体的である。
アプリは、本発明による装置10によって処理される動きとのさらなる対話性を可能にするために、音が生成される際、音を直接操作及び変調する手段をさらに提供する。
特定の例において、ラウドスピーカ17、17’は、近接するラウドスピーカ又はさらなるラウドスピーカと接続することができる音声ジャックによってさらに補完される。
特定の例において、装置がアクションカメラと併せて使用される場合、本発明の装置10による音の処理をアクションカメラによって生成されるフィルムファイルに直接提供するように、音声出力ジャックはアクションカメラの音声入力ジャックを装置10と接続するために使用することができる。
この特定の例において、動き感知ユニットからの力として登録される実際の動きからラウドスピーカ17における聴覚信号の作成までの間のレイテンシは30ミリ秒を下回る。これは音を伴う動きへの深い出現を可能にする。デジタル聴覚信号のBluetooth送信は、最大15ミリ秒のレイテンシを有するが、力の検出及び処理は最大15ミリ秒のレイテンシを有する。
特定の例において、力信号をデジタル聴覚信号に変換するためのプロセッサ上で動作するアルゴリズムは急な、突然の動きと継続的な動きを区別することができる。急な、突然の動きの場合、音によって動きが急であることを伝えるように、レイテンシはできるだけ短く保たれる。驚くべきことに、レイテンシは継続的な動きの変換には関連性があまりないことが見出されている。したがって急な、突然の動き同士を区別するために備え付けられるプロセッサは、検出される力信号をデジタル聴覚信号に変換することにおけるそれぞれの優先順位、急な、突然の動きが優先付けられ、以て出現を損なわない。
以下において、本発明の装置の使用及び実装形態について、特定の例を提示する。
例1:レーザー剣
この特定の例において、本発明の装置はレーザー剣を模するために使用される。レーザー剣は、扱う際に特徴的な「シューッ」という音をもたらす架空のよく知られた人気のあるメディアアイテムである。この例において、本発明の装置は、本発明の装置を着脱可能に取り付けることができる任意のアイテムでこの音を模するために使用される。プロセッサは特に、上述のセットアップにしたがって、箒へのその最も基本的な適用例はそれぞれの感知素子10へ取り付けることによって使用することができる、剣の架空の柄の動き、位置、剣の振り、架空の柄の返し、及び2本の剣の衝突を検出するように構成される。1つ又は複数の出力ユニット3、3’は次いでそれぞれのレーザー剣の音を作成するように構成することができる。特に関連する剣において、戦闘中の2本のライトセイバーがぶつかる際の衝撃とは対照的に、音は剣の柄の振り及び返しを含む連続する、流れるような動きに分割することができる。この適用例におけるプロセッサは2つのタイプの動き同士を区別し、アイテムの剣への衝撃などの即時のサウンドエフェクトを必要とするこの場合に特定の優先順位を提供するように構成される。上述で列挙したようなセンサなどの一般的に使用可能なセンサは、そのような動きを区別することができ、プロセッサがその優先順位付けを実施するために必要とされる情報を提供する。
ユーザ体験を拡張し、レーザー剣のデュオ(duo)への出現を提供するように、複数のセンサの動きを測定しそれぞれの音フィードバックを提供することによって、2つのライトセイバーが音を立てる、又はよりさらには同時的に処理され得ることは、本発明による装置の特定の利点である。
この装置は特定のソフトウェア製品、並びにドップラー効果音(ライトセイバー及びレーザー剣はそれについてよく知られている)をもたらすように構成される特定の音ファイルを備えるようになることができる。
例2:卓球ラケット
レーザー剣のものに非常に類似している、この特定の例では、上述の2つの感知ユニットは卓球ラケットにそれぞれ取り付けられているか一体的に形成されている。代替的に、ピンポン用ボールが感知ユニットを備えることができるが、ピンポン用ボールは軽量であることが特定の必要事項であることを考慮すると、これはラケットに備えるほうがより賢明であろう。
処理ユニットはピンポン用ボールの衝撃、衝撃の強さ、振りの速さ及び方向、並びに打ち方のフォアハンド/バックハンドを感知するように特に構成される。特定の例において、この音はアーケード版のようなコンピュータゲームの形態をとることができる。これはピンポンの試合を観戦及び対戦することをより楽しいものとする。
本発明の装置の特定の使用は、練習目的であってもよい。ある一定の境界内における特定の打ち方の動きの完全性又は動きの非常に敏感な検出は、本発明の装置の動作検出及び感知によってモニタリングすることができる。この例において、例えば、卓球ラケットがある一定の線を越えると、ユーザへの通知を伴う傾きを表すような音、又は動きの正確なレビューを可能にするようなイベントのコーチングをもたらす。
例3:サウンドペインティング(Sound painting)
この例において、1つ又は複数の感知ユニットを使用して、開始位置、動きの速さ、感知ユニットの旋回、並びに特定の動きパターンに対応するライブ音を作成するための感知ユニットのビーティングに対する位置を検出する。ダンス及び/又は芸術的な動きは対応するサウンドエフェクトに直接変換することができる。
特にサウンドペインティングについては、力信号又は一連の力信号を事前学習した動きシーケンスとマッチングするため、及び動きシーケンスを反映する特定のデジタル聴覚信号を生成するために、機械学習が適用され得る。装置は複数の事前学習した動きシーケンスを備えるようになることができ、それぞれはダンスの動き及び特定の聴覚信号としてそれぞれ得られるものを表現している。
この目的のため、ダンスの動きを上述の装置で分析することによってパラメータを生成することができる。これらのパラメータは、ダンスの動きが繰り返し実施されている間、例えばそのような装置の加速度計、磁気計などの様々なセンサ手段から力信号をインデックス付けすることから、得ることができる。これらのパラメータは装置のファームウェアに埋め込まれた後、ダンスの動きから得られる力信号とマッチングすることができ、検出及び音の動きを事前学習した動きシーケンスとマッチングする際、サウンドエフェクトの非常に小さいレイテンシ生成をもたらすことができる。この目的のため、機械学習アルゴリズムを使用することができる。
本発明の装置のさらなる有利な実装形態が当業者によって従属請求項及び本発明の詳細な説明から容易に工夫され得る。
[発明の項目]
[項目1]
感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置であって、
a)前記少なくとも1つの検出される力から力信号を生成するための、少なくとも1つのセンサと、
b)前記力信号をデジタル聴覚信号に変換するように構成される処理ユニットと、
c)前記デジタル聴覚信号を聴覚信号に変換するための出力ユニットと
を備える、前記装置において、
前記デジタル聴覚信号が、単一の検出される力の加速度、強度、及び持続時間についての情報を含む、装置。
[項目2]
前記処理ユニットが、特に機械学習アルゴリズムを適用することによって、前記力信号(複数可)から事前学習した動きシーケンスを認識し、前記動きシーケンスをデジタル聴覚信号、特にMIDI信号に変換するように構成される、項目1に記載の装置。
[項目3]
前記少なくとも1つのセンサ及び前記処理ユニットが収容される第1のケーシングと、前記出力ユニットが収容される第2のケーシングと、処理ユニットと出力ユニットとの間で前記デジタル聴覚信号を転送するためのデータ交換ユニット、特に処理ユニットと出力ユニットとの間で前記デジタル聴覚信号を無線で転送するためのデータ交換ユニットと、を備える、項目1又は2に記載の装置。
[項目4]
前記第1のケーシング及び前記第2のケーシングが、特に形状嵌めの手段で、互いに着脱可能に組み合わせ可能に配置される、項目1~3のいずれか一項に記載の装置。
[項目5]
前記第1のケーシング及び/又は前記第2のケーシングが、前記それぞれのケーシングを1つ又は複数の第3のデバイスに取り付けるための、1つ又は複数の固定デバイスを有する、項目2~4のいずれか一項に記載の装置。
[項目6]
前記装置が、1つ又は複数のエネルギー源、特に1つ又は複数の再充電可能なエネルギー源を備える、項目1~5のいずれか一項に記載の装置。
[項目7]
前記装置が、少なくとも1つの通信システム、特にバスシステム及びそれぞれの接続を備える、項目1~6のいずれか一項に記載の装置。
[項目8]
前記処理ユニットが、第1のデジタル情報を第1の力信号次元に、第2のデジタル情報を第2の力信号次元に、第3のデジタル情報を第3の力信号次元に帰属させることによって、特に、第1のデジタル情報を加速度に、第2のデジタル情報を強度に、及び第3のデジタル情報を単一の検出される力の持続時間に帰属させることによって、前記力信号をデジタル聴覚信号に変換するように配置される、項目1~7のいずれか一項に記載の装置。
[項目9]
前記出力ユニットが、音声出力部及び/又は音声出力コネクタをさらに備える、項目1~8のいずれか一項に記載の装置。
[項目10]
前記装置が、記憶媒体、特にデジタル聴覚信号を記憶するための記憶媒体を備える、項目1~9のいずれか一項に記載の装置。
[項目11]
前記処理ユニットが、連続的に感知された力信号のシーケンスを、定義されたアルゴリズムにしたがってデジタル聴覚信号のシーケンスに変換するように構成される、項目1~10のいずれか一項に記載の装置。
[項目12]
前記力センサが、少なくとも3軸で加速度を感知するように構成される、項目1~11のいずれか一項に記載の装置。
[項目13]
複数の検出される力それぞれから力信号を生成するための複数のセンサを備え、プロセッサが、前記複数の力信号を1つのデジタル聴覚信号に融合するように構成される、項目1~12のいずれか一項に記載の装置。
[項目14]
前記プロセッサが、時間間隔毎に処理された前記力信号から一連のデジタル聴覚信号を生成する、項目13に記載の装置。
[項目15]
前記少なくとも1つのセンサが、前記装置に影響を及ぼす力を検出するように構成されるセンサであり、前記力が、前記装置に影響を及ぼす動き及び/又は衝撃であり、特に、前記少なくとも1つのセンサが、ジャイロスコープ、加速度計、及び磁気計から成る群から選択されるセンサである、項目1~14のいずれか一項に記載の装置。
[項目16]
前記処理ユニットが、決定された変換プロトコル、特に予め選択され決定された変換プロトコルに基づいて、前記力信号をデジタル聴覚信号に変換するように構成される、項目1~15のいずれか一項に記載の装置。
[項目17]
前記プロセッサが、前記力信号を分類し、前記分類に基づいて決定された変換プロトコルに基づいて、前記力信号をデジタル聴覚信号に変換するように構成される、項目1~15のいずれか一項に記載の装置。
[項目18]
前記プロセッサが、前記力信号を、5~35msの間のレイテンシ、特に10~20msの間のレイテンシ、さらにより詳細には20msを下回るレイテンシを伴ってデジタル聴覚信号に変換するように構成される、項目1~17のいずれか一項に記載の装置。
[項目19]
少なくとも1つの検出される力から力信号を生成するように構成される動きセンサの使用であって、特に、センサが、出力デバイスによって聴覚信号に変換され得るデジタル聴覚信号に前記力信号を変換するように構成される装置において力信号を生成するために、ジャイロスコープ、加速度計、磁気計、コンパス、慣性センサ、絶対方向センサ、及び/又は電磁気センサから成る群から選択される1つ又は複数の力検出センサを備える、動きセンサの使用。
[項目20]
物体に影響を及ぼす少なくとも1つの検出される力を聴覚信号に変換する方法であって、
a)少なくとも1つの検出される力を聴覚信号に変換するための装置、特に項目1に記載の装置を用意するステップと、
b)前記少なくとも1つの検出される力から力信号を生成するための少なくとも1つのセンサと、前記力信号をデジタル聴覚信号に変換するように構成される処理ユニットと、を前記物体に取り付けるステップであって、前記少なくとも1つのセンサと前記処理ユニットとの両方が前記装置に一体的な部分である、ステップと、
c)前記センサにより前記物体に影響を及ぼす力を感知し、前記力信号を特に20msを下回るレイテンシを伴ってデジタル聴覚信号に変換するステップと、
d)出力ユニットにより前記デジタル聴覚信号を聴覚信号に変換するステップと
を含む、方法。
[項目21]
それぞれの力信号を特定のデジタル聴覚信号に帰属させるアルゴリズムが与えられる、項目20に記載の方法。

Claims (18)

  1. 感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置であって、
    a)前記少なくとも1つの検出される力から力信号を生成するための、少なくとも1つのセンサと、
    b)前記力信号をデジタル聴覚信号に変換するように構成される処理ユニットと、
    c)前記デジタル聴覚信号を聴覚信号に変換するための出力ユニットと、
    d)前記少なくとも1つのセンサ及び前記処理ユニットが収容される第1のケーシングと、
    e)前記出力ユニットが収容される第2のケーシングと、
    f)処理ユニットと出力ユニットとの間で前記デジタル聴覚信号を無線で転送するためのデータ交換ユニットと、
    を備える、前記装置において、
    前記デジタル聴覚信号が、前記少なくとも1つの検出される力の加速度、強度、及び持続時間についての情報を含み、
    前記処理ユニットが、前記力信号を、5~35msの間の範囲のレイテンシを伴ってデジタル聴覚信号に変換するように構成されており、
    前記デジタル聴覚信号がMIDI信号である、装置。
  2. 前記処理ユニットが、特に機械学習アルゴリズムを適用することによって、前記力信号(複数可)から事前学習した動きシーケンスを認識し、前記動きシーケンスをMIDI信号に変換するように構成される、請求項1に記載の装置。
  3. 前記第1のケーシング及び前記第2のケーシングが、特に形状嵌めの手段で、互いに着脱可能に組み合わせ可能に配置される、請求項1~2のいずれか一項に記載の装置。
  4. 前記第1のケーシング及び/又は前記第2のケーシングが、前記それぞれのケーシングを1つ又は複数の第3のデバイスに取り付けるための、1つ又は複数の固定デバイスを有する、請求項2~3のいずれか一項に記載の装置。
  5. 前記装置が、1つ又は複数のエネルギー源、特に1つ又は複数の再充電可能なエネルギー源を備える、請求項1~4のいずれか一項に記載の装置。
  6. 前記装置が、少なくとも1つの通信システム、特にバスシステム及びそれぞれの接続を備える、請求項1~5のいずれか一項に記載の装置。
  7. 前記処理ユニットが、第1のデジタル情報を第1の力信号次元に、第2のデジタル情報を第2の力信号次元に、第3のデジタル情報を第3の力信号次元に帰属させることによって、特に、第1のデジタル情報を加速度に、第2のデジタル情報を強度に、及び第3のデジタル情報を単一の検出される力の持続時間に帰属させることによって、前記力信号をデジタル聴覚信号に変換するように配置される、請求項1~6のいずれか一項に記載の装置。
  8. 前記出力ユニットが、音声出力部及び/又は音声出力コネクタをさらに備える、請求項1~7のいずれか一項に記載の装置。
  9. 前記装置が、記憶媒体、特にデジタル聴覚信号を記憶するための記憶媒体を備える、請求項1~8のいずれか一項に記載の装置。
  10. 前記処理ユニットが、連続的に感知された力信号のシーケンスを、定義されたアルゴリズムにしたがってデジタル聴覚信号のシーケンスに変換するように構成される、請求項1~9のいずれか一項に記載の装置。
  11. 前記センサが、少なくとも3軸で加速度を感知するように構成される、請求項1~10のいずれか一項に記載の装置。
  12. 複数の検出される力それぞれから力信号を生成するための複数のセンサを備え、前記処理ユニットが、前記複数の力信号を1つのデジタル聴覚信号に融合するように構成される、請求項1~11のいずれか一項に記載の装置。
  13. 前記処理ユニットが、時間間隔毎に処理された前記力信号から一連のデジタル聴覚信号を生成する、請求項12に記載の装置。
  14. 前記少なくとも1つのセンサが、前記装置に影響を及ぼす力を検出するように構成されるセンサであり、前記力が、前記装置に影響を及ぼす動き及び/又は衝撃であり、特に、前記少なくとも1つのセンサが、ジャイロスコープ、加速度計、及び磁気計から成る群から選択されるセンサである、請求項1~13のいずれか一項に記載の装置。
  15. 前記処理ユニットが、決定された変換プロトコル、特に予め選択され決定された変換プロトコルに基づいて、前記力信号をデジタル聴覚信号に変換するように構成される、請求項1~14のいずれか一項に記載の装置。
  16. 前記処理ユニットが、前記力信号を分類し、前記分類に基づいて決定された変換プロトコルに基づいて、前記力信号をデジタル聴覚信号に変換するように構成される、請求項1~14のいずれか一項に記載の装置。
  17. 物体に影響を及ぼす少なくとも1つの検出される力を聴覚信号に変換するための請求項1に記載の装置によって実行される方法であって、
    c)前記センサにより前記物体に影響を及ぼす力を感知し、前記処理ユニットにより前記力信号を特に20msを下回るレイテンシを伴ってデジタル聴覚信号に変換するステップと、
    d)前記出力ユニットにより前記デジタル聴覚信号を聴覚信号に変換するステップと
    を含む、方法。
  18. それぞれの力信号を特定のデジタル聴覚信号に帰属させるアルゴリズムが与えられる、請求項17に記載の方法。
JP2019530193A 2016-12-25 2017-12-22 感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置及び方法 Active JP7140447B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CH01742/16 2016-12-25
CH17422016 2016-12-25
PCT/EP2017/084490 WO2018115488A1 (en) 2016-12-25 2017-12-22 Arrangement and method for the conversion of at least one detected force from the movement of a sensing unit into an auditory signal

Publications (2)

Publication Number Publication Date
JP2020503540A JP2020503540A (ja) 2020-01-30
JP7140447B2 true JP7140447B2 (ja) 2022-09-21

Family

ID=61027687

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019530193A Active JP7140447B2 (ja) 2016-12-25 2017-12-22 感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置及び方法

Country Status (8)

Country Link
US (2) US11393437B2 (ja)
EP (1) EP3559940B1 (ja)
JP (1) JP7140447B2 (ja)
KR (1) KR102534258B1 (ja)
CN (1) CN110352454A (ja)
BR (1) BR112019012956A2 (ja)
CA (1) CA3048296C (ja)
WO (1) WO2018115488A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111729248A (zh) * 2019-03-25 2020-10-02 明跃国际健康科技股份有限公司 结合云端的打击健身装置及其侦测方法
WO2021013324A1 (en) 2019-07-19 2021-01-28 Mictic Ag Emulating a virtual instrument from a continuous movement via a midi protocol
US20210157844A1 (en) * 2019-11-22 2021-05-27 Nike, Inc. Motion-based media creation
EP3926298A1 (fr) * 2020-06-17 2021-12-22 ETA SA Manufacture Horlogère Suisse Instrument de navigation avec compensation d'inclinaison et méthode associée

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001195059A (ja) 2000-01-11 2001-07-19 Yamaha Corp 演奏インターフェイス
JP2004053930A (ja) 2002-07-19 2004-02-19 Yamaha Corp 楽曲再生システム、楽曲編集システム、楽曲編集装置、楽曲編集端末、楽曲再生端末及び楽曲編集装置の制御方法

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07113832B2 (ja) * 1990-01-09 1995-12-06 ヤマハ株式会社 電子楽器
US4980519A (en) * 1990-03-02 1990-12-25 The Board Of Trustees Of The Leland Stanford Jr. Univ. Three dimensional baton and gesture sensor
US5541358A (en) * 1993-03-26 1996-07-30 Yamaha Corporation Position-based controller for electronic musical instrument
JP3307162B2 (ja) 1995-05-15 2002-07-24 ヤマハ株式会社 音楽制御装置
JP3627321B2 (ja) 1995-10-02 2005-03-09 ヤマハ株式会社 演奏制御装置
US6610917B2 (en) * 1998-05-15 2003-08-26 Lester F. Ludwig Activity indication, external source, and processing loop provisions for driven vibrating-element environments
EP1130570B1 (en) * 2000-01-11 2007-10-10 Yamaha Corporation Apparatus and method for detecting performer's motion to interactively control performance of music or the like
EP1195742B1 (en) * 2000-09-05 2008-02-27 Yamaha Corporation System and method for generating tone in response to movement of portable terminal
JP4694705B2 (ja) * 2001-02-23 2011-06-08 ヤマハ株式会社 楽音制御システム
US6388183B1 (en) * 2001-05-07 2002-05-14 Leh Labs, L.L.C. Virtual musical instruments with user selectable and controllable mapping of position input to sound output
US7038122B2 (en) * 2001-05-08 2006-05-02 Yamaha Corporation Musical tone generation control system, musical tone generation control method, musical tone generation control apparatus, operating terminal, musical tone generation control program and storage medium storing musical tone generation control program
KR100668298B1 (ko) 2004-03-26 2007-01-12 삼성전자주식회사 움직임에 기반한 소리 발생 방법 및 장치
KR100617719B1 (ko) * 2004-08-27 2006-08-28 삼성전자주식회사 이동 통신 단말기에서 움직임에 종속한 사운드를 생성하는장치 및 방법
KR100738072B1 (ko) * 2005-02-01 2007-07-12 삼성전자주식회사 움직임 기반 소리 설정장치와 소리 발생장치 및 움직임기반 소리 설정방법과 소리 발생방법
KR20070009298A (ko) * 2005-07-15 2007-01-18 삼성전자주식회사 모션 감지에 의하여 효과 음향을 재생하고 제어하는 방법및 장치
US8618404B2 (en) 2007-03-18 2013-12-31 Sean Patrick O'Dwyer File creation process, file format and file playback apparatus enabling advanced audio interaction and collaboration capabilities
US20080250914A1 (en) * 2007-04-13 2008-10-16 Julia Christine Reinhart System, method and software for detecting signals generated by one or more sensors and translating those signals into auditory, visual or kinesthetic expression
KR200443563Y1 (ko) * 2007-05-28 2009-02-24 주식회사 한국센시스 가속도 센서를 채용한 음악기구
US7939742B2 (en) * 2009-02-19 2011-05-10 Will Glaser Musical instrument with digitally controlled virtual frets
US8426719B2 (en) 2011-05-25 2013-04-23 Inmusic Brands, Inc. Keytar controller with percussion pads and accelerometer
CN103531188B (zh) * 2012-07-03 2015-12-02 上海斐讯数据通信技术有限公司 一种midi音乐发生器和演奏midi音乐的系统及方法
US9430997B2 (en) * 2015-01-08 2016-08-30 Muzik LLC Interactive instruments and other striking objects
US20170344113A1 (en) * 2015-01-19 2017-11-30 Kurv Music Ltd. Hand-held controller for a computer, a control system for a computer and a computer system
US9812029B1 (en) * 2016-10-12 2017-11-07 Brianna Henry Evaluating a position of a musical instrument
US10152958B1 (en) * 2018-04-05 2018-12-11 Martin J Sheely Electronic musical performance controller based on vector length and orientation
US10748515B2 (en) * 2018-12-21 2020-08-18 Electronic Arts Inc. Enhanced real-time audio generation via cloud-based virtualized orchestra
US10643593B1 (en) * 2019-06-04 2020-05-05 Electronic Arts Inc. Prediction-based communication latency elimination in a distributed virtualized orchestra

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001195059A (ja) 2000-01-11 2001-07-19 Yamaha Corp 演奏インターフェイス
JP2004053930A (ja) 2002-07-19 2004-02-19 Yamaha Corp 楽曲再生システム、楽曲編集システム、楽曲編集装置、楽曲編集端末、楽曲再生端末及び楽曲編集装置の制御方法

Also Published As

Publication number Publication date
EP3559940A1 (en) 2019-10-30
JP2020503540A (ja) 2020-01-30
WO2018115488A1 (en) 2018-06-28
EP3559940B1 (en) 2022-12-07
KR102534258B1 (ko) 2023-05-18
US20220351708A1 (en) 2022-11-03
US11393437B2 (en) 2022-07-19
US20190355335A1 (en) 2019-11-21
CA3048296C (en) 2023-06-13
KR20190111936A (ko) 2019-10-02
CA3048296A1 (en) 2018-06-28
CN110352454A (zh) 2019-10-18
BR112019012956A2 (pt) 2022-03-03

Similar Documents

Publication Publication Date Title
JP7140447B2 (ja) 感知ユニットの動きからの少なくとも1つの検出される力を聴覚信号に変換するための装置及び方法
JP5325771B2 (ja) 加速度計データに基づいて、振りの衝撃の時期および/または振りの強度を検出するシステム、方法、装置、およびプログラム
JP4757089B2 (ja) 音楽演奏プログラムおよび音楽演奏装置
US9501158B2 (en) Storage medium having stored thereon information processing program and information processing apparatus
KR101599303B1 (ko) 가상 현실 기반의 야구 게임 시스템 및 그것을 이용한 게임 진행 방법
TWI618048B (zh) Music and video production system
JP2018011201A (ja) 情報処理装置、情報処理方法、およびプログラム
CN110610692A (zh) 用于声学应用的交互式打击装置
US11901062B2 (en) Utilizing athletic activities to augment audible compositions
JPWO2020090223A1 (ja) 情報処理装置、情報処理方法及び記録媒体
JP2014151027A (ja) 運動及び/またはゲーム装置
WO2020026443A1 (ja) 触覚表現用振動制御システム、触覚表現用振動発生装置、触覚表現用振動制御装置、および触覚表現用振動制御方法
KR20060054678A (ko) 음향에 동기 된 캐릭터 동영상 구현 장치 및 구현 방법
JP6571701B2 (ja) 体感装置、およびその方法
Freed et al. Musical applications and design techniques for the gametrak tethered spatial position controller
JP6603734B2 (ja) ゲームプログラムおよびゲーム装置
JP7137944B2 (ja) プログラム及びコンピュータシステム
JP5036010B2 (ja) 音楽演奏プログラム、音楽演奏装置、音楽演奏システム、および音楽演奏方法
JP7319786B2 (ja) ゲームプログラム、記録媒体、ゲーム処理方法
JP2020077094A (ja) 触覚情報提示システム
KR20110116279A (ko) 모션 인식 기반 대전 시뮬레이션 시스템
GB2552744A (en) Musical sound and image generation system
JP2019126416A (ja) ゲームプログラムおよびゲーム機

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190626

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190912

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210525

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220905

R150 Certificate of patent or registration of utility model

Ref document number: 7140447

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150