JP7347421B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP7347421B2
JP7347421B2 JP2020528803A JP2020528803A JP7347421B2 JP 7347421 B2 JP7347421 B2 JP 7347421B2 JP 2020528803 A JP2020528803 A JP 2020528803A JP 2020528803 A JP2020528803 A JP 2020528803A JP 7347421 B2 JP7347421 B2 JP 7347421B2
Authority
JP
Japan
Prior art keywords
signal
vibration
frequency
processing
partial signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020528803A
Other languages
English (en)
Other versions
JPWO2020008931A1 (ja
Inventor
猛史 荻田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020008931A1 publication Critical patent/JPWO2020008931A1/ja
Application granted granted Critical
Publication of JP7347421B2 publication Critical patent/JP7347421B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/06Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
    • G10L21/16Transforming into a non-visible representation
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03GCONTROL OF AMPLIFICATION
    • H03G5/00Tone control or bandwidth control in amplifiers
    • H03G5/16Automatic control
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03GCONTROL OF AMPLIFICATION
    • H03G9/00Combinations of two or more types of control, e.g. gain control and tone control
    • H03G9/02Combinations of two or more types of control, e.g. gain control and tone control in untuned amplifiers
    • H03G9/12Combinations of two or more types of control, e.g. gain control and tone control in untuned amplifiers having semiconductor devices
    • H03G9/18Combinations of two or more types of control, e.g. gain control and tone control in untuned amplifiers having semiconductor devices for tone control and volume expansion or compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2400/00Loudspeakers
    • H04R2400/03Transducers capable of generating both sound as well as tactile vibration, e.g. as used in cellular phones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/01Aspects of volume control, not necessarily automatic, in sound systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/03Synergistic effects of band splitting and sub-band processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10General applications
    • H04R2499/11Transducers incorporated or for use in hand-held devices, e.g. mobile phones, PDA's, camera's

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Otolaryngology (AREA)
  • General Health & Medical Sciences (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Details Of Audible-Bandwidth Transducers (AREA)
  • Tone Control, Compression And Expansion, Limiting Amplitude (AREA)
  • General Physics & Mathematics (AREA)
  • Soundproofing, Sound Blocking, And Sound Damping (AREA)

Description

本開示は、情報処理装置、情報処理方法及びプログラムに関する。
従来、振動などの触覚刺激をユーザに提示するための技術が各種提案されている。例えば、下記特許文献1には、音声信号に基づく音声出力と共に音声信号の低周波数領域を振動として出力することで、ビートを強調し臨場感を向上させる技術が開示されている。
特許第4467601号公報
しかし、上記特許文献1に開示された技術では、単に音声信号に基づいてビートが抽出されて、抽出されたビートが振動として出力されるのみであった。振動を出力する振動装置の特性によって出力される振動の特性が異なり得ること等を考慮すれば、上記特許文献1に開示された技術には未だ向上の余地があると言える。
そこで、本開示では、振動提示を伴うユーザ体験をより向上させることが可能な仕組みを提供する。
本開示によれば、振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させる制御部、を備える情報処理装置が提供される。
また、本開示によれば、振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させること、を含む、プロセッサにより実行される情報処理方法が提供される。
また、本開示によれば、コンピュータを、振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させる制御部、として機能させるためのプログラムが提供される。
以上説明したように本開示によれば、振動提示を伴うユーザ体験をより向上させることが可能な仕組みが提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係るコンテンツ提供システムの概要を説明するための図である。 本実施形態に係る情報処理装置のハードウェア構成の一例を示すブロック図である。 本実施形態に係る情報処理装置の機能構成の一例を示すブロック図である。 本実施形態に係る情報処理装置により実行される信号処理の処理フローの一例を示すブロック図である。 本実施形態に係る振動装置の周波数―加速度特性の一例を示すグラフである。 本実施形態に係る情報処理装置により実行されるDRC処理の一例を説明するための図である。 本実施形態に係る情報処理装置による信号処理により形成される波形の一例を示す図である。 本実施形態に係る情報処理装置の処理パラメータの設定例を示す図である。 本実施形態に係る情報処理装置により生成される振動データの一例を示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.概要
2.構成例
2.1.ハードウェア構成例
2.2.機能構成例
3.信号処理
4.パラメータ設定
5.まとめ
<<1.概要>>
まず、図1を参照して、本開示の一実施形態に係るコンテンツ提供システムの概要を説明する。
図1は、本実施形態に係るコンテンツ提供システム1の概要を説明するための図である。図1に示した例では、コンテンツ提供システム1は、音出力装置10及び端末装置20を含む。
音出力装置10は、音を出力する装置である。図1に示した例では、音出力装置10はヘッドホンである。他にも、音出力装置10は、イヤホン又はスピーカ等として実現されてもよい。音出力装置10は、端末装置20と有線又は無線により接続され、端末装置20から受信したデータに基づいて音を出力する。
端末装置20は、コンテンツの出力を制御する装置である。図1に示した例では、端末装置20はスマートフォンである。他にも、端末装置20は、PC(Personal Computer)又はタブレット端末等として実現されてもよい。また、コンテンツとは、音楽又は映画等の、少なくとも音データを含むデータである。コンテンツは、音データに加えて画像(動画像/静止画像)データを含んでいてもよい。
端末装置20は、情報処理装置100、振動装置200、及び表示装置300としての機能を有する。図1では、情報処理装置100、振動装置200及び表示装置300が端末装置20として一体的に構成される例が示されているが、各々は別個の装置として構成されてもよい。以下、各装置について説明する。
振動装置200は、振動提示対象に対し振動を提示する装置である。振動提示対象としては、人間、動物、又はロボット等の任意の物体が挙げられる。図1に示した例では、振動提示対象はユーザであり、以下では振動提示対象はユーザであるものとして説明する。振動装置200は、振動装置200に接触するユーザに対し振動を提示する。図1に示した例では、振動装置200は、端末装置20を持つユーザの手に対し、振動を提示する。振動装置200は、情報処理装置100と有線又は無線により接続され、情報処理装置100から受信したデータに基づいて振動を出力する。
表示装置300は、画像(静止画像/動画像)を出力する装置である。表示装置300は、例えば、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置、レーザープロジェクタ、LEDプロジェクタ又はランプ等として実現される。表示装置300は、情報処理装置100と有線又は無線により接続され、情報処理装置100から受信したデータに基づいて画像を出力する。
情報処理装置100は、コンテンツ提供システム1の全体を制御する装置である。情報処理装置100は、音出力装置10、振動装置200及び表示装置300を協働させて、コンテンツを出力させる。例えば、情報処理装置100は、表示装置300により画像を表示させると共に、画像と同期した音を音出力装置10から出力させ、音と同期した振動を振動装置200から出力させる。例えば、情報処理装置100は、低音部分(即ち、低周波数の音)を振動として出力させることで、聞き取りにくい低音部分を体感により補強し、ユーザ体験を向上させることができる。
一般的には、人間が耳で聞きとり可能な音の周波数は、20Hz~2万Hz程度と言われている。また、人間の耳の感度特性(即ち、聞こえやすさ)は、周波数によって異なる。例えば、低い周波数の音の感度は低く、音として認識されにくくなる。グラフ30は、音出力装置10から出力される音の特性の一例を示すグラフであり、横軸は周波数であり、縦軸は音圧レベルである。一般的に、20Hz~2万Hzと言われる可聴周波数帯31のうち、一例として100Hz以上の周波数帯32の音の感度は高く、100Hz未満の周波数帯33の音の感度は低いものとする。この場合、周波数帯33の音が、振動として振動装置200から出力されることが望ましい。これにより、ユーザは、手に振動を感じることを、低音を聞いているように錯覚することで、コンテンツを高臨場感で楽しむことができる。
ただし、音出力装置10によって、出力される音の特性(以下、音出力特性とも称する)は異なり得る。例えば、ヘッドホンは低音部分を比較的出力しやすい一方で、イヤホンは低音部分を比較的出力しにくい。同様に、振動装置200によって、出力される振動の特性(以下、振動出力特性とも称する)は異なり得る。例えば、振動装置200によって、振動しやすい周波数及び振動しにくい周波数は異なり得る。
これらの出力特性が何ら考慮されずにコンテンツが出力される場合、ユーザ体験が劣化し得る。例えば、音出力装置10によって出力可能な周波数の下限が500Hzである場合、振動装置200から100Hz以下の振動が出力されると、音と振動との周波数差が大きくなる。この場合、ユーザは、手に感じる振動を低音として錯覚しにくくなり、音と振動とを別個の刺激として知覚してしまう。そうすると、低音部分は体感により補強されず、むしろ無関係とも思える振動が提供されることとなるので、ユーザ体験が劣化する。
このような事情に鑑み、本実施形態に係る情報処理装置100を提案するに至った。本実施形態に係る情報処理装置100は、コンテンツの提供に関与する出力装置の出力特性に応じて、音データに対応する振動を振動装置200に出力させる。コンテンツの提供に関与する出力装置の出力特性とは、例えば音出力特性及び/又は振動出力特性である。これにより、上述したユーザ体験の劣化を防止し、ユーザ体験をより向上させることが可能となる。
以上、本実施形態に係るコンテンツ提供システム1の概要を説明した。以下、コンテンツ提供システム1の詳細を説明する。
<<2.構成例>>
<2.1.ハードウェア構成例>
以下、図2を参照して、情報処理装置100のハードウェア構成例を説明する。図2は、本実施形態に係る情報処理装置100のハードウェア構成の一例を示すブロック図である。図2に示すように、情報処理装置100は、RAM(Random Access Memory)101、CPU(Central Processing Unit)103、DSP/アンプ105及びGPU(Graphics Processing Unit)107を含む。
RAM101は、情報を記憶する記憶部の一例である。RAM101は、コンテンツのデータを記憶し、CPU103に出力する。このような記憶部としての機能は、RAM101に代えて、又は共に、HDD等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現されてもよい。
CPU103は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置100内の動作全般を制御する、制御部の一例である。CPU103は、RAM101から出力されたコンテンツのデータを処理して、音データ及び振動データをDSP/アンプ105に出力し、画像データをGPU107に出力する。その際、CPU103は、音出力装置10の音出力特性及び/又は振動装置200の振動出力特性に基づいて、音データに対応する振動を振動装置200に出力させる制御を行う。このような制御部としての機能は、CPU103に代えて、又は共に、電気回路、DSP又はASIC等により実現されてもよい。なお、振動データとは、振動装置200から出力されるべき振動の振幅及び周波数等の特性を示す情報を少なくとも含む。振動データは、振動装置200を駆動させるための駆動信号であってもよい。
DSP/アンプ105は、信号に所定の処理を適用し、信号を増幅する機能を有する。DSP/アンプ105は、CPU103から出力された信号を増幅して、対応する出力装置に出力する。例えば、DSP/アンプ105は、音データ(例えば、音信号)を増幅して音出力装置10に出力する。音出力装置10は、DSP/アンプ105から出力された音信号に基づいて音を出力する。また、DSP/アンプ105は、振動データ(例えば、駆動信号)を増幅して振動装置200に出力する。振動装置200は、DSP/アンプ105から出力された振動データに基づいて駆動することで、振動を出力する。なお、CPU103が行う信号処理の少なくとも一部は、DSP/アンプ105により実行されてもよい。
GPU107は、画像処理装置として機能し、表示装置300に表示させる画面の描画等の処理を行う。GPU107は、CPU103から出力された画像データを処理して、処理後の画像データを表示装置300に出力する。表示装置300は、GPU107から出力された画像データに基づいて表示を行う。
<2.2.機能構成例>
続いて、図3を参照して、情報処理装置100の機能構成例を説明する。図3は、本実施形態に係る情報処理装置100の機能構成の一例を示すブロック図である。図3に示すように、情報処理装置100は、取得部110、生成部120、画像処理部130及び出力制御部140を含む。なお、取得部110、生成部120及び出力制御部140は、CPU103及び/又はDSP/アンプ105において実装され、画像処理部130はGPU107において実装され得る。
取得部110は、コンテンツのデータを取得する機能を有する。取得部110は、RAM101等の情報処理装置100が内蔵する記憶部からコンテンツのデータを取得してもよいし、有線又は無線の通信路を介して外部装置からコンテンツのデータを取得してもよい。取得部110は、取得したコンテンツのデータのうち、音データを生成部120及び出力制御部140に出力し、画像データを画像処理部130に出力する。
生成部120は、コンテンツの音データに基づいて振動データを生成する機能を有する。例えば、生成部120は、音データに所定の処理を適用することで、音データを振動データに変換する。生成部120は、音出力装置10の音出力特性及び/又は振動装置200の振動出力特性に基づいて、音データから振動データを生成する。そして、生成部120は、生成した振動データを出力制御部140に出力する。
画像処理部130は、コンテンツの画像データに基づいて、表示装置300に出力させるための画面の描画等の処理を行う機能を有する。画像処理部130は、処理後の画像データを出力制御部140に出力する。
出力制御部140は、各種の出力装置による情報の出力を制御する機能を有する。出力制御部140は、取得部110から出力された音データに基づく音を音出力装置10により出力させる。出力制御部140は、生成部120から出力された振動データに基づく振動を振動装置200により出力させる。出力制御部140は、画像処理部130から出力された画像データに基づく画像を表示装置300により出力させる。
<<3.信号処理>>
以下、図4を参照しながら、情報処理装置100による信号処理の一例を説明する。図4は、本実施形態に係る情報処理装置100により実行される信号処理の処理フローの一例を示すブロック図である。図4に示すように、音データは、そのまま音データとして取り扱われつつも、振動データ生成のためにも用いられる。以下では、振動データの生成について主に説明する。
(前処理)
・インバースボリューム処理151
図4に示すように、まず、生成部120は、音データに対しインバースボリューム処理151を適用する。インバースボリューム処理とは、音データに適用された音量設定と逆向きの音量設定を適用する処理である。音データに適用された音量設定とは、例えば、全体的な音量の増減及び周波数帯毎の音量の増減の設定であり、ユーザ又は音出力装置10により設定され得る。生成部120は、音量設定を参照して、増加された音量を減じ、減じられた音量を増加する等、音データの音量を元の音量に戻すための振幅制御を行う。インバースボリューム処理は、音量をノーマライズする処理を含んでいてもよい。
・音声カットフィルタ152
次いで、生成部120は、インバースボリューム処理151を適用後の音データに対し、音声カットフィルタ152を適用する。音声カットフィルタ152は、人間の声に相当する周波数帯域を音データから除去するフィルタである。人の声が振動として出力されることはユーザにとって不快に感じられることが多いところ、かかるフィルタにより不快感を軽減することが可能となる。
これらの前処理の後、生成部120は、第1の周波数に基づいて、振動装置200を振動させるための振動データを生成する。第1の周波数は、超低音用の処理が適用される信号(第1の部分信号とも称する)の上限を規定する周波数である。また、第1の周波数は、低音部分用の処理が適用される信号(第2の部分信号とも称する)の周波数の下限を規定する周波数でもある。さらに、生成部120は、第2の周波数に基づいて、振動装置200を振動させるための振動データを生成する。第2の周波数は、第2の部分信号の周波数の上限を規定する周波数である。生成部120は、第1の部分信号及び第2の部分信号にそれぞれ異なる信号処理を適用する。以下、第1の部分信号に適用される超低音部分用の処理と、第2の部分信号に適用される低音部分用の処理とについて、詳しく説明する。
(超低音部分用の処理)
・超低音抽出処理161
生成部120は、音声カットフィルタ152を適用後の音データに対し、超低音抽出処理161を適用する。超低音抽出処理161とは、音データのうち超低音部分の信号である第1の部分信号を抽出する処理である。詳しくは、生成部120は、音データから第1の周波数以下の信号である第1の部分信号を抽出する。
第1の周波数とは、振動装置200の振動出力特性に対応する周波数である。例えば、第1の周波数は、振動装置200の共振周波数(又は共振点)に対応する周波数(共振周波数と同一又は近い周波数)である。振動装置200の振動出力特性とは、例えば、周波数―加速度特性、共振周波数、出力可能な周波数の上限/下限、出力可能な振動の大きさ、及び応答速度等を含む、振動装置200により出力される振動の特性を示す概念である。振動装置200の振動出力特性の一例を、図5に示す。図5は、本実施形態に係る振動装置200の周波数―加速度特性の一例を示すグラフである。本グラフの横軸は周波数であり、縦軸は加速度である。典型的には、振動装置200は、共振周波数以下の周波数の振動を出力しにくい。また、共振周波数より小さいある周波数(出力可能な周波数の下限)以下では、振動が出力されない。図5に示した例では、振動装置200の共振周波数は100Hzであり、100Hz以下の周波数では加速度(即ち、振動)が出にくいことが示されている。そこで、振動しにくい共振周波数以下の音データに対して、それ専用の超低音部分用の処理が適用されることで、振動出力特性に適合する振動データを生成することが可能となる。なお、共振周波数が複数ある場合、第1の周波数は、最も低い共振周波数に対応する周波数である。
・エンベロープ化処理162
生成部120は、超低音抽出処理161により抽出された第1の部分信号に対し、エンベロープ化処理162を適用する。エンベロープ化処理162とは、音データの振幅の外形を取り出す処理である。エンベロープ化処理162が適用されることで、振動データが振幅方向に飽和(saturation)することが防止される。
・アタック音抽出処理163
生成部120は、エンベロープ化処理162を適用後の第1の部分信号に対し、アタック音抽出処理163を適用する。アタック音抽出処理163とは、アタック音を抽出する処理である。アタック音とは、立ち上がりの音である。アタック音は、例えば、拍を成すビートに相当する。
アタック音抽出処理163としては、上記特許文献1に開示されているビート抽出処理と同様の処理が用いられ得る。簡単に説明すると、生成部120は、入力された音データの各時刻におけるスペクトルを算出し、単位時間当たりのスペクトルの時間微分値を算出する。そして、生成部120は、スペクトルの時間微分値の波形のピーク値と所定の閾値とを比較し、当該閾値を超えるピークを有する波形を、アタック音成分として抽出する。この抽出されたアタック音成分には、アタック音のタイミング及びそのときのアタック音の強度の情報が含まれる。そして、生成部120は、抽出したアタック音成分にエンベロープをかけ、アタック音のタイミングで立ち上がり、立ち上がり速度より遅い速度で減衰する波形を生成して出力する。
・DRC(Dynamic Range Control)処理164
生成部120は、エンベロープ化処理162を適用後の第1の部分信号に対し、DRC処理164を適用する。DRC処理164は、入力信号の振幅と出力信号の振幅との間に所定の関係が成立するように、振幅を制御する処理である。DRC処理164により、典型的には、音の立下りが強調された余韻成分が生成される。DRC処理164の一例を、図6を参照して説明する。
図6は、本実施形態に係る情報処理装置100により実行されるDRC処理164の一例を説明するための図である。図6のグラフ40は、DRC処理164における入力信号の振幅と出力信号の振幅との関係の一例を示しており、横軸は入力信号の振幅であり、縦軸は出力信号の振幅である。グラフ40によれば、入力信号と出力信号とで振幅の最小値及び最大値は一致し、最小値と最大値との間では出力信号の振幅は入力信号の振幅よりも大きい。このようなDRC処理164が適用される場合、例えば入力信号41が出力信号42に変換される。入力信号41と出力信号42とを比較すると、出力信号42の立下りの方が緩やかであり、ピークに達してから0になるまでの時間が長いことが分かる。このように、DRC処理164が適用されることで、音の立下り時間が長引くので、音の余韻が強調される。
・加算器165
加算器165は、アタック音抽出処理163を適用後の第1の部分信号とDRC処理164を適用後の第1の部分信号とを合成(例えば、加算)する。つまり、加算器165は、抽出されたアタック音成分と余韻成分とを加算する。これにより、アタック音に余韻を付加することが可能となる。なお、加算器165は、各々の信号に重みを付して加算してもよい。
なお、第1の部分信号に対して適用される、エンベロープ化処理162、アタック音抽出処理163、DRC処理164及び加算器165による加算は、第1の処理とも称される。
・ゼロ点検出処理166
生成部120は、加算器165による加算を適用後の第1の部分信号に対し、ゼロ点検出処理166を適用する。ゼロ点検出処理166とは、入力された信号の振幅が所定の閾値以下となるタイミングを検出する処理である。所定の閾値は、典型的にはゼロであるが、ゼロ以外の正数であってもよい。ゼロ点検出処理166は、検出結果として、所定の閾値以下である期間は0ではない所定の正数(例えば、1)を出力し、所定の閾値を超える場合には0を出力する。例えば、ゼロ点検出処理166は、入力された信号の振幅が0である場合に1を出力し、入力された信号の振幅が0を超える場合に0を出力する。ゼロ点検出処理166による検出結果は、後述する低音部分用処理において用いられる。
・正弦波発振器167
正弦波発振器167は、所定の周波数の正弦波を発振する。正弦波発振器167は、振動装置200の振動出力特性に対応する周波数の正弦波を発振する。例えば、正弦波発振器167は、第1の周波数の正弦波を発振する。
・乗算器168
乗算器168は、第1の部分信号に対し第1の処理を適用した結果と正弦波発振器167により発振された第1の周波数の正弦波とを乗算する。超低音抽出処理161に関し上記説明したように、振動装置200は、第1の周波数以下の周波数では振動しにくい。この点、乗算器168による乗算により、振動しにくい超低音部分を第1の周波数で疑似的に表現することが可能となる。
(低音部分用の処理)
・低音抽出処理171
生成部120は、音声カットフィルタ152を適用後の音データに対し、低音抽出処理171を適用する。低音抽出処理171とは、音データのうち低音部分の信号(以下、第2の部分信号とも称する)を抽出する処理である。詳しくは、生成部120は、音データから第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出する。第2の周波数は、第1の周波数よりも大きい周波数である。第2の周波数は、任意に設定可能である。ただし、第2の周波数とは、人間の耳の感度特性、及び音出力装置10の音出力特性に対応する周波数であることが望ましい。
例えば、第2の周波数は、人間の可聴周波数帯の下限よりも高い周波数であることが望ましい。換言すると、第2の部分信号は、人間の可聴周波数帯を含む音データから生成されることが望ましい。人間の可聴周波数帯の下限とは、例えば、20Hzである。これにより、音データに基づき音出力装置10から出力される音のうちユーザが聞き取り可能な周波数帯と、音データの低音部分に基づいて出力される振動の周波数帯とが重複することとなる。よって、音と振動とを別個の刺激として知覚してしまうことが防止されて、ユーザ体験の劣化を防止することが可能となる。
また、第2の周波数は、音出力装置10が出力可能な周波数帯の下限よりも高い周波数であることが望ましい。換言すると、第2の部分信号は、音出力装置10が出力可能な周波数帯を含む音データから生成されることが望ましい。これにより、音出力装置10から出力される音の周波数帯と振動装置200から出力される振動の周波数帯とが重複することとなる。よって、音と振動とを別個の刺激として知覚してしまうことが防止されて、ユーザ体験の劣化を防止することが可能となる。
・音源調整処理172
生成部120は、低音抽出処理171により抽出された第2の部分信号に対し、音源調整処理172を適用する。音源調整処理172は、例えば入力された信号の振幅を増幅させる処理を行う。増幅率は、任意の実数である。なお、音源調整処理172において、増幅が実施されなくてもよい。
・エンベロープ化処理173
生成部120は、低音抽出処理171により抽出された第2の部分信号に対し、エンベロープ化処理173を適用する。エンベロープ化処理173の処理内容は、エンベロープ化処理162と同様である。
・アタック音抽出処理174
生成部120は、エンベロープ化処理173を適用後の第2の部分信号に対し、アタック音抽出処理174を適用する。アタック音抽出処理174の処理内容は、アタック音抽出処理163と同様である。
・DRC処理175
生成部120は、エンベロープ化処理173を適用後の第2の部分信号に対し、DRC処理175を適用する。DRC処理175の処理内容は、DRC処理164と同様である。
・加算器176
加算器176は、アタック音抽出処理174を適用後の第2の部分信号とDRC処理175を適用後の第2の部分信号とを加算する。加算器176の処理内容は、加算器165と同様である。
なお、第2の部分信号に対して適用される、エンベロープ化処理173、アタック音抽出処理174、DRC処理175及び加算器176による加算は、第2の処理とも称される。ここで、図4に示した例では、第1の部分信号に対して適用される第1の処理と第2の部分信号に対して適用される第2の処理とで、含む処理の種別が同一であるが、本技術は係る例に限定されない。例えば、第1の処理及び第2の処理は、互いに異なる処理を含んでいてもよい。また、第1の処理と第2の処理とで、同一の処理におけるパラメータは異なっていてもよい。例えば、アタック音抽出処理163とアタック音抽出処理174とで、アタック音成分を抽出する際の閾値が異なっていてもよい。
・乗算器177
乗算器177は、第2の部分信号に対し第2の処理を適用した結果と音源調整処理172により増幅された第2の部分信号とを乗算する。さらに、乗算器177は、ゼロ点検出処理166による検出結果を乗算する。
(合成処理)
・加算器153
加算器153は、超低音部分用の処理が適用された第1の部分信号と低音部分用の処理が適用された第2の部分信号とを合成(例えば、加算)することで、振動データを生成する。ここで、第2の部分信号には、ゼロ点検出処理166による検出結果が乗算されている。そのため、加算器153は、超低音部分用の処理が適用された第1の部分信号と、低音部分用の処理が適用された第2の部分信号のうち、超低音部分用の処理が適用された第1の部分信号の振幅が所定の閾値以下である期間の信号と、を合成することとなる。例えば、加算器153は、超低音部分用の処理が適用された第1の部分信号と、低音部分用の処理が適用された第2の部分信号のうち、超低音部分用の処理が適用された第1の部分信号の振幅がゼロである期間の信号と、を合成する。これにより、合成によって振動データが振幅方向に飽和することが防止される。なお、加算器153は、各々の信号に重みを付して加算してもよい。
以上説明した処理により、音データから振動データが生成される。
(波形の一例)
図7は、本実施形態に係る情報処理装置100による信号処理により形成される波形の一例を示す図である。図7に示す各々の波形の横軸は時間であり、縦軸は中央を0とする振幅である。波形51は、生成部120に入力される音データの波形の一例である。波形52は、低音抽出処理171により抽出された第2の部分信号の波形の一例である。波形53は、エンベロープ化処理173が適用された第2の部分信号の波形の一例である。波形54は、アタック音抽出処理174により抽出されたアタック音成分の波形の一例である。波形55は、DRC処理175により抽出される余韻成分の波形の一例である。波形56は、加算器176によりアタック音成分と余韻成分とが加算された第2の部分信号の波形の一例である。
<<4.パラメータ設定>>
生成部120は、様々な情報に基づいて、音データに対応する振動を振動装置200に出力させる。そして、生成部120は、様々な情報に基づいて、振動データの生成のための処理パラメータを可変に設定する。例えば、生成部120は、図4を参照して上記説明した各種処理のパラメータを可変に設定する。これにより、ユーザによる手動のパラメータ設定を要さずに、最適な振動をユーザに提示することが可能となる。以下、パラメータ設定の設定基準の一例を説明する。
・設定基準の一例
生成部120は、振動装置200の振動出力特性に基づいて、音データに対応する振動を振動装置200に出力させる。即ち、生成部120は、振動装置200の振動出力特性に基づいて、処理パラメータを設定する。例えば、生成部120は、振動装置200の共振周波数に基づいて第1の周波数を設定する。また、生成部120は、振動装置200(又は振動装置200を含む端末装置20)が折り畳み可能であるか否か、折り畳み可能である場合には開いているか閉じているか、及び振動装置200の温度に基づいて、処理パラメータを設定してもよい。これらにより、振動出力特性は変化し得るためである。このような振動出力特性に基づく設定により、振動装置200の特性に応じた適切な振動を振動装置200に出力させることが可能となる。
生成部120は、音出力装置10の音出力特性に基づいて、音データに対応する振動を振動装置200に出力させ得る。即ち、生成部120は、音出力装置10の音出力特性に基づいて、処理パラメータを設定し得る。例えば、生成部120は、音出力特性に基づいて、第2の周波数を設定する。具体的には、生成部120は、音出力装置10が出力可能な周波数帯の下限よりも高い周波数に、第2の周波数を設定する。他にも、生成部120は、音出力装置10が出力可能な音量、又は出力可能な周波数等に基づいて、処理パラメータを設定してもよい。このような設定により、音出力装置10の音出力特性に応じた適切な振動を振動装置200に出力させることが可能となる。
生成部120は、音データの特性に基づいて、音データに対応する振動を振動装置200に出力させ得る。即ち、生成部120は、音データの特性に基づいて、処理パラメータを設定し得る。音データの特性としては、映画の音データであるか、音楽の音データであるか、ゲームの音データであるか又はニュースの音データである等の、音データを含むコンテンツの属性が挙げられる。例えば、生成部120は、これらコンテンツの属性に応じてアタック音成分の抽出のためのパラメータや、余韻成分抽出のためのパラメータを設定する。また、音データの特性としては、音量が挙げられる。例えば、生成部120は、ユーザによる音量調整を元に戻す処理を、インバースボリューム処理151により行う。このような設定により、音データの特性に応じた適切な振動を振動装置200に出力させることが可能となる。
生成部120は、振動装置200による振動の提供を受けるユーザの特性に基づいて、音データに対応する振動を振動装置200に出力させ得る。即ち、生成部120は、振動装置200による振動の提供を受けるユーザの特性に基づいて、処理パラメータを設定し得る。例えば、生成部120は、振動を知覚しすいユーザや振動に慣れたユーザに対しては強い振動が出力されるよう処理パラメータを設定し、そうでないユーザに対しては弱い振動が出力されるよう処理パラメータを設定する。ユーザの特性としては、年齢及び性別等のユーザの属性が挙げられる。他にも、ユーザの属性としては、ドラマを見る頻度、音楽を聴く頻度、及びゲームをする頻度等のコンテンツに対する趣向が挙げられる。このような設定により、ユーザの特性に応じた適切な振動を振動装置200に出力させることが可能となる。
生成部120は、振動装置200による振動の提供を受けるユーザによる振動装置200の使用状況に基づいて、音データに対応する振動を振動装置200に出力させ得る。即ち、生成部120は、振動装置200による振動の提供を受けるユーザによる振動装置200の使用状況に基づいて、処理パラメータを設定し得る。使用状況としては、振動装置200の使用時間の長さ、振動装置200の使用時刻、振動装置200を使用中のユーザの動作が挙げられる。例えば、生成部120は、振動装置200の使用時間が長いほどユーザが振動に慣れてくるので、強い振動が出力されるよう処理パラメータを設定する。例えば、生成部120は、振動装置200の使用時刻が夜である場合、弱い振動が出力されるよう処理パラメータを設定する。例えば、生成部120は、ユーザが歩きながら又は電車に乗りながら振動装置200を使用する場合、振動が知覚されにくいので強い振動が出力されるよう処理パラメータを設定する。一方で、生成部120は、ユーザが座りながら振動装置200を使用する場合、振動が知覚されやすいので弱い振動が出力されるよう処理パラメータを設定する。このような設定により、ユーザによる振動装置200の使用状況に応じた適切な振動を振動装置200に出力させることが可能となる。
・パラメータ設定の具体例
以下、図8を参照しながら、処理パラメータの具体的な設定例を説明する。
図8は、本実施形態に係る情報処理装置100の処理パラメータの設定例を示す図である。図8では、一例として、設定例A~Cが示されている。設定例Aは、音出力装置10がヘッドホンであり、コンテンツが音楽である場合の設定例である。設定例Bは、音出力装置10がスピーカであり、コンテンツが音楽である場合の設定例である。設定例Cは、音出力装置10がヘッドホンであり、コンテンツが映画である場合の設定例である。
まず、設定例Aについて説明する。低音抽出処理171においては、100Hz~500Hzの信号が第2の部分信号として抽出される。音源調整処理172では、入力信号が3倍に増幅される。アタック音抽出処理174では、入力信号が6倍に増幅されてからアタック音成分が抽出される。DRC処理175では、図示のように入出力差が比較的大きい入出力関係の処理が適用される。加算器176では、アタック音抽出処理174からの出力とDRC処理175からの出力とが、1対0.8で重み付け加算される。また、超低音抽出処理161においては、0Hz~100Hzの信号が第1の部分信号として抽出される。アタック音抽出処理163では、入力信号が6倍に増幅されてからアタック音成分が抽出される。DRC処理164では、図示のように入出力差が比較的大きい入出力関係の処理が適用される。加算器165では、アタック音抽出処理163からの出力とDRC処理164からの出力とが、1対0.8で重み付け加算される。
次いで、設定例Bについて説明する。低音抽出処理171においては、200Hz~500Hzの信号が第2の部分信号として抽出される。音源調整処理172では、入力信号が3倍に増幅される。アタック音抽出処理174では、入力信号が6倍に増幅されてからアタック音成分が抽出される。DRC処理175では、図示のように入出力差が比較的大きい入出力関係の処理が適用される。加算器176では、アタック音抽出処理174からの出力とDRC処理175からの出力とが、1対0.8で重み付け加算される。また、超低音部分用の処理は、実施されない。
次に、設定例Cについて説明する。低音抽出処理171においては、100Hz~500Hzの信号が第2の部分信号として抽出される。音源調整処理172では、入力信号が2倍に増幅される。アタック音抽出処理174では、入力信号が3倍に増幅されてからアタック音成分が抽出される。DRC処理175では、図示のように入出力差が比較的小さい入出力関係の処理が適用される。加算器176では、アタック音抽出処理174からの出力とDRC処理175からの出力とが、1対1で重み付け加算される。また、超低音抽出処理161においては、0Hz~100Hzの信号が第1の部分信号として抽出される。アタック音抽出処理163では、入力信号が3倍に増幅されてからアタック音成分が抽出される。DRC処理164では、図示のように入出力差が比較的小さい入出力関係の処理が適用される。加算器165では、アタック音抽出処理163からの出力とDRC処理164からの出力とが、1対1で重み付け加算される。
・パラメータ設定に対応する波形の具体例
以下、図9を参照しながら、パラメータ設定に対応する波形の具体例を説明する。
図9は、本実施形態に係る情報処理装置100により生成される振動データの一例を示す図である。図9に示す波形61は、生成部120に入力される音データの波形の一例であり、波形62~波形64は、波形61に示した音データから生成される振動データの波形の一例である。波形62は、音出力装置10が低音を出力しにくい音出力特性を有するイヤホンであり、振動装置200が50Hz以下の振動を出力できないという振動出力特性を有し、コンテンツが映画である場合の波形である。波形63は、音出力装置10が低音を出力しやすい音出力特性を有するヘッドホンであり、振動装置200が50Hz以下の振動を出力できないという振動出力特性を有し、コンテンツがゲームである場合の波形である。波形64は、音出力装置10が低音を出力しやすい音出力特性を有するヘッドホンであり、振動装置200が50Hz以下の振動を出力できないという振動出力特性を有し、コンテンツが音楽である場合の波形である。
<<5.まとめ>>
以上、図1~図9を参照して、本開示の一実施形態について詳細に説明した。上記説明したように、本実施形態に係る情報処理装置100は、振動装置200の振動出力特性に基づいて、音データに対応する振動を振動装置200に出力させる。情報処理装置100は、音データに対応する振動を振動装置200に出力させる際に、振動出力特性を考慮することで、例えば出力される音の周波数と振動の周波数とが離隔することを防止する等して、ユーザ体験の劣化を防止することができる。そして、聞き取りにくい低音部分を、より確実に振動の体感により補強し、ユーザ体験を向上させることが可能となる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
なお、本明細書において説明した各装置は、単独の装置として実現されてもよく、一部または全部が別々の装置として実現されても良い。例えば、図3に示した情報処理装置100の機能構成例のうち、生成部120が、取得部110、画像処理部130及び出力制御部140とネットワーク等で接続されたサーバ等の装置に備えられていても良い。また、例えば、図2に示した情報処理装置100、振動装置200、表示装置300及び音出力装置10のうち少なくとも2つの装置は、ひとつの装置として実現されてもよい。例えば、図1に示したように、情報処理装置100、振動装置200及び表示装置300が、端末装置20として実現されてもよい。
また、本明細書において説明した各装置による一連の処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記憶媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、コンピュータによる実行時にRAMに読み込まれ、CPUなどのプロセッサにより実行される。上記記憶媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記憶媒体を用いずに、例えばネットワークを介して配信されてもよい。
また、本明細書において図4に示した処理フローを用いて説明した処理は、必ずしも図示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させる制御部、
を備える情報処理装置。
(2)
前記制御部は、前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成する、前記(1)に記載の情報処理装置。
(3)
前記制御部は、前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成する、前記(2)に記載の情報処理装置。
(4)
前記制御部は、前記信号処理が適用された前記第1の部分信号と、前記信号処理が適用された前記第2の部分信号のうち、前記信号処理が適用された前記第1の部分信号の振幅が所定の閾値以下である期間の信号と、を合成する、前記(3)に記載の情報処理装置。
(5)
前記信号処理は、前記第1の部分信号に対し第1の処理を適用した結果と前記第1の周波数の正弦波との乗算を含む、前記(3)又は(4)に記載の情報処理装置。
(6)
前記信号処理は、前記第2の部分信号に対し第2の処理を適用した結果と前記第2の部分信号が増幅された信号との乗算を含む、前記(5)に記載の情報処理装置。
(7)
前記第1の処理及び前記第2の処理は、エンベロープ化処理を含む、前記(6)に記載の情報処理装置。
(8)
前記第1の処理及び前記第2の処理は、アタック音の抽出及びDRC処理の適用、並びに前記アタック音の抽出結果と前記DRC処理結果との合成を含む、前記(6)又は(7)に記載の情報処理装置。
(9)
前記制御部は、前記音データに対し、前記音データに適用された音量設定と逆向きの音量設定を適用する、前記(3)~(8)のいずれか一項に記載の情報処理装置。
(10)
前記第1の周波数は、前記振動装置の共振周波数に対応する周波数である、前記(3)~(9)のいずれか一項に記載の情報処理装置。
(11)
前記第2の周波数は、人間の可聴周波数帯の下限よりも高い周波数である、前記(3)~(10)のいずれか一項に記載の情報処理装置。
(12)
前記第2の周波数は、前記音データに基づき音を出力する音出力装置が出力可能な周波数帯の下限よりも高い周波数である、前記(3)~(11)のいずれか一項に記載の情報処理装置。
(13)
前記制御部は、前記音データに基づき音を出力する音出力装置の音出力特性に基づいて、前記音データに対応する振動を前記振動装置に出力させる、前記(3)~(12)のいずれか一項に記載の情報処理装置。
(14)
前記制御部は、前記音データの特性に基づいて、前記音データに対応する振動を前記振動装置に出力させる、前記(3)~(13)のいずれか一項に記載の情報処理装置。
(15)
前記制御部は、前記振動装置による振動の提供を受けるユーザの特性に基づいて、前記音データに対応する振動を前記振動装置に出力させる、前記(3)~(14)のいずれか一項に記載の情報処理装置。
(16)
前記制御部は、前記振動装置による振動の提供を受けるユーザによる前記振動装置の使用状況に基づいて、前記音データに対応する振動を前記振動装置に出力させる、前記(3)~(15)のいずれか一項に記載の情報処理装置。
(17)
振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させること、
を含む、プロセッサにより実行される情報処理方法。
(18)
コンピュータを、
振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させる制御部、
として機能させるためのプログラム。
1 コンテンツ提供システム
10 音出力装置
20 端末装置
100 情報処理装置
101 RAM
103 CPU
105 DSP/アンプ
107 GPU
110 取得部
120 生成部
130 画像処理部
140 出力制御部
200 振動装置
300 表示装置

Claims (12)

  1. 振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させる制御部、を備え
    前記制御部は、
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成し、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成し、
    前記信号処理が適用された前記第1の部分信号と、前記信号処理が適用された前記第2の部分信号のうち、前記信号処理が適用された前記第1の部分信号の振幅が所定の閾値以下である期間の信号と、を合成する、
    情報処理装置。
  2. 振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させる制御部、を備え
    前記制御部は、
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成し、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成し、
    前記信号処理は、前記第1の部分信号に対し第1の処理を適用した結果と前記第1の周波数の正弦波との乗算を含む、
    情報処理装置。
  3. 前記信号処理は、前記第2の部分信号に対し第2の処理を適用した結果と前記第2の部分信号が増幅された信号との乗算を含む、
    請求項に記載の情報処理装置。
  4. 前記第1の処理及び前記第2の処理は、エンベロープ化処理を含む、
    請求項に記載の情報処理装置。
  5. 前記第1の処理及び前記第2の処理は、アタック音の抽出及びDRC処理の適用、並びに前記アタック音の抽出結果と前記DRC処理結果との合成を含む、
    請求項に記載の情報処理装置。
  6. 振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させる制御部、を備え
    前記制御部は、
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成し、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成し、
    前記音データに対し、前記音データに適用された音量設定と逆向きの音量設定を適用する、
    情報処理装置。
  7. 振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させること
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成することと、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成することと、
    前記信号処理が適用された前記第1の部分信号と、前記信号処理が適用された前記第2の部分信号のうち、前記信号処理が適用された前記第1の部分信号の振幅が所定の閾値以下である期間の信号と、を合成することと、
    を含む、プロセッサにより実行される情報処理方法。
  8. 振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させること
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成することと、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成することと、
    を含
    前記信号処理は、前記第1の部分信号に対し第1の処理を適用した結果と前記第1の周波数の正弦波との乗算を含む、
    プロセッサにより実行される情報処理方法。
  9. 振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させること
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成することと、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成することと、
    前記音データに対し、前記音データに適用された音量設定と逆向きの音量設定を適用することと、
    を含む、プロセッサにより実行される情報処理方法。
  10. コンピュータを、
    振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させ、
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成し、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成し、
    前記信号処理が適用された前記第1の部分信号と、前記信号処理が適用された前記第2の部分信号のうち、前記信号処理が適用された前記第1の部分信号の振幅が所定の閾値以下である期間の信号と、を合成する制御部、
    として機能させるためのプログラム。
  11. コンピュータを、
    振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させ、
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成し、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成する制御部、
    として機能させるためのプログラムであって、
    前記信号処理は、前記第1の部分信号に対し第1の処理を適用した結果と前記第1の周波数の正弦波との乗算を含む、
    プログラム
  12. コンピュータを、
    振動装置の振動出力特性に基づいて、音データに対応する振動を前記振動装置に出力させ、
    前記振動出力特性に対応する第1の周波数に基づいて、前記振動装置を振動させるための振動データを生成し、
    前記音データから前記第1の周波数以下の信号である第1の部分信号を抽出し、前記音データから前記第1の周波数を超え第2の周波数以下の信号である第2の部分信号を抽出し、前記第1の部分信号及び前記第2の部分信号にそれぞれ異なる信号処理を適用して合成することで、前記振動データを生成し、
    前記音データに対し、前記音データに適用された音量設定と逆向きの音量設定を適用する制御部、
    として機能させるためのプログラム。
JP2020528803A 2018-07-04 2019-06-24 情報処理装置、情報処理方法及びプログラム Active JP7347421B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018127718 2018-07-04
JP2018127718 2018-07-04
PCT/JP2019/024911 WO2020008931A1 (ja) 2018-07-04 2019-06-24 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2020008931A1 JPWO2020008931A1 (ja) 2021-08-05
JP7347421B2 true JP7347421B2 (ja) 2023-09-20

Family

ID=69059654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020528803A Active JP7347421B2 (ja) 2018-07-04 2019-06-24 情報処理装置、情報処理方法及びプログラム

Country Status (4)

Country Link
US (1) US11653146B2 (ja)
JP (1) JP7347421B2 (ja)
DE (1) DE112019003350T5 (ja)
WO (1) WO2020008931A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021157279A (ja) * 2020-03-25 2021-10-07 豊田合成株式会社 触感提示装置、振動信号、及び記憶媒体
CN116848497A (zh) 2021-02-08 2023-10-03 索尼集团公司 施加触觉刺激的控制装置
US11771991B2 (en) * 2021-02-15 2023-10-03 Nintendo Co., Ltd. Non-transitory computer-readable storage medium having stored therein information processing program, information processing apparatus, information processing system, and information processing method

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001212508A (ja) 1999-04-14 2001-08-07 Matsushita Electric Ind Co Ltd 駆動回路、電気機械音響変換装置および携帯端末装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0633752Y2 (ja) * 1989-11-24 1994-08-31 サンデン株式会社 振動装置
JP4467601B2 (ja) 2007-05-08 2010-05-26 ソニー株式会社 ビート強調装置、音声出力装置、電子機器、およびビート出力方法
GB0902869D0 (en) * 2009-02-20 2009-04-08 Wolfson Microelectronics Plc Speech clarity
US9349378B2 (en) * 2013-11-19 2016-05-24 Dolby Laboratories Licensing Corporation Haptic signal synthesis and transport in a bit stream
US9549260B2 (en) * 2013-12-30 2017-01-17 Skullcandy, Inc. Headphones for stereo tactile vibration, and related systems and methods
JP6322830B2 (ja) * 2014-05-09 2018-05-16 任天堂株式会社 情報処理装置、情報処理プログラム、情報処理システム、および情報処理方法
JP2015231098A (ja) * 2014-06-04 2015-12-21 ソニー株式会社 振動装置、および振動方法
JP6761225B2 (ja) * 2014-12-26 2020-09-23 和俊 尾花 手持ち型情報処理装置
US9842476B2 (en) * 2015-09-25 2017-12-12 Immersion Corporation Programmable haptic devices and methods for modifying haptic effects to compensate for audio-haptic interference
US10705620B2 (en) * 2015-10-09 2020-07-07 Sony Ccorporation Signal processing apparatus and signal processing method
JP6701132B2 (ja) * 2017-07-12 2020-05-27 任天堂株式会社 ゲームシステム、ゲームプログラム、ゲーム装置、およびゲーム処理方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001212508A (ja) 1999-04-14 2001-08-07 Matsushita Electric Ind Co Ltd 駆動回路、電気機械音響変換装置および携帯端末装置

Also Published As

Publication number Publication date
US20210219050A1 (en) 2021-07-15
JPWO2020008931A1 (ja) 2021-08-05
US11653146B2 (en) 2023-05-16
DE112019003350T5 (de) 2021-03-18
WO2020008931A1 (ja) 2020-01-09

Similar Documents

Publication Publication Date Title
US11263879B2 (en) Tactile transducer with digital signal processing for improved fidelity
JP7347421B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP4467601B2 (ja) ビート強調装置、音声出力装置、電子機器、およびビート出力方法
US20090189748A1 (en) Device for and method of processing an audio signal and/or a video signal to generate haptic excitation
JP6098654B2 (ja) マスキング音データ生成装置およびプログラム
JP6121606B1 (ja) 聴覚トレーニング装置、聴覚トレーニング装置の作動方法、およびプログラム
TW200919953A (en) Automatic gain control device and method
Bernier et al. An active hearing protection device for musicians
WO2021111965A1 (ja) 音場生成システム、音声処理装置および音声処理方法
WO2021065560A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP7476930B2 (ja) 振動体感装置
US10923098B2 (en) Binaural recording-based demonstration of wearable audio device functions
WO2020080204A1 (ja) 音響コンテンツ生成装置、音響コンテンツ生成方法、音響コンテンツ再生装置、音響コンテンツ再生方法、音響コンテンツ再生用プログラム、音響コンテンツ提供装置および音響コンテンツ配信システム
JP2018064216A (ja) 力覚データ生成装置、電子機器、力覚データ生成方法、および制御プログラム
JPH0619269Y2 (ja) 体感音響装置
WO2020008856A1 (ja) 情報処理装置、情報処理方法、および記録媒体
WO2023189193A1 (ja) 復号装置、復号方法および復号プログラム
WO2023189973A1 (ja) 変換装置、変換方法および変換プログラム
WO2018216480A1 (ja) 情報処理装置、情報処理方法及びプログラム
TW202041211A (zh) 產生減緩耳鳴影響聲音之方法及執行該方法之耳鳴遮蔽器
WO2024004925A1 (ja) 信号処理装置、マイク付きイヤホン、信号処理方法、およびプログラム
JP2021177264A (ja) 情報処理装置、情報処理方法、及び、プログラム
US20230190173A1 (en) Signal processing apparatus and signal processing method
JP6661210B1 (ja) 音響コンテンツ生成装置、音響コンテンツ生成方法、音響コンテンツ再生装置、音響コンテンツ再生方法、音響コンテンツ再生用プログラム、音響コンテンツ提供装置および音響コンテンツ配信システム
JP6266903B2 (ja) ゲーム音声の音量レベル調整プログラムおよびゲームシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230821

R151 Written notification of patent or utility model registration

Ref document number: 7347421

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151