JP7189334B2 - 情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラム - Google Patents

情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラム Download PDF

Info

Publication number
JP7189334B2
JP7189334B2 JP2021516026A JP2021516026A JP7189334B2 JP 7189334 B2 JP7189334 B2 JP 7189334B2 JP 2021516026 A JP2021516026 A JP 2021516026A JP 2021516026 A JP2021516026 A JP 2021516026A JP 7189334 B2 JP7189334 B2 JP 7189334B2
Authority
JP
Japan
Prior art keywords
audio signal
audio
information processing
control means
mute
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021516026A
Other languages
English (en)
Other versions
JPWO2020218096A1 (ja
Inventor
徹 小木曽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JPWO2020218096A1 publication Critical patent/JPWO2020218096A1/ja
Application granted granted Critical
Publication of JP7189334B2 publication Critical patent/JP7189334B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/215Input arrangements for video game devices characterised by their sensors, purposes or types comprising means for detecting acoustic signals, e.g. using a microphone
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/54Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/93Discriminating between voiced and unvoiced parts of speech signals
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/93Discriminating between voiced and unvoiced parts of speech signals
    • G10L2025/935Mixed voiced class; Transitions

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラムに関する。
携帯電話機やタブレット端末、パーソナルコンピュータ、家庭用ゲーム機等の情報処理装置に接続される周辺装置には、マイク等の音声入力デバイスを備えて、当該音声入力デバイスが集音して得た音声信号を、情報処理装置に対して出力するものがある。
しかし音声信号の入力が困難な場合や、音声信号の入力が好ましくない状況(例えば深夜などで音声の発声が憚られる場合など)では、音声信号の処理を行わせないよう、ミュートの処理を行うことが好ましい。
ところが、このようなミュートの処理を行ってしまうと、アプリケーション側で音声信号の入力が必要な場合まで音声信号の入力が遮断されてしまい利便性が低い。一方で、このような場合は、音声信号の入力が必要なアプリケーションに限って音声信号を出力したい要望もある。
本発明は上記実情に鑑みて為されたもので、ミュート制御の利便性を向上できる情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラムを提供することを、その目的の一つとする。
上記従来例の問題点を解決する本発明の一態様は、周辺装置と、情報処理装置とを含む情報処理システムであって、前記周辺装置は、周囲の音声を表す音声信号を出力する音声入力手段を備え、前記情報処理装置は、前記周辺装置が出力する音声信号を受け入れる手段と、前記周辺装置から受け入れた音声信号を遮断するミュート制御手段と、を有し、前記ミュート制御手段により前記周辺装置から受け入れた音声信号を遮断している状態で、予め定めたアプリケーションの処理において音声入力を求める場合は、前記ミュート制御手段を、周辺装置から受け入れた音声信号を受け入れさせ、前記予め定めたアプリケーションの処理にのみ供するよう制御することとしたものである。
本発明によると、ミュート制御の利便性を向上できる。
本発明の実施の形態に係る情報処理システムの構成例を表すブロック図である。 本発明の実施の形態に係る情報処理装置の音声入力制御部の構成例を表すブロック図である。 本発明の実施の形態に係る情報処理装置の制御部の例を表す機能ブロック図である。 本発明の実施の形態に係る情報処理システムの動作の例を表す説明図である。
本発明の実施の形態について図面を参照しながら説明する。本発明の実施の形態に係る情報処理システム1は、図1に例示するように、家庭用ゲーム機やPC等の情報処理装置10と、コントローラ20とを含んで構成される。ここでコントローラ20は複数あってもよい。またこの情報処理システム1には、チャットコントローラ30や、ヘッドセット40、あるいはヘッドマウントディスプレイ50等、音声入力デバイスを備えた周辺装置がさらに含まれ、情報処理装置10に接続されていてもよい。
情報処理装置10は、図1に例示したように、制御部11と、記憶部12と、操作制御部13と、出力制御部14と、音声入力制御部15と、通信部16とを含んで構成される。またコントローラ20は、操作部21と、マイク22と、通信部23と、表示部24と、音声出力部25とを含む。さらにチャットコントローラ30は、操作部31と、マイク32と、通信部33と、表示部34とを含んでなる。
情報処理装置10の制御部11は、CPU等のプログラム制御デバイスであり、記憶部12に格納されたプログラムに従って動作する。本実施の形態では、この制御部11は、複数のアプリケーションプログラムを並列的に実行(いわゆるマルチタスキング処理を)しているものとする。
具体的に情報処理装置10が家庭用ゲーム機である場合、制御部11は、ゲームのアプリケーションや、ネットワークを介して音声信号を授受するチャットアプリケーション等種々のアプリケーションプログラムを実行している。またこの制御部11は、システムプログラムを実行しており、このシステムプログラムの処理として、コントローラ20やヘッドセット40等、装置ごとに、当該装置を利用するユーザを認証する処理を実行して、コントローラ20等、各装置を特定する情報ごとに、ユーザを特定する情報(例えばユーザ名)を関連付けて記憶する。
そして制御部11は、操作制御部13からコントローラ20を特定する情報とともに操作情報の入力を受けると、実行中のアプリケーションのうちから操作情報の出力先となるアプリケーションを選択する。例えばゲームアプリケーションが起動しているときには、原則としてゲームアプリケーションを選択し、所定の操作情報については例外的にシステムで処理する、などとしてここでの出力先の選択の条件を予め定めておき、当該条件に従って選択すればよい。
制御部11は、操作情報の出力先のアプリケーションやシステムの処理として、操作制御部13から入力された、コントローラ20を特定する情報と操作情報とを用いた処理を実行する。またこの制御部11は、複数の装置から受信した音声情報の各々をミキシングする際の、各音声信号のミキシングの音量を決定する。これらの制御部11の動作については後に述べる。
記憶部12は、メモリデバイスやハードディスクドライブ等であり、制御部11によって実行されるプログラムを保持する。またこの記憶部12は制御部11のワークメモリとしても動作する。
操作制御部13は、コントローラ20との間で無線または有線にて通信可能に接続され、コントローラ20からコントローラ20にてユーザが行った操作の内容を表す操作情報を受信して、当該操作情報の受信元であるコントローラ20を特定する情報とともに制御部11に出力する。
さらに本実施の形態では、この操作制御部13は、制御部11から入力される指示に従い、表示制御信号等を、指示されたコントローラ20に対して送出する。
出力制御部14は、家庭用テレビや、モニタ、ヘッドマウントディスプレイ50等の表示デバイスに接続され、制御部11から入力される指示に従って、音声や映像等の信号をこれらの表示デバイスに出力する。またこの出力制御部14は、映像と音声信号とを異なる装置に対して出力してもよい。例えば映像についてはモニタに出力し、音声信号についてはコントローラ20やヘッドセット40に出力するようにしてもよい。
音声入力制御部15は、コントローラ20やチャットコントローラ30、ヘッドセット40、ヘッドマウントディスプレイ50等、音声入力デバイスを備えた周辺装置から音声信号を受信する。またこの音声入力制御部15は、図2に例示するように、ミキサ部151と、ミュート部152と、スイッチ部153と、出力部154とを含んで構成され、受信した音声信号のうち、予め定められた装置(例えばチャットコントローラ30)以外の装置から入力された音声信号をミキサ部151にて合成する。
具体的に、このミキサ部151は、コントローラ20やヘッドセット40、ヘッドマウントディスプレイ50等の各装置から受信した音声信号ごとに音量を定めて、当該定めた音量で各装置から受信した音声信号を合成することによって行う。本実施の形態のある例では、このミキサ部151は、制御部11から入力される指示に従って、各装置から受信した音声信号の音量を定める。
また、例えば制御部11が、ヘッドセット40からの音声信号の音量を「255」、その他の音量を「0」とした場合は、このミキサ部151は選択手段としても機能する。この例では、ミキサ部151は、ヘッドセット40のみからの音声信号を選択的に出力することとなる。そしてこの場合、ヘッドセット40以外のコントローラ20やヘッドマウントディスプレイ50等から受信した音声信号があっても、ミキサ部151の出力には含められない。
さらに本実施の形態の一例では、この情報処理装置10には複数のコントローラ20が接続されることがあり得る。この場合も、ミキサ部151は、制御部11から入力される指示に従って各コントローラ20から受信した音声信号の音量を定める。例えばユーザAが利用するコントローラ20aから受信した音声信号の音量を「255」、その他のユーザB,Cが利用するコントローラ20b,cから受信した音声信号の音量を「0」とする指示が制御部11から入力された場合、ミキサ部151は、コントローラ20aから受信した音声信号を選択的に出力することとなる。
ミュート部152は、ミキサ部151が出力する音声信号について、そのまま出力するか、あるいは出力しない(ミュートする)かを、制御部11から入力される指示に従って切り替える。このミュート部152は、制御部11がミュートしない旨の指示を出力しているときには、ミキサ部151が出力する音声信号をそのまま出力する。またこのミュート部152は、制御部11がミュートする旨の指示を出力しているときには、ミキサ部151が出力する音声信号をスイッチ部153に出力せず破棄する(ミュートする)。
スイッチ部153は、情報処理装置10が受信した音声信号のうち、ミキサ部151に入力されていない装置からの音声信号(以下、割り込み音声信号と呼ぶ。ここでの例ではチャットコントローラ30から受信した音声信号)からの入力を受け入れる。またこのスイッチ部153は、ミュート部152が音声信号を出力するときには、当該音声信号の入力を受け入れる。スイッチ部153は、ミュート部152から受け入れた音声信号(あれば)と、割り込み音声信号(あれば)とのいずれかを、制御部11から入力される指示に従って選択して出力する。
出力部154は、スイッチ部153が出力する音声信号を、制御部11に出力する。このように本実施の形態の一例に係る音声入力制御部15は、音声入力デバイスを備えた各周辺装置から音声信号を受信し、ミキシングし、あるいはいずれかを選択して出力し、制御部11の処理に供する。
通信部16は、ネットワークインタフェース等であり、制御部11から入力される指示に従い、ネットワークを介して種々の情報を送信する。またこの通信部16はネットワークを介して受信した情報を制御部11に出力している。
コントローラ20の操作部21は、ボタンやジョイスティック等を含み、ユーザの操作を受け入れて、当該ユーザが行った操作の内容を表す操作情報を、通信部23に出力する。またマイク22は、周囲の音声を集音し、当該集音した音声を表すディジタルの音声信号を出力している。さらに本実施の形態では、この操作部21には、情報処理装置10に対してミュートの状態を切り替える旨の指示を出力するためのボタンが配されていてもよい。
通信部23は、例えばブルートゥース(登録商標)等の無線通信手段であり、操作部21にてユーザが行った操作の内容を表す情報(操作情報)を情報処理装置10に送出する。またこの通信部23は、マイク22が出力する音声信号を、情報処理装置10に出力する。またこの通信部23は、情報処理装置10が出力する表示制御信号を表示部24に出力する。さらにこの通信部23は、情報処理装置10から音声信号を受信すると、当該受信した音声信号を音声出力部25に出力する。
表示部24は、例えばLED等を含む。この表示部24は、通信部23から表示制御信号の入力を受けて、LEDを点灯ないし消灯する。音声出力部25は、スピーカー等の振動子を備えたデバイスであり、情報処理装置10から受信した音声信号に基づいて音声を鳴動する。
さらにチャットコントローラ30は、ユーザが音声入力を指示している間だけ音声の入力を受け入れて出力する、いわゆるプッシュ・トゥー・トーク装置(PTT装置)であり、その操作部31は、例えばボタンを含む。またマイク32は、周囲の音声を集音して音声信号に変換して出力している。
通信部33は、例えばブルートゥース(登録商標)等の無線通信手段であり、ユーザが操作部31のボタンを押下している間に、マイク32が出力する音声信号を、情報処理装置10に出力する。またこの通信部33は、ユーザが操作部31のボタンを押下していないときには、マイク32が出力する音声信号を、情報処理装置10に出力することなく破棄する。さらにこの通信部33は、情報処理装置10が出力する表示制御信号を表示部34に出力する。
表示部34は、例えばLED等を含む。この表示部34は、通信部33から表示制御信号の入力を受けて、LEDを点灯ないし消灯する。このチャットコントローラ30の動作についても後に述べる。
ヘッドセット40は、例えばヘッドフォンやマイク等を備える。このヘッドセット40は、情報処理装置10が出力する音声信号に基づいてスピーカーを鳴動する。またこのヘッドセット40は、マイクにて集音した音声信号を、情報処理装置10に対して送出する。
ヘッドマウントディスプレイ50は、ディスプレイとスピーカーとマイクとを含んで構成される。このヘッドマウントディスプレイ50は、情報処理装置10が出力する映像信号や音声信号を受け入れて、ディスプレイに映像を表示し、また、スピーカーを鳴動させる。またこのヘッドマウントディスプレイ50は、マイクにて集音した音声信号を、情報処理装置10に対して送出する。
ここで情報処理装置10の制御部11の動作について説明する。本実施の形態では、この制御部11は、システムの処理として図3に例示するように、機能的に、音声入力処理部111と、ミュート処理部112と、割り込み処理部113と、表示処理部114とを含む。
なお、本実施の形態の以下の例では、制御部11は、情報処理装置10に接続された、音声入力デバイスを備えた装置のうちの一つを、割り込み装置として定めておくものとする。
音声入力処理部111は、音声入力デバイスを備えた装置(割り込み装置を定める場合、割り込み装置を除くこととする)を対象装置として、次の処理を行う。音声入力処理部111は、所定の規則に従って、情報処理装置10に接続されている対象装置ごとのミキシングの音量を定める。この所定の規則は、例えば次のようなものとすることができる。すなわち、制御部11は、予め対象装置ごとに優先順位を定めておき、接続された装置のうち、優先順位の最も高い対象装置から受信する音声信号のミキシングの音量を予め定められた0より大きい値(0を含まない)とする。この値は例えば最大値、あるいは、対象装置ごとに、対象装置の種類に応じて異なった値が設定されてもよい、以下、この0より大きい値を出力値と呼ぶ。また、接続された装置のうち、優先順位の最も高い対象装置以外の対象装置から受信する音声信号のミキシングの音量を最低値とする。この最低値は、例えば音量「0」を表す値とすればよい。この最低値を以下では遮断値と呼ぶ。
なお、ここでの規則や音量の設定の例は一例であり、他にも種々の方法があり得る。例えば制御部11は、ユーザが選択した対象装置について、当該対象装置から受信する音声信号のミキシングの音量を予め定められた出力値、それ以外の対象装置から受信する音声信号のミキシングの音量を遮断値としてもよい。
また複数のユーザが情報処理装置10を利用している場合を考慮して、ここでの規則は、次のようなものであってもよい。すなわち、
(1)原則としてユーザごとに一つの対象装置を選択する。
(2)ユーザごとに選択した対象装置が当該ユーザの音声以外を集音しにくい音声入力デバイスを備えるものとして予め定められた対象装置である場合は、当該対象装置のミキシングの音量を出力値とする。
(3)ユーザごとに選択した対象装置が当該ユーザの音声以外を集音しにくい音声入力デバイスを備えるものとして予め定められた対象装置でない(ここでは便宜的に広集音装置と呼ぶ)場合、選択された対象装置が広集音装置であるユーザについては、いずれかのユーザを一人選び、当該選ばれたユーザについて選択した対象装置のミキシングの音量を出力値とする。
(4)(2),(3)でミキシングの音量を出力値としていない対象装置についてのミキシングの音量を遮断値とする。
この例によると、マイクの指向性が比較的強いヘッドセット40等を音声入力デバイスとして利用しているユーザについては、当該ヘッドセット40が集音した音声信号がアプリケーションとしての処理で利用可能となるとともに、マイクの指向性が比較的弱い、広集音装置であるコントローラ20等を音声入力デバイスとして利用しているユーザについては、コントローラ20を音声入力デバイスとするユーザのうち一人のユーザが操作するコントローラ20が集音した音声信号のみが、アプリケーションとしての処理で利用されるようになる。
なお、いずれの場合も、広集音装置を利用しているユーザがコントローラ20を操作して、音声信号の入力を要求したときには、当該ユーザのコントローラ20等の広集音装置のミキシング音量を出力値とし、その他の広集音装置のミキシング音量を遮断値とする。
ミュート処理部112は、現在のミュートの状態を表すミュート状態情報を保持している。このミュート状態情報は当初は所定の状態(例えばミュートしていない(アンミュートの)状態としておく。そしてこのミュート処理部112は、ユーザが操作するコントローラ20から受信した操作情報として、ミュートの状態を切り替える旨の操作情報を受け入れたときに(つまり、例えばユーザからミュートの指示を受けたときに)、ミュート状態情報を切り替える。つまり、ミュート状態情報がアンミュート状態を表すものであったときには、この操作情報を受け入れたミュート処理部112は、ミュート状態情報をミュートした状態であることを表すものに設定する。またミュート状態情報がミュートした状態を表すものであったときには、この操作情報を受け入れたミュート処理部112は、ミュート状態情報をアンミュートの状態であることを表すものに設定する。そしてミュート処理部112は、ミュート状態情報をミュートした状態であることを表すものに設定したときには、音声入力制御部15に対してミュートの指示を出力する。
割り込み処理部113は、予め定めた割り込み装置から入力される指示(例えば選択を要求する指示)に従い、当該割り込み装置から受信される音声信号を選択する指示を、音声入力制御部15に出力してもよい。また割り込み装置から、選択を解除するべき旨の指示が受信されると、制御部11は、この割り込み装置以外の装置から受信した音声信号を選択するべき旨の指示を、音声入力制御部15に出力する。
表示処理部114は、音声信号の入力の状態を示すために、音声入力処理部111、ミュート処理部112、及び割り込み処理部113が出力する指示に応じて、各装置に対する表示制御信号を出力する。この表示制御信号の具体的な例については後に述べる。
[動作例]
本実施の形態の情報処理システム1は以上のような構成を基本的に備えており、次のように動作する。以下では、1つの情報処理装置10をユーザA,B,Cの3人が共用してゲームを行う例(図4(a))について説明する。
このとき、各ユーザA,B,Cはそれぞれのコントローラ20a,b,cを持って操作するものとする。すなわち、情報処理装置10は当初、各コントローラ20を操作するユーザを認証し、各コントローラを特定する情報に関連付けて、認証したユーザを特定する情報を記録する。またこの情報処理装置10には、割り込み装置としてのチャットコントローラ30が接続されているものとする。
このとき情報処理装置10は、予め定めた規則として、次の規則に従うものとする:
(1)原則としてユーザごとに一つの対象装置を選択する。
(2)ユーザごとに選択した対象装置が当該ユーザの音声以外を集音しにくい音声入力デバイスを備えるものとして予め定められた対象装置である場合は、当該対象装置のミキシングの音量を出力値(図4では「255」)とする。
(3)ユーザごとに選択した対象装置が当該ユーザの音声以外を集音しにくい音声入力デバイスを備えるものとして予め定められた対象装置でない(ここでは便宜的に広集音装置と呼ぶ)場合、選択された対象装置が広集音装置であるユーザについては、いずれかのユーザを一人選び、当該選ばれたユーザについて選択した対象装置のミキシングの音量を出力値とする。
(4)(2),(3)でミキシングの音量を出力値としていない対象装置についてのミキシングの音量を遮断値とする。
そして情報処理装置10は、この規則に従い、当該情報処理装置10に接続されているコントローラ20a,b,cを対象装置として、これら対象装置ごとのミキシングの音量を定める。ここではコントローラ20は広集音装置であるものとする。この例では、情報処理装置10は、上記所定の規則に基づき、例えば最初に接続されたコントローラ20(ユーザAのコントローラ20aとする)のミキシングの音量を出力値、それ以外の対象装置から受信する音声信号のミキシングの音量を遮断値とする。
このため、情報処理装置10では、ユーザAが使用しているコントローラ20aが集音して情報処理装置10へ送出した音声信号がアプリケーションの処理に供されることとなる。
例えばアプリケーションがチャットアプリケーションであれば、情報処理装置10は、コントローラ20aが集音して情報処理装置10へ送出した音声信号を、チャットの相手先へ送出することとなる。また相手先から受信した音声信号は、所定の方法で定めた出力先(例えばここでは各コントローラ20a,b,c)に出力する。
このときコントローラ20b,cの送出した音声信号は情報処理装置10の音声入力制御部15の動作により破棄される。これにより、各コントローラ20a,b,cで集音された音が混合され、音声がこもってしまったり、エコーが生じてしまうことが回避される。
またここでユーザCが、ヘッドセット40を装着し、ヘッドセット40のユーザとして情報処理装置10の認証を受けると(図4(b))、情報処理装置10は、新たな装置の認証を行ったことを契機として、再度、上記規則に従って、情報処理装置10に接続されているコントローラ20a,b,c、及びユーザCの利用するヘッドセット40を対象装置として、これら対象装置ごとのミキシングの音量を定める。
ここでヘッドセット40は広集音装置でないものとすると、ここでは情報処理装置10は、上記所定の規則に基づき、まずユーザCについてはヘッドセット40のミキシングの音量を出力値とする。また、他のユーザA,Bについては、例えば最初に接続されたコントローラ20(ユーザAのコントローラ20aとする)のミキシングの音量を出力値、それ以外の対象装置(ユーザBのコントローラ20b)から受信する音声信号のミキシングの音量を遮断値とする。
このときには、ユーザCの発声した声はヘッドセット40によって集音される。そしてユーザAが使用しているコントローラ20aが集音して情報処理装置10へ送出した音声信号と、このヘッドセット40が送出した音声信号とミキシングされて、アプリケーションの処理に供されることとなる。
このときコントローラ20b,cの送出した音声信号は情報処理装置10の音声入力制御部15の動作により破棄される。これにより、各コントローラ20a,b,cで集音された音が混合され、音声がこもってしまったり、エコーが生じてしまうことが回避される。なお、ヘッドセット40は比較的指向性が強いため、ヘッドセット40が出力する音声信号に含まれるユーザAの音声は十分小さいものとなる。このため、ヘッドセット40が集音して得た音声信号がコントローラ20aが送出した音声信号とミキシングされても音声がこもってしまったり、エコーが生じてしまうことはない。
さらにここでユーザBがコントローラ20bを操作して、音声信号の入力を要求する操作を行うと、当該操作の内容を表す情報が情報処理装置10に伝達される。情報処理装置10では、当該要求を受けて、ユーザCについてはヘッドセット40のミキシングの音量を出力値のままとし、ここで音声信号の入力を要求したコントローラ20bのミキシングの音量を出力値、それ以外の対象装置(ユーザAのコントローラ20a)から受信する音声信号のミキシングの音量を遮断値とする。
このとき、コントローラ20a,cの送出した音声信号は情報処理装置10の音声入力制御部15の動作により破棄される。これにより、各コントローラ20a,b,cで集音された音が混合され、音声がこもってしまったり、エコーが生じてしまうことが回避される。
またこのチャットアプリケーションの処理を行う情報処理装置10は、チャットの相手先から受信した音声信号を、各コントローラ20に出力して、各コントローラ20にて音声を鳴動させる。
[ミュート]
また本実施の形態の一例では、いずれかのユーザがコントローラ20を操作してミュートの状態を切り替える指示を行い、制御部11がミュートする状態となったと判断すると(ミュート状態情報がミュートしている状態に設定されると)、音声入力デバイスを備える各装置(割り込み装置を除く)からの音声信号がミュートされる。つまり本実施の形態の一例では、いずれかのコントローラ20等からミュートの指示が行われると、すべての音声入力が遮断される。
具体的にユーザA,B,Cのいずれかのユーザが自己の操作するコントローラ20を操作してミュートの切り替え指示を行うと、当該ミュートの切り替え指示の操作が行われたことを表す操作情報が情報処理装置10に送出される。
情報処理装置10では、コントローラ20からミュートの状態を切り替えるべき旨の操作情報を受け入れて、当該操作情報を受け入れた時点でのミュート状態情報(ミュートするか否かを表す情報)を切り替える。つまり、この時点でミュート状態情報がアンミュート状態を表すものであったときには、この操作情報を受け入れた情報処理装置10は、ミュート状態情報をミュートした状態であることを表すものに設定して、音声入力制御部15に対してミュートの指示を出力する。
一方、この時点でミュート状態情報がミュートした状態を表すものであったときには、この操作情報を受け入れたミュート処理部112は、ミュート状態情報をアンミュートの状態であることを表すものに設定して、音声入力制御部15に対してミュートしない旨の指示(ミュートを解除する指示)を出力する。
そしてミュートの指示が出力されたときには、音声入力制御部15では、ミキサ部151がどのような音量の設定で、各装置が送出する音声信号をミキシングしていたとしても、ミュート部152が、ミキサ部151が出力する音声信号を出力しない(ミュートする)よう制御する。
ミュートしない旨の指示が出力されているときには、ミュート部152は、ミキサ部151が出力する音声信号をそのまま出力する。
これにより、ユーザの一つの操作によって、全体的にミュートの切り替えが行われることとなり、装置ごとにミュートを設定する手間がなく、ミュートの操作性が向上する。
またミュートの切り替えの指示の内容によっては(例えばミュートを切り替える指示をするためのボタンを長押しするなどした場合は)、制御部11は、出力制御部14の処理として、音声信号を出力しないよう制御してもよい(全ミュート)。このようにすると、テレビやヘッドセット、コントローラ20からの音声出力も停止される。
[音声入力デバイスを備える周辺装置側でのミュート]
またここで、コントローラ20等、音声入力デバイスを備える周辺装置側で音声信号の送出をするか否かを制御可能な場合は、情報処理装置10は、いずれかのユーザがコントローラ20を操作してミュートの状態を切り替える指示を行ってミュートをしたときには、このような装置に対して、音声信号の送出を停止するよう指示してもよい。
このように周辺装置側でミュートする(音声信号の送出を停止する)制御を行う場合は、情報処理装置10は、以下の例のように(一時的に)アンミュートの状態とするときには、一時的に音声信号の入力を行わせる周辺装置に対して、音声信号の送出を再開するよう指示することとする。
[出力モード]
さらに本実施の形態では音声入力制御部15から音声信号の入力を受けた制御部11は、通常は当該入力された音声信号を、制御部11にて実行中の任意のアプリケーションで利用可能なように制御する。以下では、この制御を行う制御部11の動作モードを、便宜的に共有モードと呼ぶ。しかしながら本実施の形態のある例では、入力された音声信号を、特定のアプリケーションにのみ利用させることが好適な場合もある。
また、アプリケーションが音声入力を求めているのに、ミュートされた状態にあると、音声入力ができないので、アプリケーション側からの要求により一時的にミュートを解除可能な状態としてもよい。このときには、情報処理装置10は、当該一時的にミュートを解除した状態で入力される音声信号については、専ら当該ミュートの解除を要求したアプリケーションに対してのみ当該音声信号を出力する。
そこで制御部11は、一つのアプリケーションの処理において、音声入力の必要が生じると、音声入力が要求されている旨の表示をモニタ等に出力し、また、このアプリケーションを特定する情報(アプリケーション名でよい)を一時的に保持する。
ここでユーザがコントローラ20にて所定のアンミュートの操作(ミュートの状態を切り替える操作)を行うと、制御部11は当該操作が為されたことを検出して、音声入力制御部15のミキサ部151に対して、当該操作が行われたコントローラ20のミキシング音量を出力値(例えば最大)とする(他のコントローラ20等についてはミキシング音量を遮断値とする)。なお、複数のコントローラ20にてアンミュートの操作が行われたときには、最も早くアンミュートの操作が行われたコントローラ20についてのみミキシング音量を出力値(例えば最大)としてもよい。
そして制御部11は、次にユーザがコントローラ20にてミュートの操作(ミュートの状態を切り替える操作)を行うまでの間、あるいは所定の時間が経過するまでの間にコントローラ20から受信した音声信号を、先に一時的に保持した情報で特定されるアプリケーションの処理に供する(一時アンミュート)。この音声信号については、当該情報で特定されるアプリケーション以外の、他のアプリケーションに対しては利用不能に設定する。この設定を行ったときの制御部11の動作モードを、便宜的に排他モードと呼ぶ。
このような排他モードの制御については、入力される情報を特定のアプリケーションのみの処理に供するための広く知られたオペレーティングシステムの動作と同様であるので、ここでの詳しい説明は省略する。
[アプリケーションの起動・終了によるミュート状態の制御]
さらに別の例では、音声入力が必要となるアプリケーションが起動されたときに、当該アプリケーション側からの要求によりミュートを解除可能な状態としてもよい。このときには、情報処理装置10は、当該ミュートを解除した状態で入力される音声信号については、専ら当該アプリケーションに対してのみ出力する。
そしてこの場合は、当該アプリケーションを終了する操作をユーザが行ったときに、情報処理装置10は、ミュート状態情報に基づいてミュート部152を制御する動作に戻る。この例では、音声入力を必要とするアプリケーションが動作している間は、ミュートの指示がされていても当該アプリケーションに対してのみ、音声情報を出力させることが可能となる。
[アプリケーションと周辺装置との関連付け]
さらに、割り込み装置(ここでの例ではチャットコントローラ30)からの音声信号については特定のアプリケーションにのみ利用させることとしてもよい。
具体的には、情報処理装置10は、予め割り込み装置を特定する情報と、当該割り込み装置から受信する音声信号を利用するアプリケーションを特定する情報とを関連付けた設定を受け入れておく。つまりこの例では、この設定に記録されている、音声入力デバイスを備えた装置が割り込み装置として識別されることとなる。
ユーザが割り込み装置(チャットコントローラ30)を操作して音声信号の入力を行うと(例えばチャットコントローラ30の操作部31に含まれるボタンを押下した状態で音声信号の入力を行うと)、チャットコントローラ30は、音声信号を情報処理装置10に送信する。またこのとき、チャットコントローラ30は、自己を特定する情報(割り込み装置を特定する情報)を、情報処理装置10に送信する。
チャットコントローラ30から音声信号を受信した情報処理装置10の音声入力制御部15では、この音声信号(割り込み音声信号となる)をミキサ部151に入力せず、スイッチ部153に入力し、制御部11は、スイッチ部153及び出力部154に対して、当該割り込み音声信号を、制御部11に出力するよう指示する。ここではスイッチ部153は、ミュート部152よりも出力部154側に配されているので、ミュート部152においてミュートの状態にあっても、この割り込み音声信号は制御部11に出力される。
制御部11は、音声信号とともに送信された割り込み装置を特定する情報を参照し、当該情報に関連付けられたアプリケーションを特定する情報を見出す。そして制御部11は、当該見出した情報で特定されるアプリケーションを起動し、当該アプリケーションに対して、受信した割り込み音声信号を処理させる。このとき、他のアプリケーションに対しては、受信した割り込み音声信号へのアクセスを禁止するよう制御する。このような処理及び制御は、広く知られたシステムソフトウエアの種々の処理によって実現できるので、ここでの詳しい説明は省略する。
本実施の形態のこの例によると、操作部31のボタンを押下している間に入力された音声信号が割り込み音声信号として、チャットコントローラ30から情報処理装置10へ送信され、情報処理装置10では当該チャットコントローラ30に関連付けて予め設定されたアプリケーション(例えばチャットアプリケーション)を起動して、割り込み音声信号を処理させることとなる。
[ミュート状態等の表示]
次に、表示処理部114による表示制御信号の例について説明する。本実施の形態の一例では、制御部11は、
(1)ミュートしていない状態(ミュート状態情報がアンミュートであることを表すものとなっている状態)では表示部24のLEDを消灯させる表示制御信号、
(2)ミュートしている状態(ミュート状態情報がミュートしていることを表すものとなっている状態)では表示部24のLEDを点灯させる表示制御信号、
(3)全ミュートの場合(ミュート状態情報がアンミュートであることを表すものとなっており、かつ情報処理装置10自身も音声信号の出力をしないよう制御している場合)は、表示部24のLEDを点滅させる表示制御信号、
をそれぞれの場合に出力する。
これによると、ミュートの状態にあるか否かを表す表示制御信号が情報処理装置10から出力され、コントローラ20等が当該表示制御信号に応じて表示部24の表示を変化させて(消灯、点灯、点滅などと変化させることによって)、ミュートの状態にあるか否かを明示するので、ユーザは音声入力が可能な状態にあるか否かがわかりやすい。
さらに本実施の形態では、制御部11は、
(4)ミキシング音量を遮断値としているデバイスに対しては、表示部24のLEDを全ミュートの場合とは区別可能な態様で点滅させる表示制御信号を出力してもよい。
ここで区別可能な態様としては、点滅の周期を、全ミュートの場合に比べて長くするなどといったものでよい。これによると、他者が音声入力を行っている場合など、自分が所持するコントローラ20を介して音声入力ができない場合を明示できる。
またここでは表示部24のLEDを制御するものとしたが、表示部24を例えば液晶表示部として、液晶表示部のバックライトの色や、表示内容を変更することでユーザに状態を通知することとしてもよい。
1 情報処理システム、10 情報処理装置、11 制御部、12 記憶部、13 操作制御部、14 出力制御部、15 音声入力制御部、16 通信部、20 コントローラ、21 操作部、22 マイク、23 通信部、24 表示部、25 音声出力部、30 チャットコントローラ、31 操作部、32 マイク、33 通信部、34 表示部、40 ヘッドセット、50 ヘッドマウントディスプレイ、111 音声入力処理部、112 ミュート処理部、113 割り込み処理部、114 表示処理部、151 ミキサ部、152 ミュート部、153 スイッチ部、154 出力部。

Claims (6)

  1. 周囲の音声を表す音声信号を出力する音声入力手段を備える音声入力デバイスに接続される情報処理装置であって、
    前記音声入力デバイスが出力する音声信号を受け入れる受入手段と、
    前記受入手段が音声入力デバイスから受け入れた音声信号を遮断するミュート制御手段と、
    前記ミュート制御手段が、前記音声信号を遮断している状態で、予め定めたアプリケーションの処理において音声入力を求める場合は、前記音声信号を、前記予め定めたアプリケーションにのみ出力するよう、前記ミュート制御手段を制御する制御手段と、
    を有し、
    前記制御手段は、予め割り込み装置として定められた、情報処理装置に接続された音声入力デバイスの一つから音声信号を受信したときに、前記ミュート制御手段が音声信号を遮断しているか否かに関わらず、当該音声信号を、予め定めたアプリケーションの処理に供するよう、前記ミュート制御手段を制御する情報処理装置。
  2. 請求項に記載の情報処理装置であって、
    前記予め定めたアプリケーションは、前記割り込み装置を特定する情報に関連付けて予め設定されたアプリケーションである情報処理装置。
  3. 請求項に記載の情報処理装置であって、
    前記割り込み装置を特定する情報に関連付けて予め設定されたアプリケーションは、チャットアプリケーションである情報処理装置。
  4. 音声入力デバイスと、情報処理装置とを含む情報処理システムであって、
    前記音声入力デバイスは、周囲の音声を表す音声信号を出力する音声入力手段を備え、
    前記情報処理装置は、前記音声入力デバイスが出力する音声信号を受け入れる手段と、
    前記音声入力デバイスから受け入れた音声信号を遮断するミュート制御手段と、
    前記ミュート制御手段が、前記音声信号を遮断している状態で、予め定めたアプリケーションの処理において音声入力を求める場合は、前記音声信号を、前記予め定めたアプリケーションにのみ出力するよう、前記ミュート制御手段を制御する制御手段と、
    を有し、
    前記制御手段が、予め割り込み装置として定められた、情報処理装置に接続された音声入力デバイスの一つから音声信号を受信したときに、前記ミュート制御手段が音声信号を遮断しているか否かに関わらず、当該音声信号を、予め定めたアプリケーションの処理に供するよう、前記ミュート制御手段を制御する情報処理システム。
  5. 周囲の音声を表す音声信号を出力する音声入力手段を備える音声入力デバイスに接続される情報処理装置の制御方法であって、
    音声信号を受け入れる手段が、前記音声入力デバイスが出力する音声信号を受け入れる工程と、
    ミュート制御手段が、前記音声入力デバイスから受け入れた音声信号を遮断する工程と、
    制御手段が、前記ミュート制御手段により前記音声入力デバイスから受け入れた音声信号を遮断している状態で、予め定めたアプリケーションの処理において音声入力を求める場合は、前記ミュート制御手段を、音声入力デバイスから受け入れた音声信号を受け入れさせ、前記予め定めたアプリケーションの処理にのみ供するよう制御する工程と、
    を含み、
    前記制御手段が、予め割り込み装置として定められた、情報処理装置に接続された音声入力デバイスの一つから音声信号を受信したときに、前記ミュート制御手段が音声信号を遮断しているか否かに関わらず、当該音声信号を、予め定めたアプリケーションの処理に供するよう、前記ミュート制御手段を制御する情報処理装置の制御方法。
  6. 周囲の音声を表す音声信号を出力する音声入力手段を備える音声入力デバイスに接続される情報処理装置を、
    前記音声入力デバイスが出力する音声信号を受け入れる手段と、
    前記音声入力デバイスから受け入れた音声信号を遮断するミュート制御手段と、
    前記ミュート制御手段が、前記音声信号を遮断している状態で、予め定めたアプリケーションの処理において音声入力を求める場合は、前記音声信号を、前記予め定めたアプリケーションにのみ出力するよう、前記ミュート制御手段を制御する制御手段であって、予め割り込み装置として定められた、情報処理装置に接続された音声入力デバイスの一つから音声信号を受信したときに、前記ミュート制御手段が音声信号を遮断しているか否かに関わらず、当該音声信号を、予め定めたアプリケーションの処理に供するよう、前記ミュート制御手段を制御する制御手段と、として機能させるプログラム。
JP2021516026A 2019-04-26 2020-04-14 情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラム Active JP7189334B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019086345 2019-04-26
JP2019086345 2019-04-26
PCT/JP2020/016482 WO2020218096A1 (ja) 2019-04-26 2020-04-14 情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2020218096A1 JPWO2020218096A1 (ja) 2021-11-18
JP7189334B2 true JP7189334B2 (ja) 2022-12-13

Family

ID=72941900

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021516026A Active JP7189334B2 (ja) 2019-04-26 2020-04-14 情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラム

Country Status (5)

Country Link
US (1) US11880633B2 (ja)
EP (1) EP3961370A4 (ja)
JP (1) JP7189334B2 (ja)
CN (1) CN113711178A (ja)
WO (1) WO2020218096A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012147397A (ja) 2011-01-14 2012-08-02 Lenovo Singapore Pte Ltd 情報処理装置、その音声設定方法、およびコンピュータが実行するためのプログラム
WO2013069396A1 (ja) 2011-11-09 2013-05-16 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理方法、プログラム及び情報記憶媒体

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6905414B2 (en) 2002-05-16 2005-06-14 Microsoft Corporation Banning verbal communication to and from a selected party in a game playing system
WO2006046357A1 (ja) 2004-10-26 2006-05-04 Matsushita Electric Industrial Co., Ltd. 情報出力装置、情報出力制御方法、情報出力制御プログラム
US9374453B2 (en) 2007-12-31 2016-06-21 At&T Intellectual Property I, L.P. Audio processing for multi-participant communication systems
US20110111805A1 (en) * 2009-11-06 2011-05-12 Apple Inc. Synthesized audio message over communication links
EP2868072B8 (en) * 2012-06-28 2016-12-14 Dolby Laboratories Licensing Corporation Metric for meeting commencement in a voice conferencing system
BR112015020150B1 (pt) 2013-02-26 2021-08-17 Mediatek Inc. Aparelho para gerar um sinal de fala, e, método para gerar um sinal de fala
US20150249736A1 (en) 2014-02-28 2015-09-03 Plantronics, Inc. Notification of Muting During Voice Activity for Multiple Muters
WO2016047902A1 (ko) 2014-09-23 2016-03-31 엘지전자 주식회사 이동 단말기 및 그 제어 방법
US9940094B1 (en) 2015-05-19 2018-04-10 Orion Labs Dynamic muting audio transducer control for wearable personal communication nodes
JP2017047784A (ja) 2015-09-02 2017-03-09 アルパイン株式会社 音声入力装置
US9978366B2 (en) * 2015-10-09 2018-05-22 Xappmedia, Inc. Event-based speech interactive media player
US9918042B2 (en) 2016-04-29 2018-03-13 Getgo, Inc. Performing electronic conferencing operations using electronic portals at different locations
US20170351476A1 (en) 2016-06-03 2017-12-07 Avaya Inc. Create private interaction workspace
US11032675B2 (en) * 2016-06-23 2021-06-08 AINA Wireless Finland Oy Electronic accessory incorporating dynamic user-controlled audio muting capabilities, related methods and communications terminal
US10412565B2 (en) * 2016-12-19 2019-09-10 Qualcomm Incorporated Systems and methods for muting a wireless communication device
US11057702B1 (en) * 2019-12-20 2021-07-06 Microsoft Technology Licensing, Llc Method and system for reducing audio feedback

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012147397A (ja) 2011-01-14 2012-08-02 Lenovo Singapore Pte Ltd 情報処理装置、その音声設定方法、およびコンピュータが実行するためのプログラム
WO2013069396A1 (ja) 2011-11-09 2013-05-16 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理方法、プログラム及び情報記憶媒体

Also Published As

Publication number Publication date
CN113711178A (zh) 2021-11-26
US11880633B2 (en) 2024-01-23
EP3961370A4 (en) 2023-01-25
EP3961370A1 (en) 2022-03-02
JPWO2020218096A1 (ja) 2021-11-18
US20220164161A1 (en) 2022-05-26
WO2020218096A1 (ja) 2020-10-29

Similar Documents

Publication Publication Date Title
EP3142389B1 (en) Audio system with multi-screen application
US8064972B2 (en) User interface for wireless headset on a gaming console
US11005985B2 (en) Method and apparatus for media property or characteristic control in a media system
JP2005519555A (ja) 複数の装置に対して単一のユーザ・インタフェースを提供するための方法、装置、及びシステム。
CN112243177A (zh) 头戴式耳机、再现控制方法和程序
EP2521376B1 (en) Dual radio gaming headset
US10542357B2 (en) Earset, earset system, and earset control method
US10773165B2 (en) Gaming peripheral with intelligent audio control
JP2014515140A (ja) 骨伝導振動子を備えるユーザインタフェースを制御するためのシステムおよび装置
US9716947B1 (en) Headset audio system
JP7189334B2 (ja) 情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラム
JP7220780B2 (ja) 情報処理システム、コントローラ、情報処理装置、情報処理装置の制御方法、及びプログラム
JP7170851B2 (ja) 情報処理システム、情報処理装置、情報処理装置の制御方法、及びプログラム
US10681483B2 (en) Sound processing apparatus and method
US20150078557A1 (en) Audio system
WO2017029896A1 (ja) オーディオ機器及びオーディオ機器制御方法
CN115623372A (zh) 耳机及耳机音效的调节方法
JP2022063332A (ja) コントローラ装置、及びその制御方法
EP2835984A1 (en) Audio system
US11524224B2 (en) Operating device
JP2012248990A (ja) 電子機器及びテレビ電話方法
JP2022085072A (ja) 音入出力装置、音入出力システム、サーバ、及び音入出力方法
JP2007110477A (ja) 音量認識トークバック装置
JP2024036087A (ja) 会議システム、サーバ、音声出力方法及びユーザ端末
WO2018025398A1 (ja) 通信機器、車載ハンズフリー装置及び音声出力装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221201

R150 Certificate of patent or registration of utility model

Ref document number: 7189334

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150