JP2019042509A - 音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器 - Google Patents

音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器 Download PDF

Info

Publication number
JP2019042509A
JP2019042509A JP2018161433A JP2018161433A JP2019042509A JP 2019042509 A JP2019042509 A JP 2019042509A JP 2018161433 A JP2018161433 A JP 2018161433A JP 2018161433 A JP2018161433 A JP 2018161433A JP 2019042509 A JP2019042509 A JP 2019042509A
Authority
JP
Japan
Prior art keywords
virtual object
sound
virtual
sound source
visual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018161433A
Other languages
English (en)
Other versions
JP6942101B2 (ja
Inventor
チン ケ,
Jin Ge
チン ケ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Netease Hangzhou Network Co Ltd
Original Assignee
Netease Hangzhou Network Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Netease Hangzhou Network Co Ltd filed Critical Netease Hangzhou Network Co Ltd
Publication of JP2019042509A publication Critical patent/JP2019042509A/ja
Application granted granted Critical
Publication of JP6942101B2 publication Critical patent/JP6942101B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/53Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • A63F13/537Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game using indicators, e.g. showing the condition of a game character on screen
    • A63F13/5375Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game using indicators, e.g. showing the condition of a game character on screen for graphically or textually suggesting an action, e.g. by displaying an arrow indicating a turn in a driving game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/53Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • A63F13/533Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game for prompting the player, e.g. by displaying a game menu
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/215Input arrangements for video game devices characterised by their sensors, purposes or types comprising means for detecting acoustic signals, e.g. using a microphone
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/54Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/30Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device
    • A63F2300/303Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device for displaying additional data, e.g. simulating a Head Up Display
    • A63F2300/305Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device for displaying additional data, e.g. simulating a Head Up Display for providing a graphical or textual hint to the player

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Stereophonic System (AREA)

Abstract

【課題】音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器を提供する。
【解決手段】ゲームシーンにおける第1の予め設定された範囲内の音声を検出すると共に、音声のタイプと、音声の音源の仮想オブジェクトに対する方位とを取得するステップS1と、グラフィカルユーザインターフェースには音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップS2と、音声の音源の仮想オブジェクトに対する方位に基づいて、対応付けられる仮想コンポーネントの指向を制御するステップS3と、を含む。
【選択図】図1

Description

本願は、出願番号が201710762298.3であって、出願日が2017年8月30日である中国特許出願に基づき優先権を主張し、当該中国特許出願のすべての内容を本願に援用する。
本発明は、マンマシンインタラクション技術領域に係り、特に、音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器に関する。
コンベンショナル端末のゲームでは、ユーザは、ゲームにおける音声のタイプと、音声の音源の、ユーザにより制御される仮想オブジェクトに対する距離及び方位などの情報を判断することによって、ユーザにより制御される仮想オブジェクトが位置する環境を判断することができ、例えば、靴音の変化規則によって、敵キャラクタの方向を判断することができ、さらに、例えば、銃声によって、危険の来現を判断することができる。したがって、コンベンショナル端末のゲームでは、ユーザは、ゲームにおける音声に基づいて、ユーザにより制御される仮想オブジェクトが位置する環境を迅速に判断することができると共に、対策を迅速に施すことができる。なお、コンベンショナル端末の応用環境が良い、音響効果が良いイヤホンまたは音響機器を使用すると、没入感が容易に中断されず、ユーザは、より良い体験を持つことができる。
現在、手持ち端末の普及に伴い、ゲームが手持ち端末に応用されることは、ますます増えている。しかしながら、コンベンショナル端末に比べて、手持ち端末の応用環境は、比較的広くなっている。手持ち端末が騒音環境で応用される場合、ユーザは、ゲームにおける音声によって、ユーザにより制御される仮想オブジェクトが位置する環境を判断しにくく、且つ、没入感は、容易に中断される。
なお、上記の背景技術に開示された上記の情報は、本発明の背景に対する理解を強化するためのものに過ぎず、当業者にとって公知の先行技術ではない情報を含むことができる。
本発明は、音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器を提供することを目的とする。
本発明の一局面によれば、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル方法を提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを部分的に含み、前記方法は、前記ゲームシーンにおける第1の予め設定された範囲内の音声を検出すると共に、前記音声のタイプと、前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップと、前記グラフィカルユーザインターフェースに前記音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップと、前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップと、を含む。
本発明の一局面によれば、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル方法を提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを部分的に含み、前記方法は、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップと、前記グラフィカルユーザインターフェースに前記複数の音声における第1の音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップと、前記第1の音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップと、を含む。
本発明の一局面によれば、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル方法を提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを部分的に含み、前記方法は、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップと、前記グラフィカルユーザインターフェースに前記複数の音声と同じ数の複数のビジュアルコントロールを提供するステップと、ここで、前記複数のビジュアルコントロールは、前記複数の音声と一対一で対応し、各前記ビジュアルコントロールは、いずれも各前記音声のタイプに対応付けられる仮想コンポーネントを含み、各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる各前記仮想コンポーネントの指向をそれぞれ制御するステップと、を含む。
本発明の一局面によれば、プロセッサに実行されることにより、上記のいずれか1つの音声情報を補償するビジュアル方法を実現するコンピュータプログラムを提供する。
本発明の一局面によれば、上記のコンピュータプログラムが記憶されたコンピュータ読取り可能な記憶媒体を提供する。
本発明の一局面によれば、電子機器を提供し、
当該電子機器は、
プロセッサと、
前記プロセッサによって実行可能な指令を記憶するメモリと、を含み、
前記プロセッサは、前記実行可能な指令を実行することによって、上記のいずれか1つの音声情報を補償するビジュアル方法を実行するように構成される。
以上の一般的な説明および以下の詳細な説明は、例示的且つ説明的なものに過ぎず、本発明を限定するものではないことを理解するべきである。
例示的な実施形態を図面を参照して詳細に説明することにより、本発明の上記特徴及び他の特徴及び利点がより明らかになるであろう。明らかなように、以下の説明における図面は、単に本発明のいくつかの実施形態に関するものであり、当業者は、創造的な労働をかけることなく、これらの図面に基づいて他の図面を得ることができる。
図1は、本発明に係る音声情報を補償するビジュアル方法の第1のフローチャートである。 図2は、本発明の例示的な実施例における第1の予め設定された範囲と第2の予め設定された範囲との模式図である。 図3は、本発明に係る音声情報を補償するビジュアル方法の第2のフローチャートである。 図4は、本発明の例示的な実施例に1つのビジュアルコントロールを表示する模式図である。 図5は、本発明の他の例示的な実施例に1つのビジュアルコントロールを表示する模式図である。 図6は、本発明に係る音声情報を補償するビジュアル方法の第3のフローチャートである。 図7は、本発明の例示的な実施例に3つのビジュアルコントロールを表示する模式図である。 図8は、本発明の他の例示的な実施例に3つのビジュアルコントロールを表示する模式図である。 図9は、本発明に係る音声情報を補償するビジュアル装置のブロック図である。 図10は、本発明の例示的な実施例における電子機器のモジュール模式図である。 図11は、本発明の例示的な実施例におけるプログラム製品の模式図である。
現在、いくつかのゲーム開発元は、グラフィカルユーザインターフェースに矢印を表示することによって、ゲームにおける音声の音源の仮想オブジェクトに対する方位を標示し、または、グラフィカルユーザインターフェースに音声波形を含むコントロールを表示することによって、音声の音量の変化を示す。
上記の方式においては、音声のタイプと、音声の仮想オブジェクトに対する距離及び方位とを同時に表示することができない。ユーザは、騒音環境で上記の方式により、音声のタイプと、音声の仮想オブジェクトに対する距離及び方位とを同時に取得できず、ユーザ体験が悪い。
以下、図面を参照して本発明の例示的な実施例をより詳細に説明する。
当該例示的な実施例は、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル方法を開示し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを少なくとも部分的に含む。当該タッチ端末は、例えば、携帯電話、タブレットコンピュータ、ノートコンピュータ、ゲーム機、PDA等、タッチスクリーンを備える各種の電子機器であってもよい。ゲームアプリケーションは、タッチ端末のアプリケーションプログラミングインタフェースにより、タッチ端末のタッチスクリーンが仮想オブジェクトと、仮想ジョイスティックを含む仮想ジョイスティック領域と、仮想戦闘シーンと、仮想自然環境等を提示するように制御できる。前記グラフィカルユーザインターフェースは、タッチスクリーンの全体の領域であってもよく、タッチスクリーンの一部の領域であってもよいが、当該例示的な実施例は、これに対して特に限定されない。前記仮想オブジェクトとは、ユーザにより制御されるゲームキャラクタを指し、前記ゲームキャラクタの部分または全体の形態でグラフィカルユーザインターフェースに表示される。例えば、一人称視点では、グラフィカルユーザインターフェースの内容は、ユーザのマスター視点で提示され、ユーザの没入感を向上させることができ、インタフェースには、例えば、手または足などのゲームキャラクタの一部のみが見えるが、三人称視点では、ゲームキャラクタの全体をグラフィカルユーザインターフェースに提示することができ、ユーザの操作難度及びめまい感を低減し、且つ画面の動作感をより強調することができる。開発者は、ゲームの内容に基づいて、どちらの方式で表示するかを決定でき、本発明は、これに限定されない。図1に示すように、音声情報を補償するビジュアル方法は、前記ゲームシーンにおける第1の予め設定された範囲内の音声を検出すると共に、前記音声のタイプと、前記音声の音源の前記仮想オブジェクトに対する方位を取得するステップS1と、前記グラフィカルユーザインターフェースには前記音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップS2と、前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップS3と、を含んでもよい。
当該例示的な実施例における音声情報を補償するビジュアル方法によれば、音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向によって、音声のタイプと、音声の音源の前記仮想オブジェクトに対する方位とを同時に表示する方法を提供し、ユーザは、騒音環境において音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向により、音声のタイプと、音声の音源の前記仮想オブジェクトに対する方位とを識別できるようになり、一方、上記の方式によって、ユーザは、音声のタイプと、音声の音源の前記仮想オブジェクトに対する方位とを同時に識別でき、したがって、関連技術に比べて、ユーザ体験が良い。
以下、図1を参照して、当該例示的な実施例における音声情報を補償するビジュアル方法をさらに説明する。
ステップS1において、前記ゲームシーンにおける第1の予め設定された範囲内の音声を検出すると共に、前記音声のタイプと、前記音声の音源の前記仮想オブジェクトに対する方位を取得する。
当該例示的な実施例において、前記第1の予め設定された範囲の大きさは、開発者によりゲーム内容に応じて設定されてもよい。例えば、前記第1の予め設定された範囲は、仮想キャラクタの聴覚範囲に基づいて決定される範囲であってもよく、ゲームシーンの全体の領域またはグラフィカルユーザインターフェースに表示されるゲームシーンの領域等であってもよい。
検出モジュールにより、予め設定された周期で第1の予め設定された範囲内の音声を検出してもよく、前記予め設定された周期は、開発元によって設定されてもよい。ただし、検出の精度を確保するために、前記予め設定された周期は長すぎるものとすることができない。
音声タイプ取得モジュールにより、前記音声のタイプを取得してもよい。ここで、前記音声のタイプは、靴音、会話音、ドア開音、銃声、戦闘音等であってもよいが、当該例示的な実施例は、これに対して特に限定されない。
仮想オブジェクトの座標と音声の音源の座標を取得すると共に、前記仮想オブジェクトの座標と音声の音源の座標に基づいて、音声の音源の仮想オブジェクトに対する方位を計算してもよい。
ステップS2において、前記グラフィカルユーザインターフェースには前記音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供する。
当該例示的な実施例において、前記ビジュアルコントロールは、グラフィカルユーザインターフェースにおける任意の位置に設置されてもよい。例えば、前記ビジュアルコントロールは、グラフィカルユーザインターフェースの左上方に設置されてもよい。さらに、例えば、前記ビジュアルコントロールは、グラフィカルユーザインターフェースの右下方等に設置されてもよい、当該例示的な実施例は、これに対して特に限定されない。前記ビジュアルコントロールの形状は、円形、方形、楕円形等であってもよい。前記ビジュアルコントロールの色は、緑色、黒色、灰色等であってもよい。
前記仮想コンポーネントは、表意画像と方向標識を含んでもよい。前記表意画像は、音声のタイプを表示するためのものであり、したがって、前記表意画像は、前記音声のタイプと一致する。ユーザが前記表意画像に基づいて前記音声のタイプを迅速に識別できるようにするために、前記表意画像は、音声のタイプに基づいて決定されてもよい。例えば、音声のタイプが靴音である場合、表意画像は、足の形状であってもよい。さらに、例えば、音声のタイプが銃声である場合、表意画像は、銃の形状であってもよい。前記表意画像の色は、開発元により設定されてもよく、音声のタイプに基づいて決定されてもよく、例えば、音声のタイプが銃声である場合、前記表意画像の色は、銃の色に基づいて設定されてもよい。さらに、例えば、音声のタイプが靴音である場合、前記表意画像の色は、黒色であってもよい。なお、表意画像の色とビジュアルコントロールの色は、ユーザが表意画像を迅速に識別できないことを避けるように、似すぎるものに設置されることができない。
前記方向標識は、前記音声の音源の前記仮想オブジェクトに対する方位を示すためのものであり、したがって、前記方向標識の指向は、前記音声の音源の前記仮想オブジェクトに対する方位と一致する。前記方向標識は、矢印であってもよく、三角形であってもよく、ポインターなど指向方向を有する標識であってもよいが、当該例示的な実施例は、これに対して特に限定されない。前記方向標識の色は、開発元により設定されてもよく、例えば、緑色であってもよく、赤色等であってもよい。前記方向標識の指向は、前記音声の音源の前記仮想オブジェクトに対する方位に伴って360度連続的に変化し、即ち、音声の音源の前記仮想オブジェクトに対する方位が連続的に変化する場合、前記方向標識の指向も連続的に変化する。
ステップS3において、前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御する。
当該例示的な実施例において、前記仮想コンポーネントが表意画像と方向標識を含む場合、音声の音源の仮想オブジェクトに対する方位に基づいて、対応付けられる仮想コンポーネントにおける方向標識の指向を制御してもよい。
当該例示的な実施例において、前記方向標識は、ビジュアルコントロールの周囲の任意の固定位置に設置されてもよい。これに基づいて、前記方向標識は、方向標識上の任意の1つの点を中心として回転して、方向標識の指向を変更することができる。
当該例示的な実施例において、前記方向標識は、ビジュアルコントロールの境界上に設置されてもよい、または、ビジュアルコントロールの周囲に設置されてもよい。これに基づいて、前記方向標識は、予め設定された軌跡に沿って移動して、方向標識の指向を変更でき、ここで、前記予め設定された軌跡は、例えば、前記ビジュアルコントロールの境界であってもよい。
一実施例において、前記方法は、前記音声の音源の前記仮想オブジェクトに対する距離を取得するステップと、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップと、をさらに含む。
一実施例において、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップは、
前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの透明度、大きさ、または輝度のうちの少なくとも一種の表示形態を制御するステップを含む。
当該例示的な実施例において、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップは、以下の方式を含む。
方式1では、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの透明度の表示形態を制御する。
当該例示的な実施例において、前記仮想コンポーネントの透明度と前記音声の音源の前記仮想オブジェクトに対する距離とは、負の相関関係を有し、即ち、前記音声の音源の前記仮想オブジェクトに対する距離が遠いほど、仮想コンポーネントの透明度が高くなり、前記音声の音源の前記仮想オブジェクトに対する距離が近いほど、仮想コンポーネントの透明度が低くなる。なお、前記仮想コンポーネントの透明度の取り得る範囲は、100%〜0%であり、ここで、仮想コンポーネントの透明度が100%である場合、仮想コンポーネントは、完全に透明であり、仮想コンポーネントの透明度が0%である場合、仮想コンポーネントは、完全に不透明である。
方式2では、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの大きさの表示形態を制御する。
当該例示的な実施例において、前記仮想コンポーネントの大きさと前記音声の音源の前記仮想オブジェクトに対する距離とは、負の相関関係を有し、即ち、前記音声の音源の前記仮想オブジェクトに対する距離が遠いほど、仮想コンポーネントの大きさが小さくなり、前記音声の音源の前記仮想オブジェクトに対する距離が近いほど、仮想コンポーネントの大きさが大きくなる。
方式3では、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの輝度の表示形態を制御する。
当該例示的な実施例において、前記仮想コンポーネントの輝度と前記音声の音源の前記仮想オブジェクトに対する距離とは、負の相関関係を有し、即ち、前記音声の音源の前記仮想オブジェクトに対する距離が遠いほど、仮想コンポーネントの輝度が低くなり、前記音声の音源の前記仮想オブジェクトに対する距離が近いほど、仮想コンポーネントの輝度が高くなる。
なお、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの透明度、大きさまたは輝度のうちの任意の2種または3種の表示形態を制御してもよい。
なお、前記仮想コンポーネントが表意画像と方向標識を含む場合、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップは、前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントにおける前記表意画像及び/又は前記方向標識の表示形態を制御するステップを含んでもよい。
当該例示的な実施例において、表意画像と方向標識の表示形態を同時に制御すことによって、音声の音源の仮想オブジェクトに対する距離を表示してもよい、表意画像と方向標識のうちの一方の表示形態を制御することによって、音声の音源の仮想オブジェクトに対する距離を表示してもよい。
さらに、前記音声の音源の仮想オブジェクトに対する距離に基づいて、対応付けられる仮想コンポーネントにおける前記表意画像及び/又は前記方向標識の透明度の表示形態を制御してもよい、前記音声の音源の仮想オブジェクトに対する距離に基づいて、対応付けられる仮想コンポーネントにおける前記表意画像及び/又は前記方向標識の大きさの表示形態を制御してもよい、前記音声の音源の仮想オブジェクトに対する距離に基づいて、対応付けられる仮想コンポーネントにおける前記表意画像及び/又は前記方向標識の輝度の表示形態を制御してもよい。
なお、前記音声の音源の仮想オブジェクトに対する距離に基づいて、対応付けられる仮想コンポーネントにおける前記表意画像及び/又は前記方向標識の透明度、大きさまたは輝度のうちの任意の2種または3種の表示形態を制御してもよい。
以上のように、音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向によって、音声のタイプと、音声の音源の前記仮想オブジェクトに対する方位とを同時に表示する方法を提供し、ユーザは、騒音環境において音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向により、音声のタイプ、音声の音源の前記仮想オブジェクトに対する方位を識別できるようになる。なお、上記の方式によって、ユーザは、音声のタイプと、音声の音源の前記仮想オブジェクトに対する方位とを同時に識別できるようになり、したがって、関連技術に比べて、ユーザ体験が良い。
なお、前記方法は、前記グラフィカルユーザインターフェースにはビジュアルコントロールを提供する前に、前記音声の音源が第2の予め設定された範囲内にあり、且つ第3の予め設定された範囲外にあると判定するステップをさらに含む。
当該例示的な実施例において、前記第2の予め設定された範囲は、仮想オブジェクトに影響できる範囲であり、前記第2の予め設定された範囲は、仮想オブジェクトを中心とする範囲である。例えば、図2に示すように、前記第2の予め設定された範囲Aは、仮想オブジェクト1を中心とする円形領域であってもよい。なお、前記第2の予め設定された範囲は、仮想オブジェクトを中心とする方形の範囲または楕円形の範囲であってもよいが、当該例示的な実施例は、これに対して特に限定されない。前記第3の予め設定された範囲は、仮想オブジェクトの視野が明瞭である範囲である。図2に示すように、前記第3の予め設定された範囲Bは、仮想オブジェクト1を基準点とする扇形領域であってもよいが、前記扇形領域の面積は、仮想オブジェクトの視野が明瞭である範囲に基づいて設定される。例えば、比較的平坦且つ多すぎる障害物がない環境において、扇形領域の面積を大きく設定できる。さらに、例えば、障害物が多い、または、地形が凹凸ある環境において、扇形領域の面積は、当該扇形領域の既存の面積から障害物または地形の凸凹ある部分の面積を差し引いた後の余剰の面積であってもよい。
音声の音源の位置を取得した場合、音声の音源の位置座標が第2の予め設定された範囲の座標範囲内にあり且つ第3の予め設定された範囲の座標範囲外にあるか否かを判定し、音声の音源の位置座標が第2の予め設定された範囲の座標範囲内にあり且つ第3の予め設定された範囲の座標範囲外にあると判定する場合、グラフィカルユーザインターフェースにビジュアルコントロールを表示し、音声の音源の位置座標が第2の予め設定された範囲の座標範囲外にあるかまたは第3の予め設定された範囲の座標範囲内にあると判定する場合、グラフィカルユーザインターフェースにビジュアルコントロールを表示しない。
上記の方式によって、音声の音源の位置が仮想オブジェクトから遠く離れる場合、当該音声は、短時間で仮想オブジェクトに影響を及ぼさない、例えば、仮想オブジェクトから遠く離れる銃声は、短時間で仮想オブジェクトに脅威を与えない、したがって、第2の予め設定された範囲(即ち、仮想オブジェクトに影響を及ぼすことができる範囲)を設定し、且つ、音声の音源の位置が第2の予め設定された範囲内にある場合のみ、ビジュアルコントロールを表示することによって、表示ロジックを最適化させると共に、ビジュアルコントロールの冗長設計を減少させることができる。なお、音声の音源の位置が第3の予め設定された範囲内(即ち、音声の音源の位置が仮想オブジェクトの視野が明瞭である範囲内にある場合)にある場合、ユーザは、音声の音源の位置を明瞭に見ることができ、したがって、グラフィカルユーザインターフェースにビジュアルコントロールを表示しない、音声の音源の位置が第3の予め設定された範囲外(即ち、音声の音源の位置は仮想オブジェクトの視野が明瞭である範囲外にある場合)にある場合のみ、ビジュアルコントロールを表示し、表示ロジックをさらに最適化させると共に、ビジュアルコントロールの冗長設計を減少させることができる。
本発明の例示的な実施例において、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル方法をさらに提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを少なくとも部分的に含む。当該タッチ端末は、例えば、携帯電話、タブレットコンピュータ、ノートコンピュータ、ゲーム機、PDA等、タッチスクリーンを備える各種の電子機器であってもよい。ゲームアプリケーションは、タッチ端末のアプリケーションプログラミングインタフェースにより、タッチ端末のタッチスクリーンが仮想オブジェクトと、仮想ジョイスティックを含む仮想ジョイスティック領域と、仮想戦闘シーンと、仮想自然環境等を提示するように制御できる。前記グラフィカルユーザインターフェースは、タッチスクリーンの全体の領域であってもよい、タッチスクリーンの一部の領域であってもよい、当該例示的な実施例は、これに対して特に限定されない。前記仮想オブジェクトとは、ユーザにより制御されるゲームキャラクタを指し、前記ゲームキャラクタの部分または全体の形態でグラフィカルユーザインターフェースに表示される。例えば、一人称視点では、グラフィカルユーザインターフェースの内容は、ユーザのマスター視点で提示され、ユーザの没入感を向上させることができ、インタフェースには、例えば、手または足などのゲームキャラクタの一部のみが見えるが、三人称視点では、ゲームキャラクタの全体をグラフィカルユーザインターフェースに提示することができ、ユーザの操作難度及びめまい感を低減し、且つ画面の動作感をより強調することができる。開発者は、ゲームの内容に基づいて、どちらの方式で表示するかを決定できるが、本発明は、これに限定されない。図3に示すように、音声情報を補償するビジュアル方法は、以下のステップを含んでもよい。
ステップS10において、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得する。
当該例示的な実施例において、前記第1の予め設定された範囲の大きさは、開発者によりゲーム内容に基づいて設定されてもよく、例えば、前記第1の予め設定された範囲は、仮想キャラクタの聴覚範囲に基づいて決定される範囲であってもよく、ゲームシーンの全体の領域またはグラフィカルユーザインターフェースに表示されるゲームシーンの領域等であってもよい。
検出モジュールにより、予め設定された周期でグラフィカルユーザインターフェースにおける複数の音声を検出してもよい、前記予め設定された周期は、開発元によって設定されてもよい。ただし、検出の精度を確保するために、前記予め設定された周期は長すぎるものとすることができない。
音声タイプ取得モジュールにより、前記複数の音声のタイプをそれぞれ取得してもよい。ここで、前記音声のタイプは、靴音、会話音、ドア開音、銃声、戦闘音等であってもよいが、当該例示的な実施例は、これに対して特に限定されない。
各音声の音源の座標と仮想オブジェクトの座標を取得すると共に、各音声の音源の座標と仮想オブジェクトの座標に基づいて、各音声の音源の仮想オブジェクトに対する距離及び方位をそれぞれ計算してもよい。
前記複数の音声は、3個であってもよいし、4個であってもよいし、5個であってもよいが、当該例示的な実施例は、これに対して特に限定されない。前記複数の音声のタイプは、完全に同一であってもよく、完全に異なってもよく、完全に同一でなくてもよい。
ステップS20において、前記グラフィカルユーザインターフェースには、前記複数の音声における第1の音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供する。
当該例示的な実施例において、前記ビジュアルコントロールの位置は、グラフィカルユーザインターフェースにおける任意の位置であってもよく、例えば、グラフィカルユーザインターフェースの右下方であってもよく、グラフィカルユーザインターフェースの左上方にあってもよいが、当該例示的な実施例は、これに対して特に限定されない。
予め設定された方式に基づいて複数の音声の順序をソートすると共に、一番目に並べられる音声を第1の音声として決定してもよい。前記予め設定された方式は、音声の音源の仮想オブジェクトに対する距離に基づいて、近い順から遠い順でソートし、仮想オブジェクトに対する距離が最も近い音声を一番目に並べ、仮想オブジェクトに対する距離が最も遠い音声を最後に並べることであってもよい。前記予め設定された方式は、音声の仮想オブジェクトに対する脅威度に基づいて、脅威度が大きい順から小さい順でソートし、仮想オブジェクトに対する脅威度が最大である音声を一番目に並べ、仮想オブジェクトに対する脅威度が最小である音声を最後に並べることであってもよい。なお、当該例示的な実施例における予め設定された方式は、これに限定されない。
当該例示的な実施例において、前記仮想コンポーネントは、表意画像と方向標識を含んでもよく、ここで、表意画像は、前記第1の音声のタイプと一致し、前記方向標識の指向は、前記第1の音声の音源の前記仮想オブジェクトに対する方位と一致する。上記の仮想コンポーネントにおける表意画像と方向標識により、ユーザは、第1の音声のタイプと、第1の音声の音源の仮想オブジェクトに対する方位とを取得できる。
前記仮想コンポーネントは、表意画像と、前記複数の音声と同じ数の複数の方向標識をさらに含んでもよい。ここで、前記表意画像は、前記第1の音声のタイプに一致し、前記複数の方向標識は、前記複数の音声と一対一で対応する。即ち、1つの方向標識は、1つの音声に対応し、1つの音声は、1つの方向標識に対応する。上記の仮想コンポーネントにおける表意画像と、複数の音声と同じ数の複数の方向標識とによって、ユーザは、第1の音声のタイプと、各音声の音源の仮想オブジェクトに対する方位とを取得できる。これに基づいて、ユーザが複数の方向標識から第1の音声の音源の仮想オブジェクトに対する方位を迅速に区別できるようにするために、第1の音声の音源の仮想オブジェクトに対する方位を示す方向標識と、他の音声の音源の仮想オブジェクトに対する方位を示す方向標識とを区別して表示できる。
なお、上記の図1で音声情報を補償するビジュアル方法において、前記表意画像と前記方向標識を詳細に説明したので、ここでは説明を省略する。
ステップS30において、前記第1の音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御する。
当該例示的な実施例において、前記仮想コンポーネントは、表意画像と方向標識を含んでもよい。この場合、第1の音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる仮想コンポーネントにおける方向標識の指向を制御することにより、ユーザは、当該方向標識により第1の音声の音源の仮想オブジェクトに対する方位を取得することができる。
前記仮想コンポーネントは、表意画像と、前記複数の音声と同じ数の複数の方向標識とをさらに含んでもよい、ここで、前記表意画像は、前記第1の音声のタイプに一致し、前記複数の方向標識は、前記複数の音声と一対一で対応する。この場合、各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応する各前記方向標識の指向をそれぞれ制御でき、即ち、1つの方向標識は、1つの音声の音源の仮想オブジェクトに対する方位に対応する。上記の方式により、ユーザは、各方向標識の指向に基づいて、各音声の音源の仮想オブジェクトに対する方位をそれぞれ取得することができる。
一実施例において、前記方法は、前記第1の音声の音源の前記仮想オブジェクトに対する距離を取得するステップと、前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップとをさらに含む。
当該例示的な実施例において、前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの透明度の表示形態を制御してもよく、ここで、距離が遠いほど、透明度が高くなり、距離が近いほど、透明度が低くなる。前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの大きさの表示形態を制御してもよく、ここで、距離が遠いほど、仮想コンポーネントが小さくなり、距離が近いほど、仮想コンポーネントが大きくなる。前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの輝度の表示形態を制御してもよく、ここで、距離が遠いほど、輝度が低くなり、距離が近いほど、輝度が高くなる。前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御することによって、ユーザは、仮想コンポーネントの表示形態に基づいて、第1の音声の音源の仮想オブジェクトに対する距離を取得することができる。
前記仮想コンポーネントが表意画像と方向標識含む場合、前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、表意画像及び/又は方向標識の表示形態を制御してもよい。具体的には、前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、表意画像及び/又は方向標識の透明度の表示形態を制御してもよい。前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、表意画像及び/又は方向標識の大きさの表示形態を制御してもよい。以上のように、ユーザは、表意画像及び/又は方向標識の表示形態によって、第1の音声の音源の仮想オブジェクトに対する距離を取得することができる。
前記仮想コンポーネントが表意画像と、前記複数の音声と同じ数の複数の方向標識とを含む場合、前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、表意画像及び/又は第1の音声に対応する方向標識の表示形態を制御してもよい。具体的には、前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、表意画像及び/又は第1の音声に対応する方向標識の透明度の表示形態を制御してもよい。前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、表意画像及び/又は第1の音声に対応する方向標識の大きさの表示形態を制御してもよい。以上のように、ユーザは、表意画像及び/又は第1の音声に対応する方向標識の表示形態により、第1の音声の音源の仮想オブジェクトに対する距離を取得することができる。
なお、前記仮想コンポーネントが表意画像と、前記複数の音声と同じ数の複数の方向標識を含む場合、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、各前記音声に対応付けられる前記方向標識の表示形態を制御してもよい。具体的には、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、各前記音声に対応付けられる前記方向標識の透明度の表示形態を制御してもよく、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、各前記音声に対応付けられる前記方向標識の大きさの表示形態を制御してもよい。以上のように、ユーザは、各前記音声に対応付けられる前記方向標識の表示形態により、各前記音声の音源の仮想オブジェクトに対する距離をそれぞれ取得することができる。
以下、複数の音声が3つの音声であることを例として上記の過程を説明する。
例えば、上記の3つの音声は、それぞれ第1の音声、第2の音声、第3の音声であり、ここで、第1の音声〜第3の音声のタイプは、それぞれ靴音、銃声、ドア開音であり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離は、それぞれ10m、20m、30mであり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する方位は、それぞれ前、後、左である。その上で、音声の音源の前記仮想オブジェクトに対する距離に基づいて、第1の音声〜第3の音声を近くから遠くへの順序でソートし、これにより、第1の音声は、一番目に並べられる。図4に示すように、図4におけるビジュアルコントロール2は、仮想コンポーネントを含み、仮想コンポーネントは、1つの表意画像20と3つの方向標識を含み、ここで、表意画像20の形状は、第1の音声のタイプと一致し、即ち、足の形状であり、3つの方向標識は、それぞれ第1の方向標識21、第2の方向標識22、第3の方向標識23である。ここで、第1の方向標識21は、第1の音声の音源の仮想オブジェクトに対する方位を示し、したがって、第1の方向標識の方向は、前方を指す。第2の方向標識22は、第2の音声の音源の仮想オブジェクトに対する方位を示し、したがって、第2の方向標識の方向は、後方を指す。第3の方向標識23は、第3の音声の音源の仮想オブジェクトに対する方位を示し、したがって、第3の方向標識の方向は、左方を指す。図4において、それぞれ第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離に基づいて、それぞれ第1の方向標識〜第3の方向標識の大きさを制御し、ここで、距離が遠いほど、方向標識が小さくなり、距離が近いほど、方向標識が大きくなり、したがって、第1の方向標識21の大きさは、第2の方向標識22の大きさよりも大きく、第2の方向標識22の大きさは、第3の方向標識23の大きさよりも大きい。なお、図4において、第1の方向標識21には、色が充填され、第2の方向標識22と第3の方向標識23には、色が充填されないので、ユーザは、色に基づいて第1の方向標識21が第1の音声に対応する方向標識であることを区別できる。
さらに、例えば、上記の3つの音声は、それぞれ第1の音声、第2の音声、第3の音声であり、ここで、第1の音声〜第3の音声のタイプは、いずれも銃声であり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離は、それぞれ10m、20m、30mであり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する方位は、それぞれ前、後、左である。その上で、音声の音源の前記仮想オブジェクトに対する距離に基づいて、第1の音声〜第3の音声を近くから遠くへの順序でソートし、これにより、第1の音声は、一番目に並べられる。図5に示すように、図5におけるビジュアルコントロール2は、仮想コンポーネントを含み、仮想コンポーネントは、1つの表意画像20と3つの方向標識を含み、ここで、表意画像20の形状は、第1の音声のタイプと一致し、即ち、銃の形状であり、3つの方向標識は、それぞれ第1の方向標識21、第2の方向標識22、第3の方向標識23である。ここで、第1の方向標識21は、第1の音声の音源の仮想オブジェクトに対する方位を示し、したがって、第1の方向標識の方向は、前方を指す。第2の方向標識22は、第2の音声の音源の仮想オブジェクトに対する方位を示し、したがって、第2の方向標識の方向は、後方を指す。第3の方向標識23は、第3の音声の音源の仮想オブジェクトに対する方位を示し、したがって、第3の方向標識の方向は、左方を指す。図5において、それぞれ第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離に基づいて、それぞれ第1の方向標識〜第3の方向標識の大きさを制御し、ここで、距離が遠いほど、方向標識が小さくなり、距離が近いほど、方向標識が大きくなり、したがって、第1の方向標識21の大きさは、第2の方向標識22の大きさよりも大きく、第2の方向標識22の大きさは、第3の方向標識23の大きさよりも大きい。なお、図5において、第1の方向標識21には、色が充填され、第2の方向標識22と第3の方向標識23には、色が充填されないので、ユーザは、色に基づいて第1の方向標識21が第1の音声に対応する方向標識であることを区別できる。
以上のように、ゲームシーンには複数の音声を検出した場合、複数の音声における第1の音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向によって、複数の音声における第1の音声のタイプ、第1の音声の音源の仮想オブジェクトに対する距離及び方位を表示し、これにより、ユーザは、騒音環境において第1の音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向により、第1の音声のタイプ、第1の音声の音源の前記仮想オブジェクトに対する距離及び方位を識別することができる。
あるいは、ゲームシーンには複数の音声を検出した場合、複数の音声における第1の音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントにおける複数の音声と同じ数の複数の方向標識の指向、仮想コンポーネントにおける複数の音声と同じ数の複数の方向標識の表示形態により、複数の音声における第1の音声のタイプ、複数の音声の音源それぞれの仮想オブジェクトに対する距離及び方位を表示することによって、ユーザは、騒音環境において第1の音声のタイプに対応付けられる仮想コンポーネント、仮想コンポーネントにおける複数の音声と同じ数の複数の方向標識の指向及び仮想コンポーネントにおける複数の音声と同じ数の複数の方向標識の表示形態により、第1の音声のタイプ、複数の音声の音源それぞれの前記仮想オブジェクトに対する距離及び方位を識別することができる。
本発明の例示的な実施例において、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル方法をさらに提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを少なくとも部分的に含む。当該タッチ端末は、例えば、携帯電話、タブレットコンピュータ、ノートコンピュータ、ゲーム機、PDA等、タッチスクリーンを備える各種の電子機器であってもよい。ゲームアプリケーションは、タッチ端末のアプリケーションプログラミングインタフェースにより、タッチ端末のタッチスクリーンが仮想オブジェクトと、仮想ジョイスティックを含む仮想ジョイスティック領域と、仮想戦闘シーンと、仮想自然環境等を提示するように制御できる。前記グラフィカルユーザインターフェースは、タッチスクリーンの全体の領域であってもよく、タッチスクリーンの一部の領域であってもよいが、当該例示的な実施例は、これに対して特に限定されない。前記仮想オブジェクトとは、ユーザにより制御されるゲームキャラクタを指し、前記ゲームキャラクタの部分または全体の形態でグラフィカルユーザインターフェースに表示される。例えば、一人称視点では、グラフィカルユーザインターフェースの内容は、ユーザのマスター視点で提示され、ユーザの没入感を向上させることができ、インタフェースには、例えば、手または足などのゲームキャラクタの一部のみが見えるが、三人称視点では、ゲームキャラクタの全体をグラフィカルユーザインターフェースに提示することができ、ユーザの操作難度及びめまい感を低減し、且つ画面の動作感をより強調することができる。開発者は、ゲームの内容に基づいて、どちらの方式で表示するかを決定できるが、本発明は、これに限定されない。図6に示すように、音声情報を補償するビジュアル方法は、以下のステップを含んでもよい。
ステップS100において、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得する。
当該例示的な実施例において、図3では音声情報を補償するビジュアル方法のステップS10において上記のステップを詳細に説明したので、ここでは説明を省略する。
ステップS200において、前記グラフィカルユーザインターフェースには前記複数の音声と同じ数の複数のビジュアルコントロールを提供し、前記複数のビジュアルコントロールは、前記複数の音声と一対一で対応し、各前記ビジュアルコントロールは、いずれも各前記音声のタイプに対応付けられる仮想コンポーネントを含む。
当該例示的な実施例において、前記ビジュアルコントロールの数と音声の数は、同じであり、且つ、1つの音声は、1つのビジュアルコントロールのみに対応し、1つのビジュアルコントロールは、1つの音声のみに対応する。
各前記仮想コンポーネントは、いずれも表意画像と方向標識を含んでもよく、ここで、仮想コンポーネントにおける表意画像は、仮想コンポーネントに対応付けられる音声のタイプと一致し、前記仮想コンポーネントにおける方向標識は、仮想コンポーネントに対応付けられる音声の音源の仮想オブジェクトに対する方位と一致する。
なお、上記の図1で音声情報を補償するビジュアル方法において、前記表意画像と前記方向標識を詳細に説明したので、ここでは説明を省略する。
ステップS300において、各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる各前記仮想コンポーネントの指向をそれぞれ制御する。
当該例示的な実施例において、前記仮想コンポーネントが表意画像と方向標識を含む場合、各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる各前記仮想コンポーネントにおける方向標識の指向をそれぞれ制御することができる。
一実施例において、前記方法は、前記複数の音声の音源の前記仮想オブジェクトに対する距離を取得するステップと、前記複数の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップとをさらに含む。
当該例示的な実施例において、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる各前記仮想コンポーネントの透明度の表示形態をそれぞれ制御してもよい。各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる各前記仮想コンポーネントの大きさの表示形態をそれぞれ制御してもよい。
各前記仮想コンポーネントがいずれも表意画像と方向標識を含む場合、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる各前記仮想コンポーネントの表示形態をそれぞれ制御するステップは、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる各前記仮想コンポーネントにおける表意画像及び/又は方向標識の表示形態をそれぞれ制御するステップを含んでもよい。具体的には、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる各前記仮想コンポーネントにおける表意画像及び/又は方向標識の透明度の表示形態をそれぞれ制御してもよく、各前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる各前記仮想コンポーネントにおける表意画像及び/又は方向標識の大きさの表示形態をそれぞれ制御してもよい。
以下、複数の音声が3つの音声であることを例として上記の過程を説明する。
例えば、上記の3つの音声は、それぞれ第1の音声、第2の音声、第3の音声であり、ここで、第1の音声〜第3の音声のタイプは、それぞれ靴音、銃声、ドア開音であり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離は、それぞれ10m、20m、30mであり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する方位は、それぞれ前、後、左である。図7に示すように、図7において、3つのビジュアルコントロールを含み、それぞれ第1のビジュアルコントロール3、第2のビジュアルコントロール4及び第3のビジュアルコントロール5である。ここで、第1のビジュアルコントロール3は、第1の音声タイプに対応付けられる第1の仮想コンポーネントを含み、第2のビジュアルコントロール4は、第2の音声タイプに対応付けられる第2の仮想コンポーネントを含み、第3のビジュアルコントロール5は、第3の音声タイプに対応付けられる第3の仮想コンポーネントを含む。第1の仮想コンポーネントは、第1の音声のタイプに対応付けられる第1の表意画像30と、第1の音声の音源の仮想オブジェクトに対する方位と一致する第1の方向標識31とを含み、ここで、第1の表意画像30は、足の形状であり、第1の方向標識31は、前方を指す。第2の仮想コンポーネントは、第2の音声のタイプに対応付けられる第2の表意画像40と、第2の音声の音源の仮想オブジェクトに対する方位と一致する第2の方向標識41とを含み、ここで、第2の表意画像40は、銃の形状であり、第2の方向標識41は、後方を指す。第3の仮想コンポーネントは、第3の音声のタイプに対応付けられる第3の表意画像50と、第3の音声の音源の仮想オブジェクトに対する方位と一致する第3の方向標識51とを含み、ここで、第3の表意画像50は、ドアの形状であり、第3の方向標識51は、左方を指す。図7において、第1の方向標識〜第3の方向標識の大きさにより、第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離を表示し、したがって、第1の方向標識31の大きさは、第2の方向標識41の大きさよりも大きく、第2の方向標識41の大きさは、第3の方向標識51の大きさよりも大きい。
さらに、例えば、上記の3つの音声は、それぞれ第1の音声、第2の音声、第3の音声であり、ここで、第1の音声〜第3の音声のタイプは、いずれも靴音であり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離は、それぞれ10m、20m、30mであり、第1の音声〜第3の音声の音源の仮想オブジェクトに対する方位は、それぞれ前、後、左である。図8に示すように、図8において、3つのビジュアルコントロールを含み、それぞれ第1のビジュアルコントロール3、第2のビジュアルコントロール4及び第3のビジュアルコントロール5である。ここで、第1のビジュアルコントロール3は、第1の音声タイプに対応付けられる第1の仮想コンポーネントを含み、第2のビジュアルコントロール4は、第2の音声タイプに対応付けられる第2の仮想コンポーネントを含み、第3のビジュアルコントロール5は、第3の音声タイプに対応付けられる第3の仮想コンポーネントを含む。第1の仮想コンポーネントは、第1の音声のタイプに対応付けられる第1の表意画像30と、第1の音声の音源の仮想オブジェクトに対する方位と一致する第1の方向標識31とを含み、ここで、第1の表意画像30は、足の形状であり、第1の方向標識31は、前方を指す。第2の仮想コンポーネントは、第2の音声のタイプに対応付けられる第2の表意画像40と、第2の音声の音源の仮想オブジェクトに対する方位と一致する第2の方向標識41とを含み、ここで、第2の表意画像40は、足の形状であり、第2の方向標識41は、後方を指す。第3の仮想コンポーネントは、第3の音声のタイプに対応付けられる第3の表意画像50と、第3の音声の音源の仮想オブジェクトに対する方位と一致する第3の方向標識51とを含み、ここで、第3の表意画像50は、足の形状であり、第3の方向標識51は、左方を指す。図8において、第1の方向標識〜第3の方向標識の大きさにより、第1の音声〜第3の音声の音源の仮想オブジェクトに対する距離を表示し、したがって、第1の方向標識31の大きさは、第2の方向標識41の大きさよりも大きく、第2の方向標識41の大きさは、第3の方向標識51の大きさよりも大きい。
以上のように、複数の音声を検出した上で、複数の音声と同じ数のビジュアルコントロールを表示すると共に、各ビジュアルコントロールにおける各音声タイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向によって、ユーザは、各ビジュアルコントロールにおける各音声タイプに対応付けられる仮想コンポーネント、仮想コンポーネントの表示形態及び仮想コンポーネントの指向により、各音声のタイプと、各音声の音源の仮想オブジェクトに対する方位及び距離を取得することができる。
なお、図面において所定の順序で本発明における方法の各ステップを説明するが、当該所定の順序でこれらのステップを実行しなければならないこと、または、期待の結果を実現するために図示される全てのステップを実行しなければならないことを要求または暗示することではない。それ以外にも、あるステップを省略したり、複数のステップを組み合わせて1つのステップにして実行したり、及び/又は、1つのステップを複数のステップに分解して実行したりしてもよい。
本発明の例示的な実施例において、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル装置をさらに提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを少なくとも部分的に含む。図9に示すように、前記音声情報を補償するビジュアル装置100は、検出取得モジュール101、提供モジュール102及び第1の制御モジュール103を含んでもよい。ここで、検出取得モジュール101は、前記ゲームシーンにおける第1の予め設定された範囲内の音声を検出すると共に、前記音声のタイプと、前記音声の音源の前記仮想オブジェクトに対する方位を取得してもよい。
提供モジュール102は、前記グラフィカルユーザインターフェースには前記音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供してもよい。
第1の制御モジュール103は、前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御してもよい。
前記装置は、第2の制御モジュール104をさらに含み、前記第2の制御モジュールは、音声の音源と前記仮想オブジェクトとの距離を取得すると共に、前記音声の音源と前記仮想オブジェクトとの距離に基づいて、前記仮想コンポーネントの表示形態を制御してもよい。
上記の音声情報を補償するビジュアル装置の各モジュールの具体的な細部は、対応する音声情報を補償するビジュアル方法において詳細に説明したので、ここではその説明を省略する。
本発明の例示的な実施例において、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル装置をさらに提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを少なくとも部分的に含む。前記装置は、検出取得モジュール、提供モジュール及び第1の制御モジュールを含んでもよい。ここで、検出取得モジュールは、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得してもよい。
提供モジュールは、前記グラフィカルユーザインターフェースには、前記複数の音声における第1の音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供してもよい。
第1の制御モジュールは、前記第1の音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御してもよい。
前記装置は、第2の制御モジュールをさらに含み、前記第2の制御モジュールは、前記第1の音声の音源と前記仮想オブジェクトとの距離を取得すると共に、前記第1の音声の音源と前記仮想オブジェクトとの距離に基づいて、前記仮想コンポーネントの表示形態を制御してもよい。
上記の音声情報を補償するビジュアル装置の各モジュールの具体的な細部は、対応する音声情報を補償するビジュアル方法において詳細に説明したので、ここではその説明を省略する。
本発明の例示的な実施例において、グラフィカルユーザインターフェースを提示できるタッチ端末に適用される、音声情報を補償するビジュアル装置をさらに提供し、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを少なくとも部分的に含む。前記装置は、検出取得モジュール、提供モジュール及び第1の制御モジュールを含んでもよい。ここで、検出取得モジュールは、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプ、各前記音声の音源の前記仮想オブジェクトに対する方位を取得してもよい。
提供モジュールは、前記グラフィカルユーザインターフェースには前記複数の音声と同じ数の複数のビジュアルコントロールを提供してもよい、前記複数のビジュアルコントロールは、前記複数の音声と一対一で対応し、各前記ビジュアルコントロールは、いずれも各前記音声のタイプに対応付けられる仮想コンポーネントを含む。
第1の制御モジュールは、各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる各前記仮想コンポーネントの指向をそれぞれ制御してもよい。
前記装置は、第2の制御モジュールをさらに含み、前記第2の制御モジュールは、各前記音声の音源と前記仮想オブジェクトとの距離を取得すると共に、各前記音声の音源と前記仮想オブジェクトとの距離に基づいて、各前記仮想コンポーネントの表示形態を制御してもよい。
上記の音声情報を補償するビジュアル装置の各モジュールの具体的な細部は、対応する音声情報を補償するビジュアル方法において詳細に説明したので、ここではその説明を省略する。
なお、以上の詳細な説明では、実行するための機器のいくつかのモジュールまたはユニットを説明したが、このような区分は、強制的なものではない。実際には、本発明の実施形態によれば、上述した2つ以上のモジュールまたはユニットの特徴及び機能は、1つのモジュールまたはユニットで具体化されてもよい。逆に、上述した1つのモジュールまたはユニットの特徴及び機能は、複数のモジュールまたはユニットによりさらに具体化されても良い。
本発明の例示的な実施例において、上記の方法を実現できる電子機器をさらに提供する。
当業者は、本発明の各局面がシステム、方法またはプログラム製品として実現できることを理解するべきである。したがって、本発明の各局面は、以下の形式で実現でき、即ち、完全なハードウェア実施形態、完全なソフトウェア実施形態(ファームウェア、マイクロコード等を含み)、または、ハードウェアとソフトウェアを結合する実施形態であり、ここでは、「回路」、「モジュール」または「システム」と総称してもよい。
以下、図10を参照して、本発明のこのような実施形態の電子機器600を説明する。図10に示される電子機器600は、単なる一例に過ぎず、本発明の実施例の機能及び使用範囲を限定するものではない。
図10に示すように、電子機器600は、汎用な計算機器の形式で表現される。電子機器600のコンポーネントは、少なくとも1つの処理ユニット610、少なくとも1つの記憶ユニット620、異なるシステムコンポーネント(記憶ユニット620と処理ユニット610を含み)に接続するバス630、表示ユニット640を含んでもよいが、ただし、これに限定されない。
ここで、前記記憶ユニットには、プログラムコードが記憶され、前記プログラムコードは、前記処理ユニット610により実行されてもよく、これにより、前記処理ユニット610は、本明細書の上記の「例示的な方法」の部分に説明した本発明の様々な例示的な実施形態のステップを実行する。例えば、前記処理ユニット610は、図1に示すような、前記ゲームシーンにおける第1の予め設定された範囲内の音声を検出すると共に、前記音声のタイプと、前記音声の音源の前記仮想オブジェクトに対する方位を取得するステップS1と、前記グラフィカルユーザインターフェースには前記音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップS2と、前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップS3を実行してもよい。さらに、例えば、前記処理ユニット610は、図3に示すような、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップS10と、前記グラフィカルユーザインターフェースには、前記複数の音声における第1の音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップS20と、前記第1の音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップS30とを実行してもよい。さらに、例えば、前記処理ユニット610は、図6に示すような、前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップS100と、前記グラフィカルユーザインターフェースには前記複数の音声と同じ数の複数のビジュアルコントロールを提供するステップS200と、ここで、前記複数のビジュアルコントロールは、前記複数の音声と一対一で対応し、各前記ビジュアルコントロールは、いずれも各前記音声のタイプに対応付けられる仮想コンポーネントを含み、及び、各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる各前記仮想コンポーネントの指向をそれぞれ制御するステップS300とを実行してもよい。
記憶ユニット620は、例えば、ランダムアクセス記憶ユニット(RAM)6201及び/又は高速キャッシュ記憶ユニット6202などの揮発性記憶ユニットの形態の読取り可能な媒体を含んでもよく、読取り専用の記憶ユニット(ROM)6203をさらに含んでもよい。
記憶ユニット620は、一組(少なくとも1つ)のプログラムモジュール6205を備えるプログラム/ユーティリティツール6204をさらに含んでもよく、このようなプログラムモジュール6205は、操作システム、1つまたは複数のアプリケーションプログラム、他のプログラムモジュール及びプログラムデータを含むが、これに限定されない。これらの例における各々またはその特定の組み合わせは、ネットワーク環境の実現を含むことができる。
バス630は、いくつかの種類のバス構造のうちの1種または複数種であってもよく、記憶ユニットバスまたは記憶ユニットコントローラ、周辺バス、アクセラレーテッドグラフィックスポート、処理ユニットまたは複数種のバス構造のうちの任意のバス構造を使用するローカルバスを含む。
電子機器600は、1つまたは複数の外部機器700(例えば、キーボード、指向機器、ブルートゥース機器等)に通信してもよく、ユーザが当該電子機器600にインタラクションすることを可能にする1つまたは複数の機器と通信してもよく、及び/又は、当該電子機器600が1つまたは複数の他の計算機器に通信することを可能にする任意の機器(例えば、ルータ、モデム等)と通信してもよい。このような通信は、入力/出力(I/O)インターフェース650を介して行ってもよい。そして、電子機器600は、ネットワークアダプタ660を介して1つまたは複数のネットワーク(例えば、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)及び/又は共通のネットワーク、例えば、インターネット)と通信してもよい。図に示すように、ネットワークアダプタ660は、バス630を介して電子機器600の他のモジュールと通信する。なお、図には示されないが、他のハードウェア及び/又はソフトウェアモジュールを電子機器600と共に使用してもよく、上記の他のハードウェア及び/又はソフトウェアモジュールは、マイクロコード、機器ドライバ、冗長処理ユニット、外部ディスクドライブアレイ、RAIDシステム、テープドライバ及びデータバックアップ記憶システム等を含むが、これに限定されない。
以上の実施形態の説明によって、当業者は、本明細書に記載される例示的な実施形態がソフトウェアにより実現されてもよいこと、ソフトウェアと必要なハードウェアを結合することにより実現されてもよいことを容易に理解することができる。したがって、本発明の実施形態に係る技術案は、ソフトウェア製品の形態で体現されてもよく、当該ソフトウェア製品は、1つの不揮発性記憶媒体(CDーROM、USBデバイス、モバイルハードディスク等であってもよい)またはネットワークに記憶されてもよく、計算機器(パーソナルコンピュータ、サーバ、端末装置またはネットワーク機器等であってもよい)が本発明の実施形態に係る方法を実行するようないくつかの指令を含む。
本発明の例示的な実施例において、本明細書における上記の方法を実現できるプログラム製品が記憶されるコンピュータ読取り可能な記憶媒体をさらに提供する。いくつかの可能な実施形態では、本発明の各局面は、プログラムコードを含むプログラム製品の形態で実現されてもよく、前記プログラム製品が端末機器で実行される場合、前記プログラムコードは、本明細書の上記の「例示的な方法」の部分に説明した本発明の様々な例示的な実施形態のステップを前記端末機器に実行させる。
図11に示すように、本発明の実施形態による上記の方法を実現するためのプログラム製品800は、コンパクトディスク読取り専用メモリ(CDーROM)を使用し、プログラムコードを含み、端末機器(例えば、パーソナルコンピュータ)で実行されることができる。しかしながら、本発明のプログラム製品は、これに限定されず、本願において、読取り可能な記憶媒体は、プログラムを含むかまたは記憶する任意の有形媒体であってもよく、当該プログラムは、指令実行システム、装置または部品により使用されてもよい、または、それらに結合して使用されてもよい。
前記プログラム製品は、1つまたは複数の読取り可能な媒体の任意の組み合わせを使用してもよい。読取り可能な媒体は、読取り可能な信号媒体または読取り可能な記憶媒体であってもよい。読取り可能な記憶媒体は、例えば、電子、磁気、光、電磁、赤外線、または半導体のシステム、装置または部品、または、上記の任意の組み合わせであってもよいが、ただし、これに限定されない。読取り可能な記憶媒体のより具体的な例(非網羅的リスト)は、1つまたは複数の導線を有する電気的接続、可搬型ディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読取り専用メモリ(ROM)、消去/プログラムが可能な読取り専用のメモリ(EPROMまたはフラッシュ)、光ファイバー、コンパクトディスク読取り専用のメモリ(CDーROM)、光記憶デバイス、磁気記憶デバイス、または、これらの任意の組み合わせを含む。
コンピュータ読取り可能な信号媒体は、ベースバンドに含まれまたは搬送波の一部として伝播されるデータ信号を含んでもよく、その中で読取り可能なプログラムコードを担持する。このような伝播されるデータ信号は、多くの形式を採用してもよく、電磁信号、光信号または上記の任意の組み合わせを含むが、これに限定されない。読取り可能な信号媒体は、読取り可能な記憶媒体以外の任意の読取り可能な媒体であってもよく、当該読取り可能な媒体は、指令実行システム、装置または部品により使用されまたはそれらに組み合わせて使用されるためのプログラムを送信、伝播または転送することができる。
読取り可能な媒体に含まれるプログラムコードは、任意の適切な媒体により転送されてもよく、無線、有線、光ケーブル、RF等、または、上記の任意の適切な組み合わせを含むが、これに限定されない。
本発明の動作を実行するためのプログラムコードは、1種または複数種のプログラム言語の任意の組み合わせで書かれてもよく、前記プログラム言語は、Java、C++などのオブジェクト指向プログラム言語を含んでもよく、「C」言語または類似のプログラム言語などの通常の手続型プログラム言語を含んでもよい。プログラムコードは、完全にユーザ計算機器で実行されてもよく、一部がユーザ計算機器で実行されてもよく、1つの独立のソフトウェアとして実行されてもよく、一部がユーザ計算機器で実行され、一部が遠隔計算機器で実行されてもよい、または、完全に遠隔計算機器またはサーバで実行されてもよい。遠隔計算機器に係る場合、遠隔計算機器は、ローカルエリアネットワーク(LAN)または広域ネットワーク(WAN)を含む任意の種類のネットワークを介して、ユーザの計算機器に接続されてもよい、または、外部計算機器(例えば、インターネットサービスプロバイダによりインターネットを介して接続され)に接続されてもよい。
例示的な実施形態は、様々な形態で実施することができ、ここに記述の実施形態に限定されると理解されるべきではない。逆に、これらの実施形態が提供されることにより、本発明が全面且つ完全になり、例示的な実施形態の構想を当業者に全面的に伝えることができる。図面において、同一の符号は同一又は類似の構成を示すので、その詳細な説明は省略する。
なお、説明された特徴、構造または特性は、1つのまたは複数の実施形態に任意の適切な方法で組み合わせることができる。以下の説明では、本発明の実施形態を十分に理解するために、多くの具体的な詳細を述べる。しかしながら、当業者は、本発明の技術案が特定の詳細の1つまたは複数を使用しなく実施できること、または、他の方法、構成要素、材料、装置、ステップなどが採用できることを理解するべきである。他の場合では、本発明の各局面を不明瞭にすることを避けるために、周知の構造、方法、装置、実現、材料、または操作を詳細に図示または説明しない。
図面に示されたブロック図は、単に機能エンティティであり、必ずしも物理的に独立のエンティティに対応する必要はない。即ち、ソフトウェアを採用してこれらの機能エンティティを実現してもよく、または、1つまたは複数のソフトウェアが硬化したモジュールではこれらの機能エンティティまたは機能エンティティの一部を実現してもよく、または、異なるネットワーク及び/又はプロセッサ装置及び/又はマイクロコントローラ装置ではこれらの機能エンティティを実現してもよい。
なお、上記の図面は、本発明の例示的な実施形態の方法に含まれるプロセスの例示的な説明のみであり、限定することを意図するものではない。上記の図に示されたプロセスはこれらのプロセスの時間的な順序を明確に示したり、限定したりするものではないことが容易に理解されるであろう。また、これらのプロセスは、例えば複数のモジュールにおいて同期的または非同期的に実行されてもよいことも容易に理解されるであろう。
当業者は、本明細書を考慮し、本明細書に開示された発明を実施した後、本発明の他の実施形態を容易に想到できる。本発明は、本発明の任意の変形、用途または適応性の変更を含み、これらの変形、用途または適応性の変更は、本発明の一般的な原理に従うと共に、本発明に開示されない当技術分野における公知な常識または慣用の技術手段を含む。明細書及び実施例は、例示的なものに過ぎず、本発明の真の範囲及び精神は、特許請求の範囲において指摘されている。
本発明は、以上説明され、且つ図面に示された正確な構成に限定されず、その範囲から逸脱することなく、様々な修正および変更を行うことができることが理解されるべきである。本発明の範囲は、添付の特許請求の範囲によってのみ限定される。

Claims (13)

  1. 音声情報を補償するビジュアル方法であって、グラフィカルユーザインターフェースを提示できるタッチ端末に適用され、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを部分的に含み、
    前記方法は、
    前記ゲームシーンにおける第1の予め設定された範囲内の音声を検出すると共に、前記音声のタイプと、前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップと、
    前記グラフィカルユーザインターフェースに前記音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップと、
    前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップと、を含む
    音声情報を補償するビジュアル方法。
  2. 前記方法は、
    前記音声の音源の前記仮想オブジェクトに対する距離を取得するステップと、
    前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップと、をさらに含む
    請求項1に記載の音声情報を補償するビジュアル方法。
  3. 前記グラフィカルユーザインターフェースにビジュアルコントロールを提供する前に、
    前記音声の音源が第2の予め設定された範囲内にあり、且つ第3の予め設定された範囲外にあると判定するステップをさらに含む
    請求項1に記載の音声情報を補償するビジュアル方法。
  4. 前記仮想コンポーネントは、表意画像と方向標識を含み、ここで、前記表意画像は、前記音声のタイプと一致し、前記方向標識の指向は、前記音声の音源の前記仮想オブジェクトに対する方位と一致する
    請求項1に記載の音声情報を補償するビジュアル方法。
  5. 前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップは、
    前記音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの透明度、大きさ、または輝度のうちの少なくとも一種の表示形態を制御するステップを含む
    請求項2に記載の音声情報を補償するビジュアル方法。
  6. 音声情報を補償するビジュアル方法であって、グラフィカルユーザインターフェースを提示できるタッチ端末に適用され、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを部分的に含み、
    前記方法は、
    前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップと、
    前記グラフィカルユーザインターフェースに前記複数の音声における第1の音声のタイプに対応付けられる仮想コンポーネントを含むビジュアルコントロールを提供するステップと、
    前記第1の音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップと、を含む
    音声情報を補償するビジュアル方法。
  7. 前記仮想コンポーネントは、表意画像と、前記複数の音声と同じ数の複数の方向標識とを含み、ここで、前記表意画像は、前記第1の音声のタイプに一致し、前記複数の方向標識は、前記複数の音声と一対一で対応し、
    前記第1の音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる前記仮想コンポーネントの指向を制御するステップは、
    各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応する各前記方向標識の指向をそれぞれ制御するステップを含む
    請求項6に記載の音声情報を補償するビジュアル方法。
  8. 前記方法は、
    前記第1の音声の音源の前記仮想オブジェクトに対する距離を取得するステップと、
    前記第1の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップと、をさらに含む
    請求項6に記載の音声情報を補償するビジュアル方法。
  9. 音声情報を補償するビジュアル方法であって、グラフィカルユーザインターフェースを提示できるタッチ端末に適用され、前記グラフィカルユーザインターフェースは、ゲームシーンと、仮想オブジェクトを部分的に含み、
    前記方法は、
    前記ゲームシーンにおける第1の予め設定された範囲内の複数の音声を検出すると共に、各前記音声のタイプと、各前記音声の音源の前記仮想オブジェクトに対する方位とを取得するステップと、
    前記グラフィカルユーザインターフェースに前記複数の音声と同じ数の複数のビジュアルコントロールを提供するステップと、ここで、前記複数のビジュアルコントロールは、前記複数の音声と一対一で対応し、各前記ビジュアルコントロールは、いずれも各前記音声のタイプに対応付けられる仮想コンポーネントを含み、
    各前記音声の音源の前記仮想オブジェクトに対する方位に基づいて、対応付けられる各前記仮想コンポーネントの指向をそれぞれ制御するステップと、を含む
    音声情報を補償するビジュアル方法。
  10. 前記方法は、
    前記複数の音声の音源の前記仮想オブジェクトに対する距離を取得するステップと、前記複数の音声の音源の前記仮想オブジェクトに対する距離に基づいて、対応付けられる前記仮想コンポーネントの表示形態を制御するステップとをさらに含む
    請求項9に記載の音声情報を補償するビジュアル方法。
  11. プロセッサに実行されることにより、請求項1〜請求項10の何れか一項に記載の音声情報を補償するビジュアル方法を実現するコンピュータプログラム。
  12. 請求項11に記載のコンピュータプログラムが記憶されたコンピュータ読取り可能な記憶媒体。
  13. プロセッサと、
    前記プロセッサによって実行可能な指令を記憶するメモリと、を含み、
    前記プロセッサは、前記実行可能な指令を実行することによって、請求項1〜請求項10の何れか一項に記載の音声情報を補償するビジュアル方法を実行するように構成される
    電子機器。
JP2018161433A 2017-08-30 2018-08-30 音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器 Active JP6942101B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201710762298.3 2017-08-30
CN201710762298.3A CN107469354B (zh) 2017-08-30 2017-08-30 补偿声音信息的视觉方法及装置、存储介质、电子设备

Publications (2)

Publication Number Publication Date
JP2019042509A true JP2019042509A (ja) 2019-03-22
JP6942101B2 JP6942101B2 (ja) 2021-09-29

Family

ID=60603138

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018161433A Active JP6942101B2 (ja) 2017-08-30 2018-08-30 音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器

Country Status (3)

Country Link
US (1) US10807002B2 (ja)
JP (1) JP6942101B2 (ja)
CN (2) CN107890672B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021516823A (ja) * 2018-05-29 2021-07-08 テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド 音源決定方法並びにその装置、コンピュータプログラム、及び電子装置

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108597530B (zh) * 2018-02-09 2020-12-11 腾讯科技(深圳)有限公司 声音再现方法和装置、存储介质及电子装置
CN108579084A (zh) 2018-04-27 2018-09-28 腾讯科技(深圳)有限公司 虚拟环境中的信息显示方法、装置、设备及存储介质
CN108525300B (zh) * 2018-04-27 2020-01-24 腾讯科技(深圳)有限公司 位置指示信息显示方法、装置、电子装置及存储介质
CN108619725B (zh) * 2018-05-09 2021-07-23 网易(杭州)网络有限公司 图像文件的制作方法和装置
CN108744516B (zh) * 2018-05-29 2020-09-29 腾讯科技(深圳)有限公司 获取定位信息的方法和装置、存储介质及电子装置
US10976999B1 (en) * 2018-06-15 2021-04-13 Chosen Realities, LLC Mixed reality sensor suite and interface for physical region enhancement
CN110673716B (zh) * 2018-07-03 2023-07-07 百度在线网络技术(北京)有限公司 智能终端与用户交互的方法、装置、设备及存储介质
KR102022604B1 (ko) * 2018-09-05 2019-11-04 넷마블 주식회사 주변 오디오를 시각적 표현하는 인터페이스에 기초하여 게임 서비스를 제공하는 게임 서비스 제공 서버 및 방법
CN109966738B (zh) * 2019-02-22 2020-07-31 网易(杭州)网络有限公司 信息处理方法、处理装置、电子设备和存储介质
CN110170170A (zh) * 2019-05-30 2019-08-27 维沃移动通信有限公司 一种信息显示方法及终端设备
CN111228802B (zh) * 2020-01-15 2022-04-26 腾讯科技(深圳)有限公司 信息提示方法和装置、存储介质及电子装置
CN112221135B (zh) * 2020-11-06 2022-07-29 腾讯科技(深圳)有限公司 画面显示方法、装置、设备以及存储介质
CN112245912B (zh) * 2020-11-11 2022-07-12 腾讯科技(深圳)有限公司 虚拟场景中的声音提示方法、装置、设备及存储介质
GB2619541A (en) * 2022-06-09 2023-12-13 Sony Interactive Entertainment Inc Audio processing system and method
CN115920385A (zh) * 2022-12-15 2023-04-07 网易(杭州)网络有限公司 游戏信号反馈方法、装置、电子设备和可读存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015228054A (ja) * 2014-05-30 2015-12-17 和俊 尾花 情報処理システム、情報処理装置、情報処理プログラム、および情報処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1434627A4 (en) * 2001-10-10 2005-02-02 Sony Comp Emtertainment Us PROVIDE GAME INFORMATION ABOUT FIGURES IN A GAME ENVIRONMENT
JP3690672B2 (ja) * 2002-05-17 2005-08-31 任天堂株式会社 ゲームシステムおよびゲームプログラム
US7803048B2 (en) * 2006-03-15 2010-09-28 Microsoft Corporation Radar manipulation in a video game
US8841535B2 (en) * 2008-12-30 2014-09-23 Karen Collins Method and system for visual representation of sound
US8777743B2 (en) * 2012-08-31 2014-07-15 DeNA Co., Ltd. System and method for facilitating interaction with a virtual space via a touch sensitive surface
EP3125073B1 (en) * 2014-03-26 2020-11-18 Sony Corporation Sensory feedback introducing device, sensory feedback introducing system, and sensory feedback introduction method
JP6427079B2 (ja) * 2015-09-16 2018-11-21 株式会社カプコン ゲームプログラムおよびゲームシステム
CN105879390A (zh) * 2016-04-26 2016-08-24 乐视控股(北京)有限公司 虚拟现实游戏处理方法及设备
CN106693338B (zh) * 2017-02-13 2022-04-19 中国航天员科研训练中心 视觉虚拟涌浪运动防护训练装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015228054A (ja) * 2014-05-30 2015-12-17 和俊 尾花 情報処理システム、情報処理装置、情報処理プログラム、および情報処理方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"[COMPUTEX]ゲーマー向けマザーボードのMini−ITXモデルや,液冷+空冷のGPUなど,注目", 4GAMER.NET[ONLINE], JPN6019031273, 5 June 2013 (2013-06-05), ISSN: 0004096654 *
"METAL GEAR SOLID 4 GUNS OF THE PATRIOTS METAL GEAR SOLID PORTABLE OPS", 電撃PLAYSTATION, vol. 第12巻, 第35号, JPN6019031272, 13 October 2006 (2006-10-13), pages 42 - 45, ISSN: 0004096653 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021516823A (ja) * 2018-05-29 2021-07-08 テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド 音源決定方法並びにその装置、コンピュータプログラム、及び電子装置
JP7170742B2 (ja) 2018-05-29 2022-11-14 テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド 音源決定方法並びにその装置、コンピュータプログラム、及び電子装置

Also Published As

Publication number Publication date
US10807002B2 (en) 2020-10-20
CN107469354B (zh) 2018-06-22
CN107890672A (zh) 2018-04-10
US20190060758A1 (en) 2019-02-28
CN107890672B (zh) 2018-12-28
CN107469354A (zh) 2017-12-15
JP6942101B2 (ja) 2021-09-29

Similar Documents

Publication Publication Date Title
JP6942101B2 (ja) 音声情報を補償するビジュアル方法及び装置、プログラム、記憶媒体、電子機器
US10765947B2 (en) Visual display method for compensating sound information, computer readable storage medium and electronic device
JP6731457B2 (ja) 音声情報を補償する視覚的表示方法及び装置、記録媒体、プログラム、電子機器
CN107913520B (zh) 信息处理方法、装置、电子设备及存储介质
US11393154B2 (en) Hair rendering method, device, electronic apparatus, and storage medium
US10542366B1 (en) Speaker array behind a display screen
US8631327B2 (en) Balancing loudspeakers for multiple display users
US11090555B2 (en) Information processing method and apparatus, storage medium and electronic device
US11893702B2 (en) Virtual object processing method and apparatus, and storage medium and electronic device
US20200342669A1 (en) Managing content in augmented reality
US20190111342A1 (en) Information Processing Method and Apparatus, Storage Medium and Electronic Device
JP2023011794A (ja) 音源決定方法並びにその装置、コンピュータプログラム、及び電子装置
CN108776544B (zh) 增强现实中的交互方法及装置、存储介质、电子设备
US11057549B2 (en) Techniques for presenting video stream next to camera
CN114296843A (zh) 人机接口设备的延迟确定
US10872455B2 (en) Method and portable electronic device for changing graphics processing resolution according to scenario
CN110825280A (zh) 控制虚拟物体位置移动的方法、装置和计算机可读存储介质
JP2021005873A (ja) 3次元空間において音像を定位し、制御するための方法及びシステム
WO2016029554A1 (zh) 一种移动终端操控方法及装置
WO2020219110A1 (en) Managing content in augmented reality
CN115617249A (zh) 输入方法、装置、系统及计算机可读存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191118

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200121

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20200521

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201208

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210309

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210510

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20210603

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210629

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210713

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210817

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210817

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210907

R150 Certificate of patent or registration of utility model

Ref document number: 6942101

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150