JP2015510283A - 着用可能な計算機システムへのサウンド状態の表示 - Google Patents

着用可能な計算機システムへのサウンド状態の表示 Download PDF

Info

Publication number
JP2015510283A
JP2015510283A JP2014541077A JP2014541077A JP2015510283A JP 2015510283 A JP2015510283 A JP 2015510283A JP 2014541077 A JP2014541077 A JP 2014541077A JP 2014541077 A JP2014541077 A JP 2014541077A JP 2015510283 A JP2015510283 A JP 2015510283A
Authority
JP
Japan
Prior art keywords
sound
display
computer system
wearable computer
intensity level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014541077A
Other languages
English (en)
Other versions
JP5881263B2 (ja
Inventor
ウォン、エイドリアン
ミャオ、シャオユウ
Original Assignee
グーグル・インク
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by グーグル・インク filed Critical グーグル・インク
Publication of JP2015510283A publication Critical patent/JP2015510283A/ja
Application granted granted Critical
Publication of JP5881263B2 publication Critical patent/JP5881263B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/02Viewing or reading apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/406Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R29/00Monitoring arrangements; Testing arrangements
    • H04R29/008Visual indication of individual signal levels
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/802Systems for determining direction or deviation from predetermined direction
    • G01S3/803Systems for determining direction or deviation from predetermined direction using amplitude comparison of signals derived from receiving transducers or transducer systems having differently-oriented directivity characteristics
    • G01S3/8034Systems for determining direction or deviation from predetermined direction using amplitude comparison of signals derived from receiving transducers or transducer systems having differently-oriented directivity characteristics wherein the signals are derived simultaneously
    • G01S3/8036Systems for determining direction or deviation from predetermined direction using amplitude comparison of signals derived from receiving transducers or transducer systems having differently-oriented directivity characteristics wherein the signals are derived simultaneously derived directly from separate directional systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01HMEASUREMENT OF MECHANICAL VIBRATIONS OR ULTRASONIC, SONIC OR INFRASONIC WAVES
    • G01H3/00Measuring characteristics of vibrations by using a detector in a fluid
    • G01H3/10Amplitude; Power
    • G01H3/12Amplitude; Power by electric means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01HMEASUREMENT OF MECHANICAL VIBRATIONS OR ULTRASONIC, SONIC OR INFRASONIC WAVES
    • G01H3/00Measuring characteristics of vibrations by using a detector in a fluid
    • G01H3/10Amplitude; Power
    • G01H3/14Measuring mean amplitude; Measuring mean power; Measuring time integral of power
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/20Processing of the output signals of the acoustic transducers of an array for obtaining a desired directivity characteristic

Abstract

(i)サウンドの音源の方向、及び、(ii)サウンドの強度レベルを示す、1以上の表示を行う、例示的方法及びシステムを開示する。方法は、着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取るステップを具備することができる。さらに、この方法は、このオーディオデータを分析し、(i)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(ii)このサウンドの強度レベル、の両方を測定するステップを有することができる。さらに、この方法は、着用可能な計算機システムに、(i)このサウンドの音源の方向、及び、(ii)このサウンドの強度レベル、を示す1以上の表示を着用可能な計算機システムに表示させるステップを有することができる。【選択図】図1

Description

本出願は、2011年11月14日に出願された米国特許出願番号13/295,953、表題「着用可能な計算機システムへのサウンド状態の表示(Displaying Sound Indication on a Wearable Computing System)」に基づく優先権を主張するものであり、この米国特許出願を参照として本出願にすべて組み込むものとする。
特に記載がない限り、この部分に記載された事項は、本明細書の請求項に対する先行技術ではなく、この部分に含めることにより先行技術となることを認めるものでもない。
パーソナルコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、携帯電話、及び、数えきれない種々のインターネット接続可能な装置のような、計算装置が現在の生活の様々な局面でますます普及してきている。コンピュータが進歩するにつれて、コンピュータで生成された情報をユーザが知覚する現実の世界と融合させるような、迫真性を増大させる装置がもっと普及することが期待される。
1つの特徴において、例示的実施の方法は、(i)着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取るステップと、(ii)このオーディオデータを分析し、(a)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(b)このサウンドの強度レベル、の両方を測定するステップと、(iii)この着用可能な計算機システムに、(a)このサウンドの音源の方向、及び、(b)このサウンドの強度レベル、の1以上の状態を表示させるステップとを含有し、この着用可能な計算機システムは、この着用可能な計算機システムに所定の閾値レベルを超えた強度レベルを有する1以上の状態を表示させるための条件設定を行うことを特徴とする。
他の1つの特徴において、プロセッサーによる動作に応答して、プロセッサーを動作させる命令を保存した一時的ではないコンピュータ読み取り可能媒体が開示される。例示的実施の形態によれば、この命令には、(i)着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取る命令と、(ii)このオーディオデータを分析し、(a)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(b)このサウンドの強度レベル、の両方を測定する命令と、(iii)この着用可能な計算機システムに、(a)このサウンドの音源の方向、及び、(b)このサウンドの強度レベル、の1以上の状態を表示させる命令と、(iv)この着用可能な計算機システムに所定の閾値レベルを超えた強度レベルを有する1以上の状態を表示させるための条件を調整する命令と、が含まれる。
さらに他の1つの特徴において、着用可能な計算機システムが開示される。例示的な着用可能な計算機システムには、(i)頭部装着ディスプレイであって、この頭部装着ディスプレイはコンピュータで生成された情報を表示し現実世界の環境を視覚的に認識させるよう構成されていることを特徴とする頭部装着ディスプレイと、(ii)コントローラであって、このコントローラは、着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取り、(a)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(b)このサウンドの強度レベル、の両方を測定するよう構成されていることを特徴とするコントローラと、(iii)ディスプレイシステムであって、このディスプレイシステムは、(a)このサウンドの音源の方向、及び、(b)このサウンドの強度レベルを表示する1以上の状態を表示するよう構成されていることを特徴とするディスプレイシステムとが含まれ、このコントローラはさらに、この着用可能な計算機システムに所定の閾値レベルを超えた強度レベルを有する1以上の状態を表示させるための条件を定めるよう構成されていることを特徴とする。
他の特徴、利点、及び代案と共に、これらは、適切な添付図を参照し、以下の詳細な説明を読むことにより、当業者にとって明らかなものとなる。
例示的実施の形態による方法を図解した流れ図である。 例示的実施の形態による、例示的マイクロフォンの配列の概略図である。 例示的実施の形態による、例示的ディスプレイの概略図である。 例示的実施の形態による、図3aのディスプレイに含まれることがある例示的矢印の大きさの概略図である。 例示的実施の形態による、他の例示的ディスプレイの概略図である。 例示的実施の形態による、例示的色コード化されたスケールの概略図である。 例示的実施の形態による、さらに他の例示的ディスプレイの概略図である。 例示的実施の形態による、例示的強度レベル計の概略図である。 データを受信し、伝送し、表示するための例示的システムの概略を示す。 図6に示したシステムのシステムを別方向から見たものを示す。 データを受信し、伝送し、表示するための例示的システムの概略を示す。 データを受信し、伝送し、表示するための例示的システムの概略を示す。 例示的コンピュータネットワークのインフラ基盤の概略図を示す。 例示的実施の形態による、例示的サウンド事象表示器の概略図である。 例示的実施の形態による、他の例示的サウンド事象表示器の概略図である。
以下の詳細な説明では、添付図面を参照して、開示するシステム及び方法の種々の特徴及び機能について説明する。図面において、特に記載がない限り、類似の記号は類似の構成要素を示す。図解したシステム及び方法についてここに記載したシステム及び方法の実施の形態は、限定することを意図するものではない。開示したシステム及び方法が種々の異なった構成で配置し及び組み合わせることができることは明らかであり、このような構成はすべてここで予期されるものである。
1. 概要
着用可能な計算機システムは、現実世界の環境を視覚的に知覚することを可能にし、現実世界の環境の知覚に関するコンピュータで生成された情報を表示するよう構成することができる。コンピュータで生成された情報はユーザが知覚する現実世界の環境に組み込むことができる。例えば、コンピュータ生成された情報は、ユーザが知覚する現実世界に、有用なコンピュータで生成された情報、又は、ユーザがその瞬間知覚又は経験するものに関する光景を補完することができる。
場合によっては、着用可能な計算機システムのユーザは、聞き取りが難しいことがある。例えば、難聴であったり耳が聞こえなかったり、ユーザに聴覚障害があるかもしれない。このように、ユーザが周囲環境のサウンドを聴取することが難しいことがある。従って、周囲環境のサウンドの表示をユーザに行うことは有益な場合がある。例えば、着用可能な計算機システムからのサウンド音源の方向、及び/又は、サウンドの強度を表示することは有益な場合がある。1例として、ユーザは歩道で道路を横断しようとして横断歩道にいて、接近中の車は、その横断歩道を通り過ぎることをユーザに警告するために、その車からユーザにクラクションを鳴らすことがある。このような場合、クラクションが来る方向(例えば、左から、又は、右から)及びその強さ(例えば、接近中の車がどれだけユーザの近くにいるかを示すために)をユーザに表示することは有益である。
ここに記載の方法及びシステムは周囲の現実世界の環境に存在するサウンドを表示することを容易にすることができる。例示的方法には、(a)着用可能な計算機システムにより検出されたサウンドに関するオーディオデータを受け取るステップと、(b)(i)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(ii)このサウンドの強度レベル、の両方を測定するためにオーディオデータを分析するステップと、(c)この着用可能な計算機システムに(i)このサウンドの音源の方向、及び、(ii)このサウンドの強度レベル、を表示する1以上の状態を表示させるステップと、を含めることができる。これらの1以上の状態を表示することにより、ユーザは有益に周囲環境のサウンドの状態を知ることができる。
例示的実施の形態によれば、この着用可能な計算機システムは、所定の閾値レベルを超える強度レベルの1以上の表示を行う条件を調整することができる。さらに、多くの形式のサウンド表示が可能である。1つの例として、表示は、(i)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(ii)このサウンドの強度レベル、の両方を示す1つのグラフィックな表示(例えば、矢印)とすることができる。他の例として、この着用可能な計算機システムは、(i)このサウンドの音源の方向を示す第1の表示(例えば、矢印)及び(ii)このサウンドの強度レベルを示す第2の表示(例えば、強度メーター)を表示することができる。
2. 例示的方法
例示的方法には、周囲環境のサウンドを示すための1以上のサウンド表示を行う着用可能な計算機システムが含まれる。図1は、例示的実施の形態による方法を図解した流れ図である。さらに、具体的には、例示的方法100には、ブロック102に示すような、着用可能な計算機システムにより検出されたサウンドに対応するオーディオデータを受け取るステップが含まれる。この方法には、次に、ブロック104で示すように、(i)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(ii)このサウンドの強度レベル、の両方を測定するためにオーディオデータを分析するステップが含まれる。さらに、この方法は、次いで、(i)このサウンドの音源の方向、及び、(ii)このサウンドの強度レベル、を示す1以上の表示を、着用可能な計算機システムに表示させる。
この例示的方法100は、着用可能な計算機システム600、800、又は820のような着用可能な計算機システムにより行われる例として記載されているが、当然のことながら例示的方法は、着用可能な計算装置と、この着用可能な計算機システムとの通信を行う遠隔サーバーのような、他の構成要素と組み合わせて実施することもできる。
A. 着用可能な計算機システムにより検出されたサウンドに対応するオーディオデータの受け取り
上述のように、ブロック102で、この着用可能な計算機システムは、検出されたサウンドに対応するオーディオデータを受け取る。1つの例では、この着用可能な計算機システムには、周囲環境のサウンドを検出するよう構成された複数のマイクロフォンを含めることができる。本明細書全般で用いられる「サウンド」には、周囲環境に存在する単一のサウンド事象(例えば、単一の落雷音、単一の音の調子)、又は、周囲環境に存在する複数のサウンド(例えば、複数の落雷音、1つの歌曲)を含めることができることに注意すべきである。加えて、周囲環境のサウンドは、単一のサウンドの音源、又は、複数のサウンドの音源から来ることがある。
周囲環境のサウンドを検出するよう構成した複数のマイクロフォンは、複数の方向からくるサウンドを検出するように配置することができる。例えば、マイクロフォンをマイクロフォンの配列として配置することができる。図2は、マイクロフォンの配列202を有する例示的な着用可能な計算機システム200の概略を示す。特に、計算機システム200には、指向性マイクロフォン204a〜204eが含まれる。各指向性マイクロフォン204a〜204eは、それぞれ対応する領域206a〜206eのオーディオを捕捉するために配置されている。各指向性マイクロフォンは対応する領域から来るサウンドを主として検出するよう位置合わせされているが、このマイクロフォンは他の領域から来るサウンドも検出することがある。
1つの実施例において、配列202したマイクロフォンは、図6に示したフレーム604、606、及び608のように、着用可能な計算機システムのフレームの様々な場所に沿って配置することができる。さらに、この配列202では、約150度の範囲の領域から来るサウンドを検出するよう配置しているが、他の例示的実施の形態による配列では、これ以上の角度(例えば、360度まで)又はそれ以下の角度の範囲の領域から来るサウンドを検出することができる。
1つの実施例において、図2を参照して、着用可能な計算機システム200の周囲環境207には、サウンドの複数の音源を含めることができる。例えば、サウンド210の第1の音源208は、領域206aに位置し、サウンド214の第2の音源212は領域206dに位置することができる。着用可能な計算機システム200は、周囲環境のサウンドに対応するオーディオデータを受け取ることができる。特に、マイクロフォンの配列202により、サウンド210及びサウンド214を検出することができる。1つの実施例において、各マイクロフォンは、サウンド210及び214を検出することができる。マイクロフォンを配列202に配置することにより、各指向性マイクロフォン204a〜204eは、別々の時刻に及び/又は別々の強度レベルでサウンド210及び214を検出することができる。
B. オーディオデータの分析
周囲環境のサウンドを検出した後、着用可能な計算機システムは、図9に示したプロセッサー914のようなプロセッサーにオーディオデータを分析のために送ることができる。特に、着用可能な計算機システムは、ブロック104にて、(i)サウンドの音源の着用可能な計算機システムからの方向、及び、(ii)サウンドの強度レベル、の両方を測定するためにオーディオデータを分析する。
サウンドの音源の着用可能な計算機システムからの方向を測定するために、着用可能な計算機システムは、マイクロフォン204a〜204eで集められたオーディオデータを分析することができる。上述のように、1つの実施例において、各マイクロフォンはサウンド210及びサウンド214を検出することができる。しかしながら各指向性マイクロフォン204a〜204eは、異なる時刻に及び/又は異なる強度レベルでサウンド210又は214を検出することができる。例えば、サウンド210は、サウンド210がマイクロフォン204b〜204eで検出されるより前に、マイクロフォン204aで検出されると思われる。同様に、サウンド214は、サウンド214が04a〜204c及び204eで検出されるより前に、マイクロフォン204dで検出されると思われる。種々のマイクロフォンでサウンドが検出される時間差に基づき、着用可能な計算機システムは、サウンドの音源の方向を測定することができる。このようなオーディオデータの方向分析は技術的にはよく知られている。配列202により検出されたオーディオデータに基づき、システムは、サウンド210の音源208は領域206aにあり、サウンド214の音源212は領域206dにあると判断することができる。
さらに、着用可能な計算機システムは、オーディオデータを分析して、サウンドの強度レベル(例えば、音量)を測定することができる。サウンドの強度レベルの測定は、技術的にはよく知られている。1つの実施例において、この強度レベルは、サウンドを特定した領域のマイクロフォンにより検出されたサウンドの強度レベルとすることができる。他の実施例において、この強度レベルは、配列中の各マイクロフォンが受け取ったサウンドの平均強度レベルとすることができる。
周囲環境におけるサウンドの強度レベルは時間と共に変化することに注意しなければならない。例えば、音源208は人の話し声の可能性があり、ユーザの声は時間と共に変化することがある。他の例として、音源は、時間と共に強度が変化するサウンドを出力する楽器とすることができる。同様に、他の例も可能である。
さらに、マイクロフォンは音源に近付くほど、多少は高い強度レベルでサウンドを記録すると思われるので、強度の測定を、サウンドの音源の方向を測定するための補助とすることができる。
C. (i)サウンドの音源の方向、及び、(ii)サウンドの強度レベルの、1以上の表示を着用可能な計算機システムに表示させる
オーディオデータの分析に応じて、着用可能な計算機システムは、ブロック106にて、サウンドの音源の方向、及び、サウンドの強度レベルを示す1以上の表示を行う。この1以上の表示は、周囲環境における役に立つサウンドに関する有益な情報をユーザに提供することができる。例えば、これらの表示は、周囲環境に存在するサウンドについて、耳の聞こえにくいユーザへの警報として役立たせることができる。他の例として、これらの表示は、耳の聞こえにくいユーザに、周囲環境がどのように聞こえているのかを視覚化することで手助けすることができる。
i. 単一のグラフィック表示
この1以上の表示は、(i)サウンドの音源の着用可能な計算機システムからの方向、及び、(ii)サウンドの強度レベルの両方を表示する単一のグラフィック表示を具備するようにできる。例えば、単一のグラフィック表示は矢印とすることができる。
図3aは、着用可能な計算機システム200の例示的ディスプレイ300の概略を示す。この実施例において、音源208は、ディスプレイ300の時のサウンドの音源のみである(すなわち、音源212はこのときサウンドを生じさせていない)。ディスプレイ300には、サウンド210の単一のグラフィック表示が含まれる。特に、図3aにおいて、サウンド210の音源208は人の話し声である。単一のグラフィック表示である矢印302は、(i)音源の着用可能な計算機システムからの方向、及び、(ii)の強度レベルの両方を表示している。この実施例では、矢印302はサウンドの音源の近くに配置されている。特に矢印302は、サウンドの音源の少し上に配置されている。矢印は、サウンドが来る方向に居るユーザを明確に示す役割を果たすことができる。他の例では、矢印は、音源の少し左または右、或いは音源208に重ねて配置することができる。
上述の通り、サウンドの強度レベルは時間とともに変化する。従って、1つの実施例において、矢印の大きさは、強度レベルの変化に基づいて変化する。例えば、人の声は0デシベルから60デシベル(dB)までの範囲で変化することがある。矢印の大きさは、サウンド210の強度レベルに基づいて変化することができる。図3bはディスプレイ300に含まれることがある、例示的な矢印の大きさを示している。この実施例において、矢印310は、60dBに対応し、矢印312は、50dBに対応し、矢印314は、40dBに対応し、矢印316は、30dBに対応し、矢印318は、20dBに対応し、矢印320は、10dBに対応する。勿論、これらの間の他のデシベルレベルに対応する矢印を含めることもできる。大きな強度レベルに対し大きな矢印を表示することで、着用可能な計算機システムのユーザは、周囲環境に大きなサウンドが存在する時がわかる。1つの実施例において、周囲環境におけるサウンドが大きくなればなるほど、ユーザはサウンドにより注意を払ったり、サウンドをより認識すると思われる。従って、ユーザが表示された大きな矢印を見たとき、ユーザに対して、周囲環境に特別な注意を払うようディスプレイが表示することになる。
上述の通り、周囲環境中に2以上のサウンドの音源が存在することがある。従って、着用可能な計算機システムは、複数のサウンドの各々に対応するオーディオデータを受け取ることができ、このオーディオデータを分析して、(i)サウンドの各音源の着用可能な計算機システムからの方向、及び、(ii)各サウンドの強度レベルの両方を測定することができる。着用可能な計算機システムは、次いで、サウンドの方向、及び、サウンドの強度レベルを各サウンドについて表示するために、1以上の表示をディスプレイする。例えば、図4aに示すように、人208と人212が同時に話をしていることがある。図4aは、サウンド210の第1の表示402と、サウンド214の第2の表示404を含む例示的なディスプレイ400を表現している。この実施例において、表示はそれぞれの話し手の上にある円環となる。
これらの円環は、両方ともサウンドの音源の方向を表すことができ、また、強度を表すこともできる。1つの実施例において、円環の大きさは、異なる強度に応じて変化することができる。しかしながら、別の例では、異なる色でサウンドの異なる強度レベルを表示することができる。例えば、円環は、強度レベルの変化を表示するために色コード化することができる。例えば、図4bは、異なる色コードのスケール408を表現している。この実施例において、色410は、60dBに対応し、色412は、50dBに対応し、色414は、40dBに対応し、色416は、30dBに対応し、色418は、20dBに対応し、色42010dBに対応する。1つの実施例において、より明るい色をより高い強度レベルに対応させることができる。
他の実施例として、強度の表示には、色コード化されたサウンドマップを含めることができる。例えば、図4cは、色コード化されたサウンドマップを有する例示的ディスプレイ450を示す。特に、サウンドの音源に対応するディスプレイの領域をサウンドの強度レベルを表示するように色付けすることができる。さらに、サウンドの音源に対応しないディスプレイの領域は、色付けしないでおくことができる(すなわち、ユーザが知覚するような自然な色のままにしておくことができる)。この実施例では、音源212は色412となっている一方、音源208は色416となっている。従って、ユーザは、音源212からのサウンドのほうが音源208からのサウンドより大きいことが分かる(すなわち、人212は人208より大きな声で話している)。
さらに別の実施例として、例示的な単一のグラフィック表示では、サウンドの音源上に又は音源近くの点滅光とすることができる。点滅光の位置で、着用可能なコンピュータからの音源の方向を示すことができ、点滅光の周波数は、種々の強度レベルを示すために調整することができる。
別の実施例として、強度の表示には円形表示器が含まれる。例えば、グラフィックな表示器をサウンドの到着角度に対応して円形表示器の位置に置くことができる。さらに、円の中心からの距離をサウンドの強度レベルに対応させることができる。円形表示器は、例えば、全360度の到着角で捕捉できるシステムにおいて有用なものとすることができる。1つの実施例において、ディスプレイスクリーンの1つの隅のような、着用可能な計算機システムのディスプレイスクリーンの周辺に、円形表示器を表示することができる。
図10a及び図10bは、例示的円形表示器を示す。特に図10aは、例示的円形表示器1000の概略を示す。円形表示器1000には、円1002及び強度表示バー1004が含まれる。この実施例では、強度表示バー1004の位置で、サウンドの音源が直接ユーザの後ろにあることを表示する役割を果たすことができる。さらに、円1002の中心1006からの強度表示バー1004の長さは、サウンドの強度レベルを表示する役割を果たすことができる。例えば、強度表示バーは、低い強度のサウンドに対して短くする(すなわち、中心から離れる)ことができ、強い強度のサウンドに対して長くする(すなわち、中心に近付く)ことができる。図10bは、円形表示器1010の他の実施例を示す。この実施例では、円形表示器には、円1012と強度表示バー1014とが含まれる。強度表示バー1014は、サウンドの音源がユーザの左にあることを表示する役割を果たす。さらに、強度表示バー1014の長さはサウンドの強度レベルを表示する。図10aに示されたサウンドの強度と比べて、図10bのサウンドの強度は弱い。
1つの実施例において、強度表示バーを含めるのではなく、サウンドの強度を表示するために大きさを定めることができる矢印を円形表示器に含めることができる。さらに他の実施例において、円形表示器には、円の上に置いたグラフィック(例えば、点)を含めることができ、この点は、サウンドの強度に基づき色を変えることができる。当然のことながら、円形表示器には、サウンドの強度レベルを表示するために役立つ他のグラフィックを含めることができる。
ii. 方向及び強度の別々の表示
他の実施例において、この1以上の表示は、サウンドの音源の方向を示す第1の表示とサウンドの強度レベルを示す第2の表示とを具備する。例えば、第1の表示はサウンドの音源の方向を示す矢印又は円環とすることができ、第2の表示は強度メーター又は色コード化されたサウンドマップとすることができる。例示的強度メーター500を図5に示す。この実施例では、強度メーターは0デシベルから150デシベルの範囲であり、バー502は、サウンドの強度レベルを表示する(この例では、100dBである)。サウンドの強度レベルは時間とともに変化することがあり、従って、バー502の長さも強度レベルに合わせて変化することができる。
強度メーター502のような強度メーターは、ディスプレイのいろいろな場所で表示することができる。例えば、強度メーターはディスプレイの周辺部に表示することができる。別の例では、強度メーターをサウンドの音源の近くに表示することができる。さらに、複数のサウンドの音源がある場合は、着用可能な計算機システムは、サウンドの音源毎に1つの強度メーターを表示させることができる。
iii. ユーザの視野外のサウンドの音源
1つの実施例において、サウンドの音源がユーザの視野の外側にあることがある。着用可能な計算機システムは、着用可能な計算機システムに約180度の現実世界の環境での視野範囲をもたらすことができる。着用可能な計算機システムは、周囲環境のこの視野の外側にある音源からくるサウンドを検出することができる。例えば、サウンドの音源は、ユーザの後ろ、又は、ユーザの周囲視覚範囲外における左又は右にあるかもしれない。着用可能な計算機システムは、サウンドの音源が視野の外側又は視野の周辺にあると判断することができる。1つの実施例において、着用可能な計算機システムには、マイクロフォンがどのような方向からのサウンドも(すなわち、360度の範囲で)検出できるように、着用可能な計算機システムのまわりに設置された複数のマイクロフォンを含めることができる。例えば、着用可能な計算機システムには、ユーザの頭のまわりに120度の間隔で、三角形に配置した3つのマイクロフォンを含めることができる。同様に、他のマイクロフォンを設置することも可能である。
表示の例として、視野の周辺で光を点滅させる点滅光とすることができる。例えば、ディスプレイには、ディスプレイ450の周辺部472の点470のように、ディスプレイの周辺部のいずれかの点に点滅光を含めることができる。この点滅光は、ユーザに対して、サウンドがユーザの視野外で検出されたことを表示する。
iv. 強度レベルの閾値を超えるサウンドの表示
1つの実施例において、この方法には、所定の閾値レベルを超える強度レベルに1以上の表示を着用可能な計算機システムに表示させるための、条件設定を伴うことができる。従って、周囲環境におけるサウンドの強度レベルを測定した後、着用可能な計算機システムは、この強度レベルが所定の閾値レベルを超えているかどうかを判断することができる。この強度レベルが所定の閾値レベルを超えている場合、着用可能な計算機システムは、前記1以上の表示を行う。しかし、強度レベルが所定の閾値レベルを超えていない場合、着用可能な計算機システムは、前記1以上の表示を行わない。
この条件設定を行うステップは、例えば、ユーザが表示として見ることに関心を示さないであろう暗騒音を除外するのに有用である。1つの実施例において、着用可能な計算機システムは、5dBを超える強度レベルに1以上の表示を着用可能な計算機システムに表示させるよう条件設定する。他の閾値の例も可能であり、ユーザは、1dBと20dBとの間で閾値レベルを設定するとか、着用可能な計算機システムが望ましい閾値レベルを持つよう設定することができる。
他の実施例において、ユーザは、着用可能な計算機システムを着用することができ、この着用可能な計算機システムのディスプレイの電源を最初は停止状態にしておくことができる。例えば、ディスプレイを何らかの理由で停止状態にすることができる。しかしながら、ディスプレイが電源停止状態となっている間、着用可能な計算機システムはサウンドを検出することができる。このシステムはサウンドの強度レベルが所定の閾値レベルを超えているかどうかを判断することができる。強度レベルが所定の閾値レベルを超えているとの判断に対応して、システムは、1以上の表示を行わせるためにディスプレイを起動させることができる。
v. 移動平均窓に関連させて強度レベルを表示
1つの実施例において、サウンドの絶対強度を表示するのではなく、サウンド事象の強度レベル表示は、サウンド事象の絶対強度レベルと周囲環境のサウンドの移動平均窓の強度レベルとの差として代表させることができる。移動平均窓は、所定の継続時間を有する移動平均窓とすることができる。例えば、移動平均窓は、30秒とすることができる。勿論、移動平均窓は、これより長い、或いは、短い継続時間とすることができる。
サウンド事象の絶対強度レベルと周囲環境のサウンドの移動平均窓の強度レベルとの差として、サウンド事象の強度レベルを代表させることにより、表示されるサウンドの強度は、ユーザの居る特定の環境に適合させることができる。このことは、ユーザの特別なサウンド環境での関連したサウンドをユーザに表示することの手助けとなる。例えば、着用可能な計算機システムのユーザが非常に静かな環境(例えば、空き部屋)にいる場合、直近30秒間の平均サウンド強度は低いと思われる。異常事象は、ドアを軽くノックする程度の静かなものである可能性がある。軽いノックのサウンドの強度は、直近30秒間の平均サウンド強度の比較的低いと思われるサウンド強度に対する相対値で表示することができる。
一方、着用可能な計算機システムのユーザが非常にうるさい環境(例えば、騒音の多い工場)にいる場合、直近30秒間の平均サウンド強度は高くなる。サウンドの強度レベルは、この非常にうるさい環境のサウンドの平均強度に対する相対値で表示することができる。加えて、上述したように、いくつかの実施例では、着用可能な計算機システムは、所定の閾値を超えるサウンドの強度を表示するよう条件設定することができる。この所定の閾値は、平均ノイズの下限に基づくことができる。例えば、サウンドの強度を表示する条件を定める所定の閾値は、静かな環境に対してよりもうるさい環境に対してのほうを大きくすることができる。上記で説明した実施例を用いると、静かな環境では、平均ノイズの下限は、静かな部屋の平均ノイズに近い値に設定されることがある。一方、うるさい環境では、平均ノイズの下限は、騒音の多い工場の平均ノイズに近い値に設定されることがある。有利なことには、平均ノイズの下限に基づいて閾値レベルを調整することにより、着用可能な計算機システムは、ユーザが居る特定のサウンド環境に関連させてサウンドを確実に表示することができる。
1つの実施例において、着用可能な計算機システムは、この移動平均分析を連続的に稼働させるよう設定することができる。移動平均分析を連続的に稼働させることにより、ユーザは、ユーザが別のサウンド環境に(例えば、静かな環境からうるさい環境へ)移動したとき、手動で閾値レベルを変更する必要がない。
vi. サウンドの追加表示
着用可能な計算機システムからのサウンドの音源の方向及びサウンドの強度レベルの表示を行うのに加え、他のサウンド表示もまた可能である。上述したように、周囲環境でのサウンドは発話かもしれない。1つの実施例において、この方法はさらに、発話のテキストを定める発話からテキストへの変換特性を具備することができる。発話のテキストを決定した後、この方法は、着用可能な計算機システムに発話のテキストを表示させるステップを伴うことができる。1つの実施例において、着用可能な計算機システムは、話者の上に吹き出しを表示し、この吹き出しに話者の発話のテキストを記入しておくことができる。
他のサウンド表示の可能性は、サウンドの音源が何であるかの表示である。1つの実施例において、着用可能な計算機システムは、サウンドの音源を判断することができ、着用可能な計算機システムサウンドの音源に関する情報を提供することができる。着用可能な計算機システムは、オーディオデータを分析し、サウンドの音源を判断することができ、そして、サウンドの音源を示す他の表示を行うことができる。例えば、この他の表示は、サウンドの音源について説明するテキスト表示(例えば、犬、猫、人、楽器、車、等)とすることができる。
例えば、着用可能な計算機システムは、サウンドの音源とサウンドとを一致させるためにサウンドを分析することができる。1つの実施例において、遠隔サーバーには、サウンドの断片のデータベースを含めることができ、各断片は音源と関連付けられている。サーバーは、検出したサウンドをサウンドの断片のデータベース中の種々のサウンドと比較し、合致するものを特定することができる。一旦、サウンドの音源を特定すると、着用可能な計算機システムは、その音源についての情報を表示する。例えば、音源を特定する情報を表示することができる。例えば、サウンドは、所定の車のエンジンからくるサウンドである可能性がある。着用可能な計算機システムは、それがどのような形式の車であるかを表示することができる。他の情報を提供することも可能である。例えば、着用可能な計算機システムは、その車の市場価格及び/又はその車を購入できる施設に関する情報を表示することができる。他の情報の例も可能である。
他の実施例において、着用可能な計算機システムサウンドの音源に関するビデオを表示することができる。例えば、着用可能な計算機システムは岸辺からのサウンド(例えば、波の砕ける音)を検出することができる。着用可能な計算機システムは、岸辺と波の砕ける場面のビデオを表示することができる。このビデオは、その音を発している世界をユーザが視覚化する手助けをすることができる。
さらに他の実施例において、他の可能なサウンド表示は、サウンドのオーディオ周波数を示す表示である。オーディオ周波数は、例えば、音程を定めるサウンドの特性であり、オーディオ周波数は、ヘルツ(Hz)で測定することができる。一般に、普通の人の可聴周波数は、20Hzから20,000Hzである。しかし、個々の人が聞こえる周波数の範囲は周囲条件により影響されることがある。
着用可能な計算機システムはサウンドを分析し、このサウンドのオーディオ周波数を様々な方法で測定することができる。例えば、着用可能な計算機システムは、周波数領域又は時間領域のどちらかのアルゴリズムを用いて、このサウンドのオーディオ周波数を分析することができる。前者では、入力信号の周波数変換における正弦波のピーク位置の特定を試みることがある。後者では、波形と時間遅れさせた波形との類似性を測定するために自己相関関数を用いることがある。サウンドのオーディオ周波数を測定した後、着用可能な計算機システムは、測定したオーディオ周波数表示を行うことができる。例えば、着用可能な計算機システムは、測定したオーディオ周波数の値を表示することができる。他の例として、着用可能な計算機システムは、オーディオ周波数の目盛を表示することができる。
サウンドのオーディオ周波数を測定し、そのオーディオ周波数の表示を行うことは種々の理由で有益となる可能性がある。オーディオ周波数を視覚化することの利点の一例として、ユーザが高い周波数のノイズにさらされた状態で経験することができる。そのような状態では、高いオーディオ周波数の表示が表示されるので、サウンドが高いオーディオ周波数を持つことをユーザに警告することができる。この警告は、例えば、高いオーディオ周波数のサウンドに起因する潜在的な聴覚障害を回避する動作をユーザに取らせるよう誘導するのに役立つことがある。
さらに別の実施例では、他の可能なサウンド表示は、ウィナーエントロピーを示す表示である。ウィナーエントロピーは、サウンドスペクトルの幾何平均の算術平均に対する割合として分析することができる。特に、ウィナーエントロピーは、0と1との間でサウンドの乱雑さの程度であり、そのサウンドがホワイトノイズなのか調和的なサウンドなのかを識別するために使うことができる。従って、着用可能な計算機システムのユーザ(例えば、聴覚障害を持つユーザ)は、サウンドがホワイトノイズなのか調和的なサウンドなのかを判断する利益を得ることができる。
上述の例示的なサウンド表示に加えて、サウンドの他の表示も可能である。
III. 例示的システム及び装置
図6は、データを受信し、伝送し、表示するための例示的システム600の概略を示す。システム600は、着用可能な計算装置の形で示されている。システム600は、方法100を実行する構成とすることができる。図6が着用可能な計算装置の例として頭部装着装置602を図示するが、他の形式の着用可能な計算装置を付加的に又はもう1つの方法として用いることもできる。図6に示すように、頭部装着装置602は、レンズフレーム604,606及びフレームサポートセンター608を含むフレームエレメントと、レンズエレメント610,612と、突き出たサイドアーム614,616とを具備する。フレームサポートセンター608及び突き出たサイドアーム614,616は、それぞれユーザの鼻と耳を介してユーザの顔に頭部装着装置602を固定するよう構成されている。
フレームエレメント604,606及び608及び、突き出たサイドアーム614,616は、プラスチック及び/又は金属の中空でない構造で形成することができ、又は、頭部装着装置602の内部を通り抜けて配線し部品の相互接続するように、同様の材料で中空構造に形成することができる。他の材料も可能である。
レンズエレメント610,612の各々1以上は、投影された画像又はグラフィックを適切に表示することができるどのような材料で形成してもよい。レンズエレメント610,612の各々は、ユーザがこのレンズエレメントを通して見ることができるよう十分透明にすることができる。レンズエレメントのこれらの2つの特性を結合させることにより、投影された画像又はグラフィックがレンズエレメントを通してユーザが知覚する現実世界の光景に重ねあわされた、迫真性を増大させた表示又はヘッドアップ表示を容易にする。
突き出たサイドアーム614,616は、それぞれレンズフレーム604,606から伸びる突出部とすることができ、ユーザの耳の後ろに位置して頭部装着装置602をユーザに固定することができる。突き出たサイドアーム614,616は、さらに、ユーザの頭の後部にまで伸ばすことにより頭部装着装置602をユーザに固定することができる。加えて、又は、もう1つの方法として、例えば、システム600は、頭部に装着するヘルメットの機構の中に結合又は固定することができる。他の可能性も存在する。
システム600には、オンボード計算機システム618、ビデオカメラ620、センサー622、及び、指操作可能なタッチパッド624も含めることができる。オンボード計算機システム618は、頭部装着装置602の突き出たサイドアーム614上に示されている。しかしながら、オンボード計算機システム618は、頭部装着装置602の他の部分に取り付けることが可能であり、或いは、頭部装着装置602から離れて設置することも可能である(例えば、オンボード計算機システム618は、頭部装着装置602と有線又は無線で接続することができる)。オンボード計算機システム618には、例えば、プロセッサー及びメモリーを含めることができる。オンボード計算機システム618は、ビデオカメラ620及び指操作可能なタッチパッド624から(及び、他の知覚装置、又は、ユーザインターフェース、又は、その両方から)のデータを受け取り分析し、画像を生成してレンズエレメント610及び612により出力するよう構成することができる。
ビデオカメラ620は、頭部装着装置602の突き出たサイドアーム614上に示されている。しかしながら、ビデオカメラ620は、頭部装着装置602の他の部分に取り付けることが可能である。ビデオカメラ620は、種々の解像度又は異なるフレームレートで画像をとらえるよう構成することができる。例えば、携帯電話やウェブカメラで用いられるような小さなフォームファクタの多くのビデオカメラをシステム600の実施例に組む込むことができる。
さらに、図6は1つのビデオカメラ620を示しているが、1以上のビデオカメラを用いることもでき、各々のカメラで同じ光景をとらえるようにすることも、異なる光景をとらえるようにすることも可能である。例えば、ビデオカメラ620はユーザが知覚する現実世界の光景の少なくとも一部をとらえるように前方に向けることができる。この前方に向けたビデオカメラ620でとらえた画像は、次に、コンピュータ生成された画像が、ユーザが知覚する現実世界の光景と互いに影響しあうようにして、迫真性を増大させるために用いることができる。
センサー622は、頭部装着装置602の突き出たサイドアーム616上に示されている。しかしながら、センサー622は、頭部装着装置602の他の部分に取り付けることが可能である。センサー622には、例えば、1以上のジャイロスコープ又は加速度計を含めることができる。他の検知装置このセンサー622内に又はこのセンサー622に加えて含めることができ、或いは、他の検知機能をセンサー622が果たすことができる。
指操作可能なタッチパッド624は、頭部装着装置602の突き出たサイドアーム616上に示されている。しかしながら、指操作可能なタッチパッド624は、頭部装着装置602の他の部分に取り付けることが可能である。また、2以上の指操作可能なタッチパッドが部装着装置602上にあってもよい。指操作可能なタッチパッド624はユーザにより命令を入力するために使うことができる。指操作可能なタッチパッド624は、いろいろな可能性の中で、静電容量検出、抵抗検出、表面弾性波処理により、指の位置及び動きの少なくとも1つを検知することができる。指操作可能なタッチパッド624は、パッド表面と平行又は平面的な方向、パッド表面と垂直な方向、又はその両方の方向への指の動きを検出することができ、また、パッド表面に加わる圧力のレベルを検出することもできる。指操作可能なタッチパッド624は、1以上の半透明な又は透明な絶縁層、及び、1以上の半透明な又は透明な導電層により形成することができる。指操作可能なタッチパッド624の端部は、ユーザの指が指操作可能なタッチパッド624の端部又は他の領域に触れたとき、ユーザに触覚的に手ごたえを与えるため、隆起した表面、又はぎざぎざにした表面、又は、粗い表面で形成することができる。2以上の指操作可能なタッチパッドがある場合は、指操作可能なタッチパッドの各々を独立に動作させることができ、異なる機能を与えることができる。
図7は、図6に概略的に示したシステム600を別の視点から見たものである。図7に示すように、レンズエレメント610,612は、ディスプレイエレメントとしての役割を果たすことができる。頭部装着装置602には、突き出たサイドアーム616の内側面に取り付けられ、レンズエレメント612の内側面にディスプレイ630を投影するよう構成された、第1のプロジェクター628を含めることができる。加えて、又は、もう1つの方法として、第2のプロジェクター632を突き出たサイドアーム614内側面に取り付け、レンズエレメント610の内側面にディスプレイ634を投影するよう構成することができる。
レンズエレメント610,612は、光投影システムにおけるコンバイナとしての役割を果たすことができ、プロジェクター628,632から投影された光を反射するコーティングを含めることができる。実施の形態によっては、反射コーティングを用いない場合もある(例えば、プロジェクター628,632がスキャニングレーザ装置であるとき)。
代替的実施の形態において、他の形式のディスプレイエレメントを用いることもできる。例えば、レンズエレメント610,612自身には、エレクトロルミネッセントディスプレイ又は液晶ディスプレイのような透明又は半透明なマトリックスディスプレイ、画像をユーザの目に送る1以上の導波路、或いは、目の近くに焦点を合わせた画像をユーザに送ることができる他の光エレメントを含めることができる。対応するディスプレイドライバは、このようなマトリックスディスプレイを駆動するためにフレームエレメント604,606内に取り付けることができる。もう1つの方法として、又は、付加的に、レーザ又はLED源、及び、スキャニングシステムを1以上のユーザの目の網膜上に直接ラスターディスプレイを描画するために用いることができる。同様に、他の可能性も存在する。
図8aは、データを受信し、伝送し、表示するための例示的システム800の概略を示す。システム800は、方法100を実行するために構成されている。システム800は、着用可能な計算装置802の形で示されている。着用可能な計算装置802には、図6及び図7を参照して説明したような、フレームエレメント及びサイドアームが含まれる。着用可能な計算装置802は、図6及び図7を参照して説明したような、オンボード計算機システム804とビデオカメラ806とを付加的に含めることができる。ビデオカメラ806は、着用可能な計算装置802のフレームに取り付けられているのが示されているが、ビデオカメラ806は、他の位置に取り付けることもできる。
図8aに示すように、着用可能な計算装置802には、装置に取り付けることのできる1つのディスプレイ808を含めることができる。ディスプレイ808は、図6及び図7を参照して説明したレンズエレメントのような、着用可能な計算装置802のレンズエレメントの1つに形成することができ、ユーザの現実の世界の光景にコンピュータ生成されたグラフィックスを重ね合わせるよう構成することができる。ディスプレイ808は、着用可能な計算装置802のレンズの中央に取り付けるよう示されているが、ディスプレイ808は、他の場所に取り付けることもできる。ディスプレイ808は、光導波路810を介してディスプレイ808と接続されている計算機システム804により制御することができる。
図8bは、データを受信し、伝送し、表示するための例示的システム820の概略を示す。システム820は、方法100を実行するために構成されている。システム820は、着用可能な計算装置822の形で示されている。着用可能な計算装置822には、サイドアーム823、中央フレームサポート824、及び鼻あて825の付いたブリッジ部を含めることができる。図8bに示した実施例では、中央フレームサポート824は、サイドアーム823とつながっている。着用可能な計算装置822には、レンズエレメントを有するレンズフレームが含まれていない。着用可能な計算装置822には、図6及び図7を参照して説明したような、オンボード計算機システム826及びビデオカメラ828を付加的に含めることができる。
着用可能な計算装置822には、サイドアーム823又は中央フレームサポート824のうちの1つに取り付けられた1つのレンズエレメント830を含めることができる。レンズエレメント830には、図6及び図7を参照して説明したような、ディスプレイを含めることができ、ユーザの現実の世界の光景にコンピュータ生成されたグラフィックスを重ね合わせるよう構成することができる。1つの実施例では、1つのレンズエレメント830が、突き出たサイドアーム823の内側(ユーザが装着したときにユーザの頭に曝される側)に取り付けることができる。1つのレンズエレメント830は、着用可能な計算装置822をユーザが装着したときにユーザの目の前、又は目の近傍に配置することができる。例えば、1つのレンズエレメント830は、図8bに示すように、中央フレームサポート824の下に配置することができる。
図9は、コンピュータネットワークのインフラ基盤の概略図を示す。システム900において、装置910は通信リンク920(例えば、有線接続又は無線接続)を用いて、遠隔装置930と通信する。装置910は、データを受け取り、そのデータに対応する情報又はそのデータに関連する情報を表示することのできるどのような形式の装置でもよい。例えば、装置910は、図6〜図8bを参照して説明した頭部装着装置602,800,又は820のような、ヘッドアップディスプレイシステムとすることができる。
従って、装置910には、プロセッサー914及びディスプレイ916を具備するディスプレイシステム912を含めることができる。ディスプレイ910は、例えば、光学的なシースルーディスプレイ、光学的なシーアラウンドディスプレイ、又は、ビデオシースルーディスプレイとすることができる。プロセッサー914は、遠隔装置930からのデータを受け取り、ディスプレイ916上にこのデータを表示するよう構成することができる。プロセッサー914は、例えば、マイクロプロセッサー又はディジタル信号プロセッサーのような、どのような形式のプロセッサーでもよい。
装置910にはさらに、プロセッサー914と接続されたメモリー918のような、オンボードデータ記憶装置を含めることができる。メモリー918は、例えば、プロセッサー914からアクセスすることができ、プロセッサー914で実行することができるソフトウェアを保存することができる。
遠隔装置930は、データを装置910に送るよう構成したラップトップコンピュータ、携帯電話、又はタブレット計算装置、等、を含む、任意の形式の計算装置又は伝送器とすることができる。遠隔装置930及び装置910は、プロセッサー、伝送器、受信器、アンテナ、等、のような、通信リンク920を可能とするハードウェアを有することができる。
図9において、通信リンク920は、無線接続として示されているが、有線接続も用いることができる。例えば、通信リンク920は、ユニバーサルシリアルバスのような有線シリアルバス又はパラレルバスとすることができる。有線接続は独自の接続としてもよい。通信リンク920はまた、他の可能性の中でも、例えばブルートゥース(登録商標)、無線技術、IEEE802.11に記載された通信プロトコル(IEEE802.11改訂版を含む)、(GSM、CDMA、UMTS、EVDO、WiMAX、又はLTEのような)携帯電話技術、Zigbee(登録商標)技術を用いた無線接続とすることもできる。遠隔装置330は、インターネットを介してアクセスすることができ、特定のウェブサービス(例えば、ソーシャルネットワーキング、フォトシェアリング、アドレスブック、等)と関連させたコンピューティングクラスターを含むことができる。
図9を参照して、装置910は方法100のステップを実行することができる。特に、この方法100は、一時的ではないコンピュータ読み取り可能媒体に保存された命令を実行したとき、プロセッサー914により実行される動作に対応している。1つの実施例において、一時的ではないコンピュータ読み取り可能媒体は、メモリー918の一部とすることができる。この一時的ではないコンピュータ読み取り可能媒体は、プロセッサー914による動作に応答して、プロセッサー914に種々の動作を行わせる命令を、この媒体に保存しておくことができる。この命令には、(a)着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取る命令と、(b)このオーディオデータを分析し、(i)このサウンドの音源のこの着用可能な計算機システムからの方向、及び、(ii)このサウンドの強度レベル、の両方を測定する命令と、(c)この着用可能な計算機システムに、(i)このサウンドの音源の方向、及び、(ii)このサウンドの強度レベル、の1以上の状態を表示させる命令と、が含まれる。さらに、1つの実施例において、この命令にはさらに、この着用可能な計算機システムに所定の閾値レベルを超えた強度レベルを有する1以上の状態を表示させるための条件を設定する命令が含まれる。
IV. 結論
当然のことながら、ここに記載の構成は、単なる実施例である。従って、当業者であれば他の構成又は他のエレメント(例えば、機械、インターフェース、機能、順序、及び機能のグループ分け、等)を用いることができること、及び、いくつかのエレメントは省略しても所望の結果が得られることを理解するであろう。さらに、ここに記載のエレメントの多くは、別々の又は分散した構成部品として、又は任意の組み合わせ及び場所で他の構成部品と組み合わせて、実行することのできる、機能的存在として記述している。
当然のことながら、ここに記載のシステム及び方法が、ユーザに関する個人情報、又はユーザの個人情報にかかわる情報を収集し及び/又は用いる場合、そのユーザには、そのような個人情報(例えば、ユーザの嗜好に関する情報)を含有するプログラム又は特徴を選択/除外する機会を与えることができる。加えて、個人を特定することができる情報を除去するために、特定のデータを、保存または使用する前に1以上の方法で匿名化することができる。例えば、個人を特定する情報をユーザ特定のために使えなくするために、そして、あらゆるユーザの嗜好又はユーザの相互関係を、特定のユーザと関連付けないで、一般化するために(例えば、ユーザの人口統計に基づいて一般化するために)、ユーザの身元は匿名化することができる。
多くの特徴及び実施の形態をここに開示したが、他の特徴及び実施の形態が可能なことは当業者には明らかである。ここに開示した種々の特徴及び実施の形態は図解のためのものであり、限定を意図するものではなく、実際の権利範囲は以下の特許請求の範囲によって示されるものであり、特許請求の範囲で示したような範囲と均等なものも含まれる。当然のことながら、ここに記載の用語の言い回しも特定の実施の形態を説明するためだけのものであり、限定のためのものではない。

Claims (20)

  1. コンピュータにより実行される方法であって、
    着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取るステップと、
    前記オーディオデータを分析し、(i)前記サウンドの音源の前記着用可能な計算機システムからの方向、及び、(ii)前記サウンドの強度レベル、の両方を測定するステップと、
    前記着用可能な計算機システムに、(i)前記サウンドの音源の方向、及び、(ii)前記サウンドの強度レベル、を示す1以上の表示を行うステップと、
    を具備し、
    前記着用可能な計算機システムは、前記着用可能な計算機システムに所定の閾値レベルを超えた強度レベルを有する1以上の表示を行うための条件設定を行うことを特徴とする、
    方法。
  2. 前記着用可能な計算機システムのディスプレイは、最初は電源停止状態になっていて、前記方法は、
    前記強度レベルを測定した後、前記強度レベルが所定の閾値レベルを超えているかどうかを判断するステップと、
    前記強度レベルが前記所定の閾値レベルを超えているとの判断に対応して、前記1以上の表示を行うために前記ディスプレイを起動させるテップと、
    を具備することを特徴とする、請求項1に記載の方法。
  3. 前記1以上の表示は、(i)前記サウンドの音源の前記着用可能な計算機システムからの方向、及び、(ii)前記サウンドの強度レベル、の両方を示す1つのグラフィックな表示を具備することを特徴とする請求項1に記載の方法。
  4. 前記1つのグラフィックな表示は、矢印であることを特徴とする請求項3に記載の方法。
  5. 前記サウンドの強度レベルは時間とともに変化し、前記矢印の大きさは、前記強度レベルの変化に基づいて変化することを特徴とする請求項4に記載の方法。
  6. 前記1以上の表示は、(i)前記サウンドの音源の方向を示す第1の表示、及び、(ii)前記サウンドの強度レベルを示す第2の表示、を具備することを特徴とする請求項1に記載の方法。
  7. 前記第1の表示は矢印であり、前記第2の表示は強度メーターであることを特徴とする請求項6に記載の方法。
  8. 前記サウンドの強度レベルは時間とともに変化し、前記1以上の表示は、前記強度レベルに合わせて変化する強度レベルと関連付けられた表示を具備することを特徴とする請求項1に記載の方法。
  9. 前記1以上の表示を行うステップは、異なる強度レベルに対して異なる色を表示するステップを具備することを特徴とする請求項1に記載の方法。
  10. 前記1以上の表示は、強度メーターを具備することを特徴とする請求項1に記載の方法。
  11. 前記着用可能な計算機システムは、前記着用可能な計算機システムにおける現実世界の環境での視野をもたらし、前記方法はさらに、
    前記音源が、前記視野の外側又は前記視野の周辺にあると判断するステップを具備し、前記1以上の表示として、前記視野の周辺にある点滅光を具備することを特徴とする請求項1に記載の方法。
  12. 前記サウンドは発話を具備し、前記方法はさらに、
    前記発話のテキストを決定する、発話からテキストへの変換特性決定ステップと、
    前記発話のテキストを前記着用可能な計算機システムに表示するステップと、
    を具備することを特徴とする請求項1に記載の方法。
  13. 着用可能な計算機システムが検出した第2のサウンドに対応するオーディオデータを受け取るステップと、
    前記オーディオデータを分析し、(i)前記第2のサウンドの音源の前記着用可能な計算機システムからの方向であって、前記第2のサウンドの方向は前記サウンドの方向とは異なることを特徴とする方向、及び、(ii)前記第2のサウンドの強度レベル、の両方を測定するステップと、
    前記着用可能な計算機システムに、(i)前記第2のサウンドの音源の方向、及び、(ii)前記2のサウンドの強度レベル、の1以上の表示を行うステップと、
    を具備することを特徴とする請求項1に記載の方法。
  14. 前記サウンドの音源の方向を測定するために前記オーディオデータを分析するステップと、
    前記着用可能な計算機システムに、他の表示を行うステップであって、前記他の表示は、前記サウンドの音源を示す他の表示であることを特徴とするステップと、
    をさらに具備することを特徴とする請求項1に記載の方法。
  15. 前記他の表示は、前記サウンドの音源について説明するテキスト表示であることを特徴とする請求項14に記載の方法。
  16. 前記他の表示は、前記サウンドの音源に関するビデオであることを特徴とする請求項14に記載の方法。
  17. プロセッサーによる実行に応答して、プロセッサーに動作させる命令を有する、一時的ではないコンピュータ読み取り可能媒体であって、前記命令は、
    着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取る命令と、
    前記オーディオデータを分析し、(i)前記サウンドの音源の前記着用可能な計算機システムからの方向、及び、(ii)前記サウンドの強度レベル、の両方を測定する命令と、
    前記着用可能な計算機システムに、(i)前記サウンドの音源の方向、及び、(ii)前記サウンドの強度レベル、の1以上の表示を行う命令と、
    を具備し、
    前記着用可能な計算機システムに1以上の表示を行わせる命令の設定条件は、前記強度レベルが所定の閾値レベルを超えていることであることを特徴とする、
    一時的ではないコンピュータ読み取り可能媒体。
  18. 前記1以上の表示は、(i)前記音源の前記着用可能な計算機システムからの方向、及び、(ii)前記強度レベル、の両方を示す1つのグラフィックな表示を具備することを特徴とする請求項17に記載の一時的ではないコンピュータ読み取り可能媒体。
  19. 着用可能な計算機システムであって、
    頭部装着ディスプレイであって、前記頭部装着ディスプレイは、コンピュータで生成された情報を表示するよう構成され、現実世界の環境を視覚的に知覚することを可能にすることを特徴とする頭部装着ディスプレイと、
    コントローラであって、前記コントローラは、着用可能な計算機システムが検出したサウンドに対応するオーディオデータを受け取り、(i)前記サウンドの音源の前記着用可能な計算機システムからの方向、及び、(ii)前記サウンドの強度レベル、の両方を測定するよう構成されていることを特徴とするコントローラと、
    ディスプレイシステムであって、前記ディスプレイシステムは、(i)前記音源の方向、及び、(ii)前記強度レベル、を示す1以上の表示を行うよう構成されていることを特徴とするディスプレイシステムと、
    を具備し、
    前記コントローラは、前記着用可能な計算機システムに所定の閾値レベルを超えた強度レベルを有する1以上の表示を行うための条件設定を行うよう構成されていることを特徴とする、着用可能な計算機システム。
  20. 前記ディスプレイシステムのディスプレイは、最初は電源停止状態になっていて、
    前記コントローラは、前記強度レベルを測定した後、前記強度レベルが所定の閾値レベルを超えているかどうかを判断し、
    前記ディスプレイシステムは、前記強度レベルが前記所定の閾値レベルを超えているとの判断に対応して、前記1以上の表示を行うために前記ディスプレイを起動させる、
    ことを特徴とする請求項19に記載の着用可能な計算機システム。
JP2014541077A 2011-11-14 2012-10-16 着用可能な計算機システムへのサウンド状態の表示 Active JP5881263B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/295,953 2011-11-14
US13/295,953 US8183997B1 (en) 2011-11-14 2011-11-14 Displaying sound indications on a wearable computing system
PCT/US2012/060342 WO2013074234A1 (en) 2011-11-14 2012-10-16 Displaying sound indications on a wearable computing system

Publications (2)

Publication Number Publication Date
JP2015510283A true JP2015510283A (ja) 2015-04-02
JP5881263B2 JP5881263B2 (ja) 2016-03-09

Family

ID=46061263

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014541077A Active JP5881263B2 (ja) 2011-11-14 2012-10-16 着用可能な計算機システムへのサウンド状態の表示

Country Status (6)

Country Link
US (3) US8183997B1 (ja)
EP (1) EP2780757A4 (ja)
JP (1) JP5881263B2 (ja)
KR (1) KR101668165B1 (ja)
CN (1) CN103946733B (ja)
WO (1) WO2013074234A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087695A (ja) * 2013-11-01 2015-05-07 セイコーエプソン株式会社 情報処理装置および情報処理装置の制御方法
JP2020501275A (ja) * 2016-12-09 2020-01-16 株式会社ソニー・インタラクティブエンタテインメント 画像処理システムおよび方法
JP2021018212A (ja) * 2019-07-23 2021-02-15 株式会社ミツトヨ 音響測定装置およびプログラム
US10978072B2 (en) 2017-09-20 2021-04-13 Kabushiki Kaisha Toshiba Display control system, display control method, and computer program product using display sectors in one revolution of clockwise or counterclockwise direction
RU2783150C1 (ru) * 2019-07-30 2022-11-09 Долби Лабораторис Лайсэнзин Корпорейшн Динамическая обработка в устройствах с отличающимися функциональными возможностями воспроизведения

Families Citing this family (138)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007147077A2 (en) 2006-06-14 2007-12-21 Personics Holdings Inc. Earguard monitoring system
US11450331B2 (en) 2006-07-08 2022-09-20 Staton Techiya, Llc Personal audio assistant device and method
WO2008008730A2 (en) 2006-07-08 2008-01-17 Personics Holdings Inc. Personal audio assistant device and method
WO2008091874A2 (en) 2007-01-22 2008-07-31 Personics Holdings Inc. Method and device for acute sound detection and reproduction
WO2008095167A2 (en) 2007-02-01 2008-08-07 Personics Holdings Inc. Method and device for audio recording
US11750965B2 (en) 2007-03-07 2023-09-05 Staton Techiya, Llc Acoustic dampening compensation system
US8111839B2 (en) 2007-04-09 2012-02-07 Personics Holdings Inc. Always on headwear recording system
US11317202B2 (en) 2007-04-13 2022-04-26 Staton Techiya, Llc Method and device for voice operated control
US11856375B2 (en) 2007-05-04 2023-12-26 Staton Techiya Llc Method and device for in-ear echo suppression
US10194032B2 (en) 2007-05-04 2019-01-29 Staton Techiya, Llc Method and apparatus for in-ear canal sound suppression
US11683643B2 (en) 2007-05-04 2023-06-20 Staton Techiya Llc Method and device for in ear canal echo suppression
US8594338B2 (en) * 2007-05-09 2013-11-26 Savox Communications Oy Ab (Ltd) Display apparatus
US10009677B2 (en) 2007-07-09 2018-06-26 Staton Techiya, Llc Methods and mechanisms for inflation
ITUD20070127A1 (it) * 2007-07-16 2009-01-17 Eurotech S P A Apparecchiatura elettronica indossabile
US8600067B2 (en) 2008-09-19 2013-12-03 Personics Holdings Inc. Acoustic sealing analysis system
US9129291B2 (en) 2008-09-22 2015-09-08 Personics Holdings, Llc Personalized sound management and method
US8554350B2 (en) 2008-10-15 2013-10-08 Personics Holdings Inc. Device and method to reduce ear wax clogging of acoustic ports, hearing aid sealing system, and feedback reduction system
EP2395956A4 (en) 2009-02-13 2013-12-04 Personics Holdings Inc EAR PLUG AND PUMPING SYSTEMS
US8472120B2 (en) 2010-02-28 2013-06-25 Osterhout Group, Inc. See-through near-eye display glasses with a small scale image source
US9091851B2 (en) 2010-02-28 2015-07-28 Microsoft Technology Licensing, Llc Light control in head mounted displays
US20120249797A1 (en) 2010-02-28 2012-10-04 Osterhout Group, Inc. Head-worn adaptive display
US8488246B2 (en) 2010-02-28 2013-07-16 Osterhout Group, Inc. See-through near-eye display glasses including a curved polarizing film in the image source, a partially reflective, partially transmitting optical element and an optically flat film
US9128281B2 (en) 2010-09-14 2015-09-08 Microsoft Technology Licensing, Llc Eyepiece with uniformly illuminated reflective display
US9182596B2 (en) 2010-02-28 2015-11-10 Microsoft Technology Licensing, Llc See-through near-eye display glasses with the optical assembly including absorptive polarizers or anti-reflective coatings to reduce stray light
US9341843B2 (en) 2010-02-28 2016-05-17 Microsoft Technology Licensing, Llc See-through near-eye display glasses with a small scale image source
US9285589B2 (en) 2010-02-28 2016-03-15 Microsoft Technology Licensing, Llc AR glasses with event and sensor triggered control of AR eyepiece applications
US9134534B2 (en) 2010-02-28 2015-09-15 Microsoft Technology Licensing, Llc See-through near-eye display glasses including a modular image source
US9366862B2 (en) 2010-02-28 2016-06-14 Microsoft Technology Licensing, Llc System and method for delivering content to a group of see-through near eye display eyepieces
US9223134B2 (en) 2010-02-28 2015-12-29 Microsoft Technology Licensing, Llc Optical imperfections in a light transmissive illumination system for see-through near-eye display glasses
US20150309316A1 (en) 2011-04-06 2015-10-29 Microsoft Technology Licensing, Llc Ar glasses with predictive control of external device based on event input
US8477425B2 (en) 2010-02-28 2013-07-02 Osterhout Group, Inc. See-through near-eye display glasses including a partially reflective, partially transmitting optical element
US9229227B2 (en) 2010-02-28 2016-01-05 Microsoft Technology Licensing, Llc See-through near-eye display glasses with a light transmissive wedge shaped illumination system
US9129295B2 (en) 2010-02-28 2015-09-08 Microsoft Technology Licensing, Llc See-through near-eye display glasses with a fast response photochromic film system for quick transition from dark to clear
US9097891B2 (en) 2010-02-28 2015-08-04 Microsoft Technology Licensing, Llc See-through near-eye display glasses including an auto-brightness control for the display brightness based on the brightness in the environment
US9759917B2 (en) 2010-02-28 2017-09-12 Microsoft Technology Licensing, Llc AR glasses with event and sensor triggered AR eyepiece interface to external devices
US8482859B2 (en) 2010-02-28 2013-07-09 Osterhout Group, Inc. See-through near-eye display glasses wherein image light is transmitted to and reflected from an optically flat film
US10180572B2 (en) 2010-02-28 2019-01-15 Microsoft Technology Licensing, Llc AR glasses with event and user action control of external applications
US9097890B2 (en) 2010-02-28 2015-08-04 Microsoft Technology Licensing, Llc Grating in a light transmissive illumination system for see-through near-eye display glasses
AU2011220382A1 (en) 2010-02-28 2012-10-18 Microsoft Corporation Local advertising content on an interactive head-mounted eyepiece
US11275482B2 (en) * 2010-02-28 2022-03-15 Microsoft Technology Licensing, Llc Ar glasses with predictive control of external device based on event input
US8467133B2 (en) 2010-02-28 2013-06-18 Osterhout Group, Inc. See-through display with an optical assembly including a wedge-shaped illumination system
WO2011122522A1 (ja) * 2010-03-30 2011-10-06 日本電気株式会社 感性表現語選択システム、感性表現語選択方法及びプログラム
JP2013534779A (ja) 2010-06-26 2013-09-05 パーソニクス ホールディングス, インコーポレイテッド 所定のフィルタ特性を有する外耳道を閉塞するための方法およびデバイス
EP2659366A1 (en) 2010-12-30 2013-11-06 Ambientz Information processing using a population of data acquisition devices
JP6001239B2 (ja) * 2011-02-23 2016-10-05 京セラ株式会社 通信機器
US10356532B2 (en) 2011-03-18 2019-07-16 Staton Techiya, Llc Earpiece and method for forming an earpiece
US10362381B2 (en) 2011-06-01 2019-07-23 Staton Techiya, Llc Methods and devices for radio frequency (RF) mitigation proximate the ear
US20130002425A1 (en) * 2011-07-01 2013-01-03 General Electric Company Augmented reality excessive noise display and warning system
TW201316328A (zh) * 2011-10-14 2013-04-16 Hon Hai Prec Ind Co Ltd 聲音反饋裝置及其工作方法
US8183997B1 (en) * 2011-11-14 2012-05-22 Google Inc. Displaying sound indications on a wearable computing system
EP2629498A1 (en) * 2012-02-17 2013-08-21 Sony Ericsson Mobile Communications AB Portable electronic equipment and method of visualizing sound
US9384737B2 (en) * 2012-06-29 2016-07-05 Microsoft Technology Licensing, Llc Method and device for adjusting sound levels of sources based on sound source priority
US10143592B2 (en) 2012-09-04 2018-12-04 Staton Techiya, Llc Occlusion device capable of occluding an ear canal
KR101989893B1 (ko) * 2012-10-29 2019-09-30 엘지전자 주식회사 헤드 마운트 디스플레이 및 이를 이용한 오디오 신호 출력 방법
US9691377B2 (en) * 2013-07-23 2017-06-27 Google Technology Holdings LLC Method and device for voice recognition training
US9704486B2 (en) * 2012-12-11 2017-07-11 Amazon Technologies, Inc. Speech recognition power management
TWI534475B (zh) 2012-12-21 2016-05-21 財團法人工業技術研究院 虛像顯示裝置
US10043535B2 (en) 2013-01-15 2018-08-07 Staton Techiya, Llc Method and device for spectral expansion for an audio signal
US9880615B2 (en) * 2013-02-15 2018-01-30 Seiko Epson Corporation Information processing device and control method for information processing device
US9129515B2 (en) * 2013-03-15 2015-09-08 Qualcomm Incorporated Ultrasound mesh localization for interactive systems
US9536453B2 (en) 2013-05-03 2017-01-03 Brigham Young University Computer-implemented communication assistant for the hearing-impaired
US9548047B2 (en) 2013-07-31 2017-01-17 Google Technology Holdings LLC Method and apparatus for evaluating trigger phrase enrollment
US9264824B2 (en) 2013-07-31 2016-02-16 Starkey Laboratories, Inc. Integration of hearing aids with smart glasses to improve intelligibility in noise
US11170089B2 (en) 2013-08-22 2021-11-09 Staton Techiya, Llc Methods and systems for a voice ID verification database and service in social networking and commercial business transactions
US9167082B2 (en) 2013-09-22 2015-10-20 Steven Wayne Goldstein Methods and systems for voice augmented caller ID / ring tone alias
US10405163B2 (en) * 2013-10-06 2019-09-03 Staton Techiya, Llc Methods and systems for establishing and maintaining presence information of neighboring bluetooth devices
US9500515B2 (en) * 2013-10-21 2016-11-22 Mass Moment LLC Multifunctional wearable audio-sensing electronic device
US20150110277A1 (en) * 2013-10-22 2015-04-23 Charles Pidgeon Wearable/Portable Device and Application Software for Alerting People When the Human Sound Reaches the Preset Threshold
US10045135B2 (en) 2013-10-24 2018-08-07 Staton Techiya, Llc Method and device for recognition and arbitration of an input connection
US10043534B2 (en) 2013-12-23 2018-08-07 Staton Techiya, Llc Method and device for spectral expansion for an audio signal
US9171447B2 (en) 2014-03-14 2015-10-27 Lenovo Enterprise Solutions (Sinagapore) Pte. Ltd. Method, computer program product and system for analyzing an audible alert
US10739187B2 (en) * 2014-06-02 2020-08-11 Rosemount Inc. Industrial audio noise monitoring system
US9711146B1 (en) 2014-06-05 2017-07-18 ProSports Technologies, LLC Wireless system for social media management
US9489809B1 (en) * 2014-06-24 2016-11-08 Heads Up Display Inc. Wearable indicator devices and methods of using same
US9343066B1 (en) 2014-07-11 2016-05-17 ProSports Technologies, LLC Social network system
DE102014218832A1 (de) 2014-09-18 2016-03-24 Siemens Aktiengesellschaft Computerimplementiertes Verfahren zur Einstellung und Betriebsverbesserung mindestens eines Hörgeräts, ein entsprechendes Hörgerät sowie ein entsprechendes am Kopf tragbares Gerät
US10163453B2 (en) 2014-10-24 2018-12-25 Staton Techiya, Llc Robust voice activity detector system for use with an earphone
KR20160055337A (ko) * 2014-11-07 2016-05-18 삼성전자주식회사 텍스트 표시 방법 및 그 전자 장치
WO2016075780A1 (ja) * 2014-11-12 2016-05-19 富士通株式会社 ウェアラブルデバイス、表示制御方法、及び表示制御プログラム
EP3220372B1 (en) * 2014-11-12 2019-10-16 Fujitsu Limited Wearable device, display control method, and display control program
JP6551417B2 (ja) 2014-11-12 2019-07-31 富士通株式会社 ウェアラブルデバイス、表示制御方法、及び表示制御プログラム
US10413240B2 (en) 2014-12-10 2019-09-17 Staton Techiya, Llc Membrane and balloon systems and designs for conduits
US9596538B2 (en) * 2014-12-12 2017-03-14 Intel Corporation Wearable audio mixing
AU2015371631B2 (en) 2014-12-23 2020-06-18 Timothy DEGRAYE Method and system for audio sharing
DE102015207134A1 (de) * 2015-04-20 2016-10-20 Prüftechnik Dieter Busch AG Verfahren zum Erfassen von Vibrationen einer Vorrichtung und Vibrationserfassungssystem
US10709388B2 (en) 2015-05-08 2020-07-14 Staton Techiya, Llc Biometric, physiological or environmental monitoring using a closed chamber
US10418016B2 (en) 2015-05-29 2019-09-17 Staton Techiya, Llc Methods and devices for attenuating sound in a conduit or chamber
US9703864B2 (en) 2015-07-23 2017-07-11 At&T Intellectual Property I, L.P. Directional location of sound sources
WO2017024359A1 (en) * 2015-08-13 2017-02-16 Prospect Silver Limited A visual aid system
US9298283B1 (en) 2015-09-10 2016-03-29 Connectivity Labs Inc. Sedentary virtual reality method and systems
AU2016324039B2 (en) * 2015-09-16 2021-09-30 Magic Leap, Inc. Head pose mixing of audio files
US10444850B2 (en) * 2015-09-28 2019-10-15 Elwha Llc Systems and methods for providing gesture indicative data via a head wearable computing device
US9747814B2 (en) * 2015-10-20 2017-08-29 International Business Machines Corporation General purpose device to assist the hard of hearing
WO2017066992A1 (zh) * 2015-10-23 2017-04-27 深圳市柔宇科技有限公司 头戴式显示设备、提示信息显示系统及方法
GB2559082B (en) * 2015-10-29 2021-05-19 Ford Global Tech Llc In-vehicle haptic output
US9652896B1 (en) 2015-10-30 2017-05-16 Snap Inc. Image based tracking in augmented reality systems
WO2017091019A1 (en) * 2015-11-27 2017-06-01 Samsung Electronics Co., Ltd. Electronic device and method for displaying and generating panoramic image
US9984499B1 (en) 2015-11-30 2018-05-29 Snap Inc. Image and point cloud based tracking and in augmented reality systems
US10616693B2 (en) 2016-01-22 2020-04-07 Staton Techiya Llc System and method for efficiency among devices
CN105632096A (zh) * 2016-02-23 2016-06-01 傅华 个人可穿戴的环境声音检测报警装置及其方法
US20170303052A1 (en) * 2016-04-18 2017-10-19 Olive Devices LLC Wearable auditory feedback device
US11195542B2 (en) * 2019-10-31 2021-12-07 Ron Zass Detecting repetitions in audio data
CN107223277A (zh) * 2016-12-16 2017-09-29 深圳前海达闼云端智能科技有限公司 一种聋哑人辅助方法、装置以及电子设备
US10319149B1 (en) 2017-02-17 2019-06-11 Snap Inc. Augmented reality anamorphosis system
US10074381B1 (en) * 2017-02-20 2018-09-11 Snap Inc. Augmented reality speech balloon system
CN107168518B (zh) * 2017-04-05 2020-06-23 北京小鸟看看科技有限公司 一种用于头戴显示器的同步方法、装置及头戴显示器
US10387730B1 (en) 2017-04-20 2019-08-20 Snap Inc. Augmented reality typography personalization system
EP3634009A4 (en) * 2017-05-29 2021-02-24 Audio-Technica Corporation SIGNAL PROCESSING DEVICE
US10405082B2 (en) 2017-10-23 2019-09-03 Staton Techiya, Llc Automatic keyword pass-through system
KR102511720B1 (ko) 2017-11-29 2023-03-20 삼성전자주식회사 360 비디오에서 화자의 음성을 시각적으로 표시하기 위한 장치 및 방법
US11074906B2 (en) * 2017-12-07 2021-07-27 Hed Technologies Sarl Voice aware audio system and method
CN108852620A (zh) * 2018-01-19 2018-11-23 郭磊 智能颈戴设备及其控制方法
CN108389584B (zh) * 2018-01-31 2021-03-19 深圳市科迈爱康科技有限公司 声音分析方法及装置
US11638084B2 (en) 2018-03-09 2023-04-25 Earsoft, Llc Eartips and earphone devices, and systems and methods therefor
US11607155B2 (en) 2018-03-10 2023-03-21 Staton Techiya, Llc Method to estimate hearing impairment compensation function
CN108594988A (zh) * 2018-03-22 2018-09-28 美律电子(深圳)有限公司 用于音频成像的可穿戴式电子装置及其操作方法
US10951994B2 (en) 2018-04-04 2021-03-16 Staton Techiya, Llc Method to acquire preferred dynamic range function for speech enhancement
US11488590B2 (en) 2018-05-09 2022-11-01 Staton Techiya Llc Methods and systems for processing, storing, and publishing data collected by an in-ear device
US11032664B2 (en) 2018-05-29 2021-06-08 Staton Techiya, Llc Location based audio signal message processing
CN108877407A (zh) * 2018-06-11 2018-11-23 北京佳珥医学科技有限公司 用于辅助交流的方法、装置和系统及增强现实眼镜
JP7177631B2 (ja) * 2018-08-24 2022-11-24 本田技研工業株式会社 音響シーン再構成装置、音響シーン再構成方法、およびプログラム
US10785563B1 (en) * 2019-03-15 2020-09-22 Hitachi, Ltd. Omni-directional audible noise source localization apparatus
US11328692B2 (en) 2019-08-06 2022-05-10 Alexandra Cartier Head-mounted situational awareness system and method of operation
CN112423190A (zh) * 2019-08-20 2021-02-26 苹果公司 用于头戴式设备的基于音频的反馈
CN110691300B (zh) * 2019-09-12 2022-07-19 连尚(新昌)网络科技有限公司 音频播放设备及用于提供信息的方法
US20210102976A1 (en) * 2019-10-04 2021-04-08 International Business Machines Corporation Spur detection in a sampled waveform in a mixed analog/digital system using the magnitude of the frequency response
US11055533B1 (en) * 2020-01-02 2021-07-06 International Business Machines Corporation Translating sound events to speech and AR content
WO2021142242A1 (en) * 2020-01-08 2021-07-15 Format Civil Engineering Ltd. Systems, and programs for visualization of auditory signals
KR102334091B1 (ko) * 2020-03-20 2021-12-02 주식회사 코클리어닷에이아이 오디오 인식을 수행하는 증강현실 디바이스 및 그의 제어방법
NO345385B1 (no) * 2020-03-24 2021-01-11 Sansoglys As Anordning og fremgangsmåte for måling og visualisering av lydnivå
US11804113B1 (en) * 2020-08-30 2023-10-31 Apple Inc. Visual indication of audibility
FR3115103B1 (fr) * 2020-10-12 2023-05-12 Renault Sas Dispositif et procédé de mesure et de visualisation d’un champ sonore
EP4206901A4 (en) * 2021-01-21 2024-04-10 Samsung Electronics Co Ltd WEARABLE ELECTRONIC DEVICE RECEIVING INFORMATION FROM AN EXTERNAL WEARABLE ELECTRONIC DEVICE AND METHOD OF OPERATING THE SAME
KR20220105893A (ko) * 2021-01-21 2022-07-28 삼성전자주식회사 외부 웨어러블 전자 장치로부터 정보를 수신하는 웨어러블 전자 장치 및 그 작동 방법
US11470439B1 (en) 2021-06-02 2022-10-11 Meta Platforms Technologies, Llc Adjustment of acoustic map and presented sound in artificial reality systems
US11372620B1 (en) 2021-08-11 2022-06-28 Family Tech Innovations, LLC Voice monitoring system and method
US20230122450A1 (en) * 2021-10-20 2023-04-20 Google Llc Anchored messages for augmented reality
US11975264B2 (en) * 2022-05-31 2024-05-07 Sony Interactive Entertainment LLC Gaze-based coordination of virtual effects indicators

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111183A (ja) * 2001-09-27 2003-04-11 Chubu Electric Power Co Inc 音源探査システム
JP2007256915A (ja) * 2006-02-22 2007-10-04 Konica Minolta Holdings Inc 映像表示装置、及び映像表示方法
JP2011188025A (ja) * 2010-03-04 2011-09-22 Chubu Electric Power Co Inc 音源推定方法

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4277980A (en) * 1979-03-12 1981-07-14 Reine H. Pendleton Apparatus and method for indicating sound levels
US4949580A (en) * 1989-05-31 1990-08-21 Graham John F Audio analysis system
US5796843A (en) * 1994-02-14 1998-08-18 Sony Corporation Video signal and audio signal reproducing apparatus
JP3796776B2 (ja) * 1995-09-28 2006-07-12 ソニー株式会社 映像音声再生装置
US5774558A (en) * 1995-10-30 1998-06-30 Rsq, Llc Sound imager
US7073129B1 (en) 1998-12-18 2006-07-04 Tangis Corporation Automated selection of appropriate information based on a computer user's context
GB2386724A (en) 2000-10-16 2003-09-24 Tangis Corp Dynamically determining appropriate computer interfaces
US6629076B1 (en) 2000-11-27 2003-09-30 Carl Herman Haken Method and device for aiding speech
JP3988632B2 (ja) 2002-11-28 2007-10-10 日本電気株式会社 眼鏡型ディスプレイの制御方法
US20070136064A1 (en) 2003-04-16 2007-06-14 Carroll David W Mobile personal computer with movement sensor
US7579958B2 (en) * 2003-06-03 2009-08-25 Wallace Henry B Audio power meter
US20050071158A1 (en) 2003-09-25 2005-03-31 Vocollect, Inc. Apparatus and method for detecting user speech
ATE502311T1 (de) 2003-10-10 2011-04-15 Harman Becker Automotive Sys System und verfahren zur bestimmung der position einer schallquelle
US7199720B1 (en) * 2003-11-19 2007-04-03 Michael Shapiro Hearing protection warning device
GB2414369B (en) 2004-05-21 2007-08-01 Hewlett Packard Development Co Processing audio data
WO2006012678A1 (en) 2004-08-03 2006-02-09 Silverbrook Research Pty Ltd Walk-up printing
JP4204541B2 (ja) 2004-12-24 2009-01-07 株式会社東芝 対話型ロボット、対話型ロボットの音声認識方法および対話型ロボットの音声認識プログラム
US8160261B2 (en) * 2005-01-18 2012-04-17 Sensaphonics, Inc. Audio monitoring system
US7356473B2 (en) * 2005-01-21 2008-04-08 Lawrence Kates Management and assistance system for the deaf
US20060238550A1 (en) * 2005-03-17 2006-10-26 Symagery Microsystems Inc. Hands-free data acquisition system
US8077872B2 (en) * 2005-04-05 2011-12-13 Logitech International, S.A. Headset visual feedback system
JP4971315B2 (ja) * 2005-06-24 2012-07-11 トムソン ライセンシング マルチパス・サーチャの結果をソートする方法
JP5119636B2 (ja) 2006-09-27 2013-01-16 ソニー株式会社 表示装置、表示方法
EP2207164B1 (en) 2007-07-31 2018-10-31 Kopin Corporation Apparatus for providing language translation and avatar simulating human attributes, and method thereof
CN101442637B (zh) * 2007-11-23 2011-01-26 瑞昱半导体股份有限公司 电视音频标准辨识装置及方法
US8957835B2 (en) 2008-09-30 2015-02-17 Apple Inc. Head-mounted display apparatus for retaining a portable electronic device with display
FR2938396A1 (fr) * 2008-11-07 2010-05-14 Thales Sa Procede et systeme de spatialisation du son par mouvement dynamique de la source
JP4849121B2 (ja) * 2008-12-16 2012-01-11 ソニー株式会社 情報処理システムおよび情報処理方法
EP2445230A4 (en) * 2009-06-17 2016-05-18 Panasonic Ip Corp America HEARING AID
JP4824793B2 (ja) 2009-07-06 2011-11-30 東芝テック株式会社 ウエアラブル端末装置及びプログラム
DE102009045204A1 (de) * 2009-09-30 2011-04-28 Endress + Hauser Gmbh + Co. Kg Verfahren zur Bestimmung und/oder Überwachung mindestens einer physikalischen Prozessgröße
US9197736B2 (en) 2009-12-31 2015-11-24 Digimarc Corporation Intuitive computing methods and systems
EP2517486A1 (en) * 2009-12-23 2012-10-31 Nokia Corp. An apparatus
AU2011220382A1 (en) * 2010-02-28 2012-10-18 Microsoft Corporation Local advertising content on an interactive head-mounted eyepiece
KR101157928B1 (ko) 2010-03-15 2012-06-22 한국표준과학연구원 감성정보를 포함하는 청각장애인용 안내 시스템 및 그를 이용한 안내방법
CN101916569B (zh) * 2010-08-03 2015-05-06 北京中星微电子有限公司 一种显示声音的方法和装置
US8183997B1 (en) * 2011-11-14 2012-05-22 Google Inc. Displaying sound indications on a wearable computing system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111183A (ja) * 2001-09-27 2003-04-11 Chubu Electric Power Co Inc 音源探査システム
JP2007256915A (ja) * 2006-02-22 2007-10-04 Konica Minolta Holdings Inc 映像表示装置、及び映像表示方法
JP2011188025A (ja) * 2010-03-04 2011-09-22 Chubu Electric Power Co Inc 音源推定方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087695A (ja) * 2013-11-01 2015-05-07 セイコーエプソン株式会社 情報処理装置および情報処理装置の制御方法
JP2020501275A (ja) * 2016-12-09 2020-01-16 株式会社ソニー・インタラクティブエンタテインメント 画像処理システムおよび方法
US10978072B2 (en) 2017-09-20 2021-04-13 Kabushiki Kaisha Toshiba Display control system, display control method, and computer program product using display sectors in one revolution of clockwise or counterclockwise direction
JP2021018212A (ja) * 2019-07-23 2021-02-15 株式会社ミツトヨ 音響測定装置およびプログラム
JP7295732B2 (ja) 2019-07-23 2023-06-21 株式会社ミツトヨ 音響測定装置およびプログラム
RU2783150C1 (ru) * 2019-07-30 2022-11-09 Долби Лабораторис Лайсэнзин Корпорейшн Динамическая обработка в устройствах с отличающимися функциональными возможностями воспроизведения
JP7484580B2 (ja) 2020-08-28 2024-05-16 日本精工株式会社 異常診断装置および異常診断方法

Also Published As

Publication number Publication date
US20130124204A1 (en) 2013-05-16
JP5881263B2 (ja) 2016-03-09
WO2013074234A1 (en) 2013-05-23
US9838814B2 (en) 2017-12-05
CN103946733A (zh) 2014-07-23
US8493204B2 (en) 2013-07-23
EP2780757A4 (en) 2015-08-19
KR20140091552A (ko) 2014-07-21
EP2780757A1 (en) 2014-09-24
KR101668165B1 (ko) 2016-10-20
CN103946733B (zh) 2017-12-05
US8183997B1 (en) 2012-05-22
US20130279705A1 (en) 2013-10-24

Similar Documents

Publication Publication Date Title
JP5881263B2 (ja) 着用可能な計算機システムへのサウンド状態の表示
US9779758B2 (en) Augmenting speech segmentation and recognition using head-mounted vibration and/or motion sensors
CN106471419B (zh) 管理信息显示
EP2891955B1 (en) In-vehicle gesture interactive spatial audio system
KR102331048B1 (ko) 오디오 탐색 지원
CN108028957B (zh) 信息处理装置、信息处理方法和机器可读介质
US9666187B1 (en) Model for enabling service providers to address voice-activated commands
US20130094682A1 (en) Augmented reality sound notification system
US9264803B1 (en) Using sounds for determining a worn state of a wearable computing device
US9239626B1 (en) Input system
KR20170066357A (ko) 보행자 정보 시스템
US11543242B2 (en) Localization and visualization of sound
US20210081047A1 (en) Head-Mounted Display With Haptic Output
WO2019244670A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6293543B2 (ja) 携帯端末および音通知方法
WO2018104731A1 (en) Image processing system and method
JP6784289B2 (ja) 情報処理装置、情報処理方法、及びプログラム
WO2023069988A1 (en) Anchored messages for augmented reality
JP2015087695A (ja) 情報処理装置および情報処理装置の制御方法
KR102334319B1 (ko) 증강 현실 표시 장치를 이용한 청각 정보의 시각 변환 및 전달 방법 및 장치
JP7252313B2 (ja) ヘッドマウント情報処理装置
KR20230021490A (ko) 시각을 이용한 청각 보조 시스템 및 청각 보조 방법
KR20200136245A (ko) 맵시 해석을 이용한 청각장애인용 안경스타일 단말기

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160105

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20160114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160201

R150 Certificate of patent or registration of utility model

Ref document number: 5881263

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250