JP2014099073A - Electronic apparatus, control method of the same, and program - Google Patents

Electronic apparatus, control method of the same, and program Download PDF

Info

Publication number
JP2014099073A
JP2014099073A JP2012250886A JP2012250886A JP2014099073A JP 2014099073 A JP2014099073 A JP 2014099073A JP 2012250886 A JP2012250886 A JP 2012250886A JP 2012250886 A JP2012250886 A JP 2012250886A JP 2014099073 A JP2014099073 A JP 2014099073A
Authority
JP
Japan
Prior art keywords
sound wave
sound
electronic device
change
detection unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012250886A
Other languages
Japanese (ja)
Inventor
Atsushi Kuroda
淳 黒田
Yasuharu Onishi
康晴 大西
Motoyoshi Komoda
元喜 菰田
Daisuke Sugii
大介 杉井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Casio Mobile Communications Ltd
Original Assignee
NEC Casio Mobile Communications Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Casio Mobile Communications Ltd filed Critical NEC Casio Mobile Communications Ltd
Priority to JP2012250886A priority Critical patent/JP2014099073A/en
Publication of JP2014099073A publication Critical patent/JP2014099073A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Telephone Function (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an electronic apparatus that includes a new user interface not relying on a touch panel, by solving the problem in which: electronic apparatuses today have been highly functionalized, and which may result in an insufficient display area to display icons and the like.SOLUTION: An electronic apparatus includes: a sound wave generation unit that emits sound waves having a predetermined frequency to a space; a sound wave detection unit that detects the emitted sound wave; a change detection unit that detects a change in sound pressure in the sound wave detected by the sound wave detection unit; and a determination unit that determines the presence of movement of an object within a predetermined range on the basis of the change in the sound pressure.

Description

本発明は、電子機器、その制御方法及びプログラムに関する。   The present invention relates to an electronic device, a control method thereof, and a program.

携帯電話やスマートフォン等の電子機器は、操作デバイスとしてのタッチパネルを備えることが多い。ユーザは、液晶パネル等の表示デバイスに表示されたアイコン等に触れることで、電子機器の操作を行う。   Electronic devices such as mobile phones and smartphones often include a touch panel as an operation device. A user operates an electronic device by touching an icon or the like displayed on a display device such as a liquid crystal panel.

タッチパネル以外にも、ハードウェアキーを押下することで、ユーザによる操作を受け付ける電子機器も存在する。あるいは、電子機器の内部に加速度センサ等を配置し、電子機器の筐体における姿勢の変化を検出することで、ユーザの操作を検出する電子機器も存在する。より具体的には、電子機器の筐体を傾けたり、振ったりすることで、ユーザは電子機器を操作する。   In addition to the touch panel, there is an electronic device that accepts an operation by a user by pressing a hardware key. Alternatively, there is an electronic device that detects a user operation by disposing an acceleration sensor or the like inside the electronic device and detecting a change in posture of the housing of the electronic device. More specifically, the user operates the electronic device by tilting or shaking the housing of the electronic device.

ここで、特許文献1において、携帯電話に手をかざすとセンサがその接近を検知し、時刻等に関する情報をスピーカから発する技術が開示されている。さらに、特許文献2において、複数の信号を送信し、送信された信号が人間の手などにより反射された信号のインパルス応答を利用することで、手の動き等を検出する技術が開示されている。   Here, Patent Document 1 discloses a technology in which when a hand is held over a mobile phone, the sensor detects the approach and emits information about time and the like from a speaker. Furthermore, Patent Document 2 discloses a technique for detecting a hand movement or the like by transmitting a plurality of signals and using the impulse response of the signal reflected by a human hand or the like. .

特開2005−045655号公報JP 2005-045655 A 特表2011−517584号公報Special table 2011-517584 gazette

なお、上記先行技術文献の各開示を、本書に引用をもって繰り込むものとする。以下の分析は、本発明者らによってなされたものである。   Each disclosure of the above prior art document is incorporated herein by reference. The following analysis was made by the present inventors.

上述のように、電子機器の操作デバイスとしてタッチパネルを使用することが多い。その際、電子機器のディスプレイに、ユーザの操作に必要なアイコン等を表示する必要がある。近年の電子機器における高機能化は著しく、アイコン等の表示が可能な表示エリアが十分ではない場合がある。つまり、タッチパネルを用いたインターフェイスにおいて、ユーザに提供する必要がある情報に対して、表示エリアが不足することも多い。   As described above, a touch panel is often used as an operation device for electronic equipment. In that case, it is necessary to display an icon etc. required for a user's operation on the display of an electronic device. In recent years, there has been a remarkable increase in functionality in electronic devices, and there are cases where display areas capable of displaying icons and the like are not sufficient. That is, in the interface using the touch panel, the display area is often insufficient for information that needs to be provided to the user.

また、表示エリアの不足をハードウェアキーにより補うことも考えられるが、スマートフォン等の電子機器では、その筐体の大きさに限度があり、ハードウェアキーの追加は実装面積の観点から困難な状況にある。さらに、電子機器を傾けたりすることで、ユーザの操作を検出するインターフェイスでは、タッチパネルによる操作と共存することは難しく、表示エリアの不足を補うことにならない。   In addition, it may be possible to compensate for the shortage of display area with hardware keys, but for electronic devices such as smartphones, there is a limit to the size of the housing, and it is difficult to add hardware keys from the viewpoint of mounting area It is in. Furthermore, it is difficult for an interface that detects a user operation by tilting an electronic device to coexist with an operation using a touch panel, and does not compensate for a shortage of display area.

以上のような状況において、タッチパネルに依存しない新たなユーザインターフェイスを備える電子機器、その制御方法及びプログラムが、望まれる。   Under the circumstances as described above, an electronic device having a new user interface that does not depend on a touch panel, a control method thereof, and a program are desired.

なお、特許文献1が開示する技術は、音波の反射時間を検出することで、物体の接近を検知し、その結果に応じて、ユーザに情報を提供する技術であって、新たなユーザインターフェイスを提供するものではない。また、特許文献2が開示する技術は、インパルス応答の測定に基づき、人間の手の動きや位置等を検出するための技術である。比較的大きな物体の動き等の検出を目的としたものであり、スマートフォン等の操作に適用するには不向きである。   The technique disclosed in Patent Document 1 is a technique that detects the approach of an object by detecting the reflection time of a sound wave, and provides information to the user according to the result. A new user interface is provided. It is not provided. The technique disclosed in Patent Document 2 is a technique for detecting the movement and position of a human hand based on measurement of an impulse response. The purpose is to detect the movement of a relatively large object, and it is not suitable for the operation of a smartphone or the like.

本発明の第1の視点によれば、所定の周波数を持つ音波を空間に放射する音波発生部と、前記放射された音波を検出する音波検出部と、前記音波検出部が検出する音波の音圧の変化を検出する変化検出部と、前記音圧の変化に基づき、所定の範囲内における物体の移動の有無を判定する判定部と、を備える電子機器が提供される。   According to the first aspect of the present invention, a sound wave generation unit that radiates sound waves having a predetermined frequency to space, a sound wave detection unit that detects the emitted sound waves, and sound waves detected by the sound wave detection unit An electronic device is provided that includes a change detection unit that detects a change in pressure and a determination unit that determines whether or not an object has moved within a predetermined range based on the change in the sound pressure.

本発明の第2の視点によれば、所定の周波数を持つ音波を空間に放射する音波発生部と、前記放射された音波を検出する音波検出部と、を備える電子機器の制御方法であって、前記音波検出部が検出する音波の音圧の変化を検出する工程と、前記音圧の変化に基づき、所定の範囲内における物体の移動の有無を判定する工程と、を含む電子機器の制御方法が提供される。
なお、本方法は、音波発生部と、音波検出部と、を備える電子機器という、特定の機械に結びつけられている。
According to a second aspect of the present invention, there is provided a control method for an electronic device comprising: a sound wave generation unit that radiates sound waves having a predetermined frequency into space; and a sound wave detection unit that detects the emitted sound waves. And a step of detecting a change in sound pressure of a sound wave detected by the sound wave detection unit, and a step of determining whether or not an object has moved within a predetermined range based on the change in sound pressure. A method is provided.
In addition, this method is tied to the specific machine called an electronic device provided with a sound wave generation part and a sound wave detection part.

本発明の第3の視点によれば、所定の周波数を持つ音波を空間に放射する音波発生部と、前記放射された音波を検出する音波検出部と、を備える電子機器を制御するコンピュータに実行させるプログラムであって、前記音波検出部が検出する音波の音圧の変化を検出する処理と、前記音圧の変化に基づき、所定の範囲内における物体の移動の有無を判定する処理と、を実行するプログラムが提供される。
なお、このプログラムは、コンピュータが読み取り可能な記憶媒体に記録することができる。記憶媒体は、半導体メモリ、ハードディスク、磁気記録媒体、光記録媒体等の非トランジェント(non−transient)なものとすることができる。本発明は、コンピュータプログラム製品として具現することも可能である。
According to a third aspect of the present invention, the present invention is implemented in a computer that controls an electronic device that includes a sound wave generator that radiates sound waves having a predetermined frequency to a space and a sound wave detector that detects the emitted sound waves. A process for detecting a change in sound pressure of a sound wave detected by the sound wave detection unit, and a process for determining whether or not an object has moved within a predetermined range based on the change in sound pressure. A program to be executed is provided.
This program can be recorded on a computer-readable storage medium. The storage medium can be non-transient such as a semiconductor memory, a hard disk, a magnetic recording medium, an optical recording medium, or the like. The present invention can also be embodied as a computer program product.

本発明の各視点によれば、タッチパネルに依存しない新たなユーザインターフェイスを提供することに寄与する電子機器、その制御方法及びプログラムが、提供される。   According to each aspect of the present invention, an electronic device that contributes to providing a new user interface that does not depend on a touch panel, a control method thereof, and a program are provided.

一実施形態の概要を説明するための図である。It is a figure for demonstrating the outline | summary of one Embodiment. 第1の実施形態に係る電子機器1の全体を示す斜視図の一例である。It is an example of the perspective view which shows the whole electronic device 1 which concerns on 1st Embodiment. 電子機器1を側面から視認した場合の一例を示す図である。It is a figure which shows an example at the time of visually recognizing the electronic device 1 from the side surface. スピーカ20から放射された音波の音圧空間分布の一例を示す図である。It is a figure which shows an example of sound pressure space distribution of the sound wave radiated | emitted from the speaker. スピーカ20から放射された音波の音圧空間分布の一例を示す図である。It is a figure which shows an example of sound pressure space distribution of the sound wave radiated | emitted from the speaker. スピーカ20から放射された音波の音圧空間分布の一例を示す図である。It is a figure which shows an example of sound pressure space distribution of the sound wave radiated | emitted from the speaker. 電子機器1の内部構成の一例を示す図である。1 is a diagram illustrating an example of an internal configuration of an electronic device 1. デジタル信号処理部80における信号処理の一例を示す図である。6 is a diagram illustrating an example of signal processing in a digital signal processing unit 80. FIG. マイクロフォン30の出力波形の一例である。It is an example of the output waveform of the microphone 30. FIG. マイクロフォン30の出力波形の一例を示す図である。3 is a diagram illustrating an example of an output waveform of a microphone 30. FIG. 乗算器310の出力波形の一例を示す図である。FIG. 4 is a diagram illustrating an example of an output waveform of a multiplier 310. デジタル信号処理部80の出力波形の一例を示す図である。4 is a diagram illustrating an example of an output waveform of a digital signal processing unit 80. FIG. デジタル信号処理部80における信号処理の別の一例を示す図である。It is a figure which shows another example of the signal processing in the digital signal processing part. デジタル信号処理部80における信号処理の別の一例を示す図である。It is a figure which shows another example of the signal processing in the digital signal processing part. 乗算器310の出力波形の一例を示す図である。FIG. 4 is a diagram illustrating an example of an output waveform of a multiplier 310. 電子機器1の動作の一例を示すフローチャートである。3 is a flowchart illustrating an example of an operation of the electronic device 1.

初めに、図1を用いて一実施形態の概要について説明する。なお、この概要に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、この概要の記載はなんらの限定を意図するものではない。   First, an outline of an embodiment will be described with reference to FIG. Note that the reference numerals of the drawings attached to the outline are attached to the respective elements for convenience as an example for facilitating understanding, and the description of the outline is not intended to be any limitation.

上述のように、タッチパネルに依存しない新たなユーザインターフェイスを備える電子機器が望まれる。   As described above, an electronic device including a new user interface that does not depend on a touch panel is desired.

そこで、一例として図1に示す電子機器100を提供する。電子機器100は、所定の周波数を持つ音波を空間に放射する音波発生部101と、放射された音波を検出する音波検出部102と、音波検出部102が検出する音波における音圧の変化を検出する変化検出部103と、音圧の変化に基づき、所定の範囲内における物体の移動の有無を判定する判定部104と、を備える。   Therefore, an electronic device 100 shown in FIG. 1 is provided as an example. The electronic device 100 detects a change in sound pressure in the sound wave detected by the sound wave detection unit 102 that detects the emitted sound wave, the sound wave generation unit 101 that radiates a sound wave having a predetermined frequency to the space, And a determination unit 104 that determines whether or not an object has moved within a predetermined range based on a change in sound pressure.

電子機器100は、音波検出部102において検出する音波の音圧が、電子機器100の周辺に存在する物体の移動に応じて変化することと、ユーザの操作と、を関連付けする。即ち、ユーザが電子機器100の音波発生部101や音波検出部102の近傍で指を移動させると、音波検出部102が検出する音波の音圧が変化する。電子機器100では、このような音波の音圧の変化を、電子機器100を操作するための操作手段(例えば、ユーザの指先)における移動の検出に用いる。その結果、タッチパネルに依存しない新たなユーザインターフェイスを備える電子機器100が提供できる。   The electronic device 100 associates the sound pressure of the sound wave detected by the sound wave detection unit 102 with a change in accordance with the movement of an object existing around the electronic device 100 and the user's operation. That is, when the user moves a finger in the vicinity of the sound wave generation unit 101 or the sound wave detection unit 102 of the electronic device 100, the sound pressure of the sound wave detected by the sound wave detection unit 102 changes. In the electronic device 100, such a change in sound pressure of sound waves is used to detect movement in an operation unit (for example, a user's fingertip) for operating the electronic device 100. As a result, the electronic device 100 including a new user interface that does not depend on the touch panel can be provided.

以下に具体的な実施の形態について、図面を参照してさらに詳しく説明する。   Hereinafter, specific embodiments will be described in more detail with reference to the drawings.

[第1の実施形態]
第1の実施形態について、図面を用いてより詳細に説明する。
[First Embodiment]
The first embodiment will be described in more detail with reference to the drawings.

本実施形態に係る電子機器1は、音場に置かれた物体(例えば、ユーザの指先)が移動すると音場が乱れることを利用し、ユーザの操作を検出するインターフェイスを提供する。より具体的には、スピーカから所定の周波数を持つ音波を空間に放射し、マイクロフォンにより音波を集音すると共に電気信号に変換する。さらに、変換された電気信号に対して信号処理を施すことで、音圧の包絡線(エンベロープカーブ)を算出する。この包絡線の時間変化に基づき、ユーザの操作を特定する。ユーザは、電子機器1の近傍(以降の説明において、ホームポジションと呼ぶ)に指を置き、ホームポジションに置いた指を移動させることで、電子機器1を操作する。   The electronic device 1 according to the present embodiment provides an interface for detecting a user operation by utilizing the fact that the sound field is disturbed when an object (for example, a user's fingertip) placed in the sound field moves. More specifically, a sound wave having a predetermined frequency is radiated from a speaker to the space, and the sound wave is collected by a microphone and converted into an electric signal. Furthermore, an envelope of sound pressure (envelope curve) is calculated by performing signal processing on the converted electrical signal. Based on the time change of the envelope, the user's operation is specified. The user operates the electronic device 1 by placing a finger near the electronic device 1 (referred to as a home position in the following description) and moving the finger placed at the home position.

図2は、本実施形態に係る電子機器1の全体を示す斜視図の一例である。図2を含む以降の図面における3次元座標系は、図示した座標軸のとおりとする。   FIG. 2 is an example of a perspective view showing the entire electronic apparatus 1 according to the present embodiment. The three-dimensional coordinate system in the subsequent drawings including FIG. 2 is as shown in the illustrated coordinate axes.

電子機器1は、表示デバイス10と、スピーカ20と、マイクロフォン30と、を備えている。スピーカ20が上述の音波発生部101に相当し、マイクロフォン30が、音波検出部102に相当する。また、電子機器1の筐体にはスピーカ20から音波が放射可能となるように音孔(図示せず)が設けられている。さらに、マイクロフォン30にて音波が集音可能となるように、マイクロフォン30に対応した音孔も設けられている。なお、スピーカ20は、電子機器1がビープ音等を発するために設けられている通常のスピーカ(例えば、動電型スピーカ又は圧電型スピーカ)を用いることができる。若しくは、このような通常のスピーカとは独立したスピーカを用いてもよい。さらに、スピーカ20は、超音波振動子を備えた超音波(可聴帯域よりも高い周波数帯域に属する音波)を放射するものであってもよい。   The electronic apparatus 1 includes a display device 10, a speaker 20, and a microphone 30. The speaker 20 corresponds to the sound wave generation unit 101 described above, and the microphone 30 corresponds to the sound wave detection unit 102. The housing of the electronic device 1 is provided with a sound hole (not shown) so that sound waves can be emitted from the speaker 20. Furthermore, a sound hole corresponding to the microphone 30 is also provided so that a sound wave can be collected by the microphone 30. As the speaker 20, a normal speaker (for example, an electrodynamic speaker or a piezoelectric speaker) provided for the electronic device 1 to emit a beep sound or the like can be used. Alternatively, a speaker independent from such a normal speaker may be used. Further, the speaker 20 may emit ultrasonic waves (sound waves belonging to a frequency band higher than the audible band) including an ultrasonic transducer.

マイクロフォン30は、電子機器1の側面に配置されているが、マイクロフォン30の実装位置を限定する趣旨ではない。マイクロフォン30は、側面以外の他の面に配置されていてもよい。あるいは、電子機器1に実装するマイクロフォンの個数を1個に限定する趣旨でもない。電子機器1に実装するマイクロフォンの個数は複数であってもよい。   The microphone 30 is disposed on the side surface of the electronic device 1, but is not intended to limit the mounting position of the microphone 30. The microphone 30 may be disposed on a surface other than the side surface. Alternatively, it is not intended to limit the number of microphones mounted on the electronic device 1 to one. There may be a plurality of microphones mounted on the electronic apparatus 1.

図2の点線で示す領域が、ホームポジション200である。電子機器1は、ユーザの指先がホームポジション200に置かれ、ホームポジション200に置かれた指が動かされることを予定している。   A region indicated by a dotted line in FIG. In the electronic device 1, the user's fingertip is placed at the home position 200 and the finger placed at the home position 200 is scheduled to be moved.

図3は、電子機器1を側面から視認した場合の一例を示す図である。図3において図2と同一構成要素には、同一の符号を表し、その説明を省略する。図2及び図3から、ホームポジション200は、スピーカ20の僅かに上方であって、ユーザの指と電子機器1を接触させないことが理解できる。   FIG. 3 is a diagram illustrating an example when the electronic device 1 is viewed from the side. 3, the same components as those in FIG. 2 are denoted by the same reference numerals, and the description thereof is omitted. 2 and 3, it can be understood that the home position 200 is slightly above the speaker 20 and does not allow the user's finger and the electronic device 1 to be in contact with each other.

次に、電子機器1の具体的な構成に関する説明に先立ち、超音波の音場に置かれた物体が移動した場合に、音場が時間波形として乱れることを利用し、ユーザの操作を検出できることの説明を行う。   Next, prior to the description of the specific configuration of the electronic device 1, when an object placed on the ultrasonic sound field moves, the user's operation can be detected using the fact that the sound field is disturbed as a time waveform. Will be explained.

図4は、スピーカ20から放射された音波の音圧空間分布の一例を示す図である。なお、図4に示す音波を計算する際の条件は、例えば、以下のようにすることができる。
・電子機器1の大きさは、5cm(X方向)×10cm(Y方向)×1cm(Z方向)とする。
・位置ベクトルの原点を、スピーカ20が実装された面の中心とする。
・スピーカ20から放射される音波の周波数は20kHzとする。
・音波の空間分布に関する表示は、20cm×20cmのZX平面にて行い、境界要素法により音波の計算を行う。
また、図4の符号201は、3次元座標系の原点となるスピーカ20の音孔の中心点が存在する、電子機器1の一面を示す。符号202は、電子機器1の側面に実装されたマイクロフォン30と、その音孔の中心点が存在する一面を示す。
FIG. 4 is a diagram illustrating an example of a sound pressure space distribution of sound waves emitted from the speaker 20. In addition, the conditions at the time of calculating the sound wave shown in FIG. 4 can be as follows, for example.
The size of the electronic device 1 is 5 cm (X direction) × 10 cm (Y direction) × 1 cm (Z direction).
The origin of the position vector is the center of the surface on which the speaker 20 is mounted.
The frequency of sound waves emitted from the speaker 20 is 20 kHz.
The display related to the spatial distribution of sound waves is performed on a 20 cm × 20 cm ZX plane, and sound waves are calculated by the boundary element method.
Moreover, the code | symbol 201 of FIG. 4 shows one surface of the electronic device 1 in which the center point of the sound hole of the speaker 20 used as the origin of a three-dimensional coordinate system exists. Reference numeral 202 denotes a surface on which the microphone 30 mounted on the side surface of the electronic device 1 and the center point of the sound hole are present.

図4に上部方向(Z方向)が、電子機器1の表示面であり、上部方向に向けてスピーカ20から放射された音波の音圧は、カーディオイドの尖点とは逆面のような整った空間分布であることがわかる。図4はコンター図(等高線図)であって、音圧の実時間波形の空間分布を示すものである。図4における色彩の濃淡の差異は、下記の式(1)に示される位相と振幅に関する情報を含む。   In FIG. 4, the upper direction (Z direction) is the display surface of the electronic device 1, and the sound pressure of the sound wave emitted from the speaker 20 toward the upper direction is arranged like a surface opposite to the cusp of the cardioid. It turns out that it is a spatial distribution. FIG. 4 is a contour diagram (contour map) showing a spatial distribution of a real-time waveform of sound pressure. The difference in color shading in FIG. 4 includes information on the phase and amplitude shown in the following equation (1).

ここで、スピーカ20の音孔の位置座標ベクトルIにおける速度ポテンシャルをΦ0(I)とする。また、座標位置ベクトルRにおけるヘルムホルツ方程式((∇2+k2)φ=-δ(R-I))の解であるグリーン関数をG0(R)とすると、マイクロフォン30の音孔の座標における速度ポテンシャルは下記の式(1)で表すことができる。但し、マイクロフォン30の音孔は非常に微小であるため、マイクロフォン30の音孔は特定の一点に簡略化し、音孔面における積分は省略している。

Figure 2014099073

なお、ωは角速度、kは波形番号、tは時刻を示す。 Here, the velocity potential in the position coordinate vector I of the sound hole of the speaker 20 is Φ 0 (I). Also, if the Green function that is the solution of the Helmholtz equation ((∇ 2 + k 2 ) φ = −δ (RI)) in the coordinate position vector R is G 0 (R), the velocity potential in the sound hole coordinates of the microphone 30 Can be represented by the following formula (1). However, since the sound hole of the microphone 30 is very small, the sound hole of the microphone 30 is simplified to a specific point, and the integration on the sound hole surface is omitted.

Figure 2014099073

Note that ω is an angular velocity, k is a waveform number, and t is time.

式(1)に基づいて算出される速度ポテンシャルから、マイクロフォン30の音孔の座標における音圧P0(R、t)は以下の式(2)により計算することができる。

Figure 2014099073

なお、ρは空気密度である。 From the velocity potential calculated based on the equation (1), the sound pressure P 0 (R, t) at the coordinates of the sound hole of the microphone 30 can be calculated by the following equation (2).

Figure 2014099073

Note that ρ is the air density.

式(2)を参照することで、音圧は速度ポテンシャルの時間変化に比例することが分かる。   By referring to Equation (2), it can be seen that the sound pressure is proportional to the time change of the velocity potential.

図5は、スピーカ20から放射された音波の音圧空間分布の一例を示す図である。図5は、図4のように配置されたスピーカ20の音孔の中心からX方向に5cm、Z方向に5cmずれた位置に指を想定した物体203を配置した場合の音圧の空間分布についての変化を示す図である。図5を参照すると、表示面が向く方向と逆の方向(Z軸のマイナス方向)及びX方向における音圧の変化が不規則であることが理解できる。以降の説明において、電子機器1の周辺に物体が存在することにより、音圧の空間分布が乱れることを音圧空間分布の変調と呼ぶ。   FIG. 5 is a diagram illustrating an example of a sound pressure space distribution of sound waves emitted from the speaker 20. FIG. 5 shows the spatial distribution of sound pressure when the object 203 assuming a finger is placed at a position shifted by 5 cm in the X direction and 5 cm in the Z direction from the center of the sound hole of the speaker 20 arranged as shown in FIG. It is a figure which shows the change of. Referring to FIG. 5, it can be understood that the change in sound pressure in the direction opposite to the direction in which the display surface faces (the negative direction of the Z axis) and the X direction is irregular. In the following description, the disturbance of the spatial distribution of sound pressure due to the presence of an object around the electronic device 1 is referred to as modulation of the sound pressure spatial distribution.

図6は、スピーカ20から放射された音波の音圧空間分布の一例を示す図である。図6は、スピーカ20の音孔の中心からX方向に5cm、Z方向に5cmずれた位置に、親指を除く4本の指を想定した物体204を配置した場合の音圧の空間分布についての変化を示す。   FIG. 6 is a diagram illustrating an example of a sound pressure space distribution of sound waves emitted from the speaker 20. FIG. 6 shows the spatial distribution of sound pressure when the object 204 assuming four fingers excluding the thumb is arranged at a position shifted by 5 cm in the X direction and 5 cm in the Z direction from the center of the sound hole of the speaker 20. Showing change.

図5と図6を比較すると、図6では、さらに顕著に音圧空間分布の変調が起きていることが確認できる。音圧空間分布の変調が存在しない図4の場合と、音圧空間分布の変調が存在する図5及び図6の場合とではグリーン関数が異なる。そこで、図5及び図6におけるグリーン関数をG(R、I)とすれば、図5及び図6における条件の下での速度ポテンシャルは、下記の式(3)により表すことができる。

Figure 2014099073
When FIG. 5 is compared with FIG. 6, it can be confirmed in FIG. 6 that the modulation of the sound pressure spatial distribution occurs more remarkably. The green function is different between the case of FIG. 4 where the modulation of the sound pressure spatial distribution does not exist and the case of FIGS. 5 and 6 where the modulation of the sound pressure spatial distribution exists. Therefore, if the Green function in FIGS. 5 and 6 is G (R, I), the velocity potential under the conditions in FIGS. 5 and 6 can be expressed by the following equation (3).

Figure 2014099073

ここで、図5及び図6は、指を想定した物体を所定の位置に静止させた場合の音圧空間分布の変調を図示したものである。しかし、実際には、ユーザは、指を動かすことで、電子機器1を操作する。このことは、図5及び図6において、静止している物体の位置が移動することを意味する。即ち、上記の式(3)において、グリーン関数が時間により変化するため、グリーン関数は位置のみに依存する(位置のみをパラメータとする)関数ではなく、時間もパラメータとする関数になる。   Here, FIGS. 5 and 6 illustrate the modulation of the sound pressure spatial distribution when an object assuming a finger is stopped at a predetermined position. However, actually, the user operates the electronic device 1 by moving a finger. This means that the position of the stationary object moves in FIGS. 5 and 6. That is, in the above formula (3), since the Green function changes with time, the Green function is not a function that depends only on the position (with only the position as a parameter) but a function with time as a parameter.

このような事情を考慮して、物体の位置(指の位置)が変化する場合の速度ポテンシャルと音圧を再表記すると、下記の式(4)及び(5)となる。

Figure 2014099073

Figure 2014099073
In consideration of such circumstances, the following expressions (4) and (5) are obtained when the velocity potential and the sound pressure when the position of the object (finger position) changes are re-represented.

Figure 2014099073

Figure 2014099073

電子機器1を操作する際のユーザの指の動きを正弦波とみなすことはできないので、時間に依存するグリーン関数G(R、I、t)における空間座標と時間のパラメータは分離できない。そのため、式(4)及び(5)をこれ以上、簡略化することはできない。なお、以降の説明において、マイクロフォン30が集音する音圧時間波形の変化を音圧時間波形の変調と呼ぶ。   Since the movement of the user's finger when operating the electronic device 1 cannot be regarded as a sine wave, the spatial coordinates and the time parameters in the time-dependent Green function G (R, I, t) cannot be separated. Therefore, equations (4) and (5) cannot be further simplified. In the following description, the change in the sound pressure time waveform collected by the microphone 30 is referred to as the modulation of the sound pressure time waveform.

グリーン関数は、上述のように、時間に依存して変化する。しかしながら、その要因はユーザの指の動きである。スピーカ20から放射される音波の周波数(例えば、20kHz)からみれば、ユーザの指の動きの変化率(あるいは、時間微分)は、非常に小さく、緩やかな変化とみなすことができる。そのため、上記の式(5)における第2項の値は、非常に小さな値となる。その結果、式(5)は式(6)のように近似することができる。

Figure 2014099073
As described above, the Green function changes depending on time. However, the factor is the movement of the user's finger. From the viewpoint of the frequency of sound waves emitted from the speaker 20 (for example, 20 kHz), the change rate (or time derivative) of the movement of the user's finger is very small and can be regarded as a gradual change. Therefore, the value of the second term in the above equation (5) is a very small value. As a result, equation (5) can be approximated as equation (6).

Figure 2014099073

式(6)を参照すると、音圧時間波形の変調とは、時間にも依存する積分因子によるAM変調(振幅変調)とみなすことができる。   Referring to equation (6), the modulation of the sound pressure time waveform can be regarded as AM modulation (amplitude modulation) by an integration factor that also depends on time.

以上説明した物理的条件の下において、所定の位置にユーザが指を置き、その指を動かしたことを、音圧時間波形の変化に基づき特定する。電子機器1では、マイクロフォン30にて変換された電気信号の包絡線を算出し、算出した包絡線により大局的な時間波形の変化、即ち、電気信号の乱れの原因となるグリーン関数G(R、I、t)の変化の有無を検出する。   Based on the change in the sound pressure time waveform, it is determined that the user has placed the finger at a predetermined position and moved the finger under the physical conditions described above. The electronic device 1 calculates the envelope of the electrical signal converted by the microphone 30 and uses the calculated envelope to change the global time waveform, that is, the Green function G (R, The presence or absence of a change in I, t) is detected.

図7は、電子機器1の内部構成の一例を示す図である。電子機器1は、表示デバイス10と、スピーカ20と、マイクロフォン30と、操作デバイス40と、トーン音生成部50と、アンプ60と、AD(Analog To Digital)変換器70と、デジタル信号処理部80と、制御部90と、を含んで構成される。   FIG. 7 is a diagram illustrating an example of the internal configuration of the electronic apparatus 1. The electronic apparatus 1 includes a display device 10, a speaker 20, a microphone 30, an operation device 40, a tone sound generation unit 50, an amplifier 60, an AD (Analog To Digital) converter 70, and a digital signal processing unit 80. And a control unit 90.

電子機器1は、例えば、液晶パネルのような表示デバイス10を備えている。電子機器1は、スピーカ20及びマイクロフォン30を備えている。電子機器1は、例えば、タッチパネルのような操作デバイス40を備えている。トーン音生成部50は、20kHzよりも高い周波数を持つトーン音を生成する。トーン音生成部50が生成したトーン音は、アンプ60により適切な電力に増幅され、スピーカ20により音波として放射される。AD変換器70は、マイクロフォン30が出力するアナログ信号をデジタル信号に変換する。   The electronic apparatus 1 includes a display device 10 such as a liquid crystal panel, for example. The electronic device 1 includes a speaker 20 and a microphone 30. The electronic device 1 includes an operation device 40 such as a touch panel, for example. The tone sound generator 50 generates a tone sound having a frequency higher than 20 kHz. The tone sound generated by the tone sound generation unit 50 is amplified to an appropriate power by the amplifier 60 and radiated as a sound wave by the speaker 20. The AD converter 70 converts an analog signal output from the microphone 30 into a digital signal.

デジタル信号処理部80は、AD変換器70が出力するデジタル信号に対して信号処理を実施することで、ユーザが指を動かしたことに起因する音圧時間波形に基づき、ユーザの操作を特定する論理信号を制御部90に出力する。デジタル信号処理部80が、上述の変化検出部103及び判定部104に相当する。   The digital signal processing unit 80 performs signal processing on the digital signal output from the AD converter 70, thereby specifying the user's operation based on the sound pressure time waveform caused by the user moving his / her finger. A logic signal is output to the control unit 90. The digital signal processing unit 80 corresponds to the change detection unit 103 and the determination unit 104 described above.

制御部90は、図7に示す各部を制御する。また、制御部90は、デジタル信号処理部80が出力する論理信号に従い、操作に応じた機能や動作をユーザに提供する。なお、デジタル信号処理部80や制御部90は、電子機器1に搭載されたコンピュータに、そのハードウェアを用いて、後に詳述する処理を実行させるコンピュータプログラムにより実現することもできる。   The control unit 90 controls each unit shown in FIG. In addition, the control unit 90 provides the user with functions and operations corresponding to the operation according to the logic signal output from the digital signal processing unit 80. Note that the digital signal processing unit 80 and the control unit 90 can also be realized by a computer program that causes a computer mounted on the electronic device 1 to execute processing, which will be described in detail later, using hardware thereof.

図8は、デジタル信号処理部80における信号処理の一例を示す図である。   FIG. 8 is a diagram illustrating an example of signal processing in the digital signal processing unit 80.

デジタル信号処理部80は、AD変換器70により変換されたデジタル信号を入力信号として受け付ける。AD変換器70が出力するデジタル信号には、マイクロフォン30が集音した信号(20kHzのトーン音)の時系列の列ベクトル(S0=(s01、s02、・・・s0m))と、ノイズ成分の時系列の列ベクトル(N0=(n01、n02、・・・n0m))と、が含まれる。但し、mは正の整数とする(以下、同じ)。 The digital signal processing unit 80 receives the digital signal converted by the AD converter 70 as an input signal. The digital signal output from the AD converter 70 includes a time-series column vector (S 0 = (s 0 1, s 0 2,... S 0 m) of the signal (20 kHz tone sound) collected by the microphone 30. )) And a time-series column vector of noise components (N 0 = (n 0 1, n 0 2,... N 0 m)). However, m is a positive integer (hereinafter the same).

バンドパスフィルタ301は、デジタル信号処理部80が受け付けたデジタル信号をフィルタリングする。その結果、所望の周波数を持つ信号(ここでは、20kHzのトーン音)に限り、バンドパスフィルタ301を通過する。   The band pass filter 301 filters the digital signal received by the digital signal processing unit 80. As a result, only a signal having a desired frequency (here, a tone sound of 20 kHz) passes through the bandpass filter 301.

ヒルベルト変換器302は、バンドパスフィルタ301を通過した信号をヒルベルト変換する。なお、バンドパスフィルタ301を通過した信号の列ベクトルを信号列ベクトルSと表記し、ヒルベルト変換された信号列ベクトルをh(S)と表記する。   The Hilbert transformer 302 performs a Hilbert transform on the signal that has passed through the bandpass filter 301. A column vector of the signal that has passed through the bandpass filter 301 is represented as a signal column vector S, and a Hilbert-transformed signal column vector is represented as h (S).

複素解析信号化&標準ノルム計算器303は、バンドパスフィルタ301を通過した信号列ベクトルSと、ヒルベルト変換された信号列ベクトルh(S)と、から複素解析信号を生成する。さらに、複素解析信号化&標準ノルム計算器303は、複素解析信号の標準ノルムを計算する。複素解析信号化&標準ノルム計算器303が生成する複素解析信号は、下記の式(7)により表され、標準ノルムは式(8)により表せる。

Figure 2014099073

Figure 2014099073
The complex analysis signal conversion & standard norm calculator 303 generates a complex analysis signal from the signal sequence vector S that has passed through the bandpass filter 301 and the Hilbert-transformed signal sequence vector h (S). Further, the complex analysis signal conversion & standard norm calculator 303 calculates the standard norm of the complex analysis signal. The complex analytic signal generated by the complex analytic signal conversion & standard norm calculator 303 is expressed by the following equation (7), and the standard norm can be expressed by the equation (8).

Figure 2014099073

Figure 2014099073

なお、S2、h(S)2は列ベクトルの各成分の2乗を計算することにより、生成される列ベクトルである。複素解析信号化&標準ノルム計算器303の出力する標準ノルムが、マイクロフォン30が集音した音波における音圧の包絡線に相当する。 S 2 and h (S) 2 are column vectors generated by calculating the square of each component of the column vector. The standard norm output from the complex analysis signal conversion and standard norm calculator 303 corresponds to the envelope of the sound pressure in the sound wave collected by the microphone 30.

バンドパスフィルタ304は、複素解析信号化&標準ノルム計算器303の出力信号をフィルタリングする。ヒルベルト変換器302を、少ないタップ数のFIR(Finite Impulse Response)フィルタを用いて実現しようとした場合、デジタル信号列ベクトルにおける離散フーリエ変換成分の正負のナイキスト周波数の全域に渡って理想的なヒルベルト変換を行うことが困難である。つまり、位相が±π/2とならない遷移域が生じるため、包絡成分以外にも僅かなトーン音成分(ここでは、20kHz)が含まれてしまう。バンドパスフィルタ304は、このようなトーン音成分を除去する。   The band pass filter 304 filters the output signal of the complex analysis signal conversion & standard norm calculator 303. When the Hilbert transformer 302 is to be realized using an FIR (Finite Impulse Response) filter with a small number of taps, an ideal Hilbert transform is performed over the entire range of positive and negative Nyquist frequencies of the discrete Fourier transform component in the digital signal sequence vector. Is difficult to do. That is, since a transition region in which the phase is not ± π / 2 occurs, a slight tone sound component (here, 20 kHz) is included in addition to the envelope component. The band pass filter 304 removes such tone components.

さらに、バンドパスフィルタ304により、包絡線における直流成分の除去が可能である。バンドパスフィルタ304は、包絡線に限り通過するように、その阻止周波数を決定する。例えば、低周波数側の阻止周波数を10Hz、高周波数側の阻止周波数を30Hzのように設定する。   Furthermore, the band-pass filter 304 can remove a DC component in the envelope. The band-pass filter 304 determines its stop frequency so as to pass only the envelope. For example, the stop frequency on the low frequency side is set to 10 Hz, and the stop frequency on the high frequency side is set to 30 Hz.

ここで、ヒルベルト変換器302からバンドパスフィルタ304により形成される経路を信号処理パスと表記する。一方、バンドストップフィルタ306からノイズ検知器309により形成される経路をノイズ処理パスと表記する。   Here, a path formed by the band pass filter 304 from the Hilbert transformer 302 is referred to as a signal processing path. On the other hand, a path formed by the noise detector 309 from the band stop filter 306 is referred to as a noise processing path.

遅延器305は、信号処理パスとノイズ処理パスのそれぞれから供給される信号のタイミングを調整する。遅延器305は、信号処理パスにより処理される信号と、ノイズ処理パスにより処理される信号と、が同じタイミングで乗算器310に供給されるように、その内部の遅延サンプル数を調整する。   The delay unit 305 adjusts the timing of the signal supplied from each of the signal processing path and the noise processing path. The delay unit 305 adjusts the number of delay samples therein so that the signal processed by the signal processing path and the signal processed by the noise processing path are supplied to the multiplier 310 at the same timing.

上述したように、バンドストップフィルタ306を始点するパスは、ノイズに関する処理を実行するパスである。バンドストップフィルタ306は、バンドパスフィルタ301が取り除くことができないノイズ成分を抽出する。抽出したノイズを、ノイズ成分ベクトルNと表記する。   As described above, the path starting from the band stop filter 306 is a path for executing processing related to noise. The band stop filter 306 extracts a noise component that cannot be removed by the band pass filter 301. The extracted noise is expressed as a noise component vector N.

標準ノルム計算器307は、ノイズ成分ベクトルNの標準ノルム|N|を計算する。ローパスフィルタ308は、標準ノルム計算器307により計算されたノイズ成分ベクトルNの標準ノルム|N|から、音波の包絡成分を除去する。   The standard norm calculator 307 calculates a standard norm | N | of the noise component vector N. The low pass filter 308 removes the envelope component of the sound wave from the standard norm | N | of the noise component vector N calculated by the standard norm calculator 307.

ローパスフィルタ308が、包絡成分を除去した後のノイズ成分をノイズ成分ベクトルNの標準ノルムを標準ノルム|N|lpfとする。ノイズ検知器309は、標準ノルム|N|lpfを受け付ける。ノイズ検知器309は、下記の式(9)に示す処理を実行する。なお、ノイズ検知器309が出力する列ベクトルを列ベクトルWと表記する。

Figure 2014099073
The noise component after the low-pass filter 308 removes the envelope component sets the standard norm of the noise component vector N as the standard norm | N | lpf . Noise detector 309, the standard norm | accepting lpf | N. The noise detector 309 executes processing shown in the following formula (9). Note that a column vector output from the noise detector 309 is referred to as a column vector W.

Figure 2014099073

ノイズ検知器309は、標準ノルム|N|lpfがある閾値nthを超えた場合には、「0」を出力する。ノイズ検知器309は、標準ノルム|N|lpfが閾値nthより小さい場合には、「1」を出力する。ノイズ検知器309は、式(9)に示す処理を標準ノルム|N|lpfのサンプルごとに計算する。 The noise detector 309 outputs “0” when the standard norm | N | lpf exceeds a certain threshold value n th . The noise detector 309 outputs “1” when the standard norm | N | lpf is smaller than the threshold value n th . The noise detector 309 calculates the process shown in Equation (9) for each sample of the standard norm | N | lpf .

乗算器310は、遅延器305の出力とノイズ検知器309の出力を、サンプルごとに乗算演算する。このことは、ノイズ検知器309から「0」が出力されると(ノイズが存在すると)、乗算器310から出力される値は「0」となることを示す。なお、乗算器310の出力する列ベクトルを、列ベクトルXと表記する。   Multiplier 310 multiplies the output of delay unit 305 and the output of noise detector 309 for each sample. This indicates that when “0” is output from the noise detector 309 (when noise is present), the value output from the multiplier 310 is “0”. Note that a column vector output from the multiplier 310 is represented as a column vector X.

乗算器310が出力する信号は、最終的にユーザの操作がなされたか否かを、論理値(0/1)で判定するために、閾値判定手段とローパスフィルタにより矩形波に変換される。より具体的には、ローパスフィルタ311及び313と、波形整形器312及び314と、により矩形波に変換される。波形整形器312は、式(10)に示す処理を実行する。波形整形器314は、式(11)に示す処理を実行する。波形整形器312及び314は、式(10)及び(11)に示す処理をサンプルごとに実行する。なお、波形整形器312の出力する列ベクトルを、列ベクトルYと表記する。波形整形器314の出力する列ベクトルを、列ベクトルZと表記する。

Figure 2014099073
The signal output from the multiplier 310 is converted into a rectangular wave by a threshold value determination unit and a low-pass filter in order to determine by a logical value (0/1) whether or not the user has finally performed an operation. More specifically, it is converted into a rectangular wave by the low-pass filters 311 and 313 and the waveform shapers 312 and 314. The waveform shaper 312 performs the process shown in Expression (10). The waveform shaper 314 executes the process shown in Expression (11). The waveform shapers 312 and 314 execute the processing shown in the equations (10) and (11) for each sample. Note that a column vector output from the waveform shaper 312 is referred to as a column vector Y. A column vector output from the waveform shaper 314 is represented as a column vector Z.

Figure 2014099073

式(10)及び(11)を参照すると、波形整形器312は、列ベクトルXの絶対値と閾値を比較し、比較した結果に基づいて論理値(0/1)を出力することが理解できる。波形整形器314も同様である。また、波形整形器312及び314が使用する閾値を、それぞれ、xth及びythとする。 Referring to equations (10) and (11), it can be understood that the waveform shaper 312 compares the absolute value of the column vector X with a threshold value and outputs a logical value (0/1) based on the comparison result. . The waveform shaper 314 is the same. The threshold values used by the waveform shapers 312 and 314 are x th and y th , respectively.

図9は、マイクロフォン30の出力波形の一例である。図9は、ユーザの指等の物体が、所定の空間内に存在しない場合のマイクロフォン30の出力を示す。なお、所定の空間内とは、例えば、スピーカ20を中心とした直径10cm程度の球体の内部である。   FIG. 9 is an example of the output waveform of the microphone 30. FIG. 9 shows the output of the microphone 30 when an object such as a user's finger is not present in the predetermined space. The predetermined space is, for example, the inside of a sphere having a diameter of about 10 cm with the speaker 20 as the center.

図10は、マイクロフォン30の出力波形の一例を示す図である。図10は、ユーザが、スイッチを押すような動作(所定の空間内にて上から下に押し下げるような指の移動)を行った場合のマイクロフォン30の出力を示す。   FIG. 10 is a diagram illustrating an example of an output waveform of the microphone 30. FIG. 10 shows the output of the microphone 30 when the user performs an operation of pressing a switch (a movement of a finger pressing down from above in a predetermined space).

図9を参照すると、マイクロフォン30の出力波形の包絡線は一定である。一方、図10を参照すると、ユーザの指が動いた時刻T01〜T02の期間に、包絡線の変動が確認できる。   Referring to FIG. 9, the envelope of the output waveform of the microphone 30 is constant. On the other hand, referring to FIG. 10, fluctuations in the envelope can be confirmed during the period from time T01 to T02 when the user's finger moves.

図11は、乗算器310の出力波形の一例を示す図である。図11に示す波形は、図10に示す波形に対応しており、図10と同一の条件で指を動かした場合の乗算器310の出力を示している。なお、各処理ブロックにおける遅延が存在するため、図10と図11の時間軸は一致しない。   FIG. 11 is a diagram illustrating an example of an output waveform of the multiplier 310. The waveform shown in FIG. 11 corresponds to the waveform shown in FIG. 10, and shows the output of the multiplier 310 when the finger is moved under the same conditions as in FIG. Note that because there is a delay in each processing block, the time axes of FIG. 10 and FIG. 11 do not match.

ここで、複素解析信号化&標準ノルム計算器303において、信号列ベクトルSの包絡線が計算されている。また、バンドパスフィルタ304の働きにより、包絡線から直流成分が除去されているため、乗算器310の出力の基準値は「0」である。さらに、図11を参照すると、乗算器310の出力は、縦軸方向において正負の振幅を持つことが分かる。従って、ユーザが指を動かすことで、マイクロフォン30が集音する音波の音圧の変化は、図11に示す乗算器310における波形の上下に相当する。   Here, the envelope of the signal sequence vector S is calculated in the complex analysis signal conversion & standard norm calculator 303. Further, since the direct current component is removed from the envelope by the action of the band pass filter 304, the reference value of the output of the multiplier 310 is “0”. Further, referring to FIG. 11, it can be seen that the output of the multiplier 310 has positive and negative amplitudes in the vertical axis direction. Therefore, when the user moves his / her finger, the change in sound pressure of the sound wave collected by the microphone 30 corresponds to the upper and lower waveforms in the multiplier 310 shown in FIG.

図11において、横軸に平行な一点鎖線は、式(10)における閾値xthを示す。波形整形器312において、乗算器310の出力する列ベクトルXが、閾値xthを超えた場合に論理値「1」が出力される。さらに、ローパスフィルタ311により、乗算器310の出力する列ベクトルXの微少な変動は除去された後に、列ベクトルXは波形整形器312に入力されるので、時刻T01〜T02の期間では論理値「1」の出力が継続する。 In FIG. 11, the alternate long and short dash line parallel to the horizontal axis indicates the threshold value x th in Equation (10). In the waveform shaper 312, when the column vector X output from the multiplier 310 exceeds the threshold value x th , a logical value “1” is output. Further, since the column vector X is input to the waveform shaper 312 after the minute variation of the column vector X output from the multiplier 310 is removed by the low-pass filter 311, the logical value “ The output of “1” continues.

図12は、デジタル信号処理部80の出力波形の一例を示す図である。図12の波形は、ローパスフィルタ313と波形整形器314を経た後の波形である。つまり、デジタル信号処理部80からは、最終的に、矩形波が出力される。このように、ユーザの指が動いた期間に限り、論理値「1」が出力される。   FIG. 12 is a diagram illustrating an example of an output waveform of the digital signal processing unit 80. The waveform in FIG. 12 is a waveform after passing through the low-pass filter 313 and the waveform shaper 314. That is, the digital signal processing unit 80 finally outputs a rectangular wave. Thus, the logical value “1” is output only during the period when the user's finger moves.

制御部90は、デジタル信号処理部80から論理値「1」を受け付ける。制御部90は、受け付けた論理値「1」からユーザの操作を認識し、当該操作に割り振られた処理を実行する。   The control unit 90 receives a logical value “1” from the digital signal processing unit 80. The control unit 90 recognizes a user operation from the received logical value “1”, and executes a process assigned to the operation.

なお、電子機器1は、複数のマイクロフォンを備えていてもよい。そのような場合には、デジタル信号処理部80において、それぞれのマイクロフォンから得られる音波について、包絡線を生成し、ユーザの操作を特定する処理を並列に実行してもよい。   Note that the electronic device 1 may include a plurality of microphones. In such a case, the digital signal processing unit 80 may generate envelopes for sound waves obtained from the respective microphones and execute processing for specifying user operations in parallel.

また、電子機器1では、マイクロフォン30において集音した音波にノイズが含まれる前提に立ってデジタル信号処理部80の構成を説明した。しかし、ノイズ成分を考慮しなくてもよい環境下で電子機器1が使用されるのであれば、デジタル信号処理部80の構成を簡略化することもできる。   In the electronic device 1, the configuration of the digital signal processing unit 80 has been described on the assumption that noise is included in the sound wave collected by the microphone 30. However, if the electronic device 1 is used in an environment where noise components need not be considered, the configuration of the digital signal processing unit 80 can be simplified.

図13は、デジタル信号処理部80における信号処理の別の一例を示す図である。   FIG. 13 is a diagram illustrating another example of signal processing in the digital signal processing unit 80.

ノイズ成分を考慮する必要がなければ、図13に示すように、図8におけるノイズ処理パス(バンドストップフィルタ306〜ノイズ検知器309)と、遅延器305及び乗算器310を削除することができる。さらに、電子機器1が使用される環境によっては、ローパスフィルタ308等を削除することも可能である。   If it is not necessary to consider the noise component, as shown in FIG. 13, the noise processing path (band stop filter 306 to noise detector 309), delay device 305, and multiplier 310 in FIG. 8 can be deleted. Furthermore, depending on the environment in which the electronic device 1 is used, the low-pass filter 308 and the like can be deleted.

あるいは、乗算器310の出力を矩形波にするための波形整形器及びローパスフィルタは、図8に示すように2段に限定されるものではなく、1段であっても3段以上であってもよい(図14参照)。なお、図14は、波形整形器及びローパスフィルタを1段とする場合の一例である。   Alternatively, the waveform shaper and the low-pass filter for making the output of the multiplier 310 a rectangular wave are not limited to two stages as shown in FIG. It is also possible (see FIG. 14). FIG. 14 shows an example in which the waveform shaper and the low-pass filter are one stage.

また、波形整形器312は2つの閾値を持つこともできる。例えば、図15に示すように、波形整形器312は、閾値xth1と、閾値xth1よりも大きな閾値xth2を設けて、下記の式(12)のように、閾値xth2を超える場合には、論理値「2」を出力することもできる。なお、この場合には、波形整形器312の出力ビット数は、2ビット以上とする。

Figure 2014099073
The waveform shaper 312 can also have two threshold values. For example, as shown in FIG. 15, a waveform shaper 312, a threshold x th1, provided a large threshold x th2 than the threshold x th1, as in the following equation (12), when exceeding the threshold value x th2 Can also output a logical value “2”. In this case, the number of output bits of the waveform shaper 312 is 2 bits or more.

Figure 2014099073

次に、電子機器1の動作について説明する。図16は、電子機器1の動作の一例を示すフローチャートである。   Next, the operation of the electronic device 1 will be described. FIG. 16 is a flowchart illustrating an example of the operation of the electronic device 1.

ステップS01において、制御部90は、トーン音生成部50を活性化することで、所定の周波数(例えば、20kHz)を持つトーン音を生成する。生成されたトーン音は、アンプ60及びスピーカ20を介して、空間に音波として放射される。   In step S01, the control unit 90 activates the tone sound generation unit 50 to generate a tone sound having a predetermined frequency (for example, 20 kHz). The generated tone sound is radiated as a sound wave to the space via the amplifier 60 and the speaker 20.

ステップS02において、マイクロフォン30は、スピーカ20が放射した音波を集音する。マイクロフォン30が集音した音波は、AD変換器70を介してデジタル信号処理部80に出力される。   In step S02, the microphone 30 collects the sound wave emitted from the speaker 20. Sound waves collected by the microphone 30 are output to the digital signal processing unit 80 via the AD converter 70.

ステップS03において、デジタル信号処理部80は、マイクロフォン30が集音した音波における音圧の変化を検出する。より具体的には、デジタル信号処理部80は、音圧の包絡線における変化を検出する。   In step S03, the digital signal processing unit 80 detects a change in sound pressure in the sound wave collected by the microphone 30. More specifically, the digital signal processing unit 80 detects a change in the sound pressure envelope.

ステップS04において、デジタル信号処理部80は、音圧の変化に基づいて、電子機器1を基準とした所定の範囲内における物体(例えば、ユーザの指)の移動の有無を判定する。   In step S04, the digital signal processing unit 80 determines whether or not an object (for example, a user's finger) has moved within a predetermined range based on the electronic device 1 based on a change in sound pressure.

ステップS05において、制御部90は、デジタル信号処理部80が出力する論理信号(0/1)に基づいて、ユーザの操作を特定する。さらに、制御部90は、特定された操作に応じた処理を実行する。   In step S05, the control unit 90 specifies a user operation based on the logical signal (0/1) output from the digital signal processing unit 80. Furthermore, the control unit 90 executes processing according to the specified operation.

電子機器1には、例えば、携帯電話、スマートフォン、ゲーム機、タブレットPC(Personal Computer)、ノートPC、PDA(Personal Data Assistants:携帯情報端末)等が考えられる。   Examples of the electronic device 1 include a mobile phone, a smartphone, a game machine, a tablet PC (Personal Computer), a notebook PC, and a PDA (Personal Data Assistants).

電子機器1では、その筐体に固定されたスピーカ20とマイクロフォン30を使用して、ユーザの操作を特定する。スピーカ20から所定の周波数(例えば、20kHz)を持つ音波を放射している場合、マイクロフォン30は定常的な音波の検出を行う(マイクロフォン30が検出する音圧に乱れはない)。しかし、このような状況下において、スピーカ20やマイクロフォン30の周辺における空間の変化(電子機器1に対する物体の近接等)が生じると、マイクロフォン30が集音する音波に変化が生じる。電子機器1では、このような音波の音圧の変化を、電子機器1を操作するための操作手段(指やスタイラス等)の移動の検出に用いる。その際、スピーカ20から放射された音波が反射に要する時間や反射に伴う周波数の相違等を使用せず、音圧の包絡線(音の強さの包絡線)の変化を利用する。   In the electronic device 1, the user's operation is specified using the speaker 20 and the microphone 30 fixed to the casing. When a sound wave having a predetermined frequency (for example, 20 kHz) is emitted from the speaker 20, the microphone 30 detects a steady sound wave (the sound pressure detected by the microphone 30 is not disturbed). However, under such circumstances, when a change in the space around the speaker 20 or the microphone 30 (such as the proximity of an object to the electronic device 1) occurs, the sound wave collected by the microphone 30 changes. In the electronic device 1, such a change in the sound pressure of the sound wave is used to detect movement of an operation unit (such as a finger or a stylus) for operating the electronic device 1. At that time, a change in sound pressure envelope (sound intensity envelope) is used without using the time required for reflection of the sound wave radiated from the speaker 20 or the difference in frequency associated with the reflection.

以上のように、音圧の包絡線の変化を利用して電子機器1を操作するユーザインターフェイスを提供する。音圧の包絡線の変換を使用しているため、タッチパネルによる操作に対応したアイコン等を表示デバイス10に表示させる必要がない。また、タッチパネルによる操作と同時に電子機器1を操作することも可能である。さらにまた、スピーカ20やマイクロフォン30は、高い周波数を扱うため、その実装面積が大きくなることもない(小型のスピーカ等を使用すればよい)。従って、本ユーザインターフェイスを実現するにあたり必要な実装面積を小さくすることができる。   As described above, the user interface for operating the electronic device 1 using the change in the envelope of the sound pressure is provided. Since the conversion of the sound pressure envelope is used, it is not necessary to display an icon or the like corresponding to the operation by the touch panel on the display device 10. Moreover, it is also possible to operate the electronic device 1 simultaneously with the operation using the touch panel. Furthermore, since the speaker 20 and the microphone 30 handle high frequencies, their mounting area does not increase (a small speaker or the like may be used). Therefore, it is possible to reduce the mounting area required for realizing the user interface.

上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。   A part or all of the above embodiments can be described as in the following supplementary notes, but is not limited thereto.

[付記1]
上述の第1の視点に係る電子機器のとおりである。
[付記2]
前記変化検出部は、前記音圧の包絡線における変化を検出する付記1の電子機器。
[付記3]
前記変化検出部は、前記音波検出部が検出する音波から生成された信号成分に対して、ヒルベルト変換を行うと共に、前記ヒルベルト変換された信号成分の標準ノルムを計算することで、前記包絡線を生成する付記2の電子機器。
[付記4]
前記変化検出部は、前記包絡線に対して、バンドパスフィルタを適用する付記2又は3の電子機器。
[付記5]
前記変化検出部は、前記音波検出部が検出する音波から抽出されたノイズ成分であって、0を中心に振動するノイズ成分と、前記包絡線の振幅と、を乗算演算する付記2乃至4のいずれか一に記載の電子機器。
[付記6]
前記判定部は、前記包絡線の振幅と、予め定めた閾値と、を比較することで、前記物体の移動の有無を規定する論理信号を出力する付記2乃至5のいずれか一に記載の電子機器。
[付記7]
前記音波発生部は、可聴帯域よりも高い周波数を持つ音波を空間に放射する付記1乃至6のいずれか一に記載の電子機器。
[付記8]
前記論理信号に基づいて、ユーザの操作を特定し、前記特定された操作に応じた処理を実行する制御部を備える付記6又は7の電子機器。
[付記9]
上述の第2の視点に係る電子機器の制御方法のとおりである。
[付記10]
前記音圧の変化を検出する工程は、前記音圧の包絡線における変化を検出する付記9の電子機器の制御方法。
[付記11]
前記音圧の変化を検出する工程は、前記音波検出部が検出する音波から生成された信号成分に対して、ヒルベルト変換を行うと共に、前記ヒルベルト変換された信号成分の標準ノルムを計算することで、前記包絡線を生成する付記10の電子機器の制御方法。
[付記12]
前記音圧の変化を検出する工程は、前記包絡線に対して、バンドパスフィルタを適用する付記10又は11の電子機器の制御方法。
[付記13]
前記音圧の変化を検出する工程は、前記音波検出部が検出する音波から抽出されたノイズ成分であって、0を中心に振動するノイズ成分と、前記包絡線の振幅と、を乗算演算する付記10乃至12のいずれか一に記載の電子機器の制御方法。
[付記14]
前記物体の移動の有無を判定する工程は、前記包絡線の振幅と、予め定めた閾値と、を比較することで、前記物体の移動の有無を規定する論理信号を出力する付記10乃至13のいずれか一に記載の電子機器の制御方法。
[付記15]
上記第3の視点に係るプログラムのとおりである。
[付記16]
前記音圧の変化を検出する処理は、前記音圧の包絡線における変化を検出する付記15のプログラム。
[付記17]
前記音圧の変化を検出する処理は、前記音波検出部が検出する音波から生成された信号成分に対して、ヒルベルト変換を行うと共に、前記ヒルベルト変換された信号成分の標準ノルムを計算することで、前記包絡線を生成する付記16のプログラム。
[付記18]
前記音圧の変化を検出する処理は、前記包絡線に対して、バンドパスフィルタを適用する付記16又は17のプログラム。
[付記19]
前記音圧の変化を検出する処理は、前記音波検出部が検出する音波から抽出されたノイズ成分であって、0を中心に振動するノイズ成分と、前記包絡線の振幅と、を乗算演算する付記16乃至18のいずれか一に記載のプログラム。
[付記20]
前記物体の移動の有無を判定する処理は、前記包絡線の振幅と、予め定めた閾値と、を比較することで、前記物体の移動の有無を規定する論理信号を出力する付記16乃至19のいずれか一に記載のプログラム。
[Appendix 1]
It is as the electronic device which concerns on the above-mentioned 1st viewpoint.
[Appendix 2]
The electronic device according to appendix 1, wherein the change detection unit detects a change in an envelope of the sound pressure.
[Appendix 3]
The change detection unit performs a Hilbert transform on a signal component generated from the sound wave detected by the sound wave detection unit, and calculates a standard norm of the signal component subjected to the Hilbert transform, thereby calculating the envelope. The electronic device of appendix 2 to be generated.
[Appendix 4]
The electronic device according to appendix 2 or 3, wherein the change detection unit applies a band-pass filter to the envelope.
[Appendix 5]
The change detector is a noise component extracted from the sound wave detected by the sound wave detector, and multiplies the noise component that vibrates around 0 by the amplitude of the envelope. The electronic device as described in any one.
[Appendix 6]
The electronic device according to any one of appendices 2 to 5, wherein the determination unit outputs a logic signal that defines the presence or absence of the movement of the object by comparing the amplitude of the envelope with a predetermined threshold value. machine.
[Appendix 7]
The electronic device according to any one of appendices 1 to 6, wherein the sound wave generation unit radiates sound waves having a frequency higher than an audible band to a space.
[Appendix 8]
The electronic device according to appendix 6 or 7, further comprising a control unit that identifies a user operation based on the logic signal and executes a process according to the identified operation.
[Appendix 9]
It is as the control method of the electronic device which concerns on the above-mentioned 2nd viewpoint.
[Appendix 10]
The electronic device control method according to appendix 9, wherein the step of detecting a change in sound pressure detects a change in an envelope of the sound pressure.
[Appendix 11]
The step of detecting the change in the sound pressure is performed by performing a Hilbert transform on a signal component generated from the sound wave detected by the sound wave detection unit and calculating a standard norm of the signal component after the Hilbert transform. The method of controlling an electronic device according to appendix 10, wherein the envelope is generated.
[Appendix 12]
The method of detecting an electronic device according to appendix 10 or 11, wherein the step of detecting a change in the sound pressure applies a band-pass filter to the envelope.
[Appendix 13]
The step of detecting a change in the sound pressure is a noise component extracted from the sound wave detected by the sound wave detection unit, and a noise component that vibrates around 0 and the amplitude of the envelope are multiplied. The method for controlling an electronic device according to any one of appendices 10 to 12.
[Appendix 14]
The step of determining whether or not the object has moved includes outputting a logic signal that specifies whether or not the object has moved by comparing the amplitude of the envelope with a predetermined threshold value. The control method of the electronic device as described in any one.
[Appendix 15]
The program is related to the third viewpoint.
[Appendix 16]
The program according to appendix 15, wherein the process of detecting a change in the sound pressure detects a change in an envelope of the sound pressure.
[Appendix 17]
The process of detecting the change in the sound pressure is performed by performing a Hilbert transform on the signal component generated from the sound wave detected by the sound wave detecting unit and calculating a standard norm of the signal component that has been subjected to the Hilbert transform. The program of appendix 16, which generates the envelope.
[Appendix 18]
The program according to appendix 16 or 17, wherein the process of detecting a change in the sound pressure applies a band-pass filter to the envelope.
[Appendix 19]
The process of detecting a change in sound pressure is a noise component extracted from the sound wave detected by the sound wave detection unit, and a noise component that vibrates around 0 and the amplitude of the envelope are multiplied. The program according to any one of supplementary notes 16 to 18.
[Appendix 20]
The process of determining whether or not the object has moved includes outputting a logic signal that specifies whether or not the object has moved by comparing the amplitude of the envelope with a predetermined threshold value. The program as described in any one.

なお、引用した上記の特許文献等の各開示は、本書に引用をもって繰り込むものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態ないし実施例の変更・調整が可能である。また、本発明の請求の範囲の枠内において種々の開示要素(各請求項の各要素、各実施形態ないし実施例の各要素、各図面の各要素等を含む)の多様な組み合わせ、ないし、選択が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。   Each disclosure of the cited patent documents and the like cited above is incorporated herein by reference. Within the scope of the entire disclosure (including claims) of the present invention, the embodiments and examples can be changed and adjusted based on the basic technical concept. Various disclosed elements (including each element of each claim, each element of each embodiment or example, each element of each drawing, etc.) within the scope of the claims of the present invention, Selection is possible. That is, the present invention of course includes various variations and modifications that could be made by those skilled in the art according to the entire disclosure including the claims and the technical idea. In particular, with respect to the numerical ranges described in this document, any numerical value or small range included in the range should be construed as being specifically described even if there is no specific description.

1、100 電子機器
10 表示デバイス
20 スピーカ
30 マイクロフォン
40 操作デバイス
50 トーン音生成部
60 アンプ
70 AD変換器
80 デジタル信号処理部
90 制御部
101 音波発生部
102 音波検出部
103 変化検出部
104 判定部
200 ホームポジション
201、202 電子機器1の一面
203、204 物体
301、304 バンドパスフィルタ
302 ヒルベルト変換器
303 複素解析信号化&標準ノルム計算器
305 遅延器
306 バンドストップフィルタ
307 標準ノルム計算器
308、311、313 ローパスフィルタ
309 ノイズ検知器
310 乗算器
312、314 波形整形器
DESCRIPTION OF SYMBOLS 1,100 Electronic device 10 Display device 20 Speaker 30 Microphone 40 Operation device 50 Tone sound generation part 60 Amplifier 70 AD converter 80 Digital signal processing part 90 Control part 101 Sound wave generation part 102 Sound wave detection part 103 Change detection part 104 Determination part 200 Home position 201, 202 One side 203, 204 of electronic device 1 Object 301, 304 Band pass filter 302 Hilbert transformer 303 Complex analysis signalization & standard norm calculator 305 Delay unit 306 Band stop filter 307 Standard norm calculator 308, 311 313 Low-pass filter 309 Noise detector 310 Multipliers 312, 314 Wave shape shaper

Claims (10)

所定の周波数を持つ音波を空間に放射する音波発生部と、
前記放射された音波を検出する音波検出部と、
前記音波検出部が検出する音波の音圧の変化を検出する変化検出部と、
前記音圧の変化に基づき、所定の範囲内における物体の移動の有無を判定する判定部と、
を備えることを特徴とする電子機器。
A sound wave generator that radiates sound waves having a predetermined frequency to the space;
A sound wave detector for detecting the emitted sound wave;
A change detection unit for detecting a change in sound pressure of the sound wave detected by the sound wave detection unit;
A determination unit that determines the presence or absence of movement of an object within a predetermined range based on the change in the sound pressure;
An electronic device comprising:
前記変化検出部は、前記音圧の包絡線における変化を検出する請求項1の電子機器。   The electronic device according to claim 1, wherein the change detection unit detects a change in an envelope of the sound pressure. 前記変化検出部は、前記音波検出部が検出する音波から生成された信号成分に対して、ヒルベルト変換を行うと共に、前記ヒルベルト変換された信号成分の標準ノルムを計算することで、前記包絡線を生成する請求項2の電子機器。   The change detection unit performs a Hilbert transform on a signal component generated from the sound wave detected by the sound wave detection unit, and calculates a standard norm of the signal component subjected to the Hilbert transform, thereby calculating the envelope. The electronic device according to claim 2 to be generated. 前記変化検出部は、前記包絡線に対して、バンドパスフィルタを適用する請求項2又は3の電子機器。   The electronic device according to claim 2, wherein the change detection unit applies a bandpass filter to the envelope. 前記変化検出部は、前記音波検出部が検出する音波から抽出されたノイズ成分であって、0を中心に振動するノイズ成分と、前記包絡線の振幅と、を乗算演算する請求項2乃至4のいずれか一項に記載の電子機器。   5. The change detection unit multiplies a noise component that is extracted from a sound wave detected by the sound wave detection unit and vibrates around 0 by an amplitude of the envelope. 5. The electronic device as described in any one of. 前記判定部は、前記包絡線の振幅と、予め定めた閾値と、を比較することで、前記物体の移動の有無を規定する論理信号を出力する請求項2乃至5のいずれか一項に記載の電子機器。   The said determination part outputs the logic signal which prescribes | regulates the presence or absence of the movement of the said object by comparing the amplitude of the said envelope, and a predetermined threshold value. Electronic equipment. 前記音波発生部は、可聴帯域よりも高い周波数を持つ音波を空間に放射する請求項1乃至6のいずれか一項に記載の電子機器。   The electronic device according to claim 1, wherein the sound wave generation unit radiates sound waves having a frequency higher than an audible band to a space. 前記論理信号に基づいて、ユーザの操作を特定し、前記特定された操作に応じた処理を実行する制御部を備える請求項6又は7の電子機器。   8. The electronic apparatus according to claim 6, further comprising a control unit that specifies a user operation based on the logic signal and executes a process according to the specified operation. 所定の周波数を持つ音波を空間に放射する音波発生部と、
前記放射された音波を検出する音波検出部と、
を備える電子機器の制御方法であって、
前記音波検出部が検出する音波の音圧の変化を検出する工程と、
前記音圧の変化に基づき、所定の範囲内における物体の移動の有無を判定する工程と、
を含むことを特徴とする電子機器の制御方法。
A sound wave generator that radiates sound waves having a predetermined frequency to the space;
A sound wave detector for detecting the emitted sound wave;
An electronic device control method comprising:
Detecting a change in sound pressure of sound waves detected by the sound wave detection unit;
Determining the presence or absence of movement of an object within a predetermined range based on the change in the sound pressure;
A method for controlling an electronic device, comprising:
所定の周波数を持つ音波を空間に放射する音波発生部と、
前記放射された音波を検出する音波検出部と、
を備える電子機器を制御するコンピュータに実行させるプログラムであって、
前記音波検出部が検出する音波の音圧の変化を検出する処理と、
前記音圧の変化に基づき、所定の範囲内における物体の移動の有無を判定する処理と、
を実行するプログラム。
A sound wave generator that radiates sound waves having a predetermined frequency to the space;
A sound wave detector for detecting the emitted sound wave;
A program for causing a computer to control an electronic device comprising:
A process of detecting a change in sound pressure of a sound wave detected by the sound wave detection unit;
A process of determining the presence or absence of movement of an object within a predetermined range based on the change in the sound pressure;
A program that executes.
JP2012250886A 2012-11-15 2012-11-15 Electronic apparatus, control method of the same, and program Pending JP2014099073A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012250886A JP2014099073A (en) 2012-11-15 2012-11-15 Electronic apparatus, control method of the same, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012250886A JP2014099073A (en) 2012-11-15 2012-11-15 Electronic apparatus, control method of the same, and program

Publications (1)

Publication Number Publication Date
JP2014099073A true JP2014099073A (en) 2014-05-29

Family

ID=50941028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012250886A Pending JP2014099073A (en) 2012-11-15 2012-11-15 Electronic apparatus, control method of the same, and program

Country Status (1)

Country Link
JP (1) JP2014099073A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104850279A (en) * 2015-05-29 2015-08-19 京东方科技集团股份有限公司 Sound-wave touch control device and electronic device
CN108234767A (en) * 2017-12-29 2018-06-29 努比亚技术有限公司 Control method, mobile terminal and the computer readable storage medium of screen state

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104850279A (en) * 2015-05-29 2015-08-19 京东方科技集团股份有限公司 Sound-wave touch control device and electronic device
US10248263B2 (en) 2015-05-29 2019-04-02 Boe Technology Group Co., Ltd. Acoustic wave touch device and electronic apparatus
CN108234767A (en) * 2017-12-29 2018-06-29 努比亚技术有限公司 Control method, mobile terminal and the computer readable storage medium of screen state
CN108234767B (en) * 2017-12-29 2021-07-23 努比亚技术有限公司 Control method of screen state, mobile terminal and computer readable storage medium

Similar Documents

Publication Publication Date Title
CN106708254B (en) Detector
KR101678549B1 (en) Method and apparatus for providing user interface using surface acoustic signal, and device with the user interface
US11137841B2 (en) Devices and methods for determining relative motion
JP6195843B2 (en) Gesture control voice user interface
US11175698B2 (en) Methods and systems for processing touch inputs based on touch type and touch intensity
US20140119569A1 (en) Reduction of Haptic Noise Feedback in System
KR101654008B1 (en) Mobile device using acoustic signal processing and acoustic signal processing method performed by the mobile device
KR20150028725A (en) Systems and methods for generating haptic effects associated with an envelope in audio signals
CN109074221B (en) Selective attenuation of sound for display devices
US10564740B2 (en) Pen device—panel interaction based on electromagnetic signals output by the pen device
US10551973B2 (en) Method of controlling a mobile device
JPWO2011115035A1 (en) Input device, input method, and program
US20220350481A1 (en) Touch control surfaces for electronic user devices and related methods
JP2014099073A (en) Electronic apparatus, control method of the same, and program
CN109753862B (en) Sound recognition device and method for controlling electronic device
CN110321020A (en) A kind of piezo-electric sensor signals noise remove method and device
CN105094290B (en) Control method in electronic equipment and the electronic equipment
CN107808655B (en) Audio signal processing method, audio signal processing device, electronic equipment and storage medium
KR101551030B1 (en) Input pad and controlling method thereof
WO2023125534A1 (en) Input detection apparatus, system, and related device thereof
KR101614844B1 (en) System and method for things touch detection
CN117806518A (en) Touch-derived sound profile sensing systems and methods