JP2020024684A - ヒューマンコンピュータインタラクション方法、装置、端末とコンピュータ可読記憶媒体 - Google Patents

ヒューマンコンピュータインタラクション方法、装置、端末とコンピュータ可読記憶媒体 Download PDF

Info

Publication number
JP2020024684A
JP2020024684A JP2019128999A JP2019128999A JP2020024684A JP 2020024684 A JP2020024684 A JP 2020024684A JP 2019128999 A JP2019128999 A JP 2019128999A JP 2019128999 A JP2019128999 A JP 2019128999A JP 2020024684 A JP2020024684 A JP 2020024684A
Authority
JP
Japan
Prior art keywords
response
control signal
sensor
interaction information
human
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019128999A
Other languages
English (en)
Other versions
JP6856712B2 (ja
Inventor
雪麗 高
Xueli Gao
雪麗 高
祥 丁
Xiang Ding
祥 丁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
AAC Technologies Pte Ltd
Original Assignee
AAC Technologies Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by AAC Technologies Pte Ltd filed Critical AAC Technologies Pte Ltd
Publication of JP2020024684A publication Critical patent/JP2020024684A/ja
Application granted granted Critical
Publication of JP6856712B2 publication Critical patent/JP6856712B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K17/00Electronic switching or gating, i.e. not by contact-making and –breaking
    • H03K17/94Electronic switching or gating, i.e. not by contact-making and –breaking characterised by the way in which the control signals are generated
    • H03K17/96Touch switches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01HELECTRIC SWITCHES; RELAYS; SELECTORS; EMERGENCY PROTECTIVE DEVICES
    • H01H13/00Switches having rectilinearly-movable operating part or parts adapted for pushing or pulling in one direction only, e.g. push-button switch
    • H01H13/70Switches having rectilinearly-movable operating part or parts adapted for pushing or pulling in one direction only, e.g. push-button switch having a plurality of operating members associated with different sets of contacts, e.g. keyboard
    • H01H13/84Switches having rectilinearly-movable operating part or parts adapted for pushing or pulling in one direction only, e.g. push-button switch having a plurality of operating members associated with different sets of contacts, e.g. keyboard characterised by ergonomic functions, e.g. for miniature keyboards; characterised by operational sensory functions, e.g. sound feedback
    • H01H13/85Switches having rectilinearly-movable operating part or parts adapted for pushing or pulling in one direction only, e.g. push-button switch having a plurality of operating members associated with different sets of contacts, e.g. keyboard characterised by ergonomic functions, e.g. for miniature keyboards; characterised by operational sensory functions, e.g. sound feedback characterised by tactile feedback features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/013Force feedback applied to a game
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01HELECTRIC SWITCHES; RELAYS; SELECTORS; EMERGENCY PROTECTIVE DEVICES
    • H01H2215/00Tactile feedback
    • H01H2215/044Light
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01HELECTRIC SWITCHES; RELAYS; SELECTORS; EMERGENCY PROTECTIVE DEVICES
    • H01H2215/00Tactile feedback
    • H01H2215/05Tactile feedback electromechanical
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K2217/00Indexing scheme related to electronic switching or gating, i.e. not by contact-making or -breaking covered by H03K17/00
    • H03K2217/94Indexing scheme related to electronic switching or gating, i.e. not by contact-making or -breaking covered by H03K17/00 characterised by the way in which the control signal is generated
    • H03K2217/96Touch switches
    • H03K2217/96042Touch switches with illumination
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K2217/00Indexing scheme related to electronic switching or gating, i.e. not by contact-making or -breaking covered by H03K17/00
    • H03K2217/94Indexing scheme related to electronic switching or gating, i.e. not by contact-making or -breaking covered by H03K17/00 characterised by the way in which the control signal is generated
    • H03K2217/96Touch switches
    • H03K2217/96062Touch switches with tactile or haptic feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】本発明は電子技術分野に関し、ヒューマンコンピュータインタラクション方法、装置、端末とコンピュータ可読記憶媒体を提供する。【解決手段】上記方法はタッチでインタラクション情報を取得するセンサを含むセンサで取得されたユーザのインタラクション情報を受信し、触覚応答制御信号と視覚応答制御信号とを含む、インタラクション情報に対応する応答制御信号を特定し、触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成し、触覚と視覚応答レスポンスは触覚を刺激するレスポンス動作と視認可能なレスポンス動作を夫々ユーザに提供するために用いられる。これにより、端末がユーザから入力されたインタラクション情報に応じて直ちにユーザにフィードバック可能であり、ヒューマンコンピュータインタラクションの効率が向上し、使用体験が改善される。【選択図】図1

Description

本発明の実施例は、電子技術分野に関し、特に、ヒューマンコンピュータインタラクション方法、装置、端末及びコンピュータ可読記憶媒体に関する。
科学技術の継続的な発展に伴い、現在ユーザは一般的に入力デバイス(たとえば、キーボード、タッチスクリーンなど)を介して端末とのヒューマンコンピュータインタラクション操作を実行している。端末におけるプロセッサは、キーボード、タッチスクリーンなどのデバイスを介してユーザのインタラクション情報を取得し、当該インタラクション情報に基づいて、該当するレスポンスを行うことによって、ユーザとのヒューマンコンピュータインタラクション操作を完成する。
発明者は、従来技術に少なくとも以下のような問題が存在することを見つけた。すなわち、現在、ユーザは、一般的にタッチの方式によって端末にインタラクション情報を入力している。ユーザは、インタラクション情報を入力した後、端末による当該インタラクション情報に対する処理速度が遅いと、ユーザは端末からのレスポンスを長時間受信できなくなり、すると、ユーザが端末によってインタラクション情報が受信されなかったと誤って見なして端末にインタラクション情報を複数回繰り替えして入力する場合が発生し、入力されたインタラクション情報が増加するにつれて、端末が入力されたインタラクション情報を処理する時間が大幅に増加し、ユーザの体験に深刻な影響を及ぼすことになる。同時に、ユーザによって入力されたインタラクション情報に対する端末のレスポンスが相対的に単純であるので、ユーザはインタラクション情報を受信した端末のレスポンスを直ちに取得できず、ユーザの体験に影響を及ぼすことになる。
本発明の実施形態の目的は、端末が、ユーザによって入力されたインタラクション情報にしたがって直ちにユーザにフィードバックするようにして、ヒューマンコンピュータインタラクションの効率を向上させ、端末に対するユーザの使用体験を改善するための、ヒューマンコンピュータインタラクション方法、装置、端末、及びコンピュータ可読記憶媒体を提供する。
本発明の実施形態は、上記技術問題を解決するために、ヒューマンコンピュータインタラクション方法を提供する。上記方法は、端末に用いられる。上記方法は、タッチ方式でインタラクション情報を取得するセンサを含むセンサによって取得されたユーザのインタラクション情報を受信するステップと、当該インタラクション情報に対応する、触覚応答制御信号と視覚応答制御信号とを含む応答制御信号を特定するステップと、当該触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成するステップと、を含み、触覚応答レスポンスは、触覚を刺激するレスポンス動作をユーザに提供するために用いられ、視覚応答レスポンスは、視認可能なレスポンス動作をユーザに提供するために用いられる。
本発明の実施形態は、ヒューマンコンピュータインタラクション装置をさらに提供する。当該ヒューマンコンピュータインタラクション装置は、受信装置と特定装置と応答レスポンス生成装置とを備え、受信装置は、センサによって取得されたユーザのインタラクション情報を受信し、当該センサは、タッチ方式によってインタラクション情報を取得するセンサを含み、特定装置は、インタラクション情報に対応する応答制御信号を特定し、応答制御信号は、触覚応答制御信号と視覚応答制御信号とを含み、応答レスポンス生成装置は、触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成し、触覚応答レスポンスは、触覚を刺激するレスポンス動作をユーザに提供するために用いられ、視覚応答レスポンスは、視認可能なレスポンス動作をユーザに提供するために用いられる。
本発明の実施形態は、端末をさらに提供し、上記端末は、少なくとも一つのプロセッサと、少なくとも一つのプロセッサに通信接続されるメモリと、を備え、メモリには、少なくとも一つのプロセッサで実行可能な命令が記憶され、命令が少なくとも一つのプロセッサで実行されることにより、少なくとも一つのプロセッサが上記ヒューマンコンピュータインタラクション方法を実施可能である。
本発明の実施形態は、コンピュータプログラムが記憶されるコンピュータ可読記憶媒体をさらに提供し、コンピュータプログラムがプロセッサによって実行されるとき、上記ヒューマンコンピュータインタラクション方法が実施される。
本発明の実施形態によると、従来技術と比較すると、センサがタッチ方式によってインタラクション情報を取得するため、ユーザのインタラクション情報を取得する速度が速くなると同時に、端末がインタラクション情報にのみ基づいて対応する応答制御信号を特定可能であり、インタラクション情報に対応する応答レスポンスを生成することができるため、ユーザが長時間レスポンスを得ることができなくてインタラクション情報を複数回繰り返して入力する場合が回避され、ユーザの使用の満足度が向上する。また、インタラクション情報に対応する応答レスポンスが触覚と視覚とを組み合わせたレスポンス動作であるため、ユーザが単純なレスポンスに気付かなくて応答レスポンスを無視してしまう場合が回避され、ユーザがインタラクション情報の応答レスポンスを直ちに発見可能であり、ユーザの使用体験が向上する。
さらに、触覚応答レスポンスは、振動を含み、視覚応答レスポンスは、可視光の放射を含む。本実施形態は、振動を採用して触覚応答レスポンスを実現し、可視光放射の方式によって視覚応答レスポンスを実現するため、実現方式が??であり、また、ユーザが振動と光とに敏感であり、ユーザが応答レスポンスを発見する確率を向上させる。
さらに、センサによって取得されたユーザのインタラクション情報を受信するステップの前に、ヒューマンコンピュータインタラクション方法は、インタラクション情報と応答制御信号との間の対応関係を予め記憶するステップをさらに含む。本実施形態によると、対応関係を予め記憶するため、インタラクション情報に対応する応答制御信号を迅速かつ正確に特定することができ、応答レスポンスの速度を高速化することができる。
さらに、インタラクション情報に対応する応答制御信号を特定するステップは、具体的に、インタラクション情報に対応する応答制御信号を対応関係から検索し、検索できた場合に、検索された応答制御信号を取得し、検索できなかった場合に、デフォルトの応答制御信号を採用するステップを含む。本実施形態によると、インタラクション情報に対応する応答制御信号を対応関係から検索できたか否かに関わらず、対応する応答制御信号があるため、インタラクション情報に対応する応答制御信号が対応関係にないことによってレスポンスを行わない場合は回避される。
さらに、可視光の放射は、少なくとも一つの光源によるレスポンスで実施される。本実施形態によると、複数の光源が発光する方式を採用するため、発光レスポンスの多様性を提供し、視覚応答レスポンスの柔軟性を強化する。
さらに、タッチ方式は、押圧、タッチ、または、タップを含む。本実施形態によると、複数種のタッチ操作を提供する。
さらに、センサは、温度センサと光センサと湿度センサとの1つまたは複数の組み合わせをさらに含み、センサが温度センサを含む場合に、温度センサによって取得された温度値は、タッチ方式で取得されたインタラクション情報によって生成された触覚応答レスポンスの強度に比例し、センサが光センサを含む場合に、光センサによって取得された光強度値は、タッチ方式で取得されたインタラクション情報によって生成された視覚応答レスポンスの強度に比例し、センサが湿度センサを含む場合に、湿度センサによって取得された湿度値が所定値に達すると、視覚応答レスポンスには湿度値を反映させるための視覚レスポンスがさらに含まれる。本実施形態によると、組み合わせ可能なセンサのタイプをさらに提供するため、異なるセンサによって取得されたデータに基づいて、異なるレスポンス強度またはタイプを提供するため、レスポンスに対するユーザの識別度を強化する。
1つまたは複数の実施例は、それに対応する添付の図面おけるピクチャによって例示的に説明され、これら例示的な説明は実施例に対する限定を構成しなく、図面中で同一の符号を有する要素は、類似する要素を示し、特記しない限り、縮尺の限定を構成しない。
本発明の第1の実施形態に係るヒューマンコンピュータインタラクション方法の具体的な流れを示す模式図である。 本発明の第2の実施形態に係るヒューマンコンピュータインタラクション方法の具体的な流れを示す模式図である。 本発明の第3の実施形態に係るヒューマンコンピュータインタラクション装置の具体的な構成を示す模式図である。 本発明の第4の実施形態に係る端末の具体的な構成を示す模式図である。
以下、本発明の実施例の目的、解決手段及び利点がより明瞭になるように、図面を参照して本発明の各実施形態を詳細に説明する。しかしながら、本発明の各実施形態において、読者に本発明のより良い理解を与えるためにいくつかの技術的細部を提示したことを、当業者は理解すべきである。しかし、これら技術的細部、および、以下の各実施形態に基づくいろんな変化および修正がなくても、本発明が保護請求する解決手段を実現することができる。
本発明の第1の実施形態は、ヒューマンコンピュータインタラクション方法に関し、当該ヒューマンコンピュータインタラクション方法は、端末に応用され、たとえば、スマートフォン、スマートタブレット、スマート車載デバイスなどに応用され、当該ヒューマンコンピュータインタラクション方法の具体的な流れは、たとえば、図1に示される。
ステップ101において、センサによって取得されたユーザのインタラクション情報を受信し、当該センサは、タッチ方式によってインタラクション情報を取得するセンサを含む。
具体的に言えば、端末は、センサを介してユーザのインタラクション情報を取得し、センサは、タッチ方式によってインタラクション情報を取得するセンサを含み、たとえば、タッチセンサ、押圧センサなどを含む。センサによって取得されたユーザのタッチ動作が、ユーザのインタラクション情報であり、たとえば、センサがタッチセンサであると想定する場合、センサによって取得されたユーザのタッチ持続時間が2秒であると、ユーザのインタラクション情報は「タッチ持続時間2S」である。
当然ながら、本実施形態において、タッチ方式は、押圧、タッチまたはタップであってもよい。当然のことながら、センサは、ユーザが固定経路に沿ってスライドさせる方式によって入力したインタラクション情報を取得してもよく、具体的には、実際の必要によって設定することができ、本実施形態はタッチ方式に対して限定しない。
ステップ102において、当該インタラクション情報に対応する応答制御信号を特定し、当該応答制御信号は、触覚応答制御信号と視覚応答制御信号とを含む。
具体的に言えば、それぞれのインタラクション情報は、いずれも対応する応答制御信号があり、各種のインタラクション情報がいずれも対応する応答制御信号を有するようにするために、ランダムアルゴリズによって実行可能な応答制御信号をランダムに生成し、当該インタラクション情報と生成した応答制御信号との対応関係を記憶してもよい。インタラクション情報が再度受信されると、まず記憶した対応関係から検索を行い、検索できなかった場合に、対応する実行可能な応答制御信号をランダムに生成し、検索できた場合に、記憶した対応関係中の応答制御信号を取得する。たとえば、T1時点でインタラクション情報1が取得されたと想定する場合、端末中に当該インタラクション情報1の対応関係が記憶されていないと、対応する応答制御信号Aをランダムに生成し、インタラクション情報1と制御信号Aとの対応関係を記憶し、T2時点でインタラクション情報1が受信されると、記憶した対応関係に基づいて、対応する応答制御信号を応答制御信号Aとして特定すればよく、応答制御信号をランダムに生成する必要がない。その中、T1時点は、T2時点より早い。
ステップ103において、当該触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成し、その中、触覚応答レスポンスは、触覚を刺激するレスポンス動作をユーザに提供するために用いられ、視覚応答レスポンスは、視認可能なレスポンス動作をユーザに提供するために用いられる。
具体的に言えば、触覚応答制御信号は、対応する触覚刺激生成モジュールが触覚刺激を生成するように制御するために用いられ、視覚応答制御信号は、対応する視覚刺激生成モジュールが対応する視認可能なレスポンス動作を生成するように制御するために用いられる。その中、触覚応答レスポンスは、振動を含み、視覚応答レスポンスは、可視光の放射を含む。振動は、バイブレータによって発生させ、可視光は、光源によって生成させることができ、異なる触覚応答制御信号は、異なる振動強度に対応し、異なる視覚応答制御信号は、異なる光輝度に対応してもよい。たとえば、触覚応答制御信号1に対応して10HZの振動を発生し、触覚応答制御信号2に対応して100HZの振動を発生し、視覚応答制御信号1に対応して1カンデラ/平方メートルの光を発生し、視覚応答制御信号2に対応して2カンデラ/平方メートルの光を発生する。
当然ながら、触覚応答レスポンスは、微量の電流を皮膚に通してわずかな電気ショックを生じる触覚刺激、または、特定のモジュールの温度を向上させて熱を発生する触覚刺激などであってもよい。視覚応答レスポンスは、視認可能な画像の生成、または、投影の生成であってもよい。本実施形態は、触覚応答レスポンスと視覚応答レスポンスとに対して限定しなく、具体的には、実際の必要よって選択することができる。
触覚応答レスポンスと視覚応答レスポンスとは同時に実行されるべきであり、このようにして、二つの異なる感官刺激によって、インタラクション情報の応答レスポンスに対するユーザの識別度を向上させることを、説明する必要がある。
なお、当該可視光のレスポンス動作は少なくとも一つの光源によるレスポンスで実施されてもよい。たとえば、二つの光源、三つの光源などがあってもよい。光源の数が多いほど、視覚応答レスポンスの方式が多くなり、すなわち、異なる光源によって放射される光の組み合わせは、異なる発光効果を生み出す。
従来技術と比較すると、センサがタッチ方式によってインタラクション情報を取得するため、ユーザのインタラクション情報を取得する速度が速くなる同時に、端末がインタラクション情報にのみ基づいて対応する応答制御信号が特定し、インタラクション情報に対応する応答レスポンスを生成することができるため、ユーザが長時間レスポンスを得ることができなくてインタラクション情報を複数回繰り返して入力する場合が回避され、ユーザの使用の満足度が向上する。また、インタラクション情報に対応する応答レスポンスが触覚と視覚とを組み合わせたレスポンス動作であるため、ユーザが単純なレスポンスに気付かなくて応答レスポンスを無視してしまう場合が回避され、ユーザがインタラクション情報の応答レスポンスを直ちに発見可能であり、ユーザの使用体験が向上する。
本発明の第2の実施形態は、ヒューマンコンピュータインタラクション方法に関し、本実施形態は第1の実施形態をさらに改良したものであり、主な改良点は、本実施形態において、センサによって取得されたユーザのインタラクション情報を受信するステップの前に、インタラクション情報と応答制御信号との間の対応関係を予め記憶するステップを含むことにある。具体的な流れは、たとえば、図2に示される。
ステップ201において、インタラクション情報と応答制御信号との間の対応関係を予め記憶する。
具体的に言えば、エンジニアは、異なるインタラクション情報に対して対応する応答制御信号を設定し、当該設定した対応関係を記憶することができ、たとえば、押圧操作に対して対応する応答制御信号A、タッチ1Sの操作に対して対応する応答制御信号B、連続タップ3回の操作に対して対応する応答制御信号Cを設定し、以上の三つの対応関係を記憶することができる。当然ながら、記憶する対応関係は、可能な限り多くあるべきであり、それによって同一の応答制御信号が発生される確率を効果的に低減することができる。対応関係は、端末に直接記憶してもよいし、クラウドまたはサーバ側(端末は、クラウドと通信接続されるか、または、サーバ側と通信接続され、通信接続を介して記憶された対応関係を取得する)に記憶してもよいり、端末にも記憶されており、クラウド(または、サーバ側)にも記憶されてもよく、ここでは限定しなく、具体的には実際の必要よって選択することができることが、理解できる。
説明すべきことは、ステップ201において、最初にヒューマンコンピュータインタラクションを実行する際にのみ一回実行し、この後にヒューマンコンピュータインタラクション操作を実行する際には当該ステップ201を実行しないようにしてもよいし、毎回ユーザのインタラクション情報が受信される前に対応関係を記憶することによって、対応関係を更新してもよい。具体的には、実際の場合によって選択すればよく、本実施形態はこれに対して限定しない。
ステップ202において、センサによって取得されたユーザのインタラクション情報を受信し、当該センサは、タッチ方式によってインタラクション情報を取得するセンサを含む。
ステップ203において、当該インタラクション情報に対応する応答制御信号を特定し、当該応答制御信号は、触覚応答制御信号と視覚応答制御信号とを含む。
一つの具体的な実現において、インタラクション情報に対応する応答制御信号を対応関係から検索し、検索できた場合に、検索された応答制御信号を取得し、検索できなかった場合に、デフォルトの応答制御信号を採用する。
具体的に言えば、記憶されている全ての対応関係をトラバースする方式によって、ユーザのインタラクション情報に対応する応答制御信号を検索してもよい。全ての対応関係をトラバースした後、対応する応答制御信号が検索できなかった場合に、デフォルトの応答制御信号を採用し、検索できた場合に、検索された応答制御信号を取得する。たとえば、三つの対応関係があり、対応関係1は、インタラクション情報Aが応答制御信号Aに対応し、対応関係2は、インタラクション情報Bが応答制御信号Bに対応し、対応関係3は、インタラクション情報Cが応答制御信号Cに対応し、デフォルトの応答制御信号は、Dであると想定する場合、インタラクション情報Bが取得され、対応関係をトラバースして、対応関係2中にインタラクション情報Bに対応する応答制御信号が検索されると、対応された応答制御信号Bを取得し、インタラクション情報Eが取得され、三つの対応関係をトラバースして、いずれも対応される応答制御信号が検索されないと、デフォルトの応答制御信号Dを採用する。
当然ながら、デフォルトの応答制御信号は、事前に記憶するべきであり、同様に、デフォルトの応答制御信号は、端末に記憶されていてもよいし、クラウド(または、サーバ側)されていてもよいし、または、両者ともに記憶されていてもよい。
ステップ204において、当該触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成し、その中、触覚応答レスポンスは、触覚を刺激するレスポンス動作をユーザに提供するために用いられ、視覚応答レスポンスは、視認可能なレスポンス動作をユーザに提供するために用いられる。
説明すべきことは、本実施形態におけるステップ202およびステップ204がそれぞれ第1の実施形態におけるステップ101およびステップ103と大体同じであり、ここで繰り返して説明しない。
なお、端末におけるセンサは、温度センサ、光センサ、および、湿度センサの中の1つまたは複数の組み合わせをさらに含んでもよい。センサが種々なセンサを含む場合、各センサによって取得されたインタラクション情報に基づいて、対応する応答制御信号を共同で特定する必要がある。インタラクション情報に対応する応答制御情報を特定する過程は、ステップ203における方法と大体同じである。
センサが温度センサをさらに含むと、取得されたインタラクション情報は、タッチ方式で取得されたユーザのインタラクション情報と、温度センサによって取得された温度値と、を含む。同様に、インタラクション情報と応答制御信号との間の対応関係は、タッチによって取得されたインタラクション情報と、温度値と、応答制御信号との三者の間の対応関係である。温度値とタッチ方式で取得されたインタラクション情報によって、応答制御信号を共同で特定し、温度センサによって取得された温度値は、タッチ方式で取得されたインタラクション情報によって生成された触覚応答レスポンスの強度に比例する。たとえば、インタラクション情報Aとインタラクション情報Bとの中にタッチ方式で取得されたインタラクション情報が同一であるが、インタラクション情報A中の温度値がインタラクション情報B中の温度値よりも大きいと想定する場合、インタラクション情報Aによって特定された応答制御信号により生成された触覚応答レスポンスの強度は、インタラクション情報Bに対応する応答制御信号により生成された触覚応答レスポンスの強度よりも、大きい。
センサが光センサをさらに含むと、同様に、このときインタラクション情報は、タッチ方式で取得されたユーザのインタラクション情報と、光センサによって取得された光強度値と、を含む。光センサによって取得された光強度値は、タッチ方式で取得されたインタラクション情報によって生成された視覚応答レスポンスの強度に比例し、すなわち、二つのインタラクション情報中のタッチ方式で取得されたインタラクション情報が同一であるが、光強度値が異なると、光強度値が高い方に対応する応答制御信号により生成された視覚応答レスポンスの強度は、光強度値が低い方に対応する応答制御信号により生成された視覚応答レスポンスの強度よりも、大きい。たとえば、ユーザによって光強度が1カンデラ/平方メートルであるときに端末をタッチしたと想定すると、インタラクション情報に基づいてレスポンスする光強度は2カンデラ/平方メートルであり、ユーザによって光強度が2カンデラ/平方メートルであるとき端末をタッチすると、インタラクション情報に基づいてレスポンスする光強度は4カンデラ/平方メートルである。
センサが湿度センサをさらに含む場合、湿度センサによって取得された湿度値が所定値に達すると、視覚応答レスポンス中には湿度値を反映させるための視覚レスポンスがさらに含まれる。具体的に言えば、湿度センサによって端末の周囲環境の湿度が取得され、湿度値が高すぎるか、または、低すぎると、いずれも、端末のレスポンスに影響を及ぼす。したがって、特別の方式によって、ユーザに、周囲環境の湿度に対して注意を促すことができる。たとえば、湿度値の反映は、具体的な湿度値を投影することによって実現してもよいし、または、端末のスクリーン上に湿度値を直接表示してもよい。所定値は、端末に影響を与える湿度の閾値であってもよい。
本実施形態におけるヒューマンコンピュータインタラクション方法によると、インタラクション情報と応答制御信号との間の対応関係を予め記憶することによって、応答制御信号を特定する速度を速くして、インタラクション情報に対する端末の応答レスポンス速度を向上させることができる同時し、異なるセンサの組み合わせ方式によって、インタラクション情報に対する端末のレスポンス度を強化させて、周囲環境に基づいて?応用レスポンスを調整して、ユーザがインタラクション情報のレスポンスを快速に発見するようにすることができる。
本発明の第3の実施形態は、ヒューマンコンピュータインタラクション装置に関し、当該装置30は、受信装置301と、特定装置302と、応答レスポンス生成装置303と、を備える。当該装置の具体的な構成は、たとえば、図3に示される。
受信装置301は、センサによって取得されたユーザのインタラクション情報を受信し、前記センサはタッチ方式によってインタラクション情報を取得するセンサを含み、特定装置302は、インタラクション情報に対応する応答制御信号を特定し、前記応答制御信号は触覚応答制御信号と視覚応答制御信号とを含み、応答レスポンス生成装置303は、触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成する。その中、触覚応答レスポンスは、触覚を刺激するレスポンス動作をユーザに提供するために用いられ、視覚応答レスポンスは、視認可能なレスポンス動作をユーザに提供するために用いられる。
具体的に言えば、受信装置301は、センサに接続され、特定装置302は、受信装置に接続され、応答レスポンス生成装置303は、特定装置302に接続される。その中、受信装置301とセンサとは、有線接続の方式に接続されてもよいし、無線接続の方式によって接続されてもよいが、本実施形態はこれに対して限定しない。
本実施形態は、第1の実施形態に対応する装置の実施例であることが明らかであり、本実施形態は第1の実施形態と互いに協働して実施することができる。第1の実施形態で言及した関連技術の細部は、本実施形態においても依然として有効であり、繰り返しを減らすためにここでは再度説明されない。これに応じて、本実施形態で言及される関連技術の細部も、第1の実施形態において応用できる。
なお、本実施形態に関する各モジュールは、いずれも、論理モジュールであり、実際の応用において、一つの論理ユニットは一つの物理ユニットであってもよいし、一つの物理ユニットの一部であってもよいし、複数の物理ユニットの組み合わせによって実現されてもよい。なお、本実施形態においては、本発明の革新的な部分を強調するために、本発明で提出する技術問題の解決に密接に関連しないユニットを導入しないが、これは本実施形態において他のユニットが存在しないことを意味しない。
本発明の第4の実施形態は、端末に関し、当該端末40は、少なくとも一つのプロセッサ401と、少なくとも一つのプロセッサ401に通信接続されるメモリ402と、を備え、その中、メモリ402には、少なくとも一つのプロセッサ401によって実行され得る命令が記憶されており、命令が少なくとも一つのプロセッサ401によって実行されることによって、少なくとも一つのプロセッサ401が上記ヒューマンコンピュータインタラクション方法を実行することができるようにし、具体的な構成は、たとえば、図4に示される。
その中、メモリ402とプロセッサ401とは、バスの方式を採用して接続され、バスは、任意の数の相互接続されたバスとブリッジとを含み、1つまたは複数のプロセッサ401とメモリ402の様々な回路とを互いにリンクする。バスは、たとえば、周辺デバイス、電圧調整器、及び、電力管理回路などのような様々な他の回路も一緒にリンクすることができ、これらはすべて当技術分野で周知されるため、本明細書ではこれに対しさらに説明しない。バスインタフェースは、バスとトランシーバとの間でインタフェースを提供する。トランシーバは、一つの要素であってもよいし、複数の要素であってもよく、たとえば、複数の受信機と送信機であってもよく、伝送媒体上で様々な他の装置と通信するユニットを提供する。プロセッサ401を通じて処理されたデータは、アンテナを介して無線媒体上で伝送され、また、アンテナは、データを受信してデータをプロセッサ401に伝送する。
プロセッサ401は、バスおよび通常の処理を管理する役割を果たし、タイミング、周辺インタフェース、電圧調整、電力管理、および他の制御機能を含む様々な機能をさらに提供できる。メモリは、プロセッサが操作を実行するときに使用するデータを記憶する。
本発明の第5の実施形態は、コンピュータ可読記憶媒体に関し、当該コンピュータ可読記憶媒体には、コンピュータプログラムが記憶されており、当該コンピュータプログラムがプロセッサによって実行されるとき、第1または第2の実施形態において言及されたヒューマンコンピュータインタラクション方法を実施することができる。
当業者は、上記実施例の方法における全部または一部のステップの実現は、プログラムが関連するハードウェアを命令して完成することができ、当該プログラムは、一つの記憶媒体中に記憶され、一つのデバイス(ワンチップマイコン、チップなどであってもよい)、または、プロセッサ(processor)が本発明の各実施例に記載の方法の全部または一部のステップを実行するようにするためのいくつかの命令を含むことが理解できる。前述の記憶媒体は、Uディスク、モバイルハードディスク、読み取り専用メモリ(ROM、Read−Only Memory)、ランダムアクセスメモリ(RAM、Random Access Memory)、磁気ディスク、または、光ディスクなどの様々な、プログラムコードを記憶できる媒体を含む。
当業者であれば、上記各実施形態は、本発明を実現するための具体的な実施例であり、実際の応用において、本発明の精神および範囲から逸脱することなく、形態および細部上で様々な変更を加えることが可能であると理解できる。

Claims (10)

  1. 端末に用いられるヒューマンコンピュータインタラクション方法であって、
    タッチ方式でインタラクション情報を取得するセンサを含むセンサによって取得されたユーザのインタラクション情報を受信するステップと、
    前記インタラクション情報に対応する、触覚応答制御信号と視覚応答制御信号とを含む応答制御信号を特定するステップと、
    前記触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、前記視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成するステップと、を含み、
    前記触覚応答レスポンスは、触覚を刺激するレスポンス動作を前記ユーザに提供するために用いられ、前記視覚応答レスポンスは、視認可能なレスポンス動作を前記ユーザに提供するために用いられる
    ことを特徴とするヒューマンコンピュータインタラクション方法。
  2. 前記触覚応答レスポンスは、振動を含み、前記視覚応答レスポンスは、可視光の放射を含む
    ことを特徴とする請求項1に記載のヒューマンコンピュータインタラクション方法。
  3. センサによって取得されたユーザのインタラクション情報を受信するステップの前に、
    前記インタラクション情報と前記応答制御信号との間の対応関係を予め記憶するステップをさらに含む
    ことを特徴とする請求項1または2に記載のヒューマンコンピュータインタラクション方法。
  4. 前記インタラクション情報に対応する応答制御信号を特定するステップは、具体的に、
    前記インタラクション情報に対応する応答制御信号を前記対応関係から検索し、検索できた場合に、検索された前記応答制御信号を取得し、検索できなかった場合に、デフォルトの応答制御信号を採用することを含む
    ことを特徴とする請求項3に記載のヒューマンコンピュータインタラクション方法。
  5. 前記可視光の放射は、少なくとも一つの光源によるレスポンスで実施される
    ことを特徴とする請求項2に記載のヒューマンコンピュータインタラクション方法。
  6. 前記タッチ方式は、押圧、タッチ、または、タップを含む
    ことを特徴とする請求項1または2に記載のヒューマンコンピュータインタラクション方法。
  7. 前記センサは、温度センサと光センサと湿度センサとの1つまたは複数の組み合わせをさらに含み、
    前記センサが温度センサを含む場合に、前記温度センサによって取得された温度値は、タッチ方式で取得されたインタラクション情報によって生成された触覚応答レスポンスの強度に比例し、
    前記センサが光センサを含む場合に、前記光センサによって取得された光強度値は、タッチ方式で取得されたインタラクション情報によって生成された視覚応答レスポンスの強度に比例し、
    前記センサが湿度センサをさらに含む場合に、前記湿度センサによって取得された湿度値が所定値に達すると、前記視覚応答レスポンスには、湿度値を反映させるための視覚レスポンスがさらに含まれる
    ことを特徴とする請求項4または5に記載のヒューマンコンピュータインタラクション方法。
  8. ヒューマンコンピュータインタラクション装置であって、
    受信装置と、特定装置と、応答レスポンス生成装置とを備え、
    前記受信装置は、センサによって取得されたユーザのインタラクション情報を受信し、前記センサは、タッチ方式によってインタラクション情報を取得するセンサを含み、
    前記特定装置は、前記インタラクション情報に対応する応答制御信号を特定し、前記応答制御信号は、触覚応答制御信号と視覚応答制御信号とを含み、
    前記応答レスポンス生成装置は、前記触覚応答制御信号に基づいて対応する触覚応答レスポンスを生成し、前記視覚応答制御信号に基づいて対応する視覚応答レスポンスを生成し、
    前記触覚応答レスポンスは、触覚を刺激するレスポンス動作を前記ユーザに提供するために用いられ、前記視覚応答レスポンスは、視認可能なレスポンス動作を前記ユーザに提供するために用いられる
    ことを特徴とするヒューマンコンピュータインタラクション装置。
  9. 少なくとも一つのプロセッサと、
    前記少なくとも一つのプロセッサに通信接続されるメモリと、を備え、
    前記メモリには、前記少なくとも一つのプロセッサで実行可能な命令が記憶され、前記命令が前記少なくとも一つのプロセッサで実行されることにより、前記少なくとも一つのプロセッサが請求項1乃至7のいずれか1項に記載のヒューマンコンピュータインタラクション方法を実施可能である
    ことを特徴とする端末。
  10. コンピュータプログラムが記憶されるコンピュータ可読記憶媒体であって、
    前記コンピュータプログラムがプロセッサによって実行されるとき、請求項1乃至7のいずれか1項に記載のヒューマンコンピュータインタラクション方法が実施される
    ことを特徴とするコンピュータ可読記憶媒体。
JP2019128999A 2018-08-08 2019-07-11 ヒューマンコンピュータインタラクション方法、装置、端末とコンピュータ可読記憶媒体 Active JP6856712B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201810895923.6A CN109240585A (zh) 2018-08-08 2018-08-08 一种人机交互的方法、装置、终端和计算机可读存储介质
CN201810895923.6 2018-08-08

Publications (2)

Publication Number Publication Date
JP2020024684A true JP2020024684A (ja) 2020-02-13
JP6856712B2 JP6856712B2 (ja) 2021-04-07

Family

ID=65071323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019128999A Active JP6856712B2 (ja) 2018-08-08 2019-07-11 ヒューマンコンピュータインタラクション方法、装置、端末とコンピュータ可読記憶媒体

Country Status (3)

Country Link
US (1) US20200050275A1 (ja)
JP (1) JP6856712B2 (ja)
CN (1) CN109240585A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112882567A (zh) * 2021-01-26 2021-06-01 华为技术有限公司 人机交互方法、人机交互装置及存储介质

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110853634B (zh) * 2019-09-30 2023-03-10 珠海格力节能环保制冷技术研究中心有限公司 一种多模态语音交互反馈应答控制方法、计算机可读存储介质及空调
CN112445410B (zh) * 2020-12-07 2023-04-18 北京小米移动软件有限公司 触控事件识别方法、装置及计算机可读存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015531932A (ja) * 2012-08-20 2015-11-05 サムスン エレクトロニクス カンパニー リミテッド マルチモードフィードバックでイメージを認識するシステム及び方法
US20170358181A1 (en) * 2016-06-12 2017-12-14 Apple Inc. Devices, methods, and graphical user interfaces for providing haptic feedback

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090102805A1 (en) * 2007-10-18 2009-04-23 Microsoft Corporation Three-dimensional object simulation using audio, visual, and tactile feedback
CN103869933B (zh) * 2012-12-11 2017-06-27 联想(北京)有限公司 信息处理的方法和终端设备
US9524030B2 (en) * 2013-04-26 2016-12-20 Immersion Corporation Haptic feedback for interactions with foldable-bendable displays
US10055062B2 (en) * 2016-03-29 2018-08-21 Microsoft Technology Licensing, Llc Pressure sensing display
CN107329576A (zh) * 2017-07-07 2017-11-07 瑞声科技(新加坡)有限公司 触觉反馈系统以及触觉反馈的调整方法
KR102477161B1 (ko) * 2017-11-14 2022-12-14 삼성전자주식회사 어플리케이션을 구동하는 전자 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015531932A (ja) * 2012-08-20 2015-11-05 サムスン エレクトロニクス カンパニー リミテッド マルチモードフィードバックでイメージを認識するシステム及び方法
US20170358181A1 (en) * 2016-06-12 2017-12-14 Apple Inc. Devices, methods, and graphical user interfaces for providing haptic feedback

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112882567A (zh) * 2021-01-26 2021-06-01 华为技术有限公司 人机交互方法、人机交互装置及存储介质
CN112882567B (zh) * 2021-01-26 2022-11-04 华为技术有限公司 人机交互方法、人机交互装置及存储介质

Also Published As

Publication number Publication date
JP6856712B2 (ja) 2021-04-07
CN109240585A (zh) 2019-01-18
US20200050275A1 (en) 2020-02-13

Similar Documents

Publication Publication Date Title
US11429439B2 (en) Task scheduling based on performance control conditions for multiple processing units
JP6856712B2 (ja) ヒューマンコンピュータインタラクション方法、装置、端末とコンピュータ可読記憶媒体
EP2891966A1 (en) Electronic glasses and method for correcting color blindness
KR102237373B1 (ko) 전자 장치의 태스크 스케줄링 방법 및 이를 사용하는 전자 장치
US9760331B2 (en) Sharing a screen between electronic devices
US20150288629A1 (en) Electronic device and method of providing information by electronic device
CN105589336A (zh) 多处理器设备
KR102265244B1 (ko) 디스플레이를 제어하는 전자 장치 및 방법
US10402222B2 (en) Task migration method and apparatus
US10146197B2 (en) Method for creating prototype and apparatus therefor
KR20160062414A (ko) 전자장치 및 전자장치의 객체 제어 방법
CN114740981B (zh) 信息处理方法、装置、可读介质、电子设备及程序产品
US20180004696A1 (en) Method for determing role of electronic device and electronic device thereof
CN106462270B (zh) 用于电子设备的输入设备、方法和系统
US11663694B2 (en) Zoom-adaptive data granularity to achieve a flexible high-performance interface for a geospatial mapping system
US10402159B1 (en) Audible user interface system
CN116382462B (zh) 振动方法和振动装置
KR20170031561A (ko) 전자 장치의 무선 전력 송출 방법 및 이를 사용하는 전자 장치
KR20180099041A (ko) 객체(object)의 근접을 감지하는 방법 및 이를 사용하는 전자 장치
CN110413183B (zh) 一种呈现页面的方法与设备
CN107077778B (zh) 用于远程控制的方法和装置
CN112306606A (zh) 一种用于呈现控件样式的方法与设备
KR102216656B1 (ko) 이미지 처리 방법 및 그 전자 장치
KR102249745B1 (ko) 전자 장치 및 이의 제어 방법
KR102188685B1 (ko) 애플리케이션 패키지를 생성하는 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190711

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210318

R150 Certificate of patent or registration of utility model

Ref document number: 6856712

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250